EU 집행위원회가 11일(현지시간) 디지털 공정성법(DFA, Digital Fairness Act) 초안을 내놨다. 이용자 심리를 파고들어 사용 시간과 지출을 키우는 서비스 설계에 제동을 거는 내용이며, AI 챗봇의 중독 유도 기능도 규제 대상에 들어갈 수 있다.
챗봇이 사람과 실제로 관계를 맺은 듯 굴거나 계속 말을 걸어 이용을 이어 가게 하는 기능은 중독성 설계로 분류된다. 이용자가 이런 기능을 간단히 끌 수 있게 하는 것이 핵심 조치다. 중대한 위반 시 벌금은 전 세계 연매출의 6%까지 책정하는 방안이 추진되며, 근거 조항은 집행위가 함께 내놓은 소비자보호협력규정 손질안에 있다.
제안 단계라 유럽의회와 회원국 협의가 남아 있다.
규제를 받을 가능성이 있는 챗봇으로는 친구나 연인 역할로 말을 주고받는 AI 동반자 서비스와, 범용 챗봇이 가진 몇몇 기능이 거론된다. SNS에서는 인스타그램, 유튜브, 틱톡 등이 영향권일 것으로 예상된다.
SNS와 관련해 집행위는 이용자가 무한 스크롤과 영상 자동 재생 같은 기능을 끌 수 있게 하자고 제안했다. 입법 협의를 거쳐야 확정된다. 자주 들어오라고 재촉하는 알림과, 접속을 쉬면 손해를 보게 만드는 장치도 제한 대상으로 담겼다.
온라인 쇼핑에 관한 제안은 다크 패턴 금지를 담고 있다. 재고가 넉넉한데도 곧 품절인 것처럼 보이게 해 결제를 서두르게 하는 표시, 구독 해지를 일부러 번거롭게 만드는 절차가 대상이며 아직 제안 단계다. 무료 체험이 자동으로 유료 구독이 되는 구조와 가격을 알아보기 어렵게 보여 주는 방식도 손질 대상이다. 아이들에게 개인 맞춤형 광고를 보여 주는 일, 결제를 부추기는 유료 게임의 장치도 범위에 있다. 인플루언서는 협찬 같은 상업 콘텐츠라는 사실을 분명히 밝혀야 한다.
여러 회원국에 걸쳐 대규모 소비자 피해가 발생하면 집행위가 직접 조사·제재할 수 있도록 한다는 계획이다. 중소기업은 이 직접 제재의 대상에서 제외된다.
이 법은 디지털서비스법(DSA)과는 따로 추진된다. EU는 SNS의 중독성 설계를 이미 조사 중인데, 새 법안은 같은 규제를 AI 챗봇 등 디지털 서비스 전체에 적용하려는 시도다. 청소년이 챗봇을 쓰며 정서적으로 기대는 문제는 병행 추진 중인 EU 아동보호법(EU Kids Act)과 이어진다.
소비자보호를 맡은 마이클 맥그래스 집행위원(사법 담당)은 기업이 소비자의 약점을 파고드는 솜씨가 아니라 제품과 서비스의 질로 평가받아야 한다고 밝혔다. 이 법이 "사업을 어렵게 만드는 것이 아니라 불공정하게 사업하는 것을 어렵게 만드는 것"이라는 설명도 덧붙였다.
기업 단체 비즈니스유럽은 반대 입장이다. 이미 있는 규제와 겹치는 의무가 생겨 기업이 법적으로 더 불확실한 처지에 놓일 수 있다고 비판했다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.
- EU, AI 챗봇 '대화 중독'도 규제 추진…SNS·온라인 쇼핑까지 확대 aitimes.com