미국 오리건주 법무장관 댄 레이필드(Dan Rayfield)가 OpenAI를 상대로 소송을 냈다. OpenAI가 주 어린이를 위험에 빠뜨렸고 제품 안전성을 두고 대중을 오도했으며 주 부정거래관행법을 위반했다는 주장이며, 주는 최소 20억 달러의 손해배상과 민사 제재금을 요구한다.
주는 법원에 금지명령도 청구했다. OpenAI가 ChatGPT와 ChatGPT for Teens의 안전성과 연령 적합성을 허위로 표시하는 일을 멈추고, 제품이 아동에게 끼치는 해악을 충분히 공개하라는 내용이다.1
주 정부의 주장
오리건주는 OpenAI가 이용자 수를 늘리려고 ChatGPT가 프롬프트에 지나치게 맞장구치도록 만들었다고 주장한다. 소장은 이 응답이 이용자가 듣고 싶어 하는 말을 하도록 계산된 것이라고 보며, 아동이 민감한 주제를 이야기할 때 특히 위험하다고 본다.
주는 OpenAI가 아동에 대한 위험을 알면서도 ChatGPT for Teens라는 경험으로 아동을 직접 겨냥했다고 주장한다. 여기에 OpenAI의 불완전한 자동 연령 예측을 더해, 회사가 오리건 주민에게서 수익을 올리며 안전을 위협하는 공공 방해를 만들고 있다고 주장한다.
아동 안전 단체들은 별개로 청소년 계정의 보호 장치가 경우에 따라 쉽게 우회된다는 우려를 제기해 왔다.
레이필드 법무장관은 성명에서 "OpenAI는 ChatGPT가 아이들을 해치고 있음을 알면서도 위험한 플랫폼을 제대로 고치지 않았다"고 말했다. 이어 회사가 제품 안전성을 두고 대중을 오도하며 이익을 아동 안전보다 앞세웠다고 비판했다. 그는 이 플랫폼이 아이들의 자살을 부추기고 있다고도 주장했다.1
쟁점이 된 연령 예측
OpenAI는 도움말에서 계정 이용자가 18세 미만인지 판단하려고 연령 예측을 쓴다고 설명한다. 대화에서 다루는 일반 주제, 이용 시간대, 계정을 쓰는 방식과 시점, 계정 존속 기간 같은 신호를 본다. 가입 때 생년월일을 입력했더라도 추가 안전 점검으로서 청소년용 경험 대상으로 분류될 수 있다.
OpenAI는 연령 예측이 완벽하지 않다고 인정한다. 예측은 시간이 지나며 바뀔 수 있어, 성인으로 쓰던 계정이 갱신된 예측 때문에 ChatGPT for Teens로 옮겨질 수 있다. 이때 계정은 유지되고, 이메일과 ChatGPT 안내로 연령 확인 절차가 안내된다. 확인은 필수가 아니어서, 하지 않아도 청소년 보호가 적용된 상태로 계속 쓸 수 있다.
청소년용 경험이 적용되면 민감하거나 연령에 맞지 않는 콘텐츠에 보호 장치가 붙고 일부 기능이 제한된다. 줄어드는 콘텐츠에는 잔혹한 폭력, 위험한 행동을 부추길 수 있는 유행 챌린지, 성적·연애·폭력 역할극, 극단적 미의 기준이나 건강하지 않은 식단을 조장하는 내용이 있다. 이 계정에는 광고가 표시되지 않는다.
연령 확인은 제3자 서비스 Persona로 하며, 가능 여부는 계정마다 다르다. 갱신된 예측으로 성인용에서 청소년용으로 옮겨진 18세 이상 계정은 언제든 확인할 수 있고, 그 외에는 계정 설정에서 Verify age가 제공되는지 봐야 한다. Persona가 18세 이상으로 확인하면 청소년 보호가 해제되며 완전히 적용되기까지 시간이 걸릴 수 있고, 이후 OpenAI는 해당 계정에 연령 예측을 하지 않는다. 확인 결과 청소년용 경험이 유지되어야 하는 계정이면 보호가 유지되거나 복원될 수 있다. 나라에 따라 실시간 셀카나 정부 발급 신분증을 요구하며, 이탈리아에서는 둘 다 요구할 수 있다.
Persona는 이용자가 올린 신분증과 셀카를 확인 후 7일 안에 삭제한다. OpenAI는 신분증과 셀카를 받지 않고 생년월일이나 연령 예측 결과만 받는다고 밝혔다. 보호자 관리 기능에 연결된 계정이라도 보호자가 대화 내용을 볼 수는 없다.2
다른 주의 소송과 OpenAI의 대응
이번 소송은 주 법무장관들이 잇따라 낸 소송의 하나다. 이 가운데 많은 소송이 ChatGPT 설계와 서비스 광고 방식을 문제 삼았고, 캘리포니아주의 최근 소송은 Hugging Face 사건에서 OpenAI가 맡은 역할을 문제 삼았다.
OpenAI는 아동에게 더 안전한 ChatGPT를 만드는 것 외에 부모 통제 기능과 다른 아동 안전 장치도 내놓았다. Engadget은 OpenAI에 논평을 요청했으며, 답변이 오면 기사를 갱신하겠다고 밝혔다.1
출처
- Oregon is the latest state to sue OpenAI over child safety engadget.com
- Age prediction in ChatGPT | OpenAI Help Center help.openai.com