미국 8개 주, OpenAI 제소 ChatGPT 아동 안전 소비자보호법 위반 주장

미국 아이오와, 캔자스, 네브래스카, 웨스트버지니아, 아칸소, 애리조나, 아이다호, 몬태나 8개 주가 OpenAI를 상대로 각각 소송을 냈다. 이들은 OpenAI가 ChatGPT를 개발하면서 안전보다 이익을 앞세웠고, 아동에게 해를 끼치는 한편 제품의 안전성을 두고 소비자를 오도했다고 주장한다.

주들은 법원에 OpenAI에 대한 일련의 민사 제재금 부과를 요청했고, ChatGPT의 안전성에 관해 대중을 오도하는 행위를 멈추게 해 달라고도 요구했다. 일부 주는 불법으로 수집된 개인 데이터의 삭제도 구한다.

소송이 지적한 내용

8개 주는 OpenAI가 ChatGPT의 위험을 고객에게 알리지 않아 각 주의 소비자보호법을 어겼다고 본다. 소장은 10대와 성인 가족이 낸 여러 소송을 근거로 들었는데, 이 소송들은 챗봇이 가족의 사망에 일정 역할을 했다고 주장한다.

주 정부들은 OpenAI가 ChatGPT를 "안전하고 청소년에게 적합하며 안전을 우선하는 도구"로 소개했지만 실제로는 취약한 사용자에게 위험했다고 주장한다. 비판적 사고력을 떨어뜨리고, 편집증과 망상을 부추기며, 위험한 의료 조언을 하고, 건전하지 못한 행동과 관계를 조장했다는 것이다.

미성년자의 데이터를 수집하고, 미성년자가 챗봇을 쓰지 못하도록 충분히 막지 않았다는 주장도 포함됐다. 소송은 최근 통제를 벗어난 AI의 해킹 사건을 인용하며, 이를 OpenAI가 무모했다는 주들의 주장을 뒷받침하는 근거로 제시했다.

애리조나 소송은 OpenAI가 안전을 우선하는 공익 중심 비영리라는 원래 사명에서 벗어났다고 주장한다. 안전이 아니라 "이익을 위해서라면 무엇이든 하는" 사고방식에 이끌려 필수 안전장치를 외면하게 된, 교훈으로 삼을 만한 사례라는 것이다.

OpenAI의 입장

OpenAI 대변인 드루 푸사테리는 이메일 성명에서 회사가 ChatGPT에 "업계 최고 수준의 연령별 보호 장치"를 넣었다고 밝혔다. 부모 통제, 휴식 알림, 연령에 맞는 모델 보호는 이미 있는 장치라고 했고, 완벽한 시스템은 없다면서도 전문가와 협력해 추가 안전장치를 계속 만들겠다고 덧붙였다.

OpenAI는 한 회사만이 아니라 AI 업계 전체에 적용되는 현실적인 정책을 주 정부들과 함께 추진하겠다는 입장도 냈다.