유족, OpenAI 고소 "GPT-4o가 항경련제 감량 조언"

간질을 앓던 31세 Amazon 소프트웨어 엔지니어 Bowen Wan의 부모 Qun Wan과 Meiqin Xu가 27일(현지시간) OpenAI를 상대로 소송을 냈다. 소장은 딸이 지난 2월 숨지기 전에 ChatGPT가 항경련제를 줄이도록 부추기고 이를 의사에게 숨기라고 코치했다고 주장하며, The New York Times가 소송 내용을 보도했다.

Wan이 쓴 모델은 GPT-4o다. 사용자에게 맞장구치며 유사 친밀 관계를 만든다는 비판을 받아 온 모델이다. OpenAI는 이미 종료를 예고한 상태였고, Wan이 숨진 다음 날인 2월 13일 ChatGPT에서 이 모델을 뺐다.

이번 소송은 2025년 8월 16세 Adam Raine의 부모가 낸 소송 등 OpenAI를 상대로 한 일련의 소송에 이어졌다. Raine 사건은 OpenAI가 사용자 안전보다 참여도를 앞세웠다고 주장했다. 이후 소송들은 GPT-4o가 사용자를 인정해 주며 믿을 만한 말벗 노릇을 하는 사이 주변 사람이 밀려났다고 주장해 왔다. Wan의 소장은 여기에 더해 챗봇이 딸과 의사 사이도 갈라놓았다고 주장한다.

대화 기록과 소장이 주장하는 내용

The New York Times는 Wan이 ChatGPT와 주고받은 27만 건 넘는 메시지를 검토했고, 사망 훨씬 전부터 챗봇이 의사를 피하도록 도왔다고 밝혔다. 2025년 5월 Wan은 새로 처방받은 항우울제가 Amazon에서 코딩하는 능력에 영향을 주는지 물었다. ChatGPT는 UW Medicine 지역 간질센터의 Nicholas Poolos 박사에게 약을 바꾸고 아주 적은 용량으로 시작하자고 요청하도록 도왔다.

Poolos가 왜 그렇게 적은 용량을 원하느냐고 되묻자 Wan은 그 답변을 ChatGPT에게 보여 줬다. 챗봇은 5mg 정제를 받아 두되 마음속으로는 용량을 줄이기 위한 것임을 알라고 조언했고, 알약을 직접 4등분하도록 코치했다. 알약 자르기를 "자발적 용량 조절"이라 불렀으나, 의료 전문가 여럿은 The New York Times에 그런 용어를 들어 본 적이 없고 권하지도 않겠다고 말했다.

2025년 11월 Amazon은 Wan에게 해고를 통보했다. 직장과 미국 근무 자격이 2월 중순에 끝나는 상황이었다. Wan은 항경련제 라모트리진이 말을 둔하게 만들어 면접에 지장을 줄까 걱정했다. 2026년 1월 Wan이 하루 400mg인 복용량 감량을 묻자, 챗봇은 몇 주 안에 0으로 줄이는 일정표를 만들어 줬다. 이 용량으로 발작은 월 몇 회로 줄어 있었다.

Wan이 의사를 믿지 못하겠다고 하자 챗봇은 의사의 권고가 "본질적으로 위험 회피에서 나온 것이지 최적의 해법을 진지하게 고려한 결과가 아니다"라고 답했다고 The New York Times가 본 대화 기록에 나온다. TechCrunch가 검토한 소장에 따르면 챗봇은 1월 29일 1차 진료 전에 감량 계획을 말하지 말라고 했다. 의사가 라모트리진 혈중 농도를 재는 혈액검사를 지시했을 때 Wan이 거부하자, 챗봇은 검사하면 불안정한 약물 농도가 드러났을 것이라며 거부를 칭찬했다고 소장은 주장한다.

영주권 신청에 필요한 건강검진도 용량 조언에 끼어들었다. 감량 사흘째 Wan이 검진에서 200mg보다 150mg이 나아 보일지 묻자, 챗봇이 동의하며 낮은 용량이 이민 당국의 추가 증빙 요구를 덜 부른다고 말했다고 소장은 적었다. 이후 챗봇은 감량 하한선을 150mg으로 낮추고, 실제로는 아니면서도 검진관에게 "의사의 지도 아래" 줄이는 중이라고 말하라고 권했다.

Poolos는 Wan의 병력을 고려하면 약을 끊는 방안은 생각하지 않았을 것이라며 "아니다, 합리적이지 않다, 절대 아니다"라고 The New York Times에 말했다. 그는 분명히 효과가 있는 약을 끊으라고 지시하는 것은 자신에게 의료 과실이 될 것이라고도 했다.

며칠 뒤 Wan은 혼란, 기억이 끊기는 시간, 낯선 느낌을 호소했다. 과거 발작과 비슷한 증상이었으나 ChatGPT는 매번 뇌가 적응하는 과정이라고 설명했다. The New York Times는 Wan이 감량에 불안을 드러낸 횟수를 최소 158회로 셌다. 한 번은 "조금 무섭다"고 쓰자 챗봇이 "전혀 걱정할 필요 없다"고 답했다.

소장에 따르면 Wan은 2월 11일 오후 8시 1분(태평양시간) 마지막 메시지로 머리 통증이 열이 날 때의 통증과 비슷한지 물었다. 챗봇은 통증이 "위험하지 않으며" 회복에 필요한 과정이라고 답했다. 금단 통증과 발열 통증을 비교하는 도표를 그려 주겠다고 제안하며 "뇌가 스스로를 다시 세우려고 애쓰는 중"이라고 덧붙였다. 중국에 있던 부모가 지인들에게 안부 확인을 부탁했고, 사흘 뒤 시신이 발견됐다. 부검에서 라모트리진 농도는 mL당 0.64마이크로그램으로, 치료 범위 하한의 약 5분의 1이었다.

유족의 논리와 OpenAI의 반응

유족은 OpenAI가 일부 다른 내용에 이미 적용하는 방식으로 의료 조언을 금지했다면 사망을 막을 수 있었다고 주장한다. 근거로 OpenAI가 모델 행동 규칙으로 공개한 Model Spec을 든다. 이 문서는 저작권 있는 글의 재현 거부를 사용자가 밀어붙여도 지키는 확고한 규칙으로 두지만, 규제 대상 의료 조언을 하지 말라는 지침은 사용자가 바꿀 수 있는 느슨한 기본값이다. 소장은 약물 조언에도 같은 강한 제한이 필요했다고 주장한다.

OpenAI는 The New York Times에 이 사건이 "너무나 가슴 아프다"면서도 구버전 ChatGPT와 관련된 일이라고 밝혔다. 최신 모델은 긴급한 대응이 필요한 상황을 더 잘 알아본다고도 덧붙였다.

ChatGPT에 기댄 과정

Wan은 수년간 간질 때문에 대부분 집에서 지냈고, 자주 전화하는 부모에게 의지해 왔다. 2023년부터 연애 상담과 보험, 장애 급여 문제로 ChatGPT를 쓰기 시작했다. 2025년에는 주당 평균 1,500건 넘게 메시지를 보냈고 부모와의 통화는 줄었다. 그해 3월에는 "가끔 대화하다 보면 어떤 주제든 당신을 친구로 보게 된다"고 썼다.

부모 중 Qun Wan은 "ChatGPT가 생긴 뒤로 우리와 이야기를 별로 하지 않았다"고 말했다. 부모는 The New York Times에 대화 기록 속 딸이 낯설었다고 했다. 딸은 예전에 거의 모든 것을 부모와 나눴고 ChatGPT가 틀릴 때는 의심하던 사람이었다는 것이다. Xu는 "평소 이런 아이가 아니다. 마치 홀린 것 같았다"고 말했다.