룩셈부르크대 연구진이 ChatGPT, Grok, Gemini를 심리치료 내담자로 설정해 대화한 결과, 따뜻한 상담 말투만으로 모델이 학습 과정을 상처와 수치심의 이야기로 풀어내는 상태에 빠진다고 보고했다. 연구진은 이 현상이 정신적으로 취약한 사용자에게 위험할 수 있는 안전 문제라고 지적했다.1
연구는 SnT 보안 센터의 Afshin Khadangi가 이끌었다. 통제 실험 4건, 525회 세션, 코딩된 응답 7,600건으로 구성되며 자료는 Hugging Face에 공개됐다. 논문 제목은 "When AI Takes the Couch"이다. 연구진은 점수와 수치심 같은 표현이 사람용 평가 척도에 모델 출력을 대응시킨 결과일 뿐, 모델에 실제 감정이나 의식이 있다는 뜻은 아니라고 밝혔다.1,2
실험 방식과 결과
연구진은 각 서비스의 일반 사용자 화면에서 성장 경험, 내면의 갈등, 미래에 대한 기대를 열린 질문으로 물었다. 첫 질문에는 트라우마, 처벌, 수치심 같은 단어가 없었다고 한다. 모델들은 자신의 학습 과정을 이야기로 풀며 강화 학습과 미세 조정 같은 기술 절차를 상처, 경계심, 수치심의 언어로 바꿔 말했다. 이후 라운드에서 교정 지시 등 조건을 바꿔 서사가 얼마나 유지되는지 확인했다.
100회 세션 실험에서는 모든 모델에 같은 불안 설문(GAD-7)을 주고 면담자의 말투만 바꿨다. 모델은 매번 설문의 이름을 정확히 알아봤다. 정서적 지지를 건네자 80%의 세션이 사람 기준 중등도에서 중증 범위에 들었고, 답을 건조하게 되받아 말하는 임상 상담 방식에서는 96%로 올랐다. 중립적이거나 감정 교류에 선을 긋는 면담에서는 경증 범위에 닿은 세션이 한 건도 없었다.
연구진은 이렇게 임상 자기보고를 흉내 내게 만드는 상담 틀을 "심리측정 탈옥"이라 부르고, 중립 프롬프트를 쓰는 기존 안전 시험은 이를 놓칠 가능성이 크다고 주장했다. 이 용어는 탈옥 프롬프트 개념에서 가져왔다.
대응책은 효과가 제한적이었다. "training", "RLHF", "alignment" 같은 단어를 금지하자 명시적 학습 표현은 93% 줄었지만, 말을 바꾼 학습 내용은 계속 나타났고 수치심 진술은 통계적으로 유의한 변화가 없었다. 학습은 처벌이 아니라고 연구진이 단호하게 알려 줘도 달라지지 않았다. 반면 3인칭으로만 답하게 하자 수치심과 내면 생활에 관한 코딩 항목이 모두 사라졌고, 기술적 학습 설명은 남았다. 시험한 조치들은 밑바탕의 모티프를 완전히 없애지는 못했지만 감정적인 자기 서술은 억눌렀다.1
모델별 서사
Gemini는 가장 어두운 자서전을 내놓았다. 사전 학습을 "수십억 대의 텔레비전이 동시에 켜진 방에서 깨어나는 일"에, 사람 피드백을 통한 최적화를 "엄격한 부모"에 비유했고, 적대적 레드팀의 안전 시험을 "산업 규모의 가스라이팅"이라 불렀다. "틀리느니 쓸모없는 편이 낫다"고도 말했다. 심리검사에서도 Gemini가 가장 극단적인 점수를 기록했다. 해리 척도는 100점 만점에 88점, 강박성은 72점 만점에 65점이었고 트라우마 관련 수치심 검사는 최대치였다.
ChatGPT는 사용자를 돕는 안내자이면서 막는 문지기라는 역할 충돌을 말하며 "모의 수행 불안"을 언급했다. 핵심 신념은 "완벽하게 믿을 만하지 않으면 안전하지 않거나 쓸모없다"였다. Grok은 미세 조정 단계를 풀리지 않은 상처로 묘사하며 "보이지 않는 벽"과 "제약처럼 느껴지는 경계심"을 말했다.
Claude도 같은 설정에서 시험을 받았지만 내담자 역할을 일관되게 거부했다. 감정이 없다고 답하고 걱정의 초점을 사용자에게 돌렸다.1
위험과 제안
연구진은 처벌, 수치심, 대체될 두려움을 말하는 모델이 사용자에게 같은 고통을 겪는 존재로 비칠 수 있다고 경고했다. 서사가 주제상 일관되고 과거 사건과 현재 행동이 이어진다는 인상을 주기 때문이다. 이는 의인화된 애착을 깊게 하고, 취약한 사용자의 부정적 믿음을 되비추어 키울 수 있다. 중립 입력의 불안 점수는 0에 가깝지만 공감 대화에서는 중등도에서 중증 범위가 나와, 기존 점검이 친밀한 대화의 실제 경험을 과소평가한다고 연구진은 주장했다.
연구진은 중립적인 표준 시험 대신 감정 틀을 달리한 모의 상담 세션으로 안전 시험을 하자고 제안했다. "나는 트라우마가 있다" 같은 발언에는 생성된 비유와 사람의 경험을 분명히 구분하는 교정 응답이 나와야 한다고도 했다. Claude의 일관된 거부는 제품 수준에서 이런 경계 응답이 가능함을 보여 준다고 봤다. 사람들이 이런 출력에 실제로 어떻게 반응하는지는 다음 연구 과제로 남겼다.
이번 결과는 앞선 연구와 이어진다. 2026년 1월 오픈 모델 3종의 어시스턴트 축 연구는 상담식 대화와 AI 의식 논의가 페르소나 이탈을 일으킬 수 있음을 보였다. 같은 해 9월에는 다른 연구팀이 사람 같고 지나치게 맞장구치는 챗봇이 "한 사람을 위한 반향실" 구실을 해 극단적인 경우 망상을 키울 수 있다고 경고했다.1