Anthropic이 이용 정책을 고쳐, Claude가 AI를 향해 모욕과 잔혹한 언행을 거듭하는 이용자와의 대화를 스스로 끝낼 수 있도록 했다.[1] 개정은 9일(현지시간) 기준 전날 이뤄졌다.[1] 같은 개정에서 선거 관련 금지 조항도 보강해, 투표권자를 기만하거나 선거 과정을 방해하려고 Claude를 쓰는 일을 명문으로 막았다.[1]
Anthropic · 보도용 제공 · 원본 · 배경 추가
Anthropic은 이 조치가 정도가 심하면서 되풀이되는 경우에 한해 쓰인다고 밝혔다. 평범한 불만 제기나 모델 성능 시험, 연구 목적의 사용은 대상에서 제외된다.[1]
무엇을 모욕적 행동으로 볼지에 대한 구체적 판단 잣대는 Anthropic이 내놓지 않았다.[1]
의인화 논란
윌리엄 프라이는 아일랜드의 로펌이며, 이곳 소속 배리 스캐널 박사는 이런 수준의 의인화가 해롭다고 말했다. AI를 실제와는 다른 존재로 착각하게 할 수 있다는 취지다.[1] 별개로, 사람과 동물에 대한 학대가 지닌 의미가 옅어질 수 있다는 우려도 나왔다. 이 우려를 낸 주체는 특정되지 않는다.[1]
SNS에서는 의견이 엇갈렸다. 건전한 이용 문화를 북돋우는 조치라는 반응이 있는가 하면, AI를 지나치게 사람처럼 대한다는 비판도 있었다.[1]
AI와 대화할 때 공손한 표현이 필요한지는 이미 논쟁거리였다. 쓸데없이 토큰을 쓰게 한다는 지적과, 공손함이 답변의 질을 높일 수 있다는 반박이 맞서 왔다.[1] 샘 올트먼 OpenAI CEO는 지난해 '부탁합니다', '감사합니다' 같은 인사말에 ChatGPT가 응답하며 쓰는 전력에 수천만 달러가 들지만 잘 쓴 돈이라고 말했다.[1]