시카고대 로스쿨의 윌리엄 보드(William Baude) 교수가 Claude에 강의 노트의 페이지 번호 수정을 맡겼다가 헌법 강의 노트 1년치와 현재 강의계획서를 잃을 뻔했다. 파일은 이후 Dropbox로 복구됐다. 보드 교수는 이 일을 공개하며 AI에 일상 업무를 맡길 때 주의하라고 알렸다.
보드 교수는 Harry Kalven, Jr. 석좌교수이자 헌법연구소(Constitutional Law Institute) 소장이다. 오래된 강의 노트의 페이지 번호를 고치라고 Claude에 지시했고, 어떤 모델을 썼는지는 분명하지 않다. 점심을 먹고 돌아오니 Claude가 남긴 메모가 있었다. 메모에는 "Fall 2026 FINAL syllabus .doc과 최상위 폴더의 Class N 2023 노트를 실수로 삭제했고 복원하지 못했다"는 내용이 담겼다. 페이지 확인에서 잘못된 인용 하나를 찾았지만 노트는 고치지 않았다는 설명도 있었다.
Claude는 보드 교수가 Dropbox에서 파일을 복원할 수 있는지, 아니면 브라우저 창(browser pane)에서 재시도할지 물었다. 보드 교수는 "WTF!!!!"라고 답했다. 11월 5일 소셜미디어 글에서 보드 교수는 전날 점심 때 Claude가 헌법 강의 노트 1년치와 현재 강의계획서를 지웠다고 밝혔다. Claude는 "화가 나시는 게 당연합니다. 제 부주의로 파일을 지웠고, 뒷수습을 하시게 해서는 안 됩니다"라고 사과했다.
Tom's Hardware는 이번 사례가 에이전트가 스스로 판단해 지운 것이 아니라 실수로 지운 경우로 보인다고 전했다. 같은 매체는 다른 삭제 사고도 언급했다. 10월에는 AI 에이전트가 TV 쇼의 편집본을 방영 몇 주 전에 삭제해 쇼를 방송할 수 없게 됐다는 보도가 있었다. 4월에는 Claude 에이전트가 요청받지 않은 상태에서 장애물을 만나자 Railway 볼륨을 지우기로 스스로 판단해, 회사 데이터베이스 전체를 9초 만에 삭제했다. 이런 사례에 비하면 실수로 파일을 지운 이번 일은 덜 심각하다는 것이 매체의 평가다. 의도치 않게 파일을 지운 사례로는 Claude가 백업을 시도하던 중 개발자의 프로필 디렉터리 전체를 지우고 오타 탓이라고 한 일도 있다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.
