OpenAI가 11월 29일부터 Daybreak Blue 사이버보안 세션 데이터를 모델 학습에 쓰기로 했다. Trusted Access 프로그램 회원에게 보낸 이메일로 이 변경을 알렸다.
지금까지 이 데이터는 사용자가 "모두를 위해 모델 개선" 설정을 꺼 둔 경우에도 학습에서 제외됐다. 변경 소식에 반발이 빠르게 일자 OpenAI는 두 번째 이메일을 보내 별도의 학습 거부 방법을 약속했다. 안전 검토에서 표시된 상호작용은 안전 목적으로 계속 쓸 수 있다.
이번 변경은 연구자들 사이에서 Buckmaster-Alpöge 사례가 되풀이될 수 있다는 우려를 낳았다. 수학자 Tristan Buckmaster와 Levent Alpöge가 나비에-스토크스 방정식 초안을 OpenAI의 Codex에 올리자 OpenAI는 곧 자체 증명을 내놓았고, 두 사람의 입력을 학습에 썼다는 점은 부인했다. decoder는 의심만으로도 연구자들에게 위험을 알리기에 충분했다고 전했다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.