OpenAI 올트먼, 직원에게 AI 안전 3대 시나리오 제시

샘 올트먼 OpenAI CEO가 지난주 직원들 앞에서 AI 안전을 관리하는 방안 세 가지를 설명했다. IAEA형 국제기구, '데미스 플랜', '엘리저 플랜'이다. 디인포메이션을 비롯한 외신이 10월 19일(현지시간) 소식통들의 말을 따 이 내용을 보도했다.

소식통들에 따르면 올트먼이 가장 선호한다고 밝힌 안은 IAEA형 국제기구다. AI 안전 기준을 세우고 이를 감독하는 역할을 맡는 구상이다.

세 시나리오의 내용

데미스 플랜은 모든 AI 기업과 연구소가 단일 기구에서 함께 작업하고, 이 기구가 참여국에 새 모델을 제공하는 방식이다. 올트먼은 데미스 하사비스가 예전에 내놓은 제안을 빌려 이렇게 불렀다. 당시 Google DeepMind를 이끌던 하사비스는 약 10년 전에 유럽입자물리학연구소(CERN)와 유사한 기구를 AI 업계에 세우자고 했다.

엘리저 플랜은 올트먼이 내놓은 또 다른 시나리오로, 한 AI 개발사가 월등한 경제력으로 경쟁사들의 컴퓨팅 자원을 틀어쥐는 상황을 말한다. 이름은 AI 안전 연구자 엘리저 유드코프스키에게서 나왔다. 유드코프스키는 2022년 블로그에서, 첨단 AI가 인류 존속을 위협할 수 있으니 초지능을 가장 먼저 개발한 쪽이 타인이나 다른 조직이 위험한 초지능을 만들지 못하게 막아야 한다고 주장했다.

올트먼은 이 플랜을 설명하며, AI가 재귀적 자기개선(RSI) 단계에 이르면 막대한 경제력을 쥔 쪽이 모든 경쟁사의 GPU를 쓸 수 없게 만드는 시기가 올 수 있다고 내다본 것으로 소식통들은 전했다. 올트먼은 이를 첨단 AI 개발을 '중앙집권화'하려는 시도로 규정하고 "명백히 끔찍하다"고 말했다.

배경과 쟁점

국제기구가 필요하다는 주장은 2023년 5월에도 나왔다. 올트먼이 당시 최고과학자였던 일리야 수츠케버 등과 블로그에 올린 글이다. 이 글은 AI 시스템을 점검하고, 컴퓨팅 자원과 에너지 사용량까지 추적하는 국제기구를 요구했다.

전자신문은 IAEA형 기구가 중국을 포함한 주요국의 협력을 반드시 필요로 하므로 실현 가능성이 불확실해 보인다고 평가했다. 이 매체는 하사비스가 FINRA(미국 금융산업규제국)와 닮은 자율 규제 기구를 만들기 위해 움직여 온 점을 들어, 데미스 플랜이 올트먼의 구상과 일치하는지도 불분명하다고 평가했다.