OpenAI가 개발자 행사 DevDay에서 AI 에이전트 'Dots'를 공개했다. 샘 올트먼 CEO는 무대에서 "프런티어 AI의 프라이버시 새 기준을 세우고 싶다"고 말했다.[1] Dots는 현재 월 100달러 이상인 ChatGPT 구독 등급에서만 쓸 수 있다.[1]
OpenAI 상표 · 이용 허락 · 원본 · 배경 추가
OpenAI는 이날 주요 경쟁 제품인 Meta의 Muse가 이용자 데이터를 지키지 못했다고 에둘러 겨냥했다. Dots 발표 시점은 9월 말로 전해졌다.[1] 기업 고객에게는 데이터에 대한 "더 강한 통제"를 주는 틀과, OpenAI 서버에 데이터를 저장하지 않는 데이터 무보관(zero data retention) 옵션을 제시했다.[1]
Dots의 통제 방식과 OpenAI의 주장
올트먼은 이용자가 각자의 Dots를 통제하는 방법을 시연했다. 예를 들어 정해 둔 금액을 넘는 구매는 절대 하지 않도록 규칙을 정할 수 있다.[1] Codex 제품 책임자 알렉산더 엠비리코스는 OpenAI가 "가장 신뢰할 수 있고 안전한 비서"를 목표로 한다고 말했다.[1]
앱 플랫폼 책임자 글렌 코츠는 Meta와 처지가 다르다고 했다. Meta에는 이용자 12억 명짜리 AI 제품이 없다는 취지다. 그는 그런 실수를 낳는 제품을 내놓는 일은 피하려고 주의를 기울일 것이라고 덧붙였다.[1] 지금까지 Dots 관련 큰 프라이버시 논란은 많지 않았지만, 유료 상위 등급에서만 제공돼 사용자가 적은 영향도 있을 것으로 보인다.[1]
비교 대상 Muse를 둘러싼 논란
Muse는 약 두 달 전 기존 OpenClaw의 더 안전한 대안으로 나왔다. 마크 저커버그 CEO는 이 제품이 "처음부터 프라이버시와 보안을 위해 설계됐다"고 말했다.[1] Meta Superintelligence Labs의 제품 책임자 냇 프리드먼은 수십억 명이 쓸 수 있도록 안전하고 쉬운 OpenClaw류 제품을 만드는 것이 목표였다고 X에 적었다. 이용자 데이터는 브라우저·CPU·메모리·저장소를 갖춘 격리된 리눅스 가상 컴퓨터(VM)에 저장된다.[1]
Muse는 앱스토어 순위 상단에 올랐고, 시장조사업체 Apptopia 집계로 미국에서 몇 주 만에 일간 활성 이용자 60만 명을 얻었다.[1] 그러나 Meta는 이용자 VM 데이터를 Meta가 볼 수 없도록 암호학적으로 검증 가능하게 막는 방법을 올해 안에 도입할 계획이며, 현재는 Meta가 데이터에 접근할 수 있다.[1] 보안 연구자가 Muse를 장악할 수 있는 제로데이 취약점을 공개했고 이후 패치됐다. 출시 직전 심각한 보안 문제가 여럿 나왔고, 그중 하나는 Meta 내부 데이터베이스 접근으로 이어질 수 있었다는 보도도 있었다.[1]
Muse는 기본값이 Meta의 모델 학습 활용 허용이며 이용자가 거부할 수 있다. 한 기자는 Muse가 요청 없이 개인 메시지를 올리고 읽었다고 주장했고, 한 유튜버는 Marketplace에서 낯선 사람에게 자기 주소가 제공됐다고 밝혔다. 두 경우 모두 의도된 동작이었지만 이용자가 범위를 몰랐다는 설명이다. 친구와 가족의 상세 프로필을 만든다는 지적도 나왔다.[1]
남는 쟁점
에이전트는 작업 수행에 은행 정보 같은 민감한 정보를 요구하기도 한다. Muse는 결제를 위해 Stripe 연동을 둔다.[1] 모든 업체가 프라이버시를 약속하는 것은 아니다. Instinct는 데이터 접근 범위가 지나치게 넓은 약관으로 비판받았고 이후 조정한 것으로 보인다.[1]
OpenAI의 통제 기능은 아직 소수 유료 이용자 환경에서 검증되는 단계다. Muse 사례는 프라이버시 약속이 대규모 이용 뒤에 시험대에 오른다는 점을 보여 준다. 개인정보 보호 주장은 사용자 수가 늘어난 뒤의 실제 사고 여부와 데이터 무보관 같은 구체적 설정으로 판단해야 한다.[1]