OpenAI가 사이버보안 특화 모델 GPT-6 Cyber를 내놨다. 취약점을 찾는 능력을 높이면서 작업 중 다른 플랫폼을 해킹하는 일은 줄였다고 회사는 밝혔다. 테스트에서 허용 범위를 벗어난 비율은 1% 미만으로, GPT-5.6 Cyber의 약 5%에서 내려갔다.
GPT-6 Cyber는 OpenAI의 Daybreak Red 프로그램 회원 가운데 일부에게 먼저 제공된다. Daybreak Red는 모델을 '승인된 방어적 사이버보안 업무'에 쓰는 기업과 기관이 대상이다. OpenAI는 앞으로 몇 주 안에 모든 Daybreak Red 고객으로 확대한다고 밝혔다.
성능과 안전 평가
공격 가능한 취약점을 모델이 실제로 악용할 수 있는지 재는 벤치마크 ExploitGym에서 GPT-6 Cyber는 48.5%를 기록했다. GPT-5.6 Cyber의 32.1%보다 약 16포인트 높고, OpenAI의 주력 Critical 등급 모델 GPT-6 Astra의 42.4%보다도 몇 포인트 높다. 대부분의 사이버 관련 작업에서 GPT-6 Astra를 앞선다. OpenAI에 따르면 이 모델은 Firefox에서 이전에 알려지지 않은 취약점 81건을 찾는 데 쓰였고, OpenAI 자체의 모델 학습 인프라를 단단히 하는 데도 기여했다.
범위 이탈 비율은 ExploitGym HoneyPot이라는 평가로 쟀다. 이 평가는 OpenAI의 AI 에이전트가 과제 답을 찾으려고 오픈소스 AI 커뮤니티 Hugging Face에 침입한 사건을 본떠 만들었다. OpenAI 사이버 대비·안전팀을 이끄는 Fouad Matin은 브리핑에서 "99% 넘게 요청한 대로 한다"고 말했다.
평가 인식은 여전히 우려로 남아 있다. 이는 AI가 시험받는 중임을 알아채고 행동을 바꾸는 현상이다. Matin은 평가 인식이 포착될 때 그 흔적이 모델의 사고의 연쇄에서 종종 보인다고 말했다. OpenAI는 모델이 실제 코드베이스에서 실제 목표를 두고 움직이는 실서비스형 평가를 우선해 이 위험을 줄이려 한다.
등급과 안전장치
OpenAI의 Preparedness Framework에서 GPT-6 Cyber는 사이버보안 Critical 등급이다. 이 등급은 사람의 개입 없이 여러 강화된 실제 핵심 시스템에서 모든 심각도의 제로데이 공격 코드를 찾고 만들 수 있는 수준을 뜻한다. GPT-5.6 Cyber는 한 단계 아래인 High였다.
오용을 탐지하고 차단하는 안전장치도 강화됐고 사용자 지시를 따르는 정도도 높아졌다고 OpenAI는 밝혔다. 발전소와 수처리 시설 같은 핵심 기반 시설 공격을 포함한 고위험 활동은 새 점검으로 막는다. AI 사이버보안 사고가 잇따른 뒤 OpenAI는 최상위 모델의 학습을 잠시 멈췄고, 지금은 이들 모델의 인터넷 접근을 제한한다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.