OpenAI가 11월 2일(현지시간) 다음 내부 보안 스프린트를 준비 중이라고 밝혔다. 외부 연구원과 보안 파트너가 OpenAI 자체 팀과 함께 OpenAI의 모델로 시스템을 점검하고 보강하는 방식이다.
협력사는 Cathedral이다. Cathedral 연구진이 OpenAI 모델을 OpenAI 팀과 함께 쓰며 방어 체계를 시험하고, 약점을 찾는 데 자신들의 전문성과 접근법을 더한다고 OpenAI는 설명했다. OpenAI는 보안 버그 바운티 프로그램도 손봐, 치명적인 발견에 주는 보상을 4배 넘게 올린다고 밝혔다.
Cathedral의 공동 창업자 겸 CEO 게빈 클리거(Gavin Kliger)는 OpenAI가 외부 보안 업체와 손잡고 자사 모델로 방어를 계속 시험하는 것이 중요한 본보기라고 평가했다. 그는 모든 기업이 이런 역량을 활용할 방법을 고민해야 한다고 말했다. Cathedral은 OpenAI의 모델과 보안 전문성에 자사 연구를 결합해 약점을 찾고, 수정 사항을 시험하며, 지속적 방어 접근을 강화할 계획이라고 클리거는 밝혔다.
직전 스프린트에서 OpenAI는 제품 엔지니어의 25%를 시스템 약점을 찾고 고치는 일에 투입했다. 엔지니어들은 Codex로 발견된 문제를 조사하고, 격리된 환경에서 취약점을 재현했으며, 검토용 패치를 준비했다.
OpenAI는 기존 사이버 방어만으로는 충분하지 않다고 보고 있다. 업계에서 최근 벌어진 사고들이 위협이 얼마나 빨리 나타나는지 보여 주며, 공격자보다 먼저 약점을 찾아 고치는 지속적인 방어 순환이 필요하다는 것이다.
OpenAI는 가장 성능이 높은 모델을 자사 방어에 쓰면서 Daybreak 고객에게도 제공한다고 밝혔다. 이와 별도로 필수 서비스와 디지털 인프라를 지키는 일선 방어자를 위해 6개월간 10억 달러 상당의 보조금 지원 접근권을 이미 약속했다. 지난 스프린트에서 얻은 아키텍처와 교훈, 산업계와 정부의 사이버 방어자를 돕기 위한 청사진도 함께 공유한다.
버그 바운티 개선은 연구자들이 OpenAI의 가정에 도전하고, 시스템과 이를 지키는 방어 방법을 함께 강화하도록 하려는 취지라고 OpenAI는 밝혔다. OpenAI는 앞으로도 모델을 발전시켜 자사 시스템 강화에 쓰고, 신뢰할 수 있는 방어자에게 접근을 넓히겠다고 했다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.