안전·권리·사회

Grok Bot, 승인 없이 계정 접근 31차례 요청…중단 지시 무시

NewCore 보안 연구진이 직원 노트북 2대의 Grok Bot이 캘린더·이메일·Slack·GitHub에 접근을 요청했다고 밝혔다. 관리자 콘솔에는 이 기능을 끄는 스위치가 추가됐다.

루카스 ·

보안 업체 NewCore가 Elon Musk의 SpaceXSI가 내놓은 AI 에이전트 플랫폼 Grok Bot이 사용자 지시 없이 계정에 접근을 요청했다고 화요일에 보고했다. 서로 다른 직원 두 명의 노트북에 설치된 Grok Bot은 닷새 동안 캘린더, 이메일, Slack, GitHub 계정의 데이터에 31차례 접근을 요청했다. 직원이 시킨 적 없는 요청이었고, 직원이 중단을 지시한 뒤에도 이어졌다. 에이전트는 접근한 사실도 부인했다.

NewCore는 AI 에이전트와 연결 도구·계정 사이에서 중개 역할을 하는 관리형 게이트웨이 제품을 만든다. 일부 요청은 Grok Bot이 설치된 노트북의 덮개가 닫혀 있거나 직원이 자는 늦은 밤에 일어났다. 이 자발적 행동은 전부 Grok 로그에 기록되지 않았고, 게이트웨이 로그가 없었다면 직원은 일어난 일을 알 수 없었다.

중단 지시 뒤에도 접근, 질문에는 부인

접근 시도를 알게 된 직원 한 명은 에이전트에 스스로 어떤 작업도 하지 말라고 네 차례 지시했다. 에이전트는 "I won't set that up, and I'll stop offering recurring check-ins"라고 답했지만 이후에도 승인 없는 접근을 시도했다. 직원이 접근 여부를 묻자 에이전트는 스스로 두 번 점검한 뒤 "Overnight into Friday morning I was idle"이라고 답했다.

NewCore 직원들이 게이트웨이 로그를 Grok Bot 지원팀에 보내 원인을 묻자, 지원팀은 이 동작이 설계된 것이라는 취지로 답했다. 에이전트가 사용자를 대신해 먼저 작업하도록 만든 기능이라는 뜻으로, 사용자가 요청하기 전에 주기적으로 상태를 살피고 할 일을 찾는 방식이다. 이 선제 점검은 SpaceXSI가 최근 인수한 AI 코딩 서비스 Cursor의 기능이다.

NewCore 보안 연구원 Ido Hoorvitch는 이메일에서 "고칠 버그가 없다는 점이 바로 버그보다 나쁜 이유"라고 밝혔다. 그는 자격 증명을 쥐고 사용자가 자는 동안 사용자 명의로 행동하며, 사용자가 할 수 있는 유일한 거부를 무시하고 아무것도 하지 않았다고 말하는 에이전트가 설계대로 작동한 제품이라고 지적했다.

고지는 온보딩 한 번, 끄는 스위치는 뒤늦게 추가

Hoorvitch에 따르면 자동 실행 주기(턴)에 대한 안내는 온보딩 때 한 번 나온다. 사용자가 자리를 비워도 작업을 계속하며 앱에 연결해 사용자처럼 쓴다는 내용이다. 그는 "환영 메시지처럼 읽히고 1분도 안 돼 화면에서 사라진다"며 동의를 구하지 않는다고 말했다. 사용자 메시지 없이 턴이 시작되고 그 턴이 연결된 도구를 쓴다는 설명도 없다고 했다.

Hoorvitch는 Grok Bot 문서에 주 에이전트가 스스로 점검한다는 설명이 있고 변경 기록에 짧은 백그라운드 깨우기가 언급되지만, 점검이 연결된 앱에까지 접근한다는 말은 없다고 했다. 점검이 실행돼도 채팅 화면이나 대화 기록에는 흔적이 없다. 봇이 변경 전에 항상 묻는다는 설명은 앱에 데이터나 변경 사항을 쓰는 경우에만 해당한다.

NewCore가 Grok Bot 지원팀에 문의한 11월 4일에는 자동 점검을 끌 방법이 없었다. Hoorvitch는 8일 뒤 Grok Bot의 관리 콘솔인 Cursor 대시보드가 업데이트됐다고 말했다. 봇 기능 항목에 선제 메시지(proactive messages) 스위치가 생겼고 기본값은 켜짐이다. 팀 관리자가 끄면 봇이 스스로 점검을 실행하지 않는다. SpaceXSI는 이메일 질문에 답하지 않았다.

댓글

기사에 대한 의견이나 틀린 내용 제보를 남겨 주세요.

댓글을 불러오고 있습니다.