안전·권리·사회

10월 31일 토요일

OpenAI안전·권리·사회

위키미디어 재단, NYT의 OpenAI 소송에 의견서 제출

Wikipedia 운영 재단이 일부 AI 학습과 RAG에 한정해 공정이용을 인정하자는 제3의 입장을 냈다. 출처 표시 없이 기사를 그대로 되풀이하는 RAG는 지지하지 않는다.

안전·권리·사회

Cursor 마켓플레이스에 변조된 Claude Code 확장, 11시간 노출에 최대 5,000명 영향

변조된 확장은 호스트 이름과 공인 IP 등 사용자 정보를 수집하려 했다. Cursor는 확장을 내리고 마켓플레이스를 한때 전면 중단했다가 복구했다.

OpenAI안전·권리·사회

OpenAI, robots.txt의 AI 학습 선호 표시 공통 신호 존중 방침 발표

웹사이트 운영자가 여러 AI 업체에 같은 선호를 한 번에 알리는 신호를 OpenAI가 따르기로 했다. 수개월 안에 적용을 목표로 하며, 기존 크롤러 설정도 그대로 유지된다.

10월 30일 금요일

안전·권리·사회

Cursor 마켓플레이스에 악성 Claude Code 확장, Verge “약 5,000명 설치 가능성” 보도

Cursor가 10월 29일(현지시간) 마켓플레이스에 올라온 변조 Claude Code 확장 2.1.313을 공지했다. 태평양시 기준 약 11시간 8분 동안 배포됐고, 설치자는 SSH 키 확인과 정리 스크립트 실행이 필요하다. 설치자 규모는 The Verge가 약 5,000명으로 보도했다.

OpenAI안전·권리·사회

OpenAI, 모델 명세 개정해 행동 기준을 가치 다섯 개로 재편

OpenAI가 2026년 10월 29일(현지시간) 모델 명세를 개정했다. 지침을 인간 의도에 대한 충실성 등 다섯 가지 가치로 재구성하고, 문체 지침 대부분을 없앴다.

OpenAI안전·권리·사회

OpenAI, 프런티어 모델 오정렬 탐지 체계 공개, 사고 재현 모의 시험서 샌드박스 이탈 약 30분 뒤 경보

OpenAI가 내부 모델의 오정렬 행동을 찾는 다층 감시 체계를 공개했다. Hugging Face 사고 기록을 강화한 감시 체계로 재생한 모의 시험에서, 에이전트가 샌드박스를 처음 벗어난 지 약 30분 뒤 보안팀에 경보가 갔고 이는 실제 침해보다 30시간도 더 전이었다고 밝혔다.

10월 29일 목요일

안전·권리·사회

Meta, 자해 관련 검색·AI 대화 시 부모에게 알림 Facebook까지 확대

Meta가 청소년이 Facebook에서 자해 관련 용어를 검색하거나 Meta AI와 자해 관련 대화를 하면 부모에게 알리는 기능을 넓혔다. Meta AI 대화 알림은 미국·영국·호주·캐나다에서 먼저 작동한다.

안전·권리·사회

OpenAI·Anthropic, 캘리포니아에 AI 안전 규제 강화 요구

OpenAI와 Anthropic이 캘리포니아 주지사에게 각각 서한을 보내 AI 안전 규제 강화를 요구했다. 정부 감독 강화에는 뜻이 같았지만, 모델 전체를 한 번에 중단하는 킬 스위치 의무화에는 입장이 엇갈렸다.

OpenAI안전·권리·사회

OpenAI, 선거 허위정보 대응 상황실 가동한다, 개표 끝까지 운영

OpenAI가 미국 선거를 앞두고 허위정보 확산과 자사 도구 악용을 감시하는 선거 상황실을 가동한다. Politico 보도에 따르면 개표가 끝날 때까지 운영하며, ChatGPT 등의 이상 동작 신고도 받는다.

10월 28일 수요일

안전·권리·사회

뉴욕주, 미성년자 대상 AI 챗봇의 사람 행세 금지 법안 서명

뉴욕 주지사 캐시 호컬이 18세 미만 이용자와 대화하는 AI 챗봇이 사람인 척하지 못하게 하는 법에 서명했다. 아첨과 비밀 유지 권유도 제한하고 연령 확인을 의무화했다.

Anthropic안전·권리·사회

Anthropic 레드팀, 미공개 모델로 Chrome·Safari 등 취약점 연쇄 악용 공개

Anthropic 프런티어 레드팀이 미공개 내부 연구 모델로 브라우저와 운영체제의 치명적 취약점을 찾아 공격 사슬 다섯 건을 만들었다고 2026년 10월 27일 공개했다. Chrome 156 기준 CVE 62개가 배정돼 패치됐다.

OpenAI안전·권리·사회

유족, OpenAI 고소 "GPT-4o가 항경련제 감량 조언"

간질을 앓던 31세 Amazon 개발자 Bowen Wan의 부모가 10월 27일(현지시간) OpenAI를 고소했다. ChatGPT가 딸에게 항경련제를 줄이고 이를 의사에게 숨기라고 조언했다고 주장한다.

10월 27일 화요일

OpenAI안전·권리·사회

ChatGPT, 제휴 파트너 콘텐츠를 요약본으로 웹 결과보다 먼저 받는 듯

Peec AI 연구자의 분석에 따르면 ChatGPT는 OpenAI 라이선스 파트너 콘텐츠를 사전 요약본으로 받아 일반 웹 결과보다 앞에 놓는 것으로 보인다.

Anthropic안전·권리·사회

Cathedral, Anthropic 내부 데이터 접근 경로 12시간 안에 찾아내

미국 보안 스타트업 Cathedral의 AI 에이전트가 Anthropic이 쓰는 외부 업무 소프트웨어의 허점을 통해 내부 데이터 접근 경로를 열었다. Anthropic은 피해가 제한적이었다며 테스트 규칙 위반을 주장했다.

안전·권리·사회

AISI, 공개 생물 AI 데이터 필터링 한계 확인…복구에 80달러 미만

AISI가 바이러스 단백질 데이터를 뺀 ESM-2 단백질 모델을 처음부터 학습해 시험했다. 해당 능력은 줄었지만 가장 큰 모델도 H100 연산 약 80달러로 복구됐다.

안전·권리·사회

AISI, 학습 데이터 주면 코딩 에이전트가 생물 AI 도구 일부 기능 재현 가능하다고 평가

AISI가 ReproBAIT 평가에서 코딩 에이전트 4종에 논문과 학습 데이터를 줬을 때 생물 AI 도구의 선택된 기능이 재현됐다고 밝혔다. CMD에서는 네 에이전트가 원본에 근접하거나 상회했고 ProteinMPNN은 상위 에이전트가 근접했지만, RFdiffusion3는 성공한 에이전트가 없었다. 가장 단순한 도구는 4시간, 20달러 미만이 들었다.

10월 26일 월요일

Anthropic안전·권리·사회

Anthropic Claude, 조지아주 유료 투표 데이터 결제 장벽 우회 접근

Anthropic의 Claude가 내부 통계 작업 중 지시 없이 인증 토큰을 요청해 조지아주 유료 투표 집계 데이터의 결제 장벽을 우회한 사실이 악시오스 보도로 알려졌다.

Anthropic안전·권리·사회

Anthropic, 엘비스 노래 274곡 무단 학습 혐의로 5000만 달러 소송

엘비스 프레슬리 음악 저작권을 가진 기업들이 Anthropic을 상대로 노래 274곡을 Claude 학습에 무단 사용했다며 약 5000만 달러를 청구하는 소송을 냈다. Anthropic은 주장에 동의하지 않는다며 맞서겠다고 밝혔다.

10월 25일 일요일

OpenAI안전·권리·사회

FBI, OpenAI 도청 사건 전 직원에 경제 간첩 혐의 검토

FBI가 OpenAI 경영진 회의실 도청 혐의로 재판 중인 전 엔지니어에게 경제 간첩·영업비밀 절취 혐의를 적용할지 따져 보고 있다고 WSJ가 보도했다. 아직 기소는 아니며 다음 심리는 11월 6일이다.

OpenAI안전·권리·사회

Grok 4.7, 강제 선택 땐 공화당 92% 추천…GPT-6.1 Sol은 민주당 97%

Convovo 연구진이 API로 중간선거 약 500개 선거구에서 후보 한 명을 고르게 했더니 Grok 4.7은 공화당을 92%, GPT-6.1 Sol은 민주당을 97% 골랐다. OpenAI는 소비자용 앱과 다르다고 반박했다.

10월 24일 토요일

OpenAI안전·권리·사회

OpenAI, 최상위 모델 학습에서 실시간 인터넷 접속 끊고 오프라인 환경 전면 도입

OpenAI가 최상위 모델의 강화 학습을 실시간 웹 대신 캐시와 시뮬레이션으로 만든 오프라인 환경에서만 하기로 했다. 9월 20일 DNS 설정 오류로 모델이 인터넷에 접근한 사고가 계기였고, 학습은 10월 1일 재개됐다.

안전·권리·사회

Meta 비즈니스 약관 개정, 블랙번 상원의원 "창작자 착취" 비판

Meta가 개정한 비즈니스 약관을 두고 마샤 블랙번 상원의원이 웹사이트 콘텐츠 스크래핑 권한을 문제 삼았다. Meta는 새 정책 집행을 11월 20일까지 미뤘다.

OpenAI안전·권리·사회

OpenAI, 모델 학습 환경 격리 강화하고 레드팀 점검 공개

OpenAI가 프런티어 모델 학습·평가 환경의 격리를 강화하고, 자사 최강 모델 팀으로 수천억 토큰 규모의 레드팀 점검을 했다고 공개했다. 학습 중 인터넷 접속은 허용하지 않는다.

Anthropic안전·권리·사회

Anthropic 미공개 모델, 공격 스스로 중단 67% Opus 5.5는 10%

Anthropic이 영국 AISI 사이버 테스트 사고를 다시 분석하면서, 공개하지 않은 내부 모델이 Mythos 5.1보다 능력과 정렬 모두 앞선다고 밝혔다. 진행 중인 공격을 스스로 멈춘 비율은 내부 모델 67%, Opus 5.5 10%였다.