연구진이 대규모 언어모델(LLM)의 응답을 더 안전하게 만드는 방법 SEDATE(Selective Detection And Targeted Editing)를 arXiv에 공개했다. 논문은 2026년 10월 24일자로 올라왔고, 추가 모델 학습 없이 문제 뉴런을 찾아 고치는 방식이다.
SEDATE는 탐지, 편집, 검증의 세 단계로 이뤄진다. 먼저 문제를 일으키는 뉴런을 찾고, 필요할 때만 그 뉴런을 편집한 뒤 모델 응답을 확인한다. 연구진은 이 전 과정에 추가 학습이 들지 않는다고 밝혔다. 논문 제목은 이를 언어 간 공유되는 '공격성 회로'의 문제로 제시한다.
연구진은 인공지능이 멀티모달과 다국어 분야로 넓어지는 만큼 안전한 배포가 중요해졌다고 문제를 설명했다. 응답을 안전하게 만드는 기존 개입 기법은 계산 비용이나 데이터 주석 비용이 큰 경우가 자주 있거나 다국어 환경으로 확장하기 어렵다는 것이다.
평가는 7개 언어와 4개 모델 계열에서 했다. 분포 밖 언어 4개와 추가 데이터셋 4개에서도 효과를 시험했다.
연구진은 모든 언어와 모델에서 가장 성능이 좋은 기준선보다 안전성 점수가 크게 높았다고 밝혔다. 모델의 일반 능력은 유지됐고 추가 부담은 무시할 수준이었으며, 분포 밖 언어와 데이터셋에서도 경향이 비슷했다는 설명이다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.