연구진이 검색 증강 생성(RAG)에서 원치 않는 개념이 검색 근거로 드러나는 문제를 줄이는 방법 C²U(Compositional Concept Unlearning)를 arXiv에 공개했다. 논문은 2026년 10월 21일자로 올라왔다. 생성기를 조정하더라도 검색된 근거로 해당 개념이 노출될 수 있다는 문제의식에서 출발했다.
C²U는 인코더와 문서 색인을 고정한 채 질의 쪽에서만 개념을 억제한다. 억제할 개념의 프로필에서 뽑은 방향을 증강한 atom bank를 거치게 해, 수정본과 원본의 차이를 일정 범위로 제한한 뒤 원래 질의에 더하는 방식이다.
실험은 데이터셋 5개, 인코더 4종, 시드 3개로 했다. 검증에서 고른 설정은 합산 이진 대상 Hit@5를 4.25%p 낮췄고, 통제 성능은 떨어지지 않았으며 대상 노출도 늘지 않았다(두 변화 모두 0 이하). 평가한 질의 변환 조건에서는 대상 밀도가 억제됐고, 예산을 둔 통제 질의의 노출은 늘지 않았다.
이와 별도로 여러 개념을 함께 억제하는 조합 실험도 했다. ArXiv 데이터의 개념 4개 조합 한 건은 독립 검증 관문을 통과한 뒤 처음 사용하는 테스트 평가에서, 평균 방향을 쓰는 비교 기법보다 개선했다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.