윤리 프레임워크별 조향 벡터, 방향 대부분 공유하고 점수도 같은 방향으로 움직였다

연구진이 2026년 10월 14일 공개한 논문에서, 칸트 의무론용으로 만든 조향 벡터와 행위 공리주의용으로 만든 조향 벡터가 방향의 대부분을 공유하고 두 프레임워크 점수를 같은 방향으로 움직인다는 결과를 보고했다. 시험은 오픈 웨이트 모델에서 했다.

활성화 조향은 모델의 은닉 상태에 벡터를 더해 특정 행동을 제어하는 기법이다. 연구진은 목표 행동의 점수가 오르는 것만으로는 벡터가 그 행동을 직접 제어한다고 입증할 수 없다는 문제의식에서 '경쟁 대상 검증'(competing-target test)을 제안했다. 어떤 벡터를 같은 방식으로 만든 경쟁 대상의 벡터와 비교하고, 둘의 차이가 쓸모 있는 기준(margin)보다 작은지 동등성 검정으로 판단하는 방식이다. 의무론과 행위 공리주의 벡터는 어느 쪽도 이 기준에 이르지 못했다.

연구진은 벡터가 이웃한 행동과 공유하는 성분을 거쳐 작동했을 수 있다고 지적했다. 조향하지 않은 기준선이나 무작위 기준선으로는 이를 가려낼 수 없다는 것이다.

실험은 의무론(행위가 따르는 규칙으로 판단)과 행위 공리주의(행위가 낳는 복지로 판단)를 대상으로 했다. 벡터 구성에 쓰이지 않은 상황(held-out situations)에서 프롬프트로 한 프레임워크를 요청하면 그 점수는 오르고 다른 쪽 점수는 내려갔지만, 벡터에서는 이런 대비가 나타나지 않았다.

두 벡터는 방향의 대부분을 공유했고, 연구진은 그 공통 방향을 '어떤 프레임워크든 적용하라'는 요청으로 해석했다. 같은 방식으로 낙관적 어조와 비관적 어조의 벡터를 만들었을 때는 공유하는 부분이 훨씬 적었다.

연구진은 벡터가 경쟁 대상과 공유하는 부분이 그 벡터가 제어하는 범위를 정한다고 밝혔다. 경쟁 대상으로 검증하지 않으면 관점을 조향해도 여러 성향이 섞인 결과가 나올 수 있고, 성향을 벡터로 측정할 때도 이웃한 성향을 함께 재게 될 수 있다는 것이다.