Anthropic이 AI 에이전트가 사용자를 대신해 협상할 때 지킬 공정 규범을 만들기 위해 로펌에 자문을 구하고 있다고 Financial Times(FT)가 보도했다. 대상은 가격을 흥정하고, 불만을 해결하고, 계약 조건을 개선하는 AI 에이전트다.
Anthropic은 앞선 실험에서 더 강한 모델이 더 나은 협상 결과를 낸다는 점을 이미 보였다. 이런 차이는 사회적 불평등을 키울 수 있다.
회사는 변호사를 대상으로 한 개념적 추론 펠로(Conceptual Reasoning Fellows)도 채용하고 있다. 펠로는 4개월 동안 법, 철학, 인지과학, 경제학, 정치학 분야에서 판단이 까다로운 문제로 Claude를 시험하며, 보수는 10만 달러에서 16만 7,000달러다.
이런 전문가가 필요한 것은 데이터 문제 때문이다. 수학과 코딩은 검증 가능한 데이터가 많거나 쉽게 만들어져 모델 성능을 올리기 쉽다. 인문 분야에는 그런 데이터가 없는데, 정답과 오답이 분명하지 않은 경우가 많다는 것도 한 이유다. Anthropic은 이 분야에서 Claude를 강화할 시험 사례와 평가를 만들 전문가를 찾고 있다.
Anthropic에서 법, 제도, AI를 연구하는 기술 스태프 Justin Curl은 법 분야에서는 품질을 정의하기가 "notoriously hard", 곧 악명 높을 만큼 어렵다고 말했다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.