철학을 배경으로 AI의 행동과 가치 문제를 연구한다. Anthropic에서 Claude가 어떤 태도와 원칙으로 응답해야 하는지에 관한 작업에 참여했다.
사실을 맞히는 능력뿐 아니라 사용자와 상호작용하는 방식도 모델 설계의 대상임을 보여 준다. 모델의 성격과 안전 원칙이 학습·지침에 어떻게 반영되는지 연결해 읽을 수 있다.
연결 인물
같은 회사나 연구 분야의 인물
다리오 아모데이
다니엘라 아모데이
잭 클라크자료 출처
- Amanda Askell - Wikipedia en.wikipedia.org
- Claude’s Constitution \ Anthropic anthropic.com
- 사진: 본인 홈페이지