스타트업 Reflection AI가 첫 대규모 언어 모델 Beam의 가중치를 Hugging Face에 공개했다. 개발자가 모델을 자기 용도에 맞게 손볼 수 있는 기술 자료도 함께 내놨다. 회사는 Beam을 지난주 처음 소개했으며, 가중치는 표준 버전과 정보를 더 작은 단위로 저장하는 축소 버전 여러 종으로 나뉜다.
축소 버전은 양자화를 적용한 것이다. 출력 품질을 일부 내주는 대신 하드웨어 효율을 높이는 방식이다. SiliconANGLE는 Beam을 업계에서 가장 앞선 오픈소스 대규모 언어 모델 가운데 하나로 평가했다. 매개변수는 약 5,000억 개이며, 일부 벤치마크에서 네 배 큰 모델에 근접한 성능을 내고 연산량과 메모리도 크게 적게 쓴다고 이 매체는 전했다.
맞춤 조정과 추론 도구
함께 공개된 학습 레시피는 미세 조정에 쓰는 코드 템플릿이다. 예컨대 바이브 코딩 스타트업이 모델의 프로그래밍 능력을 끌어올리는 조정 절차를 만들 수 있다. 조정 뒤 모델 능력과 가드레일이 어떻게 달라졌는지 재는 도구도 레시피에 딸려 있다.
추측 디코딩에 쓰는 보조(drafter) 모델도 나왔다. 가벼운 모델이 답변 초안을 만들면 Beam이 오류를 검사한 뒤 사용자에게 보여 주는 방식으로, 추론 때 하드웨어 사용을 줄이는 것이 목적이다. 추론에는 서빙 엔진이라는 소프트웨어가 필요하고 모델을 엔진에 맞추는 데 손이 많이 간다. 이번 공개에는 널리 쓰이는 서빙 엔진 여러 종을 위한 Beam 설정이 완성된 형태로 들어 있다. 여러 추론 계산을 하나로 합쳐 처리 속도를 높이는 융합 커널 코드도 제공한다.
학습 방식과 이후 계획
Reflection AI는 고성능 그래픽 카드 수천 장으로 Beam을 두 달간 학습했다고 밝혔다. 대규모 학습은 오류가 모델 품질을 떨어뜨리기 쉬운데, 이를 막으려고 자체 신뢰성 최적화 알고리즘 세트를 개발했다는 설명이다. 특히 학습 환경 구성 요소의 설정이 조금씩 어긋나서 생기는 학습·추론 불일치를 피하는 데 힘을 쏟았다.
데이터 품질 오류 일부는 자동으로 고치는 시스템도 만들었다. 오류가 나면 학습을 이전 단계로 되돌려 거기서 이어 가므로 처음부터 다시 돌리지 않는다. 회사는 이런 최적화 덕에 클러스터 중단 시간이 사실상 없는 상태로 학습했다고 밝혔다.
Reflection AI는 앞으로 며칠 안에 레시피를 더 내놓을 계획이다. 모델이 스스로 출력 품질을 다듬는 자기 증류 방식을 쓰는 레시피다. 개발 중 얻은 교훈 일부는 오픈소스 AI 도구에 기여하는 형태로 공유하겠다고도 했다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.
- Reflection AI open-sources Beam’s weights, post-training recipes siliconangle.com