연구진이 Whisper-large-v3를 사례 연구 대상으로 삼아 GRPO 강화 학습을 적용하고, 아프리카 51개 언어를 인식하는 모델 SunflowerASR를 만들어 공개했다. 논문에 따르면 이 모델의 매크로 평균 단어 오류율(WER)은 AfriVox-v2에서 0.227, SimbaBench에서 0.372로, 두 벤치마크 각각에서 지금까지 발표된 가장 좋은 값이다.
연구진은 학습 데이터가 부족하거나 입력 음성에 잡음이 끼고 품질이 떨어질 때 이 방식의 효과가 가장 두드러진다고 밝혔다. 모델은 누구나 내려받아 쓸 수 있도록 공개됐다.
Whisper처럼 인코더·디코더 구조를 가진 자기회귀 모델은 보통 정답 문장을 보여 주며 학습하는 교사 강요(teacher forcing) 방식을 쓴다. 연구진은 이 방식이 노출 편향(exposure bias)을 일으켜, 추론 단계에서 모델이 스스로 낸 오류에서 회복하는 능력이 제한된다고 지적했다.
이번 연구는 강화 학습 기법인 GRPO(Group Relative Policy Optimisation)를 쓴다. 연구진에 따르면 앞선 연구는 대규모 언어 모델 기반 음성 인식 모델에서 주요 언어의 인식률을 GRPO로 높였고, 이번에는 이를 LLM이 아닌 더 작은 인코더·디코더 모델로 넓혔다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.