LG유플러스가 통화 서비스용 소형 언어 모델(sLM)을 스마트폰에서 돌릴 때 처리 속도를 기존 방식보다 약 4.5배 높이고 배터리 소모를 약 77% 줄였다고 29일 밝혔다. 최신 클라우드 AI 수준의 성능은 유지했다고 회사는 설명했다.
LG유플러스의 토큰 최적화 연구 논문 2편은 NeurIPS 2026 온디바이스 인텔리전스 워크숍에 채택됐다. 회사는 첫 번째 연구에서 AI 응답 속도 향상과 배터리 소모 감소를, 두 번째 연구에서 기기 내 학습과 개인정보 보호를 다뤘다고 밝혔다.
두 연구가 한 일
첫 번째 연구는 통화 서비스에 쓸 sLM을 가볍게 줄이고 추론을 빠르게 하는 기술로 스마트폰에 맞춰 손본 것이다. 4.5배와 77%는 이 연구의 결과이며, 성능 저하는 최소화했다고 회사는 밝혔다.
두 번째 연구는 사용자 데이터를 서버로 올리지 않고 휴대전화 안에서 AI 학습을 마치는 방법이다. 필요한 연산량과 메모리를 줄여 기기 안에서 추가 학습이 가능하게 했다. 실제 스마트폰으로 검증했더니 서버에서 학습한 모델과 정확도가 같은 수준이었고, 개인 데이터가 기기 밖으로 나가지 않았다고 회사는 밝혔다.
적용 계획
회사는 두 연구를 자사의 여러 AI 서비스에 활용할 방안을 검토 중이다. 스마트폰에서 확인한 최적화 기술은 서버 GPU 환경으로 넓힐 계획이다. 이상엽 CTO는 이번 채택으로 연구 성과를 인정받았다며, 기술을 서비스에 도입하고 서버 환경 연구로 영역을 넓히겠다고 밝혔다.
NeurIPS는 Google, Meta, OpenAI 같은 빅테크와 주요 대학 연구진이 최신 성과를 내놓는 학회로, ICML·ICLR과 함께 세계 3대 AI 학회에 속한다. 올해 행사는 호주 시드니에서 12월 6일~12일 개최된다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.
- LGU+, 글로벌 AI학회서 토큰 최적화 기술 입증 etnews.com