대규모 언어 모델

대규모 언어 모델(LLM)은 많은 텍스트에서 언어 패턴을 학습해 문장을 처리하거나 생성하는 모델을 가리킨다. ‘언어 모델’은 문맥에 이어질 표현의 가능성을 계산하는 모델이고, ‘대규모’는 모델의 크기와 학습 자원 등 여러 특성을 가리키지만 모든 제품에 공통인 단일 크기 기준이 있는 것은 아니다. [1] [2]

어디에서 만나나

Google의 교육 자료는 일반적인 자동 회귀형 언어 모델이 다음 토큰을 예측하며 문장을 이어 가는 기본 방식을 설명한다. 입력이 길어지면 앞서 나온 내용이 이어질 표현의 선택에 영향을 준다. 실제 서비스는 이 기본 모델에 지시 조정, 안전 처리, 검색, 도구 같은 요소를 더할 수 있으므로 다음 토큰 예측만으로 제품 전체를 설명할 수 없다. [1] [2]

모델은 학습에 쓰인 자료에서 언어적 규칙성과 지식의 흔적을 익히지만, 매번 답을 만들 때 모든 학습 문장을 검색해 사실을 꺼내는 구조는 아니다. 답의 정확성은 질문의 조건, 맥락, 학습 자료, 모델 설계에 따라 달라질 수 있다. 필요한 정보가 입력에 충분히 주어지지 않으면 그럴듯하지만 틀린 내용을 생성할 수 있다. [2]

작동과 사용 예

예를 들어 회의 메모를 붙이고 세 문장으로 요약해 달라고 요청하면, 모델은 주어진 문맥에서 중요한 표현을 골라 요약문을 구성할 수 있다. 요약이 원문을 빠뜨리거나 바꿔 말했는지 확인하려면 원문과 결과를 비교해야 한다. 이 사례는 사용 방법을 설명하기 위한 가정이다.

입력을 나누는 방식과 다음 표현을 선택하는 절차는 모델별로 다를 수 있다. 답변을 만드는 기본 원리를 이해하면 모델이 왜 문맥에 민감한지 알 수 있지만, 추론·검색·안전 처리 같은 기능이 어떤 순서로 붙는지는 제품 문서가 알려 주는 범위에서 판단해야 한다. 모델 이름만으로 세부 구성을 추정할 수 없다. [1] [2]

비슷한 개념과 주의점

LLM은 딥러닝을 활용하는 경우가 많고, 생성형 AI 서비스의 중심에 놓일 수 있다. 그러나 LLM은 모델이고 ChatGPT나 Claude처럼 이용자가 대화하는 제품은 그 모델을 포함한 서비스다. 한 번의 처리에 넣을 수 있는 입력과 출력 범위는 모델별 컨텍스트 창의 조건에 영향을 받으며, GPT는 특정 회사의 모델 계열 이름이다. [1] [2]