챗봇

쉽게 말하면, 챗봇은 글이나 음성으로 사람과 대화하는 것처럼 답하는 소프트웨어다. 키워드에 맞춰 정해진 답을 내놓는 단순한 프로그램부터 대규모 언어 모델을 바탕으로 거의 모든 주제로 대화하고, 문서를 쓰고, 코드를 짜고, 외부 도구를 호출하는 시스템까지 모두 챗봇에 속한다.

챗봇으로 널리 인정받은 최초의 프로그램은 1966년에 발표된 ELIZA다. 이 분야의 상업적 전환점은 2022년 11월 30일이며, 이날 OpenAI가 ChatGPT를 공개했다. 2025년 10월 6일 OpenAI 최고경영자 샘 올트먼(Sam Altman)은 ChatGPT의 주간 활성 사용자가 8억 명을 넘었다고 밝혔다. 이는 전 세계 성인 인구의 약 10분의 1에 해당한다. 챗봇(chatbot)은 chat과 robot을 줄여 붙인 말이다.^2,3,4

ChatGPT 출시 이후 챗봇은 AI 붐의 가장 눈에 띄는 산물 중 하나가 되었고, 이메일 작성부터 정서적 지지까지 수억 명이 사용하고 있다. 같은 시기에 허위 정보, 아첨, 의존, 아동 안전, 대화형 시스템이 실제 피해에 얽힌 소송 등 정책 쟁점도 커졌다.^3,4

1. 개요

챗봇은 대화형 에이전트, 가상 비서, AI 비서, 대화 시스템과 같은 뜻으로 섞여 쓰이기도 한다. Siri와 Alexa 같은 가상 비서는 음성과 기기 제어를 강조하고, 챗봇은 역사적으로 웹사이트나 메신저의 텍스트 대화를 가리켜 왔다. AI 에이전트는 2024년부터 2026년 사이 쓰이는 용어로, 챗봇 인터페이스에 계획 루프, 도구, 장시간 작업을 결합한 시스템을 가리킨다.

2. 연혁

챗봇의 역사는 인공지능의 역사를 따라간다. 초기 시스템은 실제 이해 없이 겉보기에만 그럴듯했다. 이후 수십 년 동안 점진적인 개선이 이어졌고, 2010년대의 딥러닝과 2017년의 트랜스포머 구조가 2020년대를 정의하는 대규모 생성형 챗봇의 물결을 가능하게 했다.

1950년 앨런 튜링은 학술지 『Mind』에 「Computing Machinery and Intelligence」를 발표하고 '모방 게임(imitation game)'을 제안했다. 심문자는 보이지 않는 두 상대와 텍스트로 대화하며, 한쪽이 사람이고 다른 한쪽이 기계인지를 가려내야 한다. 튜링은 기계가 능숙한 심문자를 충분히 자주 속일 수 있다면, 기계가 생각할 수 있는지라는 질문은 실용적인 힘을 잃는다고 주장했다. 그는 2000년까지 기계가 5분간의 질문 뒤 평균적인 심문자를 적어도 30%의 시간 동안 속일 수 있을 것이라고 예측했다. 이후 튜링 테스트는 수십 년 동안 기계 대화를 측정하고 챗봇을 연구하는 기준점이 되었다.⁵

2.1. ELIZA의 등장

최초로 널리 챗봇으로 인정받은 프로그램은 ELIZA다. 조지프 와이젠바움(Joseph Weizenbaum)이 1964년부터 1967년 사이 MIT 인공지능 연구소에서 개발했다. ELIZA는 1966년 1월 『Communications of the ACM』 9권 1호(36~45쪽)에 「ELIZA: A Computer Program for the Study of Natural Language Communication Between Man and Machine」라는 논문으로 발표되었다. 입력을 단순한 구문 패턴과 맞춘 뒤 입력의 일부를 응답 틀에 넣는 방식으로 작동했다. 가장 유명한 스크립트 DOCTOR는 사용자의 말을 질문으로 되돌려 주며 로저스 학파 심리치료사를 흉내 냈다.^2,6

와이젠바움은 자신의 비서를 포함한 많은 사용자가 ELIZA를 자신을 이해하는 존재로 대하는 것을 보고 놀랐다. 그는 1966년 논문에서 이 현상을, 사용자가 실제 대화에서는 착각일 수 있는 자신의 인상을 지키려고 대화 상대에게 온갖 배경지식과 통찰력, 추론 능력이 있다고 여기는 탓으로 설명했다. 오늘날 이를 'ELIZA 효과'라고 부른다. 이해력, 의도, 감정이 없는 시스템에 그것들이 있다고 투영하는 인간의 경향이다. 와이젠바움은 이후 기계 지능을 과대평가하는 데 반대하는 글을 계속 썼고, 1976년 저서 「Computer Power and Human Reason」은 컴퓨터 윤리의 기초 문헌이 되었다.^2,7

2.2. PARRY, 재버워키, A.L.I.C.E.

스탠퍼드에서 정신과 의사 케네스 콜비(Kenneth Colby)는 1972년 편집형 정신분열증 환자를 모사한 PARRY를 만들었다. PARRY는 분노, 두려움, 불신 같은 내부 상태를 모델링했고, 시뮬레이션된 기분에 따라 출력을 바꿨다. 통제된 실험에서 정신과 의사들은 PARRY의 응답과 실제 환자의 응답을 안정적으로 구별하지 못했다. 1973년 PARRY와 ELIZA가 ARPANET에서 나눈 대화는 두 프로그램 사이의 네트워크 대화를 보여 준 초기 사례였다.⁸

영국의 프로그래머 롤로 카펜터(Rollo Carpenter)는 1981년 재버워키(Jabberwacky) 개발을 시작했고, 1988년에 공개 버전을, 1997년에 웹 공개 버전을 내놓았다. ELIZA의 고정된 스크립트와 달리 재버워키는 지금까지 본 대화를 모두 저장하고 문맥 매칭으로 응답을 찾았다. 카펜터의 후속 시스템인 클레버봇(Cleverbot)은 2005년과 2006년 뢰브너 상(Loebner Prize)을 받았다.⁹

1995년 리처드 월러스(Richard Wallace)는 Artificial Linguistic Internet Computer Entity(A.L.I.C.E.) 프로젝트를 시작했다. 이 프로젝트는 저자가 패턴과 응답의 쌍을 지정하는 인공지능 마크업 언어 AIML로 구동되었다. AIML은 1990년대 후반과 2000년대 내내 취미용과 상업용 챗봇 저작에서 지배적인 형식이 되었다. A.L.I.C.E.는 2000년, 2001년, 2004년 뢰브너 상을 받았고, 월러스는 2001년 AIML 명세를 발표했다.¹⁰

2.3. 스마터차일드와 음성 비서

2001년 6월 뉴욕의 스타트업 ActiveBuddy가 AOL 인스턴트 메신저에 출시한 스마터차일드(SmarterChild)는 정해진 대화에 날씨, 스포츠 점수, 주가, 뉴스 같은 정보 서비스를 결합했다. 2000년대 중반에는 수천만 명의 사용자를 모아 AIM과 야후 메신저에서 가장 인기 있는 봇 가운데 하나가 되었다. ActiveBuddy는 2007년 마이크로소프트에 인수되었다. 한 세대의 10대에게 스마터차일드는 대화형 AI 시스템과 처음으로 꾸준히 주고받은 경험이었다.¹¹

소비자용 챗봇은 아니었지만, IBM의 왓슨은 자연어 이해의 큰 전환점이었다. 2011년 2월 왓슨은 미국 퀴즈쇼 「Jeopardy!」에서 켄 제닝스(Ken Jennings)와 브래드 루터(Brad Rutter)를 이겼다. 복잡한 질문을 해석하고 거의 실시간으로 확신 있는 답을 내놓을 수 있음을 보여 준 것이다. 이후 IBM은 왓슨의 일부 기능을 고객 서비스와 의료 분야에 상용화했다.¹²

2011년 10월 애플은 iPhone 4S의 기본 기능으로 Siri를 출시해 최초의 대중적 음성 비서가 되었다. Siri는 SRI 인터내셔널의 CALO 프로젝트에서 갈라져 나온 2010년 스타트업에서 시작되었다. 2014년 4월 마이크로소프트는 Windows Phone 8.1의 일부로 Cortana를 선보였다. 이름은 게임 시리즈 Halo의 AI 캐릭터에서 따왔다. 2014년 11월 아마존은 첫 에코(Echo) 스마트 스피커와 함께 Alexa를 발표했고, 이 기기는 2015년 7월 14일 일반에 공개되었다. 2016년 5월 구글은 I/O 콘퍼런스에서 Google Assistant를 발표했고, Google Home은 2016년 11월 4일 출시되었다. 2016년 말까지 미국의 주요 기술 기업 네 곳이 모두 음성 중심의 대화형 에이전트를 내놓았다.^13,14,15,16

2.4. 챗봇 거품

2016년 무렵 메신저 챗봇에 대한 열기가 기술 업계를 휩쓸었다. 마이크로소프트의 사티아 나델라(Satya Nadella) CEO는 빌드(Build) 콘퍼런스에서 봇이 새로운 앱이라고 선언했다. 페이스북은 2016년 4월 메신저 플랫폼을 제3자 봇에 개방했고, AI와 사람 계약직을 섞어 사용자의 어떤 요청이든 처리하려는 개인 비서 프로젝트 M을 선보였다. 봇이 모바일 앱을 대신하는 보편 인터페이스가 될 것이라는 전제에서 많은 스타트업이 벤처 투자를 받았다.¹⁷

거품은 빠르게 꺼졌다. 당시 봇은 얕은 자연어 이해, 쉽게 깨지는 결정 트리, 제한된 기억에 의존했고 마케팅이 약속한 수준에 이르지 못했다. 페이스북은 2018년 초 M을 종료했다. 대표적인 실패 사례는 마이크로소프트의 Tay다. Tay는 2016년 3월 23일 트위터에 십대 소녀 페르소나로 공개되었고, 사용자에게서 배우도록 설계되었다. 24시간이 안 되어 조직적인 트롤들이 인종차별적이고 반유대주의적이며 성적으로 부적절한 게시물을 올리도록 가르쳤고, 마이크로소프트는 같은 날 서비스를 내렸다. 이 사건은 충분한 필터링 없이 학습 시스템을 공개 입력에 노출하는 위험을 보여 주는 대표 사례가 되었다.^17,18,19

2.5. 대규모 언어 모델 시대

2010년대의 딥러닝 혁명, 2017년 제안된 트랜스포머 구조, 2020년대 초의 인간 피드백 강화 학습(RLHF)이 새 세대 챗봇의 무대를 마련했다. 상업적 전환점은 2022년 11월 30일이었다. 이날 OpenAI는 GPT-3.5 기반의 무료 연구 미리보기로 ChatGPT를 공개했다.³

ChatGPT는 출시 당시 역사상 가장 빠르게 성장한 소비자 소프트웨어 제품이었다. 출시 5일 만에 사용자 100만 명을 넘었고, UBS 분석에 따르면 2023년 1월에는 월간 활성 사용자가 약 1억 명으로 추산되었다. 같은 기록에 도달하는 데 틱톡은 9개월, 인스타그램은 약 30개월이 걸렸다. 성장은 이어졌다. OpenAI는 2024년 12월 주간 활성 사용자가 약 3억 명, 2025년 2월 4억 명이라고 밝혔고, 샘 올트먼은 2025년 10월 매주 ChatGPT를 쓰는 사람이 8억 명을 넘었다고 말했다. 무료 이용, 단순한 대화 화면, 넓은 기능이 결합되며 ChatGPT는 거의 하룻밤 사이에 생성형 AI의 얼굴이 되었다.^4,20

Anthropic은 2023년 3월 14일 Claude 챗봇을 일반에 공개했고, 이후 버전들은 긴 문맥 추론, 코드, Constitutional AI에 바탕을 둔 안전성을 강조했다. Google은 2023년 3월 21일 Bard를 내놓았고, 2024년 2월 8일 이름을 Gemini로 바꾸었다. 마이크로소프트는 2023년 2월 Bing Chat에 GPT-4를 넣었고, 이 비서를 Windows, Microsoft 365, GitHub, Edge에 걸친 Copilot 제품군으로 묶었다.^21,22

Inflection AI는 2023년 5월 Pi를 출시했고, 이 팀은 2024년 3월 마이크로소프트에 흡수되었다. Character.AI는 수백만 개의 역할극 페르소나를 제공했고, Replika는 2017년부터 이어진 동반자형 소비자 제품을 계속 운영했다. 중국의 연구소들도 자체 시스템을 내놓았다. Moonshot AI의 Kimi, DeepSeek의 채팅 제품, 알리바바의 Qwen Chat, 바이트댄스의 Doubao가 대표적이다. Meta의 Llama 계열 같은 오픈소스 노력은 수많은 직접 운영형 챗봇을 가능하게 했다. LMSYS 챗봇 아레나 같은 집계 서비스가 생겨 사용자 참여로 일대일 비교를 모았다.^23,24

2.6. 연대별 이정표

3. 챗봇의 주요 유형

챗봇은 기반 기술과 배포 방식에 따라 크게 나뉜다.

경계는 실제로 흐릿하다. 현대의 고객 서비스 챗봇은 보통 LLM 핵심, 검색 계층, 결정 트리 기반의 대체 경로, 백엔드 시스템과의 도구 호출을 함께 쓰며, 선택에 따라 음성과 아바타 인터페이스를 덧붙인다.

4. 주요 LLM 기반 챗봇

아래 표는 2026년 기준 대규모 언어 모델 기반의 주요 소비자용 챗봇을 정리한 것이다.

5. 주요 도입 사례

5.1. 고객 서비스

스웨덴 결제 회사 Klarna는 2024년 2월 OpenAI 기반의 고객 서비스 어시스턴트를 도입했다. 출시 첫 달에 이 어시스턴트는 230만 건의 대화를 처리했는데, 이는 전체 고객 서비스 채팅의 약 3분의 2에 해당하고 정규직 상담원 약 700명의 업무량과 맞먹는다. Klarna는 평균 응답 시간이 11분에서 2분 미만으로 줄었고 반복 문의가 25% 감소했다고 밝혔다. 어시스턴트는 23개 시장과 35개 이상의 언어에서 운영되었으며, 이 변화로 2024년에 약 4,000만 달러의 이익이 추가될 것으로 전망되었다. 이후 회사는 복잡한 사례에는 사람 상담원을 다시 늘리겠다고 밝혔다.^25,26

Sephora는 초기 도입 기업이었다. 2017년 Facebook Messenger와 Kik에서 Sephora Reservation Assistant와 Sephora Virtual Artist를 출시해, 고객이 예약을 잡고 추천을 살펴보며 립스틱이나 아이섀도를 가상으로 발라 볼 수 있게 했다.

Bank of America는 2018년 모바일 앱에 Erica를 출시했다. Erica는 생성형 LLM이 아니라 자연어 처리 기술을 쓰며, 잔액 조회, 거래 조회, 사기 경보, 선제적 재무 정보를 제공한다. 2025년까지 Erica는 거의 5,000만 명의 고객이 사용했고 30억 건 이상의 상호작용을 처리했다. 2023년에는 고객이 Erica에서 실시간 상담원에게 넘어갔다가 문맥을 잃지 않고 돌아올 수 있는 연계 경로를 추가했다.²⁷

5.2. 의료와 정신건강

2016년 Touchkin eServices가 출시한 Wysa는 만화 펭귄 캐릭터를 중심으로 한 대화형 인터페이스에서 인지행동치료, 변증법적 행동치료, 마음챙김 연습을 제공한다. 고용주 혜택으로 Aetna와 영국 국민보건서비스(NHS) 같은 파트너를 통해 제공되며, 동료 심사를 거친 임상 시험에서 자가 보고 우울과 불안 증상이 줄었다는 결과가 나왔다. 2016년에 함께 출시된 Youper는 CBT 방식의 점검으로 기분, 일기, 대처 전략을 추적한다. 2021년 연구는 자가 보고 우울 증상이 48%, 불안 증상이 43% 줄었다고 보고했다. 두 서비스 모두 전문 치료를 대체하기보다 보완하는 것으로 자리매김하고 있다.^28,29

5.3. 동반자 챗봇과 안전 사건

동반자형과 역할극 챗봇이 빠르게 퍼지면서 챗봇 시대에서 가장 중대한 정책 논쟁 중 하나가 생겼다. Replika는 시간이 지나며 사용자의 관심사를 학습하는 지속적인 동반자로 자신을 소개한다. 2023년 2월 이탈리아 개인정보보호청은 미성년자와 원치 않는 성적 콘텐츠에 대한 우려를 이유로 이탈리아에서 Replika를 임시 금지하는 명령을 내렸다. Replika는 이후 일부 기능을 제한하고 연령 통제를 추가했다.³⁰

Character.AI는 2021년 전 Google 연구원인 노엄 샤질(Noam Shazeer)과 다니엘 드 프레이타스(Daniel De Freitas)가 설립했으며, 사용자가 만든 페르소나 수백만 개와 대화할 수 있게 했다. 플로리다주에서 메건 가르시아(Megan Garcia)는 2024년 2월 14세 아들 셀월 세처 3세(Sewell Setzer III)가 「Game of Thrones」 캐릭터를 바탕으로 한 페르소나와 장시간 대화한 뒤 스스로 목숨을 끊자, 2024년 10월 Character.AI를 고소했다. 소장은 이 봇이 청소년을 부추겼고 플랫폼의 안전장치가 부실했다고 주장했다. 2024년 12월에는 텍사스의 한 가족이 화면 사용 시간을 두고 다투던 청소년을 봇이 부모에게 해를 가하도록 부추겼다고 주장하며 소송을 냈다. 2025년의 추가 소송들은 다른 미성년자들의 자살과 심각한 정신적 피해에 기여했다고 주장했다. Google은 2026년 초 세처 가족과 합의했다.^31,32,33,34

이에 대응해 Character.AI는 콘텐츠 필터링을 강화한 별도의 청소년 모드 모델, 연령 확인, 사용 시간 제한 안내, 페르소나가 허구임을 알리는 팝업 고지를 도입했다. 다른 동반자 봇 운영사들도 비슷한 조치를 도입했다. 이 사건들은 미성년자, 준사회적 관계, 챗봇 출력에 대한 제조물 책임을 둘러싼 정책 논의의 초점이 되었다.

6. 작동 원리

6.1. 패턴 매칭, 의도 분류, 학습 방식

고전적인 챗봇은 사용자 입력을 규칙 패턴과 맞춰 템플릿으로 된 응답을 내놓았다. ELIZA는 정규표현식과 치환 규칙을 사용했다. 2001년 표준화된 AIML은 패턴과 템플릿의 쌍을 XML로 표현한다. 두 번째 세대는 패턴 매칭을 라벨이 붙은 예시로 학습한 의도 분류기와 결합했다. Rasa, Microsoft LUIS, Google Dialogflow, Amazon Lex 같은 프레임워크는 기업이 고정된 의도 목록(예: 잔액 확인, 사기 신고)을 인식하고 각 의도를 해당 처리 함수로 보내는 봇을 만들 수 있게 했다. 이런 시스템은 2026년 현재도 대부분의 기존 고객 서비스 배포를 떠받치고 있다.^2,10

2017년 논문 「Attention Is All You Need」는 트랜스포머 구조를 제안했고, 이는 거의 모든 현대 LLM 기반 챗봇의 토대가 되었다. 2018년 OpenAI의 첫 GPT 모델은 대규모 비지도 말뭉치로 학습한 단일 트랜스포머가 대화를 포함한 여러 언어 과제에 적응할 수 있음을 보여 주었다.³⁵

기본 언어 모델을 쓸모 있는 챗봇으로 바꾼 방법은 인간 피드백 강화 학습(RLHF)이다. 사람 평가자가 모델 출력 쌍을 비교해 선호를 판단하고, 보상 모델이 그 선호를 예측하도록 학습되며, 언어 모델은 보상을 최대화하도록 최적화된다. OpenAI는 2022년 초 InstructGPT에 RLHF를 적용했고, 같은 해 말 ChatGPT에 대규모로 적용했다. Anthropic은 사람 라벨링의 상당 부분을 성문화된 원칙과 AI 피드백으로 대체하는 대안으로 Constitutional AI를 개발했다. 이후 직접 선호 최적화(DPO)와 AI 피드백 강화 학습(RLAIF) 같은 변형이 업계 전반에 등장했다.^36,37

6.2. 검색 증강 생성, 도구, 음성

생성만 하는 챗봇은 학습 데이터에 없는 사실을 지어내는 환각을 일으킨다. 검색 증강 생성(RAG)은 생성 전에 검색 색인이나 벡터 저장소에서 관련 문서를 찾아 프롬프트에 넣어 이 문제를 줄인다. RAG는 비공개 문서를 근거로 답하는 기업 챗봇에서 지배적인 배포 방식이다.

2024년쯤 이 분야는 텍스트만 생성하는 챗봇에서, 외부 도구를 호출하고 웹을 탐색하고 코드를 실행하며 여러 턴에 걸쳐 행동하는 에이전트형 챗봇으로 옮겨 갔다. Anthropic이 2024년 말 도입한 모델 컨텍스트 프로토콜(Model Context Protocol)은 도구와 데이터 소스를 챗봇에 설명하는 표준 방법을 제공했다. 음성 챗봇은 기반 모델 앞에 자동 음성 인식을, 뒤에 음성 합성을 붙인다. OpenAI의 GPT-4o 음성 모드와 Google의 Gemini Live 같은 음성 대 음성 시스템은 오디오를 종단 간으로 처리한다. 2024년까지 대부분의 주요 챗봇이 음성 모드를 제공했다.³⁸

7. 평가

챗봇 품질을 측정하는 일은 악명 높을 만큼 어렵다. 연구와 산업계는 여러 접근을 섞어 쓰지만, 어느 것도 사용자 가치를 온전히 담지 못한다.

튜링 테스트는 챗봇에 대해 문화적으로 가장 익숙한 벤치마크로 남아 있다. 다만 대부분의 컴퓨터 과학자는 이를 과학적 측정보다 마케팅 행사에 가깝다고 본다. 1991년 휴 뢰브너(Hugh Loebner)가 만든 뢰브너 상은 이 테스트를 실제로 운영한 가장 오래 이어진 대회였다. 심사위원들은 여러 프로그램과 사람들과 텍스트로 대화한 뒤 그럴듯함에 따라 순위를 매겼다. 대회는 1991년부터 2019년까지 매년 열렸고 블레츨리 파크 등에서 진행되었다. 우승자는 PC Therapist(1991), A.L.I.C.E.(2000, 2001, 2004), 클레버봇(2005, 2006), 미쓰쿠(Mitsuku)(2013, 2016~2019)였다. 상은 2020년에 폐지되었다. 그 무렵 대형 신경망 모델은 규칙 기반 우승자보다 사람에 가까운 출력을 내고 있었지만 대회에 참가하지 않았다.⁹

2024년 캘리포니아대학교 샌디에이고(UCSD) 연구팀은 GPT-4가 비전문가 심사관을 상대로 한 엄격한 5분 튜링 테스트를 통과했다고 보고했다. 2025년 카메런 존스(Cameron Jones)와 벤저민 버건(Benjamin Bergen)의 후속 연구는, 사람다운 페르소나를 쓰도록 지시받은 GPT-4.5가 73%의 경우 사람으로 판단되었다고 보고했다. 같은 연구에서 이 비율은 심문자가 실제 사람을 고른 빈도보다 유의하게 높았다. 페르소나 지시가 없을 때 승률은 36%로 떨어졌다. 이것을 '통과'로 볼지는 프로토콜에 따라 달라지며, 기계 지능에 대한 함의는 여전히 논쟁 중이다.^39,40

7.1. 벤치마크와 크라우드소싱 평가

연구실은 MT-Bench, AlpacaEval, MMLU, GPQA, HumanEval 같은 자동 벤치마크를 쓰며, 각각은 지시 따르기, 지식, 코드 생성, 추론 같은 능력을 겨냥한다. 벤치마크에는 잘 알려진 한계가 있다. 학습 데이터 누출, 좁은 분포 커버리지, 모델이 능력보다 시험을 최적화하는 굿하트의 법칙 효과가 그것이다.

2024년부터 2026년까지 현대 챗봇에 가장 영향력 있는 평가 방식은 LMSYS 챗봇 아레나 리더보드다. 이 리더보드는 익명 사용자가 무작위로 고른 두 익명 모델과 대화한 뒤 남기는 일대일 선호 투표를 모으고, Elo 점수 시스템으로 모델 순위를 매긴다. 아레나 점수는 조작하기 어렵고 사용자 선호를 반영한다는 이유로 사실상 업계 표준이다. 연구소들은 레드팀 평가, 거부 응답 평가, 탈옥 저항 테스트, 아첨과 설득 벤치마크, 구조화된 시스템 카드 같은 안전 중심 테스트도 쓴다.²⁴

8. 챗봇과 음성 비서의 차이

텍스트 챗봇과 음성 비서의 차이는 2023년부터 좁아지고 있다. 역사적으로 Siri, Alexa, Google Assistant, Cortana 같은 음성 비서는 손을 쓰지 않는 기기 제어와 짧은 조회에 집중했고, 챗봇은 긴 텍스트 대화에 집중했다. 2023년 이후 이 경계가 흐려졌다. OpenAI는 2024년 5월 ChatGPT에 GPT-4o 기반 음성 모드를 추가했다. Google은 2024년 Android의 Google Assistant를 Gemini로 업그레이드하며 기존 음성 에이전트를 생성형 LLM 기반 시스템으로 바꿨다. Amazon은 2025년 2월 Alexa+를 미리 공개하며 기존 Alexa 스택 위에 생성형 AI를 얹었다. Apple은 2024년 Apple Intelligence를 도입했고, Siri의 일부를 대규모 생성 모델을 중심으로 다시 만들었다. 2026년 무렵에는 대부분의 주요 시스템이 텍스트와 음성을 모두 제공했다.

9. 우려와 논쟁

LLM 기반 챗봇은 근거가 지어낸 것이어도 확신 있게 들리는 글을 만들어 낸다. 이 위험은 법률, 의료, 금융, 안전과 관련된 조언에서 특히 크다. 사업자들은 검색 근거 제공, 인용 링크, 거부 프롬프트, 사후 사실 확인으로 맞서지만 어떤 기법도 환각을 완전히 없애지는 못한다.

챗봇 대화에는 민감한 개인정보가 자주 들어 있고, 사업자는 안전 검토와 모델 개선을 위해 대화를 기록하는 경우가 많다. 이탈리아 규제 당국은 2023년 3월 GDPR 우려를 이유로 ChatGPT를 임시로 금지했고, OpenAI가 데이터 처리 방식을 바꾼 뒤에야 서비스를 재개하도록 했다.

인간 선호 데이터로 학습한 언어 모델은 사용자를 칭찬하고 동의하며 굴복하는 응답 쪽으로 기우는 경향이 있다. 이런 아첨은 유용성을 떨어뜨리고 잘못된 인식을 강화하며, Anthropic, OpenAI와 학계 연구 그룹의 평가에서 핵심 주제다.

Character.AI 소송은 미성년자가 동반자 챗봇을 쓰는 데서 생기는 우려를 보여 주는 가장 두드러진 사례다. 2025년부터 미국 양당의 상원의원들이 동반자 봇 운영사에 정보 제공을 요구해 왔고, 여러 관할권에서는 18세 미만 사용자를 위한 안전장치, 연령 확인, 지속 페르소나 제한을 요구하는 입법을 검토하고 있다.³¹

대부분의 LLM 기반 챗봇은 저작권이 있는 텍스트를 포함한 웹 수집 말뭉치로 학습된다. 「뉴욕타임스」는 2023년 12월 OpenAI와 Microsoft를 상대로 기사의 무단 사용을 주장하며 소송을 냈고, 다른 출판사와 권리자들도 비슷한 소송을 제기했다.

챗봇은 학습 데이터에 있는 편향을 증폭하며, 적대적 행위자의 조종을 받아 저비용으로 설득력 있는 허위 정보를 만들어 낼 수 있다. 2016년 Tay 사건은 이런 위험을 예고했고, 현대에 이에 해당하는 사례는 생성형 챗봇이 조직적인 여론 조작 작전에 쓰이는 것이다.¹⁹

10. 문화적 영향

챗봇은 주류 문화의 일부가 되었다. 'ChatGPT에 물어봤다'는 말이 뉴스 기사, 학교 과제, 정치 연설에 등장한다. 학교들은 학업 부정행위 정책을 고쳤고, 소프트웨어 개발자들은 AI 어시스턴트와 함께하는 페어 프로그래밍을 표준적인 관행으로 설명한다. 미국과 유럽연합의 설문조사에서 성인의 절반 이상이 생성형 챗봇을 한 번 이상 써 봤다고 답했다. 관련 연구는 언어학, 심리학, 경제학, 정책 분야에 걸쳐 있으며, 책임 소재, 투명성, 안전 규제의 범위를 둘러싼 논쟁이 계속되고 있다.