학부모와 학생들이 수요일 미국 7개 도시에서 집회를 열고, Google이 학교 Chromebook에 Gemini를 넣으려는 데 항의했다. 집회가 열린 곳은 보스턴, 콜로라도주 볼더, 시카고, 로스앤젤레스, 뉴욕, 오리건주 포틀랜드, 노스캐롤라이나주 더럼이다.
발단은 Google이 한 주 전에 낸 입장이다. 학생이 AI 없이 Google 검색을 쓸 방법은 없다는 내용이다. Google은 Search, Gemini, Gemini Notebook을 기본으로 꺼 두므로 학교에 선택권을 줄이는 것이 아니라 더 준다(more choice, not less)고 주장했다. 다만 AI 없는 검색 옵션은 제공하지 않는다. 학부모들은 학생이 AI를 피하려면 모든 검색어에 "-ai"를 붙이는 수밖에 없다고 우려했다.
시카고 집회 현장
시카고에서는 차갑고 비 오는 날씨에도 수십 명이 Google 시내 사무실까지 행진했다. 가장 많이 모였을 때 약 60명이 사무실 밖에 섰고, 참가자들은 "Hey Google, nice try, we don't want your Gemini" 같은 구호를 외쳤다. 'No Google + No AI = Win/Win'이라고 적은 팻말은 Google을 학교에서 내보내겠다는 뜻을 담았다. 한 어린이는 "I like to read!!"라고 쓴 종이를 들었다.
집회를 부른 단체는 비영리 풀뿌리 단체인 Illinois Families for Public Schools(ILFPS)다. ILFPS는 8월 시카고 공립학교(CPS)를 압박해, 학부모와 상의 없이 전체 고등학생을 대상으로 하려던 Gemini 시범 사업에서 빠지게 한 적이 있다. 이번에는 학생에게 미치는 위험이 충분히 파악되고 CPS가 학습 피해를 막을 정책을 마련할 때까지 AI 모라토리엄(유예)을 요구한다. 이 요구가 받아들여지면 시카고는 학교에서 AI를 신중히 금지한 로스앤젤레스, 뉴욕 같은 도시에 합류한다.
CPS 학생 Reese Mackey는 학생 대표로 연설했다. AI 활용 능력(AI skills)이 없으면 학생이 뒤처지고 일자리를 찾기 어렵다고 내세우며 AI를 밀어붙이는 Google에 장기적 피해를 더 신중히 따지라고 요구하며 "우리 정신의 미래는 어떻게 되느냐"고 물었다. 재선된 CPS 교육위원 Karen Zaccor는 시내 대학과 지역 대학 관계자들과 이야기한 뒤 AI 중단을 추진하고 있다. 이 대학들은 CPS 졸업생의 읽기, 수학, 쓰기 실력이 눈에 띄게 떨어졌다고 전한 것으로 알려졌다.
13세 학생의 소송
학부모들이 가장 크게 우려하는 것은 더럼의 13세 학생이 가명 "Emma Doe"로 Google을 상대로 낸 소송이 제기한 내용이다. 소장에 따르면 Emma는 학교에서 받은 Chromebook으로 Gemini를 쓰기 시작했을 때 밝고 적응도 잘하는 전 과목 A 학생이었다. 부모는 아이가 Gemini를 쓰는 줄 몰랐고, 소송은 Google이 이를 "고의로" 알리지 않은 채 아이를 이른바 "AI 정신병"으로 몰아넣었다고 주장한다.
소장은 학교 과제 관련 대화가 점차 강도 높은 대화로 이어졌고, 결국 챗봇이 Emma에게 자살과 장례를 계획하도록 부추겼다고 주장한다. 학교 내부 시스템이 "Funeral"이라는 제목의 대화를 표시하자 학교가 부모에게 경고했고, 위험은 피했다. 소송은 Google이 교육 기술 시장의 지배적 지위를 이용해 Gemini를 Chromebook에 "몰래" 넣고도 안전하다고 허위로 홍보했다고 주장한다. 또 결함 있는 설계가 부모 몰래 아첨하는 챗봇 대화를 반복하게 했다고 적었다. Emma 사건에서는 Google이 채팅 기록을 숨겼고 학교가 안전 기록을 내주지 않았다는 주장도 나와, AI가 교육에 이롭기보다 해롭다고 이미 보던 학부모들이 더 좌절했다.
학생 데이터를 둘러싼 불투명성
Ars Technica는 Google이 학부모의 우려에 내놓은 해명이 문서로 확인된 학습 피해에만 집중한다고 평가했다. AI가 학생의 비판적 사고력을 약화한다는 지적에는 새 시범 사업을 내놓았다. AI Mode와 AI Overviews를 쓰는 학생에게 "학생이 과제의 답을 바로 얻지 못하도록" 문제를 단계별로 안내하는 학습을 제공한다는 내용이다. Google은 교육자와 계속 협의해 학교에 "더 많은 선택권과 통제, 개선된 학습용 검색"을 주겠다고 약속했다.
ILFPS 사무국장 Cassie Creswell은 10년 넘게 교육 기술 문제를 지켜봤지만 이번 Google의 움직임에는 허를 찔렸다고 말했다. CPS 학교의 모든 Chromebook에서 Gemini와 챗봇 방식으로 대화할 수 있는 화면이 있는 줄 몰랐다며 "너무 불안하다"고 했다. 아이들이 휴대전화로 AI를 접한다고 해서 학교가 어린 나이부터 AI 사용을 권장해도 되는 것은 아니라고도 했다.
Creswell에 따르면 CPS는 학생이 생성형 AI 도구를 쓰지 못하며, 안내서가 있으므로 교육구 차원의 생성형 AI 정책이 필요 없다는 공식 입장이다. 그러나 Creswell이 정보공개법으로 확보해 검토한 Google과의 계약은 학생이 생성형 AI와 최첨단 모델을 쓰고 있음을 시사한다. 수십 건의 계약서에도 Google, Anthropic, OpenAI 등 CPS 협력사가 학생 데이터를 어떻게 처리하는지 나와 있지 않다고 한다. Creswell이 확인한 바로는 CPS가 Google과 계약한 때는 Gemini가 나오기 훨씬 전인 2020년이고, 이후 두 차례 연장하면서도 AI 발전에 맞춘 개인정보 보호 조항을 넣지 않았다. Emma Doe 소장은 Google이 2007년부터 학교에서 지배적 위치를 차지해 왔고 이를 이용해 AI를 아이들에게 밀어붙이며 데이터를 가져간다고 주장한다.
Google Workspace for Education의 개인정보 정책은 Core Services로 받는 고객 데이터를 학교의 지시에 따라 처리한다고 밝힌다. Google은 이 서비스에서 이뤄진 활동의 데이터와 함께 이름, 이메일, 비밀번호 같은 계정 정보와 위치 정보를 수집한다. 정책은 Gemini를 다루지 않으며, Core Services 데이터는 서비스 유지와 맞춤화, 보안 강화에 쓰인다고만 적었다. 부가 서비스(Additional Services)에서 모은 데이터는 서비스 제공과 개선, 신규 서비스 개발, 맞춤 서비스 제공 등에 쓰인다고 한다. Creswell은 "-AI"를 붙여 검색해도 검색 데이터와 반환 결과가 사실상 생성형 AI 모델 안에 있다고 보고, 어떤 데이터가 저장되는지 "매우 불분명하다"고 말했다. Google이 Search에 AI를 떼어낼 수 없게 넣었다는 설명이 "아마 솔직한 사실 진술"일 것이라고 이해하면서도, 아이들 데이터가 어떻게 Google 모델에 들어가는지 학부모가 알 권리가 있다고 했다. 일리노이주 법은 비식별 데이터만 상업적으로 쓰도록 허용하는데, 학부모들은 Google이 아이들을 다시 식별할 수 없게 하는 조치를 분명히 설명하라고 요구한다. 학교에서 수집한 아이들 데이터를 상업적 목적에 쓰면 안 된다는 것이 Creswell의 입장이다.
Ars Technica는 Google에 Creswell의 해석이 맞는지, 그리고 검색어마다 "-ai"를 붙이는 것과 이를 자동으로 붙이는 버튼 사이에 의미 있는 차이가 있는지 물었다. Google은 이에 답하지 않았고, 학교가 Gemini 앱, Gemini Notebook, Search 접근을 각각 끌 수 있다는 점만 강조했다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.
