AI 활용 교육을 교육부에서 강하게 추진하고 있는 한국에서는 거의 논의되지 않았지만, 학습용으로 학교에서 사용되고 있는 구글 크롬북의 구글 검색 엔진에 AI가 도입된 것에 대해 유럽을 비롯한 해외에서는 상당한 문제 제기가 진행되어 왔다. 이에 대해 누가 동의했는가? 왜 구글은 이런 결정을 어떤 교육적 영향에 대한 평가도 없이 밀어붙이고 있는가? 이에 대해서는 디지털 기기를 학교에서 사용하고 있는 한국의 교육부와 각 시도 교육청에서도 짚어보아야 할 것이다.
그런 와중에 학교에서 크롬북을 사용하면서 구글 AI와 대화를 나눈 13세 학생이 스스로 목숨을 끊을 계획을 세웠다는 내용의 소송이 캘리포니아 고등법원에 제기되었다는 뉴스가 보도되었다. 초등학생들에게까지 무분별하게 생성형 AI 사용을 부추기는 것에 대한 부모들과 교사들의 거부 운동이 시작된 이 시점에서, 빅테크 기업이 이처럼 학교에서의 AI 사용을 강제하는 행위에 대해 교육당국도 제대로 실태를 조사하고 대응에 나서야 하는 것이 아닐까?
다음은 이에 관한 뉴욕타임즈 11월 5일자 기사의 내용 중 일부이다.
기사 원문 바로가기: 클릭
“학교에서 지급한 크롬북 노트북을 통해 수개월간 구글의 인공지능(AI)과 대화를 나눈 13세 학생이 스스로 목숨을 끊을 계획을 세웠다는 내용의 소송이 월요일 캘리포니아주 고등법원에 제기되었다. 이는 거대 기술 기업(빅테크)이 청소년에게 미치는 영향과 관련해 최근 잇따르고 있는 소송 중 하나이다. ‘엠마(가명)’라고 지칭된 이 학생의 부모는, 학교 측으로부터 딸이 자해의 ‘임박한 위험’에 처해 있다는 경고 메시지를 받은 3월 중순경, 딸이 구글 AI를 이용할 수 있었다는 사실을 처음 알게 되었다.
소장에 따르면, 엠마의 어머니는 딸의 학교용 구글 계정에 로그인했다가 딸이 구글 문서(Google Docs)에 유서를 작성하고 있는 것을 발견했다. 소송에서 ‘존 도(John Doe)’와 ‘제인 도(Jane Doe)’라는 가명으로 표기된 부모는 즉시 엠마를 데리고 응급 정신과 진단을 받으러 갔으며, 현재 엠마는 매주 심리 치료를 받고 있다. 노스캐롤라이나주 샬럿에 거주하는 7학년 학생 엠마는 구글 검색에 포함된 챗봇 형태의 기능인 ‘AI 모드(AI Mode)’와 상호작용한 후, 자신이 여러 정신 건강 장애를 앓고 있다고 확신하게 되었다고 소장은 밝혔다. 또한 엠마는 ‘유서란 무엇인가’를 검색하거나, AI에게 “내 장례식을 계획하고 있다”와 같은 말을 건네기도 했다고 소장은 전했다.
이번 소송은 구글이 미국 교육구들을 통해 수백만 명의 아동에게 보급된 ‘크롬북’ 내 자사 앱들에 AI 기능을 ‘성급하게 도입’하면서도, 그 잠재적 위험성에 대해 학부모들에게 알리지 않았다고 주장하는 첫 사례가 될 것으로 보인다. 이러한 주장은 실리콘밸리 기업들이 청소년들을 소셜 미디어 앱, 비디오 게임, AI 챗봇에 중독시켜 아이들을 위험에 빠뜨리고 있다는 대중의 커지는 우려를 더욱 가중시키고 있다.”
(…)
“이번 주 구글은 2027년 초에 초중고 학교에서 ‘제미니(Gemini)’ AI 도구와 검색 기능을 포함한 특정 AI 앱 및 기능을 자동으로 비활성화할 계획이라고 밝혔다. 검색 기능을 다시 켜기로 선택한 학교는 두 가지 옵션 중 하나를 선택할 수 있다. 하나는 구글이 이미 검색 기능에 내장해 놓은 AI 기능을 학생들이 이용할 수 있도록 허용하는 것이고, 다른 하나는 학생들의 학업 수행을 돕기 위해 고안된 새로운 AI 기능을 제공하는 것이다. 구글의 한 임원은 “검색과 AI가 깊이 통합되어 있다”는 이유로, 학교 측에 검색 기능 내 AI를 비활성화할 수 있는 옵션을 제공하지 않는다고 설명했다.”
