‘AI의 공감 격차: 생성형 및 대화형 AI 시대에 아이들을 안전하게 지키기'(강연자: Nomisha Kurian, 케임브리지대학교 사회학과 부교수)라는 제목의 온라인 세미나가 영국 에딘버러대학교 디지털교육연구센터(Centre for Research in Digital Education) 주최로 한국 시각 3월 26일(화) 밤 11시에 열립니다.
관련 정보: https://www.de.ed.ac.uk/event/ais-empathy-gap
티켓은 무료이며, 아래 링크에서 예약하실 수 있습니다.
*예약을 하는 과정에서, 이 행사를 어떻게 진행하면 더 도움이 되겠느냐는 질문이 있어서, Zoom에서 Live Translation & Transcription 앱인 EventCAT 등을 사용해, 한국어를 비롯한 다국어 번역 지원을 해 주면 더 좋겠다고 의견을 남겼습니다. 예약하시는 분들이 같은 의견을 지속적으로 남겨주시면 좋지 않을까 합니다.
아래는 DeepL로 번역한 강연 초록과 강연자 약력입니다.
[강연 초록] 오늘날 어린이들은 클릭 한 번으로 인공지능과 ‘채팅’을 할 수 있습니다. 대규모 언어 모델의 급속한 발전과 생성 및 대화형 AI에 대한 과학적, 교육적 관심이 급증하면서 어린이의 안전에 대한 중요한 질문이 제기되고 있습니다. 이 강연에서는 AI를 ‘공감의 격차’로 구성되는 것으로 개념화하여 의인화의 위험부터 자연어 처리의 결함에 이르기까지 어린이의 관심사에 대한 주요 위험을 고려하는 아동 중심의 AI 접근 방식에 초점을 맞추고 있습니다. 따라서 이 강연에서는 아동 복지에 대한 AI의 연구가 미흡한 결과를 지적하고, 아동 보호의 윤리적 의무를 강조하며 책임감 있는 아동 중심 AI 설계를 위한 사회기술적 옹호를 강조합니다. 이 보고서는 여러 차원의 정책과 실무에서 교육자와 연구자가 고려해야 할 구체적인 실무적 고려 사항을 제시하며 마무리됩니다.
[강연자 약력] Nomisha Kurian 박사는 케임브리지대학교 ‘레버헐름 지능의 미래 센터’의 교육 부교수 겸 부연구위원입니다. 아동 복지를 전문으로 연구하며 현재 인공지능의 혁신이 아동의 복지와 발달에 미치는 영향을 조사하고 있습니다. 그녀는 최근 ‘실제 적용이 가능한 뛰어난 연구’로 캠브리지 응용 연구상을 수상한 최초의 교육 연구자가 되었으며, 최근에는 캠브리지 부총장의 사회적 영향력상을 수상하기도 했습니다. 이전에는 예일대학교 헨리 펠로우로서 국제 인권법을 활용하여 소외된 아동을 위한 집단 따돌림 방지 프레임워크를 설계했습니다. 그녀의 연구는 가장 최근에는 옥스포드 리뷰 오브 에듀케이션, 영국 교육 연구 저널, 국제 인권 저널에 게재되었습니다. 케임브리지 대학교 웰빙과 포용 특별 관심 그룹의 공동 의장을 맡고 있으며, 이전에는 케임브리지 평화와 교육 연구 그룹의 공동 의장을 역임했습니다.
Nomisha Kurian 교수의 연구를 검색해 보니, 이번 온라인 강연 주제가 최근 학술지에 발표된 것을 찾을 수 있었습니다.
초록의 내용이 흥미로워, DeepL로 번역한 것을 아래에 옮깁니다. 한국에서는 아직 이와 같이 어린이 교육 분야에서의 AI 활용에 대해 비판적인 관점에서 이루어진 실제적인 연구를 찾아보기 어렵습니다. 지속적으로 진화하는 디지털 환경에서 새로운 기술로부터 어린이와 청소년들이 얻을 수 있는 교육적 기회와 혜택에 대해서도 관심을 가져야 하지만, 교육 분야 AI의 도입이 갖는 위험성에 대해 알리는 연구와 담론에 대해서도 주목하며, 신중한 접근이 필요하다고 생각합니다.
저도 계속 찾아보며 공부 중입니다. 앞서 소개한 온라인 강연을 듣기 전에 미리 읽어보시면 좋을 것 같습니다.
[논문 초록] 급속한 기술 발전으로 어린 아이들도 인공지능(AI)과 ‘대화’하는 것이 그 어느 때보다 쉬워졌습니다. 교육과 엔터테인먼트를 아우르는 대화형 AI 모델에는 유아 교육 및 보육을 위해 특별히 설계된 모델뿐만 아니라 유아를 위해 설계되지는 않았지만 어린이가 쉽게 접근할 수 있는 모델도 포함됩니다. 따라서 클릭 한 번으로 AI와 대화할 수 있는 상황에서 어린이 복지(wellbeing)에 미치는 윤리적 영향을 비판적으로 분석하는 것은 매우 중요합니다.
이 콜로키움에서는 공감을 모방하도록 설계된 AI 시스템의 특징인 ‘공감 격차’를 지적하고, 아동 복지에 대한 불규칙하거나 부적절한 반응의 위험성을 설명합니다. 또한 대화형 AI가 어떻게 어린이의 정서적 요구에 적절히 대응하지 못할 수 있는지, 학습 데이터에 의해 결정된 사전 정의된 맥락 내에서 작동하는 AI의 자연어 처리의 한계를 추적하면서 주요 사회적, 기술적 우려에 대해 논의합니다. 대화형 AI는 패턴과 데이터 연관성을 인식하는 데 능숙하지만, 비정상적인 말 패턴, 상상력이 풍부한 시나리오 또는 어린이들의 의사소통에서 흔히 볼 수 있는 장난스럽고 비문자적인 언어에 직면했을 때 흔들릴 수 있습니다. 또한 사회적 편견이 AI 학습 데이터에 침투하거나 대화형 AI의 결과물에 영향을 미쳐 안전하고 차별 없는 환경에 대한 아동의 권리를 훼손할 수 있습니다.
따라서 이번 콜로키움에서는 아동을 보호하고 책임감 있는 아동 중심 설계의 윤리적 의무를 강조합니다. 이 콜로키움에서는 유아 교육 및 보육 분야의 대화형 AI에 대한 정책, 관행 및 비판적 윤리적 성찰을 위한 일련의 실질적인 고려 사항을 제시하며, 투명한 의사소통, 지속적인 평가 및 아동의 복지를 우선시하는 강력한 가드 레일의 필요성을 강조합니다.
정현선 (Hyeon-Seon Jeong) 