한국 외교부가 주최한 ‘제3차 민주주의 정상회의’의 ‘시민사회 및 청년의 날'(코엑스, 2024.3.19.) 행사의 일환으로 개최된 <AI 디지털 교과서 개발 정책의 프라이버시와 감시 이슈 > 패널의 기록입니다. 이 내용은 이 패널을 조직한 사단법인 오픈넷(OpenNet)의 유튜브 채널에서 다시 보실 수 있고, 자료집은 오픈넷의 홈페이지에서 내려받으실 수 있으며, 영어로 작성된 패널 소개 내용도 보실 수 있습니다.

이 패널은 교육부가 추진하고 있는 초등학교 3학년 이상의 학교 교육에 ‘AI 디지털 교과서’를 도입하고 이를 단계적으로 확대하고자 하는 정책(2025년 수학, 영어, 정보기술, 국어(특수교육) 등의 과목에 우선 적용)에 대해, 정보 주체로서 학생의 프라이버시 침해 및 감시라는 쟁점을 중심으로 정보 인권의 측면에서 문제를 제기하기 위해 기획되었습니다.

‘AI 디지털교과서’ 정책을 추진하고 있는 교육부와 한국교육학술정보원은 AI 디지털 교과서를 “학생 개인의 필요와 능력에 맞는 다양한 개인 맞춤형 학습 기회를 제공하기 위해 인공지능 및 기타 정보기술을 활용한 다양한 학습 자료와 학습 지원 기능을 포함하는 소프트웨어”로 정의하고 있습니다. AI 디지털 교과서의 상용화는 학생들이 생산하는 데이터가 플랫폼에 탑재되는 것이므로 학생들의 개인정보가 수집될 것임을 의미합니다. AI 기술을 학교 현장에 도입하는 정책에는 학생의 프라이버시, 보안, 감시의 위험으로부터 아동 청소년이 보호받을 수 있는 제도적 장치(예산 및 전문 인력 배치 등)가 포함되어야 합니다. 그러나 AI 디지털교과서 정책의 추진 속도에 비해 아동의 프라이버시의 침해를 최소화할 수 있는 안전설계 정책은 부재하고 있는 상황입니다.

또한, AI 및 디지털 기술을 전면적으로 수업에 도입하는 방식으로 이루어지는 학교 교육에 반대하거나, 이로 인한 자녀의 건강한 발달을 우려하는 학생, 교사, 학부모의 학습권도 제대로 고려되지 않고 있습니다. 이 토론에서는 교육 전문가, AI 디지털 교과서 개발 정책 담당자, 법률 전문가, 기술 전문가가 참여해 AI 디지털 교과서 개발 정책의 진행상황을 점검하고자 했습니다. 패널들은 개발 과정에서 우선적으로 논의해야 할 구체적인 우려사항과 아동의 디지털 권리, 특히 개인정보보호와 보안을 최우선으로 하는 기술 개발 등 필수 고려사항에 대해 논의하고 아이디어를 제시하였습니다.

<AI 디지털교과서 개발 정책의 프라이버시와 감시 이슈>

일시: 2024년 3월 19일(화) 오후 2시~3시 30분

장소: 코엑스 E1

주최: 사단법인 오픈넷, 고려대 인터넷법클리닉

– 사회: 오경미(사단법인 오픈넷 연구원)

– 발표: 정현선(경인교육대 교수)

– 토론:
고우현(세이브더칠드런 선임매니저)
손주은(고려대 법학전문대학원 인터넷법클리닉)
조경숙(소프트웨어공학자, 테크페미 활동가)
표지우(고려대 법학전문대학원 인터넷법클리닉)