지난 2023년 6월 교육부에서는 ‘AI 디지털 교과서’ 정책을 발표하고 추진 중입니다. 그런데 ‘AI 디지털 교과서’는 학습 자료와 교재를 뜻하는 ‘교과서’에 그치는 것이 아니라, 실제로는 학생의 학습 과정과 결과 및 이에 대한 평가를 포함한 교수학습평가 시스템을 포함하는 디지털 플랫폼의 성격을 지닙니다. 이 점을 아는 분들이 생각보다 많지 않은 것 같습니다.

AI 디지털 교과서 추진 방안(교육부, 2023.6.): 바로 가기

이와 관련하여 “감시의 시대”라는 10분 정도의 짧은 동영상을 보실 것을 권합니다. 유튜브에서 보실 때 자막 켜기, 한국어 자동번역을 설정해 보시면 이해에 도움이 됩니다.

이 영상은 디지털 플랫폼과 서비스 사용이 증가하면서, 개인의 사생활과 민감 정보/데이터 수집과 감시(surveillance)가 심화되고 있는 상황에 대해 경각심을 갖고 비판적으로 연구하는 호주 Monarsh 대학교 연구팀에서 만든 동영상입니다. 썸네일에 등장하는 닐 셀윈(Neil Selwyn) 교수는 작년에 번역 출간된 <로봇은 교사를 대체할 것인가?>의 저자이기도 합니다.

‘AI 디지털 교과서’가 단지 디지털 학습 자료와 도구를 사용하는 데 그치는 것이 아니라 다양한 학습 결과물의 탑재와 평가를 포함한 디지털 교수학습 플랫폼이라는 점을 이해하면, 학생의 개인정보 및 사생활을 보호하고 민감 정보 수집과 이용을 제한하는 장치를 마련하는 것이 중요함을 알 수 있습니다. 이 영상을 소개하는 이유는 여기서 논의하는 ‘디지털 감시’에 대한 내용을 고려하여 AI 디지털 교과서 플랫폼이 개발되고 관리될 수 있도록 시민사회가 감시하고 정부가 규제하기 위한 제반 사항들을 시급히 논의할 필요가 있다고 보기 때문입니다.

이는 유엔아동권리위원회에서 2021년에 발표한 아동권리협약에 대한 일반논평 25호 ‘디지털 환경의 아동권리’의 권고에 따라 아동 청소년의 학교 생활과 수업에 사용되는 디지털 안전한 디지털 환경을 설계하고 이들을 ‘디지털 감시’로부터 보호하기 위해 필요한 일이기도 합니다.

이러한 논의에는 교육 행정가, 관련 공공기관, 교육과정/교과교육/교육공학 등 교육학 분야의 전문가와 교사뿐 아니라, AI, 디지털 기술과 플랫폼, 기술 도구와 인프라로서의 디지털 미디어 및 개인정보와 사생활 보호 법률 분야의 학자와 전문가들, 그리고 아동 청소년을 대상으로 한 연구 자료 수집과 보관 등을 다루는 연구 윤리 전문가, 부모, 학생들이 두루 참여할 필요가 있을 것 같습니다.

디지털 교과서/교수학습 및 평가 시스템에 입력할 수 있는/입력할 수 없는 정보의 종류와 범위에 대한 규정, 데이터 수집에 대한 아동 청소년과 부모/보호자의 동의 등의 윤리적 문제, 수집된 데이터의 저장, 보관, 폐기 방법 등에 대한 구체적인 논의가 필요합니다.

학생의 과제, 학습 결과물에는 학생 자신은 물론 부모를 비롯한 가족/친척/지인, 교사들(이쯤되면 국민의 상당수가 관련되겠네요.)의 이름, 사진, 동영상, 그들과 관련된 에피소드, 그들의 생각과 행동에 대한 각종 데이터가 포함되는 경우가 많습니다.

국어, 사회, 도덕, 과학, 미술 등의 수업 시간에 이루어지는 다양한 글쓰기, 그림, 미디어 표현, 토의 토론과 발표, 현장학습 보고서, 과학실험 동영상 등에는 학생들과 교사들의 얼굴, 생각, 감정, 생활, 보고 들은 것의 기록들이 넘쳐납니다. 예를 들어, 국어 수업의 일환으로 이루어지는 부모 등의 자서전 쓰기 활동에는 부모 인터뷰, 이에 대한 교사의 피드백, 완성한 글의 제출과 평가 등이 포함됩니다.

이런 글들을 쓰는 일은 매우 의미 있는 수업 활동입니다. 그러나 이런 학생들의 학습 결과물들이 원본 그대로 AI 디지털 교과서에 탑재되어서는 안 됩니다. 누군가의 얼굴, 실명, 태어난 곳, 해온 일, 사람들과의 관계, 그들의 생각과 감정 등은 모두 개인정보 또는 사생활 정보입니다. 지금까지는 이런 과제물들을 디지털화하지 않았고, 학생이 종이에 인쇄한 글을 제출하면 선생님이 평가 후 학생에게 돌려주는 방식으로 교수학습평가가 이루어졌습니다.

앞으로도 이런 수업홯동들은 이렇게 비디지털적인 방식으로 제출하고 평가 후 돌려주어야 합니다. 디지털 플랫폼에 기록할 필요가 있는 정보는 사생활을 침해하지 않는 것으로 한정해야 하며, 이는 각각의 활동 결과물에 대해 별도로 판단하고 동의를 받아야 합니다.

연구자들이 연구 목적으로 학교에 가서 학생들의 글, 그림, 수업 대화, 인터뷰 자료 등을 수집하려면 대학의 생명윤리위원회에 연구 목적, 자료 수집의 범위와 방법, 아동의 경우 부모와 아동용 설명서, 수집하는 자료의 형태와 종류, 자료에 접근하는 사람들, 보관 기간과 폐기 방법 등을 안내하기 위한 자료를 모두 제출해 승인을 받아야 합니다. 이 과정에는 많은 시간과 노력이 소요되고, 문제가 되는 부분은 여러 번 수정 후 다시 제출해 승인을 받는 엄격한 절차를 거쳐야 합니다.

거듭 강조하지만 디지털 교과서는 엄밀히 말해 ‘교과서’가 아니라 ‘교수학습평가 플랫폼’입니다. 따라서 여기에 어떤 종류의 데이터를 입력할 수 있도록 허용할 것인가, 어떤 데이터는 입력할 수 없도록 할 것인가, 이와 관련해 학생 당사자와 부모/보호자의 동의를 어떻게 구할 것인가, 이 데이터에 접근할 수 있는 사람들과 관계자들을 어떻게 제한할 것인가, 수집된 데이터를 언제 어떤 방식으로 삭제할 것인가에 대해, 연구 윤리 수준에 준하는 절차, 방법에 준해 논의하고 적용해야 한다고 봅니다.

동의 절차를 학년 초에 각 가정으로 보내는 추상적이고 간단한 내용의 가정통신문과 동의서 제출 한 번으로 대체해서는 안 된다고 봅니다.

유엔아동권리위원회의 아동인권협약(특히 일반논평 25호 ‘디지털 환경의 아동 권리’)에서 ‘아동’은 만18세 이하 영유아, 어린이, 청소년을 모두 포함합니다. 가장 안전해야 할 학교와 교실이 디지털 감시에 취약한 위험한 공간이 되지 않도록 하기 위해 지금부터라도 심도 있는 논의와 적절한 조치가 디지털 교과서 정책에 포함될 수 있도록 노력해야 하지 않을까요?

그런데 이런 절차, 방법, 과정은 어떻게 만들어지고 있을까요? 이런 논의가 투명하게 이루어지는 것 같지 않아 궁금하기도 하고 걱정도 큽니다. 혹시, 이런 논의가 이미 잘 이루어지고 있는데 제가 모르고 있는 것이라면 구체적인 내용을 알려주시기 바랍니다. 또 이 부분에 대해 검토하고 계신 정책 및 연구팀에서는 학생들의 개인정보와 사생활 침해가 일어날 수 있는 지점을 파악하고, 관련 법규정을 만들고 기술적 안전장치를 마련해 주시기를 바랍니다.

이와 관련해, AI 디지털 교과서 정책을 추진하고 있는 정책당국 및 공공기관 관계자, 자문에 참여하고 있는 교수, 학자, 전문가, 시도교육청 담당자, 그리고 교과서 집필 및 디지털 교과서 콘텐츠 및 시스템 개발에 참여하고 있는 초중고등학교의 교사, 교과교육 분야의 교수, 연구자 등, 어떤 식으로든 정책 추진에 관여하고 계신 분들께서는 각자의 위치에서 관련 사항을 직접 검토하거나, 검토하도록 요청하시는 등의 조치를 취해 주시면 감사하겠습니다.

학령기 자녀가 있는 부모, 조부모, 보호자들은 물론, 부모가 아닌 분들도 아동 청소년의 사생활과 데이터(그리고 여러분 자신의 사생횔과 데이터)가 보호되는 안전한 디지털 학습 환경을 만들기 위해 이 문제에 관심을 가져 주시기를 바라는 마음입니다.