본문 음성으로 듣기

중지

멈춤

이어듣기

중국의 항저우의 한 고등학교 교실에는 2개의 카메라가 설치되어 30초마다 스캔한다. 인공지능은 안면인식기술을 이용하여 학생들의 얼굴에 나타난 7가지의 감정 상태와 6가지의 행동 유형을 분석한다. 학생들의 수업집중도를 높이고 교사들의 교수법을 개선할 목적으로 중국 학교에 도입한 “지능형 교실행태 관리시스템”이라는 것이다.

최근에는 10년 전부터 개발해오던 ‘인공지능 성적평가 시스템’을 본격적으로 학교에 보급하기 시작했다. 학생들의 작문을 인공지능이 평가하여 등급을 매겨준다. 사람이 평가하는 것의 92% 수준까지 올라왔다고 한다. 학교는 평가에 있어서 사람의 주관성을 배제할 수 있다고 주장한다. 이 시스템은 이미 6만개의 학교에 보급되어 있다.

안면인식기술을 이용하여 학생들의 수업태도를 관리하고, 알고리즘이 시험 결과를 처리하는 것이 인공지능을 활용한 교육에 새로운 것은 아니다. 서구 사회가 기술적인 검증이 어느 정도 이루어졌음에도 적용에 신중한 이유는. 인공지능이 가지고 있는 오류와 편견, 그리고 사생활 침해와 같은 잠재적 위험 때문이다.

시민사회의 견제가 없는 중국은 국가 주도하에 인공지능을 학교에 도입하는데 거침이 없다. 성적평가시스템은 이미 중국 학교의 25% 가까이 보급이 되었다. 또 하나 주목할 것은 이 시스템들이 개별 학교 단위에서 관리되지 않고 정부의 중앙 서버에 의해 처리될 수도 있다는 것이다. 중국은 2억 명이 넘는 학생들과 2천만 명이 넘는 교사들의 모든 것을 실시간으로 통제할 수 있는 유례없는 체제의 완성을 눈앞에 두고 있다.

중국의 실험은 조지오웰의 빅브라더를 연상하게 한다는 우려의 목소리가 많다. 그런데, 이런 상황을 한번 상상해보자. 우리가 어느 날 “아이들의 수업 태도와 감정 상태를 실시간으로 부모님께 알려드립니다.” 라는 학원 광고를 보거나, 혹은 학교에서 “이제 수행 과제와 서술형 문제의 채점은 인공지능이 합니다. 공정성은 100% 보장합니다.”라는 메시지를 받았을 때 학부모로서 어떤 생각이 들까?  빅 브라더는 우리 마음 속에 있다.