본문 음성으로 듣기

중지

멈춤

이어듣기

원문 보기: Chinese Citizens Express Concern Over the Abuse of Facial Recognition Technology

이번 달부터 중국 정부는 신규 핸드폰 가입자들의 얼굴 스캔을 의무화했다. 이에 대해 많은 사람들은 걱정을 표했고 그 중 일부는 중국 정부가 사이버 공간 통제를 강화하고 영국작가 조지 오웰의 책 <1984>의 삶을 가져오려고 한다고 말한다. 또한 개인정보 권리를 보장하는 법적규제와 안전 보장이 생기기 전까지 이는 반대자들을 억압하는 도구가 되고, 소비자의 생체 데이터가 유출되거나 재판매되는 결과를 가져올 것이라고 한다. 마이크로블로깅 사이트인 웨이보에서 한 사람은 “빅브라더가 너를 지켜보고 있다. -빅브라더”라고 썼다. 그리고 다른 이는 이를 “지옥의 눈”이라 표현했다.

시민들의 얼굴 스캔 모음은 이미 방대한 전국적인 중국의 비디오 감시 체제를 넓히는데 중요한 역할을 한다. 중국은 2022년까지 감시 카메라를 6억 개로 늘려 네트워크를 3배 이상 늘리려고 계획하고 있다. 한 전문가는 공안은 핸드폰 번호와 개인 신원을 사용하여서 이미 시민들의 온라인 활동을 감시하고 그들을 추적할 수 있다고 말했다. 이제 얼굴인식으로 ‘스카이 아이’라고 알려져 있는 감시 카메라에 찍히면 경찰은 쉽게 소재를 찾을 수 있다. 또한 감시 네트워크는 노골적인 반대를 침묵시키는 위축효과 chilling effect를 가지고 있고, 쉽게 정부를 비판하는 사람들이나 다른 정치적 견해를 주장하는 반체제 인사를 찾을 수 있다. 이러한 종류의 기술은 주로 사회적인 통제를 강화하기 위해 독재자가 사용한다.

MIIT(The Ministry of Industry and Information Technology)는 사전에 얼굴인식 정책은 법적인 권리와 인터넷 상에서 시민들의 권익을 지킬 것이지만 군은 감독과 검사를 계속 늘릴 것이며 엄격하게 폰 사용자의 실명 규제 관리를 촉구할 것이라고 덧붙였다.

일부 사람들은 이것은 매우 편리한 시스템이며 이는 회사의 상업적 이익을 위한 것이 아닌 국가적 정책이고 편의를 위해서는 믿음을 가질 필요가 있다고 말한다. 주Zhou는 중국 시민들이 기술을 수용하기 전에 개인 정보 및 데이터 보호에 대한 권리가 보호되는지 확인해야 한다고 한다. 물론 편의를 위한 대가로 일부 권리를 희생해야 할 수도 있지만 견제와 균형이 없으면 정부는 권력과 자율을 계속 확장할 것이고 사람들은 권리의 범위가 제한된 채로 결국 정부의 노예가 될 것이라고 말했다. Zhou에 따르면 소비자의 개인 데이터를 불법적인 채널에 재판매하는 기업이 만연해 있다. 중국에서는 5000장의 얼굴 스캔이 10위안(약 1200원)에 팔리는 것으로 알려졌다.

번역&요약: 은나연

중국은 여러 기사를 통해 현재 정말 다양한 기술들이 시민들의 삶을 감시한다는 것을 알 수 있다. 얼마 전 읽은 소설 <1984>의 사회는 과거의 사회와는 달리 과학기술을 사용하기에 더 수월하고 확실하게 사람들을 감시할 수 있었고 사상을 죽여 시민들의 정신을 완전히 통제하고 무너뜨리는 것이 가능했다. 소설 <1984>를 읽으며 과학기술의 악용으로 통제되는 세상을 상상하며 중국과 전세계의 미래에 대해 걱정하게 되었다. 중국은 우리보다는 조금 빠르고 확실하게 정말 <1984>의 사회로 변해가고 있는 것 같아서 무섭다.

또 나는 개인정보가 재판매되는 경우는 거의 생각해보지 않았는데 이 기사 마지막 부분에서 “소비자의 개인 데이터를 불법적인 채널에 재판매하는 기업이 만연해 있고 중국에서는 5000장의 얼굴 스캔이 10위안에 팔리는 것으로 알려졌다”고 하는 부분을 보며 우리의 정보가 기업 간의 돈벌이 수단이 될 수 있다는 것을 다시 알게 되었다.

인공지능 기술이 발전되기 전부터 이미 중국은 국민들에 대한 권리 보장이 이루어지지 않았던 것 같다. 그런데 인공지능 기술이 발전하면서부터 본격적으로 안면 인식 등의 시스템을 도입하여 개인정보보호라는 권리를 무시한 채로 국민들을 감시한다. 아무런 동의 없이 핸드폰 가입자들에 대한 얼굴 스캔을 의무화하고 거리의 사람들을 안면 인식으로 계속해서 지켜본다. 또 개인들로부터 모은 개인 정보들을 잘 지켜주는 것도 아니다. 어떤 기업들은 소비자의 개인 데이터를 판매해 수익을 올린다. 이러한 시스템은 중국의 보안을 명분으로 한 시스템이지만 개인정보보호에 대한 인식이 침해해도 되는 것, 중요하지 않은 것 등으로 인식될 수도 있을 것 같다는 생각도 든다.

시민들의 권리와 정부의 통제는 끊임없이 부딪히는 문제이다. 무엇이 우선일까에 대해서는 계속 답이 나오지 않을 것 같다. 하지만 세상에는 흑백논리만 있는 것이 아니기 때문에 권리와 통제가 적절히 있어야한다고 생각한다. 하지만 인공지능은 통제가 어려운 분야이다. 우리 눈에 보이는 데이터와 자료들이 오고 가는게 아니기 때문에 어디서든지 인공지능을 더 잘하는 사람이 데이터와 자료를 뺏아가는 일이 만연해질 가능성도 있다고 생각한다.

얼굴 스캔을 의무화. 감시망 확대. 중국에 관한 이런 기사들이 보일 때마다 숨이 턱 막힌다. 이러다가 정말 1984에 나온 상황이 실제로 이어지는 게 아닌가 싶다. 현재 중국에서 국민의 자유는 더욱 심하게 억압되고 있고, 그 강도와 범위가 커지고 있다. 날이 갈수록 중국의 기술은 빠르게 발전하고 있지만, 그 속에서 개인의 권리는 통제되는 모습이 참 아이러니하다.

처음에 소설 ‘1984’를 읽었을 때, 이런 시대는 결코 오지 않을 것 같았고, 이런 시대가 도래하더라도 분명 내가 죽은 후라고 생각했었다. 하지만 최근의 중국 기사들을 보면, 중국에 살지 않는 내가 봐도 정말 답답하고 이건 아니다 싶다. 이런 식으로 기술을 개발하고 그 기술을 시민의 권리를 침해하고 감시하는 용도로 사용한다면, 언젠가는 정말 모두가 거대한 인공지능에게 통제 받고 지배당하는 시대가 올 것만 같다.

우리나라에서 공항 출입국 사진 1억 7천만건의 사진을 민간기업에 넘긴 기사를 소요를 통해 접했습니다. 시간이 지나다 보면 공산국가인 중국과 별반 다르지 않을 것 같네요. 국가정책과 인공지능 산업 육성을 위한 명목으로 사진의 주인은 저에게 아무런 안내나 동의 없이 그것도 민간기업에 넘겼다고 하니 내 사진으로 또 다른 피해를 입지 않을지 걱정이 됩니다. 내 사진에도 가격이 책정돼 있으면 어찌해야 할까요?

중국정부가 온라인상의 사람들의 권익을 위한 조치라고 했다는데 권익이 침해되는 사례가 더 많이 언급되고 있군요. 우리나라에서는 설마 일어날 수 없는 일이겠지라고 생각했다가 나연맘께서 언급해주신 사례처럼 어느 곳에서나 일어날 수 있는 일이라는 생각이 드네요. 인공지능이 어떻게 쓰이느냐에 따라 사람을 자유롭게 하기도 하고, 통제하는 수단이 되어버릴 수도 있군요,  기술이 문제가 아니고, 기술을 사용하는 인간의 윤리가 중요하다는 것을 다시 생각해보게 됩니다. 그리고 구체적으로 어떤 방법으로 예방할 수 있을지 고민하게 되네요

중국의 인공지능 기술을 활용한 통제와 감시는 이미 악명이 높죠. 조지 오웰의 <1984>는 지금의 중국을 보고 집필한 게 아닐까 싶을 정도예요. 최근 여러 분야에서 통제를 하는 중국의 모습을 보는 것만으로도 숨이 턱 막히는 느낌을 습니다. 위구르 지역의 부모들은 잡아서 탄압하고, 아이들은 세뇌시켜 ‘자랑스러운 중국인’으로 세뇌시키는 모습을 보면서, 좋은 기술을 갖고 있으면 뭐하나 싶더라고요. 인공지능의 성능이 뛰어날수록, 중국이라는 체제안에서는 선과 악중에서 악의 역할이 커지지 않나라는 의구심이 듭니다.