딥페이크와 의심사회

기술의 발달과 소셜 미디어의 대중화는 진실과 허구의 경계를 허물고, 가짜뉴스의 범람을 가져왔다. 팩트체크는 저널리즘의 새로운 역할로 자리잡았고, 또한 현대인이 반드시 지녀야 할 온라인 생활규범이 되었다. 팩트체크의 중요성이 갈수록 커지고 있는 것은 사람의 얼굴과 표정, 말까지 바꾸는 딥페이크의 출현 때문이다. 포르노 사진에 특정인의 사진을 오려 붙이는 식의 조잡한 차원을 넘어섰다.

딥페이크의 조작 기술은 생성적 적대신경망(Generative Adversarial Network, GAN)이라는 AI 알고리즘을 사용한다. GAN은 인간의 개입이나 학습 데이터가 없어도 대립적 위치에 있는 두 시스템이 서로 경쟁하는 방식으로 학습을 진행하는 비지도 학습 방식의 신경망이다. 이미지를 만드는 AI와 그 이미지가 진짜인지 구별하는 인공지능이 경쟁하면서 진짜 같은 가짜를 만드는 것이다.

딥페이크 기술은 산업적 측면에서 보면 매우 유용하다. 실제 촬영하지 않고도 손쉽게 영상을 만들어낼 수 있어서 영화 같은 엔터테인먼트 분야에서 다양하게 활용될 수 있다. 독일에서는 GAN을 이용한 암 진단 성공 사례를 발표했다. 의료 분야에서 질병의 정밀 진단이 가능하다는 뜻이다. 문제는 부정적 활용 가능성이다. 성범죄에 악용되고, 정치와 선거판을 뒤흔들 수도 있다.

네덜란드의 사이버 보안 회사 딥트레이스(Deeptrace)가 2019년 9월에 발표한 딥페이크 관련 조사 결과를 보면 2018년 12월에 8천여개였던 딥페이크 조작 영상이 7개월 뒤에 1만 5천여개로 두 배 가까이 급증했다. 그만큼 확산 속도가 빠르다는 것이다. 이 가운데 96%가 포르노물이었다. 얼굴을 도용 당한 피해자의 41%는 미국의 여배우들이었다. 그 다음이 한국의 K팝 가수들로 25%를 차지했다.

2016년 대통령 선거 과정에서의 가짜뉴스로 심각한 후유증을 겪은 미국에서는 올해 치러지는 대선에서 딥페이크의 폭증을 우려한다. 딥페이크 기술이 포르노 영상에 주로 사용되고 있지만 정치와 연관돼 선거를 왜곡하는 수단이 될 가능성이 많다는 것이다. 실제로 2018년 멕시코 대선에서는 캠프 사람들이 뇌물을 받았다는 딥페이크 음성이 유포돼 현 대통령 측이 곤욕을 치렀다. 인도에서는 모디 정권을 비판하는 여성 언론인의 딥페이크 포르노가 유포된 적이 있다.

딥페이크를 원천적으로 차단할 방법은 없다. 신속한 적발과 즉각적인 대응 조치가 최선이다. 기술로 기술에 대응해야만 한다. 딥페이크를 찾아내는 혁신적인 기술 개발을 위해 페이스북은 2019년 말부터 올해 3월말까지 딥페이크 식별 챌린지(Deepfake Detection Challenge)를 진행했다. 인공지능의 책임 있는 활용을 위해 구글, 애플, MIT, UC버클리 등이 함께 참여해 결성한 AI 파트너십(Partnership on AI)이 동참했다.

페이스북은 백만 달러의 상금을 내걸었고, 참가자들의 연구 자료로 활용하기 위해 10만개의 자연스런 대화 영상을 찍은 원본과 미세하게 손을 본 데이터 자료를 제공했다. 3,500명의 배우가 동원된 이 자료는 지속적인 딥페이크 식별 연구를 위해 공유될 예정이다. 세계에서 2천여명이 참여해 3만 5천여개의 모델이 출품된 챌린지 결과가 최근 공개되었다. 가짜 영상 식별 성공률은 평균 70% 정도였으며 최고가 83%였다. 딥페이크 가짜 영상을 즉각 자동으로 찾아내는 것은 쉽지 않은 과제임을 보여준다. 바이러스와 백신의 싸움만큼이나 힘들다.

페이스북은 이번 챌린지의 결과물을 상용화하는 것을 돕겠지만 자체적으로는 사용하지 않고 독자적인 모델을 개발한다는 방침이다. 식별 기술의 보안 필요성 때문인 것으로 알려졌다. 인공지능 시대에 AI의 역기능은 극복 과제다. 진짜 같은 가짜 딥페이크는 직접 보고 듣는 것도 믿기 어려운 의심사회를 조장한다. 사실을 왜곡하고, 없는 것을 만들어내고, 진실을 분간할 수 없게 만들 수 있기 때문이다.

인쇄하기