본문 음성으로 듣기 중지 멈춤 이어듣기

인공지능으로 사람의 이미지를 합성하는 딥페이크는 최근에 가장 많은 주목을 받으면서, 한편으로는 뜨거운 논란을 불러일으키고 있는 기술입니다.

생성적 적대 신경망(GAN)라는 기계 학습 기술을 사용하여, 서로 다른 이미지나 영상을 겹쳐서 새로운 것을 만들어냅니다. 딥페이크는 영화나 방송계 등에서 이미 사망하거나 나이가 든 배우를 스크린에 되살릴 거나 초상권 보호 등을 위해 사용할 수 있는 한편, 유명인의 가짜 섹스 동영상이나 가짜 리벤지 포르노, 가짜 뉴스나 악의적 사기를 만드는 데에 사용되어 심각한 사회문제가 되기도 합니다.

그런데, 콘텐츠 저작 툴 분야에서 압도적인 지위를 차지하고 있는 어도비Adobe사가 그들의 제품군에 딥페이크 기술을 도입할 준비를 하고 있다는 사실을 조심스럽게 밝히고 나섰습니다. 지난 10월 28일 열린 연례 기술 컨퍼런스에서 어도비사는 딥페이크 기술을 자사 제품에 통합하는 것의 가능성과 문제점을 모두 보여주는 프로젝트 모르페우스Project Morpheus라는 이름의 시제품 도구를 공개했습니다.

 

프로젝트 모르페우스는 기본적으로 작년에 회사가 포토샾에 도입한 뉴럴 필터의 비디오 버전입니다. 뉴Neural Filters럴 필터는 기계 학습을 사용하여 나이와 머리 색깔 등 대상의 외모를 변경하고, 놀란 표정을 화난 것으로 바꾸는 것과 같이 표정 등을 조정합니다. 모르페우스수염과 안경 등 새로운 객체를 추가하거나 바꾸는 기능과 같은 몇 가지 새로운 필터를 추가하면서 비디오 콘텐츠에 뉴럴 필터와 동일한 조정 기능을 제공합니다.

데모 영상에서 보여진 모르페우스의 산출물은 아직 완벽해보이지 않습니다. 그리고 불법적인 딥페이크 툴이나 오픈소스 도구에 비해 기능도 매우 제한적입니다. 예를들어, 카메라를 바라보는 사람들의 모습은 미리 정해진 한도 내에서 작은 조정만 가능하고 얼굴은 완전히 바꾸는 작업은 할 수가 없습니다.

그러나, 모르페우스의 부족한 기능과 불완전한 산출물은 어도비사의 기술력의 한계 때문이 아닙니다. 딥페이크가 가지고 있는 심각한 문제, 즉 비동의 포르노부터 정치적 선전을 위한 가짜영상 제작 등이 어도비의 비즈니스에 치명적인 결과를 가져올 수도 있다는 두려움이 회사로 하여금 조심스러운 행보를 하게 한 이유입니다.

어도비가 더 버지The Verge에 보낸 브리핑 자료에서 이 기술을 설명하기 위해 “딥페이크”라는 단어를 한 번도 사용하지 않았습니다. 그 이유를 물었을 때 회사는 직접적으로 대답하지 않고 딥페이크로 인한 위협을 얼마나 심각하게 받아들이고 있는지, 어떻게 대처하고 있는지에 대해서만 길게 대답한 것에서 어도비의 고민을 엿볼 수 있습니다.

그렇다면, 어도비는 딥페이크 기술이 안고 있는 윤리적 문제때문에 그것을 자사의 상품과 비즈니스에 도입하는 것을 포기할까요? 그럴 수 없을 것입니다. 콘텐츠 제작에서 딥페이크가 가지고 있는 엄청난 잠재력과 고객 기반 확대에 가장 강력한 무기가 될 수 있다는 점에서 어도비로서는 결코 외면할 수 없는 기술입니다.

결국 어도비는 점진적 도입 전략하에 이번 모르페우스 공개를 시작으로 시장 테스트를 해나가면서 위험을 최소화하는 방식으로 제품군에 기술을 도입할 시점을 모색하는 것으로 보입니다. 좋든 나쁘든 딥페이크는 주류 프로젝트에 편입되면서 서서히 부정적 이미지를 희석시켜 나가고 있습니다.

멀지않은 장래에 우리는 “뽀삽질”을 하듯 딥페이크로 이미지와 영상을 편집하게 될 것입니다. 그것이 우리의 상상력을 실현시켜주는 창조적인 도구로 사용될 것인지, 누군가와 사회에 깊은 상흔을 남기는 악마의 도구가 될 것인지는 사용자의 윤리의식과 공동체의 윤리 수준에 의해 결정될 것입니다. 우리는 그런 도구를 받아들일 준비가 되어 있는 것일까요.

---