본문 음성으로 듣기

중지

멈춤

이어듣기

인공지능을 이용하여 인간의 이미지나 영상을 합성하는 딥페이크 기술이 포르노 제작에 사용되어 문제가 된 것은 오래 전의 일입니다. 온라인에서 딥페이크 활동을 모니터링하고 있는 딥트레이스Deeptrace의 보고서에 따르면 인터넷에 있는 딥페이크 영상의 96%가 포르노 영상입니다.

그런데 최근에는 생성 AI가 문제를 더욱 악화시키고 있습니다. 최근 포브스의 보고서에 따르면 온라인 커뮤니티 레딧에서 AI 포르노가 폭발적으로 증가하고 있습니다. 레딧에는 성인용 콘텐츠를 필터링하는 안전 기능이 있지만 AI 포르노를 검색하면 이러한 노골적인 이미지가 공유되고 있고, 일부 포럼에서는 유료로 판매를 하고 있습니다.

뿐만아니라 인공지능으로 포르노를 생성하고, 공유하고 판매하는 전문 사이트까지 등장했습니다. 레딧이나 디스코드의 계정으로 구독할 수 있는 AI 포르노 사이트에서는 다양한 인종과 신체 유형을 선택하는 기능을 제공하고 있다고 합니다.

언스터블 디퓨전이나 포르노 펜과 같이 AI 포르노 생성에 사용되는 이미지 생성기는 필요한 이미지를 트위터나 인스타그램과 같은 소셜 미디어 플랫폼에서 대량으로 확보해서 프로필을 작성하고 성적인 이미지의 데이터베이스를 구축합니다. 물론 그런 과정에 대상의 동의는 없습니다.

온라인을 채우고 있는 이러한 생성 AI 포르노의 근본적인 문제는 그것이 사람, 특히 여성의 이미지와 사진을 대량으로 도용하는데 의존한다는 것입니다. 딥트레이스 보고서는 딥페이크 포르노의 90%가 여성을 대상으로 하고 있습니다. 이것은 젠더화된 폭력입니다.

딥페이크 기술의 빠른 발전과 포르노의 폭발로 인한 피해가 늘어나고 있음에도 법률 시스템은 이러한 기술을 따라잡지 못하고 있습니다. 우리나라를 포함한 전 세계 대부분의 지역에서 이러한 유해한 관행으로부터 피해자를 보호하는 법이 없습니다.

지금으로서는 개인이 온라인 생활을 함에 있어서 필요없는 개인 정보의 노출을 하지 않는 것이 최소한의 안전조치입니다. 소요를 시작하고 강의나 교육이 있을 때 마다 ‘SNS에 얼굴 사진을 함부로 올리지 마라’고 강조해왔습니다. 소셜네트워크 서비스의 프로필이나 게시물에 자신이나 아이들의 자신을 올리는 것은 자제해야 합니다.

인공지능이 가진 힘과 불투명성을 감안할 때 인공지능에 대한 규제가 시급해보입니다. 그렇지만, 사안이 복잡하고 전례가 없으며, 지구촌 차원에서 합의가 이루어져야 한다는 점에서 오랜 시간이 필요할 가능성이 높습니다.

그 힘과 불투명성을 감안할 때 AI 윤리학자들은 인공 지능에 대한 규제를 강화해야 한다고 생각하지만 정확히 어떻게 해야 하는지에 대한 합의는 거의 없습니다. 정치철학자 샌델은 “기업은 자신이 하는 일의 윤리적 측면에 대해 진지하게 생각해야 하며, 우리는 민주 시민으로서 기술과 그 사회적, 윤리적 의미에 대해 스스로를 교육하여 규제가 무엇인지 결정할 뿐만 아니라 빅 테크와 소셜 미디어가 우리 삶에서 어떤 역할을 하기를 원하는지 결정해야 합니다.”라고 말합니다.

우리는 그런 준비가 되어있는지 진지하고 물어야 할 때입니다.