[디지털 위험] 합의되지 않은 친밀한 이미지(NCII)의 온라인 확산

인터넷과 인공지능의 어두운 면이 다시 한번 드러나고 있습니다. 최근 소셜미디어 분석 전문업체 그라피카(Graphika)의 보고에 따르면, ‘합의되지 않은 친밀한 이미지(NCII: Non-consensual publishing of consensual intimate images)’의 생성 및 유포가 단순한 맞춤형 서비스를 넘어 자동화되고 규모화된 온라인 비즈니스로 급변하고 있습니다.

‘합의되지 않은 친밀한 이미지’는 개인의 동의 없이 성적으로 노골적인 이미지나 동영상을 배포하는 것으로 넓게 이해될 수 있습니다. 한때 리벤지 포르노로 알려지기도 했던 이러한 행동의 목적은 일반적으로 피해자를 위협하거나 괴롭히거나 착취하는 것으로 여성과 소녀들이 피해자의 대부분입니다.

원래는 사람의 실제 행위를 촬영한 영상을 의미하는 것이었으나, 최근에는 생성 AI 기술의 발전으로 합성된 인간, 혹은 만들어진 인간이 성적 행위를 하는 영상까지 포함하게 되었습니다. 그라피카가 추적 조사한 업체들은 합성 NCII를 제공하는 곳들입니다.

그라피카가 찾아낸 34개의 NCII 제공업체에는 지난 9월 한달간 무려 2400만 명 이상의 방문자가 있었습니다. 또한, 2023년 초부터 Reddit과 X를 포함한 SNS 플랫폼에서 이러한 서비스에 대한 추천 링크 스팸의 양이 2,000% 이상 증가했습니다. 이러한 변화의 중심에는 오픈 소스 인공지능(AI) 이미지 확산 모델과 딥페이크 기술의 발전과 쉬운 사용이 자리잡고 있습니다

합성 NCII 제공업체들은 소셜 미디어 플랫폼을 통한 광고와 추천 링크 스팸을 통해 서비스를 홍보하고 있습니다. 이들은 주로 자신들의 웹사이트나 텔레그램, 디스코드와 같은 메시징 서비스에서 실제 서비스를 제공합니다. 인플루언서 마케팅을 활용한 홍보도 관찰되었습니다.

이들 서비스는 프리미엄 모델을 사용하여, 초기에는 공짜로 사람들을 유혹하고 추가 기능을 유료로 제공합니다. 사용자들은 제공업체의 웹사이트나 텔레그램 그룹을 처음 방문한 지 몇 분 내에 서비스를 이용하기 시작할 수 있습니다.

지난 10월, 영국에 거점을 둔 인터넷 감시 회사인 인터넷 감시 재단(Internet Watch Foundation, IWF)은 별도의 보고서에서 단 한 달 만에 단일 다크웹 포럼에서 20,254개 이상의 아동 포르노 이미지가 발견되었다고 지적했습니다. IWF는 AI가 생성한 아동 포르노가 인터넷을 ‘ 압도 ‘할 수 있다고 경고했습니다.

IWF는 생성 AI 이미징의 발전 덕분에 딥페이크 포르노가 AI 생성 이미지와 진짜 이미지의 차이를 구분하는 것이 점점 더 복잡해지고 법 집행 기관이 실제 학대 피해자 대신 온라인 유령을 추적하게 되는 지점까지 발전했다고 경고했습니다.

딥페이크 기술을 이용한 포르노가 확산되는 환경에서 아이들을 보호하기 위해 부모는 무엇을 해야할까요? ChatGPT의 조언을 구했습니다.

1. 교육: 아이들에게 딥페이크 기술과 그것이 어떻게 사용될 수 있는지에 대해 교육하는 것이 중요합니다. 이는 아이들이 온라인에서 마주치는 콘텐츠의 진위를 판단하는 데 도움이 됩니다.

2. 온라인 안전 수칙 강조: 인터넷 사용에 대한 기본적인 안전 수칙을 가르치세요. 예를 들어, 개인 정보를 공유하지 않기, 낯선 사람과의 온라인 상호작용을 피하기 등이 있습니다.

3. 디지털 리터러시 강화: 아이들이 온라인에서 접하는 정보를 비판적으로 평가하고, 신뢰할 수 있는 출처를 구별하는 방법을 가르치세요.

4. 부모의 감독과 모니터링: 아이들의 인터넷 사용을 적절히 감독하고 모니터링하세요. 이는 부적절한 콘텐츠에 노출되는 것을 방지하는 데 도움이 됩니다..

5. 필터링 및 부모 통제 도구 사용: 인터넷 필터링 및 부모 통제 도구를 사용하여 부적절한 콘텐츠의 접근을 제한하세요.

6. 사이버 괴롭힘에 대한 대응 방법 가르치기: 아이들이 사이버 괴롭힘을 당하거나 목격했을 때 어떻게 대응해야 하는지 가르치세요.

7. 온라인 행동의 결과 인식시키기: 아이들에게 온라인에서의 행동이 실제 세계에 영향을 미칠 수 있음을 인식시키세요.

무엇보다 중요한 것은 부모가 먼저 이러한 현실과 그것이 나의 문제가 될 수도 있음을 인식하는 것입니다.

인쇄하기