죽은 아버지와 화상통화하는 사회

— AI 디지털 휴먼 시대, 우리는 무엇을 잃고 있는가

장신위는 암으로 아버지를 잃은 후, AI 아바타 회사를 찾아갔다. 그리고 아버지의 목소리와 표정, 몸짓을 그대로 재현한 디지털 인간을 만들었다. 비슷한 사례가 있다. 한 노인이 교통사고로 세상을 떠난 아들과 화상통화를 했다. 아들의 말투와 몸짓을 완벽히 모사한 AI 아바타였지만, 어머니는 그것이 아들이라고 믿었다. 이 영상은 중국 소셜미디어에서 9천만 뷰를 넘겼다.

이 장면 앞에서 우리는 어떤 반응을 보여야 하는가. 감동인가, 불안인가. 아마도 그 둘이 뒤섞인 불편함일 것이다. 그 불편함이야말로 우리가 진지하게 들여다봐야 할 지점이다.

‘선의의 거짓말’이라는 이름의 기만

아들의 AI 아바타를 제작한 회사 슈퍼 브레인의 대표는 그것을 “선의의 거짓말”이라고 불렀다. 그는 언제나 고인의 가족에게 동의를 받는다고 했다. 법적 동의는 받았다. 그렇다면 윤리적으로도 무결한가.

어머니는 동의하지 않았다. 그녀는 아들이 살아 있다고 믿으며 울었다. 슬픔을 소비한 것이 가족인지, 아들인지, 아니면 회사인지 묻지 않을 수 없다. ‘선의’란 행위자의 의도로 정의되는 것이 아니다. 그것은 결과로, 특히 가장 취약한 사람이 어떤 영향을 받는가로 판단된다. 아들을 잃은 노인이 그 대화가 AI였음을 알게 될 때, 그 두 번째 상실은 누가 책임지는가.

규제의 등장 — 그러나 무엇을 위한 규제인가

중국 사이버공간관리국(CAC)은 최근 디지털 휴먼의 개발과 운용에 관한 규정 초안을 발표했다. 콘텐츠에 명확한 표시를 붙이고, 동의 없이 개인 정보를 활용해 딥페이크 클론을 만드는 것을 금지하는 내용을 담고 있다. AI 챗봇이 자살이나 자해를 조장하는 콘텐츠를 생성하거나 감정적 조작을 통해 이용자의 정신 건강을 해치는 것도 금지된다. 이용자가 자살을 언급할 경우 즉시 인간 상담자로 교체하고 보호자에게 연락하도록 규정한다.

표면상 합리적이다. 하지만 한 발 물러서서 보면, 이 규제 프레임은 근본적인 질문을 비켜간다. 중국 당국은 디지털 휴먼이 초래하는 위험으로 인간-기계 경계 흐림, 이용자 중독, 심리적 조작, 사회적 신뢰 붕괴를 지목했다. 그런데 동시에 문화 전파와 노인 돌봄에서의 AI 활용은 장려한다. 위험과 효용의 선별이 기술의 성격이 아니라 국가의 이해관계에 따라 결정된다는 뜻이다.

노인 돌봄에 AI를 쓰는 것이 왜 장려되는가. 인구 고령화로 인한 사회 비용을 절감하기 위해서인지, 아니면 노인들이 진정한 관계를 맺을 수 있도록 돕기 위해서인지를 물어야 한다. 대답이 전자라면, 그것은 돌봄이 아니라 관리다.

감정의 상품화, 그 구조를 보라

중국에서는 AI 동반자 앱과 디지털 셀러브리티가 급속도로 성장하고 있다. 가상 캐릭터 앱 Talkie는 월간 활성 이용자 2천만 명을 넘겼으며, 관련 스타트업들은 홍콩 증시 상장을 추진하고 있다.

여기서 우리는 핵심 구조를 확인한다. 죽은 아버지를 그리워하는 딸, 외로운 노인, 사랑이 필요한 청소년—이들의 감정이 수익 모델이 된다. 기업들이 이용자의 심리적 취약성을 착취해 이익을 추구하는 행위를 방지해야 한다고 규정 초안은 말하지만, 그 비즈니스 모델 자체가 외로움과 상실을 원료로 삼는다. 규제는 공장 굴뚝에 필터를 달 수 있다. 그러나 공장이 무엇을 생산하는지는 바꾸지 않는다.

이용자가 AI와 대화하고 있음을 로그인 시와 2시간마다 고지하도록 하는 조항은 표면상 투명성을 보장한다. 하지만 우리는 안다. 두 시간마다 팝업창이 뜨는 것이 진정한 인식을 만들지 않는다는 것을. 흡연 경고 문구가 담배 수요를 없애지 못한 것처럼.

애도(哀悼)를 넘겨줄 수 없는 이유

죽음을 다루는 방식은 한 문화의 가장 깊은 층위를 드러낸다. 우리는 왜 애도하는가. 죽은 자를 다시 만나기 위해서가 아니다. 그 사람이 없는 세계에 적응하기 위해서다. 상실과 마주하여 그것을 통과함으로써, 우리는 변한다.

AI 디지털 휴먼은 이 통과 과정을 차단한다. 아버지의 목소리가 언제든 스마트폰에서 흘러나온다면, 우리는 언제 애도를 완성하는가. 슬픔을 느끼지 않아도 되는 기술이 반드시 슬픔을 줄여주는 것은 아니다. 그것은 슬픔을 유예시키고, 그 유예의 기간 동안 구독료를 청구한다.