본문 음성으로 듣기

중지

멈춤

이어듣기

유엔 인권고등판무관실(United Nations Office of the High Commissioner for Human Rights)이 인권에 심각한 위협을 초래하는 얼굴인식 시스템을 포함한 AI 기술의 사용 중단을 촉구하고 나섰다. 기술이 사람의 차별을 초래하지 않고 정확성을 담보하며 개인정보 보호 기준을 충족하기 전까지 실시간으로 얼굴을 스캔하는 것을 금지할 것을 각 국 정부에 촉구했다.

미셀 바첼라트(Michelle Bachelet) 사무총장은 “인공지능은 우리 사회에 큰 도움을 줄 수 있지만 인권에 미치는 영향을 충분히 고려하지 않을 경우 부정적인 영향을 미치고 재앙을 초래할 수 있다.”고 경고했다. 하지만 AI 얼굴인식 기술은 이미 전방위로 확산하면서 이를 무력화 하기 위한 역기술도 다양한 방식으로 개발되고 있다.

미국 시카고대학 샌드연구소(University of Chicago’s Sand lab)에서 개발한 포크스(Fawkes)는 AI가 사진의 얼굴을 알아보지 못하게 만든다. 사진의 픽셀에 미묘한 변화를 주어 AI를 속이는 방식이다. 인간의 눈에 띄지 않아 다른 사람이 얼굴을 인식하는 데는 전혀 지장이 없다.

Sand lab 홈페이지 캡처(오른쪽 사진이 원본)

익명화를 뜻하는 어나니마이저(Anonymizer)는 제너레이티드 미디어(Generated Media)라는 스타트업이 개발했다. 자신의 실제 얼굴 사진을 올리면 피부색이나 나이, 성별, 머리카락의 길이 등을 감안한 자신과 비슷한 용모의 다양한 사진을 선택할 수 있다. AI가 생성한 가공의 인물이다. 소셜 미디어의 프로필에 이런 사진을 쓰면 AI가 식별할 수 없어 개인 정보가 보호된다.

Generated Media 홈페이지 캡처

브라이트 AI(Brighter.ai)라는 스타트업의 기술은 사진과 영상에서 얼굴인식 기술을 무력화한다. 사람의 얼굴을 자동으로 찾아내 약간의 수정을 가해 원래 얼굴과 같지만 다른 인물을 만들어 AI가 인식할 수 없게 한다. 사용자가 원하는 대로 얼굴 모습을 수정할 수 있다. 개인 정보가 노출될 수 있는 신체적 특성이나 위치 정보 같은 메타데이터까지 제거한다.

Brighter.ai 홈페이지 캡처

페이스 블러(Face Blur)는 암스테르담대학을 기반으로 한 얼굴 분석 소프트웨어 업체 SightCorp가 개발했다. 딥러닝 기술을 이용해 스트리밍 영상에서 사람의 얼굴을 찾아내 얼굴을 흐리게 하거나 픽셀을 변화시켜 얼굴인식 기술을 무력화 한다. 개별 얼굴뿐 아니라 많은 사람들이 운집한 군중에게 적용할 수도 있다.

선악의 두 얼굴을 지닌 얼굴인식 기술과 이를 회피하려는 방어 기술은 컴퓨터에 치명상을 입히는 바이러스와 이를 발견하고 치료하는 백신처럼 서로 적이 되어 칼과 방패 역할을 담당한다. 인공지능이 그 매개체 역할을 하며 치열한 기술 경쟁을 벌일 수밖에 없는 상황이다.

AI 얼굴인식 관련 산업은 해마다 급성장을 거듭하고 있다. 그 편의의 대가는 실생활에서 프라이버시 영역을 급격히 위축시키고, 인권의식을 후퇴시키는 결과를 낳을 가능성도 있다. 그 영향력이 커지면 커질수록 얼굴인식 기술에 대응하는 역기술 개발과 시장 규모가 더욱 커질 수밖에 없을 전망이다.