본문 음성으로 듣기

중지

멈춤

이어듣기

질병의 예방과 진단, 치료 같은 전반적인 건강 관리를 일컫는 헬스케어(health care)가 AI와 결합하면서 산업적으로 폭풍 성장을 하고 있다. 그 무한 잠재력이 전세계 의료계의 혁신을 이끌고 있고, 고령화 사회로 치닫고 있는 인류의 건강을 책임질 핵심 기술로 기반을 굳히고 있다.

AI는 검진의 속도와 정확성을 높이는 것은 물론 임상 치료를 돕고, 새로운 의약품을 개발하는 데 중추적인 역할을 한다. 의료진의 진료 부담을 덜어주고 환자가 질병을 스스로 관리하는 데 기여한다. 지역간 계층간 의료 격차를 줄일 수도 있다. 질병의 감시와 대응을 책임지는 공중 보건 시스템도 AI가 큰 역할을 한다. 전세계가 코로나 위기 상황에 대처할 때 AI는 첨병 역할을 했다.

하지만 AI의 양면성은 의료 분야에서도 예외가 아니다. 세계보건기구 WHO가 전문가들과 2년간의 논의 끝에 ‘건강을 위한 AI의 윤리와 관리’(Ethics and governance of artificial intelligence for health)라는 보고서를 발표한 배경도 그런 이유에서다. 신중하게 접근하지 않으면 문제가 발생하고, 오히려 해악이 될 수 있기 때문이다.

WHO는 AI를 주축으로 한 헬스케어가 상업적 측면과 맞물리면서 과대평가될 가능성을 우려한다. 개인의 건강 관련 데이터의 비윤리적 수집과 활용, 편견이 스며든 알고리즘, 환자의 안전, 사이버 보안 등 갖가지 문제를 일으킬 소지가 많다고 지적한다. 미국 같은 부유한 국가를 기반으로 한 의료 관련 AI 알고리즘이 아프리카 저소득 국가의 환자에게 똑같이 적용되는 게 마땅한 지 논란이 많다.

90% 이상의 정확도를 나타내는 구글의 AI 유방암 진단 시스템은 미국과 영국 환자의 진료 정보에 의존해 만들어졌다. 이것을 다른 국가 여성들에게도 적용해 같은 정확도가 나왔다는 보고는 나오지 않았다. 스탠퍼드대 연구진은 뉴욕과 캘리포니아, 매사추세츠주의 데이터를 기반으로 만든 진단 시스템이 흑인의 피부암 진단에서 정밀도가 떨어진다는 사실을 발견했다.

코로나 팬데믹과 싸우면서 세계 각국 정부는 AI 위치 추적 앱을 무차별 사용했다. 이때 싱가포르 정부는 범죄 수사에 활용할 수 있는 정보를 같이 수집했다. AI 헬스케어 시스템이 본래의 건강 관련 목적 외에 다른 용도로 재사용되는 ‘기능 확대’(function creep) 위험 사례가 나타난 것이다. 국가나 특정 기관이 개인의 헬스케어 정보를 통해 사생활을 엿보고 침해할 수 있다는 사실을 보여준다.

WHO 폼페이지 캡처

WHO는 보고서에서 긴급 상황이 입증되지 않은 기술의 활용을 정당화하지 않는다고 못박아 말한다. AI 시스템이 사회 경제적 상황이나 의료 환경의 다양성을 반영하도록 신중하게 설계되어야 한다고 강조하면서 아래의 6가지 AI 원칙을 제시했다.

1. 인간의 자율성 보호(Protecting human autonomy)
인간이 헬스케어 시스템과 의료 결정을 통제할 수 있어야 한다. 프라이버시와 비밀은 보호받아야 하고, 데이터의 안전을 위해 법적 구속력에 입각한 환자의 동의 절차가 진행되어야 한다.

2. 인간의 안녕과 안전, 공공의 이익 증진(Promoting human well-being and safety and the public interest)
AI 기술 설계자들은 안전과 정확성, 효율성에 대한 요구를 충족해야 한다. AI의 활용에 따른 실제적인 품질의 관리와 개선 방안이 마련되어야 한다.

3. 투명성과 설명 가능성, 명료성 보장(Ensuring transparency, explainability and intelligibility)
AI 기술을 설계하거나 배포하기 전에 충분한 정보를 게시하거나 문서화해야 한다. 이런 정보는 쉽게 접근할 수 있어야하며, 기술이 어떻게 설계되고 어떻게 사용되거나 사용되어서는 안되는지에 대한 공개적인 협의와 토론이 있어야 한다.

4. 포괄성과 형평성 보장(Ensuring inclusiveness and equity)
건강 관련 AI는 공평한 사용과 접근을 위해 설계되어야 한다. 연령, 성별, 성별, 소득, 인종, 민족성, 성적 성향, 능력 또는 기타 인권 법규에 따라 보호되는 특징을 무시해서는 안된다.

5. 의무와 책임 증진(Fostering responsibility and accountability)
AI 기술은 특정 업무를 수행하지만, 적절한 조건과 적절한 교육을 받은 사람들이 이를 사용하도록하는 것이 이해 관계자들의 책임이다. 알고리즘에 의한 결정이 악영향을 미칠 때 이를 보완하거나 해결할 메커니즘을 사용자들이 이용할 수 있어야 한다.

6. 대응력과 지속가능성이 있는 AI 촉진(Promoting AI that is responsive and sustainable)
설계자와 개발자, 사용자는 AI 기능을 지속적이고 투명하게 평가해 기대와 요구에 맞게 적절하게 반응하는지 판단해야 한다. AI 시스템은 환경에 미치는 영향을 최소화 하고, 에너지 효율을 높이기 위해 설계되어야 한다. 정부와 기업은 AI 시스템 사용에 적응하기 위한 의료 종사자 훈련과 자동화 시스템 사용으로 인한 잠재적인 일자리 손실을 포함한 직장 내 혼란을 해결해야 한다.