AI의 윤리, 과학자의 윤리

한국을 대표하는 대학 가운데 하나인 ‘카이스트(KAIST)’가 부정적 이미지로 곤욕을 치렀다. 앞으로 어떤 협력도 하지 않겠다는 해외 AI 로봇 학자 50여명의 이례적인 보이콧 선언이 나온 탓이다. 카이스트가 한화그룹 방산업체와 함께 ‘국방인공지능융합연구센터’를 만든 게 AI 살상 무기 개발에 앞장선 것으로 비친 것이다. 인간의 존엄성에 반하는 연구 활동은 하지 않겠다는 대학 총장의 약속으로 보이콧은 철회되었다.

기술의 발달은 인류 문명을 견인해왔지만 긍정적인 역할만 해온 것은 아니다. 야만과 반인륜 행위에는 늘 첨단의 기술이 동원되었고, 살상 행위로 이어졌다. 나찌 수용소의 독가스는 인종 말살의 도구로 이용되었고, 원자폭탄은 수십만 명의 희생자를 낳았다. 강대국들이 인공지능과 로봇을 활용한 첨단 무기 개발에 경쟁적으로 뛰어들며 내세운 명분은 효율성이다. 정확한 타격을 통해 대량 파괴와 살상을 오히려 줄일 수 있다고 주장한다. 하지만 인공지능이 인간의 통제를 벗어날 가능성을 배제할 수 없다는 데 더 큰 문제가 있다. 과거의 첨단 기술과는 차원이 다른 재앙이 될 수 있다.

인공지능과 로봇이 인간을 옥죄고 디스토피아의 세계를 가져올 수 있다는 경고는 끊임없이 제기되었다. 일자리만의 문제로 국한될 일이 아니라는 얘기다. 첨단의 전쟁 무기가 그렇다. 공격용이든 방어용이든 스스로 작동하는 자율성을 갖추는 게 인공지능 무기의 특성이다. 적을 감지하면 총을 쏘고, 미사일을 발사하고, 한걸음 더 나아가 인간의 명령이나 승인 없이 핵무기를 작동할 수도 있다는 뜻이다. 카이스트 보이콧은 해프닝으로 끝났지만 학문적 양심을 내세운 이들 과학자들의 집단 행동은 고무적이다.

돌아보면 첨단의 기술은 늘 파괴와 살상의 군사 목적에 먼저 적용되었다. 국가 차원의 막대한 예산 지원이 가능한데다 연구 자금에 목말라 하는 과학자들에게는 좋은 기회가 되었다. 물론 애국심도 한 몫 했을 것이다. 인공지능과 로봇 기술은 지나치리만큼 확고한 윤리성을 필요로 한다. 위험 용인이 상존하기 때문이다. 과학자들의 윤리 의식은 물론 인간의 생각과 행동을 대신하는 AI 로봇의 윤리가 함께 요구된다.

자신을 보호해야 하고, 인간의 명령을 따라야 하며, 인간을 살상해서는 안 된다는 아시모프의 로봇 윤리는 금과옥조로 여겨졌다. 그런데 이미 군사용 킬러 로봇이 등장했고, 힘의 우위를 유지하기 위한 강대국들의 AI 로봇 군비 확장은 냉전시대의 핵무기 경쟁을 방불케 한다. 유엔이 나서고, 세계 각국 유명 인사들이 우려와 경고의 목소리를 내지만 미국이나 중국, 러시아 같은 군사대국들의 모르쇠를 제어하는 데는 아직 한계가 있어 보인다.

2018년 4월에 공개된 영국 의회의 AI 보고서(Artificial Intelligence Committee AI in the UK: ready, willing and able?)는 자동화와 실업, 그리고 이것을 극복하기 위한 교육자금 지원, 데이터에 대한 통제와 알고리즘의 편견, 거대 IT 공룡들의 데이터 독점 등 인공지능과 관련된 전반적인 문제를 다루면서 특히 AI의 활용과 이에 따른 윤리적 문제 확립을 위한 영국 정부의 적극적인 역할을 촉구하고, 국제사회가 받아들여야 할 ‘AI 코드(AI Code)’라는 윤리규범 5가지 원칙을 제안하고 있다.

그 내용은 이렇다.
1. 인공지능은 인류의 공동 이익과 이익을 위해 개발되어야 한다.
2. 인공지능은 투명성과 공정성의 원칙에 따라 작동해야 한다.
3. 인공지능은 개인이나 가족, 공동체의 프라이버시나 정보를 침해해서는 안 된다.
4. 모든 사람은 인공지능과 함께 정신적으로, 정서적으로, 경제적으로 성장할 수 있도록 교육받을 권리를 가져야 한다.
5. 인간을 해치거나 파괴하거나 기만하는 자율적인 권한이 인공지능에 절대로 부여되어서는 안 된다.

인공지능 시대를 지탱하는 가장 중요한 토대는 첨단의 기술 그 자체 보다 운용의 윤리성이다. 부작용과 악용 가능성을 차단해야 하고, 통제와 안전장치도 윤리성을 밑바탕으로 삼아야 하는 게 마땅하다. 기술은 사람을 위해 존재해야 하기 때문이다.

인쇄하기