본문 음성으로 듣기

중지

멈춤

이어듣기

원문 보기: AI Weekly: The Russia-Ukraine conflict is a test case for AI in warfare

러시아 정보 기관의 작업으로 추정되는 파괴적인 소프트웨어가 우크라이나 정부 기관의 수백 대의 컴퓨터를 손상시키고, 해커 그룹이 주요 러시아 웹사이트를 표적으로 삼아 러시아 최대 증권거래소와 러시아 외무부의 웹페이지를 다운시켰다. 우크라이나는 터키에서 만든 자율주행 드론을 사용하여 레이저 유도 폭탄을 투하하고 포격을 가했으며 미리 선택된 목표물에 충돌할 수 있다고 알려진 러시아의 무인 항공기가 우크라이나에서도 사용된 것으로 알려졌다.

틱톡과 같은 소셜 미디어는 정보 전쟁의 핵심이 되어 수백만명의 사람들을 공격하는 영상을 공개했지만 조작된 비디오 게임 클립과 침략자의 가짜 라이브와 같은 잘못된 정보를 확산하는 양날의 검이다. 메타는 최근 약 40개의 허위 계정과 관련된 캠페인을 확인했으며 해당 계정은 주로 친러, 반우크라이나 콘텐츠에 대한 링크를 게시했다고 밝혔다.

이처럼 사이버 전쟁으로 무기화되고 있는 오늘날의 머신 러닝 알고리즘의 취약점을 시급히 식별해야 한다는 주장도 등장하고 있으며 이 카이푸는 인공지능이 화약과 핵무기에 이은 세 번째 전쟁 혁명이 될 것이라고 예측하기도 했다. 나토는 새로운 AI 방어 기술 제안서에서 인공지능과 관련된 문제에 대해 회원국 간의 협조와 협력의 필요성을 강조했다.

이번 우크라이나와 러시아의 전쟁을 통해 전쟁에서의 인공지능 기술이 회자되고 있으며 국방부에서도 과학 및 기술 연구 예산의 일부로 인공지능 관련 기술에 큰 돈을 투자할 계획이라고 한다. 하지만 과연 전쟁을 위한 인공지능이 정의상 윤리적일 수 있는지에 대한 논란도 등장했으며 호주 육군의 전문 개발 플랫폼인 코브Cove에서도 이 문제를 지적하고 있다. 국방부는 이에 대해 인공지능 군사 기술 계약자에게 지침을 제공하여 시스템 감사 계획을 수립하고 새 데이터가 시스템 성능을 저하시키지 않는지 확인하도록 권장하는 지침을 제공했다. 그러나 계약자가 지침을 준수하는지, 인공지능이 전쟁에서 제공하는 이점이 결과를 능가하는지가 새로운 문제가 되며 우크라이나의 전쟁은 우리에게 또 다른 생각거리를 제공하고 있다.

번역&요약: 정세빈

아인슈타인도 자신이 개발한 원자력 폭탄이 전쟁에 사용되는 것을 보고 큰 후회를 했다고 한다. 역시 역사는 반복되는 것인지, 세상이 더 발전한 지금 인공지능은 우리에게 또 다른 윤리적 문제를 제기하고 있다.

이번 우크라이나와 러시아의 전쟁을 통해 인공지능이나 컴퓨터를 사용하는 사이버 전쟁이 본격화되었으며, 딥페이크 등을 통해 논란이 되었던 인공지능의 양면적 측면이 다시금 드러난 것 같다. 사람의 삶을 더 편리하게 해주기 위해 개발된 기술인데, 전쟁에서 민간인들을 죽이기도 하는 살상무기로 사용되고 있다니 참 아이러니하다. 인공지능도 이렇게 무서운 무기가 되었는데 미래에는 얼마나 더 잔인하고 똑똑한 기계가 등장해서 전쟁에 사용될 지 벌써 조금은 두렵기도 하다.

아래 기사도 관련 내용을 잘 정리하고 있다.
Russia’s Killer Drone in Ukraine Raises Fears About AI in Warfare

전쟁이 인간에게 물리적으로 큰 피해를 주고 있다면 이제는 인공지능, 알고리즘이 더해져 물리적인 전쟁의 강도도 높이고 사이버 전쟁까지 피해 영역이 넓어졌다. 가짜뉴스로 사람들에게 혼란을 주고 정신적인 피해도 준다. 소셜 미디어 기업들은 이런 사회적 이슈에 대한 글, 영상 등에 대해서 제재를 해야 할 것 같고 소비자 입장에서도 편향된 정보만을 사실로 받아들이지 않고 다양한 정보를 찾아야할 것이다. 또 전쟁에서의 인공지능 사용에 대한 국제적인 차원에서의 협의가 필요하다고 생각한다. 지금도 이미 엄청나게 발전한 인공지능이 앞으로 얼마나 더 발전해서 전쟁에서 이용된다면 얼마나 많은 피해(사상자 등)지 모른다고 생각한다.

우크라이나 사태를 통해서 느낀 것은 과거와 달리 이제부터 전쟁은 전투 등의 물리적인 충돌뿐만 아니라 보이지 않는 사이버 전쟁이라는 것이다. 각국의 해킹, 보안 실력은 국방력이 될 것이고 이 사태를 기점으로 더 치열해질 것 같다. 인공지능은 핵심적인 역할을 할 것이고 앞으로 국가들은 자국의 인공지능을 키우기 위해 경쟁할 것이다.

이 와중에 가짜뉴스는 큰 혼란을 주고 있다. 한 틱톡 유저는 7년 전 전쟁 영상을 현재 우크라이나 사태의 영상이라 하며 올렸다. 이 영상은 2000만 뷰가 넘긴 뒤에 삭제되었다. 아일랜드 싱크탱크 전략 대화 연구소에 따르면 러시아 국영방송 러시아 투데이가 ‘국영 미디어’라는 사실을 알리지 않고 틱톡에 올린 12개 러시아 정부 선전 콘텐츠의 총 조회 수가 8일 기준 2,130만 회에 달했다고 한다. 이처럼 가짜뉴스는 혼란을 일으키고 사람들을 선동하고 있다. 전쟁의 상황과 참혹함을 알리는 중요한 수단이 되기도 하지만 선전도구이자 거짓말생성기가 될 수도 있는 플랫폼들 때문에 많은 사람들이 피해를 보고 있다. 누군가는 죽고 다치고 있는 심각한 사태에서 각 플랫폼 회사는 세계 시민으로서 책임감을 가지고 이를 최대한 해결하기 위해 알고리즘의 취약점을 빨리 개선해야 하고 유저들도 가짜뉴스에 넘어가지 않도록 비판적인 시각을 가져야할 것이다.

최근 화학시간에 선생님께서 “전쟁이 일어나면 과학기술이 매우 발달한다. 빠르고 정확하지만 몰래 사용할 수 있는 과학기술이 필요하기 때문이다.”라고 하신 것이 생각 났다. 아이러니하게도 전쟁으로 과학기술이 발달하면 그 발달한 과학기술이 다른 사람들의 삶을 편안하게 해줄 수 있다. 지금도 우크라이나 전쟁으로 해킹 기술이 많이 발달했을 것 같다. 어떻게 빠르게 정확하게 몰래 많이 중요한 정보를 해킹할 수 있을까에 대해 고민한 결과라고 생각한다. 그렇지만 이렇게 발달한 기술이 수많은 사람들이 삶과 생명을 잃은 대가로 볼만큼 가치 있다고 생각하지 않는다. 인공지능이 어떤 사람에게는 새로운 삶을 살게 해주는 기술이지만 어떤 사람에게는 삶을 빼앗아가는 기술이기 때문에 윤리적인 인공지능 사용이 필요하고 생각한다.

이 기사를 보니 최근에 영상 편집할 때 사용했던 클로바 더빙이 떠올랐다. 직접 더빙하지 않고 AI 음성을 사용하면 편리하고 시간도 절약됐지만, 중간마다 음성의 어색한 부분들이 있었다. 이번 기사에 링크된 동영상에서 Sonantic이 개발한 AI 음성 합성 기술을 듣고 매우 놀랐다. 영상의 AI 음성은 목소리의 높낮이 조절은 물론이고 작은 숨소리, 웃음소리 등을 구현해냈다. 목소리에서는 따뜻함과 애절함 등이 느껴졌다. 이런 AI 음성 합성 기술이 더욱 발전한다면 영화나 광고, 애니메이션 등에서 쓰여도 전혀 어색하지 않을 것 같다. 전에 좋아했던 애니메이션에서 등장하는 도라에몽은 특이한 목소리가 인상적이지만 그만큼 목에 많은 무리가 간다. 이러한 이유로 도라에몽 역을 맡은 성우는 오랫동안 활동하지 못하고 하차하는데, 이럴 때 AI 음성을 함께 사용한다면 목이 크게 상하지 않으면서 오래 활동하실 수 있을 것이다.

인공지능이 전쟁에 사용되고 온갖 가짜뉴스의 온상이 되어 문제가 심각합니다. 하지만 전쟁에서 인권은 보호받기 힘들지요. 승리를 위해 가장 치명적인 도구를 사용할 수밖에 없었습니다. 칼이 있으면 칼로, 총이 있으면 총으로, 인공지능이 있으니 인공지능으로 싸우는 거죠.

전쟁이 일어나지 않을 환경을 조성하는 것이 중요하지 발생한 전쟁에서 최신 무기를 사용하는 것을 막을 방법은 없어 보입니다. 차라리 인공지능을 전쟁 억제력을 높이거나 방어력을 강화시키는 쪽으로 사용하는 분위기(?)를 조성하는 것이 더 현실적인 방안이 아닐까요.