본문 음성으로 듣기

중지

멈춤

이어듣기

Photo by Alejo Reinoso on Unsplash

원문보기: Algorithms are everywhere. Here’s why you should care

얼굴로 휴대폰 잠금을 해제하는 것부터 틱톡에서 볼 수 있는 동영상을 결정하는 것, 출근길 고속도로 사고를 피하기 위해 구글 지도를 업데이트하는 것까지 모든 것에 알고리즘은 사용된다. 알고리즘은 결과를 산출하기 위해 컴퓨터가 따르는 규칙이나 단계의 집합이다. 알고리즘은 최근 몇 년 동안 그들은 누구를 체포할 것인지, 법정 기일 전에 출소해야 하는지, 그리고 누가 주택 대출 승인을 받을 것인지를 결정하는 것과 같은 삶을 바꾸는 결정들을 점점 더 많이 하고 있다. 최근 기술 기업들이 알고리즘의 사용 방식을 어떻게 전환해야 하는지 등 알고리즘에 대한 정밀 조사가 이루어지고 있다. 하버드 케네디 스쿨의 쇼렌스타인 미디어, 정치, 공공정책 센터의 방문 연구원(Shorenstein Center on Media, Politics and Public Policy)인 크리스 길리어드Chris Gilliard는 “이 시점에서 그들은 우리 삶의 거의 모든 측면에 대해 결정을 내릴 책임이 있다”고 그러나 알고리즘이 작동하는 방식과 그들이 도달하는 결론은 인공지능 기술의 사용으로 인해 더욱 복잡해질 수 있다. 결과가 항상 이해되거나 정확한 것은 아니다. 그리고 알고리즘이 우리의 삶에 미치는 영향을 제한하기 위한 새로운 법률은 여전히 불분명하다.

알고리즘은 기본적으로 일련의 명령어이다. 인공지능 모델 구축업체 허깅페이스의 윤리적 AI팀 연구과학자 사샤 루치오니Sasha Luccioni가 지적한 것처럼 이름 목록을 알파벳 순으로 넣는 등 컴퓨터가 따라야 할 방향이 정해져 있다. 오늘날, 알고리즘은 우리가 알든 모르든 간에 항상 복잡한 프로세스를 용이하게 한다.

모든 종류의 것들은 알고리즘이 될 수 있고, 그것들은 컴퓨터에만 국한되지 않는다. 뉴런이 뇌에서 작용하는 방식을 본뜬 딥러닝이 등장했기 때문이다. 예를 들어, 딥러닝 알고리즘은 컴퓨터가 고양이가 어떻게 생겼는지 알아내는 법을 배우기 위해 수천 개의 고양이 비디오를 보는 작업을 할 수 있다.  시간이 지남에 따라 개선되는 결과는 본질적으로 컴퓨터가 어떻게 고양이가 새로운 사진에서 보이는지 확인하는 컴퓨터 생성 절차일 것이다. 페이스북, 인스타그램, 그리고 트위터는 각각의 사람들의 관심사와 이전 활동에 기초하여 사용자들의 피드를 개인화하는 것을 돕기 위해 그것들을 사용한다.

이 모델은 또한 인간이 분류할 수 없는 여러 해에 걸쳐 수집된 데이터를 기반으로 할 수 있다. 예를 들어, 질로우Zillow는 세금과 재산 기록, 화장실 추가와 같은 집주인이 제출한 세부 사항, 그리고 집을 그림으로 표시하기 위해 2006년부터 기계 학습 보조 장치인 “제스티메이트Zestimate”를 사용하여 주택의 가치를 추정해오고 있다. 그러나 질로우의 사례에서 알 수 있듯이, 알고리즘에 의존하는 것은 위험하다. 다른 온라인 상에서는, 이전에 페이스북으로 알려진 회사인 메타가 세계에서 가장 큰 소셜 네트워크에서 더 많은 부정적인 콘텐츠를 장려하는 방식으로 알고리즘을 조정한 것에 대해 조사를 받고 있다.

보통의 회사는 알고리즘 시스템 작동 방식과 용도에 대한 기본적인 설명 이상의 것이 없는 경우가 많다. 기술 전문가들은 “이러한 시스템을 구축한 사람들조차 왜 그들이 결론에 도달하는지 항상 알 수는 없다”고 했다. 길리어드는 “컴퓨터 과학자들, 데이터 과학자들, 현재 많은 사람들에게 그들은 마법사처럼 보인다”며 “우리는 그들이 무엇을 하는지 이해하지 못하기 때문이다”고 말했다.” 미국에는 기업들이 일반적으로 알고리즘을 사용할 수 있는지 없는지, 특히 AI를 활용하는지에 대한 연방 규정이 없다. 최근 CNN 오피니언 기사에서 공화당 상원의원 존 툰이는 “빅테크의 비밀 알고리즘, 즉 사용자의 경험을 형성하고 조작하기 위해 설계된 인공지능(AI)을 위한 조명 스위치를 본질적으로 만들고 소비자들에게 최고 수준의 정보를 제공하는 법안”을 냈다. 예를 들어 웹사이트를 나가거나 앱을 종료하면 당신의 페이스북 뉴스 피드는 원래의 절제된 상태로 돌아가게 된다. 그는 이 법안이 통과될 경우 알고리즘 큐레이션 위주로 구축된 기업들의 비즈니스 모델을 근본적으로 바꿀 것이라고 말했다.

번역&요약:유현영

이제부터 우리가 살아갈 시대에는 알고리즘이 안 쓰이는 곳이 없을 정도로 우리의 삶에서 뗄래야 뗄 수 없는 존재가 될 것이다. 알고리즘은 우리의 삶을 더 편리하게 해준다는 점에서는 정말 훌륭한 기술이다. 그러나 인공지능이 많은 곳에서 사용되는 만큼 개인의 정보도 그만큼 많이 쓰일 것이다. 따라서 우리의 정보가 어느 곳에, 어떤 방식으로 쓰이는지 잘 알고 있어야 하고 개인정보 보안에도 많은 신경을 써야 한다. 특히 개인정보를 이용해서 알고리즘을 구축하는 많은 회사들도 사용자들의 정보를 확실하게 보호해야 하고 정확하게 사용자에게 개인정보의 쓰임 등에 대해서 고지해야 한다.

알고리즘은 이제 사람들의 삶에 엄청난 영향을 미칠 것이다. 기업들은 개인화된 콘텐츠를 제공하기 위해서 우리들의 사소한 정보까지 끌어 모을 것이고 이용할 것이다. 우리가 소셜서비스와 인터넷을 사용하려면서 개인정보 이용을 완전히 막을 순 없다. 그래도 우리는 개인정보를 최대한 지키고 기업들이 무분별하게 사용하도록 두어서는 안 된다.

‘메타’는 과거 ‘페이스북’이었던 시절, 개인정보 데이터를 분석하여 정치적으로 중립의 입장을 띄고 있는 사람들에게 특정 정치 그룹을 옹호하는 콘텐츠를 제공하고 반대 정치 그룹을 깎아내리는 콘텐츠를 제공하였고, 이는 페이스북 사용자들의 동의없이 진행되었기 때문에 엄청난 비판을 받았다.

우리는 지금도 알게 모르게 수많은 콘텐츠들을 받아들이며 무의식적으로 통제를 받고 있을지도 모른다. 심리학의 ‘단순노출효과’에 따라 우리는 우리도 모르게 뇌에서 받아들인 반복된 정보를 더 선호하고 있을 수도 있다. 그러니 우리는 우리의 개인정보를 지키기 위해 노력해야 하고 함부로 오용 당하지 않도록 항상 감시해야 하며 기업들은 윤리적으로 데이터를 이용해야 한다.

몇 년 동안 알고리즘이 삶에 많은 변화를 가져다주면서 사람들이 알고리즘에 의존하는 정도가 올라가고 있다. 그러나 과도한 의존으로 편향적인 성향을 보이는 등 많은 문제점이 이슈가 되고 있다. 따라서 알고리즘이 삶에 미치는 영향을 제한해줄 새로운 법안이 필요하다. 특히나 알고리즘의 활용으로 많은 이익을 거두고 있는 기업들은 윤리적인 기준을 지키며 생산 활동을 해야 하고, 사람들도 비판적인 시선으로 정보를 받아들여야 한다고 생각한다.

알고리즘이 삶에 미치는 영향력이 커서 법적인 방어벽을 만들기 위한 노력이 시도되고 있다. 알고리즘의 편향성을 극복하거나, 개인정보를 완전히 보호하는 것이 일반인들에게는 어려운 일이지만 이 법의목적은 분명해 보인다. 내가 허락하고 내가 사용하고 내가 분명하게 인지할 때만 나에 대한 접근권한을 주는 것이다. 법적 근거 마련과 제도의 개선이 더디지만 진행된다는 것에 약간의 안도감을 느낀다. 소 잃어도 외양간은 고쳐 놓아야 다음 소라도 들일 기회가 오지 않을까 싶다.

와우, 기사의 마지막에 소개된 법안이 인상적이네요, 이제까지 알고리즘의 문제점에 대한 이야기는 자주 접했는데, 해결방법에 대해서는 추상적인 얘기를 주로 들어왔거든요. 구체적인 법안이 나왔고… 웹사이트나 웹을 종료하면 원래의 상태로 돌아가게 해 사용자의 경험이 알고리즘에 영향을 덜 미치게 하는 것이 주요 내용인 것 같습니다. 이렇게도 할 수 있겠구나, 구체적인 방법을 찾아볼 수 있겠구나 하고 희망적인 생각이 들었습니다.

어느 날 유투브를 하다, 알고리즘으로 인해 저도 모르는 사이에 편향적으로 영상을 보고 있게 되었다는 것을 알게 되었습니다. 나이가 들수록 생각이 더 유연해져야 하는데 쉽게 눈이 가는 것일수록 천개의 눈으로 갖고 봐야 할거 같습니다. 편하다고 다 좋은 것이 아니네요.

저도 현영맘처럼 마지막에 소개된 법안이 인상적이네요. 내 취향, 내 성향에 따라 추천될 때마다 편리하면서도 가끔 소름이 끼칠 때가 있거든요. 다시 리셋된다고 생각한다면 부담감없이 더 과감하게 콘텐츠를 이용할 수 있지 않을까 생각되네요. 그리고 편향적인 태도의 변화에도 도움이 될 듯합니다.