본문 음성으로 듣기

중지

멈춤

이어듣기

원문 보기: ‘Radical Indifference’: How Surveillance Capitalism Conquered Our Lives

쇼사나 주보프(Shoshana Zuboff)는 <감시자본주의 시대(The Age of Surveillance Capitalism)>의 저자이자 하버드 경영대학원의 명예교수이다. 그녀는 기술 이용자가 단지 감시 자본주의의 원천이라는 것을 밝히기 위해 이 책을 지었다.

감시 자본주의는 닷컴 버블(IT버블)에 대처하려는 목적으로 2000년~2001년 사이에 구글에 의해 시작되었다. 수익성에 대한 의문으로 투자자들이 급히 철수하겠다고 하자 구글 설립자들은 수익 창출을 위해 광고사업을 시작하였다. 그들은 데이터들이 많은 예측 신호를 제공한다는 것을 발견하였다. 그리고 분석 기술을 통해 누군가가 주목할 가능성이 있는 광고의 종류와 클릭할 여부를 예측할 수 있음을 발견하였고, 이는 오늘날 ‘클릭률’로 알려졌다.

본래 회사들은 광고주가 돈을 주는 대로 광고 순서를 정하였지만 구글은 클릭률과 알고리즘을 바탕으로 사용자 맞춤 서비스를 통해 광고를 제공하는 방식을 택하였고 광고주들이 이러한 방식에 받아들여 기계가 광고를 어디에 배치할지 결정하게 하는 데 동의하였다.

이러한 방식이 적용되자 수익이 기하급수적으로 증가하였고 이는 기업들 사이에서 당연한 방식이 되기 시작했다. 이제 사람들이 생산하는 넘쳐나는 데이터와 경험은 색인화될 것이고 이는 인공지능이라고 불리는 감시 자본주의의 계산 공장으로 전달될 것이다. 이 규모는 엄청나며 2018년에 유출된 페이스북 문서에 따르면 페이스북의 AI 허브에서는 매일 수조 개의 데이터 포인트가 수집되고 초당 6백만 건의 행동 예측이 생성된다고 한다.

기업에게 필요한 데이터의 특성
1. 규모: AI가 예측을 효과적으로 수행하려면 많은 데이터가 필요하다.
2. 범위: 양 외에도 다양성이 필요하다.
3. 예측 데이터가 사람들의 행동에 개입하여 결과를 극대화하는 방향으로 행동을 조종하는 것

모든 것을 알고 예측에 사용할 뿐만 아니라 인간 행동, 사회적 행동, 개인 행동을 조종해 수익에 최적인 방향으로 행동을 유도하는 것이 감시 자본주의가 나아가는 방향이다. 우리는 이것을 심리학 기반의 미시적 타게팅으로 볼 수 있다. 사람들이 상업적 결과에 만족하는 방향으로 이끌기 위해 게임을 도입하였고 포켓몬고가 그 예였다. 사람들이 이러한 문제에 대해 타겟 광고만 생각하지만 그것은 단지 광고에 관한 것이 아니라 실시간 행동에 대한보상과 처벌을 통한 행동방식 연구이다. 또한 페이스북은 뇌파를 언어로 번역하는 방법을 연구하고 있다.

이러한 시스템 속에서 시민은 이 큰 시스템의 일부인 것 외에 다른 역할이 없다. 그러한 회사는 “귀하의 모든 데이터를 당사에 제공하고 삶에 완전히 접근할 수 있도록 하는 데에 동의하면 멋진 서비스를 받을 수 있다”고 말한다.  그러나 개인 정보 보호 및 익명성을 선택하면 서비스 제공에서 제외되어 새로운 교통 시스템이나 보안 시스템, 음식 배달 시스템 등을 이용할 수 없을 것이다.

구글은 데이터를 사용하여 평판 점수를 매기는 방법에 대해 말했다. 알고리즘 매개변수 내에서 행동하는 사람과 기업은 더 높은 평판 점수를 얻고 은행 대출 또는 기타 종류의 서비스와 관련하여 특권을 얻는다. 알고리즘 매개변수를 위반하는 사람들은 이러한 종류의 관계와 서비스에서 배제되기 때문에 처벌을 받고 배제되기 때문에 삶을 발전시킬 수 없다.

번역&요약: 은나연

예전에 오딧세이 수업에서 ‘감시자본주의’에 대해 수업했던 것이 생각나서 이것을 주제로 기사를 찾아 글을 작성하였다. 개인의 데이터를 바탕으로 기업의 이윤을 창출하는 경제 시스템을 감시자본주의라고 하며 이 요약 글에서 나온 것처럼 쇼사나 주보프가 처음 주창한 개념이다. 구글의 클릭률 기반 광고 서비스 공급을 시작으로 이제는 모든 회사에서 데이터를 경쟁 우위의 핵심 가치로 꼽고 있다. 이런 시스템 속에서 우리의 사소한 데이터는 우리의 행동을 예측하고 조종하는데 쓰인다.

2018년에 유출된 페이스북 문서에 따르면 페이스북의 AI 허브에서는 매일 수조 개의 데이터 포인트가 수집되고 초당 6백만 건의 행동 예측이 생성된다고 하니 이는 정말 엄청난 것 같다. ‘바놉티콘’이라는 개념을 책에서 보았다. 바놉티콘은 감시와 규율에 순응하지 않는 자들이 사회에서 추방당하는 현상으로 체제에 적대적인 사람들을 아예 명부에서 제외하여 시스템에서 배제해버리는 구조를 가리킨다. 이 기사의 마지막 부분을 보면서 이 ‘바놉티콘’이 떠올랐다. 나의 정보를 지킬 권리는 당연한 것인데, 자신의 데이터를 수집하는 것을 동의하지 않으면 많은 혜택과 시스템에서 배제되어 버린다는 것이 아이러니하고도 어쩔 수 없는 것 같다.

요즘은 어플이나 다양한 인터넷 사이트들에서 개인정보를 수집해서 광고에 이용하거나 플랫폼 이용에서 개인에 맞춘 서비스를 제공한다. 그래서 처음으로 플랫폼을 이용할 때 뜨는 개인정보 동의 창을 전보다 훨씬 많이 보게 되었다. 개인정보 이용에 동의한다면 개인에 맞춘 서비스를 이용할 수 있는 등의 혜택을 받을 수 있지만 개인정보 이용에 동의하지 않는다면 이용하지 못하게 된다. 내 개인정보를 보호하려는 목적이 결국 나에게는 플랫폼 서비스 이용에서 제약된다는 점이 아쉽다. 개인에 대한 정보가 없으니 제공할 수 없다는 점은 당연한 것이지만 말이다. 나는 보통 어떤 정보가 어떻게 쓰이는지 대충이라도 보는 편이고 웬만하면 서비스를 이용하고 싶기 때문에 신뢰도가 낮은 플랫폼에서는 잘 사용하지 않는 이메일을 입력하기는 한다. 원래라면 기본적인 내용에만 동의하고 웬만하면 동의하지 않겠다고 생각하긴 하지만 이제는 서비스 이용에도 영향이 크기 때문에 개인 정보 동의에 있어서 더 예민하게 봐야할 것 같다.

이제 더이상 문이과가 나뉘는 세상이 아니라는 말이 정말이라는 생각이 들었다. 경영을 잘하기 위해서는 인공지능과 데이터에 대해서도 잘 알아야할 것 같다. 그렇다고 인공지능에 대해서만 잘 아는 사람이라고 경영에 인공지능을 잘 이용하는 것은 아니다. 시장과 사회에 대한 기본적인 이해와 분석을 바탕으로 데이터를 설정하고 인공지능을 잘 활용하는 것이 필요하다고 생각한다. 그리고 기업이 인공지능을 잘 활용하면 어떤 사업이 성공할지 아닐지 예측하는 좋은 도구가 될 것 같다. 미리 가지고 있는 데이터들을 바탕으로 인공지능을 이용해서 그 사업이 실행되었을 때의 결과를 알 수 있다면 사업을 진행시키는 게 옳은 일일지 알 수 있고 만약 허점이 많다면 그 허점들을 찾아내서 보완을 한 다음에 사업을 추진 할 수 있기 때문이다.

(이번 기사를 통해 감시 자본주의의 개념에 대하여 알게 되었다. 처음 접한 개념으로 이해도를 올리기 위해 유튜브 영상  탈탈 털려야 끝나는 운명, 감시 자본주의 이야기를 보았다.)
앱을 설치하거나 사이트를 처음 접속할 때 항상 뜨는 문구가 있다. 바로 개인 정보 동의에 관한 내용의 문구이다. 우리가 일상 과제 활동을 할 때도 기사에 접속하면 항상 뜨는 내용이다. 우리는 기업에게 개인 정보를 제공함에 따라 우리도 편리함을 제공받는다.
“확실에 가까운 제품을 팔기 위해서는 많은 데이터를 확보해야 한다. 그들에게 ‘확신성’을 제공하기 위해 우리 행동을 어떤 방향으로 이끈다. 그래서 그들은 지금 원격으로 자동화하여 규모화 하기 위해 어떻게 우리 행동을 조작할 수 있는지 연구 단계에 있다.” 내가 링크로 걸어둔 영상에서 가장 기억에 남는 주보프 교수의 문장이다. 가장 와 닿으면서도 소름이 돋는 문장이었다. 여러 기사 활동을 하면서 ‘개인화된 알고리즘, 이에 따라 제공되는 광고’는 나에게 큰 영향을 주어 깊은 생각에 빠지게 하는 주제는 아니었다. 하지만 이번 기사를 읽으면서 기업이 우리에게서 얻어간 정보가 어떻게 이용되고, 사람들의 행동을 추적, 예측하여 변형한 기술로 사람들을 조정하려고 한다는 점이 무섭게 느껴진다.

광고주들이 돈을 주는 대로 광고 순서를 정하는 것보다 사용자의 클릭률을 고려해서 광고를 정하는 것이 우리에게 더 도움이 될 것 같았지만, 그러기 위해서는 우리의 개인정보가 필요하고, 익명성을 요구한다면 이런 혜택을 받지 못한다는 사실이 안타깝기도 한 것 같다. 감시자본주의가 개인 데이터의 상품화를 통해 이윤 창출을 하는 수단인만큼, 서비스를 누리는 시민들이 자신의 개인정보에 대해 신중히 여기는 자세가 필요하다고 생각한다.

감시자본주의(surveillance capitalism)! 위키피디아에 설명이 너무 잘 되어 있어요! 이렇게 하나 배웁니다. 퀸텟 멋져요^^

나연양이 말한 바눕티콘이란 단어가 궁금해 찾아봤습니다.
『바놉티콘』  Ban(추방) + Opticon   :   정상사회에‘더 이상 접근하지 못하게 만드는’ 역할
『시놉티콘』  Syn(동시에, 함께) + Opticon    :     다수가 동시에 소수를 관찰하는 상황
세상에는 시놉티콘이 훨씬 이로울 거 같은데 왠지 바놉티콘이 시놉티콘보다 휠씬 강력한 듯합니다. 인정하긴 싫으나 내 삶이 편하려고 하면 무조건 OK를 눌러야 할 것 같습니다.

내 데이터를 통해 내가 조종을 당할 수 있음에 여러가지 경험들을 떠올리게 되네요, 그런데 퀸텟의 일상과제 기사들을 읽고 배우며..점차 이러한 문제를 인식하게 되고, 분별할 수 있는 힘도 길러지는 것 같아요.

“감시 자본주의” 너무 흥미로운 주제네요. 유튜브 영상 찾아보니, 경제학자가 “감시 자본주의 시대” 책을 읽고 리뷰해주는 영상이 있네요.
감시 자본주의의 원료로 전락한 인간 -『감시자본주의 시대 』 비판적 읽기 (1/2) feat. 전희상 쌤
‘데이터’라는 관점에서 IT기업 읽기 – 『감시자본주의 시대』 리뷰 (2/2)

책에서 인간을 감시 자본주의의 원료라고 표현하는데, 한 개인이 사용하는 플랫폼이나 사물인터넷, 인공지능이 탑재된 모든 기기들을 통해 개인의 생활 하나 하나가 수집되고 그 수집된 정보로 돈을 버는 시스템으로 바뀐 거잖아요. 기업에서는 개인이 동의하지 않아도 좋다! 그럼 쓰지마!라고 하고 있고, 어쩔 수 없이 우리는 쓸 수밖에 없는 상황이고요! 그런데, 이런 상황을 알고 살아가는 거랑 모르고 살아가는 거랑은 차이가 있겠죠? 편리하게만 느끼지 말고, 나의 정보들이 늘 이용되고 있다는 사실을 잊지 말자고요!