[TED] 인공지능 시대에 더욱 중요해진 윤리_제이넵 투펙치

“은나연은 중학생으로 인터넷과 디지털을 일상생활과 학습에 적극적으로 활용하고 있다. 인공지능에서 미래를 찾고 있고, 그 성장 과정을 소요의 글로서 기록하려고 한다.”

지금 우리는 인공지능 시대에 살고 있다. 인공지능은 생활 속에서 점점 더 다양한 의사결정에 사용되기 시작하였고 그 질문에는 주관적이고 가치판단이 필요한 질문들도 포함되어있다. 예를 들면 “누굴 새로운 직원으로 채용해야할까?”, “어떤 범죄자가 재범가능성이 높을까?”같은 질문들이다. 이러한 질문까지 컴퓨터에 의존하는 것은 옳지않다고 생각한다.

소프트웨어는 사람의 얼굴을 인식하고 번역도 하고 인간과 바둑을 두며 의료기술에도 도움을 주고 있을만큼 많이 발전하였다. 이렇게 발전할 수 있었던 큰 이유는 기계학습의 영향이 크다. 기존에 컴퓨터에게 직접 지시를 내리는 것에 반해 기계학습은 프로그램에 데이터를 넣으면 스스로 그 많은 데이터들을 학습하면서 성장한다.

채용 알고리즘에 대해서, 많은 사람들은 이 인공지능 시스템이 편견을 가진 인간들보다 여성과 사회적약자, 소수자에게 더 많은 기회를 주는 등 편파적이지 않고 객관적인 채용을 가능하게 할 것이라고 생각하였다.

중요한 사실은 이 프로그램은 정답을 단정짓지 않고 확정된 결과를 내리는 것이 아닌 확률적인 결론을 내린다. 여기서 문제점은 인공지능이 무슨 생각으로 이러한 판단을 하는지 알 수 없는 것이다.

또한 현재 이런 시스템은 우리가 남긴 정보나 흔적을 통해서 공개하지 않은 개인정보를, 상당히 높은 적중률로 추론할 수 있다. 하지만이해를 하지 못하는 인공지능에게 의사 결정까지 맡기면서 우리도 모르는 새에 기회를 박탈 당하는 것이 과연 옳은 것일까? 시스템이 어떤 기준으로 그러한 선택과 판단을 하는지 우리는 그 예측 방법을 알지 못한다.

물론 시스템은 인간보다 편견이 없을 수도 있고 인사 업무에 돈을 덜 쓸 수도 있는 등 많은 장점들이 있지만, 지속적이고 암묵적으로 선택과 판단을 통해 타당하지 않은 이유로 우리들의 권리를 침해할 수 있다.

또 다른 문제는 이 시스템은 인간들의 행동과 흔적들을 보고 학습을 한다는 것이다. 그렇게 되면 인공지능은 우리의 편견과 사고 방식을 그대로 배워 가지게 될 것이고 그것을 토대로 결과를 만들어 우리에게 보여줄 것이다. 하지만 우리는 그것이 옳고 합리적이고 바른 결정이라고 생각하면서 합리화할 것이다.

연구결과에 따르면 구글 검색의 경우에는 여성은 남성보다 소득이 낮은 구인 광고에 노출된다고 한다. 그리고 흑인계 이름으로 검색을 해보면 전과가 없음에도 불구하고 범죄를 시사하는 광고에 많이 노출된다고 합니다. 이런 편견들과 프로그램의 알고리즘은 우리가 모르는 사이에 개인의 삶에 영향을 끼칠 수 있다.

인공지능은 똑똑하고 유능한 존재인 것은 확실하지만, 아직은 개선해야할 점도 많고 100퍼센트 믿기에는 부족한 존재이다. 그렇지만 인공지능은 앞으로의 미래사회에서 오래 같이 지낼 동반자이다. 그런 중요한 존재이므로 우리는 인공지능에 대해 더 관심을 가지고 주의를 기울이고 공부를 해야한다고 생각한다. 우리는 인공지능을 더 알아가며 모든 것을 그것에 의존하며 살아가는 인간이 아닌, 인공지능을 이해하고 정확히 알고 올바르게 활용하는 주인이 되어야 한다.

인쇄하기