본문 음성으로 듣기

중지

멈춤

이어듣기

Photo by Franki Chamaki on Unsplash

“[퀸텟 AI 톡톡]은 퀸텟 멤버들이 매주 국내외 인공지능 관련 뉴스 중에서 이슈가 되는 것을 골라서 내용을 요약하고 의견을 나눈 것을 연재하는 코너입니다. ”

원문 보기: 마케팅 시장에 뛰어든 AI… 편향성 문제 극복할까

전문가들은 인공지능 활용 마케팅 시장이 급격한 속도로 성장할 것이라 예상한다. 전 세계 마케팅용 인공지능 시장은 연평균 29.79%씩 성장하고 있으며 2025년에는 400억 9,000만 달러에 이를 전망이다. AI가 마케팅 분야에서 급성장하고 주목받는 이유는 소비자가 원하는 것을 사람보다 훨씬 더 잘 파악해 실시간으로 광고를 전송할 수 있다는 것이다.

재미있는 것은 AI 광고의 우수한 효과는 AI기술의 문제점으로 꼽히는 ‘편향성’이 어느 정도 중요한 요소로 작용한다는 것이다. 즉, AI가 고객층에 어느 정도 편견을 가지고 판단하는 것이 광고 효과를 증대할 수 있다. 예를 들면, AI가 남성 고객과 여성고객에 대해 편향된 데이터를 학습해 여성 고객들에게 화장품, 핸드백 등과 관련된 광고를 내보내면 이는 분명 편견에 기반을 둔 광고라고 볼 수 있고 더 나아가 성차별적 광고라고 볼 수 있다. 그러나 통계적으로 남성 고객보다 여성 고객이 화장품과 핸드백을 구매할 확률이 높으니 기업들에겐 분명 이득이다.

하지만 이에 대한 대응책을 마련하는 것이 필수적이다. 지난달 6월 코카콜라에서는 ‘맞춤형 콜라병’ 이벤트를 진행했다. 이 과정에서 코카콜라 측은 AI를 활용해 논란이 될 만하다고 판단되는 단어나 문구를 필터링하도록 설정했다. 문제는 여기서 발생했다. AI는 뉴스 등을 학습하며 평소 사회적 갈등을 야기하는 단어들을 차단했는데, 이 과정에서 ‘북한(North korea)’이라는 단어를 차단하기 위해 ‘한국(Korea)’ 자체를 차단해 버렸으며 ‘나치(Nazi)’ ‘히틀러(Hitler)’ 등이 혐오 표현으로 차단됐지만 ‘나는 나치당원이다(I am Nazi)’나 ‘나는 히틀러다(I am Hitler)’ 등의 혐오 표현은 제대로 걸러내지 못하였다.

기사 요약: 은나연

퀸텟 톡톡

은나연
평소 인공지능의 편향성은 굉장히 큰 문제점이며 우리가 앞으로 해결해 나가야할 과제라고만 생각하고 있었는데 그것이 기업이나 누군가에게는 이익을 확대해주며 긍정적으로 유용하게 쓰이는 도구라는 것이 굉장히 새롭게 느껴졌다. 평소 기업이나 마케팅에 관심이 많아서 더 재미있고 흥미롭게 읽었다.

임수빈
전에 아마존 사이트에서 올라온 ‘nxxxx’라는 단어가 떠올랐는데 흑인에 대한 인종차별로 큰 비난을 받았던 문제다. 여기서의 편향성은 오히려 하나의 전략으로 사용한다는 것이 기억에 남는다. 그런데 여성 고객들이 화장품, 핸드백 등을 더 많이 구매하였고 이에 대한 데이터를 학습한 것인데 왜 이것이 편향성에 대한 문제고 성차별적인 광고인지 잘 모르겠다. 있는 사실을 그대로 받아들인 것인데.. 내가 잘못 이해한 것일까?

유현영
인공지능의 편견에 관련된 내용을 많이 봐서 당연히 부정적인 문제라고 생각했는데 조금 다른 관점에서 보면 어떤 사람들에게는 이득이 될 수 있는 전략이라고 생각할 수 있다는 사실이 놀랍다. 하지만 인공지능의 편향성은 기업의 이득을 위해 좋은 것이지 사회적으로 좋은 것이 아니라는 것을 잊지 말아야 한다.

변현주
AI가 가진 문제점인 편향성이 광고엔 오히려 도움이 된다 하니 신기하다. 하지만 AI의 편향성이 잘못된 방향으로 발현되거나 편향성 필터가 허술할 경우 심각한 문제로 이어질 수 있다고 한다. 이에 대한 대응할 해결책을 마련하는 것도 중요한 것 같다. 이번 기사의 내용은 새롭게 느껴지는 점이 많은 것 같다.

정세빈
인공지능의 편향성이 오히려 주 고객들에 초점을 맞춘 광고로 마케팅에 유용하게 쓰일 수도 있다니, 생각지도 못했던 것이다. 지금까지 인공지능의 편견이라 하면 ‘이루다’ 같이 사람들이 차별적으로 느낄만한 점이라고만 생각해왔는데, 잘만 활용하면 도움이 될 수도 있는 것이 신기하다. 하지만 기사에도 언급되었듯이, 이러한 문제에 관해서는 단어 하나하나가 논란을 일으킬 수 있기에 마케팅 수단으로는 더욱 신중하게 사용해야 할 것 같다.

맘의 마음

현주맘
주용완 교수의 “이제는 마케팅도 AI 마케팅 시대로 전환을 가속화하고 있다”며 “이러한 환경 속에서 개인의 윤리적 기준, 기업의 이익 추구에 따른 부작용, 또는 관례적인 관행 등으로 인해서 AI의 편향성을 더욱 악화시켜 사회적 갈등을 초래하는 일이 없도록 더욱더 주의를 기울여야 할 것”이라고 말한 부분이 정말 와 닿습니다. 인공지능과 윤리의 문제는 대척점은 아니지만, 문화적인 차이로 윤리 기준도 다양하고, 윤리는 돈이 되지 않는 부분이라 세심한 주의를 기울이는 부분을 잘 조정하기가 정말 어려운 것 같아요.

수빈맘
어떠한 분야에도 편향성 문제가 늘 따라다니네요. 그 편향성을 이용한 마케팅 전략도 있다는 것도 새롭게 알게 되었고요. 앞으로 이 편향성을 줄이는 것이 인공지능 활용의 관건이 되겠네요. 그렇지만 기업 또는 인공지능을 활용할 기관에서 이러한 노력을 할 것인지는 의문입니다.