구글 AI 윤리팀의 연이은 사퇴
며칠 전 ‘구글 사태 일파만파 … AI 윤리팀 책임자 벤지오 사임’이라는 기사를 봤다. 최근 연이은 연구원 해고 사태로 뒤숭숭한 마당에 구글 인공지능 연구팀 책임자가 사직 의사를 밝혔다는 내용. 심지어 벤지오는 2007년 입사에 구글에서 14년간 재직, ‘구글 브레인 프로젝트’에 최초로 참여한 직원 중 한 명이라는 내용이 있어 그의 퇴사 이유가 더욱 궁금해졌다. 기사 말미에는 ‘그는 해고된 팀닛 게브루와 마가렛 미첼을 적극 변호해왔다’라며 그의 사직이 두 명의 해고와 연관돼있다는 언질을 주었다.
팀니트 게브루의 퇴사에 관해 찾아보니 MIT Technology Review의 ‘구글이 흑인 여성 AI 윤리 연구자를 해고한 이유’라는 글을 찾아볼 수 있었다. AI 윤리 연구 분야에서 인정받고 있는 게브루는 하나의 논문을 발표했다. ‘인공지능이 여성과 유색인종에 대해서는 얼굴 인식 정확도가 떨어져 이를 활용할 경우 차별로 이어질 수 있다’라는 내용이었다. AI분야에서 가장 다양성을 띤 팀 중 하나였던 그녀의 팀에는 전문가가 다수 포진돼 있었기에 그 내용은 내부에서 심도 있게 고민하고 결론낸 내용이었을 것이다. 하지만 이 논문을 계기로 회사와 게브루의 갈등은 극심해졌고 결국 그녀의 사임으로 이어졌다.
넷플릭스의 소셜 딜레마
짧게나마 구글의 AI 윤리 관련된 사태를 지켜보면서 예전에 넷플릭스에서 봤던 넷플릭스 오리지널 다큐멘터리 ‘소셜 딜레마’라는 콘텐츠가 떠올랐다. 드라마와 다큐멘터리가 결합된 이 콘텐츠에는 페이스북의 ‘좋아요’를 개발한 엔지니어와 핀터레스트의 대표, 인스타그램의 초기 멤버, 트위터는 물론 구글 디자인 윤리팀이었던 사람들이 나와 고해성사를 한다. 사람들이 잘 쓸 수 있도록 만든 다양한 프로그램들이 사실은 사람들의 뇌간 속에 침투해 뇌를 해킹하고 조종하려 든다고.
사람들의 공감을 이끌어 내고 단순히 오프라인에서의 좋은 관계를 온라인으로 이관해 이어가고자 하려했던 선의의 ‘좋아요’는 사람들을 확증편향으로 이끌어 극단으로 내몰고 청소년 자살률을 높이고 있다. 선한 역할을 하도록 만들어진 기술이 집단 혼돈과 고독을 만들어내는 것이다.
페이스북이 암암리에 테스트를 진행하고 있다는 것을 규탄하기 위한 사례가 나온다. 페이스북에서 진행한 ‘대규모 전염 실험’이다. ‘페이스북 페이지에서 어떻게 무의식적인 암시를 줘서 사람들이 중간 선거에 투표를 더 하게 만들까?’라는 주제로 진행됐고, 그들은 이것이 가능하다는 것을 알게 된다. 아무도 모르게 사용자들의 실제 행동과 감정을 끌어낼 수 있다는 것이다.
나의 모든 행동과 위치, 기분, 인간관계 등이 세밀하게 기록되고 데이터화되는 SNS는 더이상 내가 주도적으로 사용하는 것이 아닌 만들어진 알고리즘에 이끌려 사용하도록 만들어지고 있다.
이 콘텐츠에서 가장 인상깊었던 부분은 ‘상품의 대가를 치르지 않으면 네가 상품이다’라는 말이다. 그간 무료로 이용해오던 프로그램들이 뇌리를 스쳐 지나가면서 얼마나 쉽게 나의 정보를 대기업에 팔아치웠는지 생각하게 됐다. 나의 수많은 클릭과 영상 시청률, ‘좋아요’, 공유 버튼, 검색어와 스크롤이 어떻게 내 타임라인을 구성했으며 광고 상품을 만들어냈는지 떠올렸다.
마케터의 소셜 딜레마
하지만 여기에서 또다른 딜레마가 등장했다. 마케터로서 이 소셜 딜레마를 과연 부정적으로만 볼 것인가. 이 콘텐츠에서는 SNS에 중독돼가는 한 남성 청소년이 등장한다. 그는 처음에 좋아하는 여자친구를 염탐하기 위한 도구로서 페이스북을 이용하다가 결국에는 좋아하는 여자친구가 오프라인에서 데이트 신청을 해도 외면하고 페이스북에만 몰두할 정도로 중독되는 모습을 보인다. 그 모습을 보면서 첫 번째로 든 생각은 ‘저렇게까지 중독이 된다고?’였고, ‘나도 저런 서비스를 만들고 싶다’였다.
영상에서 주인공이 정기적으로 접속하던 시간에 연결이 안돼있다면, 혹은 평균 사용 시간이 줄어들었다면, 사용자의 관심을 이끌 수 있는 가족 사진을 다음 피드로 올린다거나, 전 여자친구의 소식을 확인해보라는 알림을 보낸다. 혹은 그동안 관심을 가지고 있었던 액티비티에 대한 비디오를 보여주는 등 유저의 리텐션을 높이기 위한 정말 다양한 테스트를 진행하고 예측모델을 만드는 모습을 보여준다.
사실 중독을 만드는 프로세스는 간단하다. 사람은 예기치 못한 보상이 비정기적으로 발생할 때 사회적 보상을 느끼게 되고 이는 중독으로 이어진다. 사람은 본인의 취향이 담긴 보상을 기대하며 서비스를 이용하고 마케터는 유저가 원하는 콘텐츠를 이용에 대한 댓가로 제공하며 서비스 이용 시간을 늘릴 수 있다. 유저의 취향이 담긴 데이터는 결국 유저가 원하는 서비스를 제공하기 위해 사용된다.
고객 정보를 무작위로 활용해서는 안 되겠지만 활용할 수 있는 고객의 데이터를 세밀하게 분석해 고객이 원하는 정보를 제공하면서 리텐션을 확보해나가고 싶다.
앞으로 우리는
서비스를 잘 만들어 사용자의 행동을 이끌어낼 수 있다면, 사실 엄청나게 성공한 서비스일 것이다. 이 과정에서 서비스를 만든 개발자는 물론 유저의 리텐션을 확보할 수 있도록 다양한 테스트를 진행한 마케터도 성공적인 업적이 될 것이다.
다만 유저는 서비스가 원하는대로 이끌려가지 않도록, 주체성을 가지는 동시에 관점의 다양성을 지속적으로 추구해야할 것이며 서비스를 만드는 사람들은 유저의 정보를 비윤리적인 방식으로 이용하지 말아야 할 것이다.