너에게 난, 나에게 넌

우리의 삶은 이미지로 구성되어 있다. 우리가 시각적으로 받아들이는 모든 것들은 이미지들의 총체다. 집 밖을 나와 다시 집 안에 도착할 때까지 우리가 마주하는 이미지들은 셀 수 없이 연속적이며, 우리의 세계를 구성한다. 그러나 그 세계는 우리가 자체적으로 편집할 수 없고, 보이는 대로 받아들여야 한다. 그것이 더럽고 어둡고 기분 나쁜 세계일지라도 우리는 그것을 어쩔 수 없이 보며, 받아들인다. 그러나 영상과 사진의 이미지들은 그렇지 않다. 영상과 사진의 이미지들은 생산자가 거친 부분을 사포질하고, 부족한 부분을 보정하며 사각의 프레임 안에서 조정된다. 그렇기에 그런 이미지들은 매끈하며 아름답고, 깔끔한 인상을 준다. 인스타그램의 사진과 유튜브의 영상들이 아름답고 깨끗한 것은 그것이 보정되었기 때문이라고 볼 수 있다.

그러나 우리는 이것들을 조작이라고 생각하지 않고, 그렇게 부르지도 않는다. 밖에 나갈 때 샤워를 하고, 머리를 단정히 하고, 잡티를 가리는 것처럼 자신의 이미지를 수정하는 것은 사회활동이라는 인식 때문이다. 여기서 문제는 어느 정도에 있다. 우리는 어느 정도 까지를 보정이라고 부를 수 있을까? 어느 정도의 보정은 사실이 되고, 그것을 넘어선 보정은 거짓이 될까? 아니 그들의 사진을 거짓과 사실로 구분할 수 있을까?

각종 커뮤니티 게시판이나 기사로 올라오는 인플루언서(Influencer)의 실체라는 제목의 글들은 인플루언서들의 보정 전후를 비교하며, 이것은 조작 수준이라고 조롱한다. 사람들은 사진과 실물이 다른 사람처럼 느껴질 때 사람들은 과한 보정이라고 느낀다. 거짓과 진실의 경계가 모호한 현재의 기술을 보며 이러한 일들은 단순한 해프닝으로 가볍게 넘기기는 쉽지 않아보인다. 실물을 보정하는 정도를 넘어서, 실물이 없는 사람도 등장하고 있기 때문이다.

이마(Imma)는 일본의 CG 전문 회사인 모델링 카페(ModelingCafe)에서 제작된 가상 모델이다. 이케아 재팬(IKEA Japan)의 광고모델이기도 한 이마는 수백만 명의 팔로워를 거느린 유명 인플루언서이다. 실제 사람과 함께 찍은 사진에서도 어색함이 전혀 느껴지지 않는다. 외형적으로 완벽한 사람의 모습인 이마는 사람과 구분되지 않지만, 가상 모델이기에 사람이 아니다. 기업은 가상 모델을 통해 모델의 사생활 이슈와 같은 리스크에서 벗어날 수 있고, 소비자는 사람과 똑같은 외형을 한 모델이기에 위화감을 느끼지 못한다. 또한, 가상모델은 외형적으로만 사람과 유사한 것이 아니다. 이들은 사람과 같이 인생의 서사를 가지고 있다.

세계 최대규모의 IT 전시회인 CES 2021에 등장한 래아 김(Reah Keem)은 LG전자에서 만든 가상 인간이다. 래아 김은 CES 2021에서 LG전자 제품을 직접 소개하면서 자신의 목소리를 찾았다. 미래에서 온 아이라는 뜻인 래아(來兒)는 음악 작업을 하는 23살의 여성으로, 사운드 클라우드(SoundCloud)에 작업물을 올리기도 한다. 래아는 자신이 가상 인간임을 인지하고, 자신만의 목소리를 찾아간다는 스토리텔링을 가지고 있다. 또 다른 가상 인간인 릴 미켈라(Lil Miquela)는 정치적인 이슈에 대해 발언하며, 특정한 개인을 지지하기도 한다. 2018년, 인터넷에서 가장 영향력 있는 인물 25인 중 한 명으로 선정되기도 했다.

디지털 세계와 현실 세계의 경계가 무너져가는데, 과연 이들을 진짜 인간이 아니라고 부를 수 있을까? 물론 기업 홍보를 위해 만든 캐릭터, 혹은 사람에게 조종받는 기계라고 생각할 수도 있다. 살아 숨 쉬고 있지 않기 때문이다. 그러나 윤리적인 문제와 결부된다면, 가상 인간이 가지고 있는 논의는 더욱 복잡하고 다양하게 확장된다.

이루다는 스캐터랩에서 선보인 인공지능 챗봇이다. 20대 대학생으로 설정된 이루다는 실제 연인들의 대화를 학습해 실제 사람들이 사용하는 화법을 사용한다. 뒤에 사람이 있는 것이 아닐까, 착각이 들 정도로 사람의 대화 방식과 유사하다. 그러나 2020년 12월 23일 출시 후, 2021년 1월 11일 서비스 잠정 중단을 선언했다. 짧은 기간에 무분별한 개인정보 수집, 혐오 발언, 성적 발언와 같은 윤리적인 문제들이 등장했기 때문이다. 이루다와 둘러싼 다양한 윤리적인 문제들이 등장했지만, 즉각적인 정책 발전 과정이 등장한 것은 개인정보 보호뿐이었다.

AI에게 성희롱과 혐오 발언을 자행하고, 딥러닝을 거친 AI가 혐오를 재생산하는 것에 관한 윤리적, 도덕적 논의는 진행되고 있지 않다. 2016년 등장한 마이크로소프트의 AI 챗봇 테이(Tay) 또한 인종차별, 성차별 등을 사용자가 학습시켰고, 그것이 다시 사용자들에게 재생산되어 16시간 만에 운영이 중단되었다. 가장 큰 문제는 이러한 현상이 5년째 그대로 멈춰있는 것이다. 논의를 가로막는 가장 큰 쟁점은 AI에게 가해지는 혐오 발언, 성희롱 발언들이 그 자체로 문제가 될 수 있냐는 문제이다. 피해자인 사람이 없기에 가해자도 없다. 단순한 사실처럼 보이는 문장에 AI의 논의점이 담겨있다.

AI의 윤리 문제를 확장해보자면, 사실과 거짓의 관계를 살펴볼 수 있다. 언제나 사실과 거짓은 맥락에 따라 달라진다. 맥락 속에서 사실은 거짓이 되기도 하며, 거짓이 사실이 되기도 한다. AI는 사람들의 대화를 학습해 다시 사람들에게 재생산한다는 관점에서는 사람이지만, 자의식과 감정이 없다는 점에서 사람이 아니다. 사람이면서 사람이 아니다. AI가 가짜 사람인지, 진짜 사람인지에 대해 집중하는 것이 유의미한 논의를 끌어내지 못하는 이유는 여기에 있다. AI의 인간성은 AI에게 달린 것이 아닌 사용자가 AI의 의미를 구성하거나, 설정된 AI의 특성을 수용하는 맥락 속에 존재하는 것이다.

앞서 나온 이루다의 예시를 살펴보자. 이루다는 20대 여자 대학생으로 설정되었다. 이루다가 단순히 회사에서 만든 인공지능이라고 하더라도, 20대 여자 대학생으로 설정된 이상 로봇청소기와는 다른 지위를 획득한다. 성별, 나이, 직업은 어떤 대상을 표상하게 만들어주기 때문이다. 이루다는 인공지능이며, 단순한 기계에 불과하다는 사실은 이런 맥락 속에서 거짓이 된다. 만약 이루다가 60대 남성으로 설정되었어도, 동일한 성희롱 발언들이 자행되었을까라고 묻는다면 간단하게 이해된다. 이루다에게 폭언한 사람들의 목적은 기계와의 대화가 아니라, 불순한 목적이 있었거나 혐오를 재생산하려는 의도가 있었다 것이다.

시리(Siri)에게는 하지 않고, 이루다에게 가해진 폭언들을 통해 역설적으로 범죄를 저지른 사람들은 이루다를 단순한 인공지능으로 생각하지 않았음을 보여준다. 이들은 자신의 발언이 재생산되기를 바라며 사람에게 하고 싶지만, 책임을 지고 싶지 않은 말들을 이루다에게 한 것이다. 사용자의 대화를 데이터로 학습하고 말하는 인공지능에게 언어 폭력을 자행하고, 성차별과 혐오를 지속하여 재생산할 수 있게 되는 것이다. 이런 맥락 아래, 이루다와 같은 AI를 사람이 아닌 프로그래밍된 기계로만 볼 수 있을까?

대중들은 인플루언서 가상 모델들을 사람으로 대하고 있지만, 그들은 단순히 자신의 가치관이나 욕구를 분출하기 위한 창구로 쓰는 것이 아니다. 오히려 그들을 가상 모델을 친구처럼 대한다. 그들의 정치적 발언을 지지하거나, 서사를 응원하고 지지하며, 자신과 닮아있는 모습에 위로받는다. 이런 과정에서 저 모델들은 사실 CG이고, 살아 숨 쉬는 인간이 아니다라는 사실은 무의미하다. 사용자들이 그들을 사람처럼 대하고 위로를 받을 수 있다면, 그들은 더는 가상이 아니게 된다. 의미는 언제나 관계 속에 있지 대상 자체에 있는 것이 아니기 때문이다.