선거판 돈벌이에 'AI 여성'을 이용하는 세력들
브라질 북동부 도시 사우바도르에서 한 젊은 여성이 정치인과 함께 선거 유세 버스 위에서 춤을 추고, 주변에는 엄청난 인파가 몰려 있다. 이 여성의 영상은 온라인에서 빠르게 확산됐고, 인스타그램 계정의 팔로워는 50만 명까지 늘었다. 하지만 이 여성은 실존 인물이 아니며, 이런 일도 실제로 벌어지지 않았다. 인공지능으로 만들어진 가상의 인물을 실제 유세 현장 영상에 합성한 것이다.
이 여성만이 전부가 아니다. BBC는 25일 치러지는 브라질 대선을 앞두고 인스타그램과 틱톡에서 활동하는 계정 수십 개를 확인했다. 이들 계정은 대선 후보를 지지하는 것처럼 보이는 여성들의 AI 생성 이미지를 게시하고 있었으며, 여성들은 성적으로 대상화된 모습으로 묘사됐다.
온라인에서 화제가 된 영상 중 선거 유세 버스 위에서 춤을 춘 정치인은 우파 후보 플라비우 보우소나루이다. 그는 이번 대선 결선투표에서 좌파 성향의 현직 대통령 루이스 이나시우 룰라 다 시우바와 맞붙고 있다.
BBC가 확인한 계정들에서 AI로 생성된 인플루언서들은 대체로 보우소나루 후보를 지지했다. 하지만 룰라 대통령을 지지하는 여성 계정들도 있었다. 팔로워 약 2만 4400명을 보유한 한 틱톡 계정에서는 AI로 생성된 여성 세 명이 붉은색 티셔츠를 입고 룰라 대통령이 속한 노동자당의 상징을 드러낸 채 시위에 참여하는 모습이 연출됐다.
이러한 영상은 실제 인물이 등장하는 기존 영상을 재활용해, 해당 인물을 AI로 생성한 가상 인물로 바꾸는 경우가 많다. 예를 들어 선거 유세 버스 위에서 춤을 춘 가상 여성은 실제로는 보우소나루의 정치적 동맹 인사가 등장한 영상을 바탕으로 만들어졌다. 가상 여성의 몸동작은 해당 정치인의 움직임을 프레임 단위 그대로 따라 했다.
BBC는 이들 계정이 두 후보 중 어느 쪽의 공식 선거캠프와도 연관돼 있다는 증거를 찾지 못했다. 오히려 개인의 SNS 이용자가 대중의 관심을 끌고 콘텐츠를 통해 수익을 얻기 위해 계정을 만든 것으로 볼 만한 정황이 나타났다.
화제가 되는 정치 이슈를 활용해 AI로 생성한 가상 인물의 콘텐츠로 이용자의 관심을 끌고, 이들을 유료 성인 콘텐츠로 유도하는 방식은 브라질에만 국한된 현상이 아니다. 미국과 독일에서도 이와 같은 사례가 확인됐다.
BBC가 브라질에서 확인한 계정 37개는 선거 관련 콘텐츠를 활용해 게시물의 반응을 높이고 팔로워를 끌어모으는 것으로 확인됐다. 이들 계정 중 일부는 팔로워들을 성인 콘텐츠 사이트인 온리팬스(OnlyFans)나 텔레그램으로 유도한 뒤, 구독자들에게 음란물을 판매하고 있었다.
이들 계정의 팔로워 수를 모두 합하면 약 700만 명에 달한다. 게시물에는 좋아요 약 50만 개와 댓글 1만 8600개를 포함해 총 50만 4105건의 반응이 달렸다.
이러한 계정들에게는 정치적 지지 성향보다 이용자들의 관심과 반응을 끌어내는 것이 더 중요한 목표다. 일부 계정은 대선에 출마한 두 후보를 각각 지지하는 게시물을 모두 올리기도 했다.
인스타그램의 한 계정은 팔로워 약 17만 5000명을 보유하고 있다. 이 계정에 올라온 한 게시물에서 픽시컷 헤어스타일을 한 여성은 거울 앞에 선 채 룰라 대통령의 얼굴이 프린트된 빨간색 티셔츠를 입고 있다. 그러나 다른 게시물에서는 보우소나루의 얼굴이 프린트된 몸에 딱 붙는 초록색 원피스를 입고 등장한다.
'AI 생성' 표시
BBC가 확인한 계정 대부분은 게시물에 AI로 생성됐다는 사실을 제대로 표시하지 않고 있었다. 이는 틱톡과 인스타그램 규정을 위반하는 것이다.
인스타그램의 모회사 메타는 BBC에 "당사는 노출 및 성적 행위를 금지하는 규정을 두고 있으며, 이를 위반하는 콘텐츠가 확인되면 삭제한다. 또한 메타는 자사 플랫폼에서 이러한 콘텐츠가 유통될 위험을 줄이기 위해 기술 투자 등 광범위한 노력을 기울이고 있다"고 밝혔다.
틱톡은 BBC가 전달한 콘텐츠가 커뮤니티 가이드라인 위반으로 삭제됐다고 밝혔다. 틱톡은 허위 정보나 "선거 과정에 개입"하거나 "선거 결과의 무결성을 훼손"할 수 있는 콘텐츠를 비롯해 "유권자를 혼란스럽게 하거나 실질적인 피해를 초래할 수 있는" 콘텐츠를 용인하지 않는다고 설명했다.
BBC는 해당 계정들을 만든 사람들의 신원을 확인하지 못했다. 다만 일부 계정의 경우 한 명이 여러 계정을 만들거나, 집단이 만든 것일 가능성을 보여주는 정황을 발견했다. 이들 계정은 서로를 팔로우하고 있으며, 이용자들을 동일한 성인 콘텐츠 텔레그램 채널로 유도하고 있었다.
이와 유사한 사례로, 인도에서 의대에 재학 중인 한 학생은 미국에서 활동하는 것처럼 보이는 AI 인플루언서를 만들어 도널드 트럼프를 지지하는 듯한 콘텐츠를 게시하고 수익을 창출했다고 와이어드(WIRED) 매거진에 밝힌 바 있다. 그는 이를 통해 매달 수천 달러를 벌었다고 말했다.
독립 언론사 코렉티브 팍텐체크(CORRECTIV.Faktencheck)의 조사에 따르면, 독일에서는 AI 생성 인플루언서를 활용하는 소셜미디어 계정 190개 중 AI 인플루언서 22명이 독일을 위한 대안당(AfD)이나 우익 성향을 홍보한 뒤, 이용자들을 유료 성인 콘텐츠 플랫폼으로 유도한 것으로 나타났다.
온라인에서 악용되는 여성의 이미지
이들 계정의 게시물에 달린 댓글을 보면, 다수의 남성 이용자들은 이 여성들이 실제 인물이라고 믿는 것으로 보인다. 일부는 이들을 두고 "정말 멋지다", "아름답다"는 댓글을 남겼다.
브라질 헤시피에 위치한 법률기술연구소의 젠더·기술 부문 대표이자 코디네이터인 라켈 사라이바는 이러한 여성 이미지를 만드는 사람들이 AI를 이용해 남성들의 관심을 끌기 위한 특정한 미의 기준을 재현하는 것이라고 설명한다. 이렇게 유입된 남성 이용자들은 성인 콘텐츠에 돈을 지불할 가능성도 더 높다는 것이다.
그는 이러한 사업 모델이 온라인에서 여성의 이미지를 착취하고 여성혐오를 조장하는 데 기반을 두고 있다고 말한다. AI 인플루언서가 실제로 존재하지는 않지만, 이들의 행위는 소셜미디어를 넘어 사회 전반에 존재하는 태도와 인식을 재생산한다는 설명이다.
"이 모든 것은 사회에 존재하는 여성혐오와 분리되지 않습니다. 모두 거대한 연결고리의 일부입니다."
사라이바는 또 소셜미디어 플랫폼들이 해당 계정에 대한 감시와 관리·감독을 강화해야 한다고 덧붙였다.
- 중국 AI, 안전장치 뚫자 '생물무기 제조법'까지 답변
- 앤트로픽 공동 창업자 BBC 인터뷰 'AI 킬 스위치 의무화 필요할 수도'
- 전 앤트로픽 연구원, BBC에 'AI 전문가들, 인류의 미래 진심으로 두려워해'
- AI 기업들이 대중의 '두려움'을 이용하는 이유
- 상냥한 AI 챗봇은 정확도가 떨어질 수 있다?
- 중고책 판매가 급증하고 있다...AI 때문일까?
