딥페이크: 성인 AI 콘텐츠에 신원이 도용된 인도 여성
베이비돌 아치(Babydoll Archi, 이하 '아치')의 인스타그램 계정 팔로워 수는 불과 며칠 만에 2배 급증하며 140만 명을 웃돌았다. 게시되는 대담한 사진이나 영상을 보고자 매일 새로운 팬이 유입되었기 때문이다.
인도에서 화제가 된 어느 영상 속 아치는 붉은색 전통의상을 입고 루마니아 가수의 곡인 'Dame Un Grr'에 맞춰 유혹적인 춤을 춘다. 미국의 성인영화 배우 켄드라 러스트와 함께 포즈를 취한 사진도 있다.
이러한 영상과 사진을 바탕으로 아치는 단숨에 스타가 되었다. 아치의 이름은 구글 검색 순위에도 올랐으며, SNS상에는 관련된 밈이 쏟아지고 팬 페이지가 만들어졌다.
이에 인도 북동부 아삼 주 출신으로서는 최초로 아치가 곧 미국 성인물 산업에 뛰어들 것이라는 추측이 나돌았다.
주류 언론에서도 이러한 열풍을 보도하며 아치를 '인플루언서'라고 묘사했다. 많은 이들이 아치가 누구인지 알아내고 보도하고자 애썼다. 헤드라인은 '베이비돌 아치의 정체는?'으로 도배되었다.
하지만 이러한 인터넷 열풍 뒤에 존재하는 건 실제 여성이 아니었다.
해당 인스타그램 계정은 거짓이었으나, 아치의 얼굴만큼은 아삼주 디브루가르흐시에서 가정주부로 살아가는 실제 여성(이하: '산치')의 얼굴과 섬뜩할 만큼 닮았다.
진실은 드러났고, 산치의 오빠가 경찰에 신고하면서 산치의 전 남자친구인 프라팀 보라가 체포되었다.
경찰에서 해당 사건을 맡은 시잘 아가르왈 수사관은 BBC와의 인터뷰에서 산치와 보라의 사이가 좋지 못했고, 이에 보라가 "순순히 복수하고자" AI를 통해 산치를 닮은 얼굴을 한 여성을 만들어냈다고 설명했다.
아가르왈에 따르면 기계공학자이자 인공지능(AI) 기술의 매력에 빠져 독학한 바 있는 보라는 산치의 사진을 사용해 이러한 거짓 프로필을 만들어냈다.
현재 보라는 구금 중으로 아직 입장을 내놓지 않고 있다. BBC는 그의 가족들에게 연락을 취했으며, 답변을 받을 경우 기사에 반영할 예정이다.
'베이비돌 아치'의 인스타그램 계정이 설립된 것은 2020년 무렵으로, 콘텐츠가 처음 올라오기 시작한 시점은 2021년 5월이다. 아가르왈에 따르면 초기 사진들은 산치의 실제 사진들을 변형한 것이었다.
"그러다 시간이 지나면서 보라는 챗GPT, Dzine과 같은 AI 도구를 사용해 콘텐츠를 만들어냈습니다. 그러고는 딥페이크 영상과 사진 등을 대거 올리기 시작했습니다."
해당 계정이 '좋아요'를 받기 시작한 것은 지난해이지만, 대대적으로 주목받기 시작한 것은 올해 4월부터라고 한다.
한편 산치 측이 이번 달 11일 저녁 경찰에 제출한 두 단락짜리 짧은 고소장에는 일부 사진과 영상 등이 증거로 포함되어 있다. 아가르왈은 고소장에 특정 인물 이름이 빠져있는 이유는 당시만 해도 누가 배후인지 몰랐기 때문이라고 설명했다.
- 딥페이크: '누군가 제 얼굴을 음란물에 합성했습니다'
- 기대 반 두려움 반 … 일부 유명인들이 AI 딥페이크 기술을 받아들이는 이유
- 한국 학교를 집어삼킨 '딥페이크 음란물' 사태를 들여다보다
사실 '베이비돌 아치'는 경찰에게도 낯선 이름이 아니었다.
아가르왈에 따르면 경찰 또한 해당 계정 속 여성이 실존 인물이 아닌 AI 생성 콘텐츠라는 언론 보도 및 온라인상의 추측을 접한 바 있다고 한다. 그러나 당시에도 실존 여성을 바탕으로 제작한 것이라는 이야기는 없었다고 한다.
산치 측의 고소장을 접수한 현지 경찰은 우선 인스타그램 측에 계정을 생성한 이의 신상 정보를 요구했다.
"인스타그램 측으로부터 정보를 받은 경찰은 우선 산치에게 프라팀 보라라는 인물을 아는지 물었습니다. 산치가 아는 사람임을 확인해주자마자 인근 틴수키아 지역에 사는 그의 주소를 확인하여 7월 12일 저녁에 체포했습니다."
아가르왈은 그가 "해당 계정을 통해 수익을 창출하고 있었기에 경찰은 노트북, 휴대전화, 하드디스크, 은행 문서 등을 압수했다"고 밝혔다.
그러면서 "해당 계정의 구독자는 3000명에 달했으며, 우리는 그가 이를 통해 100만루피(약 1500만원)를 벌었다고 본다. 체포 전 5일 동안 벌어들인 돈이 30만루피에 달할 것으로 추정된다"고 덧붙였다.
그러면서 아가르왈은 산치는 "극도로 충격을" 받았으나 "현재 산치와 산치의 가족들은 상담을 받고 있으며, 점점 회복하고 있다"고 전했다.
한편 아가르왈은 이러한 일이 발생하는 것을 막을 방법이 사실 없다면서 "그러나 더 빨리 조처할 수 있었더라면 이토록 일이 커지는 것만큼은 막을 수 있었을 것"이라고 했다.
"하지만 산치는 SNS 계정이 없어 무슨 일이 벌어지고 있는지 알지 못했다"는 아가르왈은 "가족들도 해당 계정에서 차단되어 있었다. 이들 모두 이 사건이 커진 이후에야 알게 되었다"고 덧붙였다.
한편 인스타그램의 모기업인 메타 측은 BBC의 문의에 답하지 않았으나, 일반적으로 누드나 성적 콘텐츠 게시를 허용하지 않는다.
지난달 미 CBS 보도에 따르면 메타는 실제 사람의 사진을 사용해 성적인 딥페이크 콘텐츠를 생성할 수 있다고 홍보하는 AI 플랫폼 관련 여러 광고를 삭제하기도 했다.
'베이비돌 아치'의 인스타그램 계정(총 282개 게시물)은 현재 비공개 처리되어 있으나, 여전히 인터넷상에는 아치의 여러 영상과 사진이 넘쳐난다. 심지어 모든 게시물을 저장해둔 인스타그램 계정도 있는 것으로 보인다.
BBC는 메타 측에 이에 어떻게 대응할 계획인지 물었다.
한편 AI 전문가이자 변호사인 메그나 발은 산치에게 벌어진 이번 사건에 대해 "끔찍하지만 예방하기란 거의 불가능한 일"이라며 말을 꺼냈다.
그에 따르면 산치는 법원에 소송을 제기해 잊힐 권리를 요구할 수 있고, 법원이 산치의 이름이 언급된 모든 언론 보도를 삭제하도록 명령 내릴 수는 있으나 인터넷에서 모든 흔적을 완전히 지우는 것은 어렵다.
아울러 변호사 메그나는 산치에게 벌어진 일은 여성들이 언제나 겪어오던 일의 연장선상이라고 지적했다. 복수의 목적으로 사진이나 영상이 유포되는 것이다.
"AI 덕분에 이제는 훨씬 더 쉬워졌다. 다만 이러한 사건들은 우리 생각만큼 아직 흔하진 않다"는 발은 "아니면 피해자들이 사회적 낙인이 두려워, 혹은 사건이 벌어지고 있음을 알지 못해 신고하지 못하고 있는 것일 수도 있다. 산치 사건이 그 대표적인 예시"라고 했다.
그러면서 이러한 콘텐츠를 본 사람들 또한 이를 SNS 플랫폼이나 사이버 범죄 수사당국에 신고할 생각을 하지 못한다고 덧붙였다.
한편 현지 경찰은 보라에 성희롱, 음란물 배포, 명예훼손, 명예훼손을 목적으로 한 위조, 사칭 사기, 사이버 범죄 등의 법률을 적용했다. 유죄 판결 시, 최대 10년의 징역형을 선고받을 수 있다.
최근 SNS에서 공분을 산 이번 사건을 계기로 더 강력한 법률이 필요하다는 목소리도 나오고 있다.
이에 대해 발은 현행법으로도 충분하다고 생각한다면서도, 생성형 AI 기업과 관련한 새로운 법률 제정이 필요한지 반드시 논의해보아야 한다고 강조했다.
"하지만 우리는 딥페이크가 반드시 나쁜 것만은 아니라는 점도 기억해야 합니다. 법이란 표현의 자유를 억압하는 수단으로 악용될 수 있기에 신중히 제정되어야 합니다."
- '제자가 나를 딥페이크 음란물로 만든 날'...그 후 내게 벌어진 일
- '가장 친한 친구가 절 딥페이크 범죄에 이용했습니다'
- 딥페이크: 친한 친구의 배신 … '제 삶의 모든 순간을 음란물로 만들어버렸습니다'
- 애플, BBC 조사 후 '나체 사진 만드는' 앱 앱스토어에서 삭제
