SNS를 바꿔놓고 있는 'AI 슬롭' … 그리고 커지는 반발
테오도르는 자신을 기어이 행동하게 만든 인공지능(AI) '슬롭'을 똑똑히 기억한다.
아시아계로 보이는, 매우 마른 몸의 두 소년은 폭우가 쏟아지는 도로 한가운데서 생일 케이크를 앞에 두고 화면을 응시하고 있다.
어째서인지 얼굴은 분명 소년이지만 얼굴에는 두꺼운 수염이 나 있다. 한 아이는 두 손이 절단된 상태이고, 다른 아이는 '오늘은 제 생일입니다. '좋아요'를 눌러주세요' 라는 문구가 적힌 플래카드를 들고 있다.
AI 생성물임을 보여주는 단서들이 이미지 곳곳 가득했음에도, 해당 콘텐츠는 페이스북에서 거의 100개의 '좋아요' 및 '하트' 이모티콘을 받으며 확산했다.
이를 바라보던 테오도르는 더 이상 참을 수 없다고 느꼈다.
프랑스 파리 출신의 20살 청년인 그는 "마음이 짓눌리는 느낌이었다. 터무니없는 AI 생성 이미지가 페이스북에 넘쳐나며, 아무런 검증도 없이 이토록 엄청난 관심을 받고 있었다. 정말 미친 것처럼 느껴졌다"고 회상했다.
그래서 그는 X에서 '제정신이 아닌 AI 슬롭'이라는 계정을 만든 뒤, 사람들을 속이는 AI 슬롭 콘텐츠를 지적하며 풍자하기 시작했다. 테오도르는 'AI 슬롭'을 AI로 빠르게 만들어낸, 마치 오물처럼 저질이며 거짓되고 설득력 없는 콘텐츠라고 정의한다.
그의 계정은 관심을 끌었고, 이내 인기 AI 슬롭 콘텐츠에 대한 제보가 넘쳐났다.
제보받은 콘텐츠들에는 유사점이 있었다. 종교 혹은 군과 관련된 내용이거나, 가난한 아이들이 감동적인 일을 하는 모습을 담은 내용이 많았다.
"제3세계 아동들이 감동적인 일을 하는 내용은 늘 인기가 많다"는 그는 "예를 들어 아프리카의 가난한 아이들이 쓰레기로 엄청난 조각상을 만드는 장면이다. 사람들이 이러한 내용을 멋지다고 생각하니, 제작자들이 '좋아, 이와 유사한 콘텐츠를 더 만들어야겠다'고 생각하는 것 같다"고 덧붙였다.
테오도르의 해당 계정 팔로워 수는 순식간에 13만3000명을 넘어선 상태다.
AI 슬롭은 SNS를 빠르게 잠식하고 있어 현재 막을 수 없는 상태다. 기술 기업들은 AI를 받아들였다. 일부 기업들은 일부 AI '슬롭'을 단속하겠다고 밝혔으나, 여전히 수많은 SNS 피드에는 이러한 오물이 가득하다.
불과 몇 년 사이에 SNS 사용 경험은 크게 달라졌다. 그렇다면 어떻게 이러한 일이 벌어졌으며, 우리 사회에 어떤 영향을 미치게 될까.
그리고 아마도 가장 시급한 질문은, 수십억 명에 달하는 전 세계 SNS 사용자들은 이 문제에 얼마나 신경 쓰고 있을까.
SNS의 '제3단계'
지난해 10월, 들뜬 분위기에서 진행된 또 한 번의 실적 발표회에서 메타의 마크 저커버그 CEO는 SNS가 현재 AI를 중심으로 한 제3단계에 접어들었다며 기쁘게 선언했다.
"제1 단계는 모든 콘텐츠가 친구, 가족, 직접 팔로우한 계정에서 나왔을 때입니다."
이어 그는 투자자들에게 "제2 단계는 콘텐츠 크리에이터들의 추가다. 그리고 이제는 AI 덕에 콘텐츠 제작과 재조합이 쉬워지면서, 우리는 또 다른 방대한 콘텐츠 풀을 추가하게 될 것"이라고 발표했다.
페이스북, 인스타그램, 스레드 등 여러 SNS 플랫폼을 운영하는 메타는 사용자들의 AI 생성 콘텐츠 게시를 허용할 뿐만 아니라, 이러한 생성을 도와주는 도구들도 출시했다. 이미지와 영상 생성을 도와주는 도구뿐만 아니라 갈수록 강력해지는 필터들도 전반적으로 제공되고 있다.
이와 관련해 의견을 요청하자, 메타 측은 BBC에 올해 1월에 있었던 실적 발표 내용을 언급했다. 당시 CEO는 메타는 AI에 더욱 집중하고 있다고 밝혔다. 그러나 AI 슬롭 규제 강화에 대해서는 아무런 언급도 없었다.
당시 저커버그 CEO는 "곧 여러분들은 AI 기술이 발전한 덕에 가능해진, 더욱 몰입도 있고 상호작용할 수 있는 새로운 미디어 형식의 폭발적 성장을 목격하게 될 것"이라고 전망했다.
닐 모한 유튜브 CEO는 2026년을 전망하는 블로그 게시물에서 지난해 12월에만 유튜브 채널 100만 개 이상에서 자사 AI 도구를 활용한 콘텐츠를 제작했다고 공개했다.
모한 CEO는 "신시사이저, 포토샵, 컴퓨터 그래픽이 음향과 시각 효과 분야를 혁신했듯, AI는 이를 적극적으로 활용하려는 제작자들에게 요긴하게 쓰일 것"이라고 설명했다.
이어 "저질 콘텐츠, 일명 AI 슬롭"에 대한 우려가 커지고 있음을 인정하며, 회사는 "저질의 반복적인 콘텐츠"를 적발해 제거하는 시스템을 개선하고자 노력 중이라고 덧붙였다.
그러나 그 또한 어떤 콘텐츠가 유행하도록 허용돼야 하고 허용되지 말아야 하는지 판단은 하지 않았다. 다만 과거에는 틈새 콘텐츠였던 ASMR이나 게임 플레이 생중계 등이 이제는 주류 콘텐츠가 됐다는 점을 언급했다.
한편 AI 기업 '캡윙'의 연구에 따르면, 현재 새로 개설되는 유튜브 계정에 노출되는 전체 콘텐츠의 20%는 "저질 AI 영상"으로 채워져 있다.
이러한 현상은 숏폼 영상(재생시간이 짧은 영상 콘텐츠)에서 특히 두드러졌다. 연구진이 새로 만든 계정에 처음 노출된 유튜브 쇼츠(유튜브의 숏폼 영상) 500개 중 104개에서 저질 AI 콘텐츠가 발견됐다.
제작자와 채널이 참여도와 조회수로 수익을 창출하는 크리에이터 경제가 이러한 현상의 주요 원인으로 보인다. 일부 AI 채널과 영상의 조회수를 살펴보면, 이용자들이 실제로 이런 콘텐츠에 빠져들고 있음을 확인할 수 있다. 혹은 우리가 무엇을 보게 될지 결정하는 알고리즘이 작용한 결과일 수도 있다.
캡윙에 따르면 가장 많은 조회수를 기록한 AI 슬롭 채널은 인도의 반다르 아프나 도스트'로, 조회수 20억7000만회를 기록하고 있는데, 해당 채널의 제작자들은 연간 약 400만달러(약 57억원)을 올릴 것으로 추정된다.
하지만 이러한 AI 슬롭에 대한 반발도 적지 않다.
입소문을 탄 여러 AI 영상이나 이미지 게시물의 댓글 창에서는 이제 해당 콘텐츠를 비난하는 분노에 찬 반응을 흔히 찾아볼 수 있다.
거대한 괴물과 끔직한 복부 기생충
테오도르는 이러한 반발을 이끄는 데 기여했다.
그는 X에서 새롭게 얻게 된 영향력을 이용해 유튜브 콘텐츠 검토팀에 이상한 AI 애니메이션 영상들이 엄청난 조회수를 기록하며 쏟아지고 있다며 문제를 제기했다. 그는 일부 영상들은 불쾌하고 유해한 내용이었으며, 심지어 아동을 대상으로 제작한 것으로 보이는 영상들도 있었다고 주장했다.
이러한 영상들은 '어미 고양이가 끔찍한 복부 기생충으로부터 새끼를 구하다'와 같은 제목을 달고 유혈이 낭자한 시각적 이미지를 보여준다.
잠옷 차림의 여성이 기생충을 먹은 후 거대한 괴물로 변했다가 결국 예수에 의해 치유되는 내용의 영상도 있다.
유튜브는 자사 커뮤니티 지침 위반이라며 해당 영상들을 올린 채널들을 삭제했다고 설명했다. 이어 자신들은 "사용자들이 만들어진 방법과는 상관없이 고품질의 콘텐츠를 접할 수 있도록 주력"하고 있으며, "저질 AI 콘텐츠의 확산을 줄이고자" 노력하고 있다고 덧붙였다.
그러나 이러한 경험이 반복되며 테오도르는 지쳐버린 상태다.
요리법, 인테리어 아이디어 등을 공유하는 '핀터레스트'처럼 비교적 아늑해 보이는 라이프스타일 플랫폼조차도 이러한 영향에서 벗어나지 못한다.
사용자들은 AI 슬롭의 범람에 분노하게 됐고, 이에 핀터레스트 측은 AI 생성 콘텐츠는 차단할 수 있는 옵트아웃 시스템을 도입했으나, 이것이 제대로 작동하려면 사용자들이 자신이 올린 완벽한 집 이미지가 AI 생성물임을 인정해야만 한다.
분노로 가득 찬 댓글창
피드에는(물론 각자의 피드와 댓글은 다르다는 것을 알고 있다) AI 슬롭에 대한 반발이 끊임없이 이어지고 있다.
틱톡, 스레드, 인스타그램, X 등 어디를 가나 이러한 콘텐츠에 맞서는 사람들이 있다.
때로는 AI 생성물임을 비난하는 내용의 댓글이 원본 게시물보다 더 많은 '좋아요'를 받기도 한다. 곰에게서 늑대를 구하는 스노보드선수를 그린 최근 영상이 바로 이러한 경우다. 해당 영상 자체는 좋아요 932개를 받았지만, "이런 AI 쓰레기가 지겨운 사람?"이라는 댓글에는 좋아요 2400개가 달렸다.
하지만 물론 이 모든 게 결국은 괴물을 키우는 셈이다.
사용자의 스크롤을 멈추지 않게 하는 것이 핵심인 SNS 플랫폼 입장에서는 모든 형태의 사용자 참여가 결국 좋은 참여이기 때문이다.
그렇다면 우리의 SNS 피드에 올라오는 놀랍거나, 감동적이거나, 충격적인 영상이 진짜인지 아닌지가 정말 중요할까.
'뇌 썩음' 효과
이 질문에 대해 미국 시라큐스 대학교에서 정치학과 허위정보 등에 대해 연구하는 에밀리 토슨 조교수는 SNS에서 사람들이 무엇을 하느냐에 다르다며 말을 꺼냈다.
토슨 교수는 "단순히 오락 목적으로 숏폼 플랫폼을 즐기는 사람이라면 콘텐츠의 가치 판단 기준은 단순하게 '오락거리가 되나?'일 것"이라면서 "그러나 주제에 대해 배우거나 커뮤니티 구성원들과 소통하고자 플랫폼을 이용하는 사람이라면 AI 생성 콘텐츠를 문제라고 인지할 수도 있다"고 덧붙였다.
아울러 사용자들의 AI 슬롭에 대한 감정은 그것이 전달되는 방식에 따라서도 달라진다.
누가 봐도 웃자고 만든 컨텐츠라면, 농담거리로 받아들여지는 모양새다. 하지만 시청자를 속이고자 제작된 슬롭은 사람들이 분노를 살 수 있다.
최근 내가 접한 한 AI 생성 영상이 이를 잘 보여준다. 표범들의 놀라운 사냥 장면을 담은, 믿기 힘들 정도로 사실적인 동물 다큐멘터리 스타일의 영상이었다. 그리고 댓글 창을 살펴보니 일부 시청자들은 이를 실제 영상이라 믿었고, 일부는 AI 생성물이 아닌지 의심하고 있었다.
"어느 다큐멘터리 속 장면이냐. 제발 알려달라. AI (생성물이) 아님을 증명할 유일한 방법"이라는 댓글도 눈에 띄었다.
이탈리아 파도바 대학의 알레산드로 갈레아치 조교수는 SNS 행동 및 반향실 효과에 대해 연구한다.
갈레아치 교수는 영상이 AI 생성물인지 확인하는 작업에는 정신적 노력이 필요하다며, 이에 따라 장기적으로 사람들이 결국 확인 자체를 포기하게 되지는 않을지 우려된다고 지적했다.
아울러 "AI로 만든, 말도 안 되는 저질의 콘텐츠가 홍수처럼 쏟아지며 사람들의 집중력이 약해질 수 있다"는 설명이다.
그는 신발을 신은 물고기나 헬스장에서 운동하는 고릴라처럼 명백히 가짜인 AI 슬롭은 의도적으로 시청자를 속이려고 만든 콘텐츠와는 다르지만, 이러한 콘텐츠조차도 해로운 영향을 미칠 수 있다고 경고했다. 이른바 '뇌 썩음' 효과의 위험성이다. SNS에 대한 지속적인 노출이 우리의 지적 능력을 해치고 있다는 생각이다.
"AI 슬롭은 뇌 썩음 효과를 가속한다"는 그는 "사람들이 사실이 아닐 뿐만 아니라 아무런 의미도, 흥미도 없다는 걸 알면서도 수많은 콘텐츠를 빠르게 소비하게 만들기 때문"이라고 했다.
콘텐츠 검토 인원 감축
한편 단순한 저품질 AI 슬롭을 넘어, 일부 AI 생성 콘텐츠는 훨씬 더 심각한 문제를 야기할 수 있다.
일론 머스크의 AI 기업 xAI와 SNS 플랫폼 X는 챗봇 '그록'이 X에서 여성과 아동의 옷을 벗기는데 악용되면서 관련 규정을 수정해야만 했다.
그리고 미국의 베네수엘라 공격 이후에는 베네수엘라 시민들이 거리에서 울며 미국에 감사를 표하고 있다는 가짜 영상이 퍼지기도 했다. 이러한 콘텐츠는 특정 방향으로 여론을 형성하고, 미국의 공습이 실제보다 더 큰 대중적 지지를 얻었다는 인상을 줄 수 있다.
이에 대해 전문가들은 SNS로만 뉴스를 접하는 사람이 워낙 많다는 점에서 특히 우려된다고 강조했다.
AI 생성물과 실제 이미지를 구분하는 기업인 '오픈오리진스'의 매니 아흐메드 CEO는 AI 생성물이 아닌 콘텐츠를 제작하는 이들을 위해 해당 콘텐츠가 실제임을 증명할 수 있는 새로운 방식이 필요하다고 말한다.
아흐메드 CEO는 "이제는 그저 꼼꼼히 살펴보는 것만으로는 무엇이 진짜인지 확신할 수 없는 단계에 이르렀다"며 "무엇이 가짜인지 찾아내는 대신, 진짜 콘텐츠가 공개적으로 자신의 출처를 증명할 수 있는 환경이 마련돼야 한다"고 강조했다.
이러한 일을 SNS 기업들이 맡으면 되지 않냐는 생각이 들 수도 있다. 그러나 메타, X 등 수많은 SNS 기업들은 오히려 콘텐츠 모더레이터(검토) 팀을 축소하고, 가짜이거나 오해의 소지가 있는 콘텐츠를 사용자들이 직접 표시하는 방식에 점점 더 의존하고 있다.
슬롭 없는 SNS?
대부분의 기존 기술 대기업들이 AI 슬롭의 유입을 사실상 기쁘게 방치하고 있다면, 슬롭 없는 환경을 내세운 새로운 SNS 플랫폼이 등장하면 이들의 아성에 도전할 수 있을까.
그러나 그 가능성은 작아 보인다. AI 생성물 탐지는 점점 더 어려워지고 있기 때문이다. 기계는 더 이상 영상이나 이미지가 확실히 가짜인지 정확히 감지하지 못하며, 콘텐츠가 '슬롭'인지 아닌지는 주관적인 판단이기에 기계로는 한계가 있을 것이다.
하지만 새로운 SNS가 등장하고, 사람들이 발길(정확히는 이들의 손가락이)을 돌린다면, 의미 있는 변화가 일어날 수도 있다.
코로나19 팬데믹 기간 인기를 끌었던 프랑스 앱 '비리얼'의 경우, 이용자들이 무작위로 지정된 시간에 필터 없는 자신의 진짜 모습을 담은 셀카를 찍어 올리도록 한다.
비리얼은 아직 페이스북이나 스냅챗 같은 거대 플랫폼으로 성장하지 못했으며, 아마 앞으로도 그러기는 어려울 것이다. 그러나 다른 플랫폼들을 긴장시키는 데 성공했으며, 심지어 일부는 이 아이디어를 모방하기도 했다.
AI 슬롭에 맞서는 새로운 도전자 플랫폼이 등장한다면, 이런 현상이 재현될 수도 있다.
한편 테오도르의 경우, 그는 자신이 이 싸움에서 이미 졌다고 느끼며, AI 슬롭은 영원히 사라지지 않을 것으로 전망한다.
현재도 팔로워 13만 명으로부터 매일 제보를 받고 있지만, 그는 더 이상 자주 게시물을 올리지도 않으며, 이제는 새로운 표준이 된 온라인 환경에 어느 정도 체념한 듯하다.
"많은 팔로워들과 달리 나는 무조건 AI 자체에 반대하는 게 아니"라는 그는 "빠른 재미와 조회수를 노리고 제작된 AI 슬롭으로 인한 온라인 오염에 반대할 뿐"이라고 마무리했다.
상단 이미지 출처: BBC / Adobe Firefly로 생성된 AI 이미지
- AI가 만든 영상인지 구분할 수 있는 가장 확실한 방법은?
- '보그에 실린 AI 모델', 패션업계에 뜨거운 논쟁을 불러오다
- AI 챗봇이 사람들의 '생각하는 능력'을 저해할까?
- 애플, BBC 조사 후 '나체 사진 만드는' 앱 앱스토어에서 삭제
