BBC NEWS | 코리아

소셜 미디어에는 '사용하면 안 된다'고 여겨지는, 적어도 많은 이들이 그렇게 생각하는 단어들이 있다.

아마 소셜 미디어에서 사람들이 특정 단어 사용을 피한다는 점을 눈치챈 사람들이 있을 것이다. 예를 들어 죽음을 표현할 때 "killed" 대신 "unalived"라고 말하고, 총은 "pew pews", 합의된 성관계는 "seggs"라고 돌려 말한다. 이를 사용하는 사람들 역시 이런 표현이 우스꽝스럽다고 생각하지만, 다른 선택지가 없다고 말하는 이들도 많다.

'알고스피크(Algospeak)'로 불리는 이러한 표현 방식은 특정 단어나 문구가 알고리즘에 의해 노출이 억제된다는 생각을 바탕으로 만들어진 일종의 암호 언어다.알고리즘을 통한 콘텐츠 통제는 보통 소셜 미디어 기업이 자신들이 원하는 정치적 방향을 강화하거나, 광고주를 위해 사용자 피드를 정제하기 위해 사용한다고 알려져 있다.

기술 업계는 이런 주장들이 터무니없다고 반박한다. 유튜브 대변인 부트 불윙클은 BBC에 "유튜브에는 금지되거나 제한되는 단어가 없다"고 밝혔다. 그는 "유튜브의 정책은 문맥을 중시하고, 단어는 상황에 따라 서로 다른 의미와 의도를 지닐 수 있다"며, 이러한 세밀한 접근 방식이 플랫폼 전반의 다양한 주제·목소리·관점에서 드러난다고 말했다. 메타와 틱톡 역시 같은 입장이다. "우리는 그런 일을 하지 않습니다. 그런 주장은 사실이 아닙니다."

하지만 현실은 더 복잡하다.

지금까지 소셜미디어 기업들이 특정 콘텐츠의 부상과 몰락을 은밀하게 조작한 사례가 여러 차례 있었다. 이러한 행태는 그들이 주장하는 투명성이나 중립성과 충돌한다. 전문가들은 설령 개별 단어까지 검열하지는 않더라도, 빅테크 기업들이 특정 콘텐츠의 노출을 미묘하게 억제하기 위해 개입한다고 말한다.

문제는 '게시물이 왜 실패하는지' 사용자는 결코 알 수 없다는 데 있다. 알고리즘이 싫어할 만한 표현을 사용해서였을까? 아니면 그냥 콘텐츠의 완성도가 낮았을까? 이런 불확실성 때문에 사용자들이 자기검열하는 문화가 만들어졌다. 그 결과, 어떤 사람들은 진지한 주제조차 우스꽝스러운 암호화된 표현으로 돌려 말한다. 극단적인 경우, 단지 조회수를 위해 특정 주제를 아예 회피하기도 한다.

오늘날 소셜 미디어는 대중이 뉴스와 정보를 얻는 주요 창구다. 때문에 이러한 상황은 우리 중 일부가 어떤 아이디어는 결코 접하지 못할 수 있다는 뜻이기도 하다.

'섬의 남자'

알렉스 펄먼의 이야기를 들어보자. 그는 틱톡, 인스타그램, 유튜브 등에서 수백만 명의 팔로워를 보유한 콘텐츠 크리에이터다. 코미디와 날카로운 정치 풍자를 중심으로 많은 팬층을 형성해왔다. 펄먼은 알고리즘에 의한 검열이 자신의 작업에서 끊임없이 나타난다고 말했다.

"우선 틱톡만 봐도, 저는 '유튜브'라는 단어를 거의 쓰지 않습니다. 제 경험상, '제 유튜브 채널도 확인해 주세요' 같은 표현을 하면 영상이 실패할 가능성이 높다는 걸 분석 데이터를 통해 확인했습니다." 펄먼의 말이다. 이런 경험은 그만의 이야기가 아니다. 펄먼과 다른 크리에이터들은 경험적으로 틱톡이 이용자들을 경쟁 플랫폼으로 보내는 것을 원치 않으며, 그런 제안을 하면 제재를 가하는 것 같다고 추측하게 됐다. (틱톡은 이러한 방식으로 운영하지 않는다고 부인했다.)

하지만 펄먼은 이러한 사례들이 누적되며 콘텐츠 크리에이터들이 더욱 불안해지고 있다고 말했다.

펄먼은 금융가이자 성범죄자였던 제프리 엡스타인 관련 콘텐츠를 꾸준히 제작해왔다. 엡스타인은 기업과 정치권 유력 인사들을 둘러싼 여러 의혹의 중심에 서 있던 인물이다. 그런데 지난해 8월, 펄먼은 이상한 점을 발견했다.

"그때는 엡스타인 사건이 온갖 곳에서 다시 회자되던 시기였습니다. 그런데 어느 날 갑자기 틱톡에서 엡스타인 관련 영상 여러 개가 삭제됐습니다." 같은 영상들이 인스타그램과 유튜브에서는 그대로였지만, 틱톡에서는 자신이 파악할 수 없는 어떤 규칙을 위반했다는 이유로 삭제됐다는 것이다. "틱톡이 제게 어느 문장이 가이드라인을 위반했는지 직접 알려주는 것도 아닙니다. 우리는 블랙박스가 무슨 말을 하는지 추측을 해야 하는 처지가 되는 거죠." 그의 이의 제기는 기각됐고, 계정에는 '경고'까지 남았다. 경고는 틱톡에서 수익 창출 기능이 제약될 수 있는 조치다.

그는 "그 직후, 유명 인플루언서 계정들이 엡스타인을 직접 언급하는 빈도가 눈에 띄게 줄기 시작했다"고 했다. 펄먼에 따르면 다른 크리에이터들도 비슷한 문제를 겪으며 알고리즘에 맞춰 콘텐츠 방향을 바꾸려는 듯했다. 엡스타인 관련 영상을 완전히 포기할 수는 없었기에, 펄먼은 다른 우회 전략을 사용하기 시작했다. "저는 그를 '섬의 남자'라고 불렀습니다." 엡스타인이 개인 섬을 소유하고 있었던 점을 암시하는, 암호화된 표현이었다. "문제는 대부분의 시청자가 제가 누구를 의미하는지 모른다는 겁니다."

나는 틱톡 대변인과 통화했지만, 틱톡은 펄먼의 사례에 대해 논평하지 않았으며 공식 입장을 밝히기를 거부했다. 대신 틱톡은 배경 설명 자료를 보내왔다. 요약하면, 틱톡은 펄먼의 사례가 플랫폼 운영 방식을 충분히 이해하지 못한 데서 비롯된 오해라고 주장했다.

해당 기업들은 게시물을 삭제하거나 노출을 제한하기도 하지만, 이는 안전과 표현의 자유 사이의 균형을 맞추기 위해 마련된 명확한 커뮤니티 가이드라인을 위반한 콘텐츠에 한한다고 했다. 틱톡, 메타, 유튜브는 이러한 결정에 대해 항상 사용자에게 알리며, 모두 정기적으로 콘텐츠 검토 결정에 대한 세부 정보를 담은 투명성 보고서를 공개하고 있다.

틱톡, 메타, 유튜브 측은 모두 사용자 피드에 표시되는 콘텐츠를 결정하는 알고리즘이 매우 복잡한 시스템이라고 설명한다. 이 시스템은 수십억 개의 데이터 포인트를 활용해 사용자가 '관련성 높고 만족스러운 콘텐츠'를 접할 수 있도록 설계되었으며, 세 회사 모두 알고리즘이 작동하는 기본 원리를 일정 부분 공개하고 있다고 말한다. 예를 들어 틱톡은 개별 사용자가 특정 동영상과 상호작용할 가능성을 예측해 추천 콘텐츠를 결정한다고 밝혔다. 세 기업은 게시물 삭제나 노출 제한 조치를 취하기도 한다. 하지만 이는 어디까지나 명확한 커뮤니티 가이드라인을 위반한 콘텐츠에 한정되며, 이러한 결정은 항상 사용자에게 통보된다는 것이 기업들의 설명이다. 또한 이들은 정기적으로 투명성 보고서를 발행해 콘텐츠 규제 조치의 통계를 공개한다.

그러나 실제로 소셜미디어 플랫폼들이 특정 목소리를 부각하거나 묵살하기 위해 반복적으로 개입해 왔다는 사실이 BBC, 시민단체, 여러 연구기관, 다른 언론사의 조사 결과로 드러났다. 이는 기업들이 내세우는 개방성과 공정성 원칙과 충돌한다.

BBC와 휴먼라이츠워치의 별도 조사에 따르면, 페이스북과 인스타그램은 지난해 10월 7일 하마스의 이스라엘 공격 이후 수주간 팔레스타인 사용자와 팔레스타인 인권 지지 콘텐츠를 체계적으로 제한한 것으로 나타났다. 메타 대변인은 BBC에 "회사도 실수를 저지르지만, 특정 목소리를 의도적으로 억압했다는 주장은 명백히 사실이 아니다"라고 밝혔다.

2019년 유출된 문서에서는 틱톡이 운영자들에게 "못생긴", 가난한, 장애가 있거나 LGBTQ+인 사용자의 콘텐츠를 억제하라고 지시했다는 사실이 담겨있었다. 이유는 이러한 콘텐츠가 플랫폼을 "덜 화려하고 매력적으로 보이게 만든다"는 것이었다. 틱톡은 이를 더 이상 시행하지 않는 과거의 "과도한 반괴롭힘 조치"라고 설명했다. 같은 문서에서는 틱톡이 정부 비판 등 '논란이 될 만한' 생방송을 금지했다는 사실도 밝혀졌지만, 틱톡은 해당 정책이 "미국 시장에는 적용되지 않는다"고 말했다.

2023년에는 틱톡이 특정 동영상의 노출을 의도적으로 끌어올리기 위해 사용한 비밀스러운 '주목도 증가 버튼(heating button)'이 존재했다는 사실을 인정했다. 이 도구는 기업 파트너십 유치에 활용되기도 했고, 일부 직원이 남용한 사례도 보고되었다. 틱톡은 이 관행이 현재도 유지되는지에 대한 질문에는 답하지 않았다.

펄먼은 이렇게 말했다. "노출을 올리는 버튼이 있다면, 그 반대 기능을 하는 버튼도 있다고 보는 게 합리적이죠. 아주 단순한 이야기입니다."

유튜브 역시 유사한 논란을 겪은 바 있다. 2019년 한 LGBTQ+ 크리에이터 그룹은 유튜브가 '게이'나 '트랜스' 같은 단어가 포함된 영상에 대해 수익 창출을 금지했다고 주장하며 소송을 제기했다. 이 소송은 기각되었고, 유튜브는 LGBTQ+ 관련 콘텐츠를 금지하거나 수익 창출을 제한한 적이 단 한 번도 없다고 밝혔다.

존재하지 않는 음악 축제

소셜미디어 기업들은 실제로 자신들에게 유리한 방식으로 결과를 조작하기도 한다. 경우에 따라서는 이를 공개적으로 밝히기도 한다. 예를 들어 틱톡은 추천 시스템을 상세히 설명하는 여러 웹페이지를 운영하고 있다. 틱톡은 "콘텐츠 중립성을 유지하며, 추천 시스템이 모든 커뮤니티를 포용하고 공정하게 작동하도록 설계돼 있다"고 주장한다. 그러나 모든 영상이 동등하게 취급되는 것은 아니다. 회사는 사용자의 피드가 "지역적 맥락과 문화적 규범을 존중"하고 "광범위한 시청자, 특히 청소년에게 안전한 경험을 제공"하도록 알고리즘이 설계되어 있다고 설명했다.

UCLA '비판적 인터넷 연구센터' 소장 사라 T. 로버츠 교수는 문제는 이러한 소셜미디어 규율 정책이 지나치게 강압적일 뿐 아니라 대부분 눈에 띄지 않는다는 점이라고 지적한다. 로버츠 교수는 "사람들은 경계가 어디에 있는지 거의 알지 못하고, 플랫폼이 어떤 게시물은 은근히 상위에 노출시키고 다른 게시물은 시야에서 사라지게 하는 시점도 알지 못한다"고 말했다.

"규칙을 도구화하는 방식은 얼핏 보나 심층적으로 들여다보나 일반 사용자에게 전혀 이해되지 않습니다. 사람들은 이러한 불투명성 속에서 개인적 추측을 담은 온갖 설명을 만들어 내기도 하죠."

로버츠 교수에 따르면 실제든 상상이든 이러한 '규칙 회피 전략'을 만드는 것은 이제 문화의 일부가 되어버렸다. 이 과정은 때로는 기묘한 형태로 발전하기도 한다.

2025년 8월, 수천 명의 소셜미디어 사용자들이 로스앤젤레스에서 열린다는 새로운 음악 축제 소식을 올리기 시작했다. 사람들은 사브리나 카펜터의 무대에 열광했고, 화려한 조명 쇼 이야기에 흠뻑 빠져들었다. 하지만 그런 축제는 존재하지 않았다. 카펜터는 공연하지 않았다. 모든 것이 조작된 것이었다.

같은 달, 미국 전역에서는 미국 이민세관단속국(ICE)의 급습에 반대하는 대규모 시위가 벌어지고 있었다. 그러나 온라인에서는 테크 기업들이 이 시위 소식을 숨기고 있다고 믿는 사람들이 많았다. 이른바 "음악 축제"는 알고스피크였다. 알고리즘을 피하기 위해 은유적 언어로 소통하려는 사용자들 사이에서 자발적으로 퍼진 암호 같은 표현이었다.

"지금 우리는 캘리포니아 로스앤젤레스에 있습니다. 여기서 음악 축제가 한창 열리고 있죠." 콘텐츠 크리에이터 조니 팔마데사는 틱톡 영상에서 이렇게 말하며 시청자들에게 윙크를 보냈다. 그의 뒤에서는 시위대가 행진하며 구호를 외치고 피켓을 흔들고 있었다.

그는 "이 아름다운 '콘서트'를 알고리즘이 보여줄 수 있도록 '음악 페스티벌'이라고 불러야 한다"며 "그렇지 않으면 영상이 삭제될 위험이 있다"고 말했다.

여기에 또 다른 흥미로운 점이 있다. 언어학자이자 '알고스피크: 소셜미디어가 언어의 미래를 바꾸는 방식'의 저자인 애덤 알렉식에 따르면, 실제로 소셜미디어 기업이 시위 소식을 억압했다는 증거는 없다. 알렉식은 관련 영상에서 "물론 틱톡이 지나치게 정치적 콘텐츠가 한데 몰리는 것을 막으려 할 수는 있지만 일반적인 시위 보도는 허용한다"고 했다. "오히려 '음악 축제'라는 표현은 대부분의 사용자가 알고리즘이 무엇을 검열하는지 확신하지 못해 과도하게 자기검열을 하면서 생겨난 결과입니다."

아이러니하게도 "음악 축제"라는 용어 사용은 실제 음악 축제 영상에 대한 관심까지 끌어올렸다. 알렉식은 이 현상이 사용자가 '특정 집단에 속한 듯한 느낌'을 원했기 때문에 일어났다고 설명했다. 이로 인해 실제 음악 축제 영상들이 빠르게 확산되었다. 그렇게 시위 관련 일반 영상보다 '음악 축제' 영상이 더 높은 인기를 끌면서, 다시 검열이 실제로 존재한다는 믿음이 더욱 강화되었다.

학계에서는 이러한 현상을 "알고리즘적 상상력"이라 부른다. 사람들은 소셜미디어 알고리즘의 작동 방식에 대해 자신이 가진 믿음에 따라 행동을 바꾼다. 그리고 이러한 믿음이 사실이든 아니든, 결국 사용자 행동이 또 다른 알고리즘 형성에 영향을 미친다.

모든 것이 우리의 상상일까?

알고스피크는 새로운 현상이 아니다. 우리는 엡스타인, 가자 지구 등 논란이 될 수 있는 수많은 주제에 관한 영상들을 쉽게 찾아볼 수 있다. 그리고 만약 틱톡이 정말 살인 관련 영상을 제한하려 했다면, 지금쯤 ('죽다'를 돌려 말하는 표현인) "unalive" 같은 단어도 이미 차단했을 것이다.

좌파 운동에 초점을 둔 인기 콘텐츠 크리에이터 아리아나 재스민 아프샤르는 "우리 중 누구도 무엇이 통하고 무엇이 통하지 않는지 모른다"며 "다만 벽에 이것저것 던져 보고 무엇이 붙는지만 보고 있을 뿐"이라고 말했다.

물론 그렇다고 소셜 미디어 기업들이 공공 담론 형성에서 중요한 역할을 하지 않는다는 뜻은 아니다. 2023년부터 2025년 사이 메타는 정치적 콘텐츠를 공개적으로 억압했다가, 도널드 트럼프 대통령의 두 번째 취임식 이후 대대적인 정책 변경을 통해 이를 철회했다. 그 기간 동안 교묘한 언어를 사용해 정치적 내용을 감추면 알고리즘을 속일 수 있었을지도 모른다.

아프샤르는 음악 축제 시위 영상을 올린 수많은 사람 가운데 한 명이었다. 암호 같은 표현들이 실제로 효과를 냈을까? 그는 "잘 모르겠다"고 답했다.

그는 소셜 미디어 기업들이 논란의 소지가 있는 주제에 대한 게시물을 검열한다는 데 의심의 여지가 없다고 말했다. 직접 그런 일을 겪었고, 어떤 경우에는 알고스피크가 검열을 피하는 데 도움이 됐기 때문이다. 하지만 동시에 자신의 게시물이 성공을 거둔 사실 자체가 소셜 미디어 기업들이 같은 정치적 논쟁이 플랫폼에서 계속 확산되는 것을 허용하고 있다는 증거이기도 하다고 인정했다.

아프샤르는 인스타그램 담당자가 지난해 직접 연락해 콘텐츠 성과를 축하하고 플랫폼에서 더 좋은 결과를 내기 위한 전략을 제안했다고 밝혔다. (메타 대변인은 인스타그램이 인기 크리에이터를 지원하기 위해 연락을 취하기도 한다고 설명했다.)

아프샤르는 알고스피크가 "실제로 존재하는 현상"이지만, 사실과 허구를 구분하기가 매우 어렵다고 말했다. 거대 테크 기업들의 변덕은 모호하고 끊임없이 요동친다. "솔직히 정말 혼란스럽습니다."

로버츠 교수는 현재 상황을 제대로 이해하려면 소셜 미디어 기업들이 무엇을 추구하는지를 파악하는 것이 핵심이라고 말했다. 그의 설명에 따르면, 이는 정치적 문제가 아니라 결국 돈의 문제다.

소셜 미디어 기업들은 광고로 수익을 낸다. 로버츠는 궁극적으로 그들의 목표는 많은 사람들이 쓰고 싶어 하는 앱을 만들고, 광고주들이 불편해하지 않는 콘텐츠로 채우며, 정부 규제 기관의 간섭을 피하기 위해 필요한 모든 조치를 취하는 것이라고 설명했다. 알고리즘의 모든 변경과 콘텐츠 관리 결정은 결국 이익 추구로 귀결된다는 것이다.

소셜 미디어 기업들은 추천 시스템과 콘텐츠 관리의 목적이 사용자에게 보다 안전하고 환영받는 환경을 제공하는 것이라고 말한다. 로버츠는 "대부분의 경우, 콘텐츠 관리가 가져오는 이익이 대다수 사용자의 최선의 이익과 일치하는 것도 사실"이라면서도 "하지만 어쩔 수 없이 그 원칙에서 벗어나야 할 때도 있다"고 말했다.

그는 "사람들이 사회의 어떤 측면에 불만을 느낀다면 그저 플랫폼 안에서 이 불만과 좌절감을 분출하게 해서 플랫폼이 그로부터 이익을 취하도록 내버려 두는 것이 최선일까?"라고 물었다.

"우리는 사회 전체가 과연 이런 방식이 사회에 참여하는 가장 좋은 방법인지 되묻고 고민해야 합니다."

• 호주, 16세 미만 'SNS 금지' 시행 앞두고 … 인스타그램 계정 폐쇄
• 아마존웹서비스(AWS) 서버 중단 … 전 세계 인터넷 혼란이 벌어진 이유는?
• 중국, 미국과의 틱톡 합의 '승리'라 주장 … 그들이 얻는 것은?
• 네팔 'SNS 금지' 항의 시위에 19명 사망...결국 조치 철회
• '스마트폰 금지법' 통과...수업 중 스마트폰 사용 '불법' 됐다
• 아동 성폭력 피해자, 머스크에게 'X서 피해 사진 링크 삭제해달라' 간청