BBC NEWS | 코리아

지난주 이스라엘이 이란을 공습한 이후, 온라인에서는 이란의 대응 효과를 과장하려는 수십 건의 게시물이 쏟아지며 허위정보가 급속히 퍼지고 있다.

BBC 검증팀이 분석한 결과, 이들 게시물 가운데 일부는 인공지능(AI)을 활용해 제작된 것으로 이란의 군사력을 자랑하거나 이스라엘에 대한 공격 직후 상황을 보여주는 조작된 영상이었다. BBC 검증팀이 확인한 가짜 영상 중 조회 수 상위 3개 영상은 여러 플랫폼에서 총 1억 회 이상의 조회 수를 기록했다.

친이스라엘 성향의 계정들 또한 온라인에서 허위정보를 퍼뜨리고 있다. 주로 과거 이란 내 시위와 집회의 영상을 재유포하며, 마치 이란 내에서 정부에 대한 반감이 커지고 있으며 이스라엘의 군사 작전에 대한 지지가 확산되고 있는 것처럼 거짓 주장을 하고 있다.

이스라엘은 6월 13일 이란에 대한 공습을 단행했으며, 이에 따라 이란은 여러 차례 미사일 및 드론 공격으로 대응했다.

오픈소스 이미지를 분석하는 한 단체는 온라인상에 퍼진 허위정보의 양을 "놀라울 정도"라고 표현하며, 일부 '관심 끌기 농장(engagement farmers)'이 온라인 주목도를 높이기 위해 오해를 불러일으키는 콘텐츠를 공유하며 이번 분쟁으로부터 이익을 얻으려 하고 있다고 비판했다.

온라인 검증 단체인 지오컨펌드(Geoconfirmed)는 X(구 트위터)에 "파키스탄과 무관한 영상부터 2024년 10월 공습 당시의 재활용 영상들(일부는 조회 수 2천만 회 이상 기록), 그리고 게임 영상과 AI로 생성된 콘텐츠까지 다양한 허위정보가 실제 사건인 것처럼 퍼지고 있다"고 밝혔다.

일부 계정은 허위정보의 '슈퍼 전파자' 역할을 하며 팔로워 수가 급격히 증가하는 보상을 받고 있다. '데일리 이란 밀리터리(Daily Iran Military)'라는 친이란 성향 계정은 테헤란 당국과 뚜렷한 연관성은 없어 보이지만, 6월 13일 기준 약 70만 명이었던 X 팔로워 수가 6월 19일까지 140만 명으로 증가하며 불과 6일 만에 85%나 늘었다.

이 계정은 최근 사람들의 피드에 등장한 여러 생소한 계정 중 하나다. 이들 계정은 모두 인증 배지를 달고 있으며, 활발한 게시 활동과 반복적인 허위정보 게시가 특징이다. 일부는 공식 기관처럼 보이는 이름을 사용하고 있어 실제 기관 계정으로 착각하는 사람들도 있지만, 누가 이 계정들을 운영하는지는 명확하지 않다.

허위정보가 이렇게 대규모로 생성형 인공지능을 통해 생산·유포된 것은 "이번이 처음"이라고 에마뉘엘 살리바 분석 단체 겟 리얼(Get Real)의 수석조사관이 BBC 검증팀에 밝혔다.

BBC 검증팀이 검토한 계정들에서는 이스라엘 공습에 대한 이란의 대응을 과장하려는 목적의 AI 생성 이미지가 자주 공유됐다. 그중 한 이미지는 텔아비브 상공에 수십 발의 미사일이 떨어지는 장면을 담고 있으며, 조회 수는 2700만 회에 달한다.

또 다른 영상은 이스라엘 도시 내 건물에 심야 시간 미사일이 떨어지는 장면을 담은 것처럼 보인다. 살리바는 이러한 영상들이 야간 공격을 묘사하기 때문에 사실 여부를 확인하기 더욱 어렵다고 설명했다.

AI 조작 콘텐츠는 또한 이스라엘의 F-35 전투기 파괴 주장에 집중되고 있다. F-35는 지상과 공중 표적 모두를 타격할 수 있는 미국산 최첨단 전투기다. 리사 카플란 분석 단체 알레테아(Alethea)의 최고경영자는 BBC 검증팀에 "이 영상들이 모두 사실이라면 이란은 이스라엘 전체 F-35 전력의 15%를 파괴한 셈"이라고 말했다. 그러나 F-35 전투기가 격추된 장면이 담긴 영상이 실제라는 증거는 아직 확인되지 않았다.

널리 퍼진 한 게시물은 이란 사막에 격추된 전투기를 담았다고 주장했지만, AI로 조작된 흔적이 뚜렷했다. 전투기 주변에 있는 민간인들의 크기가 인근 차량과 동일했고, 모래에는 낙하 충격 흔적이 전혀 없었다.

틱톡에서 조회 수 2110만 회를 기록한 또 다른 영상은 이스라엘의 F-35 전투기가 방공망에 의해 격추되는 장면이라고 주장했지만, 실제로는 비행 시뮬레이터 게임 영상이었다. 이 영상은 BBC 검증팀이 틱톡에 문의한 뒤 삭제됐다.

리사 카플란은 일부 F-35 관련 허위정보는 알레테아가 과거 러시아의 영향력 작전과 연관지은 계정 네트워크에 의해 주도되고 있다고 말했다.

그는 러시아의 영향력 작전이 최근 우크라이나 전쟁에 대한 지지를 약화시키려는 시도에서, 서방 (특히 미국의) 무기 성능에 대한 의심을 퍼뜨리는 방향으로 전략을 바꿨다고 지적했다.

"러시아는 F-35에 대해 실질적인 대응 수단이 없다. 그렇다면 어떻게 해야 할까? 특정 국가 내에서 F-35에 대한 지지를 약화시키는 방향으로 여론을 조작할 수 있다"고 카플란이 말했다.

허위정보는 이스라엘-가자 전쟁이나 기타 분쟁에 대해 이미 발언해온 유명 계정들에 의해서도 퍼지고 있다. 전문가들은 이들의 동기는 다양하지만, 일부는 분쟁을 수익화하려는 시도일 수 있다고 말했다. 주요 소셜미디어 플랫폼들이 높은 조회 수를 기록한 계정에 보상을 제공하고 있기 때문이다.

반면 친이스라엘 성향의 게시물은 주로 공습이 계속됨에 따라 이란 정부에 대한 반감이 커지고 있다는 주장에 초점을 맞추고 있다.

그중에는 테헤란 거리에서 이란인들이 "우리는 이스라엘을 사랑한다"고 외치는 모습을 담았다고 주장하는 AI 생성 가짜 영상도 포함돼 있다.

하지만 최근 며칠간, 미국의 이란 핵시설 공습 가능성에 대한 추측이 커지면서 일부 계정들은 테헤란 상공에 B-2 폭격기가 날고 있는 AI 생성 이미지를 게시하기 시작했다. B-2는 이스라엘의 이란 공습이 시작된 이후 특히 주목받고 있는데, 이 폭격기만이 이란의 지하 핵시설을 효과적으로 공격할 수 있는 유일한 항공기이기 때문이다.

이란과 이스라엘의 공식 기관도 일부 가짜 이미지를 공유했다. 테헤란 국영 언론은 공습 장면을 담은 조작 영상과 F-35 전투기가 격추된 모습을 담은 AI 이미지 등을 공유했으며, 이스라엘군(IDF)이 공유한 한 게시물은 오래된 미사일 공격 장면을 사용했다는 이유로 X에서 커뮤니티 노트를 받았다.

BBC 검증팀이 분석한 허위정보 상당수는 X에서 퍼졌으며, 이용자들은 게시물의 진위 여부를 확인하기 위해 자주 X의 AI 챗봇 '그록(Grok)'을 이용했다.

하지만 일부 사례에서 그록은 AI 영상이 진짜라고 주장했다. 예를 들어, 산속 시설에서 탄도미사일을 실은 트럭들이 끊임없이 나오는 장면을 담은 영상이 있었다. 살리바는 이 영상에서 바위들이 스스로 움직이는 등 AI 생성 콘텐츠의 흔적이 명확했다고 설명했다.

하지만 X 이용자들의 반응에 대해 그록은 해당 영상이 진짜라고 여러 차례 주장하며 뉴스위크(Newsweek)와 로이터(Reuters)를 포함한 언론 보도를 인용했다. 챗봇은 여러 메시지에서 "정확한 정보를 위해 신뢰할 수 있는 언론을 확인하라"고 덧붙였다.

BBC 검증팀의 챗봇 관련 질의에 대해 X 측은 답변하지 않았다.

틱톡과 인스타그램에도 유사한 영상이 다수 올라왔다. 틱톡은 BBC 검증팀에 보낸 성명에서 "부정확하거나 오해를 일으키거나 허위인 콘텐츠를 금지하는 커뮤니티 가이드라인을 적극적으로 시행하고 있으며, 독립적인 팩트체크 기관과 협력해 허위 콘텐츠를 검증하고 있다"고 밝혔다.

인스타그램 운영사인 메타(Meta)는 코멘트 요청에 답변하지 않았다.

온라인상에서 허위 콘텐츠를 제작하는 이들의 동기는 다양하지만, 이들 중 상당수는 일반 소셜미디어 이용자들에 의해 공유되고 있다.

매튜 파치아니 미국 노트르담대학교의 연구원은 분쟁이나 정치처럼 양자택일의 선택지가 주어질 때 허위정보가 온라인에서 더 빠르게 확산될 수 있다고 설명했다.

그는 "사람들이 정치적 정체성과 부합하는 콘텐츠를 다시 공유하고 싶어하는 심리적, 사회적 성향을 반영하며, 더 자극적이고 감정적인 콘텐츠일수록 온라인에서 더 빨리 퍼진다는 점과도 관련이 있다"고 말했다.

• 이란은 미국을 타격할 수 있을까? 이란-이스라엘 갈등의 핵심 질문들
• 이란 외무차관 '미국 개입하면 지옥 펼쳐질 것'
• '핵폭탄 개발 직전?' 이란의 핵 개발 어디까지 왔나
• X 사용자들이 미국 선거 관련 잘못된 정보와 AI 이미지로 돈을 버는 방법
• 조작된 이미지는 어떻게 식별할까?
• 틱톡에 확산하는 우크라이나 전쟁 가짜 영상