BBC NEWS | 코리아

마크 저커버그는 하와이 카우아이섬에 약 1400에이커(171만 3844평) 규모의 사유지 '쿨라우 랜치'를 지난 2014년부터 개발해 온 것으로 알려졌다.

와이어드 매거진에 따르면 이 부지에는 자체적인 에너지 및 식량 공급 시스템을 갖춘 대피소가 만들어질 예정이다. 현장에서 일하는 목수와 전기기술자들은 비밀 유지 계약을 체결해 이에 대해 언급할 수 없는데, 특히 부지 주변에는 인근 도로에서의 시야를 차단하기 위해 6피트(약 1.83m) 높이의 벽이 세워져 있다.

지난해 '종말 대비용 대피소'를 짓고 있느냐는 질문에 저커버그는 단호히 "아니오"라고 답했다. 그는 약 5000평방피트(약 140평) 규모의 지하 공간을 "그냥 작은 대피소나 지하실 같은 곳"이라고 설명했다.

그럼에도 불구하고 추측은 멈추지 않았다. 캘리포니아주 팔로알토의 크레센트 파크 지역에서 11채의 부동산을 사들인 그의 결정 역시 비슷한 추측을 낳았다. 이 부지들 중 일부에는 약 7000평방피트(약 196평) 규모의 지하 공간이 새로 조성된 것으로 전해진다.

뉴욕타임스에 따르면 그의 건축 허가서에는 '지하실'이라 적혀 있지만 일부 이웃들은 그것을 '벙커' 혹은 '억만장자의 박쥐 동굴'이라고 부른다.

또 다른 기술 업계 지도자들에 대한 추측도 있다. 그들 중 일부는 지하 공간이 있는 땅을 사들이며 수백만 파운드짜리 호화 벙커로 개조하기에 알맞은 부지를 확보해 온 것으로 보인다.

링크드인 공동창립자 리드 호프먼은 "종말 보험"에 대해 이야기한 적이 있다. 그는 과거 인터뷰에서 초부유층의 약 절반이 이런 대비책을 갖고 있다고 주장했으며 뉴질랜드가 그들의 주택지로 인기가 높다고 말했다.

그렇다면 그들은 정말로 전쟁이나 기후변화의 영향, 혹은 우리가 아직 알지 못하는 다른 대재앙에 대비하고 있는 것일까?

최근 몇 년 사이 급속히 발전한 인공지능(AI)도 인류에 대한 새로운 위협으로 떠올랐다. 오늘날 많은 이들이 인공지능 발전 속도 자체에 우려를 나타내고 있다.

오픈AI의 공동창립자이자 수석과학자인 일리아 수츠케버 역시 그런 인물 중 하나로 알려져 있다.

2023년 중반 무렵 샌프란시스코에 본사를 두고 있던 오픈AI는 전 세계 수억 명이 사용하는 챗봇 '챗GPT'를 내놓고 빠르게 기술을 발전시키고 있었다.

하지만 저널리스트 카렌 하오의 저서에 따르면, 그해 여름 수츠케버는 점점 확신을 굳혀갔다. 인간 수준의 지능을 지닌 범용 인공지능(AGI)의 등장이 임박했다는 믿음이었다.

하오는 기록에서 수츠케버가 회의 중 동료들에게 "이처럼 강력한 기술이 공개되기 전, 회사의 핵심 연구진을 위한 지하 대피소를 마련해야 한다"고 제안했다고 전했다.

수츠케버는 "우리는 반드시 AGI를 출시하기 전에 벙커를 지을 것"이라고 말했다고 하지만 여기서 '우리'가 누구를 뜻하는지는 불분명하다.

이상한 점은 AGI 개발에 앞장서는 수많은 선도적 컴퓨터 과학자들조차 그 결과를 두려워하고 있다는 사실이다.

그렇다면 AGI는 언제, 어떻게 도래할까? 그리고 그것이 정말 평범한 사람들에게 공포를 불러올 만큼 세상을 바꿔놓을 수 있을까?

'우리가 생각하는 것보다 더 빠른' 도래

IT 업계 거물들은 AGI가 임박했다고 입을 모은다. 오픈AI의 샘 알트만 대표는 2024년 12월 "AGI는 대부분의 사람들이 생각하는 것보다 훨씬 더 빨리 찾아올 것"이라고 말했다.

딥마인드 공동창립자 데미스 하사비스 경은 향후 5~10년 내, 앤트로픽 창립자 다리오 아모데이는 자신이 선호하는 용어인 '강력한 AI'가 빠르면 2026년 등장할 수 있다고 전망했다.

하지만 회의적인 시각도 있다. 웬디 홀 사우샘프턴대 컴퓨터과학과 교수는 "그들은 항상 기준선을 옮긴다"며 "누구와 이야기하느냐에 따라 예상 시점이 달라진다"고 지적했다.

그러면서 "과학계는 AI 기술이 놀랍다고 말하지만, 사실 인간의 지능에는 한참 미치지 못한다"고 강조했다.

코그니전트의 바박 호자트 CTO는 "AGI가 등장하려면 여러 차례의 근본적 돌파구가 필요하다"고 설명했다.

또한 AGI가 어느 날 갑자기 완성형으로 등장할 가능성은 낮다. 오히려 전 세계 수많은 기업이 각자의 AI 모델을 개발하며 경쟁하는 '점진적 진화' 과정에 가깝다.

그러나 이 기술이 실리콘밸리 일부 인사들을 흥분시키는 이유는 AGI가 더 고도화되어 인간의 지능을 뛰어넘는 초인공지능(ASI)의 전조가 될 수 있다는 기대 때문이다.

1958년으로 거슬러 올라가면, 헝가리 출신 수학자 존 폰 노이만은 '특이점' 개념을 처음 제시했다. 이는 컴퓨터 지능이 인간의 이해를 뛰어넘는 순간을 뜻한다.

2024년 출간된 에릭 슈미트, 크레이그 먼디, 고(故) 헨리 키신저 공저 '새로운 질서(원서명 Genesis)'는 초강력 기술이 의사결정과 리더십 영역에서 극단적으로 효율화되어 결국 인간이 통제권을 내어주는 시나리오를 탐구한다.

그들은 이것이 '과연 생길까'의 문제가 아니라 '언제' 생길 것인가의 문제라고 말한다.

일하지 않아도 돈을 버는 세상?

AGI와 ASI를 지지하는 이들은 그 혜택을 거의 전도사처럼 설파한다. 그들은 AI가 치명적 질병의 치료법을 발견하고 기후변화를 해결하며 무한한 청정 에너지를 공급할 것이라고 주장한다.

일론 머스크는 ASI가 "보편적 고소득"의 시대를 열 것이라고 말한 바 있다. 그는 AI가 누구나 자신만의 'R2-D2'나 'C-3PO'(모두 영화 스타워즈에 나오는 로봇)을 꿈꿀 수 있을 만큼 저렴해질 것이라고 강조한다.

"모든 사람이 최고의 의료 서비스와 음식, 교통을 누리게 될 것입니다. 지속 가능한 풍요의 시대가 열릴 겁니다."

물론 어두운 전망도 있다. 테러리스트가 이 기술을 무기로 활용하거나, AI 자체가 인류를 '문제의 근원'으로 판단해 제거하려 든다면 어떨까.

월드 와이드 웹 창시자 팀 버너스-리 경은 BBC와의 인터뷰에서 "AI가 인간보다 똑똑해진다면 우리는 그것을 통제해야 한다"고 경고했다.

"우리는 AI의 전원을 끌 수 있어야 합니다."

각국도 대응에 나서고 있다. 미국에서는 조 바이든 대통령이 지난 2023년 일부 AI 기업에 안전성 테스트 결과를 정부와 공유하도록 하는 행정명령에 서명했다. 이후 도널드 트럼프 대통령은 이를 "혁신의 장벽"이라며 일부 철회했다.

영국은 2년 전 '인공지능 안전 연구소'를 설립해 첨단 AI가 초래할 수 있는 위험을 연구 중이다.

각자의 방식으로 '종말 대비 보험'을 준비하는 슈퍼리치들도 있다.

리드 호프먼은 "뉴질랜드에 집을 산다"는 말이 "일종의 암묵적인 신호"라고 말한 적이 있다. 벙커도 마찬가지일 것이다.

하지만 이런 대비에는 인간적인 허점이 있다. 한 억만장자의 전직 경호원은 "진짜 종말이 온다면 보안팀의 우선 임무는 보스를 지키는 것이 아니라 벙커를 차지하는 것일지도 모른다"고 말했다. 농담 같지만 농담만은 아니었다.

이 모든 것은 허튼소리인가?

머신러닝 전문가인 케임브리지대 닐 로렌스 교수는 이런 논의 자체를 "터무니없다"고 일축한다.

"AGI란 개념은 '범용 인공 차량'을 상상하는 것만큼이나 비현실적"이라는 것이다.

"상황에 따라 적합한 교통수단은 달라집니다. 저는 케냐로 갈 때는 에어버스 A350을 이용했고 매일 대학에 갈 때는 차를 이용하며 카페에는 걸어갑니다… 이 모든 것을 다 해낼 수 있는 교통수단은 존재하지 않습니다."

그에게 AGI 논쟁은 진짜 중요한 문제를 가리는 소음에 불과하다.

"이미 우리는 기계와 직접 대화하고 원하는 방식으로 반응하도록 만드는 놀라운 기술을 갖고 있습니다. 이것만으로도 혁명적인 변화입니다."

"문제는 우리가 AGI라는 빅테크의 서사에 너무 사로잡혀 실제로 사람들에게 필요한 개선을 놓치고 있다는 점입니다."

현재의 AI 도구는 방대한 데이터를 학습해 패턴을 포착하는 데 능숙하다. 예를 들어 스캔 영상 속 종양 징후든 특정 문맥에서 특정 단어 뒤에 가장 자주 오는 단어 등을 잘 찾아낸다. 하지만 아무리 설득력 있는 답변을 내놔도 '느낄' 수는 없다.

호자트 CTO는 "AI가 마치 기억하고 학습하는 것처럼 보이는 몇 가지 트릭이 있지만, 인간 지능에 비하면 여전히 한참 부족하다"고 말했다.

IV.AI의 빈스 린치 CEO도 "AGI는 훌륭한 마케팅 수단일 뿐"이라며 "진짜로 구현되기까지는 막대한 계산력과 창의력, 수많은 시행착오가 필요하다"고 강조했다.

그에게 AGI가 실현될 것 같은지 물었다. 그는 한동안 침묵한 뒤 이렇게 답했다.

"정말 모르겠습니다."

의식 없는 지능

어떤 면에서는 AI가 이미 인간의 두뇌를 능가했다. 생성형 AI는 한순간에는 중세 전문가, 다음 순간에는 수학자처럼 행동한다.

일부 IT 기업은 자사 시스템이 왜 특정 반응을 보이는지를 100%는 이해하지 못한다. 메타는 자사 AI가 '스스로 개선되는 조짐'을 보인다고 밝혔다.

그러나 아무리 진보하더라도 인간의 뇌는 여전히 AI에 비해 생물학적으로 우위에 있다. 인간의 뇌는 약 860억 개의 뉴런과 600조 개의 시냅스로 구성되어 있다.

인간의 뇌는 기계보다 거대한 규모이며 끊임없이 학습하고 적응한다.

호자트 CTO는 "만약 외계 생명체가 발견됐다고 하면 인간은 즉시 그 사실을 인식하고 세계관이 변하겠지만 AI는 반복해서 입력하지 않으면 그 사실을 '기억'하지 못한다"고 말했다.

또한 대규모 언어 모델은 메타인지 능력이 없다. 자신이 무엇을 알고 있는지조차 알지 못한다. 반면 인간은 '의식'이라고 불리는 자기성찰적 능력을 통해 자신이 무엇을 알고 있는지를 인지할 수 있는 듯 보인다.

이것이 바로 인간 지능의 근본적인 부분이며 아직까지 실험실이 재현해내지 못한 부분이다.

• AI 2027: 인공지능은 인류를 이런 방식으로 멸종시킬까?
• 오픈AI, 차세대 GPT-5 모델 '박사급' 주장
• AI를 최대한 활용하는 방법: 스스로에게 물어봐야 할 4가지 질문
• 영화와 TV 프로그램의 언어 더빙을 완전히 바꿔놓을 인공지능 기술
• 'AI로 얼굴 합성해' 위장 취업하는 북한 IT 인력
• AI를 거부하는 사람들: '기계가 쓴 글을 왜 읽어야 하죠?'