BBC NEWS | 코리아

최근 인공지능(AI)의 잠재적인 위협에 대한 대중의 우려가 커지는 가운데, 오픈AI의 샘 알트먼 최고경영자(CEO)는 사람들이 자사를 비롯한 AI 기업들이 올바른 결정을 내릴 것이라고 더 신뢰할 필요가 있다고 주장했다.

알트먼 CEO는 지난 15일 샌프란시스코에서 열린 한 콘퍼런스에서 "그것이 옳은 일이기에, 그리고 우리들은 이 문제의 중대성을 느끼기에 우리가 올바른 결정을 내릴 것임을 세상이 믿어야 한다"고 밝혔다.

다만 AI 기술이 급속도로 발전하는 가운데 사람들의 우려는 타당하다고 인정했다.

한편 워싱턴에서는 진보 성향의 버니 샌더스 상원의원과 도널드 트럼프 대통령의 고문 출신인 스티브 배넌 모두 더 강력한 AI 규제를 촉구하고 나섰다.

알트먼 CEO의 이 같은 발언은 소프트웨어 기업 세일즈포스가 주최한 연례 컨퍼런스 참석 중 나왔다.

그는 "(AI로 인해) 상황이 어떻게 잘못될 수 있을지 상상하기란 예전만큼 어렵지 않다"며 "세상이 이를 두려워하는 것은 당연하다고 생각한다"고 말했다.

이는 지난주 한 연구원이 또 다른 AI 기업 앤트로픽을 퇴사하며 남긴 글이 인터넷상에서 화제가 된 이후 알트먼 CEO의 첫 공식 발언이다. 해당 연구원은 AI를 제대로 규제하지 않을 경우 10년 안에 모든 인류를 멸망시킬 수 있다고 주장했다.

다른 몇몇 AI 경영진과 전문가들 또한 이러한 평가에 동의한다고 밝혔다. 다만 이들은 어떻게 그러한 결론에 도달했는지, 혹은 AI가 정확히 어떻게 인류를 멸망시킬 수 있는지에 대해서는 구체적으로 언급하지 않았다.

이렇듯 AI의 위협에 대한 관심이 높아지면서 최근 며칠간 AI 기술 개발에 대한 감시도 더욱 강화되고 있다. 앤트로픽의 다리오 아모데이 CEO는 모든 AI 개발 속도를 늦춰야 한다고 주장하며, 각국 정부에 해당 산업을 규제해달라고 촉구했다.

아모데이 CEO의 이 같은 주장에 알트먼 CEO는 물론, 구글 딥마인드의 공동 창립자인 데미스 하사비스, SNS 사이트 X 및 AI 어시스턴트 '그록'의 소유주인 일론 머스크도 지지를 보냈다.

다만 15일 기준 많은 AI 업계 리더들은 정부의 개입보다는 업계 자율 규제를 지지한다는 입장을 밝혔다.

알트먼 CEO 또한 자사와 같은 AI 기업들이 본질적으로 스스로 규제할 능력이 있다고 느낀다고 말했다.

그는 "우리는 제대로 해낼 것이다. 우리 회사와 업계가 이를 안전하게 할 수 있다는 점에 대해 매우 확신한다"고 말하며, "정렬성과 안전성을 기술적 성능보다 훨씬 우선시 할 것"이라고 덧붙였다. 아울러 만약 그렇게 할 수 없다면 "속도를 늦추거나 중단할 것"이라고 밝혔다.

이러한 확신에도 불구하고 정치권에서는 자율 규제에 대한 경계의 목소리가 나온다.

친민주당 성향의 버니 샌더스 연방 상원의원(무소속, 버몬트주)는 "세계에서 가장 부유한 소수"가 AI 개발 관련 결정을 내리고 있다고 지적하며, 머스크, 메타의 마크 저커버그 CEO, 아마존 창립자 제프 베조스 등을 지목했다.

워싱턴에서 열린 한 콘퍼런스에서 그는 "AI에 관한 결정은 이 나라의 국민들이 내려야 하며, 소수의 억만장자 기업인이 결정해서는 안 된다"고 강조했다.

트럼프 행정부 1기 당시 백악관 전략가로 활동했던 배넌 역시 기술 업계의 자율 규제 능력에 의문을 제기했다.

같은 콘퍼런스에서 배넌은 "우리는 억만장자 기업인들의 말을 결코 믿을 수 없다. 왜냐하면…그들은 표리부동하며 거짓말을 하기 때문"이라고 비난했다.

알트먼 CEO의 이 같은 발언 이후, 저커버그 CEO는 X를 통해 모든 AI 연구소는 안전을 최우선으로 설계된 AI 툴(도구)과 모델을 만들고자 "나름의 조처를 할" 능력을 갖추고 있으며 그럴 유인도 있다고 설명했다.

저커버그 CEO는 "정렬성에 집중하지 않는 연구소는 결국 시대에 뒤처지게 될 것"이라며 "연구소의 모델이 피해를 입힐 경우 막대한 법적 책임을 지게 되므로, 이를 방지하려는 동기도 강력하다"고 덧붙였다.

15일 같은 콘퍼런스에 참석한 엔비디아의 젠슨 황 CEO 역시 AI 기업들이 신기술 버전의 출시 여부를 스스로 결정해야 하며, 외부 세력이 관리해서는 안 된다고 말했다.

황 CEO는 "새로운 법률이나 규제는 필요하지 않다"며 혁신의 속도와 AI 제품의 안전성 사이의 "잘못된 선택"을 강요받아서는 안 된다고 덧붙였다.

엔비디아는 생산하는 AI 컴퓨팅 칩에 대한 수요가 급증하면서 현재 시가총액 기준 세계 최대 기업이 됐다.

황 CEO는 "안전이 최우선이다. 하지만 안전은 공학적 문제"라고 강조했다.

이어 AI 기업 경영진들은 자사 제품에 대한 확신이 서지 않는다면, 언제든지 출시를 보류해야 한다고 덧붙였다.

황 CEO는 "그건 아주 당연한 일"이라면서 "가능한 한 빨리 달려 나가되, 어느 순간 통제력을 상실했다고 느껴진다면 잠시 멈춰야 한다"고 했다.

• 종말을 대비하는 듯한 IT 분야 거부들, 우리도 걱정해야 할까?
• '킬스위치'란 무엇이며, 이를 통해 AI의 공격을 막을 수 있을까
• 구글의 연이은 검색 알고리즘 업데이트...예전과 달라질 인터넷 세상

다만 업계 일각에서는 최근 다시 커지고 있는 AI에 대한 우려는 과장된 것이며, 업계에 대한 관심을 부채질하기 위한 전략이라는 지적도 있다.

해당 콘퍼런스에서 알트먼 CEO는 기업인 수백 명으로 구성된 청중 앞에서 이들의 업무 효율을 위해서는 AI 툴을 활용해야 할 뿐만 아니라, AI를 이용한 잠재적 사이버 공격으로부터 사업을 보호하기 위해서도 AI 툴이 필요하다고 연설했다.

한편 업계 내에서도 AI 업계의 자율 규제에 대해 우려하는 이들이 있다.

앤트로픽의 임원이자 공동 창업자인 잭 클라크는 14일 BBC와의 인터뷰에서 AI를 "전혀 규제되지 않는 산업"으로 방치하는 것은 "엄청난 위험을 감수하는 도박"이라고 말했다.

AI 업계의 거장인 얀 르쿤이 회장을 맡고 있는 '로지컬 인텔리전스'의 패트릭 힐만 최고운영책임자(COO) 또한 지난 15일 사람들은 기술 업계가 진정으로 공익을 위해 행동할 것이라고 거의 믿지 않는다는 점을 지적했다.

그는 "요즘 미국인들이 워싱턴(정치권)만큼이나 신뢰하지 못하는 집단이 실리콘밸리(기술 업계)일 것"이라며 "나는 두 곳 모두에서 일하고 살아본 사람으로서, 이러한 회의론은 자업자득"이라고 지적했다.

"자신이 만들고 있는 것이 위험하다고 생각한다면, 무엇을 중단할 준비가 돼 있는지 공개하라"는 것이다.

최근 오픈AI와 앤트로픽 측은 안전에 대해 업계 전반의 합의를 도출하고자 함께 노력하기 시작했다고 밝혔다.

15일 콘퍼런스에 깜짝 등장한 아모데이 CEO는 앤트로픽은 현재 AI툴과 기술 개발에 대한 더 나은 안전 기준을 설정하고 모니터링하고자 "업계 다른 기업들과 대화를 나누고 있다"고 설명했다.

이어 AI 붐의 가장 큰 놀라움 중 하나는 기술 자체의 발전 속도가 아니라, 그 광범위한 영향력이라고 강조했다.

아모데이 CEO는 "우리는 이로 인해 기업들이 얼마나 빨리 성장하고, 우리 삶의 중심이 될지 제대로 인지하지 못했다"고 했다.

오픈AI의 임원인 크리스 리헤인 또한 지난주 "정부의 지원 여부와 관계없이 현재 (업계 내) 자발적인 노력을 통해 최첨단 AI 표준을 발전시키고자" 다른 AI 연구소들과 협력하고 있다고 밝혔다. 이러한 연구소에는 앤트로픽과 구글 딥마인드가 포함돼 있다.

리헤인은 "이처럼 많은 것이 걸린 사안에서, 완벽함만을 고집하다가 당장 좋은 행동을 하지 못하는 우를 범해서는 안 된다"고 강조했다.

• 앤트로픽 공동 창업자 BBC 인터뷰 'AI 킬 스위치 의무화 필요할 수도'
• 전 앤트로픽 연구원, BBC에 'AI 전문가들, 인류의 미래 진심으로 두려워해'
• AI는 인간을 지배할까…커지는 전문가들의 우려
• 오픈AI, '90년간 수학 난제, 88시간 만에 풀어'