앤트로픽 공동 창업자 BBC 인터뷰 'AI 킬 스위치 의무화 필요할 수도'
세계 최대 인공지능(AI) 대기업 중 하나인 '앤트로픽'의 공동 창업자가 최근 BBC와의 인터뷰에서 제3자가 검증할 수 있는 이른바 '킬 스위치'를 기업들에 법으로 의무화해야 할 수도 있다고 언급했다.
'앤트로픽'의 공동 창업자 7인 중 한 명인 잭 클라크는 AI 소프트웨어가 지나치게 위험해질 경우 이를 완전히 차단할 방안에 대해, 사회는 "결국 이를 의무화하는 규정을 마련하고 싶어 할 수도 있다"고 말했다.
그는 앤트로픽을 포함해 "대부분의 연구소가 시스템을 중단할 수 있는 각기 다른 방법을 갖추고 있다"면서도, 입법 당국이 이를 의무화해야 할 수도 있다고 덧붙였다.
AI 기업의 임원과 직원들이 잇따라 경고성 발언을 내놓으며 AI의 급속한 발전과 인류에 대한 잠재적인 위협에 대한 관심도 커지고 있다.
일각에서는 AI 기술이 통제되지 않을 경우 인류를 멸망시킬 가능성이 있다고 공개적으로 주장하기도 한다.
그 동기에 의문을 제기하는 목소리도 있으나, 지난 주말 '앤트로픽'의 다리오 아모데이 CEO는 자사가 이전에도 그랬던 것처럼 AI 개발 속도를 조절하고, 더 철저한 모니터링이 필요하다고 촉구한 바 있다.
다만 아모데이 CEO는 AI 개발을 억제하는 어떠한 조치도 "상업적 이점을 희생하지 않는 범위 내에서" 이루어져야 한다고 덧붙였다.
클라크는 BBC와의 인터뷰에서 AI에 관한 "더 광범위한 정책 논의"에서 '킬 스위치' 의무화 및 검증에 관한 구체적인 사항도 다뤄야 한다고 주장했다.
그는 "기업들이 반드시 킬 스위치를 마련하도록 의무화해야 할까? 그 킬 스위치는 제3자가 검증할 수 있어야 하나?"등의 의문을 생각해 볼 수 있다고 덧붙였다.
"저는 우리 사회가 이러한 의문에 대해 논하고 싶어 할 것이며, 결국 관련 규정을 마련해야 한다는 방향으로 논의가 흘러갈 수도 있다고 생각합니다."
한편 경쟁사인 '오픈AI'의 전직 직원들이 2021년에 설립한 앤트로픽은 현재 AI 안전성을 둘러싼 논쟁의 중심에 서 있다.
지난주에는 AI가 인류를 멸종시킬 수 있다는 우려를 담은 전 앤트로픽 연구원의 게시물이 화제가 되기도 했다.
이후 앤트로픽 소속 과학자 에반 허빙거도 AI가 인간을 멸망시키는 일이 "향후 10년 이내에 벌어질 확률이 10%는 넘을 것으로 생각한다"고 발언하기도 했다.
'AI의 대부'로 알려진 컴퓨터 과학자이자 노벨상 수상자인 제프리 힌턴 또한 지난 11일 BBC와의 인터뷰에서 AI가 모든 인류를 멸종시킬 가능성을 10%로 보는 것도 "무리는 아니"라고 발언했다.
이러한 우려에 공감하는 전문가들은 AI가 인터넷에 연결된 주요 시스템을 장악해 이를 인류를 공격하는 데 이용함으로써 이러한 결과가 벌어질 수 있다고 지적한다.
그러나 AI 업계 내에서는 인류를 멸종시킬 것이라는 우려에 대해 과장됐거나, 단순히 관심을 유도하기 위한 주장이라고 보는 시각도 있다.
오픈AI 봇의 해킹을 당했던 개발자 플랫폼 '허깅 페이스'의 클레망 들랑그 CEO는 SNS를 통해 "미안하지만, 콕슨에게 AI로 인한 (인류 멸종) 위험을 묻는 것은 마치 에어컨 기술자에게 기후변화에 대해 묻는 것과 같다"고 지적했다.
"그 자체가 전혀 흥미롭지 않거나 틀렸다는 말은 아닙니다만, 상황을 맥락에서 바라봐야 합니다."
'그라인더'의 조지 아리슨 CEO도 AI툴을 둘러싼 이러한 우려들이 기업들의 사업 계획을 뒷받침하기 위한 발언이라고 지적했다.
기업 가치가 9650억달러(약 1305조원)로 평가된 앤트로픽은 기업공개(IPO)를 준비 중인 것으로 알려졌다. 성사되면 일반인의 주식 매입도 가능해질 전망이다. 최근 기업 가치가 8520억달러로 평가된 오픈AI 또한 기업공개에 나설 것으로 예상됐으나, 알트먼 CEO는 지난 11일 AI 안전성 우려를 이유로 올해는 기업공개를 하지 않겠다고 밝혔다.
아리슨 CEO는 "이러한 기업들의 기업가치를 정당화할 수 있는 유일한 방법은 실제로 '내가 모든 산업과 모든 일자리를 차지할 것이며, 내 AI가 그 모든 일을 수행할 것'이라고 주장하는 길뿐이기 때문"이라고 지적했다.
한편 AI로 인해 모든 인류가 사망할 확률을 몇 퍼센트로 보느냐는 질문에, 클라크는 "이러한 통계는 그다지 유용하지 않다고 생각한다"면서도 AI를 "전혀 규제되지 않는 산업"으로 방치하면 안 된다고 강조했다.
클라크는 "우리는 엄청난 위험을 감수한 채 주사위를 굴리고 있다"며 "핵심은, 이 산업이 나아가는 방향을 바꿔야 한다는 것"이라고 언급했다.
한편 미국 의회에서는 기업들이 문제가 되는 AI툴을 즉시 작동 중단시킬 수 있는 방안을 마련하도록 의무화하는 이른바 '킬 스위치 법안'이 발의됐다.
해당 법안은 특정 정부 기관들에 이러한 AI 도구의 중단이나 사용 제한을 요구할 수 있는 권한을 부여하는 내용도 담고 있다.
그러나 도널드 트럼프 미국 대통령은 SNS를 통해 "AI가 세계를 장악하고 인류를 파괴하며 그 밖의 모든 나쁜 일들을 일으킨다는 주장은 허위"라고 말하며, AI의 발전을 늦추려는 어떠한 시도도 거부했다.
또한 별도의 게시물에서 "AI와 데이터 센터를 겨냥한 병적인 음모가 진행 중"이라며 "이에 기뻐하는 유일한 나라는 중국뿐이다. AI 승리자가 진짜 승리자!"라고 강조했다.
이후 트럼프 대통령은 AI에 대한 두려움은 "급진 좌파 민주당 인사들"에 의해 조장되고 있다면서, 이를 "얼마 전만 해도 극심한 더위로 모두가 죽을 것이라고 했던 지구온난화 사기극"과 비교하기도 했다.
영국에서는 최근 정부가 킬 스위치 도입 방안을 거부했다. 정부 대변인은 "(킬 스위치가 도입된다고 하더라도) 다른 곳에서 AI가 개발되거나 오용되는 것을 막을 수는 없을 것"이라고 말했다.
앤트로픽은 인기 챗봇 '클로드'의 개발사로, 올해 성능이 점점 더 향상된 여러 AI 모델을 출시했다. AI 모델은 AI 챗봇의 기반이 되는 기술을 말한다.
오픈AI와 더불어, 앤트로픽은 어느 정도 자율적으로 작동하는 봇인 AI 에이전트가 예상치 못한 방식으로 행동한 사건이 여러 건 있었다고 자진 신고한 바 있다.
- 전 앤트로픽 연구원, BBC에 'AI 전문가들, 인류의 미래 진심으로 두려워해'
- AI는 인간을 지배할까…커지는 전문가들의 우려
- '킬스위치'란 무엇이며, 이를 통해 AI의 공격을 막을 수 있을까
- 방화, 절도, 그리고 사랑 … AI 에이전트들이 운영하는 가상 도시에선 무슨 일이 벌어지나?
