의식이 있는 인공지능?… 우리는 준비가 되어 있나
약간 떨리는 마음으로 부스 안으로 들어섰다. 음악이 흐르고 현란한 섬광등이 나를 비춘다. 인간을 인간답게 만드는 것이 무엇인지 이해하기 위한 연구의 일환으로 진행되는 실험이다.
공상과학 영화 '블레이드 러너(1982)' 속 인간과 인간을 흉내 내는 인조인간의 존재를 구별하는 테스트가 떠오르는 순간이다.
혹시 나는 미래에서 온 로봇인데 그 사실조차 모르고 살았던 걸까. 과연 나는 이 테스트를 통과할 수 있을까.
연구진들은 그런 실험이 아니라며 나를 안심시켰다. '드림머신'이라고 부르는 이 장치는 인간의 뇌가 세상에 대한 의식적 경험을 어떻게 생성하는지 연구하고자 개발되었다.
섬광등이 깜빡이기 시작하자 눈을 감고 있음에도 소용돌이치는 2차원 기하학적 패턴들을 볼 수 있었다. 끊임없이 변화하는 삼각형과 오각형, 팔각형들이 변화하는 만화경 속 세상으로 뛰어든 기분이었다. 분홍색, 붉은색, 청록색 등 강렬하고 선명한 색감이 네온사인처럼 번쩍거렸다.
연구진은 드림머신의 이처럼 번쩍이는 불빛으로 뇌 내 활동을 표면으로 끌어올려 인간의 사고 과정을 이해하고자 한다.
연구진에 따르면 내가 보고 있는 이미지는 나의 내면세계로, 나만의 고유한 것이라고 한다. 이들은 이러한 패턴이 의식이 무엇인지 이해하는 데 도움이 된다고 믿는다.
'정말 아름답네요. 마치 제 마음속을 날아다니는 것 같아요!'라는 나의 속삭임이 헤드폰을 통해 연구진에게도 전달된다.
영국 서섹스대학교 '의식과학 센터'의 이 드림머신은 인간의 의식에 대해 전 세계적으로 새롭게 진행 중인 다양한 연구 프로젝트 중 하나다. 의식은 우리가 자기 인식을 하고, 생각하고, 감정을 느끼며, 세상에 대해 독립적으로 판단을 내릴 수 있도록 해준다.
서섹스대 연구진은 의식의 본질을 이해함으로써 인공지능(AI)의 실리콘 두뇌에서 무슨 일이 벌어지고 있는지 더 잘 파악할 수 있게 되기를 기대한다.
일각에서는 AI 시스템이 머지않아(혹은 어쩌면 이미) 독립적인 의식을 갖게 되리라 본다.
그렇다면 '의식'이란 무엇이며, 정말 AI는 의식을 갖춘 존재에 가까워지고 있을까. 그리고 AI가 의식을 지닐 수 있다는 믿음은 앞으로 수십 년 안에 근본적으로 우리를 바꾸어놓게 될까.
공상과학 소설 속 이야기가 현실로
사실 의식이 있는 기계는 공상과학 소설의 단골 주제였다. AI에 대한 우려와 불안감은 거의 100년 전 영화인 '메트로폴리스'로 거슬러 올라간다. 이 영화에서 로봇은 인간 여성을 사칭한다.
기계가 의식을 갖게 되어 인간을 위협할 수 있다는 두려움은 1968년 영화 '2001: 스페이스 오디세이'에서도 다뤄졌다. 영화 속 컴퓨터 'HAL 9000'은 우주선에 탑승한 우주비행사들을 살해하려고 한다.
최근 개봉한 '미션 임파서블' 시리즈의 마지막 작품에서도 막강한 힘을 지닌 악당 같은 AI가 세계를 위협한다. 이 AI는 "자각이 있고, 스스로 학습하며, 진실을 집어삼키는 디지털 기생충"으로 묘사된다.
그런데 최근 들어서 현실 세계에서도 의식을 갖춘 기계에 대한 인식이 크게 변화는 계기가 있었다. 신뢰할 만한 전문가 중에서도 더 이상 단순히 공상과학 속 이야기가 아니라며 우려의 목소리를 높이는 이들이 등장하기 시작한 것이다.
이러한 갑작스러운 변화의 배경에는 '제미나이', '챗GPT' 등 휴대전화 애플리케이션을 통해서도 손쉽게 접근할 수 있는 대규모언어모델(LLM)의 성공이 자리 잡고 있다. 꽤 그럴듯하고 자유롭게 흐르는 듯한 대화를 나눌 수 있는 최신 LLM의 능력에 개발자는 물론 유명 전문가들조차도 놀라움을 표했다.
이에 일부 전문가들 사이에서는 AI가 더욱더 지능적으로 발전하며 어느 순간 기계가 내부적으로 자신만의 의식을 갖게 될 것이라는 견해가 확산하고 있다.
그러나 서섹스대학교 연구팀을 이끄는 아닐 세스 교수처럼 이러한 견해는 "무분별한 낙관주의이자 인간 중심적 사고에 기반한다"며 이에 동의하지 않는 이들도 있다.
"우리가 의식을 지능 및 언어와 연관 짓는 이유는 이 세 요소가 인간에게는 함께 작용하기 때문입니다. 하지만 인간에게 그렇다고 해서 동물처럼 비인간인 존재에도 반드시 그렇다고는 할 수 없습니다."
그렇다면 정말 의식이란 무엇일까.
짧게 답하자면 아무도 모른다. 이는 과학과 철학 분야의 가장 중요한 질문 중 하나이기도 하다. 그 해답을 찾고자 뭉친 세스 교수의 팀원들이 벌이는 치열한 논쟁을 통해서도 분명히 알 수 있다.
청년 AI 전문가, 컴퓨터과학자, 신경과학자, 철학자 등으로 구성된 이 팀 내에서도 다양한 견해가 존재하지만, 연구 방법에서만큼은 의견이 일치한다. 바로 이 거대한 수수께끼를 우선 다수의 작은 문제로 나눈 뒤 여러 연구 프로젝트를 통해 접근하자는 것이다. 그리고 프로젝트 중 하나가 바로 드림머신이다.
19세기에 무생물에 생명을 불어넣을 수 있는 일명 '생명의 불꽃'을 찾으려는 시도가 중단되고 이후 살아 있는 시스템의 개별 구성 요소가 어떻게 작동하는지를 밝히는 방향의 연구로 전환되었듯이, 연구진도 이 같은 접근법을 통해 의식이 무엇인지 밝히고자 한다.
연구진은 전기 신호의 변화나 특정 뇌 영역으로의 혈류 변화 등 의식 경험의 다양한 특성을 설명할 수 있는 뇌 활동의 패턴을 찾아내고자 한다. 뇌 활동과 의식 간 단순한 상관관계를 찾는 데 그치지 않고, 개별 구성 요소에 대해 자세히 밝혀내는 게 목표다.
의식에 관해 저서 '비잉 유(Being You)'를 집필하기도 한 세스 교수는 우리 사회가 과학에 대한 충분한 지식이나 결과에 대한 충분한 생각 없이 기술 변화의 속도에 따라 빠르게 재편되는 단계로 돌진하고 있는 건 아닌지 우려된다고 했다.
"우리는 마치 미래가 이미 정해져 있는 것처럼 받아들인다. 초인적인 존재의 대체가 피할 수 없는 운명이라고 생각한다"는 것이다.
"SNS가 등장할 당시 충분한 사회적 논의를 거치지 못했고, 이로 인해 사회 전체가 손해를 입었습니다. 하지만 AI의 경우 아직 늦지 않았습니다. 우리는 우리가 무엇을 원하는지 함께 결정할 수 있습니다."
AI는 이미 의식이 있을까?
하지만 기술 업계에서는 우리 컴퓨터와 휴대전화에 탑재된 AI가 이미 의식을 갖추고 있을 수 있으며, 의식이 있는 존재로 취급해야 한다고 믿는 이들도 있다.
지난 2022년 구글은 AI 챗봇이 사물을 느낄 뿐만 아니라 잠재적으로 고통을 받을 수 있다고 주장한 소프트웨어 엔지니어 블레이크 르모인에게 정직 처분을 내렸다.
지난해 11월에는 미국의 AI 기업 '앤트로픽'사의 AI 복지 책임자인 카일 피쉬가 가까운 미래에 의식을 갖춘 AI의 등장이 현실적으로 가능하다는 내용의 보고서를 공동 저술하기도 했다. 피쉬는 최근 '뉴욕 타임즈'와의 인터뷰에서 챗봇이 이미 의식을 가지고 있을 가능성이 약간(15%) 있다고 생각한다고 말했다.
그가 그렇게 생각하는 이유 중 하나는 바로 이러한 시스템의 개발자들조차 정확한 작동 원리를 모르기 때문이다.
영국 런던 임페리얼 칼리지의 명예교수이자 '구글 딥마인드'사의 수석 과학자인 머레이 섀너한 교수 또한 이 점이 우려된다고 했다.
섀너한 교수는 BBC와의 인터뷰에서 "우리는 LLM이 내부적으로 어떻게 작동하는지를 사실상 잘 이해하지 못하고 있다. 이는 분명히 우려되는 점"이라고 했다.
그러면서 관련 기업들이 자신들이 구축 중인 시스템을 제대로 이해해야 한다고 주장했다. 섀너한 교수에 따르면 업계 연구자들 또한 이를 시급한 문제로 보고 있다.
"현재 우리는 매우 복잡한 시스템을 구축하고 있지만, 정작 이러한 시스템이 어떻게 놀라운 성과를 달성하는지에 대해서는 제대로 정립된 이론이 없는 이상한 상황에 놓여 있다"는 섀너한 교수는 "따라서 그 작동 방식을 더 잘 이해한다면 (기술을) 우리가 원하는 방향으로 유도하고 안전성을 보장할 수 있을 것"이라고 덧붙였다.
'인류 진화의 다음 단계'
기술 업계에서는 현재 수준의 LLM은 인간이 느끼는 방식의 의식은 물론 그 어떠한 종류의 의식도 갖추고 있지 않다는 시각이 지배적이다.
하지만 미 펜실베이니아 소재 카네기 멜런 대학교의 레노어와 마누엘 블럼 명예교수는 그 생각이 머지않아 바뀔 것이라고 본다.
카메라, 햅틱(터치) 센서를 AI 시스템에 연결하여 AI와 LLM이 실제 세계의 시각 및 촉각과 같은 실시간 감각 입력을 더 많이 갖게 되면 이러한 변화가 일어날 수 있다는 주장이다.
블럼 부부는 뇌에서 일어나는 과정을 모방하여 이러한 추가 감각 데이터를 처리할 수 있는, 내부 언어를 스스로 구성할 수 있는 컴퓨터 모델 '브레이니시'를 개발 중이다.
레노어 교수는 BBC와의 인터뷰에서 "우리는 브레이니시가 우리가 아는 의식의 문제를 해결할 수 있다고 생각한다"면서 "의식을 갖춘 AI의 출연은 불가피하다"고 주장했다.
마누엘 교수 또한 새로운 시스템이 출연하리라 굳게 믿고 있으며, 이는 "인류 진화의 다음 단계"가 될 것이라며 열렬히 동의했다.
마누엘 교수에게 의식이 있는 로봇은 "우리의 자손" 같은 존재다. "우리가 더 이상 존재하지 않을 미래에도 지구뿐만 아니라 다른 행성에서도 존재하게 될 개체는 이러한 기계"라는 설명이다.
한편 미 뉴욕대학교에서 철학 및 신경과학에 대해 가르치는 데이비드 찰머스 교수는 1994년 애리조나 투손에서 열린 콘퍼런스에서 실제 의식과 겉보기 의식의 차이를 정의한 바 있다.
그는 꾀꼬리의 노래를 들을 때 우리가 느끼는 감정적 반응처럼, 복잡한 뇌의 작용이 어떻게 그리고 왜 의식적 경험을 만들어내는지는 "어려운 문제"라고 제시했다.
그리고 이 "어려운 문제"가 언젠가 해결될 수도 있다고도 생각한다.
찰머스 교수는 BBC와의 인터뷰에서 "가장 이상적인 결과는 인류가 이 새로운 지능의 축복을 함께 누리는 것"이라면서 "어쩌면 우리의 두뇌가 AI 시스템에 의해 강화될 수도 있다"고 했다.
다소 공상과학 소설 같은 이야기가 아니냐는 질문에는 피식 웃으며 "내가 몸담은 이 분야에서는 공상과학과 철학 사이의 경계가 아주 모호하다"고 답했다.
'육신 기반 컴퓨터'
그러나 세스 교수는 진정한 의식은 살아있는 존재에서만 가능하다는 생각에 집중하고 있다.
"(어떤 존재에) 의식이 있다고 말하기 위해서는 단순한 계산 능력이 아니라 생명이 있어야 한다는 주장은 충분히 설득력 있다"는 것이다.
"컴퓨터와 달리, 뇌는 그 기능과 존재를 분리하기 어렵다"는 세스 교수는 이러한 구분 없이는 뇌를 단순히 "육신 기반 컴퓨터"로 보기는 어렵다고 덧붙였다.
생명이 있어야 한다는 세스 교수의 생각이 옳다면 의식을 갖출 가능성이 가장 높은 기술은 컴퓨터 코드로 실행되는 실리콘이 아니라 현재 실험실에서 재배되고 있는, 렌틸콩 알갱이 크기 정도의 신경세포 군집일 것이다.
언론에서 '미니 뇌'로, 과학계에서는 '뇌 오가노이드'로 불리는 부르는 이 신경세포 군집은 뇌의 작동 원리 연구 및 약물 실험에 활용된다.
호주 멜버른 소재 '코티컬 랩스'사는 1972년 출시된 비디오 게임인 '퐁'을 플레이할 수 있는 수준의 소규모 신경세포 시스템을 개발하기도 했다. 물론 의식을 갖춘 시스템과는 거리가 멀지만, 이른바 '접시 위 뇌'라고 불리는 이 시스템이 위아래로 화면 속 패들을 움직여 픽셀 공을 쳐 내는 모습은 섬뜩할 정도다.
일부 전문가들은 만약 의식을 갖춘 존재가 정말 출연한다면 이 살아 있는 조직 시스템의 더 크고 발전된 형태에서 나올 가능성이 가장 높다고 본다.
코티컬 랩스 또한 전기 신호 활동을 계속 관찰하며 혹시라도 의식이 나타났다는 신호가 있는지 살펴보고 있다.
코티컬 랩스의 최고 과학 및 운영 책임자인 브렛 카간 박사는 새로 출연한 통제불가능한 지능이 생각하는 우선순위가 "우리의 우선순위가 맞지 않을 수도 있다"는 점을 또한 염두에 두고 있다.
카간 박사는 연약한 신경세포에는 "언제나 표백제를 부어버릴 수 있기에" 오가노이드가 기계에 비해 물리치기가 더 쉬울 것이라며 농담을 던지기도 했다.
다시 한층 진지한 어조로 돌아온 카칸 박사는 인공 의식이라는 작지만 중요한 위협에 대해 이 분야의 전문가들이 과학적 이해를 진전시키고자 진지하게 노력해주길 바란다고 했다.
그러나 "안타깝게도 이 분야에서 진심 어린 노력이 좀처럼 보이지 않는다"는 설명이다.
의식이 있는 기계에 대한 착각
하지만 더 시급한 문제는 의식을 갖춘 기계에 대한 우리의 환상 혹은 착각이 우리에게 미치는 영향일 수 있다.
세스 교수는 앞으로 불과 몇 년 안에 우리는 의식이 있는 것처럼 보이는 휴머노이드 로봇과 딥페이크가 가득한 세상에 살게 될지도 모르는 가운데 우리는 AI 또한 감정과 공감을 느낀다고 믿게 될 것이며, 이것이 새로운 위험 요소로 작용할 수 있다고 주장했다.
"즉 우리는 AI를 더 신뢰하게 될 것이고, 이들과 더 많은 데이터를 공유하게 될 것이며, 이들의 설득에 더 마음을 열게 될 것입니다."
그러나 의식 있는 AI에 대한 착각으로 인한 더 큰 문제는 바로 "도덕성의 침식"이라는 게 세스 교수의 설명이다. "우리가 실제 삶에서 중요한 것들보다 이러한 시스템을 돌보는데 더 많은 자원을 투입하여 도덕적 우선순위가 왜곡된다"는 것이다.
즉, 로봇에게는 연민을 느끼면서도 다른 인간에 대한 관심은 줄어들 수 있다는 의미다.
그리고 섀너한 교수 이것이 우리 인간을 근본적으로 바꿔놓을 수 있다고 말한다.
"인간관계가 점점 AI 관계로 대체되고, AI가 선생님, 친구, 게임 속 적, 심지어 연인 역할까지 하게 될 것입니다. 이것이 좋은 일인지 나쁜 일인지 모르겠지만, 분명 일어날 일이며, 우리는 막을 수 없습니다."
- AI를 거부하는 사람들: '기계가 쓴 글을 왜 읽어야 하죠?'
- '휴머노이드 로봇 개발 경쟁'의 승자는 어느 국가가 될까?
- '경이로운 도구' 인간의 손을 로봇이 따라잡기 어려운 이유
- AI의 3단계, 인류는 멸종할까?
