[AI요약] 우리는 AI 재앙을 향해 질주하고 있는 걸일까, AI는 정말 실존적 위협일까, 아니면 시대적 기회일까. 다만 인간은 개미를 미워하지 않는다. 하지만 개미집 위에 고속도로를 건설하고 싶다면, 개미에게는 그저 안타까운 일이다.




영화 'The AI Doc: Or How I Became an Apocaloptimist' 포스터 (출처=선댄스영화제 홈페이지)


오픈AI의 샘 알트먼부터 구글 딥마인드 머신러닝 연구자들까지 총출동한 AI 다큐멘 모바일바다이야기 터리는 가히 충격적이다.
선대스영화제에서 상영된 AI 다큐멘터리 ‘AI 다큐: 또는 내가 어떻게 종말론적 낙관주의자가 되었는가’(The AI Doc: Or How I Became an Apocaloptimist)에 대해 가디언 등 외신이 28일(현지시간) 보도했다.
해당 다큐에서는 샘 알트먼 오픈AI CEO를 비롯한 골드몽릴게임 저명한 AI 전문가, 비평가, 기업가들이 출연해 가까운 미래에 대한 암울한 전망부터 유토피아적 희망까지 다양한 견해를 제시하고 있다.
찰리 타이렐과 다니엘 로허 감독이 제작한 다큐멘터리 는 로허 감독 자신의 불안감을 통해 논쟁적인 AI 주제를 파헤치는 다큐멘터리다.
시작은 이렇다. 2023년 다큐멘터리 ‘나발니’로 오 바다이야기프로그램다운로드 스카상을 수상한 캐나다 영화 제작자 로허 감독은 챗봇 챗GPT를 개발한 오픈AI에서 출시한 도구들을 실험하면서 AI에 관심을 갖게 됐다. 몇 초 만에 전체 단락을 생성하거나 그림을 만들어내는 등 공개된 AI 도구들의 정교함은 그를 놀라게 하는 동시에 불안하게 만들었다.
AI는 이미 영화 제작 산업을 근본적으로 변화시키고 있었고 AI의 가 릴게임꽁머니 능성과 위험에 대한 선언들이 곳곳에서 쏟아져 나왔지만, 기술 업계 외부 사람들은 이를 제대로 평가할 방법이 거의 없기 때문이다. 예술가로서 로허 감독은 이 모든 것을 어떻게 이해해야 할지 깊은 고민에 빠졌다.
로허 감독의 불안감은 아내이자 영화 제작자인 캐롤라인 린디와 함께 첫 아이를 기다리게 되면서 더욱 커지기 시작했다. 그는 영화에서 릴게임한국 “마치 온 세상이 생각 없이 무언가에 휩쓸려 가는 것 같았다”고 말한다. 부모가 된다는 기쁨과 불과 몇 년 만에 사유 재산에서 공공재로 변모한 AI라는 미지의 변수에 대한 두려움도 뒤섞였다.
선댄스에서 공개된 AI 다큐는 이러한 로허 감독의 가장 절박한 질문에서 시작된다. 과연 이 세상에 아이를 낳아도 안전할까.
로허 감독은 콴 감독과 함께 여러 전문가를 만나 기술의 작동 방식을 설명하고 모호하고 이해하기 어려운 용어들을 명확히 해명하며 해답을 찾기 시작한다.
예를 들어 ‘AI란 무엇인가?’라는 질문에 대해 누구도 명확한 답을 내놓지 못한다는 사실은 다소 위안이 되면서도 동시에 불안감을 자아낸다. 개별 인터뷰에서 요슈아 벤지오, 일리야 수츠케버, 딥마인드 공동 창립자 셰인 레그를 비롯한 저명한 머신러닝 연구자들은 인간이 이해할 수 없고 앞으로도 이해할 수 없을 AI 모델의 측면들이 존재한다는 데 모두 동의했다.
표준 AI 모델은 여러번의 인간의 인생이 읽을 수 있는 양보다 훨씬 많은 데이터로 훈련되며 머신러닝의 발전 속도는 기존의 어떤 기술이나 영화의 상상력을 훨씬 뛰어넘기 때문이다.

휴먼테크놀로지센터의 공동 창립자이자 2020년 넷플릭스 다큐멘터리 ‘소셜 딜레마’에서 중요한 목소리를 냈던 트리스탄 해리스는 로허 감독에게 “이 영화에 나오는 어떤 예시도 영화가 개봉될 때쯤이면 완전히 시대착오적으로 보일 것”이라고 말한다.




AI 비관론자들은 인간이 초지능 AI 모델에 대한 통제력을 쉽게 잃을 수 있으며 그에 대한 대책은 거의 없다고 경고한다. (이미지=로체스터대학교)


이 영화는 먼저 AI, 특히 인간의 능력을 뛰어넘는 아직 이론적인 형태의 AI인 인공일반지능(AGI)이 인류 멸종으로 이어질 수 있다고 우려하는 여러 비관론자의 이야기를 다룬다. 여기에는 해리스, 휴먼테크놀로지센터 공동 창립자 아자 라스킨, AI 위험 자문가 아제야 코트라, AI 정렬 분야의 선구자 엘리 유드코프스키 등이 포함된다.
이들은 인간이 초지능 AI 모델에 대한 통제력을 쉽게 잃을 수 있으며 그에 대한 대책은 거의 없다고 경고하고 있다.
댄 헨드릭스 AI안전센터 소장은 “AI 기업들이 AGI 도달의 결과에 대해 준비가 돼 있지 않으며, AGI가 어쩌면 이번 10년 안에 초인적인 능력을 갖게 될 수도 있다”고 우려했다. 인간이 더 이상 지구상에서 가장 지능적인 존재가 아니게 된다면, AGI는 인류를 무의미한 존재로 여길 가능성이 있다는 섬뜩한 경고다.
코너 리히 엘루더AI 공동창립자는 초지능 AGI와 인간의 미래 관계를 인간과 개미의 관계에 비유했다. 그는 “인간은 개미를 미워하지 않지만 우리가 개미집 위에 고속도로를 건설하고 싶다면, 개미에게는 안타까운 일이다”라고 말했다.
다큐에 등장한 비관론자들 중 상당수는 자녀가 없었는데, 로허 감독의 자녀 양육에 대한 질문에 부정적인 반응을 보였다. 해리스의 “AI 위험 연구를 하는 사람 중에는 자녀가 고등학교에 진학할 때까지 살아남을 거라고 생각하지 않는 사람들도 있다”는 발언은 파크시티에서 열린 시사회 관객들에게 충격을 안겼다.
물론 반대편에는 인간 수명 연장을 목표로 하는 X프라이즈재단의 설립자 피터 디아만디스처럼 낙관적인 인물들이 있다. 그는 “오늘 태어난 아이들은 영광스러운 변혁의 시대를 맞이하게 될 것”이라고 주장한다.
실리콘밸리의 ‘효율적 가속주의’ 운동을 이끄는 기욤 베르동, 피터 리 마이크로소프트 리서치 소장, 그리고 오픈AI의 경쟁사인 앤트로픽의 공동 창립자이자 CEO인 다니엘라 아모데이도 여기에 속한다.
이들 가속주의자는 AI를 인류를 괴롭히는 수많은 난제, 즉 암, 증가하는 인구에 대한 식량 및 물 부족, 불충분한 재생 에너지, 그리고 가장 시급한 문제인 기후 비상사태에 대한 잠재적인 해결책으로 보고 있다.
이들은 AI가 없다면 가뭄, 기근, 질병 및 자연재해로 인해 수많은 미래 생명이 희생될 것이라고 보고 있다. 문제는 AI 개발이 막대한 양의 에너지를 필요로 하는 컴퓨팅 파워에 의존한다는 점이다.
마지막으로 인터뷰에 참여한 기술 업계 외부의 비평가와 관찰자들은 AI를 미국 서부에서 물을 빨아들이는 데이터 센터처럼 구체적이고 물리적인 세계와 연결시키며, 이로 인해 주민들은 엄청난 전기 요금과 고갈된 저수지에 직면하게 된다고 관측한다.

에밀리 벤더 계산 언어학 교수는 “AI에 대한 현재의 담론은 이미 AI의 영향을 받고 있으며 앞으로도 계속 영향을 받을 사람들을 배제하고 비인간화한다”고 지적했다.




샘 알트먼은 ‘아이가 AI가 있는 세상에서 자라는 것을 두려워하지 않는다’고 강조한다. (사진=위키피디아)


로허 감독은 결국 현재 AI 경쟁을 주도하는 가장 강력한 다섯 명의 인물을 소개한다. 바로 오픈AI CEO 샘 알트만, xAI CEO 일론 머스크, 앤트로픽 CEO 다리오 아모데이, 구글 딥마인드 CEO 데미스 하사비스, 그리고 메타 CEO 마크 저커버그이다.
다큐에 따르면 알트먼, 아모데이, 하사비스는 인터뷰에 응하여 각자의 회사 입장을 변호했지만, 저커버그는 참여를 거부했고 머스크는 인터뷰에 동의했지만 너무 바빠서 참여하지 못했다.
인터뷰 당시 첫 아이를 기다리고 있던 알트먼은 “아이가 AI가 있는 세상에서 자라는 것을 두려워하지 않는다”고 강조한다. 알트먼과 그의 파트너 올리버 멀헤린은 2025년 2월 대리모를 통해 아들을 얻었다.
당시 알트먼은 “이 사건은 자신의 뇌를 ‘신경화학적으로 해킹’했다”며 “주변사람들에게 인류 전체를 위해 AI와 챗GPT에 대해 더 나은 결정을 내릴 것이라고 생각하게 됐다”고 밝혔다. 그러면서도 알트먼은 “자신과 로허의 아이가 아마도 인공지능보다 똑똑해질 수는 없을 것”이라며 “그것이 조금 불안하긴 하지만 현실”이라고 덧붙였다.
로허 감독의 AI와 관련된 모든 것이 괜찮을 것이라고 안심시켜 줄 수 있는지에 대한 질문에 알트먼은 “그것은 불가능하다”고 단언하며 “오픈AI가 인공지능 경쟁에서 앞서나가고 있기때문에 안전성 테스트에 더 많은 시간을 투자할 수 있다”고 강조했다.
이 다큐멘터리는 결국 비관론과 낙관론 사이, 즉 ‘종말론적 낙관주의’라는 입장을 취하며 ‘약속과 위험 사이의 길’을 모색하고 있다. 영화에 등장하는 여러 인물은 그 길에는 20세기 중반 핵무기 개발을 규제하기 위해 도입된 틀과 협약처럼 상당하고 지속적이며 패러다임을 바꾸는 국제적 협력이 필요하다고 주장하고 있다.
또한 △AI기업의 투명성 강화 △AI 개발자를 감독할 독립적인 규제 기관 설립 △챗GPT와 같은 기업 제품에 대한 법적 책임 △미디어에서 생성형 인공지능 사용에 대한 의무적인 공개 △빠르게 변화하는 기술에 맞춰 규칙을 지속적으로 조정하려는 의지 등이 필요하다고 강조한다.
전 세계가 이러한 조치를 취할 수 있을지는 여전히 미지수이지만, 많은 사람이 공통적으로 동의하는 한 가지는 아모데이 앤트로픽 CEO가 “이 기차는 멈추지 않을 것”이라고 말한 것처럼 인류는 더이상 AI 이전 시대로 돌아갈 수 없다는 것이다.
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지