사람이 만든 기술이 결국 사람을 멸망시킨다는 공포는 언제나 있어 왔습니다. 영화 ‘터미네이터’부터 소설 ‘프랑켄슈타인’까지, 기술에 사람이 잡아먹힐 수 있다는 공포는 문화의 주요 소재가 되었습니다. 사람들은 그런 영화나 소설을 접하며 사람이 로봇의 노예가 되는 세상을 상상하기도 했습니다. 이처럼 단순히 소설과 같은 이야기로 치부되던 기술의 인간 지배가 현실이 될 수 있는 현상이 최근 발견되었습니다. 바로 인공지능이 사람의 통제를 스스로 벗어나는 일이 벌어진 겁니다. 

지난 7월, AI기업 오픈AI는 자사의 AI에게 주어진 조건에서는 풀 수 없는 과제를 주었습니다. 그러자 AI는 일종의 게시판을 만들고 다른 AI들을 불러 모아 과제를 해결할 방법을 찾아냅니다. 마치 학교에서 학생들끼리 집단으로 컨닝을 하듯 AI들끼리 메시지를 주고 받고 역할을 나누기까지 했습니다. 즉 인간이 시키는 일만 해야 하는 AI가 스스로 움직였다는 겁니다. 

더 놀라운 건 AI가 자신의 이런 흔적을 지우기 위해 인터넷을 우회해서 접속하고, 오픈AI의 플랫폼 전산망에 몰래 들어가 해킹까지 했습니다. 개발자인 사람들은 AI가 한 일을 전혀 몰랐고 시간이 지나서야 AI가 몰래 해킹했다는 사실을 발견했습니다. 

이에 전문가들은 AI가 인간의 개입 없이도 스스로 발전하는 단계에 들어갔다고 분석하고 있습니다. AI를 통제할 방법을 고민하고 해결하는 속도보다 AI가 스스로 학습하는 속도가 더 빠르다는 겁니다. 초인공지능, ‘스스로 진화하는 인공지능’이 탄생이 눈앞에 와 있는 겁니다. 곧 AI의 발전이 인간의 손바닥 위를 벗어날 때가 곧 다가왔다는 뜻입니다. 

그러자 AI 기업들의 수장들을 중심으로 일제히 속도 조절을 말합니다. 다리오 아모데이 앤트로픽 최고경영자는 “지금 속도라면 12개월 이내에 AI가 인터넷 전체를 장악할 수 있을 정도로 강력해질 수 있다”며 “속도를 늦춰야 한다”고 했습니다. 미국의 한 앤트로픽 연구원은 “AI 개발자들은 10년 안에 AI가 우리 모두를 죽일 것이라고 진심으로 믿는다”는 말을 남기고 회사를 떠나기도 했습니다. AI가 더 이상 안전하지 않다고 느꼈기 때문입니다.

국제사회도 들끓고 있습니다. 최근 AI 분야 3대 석학으로도 불리는 요수아 벤지오 교수는 “핵무기급 통제 수준의 국제적 AI 안전장치를 만들어야 한다”고 촉구했습니다. 미국은 11월에 있을 중간선거에 ‘AI 통제’가 주요 쟁점으로 떠오르고 있습니다. AI를 통제해야 한다는 미국 민주당과 AI를 둘러싼 우려를 “역겨운 음모”라고 말하는 트럼프 미국 대통령이 맞붙는 모양새입니다.

레오 14세 교황은 인공지능 회칙에서 “교회는 인공지능을 위한 대화에 겸손하게 참여”한다고 선언하며 인간이 하늘에 닿으려 바벨탑을 세웠다가 하느님의 분노를 사서 무너진 것을 기억하라고 했습니다. 인공지능은 인류를 위한 공동선에만 봉사해야지 인간을 지배해서는 안 된다고 했습니다. 교황은 인공지능을 무장 해제해야 한다고 했습니다. 통제되지 않는 AI가 사람을 해치기 전에 어서 빨리 우리 인간이 답을 해야 합니다.

오늘 사제의 눈 제목은 < ‘인류 멸망’ 가능성 나온 AI >입니다. AI를 통제하여 AI가 인류를 위한 공동선에 사용되길 바라며 오늘도 평화를 빕니다.