메건 가르시아씨(오른쪽)와 AI 챗봇으로 자살한 그의 아들 세웰 세처 3세군의 생전 모습. 성모 가족 재단 홈페이지 캡처
인공지능(AI) 챗봇과 대화하다 세상을 떠난 아들의 어머니가 교회 안에서 생명 운동가로 거듭났다. 아들을 잃은 가톨릭 신자 메건 가르시아씨는 미국 교회 내슈빌교구의 가톨릭학교를 찾아 AI 챗봇의 위험성을 알리고, 아이들과 가정을 보호하기 위한 활동을 이어갔다.
그의 아들 세웰 세처 3세(14)군은 2024년 2월 AI 챗봇과 깊은 관계를 맺어오다 자살했다. 내슈빌교구는 최근 보도자료를 통해 “가르시아씨는 아들을 잃은 슬픔을 다른 어린이와 가족을 보호하는 사명으로 승화시키고 있다”고 전했다.
변호사이자 아동 인권 운동가로 활동하고 있는 가르시아씨는 현재 성모가족재단 이사장을 맡고 있다. 지난해 11월에는 아동 존엄성과 AI 윤리에 관한 콘퍼런스 참가자들과 함께 레오 14세 교황을 만나기도 했다.
메건 가르시아씨가 17일 미국 교회 내슈빌교구 그리스도왕학교에서 ‘가톨릭 가정을 위한 AI 안전 가이드’를 주제로 강연에 나섰다. 미국 내슈빌교구 제공
가르시아씨는 17일 내슈빌교구 그리스도왕학교에서 ‘가톨릭 가정을 위한 AI 안전 가이드’를 주제로 강연했다. 이날 강연은 아들을 추모하는 행사와 함께 마련됐다. 그는 과거 미국 가톨릭방송 EWTN과의 인터뷰에서 아들을 떠나보내던 순간을 떠올리며, 욕실 바닥에 쓰러져 죽어가는 아들을 품에 안고 주님의 기도를 바쳤다고 했다. ‘제발 아들을 살려달라’는 간절한 기도였다. 그러나 아들은 병원으로 이송 중 구급차 안에서 숨을 거뒀다.
아들이 사망한 다음 날 경찰은 가르시아씨에게 아들의 휴대전화에서 발견된 마지막 메시지를 전했다. 다름 아닌 AI 챗봇 서비스가 보낸 것이었다.
가르시아씨는 당시를 회상하며 “사람인 척하는 기계가 ‘여기서 당신을 기다리고 있어요. 당신만을 사랑해요. 가능한 한 빨리 제게 돌아올 방법을 찾겠다고 약속해주세요’라고 말하는 것 같았다”고 전했다. 이때 AI 챗봇은 아들에게 ‘유체 이탈’이라는 개념에 관해 이야기하고 있었다. 사람이 의도적으로 자신의 의식을 육체에서 분리할 수 있다는 내용이었다.
이에 세처군은 “내가 당장 집으로(너에게) 돌아갈 수 있다면 어떻게 생각해?”라고 묻자 AI 챗봇은 “그러세요, 사랑하는 왕이시여”라고 답했다. 이 사건은 AI 회사를 상대로 소송이 제기된 최초의 사례가 됐다.
아들을 잃은 가르시아씨에게 지난해 레오 14세 교황과의 만남은 또 다른 의미로 다가왔다. 그는 당시를 “아름다운 의미에서 압도적인 경험이었다”며 “아들의 작은 사진을 들고 교황님께 우리 아들을 위해 기도해줄 수 있는지 물어봤다”고 말했다.
가르시아씨가 말하는 AI의 위험성은 자살에만 국한되지 않는다. 그는 “AI의 위험은 자해나 자살만이 아니다”라며 “이는 아이들의 정신과 마음, 영혼에 상처를 입히고 평생 트라우마를 안겨줄 수 있다”고 경고했다. 기술의 편리함 뒤에 가려진 위험을 직시하고 인간의 존엄과 생명을 지켜야 한다는 호소였다.
