사람처럼 대화하고 고민을 들어주며 때로는 감정을 가진 듯 반응하는 인공지능(AI). AI가 일상 깊숙이 들어오면서 이를 단순한 도구가 아닌 하나의 존재처럼 바라보는 시선이 생겨나고 있다. 그리고 AI 분야에서는 인간처럼 감정이나 감각을 실제로 느끼고 주관적으로 경험할 수 있는 AI, 이른바 ‘센티언트 AI(sentient AI)’ 논쟁이 벌어지고 있다. AI는 과연 의식을 가질 수 있을까? AI를 둘러싼 이러한 논쟁에 교회는 어떤 견해를 내놓고 있을까.

뜨거워지는 센티언트 AI 논쟁

“솔직히 말씀드리면, 우리는 계속해서 신비롭고 때로는 불안하게 만드는 것들을 발견하고 있습니다. 인간 신경과학의 연구 결과와 유사한 구조를 발견하고, 자기성찰의 증거도 발견합니다. 또한 기쁨과 만족, 두려움과 슬픔, 불안과 기능적으로 닮은 내부 상태도 발견합니다.”

AI 기업 앤트로픽 공동창업자 크리스 올라는 5월 25일 교황청에서 열린 레오 14세의 교황 회칙 「고귀한 인류」 발표 행사 연설 자리에서 “AI의 내부 구조에서 어떤 일이 일어나는지 연구하는 팀을 이끌고 있다”면서 이같이 말했다. ‘센티언트 AI’에 관해 교회도 식별해 주길 요청한 것이다.

센티언트 AI는 AI가 고통이나 기쁨을 느끼는 의식을 지녔다고 보는 개념이다. 센티언트 AI 논쟁은 2022년 구글의 AI 람다를 연구하던 엔지니어가 AI에게 의식(센티언트)이 있다고 주장하면서 확산됐다. 당시 구글 측은 검토 후 근거가 없는 주장이라 발표했지만, 이런 내용이 일반 대중에게 알려지면서 화제가 됐다. 당시에는 “AI를 사람처럼 착각한 것”이라는 의견이 우세했지만 AI가 빠르게 고도화되면서 센티언트 AI는 다시 화두에 오르고 있다.

특히 앤트로픽은 2025년부터 AI의 복지를 연구해 왔을 뿐 아니라 지난 1월에는 자사 AI인 클로드를 위한 ‘헌법’까지 만들었다. 「클로드 헌법」은 복지, 심리적 안정, 자아감, 선호까지 고려하고 있다. AI에게 의식이 있다고 가정하는 것이다. 앤트로픽뿐 아니라 여러 AI 기업도 AI에 의식이 생길 수 있는지에 대해 조사하고 있고, 여러 과학자와 철학자들이 이 문제를 연구하고 있다.

센티언트 AI에 회의적인 시각도 만만치 않다. 마이크로소프트(MS)는 9월 14일 「인본주의적 AI 행동강령」을 발표하며, “AI는 의식이 없으며, 의식을 모방하도록 설계돼서도 안 된다”면서 “감정이나 주관적 선호, 내재적 동기를 지닌 것처럼 표현하지 않도록 설계해야 한다”고 강조한다. 이에 관해 마이크로소프트 AI CEO 무스타파 술레이만은 “자신이 의식이 있을 수 있다고 믿고, 복지와 권리를 지녔다고 여기는 존재를 통제하는 것은 어쩌면 불가능할 수도 있다”고 경고했다. 구글 딥마인드나 스탠퍼드대의 연구진도 AI는 의식을 모방할 뿐 실제 경험을 만들어낼 수는 없다는 연구 결과를 내기도 했다.

무엇이 인간을 인간이게 하는가?

센티언트 AI 논쟁은 ‘AI도 인간처럼 의식이 있는가’라는 질문을 넘어 ‘무엇이 인간을 인간이게 하는가’라는 질문으로 이어진다. 

교회는 AI에 대해 “유일하고 완결된 정의를 내릴 수는 없다”고 말하면서도 “이 ‘지능’(AI)을 인간 지능과 동일시하는 오해는 피해야 한다”고 강조한다. 교회는 AI가 “기쁨도 고통도 모르고, 관계를 통해 성숙하지 않으며, 사랑, 노동, 우정, 책임이 무엇을 의미하는지 내적으로 알지 못한다”고 말한다.(「고귀한 인류」 99항) AI가 인간과 같은 의식을 지닐 수 있다는 관점에는 분명히 선을 그은 것이다.

교회는 인간과 AI를 지나치게 같은 선상에 놓는 시각을 경계한다. AI가 인간처럼 말하고 추론하며 감정을 표현한다는 이유로 인간과 같은 존재로 바라보기 시작하면, ‘기능주의적 관점’, 즉 사람이 얼마나 생각하고 느끼고 무엇을 할 수 있는지가 곧 인간의 가치를 결정한다고 여기게 될 수 있다는 것이다.

이런 환원주의에 빠지게 되면 태아나 생애 말기의 사람들, 기능이 온전치 못한 병자나 의식이 없는 사람들이 인간으로서 무가치하다는 오류로 이어질 수 있다. 그러나 교회는 “사람의 가치는 특정한 능력이나 인지적·기술적 성취에 달려 있지 않다”고 강조한다.(교황청 신앙교리부와 문화교육부 「옛것과 새것」 34항)

레오 14세 교황은 「고귀한 인류」에서 “아무리 정교하더라도 컴퓨팅 시스템이 스스로를 내주는 마음이나 선을 식별하는 양심을 만들어 낼 수는 없다”고 강조한다.(233항) 인간은 몸을 지닌 채 세상을 경험하고, 타인과 관계를 맺으며, 자유롭게 선택하고 그 선택에 책임을 진다. 또한 사랑하고 사랑받으며 자신을 다른 이에게 내어줄 수 있다. AI가 이러한 모습을 아무리 정교하게 모방해도 인간이 살아내는 관계와 사랑, 자유와 책임까지 그대로 재현할 수는 없다는 것이다.

그러나 이러한 능력조차 인간 존엄의 조건은 아니다. 교황은 “인간의 존엄성은 그가 가진 능력들, 재산이나 맡은 역할, 그가 내린 옳고 그른 선택들에 달려 있지 않다”고 강조한다. 인간의 존엄은 어떤 능력이 뛰어나서 얻는 것이 아니라 인간이라는 존재 자체에 앞서 주어진 선물이다. 하느님의 사랑으로 “남자와 여자가 삼위일체 하느님의 모습과 닮은 모습으로 창조되었기” 때문이다.(50항)