AI는 많은 사람들이 우려하듯이 정말로 인간보다 우월한 존재가 될 수 있을까요? Strong AI의 출현은 과연 가능할 것인가요?

이제 AI 자체가 지닌 명백한 한계를 제 나름의 관점으로 몇 가지 살펴보고자 합니다. 이를 통해 ‘AI는 결코 인간이 지닌 능력과 동일하거나 유사하지 않으며, 결코 인간처럼 될 수 없는 근본적인 한계를 지닌 존재라는 점’을 저는 분명히 밝히고자 합니다.


이미 자세히 살펴본 바와 같이, AI가 인간보다 기억력과 이해력에 있어서 우월성을 가지는 것이 사실입니다. 하지만 AI는 결정적으로 다음과 같은 심각한 한계를 가지고 있습니다. 바로 의지력(Will)이 없다는 것입니다. 토마스 아퀴나스에 따르면 의지는 ‘이성적 욕구’(Rational Desire)를 의미합니다.

적어도 기존의 AI는 인간이 만든 도구에 불과합니다. 따라서 AI는 단지 인간이 명령을 내린 대로 기억하고 학습하고 문제를 해결하는 능력만을 갖고 있을 따름이며, AI 스스로가 어떤 일을 하고 싶어 하는 욕구나 의지를 갖고 있지는 않습니다.

혹자는 ‘AI 개발자가 욕구, 의지에 관한 알고리즘을 잘 만들면 AI도 의지력을 가질 수 있지 않을까?’, ‘반복 학습을 통해 의지력과 유사한, 소위 모사된 의지력을 AI가 가질 수 있지 않을까?’ 하고 생각할 수도 있겠습니다. 하지만 인간을 포함한 모든 생명체가 가진 욕구, 의지는 무언가에 대한 결핍 내지는 필요성이 있을 때 생겨나는 것입니다. AI는 배고픔과 갈증, 수면 부족, 피로 등의 결핍이 있을 리 없고, 더 나은 상태로 나아가고자 하는 필요성을 가질 가능성도 없습니다. 실제로는 결핍이나 필요성이 존재하지 않는데도 인위적으로 학습된 결핍과 필요성이 과연 본질적으로 존재할 수 있는지에 대해 우리는 심각하게 질문해야 하겠습니다. 설사 AI가 반복 학습으로 일정 부분 모사된 의지력을 갖게 된다고 하더라도, 이 모사된 의지력은 인간이나 생명체가 선천적으로 타고난 의지력과는 근본적으로 다르다는 점을 우리는 받아들여야 할 것입니다.


바로 이러한 AI의 의지력 부재는 AI가 결코 인간과 동일한 존재가 될 수 없음을 보여줍니다.

아우구스티누스 성인의 「삼위일체론」(De Trinitate)에 따르면, ‘기억(력)’(Memoria), ‘이해(력)’(Intelligentia), ‘의지(력)’(Voluntas) 이 세 가지가 인간 지성(Mens)의 삼중 구조에 해당합니다.(「삼위일체론」 10.11.17)

이 세 가지는 (마치 삼위일체가 그러하듯이) 존재로는 하나이고 관계로는 셋입니다. 곧, 이 세 가지는 (마치 삼위일체가 그러하듯이) 서로 구별되는 관계이면서 또한 분리될 수 없는 하나인 특성을 지니고 있습니다. 여기에서 하나라는 것은 그것들이 모두 지성이기 때문이며, 셋이라는 것은 각각이 다른 것과의 관계 안에서 기억, 이해, 의지라고 불리기 때문입니다.(「삼위일체론」 10.11.18) 결국 인간의 지성은 지체의 기억, 이해, 의지에 있어서 하느님 삼위의 모상입니다.(「삼위일체론」 10.12.19)



“그러므로 이 셋, 곧 기억·이해·의지는 세 개의 생명이 아니고 하나의 생명(Una Uita)이며, 세 개의 지성이 아니고 하나의 지성(Una Mens)이며, 따라서 의당 세 개의 실체가 아니고 하나의 실체(Una Substantia)이다. … [이 셋이] 그 자체에 대해서 말하자면 [그 하나하나가] 생명이고 지성이고 존재이다. 그리하여 [이 셋이] 한 생명이고 한 지성이고 한 존재라는 점에서 ‘이 셋은 하나다’(Tria Haec Eo Sunt Unum). … 나는 기억한다. 내가 기억을 가지고 있고 이해를 가지고 있고 의지를 가지고 있음을. 또 나는 이해한다. 내가 이해하고 원하고 또 기억한다는 사실을. 그리고 나는 원한다. 내가 원하고 기억하고 이해하기를. 내 기억 전체와 내 이해 전체와 내 의지 전체를 나는 동시에 기억한다. 내가 기억하지 못하는 나의 기억은 나의 기억 속에 존재하지 않는다. 내 기억 속에 존재하는 것치고 기억 자체만 한 것이 아무것도 없다. 나는 내 기억 전체를 기억한다. 또 내가 무엇인가를 이해하는 한, 내가 이해하고 있음을 나는 알며, 무엇이든지 내가 [뭔가를] 원하는 한, 내가 원하고 있음을 나는 알며, 내가 아는 무엇이든지 나는 기억한다. 다시 말해서 나의 이해 전체와 나의 의지 전체를 나는 기억한다. 이 셋을 이해함과 동시에 나는 [이 셋을] 전체로 한꺼번에 이해하는 것이다. … 그러므로 [셋] 전체도 전부도 각개에 의해서 서로 내포된다면, 각개 전체가 각개 전체와 동등하고, 동시에 각개 전체는 전체로 본 전부와 동등하며, ‘이 셋은 하나요’ 한 생명·한 지성·한 존재다(Haec Tria Unum, Una Uita, Una Mens, Una Essentia).”(「삼위일체론」 10.11.18)


인간 지성에서 의지가 기억, 이해와 결코 분리될 수 없는 하나인 특성이라는 아우구스티누스 성인의 이 견해에 따르면, AI는 결코 인간 지성과 동일시될 수 없게 됩니다. AI는 스스로 원할 수 없습니다. AI는 의지를 발휘해서 무언가를 할 욕구가 없습니다. 결국 AI는 단지 인간이 시키는 대로 움직이는 ‘인간의 도구에 불과할 뿐인 것’입니다. 그래서 AI는 ‘인공(적으로 만든) 지성’이 아니라 ‘인공(적으로 만든) 이해력’인 것입니다. 따라서 인간의 지성과 AI는 결코 동일하거나 유사할 수 없다는 중요한 결론에 도달하게 됩니다. 혹자는 Strong AI의 출현을 걱정하지만, 그 AI가 이성적 능력에 있어서는 인간보다 탁월할 수 있어도 선천적인 의지력을 갖추지는 못한다는 근본적인 한계로 인해 인간과 본질적으로 동일시될 수는 없습니다. AI는 이름 그대로 이해력을 최대한 끌어올린 도구일 뿐 인간과 비교할 만한 존재는 아니라는 것입니다.




김도현 바오로 신부(대구가톨릭대학교 교수)