프란치스코 교황이 14일 이탈리아에서 열린 G7 정상회의 AI 관련 세션에 참석해 인공지능의 위험성에 대해 연설하고 있다. OSV

자율 무기, 생성형 AI 위험 강조
더 큰 사회 불평등 초래할 수 있어

프란치스코 교황이 14일 이탈리아에서 열린 주요 7개국(G7) 정상회의 AI 관련 세션에 참석해 “인공지능(AI) 시스템의 구현과 개발에서 가장 위험에 처한 것은 인간의 가치와 존엄성에 대한 윤리”라며 인공지능의 위험성을 거듭 경고했다. 역대 교황으로는 처음 G7 정상회의에 참석했다.

이탈리아 동남부 풀리아에서 열린 G7 정상회의에서 ‘AI와 평화’를 주제로 연설한 교황은 “어떤 기계도 인간의 생명을 빼앗아서는 안 된다”며 “''치명적인 자율 무기''와 같은 특정 응용 프로그램의 전면 금지를 촉구한다”고 목소리를 높였다. 일명 살인 로봇 같은 인공지능 기반 무기 개발에 대한 우려까지 표명한 것이다.
 

교황은 “인간의 존엄성 그 자체는 인공지능 프로그램 선택을 인간이 통제할 수 있는지 여부에 달려있다”며 “의사 결정은 항상 인간에게 맡겨져야 한다”고 강조했다.

교황은 AI 활용의 윤리성과 신뢰성, 악용 가능성을 면밀히 따져야 한다고 설파해오고 있다. 교황이 특별히 G7 정상회의를 찾은 것도 각국 지도자들이 AI 무기화를 비롯한 갖가지 이슈를 올바로 식별하도록 독려하기 위한 행보다. 교황은 올해 1월 1일 ‘세계 평화의 날’ 담화와 5월 12일 ‘홍보 주일’ 담화를 통해서도 AI 기술 발전으로 위협받는 인간성과 윤리 문제를 언급한 바 있다.

교황은 “우리가 기계의 선택에 의존함으로써 사람들이 자신의 삶을 결정할 수 있는 능력을 기계가 빼앗아 간다면, 인류는 희망 없는 미래로 비난받을 것”이라고 지적했다. 교황은 특히 수감자가 석방될 때 재범의 가능성으로 자택 격리가 필요한지를 결정하는 과정에서 수감자의 민족성과 배경, 교육, 심리 평가 및 신용 등급 같은 개인 정보와 더불어 인공지능을 사용하는 판사들을 비판했다.

교황은 “인공지능은 흥미로우면서도 두려운 도구”라며 “인공지능은 모든 사람에게 지식에 대한 접근을 확장하고 과학 연구를 빠르게 발전시키지만, 동시에 지배적인 사회 계층과 억압받는 계층 사이에 더 큰 불평등을 가져올 수 있다”고도 경고했다.

교황은 또 학생들이 어떤 주제에 대해 글과 이미지를 생성할 때 쉽게 사용하는 ‘생성형 인공지능’에 대해서도 경고했다. 이런 도구가 새로운 분석과 개념을 계발하기보다 오류나 선입견을 강화·반복할 수 있다고 지적했다. 교황은 “이는 가짜 뉴스를 합법화하고 지배적인 문화의 이점을 강화할 위험을 초래할 뿐 아니라 교육 과정 자체를 약화한다”고 진단했다.
 

역대 교황으로는 처음 G7 정상회의에 참석한 프란치스코 교황이 세계 각국 정상들과 기념촬영을 하고 있다. OSV

교황은 “세계 지도자들은 인공지능이 인류를 위해 봉사하는 데 필요한 조건을 만들고, 위험을 완화하는 데 도움을 줄 책임이 있다”고 거듭 강조했다. 그러면서 “''만남의 문화''보다 ‘버려지는 문화’를 더 선호하게 되는 위험 가능성이 있다”며 “모든 도구와 기술이 가져올 이익과 해악은 그것의 사용에 달려있다”고 말했다. 교황은 인공지능이 인류 평화를 위협하는 불안 요소가 될 수 있기에, 윤리적 사용을 보장하는 국제 조약이 필요하다고 강조해왔다.

주요 7개국 정상들은 13~15일 열린 G7 정상회의에서 공동성명을 내고, 북한과 러시아 간 군사협력도 규탄했다.

이지혜 기자 bonappetit@cpbc.co.kr