[앵커] 생성형 인공지능, AI 기술 발달로 확인되지 않은 정보, 조작된 영상과 사진이 급속도로 확산하고 있습니다.

이런 가운데 우리나라가 품질이 낮은 AI 콘텐츠인 'AI 슬롭'을 가장 많이 소비하는 것으로 조사됐습니다.

전은지 기자가 보도합니다.

[기자] 롱패딩을 입은 프란치스코 교황과 교황의 복장을 한 도널드 트럼프 미국 대통령.

모두 AI로 만든 합성 이미지입니다.

우리나라에서도 성직자들의 얼굴과 영상을 무단으로 도용한 AI 콘텐츠가 나오면서, 주교회의는 각별한 주의를 당부했습니다.

이처럼 AI로 사진과 영상을 쉽게 합성할 수 있게 되면서 사회적 혼란이 커지고 있습니다.

지난 4월 발생한 대전 오월드 늑대 탈출 사건.

당시 늑대가 학교 앞 교차로를 지나갔다는 사진이 온라인에 퍼졌고, 대전시 재난당국은 이를 주민 대피 공문과 브리핑 자료에까지 활용했습니다. 

하지만 해당 사진은 AI로 만든 가짜 이미지임이 드러났고, 경찰은 제작자를 공무집행방해 혐의로 체포했습니다.

최근 온라인에서 조회수 1500만 회를 기록하며 화제가 된 '야구장 여신' 영상.

야구장에서 경기를 관람하는 여성의 모습을 담은 영상인데, 실제 인물이 아닌 AI로 만든 영상이라는 사실이 뒤늦게 알려지며 논란이 일었습니다.

이처럼 AI로 만든 콘텐츠가 진위 여부와 관계없이 확산하면서 사회적 혼란과 불신을 키우고 있습니다.

지난해 디지털 편집 플랫폼 '캡윙' 보고서는 "한국이 전 세계에서 AI 슬롭을 가장 많이 소비하는 국가"라고 분석했습니다.

「종교와 AI」를 집필한 강성욱 저자는 "한국 사회의 높은 기술 수용성과 함께, 유행에서 뒤처지지 않으려는 문화적 특성이 맞물린 결과"라고 설명했습니다. 

공급자는 자극적인 콘텐츠로 수익을 얻으려고 하고, 소비자는 윤리적 문제의식 없이 이를 빠르게 소비한다는 겁니다. 

<강성욱 / 연세기독교교육학포럼> 
"불법만 아니라면 어떻게든지 빠르게, 많이 돈을 벌면 된다는 탈윤리적인 자본관과 만나서 알고리즘에 교묘하게 파고드는 저품질 채널들이 양산됐다고 보고 있습니다. 유행에 뒤처지면 안 된다는 압박, 소외불안 심리가 매우 강합니다. 어떤 자극적인 내용이 입소문을 타면 저품질이든 일단 나도 알아야 하는 거죠."

AI 슬롭의 확산이 결국 사회적 신뢰를 무너뜨릴 수 있다는 우려도 나왔습니다.

<강성욱 / 연세기독교교육학포럼> 
"가장 중요한 문제는 신뢰라는 사회적 안전망이 무너질 수도 있다는 점인데요. 계속되는 소비, AI 슬롭 영상들이 점점 더 일상화되고 무감각해지면, 기존에 작동하던 신뢰시스템이 흔들릴 수 있습니다. 그 의심을 해소하기 위해서 새로운 검증이나 평가가 요구되고, 점점 더 사회적 비용을 치르게 되는 양이 늘어날 것 같습니다."

레오 14세 교황은 AI 기술이 인간의 존엄성과 소통의 본질을 훼손할 수 있다고 경고했습니다.

교황은 지난달 제60차 홍보주일 담화에서 "하느님 모상으로 창조된 인간의 얼굴과 목소리는 대체 불가능한 고유한 정체성"이라고 강조했습니다.

이어 "AI 기술이 얼굴과 목소리, 감정까지 모방하면서 인간 소통의 본질적 차원을 변화시킬 위험이 있다"고 경고했습니다. 

그러면서 "얼굴과 목소리를 지키는 건 우리 자신을 지키는 일"이라며 AI 문해력의 중요성을 강조했습니다.

CPBC 전은지입니다.