AI 시대와 인간의 자유

폰트 작게 폰트 크게 인쇄

인공지능(AI)의 발전 속도가 엄청나다. 아니, 이제 발전 속도에 놀랄 시기는 이미 지난 듯하다. AI는 이미 우리 삶에 깊숙이 자리 잡았고, 우리는 그 영향을 늘 경험하고 있다. 지금 중요한 문제는 레오 14세 교황님께서 지난 5월 17일 홍보 주일 담화를 통해 말씀하신 “인간의 목소리와 얼굴 지키기”다. 우리의 인간성, 인간다움을 재발견하고 보존하며 증진시키는 것이다.

AI가 인간성에 미치는 영향 가운데 하나는 인격체로서의 인간 주체성에 대한 위협이다. 자신의 행위의 주인으로서, 윤리적 책임의 주체로서의 인간 모습을 상실할 수 있는 위험이 있기 때문이다. 교황청 AI 연구 그룹이 발간한 연구서 가운데, 최근 수원가톨릭대학교 출판부에서 발간된 「인공지능 시대에 인간 주체성 회복」에는 AI 시대에 인간의 행위가 유도당하고 조작될 수 있는 위험을 지적하고 있다. AI의 기반이 되는 빅데이터가 인간의 행동을 조작하는 데 사용될 수 있다는 것이다.

물론 조작과 유도는 다르다. AI가 인간의 행위에 영향을 미치는 전형적인 방식을 유도, 즉 ‘넛지(nudge)’라고 부르는데, 다행히 유도에는 인간의 자유를 강제하는 어떤 억압도 존재하지 않는다. 인간은 여전히 자유롭게 선택할 수 있는 여지를 갖는 것이다. 문제는 우리가 인터넷을 사용하면서 너무나 자주 이 유도의 방식에 노출되어 있다는 것이다.

유도와 관련된 것이 AI의 알고리즘이 가지고 있는 편향성 문제다. 가장 기본적으로 AI는 우리의 활동 내용을 파악하여 수시로 우리가 좋아할 만한 광고나 검색 결과 또는 이미지나 영상 등을 제시한다. 우리가 일부러 다른 선택을 하지 않는다면, 우리는 편향적인 데이터에 지속적으로 노출되는 것이다.

유도의 방식에는 인간 행동의 예측 가능성(predictability)이 동원된다. 통계적인 데이터를 기반으로 사용자의 행위를 유도하는 이러한 방식은 특별히 기업들이 소비자들의 관심을 유도하는 데 자주 이용한다. 특별히 늘 하던 방식을 고집하거나 기본 사항을 바꾸지 않으려는 ‘현상 유지 편향’, 보다 용이한 선택을 선호하는 ‘가용성 편향’, 많은 이가 하는 것을 따라 하려는 ‘편승 효과’ 등이 인간의 행위를 유도하는데 사용되는 대표적인 방식들이다.

물론 이러한 방식 자체를 비윤리적이라고 지적하기는 어렵다. 우리가 무엇보다 주목해야 할 것은 이러한 유도의 ‘목적’이다. 선거 날이 되면 SNS에 많은 사람들이 투표 인증사진을 올린다. 그리고 이와 같은 행위는 ‘편승 효과’를 가져와 더 많은 사람이 투표에 참여하도록 독려한다. 이 경우 유도의 목적은 선한 것이라고 할 수 있고 이런 유도의 방식을 긍정적으로 평가하게 된다.

그러나 그 목적이 선하지 않다면, 예를 들어, 소비주의 쇼핑이나 인터넷 중독을 유발하는 유도라면 우리는 그와 같은 유도를 비윤리적인 것으로 판단하고 경계해야 한다.

물론 유도 방식에서도 비윤리성이 개입될 여지는 있다. 유튜브 알고리즘과 같은 ‘개별 맞춤형’ 방식의 행동 유도는 인간의 나약함을 이용하여 특정 행동을 강요하는 측면이 있다는 점에서 비윤리적이라고 할 수 있다. 그리고 이러한 개인 맞춤형 유도 방식이 가능한 것은 지금 우리가 24시간 감시를 당하고 있기 때문이다. 우리가 끊임없이 디지털 환경에 남기는 흔적들은 24시간 수집되고 분석되어 우리의 행동을 유도하는 데 사용되는 것이다.

기업들은 유도 방식을 고안하는 데 있어서 심리학 전문가들을 고용하기도 한다. 무한 스크롤을 통해서 인터넷 자료를 읽는 방식은 페이지를 제거하여 우리로 하여금 선택할 수 있는 여지를 차단한다.

아래로 당겨서 ‘새로고침’ 하는 방식은 카지노의 슬롯머신과 유사한 방식으로 도파민 분비를 촉진한다. 이러한 다양한 유도 방식들을 생각한다면 과연 우리는 디지털 환경에서 자유로운지 스스로 묻지 않을 수 없다.

이러한 유도는 끊임없이 우리에게 쏟아지기 때문에 모든 유도에 저항하기는 결코 쉬운 일이 아니다. 그럼에도 불구하고 우리가 인간으로서의 주체성을 상실하지 않기 위해서는 이러한 유도 방식을 이해하고 가능한 한 자신의 이성을 활용하여 선택하려는 노력을 기울여야 할 것이다.