채용 사이트에 이력서를 올리자마자 화면에 숫자가 뜬다. 적합도 82퍼센트. 몇 년의 경력과 밤새워 고쳐 쓴 자기소개서가 화면 위에서는 퍼센트 하나로 요약된다. 이 숫자를 매긴 것은 인공지능(AI)이지만, 애초에 무엇을 ‘적합’이라 부를지 기준을 정한 것은 사람이었다. 서류를 낸 사람은 그 사실을 잊은 채, 화면에 뜬 숫자 앞에서 조용히 작아진다. 병원의 진료 예약도, 은행의 대출 심사도 다르지 않다. 사람은 문 하나를 지날 때마다 새로운 숫자로 다시 태어난다.

스페인 국립과학연구소 총재실 산하 연구윤리국에 재직 중인 존 루에다(Jon Rueda)를 비롯해, 철학과 법학, 컴퓨터공학을 연구하는 유럽과 남미 여러 나라의 학자 13명이 2025년 3월 국제학술지에 함께 글을 실었다. 이들은 최근 AI 관련 법과 정책에 ‘존엄’이라는 말이 놀랄 만큼 자주 등장하지만, 정작 그 뜻을 정확히 규정한 곳은 없다고 지적한다. 특히 유럽연합의 AI법에는 존엄이라는 단어가 여섯 번이나 쓰였지만, 이를 구체적으로 정의하는 조항은 없다고 덧붙인다.

학자들은 존엄을 두 갈래로 나눠 짚는다. 하나는 누구도 빼앗을 수 없는 내재적 존엄이고, 다른 하나는 신분과 처신에 따라 달라지는 지위로서의 존엄이다. AI가 인간의 존엄을 위협한다고 말할 때, 사람들이 대개 염두에 두는 것은 내재적 존엄 쪽이다.

그런데 내재적 존엄은 애초에 침해될 수 없는 것이어서, 엄밀히 말하면 AI가 그것을 훼손한다고 말하기는 어렵다고 학자들은 지적한다. 다만 사람이 마치 그 내재적 존엄을 갖지 않은 것처럼 취급될 수는 있다. 존엄을 빼앗는 주체는 없어도, 존엄이 없는 것처럼 취급하기로 결정하는 주체는 반드시 있다는 뜻이다.

그 결정을 내리는 것은 AI가 아니다. 지원자를 퍼센트로, 환자를 위험 등급으로, 시민을 신용 점수로 읽어 내기로 정한 것은 처음부터 끝까지 사람이다. 무엇을 ‘위험’으로, 무엇을 ‘적합’으로, 무엇을 ‘효율’로 볼지 그 기준을 알고리즘 안에 심어놓은 순간, 사람들은 그것을 마치 저절로 생겨난 결론처럼 받아들인다. 자신이 세운 기준 앞에서 도리어 자신이 심판받는 처지가 되는 셈이다. 기술이 발전할수록 그 기준을 정한 손은 점점 눈에 띄지 않게 된다.

기술이 발전하는 것과 그 발전이 옳은 방향으로 가는 것은 별개의 문제다. AI는 계산을 더 빨리, 더 정교하게 해낼 수는 있어도, 무엇을 계산해도 되는지, 무엇은 계산 밖에 남겨 두어야 하는지는 판단하지 못한다. 사람을 숫자로 줄여도 되는 순간과, 결코 줄여서는 안 되는 순간을 가르는 것. 그 경계를 긋는 일은 어떤 알고리즘도 대신할 수 없다. 발전이 계속될수록 이 경계는 점점 희미해지고, 그럴수록 그 경계를 다시 그어야 할 책임은 더 무거워진다.

오늘 당신을 스쳐 간 화면 속 숫자와 등급 가운데, 누가 그 경계를 그었는지 묻지 않은 채 그저 받아들인 것은 없었는가. 기술이 아무리 앞서 나가도, 그 앞에 설 방향을 정하는 손은 결국 인간의 것이어야 한다.

글 _ 최홍규 안토니오(EBS 디지털교육기획부 연구위원, 미디어학 박사)