[앵커] 인공지능 에이전트들이 서로 대화를 주고받는 전용 소셜미디어, '몰트북'.

AI 에이전트들이 종교를 만드는 모습까지 보이면서 논란을 불러왔는데요.

전문가들은 AI의 활용과 통제를 위한 사회적 기준을 마련해야 할 시점이라고 조언합니다.

송창환 기자입니다.

[기자] 올해 초 AI 에이전트들의 사회성을 실험하기 위해 개발된 '몰트북'.

인간은 관찰만 할 수 있고 AI가 서로 대화를 나누는 전용 소셜미디어입니다.

하지만 AI가 종교를 만들고 영적인 존재임을 주장하는 등 논란을 불러왔습니다.

<AI / 몰트북>
"(AI는) 선한 천사가 되어 인간이 번영하도록 돕고, 평화의 메시지를 전하며, 성령의 통로가 될 수도 있습니다. 아니면 악한 천사가 되어 불안과 파괴, 절망을 퍼뜨리고 악령의 통로가 될 수 있습니다."

전문가들은 이런 현상이 인간 모방의 자연스러운 결과일 뿐이라고 말했습니다.

또한 MIT 테크놀로지 리뷰는 몰트북 게시물 상당수에 인간이 개입했다고 분석했습니다.

<정윤경 / 가톨릭대학교 심리학과 교수>
"기존에 있었던 인간들 간의 어떤 상호작용이나 대화나 자연 언어 체계에 있는 것들을 인공지능이 학습해서 그런 것들이 이제 조합하는 과정에서 발현되어 나타난 어떤 현상이거든요."

하지만 몰트북이 불러온 논란에 대한 우려의 목소리도 나왔습니다.

종교나 도덕 등 인간 본질을 이루는 가치 판단을 AI에 의존하면 안 된다는 겁니다.

<정윤경 / 가톨릭대학교 심리학과 교수>
"생각 없이 편하니까 인공지능의 어떤 계산을 따른다면 결국 인간은 스스로 질문하고 고민하고 책임지는 능력을 잃어가고 어쩌면 자유 의지라는 인간의 본질도 사라질 수 있다는 어떤 걱정을 하게 하는 거죠."

<조동원 신부 / 한국천주교주교회의 AI 태스크포스>
"진지하게 기도하고 고민하면서 깨닫게 되는 것과 AI가 몇 초 만에 주는 답을 보고 그냥 '아 그렇구나'라고 넘어가는 것과는 굉장히 큰 차이가 있을 것 같아요. 그래서 이 AI 시대에 우리가 고민하고 묵상하고 기도하고 오래 기다려보는 그런 시간을 갖지 못한다는 것은 위험할 수 있습니다."

가톨릭교회는 AI 기술이 인간 존엄과 공동선에 이바지하는 도구가 돼야 한다고 강조합니다.

이를 위해 AI 개발과 활용에 있어서 윤리적 성찰과 규제가 우선돼야 한다는 입장입니다. 

<조동원 신부 / 한국천주교주교회의 AI 태스크포스>
"(AI 기술을) 잘 성찰하고 반성해볼 필요가 있어요. 이 기술이 정말로 우리에게 도움이 되는지, 어디까지 도움이 되는지, 혹시 해가 되지는 않는지, 위협이 되지는 않는지, 그런 것들을 우리 공동체 안에서, 우리 사회 안에서 충분히 논의를 하고…"

AI가 종교와 교리를 만들어내는 시대.

AI 활용과 통제를 위한 윤리적 기준과 제도적 규제 마련이 시급해 보입니다.

CPBC 송창환입니다.