로레타 14세 교황이 인공지능(AI)을 ‘무장 해제’해야 한다고 말했다. AI의 확산으로 ‘새로운 형태의 노예 제도’가 생길 수 있다고 경고했다. 교황은 1일 바티칸에서 발표한 교서 ‘마그니피카 휴마니타스'(Magnifica Humanitas)를 통해 이같이 밝혔다. 교서는 교황이 교회 14억 명 교인에게 전하는 가장 중대한 가르침 중 하나다.

AI 규제에 정치권 참여 촉구

로레타 교황은 AI 데이터의 소유권이 사기업에만 남겨져서는 안 된다고 강조했다. 정책 입안자들이 노동자의 권리와 아동의 안전을 보호해야 한다고 말했다. 교황은 AI 기업 간 경쟁도 줄여야 한다고 주문했다. “모든 것이 가속화되는 상황에서 느리게 움직일 수 있는 정치적 참여가 필요하다”고 말했다.

AI는 ‘지배, 배제, 죽음의 도구’로 쓰이지 않도록 ‘무장 해제’해야 한다고 강조했다. 로레타 교황은 ‘공고한 법적 틀’, ‘독립적인 감독’, ‘정보를 잘 알고 있는 사용자’, ‘책임을 포기하지 않는 정치 시스템’이 필요하다고 말했다. “원자력 에너지처럼, AI는 모두를 위한 공동의 이익을 위해 쓰여야 한다”고 덧붙였다.

AI 전문가와 협력

로레타 교황은 1년 6개월 전 선출된 이후 AI 전문가들과 함께 교서를 준비했다. 교황은 미국의 대형 AI 기업인 앤티크로피크(Anthropic) 공동 창립자 크리스토퍼 올라(Christopher Olah) 등과 함께 발표했다. 앤티크로피크는 군사용 자율 무기와 대량 감시 기술을 반대하며 미군과 법적 분쟁 중이다.

올라는 AI 기업들이 “동기와 제약이 종종 올바른 행동과 충돌하는 환경”에서 운영된다고 말했다. 교황청 같은 외부 주체의 참여가 ‘더 나은 방향으로’ 흐름을 이끌 수 있다고 말했다. “AI가 제기하는 문제는 AI 연구자들만의 문제보다 더 크다”고 강조했다.

올라는 급속한 일자리 감소, AI 혜택의 세계적 확대, 복잡하고 불투명한 시스템 동작 해석 등 세 가지 분야에 긴급한 주의가 필요하다고 지적했다.

전쟁용 AI 비판

로레타 교황은 AI 기반 무기 사용도 경계했다. “살상 결정을 기술에 맡기는 것은 허용되지 않는다”고 말했다. 교황은 미국과 이스라엘의 이란 전쟁과 종교적 정당성을 강조한 미국 정부와 여러 차례 갈등을 빚었다. 로레타 교황은 도널드 트럼프 대통령의 ‘정당한 전쟁’ 이론을 ‘시대에 뒤떨어진 것’이라고 비판했다. “어떤 알고리즘도 전쟁을 윤리적으로 정당화할 수 없다”고 말했다.