로마 교황청은 1일 AI와 관련한 첫 공식 서한 ‘Magnifica humanitas’를 발표했다. 이 서한은 AI의 위험성을 경고하며, 특히 일자리 감소와 대형 기술 기업의 독점을 우려했다. 교황청은 이 서한에서 기술 기업이 AI의 발전을 좌우할 수 있는 권력을 가질 경우 부정적인 영향이 발생할 수 있다고 지적했다.

교황청은 AI의 발전이 몇몇 기업에 집중되지 않도록 해야 한다고 강조했다. ‘주요 경제 및 기술 주체’가 플랫폼, 인프라, 데이터, 컴퓨팅 파워를 통제하는 것은 개발의 왜곡된 형태로 이어질 수 있다고 경고했다. 교황청은 구체적인 기업명은 언급하지 않았지만, 업계의 주요 기업들인 엔비디아, 마이크로소프트, 아마존, 구글, 메타, 오픈AI, 앤티로픽 등을 언급했다.

AI를 ‘무장 해제’해야 한다고 주장했다. 교황청은 ‘무장 해제’란 AI 기술을 독점적 통제에서 벗어나 토론과 논의를 통해 인간 친화적이고 다양한 문화와 삶 방식을 반영하도록 만드는 것을 의미한다고 설명했다. 또한 교황청은 ‘모든 자원은 보편적으로 사용되어야 한다’는 가톨릭 원칙을 AI 알고리즘, 디지털 플랫폼, 데이터에도 적용해야 한다고 제안했다.

교황청은 AI가 민주주의와 경제 체계를 특정 집단의 이익에 따라 조정될 수 있다고 경고했다. 이는 AI 논의에서 중요한 교황의 입장을 보여주는 것으로, 기존의 AI 회의론자들이 제기한 우려와 일치한다.

AI 개발자에게 보내는 메시지

교황청은 AI 개발자들에게 ‘특별한 윤리적과 정신적 책임’을 강조했다. 개발자들이 설계 선택을 할 때는 인간에 대한 시각을 반영해야 하며, 투명성, 책임성, 그리고 ‘진정한 선’을 반영해야 한다고 말했다.

교황청은 AI 시스템이 완전히 중립적이고 객관적인 것으로 표현되어서는 안 된다고 경고했다. 이는 개발자의 편견을 반영하고 강화할 수 있기 때문이다. 교황청은 앤티로픽 공동 창립자 크리스 올라에게 ‘함께 협력하고, 듣고, 말하며, AI 시대에 인간의 길을 찾자’고 말했다. 올라는 교황청의 서한 발표 이후 바티칸에서 연설을 했다.

AI 관련 실업 문제

교황청은 AI로 인한 실업 문제를 주요 주제로 다루었다. AI로 인한 대규모 실업은 ‘진정한 사회적 재앙’이 될 수 있다고 경고했다. 교황청은 AI가 사람들의 일을 안전하고 쉬운 것으로 만들기는 바람직하지만, ‘일자리 보호와 개인의 대체 불가능한 역할은 일반적인 원칙이어야 한다’고 강조했다.

AI로 인한 대규모 실업은 ‘인간과 문화적 빈곤’을 초래할 수 있다고 지적했다. 교황청은 정부와 기업이 AI로 인한 일자리 감소가 더 확대되기 전에 준비해야 한다고 제안했다. ‘자동화와 AI 도입은 일자리 보호, 재교육, 노동자의 참여를 보장하는 구체적인 조치와 함께 이루어져야 한다’고 교황청은 썼다. 교황청은 ‘이익 극대화’를 이유로 일자리를 줄이는 결정은 정당화될 수 없다고 경고했다.

JPMorgan Private Bank의 글로벌 투자 전략 공동 책임자인 스티븐 파커는 최근 ‘기업들이 AI가 노동자의 기술을 향상시킬 수 있다는 잠재력을 인식하고 있다’고 말했다. 그러나 교황청의 우려는 AI가 ‘인간의 시간과 능력을 해방시키는 데 초점을 맞춰야 한다’는 적극적인 조치가 필요하다는 점을 강조했다.