안트로피크(Anthropic)의 CEO 데리오 아모디는 인공지능 기술 사용에 대한 윤리적 제약을 완화하라는 국방부의 요구를 거부하며, 공급망 위험으로 지정될 수 있는 위험과 방위 계약 상실 위기에 직면했다. 결정 기한은 동부 시간으로 금일 오후 5시 01분이며, 아모디는 회사가 ‘도덕적으로 받아들일 수 없다’고 밝혔다.

공급망 위험과 윤리적 보호 조치

국방부의 요구는 샌프란시스코의 작은 연구소에서 세계 최고의 AI 스타트업으로 성장한 안트로피크의 첨단 챗봇 클라우드의 성장과 함께 이뤄졌다. 회사는 기술이 대규모 감시나 자율 무기 시스템에 사용되지 않도록 보장받고자 했으나, 국방부가 제안한 계약 조항은 ‘양보로 보였지만, 실제로는 이러한 보호 조치를 마음대로 무시할 수 있도록 했다’고 안트로피크는 지적했다.

아모디가 협력하지 않을 경우, 군 당국은 안트로피크의 계약을 해지할 뿐만 아니라 ‘공급망 위험’으로 지정할 수 있다고 경고했다. 이는 일반적으로 외국 적대국에만 적용되는 라벨로, 회사의 다른 기업과의 협력 관계를 교란시키고 확장 계획을 위협할 수 있다.

업계 반응과 개방 편지

이번 갈등은 오픈AI와 구글 등 경쟁 기업의 최고 인공지능 연구자들과 기술 직원들의 지지를 받고 있다. 이들은 개방 편지에서 아모디의 입장을 지지하며, 국방부가 ‘각 기업을 두려움으로 나누려 한다’고 지적했다.

오픈AI의 CEO 샘 알트먼은 2021년 안트로피크를 공동 창업하기 전 오픈AI에서 아모디와 함께 일했던 인물로, CNBC 인터뷰에서 국방부의 ‘위협적인’ 접근에 우려를 표했다. 그는 ‘그들은 회사로서 신뢰할 수 있고, 안전에 진심을 담고 있다고 생각한다’고 말했다. 알트먼은 오픈AI와 대부분의 인공지능 분야가 기술 사용에 있어 유사한 경계선을 공유한다고 덧붙였다.

엘론 머스크는 인공지능 분야의 또 다른 주요 인물로, 트럼프 정부를 지지하며 안트로피크가 ‘서구 문명’에 반대한다는 비판을 했다. 머스크의 발언은 안트로피크의 지침 원칙의 이전 버전에 대한 반응으로, ‘비서구적 관점을 고려해야 한다’는 강조가 포함된 내용이었다.

역사적 유사성과 법적 우려

전 미 공군 장군 잭 샤나한은 국방부의 접근에 우려를 표하며, 드론 영상 분석을 위해 AI를 사용했던 프로젝트 메이븐(Project Maven) 초기에 구글 직원들의 반대를 회상했다. 샤나한은 당시 프로젝트를 이끌었던 인물로, ‘안트로피크의 입장을 이해한다’고 말하며, 클라우드 같은 챗봇에 사용되는 AI 모델들이 ‘국가 안보 환경에서 즉시 사용할 준비가 되어 있지 않다’고 지적했다.

펜타곤의 최고 대변인 세이언 파넬은 군이 ‘법적 목적에 따라 안트로피크의 모델을 사용하고자 한다’며, 접근 범위를 넓히면 ‘중요한 군사 작전을 위협할 수 있다’고 말했다. 그러나 공식적으로 기술 사용 계획에 대한 구체적인 세부 사항은 제공하지 않았다.

국방장관 피트 헤그셋과 아모디의 회의에서 군 당국은 ‘국방 생산법’을 발동할 수 있다고 경고했다. 이 법은 냉전 시대의 법으로, 회사의 승인 없이도 군이 안트로피크의 제품을 사용할 수 있는 권한을 부여한다. 아모디는 이는 모순이라고 지적하며, 한편으로는 안트로피크를 보안 위험으로 지정하고, 다른 한편으로는 클라우드가 국가 안보에 필수적이라고 주장하는 상황이라고 말했다.

아모디는 군이 클라우드의 가치를 고려해 재고를 하기를 희망한다고 밝혔다. 만약 그렇지 않다면, 안트로피크는 ‘다른 공급업체로의 원활한 전환을 가능하게 하기 위해 노력할 것’이라고 말했다.

군사용 인공지능 기술의 윤리적 사용에 대한 논란은 주요 기술 기업들이 혁신과 책임 사이의 균형을 유지하면서 가속화되고 있다. 안트로피크의 입장을 지지하는 주요 업계 인사들의 지지가 커지면서 상황은 여전히 긴장감을 유지하고 있으며, 이는 미래 인공지능 관리 및 국가 안보 정책에 영향을 미칠 수 있다.