도널드 트럼프 대통령은 미국 연방 정부 기관에 안트로피크의 인공지능(AI) 모델 클라우드 사용을 즉시 중단하도록 지시했으며, 이 회사를 ‘공급망 위험’으로 지정했다. 이는 적대적인 국가의 기업에 일반적으로 적용되는 지정이다. 이 조치는 안트로피크가 국방부의 요청을 거절하고 군사용 AI 모델 사용에 대한 제한 조치를 유지한 점에 따라 이뤄졌다. 안트로피크는 이 모델이 대규모 감시 및 자율 무기 시스템에 사용될 수 있다는 윤리적 우려를 이유로 이 요청을 거절했다.

국방부 계약 및 군사 작전에 미치는 영향

국방부는 안트로피크와의 계약을 해지할 예정이며, 이 계약의 가치는 최대 2억 달러에 달한다. 또한 다른 정부 계약업체들에게 클라우드를 사용하지 않도록 인증을 요구할 예정이다. 안트로피크는 모든 정부 계약에서 제외되며, 6개월간의 이전 기간이 주어져 대체 AI 모델로의 전환을 준비할 수 있다.

이 결정은 특히 클라우드가 현재 군사 기밀 시스템에서 사용되는 유일한 AI 모델이라는 점에서 주목받고 있다. 이 모델은 베네수엘라 니콜라스 마두로 대통령 체포 작전에서 사용되었으며, 이란 등 미래 군사 작전에도 사용될 수 있을 것으로 보인다.

국방 당국은 클라우드 대체 작업이 어렵다고 인정했으며, 한 관계자는 이 모델과의 분리 과정을 ‘정말 골치 아픈 일’이라고 표현했다. 이 조치는 또한 AI 소프트웨어 회사 팔린티르에도 영향을 미칠 것으로 보이며, 이 회사는 군사와의 가장 민감한 작업에 클라우드를 사용하고 있어 대체 모델을 확보해야 할 것으로 보인다.

정치적 및 윤리적 갈등

트럼프의 지시는 트루스소셜에 게시되었으며, 안트로피크가 국방부를 ‘강요’하고 있으며, 미국 헌법보다 ‘우익’ 가치를 따르려 한다고 비난했다. 그는 이 회사의 입장을 ‘재앙적인 실수’라고 지적하며, 미국이 ‘극좌 우익 기업이 군대가 전쟁을 어떻게 싸우고 이긴지 결정하지 못하게 할 것’이라고 강조했다.

안트로피크의 CEO 다리오 아모데이는 이전에 국방부의 ‘최종 제안’을 거절했으며, 회사가 윤리적으로 이 요청을 따를 수 없다고 밝혔다. 이에 따라 국방부 고위 관료 에밀 마이클은 아모데이가 ‘자기 중심적인 태도’를 가지고 있으며, 국가 안전에 위협을 끼치고 있다고 비판했다.

아모데이는 만약 국방부가 안트로피크를 계약에서 제외한다면, 회사는 군사 작전에 미치는 영향을 최소화하기 위해 다른 제공업체로의 전환을 원활하게 진행할 것이라고 밝혔다. 그러나 재정적 손실은 상당할 것으로 보이며, 안트로피크는 수십억 달러 규모의 정부 계약을 잃을 수 있으며, 정부의 블랙리스트로 인해 고객을 잃을 가능성도 있다.

AI 규제에 대한 보다 넓은 영향

국방부는 AI를 군사적 용도에 사용하는 것이 복잡한 윤리적 및 법적 문제를 일으킬 수 있으며, 민간 기업과의 각 사례에 대한 소송을 진행하는 것은 실현 가능하지 않다고 주장했다. 이에 따라 모든 AI 기업이 모델을 ‘모든 합법적 목적’에 사용할 수 있도록 해야 한다는 입장을 밝혔으며, 이에 대해 안트로피크와 다른 업계 인사들이 비판했다.

국방 장관 피트 헤그셋은 ‘우익 AI’를 반복적으로 비판했으며, 트럼프 정권은 안트로피크에 대한 태도가 점점 더 적대적으로 변하고 있다. 이는 군사가 안트로피크의 기술에 의존하고 있음에도 불구하고 발생한 것이다. 한 국방 관계자는 액시오스에 미국은 여전히 필요에 따라 안트로피크와 협력하고 있으며, 회사의 능력을 인정하고 있다고 밝혔다.

elon musk의 xAI는 최근 군사가 분류된 시스템에서 그의 AI 모델 그로크를 사용할 수 있도록 하는 협약을 체결했다. 그러나 소식통들은 그로크가 클라우드의 직접적인 대체물이 되지 않을 것으로 보인다고 전했다. 한편, 구글의 겔리미와 오픈AI의 챗GPT는 비분류 시스템에서 사용 가능하며, 국방부는 분류된 환경으로의 통합을 가속화하고 있다.

이 상황에 대응해 구글과 오픈AI의 수백 명 직원들이 회사가 안트로피크의 윤리적 AI 사용 방침과 일치하도록 요구하는 서명을 진행했다. 오픈AI의 CEO 사姆 알트만은 회사가 감시 및 자율 무기에 대한 제한 조치를 유지할 것이며, 국방부와의 협상은 여전히 열려 있다고 밝혔다.

안트로피크는 아직 정부의 지정에 대해 법원에 제소할지 여부를 밝히지 않았다. 빠르게 성장하며 주요 기업용 애플리케이션에서 주목받고 있는 이 회사는 윤리적 입장을 둘러싼 잠재적 위기와 재정적 미래에 직면하게 되었다.