미국 전쟁부 장관 피트 헤그셋은 인공지능(AI) 기업인 안트로피크가 군에 자체 기술을 무제한으로 제공하도록 요구하며 실리콘밸리와의 안보 분쟁을 일으켰다. 이 분쟁은 AI 윤리학자들과 기술 리더들로부터 날카로운 비판을 받으며 군과 민간 부문 사이의 AI 통제와 사용에 대한 갈등을 드러내고 있다.

AI 사용권에 대한 갈등

헤그셋은 지난 주 안트로피크의 최고경영자(CEO) 다리오 아모디를 국방부에 불러, 군이 Claude라는 AI 모델을 사용할 때는 법적으로 허용된 범위 내에서라도 무제한으로 사용할 수 있도록 요구했다. 이는 AI가 군사용으로 악용될 수 있다는 우려가 커지는 가운데 나온 조치였다. 특히 감시 및 자율 무기 사용에 대한 우려가 컸다.

아모디는 오랫동안 AI의 윤리적 개발을 주장해 왔으며, 강력한 AI 시스템이 군사용으로 사용될 경우의 위험에 대해 반복적으로 경고해 왔다. 그는 인간의 감독이 필수적이라고 강조하며, 자율 무기의 위험성을 지적했다. 그는 이러한 기술이 ‘억제 불가능한 군대’를 만들 수 있다고 경고했다.

아모디의 우려는 새로운 것이 아니다. 1월에 발표한 에세이 ‘기술의 청소년기’에서 그는 강력한 AI가 1~2년 내에 인간의 능력을 뛰어넘을 수 있다고 썼다. 생물학, 프로그래밍, 공학 등 여러 분야에서 인간을 능가할 수 있는 AI가 곧 등장할 것이라고 예측했다. 또한 AI가 개인에게 미치는 심리적 영향에 대해서도 언급하며, AI 관련 정신 건강 문제의 증가와 대규모 감시의 가능성에 대해 경고했다.

헤그셋의 요구는 안트로피크로부터 강하게 거부당했다. 안트로피크는 인간의 감독 없이 감시나 자율 무기 사용에 AI 모델을 제공하는 것을 꺼리고 있다. 회사는 군의 요구를 따르지 않겠다고 밝혔으며, 금주 금요일에는 정부를 상대로 소송을 제기하겠다고 발표했다.

트럼프의 갈등 참여

도널드 트럼프 대통령도 이 갈등에 개입했다. 그는 안트로피크와 직원들을 ‘좌파 극단주의자’로 비난하며, 베네수엘라의 니콜라스 마두로 대통령을 붙잡으려는 군의 노력에 도움을 주었다고 지적했다. 트럼프는 모든 연방 기관에 안트로피크의 기술 사용을 중단하도록 지시했다. 그는 안트로피크가 헌법 대신 회사의 이용 약관을 군에 강요하고 있다고 주장했다.

트럼프의 발언은 정부의 AI 규제 접근 방식에 대한 의문을 제기했다. 그의 정권은 민주주의에 대한 ‘건강한 경시’를 보인다는 비판을 받았으며, 특히 선거의 신뢰성을 약화시키려는 시도와 AI 개발에 대한 서사 조절에 대해 비난을 받았다.

올해 초, 헤그셋은 특정 주제에 대한 보도 제한 서약에 동의하지 않은 기자들의 기자증을 박탈했다. 이 조치와 함께 트럼프의 최근 행동은 정권의 독재적 경향에 대한 우려를 불러일으켰다.

헤그셋은 안트로피크에게 군이 AI 모델을 무제한으로 사용하도록 허용하거나, 아니면 ‘공급망 위험’으로 지정되어 정부 계약을 잃을 수 있다고 경고했다. 이 요구는 안트로피크에게 큰 딜레마를 주었으며, 법적 조치를 감수하면서도 협력하거나 거부할 수 있는 선택을 강요했다.

오픈AI와 군의 협약

오픈AI의 최고경영자(CEO) 샘 알트먼은 금요일에 회사가 ‘전쟁부’와 협약을 맺어 분류된 작업에 AI 기술을 사용할 것이라고 발표했다. 협약의 조건에는 안트로피크가 원했던 것과 유사한 경계선이 포함되어 있었다. 알트먼은 군이 AI 개발에 대해 ‘안전에 대한 깊은 존중’을 보이고 협력 의지를 보였다고 칭찬했다.

오픈AI의 협약과 안트로피크의 거부 사이의 대비는 정권의 동기 부여에 대한 의문을 제기했다. 일부 분석가들은 정권이 안트로피크에 대해 이데올로기적 편견을 가지고 있을 수 있다고 보았다. 안트로피크는 오픈AI보다 더 ‘우커이’로 여겨지기 때문이다. 다른 사람들은 알트먼과 트럼프 사이의 개인적 관계가 협약을 성사시킨 요인일 수 있다고 추측한다.

아모디는 그러나 물러서지 않았다. 성명에서 그는 안트로피크가 정부를 상대로 소송을 제기할 것이라고 밝히며, 정권의 행동은 ‘미국의 원칙과 근본적으로 부합하지 않는다’고 지적했다. 그는 안트로피크가 원칙을 가지고 있으며, 정권이 미국의 가치관과 맞지 않는다고 강조했다.

이 갈등은 군과 민간 부문 사이의 AI 기술 통제에 대한 갈등을 드러내고 있다. AI가 계속 발전하면서, 누구에게 사용을 규제할지, 어떤 목적을 위해 사용할지를 묻는 문제는 여전히 시급한 과제이다.

이 상황은 AI가 국가 안보에 미치는 보다 넓은 영향에도 주목을 끌고 있다. 전문가들은 AI가 통제되지 않을 경우, 대규모 감시, 자율 무기, 민주주의 기관을 약화시키는 다른 용도에 사용될 수 있다고 경고한다. 트럼프 정권과 안트로피크 사이의 갈등은 AI 규제에 직면한 앞으로의 도전 중 하나에 불과하다.