앤티크롭은 금요일 밤 미국 정부가 Fable 5와 Mythos 5 모델의 외국인 사용을 중단하는 수출 통제 지침을 내렸다고 밝혔다. 이 지침은 미국 내 거주 외국인과 회사 직원도 포함된다. Nextgov/FCW에 따르면, 이 지침은 모델 사용을 일시 중단하도록 앤티크롭을 압박하고 있다. 다른 모델은 영향을 받지 않는다.

AI 모델 취약점 우려

이 조치는 정부가 최첨단 AI 모델 접근을 통제하려는 가장 강력한 조치 중 하나다. Nextgov/FCW에 따르면, 이 조치는 앤티크롭 시스템이 해킹될 가능성에 대한 우려에서 비롯됐다. 액시오스에 따르면, 상무부는 다른 회사가 Mythos 5를 해킹했다고 주장한 뒤 국가 보안 위험에 대해 경고했다.

앤티크롭은 정부의 근거에 반박하며, 우려 사항이 좁은 범위에 머무르며 모델 접근을 일괄 중단하는 것은 정당화되지 않는다고 밝혔다. 블로그 게시물에서 앤티크롭은 “정부는 지금까지 구두로 알려준 한정적이고 보편적이지 않은 해킹 사례에만 근거하고 있습니다. 이는 모델에게 특정 코드베이스를 읽고 소프트웨어 결함을 수정하도록 요청하는 것에 불과합니다.”라고 밝혔다.

기업 대응과 예방 조치

AOL.com에 따르면, 앤티크롭은 미국 국가 보안 당국이 구체적인 우려 사항을 제시하지 않았다고 밝혔다. 회사는 “정부는 Fable 5 시스템을 우회하거나 ‘해킹’할 수 있는 방법을 인지했다고 믿고 있습니다.”라고 말했다. 해킹은 사이버 네트워크 보호를 위한 소프트웨어 제한을 우회하는 것을 말하며, 해커가 민감 정보에 접근하거나 기능을 해제할 수 있다.

앤티크롭은 이 기술이 사용되는 시연을 검토한 결과, 알려진 사소한 취약점 몇 가지를 드러냈다고 밝혔다. 회사는 이 취약점이 상대적으로 간단하며, 공개된 다른 모델도 우회 없이 발견할 수 있다고 설명했다. Claude Fable 5 출시 전, 앤티크롭은 사이버 해킹을 방지하기 위한 다양한 보호 조치를 강조했다.

금융, 기술, 정부 관계자들은 4월 사내 시스템에서 취약점을 확인하고 테스트하기 위한 사전 출시 이후, 도구의 공개 출시에 우려를 표했다. 앤티크롭은 도구가 너무 똑똑해서 컴퓨터 시스템을 해킹하거나 악용할 수 있기 때문에 일부 기관에 사전 사용 권한을 제공했다.

법적 갈등과 대중 인식

AOL.com에 따르면, 앤티크롭과 트럼프 행정부는 정부 기관이 회사의 AI 도구를 사용하는 것을 중단하라는 지침에 대해 별도의 소송을 벌이고 있다. BBC는 미국 상무부에 논평 요청을 보냈다.

앤티크롭은 Claude Fable 5 공개 전 “너무 강력해서 출시할 수 없다”고 자칭했으며, 일부 비판자는 이 주장이 과장되고 마케팅적인 표현이라고 지적했다. 회사의 공개 출시는 워싱턴 정책 결정자들 사이에서 AI 안전성에 대한 공개적 약속으로 인해 주목받는 가운데 이뤄졌다.