샌프란시스코에 기반을 둔 인공지능 스타트업 안트로피크는 최신 AI 모델인 클라우드 마이토스가 소프트웨어 약점을 효과적으로 탐지한다는 점에서 높은 성능을 보였다고 가디언이 보도했다. 이 모델은 이미 수천 개의 보안 패치가 없는 일반적으로 사용되는 애플리케이션의 취약점을 발견했으며, 이에 따라 회사는 보안 전문가들과 협력해 방어력을 강화하고 모델의 배포를 제한하기로 했다.

보안 전문가에게만 제공

안트로피크 랩스의 마이크 크리거는 샌프란시스코에서 열린 휴먼엑스 AI 컨퍼런스에서 이 모델을 일반 대중에게 공개하지 않기로 했다고 밝혔다. 대신 보안 전문가와 오픈소스 엔지니어들이 마이토스를 사용해 방어 도구로 활용할 수 있도록 허락했다. 크리거는 이로써 보안 전문가들을 사전에 무장시킬 수 있다고 설명했다.

AI 모델의 기능 발전은 해커들이 비밀번호를 발견하거나 데이터 보안을 위한 암호화를 해제하는 데 사용할 수 있다는 우려를 불러일으켰다. 가디언에 따르면, 마이토스가 발견한 가장 오래된 취약점은 27년 전에 존재했으며, 이는 원래 개발자들이 인지하지 못했던 것으로 드러났다.

보안 위험과 협력 노력

클라우드 마이토스는 안트로피크의 클라우드 시리즈 AI 모델의 최신 버전이다. 그러나 최근 일부 코드가 유출되자, 스타트업은 과거의 보안 위험을 경고하는 블로그 글을 발표했다. 안트로피크는 블로그에서 AI 모델이 소프트웨어 취약점을 발견하고 악용하는 데 있어 대부분의 전문가를 뛰어넘는 수준에 도달했다고 밝혔다. 경제, 공공 안전, 국가 안보에 미칠 수 있는 영향은 심각할 수 있다고 전했다.

가디언에 따르면, 마이토스가 드러낸 취약점은 대부분 미세하고 AI 없이는 감지하기 어려운 것으로 나타났다. 예를 들어, 마이토스는 비디오 소프트웨어에 존재했던 이전에는 발견되지 않았던 결함을 발견했으며, 이는 개발자들이 500만 번 이상 테스트한 것으로 확인됐다.

예방 조치 차원에서 안트로피크는 클라우드 마이토스의 버전을 썬더스트라이크, 팔로 알토 네트워크 등 보안 회사들과 아마존, 애플, 마이크로소프트 등 기업들과 함께하는 프로젝트인 ‘글라스윙’에 제공했다. 네트워크 기업인 시스코와 브로드컴도 이 프로젝트에 참여했으며, 리눅스 재단도 포함돼 있다. 이 재단은 무료 오픈소스 리눅스 운영체제를 촉진한다.

협력 프로젝트와 자원 투입

시스코의 최고 보안 및 신뢰 책임자 앤서니 그리코는 글라스윙에 대한 공동 발표에서 이 작업은 너무 중요하고 급한 만큼 혼자서는 할 수 없다고 밝혔다. 그는 AI 기능이 기존 인프라를 보호해야 할 시급성을 근본적으로 바꾸는 수준에 이르렀으며, 이는 되돌릴 수 없다고 덧붙였다.

컴퓨터 시스템의 설계, 유지보수, 운영에 관여하는 약 40개 기관이 글라스윙에 참여했다고 알려졌다. 안트로피크에 따르면, 프로젝트 파트너들은 마이토스의 발견 내용을 공유할 예정이다. 이 회사는 이 프로젝트에 약 100억 달러 규모의 컴퓨팅 자원을 제공할 예정이다. 그리코는 초기 AI 모델 작업을 통해 소프트웨어와 하드웨어 취약점을 이전에는 불가능했던 속도와 규모로 발견하고 수정할 수 있다는 점을 강조했다.

썬더스트라이크의 최고 기술 책임자 엘리아 자이츠브는 취약점이 발견된 후 해커에 의해 악용되는 시간이 사라졌다고 밝혔다. 과거에는 수개월이 걸렸지만, AI를 통해 지금은 몇 분 안에 이루어진다. 그는 클라우드 마이토스 프리뷰가 방어자들이 대규모로 수행할 수 있는 가능성을 보여주며, 적대자들도 이와 같은 기능을 악용하려 할 것이라고 덧붙였다.

안트로피크는 마이토스에 대해 미국 정부와 논의를 진행하고 있다. 그러나 화이트하우스는 2월에 안트로피크와의 모든 계약을 종료하라는 지침을 내렸다. 이 지침은 안트로피크가 법적 소송을 진행하는 동안 연방 법원 판사에 의해 일시 중단됐다.