안트로피크는 클라우드 마이토스를 ‘클라우드’라는 대규모 AI 시스템의 일부로 개발했다. 이 시스템에는 안트로피크의 AI 어시스턴트와 오픈AI의 챗GPT, 구글의 지미니와 경쟁할 수 있는 모델군이 포함되어 있다.

안트로피크는 4월 초 ‘마이토스 프리뷰’라는 이름으로 이 모델을 공개했으며, 컴퓨터 보안 작업에서 매우 뛰어난 능력을 보여주었다고 설명했다. 그러나 특정 요청에 AI 모델을 테스트하는 레드팀 연구자들은 마이토스가 수십 년 전 코드에 숨은 버그를 쉽게 찾아내고 이를 악용할 수 있다는 점을 발견했다.

이러한 능력으로 인해 안트로피크는 마이토스를 일반 사용자에게 제공하지 않았다. 대신 ‘글라스윙 프로젝트’라는 이니셔티브를 통해 12개 주요 기술 기업에 접근 권한을 부여했다. 이 프로젝트는 마이토스에 대응해 세계 최중요 소프트웨어를 보호하는 것을 목표로 하고 있다.

글라스윙 프로젝트에 참여한 기업에는 아마존 웹 서비스(AWS), 애플, 마이크로소프트, 구글, 엔비디아, 브로드컴, 크라우드스트라이크 등 주요 기술 기업이 포함되어 있다. 또한 안트로피크는 40개 이상의 중요한 소프트웨어를 담당하는 기관에도 접근 권한을 제공했다.

왜 우려가 있는가?

안트로피크는 테스트 과정에서 마이토스가 사이버보안 및 해킹 작업에서 인간을 능가했다고 밝혔다. 이 모델은 거의 감독 없이 오래된 시스템의 중대한 버그를 찾아내고 이를 악용할 수 있는 방법을 제안할 수 있다. 이 중 하나의 취약점은 시스템에 27년간 존재해 있었다.

캐나다 재무장관 프랑수아-필립 캐몽은 워싱턴 DC에서 열린 국제통화기금 회의에서 마이토스 관련 논의를 언급하며, 이는 재무장관들에게도 충분히 심각한 문제라고 말했다.

잉글랜드 중앙은행장 앤드류 베일리도 BBC에 이 최신 AI 개발이 사이버 범죄에 미칠 수 있는 잠재적 위험을 신중히 검토하고 있다고 밝혔다. 한편 유럽 연합(EU)도 안트로피크와 마이토스 관련 우려에 대해 논의하고 있다.

안트로피크의 CEO 다리오 아모데이는 미국 정부 관료들과 협력해 이러한 모델과 관련된 위험을 방어하는 데 도움을 주고자 한다고 말했다. 글라스윙 프로젝트 출시와 함께 발표한 영상에서 아모데이는 잠재적 위협에 대응하기 위해 협력의 필요성을 강조했다.

사이버 전문가들은 무엇이라고 했는가?

영국 국가 사이버보안센터 전직 책임자 시어런 마틴은 마이토스가 다른 AI 모델보다 더 빠르게 중대한 취약점을 발견할 수 있다는 주장이 ‘사람들을 진짜로 놀라게 했다’고 말했다.

그는 마이토스가 본질적으로 ‘매우 뛰어난 해커’라고 말하며, 기관이 패치하지 않은 기존 취약점을 악용할 수 있다고 덧붙였다. 그러나 많은 독립 사이버보안 분석가들은 아직 마이토스를 직접 테스트하지 않았으며, 그 성능에 대해 회의적인 태도를 보이고 있다.

영국 AI 안전 연구소는 최근 마이토스가 매우 강력한 모델이지만, 가장 큰 위협은 보안이 취약한 시스템에 있을 것이라고 결론 내렸다. 이론적으로 기본적인 사이버보안 조치가 마련되어 있다면 이 모델은 차단될 수 있다.

AI에 대한 우려는 새로운 것이 아니며, 새로운 모델과 도구의 개발은 자주 일어난다. 이들은 종종 우리의 삶을 더 나아지거나 악화시킬 수 있는 혁명적인 변화를 약속한다. 이러한 두려움과 흥분의 혼합은 AI 분야와 마케팅 전략의 특징이 되었다.

마이토스의 경우, 아직 이 희망이나 두려움이 정당화되는지, 아니면 산업의 홍보에 따른 과장인지 여부를 판단할 수 있는 정보가 부족하다. 국가 보안 사이버보안 센터에 따르면, 현재 우리가 할 수 있는 가장 중요한 일은 공황하지 않고 기본적인 사이버보안을 확보하는 데 집중하는 것이다.

대부분의 해커는 시스템을 침해하기 위해 초고성능 AI 도구가 필요하지 않다. 수많은 간단한 공격이 충분하기 때문이다. 마틴은 BBC에 일부는 이 일을 종말론적인 사건으로 보지만, 다른 이들은 이는 대부분 홍보에 불과하다고 말했다. 또한 그는 이 도구가 안트로피크나 경쟁사들이 만든 이후의 도구이건 간에, 더 안전한 온라인 세상을 만들기 위한 기회가 있다고 덧붙였다.

중기적으로, 마틴은 이러한 도구를 사용해 인터넷의 근본적인 취약점을 수정할 기회가 있다고 말했다.