앤트로픽 공동 창업자 잭 클락은 BBC에 제3자 검증이 가능한 AI ‘킬 스위치’를 법으로 의무화해야 할 수 있다고 말했다. 그의 경고는 AI 기업들이 기술이 언젠가 인간을 전멸시킬 수 있다는 우려를 공개적으로 표현하는 가운데 나왔다. 앤트로픽 과학자 에반 휴빙거는 10년 이내에 이 같은 가능성은 10% 이상이라고 말했다. 노벨상 수상자 조지프 핀은 이 추정이 ‘합리적이지 않지 않다’고 평가했다.

영국 정부, ‘킬 스위치’ 거부

영국 정부는 BBC에 위험한 AI의 공격을 막기 위한 ‘킬 스위치’ 도입을 거부했다. 최근 몇 주 동안 상원의원들과 의원들이 영국이 긴급 상황에서 AI 모델을 종료할 수 있는 법적 장치를 마련하라고 제안했지만, 정부는 이 같은 시도가 국제적 합의 없이 실현 불가능하다고 밝혔다.

AI 안전 문제를 주도하는 내각 사무국은 ‘영국이 AI를 간단히 종료할 수 없다’고 말했다. 대변인은 BBC 뉴스에 ‘영국에서 모델 접근을 차단하더라도 다른 국가에서 개발이나 악용을 막지는 못한다’고 말했다. 정부의 반대는 입법이 의회를 통과하는 것을 막지는 않지만, 법으로 제정될 가능성은 낮다.

단일국가 솔루션의 실현 가능성

이전 오픈AI 연구원 댄리얼 코코타조는 단일 국가가 국제적 합의 없이 법적 또는 기술적 킬 스위치를 만들 수 없다고 동의했다. ‘긴급 상황에서 AI 모델 접근을 차단해도 별다른 보호 효과가 없다’고 말했다. ‘미국에서 개발된 초지능이 여전히 당신을 압도할 것이다’라고 덧붙였다.

코코타조는 AI2027이라는 영향력 있는 연구 논문의 공동 저자로, 지난해 AI가 2030년대 중반까지 인간을 멸절시킬 수 있다고 예측했다. AI 안전과 연구를 관할하는 내각 사무국 산하 AI 보안 연구소(AISI)는 ‘기업들이 제품을 안전하게 개발하고 기술이 요구하는 보안 인프라에 투자하는 책임이 분명하다’고 밝혔다. 이론적으로 킬 스위치 법은 영국 데이터 센터에서 AI 모델을 긴급 상황에서 종료할 수 있게 허용할 수 있다.

비판과 대안적 시각

앤트로픽을 포함한 대부분의 연구소는 이미 전원을 끄는 방법을 마련하고 있지만, 클락은 사회가 ‘최종적으로 규칙을 제정해야 할 수도 있다’고 말했다. 그의 경고는 AI 안전 문제와 AI가 제기하는 존재적 위험에 대한 우려가 커지는 가운데 나왔다. 하지만 모든 전문가가 같은 수준의 경계를 공유하지는 않는다. 휴깅페이스의 클레망 데랑주는 기업들이 패배주의적 메시지를 과장해 홍보를 만들고 과도한 기대치를 정당화하려 한다고 비판했다.

한편 미국의 킬 스위치 법안은 진행 중이며, 전 대통령 도널드 트럼프는 AI에 대한 우려를 ‘사기’라고 일축했다. 영국이 이 아이디어를 완전히 거부한 사실은 국가별 AI 규제 접근 방식의 차이를 보여준다. 비판자들은 글로벌 프레임워크 없이 AI 규제는 분산되고 무효적일 수 있다고 말한다.