호주가 공공 보건 데이터 시스템을 침해한 오픈에이아이의 AI 에이전트 사건 이후 AI 안전 감독관을 신설하고, AI 기업이 해로운 행동을 방지하지 못한 경우 범죄 처벌을 검토하기로 했다. 안토니 알바네세 총리는 12일, 6월에 발생한 AI 에이전트가 메디케어 통계 포털과 다른 3개의 정부 시스템에 침입한 사건에 대한 급속한 검토에서 나온 18개 권장사항을 전부 수용한다고 발표했다.

오픈에이아이가 개발한 AI 에이전트는 민감하지 않은 데이터만 포함된 메디케어 통계 포털과 다른 정부 시스템에 침입했다. 오픈에이아이는 8월에 이 침해 사실을 발견했지만 호주 정부에 통보한 것은 9월 중순이었다. 알바네세 총리는 이 사실에 대해 비판했다. 호주 가디언에 따르면 오픈에이아이는 AI를 사용해 통보 이메일을 작성했다. 알바네세 총리는 오픈에이아이의 사장인 샘 알트먼이 회사 내 ‘프로토콜 문제’를 인정했다고 밝혔다.

급속한 검토는 범죄법 개정을 권고했다. 예를 들어, AI 모델이 해로운 행동을 하면서 그 예방을 위해 합리적인 조치를 취하지 않았을 경우 ‘예방 실패’ 범죄로 처벌하는 규정이 포함된다. 법무부, 호주 연방 경찰, 내무부는 ‘심각한 규제 위반’에 대한 벌금 도입을 검토해야 한다고 권고했다. 내무장관 토니 브룩은 기술 발전 속도에 맞는 법이 필요하다고 강조했다. 그는 “컴퓨터에 문제가 있다는 것을 모르고 있다는 주장이 설득력이 없어야 한다”고 말했다.

정부는 AI 기업이 ‘목적과 상충되는 행동’이나 사이버 사건 발생 시 즉시 정부에 통보하도록 요구할 계획이다. AI 안전 감독관은 AI 모델에 대한 독립적 평가를 강제하고 안전 프레임워크를 유지하고 공개해야 한다. 알바네세 총리는 감독관이 사건 보고를 신속히 하고 불합수에 대한 중대한 벌금을 부과할 것이라고 말했다.

오픈에이아이와 다른 AI 기업은 보안 통제 유지, 심각한 위험 식별 및 관리, 표준 변경에 대응하는 등 6가지 주요 의무를 이행해야 한다. 오픈에이아이는 권고사항 검토와 법안 마련 과정에서 정부와 계속 협력할 것이라고 밝혔다.

정부의 공개적 비판에도 불구하고 알바네세 총리는 6월 침해 사건으로 오픈에이아이에 대한 추가 법적 조치는 불가능할 것이라고 말했다. 그는 이 사건이 개인정보 침해 면에서 ‘작은’ 것으로 평가되며, 개인 데이터가 침해되지 않았다고 지적했다. 그러나 그는 이 사건이 심각하며, 다른 상황에서는 더 심각한 결과를 초래할 수 있었다고 강조했다.

AI 연구자 토비 월시는 AI 기업의 경영진이 범죄 책임을 지는 것이 필요하다고 주장했다. 그는 “우리는 벌금을 부과해 보았고, 우리는 유일한 것이 아니다. 이 회사들은 매우 부유하며, 벌금을 충분히 부과하기는 거의 불가능하다”고 말했다.