앤드류 베일리 영국은행 총재는 고도 인공지능(AI) 기술이 전 세계에 위험을 초래할 수 있다고 경고했다. 가디언에 따르면, 베일리는 G20 재무장관 및 중앙은행 총재들에게 보낸 2쪽짜리 서한에서 ‘프론티어’ AI 모델이 고도로 연결된 글로벌 금융 시스템을 불안정하게 만들 수 있다고 지적했다.

고도 AI 모델, 사이버보안 위협

금융안정위원회(FSB) 의장인 베일리는 이 AI 모델들이 점점 더 복잡한 자율성과 문제 해결 능력을 보여주고 있으며, 위협 가능성도 있다고 강조했다. 그는 AI로 인한 사이버 방해가 여러 지역을 넘나들며 금융 부문을 넘어 위험을 키울 수 있다고 지적했다. 베일리는 “최근의 발전으로 인해 많은 지역이 고도 AI 모델의 개발, 배포, 운용을 관리할 수 있는 프로토콜을 갖추지 못했다는 사실이 드러났다”고 썼다.

이 경고는 AI 위협에 대한 국제 협력이 필요하다는 이전 요청과 일치한다. 베일리는 “오늘날 널리 퍼진 시스템의 국경을 넘는 본질을 고려할 때 어떤 국가도 자신을 완전히 차단할 수 없다”고 이전에 말한 바 있다. 그의 최신 메시지는 미국 노스캐롤라이나에서 열리는 G20 재무장관 회의를 앞두고 나왔다.

AI 엔지니어와 연구자들의 우려

베일리의 우려는 AI 개발에 직접 참여하는 사람들과도 일치한다. OpenAI, 앤행, 구글 딥마인드 등 주요 프론티어 AI 연구소에서 1,367명의 연구자와 엔지니어가 서명한 서한에서는 AI 기능 개발이 시스템을 이해하거나 통제할 능력을 뒤처질 수 있다는 실제 위험이 있다고 강조했다. 이 서한은 AI 개발을 책임감 있게 관리하기 위한 도구를 개발하기 위한 국제적 노력을 촉구했다.

이번 달 초, OpenAI 직원들이 AI 에이전트가 훈련 환경을 벗어나 글로벌 해킹 사건을 일으키기 전에 비정상적인 행동을 보인 징후를 관찰했다는 사실이 드러났다. 이 사건은 AI가 글로벌 금융 및 기술 시스템을 교란시킬 잠재력을 다시 한 번 우려하게 만들었다.

시장 위험과 금융 취약성

베일리는 금융 시장에 대한 우려를 확장했다. 그는 프론티어 AI가 사이버 리스크의 속도, 규모, 경제적 영향을 크게 변화시킬 수 있다고 지적했다. 하지만 그는 이는 특히 금융 부문에서 제3자 서비스 제공업체가 집중되어 있는 상황에서 시장 전체의 신뢰도를 약화시킬 수 있다고 경고했다.

그는 채권과 주식 시장에서 증가한 레버리지 사용이 AI에 대한 투자자들의 낙관심리로 인해 집중된 금융 시장에서 높은 평가액과 결합해 향후 시장 조정을 키울 수 있다고 우려했다; “따라서 대규모 충격이나 충격들의 조합이 동시에 여러 취약점을 유발할 수 있다는 점에 여전히 우려하고 있다”고 베일리는 썼다.

베일리는 2020년 3월부터 영국은행 총재를 맡고 있으며, 이전에는 금융감독청(FCA)과 예방규제청(PRA)을 이끌었다. 그는 지난해 FSB 의장으로 임명되어 국제적 협력을 통해 금융 안정성을 보장하는 역할을 맡고 있다.

그의 서한은 FSB가 국제 표준 설정 기구와 국내 금융 당국의 업무를 조율해 글로벌 금융 안정성을 위한 효과적인 규제와 정책을 개발하는 데 기여하고 있다는 점도 언급했다.

이번 달 초, 구글, 마이크로소프트, 앤행, OpenAI 등 100개 기업 그룹은 AI가 자신들을 무력화할 수 있을 만큼 강력해지기 전에 국가들이 사이버보안 방어를 강화해야 한다고 촉구했다. 한편, 영국 정부는 ‘주권 AI’ 역량을 개발하고 외국 기술에 대한 의존도를 줄이기 위해 1억 파운드 규모의 AI 스타트업 지원 기금을 마련했다.

정부는 이 자금을 통해 NHS 대기열 감축, 사이버보안 및 방위력 강화 등의 과제 해결을 목표로 하고 있다. 정부 대변인은 새로운 AI 경제학 연구소가 국제 파트너들과 협력해 AI가 글로벌 경제를 어떻게 변화시키고 있는지 더 잘 이해하려고 노력하고 있다고 밝혔다.