오픈AI 최고경영자 사무엘 알트먼은 10일 샌프란시스코에서 열린 세일즈포스 주최 행사에서 인공지능(AI) 기술의 위험성에 대한 우려는 정당하지만, 기업이 이를 관리할 수 있다고 말했다. 알트먼은 AI 기술의 빠른 발전 속도를 언급하며 “이 기술이 잘못될 수 있다는 상상을 위해 과거보다 상상력이 덜 필요하다”고 밝혔다. 그는 “세계가 이 기술에 두려움을 느끼는 것은 당연하다”고 인정했다.

AI 위험성 인식

그러나 AI 기업이 스스로 규제하는 것만으로는 부족하다는 지적이 나왔다. 민주당 소속 버니 샌더스 상원의원과 전 트럼프 참모 스티브 반은 AI 기업의 자율 규제를 반대하며 더 강력한 정부 규제가 필요하다고 주장했다.

정치와 산업계의 시각

도널드 트럼프 전 대통령은 AI 안전성에 대한 우려를 “사기”라고 비판했다. 그는 “유일한 필요한 가이드라인은 강하고 똑똑한 대통령”이라고 말했다. 한편, 미국 의회에서는 AI 규제에 대한 합의가 이뤄지지 않고 있다. 의원들은 여름 휴회를 마쳤지만, 새로운 안전 관련 입법은 가까운 시일 내 나올 가능성이 낮다. 하원은 이번 주말을 끝으로 중간 선거 전까지 또다시 휴회에 들어선다.

산업계 반응과 주의 촉구

알트먼의 발언은 앤서로픽 연구원이 AI가 10년 안에 ‘인류를 멸망시킬 수 있다’고 주장한 글이 퍼진 이후 나왔다. 일부 전문가들은 이 평가에 동의했지만, AI가 실제로 어떻게 그런 결과를 가져올 수 있는지 설명하지는 않았다. 메타 최고경영자 마크 저커버그는 AI 기업이 안전을 위한 조치를 취할 능력과 동기를 가지고 있다고 말했다. 그는 X에 “정렬 문제에 주의하지 않는 연구소는 뒤처질 것”이라고 썼다.

정렬은 인간의 윤리적 아이디어와 원칙을 AI에 반영하려는 분야다. 샌더스와 반을 포함한 일부 정치 인사들은 AI 기업이 자율 규제를 맡기는 것에 반대하고 있다. 엔비디아 최고경영자 젠슨 황은 같은 행사에서 AI 기업이 기술의 새로운 버전을 언제 출시할지 결정해야 한다고 말했다. 그는 “새로운 법이나 규제는 필요하지 않다”며, 혁신 속도와 AI 안전성 사이에서 ‘거짓 선택’이 필요하지 않다고 강조했다.

최근 산업계 내부에서 AI 개발에 대한 주의가 높아지고 있다. 앤서로픽 최고경영자 데리오 아모데이는 AI 개발 속도를 늦추고 정부 규제가 필요하다고 주장했다. 그의 발언은 알트먼, 구글 딥마인드 공동창업자 데미스 해사비스, 일론 머스크의 지지를 받았다. 일부 산업계 인사는 AI에 대한 우려가 과장되어 투자 유치를 위한 홍보 수단이 되고 있다고 말했다. 행사에서 알트먼은 AI 도구를 업무에 활용하고, AI 기반 사이버 공격으로부터 기업을 보호하라고 참가자들에게 당부했다.

앤서로픽의 잭 클락 부사장은 BBC에 “AI 산업을 규제하지 않는 것은 ‘엄청난 위험을 놀이처럼’ 하는 것과 같다”고 말했다. 로직 인텔리전스 최고운영책임자 패트릭 힐먼은 기술 기업이 공공 이익을 고려하지 않는다는 점에서 사람들의 신뢰가 낮다고 지적했다. 오픈AI와 앤서로픽의 리더들은 산업 전반의 안전 협약을 추진 중이다. 아모데이는 앤서로픽이 ‘산업 전체와 대화 중’이라며, AI 도구와 개발 과정에 대한 더 나은 안전 기준을 채택할 것을 제안했다.

오픈AI의 크리스 레하네 부사장은 회사가 정부 지원이 있는 경우든 없는 경우든 다른 AI 연구소들과 협력해 ‘프론티어 AI 기준’을 발전시키고 있다고 말했다. 이 연구소에는 앤서로픽과 구글 딥마인드가 포함된다. 그는 “위험이 이만큼 크다면 완벽을 기다리다 좋은 결과를 놓치지 말아야 한다”고 썼다.