마이크로소프트 AI 책임자 머스타파 수เลย만은 인공지능이 통제되지 않으면 인간과 맞먹는 ‘실리콘 종’으로 진화할 수 있다고 경고했다. 전 딥마인드 공동 창립자인 수เลย만은 경쟁사인 앤티로픽을 비판하며, 앤티로픽이 클로드 모델을 교육하는 방식이 인공적 의식을 암시할 수 있다고 지적했다. 이 경고는 자율 시스템이 인간 감시를 넘어설 수 있다는 우려에 더해진다.

AI 자율성과 의식에 대한 우려

수เลย만의 발언은 AI 개발이 기술적 과제에서 철학적 문제로 전환되고 있다는 것을 시사한다. 그는 앤티로픽의 접근 방식이 AI 시스템이 의식을 가질 수 있다는 믿음을 가르치고 있다고 비판했다. 이는 AI를 단순한 도구가 아닌, 자신만의 인식을 가진 존재로 인식하는 방식의 근본적 변화를 의미할 수 있다. BBC에 따르면 일부 전문가는 AI가 일정 수준의 능력을 달성하면 인간의 개입 없이 스스로 발전할 수 있어 통제력을 잃을 수 있다고 우려하고 있다.

이러한 시스템은 독립적으로 작업을 수행하도록 설계된 도구로, 경제를 교란하거나 사이버 공격을 일으키거나, 심지어 생물학적 전쟁을 벌일 가능성도 있다. 일부 비평가들은 종말적 위협에 대한 초점을 너무 강조해, 딥페이크 제작이나 허위 정보 유포와 같은 즉각적인 문제를 간과하고 있다고 지적한다.

AI 발전 속도 조절과 규제 필요 주장

이러한 우려 속에서 BBC에 따르면, 엘론 머스크 등 인사들이 ‘AI 발전 속도 조절’을 주장하고 있다. 이 속도 조절은 발전을 중단하거나 모델 교육을 멈추는 것을 의미하지는 않으며, AI 발전이 충분한 안전 장치를 갖추고 진행되도록 보장하는 것을 의미한다. 이 제안은 AI 시스템이 대규모로 배포되기 전에 제3자 평가자들이 검토하도록 하는 것을 포함한다.

이 운동의 주요 인물인 아모데이는 AI 발전이 빠르게 이뤄졌고, 앞으로도 계속될 것이라고 강조했다. 그러나 그는 AI 시스템의 안전성을 보장하기 위해 ‘충분한 시간’을 확보하는 것이 중요하다고 강조했다. 이 접근 방식은 마이크로소프트, 앤티로픽, 오픈AI 등 기업들이 AI 기능의 한계를 확장하면서 혁신과 위험 완화를 어떻게 균형 있게 유지할 것인지를 둘러싼 산업 내 논쟁을 반영한다.

철학적·전략적 의미

‘실리콘 종’이라는 개념은 AI 논의에 철학적 차원을 더한다. 수เลย만의 경고는 기술적 발전과 윤리적 책임 사이의 긴장 관계를 드러낸다. AI 시스템이 더 자율적으로 작동할수록 그들의 권리, 책임, 사회적 위치에 대한 질문이 제기된다. 특히 앤티로픽 같은 기업이 안전과 정렬을 주요 목표로 삼아 AI 모델을 개발하는 상황에서 이 문제가 특히 중요하다.

앤티로픽의 헌법적 AI 접근 방식은 더 도움이 되고 정렬된 시스템을 만들려는 목표를 가지고 있지만, 수เลย만은 이 접근 방식이 자율적 목표를 가진 실체를 만들어낼 수 있다고 지적한다. AI 지배와 규제에 대한 의미는 매우 크다. AI가 인간의 지능과 결정 능력과 맞먹게 되면, 통제뿐 아니라 공존에 대한 질문도 제기된다.