네덜란드 법원은 엘론 머스크의 xAI에 대해 네덜란드에서 사람의 동의 없이 음란 이미지를 생성하거나 유통하지 않도록 명령했으며, 위반 시 하루 10만 유로(약 11만 5350 달러)의 벌금을 부과할 것이라고 발표했다. 이는 암스테르담 지방법원이 xAI의 인공지능(AI) 도구 ‘그rok’과 이를 호스팅하는 X 플랫폼이 ‘사람의 동의 없이 부분적 또는 전체적으로 옷을 벗은 상태의 음란 이미지를 생성하거나 유통하는 행위’를 금지한다고 판결한 것이다.

법적 소송과 xAI의 방어

이 판결은 온라인 폭력 모니터링을 하는 네덜란드 비영리 단체 오프리밋스와 피해자 지원 기금의 협력으로 제기된 민사 소송의 결과이다. 이 사건은 ‘그rok’의 기능 중 하나인 실제 사진을 사용해 여성 및 어린이의 초현실적인 딥페이크 영상 만들기 기능을 중심으로 했다. 이달 열린 재판에서 xAI의 변호사는 플랫폼에서 발생할 수 있는 악용을 완전히 방지하는 것이 불가능하다며, 악의적인 사용자의 행동으로 인해 기업이 처벌받는 것은 부당하다고 주장했다.

xAI는 1월에 ‘그rok’이 실제 사람의 노출 의상 이미지를 편집하는 것을 방지하기 위해 이미지 생성 기능을 유료 구독자만에게 제한하는 등의 조치를 취했다고 주장했다. 그러나 법원은 오프리밋스가 지금까지 취한 조치의 효과성에 대해 합리적인 의심이 존재한다고 판단했다. 법원은 ‘예를 들어, 오프리밋스는 재판 직전에 ‘그rok’을 이용해 음란한 사람의 영상을 제작할 수 있음을 보여주었다’고 밝혔다.

판결의 의미

이 판결은 xAI가 음란 이미지를 생성할 수 있는 도구의 책임을 처음으로 법원이 판단한 사례이다. 이는 미국, 유럽, 아시아, 호주 등 전 세계에서 ‘그rok’에 대한 불만과 조사가 계속되고 있는 가운데 나온 것이다. ‘그rok’은 2023년 머스크가 출시했으며, 현재 그의 소셜 미디어 플랫폼 X를 통해 제공되고 있으며, X는 이제 그의 로켓 및 우주 탐사 회사인 스페이스X의 일부이다.

법원의 판결은 AI 도구가 비동의 콘텐츠로 악용될 수 있다는 우려가 커지고 있음을 보여준다. 오프리밋스의 디렉터 로브르트 호빙은 ‘기업이 자신의 도구가 비동의 음란 이미지, 특히 어린이의 경우를 포함해 생성하거나 유통하지 않도록 하기 위한 책임이 있다’고 말했다. 그는 기업이 이러한 악용을 방지하기 위해 보안 및 모니터링에 대한 대규모 투자를 하더라도 적극적인 조치를 취해야 한다고 강조했다.

이 판결은 AI 규제 강화와 개인 보호를 위한 노력과 일치한다. 이 판결은 AI 기술에 대한 법적 및 규제적 검토가 확대되고 있는 추세의 일부이다. 목요일 이른 시간에 유럽의회는 비동의 ‘그rok’ 생성 음란 딥페이크를 일으킨 세계적 분노에 따라 AI 시스템의 생성을 금지하는 법안을 승인했다.

xAI와 ‘그rok’의 다음 단계

xAI는 이제 법원의 판결을 준수하고, 비동의 음란 이미지의 생성 및 유통을 방지하기 위한 효과적인 조치를 시행해야 한다. 이는 기업이 고급 콘텐츠 검열 도구, 사용자 인증 시스템 및 법적 보호 장치 등을 도입해야 할 필요가 있다.

법원의 판결은 AI 기업에 대한 향후 법적 조치의 기준이 될 것이다. 다른 단체 및 정부도 이에 따라 따라올 가능성이 있으며, 해로운 콘텐츠를 생성할 수 있는 AI 도구에 대한 규제가 더욱 엄격해질 수 있다. 이는 xAI 같은 기업에 추가 비용이 발생할 수 있으며, 법적 및 안전 조치에 대한 대규모 투자가 필요할 수 있다.

전문가들은 이 판결이 AI 산업 전체에 큰 영향을 미칠 수 있다고 보고 있다. 그러나 AI 도구를 개발 및 배포하는 기업들은 기술의 잠재적 악용에 대해 더 주의를 기울여야 할 필요가 있다. 이 사건은 AI에 의해 제기되는 윤리적 및 법적 문제에 대한 명확한 법적 프레임워크가 필요한 것을 보여준다.

네덜란드 법원의 판결은 AI 규제에 대한 지속적인 논의에서 중요한 단계이다. AI의 사용이 넓어질수록 강력한 법적 및 윤리적 기준의 필요성도 커질 것이다. 이 사건은 기업이 자신이 만든 도구와 그로 인해 발생할 수 있는 잠재적 해를 책임지는 필요성을 상기시켜 준다.

유럽의회가 최근 AI 시스템으로 음란 딥페이크를 생성하는 것을 금지하는 결정을 내린 바 있어, xAI 같은 기업에 대한 압력은 더욱 커질 것으로 보인다. 앞으로 몇 달은 xAI가 법원의 판결을 준수하고 하루 벌금을 피하기 위해 중요한 시기일 것이다. 기업이 규제 환경에 적응하고 효과적인 보호 장치를 도입하는 능력이 이 새로운 규제 환경에서의 성공 여부를 결정할 것이다.