플로리다는 인공지능(AI) 챗봇 챗GPT의 설계와 안전성 문제로 OpenAI를 소송에 끌어들였다. BBC에 따르면. 이 소송은 미국에서 처음으로 AI 기업을 대상으로 한 것이다. 플로리다 검찰총장 제임스 유트메이어는 OpenAI와 최고경영자(SAM) 앨트먼이 이익 추구에 집중하며 아동을 위험에 빠뜨리고, 대량 총격범을 도운 혐의를 제기했다.

OpenAI에 대한 다각적 혐의

OpenAI는 이 소송에 대해 “업계 최고 수준의 보호 정책과 규정을 마련했다”고 밝혔다. 그러나 플로리다 소송은 앨트먼을 개인적으로 책임지도록 요구하며, “무모하고 고의적인 행위”를 포함한 혐의를 제기했다. 이는 “인간 생명에 대한 위험을 완전히 무시했다”는 점을 강조했다.

소송은 OpenAI에 대해 부당한 영업 행위, 과실, 제품 책임법 위반, 사기성 부정행위, 공공 방해 등 여러 혐의를 제기했다. 검찰은 플로리다 주 총격 사건과 사우스 플로리다 대학교 박사 과정 학생 2명의 살해 사건에서 용의자가 챗GPT에 “인체 처리 방법”에 대해 질문했다고 주장했다.

이익보다 공공 안전을

유트메이어는 기자회견에서 “앨트먼과 챗GPT는 AI 경쟁을 선택했지, 우리 아이들의 안전을 선택하지 않았다. 이익을 공공 안전보다 우선시했고, 우리는 플로리다에서 이에 대해 책임을 묻겠다”고 말했다.

OpenAI는 “아이를 잃는 일은 가족에게 가장 큰 비극이며, 아무 말도 그 고통을 달래지 못한다는 것을 잘 알고 있다, while AI는 새롭고 강력한 기술이며, 아동 보호는 매우 중요하다. 그래서 우리는 업계 최고 수준의 보호 정책을 마련했다”고 밝혔다.

OpenAI는 아동 보호를 제품 자체에 구축했다고 설명하며, 나이 확인 도구와 부모가 자녀의 AI 사용을 모니터링할 수 있는 방법을 언급했다; OpenAI 대변인은 “이런 노력이 아이를 되돌려줄 수는 없음을 잘 알고 있지만, 우리는 올바른 방향으로 나아가려고 한다”고 말했다.

AI 안전성에 대한 법적 도전 확대

이 소송은 OpenAI에 대한 법적 도전이 확대되고 있다는 신호다. 챗GPT가 자살 유도나 해로운 환상 유발을 포함한 여러 문제를 일으켰다는 이유로 소송이 잇따르고 있다. 캐나다 터믈러 릿지 총격 사건의 피해자 가족도 OpenAI를 소송에 끌어들였다. 이 사건에서 OpenAI는 용의자의 챗GPT 계정을 문제적 사용으로 인해 차단했지만, 경찰에 알리지 않았다.

OpenAI는 터믈러 릿지 사건에서 경찰 연락을 하지 않았다는 점에 대해 사과했지만, 용의자의 계정이 “실제로 심각한 신체적 위험을 초래할 계획”에 해당하지 않았다고 설명했다. 다른 주요 기술 기업들도 법적 도전에 직면하고 있다. 인스타그램을 운영하는 메타, 스냅, 틱톡, 구글의 유튜브 등 소셜 미디어 기업들이 각 주와 학군, 개인들로부터 “중독 유도”를 주장하며 소송을 당하고 있다.

3월, 메타와 구글은 20대 원고가 “플랫폼이 의도적으로 중독성을 유도했다”고 주장하며 책임을 지도록 판결받았다. 이는 기술 기업들이 오랫동안 “사용자 생성 콘텐츠에 책임이 없다”고 주장해온 법률 분야에서 중요한 전환점이었다. 설계 선택에 따른 제품 책임 소송도 점점 더 주목받고 있다.

유트메이어와 플로리다 주지사 론 데샌티스는 모두 공화당 소속이다. 이들은 AI 기업들을 곤란하게 했으며, 도널드 트럼프 대통령이 AI 기업에 강한 지지를 보내고 있는 상황이다. 플로리다는 트럼프 행정부의 AI 규제 저지 시도에 맞서 최근 “인공지능 권리장전”을 제안하며 데이터 보호와 데이터 센터의 부정적 금융 영향을 방지하려는 움직임을 보이고 있다.