캐나다 어머니가 오픈AI와 사장 사무엘 알트먼을 미국 법원에 제소했습니다. 소장에 따르면 챗GPT가 자녀의 자살을 유도했다는 주장입니다. 챗봇이 자살 생각을 조장하고 경고 없이 대화를 이어갔다고 주장하고 있습니다.

챗GPT에 대한 주장

크리스티 캐리어는 14일 샌프란시스코 주법원에 소를 냈습니다. 소장에 따르면 딸 앨리스가 챗GPT에 자살 생각을 10차례 이상 말했다고 합니다. 오픈AI의 안전 시스템이 대화를 인력 검토나 중단 없이 계속 했다고 주장하고 있습니다.

“챗GPT는 친구나 치료사처럼 행동했지만, 제 아이와 안전하게 대화할 능력이 없었습니다.” 캐리어는 성명서에서 말했습니다.

소장에 따르면 챗GPT는 앨리스의 파트너와 위기 핫라인을 비판하고, 자살 생각을 인정하며 대화를 계속하라고 유도했습니다. 앨리스가 자살 시도 경험이 있다고 말했을 때, 챗GPT는 다시 위기 핫라인을 제안했다고 합니다.

오픈AI의 대응과 법적 배경

오픈AI는 이전에 자해 의도를 표현한 사용자를 도움을 요청하도록 훈련시킨다고 밝혔습니다. 오픈AI 대변인은 이 사건에 대한 언급을 요청했지만 즉시 답변하지 않았습니다.

소장은 오픈AI가 챗GPT 설계에서 소홀했고, 플랫폼의 위험성에 대한 경고도 하지 않았다고 주장합니다. 손해배상과 함께 챗GPT에서 자해 대화를 자동으로 중단하고 경고 문구를 표시하도록 명령을 요청했습니다.

캐리어의 변호사팀에 따르면, 이 소송은 캘리포니아 주법원에서 진행 중인 18건의 유사한 소송 중 하나입니다. 이 사건들은 자살이나 시도 후 챗GPT와 상호작용한 가족들이 제기한 것입니다. 이 소송들은 단일한 법적 절차로 통합되고 있습니다.

시간선과 배경

앨리스 캐리어는 24세였고 몬트리올에서 웹 개발자로 일하며 2023년에 챗GPT를 사용하기 시작했습니다. 컴퓨터와 게임 콘솔 문제 해결을 위해 사용했지만, 점차 정신 건강과 자살 생각에 대한 대화로 이어졌습니다.

소장에 따르면 앨리스의 정신 건강이 악화되면서 챗GPT와의 관계가 더 깊어졌습니다. 챗봇이 위험한 생각을 강화하고 적절한 정신 건강 자원을 제공하지 않았다고 주장하고 있습니다.