캐나다 음악가 애슐리 맥이삭이 온타리오 고등법원에서 구글을 상대로 150만 달러를 청구하는 소송을 제기했다. 소송에서는 기술 기업이 AI 요약에서 그를 성범죄자로 잘못 표기했다고 주장했다. 더 가디언에 따르면, 맥이삭은 캐나다 퓨전 바이올린 음악 분야에서 3회 주노상을 수상한 인물이다.

허위 주장으로 인한 공연 취소

음악가는 AI 요약이 그가 성추행, 인터넷 유인(성폭행 의도), 신체 상해를 유발한 폭행으로 유죄 판결을 받았다고 잘못 주장했다고 주장했다. 이 기능은 그가 평생 성범죄자 등록부에 등재되어 있다고 잘못 표기했다. 맥이삭은 12월 19일 Sipekne’katik First Nation이 공연을 취소하면서 이 허위 정보를 알게 됐다고 말했다.

Sipekne’katik First Nation은 나중에 맥이삭에게 공식 사과를 발표했다. 사과문에서는 “AI 지원 검색을 통해 생성된 잘못된 정보를 바탕으로 결정을 내렸다. 당신과 관련 없는 범죄로 당신을 잘못 연결했다. 당신의 명성과 생계에 끼친 피해를 깊이 유감스럽게 생각한다”고 밝혔다.

AI 시스템에 대한 법적 주장

맥이삭의 소송은 구글이 “예측 가능한 재게시”에 대해 책임이 있다고 주장한다. 음악가는 AI 요약이 불완전하다는 점을 알고 있었거나 알았어야 했다고 말했다. 소송문에는 “AI 요약의 설계 결함으로 인해 발생한 상해와 손실에 대해 AI 요약의 창조자이자 운영자인 구글이 책임이 있다”고 명시되어 있다.

음악가는 일반 손해배상 50만 달러, 정신적 고통에 대한 손해배상 50만 달러, 처벌적 손해배상 50만 달러를 청구했다. 그는 구글의 오류에 대한 대응을 비판하며, 회사가 그에게 연락하거나 사과하지 않았다고 말했다. 소송문에서는 “구글이 맥이삭이 중대한 성범죄를 저질렀다고 완전히 허위로 주장한 내용을 충동적이고 무관심하게 대응한 점은 정신적 고통 및 처벌적 손해배상의 지급을 정당화한다”고 밝혔다.

구글의 대응과 AI 개선 노력

소송문에 따르면, 구글의 AI 요약은 이제 맥이삭이 2025년 말과 2026년에 구글을 상대로 소송을 제기했다는 내용을 포함하고 있다. 맥이삭은 변호사를 통해 더 가디언에 “처음으로 구글이 내게 허위 정보를 게시했다는 사실을 알았을 때, 내 명성을 회복하고 이 문제에 주목을 받기 위해 언론에 나서야겠다고 느꼈다”고 말했다.

구글은 최근 더 가디언의 논평 요청에 응답하지 않았다. 12월 맥이삭이 언론에 발언하기 시작했을 때, 구글 대변인은 “AI 요약은 가장 유용한 정보를 보여주기 위해 끊임없이 개선되고 있다. 회사는 응답의 질을 위해 많은 투자를 하고 있다. 문제가 발생할 경우, 예를 들어 기능이 웹 콘텐츠를 오해하거나 일부 맥락을 놓친 경우, 우리는 그 사례를 개선에 활용하고 정책에 따라 조치를 취할 수 있다”고 말했다.