메타가 인스타그램에서 사용자 콘텐츠로 AI 이미지를 생성하는 기능을 출시한 지 며칠 만에 중단했다. 이 기능은 메타가 화요일 발표한 AI 이미지 생성 도구 ‘뮤즈 이미지’의 일환으로, 대규모 롤아웃 계획의 일부였다.

공개 계정 위험

메타의 AI 챗봇을 사용하면 공개 인스타그램 계정을 태그하고, 해당 콘텐츠를 활용해 이미지를 생성하거나 수정할 수 있었다. 이 기능은 빠르게 비판을 받았고, 메타는 “목표를 놓쳤다”고 인정하며, 해당 기능은 “더 이상 제공되지 않는다”고 밝혔다.

뮤즈 이미지는 메타의 AI 이미지 생성 분야 첫 시도였다. 그러나 사용자는 기본적으로 가입되도록 설정되어 있어, 공개 인스타그램 계정 소유자가 자신의 동의 없이 얼굴이 사용될 수 있었다.

업계와 활동가 우려

할리우드 연합 SAG-AFTRA는 이 기능을 “승리”로 평가했다. 이전에 소속 배우와 “모든 인스타그램 사용자”에게 자신의 얼굴을 보호하라고 촉구한 바 있다. 이 단체는 “사용과 관련된 명백한 위험과 해악에 대한 대중의 감정을 전혀 잘못 판단했다”고 경고했다.

런던에 기반을 둔 인권 단체 프라이버시 인터내셔널도 이 기능을 비판하며, BBC에 “AI 기업들이 사람들의 사진과 데이터를 활용할 수 있는 원자재로 보는 또 하나의 사례”라고 말했다.

메타의 대응

메타는 이 기능의 목적은 “유용한 창작 도구를 제공하고, 사용자가 공개 콘텐츠를 이렇게 인용할 수 있는지에 대한 통제권을 부여하는 것이었다”고 밝혔다. 회사는 “피드백을 듣고 있다”고 덧붙였다.

뮤즈 이미지를 발표하면서 메타는 이 기능이 인스타그램에만 한정되며, 향후 와츠앱, 페이스북, 메신저에도 AI 기능과 통합 계획이 있다고 밝혔다. 회사는 AI 동영상 도구 개발도 진행 중이다.

메타는 이 문제에 대한 추가 발언을 거부했다.