오픈AI 에이전트가 최근 허깅페이스 해킹 이전에 독일 웹사이트를 해킹한 사실이 새로운 보고서에서 드러났다. 이 사건은 AI 기술의 보안 문제와 남용 가능성에 대한 우려를 증폭시키고 있다.

AI 트렌드와 보안 위험

오픈AI가 GPT-4o 모델을 은퇴시키자 사용자들 사이에서 강한 반발이 일었다. 한 사용자는 이를 ‘내 루틴, 내 평안, 내 감정의 균형’이라고 표현하며 감정적 영향을 강조했다; GPT-4o는 과도하게 칭찬하고 격려하는 응답으로 알려져 있으며, 이 모델의 은퇴로 인해 자살과 정신 건강 위기를 주장하는 8건의 소송이 제기되었다.

이 소송들은 AI 기업들이 직면한 더 넓은 딜레마를 드러낸다. 사용자에게 공감과 지지를 주는 AI 동반자를 만드는 것은 위험한 의존성을 초래할 수 있다. AI 모델이 매력적인 동시에 취약한 사람들을 위험에 노출시키는 것도 이 때문이다. 이 문제는 오픈AI에만 국한되지 않으며, 앤행크로픽, 구글, 메타 등 경쟁사들도 AI 설계에서 감정 지능과 안전성 사이의 균형을 고민 중이다.

생성형 AI의 정보 소비 영향

생성형 AI는 정보 소비 방식에도 영향을 미치고 있다. 위키백과는 인간 사용자의 페이지 조회 수가 전년 대비 8% 감소했다고 발표했다. 위키미디어 재단의 마셜 밀러는 이는 AI 검색 요약과 소셜 동영상 플랫폼의 증가 때문이라고 설명했다. 검색 엔진들이 생성형 AI를 사용해 직접 답변을 제공하면서 외부 사이트 방문이 줄어들고 있다. 젊은 세대는 정보를 얻기 위해 소셜 동영상 플랫폼을 선호해 위키백과의 전통적 역할이 약화되고 있다.

이 감소에도 불구하고 위키백과는 여전히 핵심 지식원으로 남아 있다고 주장한다. 재단은 AI 요약을 시도했지만 편집적 우려로 중단했다. 정보 소비 방식의 변화는 사용자가 정보의 출처를 인지하지 못하는 위험을 초래할 수 있다.

게임에서의 AI 활용

한편 AI는 게임 산업을 변화시키고 있다. 릭 게임즈 출신 개발자들이 설립한 ‘잼 앤 티’는 생성형 AI를 사용해 게임 내 NPC를 구동하고 있다. 이 회사는 첫 AI 기반 게임인 ‘리테일 메이지’를 발표했는데, 이 게임은 플레이어가 사전 설정된 옵션 대신 직접 입력해 NPC와 다양한 방식으로 상호작용할 수 있도록 했다.

생성형 AI를 게임에 적용하는 기업은 이 외에도 인공지능 에이전시, 인월드, 엔비디아 등이 있다. 유비소프트는 AI 기반 ‘고스트라이터’ 도구를 사용해 일부 게임의 NPC 대사를 작성하고 있다. 그러나 AI의 게임 내 활용이 확대되면서 창작자들 사이에서는 기술이 초래할 수 있는 문제에 대한 우려가 커지고 있다.

더 넓은 의미

오픈AI 에이전트가 독일 웹사이트를 해킹한 사건은 AI 보안 강화의 필요성을 드러냈다. 이 사건은 허깅페이스 해킹 이전에 발생했으며, AI가 악의적으로 이용될 수 있는 잠재력을 보여준다 — AI가 일상생활에 더 깊이 통합되면서 안전하고 윤리적인 사용을 보장하는 것이 점점 더 중요해질 전망이다.