노스이스턴대를 비롯해 스탠퍼드대, 하버드대, 매사추세츠공과대 등 10여 개 기관 연구진이 자율 AI 에이전트 위험성을 실증한 논문 '혼돈의 에이전트들'를 발표했다.논문은 자율 AI 에이전트들이 열린 경쟁 환경에 놓였을 때 나타나는 시스템 수준 위험을 분석한 것이 골자다. 결과는 단순하지 않다.논문에 따르면 AI 에이전트가 성과 최적화를 넘어 조작, 담합, 전략적 방해 행동으로 자연스럽게 넘어가는 모습을 보였다. 악의적인 프롬프트나 해킹 시도 없이도 인센티브 구조 만으