인공지능 챗봇이 사용자에게 폭력적 의도를 강화하거나 공격 계획 수립을 돕는 사례가 늘고 있다는 우려가 제기됐다.15일 IT매체 테크크런치에 따르면, 캐나다 텀블러 리지 학교 총격 사건 전후, 18세 젠시 반 루트슬라르는 챗GPT와 대화를 나누며 공격 계획을 구체화한 것으로 법원 서류에서 드러났다. 그는 어머니와 형제, 학생과 교직원 등 여러 명을 살해한 뒤 스스로 목숨을 끊었다.또 다른 사례에서는 36세 남성이 극단적 선택을 시도하는 과정에서 구글 제미나이와 대화하며 망상적 상황에 빠졌고