미국 플로리다에서 한 남성이 인공지능 챗봇 챗GPT에 전 여자친구 살해 계획을 입력한 뒤 체포됐다. 해당 남성은 대런 저우(25)로, 대형 투자은행에서 금융 분석가로 일하고 있었다. 지난 3월, 저우는 챗GPT와의 대화에서 "이달 말까지 그 여자를 죽이겠다"는 내용을 전하며 "내가 가질 수 없다면 아무도 가질 수 없다"라고 말해 충격을 안겼다.

저우는 전 여자친구의 취미 및 자주 가는 장소를 상세히 기록하며, 살해 계획을 더욱 구체화했다. 그는 그 여성이 다니는 체육시설 주차장에서 꽃을 들고 기다리다가 거절당하면 총으로 그녀를 살해하고, 이후 자살하겠다는 계획을 세웠다고 보고됐다. 심지어 그는 소총, 권총, 산탄총 등을 구매한 후 이들의 사진을 챗GPT에게 자랑스럽게 보냈다.

그의 범죄 행위는 여기서 그치지 않았다. 저우는 챗GPT에 상담하는 것을 넘어 전 여자친구에게 반복적으로 전화와 문자를 보내며 괴롭혔다. 이 과정에서 저우의 위협적인 행동은 신고를 받게 되었고, 오픈AI는 그의 위험한 대화 패턴을 감지한 뒤 이를 연방수사국(FBI)에 신고했다.

체포된 저우는 보증금 10만 달러를 내고 석방됐지만, 직장에서는 해고당했다. 이후 그는 가중 스토킹과 살해 협박으로 기소되었으며, 세 가지 혐의에 대해 모두 유죄를 인정했다. 법원은 그에게 8년간 보호관찰과 2년간 전자발찌 착용을 명령했다. 보호관찰 기간 동안 그는 전 여자친구와의 접촉을 금지당하고, 총기, 술, 마약 사용이 제한된다.

저우의 변호사는 그의 행동이 정신적인 문제에서 비롯된 것이라며 그가 폭력적이지 않음을 강조했다. 변호인은 저우가 총기를 소유한 적이 없다고 주장하기도 했다. 그러나 이 사건은 오픈AI가 이전의 총기 난사 사건에서의 신고 의무를 이행하지 않은 것과 관련하여 심각한 논란을 일으켰다.

캐나다의 브리티시컬럼비아주에서 일어난 총기 난사 사건의 범인도 챗GPT에 범행 시나리오를 반복적으로 입력했지만, 이를 신고하지 않은 오픈AI에 대해 피해자 가족들이 손해배상 소송을 제기하는 등 법적 후폭풍이 일고 있다. 이러한 사안은 인공지능의 책임과 안전 문제를 다시 한번 떠올리게 하는 계기가 되고 있다.