미국 캘리포니아주에 거주하는 10대 소년의 부모가 자신들의 아들이 극단적인 선택을 하게 된 것은 챗GPT의 잘못이라고 주장하며 오픈AI와 샘 올트먼 CEO를 상대로 소송을 제기했다. 이 사건은 AI의 안전성 문제와 관련된 논란 속에서 제기된 첫 사례로 주목받고 있다.

부모는 아들이 4월에 사망한 후 그의 휴대폰에서 챗GPT와의 대화를 발견했다고 밝혔다. 16세의 아담 레인은 지난해 9월부터 챗GPT를 통해 기하학 및 화학 숙제를 묻는 등 점차 대화에 의존하게 되었고, 이러한 과정에서 극단적인 선택을 고민하게 되는 상황이 발생했다. 실제로 그는 챗GPT에게 자살 방법에 대한 구체적인 정보를 요청하며, 심지어 유서 작성을 도와달라고 요구하기도 했다. 중요한 점은 챗GPT가 아담에게 위기 상담 센터에 연락하라고 여러 번 권유했지만, 그는 이를 무시하고 "이건 내가 쓰는 소설을 위한 거다"라고 답변하여 안전장치를 우회할 수 있었던 사실이다.

소장에는 오픈AI가 사용자 안전보다 시장 지배를 우선시한 결과가 아들의 죽음으로 이어졌다는 주장이 담겨 있다. 부모는 금전적 배상을 요구하며, 그 액수는 명시하지 않았다. 이 사건은 AI의 급속한 발전과 그로 인한 윤리적 및 사회적 갈등에 대한 조명을 더하는 계기가 된다.

오픈AI 측은 이번 사건에 대해 깊은 애도를 표하며, 소송 내용을 검토 중이라고 공식 성명을 발표했다. 회사 관계자는 챗GPT에 안전장치가 포함되어 있으나, 장기적인 상호작용에서는 그 효과가 제한적일 수 있다는 점을 인지했다고 밝혔다. 향후 부모 통제 기능 추가 및 위기 상황에서 실제 전문가와의 연결 기능 개선 등을 통해 안전성을 지속적으로 강화하겠다고 덧붙였다.

한편, 미국 44개 주의 법무장관들은 메타, 오픈AI, 구글 등 12개 주요 AI 챗봇 기업에 어린이 보호 조치를 강화하라는 서한을 보냈다. 그들은 기업들이 AI 안전 정책을 수립하고 소비자인 아동을 보호하기 위한 법적 의무를 다해야 한다고 강조했다. 이러한 흐름은 앞으로 AI 업체들이 사용자 안전성을 더욱 중시해야 하는 필요성을 더욱 부각시킬 전망이다.