일본 프로야구 요미우리 자이언츠의 아베 신노스케 전 감독이 딸 폭행 혐의로 체포된 사건으로 인해 자진 사임한 것이 알려지면서, 생성형 인공지능(AI)의 위기 대응 기능에 대한 논란이 일고 있다. 이 사건은 아버지와의 갈등으로 어려움을 겪는 큰딸이 챗GPT에 상담한 것이 발단이 되어 경찰 출동과 감독 사퇴라는 예기치 못한 결과를 낳았다.

아베 감독은 지난 25일 도쿄 시부야의 자택에서 18세 큰딸과 15세 작은딸 사이의 다툼을 중재하려다 큰딸에게 폭행 혐의로 체포되었다. 그 후 그는 구단에 미친 영향에 대한 책임을 느끼고 26일 감독직에서 사임하겠다고 발표했다. 이 일련의 사건은 단순한 가족 내 갈등이 어떻게 공적으로 확대될 수 있는지를 보여주는 사례로, 많은 이들이 충격을 받았다.

사건의 발단은 큰딸이 챗GPT에게 "아버지에게 폭행당했는데 어떻게 해야 할지" 고민을 털어놓은 것이었다. 챗GPT는 그녀에게 아동상담소에 연락하도록 안내하였고, 이에 따라 상담소가 경찰에 신고를 하게 되었다. 이후 경찰은 즉시 자택으로 출동하여 아베 감독을 체포했다. 큰딸은 이 상황을 목격하고 큰 충격에 빠졌다고 전해졌다.

하지만 얼마 지나지 않아, 큰딸은 자신의 입장문을 통해 사건의 사실관계를 정정하였다. 그녀는 "아버지가 저를 때리거나 걷어차는 건 사실이 아니었다"며 일부 보도가 왜곡되었다고 주장했다. 또한, "아버지와 이렇게 큰 다툰 것은 처음이라 챗GPT에게 상담을 했지만, 제 생각과는 달리 경찰 신고로 이어졌다"며 조사 과정에서 의사 확인이 부족했다고 지적했다.

이번 사건은 AI 기술이 개인의 위기 상황에서 어떻게 작용하는지를 다시 한 번 생각하게 만드는 계기가 되고 있다. 최근 AI 서비스들은 사용자의 상담 내용을 관계 기관에 보고하는 기능을 강화하고 있으며, 이는 아동학대, 데이트폭력, 자살 시도와 같은 위급 상황에서 중요할 수 있다. 그러나 전문가들은 AI가 개별 상황의 맥락과 특수성을 충분히 이해하지 못하는 경우가 많아 의도치 않게 상황을 악화시킬 위험성에 대해 경고하고 있다.

특히 일본인의 경우, 결국 아베 감독은 최종적으로 구단에 큰 폐를 끼쳤다는 이유로 이 문제에 대해 깊이 반성하고 사임하게 되었다. 이러한 사건은 일반인이 AI를 통해 상담받는 것의 성격이 어떻게 변화할 수 있는지를 보여주는 예로 남을 것이다.