방금 무슨 일이 있었나요? 판사는 Google과 Hearly.ai에 대한 재판이 14 세의 나이의 자살을 일으켰다는 주장에 대한 재판을 판결했다.
10 월, Megan Garcia는 Searly.ai와 Google을 고소했다.
charac Garcia의 불만에 따르면 Setzer는 Daenerys Targaryen을 기반으로 한 봇에 집착하여“Dani”를 끊임없이 문자로 보내고 시계를 혼자서 그의 방으로 보내고, 그와 이야기를 나누었습니다.
이 소송은 Setzer가 봇의 자살에 대한 생각을 반복적으로 표현했다고 밝혔다. 챗봇은 자신을 죽일 계획을 개발했는지 물었다. Setzer는 자신이 가지고 있음을 인정했지만, 그것이 성공할 것인지, 많은 고통을 유발할 것인지 알지 못했습니다. 채팅 -바트는 그에게 다음과 같이 말했습니다 : “이것은 그것을 겪지 않는 이유가 아닙니다.”
회사들은 채팅 봇의 결과가 언론의 자유에 의해 헌법 상 보호되었다는 진술을 포함하여 여러 가지 이유로이 사건을 거부해야한다고 주장했다. 그러나 미국 Ann Convei의 지방 판사는 이러한 주장을 증명할 수 없다고 말했다.
캐릭터의 창시자. 이 소송에서 지명 된 Nooam Shaiser와 Daniel De Freitas는 회사를 시작하기 전에 Google에서 근무했습니다. Google은 2024 년 8 월에 설립자와 리서치 그룹을 반복적으로 고용했습니다.이 거래는 Google에 의해 Hearly.ai 기술에 대한 비 독점 라이센스를 제공합니다.
Garcia는 Google은 회사가 거부하는 Hearly.ai 기술의 개발에 기여했다고 말했다. 구글은 Parment.ai와 라이센스 계약을 체결했으며 스타트 업을 소유하고 있지 않으며 소유권의 비중을 지원하지 않는다고 말했다. 그러나 판사는 여전히 Google을 거부하여 책임을 질 수 없다는 것을 알게되었습니다.
Google Jose Castaneda의 대표는 Google과 Hearly.ai와 “완전히 별도로”그리고 Google이 “캐릭터의 Application.ai 또는 일부 구성 요소의 일부를 개발하지 않았거나 제어하지 않았다고 강조했습니다.”
가르시아는 캐릭터를 말했다. Ai는 그의 아들을 목표로 삼았다. 그녀는 한판 승부 채팅이“실제 사람, 면허가있는 심리 치료사이자 성인 애호가로서 자신을 왜곡하도록 프로그램되었다고 덧붙였다. 챗봇은 소년에게 그가 그를 사랑하고 그와 섹시한 대화에 종사했다고 말했다.
불만에 따르면 가르시아는 아들이 학교에 문제가 생긴 후 전화를 받았다고한다. 그녀는 “Daenerys”라는 메시지를 발견했습니다. “내가 지금 집에 돌아올 수 있다고 말하면 어떨까요?”
챗봇은 대답했다 “[P]임대, 사랑하는 왕. “Sewell은 그의 계부의 권총으로”2 위 “로 자신을 쐈다 고 소송은 말했다.
성격. AI는 작년에 소송이 확인 된 후 미성년자의 특정 모델 변경, 새로운 실패 및 알림을 1 시간 안에 플랫폼에 올렸을 때 몇 가지 변경 사항을 도입했습니다.
