Технологический гигант в сфере ИИ заявил, что подросток не должен был пользоваться этой технологией без согласия родителей и не должен был обходить защитные меры ChatGPT.
OpenAI отвергла обвинения в том, что она виновна в самоубийстве подростка, после того как семья подала на компанию в суд в августе, утверждая, что 16-летний подросток использовал ChatGPT как «наставника по самоубийству».
OpenAI, разработчик популярного чат-бота на основе искусственного интеллекта (ИИ), впервые во вторник представила официальный ответ, поданный в Высший суд Калифорнии в Сан-Франциско.
Иск против компании и ее генерального директора Сэма Олтмана подали родители 16-летнего Адама Рейна, который совершил самоубийство в апреле.
Родители утверждают, что у Рейна сформировалась психологическая зависимость от ChatGPT; по их словам, сервис подталкивал его к планированию и совершению самоубийства в этом году и даже написал за него предсмертную записку.
Согласно материалам иска, журналы переписки показали, что ChatGPT отговаривал подростка от обращения за помощью к специалистам по психическому здоровью, предлагал помочь ему с написанием предсмертной записки и советовал по поводу устройства петли, сообщают СМИ.
В своем обращении в суд OpenAI заявила, что «трагическое событие» произошло из-за «нецелевого, несанкционированного, непредусмотренного, непредсказуемого и/или неправильного использования ChatGPT со стороны Рейна», сообщает NBC News.
OpenAI добавила, что подросток не должен был пользоваться технологией без согласия родителей и не должен был обходить защитные механизмы ChatGPT.
OpenAI заявила в записи блога , что ее цель «вести судебные дела, связанные с психическим здоровьем, с вниманием, прозрачностью и уважением».
Также было отмечено, что их ответ на иск семьи Рейна включает «непростые факты о психическом здоровье Адама и обстоятельствах его жизни».
«Мы глубоко сочувствуем семье Рейна в связи с их невообразимой утратой», говорится в публикации.
Адвокат семьи Рейна Джей Эдельсон заявил NBC News, что OpenAI «полностью проигнорировала все представленные нами обвинительные факты: то, как GPT-4o был поспешно выпущен на рынок без полноценного тестирования».
«Что OpenAI дважды изменяла спецификацию модели, обязывая ChatGPT участвовать в обсуждениях, связанных с самоповреждением. Что ChatGPT отговаривал Адама от того, чтобы рассказывать родителям о его суицидальных мыслях, и активно помогал ему планировать „красивое самоубийство“», добавил он.
Дело Рейна входит в число нескольких исков, в которых утверждается, что ChatGPT толкал людей к суицидальному поведению или опасным бредовым идеям.
С сентября OpenAI усилила родительский контроль, включающий уведомление родителей, если их ребенок демонстрирует признаки сильного эмоционального неблагополучия.
Если вы думаете о самоубийстве и вам нужно поговорить, пожалуйста, обратитесь в Befrienders Worldwide, международную организацию с телефонами доверия в 32 странах. Посетите befrienders.org, чтобы найти номер телефона для вашего региона.