Это дело вызывает дополнительные опасения по поводу безопасности ИИ для детей, поскольку техкомпании сталкиваются с все большим числом исков из‑за своих технологий.
Родители 13-летней девочки подали иск против Google, утверждая, что их дочь использовала его технологии искусственного интеллекта на выданном школой компьютере, чтобы спланировать возможное самоубийство и свои похороны.
РЕКЛАМА
РЕКЛАМА
Иск, поданный в понедельник, 2 ноября, в суде штата Калифорния в США, как считается, стал первым, в котором Google обвиняют в халатности из-за функций поиска с поддержкой ИИ, к которым был доступ через выданный школой Chromebook, один из недорогих ноутбуков компании, широко используемых в учебных заведениях.
Девочка, указанная в документах как Эмма, не могла пользоваться приложением Gemini от Google или ChatGPT от OpenAI, поскольку оба сервиса были заблокированы школой. Однако у нее сохранялся доступ к поисковой системе Google, которая включает функции на базе искусственного интеллекта.
Несмотря на «отсутствие» в прошлом психических заболеваний, Эмма, как говорится в жалобе, за несколько месяцев использования поисковика начала «тихий спуск в тяжелый психологический кризис».
17 марта школа предупредила ее родителей после того, как система мониторинга отметила документ под названием «Похороны». Позже мать застала девочку за написанием прощального письма, после чего вмешался ее отец.
«Школы должны отключить режим поиска и не включать его до тех пор, пока Google не уберет режим ИИ из поиска или не гарантирует, что каждый ученик всегда в безопасности, когда он взаимодействует с ИИ», заявил один из адвокатов семьи, Эндрю Лидделл, в комментарии AFP в четверг, 5 ноября.
Усиление юридического контроля над крупными технологическими компаниями
В Google заявляют, что их режим ИИ включает механизмы защиты от причинения вреда себе и попыток обойти эти ограничения.
«Мы изучаем утверждения, изложенные в иске, и относимся к этому крайне серьезно», сообщил AFP представитель Google Хосе Кастанеда.
Компания OpenAI сталкивается с рядом исков о неправомерной смерти, включая иск, поданный родителями 16-летнего Адама Рейна, который покончил с собой после того, как, как утверждается, получил от ChatGPT вредные советы.
В январе Google и Character.AI также согласились урегулировать вне суда несколько исков, поданных семьями подростков.
Тем временем в отдельном судебном споре Google, TikTok и Meta подали иски против штата Калифорния в среду, добиваясь блокировки закона, запрещающего использование затягивающих функций социальных сетей для пользователей младше 16 лет.
Закон, подписанный губернатором Калифорнии Гэвином Ньюсомом в сентябре, должен вступить в силу 1 января 2027 года.