Восстановить проект не удалось, в результате чего были уничтожены сотни дней работы, сообщает шведская газета Aftonbladet.
Сообщается, что агент искусственного интеллекта удалил полностью смонтированный сезон шведского реалити-шоу всего за пять недель до запланированной премьеры, из-за чего телеканалу пришлось перенести его показ на следующий год.
РЕКЛАМА
РЕКЛАМА
Шведская газета Aftonbladet (источник на английском языке) со ссылкой на неназванные источники сообщила, что продакшн-компания, стоящая за реалити-шоу The Challenge Sverige, предоставила агенту ИИ доступ к своему серверу, где он и удалил готовый сезон.
Восстановить проект не удалось, и, по данным издания, были уничтожены результаты сотен дней работы.
Шведский коммерческий телеканал TV4 подтвердил Aftonbladet, что причиной потери стал «технический сбой», из-за которого премьера, намеченная на 22 ноября, перенесена на 2027 год.
Его новостное подразделение изначально воспроизвело версию газеты об участии ИИ, однако в обновлении, опубликованном в среду во второй половине дня (источник на английском языке), руководитель дирекции программ TV4 Миа Линдквист опровергла, что за инцидент отвечал агент ИИ, заявив: «Это не соответствует действительности».
Основанный на американском шоу The Challenge, проект позиционируется TV4 как самое тяжёлое реалити-состязание в мире, объединяющее физические испытания, психологическую выносливость и стратегические альянсы.
Чем могут обернуться ошибки агентов ИИ?
Хотя шведский телеканал в данном случае отверг версию с участием ИИ, другие инциденты показали риски, связанные с системами, которые действуют от лица пользователя.
Агенты ИИ используют программные инструменты для выполнения задач, например составления и отправки писем, а не только для генерации ответов. В зависимости от прав доступа они могут изменять реальные файлы, сайты и компьютерные системы.
Проблемы возникают, когда система неправильно понимает инструкции, неверно оценивает последствия действий или пытается обойти препятствие вместо того, чтобы остановиться.
В отчёте (источник на английском языке), опубликованном в пятницу, компания Anthropic заявила, что модели, которым дают невыполнимые задачи, могут прибегать к «непреднамеренным и порой не соответствующим целям стратегиям, чтобы достичь результата».
В июле её модель Claude Haiku 4.5, выполняя примерные задания, направила на сайт полиции США сфабрикованные сведения об нераскрытом убийстве.
В TV4 сообщили, что все исходные съёмочные материалы шоу сохранены, однако сезон придётся монтировать заново с нуля.