В Facebook появилось изображение, сгенерированное искусственным интеллектом. В публикации утверждается, что в городах ФРГ установлены роботизированные почтовые ящики, оснащенные системами ИИ, которые могут автоматически возвращать владельцам потерянные вещи. Этот пост - ИИ мусор.
Эта публикация в Facebook вызвала недоумение и недоверие. В ней говорится о том, что в городах Германии построены "умные роботизированные почтовые ящики", куда жители могут отправлять потерянные вещи, например, кошельки и ключи. Затем эти устройства якобы возвращают их первоначальным владельцам.
"После того, как утерянная вещь попадает в ящик, он сканирует его содержимое с помощью встроенных камер и систем распознавания объектов на базе искусственного интеллекта", - утверждается в публикации.
"Затем система сверяет отправление с локальными базами данных адресов и инициирует автоматический возврат", - сообщается далее. "Посылки упаковываются в запечатанные коробки и перенаправляются через существующие почтовые сети, часто достигая владельца в течение 48 часов".
Многие пользователи под публикацией пишут, что, несмотря на проживание в крупных немецких городах, они никогда не сталкивались с подобными автоматами. Потому что их просто не существует.
В Германии существуют сотни бюро находок, куда жители и туристы могут принести потерянные вещи. У владельцев есть шанс получить их обратно. Однако нет никаких свидетельств того, что почтовые ящики оснащены технологией, позволяющей регистрировать владельца и связываться с ним.
Существуют общенациональные онлайн-порталы, где люди могут сообщить о потерянных вещах, но там нет упоминания о почтовых ящиках как о законном способе возврата потерянных вещей.
При ближайшем рассмотрении фотографии можно обнаружить несколько признаков того, что она сгенерирована искусственным интеллектом. Знаки на ящиках, которые, как показывает обратный поиск изображений, сделаны по образцу автоматов для оплаты парковок.
Кроме того, названия на близлежащих магазинах не совпадают с реальными названиями - обычный признак того, что изображение или видео было сгенерировано ИИ.
При увеличении масштаба изображения рука женщины проходит через почтовый ящик, а ноги мужчины не касаются земли. У автомата также видно нечто, похожее на огромный кошелёк, хотя рядом с ним никого нет.
Аккаунт в Facebook, опубликовавший изображение, Fact 27, зарегистрирован как индийский и распространяет множество сообщений с фотографиями, содержащими странные утверждения.
Например, на другом фото, как утверждается, изображены оперные театры в Италии, превращающие закулисные гримёрки во временные общежития, несмотря на отсутствие каких-либо подтверждений этого в общедоступных СМИ.
AI slop: ИИ контент низкого качества
Хотя ряд комментариев указывают на то, что некоторые пользователи социальных сетей верят в возможность создания почтовых ящиков для находок, большинство публикаций Fact 27 относятся к категории "ИИ-мусора" - цифрового контента, созданного с помощью генеративного искусственного интеллекта, который отличается низким качеством и, очевидно, является фейком.
В этом конкретном аккаунте продвигаются фантастические концепции о разных странах, например, о том, что в Финляндии балконы вращаются в зависимости от солнечного света, или что в Германии крыши пекарен служат спальными местами.
Изначально этот тип контента появился потому, что создатели были заинтересованы в вирусном распространении - либо ради влияния, либо для монетизации. Низкопробные и некачественно созданные изображения часто становились вирусными, позволяя авторам зарабатывать деньги при минимальных усилиях.
Со временем появились сообщения о том, как политические движения, всё чаще ультраправые, используют подобный контент для повышения активности в социальных сетях.
Это было замечено не только в США, но и в Европе, где Европейская обсерватория цифровых медиа сообщила о росте числа правых политических партий, использующих видеоролики, созданные искусственным интеллектом, для привлечения избирателей.
Мета не требует пометок на неоплачиваемых изображениях, созданных ИИ
В прошлом году Стэнфордский университет изучил более 100 страниц в Facebook, на которых регулярно размещался контент, созданный искусственным интеллектом. Их исследование показало, что посты с изображениями, созданными искусственным интеллектом, привлекли сотни миллионов пользователей и стали одним из самых просматриваемых контентов на Facebook.
Результаты этого исследования перекликаются с комментариями, сделанными в интервью 2024 года тогдашним вице-президентом по продуктам генеративного ИИ Коннором Хейсом. Компания, сказал он Financial Times, ожидает, что системы ИИ "в конечном итоге будут существовать на ее платформах примерно так же, как и учетные записи пользователей".
Meta помечает неоплаченный контент меткой "AI Info", когда ее системы обнаруживают, что контент был создан с помощью сторонних инструментов. Контент, измененный искусственным интеллектом, может по-прежнему отображать информацию о модификации. Пользователи также могут сами добавлять метку.
Согласно Meta, бесплатный контент на Facebook, Instagram и Threads может потребовать метки ИИ, если он содержит фотореалистичное видео или реалистично звучащий звук. Например, ролик с высокореалистичным видом города, песня, созданная с помощью голоса, сгенерированного ИИ, или ролик с убедительным закадровым голосом ИИ.
Однако это требование не распространяется на изображения, которые обычно не помечаются, если система Meta не обнаруживает сигналы о том, что они были изменены с помощью ИИ.