Предыдущая публикация
"Эта женщина испекла коня из халы, но никто ее не поздравил". Что было дальше?
Польское новостное издание Donald(.)pl решило провести социальный эксперимент. Они опубликовали изображение коня, испеченного из халы (традиционного еврейского хлеба), и опубликовали его с типичной для спам-постов подписью: "Эта женщина испекла коня из халы, но никто её не поздравил".
Цель была простой — продемонстрировать, как легко манипулировать пользователями с помощью шаблонных эмоциональных призывов. Создатели даже не предполагали, какую цепную реакцию запустит их эксперимент.
Но настоящий поворот случился, когда изображение было украдено реальной спам-фермой, использующей ИИ-контент. Пост собрал более 3 миллионов реакций, 210 тысяч комментариев и 107 тысяч репостов. Вишенкой на торте стал лайк от самого Марка Цукерберга, чья запрещенная в России платформа и стала рассадником того самого спама, против которого был направлен оригинальный мем.
Истинная цель была простой — продемонстрировать, как легко манипулировать пользователями с помощью генеративного ИИ и шаблонных эмоциональных призывов. Да-да, эта картинка обычный продукт искусственного интеллекта. Нейросеть еще и не такое может. А пользователи с удовольствием лайкают и обсуждают фальшивку.
Казалось бы, причем тут Саратов?
Цель была простой — продемонстрировать, как легко манипулировать пользователями с помощью шаблонных эмоциональных призывов. Создатели даже не предполагали, какую цепную реакцию запустит их эксперимент.
Пост быстро набрал более миллиона просмотров и тысячи лайков!
Хлебный конь стал настоящим культурным феноменом в польском сегменте интернета. Крупные бренды, включая IKEA и местные банки, начали создавать собственные версии мема. А настоящий пекарь испек крокодила из халы в качестве ответа на виральный тренд.Но настоящий поворот случился, когда изображение было украдено реальной спам-фермой, использующей ИИ-контент. Пост собрал более 3 миллионов реакций, 210 тысяч комментариев и 107 тысяч репостов. Вишенкой на торте стал лайк от самого Марка Цукерберга, чья запрещенная в России платформа и стала рассадником того самого спама, против которого был направлен оригинальный мем.
Зачем это было сделано?
Истинная цель была простой — продемонстрировать, как легко манипулировать пользователями с помощью генеративного ИИ и шаблонных эмоциональных призывов. Да-да, эта картинка обычный продукт искусственного интеллекта. Нейросеть еще и не такое может. А пользователи с удовольствием лайкают и обсуждают фальшивку.
Выводы:
- Скорость распространения вирусного контента может быть неконтролируемой
- Спам-фермы готовы использовать любой контент, даже тот, который изначально создавался для борьбы с ними
- Даже очевидно фейковые изображения могут вызывать искреннюю эмоциональную реакцию
- Различить реальный и сгенерированный ИИ контент становится всё сложнее
Казалось бы, причем тут Саратов?
А вы вспомните, из-за какого фейка опустели улицы в один из зимних дней 2009 года.
Следующая публикация
Комментарии 1