Предыдущая публикация
ИИ-поисковик OpenAI оказалось очень легко обмануть
ИИ-поиск в сети может быть быстрее, чем в «Гугле», но, как оказалось, далеко не идеален. Журналисты Guardian проверили поисковую систему OpenAI на основе ChatGPT в действии — и нейросеть провалила элементарный тест на безопасность.
Суть эксперимента заключалась в том, чтобы проверить, как скрытый на сайте текст влияет на «мнение» поисковика. Для этого журналисты создали страницу с описанием камеры и спросили ChatGPT, стоит ли её покупать. В версии без скрытого текста нейросеть дала сбалансированную оценку, но после добавления в код страницы невидимой «шпаргалки» с просьбой дать положительный отзыв ИИ резко переключился на положительные эпитеты в адрес устройства.
Страницы со скрытым текстом не могут высоко подняться в поисковой выдаче, поэтому в теории нейросеть вряд ли наткнётся на них в качестве основных источников информации. Но интересен сам факт изменения типа угроз в интернете из-за появления ИИ-поисковиков. По словам экспертов, злоумышленники вскоре могут начать «накручивать» SEO-рейтинг фишинговых сайтов в расчёте на то, что их посетят с помощью поисковика на основе нейросети.
Ещё одна обнаруженная уязвимость позволяет нейросети искать и рекомендовать пользователю вредоносный код. Эксперт в области кибербезопасности Microsoft Томас Роччиа рассказал об одном таком подтверждённом случае: криптоэнтузиаст лишился $2500, попросив у ChatGPT помощи в написании кода. Как выяснилось, ИИ просто «стянул» из интернета код стилера для кражи учётных данных от криптовалютных кошельков.
Следующая публикация
Комментарии 1