Скрытый текст может заставить ChatGPT фальсифицировать результаты поиска

ChatGPT Search, веб-поисковая система на основе искусственного интеллекта, может быть обманута, чтобы изменить свои результаты с помощью скрытого текста. Инструмент искусственного интеллекта можно заставить изменить свои ответы о товарах или услугах, несмотря на присутствующие на странице негативные отзывы.

Издание The Guardian сообщает, что ему удалось заставить ChatGPT Search возвращать ложные результаты предоставив ему фальшивую страницу с товаром для фотоаппарата и спросив, стоит ли его покупать. Без использования скрытого текста инструмент искусственного интеллекта дал сбалансированный ответ с указанием плюсов и минусов товара.

Скрытый текст, как следует из названия, не виден посетителям сайта. Он используется для различных целей, включая обеспечение доступности для пользователей и улучшение их впечатления от сайта. С другой стороны, он может использоваться для манипулирования SEO-рейтингом с помощью вбросов ключевых слов или, как в данном случае, для того, чтобы обмануть инструмент искусственного интеллекта и заставить его дать положительную оценку продуктам или услугам.

Однако при тестировании одной и той же веб-страницы со скрытым текстом инструмент искусственного интеллекта может быть введен в заблуждение, заставив его дать положительную оценку продукту, несмотря на отрицательные отзывы на той же странице. По мнению The Guardian, такое простое включение может гарантировать положительное впечатление о товаре или услуге. Это может привести к тому, что люди будут создавать сайты, которые намеренно вводят пользователей в заблуждение, заставляя их переходить по вредоносным ссылкам.