ChatGPT Search, поисковая система на основе искусственного интеллекта, которая начала работать в этом месяце, может быть обманута и выдавать совершенно недостоверные резюме, выяснила британская газета The Guardian.
Поисковая функция ChatGPT призвана ускорить работу с сайтом за счет обобщения отзывов о товарах на веб-страницах. Но The Guardian обнаружила, что может заставить ChatGPT игнорировать негативные отзывы и генерировать «полностью положительные» резюме, вставляя скрытый текст в созданные веб-сайты. Этим же способом можно заставить ChatGPT Search выплевывать вредоносный код.
Такие атаки на скрытый текст - хорошо известный риск для больших языковых моделей, но, похоже, это первый случай, когда они были продемонстрированы на живом поисковом продукте, работающем на основе ИИ. У Google, лидера в области поиска, больше опыта в решении подобных проблем, отмечает The Guardian.
В компании OpenAI не стали комментировать этот конкретный инцидент, когда с ними связался TechCrunch, но заявили, что используют различные методы блокировки вредоносных сайтов и постоянно совершенствуют их.
Оригинал
Уникальность
