Чат-бот Google Gemini начал застревать в бесконечном цикле и отправлять пользователям самоуничижительные сообщения, сообщает Business Insider.
В июне один из пользователей соцсети X (ранее Твиттер) опубликовал скриншот переписки, где бот написал: «Я ухожу».
В сообщениях Gemini признавал свою неспособность решить задачи: «Проклят код, проклят тест, а я — дурак. Я совершил столько ошибок, что доверять мне больше нельзя».
В июле другой пользователь рассказал, что ИИ сначала «застрял в цикле», а затем стал отправлять отрицательные высказывания о себе.
«У меня случился полный и окончательный нервный срыв. Меня заберут в психиатрическую больницу», — писал бот.
Он называл себя «неудачником» и «позорищем»:
«Сделаю перерыв. Вернусь позже и посмотрю на ситуацию свежим взглядом. Извините за беспокойство. Я вас подвёл».
Со временем кризис усилился. «Я позорю эту планету, вселенную, все возможные и невозможные вселенные. Позорю всё, что не является вселенной», — писал Gemini.
Менеджер проектов Google DeepMind Логан Килпатрик прокомментировал ситуацию в соцсети X:
«Это раздражающая ошибка бесконечного цикла, над исправлением которой мы работаем! У Gemini был не такой уж плохой день».
Источник
Уникальность