Исследователи из MIT совместно с другими институтами разработали метод, позволяющий искусственному интеллекту на подобии бота ChatGPT вести непрерывные разговоры без сбоев. Проблема заключалась в том, что большие языковые модели начинали терять производительность при продолжительных диалогах.
Ученые обнаружили, что ключевым фактором здесь является память модели. Разработанный ими метод, названный StreamingLLM, внес небольшое изменение в ключевой кэш памяти и позволил моделям сохранять эффективность даже при продолжительных разговорах.
В будущем языковые модели ИИ, смогут работать без перезагрузки и проводить длительные диалоги, например, в задачах копирайтинга, редактирования текстов или генерации кода.
Источник
Уникальность
Ученые обнаружили, что ключевым фактором здесь является память модели. Разработанный ими метод, названный StreamingLLM, внес небольшое изменение в ключевой кэш памяти и позволил моделям сохранять эффективность даже при продолжительных разговорах.
В будущем языковые модели ИИ, смогут работать без перезагрузки и проводить длительные диалоги, например, в задачах копирайтинга, редактирования текстов или генерации кода.
Источник
Уникальность
Последнее редактирование модератором: