Salesforce AI Research представила VoiceAgentRAG — систему маршрутизации памяти для голосовых агентов на основе технологии Retrieval-Augmented Generation (RAG). По данным компании, новая разработка сокращает задержку при извлечении информации в 316 раз.
В голосовых ассистентах критическим параметром является время ответа. Для поддержания естественного диалога система должна ответить в течение 200 миллисекунд. Стандартные запросы к векторным базам данных в производственных системах превышают этот бюджет времени, что приводит к заметным паузам в разговоре.
VoiceAgentRAG использует двухагентную архитектуру с маршрутизатором памяти. По информации Salesforce, система определяет оптимальный источник информации для каждого запроса, минимизируя время поиска. Компания заявляет, что решение позволяет голосовым агентам работать с большими объемами данных без снижения скорости отклика.
Аналитики отмечают, что сокращение задержек критично для коммерческого применения голосовых интерфейсов. Длительные паузы в ответах снижают пользовательское восприятие и приводят к отказу от использования сервиса. Компания подчеркивает, что человеческие операторы остаются необходимы для сложных случаев и проверки качества.
Разработка относится к области голосовых технологий, которая активно развивается на рынке ИИ-решений. Salesforce продолжает расширять портфель инструментов для интеграции больших языковых моделей в корпоративные системы.
Источник: Marktechpost
