Еще в 2019 году компания Microsoft открыла доступ к Dapr - новой среде выполнения для упрощения создания распределенных приложений на основе микросервисов. В то время никто еще не говорил об агентах искусственного интеллекта, но, как оказалось, в Dapr с самого начала были встроены некоторые фундаментальные строительные блоки для поддержки агентов искусственного интеллекта. Это связано с тем, что одной из основных особенностей Dapr является концепция виртуальных агентов, которые могут получать и обрабатывать сообщения независимо от всех остальных агентов в системе.
Сегодня команда Dapr запускает Dapr Agents, свою попытку помочь разработчикам создать агентов ИИ, предоставив им множество строительных блоков для этого.
«Агенты - это очень хороший вариант использования Dapr», - пояснил соавтор и сопровождающий Dapr Ярон Шнайдер. «С технической точки зрения, вы можете использовать акторы как очень легкий способ запуска этих агентов и действительно иметь возможность запускать их в масштабе с состоянием - и быть ресурсоэффективными. Все это замечательно, но при этом остается много бизнес-логики, которую нужно написать.
Состояние и его оркестровка - это только одна часть. И многие люди могут выбрать движок рабочего процесса или фреймворк агента, но при этом им придется проделать еще много работы, чтобы написать логику агента с другой стороны. Существует множество фреймворков для агентов, но они не обладают таким уровнем оркестровки и состояния, как Dapr».
Dapr Agents возник на основе Floki, популярного проекта с открытым исходным кодом, который расширил Dapr для использования в качестве агента ИИ. Пообщавшись с сопровождающими проекта, в том числе с исследователем ИИ из Microsoft Роберто Родригесом, обе команды решили перенести проект под зонтик Dapr, чтобы обеспечить преемственность нового агентного фреймворка.
«Во многих отношениях мы рассматриваем агентные системы и всю терминологию вокруг них как еще один термин для «распределенных систем», - сказал соавтор и сопровождающий Dapr Марк Фьюселл. Вместо того чтобы называть их микросервисами, вы можете называть их агентами, в основном потому, что вы можете разместить среди них большие языковые модели».
По мнению команды, для эффективной координации этих агентов вам нужен механизм оркестровки и возможность управления состоянием - именно это и обеспечивает Dapr. Отчасти это объясняется тем, что агенты Dapr должны быть чрезвычайно эффективными и способны запускаться в течение миллисекунд при поступлении сообщения (и выключаться с сохранением состояния, когда их работа закончена).
На данный момент агенты Dapr могут взаимодействовать с большинством популярных провайдеров моделей из коробки. Среди них AWS Bedrock, OpenAI, Anthropic, Mistral и Hugging Face. Поддержка локальных LLM появится очень скоро.
Помимо взаимодействия с этими моделями, поскольку Dapr Agents расширяет существующий фреймворк Dapr, разработчики также получают возможность определить список инструментов, которые агент может использовать для выполнения той или иной задачи.
В настоящее время Dapr Agents поддерживает Python, в ближайшее время будет запущена поддержка .NET. Вскоре появятся Java, JavaScript и Go.
Оригинал
Уникальность
