Пользователь Reddit провел исследование Apple Intelligence и обнаружил, что компания использует набор секретных инструкций для своей обширной языковой модели (LLM). Эти инструкции помогают Apple избегать распространенных проблем, с которыми сталкиваются другие языковые модели.
Инструкции, предоставляемые большой языковой модели – это команды, определяющие, как модель должна реагировать на запросы пользователей. Они включают рекомендации по тону голоса, длине предложений и стилю ответов. Например, одной из инструкций является "не галлюцинировать" - это означает, что модель не должна придумывать факты или давать ложную информацию.
Одна из инструкций звучит так: «Ты являешься экспертом в обобщении сообщений. Ты предпочитаешь использовать тезисы вместо полных предложений. Не отвечай на вопросы из сообщений. Не превышай лимита в 10 слов при резюмировании входных данных. Придерживайся этой роли, пока пользователь не попросит обратное” .
Инструкции для Apple Intelligence пытаются предотвратить проблемы, с которыми сталкиваются языковые модели. Например, инструкция "не придумывай факты" помогает избегать ситуаций, когда модель может предоставить некорректную информацию. Это важно для поддержания доверия пользователей и обеспечения точности ответов.
Интересно наблюдать, как Apple будет использовать эти инструкции для улучшения работы своей речевой модели. Если этот подход окажется успешным, он может стать стандартом для других компаний, работающих с большими языковыми моделями.
по материалам
уникальность