Итеративные подсказки, предварительно обученные модели большого языка
В отличие от точной настройки модели, разработка подсказок представляет собой упрощенный подход к точной настройке, гарантируя, что подсказка содержит контекстную информацию посредством итеративного процесса.
В настоящее время я главный евангелист @ HumanFirst. Я исследую и пишу обо всем, что находится на стыке искусственного интеллекта и языка; начиная от LLM, чат-ботов, голосовых ботов, сред разработки, скрытых пространств, ориентированных на данные, и многого другого.
Как я всегда говорю, сложность любой реализации нужно где-то учитывать.
В случае LLM модель можно точно настроить или использовать расширенные подсказки в автономном агенте или посредством цепочки подсказок.
В двух последних упомянутых примерах сложность устраняется быстрым проектированием, а не тонкой настройкой LLM.
Цель контекстных итеративных подсказок — учесть сложность, требуемую конкретной реализацией; и не перекладывать тонкую настройку модели на LLM.
Контекстные итеративные подсказки не являются новым подходом. В данной статье рассматривается создание и автоматизация итеративного контекстно-зависимого подсказчика.
На каждом этапе (каждом повороте диалога) подсказчик учится обрабатывать запрос и ранее собранные доказательства и составляет подсказку, которая заставляет LLM вспомнить следующий фрагмент знаний.
Этот процесс напоминает мягкие подсказки и подсказки.
В документе утверждается, что предложенный ими контекстно-зависимый дизайн подсказок значительно превосходит существующие методы подсказок.
Этот подход заставляет LLM вызвать ряд сохраненных знаний (например, C1 и C2), необходимых для многоэтапного вывода (например, ответа на вопрос), аналогично тому, как люди создают «цепочку мысли» для принятия сложных решений.
Автоматизированный процесс устанавливает контекстуальную цепочку мыслей и исключает создание нерелевантных фактов и галлюцинаций с помощью динамически синтезируемых подсказок на основе контекста текущего шага.
В документе подтверждается ныне принятый подход к подсказкам, который включает в себя:
- Подсказки должны быть контекстуальными, включая контекст предыдущего разговора и повороты диалога.
- Для сопоставления и в некоторых случаях суммирования предыдущих поворотов диалога необходимо будет реализовать некоторую автоматизацию, чтобы включить ее в подсказку.
- Дополнительные данные, выступающие в качестве контекстной ссылки для LLM, должны быть выбраны, обработаны и усечены до эффективной длины для каждого запроса при выводе.
- Подсказку нужно формировать таким образом, чтобы не увеличивать время вывода.
⭐️ Следуйте за мной в LinkedIn для получения обновлений о больших языковых моделях ⭐️
В настоящее время я главный евангелист @ HumanFirst. Я исследую и пишу обо всем, что находится на стыке искусственного интеллекта и языка; начиная от LLM, чат-ботов, голосовых ботов, сред разработки, скрытых пространств, ориентированных на данные, и многого другого.
