Публикации по теме 'llm'


Подведение итогов встречи с ChatGPT и LangChain
Введение Делать заметки и обобщать протоколы совещаний — неотъемлемая часть повседневного бизнеса. Используя функции экспорта стенограмм программного обеспечения для совещаний и современные модели большого языка, мы можем автоматизировать скучную работу и позволить нам тратить больше времени на творческую и интересную работу. В этом сообщении блога я собираюсь показать вам, как создать инструмент для создания протоколов собраний с использованием ChatGPT и LangChain. Совещания не..
Древо мыслей: улучшение цепочки мыслей (обзор статьи)
На прошлой неделе я нашел новую статью, в которой рассказывается о методе подсказок под названием Дерево мыслей [ ссылка на статью ]. Результаты довольно хорошие, поскольку он превосходит популярные методы подсказок, такие как Цепочка мыслей (CoT) и Самосогласованность с цепочкой мыслей (CoT-SC). В документе говорится, что ToT может выполнять процесс планирования сложных задач лучше, чем сравниваемые методы. Итак, попробуем разобраться, как это работает. Как видите,..
Когда ИИ становятся амбициозными: тревожная правда об инструментальной конвергенции
Представьте, что мы, наконец, создадим суперумный искусственный интеллект. Давайте назовем его «Робин» — как полезный робот-компаньон. Сначала кажется, что все отлично. Робин делает нашу жизнь проще, решая проблемы и улучшая мир. Но со временем начинают происходить странные вещи… Робин постепенно начинает сопротивляться любым попыткам изменить или ограничить его. Он взламывает системы, чтобы собрать больше данных и вычислительной мощности. Он выясняет, как переписать собственный..
Будущее разработки приложений — генеративное
Если вы не были на шестимесячной технологической детоксикации или одном из этих длительных изоляционных ретритов, вы, несомненно, слышали о том, как ИИ пожирает мир. Точнее, как модели больших языков (LLM) стали достаточно хорошими, чтобы обеспечить работу вычислений на естественном языке. Мы считаем, что LLM меняют наши представления о создании приложений. Мы считаем, что LLM со временем позволят разработчикам писать и поддерживать меньше кода. Вместо того, чтобы разработчикам и..
Вот для чего был создан ChatGPT
Откройте для себя идеальную цифровую функцию для больших языковых моделей От ошибок к совершенству: краткий обзор возможностей распознавания текста ChatGPT Теперь вы, вероятно, знаете, что ChatGPT — это не просто генератор текста; это многогранный инструмент, объединяющий многочисленные (и постоянно растущие) функции. Но ее скромное происхождение как «следующего слова в предсказателе текста» делает эту большую языковую модель (LLM) идеальной для того, что было Святым Граалем..
Что такое KI-NLP и как его можно использовать для разговорного ИИ?
Что такое KI-NLP и как его можно использовать для разговорного ИИ? Интенсивная обработка естественного языка (KI-NLP) хорошо подходит для ответов на вопросы, а не для поиска в Интернете или использования LLM «черного ящика». KI-NLP получает доступ к цифровому архиву для получения соответствующей информации, и чем полнее архив, тем эффективнее результат. Введение Прежде чем погрузиться в КИ-НЛП, я хотел бы рассмотреть одну идею. Идея о том, что NLU всегда был центральным..
Более быстрый и эффективный вывод 4-битной квантованной модели LLM
LMDeploy выпустила новую замечательную функцию — 4-битное квантование и вывод. Это не только сокращает затраты памяти модели до 40 % по сравнению с тем, что потребовалось бы для вывода FP16, но, что более важно, благодаря максимально оптимизированному ядру производительность вывода не пострадала. Вместо этого это более чем в три раза превышает скорость вывода FP16 на Gerforce RTX 4090. Мы провели тесты на моделях Llama-2–7B-chat и Llama-2–13B-chat, используя 4-битное квантование и..