На прошлой неделе я погрузился в разработку с использованием API OpenAI, проверяя, смогу ли я создать элементарного чат-бота, подобного тому, который вы можете увидеть на веб-сайте. Я хотел понять, чем чат-бот GPT, потенциально используемый для обслуживания клиентов, приема или предоставления базовой информации, может отличаться от чат-ботов, которые мы обычно видим сегодня.

После создания этого бота я сделал несколько открытий. Во-первых, эти боты будут гораздо менее ограничены, чем нынешние боты, а также их будет намного проще создавать. Во-вторых, я смог ограничить бота определенным контекстом, чтобы он не отвечал на всевозможные случайные вопросы. Наконец-то я смог предоставить боту новую информацию, которая помогла исправить устаревшую информацию.

Эти новые чат-боты будут менее громоздкими и простыми в создании

Раньше я никогда не создавал чат-ботов, но я был частью инициативы, в ходе которой один из них был реализован. Соответственно, я, конечно, не эксперт по чат-ботам, но я знаю, что эти боты обычно доступны на веб-сайтах, чтобы помочь ответить на основные вопросы, которые могут возникнуть у посетителей. Преимущество наличия бота в том, что он освобождает службу поддержки клиентов и других сотрудников от необходимости тратить время на ответы на основные и рутинные вопросы.

Однако для создания этих ботов вам необходимо предвидеть, о чем может спросить пользователь веб-сайта, и различные способы, которыми может быть задан этот вопрос. Вам также необходимо создать ответы, соответствующие этим вопросам. Это делает этих ботов несколько громоздкими для создания и жестко ограниченными этими концептуальными вопросами и заранее подготовленными ответами.

В этом новом мире GPT чат-бот так работать не будет. Пользователь задаст вопрос, а бот просто ответит, не ограничиваясь заранее подготовленными ответами. Они также относительно просты в строительстве. Даже никогда не создавая его раньше, я смог посмотреть учебник, собрать бота и запустить его на моей локальной машине менее чем за час. Вскоре появится базовый код и инструкции по быстрому и недорогому развертыванию этих чат-ботов, расширяя варианты их использования.

Преимуществом такого расширенного использования будет возможность легко запускать чат-ботов, открывая, как и где они будут использоваться. Помимо коммерческих веб-сайтов, преподаватели и преподаватели могут захотеть иметь бота, чтобы отвечать на вопросы своих студентов, когда они недоступны. Или, возможно, суд или организация по оказанию юридической помощи могут захотеть предоставить более полную информацию, ответив на сложные вопросы, заданные тяжущимися сторонами, представляющими себя сами.

Но можно ли ограничить контекст этих вопросов? И будет ли актуальная информация легко обновляться?

Боту нужны контекстные ограждения

Хотя удивительно думать, что этих ботов можно будет легко раскрутить, это также пугает, верно? Пользователь может спросить буквально о чем угодно, и эта вещь может выйти из строя, нанеся ущерб бизнесу, школе или организации. Итак, первое, что я хотел проверить, это то, смогу ли я легко установить ограждения. Это был только самый простой тест, но я смог ограничить бота контекстом и заставить его оставаться в теме.

Этот простой чат-бот подключается к моей учетной записи OpenAI через ключ API и запрашивает выбранную модель, ссылаясь на созданный мной файл .txt. Вы также можете протестировать эти подсказки, используя игровую площадку платформы OpenAI. Таким образом, я смог установить контекст для чат-бота, чтобы он отвечал на вопросы с определенной точки зрения. То есть я сказал боту, что это чат-бот, который любит юридический анализ, данные и технологии, и он придерживается этой миссии.

Как вы можете видеть в чате на изображении ниже, когда я спросил: «Кто вы?» бот ответил, как будто это Legalytical, чат-бот с юридической технологией, как я его определил. Я также определил определенные темы, о которых я хотел, чтобы он говорил, и проинструктировал, что если пользователь задает нестандартные вопросы, я не хочу, чтобы бот отвечал. И, как видите, по крайней мере в этом очень ограниченном тесте он следовал моим инструкциям.

Исправление устаревшей информации

Модели OpenAI также обучались на информации, которая в настоящее время потенциально устарела. Соответственно, я также хотел проверить, могу ли я легко заставить бота ссылаться на обновленную информацию вместо того, что он уже знал, и использовать вместо этого эти данные. Мой муж работает в музее, поэтому, чтобы протестировать бота в другом контексте, я создала новый и установила контекст, проинструктировав его, что он может отвечать на вопросы только со ссылкой на сайт этого музея. Это тоже сработало, но, к сожалению, данные устарели. Я спросил, во сколько музей открыт, и мне сказали до 17:30 (по старому времени) вместо 16:00 (по новому времени). Даже когда я сказал ему, что это неправильно, он по-прежнему придерживался этого утверждения.

Затем я обновил инструкции новой информацией и сказал ему, что, если эта новая информация противоречит тому, что он уже знал, следует рассматривать новую информацию как истинную, а старую информацию как ложную. Как только я это сделал, бот правильно сообщил мне новые часы работы.

Чему меня научил этот базовый эксперимент

Понимая, что это всего лишь детские шаги в новую область, при использовании GPT через API для чат-бота вы можете создать бота и определить контекст и темы для этого бота, чтобы он оставался в определенных пределах. Вы также можете предоставить ему обновленную информацию, которая противоречит информации, на которой он мог быть обучен.

Хотя мы здесь только царапаем поверхность, это дало мне некоторое базовое понимание того, как работает эта технология и как можно установить хотя бы основные границы. Это также помогло мне понять, как можно обновлять информацию. Следующим шагом будет посмотреть, смогу ли я заставить бота отвечать на вопросы о пользовательской базе знаний, а не только об общей, а теперь уже устаревшей интернет-информации.