Руководство для начинающих по модели OpenAI GPT-3.5-Turbo

От GPT-3 до GPT-3.5-Turbo: понимание последних обновлений API языковой модели OpenAI.

Обновлено 6 апреля 2023 г.

В этом руководстве рассматриваются преимущества использования модели GPT-3.5-Turbo по сравнению с другими моделями, включая GPT-4. Мы рассмотрим внесенные изменения, обсудим новые варианты использования и предоставим фрагменты кода, чтобы продемонстрировать, как их реализовать.

Если программирование вам не по душе, не стесняйтесь пропустить раздел «Как использовать».

· Что такое модель GPT-3.5-Turbo
· Сравнение GPT-3.5-Turbo и GPT-3
· Как использовать модель GPT-3.5-Turbo
> · Оптимальные методы использования модели GPT-3.5-Turbo
· Некоторые мысли о возможных вариантах использования
· Подведение итогов

Что такое модель GPT-3.5-Turbo

Если вы попали на это руководство, скорее всего, вы уже знакомы с API ChatGPT или OpenAI, поэтому я не буду вдаваться в подробности их истории.

Несмотря на доступность модели GPT-4, модель GPT-3.5-Turbo остается мощным и экономичным вариантом. Он поддерживает широко популярный ChatGPT и предлагает пользователям возможность создавать своих собственных чат-ботов с аналогичными возможностями.

Одним из ключевых преимуществ модели GPT-3.5-Turbo является ее многооборотность, позволяющая принимать на вход серию сообщений. Эта функция является улучшением по сравнению с моделью GPT-3, которая поддерживала только однократные текстовые подсказки. С помощью этой функции пользователи могут использовать предустановленные сценарии и предыдущие ответы в качестве контекста для повышения качества генерируемого ответа. Мы рассмотрим эти функции более подробно в следующем разделе.

Сравнение GPT-3, GPT-3.5-Turbo и GPT-4

В то время как модель GPT-4 обеспечивает превосходное качество результатов, модель GPT-3.5-Turbo является значительно более экономичным вариантом. Он предлагает результаты достаточно хорошего качества, аналогичные результатам, достигнутым ChatGPT, наряду с более быстрыми ответами API и тем же режимом API с многооборотным завершением чата.

Если вы хотите более подробно изучить модель ценообразования и то, как рассчитывается токен, я рекомендую ознакомиться с соответствующим разделом нового руководства по GPT-4. В этом руководстве я покажу, как создать чат-бота, похожего на ChatGPT, который можно использовать в терминале.

Для сравнения, модель GPT-3, если она не доработана, менее привлекательна из-за более высокой стоимости и более низкого качества результатов по сравнению с GPT-3,5-Turbo. Для большинства случаев использования я рекомендую модель GPT-3.5-Turbo. Он использует те же методы вызова API, что и GPT-4, и вы можете перейти на последний в любое время.

В следующем примере мы увидим разницу между запросом в стиле сообщения, используемым новой моделью GPT-3.5-Turbo, и старым запросом в стиле подсказки. Новая модель позволяет нам включать больше контекста и даже предыдущих ответов в разговор, что делает его более мощным инструментом.

// GPT-3 model prompt example
const GPT3Prompt = `Give an example of How to send an openai api request in JavaScript`;

// GPT-3.5-Turbo model prompt example
const GPT35TurboMessage = [
  { role: "system", content: `You are a JavaScript developer.` },
  {
    role: "user",
    content: "Which npm package is best of openai api development?",
  },
  {
    role: "assistant",
    content: "The 'openai' Node.js library.",
  },
  { role: "user", content: "How to send an openai api request"},

Как использовать модель GPT-3.5-Turbo

Обновление до нового GPT-3.5-Turbo Model API — простой процесс, и в этом руководстве показано, как это сделать с помощью Node.js. Однако эта концепция применима и к другим языкам программирования.

Учебник включает фрагмент кода с примерами как для предыдущего метода GPT-3, так и для нового метода GPT-3.5-Turbo.

Прежде чем продолжить, убедитесь, что вы получили ключ API OpenAI и соответствующим образом настроили свой проект. Для получения дополнительной информации вы можете обратиться к моему руководству Начало работы с OpenAI API.

На момент написания этого руководства метод createChatCompletion еще не был официально выпущен в библиотеке openai-node. Однако после изучения их кода GitHub оказалось, что этот метод действительно доступен для использования в последней версии.

import dotenv from "dotenv";
import { Configuration, OpenAIApi } from "openai";

dotenv.config();

// Creating an instance of OpenAIApi with API key from the environment variables
const openai = new OpenAIApi(
  new Configuration({ apiKey: process.env.OPENAI_KEY })
);

const topic = "JavaScript";
const question = "How to send an openai api request";

// Setting values for the prompt and message to be used in the GPT-3 and GPT-3.5-Turbo
const GPT3Prompt = `Give an example of ${question} in ${topic}`;
const GPT35TurboMessage = [
  { role: "system", content: `You are a ${topic} developer.` },
  {
    role: "user",
    content: "Which npm package is best of openai api development?",
  },
  {
    role: "assistant",
    content: "The 'openai' Node.js library.",
  },
  { role: "user", content: question },
];

// Function to generate text using GPT-3 model
let GPT3 = async (prompt) => {
  const response = await openai.createCompletion({
    model: "text-davinci-003",
    prompt,
    max_tokens: 500,
  });
  return response.data.choices[0].text;
};

let GPT35Turbo = async (message) => {
  const response = await openai.createChatCompletion({
    model: "gpt-3.5-turbo",
    messages: message,
  });

  return response.data.choices[0].message.content;
};

// Log the generated text from the GPT-3 and GPT-3.5-Turbo models to the console
console.log("### I'm GPT-3. ####", await GPT3(GPT3Prompt));
console.log("### I'm GPT-3.5-TURBO. ####", await GPT35Turbo(GPT35TurboMessage));




/* ****** Response Section ******

### I'm GPT-3. #### 

//Include the OpenAI JavaScript Client Library
const openAiClient = require('openai-client');

//Provide your OpenAI API key
let apiKey = 'YOUR_API_KEY';

//Set up the OpenAI client with your API key
const client = openAiClient(apiKey);

//Create the request object with your desired parameters
let requestOptions = {
    engine: 'davinci',
    prompt: 'Are you feeling okay?',
    max_tokens: 25
};

//Send the request to OpenAI
client.request(requestOptions, function(err, result){
    if (err) {
        console.log(err)
    } else {
        //The response from OpenAI will be in the 'result' object
        console.log(result);
    }
});



### I'm GPT-3.5-TURBO. #### 

To send an OpenAI API request using the 'openai' Node.js library, you would follow these general steps:

1. First, you need to install the 'openai' package from npm using the command: `npm install openai`
2. Next, you would need to import the library into your file using `const openai = require('openai');`
3. Authenticate your API key by setting it as an environment variable, or passing it as a parameter to the `openai.api_key` property.
4. Use one of the various API methods provided by the `openai` library to send a request to OpenAI. For example, to use the 'Completion' endpoint, you could use the following code:

```javascript
// Set the API key
openai.api_key = 'YOUR_API_KEY';

// Send a 'Completion' API request
const prompt = 'Hello, my name is';
const requestOptions = {
  prompt,
  temperature: 0.5,
  max_tokens: 5,
  n: 1,
  stream: false,
  stop: '\n'
};

openai.completions.create(requestOptions)
  .then(response => {
    console.log(response.data);
  })
  .catch(error => {
    console.error(error);
  });
```

In this example, we are using the `openai.completions.create()` method to send a request to the 'Completion' endpoint, which generates text completion based on the provided prompt. We are then logging the response from the API to the console. Note that the `requestOptions` object contains various parameters that can be used to customize the request.
*/

Переменной GPT3Prompt присваивается строка, включающая переменные question и topic, которая будет использоваться в качестве входных данных для модели GPT-3.
Переменной GPT35TurboMessage присваивается массив объектов, которые имитируют разговор между пользователем, помощником и системой и будут использоваться в качестве входных данных для модели GPT-3.5-Turbo.
Определены две функции для генерации текста с использованием моделей GPT-3 и GPT-3.5-Turbo: GPT3 и GPT35Turbo соответственно.
Функция GPT3 использует метод openai.createCompletion() для генерации текста на основе переменной GPT3Prompt и модели text-davinci-003 GPT-3.
Функция GPT35Turbo использует метод openai.createChatCompletion() для генерации текста на основе переменной GPT35TurboMessage и модели gpt-3.5-turbo GPT-3.5-Turbo.
Наконец, сгенерированный текст моделей GPT-3 и GPT-3.5-Turbo записывается в консоль с помощью console.log().

Результат, полученный моделью GPT-3.5-Turbo, значительно лучше, чем у модели GPT-3, потому что я предоставил больше контекста для запроса. Напротив, модель GPT-3 пошла своим путем и предложила несуществующую библиотеку при генерации ответа.

Как видно из кода, переход на новую модель GPT-3.5-Turbo не требует особых изменений. Кроме того, у вас есть возможность включить в сообщения больше контекста, чтобы лучше адаптировать ваш запрос к поставленной задаче.

Некоторые мысли о возможных вариантах использования

Учитывая быструю эволюцию, снижение затрат и расширение возможностей, доступных для различных технологий ИИ, я настоятельно призываю любой средний и крупный бизнес начать обдумывать свою стратегию ИИ, пока не стало слишком поздно.

Я думаю, что любая компания, пытающаяся заменить весь свой персонал искусственным интеллектом, на самом деле не разбирается в этой технологии.

Хотя многосторонние разговоры могут быть полезны, важно отметить, что существуют ограничения на объем информации, которая может быть сохранена и обработана из-за нехватки памяти.

ИИ следует рассматривать как инструмент, расширяющий возможности людей, а не как их замену.

Давайте рассмотрим несколько потенциальных вариантов использования, которые могут принести пользу вашему бизнесу.

Служба поддержки

Я знаю, что поддержка клиентов — это область, в которой многие компании сталкиваются с проблемами.

Клиенты могут быть недовольны качеством обслуживания, которое они получают, или им, возможно, придется слишком долго ждать, чтобы поговорить с представителем.
Сотрудники могут чувствовать себя перегруженными работой и не располагать ресурсами, необходимыми им для надлежащего выполнения своей работы.
Руководство может быть недовольно стоимостью поддержки клиентов, что может негативно сказаться на итоговых показателях компании.

Включение ИИ в ваш рабочий процесс поддержки клиентов может дать множество преимуществ. Например,

Текстовые запросы, которые обычно поступают через такие каналы, как онлайн-чат, электронная почта и заявки в службу поддержки, могут эффективно управляться с помощью настраиваемого чат-бота с всесторонним пониманием ваших продуктов и услуг, а также устранением распространенных неполадок. шаги. Это может помочь вам быстро отфильтровать и ответить на основные запросы клиентов, потенциально сэкономив драгоценное время и ресурсы.
Голосовые запросы можно обрабатывать с помощью инструментов искусственного интеллекта, таких как Whisper от OpenAI, которые могут преобразовывать входящие голосовые сообщения в текст для обработки тем же чат-ботом. Вы также можете использовать службы преобразования текста в речь, такие как Amazon Polly, для повышения общего качества обслуживания клиентов.

Юридическая служба

ИИ может быть ценным инструментом для юридических фирм и других организаций, предоставляющих профессиональные услуги. Например,

Первоначальные консультации, аналогичные обращениям в службу поддержки клиентов, могут обрабатываться чат-ботами с искусственным интеллектом для основных запросов, не требующих сложного анализа, что освобождает время сотрудников для решения более сложных вопросов.
Использование искусственного интеллекта для обработки естественного языка, такого как модели GPT, может помочь упростить процесс чтения сложной юридической документации, такой как контракты, юридические заключения, судебные документы, законы и нормативные акты, а также юридические заключения. Это позволяет проводить более эффективный и точный анализ, поскольку эти модели могут анализировать тысячи строк текста всего за долю секунды.

Обратите внимание, что OpenAI больше не использует данные, отправляемые через API, для обучения моделей. Это изменение было внесено для решения проблем конфиденциальности, поднятых многими компаниями.

Заворачивать

Я считаю, что большинство предприятий могут в некоторой степени извлечь выгоду из внедрения технологии ИИ, в зависимости от их бюджета и технических знаний. С ростом доступности и доступности решений ИИ мы можем ожидать, что в ближайшем будущем будет расти число компаний, предлагающих специализированные услуги ИИ для предприятий любого размера.

Обновление:

Доступен новый учебник по модели GPT-4! Проверьте ссылку ниже.

Руководство для начинающих по модели OpenAI GPT-4
Учебное пособие по чат-боту GPT-4: освоение разговорного ИИ, отслеживание токенов и рекомендации по модели для оптимальной производительностиmedium.com

Спасибо, что прочитали! Если вам понравились уроки и истории, которыми я поделился, и вы хотели бы поддержать меня, пожалуйста, рассмотрите возможность регистрации, чтобы стать участником Medium, используя мою реферальную ссылку.

Начало работы с OpenAI API в JavaScript
JavaScript + OpenAI API = мощные приложения с поддержкой ИИ. Узнайте, как это сделать, из этого руководства для начинающих.javascript.plainenglish.io

Дополнительные материалы на PlainEnglish.io.

Подпишитесь на нашу бесплатную еженедельную рассылку новостей. Подпишитесь на нас в Twitter, LinkedIn, YouTube и Discord .

Заинтересованы в масштабировании запуска вашего программного обеспечения? Ознакомьтесь с разделом Схема.

Руководство для начинающих по модели OpenAI GPT-3.5-Turbo

От GPT-3 до GPT-3.5-Turbo: понимание последних обновлений API языковой модели OpenAI.

Оглавление

Что такое модель GPT-3.5-Turbo

Сравнение GPT-3, GPT-3.5-Turbo и GPT-4

Как использовать модель GPT-3.5-Turbo

Рекомендации по использованию модели GPT-3.5-Turbo

Некоторые мысли о возможных вариантах использования

Служба поддержки

Юридическая служба

Заворачивать

Руководство для начинающих по модели OpenAI GPT-3.5-Turbo

От GPT-3 до GPT-3.5-Turbo: понимание последних обновлений API языковой модели OpenAI.

Оглавление

Что такое модель GPT-3.5-Turbo

Сравнение GPT-3, GPT-3.5-Turbo и GPT-4

Как использовать модель GPT-3.5-Turbo

Рекомендации по использованию модели GPT-3.5-Turbo

Некоторые мысли о возможных вариантах использования

Служба поддержки

Юридическая служба

Заворачивать

Вопросы по теме