Talpha
Получение API-ключа
Ссылки в статье открываются с VPN.
Создайте аккаунт на платформе OpenAI. Для работы на платформе из России понадобятся VPN, иностранная банковская карта и иностранный номер телефона.
На панели слева откройте раздел Settings Organization, в строке в строке Organization name укажите название организации.
Organization ID понадобится для настройки в конструкторе.
Откройте окно Dashboard, перейдите в раздел API keys, нажмите «Create new secret Key», скопируйте ключ и сохраните себе на устройство. При повторном входе платформа не показывает сгенерированный ключ.
В конструкторе перейдите в раздел Настройки → Интеграции → GPT. Выберите Connection «openai», добавьте API key и Organization ID. Сохраните.
Настройка блока GPT
На этот этапе добавим блок GPT в ваш сценарий бота. Перейдите в скрипт и создайте блок GPT: Чат с базой интернета или Ассистент (на вашей базе).
Блок Чат с базой интернета работает со всей информацией в сети (как обычный GPT).
Блок Ассистент (на вашей базе) работает только с информацией, которую загрузили в документе. Это могут быть инструкции, ответы на часто задаваемые вопросы, данные о ваших продуктах или услугах.
Разберем настройку каждого блока.
Чат с базой интернета
Кликните на блок, чтобы вызвать меню настройки.
▶︎ Выберите модель GPT
Модели имеют разные возможности и цены. Все модели могут понимать, а также генерировать естественный язык или код. ChatGPT-4 — это последняя модель нейросети, лучше понимает контекст и различает нюансы, что дает более точные и логичные ответы. Плюс, учитывает большее количество токенов.
▶︎ Установите температуру
Температура – это степень импровизации GPT. Принимает значение от 0.1 до 1.0. Чем выше значение, тем более абстрактным будет ответ GPT. Низкие значения делают ответы более обстоятельными, более высокие значения сделают их более случайными.
▶︎ Укажите количество токенов
Токен – это часть слова. Прежде чем API обработает запрос, входные данные разбиваются на токены. Для английского текста 1 токен составляет около 4 символа или ¾ слова; 100 токенов – это примерно 75 слов. Чтобы проверить количество токенов, используйте токенайзер.
В зависимости от используемой модели запросы могут использовать разное количество токенов. Больше информации о токенах можно найти здесь.
Указанное вами максимальное число токенов ограничивает длину ответа, однако не обязательно полученный ответ будет такой длины — в зависимости от содержимого запроса он может быть короче.
▶︎ Добавьте базовую установку
Базовая установка – это описание, на основе которого бот формирует ответы. Правильные фразы, заложенные в установку, помогут добиться точных и контекстных ответов от AI.
1. Пишите конкретно и ясно. Укажите всю вводную информацию, опишите проблему, цель бота, контекст и специфику, которые считаете важными. Используйте простой язык, избегая двусмысленности.
2. Используйте примеры, чтобы точнее дать, понять, чего вы хотите. Например, добавьте примеры заголовков для статей, в стиле которых вам нужен текст.
3. Укажите роль и персонифицируйте бота. Например, «ты юрист, который специализируется на гражданском праве». Опишите, какими качествами обладает, какой тон будет использовать в общении.
После тестирования бота корректируйте текст установки, пока не добьетесь нужных ответов.
Более подробно о составлении инструкции для GPT можно посмотреть здесь.
Ассистент
Вернитесь на платформу OpenAI, откройте раздел Assistans и создайте ассистента:
1. Нажмите Create
2. Укажите имя ассистента
3. В поле Instructions опишите, чем должен заниматься помощник (подробнее о составлении см. выше)
4. Выберите модель
5. Включите инструмент поиска файлов File search и загрузите файл с вашей базой знаний
Перейдите в конструктор и заполните поля в Настройке блока GPT Ассисент.
1. Выберите созданного ассистента.
Следующие настройки необязательны.
2. Укажите Thread ID. Тред — это последовательность сообщений, объединенных контекстом. Блок GPT формирует тред в переменной %answer_x.thread_id%. Если указать тред в настройке, бот будет поддерживать контекст сообщений.
3. Добавьте инструкцию. Это описание того, чем должен заниматься помощник. Можно скопировать инструкцию, указанную на OpenAI.
Примеры ботов с GPT
Мы собрали готовые шаблоны ботов, которые вы можете использовать как пример для собственного сценария или просто посмотреть, как устроен такой бот.
📚 База знаний с GPT (GPT-ассистент). Бот отвечает на вопросы о работе конструктора, сохраняет запросы в системе и направляет по разным сценариям.
🕵️ Бот для модерации группы в Telegram. Распознает и удаляет нежелательные сообщения в чате.
Как использовать шаблон?
1. Зарегистрируйтесь на платформе
2. Скопируйте шаблон в своей проект