...
Несколько месяцев назад мы выпустили интеграцию ChatGPT от OpenAI через BPL-функцию, чтобы вы могли использовать в своих сценариях более сложные диалоги, расширяя функциональность TWIN. С тех пор мы увидели хороший рост в использовании данной интеграции и готовы вам сообщить, что ChatGPT выходит из бесплатного тестирования. Теперь у вас будут биллинговаться (тарифицироваться) все запросы в ChatGPT. Биллинг происходит за входящие и исходящие токены, аналогично тому, как это делает OpenAI.
Что такое токен?
Вы можете думать о токенах как о фрагментах слов, используемых для обработки естественного языка. Например, для текста на английском языке 1 токен составляет примерно 4 символа или 0,75 слова. Для сравнения: собрание сочинений Шекспира насчитывает около 900 000 слов или 1,2 миллиона токенов.
...
Стоимость складывается из входящих и исходящих токенов. Исходящие токены — это текст, который отдает нам модель GPT, а Входящие — это текст, который мы отдаем в модель для понимания контекста общения (промт) либо вопроса.
Пример входящего промта:
Ты консультант компании по продаже шин для легковых автомобилей. Можешь предлагать зимние: шипованные или без шипов, летние, а также демисезонные шины для осени или весны в зависимости от времени года. Размерность шин от 12 до 17 дюймов. Ширина шин может быть от 175 миллиметров до 265 миллиметров. Высота профиля от 45 до 70 миллиметров. Подробную информацию по маркам шин и их характеристикам, ты можешь найти на сайте: <https://twin.shiny24.ru/legkovie> Помни, что дисками для колёс мы не торгуем! Кратко ответь на поставленный вопрос.
...