Что такое токены и почему русский текст обходится дороже
Объясняем, за что на самом деле платят, когда пользуются нейросетью по API, и как прикинуть объём без подсчёта токенов.
Нейросети читают и пишут не буквами и не словами, а токенами — кусочками слов. Именно за токены провайдеры и берут деньги. Разберёмся, что это значит для вашего бюджета.
Токен — это кусочек слова
Частые слова часто занимают один токен, редкие разбиваются на несколько частей. Пробелы и знаки препинания тоже считаются. Как именно резать текст, решает сама модель: у разных моделей «нарезка» отличается.
Почему русский текст дороже
Большинство моделей учились в основном на английском, поэтому английские слова у них «нарезаны» крупнее. Русскому тексту того же смысла обычно нужно заметно больше токенов — часто в полтора-два раза. Значит, и платить за него приходится больше. Новые модели этот разрыв постепенно сокращают, но он всё ещё есть.
Вход и выход стоят по-разному
Платить приходится дважды: за то, что вы отправили модели (вход: вопрос, инструкции, документы, история переписки), и за то, что она написала в ответ (выход). Выход почти всегда дороже входа — нередко в 3–5 раз. Поэтому длинные ответы бьют по бюджету сильнее, чем длинные вопросы.
Как прикинуть объём, не считая токены
Удобная бытовая мерка: страница обычного русского текста — порядка 700–900 токенов. Короткое сообщение в чате — несколько десятков. Но проще всего не считать вовсе: в нашем калькуляторе выберите задачу и количество — объём подставится автоматически, а для точной настройки есть раздел для профи.
Скрытые токены у думающих моделей
Модели с режимом рассуждений сначала «думают про себя», и эти мысли тоже оплачиваются как выход, хотя вы их не видите. На сложной задаче размышлений может быть в разы больше, чем самого ответа. Если модель отмечена как «думающая», закладывайте запас в бюджете.