Линейка компактных моделей Qwen 3.5: тесты и эффективность

Alibaba выпустила 4 новые модели Qwen3.5 от 0,8B до 9B. Модель 9B (Рассуждение, 32 в Индексе интеллекта) является самой интеллектуальной моделью с параметрами 10B, а модель 4B (Рассуждение, 27) — самой умной моделью с параметрами менее 5B, но обе используют более 200 миллионов выходных токенов для запуска Индекса интеллекта.

Alibaba расширила семейство Qwen3.5 четырьмя моделями меньшей плотности: 9B (Рассуждение, 32 в индексе интеллекта), 4B (Рассуждение, 27), 2B (Рассуждение, 16) и 0,8B (Рассуждение, 9). Они дополняют более крупные модели 397B, 27B, 122B A10B и 35B A3B, выпущенные ранее в этом месяце. Все модели имеют лицензию Apache 2.0, поддерживают контекст 262 КБ, включают встроенную поддержку машинного зрения и используют тот же гибридный подход унифицированного мышления/недумания, что и остальная часть семейства Qwen3.5.

Ключевые результаты бенчмаркинга для вариантов обоснования

➤ Модели 9B и 4B являются наиболее интеллектуальными моделями в своих размерных классах, опережая все другие модели с параметрами 10B. Qwen3.5 9B (32) примерно вдвое превосходит следующие ближайшие модели ниже 10B: Falcon-H1R-7B (16) и NVIDIA Nemotron Nano 9B V2 (Рассуждение, 15). Qwen3.5 4B (27) превосходит все перечисленные, несмотря на то, что у него примерно половина параметров. Qwen3.5 2B (16) соответствует Falcon-H1R-7B на уровне 7B и превосходит Nemotron Nano 9B V2 на уровне 9B. Все четыре небольшие модели Qwen3.5 приближают границу Парето на диаграмме «Интеллект против общих параметров».

➤ Поколение Qwen3.5 представляет собой улучшение материального интеллекта по сравнению с Qwen3 во всех размерах моделей до 10B, с большим выигрышем при большем количестве параметров. Сравнивая варианты рассуждений: Qwen3.5 9B (32) на 15 очков опережает Qwen3 VL 8B (17), 4B (27) на 9 очков опережает Qwen3 4B 2507 (18), 2B (16) на 3 очка опережает Qwen3 1,7B (оценка 13), а 0,8B (9) опережает на 2,5 очка. Квен3 0,6Б (6,5).

➤ Все четыре модели используют 230–390 млн токенов вывода для запуска индекса интеллекта, что значительно больше, чем у более крупных братьев и сестер Qwen3.5 и предшественников Qwen3. Qwen3.5 2B использовал ~390M выходных токенов, 4B использовал ~240M, 0,8B использовал ~230M, а 9B использовал ~260M. Для сравнения: гораздо более крупный Qwen3.5 27B использовал 98M, а флагман 397B — 86M. Это количество токенов также превышает большинство передовых моделей: Gemini 3.1 Pro Preview (57M), GPT-5.1 high (69M) и GLM-5 Reasoning (109M). Сопоставимо только GPT-5.2 Codex xhigh (202M), а Qwen3.5 2B почти вдвое превосходит его.

➤ Всеведение АА является относительной слабостью: уровень галлюцинаций составляет 80-82% для 4B и 9B. Qwen3.5 4B набирает -57 баллов по шкале АА-Всеведение, уровень галлюцинаций 80% и точность 12,8%. Qwen3.5 9B имеет оценку -56, галлюцинации 82% и точность 14,7%. Они немного лучше, чем их предшественники Qwen3 (Qwen3 4B 2507: -61, 84% галлюцинаций, 12,7% точности), причем улучшение обусловлено в первую очередь более низким уровнем галлюцинаций, а не более высокой точностью.

➤ Модели Qwen3.5 sub-10B сочетают в себе высокий интеллект и естественное зрение в ранее недоступных масштабах. По MMMU-Pro (мультимодальное рассуждение) Qwen3.5 9B набирает 69,2%, а 4B — 65,4%, опережая Qwen3 VL 8B (56,6%), Qwen3 VL 4B (52,0%) и Ministral 3 8B (46,0%). Qwen3.5 0,8B набирает 25,8%, что примечательно для модели ниже 1B.

Другая информация

➤ Контекстное окно: 262 тыс. токенов

➤ Лицензия: Apache 2.0.

➤ Квантование: собственные веса — BF16. Alibaba не выпустила собственные квантования GPTQ-Int4 для этих небольших моделей, хотя они уже есть для более крупных моделей семейства Qwen3.5, выпущенных ранее (27B, 35B-A3B, 122B-A10B, 397B-A17B). При 4-битном квантовании для 9B требуется примерно 6 ГБ, для 4B — примерно 3 ГБ, а для 2B и 0,8B — менее 2 ГБ, что делает все четыре модели доступными на потребительском оборудовании, включая ноутбуки и смартфоны.

➤ Доступность. На момент публикации не существует ни сторонних, ни сторонних бессерверных API, в которых размещаются эти модели.

Поколение Qwen3.5 представляет собой шаг вперед в области интеллекта малых моделей по сравнению с Qwen3. 9B набирает 15 очков над Qwen3 VL 8B (с 17 до 32), 4B набирает 9 очков с Qwen3 4B 2507 (с 18 до 27), 2B набирает 3 очка с Qwen3 1,7B (с 13 по 16), а 0,8B набирает 2,5 очка с Qwen3 0,6B (с 6,5 до 9).

Прирост интеллекта достигается за счет более высокого использования токенов по сравнению с аналогами. Все четыре модели Qwen3.5 менее 10B используют более 230 миллионов токенов вывода для запуска индекса интеллекта — это значительно выше, чем у передовых моделей, а также у предшественников Qwen3.

Модели Qwen3.5 9B и 4B — самые интеллектуальные мультимодальные модели по параметрам 15B. В MMMU-Pro Qwen3.5 9B (69%) и 4B (65%) лидируют среди всех моделей ниже 15B.

Разбивка индивидуальных результатов для всех 4 моделей