Открытая Qwen 3.8 на 27 млрд параметров существует: Alibaba выложила веса на Hugging Face 14 августа 2026 под лицензией Apache 2.0. С 4-битной квантизацией ей хватит видеокарты или Mac с 24 ГБ памяти. Дальше мы считаем память по формуле «параметры × бит на вес / 8», разбираем команды запуска и сравниваем локальный запуск с оплатой за токены.
Есть ли Qwen 3.8 27B и что в ней открыто
Да. Карточка модели описывает её как плотную (dense) языковую модель с визуальным энкодером: 27 млрд параметров, 64 слоя, скрытая размерность 5120. Слои чередуются по схеме «три слоя Gated DeltaNet, затем один слой полного внимания», поэтому полное внимание есть всего у 16 слоёв. Штатный контекст составляет 262 144 токена, с расширением модель держит до 1 млн. На вход она принимает текст, изображения и видео. Мышление включено по умолчанию, а глубину задаёт параметр reasoning_effort: xhigh, medium или low.
Вокруг названия много путаницы, поэтому сопоставим запросы с реальностью:
| Что искали | Что есть на 29 октября 2026 |
|---|---|
| qwen 27b, qwen 3.8 27b | Qwen3.8-27B: открытые веса, Apache 2.0, 14 августа 2026 |
| qwen 3.8 | Семейство: 27B и 2.4T-A95B с открытыми весами, Max и Flash в API, Flash-Next с открытыми весами от 26 августа |
| qwen 3.7 | Серия упомянута в README Qwen3.8, но открытых весов 3.7 в ленте новостей репозитория нет |
| qwen 3.8 flash | В API ID qwen3.8-flash; открытая Flash-Next: 125 млрд параметров плюс 51 млрд N-gram эмбеддингов, 6 млрд активных |
| qwen3vl 32b | Qwen3-VL 32B, предыдущее поколение, в Ollama тег qwen3-vl:32b |
Даты и состав семейства взяты из README репозитория Qwen3.8. Обзор линейки и цен вендора лежит в статье «Qwen 3.8: Max, 27B, цены».
Сколько памяти нужно: считаем по формуле
Память под веса считается просто: число параметров × бит на вес / 8. Загвоздка в том, что «бит на вес» у квантизаций дробное. Мы не берём эти значения из головы, а выводим из размеров файлов, которые Unsloth публикует для GGUF: бит на вес = размер в ГБ × 8 / 27.
| Формат | Номинал, бит | Номинальный расчёт, ГБ | Файл по Unsloth, ГБ | Реально бит на вес |
|---|---|---|---|---|
| BF16 | 16 | 54,0 | 54,7 | 16,2 |
| Q8_0 | 8 | 27,0 | 29 | 8,6 |
| UD-Q6_K | 6 | 20,3 | 22 | 6,5 |
| UD-Q4_K_M | 4 | 13,5 | 16,5 | 4,9 |
| UD-IQ3_S | 3 | 10,1 | 12 | 3,6 |
Номинал занижает размер: у Q4_K_M на 18%, у IQ3_S на 16%, у Q8_0 на 7%. Квантизации хранят масштабы блоков, а часть тензоров остаётся в высокой точности. Поэтому ориентируйтесь на столбец «реально».
К весам добавляется кэш контекста. Тут гибридная схема играет модели на руку: ключи и значения хранят только 16 слоёв полного внимания, у каждого 4 KV-головы размерностью 256. Для кэша в FP16 это 2 (ключи и значения) × 16 слоёв × 4 головы × 256 × 2 байта = 65 536 байт на токен. Это наш расчёт по параметрам из карточки: состояние слоёв DeltaNet и буферы рантайма мы не учитывали.
| Контекст, токенов | Кэш в FP16, ГБ |
|---|---|
| 8 192 | 0,5 |
| 32 768 | 2,1 |
| 131 072 | 8,6 |
| 262 144 | 17,2 |
Складываем: Q4_K_M и контекст 32K дают 16,5 + 2,1 = 18,6 ГБ, плюс 1-2 ГБ на рабочие буферы. Это сходится с таблицей Unsloth, где 4-битные версии требуют 16-19 ГБ, и с размером тега в Ollama, 18 ГБ. Подбор по железу с запасом 1,5 ГБ выглядит так:
| Память (VRAM или единая память Mac) | Квантизация | Разумный контекст |
|---|---|---|
| 16 ГБ | 3-битная, файл 12-13 ГБ | 8K-16K |
| 24 ГБ | Q4_K_M | до 64K |
| 32 ГБ | Q6_K или Q4_K_M | 64K или 128K |
| 48 ГБ | Q8_0 | 128K |
| 64 ГБ и больше | BF16 | до 64K |
На Mac часть памяти забирает система, поэтому строку «24 ГБ» читайте как верхнюю границу. Правило Unsloth: сумма RAM и VRAM должна примерно совпадать с размером квантизации. Если памяти меньше, модель всё равно запустится, но заметно медленнее из-за выгрузки на диск.
Как запустить Qwen 3.8 27B: Ollama, llama.cpp, LM Studio
Ollama
Самый короткий путь. На странице модели указана одна версия, 27B, с контекстом 256K и входом из текста и изображений:
ollama run qwen3.8
Есть и другие теги: qwen3.8:27b-mtp-q8_0 (30 ГБ), qwen3.8:27b-mtp-bf16 (56 ГБ), а для Apple silicon qwen3.8:27b-mlx (18 ГБ). Ollama поднимает локальный сервер с OpenAI-совместимым адресом http://localhost:11434/v1/: клиент требует ключ, но не проверяет его. Агента можно сразу направить на эту модель, на странице Ollama приведены команды вроде ollama launch opencode --model qwen3.8. Установка агента разобрана в статье «OpenCode: установка и модели», а Qwen Code работает с Ollama и vLLM, см. материал про Qwen Code.
llama.cpp и LM Studio
Если нужен конкретный уровень квантизации, удобнее llama.cpp. Файл подтянется с Hugging Face сам:
llama-server -hf unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_M
В Windows llama.cpp ставится командой winget install llama.cpp. Для LM Studio есть ссылка lmstudio://open_from_hf?model=unsloth/Qwen3.8-27B-GGUF, квантизацию выбираете в окне загрузки.
vLLM и SGLang для сервера
Для сервера на несколько карт в README Qwen3.8 приведена такая команда:
vllm serve Qwen/Qwen3.8-27B --port 8000 --tensor-parallel-size 4 --max-model-len 262144 --reasoning-parser qwen3 --enable-auto-tool-choice --tool-call-parser qwen3_coder
Какие параметры генерации ставить, подсказывает карточка модели. В режиме мышления: temperature 1.0, top_p 0.95, top_k 20. Без мышления: temperature 0.7, top_p 0.8, top_k 20 и presence_penalty 1.5. Мышление отключается параметром enable_thinking: False в запросе.
Когда запускать локально, а когда брать API
Локально запускать стоит в трёх случаях: данные нельзя отправлять наружу, нужна работа без сети или вы постоянно гоняете большие объёмы, а железо уже стоит на столе. В остальных случаях лучше сначала посчитать.
Возьмём допущение: 40 млн входных и 8 млн выходных токенов в месяц. По прайсу codexkey на 29 октября 2026 qwen3.8-flash обойдётся в 40 × $0,10 + 8 × $0,28 = $6,24, а qwen3.8-max в 40 × $0,28 + 8 × $0,86 = $18,08. Ради такой экономии видеокарту на 24 ГБ покупать не стоит, зато она даёт приватность и работу без сети.
Есть оговорка, которая важнее цены: qwen3.8-flash это не 27B. Качество этих моделей вслепую сравнивать нельзя. Поставьте оба варианта рядом и дайте им пять-десять своих задач:
from openai import OpenAI
local = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")
cloud = OpenAI(base_url="https://api.codexkey.ru/v1", api_key="sk_cdx_ВАШ_КЛЮЧ")
question = [{"role": "user", "content": "Назови три причины запускать LLM локально."}]
for client, model in ((local, "qwen3.8"), (cloud, "qwen3.8-flash")):
answer = client.chat.completions.create(model=model, messages=question)
print(model, "->", answer.choices[0].message.content[:300])
Свежие модели DeepSeek тоже открыты под MIT, но на обычный компьютер не поместятся: у V4.1-Flash 552 млрд параметров, у V4 Pro 1,6 трлн. Подробнее в обзоре DeepSeek 4.1 Flash.
Qwen по API через codexkey вместо локального запуска
codexkey даёт API-доступ к моделям Qwen: ключ sk_cdx_..., оплата картой РФ, СБП или криптовалютой, адрес https://api.codexkey.ru/v1. Моделей 27B и Flash-Next в списке нет, актуальный набор отдаёт GET /v1/models и страница моделей.
Прайс codexkey на 29 октября 2026, цены за 1 млн токенов, актуальные цифры смотрите на странице моделей:
| ID | Вход | Выход | Контекст |
|---|---|---|---|
qwen3.8-max | $0.28 | $0.86 | 1000K |
qwen3.8-flash | $0.10 | $0.28 | 1000K |
qwen3.8-flash-free | $0 | $0 | 1000K |
Условия qwen3.8-flash-free смотрите на странице модели. Ключ создаётся по быстрому старту, а про чат Alibaba, его официальные адреса и доступ из России рассказывает статья «Qwen Studio: сайт и вход».
FAQ
Существует ли Qwen 3.8 27B?
Да. Qwen3.8-27B опубликована на Hugging Face 14 августа 2026 под лицензией Apache 2.0: плотная модель на 27 млрд параметров, на входе принимает изображения и видео. Веса берите из организации Qwen на Hugging Face (huggingface.co/Qwen). Копии и квантизации под сторонними аккаунтами существуют, но их содержимое проверяйте отдельно.
Сколько памяти нужно для Qwen 3.8 27B?
В 4-битной квантизации Q4_K_M файл занимает около 16,5 ГБ, а вместе с кэшем контекста 32K и буферами выходит 19-20 ГБ. В BF16 одни веса весят около 55 ГБ. Формула такая: параметры × бит на вес / 8 плюс кэш контекста, у этой модели он около 64 КБ на токен в FP16.
Как запустить Qwen 3.8 27B в Ollama?
Установите Ollama и выполните ollama run qwen3.8. Скачается около 18 ГБ. Локальный сервер отвечает по адресу http://localhost:11434/v1/ по OpenAI-совместимому протоколу.
Запустится ли Qwen 3.8 27B на видеокарте с 16 ГБ?
Для 3-битных версий Unsloth указывает 12-14 ГБ суммарной памяти, для 4-битных 16-19 ГБ. На карте с 16 ГБ реалистична 3-битная версия с небольшим контекстом. Q4_K_M упрётся в предел, и под кэш останется мало места.
Чем Qwen 3.8 Flash отличается от 27B?
27B это плотная открытая модель, которую вы запускаете сами. Qwen3.8-Flash в API размещает вендор, контекст у неё 1 млн токенов. Открытая Flash-Next (125 млрд параметров и 51 млрд эмбеддингов, 6 млрд активных) на странице Qwen3.8-Flash в QwenCloud не упоминается, поэтому считать их одной моделью нельзя.
Есть ли Qwen3.8-27B в codexkey?
Нет. В каталоге на 29 октября 2026 есть qwen3.8-max, qwen3.8-flash, qwen3.8-flash-free и qwen3.8-omni-flash. Если нужна именно 27B, запускайте её локально, например командой ollama run qwen3.8.
Открыты ли веса у Qwen 3.7?
В официальных источниках, которые мы открывали, подтверждения нет. Серия 3.7 упомянута в README Qwen3.8 как предыдущая на той же архитектуре, а в ленте новостей репозитория между апрельскими релизами 3.6 и августовскими релизами 3.8 релизов 3.7 нет.