Модели

Каталог из 127 открытых моделей для запуска в сети AETRON: LLM, генерация изображений, видео, речь и эмбеддинги. Лицензия, требования к памяти и параметры — у каждой записи.

  • Qwen2.5-0.5B-Instruct · Alibaba / Qwen

    Крошечная LLM на 0.5B с инструктивной настройкой — работает на пограничных устройствах и на CPU.

  • Qwen3.5-9B · Alibaba / Qwen

    Плотная LLM на 9B поколения Qwen3.5 (02.2026). Сильна в рассуждениях, коде и многоязычном диалоге.

  • Qwen3.5-9B (FP8-dynamic) · Alibaba / Qwen

    Готовая сборка FP8 (compressed-tensors): плотная LLM на 9B поколения Qwen3.5 (02.2026). Сильна в рассуждениях, коде и многоязычном диалоге.

  • Qwen3.5-9B (w4a16) · Alibaba / Qwen

    Готовая сборка INT4 W4A16 (compressed-tensors): плотная LLM на 9B поколения Qwen3.5 (02.2026). Сильна в рассуждениях, коде и многоязычном диалоге.

  • Qwen-Image · Alibaba Qwen

    Текст-в-картинку на 20B MMDiT. Лучший в классе рендер текста, английский и китайский.

  • Qwen3.6-35B-A3B · Alibaba / Qwen

    MoE на 35B с ~3B активных: качество почти как у 27B, но заметно быстрее.

  • Qwen3.6-35B-A3B (NVFP4 (compressed-tensors)) · Alibaba / Qwen

    Готовая сборка NVFP4 (compressed-tensors) — работает на флотском стеке (compressed-tensors). Окно Blackwell.

  • Qwen3.6-35B-A3B (official FP8) · Alibaba / Qwen

    Готовая официальная сборка FP8 для Qwen3.6-35B-A3B.

  • Qwen3.5-4B · Alibaba / Qwen

    Компактная модель на 4B для потребительских видеокарт и пограничных устройств.

  • Qwen3.5-4B (INT4 W4A16) · Alibaba / Qwen

    Готовая сборка INT4 W4A16 для Qwen3.5-4B.

  • Qwen3.5-4B (FP8-dynamic) · Alibaba / Qwen

    Готовая сборка FP8-dynamic для Qwen3.5-4B.

  • Qwen3.5-9B (GGUF Q4_K_M) · Alibaba / Qwen (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Q4_K_M) на базе Qwen3.5-9B — один артефакт работает на Metal, CUDA и CPU; именно на нём проверялся консенсусный движок GGUF.

  • Qwen3.5-9B (GGUF Q4_K_M + vision) · Alibaba / Qwen (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Q4_K_M) на базе Qwen3.5-9B — один артефакт работает на Metal, CUDA и CPU; именно на нём проверялся консенсусный движок GGUF. В манифест входит проектор F16, поэтому запись читает не только текст, но и изображения.

  • Qwen3.5-27B (GGUF Q8_0) · Alibaba / Qwen (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Q8_0, 8 бит) на базе Qwen3.5-27B — та же модель, но квант точнее; отдельная запись, потому что другой артефакт означает другой model_hash.

  • Qwen3.8-27B (GGUF UD-Q4_K_M) · Alibaba / Qwen (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Unsloth Dynamic Q4_K_M) на базе Qwen3.8-27B — один артефакт работает на Metal, CUDA и CPU. Контекст 262144 токена. Исходная модель мультимодальна (изображение и текст на входе, текст на выходе); этот пин покрывает ТОЛЬКО текстовые веса — зрительный проектор (mmproj) лежит отдельным артефактом и в манифест не входит.

  • Qwen3.8-27B (GGUF UD-Q4_K_M + vision) · Alibaba / Qwen (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Unsloth Dynamic Q4_K_M) на базе Qwen3.8-27B — один артефакт работает на Metal, CUDA и CPU. Контекст 262144 токена. Исходная модель мультимодальна (изображение и текст на входе, текст на выходе); этот пин покрывает ТОЛЬКО текстовые веса — зрительный проектор (mmproj) лежит отдельным артефактом и в манифест не входит. В манифест входит проектор F16, поэтому запись читает не только текст, но и изображения.

  • Qwen3-Coder-30B-A3B · Alibaba / Qwen

    Кодовая MoE с контекстом 256K и ~3B активных параметров.

  • Qwen3-Coder-30B-A3B (official FP8) · Alibaba / Qwen

    Готовая официальная сборка FP8 для Qwen3-Coder-30B-A3B.

  • Gemma 4 E4B IT · Google

    Экономичная Gemma 4 на 4B с инструктивной настройкой.

  • Gemma 4 E4B IT (GGUF Q4_0) · Google

    Сборка GGUF для llama.cpp (Q4_0, QAT) на базе Gemma 4 E4B IT. Один файл проектора несёт ОБА энкодера — clip.has_vision_encoder и clip.has_audio_encoder — поэтому запись читает и изображения, и речь на консенсусном движке GGUF за 6.1 ГБ вместо 18 ГБ, нужных торчовому пути.

  • Gemma 4 12B IT · Google

    Gemma 4 12B с инструктивной настройкой: диалог с картинками, контекст 256K.

  • Gemma 4 31B IT · Google

    Gemma 4 31B с инструктивной настройкой: самая большая плотная открытая модель Google, диалог с картинками.

  • Gemma 4 31B (official QAT W4A16) · Google

    Готовая официальная сборка QAT W4A16 для Gemma 4 31B.

  • Gemma 4 31B (FP8-block) · Google

    Готовая сборка FP8-block для Gemma 4 31B.

  • Ministral 3 8B · Mistral AI

    Модель на 8B со зрением из линейки Ministral 3, рассчитанной на пограничные устройства.

  • Ministral 3 14B · Mistral AI

    Более крупная Ministral 3, тоже со зрением.

  • Ministral 3 14B (FP8-dynamic) · Mistral AI

    Готовая сборка FP8-dynamic для Ministral 3 14B.

  • Nemotron-3 Nano 4B · NVIDIA

    Гибридная Mamba-2 Nano на 4B с длинным контекстом.

  • gpt-oss-20b · OpenAI

    MoE от OpenAI на 21B в нативном MXFP4; майнер запускает её распакованной в bf16, в 42 ГБ.

  • GLM-4.7-Flash · Z.ai

    Потребительская GLM на 31B.

  • GLM-4.7-Flash (FP8-dynamic) · Z.ai

    Готовая сборка FP8-dynamic для GLM-4.7-Flash.

  • DeepSeek-V4-Pro (NVFP4-FP8 (compressed-tensors)) · DeepSeek

    Готовая сборка NVFP4-FP8 (compressed-tensors) — работает на флотском стеке (compressed-tensors). Окно Blackwell.

  • Qwen3-Coder-Next · Alibaba / Qwen

    Открытая кодовая модель уровня SOTA, 80B-A3B.

  • Qwen3-Coder-Next (official FP8) · Alibaba / Qwen

    Готовая официальная сборка FP8 для Qwen3-Coder-Next.

  • Nemotron-3 Super 120B-A12B · NVIDIA

    Super 120B-A12B: помещается на одну карту 80 ГБ в 4 битах.

  • gpt-oss-120b · OpenAI

    MoE от OpenAI на 117B в нативном MXFP4; майнер запускает её распакованной в bf16, в 234 ГБ на нескольких видеокартах.

  • Mistral Small 4 119B · Mistral AI

    Объединённая модель инструкций и рассуждений на 119B.

  • FLUX.2 [klein] 4B · Black Forest Labs

    Дистиллированная потребительская FLUX.2 на 4B.

  • Z-Image Turbo · Tongyi-MAI

    S3-DiT на 6B: лучшее качество на гигабайт, около 2 с на изображение на 4090.

  • Chroma1-HD · Lodestone Rock

    База под лицензией Apache для дообучения без ограничений.

  • Wan 2.2 TI2V-5B · Alibaba / Wan-AI

    Модель на 5B: видео из текста и из изображения. Зеркало diffusers: исходный репозиторий отдаёт VAE и T5 в формате pickle, который загрузчик отвергает.

  • Wan 2.2 T2V-A14B · Alibaba / Wan-AI

    Видео-MoE, 27B суммарно при 14B активных. Зеркало diffusers; оба эксперта остаются в памяти, поэтому видеопамять считается на пару.

  • HunyuanVideo 1.5 · Tencent

    Видеомодель на 8.3B, текст-в-видео 480p. Зеркало diffusers: исходный репозиторий требует собственный пакет hyvideo от Tencent и не содержит текстового энкодера.

  • LTX-2.3 Distilled 1.0 · Lightricks

    Генерация видео со звуком, чемпион по скорости. Манифест пинит дистиллированный чекпойнт 1.0 в формате diffusers (diffusers/LTX-2.3-Distilled-Diffusers).

  • Chandra OCR 2 · Datalab

    OCR уровня SOTA на базе Qwen3.5, более 40 языков.

  • Qwen3-Embedding-0.6B · Alibaba / Qwen

    Лидирующая линейка текстовых эмбеддингов в размере, посильном для CPU.

  • Qwen3-Embedding-8B · Alibaba / Qwen

    Лучшие текстовые эмбеддинги по MMTEB.

  • MiniMax H3 (int8, ComfyUI) · MiniMax (ComfyUI weights: Comfy-Org)

    MiniMax H3: видео со звуком по тексту в ComfyUI: int8 DiT и текстовый энкодер Comfy-Org, турбо-LoRA на 4 шага и оба VAE.

  • Qwen3.8-27B · Alibaba / Qwen

    Плотная 27B Qwen3.8, мультимодальная из коробки (текст + картинки).

  • Qwen3.8-27B (FP8) · Alibaba / Qwen

    Официальная FP8-сборка Qwen3.8-27B.

  • Qwen3.8-27B (NVFP4) · Alibaba / Qwen · Unsloth

    NVFP4-сборка (Blackwell) Qwen3.8-27B от Unsloth, compressed-tensors.

  • Nemotron 3.5 Lightning 30B-A3B · NVIDIA

    Гибридная MoE Mamba-Transformer: 31,6B всего, 3B активных.

  • Nemotron 3.5 Lightning 30B-A3B (FP8) · NVIDIA / Red Hat AI

    FP8-сборка Nemotron 3.5 Lightning 30B-A3B от Red Hat AI.

  • MiniCPM5-2B · OpenBMB

    Компактная LLM на 2,5B для периферийных устройств и CPU.

  • MiniCPM-V 4.6 · OpenBMB

    VLM на 1,3B: картинки и документы на небольших GPU.

  • PaddleOCR-VL 1.6 · Baidu / PaddlePaddle

    VLM на 0,96B для разбора документов: текст, таблицы, формулы.

  • Qwen3.5-0.8B · Alibaba / Qwen

    Самая маленькая Qwen3.5: 0,87B, текст и картинки, работает на CPU.

  • DeepSeek-V4-Flash-0731 · DeepSeek

    DeepSeek V4 Flash, обновление 31.07.2026: MoE на 304B (FP8 + FP4-эксперты).

  • DeepSeek-V4-Pro-0813 · DeepSeek

    DeepSeek V4 Pro, обновление 13.08.2026: MoE на 1,65T (FP8 + FP4-эксперты).

  • DeepSeek-V4-Flash-0731 (NVFP4) · DeepSeek / Red Hat AI

    NVFP4-сборка DeepSeek-V4-Flash-0731 от Red Hat AI, compressed-tensors.

  • GLM-5.3 · Z.ai

    GLM-5.3: MoE на 753B, Z.AI публикует её сразу в FP8.

  • MiniMax-M3 · MiniMax

    MiniMax M3: MoE на 427B со зрением.

  • Qwen3-ASR-1.7B (GGUF Q8_0) · Alibaba / Qwen

    Распознавание речи, 1,7B, на движке llama.cpp.

  • Qwen-Image-2.1 (GGUF Q8_0, sd.cpp) · Alibaba Qwen (GGUF: leejet; VAE: Comfy-Org)

    Генерация картинок Qwen-Image-2.1, 40 шагов, на sd.cpp: DiT Q8_0, текстовый энкодер Qwen3-VL-8B, до 2752 пикселей по стороне. Исследовательская лицензия.

  • Qwen-Image-2.1 Edit (GGUF Q8_0, sd.cpp) · Alibaba Qwen (GGUF: leejet; VAE: Comfy-Org)

    Редактирование картинок Qwen-Image-2.1, 40 шагов, на sd.cpp: набор Q8_0 плюс проектор зрения Qwen3-VL-8B, до 10 референсов. Исследовательская лицензия.

  • Qwen-Image-2.1 (GGUF Q4_K, sd.cpp) · Alibaba Qwen (GGUF: leejet; VAE: Comfy-Org)

    Генерация картинок Qwen-Image-2.1, 40 шагов, на sd.cpp: DiT Q4_K для карт на 12–16 ГБ. Исследовательская лицензия.

  • Qwen-Image-2.1 Turbo (GGUF Q8_0, sd.cpp) · Alibaba Qwen (GGUF: unsloth; VAE: Comfy-Org)

    Генерация картинок официальной Qwen-Image-2.1-Turbo, 8 шагов, на sd.cpp: DiT Q8_0, текстовый энкодер Qwen3-VL-8B. Исследовательская лицензия.

  • Qwen-Image-2.1 Turbo Edit (GGUF Q8_0, sd.cpp) · Alibaba Qwen (GGUF: unsloth; VAE: Comfy-Org)

    Редактирование картинок официальной Qwen-Image-2.1-Turbo, 8 шагов, на sd.cpp: набор Q8_0 плюс проектор зрения Qwen3-VL-8B, до 10 референсов. Исследовательская лицензия.

  • Qwen-Image-2.1 Turbo (GGUF Q4_K_M, sd.cpp) · Alibaba Qwen (GGUF: unsloth; VAE: Comfy-Org)

    Генерация картинок официальной Qwen-Image-2.1-Turbo, 8 шагов, на sd.cpp: DiT Q4_K_M для карт на 12–16 ГБ. Исследовательская лицензия.

  • Qwen3.8-Flash-Next (GGUF UD-Q4_K_XL) · Alibaba / Qwen (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Unsloth Dynamic Q4_K_XL, Unsloth) модели Qwen3.8-Flash-Next — превью архитектуры Qwen4: MoE на 177B, 512 экспертов, из них 10 активных, гибрид линейного и разреженного внимания, контекст 262144 токена.

  • Qwen3.8-Flash-Next (GGUF UD-Q4_K_XL + vision) · Alibaba / Qwen (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Unsloth Dynamic Q4_K_XL, Unsloth) модели Qwen3.8-Flash-Next — превью архитектуры Qwen4: MoE на 177B, 512 экспертов, из них 10 активных, гибрид линейного и разреженного внимания, контекст 262144 токена. В манифест входит проектор зрения F16, поэтому запись читает не только текст, но и изображения.

  • Qwen3.8-Flash-Next (GGUF Q8_0) · Alibaba / Qwen (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Q8_0, Unsloth) модели Qwen3.8-Flash-Next — превью архитектуры Qwen4: MoE на 177B, 512 экспертов, из них 10 активных, гибрид линейного и разреженного внимания, контекст 262144 токена.

  • Qwen3.8-Flash-Next (GGUF Q8_0 + vision) · Alibaba / Qwen (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Q8_0, Unsloth) модели Qwen3.8-Flash-Next — превью архитектуры Qwen4: MoE на 177B, 512 экспертов, из них 10 активных, гибрид линейного и разреженного внимания, контекст 262144 токена. В манифест входит проектор зрения F16, поэтому запись читает не только текст, но и изображения.

  • Qwen3.8-27B (GGUF Q8_0) · Alibaba / Qwen (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Q8_0, Unsloth) модели Qwen3.8-27B — один артефакт работает на Metal, CUDA и CPU. Контекст 262144 токена.

  • Qwen3.8-27B (GGUF Q8_0 + vision) · Alibaba / Qwen (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Q8_0, Unsloth) модели Qwen3.8-27B — один артефакт работает на Metal, CUDA и CPU. Контекст 262144 токена. В манифест входит проектор зрения F16, поэтому запись читает не только текст, но и изображения.

  • Nemotron 3.5 Bolt 74B-A9B (GGUF Q8_0) · NVIDIA (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Q8_0, Unsloth) модели Nemotron 3.5 Bolt: гибрид Mamba-2 и Transformer, MoE на 74B, из них 9B активных, контекст 256K.

  • Nemotron 3.5 Bolt 74B-A9B (GGUF Q8_0 + vision) · NVIDIA (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Q8_0, Unsloth) модели Nemotron 3.5 Bolt, MoE на 74B, 9B активных. Проектор зрения BF16 читает изображения.

  • Nemotron 3.5 Bolt 74B-A9B (GGUF UD-Q4_K_XL) · NVIDIA (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Unsloth Dynamic Q4_K_XL) модели Nemotron 3.5 Bolt, MoE на 74B, 9B активных, контекст 256K.

  • Nemotron 3.5 Bolt 74B-A9B (GGUF UD-Q4_K_XL + vision) · NVIDIA (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Unsloth Dynamic Q4_K_XL) модели Nemotron 3.5 Bolt, MoE на 74B, 9B активных. Проектор зрения BF16 читает изображения.

  • Nemotron 3.5 Bolt E4B · NVIDIA

    Маленькая модель NVIDIA поколения 3.5, дообученная из Gemma 4 E4B для работы с инструментами и низкой задержки; 8B всего, 4B эффективных.

  • Nemotron 3.5 Bolt E4B (NVFP4) · NVIDIA (NVFP4: Red Hat AI)

    Готовая сборка NVFP4 (compressed-tensors, Red Hat AI) модели Nemotron 3.5 Bolt E4B для видеокарт Blackwell.

  • Nemotron 3.5 Bolt E4B (GGUF Q4_K_M) · NVIDIA

    Собственная сборка NVIDIA в GGUF для llama.cpp (Q4_K_M) модели Nemotron 3.5 Bolt E4B: один файл для Metal, CUDA, ROCm и CPU.

  • Nemotron 3.5 Bolt E4B (GGUF Q8_0) · NVIDIA (GGUF: ggml-org)

    Сборка GGUF для llama.cpp (Q8_0, ggml-org) модели Nemotron 3.5 Bolt E4B: один файл для Metal, CUDA, ROCm и CPU.

  • Nemotron 3.5 Super VL 120B-A12B (GGUF UD-Q4_K_XL) · NVIDIA (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Unsloth Dynamic Q4_K_XL) модели Nemotron 3.5 Super VL: MoE из Mamba-2 и внимания, 120B всего, 12B активных.

  • Nemotron 3.5 Super VL 120B-A12B (GGUF UD-Q4_K_XL + vision) · NVIDIA (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Unsloth Dynamic Q4_K_XL) модели Nemotron 3.5 Super VL, MoE на 120B, 12B активных. Проектор BF16 читает изображения.

  • Nemotron 3.5 Super VL 120B-A12B (GGUF Q8_0 + vision) · NVIDIA (GGUF: ggml-org)

    Сборка GGUF для llama.cpp (Q8_0, ggml-org) модели Nemotron 3.5 Super VL, MoE на 120B, 12B активных. Проектор BF16 читает изображения.

  • MiniCPM-V 4.7 1B (GGUF Q8_0 + vision) · OpenBMB

    Собственная сборка OpenBMB в GGUF для llama.cpp (Q8_0) модели MiniCPM-V 4.7 1B: маленькая модель зрения и языка для CPU, Mac и любой видеокарты.

  • MiniCPM-V 4.7 35B-A3B (GGUF Q4_K_M + vision) · OpenBMB

    Собственная сборка OpenBMB в GGUF для llama.cpp (Q4_K_M) модели MiniCPM-V 4.7 35B-A3B: MoE-модель зрения и языка с 3B активных, 22 ГБ весов.

  • MiniCPM-V 4.7 35B-A3B (GGUF Q8_0 + vision) · OpenBMB

    Собственная сборка OpenBMB в GGUF для llama.cpp (Q8_0) модели MiniCPM-V 4.7 35B-A3B, MoE-модели зрения и языка с 3B активных.

  • MiniCPM-OCR 1.0 (GGUF Q8_0) · OpenBMB

    Разбор документов на 1,3B (текст, таблицы, формулы, графики) в собственной сборке OpenBMB для llama.cpp: работает на CPU, Mac и любой видеокарте.

  • Granite Speech 5.0 2B (GGUF Q8_0) · IBM

    Распознавание и перевод речи от IBM для английского, французского, немецкого, испанского, португальского и японского, сборка GGUF для llama.cpp.

  • DeepSeek-V4.1-Flash-1017 (GGUF UD-Q4_K_XL) · DeepSeek (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Unsloth Dynamic Q4_K_XL, эксперты в MXFP4) модели DeepSeek-V4.1-Flash-1017: MoE на 763B.

  • DeepSeek-V4.1-Flash-1017 (GGUF UD-Q4_K_XL + vision) · DeepSeek (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Unsloth Dynamic Q4_K_XL, эксперты в MXFP4) модели DeepSeek-V4.1-Flash-1017, MoE на 763B. Проектор BF16 читает изображения.

  • Nemotron 3.5 Embed 1B · NVIDIA

    Многоязычные текстовые эмбеддинги от NVIDIA, 1,6B, усреднение по токенам, векторы с L2-нормировкой.

  • Nemotron 3.5 Embed 8B · NVIDIA

    Многоязычные текстовые эмбеддинги от NVIDIA, 8,4B, усреднение по токенам, векторы с L2-нормировкой.

  • GLM-5.3 (NVFP4) · Z.ai (NVFP4: Red Hat AI)

    Готовая сборка NVFP4 (compressed-tensors, Red Hat AI) модели GLM-5.3 для видеокарт Blackwell: 465 ГБ против 756 ГБ в FP8.

  • Qwen3.5-9B (NVFP4) · Alibaba / Qwen (NVFP4: Red Hat AI)

    Готовая сборка NVFP4 (compressed-tensors, Red Hat AI) модели Qwen3.5-9B для видеокарт Blackwell.

  • Granite Switch 4.1 8B (GGUF Q4_K_M) · IBM

    Собственная сборка IBM в GGUF для llama.cpp (Q4_K_M) модели Granite Switch 4.1 8B.

  • Granite Switch 4.1 8B (GGUF Q8_0) · IBM

    Собственная сборка IBM в GGUF для llama.cpp (Q8_0) модели Granite Switch 4.1 8B.

  • Granite Switch 4.1 30B (GGUF Q4_K_M) · IBM

    Собственная сборка IBM в GGUF для llama.cpp (Q4_K_M) модели Granite Switch 4.1 30B.

  • Granite Switch 4.1 30B (GGUF Q8_0) · IBM

    Собственная сборка IBM в GGUF для llama.cpp (Q8_0) модели Granite Switch 4.1 30B.

  • LFM2.5-24B-A2B · Liquid AI

    MoE от Liquid AI: 24B всего и 2B активных, быстрая на CPU и пограничных устройствах.

  • LFM2.5-24B-A2B (FP8) · Liquid AI

    Собственная сборка Liquid AI в FP8 (compressed-tensors) модели LFM2.5-24B-A2B, 24B всего, 2B активных.

  • Muse Glimmer 30B (GGUF Q4_K_M) · Meta

    Открытая модель Meta Muse Glimmer 30B в собственной сборке Meta в GGUF для llama.cpp (Q4_K_M).

  • Muse Glimmer 30B (GGUF Q4_K_M + vision) · Meta

    Открытая модель Meta Muse Glimmer 30B в собственной сборке Meta в GGUF для llama.cpp (Q4_K_M); проектор читает изображения.

  • ERNIE-Image-Turbo · Baidu

    Модель Baidu текст-в-картинку, DiT на 8B, дистиллирована под малое число шагов, в наборе есть улучшатель промпта на Ministral.

  • FrogNano 4B 2609 · Microsoft

    Компактный агент Microsoft для работы с кодом на уровне репозитория, дообученный с RL из Qwen3.5-4B.

  • FrogNano 4B 2609 (GGUF Q8_0) · Microsoft (GGUF: bartowski)

    Сборка GGUF для llama.cpp (Q8_0, bartowski) агента Microsoft FrogNano для работы с кодом, из Qwen3.5-4B.

  • MiMo-V2.6-Distill-Qwen-9B · Xiaomi

    Дистилляция рассуждений MiMo-V2.6 от Xiaomi в Qwen3.5-9B.

  • Mage-VL-Cowork (GGUF Q8_0 + vision) · Microsoft (GGUF: ggml-org)

    Сборка GGUF для llama.cpp (Q8_0, ggml-org) модели Microsoft на 4B для управления компьютером: читает скриншоты, планирует клики и команды.

  • Z-Image · Tongyi-MAI

    Базовая Z-Image на 6B: полношаговая родственница Z-Image Turbo; медленнее, для качества и дообучения.

  • LongCat-Image · Meituan

    Модель Meituan текст-в-картинку на 6B с текстовым энкодером Qwen2.5-VL; хорошо рисует китайский и английский текст на картинках.

  • MiMo-V2.6-Flash-RL (GGUF MXFP4 + vision) · Xiaomi (GGUF: ggml-org)

    Сборка GGUF для llama.cpp (MXFP4, ggml-org) модели Xiaomi MiMo-V2.6-Flash-RL, MoE на 310B; проектор читает изображения.

  • Gemma 4 26B-A4B IT · Google

    Gemma 4 в варианте MoE: 26B всего и 4B активных, с инструктивной настройкой; диалог с картинками.

  • Gemma 4 E2B IT · Google

    Самая маленькая Gemma 4 с инструктивной настройкой: 2B эффективных параметров для телефонов и ноутбуков; диалог с картинками.

  • Mistral Large 4 1T-A52B (GGUF Q4_K_M) · Mistral AI (GGUF: ggml-org)

    Сборка GGUF для llama.cpp (Q4_K_M, ggml-org) модели Mistral Large 4: MoE на 1T, 52B активных. Для коммерческого сервиса нужна лицензия Mistral.

  • Mistral Large 4 1T-A52B (GGUF Q4_K_M + vision) · Mistral AI (GGUF: ggml-org)

    Сборка GGUF для llama.cpp (Q4_K_M, ggml-org) модели Mistral Large 4, MoE на 1T, 52B активных; проектор F16 читает изображения.

  • gpt-oss-20b (GGUF MXFP4) · OpenAI (GGUF: ggml-org)

    Сборка GGUF для llama.cpp (MXFP4, ggml-org) модели OpenAI gpt-oss-20b, MoE на 21B: родные 4-битные веса, без распаковки.

  • gpt-oss-120b (GGUF MXFP4) · OpenAI (GGUF: ggml-org)

    Сборка GGUF для llama.cpp (MXFP4, ggml-org) модели OpenAI gpt-oss-120b, MoE на 117B: родные 4-битные веса, без распаковки.

  • GLM-5.3-Flash (GGUF UD-Q4_K_XL) · Z.ai (GGUF: unsloth)

    Сборка GGUF для llama.cpp (UD-Q4_K_XL, Unsloth) модели GLM-5.3-Flash, MoE на 320B, 18B активных.

  • GLM-5.3-Flash (GGUF UD-Q4_K_XL + vision) · Z.ai (GGUF: unsloth)

    Сборка GGUF для llama.cpp (UD-Q4_K_XL, Unsloth) модели GLM-5.3-Flash, MoE на 320B, 18B активных. Проектор зрения BF16 читает изображения.

  • GLM-5.3-Flash (GGUF Q8_0) · Z.ai (GGUF: unsloth)

    Сборка GGUF для llama.cpp (Q8_0, Unsloth) модели GLM-5.3-Flash, MoE на 320B, 18B активных.

  • LFM2.5-24B-A2B (GGUF Q4_K_M) · Liquid AI

    Собственная сборка Liquid AI в GGUF для llama.cpp (Q4_K_M) модели LFM2.5-24B-A2B, MoE на 24B, 2B активных: быстрая на CPU и пограничных устройствах.

  • LFM2.5-24B-A2B (GGUF Q8_0) · Liquid AI

    Собственная сборка Liquid AI в GGUF для llama.cpp (Q8_0) модели LFM2.5-24B-A2B, MoE на 24B, 2B активных: быстрая на CPU и пограничных устройствах.

  • LFM3 1.7B (GGUF Q8_0) · Liquid AI

    Собственная сборка Liquid AI в GGUF для llama.cpp (Q8_0) модели LFM3 1.7B: маленькая модель для CPU, Mac и любой видеокарты.

  • LFM3-VL 2B (GGUF Q8_0 + vision) · Liquid AI

    Собственная сборка Liquid AI в GGUF для llama.cpp (Q8_0) модели LFM3-VL 2B: маленькая модель зрения и языка для CPU, Mac и любой видеокарты.

  • MiMo-V2.6-Distill-Qwen-9B (GGUF Q8_0 + vision) · Xiaomi (GGUF: ggml-org)

    Сборка GGUF для llama.cpp (Q8_0, ggml-org) дистилляции рассуждений MiMo-V2.6 от Xiaomi в Qwen3.5-9B; проектор читает изображения.