LLMApache-2.0публичныеTrusted35B параметров

MoE на 35B с ~3B активных: качество почти как у 27B, но заметно быстрее.

MoE на 35B с ~3B активных: качество почти как у 27B, но заметно быстрее.

Кратко

  • Задача: LLM (InferenceV1)
  • Параметры: 35B
  • Лицензия: Apache-2.0 (коммерческое использование разрешено)
  • Железо: 72 GB+ VRAM
  • dtype: Bf16, Fp16