LLMApache-2.0публичныеTrusted2.5B параметров

Компактная LLM на 2,5B для периферийных устройств и CPU.

Компактная LLM на 2,5B для периферийных устройств и CPU.

Кратко

  • Задача: LLM (InferenceV1)
  • Параметры: 2.5B
  • Лицензия: Apache-2.0 (коммерческое использование разрешено)
  • Железо: 6 GB+ VRAM
  • dtype: Bf16, Fp16