Granite Switch 4.1 8B (GGUF Q4_K_M)

IBM · Granite
LLMApache-2.0публичныеTrusted8.8B параметров

Собственная сборка IBM в GGUF для llama.cpp (Q4_K_M) модели Granite Switch 4.1 8B.

Собственная сборка IBM в GGUF для llama.cpp (Q4_K_M) модели Granite Switch 4.1 8B.

Кратко

  • Задача: LLM (InferenceV1)
  • Параметры: 8.8B
  • Лицензия: Apache-2.0 (коммерческое использование разрешено)
  • Железо: 8 GB+ VRAM
  • dtype: Int4