Granite Switch 4.1 30B (GGUF Q4_K_M)

IBM · Granite
LLMApache-2.0публичныеTrusted30B параметров

Собственная сборка IBM в GGUF для llama.cpp (Q4_K_M) модели Granite Switch 4.1 30B.

Собственная сборка IBM в GGUF для llama.cpp (Q4_K_M) модели Granite Switch 4.1 30B.

Кратко

  • Задача: LLM (InferenceV1)
  • Параметры: 30B
  • Лицензия: Apache-2.0 (коммерческое использование разрешено)
  • Железо: 24 GB+ VRAM
  • dtype: Int4