Granite Switch 4.1 30B (GGUF Q8_0)

IBM · Granite
LLMApache-2.0публичныеTrusted30B параметров

Собственная сборка IBM в GGUF для llama.cpp (Q8_0) модели Granite Switch 4.1 30B.

Собственная сборка IBM в GGUF для llama.cpp (Q8_0) модели Granite Switch 4.1 30B.

Кратко

  • Задача: LLM (InferenceV1)
  • Параметры: 30B
  • Лицензия: Apache-2.0 (коммерческое использование разрешено)
  • Железо: 38 GB+ VRAM
  • dtype: Int8