← Zurück zu Tags

Tag

#gguf

10 Artikel

Model News

Ternary Bonsai 2 27B fact check: 5.9 GB, 262K context, and the runtime catch

Ternary Bonsai 2 27B: 5.95 GB GGUF needs PrismML's fork, MLX requires a bundled loader, and Mac RAM and vision limits need checking.

Modell-News

Ternary Bonsai 2 27B im Faktencheck: 5,9 GB, 262K Kontext – aber mit Runtime-Haken

Ternary Bonsai 2 27B: 5,95-GB-GGUF, PrismML-Fork statt Standard-llama.cpp, MLX-Loader, RAM-Grenzen und reproduzierbare Mac-Tests.

Modell-News

GLM-5.3: API-Preis, offene Gewichte und was ein Mac braucht

GLM-5.3 auf dem Mac: Z.ai-API-Preise ab 1,40 $, Coding Plan, 753B-Gewichte, 217-GB-GGUF und verifizierte RAM-Voraussetzungen.

Model News

GLM-5.3: API pricing, open weights and what a Mac needs

For almost every Mac, GLM-5.3 is an API model: $1.40/$4.40 per 1M tokens at Z.ai. The 753B open weights need 217-467GB, so local runs need a Mac Studio.

Modell-News

Qwen3.8-27B auf dem Mac: MLX, Speicherbedarf und Benchmarks

Qwen3.8-27B seit 14. August 2026 als offizieller Open-Weight-Checkpoint. Parameterzahl, Lizenz, MLX/GGUF-Versionen, Mac-Speicherbedarf, offene Benchmark-Fragen.

Model News

Qwen3.8-27B on Mac: MLX setup, memory and benchmarks

Qwen3.8-27B landed August 14, 2026 as an official open-weight checkpoint. Metadata, MLX/GGUF ecosystem, Mac memory math and remaining benchmark gaps.

Lokale Modelle

Qwen3.6-27B Fable Fusion 711 auf dem Mac: GGUF-Größen und RAM-Wahl

Welche Fable-Fusion-711-GGUF passt zu 24, 32, 48 oder 64 GB Unified Memory? Größen, MTP, Vision und Benchmark-Evidenz – ohne eigene Mac-Benchmarks.

Local Models

Qwen3.6-27B Fable Fusion 711 on Mac: GGUF Sizes and RAM Choices

Fable Fusion 711 on Mac: start with the 18.0 GB Q4_K_M GGUF on 32 GB. File sizes for 24 to 64 GB, MTP and vision files, no original Mac benchmarks.

Cloud-KI

Kimi K2.7 Code auf dem Mac: Cloud, API oder GGUF?

Kimi K2.7 Code auf dem Mac: Kimi API gegenüber K3, aktuelle USD-Preise, Ollama Cloud, Kimi-Code-Abo, 256K- versus 1M-Kontext und lokale GGUF-Grenzen.

Cloud AI

Kimi K2.7 Code on Mac: Cloud, API, or GGUF?

Kimi K2.7 Code on Mac: U.S. API rates versus K3, cloud/Ollama separation, Kimi Code subscriptions, 256K versus 1M context, and GGUF hardware.