#lokale-llm
2 Artikel
- 2026-10-17
Tokens pro Sekunde sind zwei Benchmarks im Trenchcoat
Eine einzige Tokens-pro-Sekunde-Zahl versteckt Prompt-Verarbeitung, Decoding und den Workload, der wirklich zählt.
- 2026-10-16
Strukturierte Ausgabe ist nicht Wahrheit: Was ein JSON-Schema garantiert – und was nicht
Eine Grammatik kann die Form einer Modellausgabe begrenzen. Ob die Antwort zur Quelle passt, muss separat geprüft werden.