Performance

Lokale LLM-Geschwindigkeit sinnvoll vergleichen

Warum Prefill, Generierung, Kontext und Speicher getrennt gemessen werden müssen, wenn lokale Sprachmodelle verglichen werden.