Benchmarks

MoE-Modelle richtig lesen: Gesamtgröße, aktive Parameter und Kontext

Bei Mixture-of-Experts-Modellen sind Gesamtparameter, aktive Parameter und Speicherbedarf verschiedene Größen. Eine Anleitung, Modellankündigungen nüchtern zu lesen.

Mistral Small 4: Ein großes MoE-Modell für vielseitige lokale Inferenz

Mistral Small 4 kombiniert Reasoning, Bildverständnis und agentisches Coding in einem sparsamen Mixture-of-Experts-Modell.

MiniMax M2.5: Wenn Spitzenmodelle billig genug für dauerhafte Agentenläufe werden

Lokale LLMs für Tool-Aufrufe bewerten

Ein Testkonzept für lokale Modelle, bei dem Auswahl, Argumente, Format und das Unterlassen unnötiger Aufrufe getrennt bewertet werden.

Ich habe 10 KI-Modelle getestet, damit du es nicht musst

Ein Wochenende voller Benchmarks mit lokalen KI-Modellen auf Consumer-Hardware. Hier ist, was wirklich funktioniert.

Grösser ist nicht besser: Wie ein 9-GB-Modell 120 Milliarden Parameter geschlagen hat

Ich habe 17 lokale LLMs über 13 Dimensionen mit 39 Tests gebenchmarkt. Die Ergebnisse haben meine Annahmen über Modellgrösse zerstört.

GPT-OSS 120B: Erste Benchmarks auf Consumer-AMD-Hardware

Echte Benchmarks von OpenAIs Open-Weight-120B-MoE-Modell auf einem Ryzen AI Max+ 395 mit 128 GB Unified Memory. Keine Cloud, keine A100s, nur Bare Metal.