Llm

MiniMax M2.5: Wenn Spitzenmodelle billig genug für dauerhafte Agentenläufe werden

Lokale LLMs für Tool-Aufrufe bewerten

Ein Testkonzept für lokale Modelle, bei dem Auswahl, Argumente, Format und das Unterlassen unnötiger Aufrufe getrennt bewertet werden.

Lokale LLM-Geschwindigkeit sinnvoll vergleichen

Warum Prefill, Generierung, Kontext und Speicher getrennt gemessen werden müssen, wenn lokale Sprachmodelle verglichen werden.

Reasoning-Destillation: Was ein kleineres Modell übernehmen kann — und was nicht

Destillation kann kleineren Modellen bei klar abgegrenzten Aufgaben helfen. Bei Claude-Ausgaben setzt die zulässige Nutzung einen Blick in die aktuellen Bedingungen voraus.

Ich habe 10 KI-Modelle getestet, damit du es nicht musst

Ein Wochenende voller Benchmarks mit lokalen KI-Modellen auf Consumer-Hardware. Hier ist, was wirklich funktioniert.

GPT-OSS 120B: Erste Benchmarks auf Consumer-AMD-Hardware

Echte Benchmarks von OpenAIs Open-Weight-120B-MoE-Modell auf einem Ryzen AI Max+ 395 mit 128 GB Unified Memory. Keine Cloud, keine A100s, nur Bare Metal.