#lokale-ki
6 Artikel
- 2026-10-23
Ein 24-GB-Modell ist noch keine 24-GB-Installation
NVIDIAs Nemotron Bolt zeigt konkret, warum die Größe der Gewichte kein vollständiges Speicherbudget für einen Agenten ist.
- 2026-10-12
Diffusions-Sprachmodelle haben ein Cache-Problem. Endlich wird es interessant.
Diffusions-Sprachmodelle können Text parallel erzeugen, doch wiederholtes Denoising kostet Zeit. Neue cachebewusste Verfahren machen den Kompromiss interessant.
- 2026-03-04
Warum KI-Agenten vergessen: Gedächtnis mit Hybrid-Suche reparieren
Vektorsuche allein verpasst exakte Begriffe. BM25 allein verpasst Bedeutung. Beide kombiniert mit RRF-Reranking ergibt ein KI-Gedächtnis, das wirklich funktioniert.
- 2026-03-01
Ich habe 10 KI-Modelle getestet, damit du es nicht musst
Ein Wochenende voller Benchmarks mit lokalen KI-Modellen auf Consumer-Hardware. Hier ist, was wirklich funktioniert.
- 2026-02-26
Grösser ist nicht besser: Wie ein 9-GB-Modell 120 Milliarden Parameter geschlagen hat
Ich habe 17 lokale LLMs über 13 Dimensionen mit 39 Tests gebenchmarkt. Die Ergebnisse haben meine Annahmen über Modellgrösse zerstört.
- 2026-02-23
GPT-OSS 120B: Erste Benchmarks auf Consumer-AMD-Hardware
Echte Benchmarks von OpenAIs Open-Weight-120B-MoE-Modell auf einem Ryzen AI Max+ 395 mit 128 GB Unified Memory. Keine Cloud, keine A100s, nur Bare Metal.