#moe
3 Artikel
- 2026-10-23
Ein 24-GB-Modell ist noch keine 24-GB-Installation
NVIDIAs Nemotron Bolt zeigt konkret, warum die Größe der Gewichte kein vollständiges Speicherbudget für einen Agenten ist.
- 2026-04-04
MoE-Modelle richtig lesen: Gesamtgröße, aktive Parameter und Kontext
Bei Mixture-of-Experts-Modellen sind Gesamtparameter, aktive Parameter und Speicherbedarf verschiedene Größen. Eine Anleitung, Modellankündigungen nüchtern zu lesen.
- 2026-04-02
Llama 4 Scout: Metas neues MoE-Modell und die Frage nach lokaler Inferenz
Llama 4 Scout verbindet ein MoE-Design mit multimodalen Fähigkeiten und langem Kontext. Für lokale Inferenz sind Speicherbedarf, Quantisierung und unabhängige Tests wichtiger als die Marketingzahl der Gesamtparameter.