2026-03-14
Mamba incontra Vulkan: perché gli ibridi contano per l'AI locale
Le architetture ibride Mamba, MoE e attenzione richiedono nuovi kernel. Il supporto Vulkan amplia le opzioni per l'inferenza locale.
Le architetture ibride Mamba, MoE e attenzione richiedono nuovi kernel. Il supporto Vulkan amplia le opzioni per l'inferenza locale.
Come ho messo in piedi uno stack IA locale completo — testo, immagini e video — su una singola macchina senza alcuna dipendenza dal cloud. Tutto Vulkan, tutto coesistente, tutto gratis.