La recherche vectorielle seule rate les termes exacts. BM25 seul rate le sens. Combiner les deux avec le reranking RRF donne aux agents IA une mémoire qui fonctionne vraiment.
Un week-end passé à tester tous les modèles d'IA locaux prometteurs sur du matériel grand public. Voici ce qui fonctionne vraiment.
J'ai benchmarké 17 LLMs locaux sur 13 dimensions avec 39 tests. Les résultats ont détruit mes hypothèses sur la taille des modèles.
De vrais benchmarks du modèle open-weight 120B MoE d'OpenAI sur un Ryzen AI Max+ 395 avec 128 Go de mémoire unifiée. Pas de cloud, pas d'A100, juste du bare metal.