C'est ... compliqué.

Beaucoup de choses sont a prendre en compte, et de mes tests, le model, du moment que ce n'est pas un model local avec 0.5B de parametres, est probablement le point le moins important. (pour utiliser des models locaux il faut tabler dans les 30B+, 20B minimum.

L'environement pour cadrer le LLM est le point le plus important (principalement le prompt, mais pas seulement)
Pour les systemes multi agents, le prompt et les outils a leur disposition sont aussi cruciaux.

La gestion de l'historique est probablement le point le plus important, pour eviter la divergence (aka quand un le model perds les pedales et melange les choses) et c'est critique dans uns ystem multi agents, il faut cadrer ce que chaque agent a acces, pour les agents qui ne font que des taches "simple" (coder, review, ...) il faut que leur contexte soit aussi propre que possible, et remis a zero pour chaque taches.

Pour les agents "interractif" c'est la ou c'est le plus complexe. Plus la discussion s'allonge et plus ca part dans tous les sense, plus il y a de chances que l'agent parte dans des hallucinations.


Pas mal de choses sont vraiment lié au contexte (l'historique de la conversation auquel l'agent a access pour chaque inference) mais avoir un reseau avec 1M de "token" en context ne le rends pas intrinsequement meilleur, a vrai dire, c'est probablement souvent l'inverse.