Après un peu de recherche, je commence à avoir un doute sur le fait que ce soit un bug.
Firefox est structuré de la manière suivante : un moteur, Gecko, fait le rendu et implémente les specs javscript/dom/xml. Par dessus ça, un ensemble de Javascript/XUL forment l'interface graphique.

Le point clef là dedans c'est le Gecko, qui comme tout bon moteur de Java et consort utilise un garbage collector pour libérer les objets alloués. Le souci, c'est que tant qu'on n'aura pas de système d'exploitation en mesure de fournir directement des fonctionnalités de garbage collection, il sera impossible à un garbage collector de rendre la mémoire à l'OS. On retrouve le même problème sur tous les programmes tournant sur JVM.

En principe, si tu ouvres 200 onglets, tu vas voir le processus Firefox grossir. En les fermant, il ne diminuera pas. En revanche, si tu ouvres à nouveau 200 onglets, sa taille devrait rester à peu près identique. Si c'est le cas, il n'y a pas de fuite de mémoire, c'est un comportement normal, inhérent au manque d'interaction entre les garbage collectors et les systèmes d'exploitation actuels (que ce soit unix, ou windows).