C'est expliqué dans la source. Pour faire simple, Mail ne gère pas correctement les mails qui demandent davantage de mémoire pour être traités que la quantité restante disponible, parce qu'il ne vérifie pas que la réservation de la mémoire a effectivement réussi. Donc au lieu de s'arrêter, le code continue et corrompt la mémoire d'une façon qui peut être exploitée. (Il y a quelques subtilités supplémentaires pour pouvoir déclencher le bug sans avoir à envoyer un mail qui fasse réellement plusieurs gigagoctets).