Tu veux tout faire par toi même ou tu es prêt à utiliser des librairies existantes ?
Dans le 2° cas, tu devrais jeter un œil à Jag Studio, c'est un kit avec outils (compilateurs, librairies, ...), exemples et fichiers batch qui vont bien pour utiliser en Assembleur, en C et en Basic, avec cible émulateur, Jag GD ou Skunkboard (avec envoi automatique, c'est pratique)
https://reboot-games.com/jagstudio/

Dans le premier cas, tu peux toujours regarder, ça te fournira l'ensemble des outils assembleur, linker... et makefile qui vont bien

Bon après, je ne crois pas que ce soit VASM...