Je pense que ça doit marcher en gros de la façon décrite par Squalyl.
Pour ce qui est du partage du bus entre les processeurs, il n'y en a peut-être aucun : la solution la plus simple, c'est d'en faire fonctionner un seul à la fois, et de mettre l'autre en pause (d'ailleurs je ne sais pas si le 68k et le 8086 supportent les bus multiprocesseurs, à fortiori quand il s'agit d'un processeur différent

).
Il n'y a pas de MMU sur 8086, donc pas moyen d'intercepter les accès mémoire et I/O nécessaires pour émuler le matériel PC à bas niveau ; ce truc ne doit donc faire fonctionner que les applications "propres" qui utilisent le BIOS au lieu d'accéder directement au matériel. Pour ça, il "suffit" de recoder un BIOS en code x86 qui gère le hardware du ST. C'est pas insurmontable en fait.
Après, la structure interne du 8086 et du 68k sont certainement très différente, mais du point de vue extérieur ça reste très semblable : un bus de données, un bus d'adresses, quelques signaux de contrôle... du classique, quoi.
D'ailleurs on a tendance à l'oublier, mais le 8086 reste un processeur généraliste comme le 68k, rien n'impose de l'utiliser avec du hardware PC : il y a (eu) des systèmes embarqués basés dessus, ainsi que des ordinateurs tels que le NEC PC'98 (qui n'est pas un PC, malgré son nom) ou des consoles comme la Wonderswan.