Oui, assez facilement avec Putty en créant un tunnel SSH/X11, plus un client X pour Windows (le plus simple à mettre en place étant Xming, bien plus qu'avec Cygwin qui est ultra lourd pour la même chose).

Tiens, bah j'ai trouvé un tuto qui reprend tout assez simplement : http://www.commentcamarche.net/faq/6884-serveur-x-sous-windows
Par contre, tu ne pourras pas utiliser un environnement de travail comme Gnome ou KDE, mais uniquement les applications elles-mêmes (enfin, il y a des méthodes pour monter tout un environnement de travail à distance, mais je n'ai jamais réussi à le faire proprement... et je trouve que c'est plus sympa de travailler en "seamless mode").