Je pense que ta modeline n'est pas correcte.
Prends les caractéristiques de ton moniteur et régénéré une modeline correcte sur ce site par exemple.
http://xtiming.sourceforge.net/cgi-bin/xtiming.pl