Je n'ai pas fait le problème, mais si vous travaillez les produits scalaires, voici une piste. L'idée est qu'il faut travailler dans un repère de coordonnées, et tant qu'à faire bien le choisir pour que les calculs soient les plus simples possible.

Dessine le carré comme ceci :

D C
A B


Trace un repère orthonormal d'origine A, et de vecteurs de base AB et AD.

Par définition, les coordonnées du point de ton carré seront donc :
(0,0) pour A
(0,1) pour B
(1,1) pour C
(1,0) pour D

De la même façon, les coordonnées des points I, J et M sont faciles à trouver.

Ensuite, détermine les coordonnées du point H.

Enfin, tu n'as plus qu'à calculer les coordonnées des vecteurs HJ et HM, et à montrer que leur produit scalaire est nul : ça prouvera que les droites (HJ) et (HM) sont perpendiculaires.