Gọi hai số cần tìm là $a$ và $b$ $(a>b; a,b \in Z)$
Theo bài ta có : $a-b=3 \to a=3+b$
$a^2+b^2=89$. Thay $a=3+b$ vào ta có :
$(b+3)^2+b^2=89$
$\to 2b^2+6b=80$
$\to b^2+3b - 40 =0$
$\to b^2+8b-5b-40=0$
$\to b.(b+8)-5.(b+8)=0$
$\to (b-5).(b+8)=0$
$\to b=5$ hoặc $b=-8$
Với $b=5 \to a=8$
Với $b=-8 \to a = -5$
Vậy $(a,b) \in \{(8,5);(-5,-8)\}$