ĐK: $x, y \neq 0$
$\frac{x}{y}-\frac{y}{x}=\frac{5}{6}$
$\Leftrightarrow \frac{x^2-y^2}{xy}=\frac{5}{6}$
$x^2-y^2=5$ (*)
$\Rightarrow xy=6$
$\Leftrightarrow x=\frac{6}{y}$
Thay vào (*): $\frac{36}{y^2}-y^2=5$
$\Leftrightarrow 36-y^4=5y^2$
$\Leftrightarrow y^4+5y^2-36=0$
Đặt $t=y^2$ ($t \ge 0$)
$\Rightarrow t^2+5t-36=0$
$\Leftrightarrow t=4$ (TM), $t=-9$ (loại)
$y^2=4 \Leftrightarrow y_1=2; y_2=-2$
$\Rightarrow x_1=3; x_2=-3$
Vậy hệ có 2 nghiệm $(2;3)$, $(-2;-3)$