Đặt $u = x + y, v = \dfrac{x^2 + 1}{y}$. Khi đó hệ trở thành
$\begin{cases} u + v = 4\\ u^2 - 2v = 7 \end{cases}$
Từ ptrinh đầu ta suy ra $v = 4-u$. Thay vào ptrinh sau ta có
$u^2 - 2(4-u) = 7$
$<-> u^2 + 2u -15 = 0$
$<-> (u +5)(u-3) = 0$
Vậy $u = 3$ hoặc $u = -5$
TH1: $u = 3$
Khi đó $v = 1$. Vậy ta có hệ
$\begin{cases} x + y = 3, \dfrac{x^2 + 1}{y} = 1 \end{cases}$
Từ ptrinh sau ta suy ra $x^2 + 1 = y$ và từ ptrinh đầu ta suy ra $y = 3-x$. Thế vào ptrinh sau ta có
$x^2 + 1 = 3-x$
$<-> x^2 + x - 2 = 0$
$<-> (x+2)(x-1) = 0$
Vậy $x = 1$ hoặc $x = -2$, suy ra $y = 2$ hoặc $y = 5$.
TH2: $u = -5$
Khi đó $v = 9$. Vậy ta có hệ
$\begin{cases} x + y = -5\\ \dfrac{x^2 + 1}{y} = 9 \end{cases}$
Từ ptrinh đầu ta suy ra $y = -5 - x$. Thế vào ptrinh sau ta có
$x^2 + 1 = 9(-5-x)$
$<-> x^2 + 9x + 46 = 0$
Ta có
$VT = \left( x + \dfrac{9}{2} \right)^2 + \dfrac{103}{4} > 0$ với mọi $x$
Vậy tập nghiệm $S = \{(1,2), (-2, 5)\}$.
