NX: Hệ không có nghiệm dạng \((x_{0};0)\)
Với \(yeq 0,\) ta có: \(\left\{\begin{matrix} x^{2}+y^{2}+xy+1=4y\\y(x+y)^{2}=2x^{2}+7y+2 \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} \frac{x^{2}+1}{y}+x+y=4\\(x+y)^{2}-2\frac{x^{2}+1}{y}=7 \end{matrix}\right.\)
Đặt \(u=\frac{x^{2}+1}{y},v=x+y\) ta có hệ:
\(\left\{\begin{matrix} u+v=4\\ v^{2}-2u=7 \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} u=4-v\\ v^{2}+2v-15=0 \end{matrix}\right.\Leftrightarrow\bigg \lbrack\begin{matrix} v=3,u=1\\v=-5,u=9 \end{matrix}\)
+ Với \(v=3,u=1\) ta có hệ: \(\left\{\begin{matrix} x^{2}+1=y\\x+y=3 \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} x^{2}+1=y\\y=3-x \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} x^{2}+x-2=0\\y=3-x \end{matrix}\right.\Leftrightarrow \bigg \lbrack\begin{matrix} x=1,y=2\\x=2,y=5 \end{matrix}.\)
KL: Hệ pt có hai nghiệm là: (1; 2) và (-2; 5).
+ Với \(v=-5,u=9\) ta có hệ: \(\left\{\begin{matrix} x^{2}+1=9y\\x+y=-5 \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} x^{2}+1=9y\\y=-5-x \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} x^{2}+9x+46=0\\y=-5-x \end{matrix}\right.,\) hệ này VN.
KL: Vậy hệ đã cho có hai nghiệm: (x; y) = {(1; 2), (-2; 5)}.