\(\left\{{}\begin{matrix}xy+x+y=5\\x^2+y^2+x+y=8\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}xy+x+y=5\\\left(x+y\right)^2-2xy+x+y=8\end{matrix}\right.\)

đặc \(\left\{{}\begin{matrix}xy=u\\x+y=v\end{matrix}\right.\)

\(\Rightarrow\) \(\left\{{}\begin{matrix}xy+x+y=5\\\left(x+y\right)^2-2xy+x+y=8\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}u+v=5\\v^2-2u+v=8\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}u=5-v\\v^2-2\left(5-v\right)+v=8\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}u=5-v\\v^2-10+2v+v=8\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}u=5-v\\v^2+3v-18=0\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}u=5-v\\\left[{}\begin{matrix}v=3\\v=-6\end{matrix}\right.\end{matrix}\right.\)

(*) nếu \(v=3\) thì \(\Rightarrow u=5-v=5-3=2\)

khi đó ta có : \(\left\{{}\begin{matrix}v=3\\u=2\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}x+y=3\\xy=2\end{matrix}\right.\)

\(\Rightarrow x;y\) là các nghiệm của phương trình \(X^2-3X+2=0\) \(\Leftrightarrow\left[{}\begin{matrix}X=2\\X=1\end{matrix}\right.\)

\(\Leftrightarrow\left[{}\begin{matrix}\left\{{}\begin{matrix}x=1\\y=2\end{matrix}\right.\\\left\{{}\begin{matrix}x=2\\y=1\end{matrix}\right.\end{matrix}\right.\)

(*) nếu \(v=-6\) thì \(u=5-v=5-\left(-6\right)=11\)

khi đó ta có : \(\left\{{}\begin{matrix}v=-6\\u=11\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}x+y=-6\\xy=11\end{matrix}\right.\)

\(\Rightarrow x;y\) là các nghiệm của phương trình \(Y^2+6X+11=0\)

phương trình này vô nghiệm tương đương không có giá trị của \(x;y\) trong trường hợp này

vậy kết luận phương trình có 2 nghiệm \(\left(1;2\right)và\left(2;1\right)\)