Đặt $\begin{cases} x^2+y^2=1(1)\\-x^2+5xy+2y^2=3(2)\\\end{cases}$
Nhân `3` vào `(1)` ta được:
`3x^2+3y^2=3(3)`
Lấy `(3)` trừ `(2)` ta được:
`4x^2-5xy+y^2=0`
`<=> 4x^2-4xy-xy+y^2=0`
`<=> 4x(x-y)-y(x-y)=0`
`<=>(x-y)(4x-y)=0`
`<=> `\(\left[ \begin{array}{l}x=y\\4x=y\end{array} \right.\)
`TH_1:` với `x=y` `(4)`
Thế `(4)` và `(1)` ta được:
`y^2+y^2=1`
`<=> 2y^2=1`
`<=> y=\frac{\sqrt{2}}{2}=x`
`TH_2`: với `y=4x``(5)`
Thế `(5)` vào `(1)` ta được:
`x^2+16x^2=1`
`<=> 17x^2=1`
`<=> x=\frac{\sqrt{17}}{17}`
`=> y=4x=\frac{4\sqrt{17}}{17}`
Vậy hệ phương trình có tập nghiệm: `(x,y)=(\frac{\sqrt{17}}{17};\frac{4\sqrt{17}}{17});(\frac{\sqrt{2}}{2};\frac{\sqrt{2}}{2})`