Điều kiện xác định \(x\geq 1,x+ y\geq 0\) Khi đó \(2x^2+\sqrt{2}x=(x+y)y+\sqrt{x+y}\Leftrightarrow 2x^2-xy-y^2+\sqrt{2x}-\sqrt{x+y}=0\) \(\small \Leftrightarrow (x-y)(2x+y)+\frac{x-y}{\sqrt{2x}+\sqrt{x+y}}=0\Leftrightarrow (x-y) \bigg ( 2x+y+\frac{1}{\sqrt{2x}+\sqrt{x+y}} \bigg )=0\) Do \(x\geq 1,x +y \geq 0\Rightarrow 2x+ y > 0\), từ đó suy ra x = y Thay vào (2) ta có \(\sqrt{x-1}+x^2=\sqrt{x^2+21}\Leftrightarrow \sqrt{x-1}-1+x^2-4=\sqrt{x^2+21}-5\) \(\Leftrightarrow (x-2)\bigg ( \frac{1}{\sqrt{x-1}+1}+x+2-\frac{x+2}{\sqrt{x^2+21}+5}\bigg )=0\) (3)
Vì \(x+2-\frac{x+2}{\sqrt{x^2+21}+5}=(x+2)\bigg( 1-\frac{1}{10+\sqrt{x^2+91}} \bigg )> 0\) Từ (3) suy ra x = 2 Vậy nghiệm của hệ phương trình là (2;2)