Điều kiện: \(\left\{\begin{matrix} x+1\geq 0\\ 2x-y\geq 0\\ 5x+2y\geq 0\\ 6x+y\geq 0 \end{matrix}\right.\) Nhận xét x = 0 không thỏa hệ nên chia hai vế của (1) cho \(\sqrt{x}\), ta được: \(\sqrt{\frac{y}{x}+6}+\sqrt{2\frac{y}{x}+5}=\sqrt{2-\frac{y}{x}}+1\) \(\Leftrightarrow \sqrt{t+6}+\sqrt{2t+5}=\sqrt{2t+5}=\sqrt{2-t}+1\) với \(t=\frac{y}{x}\) Do \(f(t)=\sqrt{t+6 }+\sqrt{2t+5}\) đồng biến trên \(\left ( -\frac{5}{2};2 \right )\) và \(g(t)=\sqrt{2-t}+1\) nghịch biến trên \(\left ( -\frac{5}{2};2 \right )\) nên t = -2 là nghiệm duy nhất. Suy ra \(\frac{y}{x}=-2\Leftrightarrow y=-2x\) Thay vào (2), ta được: \(\sqrt{4x^2+x+6}=-2x+1+5\sqrt{x+1}\) \(\Leftrightarrow \sqrt{(2x-1)^2+5(x+1)}=-(2x-1)+5\sqrt{x+1}\) Chia cho \(\sqrt{x+1}>0\), ta được \(\sqrt{\left ( \frac{2x-1}{\sqrt{x+1}} \right )^2+5}=-\frac{2x-1}{\sqrt{x+1}}+5\) Đặt \(a=\frac{2x-1}{\sqrt{x+1}}\Rightarrow \sqrt{a^2+5}=-a+5\Leftrightarrow \left\{\begin{matrix} a\leq 5\\ a=2 \end{matrix}\right.\Leftrightarrow a=2\) Với \(a=2\Rightarrow 2\sqrt{x+1}=2x-1\Leftrightarrow \left\{\begin{matrix} x\geq \frac{1}{2}\\ 4(x+1)=(2x-1)^2 \end{matrix}\right.\Leftrightarrow x=1+\frac{\sqrt{7}}{2}\) Nghiệm của hệ là: \(\left ( 1+\frac{\sqrt{7}}{2};-2-\sqrt{7} \right )\)