Điều kiện: \(\left\{\begin{matrix}y+3\geq 0 \\y^{2}+8y\geq 0 \\ x-2\geq 0 \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix}x\geq 2 \\ y\geq 0 \end{matrix}\right.\)
Ta có: \(x^{2}(x-3)-y\sqrt{y+3}=-2\)
\(\Leftrightarrow x^{3}-3x^{3}+2=\sqrt{y^{3}+3y^{2}}\)
\(\Leftrightarrow (x-1)^{3}-3(x-1)=(\sqrt{y+3})^{3}-3\sqrt{y+3}\)
\(\Leftrightarrow f(x-1)=f(\sqrt{y+3})\) Với hàm số \(f(t)=t^{3}-3t\)
Xét hàm số \(f(t)=t^{3}-3t\) với \(t\in \lbrack 1;+\infty )\) có \(f'(t)=3t^{2}-3=3(t^{2}-1)\geq 0\)
Hàm số \(f(t)=t^{3}-3t\) đồng biến trên \(\lbrack 1;+\infty )\)
Nên từ \(f(x-1)=f(\sqrt{y+3})\Rightarrow x-1=\sqrt{y+3}\Leftrightarrow x-2=\sqrt{y+3}-1\)
Từ \(3\sqrt{x-2}=\sqrt{y^{2}+8y}\Rightarrow 9(x-2)=y^{2}+8y\)
\(\Leftrightarrow 9(\sqrt{y+3}-1)=y^{2}+8y\)
\(\Leftrightarrow 9\sqrt{y+3}=y^{2}+8y+9\) (*)
\(\Leftrightarrow 9(\sqrt{y+3}-2)=y^{2}+8y-9\)
\(\Leftrightarrow 9\frac{y-1}{\sqrt{y+3}+2}=(y-1)(y+9)\)
\(\Leftrightarrow (y-1)(\frac{9}{\sqrt{y+3}+2}-y-9)= 0\)
Với điều kiện \(y\geq 0,\) thì \(\frac{9}{\sqrt{y+3}+2}-y-9< 0\)
=> PT (*) có nghiệm duy nhất là y = 1
Với y = 1 => x = 3
Kết luận: Hệ có nghiệm duy nhất: (3; 1)
