\(\begin{cases}x^2\left(x-3\right)-y\sqrt{y-3}=-2\left(1\right)\\3\sqrt{x-2}=\sqrt{y\left(y+8\right)}\left(2\right)\end{cases}\) Điều kiện \(x\ge2;y\ge0\) (*)
Khi đó (1) \(\Leftrightarrow x^3-3x^2+2=y\sqrt{y+3}\)
Xét hàm số \(f\left(t\right)=t^3-3t\) trên \(\left(1;+\infty\right)\)
Ta có \(f\left(t\right)=3t^2-3=3\left(t^2-1\right)\ge0\) với mọi \(t\ge1\) suy ra hàm số đồng biến trên \(\left(1;+\infty\right)\)
Nên (3) \(\Leftrightarrow x-1=\sqrt{y+3}\Leftrightarrow x-2=\sqrt{y+3}-1\left(4\right)\)(2) \(\Leftrightarrow9\left(x-2\right)=y^2+8\left(5\right)\)Thay (4) vào (5) được \(9\left(\sqrt{y+3}-1\right)=y^2+8y\) (*)\(\Leftrightarrow9\left(\sqrt{y+3}-2\right)=y^2+8y-9\Leftrightarrow\frac{9\left(y-1\right)}{\sqrt{y+3}+2}-\left(y-1\right)\left(y+9\right)=0\)\(\Leftrightarrow\left(y-1\right)\left(\frac{9}{\sqrt{y+3}+2}-y-9\right)=0\Leftrightarrow y=1\)Với \(y\ge0\) thì \(\frac{9}{\sqrt{y+3}+2}-y-9<0\) vậy (*) có nghiệm y=1, khi đó x=3Kết luận : (x;y)=(3;1)