Từ (2) ta có: \(y^3+2y-1\geq 0\Leftrightarrow y^3+2y\geq 1\Rightarrow y^2+2y>0\Leftrightarrow y(y^2+2)>0 \Leftrightarrow y>0\) Do đó ta có: \(1\leq x\leq 3,0< y\leq \sqrt{3}\) (**) Theo Cauchy ta có: \(y\sqrt{3-x}\leq \frac{y^2+3-x}{2};\sqrt{x(3-y^2)}\leq \frac{x+3-y^2}{2}\) \(\Rightarrow y\sqrt{3-x}+\sqrt{x(3-y^2)}\leq \frac{y^2+3-x}{2}+\frac{x+3-y^2}{2}= 3\Rightarrow VT(1)\leq 3\) Mặt khác ta có: \(VT(1)=(x+y^2-3)^2+3\geq 3\) Do đó (1) \(\Leftrightarrow \left\{\begin{matrix} y=\sqrt{3-x}\\ x=3-y^2\\ x+y^2-3=0 \end{matrix}\right.\Leftrightarrow x=3-y^2\) với \(0\leq y\leq \sqrt{3}\) Thay vào (2) ta được: \(2\sqrt{2-y^2}=y^3+2y-1\) với \(0\leq y\leq \sqrt{2} (**)\)
\(\Leftrightarrow y^3+2y-3+2(1-\sqrt{2-y^2})=0\) \(\Leftrightarrow (y-1)(y^2+y+3)+\frac{2(y^2-1)}{1+\sqrt{2-y^2}}=0\) \(\Leftrightarrow (y-1)\left ( y^2+y+3+\frac{3(y+1)}{1+\sqrt{2-y^2}} \right )=0\) \(\Leftrightarrow y=1(do \ y^2+y+3+\frac{3(y+1)}{1+\sqrt{2-y^2}}>0;\forall y\in \left [ 0;\sqrt{2} \right ]\) \(\Rightarrow x=2\) thỏa mãn (*)(**) Vậy nghiệm của hệ phương trình là: x =2; y = 1