Điều kiện: \(y\geq 0,(1)\Rightarrow 2x^{3}-2x\sqrt{y}+y=y+3-2\sqrt{y(y+3)}+y=(\sqrt{y+3}-\sqrt{y})^{2}=x^{4}\)
\(\Rightarrow x^{4}-2x^{3}+2x\sqrt{y}-y=0\Leftrightarrow (x^{2})^{2}-(\sqrt{y})^{2}-2x(x^{2}-\sqrt{y})=0\Leftrightarrow (x^{2}-2x+\sqrt{y})(x^{2}-\sqrt{y})=0\)
+ \(\sqrt{y}=x^{2}:(2)\Leftrightarrow \sqrt{x^{2}+3}=2x^{2}\)
\(\Leftrightarrow 4x^{4}-x^{2}-3=0\Leftrightarrow x^{2}=1\Rightarrow (x;y)=(1;1),(-1;1)\)
+ \(\sqrt{y}=2x-x^{2}:(3)\)
\((2)\Leftrightarrow \sqrt{3+(2x-x^{2})^{2}}=2x\)
\(\Leftrightarrow \left\{\begin{matrix} x\geq 0\\ x^{4}-4x^{3}+3=0 \end{matrix}\right.\Rightarrow (x-1)(x^{3}-3x^{2}-3x-3)=0\Leftrightarrow \bigg \lbrack\begin{matrix} x=1\\ x^{3}-3x^{2}-3x-3=0 \end{matrix}\)
\(x=1\Rightarrow y=1\)
\(x^{3}-3x^{2}-3x-3=0\Leftrightarrow x^{2}(x-3)-3x-3=0\; (4)\)
Từ (3) suy ra \(2x-x^{2}\geq 0\Leftrightarrow 0\leq x\leq 2\Rightarrow (4)\) vô nghiệm.
Đáp số: (x; y) = (1; 1), (-1; 1)