\(\left\{\begin{matrix} x^{3}+3x^{2}+6x+4=y^{3}+3y\; \; \; (1)\\x^{3}(3y-7)=1-\sqrt{(1+x^{2})^{3}}\; \; (2) \end{matrix}\right.\)
Từ \((1)\Leftrightarrow (x+1)^{3}+3(x+1)=y^{3}+3y\)
Xét hàm số \(f(t)=t^{3}+3t\) trên R
\(f'(t)=3t^{2}+3>0\; \forall t\in R\Rightarrow\) Hàm số \(y=f(t)\) đồng biến trên R
\(\Rightarrow (1)\Leftrightarrow f(x+1)=f(y)\Leftrightarrow x+1=y\)
+ Thay \(y=x+1\) vào (2) ta có \(x^{3}(3x-4)=1-\sqrt{(1+x^{2})^{3}}\)
\(\Leftrightarrow x^{3}(3x-4)=\frac{-x^{2}(1+\sqrt{1+x^{2}}+x^{2})}{1+\sqrt{1+x^{2}}}\)
\(\Leftrightarrow x^{2}\left (3x^{2}-4x+\frac{2+x^{2}+\sqrt{1+x^{2}}}{1+\sqrt{1+x^{2}}} \right )=0\)
\(\Leftrightarrow \bigg \lbrack\begin{matrix} \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! \! x=0\\3x^{2}-4x+\frac{2+x^{2}+\sqrt{1+x^{2}}}{1+\sqrt{1+x^{2}}}=0\; \; (3) \end{matrix}\)
\((3)\Leftrightarrow 3(x-\frac{2}{3})^{2}-\frac{4}{3}+\frac{2+x^{2}+\sqrt{1+x^{2}}}{1+\sqrt{1+x^{2}}}=0\)
+ \(\Leftrightarrow 3(x-\frac{2}{3})^{2}+\frac{(\sqrt{1+x^{2}}-1)^{2}+5x^{2}+2}{6(1+\sqrt{1+x^{2}})}=0\; (vn)\)
Với x = 1 => y = 1
Vậy hệ có nghiệm (x; y) = (0; 1)