\(\begin{cases}xy\left(x+1\right)=x^3+y^2+x-y\left(1\right)\\3y\left(2+\sqrt{9x^2+3}\right)+\left(4y+2\right)\left(\sqrt{1+x+x^2}+1\right)=0\left(2\right)\end{cases}\)
Điều kiện xác định : mọi \(x\in Z\)
Ta có : \(xy\left(x+1\right)=x^3+y^2+x-y\Leftrightarrow x^3-x^2y+y^2-xy+x-y=0\)
\(\Leftrightarrow\left(x-y\right)\left(x^2-y-1\right)=0\Leftrightarrow\begin{cases}y=x\\y=x^2+1\end{cases}\)
Với \(y=x^2+1\) thay vào phương trình (2) ta được :
\(3\left(x^2+1\right)\left(2+\sqrt{9x^2+3}\right)+\left(4x^2+6\right)\left(\sqrt{1+x+x^2}+1\right)=0\)
Giải ra ta có phương trình vô nghiệm
Với y=x, thay vào phương trình thứ 2, ta được :
\(3x\left(2+\sqrt{9x^2+3}\right)+\left(4x+2\right)\left(\sqrt{1+x+x^2}+1\right)=0\)
\(\Leftrightarrow3x\left(2+\sqrt{9x^2+3}\right)=-\left(2x+1\right)\left(\sqrt{3+\left(2x+1\right)^2}+2\right)\)
\(\Leftrightarrow3x\left(2+\sqrt{9x^2+3}\right)=\left(-2x-1\right)\left(\sqrt{3+\left(-2x-1\right)^2}+2\right)\)
Xét hàm số \(f\left(t\right)=t\left(\sqrt{t^2+2}+2\right)\)
Ta có : \(f'\left(t\right)=\sqrt{t^2+2}+2+\frac{t^2}{\sqrt{t^2+2}}>0\) suy ra hàm số đồng biến
Từ đó suy ra \(3x=-2x\Leftrightarrow x=-\frac{1}{5}\)
Vậy hệ phương trình có nghiệm \(\left(x,y\right)=\left(-\frac{1}{5};-\frac{1}{5}\right)\)