Điều kiện \(x\geq -1\) \(y\sqrt{x^2+3x+3}+\sqrt{y^2-y+1}+y(x+1)+1=0\) \(\Leftrightarrow y(\sqrt{x^2+3x+3}+x+1)=-\sqrt{x^2-y+1}-1\) \(\Leftrightarrow \sqrt{(x+1)^2+(x+1)+1}+x+1=-\frac{1}{y}(\sqrt{y^2-y+1}+1)\) (Vì \(x+1\geq 0\Rightarrow y<0\)) \(\Leftrightarrow \sqrt{(x+1)^2+(x+1)+1}+x+1=\sqrt{1-\frac{1}{y}+\frac{1}{y^2}}-\frac{1}{y}(*)\) Xét hàm số \(f(t)=\sqrt{t^2+t+1}+t\) trên \([0;+\infty )\), ta có \(f'(t)=\frac{2t+1}{2\sqrt{t^2+t+1}}+1>0,\forall t\geq 0\)
nên f(t) là hàm đồng biến trên \((0;+\infty )\) Do đó \((*)\Leftrightarrow x+1=-\frac{1}{y}\Leftrightarrow y=-\frac{1}{x+1}\) Thay vào phương trình (2) ta được \((\sqrt{x+1}+1)(-\frac{1}{x+1}\sqrt{x+1}+\frac{7}{x+1}-2)=-\frac{x}{x+1}\) \(\Leftrightarrow (\sqrt{x+1}+1)(\sqrt{x+1}-7+2x+2)=0\) \(\Leftrightarrow (\sqrt{x+1}+1)(\sqrt{x+1}+2x-5)=x\) \(\Leftrightarrow (\sqrt{x+1}-1)(\sqrt{x+1}+1)(\sqrt{x+1}+2x-5)=(\sqrt{x+1}-1)\) \(\Leftrightarrow x(\sqrt{x+1}-2x-5)=x(\sqrt{x+1}-1)\) \(\Leftrightarrow \sqrt{x+1}-2x-5=\sqrt{x+1}-1\Leftrightarrow x=2\Rightarrow y=-\frac{1}{3}\) Vậy hệ phương trình có nghiệm là: \((2;-\frac{1}{3})\)