Khi đó: \(f'(t)=\frac{\sqrt{t^{2}+1}+t}{\sqrt{t^{2}+1}}>\frac{\left | t \right |+t}{\sqrt{t^{2}+1}}\geq 0\; \; \; \forall t\in R.\)
Suy ra hàm số f(t) đồng biến trên R
Suy ra: \((3)\Leftrightarrow x=-y\)
Thế x = -y vào (2)...\(\Leftrightarrow \left ( \sqrt{2x^{2}+6x+1}-\frac{x}{2} \right )^{2}=\frac{25x^{2}}{4}\Leftrightarrow \bigg \lbrack\begin{matrix} \sqrt{2x^{2}+6x+1}=3x\\\sqrt{2x^{2}+6x+1}=-2x \end{matrix}\)
Với \(\sqrt{2x^{2}+6x+1}=3x...\Leftrightarrow x=1;y=-1\)
Kết luận pt có nghiệm \(\left\{\begin{matrix} x=1\\y=-1 \end{matrix}\right.\) hoặc \(\left\{\begin{matrix} x=\frac{3-\sqrt{11}}{2}\\y=\frac{-3+\sqrt{11}}{2} \end{matrix}\right.\)