\((1)\Leftrightarrow (x-2y)(2x^{2}+y^{2}+1)=0\Leftrightarrow x=2y.\) Thay vào (2) ta có phương trình \(\sqrt{4x^{2}+x+6}+2x=1+5\sqrt{x+1}\; \; \; (3)\)
Kết hợp (3) và (4) ta được \(2\sqrt{x+1}=2x-1\Leftrightarrow \left\{\begin{matrix} x\geq \frac{1}{2}\\ 4x^{2}-8x+3=0 \end{matrix}\right.\Leftrightarrow x=\frac{2+\sqrt{7}}{2}\)
Kết luận: Phương trình đã cho có 2 nghiệm: \(x=-1; x=\frac{2+\sqrt{7}}{2}\)