Bất phương trình đã cho tương đương \((x\sqrt{x^2+1}-\sqrt{x^2-x+1}\sqrt{x^2-x+2})+(1-\sqrt{x^2-x+1})>0\) \(\Leftrightarrow \frac{(x-1)(2x^2-x+2)}{x\sqrt{x^2+1}+\sqrt{x^2-x+1}\sqrt{x^2-x+2}}+\frac{x(1-x)}{1+\sqrt{x^2-x+1}}\))>0 \(\Leftrightarrow (x-1) (\frac{(2x^2-x+2)}{x\sqrt{x^2+1}+\sqrt{x^2-x+1}\sqrt{x^2-x+2}}-\frac{x}{1+\sqrt{x^2-x+1}})\)>0 \(\Leftrightarrow (x-1).A>0\) (1) với \(A=\frac{2x^2-x+2}{x\sqrt{x^2+1}+\sqrt{x^2-x+1}\sqrt{x^2-x+2}}-\frac{x}{1+\sqrt{x^2-x+1}}\)
\(\Rightarrow \sqrt{x^2-x+1}\sqrt{x^2-x+2}+x\sqrt{x^2+1}>0\Rightarrow A>0\) Nếu x>0, áp dụng bất đẳng thức AM-GM ta có: \(\large \left\{\begin{matrix} \sqrt{x^2-x+1}\sqrt{x^2-x+2}\leq \frac{x^2-x+1+x^2-x+2}{2}=x^2-x+\frac{3}{2}\\ \\ x\sqrt{x^2+1}\leq \frac{x^2+x^2+1}{2}=x^2+\frac{1}{2} \end{matrix}\right.\) \(\Rightarrow \sqrt{x^2-x+1}\sqrt{x^2-x+2}+x\sqrt{x^2+1}\leq 2x^2-x+2\) \(\Rightarrow A\geq 1-\frac{x}{1+\sqrt{x^2-x+1}}>0\) vì \(\frac{x}{1+\sqrt{x^2-x+1}}<1\)
Tóm lại, với mọi x \(\in\) R ta có A>0. Do đó (1) tương đương \(x-1>0\Leftrightarrow x>1\) Vậy tập nghiệm của bất phương trình đã cho là (1;\(+\infty\)) .