Đáp án: $B$
Giải thích các bước giải:
Ta có:
$f'(x)=\sqrt{3}\cos \left(x\right)-\sin \left(x\right)-2mx$
$\to f''(x)=(\sqrt{3}\cos \left(x\right)-\sin \left(x\right))'-2m$
$\to f''(x)=-\sqrt{3}\sin \left(x\right)-\cos \left(x\right)-2m$
Xét hàm số
$y=-\sqrt{3}\sin \left(x\right)-\cos \left(x\right)$
$\to y^2=(-\sqrt{3}\sin \left(x\right)-\cos \left(x\right))^2$
$\to y^2\le ((-\sqrt3)^2+(-1)^2)(\sin^2x+\cos^2x)$
$\to y^2\le 4$
$\to -2\le y\le 2$
$\to -2\le -\sqrt{3}\sin \left(x\right)-\cos \left(x\right)\le2$
Để $f'(x)$ nghịch biến trên $(-\infty, +\infty)$
$\to f''(x)<0,\quad\forall x$
$\to \sqrt{3}\sin \left(x\right)-\cos \left(x\right)-2m<0,\quad\forall x$
Mà $-2\le -\sqrt{3}\sin \left(x\right)-\cos \left(x\right)\le 2$
$\to -2-2m<0$
$\to m>-1$
