Đáp án: $ - 1 \le m < 0$
Giải thích các bước giải:
$\begin{array}{l}
\cos 2x - \left( {2m + 1} \right)\cos x + m + 1 = 0\\
\Rightarrow 2{\cos ^2}x - 1 - \left( {2m + 1} \right)\cos x + m + 1 = 0\\
\Rightarrow 2{\cos ^2}x - \left( {2m + 1} \right).\cos x + m = 0\\
\Rightarrow 2{\cos ^2}x - \cos x + m.\left( { - 2\cos x + 1} \right) = 0\\
Dat:\cos x = t\\
\dfrac{\pi }{2} < x < \dfrac{{3\pi }}{2} \Rightarrow - 1 \le \cos x < 0\\
\Rightarrow - 1 \le t < 0\\
Pt \Rightarrow 2{t^2} - t + m.\left( { - 2t + 1} \right) = 0\\
\Rightarrow t.\left( {2t - 1} \right) = m.\left( {2t - 1} \right)\\
\Rightarrow t = m\left( {do:t \ne \dfrac{1}{2}} \right)\\
\Rightarrow - 1 \le m < 0
\end{array}$
Vậy pt có nghiệm thì: $ - 1 \le m < 0$