Áp dụng công thức nhân 2 cos ta có
$2\cos^2x - (2m+1) \cos x + m = 0$
$<-> (2\cos x -1)(\cos x -m) = 0$
Vậy ptrinh nghiệm $\cos x = \dfrac{1}{2}$. Vậy $x = \pm \dfrac{\pi}{3} + 2k\pi$ hoặc $\cos x = m$.
Nghiêm này ko nằm trong khoảng $(\dfrac{\pi}{2}, \dfrac{3\pi}{2})$ nên để ptrinh có nghiệm nằm trong khoảng này thì $m \in (-1,0)$.
Vậy $-1 < m < 0$.