ĐK: $\cos x \neq 0$ hay $x \neq \dfrac{\pi}{2} + k\pi$

Ptrinh tương đương vs

$m\sin x \cos x + (m+1) \cos^2x = m$

$<-> \dfrac{m}{2} \sin(2x) + (m+1) \dfrac{1 + \cos(2x)}{2} = m$

$<-> m\sin(2x) + (m+1)(1 + \cos(2x)) = 2m$

$<-> m\sin(2x) + (m+1)\cos(2x) = m - 1$

Chia cả 2 vế cho $\sqrt{m^2 + (m+1)^2}$ ta có

$\dfrac{m}{\sqrt{m^2 + (m+1)^2}} \sin(2x) + \dfrac{m+1}{\sqrt{m^2 + (m+1)^2}} \cos(2x) = \dfrac{m-1}{\sqrt{m^2 + (m+1)^2}}$

Đặt $\cos a = \dfrac{m}{\sqrt{m^2 + (m+1)^2}}$, $\sin a = \dfrac{m+1}{\sqrt{m^2 + (m+1)^2}}$, khi đó ptrinh trở thành

$\sin(2x + a) = \dfrac{m-1}{\sqrt{m^2 + (m+1)^2}}$

Để ptrinh có nghiệm thì $-1 \leq \dfrac{m-1}{\sqrt{m^2 + (m+1)^2}} \leq 1$

TH1: $\dfrac{m-1}{\sqrt{m^2 + (m+1)^2}} \geq -1$

Ptrinh tương đương vs

$m-1 \geq -\sqrt{m^2 + (m+1)^2}$

$<-> 1 - m \leq \sqrt{m^2 + (m+1)^2}$

Với $m \geq 1$ thì ptrinh thỏa mãn với mọi m.

Với $m <1$, bình phương 2 vế ta có

$(1-m)^2 \leq m^2 + m^2 + 2m + 1$

$<-> m^2 - 2m + 1 \leq 2m^2 + 2m + 1$

$<-> m^2 + 4m \geq 0$

Vậy $m \geq 0$ hoặc $m \leq -4$

Kết hợp đk ta có $m \geq 1$ hoặc $ 0 \leq m <1$ hoặc $m \leq -4$

TH2: $\dfrac{m-1}{\sqrt{m^2 + (m+1)^2}} \leq 1$

Nhân cả 2 vế với $\sqrt{m^2 + (m+1)^2}$ ta được

$m-1 \leq \sqrt{m^2 + (m+1)^2}$

Với $m \leq 1$, ptrinh luôn thỏa mãn

Với $m > 1$, bình phương 2 vế ta có

$m^2 - 2m + 1 \leq 2m^2 + 2m + 1$

$<-> m^2 + 4m \geq 0$

Vậy $m \geq 0$ hoặc $m \leq -4$

Kết hợp vs đk ta có $m >1$

Vậy đk để ptrinh có nghiệm là $m \geq 1$ hoặc $ 0 \leq m <1$ hoặc $m \leq -4$ hoặc $m>1$.