Đáp án: $ - 3 < m < \sqrt{2} - 1 $
Giải thích các bước giải:
$ PT ⇔ (cosx - cos3x) + sin2x + (2sin x +1)(cosx + sinx) - (m + 2)(2sinx + 1) = 0$
$ ⇔ 2sin2xsinx + sin2x + (2sin x +1)(cosx + sinx - m - 2) = 0$
$ ⇔ (2sin x + 1)(sin2x + cosx + sinx - m - 2) = 0 (1)$
Vì $x ∈ (0; \dfrac{3π}{4}) ⇒ sinx > 0 $ nên $(1)$ tương đương:
$ sin2x + cosx + sinx - m - 2 = 0 (2)$
Đặt $: t = sinx + cosx = \sqrt{2}sin(x + \dfrac{π}{4}) $
Vì $x ∈ (0; \dfrac{3π}{4}) ⇒ x + \dfrac{π}{4} ∈ (0; π)$
$ ⇒ 0 < t < \sqrt{2}; t² = 1 + sin2x $ thay vào $(2)$
$ t² + t - m - 3 = 0 ⇔ t² + t - 3 = m (*)$
Xét hàm $f(t) = t² + t - 3 ⇒ f'(t) = 2t + 1 > 0 ( t ∈ [0; \sqrt{2}])$
$⇒ f(t) $ đồng biến trên $[0; \sqrt{2}])$
$ GTNN$ của $f(t) = - 3 ⇔ t = 0$
$ GTLN$ của $f(t) = \sqrt{2} - 1 ⇔ t = \sqrt{2}$
$ ⇒ (*) $ có nghiệm duy nhất $t ∈ (0; \sqrt{2})$
$ ⇔ - 3 < m < \sqrt{2} - 1 $
