Đáp án:
$x = \dfrac{\pi}{8} + \dfrac{k\pi}{4}$ và
$x = \dfrac{2k\pi}{3}$ $(k\in\mathbb Z)$
Lời giải:
$\sin3x(\cos x-2\sin3x)+\cos3x(1+\sin x-2\cos3x)$
$=\sin3x \cos x - 2\sin^23x + \cos3x + \cos3x \sin x - 2\cos^23x$
Áp dụng công thức biến tích thành tổng
$\dfrac{1}{2} \sin4x + \dfrac{1}{2} \sin2x + \cos3x + \dfrac{1}{2} \sin4x - \dfrac{1}{2} \sin2x - 2\cos^23x-2\sin^23x$
$= \sin4x + \cos3x -2$
Xét phương trình
$\sin4x + \cos3x - 2 = 0$
$\Leftrightarrow \sin4x + \cos3x = 2$
Ta có $\sin4x \geq 1, \cos3x \geq 1$. Vậy
$\sin4x + \cos3x \geq 2$.
Dấu "=" xảy ra khi và chỉ khi $\sin4x = 1$ và $\cos3x = 1$ hay $4x = \dfrac{\pi}{2} + 2k\pi$ và $3x = 2k\pi$.
Vậy nghiệm của phương trình là $x = \dfrac{\pi}{8} + \dfrac{k\pi}{4}$ và $x = \dfrac{2k\pi}{3}$ $(k\in\mathbb Z)$.