ĐKXD: $\sin x \neq 0$ hay $x \neq k\pi$.
Ptrinh tương đương vs
$\dfrac{\sin^2x + \cos^2x + 2\sin x \cos x - 2\sin^2x}{\dfrac{1}{\sin^2x}} = \dfrac{\sqrt{2}}{2} (\dfrac{\sqrt{2}}{2} (\cos x - \sin x) - \dfrac{\sqrt{2}}{2} (\cos(3x) - \sin(3x)))$
<->$(1 - 2\sin^2x + \sin(2x)).\sin^2x = \dfrac{1}{2} (\cos x - \sin x - \cos(3x) + \sin(3x))$
<->$ 2[\sin(2x) + \cos(2x)] . \sin^2x = \cos x - \sin x - \cos(3x) + \sin(3x)$
<->$ 2[\sin(2x) + \cos(2x)] . \sin^2x = \cos x - \cos(3x) + \sin(3x) - \sin x$
Áp dụng công thức biến tổng thành tích
$2[\sin(2x) + \cos(2x)] . \sin^2x = -2 \sin(2x) \sin(-x) + 2\cos(2x) \sin x$
<->$ [\sin(2x) + \cos(2x)] . \sin^2x = \sin x [\sin(2x) + \cos(2x)]$
<->$ \sin(2x) + \cos(2x) = 0$ hoặc $\sin^2x = \sin x$
<->$ \tan(2x) = -1$ hoặc $\sin x = 1$ hoặc $\sin x = 0$ (loại)
<->$ 2x = -\dfrac{\pi}{4} + k\pi$ hoặc $x = \dfrac{\pi}{2} + 2k\pi$
<->$ x = -\dfrac{\pi}{8} + k\dfrac{\pi}{2}$ hoặc $x = \dfrac{\pi}{2} + 2k\pi$
Vậy nghiệm của ptrinh là $ x = -\dfrac{\pi}{8} + k\dfrac{\pi}{2}$ hoặc $x = \dfrac{\pi}{2} + 2k\pi$.
