Đáp án:

a) $x = k\pi \left( {k \in Z} \right)$;

$x = \arctan \left( {0,81} \right) + k\pi \left( {k \in Z} \right)$;

$x = \arctan \left( { - 1,47} \right) + k\pi \left( {k \in Z} \right)$ và

$x = \arctan \left( { - 3,34} \right) + k\pi \left( {k \in Z} \right)$

b) $x = \dfrac{\pi }{2} + k\pi \left( {k \in Z} \right)$;

$x = \dfrac{\pi }{4} + k2\pi \left( {k \in Z} \right)$ và

$x = \dfrac{{3\pi }}{4} + k2\pi \left( {k \in Z} \right)$

c) $x = \dfrac{\pi }{{18}} + \dfrac{1}{3} + k\dfrac{\pi }{3}\left( {k \in Z} \right)$ và

$x =  - \dfrac{\pi }{{18}} + \dfrac{1}{3} + k\dfrac{\pi }{3}\left( {k \in Z} \right)$

Giải thích các bước giải:

$\begin{array}{l}
a)4{\cos ^5}x.\sin x - 4{\sin ^5}x.\cos x = {\sin ^2}x\\
 \Leftrightarrow \sin x\left( {4\cos x\left( {{{\cos }^4}x - {{\sin }^4}x} \right) - \sin x} \right) = 0\\
 \Leftrightarrow \sin x\left( {4\cos x\left( {{{\cos }^2}x - {{\sin }^2}x} \right)\left( {{{\cos }^2}x + {{\sin }^2}x} \right) - \sin x} \right) = 0\\
 \Leftrightarrow \sin x\left( {4\cos x.\cos 2x - \sin x} \right) = 0\\
 \Leftrightarrow \left[ \begin{array}{l}
\sin x = 0\\
4\cos x.\cos 2x - \sin x = 0
\end{array} \right.
\end{array}$

+)TH1: $\sin x = 0 \Leftrightarrow x = k\pi \left( {k \in Z} \right)$

+)TH2: $4\cos x.\cos 2x - \sin x = 0(1)$

* Nếu $\cos x=0$ từ (1) $\to \sin x=0$

$\to \cos^2 x+\sin^2 x=0\text{ (vô lý)}$ $\to $ Loại.

* Nếu $\cos x\ne 0$

$\begin{array}{l}
4\cos x.\cos 2x - \sin x = 0\\
 \Leftrightarrow 4\cos 2x = \dfrac{{\sin x}}{{\cos x}}\\
 \Leftrightarrow 4\cos 2x = \tan x\\
 \Leftrightarrow 4\left( {2{{\cos }^2}x - 1} \right) = \tan x\\
 \Leftrightarrow 8{\cos ^2}x - \tan x - 4 = 0\\
 \Leftrightarrow \dfrac{8}{{{{\tan }^2}x + 1}} - \tan x - 4 = 0\\
 \Leftrightarrow {\tan ^3}x + 4{\tan ^2}x + \tan x - 4 = 0\\
 \Leftrightarrow \left[ \begin{array}{l}
\tan x \approx 0,81\\
\tan x \approx  - 1,47\\
\tan x \approx  - 3,34
\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}
x = \arctan \left( {0,81} \right) + k\pi \left( {tm} \right)\\
x = \arctan \left( { - 1,47} \right) + k\pi \left( {tm} \right)\\
x = \arctan \left( { - 3,34} \right) + k\pi \left( {tm} \right)
\end{array} \right.
\end{array}$

Vậy phương trình có 4 họ nghiệm là: 

$x = k\pi \left( {k \in Z} \right)$;

$x = \arctan \left( {0,81} \right) + k\pi \left( {k \in Z} \right)$;

$x = \arctan \left( { - 1,47} \right) + k\pi \left( {k \in Z} \right)$ và

$x = \arctan \left( { - 3,34} \right) + k\pi \left( {k \in Z} \right)$

$\begin{array}{l}
b)4{\cos ^3}x + 3\sqrt 2 \sin 2x = 8\cos x\\
 \Leftrightarrow 4{\cos ^3}x + 6\sqrt 2 \sin x.\cos x - 8\cos x = 0\\
 \Leftrightarrow \cos x\left( {2{{\cos }^2}x + 3\sqrt 2 \sin x - 4} \right) = 0\\
 \Leftrightarrow \cos x\left( {2\left( {1 - {{\sin }^2}x} \right) + 3\sqrt 2 \sin x - 4} \right) = 0\\
 \Leftrightarrow \cos x\left( {2{{\sin }^2}x - 3\sqrt 2 \sin x + 2} \right) = 0\\
 \Leftrightarrow \left[ \begin{array}{l}
\cos x = 0\left( c \right)\\
\sin x = \sqrt 2 \left( l \right)\\
\sin x = \dfrac{{\sqrt 2 }}{2}\left( c \right)
\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}
\cos x = 0\\
\sin x = \dfrac{{\sqrt 2 }}{2}
\end{array} \right.\\
 \Leftrightarrow \left[ \begin{array}{l}
x = \dfrac{\pi }{2} + k\pi \\
x = \dfrac{\pi }{4} + k2\pi \\
x = \dfrac{{3\pi }}{4} + k2\pi 
\end{array} \right.
\end{array}$

Vậy phương trình có 3 họ nghiệm là:

$x = \dfrac{\pi }{2} + k\pi \left( {k \in Z} \right)$;

$x = \dfrac{\pi }{4} + k2\pi \left( {k \in Z} \right)$ và

$x = \dfrac{{3\pi }}{4} + k2\pi \left( {k \in Z} \right)$

c) Sửa đề: phương trình cần giải là:

$4{\cos ^2}\left( {2 - 6x} \right) + 16{\cos ^2}\left( {1 - 3x} \right) = 13$

$\begin{array}{l}
4{\cos ^2}\left( {2 - 6x} \right) + 16{\cos ^2}\left( {1 - 3x} \right) = 13\\
 \Leftrightarrow 4{\cos ^2}\left( {2 - 6x} \right) + 8\left( {\cos \left( {2 - 6x} \right) + 1} \right) = 13\\
 \Leftrightarrow 4{\cos ^2}\left( {2 - 6x} \right) + 8\cos \left( {2 - 6x} \right) - 5 = 0\\
 \Leftrightarrow \left[ \begin{array}{l}
\cos \left( {2 - 6x} \right) = \dfrac{1}{2}\left( c \right)\\
\cos \left( {2 - 6x} \right) = \dfrac{{ - 5}}{2}\left( l \right)
\end{array} \right. \Leftrightarrow \cos \left( {2 - 6x} \right) = \dfrac{1}{2}\\
 \Leftrightarrow \left[ \begin{array}{l}
2 - 6x = \dfrac{\pi }{3} + k2\pi \\
2 - 6x =  - \dfrac{\pi }{3} + k2\pi 
\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}
x = \dfrac{\pi }{{18}} + \dfrac{1}{3} + k\dfrac{\pi }{3}\\
x =  - \dfrac{\pi }{{18}} + \dfrac{1}{3} + k\dfrac{\pi }{3}
\end{array} \right.
\end{array}$

Vậy phương trình có 2 họ nghiệm là:

$x = \dfrac{\pi }{{18}} + \dfrac{1}{3} + k\dfrac{\pi }{3}\left( {k \in Z} \right)$ và

$x =  - \dfrac{\pi }{{18}} + \dfrac{1}{3} + k\dfrac{\pi }{3}\left( {k \in Z} \right)$