Đáp án:

 1) $x = \arctan \left( {2 + \sqrt 3 } \right) + k\pi \left( {k \in Z} \right)$ và $x = \arctan \left( {2 - \sqrt 3 } \right) + k\pi \left( {k \in Z} \right)$

2) $x = \dfrac{\pi }{6} + k\pi \left( {k \in Z} \right)$ và $x =  - \dfrac{\pi }{6} + k\pi \left( {k \in Z} \right)$

Giải thích các bước giải:

 1) ĐKXĐ: $x\ne \dfrac{k\pi}{2}(k\in Z)$

Ta có:

$\begin{array}{l}
\cot x + \sin x\left( {1 + \tan x.\tan \dfrac{x}{2}} \right) = 4\\
 \Leftrightarrow \cot x + \sin x\left( {1 + \dfrac{{\sin x.\sin \dfrac{x}{2}}}{{\cos x.\cos \dfrac{x}{2}}}} \right) = 4\\
 \Leftrightarrow \cot x + \sin x.\dfrac{{\cos x.\cos \dfrac{x}{2} + \sin x.\sin \dfrac{x}{2}}}{{\cos x.\cos \dfrac{x}{2}}} = 4\\
 \Leftrightarrow \cot x + \sin x.\dfrac{{\cos \left( {x - \dfrac{x}{2}} \right)}}{{\cos x.\cos \dfrac{x}{2}}} = 4\\
 \Leftrightarrow \cot x + \sin x.\dfrac{{\cos \dfrac{x}{2}}}{{\cos x.\cos \dfrac{x}{2}}} = 4\\
 \Leftrightarrow \cot x + \dfrac{{\sin x}}{{\cos x}} = 4\\
 \Leftrightarrow \dfrac{1}{{\tan x}} + \tan x = 4\\
 \Leftrightarrow {\tan ^2}x - 4\tan x + 1 = 0\\
 \Leftrightarrow \left[ \begin{array}{l}
\tan x = 2 + \sqrt 3 \\
\tan x = 2 - \sqrt 3 
\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}
x = \arctan \left( {2 + \sqrt 3 } \right) + k\pi (tm)\\
x = \arctan \left( {2 - \sqrt 3 } \right) + k\pi (tm)
\end{array} \right.
\end{array}$

Vậy phương trình có 2 họ nghiệm là:

$x = \arctan \left( {2 + \sqrt 3 } \right) + k\pi \left( {k \in Z} \right)$ và $x = \arctan \left( {2 - \sqrt 3 } \right) + k\pi \left( {k \in Z} \right)$

2) ĐKXĐ: $x\ne \dfrac{k\pi}{2}(k\in Z)$

Ta có:

$\begin{array}{l}
\dfrac{{{{\sin }^4}x + {{\cos }^4}x}}{{5\sin 2x}} = \dfrac{1}{2}\cot 2x - \dfrac{1}{{8\sin 2x}}\\
 \Leftrightarrow \dfrac{{{{\left( {{{\sin }^2}x + {{\cos }^2}x} \right)}^2} - 2{{\sin }^2}x.{{\cos }^2}x}}{{5\sin 2x}} - \dfrac{1}{2}\cot 2x + \dfrac{1}{{8\sin 2x}} = 0\\
 \Leftrightarrow \dfrac{{1 - \dfrac{{{{\sin }^2}2x}}{2}}}{{5\sin 2x}} - \dfrac{1}{2}.\dfrac{{\cos 2x}}{{\sin 2x}} + \dfrac{1}{{8\sin 2x}} = 0\\
 \Leftrightarrow \dfrac{{8 - 4{{\sin }^2}2x - 20\cos 2x + 5}}{{8\sin 2x}} = 0\\
 \Leftrightarrow  - 4{\sin ^2}2x - 20\cos 2x + 13 = 0\\
 \Leftrightarrow 4{\cos ^2}2x - 4 - 20\cos 2x + 13 = 0\\
 \Leftrightarrow 4{\cos ^2}2x - 20\cos 2x + 9 = 0\\
 \Leftrightarrow \left[ \begin{array}{l}
\cos 2x = \dfrac{9}{2}\left( l \right)\\
\cos 2x = \dfrac{1}{2}\left( c \right)
\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}
2x = \dfrac{\pi }{3} + k2\pi \\
2x =  - \dfrac{\pi }{3} + k2\pi 
\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}
x = \dfrac{\pi }{6} + k\pi (tm)\\
x =  - \dfrac{\pi }{6} + k\pi (tm)
\end{array} \right.
\end{array}$

Vậy phương trình có 2 họ nghiệm là: 

$x = \dfrac{\pi }{6} + k\pi \left( {k \in Z} \right)$ và $x =  - \dfrac{\pi }{6} + k\pi \left( {k \in Z} \right)$