Đáp án:
$\begin{array}{l}
a){x^2} - 4x - \left( {{m^2} + 2m} \right) = 0\\
\Leftrightarrow \Delta ' = 4 + {m^2} + 2m\\
= {m^2} + 2m + 1 + 3\\
= {\left( {m + 1} \right)^2} + 3 \ge 3 > 0
\end{array}$
Vậy phương trình luôn có 2 nghiệm phân biệt với mọi m
$\begin{array}{l}
b)Theo\,Viet:\left\{ \begin{array}{l}
{x_1} + {x_2} = 4\\
{x_1}{x_2} = - {m^2} - 2m
\end{array} \right.\\
x_1^2 + x_2^2 + 8\left( {{x_1}{x_2} + 1} \right)\\
= {\left( {{x_1} + {x_2}} \right)^2} + 6{x_1}{x_2} + 8\\
= 16 + 6.\left( { - {m^2} - 2m} \right) + 8\\
= - 6{m^2} - 12m + 24\\
c)x_1^2 + x_2^2 = 5\left( {{x_1} + {x_2}} \right)\\
\Leftrightarrow {\left( {{x_1} + {x_2}} \right)^2} = 5\left( {{x_1} + {x_2}} \right) + 2{x_1}{x_2}\\
\Leftrightarrow 16 = 5.4 + 2.\left( { - {m^2} - 2m} \right)\\
\Leftrightarrow {m^2} + 2m - 2 = 0\\
\Leftrightarrow {\left( {m + 1} \right)^2} = 3\\
\Leftrightarrow m = - 1 \pm \sqrt 3 \\
Vậy\,m = - 1 \pm \sqrt 3
\end{array}$
