Đáp án:
$m=1$
Giải thích các bước giải:
Ta có:
$\begin{array}{l}
{x^3} - 5{x^2} + \left( {2m + 5} \right)x - 4m + 2 = 0\left( 1 \right)\\
\Leftrightarrow {x^3} - 2{x^2} - 3{x^2} + 6x + \left( {2m - 1} \right)x - 2\left( {2m - 1} \right) = 0\\
\Leftrightarrow \left( {x - 2} \right)\left( {{x^2} - 3x + 2m - 1} \right) = 0\\
\Leftrightarrow \left[ \begin{array}{l}
x = 2\\
{x^2} - 3x + 2m - 1 = 0\left( 2 \right)
\end{array} \right.
\end{array}$
Để phương trình $(1)$ có 3 nghiệm $x_1;x_2;x_3$ phân biệt
$ \Leftrightarrow $ Phương trình $(2)$ có 2 nghiệm $x_2;x_3$ phân biệt khác $x_1=2$
$\begin{array}{l}
\Leftrightarrow \left\{ \begin{array}{l}
\Delta > 0\\
{2^2} - 3.2 + 2m - 1 \ne 0
\end{array} \right.\\
\Leftrightarrow \left\{ \begin{array}{l}
{\left( { - 3} \right)^2} - 4.1.\left( {2m - 1} \right) > 0\\
2m - 3 \ne 0
\end{array} \right.\\
\Leftrightarrow \left\{ \begin{array}{l}
m < \dfrac{{13}}{8}\\
m \ne \dfrac{3}{2}
\end{array} \right.\left( * \right)
\end{array}$
Khi đó:
Theo ĐL Viet ta có: $\left\{ \begin{array}{l}
{x_2} + {x_3} = 3\\
{x_2}{x_3} = 2m - 1
\end{array} \right.$
Như vậy:
$\begin{array}{l}
x_1^2 + x_2^2 + x_3^2 = 11\\
\Leftrightarrow {2^2} + {\left( {{x_2} + {x_3}} \right)^2} - 2{x_2}{x_3} = 11\\
\Leftrightarrow 4 + {3^2} - 2\left( {2m - 1} \right) - 11 = 0\\
\Leftrightarrow 4 - 4m = 0\\
\Leftrightarrow m = 1\left( {tm\left( * \right)} \right)
\end{array}$
Vậy $m=1$ thỏa mãn