Đáp án:

$m \in \left\{ { - 4;2} \right\}$

Giải thích các bước giải:

 Ta xét hàm số: ${y_1} = {x^2} - 2x + m$ có:

$\begin{array}{l}
{y_1}' = 2x - 2\\
 \Rightarrow \left\{ \begin{array}{l}
{y_1}' > 0 \Leftrightarrow x > 1\\
{y_1}' < 0 \Leftrightarrow x < 1
\end{array} \right.
\end{array}$

$\to $ Hàm số $y_1$ nghịch biến trên khoảng $(0;1)$ và đồng biến trên khoảng $(1;3)$

Ta có: ${y_1}\left( 0 \right) = m;{y_1}\left( 1 \right) = m - 1;{y_2}\left( 3 \right) = m + 3$

+) TH1: Nếu $m - 1 \ge 0 \Leftrightarrow m \ge 1$

Khi đó:

$\begin{array}{l}
\mathop {Max}\limits_{x \in \left[ {0;3} \right]} y = {y_1}\left( 3 \right) = m + 3\\
 \Leftrightarrow m + 3 = 5\\
 \Leftrightarrow m = 2\left( {tm} \right)
\end{array}$

+) TH2: Nếu $m - 1 < 0 \le m \Leftrightarrow 0 \le m < 1$

Khi đó:

$\mathop {Max}\limits_{x \in \left[ {0;3} \right]} y = Max\left\{ {{y_1}\left( 3 \right); - {y_1}\left( 1 \right)} \right\} = Max\left\{ {m + 3;1 - m} \right\}$

Mà $0 \le m < 1 \Rightarrow \left\{ \begin{array}{l}
3 \le m + 3 < 4\\
0 < 1 - m \le 1
\end{array} \right. \Rightarrow m + 3 > 1 - m$

$\begin{array}{l}
 \Rightarrow \mathop {Max}\limits_{x \in \left[ {0;3} \right]} y = m + 3\\
 \Leftrightarrow m + 3 = 5\\
 \Leftrightarrow m = 2\left( {ktm} \right)
\end{array}$

+) TH3: Nếu $m < 0 \le m + 3 \Leftrightarrow  - 3 \le m < 0$

Khi đó:

$\mathop {Max}\limits_{x \in \left[ {0;3} \right]} y = Max\left\{ {{y_1}\left( 3 \right); - {y_1}\left( 1 \right)} \right\} = Max\left\{ {m + 3;1 - m} \right\}$

+Nếu: $1 - m \ge m + 3 \Leftrightarrow m \le  - 1 \Rightarrow  - 3 \le m \le  - 1$

Khi đó:

$\begin{array}{l}
\mathop {Max}\limits_{x \in \left[ {0;3} \right]} y = 1 - m\\
 \Leftrightarrow 1 - m = 5\\
 \Leftrightarrow m =  - 4\left( {ktm} \right)
\end{array}$

+Nếu: $1 - m < m + 3 \Leftrightarrow m >  - 1 \Rightarrow  - 1 < m < 0$

Khi đó:

$\begin{array}{l}
\mathop {Max}\limits_{x \in \left[ {0;3} \right]} y = m + 3\\
 \Leftrightarrow m + 3 = 5\\
 \Leftrightarrow m = 2\left( {tm} \right)
\end{array}$

+) TH4: Nếu $m + 3 < 0 \Leftrightarrow m <  - 3$

Khi đó:

$\begin{array}{l}
\mathop {Max}\limits_{x \in \left[ {0;3} \right]} y =  - {y_1}\left( 1 \right) = 1 - m\\
 \Leftrightarrow 1 - m = 5\\
 \Leftrightarrow m =  - 4\left( {tm} \right)
\end{array}$

Vậy $m \in \left\{ { - 4;2} \right\}$ thỏa mãn đề.