Đáp án: m=-1/2
Giải thích các bước giải:
$\begin{array}{l}
f\left( x \right) = \frac{{{x^3}}}{3} - \left( {m + 2} \right){x^2} + \left( {2m + 1} \right)x + {m^2} + 2020\\
\Rightarrow f'\left( x \right) = {x^2} - 2\left( {m + 2} \right)x + 2m + 1\\
f'\left( x \right) = 0\\
\Rightarrow {x^2} - 2\left( {m + 2} \right)x + 2m + 1 = 0\left( 1 \right)
\end{array}$
Phương trình (1) có 2 nghiệm phân biệt thì:
$\begin{array}{l}
\Delta ' > 0\\
\Rightarrow {\left( {m + 2} \right)^2} - \left( {2m + 1} \right) > 0\\
\Rightarrow {m^2} + 4m + 4 - 2m - 1 > 0\\
\Rightarrow {m^2} + 2m + 3 > 0\\
\Rightarrow {\left( {m + 1} \right)^2} + 2 > 0\forall x\\
Theo\,Viet:\left\{ \begin{array}{l}
{x_1} + {x_2} = 2m + 4\\
{x_1}{x_2} = 2m + 1
\end{array} \right.\\
A = {x_1}{x_2} - \frac{{x_1^2 + x_2^2}}{4}\\
= 2m + 1 - \frac{{{{\left( {{x_1} + {x_2}} \right)}^2} - 2{x_1}{x_2}}}{4}\\
= 2m + 1 - \frac{{4{{\left( {m + 2} \right)}^2}}}{4} + \frac{1}{2}{x_1}{x_2}\\
= 2m + 1 - {m^2} - 4m - 4 + \frac{1}{2}.\left( {2m + 1} \right)\\
= - {m^2} - m - \frac{5}{2}\\
= - \left( {{m^2} + m + \frac{1}{4}} \right) - \frac{9}{4}\\
= - {\left( {m + \frac{1}{2}} \right)^2} - \frac{9}{4} \le - \frac{9}{4}\forall m\\
\Rightarrow GTLN:A = - \frac{9}{4} \Leftrightarrow m = - \frac{1}{2}
\end{array}$