$x^2 -2(m+1)x + 2m+ 10= 0$ (*)
Phương trình (*) có 2 nghiệm $x_1$ và $x_2$ thì
$\Leftrightarrow \Delta' \ge 0$
$\Leftrightarrow (m+1)^2 - 2m-10 \ge 0$
$\Leftrightarrow m^2 + 2m+ 1 - 2m -10 \ge 0$
$\Leftrightarrow m^2\ge 9$
$ m \le -3$ hoặc $m\ge3$
Theo vi-ét ta có:
$\left\{\begin{array}{I}x_1+x_2= 2(m+1)\\x_1.x_2= 2m+10\end{array}\right.$
$A= x_1^2+ x_2^2 + 10x_1.x_2$
$= (x_1+x_2)^2 + 8x_1.x_2$
$= 4(m+1)^2 + 8(2m+10)$
$= 4(m^2+ 2m+ 1)+ 16m+ 80$
$= 4m^2+ 24m+ 84$
$= (2m)^2 + 2.2m.6 + 36 + 48$
$= (2m+6)^2 +48 \ge 48$
$ A_{min}= 48 \Leftrightarrow m= -3$ (thỏa mãn).