Xét phương trình: `x^2-2(m+1)x+2m+10=0` `(1)`
Ta có: `Δ=b^2-4ac`
` =[-2(m+1)]^2-4.1.(2m+10)`
` =4(m+1)^2-8m-40`
` =4m^2+8m+4-8m-40`
` =4m^2-36`
Để phương trình `(1)` có 2 nghiệm `x_1; x_2`
thì `Δ>0`
hay `4m^2-36>0`
`=> 4m^2 > 36`
`=> m^2 > 9`
=> \(\left[ \begin{array}{l}m>3\\m< -3\end{array} \right.\)
Với `m>3` hoặc `m< -3` thì phương trình `(1)` có 2 nghiệm `x_1; x_2`
Áp dụng hệ thức Vi-ét, ta có:
$\begin{cases} x_1+x_2=-b/a=2(m+1)=2m+2\\x_1.x_2=c/a=2m+10 \end{cases}$
Ta có: `A=14x_1x_2+x_1^2+x_2^2`
`A=14x_1x_2+(x_1+x_2)^2-2x_1x_2`
`A=12x_1x_2+(x_1+x_2)^2`
`A=12.(2m+10)+(2m+2)^2`
`A=24m + 120 + 4m^2 + 8m + 4`
`A=(2m)^2 + 2.2m.(15)/2+225/4+271/4`
`A=(2m+15/2)^2+271/4 >=271/4`
GTNN của `A=271/4`
Dấu "`=`" xảy ra khi `2m+15/2=0`
`<=> 2m=15/2`
`<=> m=15/4` (tm)
Vậy với `m=15/4` thì phương trình `(1)` có hai nghiệm `x_1; x_2` để biểu thức `A=14x_1x_2+x_1^2+x_2^2` đạt GTNN
