Đáp án: $m\in\{-3,2\}$
Giải thích các bước giải:
Ta có:
$\Delta'=(m-1)^2-(4m-11)=m^2-6m+12=(m-3)^2+3>0$
$\to$Phương trình luôn có $2$ nghiệm $x_1,x_2$ thỏa mãn
$\begin{cases}x_1+x_2=-2(m-1)\\x_1x_2=4m-11\end{cases}$
Mà $x_1^2+2(m-1)x_1+4m-11=0$
$\to x_1^2-2x_1+1+2mx_1+4m-12=0$
$\to (x_1-1)^2+2mx_1+4m-12=0$
$\to (x_1-1)^2=-2mx_1-4m+12$
Lại có:
$2(x_1-1)^2+(6-x_2)(x_1x_2+11)=72$
$\to 2(-2mx_1-4m+12)+(6-x_2)(4m-11+11)=72$
$\to 2(-2mx_1-4m+12)+4m(6-x_2)=72$
$\to -4mx_1-8m+24+24m-4mx_2=72$
$\to -4m(x_1+x_2)+16m=48$
$\to -4m\cdot (-2(m-1))+16m=48$
$\to 8m^2+8m=48$
$\to 8m^2+8m-48=0$
$\to m^2+m-6=0$
$\to (m-2)(m+3)=0$
$\to m\in\{-3,2\}$