$\Delta'=(m-1)^2-m^2+3m-4$
$=m^2-2m+1-m^2+3m-4$
$=m-3$
a,
Để có 2 nghiệm: $\Delta'\ge 0$
$\Leftrightarrow m\ge 3$
Theo Viet: $x_1+x_2=2(m-1); x_1x_2=m^2-3m+4$
$x_1^2+x_2^2=(x_1+x_2)^2-2x_1x_2=20$
$\Rightarrow 4(m-1)^2-2(m^2-3m+4)=20$
$\Leftrightarrow 2m^2-2m-24=0$
$\Leftrightarrow m=4; m=-3$ (TM)
b,
Để có nghiệm kép, $\Delta'=0$
$\Leftrightarrow m=3$