Đáp án:
$m\in\{-2;1\}$
Giải thích các bước giải:
$\begin{array}{l}x^2-2(m-1)x+m^2-3m-4=0\\a,Δ'=(m-1)^2-(m^2-3m-4)\\\,\,\,\,\,\,\,\,\,\,\,\,\,\,=m^2-2m+1-m^2+3m+4\\\,\,\,\,\,\,\,\,\,\,\,\,\,\,=m+5\end{array}$
Để phương trình có $2$ nghiệm phân biệt: $Δ'>0$
$\begin{array}{l}⇔m+5>0\\⇔m>-5\end{array}$
$b,$ Áp dụng định lí Vi-et: $\begin{cases}x_1+x_2=2m-2\\x_1x_2=m^2-3m-4\end{cases}$
$\begin{array}{l}A=x_1^2+x_2^2-x_1x_2\\\,\,\,\,\,\,=(x_1+x_2)^2-3x_1x_2\\\,\,\,\,\,\,=(2m-2)^2-3(m^2-3m-4)\\\,\,\,\,\,\,=4m^2-8m+4-3m^2+9m+12\\\,\,\,\,\,\,=m^2+m+16\\A=18\\⇔m^2+m+16=18\\⇔m^2+m-2=0\\⇔(m-1)(m+2)=0\\⇔\left[ \begin{array}{l}m=1\,(TM)\\m=-2\,(TM)\end{array} \right.\end{array}$
Vậy $m\in\{-2;1\}$.