Đáp án + Các bước giải thích:
Bài 7:
`x^2-2(m-1)x+m^2-6=0`
a) Thay `m=3` vào phương trình trên ta có:
`x^2-2.(3-1)x+3^2-6=0`
`<=>x^2-4x+3=0`
`<=>x^2-3x-x+3=0`
`<=>x(x-3)-(x-3)=0`
`<=>(x-3)(x-1)=0`
`<=>` \(\left[ \begin{array}{l}x-3=0\\x-1=0\end{array} \right.\)`<=>` \(\left[ \begin{array}{l}x=3\\x=1\end{array} \right.\) 
Vậy với `m=3` thì phương trình có nghiệm `S={1;3}`
b) Để phương trình có hai nghiệm thì: `Delta\geq0`
`Delta=[-2(m-1)]^2-4.1.(m^2-6)`
`<=>4(m^2-2m+1)-4m^2+24\geq0`
`<=>4m^2-8m+4-4m^2+24\geq0`
`<=>-8m+28\geq0`
`<=>-8m\geq-28`
`<=>m\leq7/2`
Vậy phương trình luôn có `2` nghiệm khi `m\leq7/2`
Áp dụng hệ thức Vi - ét ta có: $\begin{cases}x_1+x_2=2m-2\\x_1x_2=m^2-6\end{cases}$
Lại có: `x_1^2+x_2^2=16`
`<=>x_1^2+2x_1x_2+x_2^2-2x_1x_2=16`
`<=>(x_1+x_2)^2-2x_1x_2=16`
`<=>(2m-2)^2-2(m^2-6)=16`
`<=>4m^2-8m+4-2m^2+12=16`
`<=>2m^2-8m+16=16`
`<=>2m^2-8m=0`
`<=>2m(m-4)=0`
`<=>` \(\left[ \begin{array}{l}2m=0\\m-4=0\end{array} \right.\)`<=>` \(\left[ \begin{array}{l}m=0(TMĐK)\\m=4(KTMĐK)\end{array} \right.\) 
Vậy khi `m=0` thì phương trình có 2 nghiệm `x_1;x_2` thoả mãn `x_1^2+x_2^2=16`