`a,` Thay `m=-5` vào biểu thức `x^2-2(m+1)x+2m=0` ta được:
`x^2-2(-5+1)x+2(-5)=0`
`<=> x^2+8x-10=0`
`<=> x= -4+`$\sqrt[]{26}$ và `x= -4-`$\sqrt[]{26}$
`b,` Ta có: `x_1` và `x_2` là nghiệm của phương trình:
$\left \{ {{x_1 + x_2 =2(m+1)} \atop {x_1 . x_2=2m}} \right.$
Theo đề ta có phương trình:
`x_1^2+x_2^2=12`
`=>(x_1+x_2)^2-2x_1x_2=12`
`=>4m^2+4m-8=0`
`=>` \(\left[ \begin{array}{l}m=1\\m=-2\end{array} \right.\)
Vậy ...........