`\qquad x^2-11x+m-2=0(1)`
`a)` Thay `m=2` vào pt (1) ta có:
`\qquad x^2-11x+2-2=0`
`<=>x^2-11x=0`
`<=> x(x-11)=0`
`<=>`\(\left[ \begin{array}{l}x=0\\x=11\end{array} \right.\)
Vậy `S={0;11}` khi `m=2`
`b) x^2-11x+m-2=0`
`\Delta=(-11)^2-4(m-2)`
`\Delta=121-4m+8`
`\Delta=129-4m`
Để pt đã cho có 2 nghiệm phân biệt
`<=> \Delta>0`
`=> 129-4m>0`
`<=>m<129/4`
Với `m<129/4` thì pt có 2 nghiệm phân biệt
Theo Viet: `{(x_1+x_2=11),(x_1.x_2=m-2):}`
Có: `\sqrt{x_1^2-10x_1+m-1}=5-\sqrt{x_2+1}` ĐK: `x_1;x_2>=-1`
`<=> \sqrt{x_1^2-11x_1+m-2+x_1+1}=5-\sqrt{x_2+1}`
`<=> \sqrt{x_1+1}+\sqrt{x_2+1}=5`
`=> x_1+1+x_2+1+2\sqrt{(x_1+1)(x_2+1)}=25`
`<=> x_1+x_2+2\sqrt{x_1x_2+x_1+x_2+1}=23`
`-> 11+2\sqrt{m-2+11+1}=23`
`<=> 2\sqrt{m+10}=12`
`<=> \sqrt{m+10}=6` ĐK: `m> -10`
`<=> m+10=36`
`<=> m=26(\text{tm})`
Vậy `m=26`