$\text{Xét phương trình $x^{2}-(m+5)x - m+6=0$}$
$\text{Có $Δ=[-(m+5)]^{2}-4.1.(-m+6)$}$
$\text{$=(m+5)^{2}-4.(-m+6)$}$
$\text{$=m^{2}+10m+25+4m-24$}$
$\text{$=m^{2}+14m+1$}$
$\text{Phương trình có 2 nghiệm ⇔ Δ>0}$
$\text{⇔ $m^{2}+14m+1$>0 (*)}$
$\text{Với $x_{1},x_{2}$ là nghiệm của phương trình. Theo Viét có:}$
$\left \{ {{x_{1}+x_{2}=m+5} \atop {x_{1}.x_{2}=-m+6}} \right. (I)$
$\text{Theo bài ra có: $x_{1}^{2}.x_{2}+x_{1}.x_{2}^{2}=24$}$
$\text{⇔ $x_{1}.x_{2}(x_{1}+x_{2})=24$ (1)}$
$\text{Thay (I) vào (1) có:}$
$\text{$(-m+6)(m+5)=24$}$
$\text{⇔ $-m^{2}-5m+6m+30=24$}$
$\text{⇔ $-m^{2}-5m+6m+30-24=0$}$
$\text{⇔ $-m^{2}+m+6=0$}$
$\text{⇔ $m^{2}-m-6=0$}$
$\text{⇔ $m^{2}-3m+2m-6=0$}$
$\text{⇔ $m(m-3)+2(m-3)=0$}$
$\text{⇔ $(m-3)(m+2)=0$}$
$\text{⇔ \(\left[ \begin{array}{l}m-3=0\\m+2=0\end{array} \right.\) }$
$\text{⇔ \(\left[ \begin{array}{l}m=3\\m=-2\end{array} \right.\) }$
$\text{Thay m=3 vào (*) có:}$
$\text{$3^{2}+14.3+1=9+42+1=52>0$ (Thỏa mãn)}$
$\text{$(-2)^{2}+14.(-2)+1=4-28+1=-23<0$ (Không thỏa mãn)}$
$\text{Vậy với m=3 thì phương trình $x^{2}-(m+5)x - m+6=0$ có nghiệm thỏa mãn $x_{1}^{2}.x_{2}+x_{1}.x_{2}^{2}=24$}$
