$(x+2)[(m-3)x^2+(2m+1)x+m+2]=0$
$⇔\left[ \begin{array}{l}x=-2\\(m-3)x^2+(2m+1)x+m+2=0\end{array} \right.$
Đặt $A=(m-3)x^2+(2m+1)x+m+2$
Yêu cầu bài toán $⇔$ Tìm $m$ để phương trình $A$ có $2$ nghiệm phân biệt và nhỏ hơn $1$ và khác $-2$
Thay $x=-2$ vào $A$, ta có:
$4(m-3)-2(2m+1)+m+2\neq0$
$⇔4m-12-4m-2+m+2\neq0$
$⇔m\neq12$ $(1)$
Với $m\neq3$, ta có:
$Δ=(2m+1)^2-4(m-3)(m+2)$
$=4m^2+4m+1-4(m^2-m-6)$
$=8m+25>0$
$⇔m>\frac{-25}{8}$ $(2)$
Gọi $x_{1},x_{2}$ là hai nghiệm phân biệt của phương trình $A$, giả sử $x_{1}<x_{2}$
Phương trình $A$ có hai nghiệm nhỏ hơn $1$
$⇔x_{1}<x_{2}<1$
$⇔(x_{1}-1)(x_{2}-1)>0$
$⇔x_{1}x_{2}-(x_{1}+x_{2})+1>0$
Theo định lí Vi-ét, ta có:
$x_{1}+x_{2}=\frac{-2m-1}{m-3}$
$x_{1}x_{2}=\frac{m+2}{m-3}$
$⇒x_{1}x_{2}-(x_{1}+x_{2})+1>0$
$⇔\frac{m+2}{m-3}-\frac{-2m-1}{m-3}+1>0$
$⇔m∈(-∞;0)∪(3;+∞)$ $(3)$
Từ $(1), (2), (3)$ $⇒ \frac{-25}{8}<m<0$ hoặc $m>3$ và $m\neq12$
