Pt $x^2 - 3x + m = 0$
có $\Delta = (-3)^2 - 4m$
$=9 - 4m$
Để pt có hai nghiệm phân biệt thì $\Delta > 0$
⇔ $9 - 4m > 0 ⇔ m < \dfrac{9}{4}$
Khi đó áp dụng hệ thức Vi-et có:
$x_1 +x_2 = 3$
$x_1x_2 = m$
Mà $x_1^3x_2 + x_1x_2^3 - 2x_1^2x_2^2 = 5$
⇔ $x_1x_2(x_1^2 + x_2^2 - 2x_1x_2) = 5$
⇔ $x_1x_2[(x_1 + x_2)^2 - 4x_1x_2] = 5$
⇔ $m(3^2 - 4m) = 5$
⇔ $m(9 - 4m) = 5$
⇔ $4m^2 - 9m + 5 = 0$
có $4 + (-9) + 5 = 0$
⇒ Pt có hai nghiệm:
$m_1 = 1 (T/m)$
$m_2 = \dfrac{5}{4} (T/m)$
Vậy với $\text{m ∈ {1;$\dfrac{5}{4}$}}$ thì pt có hai nghiệm phân biệt $x_1;x_2$ thỏa mãn $x_1^3x_2 + x_1x_2^3 - 2x_1^2x_2^2 = 5$