Đáp án:
$m\in \{-4;3\}$
Giải thích các bước giải:
$\quad x^2 - (m+1)x + m = 0\quad (1)$
Phương trình có nghiệm
$\Leftrightarrow \Delta_{(1)} \geqslant 0$
$\Leftrightarrow (m+1)^2 - 4m \geqslant 0$
$\Leftrightarrow (m-1)^2 \geqslant 0$ (luôn đúng)
$\Rightarrow (1)$ luôn có nghiệm với mọi $m$
Áp dụng định lý Viète với hai nghiệm $x_1;\ x_2$ của $(1)$ ta được:
$\begin{cases}x_1 + x_2 = m+1\\x_1x_2 = m\end{cases}$
Ta có:
$\quad x_1^2x_2 + x_1x_2^2 - 12 = 0$
$\Leftrightarrow x_1x_2(x_1+x_2)- 12 = 0$
$\Leftrightarrow m(m+1) - 12 = 0$
$\Leftrightarrow m^2 + m - 12 = 0$
$\Leftrightarrow \left[\begin{array}{l}m = 3\\m = -4\end{array}\right.$
Vậy $m\in \{-4;3\}$