Đáp án:
$-\dfrac{1}{4} < m < 1$ và $m \neq 0$
Lời giải:
Để hàm số đã cho cắt trục hoành tại 3 điểm phân biệt thì phương trình hoành độ giao điểm phải có 3 nghiệm phân biệt:
$x^3 - 2x^2 + (1-m)x + m = 0$
$(x-1)(x^2 -x -m) = 0$
Ta đặt $x_1 = 1$. Khi đó, để phương trình có 3 nghiệm phân biệt thì phương trình sau phải có 2 nghiệm phân biệt khác 1
$x^2 - x - m = 0$.
Do có nghiệm khác 1 nên $1 - 1 - m \neq 0$ hay $m \neq 0$.
Ta có $\Delta = 1 + 4m$
Để có 2 nghiệm phân biệt thì $\Delta>0$ hay $m > -\dfrac{1}{4}$.
Theo điều kiện của đề bài ta có
$x_1^2 + x_2^2 + x_3^2 < 4$
$\Leftrightarrow 1 + (x_2 + x_3)^2 - 2x_2 x_3 < 4$
$\Leftrightarrow (x_2 + x_3)^2 - 2x_2 x_3 < 3$
với $x_2, x_3$ là nghiệm của phương trình bậc 2 trên.
Áp dụng Viet ta có
$1^2 - 2 (-m) < 3$
$\Leftrightarrow m < 1$.
Kết hợp các điều kiện ta có $-\dfrac{1}{4} < m < 1$ và $m \neq 0$.
