Đáp án: $ \sqrt{3}<m<1+\sqrt{2}$
Giải thích các bước giải:
Ta có:
$y=x^3-3mx^2+3(m^2-1)x-(m^2-1)$
$\to y'=3x^2-6mx+3(m^2-1)$
$\to y'=3(x^2-2mx+m^2-1)$
$\to y'=3((x-m)^2-1)$
$\to y'=3(x-m-1)(x-m+1)$
$\to y'=0$ luôn có $2$ nghiệm $x\in\{m+1, m-1\}$
$\to y$ luôn có $2$ cực trị tại $x=m+1$ và $x=m-1$
$\to A(m+1,m^3-m^2-3m-1 ), B(m-1, m^3-m^2-3m+3) $ là cực trị hàm số
Để $y\cap Ox$ tại $3$ điểm phân biệt có hoành độ dương
$\to \begin{cases} y_a\cdot y_b<0\\ x_a\cdot x_b>0\end{cases}$
$\to \begin{cases} (m^3-m^2-3m-1)\cdot (m^3-m^2-3m+3)<0\\ (m+1)(m-1)>0\end{cases}$
$\to \begin{cases} (m+1)(m^2-2m-1)\cdot (m-1)(m^2-3)<0\\ m>1\quad hoặc\quad m<-1\end{cases}$
$\to \begin{cases} (m+1)(m-1)(m^2-2m-1)\cdot(m^2-3)<0\\ m>1\quad hoặc\quad m<-1\end{cases}$
$\to \begin{cases}(m^2-2m-1)\cdot(m^2-3)<0\\ m>1\quad hoặc\quad m<-1\end{cases}$
$\to \begin{cases} -\sqrt{3}<m<-\sqrt{2}+1\quad \mathrm{hoặc}\quad \sqrt{3}<m<1+\sqrt{2}\\ m>1\quad hoặc\quad m<-1\end{cases}$
$\to -\sqrt{3}<m<-1\quad \mathrm{hoặc}\quad \sqrt{3}<m<1+\sqrt{2}$
Thử lại $\to \sqrt{3}<m<1+\sqrt{2}$
