Đáp án: $m=-2$
Giải thích các bước giải:
Ta có:
$x^3-(m+1)x^2-3x+m+3=0$
$\to (x^3-3x+2)-((m+1)x^2-(m+1))=0$
$\to (x-1)^2(x+2)-(m+1)(x-1)(x+1)=0$
$\to (x-1)((x-1)(x+2)-(m+1)(x+1))=0$
$\to (x-1)(x^2-mx-m-3)=0(*)$
$\to$Phương trình có nghiệm $x=1$ và $2$ nghiệm thỏa mãn $x^2-mx-m-3=0$
Giả sử $x_3=1$
Để phương trình có $3$ nghiệm phân biệt
$\to (*)$ có $2$ nghiệm phân biệt khác $1$
$\to \begin{cases}\Delta>0\\ 1^2-m\cdot 1-m-3\ne 0\end{cases}$
$\to \begin{cases}(-m)^2-4(-m-3)>0\\ m\ne -1\end{cases}$
$\to \begin{cases}(m+2)^2+8>0\text{ luôn đúng}\\ m\ne -1\end{cases}$
$\to m\ne -1$
Khi đó $x_1, x_2$ là nghiệm của phương trình $x^2-mx-m-3$ thỏa mãn
$\begin{cases}x_1+x_2=m\\x_1x_2=-m-3\end{cases}$
$\to x_1x_2=-(x_1+x_2)-3$
$\to x_1+x_2+x_1x_2=-3$
$\to x_1+x_2+x_1x_2+1=-2$
$\to (x_1+1)(x_2+1)=-2$
$\to (x_1+1)^2(x_2+1)^2=4$
Ta có:
$P=\dfrac1{(x_1+1)^4}+\dfrac1{(x_2+1)^4}+\dfrac1{(x_3+1)^4}$
$\to P\ge \dfrac{2}{(x_1+1)^2(x_2+1)^2}+\dfrac1{(1+1)^4}$
$\to P\ge \dfrac{2}{4}+\dfrac1{16}$
$\to P\ge \dfrac9{16}$
Dấu = xảy ra khi $(x_1+1)^2=(x_2+1)^2\to x_1+1=-(x_2+1)$ vì $x_1\ne x_2$
$\to x_1=-x_2-2$
$\to x_1+x_2=-2$
$\to m=-2$
