Giải thích các bước giải:
Để phương trình $x^2-mx+m-2=0$ có $2$ nghiệm
$\to\Delta\ge 0$
$\to m^2-4(m-2)\ge 0$
$\to m^2-4m+8\ge 0$
$\to (m-2)^2+4\ge 0$ luôn đúng
$\to$Phương trình luôn có $2$ nghiệm $x_1, x_2$ với mọi $m$
$\to \begin{cases}x_1+x_2=m\\x_1x_2=m-2\end{cases}$
Ta có:
$P=x_1x_2-x_1^2-x_2^2$
$\to P=3x_1x_2-(x_1^2+2x_1x_2+x_2^2)$
$\to P=3x_1x_2-(x_1+x_2)^2$
$\to P=3(m-2)-m^2$
$\to P=-(m-\dfrac32)^2-\dfrac{15}{4}\le -\dfrac{15}4$
$\to GTLN_P= -\dfrac{15}4$ khi đó $m=\dfrac32$
Không có $GTNN_P$
