Giải thích các bước giải:
Vì phương trình có nghiệm
$\to \Delta\ge 0$
$\to a^2-4(b+1)\ge 0$
Khi đó giả sử phương trình có $2$ nghiệm $x_1,x_2$
$\to \begin{cases}x_1+x_2=-a\\x_1x_2=b+1\end{cases}$
$\to \begin{cases}x_1+x_2=-a\\x_1x_2-1=b\end{cases}$
$\to a^2+b^2=(x_1+x_2)^2+(x_1x_2-1)^2$
$\to a^2+b^2=x_1^2+2x_1x_2+x_2^2+x_1^2x_2^2-2x_1x_2+1$
$\to a^2+b^2=x_1^2+x_2^2+x_1^2x_2^2+1$
$\to a^2+b^2=(x_1^2+1)(x_2^2+1)$
Vì $b\ne -1\to b+1\ne 0$
$\to$Phương trình $x^2+ax+b+1=0$ không có nghiệm $x=0$
$\to x_1\ge 1,x_2\ge 1$
$\to (x_1^2+1)(x_2^2+1)$ là hợp số
$\to a^2+b^2$ là hợp số
