Giả sử $x_1,x_2$ là hai nghiệm nguyên dương của phương trình đã cho.
Khi đó, áp dụng định lý Viete ta có: \(\left\{\begin{matrix} x_1+x_2=-a\\ x_1x_2=b+1\end{matrix}\right.\)
\(\Rightarrow \left\{\begin{matrix} x_1+x_2=-a\\ x_1x_2-1=b\end{matrix}\right.\)
\(\Rightarrow a^2+b^2=(x_1+x_2)^2+(x_1x_2-1)^2\)
hay \(a^2+b^2=x_1^2+x_2^2+2x_1x_2+x_1^2x_2^2-2x_1x_2+1\)
\(=x_1^2+x_2^2+x_1^2x_2^2+1=(x_1^2+1)(x_2^2+1)\)
Vì \(x_1,x_2\in\mathbb{Z}^+\Rightarrow x_1^2+1,x_2^2+1\geq 2\)
Do đó: \(a^2+b^2=(x_1^2+1)(x_2^2+1)\) là hợp số.
