Đặt: $a=x^2+3x+1$
Khi đó phương trình đã cho trở thành:
$a.(a-4)-5$
$=a^2-4a-5$
$=a^2-5a+a-5$
$=(a^2-5a)+(a-5)$
$=a(a-5)+(a-5)$
$=(a-5)(a+1)$ $(1)$
Thay $a=x^2+3x+1$ vào $(1)$ ta được:
$(x^2+3x+1-5)(x^2+3x+1+1)$
$=(x^2+3x-4)(x^2+3x+2)$
$=(x^2+4x-x-4)(x^2+2x+x+2)$
$=[(x^2-x)+(4x-4)][(x^2+x)+(2x+2)]$
$=[x(x-1)+4(x-1)][x(x+1)+2(x+1)]$
$=(x-1)(x+4)(x+1)(x+2)$