Từ đẳng thức đề bài cho ta có $b = 1-a$.
Khi đó a có
$M = a^3 + b^3 + 3ab(a^2 + b^2) + 6a^2 b^2(a+b)$
$= (a+b)(a^2 - ab + b^2) + 6a^2 b^2(a+b) + 3ab(a^2 + b^2)$
$= a^2 - ab + b^2 + 6a^2 b^2 + 3ab[(a^2 + b^2 + 2ab)-2ab]$
$= a^2 + b^2 +6a^2 b^2 -ab + 3ab(1-2ab)$
$= a^2 + b^2 +6a^2 b^2 -ab + 3ab - 6a^2 b^2$
$= a^2 + b^2 +2ab$
$= (a+b)^2 = 1^2 = 1$.