Ta có
$a^3 + b^3 + 3ab = 1$
$<-> (a+b)^3 - 3ab(a+b) + 3ab - 1 = 0$
$<-> (a+b)^3 - 1 -3ab(a+b-1) = 0$
$<-> (a+b-1)[(a+b)^2 + 1 + (a+b)]-3ab(a+b-1) = 0$
$<-> (a+b-1)(a^2 + b^2 +2ab + 1 + a + b - 3ab) = 0$
$<-> (a+b-1)(a^2 + b^2 - ab + a+b+1) = 0$
$<-> (a+b-1) (2a^2 + 2b^2 - 2ab + 2a + 2b + 2) = 0$
$<-> (a+b-1)[(a^2 -2ab + b^2) + (a^2 + 2a + 1) + (b^2 + 2b + 1)] = 0$
$<-> (a+b-1)[(a-b)^2 + (a+1)^2 + (b+1)^2] = 0$
Vậy ta có $a + b - 1 = 0$ hoặc
$(a-b)^2 + (a+1)^2 + (b+1)^2 = 0$
TH1: $a + b - 1 = 0$
Trong trường hợp này, ta suy ra ngay $P = 0$
TH2: $(a-b)^2 + (a+1)^2 + (b+1)^2 = 0$
Khi đó, ta có vế trái luôn lớn hơn hoặc bằng 0. Vậy để đẳng thức xảy ra thì
$a-b = 0, a = -1, b = -1$
Do đó $a = b = -1$
Vậy
$a^3 + 1 = b^3 + 1 = (-1)^3+1 = 0$
Do đó $P = 0$
Ở cả 2 trường hợp thì $P$ đều bằng 0.
