Áp dụng bất đẳng thức (x+y+z)2≥3(xy+yz+zx),∀x,y,z∈Z ta có: (ab+bc+ca)2≥3abc(a+b+c)=9abc>0 ⇒ab+bc+ca≥3abc Ta có: (1+a)(1+b)(1+c)≥(1+3abc)2,∀a,b,c>0. Thật vậy: (1+a)(1+b)(1+c)=1+(a+b+c)+(ab+bc+ca)+abc≥ 1+33abc+33(abc)2+abc=(1+3abc)3 Khi đó P≤3(1+abc)2+1+3abc3abc=Q(1)
Đặt 6abc=t. Vì a, b, c > 0 nên \(0 Xét hàm số Q=3(1+t3)2+1+t2t2,t∈(0;1]
⇒Q′(t)=(1+t3)2(1+t2)2(t−1)(t5−1)≥0,∀t∈(0;1] Do hàm số đồng biến trên (0;1] nên Q=Q(t)≤Q(1)=65(2) Từ (1) và (2) suy ra P≤65 Vậy maxP=65, đạt được khi và chỉ khi: a = b = c =1.