Áp dụng bất đẳng thức \((x+y+z)^2\geq 3(xy+yz+zx),\forall x,y,z\in Z\) ta có: \((ab+bc+ca)^2\geq 3abc(a+b+c)=9abc>0\) \(\Rightarrow ab+bc+ca\geq 3\sqrt{abc}\) Ta có: \((1+a)(1+b)(1+c)\geq (1+\sqrt[3]{abc})^2, \forall a,b,c>0\). Thật vậy: \((1+a)(1+b)(1+c)=1+(a+b+c)+(ab+bc+ca)+abc\geq\) \(1+3\sqrt[3]{abc}+3\sqrt[3]{(abc)^2}+abc=(1+\sqrt[3]{abc})^3\) Khi đó \(P\leq \frac{2}{3(1+\sqrt{abc})}+\frac{\sqrt[3]{abc}}{1+\sqrt[3]{abc}}=Q(1)\)
Đặt \(\sqrt[6]{abc}=t\). Vì a, b, c > 0 nên \(0 Xét hàm số \(Q=\frac{2}{3(1+t^3)}+\frac{t^2}{1+t^2},t\in (0;1]\)
\(\Rightarrow Q'(t)=\frac{2(t-1)(t^5-1)}{(1+t^3)^2(1+t^2)}\geq 0, \ \forall t\in (0;1]\) Do hàm số đồng biến trên (0;1] nên \(Q=Q(t)\leq Q(1)=\frac{5}{6} \ (2)\) Từ (1) và (2) suy ra \(P\leq \frac{5}{6}\) Vậy \(maxP= \frac{5}{6}\), đạt được khi và chỉ khi: a = b = c =1.