Lời giải:
TH1 : Nếu \(a+b\geq 4\);
\(5ab+5bc+5ac=5ab+5(a+b)(3-a-b)=15(a+b)-5(a^2+b^2)-5ab\)
\(=15(a+b)-\frac{5}{2}(a+b)^2-\frac{5}{2}(a^2+b^2)\leq 15(a+b)-\frac{5}{2}(a+b)^2-\frac{5}{4}(a+b)^2\)
\(\Leftrightarrow 5(ab+bc+ac)\leq 15(a+b)-\frac{15}{4}(a+b)^2\leq 15(a+b)-15(a+b)=0\)
Mà \(3(abc+4)\geq 0\) vì \(abc\geq -4\)
Do đó ta có đpcm.
TH2: Nếu \(a+b\leq 4\)
Không mất tổng quát giả sử \(c=\min(a,b,c)\Rightarrow c\leq 1\Rightarrow a+b\geq 2\)
Đặt \(\left\{\begin{matrix} a+b=x\\ ab=y\end{matrix}\right.\)
Khi đó, \(c=3-(a+b)=3-x\). Bài toán chuyển về chứng minh:
\(3y(3-x)+12\geq 5y+5x(3-x)\)
\(\Leftrightarrow 5x^2+4y+12\geq 3xy+15x\)
\(\Leftrightarrow 3y(4-x)+3(x-1)(x-4)+2(x^2-4y)\geq 0\)
\(\Leftrightarrow 3(4-x)(y+1-x)+2(x^2-4y)\geq 0\)
\(\Leftrightarrow 3(4-a-b)(a-1)(b-1)+2(a-b)^2\geq 0\) \((1)\)
Đặt \(\left\{\begin{matrix} a-1=m\\ b-1=n\end{matrix}\right.\)
\((1)\Leftrightarrow 3(2-m-n)mn+2(m-n)^2\geq 0\)
\(\Leftrightarrow 2(m^2+n^2)+2mn-3mn(m+n)\geq 0\) \((\star)\)
Thấy rằng, \(m+n=a+b-2\geq 0\)
\(\bullet\)Nếu \(mn\leq 0\Rightarrow 3mn(m+n)\leq 0\)
\(\Rightarrow 2(m^2+n^2)+2mn-3mn(m+n)\geq 2(m^2+n^2)+2mn=m^2+n^2+(m+n)^2\geq 0\) , tức \((\star)\) đúng
\(\bullet\) Nếu \(mn\geq 0\)
Vì \(a+b\leq 4\Rightarrow m+n\leq 2\Rightarrow mn(m+n)\leq 2mn\)
Do đó, \(2(m^2+n^2)+2mn-3mn(m+n)\geq 2(m^2+n^2)+2mn-6mn=2(m-n)^2\geq 0\)
Tức \((\star)\) đúng.
Vậy \((\star)\) đúng, ta có đpcm.
Dấu bằng xảy ra khi \((a,b,c)=(2,2,-1)\) và hoán vị.
