Lời giải:
Bài toán chỉ đúng cho \(a,b>0\). Nếu tồn tại $2$ số âm thấy ngay nó không đúng.
Với điều kiện dương, BĐT cần CM tương đương với:
\((a^2+b^2+2ab)^5\geq 256(ab)^2(1+a^2+b^2+a^2b^2)\)
Đặt \(t=ab\Rightarrow 2t=2ab\leq a^2+b^2=2\Rightarrow 0< t\leq 1\)
Cần CM \((2t+2)^5\geq 256t^2(3+t^2)\Leftrightarrow (t+1)^5\geq 8t^2(t^2+3)\) \((\star)\)
Theo BĐT Cauchy thì \((t+1)^2\geq 4t\Rightarrow (t+1)^5\geq 4t(t+1)^3\)
Theo tính chất bắc cầu ta chỉ cần chỉ ra
\(4t(t+1)^3\geq 8t^2(t^2+3)\Leftrightarrow (t+1)^3\geq 2t(t^2+3)\)
\(\Leftrightarrow (t-1)^3\leq 0\) (luôn đúng do \(t\leq 1\) )
BĐT \((\star)\) được chứng minh. Bài toán hoàn tất
Dấu bằng xảy ra khi \(a=b=1\)