Cách 1: GT \(\Leftrightarrow 25(a^{2}+b^{2}+c^{2})+48=9(a^{4}+b^{4}+c^{4})\) kết hợp với đẳng thức \(a^{4}+b^{4}+c^{4}\geq \frac{1}{3}(a^{2}+b^{2}+c^{2}),\) từ đó suy ra: \(25(a^{2}+b^{2}+c^{2})+48\geq 3(a^{2}+b^{2}+c^{2})^{2}\Leftrightarrow 3\leq a^{2}+b^{2}+c^{2}\leq \frac{16}{3}\)
Áp dụng bất đẳng thức AM - GM ta có: \(\frac{a^{2}}{b+2c}+\frac{(b+2c)a^{2}}{9}\geq \frac{2a^{2}}{3}\)
\(\frac{b^{2}}{c+2a}+\frac{(c+2a)b^{2}}{9}\geq \frac{2b^{2}}{3},\frac{c^{2}}{a+2b}+\frac{(a+2b)c^{2}}{9}\geq \frac{2c^{2}}{3}.\)
Khi đó \(P\geq \frac{2}{3}(a^{2}+b^{2}+c^{2})-\frac{1}{9}\left [ a^{2}(b+2c)+b^{2}(c+2a)+c^{2}(a+2b) \right ]\)
Mà \(a^{2}c+c^{2}b+b^{2}a\leq \frac{a^{3}+a^{3}+c^{3}}{3}+\frac{c^{3}+c^{3}+b^{3}}{3}+\frac{b^{3}+b^{3}+c^{3}}{3}=a^{3}+b^{3}+c^{3}\)
Suy ra: \(a^{2}(b+2c)+b^{2}(c+2a)+c^{2}(a+2b)\leq a^{3}+a^{2}b+a^{2}c+b^{3}+b^{2}c+b^{2}a+c^{3}+c^{2}b+c^{2}a=(a+b+c)(a^{2}+b^{2}+c^{2})\leq (a^{2}+b^{2}+c^{2})\sqrt{3(a^{2}+b^{2}+c^{2})}\)
Từ đó \(P\geq \frac{2}{3}(a^{2}+b^{2}+c^{2})-\frac{1}{9}(a^{2}+b^{2}+c^{2})\sqrt{3(a^{2}+b^{2}+c^{2})}\)
Đặt \(t=\sqrt{3(a^{2}+b^{2}+c^{2})}\Rightarrow 3\leq t\leq 4\)
Cho nên \(P\geq -\frac{1}{27}t^{3}+\frac{2}{9}t^{2}=f(t),t\in \left [ 3;4 \right ]\)
Xét hàm số \(f(t)=-\frac{1}{27}t^{3}+\frac{2}{9}t^{2},\forall t\in \left [ 3;4 \right ]\Rightarrow f'(t)=-\frac{t^{2}}{9}+\frac{4t}{9}=\frac{t(4-t)}{9}\geq 0\; \forall t\in \left [ 3;4 \right ]\)
\(\Rightarrow min_{t\in \left [ 3;4 \right ]}f(t)=f(3)=2.\frac{3^{2}}{9}-\frac{3^{3}}{27}=1\Rightarrow minP=min_{t\in \left [ 3;4 \right ]}f(t)=1\Leftrightarrow a=b=c=1\)
Cách 2: Ta có \(14x+2\geq 25x^{2}-9x^{4}(*),\forall x>0,"="\Leftrightarrow x=1\) thật vậy \((*)\Leftrightarrow 9x^{4}-25x^{2}+14x+2\geq 0\Leftrightarrow (x-1)^{2}(9x^{2}+18x+2)\geq 0\) luôn đúng. Vậy \(\left\{\begin{matrix} 14a+2\geq 25a^{2}-9a^{4}\\14b+2\geq 25b^{2}-9b^{4} \\14c+2\geq 25c^{2}-9c^{4} \end{matrix}\right.\Rightarrow 14(a+b+c)\geq 25(a^{2}+b^{2}+c^{2})-9(a^{4}+b^{4}+c^{4})=48\)
\(\Rightarrow a+b+c\geq 3,\) dấu bằng \(\Leftrightarrow a=b=c=1\)
Áp dụng bất đẳng thức Cauchy ta được
\(P=\frac{a^{2}}{b+2c}+\frac{b^{2}}{c+2a}+\frac{c^{2}}{a+2b}\geq \frac{(a+b+c)^{2}}{3(a+b+c)}=\frac{a+b+c}{3}\geq 1\)
Dấu bằng ⇔ a = b = c = 1. Vậy giá trị nhỏ nhất của P bằng 1 ⇔ a = b = c = 1