Lời giải:

Ta sẽ CM BĐT trung gian sau:

\(P\geq \frac{x^2}{x+y}+\frac{y^2}{y+z}+\frac{z^2}{z+x}\)

\(\Leftrightarrow x^2\left ( \frac{1}{y+z}-\frac{1}{x+y} \right )+y^2\left ( \frac{1}{x+z}-\frac{1}{z+y} \right )+z^2\left ( \frac{1}{x+y}-\frac{1}{z+x} \right )\geq 0\)

\(\Leftrightarrow x^2(x^2-z^2)+y^2(y^2-x^2)+z^2(z^2-y^2)\geq 0\)

\(\Leftrightarrow (x^2-y^2)^2+(y^2-z^2)^2+(z^2-x^2)^2\geq 0\) (luôn đúng)

Giờ ta sẽ tìm min \(\frac{x^2}{x+y}+\frac{y^2}{y+z}+\frac{z^2}{z+x}\)

Hiển nhiên \(\sum \frac{x^2}{x+y}=\sum \frac{y^2}{x+y}\) nên

\(\frac{x^2}{x+y}+\frac{y^2}{y+z}+\frac{z^2}{z+x}=\frac{1}{2}\left(\frac{x^2+y^2}{x+y}+\frac{y^2+z^2}{y+z}+\frac{z^2+x^2}{z+x}\right)=A\)

Áp dụng BĐT Cauchy-Schwarz:

\(A\geq \frac{1}{2}\frac{(\sqrt{x^2+y^2}+\sqrt{y^2+z^2}+\sqrt{z^2+x^2})^2}{2(x+y+z)}=\frac{9}{x+y+z}\)

Áp dụng BĐT Cauchy: \(\sqrt{x^2+y^2}\geq \frac{x+y}{\sqrt{2}}\)

Tương tự với các số còn lại suy ra \(6\geq \sqrt{2}.(x+y+z)\Rightarrow x+y+z\leq 3\sqrt{2}\)

\(\Rightarrow A\geq \frac{3\sqrt{2}}{2}\) kéo theo \(P_{\min}=\frac{3\sqrt{2}}{2}\)

Dấu bằng xảy ra khi \(x=y=z=\sqrt{2}\)