Cho ba số thực không âm x, y, z. Tìm giá trị lớn nhất của biểu thức. \(\small P=\frac{4}{\sqrt{x^2+y^2+z^2+4}}-\frac{4}{(x+y)\sqrt{(x+2z)(y+2z)}}-\frac{5}{(y+z)\sqrt{(y+2x)(z+2x)}}\)
\((x+y)\sqrt{(x+2z)(y+2z)}\leq ^{AM-GM} (x+y)\frac{x+y+4z}{2}\) \(=\frac{x^2+y^2+2xy+4yz+4zx}{2}\leq 2(x^2+y^2+z^2) \ (1)\) Và \((y+z)\sqrt{(y+2x)(z+2x)}\leq ^{AM-GM}(y+z)\frac{y+z+4x}{2}\) \(= \frac{y^2+z^2+2yz+4zx+4xy}{2}\leq 2(x^2+y^2+z^2) \ (2)\) Thật vậy, với mọi \(x, y, z \geq 0\) ta luôn có: \((1)\Leftrightarrow (x-y)^2+2(x-z)^2+2(y-z)^2\geq 0\) \((2)\Leftrightarrow (y-z)^2+2(y-x)^2+2(z-x)^2\geq 0\) Khi đó biểu thức P trở thành \(P\leq \frac{4}{\sqrt{x^2+y^2+z^2+4}}-\frac{4}{2(x^2+y^2+z^2)}-\frac{5}{2(x^2+y^2+z^2)}\) \(\leq \frac{4}{\sqrt{x^2+y^2+z^2+4}}-\frac{9}{2(x^2+y^2+z^2)}\) Đặt \(t=\sqrt{x^2+y^2+z^2+4}\Rightarrow t> 2\) . Nên \(P\leq \frac{4}{t}-\frac{9}{2(t^2-4)}\) Xét hàm số \(y=f(t)= \frac{4}{t}-\frac{9}{2(t^2-4)}\) với t > 2 Có \(f'(t)= \frac{-4}{t^2}+\frac{9}{(t^2-4)^2}=\frac{(4-t)(4t^3+7t^2-4t-16)}{t^2(t^2-4)^2}\) Do t > 2 nên \(4t^3+7t^2-4t-16=4(t^3-4)+t(7t-4)>0\) Suy ra \(f'(t)=0\Leftrightarrow t=4\) Lập bảng biến thiên \(\Rightarrow P\leq \frac{5}{8}\) Vậy GTLN của P là \(\frac{5}{8}\Leftrightarrow x=y=z=2\)