Cho hai số thực dương a, b thỏa mãn \(a^4+b^4+\frac{1}{ab}\leq ab+2\). Tìm giá trị lớn nhất của biểu thức \(M=\frac{2}{1+a^2}+\frac{2}{1+b^2}-\frac{3}{1+2ab}\)
Đặt \(t =ab \Rightarrow t > 0\) Theo đề cho: \(a^4+b^4+\frac{1}{ab}\leq ab+2\geq 2a^2b^2+\frac{1}{ab}\) \(\Rightarrow t+2\geq 2t^2+\frac{1}{t}\Leftrightarrow \frac{1}{2}\leq t\leq 1\) Với \(a> 0,b> 0,ab \leq 1\) ta có: \(\frac{1}{1+a^2}+\frac{1}{1+b^2}\leq \frac{2}{1+ab}(*)\) \(\Leftrightarrow \frac{(a-b)^2(ab-1)}{(1+a)^2(1+b^2)(1+ab)}\leq 0\) (đúng)
Do đó \(M\leq \frac{4}{1+ab}-\frac{3}{1+2ab}\) Xét hàm số \(g(t)=\frac{4}{1+t}-\frac{3}{1+2t},\frac{1}{2}\leq t\leq 1\Rightarrow \underset{[\frac{1}{2};1]}{max} g(t)=g(\frac{1}{2})=\frac{7}{6}\) Vậy giá trị lớn nhất của M là \(\frac{7}{6}\) khi a = b = \(\frac{1}{\sqrt{2}}\)