Đáp án:
$\max M = 6 \Leftrightarrow a = b = 1$
Giải thích các bước giải:
Ta có:
$\quad 2ab \leqslant a^2 + b^2$
mà $a^2 + b^2 \leqslant 2$
nên $2ab\leqslant 2$
hay $ab \leqslant 1$
Áp dụng bất đẳng thức $Cauchy-Schwarz$ ta được:
$\quad a\sqrt{3b(a+2b)} + b\sqrt{3a(b+2a)}\leqslant \sqrt{(a^2 + b^2)[3b(a+2b) + 3a(b+2a)]}$
$\Leftrightarrow M \leqslant \sqrt{(a^2 + b^2)(6ab + 6a^2 + 6b^2)}$
$\Leftrightarrow M \leqslant \sqrt{2.(6 + 6.2)}$
$\Leftrightarrow M\leqslant 6$
Dấu $=$ xảy ra $\Leftrightarrow a = b = 1$
Vậy $\max M = 6 \Leftrightarrow a = b = 1$
