Bài này đề phải là :$a^2+4b^2$ nha !
Áp dụng BĐT Bunhiacopski cho bộ hai số ta có :
$[a^2+(2b)^2].[1^2+2^2] ≥ [a.1+2b.2]^2 $
$⇔ (a^2+4b^2).5 ≥ (a+4b)^2 = 9 $
$⇔a^2+4b^2 ≥ \frac{9}{5} $
Hay :$M ≥ \frac{9}{5}$
Dấu "=" xảy ra $⇔a=b=\frac{3}{5}$
Vậy : GTNN của $M=\frac{9}{5}$ tại $a=b=\frac{3}{5}$