Lời giải:
 câu a)
 Lấy điểm $I,J$ thỏa mãn: \(\left\{\begin{matrix} 2\overrightarrow{IA}+\overrightarrow{IB}=\overrightarrow{0}\\ \overrightarrow{JA}+\overrightarrow{IB}+\overrightarrow{JC}=\overrightarrow{0}\end{matrix}\right.\)
 Vì $A,B,C$ cố định nên $I,J$ cũng cố định.
 Ta có: 
 \(|2\overrightarrow{MA}+\overrightarrow{MB}|=|\overrightarrow{MA}+\overrightarrow{MB}+\overrightarrow{MC}|\)
 \(\Leftrightarrow |2\overrightarrow{MI}+2\overrightarrow{IA}+\overrightarrow{MI}+\overrightarrow{IB}|=|\overrightarrow{MJ}+\overrightarrow{JA}+\overrightarrow{MJ}+\overrightarrow{JB}+\overrightarrow{MJ}+\overrightarrow{JC}|\)
 \(\Leftrightarrow |3\overrightarrow {MI}|=|3\overrightarrow{MJ}|\Leftrightarrow |\overrightarrow{MI}|=|\overrightarrow{MJ}|\)
 Do đó tập hợp điểm M nằm trên đường trung trực của \(IJ\)
 câu b) 
 Lấy hai điểm $H,K$ thỏa mãn: \(\left\{\begin{matrix} 2\overrightarrow{HA}+\overrightarrow{HB}=\overrightarrow{0}\\ \overrightarrow{KA}+2\overrightarrow{KB}=\overrightarrow{0}\end{matrix}\right. \)
 Vì $A,B,C$ cố định nên $H,K$ cũng cố định.
 Ta có:
 \(|2\overrightarrow{MA}+\overrightarrow{MB}|=|\overrightarrow{MA}+2\overrightarrow{MB}|\)
 \(\Leftrightarrow |2\overrightarrow {MH}+2\overrightarrow{HA}+\overrightarrow{MH}+\overrightarrow{HB}|=|\overrightarrow{MK}+\overrightarrow{KA}+2\overrightarrow{MK}+2\overrightarrow{KB}|\)
 \(\Leftrightarrow |3\overrightarrow{MH}|=|3\overrightarrow{MK}|\Leftrightarrow |\overrightarrow{MH}|=|\overrightarrow{MK}|\)
 Do đó tập hợp điểm biểu diễn điểm $M$ nằm trên đường trung trực của $HK$