Lời giải:

Kéo dài $MG$ cắt $AC$ tại $T$ thì $T$ là trung điểm $AC$

\(\Rightarrow \overrightarrow{TA}+\overrightarrow{TC}=\overrightarrow{0}\)

Theo giả thiết của điểm M suy ra M nằm trên đoạn $AB$ sao cho \(MA=\frac{1}{2}MB\)

Theo tính chất đường trung tuyến suy ra

\(3\overrightarrow{GM}=2\overrightarrow{TM}=(\overrightarrow{TA}+\overrightarrow{AM})+(\overrightarrow{TC}+\overrightarrow{CM})\)

\(=(\overrightarrow{TA}+\overrightarrow{TC})+\overrightarrow{AM}+\overrightarrow{CM}\)

\(=\overrightarrow{AM}+\overrightarrow{CM}=\overrightarrow{AG}+\overrightarrow{GM}+\overrightarrow{CG}+\overrightarrow{GM}\)

\(\Leftrightarrow \overrightarrow{GM}=\overrightarrow{AG}+\overrightarrow{CG}=-(\overrightarrow{GA}+\overrightarrow{GC})\)

\(\Leftrightarrow \overrightarrow{GM}+\overrightarrow{GA}+\overrightarrow{GC}=\overrightarrow{0}\)

\(\Leftrightarrow \overrightarrow{GB}+\overrightarrow{BM}+\overrightarrow{GA}+\overrightarrow{GC}=\overrightarrow{0}\)

\(\Leftrightarrow \overrightarrow{GB}+\frac{2}{3}\overrightarrow{BA}+\overrightarrow{GA}+\overrightarrow{GC}=\overrightarrow{0}\)

\(\Leftrightarrow \overrightarrow{GB}+\frac{2}{3}(\overrightarrow{BG}+\overrightarrow{GA})+\overrightarrow{GC}=\overrightarrow{0}\)

\(\Leftrightarrow \frac{1}{3}\overrightarrow{GB}+\frac{5}{3}\overrightarrow{GA}+\overrightarrow{GC}=\overrightarrow{0}\)

\(\Leftrightarrow 5\overrightarrow{GA}+\overrightarrow{GB}+3\overrightarrow{GC}=\overrightarrow{0}\)

b)

\(\overrightarrow{IA}=k\overrightarrow{IB}\Leftrightarrow \overrightarrow{IA}-\overrightarrow{IB}=(k-1)\overrightarrow{IB}\)

\(\Leftrightarrow \overrightarrow{BA}=(k-1)\overrightarrow{IB}\)

Do đó : \(\overrightarrow {GI}=\overrightarrow{GB}+\overrightarrow{BI}=\overrightarrow{GB}-\overrightarrow{IB}\) \(=\overrightarrow{GB}-\frac{\overrightarrow{BA}}{k-1}\)

\(=\overrightarrow{GB}-\frac{\overrightarrow{BG}+\overrightarrow{GA}}{k-1}\)

\(=\frac{k}{k-1}\overrightarrow{GB}-\frac{1}{k-1}\overrightarrow{GA}\)

b)

Vì \(\overrightarrow{IA}=k\overrightarrow {IB}\Rightarrow I,A,B\) thẳng hàng

Mà $G$ là trọng tâm $ACM$ nên để $C,G,I$ thẳng hàng thì \(I\) là trung điểm của $AM$

Khi đó: \(\overrightarrow{IA}=\frac{1}{2}\overrightarrow{MA}=\frac{1}{6}\overrightarrow{BA}=\frac{1}{6}(\overrightarrow{BI}+\overrightarrow{IA})\)

\(\Leftrightarrow 5\overrightarrow{IA}=\overrightarrow{BI}\Leftrightarrow \overrightarrow{IA}=-\frac{1}{5}\overrightarrow{IB}\)

Vậy \(k=\frac{-1}{5}\)