$\vec{AM}=\dfrac{1}{5}\vec{AB}$
$=\dfrac{1}{5}\vec{AM}+\dfrac{1}{5}\vec{MB}$
$\Leftrightarrow \dfrac{4}{5}\vec{AM}=\dfrac{1}{5}\vec{MB}$
$\Leftrightarrow \dfrac{-4}{5}\vec{MA}=\dfrac{1}{5}\vec{MB}$
$\Leftrightarrow \vec{MA}=\dfrac{-1}{4}\vec{MB}$
$\to k=\dfrac{-1}{4}$