$\triangle ABC$ vuông cân tại $A$
$\Rightarrow \begin{cases}AB = AC\\BC = AB\sqrt2 = AC\sqrt2\end{cases}$
a) Từ $M$ kẻ $MP\perp AB;\ MQ\perp AC\ \ (P\in AB;\ Q\in AC)$
Xét tứ giác $APMQ$ có:
$\widehat{A} = \widehat{P} = \widehat{Q} = 90^\circ$
$\Rightarrow APMQ$ là hình chữ nhật
$\Rightarrow \begin{cases}AP = QM\\AQ = PM\\MA = PQ\end{cases}$
Ta có:
$\quad MB^2 + MC^2$
$= PB^2 + PM^2 + QC^2 + QM^2$
$= (AB - AP)^2 + (AC - AQ)^2 + (PM^2 + QM^2)$
$= (AB^2 -2AB.AP + AP^2) + (AC^2 - 2AC.AQ + AQ^2) + PQ^2$
$ = (AB^2 + AC^2) - 2(AB.AP + AC.AQ) + (AP^2 + AQ^2) + PQ^2$
$= 2AB^2 - 2(AB.AP +AB.PM) + PQ^2 + PQ^2$
$= 2AB^2 - 2AB(AP +PM) + 2PQ^2$
$= 2AB^2 - 2AB^2 + 2MA^2$
$= 2MA^2$
b) Gọi $H$ là chân đường vuông góc kẻ từ $A$ lên $BC$
$\Rightarrow \begin{cases}AH\perp BC\\AH = \dfrac12BC = \dfrac{AB\sqrt2}{2} = \sqrt2\ cm\end{cases}$
Ta có:
$\quad MA^2 + MB^2 + MC^2$
$= MA^2 + 2MA^2$
$= 3MA^2$
Ta lại có:
$\quad MA \geqslant AH\ \ $ (mối quan hệ đường xiên - đường xuông góc)
$\Leftrightarrow 3MA^2 \geqslant 3AH^2 = 3\cdot \left(\sqrt2\right)^2 = 6$
Dấu $=$ xảy ra $\Leftrightarrow M\equiv H \Leftrightarrow M$ là chân đường vuông góc kẻ từ $A$ lên $BC$
Vậy $MA^2 + MB^2 + MC^2$ nhỏ nhất là $6$ khi $M$ là chân đường vuông góc kẻ từ $A$ lên $BC$