Gọi $M$ là trung điểm $BC$, kẻ đường $d$ sao cho $M\in d, d\bot (ABC)$
$\to d//A'G$
$\to d\subset (A'AG)$
$\Delta ABC$ vuông tại $A$ nên $M$ là tâm đường tròn ngoại $\Delta ABC$
$\to d$ là trục $\Delta ABC$
Qua trung điểm $I$ của $AA'$, kẻ trung trực $d'$
Trong $(A'AG)$, $d'\cap d=O\to O$ là tâm mặt cầu ngoại $A'ABC$
$BC=2a\to AM=\dfrac{BC}{2}=a$
Có $(ABB'A')\cap (ABC)=AB$, $CA\bot AB$
$\to \sin60^o=\dfrac{d(C,(ABB'A'))}{AC}$
$\to d(C,(ABB'A'))=\dfrac{3a}{2}$
$d(C,(ABB'A'))=2d(M,(ABB'A'))=3d(G,(ABB'A'))$
Xét khối chóp $A'ABG$
Kẻ $GH\bot AB, GK\bot A'H$
$\to d(G,(A'AB))=GK$
$\to GK=\dfrac{a}{2}$
Có $GH//AC(\bot AB)$
$\to HG=\dfrac{2}{3}.\dfrac{1}{2}AC=\dfrac{a\sqrt3}{3}$
$\dfrac{1}{HG^2}+\dfrac{1}{A'G^2}=\dfrac{1}{GK^2}$
$\to A'G=a$
$BC=2a\to AM=a\to AG=\dfrac{2a}{3}$
$\to AA'=\dfrac{a\sqrt{13}}{3}\to IA=\dfrac{a\sqrt{13}}{6}$
$\to \cos\widehat{A'AM}=\dfrac{AM}{AA'}=\dfrac{3}{\sqrt{13}}$
$\cos\widehat{OAM}=\dfrac{a}{R}\to \sin\widehat{OAM}=\dfrac{\sqrt{R^2-a^2}}{R}$
$\cos\widehat{ IAO}=\dfrac{ a\sqrt{13}}{6R}\to \sin\widehat{ IAO}= \dfrac{\sqrt{36R^2-12a^2}}{6R}$
Ta có:
$\dfrac{ a\sqrt{13 }}{6R}.\dfrac{ a}{R}- \dfrac{ \sqrt{36R^2-12a^2}.\sqrt{R^2-a^2}}{6R.R}=\dfrac{ 3}{\sqrt{13}}$ (giải tìm $R$)
