Đáp án đúng: D

Phương pháp giải:

- Gọi \(M\) là trung điểm của \(AB\). Xác định góc giữa hai mặt phẳng là góc giữa hai đường thẳng lần lượt thuộc hai mặt phẳng và cùng vuông góc với giao tuyến.
- Đổi \(d(G;\left( {ABB'A'} \right)\) sang \(d\left( {H;\left( {ABB'A'} \right)} \right)\).
- Xác định \(d\left( {H;\left( {ABB'A'} \right)} \right)\), sử dụng hệ thức lượng trong tam giác vuông để tính khoảng cách.Giải chi tiết:
Gọi \(M\) là trung điểm của \(AB\). Khi đó \(HM\) là đường trung bình của tam giác \(ABC\) nên \(HM//AC\).
Mà \(AC \bot AB\,\,\left( {gt} \right) \Rightarrow HM \bot AB\).
Ta có: \(\left\{ \begin{array}{l}AB \bot HM\\AB \bot B'H\end{array} \right. \Rightarrow AB \bot \left( {B'HM} \right) \Rightarrow AB \bot B'M\).
Khi đó ta có:  \(\left\{ \begin{array}{l}\left( {ABB'A'} \right) \cap \left( {ABC} \right) = AB\\B'M \subset \left( {ABB'A'} \right),\,\,B'M \bot AB\,\,\left( {cmt} \right)\\HM \subset \left( {ABC} \right),\,\,HM \bot AB\,\,\left( {cmt} \right)\end{array} \right.\)
\( \Rightarrow \angle \left( {\left( {ABB'A'} \right);\left( {ABC} \right)} \right) = \angle \left( {B'M;HM} \right) = \angle B'MH = {60^0}\).
Gọi \(I\) là hình chiếu của \(H\) trên \(B'M\). Khi đó ta có: \(\left\{ \begin{array}{l}HI \subset \left( {B'MH} \right)\\AB \bot \left( {B'MH} \right)\end{array} \right. \Rightarrow HI \bot AB\).
\(\left\{ \begin{array}{l}HI \bot AB\\HI \bot B'M\end{array} \right. \Rightarrow HI \bot \left( {ABB'A'} \right) \Rightarrow d\left( {H;\left( {ABB'A'} \right)} \right) = HI\).
Vì \(G\) là trọng tâm tam giác \(B'CC'\) nên \(\dfrac{{GB}}{{C'B}} = \dfrac{2}{3}\).
Ta có: \(GC' \cap \left( {ABB'A'} \right) = B\) nên \(\dfrac{{d\left( {G;\left( {ABB'A'} \right)} \right)}}{{d\left( {C';\left( {ABB'A'} \right)} \right)}} = \dfrac{{GB}}{{C'B}} = \dfrac{2}{3}\).
\( \Rightarrow d(G;\left( {ABB'A'} \right) = \dfrac{2}{3}d(C';\left( {ABB'A'} \right) = \dfrac{2}{3}d\left( {C;\left( {ABB'A'} \right)} \right)\) (do \(CC'//\left( {ABB'A'} \right)\)).
Lại có \(CH \cap \left( {ABB'A'} \right) = B\) nên \(\dfrac{{d\left( {C;\left( {ABB'A'} \right)} \right)}}{{d\left( {H;\left( {ABB'A'} \right)} \right)}} = \dfrac{{CB}}{{HB}} = 2\) \( \Rightarrow d\left( {C;\left( {ABB'A'} \right)} \right) = 2d\left( {H;\left( {ABB'A'} \right)} \right)\).
\( \Rightarrow d(G;\left( {ABB'A'} \right) = \dfrac{4}{3}d\left( {H;\left( {ABB'A'} \right)} \right) = \dfrac{4}{3}HI\).
Xét tam giác vuông \(B'HM\), ta có \(MH = \dfrac{{AC}}{2} = \dfrac{a}{2};\,B'H = HM.\tan {60^0} = \dfrac{{a\sqrt 3 }}{2}\).
Áp dụng hệ thức lượng trong tam giác vuông \(B'MH\) ta có: \(HI = \dfrac{{HM.B'H}}{{\sqrt {H{M^2} + B'{H^2}} }} = \dfrac{{\dfrac{a}{2}.\dfrac{{a\sqrt 3 }}{2}}}{{\sqrt {\dfrac{{{a^2}}}{4} + \dfrac{{3{a^2}}}{4}} }} = \dfrac{{a\sqrt 3 }}{4}\).
Vậy \(d(G;\left( {ABB'A'} \right) = \dfrac{4}{3}HI = \dfrac{4}{3}.\dfrac{{a\sqrt 3 }}{4} = \dfrac{{a\sqrt 3 }}{3}\).
Chọn D