Đáp án đúng: D

Phương pháp giải:

- Gọi \(M\) là trung điểm của \(AB\). Xác định góc giữa hai mặt phẳng là góc giữa hai đường thẳng lần lượt thuộc hai mặt phẳng và cùng vuông góc với giao tuyến.
- Đặt \(OO' = x\), áp dụng tỉ số lượng giác của góc nhọn trong tam giác vuông tính \(OM\) theo \(x\).
- Áp dụng định lí Pytago tính \(AM\) và suy ra \(AB\) theo \(x\), từ đó suy ra \(O'A = AB\).
- Áp dụng định lí Pytago trong tam giác vuông \(O'OA\) tìm \(x\).
- Thể tích khối trụ có chiều cao \(h\), bán kính đáy \(r\) là \(V = \pi {r^2}h\).Giải chi tiết:
Theo bài ra ta có \(\angle \left( {\left( {O'AB} \right);\left( {OAB} \right)} \right) = {60^0}\).
Gọi \(M\) là trung điểm của \(AB\) ta có \(\left\{ \begin{array}{l}AB \bot OM\\AB \bot O'M\end{array} \right.\) \( \Rightarrow \angle \left( {\left( {O'AB} \right);\left( {OAB} \right)} \right) = \angle \left( {O'M;OM} \right) = \angle O'MO = {60^0}\).
Đặt \(OO' = x\), xét tam giác vuông \(O'OM\) ta có \(OM = OO'.\cot {60^0} = \dfrac{x}{{\sqrt 3 }}\).
Áp dụng định lí Pytago trong tam giác vuông \(OAM\) ta có \(AM = \sqrt {O{A^2} - O{M^2}}  = \sqrt {25 - \dfrac{{{x^2}}}{3}} \).
\( \Rightarrow AB = 2AM = 2\sqrt {25 - \dfrac{{{x^2}}}{3}} \).
Vì \(\Delta O'AB\) đều nên \(O'A = AB = 2\sqrt {25 - \dfrac{{{x^2}}}{3}} \).
Áp dụng định líu Pytago trong tam giác vuông \(O'OA\) ta có:
\(\begin{array}{l}O'{A^2} = O'{O^2} + O{A^2}\\ \Leftrightarrow 4\left( {25 - \dfrac{{{x^2}}}{3}} \right) = {x^2} + 25\\ \Leftrightarrow 100 - \dfrac{{4{x^2}}}{3} = {x^2} + 25\\ \Leftrightarrow \dfrac{{7{x^2}}}{3} = 75 \Leftrightarrow x = \dfrac{{15\sqrt 7 }}{7}\end{array}\).
Vậy thể tích khối trụ là \(V = \pi {r^2}h = \pi {.5^2}.\dfrac{{15\sqrt 7 }}{7} = \dfrac{{375\sqrt 7 \pi }}{7}\).
Chọn D