Đáp án đúng: D

Phương pháp giải:

Xét hiệu và biến đổi vế trái của bất đẳng thức về hằng đẳng thức, tổng hoặc tích của các biểu thức luôn đúng với \(a > b > 0\).Giải chi tiết:+) Xét đáp án A
\(\begin{array}{l}{a^3} - {b^3} > \left( {a - b} \right)\left( {{a^2} + {b^2}} \right)\\ \Leftrightarrow \left( {a - b} \right)\left( {{a^2} + ab + {b^2}} \right) > \left( {a - b} \right)\left( {{a^2} + {b^2}} \right)\\ \Leftrightarrow \left( {a - b} \right)\left( {{a^2} + ab + {b^2}} \right) - \left( {a - b} \right)\left( {{a^2} + {b^2}} \right) > 0\\ \Leftrightarrow \left( {a - b} \right)\left[ {\left( {{a^2} + ab + {b^2}} \right) - \left( {{a^2} + {b^2}} \right)} \right] > 0\\ \Leftrightarrow \left( {a - b} \right)\left( {{a^2} + ab + {b^2} - {a^2} - {b^2}} \right) > 0\\ \Leftrightarrow ab\left( {a - b} \right) > 0\end{array}\)
Vì \(a > b > 0\) nên \(\left\{ \begin{array}{l}a - b > 0\\\,ab > 0\end{array} \right.\)\( \Rightarrow ab\left( {a - b} \right) > 0\)
\( \Rightarrow \) BĐT \({a^3} - {b^3} > \left( {a - b} \right)\left( {{a^2} + {b^2}} \right)\) đúng với \(a > b > 0\)
\( \Rightarrow \) Đáp án A đúng.
+) Xét đáp án B
\(\begin{array}{l}a\left( {{a^2} + 3{b^2}} \right) > b\left( {{b^2} + 3{a^2}} \right)\\ \Leftrightarrow {a^3} + 3a{b^2} > {b^3} + 3{a^2}b\\ \Leftrightarrow {a^3} + 3a{b^2} - {b^3} - 3{a^2}b > 0\\ \Leftrightarrow {a^3} - 3{a^2}b + 3a{b^2} - {b^3} > 0\\ \Leftrightarrow {\left( {a - b} \right)^3} > 0\end{array}\)
Vì \(a > b > 0\) nên \(a - b > 0 \Rightarrow {\left( {a - b} \right)^3} > 0\).
\( \Rightarrow \) BĐT \(a\left( {{a^2} + 3{b^2}} \right) > b\left( {{b^2} + 3{a^2}} \right)\) đúng với \(a > b > 0\).
\( \Rightarrow \) Đáp án B đúng.
+) Xét đáp án C
\(\begin{array}{l}{a^2}\left( {a - 3b} \right) > {b^2}\left( {b - 3a} \right)\\ \Leftrightarrow {a^3} - 3{a^2}b > {b^3} - 3a{b^2}\\ \Leftrightarrow {a^3} - 3{a^2}b + 3a{b^2} - {b^3} > 0\\ \Leftrightarrow {\left( {a - b} \right)^3} > 0\end{array}\)
Vì \(a > b > 0\) nên \(a - b > 0 \Rightarrow {\left( {a - b} \right)^3} > 0\)
\( \Rightarrow \) BĐT \({a^2}\left( {a - 3b} \right) > {b^2}\left( {b - 3a} \right)\) đúng với \(a > b > 0\).
\( \Rightarrow \) Đáp án C đúng.
+) Xét đáp án D
\(\begin{array}{l}\left( {{a^3} - {b^3}} \right)\left( {{b^3} - 3{a^2}b + 3a{b^2} - {a^3}} \right) > 0\\ \Leftrightarrow \left( {a - b} \right)\left( {{a^2} + ab + {b^2}} \right)\left[ {\left( {{b^3} - {a^3}} \right) + 3ab\left( {b - a} \right)} \right] > 0\\ \Leftrightarrow \left( {a - b} \right)\left( {{a^2} + ab + {b^2}} \right)\left[ {\left( {b - a} \right)\left( {{b^2} + ab + {a^2}} \right) + 3ab\left( {b - a} \right)} \right] > 0\\ \Leftrightarrow \left( {a - b} \right)\left( {{a^2} + ab + {b^2}} \right)\left[ {\left( {b - a} \right)\left( {{b^2} + ab + {a^2} + 3ab} \right)} \right] > 0\\ \Leftrightarrow \left( {a - b} \right)\left( {{a^2} + ab + {b^2}} \right)\left( {a - b} \right)\left( { - {b^2} - ab - {a^2} - 3ab} \right) > 0\\ \Leftrightarrow {\left( {a - b} \right)^2}\left( {{a^2} + ab + {b^2}} \right)\left( { - {b^2} - 4ab - {a^2}} \right) > 0\end{array}\)
\(\begin{array}{l} \Leftrightarrow  - {\left( {a - b} \right)^2}\left( {{a^2} + ab + {b^2}} \right)\left( {{b^2} + 4ab + {a^2}} \right) > 0\\ \Leftrightarrow {\left( {a - b} \right)^2}\left( {{a^2} + ab + {b^2}} \right)\left( {{b^2} + 4ab + {a^2}} \right) < 0\end{array}\)
Vì \(a - b > 0\)\( \Rightarrow \left\{ \begin{array}{l}{\left( {a - b} \right)^2} > 0\\\left( {{a^2} + ab + {b^2}} \right) > 0\\\left( {{b^2} + 4ab + {a^2}} \right) > 0\end{array} \right.\)\( \Rightarrow {\left( {a - b} \right)^2}\left( {{a^2} + ab + {b^2}} \right)\left( {{b^2} + 4ab + {a^2}} \right) > 0\) với mọi \(a > b > 0\).
\( \Rightarrow \) BĐT \(\left( {{a^3} - {b^3}} \right)\left( {{b^3} - 3{a^2}b + 3a{b^2} - {a^3}} \right) > 0\) không đúng với \(a > b > 0\).
\( \Rightarrow \) Đáp án D không đúng.
Chọn D.