Đáp án đúng: C

Phương pháp giải:

Phương trình \(a{x^2} + bx + c = 0\,\,\,\,\left( {a \ne 0} \right)\) có hai nghiệm \({x_1},\,\,{x_2} \Leftrightarrow \Delta  \ge 0.\)
Khi đó theo hệ thức Vi-et ta có: \(\left\{ \begin{array}{l}{x_1} + {x_2} =  - \dfrac{b}{a}\\{x_1}{x_2} = \dfrac{c}{a}\end{array} \right..\)
Biến đổi biểu thức \(A = 4{x_1}{x_2} - x_1^2 - x_2^2\) dựa theo hệ thức Vi-et rồi tính giá trị.Giải chi tiết:Xét phương trình \(5{x^2} + 12x - 30 = 0\) ta có: \(\Delta ' = {\left( { - 6} \right)^2} - 5.\left( { - 30} \right) = 186 > 0\), do đó phương trình luôn có 2 nghiệm phân biệt \({x_1},\,\,{x_2}\).
Khi đó áp dụng hệ thức Vi-ét ta có: \(\left\{ \begin{array}{l}{x_1} + {x_2} =  - \dfrac{{12}}{5}\\{x_1}{x_2} = \dfrac{{ - 30}}{5} =  - 6\end{array} \right.\).
Theo bài ra ta có:
\(\begin{array}{l}A = 4{x_1}{x_2} - x_1^2 - x_2^2\\A = 4{x_1}{x_2} - \left( {x_1^2 + x_2^2} \right)\\A = 4{x_1}{x_2} - \left[ {{{\left( {{x_1} + {x_2}} \right)}^2} - 2{x_1}{x_2}} \right]\\A =  - {\left( {{x_1} + {x_2}} \right)^2} + 6{x_1}{x_2}\\A =  - {\left( { - \dfrac{{12}}{5}} \right)^2} + 6.\left( { - 6} \right)\\A =  - \dfrac{{144}}{{25}} - 36\\A =  - \dfrac{{1044}}{{25}}\end{array}\)
Vậy \(A = \dfrac{{ - 1044}}{{25}}\).
Chọn C.