Đáp án đúng: A
Giải chi tiết:a) Giải phương trình \({{x}^{4}}-3{{x}^{2}}+\frac{1}{{{x}^{4}}}-\frac{3}{{{x}^{2}}}-2=0\)
 ĐK: \(x\ne 0\)
\(\begin{align}  & \,\,\,\,\,{{x}^{4}}-3{{x}^{2}}+\frac{1}{{{x}^{4}}}-\frac{3}{{{x}^{2}}}-2=0 \\  & \Leftrightarrow \left( {{x}^{4}}+\frac{1}{{{x}^{4}}} \right)-3\left( {{x}^{2}}+\frac{1}{{{x}^{2}}} \right)-2=0 \\ \end{align}\)
Đặt \(t={{x}^{2}}+\frac{1}{{{x}^{2}}}\,\,\left( t\ge 2 \right)\Rightarrow {{t}^{2}}={{x}^{4}}+\frac{1}{{{x}^{4}}}+2\Rightarrow {{x}^{4}}+\frac{1}{{{x}^{4}}}={{t}^{2}}-2\)
Khi đó phương trình trở thành:
\({t^2} - 2 - 3t - 2 = 0 \Leftrightarrow {t^2} - 3t - 4 = 0 \Leftrightarrow \left[ \begin{array}{l}t = 4\,\,\left( {tm} \right)\\t = - 1\,\,\left( {ktm} \right)\end{array} \right.\)
\(t = 4 \Leftrightarrow {x^2} + \frac{1}{{{x^2}}} = 4 \Leftrightarrow {x^4} - 4{x^2} + 1 = 0 \Leftrightarrow \left[ \begin{array}{l}{x^2} = 2 + \sqrt 3 \\{x^2} = 2 - \sqrt 3 \end{array} \right. \Rightarrow \left[ \begin{array}{l}x = \pm \sqrt {2 + \sqrt 3 } \\x = \pm \sqrt {2 - \sqrt 3 } \end{array} \right.\,\,\left( {tm} \right)\)
Vậy tập nghiệm của phương trình là \(S=\left\{ \pm \sqrt{2+\sqrt{3}};\pm \sqrt{2-\sqrt{3}} \right\}\)
b) Giải hệ phương trình \(\left\{ \begin{align}  & x\sqrt{y}+y\sqrt{x}=6 \\  & {{x}^{2}}y+x{{y}^{2}}=20 \\ \end{align} \right.\)
ĐK: \(x\ge 0;\,\,y\ge 0\)
Dể dàng nhận thấy \(x=0\) hoặc \(y=0\) không thỏa mãn cả hai phương trình của hệ \(\Rightarrow x>0;y>0\)
\(\begin{array}{l}\left\{ \begin{array}{l}x\sqrt y + y\sqrt x = 6\\{x^2}y + x{y^2} = 20\,\,\left( * \right)\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}\sqrt {xy} \left( {\sqrt x + \sqrt y } \right) = 6\\xy\left( {x + y} \right) = 20\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}xy\left( {x + y + 2\sqrt {xy} } \right) = 36\,\,\,\,\left( 1 \right)\\xy\left( {x + y} \right) = 20\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\left( 2 \right)\end{array} \right.\\ \Leftrightarrow \frac{{x + y + 2\sqrt {xy} }}{{x + y}} = \frac{9}{5}\\ \Leftrightarrow 5\left( {x + y} \right) + 10\sqrt {xy} = 9\left( {x + y} \right)\\ \Leftrightarrow 5\sqrt {xy} = 2\left( {x + y} \right) \Rightarrow xy = \frac{4}{{25}}{\left( {x + y} \right)^2}\end{array}\)
Thay vào (2) ta có: \(\frac{4}{25}{{\left( x+y \right)}^{3}}=20\Rightarrow x+y=5\Rightarrow y=5-x\)
Thay vào (*) ta có:
\(\begin{array}{l}\,\,\,\,\,{x^2}\left( {5 - x} \right) + x{\left( {5 - x} \right)^2} = 20\\ \Leftrightarrow 5{x^2} - {x^3} + 25x - 10{x^2} + {x^3} = 20\\ \Leftrightarrow - 5{x^2} + 25x - 20 = 0 \Leftrightarrow \left[ \begin{array}{l}x = 4\,\,\left( {tm} \right)\\x = 1\,\,\left( {tm} \right)\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}\left\{ \begin{array}{l}x = 4\\y = 1\end{array} \right.\\\left\{ \begin{array}{l}x = 1\\y = 4\end{array} \right.\end{array} \right.\end{array}\)
Vậy nghiệm của hệ phương trình là \(\left( x;y \right)=\left( 4;1 \right)\) hoặc \(\left( x;y \right)=\left( 1;4 \right)\)  
Chọn A