Giải thích các bước giải:

3 số đã cho lập thành một CSN nên 3 số đó lần lượt là  \(a;\,\,aq;\,\,a{q^2}\)

Theo giả thiết ta có hệ pt sau:

\(\begin{array}{l}
\left\{ \begin{array}{l}
a + aq + a{q^2} = 12\\
{a^2} + {a^2}{q^2} + {a^2}{q^4} = 91
\end{array} \right.\\
 \Leftrightarrow \left\{ \begin{array}{l}
a\left( {1 + q + {q^2}} \right) = 12\,\,\,\,\,\,\,\,\,\,\left( 1 \right)\\
{a^2}\left( {1 + {q^2} + {q^4}} \right) = 91\,\,\,\,\,\,\left( 2 \right)
\end{array} \right.\\
\left( 1 \right) \Leftrightarrow a = \frac{{12}}{{1 + q + {q^2}}}\\
\left( 2 \right) \Leftrightarrow {\left( {\frac{{12}}{{1 + q + {q^2}}}} \right)^2}\left( {1 + {q^2} + {q^4}} \right) = 91\\
 \Leftrightarrow \frac{{144\left( {1 + {q^2} + {q^4}} \right)}}{{1 + {q^2} + {q^4} + 2q + 2{q^3} + 2{q^2}}} = 91\\
 \Leftrightarrow 144{q^4} + 144{q^2} + 144 = 91\left( {{q^4} + 2{q^3} + 3{q^2} + 2q + 1} \right)\\
 \Leftrightarrow 53{q^4} - 182{q^3} - 129{q^2} - 182q + 53 = 0\\
 \Leftrightarrow 53{q^2} - 182q - 129 - \frac{{182}}{q} + \frac{{53}}{{{q^2}}} = 0\\
 \Leftrightarrow 53\left( {{q^2} + \frac{1}{{{q^2}}}} \right) - 182\left( {q + \frac{1}{q}} \right) - 129 = 0\\
 \Leftrightarrow 53\left[ {{{\left( {q + \frac{1}{q}} \right)}^2} - 2} \right] - 182\left( {q + \frac{1}{q}} \right) - 129 = 0\\
 \Leftrightarrow 53{\left( {q + \frac{1}{q}} \right)^2} - 182\left( {q + \frac{1}{q}} \right) - 235 = 0\\
 \Leftrightarrow \left[ \begin{array}{l}
q + \frac{1}{q} =  - 1\\
q + \frac{1}{q} = \frac{{235}}{{53}}
\end{array} \right.\\
 \Leftrightarrow \left[ \begin{array}{l}
{q^2} + q + 1 = 0\,\,\,\left( {vn} \right)\\
53{q^2} - 235q + 53 = 0
\end{array} \right.\\
 \Leftrightarrow q = ... \Rightarrow a = ....
\end{array}\)

Từ giả thiết ta có hệ phương trình : 

``$\begin{cases}u_1+u_2+u_3=12 \\u_1^2+u_2^2+u_3^2=91\end{cases}$

`⇔`$\begin{cases}u_1(1+q+q^2)=12 \\u_1^2(1+q^2+q^4)=91\end{cases}$

`⇔`$\begin{cases}u_1^2(1+q+q^2)^2=144 \\u_1^2(1+q^2+q^4)=91\end{cases}$

Lấy `(2)` chia cho `(1)` theo vế với vế ta được: `\frac{(1+q+q^2)^2}{1+q^2+q^4}=144/91`

`⇔91(q^4+q^2+1+2q^3+2q^2+2q)=144(1+q^2+q^4)`

`⇔53q^4-182q^3-129q^2-182q+53=0`

`⇔53q^2-182q-129-182/q+53/q^2=0` $(q\neq0)$

`⇔53(q^2+1/q^2)-182(q+1/q)-129=0`

Đặt `t=q+1/q⇒t^2=q^2+1/q^2+2⇒q^2+1/q^2=t^2-2`

Khi đó ta có:

`53(t^2-2)-182t-129=0`

`⇔53t^2-182t-235=0`

`⇔`\(\left[ \begin{array}{l}t=-1\\t=\frac{235}{53}\end{array} \right.\)

Với `t=-1⇒q+1/q=-1⇔q^2+q+1=0` $\text{(Vô nghiệm} )$

Với `t=235/53⇒q+1/q=235/53⇔q^2-235/53q+1=0⇔` \(\left[ \begin{array}{l}q=q_1≈4,2\\q=q_2≈0,23\end{array} \right.\)