\(\left\{\begin{matrix} \sqrt{x^2+x+1} - \sqrt{y^2-y+1} = \sqrt{x^2-xy+y^2}\ (1)\\ 4(x+1)(xy+y-1)-3x = \sqrt[3]{x^4-x^2} \ \ \ \ \ \ \ \ \ \ \ \ \ \end{matrix}\right. (I)\)
Ta có \((1) \Leftrightarrow \left\{\begin{matrix} x^2 + x+ 1 \geq y^2 - y + 1 \hspace{4,5 cm}\\ \left ( \sqrt{x^2 + x + 1} - \sqrt{y^2 - y + 1} \right )^2 = x^2 - xy + y^2 (2) \end{matrix}\right.\)
\((2) \Leftrightarrow xy + x - y +2 = 2\sqrt{x^2 + x + 1} . \sqrt{y^2 - y + 1}\)
\(\Leftrightarrow \left\{\begin{matrix} xy + x - y + 2 \geq 0 \hspace{5,3 cm}\\ (xy + x - y + 2)^2 = 4(x^2 + x + 1)(y^2 - y + 1) \ (3) \end{matrix}\right.\)
\((3) \Leftrightarrow (xy + x - y)^2 + 4(xy + x - y) + 4 = 4[(x^2 + x)(y^2 - y) + x^2 + x + y^2 - y + 1]\)
\(\Leftrightarrow (xy + x - y)^2 = 4[x^2y^2 - xy(x - y) + (x - y)^2]\)
\(\Leftrightarrow -3x^2y^2 + 6xy(x - y) - 3(x - y)^2 = 0\)
\(\Leftrightarrow -3(xy - x + y)^2 = 0 \Leftrightarrow xy + y = x\)
Do đó \((I) \Leftrightarrow \left\{\begin{matrix} x^2 + x + 1 \geq y^2-y + 1 \(^*) \hspace{1,8 cm}\\ xy + x - y + 2 \geq 0 \(^{**}) \hspace{2,5 cm}\\ xy + y = x \hspace{4,6 cm}\\ 4(x + 1)(x - 1) - 3x = \sqrt[3]{x^4 - x^2} \ (4) \end{matrix}\right.\)
Đặt \(t = \sqrt[3]{x^4 - x^2}\). Ta thấy x = 0 không phải là nghiệm của (4), do đó x ≠ 0. Suy ra
\(t^2 + tx + x^2 = \left ( t + \frac{x}{2} \right )^2 + \frac{3x^2}{4} > 0, \forall xeq 0\)
Do đó:
\((4) \Leftrightarrow 4x^2 - 3x - 4 = t \Leftrightarrow 4x^2 - 4x - 4 = t - x\)
\(\Leftrightarrow 4(x^2 - x - 1)(t^2 + tx + x^2) = t^3 - x^3 = x^4 - x^3 - x^2\)
\(\Leftrightarrow (x^2 - x - 1)(4t^2 + 4tx + 3x^2) = 0 \Leftrightarrow x^2 - x - 1 = 0\) \(\left (do\ (4t^2 + 4tx + 3x^2) = (2t + x)^2 + 2x^2 > 0, \forall xeq 0 \right )\)
\(\Leftrightarrow x = \frac{1\pm \sqrt{5}}{2}\)
\(x = \frac{1 - \sqrt{5}}{2} \Rightarrow \frac{3 - \sqrt{5}}{2} y = \frac{1 - \sqrt{5}}{2} \Rightarrow y = \frac{-1 - \sqrt{5}}{2}\) (loại vì không thỏa mãn (*)) \(x = \frac{1 + \sqrt{5}}{2} \Rightarrow \frac{3 + \sqrt{5}}{2} y = \frac{1 +\sqrt{5}}{2} \Rightarrow y = \frac{-1 + \sqrt{5}}{2}\) (thỏa mãn các điều kiện) Vậy hệ phương trình đã cho có nghiệm duy nhất \(\left ( \frac{1 + \sqrt{5}}{2}; \frac{-1 + \sqrt{5}}{2} \right )\).
