Điều kiện: \(\left\{\begin{matrix} y^2+4y+2\geq 0\\ -2x^2-4x+10\geq 0 \end{matrix}\right.\) Áp dụng bất đẳng thức AM-GM ta có: \(y-6x+11=\sqrt{10-4x-x^2}=\frac{\sqrt{4(10-4x-2x^2)}}{2}\leq \frac{14-4x-2x^2}{4}\) Rút gọn ta được: \(4(y-6x+11)\leq 14-4x-2x^2\Leftrightarrow x^2-10x+2y+15\leq 0 \ (3)\) Tương tự phương trình (1) \(x^3+2x-2=\sqrt{-y^2-4y-2}\leq \frac{-y^2-4y-2}{2}\Leftrightarrow 2x^2+4x+y^2+4y-3\leq 0\) Cộng vế với vế của (3) và (4) ta được: \(3x^2-6x+y^2+6y+12\leq 0\Leftrightarrow 3(x-1)^2+(y+3)^2\leq 0\Leftrightarrow \left\{\begin{matrix} x=1\\ y=-3 \end{matrix}\right.\) Kết hợp với điều kiện đề bài, suy ra nghiệm hệ phương trình là \(S=(1;-3)\)