\(\left\{\begin{matrix} \sqrt{x(x+6y-4)+(3y(3y-4)+8)}+2(x+y)=\sqrt{(x+y)^2+4(1-xy)}+2\\ \sqrt{3x-xy+22}-\sqrt{1-y}=x^2-2y+3 \end{matrix}\right.\)
+ Ta có (1) \(\Leftrightarrow \sqrt{(x+3y-2)^2+4}+(x+3y-2)=\sqrt{(y-x)^2+4}+(y-x)\)
+ Xét hàm \(f(t)=\sqrt{t^2+4}+t, t\in R\) Ta có \(f'(t)=\frac{t}{\sqrt{t^2+4}}+1\Leftrightarrow \frac{\sqrt{t^2+4+t}}{\sqrt{t^2+4}}>0\) , \(\forall t\in R\)
Suy ra f(t) đồng biến trên R.
+ Ta có (1) \(\Leftrightarrow f(x+3y-2)^2=f(y-x)\Leftrightarrow x+3y-2=y-x\Leftrightarrow y=1-x\)
+ Thế y = 1 - x vào (2) ta có: \(\sqrt{x^2+2x+22}-\sqrt{x}=x^2+2x+1\) (3). Với điều kiện \(x\geq 0\), ta có
(3) \(\Leftrightarrow (\sqrt{x^2+2x+22}-5)+(\sqrt{x}-1)=x^2+2x-3\)
\(\Leftrightarrow \frac{x^2+2x-3}{\sqrt{x^2+2x+22+5}}-\frac{x-1}{\sqrt{x}+1}=(x-1)(x+3)\)
\(\Leftrightarrow (x-1)\left [ \frac{1}{\sqrt{x}+1}+(x+3)\left ( 1-\frac{1}{\sqrt{x^2+2x+22+5}} \right ) \right ]=0\Leftrightarrow x=1\)
Vì với \(x\geq 0\) thì \(\frac{1}{\sqrt{x}+1}+(x+3)\left ( 1-\frac{1}{\sqrt{x^2+2x+22+5}} \right )> 0\)
\(x = 1 \Rightarrow y=0\). Vậy hệ phương trình có nghiệm (x; y) = (1; 0)