Đáp án: $(x,y)\in\{(-3-2\sqrt{5},-3+2\sqrt{5}),(-3+2\sqrt{5},-3-2\sqrt{5}),(1,2),(2,1)\}$
Giải thích các bước giải:
Từ hệ phương trình
$\to (x^2+y^2+x+y)+2(xy+x+y)=8+2\cdot 5$
$\to (x^2+y^2)+(x+y)+2xy+2(x+y)=18$
$\to (x^2+2xy+y^2)+3(x+y)=18$
$\to (x+y)^2+3(x+y)=18$
$\to (x+y)^2+6(x+y)-3(x+y)-18=0$
$\to (x+y-3)(x+y+6)=0$
$\to x+y\in\{3,-6\}$
Ta có $xy+x+y=5\to xy=5-(x+y)$
$\to xy\in\{2,11\}$
Nếu $x+y=3\to xy=2\to x,y$ là nghiệm của phương trình
$t^2-3t+2=0\to (t-1)(t-2)=0\to t\in\{1,2\}$
$\to (x,y)\in\{(1,2),(2,1)\}$
Nếu $x+y=-6\to xy=11\to x,y$ là nghiệm của phương trình
$t^2+6t-11=0\to t=-3\pm2\sqrt{5}$
$\to (x,y)\in\{(-3-2\sqrt{5},-3+2\sqrt{5}),(-3+2\sqrt{5},-3-2\sqrt{5})\}$
