Từ ptrinh đầu ta suy ra $x + 2y + 1 = 0$ hoặc $x + 2y + 2 = 0$
TH1: $x + 2y + 1 = 0$
Suy ra $x = -2y - 1$
Thay vào ptrinh sau ta có
$y(-2y-1) + y^2 + 3y + 1 = 0$
$<-> -y^2 -2y + 1 = 0$
$<-> y^2 + 2y - 1 = 0$
Vậy $y = -1 \pm \sqrt{2}$
Suy ra $x = 1 \mp 2\sqrt{2}$.
TH2: $x + 2y + 2 = 0$
Suy ra $x = -2y - 2$
THay vào ptrinh sau ta có
$y(-2y-2) + y^2 + 3y + 1 = 0$
$<-> -y^2 +y + 1 = 0$
$<-> y^2 - y - 1 = 0$
Vậy $y = \dfrac{1 \pm \sqrt{5}}{2}$
Suy ra $x = -3 \mp \sqrt{5}$
Vậy tập nghiệm $S = \left\{ \left( -3 - \sqrt{5}, \dfrac{1 + \sqrt{5}}{2} \right), \left( -3 + \sqrt{5}, \dfrac{1 - \sqrt{5}}{2} \right), (1 + 2\sqrt{2}, -1-2\sqrt{2}), (1 - 2\sqrt{2}, -1+2\sqrt{2}) \right\}$
