a) Ta có
$x^2 + xy + x + y = 3$
$<-> x(x+y) + (x+y) = 3$
$<-> (x+1)(x+y) = 3 = 1.3 = (-1)(-3)$
TH1: $(x+1)(x+y) = 1.3$
Khi đó, ta có
$x + 1 = 1, x + y = 3$ hoặc $x + 1 = 3, x +y = 1$
Suy ra
$x = 0, y = 3$ hoặc $x = 2, y = -1$
TH2: $(x+1)(x+y) = (-1)(-3)$
Khi đó, ta có
$x+1 = -1, x+y = -3$ hoặc $x + 1 = -3, x + y = -1$
Suy ra
$x = -2, y = -1$ hoặc $x = -4, y = 3$
Vậy
$(x,y) \in \{(0,3), (2,-1), (-2,-1), (-4,3)\}$
b) Ta có
$xy + y + x = 6$
$<-> y(x+1) + (x+1) = 7$
$<-> (x+1)(y+1) = 7 = 1.7 = (-1)(-7)$
TH1: $(x+1)(y+1) = 1.7$
Khi đó, ta có
$x +1 = 1, y + 1 = 7$ hoặc $x +1 = 7, y + 1 = 1$
Suy ra
$x = 0, y = 6$ hoặc $x = 6, y = 0$
TH2: $(x+1)(y+1) = (-1)(-7)$
Khi đó, ta có
$x + 1 = -1, y + 1 = -7$ hoặc $x + 1 = -7, y + 1 = -1$
Suy ra
$x = -2, y = -8$ hoặc $x = -8, y = -2$
Vậy $(x,y) \in \{(0,6), (6,0), (-2,-8), (-8, -2)\}$.