Cả 2 đều là ptrinh đối xứng. Vậy ta sẽ giải bằng cách lấy một phtrinh trừ cho ptrinh còn lại
a) Lấy ptrinh trên trừ ptrinh dưới ta có
$x^2y - xy^2 = y^2 - x^2$
$<-> xy(x-y) +x^2 - y^2 = 0$
$<-> xy(x-y) + (x-y)(x+y) = 0$
$<-> (x-y)(xy + x + y) = 0$
Vậy $x = y$ hoặc $xy + x + y = 0$
TH1: $x = y$
Thay vào ptrinh trên ta có
$x^3 + 2 = x^2$
$<-> x^3 - x^2 + 2 = 0$
$<-> (x+1)(x^2+2) = 0$
Do $x^2 + 2 > 0$ nên ptrinh có nghiệm duy nhất là $x =-1$. Vậy $y = -1$.
TH2: $xy + x + y = 0$
Đẳng thức trên tương đương vs
$y = -\dfrac{x}{x+1}$
Thế vào ptrinh dưới ta có
$x. \dfrac{x^2}{(x+1)^2} + 2 = x^2$
$<-> x^3 + 2(x+1)^2 = x^2(x+1)^2$
$<-> x^3 + 2x^2 + 4x + 2 = x^2(x^2 + 2x + 1)$
$<-> x^4 +x^3 -x^2 - 4x - 2 = 0$
$<-> (x^2 + 2x + 2)(x^2 - x -1) = 0$
Ta có $x^2 + 2x + 2 = (x+1)^2 + 1 > 0$ với mọi $x$. Do đó
$x^2 - x -1 = 0$
Vậy $x = \dfrac{1 \pm \sqrt{5}}{2}$.
Với $x = \dfrac{1-\sqrt{5}}{2}$ thì ta có $y = \dfrac{1 + \sqrt{5}}{2}$
và $x = \dfrac{1 + \sqrt{5}}{2}$ thì $y = \dfrac{1 - \sqrt{5}}{2}$
Vậy $S = \left\{ (-1, -1), \left( \dfrac{1-\sqrt{5}}{2}, \dfrac{1 + \sqrt{5}}{2}\right), \left( \dfrac{1 + \sqrt{5}}{2}, \dfrac{1 - \sqrt{5}}{2} \right) \right\}$.