Cách giải:
$a,$ Dự đoán x=y
$→(x+1)^2+(y+1)^2+(x-y)^2=1+1+0$(do ta dự đoán x=y)
$→\begin{cases}(x+1)^2=1\\(y+1)^2=1\\(x-y)^2=0\\\end{cases}$
$→\begin{cases}x+1=1\\y+1=1\\x=y\\\end{cases}$
$→\begin{cases}x=0\\y=0\\x=y\\\end{cases}$
Vậy $(x,y)=(0,0)$
$b,(x^2-8)(x^2+1)>0$
Vì $x^2 \geq 0$
$→x^2+1 \geq 1>0$
$→x^2-8>0$
$→x^2>8$
$→\left[ \begin{array}{l}x>2\sqrt{2}\\x<-2\sqrt{2}\end{array} \right.$
