Đáp án: $(x,y)\in\{(3,5), (-8,-6)\}$
Giải thích các bước giải:
Ta có:
$x^2+2y^2-2xy+4x-3y-26=0$
$\to x^2-2x(y-2)+(y-2)^2+2y^2-3y-26-(y-2)^2=0$
$\to (x-y+2)^2+y^2+y-30=0$
$\to 4(x-y+2)^2+4y^2+4y-120=0$
$\to 4(x-y+2)^2+4y^2+4y=120$
$\to 4(x-y+2)^2+4y^2+4y+1=121$
$\to 4(x-y+2)^2+(2y+1)^2=121$
$\to 4(x-y+2)^2\le 121$
$\to -5\le x-y+2\le 5$
$\to (x-y+2)^2\le 25$
Vì $(x-y+2)^2$ là số chính phương
$\to (x-y+2)^2\in\{0,1,4,9,16,25\}$
$\to (2y+1)^2\in\{121,117,105,85,57,21\}$
Vì $(2y+1)^2$ là số nguyên tố
$\to \begin{cases}(x-y+2)^2=0\\(2y+1)^2=121\end{cases}$
$\to \begin{cases}x-y+2=0\\2y+1=\pm11\end{cases}$
$\to \begin{cases}x=y-2\\y=5\quad hoặc\quad y=-6\end{cases}$
$\to (x,y)\in\{(3,5), (-8,-6)\}$