Đặt: {X=x+1Y=y được hệ {(X−1)(Y2+6)=Y(X2+1)(1)(Y−1)(X2+6)=X(Y2+1)(2)
Lấy (1) + (2) vế theo vế thu gọn được: (X−35)2+(Y−25)2=21(3) Mặt khác (1) trừ (2) theo vế, thu gọn được: (X−Y)(X+Y−2XY+7)=0(4) ⇔[X=YX+Y−2XY+7=0 Trường hợp 1: X = Y thay vào (1) được: (X−1)(X2+6)=X(X2+1) ⇔X2−5X+6=0⇔[X=2X=3 Nên hệ đã cho có nghiệm: (x;y):(1;2);(2;3) Trường hợp 2: X+Y−2XY+7=0⇔(X−21)(Y−21)=415(5) Từ (3) và (5) đồng thời đặt: {a=X−35b=Y−25 ta được hệ: {a2+b2=21(a+2)(b+2)=415⇔{a2+b2=212ab+4(a+b)=−21 ⇔{(a+b)2+4(a+b)=0(a−b)2−4(a+b)=1⇔⎩⎨⎧[a+b=0a+b=−4(a−b)2−4(a+b)=1 ⇔[{a+b=0(a−b)2=1{a+b=−4(a−b)2=−15(loai) ⇔[{a=−21b=21{a=21b=−21 Suy ra các nghiệm: (X;Y) là (2;3) ; (3; 2) Nên hệ đã cho có nghiệm (x; y) là (1;3) ; (2;2) Đáp số: Nghiệm (x; y) là (1;2); (2;3); (1;3); (2;2)