x - y = 1 => x = y + 1
Biến đổi pt (2): (m + 1)( y+1) + my = m+2 <=> my + m + y + 1 + my = m+2 <=> 2my + y = 1 (trừ hai vế cho m + 1) <=> y ( 2m+1) = 1.
Để pt trên có nghiệm => 2m + 1 = 0 (công thức xác định nghiệm của pt bậc nhất) => m = -1/2.
=> y = 1 / 2m + 1
Thay vào pt(1) ta có: x = (1 / 2m + 1)+ 1 = 2m + 2 / 2m + 1 => Hệ có nghiệm duy nhất (x;y) = (2m+2/2m+1 ; 1/2m + 1)
Ta có: x^2 + y^2 = [(2m + 2)^2 + 1] / (2m+1)^2.
Do (2m+2)^2 >= 0 với mọi m => Tử số >= 1. (Tử = 1 khi 2m+2 = 0 => m = -1)
Thay m = -1 ta có x^2 + y^2 = 1, đó là GTNN.