Ta có `a+b+ab=3`
` => a + b = 3-ab`
` => (a+b)^2 = (3-ab)^2 = a^2b^2 - 6ab + 9`
Lại có
`a^2 + b^2 = (a+b)^ 2 - 2ab` nên
` a^2 + b^2 = a^2b^2 - 6ab + 9 - 2ab = a^2b^2 - 8ab + 9 `
Ta có
` a^2b^2 - 8ab + 9 = a^2b^2 - 2.4.ab + 16 - 7 = (ab - 4)^2 - 7`
Vì `(ab - 2)^2 \geq 0` nên ` (ab - 4)^2 \geq -7`
hay ` a^2 + b^2 \geq -7`
Vậy GTNN của ` a^2 + b^2` là `-7`