a) Sử dụng phép chia đa thức ta có
$x^2 + ax + b = (x+a-1)(x+1) + b-a+1$
Do phép chia của f(x) cho $x+1$ dư 6 nên
$b-a + 1 = 6$ hay $b-a = 5$ (1)
Sử dụng tiếp phép chia đa thức ta có
$x^2 + ax + b = (x-2)(x+a+2) + b + 2a + 4$
Do phép chia của f(x) cho $x-2$ dư 3 nên
$b + 2a + 4 = 3$ hay $b + 2a = -1$ (2)
Giải hệ (1) và (2) ta có
$a = -2, b = 3$
Vậy $f(x) = x^2 - 2x + 3$
b) Ta có
$A = x(x-3) = x^2 - 3x$
$= x^2 - 2 . x. \dfrac{3}{2} + \dfrac{9}{4} - \dfrac{9}{4}$
$= (x-\dfrac{3}{2})^2 - \dfrac{9}{4} \geq -\dfrac{9}{4}$
Dấu "=" xảy ra khi $x - \dfrac{3}{2} = 0$ hay $x = \dfrac{3}{2}$
Vậy GTNN của A là $-\dfrac{9}{4}$ đạt được khi $x = \dfrac{3}{2}$