Ta có: `f(x)=(x^2-1)*2x+ax+b`
`⇔f(x)=(x-1)(x+1)*2x+ax+b`
Theo đề ta có:
`+) f(x)` chia cho `(x-1)` dư `-3`
`⇒(x-1)(x+1)*2x+a(x-1)+b+a` chia cho `x-1` dư `-3`
`⇒b+a=-3(@)`
`+) f(x)` chia `(x+1)` dư `3`
`⇔(x-1)(x+1)*2x+a(x+1)-a+b` chia cho `(x+1)` dư `3`
`⇒b-a=3(@@)`
Từ: `(@)+(@@)⇒`$\left \{ {{a+b=-3} \atop {b-a=3}} \right.⇔\left \{ {{a=-3} \atop {b=0}} \right.$
Lại có: `f(x) = (x^2-1)*2x-3x+0`
`=2x^3-5x`
Vậy `f(x) = 2x^3-5x`