Ta có: `f(x)=(x^2-1)*2x+ax+b`
`⇔f(x)=(x-1)(x+1)*2x+ax+b`
Theo đề ta có:
`+) f(x)` chia cho `(x-1)` dư `-3`
`⇒(x-1)(x+1)*2x+a(x-1)+b+a` chia cho `x-1` dư `-3`
`⇒b+a=-3(@)`
`+) f(x)` chia `(x+1)` dư `3`
`⇔(x-1)(x+1)*2x+a(x+1)-a+b` chia cho `(x+1)` dư `3`
`⇒b-a=3(@@)`
Từ: `(@)+(@@)⇒`{b−a=3a+b=−3⇔{b=0a=−3
Lại có: `f(x) = (x^2-1)*2x-3x+0`
`=2x^3-5x`
Vậy `f(x) = 2x^3-5x`