Đáp án:
$a) \left\{\begin{array}{l} a=-14 \\b=12\end{array} \right.\\ b) \left\{\begin{array}{l} a=-32 \\b=36\end{array} \right.$
Giải thích các bước giải:
$a) $Để đa thức $x^4+3x^3-17x^2+ax+b$ chia hết cho đa thức $x^2+5x-3$
$\Rightarrow (a+14)x+b-12=0 \ \forall \ x\\ \Leftrightarrow \left\{\begin{array}{l} a+14=0 \\b-12=0\end{array} \right.\Leftrightarrow \left\{\begin{array}{l} a=-14 \\b=12\end{array} \right.$
$b) $Để đa thức $x^5+7x^4+ax^2 +bx+72$ chia hết cho đa thức $x^3-2x^2+4$
$\Rightarrow (a+32)x^2+(b-36)x \ \forall \ x\\ \Leftrightarrow \left\{\begin{array}{l} a+32=0 \\b-36=0\end{array} \right.\Leftrightarrow \left\{\begin{array}{l} a=-32 \\b=36\end{array} \right.$