Đặt $P(x)=x^4 - 3x^3 + 3x^2 + ax + b$
Gọi $R = ax + b$ là phần dư của phép chia $P(x)$ cho $x^2 - 3x -4$
Ta có: $x^2 - 3x - 4 = (x +1)(x -4)$
$P(x) \quad \vdots \quad x^2 - 3x - 4$
$\to R = 0$
Áp dụng định lý Bézout ta được:
$\quad \begin{cases}R = P(-1)\\R = P(4)\end{cases}$
$\to \begin{cases}(-1)^4 - 3.(-1)^3 + 3.(-1)^2+ a(-1) + b = 0\\4^4 - 3.4^3 + 3.4^2 + a.4 + b = 0\end{cases}$
$\to\begin{cases}- a + b = -1\\4a + b = -112\end{cases}$
$\to \begin{cases}a = -\dfrac{111}{5}\\b = -\dfrac{116}{5}\end{cases}$