$x+y+xy=5$ (1)
$x^2+y^2+xy=8$
$\Leftrightarrow (x+y)^2-xy=8$ (2)
(1)+(2): $(x+y)^2+(x+y)-13=0$
$\Leftrightarrow (x+y)=\dfrac{-1\pm\sqrt{53}}{2}$
$\to xy=6-(x+y)=\dfrac{13-\sqrt{53}}{2}$ hoặc $xy=\dfrac{13+\sqrt{53}}{2}$
$M=x^3+y^3=(x+y)(x^2-xy+y^2)$
$=(x+y)[(x+y)^2-3xy]$
Thay lần lượt 2 cặp $(x+y; xy)$, ta có:
$M=\dfrac{59-7\sqrt{53}}{2}$ hoặc $M=\dfrac{-7-7\sqrt{53}}{2}$
