$(1+mx)^n=\sum\limits_{k=0}^n.C_n^k.m^k.x^k$
- Khi $k=1$, ta có:
$C_n^1.m=24$
$\Leftrightarrow mn=24$
- Khi $k=3$, ta có:
$C_n^3.m^3=1512$
$\Leftrightarrow \dfrac{n!}{3!(n-3)!}.m^3=1512$
$\Leftrightarrow n(n-1)(n-2).m^3=9072$
$\Leftrightarrow (n^3-3n^2+2n).m^3=9072$
$\Leftrightarrow (nm)^3-3(mn)^2m+2mn.m^2=9072$
Thay $mn=24$:
$24^3-3.24^2m+2.24m^2=9072$
$\Leftrightarrow 48m^2-1728m+4752=0$
$\Leftrightarrow m=33$ hoặc $m=3$
Mà $m, n$ là số tự nhiên nên $m=3; n=8$