$\cot3x=\dfrac{\cos3x}{\sin3x}=\dfrac{4\cos^3x-3\cos x}{3\sin x-4\sin^3x}$
Chia cả tử và mẫu cho $\sin^3x$, ta được:
$\dfrac{4\cot^3x-3\cot x(1+\cot^2x)}{3(1+\cot^2x)-4}$
$=\dfrac{\cot^3x-3\cot x}{3\cot^2x-1}$ (công thức nhân ba với hàm $\cot$)
Đặt $t=\cot x$, phương trình trở thành:
$\dfrac{(t^3-3t)^2}{(3t^2-1)^2}-3t+2=0$
$\to t^6-6t^4+9t^2-(3t-2)(9t^2-6t+1)=0$
$\to t^6-6t^4+9t^2-(27t^3-18t^2+3t-18t^2+12t-2)=0$
$\to t^6-6t^4+9t^2-27t^3+36t^2-15t+2=0$
$\to t^6-6t^4-27t^3+45t^2-15t+2=0$
Sai đề. Khi nhân ba $\cot3x$ sẽ xuất hiện $\cot^3x$, do đó bình phương lên, phương trình ẩn $t$ có bậc $6$.
