\(y = \dfrac{{4{{\cot }^2}\left( {2x} \right) - \sqrt {3\left( {1 - {{\tan }^2}x} \right)} }}{{\tan x}}\)
Ta có
$\tan(2x) = \dfrac{2 \tan x}{1-\tan^2x}$
Vậy $\cot(2x) = \dfrac{1-\tan^2x}{2 \tan x}$
Thay vào phương trình ta có
$y = \dfrac{4 \dfrac{(1-\tan^2x)^2}{4 \tan^2x} - \sqrt{3(1-\tan^2x)}}{\tan x}$
ĐK: $\cot(2x) \neq 0$, $\tan x \neq 0$ và $\cos x \neq 0$ hay $x \neq \pi/4 + k\pi/2$ và $x \neq k\pi$ và $x \neq \pi/2 + k\pi$ và $\tan^2x \leq 1$ hay $-1 \leq \tan x \leq 1$.
Đặt $t = \tan x (-1 \leq t \leq 1$). Ta có
$y = \dfrac{(1-t^2)^2 - t^2 \sqrt{3(1-t^2)}}{t^3}$
$\Leftrightarrow y = \dfrac{1}{t^3} + t - \dfrac{2}{t} - \dfrac{\sqrt{3(1-t^2)}}{t}$
Khi đó,
$y' = \dfrac{-3}{t^4} + 1 + \dfrac{2}{t^2} - (\dfrac{-1}{t^2} \sqrt{3(1-t^2)} -\dfrac{3}{\sqrt{3(1-t^2)}}$
Xét phương trình $y'=0$ ta có
$\dfrac{3}{t^4} - 1 - \dfrac{2}{t^2} -\dfrac{1}{t^2} \sqrt{3(1-t^2)} -\dfrac{3}{\sqrt{3(1-t^2)}} = 0$
$\Leftrightarrow \dfrac{3}{t^4} - 1 - \dfrac{2}{t^2} - (\dfrac{3-3t^2}{t^2 \sqrt{3(1-t^2)}} + \dfrac{3}{\sqrt{3(1-t^2)}}) = 0 $
$\Leftrightarrow\dfrac{3 - t^4 - 2t^2}{t^4} - \dfrac{3-3t^2}{t^2 \sqrt{3(1-t^2)}} - \dfrac{3t^2}{t^2\sqrt{3(1-t^2)}}=0$
$\Leftrightarrow \dfrac{3 - t^4 - 2t^2}{t^4} - \dfrac{3t^2}{t^4 \sqrt{3-3t^2}} = 0$
$\Leftrightarrow(3 - t^4 - 2t^2)\sqrt{3(1-t^2)} - 3 = 0$
$\Leftrightarrow \sqrt{3(1-t^2)} = \dfrac{3}{3 - t^4 - 2t^2}$
$\Leftrightarrow3(1-t^2) = \dfrac{9}{t^{8} + 4t^6 - 2t^4 - 12t^2 + 9}$
$\Leftrightarrow 9 = (3-3t^2)(t^{8} + 4t^6 - 2t^4 - 12t^2 + 9)$
$\Leftrightarrow 3t^{10} + 9t^8 + 18t^6 + 30t^4 -63t^2 + 18 = 0$
Đặt $u = t^2 (0 \leq u \leq 1)$
Khi đó, phương trình trở thành
$3u^5 + 9u^4 -18u^3 -30u^2 + 63u -18 = 0$
