Áp dụng các tchat của hàm logarit ta biến đổi được thành
$\sqrt{\log_2^2 x-2\log_2 x - 3} = m(\log_2 x - 3)$
Đặt $t = \log_2 x$. Khi đó $t \geq 5$. Ptrinh trở thành
$\sqrt{t^2 - 2t - 3} = m(t-3)$
$<-> m = \dfrac{\sqrt{(t+1)(t-3)}}{t-3}$
$<-> m = \sqrt{\dfrac{t+1}{t-3}}$
Xét hso $y = \sqrt{\dfrac{t+1}{t-3}}$
Có $y' = -\dfrac{2}{(t-3)^2} . \sqrt{\dfrac{t-3}{t+1}} \geq 0$ với mọi $t$
$y' = 0$ khi $t-3 = 0$ hay $t = 3$.
Ta có
$\lim_{x -> +\infty} \sqrt{\dfrac{t+1}{t-3}} = \lim_{x-> + \infty} \sqrt{\dfrac{1+\dfrac{1}{t}}{1-\dfrac{3}{t}} = 1$
Khi $t = 5$ thì $y(5) = \sqrt{3}$.
Do đó với $t \geq 5$ thì $1 < y \leq 3$
Vậy để ptrinh có nghiệm thì $m \in (1, \sqrt{3}]$.
Vậy đáp án là A.