ĐK: $x \geq 1$ hoặc $x \leq -1$
Đặt $t = \log_{10} (x^2+1) \sqrt{x^2-1}$. Vậy $t \geq 0$.
Khi đó ptrinh tương đương vs
$$t^2 - mt\sqrt{2} + m + 4 = 0$$
Khi đó
$$\Delta = 2m^2 - 4(m+4) = 2(m^2 - 2m - 8)$$
Để ptrinh có 2 nghiệm thì $\Delta > 0$ hay
$$2(m^2 - 2m - 8) >0$$
Vậy $m>4$ hoặc $m<-2$.
Khi đó, ta có
$$t_1 = \dfrac{m\sqrt{2} - \sqrt{2m^2 - 4m - 16}}{2}, t_2 = \dfrac{m\sqrt{2} - \sqrt{2m^2 - 4m - 16}}{2}$$
TH1: $\log_{10} (x^2+1) \sqrt{x^2-1} = t_1$
Lấy 10 mũ 2 vế ta có
$$(x^2 + 1)^{\sqrt{x^2-1}} = 10^{t_1}$$
Theo đề bài ta có
$$(1+1)^{\sqrt{1-1}} \leq (x^2 + 1)^{\sqrt{x^2-1}} \leq (3^2+1)^{\sqrt{3^2-1}}$$
$$<-> 1 \leq 10^{t_1} \leq 10^{2\sqrt{2}}$$
$$<->0 \leq t_1 \leq 2\sqrt{2}$$
$$<-> 0 \leq \dfrac{m\sqrt{2} - \sqrt{2m^2 - 4m - 16}}{2} \leq 2\sqrt{2}$$
$$<->0 \leq m - \sqrt{m^2 - 2m - 8} \leq 4$$
Giải từng vế ta có $m \geq 4$ hoặc $ m \geq 0$.
Vậy $m = 4, 5$.
TH2: $\log_{10} (x^2+1) \sqrt{x^2-1} = t_2$
Giải tương tự ta có
$$ 0 \leq \dfrac{m\sqrt{2} + \sqrt{2m^2 - 4m - 16}}{2} \leq 2\sqrt{2}$$
Vậy $m \leq -\dfrac{12}{5}$ hoặc $ m \leq -4$
Vậy $m = -4, -5$.
Ghép thêm ddkien ban đầu thì các giá trị của $m$ thỏa mãn đề bài là $m = -4, -5, 5$.