Lời giải:
Em tưởng tượng, nếu pt \(y=(m^2-1)x^2-2(m+1)x-2>0\) có nghiệm thì luôn tồn tại ít nhất một điểm \(\)thuộc đồ thị $y$ nằm phía trên trục hoành. Còn nếu đồ thị của hàm số $y$ nằm hoàn toàn từ phần trục hoành đổ xuống thì BPT đã cho không có nghiệm.

Do đó ta sẽ đi tìm điều kiện của $m$ để \(y=(m^2-1)x^2-2(m+1)x-2\leq 0(*)\forall x\in\mathbb{R}\), loại bỏ chúng thì thu được $m$ còn lại thỏa mãn điều kiện đề bài.

=================--

+) Nếu \(m=-1\Rightarrow y=-2\leq 0\) (đúng)

+) Nếu \(m=1\Rightarrow y=-4x-2\leq 0\) không phải luôn đúng với mọi $x$

+) Nếu \(meq \pm 1; (*)\) là BPT bậc 2

Theo định lý về dấu của tam thức bậc 2, \((*)\) xảy ra khi mà:

\(\left\{\begin{matrix} m^2-1< 0\\ \Delta'=(m+1)^2+2(m^2-1)\leq 0\end{matrix}\right.\)

\(\Leftrightarrow \left\{\begin{matrix} -1< m< 1\\ (m+1)(3m-1)\leq 0\end{matrix}\right.\)

\(\Leftrightarrow -1< m\leq \frac{1}{3}\)

Từ các TH xét trên suy ra \((*)\Leftrightarrow -1\leq m\leq \frac{1}{3}\)

Do đó để BPT đã cho có nghiệm thì \(m< -1\) hoặc \(m> \frac{1}{3}\)