Đáp án:
$S =\left\{\dfrac{-17 + 2\sqrt{22}}{3}\right\}$
Giải thích các bước giải:
$\quad \sqrt{x^2 - 2x -3} = 2x + 8\qquad (*)$
$ĐKXĐ: x^2 - 2x - 3 \geqslant 0\Leftrightarrow \left[\begin{array}{l}x \geqslant 3\\x \leqslant -1\end{array}\right.$
$(*)\Leftrightarrow \begin{cases}2x + 8 \geqslant 0\\x^2 - 2x - 3 = (2x+8)^2\end{cases}$
$\Leftrightarrow \begin{cases}x \geqslant -4\\3x^2 + 34x + 67 = 0\end{cases}$
$\Leftrightarrow \begin{cases}x \geqslant -4\\x = \dfrac{-17 \pm 2\sqrt{22}}{3}\end{cases}$
$\Leftrightarrow x = \dfrac{-17 + 2\sqrt{22}}{3}$ (nhận)
Vậy $S =\left\{\dfrac{-17 + 2\sqrt{22}}{3}\right\}$