ĐK: $x \geq \dfrac{3}{2}$
Đặt $a = \sqrt{2x-3}, b = \sqrt{x+1}$, $a, b \geq 0$
Lại có
$2x-3 -(x+1) = x - 4$
Khi đó, ptrinh trở thành
$a - b = a^2 - b^2$
$<-> (a-b)(a+b) - (a-b) = 0$
$<-> (a-b)(a+b-1) = 0$
Vậy $a = b$ hoặc $a + b = 1$
TH1: $a = b$
Khi đó, ta có
$2x - 3 = x+1$
$<-> x = 4$ (thỏa mãn)\
TH2: $a + b = 1$
Khi đó, ptrinh trở thành
$\sqrt{2x-3} + \sqrt{x+1} = 1$
$<-> 3x-2 + 2\sqrt{(2x-3)(x+1)} = 1$
$<-> 2\sqrt{2x^2 -x -3} = 3-3x$
ĐK: $x \leq 1$. Bình phương 2 vế ta có
$4(2x^2 - x - 3) = 9(x^2 - 2x + 1)$
$<-> x^2 -14x +21 = 0$
Vậy $x = 7 + 2\sqrt{7}$ (loại) hoặc $x = 7 - 2\sqrt{7}$ (loại)
Vậy tập nghiệm của ptrinh $S = \{ 4\}$