a) $mx^2 + (2m-3)x + m -1 = 0$
Phương trình có hai nghiệm
$\to \begin{cases}m\ne 0\\\Delta \geq 0\end{cases}$
$\to \begin{cases}m\ne 0\\(2m-3)^2 - 4m(m-1) \geq 0\end{cases}$
$\to \begin{cases}m \ne 0\\9 - 8m\geq 0\end{cases}$
$\to \begin{cases}m \ne 0\\m \geq \dfrac98\end{cases}$
Với $x_1;\, x_2$ là hai nghiệm của phương trình
Áp dụng định lý Viète ta được:
$\begin{cases}x_1 + x_2 = \dfrac{3 -2m}{m}\\x_1x_2 = \dfrac{m-1}{m}\end{cases}$
Theo đề ta có:
$\dfrac{x_1}{x_2}+\dfrac{x_2}{x_1} = 2$
$\to x_1^2 + x_2^2 = 2x_1x_2$
$\to (x_1 + x_2)^2 - 4x_1x_2 = 0$
$\to \dfrac{(3-2m)^2}{m^2} - 4\cdot\dfrac{m-1}{m}= 0$
$\to (3 -2m)^2 - 4m(m-1) = 0$
$\to m =\dfrac{9}{8}$ (nhận)
Vậy $m =\dfrac98$
b) $3x -2\sqrt{x+1} = x-2\qquad (ĐK:\, x \geq -1)$
$\to x - \sqrt{x+1} + 1 = 0$
$\to x - \dfrac{(\sqrt{x +1} -1)(\sqrt{x+1} +1)}{\sqrt{x+1} +1} = 0$
$\to x -\dfrac{x}{\sqrt{x+1} + 1}=0$
$\to x\left(1 - \dfrac{1}{\sqrt{x+1} + 1}\right) = 0$
$\to \left[\begin{array}{l}x = 0\\\dfrac{1}{\sqrt{x+1} + 1} = 1\end{array}\right.$
$\to \left[\begin{array}{l}x = 0\\x = -1\end{array}\right.\quad (nhận)$
Vậy phương trình có tập nghiệm $S =\{-1;0\}$