$\quad\begin{cases}mx-y=2m+1\\x-my=3\end{cases}$
$⇔\begin{cases}y=mx-2m-1\quad (1)\\x=my+3\quad (2)\end{cases}$
Thay (2) vào (1) ta có:
`(1)<=>y=m(my+3)-2m-1`
`<=>y=m^2 y +3m-2m-1`
`<=>(1-m^2)y=m-1`
`<=>(1-m)(1+m)y=m-1 \quad(3)`
`a)` Để hpt có 1 nghiệm duy nhất thì `(3)`có nghiệm duy nhất:
`=>(1-m)(1+m) \ne0<=>m \ne ±1`
Vậy `m \ne ±1` thì hpt có nghiệm duy nhất là:
$\begin{cases}x=my+3=-\dfrac{m}{1+m}+3\\y=\dfrac{m-1}{(1-m)(1+m)}=-\dfrac{1}{1+m}\end{cases}$
$⇔\begin{cases}x=\dfrac{2m+3}{1+m}\\y=-\dfrac{1}{1+m}\end{cases}$
`b)` Để hpt vô nghiệm thì `(3)` vô nghiệm:
$⇒\begin{cases}(1-m)(1+m)=0\\m-1 \ne 0\end{cases}$
$⇔\left\{\begin{matrix}\left[\begin{array}{l}m=1\\m=-1\end{array}\right.\\m\ne 1\end{matrix}\right.$ `=>m=-1`
Vậy `m=-1` thì hpt vô nghiệm.
`c)` Để hpt vô số nghiệm thì `(3)` vô số nghiệm.
$⇒\begin{cases}(1-m)(1+m)=0\\m-1=0\end{cases}$
$⇔\left\{\begin{matrix}\left[\begin{array}{l}m=1\\m=-1\end{array}\right.\\m=1\end{matrix}\right.$ `=>m=1`
Vậy `m=1` thì hpt vô số nghiệm: $\begin{cases}x=my+3\\y \in R\end{cases}$