$\begin{cases}2x-ay=b\\ax+by=1\end{cases}$
$⇔\begin{cases}2x=ay+b\\2ax+2by=2\end{cases}$
$⇔\begin{cases}2x=ay+b\\a.(ay+b)+2by=2\ (1)\end{cases}$
`(1)<=>a^2y+ab+2by=2`
`<=>(a^2+2b)y=2-ab` $\quad (2)$
Để hệ phương trình có vô số nghiệm thì $(2)$ có vô số nghiệm
$⇒\begin{cases}a^2+2b=0\\2-ab=0\end{cases}$
$⇔\begin{cases}2b=-a^2\\4-2ab=0\end{cases}$
$⇔\begin{cases}2b=-a^2\\4-a.(-a^2)=0\end{cases}$
$⇔\begin{cases}b=\dfrac{-a^2}{2}\\a^3=-4\end{cases}$
$⇔\begin{cases}b=\dfrac{-\sqrt[3]{16}}{2}\\a=-\sqrt[3]{4}\end{cases}$
$⇔\begin{cases}b=-\sqrt[3]{2}\\a=-\sqrt[3]{4}\end{cases}$
Vậy khi $a=-\sqrt[3]{4};b=-\sqrt[3]{2}$ thì hệ phương trình vô số nghiệm