Gọi số quyển sách ở ngăn 1 là x (quyển)
số quyển sách ở ngăn 2 là y (quyển) (x,y ∈N, y>10)
Vì số quyển sách ở ngăn 1 bằng $\frac{2}{3}$ số sách ở ngăn 2
⇒ Có phương trình $x=\frac{2}{3}y$
⇔$x-\frac{2}{3}y=0(1)$
Sau khi thêm 20 quyển vào ngăn 1 thì số sách ở ngăn 1 là x+20 (quyển)
Sau khi lấy bớt 10 quyển vào ngăn 2 thì số sách ở ngăn 2 là y-10 (quyển)
Vì nếu lấy bớt 10 quyển sách ở ngăn 2 và thêm 20 quyển sách ở ngăn 1 thì số sách ở ngăn 2 bằng $\frac{5}{6}$ số sách ở ngăn 1
⇒ Có phương trình $y-10=\frac{5}{6}(x+20)$
⇔ $y-10-\frac{5}{6}(x+20)=0$
⇔ $y-10-\frac{5}{6}x-\frac{50}{3}=0$
⇔ $-\frac{5}{6}x+y=\frac{50}{3}+10$
⇔ $-\frac{5}{6}x+y=\frac{80}{3}(2)$
Từ (1) và (2), có hệ phương trình
$\left \{ {{x-\frac{2}{3}y=0} \atop {-\frac{5}{6}x+y=\frac{80}{3}}} \right.$
⇔ $\left \{ {{\frac{3}{2}x-y=0} \atop {-\frac{5}{6}x+y=\frac{80}{3}}} \right.$
⇔ $\left \{ {{\frac{2}{3}x=\frac{80}{3}} \atop {\frac{3}{2}x-y=0}} \right.$
⇔ $\left \{ {{x=40} \atop {\frac{3}{2}.40-y=0}} \right.$
⇔ $\left \{ {{x=40} \atop {60-y=0}} \right.$
⇔$\left \{ {{x=40(TM)} \atop {y=60(TM)}} \right.$
Vậy số sách ban đầu của ngăn 1 là 40 quyển, số sách ban đầu ở ngăn 2 là 60 quyển