Gọi số hàng mà học sinh khối 9 xếp như bình thường là x (x ∈ N*, hàng)
số học sinh trong một hàng là y (y ∈ N*, học sinh)
Nếu tăng thêm 2 hàng so với bình thường thì số hàng là x + 2 (hàng)
Nếu giảm mỗi hàng đi 3 bạn thì mỗi hàng sẽ có y - 3 (học sinh)
Nếu tăng thêm 2 hàng so với bình thường và mỗi hàng giảm đi 3 học sinh thì còn dư 6 bạn nên ta có pt:
(x + 2).(y - 3) = xy - 6
<=> xy - 3x + 2y - 6 = xy - 6
<=> -3x + 2y =0 (1)
Nếu giảm đi 3 hàng so với bình thường thì số hàng là x - 3 (hàng)
Nếu mỗi hàng tăng thêm 6 bạn thì mỗi hàng sẽ có y + 6 (học sinh)
Nếu xếp ít đi 3 hàng và mỗi hàng tăng thê 6 bạn so với bình thường thì vẫn còn 12 chỗ trống nên ta có pt:
(x - 3).(y + 6) = xy + 12
<=> xy + 6x -3y -18 = xy + 12
<=> 6x -3y = 30 (2)
Từ (1) và (2) => $\left \{ {{-3x+2y=0} \atop {6x-3y=30}} \right.$
<=> $\left \{ {{-6x+4y=0} \atop {6x-3y=30}} \right.$
<=> $\left \{ {{y=30} \atop {-3x+2y=0}} \right.$
<=> $\left \{ {{y=30(TMĐK)} \atop {x=20(TMĐK)}} \right.$
Vậy, số học sinh khối 9 của trường THCS là 20.30 = 600 (học sinh)