Tiểu não cũng gồm hai thành phần cơ bản là chất trắng và chất xám. Chất xám làm thành lớp vỏ tiểu não và các nhân. Chất trắng nằm ở phía trong, là các đường dẫn truyền nối vỏ tiểu não và các nhân với các phần khác của hệ thần kinh (tủy sống, trụ não, não trung gian và bán cầu đại não).