Tiểu não gồm hai thành phần cơ bản là chất trắng và chất xám.
Chất xám làm thành lớp vỏ tiểu não và các nhân.
Chất trắng nằm ở phía trong, là các đường dẫn truyền nối vỏ tiểu não và các nhân với các thành phần khác của hệ thần kinh ( tủy sống, trụ não, não trung gian và bán cầu não).