Cấu tạo một xương dài gồm có : - Hai đầu xương là mô xương xếp có các nan xương xếp theo kiểu vòng cung, tạo ra các ô trống chứa tủy đỏ. Bọc hai đầu xương là lớp sụn. - Đoạn giữa là thân xương. Thân xương hình ống, cấu tạo từ ngoài vào trong có: màng xương mỏng, tiếp đến là mô xương cứng, trong cùng là khoang xương. -Khoang xương chứa tủy xương, ở trẻ em là tủy đỏ ; ở người già tủy đỏ được thay bằng mô mỡ màu vàng nên gọi là tủy vàng.
Xương ngắn và xương dẹt không có cấu tạo hình ống, bên ngoài là mô xương cứng, bên trong lớp mô xương cứng là mô xương xốp gồm nhiều nan xương và nhiều hốc xương nhỏ (như mô xương xốp ở đầu xương dài) chứa tủy đỏ.