Mai Thúc Loan sinh vào năm Canh Ngọ (670) tại thôn Ngọc Trừng, Hoan Châu, nay thuộc huyện Nam Đàn, Nghệ An. Theo Việt điện u linh, cha của Mai Thúc Loan là Mai Hoàn, mẹ là Mai An Hòa nguyên gốc Thạch Hà, Hà Tĩnh, lưu lạc sang vùng Nam Đàn, Nghệ An.[3]
Theo sách Việt sử tiêu án, Mai Thúc Loan là người làng Hương Lãm, huyện Nam Đường, nay là thị trấn Nam Đàn, tỉnh Nghệ An, dân lập đền thờ ông ở thôn chợ Sa Nam.[2]
Năm Mai Thúc Loan 10 tuổi, mẹ đi lấy củi bị hổ vồ, ít lâu sau bố cũng mất. Ông được người bạn của cha là Đinh Thế đem về nuôi, sau gả con gái là Ngọc Tô cho. Sinh thời, Mai Thúc Loan vốn rất khỏe mạnh, giỏi đô vật, học rất giỏi và có chí lớn. Ông mở lò vật, lập phường săn, chiêu mộ trai tráng trong vùng mưu việc lớn. Vợ ông giỏi việc nông trang, nhờ đó "gia sản ngày một nhiều, môn hạ ngày một đông."