Khi còn thiếu thời ông làm quan cho nhà Đinh dưới thời Đinh Tiên Hoàng, đến chức Thập đạo tướng quân. Năm 979, viên quan Đỗ Thích giết vua Đinh Tiên Hoàng và người con Đinh Liễn, người con thứ tên Đinh Toànnối ngôi lúc 6 tuổi, Lê Hoàn làm Nhiếp chính, xưng là Phó vương, nắm đại quyền triều đình. Nhà Tống lấy cớ Lê Hoàn chuyên quyền để phát binh xâm lược Đại Cồ Việt (thực ra đây chỉ là cái cớ, còn thực tế chiếu phát binh của vua Tống cho thấy nhà Tống muốn khôi phục sự cai trị của mình lên nước Việt giống như thời nhà Đường)
Trước tình thế đó, Đại tướng quân Phạm Cự Lạng đem binh sĩ vào cung làm binh biến, buộc Thái hậu họ Dương (tức mẹ Đinh Toàn) trao long cổn cho Phó vương Lê Hoàn. Sau khi lên ngôi, Lê Hoàn tự mình làm tướng đánh tan quân Tống, chém tướng Hầu Nhân Bảo, bắt sống tướng Quách Quân Biện, Triệu Phụng Huân đem về Hoa Lư, khiến cho Đại Cồ Việt thanh bình, bảo toàn được nền độc lập của đất nước.
Hiện nay, có những giả thiết cho rằng Lê Hoàn là chủ mưu vụ ám sát vua Đinh Tiên Hoàng để giành ngôi vua. Giả thuyết này đúng sai không rõ vì không có bằng chứng, nhưng việc Lê Hoàn là một vị vua giỏi và có nhiều đóng góp cho đất nước là điều không thể phủ nhận. Sau khi lên ngôi, Lê Hoàn thu được nhiều thành tích nổi bật trong việc cai trị, như việc phát triển nông nghiệp, mở trường học, tuyển dụng nhân tài và đánh bại Chiêm Thành, đánh dẹp các tộc người ở biên giới, khiến họ phải quy phục triều đình. Vì vậy, ông vẫn được sử sách đánh giá là một minh quân có công trong việc xây dựng đất nước và được nhân dân ca ngợi.
