Mùa xuân năm 542, Lý Bí phất cờ nổi dậy. Khởi nghĩa thành công nhanh chóng. Trong vòng chưa đầy 3 tháng, nghĩa quân đã chiếm được hầu hết các quận, huyện. Thứ sử Tiêu Tư run sợ, vội vã bỏ thành Long Biên (Yên Phong - Bắc Ninh) rút chạy về Trung Quốc. Lý Bí đem quân vào Long Biên, ổn định tình hình mọi mặt. Được tin Long Biên thất thủ, vua Lương lập tức hạ lệnh cho quân phản công chiếm lại. Bọn xâm lược vừa kéo sang đã bị Lý Bí cho quân mai phục đánh tan.
Đầu năm sau (543), vua Lương lại lệnh cho quân sang xâm lược lần nữa. Bọn tướng chỉ huy quân Lương lúc này vừa khiếp sợ, vừa mệt mỏi, đang còn dùng dằng chưa dám tiến quân, Lý Bí chủ động ra quân đón đánh địch ở bán đảo Hợp Phố (bấy giờ thuộc châu Giao). Quân Lương mười phần chết đến bảy, tám. Tướng địch bị giết gần hết, kẻ sống sót cũng bị vua Lương bắt phải tự tử.
Mùa xuân năm 544, sau khi đánh đuổi được quân đô hộ và đánh lùi hai lần phản công xâm lược của nhà Lương, Lý Bí tự xưng hoàng đế tức Lý Nam Đế. Lý Nam Đế lấy tên nước là Vạn Xuân (2), đặt kinh đô ở miền cửa sông Tô Lịch (Hà Nội) và cho dựng điện Vạn Thọ (3) làm nơi vua quan họp bàn việc nước. Triều đình gồm có hai ban văn võ. Phạm Tu được cử đứng đầu hàng quan võ, Tinh Thiều đứng đầu quan văn, Triệu Túc làm thái phó (chức quan cao, cột trụ của triều đình), Triệu Quang Phục là tướng trẻ, có tài, cũng được trọng dụng. Lý Nam Đế lại cho dựng một ngôi chùa đặt tên là chùa Khai Quốc (4).
