Nước hồ xanh ngắt quanh năm nên xưa hồ có tên là hồ Lục Thủy. Truyển thuyết kể rằng : Khi Lê Lợi khởi nghĩa ở Lam Sơn có tìm được lưỡi kiếm báu. Kiếm theo ông suốt 10 năm dài chống quân Minh xâm lược. Sau khi giành lại được thành Thăng Long, vua Lê có một buổi dạo thuyền chơi trên hồ, gặp rùa vàng nổi lên mặt nước. Vua rút kiếm chỉ cho quân sĩ thấy, thì con rùa đã nhảy lên đớp lấy thanh kiếm rồi lặn mất tăm. Vua cho là điẻm lành, đất nước có giặc, rùa thần cho mượn kiếm, nay đã thanh bình nên lấy lại. Bởi vậy đặt tên hồ là Hồ Hoàn Kiếm , gọi tắt là Hồ Gươm.
Rùa là một trong bốn vật linh (long, lân, quy, phượng) trong tâm thức văn hóa dân gian. Giống rùa quý này vẫn còn sinh sống trong lòng hồ, hằng năm, có đòi lần nhô lên mặt nước, thật hạnh phúc cho du khách nào nhìn thấy rùa nổi lên mặt hồ.
