Ngày xưa, giặc Minh sang xâm lược nước ta. Chúng đốt nhà, cướp của, giết người khiến nhân dân ta vô cùng khổ cực.
Thửa ấy, ở nước ta có ông Lê Lợi, thấy giặc Minh sang cướp nước ta, lại giết hại cả nhân dân ta thì vô cùng căm giận, bèn đứng lên chiêu mộ binh sĩ để đánh đuổi chúng.
Năm ấy, sau một trận đánh lớn, Lê Lợi đem quân về trú tại một làng nhỏ ở ven sông. Nhân lúc rỗi rãi, mấy người lính của Lê Lợi rủ nhau đi đánh cá ở một khúc sông sâu. Vừa thả một lúc, họ thấy mặt nước xao động. Đoán là có cá to mắc lưới, họ liền kéo lưới lên thì thấy trong lưới có một thanh gươm chuôi nạm ngọc rất đẹp. Một người lính lên tiếng:
-Không biết thanh gươm qúi này là của ai nhỉ ?
Người lính vừa dứt lời thì có tiếng nói ở dưới sông vọng lên:
-Thanh gươm đó là của ta.Ta cho Lê Lợi mượn để giết giặc Minh. Các ngươi hãy mang thanh gươm đó về dâng cho Lê Lợi.
Nghe thấy tiếng nói lạ, mấy người lính sợ hãi nhìn nhau. Người lính lớn tuổi nhất hỏi:
-Nhưng ngươi là ai ? Xin cho chúng tôi biết để chúng tôi còn về thưa lại với chủ tướng Lê Lợi.
Giọng nói lúc nãy lại từ mặt sông vọng lên, lần này rành rọt hơn:
-Ta là Long Quân. Lưỡi gươm ấy là gươm thần, ta cho Lê Lợi mượn để giết giặc Minh. Các ngươi hãy mang thanh gươm đó về dâng cho Lê Lợi.
Từ khi có thanh gươm thần, nghĩa quân Lê Lợi càng đánh càng mạnh, giặc Minh thua chạy tơi bời. Nhiều trận, quân giặc chết như rạ. Về sau, giặc Minh sợ quá, cả tướng lẫn quân phải kéo nhau ra xin đầu hàng. Nghĩa quân Lê Lợi đại thắng, Lê Lợi lên ngôi vua, nhân dân ta được sống thanh bình, yên vui.
Một năm sau, nhân ngày trời trong gió mát. Lê Lợi cùng các quan đi thuyền dạo chơi trên hồ Tả Vọng. Khi thuyền nhà vua vừa đến giữa hồ thì bỗng có một con rùa vàng rất to từ dưới nước nhô lên, hướng về phía thuyền nhà vua. Rùa vàng gật đầu ba cái chào vua Lê Lợi rồi nói:
-Xin nhà vua trả gươm cho Long quân.
Thoạt nghe Rùa vàng đòi gươm, Lê Lợi rất ngạc nhiên, nhưng sau nhớ lại thanh gươm mấy người lính đã dâng cho mình dạo nọ, Lê Lợi mới hiểu ra. Ông liền rút thanh gươm đeo bên mình ra khỏi vỏ. Thì lạ thay thanh gươm rời khỏi tay nhà vua, bay vụt về phía Rùa vàng. Nhanh như cắt Rùa vàng há miệng đớp lấy thanh gươm, gật đầu chào vua Lê Lợi rồi lặn xuống nước.
Từ đó, để tỏ lòng ghi nhớ công ơn của Long Quân đã cho mình mượn gươm thần giết giặc, Lê Lợi bèn đổi tên hồ Tả Vọng thành hồ Hoàn Kiếm.
Hoàn Kiếm nghĩa là trả lại gươm. Hồ này còn được gọi là Hồ Gươm.