内岛建有龟塔（Thap Rua），塔身小巧玲珑，顶端有一颗星。湖中心还是独柱寺和玉山寺。玉山寺内供奉着关帝、兴道王和文昌帝君三圣。玉山寺门外建有一座5层石塔，塔顶状似毛笔，大门由4根笔状石柱构成，寓意“金榜题名”，有汉字对联“临水登山一路渐入佳境，寻源访古此中无限风光”。

关于还剑湖的传奇虽然众说纷云，但每种传说都不脱李太祖获得神剑的经过及他使用这把神剑抵抗明朝的侵略（1418－1428年）的过程，这故事听起来就像越南版亚瑟王传奇。当李太祖终于推翻明朝的统治后，便驾着小舟来到还剑湖的湖心，将神剑还给神龟，据说这只神龟从李太祖手中收回神剑后，就马上潜入湖中，从此消失无踪，“还剑湖”之名便由此来。