Thành Cổ Loa còn có tên xưa kia là thành ốc bởi các vòng thành Ngoại và Trung gặp nhau ở phía nam cạnh sông Hoàng. Từ chỗ ấy 2 vòng thành men theo bờ sông vòng về hai phía đông, tây rồi đi lên phía bắc, cách xa nhau và không gặp nhau ở chỗ nào nữa. Vì thế, người ta gọi là toà thành có hình xoáy ốc hay hình con ốc.

Chính ở chỗ gần cửa nam, sát với sông Hoàng có một cái giếng thông nước với sông, đó chính là “miệng ốc” hay “Loa khẩu”.

Theo truyền thuyết về việc xây thành, thành xây nhiều lần vẫn bị đổ vì thế nhà vua cầu đến Huyền Thiên Trấn Vũ. Huyền Thiên Trấn Vũ đã phái Thần Kim Quy - Rùa vàng hiện thành Thanh Giang sứ tới giúp An Dương Vương trừ được Bạch Kê Tinh ở núi Sái. Do vậy thành mới đứng vững. Công việc hoàn tất, Rùa vàng lại cho nhà Vua móng để làm lẫy “nỏ thần”. Chỗ Rùa vàng hiện lên đó chính là Loa Khẩu. Sau này một toà miếu nhỏ được xây gần Loa Khẩu để thờ thần Kim Quy.

Toà Miếu nằm sát Chợ Sa hiện nay, cách Loa Khẩu chừng 20m. Miếu được xây đơn giản bằng gạch vữa gồm 1 gian với 3 mặt tường bao, cửa kiểu cuốn vòm, có xây bệ thờ bên trong, diện tích chừng 4m2.