泗洲城始建于北周，隋朝時毀于戰亂，唐代重新興建。由于泗洲城地處淮河下游，汴河之口，為中原區域之襟喉，南北交通之要沖，政治、經濟、軍事地位十分重要，加之漕運事業日漸興旺，泗洲城所傍的汴河對岸又建設了一座新城，新城的發展更快，其規模逐漸超過老城區。明代，兩城之間的城墻拆除，使兩城合二為一，為防水害，將唐、宋時建筑的土城撤去，更以磚石，成為現今國際上保存較為完整的一座原汁原味的地下(水下)古城。

古泗洲城自唐玄宗開元二十三年（公元735年）建成以來，因其南北會要、依山俯淮、風光旖旎，一直是名城重鎮。宋代，泗洲城已十分繁華，歷史上稱為“奔馳馬驟無間時”，加之景色秀麗，文人墨客無不慕名前來，留下了許多著名的詩篇。唐代的崔灝、李白、白居易，北宋的蘇軾、林逋、范仲淹、王安石等都曾在泗洲流連，寫下吟頌的詞章。如蘇軾《如夢令?自凈方能凈彼》：自凈方能凈彼，我自汗流呀氣。寄語澡浴人，且共肉身游戲。但洗，但洗，俯為人間一切。

泗洲城在宋朝是鼎盛時期，其時城中有15條街道，34條巷，住戶9000余，人口3.6萬多人，有宮衙建筑11處，儒學建筑8處，醫學建筑2處，橋梁16座，寺、廟、庵、觀、祠等55處及眾多的壇、塔、堂、亭、樓、閣、表、坊、碑、碣等。城內街道整齊，房舍密集，人們往來不斷,商販不絕于旅。

明代，泗洲城水網密集，交通便捷，城中船舶如流，店鋪林立，商賈云集，酒肆林立，繁華堪比蘇杭，其鼎盛的原因除了經濟原因外，還有一個重大的政治背景，即朱元璋的祖陵建其北側，每年的各類“祭祀”活動使泗洲城成為朱明王朝的“行宮”，達到了空前的繁榮。

由于古泗洲城是一座歷史悠久、古跡眾多的名城古鎮，加之古泗洲城曾是我國歷史上著名的佛教圣地，全國五大名剎之一的“僧伽塔”就建在泗洲城內(《西游記》中觀音大士的化身即“僧伽大師”)，使泗洲古城成為歷史上的名州古城。

泗洲城還是佳釀寶地。洪武年間有山西酒商，取泗洲池水釀酒，酒水甘冽醇厚，深受商賈及官員喜愛，名聲遠播，正門掛牌：“泗洲池”佳釀。清康熙十九年，繁盛了千年的泗洲城在持續數十日的暴雨中淹沒。眾多酒坊被迫遷址，釀酒師也各自散去，后在洪澤湖周邊的泗陽、泗洪、盱眙一帶創立了很多的酒坊。經過300多年的傳承發揚，造就了大批傳世淮上名釀。