徐縣在春秋時是徐子國的地界。徐國曾經很強大，是大禹時的封國，歷經夏商周三代，到周穆王時，徐國的國君嬴誕得到周邊三十多個國家的臣服，自稱為王，是為在歷史上頗留下名聲的徐偃王，於是反周，但為周穆王所敗，戰敗后逃隱山林中，他的兒子被周穆王封為徐子，公侯伯子男，這個爵位不高，由此有了春秋時期的徐子國，后來被吳王闔閭所滅。
因了這段歷史，所以入到前漢，當隨著人口繁衍，到了需要在此地置縣的時候，便以“徐”為此縣之名。漢武帝時，置臨淮郡，徐縣為郡治，光武中興，仍以徐縣為臨淮的郡治，到了明帝永平十五年，改臨淮郡為下邳郡，這才改郡治為下邳縣。
由此可以看出，徐縣雖不是下邳郡的郡治，但歷史悠久，并曾長期為下邳郡的前身，——臨淮郡的郡治，其居民之廣多，其城墻之堅固，在下邳郡的諸縣中卻也是數得著的。
這也就難免那個水賊的頭領會憂心忡忡，生怕關羽攻打徐縣不克。
船行湖上，隨著水賊頭領們的號令發出，不斷有其它船只從別處駛出，匯入關羽所在的這支船隊中，短短十余里的水程，待到了湖對面的岸邊時，船隊的規模已經擴大了五六十艘之多。
等船只靠到岸邊，關羽帶著軍士們登岸，將那三個水賊頭領喚到眼前，吩咐說道：“爾等的部眾不需隨我去闕司馬的莊塢中，爾等去安排一下，叫他們便在這岸邊的蘆葦叢中偃伏，至遲今日午后，我會遣人來召他們。”
一直代表另兩個水賊頭領、和關羽對話的那水賊首領猶豫說道：“我等人手雖少，也有七八百人，雖然可以在水中藏隱，但司馬公午后相召，一旦出了湖面，只恐路上為人所見，露了風聲。”
“召了他們之后，便是攻城，有何風聲可怕走漏？”
聽了關羽此話，那三個水賊頭領嚇了一跳，帶頭那人問道：“司馬公是想今日午后攻城？”
“正是。”
三個水賊頭領面面相覷。
帶頭那人說道：“司馬公，白日難掩行蹤，……難道不是應該等到入夜后再攻城么？”
“爾所言者，常理也，卻不宜今次用之。吾料淮陵被我軍攻取的消息此時必是剛傳到徐縣不久，縣中定正慌亂，攻守無措，進退難定，吾正可趁此良機，克城取之！”
“這……。”
“拔城克敵，不需爾等，得了我的召令后，你們的部眾只管跟從在吾部兵馬的后邊，搖旗吶喊便是。如戰勝，少不了爾等的功勞，即便戰敗，爾等也能逃離，又何懼之有？”
關羽的意思是不用他們這些水賊攻城，只需要他們出個人場，壯壯聲勢，如果戰敗了，也確如關羽所言，他們於戰場上的位置在關羽本部兵馬之后，的確是有機會逃掉的。
見這個三個水賊頭領仍是不肯應聲，關羽也不惱怒，只淡然說道：“爾等今既從我軍，當守軍法。軍法：不從軍令者，斬！”
這三個水賊頭領無可奈何，只得應道：“諾。”