張須陀因傷勢未好，因此露了個面后，便繼續在章丘養病。三萬討賊軍，實際上是由東萊郡丞羅貴代統，單彬彬和羅繼祖、羅承宗等各統一軍。
三萬人馬，打出張須陀的旗號，緩緩向西推進，各軍相隔一二十里，每日行軍不過四五十里。邊行軍邊整訓，倒也有模似樣。
等到他們沿濟水推進到濟北郡的壽張時，距離梁山已經極近。
羅貴好歹也曾是勛貴子弟，將門之后，又當過親衛，做過皇帝的金瓜武士，因此對于兵法戰陣也是有些了解的，加之這幾年在齊郡剿賊平亂，經驗還是很豐富的。
他撒出無數輕騎四下巡弋，前去打探梁山朱粲的動靜。
結果斥候回報，在梁山未見敵蹤。
偵察許久，得到一個消息，朱粲已經率部撤離梁山，往東郡去了。
羅貴比較謹慎，擔憂朱粲是要誘敵伏擊，于是并不急于追擊，只是加派了騎兵斥候前面開路偵察，然后各軍緩緩的向前繼續推進。
幾天后。
消息傳回，朱粲在東郡又搶掠一回后，在白馬渡過黃河北上，進入了河北汲郡，然后他攻下了黎陽倉。
這已經不是黎陽倉第一次被攻破了。
大業九年，楊玄感叛亂，就在黎陽起兵，攻占倉城。后來朝廷派兵平亂，當時陳棱率兵萬人攻奪黎陽倉城。
再然后，大業十年時，張金稱又曾突襲過黎陽倉。
因此黎陽倉這座倉城里，其實早就沒多少糧食了，倉城也沒多少鎮兵。
這就導致朱粲的突然北上，偷襲得手，一舉攻占黎陽倉城。
“郡丞，現在怎么辦？”
得訊的這支自保軍的軍將們都跑來找羅貴問計，這些軍將絕大多數是由諸郡的郡丞、郡都尉、縣尉或地方豪強們組成的，大家這次也是為了保衛家鄉來的。
可現在朱粲跑河北去了。
羅貴提議不如乘機追過黃河，去涿郡追殺朱粲，理由是朱粲現在流竄到河北，其實是一支孤軍。
但討論半天，卻不少人反對。
他們更主張繼續西進，乘現在朱粲北上，而其余叛軍主力集結于滎陽去應對王世充，正好可以收復被叛軍先前攻戰的運河東岸各郡。
見眾人意愿強烈，羅貴也沒獨斷專行，最后同意。
于是乎，大軍繼續舉著張須陀的旗號前進。
二月底，大軍收復東平郡，剿滅了幾支還流竄在郡內的賊匪，砍了幾百個腦袋，也算是首開得勝。
接著繼續進軍。
三月初，又接連收復了東郡和濟陰郡，而此時李秀寧匯合了彭城太守陳棱軍，也一路剿匪殺賊過來，接連收復了譙郡和梁郡。