除了筑城之外，還有就是加強浙江的兵防了。
之前嘉靖準允戚繼光在浙江招募營兵，用于御倭，但是等到戚繼光把兵練出來，恐怕還需要時日，胡宗憲在戚繼光練成新軍之前還要另想辦法，加強浙江的防備。
在和鄭若曾、徐渭等人商量后，胡宗憲決定向朝廷請求設置杭嚴兵備一員；金衢兵備一員；嘉湖兵備一員；臺州兵備一員；溫處兵備一員，五名兵備將浙江劃分為五個地域，統籌防御。
同時，在浙江總兵下設分守杭嘉湖參將，分守溫處參將，分守寧紹參將，分守臺金嚴參將四名分守參將，在總兵兵備的指揮下坐鎮一方，好讓戚繼光專心練兵。
同時，對于浙江的衛所和各處水寨，也要加以整頓，朝廷本來在浙江設立了在浙江地區共設十六衛、三十四守御千戶所，其中海寧衛、海門衛、觀海衛、盤石衛、金鄉衛、松門衛、臨山衛、昌國衛、定海衛作為沿海衛所，有專司備倭的職責。
要是按朝廷的名冊上，浙江的衛所官家數量可不算上，按軍籍上的數字，浙江一省各衛有兵五萬八千七百五十余人，水師力量更是不小，瀕海九衛戰船六百六十艘，可實際上有多少，那就只有天知道了。
指望浙江的衛所官軍估計是不太現實的，胡宗憲等人把希望寄托在巡檢司的弓兵身上。巡檢司的弓兵并非正規軍，而是地方民兵，由州縣直接掌握。
來源主要有三：其一為均徭簽派，即所謂弓兵者每縣括民丁役之，統于巡檢，這是弓兵來源最廣泛的途徑；其二為募民充役，此種情況多出現于倭寇比較猖獗后朝廷加強地方的防御能力；其三永充弓兵，此種途徑所占比例最小，永充的形式有兩種，一種是在明初僉編的世籍弓兵，一種是因犯罪而被謫發充軍。
巡檢司有沿海和內地兩種，沿海巡檢司的設置主要在于備倭。浙江沿海巡檢司有五十余處，分布于備倭要地。沿海巡檢司雖屬州縣管轄，但是在軍事上受衛所的節制。裝備也比地方的弓兵要好一些，這些巡檢司的弓兵由于常年與倭寇作戰，戰斗力還算不錯。
就是布置的太過于分散了，每個巡檢司只有八十到一百人，胡宗憲決定增加巡檢司的兵額，以一百八十到兩百人為基準，招募民間的驍勇，包圍鄉土。
本來浙江都指揮使司下有專門的浙江總督備倭都司，負責全省的備倭事宜，但是由于現在衛所廢弛，根本起不到什么作用。
胡宗憲還是決定上奏朝廷，要求恢復大明之前的巡海制度。在太祖時期，倭寇也是頻頻作亂，襲擾大明沿海，明太祖震怒，親自誓師，向海神祈禱后派遣明軍水師巡海殲滅倭寇，太祖皇帝當時的祝詞是：予受命上穹，為中國主，惟圖乂民，罔敢怠逸。蠢彼倭夷，屢肆寇劫，濱海郡縣多被其殃。今命將統帥舟師揚帆海島，乘機征剿，以靖邊氓。特備牲醴，用告神知。
洪武七年春正月，廣洋、江陰、橫海、水軍四衛正式開始出海巡倭：“詔以靖海侯吳禎為總兵官，都督僉事于顯為副總兵官，領江陰、廣洋、橫海、水軍四衛舟師出海巡捕海寇，所統在京各衛及太倉、杭州、溫、臺、明、福、漳、泉、潮州沿海諸衛官軍悉聽節制。