胡宗宪利用自己身为兵部尚书的职权，准许戚继光招募和训练“私兵”，也就是后世广为传颂的“戚家军”。
戚继光其实早就有这么一个想法，也曾向兵部建言，但是几次都未得到批准。戚继光的初衷也是好的。他在带兵打仗时，明显感觉到官军日常缺乏操练，战时缺乏勇气和斗志。
由于大明军制的局限，武将和士兵并没有多大联系。士兵平时不归将军管，只有临战，才被征召，归属将军指挥。这样的军队用起来，是不会趁手的。
胡宗宪当年派戚继光将作为人质的王直老母妻儿，秘密押赴金华监狱关押。戚继光从杭州南下，进金华城前，途径其辖内的义乌，见识到当地矿工械斗，十分勇悍。自从那时起，便动了心。于是请求胡宗宪，准许募集义乌的矿工，练上一支私军。
但戚继光只懂军事，却疏于政治。练私军，可是犯大忌的。宋时的岳飞便练过私军，结果怎样？最后被秦桧，揪住这点不放，引申出其有谋反之心。立过再大的军功，也被稀里糊涂地斩了。虽然后人都不认岳飞“意图谋反”，断定此罪为“莫须有”。但岳飞还是死了，不是。
胡宗宪让戚继光给兵部打报告，果然不被批准。这事便黄了。戚继光见识过解放军的勇武，一得知胡宗宪当上兵部尚书，就立即又为此事请命。
胡宗宪这时已变了想法，如果戚继光能将私军练强练大，自己也会有安全保障。练私军是什么样的节奏，不是造反，也是造反呀。但胡宗宪却迫切需要这样的节奏，于是第一时间给准了。