本朝的军人长期处于文官的压制之下，即使是一位卓越的高级将领也无法展布其统筹全局的能力。他们的部属在各自的防区内同时接受知府、知县等地方官的指挥，而且不让他们经手供应给养。于是这些武将们唯一所能做到的事就是带领士兵亲身参与战斗。虽说得到谭纶的一力支持，因袭的各种成例也不断给戚继光增加棘手的问题。即以他的官职来说，在调任之初准备授他为“总理蓟州军务”。以一介武夫而总揽全区部队的指挥调度之权，当然会大于物议。
北方的边镇和南方的军区情况截然不同，其威胁来自边外的游牧民族。每当天时亢旱，蒙古的骑兵部队就会按照他们的成例犯边掠夺。他们的军事特点在于流动性和迅疾猛烈的冲击力量。在集中来犯的时候，一次可以动员10万名骑兵，当时俺答曾经把各部落联成一个大同盟，东西连亘2000里，使官军束手无策。
蓟州为华北九镇之一，防区为北京东北一带，按照规定的编制应有士兵8万人，战马22000匹。但是实际上并没有人能够确切知道现存的数字。在役的士兵，有的属于本镇所属卫所的“主兵”，也有从其他地方调来的“客兵”。后者的调防虽然带有永久性，但供应的义务却仍属原来的地区。还有一部分从内地卫所调来的士兵，他们的服役期只限于蒙古人犯边可能性最大的几个月。实际上他们也很少亲身服役，只要缴纳一定的银两可以雇人替代，而所缴的银数又和雇代实际所需的饷银不同。总而言之，全镇的人员和粮饷从不同的来源和以不同的方法获得，有的还只在账本上存在。这样，不仅他们的数量难以弄清，他们的质量也是一个疑问号。
这种松散的组织和军需上的缺乏统一，看来不全是出于无意识的安排。一个办事效率极高的将领常常会以自己的意见作为各种问题的总答案，用我们古人的话来说，就是跋扈专擅；而这样一个将领手握重兵在京畿据守，也常常造成一个朝代的终结。所以戚继光改进武备的一切努力，都必然遇到重重的阻碍，其中的绝大部分来自文官集团的意志，而这种意志又有历史传统的成例作为背景。
但是很幸运，谭纶和戚继光的意图受到一位中枢重臣的赏识。此人就是张居正。
张居正在戚继光北调的前几个月才出任内阁大学士，之后还要经过一番周折，才成了本朝第一位政治家。然而他在入阁之初就有重整军备的雄心，蓟州是最能吸引他注意力的一个军区。戚继光莅任不久，就发觉他自己只需要专心于军备而不必参与政治。因为凡是应当安排的事，都已经由总督和大学士安排妥帖；如果事情连他们都无法安排，当然也不必多费唇舌。
以大学士的身分，张居正不仅没有权力公然颁发指令，甚至不能公开讨论制度的改组。他所采用的方式是用私人函件授意亲信如此如此地向皇帝提出建议。这些建议送到内阁票拟，他就得以名正言顺地代替皇帝作出同意的批复。他进入文渊阁以后的第一个皇帝是一个昏庸的君主，对国事既不理解也不关心；第二个皇帝则是小孩子和他的学生。环境和才能加在一起，造成了张居正的权威。但是他还是需要小心从事。帝国的官僚政治已经发展到登峰造极，成千成万的官僚，在维护成宪的名义下保持各方面的平衡，掩盖自己不可告人的私利。要公然宣布改组军事制度，就等于邀请别人对自己攻击。因此张居正不得不采取这种迂回的方式。反正皇帝站在他这一边，不论别人是否识破真相，只要举不出违背成宪的理由，则公开的攻讦和私下的流言都可以不在话下。
蓟州军镇的军备改革，按照这样的程序顺利地进行。最初，戚继光建议把北方各镇10万名士兵交给他训练3年，由于计划过大，在政治上和技术上都有许多不易解决的问题，因而未能实现。但是中枢政府批准了他的另一项建议，即把他在浙江所训练的一部分士兵调至蓟州，最初员额为3000人，以后扩充为2万人。张居正对戚继光极度信任，企图赋予他以这一军区统筹全局的权力，所以才拟议设立“总理蓟州军务”的官衔，以和其他各军区的“总兵”相区别。无奈这一官衔在本朝史无前例，各种议论就纷至沓来，乃不得已而作罢。这一计划不能实现，张居正找出了另一种办法，即把蓟州辖境内的其他高级将领调往别镇，以免遇事掣肘。这时谭纶又建议该区的文官不得干预军事训练，并且主张戚继光在3年的练兵期内可以不受监察官的批评。后者显然又为文官们制造了违反成宪的口实，引起猛烈反对。皇帝的朱笔批示接受了兵部和都察院的建议，要求监察官明白练兵的重要，责成他们“和衷共济”，并把他们对蓟州防区的巡视限为每年一次；对谭纶和戚继光则希望他们“稍宽以文法，乃得自展”。事实上，凡是故意和戚继光为难的文官，后来都被张居正不动声色地陆续迁调。
蓟州军开始训练，就接受了优厚的财政接济以购买军马、制造火器及战车。这种和其他军镇的不平等待遇，惹来了大量的反感。接着又有一连串的矛盾跟着产生，诸如北兵和南兵的磨擦、军职的继承者和其他出身者的争执、因循守旧和锐意革新的冲突。张居正了然于这些情况，在他写给谭、戚两个人的私人信件里，再三叮咛他们务必谦恭退让，不要居功自傲。他警告戚继光说，“北人积愤于南兵久矣”，他们“多方罗致，务在挫辱之”，所以“务从谦抑，毋自启侮”。有一次蒙古部队打算犯边，就在战事一触即发之际，俺答却放弃了原来的企图，下令掉头北撤。这一出人意外的事件，在张居正看来完全是由于谭、戚二人部署有方，才使俺答踌躇不前；然而邻近的两镇却把功劳据为己有。张居正虽然认为这种冒功邀赏可笑而且可耻，但是他却通知谭纶，他已经以皇帝的名义承认了这两镇的自我吹嘘。他也不让兵部查清事情的真相，以免纠缠争辩。他要求谭纶在奏折中不仅不要争功，反而要把功劳归于其他二镇，使他们“嚼舌愧死”。
张居正这种做法，表面上是损已益人，具有大政治家的风度；但是仔细研究，却仍是有明有阳，无助于矛盾的根本解决。那怕是谭、戚二人表现出无以复加的谦抑，各镇之间的利害关系也决不能因此冰消瓦解。因之内阁愈想公正平衡，旁人看来则在一明一暗之间有亲有疏，褊袒更多。以后反对张居正的人认为蓟州练兵是他培植私人的政治资本，也就毫不足怪了。
1577年谭纶病死，从此张居正和戚继光的关系更为密切。第二年张居正返江陵葬父，他还生怕这短期的离职引起戚继光的不安，所以特地私下通知戚继光，接任蓟辽总督的将是梁梦龙。信上说：“孤之此行，甚非获己。……到家事完，即星夜赴闽矣。蓟事已托之鸣泉公，渠乃孤之门生，最厚；谅不相负。”梁梦龙字鸣泉，在翰林院与张居正有师生之谊。他在万历一朝的事业，也赖张居正的提拔为多。张居正这样倾肠相告，自然使戚继光更加感恩戴德。是以首席大学士的江陵之行，戚继光派出了一整连的鸟铳手作为护卫，张居正选择了其中6名随行，作为象征式的仪仗，同时也表示了首辅和蓟州戚帅关系之密切。兹事前后，蓟州总兵官的传骑携带各种文件和信件不断来往于首辅私邸，这更使他们的反对者在日后清算张居正的时候，有所借口，甚至指斥他们图谋不轨了。