1945年12月初，蒋介石召见王耀武，说：“看你的气色、精神不太好，你有什么病？” 王耀武说：“胃病咯血，这是多年饮食起居失常的缘故。” 蒋介石说：“休息休息，生活一正常，不久会好的。你知道济南的重要，派别人去难以胜任，你是山东人，我认为你去最为相宜。你不要怕困难，我一切都有办法。” 王耀武在蒋氏恩威兼施之下，不敢违拒，加上他当时也过高地估计了自己的力量，也有回山东老家衣锦还乡的念头，于是接受了命令。同年12月，王耀武和何应钦同机到达济南，与先期到济南的何思源、李延年等人研究情况，到了济南后，王耀武这才感到缺乏具有战斗力的部队，内心未免惶恐不安。 1946年1月下旬，蒋介石召见王耀武，命令其率第四方面军司令部秘密空运济南，建立第二“绥靖”区司令部，王耀武任司令官。这是抗战胜利后，继淮阴第一“绥靖”区司令部之后新建的第二个“绥靖”区司令部。编制规模之大，辖区范围之广，都远远超过了前者。其主要任务是想妄图遏制山东全境解放军的活动。 当时王耀武曾向蒋介石要求带他的基本队伍七十四军与一OO军到山东，否则，没有得力的部队，难以对付解放军。蒋介石说：“调七十四军回南京拱卫比山东还重要，调—OO军警备上海与京沪线也比济南重要。你何必非带自己的部队不行呢?那不成了军阀思想了吗？” 王耀武不敢再坚持，只得说说：“带我所指挥的十八军与新六军也可以。” 蒋介石说：“十八军要守备武汉，新六军要支援东北，都不能带，你如果要带，只能带七十三军，韩浚不是也很能打仗吗？你必须顾全大局。此外，我还可以给你另调有力部队，你先去吧。” 王耀武不便多说什么。于是他开始做七十三军空运济南的准备。他先将第四方面军司令部一个空壳和一个直属的特务团随他空运济南。此外，蒋介石还安排了李玉堂为王耀武的副司令官。王耀武认为他接的是李延年的摊子，若再派其堂兄(李玉堂与李延年是堂兄弟)为副司令官。恐怕难以为情，不好相处，何况李玉堂是黄埔一期的老大哥，而且早年王耀武还在李玉堂任过下属营长，而今官阶倒置，诸多不便。 这一番考虑，当着蒋介石的面，王耀武是不便直接陈说的，之后他去找徐州“绥靖”公署主任顾祝同，并提出请调丁治磐为第二“绥靖”区副司令。丁治磐不是黄埔军校出身，但其人军事学识、带兵经验为顾祝同所赏识，顾祝同当然乐于从中斡旋。 经顾祝同在蒋介石面前说明情况，王耀武的建议获得批准。随即以丁治磐为副司令官组建第二“绥靖”区司令部，仍以第四方面军司令部原班人马为基础，除了留用小部分李延年移交过来的熟悉地方情况的人员外，仍以贺执圭为参谋长，罗幸理为副参谋长，徐庆誉为秘书长，龙书云为办公厅主任，吴鸢为第一处(人事)处长，陶富业为第二处处长管政工，钱伯英为第三处处长管作战，吴迪基为第四处处长管兵器、交通、辎重，赵汝汉为副官处长，张望伯为经理处长管军需，邓云博等为军法和军医处长，刘钦礼为调查室主任，陈宝仓、郑希冉任第四兵站正副总监。这个组成班子的主要官员不多，却包括川、广、湘、赣、鄂、直、鲁等7个省的人，可谓人马齐备。 至于司令部的地址，王耀武嫌原第十一战区司令部置于大明湖畔，城防司令部设在院前街，地处城内，形同龟缩，他亲自选定经二路邮政大楼为司令部，原德国领事馆为司令官邸。两楼相对，并都装饰得雄壮整齐。这是王耀武初到济南“的三把火之一，城防司令部也由内城迁到火车站附近的津浦大楼。不过，王耀武的兵力还是有限的，他的军事行动进展乏力。 王耀武初到山东，在经济上所接收的是一个“劫收”后的残余，在军事上是一个正规军与地方武装互不合作的杂乱摊子。王耀武使出浑身解数，加上他本身不属任何派系且有一套善与人交的本领，使他首先取得了人际优势，得到了多方的支持。但是王耀武也深知这种表面的协调是不会长久的，如在诸多问题上不能满足某些方面的愿望时，受到少数人的怨尤甚至掣肘。 1946年3月，王耀武报请蒋介石，请求设“山东统一指挥部”，以谋事权统一。蒋介石当即批准，并指定王耀武为“统一指挥部”主任，山东省政主席何思源与省党部主任庞镜塘为副主任。这样，王耀武不仅将国民党在山东的所有大权集于一身，而且将驻守在山东境内，原不归第二“绥靖”’区司令部指挥的军队完全置于自己的指挥之下。 同时，七十三军全部运抵济南，新八军李弥部、五十四军阙汉骞部由云南经广州、九龙海运到达青岛。在王耀武统一指挥下，分别由青岛向西和由济南向东相向进军，新八军、五十四军是美械装备，在一开始也占领了沿线不少城市和乡镇。西面的七十三军是半美械的装备，九十六军和十二军全是旧式装备，所以进展缓慢。 1946年初冬，当第一列火车由青岛经济南、徐州直达南京时，蒋介石以为打通胶济、津浦两线的战略目的达到了，盲目的估计山东的军事形势已改观，于是10月23日，授意任命王耀武为山东省主席，这也使得王耀武成为国军的黄埔三期中第一个出任省主席的人。
