1948年4月29日，李宗仁当选副总统。蒋介石为了发泄不满，撤掉了白崇禧国防部长的职位。白崇禧的妻子马佩璋酸溜溜地对李宗仁的妻子郭德洁说：“你丈夫当了副总统，我丈夫却丢了官。” 白崇禧一向对国防部长这个职务很看重，在6月初，蒋介石以总统的名义组阁免去白崇禧的国防部长职务，由何应钦接任，以顾祝同为参谋总长，白崇禧则调任华中“剿总”任总司令。 在此之前，蒋介石已经撤掉了桂系大将李品仙的安徽省主席，如今再撤去白崇禧的国防部长，李宗仁这个副总统就孤零零的一个人留在南京。 马佩璋见人就抱怨，除了在郭德洁面前表达不满，也对白崇禧说：“这下倒好，李德公升官，我们丢官退财！” 原国防部长去华中“剿总”当总司令，对白崇禧而言就是一种降职使用，对于一向自负的白崇禧来说，是无论如何受不了的，一气之下，白崇禧拒绝赴任，以治病的名义去上海闲居。 白崇禧到了上海后，住在虹口的公馆里，沪西也还有他的一座别墅，子女也都在上海读书，上海亲朋故旧也不少，白公馆整日宾客不断，非常热闹。 到达上海第二天，上海市市长吴国祯便亲自到白公馆拜访，请白崇禧夫妇吃饭。接着便是上海大亨杜月笙请白崇禧吃饭、看戏。 蒋介石虽然极力打压桂系，但是对白崇禧的军事才能还是认可的，无人可用的蒋介石非常需要白崇禧去华中主持军政，于是便放下身段，派人去上海劝说白崇禧，让他尽快就任。 几天后，总统府秘书长吴忠信专程由南京到上海，劝说白崇禧去华中赴任。吴忠信是安徽合肥人，既是蒋介石的亲信，又是李宗仁、白崇禧的朋友，他在蒋、桂两方都是说得上话的人。 吴忠信劝说：“健生兄，你应该以大局为重，蒋总统望眼欲穿，盼你到华中去主持军政，你千万不能推诿啊！ ” 白崇禧不为所动，顾左右而言他，吴忠信只得怏怏离开。 白崇禧留在上海拒不上任，这让蒋介石感到不安。一来，这会给人留下蒋介石睚眦必报的话柄，说他胸怀狭窄，没有气度；二来，华中地区也需白崇禧去坐镇，这不仅是华中地区重要，而且也是蒋介石对付桂系的一种策略。之前，蒋介石把白崇禧留在南京，将李宗仁调到北平，采取分而治之的策略，蒋桂之间，也算平安无事。现在，既然李宗仁当了副总统留在南京，那么白崇禧就必须外放。 但是，连吴忠信都请不动白崇禧，又有谁能去完成这项使命呢？蒋介石思前想后，决定请黄绍竑出马。 黄绍竑和李宗仁、白崇禧并称为新桂系的三巨头，也是三人中和蒋介石关系处理得最好的一人。对黄绍竑而言，他也希望白崇禧外放华中，所以当蒋介石要他当说客时，他满口答应。 从南京到上海后，黄绍竑第一时间给白崇禧打电话，邀请白崇禧夫妇到他在上海的家中吃饭。不想，白崇禧婉言拒绝说：“上海商界的几位朋友已经与我有约了，我们改日再到府上去吧！” 黄绍竑赶忙说：“我是想约你来好好谈一谈，你一定要来！” 白崇禧回绝说：“我知道你是代表谁来的，你如果是奉那个人的指示来劝我，我们便没有什么好谈的了！” 黄绍竑知道白崇禧说的“那个人”便是指的蒋介石，他坦言说：“当然是那个人叫我来的。但我还有自己的看法要跟你谈，无论如何你必须来！不当面谈，你不会知道。” 白崇禧被说动了，便乘车来到黄绍竑公馆，黄绍竑开门见山地教训起白崇禧来：“人家都说你是‘小诸葛’，现在我看你这个诸葛亮，实在太不亮了！我这次来找你，虽然是奉老蒋之命，但我并不是要用老蒋的话劝你去为他好好打仗的，你跟他当了那么多年的参谋长，他打过什么好仗呢？东北、华北，仗越打越糟，要不了多久，战火就烧到华东、华中。我劝你赶快到武汉就职，掌握一些队伍，尤其要抓回广西那点军队，不要把本钱陪着人家一起输光了。” 白崇禧这个人，一向恃才傲物，别说李宗仁不敢这样教训他，便是蒋介石对他说话，也总是客客气气的，生怕把口气放重了，弄得这个“小诸葛”不痛快。黄绍竑可不管这一套，论部属关系，白崇禧最先给他当参谋长，然后才轮到李宗仁，最后才是蒋介石。黄绍竑的话虽然说得又重又带刺，但白崇禧听了不但不拂袖而去，反而感到大有道理。 黄绍竑见白崇禧若有所思，便接着劝说：“你和德公在南京高高在上做副总统和国防部长，不是等于被关在笼中的鸟一样么？现在老蒋把笼门打开，放你出去，还不快快远走高飞？他要整我们，我们就借此机会出去，到了外面，再回过头来整他！” 接着，黄绍竑又分析说：“武汉，是个进可以攻，退可以守的地方。这次你去，我们就放心了。到了那里，你是有办法的，机会到了，等老蒋到了无法应付的时候，必定要下野，德公就可以出来收拾局面，那时候，桂系就大有可为。” 和黄绍竑会面的第二天，白崇禧便返回南京去见蒋介石，答应赴武汉就职。6月16日，白崇禧飞赴汉口就任华中“剿总”总司令之职。