抗战胜利后，老蒋取消军委会，海军司令部也被改组为参谋本部海军部，本来部长一职应该仍由原海军司令陈绍宽担任，但是陈诚却在老蒋的暗地支持下，为了逼迫陈绍宽辞职，竟然采用武力手段，在陈绍宽毫不知情的情况下，派兵包围了海军司令部，并把他的亲信全部软禁。 事后，陈绍宽虽然愤怒无比，却又无可奈何，只能悻悻的离开了海军司令部，面对如此情况，很多同情陈绍宽的国民党官员纷纷替他鸣不平，背地里纷纷议论陈诚手段的卑鄙。 老蒋本来还想着猫哭耗子假慈悲，好好安慰下陈绍宽，但陈绍宽已经对老蒋彻底失望，根本就不理睬他的虚情假意，而是收拾下行囊，回到了福州老家，远离这是非之地。 回到家乡的陈绍宽，感受了难得平静，过起了寓公的生活，平常就是读书、养花、种菜，日子虽然平淡，但也是乐在其中。 1949年7月的一天，时任福建省主席朱绍良突然登门拜访，两人见面没有过多的寒暄，朱绍良直接开门见山的就让陈绍宽去福州坐飞机去台湾，并且说道这不是他的个人意思，而是奉了老蒋的命令才来的，否则的话我才不会趟这趟浑水。 陈绍宽听完后，没有丝毫犹豫，非常坚决的就拒绝了，说道：“如果非带我去台湾，那么我就从飞机上跳下去。” 其实朱绍良和陈绍宽两人都是福州老乡，又同朝为官，私交甚好，他见陈绍宽如此说道，也没有步步紧逼，只得告辞离开。 1949年8月福州解放后，陈绍宽欣然答应了中共的要求，重新出山参加新中国的建设，并陆续担任了福建省人民政府副主席、副省长等职，为新中国的发展献计献策。
