1933年5月，冯玉祥先生在张家口成立抗日同盟军，接连收复被日伪军占领的察哈尔东部的康保、宝昌、沽源、多伦等四县。 冯玉祥组织了一个“收复东北四省计划委员会”，表示将继续收复东北四省，把日军从中国领土上全部赶出去。 同盟军非法抗日引起了南京政府的极大惶恐和嫉恨，时任行政院长的汪精卫公开发表谈话说，察东四县的日伪军是自动退走的，抗日同盟军根本没有打仗。 军委会北平分会委员长何应钦一面调动16个师的兵力，节节向同盟军进逼，一面派出许多特务，到同盟军各部队进行拉拢分化。 冯玉祥极为气愤，召集总司令部全体官员讲话说：“汪精卫说我们收复察东四县没有打仗，这能欺骗了全国人民吗？如果没有打仗、我们运到北平、天津的大批伤兵是哪里来的？” “何应钦在北平吹牛，说他在北平跺跺脚，冯玉祥的同盟军就会塌台。我要正告何应钦这小子，他把木头底子（从前缠足女人穿的绣花鞋，多用木头做底）跺碎了，同盟军也不会塌台。” “还有人说我们是赤化，我认为赤化就是流血化，就是革命化，这有什么不好？如果我不是年龄较大了，得失之见较深了，不用他们臭奉承，老子一定要赤化到底。” 同年8月，蒋军占领宣化，威逼张家口。为了不致引起同室操戈，给旧部保留下种子，冯玉祥无奈地解散了抗日同盟军，自己回到泰山隐居。 冯玉祥一家和亲随住在泰山脚下的五贤祠，文官们和手枪营住在普照寺及其附近，武官们则住在泰山盘路上的关帝庙。 冯玉祥的经济来源主要依靠韩复榘、宋哲元等每月送给几千元，有时他还变卖一些自己在各地的房地产业。 一般随从人员除由冯玉祥供给伙食外，每人每月发给生活费20元左右，比较重要的人员送给五六十元至百元不等。 冯玉祥在泰山主要过的是读书生活，在每年寒暑假期间，他常常聘请北平一些著名教授到泰山作短期讲学。 李达讲过辩证唯物论，陈豹隐讲过政治经济学，李季谷讲过西洋通史，王谟讲过天文、地理等等。 泰安县有一位前清秀才范明枢先生，冯玉祥请他来讲《春秋》、《左传》。后来冯玉祥把自己的听讲笔记整理为《读春秋左传札记》印刷出版。 泰山的五贤祠和普照寺上面的山沟里，有一股泉水终年流水不断。冯玉祥请了一些石匠，修了一个小型水坝。这样不仅住在山上的人用水方便，而且可以在山脚种菜种花。 冯玉祥在五贤祠东建立了一座烈士祠，主要是为了纪念辛亥革命滦州起义死难烈士王金铭、施从云等，以及张作霖杀害的老长官张绍曾，还有被张宗昌杀害的老朋友郑金声。 冯玉祥陆续办起了十五所小学，专收贫苦农民的子女入学，范明枢任总校长。校舍都是因陋就简，用石头垒起来的。学生一律不收学费，并供给书籍及学习用品，家中贫苦的还补助生活费。 在抗日战争中，包括范明枢先生在内，学校的青年师生大都参加了八路军，有的人血洒疆场，为国捐躯。 1934年春季，冯玉祥决定到鲁东地区游览一番，首先到益都看了一下，接着到邹县参观了梁漱溟办的村治实验县，又到潍县参观了一些地方工业。 以后顺着烟潍公路前进，在黄县停了两天，又到蓬莱停了两天，曾瞻仰了戚继光祠，游览了篷莱阁。 登临篷莱阁，面对大海，感慨万千，冯玉祥当即书写“碧海丹心”四个大字，委托当地县长曹某(冯军旧部)制成匾额，悬挂于阁上。 到了烟台，住在海军学校旧址，游览了海港设备，参观了水族馆和学校，并由公安局长张奎文陪同，登上一艘美国巡洋舰参观，据说这艘舰是美国太平洋舰队的旗舰，当时正在烟台度假修理。 到威海卫参观游览时，当地军民听说抗日将军冯玉祥要来，都很兴奋。汽车一进入市区，当地群众和海军陆战队排列道路两旁，高呼口号，鼓掌欢迎。 冯玉样当即下了汽车，向群众招手致意。登上威海卫城墙最高处的一个阁楼，冯玉祥写了一副对联云：“十万家烟火楼台尽收眼底，四百兆父老昆季常挂心头。” 1934年冬，蒋介石请李烈钧到泰山和冯玉样商谈合作抗日问题。1935年春天，李烈钧到烟台与冯玉祥再次商谈，敦促冯玉祥去南京就职。 1935年11月，冯玉祥到了南京。他到南京那天，蒋介石亲自过江到浦口车站迎接。接着，冯玉祥任军事委员会副委员长。 西安事变发生后，张学良、杨虎城曾给冯玉祥和李烈钧来电，“公等党国先进，领袖群伦，爱国赤诚，久深佩仰，尚祈瞻念危亡，俯察民意，或远赐教言，或躬亲来陕，开诚指示，共谋国是。” 冯玉祥当即复电张学良，“当此外侮日深，风雨飘摇之际，虽吾人和衷共济，同挽国难，犹恐计虑不周，岂容互生意见，致使国本动摇”，主张和平解决，劝他释放蒋介石。 1937年7月8日，庐山军官训练团举行朝会，蒋介石第一句话就说：“倭寇又在闹事了。”“倭寇”二字出诸蒋介石之口，这还是第一次。 蒋介石接着说，倭寇欺侮我们，已经到了忍无可忍的地步，大家都要做好准备，等候命令。朝会之后，有些将领即奉令提前返回防地。
