“九·一八”事变后，东北的形势产生了变化、南满、东满、北满的一些山区相继成立了农民游击队。一部分东北军的爱国官兵，也把枪口对准了日本帝国主义，组成义勇军，对日作战。1932年，东北各种抗日武装风起云涌，参加人数三十余万。

1932年12月，代理中共满洲省军委书记的杨靖宇来到了正处于动荡不安与涣散状况的盘石游击队。

他一来到盘石，就取消了山头字号，整顿了游击队，正式命名这支游击队为“中国工农红军第三十二军南满游击队。

盘石工作有了头绪，杨靖宇又去海龙巡视，整顿了海龙县委和游击队，把游击队改编为中国工农红军第三十七军海龙游击队”。

1933年初，南满游击队的主要领导干部相继牺牲，杨靖宇暂时担任了政治委员。

春节前夕，天寒地冻。

这天清早，杨靖宇率队攻打蛤蟆河子。

蛤蟆河子是这一带地方武装的堡垒，五个恶霸在这里联成了一支不小的地主武装。

杨靖宇命令开始进攻后，遭到了顽敌的反抗。这五个地主恶霸收容了一批不要命的流氓地痞做爪牙。这帮家伙一开始就和红军游击队顽抗开了。

红军游击队攻了一个上午也没攻下蛤蟆河子。杨靖宇说:“我就不信消灭不了你们。”

他挑了十来个游击队里的猛将，和自己一道，组成了一个突击队，朝蛤蟆河子村口冲了进去。

突击队以一当十，一下子就撕开了一个缺口，那帮流泯地痞支撑不住了，红军游击队大部掩杀过去，攻破了蛤蟆河子。

杨靖宇逮捕了那五个恶霸地主，枪毙了他们。接着，没收了他们的土地和粮食、财产，分给了贫苦农民。

快到春节了，杨靖宇得知日军有几辆铁甲车要从老爷岭经过。

他马上组织部队在老爷岭埋伏下来。

敌人的铁甲车开进了伏击圈。

杨靖宇把准备好的成捆手榴弹第一个投向了敌人的铁甲车。

游击队员们也纷纷将捆手榴弹投向了铁甲车。

一时间，爆炸声不绝于耳，浓烟滚滚看不清铁甲车了。

趁这个机会，杨靖宇马上命部队发起冲锋，一举歼灭了残敌。

2月至5月，日伪前后四次讨伐“南满游击队”。每次出动武装部队五千人左右。南满游击队在杨靖宇指挥下，打退了敌人的进攻，而且扩大了队伍，建立了以红石砬子为中心，方圆数十里的抗日游击根据地。

1933年7月，杨靖宇正式调到盘石领导抗日武装斗争，奋战在哨烟弥漫的战场上。

在“九·一八”两周年纪念日那天，以南满游击队、海龙游击队为基础，成立了东北人民革命军第一军独立师，杨靖宇任师长兼政委。全师三百余人。一年以后，正式成立东北人民革命第一军，杨靖宇任军长兼政委。

南满地区，有一批自发性质的抗日武装，其中包括东北军余部，各种名目的抗日军、山林队等，人数不下一万。这些自发抗日武装，反对日本侵略者，进行抗日斗争但又缺乏严格纪律，常常危害人民群众的利益。

他们还从各自的私利出发，往往互相火并，对共产党领导的抗日武装也持某种对立态度。盘石游击队初建时，也和他们发生过冲突。

杨靖宇设法争取他们站到自己这面来，联合抗日。

那时，盘石一带有两支自发的抗日的东北军余部。他们自编为旅，并以旅长姓氏作为部队的称号，一支叫赵旅，一支叫马旅。

一次，赵旅和马旅在玻璃河套北板凳沟地方遭到敌伪靖安军重兵包围。

赵旅和马旅与靖安军展开了决战。

可是，因寡不敌众，从早晨打到中午，几次组织突围，都被靖安军杀了回来，部队损失惨重，处境十分危险。

因为赵旅曾骂过游击队是乌合之众，马旅又和游击队因地盘的事发生过磨擦，曾想缴游击队的枪支，因而不敢向游击队求援。

杨靖宇一得知他们被围的消息后，马上着急起来。他不念旧怨，马上组织力量去增援他们。

当时杨靖宇身边只有两个分队二十多人，只好派人通过敌人的封锁线，给赵、马二旅送信，让他们暂时坚持，等待援兵。

接着，杨靖宇把玻璃河套的赤卫队、儿童团筹集合起来，连同身边的战士共五十多人，携带步枪、土炮、爆竹等，向敌人后路抄去。

敌人正得意，以为可以消灭赵、马二旅。

忽然，敌人听背后漫山遍野响起了“枪声”，一时摸不着头脑，以为对方主力增援部队来了，便转过头来盲目打枪。

赵、马二旅乘敌军混敌之际，发起了冲锋，向靖安军杀奔过去。

敌人腹背挨揍，只好丢下了几十具尸体，狼狈而逃。战斗结束后，赵旅长紧紧握着杨靖字的手，激动地说:“我非常渐愧,过去很对不起弟兄们，这一回算我知道谁是我的朋友。以后我姓赵的如有三心二意，对不起盘石父老,天理良心不容。”

杨靖宇说:“过去的事，不要提了。咱们都是中国人，枪口对外才是我们的行为准则!”

后来，杨靖宇和赵、马二旅等联合作战,攻打了盘石大兴川、伊通营城子、吉林区和呼兰集场等地的敌人，获得了很大的胜利。

自发性质的抗日武装从实践中对人民革命军了解越来越多，越来越信赖，不仅纷纷前来找杨靖宇接头，表示愿意联合抗日，而且有的要求改编为人民革命军，或要求给他们派政委去，甚至有的打听什么人可以加入中国共产党。

1934年春，成立了南满抗日联军总指挥部，杨靖宇被选为总指挥,下属共四千多人，分编为八个支队。