1931年九一八事变后，由于东北军执行“不抵抗”命令，日寇迅速侵占了辽、吉两省，开始进犯黑龙江。1931年10月16日，原黑河警备司令马占山接到了张学良任命其代理黑龙江省主席的电令。10月20日，马占山在当时的黑龙江省省会齐齐哈尔宣布就任黑龙江省代主席，并成立黑龙江军队临时总指挥部，马占山任总指挥，谢珂任副指挥。
10月22日，马占山代表黑龙江军队全体官兵发表宣言：“与此国家多难之秋，三省已亡其二，稍有人心者，莫不卧薪尝胆，誓求危亡，虽我黑龙江一隅，尚称一片干净土……尔后凡侵入我省者，誓必死一战！”
马占山将军
11月2日，日本关东军司令本庄繁以维修哈尔葛大桥为借口，向马占山发出最后通碟：“ 两军各自桥梁撤退至10公里以外之地点，至完工为止，不得进入 。”哈尔葛大桥俗称江桥，位于齐齐哈尔市泰来县，是洮（洮南）昂（昂昂溪）铁路跨越嫩江的铁路桥，也是进入齐齐哈尔的咽喉要道。
对日寇的无理要求，马占山断然拒绝，同时电告张学良：“此际断不可退却 。日本军若来攻击，即将之歼灭。此杀敌之快举，由马占山个人负责 。 ”
1931年11月4日，日寇向江桥发动突然袭击，中国守军奋起还击，江桥抗战正式打响，马占山率领爱国官兵打响了中国大规模武装抗战第一枪。
11月4日至6日为江桥抗战的第一阶段，我军将士同仇敌忾、毫无惧色，充分发挥骑兵优势，以伤亡约1000余人的代价，给日伪军以重创。日军进攻的主力部队第十六联队，死伤者就接近200人。在11月5日当天，其下属的一个大队遭我军三面围攻，33人阵亡，100余人负伤，一个大队遭受此种几乎毁灭性的打击，是发动侵略战中后的日寇首次遇到。
江桥抗战后日军收拾鬼子尸体
关东军档案记载：“中国军队用步兵及骑兵实行包围式反攻，日军蒙受极大之损失，而不得不向后撤退。”
日寇为尽快打破僵局，开始调兵遣将，集结了步兵第16联队、第4联队、第29联队第1大队、骑兵第2联队、野炮兵第2联队、野战炮兵第26联队第3大队、临时野战重炮兵大队，以及3个飞行中队，总兵力超过3万人。
此时的马占山没有外援，只能孤军奋战。他主持军事会议，布置三道防线，调动齐齐哈尔周边所有兵力，包括绥化保安大队2000人也作为独立团参战，总兵力约1.3万余人，誓与日寇血战到底。
日寇从11月12日开始，连续向我军阵地发起进攻，我守军在骑兵第1旅旅长吴松林、骑兵第2旅旅长程志远、暂编第1旅旅长苑崇谷等爱国将领的带领下，与日寇展开殊死搏斗，敌我双方均伤亡惨重。
11月16日凌晨4时，日寇又发起总攻，以8辆坦克为先导，在10余门重炮、20余门野炮的配合下，对我军阵地实施猛烈攻击。我英勇守军与日寇鏖战三昼夜，肉搏十多次，反复冲杀，阵地多次失而复得。11月18日15时，日军又增加飞机12架、坦克12辆、大炮30余门，以猛烈炮火，将我守军战壕几乎全部摧毁。
我守军由于粮食仓储地被日机炸毁，士兵粮食断绝，几日未睡，援兵无望。18日晚，马占山不得不下令向海伦撤退。11月19日，日寇侵占齐齐哈尔。
日寇侵占齐齐哈尔
江桥抗战后，马占山的兵力损失严重，军械粮饷、财经等方面都极为困难。虽多次请求国民政府给予支持，却得不到一枪一弹、 一兵一卒的支援。日寇不断调集重兵，缩小包围圈，马占山的队伍处于聚而被歼的危险境地。
面临险境，如何保存兄弟们的性命以备再战，成为马占山抉择的关键。他曾跟身边人说“ 我看不行了，非想法子不可，不缓和一下，全军有覆灭的可能。我要同小鬼子较一较智能。”
一天早晨，马占山突然过江到哈尔滨，与日军第二师团长多门二郎中将谈判。马占山提出三个条件：日本没有领土野心；日本在黑龙江不得驻兵；黑龙江省的内政日本不得干涉。
马占山说：“ 你们若是能照这三条办，我便同你们讲和，若是不能照这个办，我至死也不答应。你们放我回去， 我固然打你们，你们不放我回去， 我的部下也是绝对打你们。 ” 多门二郎立即答应马占山提出的条件。
1932年2月24日，马占山就任伪黑龙江省省长。3月9日，就任伪满洲国军政部长。在此期间，马占山利用伪省长的身份，筹集了伪满币两千多万元（相当于银元两百万元）、三百匹战马和十几卡车物资，秘密送往黑河等地，以备抗日之用。
4月1日凌晨，马占山以检阅部队为名，率卫队步兵一营、骑兵一营，携带军政两署关防印信和重要文件，离开齐齐哈尔直奔拜泉。4月7日，经克山、讷河抵达黑河，随后通电全国，再举抗日义旗。
为联合省内各县民团等抗日力量，马占山组织成立了黑龙江省抗日救国军总司令部，自任总司令。他公开号召：“凡我民团及各乡居户所存之枪械，均应全数带出组民众抗日救国义勇军”, “努力杀敌，复我山河！”
在马占山的感召下，黑省东北部各县爱国义士积极响应，纷纷组织成立抗日义勇军。其中有：海伦梁振铎、泰来徐子英、拜泉张品三、克山张墨林、北安南廷芳、望奎李天德、绥化李云集、肇东张希五、讷河徐海亭、巴彦张庆禄、呼兰才洪猷、甘南张殿九等。他们中有的是地主、县长，有的是马占山旧部，还有的出身绿林，虽背景各异，但都有一个信念：誓死不做亡国奴！
东北抗日义勇军
1932年4月上旬，马占山与吉林自卫军总司令李杜取得联系，约定共同反攻被日寇占领的哈尔滨。4月中旬，吉林自卫军从东面向哈尔滨进攻，马占山所部主力分2路从北面和西面进攻哈尔滨，先后在呼兰、对青山等地与日军激战。日本关东军司令官武藤信义急调第十、第十四师团迎战。在江桥抗战中曾奋勇杀敌的骑兵旅旅长程志远，此刻背信弃义投降日寇，配合日军袭击海伦、绥化等地，切断了马占山所部的后路。5月17日，吉林自卫军总部所在地依兰也被日寇占领，各路抗日队伍被迫撤退。至此，反攻哈尔滨作战失利。
日寇开始加强对马占山部的围追堵截。6月末至7月初，马占山部在克东、拜泉等地多次遭围攻。7月29日，马占山部在绥棱县罗圈甸子一带，遭到日军第十四师团、第十师团多个联队的重重包围。当时正值阴雨连绵，将士们在泥泞中舍命相拼，鏖战三昼夜，最终冲出重围。这一仗虽毙敌颇多，但马占山部亦伤亡惨重。少将参议韩家麟阵亡，跟随马占山的黑省军政两署人员254人仅剩32人，所率部队1760人只剩170人，马匹、辎重等也损失殆尽。日寇在战场上发现大量文件，一度以为马占山战死，而大肆宣扬。
马占山收集残部，潜入大青山。在深山老林中与敌周旋，辗转40余天，终于脱离险境，到达龙镇。
1932年10月，马占山与海拉尔的东北民众救国军总司令苏炳文联系，组织四路大军，会攻齐齐哈尔：东路，马占山旧部朴炳珊和邓文部进攻泰安镇及安达；西路，苏炳文、张殿九部进军富拉尔基；南路，李海青部向昂昂溪进军；北路为主攻部队，由马占山亲自督率徐海亭部进攻齐齐哈尔北部的拉哈；然后4路合攻齐齐哈尔。总攻时间定为10月20日。
苏炳文将军
在龙江大地上，我中华热血男儿揭竿而起，在缺乏重武器，弹药匮乏的困境下，毅然对侵占我城镇的具有绝对装备优势的日寇发起主动攻击。前仆后继，堪称壮哉！
日军根本没有想到，各县镇会遭此攻击，一时兵力不足，我各路抗日队伍在进攻初期连战连胜。
据日军档案记载：林大尉指挥下的泰安镇守备队于10月20日6:00突然遭到约4000兵匪及反满洲国军攻击陷入重围，至今已激战死守九昼夜。本战斗林部队死伤情况：战死林步兵大尉、特务曹长1人、下士1人、兵11人；负伤特务曹长1人、下士2人、兵14人。
12月21日，马占山率部攻到拉哈镇前，日军小泉联队两千六百余人驻守于此。激战至29日，我军攻占了拉哈街区，日军退缩至车站坚守，双方进入僵持阶段。
日本相关资料记载：拉哈战斗中，马占山部骑兵部队以套索拉倒木栅冲进镇内，用马刀砍杀日军，异常彪悍。后用重炮方将其击退。
日军拍摄照片：马占山骑兵部队军旗与武器装备
此时，日关东军司令官武藤信义将骑兵第一旅团和骑兵第四旅团，以及关东军飞行队的轰炸第十二大队和侦察第三中队均调归第十四师团长松木直亮指挥，向拉哈进发，对马占山部形成包围之势。
其他各路抗日队伍也因日寇援军到达，战斗进入拉锯状态，敌我双方伤亡均严重。
日军另一档案记载：骑兵第18联队后卫第1中队（中队长川崎长雄骑兵大尉）在行军途中与联队本部失去联络，暗夜中迷路误入东新屯附近敌军集结地，29日拂晓被约1000名敌军围攻，川崎中队长以下59名全员玉碎（玉碎就是死了的意思）。
此刻黑省已普降大雪，军需供应极端困难，我各路官兵已鏖战良久，伤亡过大，遂被迫撤离。
马占山于11月14日到达扎兰屯，会同谢珂、张殿九前往海拉尔，与苏炳文的抗日救国军汇合。
11月下旬，嫩江全线封冻，日军以第十师团为主力，以装甲车、坦克，并以飞机助战，向我嫩江西岸救国军阵地大举进攻，富拉尔基、朱家坎相继陷落。在冰天雪地间，救国军孤军奋战，终因弹尽粮绝，被迫于1932年12月4日夜，马占山、苏炳文率领军民数千人，由满洲里退入苏联境内。
马占山将军率领的以黑省军为主导各地抗日队伍积极响应的大规模武装抗日，历时一年多，大批爱国官兵与民众为家国而战，献出了宝贵的生命。
这一阶段的战斗虽然失败了，但对中华民族而言意义重大。东北军民的抗战打碎了侵略者妄图以摧枯拉朽之势占领我东北国土的妄想，打出了中国人的骨气，唤醒了中华民族团结抗日的信心！