１９３３年初，中共中央在给东北各级党委和全体共产党员的一二六指示信中，要求在东北建立全民族的抗日统一战线，以党领导的抗日游击队为骨干、联合其他抗日武装，共同进行抗日斗争。杨靖宇积极贯彻落实党中央和省委的指示，于同年９月领导成立了东北人民革命军第１军独立师，任师长兼政治委员。１９３４年４月，他联合１７支抗日武装成立了抗日联合军总指挥部，任总指挥。同年１１月，任东北人民革命军第１军军长兼政治委员。１９３６年春任东北抗日联军第１军军长兼政治委员，同年６月任东北抗日联军第１路军总司令兼政治委员。杨靖宇成为东北抗日联军的主要创建人和领导人之一。他率部长期转战东南满大地，打击日伪军，威震东北，有力地配合了全国的抗日战争。中共六届六中全会曾致电向以杨靖宇为代表的东北抗日武装表示慰问，称之为“冰天雪地里与敌周旋７年多的不怕困苦艰难奋斗之模范”。

    日伪军将东北抗联特别是其主力第一路军视为眼中钉，肉中刺，反复进行所谓“讨伐”。在１９３９年秋冬季东南满反日伪军“讨伐”作战中，杨靖宇与魏拯民等指挥部队化整为零、分散游击，自己率警卫旅转战于濛江一带。最后，他只身与敌周旋５昼夜，以无比坚强的毅力，英勇顽强地战斗，直至弹尽粮绝，于１９４０年２月２３日在吉林濛江三道崴子壮烈牺牲，时年３５岁。

    杨靖宇牺牲后，残忍的日本侵略军无法理解这位英雄的坚强行为，他何以能够在冰天雪地里长时间被围困、且完全断绝粮食的情况下，顽强坚持战斗。日军将他割头剖腹，发现他的胃里尽是枯草、树皮和棉絮，竟无一粒粮食！侵略军也无不为之震惊。抗日战争胜利后，为纪念杨靖宇这位抗日民族英雄，１９４６年东北民主联军通化支队改名为杨靖宇支队，吉林省濛江县改名为靖宇县。