1939年在东南满地区秋冬季反“讨伐”作战中，他与魏拯民等指挥部队化整为零、分散游击。自己率警卫旅转战濛江一带，最后只身与敌周旋5昼夜。他以难以想象的毅力，坚持和敌人进行顽强斗争，直至弹尽，于1940年2月23日在吉林濛江三道崴子壮烈牺牲。残忍的日军将其割头剖腹，发现他的胃里尽是枯草、树皮和棉絮，竟无一粒粮食。为纪念他，1946年东北民主联军通化支队改名为杨靖宇支队，濛江县改名为靖宇县。