1931年12月15日，张学良倚为依靠的蒋下野，张的抵抗意志更加消沉，在日军大举进攻的压力下，张最终下令东北军主力于1931年最后一天撤离锦州。
在回复记者的访谈时，东北军方面表示在锦州周围与日军进行了激烈的攻防战斗，最后不支撤退，损失五千余人。然而，除步兵19旅，第2军骑兵20旅，装甲列车队以外，基本与日军未有接触即撤离，撤离时日军还在锦州的百里之外。
真正在锦州外（围）和日军展开了血战的，是黄显声部下的义勇军和公（安）队。他们与日军在白旗堡，田庄台，盘山，打虎山各地辗转血战，还曾经反攻过营口，给日军造成相当重大的打击。
东北军撤退时，黄显声帅三个骑兵（公）安总队断后掩护。黄以第一，第二总队掩护机关人员撤退，亲自带第三总队到大凌河畔杨官屯拒敌。
1月2日，黄部与日军渡大凌河部队展开激战，由于敌众我寡，战斗到夜间两点三十分，黄下令炸毁女儿河铁桥阻挡日军追击，部队撤向关内。
1月3日，日军占领锦州。义勇军部队，一部随黄显声入关，一部留在当地继续和日军作战。
由于“义勇军”这个名字响亮而且贴切，逐渐成为东北各地抗（日）军民最为常用的叫法。
1935年，田汉，聂耳（盒）作为电影《风云儿女》谱写了主题曲--《义勇军进行曲》。这首脍炙人口的战歌，后来成为今天的国歌。
然而，很少有人去细究这里所说的“义勇军”，最初指的是哪一支部队了，它代表的，是白山黑水的关东人，也是全体中国人不屈的精神。
入关后的黄显声，所部公（安）骑兵总队和一同撤退的保安队，义勇军被改编为骑兵第二师，黄任师长，参加了长城抗战，再次与日军交手。
以后，为了替张学良控制53军万福麟部，又前往万部担任副军长兼119师师长。威震冀中的吕正操司令员，当时就是他的部下，也是他的好友。
黄显声并协助张学良策划和实施了西安事变。1938年，黄显声到武汉活动争取释放张学良不果，经伍豪介绍，准备以我党特别党员的身份到延安组建新的东北军，不幸被国民当局方面扣押，从此开始了十年的拘禁生活。
黄的被扣押，与东北军内部斗争也有很大关系。黄是张学良最为亲信的少壮派军官，长城抗战后，张学良深感老东北军将领各顾妻子，腐化老朽，已经不堪改造，因此大力提拔少壮派军官。黄显声就是其中的典型。
然而，这种做法明显侵犯了占据高位的老牌将领的利益。张学良被扣以后，东北军上层并非都尽全力营救，而是在蒋的拉打之下（分）裂，自相残杀，可说与此有关。
失去了张学良支持的黄显声，也成为这些老牌将领的眼中钉。正是因为看到这一点，蒋才毫不犹豫地扣留了这位著名的抗（日）将领，他确信这不会影响他对于东北军的使用。蒋深恨黄显声，因为从事后的情报得知，西安事变中，黄显声是张学良最主要的助手之一，而且态度强硬明朗。
在被扣押的十年时间里，最初还给会武术的黄显声戴着镣铐，怕他逃跑，黄显声从不屈服，坦然自若。他在一封信中写道“我现在虽然坐牢，