1941年9月下旬，日军出动重兵，在津田美武的统一指挥下，分成三路对晋察冀军区第一军分区大举进攻。第一路是110师团110联队；第二路的主力是日军独立混成第15旅团和汉奸赵玉昆为首的易县警备团；第三路是独立混成第2旅团。9月24日，在汉奸赵玉昆的带领下，日伪军3500多人包围了狼牙山。此时一分区政治部、卫生部和医院都在山上，加上逃难的乡亲们，共有4万多人被敌人合围。
狼牙山虽然地势险要，但缺少水源，整座山只有一个小泉眼，一天只能接一盆水，勉强够山上的几个道士用。没有水，就算敌人不进攻，四万多人在山上也无法坚持。当时一团团长邱蔚身边，只有一个连的兵力，根本就无法从正面突围。危急关头，一分区司令员杨成武下令，三团和20团全部出动，猛攻日军后方的管头村和松山村，抄敌人的后路，迫使敌人从狼牙山撤兵回援。
24日深夜，在肖应棠和陈宗坤的带领下，三团和20团拿出了全部家底，分别对管头和松山村发起了猛攻。这两个村的日军不多，抵挡不住三团和20团的进攻，急忙向津田美武求援。为了消灭一分区的主力，津田美武下令，狼牙山下的日军立刻从狼牙山南碾子台、九莲山一带调头，以最快速度赶回松山村和管头村，对八路军进行内外夹击。
但日军并没有全部撤走，还留下了数百人，在茅田幸助的带领下继续向狼牙山进攻。25日清晨6点左右，7连指导员蔡展鹏找到六班，给他们布置了一个任务：带一挺机枪殿后，掩护山上的乡亲们转移。当时六班只剩下了五名战士，分别是班长马宝玉、战士胡德林、胡福才（叔侄）、葛振林和宋学义。虽然人数不多，但这五个人全都是三年以上军龄的老兵，战斗经验十分丰富。
很快日伪军就发起了进攻，打到9点多的时候，六班的机枪*弹子**和地雷全都用光了，只剩下了五支步枪。马宝玉带着战士们且战且退，来到了一个岔路口上。向北去是主力部队和群众转移的方向；向南走是通向棋盘陀的绝路。马宝玉和战士们没有任何迟疑，上了棋盘陀，后面是紧追不舍的鬼子。途中，战士们遇到了老君堂的道士李圆忠。
李道长见情况危急，就对他们说：我那里有个山洞可以藏人，跟我走吧。为了给乡亲们多争取一些转移的时间，战士们谢绝了李道长的好意。马宝玉带着四个战友，一面向鬼子射击，一面攀上了毫无退路的高峰。*弹子**打光了，*榴弹手**也甩光了，战士们搬起身边的石头向敌人砸去。给鬼子带路的汉奸，不断喊话让他们投降。
最后的时刻到了，马宝玉带着大家砸毁枪支，然后高喊口号，纵身跃下了山崖！胡德林和胡福才叔侄俩跟着跳下；葛振林搂着十七岁的宋学义，最后跳了下去！宁死不给鬼子留一条枪，更不做鬼子的俘虏！当带队的鬼子军官茅田幸助看到这壮烈的一幕时，深深被震撼，下令全体对天鸣枪、脱帽，向这五名强悍的对手致敬！
狼牙山五壮士当中，马宝玉、胡德林和胡福才牺牲时的年龄分别是21岁、19岁和18岁。宋学义和葛振林被半山腰的树丛挂住，幸免于难。宋学义由于腰部受了重伤，不久后退伍，后来成了村支部书记，1971年病逝，享年53岁；葛振林伤愈后继续和敌人战斗，抗战胜利后又参加了解放战争和抗美援朝战争，回国后担任过衡阳警备区后勤部副部长，2005年病逝，享年88岁。
被困在狼牙山的乡亲们转移后，杨成武带着三个连和军区机关向大新开沟一带转移，途中遇到了许多逃难的老百姓，杨成武带着他们一起走。快到大新开沟时遇到了正被日军*攻围**的三分区副司令员詹才芳，杨成武立即命令部队集中轻重机枪从敌人背后开火，将这股鬼子杀退，救出了詹才芳。之后詹才芳率部向平西一带转移，杨成武则决定向花塔山前进。
花塔山地势险要，位置又十分偏僻，以往日军从来没有来这里“扫荡”过，因此杨成武认为这里比较安全。一路上，除了落单的八路军、逃难的老百姓外，白求恩卫校师生的第二队也跟随加入，整个队伍已经变成了5000余人，大部分没有战斗能力。10月6日天快亮时，满身疲惫的这支大部队终于来到了花塔山。然而山下的情景却让杨成武目瞪口呆。
一堆又一堆的篝火旁，是正在宿营的鬼子，粗略估算，也有数千人。这股日军正是110联队，他们从牙狼山撤离后，奉命前往花塔山“扫荡”。前有鬼子堵截，后有鬼子追赶，手中只有三个连的兵力，怎样才能掩护四千多名手无寸铁的乡亲们转移呢？杨成武深感肩上的担子沉重。他下令大家隐蔽待命、恢复体力，不许发出一点声响，并让战士们做好了随时战斗的准备。
这四千多名老乡当中，绝大部分都是上了年纪的老人。经过连日的奔波，他们的体力早已耗尽，休息了很长时间才恢复过来。就在杨成武准备带领大家强行突围的时候，有一位老乡说花塔山的西北角有一个名叫梯子沟的山沟，位置十分偏僻，知道的人很少，部队或许可以从那里突围。杨成武马上派出侦查员前去侦查，那里果然没有敌情。
绝境中看到了一丝曙光，大家都很高兴。就在部队准备动身的时候，白求恩卫校的同志报告了一个情况，冀中军区的后方医院石家庄子里还有部分重伤员。那么谁去转移这些重伤员呢？杨成武身边仅有的三个连是不能动的，因为天一亮敌人就会搜山，到时候山上4000多名手无寸铁的乡亲们都要靠这三个连去保护。
战士们不能动，就只能指望卫校的护士了。杨成武咬着牙做了决定，侦察连和一团三连抢占梯子沟的两侧进口，警卫连掩护4000多个老乡先走。同时他给侦察连和三连下了死命令：只要卫校的护士和重伤员还没有脱险，这两个连就必须打到最后一个人！乡亲们快要转移完的时候，卫校的护士也抬着重伤员赶来了。
鬼子在花塔山上没有发现八路军，但却发现有宿营的痕迹，就分成多路搜寻，其中一路赶到了梯子沟。侦察连和三连与敌人展开了血战，一分区参谋长黄寿发黑着脸钉在阵地上，死战不退。直到所有的人员都出了梯子沟后，侦察连和三连才开始撤退。已经走出沟口的警卫连居高临下对鬼子射击，正在沟底追击的日寇当场倒下一大片，这才停止了追击。
为了掩护乡亲们和重伤员转移，侦察连和三连付出了40多人的伤亡代价，侦察连连长胡尚义身中十余弹，壮烈牺牲。虽然暂时摆脱了敌人，但杨成武知道并没有真正脱离险境，他决定带着众人返回一分区。随行的这数千多人当中，不少人不是一分区的，他们不愿意跟随杨成武返回狼牙山，而是坚持要向南走。由于不是自己的部下，杨成武也不好强行下命令，只得提醒他们沿途不要停留，以免给鬼子可乘之机。
杨成武带着乡亲们走后，卫校的师生们又在原地歇息了一会，然后才抬着伤员出发。当走到白银坨的时候，又累又饿的队伍停了下来，准备休息一下恢复体力后再走。不久后鬼子追了上来，卫校的师生们只有几支步枪，结果除了50余人侥幸突围外，剩余的150多人被鬼子杀害。上世纪70年代的时候，一些人因此对杨上将进行指责。但我个人认为，在当时的情况下，杨成武已经尽了自己最大的努力。换谁也不会比他做得更好了，这就是抗战的艰难和残酷。