抗战期间，参加了鹊山阻击战、柳河阻击战、鲁西游击战、台儿庄战役外围战和沂蒙山区第一、二、三次反“扫荡”，特别是在沂蒙山区第一次反“扫荡”中，独率本连坚持内线游击，掩护主力突围，曾舍身营救原山东省主席沈鸿烈于危难之中，也曾冒险救助数百群众脱离日军虎口，还曾亲率数十官兵夜袭伪泰东“剿匪”总司令部，在军中素享“张大胆”、“小诸葛”之美誉。抗战中历经大小战斗百余次，屡立战功，被中华民国政府记大功一次、记功和嘉奖数次，获青天白日和五等、六等宝鼎勋章各一枚。
一九四三年初，极力抵制师长吴化文率部投敌，未果，乃愤而脱离吴部，经原山东省主席、时任国民党中央党政工作考核委员会秘书长的沈鸿烈先生介绍，考入黄埔军校第十九期，为第一总队炮兵第一大队第二区队学员;一九四五年四月毕业，曾蒙校长蒋中正单独召见、个别训示，而后被分发国民政府军政部任参谋。抗战胜利之际，被派往安徽蚌埠，从事收编汪伪“和平建国军”第三方面军吴化文部的工作，后被留在吴部，先后任国民革命军新编第五路军总部中校参议、整编第九十六军军部兼整编第八十四师师部副官处中校副处长等职。
他信仰坚定、不辱使命，积极为中共工作，十二年地下工作生涯，历尽曲折坎坷和艰难险阻，多次给中共方面提供军事、政治情报。一九四0年春因掩护八路军被撤职查办;翌年夏因向八路军提供武器弹药被军统特务抓捕;一九四七年因在军中散布反内战言论再次被国府保密局通缉追捕;一九四八年九月，积极策动原国民党整编第九十六军军长兼整编第八十四师师长吴化文中将率部起义，为解放军攻占济南作出了贡献，后在解放军第三十五军一0三师任职，参加了淮海战役。张允澄天资聪敏、智勇双全，十五岁投笔从戎，不满十七岁因战功升任连长、营长，十九岁升任中校副处长;在吴部十二年，经历了吴部抗战、易帜投汪、被蒋收编、济南起义等一些列重大历史事件。
