后方杀出，张合“弃马缘山，独与麾下十余人从间道退”（《三国志·张合传》），此役成为他军事生涯中罕见的惨败。
建安二十四年（219年），定军山之战爆发，夏侯渊被黄忠斩杀，曹军军心大乱。
张合在乱军中接到败报，立刻飞马驰往夏侯渊大营，只见军旗倒地，士兵四散奔逃。
他跃上一块巨石，拔剑高呼：“夏侯将军已亡，吾乃张合！愿随我者，列阵迎敌！”
凭借着多年积累的威望，他迅速收拢残部，将军队撤至阳平关，依托关隘布下“重弩阵”和“拒马桩”。
刘备率大军来攻，见关防森严，不禁叹道：“向使夏侯渊善用张合，吾安得至此？”
直至曹操亲率援军抵达，西线战局才趋于稳定。
曹操拍着张合的肩膀说：“昔日子胥不早寤，自使身危，今儁乂临危不乱，真社稷之臣也！”
黄初三年（222年），曹丕伐吴，命张合随曹真进攻江陵。
这是张合首次指挥水军，他却不显慌乱，先命人绘制长江水势图，发现江陵城北的百里洲是关键——此洲位于长江中央，若控制此处，即可切断江陵与外界的联系。
他亲率楼船舰队，以“蒙冲斗舰”为前锋，强弩手列于船首。
吴军将领孙盛率水军来战，张合却命舰队散开，以“放风筝”战术消耗敌军：每当吴船逼近，便以楼船上的投石机投掷火石；待其退去，则擂鼓追击。
如此反复三日，孙盛军疲惫不堪，张合趁机命士兵登上百里洲，砍伐芦苇制成火筏，顺流而下焚烧吴军营垒。
此役过后，孙权遣使请和，曹丕赞张合“能步能骑，亦能水战，真吾之韩信也”。
太和元年（227年），陇右羌胡叛乱，张合奉命西征。
他率军抵达枹罕（今甘肃临夏），却不急于开战，而是派遣使者携带汉胡双语的《招降榜文》，遍贴各部落：“降者，仍居故地，免三年赋税；战者，诛灭三族。”
同时，他命士兵在边境屯田，展示曹军的粮草储备，羌人首领见曹军“兵强马壮，耕战有序”，渐渐放下戒心。
对于顽固的叛乱部落，张合则果断出击。在葵园峡之战中，他利用羌族骑兵“善散战、不善列阵”的弱点，以“车阵”围之——将战车围成圆形，步兵持长矛于阵内，骑兵藏于阵后，待羌军冲至近前，突然从车阵缝隙中射出弩箭，随后骑兵杀出。
此役过后，陇右诸胡“望风归附”，张合也因功晋封“征西车骑将军”。
建兴六年（228年），诸葛亮首次北伐，陇右三郡响应，关中震动。
曹叡急召张合进宫，将节钺交到他手中：“西方有事，非君莫可付者。”
张合率军星夜驰援，抵达街亭时，见蜀汉先锋马谡屯兵于南山之上，不禁哑然失笑：“谡徒能读父书，岂知实战？”
他先命人切断山下水源，然后围山而不攻，静待蜀军自乱。
三日后，山上缺水，士兵“饥渴难忍，自相践踏”，马谡下令突围，却遭张合伏兵夹击。
此战蜀军“士卒离散，死者甚众”，街亭一失，诸葛亮“进无所据”，只得挥泪斩马谡，退回汉中。
张合却在战后感叹：“诸葛公真乃劲敌，惜乎所用非人！”
太和五年（231年），诸葛亮第四次北伐，因李严运粮不济，被迫撤军。
曹叡命张合率军追击，张合却面露忧色：“兵法云‘归师勿遏’，诸葛亮善用伏兵，不可轻追。”
然而曹叡执意催促，张合只得领命。
五月的陇西山地，细雨绵绵。
张合率军追至木门道（今甘肃天水南），见道路狭窄，两侧峭壁如刀削，心中警铃大作。
他勒住坐骑，命前军暂停前进，亲自率斥候登山侦察。
果然，透过雨幕，他望见远处密林中隐约有旗帜晃动，
