张郃送行。曹叡派遣三万士兵以及武卫、虎贲两营的勇士护卫张郃，还问张郃：“等将军到了前线，诸葛亮会不会已经占领了陈仓？”张郃知道诸葛亮孤军深入，不会携带太多的粮草，不能久攻，就回答说：“估计臣还没到前线诸葛亮就已经撤走了。臣屈指计算，诸葛亮的粮草支撑不了十天。”张郃昼夜行军到达南郑，诸葛亮果然撤退了。曹叡诏令张郃回师京城，任命他为征西车骑将军。
张郃用兵机变无双，懂得战术变化，擅於安营布阵，根据地形布置战略战术，没有他预料不到的情况，从诸葛亮起的蜀国大将都非常忌惮他。张郃虽然是武将，却喜欢同儒士交往，曾经推荐同乡卑湛，说他通晓经学，品德高尚，曹叡下诏说：“从前祭遵当将军的时候，奏请设置五经大夫，即便在军营中，也和儒士进行唱诗、投壶的游戏。现在将军您统军在外，在内还注意维护朝廷的礼仪。朕非常赞赏将军的美意，准许提拔卑湛为博士。”
太和五年，诸葛亮第四次北伐，诏命张郃统领众将到略阳迎击，诸葛亮退守祁山，张郃追到木门谷，与蜀军交战，飞来的箭矢射中了张郃右膝，张郃阵亡，据《魏略》记载，是司马懿强行命令张郃追击。朝廷赐给他壮侯的谥号，他的儿子张雄继承了他的爵位。张郃征战多年