在朱元璋的眾皇子中，燕王朱棣的能力較為突出。而且，早年間朱棣曾跟隨徐達出塞，對治軍方面頗有心得。朱棣最擅長的就是和軍中將領打成一片，視將士們如手足，這就是他麾下將士們愿意追隨他的重要原因。

張玉從洪武二十四年調任燕山左后衛，到靖難之役之前，他在朱棣麾下一共待了7年時間，遠不如他在北元的時間長。朱棣當年為了讓張玉死心塌地地跟著自己，不僅待張玉如兄弟，還僅納了張玉的女兒為側妃。朱棣的王妃徐氏（徐達之女）經常派人給張玉的妻子和兒子送去關懷。這樣的待遇，是張玉在北元所不曾有過的，張玉焉能不被朱棣折服？

明仁宗朱高熾登基后，曾回憶朱棣評價張玉的一段話：

張玉識見謀略，卓然老成，非諸侯所及，且端方有匡直之益，誠難得也。

可見，在朱棣的心目中，張玉“非諸侯所及”，且為人端方，是非常難得的將才。

良匠無棄材，明君無棄士。

朱棣能在眾多將校中看出張玉之才，并用心思去拉攏他為己所用，這也是他能夠成功的因素之一。

二、藩王起兵眾將戮力，張玉驍勇連敗兩將

明朝洪武三十一年五月，朱元璋駕崩，皇太孫朱允炆繼位，是為建文帝。朱允炆登基后，身后以齊泰、黃子澄為首的親信極力慫恿朝廷削藩，而年輕氣盛的朱允炆也不愿看到藩王勢大，所以，在朱元璋尸骨未寒的情況下，朱允炆派李景隆突襲了周王朱橚的府邸，將朱橚及其兒子貶為庶人。

《明史·本紀第五》記載：

憚燕王強，未發，乃先廢周王橚，欲以牽引燕。

意思是，建文帝從一開始就忌憚燕王，之所以先削周王，就是因為周王朱橚是燕王的同母弟，想借此來剪掉燕王的羽翼。

所以，周王被削之后，燕王麾下的將士有些義憤填膺，有急性子的甚至慫恿燕王起兵自立。而此時的張玉并沒有發表看法，因為不管朱棣做出什么樣的決定，他都會義無反顧地支持。

接下來的一年，朱允炆又削掉4位藩王，其中朱元璋的第十二子、湘王朱柏因為不堪折辱，直接舉火自殺了，這些消息深深地刺激到了朱棣。這時，朱棣身邊的謀士姚廣孝也勸朱棣“只信天道，不論民心”，朱棣終于下決心暗中囤積糧草、打造兵器，準備起兵。

建文元年七月，建文帝給北平布政使張昺、指揮使謝貴、張信三人送來密旨，要求他們暗中設計擒獲朱棣。張昺、謝貴二人領命，張信表面上遵旨，私下里卻向朱棣通風報信。朱棣大驚，連忙和姚廣孝商議對策。結果，朱棣讓張玉、朱能率軍埋伏在王府內，然后邀請張昺、謝貴二人上門，就這樣，張昺、謝貴二人在猝不及防的情況下被張玉和朱能殺掉。接下來，朱棣以“清君側”為名，發動靖難之役。

燕王朱棣雖然身在北平，但他僅僅在藩邸，燕王府之外的地方名義上還歸朝廷節制。所以，接下來就是張玉大顯身手的時候了。《明史》記載：

建文元年，成祖起兵。玉帥眾奪北平九門，撫諭城內外，三日而定。

朱棣派張玉帶領麾下眾將奪取北平的九門，張玉不辱使命，在三日內便控制了整個北平城。

當時，北平都指揮使馬宣被張玉擊退，兵敗薊州，準備聯合薊州兵馬重新奪回北平，朱棣聽聞后，連忙下令守城。張玉卻建議朱棣以攻代守。于是，朱棣命張玉為將，帶5000兵馬突襲薊州，打了馬宣一個措手不及，不僅奪下了薊州，還招降了薊州兵卒。可謂“旗開得勝”。

而后，張玉又率軍奪下永平、密云等周邊重鎮。待遠在南京的朱允炆得到朱棣造反的消息后，張玉已經打了一波又一波的勝仗。

建文元年八月，朱允炆派老將耿炳文帶兵30萬北上平“叛”，朱棣率軍迎戰，張玉擔任先鋒。耿炳文的大軍剛到真定，張玉便率眾趕到。

當時，朱棣剛起兵不久勢單力薄，而耿炳文又是開國名將，燕軍中大部分將領都不敢和耿炳文開戰，朱棣也十分猶豫，唯獨張玉不懼。《明史紀事本末》記載：

張玉往覘炳文營，還報燕王曰：“炳文軍無紀律，其上有敗氣，無能為。潘忠、楊松扼吾南路，宜先擒之。”

由于耿炳文的大軍一路奔襲而來，士卒勞累，紀律渙散，張玉建議直接率軍攻打由潘忠、楊松駐守的雄縣。朱棣大喜，命張玉為前鋒，張玉率軍如犁庭掃穴，擒獲了潘、楊兩將。

就在耿炳文調整軍力，準備過河的時候，張玉又率軍“擊敵于半渡之間”，大破耿炳文。耿炳文損失3萬余人，不得不退回真定死守。

耿炳文兵敗，朱允炆走馬換將，派曹國公李景隆接任南軍主帥。朱棣對李景隆頗為輕視，他帶著張玉等人避開李景隆，直接攻打北京后方的大寧，不僅殺掉了指揮使朱鑒，還收編了寧王朱權的兵馬。

待朱棣回師，李景隆正在攻打朱棣的老巢北平，好在北平有朱高熾和姚廣孝駐守，李景隆未能破城。接下來，雙方在鄭村壩展開會戰。《明通鑒·卷十二》記載：

辛未，戰于鄭村壩，連破其七營，遂逼景隆。燕將張玉等列陣而進，乘勝抵城下，城中兵亦鼓噪而出，內外夾攻，景隆師潰，宵遁。

朱棣把自己的士兵分為五營，其中張玉負責帶領中營直沖李景隆的大帳，朱能、丘福等帶領其余四營合圍包抄，北平城內的朱高熾也擂鼓為燕軍助陣，結果張玉連破李景隆7座大營，南軍將領竟然無人能擋其勇。最終，在內外夾擊之下，李景隆潰敗，下令退兵。

從靖難之役爆發，到李景隆退兵，張玉先在北平擒張昺、謝貴，再在薊州殺掉馬宣，待走馬回營，又連敗耿炳文和李景隆兩位南軍主帥，試問，朱棣帳下，誰有張玉之勇？

三、攻東昌大將陣亡，祭天地燕王落淚

建文二年，朱棣攻打廣昌、蔚州、大同三座重鎮，張玉和朱能二人立功最多。到了四月，朱棣和李景隆在白溝河對陣，展開決戰。《明史》云：

諜報景隆收潰卒，號百萬，且復至。玉曰：“兵貴神速，請先據白溝河，以逸待勞。”駐河上三日，景隆至。以精騎馳擊，復大敗之。

當時，探子得到消息，說李景隆收攏潰卒，聯合郭英、吳杰等人，合計有百萬兵馬，南軍浩浩蕩蕩正朝這邊殺來。張玉稟明朱棣說“兵貴神速，我們應該先占據白溝河，以逸待勞。”于是，朱棣下令移師白溝河，磨刀霍霍等著李景隆。待李景隆馬不停蹄地趕到白溝河，張玉帶領精騎對李景隆展開突襲，李景隆再一次敗在張玉手上。

這一次，李景隆敗得非常慘，史載“璽書斧鉞皆委棄”，連朱允炆賜給他的璽書斧鉞都丟了，糧草輜重更是丟棄無數，簡直是一敗涂地。

縱觀靖難之役前期的幾次大戰，人們都知道是朱棣先擊敗耿炳文，又兩次擊敗李景隆，殊不知，這三次大型戰斗，承擔主要攻擊任務的將領是張玉、朱能、丘福三人，其中，張玉出力最多，戰績最為輝煌。

白溝河之戰結束后，李景隆逃到了德州，張玉聽聞后，立即帶兵追趕，等到朱棣趕到德州的時候，張玉已經拿下德州。隨后，李景隆逃往濟南，朱棣和張玉又攻打濟南，若不是濟南有盛庸和鐵鉉二將死守，恐怕張玉這次就生擒李景隆了。

當年十月，朱棣從濟南撤兵，在回軍的路上，張玉又順便攻入滄州，擒獲滄州守將徐凱。同年十二月，張玉迎來了他人生中的最后一戰——東昌之戰。

東昌，即現在的山東聊城，由于他毗鄰濟南，和濟南互為掎角，地理位置尤為重要。

為了拿下東昌，朱棣幾乎精銳盡出，盛庸聽聞燕軍將至，殺牛犒勞將士，鼓舞南軍士氣。