張玉，字世美，祥符人。元朝時(shí)任樞密知院。元朝滅亡后，他跟隨逃往漠北。洪武十八年(1385)，前來(lái)歸附太祖。他隨大軍出塞，到達(dá)捕魚兒海，因功被授為濟(jì)南衛(wèi)副千戶，升為安慶衛(wèi)指揮僉事。又隨征遠(yuǎn)順、散毛諸洞，北逐騷擾邊境的元朝人，追至鴉寒山而返，調(diào)任燕山左護(hù)衛(wèi)。他隨燕王出塞，到達(dá)黑松林。又跟隨征討野人諸部，因?yàn)樗斢鹿遥朴谥\劃，而被燕王重用。

　　建文元年(1399)，成祖起兵。張玉率軍奪取北平九門，安撫城中內(nèi)外，三日遂定。軍隊(duì)將往南，張玉獻(xiàn)計(jì)，派朱能東攻薊州，殺死馬宣，降服遵化，分兵攻下永平、密云，每到一處，都將所獲精銳充實(shí)軍中。張玉因而被提升為都指揮僉事。

　　這時(shí)朝廷派大軍伐燕，都督徐凱駐扎河間，潘忠、楊松駐扎莫阝州，長(zhǎng)興侯耿炳文率三十萬(wàn)軍隊(duì)駐扎真定。張玉勸說(shuō)道“：潘、楊二人有勇無(wú)謀，可以前去襲擊，俘獲他們?！背勺姹忝鼜堄衤暑I(lǐng)親兵為前鋒，直抵樓桑。恰好是中秋節(jié)，南軍正在設(shè)宴。夜半時(shí)分，張玉軍迅速攻破雄縣。當(dāng)潘忠、楊松前來(lái)救援時(shí)，便在月漾橋進(jìn)行攔擊，生擒他倆，遂克莫阝州。張玉親率輕騎窺探耿炳文軍?；貋?lái)后說(shuō)耿炳文軍毫無(wú)紀(jì)律，在當(dāng)官的中間有失敗氣氛，應(yīng)當(dāng)迅速進(jìn)擊。成祖遂引兵往西，到達(dá)無(wú)極時(shí)，回頭與諸將商量該往何處。諸將認(rèn)為南軍盛多，請(qǐng)求駐扎新樂。張玉則說(shuō)“：他們?nèi)穗m多，但都是新招集的。我軍乘勝直趨真定，一定能攻克它。”成祖高興地說(shuō)“：我有了張玉便足以成大事了?！钡诙毂愕诌_(dá)真定，大破耿炳文軍，俘獲副將李堅(jiān)、寧忠，都督顧成等，斬首三萬(wàn)，又擊敗安陸侯吳杰軍，燕兵從此大振。

　　江陰侯吳高率遼東兵圍攻永平。曹國(guó)公李景隆則率數(shù)十萬(wàn)大軍將攻北平。成祖與張玉商量，決定先援永平。燕兵一到，吳高便逃走了，張玉追斬甚多。然后抄小道襲擊大寧，俘虜多人而返。駐扎會(huì)州。開始設(shè)立五軍，張玉統(tǒng)領(lǐng)中軍。當(dāng)時(shí)李景隆已圍攻北平，成祖回師，雙方大戰(zhàn)于鄭村壩。李景隆戰(zhàn)敗，成祖乘勝直抵城下。城中守軍吶喊而出，內(nèi)外夾攻，南軍大潰。

　　第二年，張玉隨軍進(jìn)攻廣昌、蔚州、大同。探子報(bào)告說(shuō)李景隆收集潰兵，號(hào)稱百萬(wàn)，即將來(lái)到。張玉說(shuō)：“兵貴神速，我們要先占白溝河，以逸待勞。”燕軍駐扎河上三日后，李景隆才到，燕兵以精銳騎兵迅速進(jìn)擊，又大敗之。并進(jìn)拔德州，追趕到濟(jì)南，圍攻三月后，解圍而返。隨后再次出兵，破滄州，擒徐凱，進(jìn)攻東昌，與盛庸軍相遇。成祖率數(shù)十名騎兵繞到其后。盛庸將他們層層包圍起來(lái)，成祖奮擊才得以沖出重圍。張玉不知成祖在何處，便突入陣中拼力而戰(zhàn)，格殺數(shù)十人，自己也受傷而死。終年五十八歲。

　　燕兵興起以來(lái)，轉(zhuǎn)戰(zhàn)三年，兵鋒極銳?，F(xiàn)在損失大將，全軍氣餒。回師北平后，諸將叩首請(qǐng)罪。成祖說(shuō)：“勝敗乃是常事，不必在意，只可惜失去了張玉。正是艱難之際，我卻失去了一位好幫手。”成祖淚流不止，諸將也都哭了。此后譚淵死于夾河，王真死于氵肥河，成祖雖然悲悼痛惜，卻都不如當(dāng)初對(duì)張玉。建文四年(1402)六月，成祖稱帝，追贈(zèng)張玉為都指揮同知。九月初四日，又追贈(zèng)他為榮國(guó)公，謚號(hào)忠顯。洪熙元年(1425)三月，張玉被加封河間王，改謚忠武，與東平王朱能、金鄉(xiāng)侯王真、榮國(guó)公姚廣孝一起配享成祖廟庭。