于謹(jǐn)字思敬，小名巨引。為人深沉而有見識，略略瀏覽一些經(jīng)籍史書，特別愛好《孫子兵法》。閑居在家，沒有做官的想法。遇到有人勸時(shí)，他就說：“州郡一類職務(wù)，向來為人所鄙視的，公卿一類高位，須等待時(shí)機(jī)?！碧自炷乱娏撕?，感嘆地說“；真是王佐之材??！”

　　待破六韓拔陵為首在北境叛亂時(shí)，援引蠕蠕作為后援，大行臺元纂領(lǐng)兵討伐，他一向聽說于謹(jǐn)?shù)拿暎阏埶?dāng)鎧曹參軍事，隨軍北伐。蠕蠕敗逃出了塞外，元纂令于謹(jǐn)追擊，前后打了十七場戰(zhàn)斗，全部招降了敵軍部眾。后來曾率領(lǐng)車騎出塞偵察敵情，突然鐵勒部幾千騎人馬奔馳而來，于謹(jǐn)因?yàn)楣巡粩潮?，便將車騎分散開來，讓他們藏入樹叢深草之中，又派人登山指揮，就像是指揮部眾分開的樣子。賊軍望見后，雖然也懷疑有伏兵，但他們倚仗人多勢眾并不害怕，便繼續(xù)向于謹(jǐn)進(jìn)逼。于謹(jǐn)過去經(jīng)常乘坐兩匹駿馬，一紫一黃，敵軍早就熟悉了，于謹(jǐn)便讓另兩個(gè)人各乘一匹馬，突圍而出。敵人以為于謹(jǐn)跑了，爭先恐后去追趕。于謹(jǐn)便集合其余人馬，攻擊敵軍的追騎。敵軍只得逃走，于謹(jǐn)人馬因而得以入塞。

　　正光四年(523)，行臺、廣陽王元深興師北伐，請于謹(jǐn)為長流參軍。他特別以大禮迎接，派他的世子佛瞓拜迎。于是，于謹(jǐn)隨廣陽王打敗了敵軍主師斛律野谷祿等。于謹(jǐn)又請求前往敵營中勸降。于謹(jǐn)懂得幾國的語言，便單騎進(jìn)入敵軍營壘，向他們表達(dá)朝廷的恩惠和信用，于是西部鐵勒的酋長也列河等三萬多戶均歸附朝廷，率領(lǐng)部族進(jìn)遷。廣陽王和于謹(jǐn)?shù)轿龉鶐X迎接他們。于謹(jǐn)說：“拔陵的軍隊(duì)還很多，聽說也列河等來歸附，一定會前來襲擊的。如果被他們先占領(lǐng)險(xiǎn)要地方，就難以和他們爭斗。如今我們用也列河作為誘餌，他們必定競相前來抄掠，我們先設(shè)下埋伏等待他們，必定輕而易舉地?fù)魯∷麄儭！睆V陽王聽從他的計(jì)策。拔陵果然前來攻擊，他們在析郭嶺上打敗也列河，部眾都陷入敵軍圍困之中。這時(shí)，于謹(jǐn)?shù)姆钠?，敵軍大敗，于?jǐn)全部收降了也列河的部眾。

　　孝昌元年(525)，于謹(jǐn)又隨廣陽王征討鮮于..禮。當(dāng)軍隊(duì)到達(dá)白牛邏時(shí)，正趕上章武王被鮮于..禮所殺，他們便將軍隊(duì)停留在中山。侍中元晏在靈太后面前誹謗說：“廣陽王領(lǐng)軍盤桓不肯前進(jìn)，顯然坐等時(shí)機(jī)，有非分之想。他身邊又有個(gè)于謹(jǐn)，智謀過人，充當(dāng)他的主謀，恐怕他們不是陛下的忠臣?！膘`太后便傳旨，讓人在尚書省的門外設(shè)立榜文，招募能夠捕捉于謹(jǐn)?shù)娜耍硎緦⒔o予重賞。于謹(jǐn)聽說后，請求前往朝廷直接披露自己的真心，廣陽王答應(yīng)了。于謹(jǐn)便直接來到榜下，揭榜說：“我知道這個(gè)人。”眾人一起查問他。于謹(jǐn)說“：我就是于謹(jǐn)?！惫賳T們把這件事奏明朝廷。靈太后見到于謹(jǐn)后，大為惱怒。于謹(jǐn)詳細(xì)陳述廣陽王如何忠于朝廷，并說明軍隊(duì)停留在中山的原因。靈太后這才釋放了他。

　　后來于謹(jǐn)又跟著爾朱天光與北齊神武帝在韓陵山對戰(zhàn)，爾朱天光戰(zhàn)敗，于謹(jǐn)因而進(jìn)入關(guān)中。

　　周文帝到夏州時(shí)，讓于謹(jǐn)當(dāng)防城大都督，兼夏州長史。當(dāng)賀拔岳被害時(shí)，周文帝前往平?jīng)?。于?jǐn)對周文帝說“：關(guān)中是秦漢的舊都城，自古號稱‘天府’。如今如能占據(jù)各個(gè)要害之地，招集四方英雄好漢，足以觀察時(shí)局的變化。況且天子在洛陽，被群兇所逼迫。你請求朝廷遷都關(guān)內(nèi)，然后可以挾天子而令諸侯，這是千載難逢的好時(shí)機(jī)?。　敝芪牡勐牶?，大為高興。正好朝廷傳令讓于謹(jǐn)任關(guān)內(nèi)大都督，于謹(jǐn)因此上奏遷都關(guān)中的計(jì)策。

　　魏帝西遷之后，于謹(jǐn)仍跟從周文帝攻打潼關(guān)，攻破了回洛城，并被任命為北雍州刺史，晉爵位為藍(lán)田縣公。大統(tǒng)三年(537)，大軍東征時(shí)，于謹(jǐn)為先鋒，進(jìn)軍攻下弘農(nóng)郡，抓住了東魏陜州刺史李徽伯。齊神武帝到沙苑時(shí)，于謹(jǐn)奮力作戰(zhàn)，晉爵為常山郡公。他又跟隨到河橋作戰(zhàn)，被任命為大丞相府長史，兼大行臺尚書。再升任太子太保。芒山之戰(zhàn)時(shí)，大軍出師不利，于謹(jǐn)率部假降，列隊(duì)立于路的左側(cè)。神武帝乘勝向北追擊，并不防備。于謹(jǐn)便從背后攻擊，敵軍大為驚恐。這時(shí)，獨(dú)孤信又收兵從后面奮力攻打，神武帝軍中大亂，因此西魏大軍得以保全。大統(tǒng)十二年(546)，被任命為尚書左仆射，領(lǐng)司農(nóng)卿。當(dāng)侯景前來歸附，請求派兵援助時(shí)，于謹(jǐn)進(jìn)諫說，侯景的真心難以揣測，可是周文帝不肯聽從。不久于謹(jǐn)又兼大行臺尚書、大丞相長史，領(lǐng)兵鎮(zhèn)守潼關(guān)，并被加授為華州刺史，賜給他用黑黍和香草釀成的美酒一尊，玉王圭、玉瓚一對。不久又被任命為司空。恭帝元年(554)，任雍州刺史。

　　當(dāng)初，梁元帝在江陵繼位時(shí)，曾秘密地和北齊聯(lián)絡(luò)，準(zhǔn)備侵?jǐn)_西魏。梁元帝哥哥的兒子岳陽王鮞當(dāng)時(shí)為雍州刺史，他因?yàn)榱涸蹥⒘怂绺缱u(yù)，便有了仇隙，把所據(jù)有的襄陽來投降西魏。朝廷命令出兵討伐梁朝。周文帝在青泥谷設(shè)宴為于謹(jǐn)餞行。長孫儉問于謹(jǐn)“：替蕭繹設(shè)想該采取哪種計(jì)策？”于謹(jǐn)說“：顯耀軍威于漢、沔，傾其全力以渡江，直上攻占丹陽，是他的上策；遷移城郭中的居民，退守子城，等待援兵到達(dá)，是他的中策；如果難以遷移人口，堅(jiān)守城郭，是他的下策?！遍L孫儉問“：判斷蕭繹會采用哪種策略？”于謹(jǐn)說：“肯定采用下策?！遍L孫儉問“：什么原因？”于謹(jǐn)回答“：蕭氏占據(jù)江南，已綿延幾代人之久，正好中原地區(qū)多事，沒來得及對外擴(kuò)張。又因?yàn)槲覀冇斜饼R這個(gè)外患，他們一定認(rèn)為我們的力量難以分開。況且蕭繹為人懦弱而且沒有謀略，多懷疑慮，難作決斷。愚蠢的人難以考慮事情的始因，都貪戀安居城池，他既然厭惡遷移，當(dāng)然就要堅(jiān)守外城。所以肯定采用下策?！庇谥?jǐn)命令中山公宇文護(hù)和大將軍楊忠等先占領(lǐng)江邊渡口，斷絕梁人的退路。梁人在外城樹立起木柵，一圈周長六十里。不久于謹(jǐn)兵到，他命令全軍將城團(tuán)團(tuán)圍住。過了十六天，外城被攻破，梁帝只得退保子城。第二天，梁元帝率領(lǐng)太子以下文武百官，自縛出城投降。不久于謹(jǐn)便將他們?nèi)珰⒌袅?，俘獲城中男女十多萬人，收了梁朝府庫中的所有珍寶，得到宋時(shí)制作的渾天儀、梁朝的日晷、銅表、魏國的相風(fēng)鳥、銅盤龍趺座、大玉直徑四尺，周圍長七尺以及各種車駕，帝王所用各種器物獻(xiàn)給朝廷，軍隊(duì)沒有私留一點(diǎn)東西。同時(shí)，立蕭鮞為梁帝，統(tǒng)領(lǐng)全軍凱旋。周文帝親自來到于謹(jǐn)?shù)母校O(shè)宴暢敘，極為歡樂。賞于謹(jǐn)奴隸一千人和梁朝的一些寶物，并有金石絲竹器樂一部，加封為新野郡公。于謹(jǐn)堅(jiān)決辭謝，但周文帝不允許。周文帝又令樂官制作了《常山公平梁歌》十首，讓樂工演奏歌唱。

　　于謹(jǐn)認(rèn)為自己久擔(dān)重任，掌握大權(quán)，如今功名已就，愿意保有悠閑的生活，便獻(xiàn)上先前所乘的駿馬和所穿的鎧甲等物。周文帝明白他的心意，便對他說：“如今強(qiáng)敵未滅，你怎能便想獨(dú)善其身呢？”終于不肯接受。建立六部官制時(shí)，于謹(jǐn)被任命為大司寇。

　　當(dāng)周文帝死時(shí)，孝閔帝年紀(jì)尚幼。中山公宇文護(hù)雖受遺命輔政，但他的聲名和職位一向比較低下，眾位高官都想執(zhí)掌朝政。宇文護(hù)十分憂慮，便秘密拜訪于謹(jǐn)。于謹(jǐn)說“：我往昔承蒙丞相殊遇和眷顧，今日必當(dāng)以死抗?fàn)?。如果對著眾官定下大?jì)，您一定不要謙讓?！钡诙?，眾位公卿聚會商議，于謹(jǐn)說“：往昔帝室行將傾覆，外境艱難，丞相立志保存皇室，匡救于危難之中。今日上天降下災(zāi)禍，丞相突然拋下百官而去，嗣子雖然年幼，但中山公是丞相的親侄子，并且受命輔助嗣子，軍國大事，理當(dāng)由他總管?！庇谥?jǐn)說話時(shí)聲色俱厲，眾人心中都驚懼不已。宇文護(hù)說：“這是我家的家事，我怎么敢推辭責(zé)任呢？”于謹(jǐn)原是和周文帝同列的朝官，所以宇文護(hù)一向十分敬重他。這時(shí)，于謹(jǐn)便站立起來，說道“：賢公如果愿意統(tǒng)理軍國大事，我們這些人也就有了依靠了?！庇谑牵阆蛴钗淖o(hù)作拜。眾公卿迫于于謹(jǐn)?shù)膲毫Γ仓坏冒菀娪钗淖o(hù)。這樣，眾公卿才作了決定。

　　孝閔帝即位，晉封于謹(jǐn)為燕國公，食邑萬戶，晉升太傅、大宗伯，和李弼、侯莫陳崇等參議朝政。當(dāng)賀蘭祥征討吐谷渾時(shí)，明帝命令于謹(jǐn)遙控指揮這支軍隊(duì)，傳授作戰(zhàn)的方略。

　　保定二年(562)，于謹(jǐn)以年老為由，請求朝廷讓他退休養(yǎng)老，但不被允許。保定三年，讓于謹(jǐn)成為朝中的三老之一，于謹(jǐn)堅(jiān)決辭謝，又不得許可。賜給他延年杖。武帝親臨太學(xué)向三老進(jìn)食。當(dāng)三老入門時(shí)，皇帝迎拜于屏門，三老當(dāng)即答拜。有關(guān)官員在中庭設(shè)下了三老的座席，面朝南。太師、晉國公宇文護(hù)登階，陳設(shè)席位，鋪好小幾。三老入席，面朝南，靠小幾坐下，以老師的身份自居。大司寇、楚國公宇文寧登階，正鞋?；实鄣请A，站立在繪有斧形紋的屏風(fēng)前，面向西。有關(guān)官員送來食品，皇帝跪著陳放醬豆，親自卷衣袖割切食物。三老吃過以后，皇帝又親跪向他們送爵(酒杯)，以酒漱口。(古代一種禮節(jié)，《禮記·樂記》“執(zhí)醬而饋，執(zhí)爵而..”)禮畢，有關(guān)官員撤下這些東西?；实勖姹闭玖栔螄馈Ｈ媳銖南险玖⑵饋?。皇帝說：“我辱當(dāng)天下重任，自知缺少才能，不知治理國政的要術(shù)，請諸公教誨。”三老答道“：木材經(jīng)過繩墨以后就方正了，國君聽從勸諫就是賢明的君主，自古以來的明君圣主，都是虛心聽從勸諫，從而知道得失之處，天下因此而得安定，愿陛下經(jīng)常想到這一點(diǎn)。”又一位說：“治國之本，在于忠信之道。古人可以沒有食物，可以沒有軍隊(duì)，但卻不可以去掉信用。國家的興廢，無不因此而造成，請陛下謹(jǐn)守而不要失去?！庇终f：“治國之道，必須有法則。法，是治國的制度，不可以不公正。公正表現(xiàn)在賞罰方面，如果有功勞的就要獎賞他，有罪的一定要懲罰，那么做好事的人就越來越多，做壞事的就越來越少。如果有功勞不獎賞，有罪過不懲罰，那么天下就會善惡不分，下邊的人不知道怎么做才好?！庇终f：“言論和行為，是立身的根基。說過話，行動就要跟上，誠懇地希望陛下認(rèn)真記住。”三老說完后，皇帝再次向他們拜謝，表示接受教誨。三老也答拜，禮儀完畢后才離開。

　　當(dāng)晉公宇文護(hù)東征時(shí)，于謹(jǐn)正在生病，宇文護(hù)因?yàn)橛谥?jǐn)是久經(jīng)沙戰(zhàn)的老將舊臣，所以還是請他一起出征，以便經(jīng)常請教謀略。東征回朝后，賞賜給他鐘磬一部。天和二年(567)，又得賞賜安車一輛，不久又任他為雍州刺史。天和三年，逝世，享年七十六歲。周武帝親臨致哀，傳旨讓譙王儉監(jiān)護(hù)治喪諸事，并賜給繒一千段，粟、麥一千斛，本官銜外，加封使持節(jié)、太師、雍、恒等二十州諸軍事、雍州刺史，謚號為“文”。下葬時(shí)，自王公以下爵位的官員，都送到郊外。并配祭在周文帝的廟堂中。

　　于謹(jǐn)很有智謀，又善于侍奉皇上。他名聲職位雖都很高，但自己卻越加謙遜，自我約束。每次朝見皇帝，來往隨從不過兩三騎而已。朝廷中凡遇到軍國要事，大多和于謹(jǐn)商議處置辦法。于謹(jǐn)也竭盡自己的智慧和才能，所以在功臣當(dāng)中特別受到信任，自始至終都一樣，沒有人說過他的壞話。他常常告誡自己的幾個(gè)兒子，務(wù)必常想到清靜寡欲，功成身退。他年紀(jì)活得很長，朝廷禮遇十分隆重，子孫成群，都成為有名聲有地位的人，這種情況，當(dāng)時(shí)沒有人可以相比的。他的兒子萛繼承了他的爵位。