高遵裕，字公綽，是忠武軍節(jié)度使高瓊的孫子。因父親的恩蔭歷遷供備庫副使、鎮(zhèn)戎軍駐泊都監(jiān)。夏人入侵大順城，李諒祚中箭逃走。恰好英宗去世，派高遵裕向西夏告哀，到達(dá)宥州祖廟，夏人派王盥接待，王盥穿著吉服來，高遵裕嚴(yán)辭譴責(zé)他，他才換去吉服。不久在客館擺上酒席，席間談到大順城的事，王盥說：“你們是剽掠之徒?！备咦裨Ｕf：“你們的主上侵犯我們邊境，負(fù)傷而逃，你的話不太荒謬了嘛！”夏人認(rèn)為受了侮辱，立即派人應(yīng)對(duì)，但來人終席沒敢開口，王盥憤怒地說“：你蔑視我們夏國(guó)，我國(guó)城池雖小，也有十多萬兵馬，可以同你們?cè)趹?zhàn)場(chǎng)上一試高低?！备咦裨５芍劬φf“：我們主上有天賜的神武，你們別太張狂而去冒死?！碑?dāng)時(shí)李諒祚在屏風(fēng)后偷看，擺手制止王盥。神宗聽說后贊揚(yáng)高遵裕，提升他為保安軍知軍。

　　橫山豪杰想歸宋，皇上讓高遵裕告訴種諤謀取他們，種諤就攻取綏州。統(tǒng)帥因種諤擅自發(fā)兵而憤怒，想要對(duì)種諤處以軍法，種諤恐懼，說是在高遵裕那得到的皇上密旨，因此種諤獲罪，高遵裕也降為乾州都監(jiān)。高遵裕升任通事舍人，主管西路羌部，駐在古渭寨，把他所部的羌兵分成三等，教他們學(xué)習(xí)軍法。

　　熙寧初年，朝廷用王韶收復(fù)洮、隴二州，命令王韶為秦鳳路沿邊安撫，高遵裕為副安撫。不久把古渭寨作為通遠(yuǎn)軍，任命高遵裕為知軍。

　　第二年，他拿著歸附的羌部的圖籍和繪制的青唐、武勝的地形圖入朝獻(xiàn)給皇上，他被提升為引進(jìn)副使、帶御器械，讓他回來治軍。大軍臨時(shí)駐在慶平堡，晚上行軍，早晨到野人關(guān)，羌人阻拒，高遵裕率親兵一鼓作氣打敗敵人，在武勝城下安營(yíng)，羌人逃走，就占據(jù)了武勝城。皇上下詔以武勝城為鎮(zhèn)洮軍，由高遵裕任知軍。不久，以熙、河、洮、岷、通遠(yuǎn)為一路，高遵裕升任西上..門使、榮州刺史、充任總管，仍為通遠(yuǎn)軍知軍。第二年，王韶想攻取河州，高遵裕說“：古渭寨舉事時(shí)，是先建堡寨，循序漸進(jìn)，故此一舉攻下武勝城。現(xiàn)在兵馬和糧草都不齊備，一旦離開大本營(yíng)很遠(yuǎn)去奪人之地，假使敵人占據(jù)要害阻擊我們，我軍就進(jìn)退兩難了?！蓖跎睾屠顟椥χf“：你怎么這么快就變了呢？”就派他守臨洮。王韶攻打河州，果然沒攻破?；噬腺澩咦裨５淖h論，命令他專管洮、岷、疊、巖州的沒歸附者。

　　高遵裕因俞龍珂的地界有鹽井，于是筑鹽川寨。瞎吳叱率諸羌威脅青唐，想侵?jǐn)_邊境，皇上下詔派張玉攻討。高遵裕說“：青唐人沒罪，只不過被生羌所脅迫罷了。”派副將和俞龍珂率眾抵御瞎吳叱。青唐人見到俞龍珂哭訴，瞎吳叱知道青唐人不歸附自己，就退去。高遵裕跟從王韶攻取岷州，攻下岷州后，高遵裕傳令兵士說：“活捉老幼與得首級(jí)相同。”數(shù)萬人得以活命。捷報(bào)傳到京城，高遵裕加官為岷州刺史。

　　第二年，羌人乘景思立失敗之機(jī)，圍河、岷二州，道路幾個(gè)月不通。有人請(qǐng)求退保別處，高遵裕說：“有敢議論這些的斬首！”岷州缺兵，守城者恐懼，高遵裕登上西門，派將縱入敵陣，又另選精騎兵從南門鼓噪而出，合擊羌人，羌人敗走。當(dāng)時(shí)朝廷認(rèn)為岷州城遠(yuǎn)難守，決定放棄。詔書到后，羌人已潰退了。高遵裕因功升為團(tuán)練使、龍神衛(wèi)都指揮使、熙州知州。因推薦張穆之為轉(zhuǎn)運(yùn)使，而張穆之有罪，他也獲罪被罷為潁州知州。不久，轉(zhuǎn)到慶州，又因事獲罪，被罷為淮陽知軍。

　　元豐四年(1081)，又任慶州知州?；噬显t命他和諸路一起討伐夏國(guó)，他請(qǐng)求增加兵將，得到東兵十一將，馬不夠用，就用群牧馬補(bǔ)充?；噬嫌置钏?jié)制涇原兵，劉昌祚先到靈州，差一點(diǎn)得到靈州城，高遵裕嫉妒他，故意不采納劉昌祚的計(jì)謀，結(jié)果兵敗而回，此事見《劉昌祚傳》。高遵裕被貶為郢州團(tuán)練副使。

　　哲宗即位后，高遵裕被任用為右屯衛(wèi)將軍，主管中岳廟。去世時(shí)，享年六十歲，被贈(zèng)官為永州團(tuán)練使。紹圣中期，推重他，贈(zèng)他為奉國(guó)軍節(jié)度觀察留后的官職。他的堂弟叫高遵惠。