耶律休哥是遼國的貴族子弟，少年時期就跟隨遼國軍隊南征北戰。遼宋高梁河戰役的時候，耶律休哥帶領軍隊前去增援，在高梁河與宋軍大部隊遭遇。耶律休哥並沒有驚慌，他把士兵分為兩部，從宋軍左右兩翼殺去，大獲全勝，斬首1萬多級。
遼國為了報複宋朝攻打燕京，派韓匡嗣和耶律沙討伐宋朝。耶律休哥跟隨韓匡嗣在滿城作戰，還沒開戰宋軍就請求投降，韓匡嗣準備受降。耶律休哥勸道：“敵人隊伍整齊，士氣正旺，怎麽可能連打都沒打就投降呢？所以一定不能放鬆警惕。”韓匡嗣不聽。耶律休哥見主帥不接受自己的意見，就帶領本部人馬登上高處觀察敵情。過了一會，宋軍發動了進攻。韓匡嗣沒有絲毫準備，頓時傻了眼，士兵們也狼狽逃竄，遼軍大敗。耶律休哥趕緊指揮自己的部隊出擊，阻擋住了宋軍的攻勢，挽救了主力部隊。耶律休哥因為這次的功勞被封北院大王。
第二年，遼國皇帝親自帶兵南下，包圍了瓦橋關。宋軍前來救援，瓦橋關守將張師乘機突圍。耶律休哥率兵阻擊，斬殺了張師，把剩下的宋軍又趕回了關裏。決戰之前，皇帝發現耶律休哥的戰馬和鎧甲都是黃色的，在隊伍中很顯眼，擔心敵人會認出他來，所以特地賜給他別的顏色的戰馬和鎧甲。耶律休哥再次擊敗宋軍，殺得宋軍屍橫遍野，還活捉了幾員大將回來。皇帝十分高興，慰勞他說：“如果人人都像你一樣的話，我還擔心什麽呀！”
遼聖宗即位後，朝政大權落在了蕭太後手裏。蕭太後很器重耶律休哥的才能，命令他總督南方的事務。耶律休哥布置了各地的兵力，在邊境發展農業，獎勵生產，很快就讓邊境呈現出一派繁榮的景象。幾年後，宋軍大舉北伐，奪取了遼國好幾個城池。當時遼國大軍還沒有趕到，耶律休哥手下兵微將寡，不敢出戰。但他並不是消極防守，晚上他派出輕騎兵前去騷擾宋軍陣地，專門捕殺落單的宋兵。不久，他還派兵切斷了宋軍的糧道，使宋軍很快就因為缺糧而退守白溝。等宋軍補充好糧草卷土重來的時候，他還是采取老辦法捕殺單個士兵，邊打邊退。宋軍不敢單獨行動，隻能排列成方陣邊挖戰壕邊前進。等追到遼軍的時候，宋軍將士早已疲憊不堪了。耶律休哥乘機發動攻擊，宋軍冒雨而逃，被殺得潰不成軍。耶律休哥一直追到易州，得知在那裏還有幾萬宋軍，正在河邊做飯。耶律休哥當機立斷，回過頭來對他們發動了突襲。這批宋軍沒有想到會遇到遼軍，嚇得拔腿就跑，結果一半的人都因自相踐踏而死。耶律休哥因功被封為了宋王。
疊勝金牌 遼
耶律休哥上書說宋朝剛剛打了敗仗，國力衰弱，可以乘機南下攻宋，把黃河以北的地區都占領過來，但他的這個建議沒有被采納。後來伐宋的時候，耶律休哥擔任了先鋒。當時宋將劉廷讓率領幾萬騎兵和李敬源準備會師，揚言要攻打燕京。耶律休哥聽說後，派兵扼守住了宋軍將要經過的要害地區。蕭太後率軍趕到，耶律休哥和宋軍交戰，殺死了李敬源，趕跑了劉廷讓。幾年後，又一次擊敗了劉廷讓，殺死宋軍幾萬人。
耶律休哥在瓦橋關戰役中表現英勇，皇帝授予他於越的稱號。他在對宋朝的戰役中屢戰屢勝，宋軍為此很多年都不敢北上。當時宋朝人想讓小孩停止啼哭，就嚇唬他說：“於越來了！”蕭太後非常尊敬耶律休哥，下詔允許他以後入朝的時候不用行跪拜之禮，這在當時是很特殊的恩寵。
耶律休哥認為燕州人民生活窮苦，他在燕州當官的時候就減免了很多賦稅和徭役，還撫恤那些老弱孤寡之家。他雖然作戰勇敢，但也很重視和平，經常告誡守衛邊境的士兵不要侵犯宋朝邊境。宋朝百姓的牲口不小心穿過邊界跑到遼國土地上，他也會派人將其送回去。邊境遠近的人民都很仰慕他的教化，所以很少發生衝突。耶律休哥去世的那天晚上，天上突然下起了大雨，樹木都結冰了，人們認為連老天都在為他的死而落淚。遼聖宗懷念他的功績，下令在燕京為他立了祠堂。
耶律休哥深謀遠慮，料敵如神。他從來都不貪功，每次打了勝仗，都把功勞推讓給部下，所以大家都願意為他效力，作戰特別賣力。耶律休哥雖然有名將之稱，殺敵無數，但從來沒有傷害過無辜。他的兩個兒子也繼承了父親的品格，成為遼國的重要將領。