馬援雖然因為是皇室親戚而沒有入選“雲台二十八將”，但馬援的功勞比起那28個人來是毫不遜色的。
馬援是趙國名將趙奢的後代，因為趙奢被封為馬服君，所以他的後代就改姓馬。馬援的曾祖父馬通因為有功，曾被封為重合侯，但由於參與了謀反計劃而被處死，所以馬援的祖父輩地位都不顯達。
馬援12歲的時候父母就去世了，他從小就胸懷大誌，曾經拜師學習過《齊詩》，但不久之後他就厭倦了學習經書上的學問，於是告別兄長們，準備跑到邊疆飼養牲畜。正在這個時候他的哥哥死了，他在家服了一年的喪，期間恭敬地侍奉寡嫂。後來他當上了郡督郵，在押送犯人的途中，因為同情罪犯而放走了他們，自己也被迫逃到了北地。不久遇到大赦，他就留在當地放牧牲畜。他能夠根據自然地理環境製定出正確的經營方案，很快就把自己的財產增加到牲畜數千頭，穀物幾萬石之多，但他又歎息道：“賺錢的目的應該是幫助別人，否則和守財奴又有什麽區別呢？”於是他把自己的財產都分給了兄弟和親友們，自己穿上樸素的衣服從頭開始。
後來各地義軍蜂擁而起，馬援也坐不住了，他一開始投靠王莽，王莽失敗後他投靠了隗囂，出使到光武帝那兒，被光武帝的氣質所折服，光武帝也很賞識他的才幹，馬援就投入了光武帝的麾下。
馬援與沙盤 馬援用米堆地形模型分析敵情，研究作戰計劃，這是中國曆史上第一次使用沙盤作用的實例。
隗囂被平定後，馬援奉命征討叛亂的羌人，很快就打敗了先零羌。羌人的其他部落還有數萬人，據守在重要關隘死守，將妻子兒女們轉移走，並堵住道路阻止漢軍追擊。馬援率領部隊抄小路繞到羌人營地，發動突然襲擊，羌人措手不及，大敗而逃，馬援乘勝追擊。羌人逃到北山上，馬援把主力在北山擺開陣勢，派了幾百名騎兵偷偷繞到羌人後方，到晚上時候放起大火，拚命擂鼓呐喊，假裝大軍來襲。羌人分不清真假，紛紛逃竄，這一仗砍下1000多羌人的腦袋，取得了大勝。馬援帶的人不多，所以不敢追得太遠，就把羌人的牲畜物資都搬走，沒有再追了。這一仗讓光武帝很滿意，特地賜給他幾千頭牛羊，馬援全部分給了手下。
馬援對待下屬非常寬容，他把職權都交給下屬官員，自己隻處理大事要事，而且處事非常冷靜。有一次有人造謠說羌人造反，百姓和官吏們都驚慌不已，要馬援關閉城門，出兵征討。當時馬援正在宴請賓客，聽到這消息後哈哈大笑：“羌人哪裏還敢造反？快去通知大家，該幹嗎幹嗎去，如果怕的話，就躲到床下去好了！”結果果然沒有事情發生，城裏也慢慢平靜下來，大家都很佩服馬援。
馬援曾經說過：“男兒應當戰死沙場，用馬革裹屍而還，怎麽能躺在**，和兒女們一起消磨時光呢？”有一次匈奴和烏桓入侵，馬援率兵征討，臨行時對黃門侍郎梁鬆和竇固說：“凡人富貴的時候，還應該能夠過貧賤的生活。像你們那樣身居高位卻驕傲自負，不想再去過貧賤生活，這樣是不對的。希望你們好好想想我的話。”梁鬆沒有能夠聽進去，後來果然因為富貴太過而召來了災禍，竇固也差點沒能幸免。
建武二十四年（48年），五溪蠻夷造反，馬援請求讓他再次出征。當時他已經62歲了，光武帝見他年老，不忍心再讓他長途跋涉，沒有準許。馬援知道光武帝的意思，再次請求道：“我還不老，還可以穿戴盔甲上馬！”光武帝讓他試試，馬援披掛整齊，飛身上馬，雄赳赳氣昂昂地跑了一圈回來，以示自己還能行軍打仗。光武帝笑道：“您真是個勇武的老頭啊！”同意了馬援的請求，派他率領4萬人馬前去征討。馬援在臨行時對朋友說：“我深負國家重恩，現在歲數大了，估計也活不了多久了，隻擔心不能為國獻身。現在我終於能夠再次報效國家，就算是死也瞑目了。我唯一擔心的就是那些權貴子弟在我身邊搗亂，如果和他們共事，實在讓人受不了！”
馬援到五溪後一連打了好幾個勝仗，五溪這個地方很荒涼，很多人都中了瘴氣得病死了。馬援畢竟歲數大了，也得了病，但他仍然拖著雙腳出營觀察地形和敵人的情況，周圍的人都感動得落淚。因為先前馬援和另一個人對作戰計劃的製定有分歧，朝廷采納了馬援的意見，但戰事一直沒有進展，有人就認為是馬援的計劃有誤，於是光武帝就派梁鬆前來責問。梁鬆是馬援朋友的兒子，年輕氣盛，仗著自己是皇親國戚一向橫行無忌，馬援多次批評過他。有一次馬援生病，梁鬆前來探望，在床下拜了很久，馬援也沒有回禮。梁鬆走後，馬援的兒子們問道：“梁鬆是皇帝的女婿，在朝廷裏很有地位，大臣們都讓他三分。您為什麽不對他以禮相待呢？”馬援回答：“梁鬆的父親是我的朋友，我是他的長輩，他雖然身份貴重，但長幼的次序怎麽可以變？”梁鬆因為這件事對馬援產生了怨恨。這次他逮到這個機會，就在報告中誣陷馬援，正好馬援剛剛病死，死無對證，光武帝聽信了讒言，奪回了馬援的爵位。
馬援患有風濕病，他在交趾打仗的時候，聽說當地有種叫作薏苡的東西可以治風濕，吃了之後果然有效，於是他買了一車薏苡，想帶回去做種子。很多人以為車裏裝的是金銀珠寶，都很妒忌他。當時馬援正受寵信，所以沒有人敢告他，等他一死，就有人誣告當年那車裏裝的都是珍珠寶物，光武帝聽了之後更生氣了。馬援的妻兒不敢把馬援的屍體運回家埋葬，隻好隨便買了點地，草草埋葬了，他的親友誰都不敢來給他吊喪。後來他的妻子前後6次上書闡述冤情，一個叫朱勃的人也為馬援抱不平而多次上書，朝廷這才給馬援平反昭雪，這位老當益壯的將軍才沒有抱恨黃泉。