科舉製度始於隋朝，當時隻針對讀書人，並沒有設武舉。至唐代，武則天首次開設武舉。據說武則天因為以一女子身份登上皇位，舊勢力對她並不完全服從，這位女皇帝便開設武舉，選拔冊封武將，為自己培養勢力。

唐代武舉主要考騎射、步射、舉重等技術，此外對考生相貌也作了要求，要“軀幹雄偉、可以為將帥者”。宋代，因宋太祖趙匡胤定下“以文立國”的國策，武舉考試除考武力外，還要“副之策略”。武藝考“步射”、“騎射”兩場，合格後再參加文化考試。文化考試則考一些諸如兵法、布局類的知識等。總體上以武藝為主，以策略為輔。元朝科舉製度興廢不常，沒有武舉製度。到了明代，武舉考試則更進一步，以考察謀略的筆試為主，而以武藝為輔了。並且先進行謀略考試，如果不及格，就直接淘汰，武藝再高也沒用。清朝以後，尚武的清朝統治者又將個人武藝考試放在了前麵，首先考騎射、力氣、武藝等，然後合格者再參加筆試。

曆史上武舉一共進行過約500次，宋神宗時，設立武狀元。曆史上有案可稽的武狀元有282名，其中許多詳細資料都已經丟失。總體而言，相比於文科考試，武舉一直不怎麽受重視。

曆朝的武舉製度時而設置，時而廢棄，取士人數遠遠少於文舉。並且武人考中武舉後，隻授出身，並不馬上授官職。因此，武舉人的地位也低於文舉人，以至於一些武舉狀元還有再考取文科舉人的念頭。曆史上比較出名的武舉人隻有唐朝大將郭子儀和明代的抗倭名將俞大猷。