牛李黨爭早在唐憲宗統治時期就埋下了伏筆。當時朝廷舉行選拔官員的考試，牛僧孺和李宗閔兩人在卷子中批評了朝政，結果被評為第一。宰相李吉甫認為他們是在誹謗自己，對他們很不滿，於是唆使親信誣陷他們，把他們貶到外地為官。
李吉甫的兒子李德裕後來當了翰林學士，他對牛僧孺和李宗閔兩人當年觸犯自己父親一事還是懷恨在心。有一年錢徽主持科舉考試，李宗閔暗地囑托錢徽照顧下自己的親戚。正好這事讓李德裕等人知道了，他們就向皇帝告發了此事。結果錢徽受到了懲罰，李宗閔也被貶官。他認為是李德裕故意陷害他，從此恨上了李德裕。
唐文宗即位後，李宗閔投靠宦官，當上了宰相。李宗閔總是在皇帝麵前稱讚牛僧孺是個人才，於是皇帝也把牛僧孺提拔為宰相。兩人聯合起來把李德裕排擠出了朝廷，讓他到外地當刺史去了。從此兩派勢力此消彼長，明爭暗鬥，把朝廷鬧得烏煙瘴氣。
當時吐蕃向唐朝求和，一個吐蕃首領主動將自己所轄的維州獻給了朝廷。李德裕上書說：“當年韋皋在西川一帶經營的時候，到死也沒能取得維州。我建議趁此機會派人將十三橋燒掉，斷絕敵人退路，這樣可以輕鬆獲勝。”唐文宗召集群臣討論這件事。牛僧孺堅決反對這個意見，他說：“吐蕃那麽大，失掉一個維州對他們來說算不得什麽。現在前來講和的使者還沒到，我們就食言，這樣不好。況且我們應該守信，如果吐蕃興兵報複的話，那又如何是好？”文宗覺得他說得有理，於是沒有聽取李德裕的話。當時人們都認為牛僧孺是公報私仇，後來皇帝也覺得放棄維州是不對的，對牛僧孺的信任減少了很多。
李德裕很有才幹，雖然隻是個地方官，但在民間的口碑很好。唐武宗登基後，牛黨失勢，李德裕被任命為宰相，從此李黨又獨掌大權。李德裕深受唐武宗信任，實行懷柔政策，團結了少數民族，受到了好評。
唐武宗篤信道教，很討厭佛教。他覺得佛教勞民傷財，又和國家搶奪人民和財富，即位沒幾年就下令廢除佛教。李德裕認為太多人出家當僧侶導致戶口減少，國家的稅收也大受影響，所以他對廢除佛教持讚成態度。唐武宗年號會昌，這次廢佛運動被稱為“會昌滅佛”。通過打擊佛教，唐朝政府收回了不少土地，戶口也增加了，國力增強了不少。不過當時有太多佛教徒，所以導致李德裕日後名聲不太好。
李德裕這次掌權由於少了牛黨在旁邊搗亂，做起事來得心應手，出了不少成績，朝廷內外讚譽聲不斷。但李德裕做事比較專斷，聽不進別人的不同意見，恨他的人也不少，就連一些曾經支持過他的宦官也脫離了他的陣營。唐宣宗即位後，第一件事就是把他趕出了朝廷，任命為洛陽留守，順便把李黨也排擠了出去。這時候牛黨的人又可以揚眉吐氣了，他們紛紛被召回朝廷授予官職，牛僧孺也得意洋洋地回來了。
李德裕受到排擠，很快就被貶為潮州司馬，再貶為崖州司戶，不久就死在貶所，他的死標誌牛李黨爭結束。這場黨爭給唐朝帶來了不可估量的損失，朝中大臣在長達40多年的黨爭中明爭暗鬥，根本不把國家利益放在眼裏，使唐王朝不可避免地走向了衰落。