劉休仁是宋文帝的第12個兒子，年僅10歲就被封為建安王，食邑兩千戶。此後官運亨通，加上他能力出眾，很快就成為劉宋王朝的頂梁柱，位高權重，為劉宋王朝立下不少汗馬功勞。
當時，劉宋王朝的皇帝是前廢帝劉子業，劉子業是出了名的昏君，生性殘暴不仁，經常隨意殺害大臣，但他很怕他的幾個叔叔，就把他們抓起來囚禁在宮裏，成天毆打淩辱他們。劉休仁、劉彧和劉休佑他們三個都很胖，劉子業就用籠子把他們裝起來稱重量，劉彧最肥，劉子業就叫他“豬王”，劉仁林叫“殺王”，劉休佑叫“賊王”。此外東海王劉褘很笨，劉子業就叫他“驢王”，而另外兩個王年紀還小，所以倒還沒事。劉子業曾經用木槽裝滿飯，裏麵再加些雜食，攪拌均勻，然後在地上挖個坑，放些泥水在裏麵，把劉彧脫光衣服扔進坑裏，讓他用嘴在木槽裏吃飯，以此來取樂。劉子業前後想殺死三王有數十次之多。劉休仁工於心計，經常講笑話給劉子業聽，對他阿諛奉承，才讓他們沒有被殺。劉子業經常在劉休仁麵前命令劉休仁的手下侮辱劉休仁的母親楊太妃，他的手下沒辦法，隻好從命。後來劉子業還把楊太妃賞給右衛將軍劉道隆，那個厚顏無恥的劉道隆還很樂意，出盡了醜態。劉彧有一次惹怒了劉子業，劉子業把他的衣服脫光，手腳捆起來，說：“今天要殺豬！”劉休仁笑著對劉子業說：“豬不應該今天死。”劉子業問為什麽，劉休仁說：“等太子生下來，再殺了這豬好取他的肝肺。”劉子業才放過了劉彧。
後來劉子業想去南方巡遊，想殺了三王再出發，當天晚上劉子業被殺，劉彧繼承了皇位，三王終於熬出了頭。
劉彧一直記著劉休仁救過他的命，於是給他加官晉爵，當時劉道隆擔任護軍，劉休仁說：“我不能和他那種人同朝為臣。”劉彧就把劉道隆殺掉了。
劉休仁和劉彧年齡差不多，而且都喜歡文學，當年又一起共患難，又是劉彧的救命恩人，一向關係很好。後來地方上有人造反，一直打到京城附近，劉休仁親自帶兵出征，平定叛亂，立了大功，所以他非常受寵，朝廷上下都很尊敬他，大臣們都圍著他轉，劉彧漸漸地開始不高興起來。劉休仁看出了劉彧的不滿，上表主動請求解除揚州刺史的職位，劉彧允許了，後來劉彧升任他為太尉，擔任司徒一職，他堅決辭讓，不去赴任，想保全自己。劉彧晚年的時候特別喜歡猜忌別人，變得越來越多疑，劉休仁開始察覺不安。後來劉彧殺掉了當初共患難的劉休佑，劉休仁的恐懼也變得更加嚴重。這一年劉彧病重，和楊運長等人討論他死後的安排，擔心他的幾個弟弟位高權重，太子年紀還小，怕將來朝廷會不安定。楊運長又擔心劉彧死後，劉休仁肯定會充當周公那樣的角色，他們這些人就會失去大權，於是很讚成劉彧的想法。劉彧病重期間，宮內外的人遇到什麽事都讓劉休仁來裁定，朝廷官員也都跑到劉休仁的家裏拍劉休仁親信們的馬屁，而劉休仁來者不拒，一一接待。有的正直的官員看在眼裏，急在心頭，都害怕會出事。劉彧本來就對劉休仁懷有戒心，這次又聽說人心都歸順了他，於是召劉休仁進宮，劉休仁拜見完了之後，劉彧對他說：“晚上就在尚書省休息吧，明天就可以早點來了，”當天晚上，劉彧派人給劉休仁送去了毒藥，將他賜死。劉休仁死的時候年僅39歲。
劉彧和劉休仁的關係一直都很好，要殺掉他完全是怕劉休仁以後對他的後代不利。劉休仁死後，劉彧悲痛到了極點，對別人說：“我和他年紀差不多，小時候就在一起玩，形影不離。劉子業統治時期，他的功勞確實很大，但是為了國家大事考慮，不得不把他除掉。”說完後流淚不止，根本沒辦法停下來。