虽然已经背离了国民党军，但郝鹏举始终把自己的部队当成一份“财产”，一个与人民军队“平起平坐”的特殊团体。他一面公开宣传自己决心和共产党人一起“为争取民族独立民主自由而奋斗”，但同时，因为害怕共产党在落实国共签署的整军方案时，对他的部队进行整编，所以又在官兵中煽动对共产党的不满，要求他的部队“官不离兵，兵不离官；总司令不离全体，全体不离总司令；弹不离枪，枪不离身，动我们一人，就全体自杀”。

一九四七年一月，在国民党军向苏北解放区和山东解放区大举进攻之际，徐州绥靖公署主任薛岳派人给郝鹏举送来了国民党军第四十二集团军司令官兼鲁南绥靖分区司令官的头衔，郝鹏举终于按捺不住了，他认定这回共产党军队连同他们的解放区都会被国民党大军铲除干净，这个时候自己再不改换门庭就来不及了。一月二十六日晚上，他率部进入国民党统治区。

当时鲁南战役刚刚结束，蒋介石认为郝鹏举的举动足以抵消作战中的损失，称之为“还军于国”“月缺重圆”。但是，准备领赏的郝鹏举立即发现，他在国民党军中地位更加低下了。参谋总长陈诚轻描淡写地告知他，答应他的第四十二军番号仅仅是个“号召”，“因为国军的战区和集团军番号均已取消”。所以，他只能用鲁南绥靖分区司令的名义指挥部队。同时，陈诚命令他立即参加与华东野战军在山东的决战。

就在陈毅和粟裕已经决定放弃临沂的时候，一九四七年二月六日，华东野战军二纵发起了围歼郝鹏举北进部队的战斗。战斗进行得果决而迅猛，到第二天战斗结束时全歼郝鹏举的两个师，俘敌6000多人。战斗发生的时候，虽然围绕在华东野战军周围有国民党十几万大军，但是没有任何一支军队来援救郝鹏举。他从战场上狼狈溃逃时几次从马上摔下来，直至把脚摔坏。走投无路的时候，他脱下军装，换上了百姓的衣服，当他准备派人向陈毅乞降时，被共产党官兵包围了，那一刻他大喊：“我脚疼！你们辛苦了！我早就说不打了，打什么呢？”

共产党军民准备撤离临沂的前夕，郝鹏举被押解到陈毅的面前。他抢先说自己“万分对不起人民，对不起军长”。陈毅厉声道：“从你叛变到被俘，前后仅十一天，这证明了干民主事业需要有为人民服务的自我牺牲的革命精神，凡投机取巧必致身败名裂，最后难逃人民的惩罚……”郝鹏举大喊：“我对不起人民！对不起军长！”

不久之后，当山东的敌情进一步严重，中共华东局决定将之前历次战役中被俘的国民党军高级军官全部北撤时，为防止意外，负责押送的干部在没有得到上级批准的情况下将郝鹏举处决了。

郝鹏举就这样在一片漆黑的无名野地里结束了他的一生。他是解放战争中第一个也是最后一个被俘后被处决的国民党军将领。

事后中共中央追查此事，陈毅主动承担了责任。