他曾因枪走火误杀战友，生死关头，毛泽东下令枪下留人。
1934年10月18日，在第五次反“围剿”失败的大背景下，他率部开始长征。指挥的十三师为红一方面军全军后卫，掩护兄弟部队先后突破敌人四道封锁线，亲率十三师在敌人夹击中打了一整天阻击战，十三师指战员前仆后继，终于掩护整个方面军渡过湘江。他也因此在红军高级将领中获得了“铁屁股”的美誉。刘伯承元帅后来评价：“十三师是我最放心的师！”他的战绩更是让毛泽东兴奋地喊过“十三师万岁”
1954年11月17－30日，陈伯钧（右起）、张宗逊、萧华、刘伯承在山东省平度县张戈庄组织集团军进攻海岸防御的首长－司令部演习
这位师长就是毛泽东的爱将陈伯钧。
陈伯钧在开辟和保卫井冈山革命根据地及随后的长征中，从基层排长、连长干起，迅速成长为独当一面的红军高级指挥员。他20岁任红二十团政治委员，21岁任红十五军军长，22岁任红五军团参谋长，26岁任红六军团军团长。他的长征征途，历时两年，是先后在红一、四、二方面军担任过高级指挥员的少数几个将领之一。
1936年10月15日，在红军三大主力长征胜利会师之际，毛泽东亲笔致信陈伯钧：“伯钧同志：闻你在六军，为红军庆得干才！你的身体好否？同志都想念的。我们都好，相见之期不远，愿共努力！此致 革命的敬礼！”这封简短普通的问候信，蕴含着领袖与同志、统帅与爱将久别后分外思念、期盼重逢的无限深情，尤其是对陈伯钧“为红军庆得干才”的高度褒奖，凸显出统帅对其部属才干的明鉴赏识。
早在创建井冈山革命根据地初期的1927年10月，毛泽东就派陈伯钧、游雪程和徐彦刚三人，去“绿林好汉”袁文才的部队帮助练兵、培养革命干部，完成了团结、教育、改造这支地方农民军的任务。陈伯钧任连长时，曾奉命带领袁文才部一个班的兵力，护送毛泽东下井冈山去茶陵寻找主力部队。下山第二天，陈伯钧让这个班战士回山归建，只和毛泽覃带几名战士继续护送毛泽东。经过一天急行军，他们在距茶陵五六里的小村庄住宿打探消息。由于人少，大家商议夜间轮流放哨，毛泽东亲自安排，与陈伯钧一起负责下半夜到拂晓的警戒。夜半时分，茶陵方向的枪声逐渐稀落下来，攻城的红军部队不向井冈山撤退，却往南向水口方向撤退，后来证实是团长陈浩叛变所致。毛泽东预感事态严重，决定立即向南追赶部队。路上，毛泽东问陈伯钧：“假若后面敌人追来怎么办？”陈伯钧立即回答：“我同警卫员在后面打掩护，你们只管往前走好了。”他们终于在掌灯时分赶到水口，追上大部队，随即召开干部会议，将陈浩等人撤职，押回井冈山受审。同时还决定部队折回井冈山，向宁冈县砻市开拔。为此，毛泽东又命陈伯钧连夜抄小道往砻市送信给永新县委，做好迎接大部队的准备。陈伯钧圆满完成了这一任务，受到毛泽东的表扬。
在井冈山斗争时期，陈伯钧率领所属部队，按照毛泽东制定的正确的战略战术，在战争中学习战争，打了许多恶仗、硬仗。他任连长时经常带领部队担负攻坚任务，在永新北乡指挥战斗中，身先士卒，腿部中弹，负了重伤；任红三军第七师师长时，率部打响了第一次反“围剿”的第一枪，并指挥部队攻入敌师部，活捉了敌师长张辉瓒；龙冈战斗胜利后，追击敌谭道源师，歼灭该师过半，缴获步枪2000余支，机枪46挺；反击敌公秉藩师时，巧妙运用战术，抄小路预先设伏，将公秉藩师全部缴械。每战之后，陈伯钧都要总结经验教训，指挥艺术越来越高，仗也越打越精，他在中央苏区历次反“围剿”作战中曾屡建战功、三次负重伤，荣获过中革军委颁发的二等红星奖章。
当毛泽东受到以王明为代表的“左”倾错误路线的打击，被撤销红一方面军总政委和前委书记职务时，陈伯钧也因坚定地支持毛泽东的主张被免去红十五军军长职务，调到红军学校学习。任红五军团参谋长时，陈伯钧因不满当时一些人在反“围剿”中的错误指挥，曾上书红军总部明确表达自己的观点，遭到错误批判，被降职为红十三师师长。但是不管遭到怎样不公正的对待，陈伯钧始终充满革命乐观主义精神，坚信共产主义，坚信毛泽东的正确领导。他率领的红十三师常常能在短时间内力克强敌，连打硬仗，曾被中革军委誉为“红军坚师”，毛泽东曾因看了该师连打胜仗的战报，兴奋地喊过“十三师万岁”。
1934年10月，任红十三师师长的陈伯钧率部开始长征，经过多次血战，突破敌四道封锁线后又重回红五军团参谋长岗位。遵义会议后，毛泽东重新回到红军最高指挥岗位，陈伯钧的军事才华得以更出色地展示。红五军团长期担负着中央红军的殿后任务，要掩护大军西去、北上，常常遭到敌军重兵追击，需要付出更多的艰辛劳累、流血牺牲。有的同志想不通、发牢骚，但陈伯钧顾全大局，坚决执行中央命令，做好部队官兵的思想工作，并指挥部队打了许多漂亮仗。陈伯钧也因此在红军高级将领中获得了“铁屁股”的美誉。
1950年初，陈伯钧和军事学院刘伯承院长、军事学院总顾问罗哈里斯基
红一、四方面军会师后，陈伯钧调任红四方面军九军参谋长，对张国焘分裂党和红军的行径，进行了面对面的坚决斗争，因此遭到了残酷斗争和无情打击。当时，他被只身赶出红九军，坐骑被扣，望远镜被抢，警卫员也被打。但陈伯钧始终坚信毛泽东和党中央北上路线的正确，以坚韧的毅力，强忍委屈，顶住压力，当好红军学校的教员。后来在朱德、刘伯承等力荐下，张国焘不得不重新起用陈伯钧任红四军参谋长。红二、四方面军会师后，陈伯钧又被朱德、任弼时、刘伯承委以红六军团军团长重任。
1937年9月，红军主力改编为八路军时，陈伯钧被任命为一二○师三五九旅旅长，时年27岁。
1955年夏，陈伯钧陪同贺龙参观军事学院在职干部实施室内的图上首长一司令部演习