1947年，针对我刘邓大军千里跃进大别山的战略意图，蒋介石调王敬久率国民党第二兵团的整编三十二师、整编六十六师、整编七十师等重兵集结鲁西南，企图消灭刘邓大军或迫使他们退回黄河以北。自7月2日起，刘邓大军先后进行了郓城之战、菏泽之战、定陶之战和巨野独山集、六营集之战等战斗，至7月中旬，将王敬久的整编三十二师和整编七十师全歼，并将敌人最精锐的整编六十六师合围。
在鲁西南战场，国民党整编六十六师师长宋瑞珂屡屡同刘邓大军“过招”，虽没有占到多少便宜，但也没有受到多大的损失。被刘邓大军合围后，国民党第二兵团司令长官王敬久命令他突围，但宋瑞珂很自信，认为“有我们‘钉’在这里，刘伯承就不敢南窜”。于是他利用山东金乡城西北30里处的羊山作为制高点，与山下集镇的民房构成核心阵地，准备凭借有利地形，负隅顽抗到底。
1947年7月13日，刘邓大军扫除了羊山外围阵地后，当天就组织重兵攻打羊山。刘伯承和邓小平决定拿出陈再道的二纵和陈锡联的三纵两支精锐主力作为主攻部队，东西两路同时向羊山发起攻击。但战斗打响后，敌六十六师守军配合得相当好，导致我攻山部队前进受阻，在付出重大伤亡后，于7月14日拂晓被迫撤出战斗。
此后，我二纵和三纵对兵力火力重新做了调整和部署，于17日晚再次发起攻击。羊山有三个突出山峰，居民称东峰为“羊头”，中峰为“羊身”，西峰为“羊尾”。我三纵八旅二十二团虽然攻上了“羊头”，但由于山顶石坚土少，无法构筑工事，天一亮，全团兵力便暴露在敌人守军的火力之下，无法立足，只好又撤出战斗。我二纵的十九团主攻“羊尾”，情况与三纵相似，虽然攻上了“羊尾”，但天亮后遭到敌人炮火轰击，也不得不撤出战斗。
7月19日，刘邓大军投入了三个纵队的兵力，第三次向羊山发起冲击。但由于连降暴雨，导致部分地区水深超过两米，我攻山部队再次受挫，有十几个旅团干部负了伤。7月20日天亮前，刘伯承命令部队撤出战斗。
自羊山战役打响之后，宋瑞珂就发电向南京“表功”。蒋介石也给宋瑞珂发来祝捷电报，电报称：“屹立羊山集的是宋将军，稳住鲁西南局势的也只有宋将军。”此外，蒋介石更不断催促顾祝同调集重兵驰援，7月19日，蒋介石更飞临河南开封，亲自督促部队驰援羊山。然而，国民党各路援军唯恐钻进刘邓大军围点打援的“口袋”，大多行动迟缓。
刘伯承、邓小平权衡再三后认为，这次如果不把敌整编六十六师歼灭，我军随后的南进一定会遭到该部的疯狂追击。况且各路援敌尚在行进途中，完全有迅速消灭羊山守敌的把握。刘伯承鼓励将士们说：“蒋介石送上来的肥肉，我们不能放下筷子!”“别看有蒋介石在开封亲自坐镇，我们也一定会啃下这块硬骨头。”接着，刘、邓调整了作战部署，加强炮火，并使我方兵力上达到了局部优势。
部署完毕后，刘伯承和邓小平立即亲临羊山集前线，指示陈锡联、陈再道要亲自到前沿查看地形，仔细分析一下为什么攻不下来，并与指战员一起研究新的打法，以期尽快把敌人消灭。二纵司令员陈再道总结了前三次攻山的得失后，向首长建议，二纵和三纵最好能统一指挥。刘、邓首长接受了这一建议，将三纵也交予陈再道临时指挥。陈再道当场立下军令状：下次如果不能活捉宋瑞珂，我就解甲归田。刘伯承和邓小平随即决定：7月26日对羊山发动总攻。但7月25日夜里又下起大雨，壕沟里灌满了雨水，掩体工事被冲垮，总攻计划只好推迟到27日。
7月27日下午6时30分，我军首先开始炮击。炮击进行了40分钟后，我攻山部队突破了敌人的一道道强固防线，从四面八方向羊山山顶涌来。敌人拼命顽抗，敌我双方都付出了大量伤亡。
27日晚12时，“羊腰”等制高点被我军占领，宋瑞珂多次进行反扑，均被打退。我军在山峰上居高临下，火力网控制了山坡和羊山集，把敌整编六十六师分割包围。
宋瑞珂急切要求援军迅速赶到。蒋介石还特意派飞机投来他的亲笔信。信中写道：“羊山苦战，中正闻之忧心如焚。望吾弟转告部下官兵暨诸同志，目前虽处于危机之时，亦应固守到底，援军日驰夜骋，不时即到，希弟信赖上帝庇佑，争取最后五分钟之胜利。”然而，与蒋介石和宋瑞珂的愿望相反，敌援军王仲廉部7月25日明明已经到了距羊山仅仅100多里的定陶县冉固集，但他怕钻进刘伯承的“口袋阵”，结果每天只让部队走10华里。而敌王敬久部虽近在咫尺，但并不肯接近羊山一步，只是不停地发给宋瑞珂即将赶到的电报。对此宋瑞珂哀叹道：“战不胜，守不固，非吾之罪也。”到28日中午，羊山的所有制高点都已被突破，宋瑞珂知道大势已去，便下令放弃抵抗。至此，羊山战役胜利结束，国民党整编六十六师2万多人被全歼，宋瑞珂也做了俘虏。
战役结束后，我刘邓大军挥戈南进大别山，直捣国民党统治的核心地区，标志着中国人民解放军由战略防御转入战略进攻的正式开始。为纪念此次战役，刘伯承赋诗一首：“狼山战捷复羊山，炮火雷鸣烟雾间。千万居民齐拍手，欣看子弟夺城关。”
敌整编六十六师师长宋瑞珂，山东青岛人，黄埔军校第三期步科毕业，曾参加了平定滇桂军阀杨希闵、刘震寰的叛乱以及东征和北伐战争。抗战爆发后，历任国民党第十四师副师长、第十八军一九九师师长、第九军副军长、第六十六军军长，先后参加过淞沪抗战、武汉会战、枣宜会战、常德会战等对日战斗。抗战胜利后，第六十六军改编为整编六十六师，宋瑞珂任师长。该师系蒋介石的黄埔嫡系精锐，配置一流的武器装备，和张灵甫的整编七十四师比起来，除编制配额略少外，装备和战斗力一点也不逊色。宋瑞珂被俘后，先后在解放军教导大队和监狱学习、改造，1960年11月28日，被最高人民法院特赦释放。“文革”后先后被选为中国国民党革命委员会监察委员、上海黄埔军校同学会会长和上海市政协委员。1995年逝世，享年88岁。