段凝，开封人也。本名明远，少颖悟，多智数。初为渑池簿，脱荷衣以事梁祖，梁祖渐器之。开平三年十月，自东头供奉官授右威卫大将军，充左军巡使兼水北巡检使。凝妹为梁祖美人，故稍委心腹。四年五月，授怀州刺史。乾化元年十二月，梁祖北征回，过郡，凝贡献加等，梁祖大悦。梁祖复北，凝迎奉进贡，有加于前。
段凝聪明机智，颇具才干。他一开始担任后梁地方官员，因为任职忠勤被赏罚分明、唯才是举的后梁太祖朱温所赏识提拔。后来，后梁末帝朱友贞认为段凝忠诚干练，又委派他任后梁驻在黄河两岸大军的监军。922年，段凝抓住战机，攻取卫州，毁夺唐军大半辎重，成为十五年来后梁军队的第一次大胜，使后梁军队为之一振，梁唐战争的局面终于出现了有利于后梁的转变，由此更加得到朱友贞和赵岩、张汉伦等执政的信任。但是段凝作为后起将领却遭到敬翔、霍彦威等旧臣宿将的猜疑嫉妒。
923年，唐军夺取郓州，东线危急，王彦章率部反攻又遭挫败，朱友贞等人觉得王彦章只是个勇夫，难当统帅大任，于是起用段凝为统帅，命他率领后梁主力从西线进攻后唐都城魏州。唐军认为，霍彦威等人不服从段凝指挥，梁军无法发动迅猛攻势，于是避开段凝大军，从东线迂回进攻后梁都城大梁。负责东线的王彦章抗击失败，被俘就戮。唐军于是攻破大梁。段凝率军回援，孰料先锋王晏球首先向唐军投降，军心由此涣散，段凝见大势已去，也投降唐军。后梁灭亡。
段凝降唐之后得到了唐庄宗的宽赦任用，感激之余，拿出大量资材奉献唐庄宗，又尽力搞好与后唐高层的关系，其忠诚才干得到了李绍宏等高层人物的赏识。
925年，后唐决定攻灭叛军陇右四川的前蜀，李绍宏保荐段凝前往。但因为后唐高层对降将的抵制而未果。926年魏州兵变，段凝又被保荐，但是又因为后唐高层对降将的猜疑排斥而未能成行。
不久，被后唐高层认为忠能无双的李嗣源出征魏州，到了魏州，他就和魏州叛兵勾结发动叛乱，向后唐新都洛阳进军。为了壮大叛军势力，李嗣源写信给段凝，拉他入伙。实际上，李嗣源这次叛变，除了曾在其麾下任职、关系亲密的部分河东旧将响应之外，主要依靠的是梁军降将如霍彦威、王晏球、孔循、房知温等人。而段凝没有响应李嗣源，继续忠于庄宗。
不久，庄宗被害，李嗣源进入洛阳称帝，他和霍彦威、王晏球一伙人对段凝自然是新仇旧恨，分外眼红。段凝先是被变为庶民，继而被流放，最终于927年被害。
一代名将段凝的悲剧在于：作为后起将领和降将，无论在后梁和后唐，他都遭到统治集团中强大的既得利益集团的排斥嫉恨，空报才能而无从施展。然而，观其他一生的行迹，确实不负朱温“忠勤”之评。