东晋义熙十二年(416)，因为司马宗室以及反对刘裕的人物基本上都外奔北逃到了前秦，刘裕也有以北伐再进一步提升个人威望从而篡代东晋的想法。因此，刘裕将北伐目标确定为关中的后秦，在部署完留守都城建康的事宜之后就开始率领他的一大帮子将领开始北伐。
在刘裕北伐的途中，遇到的最大的困难其实不是后秦的抵抗，而是沿黄河进军路上对面北魏军队的骚扰，刘裕派朱超石过河列阵将北魏军队击退，之后北魏军队就只在黄河北面跟着监视刘裕，不再主动进攻，刘裕消除了来自北魏的骚扰，得以专心对付后秦军。
刘裕北伐后秦的时候，后秦正处于内忧外困当中，当时后秦君主姚兴刚死没多久。虽然面对咄咄逼人的东晋军队，但是后秦的宗室想得都是趁着乱世争皇位，没有几个尽心尽力抵抗刘裕的，后秦内部拧不成一股绳，刘裕君臣则上下一心，形势对于刘裕很有利。刘裕总共分五路伐秦，其实并没有碰上相当难打的战役，前后不到一年就攻入了长安，俘虏后秦主姚泓。
然而刘裕义熙十三年(417)九月攻入长安，仅仅在长安呆了两个月，关中还没有完全平稳下来，还有一大串事情要处理的时候，刘裕突然慌慌忙忙从长安出发，回到建康，只留下自己年仅十三岁的儿子刘义真和几个辅佐刘义真的将领王镇恶、沈田子、王修等人镇守关中，自己则率领大军还都。
刘裕已经攻下长安，为什么不在扎根长安，以此为基地，先平定河西的各股势力，在向东谋划对付北魏，再完成统一大业呢?以刘裕的能力以及行事风格原本是很可能这么做的，但是刘裕选择迅速回到建康，是因为自己的大本营建康发生了一个变故，自己托付留守建康的刘穆之恰巧在这个关键时刻去世了。
刘穆之是刘裕最信任也是最得力的一个谋臣，刘穆之于刘裕，相当于萧何、张良于刘邦，诸葛孔明之于刘备。所以刘穆之一死，刘裕就失去了根本的依托，都城建康里肯定还存在反对刘裕的势力，要是他们趁这个时候发难攻击刘裕留守的人马，刘裕就可能失去根本，完全无所凭依。毕竟刘裕北伐的将士们家属还都在建康，一旦建康有失，刘裕不可能可以好好地带领着将士经营关中。因此刘裕必须立马回到建康。
刘裕回到建康后不到一年，因为刘裕没有妥善安排镇守关中将领的事宜，王镇恶、沈田子、王修三人发生内讧，夏国的赫连勃勃趁机进攻，几个月之内，刘裕北伐得到的土地全部丧失，刘裕儿子刘义真狼狈逃回，北伐硕果也荡然无存。