公元316年,在内乱外患的多重打击下,腐朽的西晋王朝灭亡了。随之而来的,是出现南北大分裂的历史局面。在南方,公元317年晋琅玡王司马睿在建康(今江苏南京)称帝,建立起东晋王朝。其占有现汉水、淮河以南大部地区。在北方,匈奴、鲜卑、羯、氐、羌等少数民族首领也纷纷先后称王称帝,整个北方地区陷入了割据混战的状态。在这个动乱过程中,占据陕西关中一带的氏族统治者以长安为都城,建立了前秦政权。公元357年,苻坚自立为前秦天王。他即位后,重用汉族知识分子王猛治理朝政,推行一系列改革政治、发展经济和文化、加强军力的积极措施。在吏治整顿、人才擢用、学校建设、农桑种植、水利兴修、军队强化、族际关系调和方面均收到显着的成效,在一定程度上使前秦国实现了“兵强国富”的局面。
在这基础上,苻坚积极向外扩张势力。他先后灭掉前燕、代、前凉等割据政权,初步统一了北方地区。黄河流域的统一,使苻坚本人的雄心越发增大。他开始向南进行扩张,在公元373年攻占了东晋的梁(今陕西南部、四川北部的部分地区)、益(今四川的大部分地区)两州,这样长江、汉水上游就纳入了前秦的版图。接着,前秦雄师又先后占领了襄阳、彭城两座重镇,并且一度包围三阿(今江苏高邮附近)、进袭堂邑(今江苏六合)。由是,秦晋矛盾日趋尖锐,终于导致了淝水大战。
苻坚让军事上的胜利冲昏了自己的头脑:孜孜于大起军旅攻打江南,统一南北。东晋太元七年(382年)四月,苻坚任命其弟为征南大将军。八月又委任谏议大夫裴元略为巴西、梓潼二郡太守,积极经营舟师,企图从水路顺流东下会攻建康。到了十月,苻坚认为攻晋的战略准备业已基本就绪,打算亲自挥师南下,一举攻灭东晋。
在兴师之前,苻坚将群臣召集到太极殿,计议发兵灭晋这一事宜。在这次殿前决策会议上,苻坚本人趾高气扬,声称四方基本平定,只剩下东南一隅的东晋犹在抗拒王命,现在他要亲自统率97万大军出征,一举荡平江南地区。群臣中少部分人附和苻坚的意见,秘书监朱彤奉迎说:陛下亲征,东晋如不投降只有彻底灭亡,现在正是灭晋千载难逢的良机。冠军将军慕容垂(鲜卑族)等人心怀复国的异志,也在会后鼓励苻坚出兵,推波助澜。
但是前秦的多数大臣对此却持有反对的意见。尚书左仆射权翼认为,东晋虽然弱小,但是君臣和睦、上下团结,这时尚不是进攻它的时机。太子左卫率石越也认为,晋拥有长江天险,又得到民众的拥护支持,进攻不易取胜。他们都希望苻坚能够暂时按兵不动,发展生产,整训部队,等待东晋方面出现间隙后,再乘机攻伐。但苻坚却骄狂地声称:“以我百万大军,把马鞭扔在长江中,也完全可以阻断长江水流,东晋方面还有什么天险可以凭恃的呢?”
苻坚见群臣反对他的攻晋决策,便结束朝议,退而与其弟阳平公苻融决断大计。苻融此人智勇双全,深得苻坚的信任。但这时他也不同意出兵,认为攻晋有三大困难:人心不顺;东晋内部团结,无隙可乘;前秦连年征战,军队疲惫,百姓厌战。建议苻坚放弃马上攻晋的计划。同时苻融也清醒地看到前秦表面强盛的背后,是民族矛盾、阶级矛盾的激烈尖锐。他向苻坚指出:如今鲜卑、羌、羯等族的人,对氐有灭国之深仇,他们正遍布于京郊地区,大军南下之后,一旦变乱发生于心腹地区,那时就追悔莫及了。为了说服苻坚,苻融还把苻坚所最为信任的已故丞相王猛反对攻晋的临终嘱咐抬了出来,可是苻坚都听不进去,固执地认为,以强击弱,犹“疾风之扫秋叶”,垂危的东晋政权可以迅速消灭。
为了劝阻苻坚南下攻晋,前秦的众多大臣进行了最后的努力。他们针对苻坚信佛的特点,通过释道安进行劝说。道安规劝苻坚不要攻晋;如一定坚持攻晋,您苻坚也不必亲自出征,而宜坐镇洛阳,居中调度,进攻和诱降双管齐下,以争取胜利。苻坚的爱妃张夫人和太子宏、幼子诜也都一再相劝,但是苻坚对这些依然置若罔闻,决意南下。