西晋成立之初，晋武帝为了收买人心，大封功臣，许多大家族都被封为公侯，短短几年时间，晋武帝共封了57个王，500多个公侯。
蜀汉灭亡不久，晋武帝为了稳定巴蜀人心，又任用了一批原在蜀汉供职的官吏为朝官，晋武帝没有采取“一朝天子一朝臣”的惯用手法，而是采取拉拢、收买人心的办法，稳定各级官吏，以确保社会稳定地过渡，因为晋武帝还看到，蜀汉虽亡，东吴未灭，全国还未统一，于是他开始运筹帷幄，准备击灭东吴，结束全国的分裂局面。
早在三国鼎立之时，魏的势力已超过蜀、吴，如以人口计，魏约占全国人口3/7，蜀、吴合占4/7。
263年，魏灭蜀之后，三国鼎立变成了南北对峙，魏的力量更加强大，晋武帝代魏之后，雄心勃勃，“密有灭吴之计”，准备出兵灭吴，统一全国。
西晋全国正处于一种积极的态势之中，然吴国却是在走下坡路，吴主孙皓的荒淫、残暴使吴国丧失了重整旗鼓的机会，孙皓命令大臣的女儿要先经过他的挑选，漂亮的入后宫供他一人享受，剩下的才能谈婚论嫁，这使他丧失了大臣们的支持，自毁根本，最终成了孤家寡人。
对他劝谏的中书令贺邵不但没有受到他的表扬，反用烧红的锯条残忍地锯下了舌头，其残暴程度与商纣王没有任何区别。
孙皓杀人的方法很多，很残忍，像挖眼、剥脸皮和砍掉双脚等，孙皓的残暴注定了他要灭亡，由于孙皓的残暴使手下的将领们也对他丧失了信心，纷纷投降西晋。
西晋的大臣们见吴国国力下降，政局不稳，也纷纷劝说司马炎趁机灭掉吴国。
但是，晋武帝受到了以太尉录尚书事贾充为首的保守派的反对，他们认为：吴有长江天险，且善水战，北人难以取胜，且近几年来西鲜卑举兵反晋，此时对吴作战，并“非其时”。
而羊祜、张华、杜预等人则认为：吴帝孙皓腐化透顶，他不但对广大人民残酷剥削、镇压，而且在统治集团内部也排除异己，用刑残酷，孙吴现已是“上下离心”，如此刻出兵，“可不战而胜”，如果错过机会，“吴人更立令主”，励精图治，再去灭吴就相当不容易了。
两派意见，针锋相对，这样，一个极其严重的问题就摆在了晋武帝面前：是否出兵灭吴，统一全国?晋武帝站在主战派一边。
为了完成灭吴大业，晋武帝在战略上做了充分准备，早在公元269年，他就派羊祜坐守军事重镇荆州，着手灭吴的准备工作，羊祜坐镇荆州后，减轻赋税，安定民心，荆州与东吴重镇石城(今湖北钟祥县)相距最近，晋军采取了“以善取胜”的策略，向吴军大施恩惠。
由于孙皓挥霍无度，部队士兵常常领不到军饷，连饭也吃不饱，羊祜命人向吴军送酒送肉，瓦解吴军，这样，不时有吴军前来投降，羊祜下令说：吴军来要欢迎，走要欢送，有一次，吴将邓香被晋军抓到夏口，羊祜部下坚持要杀掉，羊祜不但不杀邓，而且还亲自为其松绑，把邓送了回去。
有时，吴军狩猎打伤的野兽逃到了晋军领地，晋军也把这些野兽送到吴军帐内，正是由于这样的“厚”爱，东吴将领们的心已经一步步趋向晋军。
晋武帝在襄阳一边命羊祜以仁德对吴军施加影响，一边在长江上游的益州训练水军，建造战船，经过长达10年时间的充分准备，公元279年，晋军开始向东吴展开大规模的进攻，为了迅速夺取胜利，晋军分5路沿长江北岸，向吴军齐头并发，第6路晋军由巴东、益州出发，沿江东下，直捣吴军都城建业，20万晋军直扑东吴。
东吴守军，在巫峡钉下了无数个锋利无比的、长十余丈的铁锥，在江面狭窄处用粗大的铁链封锁江面，晋军先用大竹排放入长江，晋军在船上载了无数根数丈长的用麻油浇灌的火点燃火炬，熊熊烈火能够把铁链烧断，就这样，东吴长江的防守设施被一个个排除了。
在第6路晋军进攻东吴时，为了分散、吸引守卫建业的吴军兵力，安东将军王浑率一路晋军，由北向南，直取建业，孙皓忙命丞相张悌统率主力渡江北上，迎击王浑，结果沿江东下的晋军乘机攻占了建业。
由于晋武帝准备充分，时机恰当，战略正确，前后仅用了四个多月，便夺取了灭吴战争的全部胜利，从此，东吴的全部郡、州、县，正式并入晋国版图。
280年，三国鼎立的局面完全结束了，晋武帝司马炎终于统一了全国，结束了长达近百年的分裂局面。