永嘉元年，西晋王朝覆灭，司马睿在琅琊王氏的拥护下，南渡长江，迁都建康，王舒也在同家族同往。南迁后，王舒出任溧阳县令。司马绍任职东中郎将期间，命王舒为其司马，以及后将军、咨议参军数职。
王舒与王敦之乱有何关系
王敦之乱爆发后，王敦进军都城，软禁司马睿，肃清朝中敌对势力，将朝中大权尽握手中。为加强王氏家族势力，王敦任王舒为鹰扬将军、荆州刺史、领护南蛮校尉等数职，对王舒极为信任。而王舒从其儿子口中获知王敦预谋篡位称帝，难与他同流合污，遂联系司马绍暗中筹划。
太宁二年，王敦突发病疾，不久后去世，其余众难挡司马绍平叛之力，接连兵败，王敦党羽中的心腹钱凤、沈充等人皆被斩杀，王含与其子王应兵败而逃，后寄书信于王舒，欲投奔王舒，而王舒表面上极为仗义，亲自乘船来接应，实际上早已谋划在江中杀害王含王应。
不久，陶侃领命代替王舒就任荆州刺史，王舒升职为安南将军、广州刺史，但因王舒身体孱弱，难以忍受前往岭南就任，长途奔波，朝廷体桖王舒体弱，不应远行，特此改任湘州刺史，后又入朝官拜上书仆射。
王舒再度平叛东晋大乱
王舒对于东晋，实为有功之臣，两次就王朝于水火之中，王敦之乱后，又兴起苏峻之乱。
晋明帝去世后，庾太后临政，庾亮与王导在朝辅政，王导为人宽和，因此政权大都掌控在庾亮手中。咸和二年，历阳内史苏俊成为了朝廷的一大隐患，庾亮执意召苏俊入京，压制其实力，朝堂上下多数人反对。庾亮一意孤行，其莽撞行径终逼苏俊发动叛乱。
同年，苏俊联结镇西将军组约一同攻打京都建康，王舒遂领命任扬州刺史平复叛乱。次年，苏俊兵驻建康，庾冰守城不力，难挡苏俊军队的攻势，所幸投降。王导以太后诏谕秘传给王舒，集解三吴义兵，响应温岭，起兵讨伐苏俊，战事极为激烈，双方各有胜负，战事失利导致多个郡县被苏俊军队所夺，王舒于是派王允之出任扬烈将军，与徐逊等将领率轻兵突袭苏俊军后部，劫取战利品以供军队所需。
同年，苏俊在逃忙中坠马而被杀，温岭设立行台，人王舒为浙江东五郡军事，叛乱过后，王舒仍驻守肃清苏俊残余势力。
王舒助力东晋两次叛乱，功勋显著，被封为彭泽县侯。咸和八年六月，王舒逝世，朝廷追封其为车骑大将军，入葬之礼同等于三司，谥号穆侯。