在解放战争时期的各大野战军编制序列里，开始均没有第五纵队的番号。人们不禁要问：各野战军的纵队级编制里缘何没有第五纵队呢?这还得从1936年的西班牙内战时说起。
1936年，代表着广大劳动人民意志的“西班牙人民阵线”在议会选举中获胜，取得了政权并组成了自己的联合政府。那些被逐出联合政府的大地主和大军阀们在长枪党首领(原西班牙陆军参谋长佛郎哥上将)的率领下，向西班牙首都马德里发动了疯狂的军事进攻。面对强敌，勇敢的西班牙人民在由国际共产主义战士组成的国际纵队的支援下，与法西斯军队展开了浴血拼杀，打响了举世闻名的马德里保卫战。
战斗中，为了动摇马德里守军的信心，率军进攻的叛军将领摩拉在一次公开广播中扬言：“我正率领4个纵队的兵力进攻马德里，而我的第五纵队，则正活跃在马德里市的大街小巷。”他所讲的第五纵队，指的是隐藏在西班牙共和国内部的那些叛徒、间谍等破坏分子。在优势敌人的内外夹击之下，英雄的马德里失陷了。从此以后，第五纵队就成了帝国主义在对他国进行颠覆破坏时，收买的那些叛徒、流氓和破坏分子的总称。
鉴于第五纵队这种臭名昭著的历史，我人民解放军各野战军序列里很长一段时间没有组编第五纵队。直到1948年3月，东北野战军发展到了13个主力纵队，才增编了第五纵队。当时的第五纵队司令是大名鼎鼎的被日本人称为“不怕一万，就怕万一(毅)”的万毅中将，东野5纵也就是解放后的第四十二军。