在唐末五代时，藩镇骄横，兵乱频仍，当时社会几乎大家都当兵，读书人像要没有了。开头军队还像样，以后都变成了老弱残兵。军队不能上阵打仗，便把来像罪犯般当劳役用。其时凡当兵的，都要面上刺花字，称为配军，防他逃跑。如《水浒传》里的宋江武松一类人，脸上刺了字，送到某地方军营中当兵做苦工，人家骂他贼配军。这是远从五代起，直到宋朝，没有能彻底改。这样的军队，当然没有用。
其实这些军队，在汉是更役，在唐则是庸。而宋代之所谓役，在汉代却是地方自治之代表。此种转变，极不合理。只因积重难返，宋太祖也只能在这种军队中挑选一批精壮的另外编队，就叫禁军。禁军的挑选，身长体重都有规定，因此禁军比较像样;不合这标准的，留在地方作厢军。厢是城厢之义，厢军是指驻在各地方城厢的。这些兵，并不要他们上阵打仗，只在地方当杂差。地方政府有什么力役，就叫他们做。
照理，宋代开国第一件该做的事，便是裁兵复员。而宋代却只照上面所说的这样裁，至于复员则始终复不了。这也因宋代得天下，并未能真个统一了全国。他们的大敌辽国，已经先宋立国有了五十多年的历史。所谓燕云十六州，早被石敬瑭割赠辽人。当时内蒙大部、辽宁乃及山西、河北的一部分疆土，都在辽人手里。北方藩篱尽撤，而宋代又建都开封，开封是一片平地，豁露在黄河边。太行山以东尽是个大平原，骑兵从北南下，三几天就可到黄河边。一渡黄河，即达开封城门下。所以宋代立国时没有国防的。
倘使能建都洛阳，敌人从北平下来，渡了河，由现在的陇海线向西，还需越过郑州一带所谓京索之山，勉强还有险可守;若从山西边塞南下，五台山雁门关是那里的内险，可算得第二道国防线，要一气冲到黄河边，还不容易。所以建都洛阳还比较好。若能恢复汉唐规模，更向西建都西安，那当然更好。
但宋太祖为何不建都洛阳西安，而偏要建都开封呢?这也有他的苦衷。因为当时国防线早经残破，燕云失地未复，他不得不养兵。养兵要粮食，而当时的军粮，也已经要全靠长江流域给养。古代所谓大河中原地带，早在唐末五代残破不堪，经济全赖南方支持。由扬州往北有一条运河，这不是元以后的运河，而是从扬州往北沿今陇海线西达开封的，这是隋炀帝以来的所谓通济渠。米粮到了开封，若要再往洛阳运，那时汴渠已坏;若靠陆路运输，更艰难，要浪费许多人力物力。宋代开国，承接五代一般长期混乱黑暗残破的局面，没有力量把军粮再运洛阳去;长安一片荒凉，更不用提。为要节省一点粮运费用，所以迁就建都在开封。宋太祖当时也讲过，将来国家太平，国都还是要西迁的。
在当时本有两个国策，一是先打黄河北岸，把北汉及辽打平了，长江流域就可不打自下。这个政策是积极进取的，不过也很危险。假使打了败仗，连退路都没有。一个是先平长江流域，统一了南方，再打北方，这个政策比较持重稳健。宋太祖采了第二策，先平南方，却留着艰难的事给后人做。所以宋太祖临死，听他母亲话，传位他弟弟赵匡义，这是宋太宗。太宗即位，曾两次对辽亲征，但都打了败仗。一次是在今北平西直门外去西山颐和园的那条高粱河边上交战。这一仗打败，他自己中了箭，回来因创死了。在历史上，这种事是隐讳不讲的。
只因宋代开国形势如此，以后就不能裁兵、不能复员，而同时也不敢和辽国再打仗。因为要打就只能胜、不能败，败了一退就到黄河边，国本就动摇。在这种情形下，宋代就变成养兵而不能打仗，明知不能打仗而又不得不养兵。更奇怪的，养了兵又不看重他们，却来竭力提倡文治。这也未可厚非，宋代就因刻意提倡文治，才把晚唐五代一段中国历史的逆流扭转过来了。在宋人只想把这些兵队来抵御外患，一面提倡文治，重文轻武，好渐渐裁抑军人跋扈，不再蹈唐末五代覆辙。因此上养兵而愈不得兵之用，以后就愈养愈多。《水浒传》说林冲是八十三万禁军教头，实际上太祖开国时只有二十万军队，太宗时有六十六万，到仁宗时已经有了一百二十五万。
所以王荆公变法行新政，便要着手裁兵。裁兵的步骤，是想恢复古代民兵制度，来代替当时的佣兵。但民兵制度，急切未易推行到全国，遂有所谓保甲制，先在黄河流域一带试行。保甲就是把农民就地训练，希望临时需要，可以编成军队，而又可免除养兵之费。
论到募兵制，本来也非全要不得。在某种地方某种情形下，募兵也很有用。但须有一确定的敌人做目标，而且非打不可，在几年内，定要把敌人解决。在这种情形下，募兵可以刻意训练，及锋而试，或许比全国皆兵制还好些。东晋的北府兵便是募兵，也曾建了奇功。但宋代的国防精神是防御性的，不敢主动攻击，用意始终在防守。把募兵制度与长期的防守政策相配合，这却差误了。一个士兵募了来，轻易不脱行伍，直养到六十岁，还在军队里。其间只有二十岁到三十岁这十年可用，三十岁到六十岁这三十年，他已老了，而且在军伍十年，精神也疲了。这样的军队，有名无实，于是只有再招新的。因此军队愈养愈多，纪律又不好。队伍多了，虽不易捍御外侮，却很能引起内乱。宋人最怕唐末五代以来的骄兵悍卒，但宋代依然是兵骄卒悍。国家不能不给他们待遇，而且须时时加优，否则就要叛变。政府无奈何，加意崇奖文人，把文官地位提高，武官地位抑低。节度使闲来没事做，困住在京城，每年冬天送几百斤薪炭，如是种种，把他们养着就算。养了武的又要养文的，文官数目也就逐渐增多，待遇亦逐渐提高。弄得一方面是冗兵，一方面是冗吏，国家负担一年重过一年，弱了转贫，贫了更转弱，宋代政府再也扭不转这形势来。
在宋太祖时，因防兵卒骄惰，又规定禁军分番戍守之制。地方兵厢军是摆着无用的，各边防守全须派中央禁军去。但亦不让其久戍，譬如今年戍河北的，隔一年调中央，又隔些时再调到山西，这又与汉唐戍兵退役不同。宋代是没有退役的，不在边防，即在中央，仍是在行伍中。如是则一番调防，在军人只感是一番劳动，因此又要多送他们钱。因此宋代虽连年不打仗，而经费上则等于年年动员、年年打仗。军队老是在路上跑，并且又把将官和军队分开了。军队一批批调防，将官还是在那里不动，如是则兵不习将，将不喜兵。这也是怕军人拥兵自重，然而缓急之际，兵将不相习，也难运用。所以整个宋代，都是不得不用兵，而又看不起兵，如何叫武人立功?宋代武将最有名的如狄青，因其是行伍出身，所以得军心，受一般兵卒之崇拜。但朝廷又要提防他要做宋太祖第二，又要黄袍加身，于是立了大功也不重用，结果宋代成为一个因养兵而亡国的朝代。
然而宋代开国时，中国社会承袭唐末五代，已饱受军人之祸了，所以宋代自开国起就知尚文轻武。宋太祖临死有遗嘱告诉他后人说：你们子孙相传，绝对不能杀一个读书人。他们牢守此家训，都知尊重文臣士大夫。直到南宋，还是守着不杀士大夫的遗训。岂止不杀，宋王室实在是懂得优奖文人的。因此过了百十年，能从唐末五代如此混乱黑暗的局面下，文化又慢慢地复兴。后代所谓宋学--又称理学，就是在宋兴后百年内奠定基础的。这一辈文人，都提倡尊王攘夷，明夷夏之分，又提倡历史传统，所以中国还能维持，开辟出自宋以下的下半部中国史，一直到现在。正因宋代人那样尚文轻武，所以好铁不打钉，好男不当兵的话头，也就从那时传下来。
我们今天从历史上平心评论，只能说宋代人为了补救唐代人的毛病，而并没有完全把毛病纠正过来，我们却不能请怪宋人。须知有许多毛病，还该怪唐代人。唐代穷兵黩武，到唐玄宗时，正像近代所谓的帝国主义，这是要不得的。我们只能说罗马人因为推行帝国主义而亡国，并且从此不再有罗马;而中国在唐代穷兵黩武之后仍没有垮台，中国的历史文化依然持续，这还是宋代人的功劳。我们不能因他太贫太弱，遂把这些艰苦一并抹杀。
中国的地理形势，到了黄河流域，就是大平原;一出长城，更是大平原。所以在北方作战，一定得要骑兵。而中国之对付北方塞外敌人，更非骑兵不可。而骑兵所需的马匹，在中国只有两个地方出产，一在东北，一在西北。一是所谓蓟北之野，即今热察一带;一是甘凉河套一带。一定要高寒之地，才能养好马。养马又不能一匹一匹分散养，要在长山大谷、有美草、有甘泉、有旷地，才能成群养，才能为骑兵出塞长途追击之用。而这两个出马地方，在宋初开国时，正好一个被辽拿去，一个被西夏拿去，都不在中国手里。与马相关联的尚有铁，精良的铁矿亦都在东北塞外，这也是宋代弱征之一。
王荆公行新法，一面想训练保甲，一面又注意到养马。但在中国内地养马不方便，据当时人估计，养一匹马所需的土地，拿来种田可以养活二十五个人，这是在农业社会里要准备战争一大缺点。王荆公不得已，定出保马政策，让民间到政府领马养，把马寄养在私家，一匹一匹分散养。平时民间可以利用领养之马;遇到战争需要，再临时集合。这种事，民间当然情愿做，领一匹马来平时作牲口用，却不晓得马在温湿地带饲养不易，很容易生病死亡。但马死了要赔钱，于是农民把养马看作苦事。政府却要挨派，于是保马变成一秕政。其实这一方法纵使推行有效，遇到战事，一群羸弱之马也未必真有用。在这一制度上，也可告诉我们宋代国防上所遭遇的大难题。
再说当时长城内险，自居庸关到山海关一带，都已在辽人手里。辽人倘向南冲来，又怎样办呢?真宗时澶渊之盟，即由此形势下逼成。自宋辽两国讲和以后，宋朝的国防形势是很可怜的。两国既不正式开战，中国人也不好正式布置边防，只奖励民间种水田，多开渠道，于渠旁多植榆杨。万一打仗，可以做障碍，稍稍抵御辽人之大队骑兵。这可说是无法中的办法，这真是极顶可怜的办法。但这办法纵可怜，辽人也懂得，还是时时不许中国开沟渠、种水田。又在冬令时，放队四出小掠，把中国边境农村烧杀破残了，让中国永久不能有沿边的防御线，他们可以随时入侵，如是威胁着中国只好保持和议。算只有山西一面，太原向北，还有一道雁门关内险，这就是杨家将杨老令公杨六郎等守御的一条线。不过这是次要的一线，主要的还是在河北。此线无险可守，主要的国防线算是拒马河，亦在涿州附近，这是宋代中国不得已的一条可怜的国防线;由此一退下来，就直扣首都开封之国门;再退始是淮南北丘陵地带，渐渐和黄河流域中原大平原不同;至于过了长江，形势更不同，所以南宋还能守江淮。这是宋代国防上的先天弱点，我们也不能一一怪宋人。
自然，宋代如果能出一个大有为之主，就国防根本条件论，只有主动地以攻为守，先要大大地向外攻击，获得胜利才能立国，才能再讲其他制度;现在是以防御来保国家，而且是一种劣势的防御，迟早总要失败，再迁就这一形势来决定其他制度，自该无一是处了。
其实中国自古立国，也没有不以战斗攻势立国的。秦始皇帝的万里长城，东起大同江，西到甘肃兰州黄河铁桥，较之宋代这一条拒马河，怎好相提并论呢?况且纵使是万里长城，也该采用攻势防御，所以终于逼出汉武帝的开塞出击。宋代军队又完全用在消极性的防御上，这固然是受了唐代的教训深，才矫枉过正至于如此。进不可攻，退不可守，兵无用而不能不要兵，始终在国防无办法状态下支撑。幸而还是宋代人特别重视读书人，军队虽未整理好，而文治方面仍能复兴，以此内部也还没有出什么大毛病。其大体得失如是。