长城修筑的历史可上溯到西周时期，周王朝为了防御北方游牧民族俨狁的袭击，曾筑连续排列的城堡“列城”以作防御。到了春秋战国时期，列国为了争霸，互相防守，根据各自的防守需要在边境上修筑起长城，最早建筑的是公元前7世纪的“楚方城”，其后齐、韩、魏、赵、燕、秦、中山等大小诸侯国家都相继修筑了“诸侯互防长城”，用以自卫。其中，秦、赵、燕三国和北方强大的游牧民族匈奴毗邻，在修筑诸侯互防长城同时，又在北部修筑了“拒胡长城”，以后历代君主几乎都加固增修。这时长城的特点是东、南、西、北方向各不相同，长度较短、从几百千米到1000—2000千米不等。为了与后来秦始皇所修万里长城区别，史家称之为“先秦长城”。先秦长城根据防御对象，大致可分为北长城和南长城。
秦始皇是我国历史上赫赫有名的千古一帝，他建立的修建盖世功勋，可以说是彪炳千古的。秦始皇，名字叫做嬴政，不知道他父王给他取这个名字是什么意思，但是名如其人，嬴政真的赢得天下，统一六国，南击百越，北击匈奴。据说，秦始皇统一六国以后，有一位术士告诉秦始皇：灭六国者，秦也；灭秦者，匈奴也。这让秦始皇闻讯大惊，到底是没有和匈奴交过手，秦始皇也陷入了沉思。虽然当时中原是秦始皇的天下，但是北方草原的冒顿单于也是雄才大略，统一了草原。这两虎相争必有一伤。秦始皇明白必须要先发制人，于是下令蒙恬率军三十万北击匈奴，蒙恬作战勇猛，打得匈奴退出河套地区，不敢南下牧马。
然而，秦始皇高瞻远瞩，他心里明白匈奴绝对是个威胁，他们暂时退回草原，早晚还是要打回来的，秦始皇是寝食难安。那么，就得修筑长城抵抗这些神出鬼没的匈奴人。秦始皇下令征调百万民夫将长城连接起来，这就是被后人称之为万里长城。当时许多儒生反对修筑万里长城，主要是耗费大量的民力、人力物力，他们的反对惹恼了秦始皇，于是秦始皇下令将他们抓捕起来。
匈奴冒顿单于看了秦始皇这封信以后，吓出了一身冷汗，连忙下令大军向北移营三百里。冒顿单于以为秦始皇要御驾亲征北伐了，后来秦始皇也没有御驾亲征匈奴，看到匈奴北遁数百里，秦始皇觉得自己天威浩荡，匈奴人还是怕我的呢。所以，过了几天又往南方巡游去了。
秦始皇活着的时候，匈奴人是不敢肆意妄为的，只是秦始皇死了以后，北方的匈奴才逐渐成为中原王朝的心腹之患。匈奴人经常骚扰秦朝的变边城，秦二世也让蒙恬将军射杀匈奴人，但是匈奴对中原的那种恐惧赶感随着秦始皇的去世不复存在了。
长城是世界古代史上最伟大的军事防御工程，它并非简单孤立的一线城墙，而是由点到线、由线到面，把长城沿线的隘口、军堡、关城和军事重镇连接成一张严密的网，形成一个完整的防御体系。军堡、关城和军事重镇这个体系具有战斗、指挥、观察、通讯、隐蔽等多种功能，并配置有长驻军队的点线结合防御工程整体。
长城所体现出的军事防御思想，在军事发展史上有重要地位。长城的产生和发展和中国古代的整个军事发展同步前进，对于研究古代军事作战思想形成和发展具有重要意义。秦皇汉武，包括明初，无不是在主动出击、军事上取得压倒优势时修建长城的。这说明，修筑长城既是一种积极防御，又是积蓄力量、继续进取的谋略。
修筑长城，是针对西北边地军情所采取的积极措施，是化被动为主动事前防御。需要要强调的是，长城的防御作用不是一般人以为的“不被攻陷”；其真正的用处在于——入侵者或许能集中力量偶尔攻破一两个关口、闯入内地，但只要整段长城还驻守有强劲的军队，入侵者就始终面临被阻击、伏击而无法回家的危险；尤其是，长城扼住了燕山和太行山北支各个交通要道，游牧民族的骑兵纵然破关而入，但只能对内地实施骚扰，而他们的后勤根本无法通过关口输送进来，故而无法在内地立足、从而动摇中华帝国的根基。癣疥之疾再重，也侵入不到膏肓，这是长城存在的根本意义。