秦统一后,匈奴一直占领着河套地区,并不时南下侵扰,威胁秦国的北部安全。匈奴,是我国古代多民族国家的一个强大的游牧民族。他们“逐水草迁,毋城郭常处耕田之业”,“士力能弯弓,尽为甲骑”,主要活动于蒙古高原和南至阴山、北抵贝加尔湖的广袤地区。由于匈奴奴隶制发展、国家强大,加之中原地区正处于战乱割据状态之中,因而匈奴奴隶主贵族时而侵扰秦北部边境。为了解除侵扰,安定北边,维护国家的统一,秦始皇本想在兼并六国之后,立即出师北伐。但李斯却不以为然。他进谏道:“夫匈奴无城郭之居,委积之守,迁徙鸟举,难得而制也。轻兵深入,粮食必绝;踵粮以行,重不及事。得其地不足以为利也。遇其民不可役而守也胜必杀之,非民父母也。靡敝中国,快心匈奴,非长策也”。虽然北击匈奴遭到秦始皇的拒绝,但由于当时兼并六国的战争刚刚结束,秦皇朝草创伊始,发动大规模的对匈战争的条件还不具备。因此,秦始皇除委任蒙恬、王离、杨翁子加强对北边的屯戍外,在整个对匈奴的军事部署上,在开始的一段时间内,基本上还是采取积极防御的策略。真正的反击战是在秦王朝建立五、六年之后才开始的。特别公元前215年,秦始皇派大将蒙恬率领30万大军北逐匈奴,占据了河套地区,并命蒙恬负责修筑长城,用以抵御匈奴南进。
据记载,由于工程浩大,秦始皇使用了近百万劳动力来修筑长城。当时没有任何机械工具,全部依靠人力来完成每个工作程序。于是,在崇山峻岭、峭壁深壑之间,人们把过去秦、赵、燕三国已有的长城连接起来,并加以修缮和巩固。就这样,西起临洮,东到辽东,一道绵延万里、气势恢宏的铁壁铜墙横亘在了秦国的北疆,这就是闻名中外的“万里长城”。
根据现有遗迹来看,秦长城有的是土掺碎石子夯筑,有的则用石块砌成内外整齐的城墙。由于长城是建在崇山峻岭之间,所以它的宽窄高厚也是因地形而异,一般为下底宽5米,高1—4米。整个工程由关隘、城墙、城台和烽燧四部分组成。关隘往往设于高山险谷或具有战略意义的要地,以便扼守要冲,威慑来犯之敌。城墙是长城的主体,大都随山势而筑。城台凸出于墙外,用于放哨警戒或用来藏兵。烽燧大多建在山顶或长城的转折处,主要是用来传递军情,白天燃烟,晚上烧火。
长城作为秦坚固的防线,一定程度上防御了匈奴的再次南下,保护了中原经济文化发展及人民生产生活的安定,是中国古代人民智慧的结晶。