这次攻打匈奴的战略目标很明确，就是收复原先赵武灵王时开拓的北部地盘，将河南地完全夺回来。河南地不是河南省，是指河套地区以南的地盘，所以是现在河北的北部地区。
匈奴部落比较分散，蒙恬决定兵分两路，一路从上郡出发，从陕西榆林进入河套北部，一路从原先义渠的地盘进入河套南部。匈奴自从被李牧打得落花流水后，重心向北迁移，主力集中在阴山和贺兰山地区，在河套地区的兵力比较薄弱。
匈奴虽然很嚣张，老是来烧杀掠夺，但遇到正规的秦军，完全不是对手。而且匈奴完全想不到秦朝突然发力，派了那么大支的军队过来。秦军在河套地区的战争非常顺利，没有遇到过什么有力的抵抗，很快就收复了河南地。
蒙恬意识到这几次的小打小闹并没有伤及匈奴的元气，一旦他们休整好了又会卷土重来。蒙恬于是率领军队守在河南地，等冬天一过，在公元前214年的春天，立刻率领大军开往阴山和贺兰山地区，攻打匈奴主力。头曼单于正准备集结兵力南下，没想到秦军突然发动了猛攻。
双方主力交战，匈奴不管是人数还是装备，都处于绝对劣势，蒙恬数战数捷，匈奴伤亡惨重。头曼单于被迫带领匈奴残部退出了阴山和贺兰山地区，向北逃窜了七百多里，一直逃到了银山以北的漠南一片。相比于百越战争，北击匈奴取得了完胜。
虽然匈奴跑了，但神仙的那五个字给秦始皇带来了很大的心理阴影。秦始皇不敢大意，让蒙恬带着三十万大军驻守边疆防御，并在河南地设置了九原郡，划分了三十四个县，后来还迁移了三万户人口到九原郡，巩固治理。这还不算完，秦始皇为了防范匈奴人日后南下，下令修筑长城。
修长城这个事并不是秦始皇开创的，在这之前，秦、赵、燕在北境都有自己的长城，秦始皇只是下令对原有的长城进行修缮，并将秦、赵、燕的长城连接起来，成为一条完整的防线。因为匈奴是游牧民族，兵种以骑兵为主，长城可以起到很好的防御作用。
北境防线绵延万里，修长城可是一个浩大的工程，前不久才修好灵渠，现在又要修长城，这对秦国的百姓来说无疑是巨大的负担。尽管民怨四起，但秦始皇很坚决，手段也很强硬。无数的壮丁、士兵及囚犯被征召去长城搬砖，秦始皇让蒙恬亲自当监工。
修长城还不够，为了方便军事运输补给，秦始皇下令修筑“直道”。直道相当于是驰道的升级版，从咸阳经过甘肃、直达内蒙古阴山地区