这样赵匡胤夺取后周政权后,为了防止五代十国割据混乱局面的重演,采取了一系列措施,加强封建专制主义中央集权,建立起由皇帝直接控制的庞大的军队和官僚机构。宋太祖提拔一些资历浅、易驾驭的年轻人充任禁军将领,并由文官主持的枢密院掌管军队的调动、招募、供给、训练、屯戍、拣选、迁补等军政,实行以文制武。此外,宋太祖把一半禁军部署在京城附近,另一半屯驻外地,使内外相隔,互相制约。经常调换军队的将领、实行更戍法,定期换防,不致军队威胁皇权。为了避免出现“君弱臣强”的尴尬局面,宋太祖在宰相之下设参知政事若干人,削弱宰相权力。同时,中央派文官任知州、知府,各州府还设置通判,监督、牵制州府长官。建隆元年(960年)二月,宋废除了宰相坐议之礼。以往各朝,每逢国家大事,皇帝必召宰相等重臣坐在一起,共同商议。议毕,皇帝赐茶,臣子方可退下。唐及五代时期,仍沿此制。赵匡胤建立宋朝后,仍留用范质、王薄等后周重臣。他们曾受周皇重用,这就容易受到猜忌;加上宋太祖猜忌心较重,稍有不慎,便会祸从天降。他们奏请改变旧制,不再由君臣坐在一起共同商讨,代之以奏札。宰相有事,可奏呈皇帝,皇帝批阅后,再给宰相下旨。赵匡胤对此表示同意。从此,宰相“坐而谈事”的待遇就被取消了。
北宋开国之初,南方有南唐、后蜀、吴越、南汉以及湖南、荆南、漳泉等割据政权,北方有地跨长城南北、占有燕云地区的辽朝以及辽朝卵翼下的北汉。宋太祖为了统一天下制定了先南后北的统一战略。建隆四年(963年)正月,宋太祖派遣慕容延钊、李处耘带兵出征湖南,当年三月即平定湖南,并一举占领荆湖,从而在军事上割断了后蜀、南唐、南汉之间的联系。乾德二年(964年)十一月,太祖遣兵5万伐蜀,后蜀孟昶上表请降。开宝三年(970年)九月,太祖派遣潘美、尹崇珂等率军讨伐割据岭南的南汉政权。次年二月,平定南汉。期间,两浙地区的吴越国王钱俶和漳州、泉州地区的平海军节度使陈洪进已听命于宋朝。开宝七年(974年)十一月,曹彬率军攻破金陵(江宁城),南唐后主降,南方大体平定。