开大象二年（580年）六月，北周宗室中有实力的赵王宇文招、陈王宇文纯、越王宇文盛、代王宇文达、滕王宇文逌都到了长安。相州总管尉迟迥自以为是北周的重臣宿将，看到杨坚擅政心中不平，于是举兵东夏。郧州总管司马消难、益州总管王谦相继起兵响应。赵、魏之士，跟从的人非常多，旬日之间，就聚集了十万兵马。又宇文胄以荥州、石愻以建州、席毗以沛郡、毗弟叉罗以兖州为根据地，都响应尉迟迥。杨坚命上柱国、郧国公韦孝宽出兵打败了尉迟迥，消灭了对自己有威胁的政敌。司马消难南逃于陈朝，王谦也被杀死。杨坚的这一胜利，稳定了内部的统治秩序。雍州牧毕王宇文贤及赵、陈等五王，看到杨坚平定了尉迟迥之乱，威望大增，图谋作乱。杨坚捉拿宇文贤将其斩首，宣布赵王等人的罪行，下诏五王剑履上殿，入朝不趋，来安定五王之心。接着便以谋反的罪名，先后杀掉了赵王宇文招、越王宇文盛、陈王宇文纯、代王宇文达、滕王宇文逌等、清除了鲜卑族中的反对力量。同时又拉拢元谐、元胄、宇文忻等部分鲜卑贵族。这样就使杨坚集团改朝换代的计划，不再受到任何阻碍。
北周大定元年（581年）二月，杨坚由隋国公晋封隋王。同月，北周静帝以杨坚众望有归下诏宣布禅让。杨坚三让而受天命，自相府常服入宫，备礼即皇帝位于临光殿，定国号为“隋”，改元开皇，宣布大赦天下。立王后独孤氏为皇后，王太子杨勇为皇太子。降周主为介国公，五月，杨坚派人害死宇文阐，谥号静帝，葬于恭陵。皇二年（582年），隋文帝杨坚以长安城“凋残日久”，在城东南龙首山创建了一座新的都城，名叫大兴城。城内有东西二市，东市名都会，西市名利人。因系国都所在，“俗具五方，人物混淆，华戎杂错。去农从商，争朝夕之利，游手为事，竞锥刀之末”，成为当时最大的商业都市。隋文帝鉴于前此币制的混乱，铸造标准的五铢钱，禁用古钱和杂钱。五铢钱“所在流布，百姓便之”，使货币得到统一。开皇时，又规定以古尺一尺二寸为一尺，以古斗三升为一升，以古秤三斤为一斤，采冀州刺史赵煚所定的“铜斗铁尺”，颁行全国，度量衡也统一起来了。至于“除入市之税”，“罢酒坊，通盐池盐井，与百姓共之”，这都有利于商业的发展。杨坚平定叛乱之后，统一天下的对手只剩下南方的陈朝和位于江陵一隅之地的西梁。开皇七年（587年）九月十九辛卯日（587年10月26日），废西梁后主萧琮，西梁亡。开皇八年（588年），杨坚以晋王杨广出六合、杨俊出襄阳、杨素带领水军出永安，共五十一万八千大军，三路大军伐陈。八年十二月杨素沿长江击破陈的沿江守军，顺流而东。但因为施文卿、沈客卿等扣留告急文书，导致陈朝无法把大军从建康调出。开皇九年正月二十甲申日（589年2月10日），陈将任忠引韩擒虎攻入建康城，捉住陈叔宝，陈朝灭亡。不久，各地陈军或受陈后主号令投降、或抵抗隋军而被消灭，只有岭南地区受冼夫人保境据守。开皇十年（590年）八月，隋派使臣韦洸等人安抚岭南，冼夫人率众迎接隋使，岭南诸州悉为隋地。统一全国后，杨坚励精图治，开创了辉煌的“开皇之治”。结束了西魏宇文泰的鲜卑化政策，将被改成鲜卑姓的汉人大臣以及府兵将领（以及其所辖府兵）恢复汉姓。另外，废除九品中正制，改为五省六曹制，后改称五省六部制。
隋初经历南北朝长期的战乱，民生疲弊困苦，故杨坚接纳司马苏威建议，罢盐、酒专卖及入市税，其后多次减税，减轻人民负担，促进国家农业生产，稳定经济发展。杨坚在位时代之富饶既非重敛于民，究其原因，与全国推行均田制有关。此举既可增加赋税，又可稳定经济发展，且南朝士族亦渐由衰弱至于消逝。均田制能顺利推行，对隋前中期的经济发展收益甚大。加上隋代以关中作为本位，关中粮食短缺，需依赖关东漕运接济，故杨坚于洛州等地设立常平仓等官仓，贮存关东运来粮食，建广通渠，便利关中漕运。又于民间设义仓，人民捐纳粮食以防凶年。自开皇九年（589年）统一天下后，以富国为首要目标。轻徭薄赋以解民困。在确保国家赋税收入之同时，稳定民生。由于魏晋南北朝以来，户籍不清，税收不稳。于是于开皇五年（585年）下令实行大索貌阅。并接纳尚书左仆射高颎之建议，推行输籍法，作全国性户口调查，结果查获没有户籍的百姓达165万余口，其中丁壮44.3万人，以增加国家税收，改善经济，尽扫魏晋南北朝以来隐瞒户籍之积弊。此外，杨坚安定政治，关陇集团的支持功不可没。汉人如郑译、刘昉、高颎等名臣有助推动国策。杨坚亦因前朝酷刑甚多，影响民生，故命苏威等人编纂《开皇律》，修订刑律，订立国家刑法，使人民有法可守，又减省刑罚，死刑只设绞、斩二等，以示隋朝对民之宽大。
开皇十三年（593年），下诏建仁寿宫于岐州之北，使杨素监造。平山填谷，以建宫殿，规模很大。因督役严急，丁夫死者以万数。开皇十五年（595年），仁寿宫修成。文帝到了那里，看到宫殿十分壮丽，大怒道：“杨素殚民力为离宫，为吾结怨天下。”杨素听了，很怕受处分。但独孤后对这所离宫感到很满意，文帝的态度也就变了。第二天召见杨素，赐钱百万，锦绢三千段。杨坚好猜忌苛察，容易听信谗言，到了晚年更是滥杀大臣，虞庆则、史万岁等功臣故旧先后被杀，此外，法制逐渐遭到破坏，用法“不复依准科律”，颁布诸如“盗一钱以上皆弃市”、“三人共盗一瓜，事发即死”之类的苛刻刑法，百姓惶恐。杨坚还热衷廷杖，“每于殿廷打人，一日之中，或至数四”。同时，杨坚晚年颇受诸子的困扰。太子杨勇性宽厚，率意任情，无矫饰之行。他曾经把蜀人所做的精美的铠甲，再加装饰，文帝看了很不高兴。独孤后又因太子妃元氏无宠，遇心疾而死，疑有他故，颇为不平，乃派人伺察太子过恶。而晋王杨广则矫情饰诈，内谄母后，外结朝士，特别是拉拢权臣杨素，积极进行夺取太子地位的活动。隋文帝先是软禁三子秦王杨俊；接着在开皇二十年（600年），将长子太子杨勇贬为庶人，改立次子杨广为太子；又于仁寿二年（602年），将四子蜀王杨秀贬为庶人。
仁寿二年（602年）独孤皇后去世后，宣华夫人陈氏、容华夫人蔡氏都受到杨坚的宠爱。仁寿四年（604年），杨坚患病住在仁寿宫，尚书左仆射杨素、兵部尚书柳述、黄门侍郎元岩都进入仁寿宫侍疾。隋文帝杨坚召杨广入内居崐住在大宝殿。杨广考虑到如果杨坚去世，必须预先作好防备措施，他亲手写了一封信封好，派人送出来询问杨素。杨素把情况一条条写下来回复杨广。宫人误把回信送到了杨坚的寝宫，杨坚看后极为愤怒。天刚亮，宣华夫人出去更衣，被杨广所逼迫。宣华夫人拒绝了他才得以脱身。她回到文帝的寝宫，杨坚奇怪她神色不对，问什么原因，宣华夫人流着泪说：“太子无礼1杨坚愤怒，捶着床说：“这个畜生！怎么可以将国家大事交付给他！独孤氏误了我1于是他叫来柳述、元岩说：“召见我的儿子1柳述等人要叫杨广来。杨坚说：“是杨勇。”柳述、元岩出了杨坚的寝宫，起草敕书。杨素闻知此事，告诉了杨广。杨广假传杨坚的旨意将柳述、元岩逮捕，关进大理狱。他们迅速调来东宫的裨将兵士来宿卫仁寿宫，宫门禁止出入，并派宇文述、郭衍进入调度指挥；命令右庶子张衡进入仁寿宫侍侯杨坚。后宫的人员全被赶到别的房间去。随后，杨坚在大宝殿驾崩，在位23年，终年64岁，庙号高祖，谥号文皇帝，葬于泰陵（今天陕西省杨陵区城西5公里处）。