杨坚出生在一个大贵族家庭。他的先世是汉太尉杨震。当时，太尉是执掌军事的官员，地位与丞相相等。杨震的九代孙杨元寿，北魏时是武川镇（今内蒙古武川西）司马，作为州府的属官，掌管军事。从这以后，杨氏一家就世世代代居住在武川镇。杨元寿的玄孙杨忠，在西魏、北周时，官至大将军、大司空，是统兵征战的最高武官，兼管囚徒。杨忠就是杨坚的父亲。这个显赫的家世，为杨坚的仕途奠定了基础。
西魏大统七年（541）六月十三日深夜，杨坚诞生在冯翊（今陕西大荔）。传说，当他呱呱坠地的时候，祥瑞的金光辉映着殿堂，室内洋溢着浓郁的芳香。杨坚14岁时，被负责京师地区事务的长官辟为属官，官名是功曹；15岁，被授为散骑堂侍、车骑大将军，成为随侍皇帝的高级军官；16岁，升为骠骑大将军，开始带兵征战。有一次，周太祖宇文泰看见他，曾感慨地说：“这个年轻人长相不凡，不可等闲看待。”
宇文泰死后，他的第三子宇文觉即位。不久，宇文觉被部下杀死。宇文泰长子宇文毓当了皇帝。他就是历史上的北周明帝。明帝在位期间，一方面授杨坚为右小宫伯，掌管卿大夫士有名籍子弟的任用、俸禄和奖惩，晋爵大兴郡公，以示优宠；另一方面，对杨坚又有些不放心，便派会相面的大臣赵昭暗地里观察他。过了一段时间，赵昭对明帝说：“从相面上看，杨坚成不了大事，最高只能做一个柱国。”明帝这才有些放心。
继明帝之后，宇文邕当了皇帝，他就是北周武帝。武帝升杨坚为左小宫伯，进位大将军，出任随州（今湖北随州）刺史。武帝时期，宗室宇文护把持朝政，他广结私党，排斥异己，对杨坚更是非常忌恨，多次设计陷害。
一次，宇文护外出打猎，满朝文武大臣随行，大队人马奔驰在长安郊外的原野上，马蹄杂沓，尘土飞扬，声势十分浩大。一时间，野狐在迅速地奔跑，狡兔在仓皇地逃命，战马在大地上飞驰。就在这紧张忙乱的时刻，宇文护乘人不备，嗖的一箭，射向了正在追赶野狐的杨坚。谁知，说时迟，那时快，在杨坚的右侧，猛然间，一匹战马腾空而起，马上一员大将手持弯弓，轻轻一拨，那支飞箭已落在地上。这拨箭的人正是大将军侯伏。宇文护陷害杨坚的阴谋终于没有得逞。
此后不久，杨坚袭爵隋国公，又把长女许配给武帝的太子为妃。伴随着武帝对杨坚的日益信任，朝中一些宗室大臣却对杨坚肆意诋毁。一天，齐王宇文宪对武帝说：“杨坚相貌非常，我每次看到他，都有些不自在。看来他不是一个久居人下的人，请你早些时候把他除掉。”武帝回答说：“他只是一个将才，并不妨事。”掌管民政的内史王轨也多次对武帝讲：“杨坚貌有反相，请你早日将他去掉。”武帝则很不高兴地说：“一切都自有天命，你能把上天怎么样呢！”
建德五年（576），奉北周武帝之命，杨坚率领三万水军，击败了北齐军队。六年（577），他又跟随武帝出征北齐，取得胜利。不久，杨坚又联合宇文宪，在冀州（今河北省中南部）打败北齐任城王高湝的军队。于是，杨坚进位柱国，被任命为定州（今河北定州）总管。此后，定州流传着这样一个故事：定州的西门久闭不开，北齐文宣帝在位时，有人请求打开西门，以便于行路。文宣帝不许，说：“自有圣人前来打开此门。”杨坚被任命为定州总管后，西门果然不启自开了。
武帝死后，他的长子宇文赟即位，历史上称为宣帝。因为宣帝皇后是杨坚的女儿，宣帝便拜杨坚为上柱国、大司马，不久又升为大后丞、右司武、大前疑。这些都是北周政府中的高级官员。宣帝每次外出，都让杨坚留守都城。随着杨坚地位越来越高，宇文氏家族的成员对杨坚的猜忌也越来越大，于是，谋害杨坚的阴谋一个个接踵而来。
一天，赵王宇文招派人送来请帖，邀请杨坚前往赵王府赴宴。杨坚带领亲信元胄和随从人员三十名前往。宴会厅设置在赵王寝室中。赵王借口室内狭小，只允许元胄跟人，其他随从不得入内。宴会前，赵王和他的两个儿子密谋了好一阵。宴会开始了，鼓乐齐鸣。在饮酒正高兴的时候，赵王的两个儿子进献西瓜。赵王解下佩刀，把瓜切开，随即用刀把瓜捅到杨坚面前。形势极为紧张。这时，只见元胄手按佩刀，紧紧地站在杨坚身后，怒目横眉，盯着赵王的一举一动。赵王见此情景；手不由得有些发抖，只好又慢慢地把刀抽了回来。不一会儿，赵王假装呕吐，起身要到后屋。元胄怕发生意外，赶忙挡住赵王的去路，赵王无法，只好坐下。正当双方僵持的时候，外面忽然通报滕王宇文逌来到。杨坚和赵王起身到屋外迎接，元胄乘势对杨坚说：“事情不好，你要赶快离开这里。”杨坚这时也听到了屋后有铠甲相撞的声音，便在元胄保护下，急匆匆地离开了赵王府。
不仅宇文氏家族的王公要陷害杨坚，就是宣帝本人，后来对杨坚也产生了疑忌之心。宣帝有四个美姬，并列为皇后，她们为了争宠，互相辱骂，经常闹得不可开交。有时，宣帝被她们闹得实在不耐烦了，就说：“你们再闹，我就把你们全杀掉。”一天，宣帝突然眉头一皱，想出一计。他让四个宠姬打扮得分外妖艳，站在他的两侧，又派人去召唤杨坚。宣帝对左右的武士们说：“如果杨坚进来神色有什么变化，你们就立即把他杀掉。”布置好后，宣帝召杨坚进殿。在杨坚朝殿上走的时候，宣帝还故意地和四个妃嫔嬉笑耍闹。不料，杨坚应召上殿，脸上始终是一股正气，并且目不斜视，从容自若。宣帝阴谋没有得逞，只好叫杨坚从殿内退出。
大象二年（581）五月，宣帝因荒淫过度而死。他九岁的儿子宇文衍即位，历史上称为静帝。宣帝的腐朽统治已使北周政权内许多有识之士极为不满，年幼的静帝又肯定不会使国家出现什么新气象。在这种情况下，北周朝廷中有个叫刘昉的人，极力主张杨坚称帝，取代静帝。刘昉还把这个想法和朝中另一个大臣郑译说了，郑译也表示很同意。就这样，在刘昉、郑译劝说下，杨坚决心总揽北周的军政大权。当时，刘昉是御正大夫，郑译是内史上大夫，他们直接掌握着北周朝廷军国大事的发布权。于是，他们首先假传静帝圣旨，命杨坚入朝主政，总揽一切军国要事，并直接负责指挥各地的军队。不久，刘昉、郑译又诱使静帝拜杨坚为左大丞相，节制文武百官。杨坚入朝主政后，以正阳宫为丞相府，以郑译为长史，刘昉为司马，很快建立起了自己的一套机构。针对宣帝在世时刑政苛酷、群心崩骇的局面，杨坚大力施行仁政，崇尚节俭，简明法令。这样，很快得到了国内老百姓的拥护。
但是，对杨坚入朝主政，宇文氏集团中许多人并不甘心。宣帝的弟弟汉王宇文赞早就想当皇帝，宣帝死后他便搬进宫中，上朝听政时也常常和杨坚同帐而坐。刘昉为了削弱宇文赞的警惕性，就选了几个美女送给他，宇文赞很高兴。刘昉还对宇文赞说：“大王，你是先帝的弟弟，众望所归，现在静帝年幼无知，怎能承担大事？只不过先帝刚死去不久，现在大家的情绪还没有稳定。你暂且回归王府，等形势稍稍平静，就请你人承大统。”宇文赞当时只有十六岁，又不太聪明，相信了刘昉的话，便从宫中搬回了王府。就这样，杨坚称帝的一个障碍被搬掉了。
这时，相州总管尉迟迥也以重臣宿将自居，对杨坚执政极为不满，以至举兵造反。一时间，从者十余万。杨坚面对混乱的形势，镇定自若。他命令上柱国、郧国公韦孝宽带兵前往讨伐。不久，韦孝宽在相州（今河北临漳境内）打败尉迟迥，并把他的首级送到都城长安。这使很多人极为震惊，各地作乱的人逐渐平息。此后，为了防范宇文氏家族的藩王们起兵，杨坚又用计谋把赵王宇文招、陈王宇文纯、越王宇文盛、代王宇文达、滕王宇文逌相继召到长安，并把宇文招、宇文盛斩首示众，从而彻底扫清了他通向皇帝宝座的道路。
开皇元年（581）二月十四日，和煦的阳光普照大地，湛蓝色的天空中浮动着几朵轻云。这一天，杨坚在长安皇宫中的临光殿，正式举行了隆重的皇帝即位仪式。他正襟危坐，面容和善，略带笑意，微微眯起双眼凝视着跪在殿前的大臣们。那些头顶高冠、足蹬朝靴的文武臣僚，在节奏鲜明的钟鼓声中，慢慢地叩首。与此同时，长安城的南郊，在一个高大的祭坛上，一堆干柴已被点燃，转瞬间，火热熊熊，光焰夺目。杨坚派遣使者正在这里举行祭天仪式。这一切意味着，一个新的朝代出现了，一个新的皇帝诞生了。这个朝代就是中国历史上的隋朝。这个新的皇帝就是隋朝的开国君主杨坚。
