刘邦撒手归西之前，已经为儿子安排了几任丞相的人选。吕后问他：“在你百岁之后，萧相国也死了，让谁来代替他？”刘邦说：“曹参可以。”高祖死后，汉惠帝即位便以曹参为相。第二年，年老的相国萧何病重。惠帝去探望他，还问他将来谁来接替他合适。萧何不愿意表示意见，只说：“谁还能像陛下那样了解臣下呢？”
汉惠帝问他：“你看曹参怎么样？”萧何和曹参两人关系很好，知道曹参是个治国的人才。早年都跟随汉高祖一起起兵，并且立了不少战功。曹参虽是个将军，但在高祖封他的长子齐王处做齐相时，由于他采用黄老学说的清静无为思想治理天下，让百姓过上安定的生活，尽可能不多去打扰他们。因此在他做齐相的九年间，齐国所属的七十多座城都比较安定。所以汉惠帝一提到他，他也表示赞成，并说陛下的主意不错，有曹参接替，自己死也心安了。
萧何一死，汉惠帝马上命令曹参进长安，接替做相国。曹参还是用原先的清静无为的办法，一切按照萧何已经规定的章程办事，什么也不变动。有些大臣看曹参这种无所作为的样子，有点着急，也有的去找他，想帮他出点主意，但是他们一到曹参家里，曹参就请他们一起喝酒。要是有人在他跟前提起朝廷大事，他总是把话岔开，使别人无法开口。最后客人喝得醉醺醺地回去，什么也没有说。
汉惠帝看到曹相国这样子，认为他是倚老卖老，瞧不起他，心里挺不踏实。曹参的儿子在皇宫里侍候惠帝。惠帝嘱咐他说：“你回家的时候，找个机会问问你父亲，高祖归了天，皇上那么年轻，国家大事全靠相国来主持。可您天天喝酒，不管事，这么下去，怎么能够治理好天下呢？看你父亲怎么说。”
曹参的儿子就照惠帝的话一五一十地跟曹参说了。曹参一听，就上火了，他骂着说：“你这种毛孩子懂得个什么，国家大事也轮到你来问。”说着，竟叫仆人拿板子来，把儿子打了一顿。曹参的儿子莫名其妙地受了责打，非常委屈，回宫的时候当然向汉惠帝诉说了。汉惠帝也感到很不高兴。
第二天，曹参上朝的时候，惠帝就对他说：“你儿子跟你说的话，是我叫他说的，你打他干什么？”曹参向惠帝请了罪，接着说：“请问陛下，您跟高祖比，哪一个更英明？”惠帝说：“那还用说，我怎么能比得上高皇帝。”曹参说：“我跟萧相国比较，哪一个能干？”汉惠帝不禁微微一笑，说：“好像不如萧相国。”
曹参说：“陛下说的话都对，萧何不如高皇帝，我又不如萧相国。高皇帝和萧相国平定了天下，又给我们制定了一套规章。我们只要按照他们的规定照看办，不要失职就是了。”
汉惠帝这才有点明白过来。曹参用他的黄老学说，做了三年相国。由于那时候正处在长期战争的动乱之后，百姓需要安定，他那套办法没有给百姓增加更多的负担。因此，当时有人编了歌谣称赞萧何和曹参。历史上把这件事称为“萧规曹随”。
