隋大业年间，杜如晦受吏部侍郎高孝基器重，被补用为滏阳县尉，但因见隋朝政治腐败，不久后弃官而归。
2 辅佐李世民：
成为秦王府幕僚：唐高祖李渊平定长安后，杜如晦被秦王李世民召进府中任兵曹参军，不久升为陕州总管府长史。当时秦王府中有很多英才被外迁，房玄龄向李世民推荐杜如晦，称他是辅佐帝王的人才，李世民便上奏留下杜如晦担任秦王府属官。后来杜如晦跟随李世民讨伐薛仁杲、刘武周、王世充、窦建德，时常参议军中机密，深受同僚佩服，升迁至陕东道大行台司勋郎中，封建平县男，食邑三百户，并以本官入文学馆，为十八学士之首。
策划玄武门之变：秦王李世民屡建功勋，引起太子李建成的忌惮。李建成数次加害李世民，并与齐王李元吉暗中勾结后宫嫔妃，在唐高祖李渊面前屡次诬陷李世民。杜如晦和房玄龄认为先发制人才能转危为安，劝李世民诛杀李建成、李元吉。后来，他们参与谋划了“玄武门之变”，帮助李世民成功登上皇位。
3 担任宰相：
李世民即位后，论功行赏，杜如晦功居第一，升任兵部尚书，进封蔡国公，赐食邑实封一千三百户。贞观二年，杜如晦晋升为检校侍中，兼任吏部尚书，仍总监东宫兵马事务。
贞观三年二月，杜如晦接替长孙无忌任尚书右仆射，仍掌管选拔官吏事宜，与房玄龄共同掌管朝政。台阁制度、礼乐典章都由杜如晦、房玄龄两人共同制定。房玄龄善谋，杜如晦擅于决断，人称“房谋杜断”，唐朝谈及良相，首推房、杜二人。
4 离世及身后之事：
贞观三年十二月，杜如晦病重辞官。唐太宗李世民特许俸禄赏赐依旧，多次派使者问候病情，名医好药不停送去府中。贞观四年，杜如晦病情愈发严重，唐太宗派太子到其府邸亲临问候，又亲自前往探望，抚摸着他哽咽，赐下杂帛千段。为让杜如晦活着看到儿子拜授官职，李世民破格提拔其子杜构任尚舍奉御。但杜如晦最终还是在该年三月病逝，享年四十六岁。
杜如晦逝世后，唐太宗追赠开府仪同三司。下葬时，加赠司空，谥号成，并亲笔下诏令虞世南为杜如晦撰写碑文。贞观十七年，唐太宗命阎立本为二十四位功臣绘制等身像置于凌烟阁中，杜