武德九年（626年）八月，李世民即位。九月，李世民论功行赏，以杜如晦、房玄龄等五人功居第一，杜如晦升任兵部尚书，进封蔡国公，赐食邑实封一千三百户。贞观二年（628年），杜如晦晋升为检校侍中，兼任吏部尚书，仍总监东宫兵马事务。四月，突厥内乱，突利可汗被颉利可汗打得节节败退，派遣使臣前来求援。唐太宗与突利可汗是结拜兄弟，又与颉利可汗订立过盟约，难以抉择。杜如晦进言表示戎狄没有信义，以后终归会背负盟约，应该趁现在突厥变乱，发兵夺取。唐太宗选取折中的办法，向背靠突厥的梁师都发兵。突厥派大量援军帮助梁师都，正好遭遇柴绍等人率领的唐军，突厥大败不敢再前往救援。梁师都被他的堂弟梁洛仁杀死，梁洛仁带城投降，原属于梁师都的地盘成为唐朝的夏州。贞观三年（629年）二月，杜如晦接替长孙无忌任尚书右仆射，仍掌管选拔官吏事宜，与房玄龄共同掌管朝政。台阁制度、礼乐典章都由杜如晦、房玄龄两人共同制定。房玄龄善谋，杜如晦善诀断，二人同属唐太宗最为信任的智囊团成员，每当人们谈及唐朝贤相，首推杜如晦、房玄龄。杜如晦认为高孝基有鉴别人才得能力，为他树立神道碑来纪念他的功德。
