贞观七年（633年），年仅六岁的晋王李治被任命为并州大都督，李勣被授金紫光禄大夫、并州大都督府长史，代理并州事务。其后，李勣因父丧丁忧，但不久后就官复原职。在并州任职期间，李勣颇为尽职，受到唐太宗夸赞。贞观十一年（637年），李勣改封为英国公，世袭蕲州刺史，以并州大都督府长史之职遥领太子左卫率。 贞观十五年（641年），李勣入朝，被拜为兵部尚书。赴京途中，薛延陀的真珠可汗派遣其子、小可汗大度设率领八万骑兵，联合仆骨、同罗、回纥等部共计二十万人南侵东突厥李思摩的部落。唐廷接到李思摩请求后派军去援，李勣被任命为朔州（山西省朔州）行军总管，指挥六千精骑，大败薛延陀的军队，斩首三千余人，俘虏了五万余人和一万五千余匹马，并因功恩荫一子为县公。 贞观十七年（643年），李治晋升为皇太子，而李勣曾为李治担任并州长史，唐太宗对其寄予厚望，将他调任为太子詹事兼左卫率，同时升为特进，担任中书门下三品的官职。同年，唐太宗设凌烟阁置二十四功臣像。李勣的画像也在其中。
