隋末，天下大乱，各地义军风起云涌，隋炀帝的统治摇摇欲坠。此时李渊任河东讨捕使，大理司直夏侯端、鹰扬府司马许世绪、武则天之父武士彟等人均劝说李渊举兵起事。李渊则认为时机尚不成熟，不可轻举妄动，仅让部下伪造敕书大量征兵招揽人才。 李世民见反叛隋朝的刘武周已占据汾阳宫，便与裴寂劝说李渊早点定下大计，否则将被刘武周占了先机。李渊趁此机召集将领幕僚商议，并于义宁元年(617年)五月，起兵于晋阳（今山西太原）。李世民拜右领军大都督率兵征西河郡，斩其郡丞高德儒，后封敦煌郡公。同年十一月李渊攻下大兴城，推代王杨侑为皇帝，尊隋炀帝杨广为太上皇，李渊自为大丞相、唐王。李世民官拜京兆尹、封光禄大夫、唐国内史，徙封秦国公，食邑万户。义宁二年(617年)，为右元帅，徙封赵国公。 618年3月，隋炀帝杨广在江都被宇文化及所杀，5月，李渊废黜杨侑，称帝，改国号为唐，定都大兴，易名长安，至此唐朝建立。李世民拜尚书令、晋为秦王。
