武德元年（618年）五月，李渊登基称帝，建立唐朝，是为唐高祖。六月，唐高祖任命李神通为右翊[yì]卫大将军，爵位从郑公进升为永康郡王，不久改封为淮安王。十月，唐高祖任命李神通为山东道安抚大使，唐朝在山东各路的兵马都接受他的节制，以黄门侍郎崔干（《资治通鉴》又作崔民干、崔世干）为山东道安抚副使。 武德二年（619年）正月，李神通在魏县（今河北省魏县）进攻宇文化及，宇文化及抵抗不住，向东逃往聊城。李神通攻克魏县，杀死、俘虏两千多人，带兵追击宇文化及到聊城，并包围聊城。闰二月，李神通攻打聊城，宇文化及因军中粮尽，于是请求投降，李神通不予接受，崔干请求接受宇文化及的投降，李神通说大军长期暴露在外，如今宇文化及军粮尽计穷，马上就能取胜，应当力战攻下聊城，夺其财物以奖赏将士，如果接受他投降，那么用什么来作赏赐军队的费用呢？”崔干说窦建德将要抵达，如果还没有平定宇文化及，内外受敌，我军必然失败，怎么还能贪图财物而不接受投降呢。李神通大怒，把崔干囚禁在军中。 不久，宇文化及的弟弟宇文士及从济北运粮接济宇文化及，宇文化及的兵力逐渐恢复，于是又重新抵抗。李神通督率军队攻城，贝州刺史赵君德率先登上城墙，李神通嫉妒他的功劳，收兵不战。赵君德发怒，大骂下了城墙，于是未能攻克。李神通分遣兵卒前往魏县搬取攻城器械，被莘县的武装人员打败，恰逢窦建德的军队即将抵达，李神通于是率军撤退。两天后，窦建德攻取聊城，军势日益强大，山东州县都闻风响应，全部尽归窦建德。八月，窦建德带领十余万兵力奔赴洺州（今河北永年县），李神通闻讯，率领各路兵马退守相州（今河南省安阳市）。八月十一日，窦建德攻陷洺州。八月十九日，窦建德再次率领兵马开赴相州，李神通闻讯，率领各路兵马到黎阳（今河南省浚县）投奔李世勣（徐世勣）。十一月，窦建德攻陷黎阳，俘虏李神通和李世勣、魏徵、唐高祖的妹妹同安公主等人。十一月二十四日，窦建德迁都洺州，将李神通安置在下博，用宾客的礼节对待他。
