唐武德四年（公元621年），李渊任命李靖为检校荆州刺史，并给予任命官职的特权。李靖于是来到桂州招抚岭南各地（今属广东和广西一带）的军阀首领，李靖授予宁真长、冯盎、李光度三个人不同的官职和爵位，使岭南全部归降唐朝，之后唐高祖李渊授予李靖岭南道抚慰大使和检校桂州总管。 唐武德六年（公元623年），在丹阳割据的军阀辅公祏造反，李渊任命李孝恭和李靖等人征讨辅公祏。唐朝大军抵达舒州的时候，辅公祏派遣冯惠亮部驻扎在当涂，陈正通和徐绍宗部驻扎在青林山。李靖认为辅公祏实力强劲，如果战争旷日持久，唐军会腹背受敌被前后夹击。冯惠亮擅长阵地野战，却被辅公祏下令坚守不出，此时正是攻打营寨的大好时机。于是李靖作为先锋大败冯惠亮，并在吴郡擒获想要投奔外援的辅公祏。唐高祖李渊拜李靖为行台兵部尚书、检校扬州大都督府长史。
