温彦博生性聪颖，能言善辩，又博览群书，受到薛道衡、李纲的赞誉，并得到秦王杨俊的举荐，授为文林郎，宿直内史省，后改任通直谒者。616年（大业十二年），罗艺自称幽州总管，温彦博被引为司马。 618年（武德元年），唐高祖李渊在长安称帝，建立唐朝。同年十二月，罗艺降唐，被封为幽州总管。温彦博因预谋有功，授幽州总管府长史，不久被征召入朝，历任中书舍人、中书侍郎，封西河郡公。 624年（武德七年），唐高祖封高句丽国王为上柱国、辽东郡王、高丽王，承认高句丽的藩属国地位。此前，唐高祖曾欲放弃对高句丽的统治。温彦博进言道：“辽东之地在周朝是箕子国，在汉朝则是玄菟郡，魏晋以前便是中国疆域，不可以放弃。如果放弃对高句丽的统治，四夷诸国如何瞻仰大唐威仪。”唐高祖这才作罢。 625年（武德八年），突厥入侵。温彦博被任命为并州道行军长史，随行军总管张瑾出兵抵御。八月，唐军在太谷战败，温彦博被突厥俘虏。颉利可汗知道他是皇帝近臣，向他逼问唐朝兵力虚实。温彦博坚贞不屈，不肯吐露，被流放到阴山苦寒之地。
