太原起兵后,李世民被封为敦煌公,右领军大都督。然而,李渊出师不久就遇到隋将宋老生的抵抗,由于连绵大雨,道路泥泞,粮草供应不上,李渊想退回晋阳再作打算,李世民以痛哭陈述利害,终使李渊改变退兵计划。在攻打宋老生的战斗中,李世民身先士卒,血染战袍,率众击溃宋老生。
李渊率军东进,又遇到隋将屈突通的顽强抵抗。在内部意见不统一的情况下,李世民力排众议,提出主力绕过屈突通,直接拿下长安,屈突通不战自溃的大胆设想;李渊再次听从了李世民的建议,直接进攻长安。李世民一路收编地方武装,队伍发展到十余万人,并与事先造反,已占领关中大片土地的平阳公主部队会师,很快攻下了长安。李渊先立代王杨侑为傀儡皇帝,半年后自立为帝,建国号为唐,改元为武德。李世民被任命为尚书令,封为秦王。从此以后,李世民就以秦王的身份,活动于政治舞台,叱咤于陇西关东。
从武德元年(公元618年)到武德六年,历时六年的战争,消灭了薛举、薛仁杲、王世充、窦建德、刘黑闼等割据势力,大唐王朝终于统一了中国。李世民在统一战争中作为主帅,战功卓著,特别是在虎牢关与窦建德部展开的彻底扭转战局的大决战,更成就了李世民善用奇兵的美名。作为主帅,得心应手地灵活运用战略战术,是超凡军事胆略和军事才能的充分体现,这使他的威望和地位日益提高。他不但掌握了朝廷的主要军队,还结交和搜罗了大量人才,武将有尉迟恭、秦叔宝、程知节、徐世勣、李靖等,文人有房玄龄、杜如晦等十八学士。就这样,以李世民为核心组成了一个强大的政治军事集团。
太子李建成对位高权重的李世民非常妒忌,十分担心李世民会争夺皇太子之位。因为早在晋阳起兵时,李渊就曾许诺李世民,事成后,立其为太子。攻下长安后,李渊曾打算立世民为世子,因世民固辞而止。《资治通鉴》记载:“世民功名日盛,上常有意以代建成,建成内不自安,乃与元吉协谋,共倾世民,各引树党友。”李建成在担心被取代的情况下与四弟李元吉结盟,利用李渊晚年有很多宠妃的关系,由与他关系亲密的张婕妤和尹德妃出面,经常在李渊面前夸赞自己,而诋毁李世民,离间其父子关系,籍此除掉李世民。这一招果然奏效,李渊深陷其圈套,因此动了牺牲李世民的心机。