大唐帝国，高祖李渊武德元年（618年）十月，李密被王世充击败，聚集余众归顺唐朝。
李密原来所统领的属地都由徐世勣接管。
武德二年（619年），徐世勣对长史郭孝恪说：
“魏公（李密封魏国公）已经归附大唐，如今这里的人民土地，是属魏公所有，我如果上表献出它们，就是借主人的失败得利，自己为自己邀功，用来求取富贵，是我认为耻辱的。
现在应当一五一十地记录州县的名称数量和军民的户口，全部报告魏公，让魏公自己献给朝廷，这样就是魏公的功劳了。”他于是派使者致信李密。
使者初到朝廷，李渊听说徐世勣没有奏表，只写信给李密，颇感奇怪。
待到使者把徐世勣的本意告知李渊，李渊才大悦道：
“徐世勣感怀主人的恩德、推辞功劳，确实是纯臣。”
下诏封他为黎阳总管、上柱国，封莱国公。
后又加授右武候大将军，改封曹国公，并被赐姓李氏，“附宗正属籍”，再赐良田五十顷、上等宅第一所。
徐世勣自此改名李世勣。
不久后，李渊命李世勣统领河南、山东的军队抵抗王世充。九月，河北军阀窦建德进攻相州，山东道安抚大使、淮阳王李神通率军逃至黎阳。
十一月，窦建德攻陷黎阳，李盖（即徐盖，此时已被赐姓李氏）与李神通、魏徵、同安公主等人一同被俘。
李世勣率领数百骑兵渡河撤离，但因李盖被俘，只得返回投降。
窦建德将李盖作为人质，仍让李世勣镇守黎阳。
李世勣想要归顺唐朝，但又担心此举将祸及其父。
他私下与郭孝恪商议后，决定先为窦建德立功，取得其信任，再行图谋。
不久后，李世勣在获嘉袭败王世充所部，多有斩获，窦建德因此对他颇为亲近。
李世勣在取得窦建德的信任后，成功劝说他亲征河南，企图借机将其杀死。
但窦建德的妻子产子，他因此迟迟未起程。
李世勣既不能袭取窦建德，谋杀窦建德部将曹旦的计划又泄漏。
只得与郭孝恪率领几十名骑兵归降唐朝。
武德三年（620年）四月，李世勣随秦王李世民大败宋金刚。同年，李世勣又随李世民讨伐王世充，奉命接管管州。
郑国（王世充称郑国皇帝）太子王玄应企图攻取管州，李世勣将其击退。
李世勣又派郭孝恪劝降郑国荣州刺史魏陆，阳城、汴州也相继来降。
武德四年（621年），郑国的郑州司兵沈悦请求献出虎牢关降唐，李世勣夜间埋伏军队接应，占领了虎牢关，抓获了郑国的荆王王行本。
又参与击擒窦建德、降伏王世充。
七月，唐军整军回朝。
李渊论功行赏，李世民为上将，李世勣为下将。
他与李世民等二十六人一同身穿金甲、乘着兵车到太庙去报捷。
李盖也从洺州与裴矩等人一起入朝，李渊见到他们后非常高兴，恢复了李盖的官爵。
十二月，窦建德旧部刘黑闼率军数万进逼宗城。
李世勣弃城逃往洺州，被刘黑闼追上，损失步军五千人，“仅以身免”。
武德五年（622年）三月，李世勣在洺水之战中击败刘黑闼部将高雅贤。
七月，李世民进击自称鲁王的徐圆朗，连取十余座城池，迫使江淮义军首领杜伏威入朝。
李世民鉴于局势初定，于是，留李世勣与淮安王李神通、行军总管任瑰等继续讨伐徐圆朗，自己则班师回朝。
经连续升迁，他官拜左监门大将军。
之后，徐圆朗又占据兖州反叛，朝廷授李世勣为河南道大总管，前往讨伐。
不久后，李世勣便擒获徐圆朗，斩其首级献给朝廷，兖州就此平定。
武德六年（623年）八月，李渊命李世勣与赵郡王李孝恭、岭南道大使李靖、怀州总管黄君汉一同讨伐江淮义军首领辅公祏。
武德七年（624年）三月，李孝恭、李靖率领水师沿长江而下，李世勣率领步兵一万渡过淮水，攻取辅公祏占据的寿阳，直抵峡石。
辅公祏的部将陈正通率兵两万屯驻在梁山，又派他的大将冯惠亮统帅水师三万，用锁链连接大战船，以阻断长江的航路。陈正通还在长江西岸构筑堡垒，分守水陆两路，以此抵御唐军。
李靖等首先攻破陈正通、冯惠亮等人所驻的博山、青林等地，旋即进兵丹杨。
辅公祏闻讯后大惊，企图率残部弃城东逃。
李世勣乘胜追击，在武康县将其斩杀，并分别捕杀其余党。江南自此平定。
武德八年（625年），东TU厥颉利可汗入侵并州，朝廷命李世勣为行军总管，在太谷迎击突厥，将其驱逐。
武德九年（626年），李世民即位，拜李世勣为并州都督，赐封邑九百户。
贞观三年（629年）八月，李世民接受了代州都督张公瑾的建议，命兵部尚书李靖为定襄道行军总管，以张公瑾为副，决定对东TU厥发起强大的军事攻势。
十一月，李勣被授为通漠道（一作通汉道）行军大总管，与华州刺史柴绍、灵州大都督薛万彻等统率十几万军队，都接受李靖的统帅，诸将分道出击突厥。
贞观四年（630年）正月，李靖率精骑三千夜袭定襄（今内蒙古和林格尔北土城子古城）。
颉利可汗误判唐军兵力，仓促北撤至戈壁沙漠边缘，其部众多有叛离。
同时，李勣从云中（今山西大同）出发，在白道（今内蒙呼和浩特北）与颉利可汗军遭遇。
唐军奋力冲杀，突厥溃不成军。
颉利可汗战败后，向西逃往铁山（今内蒙古白云鄂博一带），收集残部数万人，派使者求和。
朝廷命鸿胪卿唐俭、将军安修仁前去安抚突厥。
李勣同李靖会师，与他商议说：
“颉利虽然战败，人马还多，如果走过沙漠，得到九姓铁勒的庇护，道路遥远险阻，就很难追上他们了。
如今下诏派唐俭到那里去，突厥必定放松戒备，我们随后去袭击，这样就可以不战而平定贼寇了。”
李靖听后，握着手腕高兴地说：
“您的这番话，就是韩信灭田横的策略啊。”
于是一起定计。
李靖率兵连夜出发，李勣领军跟进。
李靖行军至碛口，突厥四处溃逃。
颉利率部众一万多人想逃过沙漠，被李勣阻拦。
突厥的大酋长率领自己的部落一起投降李勣，李勣在俘获五万多人后顺利回师。
贞观七年（633年），晋王李治遥领并州大都督，朝廷授李勣为金紫光禄大夫，代理并州大都督府长史。
其后，李勣因父丧离职。
在不久又获起用，官复原职。
贞观十一年（637年），李勣被改封为英国公，世袭蕲州刺史。当时，朝廷所封的世袭刺史都只是挂名，不到州郡就任，于是他又以并州大都督府长史的官职遥领太子左卫率。
李勣在并州身居太原任职共十六年，令行禁止，颇为称职。李世民曾对侍臣说：
“隋炀帝不能选贤安民，只知道筑长城来防备突厥，对世情的认知糊涂至此。
朕现在委任李勣在并州，坐阵大唐龙兴之地太原，就使突厥畏惧他的威名逃走。
边塞安静，难道不是远远地胜过筑长城吗？”
贞观十五年（641年）十一月，李勣被征调入朝，任兵部尚书。
他尚未赴任，正遇上披着东TU突名义的薛延陀部落，真珠可汗派其子大度设联同同罗、仆骨、回纥、靺鞨、霫等部族，领军二十万南侵突厥俟利苾可汗阿史那·思摩。
思摩率部众进入长城，退守朔州（今山西朔县），并派使向唐朝告急。
十一月，朝廷命营州都督张俭统率所部直逼薛延陀东境。
李勣被授为朔州道行军总管，率步卒六万、骑军一千二百人屯驻羽方，与灵州道行军总管李大亮、凉州道行军总管李袭誉等分兵抵御。
大度设率三万骑兵追击思摩不得，却遭逢李勣所率唐军。
大度设大惊，急忙自赤柯泺北撤。
李勣挑选所部及突厥的骑兵共六千人，穿越直道、白道川，在青山追上薛延陀军。
大度设在诺真水（今内蒙古乌兰察布市境内）勒兵备战，战阵横亘十里。
突厥骑兵先与之交战不利，大度设乘胜追击，射死唐军战马众多。
李勣命骑兵下马，持长槊直冲，大破薛延陀军，斩首三千余级，俘获五万余人及马一万五千匹，大度设独自逃走。
李勣回师定襄后，又与州兵夹击叛乱的突厥思结部，俘获其百姓一千余口以及众多马、羊。
战后，李世民封李勣的一个儿子为县公。
贞观十七年（643年），皇太子李承乾与汉王李元昌、驸马都尉杜荷、兵部尚书侯君集等人勾结，企图谋反。
李世民通过暗手得知后，将李承乾幽禁别室，命李勣与司徒长孙无忌、司空房玄龄、特进萧瑀等共同审问此案。
同年，李世民在与李勣、长孙无忌、房玄龄等商议后，决定晋王李治为太子。
其后，朝廷改授李勣为太子詹事兼左卫率，加位特进、同中书门下三品。
李世民对他说：
“朕的儿子刚当上太子，你原来是他的长史，如今把宫中的事情委托给你，所以有这样的任命。
虽然委屈了你的阶位、资历，希望你不要见怪啊。”
同年二月二十八日，唐太宗命人画二十四功臣图于凌烟阁，李勣名列其中，真正位于第二十三名，光宗耀祖。