虽然渭水之盟签订，但是突厥人还是不能信守这个盟约，经常派兵侵扰边境地区，甚至入关威胁关内的安全。为了永久消灭这个心头之患，唐太宗也一直在养精蓄锐，寻找时机。渭水之盟退兵之后，唐太宗就加紧了大唐士兵的训练。太宗每天在大殿前面带着将士习枪练箭，成绩优秀的给予奖励。他对将士们说：“突厥入侵，本来是平常的事情，但朕怕你们在安逸的生活中忘了战争，敌人一旦来犯，那就束手无策。现在朕不让你们修筑花园，专教你们学弓箭，就是想你们在突厥入侵之时勇敢击退他们，这样，大唐百姓就可以得到安宁了。”一位大臣向唐太宗进谏说：“法律规定，凡是带兵器到皇宫者，一律处以死刑。如今这些普通将士竟然在大殿上张弓挟箭，万一出点差错，陛下不是很危险吗？”唐太宗笑着说：“一个好的皇帝，应该把四海之内的百姓都看做是一家人，坦诚相见，推心置腹。为什么要平白无故地猜忌自己身边的将士呢？”将士们听到以后，都十分感动，人人奋发图强，抓紧练习武艺。没几年，唐太宗就训练出一支精锐的部队。
在加紧训练军队的同时，太宗派人严密关注突厥的动向，以等待时机彻底消灭他们，一雪前耻。贞观三年（629）八月，这个机会终于来了。镇守边疆并负责监视突厥动向的代州都督张公瑾给太宗上报，说东突厥内部发生矛盾，颉利可汗和突利可汗互相猜忌。颉利可汗随便增加税收，引起贵族内部不满，再加上天灾，牲畜死亡，百姓挨饿受冻，反对颉利可汗的人越来越多。后反对颉利可汗的薛延陀、回纥、拔也古、同罗诸部落因对其随意变革国俗和推行的政令心怀不满，另立薛延陀为可汗，消灭突厥的大好时机已经到来。这年十一月，太宗正式决定出兵突厥，以李靖为定襄道行军总管，并州都督李勣（徐世绩）为通汉道行军总管，华州刺史柴绍为金河道行军总管，灵州都督薛万彻为畅武道行军总管。十余万大军，皆归李靖节制。贞观四年正月，李靖率领三千骑从马邑出兵，迅速攻占了定襄城南面的恶阳岭。颉利可汗此时驻军定襄城，他完全没有想到唐军会来得这么快，被李靖大败。颉利可汗逃走后，李靖抓住了战机，在夜里出兵，攻占了定襄城。太宗获知后十分高兴，称赞李靖“威震北狄，古今所未有”。
与此同时，李勣率军从云中出击，在白道大败突厥。颉利可汗慌忙逃往铁山等地。为了有喘息的机会，颉利可汗又派执失思力向太宗求和。唐太宗识破了颉利可汗的把戏，一面派遣大臣去抚慰他，另一面又密令李靖抓住战机，趁势消灭突厥。李靖在白道和李勣会师后，按照太宗的旨意首先挑选了一万精兵，带了十二天的军粮，火速赶到阴山。颉利可汗看见唐朝的大臣，放松警惕，李靖部将苏定方冒着大雾天气迅速进兵，很快包围了颉利可汗。发现自己被包围后，颉利可汗非常吃惊，慌忙带着士兵向漠北逃去。李靖率兵追击，杀死万余人，俘获突厥十万余人。颉利可汗逃到碛口时，发现李勣已经占领了碛口，于是又向西边的吐谷浑逃去，李勣又俘获突厥五万余人。三月，颉利可汗被行军副总管张宝相俘获。至此，唐朝用了不到半年的时间就平定了曾经称霸一时的东突厥。
突厥平定的消息传来，举国上下一片欢腾。唐太宗在顺天楼接见李靖、李勣等将领，给了他们很多奖赏。李靖因功受封为代国公，其他将领也都获得了相应的赏赐。然后，太宗又让人把颉利可汗带了上来，颉利可汗跪在地上请罪。唐太宗对颉利说：“虐待百姓是你的第一条大罪；与唐朝屡次立盟而又负约，言而无信，是你的第二条大罪；恃强好战，屠杀生灵，是你的第三条大罪；多次入侵大唐境内，肆意烧杀抢掠，是你的第四条大罪；朕一再给你机会，好言招降，你拒不接受，这是你的第五条大罪！”听到这里，颉利吓得直哆嗦，连话都说不出来了。唐太宗说：“不过，自从便桥立盟以来，你没有大举入侵，还算有所顾忌，朕今天赦你不死，从今以后你要改邪归正。”随后，太宗给颉利赏赐了田宅，授右卫大将军，后来颉利死于长安，赠归义王，谥曰荒，以突厥习俗火葬。执失思力后来被放出门下省后，护送隋萧皇后归唐，被任命为左领军将军；在颉利可汗被李靖击败后，他又奉命招降了浑、斛萨等部族；贞观五年，诏尚高祖第八女九江公主，任驸马都尉，封安国公。
消灭东突厥后，已经成了太上皇的唐高祖听说李靖平定了突厥，并且抓住了颉利可汗，十分感叹，高兴地说：“当年汉高祖刘邦被匈奴困在白登，没能报仇雪耻。如今，我们能灭掉突厥，活捉他们的可汗，真是扬眉吐气！”说完就让唐太宗和公卿大臣以及贵妃等到凌烟阁举行盛大宴会，来庆贺这场伟大的胜利。宴会上唐高祖亲自弹琵琶，唐太宗翩翩起舞，一直欢歌到深夜。从此，北部边境得到安宁，东突厥的平定为唐朝经济、文化的发展创造了有利条件。
