唐朝初年，关陇以东的山东豪杰是一股非常强大的政治势力，其态度的向背对于当时唐朝的稳定有着极为重要的意义，而李勣在山东豪杰中有着很高的威望和实际势力，可以说是山东豪杰的代表人物。但唐太宗依旧以自己超凡的手腕把这样一个强势人物玩弄于手心。 李勣，又名徐世勣、李世勣，起初是李密部下大将，李密被王世充打败后归降唐朝。此时李勣仍控制着李密原来控制的10个郡保持独立。武德二年，李勣对长史郭孝恪说：“魏公李密既已经归顺大唐，这些郡的人口和土地，本是魏公所有，我如果上表献给大唐，那就是乐于主子的失败，来自己居功，以谋求富贵，我感到可耻。现在应该完整地登录州县名称和军人户口，一并报送魏公，由魏公自己来献给朝廷，这就是魏公的功劳了，不是很好吗？”于是派使者报送李密。使者刚到长安，唐高祖听说没有表奏，只有报告给李密，感到十分奇怪。使者把李勣的用意奏报，高祖才很高兴地说：“感故主之德，为故主推功，实为纯臣！”于是任命他做黎州总管，赐姓李氏，把户籍登入宗正寺，封他的父亲李盖为济阴王，李盖坚决辞谢王爵，就改封舒国公，授与散骑常侍的官职。 李密反唐被诛后，李勣以君臣礼节为他发丧。唐朝上下都大加赞赏。之后他投入太宗麾下，征讨王世充、窦建德、突厥，并将这些强大的势力逐一击破。 李勣有次突病，验方上说用胡须烧的灰可以治好，太宗亲自剪下自己的胡须给他和药以示笼络。 贞观十七年，高宗还在东宫时，唐太宗就调李勣为太子詹事进行辅佐。太宗又曾设宴，宴席上，太宗回头对李勣说：“我想托付年幼的太子，考虑下来没有再比你合适的人选。你过去能不忘李密，如今怎么会做对不起我的事情！”李勣擦着眼泪回话，把自己的手指咬出血来，不一会李勣喝得大醉，太宗把御服盖在他身上以示恩宠。 贞观二十三年（公元649年），唐太宗临死前指定长孙无忌和禇遂良为托孤大臣。但当唐太宗病重时，他对李治说：“李勣是一个不可多得的人才，只可惜你对他没有什么恩德。我现在找个借口把他打发到地方去，你继位以后就把他调到中央，任命他为丞相。李勣重情重义，一定会为你尽全力的。切切牢记！”接着果真把李勣贬往外地。这也可以说是唐太宗临死前在人事上进行的最大一次动作。 唐高宗李治继位以后，遵照李世民的遗嘱，对李勣优待有加。唐太宗对李勣的使用甚至起到了牵制长孙无忌与禇遂良的用意：唐高宗要立武则天为皇后，长孙无忌坚决反对，李勣轻描淡写的一句话就坚定了唐高宗的决心，武则天顺利当上了皇后，可见李勣的地位之重要，被唐太宗控制之完全。