李林甫是唐高祖李渊的堂兄弟长平王李叔良的曾孙，但到李林甫时，这一支与皇室的关系已经相当疏远，他的父亲李思诲只做过扬州大都督府的参军。李林甫因善于钻营而逐渐爬上高位，靠巴结武惠妃而升任宰相。这个人阴险毒辣，任宰相十九年，可以说坏事做尽。
李林甫为相期间，大部分时间和精力都用在如何巩固玄宗对自己的恩宠和自己的相位上。张九龄等被罢相，李林甫想独揽朝政，担心那些谏官动不动就把问题反映给玄宗，破坏自己在玄宗心目中的形象。他公开召集谏官们开会，说：“当今天子圣明，大臣们顺从皇上的命令都来不及，不需要谏官们对朝廷事务说三道四。”他指着旁边御厩里膘肥体壮的马，说：“大家看到这些仪仗队里的马了吧，平时享受三品马的饲料，可是只要在仪仗队里乱叫一声，立刻就被开除。那时候后悔都来不及！”补阙杜琎不识时务，上书朝廷，发表意见，第二天就被当做乱叫的仪仗马调出长安，让他去下邽县当县令了。
李林甫善于弄虚作假，渲染自己的政绩。这年七月七日，大理少卿徐峤上奏：“今年全国只有五十八名罪犯被判死刑。一直以来，大理寺的监狱被认为杀气太盛，连鸟雀都不栖息的，现在有鹊鸟在院子里树上筑巢，这是天下太平的征象。”于是百官都因社会安定而向玄宗表示祝贺。玄宗则归功于宰相治国有方，第二天就赐李林甫为晋国公、牛仙客为豳国公。
那些在才能和声望上超过自己、有可能威胁自己相位的人，是李林甫精心提防和着重打击的对象。李林甫为人城府极深，旁人很难透视他的内心。他善于以甜言蜜语获取别人的好感，可是背后伤人，不露声色。凡是玄宗喜欢的人，或者才能、声望或功业超过自己的人，他先是亲近交结，等到那人的地位和权势对自己稍微有点儿威胁时，就设计加以排斥。即便是久于官场老奸巨猾的人，也很难不落入他的圈套。他特别忌妒那些富有文章才华和有学问的人，表面上与之交好而背后加以陷害。所以人们评价他：“口有蜜，腹有剑。”“口蜜腹剑”后来成为人们常用的成语，就是李林甫式政治文化的语言积淀。在保权固位方面，有几件事极见李林甫的心计和诡诈。
玄宗曾在勤政楼观赏乐舞。兵部侍郎卢绚以为玄宗不在楼上，骑马从楼下经过。卢绚人很帅，是美男子，他垂鞭按辔，缓缓而行，那姿态非常潇洒。玄宗隔帘望之，非常欣赏卢绚的才貌风度，连叹数声。李林甫经常用金帛贿赂玄宗身边的人，了解玄宗的动静，有人把这个细节告诉了李林甫。李林甫很担心玄宗会任命卢绚为相，他把卢绚的儿子喊来，说：“你父亲声望很高，现在交州和广州需要有才望的人去做刺史，我看皇上的意思呢，是想任命他担任，你们觉得可以吗？一旦恩命下达，你父亲嫌交州和广州偏远不去，那就会遭到贬官的处罚。”李林甫的话一下子就给卢绚的儿子造成了压力。
广州大致相当于现在广东省和广西的一部分，州治在今广州市，那时叫南海郡；交州大致相当于现在广西的一部分和越南的北部，州治在龙编，离现在越南河内很近。对于中原地区来说，这些都是蛮荒地区，唐朝常常把犯罪的官员流放到岭南，岭南就是这一地区。在唐朝人的心目中，那里是很可怕的，据说那里有“瘴气”，北方人不习南方水土，主要就是容易染上瘴气生病。据说唐朝那些贬到岭南的官员，常常一去不返，就死于这种瘴气。因此唐朝前期官员们都把到交、广任职视同流放。
卢绚的儿子当然不想让老父远赴交、广任职，急忙请李伯伯想办法。李林甫说了：“不想去的话，朝廷可以任命他做太子宾客，或者太子詹事，到东都任分司官，也是对贤明官员的优待，要是想去的话，那就早点提出申请。何去何从，你们商量商量吧。”儿子回到家里，告诉卢绚，卢绚担心远任交、广，要求去东都任分司官。唐朝洛阳是东都，那里有一个备用的朝廷机构，只有皇帝到了东都，这个机构才启用。而实际上从开元二十五年以后，皇帝就不到东都去了。在那个机构任职的官员叫分司官，当然是闲职。
李林甫给卢绚安排的是两难选择，到交、广任职和到东都任分司官，都有弊端。到东都任分司官，意味着政治前途的丧失，而到交、广任职，远离亲人不说，还有生命之虞。卢绚是“两害相权取其轻”，比较吉凶难卜的交、广之地，政治前途可以放弃了。李林甫又担心真的这样任命卢绚，大家会有看法，为了不招致舆论的批评，他任命卢绚为华州刺史。这样李林甫没有责任了：到东都任分司官，是你主动提出来的，那是个闲职，我不让你去，任命你担任一州刺史的要职，我李林甫爱惜人才吧。这样他把卢绚赶出朝廷的目的也达到了。
但担任州刺史还有机会回到朝廷任宰相，所谓“将帅必出于行伍，宰相必出于州郡”，州刺史政绩显著，往往入朝为相。卢绚到任不久，李林甫又借口卢绚生病，没有把华州治理好，把他改为太子詹事，就是东宫的办公室主任。本来就是闲职，又让他在家养病，只享受这个职务的待遇，实际上并不任职，这叫投闲置散。把有才能声望的人投闲置散，不让其有发挥才能的机会，这是李林甫对付竞争对手的一招。
天宝元年（742年）四月，朝廷任命严挺之为太子詹事，同时任命汴州刺史、河南采访使齐澣为太子少詹事。这都是东宫里的官，都是闲职，李林甫一向忌妒这两个人，就安排他们去任这种闲职。卢绚、严挺之和齐澣可能始终不明白自己为什么遭到这样的待遇，可是李林甫的表现又使他们很感激，以为李林甫一直在替自己着想。
在排斥异己的同时，李林甫时刻注意拉拢和扶植自己的党羽。牛仙客是经李林甫推荐而任宰相的，因此对李林甫唯命是从。这两个人都没有学术，在官场运作中没有高明的办法，而是把任何事情都纳入一定的程式，照章办事。百官的升迁和任命，都遵循严密的程式，论资排辈，即便是才华出众，品行高洁，也因为限于资格而长久不得升迁；那些巧言善媚而阴险狡诈之徒，却常常通过钻营投机旁门邪道被越级提拔，成为李林甫的朋党。
在打击和排斥异己过程中，李林甫除了诡计多端之外，就是心狠手辣。他手下有的是手段毒辣的爪牙，吉温就是这样的人。牛仙客去世后，玄宗任命刑部侍郎李适之为宰相。李适之与李林甫因权力之争，逐渐产生了矛盾。李适之担任兵部尚书，驸马都尉张垍任兵部侍郎，张垍是张说的儿子，李林甫对此也颇为不快。他指使人检举兵部铨曹贪赃舞弊的事，兵部铨曹是兵部负责本系统干部选拔的部门。御史台派人把兵部六十多名吏员抓捕，交给京兆府和御史台审讯，一连好几天问不出结果。京兆尹萧炅领会了李林甫的用意，派法曹吉温审问。兵部吏员平时就听说吉温心狠手毒，当把他们带进刑讯室时，都自诬有罪，吉温让他们怎么说，他们都老老实实地按吉温的旨意招供，片刻间此案就了结了，而检验这些囚犯，没有一个人身上有用刑的痕迹。最终，玄宗下敕书赦免兵部负责铨选的侍郎和判南曹郎官，但以朝廷名义进行公开批评。这件事使兵部长官李适之和张垍很难堪。
李林甫正在千方百计清除那些不依附自己的人，想找一个鞫狱审案的合适人选，萧炅就把吉温介绍给他。李林甫得到吉温，感到非常合乎自己的要求，特别高兴。吉温平日里就放出过这样的话：“如果遇到知己，他要终南山的白额猛虎，我也能为他捆起来，送到他跟前。”当时还有一个人叫罗希奭，杭州人，作狱吏，用刑特别狠毒。李林甫重用他，把他从御史台主簿提拔到殿中侍御史。
李林甫多次制造大案冤案，为了审问罪犯，他在长安另设了一个审讯机关，叫推事院。李林甫知道杨国忠因为堂妹杨贵妃而受到玄宗宠幸，经常出入宫禁，杨国忠提的建议，玄宗大多采纳，就拉拢杨国忠作为自己的助手，把他提拔为御史。凡是与东宫有点儿瓜葛的案子，都尽量牵扯到太子，让杨国忠上奏弹劾，交给吉温、罗希奭进行审问。杨国忠因此有机会按自己的意愿行事，排斥异己。因这样的案子受株连被判刑诛死的达数百家，都是杨国忠发起操作的。只是太子仁孝谨静，张垍、高力士又常在玄宗面前保护太子，所以李林甫始终没有机会把太子拿掉。
玄宗后期，对李林甫的信任和重用以及李林甫的专权，都达到无以复加的程度。玄宗经常不上朝理政，官员们有事都到李林甫家禀报，御史台和尚书省经常空无一人。陈希烈虽然在尚书省值班，并没有人来见他。
过去，宰相都以德高望重立身处世，不靠权势威风凌驾于人，出行时随从不过数人，士人百姓有时并不回避。李林甫自知结怨太多，经常担心有人复仇杀他，为了防止刺客，出门就布置百余名步兵和骑兵，分左右两队，由负责京城治安的左、右金吾卫派武警人员驱赶街上行人静街。前行的人员在百余步外，公卿大臣必须回避。史书上说，唐朝时，宰相出行前呼后拥是从李林甫开始的。在他家里，进入他的住处要经过一道道门，每一道门都上着大锁，卧室里有复壁可以藏身；以石头铺地，墙中又安装木板隔开。李林甫日夜如临大敌，一夜间都换几个床，即便是家人都不知道他睡在哪里。
天宝八载（749年）四月，咸宁太守赵奉璋要向朝廷告发李林甫，他列举李林甫的罪状有二十多条；但是他的状文还没有送到长安，就已经有人告知李林甫。李林甫命御史把赵奉璋逮捕，说他散布妖言，把他乱棍打死。
过去姚崇、宋璟和张说为相时，玄宗年富力强，勤于政务，首辅宰相是在皇帝手下工作，而在李林甫漫长任期内，玄宗却一直在追求高居无为，所以李林甫对朝廷的支配，远比他的前任们全面且有效。李林甫为相，是导致安史之乱发生的一个直接原因，是朝廷在边将选任政策上的失误，这当然与李林甫固权保位有关，前文已经讲过。在边将常任久戍的同时，帝国精锐的军队都在边境地区戍守，由唐初重内轻外变为内轻外重，最终造成安禄山举兵作乱，两京沦陷。这些都是李林甫专宠固位之计谋造成的。
