张让的胡作非为，给东汉王朝造成了重大祸乱，招致朝野切齿痛恨。中平六年（189年），灵帝死，其子刘辩继承了皇位，是为少帝。中军校尉袁绍基于多方面的原因，决定纵兵捕杀张让一伙。张让见大势已去，急忙挟持少帝和他的弟弟陈留王刘协连夜逃窜。当逃至河南孟津东北的小平津，尚书卢植与河南中部椽闵贡指挥的大队军卒，已将张让等人团团围困。
张让见军卒们步步逼近，不禁仰天长叹：“事已至此，夫复何言？”随后，转身对卢植说：“卢大人，小的们自知罪孽深重，还望大人念上天有好生之德，看在我历事先帝的份上，放我一条生路如何！”卢植尚未答话，闵贡已怒不可遏。他右手仗剑，左手戟指，高声骂道：“张让，尔擅权乱政，荼毒生灵，危害宗庙，致使圣上蒙尘，万民涂炭。至今仍想活命，岂非痴人做梦？”张让闻听此言，随即大放悲声，涕泪横流。突然，他转身跑上高堤，一头扎进了滔滔黄水之中。其他几个太监，也紧随其后，纷纷投河自尽。
据史载，张让虽死，宦官们仍未躲过那场大劫难。在袁绍的指挥下，被杀者仍达2000多人。其中，有些人长得像宦官，也被当作宦官而惨遭杀害！
