1900年12月很多钢铁界人士聚集在纽约的大学俱乐部，其主要发言人是卡内基的代表查尔斯·M.施瓦布。施瓦布就是卡内基钦定的继承人，那时他37岁。早在20年前他就加入卡内基公司，开始时只是一名工人。到19世纪末，他已被人们广泛视为卡内基的接班人，取代了与卡内基冲突日渐加剧的弗里克。
施瓦布在当晚的演讲中，提到了他关于企业纵向合并的想法。他认为，在那时的美国，每种产品都是由好几家公司联合制造出来的，每家企业只生产产品的部分零件或半成品，最后再组合成最终产品。很少有企业能够用原材料直接生产出最终产品，例如，一家企业集中制造出机车或者货车。施瓦布认为如果企业纵向发展，即将上游产品的生产与下游最终产品的生产集中于一个企业之中，能使企业的效率得到极大的提高。
摩根也仔细聆听了施瓦布的这次演讲，施瓦布关于企业应纵向发展的想法与他不谋而合。这时的摩根已经垄断了美国的铁路行业，而铁路的建设需要大量钢铁，且钢铁业也是美国未来的支柱产业之一。因此，他早就想把触角伸到钢铁业中去，实现对这两个相关行业的共同垄断。无奈卡内基在钢铁界的实力过于强大，摩根很难撼动他的地位。但是施瓦布的这次演讲似乎透着一种暗示，又让摩根看到了与卡内基钢铁公司合并的希望。
所以，等大学俱乐部的晚宴一结束，摩根就迫不及待地将施瓦布请到其位于华尔街角落的办公室中，与他恳切交谈一直到深夜。没过几天，施瓦布又被请到了摩根的办公室中，详细地就和卡内基企业大兼并的可能性以及合并方式进行了商议。
对于摩根的这次提议，卡内基不久就有了回应。在纽约的圣安德鲁俱乐部卡内基和施瓦布在打了一场球后，走进了卡内基别墅的书房内。卡内基在一张纸条上潦草地写下了“一元五角”，然后交给施瓦布。这就是他要施瓦布传达的合并条件：首先，卡内基要大合并后的新公司债券，而不是股票；另外，新公司债券对卡内基钢铁公司资产的时价额要以一元五角对一元的比例计算，也就是说他要以1.5倍的价格出售他的资产。对卡内基而言，这决不是吃亏的交易。
根据卡内基的资料，他的钢铁公司的公认的价格是3亿元或者4亿元。但摩根那边的资料却显示以4亿以上的价格达成协议是合适的。这个庞大的数字在当时引起了轰动效应。
尽管如此，摩根还是在两个月之内就筹集到了所需的资金，并完成了对卡内基公司的收购。从施瓦布的演说到交易的正式宣布仅费时8个星期，交易完成的速度充分显示了摩根财团对巨额资本的控制能力。本次合并使卡内基成为当时世界上最富有的人，摩根为卡内基的股份支付了4.2亿美元。除卡内基外，另有30人也因此发了大财。他们都是卡内基的雇员，或与其钢铁公司有某种联系人。这使得匹兹堡和纽约涌现出一批百万富翁，他们在两地兴建了一批豪宅，曾轰动一时。
1901年4月1日，卡内基钢铁公司正式被摩根兼并，组建成美国钢铁公司。在盛大的新闻发布会上，摩根公布公司资产是8.5亿美元。一个月后，在第二次新闻发布会上公布的公司资产额已达10.18亿美元，同时又发行了3.01亿美元的公司债券，使其总资产近14亿美元。
为了完成这笔交易，摩根发行了数额巨大的新证券，为此他启用了300多家经纪商和银行。这在当时的美国，恐怕只有摩根能做得到。这笔巨额证券中，除了那3.01亿美元的公司债券，其余则都是股票——优先股和普通股各占一半。在那个时代，与有固定收益的优先股和债券相比，普通股是一种最不受欢迎的投资工具。特别是在早期金融界对铁路公司的股票投机中，因购买普通股而损失惨重的那些投资者，对普通股更是惟恐避之不及。摩根也意识到了普通股是最难卖的，因此，他雇用了华尔街最著名的股票操纵者和投机家——詹姆斯·基尼，他一直享有无坚不摧的操控者声誉。摩根令基尼通过不断拉升股价为发行新股造势，而基尼也没有让摩根失望，他干得相当成功，使股票发行非常顺利。
华尔街和整个美国都为此项巨额交易感到震惊。美国钢铁公司的创建是那个时代一起无与伦比的大交易。1899年共进行了1200次并购，总额为22.63亿美元，平均每起并购不到200万美元。1901年也是一个并购丰收之年，除了该并购案，另外还发生了422起并购，其总金额为20.53亿美元。刨去美国钢铁公司的交易金额，可以看出其他交易都显得微不足道。因此从任何角度来看，这次钢铁业并购都是一座历史的丰碑——有史以来最大的一笔交易。本次并购所发行的普通股数量也相当惊人，1901年，纽约股票交易所的股票交易额为2.65亿股，而美国钢铁公司的新增股票的比重极高，当时，其股票交易额占到纽约证券交易所总交易额的40％，市场已经过度饱和了，这最终在华尔街引起了对股票增发的恐惧。由于其规模的原因，随后两年的股票交易额有所下降，但促销者和承销商对此并不在意。美国钢铁公司在1901年4月进入了道琼斯指数，它与1896年被纳入该指数的通用电气公司一道，成为由摩根控制的两只成分股（道琼斯指数当时共有12只成分股）。在以后几十年里，由摩根促成的公司还将陆续加入这一指数。
随着卡内基的出局，摩根的新帝国浮出了水面，“大钢厂”——人们当时这样称呼它——已成为世界最大的企业、首家资本市值突破10亿美元的公司，超过了标准石油公司而成为世界第一。但是，来自较小公司的竞争依然存在，应该说，新的合并公司并没有完全支配这一行业。然而对垄断统治的批评还是立刻随之响起，其中大多是针对交易本身的结构以及新公司的潜在势力的——它是当时世界上最大的公司。卡内基运用计谋诱使摩根买下它，而且取得了成功。但在交易完成后，摩根对卡内基说，单是令卡内基出局，其收购费用的付出就是值得的。而规模经济之类的效率理由则从没有听他提及。
美国钢铁公司的第一份年报成为美国企业财务史上的一座里程碑，因为以前的公司年报从没有报告过数十亿美元的数字。该公司的长期资产达13.25亿美元，流动资产为2.148亿美元。总债务为15.64亿美元，其中10.18亿美元是股票资产（股东权益），优先股和普通股几乎各占一半。优先股的持有者达25000人，而普通股的持有人为17000人。第一年的营运净收益为1.08亿美元，其中5600万美元用于红利派发。整个公司共雇用了168000人。其下属企业包括170家子公司，其中不仅有炼钢厂和铁矿，而且其名下还有100多艘轮船。就这样，摩根梦寐以求的钢铁帝国终于形成了。
美国钢铁公司成立了，原材料问题很快就摆到了摩根的案头。原来的卡内基钢铁公司成功的原因之一，就是他们使用洛克菲勒的五大湖铁矿提供的优质原料，卡内基曾出价500万美元想买下这个矿山，但没有成功，只是签订了一个为期五十年的供应合同。摩根可不想受制于人，他决心买下该矿山，以解后顾之忧。
洛克菲勒的梅瑟比矿山在明尼苏达的五大湖畔，是全美最大的铁矿山，藏量5000万吨，可以满足全美60％的需求。原来是由当地叫梅里特的五兄弟开发的，矿石的品质比摩根自己拥有的矿山的出品还要优良，居全美之冠。
摩根找洛克菲勒商谈购买矿山一事，洛克菲勒早已料到摩根会有此举，但狡猾的洛克菲勒并没有立刻给以答复，而是声称将这桩交易交给他的儿子处理，一边摸摸摩根的底。摩根只好又与小洛克菲勒继续谈判，经过双方的一番较量之后，洛克菲勒终于确定了出售条件，他开出了7500万美元的天价，并要求必须以美国钢铁公司的股票支付。摩根并没有还价，交易就此成功。因为摩根相信，洛克菲勒虽然在他的钢铁垄断帝国中插了一脚，但他仍然拥有绝对的控股权，他的地位绝不会被动摇。
洛克菲勒矿山的购买使美国钢铁公司的垄断地位进一步得到了巩固。就这样，摩根凭借其强大的金融实力，实现了对钢铁产业的“摩根化”，这对整个美国未来的经济发展都具有重大意义。
