他向寇恂交代说：“从前高祖与项羽争天下，把萧何留在关中，我现在把河内交给你。你也要像萧何那样，据守此地，保证粮草供给，训练士兵和战马，阻挡其他军队到这块地盘上来，特别是不让黄河以南刘玄的军队过来。”寇恂果然不负重托。刘秀又在孟津部署重兵，派刚毅果决的冯异为孟津将军，扼守黄河渡口，监视洛阳，防止更始屯住在那里的李轶北渡。安排妥当以后，刘秀亲率大军北上，准备回到冀中、冀北一带，肃清那里的残余农民军，以实现控制河北的重要战略目标。
一路上将领们纷纷请求刘秀称帝，被刘秀严词拒绝，将领们连劝了几次，刘秀这才有些动心，但还是有些犹豫不决。这时将军耿纯私下对刘秀说：“将士们抛开亲人和家乡，跟从大王出生入死，为的就是想攀龙附凤，实现封官拜爵的愿望。现在大王不愿称帝，违背了众兄弟的愿望，我担心他们会感到失望，产生离你而去的想法。况且，人心是不容易收拢的。”刘秀仔细思考之后，明白了将领们要他当皇帝是出于个人利益，并非虚让，于是表示说：“我会考虑这个问题。”
到高县，刘秀又把将军冯异从洛阳前线召回，向他询问天下形势。冯异担任洛阳前线的军事首领，了解战争的形势，分析的情况非常可靠，故此刘秀才召他来询问。冯异对刘秀说：“更始皇帝的败局已定，宗庙社稷的问题就在大王你了。你应当听从众人的主张。”
正当此时，有个名叫强华的儒生，捧着赤符从关中来见刘秀，说：“刘秀发兵捕不道，四夷云集龙斗野，四七之际火为主。”这句话的意思是说：“四七”是28，从公元前206年刘邦称王至公元22年刘秀起兵是228年；火是指汉朝，按阴阳五行说汉朝属火德。这表明，刘秀乃“受命天子”，要再不做天子，那就不仅违背众望，也要违背天意了。刘秀得了天时又得人心，终于在赤眉军迫近长安时即位于鄗南，沿用汉国号，年号建武。这一年是公元25年，刘秀31岁。
扫平群雄，一统天下
刘秀即帝位之初，天下依然四分五裂，“帝王满天下”。除了农民起义军绿林、赤眉军之外，还有更始皇帝刘玄，东方皇帝刘永，蜀中皇帝公孙述，舒城皇帝李宪，匈奴立的皇帝卢芳，燕王彭宠，齐王张步，海西王董宪，楚黎王秦丰等。这些人各据一方，自立为王，互相攻城略地，战争频繁，广大人民饱受着分裂、战乱之苦。汉光武帝即位之后，利用“人心思汉”的社会心理，打出“刘氏宗室”的旗号，搜罗人才，争取民心。利用招降和用兵两种手段，经过长达10年之久的艰苦战斗，终于一一扫除盘踞各地的割据势力，使中国又一次走向了统一。
更始政权的覆灭刘秀在鄗南称帝后，继续举兵攻占了邯郸、河内、温邑等地。这时，赤眉军拥立西汉宗室后裔——一个叫刘盆子的牛倌为皇帝，举兵攻打长安。刘玄左右受到攻击，最后投降了刘盆子，被改封为长沙王，但不久被缢杀。
刘秀得知更始皇帝下台，便立即派兵攻占了五社津（今河南巩县北）等要塞，然后下令包围洛阳，命吴汉、冯异等11位将军率军攻打洛阳。这时的洛阳由更始皇帝的骁将李轶、朱鲔把守。这两个人都是当初鼓动刘玄杀掉刘的始作俑者，是刘秀不共戴天的仇人。李轶在刘秀大军的包围下，便来信说自己情愿归降。刘秀却把李轶的信交给太守、郡尉一级官吏传阅，消息很快被朱鲔知道了，他勃然大怒，立即派人将李轶诛杀，从而引起洛阳守军的混乱，士气也随之大落。刘秀一箭双雕，既分化瓦解了敌军，又借刀除掉了仇人。但是由于朱鲔拼命固守，刘秀部队连攻数月，一直没有攻下。后来刘秀听说部将岑彭当年曾是朱鲔的校尉，便派他去劝降。朱鲔对岑彭说：“当初大司徒（指刘）被害，我参与筹划，更始帝派刘秀去河北，我又阻拦过，并进谏铲除萧王，这些罪过，我想萧王是不会原谅的，因此不敢投降。”刘秀得知此事后，便托岑彭向朱鲔说：“要干大事的人，不能计较小过。朱鲔要是现在投降，我不仅不会杀他，还可以保住他的官爵，我敢对着黄河发誓，绝不失信！”朱鲔听后，叫人用绳子把自己捆起来，到达河北汉光武帝营帐听候发落。光武帝见到朱鲔，急忙下座，亲自解开绳索，向他表示慰问，并拜其为平狄将军，封扶沟侯。进入洛阳后，刘秀严禁军队暴横抢掠，结果将军萧广违犯军纪，纵兵横暴，被处死刑，使得洛阳百姓很快从内心归顺了刘秀。至此，以更始皇帝刘玄为代表的一派势力，在赤眉和刘秀的攻击下被彻底平息了。
赤眉军的消亡在群雄并立的大地上，绿林、赤眉这两支强大的农民武装力量，严重威胁着刘秀新建的东汉王朝。
赤眉军是一支朴实的农民武装，在推翻更始皇帝的斗争中做出了巨大的贡献。但由于缺乏领导，纪律性差，攻入长安后，又烧又抢，令老百姓纷纷逃散。号称百万之众的赤眉大军，在长安城中得不到军饷，开始向秦岭终南山一带转移。赤眉军在行军途中遇到大雪，冻死、饿死了许多士兵，只好又退回长安。刘秀派大将邓禹乘机攻击赤眉，结果遭到赤眉军的顽抗。邓军大败，死伤3000多人，邓禹只带了20多名骑兵逃了回来。
刘秀分析了一下赤眉军的情况，了解到赤眉军打仗个个英勇，但由于兵马太多，粮食缺乏，他们不会久居长安。因此，只有采取以逸待劳、以饱待饥、步步围堵、不断分化的方法。于是他派遣以善于治军、作战稳健的冯异率兵前去执行这一任务。临行前，刘秀送给冯异一辆马车、一口宝剑，嘱咐他说：“长安一带遭兵灾，老百姓穷困到了极点。此次出征，如长安的敌军肯降，你只要把他们的头子送到京城来就行了，士兵就让他们回家种地、养蚕，千万不要杀害。你这次再多带些粮食，到时一定能用得上。”
果然不出汉光武帝所料，长安城已到了饿死人的地步，一斤黄金只能换五升豆子。赤眉军只好东撤，到了渑池，同冯异军队相遇。冯异不负刘秀重托，迅速调整部署，以诱敌伏击战法夺得崤底之战的胜利，迫降赤眉八万余人。赤眉余部十多万人仓皇东逃。
逃出来的赤眉军扶老携幼，继续艰难东进。刘秀亲自带兵堵截，在宜阳与赤眉军相遇。赤眉军见汉军壁垒森严、军威雄壮，而他们将弱兵羸、又饥又饿，无心作战，只好派刘氏宗室刘恭代表赤眉军向刘秀乞降。刘秀接受赤眉军投降后，立即命令宜阳的县令，把全县的厨师集中起来，给十几万赤眉军烧菜、煮饭，让他们饱餐一顿。饥饿疲乏到极点的赤眉军，受到这样的待遇，自然对刘秀感激不尽。
第二天，刘秀让军队列队布阵，让赤眉军将领观看，并对赤眉军降将樊崇等人说：“你们投降了，后悔不后悔？如果后悔，朕可以让你们回营，重新集合军队，再行决战，朕绝不强求你们投降。”樊崇吓得头也不敢抬，徐宣则连连叩头，说：“归顺皇上，早有此心，今日如愿，如同婴儿见了慈母一样，只有欣喜，没有后悔的。”光武帝听后哈哈大笑。风云一时的赤眉起义军从此也退出了历史舞台。至此，刘秀取得了关中地区，实现了第二步战略目标。
平定东部割据刘秀继续着削平群雄、统一全国的战略部署。这时，刘秀不论是在政治上还是在军事上都占有比较大的优势，他既有汉帝的名号，而且从刘盆子手中夺得了汉高祖刘邦留下的“高皇帝玺绶”的玉玺，又有强大的军事力量，而且依靠河北，定都洛阳，控制中原之要冲。他根据当时各支割据势力的地理位置及其力量强弱，制定了由近及远、先东后西、逐个击破的战略方针。刘秀采纳来歙的建议，联陇制蜀，使汉军得以偏师扼守关中，主力则用于对付东方。此时东方主要是刘永、庞萌、董宪、李宪等地方割据政权。
东线最大的割据势力就是刘永武力集团。刘永是西汉梁孝王第八世孙。投靠更始帝后被封为梁王，更始政权覆灭之后，他在睢阳（今河南商丘市南）称帝，又和西方的佼强兵团、东海的董宪兵团、更始旧将苏茂联兵割据，拥有济阴、山阳、沛郡、楚郡、淮阳、汝南等地（今豫东、鲁西、皖北、苏北），兵据28城。刘秀于公元26年夏，命盖延和马武率军征讨，吴汉率大军增援，在对刘永军作战中，吴汉身负重伤，但仍指挥大军挫败刘永，刘永引兵出逃，后来被手下将领所杀。直到公元29年，吴汉才彻底消灭刘永割据政权的残余势力。
董宪是占据东海郡的割据势力，其部将庞萌原是刘秀的手下将领。刘秀派吴汉率兵打败董宪和庞萌，二人困守朐城（今江苏连云港西南），直到最后没有了粮食才慌忙而逃，遭到琅琊太守陈俊的沉重打击，吴汉占领朐城，平定了山东。
李宪占据淮南地方，公元28年秋，刘秀派扬武将军马成进攻李宪，包围舒城，采取围而不打的战术，李宪也是因城中无粮而被迫出战，结果被马成打得大败，江淮之地被平定。
盘踞在青州的张步兵团也是光武帝的一个劲敌。张步起兵琅琊，自称五威将军，称霸齐地已有多年，他接受了刘永的封拜，督青、徐二州，屯兵剧县（今山东寿光县南），攻占了泰山、东莱、城阳、胶东、北海、济南等地（今山东大部），拓地渐广，兵甲日盛。公元29年，刘秀派大将耿弇为主帅，率军进剿张步，很快平定了济南郡，使张步的第一道防线全线崩溃。之后，耿弇以声东击西的战术取得胜利，轻取临淄城，可谓用兵如神。张步等人率十万兵马反扑临淄与耿弇大军进行了一场恶战，战斗打得异常激烈，耿弇的大腿被流矢射中，血流如注，他仍以坚强的毅力忍住伤痛，挥刀砍断箭杆，继续迎敌，战斗一直持续到夜幕降临，终于击溃了张步主力。次日清晨，耿弇再度勒兵出战。此时刘秀已亲率大军前往齐地，增援耿弇。耿弇率兵全线出击张步残部，张步溃逃，汉军尽获辎重。
几天后，光武帝刘秀到达临淄，慰劳将士，对耿弇大加赞赏。穷途末路的张步被刘秀以利劝降。耿弇占领平寿，进步阳城，降五校余部，彻底平定青州之地。
在这一次战斗中，年轻将军耿弇表现得最为出色，勇冠群将。作为光武麾下最出色的年轻将领，他前后平定46郡，攻占300城池，未尝一次挫败。无论是大规模的阵地战，还是机动灵活的运动战，他都游刃有余、驾轻就熟，显示了过人的胆识和谋略，被誉为“战神”。青州大战这一年，他只有26岁。
至建武六年二月，东线之敌悉数平定，北至幽燕，东至青徐，南至荆襄，都成为光武帝的天下。辽阔的关东之地和稠密的人口，为光武政权的经济建设提供了坚实的基础。
安定北方局势北方的渔阳太守彭宠原系刘秀部下，后来反叛，自立为燕王。占据着蓟城、右北平的上谷等县，北边联络匈奴，南边联络张步，势力范围不断扩大。他还曾打算拉拢上谷太守耿况一起脱离刘秀的管辖，但遭到拒绝。刘秀本想亲自征讨彭宠，但经众将劝说，方决定派出耿况的儿子耿弇作为主将率兵前往渔阳。但耿弇想到自己的父亲居于上谷，而且曾和彭宠有过来往，自己理应避嫌。再说，耿家没有子弟留在洛阳做人质，所以自己理应呆在洛阳。于是，耿弇上书请求调回，由副将代理他的职务，但刘秀拒绝了他的建议，复信让他打消顾虑。与此同时，耿况也接到了耿弇请求他联合中央军队夹击彭宠的书信。于是，耿况一边派幼子耿国前往洛阳，请求为人质；一边派次子耿舒率军抵御由彭宠借来向上谷进军的匈奴军队。耿舒很快获得胜利，彭宠只好退守渔阳。耿弇、朱佑等人率兵北进，于公元29年平息了彭宠的叛乱，北方局势也安定下来。
收抚河西刘秀用了七年的时间，平定了东方的割据势力后，控制了整个中原地区和齐鲁地区。东方平定的同时，南方和北方的一些割据势力畏惧刘秀的威名，纷纷归降。没有归降的都被刘秀派部下打败。随着刘永、张步、董宪、李宪、彭宠等大大小小的“土皇帝”的割据势力相继被灭，国内大部分地区也逐渐趋于稳定。对于刘秀来说，现在只剩下陇西的隗嚣、河西的窦融和巴蜀的公孙述这三路强劲的敌手。但由于路途遥远，刚刚建立起来的东汉王朝的实力有限，不可能三面同时出击，根据形势，刘秀制定了由近及远、稳住窦融、先陇后蜀、各个击破的战略方针。
窦融是窦皇后（汉文帝之妻）之弟的七世孙，为人慷慨大气，结交英雄豪杰，以侠义闻名。更始政权建立之后，窦融被任命为张掖属国都尉，遂合家从长安迁往河西。他广交豪杰，安抚羌族，河西翕然归之。
为同心协力保卫河西，武威、张掖、酒泉、敦煌、金城的太守一致推举窦融为河西五郡大将军，组成了一个武力强盛的河西集团。河西民风质朴，窦融又为政宽和，所以上下相亲，晏然富裕。五郡各修兵马，练习战射，设置烽燧。若有羌胡进犯，则联兵相救，从未失时。各地的羌胡逐渐归附，安定、北地、上郡的饥民也大批流入河西。
刘秀称帝之后，窦融便有意与他联络，但由于河西与洛阳相距甚远，又有陇西的隗嚣集团从中作梗，所以未能取得联系。窦融召集诸郡太守和地方豪杰，一同讨论日后的去向。在座之人大多认为，当今称帝的几个人中，洛阳的刘秀土地最广、兵甲最盛、号令最明，观符命而察人事，非其他武力集团可比。经过一段时间的思索和彷徨，窦融终于决定归顺光武政权。
公元29年的夏天，窦融派长史刘钧带上书信和良马，前往洛阳。正巧光武帝也派使者前往河西，双方的使节在半道上相遇，遂一同来到洛阳。光武帝盛情款待了河西使者，了解了河西的情况，随后让他携带玺书返回河西。
光武帝在玺书中盛赞窦融治理河西的功绩，感谢他进献良马的厚意。随后话锋一转，进入正题：“当今王者迭兴，千载一会，汉蜀正准备大战，窦将军之向背举足轻重，如果想辅助汉室成就大业，当勉力而行；如果想三足鼎立，也该早拿主意。你我双方相隔遥远，还不是相吞之国，想必将军的身边，一定有人建议你割据河西，仿效汉初尉佗专制南越七郡的做法。但要知道，中国的土地即使可以分的话，中国的老百姓也是不能分的。将军若能从大局出发，上为国家出力，下为百姓着想，朕将不胜感激！何去何从，还望将军早作计议。”光武帝还赠送了窦融200斤黄金，委任他为凉州牧，让他继续保有从前的领土和实力。
玺书传至河西，窦融惊叹光武帝“明见万里之外”的同时，也被他情真意切的语言所打动，窦融和他手下的将士体会到了刘秀作为君主的英明与大度，感到无比钦敬，同时为自己做出了明智的选择而庆幸不已。窦融遂再次致书光武帝，表达自己的忠心，同时派弟弟窦友赶赴洛阳面陈心迹。可惜窦友走到高平，刚好遇上隗嚣反叛汉朝，已经把道路隔绝了。于是，窦友只好骑马回到河西。窦融只好暗中派遣席封携带书信从小道向东行走去与洛阳沟通书信。刘秀立刻回信安抚窦融兄弟，让他们等待时机。
