日军在进攻台儿庄受挫后，将坂垣、矶谷两师团重新集结，并从平、津、晋、绥、苏、皖等地陆续增调30余万人，分6路向徐州进行大包围，企图消灭国民党军队主力。国民党调集了大量的精锐部队，集中了60余万人，在徐州地区与日军展开激战，5月中旬日军从南北两方面形成对徐州的包围，为了保存有生力量，5月15日国民政府军事委员会决定放弃徐州，19日徐州失陷。徐州沦陷后，形势急转直下，中国军队失去了钳制敌人的战略要地和防御武汉的屏障。
日军打通津浦路，南北两线日军会师，在战略上的优势是显而易见的，日军的下一个目标便是武汉。武汉地处长江、汉水交汇处，连接平汉、粤汉两条铁路，素有“九省通衢”之称，是华中的战略要地。1937年11月国民政府部分机构由南京迁至武汉后，该地成为中国的政治、军事、经济中心，国民党方面也准备以保卫武汉为重心，利用长江两岸有利地形，尽量消耗日军力量，以坚持长期抗战。
为了进行武汉会战，日军动用了第二、第十一集团军共9个师团的兵力，约25万余人，以及海军第三舰队、航空兵团等，共有舰艇120艘、飞机300架。国民政府为了保卫武汉，也投入了大量的兵力，参加会战的部队及海空军共计14个集团军，43个军，120多个师，飞机200架，舰艇30余艘，总兵力近100万，蒋介石亲任总指挥。武汉保卫战是以武汉三镇为中心，以皖北、皖南、豫西、豫东以及湘赣为外围展开的。为了保卫武汉，国民党军队在武汉外围拼死抵抗，给日军以重大杀伤，但至1938年10月下旬，武汉三镇已陷于日军三面包围之中。在这种情况下，10月24日国民政府最高统帅部下令放弃武汉，25日，国民党军队撤出武汉。武汉会战是抗战以来投入兵力最多、战线最长、伤亡最大的一次战役，战场涉及皖、赣、鄂、豫四省。据日方公布的材料，日军伤亡3万余人，据国民党方面统计，日军伤亡达10万人以上，当然，国民党军队也付出了重大牺牲。武汉会战后，抗日战争进入了相持阶段。
进入相持阶段后，日军根据其对华政策的变化，停止了对国民党正面战场的战略进攻，但为了巩固占领区和配合政治诱降，对国民党施加军事压力，在正面战场仍发动局部进攻。日军攻占武汉后，为了巩固对武汉地区的占领，以攻为守，先后占领南昌、随县、枣阳，以消除鄂北、豫南方面中国军队对武汉的威胁。1939年5月，日军分南北两路企图对桐柏山、大洪山的中国军队实施包围，国民党李宗仁第5战区军队与之展开了为期20余天的随枣会战，毙敌1.3万余人，起到了牵制和消耗日军的作用。
1939年9~10月间，中日之间进行了第一次长沙会战。日军为了稳定对武汉地区的占领，借以挫伤国民党军队的战斗意志，使国民党政府屈服，纠集了10万兵力，从赣北、鄂南、湘北三面会攻长沙。国民党第9战区以20余万兵力迎战，26日，日军强渡汨罗江，进入长沙外围地区，但是在三姐桥、福临浦、石门痕等处不断遭到伏击。此时鄂南日军也不断被伏击、夹击，赣北日军被包围，日军弹药也已用尽。为避免陷于更加不利的境地，日军于21日下令向新墙河以北撤退。国民党军队随后追击，克复汨罗、新市等处，日军全部退回新墙河以北地区，赣北方面的国民党军队也克复修水、三都等处，逐步恢复原阵地。第一次长沙会战结束。
在晋南、豫北交界处的中条山地区是国民党军队的一块游击根据地，驻守该地区及其附近的军队有20多个师，约20多万人，是日军进攻中原侵扰西北的心腹之患。1941年5月初日军集中了6个师团及2个旅团，兵分三路围攻中条山地区。面对日军的围攻，除部分国民党军队进行抵抗外，其余大部都采取避战方针，不战而退。仅几天时间日军就占领中条山南黄河各渡口，国民党军队陷入日军包围之中。后在八路军协助下才突出重围，但损失惨重，伤亡4.2万人，被俘3.5万人。日军仅死673人，伤2292人。经中条山之战，黄河以北晋南地区完全为日军所占领。
1941年9月日军调集12万余人再一次向长沙地区发起进攻，第二次长沙会战开始。日军迅速突破新墙河和汨罗江两道防线，28日长沙失陷。后由于中国军队的反击，迫使日军于10月1日退出长沙。1941年12月24日，日军再次大举进攻长沙。中国第九战区部队节节抗击，将日军诱至长沙附近，1942年1月4日中国军队将日军主力重重包围，激战至9日，日军开始突围北逃，中国军队展开追击，15日，恢复了战前态势。
此外，1941年1月和3月，日军还发动了豫南战役、上高战役，但都没有取得进展。日军为了截断中国外援通道，还利用海空优势，在东南沿海地区进行了一系列作战，如封锁大鹏湾、大亚湾，切断雷州半岛与内地的联系，占领宁波、福州等地，封锁香港、澳门沿海地区等，但效果并不明显。
1943年8月，盟军在太平洋战场上转入战略反攻，日本处境不利。为了援救其在东南亚的军队，打通从中国东北到越南的大陆交通线，同时也为了破坏盟军在中国的空军基地和飞机场，日本制订了“一号作战计划”。1944年1月24日，日本天皇批准，日军调集了51万重兵，对正面战场豫湘桂地区发动了大规模的战略进攻。正面战场的百万国民党军队奉行蒋介石的“保存实力为主，抗日为次”的避战方针，出现了抗战以来正面战场的第二次大溃退。从1944年4月至12月的短短8个月内，国民党损失兵力五六十万，丧失了河南、湖南、广西、广东等省的大部和贵州省约20多万平方公里的领土，丢掉了洛阳、长沙、桂林等3个省会和郑州、许昌等146个大中城市，还丢掉了衡阳、零陵、宝庆、桂林、丹竹、南宁等7个空军基地和36个飞机场，使6000万人民陷于日军奴役之下，损失空前。对日本来说，这次战役实际上也是不成功的。日本有限的兵力在战役中消耗很大，虽然打通了大陆交通线，但以当时日本在华的兵力，要确保广大的占领区及2000多公里长的战线也是不可能的，这样势必会使其兵力进一步分散，在战略上处于更加困难的境地。而且此时美军已攻占马里亚纳岛，美军飞机可以从马里亚纳岛直接对日本本土展开攻击，这样就使日军摧毁中国的空军基地以防止轰炸日本本土的考虑失去了意义。
三、敌后战场的开辟与艰苦抗战
华北地区在太原失守后，八路军根据中共中央的指示，分别以五台山、管涔山和太行山为依托，配合地方党组织，大力动员群众，组织民众武装，广泛开展游击战争，创建山区根据地。随着力量的壮大，八路军又向平原地区发展，使华北抗日根据地进一步扩大和巩固。
1937年9月平型关战役后，八路军一一五师主力南下，聂荣臻率一部分部队和军政人员留驻五台山开展游击战争，成立了晋察冀军区，初步形成了以五台山为中心的晋察冀抗日根据地。晋察冀抗日根据地是华北敌后最大的抗日根据地。
1937年9月，八路军一二○师在贺龙、关向应率领下进入管涔山地区，建立并巩固了晋西北根据地。8月，一二○师派出了李井泉率领的大青山支队北上绥远，越过平绥线，进入大青山地区，到12月底在大青山地区开辟了绥西、绥中、绥南三块游击根据地，之后晋西北根据地与大青山根据地连成一片，成为晋绥抗日根据地。
1937年10月，一二九师进入晋东南地区，成立晋冀豫军区，以太行山为中心开辟了晋冀豫根据地。1937年冬，一二九师一部向东越过平汉线，进入冀鲁豫平原。1938年春，宋任穷率领的骑兵团和徐向前率领的一二九师、一一五师的三个团及一个支队到达冀南。8月初，掌握了冀南大部分政权，冀南根据地初步形成。1938年夏，刘伯承率一二九师和一一五师各一部出击平汉路南段，肃清当地的土匪和伪军，建立了安阳、内黄、汤阴三个县的抗日民主政权，奠定了冀鲁豫根据地的基础。晋冀豫、冀南、冀鲁豫等根据地的开辟，为建立统一的晋冀鲁豫抗日根据地奠定了基础。
山东抗日根据地是在各地人民武装起义的基础上逐步建立起来的。到1938年秋，山东已经在十几个地区开辟了抗日根据地，抗日武装发展到9个支队，3万余人，统一组成了八路军山东纵队，由张经武任总指挥，黎玉任政治委员。1939年3月罗荣桓率八路军一一五师主力进入山东，进一步巩固和发展了山东抗日根据地。
在华中地区，1937年10月，根据国共两党达成的协议，活动在南方八省边界十几个地区的红军和游击队（不包括广东琼崖游击队）改编为国民革命军新编第四军，叶挺任军长，项英任副军长，张云逸任参谋长，袁国平任政治部主任。新四军下辖四个支队：第一支队司令员陈毅，副司令员傅秋涛；第二支队司令员张鼎丞，副司令员粟裕；第三支队司令员张云逸，副司令员谭震林；第四支队司令员高敬亭。新四军共10300人，其军部设在汉口，1938年1月迁至南昌。
新四军成立后，相继进入敌后，开展抗日游击战争。12月底，以茅山为中心的苏南敌后抗日根据地初步形成，并打开了皖中抗战的局面，为皖中根据地的建立打下了基础。
中国共产党开辟敌后战场，实行敌后抗战，主要是在敌后农村发动和领导农民抗战，把占全国人口绝大多数的农民发动起来，使抗日战争有了取之不尽的人力、物力资源。到1938年年底，八路军、新四军共进行大小战斗1600余次，歼灭日伪军5.4万余人。八路军发展到15.6万人，新四军发展到2.5万人，共建立十几块抗日根据地和游击区，总人口达5000万以上，形成了辽阔的敌后战场，牵制了大量日军兵力，粉碎了日本帝国主义迅速灭亡中国的美梦。
在八路军、新四军深入敌后的同时，东北抗日联军在极端困难的环境下，在白山黑水间坚持游击战争。华南地区的东江纵队和琼崖纵队也在广州、港九及海南岛等地开展游击战争。他们都牵制了日军的兵力，支持和配合了全国抗战。
相持阶段到来后，日本侵略者为了继续统治占领区，把军事进攻的重点转向敌后抗日根据地。日军对敌后战场进攻的重点在华北。为确保华北占领区的治安，日本华北方面军制定了“治安肃正计划”，从1939年1月至1940年3月进行了三次“治安肃正”运动，实施所谓的“军政民一体”的“总力战”。在政治上，加紧扶植与巩固伪政权，实行民众保甲连坐法，加强汉奸、特务组织，迫害抗日人员，破坏抗日工作；在军事上，“重点专以敌人的游击战术为对象给予完全封锁”“以奇袭快速奔袭作为作战指导的基础”，为解决兵力不足问题，还决定增加伪军、伪警察；在经济上，对根据地实行经济封锁，严禁日用品及军用物资运入根据地，并在扫荡中对根据地的物资大肆掠夺破坏，对敌占区进行严格控制，杜绝敌占区人民对根据地的支援，企图从经济上困死解放区军民。
1938年年底，日军大本营从华中、华南抽调3个师团，加强华北方面军力量。1939年年底，侵华日军共有24个师团、20个独立混成旅团、1个骑兵集团。其中华北方面军兵力为9个师团、12个独立混成旅团和1个骑兵集团，是最大的一个战略集团，兵员总数为30万人。华北伪军1940年达到10余万人。为确保其占领区的“安定”，对抗日根据地进行疯狂的“扫荡”。
在晋察冀抗日根据地，1938年1月到1939年4月初，日军对冀中区进行了五次大规模的“围攻”，并一度占领冀中所有县城。为保卫冀中区，八路军一二○师在贺龙率领下于1939年1月进入冀中与冀中区部队领导机关会合，在连续粉碎日军第三、四、五次围攻之后，于4月下旬集中7个团的兵力在河间东北齐会村一带，经过三天激战歼敌700余人，取得了平原歼灭战的第一个重大胜利。八路军通过反“扫荡”作战巩固了冀中区后，日军对晋察冀的“扫荡”由冀中平原逐步转向北岳山区。9月由冀中西返途中的一二○师主力在晋察冀部队配合下，集中6个团的兵力，利用山区有利地形和群众条件，歼灭了由灵寿出动企图奔袭晋察冀军区后方机关的日伪军1100余人。10月底至12月初，日军又以2万多兵力对北岳区进行“冬季大扫荡”，11月初，八路军先在雁宿崖歼灭日军500余人，日军独立混第二旅团旅团长阿部规秀中将企图寻找八路军主力报复，结果在黄土岭战斗中又被歼灭900余人，阿部规秀本人也被炮火击中毙命。在历时43天的反“扫荡”过程中，八路军共进行大小战斗108次，歼灭日伪军3600余人，粉碎了日军的“扫荡”，巩固了北岳区。此外，在晋西、冀东地区，八路军也连续粉碎日军的多次“扫荡”，并开辟了平北游击区。到1940年年底，晋察冀根据地已发展到同蒲路以东、正太路以北、长城以南的广大地区，成为拥有1500余万人口的华北最大的根据地。
在晋绥抗日根据地，一二○师主力开赴冀中后，留下第三五八旅及山西新军等几支游击队坚持晋西北的游击战争，他们在当地人民群众的支持下，多次粉碎日伪军的“扫荡”。1940年2月初，一二○师主力返回晋西北，2月下旬经过40多天战斗，毙伤日伪军1000余人，粉碎了日军的春季“扫荡”。6月，日军又出动2万多人发动了规模空前的夏季“扫荡”，八路军展开机动灵活的战术，避敌合击，待机歼敌，这次反“扫荡”历时月余，共进行战斗250余次，歼灭日伪军4500余人。大青山支队自1938年冬开始改建骑兵，1939年改编为骑兵支队，得到了当地各族人民的大力支持，5月至8月粉碎了日伪军的多次“扫荡”，并发展壮大起来。到1940年年底，晋绥根据地发展到大青山以南，汾离公路以北，东至同蒲路，西至黄河的广大地区。
