●周恩来提议说：“第一步是发表一个联合声明；第二步是搞一个和平友好条约。”
●周恩来强调指出：“和平友好条约要以联合声明为基础来写。”
●邓小平说：“必须从政治角度、用长远的眼光来看中日关系。”
周恩来坚持联合声明精神
1972年9月29日上午，中华人民共和国政府和日本国政府联合声明，在北京签字。中国和日本正式建立外交关系，两国关系掀开了新的一页。
当天下午，日本内阁总理大臣田中角荣，由国务院总理周恩来陪同，乘专机离开北京前往上海访问。
首都群众2000多人前往机场热烈欢送。
日本外务大臣大平正芳、内阁官房长官二阶堂进，以及田中角荣总理大臣的其他随行人员，也同机前往上海访问。
前往机场欢送的中国领导人和有关方面负责人有：叶剑英、李先念、纪登奎、郭沫若、阿沛·阿旺晋美、周建人、王洪文、华国锋、傅作义、吴德、方毅、白相国、李震、杨杰、沙风、李水清、乔冠华、廖承志、肖劲光、粟裕、王树声、王国权等。
陪同日本贵宾前往上海的，还有外交部部长姬鹏飞、副部长韩念龙、公安部副部长于桑，有关方面负责人马仁辉、张香山、杨德中、陆维钊、韩叙、彭华、王晓云、王珍、刘远、武健华、陈抗、刘华、李孟竞、马毓真、林丽韫、王效贤等。
日中备忘录贸易办事处驻北京联络处首席代表安田佳三等，也陪同前往。
当天，上海虹桥机场上空飘扬着日本国国旗和中华人民共和国国旗。
15时40分，田中总理大臣和大平外务大臣、二阶堂官房长官走下飞机。
迎候在机场的群众高呼：“庆贺中日邦交的建立！”“中日两国人民友谊万岁！”“全世界人民大团结万岁！”
晚上，在中方举行的宴会上，周恩来与田中、大平碰杯的时候说：
我真希望同你们通宵畅饮啊！但是，我还必须为你们的下次访问留有余地。
周恩来的欣喜之情溢于言表。而刚刚就任首相两个多月便亲手完成了中日邦交正常化的田中更是激动不已，素不喝酒的他竟情不自禁地离开座位去祝酒，向中国朋友、向自己的下属敬酒，一连喝了好几杯茅台。
大平悄悄告诉周恩来：
我还没有见过首相离开座位去敬酒呐，这是首相破天荒第一次哟。
中日建交后，根据中日两国政府联合声明的精神，中日友好关系不论是官方的关系还是民间的往来，都得到了迅速的发展。
中日邦交正常化后，有人一度认为“民间外交业已完成历史任务”。周恩来针对这一倾向又及时提出“官民并举”和“不忘老朋友、广交新朋友”的方针。
当时，周恩来指出：
民间外交与官方外交是相辅相成的，民间外交继续发展可以使官方外交基础更加牢固；反之，官方外交开展了，又可以为民间外交提供更为有利的方便条件。
周恩来指示有关部门，有计划地邀请那些长期以来为日中友好而尽力的日本老朋友来北京，由周恩来亲自做工作。
周恩来真诚表示，“饮水不忘掘并人”，中国人民永远不会忘记者朋友，永远感激老朋友，鼓励他们为巩固和发展两国友好关系而继续努力。
在主动争取中日官方交流的过程中，周恩来反复强调：
两国关系的正常发展对中日都是有利的，应请双方来做，而不应该只看作一方面的事情，以此敦促日方采取行动。
周恩来坚持中日联合声明的精神，受到日本有识之士的赞赏，他们开始响应周恩来的号召，为中日两国签订友好条约，进一步巩固双边关系献计献策。
在政协一届二次会议上郑重宣布：
中国政府一贯主张在遵守平等互利和互相尊重领土主权等项原则的基础上同一切国家建立正常关系。我国是愿意同日本建立正常关系的。如果日本政府也能抱有同样的愿望并采取相应的措施，中国政府准备采取步骤来使中国同日本的关系正常化。
无论邦交正常化之前还是之后，如何对待两国间的历史问题，即如何评价与处理历史上日本军国主义侵略中国及其后果的问题，一直是中日关系中的重要问题。
周恩来运用“前事不忘、后事之师”这句富于哲理的中国古训，为双方正确处理这一问题提供了必须遵循的基本原则，并在实践中反复阐述、贯彻始终，取得了明显的效果。
1972年，周恩来在欢迎田中首相的宴会上，特别指出：
自1894年以来的半个世纪中，由于日本军国主义侵略中国，使得中国人民遭受重大灾难，日本人民也深受其害。前事不忘，后事之师，这样的经验教训，我们应该牢牢记住。
根据周恩来的论述，“前事不忘，后事之师”的中心思想是中日人民都应从过去那场战争中吸取惨痛的经验教训，共同努力来防止历史重演，以保证两国今后世世代代友好相处。
为此，首先要如实承认那是一场由日本军国主义发动的侵略战争，它给两国人民都带来了巨大的灾难和损失。正如周恩来对日本朋友所说，“过去的事实还是事实，历史是存在的”，决不能掩盖和否认。
周恩来还说，那场战争“是日本军国主义的责任，不是日本人民的责任”，广大日本人民是愿意和平、热爱和平的。把日本人民与军国主义区分开来。
周恩来认为，虽然两国间有过长达半个世纪的不幸时期，但与2000多年的友好交往历史相比还是短暂的，因而坚信中日双方是“能够友好的”。
周恩来对日本的态度，是一以贯之的。
早在1956年1月，周恩来在政协二届二次会议报告中进一步建议两国政府就中日关系正常化问题进行商谈。报告提到，我国政府曾两次通过外交途径向日方表示，“中日两国政府就促进两国关系正常化问题进行谈判的时机已经成熟”，“如日本政府也具有同样的愿望，实现两国关系正常化的途径是可以找到的”，“中国政府欢迎日本派遣的代表团在北京就促进中日两国关系正常化问题进行商谈”。
遗憾的是，当时的日本政府对中国方面的一再呼吁并未作出响应。
在争取中日官方交流的过程中，周恩来坚持对日本政府错误的对华政策及行为进行针锋相对而又有理、有利、有节的斗争，认为这是促进两国关系正常化的必要手段。
源远流长的人民传统友谊是推动中日关系前进的巨大内在动力，而周恩来率先倡导并身体力行的人民外交以及多渠道、多层次的民间交流，则在其中发挥了不可替代的历史性重要作用。
周恩来提议签署友好条约
1972年9月29日，中国总理周恩来和外交部部长姬鹏飞代表中国政府，日本首相田中角荣和外相大平正芳代表日本政府，签署发表了两国政府联合声明，实现中日两国关系正常化，宣布两国建立外交关系。
中日联合声明包括前言和9点双方一致同意的条款。这个联合声明宣布“自本声明公布日起，中华人民共和国和日本国之间迄今为止的不正常状态宣告结束”。
早在中日邦交正常化之前，周恩来与日本公明党委员长竹入义胜进行了会谈。
会谈时，周恩来提议中日邦交正常化分两个步骤：
第一步是发表一个联合声明；第二步是搞一个和平友好条约。
这是周恩来基于对日本国内政治的了解，经过深思熟虑提出来的。
日本是议会内阁制，联合声明这样的双边文件经首相召集和主持内阁会议通过即可生效，但如果是和平友好条约，就要提交国会审议和批准，可能会拖较长时间，难度也大一些。
因此，“分两步走”是一个有利于尽快实现中日邦交正常化的合理设想。
1972年田中首相访华时接受了这一提议。
对于《中日和平友好条约》的内容，周恩来早已胸有成竹。
1974年11月，周恩来在中日两国副外长就条约问题交换意见之前，就将自己的设想转告了外交部。此外，周恩来在会见日本友人时也多次谈过自己的想法。
周恩来强调指出：
和平友好条约要以联合声明为基础来写。联合声明前一半是讲历史的，这是已经实现了的，是肯定了的；第五条讲赔偿问题，也已解决，可以不提了；留下的第六条即和平共处五项原则和联合国宪章关于两国政府以和平手段解决一切争端，决不诉诸武力和武力威胁；第七条是中日友好不排他和反霸权的问题，这一条逻辑性很强，你不称霸，我怎么排你或者针对你呢？
周恩来还指出：
下边还有经济文化条款，可以简单地写一下。如果还想增加什么，可以商量。因为是条约，所以只好写得原则一些。
而在更早的1974年8月15日，周恩来因生病住院，他委托时任国务院副总理的邓小平，在人民大会堂新疆厅会见以竹入义胜为团长的日本公明党第四次访华团。
邓小平与日本朋友进行了亲切而友好地谈话。当时，双方就曾在“中日和平友好条约”问题上进行了深入交谈。
竹入说：
日中复交快两周年了，如果可能的话，还是早一点开始两国之间和平友好条约的谈判。持这种意见的人，在日本不少。日中两国之间要建立一个长期的友好关系，50年、100年的友好关系，应该怎么办？这是最重要的事情，我相信也是田中内阁的看法。
竹入希望以两国政府联合声明为基础签订和平友好条约，把重点放在加强今后的友好关系上，希望早日缔结和平友好条约和两个业务协定。
邓小平说：
这次阁下带来了田中首相、大平藏相的话，我们注意到了，我们还要继续研究。我们理解田中首相、大平藏相面临的问题，凡是尽力的，我们愿意尽力。
邓小平接着指出：
我们还注意到田中首相、大平藏相多次表达了要在联合声明基础上发展中日两国友好关系的愿望。就这方面来说，我们愿意同田中首相、大平藏相共同努力，实现这个目标。我们希望两国的业务协定能比较早地签订。当然，在谈判中面临一些问题，我们希望双方努力，找出彼此都能接受的解决办法。恢复谈判后，希望双方都提出一些彼此比较容易接近的方案，不外乎是措词和方式。我们相信，经过双方的努力，是能够找到解决办法的。
在谈到“中日和平友好条约”这个问题时，邓小平强调说：
我们希望比较快地谈判。从原则上来说，我们认为可以主要体现中日两国友好的愿望。当然，也不可避免要体现两国联合声明签订以后两国关系的发展和形势的新变化。
邓小平又机智地为中日即将举行的谈判留下余地，他说：
有些解决不了的问题、难于解决的问题，可以搁一搁，不妨碍签订这样一个条约。具体步骤，总是要通过预备性的会议，先接触，双方的想法可以先了解，问题在谈的过程中来解决。
邓小平请竹入把中方的观点转告田中首相，同时还请首相注意一下，内阁成员、政府主要官员不要有一些损害两国联合声明原则的行动。
最后，邓小平坦诚地说：
中日两国之间的问题，焦点还在台湾问题上。就我们来说，这个问题不止涉及日本，也涉及到国际关系中一个比较重要的问题，为什么同你们的声明里强调这个问题？为什么在《中美上海公报》里也强调这个问题？问题就在这里。当然，我们也希望能用和平谈判的方式解决台湾问题。如果不行呢？只能采取其他方式。有些日本人抱住台湾不放，你抱得住吗？
对此，竹入义胜表示和邓小平看法一致。
周恩来提出友好条约内容
1974年1月初，日本外相大平正芳为商谈缔结航空条约来到中国，毛泽东和周恩来在中南海接见了他，并和他进行了友好的谈话。
在谈话中，毛泽东说：
最好在1974年内把《联合声明》内规定的条约和各种业务协定解决。
周恩来说：
这些业务协定和条约早日谈好，对两国都有好处，我们想在田中首相和你执政时解决这些问题，我们相信你们两位。
周恩来还说了他对条约的构成和内容的设计。
周恩来指出：
我们要坚持《联合声明》，它是拟缔结的《中日和平友好条约》的政治基础。声明中的第一条到第五条是叙述历史，是已经实现了的，是肯定了的，可以在条约中不再提；剩下的是和平共处五项原则，联合国宪章中的原则，就是两国政府间用和平手段解决一切争端而不诉诸武力和武力威胁；再是不排他，不称霸和反对别国称霸的问题都应写入条约；再写一条经济、文化交流的条款，当然只能写得原则一些。
1月5日晚上，大平正芳举行告别宴会。
应邀出席宴会的有：国务院副总理李先念，外交部长姬鹏飞、副部长韩念龙，外贸部长李强、副部长柴树藩，中日友好协会会长廖承志，交通部副部长于眉，邮电部副部长申光，农林部副部长郝中士，中国民航总局副局长沈图，有关方面负责人林丽韫、张香山、王芸生、乔培新、王笑一、林林、王文林、杨公素，以及访问过日本的新闻、体育、文艺界人士。
日本驻中国大使小川平四郎和大使馆外交官员，大平外务大臣的随行人员，出席宴会作陪。
在洋溢友好气氛的宴会上，大平正芳外务大臣首先讲话。他说：
我们这次访问尽管时间短暂，但昨天和今天同周恩来总理、姬鹏飞外长以及各位中国政府的领导人进行了长时间有意义地会谈。特别是今天早晨拜访了毛泽东主席阁下，能够有机会向他问候，这对我来说是件非常光荣的事。
大平正芳接着说：
日中两国之间在今天签署了贸易协定，并就交换新闻记者的备忘录达成了协议，这样日中关系迎来了前景非常广阔的新的一年。我在这里向中国方面有关人士的热心合作表示深厚的谢意。
通过这次一连串的会谈，我确信日中之间的了解和信任是巩固的，这大大增加了我的信心。这样的相互了解和信任关系之所以成为可能，是由于前年日中两国邦交的正常化。我深切地感到日中两国联合声明的精神今后应该日益发展下去。
大平正芳的话受到了大家的热烈欢迎。
接着，姬鹏飞外长在宴会上讲话中说：
大平外务大臣一行这次访问我国期间，毛泽东主席会见了大平外务大臣，进行了友好、广泛地谈话。周恩来总理同大平外务大臣也进行了友好交谈。两天来，我们双方还就国际形势、中日关系以及其他双方共同关心的问题，坦率地交换了意见。今晚，我们即将在中日贸易协定上签字。我们高兴地看到，大平外务大臣阁下的这次访问，对加深中日两国相互之间的理解，进一步发展两国的睦邻友好关系，作出了有益的贡献。
姬鹏飞最后说：
让我们遵循中日联合声明的精神，为不断巩固和发展两国睦邻友好关系，进而为改进亚洲局势而共同努力。
1月6日，大平正芳在北京就访华结果向日本记者发表谈话。
大平正芳指出：
双方就航空协定、海运协定、渔业协定等业务协定今后的谈判进行方法交换了意见，一致同意要尽早地缔结业务协定。关于航空协定谈判的问题也加深了基本的认识。
双方还就日中两国之间的其他共同关心的事项友好而坦率地交换了意见。
最后，大平赞扬两国之间以往一直由民间进行的文化交流的实际成绩，并表示：
今后在政府方面也要和民间方面相配合，去增进两国之间的文化交流。
他说，他已邀请姬鹏飞外交部长访问日本，姬鹏飞外长已表示接受。
大平正芳的这次访华，直接推动了中日各项协议的签订，为中日友好关系的健康发展做出了贡献。
邓小平说中日谈判进展太慢
1975年，周恩来总理已患重病，但他依然顽强地与病魔抗争着。当年，周恩来还在会见稻山嘉宽、保利茂、藤山爱一郎各代表团时，谈到缔结《中日和平友好条约》及其设计的问题。
但终因病情沉重，周恩来总理难以承担繁重的工作，这样，中国领导和主持缔结《中日和平友好条约》的任务就落在了邓小平身上。
在1974年一年间，邓小平会见了14个日本代表团，纵谈当时的国际形势、美苏争夺的战略部署、中国的国内形势。
关于中日间缔结4个业务协定与和平友好条约问题，邓小平在每一次会见中都会谈到。
1975年1月，邓小平会见木村武雄率领的自民党议员一行。
在谈话中，邓小平说：
建交以来，我们两国关系的发展还是正常的，但有些事情搞得慢了一些。业务协定在1973年谈定一个，航空协定的签署看来有希望了，但还有两个协定与《中日和平友好条约》没有解决，希望在1974年搞得快一些。
此后，邓小平同志同别的代表团会见时，还提出不必在谈定4个协定后才开始条约的谈判，也可以平行作业。
邓小平还指出中日谈判拖延的原因，他说：
这不是由于我国，也不是由于日本人民，至于田中首相和大干外相所作出的努力，我们予以积极的评价。困难是由一小撮人造成的。他们是岸信介、佐藤荣作、椎名悦三郎以及青岚会等这些鹰派和台湾帮，他们从台湾得到好处，死抱住台湾不放；此外还有那些仍然抱着军国主义思想的人。也许早一些，也许晚一些，中国的领土能长期不回到祖国的怀抱吗？祖国不实现统一行吗？
邓小平的话，受到日本朋友的赞赏。
谈到从什么角度来考虑缔结《中日和平友好条约》问题时，邓小平说：
必须从政治角度、用长远的眼光来看中日关系。加强中日两国人民的友好，是符合我们两国人民的根本利益的，它不是百年大计，而是千年大计，万年大计。有些问题可能成为尽快缔结和平友好条约的障碍。如钓鱼岛问题，可以摆一摆嘛。否则谈上10年，《中日和平友好条约》也是谈不拢的。
在谈话中，邓小平听说一些坚持中日友好的日本政治家和群众团体的领导人说，他们为推动政府尽快缔结条约，已掀起了国民运动。
邓小平感到很高兴，他说：
这个运动很重要，我们两国建交，也是经过日本的国民运动，推动日本政府采取行动，同中国签署《联合声明》的。签订和平友好条约也是一样，没有民间方面的推动是不行的。田中首相、大平外相还是热心的，但他们遇到了阻力，有一个比较广泛的国民运动来推动，对他们也是一个帮助。
经过中国政府和邓小平的敦促，并经双方的共同努力，中日终于又缔结了航空协定和海运协定，只剩下一个渔业协定没有签署，但双方同意原来由民间签定的渔业协定延长一年，以便在今后一年间完成签署政府间的渔业协定。
中日陆续签订四项协议
1972年9月29日，周恩来和外交部部长姬鹏飞代表中国政府，日本首相田中角荣和外相大平正芳代表日本政府，签署发表了中日两国政府联合声明。
该声明规定：
中华人民共和国政府和日本国政府为了巩固和发展两国间的和平友好关系，同意进行以缔结和平友好条约为目的的谈判。
……
中华人民共和国政府和日本国政府为进一步发展两国间的关系和扩大人员往来，根据需要并考虑到已有的民间协定，同意进行以缔结贸易、航海、航空、渔业等协定为目的的谈判。
中日联合声明规定，双方应缔结贸易、航海、航空、渔业4个协定。
当时，中方希望在这4个协定缔结之后再启动关于条约的谈判程序，可就在这时，日本国内又发生了一件事情，影响了中日之间的谈判。
1974年，日本自民党在参议院选举中失败，田中内阁受到巨大冲击。
为避免条约谈判因此受阻，中国外交部副部长乔冠华于7月向日本外相木村俊夫提出尽快展开中日和约谈判，日方表示同意。
在中日谈判的过程中，双方签署了一系列协议，直接推动了中日友好条约的最后签订。
早在1973年5月4日，中华人民共和国电信总局和日本国邮政省关于建设中国和日本国之间海底电缆的协议，在北京签字。
中国电信总局局长钟夫翔和日本邮政大臣久野忠治分别代表中国和日本方面在协议上签字。
久野忠治大臣的随行人员，日本驻中国大使小川平四郎出席了签字仪式。
出席签字仪式的还有，中国电信总局、国家海洋局和外交部的有关方面负责人申光、曾庆良、李玉奎、马克绍、刘澄清、彭洪志、周绍棠、王晓云、沈韦良等。
协议指出：
中华人民共和国电信总局和日本国邮政省，为适应随着中日两国间睦邻友好关系的发展而增大的通信需要，根据平等互利的原则，经过友好协商，就建设中日两国之间海底电缆达成协议如下：
第一条双方商定，在中国和日本国之间，共同建设一条具有足够电路容量的海底电缆，供中日两国间通信使用，同时，也积极为对方沟通与其他国家的通信。
第二条关于上述海缆的建设，中方由上海市电信局为承建单位，日方由国际电报电话公司为承建单位。
双方认为，上述两承建单位根据本协议缔结具体的建设和维护协议是适宜的。
第三条上述海缆建设的费用（包括海洋调查费用、海缆、增音机、均衡器、海缆终端设备及供电设备等的费用），由两承建单位各负担一半。海缆建成后，资产所有权也各占一半。电路的使用，由两承建单位根据平等互利的原则，具体协商确定。
第四条关于海缆的登陆地点，由两承建单位互相协作，经过技术调查后，尽快地协商确定。
第五条有关海缆建设的海洋调查、设计、施工，均由两承建单位共同实施。
第六条上述海缆建设，自两承建单位缔结建设和维护协议后，在三年左右时间内建成并交付使用。
第七条本协议自签字之日起生效。
本协议于1973年5月4日在北京签订，共两份，每份都用中文和日文写成，两种文本具有同等效力。
中华人民共和国电信总局局长
钟夫翔（签字）
日本国邮政大臣
久野忠治（签字）
钟夫翔和久野忠治在签署协议后进行了谈话，在谈话中，他们指出：
这是中日两国邦交正常化以后两国之间签订的第一个协议。两国电信部门一定要为增进两国人民的友谊和发展两国的友好睦邻关系作出更大的努力。
在1974年到1975年，中日两国还签订了《中日贸易协定》、《中日航空运输协定》、《中日海运协定》、《中日渔业协定》。
其中，海运协定规定：
“缔约一方船舶”和“缔约另一方的船舶”是指按照本协定第二条规定被承认具有中华人民共和国国籍或日本国国籍的船舶。
……
悬挂缔约任何一方国旗，并持有该缔约一方主管当局按照本国法令规定颁发的船舶国籍证明文件的船舶，应被承认具有该缔约一方国籍的船舶。
……
缔约任何一方的船舶有权与第三国的船舶在同等条件下，进出缔约另一方所有对外开放的港口。
这些协议的签订，增强了两国的信息交流，推动了中日两国关系继续向前迈进。
韩念龙赴日参加预备性会谈
1972年，中日邦交正常化为两国关系、为各个领域的密切交往和友好合作开辟了广阔道路。
随着邦交的恢复和两国关系的顺利发展，双方经过共同努力，先后签定了《中日海底电缆协议》、《中日贸易协定》、《中日航空运输协定》、《中日海运协定》、《中日渔业协定》等一系列务实性双边协定，大大促进了两国经济关系的发展。
与此同时，中日两国的科技文化交流也迅速展开，民间交流和人员往来也与日俱增，呈现出官民并举的喜人局面。
至此，缔结和平友好条约的时机已日臻成熟。
为使中日两国的睦邻友好合作关系在牢固的政治和法律基础上长期稳定发展，为亚洲和世界和平做出贡献，从根本上造福两国人民，必须以两国最高立法机构批准的法律文件加以巩固。
1974年秋，中国政府把缔结和平友好条约这一问题提上了议事日程，并委派韩念龙副外长访日，就这一问题同日本外务次官东乡文彦举行预备性会议。缔约谈判的运作正式开始。
中日缔约谈判之所以历时数年，主要原因是双方在反霸条款问题上的立场相去甚远，又一时难以协调。
1974年11月，赴日代表中国政府在中日海运协定上签字的外交部副部长韩念龙，就中日缔约与日本外务次官东乡文彦进行第一次预备性会谈。
在会谈中，韩念龙指出：
条约的基本内容必须包含反霸条款。
东乡则表示，反霸问题不属于本条约的范围。
当时，尼克松访华后中美关系日趋松动，而苏联的霸权主义扩张野心与势头有增无减，直接威胁中国安全。
因此，在条约上明确写入反对霸权主义，消除对和平、安全的威胁，是中国对外战略的重要国策。
中日谈判缔结和平友好条约，既能推动两国维护和平和发展友好事业，也可以牵制苏联军事威胁与扩张势头，符合两国人民的根本利益。
而日本方面虽然对缔约谈判作出了积极响应，但内心比较复杂。日本面临苏联的现实威胁，对苏也无好感，但不愿因两国缔约而得罪苏联。他们口口声声强调“日中是日中，日苏是日苏”。
早在中日复交时，田中即派大平外相前往苏联，解释日中建交不针对第三国。田中很希望利用中日复交的有利地位和技术优势打开日苏关系僵局，推动归还北方四岛，但为苏联所拒绝。
1974年12月，在中日缔约谈判拉开帷幕之际，田中因陷入权力与金钱政治交易的洛克希德受贿案而被追究审理，被迫辞职下台。
这是因为田中的资金来源问题被《文艺春秋》杂志所揭露，引起舆论大哗，也使自民党内反田中派的派系斗争加剧。
为了不使事态扩大，保存实力，田中被迫采取了辞职的决策。这样，缔约的任务就不可能在田中内阁时期内完成了。
接替田中的总裁和总理职务的，是三木武夫。他不是经党内选举，而是由副总裁椎名悦三郎根据自民党党章裁定的。
椎名惟恐选举总裁会引起党内的激烈争夺相持不下，甚至有可能使党分裂，因此选定了素以清廉著名，处于福田赳夫势力和田中、大平的势力之间的、最小派别的首脑三木为总裁，并在国会中当选为总理。
早在1972年4月，三木访华，周恩来总理接见了他。在谈话中，三木表示，如以后由他组阁，就一定同中国恢复邦交。
后来，佐藤下台，在田中与福田赳夫竞选总裁时，三木支持主张实现日中邦交正常化的田中任总裁并担任总理。田中组阁后，他曾任副总理。后因对田中不满，于1974年7月退出内阁。
田中的资金来源被揭发后，三木同福田一起，对田中发动强大攻势，并进而获得了首相的荣冠。
三木就任首相后，在国会发表施政演说，表示“要促进缔结日中和平友好条约”。
继任的三木武夫首相虽然对中日缔约表现出热情，一上台就表示要促进和平友好条约的谈判，争取早日缔约，日中一旦达成协议，将尽早请国会批准。但他对苏联的态度比田中更为慎重。
由于执政的自由民主党内亲台派以苏联反对为理由，竭力阻挠日中缔约，三木内阁表现犹豫。亲台派的头面人物滩尾弘吉就公开表示：
日本卷入中苏对立将导致亚洲的不稳定和紧张，日本必须要对中苏都保持等距离，不介入美、中、苏的斗争。
日本自民党内极右的青岚会组织更是兴风作浪，对日中缔约提出种种无理条件，如确保台湾地位，确认钓鱼岛是日本领土，在反霸问题上确认日本立场等，给缔约谈判设置难以逾越的障碍。
三木政府在党内外反对派干扰和苏联强大压力及其他复杂因素的影响下退缩不前。
日本媒体也有不少避免刺激苏联不可自陷困境等慎重反对的论调，在日本国内产生了一定的消极影响。这一切都预示着中日缔约谈判的艰巨和困难。
在东京举行预备性谈判的同时，根据中日双方的协议，双方在北京也进行了接触。
中方以外交部亚洲司副司长王晓云为首，日方以驻华使馆参赞秋山光路为首，就中日和平友好条约内容和问题进行了3次磋商会谈，但是也未能找到解决问题的出路。
在谈判桌外，苏联对日本一直施加强大的压力，其牵制日中缔约的活动一刻也没有停止过。
苏联政府公开发表正式评论，反对日中缔约，他们无理地声称：
中国企图把霸权条款写进条约，这种反苏行为的目的是要把日本纳入其反对缓和的对外政策轨道。
苏联驻日大使特罗扬诺夫斯基以及后来继任的波利扬斯基大使多次约见三木首相和自民党副总裁椎名悦三郎等负责人施加压力，递交苏官方的声明、备忘录等文件，还送交了勃列日涅夫主席的亲笔信。
苏方的信中提出就苏日和约进行谈判，拿北方领土问题作诱饵，让日本放弃与中国磋商，愿意先缔结苏日睦邻合作条约等，以此来牵制日中缔约。
当时，苏联外长葛罗米柯更是在东京和纽约等地公开当面对日本进行威胁说：
日方如屈服中国压力，苏将重新考虑两国关系，改变对日政策。
在此情况下，日方在改善中日关系的问题上更加犹豫不决。
三木首相一方面通过驻华大使或派外务省特使来华一再向中国人表示他对缔约的热望，另一方面又抛开外务省直接出马，亲自发表首相见解，强调日方遵守世界普遍适用的反霸原则。
其实，三木首相所说的反霸原则就是抽掉了反霸条款的实质和针对性，而使其泛泛而论空洞化。这就表明日方是空谈缔约热情，空举缔约旗帜，实际上碍于苏联压力而一步步后退。
中方原则立场很坚定明确，那就是只能在联合声明基础上前进而不能后退。
陈楚和东乡举行首轮谈判
1975年1月，中国驻日大使陈楚同外务省东乡次官举行缔结《中日和平友好条约》的预备性会谈。
当时，三木派在日本政坛是个小派，三木首相仅仅依靠本派力量，是难以维持住执政地位的，而且这个政权又是在反对田中执政的状况下成立的，因此那些反田中、大平势力的有力者，如福田赳夫、椎名悦三郎、滩尾弘志、松野赖三等亲台人物就又占据了政府和自民党的重要地位。
时任日本外长的宫泽喜一，虽同大平一样，原是池田派，但他对田中、大平所敷设的日中友好关系却是消极的。
针对三木内阁的特点，邓小平在三木上台后不久在会见前国务大臣保利茂等日本外宾时，就劝他们鼓励和帮助三木来完成缔结《中日和平友好条约》。
邓小平说：
同日本友好的方针，是毛泽东主席定下来的，是周恩来总理领导实现的。我们要贯彻这条路线。我们是一直高度评价田中前首相、大平前外相确立的我们两国关系正常化这一点的。我们很高兴新上任的三木首相和宫泽外相都声明要贯彻《联合声明》的路线。我们也深信日本的绝大多数政治家和日本人民赞成三木首相和宫泽外相继续来贯彻这条路线。
邓小平接着说：
当然，我们也了解事情不是一帆风顺的，总会有曲折。在日本过去有、现在有、将来也会有不赞成这条路线，并拖这条路线后腿的，但他们毕竟是少数。
邓小平接着谈到缔结《中日和平友好条约》问题。他说：
这个条约正在商谈。我们相信，在商谈过程中总会遇到一些阻力，但日本大多数政治家、包括今天在座的各位政治家会支持三木首相抵制这种阻力。保利茂先生有机会遇到那些阻碍缔结条约的人，可以告诉他们，我们中国的方针是希望中日双方都老老实实地商谈，如果大家都采取这个态度，两国缔结条约是不困难的。
由中国驻日大使陈楚和日本外务省次官东乡就缔约的商谈，从1975年1月开始到5月，进行了12轮。
在会谈中，双方对应否把《联合声明》中的反霸条款写入条约发生严重对立，致使商谈停滞不前。
中方认为反霸条款应写入《联合声明》，而且是今后仍须执行的，因此必须写入条约。
日方认为霸权这个词是“生疏”的、“不习惯”的，不能用，继之又说条约是关于两国关系的，不能涉及和针对第三国，所以不能写。
日方之所以持这样的态度，是由于上面提到的自民党内的亲台派在拖后腿，还由于三木首相的优柔寡断。
再一个重要的原因是受到苏联方面的严重干扰。苏联驻日大使特罗扬诺夫斯基拜会椎名悦三郎，对日中商谈签订条约表示强烈不安和关心。
椎名又故意把谈话内容透露给报界发表。以后苏联外长葛罗米柯会见日驻苏大使称，条约写入反霸条款就是“反苏”。
勃列日涅夫还亲自写信给三木施加压力。在此情况下，三木就更加犹豫不决，但当他听到中国政府、日本民间友好团体、甚至三木派内的议员对他有所批评时，就又表示他有促进缔结的意向，并于6月下旬正式表明：
一、这个条约不以特定的第三国为对象；
二、反霸原则应同联合国宪章以及和平共处五项原则一样，是一种普遍原则，如中方同意这个意见，就可以把反霸条款写入条约中。
中方认为，这种把反霸变成徒有其名而无实质内容的意图是不能同意的。
因为中日有以上的分歧，从4月到7月下旬，邓小平对来华访问、关心缔结条约的日本外宾反复地谈了中方对霸权的态度和看法。
4月16日，邓小平会见日本创价学会会长池田大作时说：
搞霸权就是要侵略、奴役、控制、欺侮别的国家。中国人民和日本人民接受反对霸权问题不应当存在困难。条约中写入反对霸权无非有两个含义：一是中日两国都不在亚太地区称霸。我们愿意用这一条来限制我们自己；至于日本由于有历史渊源，写上这一条，对日本改善同亚太地区国家的关系是有益的、必要的。二是反对任何国家或国家集团在这个地区谋求霸权；现在的事实是，确有超级大国在这样做。
邓小平指出：
日方反对在条约中写入反霸条款，是因为怕得罪美苏两个超级大国。其实反霸条款是美国人写进中美上海公报的，所以，说得清楚一点，是怕得罪苏联。难道中国人民、日本人民还愿意和高兴苏联在亚太地区谋求霸权吗？写了这一条，至少对你们解决北方领土问题有好处。
此外，邓小平还批驳了条约是正式文件，不能写入反霸条款，条约写入反霸条款就是干涉第三国内政等不成为理由的理由。
当时，邓小平托池田大作会长传话给三木首相：
我们希望首相拿出勇气，下定决心，坚持《联合声明》的原则，在中日两国人民中只会增加威信，不会受到损害。反霸问题是原则问题，不是技术问题，请三木首相不要误解中国会同意在条约中不写反霸条款。
邓小平还感谢创价学会和公明党在大阪为促进缔约举行大集会。
以后，邓小平在会见日中记者会友好访华团时，也谈了缔结和平友好条约问题。邓小平特别指出，要从政治角度来处理缔约问题，不要玩弄外交魔术和外交权术。
