葫芦岛港阔水深长年不冻，能够随时停泊巨型舰船，而且还有铁路直达码头，交通运输甚是便利。这样葫芦岛港责无旁贷地承担起遣返百万日侨这个重大历史责任。
1946年初，中、美、苏三国四方就遣返东北日侨达成相关协议后，国民政府东北行辕立即行动起来。首先成立了由国民党军方领导的遣返日侨领导机构，先是由长官部政治部主任余继忠兼任处长，半月后改为委任国民党军二○七师少将师长李修业为处长，刘佩伟、齐云阶、彭克复（3人均为少将）为副处长。
共产党领导的解放区成立了以李敏然（李立三）为处长的“东北民主联军遣送日人管理处”。东北各地的“日本居留民会”改组为“日侨善后联络处”，直接配合中国政府的遣侨工作。
遣侨管理处一经成立，即刻着手开展工作。首先对散居在东北各地的日侨人数和成分进行调查统计，经过调查得知，滞留在东北日侨总数约为151.4万人。其中分布在国民党统治区的日侨俘约有90余万人，分布在共产党领导的解放区里的日侨约有33万多人，分布在大连、旅顺等苏军管理区内的日侨约有27万多人。
对于遣返回国这件大事，日侨们怀有各种不同的心态。有些日侨在东北置有产业，诸如工矿、商店等实业。他们不愿意回到日本去，就利用我国留用日侨中有学问有技术人员的机会，想方设法要求留用。
至于日本妇女，尤其是年纪较轻的妇女，日本宣布投降后，基于生活所迫争先恐后嫁给中国人。几乎不管什么条件，只要年龄相差不多就行。据统计光复后两个月内嫁给中国人的日本妇女达11万多人，只有日本浪人、军人，特别是那些身负血债的日本人，才急于遣返回国，以免受到中国人民的惩办。
遣侨工作一经启动，美国海军驻葫芦岛基地司令部，在极短时间内，把凡能集中的日本海轮都调到葫芦岛港，同时把他们在太平洋海域的一部分运输舰也调集过来，计约120余艘轮船，共同担任遣返输送日侨任务。
各地“日侨善后联络处”也积极行动起来，他们按照中国政府和“日侨俘管理处”的具体要求，将遣返日侨的有关规定传达到每一个日侨，并且按照遣返者必须具备的手续，做好一切相应的准备。遣返者以2500人编成一个大队，遣返者除必备的身份证和离境证明外，还要接受霍乱和伤寒等传染性疾病的预防注射。
随即，一场举世瞩目的葫芦岛百万日侨大遣返便有条不紊地展开了。
1946年5月7日上午，两艘装载着2489名日侨的美国轮船驶离了葫芦岛港。他们作为第一批遣返归国的“引扬人”，从这里迈出他们归国还乡的第一步。由此拉开了葫芦岛大遣返的序幕。
从这一天开始，在长春、沈阳、鞍山等地到葫芦岛之间的铁路线上，每天都奔驰着载运日本侨俘的列车。这些列车几乎全是挡板很低、没有顶篷的货车。有的列车全是平板车皮，四边立起几根木棒，再用木板围拢起来，以防有人跌落发生不测。遣返日侨只背着简单的行李，带很少的干粮和饮水。
锦州北大营、锦西张蒋屯、葫芦岛港码头，每天都流动着数以万计等待遣返归国的日侨。根据事先安排，原来居留在锦西、锦州、锦县等临近葫芦岛地区的日侨率先遣返，以便腾出房屋辟做临时集中营，接待从别的地方转运来的日侨。
由于美军联络处对遣返者有一项特殊规定，被遣返的日侨遣返者在必须经过霍乱和伤寒等传染性疾病预防注射之后，还必须经过7天的健康隔离检查，确认无事之后，才能允许乘船回国，所以遣返工作比原来预想的速度要缓慢了许多。
自遣返开始后，葫芦岛每天都有接运日侨的轮船进港，平均每船载运2000人，最多时候一天有7艘轮船离岸。葫芦岛的遣返码头上，到处是一片人头涌动，分外繁忙的景象。
遣返之初，负责检查侨俘的纪律不甚严明，一些犯有罪行的日本人，向遣返工作人员和国民党官兵施以小贿，趁机混入遣返队伍，逃避中国人民的正义审判。比如伪满皇帝溥仪的弟媳、日本皇室宗亲嵯峨浩，长期在中国从事文化侵略的大学教授斋藤茂等都以行贿手段买通某些工作人员，大摇大摆地登船撤走。当时的天津《大公报》，曾以《战犯个个放走，金牙个个拔掉，如此检查》为题，披露了这种令国人所不齿的丑恶行为。为了平息舆论所指，国民政府东北行辕又从辽宁省各界，临时抽调100多名青年干部，全部授予尉官军衔，成立港口统一检查署，遣返检查工作的风气才为之一变。
按照遣返计划，在日本宣布投降以后，与中国人同居或结婚的日本女人均在遣送之列，不准躲避与暗藏。然而执行起来却很有困难，有些国民党官兵甚至是遣返工作人员，也帮助不愿回国的日本妇女千方百计地躲避遣返。例如二О七师连长黄某，在遣返工作中，认识了日本姑娘春野艳子。两人一见钟情，很快便堕入情网。黄连长便不顾军纪约束，定计帮春野艳子逃跑至北平。最后会说日语的春野艳子引起了中国便衣宪兵的注意，几番盘问露出马脚，春野艳子当即被送回沈阳重新遣返。类似的国民党官兵借遣返工作之便，窝藏日本女人的事件，仅在沈阳就发生了20余起。
7月12日，内战爆发。国共两党的主要精力都投注在战场上，遣返日侨工作立刻陷入停顿和半停顿的状态，日侨俘管理处处长李修业将军及时把这种情况报告给杜聿明长官。杜聿明亲自打电话给兵站司令蒋瑞清，指示他必须保证拨足火车，供应遣返工作使用。此后，遣返工作才得继续进行。
1946年11月27日，最后一艘载运日侨俘的轮船“第一大海丸”即将离开葫芦岛港。中华民国日侨俘管理处处长李修业将军，应日侨善后联络处官员们的邀请，来到船上进行礼节性的送行。当李修业一行登上甲板时，候在上面的日本人全体起立，向中国将军行九十度鞠躬礼。应日侨善后联络处负责人野村的再三邀请，李修业将军作即兴演讲：“中国人民近几十年来，受尽了日本帝国主义的欺辱，现在日本成了战败国，但是我们没有采取冤冤相报的方式来对待你们。如果按你们日本人过去对待我们中国人的做法，你们这些人都应该枪毙。中国虽然穷，用来枪毙你们的子弹，还是不成问题……我们中国人胸怀大度以德报怨，把你们妥善地遣返回国，这是我们中华民族的崇高美德和人道主义。你们回去以后，要仔细地想一想，比一比，你们是怎样对待中国人的，中国人又是怎样对待你们的。希望你们以后只带友谊来，不要再带刺刀来，再见吧！”
李修业将军演讲结束，日侨们多数弯腰低头表示认罪，有些人痛哭失声表示忏悔。日侨代表川岛丰太郎致答谢词：“在这个秋天，我们受到了中国宽大精神的恩惠，我们永远不忘中国的宽仁敦厚和恩爱。归国后必将遵守李将军阁下的训词精神，决心为中日两国人民将来的合作而挺身迈进。”讲话结束后，日侨善后联络处负责人野村向李修业将军赠送锦旗一面，感谢状一份。锦旗上写：感谢中国。
16时16分，风起潮涌，海鸥飞鸣“第一大海丸”号响笛三声，缓缓离岸。至此，举世瞩目的葫芦岛大遣返画上了完整的句号。
葫芦岛大遣返历时6个月，遣返日侨俘计达1051047人。此期间葫芦岛人作出了巨大的奉献。当时入境待运的日侨俘在葫芦岛停留时间短者7天，长者半月，也有一部分人停留一月两月，乃至半年不等。停留葫芦岛期间，日侨俘所需食物全部由当地人民负责供给。仅按每个日侨俘在葫芦岛食用2。5公斤粮食计算，１０５万人计需２６２。５万公斤粮食，而当时葫芦岛周边地区的年产粮量仅为４００万公斤。很多人家口粮不足，为了保证日侨安全遣返，他们常常把仅有的一点粮食贡献出来。高粱、苞米、地瓜、土豆什么品种都有，而他们自己则时常依靠野菜充饥。正是由于葫芦岛人的如此仗义之举，很多归国日侨才把葫芦岛视为他们的再生之地，称葫芦岛是他们一生中最为难忘的地方。
侵华日军曾经在葫芦岛港的旁边，修建的3个巨大的储油罐，这3个储油罐直径60米，深9。8米。葫芦岛市准备以这3个储油罐为依托，投资数千万元修建和平公园，以纪念100多万日本侨俘从葫芦岛登船回国。
遣返日本侨俘的纪念碑就竖立在这里，就让我们用纪念碑后面的一段话，作为结尾——历史在这里为日本侵略中国以失败而告终画上了一个句号，也在这里为中国人民的宽容和善良留下了一座人道主义的丰碑。许多日本侨俘把这里视为他们的再生之地。五十多年过去了，当年那场罪恶的战争带给中日两国人民的伤害仍然令人记忆犹新。前事不忘，后事之师。面向未来，以史为鉴，愿中日两国人民世代友好，永不再战。
