阜平县位于太行山东麓，与山西省五台县紧邻。全境起伏的群山连绵，山陡沟深，山地占境内面积的75%，境内最高山峰为歪头山，海拔2286米，绵亘县境南北。东西横贯一条大沙河，将县境分为南北两大块，县城位于大沙河北岸，大脉山的脚下。阜平是从河北平原进入山西的交通要道，可直逼北平（京）、天津、保定、石家庄，以及太原、大同等战略要地。由于土地贫瘠，交通闭塞，长期处于封闭状态，加之自然灾害频繁，军阀连年混战，地主豪绅又残酷掠夺，阜平县的广大人民群众长期处于饥寒交迫的水深火热之中，受到痛苦的煎熬。县城内住有500多户人家，地主、豪绅、官吏以及商户多集中于此。阜平县是中国共产党开展工作较早的地区之一。1926年就建立了城关、城南庄党的支部组织，在一些村庄开展了农民运动，陆续成立农民协会的组织，因而有着较好的群众基础。
当红二十四军大队人马向阜平县城逼近的时候，城内已经乱成一团。县保安团、巡警队慌忙整理队伍，检修枪械，做抵抗红二十四军的准备。一些地主、豪绅和官吏们则惊慌失措地往山里运财物藏东西，甚至全家老小一齐往城外逃。一些穷苦百姓和商户，也摸不清头脑。当时群众还从来没有听说过什么是红军，在人们的传统观念中，认为军队和土匪也差不多，无非是杀人放火，抢劫奸淫，无恶不做。因此，听说有大兵快到了，自然也显得惊慌害怕，有的人也跑到城外的山沟里暂时躲藏起来，看看究竟再说。
7月17日，红二十四军进入阜平境。阜平县县长企图负隅顽抗，命令保安团300多人到城南白石岭阻击红军。红军一方面向敌军正面进攻，另一方面分两路迂回包抄敌人。红军战士奋武扬威，个个如出林乳虎，一边高喊着：我们是工农红军，你们快投降吧！一边奋不顾身地向敌人发起冲锋。敌保安团这支从未打过仗的懒散队伍，哪里经得住红二十四军的打击，顿时个个都吓得魂飞魄散，丢盔弃甲，抱头鼠窜。敌县长和下属官员也纷纷弃城而逃。第二天，部队到达阜平县城，在城南关的沙河滩上举行了入城的动员大会。红二十四军的军政领导分别做了动员讲话，他们要求部队进城后严格执行纪律，要公买公卖，绝不允许扰害百姓，要按照革命纲领发动群众开展斗争。然后，部队在县城内外分头驻扎，一纵队驻县城附近，二纵队驻东、西庄一带。
在红二十四军向阜平进军的同时，中共保定特委根据中共北方局的指示，已派人先期到达阜平县，会同当地党的基层组织一齐前来迎接红军部队。红二十四军的领导同志与地方党组织的同志会面后，相互介绍了有关情况，并研究了近期的工作计划。中共中央曾对工农红军的基本任务做出过明确的指示，即是：第一，发动群众斗争，实行土地革命，建立苏维埃政权；第二，开展游击战争，武装农民，并扩大自身组织；第三，扩大游击区域及政治影响于全国。根据党中央的指示精神，他们研究认为，当前红二十四军的任务应当是，在随时准备迎接作战的同时，部队的中心工作，要放在发动群众、组织群众，准备建立苏维埃政权方面。
红二十四军进入县城后，马上就展开了大张旗鼓的宣传活动，盖有红军鲜红印章的安民告示，以及红红绿绿的标语、传单贴满了大街小巷。红军战士不仅不抢不夺群众财物，而且还帮助群众挑水砍柴，清扫街道院落。人们看到个个脖子上都围着一条红巾的战士，态度和蔼可亲，见人先笑，大娘大伯的叫声不离口。城里的男女老少都用既感动又诧异的眼光望着这一切，心里在纳闷：这也是军队吗？这是什么军队从来没听说过？他们和国民党的“白军”，和一年来一次的土匪“黑军”，怎么完全不一样呢？再加上他们看到那些地主恶霸和官吏，一听说这支部队要来，便吓得屁滚尿流逃之夭夭，足见这个队伍既不同于“白军”更不像“黑军”。人们由开始害怕到怀疑，而逐步敢于接近，以至帮助。有一些老年人主动组织起来，帮助部队做饭、安排住房等等。人们一传十，十传百，原来因害怕而躲藏的群众很快都回来了，街面上的店铺也敢开门了，集市也逐步恢复了。
阜平县连年遭灾，加上地主、兵匪的掠夺，老百姓家中几乎没有什么多余的存粮，又逢青黄不接之时，有不少人家已经断炊。于是，红二十四军便把开仓放粮济贫当成当务之急。进城第三天便召开群众大会，宣布要开仓放粮。在大会上，人们只见一个个头不算高，白净的脸，浓眉毛大眼睛、很精干的年青军官，正站在土台子上讲话。下边黑压压的一片人，都瞪着好奇的眼睛，静悄悄的听着。这正是红二十四军政委谷雄一在讲话，他说：“乡亲们，今天要给大家分的粮食，你们知道这是谁的吗？这些粮食既不是国民党的，也不是地主官僚的，本来就是咱们劳苦大众种田人的，是咱们穷人用血汗换来的。多少年来，反动军阀、地主老财骑在我们的头上，压迫我们、剥削我们，咱们穷人风吹日晒，千辛万苦种粮食，到头来却吃不饱穿不暖，打下的粮都被他们不劳而获霸占了。今天就要把他们霸占的这些粮食归还给咱们穷苦百姓，这叫物归原主。我们是工农红军，是中国共产党领导的革命军队，也是我们劳动人民的子弟兵。我们要打倒那些地主恶霸、贪官污吏，为咱们穷人打天下，咱们还要成立自己的政府，劳苦人民自己起来当家作主，以后还要没收地主的土地，分给咱们种田人，再也不受他们的压迫和剥削了。”站在台下的人们，开始怀着好奇的心情，直眉瞪眼的听着，可是越听越爱听，好像句句都说到自己的心坎里，这些都是过去自己敢想而不敢说的话。人们听着听着不觉个个舒眉展眼，人人眉开眼笑。有些饱经沧桑的老人，不禁感动得热泪盈眶。这时，有人竟情不自禁地大声欢呼：咱们穷人的大救星来啦！红军万岁！一时群情激动，万民欢腾。
阜平县的粮食仓库打开了，成百上千的群众贯鱼成次井井有序地领粮，有担的有背的，个个喜笑颜开，三五成群边走边说笑着往家送粮。一些老人们纷纷说这是阜平古往今来最热闹最高兴的一天。当天就有2000多人分得了粮食。阜平县有南北两座粮仓，很快这两仓的粮食都分光了，可是四乡的群众听到分粮消息后，仍然扶老携幼陆陆续续来领取。根据群众的强烈要求，接着又把阜平县头号大地主袁葆福的粮仓打开了，尔后又陆续打开了几家地主的粮仓，3天时间就发放粮食300多担。同时还发动群众把赵义生、郑老清等几家大地主所珍藏的贵重物品、衣服等，也分给了穷苦的百姓。大地主袁葆福逃走时，将带不走的一批银元倒在厕所的茅坑内，这时也被群众捞了出来，百姓们对红军颂声称道。就在开仓放粮济贫的同时，赫光带队打开了监狱的大铁门，释放出关押在内的穷苦弟兄。有一个以卖烧饼为生的18岁的小伙子叫罗小虎，家住沙河南岸离县城3里多的一个小山庄里，父亲是个老实巴交的农民，就因为欠下地主的租金还不起，也被县衙关进了监狱。罗小虎每天在城里卖烧饼，耳闻目睹这两天一桩桩一件件大快人心的新鲜事，只觉得以前在梦里想像的，如今真的都变成了现实，这世道真是变了。他琢磨着关在大狱里受罪的老父亲也该放出来了。他每天几次要到监狱门外嘹望，恨不得马上砸烂这道“鬼门关”，把父亲救出来。这一天他的愿望终于实现了，红军砸开了监狱大门，父亲随着一伙苦大仇深的穷苦弟兄踉踉跄跄地走了出来。罗小虎喜出望外，紧跑几步上前搀扶着父亲，望着父亲蓬头垢面憔悴的面孔，悲喜交加，他满含热泪地说：“爹你受苦了！多亏来了红军，才把你救了出来。”老罗也喜上眉梢，细问起原由。罗小虎便一五一十的把这几天所闻所见眉飞色舞地讲给父亲听。父亲听后激动地拽着小虎说：“你先带我去见见咱们的救命大恩人！”于是父子俩来到大街上，街上已挤满了人，只见一个高个子的军官，正是赫光，他站在一条板凳上，操着宁夏的口音，清晰而宏亮地向群众讲话：“蒋介石和反动军阀，都是代表地主豪绅利益的，他们设的衙门就是阎王殿，监狱就是鬼门关，大牢里关的尽是穷苦百姓。今天我们打烂了这个阎王殿，砸碎了鬼门关，就是要解放受苦的穷兄弟，跟我们一起干革命。要革命就必须有自己的枪杆子，必须有自己的队伍，没有枪杆子是打不垮敌人的。只有用枪杆子打倒了军阀、地主、恶霸，才能实现没有人压迫人剥削人的，人人都有吃有穿的好日子。大家说这样的社会好不好？”台下人异口同声喊好，震得地动山摇。
接着他又说：“要革命仅仅靠少数人不行。当年孙中山武昌起义要打倒满清，全国响应大家一齐干，几千年来的皇帝佬不是就被打倒了吗？今天也一样，要打倒这吃人的黑暗社会，也必须靠众人齐心协力。我们红军是干革命的，但光靠我们几百人、几千人不行，必须动员几万、几十万的人参加部队，只有众人拾柴才能火焰高，才能有力量。我们欢迎青年的兄弟们参加红军，参加我们工农自己的部队。”话音刚落会场就沸腾了。十多名衣着褴褛的刚从监狱里出来的年轻人一拥而上，喊着：我要当红军、我要参军。老罗和小虎嘀咕了一会儿，爷俩也来到赫光面前，老罗激动地说：“我是刚被恩人们从监狱救出来的，只可惜我老了上不了战场，就让我的儿子罗小虎，代表我们全家的心意，参加红军跟着你们一齐干革命吧！”赫光紧紧握住老罗的手，频频点头说：“谢谢大爷！谢谢大爷！”从这天开始阜平很快掀起了青年参加红军的热潮。在人们口中传唱着：“当兵当红军，红军最革命，到处打土豪，事事为穷人；穷人有武装，不怕国民党……”通过开仓还粮于民，打开监狱释放囚犯，以及大量的多种形式的宣传工作，群众基本发动起来了。红二十四军和中共阜平县委的同志，通过走访贫苦群众，物色骨干，为建立苏维埃政权进行了大量准备工作。于是，在7月26日这天，红二十四军和中共阜平县委联合召开了中华苏维埃阜平县政府成立大会。参加大会的有来自八十多个村的群众代表，以及县城的群众共1300多人。其中有农民、工人、教师、市民等等。大会会场就设在以往穷人见了害怕、不敢轻易出入的旧县衙的院子内。这天是个明朗朗的晴天，清晨，太阳刚从东山冉冉升起，在它开始向着大地投射万紫千红光芒的时候，整个山城就渐渐热闹了起来，参加大会的人们，从四乡八方欢天喜地的朝着县衙大院奔来。整个大院红旗招展，红红绿绿的标语贴满了墙壁，一面缀有镰刀斧头的鲜艳夺目的大红旗挂在墙上，显得庄严肃穆。大院里人头攒动，欢声笑语，人们比过大年还高兴，比赶大集还热闹。大会正式开始，红二十四军政委谷雄一首先登台讲话。当他庄严地宣布：阜平县人民自己的政权——中华苏维埃阜平县政府，今天正式成立了的时候，全场爆发出惊天动地的经久不息的热烈掌声。人们欢喜若狂，有的人竟激动的流下了兴奋的泪水，口中不断翻来覆去地说：真是翻身啦、翻身啦！接着，大会庄严的选举产生了苏维埃县政府的组成人员共七人：主席刘应融、副主席牛清明（另一说法为主席牛清明，副主席刘应融），委员有张远仁、李英兰、王德修、石德义、孔令明。组成的人员中，既有红军的代表，也有当地的共产党员，以及党外群众。从职业上看，有军人、农民、城市贫民和小学教师。大会还庄严宣布，原来旧政府所制定的法规等一律无效。还把没收的土豪劣绅保存的契约文书和账簿等都用绳子串起来示众，当众烧毁。从此，中国北方的第一个红色苏区，第一个由人民自己当家做主的政府诞生了。整个山城沸腾了，人们心花怒放，到处洋溢着翻身解放，万民欢庆的景象。群众自动聚集起来，打着锣鼓，扭着秧歌，边跳边唱：“国民党真可恨，不让农民来革命。红军来到俺们县，又打地主又放赈……”、“分了地主田，谁种谁吃粮。实行苏维埃，反对白眼狼（指贪官污吏）。打倒蒋介石，拥护共产党……。”
继苏维埃革命政权成立后，迅速组建起农民赤卫队，在政府里还设立了农民委员会、士兵委员会，以及邮政委员会等机构。为了保卫红色根据地，巩固工农民主政权，苏维埃阜平县政府在红二十四军的大力帮助下，很快逮捕和处决了一些土豪劣绅。县里有个恶霸大地主叫赵义，人称“二知县”，又叫赵大吹，他家里就设“公堂”，在大门上还挂着打人棒，哪个佃户“得罪”他，捆来就审就打，在县里无人不晓，无人不怕。这次，赵义被苏维埃县政府逮捕（后被镇压），同时还枪决了保安团头子二郎成，这就成为全县的一件大喜事，人心大快。与此同时，还在境内肃清了一部分残余的反革命武装，在五丈湾、王快镇一带消灭了民团，解散了保安队，没收了地主乡绅的武器等。
为了给开展土地革命作准备，红二十四军和苏维埃县政府、各群众团体，还联合组成工作组，深入到部分村庄进行土地调查和阶级状况调查，登记土地、产量，以及人口、牲畜数量等。红二十四军宣传队还在这些村庄里，通过张贴宣传画、漫画以及演出活报剧等多种形式，揭露地主阶级残酷压迫剥削农民的罪行。准备下一步就要发动群众分田分地，实现耕者有其田。苏维埃县政府还积极兴办小学，红二十四军政治部派人帮助编写了课本。第一课是：“人，你是人，我是人，人人读书，做好人。”第二课是：“穷和富，为什么多数人穷，少数人富……。”为此有一首民谣在传唱：“穷人上学堂，感谢共产党。边学习，边站岗，准备打老蒋。”
经过上述一系列的工作，阜平县的广大群众对红二十四军有了真切的认识，深深感到在政治上、经济上确实翻了身，极大地激发了他们的革命积极性，除积极参加各项工作外，还掀起了踊跃参加红军的热潮。10多天里就有500多名青年参军。刚入伍的战士，个个衣帽整齐，每人都围着红巾，英姿焕发，给红二十四军增添了一批有生力量。
红二十四军曾将这段工作的情况向中共山西特委送过报告。为了防备敌人的检查，这个报告是采用普通书信方式写的。它巧妙的用一个放假回家的在校学生的口气，以他回乡所见所闻给学校老师写信的方法，比较具体的汇报了工作情况。首先描写这里的风景，意在说明这里的形势。然后又写在街面上看到群众集会开仓分粮，接着又写看到了县政府的门口换了一个苏维埃政府的牌子等等，用此方法报告他们的工作状况，表示他们正在站稳脚根要建立革命根据地的决心。
红二十四军如火如荼的革命活动，苏维埃阜平县政府的出现，如晴天霹雳，震惊了冀晋大地，震惊了整个北方，它像一把利刃插入了敌人的心脏，国民党反动派不寒而栗，惶惶不可终日，在很短的时间内，北平、天津的《益世报》竟连篇累牍地发表消息报导、社论等文章40余篇。他们惊呼这是“江西第二”、“北方之朱毛”。天津《益世报》在一篇题为《高部变兵，急应剿灭》的社论中这样写道：“高部兵变，一部首开其端，他部不难步其后尘。而窜人太行，则其形势较之江西广昌宁都，尤为险要……太行山脉，蜿蜒千里。北可经蔚县入宣大，横截平绥一线。南可出井陉，掠石邑，斩断平汉要冲。下临则易定可取，远征则平蓟可窥……假使有共军千人，则不久即能满万。候其羽翼养成，则包围无所施，窜扰不及防。较之江西，有过之无不及也。故吾人于高部变兵之深入冀境认为情势已极为严重。张副司令（指张学良）统兵华北，有维持治安之责，即应迅派大军，相机剿灭，以免贻害于将来。”
