回到莫斯科的彼得很快来到普列奥布拉任斯科耶皇村，闻听消息的领主们纷纷前来拜见。宴席间，彼得突然拿起大剪刀剪起了领主们的大胡须。这些领主们在猝不及防的情形下马上失去了威风八面的胡须。这还不算完，没过多久，“彼得帮”内所有人都露出了光秃秃的下巴。
对于人们的不满，彼得不予理会，他认为改革要先从人们的精神面貌、思想观念改起，与那些高贵文雅的西欧人比起来，俄国人的大胡子实在有碍观瞻，而且已经成了因循守旧的象征。彼得当然知道自己的民族有着崇拜胡须的传统，所以，他将全民剪须作为命令颁布全国。《剪须令》明确规定剪胡须是所有俄国人的义务，若拒不屡行该义务，则须交纳保须税。
胡须没有了，人们以为彼得可以放下剪刀了，可他们万万没想到，彼得的剪刀又向他们的宽袍长袖伸过来。在一次各权贵参加的宴会上，彼得手拿剪刀挨个儿给来宾剪掉袍袖。彼得还命人把更改服装的敕令贴满全国的各个角落，敕令规定俄国男子统一穿着短上衣、长腿裤，戴法国式礼帽，穿长靴或皮鞋；女子则须穿裙子，戴高装帽，穿欧洲样式的皮鞋。
剪胡须换服装之后，俄国人在精神面貌上与西欧人日益接近，彼得此时又做出了令保守派大跌眼镜的事情。从西欧回来没多久，彼得便把皇后叶芙多基娅送进了苏兹达尔修道院，从此，昔日皇后变为叶莲娜修女。在彻底了断了这段母亲一手安排的婚姻后，1711年3月，他娶农奴之女玛尔塔为皇后，并为其改名为叶卡捷琳娜·阿列克谢耶芙娜。
从索菲娅发动政变时起，射击军一直是彼得心头隐患。于是，彼得命令将全部射击军叛乱分子押回莫斯科，派亲信大臣连日审讯，他自己也不时出现在审讯室内。在彼得的暴怒与严令下，案件审理从1698年9月17日一直持续到1699年2月，最终有799人被推上绞架或斩首，而且有一半人数并未受审便送了命。射击军其余人等及其家属或遭判刑或被流放。至此，射击军彻底从俄国军队中消失。就在首都人呼吸着浓郁的血腥气味时，彼得还提审了被关在新圣母修道院的索菲娅。虽然一切努力都没能使她遂了彼得心愿——承认自己与射击军有关联，但彼得还是强令她改名为苏珊娜嬷嬷，不准许她步出修道院半步，而且截断她与外界甚至是家属的一切联系。
射击军既除，彼得又将目光转移到教会势力上。一直以来，俄国的东正教都有自己的封地、农奴以及一套独立的教会法律，牧首、大主教和各地区的主教在封地内俨然一国之君。而且，教会成员鱼龙混杂、思想守旧，与彼得推行新政时有矛盾产生。彼得每欲根治教会弊病，但念在教会的确给仍未开化的俄国人民以宗教信仰的寄托，所以一直没有对其大加讨伐。现在，他决定使教会彻底服从于皇权统治，剥夺其染指世俗事务的权力。
1700年12月，莫斯科大主教阿德利安去世，彼得没有同意这位保守派人士生前选定的继承人赴任，而是委任凉赞教区主教雅沃尔斯基为“圣座御前守护者”，并且将其职权限定在处理教会日常事务范围内。1721年，彼得彻底废除牧首制，以沙皇直接管辖的“神圣教务委员会”取而代之；同时，彼得还设立国家宗教事务局，起用支持新政的教会人士管理国家宗教事务。改革后的教会，真正被纳入皇权统治之下。这之后，彼得还以法令的形式颁布《宗教事务管理条例》。按此条例，修道院再无买卖土地的权力，教会人士必须通过劳动来获取薪俸，而且，他们的子女也只有在通过拉丁文测试后方能接任神职。
在将铁腕对准旧势力的同时，彼得亦掀起了从中央到地方的全国政治体制改革。1699年，彼得设立“近臣衙门”，其成员皆为彼得亲信，他们将原本由贵族杜马掌管的国家大事接手过来，从而使贵族杜马有名无权。彼得对贵族杜马仍不放心，他随后又设参政院，其下设12个院，分管国家各领域大事。彼得和他的参政院成为贵族杜马的终结者。为确保新体制运行万无一失，彼得在参政院建立监察署，专门负责监督12院的工作进展以及各级官吏的能力及作风。
中央的政治体制改革完成后，彼得下令在全国重新划分行政区，分为11个省，由沙皇直接任命的各省总督为最高长官，集全省司法、行政和军事大权于一身，直接向沙皇汇报工作。彼得同样在总督们身边安插了“监视器”——参议会。省以下是州，全国共有50个州。除这两种行政区外，彼得还在外省设立地方自治署，由市民和商人代表组成，负责当地的税收及维持治安等工作。
彼得大帝的监察署
监察署直接对沙皇负责，堪称沙皇安装在参政院的监视器。有一次，彼得被告知他一手提拔的诺夫戈罗德省首席法官收受贿赂，他便问其原因。那位法官说是因为自己的薪俸不够养家万般无奈才犯下渎职罪，彼得问他需要多少薪水才够养活家人，并且立即满足了其要求。同时，彼得郑重警告他不得再犯错误，否则定当不饶。此事体现了彼得改革中循循善诱的一面。可惜的是，这位法官后来又犯了罪，终送了性命。
与新体制相配套的人才选拔也颇具新意。彼得亲自拟订《官秩表》，确定宫廷、民政、军事三类官吏，三类中各自又从上到下分出14个等级，各级官员无论出身贵贱均唯才是用。这样，彼得新法便打破了过去的贵族世袭制，而且将一大批新式人才聚集到自己身边。几年下来，从中央到地方，彼得建立起沙皇专制统治、各级官吏职权分明有序的新式政治体制。
1699年12月，在即将除旧迎新的岁末，彼得敕令全国，采用西欧国家通用的“尤利安历法”，也即新的一年将从“耶稣降生之日”的1月1日算起，而不再是过去的9月1日起。更改历法之举，开启了俄国与西欧各国交流的新纪元。
