宣德二年（1427），于谦奉敕以监察御史之职巡按江西。
协管左军都督府，在京锦衣、府军右、留守左、骁骑左、骁骑右、龙虎、龙虎左、大宁中、义勇前、义勇后、英武、水军左十二卫，晋府长史司，及直隶镇江、太平两府，镇江、建阳、沈阳中屯各卫，平定、蒲州两千户所。
于谦启程的时间当为宣德二年（1427）的农历二月，虽然北方仍然是春寒料峭，但是南方春光明媚，杨柳吐芽，这是一个充满着温暖和希望的季节。胸怀期待和激情，于谦以《二月三日出使》诗记录了当时的兴奋和拯世济民之心：春风堤上柳条新，远使东南慰小民。
千里宦途难了志，百年尘世未闲身。豺狼当道须锄殄，饿殍盈歧在抚巡。自揣匪才何以济，只将衷赤布皇仁。
尽管从明代开国到于谦巡按江西的这段时期，国家的生产力一直处于上升的态势，但是于谦诗歌中描述的“饿殍盈歧”的惨状仍然不可避免地存在。首先，土地兼并使得百姓丧失土地和家园，饱受流离失所之苦。
贪官奸吏是古代社会永远无法根除的社会毒瘤，也是百姓苦难生活的根源之一。出身贫寒的朱元璋对贪官污吏有切肤之痛，因此他十分重视吏治的整顿，严禁各级官吏玩忽职守，蠹政害民，并用严刑峻法惩治贪官，毫不手软。洪武十五年（1382）的“空印案”波及全国，因受此案牵连被杀的官员有数千人之多。洪武十八年（1385）户部侍郎郭桓以盗卖官粮七百万石被杀，受此案牵连被杀的有几百名官员、地主、商人等。
朱元璋对贪官污吏的惩治之严酷乃至凶残也是历史罕见的，这些反贪政策对整顿吏治起到了一定的作用，但是仍难以根除贪污腐败，因为没有另一种力量监督统治阶层，只靠自我约束是不可能的。在皇权专权体制下，腐败不可能根除。到仁宣时期，明初严急的政策趋于缓和，贪官奸吏有所抬头，这也就是于谦所说的“豺狼当道”了。兼之明前期经济繁荣、社会稳定，君臣们陶醉于天下升平的景象，他们奢华的享乐生活自然是以百姓的苦难为代价的。
于谦注定是为拯救百姓和国家而生的。他的目光穿过了“仁宣之治”的繁华表象，关注到了那些沉溺于歌舞升平的大臣们视野所不及的社会危机和人民的深重苦难。在臣僚们的莺莺歌乐之外，于谦听到了赋税重压之下或是自然灾害肆虐之后农夫村妪的深长哀叹和处于饥馑中的婴儿的凄厉啼哭，听到了监狱中冤屈者的幽怨悲鸣……哪怕是以一己之单薄的力量，于谦希望能够解救他们，认为这是上苍赋予给他的职责。
当时，江西布政使司的最高行政机关为承宣布政使司、提刑按察使司、都指挥使司，三司分别由中央直接节制，分权而治，互不统属。承宣布政使司掌一省行政事务，设左、右布政使各一人，官秩为从二品；设左、右参政若干名，官秩为从三品。提刑按察使司掌一省刑名按劾之事，设按察使一人，正三品；设副使若干名，正四品。都指挥使司掌管一省军事，负责管理所辖区内卫所，以及与军事有关的各项事务，为平时地方最高军事领导机构。设都指挥使一人，正二品；都指挥同知二人，从二品。而于谦虽然身为巡按，但是品秩仅为正七品，于谦要面对的是品秩远远高于自己的那些官员。
其次，是那些豪强，其中最强者莫过于皇族宗藩宁王府。宁王朱权（1378～1448），明太祖朱元璋的第十七个儿子，洪武二十四年（1391）受封。就藩巨镇大宁（辽宁锦州），大宁在喜峰口外，东连辽左，西接宣府，为军事重镇。朱权挟兵甲八万，革车六千，数次会诸王出塞，在众多兄弟中以善谋著称。建文元年（1399），朱允炆怕他挟重兵与另一个强悍的叔叔朱棣共同谋逆，于是派人召他到南京，这个朱权和他的哥哥朱棣一样不把懦弱的侄儿皇帝放在眼里，拒不受命，于是被削去三护卫。朱棣见这个弟弟很有智谋，为可用之人，就设计将其挟入燕军，为己所用。朱棣发动“靖难之变”，为了拉拢弟弟，许诺朱权事成之后与他中分天下。朱棣登基后，朱权知道，哥哥当初的许诺已经不足为信了，甚至还会成为祸根，于是知趣地乞封南土，自请苏州、钱塘等，朱棣都借口不允，终于在永乐元年（1403）的二月改封南昌，这一去就是二十二载。直到朱棣驾崩，朱高炽即位，朱权认为自己的亲侄儿会顾念自己协助靖难之功和长期偏居南国之苦，于是以南昌非其封国，奏请改封，然而亲侄儿驳回了他的请求，他只能继续待在远离京城的南昌，直至正统十三年（1448）终老于此。宁王府作为皇族宗藩成为江西的最大势力，根基雄厚，盘根错节，难以撼动也很少有人敢于撼动。到了明武宗正德十四年（1519）第五代宁王也就是朱权的五世孙朱宸濠，集众十万，起兵南昌反叛，史称“宸濠之乱”，被著名儒帅王阳明平定，宁王之藩被除，这是后话。
一到江西，于谦就着手兴利除弊。其中最能体现于谦至刚大勇的是对江西宁王府的挑战。宁王朱权府中官属素来恃势骄横，为害一方，常借“和买”之名，掠夺商民的货物。“和买”是唐代以后以购买为名的一种变相赋税，宋代极为盛行。宋太宗赵匡义一朝春季将库钱贷给农民，夏秋间令农民以绢偿还，名为“预买”。北宋仁宗年间，官府买绢以钱三盐七作价，实际给价极少。哲宗时已演变成重利盘剥。宋徽宗时，盐、钱皆不支给。南宋初令和买绢折钱缴纳，名折帛钱，成为田赋附加税。元朝“和买”成为民户负担的重赋。明朝开国后，朱元璋规定不准以“和买”扰民，但商铺仍有供应义务。
但是，宁王府倚恃自己的特殊身份，骄纵不法，常常以“和买”为借口，豪夺商民，对胆敢争论者，就扭至王府，乱打致死，江西商民在王府的暴虐之下，忍气吞声，不敢稍作抗争。而江西布政使司、按察使司等衙门却慑于王府威势，没有人敢挺身而出，阻止并惩治王府对商民的豪夺，官府的懦弱纵容了宁王府的骄横，于是愈演愈烈，成为江西的一大祸患。
于谦深知，此害不除，就遑论澄清一方吏治，因此，就策略而言，于谦巡按江西的第一把火就必须烧向宁王府。于是他明察暗访，查清事实，逮捕了近二十名宁王府官属中骄纵不法者，将其定罪，并立碑垂戒。于谦此举的意义在于敲山震虎，也给江西百姓出了长期郁结在心头的怨气，于是，颂声满道。那些贪官奸吏和豪强歹徒见于谦连宁王府都敢于得罪，自然缩气屏息，再不敢胡作非为，于是于谦趁热打铁将诸多扰民害民之举革除殆尽。
于谦所做的另一件为江西人民所称颂的事情是，“清理积案，雪冤囚数百人”，数百人至少是数百个家庭，以此推算，于谦堪称造福一方，功德无量，无怪乎江西人感戴于谦，称之为“神明”。当时有一个平民被仇人诬为强盗首领，匪首之罪轻者死刑，重者满门抄斩，然而毕竟属于诬陷，控方拿不出证据，因而就搁置起来，久悬未决。于谦阅读旧卷，觉得事出蹊跷，何况事关人命，于是仔细勘查，终于查明被告者属于冤枉，并追究诬陷者之罪。
于谦巡按江西的时间约为两年，他的目光始终注视着处于社会最底层的广大民众，他轻骑简从，足迹踏遍江西的每一寸土地，寻访了无数的父老乡亲，清理了众多的积案，解救了那些备受冤屈而无望的人们。他澄清吏治，革除扰民之举。他对宁王府的抗争让江西百姓看到了正义所在。江西百姓奉祀于谦生主于郡学名宦祠，这是对于谦的最大回报。
宣德四年（1429）于谦巡按告竣，返京复命，于谦继续履行着监察御史的使命。但是，一个七品御史，史料中相关的资料自然不会多，然而留下的零星记录也足以体现于谦为官的品德。
一则记录是“率锦衣卫官校查缉长芦一带马快船之夹带私盐者，不避权贵，置之以法，河道为之肃清”。明朝为了确保国家的经济收入，和以往的王朝一样对盐、茶等实行垄断经营，而且第一次将“盐法”、“茶法”纳入国家正式法典。《大明律》首次设立“盐法”及“私茶”专条，确立国家对盐、茶经营的垄断地位。明代中央管理全国盐务的机构为户部，地方管理盐务的机构为转运盐使司（简称转运司、盐运司、盐司）和盐课提举司（简称提举司）。洪武初在全国产盐地设六个都转运盐使司，即两淮、两浙、长芦、山东、福建、河东。还设七个盐课提举司：广东、海北、四川、云南黑盐井、白盐井、安宁盐井和五井。下设分司、盐课司等管理机构。政府核定各地岁办盐课的定额，一直落实到灶户。灶户所缴纳的盐课称为“正盐”，缴纳完盐课多余的部分称为“余盐”。所有余盐也要交给政府，以二百斤为一小引（大引为四百斤），官府支给工本米。明初，盐课的数额“仍依旧额（即元朝的定额）”，但是此后进行了多次调整，定额不断提高，到洪武末，全国盐课定额总数为“大小引目二百二十余万，解太仓银百万有奇，各镇银三十万有奇”。盐课在明朝政府的财政收入中仅次于田赋。明律规定，盐商必须经过法定手续，取得官方发给的专卖许可证即“盐引”方可经营，否则构成私盐罪。凡犯私盐罪者，处罚杖一百并徙三年；若有军器，罪加一等；拒捕者立斩。即便是买食私盐者，也要杖一百；如果买后又转卖者，杖一百并徙三年。国家鼓励百姓告发私盐犯和私盐犯自首，并且严厉打击倒买倒卖盐引和盐货的商人。灶户如果将余盐夹带出场及货卖的处以绞刑。如此峻法就是为了确保国家的财政收入不受丝毫损减。
位于渤海岸边的长芦盐场自古以来是中国主要产盐区，所生产的盐就是著名的“长芦盐”。当时，长芦一带常常有官吏借为皇家运送物品之机私自夹带盐出售，牟取暴利，由于违法夹带者常常是那些握有重权的人，所以有司不敢对其有所整治，致使其日渐蔓延，成为国家盐法顺利执行的一大障碍。
宣宗朱瞻基决定惩治这一腐败现象。他必须选择一个公廉能干、敢作敢当的人，朱瞻基再一次选择了刚完成巡按江西使命回到朝廷的于谦。步入官场两年多的于谦已经初尝官场的险恶莫测，但是他仍然不懂得圆滑。他顶住压力，查清以马快船夹带私盐的官吏，肃清了河道。
另一则记录是“疏奏陕西等处官校为民害”。陕西等处官校行为放纵，不自约束，扰害地方，百姓苦不堪言，当于谦把这一状况上奏朝廷，明宣宗立即遣人查捕那些不法官校。
于谦就是这样坚守着为官的准则和道德。
