7月17日，在处理完俗务之后，路德叩响了埃尔福特的布莱克（Black Cloister）修道院的大门，请求接纳他。如前所述，该城拥有分属众多修会的修道院，但是路德却选择了以苦修和虔诚而闻名的奥古斯丁修会的这家修道院。路德要想正式成为修士，还需要顺利通过严格的考验期。路德被安排在一个小房间，他这段时间的工作就像修道院的修士们所说的那样是“哭泣，静默和静养”，反思自己的抉择，其他修士也会观察他。
过了这段考验期，路德被认为适合修道院的生活，于是，修道院举行路德正式入院和受戒的仪式。仪式非常严肃庄重，院长站在祭坛台阶前，而路德则伏拜在台阶前，院长庄严地问他：“你渴慕什么？为何至此？”路德坚定地回答：“我渴慕上帝的恩典和怜悯，我要与你们结成志同道合的密友！”接着路德回答诸如是否结婚，是否背负债务，是否患有隐疾之类的问题。在听到路德对所有问题做出令人满意的回答之后，院长最后再次问：“你渴慕什么？”路德回答：“上帝的恩典和怜悯！”此后，院长就向路德宣读修道院的诸种亲规戒律，诸如弃绝私欲，饮食穿着要节俭朴素，彻夜无眠的祷告等等。在表示愿意遵守这些律条，说“仰赖上帝的帮助，我愿意接受脆弱之人所能背负的一切”之后，路德接着双膝跪地，剃发，院长给他披上见习修士的僧袍，然后吟诵：“主啊！垂听我们衷心的恳求，俯允赐福你面前的仆人，奉你的圣名，我们给他披上僧袍，好叫他在你大能的帮助之下得以忠于教会，仰赖主耶稣基督的怜悯得以承受永生，阿门！”他也祝福路德：“我们的主已经将你穿戴成新人，你就是在正义和真理的光照下按照上帝的形象造出来的新人了。”最后，路德俯伏在地，双手伸开，成一十字架，表明他跟随基督，做出牺牲。众弟兄上前给他平安之吻，院长则再次训诫他：“只有忍耐到底，才能获得救恩。”
路德此时尽管离弃了家人，放弃了美好的前途，但是非常满足，因为他相信自己找到了正确的救赎之道，认为虔诚持守修道院的那套修炼之法，譬如禁食、彻夜祷告，他就能取悦上帝，赚取救赎。他确实是一名虔诚的好修士。为了获得灵魂的救赎，他严格遵循修道院的一切戒律，大部分时间都用在背诵经文、崇拜和默想上，每天祷告七次，时时提醒自己认罪悔改。作为见习修士，他还要出外乞讨，以维持生计，并以此蒙羞来保持谦卑之心。路德在修道过程中所表现出来的虔诚和高洁的道德品质使得他不久之后就结束了见习期，正式成为修士。但是对路德而言这只是意味着他的修炼需要更加虔诚和深入。
路德的修炼远远超出了修道院的规定。他不断地守夜祷告。他在禁食上也非常严肃，三天不喝一滴水，不吃一口饭，按他自己的说法“几乎禁食致死”。在冬天，当地极其寒冷，几乎滴水成冰。但是为了取悦上帝，他甚至在祈祷时脱去衣服，掀掉自己的毛毯，以至于他身体冻僵，几乎冻死过去。他的苦修和严谨在修道院是出了名的，以至于他后来敢说：“如果有修士因为修道而进入天堂，那么，我一定在他们之中。”不过，正像路德接着说的那样，“如果我继续过这样的生活，那么，我将因为守夜、祷告、读经以及其他工作而丢掉性命。”他的近乎自虐的生活严重危害了他的健康，这种生活留下的危害在他晚年时会更鲜明地显现出来。不过，路德当时并不在乎这，因为这正是他想要达到的效果。既然拯救灵魂就是要取悦上帝，而取悦上帝就要靠自己的善工和虔诚的行为，那么，即使付出再大的代价，乃至生命，也是值得的。但是每次当他完成了戒律所规定的事项之后，他总是对自己所行的感到怀疑，认为自己做得还是不够，于是又重新来过，更加克己，依此循环。不过，令路德万分沮丧的是他意识到作为严厉的审判者的上帝根本不会将救恩施舍给他，因为人与上帝之间有无穷的距离和隔阂，他再怎么凭靠己力苦修都无法符合上帝的要求，取悦于上帝。路德就这样处于相信苦修终能赚取救赎以及随后怀疑它是否奏效的折磨之中，“试炼”（Anfechtung）一词准确地描述他此时所处的焦虑和绝望的状态。
1507年5月，路德被按立为神父，不久之后就获准主理他的第一堂弥撒。按照罗马教会的教义，在圣坛上，被祝圣过的饼和酒发生了变质，成了基督的身体和宝血，而使这一切发生的是主理的神父，弥撒是神父向天父献祭，这样可以取悦上帝，得到恩典。虽然主理弥撒对神父而言是一件无上荣耀的事情，但是对他有极高的要求。在主理之前，他们需要先告解悔罪，在罪得赦免之后才能主理。在主理过程之中，要严格遵循仪式规范。因为基督以肉身的形式出现，这使得这项仪式异常严肃，神父往往因为紧张、担忧和恐慌而出现错漏，无法将弥撒继续下去。因此，典礼手册安慰神父，说圣礼的有效只在于正确的信念，主理过程中出现的一些错误并不是致命的罪，事后忏悔即可，绝不能因为罪恶感深重而跑开，中断弥撒；同时，教会一般会安排有经验的年长神父帮助初次主理的神父。
初次主理弥撒的神父往往极其害怕，路德的情况尤为严重。他极其虔诚，总是感觉自己卑微渺小，“只是尘土，充满罪恶”，他何以能够举目观看尊贵的上帝，举手向他祈求？既然在遇见地上的君王时他都会惊恐战栗，那么，在面对以严厉的审判者的姿态出现的上帝时，他如何敢说话呢？尽管他在主理弥撒前已经虔诚地悔罪，但是在圣坛上，当念到“我们要将一切敬献给您，又真又活的永恒上帝”时他被震慑住了，几欲逃走，他祈求一旁协助他的院长，说自己恐怕得离开圣坛。但是院长勉励他坚持下去，甚至不得不向他吼叫：“开始吧，快点！快点！”路德全力控制内心的恐惧和担忧，艰难地坚持下来。当他说耶稣所说的话语“这是我的身体”和“这杯是用我的血所立的新约”时，他差点将饼和杯掉到地上。
弥撒完毕之后，神父和会众聚餐庆祝。汉斯也赶来参加儿子主理的弥撒。为了让父亲来参加，路德一度推迟了主理弥撒的时间。汉斯虽然不满儿子的决定，令自己筹划好的计划泡汤，但是进修道院侍奉天父的呼召高于他这个尘世的父亲的权威，他对此无可奈何，况且想到另外两个儿子早逝，马丁能平安活着也是一种莫大的安慰，因而他带着亲友欣然前来，并捐赠给修道院一笔钱。
在餐桌上，因刚才与严厉的天父接触而惊魂未定的路德试图从久未见面的父亲那里获得一些安慰和对他做修士的认同，他对老汉斯说：“亲爱的父亲，您从前为何反对我做修士呢？或许现在您仍然有些不满，但是修士的生活却是那么平静和神圣。”老汉斯再也按捺不住，积压的愤怒喷涌而出：“你这位有教养的学者难道没有读过《圣经》教导人孝敬父母吗？而你却让我和你母亲在年老体衰之时自己照顾自己。”路德对老父亲的愤怒感到惊诧和不安，辩解说他在修道院祷告能够给二老带来更多的好处，这是他做律师不能办到的，还以改变命运的那场雷暴雨证明自己的选择只是听从上帝的呼召而已。老汉斯毫不客气地回敬说：“求上帝保佑那不是魔鬼的呼召！”
老汉斯并没有原谅路德所做的选择。不过这里也体现了路德的性格，他很自信，特别是在信仰问题上，哪怕是面对敬爱的父亲，他也会坚持己见，这一点在他后来发起的那场惊天动地的运动中起到了至关重要的作用。但是老汉斯的话也刺痛了路德的灵魂，这倒不是因为他怀疑自己的选择，而是因为他无法坦然面对上帝。既然这位令人敬畏的上帝呼召他去修道，为何他尝试了各种方法却不能坦然面对他，不但没有享受平安和喜乐，相反却饱尝焦虑和绝望呢？他总是感到自己与上帝异常隔膜，再怎么虔诚苦修也总是罪孽深重，难逃上帝的审判和惩罚。路德后来描述他当时的矛盾心理：“恐惧使我走向绝望。上天堂无路只有死亡，地狱不得不前往。”是自己寻求上帝的方法不对，抑或呼召他的一位真像父亲所说的那样根本就不是上帝，而是撒旦伪装的？这确实是个问题。要解决疑问，路德还需要开阔视野，不再只是苦修，而是要系统学习和体悟，深入反思各种得救之道的得失，进而获得真道。
