1880年12月31日，乔治·卡特利特·马歇尔出生在尤尼恩敦。他是家中最小的孩子，上面有一个哥哥和一个姐姐。老马歇尔是一家焦炭熔炉公司的董事长，在宾夕法尼亚拥有富煤矿。
马歇尔小的时候学习不好，考试总得最后一名。他后来承认，9岁时他便认定自己注定是“全班的劣等生”。父亲对他很失望，常用柳条鞭管教他。但这也未能使他的学习成绩好起来。
老马歇尔对军队情有独钟，希望儿子能成为军官。聪明的长子似乎可以实现父亲的梦想，他以优异成绩考进著名的弗吉尼亚军校。但他志不在军队，毕业后却改行到一家钢铁厂当了化学师。父亲只好将希望寄托在小儿子身上，可小儿子不成器。这么愚钝的孩子能考上一所象样的军校吗？
这时，马歇尔突然雄心勃发，一再要求父母送他到哥哥的母校弗吉尼亚军校。他后来承认，他如此想上军校，并非因为喜欢军队或想穿上军装出出风头，而是因为要胜过他那个自命不凡、百般嘲笑他的哥哥。
1897年9月，16岁的马歇尔进入弗吉尼亚军校。他刚入校，便受到老生的“考验”。老生按例让他在地板上悬蹲10分钟，正下方固定着一把刺刀。他刚患过伤寒，身虚体弱，没坚持几分钟便坐到刀尖上，臀部受伤，血流如注。他被抬到医务所急救，但始终未说出受伤的缘由。他的行为赢得大家的赞许，他受到尊敬，在军校站住脚。
马歇尔渐渐喜欢上军校生活。他一年级结束时当上伍长，两年后升为队长。校内举行的所有重大仪式，他都担任学生指挥。他声如洪钟，面色威严，发号施令极具威慑力。
1901年，马歇尔以名列第8的优异成绩毕业于军校，年底进入陆军，次年受领陆军少尉军衔并被派往菲律宾。行前他与相爱的美丽姑娘伊丽莎白·科尔斯卡特结婚。新娘患有心脏病，未能与他同行，留在了国内。
这时菲律宾驻有美军3万5千人，维持某种“和平”，战事已缓。年轻的少尉服役两年，没有参加战斗，但经历了丛林环境和疫病的考验。他的老成持重和公正无私很受上级赞赏。
1903年夏，马歇尔回到美国，被派往俄克拉何马地区的雷诺堡。妻子身体不好，仍不能与他同行。马歇尔在雷诺堡的出色表现受到上级注意。1906年他被选进利文沃思堡进修班进修。进修学员都是上尉以上的军官，他是唯一的少尉。一年后他以名列第一的成绩获得继续深造的资格。这时，妻子搬到利文沃思堡与他同住。但是疾病使她无法与丈夫过正常的夫妻生活，也无法生育。虽然如此，马歇尔与妻子一直相亲相爱，外人以为他们的婚姻生活完美无缺。
不久马歇尔晋升为中尉。本世纪初美国军队晋升机会极少。马歇尔带着这个军衔一直干到1916年。这时他已36岁，当了14年军官，换过几处驻地，两赴菲律宾，两进国民警卫队。无论在哪里，他都得到上级夸奖。他肯吃苦，精通兵法，足智多谋，忠诚可靠。但他仍是一个中尉。他的上司哈古德将军1916年在有关军官能力的报告中写道：“马歇尔理应在常规军中任准将职，推迟一天任命，军队和国家就遭受一天损失。”但是，提升军官委员会只是任命了马歇尔上尉职。
1917年4月6日美国向德国宣战，站在协约国一边参加了已延续三年的第一次世界大战。塞伯特将军组建陆军第1步兵师，调任马歇尔任参谋部临时中校衔参谋。第1步兵师在潘兴将军的美国远征军编内，最先在法国登陆。
在法国前线，作为师参谋部参谋，他的任务是向师指挥所报告前沿阵地的情况，检查部署和给养状况，维持部队士气。他执行任务一丝不苟，大部分时间是在前沿战壕里。他常常一人徒步巡视阵地。他渐渐习惯了炮火，学会了放开胆子赶路。听到炮弹的呼啸，他会本能地卧倒在泥地上。他也象其他战士一样，最害怕一件事，那就是不知哪颗炮弹会把毒气撒在自己身上。
马歇尔因在前沿阵地表现出色，被提升为临时上校，并调入设在肖蒙的美国远征军总参谋部。
1918年11月，第一次世界大战以德国战败而告终。美国远征军总司令潘兴成为美国和欧洲的英雄。马歇尔被调到这位总司令的身边，当他的助手。他陪潘兴在巴黎参加了一系列的庆祝活动。
在巴黎热热闹闹地过了10个月，1919年9月1日，马歇尔随潘兴将军凯旋美国。得胜回朝的将士们受到一片热烈的欢迎之后，一切归于平静。马歇尔战时临时上校被取消，仍当他的上尉。他留在了潘兴手下任职，不久晋升为正式少校。这次晋升并未使他高兴，只是使他感慨，他当了整整18年的军官，还只是少校而已。
1921年8月，潘兴将军出任陆军参谋长。马歇尔作为首席助手随他到华盛顿赴任。这次他又升了一级，领中校军衔。1923年潘兴任满离职。马歇尔决定到野战部队任职，以充实自己。1924年秋，他被派到美国驻中国天津的第15步兵团，任副团长。1926年底，他被任命为陆军学院教官，返回华盛顿。1927年11月，他的妻子病逝。
本宁堡步校是美国陆军最大的军事学校，坐落在佐治亚州哥伦布市数英里之外。马歇尔是出色的教官，能够三言两语概括复杂的军事问题。他对学员要求很严格。他督促他们，鼓舞他们，激发他们的热情。从步校出来的许多出类拔萃的将领都把自己日后得以攀上军阶高峰归功于马歇尔。马歇尔在步校建立了一个学员档案，把他认为有才华的青年军官的名字一一记在上面。后来马歇尔担任陆军参谋长之后，这个档案便成了无价之宝，他常据此选派指挥官。
1932年底，马歇尔调到斯克雷文堡带兵，随后又被任命为伊利诺斯州国民警卫师的师长。1936年8月，55岁的马歇尔由中校正式晋升为准将。
1938年夏，马歇尔准将被任命为陆军部副部长。1939年9月1日，罗斯福总统任命马歇尔为陆军参谋长，正式授予他少将军衔，暂领上将军衔。他上任的第3天，9月3日，第二次世界大战爆发。
第二次世界大战爆发后，美国没有马上参战。国内有人主张全力避免战争，有人主张积极参战。马歇尔将军认为，无论愿意与否，美国必然要卷入战争。而他作为陆军参谋长，积极备战更是责无旁贷。他支持罗斯福总统的援英战略。他认为英国人是在为美国赢得准备时间。
1941年12月8日，日本袭击珍珠港（参见珍珠港战役），太平洋战争爆发，美国终于卷入战争。
珍珠港事件使许多军队领导人受到处分，但对马歇尔的职位未造成影响。他受到质询和责难，但没人想到要撤换他，也不再有人对他就美国参战的主导设想表示异议。
为了适应战争，马歇尔上任不久便着手对军队进行了整顿。他提出一长串应当退役的军官的名单。这些军官并非无能，而是因为年事已高，思想大多囿于第一次世界大战的经验，甚至有人还用美西战争时期的方式思考问题。马歇尔认为应该是吐故纳新的时候了。他自己也提出要辞去职务，因为他与被自己开革的大多数军官是同代人。他向总统明确表示，自己这个61岁的老人理应让位给后来人，他们能更好地应付美国面临的挑战。总统批准了马歇尔所列的退伍军官的名单，但坚决留住了马歇尔。
马歇尔需要精力充沛、年富力强的军官填补空缺，但遍数全国各个驻地，这样的军官并不很多。这时马歇尔的那个档案发挥了作用。档案里又添了一些新名字。其中有年轻的上校艾森豪威尔。他在路易斯安那州的模拟战中是第3军参谋长，曾展现出卓越的策划才能，大挫对手的锐气。第3军军长克鲁格将军称他“目光远大，不拘陈规，对于军一级指挥问题的重要性具有深刻了解，积极主动，足智多谋”。由于艾森豪维尔表现出色，克鲁格建议给他晋级。马歇尔观看了路易斯安那州的演习，对艾森豪维尔印象至深。回华盛顿后，他立即保荐艾森豪维尔升任准将，并将他调到自己的作战处任副处长。
巴顿在马歇尔的档案上也榜上有名。马歇尔对他的评语是：“乔治带兵所向无敌，无往不胜。但要紧紧勒住他的笼头。”1941年马歇尔让他指挥了一个装甲军团。后来巴顿带兵打仗，屡立战功。
1942年初，美英两国商定在北非登陆，打击德军。马歇尔为这次代号“火炬”的战役进行了积极准备。他指派艾森豪维尔将军出任盟国北非远征军总司令，全权指挥这次战役。他与艾森豪维尔商量，选中乔治·巴顿指挥美军特遣队在卡萨布兰卡附近登陆。同时，他还把奥马尔·布莱德雷推荐给艾森豪维尔。
沉默寡言的布莱德雷很快便证明他是美军有史以来最富才干的将领之一。他曾是艾森豪维尔的同班同学，在本宁堡当过马歇尔的下属。马歇尔极其赞赏布莱德雷的指挥才能，曾打定主意，一旦美军发动大规模战役，即委以重任。后来艾森豪维尔很快就将第2军交给了布莱德雷。再以后布莱德雷指挥了越来越多的军队，为打败法西斯德国立下赫赫战功。
1942年7月下旬，美英两国联合参谋长委员会开始在伦敦拟定“火炬”作战的具体方案。经过长时间的争论，并在罗斯福和邱吉尔的干预下，于9月20日达成一项折衷方案，确定在摩洛哥的卡萨布兰卡和阿尔及利亚的奥兰、阿尔及尔3处同时登陆。登陆日期最后定于11月8日。
英美军按期于11月8日天始实施“火炬”登陆作战计划（参见北非登陆战役）。登陆成功。经5个月的激战，盟军于1943年4月9日集中优势兵力发起总攻。英军第8集团军自南向北进行突击，美英联军自西向东发动进攻，经过18天的战斗，于5月7日分别攻占了突尼斯城和比塞大港。被挤压在这一地域的25万德意军队走投无路，于5月13日投降（参见突尼斯战役）。至此，德意在北非的部队全部被肃清，非洲战场的战事以美英的最后胜利而结束。
美英盟军在北非登陆之后，美英两国便开始考虑下一个主要战略行动方向了。1943年1月14日至24日，罗斯福与丘吉尔率两国军事首脑在卡萨布兰卡举行会议，商讨军事战略问题。马歇尔将军极力主张横渡英吉利海峡，从法国北部攻入欧洲大陆。丘吉尔不同意。会议未能就此作出决定，实际是将进攻西欧的计划推迟实施。会议最后决定以在西西里登陆为最近作战目标。
1943年7月10日，盟军在西西里登陆（参见西西里战役），8月中旬占领全岛。随即向意大利本土进军，很快进逼罗马，在纳粹控制的欧洲取得立足点。但是盟国决策者和一般公众在想到光复欧洲时，并不是把目光放在地中海地区，而是着眼于法国、荷兰、比利时等国，以及德国本身。大家都知道，只有英美联军横渡英吉利海峡。在法国登陆后，导向最后胜利的大反攻才算真正开始。也正是基于这一简单而正确的认识，马歇尔将军一直主张排除对其他因素的考虑，尽可能早地渡海登陆西欧作战，全力消灭德军。
1943年12月，罗斯福、丘吉尔和斯大林在德黑兰会议上最终商定，于1944年5月由美英军队在法国北部诺曼底地区登陆。这次登陆战役的代号定为“霸王”。
人们普遍认为，指挥“霸王”战役的盟军最高司令一职非马歇尔将军莫届。马歇尔将军已是众望所归的人。此际，美国陆军的步兵和航空队同时活跃在世界的六大战场，战线极长，但是由于马歇尔在华盛顿指挥得力，对各路人马的状况、需求、配备和军务缓急了如指掌，应付自如，协调有致，为美军的不断胜利创造了良好条件。
为表彰马歇尔的功绩，美国众议院和罗斯福总统曾打算特设陆军元帅一衔授予他。但是马歇尔拒绝了。他努力实干，不务虚名。此举博得许多人喝彩。美国著名作家塞瓦赖德在一次著名的广播讲话中说：“这支捍卫自由的伟大军队是世界上体魄最强壮，穿着最漂亮，伙食最好，待遇最高的军队。它之所以具备今天的组织、训练、装备水准，绝非出于偶然。它是一座丰碑，展示着乔治·马歇尔的天才、无穷的精力，几近超凡的远见卓识及领导才能。这样一位军人是不需要元帅权杖的。”
马歇尔本人也想指挥欧洲战役。1943年秋，同盟国首脑在魁北克会议上一致同意他担任这一职务，这使他非常高兴。但罗斯福回华盛顿后，却无限地延长了马歇尔的陆军参谋长的任期。
