在平息商团后不久，10月底，苏联派遣加伦来到广州，担任孙中山军事总顾问。
加伦将军是一个苏联传奇人物。加伦原名瓦西里·康斯坦丁诺维奇·布留赫尔，出于保密原因化名为加伦，也是他妻子加丽娅的谐音。加伦是在苏俄国内战争期间成为一颗闪耀的将星的，他曾经率领红军游击队在哥萨克后方坚持了40多天，也曾经用一个步兵师击败了装备有坦克和装甲车的机械化白卫军，因此在1918年9月得到一枚红旗勋章。加伦此后担任苏联远东军总司令、远东共和国军事部长、陆军部长，1922年又出任彼得格勒第一军团司令，在苏军中颇富名望，孙中山因此邀请他出任广东革命政府的军事总顾问。
加伦来到广州后，孙中山即北上与冯玉祥会面，加伦就任许崇智军事顾问，此时蒋介石为许崇智参谋长。当时，加伦对蒋介石印象非常好，有一次宋子文问他对蒋介石印象如何，加伦说蒋介石是一个“能干的将军”，“蒋介石将军组建一个师和一所军校如能成功的话，那么将开创广东的新时期，对付范石生也就很容易了。”加伦在给莫斯科的报告中就特别说要支持蒋介石，对黄埔军校也就更加关注，正是在他的帮助下，黄埔军校的经费问题得到解决。当时，黄埔军校的经费是由莫斯科提供的，原定每月提供10万粤元，但在10月份只得到8.4万元，加伦得知后与廖仲恺商议，很快所欠部分得到了补足。
加伦对孙中山急于北伐的军事战略也给予了劝说，他告诉孙中山，他几次北伐的失败与其说是前线失利，倒不如说是后方遭到攻击，“经验表明，除非有巩固的后方（广东）以及各邻省出现有利于北伐的形势，北伐才能成功”，因此，他建议说“北伐的问题只有暂时搁置起来，先解决国民党牢牢控制广东和肃清陈炯明的问题”。在加伦的劝说下，孙中山才决定先讨伐陈炯明。
但在东征陈炯明期间加伦却对蒋介石的表现有所不满，两人由此产生嫌隙。在东征作战中，加伦等苏联顾问认为他们已经设计了一个陷井，这个陷井能牢牢钳住敌人，但由于蒋介石几次不执行苏联顾问的建议而错失良机，且导致第一团损失惨重。1925年2月1日东征开始，加伦和苏联顾问也投入到战争中，当时苏联有名的顾问就有斯捷潘诺夫将军、切列潘诺夫将军、别夏斯特诺夫将军、尼库林上校和帕罗上校。2月3日，黄埔军校的两个教导团和第十六独立步兵团组成的南路军由蒋介石率领向东莞进攻，但很快又奉命转向淡水，并于15日占领此地。随后，在3月初，陈炯明部将林虎在兴宁集结，蒋介石认为该部表面意图进攻河婆，实际可能是要进攻汤坑和揭阳，因此并没有听从苏联顾问的建议增兵河婆，许崇智也受到蒋介石左右，没有向河婆增兵，而是把黄埔军校的两个连留在揭阳，为此加伦颇费了一番口舌才劝动许崇智。实际上林虎真正的攻击目标就是河婆。
3月13日，按照作战计划，黄埔军校第一团应该从棉湖向马路挺进，但第一团团长何应钦却受蒋介石之命拖延出发，直到苏联顾问几次催促之后才行动。另外，按照计划，第一团出发后第二团应该派出一个营掩护侧翼，但第二团团长王柏龄却迟迟没有派出掩护部队，结果导致第一团受到敌军八个团的围攻。且第二团又比预定计划晚出发三个小时，蒋介石又故意命令王柏龄来见他，又拖延了一个小时，苏联顾问斯捷潘诺夫为此十分脑火。
接下来，第二团报告行军途中未发现敌军，蒋介石因此判断敌军可能在北面，于是他建议苏联顾问将第一团和第七旅调往北面的石经，斯捷潘诺夫没有同意。这时，第一团传来消息，告知在鲤湖以北发现敌情，斯捷潘诺夫建议第二团立即向敌军后方攻击，与第一团夹攻敌军，蒋介石接受了这个建议，但实际上他下达给第二团的命令却是向北转移。第一团为此与敌军艰苦作战，加伦等苏联顾问也拿起枪作战，直到战斗结束蒋介石才率领第二团出现。加伦为此对蒋介石有了另外的看法。当时在第一教导团任职的聂荣臻回忆说：“这件事不仅在蒋与加伦之间的关系上，留下裂痕，似也在黄埔内部，第一次布散了一层阴影”。
此时，国民党已经在准备建立国民政府，但孙中山已经去世，因此谁将成为新的政治领袖就成了一个悬念。当时，鲍罗廷与张国焘曾有过谈话，他认为，当时能接替孙中山的有三人，即廖仲恺、胡汉民和汪精卫，他对胡汉民的印象是：“有一点毛病，如果什么事情让他知道了，他的亲信也便知道了；随着英国人也便知道了。这样，一切事情都弄糟了”，显然，鲍罗廷并不相信胡汉民；那么廖仲恺呢？鲍罗廷说：“这样得力而实干的人，可惜太少了”，“做些实际工作，却不愿居领导地位”；汪精卫呢？鲍罗廷说：“遇事倒也可和汪商谈”，“不会挺身出来硬干，如果抬他出来负责，似却不会退缩”，显然，他认为汪精卫有点谦逊，需要有人推他一把。看起来，三个人鲍罗廷都不是很满意，但就成为领袖而言，三人中只有汪精卫较为合适。汪精卫本人其实并不是“不会挺身出来硬干”，他现在正匆忙来到前线，拉拢蒋介石，以便对付许崇智和廖仲恺。
此后，准备追击陈炯明残部盘踞的惠州的时候，蒋介石与加伦又发生了一次分歧。当时，乘国民党部队攻击陈炯明的时候，云南军阀刘震寰和广西军阀杨希闵联合发动了叛乱，叛军威逼广州，4月28日，廖仲恺、蒋介石来到汕头许崇智的司令部，讨论究竟是放弃广州还是坚守广州，加伦认为无论如何都不能放弃广州，因为广州是国民党的大本营，如果弃之不顾那么必将打击整个革命士气，因此他坚持坚守广州。但许崇智表示反对，他认为兵力不足，难以坚守。会上蒋介石虽没有明确表态，但他是支持许崇智的。这次会议上起关键作用的是廖仲恺，他支持加伦将军，认为放弃广州代价太大。许崇智和蒋介石只好表示同意。但蒋介石却想要把粤军第四师和第六旅调走，加伦没有同意。
另外，在东征过程中，蒋介石始终不太情愿让他所领导的东路军担负太多的责任，因为他想要保存实力，不想过度消耗他的黄埔军。加伦对此也很不满，5月28日，加伦在给斯捷潘诺夫的信中说：“蒋介石在这个问题上的行为可能起到极坏的作用”，加伦认为，正是东路军应该起决定性作用，而其他各军则其协助作用。
不过，黄埔军校培养出的部队作战能力却给加伦留下了深刻的印象，6月12日，收复广州的战役打响，黄埔军校的8个连共计960人渡过珠江，一举击溃了刘震寰、杨希闵的防守，很快夺回广州。加伦在报告中写道：“在第一团，政治工作才刚刚开展，然而这个团却已经向人们表明，无须多久，为民族解放而英勇献身的中国人民必能造就一支捍卫自己的这样的军队：在这支军队面前，那些讥讽、嘲笑者都将被迫住口，而中国人民的朋友则将发出一片赞叹之声。”
而在总结作战的报告中，他却对蒋介石的这样评价道：“敌人虽然退却了，但是就原来的作战意图而言，这与其说是胜利，不如说是失利。”他把原因归结为部队在战场上缺乏指挥，“此类错误蒋介石将军一犯再犯。他仅仅指明最初的攻击方向，却从来不指挥战斗，有时竟躲在大后方，横加干涉，致使战斗停止……”，他还记录了3月13日当他来到蒋介石的司令部询问教导一团、二团及各团独立队的部署地点时，蒋介石竟然答不上来，于是他说“显而易见，部队完全失去了指挥。”但加伦也注意到，蒋介石几乎从不公开与苏联顾问冲突，相反，他表现得很配合，也时常赞扬苏联顾问和部队中的共产党员。
