荀或是在曹操驻兖州时投入曹营的。他旧事袁绍，弃之而归曹操。曹操与语大悦，曰：“此吾之子房也。”立命为行军司马。荀或又推荐程昱，昱荐郭嘉，嘉荐刘晔，晔复荐满宠。从此，曹操文事大备，威镇山东。而在众谋士中，荀或威信最高，得到曹操高度重视与信任。荀彧也为曹操统一全国，立下了汗马功劳。
吕布乘曹操东征，兖州空虚，夺了兖州，又占领濮阳。只有鄄城、东阿、范县三处为荀彧、程昱死守得全。
操在鄄城，刘玄德继陶谦为徐州牧，操传令攻打徐州。荀或入谏：“若取徐州，多留兵则不足用，少留兵则吕布乘虚寇之，是无兖州也。若徐州不得，明公安所归乎？明公弃兖州而取徐州，是弃大而就小，弃本而就末，以安而易危也。”曹操认为，当前岁荒乏粮，军士坐守，终非良策。彧曰：“不如东掠陈地，就食汝南、颍川。黄巾余党劫掠州郡，多有金帛、粮食，破而取其粮，朝廷喜，百姓悦，乃顺天下之事也。”这是为曹操考虑，更是为“朝廷喜”着想。曹操采纳了，大胜黄巾余党，夺取财物无数，又收了许禇及其宗族数百人，复得兖州。
操在山东，车驾已还洛阳。荀彧进曰：“今天子蒙尘，将军此时诚应首倡义兵，奉天子以从众望，不世之略也。”荀或此言，还是从“天子蒙尘”考虑的。曹操引军至洛阳，献帝封曹操为司隶校尉、录尚书事。从此，曹操挟天子以令诸侯。荀或此议，对统一中国，起了关键作用。
曹操迁都许昌，也是听了荀或的策划。《三国演义》认为，献帝是在“不得不从”的情况下迁都许昌的。其实，荀或的迁都设想主要是为复兴汉室考虑的。献帝和群臣，错怪了曹操。
操大事既定，乃聚众谋士共议：刘备屯兵徐州，吕布以兵败投之。若二人同心来犯，实为心腹大患，将何以处之？荀或曰：“今刘备虽领徐州，未得诏命。明公可奏请实授备为徐州牧，密与一书，叫杀吕布。事成则备无猛士为辅，亦渐可图；事不成，则吕布必杀备矣。此‘二虎竞食’之计也。”但此计为刘备识破，领了徐州牧，对杀吕布则只言容徐图之。荀彧又献一计：暗令人通问袁术，报说刘备打算掠南郡；术必怒而攻备，公乃明诏刘备讨袁术。刘、袁相拼，吕布必生异心。这是“驱虎吞狼”之计。结果刘、袁互拼，吕布袭了徐州，刘备反屈住小沛。
袁（绍）、曹酝酿大战，孔融以为不可。荀或曰：“绍兵多而不整，田丰刚而犯上，许攸贪而不智，审配专而无谋，逢纪呆而无用。此数人者，势不相容，必生内变。颜良、文丑，匹夫之勇，一战可擒。其余碌碌等辈，纵有百万，何足道哉？”荀或旧依袁绍，对袁营内部了如指掌，所论十分中肯。操然或言，自引大军拒袁绍。当时绍兵数倍于曹操，曹操之所以敢于征战，一是郭嘉的十胜十败之说，二是荀彧的上述议论。荀彧的论调，还是从复兴汉室出发的。
曹操令弥衡为使，说降刘表。袁绍亦遣使说刘表。曹操不见刘表来降，又欲兴兵问罪。荀彧进言：“袁绍未平，刘备未灭，而欲用兵江汉，是犹舍心腹而顾手足也。可先灭袁绍，后灭刘备，江汉可一扫而平矣。”平定天下，要分先后主次，有序地进行。荀或此言，是审时度势后而发的。操又从之。
曹操夺了徐州，取了小沛，聚众谋士议取下邳。荀彧说：“云长保护玄德妻小，死守此城，若不速取，恐为袁绍所窃。”曹操听了荀或的话，设计攻取下邳。关羽中计，投降曹营，荀彧又立下一功。
袁绍兴兵，向官渡进发。曹军首战大败，守住官渡。但粮草不继，欲回许昌，遣人问计于荀或。荀彧回书：“公以至弱当至强，若不能制，当为所乘。绍兵虽众，而不能用。公今画地而守，使不能进，必待有变。”曹操得书大喜，令将士效力死守。断绍粮道，烧绍粮仓，降绍将张郃、高览，绍军大败。曹操乘势追击，扫平华北。荀彧的回信，实起了主要作用。
荀彧在军事上的建议，曹操都一一听从了，这是统一中国取得胜利的基础。曹操为周瑜所败，虽损兵折将，但未伤元气，在许都威福日甚。长史董昭劝操进爵魏公，荀彧曰：“丞相本兴义兵，匡扶汉室，当秉忠贞之志，守谦退之节。君子爱人以德，不宜如此。”曹操闻言，勃然变色。建安十七年十月，操兴兵于江南，命荀彧同行，荀彧托病，止于寿春。操令其自裁。荀彧服毒而亡，年五十岁。
曹操与荀或都想平定天下，所以起初两人合作颇为默契。但荀彧平定天下，是为了复兴汉室；曹操平定天下，在于挟天子以令诸侯，他是考虑不到复兴汉室的。当时所谓汉室，也实在扶不起来了。荀彧虽然谋略过人，毕竟迷恋汉室，以致不识天下根本大势，终于为曹操陷害。
