司马迁在《史记》中说：“见周之衰，乃遂去。”这里说的应该是辞去守藏室之史的小官，离开洛邑归隐去。而在此之前老子在和孔子的谈话中说：“君子得其时则驾，不得其时，则蓬累而行。”这或许是老子归隐的最好解释了。周王室衰落，天下混乱，老子虽然一心想要为天下百姓做点事情，可又得不到周王的赏识，“无为而治”的抱负无法实现，自然是要离开的。老子离开国都洛邑应该是偷偷走的，因为此时他已经是个名人了，关注他的人很多，而且和他交好的人也很多。此时老子的道的思想已经成熟，只等着瓜熟蒂落，不过作为道的践行者的老子在洛邑这样的地方是很难将自己的思想用心写成书的，每天应付世事就已经让老子疲惫不堪了。
老子的离开与其说是“不得其时”，不如说是道的思想本身的一种境界，回归到自然中去，才是真道，老子的《道德经》中有“人法地，地法天，天法道，道法自然”。以自然为法则的道，才是真道，老子的思想得之自然，最终是要回归自然的，老子归隐的时候是骑着青牛的，青牛在当时是十分重要的畜力，不过比起孔子的马车，老子和青牛则更有归隐的味道，而在神话传说中，太上老君也是骑着牛的，不过他的牛就是神牛了，在《西游记》中还曾经偷逃下凡间，做了一个多情的妖精。
老子骑着青牛，带着一些盘缠和书籍，趁着夜色偷偷地离开了洛邑，守城门的小吏或许看到了他，并问老子要去哪里，不过老子并没有告诉他。其实离开，要去哪里就连老子自己也很难说清楚，毕竟老子在洛邑待了数十年，已经习惯了这里的生活，而且周王朝的图书馆里的书也让他舍不得。
老子离开的夜晚月色皎洁，在《周易·丰》中有：“日中则昃，月盈则食。”这和此时老子的状况或许是一致的，声名在外的老子就好像这满月一样，满月过后，明月隐去，这就是老子，他要离开洛邑，做一个神龙见首不见尾的人。这也合了他在《道德经》中所说的：“持而盈之，不如其已；揣而锐之，不可长保。金玉满堂，莫之能守；富贵而骄，自遗其咎。功成身退，天之道也。”离开洛邑，功成身退，也算是顺应天道了。
老子骑着青牛离开洛邑后，四处游走。此时周朝的天下已经纷乱，而很多地方在他看来已经变了，人心不古、尔虞我诈让老子很痛心，特别是他推想的“小国寡民。使有什伯之器而不用；使民重死而不远徙；虽有舟舆，无所乘之；虽有甲兵，无所陈之。使民复结绳而用之。至治之极。甘美食，美其服，安其居，乐其俗，邻国相望，鸡犬之声相闻，民至老死不相往来”的美好愿望让他觉得越来越遥远了。老子在游走的路上或许拜访了一些人，这些人应该是和老子一样的修道者，而和这些人的交谈中老子更加坚定了归隐的决心，并且在归隐的路上又一次回归自然，体悟自然无穷的妙理。这就好像当初老子离开家乡，四处求学的时候一样，自然给了老子无限的启示。在老子博览群书、修道有成的时候，又归于自然，这也正是老子验证道的时候。不过大道是无法言语的，正如佛家所说的：“如人饮水，冷暖自知。”老子对道的体悟已经到了一个更深的层次，许多思想在他心中涌动，大有佛祖拈花一笑的境界了。
《史记》中说：“至关，关令尹喜曰：‘子将隐矣，强为我著书！’于是老子乃著书上下篇，言道德之意五千余言而去，莫知其所终。”在这里我们可以知道，老子写《道德经》是勉强为之的，不过这个勉强或许另有意思在里面，不是老子不肯写，守关的尹喜就不让他出关，事实上老子还是想写《道德经》这本书的，只是“道”是不言之道，就是老子也难以将道说清楚，于是他便在函谷关前将自己的感悟写了下来，这就是《道德经》。老子写完《道德经》，辞别了尹喜，骑着青牛出关了，而后就再也没有关于老子的信息了，很显然老子归隐，不再在意尘世间的事情了。而老子所写的《道德经》一书则被奉为经典，成为旷世杰作。
《列仙传》中说，“关令尹喜者，周大夫也。善内学星宿，服精华，隐德行仁，时人莫知。老子西游，喜先见其气，知真人当过，候物色而迹之，果得老子。老子亦知其奇，为著书。与老子俱之流沙之西，服臣胜实，莫知其所终。亦著书九篇，名《关令子》。”这段话多少有些杜撰的成分，假如确信其中的一些细节，那么便可以得到比司马迁在《史记》中所描述的更多的信息。首先可以知道尹喜不是个简单的人物，他不但官比老子大，而且也是个非常有智慧的人：“隐德行仁，时人莫知。”可见他同老子一样，是个修习天道的人，当他看到关内紫气东来，又看天象，便知道极其尊贵的人要来了。于是准备了食物，打扫了道路迎接老子的到来，当老子骑着他的大青牛晃悠悠地来到关前的时候，尹喜大喜过望，上前拜礼，老子见尹喜便知道对方不凡，于是下了牛，回礼，两人谈了起来。
尹喜和老子说的话很简单，就是要老子写本书，把自己的思想留下来。老子开始不愿意，因为老子的道本身就是难以形容的，不过在尹喜的再三要求下，老子才静心写下了五千多字的《道德经》，将自己的道德学问流传后世。其实老子在函谷关前，一气呵成地写下五千多字的《道德经》也不很真实，事实上老子事先将书写好更有可能，因为老子在洛邑的时候就已经研究道德学问很多年了，他的心得体会自然会汇聚成集，就好像今天的学习笔记一样。在函谷关前，老子更有可能是把自己平日里写的笔记整理一下，最后抄录出来，而尹喜这个人本身就是修习天道之人，符合老子的心意，将自己多年所领会的大道传给尹喜也算是了心愿了。尹喜得了老子所写的五千余字，接受了老子的道德思想，也可以说是老子的传人了，而尹喜也没有让骑着青牛归隐的老子失望，尹喜自己也写了书九篇《关令子》，尹喜的《关令子》没有流传，而老子的《道德经》却从此深入人心，成为旷世经典。
