伍子胥刚到宋国，宋国就发生了内战，局势十分不稳定。伍子胥和太子建呆在那儿不是个滋味，就一起离开了。他们的下一站将会是哪里呢？春秋战乱，要找个幸福的终点站还真不谷易!他们后来到了郑国，虽然郑国人民很友好地接待了他们，但是迫于楚国的压力，郑国并不敢久留他们。
于是他们又辗转到了晋国，而晋国才不会白留他们呢。那晋顷公倒是很会打算盘。他对太子建说:“听说你跟郑国的关系不错。我看这样吧，不如你回到郑国去，做我们的内应。等到我们一举把郑国打败了，我们就把它分封给你，怎么样?”。太子建正愁失去了原本高贵的地位，很想弄个王来做做，这下正合他的心意。于是，他回到了郑国，郑国也来者不拒。
太子建便在郑国当起了间谍。这郑国还真够冤大头的，被人卖了还帮人数钱。好在后来事情败露。正所谓“天作孽，犹可违;自作孽，不可活。”太子建正在火热地筹划如何与晋国内应外和，攻下郑国。却因为一点个人的私事跟底下的随从闹翻。太子建的脾气也真够躁的，动不动就说要杀了那随从。随从产生了背离之心，便向郑国国公告发了太子建这次回来的真正原因。郑定公听了很气愤，便与子产一起将太子建杀了。从这件事也可以看出，太子建就算能活下去，也不是能成就大事的人。相比较而言，倒是伍子胥更沉得住气。
太子死后，子胥感叹太子建的轻率。无奈之下，只能带着太子的儿子熊胜，往吴国的方向出逃。他知道楚平王早就把他的通缉令贴到了楚国各地的城门口，心里有些忐忑不安。于是白天不敢露面，晚上才出来赶路。千辛万苦总算到了吴楚的交界地昭关，然而此处的城门把守得特别严。子胥愁得一连几天都睡不着觉。前方是地狱，越过去就是天堂。大多数人会在地狱门口止步，伍子胥却不能，也不愿，可是他一筹莫展。幸而后来遇到了一个好心人，名叫东皋公。他很同情伍子胥，把他接到了家中。伍子胥自此有了一个暂时的避风港，然而他日夜思虑，家仇未报，岂能偷安。由于想得太多，一夜之间，他由青丝变成了白发。
第二天，东皋公差点认不出来他。这原本是令人心痛的事，却意外地帮助东皋公脑海中闪出一丝灵光。他想起自己有个朋友很像伍子胥，就想让他冒充伍子胥过关。就算守关的逮住了这个假伍子胥也没事，毕竟是假的，总有放出来的那一天。而那个真伍子胥由于头发全白了，相貌也变了，守关的认不出来，也就被他蒙混过关了。
这一头白发真为上天所赐。可以说，好运也是因为这一头白发接二连三来。这头白发简直是天道的显现。
伍子胥过昭关后，发生了一件很有意思的事情，也正证明他好运当头。他和胜逃过了“鬼门关”，仍然不敢放慢脚步。
伍子胥渴极了，不觉说道：“要是有口水喝就好了”。话音刚落，他的马突然抬起了前蹄，用力刨地，不久便看见一眼清泉从中涌出。真是奇事，听说过狗刨地的，没见过马能刨地，而且抛出一眼清泉的。咱们确切当作是传说，然而此泉确实留了下来，被后人称为“马蹄子坑”，而且泉水旺盛甘甜，过去行人路过，都有要停下来喝喝水。
伍子胥得此甘泉滋润，又拼了命地往前赶路。不巧前面有一个大江拦住去路。伍子胥十分着急，殊不知自己正受着上天的眷顾，自会有人来搭救。果不其然，有个打鱼的老头儿这时划着一只小船过来了，伍子胥搭上了他的船，过到了江对岸。子胥十分感激，便摘下随身佩戴的宝剑，交给老渔人，说:“这把剑是楚王赐给我祖父的，一直留传了下来，和传家之宝无异。虽然不值什么钱，但也有一百两金子。我现在送给你，好歹表表我的心意。”
老渔人略有愠色地说:“楚王为了追捕你，悬赏五万石粮食，还答应谁要是告发了你，就封他大夫爵位。我不要他那些，反而要你这蝇头小利?你太把我看扁了吧。”伍子胥知道失礼了，连忙向老渔人道歉。随后收了宝剑，向老渔人拜了拜，便接着赶路，他的目标是吴国。可是还没到吴国定，他就生了病，不得不停下来。这样的话，路上的费用就得增加，他实在是没有什么经济来源，只有靠乞讨为生。这件事在某些人那里又落为笑柄，然而大丈夫就应该像孟子所说:“道之所在，虽千万人，吾往矣。”
不管怎样，他总算到了吴国。通过公子光的关系，他拜见了吴王僚，可是并未得到重用。这也属正常。想想看，一个带着小主子四处逃难的人又怎么会很快得到别国君主的认可？更何况他们还有为晋国做内应的前科。不过，这种时候，最好的心理状态便是不怕别人不识得我，只怕我没有才能。我若有才能，还怕没有用武之地吗?伍子胥就是这样一个心理素质特别好的人。他在吴国待了很久，还是没有多少发言权。可他能调整心态，等待时机。
有一次，在楚国与吴国的交界处，两国养蚕的女子因为争夺桑叶而发生了争执。两国为此出动军队，大动干戈。吴国把楚国打败了，并夺了几座城邑回去。伍子胥可高兴了，想劝吴王趁热打铁，把楚国整个都灭了。公子光知道子胥恨楚国，便疑心他是公报私仇，于是对吴王说:“你不要听他的，楚国也没那么容易被打败。”吴王僚便没有动兵。子胥看出这公子光不是真心为吴王僚着想，他有篡位的野心。不如等到他把吴王僚干掉了，坐上君主的宝位之后，再出来辅佐他。于是，他和胜一起退隐到农村，种起田来。