杨玄感被杀后，李密上了大隋的黑名单。这让他很受伤，不得不亡命天涯。先后投奔郝孝德领导的平原郡起义军和王薄领导的齐郡起义军，不知是因为长相还是其他原因，李密一直都是坐冷板凳。受不了别人的冷落，李密只好逃往淮阳郡，改名刘智远，当上一名私塾先生。可能是壮志未酬吧，平时没事时几杯烧酒下肚，就开始发牢骚，见还是没人关注，干脆就写诗。不料，不写还好，一写就被人揭发他写反诗--“秦俗犹未平，汉道将何冀?”。
还好他消息灵通，屁股一翘，一溜烟跑到梁郡，暗中到妹夫梁郡雍丘令丘君明居住，之后又认识游侠王季才，两人相见恨晚，李密干脆搬到他家去住了。可能是李密这种人性格太豪爽了，得罪小人了都不知道，这不，又将妹夫丘君明的一个侄子--丘怀义得罪了。于是丘怀义又去告官，等巡捕来的时候，李密早就溜了，结果丘君明、王季才二人被杀。这个结果，可能丘怀义也不愿看到，以为只是报复一下李密，没想到连自己的叔叔都搭进去。这就是做小人的下场!
在两年里，李密大部分时间都是在逃亡路上度过的，还好，他还有几分运气，要是其他人，早见阎王去了。最后，李密实在不想跑了，对天长叹：难道大隋朝就没有我李密立锥之地吗?于是，616年(隋大业十二年)，李密下定决心去瓦岗山，投奔那里的老大翟让。这一年，李密三十五岁。先说说这个翟让，东郡韦城人，可以说是地地道道的本地人。本来是当地的一名法曹(派出所所长)，他却知法犯法，犯了死罪。
将要秋后问斩的时候，监狱的一名公差黄君汉，爱惜他武艺高强。一天夜里，他偷偷地对翟让说：“翟法司，天时人事，也许是可以预料的，哪能在监狱里等死呢?”看到一线生机的翟让，惊喜地说：“我翟让，是关在圈里的猪，生死只能听从黄曹主的吩咐了。”黄君汉见他如此回答，随即给他打开铁链。
翟让立即跪下，对他三拜，说：“我蒙受您的再生之恩得以幸免，但黄曹主您怎么办呢?”说完，流下泪。不料，黄君汉大怒，说：“我本以为你是个大丈夫，可以拯救黎民百姓，所以才冒死来解救你，你怎么却象儿女子弟一样以涕泪来表示感谢呢?你就努力设法逃脱吧，不要管我了!”从鬼门关里走一趟的翟让，回到家乡后，立即将乡里的一些渔民猎手，聚集到到附近的瓦岗山，一切准备就绪后，树起反隋旗帜。