元顺帝至正八年(1348),台州黄岩(今浙江黄岩)人方国珍在台州起兵,拉开了反元的大幕。方国珍的军队迅速占领了台州、温州、庆元(今宁波)等地,当地官员奈何不得。省里面只得将刘伯温召出。刘伯温同事黄伯生在其《诚意伯刘公基行状》一文里说,省里将刘伯温召出后让他当了个浙东元帅府的都事,仍是个从七品的小官,而元帅府即宣慰司,是省里的一个派出机构。刘伯温到任后,献计筑城抵御,果然使方国珍受阻。这时,左丞相招安方国珍,刘伯温认为招安不妥,因方国珍是第一个起兵反元之人,应乘胜一举将方国珍剿灭,否则后患无穷。从起义反元这一面来看,刘伯温这一计确实很毒,若得逞,元王朝将再苟延残喘一阵也说不定。方国珍听说后,忙用重金贿赂刘伯温,希望刘伯温改变观点,为他接受招安说点好话,但刘伯温不受。方国珍便派人从海上带重金到京城,贿赂当权者们,终于打通了门路,朝廷决定招安方国珍,一面授方国珍官职,一面反而斥责刘伯温霸道。方国珍受招安不久,等到喘过气来后,再次起兵反元,而此时的刘伯温,虽又被省里重新任用负责剿捕之事,却又见疑,不给兵权。至此,刘伯温对元王朝心灰意冷,干脆辞官回家了。刘伯温回到老家青田后,专心著书,写下了反映自己政治主张的传世之作《郁离子》。
刘伯温已经看出元王朝末日迫近,天下势将大乱,便在老家青田读书,著作,韬光养晦等待时机。不久,群雄四起。朱元璋打下浙江金华后,得知刘伯温、宋濂是江南名士,即以重金礼聘,刘伯温卖关子,没有答应。朱元璋手下总制孙炎又亲自写信邀请刘伯温,刘伯温才同意出山。
刘伯温和朱元璋见面后,即向朱元璋陈述了时务十八策。十八策的主要内容是灭陈(友谅)去张(士诚)、灭方国珍、屯兵自养、勿过度扰民、严肃军纪、招纳贤士等等。朱元璋读后非常高兴,即将刘伯温视作心腹。朱元璋初起兵时,奉红巾军头领韩林儿为首。至正十五年(1355),韩林儿在亳州(今属安徽)称帝,国号大宋,朱元璋得到消息,即表祝贺,到了新年,还令中书省为韩林儿专设御座并叩头礼拜。群臣皆拜,独刘伯温不拜。问他为什么不拜,他说:韩林儿不过是个放牧的小孩子而已,我拜他干什么!显然,刘伯温是以这种方式表明他只忠于朱元璋。朱元璋心知肚明,便召见刘伯温,请教平定天下大计,于是有了一次著名谈话,后人称之为朱刘之间的“隆中对”。刘伯温向朱元璋分析了群雄形势,陈述了征讨天下大计。刘伯温说:张士诚目前不过自保而已,不足为虑。陈友谅篡夺了红巾军领导权,名号不正,但他占据了上流之地,又时刻想消灭我们,是我们的大敌,因此应当首先消灭他。一旦消灭了陈友谅,张士诚自然势单力薄,就可以一举将其灭掉了,然后挥师北上,占据天下!朱元璋听后大喜,对刘伯温说:先生有了什么好的计策,都一定要告诉我啊!