诸葛亮走出茅庐之前，和曹操似乎没什么交集，然而，少年时代诸葛亮的命运也曾悬于曹操之手。这还从得从汉献帝初平四年(公元193年)谈起。
那一年，曹操的父亲曹嵩为避战乱，居住在山东琅琊一带，其实也就是诸葛亮的家乡。曹操命令泰山太守应劭去迎接曹老太公。徐州太守陶谦派部下阴平去护送。当时曹家的辎重有一百多辆车，财富外露，引起阴平及其部卒的贪心，“士卒利嵩财宝”，结果在华、费这一带杀了曹老太公全家，其中包括曹嵩的幼子曹德，财货被抢劫一空。然后，阴平和士卒逃跑。
这件事在《三国演义》里也有描述，曹操勃然大怒，兴大兵为父报仇，不过其行为已经大大超出报仇的范围，变成了滥杀无辜。曹操进攻徐州，陶谦败走，当时徐州有很多为躲避董卓之乱而来的长安、洛阳的居民，结果碰上曹操指挥的大屠杀，惨不忍睹，被坑杀十多万，都沉入泗水，导致泗水河不能流动。说曹操是杀人狂，一点也不过分，比董卓还过分。曹操大军所到之处，史书的记载是“鸡犬亦尽，城邑无复行人。”这跟曹操自己所写的“千里无鸡鸣，白骨蔽于野”没啥区别。曹操的屠杀行动，产生了大量的难民，往南边逃命。
就在曹操的屠刀在徐州山东一带肆虐时，有一个叫诸葛玄的人，当时是刘表的手下，赴京城汇报关于荆州的工作，听说曹操发难，立即从京城赶回老家琅琊，带走哥哥诸葛珪的遗孀和儿女，去庐江避难，也就是今天的安徽一带。而这个诸葛珪的儿女当中，就有诸葛亮，诸葛玄就是他叔叔。当时的诸葛亮十四岁，一起逃难的还有弟弟诸葛均，以及姐姐妹妹。曹操当时三十九岁，和诸葛亮是完全不对称的，在少年诸葛亮的眼中，曹操就是一个令人不寒而栗的杀人恶魔，这对诸葛亮以后的政治态度，不能不说没有产生一定的影响。
诸葛玄当时被刘表推荐为豫章太守，官挺大的，没想到这个职位是双黄蛋，当时朝廷又任命朱皓为豫章太守。这事怎么摆平?靠枪杆子!诸葛玄拼不过朱皓，只好带着诸葛亮一家投奔刘表，半路上在平顶山生病，由鼎鼎大名的神医张仲景医治，但神医也没医好诸葛玄，诸葛玄就死在平顶山。也有说诸葛玄是被叛兵杀死的。
诸葛亮后来辗转到了南阳，刘表也很照顾他，也难怪，谁让他叔叔是刘表的老部下，而且后来诸葛亮的老婆又是刘表夫人蔡氏的外甥女呢。