晋祠其实现在已经不能把它统称为唐叔虞祠，唐叔虞祠依然还在，在晋祠的北侧，晋祠就是唐姓总祠堂。晋祠是晋水的发源地，晋祠在北魏前就已经开始修建了，是为了纪念周武王第二个儿子唐叔虞，而修建供奉他的。唐叔虞是唐姓的一位始祖，唐叔虞死后，他的儿子燮继位，因为有晋水，所以把唐国改名为晋国，所以叫晋祠，也可以叫唐祠。
关于唐叔虞，《史记·晋世家第九》中记载，邑姜梦到天对武王讲：“余命女生子，名虞，余与之唐”，后来邑姜生子，手中有文“虞”字，便取名为“虞”。武王崩，成王立，唐地反叛，被周公诛灭。成王年幼时曾与叔虞戏耍，削桐叶为珪，交给叔虞，说道：“以此封若”，史官听到后，请成王择日立叔虞。成王说：“吾与之戏耳”。史官说：“天子无戏言，言则史书之，礼成之，乐歌之”，于是就把叔虞封到了唐。因唐地有晋水，叔虞子燮改国号为晋。这就是著名的“剪桐封弟”的故事。
宋代之前，晋祠就是指唐叔虞祠，而且其位置就在今日之圣母殿。《水经注·晋水》载：沼西际山枕水有唐叔虞祠。宋太平兴国九年赵昌言撰《新修晋祠碑铭并序》载：况复(唐叔虞祠)前临池沼，泉源鉴澈于百寻;后拥危峰，山岫屏开于万仞。整个晋祠内，唯有今日之圣母殿的位置能够符合这两个文献的描述。到了元代至元四年(1267年)弋彀撰《重修汾东王庙记》时，唐叔虞祠已经改在今日坐北朝南的方向上了。唐叔虞究竟为何失去了在晋祠的主神位?
一种可能的解释是，唐叔虞其实是一个有“前科”的神。隋大业十三年(617年)，李渊任太原留守，郡丞王威、武牙郎将高君雅为副，时逢隋朝江山风雨飘摇，狼烟四起。是年，马邑校尉刘武周据汾阳宫举兵反隋，李渊与王威、高君雅商议将集兵平叛，此时李渊已早有夺取天下之心，于是命李世民与刘文静及门下客长孙顺德、刘弘基去招兵买马，不到半个月，李世民便募集了一万兵马，李渊又遣密使召建成和元吉二子来到太原。王威和高君雅见形势不对，唯恐李渊造反，便想借请李渊赴晋祠祈雨的机会拿下他。晋阳乡长刘世龙得知此事，密告李渊。五月，李渊将此二人斩首之后，在唐叔虞祠下誓师，第二年夺取了长安。唐贞观十九年(645年)，李世民重回晋阳，次年诣晋祠，写下不朽名篇《晋祠之铭并序》，这通碑如今还保存在晋祠博物馆的唐碑亭内。唐叔虞固然没有辜负李渊的期望一路保佑他顺利地夺取了天下，但自己也背上了一个保佑造反的恶名。但如果认为赵宋朝廷是因此将唐叔虞请走的，那何以在重修晋祠的时候没有想到这一层，甚至在太平兴国碑中，仍旧不遗余力地称颂唐叔虞“泽及民生”之德呢?
太平兴国四年(979年)正月，赵光义经过充分筹备，第三次下河东。四月二十日，赵光义亲抵晋阳城下，驻马“汾东行营”(今太原市晋源区庞家寨东北，也就是后来的平晋县所在)，亲自督军日夜不息攻打晋阳。五月，马步军都指挥使郭万超降宋，城内粮草断绝，人心涣散。五月初五日，刘继元终于纳表投降。但晋阳的苦难并没有就此结束，刘继元投降之后，晋阳百姓还在继续抵抗，尤其是民间的习武组织“弓箭社”更是给宋军制造了不小的麻烦，老百姓甚至拿砖头瓦块攻击宋军。赵氏兄弟费尽心机和气力打下晋阳，本就怒火难平，百姓的抵抗更是火上浇油。赵光义大骂晋阳人是“盛则后服，衰则先叛”的顽民，竟然下令将晋阳所有百姓驱逐出城，在五月十八这一天，一把大火将千年古城化为灰烬。老幼不及出城焚死者甚众。
第二年，赵光义再次引汾、晋二水灌晋阳废墟，终于连废墟的痕迹也没有留下。宋朝将太原府治移到北面20公里的唐明村，也便是现在的太原市，同时在“汾东行营”边上筑起一个周边不过四里的小城平晋县，禁止当地百姓返回晋阳故城居住，并将赵光义指挥作战时驻扎过的行营改建为统平寺，后来真宗赵恒将其改名为崇圣寺，立“崇圣寺碑铭并序”碑于寺中，夸耀其平定北汉之功。平晋县城建成70多年，晋阳人仍旧不肯进去居住，更多的人流落到河南等地。而那个带有示威意味的统平寺也因多次被人暗中烧毁，终于罢祀了。赵光义攻下晋阳之后，还仿照李世民的《晋祠之铭并序》在晋祠立了一通“新修晋祠碑铭并序”碑，俗称“太平兴国碑”。传说这块碑的碑文被当地人逐字逐句地凿掉了，现在晋祠胜瀛楼下立着一通光秃秃的“无字碑”，据说就是当初的“太平兴国碑”。太原县从明至清共五个版本的县志，只有嘉靖《太原县志》录了这通碑文，其他县志对此只字不提。而唐叔虞也正是在北汉被征服之后的最初这段时间被请出了正殿。