吴佩孚一辈子很重夫妻之伦，在他闻名于世的“三不主义”——“不住租界、不积私财，不借外债”之外，又有“四不主义”，即加上一条“不娶妾”，然而他从15岁第一次结婚，直到66岁被日本特务害死，他竟身不由己，前后共娶了4位夫人，而且居然始终都无法获得一位子嗣。
15岁娶妻
吴佩孚的第一位夫人叫王氏，据《吴佩孚先生集》记载，他15岁那年将王氏娶进了门，同住在他家开设的“安香杂货店”里，这位王氏夫人比吴佩孚大3岁，娶亲的时候吴佩孚已在登州府水师营当学兵，一个星期出一次操。吴佩孚娶了18岁的大太太，双方的感情还很不错，但是，王氏3年没有生育。
1891年，她一病不起，归葬于吴氏祖坟。
大帅也为无法解决婆媳矛盾而烦恼
从18岁元配逝世，到31岁迎娶李氏夫人，其间13年，这是吴佩孚平生最穷困潦倒的一段时期。
由于吴家家中日子过得很苦，母亲有心再接一房儿媳妇，但是却没有钱。吴佩孚本人也在这段时间里东奔西走，席不暇暖。一直到29岁时，才考取了袁世凯办的保定陆军速成学堂测绘科。30岁毕业，吴佩孚派到日本守田少佐那边干情报工作，官拜中尉，一个月才拿到50大洋。
吴佩孚省吃俭用，结果在短暂期间之内，用薪饷、出差费、特支费，储备了300两银子，吴佩孚的母亲又起了为他再娶一房媳妇的念头。偏巧，这时吴佩孚请了一个星期的假，返回蓬莱家乡，结果遵照他母亲的意思，和李氏夫人成了亲。
李氏夫人一家，要算李家屯上的首富，她父亲早死，没有兄弟姐妹，一向和她母亲相依为命，她的一位亲叔父，便是蓬莱巨绅李少堂。这位富家千金，名门闺秀一直待到芳龄24岁方始嫁给了吴佩孚。当年吴佩孚是31岁。
这时的吴佩孚，因为多年的晦气熬出了头，在蓬莱父老心目中，早非昔日的吴下阿蒙了。他文中秀才，武授中尉，帮东洋人办事，拿双份的薪水；又为人热心诚恳，无不良嗜好，孝母爱弟，省吃俭用，尤被众人所称道。所以，也有不少大家闺秀，慧眼识英雄，愿意下嫁吴佩孚，遣人来提亲说媒的，络绎不绝。可是吴佩孚是个孝子，他惟母命是从，对于自己的婚姻大事，丝毫也不表示意见，吴太夫人一眼看中了李家大小姐，他满口应允，毫无难色。
据说，这位李夫人是典型的北国佳人，体态颀长丰满，明眸皓齿，艳光四照。光绪三十三年，吴佩孚在长春当北洋第三镇的管带，他把家眷接到了长春城里，当时第三镇的官长女眷多达好几百，其中就数吴管带的夫人最漂亮。
李夫人很贤惠，当时吴佩孚赶回家和她成亲，从营地到蓬莱，包括往返旅程在内，他一共只请了一个星期的假，吴佩孚惟恐耽误了时间，超过了假期，他是匆匆地来，匆匆而返，别说度蜜月，就是两情绻缱的燕尔之期，一共也只有两三夜，而且吴佩孚回到营地后，依旧是干他那惊险万状的情报工作，他把如花似玉的新婚夫人留在家乡，代他侍奉堂上，照顾他的三弟吴文孚，一晃便是整整3年。
吴佩孚的李夫人很美，而且相当贤惠，但是她是她母亲的独生女，母女相依为命，李老太太对她溺爱备至，难免有点娇生惯养。她跟吴佩孚结婚，对于吴佩孚的本人衷心敬佩，无话可说。但是，在蓬莱刚结婚的时候，李氏心里已经暗暗在嫌夫家窄门浅户，没有她娘家的气派。
这时，吴佩孚虽然每月都有可观的银两寄来，但是，吴老太太是吃过苦头来的，把儿子寄回来的银两，看得比性命还重，即使有能够花的钱，家里始终粗茶淡饭，荆钗布裙，李夫人当了官太太，用几文零用还得向婆婆伸手，新媳妇有什么委屈嘴上不说，一股脑儿闷在肚子里头。在娘家她母亲把她当做心肝宝贝，进了夫家什么好处都没有，还得听婆婆的支使，缝缝补补，亲操井臼，不久她便回娘家掇促她妈，以自己独居寂寥为辞，又回到了李家庄去住。
因此，当吴佩孚婚后离家的那段日子里，李氏一直都是住在娘家。对这一点，吴老太太十分不满。
吴老太太因为长子吴道孚早夭，一直把吴佩孚当长子看待。李氏夫人却不育，吴老太太急于抱孙子，心中焦急。于是，渐渐对李氏不满了。照这位老人家的看法，儿子已经荣任管带，一个月可支30两银子的薪俸，折合现大洋，便是一百二三十元，以他的地位与收入，多讨一房妻子，那又有什么问题。
这时，吴太夫人认定了媳妇的肚皮不争气，绝无生儿育女的可能。另一方面，在她家常来常往混得亲亲热热的张佩兰，不但人长得有宜男之相，而且她的家族也就是人丁兴旺，张佩兰的兄弟姐妹甚多，这又使得吴太夫人更多了几分把握，所以她不顾儿子媳妇的反对，非逼着吴佩孚娶张佩兰为二房不可。
在长春娶二房
张佩兰18岁，她排行第三，上有一个姐姐，嫁了在长春当总商会会长的赵尊贤，一个哥哥，原为俄据长春时代即已开设照相馆的张春龄。哥哥、姐夫都是商家，张佩兰见了文武双全，英雄年少的吴佩孚，芳心仰慕不已。
在长春时，吴太夫人与儿媳妇关系紧张起来后。一天，婆媳之间的矛盾由暗变明，形成火山爆发。吃晚饭时为菜的咸淡这件小事吵开了，各不相让，吴佩孚夹在中间左右为难。吴老太太把积在心里的一块心病也和盘托了出来：“我养只母鸡还为我下几个蛋，娶你进门三四年连屁都放不出一个来，你看你还有什么用！女不孝有三，无后为大，你要有本事就给我生个孙子出来！”
吴老太太一股脑儿把积在心里的话全都抖擞了出来，这些话正说到李氏的痛处，她也终日为不能生育而难过。这会儿再也坐不住了，捂着脸跑到房里放声大哭起来，整整哭了一夜。第二天一早，吴佩孚百般劝阻无效，李氏收拾一些换洗衣服，头也不回地去车站搭火车回蓬莱娘家去了。
李氏走后，张佩兰乘虚而入，一声一个“干娘”叫得更勤了。以前是每天两次到吴老太太面前请安，现在干脆一天到晚在老太太身边，晚上和老太太睡在一个炕上，百般殷勤，把老太太哄得不知东西南北了。老太太夸奖说：“干闺女真好，我要是有这么个儿媳妇就好了。”一句话把张小姐的脸说的通红，扭头跑开了。
结果，吴太夫人对张佩兰更加满意，于是一心要撮合这门婚事，对待张佩兰更好了。
1907年，张佩兰和吴佩孚在长春结婚，不久，吴佩孚安排李氏、张氏同住长春三道街杨家大院的一座屋顶之下。第一个月，三方容忍，于是相安无事，波涛不兴。一个月后，双方就醋海生波，时起纠争，使得吴佩孚左右为难，进退维谷，居然毫无办法。逼急了，他便大发牢骚，自怨自艾。
吴佩孚曾为此报以幽默自嘲：“‘惟女子与小人难养也’，我夹在两位夫人之间，左右为难，也许这更是对我的一种磨炼。如果我能有调和妻妾的襟度，来日用之于世，说不定我便能收揽天下英雄豪杰的本领。”
辛亥年，吴佩孚因功擢升上校，更驻防在北京。这时候吴太夫人已于1910年病逝长春，他成为一家之主。这时，李氏夫人的神经开始不太正常，吴佩孚日以继夜地陪伴着她。1913年，吴佩孚改任第三镇副官长，奉命随部南下，李氏夫人不许他走，吴佩孚的“家室失和”因而也为之公开。
这时候，吴佩孚已经成为曹锟的心腹肱股，曹吴两家，经常都有来往。曹锟的夫人心肠热而人缘好，当她听说吴佩孚的那位大太太，闹得吴佩孚走投无路，束手无策，她便挺身而出，加以调解。她和李氏夫人谈条件，自愿将曹锟保(定)寓(所)花园旁边的一幢精致的别墅，让出来给李氏夫人住，她雇了几名年轻貌美的女孩子，供李氏使唤，并且给她作伴。曹锟夫人并且要吴佩孚拿出每个月薪饷的一大部分，即300大洋，作为李氏的生活费用。吴佩孚说凡此条件并非是说夫妻分居，而是以这点获得李氏准他随军出发的允诺。
但是事实上这就成为了吴佩孚和他的发妻分居的开始。分居后他独自一人随军南征，但是，不久张氏便带了大批的酒食罐头，远赴岳州劳军，因而博得“吴夫人”犒劳将士的贤名。
她一到岳州，马上就成立了吴公馆，从此以后，张氏便一直在吴佩孚的身边。
媳妇吸食鸦片而亡
但是，住在保定的李氏夫人的日子却过得很不好受，她的情绪越来越焦躁，心情越来越烦闷，她整日抑悒，无以排遣，后来竟犯了吴佩孚的大忌，染上了鸦片癖。一个明艳照人，聪明能干的小妇，居然会变得蓬头垢面，形销骨立，整日一塌横陈，吞吐云雾。吴佩孚明白这一切都是由他而起的，李氏为他饱受爱情的折磨，但是，他又鞭长莫及，爱莫能助，他只好任她堕落消沉，陷于无以自拔之境。
李氏在保定，鸦片烟抽得非常凶，一个月300大洋的生活费，还不够她买鸦片烟的钱，用费不够时，都由曹锟夫人私下为她补贴。李氏这样猛抽鸦片，不仅是为了麻痹神经，打发了无聊的光阴，甚至大有慢性自杀的意味。
1917年吴佩孚率师讨伐张勋复辟，荣升北洋第三师师长的宝座。1920年自衡阳撤军北上，击败皖段，权倾中央，吴佩孚成为举国皆知、世间闻名的大人物。而在这八九年间，吴佩孚的声威日隆，事业辉煌，相反李氏却在保定形只影单，凄凉落寂，吴佩孚的威名如日中天，反而带给她更深的痛苦，更大的刺激，于是她的神经病越来越厉害，甚至发作时她居然会动手打人，而且好几个人都无法将她压制住。
李氏夫人终于于1920年9月9日郁郁而卒，这也使吴佩孚抱恨终身，伤心万分。
这位北国佳人，孚威上将军吴佩孚的正室夫人病逝于保定时，年仅41岁，她和吴佩孚结婚17年，同居在一起的日子，屈指可数。身后的哀荣，不能抵生前的痛苦的万分之一。
至于吴佩孚的第二位夫人张佩兰，凡是见过她的人无不盛赞她的娴雅文静，温柔体贴，吴佩孚的衣食起居一向由她掌管，她把吴佩孚服侍得周到异常，对待僚属也很宽厚，她是旧社会中够标准的贤妻，惟一的遗憾是她也始终不育。
张佩兰夫人从不过问吴佩孚的外务，但是，她娘家的亲戚无不攀龙附凤，位据要津，因而吴佩孚的戎幕中有所谓的“妻党”。吴佩孚的亲属只有一位弟弟吴文孚，和他的一个儿子吴道时，洛阳使署“内衙”，大部分是张氏夫人“妻党”的天下。
1923年，吴佩孚在洛阳过50大寿。这时，吴佩孚可谓春风得意，他的声望达到了个人的生命的顶峰，但是有一件事会令吴佩孚闷闷不乐，那就是膝下无子。为了生子，吴佩孚违背誓言纳了张佩兰，可是十几年过去了，自己已经是50岁的人了，张佩兰也已是38岁的人了，但是仍然不能生育。所以吴佩孚和张佩兰夫妻俩很为膝下无子的大问题着急，打针吃药，求神祈佛，一概都不发生作用，吴佩孚已明白他已无法弥补这终生的遗憾，迫不得已，他乃决定以胞弟文孚的儿子吴道时为嗣，承续烟火。
一生没有子融
6年以后，吴佩孚兵败入川，成为了川陕边际督办刘存厚的“上宾”。
1929年3月8日，吴佩孚在大兴寺做56岁生辰，张佩兰夫人这时也已经44岁，她曾经挑选一名丫环，劝吴佩孚收房做了小妾。她还希望这名丫环能给吴佩孚生下一男半女。
这位小妾后来曾和吴佩孚同到北京，但努力了10年，直到吴佩孚离开了人世，小妾仍然是空空如也，吴家人不得不信命了。
吴佩孚终于一生没有子女。