李苦禅一生３次结婚。娶第一夫人肖氏时还在聊城省立二中读书，时年１６岁，小肖氏６岁，完全是奉“父母之命，媒妁之言”，无甚感情。肖氏体弱多病，１９２７年在家乡为他生下一女后病故。
第二次婚姻颇具传奇色彩。那是１９２８年冬天，齐白石门下收了一位女弟子凌嵋琳。她出身书香门第，苗条秀美，眉宇间却凝着几分孤傲。
李苦禅与凌嵋琳的接触多了起来。凌嵋琳毕业于中国第一国立美术学校，一向自恃才高，但对眼前这位耳闻已久的刚正朴实的山东大汉，怀有英雄般的敬重和深深的爱慕。她深为他的画中表露出的磅礴大气和平实淡泊所慑服，不久便参加了李苦禅创办的“吼虹画社”。
凌嵋琳经常到“吼虹画社”里来。开始，她是来向师兄请教画艺，帮他整理画案，收拾房子，后来还悄悄地把他的衣服拿出去洗，弄得李苦禅很不好意思。
凌嵋琳待人一向大方，大概因心里有了隐私，见到李苦禅总感到脸热，而李苦禅却毫无察觉。一次，凌嵋琳见他又在专心作画，鼓足勇气说：“师兄，你不常说要谢我吗，请你给我画一对鸳鸯吧！”
“怎么，你要办喜事啦？”
“谁说的？”凌嵋琳粉红的脸那会儿变得绯红，“画鸳鸯就得办喜事么？我喜欢鸳鸯，它们亲亲热热，白头偕老，人世间要是都能像它们一样那该多好呀！”
李苦禅憨笑着，在一张宣纸上画了两只雄鹰，一黑一白，英姿勃勃。
“师兄，我要的是鸳鸯！”
“俺知道，你别急。”李苦禅顺手在画上题了几个遒劲的楷字：“雄鹰不搏即鸳鸯。”他把画递给凌嵋琳，“你看，满意吗？”
“不满意。”凌嵋琳故意撅起小嘴，话中有话地说：“鹰的样子太傻，总是冷冰冰的，感情一点都不细腻。”
“嵋琳，你错了，难道非一天到晚缠缠绵绵，卿卿我我才算感情细腻？”李苦禅认真地说，“你看那白鹰正用嘴给黑鹰择毛，正准备着新的腾飞，这才是让人羡慕的感情呢。柔弱的鸳鸯是经不起暴风雨的。嵋琳，如果有一天你要成家，俺劝你找的是雄鹰，而不是鸳鸯。”
“我……我一辈子不嫁人！”凌嵋琳的脸红到了脖根。
“你可别学俺……”李苦禅疑惑地看着她。
“你呀，你……还不如自己画的鹰！”凌嵋琳说完这话，羞红着脸低头跑了出去。
李苦禅一下明白了，他心中一颤，全身被这突如其来的爱情震撼得酥软，年近３０的他第一次尝到了人世间竟有如此甜蜜的感情。
１９２８年仲秋，李苦禅与凌嵋琳在一片祝福声中幸福地结合了，婚后他们搬到阜成门内柳树井２号的凌嵋琳家居住。然而，也许那番关于雄鹰与鸳鸯的对话映照出的人生观的不同，婚后，苦水中长大的农民的儿子李苦禅与书香门第出身的凌嵋琳的差距显得越来越大了。
凌嵋琳理想中的夫妇生活是花前月下般的诗情画意，可结婚一年多，李苦禅整天忙着和一帮画友、票友作画说戏，从没有时间陪凌嵋琳逛过公园或下一次饭馆。
最使凌嵋琳恼火的是，他们住的那两间小屋整天宾客不断，不管是拉洋车、蹬三轮的，还是练武的、卖泥人的，李苦禅和他们一聊就是大半宿，晚了就留人家在家过夜，把凌嵋琳赶到岳母屋里去睡。
凌嵋琳感到越来越乏味，当初笼罩在李苦禅身上的让她感到神秘炫目的光环没有了，她现在看到的是实实在在的土得只会说“俺”的李苦禅。
恰在这时，一个叫张若谷的青年闯进了他们的生活。张若谷人长得英俊，但生活穷困潦倒，最初拜访李苦禅是为了向他学习绘画。一向待人热诚的李苦禅真诚地接待他，经常留他在家吃住。日子一久，凌嵋琳对婚姻的失望和哀怨引起了张若谷的注意。李苦禅到杭州后，他以请教凌嵋琳画艺为由，往凌家跑得更勤了。１９３４年，心生异梦的凌嵋琳登报与李苦禅解除婚姻关系。
这次长达６年的失败婚姻对李苦禅的打击很大。他心灰意冷，很长时间不愿谈及感情之事，直到８年后的１９４２年经人介绍认识了后来的终身伴侣李惠文。
当时，２４岁的李惠文刚从德州博济医院高级护士学校毕业。她出身贫寒，文静漂亮，是济南画家李省三的养女。相同的命运、同样的苦出身把他俩的心拉近了，认识半年后，他俩就结合了。这场平实、自然的婚姻如李苦禅笔下的大写意那样，一直持续到他生命的终结。
