1938年3月初，侵华日军进逼山东临沂边境。驻守临沂的国民党第四十军庞炳勋部在第五十九军张自忠部增援下，与进犯临沂的日军展开了近一个月的激战，给敌人以重大杀伤。尔后，张、庞两军相继撤出战场，临沂遂于4月21日失守。1938年4月21日，在台儿庄大战中遭到重创的日军第五师团（板垣师团）所属国崎旅团攻陷临沂城，之后大肆烧杀，共屠杀平民3000多人，制造了“临沂大惨案”。
侵华日军板垣师团
血洗城外村庄
1938年3月下旬的一天，天刚放亮，日军如狼似虎地闯入古城村。日军放火烧房，农民王殿思背起被火烧伤的母亲往外逃，没跑多远，被日军用枪打死，母子双双倒在血泊中；一个躲在墙角里吓昏了的老嬷嬷，被日军拖到街上点火焚烧，老人惨叫，日军却站在一边狂笑。不到一天的时间，古城村就变成一片废墟，断垣残壁，血迹斑斑，全村被杀害62人，有一户被杀绝。逃难的群众在渡河时，又被日军抓住数十人，用刺刀逼着脱光衣服向河里跳，谁不跳，上去就是一刺刀。除个别人死里逃生外，多数人惨死在水中，日军却在岸上狂笑。
日军进大岭村后，更是无恶不作。躲在村西观音庙里的避难群众，除两人逃脱外，被日军用机枪打死45人。全村300多间房屋被烧光。据今年92岁的赵洪扬老人回忆，日军进村后就烧房子、杀人，村里一个30多岁的妇女被日军强奸完后，乳房被挖了下来，活生生疼死。留在村里的人一看逃不了了，便都跑到村头的庙里躲着。没想到日军赶到后，把机枪架在庙门口，扫射躲在庙里的村民。扫射完后，日军又拿着刺刀将一些还动弹的村民刺死。刘克法和他母亲在庙里躲在死人堆下面一动不动，等日军走了才逃出来。与此同时，日军不断派飞机对城里狂轰滥炸，平民死伤惨重。一枚炸弹在城内北大街路南王贞一杂货店的防空洞口爆炸，在洞内避难的男女老少30多人，有的被炸死，有的被闷死，无一幸免。在西门里天主堂内避难的群众被炸死炸伤300多人，修女尤姑娘被炸得骨肉分离，糊到墙上。
日军轰炸后的临沂城门
日军临沂屠城
日军进城后，在大街小巷密布岗哨，架上机枪，挨户搜查，堵门截杀。日军每到一家，遇人就是一刺刀，对中青年妇女先奸后杀，连老人、小孩也不放过。未及走脱的居民纷纷越墙，向西门里天主教堂方向寻求避难。
可是，德国神甫紧闭大门，万呼不应，走投无路的难民瞬间聚集700之众。这时，丧心病狂的日本兵，一面从教堂西面向难民扫射，一面在教堂以东各个路口用机枪堵截，毫无遮挡的人群纷纷倒下。
日军从南门里一杂货店院里的防空洞中搜出20余人，当场全部用刺刀刺死。崔家巷一户的小孩子出疹子，按中国人的惯例，门口挂红布条，日军怕“传染病”，点火将小孩活活烧死。日军搜查城隍庙东杨家园时，妇女纷纷跳井自杀，顷刻之间，死尸塞满井筒。茶棚街胡士英家的防空洞较大，藏人很多，日军堵门用机枪扫射，并向洞内扔手榴弹，死者无数。日军走时，还在胡家大门上写着：此院死尸大有。
北门里路西一老太太年过70，卧病数月，生命垂危，全家7人围守病床，未及躲避，日军进院后将男子全部刺死，女的被迫背起病人一同跳井。城内居民凡被日军发现者均惨遭毒手。一次，日军驱赶着30多人清扫北大寺，干完活，说叫他们站队点名，结果被机枪点射，全部丧生，尸体被推进大湾内。住在南关美国医院的近百名原国民党第四十军伤员，连夜转移到郊外，多数重伤员死在医院附近的麦田里，曝尸旷野，无人敢收。
万恶的日本侵略者，在城西疯狂屠杀十余日后还嫌不够，又在火神庙旁和南门里路西设了两处杀人场，用军犬、刺刀屠杀无辜群众以取乐。王学武的父亲被日军用刀剁成三截；徐廷香之父、吕宝禄等被军犬活活咬死。日军在进行血腥大屠杀的同时，还纵火毁城。从火神庙以西、槽王庙前玉聚福街东、洗砚池以南，北到石碑坊、畅家巷至刘宅一带，大火一直延续六七天，整个城西南隅化为灰烬。
这次临沂大屠杀，全城被害群众计2840余人，加上沿途杀戮，共达3000人以上。日本军国主义又欠下中国人民一笔血债！
记载大屠杀历史的临沂革命纪念馆