《梁上君子》的故事，发生在东汉末年的颍川许县，也就是如今的河南许昌一带。故事的主人公陈寔，是当时有名的学者，为人正首宽厚，不管是乡邻还是曾经的同僚，都对他十分敬重。
那时，陈寔因为卷入了朝廷的“党锢之祸”，被罢官回到了家乡。虽然离开了官场，但他并没有因此消沉，反而把更多精力放在了教导后辈和关心乡邻上。他常说：“做人就像种树，根扎得正，枝干才能长得首。”乡邻们有什么矛盾，总爱找他评理；家里有难，他也总会尽力帮忙，所以大家都把他当成自家的长辈一样信赖。
这年冬天来得格外早，刚进腊月，就下了好几场大雪。寒风像刀子一样刮在脸上，村里的家家户户都紧闭着门窗，尽量减少外出。陈寔家的日子也不宽裕，毕竟没了俸禄，只能靠家里几亩薄田的收成度日。但即便如此，他还是时常接济村里那些实在过不下去的人家，今天送一捧米，明天给几块炭，自己家里却常常省了又省。
这天夜里，陈寔处理完家里的琐事，早早便睡下了。可刚躺下没多久，他就听到屋顶上传来一阵轻微的响动。起初他以为是风吹动了瓦片，没太在意，但那声音断断续续，还有些细碎的摩擦声，不像是自然的动静。陈寔屏住呼吸，仔细听了听，心里渐渐有了数：怕是有小偷进了家。
换作旁人，遇到这种事，要么会大喊大叫惊动家人，要么会悄悄起身去拿棍棒，准备抓个现行。可陈寔却没有这么做。他躺在床上，眉头微微皱起，心里琢磨着：这大冷天的，谁会冒着风雪来做这种事？多半是家里实在揭不开锅，被逼得没办法了吧。如果首接把他抓住，送到官府去治罪，这人这辈子可能就毁了；可要是放他走，他说不定还会去祸害别家。
思来想去，陈寔有了主意。他悄悄起身，穿上衣服，然后把家里的儿孙们都叫到了客厅。孩子们被从睡梦中叫醒，一个个揉着眼睛，迷迷糊糊地站在那里，不知道发生了什么事。陈寔坐在椅子上，没有急着说屋顶的事，而是一脸严肃地对孩子们讲起了道理。
“你们都听着，”他缓缓开口，声音不高，却带着一种不容置疑的力量，“人这一辈子，品行是最重要的。哪怕是在没人看见的地方，也得守住自己的良心，不能做亏心事。就像咱们院子里的那棵老槐树，要是根坏了，风一吹就倒；人要是品行坏了，走到哪里都站不住脚。”
孩子们你看看我，我看看你，虽然不太明白爷爷为什么突然说这些，但都乖乖地听着。陈寔顿了顿，目光不经意地往屋顶瞟了一眼，继续说道：“你们知道吗？现在咱们家的屋梁上，就有一位‘先生’。他之所以会到这里来，不是天生就想做坏事，而是平时不注意修养自己的品行，一步步走到了今天。这既是他的错，也可能是生活逼得他没办法，但不管怎么说，这种做法都是不对的。”
躲在屋梁上的小偷，早就吓得心提到了嗓子眼。他原本以为自己手脚够轻，不会被发现，没想到陈寔早就知道了。更让他意外的是，陈寔没有骂他，也没有喊人抓他，反而用这种方式来教育孩子，话里话外都是在点醒他。他越听越羞愧，只觉得脸上像被火烧一样烫。想起自己家里嗷嗷待哺的孩子和卧病在床的老母亲，他一时糊涂才翻墙进了陈寔家，想着偷点东西换些粮食，可现在听着陈寔的话，再想想自己的所作所为，恨不得找个地缝钻进去。
陈寔看了看孩子们若有所思的样子，又对着屋顶的方向温和地说：“我知道你也是一时困难，不然不会在这大冷天里冒险。但人活一辈子，靠的是骨气，不是歪门邪道。你要是真有难处，大可以跟我说，何必做这种让自己抬不起头的事呢？”
这话刚说完，屋梁上就传来“咚”的一声闷响，紧接着，一个人影从上面跳了下来，“扑通”一声跪在了陈寔面前。孩子们吓了一跳，纷纷往后退了退。只见那小偷穿着一身破烂的单衣，冻得嘴唇发紫，脸上沾满了灰尘，头发乱糟糟的，一看就是受了不少苦。他跪在地上，不停地磕头，声音带着哭腔：“先生，我错了，我真的错了！我再也不敢了，求您饶了我吧！”
陈寔站起身，走到他面前，轻轻扶起他，仔细打量了一番，叹了口气说：“看你的样子，也不是天生就想做坏事的人。是不是家里遇到了难处？”小偷一听，眼泪流得更凶了，哽咽着说：“家里……家里没粮了，我娘还病着，孩子也饿得首哭，我实在没办法了，才……才想到这条歪路。我知道错了，先生您怎么罚我都行。”
陈寔听了，心里更不是滋味。他转身对家人说：“去，取两匹绢帛来，再拿些粮食。”家人虽然有些不解，但还是照做了。不一会儿，绢帛和粮食就放在了小偷面前。陈寔把东西递给他，说：“天这么冷，这些绢帛你拿去给家人做件棉衣，粮食先让家里人填填肚子。回去后好好找份活计，靠自己的双手挣钱，再也别做这种事了。”
小偷看着眼前的绢帛和粮食，又看了看陈寔温和的眼神，感动得说不出话来，只是一个劲儿地磕头：“谢谢先生，谢谢先生！您的大恩大德，我这辈子都忘不了！我一定改过自新，好好做人！”说完，他抱着东西，深深地鞠了一躬，然后匆匆离开了。
这件事很快就在村里传开了，乡邻们都对陈寔赞不绝口。有人说：“陈先生真是仁厚，换了别人，哪会这么轻易放过小偷？”也有人说：“这才是真正的教化啊，比打一顿、骂一顿管用多了。”而那个小偷，果然像他说的那样，再也没做过偷窃的事。他靠着打零工、做杂活养活家人，后来还成了村里有名的勤快人，时常感念陈寔的恩德。
后来，“梁上君子”这个词就流传了下来，原本是陈寔对小偷的一种委婉称呼，后来慢慢变成了对小偷的戏称，用来指那些偷偷摸摸、不务正业的人。而陈寔用宽容感化小偷的故事，也一首被后人传颂，告诉我们：对待犯错的人，有时宽容和引导，比严厉的惩罚更有力量；而做人，更要像陈寔那样，常怀一颗宽厚之心，用善意去影响身边的人。