在公元278年的大寒这一天，西晋贤臣羊祜病逝。武帝司马炎一把眼泪，一把鼻涕在大殿里抽泣着。眼眶中挤出的泪涕在这个寒冬里迅速凝固在司马炎长长的胡须上，瞬间结成了冰棒。
羊祜病逝，使得敢敢立国不稳的司马炎顿失左膀右臂。他在皇宫里得知羊祜临死前留下遗言“不以南城侯之誉而入柩”后，又是一番撕心裂肺的嚎哭。面对这些唯唯诺诺的太监和大臣们，给羊祜了极高的评价：“祜固让历年，身没让村，今听复本封，以彰高美。”
《资治通鉴》记载：遥远的南州百姓听到羊祜死去，州府里的商人们进行了集体罢市（注：这也许是世界历史上最早的工人自发组织的一场罢市活动记载）百姓在街头巷尾相拥哭泣，异常悲痛。就连敌国吴国的守边将士们听到后也是悄然落泪。羊祜一生好游名山大川，在游历岘山时，为当地百姓做了不少好事。当襄阳人听到他病逝的消息后，便在岘山上建造了一座庙，并立了一块碑来纪念羊祜。每逢忌日，襄阳的老百姓都来烧香祭奠。百姓上山砍柴，望见羊祜的功德碑，纷纷落泪，很是伤心。当地百姓索性把此碑叫做堕泪碑。
羊祜，一位西晋贤臣，临死前也不忘向皇帝推荐治国安邦的人才。“羊祜疾笃，举杜预自代。”羊祜为官，从不以高傲自居。史载，羊祜病重，入朝向司马炎上家上谏剿灭东吴，统一中原的计策。皇帝特别恩准羊祜可以乘辇入殿，不拜君而坐。但他病的再也不能入朝时，司马炎则令张华到羊府听取羊祜剿灭东吴之计。
在羊府，躺在病榻上的羊祜，说起话来已经是断断吁吁，非常吃力。看着眼前在这位老朋友张华，他有一肚子的话要说，可老天却没有给他多余在人间停留的时间。
“孙皓暴孽已甚，于今可不战而走。若皓不幸而没，吴人更立新王，虽有百万之众，长江未可窥也，将为后患矣！”羊祜向张华道出这番话时，在场的张华连连点头表示赞同。今天看来，我们不得不佩服羊祜的远见。同时，羊祜对这位老朋友也给予了厚望，他希望“成吾志”。这是羊祜留在这个世界上的最后一句话，他完成了最后一次对晋廷的效忠。
太康元年三月，晋王浚戎率八万，舰船百艘，战鼓雷鸣般的突入石头城，吴王孙皓面缚舆梓，诣军投降。孙皓投降了，东吴亡国了。大红大红的喜报飞进皇宫，金碧辉煌的宫殿里，司马炎望着这份喜报，内心里有想到了羊祜。此刻，他的心里多希望羊祜也能与自己分享这分快乐。眼眶湿润了，面对下面一群大臣们的恭维之词，在有将这分功劳给了羊祜，“此羊太傅之功也”，此时，众人都不明白，惟有司马炎和张华心里最清楚不过。
养祜做官，不谋财求官，一心全为了社稷和黎民。据晋廷规定，凡异姓之臣有大功者，皆封群郡侯。咸宁三年七月，晋廷封羊祜为南城侯，他固不接受，“祜每拜官爵，常复避让，至心素著，故特见申于分列之外。”羊祜做官，凭其良心做事，不求荣达于诸侯。死时，晋皇司马炎哭泣不止，一致胡须都成冰棒。死后，又每每怀念。这是历史上再无有这样的皇帝为臣子的离逝而悲痛欲绝的例子。看来，为君臣者，若能做到羊祜这一点，已行。
现在的官员与羊祜相比，简直是不在一个层次。现代官员恶如土匪，狡如奸商，还口口声声称自己是人民的“公仆”。恬不知耻，痛惜！