劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　羊公還洛，郭奕為野王令。羊至界，遣人要之。郭便自往。既見，嘆曰：“羊叔子何必減郭太業！”復往羊許，小悉還，又嘆曰：“羊叔子去人遠矣！”羊既去，郭送之彌日，壹舉數百裏，遂以出境免官。復嘆曰：“羊叔子何必減顏子！”

　　文帝嘗令東阿王七步中作詩，不成者行大法。應聲便為詩曰：“煮豆持作羹，漉菽以為汁。萁在釜下然，豆在釜中泣。本自同根生，相煎何太急？”帝深有慚色。