凤尾香罗薄几重，碧文圆顶夜深缝。
扇裁月魄羞难掩，车走雷声语未通。
曾是寂寥金烬暗，断无消息石榴红。
斑骓只系垂杨岸，何处西南任好风。(任 一作：待)
薛存诚任御史中丞时，与刑部侍郎王播，大理卿武少仪秉公执法，审理了牵连到爱宠宦官梁守谦一案，将受贿的梁正言诛死。同时还惩处了不法僧人鉴虚。鉴虚在贞元年间(785—804年)，交接朝中权贵、宦官，收受贿赂，横行不法，官府不敢过问。审梁正言、沈壁一案时，薛存诚对鉴虚也进行了收审，得知前永乐县今吴凭曾托鉴虚行贿给已故宰相杜黄裳。之外，杜黄裳还通过鉴虚纳邠宁节度使高崇文钱4万5千缗。这些事情一经落实，薛存诚就将鉴虚逮捕下狱，定成死罪。这下捅了马蜂窝，—时朝中贵要，地方权臣，纷纷向唐宪宗保救鉴虚，众情难违，唐宪宗特下诏赦免鉴虚。但薛存诚拒不执行，并把诏书奉还。第二天，唐宪宗又下诏要亲自提审鉴虚，薛存诚让宣召的宦官回奏唐宪宗说“鉴虚罪款已具，陛下若召而赦之，清先杀臣，然后可取。”唐宪宗颇为薛存诚的胆识所动，于是改变初衷，对薛存诚下诏嘉奖，放手让薛存诚办理鉴虚一案，薛存诚即将鉴虚鞭笞处死。
薛存诚不仅敢于惩办权奸，而且还勇于雪冤良善，就在他任御史小丞时，江西镇监军高重昌诬奏本镇所辖信州刺史李位谋反。谋反为重罪，唐宪宗当即下诏调李位回朝受审。薛存诚觉得此事有冤情，在李位回朝后，他一日向唐宪宗三次上表，要求将李位交付御史台审讯。唐宪宗准允了他的请求。薛存诚接案后经过认真审查，认为李位无罪，特为其昭雪。
不久，薛存诚迁授给事中，但唐宪宗却找不到御史中丞的合适人选，很思念薛存诚，即对宰相说：执法不徇私，没有人能代替薛存诚。于是又任薛存诚为御史中丞。但薛存诚未及上任，就得暴病死去。唐宪宗深表惋惜，特下启赠他为刑部侍郎。
唐元和末年，御史中丞薛存诚由台丞升门下省要职给事中。不到一个月，他又升任副御史。御史府第，整洁肃穆，远离街市。他升任后搬了进去，觉得心旷神怡。他来到厅中吟了两句诗："卷帘疑客到，入户似僧归。"几个月后，看门的小吏正和衣而睡尚未睡深沉。他恍然间看见几十个僧童，拿着香花和印着佛名的幡旗，一边念着经文一边按顺序走进来。看门小吏斥道："这是御史的公署，你们这是作什么法事，高声喊叫地进来？"其中一个和尚自称识达，是中丞薛存诚的弟子，这次来迎接师傅的。他说："我师傅在吗？我们可以进去探望一下就把他接走吗？"看门小吏说："这是中丞大人的官署，本不是寺院，你们怎么能随随便便就进来呢？！"当即就要去捉拿识达。识达说："中丞原来是须弥山东峰静居院的罗汉大德，因为他错误地与佛祖说想涉足凡尘，被贬到人间五十年。现在五十年已满，我们所以来迎接他。这件事，你们这些人是不知道的。"看门小吏急忙要跑去报告，一下子从梦中惊醒。数天之后，薛存诚在公署患病而死，人们暗自一算，整好五十岁。
始，故人唐宰相鲁公，开府南服，余以布衣从戎。明年，别公漳水湄。后明年，公以事过张睢阳庙及颜杲卿所尝往来处，悲歌慷慨，卒不负其言而从之游。今其诗具在，可考也。
余恨死无以藉手见公，而独记别时语，每一动念，即于梦中寻之。或山水池榭，云岚草木，与所别之处及其时适相类，则徘徊顾盼，悲不敢泣。又后三年，过姑苏。姑苏，公初开府旧治也，望夫差之台而始哭公焉。又后四年，而哭之于越台。又后五年及今，而哭于子陵之台。
先是一日，与友人甲、乙若丙约，越宿而集。午，雨未止，买榜江涘。登岸，谒子陵祠；憩祠旁僧舍，毁垣枯甃，如入墟墓。还，与榜人治祭具。须臾，雨止，登西台，设主于荒亭隅；再拜，跪伏，祝毕，号而恸者三，复再拜，起。又念余弱冠时，往来必谒拜祠下。其始至也，侍先君焉。今余且老。江山人物，睠焉若失。复东望，泣拜不已。有云从南来，渰浥浡郁，气薄林木，若相助以悲者。乃以竹如意击石，作楚歌招之曰：“魂朝往兮何极？莫归来兮关塞黑。化为朱鸟兮有咮焉食？”歌阕，竹石俱碎，于是相向感唶。复登东台，抚苍石，还憩于榜中。榜人始惊余哭，云：“适有逻舟之过也，盍移诸？”遂移榜中流，举酒相属，各为诗以寄所思。薄暮，雪作风凛，不可留，登岸宿乙家。夜复赋诗怀古。明日，益风雪，别甲于江，余与丙独归。行三十里，又越宿乃至。
其后，甲以书及别诗来，言：“是日风帆怒驶，逾久而后济；既济，疑有神阴相，以著兹游之伟。”余曰：“呜呼！阮步兵死，空山无哭声且千年矣！若神之助固不可知，然兹游亦良伟。其为文词因以达意，亦诚可悲已！”余尝欲仿太史公著《季汉月表》，如《秦楚之际》。今人不有知余心，后之人必有知余者。于此宜得书，故纪之，以附季汉事后。
时，先君登台后二十六年也。先君讳某字某，登台之岁在乙丑云。