在古书典籍中，有关“尚方宝剑”的记载，最早出现于《汉书．卷六十七．朱云传》曰︰“今朝廷大臣上不能匡主，下亡以益民，皆尸位素餐，孔子所谓‘鄙夫不可与事君’，‘苟患失之，亡所不至’者也。臣愿赐尚方斩马剑，断佞臣一人以厉其余。”
据载，西汉成帝时，朱云是地方县令，他身高体壮，喜欢结交重义之人，以勇力驰名。当时的丞相安昌侯张禹因病罢官，皇帝赐他高车驷马、黄金百斤，让他告老回乡，又因张禹曾为皇帝的老师，并加封为特进一职，以丞相礼待之，对他极为尊崇。
有一次，朱云上书求见成帝，当着公卿大臣的面，朱云说︰“现在朝廷大臣，对上不能辅佐皇上，对下不能有益于百姓，都是占著职位享受俸禄却不做事，就像孔子所说，‘不与人格卑陋的人一起侍奉君主’、‘一个人如果担心失去宠禄，言行就会不合正道，那就没有什么事做不出来的。’臣请求陛下赐尚方斩马剑，斩一奸臣，用以激励其他官员。”
汉成帝问︰“你要杀谁？”朱云回答︰“安昌侯张禹。”皇上一听大怒，说︰“你一个小官竟居小位毁谤上级，在朝廷上污辱我的老师，当死不可赦。”御史推他下殿，朱云死命的抓住殿前栏杆，栏杆被他拉断。
朱云大声高呼︰“微臣得以和关龙逢（夏桀时大臣，因忠谏被杀）、比干（商纣时大臣，因忠谏被杀）在九泉之下交往，也就满足了，只是不知道朝廷将要如何？”御史强行将他拿下准备处死。
此时，左将军辛庆忌摘掉官帽，解下官印，在大殿上叩头说︰“朱云一向性情狂直，早已人尽皆知。假如他说的有理，不能杀；说的不对，也应当宽容他。臣愿以死相保，请求免他一死。”
辛庆忌不断叩头，直到额头流血，成帝的怒气才消解，免了朱云死罪。后来要修治栏杆，成帝说︰“不要换！把旧栏杆稍做修补，用它来表彰直言谏诤的臣子。”这段记载就是历史著名的“朱云折槛”的故事，用来比喻直臣冒死进谏。故事中所说的“尚方斩马剑”，就是指皇帝的御用宝剑。
那么，为什么皇帝的御用宝剑称为“尚方宝剑”呢？
中国古代官制，秦汉时建立以皇帝为中心的三公九卿制。三公分别掌理行政、监察、军事；九卿则是中央政府各部门的主要行政首长，少府为九卿之一，主掌山海池泽之税和官府手工业制造，以供应皇室。尚方，为少府的一个属官。
尚，通“掌”，有主管其事之意。尚方，主要掌管制造、储藏、供应帝王及皇宫中所用刀剑、衣食及日用玩好器物。秦设置尚方令，汉朝沿置，设有令、丞、员吏、从官等十八人，汉末又分为中、左、右三尚方。魏、晋续置，唐朝称“尚署”，设中、左、右三尚署。元朝只设置中尚监，到了明朝就废除了。
“尚方宝剑”就是由“尚方”所铸造的宝剑，是古代皇帝御用的宝剑，又称为势剑、尚方剑、上方剑。古代皇帝派大臣处理重大案件时，常赐以“尚方宝剑”，表示授予持有者全权，享有先斩后奏、便宜行事的特权。
又尚方所制的御用剑，剑刃锋利，言可斩马，故又称为“尚方斩马剑”。如《汉书．朱云传》曰︰“臣愿赐尚方斩马剑。”唐朝颜师古．注：“尚方，少府之属官也，作供御器物，故有斩马剑，剑利可以斩马也。”
