芒刺在背的成語典故出自于《漢書·霍光傳》，書中記載了這樣的故事：
漢宣帝劉詢為帝為，去謁見祖廟，他乘坐一輛裝飾華麗的馬車，霍光就坐在馬車一側陪侍，皇帝見霍光身材高大，臉容嚴峻，不由自主地覺得非常畏懼，惶恐不安，就像有芒刺在背上那樣難受。