學校創辦于1978年，原稱山西師范學院呂梁專科班；1984年山西省人民政府批準建立呂梁師范專科學校；1990年教育部批準呂梁師范專科學校與籌建中的呂梁理工專科學校合并建立呂梁高等專科學校；2010年3月經教育部批準學校升格為本科高校。