“绥德”之名始于北朝，取“绥民以德”之意，即人民安定要以德政来教化。上古绥德为五龙氏地。夏、商为雍州地。春秋时属晋国。三国两晋时为并州地。西魏，设上县，置绥州和安宁郡。

隋开皇九年（589）改绥州为上州。唐乾元元年（758）改设绥州。五代十国至北宋太平兴国七年（982），先后被后梁、后唐、后晋、后汉、后周、西夏占据。宋元符二年（1099）为绥德军。金大定二十二年（1182）为绥德州。

明洪武初，于绥德州设延绥镇。清雍正三年（1725），升为直隶州。民国二年（1913）废州，设绥德县。民国二十三年（1934）国民政府在绥德设陕西省第二行政督察专员公署，境内东南部建立苏维埃政府，与国民政府地方政权并存。

1937年国共合作，八路军进驻绥德城，建立警备司令部。1940年2月29日全县解放，建立陕甘宁边区绥德分区督察专员公署。1956年绥德专署撤销，绥德县归榆林专署领导。1958年12月10日子洲、吴堡、清涧3县并入。1961年8月子洲、清涧、吴堡3县分出，绥德县恢复原境。1968年隶属榆林地区革命委员会。1979年隶属榆林地区行政公署。2000年7月1日至2010年隶属榆林市人民政府。