榆林市境内地质构造单元上属华北地台的鄂尔多斯台斜 、陕北台凹的中北部，东北部靠近东胜台凸，是块古老的地台，未见岩浆岩生成和岩浆活动，地震极少，形成了丰富的矿产资源种类。

地势从西北向东南缓倾，白于山、横山山脉、长城岭连线构成境内地势脊线，全境大体可分为4个台阶，山文地较少 ，除白于山、横山等低山外，有几条梁地。西南部平均海拔1600～1800米，其他各地平均海拔1000～1200米。境内无定河、秃尾河、窟野河、佳芦河、皇甫川、孤山川、清水川、石马川等53条河流汇入黄河，径流季节、年际变化大。壕赖河等7条季节性内陆河注入红碱淖。

榆林以长城为界，地貌分为风沙草滩区、黄土丘陵沟壑区、梁状低山丘陵区三大类。北部风沙草滩区面积约15813平方千米，占全市面积的36.7% 。沙丘绵延，交错分布有大小不一的内陆海子、湖盆滩地、河谷滩地，土地广阔，光照充足，水资源相对丰富。南部为黄土丘陵沟壑区，属黄土高原腹地，面积约22300平方千米，占全市面积的51.75%。沟壑纵横，峁梁交错，地貌复杂多样，65%以上的土地为陡坡地。气候温凉干旱，水资源相对贫乏。梁状低山丘陵区主要分布在西南部白于山区一带无定河、大理河、延河、洛河的发源地，面积约5000平方千米，占全市面积的11.55%。地势高峻，梁塬宽广，梁涧交错，土层深厚，水资源缺乏。土壤大体分为北部草原土壤地带和南部草原化森林草原土壤地带，黄土与风沙构成最显著的自然特色，各种自然因素都表现出过渡性和自然地带边缘性特征，自然景观类型复杂多样。