在距今20多亿年之前，这里是一个南北狭长的地槽洼地，由当时已隆起的古陆上搬运而来的各种物质在此沉积下来，形成了厚达万米的沉积层。古元古代末期吕梁运动来临，贺兰山在构造运动作用下从海水中跃出，成为陆地。与此同时，炽热的岩浆也乘虚而入，顺着构造裂隙涌出地面，形成大面积的花岗岩岩体和侵入体，贺兰山东侧一些沟谷中出露的斜长石花岗岩岩体，经“钾氩法”测定，其生成年龄为距今大约18.4亿年，就是这一时期岩浆活动的产物。
中元古代，贺兰山地区重又下沉而被海水淹没，但这时的海洋中已不再沉寂，生命物质正在孕育。
在距今10亿年前的新元古代，构造运动使贺兰山再度隆起，而在随后的3亿—4亿年中，贺兰山区处于一种升降拉锯阶段。伴随着气候的节律性变化，贺兰山地区曾一度为冰雪覆盖，度过了漫长的冰期。其后，随着气温的回升，冰雪消融并汇成一股股汹涌的水流，挟带着石块，冰块和沙砾由高处滑落。在贺兰山一些沟谷中发现的震旦系冰碛石就记录着这段地史。
在距今6亿年之前，贺兰山地区重又下沉被海水淹没。在随后的3亿年中，贺兰山进入了一个全新的演变时期，生物的进化和繁荣达到了前所未有的程度。晚奥陶纪以后，贺兰山地区又一次隆起成山，经受了长达亿万年的剥蚀与夷平，在贺兰山区巨厚的地层序列中，缺失晚奥陶系—早石炭系。
晚石炭纪至二叠纪，贺兰山地区地壳变动十分频繁，时而上升，时而下沉，最后演变为湖沼相沉积环境。
到了距今2.5亿—0.7亿年间的中生代，在三叠纪和侏罗纪早期，贺兰山地区是相对稳定的准平原陆相环境。侏罗纪晚期到白垩纪，贺兰山地区在燕山运动的作用下开始上升，最初的上升运动是和缓的，但后来构造运动变得极为强烈，在距今8000万年时，贺兰山一举升起，奠定了山势。
新生代第三纪期间，贺兰山地受喜马拉雅造山运动的影响，继续上升并遭受剥蚀，而东侧的银川平原此时则从古贺兰山的基础上脱离出来，断块下降，接受沉积。由于青藏高原的强烈隆起和古地中海的消失，行星风系控制的环流形势被季风环流取而代之，湿润气流难以到达，贺兰山地区的气候的大陆性逐渐增强，气温也有所下降，但贺兰山及其周边地区还是以一种森林植被为主的自然景观。
距今200多万年以来，第四纪，是一个以黄土堆积和冰川活动最为典型的时代，贺兰山在此期间曾几度为冰川覆盖，有人认为出现过四次冰期：高山冰期、镇木关冰期、火烧圈冰期、贺兰冰期。第四纪贺兰山地区的景观继续旱化，森林植被逐渐为草原植被所替代。贺兰山的最后一次冰期出现在距今31000—12000年的晚更新世，相当于玉木冰期，冰斗冰川和山谷冰川发育，冰川作用和冰缘作用在贺兰山刻下了深深的印记