庐山的形成只能是地质年代地壳构造运动的结果。在遥远的地质年代，这里原是一片汪洋，后经造山运动，才使庐山脱离了海洋环境。现今庐山上所裸露的岩山，如大月山粗砂岩，就是元古代震旦纪的古老岩石。那个时代的庐山并不高，在漫长的地质年代里，它经历了数次海侵和海退。庐山大幅度上升是在距今约六七千万年前的中生代白垩纪。

当时，地球上又发生了强烈的燕山构造运动，位于淮阳弧形山系顶部的庐山，受向南挤压的强力和江南古陆的夹持而上升成山。山呈肾形，为东北一西南走向，形成了一座长25千米、宽10千米、周长约70千米，海拔1474米以上的山地。这就是千古名山庐山的形成过程。