华山山名最早出现在《山海经》和《禹贡》中，即公元前3世纪就有“华山”之名。
《水经·渭水注》载：“其高五千仞，削成四方，远而望之，又若花状。”古“花”、“华”通用，故“华山”即“花山”。
《白虎通义》载：“西方为华山，少阴用事，万物生华，故曰华山。”
华山被称为“西岳”与东岳泰山并称，最早见于《尔雅·释山》一书。西岳这一称呼据说是因平王东迁，华山在东周王国之西，故称“西岳”。秦帝国建都咸阳，西汉帝国建都长安，都在华山之西，所以华山不再称为“西岳”。直到东汉建立，华山又恢复了“西岳”之称，并沿用至今。
华山地处黄河中游流域，与黄河一起孕育了中华民族。据历代专家学者研究考证，古代华夏文明主要聚集在以华山为中心的方圆500千米范围内。
《书经·禹贡篇》载华山为“轩辕黄帝会群仙之所”，后人推测应该是黄帝在此与各部落酋长会盟。此后，华山声名日隆。《书经》、《资治通鉴》等书均记有“唐尧四巡西岳”、“舜三巡西岳”。《舜典》载：（舜帝）八月西巡狩，至于西岳。
由于华山太险，所以唐代以前很少有人登临。历代君王祭西岳，都是在山下西岳庙中举行大典。《尚书》载，华山是"轩辕皇帝会群仙之所"。《史记》载，黄帝、虞舜都曾到华山巡狩。据记载，秦昭王时命工匠施钩搭梯攀上华山。
秦始皇首祭华山，汉唐以来，封号递增，愈演愈烈，汉武帝敕修西岳庙前身集灵宫；汉元延二年（前11年），汉成帝巡幸河东，涉西岳而归。
魏晋南北朝时，还没有通向华山峰顶的道路。直到唐朝，随着道教兴盛，道徒开始居山建观逐渐在北坡沿溪谷而上开凿了一条险道，形成了"自古华山一条路"。
唐武德二年（619年），唐高祖大猎于华山；是年，唐高祖送李世民东征祭山 ；唐上元元年（674年），唐高宗较猎于华山下曲武原；其中尤以唐玄宗以与华山为本命，封华山神少昊为金天王为最。唐天宝九年（750年），群臣请奏封禅西岳，唐玄宗命人开凿华山路，设立坛场。
宋太祖赵匡胤与华山道士陈抟来往密切，得道治天下；明太祖朱元璋梦游西岳，定华山名号；清朝从顺治、康熙、雍正、乾隆一直到光绪祭祀不断。
