古人形容“泰山吞西华，压南衡，驾中嵩，轶北恒，为五岳之长”。中国古代神话传说中，盘古死后，头部化为泰山。据《史记集解》所载：“天高不可及，于泰山上立封禅而祭之，冀近神灵也。”古代传统文化认为，东方为万物交替、初春发生之地，故泰山有“五岳之长”、“五岳独尊”的称誉。自古以来，中国人就崇拜泰山，有“泰山安，四海皆安”的说法。古代历朝历代不断在泰山封禅和祭祀，并在泰山上下建庙塑神，刻石题字。古代的文人雅士对泰山仰慕备至。泰山宏大的山体上留下了20余处古建筑群，2200余处碑碣石刻。
泰山崛起于华北平原之东，凌驾于齐鲁平原之上，东临烟波浩淼的大海，西靠源远流长的黄河，南有汶、泗、淮之水，与平原、丘陵相对高差1300米，形成强烈的对比，因而在视觉上显得格外高大的节奏感和“一览众山小”的高旷气势；山脉绵亘100余千米，盘卧426平方千米，其基础宽大产生安稳感，形体庞大而集中则产生厚重感，大有“镇坤维而不摇”之威仪。所谓“稳如泰山”、“重如泰山”，正是其自然特征在人们生理、心理上的反映。六朝任昉《述异记》载，秦汉时，民间传说盘古氏（远古时开天辟地,代生万物的神人）死后头为东岳，左臂为南岳，右臂为北岳，足为西岳。盘古尸体的头向东方，而且化为东岳，泰山就成了当今的五岳之首了。这显然是根据《五行》、《五德》学说创作的神话故事，反映了泰山独尊五岳的历史背景。
泰山的形成经历了一个漫长而又复杂的演化过程，大体上可分为古泰山形成阶段、海陆演化阶段和泰山形成阶段。
在太古代时期，泰山曾经是鲁西巨大沉降带或海槽的一部分，堆积了很厚的泥砂质和基性火山物质。后来经过泰山运动，褶皱隆起成为巨大的山系，同时发生一系列断裂、岩浆活动和变质作用。形成了由各种变质杂岩和岩浆岩组成的泰山杂岩。
耸立在海平面上的古泰山，经过长期风化剥蚀，地势渐趋平缓。古生代初期，华北广大地区大幅度下降，古泰山亦随之沉没到海平面以下，在古老变质杂岩的基底剥蚀面上，沉积了一套近两千米厚的寒武—奥陶纪的石灰岩。中奥陶世末，在加里东运动的影响下，华北地区整体上升为陆，经历了一个相当长期的沉积间断。至中石炭世初，发生短暂的升降交替，泰山地区处于时陆时海的环境，在中奥陶统的剥蚀面上，沉积了中、晚石炭纪的海陆交互相合煤岩系。而后，泰山地区持续上升，进入大陆发展阶段。