泰山和孔子产生关系，是在孔子长大成人之后。一是孔子到过泰山。司马迁在《史记》中并没有直接提及孔子过泰山和登泰山，唯一提及泰山的是孔子临逝前歌曰：“泰山其颓乎？梁木其坏乎？哲人其萎乎？”，但是根据《史记》中对孔子到过齐国和齐鲁两国夹谷会盟的记载，以及相近年代的记述，人们分析，孔子起码有三次到过泰山。孔子35岁到齐国，泰山是齐鲁分界线和必经之地；夹谷现今位于济南市莱芜区附近，这个地点位于泰山东麓；战国时期孟子的著作《孟子·尽心上》中说：“孔子登东山而小鲁，登泰山而小天下。”

　　鲁哀公十一年（前484），孔子自卫返鲁。孔子此时已是68岁高龄，漂泊奔走了14年。老年归国，心情复杂，途经泰山时，感慨万分，他写下了《丘陵歌》：登彼丘陵，峛崺其阪。仁道在迩，求之若远。遂迷不复，自婴屯蹇。喟然回顾，题彼泰山。郁确其高，梁甫回连。枳棘充路，陟之无缘。将伐无柯，患兹蔓延。惟以永叹，涕霣潺湲。因此，孔子活着的时候，和泰山多次产生“到过”的交集。