山东是一个历史悠久的省份，它的石器时代文明遗址可以追溯到8500年前，根据史书记载，当年大禹分九州，山东位属青州。在商朝之前此地是商部落活动的地带，也是后来商朝的核心统治区域之一。周朝建立后，周武王将自己的四弟周公封于鲁，鲁这个名字也就一直流传了下来。
在1919年的巴黎和会上，列强要将德国在山东在权益转赠给日本，著名的外交家顾维钧在演讲台上痛斥此举，极言山东对于中国的重要性，并做了一个经典的比喻：山东之于中国，正如耶路撒冷之于西方，西方不能失去耶稣，中国不能失去孔子！
孔子毫无疑问是山东历史上最著名的人物，他创立儒家学派，其思想深深地影响了中国数千年，直到今天中国在某种程度下还是一个儒家社会。孔子号称“至圣”，在古代中国思想界拥有至尊的地位，在他之后山东又出了“亚圣”孟子，这个“亚”当然是仅亚于孔子。孔子的亲传弟子曾子，人称“宗圣”，也是山东人，众所周知，他是一个大孝子，他的存在直接塑造了中国人的“忠孝观”。我们只要知道儒家在中国古代的重要地位，就会知道，顾维钧先生在巴黎和会上所说的那番话确实有道理。
滕国人墨子（也有说是鲁阳人，宋国人）在先秦年代拥有可以和孔子相提并论的影响力，“孔墨之争”说的就是这两大显学之间的较量。如果有人说中国古代没有科学的理论和思想，墨子就是反驳他的最好例子，墨子是中国古代逻辑学的开拓者，在认识论方面也有突出成就，他重视实践，人称“科圣”。但是在墨家学派后来就陨落了，这是无数人为止惋惜的事情，如果墨子的思想能被延续，近代的百年国耻可能就不存在了。
除了以上几位思想界的宗师，在军事领域，山东人物也有突出的影响力，人称“兵家至圣”的孙武就是出于山东，他的《孙子兵法》被称为“兵家圣典”，地位超群。齐国的缔造者姜子牙，更是被成为“百家宗师”，“武祖”。田穰苴，吴起，秦叔宝，程咬金，戚继光等人都是古代的山东名将。
除此之外，山东还有“智圣”诸葛亮，“匠祖”鲁班，“书圣”王羲之等，这些人在他们的领域的地位我们就不必多说了，属于那种只能被供奉起来参拜的人物。