如果追根溯源，“孝”字最早现于《尚书·尧典》中“以孝烝烝”。《礼记·祭统》篇也曾提到：“孝者，畜也。顺于道，不逆于伦，视之为畜。”东汉时期，许慎在其《说文解字》中描述到：“孝，善事父母者。从老省，从子。子承老也。”从孝的初始意义可以理解为尊敬祖宗、传宗接代和善事父母。
从甲骨文“孝”的字形可以看出，孝的本意是指年轻人背负老人，晚辈抚养长辈，也可以理解为老人与孩子之间的相互依靠。这也典型的体现了中国传统文化中的家庭孝道伦理结构与尊老敬老的社会观念。
根据文献查阅，目前学术界对于孝道的起源存在着三种说法：一是在《中国古代思想史》中，杨荣国先生提到“在殷代，有了孝的事实，当然也就说明那是确有了孝的思想的产生”，可见杨荣国先生推断孝道文化是起源于殷商时期。二是何平先生在《“孝”道的起源与“孝”行的最早提出》和肖群忠先生在《孝与中国国民性》中提出认为孝道文化是起源于周初。三是康学伟先生在其博士论文《先秦孝道研究》中提出“孝观念产生的前提条件具备于父系氏族社会”，可见在康学伟先生看来孝道文化源于父系氏族社会时期。总之，从现有的文献中，我们可以得知孝道文化应当起源于殷商或者周初之前的记载。此外，母系氏族社会时期，妇女有着很高的地位并且在生产中有着重要的作用，她们不仅是氏族的主持者和领导者，而且她们的活动在维系氏族集团方面起着中心环节的作用。可见妇女在母系氏族社会时期不仅作为母亲被奉养，而且作为领导者被尊崇，享有崇高的地位。《中国古代史》中记载母系氏族社会时期，主夫与主妻间虽然有相对的稳定，但仍很松散，子女仍然是“知母不知父”的状态。而《商君书·开塞第七》中提及“天地设而民生之。当此之时也，民知其母而不知其父，其道亲亲而爱私。”可见在母系氏族社会时期，也出现了孝道文化，但是究竟源于何时，学术界尚不能给出确切的回答。
另外，关于孝道源于什么的问题，目前学术界有两种比较流行的说法：一是源于祖先崇拜；二是源于生殖崇拜。
第一种是关于祖先崇拜的说法。肖群忠先生在其《孝与中国国民性》中提到“孝在其产生之初的周代，确实起源于政治上的传子制度。”其实，孝道在中国文化中一直处于非常重要的地位，《孝经》也表示孝乃“德之本也，教之所由生也”，同时还“具有祖先崇拜、尊祖敬宗的宗教人文意义”。笔者认为祖先崇拜的说法是有一定道理的，但是还不够确切。比如钱穆老先生认为，“儒家的孝道，有其历史上的依据，这根据是在殷商时代即已盛行的崇拜祖先的宗教。上古的祖先教，演变出儒家的孝道；在秦汉以后的两千年，儒家的孝道，又维系了这个古老的宗教。”笔者认为这种观点还有待讨论，关于祖先崇拜，其内涵虽然是很丰富，但是其时间都是模糊且有待考究的。因为单单是上古时期的宗教就是一个艰难发展的实践过程，先后经历了母系氏族和父系氏族两个社会时期。“由于人类最先生活在母系氏族社会里，其生殖观念偏重于女性，所以人类最先崇拜的是女性祖先；而后由于父权制的建立，女祖崇拜才被男祖崇拜取而代之。”也就是说母系氏族社会更早地步入了原始宗教的发展时期。先前也有提到母系氏族社会时期，孝道文化就已经产生，当时的敬老养老、尤其是对女性的崇拜也是尤为成熟。由此可知，孝道的来源不能够被简单的理解为一种祖先崇拜，同时还应该蕴含着尊祖敬宗、敬老养老的含义。
第二种是关于生殖崇拜的说法。通过查找和阅读关于儒家孝道文化的起源，不难发现它们之间有着一定的渊源关系。“生殖崇拜广泛影响到所有原始文化领域，它也是后世中国传统文化的最初泉源之一。就以对中国传统思想影响最大的道、儒两家而言，其源头都可以追溯到原始生殖文化。”儒家讲孝，其实际目的就是为了保证父权氏族和家庭的延续和兴旺，而中国传统文化是儒道互补的，但是孝道文化仅仅是来源于生殖崇拜吗？其实在氏族社会时期，繁衍后代固然非常重要，但更为重要的是氏族要在残酷的环境下生存下来，可见，生殖崇拜的起因是人类求生意志的一种体现。与先前论述一致，敬老养老比生殖崇拜本身更为重要。
本文根据现存甲骨文中得知，没有“孝”字，但是有“老”和“考”字，这与“孝”字有很大的相似之处，都有子孙尊敬和热爱先圣先祖的意义。至此，本文认为孝道不应该仅仅追溯源头，而是更加注重其原本的意义，根据儒家经典著作《孝经》的理解，孝道应该是天地人所遵循的道德原则与根本，是孝顺父母、尊老敬老的涵义。