中国内地大学的通识教育起始于上个世纪九十年代的大学生素质教育。1995年原国家教委在武汉召开“文化素质教育试点工作会”，在会议倡导下，部分学校以公选课和文化基础课形式试点开设了大学生文化素质教育；1998年2月教育部结合试点情况出台了《关于加强大学生文化素质教育的若干意见》，对文化素质教育提出指导性意见：“我们所进行的加强文化素质教育工作，重点指人文素质教育。主要是通过对大学生加强文学、历史、哲学、艺术等人文社会科学方面的教育，同时对文科学生加强自然科学方面的教育，以提高全体大学生的文化品位、审美情趣、人文修养和科学素质”；此后，1999年教育部在32所大学中进一步引入了这种以人文素质教育为主的“文化素质教育课程”。
在开设文化素质教育课程的过程中，一些学校开始从已有的公共基础课、文化素质课和专业基础课等非专业课程群中，逐步探索性地参照西方尤其是美国的大学通识教育课程体系，收集遴选符合通识理念的课程。其中，北京大学在数学与自然科学、社会科学、哲学与心理学、历史学、语言文学与艺术等五个领域内开设系列课程，作为全校学生的素质教育通选课；复旦大学专门成立了通识教育研究中心，将全校课程分为综合教育、文理基础教育和专业教育三大板块，其中综合教育板块中有人文学与艺术、社会科学与行为科学、自然科学与数学三大组，要求低年级不分专业，选修综合教育和文理基础教育的课程，促进跨学科交流和综合训练；武汉大学在公共选修课中，挑选带有普遍性的51门为“通识教育指导选修课”和200门“通识教育任意选修课”，每门约2至3学分，规定大学生需修满不少于12学分的通识课程。与此同时复旦大学、西安交通大学等高校以香港中文大学的书院制为样板，探索建设推进通识教育的组织形式。
从2000年开始，中国内地业已形成了一股书院制和通识教育改革之风。2015年11月，北京大学、清华大学、复旦大学和中山大学成立“大学通识教育联盟”，推动我国通识教育迈向新阶段；2016年6月26日举行的第二届大学通识教育联盟年会上，重庆大学、南京大学、武汉大学、厦门大学、香港中文大学和浙江大学六所高校代表签署了《大学通识教育联盟章程》，至此，大学通识教育联盟已汇集了中国内地和香港十所高等学府。
但是，在实践方面，内地各高校对通识教育改革持有积极的态度，进展迅速，但是，另一方面，在对通识教育本土化方面又缺乏深思与共识。到目前为止，内地高校在通识教育的目标、课程体系内容、形式等方面尚未形成共识，仍处于“谨慎”的探索阶段，国内高校的通识课程学分大多在12至16个学分，约占课程数的10%，相比之下，美国高校通识教育课程占全部课程比例通常达1/3以上。