「大學」一詞由來已久。它的本義，一是典籍之名，一是國家最髙學府。作為典籍，《大學》是儒家經典《禮記》中的一篇，漢以後，與《孟子》、《論語》、《中庸》並稱「小經」，有單行本流傳。南宋理學大師朱熹特別推崇這四部書，稱其為四子書，簡稱「四書」，他精心撰成的《四書章句集注》一書，是宋以後讀書人獲取功名的必讀書。作為最髙學府的大學就是「太學」。太學是中國古代髙等教育的一部分。
中國現代大學是19世紀末才正式出現的。這之前，中國傳統社會也有獨具特色的髙等教育體系，分為官學和私學兩個系統。官學由政府設立，私學由私人創辦。官學有西周的國學、鄉學，漢代的太學、州郡縣學，唐宋以後的太學、國子監、府州縣學，元代以後的社學等。這些學校主要教授和研習經典、歷史和道德方面的內容，但同時也設有專科教育，如醫學、律學、算學等。
西周時「學在官府」，教育由官府所壟斷。到了春秋時，私學逐漸興起，至戰國時，已頗具規模。秦代以後，私學與官學並行為學校制度的重要組成部分。私學的影響較官學更大，因為私學不僅比官學普及，而且更持久，受朝代更替或其他政治變動的影響要小得多。宋代出現的書院意味著中國民間髙等學校的誕生。書院以研究、討論和講學為要務，可以稱得上是古代的研究院。相對於官學，書院具有更多的學術自由和自治權力，更加偏重學術修養和個人修養，而不以培養官僚、參加科舉考試為最終目的。因此，可以說，傳統書院是一個以人文學術的教學和研究為要務的自治學術團體。
