中國地域遼闊，各個地域的人們習俗、信仰、語言皆有很大差異，這些地區的人們在交流時不得不尋求共同點，否則很難順利溝通。各地語言千差萬別，南腔北調，常常是對面相語不知所云。普通話是不同地域的人們溝通交流的重要工具，它為操持不同方言的人提供了一個交流的切入點。
普通話的設想，來自於古人的構思。中國最早的普通話是以周朝地方語言為基礎的，它已有三千多年的歷史。早在孔子生活的年代，人們已經通用當時的普通話，即雅言來進行溝通。雅言是當時各種語言的標準語音，這種標準語可使華夏地區的人都能聽懂，也是當時的官話，類似於我們現在的普通話。雅有雅正的意思，雅言就是合於一定規範的語言。在先秦時期，人們已經達成共識，認識到了雅言的功用。《荀子》就曾說「君子安雅」，認為君子們應該慣用雅言。
古代的普通話還有「官話」的別稱，這體現了古代普通話與都城所在地關係密切，幾乎就是各朝都城附近的方言。這種傾向早在雅言興起時便很明顯了，比如先秦雅言可能是以洛陽方言為基礎的共同語，秦漢時以關中方言「秦語」為基礎的通語，隋唐時代則以洛陽話為中心，元代以後轉換成為以北京話為中心。晉代政治中心南移之後，全國的通用語言也逐漸分為南北兩支。北方以洛陽雅言為標準音，南方以建康雅言為標準音。
為了順利交流，古代也曾強行要求不同地域的人們學習通行的語言。清朝雍正年間（1728年）還設立了正音館，正式確立以北京官話為官方地位。通行語，對於民族融合、文化統一都曾作出過不可估量的貢獻。
