在古代漢語中，除了指個頭矮小的人之外，小人這個詞還有多種含義。
最早小人也稱為「野人」、「鄙人」，和「國人」相對。城邑四郊之外的土地稱為「野」或「鄙」，住在這些偏遠地區的人就被稱為「野人」或「鄙人」。 商代的野人絕大多數是戰俘，實際是奴隸。周代把偏遠地區的居民和非本部族的地位低下的平民都稱為野人，國人有姓氏，野人無姓氏；國人可以接受教育，野人只能務農。 《左傳‧僖公二十三年》中「（重耳）乞食於野人，野人與之塊」中的野人，指的就是這種鄉下耕種的農民。小人還被用來指統治階級之外的平民百姓，如《尚書‧無逸》：「生則逸，不知稼穡之艱辛，不聞小人之勞，惟耽樂之從。」這是周公提醒周王要體恤平民百姓勞仍的艱辛，不要沉迷於享樂的話，其中小人就是指平民百姓。
除了指地位低下的人次外，小人還可以用於謙稱或蔑稱。古時候男子對地位高於自己的人時，往往自稱小人。如《左傳‧隱公元年》：「小人有母，皆嘗小人之食矣，未嘗君之羹。」這裡的小人就是潁考叔對鄭莊公的謙稱。 對於知識淺薄或者人格卑劣的人，也可以用小人來稱呼，以表示輕蔑。如《論語‧子路》：「樊遲請學稼，子曰：「吾不如老農。」請學為圃，曰：「吾不如老圃。」樊遲出。子曰：「子人哉，樊須也！」」孔子認為樊遲知識淺薄，所以用小人來稱呼他。《論語‧陽貨》中「唯女子與小人為難養也」中的小人，則是指品行卑劣之人。
