樂府最早指由朝廷設立的一個音樂管理機構。從出土的文獻來看，樂府從秦代就已經開始設立，漢代的時候沿用了這種機構，但最早屬於一個臨時機構。
根據《漢書•禮樂志》的記載，公元前112年，漢王朝正式設立樂府，它負責收集編纂各地民間音樂、整理改編與創作音樂、進行演唱及演奏等工作，它的采詩地區，包括燕、趙、代、秦、齊、楚、吳周等廣大區域，采詩的目的在於瞭解民間風俗，為統治階級提供政策依據。這些採集來的民歌給配上音樂，因此稱配樂的歌為樂府詩，或者簡稱樂府，這種稱呼在魏晉南北朝時已經非常普遍。這樣，樂府就由一個機構的名稱變為一種詩歌體裁的名稱了。
漢魏六朝是樂府詩創作的高峰期，大量的樂府詩中既有文人詩歌，也有民間詩歌，民間詩歌更是其中的精華，其中《木蘭詩》和《孔雀東南飛》以其高超的藝術水準被稱為樂府民歌中的「雙璧」，是中國詩歌史上膾炎人口的詩篇。 文學評論家劉勰的《文心雕龍》中對樂府詩的產生、發展演變、體裁特徵作了較為詳細的說明。昭明太子蕭統的《文選》、徐陵的《玉台新詠》開闢了樂府專欄，郭茂價的《樂府詩集》則是專門收集樂府詩的詩歌總集。以杜甫、李紳、白居易等人為代表的唐朝詩人或自立新題作樂府詩，或借用古題寫時事，他們創作樂府詩的目的在於針絕時弊，反映民間疾苦，詩歌也不再配音樂，因此，唐代的樂府詩被稱為新樂府。
