秦始皇帝二十六年(公元前221年) 于今县地置零陵县，治所在今县城西南39公里处。属长沙郡。
西汉元鼎六年(公元前111年) ，在县境东北部又置洮阳县，治所在今永岁乡梅潭村后坡上。当时，县境南北并存零陵、洮阳二县。同年，又置零陵郡，郡治驻零陵县。洮阳、零陵两县地属零陵郡。
王莽始建国元年(9年) 改洮阳为洮治。东汉建武初，复称洮阳。建武年间(25～55年)，零陵郡治从零陵迁至泉陵(今湖南省永州市北)。是时，零陵县对郡而言，称小零陵。
三国时期，刘备逝世(223年) 前，零陵(小零陵)、洮阳属蜀，之后属吴。晋、宋、齐、梁、陈，零陵、洮阳属荆州、湘州零陵郡。
隋开皇十年(590年) ，废零陵、洮阳、观阳(今灌阳县)三县置湘源县，县治在今城郊乡柘桥村，又废零陵郡置永州总管府，湘源县隶之。隋大业三年(607年) ，裁永州总管府，复零陵郡，仍辖湘源县。府、郡治所在今湖南境。有唐一代，湘源县隶江南西道永州。五代，梁太祖朱温开平元年(907年)封武安节度使马殷为楚王，湘源县属马氏楚国。
后唐天成元年(926年) ，李嗣源称帝(明宗)，因避其讳，将湘源改为湘川。仍属马氏楚国。后晋天福四年(939年) ，从楚王马希范奏置全州，改湘川县为清湘县，与灌阳同属之，州治今柘桥村。后周显德三年(956年)，州治从柘桥迁至今全州镇。
宋置荆湖南路，全州、清湘县名不变，隶属荆湖南路。南宋绍兴元年(1131年)，改听广南西路安抚司节制。
元至元十四年(1277年)，改全州为全州路，仍领清湘、灌阳2县。属湖广行省。(注)
明洪武元年(1368年)，改全州路为全州府，辖县如旧。洪武九年，降为全州，并撤清湘县，其地属全州，改隶湖广永州府。洪武二十七年(1394年)八月，韩观奏请将全州改隶广西桂林府。自此，全州为广西属地。清代，仍称全州，隶桂林府，但不辖灌阳县。
民国2年(1913年) ，改全州为全县，先后属漓江道、桂林道及桂林民团区、桂林行政监督区、省府直辖、第八行政督察区。民国21年定为一等县，民国28年改为一等乙级县。民国24年，将县属西延区析出合兴安车田、浔源两乡置资源县。
1949年11月17日，全县解放，属桂林专区。1950年，将全县所辖西南边界的新田、百里、下界首3村(街)划归兴安县，1951年把南部边境的大龙、国豪、罗塘3村划给灌阳县管辖。同年，湖南省道县所属的白岭乡，零陵县所属的豹子岭、辽冲、黄腊洞、上窗、皎盐岩、早禾冲、以及何家洞乡所辖的灵牌山、耗草坪、长垒、长冲等地划归全县。灌阳县的古木、斜水、雷公岩划归全县，属东山瑶族自治区管辖。1952年7月资源县撤销，将延东、中峰、梅瓜3个区并入全县。1954年6月恢复资源县建置，延东、中峰、梅瓜3个区又划归资源。1957年秋，凤凰区宅福小乡的宅福村、仰田、紫福田、屯川村；畔毗小乡的龙井塘、铁炉塘、水岗头、月亮山、枫木山李家划归兴安县。还有畔毗小乡的畔毗村、松山里、老金塘、新金塘，刘家、秦家、鸭婆殿、枫木山秦家、沙里塘、老房子、炭盆岭、学里、湾里、石子桥、塘边亦划归兴安县，但这些村的群众不愿归属兴安县，不久又划归凤凰乡。1959年10月经国务院批准，全县更名全州县至今。