秦始皇二十五年(前222)置。治巨鹿县(今河北平乡县西南平乡镇)。辖境相当今河北白洋淀、文安洼以南，高阳、宁晋、任县以东，鸡泽、威县、清河以北，及山东德州、高唐、武城、临清等市、县之间地区。西汉高帝九年(前198)，分东北部置河间郡，东部置清河郡;汉武帝元朔元狩间分南部置广平郡，辖境缩小至今河北宁晋、晋州、柏乡、隆尧、巨鹿、平乡、广宗、新河、辛集等市、县地。东汉移治廮陶县(今宁晋县西南)，属冀州。西晋太康中改为国，后复为郡。北魏永安二年(529)分为二：一属殷州，治廮遥县(今宁晋县)，北齐废;一属定州，治曲阳县(今晋州市西)，隋开皇初废。唐天宝、至德时又曾改邢州为巨鹿郡。