秦朝时期名为三川郡。西汉高帝二年（公元前205年）改为河南郡，治所在雒阳(今河南洛阳)，其时辖地在今河南黄河南部洛水、伊水下游，双洎河、贾鲁河上游地区及黄河北部原阳县一带地区，辖二十二县，大致相当于今河南省孟津、偃师、巩义、荥阳、原阳、中牟、郑州、新郑、新密、临汝、汝阳、伊川、洛阳等县市。东汉时期既都洛阳，为提高河南郡的地位，东汉光武帝十五年改为河南尹。隋朝初年被废，后又复为豫州河南郡。唐朝时期为洛州河南府，其辖境都远小于汉朝时期的河南郡。元朝时期为河南路，明、清两朝时期均为河南府。民国时期建为河南省。