殷商时为畿内牧野地。 周武王灭纣,封邶、鄘、卫三国,此地属鄘。成王平武庚叛乱后,邶、鄘并于卫,此地属卫。春秋时期,卫遭狄侵,戴公东渡,此地更属于晋。 战国时期,属魏,始有汲邑之称。
秦初属河东郡东境,后属秦河内郡。西汉高祖二年(公元前205),始置汲县,属河内郡。十一年
(公元前196),封公上不害于汲,称终侯(即汲绍侯),国名汲。东汉顺帝年间(126至144),县令崔瑗筑县城于今卫辉市孙杏村镇汲城村。曹魏属朝歌
郡。晋泰始二年(266),为汲郡治所。北魏道武帝登国元年(386),迁郡治于枋头(今浚县枋城),孝文帝太和二年(488),郡治复迁汲县。
东魏兴和二年(540)夏,西魏行台宫延和、陕州刺史宫元庆率户归属东魏,侨置义州于陈城(今
卫辉市区),辖伍城郡、伍城县等7郡19县。北齐废义州存伍城郡。北周武帝宣政元年(578),废汲郡、伍城郡,置卫州,州治朝歌,改汲县为伍城县,属卫
州,县治设陈城,原汲城县废。
隋文帝开皇六年(586),改伍城县为汲县。炀帝大业三年(607),改卫州为汲郡,郡治卫县
(今浚县卫贤),汲县属之。唐高祖武德元年(618),设义州,州治汲县。武德四年(621)废义州,汲县改属卫州,州治卫县。贞观元年(627),州治
移汲。宋金州治除先后短时间迁共城和胙城外,其余时间均在汲县。
元世祖中统二年(1260),为卫辉路治所。明清为卫辉府治所。