林州市位于河南省最北部的太行山东麓，地处豫、晋、冀三省交界处，是红旗渠的故乡，红旗渠精神发祥地。林州市原名为林县，1994年撤县设市，更名为林州市。
关于林县的名字，据《元和郡县志》记载，东汉建武年间，县境内置隆虑县，北魏孝文帝太和二十一年（公元497年）置林虑县，因“城侧有林虑山”而得名。隋开皇十六年（公元596年）置岩州，大业初年（公元605年）废州，复置林虑县，唐贞观元年（公元627年）改林虑县为林州，并置临淇县，属河北道相州。开元二十七年（公元739年）复置岩州，天宝元年（公元742年）改岩州为林虑郡，乾元元年（公元758年）复为林州。宋开宝三年（公元970年）废林州，置林虑县，属河北西路相州。熙宁六年（公元1073年）复置林州，政和七年（公元1117年）升林州为顺天军节度。金贞祐三年（公元1215年）置昭德府，领林州。兴定三年（公元1219年）废昭德府，复置林州，属河东南路。元中统三年（公元1262年）属中书省彰德路。明洪武二年（公元1369年）降林州为林县，属河南布政使司彰德府。清代沿袭明制，林县属河南省彰德府。民国初年属河南省豫北道，道废后直属河南省。
因此，林州的名字源于其历史上的林虑县和林州，这些名称都与地理位置相关。1994年撤县设市时，为了避免与山东省的临朐县重名，将林县更名为林州市，一直沿用至今。