当地传说中，“古北口”之名是乾隆皇帝给起的。乾隆元年，乾隆帝前去热河途中经过古北口，感叹于长城内外的美景，便问刘墉此地为何名。

刘墉如实回“春秋时叫北口，北魏时叫出峡，唐时叫虎北口。”

乾隆帝心想：我来来去去从此口过，怎能叫“虎北口”！于是派刘墉前去查找此地有什么古迹，终于在城南门的门楣的城砖上找到“古关”二字，又在北门的门楣的城砖上找到“北口”二字。

乾隆帝便将此地改作“古北口”，流传至今。 1961年设古北口公社，1983年改乡，1990年建镇，称古北口镇。