隋大业三年(607)改灵州置。治回乐县(今宁夏灵武市西南)。唐武德元年(618)复为灵州，天宝元年(742)又改为灵武郡。属关内道。辖境相当今贺兰山东麓，宁夏中卫、中宁县以北，盐池县以西地区。为朔方节度使治。十五载，安禄山攻破潼关，玄宗奔蜀，朔方留后杜鸿渐等迎太子李亨即位于灵武城南楼，以此为根据地，恢复唐朝统治。乾元元年(758)复为灵州。宋初，犹称灵州为灵武郡。《续资治通鉴长编》：咸平二年(999)丞何亮上《安边书》云：灵武“地方千里，表里山河，水深土厚，草木茂盛，真牧放耕战之地”。