唐扬州(今属江苏)人，祖籍琅邪(治今山东临沂)，字广阳(一作广德)。父为南朝陈扬州刺史。曾师事陶弘景。陈后主召入宫廷，特加礼敬。隋开皇十二年(592)，晋王杨广(炀帝)迎入扬州镇所。大业七年(611)，炀帝召见于涿郡临朔宫，执弟子礼。后又在洛阳为建玉清玄坛。隋末，暗向李渊传符命，又恭维李世民(唐太宗)为“太平天子”。及太宗即位，将加重位，固辞，求归茅山(在今江苏金坛西南)。太宗特命资给人船、法服，为造太平观，赐田，度道士二十七人。高宗时谥升真先生，武则天时改谥升玄先生。门徒有潘师正、徐道邈等。