隋河南洛阳人，一说天水陇西(今甘肃陇西东南)人。粗壮有力。仕北周，以平北齐功累迁上仪同，兼赵郡太守。助平王谦，进位大将军。入隋，历石州刺史、朔州总管。法令严猛，境内称治。又主持塞北屯田事，收获岁广，边戍无馈运之劳。开皇十九年(599)，破突厥达头可汗，进位上柱国，复任检校司农卿。仁寿二年(602)，奉命往益州按问蜀王杨秀事，深文致法，牵连大半州县长吏，文帝以为能。炀帝即位，判兵部、工部尚书事。