卫玄，字文升，河南洛阳人也。玄少有器识

卫玄，字文升，河南洛阳人也。玄少有器识。高祖作相，检校熊州事。和州蛮反，玄以行军总管击平之。及高祖受禅，迁淮州总管，进封同轨郡公，坐事免。
仁寿初，山獠作乱，出为资州刺史以镇抚之。玄既到官，时獠攻围大牢镇，玄单骑造其营，谓群獠曰：“我是刺史，衔天子诏安养汝等，勿惊惧也。”诸贼莫敢动。于是说以利害，渠帅感悦，解兵而去，前后归附者十馀万口。高祖大悦，赐缣二十匹，除遂州总管，仍令剑南安抚。炀帝即位，复征为卫尉卿。夷、獠攀恋数百里不绝。玄晓之曰：“天子诏征，不可久住。”因与之诀，夷、獠各挥涕而去。
岁馀，迁工部尚书。其后拜魏郡太守，尚书如故。帝谓玄日：“魏郡名都，冲要之所，民多奸宄，是用烦公。此郡去都，道里非远，宜数往来，询谋朝政。”赐物五百段而遣之。未几，拜右候卫大将军，检校左候卫事。
会杨玄感围逼东都，玄率步骑七万援□。至华阴，掘杨素冢，焚其骸骨，夷其茔域，示士卒以必死。既出潼关，议者恐崤、函有伏兵，请于陕县沿流东下，直趣河阳，以攻其背。玄曰：“以吾度之，此计非竖子所及。”□是鼓行而进。既度函谷，卒如所量。于是遣武贲郎将张峻为疑军于南道，玄以大兵直趣城北。玄感逆拒之，且战且行，屯军金谷。于军中扫地而祭高祖，词气抑扬，三军莫不涕咽。时众寡不敌，□贼频战不利，死伤大半。玄感尽锐来攻玄苦战贼稍却进屯北芒。会宇文述、来护兒等援兵至，玄感惧而西遁。玄遣通议大夫斛斯万善、监门直阁庞玉前锋追之，及于阌乡，与宇文述等合击破之。
十一年，诏玄安抚关中。时盗贼蜂起，百姓饥馑，玄竟不能救恤，而官方坏乱，货贿公行。玄自以年老，上表乞骸骨。义宁中卒，时年七十七。