张衡，字建平，河内人也，幼怀志尚，有骨鲠之风

张衡，字建平，河内人也，幼怀志尚，有骨鲠之风。年十五，诣太学受业，研精覃思，为同辈所推。衡又就沈重受《三礼》，略究大旨。累迁掌朝大夫。高祖受禅，拜司九侍郎。及晋王广为扬州，衡拜扬州总管掾，王甚亲任之。衡亦竭虑尽诚事之，夺宗之计，多衡所建也。
以母忧去职，岁馀，起授扬州总管司马，赐物三百段。开皇中，拜开府。及王为皇太子，拜衡右庶子，仍领给事黄门侍郎。
炀帝嗣位，进位银青光禄大夫，迁御史大夫，甚见亲重。大业三年，帝幸榆林郡，还至太原，谓衡曰：“朕欲过公宅，可为朕作主人。”衡于是驰至河内，与宗族具牛酒。帝上太行，开直道九十里，以抵其宅。帝悦其山泉留宴三日因谓衡曰往从先皇拜太山之始逢经洛阳瞻望于此深恨不得相过不谓今日得谐宿愿。衡俯伏辞谢，奉斛上寿，帝益欢。衡以藩邸之旧，恩宠莫与为比，颇自骄贵。
时帝欲大汾阳宫，令衡具图奏之。衡乘间进谏曰：“比年劳役繁多，百姓疲敝，伏愿留神，稍加折损。”帝意甚不平。后尝目衡谓侍臣曰：“张衡自谓由其计画，令我有天下也。”时齐王暕失爱于上，帝密令人求暕罪失，有人谮暕违制，帝谴衡以宪司皆不能举正，出为榆林太守。
明年，帝复幸汾阳宫，衡督役筑楼烦城，因而谒帝。帝恶衡不损瘦，以为不念咎，因谓衡曰：“公甚肥泽，宜且还郡。”衡复之榆林。俄而敕衡督役江都宫。有人诣衡讼宫监者，衡不为理，还以讼书付监，其人大为监所困。礼部尚书杨玄感使至江都，其人诣玄感称冤，玄感固以衡为不可。玄感具上其事，江都丞王世充又奏衡频减顿具。帝于是发怒，锁衡诣江都市，将斩之，久而乃释，除名为民，放还田里。
帝每令亲人觇衡所为。八年，帝自辽东还都，衡妾言衡怨望，谤讪朝政，竟赐尽于家。临死大言曰：“我为人作何物事，而望久活！”监刑者塞耳，促令杀之。义宁中，以死非其罪，赠大将军、南阳郡公，谥曰忠。