张威初仕后周为京兆尹高祖辅政时王谦作乱高祖以威为行军总管从元帅梁睿击之军次通谷谦守将李三王拥劲兵拒守睿以威为先锋三王初闭垒不战威令人詈侮以激怒之三王果出阵威令壮士奋击三王军溃大兵继至，于是擒斩四千余人进至开远谦将赵俨众十万连营三十里威凿山通道自西岭攻其背俨遂败走追至成都与谦大战威将中军及谦平进位上柱国。