张归霸清河人归霸少倜傥好兵术唐僖宗乾符中寇盗蜂起归霸率昆弟三人弃家投黄巢颇以勇略闻巢陷长安遂署为左蕃功臣中和中巢领徒走宛丘时太祖在汴奉诏南讨巢党日克归霸昆仲与葛从周李谠等相率来降寻补宣武军剧职光启二年与蔡将张存战于卢氏三年夏。又与蔡将卢塘战于双丘复与秦宗贤战于万胜皆败而歼之翌日秦宗权遣将张郅来寇列寨于赤冈一日出骑将校胜归霸为飞弋所中即拔马却逸控弦一发贼洞颈而坠遂兼骑而还太祖时于高丘下瞰备见其状面加赏激厚以金帛及所获马锡之。又尝被命以控弦之士五百人伏于壕内太祖统数百骑稍逼其寨蔡人果以锐士麾垒来追归霸发伏兵掩杀千余人夺马数十匹寻奏授检校左散骑常侍其后从太祖伐郓副李唐宾渡淮咸着奇绩文德初大军临蔡州贼将萧颢来斫寨归霸与徐怀玉各以所领兵自东南二扉分出合势杀贼蔡人大败及高祖整众离营寇尘已息太祖召至赏之曰：昔耿弇不俟光武击张步言不以贼遗君父弇之功尔其二焉昭宗大顺中郭绍宾拔曹州归霸提兵数千守之俄而朱瑾统大军自至归霸与丁会逆击之于金乡瑾大败擒贼将宋江等七十余人曹州以宁明年破濮州生擒刺史邵儒。又佐葛从周与晋军战于洹水生擒克用爱子落落复与燕人战于内黄杀仁恭兵三万余众戎绩超特居诸将之右累官至检校左仆射光化二年权知邢州事明年春李嗣昭以蕃汉五万来寇归霸坚壁设备晋军不敢顾其城遂移军攻洺州陷焉时太祖在滑颇虑邢之失守及葛从周复洺水嗣昭北遁归霸出兵袭之杀二万余众捷至赏赐殊等旋以功奏加检校司空天祐初迁莱州刺史秩满授左卫上将军。又除曹州刺史其秋加检校司徒副刘知俊御邠凤之寇败之太祖受禅拜右龙虎统军。