湖南省湘潭韶山市杨林乡纯和村人，1906年7月18日出生于雇农家庭。因家境清贫，仅读了两年私塾。辍学后给地主放牛，打过短工。1926年参加农民运动。1927年马日事变发生后，他去长沙、武汉寻找毛泽东，未果，即投入国民革命军第三十五军第一师一团（后改为湘军独立第五师第一团）。1928年7月，随团长彭德怀参加了平江起义，任红五军第十三师七团班长，由黄公略介绍加入中国共产党。

他南征北战，曾6次负伤，失去左臂，仍以惊人毅力率部奋勇杀敌，为中国革命的胜利立下赫赫战功。1929年春，红五军主力由彭德怀、滕代远率领上井冈山，余部与当地工农游击队合编，他任第二纵队第二大队第六中队队长。在纵队长黄公略领导下，开始研究游击战术，常率领中队战士在平江、浏阳、万载等地单独活动，帮助地方党建立和发展组织，建立苏维埃政权。同年4月间，他率部在平江的芦洞与挨户团作战，不幸被子弹击中右腿上胯骨，被安排在赵家冲养伤。9月伤愈归队，任第二大队教导队长。同年冬任红五军随营军事政治学校大队长。

1930年7月，参加红三军团攻打长沙，占领长沙后，升任第一师第一团团长。在第二次攻打长沙时，他率部冲杀，左臂中弹。1931年5月，他因未经请示给战士发两角钱买草鞋而被撤职，留党察看3个月。他不计较个人得失，勤勤恳恳工作。留党察看期满后任第四师参谋长。不久，又任第三师十团团长，指挥所部参加东固方石岭战斗，全歼国民党韩德勤师。之后，他任红五军第一师参谋长、师长等职。在1933年春中央革命根据地第四次反“围剿”的草台岗霹雳山战斗中，他与战士们一道浴血作战，为掩护战友，左臂连中两弹，骨头被击成几截，被迫截肢，成为人民军队著名的独臂将军之一。组织上照顾他，准备安排他去地方工作，他却发誓“不离开部队，不离开战场”。周恩来深为感动，同意他继续留在部队。在纪念八一建军节大会上，中央军委授予他二等红星奖章。同年9月第五次反“围剿”开始后，他负责组织红三军团的队伍补充，经月余工作，筹组了兴国县模范师，任师长。10月，调任红五军团第十二军第三十师师长。在指挥光明山战斗中，子弹击碎其下颌骨。

1934年4月，任第十五师（即少共国际师）师长，参加了 保卫建宁的战斗。10月，率部随红一方面军长征。不久，第十五师改编为红一军团第三师，任师长。遵义会议后，为了加强主力部队，将三师分散编入第一、二师，他调任一军团司令部教育科长。后又调回红三军团任教导营长。他坚决服从组织安排、能上能下，一如既往地积极完成任务。他说：“只要是干革命，什么工作都行”。1935年6月，红一、四方面军会师后，他任红四方面军第三十军参谋长，做了大量争取团结四方面军干部的工作，与张国焘分裂主义错误进行了坚决斗争，因而受排挤，被调至红军大学当政治科科长。1936年7月，红二、四方面军会师后，在朱德、贺龙关怀下，他任红二方面军第六军团参谋长。

1943年，抗日军政大学七分校校长彭绍辉（左一）与副校长喻楚杰。

抗日战争爆发后，先后任八路军一二O师教导团团长、三五八旅旅长、晋绥独立二旅旅长、晋西北军区第二军分区司令员。他正确执行党中央和毛泽东的战略决策，多次率部进行反“扫荡”战斗，打败了日本侵略军的进攻。1940年10月率部参加了百团大战。1943年3月调任抗日军政大学教育长、副校长。他坚持从严治军，从严治校，被称为“铁面将军”。

1945年，（左起）左齐、彭绍辉、晏福生三位独臂战友重逢于延安。

解放战争初期，任晋绥吕梁军区代司令员、司令员。1946年秋至1948年夏，为保卫陕甘宁边区，肃清盘踞在吕梁山区的敌人，他先后参加指挥了晋西南战役、临汾战役、吉乡战役、兑九峪战役、神堂底战役。经过数十次战斗，解放了5个县城和30余座重镇，毙、伤、俘敌数万人，生擒敌上将杨澄清、少将胡芬珍，消灭了阎锡山在吕梁山和晋中平川西部地区的反动势力。后又指挥部队取得晋中战役胜利，为解放太原创造了有利条件。1948年8月，晋绥吕梁军区的部队改编为西北野战军第七纵队。1949年1月，又改为第一野战军第七军。他先后任纵队司令员和军长，率部参加了解放太原的战斗。他向部队进行“革命到底不动摇”的思想教育，纪律严明，获得“七军纪律第一”的荣誉。随后，率部转战西北战场，参加了扶郿战役和追歼清海马家匪帮，解放甘肃天水市，进军陇南和解放成都地区的作战。在紧张的战斗岁月里，他不断总结作战经验，做好思想政治工作，加强纪律教育，胜利地完成了历次作战任务，屡建战功。

1961年3月，聂荣臻（左起）、罗荣桓、贺龙、朱德、张爱萍、许光达、叶剑英、张宗逊、彭绍辉等在周口店观看59坦克驾驶表演。

新中国成立后，先后任西北军区副司令员兼参谋长、第一高级步兵学校校长、训练总监部副部长兼条令部部长、军事科学院副院长兼战术研究部部长等职。在训练总监部工作期间，他领导编辑了4个野战军的《战术资料汇集》，主持编写了几十万字的条令，如《诸军兵种合成军队作战条令》、《军、师合成军战斗条令》、《军语》、《纪律》、《队列》等，为解放军的教育训练、军事理论研究和部队的正规化建设作出了重要贡献。1961年1月，任解放军副总参谋长。在指导编制、装备、侦察、防化、气象和民兵工作中取得了显著成就。“文化大革命”中，与林彪、江青反革命集团进行了坚决的斗争。

1955年被授予上将军衔。他是中共第九、十、十一届中央委员，第二、三、四届全国人大代表和常务委员会委员，第一、二、三届国防委员会委员，担任过中共中央军事委员会委员。1978年4月25日在北京病逝，终年72岁。党和人民给予了很高评价，称他是中国共产党的优秀党员、中国人民解放军的优秀指挥员。