胡祥仁化名金瑞，1902年出生在霍山县南乡(今属岳西县头陀镇头陀村)一个贫苦的农民家庭。父亲胡夕敏是个本份的庄稼人，全家7口人，只有4亩薄田，常无过冬之粮。胡祥仁弟兄3人，他排行老大，自幼聪明伶俐。他7岁时随叔父胡夕奇读私塾。14岁时到霍山管家渡三高学校读书。1922年，他考取了安庆(省立)师范学校，在学校经常秘密阅读一些进步书刊，开始接受革命思想。1924年冬胡祥仁从安庆师范毕业。1925年4月，到达广州，考入黄浦军校，同年加入了中国共产党。在军校期间，参加了数次革命斗争。“四一二”反革命政变后，受党组织派遣回家乡领导革命斗争。
1927年7月，胡祥仁经人介绍打入了当时霍山县第三区自卫队任队长。当时，自卫队有50多人，分为3个班，自卫队名义上是保境安民，实际上是与土匪没有什么区别，还经常与土匪互相勾结，狼狈为奸。他们为反动政府充当爪牙，经常下乡收苛捐杂税。还帮地主催租逼债，穷人对他们恨之入骨，暗地里叫他们“狗头差”。
胡祥仁上任后首先就撤换了班长，然后开除了几个专门欺压老百姓的队员。他要改造这支自卫队，并带领自卫队日夜练兵，将他们练成一支能打仗的精兵。他一边操练，一边派人四处打探土匪的行踪。当时，河南巨匪倪老魔(外号)，经常来六安、霍山等地骚扰百姓。倪匪好色贪财，嗜杀好斗，所到之处十室九空，血流成河。1928年2月，胡祥仁探知倪匪在管家渡附近打劫，便立即带领自卫队夜袭了倪匪的驻地。倪匪虽然有200多人，却不是自卫队的对手，自卫队大获全胜，凯旋而归。当地人民敲锣打鼓，放鞭炮迎接自卫队。
事后，倪老魔对胡祥仁恨之入骨。他用重金买通了霍山县县长甘达用，并上告到安徽省说胡祥仁是赤色分子，搞赤色暴动。国民党安徽省政府当即派警备旅桂旅长在霍山县逮捕了胡祥仁，并将他关押在六安县监狱。胡祥仁被捕后，党组织十分重视，并下令设法营救。共产党员胡夕、胡祥先等疏通关系买通了警备旅的秘书(桂旅长的侄子)，经过多方面的努力，胡祥仁于6月被保释，遂返回家乡。胡祥仁回乡后，由于在狱中受尽了折磨，他病倒了。生病期间，他还不忘开展革命工作，经常召集本村青年向他们讲叙革命道理。在他的组织和发动下，全村大部分人都参加了革命。
1928年冬，胡祥仁、胡夕烺、蔡世钊、汪恭谓等组建了中共头陀河支部，胡祥仁任书记。他们在头陀河、黄尾河等地，发动群众，组织农会，开展兵运工作。1929年1月，中共霍山县委成立，胡祥仁任县委委员。随后，中共霍山南乡区委成立，胡祥仁、蔡世钊、胡夕朗为区委负责人。他们积极贯彻执行县委关于党在目前的中心任务，开展抗租、抗捐、抗税，，准备武装暴动。
头陀、黄尾等地盛产茶叶，每逢茶春，地主劣绅勾结外埠奸商到处开茶行，垄断市场，巧取豪夺。胡祥仁、蔡世钊等当即组织农民自设了“合股茶庄”，进行公平交易，现钱现货，使饥民顺利地度过了春荒，农会斗争，首战告捷。为了进一步开展农民运动，区委决定组织自己的武装——赤卫队。1929年7月的一天夜里，胡祥仁、胡夕朗、胡祥先等8人在胡家祠堂开会，贯彻“八七会议”精神。胡祥仁介绍了外地武装暴动的经验，号召穷人组织起来,跟着共产党，打倒土豪劣绅，解放自己。为了发动和组织群众，他们采用民歌形式编写了许多通俗易懂的歌曲：《叹农民》《暴动歌》《参加革命歌》等。这些歌曲深刻地揭露了在黑暗的社会里，穷人如何受剥削、受压迫，通过宣传鼓动，进一步提高了群众的阶级觉悟。
1928年，虫旱交加，粮食歉收。农民一年的劳动果实，被地主豪绅搜刮得干干净净，临近年关，十室九空，家家断炊。地主豪绅却乘机抬高粮价，每担稻由原来的两元(银圆)，抬到两元半或三元。这时，党组织农会会员开展反对抬高粮价的斗争。一夜间，路口的树上、山石上，以及房舍的墙壁上都贴有红、绿纸写的标语：“稻卖八吊钞(相当于一块银圆)，开门能睡觉;稻卖两块钱，留你过个年;稻卖两块半，哪里逮到哪里干!”胡祥仁、胡祥朗还带领群众挑着箩筐冲到地主家里“借”粮。
10月，区委在仙人山观音庙召开农会骨干会议，胡祥仁主持了会议，正式宣布成立赤卫队。胡祥仁任总指挥，蔡世钊为黄尾河赤卫队大队长，胡祥先为头陀河赤卫队大队长，许虎为石盆赤卫队大队长。
1930年元月底，中共潜山县委委员、衙前中心区委书记王效亭按照安庆中心县委的指示，来到胡祥仁家召开秘密会议，讨论三县(潜山、舒城、霍山)边区武装暴动问题。决定分头进行武装暴动的准备工作，相互策应，使三县边区斗争联成一片。胡祥仁负责头陀河的暴动工作。
为了扩充实力，武装自己。胡祥仁、胡夕烺于2月初，在头陀河大河滩的柳树林里召开了赤卫队骨干会议，研究了收集枪支的行动计划。头陀河地区地处深山老林，野兽出没无常，富豪之家各备枪支自卫，穷人家备枪打猎谋生，枪支来源较多。赤卫队分别前往大枧冲、乐道冲、计家河、南田、西美殿、白果树、虎形地等地以剿匪的名义向地主劣绅、猎户征缴枪支，还勒令土豪劣绅捐钱买枪支、弹药，不几天便收集了土枪100多枝，钢枪3支，大刀、长矛100余件。他们还自己制造火药、用火药制成罐子弹(土手榴弹)。接着，成立了头陀河赤卫队，胡祥先任大队长。赤卫队有土枪队、大刀队、棍子队(又称扁担队)共有300多人。4月1日(农历3月3日)夜，胡祥仁等区委负责人决定立即举行武装暴动并杀掉了罪大恶极的地主劣绅胡夕文父子和胡代祜，揭开了头陀暴动的序幕。
翌日，暴动大会在石盆大河滩中召开。参加大会的有800多人，河摊中搭起了一座高台，台上挂着一面党旗，四周贴着“拥护共产党!拥护苏维埃!打倒国民党!打倒土豪劣绅!”等标语。胡祥仁登台宣布：成立乐道乡苏维埃政府和打倒土豪劣绅、实行工农民主专政、土地归农民、消灭剥削阶级等十条纲领。号召大家要拥护共产党，拥护苏维埃，要踊跃参加赤卫队，参加红军，武装保卫苏维埃。顿时，台上、台下一片欢腾，“共产党万岁!苏维埃政府万岁!”的口号声震动山岳。暴动大会后，头陀人民在苏维埃政府的领导下，投入了轰轰烈烈的革命斗争，革命烈火越烧越旺。4月4日，胡祥仁率领赤卫队奉命开到管家渡与红三十三师会合。4月11日，红三十三师在赤卫队的积极配合下，一举攻克了霍山县城，摧毁了霍山县反动统治。作恶多端的县长甘达用在城破之前带着几个残兵败将逃到纸背河去了，刚到那里又遇上了红军的摸瓜队。县城解放后，军民载歌载舞，欣喜若狂。赤卫队在胡祥仁的带领下，在回师途中曾攻打东溪团防，因敌早有准备未克，即回头陀河，4月15日，胡祥仁率头陀河赤卫队的两个分队到黄尾河与蔡世钊一起领导了黄尾河暴动。暴动大会上，王效亭、胡祥仁先后登台作了激动人心的讲话。暴动后，区委狠抓赤卫队政治思想工作和军事建设，胡祥仁亲自担任军事教练，严格训练，严格要求。使头陀河赤卫队很快成为一支能征善战的赤卫队。
4月25日，王效亭、胡祥仁、蔡世钊等分别率领潜山工农红军和头陀河、黄尾河赤卫队加上扁担队共1000多人，进攻驻扎在河口寺、青天畈一带的国民党霍山县第五区联防队。
胡祥仁、胡夕烺率领头陀河赤卫队经虎形地、道义涧直达下清，与黄尾河赤卫队胜利会师，一鼓作气，攻进上清(青天畈)，激战后，民团被击溃。大军乘胜前进，越过西界，直达来榜河，一举消灭了号称“小日本民团”的来榜商团武装，胜利地挺进天堂(今岳西县城所在地)。
此战生俘敌兵50余人，缴获步枪40多支，粮食二三万斤。头陀河赤卫队还在上清和七里冲山岗上找到三门太平天国时期用的大土炮。
4月28日，霍山县第四区苏维埃政府正式成立，胡祥仁为区苏维埃政府委员，并担任赤卫队总指挥。区苏维埃下设裁判、外交、土地、粮食、文化、妇女等六个委员，并成立了童子团和劳农工作团。会上，赤卫队将堆放在台左的从地主家没收来的田契、借据和阎王债点火燃烧。顿时，口号声，欢呼声震天动地，红旗翻腾，头陀河人民扬眉吐气，一遍又一遍地高唱《庆祝苏维埃》和自编的《暴动歌》。
霍山县第四区苏维埃政府，下辖10个乡苏维埃政府纵横均达百余里。使霍山、潜山苏区连成一片。头陀河暴动在皖西革命斗争史上写下了光辉的一页。
“五一”国际劳动节这天，区苏维埃政府和乐道乡苏维埃政府在头陀河大河滩联合召开了有几千人参加的庆祝大会。徐坤主持大会，胡夕讲了“五一”国际劳动节的来历和重大意义。胡祥仁报告了革命的大好形势，鼓励大家将革命进行到底。
四区苏维埃政府成立后，狠抓政权建设。胡祥仁、蔡世钊指挥赤卫队东征西讨，打击、消灭苏区内外的反动势力，武装保卫苏维埃。5月，仁率领赤卫队击溃了与苏维埃政府为敌的潜山县马家畈团防队，俘团丁20多人，缴枪10余枝。接着又率领头陀河、黄尾河的赤卫队700多人出击六安东西溪的联防队。当红军浩浩荡荡杀到东、西溪时，敌见我军声势浩大，不敢迎战，抱头鼠窜。6月1日(端午节)胡祥仁率领全区赤卫队近千人，乘敌过节麻痹，智取了舒城县晓天镇，击溃了晓天商团武装和保安队，缴获了大批的油、盐、布匹。
1930年秋，我主力红军西征平汉路，皖西苏区军力空虚，国民党军队乘虚而入，大肆进犯。安徽军阀陈调元派出一个师的正规军在霍山、舒城、六安、潜山等地的地主武装以及从寿县、颖上、合肥等地请来的“红枪会”、“黄英会”的配合下，纠集反动武装数千人，兵分五路向头陀河疯狂扑来。赤卫队分头抵抗，激战了数日，给敌人以很大的杀伤。由于敌我力量悬殊过大，为了保存实力，区委决定将赤卫队撤离苏区。
国民党军队在苏区，烧杀抢掠，无恶不作。无数村庄被烧成灰烬，牲畜、粮食被洗劫一空。全区有1600名干部群众惨遭杀害。一时间，白色恐怖笼罩苏区。
1931年7月，胡祥仁率部来到管家渡与霍山县苏区赤卫队和另外几支地方赤卫队会合，改编成霍山游击师，胡祥仁任师长，胡夕任政委。游击师成立后立即定了五条纪律：一、不许乱烧、乱杀、乱抢;二、不许欺侮调戏妇女;三、不许私人抓经济案子;四、不许酗酒、赌博;五、不许损坏群众的庄稼。游击师纪律严明，所到之处秋毫无犯。
不久，国民党军队和地主武装从白水畈进犯管家渡。胡祥仁接到报告后，立即率部占领了两边的山头，国民党军队大摇大摆地开进了管家渡，两边山头上响起了嘹亮的冲锋号声，接着，枪炮声、喊杀声响成一片。敌军一下子吓懵了仓促迎战，伤亡惨重，遂夹着尾巴逃跑了。
随后，胡祥仁率部又一举攻下诸佛庵。这一胜利给了敌人以很大的打击，陈调元檄令国民党军队限期剿灭游击师，并派了三架轰炸机配合作战。敌军的行动很快被我军掌握了，胡祥仁立即召开军事会议，分析了敌我双方的情况。决定留下胡代连带领小股部队牵制敌人，掩护主力和群众转移。胡代连率部故意在大街上开会，在街头巷尾张贴标语，造成很大的声势，以便迷惑敌人。敌军果然上当，还以为游击师仍然驻扎在诸佛庵，决定夜间偷袭，企图将游击师一举歼灭。
当敌人发觉中计时候，游击师已胜利地到达了麻埠摧毁了当地的团防队，紧接着，转战六安、金家寨，又挥师漫水河、燕子河、闻家店、麻城，胡祥仁率领游击师，天天行军打仗，所到之处消灭反动的地主武装，建立党组织和地方苏维埃政府。
1931年11月，游击师驻扎在白云寨，国民党军队气势汹汹地杀向白云寨;游击师在山上挖了许多战壕，埋伏在战壕和小河谷里严阵以待。战斗在黎明时分打响，我军打退了敌人的十几次进攻。到了傍晚，游击师弹药不足，子弹快打光了。敌人疯狂地反扑，密集的子弹在指战员头顶上呼啸横飞，炮弹不时的在身边爆炸。战斗一直持续到半夜，师部下令撤出白云寨。接着，游击师转战宿松、望江、英山、太湖等县，在英山杨柳湾又收编了一支地方赤卫队。为了补充给养和弹药，胡祥仁率部围攻英山县城，由于城坚壁厚，守敌装备精良，未克。
1932年3月，胡祥仁奉命率部参加了徐向前指挥的著名的苏家埠战役。同年6月间，游击师攻打歇马台，遭到敌军夹击，激战了一天一夜，师政委胡夕烺壮烈牺牲。胡祥仁突围后，带领部队转战金家寨，8月间，不幸阵亡，时年30岁。