黄君汉出身江夏黄氏，是在隋末农民战争和唐初统一战争中有过积极表现和影响的人物，在唐初的统一战争中立下了赫赫战功，战功卓著，被封为上柱国。
黄君汉家世显赫。其祖籍江夏，公元447年，其六世祖黄琚跟随刘宋政权的宁朔将军王玄谟进攻北魏滑台时，兵败被俘，投降北魏，被北魏政府任命为东郡太守，举家迁到了东郡胙城。黄君汉的爵位虢国公，品级是从一品，相当于副丞相级。
黄君汉慧眼识人，为鹰扬府司马时，曾义释瓦岗农民起义领袖翟让。审时度势，在李渊创业最困难时，献柏崖投奔李渊。
黄君汉勇敢有胆略。隋末从军远征高丽，虽然隋军战败，由于他作战勇敢，先登敌城，被授为立信尉。东郡设置军府时，黄君汉被任命为越骑校尉，转为鹰扬府司马。据《资治通鉴》记载，他在任上曾救过瓦岗农民起义首领翟让的命。当时，他看到隋朝朝政腐败，想起义兵。恰巧东郡法司翟让有罪当斩。黄君汉认为他骁勇善战，不同寻常，就在夜里来到关押翟让的牢中对翟让说：“翟法司，天时人事，也许是可以预料的，哪能在监狱等死呢？”翟让又惊又喜，说：‘我翟让，是关在猪圈的猪，生死只能听从黄曹主的吩咐了。”黄君汉当即给翟让打开枷锁，翟让再三拜谢说：“我蒙受您的再生之恩得以幸免，但黄曹主你怎么办呢？”
黄君汉怒道：“我本以为你是个大丈夫，可以救黎民于水火，所以才冒死救你，你怎么却像儿女子弟一样以流泪感谢呢？你就赶快逃吧！不要管我了！”于是翟让逃到了瓦岗，黄君汉也在柏崖竖起了义旗。翟让果然没让黄君汉失望，在瓦岗屡败隋军，开粮仓救饥民，牵制了大量的隋军。
后来翟让把领导权交给李密后，在翟让的引荐下，黄君汉于瓦岗寨最辉煌的时期投奔瓦岗，被李密授予上柱国、河内总管，封为汾阴公，让他经营河朔地区。不久，李密杀翟让，瓦岗军实力大为削弱，李密在和隋军的战斗中屡战屡败，618年，走投无路的李密投奔李渊，不久叛变被杀。
619年，黄君汉在崔义玄的劝说下，投奔李渊。程咬金、秦叔宝也在这前后投奔李渊，他们来时差不多是光杆司令。李靖可能从监狱出来不久，只是秦王府的一个幕僚而已。李绩在这之前曾投奔李渊，这时因打了败仗投奔了窦建德。黄君汉带来的是军事要地柏崖和大量的人马。文学家李百药把黄君汉献柏崖投李渊比作东汉时窦融献河右投刘秀和三国刘琮献荆州投曹操。李渊大喜过望，任命黄君汉为上柱国、使持节、行军主管、怀州刺史，封为东郡开国公，食邑三千户。
黄君汉是一员有勇有谋的战将。李百药在《碑铭》中说他学到了孙武、吴起兵法的精髓，能和韩信、彭越媲美。的确如此，黄君汉在唐初的统一战争中，南征北战所向披靡,立下了赫赫战功。黄君汉作为战将，在武德年间的战功、爵位、职务等综合排名中，只和殷开山、盛师彦、李绩、屈突通、任环等少数几人相伯仲。
玄武门事变前，排名凌烟阁第一位的长孙无忌在武德年间只是个比部郎中、上党县公，绘图凌烟阁第三号的杜如晦只是个天策府从事郎中，第五号的房玄龄只是个小小的秦王府记事。六号的高士廉身陷南方，平萧铣后才得以回来。尉迟敬德的主要功劳就是在玄武门之变中替李世民除掉了弟弟李元吉。实在看不出他们在唐初统一战争中的功绩。如果唐高祖不退位，也搞个图绘凌烟阁什么的，黄君汉在战将中绝对能排在前几位。
620年4月，黄君汉在西济州打败王世充之子王玄应，此役是李世民领导的。这是灭王世充的前哨战，首战告捷。8月14日，黄君汉派校尉张夜叉用船渡过黄河攻陷回洛城，俘获王世充的战将达奚善定，毁掉河阳桥而回，迫降王世充堡垒二十多个。王世充平定后，因功授予他使持节，都督怀、陟、恭、西济四州诸军事兼怀州刺史。赐黄金百两，绸缎千余匹。后来在破刘黑闼和萧铣时也立有战功，只是史书无载。
623年，黄君汉在赵郡王李孝恭的领导下兵出谯郡，前去南方平定辅公祏的叛乱。624年初，辅公祏的将领冯惠亮率水军三万屯守在安徽当涂，为了断路，锁大船封江面。黄君汉率军队苦战打败了他，冯惠亮逃跑，李靖率轻兵先到，辅公祏投降。这一役后，黄君汉因功被任命为使持节，都督潞、泽、盖、韩、辽五州诸军事兼潞州刺史。
在潞州刺史任上，他重教化，兴学校，政绩也很突出。由此可见，黄君汉若不早逝，登宰执位列三公不是没有可能。武德初，战事吃紧，君臣无暇见面。李渊为了知道黄君汉的长相，亲自命画师画黄君汉的画像送至京师。黄君汉在平定辅公祏叛乱时，排名居7大总管之首。就是大名鼎鼎的李靖论爵位、论实职也比不上黄君汉。
他的职务相当于现在的一个大军区司令员兼某地区的一把手。爵位为从一品的虢国公，得以追封先人、封妻荫子。长子黄河寿、次子黄河上均官居从五品的骑都尉，可谓荣耀之极。黄君汉在潞州八年后因病去世，享年52岁，被追赠为夔州都督，633年7月归葬河南省延津县祖茔，长子黄河寿袭封虢国公爵位。黄君汉死后由著名史学家、文学家李百药撰写碑铭。碑文文情并茂，言真意切，跌宕起伏，文采飞扬，对黄君汉给予高度评价。
黄君汉公可以说是唐初的一位传奇式的风云人物：先救瓦岗首领翟让，后投奔瓦岗，李密时期镇守重镇柏崖，武德二年献城归唐，拜怀州刺史、行军总管,三年以怀州总管率本军参加李世民灭王世充、窦建德的战役，四年参加李孝恭统领的水陆十二总管灭萧铣梁国的战役，七年参加灭江东辅公祏的战役。
象黄君汉这样一位风云人物，新、旧唐书竟然没有为他立传，实在可惜。历史往往会开一些玩笑。如果没有黄君汉拯救翟让，就没有瓦岗聚义，拖住隋军的很大一部分军力，李渊起事就会很快被隋军扑灭，也可能就会没有后来闻名于世的大唐皇朝。
黄君汉被遗忘，与其说是被历史遗忘，不如说是被李世民遗忘。在武德年间，程咬金之流远远不如黄君汉。李世民发动玄武门之变登上皇位后，提拔的都是玄武门之变的死党，而打击武德功臣。黄君汉在灭王世充、窦建德之后，一直跟随李孝恭在南方征战。玄武门之变的时候，黄君汉在外任夔州都督，没有参加玄武门之变。李世民当皇帝后，连为其宗亲的李孝恭都要打击，黄君汉又怎能避免？李世民可能还留念黄君汉参加消灭王世充、窦建德战役战功卓著的情份，没有撤黄君汉的职而已。