霍韬，字渭先，号兀崖，广东广州府南海县石头乡霍族人。平生勤奋上进，广博多学，文人学士多称他为‘渭崖先生’。大礼朝议斗争之时，他援引古礼，揆之事体，主张嘉靖帝，应尊生父“兴献王”为皇考，不同意群臣同议以兴献王为皇叔考之名称，义正词严，力排众议，并使得嘉靖帝最后他的主张。事后升官，也因避嫌媚上取宠，三次坚辞不受，官至礼部尚书、太子少保。在京暴病逝世，享年54岁，追封为太师太保，谥文敏，后人对他和石肯乡梁储，西樵大同乡方献夫，同称为明代南海县的“三老阁”，有《诗经注解》、《象山学辨》、《程周训释》等。
霍韬，考中会试的第一名后，提名候补，就返回家乡结婚，然后在西樵山刻苦读书，对经史等学问融会贯通。世宗继位，任用霍韬做了职方主事，杨廷和还在执政，霍韬上书说：“内阁大臣的职务是参与机要事务的，现在却只是拟定文书，对军政大事的裁决权归属于宦官。内阁大臣失去了参与议定的权力，宦官出现了干预政治的苗头，从今以后的奏章，请陛下把大臣召集来当面决定以后施行，讲官、台谏也排列左右，大家共同商议，或赞成或反对，事情公开办理。这样内阁大臣就有了去恶取善的声望，宦官也避免了别人对他们揽权的批评。”进而说到锦衣卫不应当掌管刑罚，东厂不应当参与朝廷中的事务讨论，抚按兵备官不应当凭军功晋级、荫封，兴王府的护卫军不应当全部召来京城授予官职。御史谢源、伍希儒以身赴难有功无罪不应罢免，平定朱宸濠叛乱的功绩除安庆、南昌以外不应当滥评。世宗高兴地听取了他的意见。
关于“大礼”的争论开始，礼部尚书毛澄坚决认为世宗应该称孝宗为考，霍韬私下写了一篇《大礼议》反驳这种观点。毛澄写信给霍韬质问他，霍韬多次写信给毛澄，极力论说毛澄的错误。过后，他认识到毛澄的意见无法转变，就在奏章说：“按大臣们议定，认为陛下应当称孝宗为父，兴献王为叔，另外选崇仁王的一个儿子做献王的后裔。这种观点，根据古礼考较是不适合的，根据圣贤之道来比照是说不通的，根据如今的事实来考虑是名实不相随的。”
霍韬在奏章中还提道：“我提出以兴献王为帝的原因有三点：一是破除前代故事给人的拘束；二是不忘孝宗的恩德；三是避免迎合陛下心意嫌疑。现在陛下已经把明孝宗称为考，又把兴献王尊崇为帝，事情就这样算完了吗？我私下认为帝王之间的继承，只是继承王位而已，本来就不必斤斤计较父子的称呼。只有继承王位，才能使孝宗的谱系不绝，就连明武宗的谱系也不绝。这样陛下对兴献王还可以改正父子之称号，不断绝兴献王天生的大恩；对于国母的欢迎，也能改正为对天子的母亲应有的礼仪。假如再对昭圣太后、武宗皇后能用正确的方式对待，尽心中的诚意来侍奉，那么尊敬尊贵的人，亲爱亲近的人，这两条就都没有违误了。”
世宗升用霍韬为礼部右侍郎，霍韬极力辞让，并且推荐康海、王九思、李梦阳、魏校、颜木、王廷陈、何塘替换自己，世宗不允许，他两次推辞，才得到允准。大礼议定，世宗破格任命他为礼部尚书，主管詹事府的事务，霍韬却上书说翰林院编书升官、日讲荫子以及巡抚子弟荫封为武官的不恰当，然后说自己虽然不能挽救这些错失，但不愿跟随大流。并且言称给事中陈洗受了冤屈，推荐国子监学生陈云章有才干，可以任用做官。
世宗颁诏称赞了他，但不许他推让，霍韬又上书说：“如今持不同政见的人们认为陛下只是想尊崇自己的父王，就拿官职、爵位来诱引自己的臣下，我们两三个人也只是苟且贪图高官显爵，所以迎合了陛下的心思。我曾经慷慨地对自己发过誓：“如果“大礼”最后议定下来，我决不接受加官，让天下人和后代人看到讨论“大礼”的大臣并不是图谋私利的官员。如果让人们怀疑讨论“大礼”的大臣是图谋私利的官员，那么由这些人议定的‘大礼’即使正确，大家也还是认为这是不正确的，怎么才能使人信服呢？”因此他坚持辞让不肯就职，世宗还是不允许，经再三推辞。世宗最后同意了他。
霍韬，先后推荐过王守仁、王琼等人，世宗都采纳了他的意见，又曾因为灾异的发生上书陈述十多条革除弊政的意见，大多经讨论被实施。张璁、桂萼被免除职务时，霍韬上书说谏官陆粲等人是受杨一清指使的。他两次上书猛烈攻击一清，结果一清被削职，而张璁、桂萼被召了回来。世宗听取夏言的建议，将分开来祭祀天和地，修建两座郊祀台，霍韬极力反对，世宗不高兴了，批评他蒙骗君上，自以为是。
夏言也上书替自己辩护，猛力抨击霍韬，霍韬一贯注意保持以前的印象，以便自我施展，但看到世宗生了气，就不敢辩解了，却送给夏言一封信，把他痛痛地抨击了一番，又把那封信抄录一份送交法司。夏言恼了，上书对世宗讲了这件事，并且揭发了霍韬目无君主的七条罪行，连带霍韬的来信一起交了上去。世宗大为恼火，批评霍韬诽谤、嘲笑君上，心术不正，丑化好人，就把他关进了都察院的监狱。霍韬自己从狱中上书哀求宽恕，张璁也两次上书救他，世宗都不听。南京御史邓文宪上书说应该看到霍韬的善良愿望，包涵他的戆直，并且说把天和地分开来祭祀等于是把父母安置在不同的地方，让后妃到郊外亲自养蚕就是废除了男女、内外之间应有的防范。世宗恼了，把他贬官到远方。霍韬在监狱中关了一个多月，最后世宗想到了他当初议定“大礼”的功劳，就让他捐输资财来赎罪还职。