2009 年 ，经邢台市工业经济联合会提议，平乡县委批准，成立了平乡县工业经济联合会、经济团体联合会、商标品牌协会三位一体联合会，霍贵山任会长。十多年来，他紧紧围绕全县工业经济建设，深入调查研究，为领导决策提供参考依据；围绕企业热点、难点问题，坚持服务宗旨，为企业办实事、办好事；组织规模企业争创名牌，狠抓典型，总结经验，以点带面；与有关金融部门对接协调资金支持，与科研院校对接引进先进技术，实施品牌战略，创建国家级驰名商标一家，省级著名商标 13 家，市级知名商标 14 家。

作为平乡县老年书画研究会会长，霍贵山每年牵头举办重阳、国庆、春节书画展，举办多次笔会活动。其中，春联大赛活动已连续举办六届，为住户与周边村村民赠书画春联，免费装裱书画牌匾，受到群众一致好评。目前，协会已发展16个分会、200余名会员。他依托烈士陵园开展红色教育，举办抗日英烈书画展，建成平乡首个“书画村”——洪康村，带动村中少年掀起书法学习热潮。他还组织各类体育赛事带动社区发展，出版了《平乡书画选》、《文化平乡》等多部书画及文化书籍，挖掘红色历史、树立抗日英烈碑，集资修建2.5公里水泥路改善交通，并推动梅花拳文化发展，树立数百块梅花拳基地碑。

霍贵山非常重视家庭教育，出版了《中华好家风精选》一书。他经常到学校开展家长教育培训课程，并结合大量的事例教会家长培养孩子良好的生活习惯、规则意识、与人交往的能力等等。疫情期间，他把宣讲课堂搬到了抖音直播间，推出了平乡县 “中华好家风” 系列讲座，分期在抖音号上直播展示。讲座内容涵盖什么是好家风、如何养成好家风、好家风对孩子健康成长成才的影响以及历史上好家风典型案例等等，讲述科学的家庭教育方法，受众人数两万余人。

退休后的霍贵山，不忘初心、牢记使命，继续发挥余热，坚持为县域经济文化发展献言献策，为关心关爱青少年，弘扬中华传统文化贡献着自己的力量。