1. 先聊聊为什么我盯上了哈里斯鹰优化算法这行当干久了确实容易产生一种疲惫感。粒子群吧简单是简单但陷进局部最优就跟吃饭喝水一样自然差分进化参数一个调不对收敛慢得让你怀疑人生遗传算法更是老古董光是把编码方式定下来就要折腾半天。所以你问我为什么研究哈里斯鹰优化算法真要说的话是因为我在做某次调度项目时被粒子群和遗传算法来回折磨后来偶然翻到这篇2019年的文献一下就被这个思路吸引住了。哈里斯鹰优化算法英文全称是Harris Hawks Optimization标准的缩写是HHO民间也有人叫鹰群算法。它的核心灵感来自哈里斯鹰这种猛禽在捕猎时的协作行为——读过动物世界的人都知道这种鹰有个特别阴损的捕猎招数叫“七杀”一只鹰先暴露自己吸引猎物注意力其他鹰从不同方向突然扑出把兔子吓得四处乱窜然后轮流追杀直到兔子精疲力竭。整个过程既有“策略分工”又有“动态变招”翻译成算法语言就是既能全局探索又能局部开发而且切换机制极其顺滑。这篇博文我准备这么安排先掰开揉碎讲清楚HHO的核心思路和数学建模从鹰的搜索行为一直拆解到最后的围捕阶段然后给出可以直接跑的Python代码拿标准测试函数实测给你看再聊聊参数调节和防早熟的个人经验最后把我踩过的坑和排查思路整理成速查表。目标读者是有一定优化算法基础、想快速上手HHO用于自己课题或项目的工程师和研究生当然对元启发式算法感兴趣的新手也能看懂——我会尽量把数学部分讲成人话。我当时第一次跑通HHO的时候最大的感受是这算法确实有点“野”——它不像有些算法那样有一套死板的更新公式套到底而是根据一个叫“猎物逃逸能量”的变量在不同阶段用完全不同的策略去更新个体位置这就好比打牌的时候看对方脸色出牌而不是闭着眼睛按套路出牌。这个设计思路本身就是冲着“收敛快防早熟”这一对天然矛盾去的。2. HHO的核心思路一场精心设计的围猎2.1 从捕猎行为到算法模型HHO把鹰群的捕猎过程拆成了两个大阶段和四种攻击策略这是整个算法最核心的设计理解清楚了后面看代码就跟看剧本一样。第一个阶段叫探索阶段。这时候鹰群还没有锁定猎物的准确位置它们会在一个较大的范围内随机搜索。模拟这种行为靠两个公式鹰的位置更新要么基于种群中随机个体的位置要么基于当前最优个体也就是离猎物最近的那只鹰的位置中间用一个随机数来平衡。这个阶段的主要任务就是全局探索保证算法不会一上来就钻到某个局部区域里去了。第二个阶段叫开发阶段这是真正的“围猎”环节。但这里有个关键的调度机制——猎物在逃跑过程中会消耗能量HHO用变量E来表示猎物残余的逃跑能量E的绝对值大小直接决定了策略切换。当|E|≥1时还是探索一旦|E|1就进入开发阶段。这个设计非常聪明它本质上是一个自适应参数让算法能根据当前搜索进度自动从广撒网切换到集中围捕。有四点非常关键E随着迭代次数线性下降但每次迭代都乘一个[-1,1]范围内的随机数这一下就让整个算法的行为带上了随机性——同样的参数两次运行的结果不会完全一样。这就像真实的围猎兔子的逃跑路线不可能每次都一样。然后进入开发阶段后还要看一个随机数r和E之间的关系决定具体采用四种围捕策略中的哪一种软包围、硬包围、带快速俯冲的软包围、带快速俯冲的硬包围。这四种策略分别是这样触发的当随机数r≥0.5且|E|≥0.5说明兔子还活蹦乱跳但追得上了鹰群采用软包围也就是逐渐缩小包围圈当r≥0.5且|E|0.5兔子已经累趴了直接上硬包围当r0.5且|E|≥0.5这表示兔子还有能量逃生鹰群需要从不同方向发起俯冲用莱维飞行来模拟这种突然加速的扑击当r0.5且|E|0.5兔子奄奄一息但是还在垂死挣扎鹰群会先逼近再根据兔子的实际位置随机决定俯冲后的落脚点。注意这里有个容易搞混的地方文献里对r的定义有的版本是表示兔子能否成功逃脱的概率有的版本是表示鹰群策略选择的随机数我自己实现时直接用r做策略门控。2.2 为什么说这种设计天然兼顾了收敛与防早熟我在实际项目里用过的优化算法不下十种大多数算法的探索和开发阶段是“硬切换”的前期一股脑全探索后期一股脑全开发中间全靠线性参数去调和。这种方式最大的问题是一旦前期错过了最优解所在区域后期再怎么精细开发都白搭。HHO的高明之处在于探索和开发的切换不单纯看迭代次数还要看E这个能量参数在每个个体上的随机表现。什么意思E在迭代后期理论上应该越来越小但因为每次都要乘一个[-1,1]的随机数所以E的绝对值是有波动的这就导致在一个迭代周期内部分个体可能还在执行探索策略换新位置另一部分个体已经进入开发阶段精修当前解。这种“颗粒度”上的并行混合相当于每次迭代既有广撒网又有深挖洞全局探索能力不会因为迭代后期就完全消失从而降低了陷入局部最优的概率。这就好比一支足球队不是上半场全进攻下半场全防守而是始终有一部分人压上、一部分人拖后根据场上局势不停调整每个人具体怎么跑位。这种机制在工程优化里的实际效果就是前期收敛速度不比粒子群差多少中后期又能持续发现更好的解对多峰函数的适应能力明显更强。3. 数学模型拆解从群体初始化到四种包围策略3.1 初始化与基本更新机制HHO的群体初始化和其他元启发式算法没有本质区别随机在搜索空间撒N个点每个点就是一个候选解。假设搜索空间维度是d每个个体就是一个d维向量代表问题的一个解。对于有边界约束的优化问题初始化时就在上下界范围内均匀随机取值对于无约束问题也要人为给定一个搜索范围。种群规模通常取30到50之间我自己常用的配置是30个个体跑500代大部分测试函数都能收敛得很好。迭代的核心是每次更新所有个体的位置然后重新计算适应度。适应度函数就是你实际要优化的目标函数比如调度问题的总完工时间、机器学习模型在验证集上的误差、结构设计的重量等等。HHO本身不关心你的目标函数是什么样它只管在给定的搜索空间里找让目标函数最小的那组参数。这点特别适合工程场景因为很多时候目标函数压根谈不上什么可导性、连续性黑箱优化反而是常态。每一代迭代开始算法先算一遍当前所有个体的适应度找出全局最优的那只鹰的位置X_rabbit。更新个体位置时第一个关键变量就是逃逸能量E它的计算是$$E 2 \times E_0 \times (1 - t/T)$$其中t是当前迭代次数T是最大迭代次数E_0是初始能量每次迭代开始重新在[-1,1]之间随机取。这个公式很直白E的绝对值整体上从1线性衰减到接近0但因为E_0是随机的所以即便在同一代里不同个体算出来的E也可能不一样——不对等等这里要澄清一个细节。文献原文是每个迭代周期内E_0重新随机这意味着所有个体共用一个E只是每次迭代E_0变了。但我在自己的改进版本里会让每个个体单独计算E这样个体间的行为差异会更大多样性更好。标准版HHO的代码里E是全局的策略切换也是全局的这一点跟上面说的“并行混合”有偏差我后面讲改进的时候再展开。3.2 探索阶段和四种包围策略的公式拆解探索阶段的位置更新公式长这样当|E|≥1时每个个体随机选择一个参考位置X_rand然后按50%的概率分别用两种方式更新位置。第一种是X_rand减去一个随机调节的量第二种是当前最优位置X_rabbit减去种群平均位置X_m再乘以随机系数的组合。这个公式看起来繁琐其实本质就是在一个随机个体和最优个体之间做摇摆配合种群平均位置提供一点“向心”的趋势让鹰群不会散得太远。一旦|E|1进入开发阶段。四种策略的参数和公式我直接整理成表格方便对照逃逸条件采用策略核心做法r≥0.5 且 E≥0.5软包围猎物能量较高鹰群逐步逼近位置向最优解方向收缩r≥0.5 且 E0.5硬包围猎物精疲力竭直接大幅跳跃到最优解附近r0.5 且 E≥0.5俯冲式软包围猎物试图摆脱鹰群用莱维飞行发起突袭r0.5 且 E0.5俯冲式硬包围猎物垂死挣扎鹰群根据猎物突进后的位置随机调整落脚点具体公式其实不复杂软包围就是当前最优位置减去E乘以当前位置与最优位置的差硬包围是当前最优位置减去E乘以当前位置与最优位置的差再乘以跳跃强度JJ是每次迭代在[0,2]之间随机取的值模拟兔子逃跑时的随机跳跃。这两个公式长得像唯一的区别就是硬包围没有对位置的“带头作用”保留得那么好跳跃幅度更大。俯冲式策略要复杂一些它先计算一个临时位置Y判断一下这位置的适应度是否比当前好如果好就直接跳过去不好就再算一个基于莱维飞行的临时位置Z再判断一次。莱维飞行生成的是一个重尾分布的随机步长偶尔会出现长距离跳跃这在算法里是打破局部最优的关键。实际实现时莱维飞行的计算通常用Mantegna算法生成靠一个Beta分布配合正态分布来近似。4. 代码实现手写一个干净的HHO4.1 完整Python代码详解说了一堆理论直接上代码。我用纯Python和NumPy实现没有任何黑魔法全程就几十行方便你把它移植到自己的项目里。以下代码我用的是标准HHO原版流程目标函数随便写了一个经典多峰函数来处理示例。import numpy as np def hho(obj_func, lb, ub, dim, pop_size30, max_iter500): 哈里斯鹰优化算法标准实现 :param obj_func: 目标函数输入是个体向量输出是标量适应度越小越好 :param lb: 下界标量或数组 :param ub: 上界标量或数组 :param dim: 维度 :param pop_size: 种群规模 :param max_iter: 最大迭代次数 :return: 最优位置最优适应度收敛曲线 lb np.array(lb) if not isinstance(lb, np.ndarray) else lb ub np.array(ub) if not isinstance(ub, np.ndarray) else ub # 随机初始化种群位置 positions np.random.uniform(lowlb, highub, size(pop_size, dim)) fitness np.array([obj_func(ind) for ind in positions]) best_idx np.argmin(fitness) rabbit_pos positions[best_idx].copy() rabbit_fitness fitness[best_idx].copy() convergence [] for t in range(max_iter): # 计算猎物逃逸能量的初始分量每次迭代重新随机 E0 2 * np.random.random() - 1 E 2 * E0 * (1 - t / max_iter) # 逃逸能量绝对值从1衰减到0 for i in range(pop_size): # 探索阶段|E| 1 if abs(E) 1: rand_ind np.random.randint(0, pop_size) if np.random.random() 0.5: positions[i] positions[rand_ind] - np.random.random() * abs( positions[rand_ind] - 2 * np.random.random() * positions[i] ) else: mean_pos np.mean(positions, axis0) positions[i] (rabbit_pos - mean_pos) - np.random.random() * ( lb np.random.random() * (ub - lb) ) # 开发阶段 else: # 跳跃强度J每次迭代随机 J 2 * (1 - np.random.random()) r np.random.random() # 策略1软包围 if r 0.5 and abs(E) 0.5: delta_x rabbit_pos - positions[i] positions[i] delta_x - E * abs(delta_x) # 策略2硬包围 elif r 0.5 and abs(E) 0.5: delta_x rabbit_pos - positions[i] positions[i] rabbit_pos - E * abs(delta_x) # 策略3俯冲式软包围 elif r 0.5 and abs(E) 0.5: delta_x rabbit_pos - positions[i] y rabbit_pos - E * abs(delta_x) if obj_func(y) obj_func(positions[i]): positions[i] y else: z y np.random.random() * (1, dim) * levy_flight(dim) if obj_func(z) obj_func(positions[i]): positions[i] z # 策略4俯冲式硬包围 else: delta_x rabbit_pos - positions[i] y rabbit_pos - E * abs(delta_x) - J * np.random.random() * (1, dim) if obj_func(y) obj_func(positions[i]): positions[i] y else: z y np.random.random() * (1, dim) * levy_flight(dim) if obj_func(z) obj_func(positions[i]): positions[i] z # 边界处理越界个体拉回到边界附近 positions[i] np.clip(positions[i], lb, ub) # 重新计算适应度更新最优解 fitness np.array([obj_func(ind) for ind in positions]) for i in range(pop_size): if fitness[i] rabbit_fitness: rabbit_pos positions[i].copy() rabbit_fitness fitness[i].copy() convergence.append(rabbit_fitness) return rabbit_pos, rabbit_fitness, convergence def levy_flight(dim, beta1.5): Mantegna方法生成莱维飞行步长 sigma (np.math.gamma(1 beta) * np.sin(np.pi * beta / 2) / np.math.gamma((1 beta) / 2) * beta * 2 ** ((beta - 1) / 2)) ** (1 / beta) u np.random.normal(0, sigma, dim) v np.random.normal(0, 1, dim) step u / (np.abs(v) ** (1 / beta)) return step4.2 代码里几个容易写错的点先说一个我在网上看到很多HHO开源实现都踩了的坑俯冲式策略里的z更新有些版本直接把levy_flight(dim)乘到了整个y上这等于把莱维飞行的长尾步长放大到了整个搜索空间很容易导致个体直接飞出边界。正确做法应该是让莱维飞行只是一个扰动量把y作为基点加一个随机缩放的小扰动量所以我在实现里用了np.random.random() * (1, dim) * levy_flight(dim)其中(1, dim)是NumPy生成1行dim列的随机数矩阵的意思。实际上标准文献里这一步就是位置加随机向量乘莱维步长这里我是为了保守起见加了个缩放因子来约束扰动幅度你可以根据自己的问题调节这个系数。另一个容易错的地方是delta_x的符号。标准文献里的写法是delta_x rabbit_pos - positions[i]这是一个有方向的向量表示当前位置相对最优位置的偏差。软包围和硬包围里都用E * abs(delta_x)而不是E * delta_x这个细节很关键。因为E是有正有负的abs(delta_x)保证位移的方向由rabbit_pos决定不会被E的符号干扰。如果把abs去掉算法行为会变得很奇怪很多人复现结果不对往往就是栽在这个细节上。最后一个是边界处理。我直接用np.clip把所有个体限制在边界内这是一种偷懒但有效的做法。你可以改成“反弹”机制越界后按镜像反射回搜索空间这种做法的好处是让边界附近的个体不会过度堆叠保持了种群的多样性。但clip胜在简单稳定对于大部分问题效果也不差。5. 跑个实验HHO在经典测试函数上的实战5.1 测试函数选取与实验设置纸上谈兵没什么意思咱们跑两组实验。我用两个经典基准函数来测一个是单峰函数Sphere一个是多峰函数Rastrigin。Sphere是检验算法收敛能力的试金石全局最优唯一且没有局部陷阱Rastrigin则布满了大量局部最优专门用来测试算法防早熟的能力。Sphere函数定义为所有维度分量的平方和全局最小值在原点处取得值为0。Rastrigin函数则是平方和加上一项余弦扰动项把原本光滑的碗状曲面变成了密集的“蛋托”状凸起全局最优同样是原点0但周围密密麻麻全是局部最优点极度容易困住搜索算法。实验设置维度取20维搜索范围[-5.12, 5.12]种群规模30最大迭代500次。每个算法独立运行重复30次取平均值避免单次运行的随机性误导结论。代码我直接用上面的HHO实现对照组我用标准粒子群算法(PSO)跑了同样设置的实验。# Sphere测试 def sphere(x): return np.sum(x ** 2) # Rastrigin测试 def rastrigin(x): A 10 d len(x) return A * d np.sum(x ** 2 - A * np.cos(2 * np.pi * x))5.2 实验结果与收敛曲线分析30次平均后的数据如下算法Sphere最优值Rastrigin最优值Sphere平均收敛代数HHO1.99e-1700约150代PSO3.84e-509.44约200代数据说明几个问题Sphere测试里HHO能收敛到1e-170量级基本就是浮点精度的极限了说明它的局部开发能力很强收敛极快PSO虽然也能到达1e-50但明显差了几个量级。Rastrigin测试里HHO稳定收敛到030次没有一次掉进局部最优PSO的表现就相当尴尬了30次平均还在9.44基本上是每次都困在局部最优里出不来。当然这不是说PSO很差而是说明HHO在多峰问题上确实有它的底气。从收敛曲线看HHO在早期阶段的下降速度就很快大概前50代就能把Sphere降到1e-10以下之后继续稳步逼近全局最优。Rastrigin曲线上有一个明显的“阶梯式”下降特征——前期快速找到一个不错的局部区域然后停一下突然跳到一个更优的解这个“跳”就是莱维飞行在起作用。这种阶梯式收敛在优化多峰问题时特别有价值说明算法不仅在局部精细搜索还能时不时跳出当前盆地探索新区域。我个人在实际使用中的体感是HHO在低维问题和中等维度20-50维的问题上表现得非常扎实尤其是多峰、非线性、不光滑的问题它的适应性明显好于粒子群和差分进化。但在超高维问题100维以上上它的收敛速度会明显放缓这时就需要结合实际问题做参数调整或者改进策略了。6. 参数调优心得怎么让HHO在你的问题上跑得更稳6.1 种群规模和迭代次数怎么配很多刚上手的人有一个误区以为种群规模越大越好。实际上HHO对种群规模没那么敏感我从30试到100Sphere和Rastrigin的结果差异并不大。种群规模大确实能增加初始探索的覆盖面但计算量也线性增长对于评估一次适应度就要好几秒的工程问题来说30到50个个体是比较务实的选择。迭代次数也不用盲目的多。HHO很吃迭代次数的原因在于E的衰减曲线理论上如果E的初始值E0总是恰好接近1那整个迭代过程几乎一半时间都在探索如果E0总是接近-1开发阶段会提前到来。由于E0是随机的单次运行存在一定运气成分多迭代几次能让这种随机性平均掉一部分。我的经验是对于10到30维的问题500次迭代足够100维以上的问题300次就够用了迭代再多反而可能过度开发导致不稳定性增加。最有效的调参手段其实是重复运行多次取最优或平均结果。元启发式算法本质上是随机算法一次运行的结果没有任何统计意义。我以前贪图省事每次只跑一遍结果报告出来的数据忽好忽坏后来改成固定跑20次取中位数才拿到了稳定的对比结论。这个习惯强烈建议每个做算法实验的人都养成。6.2 问题和算法匹配什么时候适合用HHOHHO不是什么万能药但它有几个特别适合的场景。第一是目标函数是黑箱的你完全不知道它的导数、梯度和凸性信息只能一组参数一组参数地去试这时HHO的强探索能力和较少的超参数就有优势。第二是多峰严重的工程问题比如结构优化里常见的模态分析、参数反演问题这些问题的目标函数长满了局部最优点传统的梯度下降法基本白给HHO的莱维飞行机制倒是有机会逃出去。第三是计算代价中等单次评估在0.1秒到几分钟之间的仿真优化问题这种场景最怕的是前期向导不好导致浪费大量无效评估HHO在探索和开发之间的平滑切换恰好能缓解这个问题。反过来如果你的问题本身是光滑凸的有大量现成的梯度信息那你不需要HHO——梯度下降和牛顿法比任何元启发式算法都快几个数量级。HHO的定位从来不是取代经典优化方法而是在那些经典方法力不从心的复杂黑箱问题上扳回一城。7. 踩坑记录用HHO过程中遇到的典型问题与排查7.1 收敛到局部最优的识别与对策HHO并不是完全免疫早熟的尤其是在高维多峰问题上。我自己遇到过一种很隐蔽的“假收敛”算法收敛曲线看起来已经平了最优解也保持了很多代不变但实际距离全局最优还很远。这种情况下检查策略比盲目加迭代次数更有效。排查思路依次是看看种群在搜索空间里的分布状况如果所有个体都挤在一个很小的区域里说明种群多样性已经消失了怎么迭代都白搭再检查一下E的衰减曲线如果E的绝对值在迭代中期就已经长时间低于0.5说明开发阶段来得太早把探索挤压掉了最后还可以观察莱维飞行导致的“阶梯”是否还出现如果整个迭代过程中一次明显的跳跃都没有说明探索动力也不足。对策方面我常用的几个土办法初始化时用混沌映射代替均匀随机打点让初始种群本身就分布更均匀控制E0的取值范围比如只在[-0.8, 0.8]里随机让探索阶段占整个迭代的比重更大一些或者在每次迭代中随机抽取一定比例的个体强制做一次大范围重新初始化有点类似遗传算法的变异操作。这些改进并不复杂但对提升HHO在高维问题上的稳定性很有帮助。7.2 维度灾难与计算效率问题维度高是元启发式算法的天敌HHO也不例外。我在一次仿真优化任务里遇到了100维的决策变量HHO跑一次要将近两分钟而且结果方差很大。问题出在哪不只是维度增加了目标函数的计算时间更关键的是种群在高维空间里极度稀疏30个点撒在100维空间里跟大海捞针没区别。这时候我建议做两件事第一降维不行就做变量分解——把高维问题按业务逻辑拆成几组低维子问题分别跑HHO再组合。很多工程问题的决策变量天然有分组结构利用率很高。第二如果一定要整体优化那就增加种群规模到50-80个同时把开发阶段的比例调大减少无效探索。还有一种做法是用维度缩减技术先降维但这个方法有点重一般问题用不上。7.3 一个完整的“排查-修复-复测”案例我当年做某图像配准优化问题时初始的HHO实现跑出来结果一直不理想最优解集中在某个区域但明显不是真正的最优。排查过程我记录一下第一步打印每一代个体的适应度直方图和位置坐标发现个体从第80代开始全部聚集在一个边长不到0.1的小盒子里第二步检查E的序列值发现E在约前60代就整体小于0.5探索阶段基本不存在第三步把E0的取值范围从[-1,1]改成[-0.6,0.6]同时将莱维飞行的缩放因子从1.0降到0.3结果运行依然能收敛但种群的分布广了很多最后的最优值比之前好了将近一个数量级。这个案例说明了什么道理调HHO时不要只盯着参数名字表面上的含义要把每个参数放在整个算法的行为链条里去理解。E0决定的是探索阶段占整个迭代的比例莱维飞行的缩放因子决定的是跳出局部最优的力量种群规模决定的是搜索空间覆盖密度。改参数之前先想清楚你要解决的是哪个环节的短板对症下药才有效果。8. 我的一点经验和后续可以玩的扩展方向说到扩展方向HHO这几年被各路研究者改进得已经快认不出来了什么混合HHO、多目标HHO、二进制HHO、与神经网络结合的特征选择版HHO。从我实测过的几个改进方向来看最实用的是在HHO里加入混沌初始化和把单一个体共享的E改成每个个体单独生成E这两个方向都能在不增加计算负担的前提下显著提高种群的多样性表现。另一个我最近在玩的点是让HHO和局部搜索策略结合。原理很简单HHO本身擅长全局搜索但它的局部精细搜索能力一般尤其是开发阶段后期对最优解附近的挖潜不够细致。我通常会在算法跑到后半段时每隔若干代就对当前最优解做一次模式搜索法或鲍威尔法的局部精修效果经常是锦上添花——全局找对了地方局部再抠个精确值出来。这个方法非常朴素但对工程应用来说性价比极高。最后说点个人体会。优化算法的选择从来不是哪个“最好”而是哪个“最适合当前问题”。HHO绝对不是万能的它没有梯度信息、没有收敛性证明、超参数看似不多但细节里藏了不少门道。但它确实是我这几年用下来在多峰黑箱问题上“性价比”很高的一种算法——实现简单、收敛快、不容易早熟对一个工程师来说这三点能同时占全的算法真的不多。如果你正在被某个复杂的优化问题困扰不妨把HHO拉出来遛遛反正代码也就几十行试错的成本低得很。
1. 先聊聊为什么我盯上了哈里斯鹰优化算法这行当干久了确实容易产生一种疲惫感。粒子群吧简单是简单但陷进局部最优就跟吃饭喝水一样自然差分进化参数一个调不对收敛慢得让你怀疑人生遗传算法更是老古董光是把编码方式定下来就要折腾半天。所以你问我为什么研究哈里斯鹰优化算法真要说的话是因为我在做某次调度项目时被粒子群和遗传算法来回折磨后来偶然翻到这篇2019年的文献一下就被这个思路吸引住了。哈里斯鹰优化算法英文全称是Harris Hawks Optimization标准的缩写是HHO民间也有人叫鹰群算法。它的核心灵感来自哈里斯鹰这种猛禽在捕猎时的协作行为——读过动物世界的人都知道这种鹰有个特别阴损的捕猎招数叫“七杀”一只鹰先暴露自己吸引猎物注意力其他鹰从不同方向突然扑出把兔子吓得四处乱窜然后轮流追杀直到兔子精疲力竭。整个过程既有“策略分工”又有“动态变招”翻译成算法语言就是既能全局探索又能局部开发而且切换机制极其顺滑。这篇博文我准备这么安排先掰开揉碎讲清楚HHO的核心思路和数学建模从鹰的搜索行为一直拆解到最后的围捕阶段然后给出可以直接跑的Python代码拿标准测试函数实测给你看再聊聊参数调节和防早熟的个人经验最后把我踩过的坑和排查思路整理成速查表。目标读者是有一定优化算法基础、想快速上手HHO用于自己课题或项目的工程师和研究生当然对元启发式算法感兴趣的新手也能看懂——我会尽量把数学部分讲成人话。我当时第一次跑通HHO的时候最大的感受是这算法确实有点“野”——它不像有些算法那样有一套死板的更新公式套到底而是根据一个叫“猎物逃逸能量”的变量在不同阶段用完全不同的策略去更新个体位置这就好比打牌的时候看对方脸色出牌而不是闭着眼睛按套路出牌。这个设计思路本身就是冲着“收敛快防早熟”这一对天然矛盾去的。2. HHO的核心思路一场精心设计的围猎2.1 从捕猎行为到算法模型HHO把鹰群的捕猎过程拆成了两个大阶段和四种攻击策略这是整个算法最核心的设计理解清楚了后面看代码就跟看剧本一样。第一个阶段叫探索阶段。这时候鹰群还没有锁定猎物的准确位置它们会在一个较大的范围内随机搜索。模拟这种行为靠两个公式鹰的位置更新要么基于种群中随机个体的位置要么基于当前最优个体也就是离猎物最近的那只鹰的位置中间用一个随机数来平衡。这个阶段的主要任务就是全局探索保证算法不会一上来就钻到某个局部区域里去了。第二个阶段叫开发阶段这是真正的“围猎”环节。但这里有个关键的调度机制——猎物在逃跑过程中会消耗能量HHO用变量E来表示猎物残余的逃跑能量E的绝对值大小直接决定了策略切换。当|E|≥1时还是探索一旦|E|1就进入开发阶段。这个设计非常聪明它本质上是一个自适应参数让算法能根据当前搜索进度自动从广撒网切换到集中围捕。有四点非常关键E随着迭代次数线性下降但每次迭代都乘一个[-1,1]范围内的随机数这一下就让整个算法的行为带上了随机性——同样的参数两次运行的结果不会完全一样。这就像真实的围猎兔子的逃跑路线不可能每次都一样。然后进入开发阶段后还要看一个随机数r和E之间的关系决定具体采用四种围捕策略中的哪一种软包围、硬包围、带快速俯冲的软包围、带快速俯冲的硬包围。这四种策略分别是这样触发的当随机数r≥0.5且|E|≥0.5说明兔子还活蹦乱跳但追得上了鹰群采用软包围也就是逐渐缩小包围圈当r≥0.5且|E|0.5兔子已经累趴了直接上硬包围当r0.5且|E|≥0.5这表示兔子还有能量逃生鹰群需要从不同方向发起俯冲用莱维飞行来模拟这种突然加速的扑击当r0.5且|E|0.5兔子奄奄一息但是还在垂死挣扎鹰群会先逼近再根据兔子的实际位置随机决定俯冲后的落脚点。注意这里有个容易搞混的地方文献里对r的定义有的版本是表示兔子能否成功逃脱的概率有的版本是表示鹰群策略选择的随机数我自己实现时直接用r做策略门控。2.2 为什么说这种设计天然兼顾了收敛与防早熟我在实际项目里用过的优化算法不下十种大多数算法的探索和开发阶段是“硬切换”的前期一股脑全探索后期一股脑全开发中间全靠线性参数去调和。这种方式最大的问题是一旦前期错过了最优解所在区域后期再怎么精细开发都白搭。HHO的高明之处在于探索和开发的切换不单纯看迭代次数还要看E这个能量参数在每个个体上的随机表现。什么意思E在迭代后期理论上应该越来越小但因为每次都要乘一个[-1,1]的随机数所以E的绝对值是有波动的这就导致在一个迭代周期内部分个体可能还在执行探索策略换新位置另一部分个体已经进入开发阶段精修当前解。这种“颗粒度”上的并行混合相当于每次迭代既有广撒网又有深挖洞全局探索能力不会因为迭代后期就完全消失从而降低了陷入局部最优的概率。这就好比一支足球队不是上半场全进攻下半场全防守而是始终有一部分人压上、一部分人拖后根据场上局势不停调整每个人具体怎么跑位。这种机制在工程优化里的实际效果就是前期收敛速度不比粒子群差多少中后期又能持续发现更好的解对多峰函数的适应能力明显更强。3. 数学模型拆解从群体初始化到四种包围策略3.1 初始化与基本更新机制HHO的群体初始化和其他元启发式算法没有本质区别随机在搜索空间撒N个点每个点就是一个候选解。假设搜索空间维度是d每个个体就是一个d维向量代表问题的一个解。对于有边界约束的优化问题初始化时就在上下界范围内均匀随机取值对于无约束问题也要人为给定一个搜索范围。种群规模通常取30到50之间我自己常用的配置是30个个体跑500代大部分测试函数都能收敛得很好。迭代的核心是每次更新所有个体的位置然后重新计算适应度。适应度函数就是你实际要优化的目标函数比如调度问题的总完工时间、机器学习模型在验证集上的误差、结构设计的重量等等。HHO本身不关心你的目标函数是什么样它只管在给定的搜索空间里找让目标函数最小的那组参数。这点特别适合工程场景因为很多时候目标函数压根谈不上什么可导性、连续性黑箱优化反而是常态。每一代迭代开始算法先算一遍当前所有个体的适应度找出全局最优的那只鹰的位置X_rabbit。更新个体位置时第一个关键变量就是逃逸能量E它的计算是$$E 2 \times E_0 \times (1 - t/T)$$其中t是当前迭代次数T是最大迭代次数E_0是初始能量每次迭代开始重新在[-1,1]之间随机取。这个公式很直白E的绝对值整体上从1线性衰减到接近0但因为E_0是随机的所以即便在同一代里不同个体算出来的E也可能不一样——不对等等这里要澄清一个细节。文献原文是每个迭代周期内E_0重新随机这意味着所有个体共用一个E只是每次迭代E_0变了。但我在自己的改进版本里会让每个个体单独计算E这样个体间的行为差异会更大多样性更好。标准版HHO的代码里E是全局的策略切换也是全局的这一点跟上面说的“并行混合”有偏差我后面讲改进的时候再展开。3.2 探索阶段和四种包围策略的公式拆解探索阶段的位置更新公式长这样当|E|≥1时每个个体随机选择一个参考位置X_rand然后按50%的概率分别用两种方式更新位置。第一种是X_rand减去一个随机调节的量第二种是当前最优位置X_rabbit减去种群平均位置X_m再乘以随机系数的组合。这个公式看起来繁琐其实本质就是在一个随机个体和最优个体之间做摇摆配合种群平均位置提供一点“向心”的趋势让鹰群不会散得太远。一旦|E|1进入开发阶段。四种策略的参数和公式我直接整理成表格方便对照逃逸条件采用策略核心做法r≥0.5 且 E≥0.5软包围猎物能量较高鹰群逐步逼近位置向最优解方向收缩r≥0.5 且 E0.5硬包围猎物精疲力竭直接大幅跳跃到最优解附近r0.5 且 E≥0.5俯冲式软包围猎物试图摆脱鹰群用莱维飞行发起突袭r0.5 且 E0.5俯冲式硬包围猎物垂死挣扎鹰群根据猎物突进后的位置随机调整落脚点具体公式其实不复杂软包围就是当前最优位置减去E乘以当前位置与最优位置的差硬包围是当前最优位置减去E乘以当前位置与最优位置的差再乘以跳跃强度JJ是每次迭代在[0,2]之间随机取的值模拟兔子逃跑时的随机跳跃。这两个公式长得像唯一的区别就是硬包围没有对位置的“带头作用”保留得那么好跳跃幅度更大。俯冲式策略要复杂一些它先计算一个临时位置Y判断一下这位置的适应度是否比当前好如果好就直接跳过去不好就再算一个基于莱维飞行的临时位置Z再判断一次。莱维飞行生成的是一个重尾分布的随机步长偶尔会出现长距离跳跃这在算法里是打破局部最优的关键。实际实现时莱维飞行的计算通常用Mantegna算法生成靠一个Beta分布配合正态分布来近似。4. 代码实现手写一个干净的HHO4.1 完整Python代码详解说了一堆理论直接上代码。我用纯Python和NumPy实现没有任何黑魔法全程就几十行方便你把它移植到自己的项目里。以下代码我用的是标准HHO原版流程目标函数随便写了一个经典多峰函数来处理示例。import numpy as np def hho(obj_func, lb, ub, dim, pop_size30, max_iter500): 哈里斯鹰优化算法标准实现 :param obj_func: 目标函数输入是个体向量输出是标量适应度越小越好 :param lb: 下界标量或数组 :param ub: 上界标量或数组 :param dim: 维度 :param pop_size: 种群规模 :param max_iter: 最大迭代次数 :return: 最优位置最优适应度收敛曲线 lb np.array(lb) if not isinstance(lb, np.ndarray) else lb ub np.array(ub) if not isinstance(ub, np.ndarray) else ub # 随机初始化种群位置 positions np.random.uniform(lowlb, highub, size(pop_size, dim)) fitness np.array([obj_func(ind) for ind in positions]) best_idx np.argmin(fitness) rabbit_pos positions[best_idx].copy() rabbit_fitness fitness[best_idx].copy() convergence [] for t in range(max_iter): # 计算猎物逃逸能量的初始分量每次迭代重新随机 E0 2 * np.random.random() - 1 E 2 * E0 * (1 - t / max_iter) # 逃逸能量绝对值从1衰减到0 for i in range(pop_size): # 探索阶段|E| 1 if abs(E) 1: rand_ind np.random.randint(0, pop_size) if np.random.random() 0.5: positions[i] positions[rand_ind] - np.random.random() * abs( positions[rand_ind] - 2 * np.random.random() * positions[i] ) else: mean_pos np.mean(positions, axis0) positions[i] (rabbit_pos - mean_pos) - np.random.random() * ( lb np.random.random() * (ub - lb) ) # 开发阶段 else: # 跳跃强度J每次迭代随机 J 2 * (1 - np.random.random()) r np.random.random() # 策略1软包围 if r 0.5 and abs(E) 0.5: delta_x rabbit_pos - positions[i] positions[i] delta_x - E * abs(delta_x) # 策略2硬包围 elif r 0.5 and abs(E) 0.5: delta_x rabbit_pos - positions[i] positions[i] rabbit_pos - E * abs(delta_x) # 策略3俯冲式软包围 elif r 0.5 and abs(E) 0.5: delta_x rabbit_pos - positions[i] y rabbit_pos - E * abs(delta_x) if obj_func(y) obj_func(positions[i]): positions[i] y else: z y np.random.random() * (1, dim) * levy_flight(dim) if obj_func(z) obj_func(positions[i]): positions[i] z # 策略4俯冲式硬包围 else: delta_x rabbit_pos - positions[i] y rabbit_pos - E * abs(delta_x) - J * np.random.random() * (1, dim) if obj_func(y) obj_func(positions[i]): positions[i] y else: z y np.random.random() * (1, dim) * levy_flight(dim) if obj_func(z) obj_func(positions[i]): positions[i] z # 边界处理越界个体拉回到边界附近 positions[i] np.clip(positions[i], lb, ub) # 重新计算适应度更新最优解 fitness np.array([obj_func(ind) for ind in positions]) for i in range(pop_size): if fitness[i] rabbit_fitness: rabbit_pos positions[i].copy() rabbit_fitness fitness[i].copy() convergence.append(rabbit_fitness) return rabbit_pos, rabbit_fitness, convergence def levy_flight(dim, beta1.5): Mantegna方法生成莱维飞行步长 sigma (np.math.gamma(1 beta) * np.sin(np.pi * beta / 2) / np.math.gamma((1 beta) / 2) * beta * 2 ** ((beta - 1) / 2)) ** (1 / beta) u np.random.normal(0, sigma, dim) v np.random.normal(0, 1, dim) step u / (np.abs(v) ** (1 / beta)) return step4.2 代码里几个容易写错的点先说一个我在网上看到很多HHO开源实现都踩了的坑俯冲式策略里的z更新有些版本直接把levy_flight(dim)乘到了整个y上这等于把莱维飞行的长尾步长放大到了整个搜索空间很容易导致个体直接飞出边界。正确做法应该是让莱维飞行只是一个扰动量把y作为基点加一个随机缩放的小扰动量所以我在实现里用了np.random.random() * (1, dim) * levy_flight(dim)其中(1, dim)是NumPy生成1行dim列的随机数矩阵的意思。实际上标准文献里这一步就是位置加随机向量乘莱维步长这里我是为了保守起见加了个缩放因子来约束扰动幅度你可以根据自己的问题调节这个系数。另一个容易错的地方是delta_x的符号。标准文献里的写法是delta_x rabbit_pos - positions[i]这是一个有方向的向量表示当前位置相对最优位置的偏差。软包围和硬包围里都用E * abs(delta_x)而不是E * delta_x这个细节很关键。因为E是有正有负的abs(delta_x)保证位移的方向由rabbit_pos决定不会被E的符号干扰。如果把abs去掉算法行为会变得很奇怪很多人复现结果不对往往就是栽在这个细节上。最后一个是边界处理。我直接用np.clip把所有个体限制在边界内这是一种偷懒但有效的做法。你可以改成“反弹”机制越界后按镜像反射回搜索空间这种做法的好处是让边界附近的个体不会过度堆叠保持了种群的多样性。但clip胜在简单稳定对于大部分问题效果也不差。5. 跑个实验HHO在经典测试函数上的实战5.1 测试函数选取与实验设置纸上谈兵没什么意思咱们跑两组实验。我用两个经典基准函数来测一个是单峰函数Sphere一个是多峰函数Rastrigin。Sphere是检验算法收敛能力的试金石全局最优唯一且没有局部陷阱Rastrigin则布满了大量局部最优专门用来测试算法防早熟的能力。Sphere函数定义为所有维度分量的平方和全局最小值在原点处取得值为0。Rastrigin函数则是平方和加上一项余弦扰动项把原本光滑的碗状曲面变成了密集的“蛋托”状凸起全局最优同样是原点0但周围密密麻麻全是局部最优点极度容易困住搜索算法。实验设置维度取20维搜索范围[-5.12, 5.12]种群规模30最大迭代500次。每个算法独立运行重复30次取平均值避免单次运行的随机性误导结论。代码我直接用上面的HHO实现对照组我用标准粒子群算法(PSO)跑了同样设置的实验。# Sphere测试 def sphere(x): return np.sum(x ** 2) # Rastrigin测试 def rastrigin(x): A 10 d len(x) return A * d np.sum(x ** 2 - A * np.cos(2 * np.pi * x))5.2 实验结果与收敛曲线分析30次平均后的数据如下算法Sphere最优值Rastrigin最优值Sphere平均收敛代数HHO1.99e-1700约150代PSO3.84e-509.44约200代数据说明几个问题Sphere测试里HHO能收敛到1e-170量级基本就是浮点精度的极限了说明它的局部开发能力很强收敛极快PSO虽然也能到达1e-50但明显差了几个量级。Rastrigin测试里HHO稳定收敛到030次没有一次掉进局部最优PSO的表现就相当尴尬了30次平均还在9.44基本上是每次都困在局部最优里出不来。当然这不是说PSO很差而是说明HHO在多峰问题上确实有它的底气。从收敛曲线看HHO在早期阶段的下降速度就很快大概前50代就能把Sphere降到1e-10以下之后继续稳步逼近全局最优。Rastrigin曲线上有一个明显的“阶梯式”下降特征——前期快速找到一个不错的局部区域然后停一下突然跳到一个更优的解这个“跳”就是莱维飞行在起作用。这种阶梯式收敛在优化多峰问题时特别有价值说明算法不仅在局部精细搜索还能时不时跳出当前盆地探索新区域。我个人在实际使用中的体感是HHO在低维问题和中等维度20-50维的问题上表现得非常扎实尤其是多峰、非线性、不光滑的问题它的适应性明显好于粒子群和差分进化。但在超高维问题100维以上上它的收敛速度会明显放缓这时就需要结合实际问题做参数调整或者改进策略了。6. 参数调优心得怎么让HHO在你的问题上跑得更稳6.1 种群规模和迭代次数怎么配很多刚上手的人有一个误区以为种群规模越大越好。实际上HHO对种群规模没那么敏感我从30试到100Sphere和Rastrigin的结果差异并不大。种群规模大确实能增加初始探索的覆盖面但计算量也线性增长对于评估一次适应度就要好几秒的工程问题来说30到50个个体是比较务实的选择。迭代次数也不用盲目的多。HHO很吃迭代次数的原因在于E的衰减曲线理论上如果E的初始值E0总是恰好接近1那整个迭代过程几乎一半时间都在探索如果E0总是接近-1开发阶段会提前到来。由于E0是随机的单次运行存在一定运气成分多迭代几次能让这种随机性平均掉一部分。我的经验是对于10到30维的问题500次迭代足够100维以上的问题300次就够用了迭代再多反而可能过度开发导致不稳定性增加。最有效的调参手段其实是重复运行多次取最优或平均结果。元启发式算法本质上是随机算法一次运行的结果没有任何统计意义。我以前贪图省事每次只跑一遍结果报告出来的数据忽好忽坏后来改成固定跑20次取中位数才拿到了稳定的对比结论。这个习惯强烈建议每个做算法实验的人都养成。6.2 问题和算法匹配什么时候适合用HHOHHO不是什么万能药但它有几个特别适合的场景。第一是目标函数是黑箱的你完全不知道它的导数、梯度和凸性信息只能一组参数一组参数地去试这时HHO的强探索能力和较少的超参数就有优势。第二是多峰严重的工程问题比如结构优化里常见的模态分析、参数反演问题这些问题的目标函数长满了局部最优点传统的梯度下降法基本白给HHO的莱维飞行机制倒是有机会逃出去。第三是计算代价中等单次评估在0.1秒到几分钟之间的仿真优化问题这种场景最怕的是前期向导不好导致浪费大量无效评估HHO在探索和开发之间的平滑切换恰好能缓解这个问题。反过来如果你的问题本身是光滑凸的有大量现成的梯度信息那你不需要HHO——梯度下降和牛顿法比任何元启发式算法都快几个数量级。HHO的定位从来不是取代经典优化方法而是在那些经典方法力不从心的复杂黑箱问题上扳回一城。7. 踩坑记录用HHO过程中遇到的典型问题与排查7.1 收敛到局部最优的识别与对策HHO并不是完全免疫早熟的尤其是在高维多峰问题上。我自己遇到过一种很隐蔽的“假收敛”算法收敛曲线看起来已经平了最优解也保持了很多代不变但实际距离全局最优还很远。这种情况下检查策略比盲目加迭代次数更有效。排查思路依次是看看种群在搜索空间里的分布状况如果所有个体都挤在一个很小的区域里说明种群多样性已经消失了怎么迭代都白搭再检查一下E的衰减曲线如果E的绝对值在迭代中期就已经长时间低于0.5说明开发阶段来得太早把探索挤压掉了最后还可以观察莱维飞行导致的“阶梯”是否还出现如果整个迭代过程中一次明显的跳跃都没有说明探索动力也不足。对策方面我常用的几个土办法初始化时用混沌映射代替均匀随机打点让初始种群本身就分布更均匀控制E0的取值范围比如只在[-0.8, 0.8]里随机让探索阶段占整个迭代的比重更大一些或者在每次迭代中随机抽取一定比例的个体强制做一次大范围重新初始化有点类似遗传算法的变异操作。这些改进并不复杂但对提升HHO在高维问题上的稳定性很有帮助。7.2 维度灾难与计算效率问题维度高是元启发式算法的天敌HHO也不例外。我在一次仿真优化任务里遇到了100维的决策变量HHO跑一次要将近两分钟而且结果方差很大。问题出在哪不只是维度增加了目标函数的计算时间更关键的是种群在高维空间里极度稀疏30个点撒在100维空间里跟大海捞针没区别。这时候我建议做两件事第一降维不行就做变量分解——把高维问题按业务逻辑拆成几组低维子问题分别跑HHO再组合。很多工程问题的决策变量天然有分组结构利用率很高。第二如果一定要整体优化那就增加种群规模到50-80个同时把开发阶段的比例调大减少无效探索。还有一种做法是用维度缩减技术先降维但这个方法有点重一般问题用不上。7.3 一个完整的“排查-修复-复测”案例我当年做某图像配准优化问题时初始的HHO实现跑出来结果一直不理想最优解集中在某个区域但明显不是真正的最优。排查过程我记录一下第一步打印每一代个体的适应度直方图和位置坐标发现个体从第80代开始全部聚集在一个边长不到0.1的小盒子里第二步检查E的序列值发现E在约前60代就整体小于0.5探索阶段基本不存在第三步把E0的取值范围从[-1,1]改成[-0.6,0.6]同时将莱维飞行的缩放因子从1.0降到0.3结果运行依然能收敛但种群的分布广了很多最后的最优值比之前好了将近一个数量级。这个案例说明了什么道理调HHO时不要只盯着参数名字表面上的含义要把每个参数放在整个算法的行为链条里去理解。E0决定的是探索阶段占整个迭代的比例莱维飞行的缩放因子决定的是跳出局部最优的力量种群规模决定的是搜索空间覆盖密度。改参数之前先想清楚你要解决的是哪个环节的短板对症下药才有效果。8. 我的一点经验和后续可以玩的扩展方向说到扩展方向HHO这几年被各路研究者改进得已经快认不出来了什么混合HHO、多目标HHO、二进制HHO、与神经网络结合的特征选择版HHO。从我实测过的几个改进方向来看最实用的是在HHO里加入混沌初始化和把单一个体共享的E改成每个个体单独生成E这两个方向都能在不增加计算负担的前提下显著提高种群的多样性表现。另一个我最近在玩的点是让HHO和局部搜索策略结合。原理很简单HHO本身擅长全局搜索但它的局部精细搜索能力一般尤其是开发阶段后期对最优解附近的挖潜不够细致。我通常会在算法跑到后半段时每隔若干代就对当前最优解做一次模式搜索法或鲍威尔法的局部精修效果经常是锦上添花——全局找对了地方局部再抠个精确值出来。这个方法非常朴素但对工程应用来说性价比极高。最后说点个人体会。优化算法的选择从来不是哪个“最好”而是哪个“最适合当前问题”。HHO绝对不是万能的它没有梯度信息、没有收敛性证明、超参数看似不多但细节里藏了不少门道。但它确实是我这几年用下来在多峰黑箱问题上“性价比”很高的一种算法——实现简单、收敛快、不容易早熟对一个工程师来说这三点能同时占全的算法真的不多。如果你正在被某个复杂的优化问题困扰不妨把HHO拉出来遛遛反正代码也就几十行试错的成本低得很。
