浙江大学学报(工学版)

浙江大学学报(工学版), 2025, 59(1): 27-38 doi: 10.3785/j.issn.1008-973X.2025.01.003

计算机与控制工程

基于并行计算的计算智能综述

吴菲,, 陈嘉诚, 王万良,

浙江工业大学 计算机科学与技术学院，浙江 杭州 310023

Review on computational intelligence based on parallel computing

WU Fei,, CHEN Jiacheng, WANG Wanliang,

College of Computer Science and Technology, Zhejiang University of Technology, Hangzhou 310023, China

通讯作者: 王万良，男，教授. orcid.org/0000-0002-1552-5075. E-mail：zjutwwl@zjut.edu.cn

收稿日期: 2023-12-10  

基金资助: 国家自然科学基金资助项目（61873240）.

Received: 2023-12-10  

Fund supported: 国家自然科学基金资助项目（61873240）.

作者简介 About authors

吴菲（1995—），女，博士生，从事大数据、计算智能研究.orcid.org/0000-0002-8483-5392.E-mail：wfmook@163.com , E-mail：wfmook@163.com

摘要

传统计算智能技术缺乏实时性和适应性，基于并行计算的计算智能技术能够提高计算效率，解决多模态信息兼容处理的问题. 分别从智能计算的3个分支（神经网络、进化算法和群智能算法）介绍计算智能与大数据并行计算融合的研究现状. 总结并行计算智能面临的问题与挑战，思考相关研究的发展方向.

关键词： 并行计算 ; 计算智能 ; 神经网络 ; 进化算法 ; 群智能

Abstract

Traditional computational intelligence technology was found to lack real-time capabilities and adaptability, and computational intelligence technology based on parallel computing made computational efficiency improve and addressed the issue of compatible processing of multimodal information. From three branches of computational intelligence: neural networks, evolutionary algorithms, and swarm intelligence algorithms, the current states were reviewed on the integration of computational intelligence and big data-parallel computing. Problems present in parallel computing intelligence were summarized, and some thoughts were given to the development direction of related studies.

Keywords： parallel computing ; computational intelligence ; neural network ; evolutionary algorithm ; swarm intelligence

PDF (760KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

吴菲, 陈嘉诚, 王万良. 基于并行计算的计算智能综述. 浙江大学学报(工学版)[J], 2025, 59(1): 27-38 doi:10.3785/j.issn.1008-973X.2025.01.003

WU Fei, CHEN Jiacheng, WANG Wanliang. Review on computational intelligence based on parallel computing. Journal of Zhejiang University(Engineering Science)[J], 2025, 59(1): 27-38 doi:10.3785/j.issn.1008-973X.2025.01.003

自然进化存在着如神经系统的进化、动物捕食的自然规律，研究人员通过模仿这些规律解决现实问题. 计算智能（computational intelligence，CI）旨在开发具有自主学习和适应功能、解决复杂问题并改善人类生活的智能系统. 计算智能包括神经网络、进化算法、群智能算法等分支方向[1]. 相比人工智能[2–3]，计算智能无需建立精确数学或逻辑模型，不依赖知识表示，直接基于观测数据进行输入信息处理，适于解决大数据分析中遇到的形式化模型难建立问题，以及用传统技术难以解决甚至无法解决的问题[4–5].

大数据发展迅猛，在理论研究领域延伸出基于机器学习的大数据[6–7]、基于深度学习的大数据[8–9]、基于计算智能的大数据[10]等. 其中基于计算智能的大数据分析逐渐成为研究者关注的热点，它通过借鉴大数据挖掘的机器学习方法，将计算智能的大数据分析考虑到大数据并行分析之中，提升了计算效率. 大数据分析利用并行化框架，结合并行化的计算智能算法，与其他人工智能算法相融合形成了系统的基于计算智能的大数据体系结构.

本文将分别介绍大数据驱动下神经网络、进化算法、群智能算法的研究进展，总结并行计算智能面临的问题与挑战，思考研究发展方向.

1. 大数据驱动下的神经网络

1.1. 研究进展

生物神经网络系统是由大量神经元组成，人工神经网络受此启发，以人工神经元模拟生物神经元，形成不同种类的神经网络模型[11–12]. 在大型并行系统上部署分布式深度学习技术堆栈[13]的过程复杂，涉及通用和定制软件的多层集成和配置. 分布式深度学习（distributed deep learning, DDL）[14]引入模型并行性和数据并行性. 在分布式框架上训练深度学习模型涉及2个主要步骤：1）输入数据分布在集群中的所有节点上，每个节点训练接收的数据；2）将群集中每个节点上的权重和偏差进行平均，每个节点用新的平均值更新网络参数. 上述2个步骤反复进行. Spark的深度学习有2个优点：大规模预测[15–16]和超参数调整[17]. 并行深度学习框架如表1所示.

表 1   并行深度学习框架

Tab.1  Frameworks for parallel deep learning

框架并行性接口开源随机梯度下降预训练模型
DeepLearnning4J[18]数据Java、Scala是同步CNN、RNN、 LSTM、DBN、SAE
H2O Deep Water[19]数据—是——
CaffeOnSpark[20]数据和模型Scala and Python是同步DNN、LSTM
TensorFlow on Spark数据Python是异步CNN、DNN for MNIST
Spark ONE[21]数据Scala否同步和异步—
DeepSpark[22]数据Scala否异步和弹性平均梯度下降—
SparkNET[23]数据Scala and Java是在第N次迭代中同步TensorFlow and Caffe
DeepDist[24]数据Python是同步Word to Vector
DistDL[25]数据和模型—否——
SparkML[26]数据Scala、Java and Python否同步, L-BFGSCNN

新窗口打开| 下载CSV


1.1.1. 并行卷积神经网络

大规模预测预期输出的准确性取决于数据量，当获得新数据时，历史模式数据的使用被称为训练数据，深度学习模型从先前的数据中生成预测模型并预测结果. Miao等[27]扩展学习框架，涵盖计算机视觉、自然语言处理、机器人和自动驾驶等研究算法. Xiao等[28]基于文本到图像生成模型，将语义上下文嵌入图表的新系统（ChartSpark）. 该系统根据文本输入中传达的语义上下文和嵌入在普通图表中的数据信息生成可视化图形. 大量的数据传输在实时通信时被窃听和干扰，基于Spark的优化方法可以高效地处理大量数据，因此，Ullah等[29]开发出基于Spark的大数据优化和迁移学习(NIDS-VSB)的VANET网络入侵检测系统. 该系统融合了卷积神经网络模型，被用于提取深度特征. Teerapittayanon等[30]提出将卷积神经网络模型与分布式计算融合. 此后，Takam等[31]提出将Spark体系结构用于基于深度学习的医学成像剂量优化方法，在实现改进的全卷积神经网络方法上采用Spark框架以优化和减少训练时间并使深度学习模型的错误率最小化. Wba 等[32]提出基于分布式深度学习的新型大遥感图像分类方法RS-DCNN，用于处理遥感图像分类的分布式卷积神经网络. Jang等[33]提出轻量级的分布式卷积神经网络微调方法，通过在移动设备上使用分布式计算来降低计算成本.

1.1.2. 其他经典深度学习神经网络

Cao等[34]提出的并行集成神经网络系统（parallel integrated neural network，PINN）是广义回归神经网络（general regression neural network，GRNN）与自适应动态灰狼优化器（adaptive dynamic grey wolf optimizer， ADGWO）的组合. PINN将GRNN的平滑因子和计算结果分别作为ADGWO的个体位置信息和个体适应度，进行模型训练. Venkatesan等[35]提出的卷积神经网络模型去除了高斯噪声，提升了分类效果和训练精度，该模型在Spark、图形处理单元（graphics processing unit，GPU）、CPU上进行了性能测试. 为了解决协作深度学习（collaborative deep learning，CDL）面临的大数据量模型训练难以维护问题，Yang等[36]提出带有项目私有节点的CDL——CDL-I，并在此基础上通过分割模型对算法进行并行化处理，提出基于 Spark 的CDL-I方法. Narir等[37]提出基于深度信念网络和集成支持向量机的分布式异常行为检测方法. 针对入侵的数量巨大且不断增加的多样性，现有的入侵检测系统使用机器学习技术来学习基于手工特征向量的分类器，检测导致高错误率的复杂攻击有困难. Narir等[37]构建了灵活的深度防御系统来检测异常行为，自动学习并分析大量网络流量. 针对异常数据检测问题，Yin等[38]提出深度神经网络结合MapReduce进行云存储异常数据挖掘的检测方法.

1.1.3. 基于GPU的并行神经网络

由于GPU分布在不同节点上，内存数据传输变为跨节点网络传输，导致训练时间增加. 大多数研究通过减少网络链接上的数据大小来解决这个问题，却忽略了网络距离[39]. 神经网络结构越来越复杂和数据集越来越大的发展趋势，对计算性能和硬件内存提出了越来越高的要求. 当硬件到达限值时，须进行算法改进，或者减少计算和数据传输，通过减少输入数据的方式来节省内存，或者提高从主机到设备的并行性. 卷积神经网络计算占用了超过80%的计算成本，因此提高网络计算速度的策略是重要研究方向. Zhu等[40]提出改进的基于核方法的主成分分析降维算法，去除了冗余信息，并提出预测膝关节角度的模型，解决了内存占用大和计算速率低下的问题.

1.2. 开放性问题和研究趋势

并行神经网络的网络结构较简单，较复杂的深度学习神经网络有待开发. 并行的神经网络和深度神经网络在提高计算效率上具有非常重要的作用，有必要研究复杂神经网络与大数据的融合并行技术. 大数据处理很大程度上依赖深度学习模型算法，存在以下缺陷. 1)数据采集方法有限，采集的数据无法确保训练数据表示深度学习模型涵盖的数据分布. 2)数据标注耗费人力，标注数据的质量无法保证. 3)数据隐私保护面临挑战. 大数据驱动下的神经网络研究在数字孪生、迁移学习[41–43]、联邦学习[44–46]、云计算[47–49]等分支上不断发展，提高实时性以及使用大模型是研究热点.

2. 并行进化计算

2.1. 研究进展

进化计算是自然计算的重要分支，自然计算是计算智能的集大成者[50]. 进化计算在自然计算中隶属于生命系统范畴，由遗传、进化的自然系统演变而来. 根据大自然优胜劣汰的生存法则，进化计算将个体看成染色体，个体的特征看成基因，通过不断的竞争迭代，个体之间经过交叉、变异、选择等最终实现群体的进化. 进化计算分为基于pareto支配关系、基于分解、基于指标以及混合算法等类别. 多目标进化算法的定义式为

$ {\mathrm{min}} _x f(x)={\mathrm{min}} _x\left[f_1(x), f_2(x), \cdots, f_m(x)\right] . $

式中：$ x $为决策变量，决策向量X由决策变量xi构成，$ \boldsymbol{X}=[{x}_{1},{x}_{2},\cdots ,{x}_{n}] $；$ x_i \in \varOmega $，$ \varOmega $为决策空间. 多目标优化的目标函数$ f $是决策空间到目标空间$ \varLambda $的映射，表示为$ \varOmega \rightarrow \varLambda $. $ m $为目标函数的个数，在多目标优化中，$ m \geqslant 2 $.

2.1.1. 并行遗传算法

遗传算法(genetic algorithm, GA)[51–53] 是进化计算的经典算法，如果遗传算子所需的迭代过程可以在并行和分布式计算体系结构中实现，遗传算法解决大规模优化问题的效率将得到提高. Salto等[54]将MapReduce作为范式来设计求解器以解决组合优化问题，同时在Spark和MPI平台上开发了遗传算法. 在大数据环境下，遗传算法是处理调度优化领域常用的算法，因此可以将多目标的遗传算法运用于Hadoop框架的作业调度之中. Hadoop调度程序是效率水平的关键组件，其中MapReduce任务由调度程序分配给Hadoop节点. 以可扩展的方式规划越来越多的功能和资源面临巨大挑战，并行框架下的遗传算法被广泛应用于资源计算领域. 例如在解决资源调度分配问题上，为了提高中间平台业务处理能力，Huang等[55]提出了有效的Hadoop配置参数调优方法. 资源调度存在异构问题，Hadoop的异构性有3个类别：工作负载、集群和用户. 1）工作负载的异构：有些任务占用大量CPU，另一些任务须大量读写到磁盘上，否则须由网络传输更多数据. 2）集群的异构存在于不同的基础结构资源中，例如数据存储和处理单元. 3）用户异构存在于分配的优先级和最低份额要求之间，客户端之间存在差异. 每个客户端工作分配种类和数量可能不同，为此Seethalakshmi等[56]提出RCGA，带有MapReduce的RCGA使用户可以创建更多可扩展的应用程序，在更少的时间内提供了更高的抽象度. 针对异构环境中的Hadoop框架下的MapReduce调度分析，Kalia等[57]开展调查研究并进行了总结.

2.1.2. 并行动态多目标算法

大多数多目标优化的研究前提是假设多目标优化问题（multi-objective optimization problems，MOPs）不可变或为静态，即优化目标的数量、约束在进化过程中不发生改变. 在现实场景中，目标函数或搜索空间会随时间变化[58]，目标之间会发生冲突，种群无法及时响应环境变化而提前收敛，因此静态优化算法无法应对动态的MOPs. 动态多目标优化问题（DMOPs）具有目标函数和参数随着时间变化而突发变化的特质，要求算法迅速对突发变化生成应对机制. Jiang等[59]划分了DMOPs，从环境变化监测[60–62]、环境变化应答机制[63–64]、动态多目标优化算法的性能评价指标[65–66]、算法的应用[67–68]等多个角度介绍研究现状.针对大数据量的动态多目标问题，Barba-González等[69]提出用于大数据优化的软件框架jMetalSP, 该框架被部署在Hadoop/Spark集群上以解决动态旅行商问题. jMetalSP允许开发3层优化工作流，其中核心组件是不断优化解决动态多目标优化问题的优化器. 所有jMetalSP元素都紧密耦合并链接到Spark，其他流系统难以使用，经Barba-González等[70]改进的jMetalSP更加面相应用对象. Nebro等[71]利用jMetalSP提出使用进化算法的交互式动态多目标决策（InDM2），并将决策或偏好信息引入搜索过程方法的研究中. InDM2结合了动态多目标优化和多目标决策，利用jMetalSP实现动态多目标并行计算. 当发生突发情况时，除了目标函数、约束条件变化外，目标的数量也在不断变化. 工作流调度问题是云计算中研究广泛的主题，Ismayilov等[72]在云计算中将人工神经网络与NSGA-II相结合，提出基于预测的动态多目标进化算法（NN-DNSGA-II）.

2.1.3. 并行量子进化计算

量子进化算法（quantum evolutionary algorithm, QEA）[73]没有采用二进制、数字或符号表示等编码方式，而是使用Q位概率表示方法，能够更好地表示多样性特征，更好地代表进化空间中种群线性叠加的状态. 经验证明，QEA能够比经典进化算法更好地进行种群进化.Ding等[74]将协同进化量子机制与粒子群优化算法（particle swarm optimization，PSO）相结合，提出自适应复合体的协同进化量子PSO，构建新颖的多智能体共识MapReduce优化模型来进行大数据集的多相关属性归约. 针对多目标大规模优化问题（MOLSOPs），Cao等[75–76]提出基于消息传递接口MPI的分布式并行协同进化多目标进化算法（DPCCMOLSEA）. Cao等[77]基于DPCCMOLSEA提出具有量子增强差分进化算法（differential evolution，DE）的并行多目标大规模进化算法（PMLEA），该算法具有自适应控制参数的量子增强差分进化和可选外部档案的量子增强自适应差分进化.

2.1.4. 并行高维多目标进化计算

高维多目标优化问题[78]在工业领域、科学研究领域不断出现，刘建昌等[79]介绍了高维多目标进化计算现状，将高维多目标进化算法划分为典型高维多目标算法和基于R2指标的高维多目标优化算法. 针对高维多目标、大数据量的计算，特征选择通常是解决高维计算带来的维度灾难问题的有效方法，但是此类方法存在效率低、精度不足的问题. Hussain等[80]提出基于GPU的并行多目标粒子群优化算法. 该算法通过使用合并内存访问、快速伪随机数生成器、Thrust库、CUB库、原子函数、并行归档等实现了更快的数据计算. R-Tree可以有效解决多维大数据的索引问题，但是维度增加会使R-Tree的性能大幅下降. Elmeiligy等[81]提出基于Spark的多维大数据高效并行索引结构. She等[82]提出的分布式高维矩阵计算优化方法运算执行策略RPMM，该策略在矩阵计算并发性和数据混洗的开销方面的表现良好. RPMM同时引入局部敏感哈希算法，提供更快的行向量相似度计算. 相比单机上的矩阵运算，这些分布式矩阵运算可以有效解决大型矩阵运算的可扩展性问题. Escobar 等[83]利用GPU并行解决了进化高维多目标特征的提取问题.

2.2. 进化算法常见评价指标

进化算法的常见评价指标大致分为准确性评价指标、多样性评价指标和综合性评价指标，常见的评估指标有反向世代距离、超体积和超体积差异.

2.2.1. 反向世代距离

反向世代距离IGD将标准Pareto前沿与进化后获得的结果Pareto前沿进行对比，计算两者之间的距离，距离越接近表示算法的多样性与收敛性越好.

$ \operatorname{IGD}\left({\mathrm{P F}}, {\mathrm{P F}}^*\right)=\frac{1}{\left|{\mathrm{P F}}^*\right|} {\displaystyle\sum_{v \in {\mathrm{P F}}^*} d(v, {\mathrm{P F}})} . $

式中：PF为算法获得的Pareto前沿，$ {\mathrm{P F}}^{*} $为标准的Pareto前沿，$ d(v, {\mathrm{P F}}) $为标准Pareto前沿上个体与进化结果（v）Pareto前沿个体（PE）之间的欧式距离. 计算IGD时须对欧氏距离求和取平均值，因此IGD不仅能够评价进化结果的Pareto前沿与标准Pareto前沿之间的接近程度，还能够评价算法结果的分布性.

2.2.2. 超体积

超体积HV计算获得的Pareto解集在目标空间覆盖的范围，是综合评估指标，能够评估种群的多样性和收敛性.

$ {\mathrm{HV}}={\mathrm{VOL}}\left(\bigcup _{i=1}^{\left|{\mathrm{PF}}\right|}{v}_{i}\right). $

式中：$ v_{i} $为参考点和个体$ i $形成的超体积，$ {\mathrm{VOL}}\left(\cdot \right) $为勒贝格度量. 超体积越大， HV越大，说明种群收敛性越好，且个体分布越均匀.

2.2.3. 超体积差异

超体积差异HVD通过计算标准Pareto前沿的HV和算法得到的Pareto前沿的HV的差异得到. HVD越小，说明算法的收敛性越好，分布越均匀.

$ {\mathrm{H V D}}={\mathrm{H V}}\left({\mathrm{P F}}^*\right)-{\mathrm{H V}}({\mathrm{P F}}) . $

2.3. 进化算法的常见测试用例

进化算法的测试用例由不同优化问题的数学表达得到，根据问题的不同性质，测试用例被设计成具有代表性的数学表达式. 常见测试用例的优化问题及对应测试函数如下. 1）多目标问题：F1-F10[84]、DTLZ[85]、WFG[86]、LSS[87]、MaF[88]；2）多模态多目标：MMO[89]、MMF[90]、MMMOP[91]、SMMOP[92]；3）大规模优化问题：BT1-BT9[93]、IDTLZ[94]、SDTLZ[95]、LSMOP[96]；4）动态优化问题：FDA[97]、JY[98]、DF[99].

2.4. 开放性问题和研究趋势

大数据并行方式不论是CPU同构并行、CPU异构并行、GPU并行，还是CPU与GPU异构并行，都与进化计算有很大程度的融合，这不仅能够提升进化计算的速率，还能够提高计算的精度. 并行进化计算仍然存在技术难点：大部分并行框架复杂，修改底层框架有难度；进化算法在各个分支上的优化问题不同，各类规范化的优化问题仍处于传统的优化模式，未能全方位与大数据框架结合. 此外，传统的进化算法是否都适合在大数据驱动下与大数据相结合也是值得探讨的问题.

3. 并行群智能计算

群智能(swarm intelligence，SI)计算是学者在观察自然界中的生物群体生活习惯时受到启发而得. 该方法将生物群体的生活习惯宏观地转换为智能计算的方式. 群智能优化算法的发展按照时间线总结如图1所示. 群智能以解决复杂问题的稳健性而闻名[100–102]，代表着自然界中成群结队寻找食物的社会群体的行为. 这种行为可以在鱼群、蚁群和蜜蜂中看到. 粒子群优化算法是主要的群算法[103]. 如图2所示，并行群智能计算采用并行计算中分而治之的理念，将初始种群划分为多个子种群，每个子种群独自进行局部优化，得到的新子种群与初始子种群信息交换后形成新种群，最后对新种群进行全局优化.

图 1

新窗口打开| 下载原图ZIP| 生成PPT

图 1   群智能优化算法的发展时间线

Fig.1   Development timeline of swarm intelligence optimization algorithms


图 2

新窗口打开| 下载原图ZIP| 生成PPT

图 2   并行群智能的架构图

Fig.2   Architecture diagram of parallel swarm intelligence


3.1. 研究进展

3.1.1. 粒子群优化算法并行研究

粒子群优化算法由 Kennedy等[104]提出，主要概念涉及创建候选解决方案，每个潜在解决方案都被视为具有特定变化率或速度的粒子、该粒子在搜索空间中运行，每个粒子保留个体记忆或访问过的最佳位置，以及迄今为止群中所有粒子访问过的最佳位置的全局记忆. PSO是著名的解决优化问题的元启发式技术算法，适用于动态任务计划，工作流计划和负载平衡. PSO开始运行时具有强大的全局搜索能力，在接近运行最远限制时进行附近的追踪. Pradhan等[105]提出利用改进PSO平衡云计算中的计算负载. 云计算调度中的关键问题是如何在最大化资源利用率的情况下将整个任务分配给生成的虚拟机，现有的调度算法侧重于最小化任务执行时间，忽略了服务水平协议和服务质量保证. Akman等[106]提出模糊TOPSIS-PSO，解决了基于多目标服务水平协议的任务调度问题. Alsaiday等[107]针对云计算中任务调度关于非确定性多项式时间NP-hard问题，提出LJFP-PSO和MCT-PSO. 并行化PSO能够解决云计算[108]中的资源调度问题，还能够解决工业工厂或车间中经常遇到的功耗最小化问题. Liao等[109]提出基于分布式的粒子群算法，实现了GPU和MapReduce中的并行化处理，进一步缩短运行时间，以满足最小化照明设备的功耗以及在指定工作点产生足够照度的要求. 为了求解高维非线性优化问题，Zhuo等[110]考虑并行计算，提出基于GPU和计算同一设备架构（CUDA）的并行粒子群优化算法（GPU-PSO）. 该算法设计基于CUDA特性的数据结构，采用合并内存访问方式，提升了数据并行处理和数据访问效率.

3.1.2. 其他并行群智能优化算法

群体智能算法多用于解决群体行为优化问题，除了经典PSO外，学者还根据其他生物群体的习性提出多种群智能算法. 人工蜂群算法是模仿蜜蜂行为的优化方法，Wen等[111]提出基于Spark平台的多组人工蜂群算法，并将该算法运用于医学图像配准中. Lakshmanaprabu等[112]提出基于Hadoop框架的蚁群优化算法，并将该算法运用在车载自组织网络（VANET）中. MAX-MIN蚁群系统是最著名的蚁群优化算法，Skinderowicz[113]改进了基于GPU并行的MAX-MIN蚁群系统. Banchhor等[114]开发了大数据分类方法，设计出基于杜鹃-灰狼优化算法的相关朴素贝叶斯分类器. 鲸鱼算法模仿了鲸鱼围捕猎物的行为，Sanaj等[115]提出使用MapReduce框架下的鲸鱼算法，用于在给定云中的调度任务.

3.2. 开放性问题和研究趋势

并行群智能算法缩减了群智能优化的时间，能够更高效率地解决如调度、图像配准在内的应用问题，还能够优化部分并行框架资源分配调度.

4. 大数据框架对比

Hadoop、Spark和Flink是常见的大数据并行计算框架. 1）Hadoop是基于Apache框架改进的大数据并行计算框架，核心包含数据存储模块和MapReduce计算模块. 数据存储模块负责将文件分布式存储，MapReduce计算模块负责将数据进行切割分块计算. 该框架的优点是伸缩性良好，适于处理大规模数据；成熟稳定，得到广泛的应用；适合批处理作业，特别是离线数据分析. 缺点是实时性差，适用性有限；编写MapReduce任务较为繁琐. 2）Spark比Hadoop灵活，内置弹性分布式数据集，可在内存中高效地存储和处理数据. 该框架的优点是比Hadoop处理速度快，尤其在内存计算模式下；支持多种数据处理模式，包括批处理和实时流处理；API丰富，适于不同类型的数据处理任务. 缺点是对于数据流处理，性能可能不如专门的流处理框架；在某些情况下，需要更多的内存资源. 3）相比Spark，Flink专注于处理流处理任务，还可以处理一些批处理任务. 该框架的优点是低延迟的实时数据处理，适于要求实时反馈的应用；支持流处理和批处理，事件处理和状态管理能力强；适用于复杂的事件处理和数据流分析. 缺点是相对较新，比Hadoop和Spark社区规模小；在某些特定批处理任务中，性能可能不如Spark. 3种常见框架的性能对比如表2所示.

表 2   大数据并行框架的性能对比

Tab.2  Performance comparison of big data parallelization frameworks

框架数据处理数据流计算模型计算速度支持语言内存缓存硬件要求迭代处理
Hadoop批处理线性数据流面向批次低Java、C++、C、Python、Perl、Groovy、Ruby无低无
Spark批处理+流处理循环数据流微批次处理中Java、Python、R、Scala有高有
Flink批处理+流处理循环数据流连续流模型高Java、Python、R、Scala有高有

新窗口打开| 下载CSV


5. 亟待解决的问题

1）与神经网络结合时的参数调整问题. 神经网络参数设置与调整是调整网络的重要环节，存在大量的参数调整，无论是人工调整还是自适应的调整，面对数据分割后的数据，网络参数都将发生变化. 数据分割后，并行化的各节点应该有不相同的调整. 当节点数量庞大时，参数调整的工作量急剧上升，造成计算结果准确率的偏差. 复杂结构的深度神经网络使参数的设置与调整成为亟待解决的问题.

2）数据分割问题. 进行并行计算面临数据分割的问题，数据在分割后分配给各节点进行计算，均匀分割分配的数据分割方式破坏了数据的连贯性，而且单节点计算结果再全局融合也会造成计算精度低下. 如何保证数据的连贯性是分布式计算的重要研究课题.

3）混合复杂问题. 融合深度学习、机器学习、计算智能等算法带来的是并行化的混合复杂问题，在应用场景发生改变时，混合算法具有一定的优势. 如何针对混合复杂问题设计合理的混合算法值得深入探究.

4）通用的并行算法模型. 并行算法没有完善通用的模型，没有任何并行化模型适用于所有的算法，因此设计通用并行化的计算模型是未来研究的重点.

6. 总结与展望

计算智能是长期的热点研究领域，基于计算智能的大数据研究已经成为大数据与计算智能交叉领域的研究重点. 基于大数据的计算智能研究取得了初步的进展，各种并行的计算智能算法层出不穷. 随着进一步的交叉结合，新的问题层层展现. 本文从计算智能的研究体系出发，分析计算智能分支领域与大数据相结合的情况，总结了基于大数据的计算智能研究存在的问题. 基于计算智能的大数据研究的空间广阔，并行计算智能具备巨大前景，以下挑战亦需克服. 1）性能与负载管理：尽管并行计算智能提升了计算效率，但是管理任务并行性和负载均衡仍是并行计算的挑战. 云计算是并行计算的重要研究方向. 2）数据同步与通信限制：分布式数据通信限制了并行计算智能的发展，因此高响应式集成流处理与批处理框架有待进一步研究. 3）系统复杂性与可扩展性：随着系统规模扩大，管理大规模并行系统的难度增加，确保系统稳定性面临挑战，因此大规模高拓展性计算框架亟待开发. 4）资源利用和能效：提升计算资源利用率并降低能源消耗是重要课题，并行的进化计算以及群智能计算有利于解决有限硬件基础上的计算资源问题，因此资源调度是分布式计算的研究分支. 5）安全与隐私：数据安全与隐私一直是值得重视的问题，联邦学习是值得研究的新方向. 该问题的解决将为并行计算智能发展打下坚实基础，同时持续创新将助力大规模数据处理、提升深度学习效率和优化资源利用，推动并行计算智能在各领域广泛应用和发展.

参考文献

陈永忠, 陈顺怀

计算智能技术综述

[J]. 航海科技动态, 2000, (6): 1- 3

[本文引用: 1]

CHEN Yongzhong, CHEN Shunhuai

Review of computational intelligence technologies

[J]. Marine Technical News and Trends, 2000, (6): 1- 3

[本文引用: 1]

王万良, 金雅文, 陈嘉诚, 等

多角色多策略多目标粒子群优化算法

[J]. 浙江大学学报: 工学版, 2022, 56 (3): 531- 541

[本文引用: 1]

WANG Wanliang, JIN Yawen, CHEN Jiacheng, et al

Multi-objective particle swarm optimization algorithm with multi-role and multi-strategy

[J]. Journal of Zhejiang University: Engineering Science, 2022, 56 (3): 531- 541

[本文引用: 1]

王万良, 张兆娟, 高楠, 等

基于人工智能技术的大数据分析方法研究进展

[J]. 计算机集成制造系统, 2019, 25 (3): 529- 547

[本文引用: 1]

WANG Wanliang, ZHANG Zhaojuan, GAO Nan, et al

Progress of big data analysis methods based on artificial intelligence technology

[J]. Computer Integrated Manufacturing Systems, 2019, 25 (3): 529- 547

[本文引用: 1]

郭平, 王可, 罗阿理, 等. 大数据分析中的计算智能研究现状与展望[J]. 软件学报, 2015, 26(11): 3010–3025.

[本文引用: 1]

GUO Ping, WANG Ke, LUO Ali, et al. Computational intelligence for big data analysis: current status and future prospect [J] Journal of Software , 2015, 26(11): 3010–3025.

[本文引用: 1]

刘广轩, 黄山, 胡佳丽, 等

面向 Flink 流处理框架的主动备份容错优化

[J]. 浙江大学学报: 工学版, 2022, 56 (2): 297- 305

[本文引用: 1]

LIU Guangxuan, HUANG Shan, HU Jiali, et al

Fault tolerant optimization of active backup for flink stream processing framework

[J]. Journal of Zhejiang University: Engineering Science, 2022, 56 (2): 297- 305

[本文引用: 1]

YANG C T, KRISTIANI E, LEONG Y K, et al

Big data and machine learning driven bioprocessing: recent trends and critical analysis

[J]. Bioresource Technology, 2023, 372: 128625

DOI:10.1016/j.biortech.2023.128625      [本文引用: 1]

RAMESH A V, LI X. Feasibility layer aided machine learning approach for day-ahead operations [J]. IEEE Transactions on Power Systems , 2024, 39(1): 1582–1593.

[本文引用: 1]

YANG Y, ZHAN D C, FAN Y, et al. Deep learning for fixed model reuse [C]// Thirty-First AAAI Conference on Artificial Intelligence . [S.l.]: AAAI, 2017, 31(1): 2831–2837.

[本文引用: 1]

DHAR T, DEY N, BORRA S, et al

Challenges of deep learning in medical image analysis: improving explainability and trust

[J]. IEEE Transactions on Technology and Society, 2023, 4 (1): 68- 75

DOI:10.1109/TTS.2023.3234203      [本文引用: 1]

BHATTI U A, TANG H, WU G, et al

Deep learning with graph convolutional networks: an overview and latest applications in computational intelligence

[J]. International Journal of Intelligent Systems, 2023, 2023: 1- 28

[本文引用: 1]

XIAO A, HUANG J, GUAN D, et al

Unsupervised point cloud representation learning with deep neural networks: a survey

[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2023, 45 (9): 11321- 11339

DOI:10.1109/TPAMI.2023.3262786      [本文引用: 1]

DONG Y, LIU Q, DU B, et al

Weighted feature fusion of convolutional neural network and graph attention network for hyperspectral image classification

[J]. IEEE Transactions on Image Processing, 2022, 31: 1559- 1572

DOI:10.1109/TIP.2022.3144017      [本文引用: 1]

CRUZ L, TOUS R, OTERO B

Distributed training of deep neural networks with Spark: the MareNostrum experience

[J]. Pattern Recognition Letters, 2019, 125 (7): 174- 178

[本文引用: 1]

KLEIN B, ZENTENO A C, JOSEPH D, et al

Forecasting hospital-level COVID-19 admissions using real-time mobility data

[J]. Communications Medicine, 2023, 3 (1): 25

DOI:10.1038/s43856-023-00253-5      [本文引用: 1]

DEAN J, CORRADO G S, MONGA R, et al. Large scale distributed deep networks [C]// Proceedings of the 25th International Conference on Neural Information Processing Systems . [S.l.]: Curran Associates Incorporated, 2012: 1223–1231.

[本文引用: 1]

CHALLU C, OLIVARES K G, ORESHKIN B N, et al. NHITS: neural hierarchical interpolation for time series forecasting [C]/ / Proceedings of the 37th AAAI Conference on Artificial Intelligence . [S.l.]: AAAI, 2023: 6989–6997.

[本文引用: 1]

WANG X, LI S, PUN C M, et al

A parkinson’s auxiliary diagnosis algorithm based on a hyperparameter optimization method of deep learning

[J]. IEEE/ACM Transactions on Computational Biology and Bioinformatics, 2024, 21 (4): 912- 923

DOI:10.1109/TCBB.2023.3246961      [本文引用: 1]

GIBSON A, NICHOLSON C, PATTERSON J, et al. DeepLearnning4J [EB/OL]. (2019–06–10)[2023–12–09]. https://github.com/deeplearning4j/deeplearning4j.

[本文引用: 1]

MALOHLAVA M, HAVA J, MEHTA N. Machine learning with sparkling water: H2O+Spark [EB/OL]. [2023–12–09]. https://h2o.ai/resources/booklet/machine-learning-with-sparkling-water-H2O-Spark.

[本文引用: 1]

JIA Y, SHELHAMER E, DONAHUE J, et al. Caffe: convolutional architecture for fast feature embedding [C]// Proceedings of the 22nd ACM International Conference on Multimedia . [S.l.]: ACM, 2014: 675–678.

[本文引用: 1]

GLAUNER P, STATE R. Deep learning on big data sets in the cloud with Apache Spark and Google TensorFlow [EB/OL]. (2016–12–06)[2023–12–09]. https://orbilu.uni.lu/bitstream/10993/28807/1/Deep%20Learning%20on%20Big%20Data%20Sets%20in%20the%20Cloud%20with%20Apache%20Spark%20and%20Google%20TensorFlow.pdf.

[本文引用: 1]

HE H, ZHAI H, LIU Q, et al. Using object-oriented big data analytics to reveal server performance dead zone [C]// 2016 IEEE 40th Annual Computer Software and Applications Conference (COMPSAC) . Atlanta: IEEE, 2016: 619–624.

[本文引用: 1]

KIM H, PARK J, JANG J, et al. DeepSpark: Spark-based deep learning supporting asynchronous updates and Caffe compatibility [EB/OL]. (2016–10–01)[2023–12–09]. https://arxiv.org/pdf/1602.08191v1.

[本文引用: 1]

NEUMANN D. DeepDist [EB/OL]. (2016–10–05)[2023–12–09]. http://deepdist.com//.

[本文引用: 1]

WANG J, CHENG L. DistDL: a distributed deep learning service schema with GPU accelerating [C]// Web Technologies and Applications . [S.l.]: Springer, 2015: 793–804.

[本文引用: 1]

MENG X, BRADLEY J, YAVUZ B, et al

MLlib: machine learning in Apache Spark

[J]. The Journal of Machine Learning Research, 2016, 17 (1): 1235- 1241

[本文引用: 1]

MIAO Q, LV Y, HUANG M, et al

Parallel learning: overview and perspective for computational learning across Syn2Real and Sim2Real

[J]. IEEE/CAA Journal of Automatica Sinica, 2023, 10 (3): 603- 631

DOI:10.1109/JAS.2023.123375      [本文引用: 1]

XIAO S, HUANG S, LIN Y, et al. Let the chart spark: Embedding semantic context into chart with text-to-image generative model [J]. IEEE Transactions on Visualization and Computer Graphics , 2024, 30(1): 284–294.

[本文引用: 1]

ULLAH F, SRIVASTAVA G, ULLAH S, et al

NIDS-VSB: network intrusion detection system for VANET using Spark-based big data optimization and transfer learning

[J]. IEEE Transactions on Consumer Electronics, 2024, 70 (1): 1798- 1809

DOI:10.1109/TCE.2023.3328320      [本文引用: 1]

TEERAPITTAYANON S, MCDANEL B, KUNG H T. Distributed deep neural networks over the cloud, the edge and end devices [C] // 2017 IEEE 37th International Conference on Distributed Computing Systems . Atlanta: IEEE, 2017: 328–339

[本文引用: 1]

TAKAM C A, SAMBA O, KOUANOU A T, et al

Spark architecture for deep learning-based dose optimization in medical imaging

[J]. Informatics in Medicine Unlocked, 2020, 19: 100335

DOI:10.1016/j.imu.2020.100335      [本文引用: 1]

WBA B, MS A, MDA B, et al

RS-DCNN: a novel distributed convolutional-neural-networks based-approach for big remote-sensing image classification

[J]. Computers and Electronics in Agriculture, 2021, 182: 106014

DOI:10.1016/j.compag.2021.106014      [本文引用: 1]

JANG G, LEE J W, LEE J G, et al

Distributed fine-tuning of CNNs for image retrieval on multiple mobile devices

[J]. Pervasive and Mobile Computing, 2020, 64: 101134

DOI:10.1016/j.pmcj.2020.101134      [本文引用: 1]

CAO W, ZHANG C

An effective parallel integrated neural network system for industrial data prediction

[J]. Applied Soft Computing, 2021, 107: 107397

DOI:10.1016/j.asoc.2021.107397      [本文引用: 1]

VENKATESAN N J, DONG R S, NAM C S

Nodule detection with convolutional neural network using Apache Spark and GPU frameworks

[J]. Applied Sciences, 2021, 11 (6): 2838

DOI:10.3390/app11062838      [本文引用: 1]

YANG F, WANG H, FU J

Improvement of recommendation algorithm based on collaborative deep learning and its parallelization on Spark

[J]. Journal of Parallel and Distributed Computing, 2021, 148 (2): 58- 68

[本文引用: 1]

MARIR N, WANG H, FENG G, et al

Distributed abnormal behavior detection approach based on deep belief network and ensemble SVM using Spark

[J]. IEEE Access, 2018, 6: 59657- 59671

[本文引用: 2]

YIN C, PAN C, ZHANG P. Deep neural network combined with MapReduce for abnormal data mining and detection in cloud storage [J]. Journal of Ambient Intelligence and Humanized Computing , 2020: 1–12.

[本文引用: 1]

XU J, WANG J, QI Q, et al

Effective scheduler for distributed DNN training based on MapReduce and GPU cluster

[J]. Journal of Grid Computing, 2021, 19: 8

DOI:10.1007/s10723-021-09550-6      [本文引用: 1]

ZHU M, GUAN X, LI Z, et al

sEMG-based lower limb motion prediction using CNN-LSTM with improved PCA optimization algorithm

[J]. Journal of Bionic Engineering, 2023, 20: 612- 627

DOI:10.1007/s42235-022-00280-3      [本文引用: 1]

HU X, LI S, HUANG T, et al

How simulation helps autonomous driving: a survey of sim2real, digital twins, and parallel intelligence

[J]. IEEE Transactions on Intelligent Vehicles, 2024, 9 (1): 593- 612

DOI:10.1109/TIV.2023.3312777      [本文引用: 1]

LV Z, CHEN D, CAO B, et al

Secure deep learning in defense in deep-learning-as-a-service computing systems in digital twins

[J]. IEEE Transactions on Computers, 2024, 73 (3): 656- 668

DOI:10.1109/TC.2021.3077687     

WANG Z, LV C, WANG F Y

A new era of intelligent vehicles and intelligent transportation systems: digital twins and parallel intelligence

[J]. IEEE Transactions on Intelligent Vehicles, 2023, 4 (8): 2619- 2627

[本文引用: 1]

ZHU Z, LIN K, JAIN A K, et al

Transfer learning in deep reinforcement learning: a survey

[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2023, 11 (45): 13344- 13362

[本文引用: 1]

CHEN X, YANG R, XUE Y, et al

Deep transfer learning for bearing fault diagnosis: a systematic review since 2016

[J]. IEEE Transactions on Instrumentation and Measurement, 2023, 72: 3508221

CHEN H, LUO H, HUANG B, et al

Transfer learning-motivated intelligent fault diagnosis designs: a survey, insights, and perspectives

[J]. IEEE Transactions on Neural Networks and Learning Systems, 2023, 35 (3): 2969- 2983

[本文引用: 1]

PANDYA S, SRIVASTAVA G, JHAVERI R, et al

Federated learning for smart cities: a comprehensive survey

[J]. Sustainable Energy Technologies and Assessments, 2023, 55: 102987

DOI:10.1016/j.seta.2022.102987      [本文引用: 1]

MYRZASHOVA R, ALSAMHI S H, SHVETSOV A V, et al

Blockchain meets federated learning in healthcare: a systematic review with challenges and opportunities

[J]. IEEE Internet of Things Journal, 2023, 16 (10): 14418- 14437

WEI K, LI J, MA C, et al

Personalized federated learning with differential privacy and convergence guarantee

[J]. IEEE Transactions on Information Forensics and Security, 2023, 6 (18): 4488- 4503

[本文引用: 1]

FRIEDRICH T, NEUMANN F. What’s hot in evolutionary computation [C]// Proceedings of the Thirty-First AAAI Conference on Artificial Intelligence . [S.l.]: AAAI, 2017: 5046–5066.

[本文引用: 1]

AZIZ R M, MAHTO R, GOEL K, et al

Modified genetic algorithm with deep learning for fraud transactions of Ethereum smart contract

[J]. Applied Sciences, 2023, 13 (2): 697

DOI:10.3390/app13020697      [本文引用: 1]

ZOU H, JIN X, WEN M, et al

Genetic algorithm aided compressed sensing detector for differential space-time media-based modulation

[J]. IEEE Transactions on Vehicular Technology, 2023, 5 (72): 6874- 6878

BICHARA R M, ASADALLAH F A B, AWAD M, et al

Quantum genetic algorithm for the design of miniaturized and reconfigurable IoT antennas

[J]. IEEE Transactions on Antennas and Propagation, 2023, 71 (5): 3894- 3904

DOI:10.1109/TAP.2023.3245199      [本文引用: 1]

SALTO C, MINETTI G, ALBA E, et al

Big optimization with genetic algorithms: Hadoop, Spark, and MPI

[J]. Soft Computing, 2023, 27: 11469- 11484

DOI:10.1007/s00500-023-08301-x      [本文引用: 1]

HUANG J, HUANG X, CUI Y, et al. A Hadoop configuration optimization method based on middle platform business operation requirements [C]// 2023 IEEE International Conference on Sensors , Electronics and Computer Engineering . Jinzhou: IEEE, 2023: 1211–1216.

[本文引用: 1]

SEETHALAKSHMI V, GOVINDASAMY, AKILA V

Real-coded multi-objective genetic algorithm with effective queuing model for efficient job scheduling in heterogeneous Hadoop environment

[J]. Journal of King Saud University: Computer and Information Sciences, 2022, 6 (34): 3178- 3190

[本文引用: 1]

KALIA K, GUPTA N

Analysis of hadoop MapReduce scheduling in heterogeneous environment

[J]. Ain Shams Engineering Journal, 2021, 12 (1): 1101- 1110

DOI:10.1016/j.asej.2020.06.009      [本文引用: 1]

CHEN M, GUO Y, JIN Y, et al

An environment-driven hybrid evolutionary algorithm for dynamic multi-objective optimization problems

[J]. Complex and Intelligent Systems, 2023, 9: 659- 675

DOI:10.1007/s40747-022-00824-4      [本文引用: 1]

JIANG S, ZOU J, YANG S, et al

Evolutionary dynamic multi-objective optimisation: a survey

[J]. ACM Computing Surveys, 2022, 55 (4): 76

[本文引用: 1]

SAHMOUD S, TOPCUOGLU H R. Sensor-based change detection schemes for dynamic multi-objective optimization problems [C]// 2016 IEEE Symposium Series on Computational Intelligence (SSCI) . Athens: IEEE, 2016: 1–8.

[本文引用: 1]

RICHTER H. Detecting change in dynamic fitness landscapes [C]// 2009 IEEE Congress on Evolutionary Computation . Trondheim: IEEE, 2009: 1613–1620.

JIANG S, YANG S

A steady-state and generational evolutionary algorithm for dynamic multiobjective optimization

[J]. IEEE Transactions on evolutionary Computation, 2017, 21 (1): 65- 82

DOI:10.1109/TEVC.2016.2574621      [本文引用: 1]

YAN L, QI W, LIANG J, et al

Inter-individual correlation and dimension based dual learning for dynamic multi-objective optimization

[J]. IEEE Transactions on Evolutionary Computation, 2023, 6 (27): 1780- 1793

[本文引用: 1]

HU Y, ZHENG J, JIANG S, et al

A Mahalanobis distance-based approach for dynamic multi-objective optimization with stochastic changes

[J]. IEEE Transactions on Evolutionary Computation, 2024, 28 (1): 238- 251

DOI:10.1109/TEVC.2023.3253850      [本文引用: 1]

MORALES-HERNÁNDEZ A, VAN NIEUWENHUYSE I, ROJAS GONZALEZ S

A survey on multi-objective hyperparameter optimization algorithms for machine learning

[J]. Artificial Intelligence Review, 2023, 56: 8043- 8093

DOI:10.1007/s10462-022-10359-2      [本文引用: 1]

HASSAN E, SHAMS M Y, HIKAL N A, et al

The effect of choosing optimizer algorithms to improve computer vision tasks: a comparative study

[J]. Multimedia Tools and Applications, 2023, 82: 16591- 16633

DOI:10.1007/s11042-022-13820-0      [本文引用: 1]

ZHOU G, ZHAO L, ZHENG G, et al

Joint multi-objective optimization for radio access network slicing using multi-agent deep reinforcement learning

[J]. IEEE Transactions on Vehicular Technology, 2023, 72 (9): 11828- 11843

DOI:10.1109/TVT.2023.3268671      [本文引用: 1]

ZHANG X, YU G, JIN Y, et al

An adaptive Gaussian process based manifold transfer learning to expensive dynamic multi-objective optimization

[J]. Neurocomputing, 2023, 538: 126212

DOI:10.1016/j.neucom.2023.03.073      [本文引用: 1]

BARBA-GONZÁLEZ C, GARCÍA-NIETO J, NEBRO A J, et al

jMetalSP: a framework for dynamic multi-objective big data optimization

[J]. Applied Soft Computing, 2017, 69: 737- 748

[本文引用: 1]

BARBA-GONZÁLEZ C, NEBRO A J , BENÍTEZ-HIDALGO A, et al. On the design of a framework integrating an optimization engine with streaming technologies [J]. Future Generation Computer Systems , 2020, 107: 538–550.

[本文引用: 1]

NEBRO A J, RUIZ A B, BARBA-GONZÁLEZ C, et al

InDM2: interactive dynamic multi-objective decision making using evolutionary algorithms

[J]. Swarm and Evolutionary Computation, 2018, 40: 184- 195

DOI:10.1016/j.swevo.2018.02.004      [本文引用: 1]

ISMAYILOV G, TOPCUOGLU H R

Neural network based multi-objective evolutionary algorithm for dynamic workflow scheduling in cloud computing

[J]. Future Generation Computer Systems, 2020, 102: 307- 322

DOI:10.1016/j.future.2019.08.012      [本文引用: 1]

IBARRONDO R, GATTI G, SANZ M

Quantum genetic algorithm with individuals in multiple registers

[J]. IEEE Transactions on Evolutionary Computation, 2024, 28 (3): 788- 797

DOI:10.1109/TEVC.2023.3296780      [本文引用: 1]

DING W, LIN C T, CHEN S, et al

Multiagent-consensus-MapReduce-based attribute reduction using co-evolutionary quantum PSO for big data applications

[J]. Neurocomputing, 2018, 272: 136- 153

DOI:10.1016/j.neucom.2017.06.059      [本文引用: 1]

CAO B, ZHAO J, LV Z, et al

A distributed parallel cooperative coevolutionary multiobjective evolutionary algorithm for large-scale optimization

[J]. IEEE Transactions on Industrial Informatics, 2017, 13 (4): 2030- 2038

DOI:10.1109/TII.2017.2676000      [本文引用: 1]

CAO B, ZHAO J, YANG P, et al

3-D multiobjective deployment of an industrial wireless sensor network for maritime applications utilizing a distributed parallel algorithm

[J]. IEEE Transactions on Industrial Informatics, 2018, 14 (12): 5487- 5495

DOI:10.1109/TII.2018.2803758      [本文引用: 1]

CAO B, FAN S, ZHAO J, et al

Quantum-enhanced multiobjective large-scale optimization via parallelism

[J]. Swarm and Evolutionary Computation, 2020, 57: 100697

DOI:10.1016/j.swevo.2020.100697      [本文引用: 1]

QI S, WANG R, ZHANG T, et al

Cooperative coevolutionary competition swarm optimizer with perturbation for high-dimensional multi-objective optimization

[J]. Information Sciences, 2023, 644: 119253

DOI:10.1016/j.ins.2023.119253      [本文引用: 1]

刘建昌, 李飞, 王洪海, 等

进化高维多目标优化算法研究综述

[J]. 控制与决策, 2018, 33 (5): 879- 887

[本文引用: 1]

LIU Jianchang, LI Fei, WANG Honghai, et al

Survey on evolutionary many-objective optimization algorithms

[J]. Control and Decision, 2018, 33 (5): 879- 887

[本文引用: 1]

HUSSAIN M M, FUJIMOTO N

GPU-based parallel multi-objective particle swarm optimization for large swarms and high dimensional problems

[J]. Parallel Computing, 2020, 92: 102589

DOI:10.1016/j.parco.2019.102589      [本文引用: 1]

ELMEILIGY M A, DESOUKY A I E, ELGHAMRAWY S M

An efficient parallel indexing structure for multi-dimensional big data using Spark

[J]. The Journal of Supercomputing, 2021, 77: 11187- 11214

DOI:10.1007/s11227-021-03718-3      [本文引用: 1]

SHE Q, ZHANG J, ZHOU Y, et al. Distributed high-dimension matrix operation optimization on Spark [C]// 2019 Eleventh International Conference on Advanced Computational Intelligence . Guilin: IEEE, 2019: 268–273.

[本文引用: 1]

ESCOBAR J J, ORTEGA J, GONZÁLEZ J, et al. Issues on GPU parallel implementation of evolutionary high-dimensional multi-objective feature selection [C]// Applications of Evolutionary Computation . [S.l.]: Springer, 2017: 773–788.

[本文引用: 1]

ZAPOTECAS-MARTÍNEZ S, COELLO C A C, AGUIRRE H E, et al

A review of features and limitations of existing scalable multiobjective test suites

[J]. IEEE Transactions on Evolutionary Computation, 2018, 23 (1): 130- 142

[本文引用: 1]

DEB K, THIELE L, LAUMANNS M, et al. Scalable test problems for evolutionary multiobjective optimization [M]// ABRAHAM A, JAIN L, GOLDBERG R. Evolutionary multiobjective optimization: theoretical advances and applications . [S.l.]: Springer, 2005: 105–145.

[本文引用: 1]

HUBAND S, HINGSTON P, BARONE L, et al

A review of multiobjective test problems and a scalable test problem toolkit

[J]. IEEE Transactions on Evolutionary Computation, 2006, 10 (5): 477- 506

DOI:10.1109/TEVC.2005.861417      [本文引用: 1]

EMMERICH M T M, DEUTZ A H. Test problems based on Lamé superspheres [C]// Evolutionary Multi-Criterion Optimization . [S.l.]: Springer, 2007: 922–936.

[本文引用: 1]

CHENG R, LI M, TIAN Y, et al

A benchmark test suite for evolutionary many-objective optimization

[J]. Complex and Intelligent Systems, 2017, 3: 67- 81

DOI:10.1007/s40747-017-0039-7      [本文引用: 1]

LIANG J J, QU B Y, GONG D W, et al. Problem definitions and evaluation criteria for the CEC special session on multimodal multiobjective optimization [R]. Zhengzhou: Zhengzhou University, 2019: 1–25.

[本文引用: 1]

YUE C, QU B, LIANG J

A multiobjective particle swarm optimizer using ring topology for solving multimodal multiobjective problems

[J]. IEEE Transactions on Evolutionary Computation, 2018, 22 (5): 805- 817

DOI:10.1109/TEVC.2017.2754271      [本文引用: 1]

LIU Y, YEN G G, GONG D

A multimodal multiobjective evolutionary algorithm using two-archive and recombination strategies

[J]. IEEE Transactions on Evolutionary Computation, 2019, 23 (4): 660- 674

DOI:10.1109/TEVC.2018.2879406      [本文引用: 1]

TIAN Y, LIU R, ZHANG X, et al

A multipopulation evolutionary algorithm for solving large-scale multimodal multiobjective optimization problems

[J]. IEEE Transactions on Evolutionary Computation, 2021, 25 (3): 405- 418

DOI:10.1109/TEVC.2020.3044711      [本文引用: 1]

LI H, ZHANG Q, DENG J

Biased multiobjective optimization and decomposition algorithm

[J]. IEEE Transactions on Cybernetics, 2017, 47 (1): 52- 66

DOI:10.1109/TCYB.2015.2507366      [本文引用: 1]

JAIN H, DEB K

An evolutionary many-objective optimization algorithm using reference-point based nondominated sorting approach, part ii: handling constraints and extending to an adaptive approach

[J]. IEEE Transactions on Evolutionary Computation, 2014, 18 (4): 602- 622

DOI:10.1109/TEVC.2013.2281534      [本文引用: 1]

DEB K, JAIN H

An evolutionary many-objective optimization algorithm using reference-point-based nondominated sorting approach, part i: solving problems with box constraints

[J]. IEEE Transactions on Evolutionary Computation, 2014, 18 (4): 577- 601

DOI:10.1109/TEVC.2013.2281535      [本文引用: 1]

CHENG R, JIN Y, OLHOFER M, et al

Test problems for large-scale multiobjective and many-objective optimization

[J]. IEEE Transactions on Cybernetics, 2017, 47 (12): 4108- 4121

DOI:10.1109/TCYB.2016.2600577      [本文引用: 1]

FARINA M, DEB K, AMATO P

Dynamic multiobjective optimization problems: test cases, approximations, and applications

[J]. IEEE Transactions on Evolutionary Computation, 2004, 8 (5): 425- 442

DOI:10.1109/TEVC.2004.831456      [本文引用: 1]

JIANG S, YANG S

Evolutionary dynamic multiobjective optimization: benchmarks and algorithm comparisons

[J]. IEEE Transactions on Cybernetics, 2017, 47 (1): 198- 211

DOI:10.1109/TCYB.2015.2510698      [本文引用: 1]

JIANG S, YANG S, YAO X, et al. Benchmark functions for the CEC’2018 competition on dynamic multiobjective optimization [R]. [S.l.]: Newcastle University, 2018: 1–18.

[本文引用: 1]

GONZALES-ZURITA O, ANDINO O L, CLAIRAND J M, et al

PSO tuning of a second-order sliding mode controller for adjusting active standard power levels for smart inverter applications

[J]. IEEE Transactions on Smart Grid, 2023, 6 (14): 4182- 4193

[本文引用: 1]

SUN X, JIN Z, XUE M, et al

Adaptive ECMS with gear shift control by grey wolf optimization algorithm and neural network for plug-in hybrid electric buses

[J]. IEEE Transactions on Industrial Electronics, 2024, 71 (1): 667- 677

DOI:10.1109/TIE.2023.3243304     

LIU R, LIANG Z, WANG Z, et al

Indoor visible light positioning based on improved whale optimization method with Min-Max algorithm

[J]. IEEE Transactions on Instrumentation and Measurement, 2023, 72: 2504910

[本文引用: 1]

LIU Q, ZENG L, BILAL M, et al

A multi-swarm PSO approach to large-scale task scheduling in a sustainable supply chain datacenter

[J]. IEEE Transactions on Green Communications and Networking, 2023, 7 (4): 1667- 1677

DOI:10.1109/TGCN.2023.3283509      [本文引用: 1]

KENNEDY J, EBERHART R. Particle swarm optimization [C]// Proceedings of ICNN'95: International Conference on Neural Networks . Perth: IEEE, 1995, 4: 1942–1948.

[本文引用: 1]

PRADHAN A, BISOY S K, DAS A

A survey on PSO based meta-heuristic scheduling mechanism in cloud computing environment

[J]. Journal of King Saud University: Computer and Information Sciences, 2022, 34 (8): 4888- 4901

DOI:10.1016/j.jksuci.2021.01.003      [本文引用: 1]

AKMAN A, YENIAD M. Optimizing load balancing and task scheduling problems in cloud computing [C]// 2023 8th International Conference on Computer Science and Engineering (UBMK) . Burdur: IEEE, 2023: 119–124.

[本文引用: 1]

ALSAIDY S A, ABBOOD A D, SAHIB M A

Heuristic initialization of PSO task scheduling algorithm in cloud computing

[J]. Journal of King Saud University: Computer and Information Sciences, 2020, 34 (6): 2370- 2382

[本文引用: 1]

GAD A G, HOUSSEIN E H, ZHOU M C, et al

Damping-assisted evolutionary swarm intelligence for industrial IoT task scheduling in cloud computing

[J]. IEEE Internet of Things Journal, 2024, 11 (1): 1698- 1710

DOI:10.1109/JIOT.2023.3291367      [本文引用: 1]

LIAO C L, LEE S J, CHIOU Y S, et al

Power consumption minimization by distributive particle swarm optimization for luminance control and its parallel implementations

[J]. Expert Systems with Applications, 2018, 96: 479- 491

DOI:10.1016/j.eswa.2017.11.002      [本文引用: 1]

ZHUO Y, ZHANG T, DU F, et al

A parallel particle swarm optimization algorithm based on GPU/CUDA

[J]. Applied Soft Computing, 2023, 144: 110499

DOI:10.1016/j.asoc.2023.110499      [本文引用: 1]

WEN T, LIU H, LIN L, et al

Multiswarm artificial bee colony algorithm based on Spark cloud computing platform for medical image registration

[J]. Computer Methods and Programs in Biomedicine, 2020, 192: 105432

DOI:10.1016/j.cmpb.2020.105432      [本文引用: 1]

LAKSHMANAPRABU S K, SHANKAR K, RANI S S, et al

An effect of big data technology with ant colony optimization based routing in vehicular ad hoc networks: towards smart cities

[J]. Journal of Cleaner Production, 2019, 217: 584- 593

DOI:10.1016/j.jclepro.2019.01.115      [本文引用: 1]

SKINDEROWICZ R

Implementing a GPU-based parallel MAX-MIN ant system

[J]. Future Generation Computer Systems, 2020, 106: 277- 295

DOI:10.1016/j.future.2020.01.011      [本文引用: 1]

BANCHHOR C, SRINIVASU N

Integrating cuckoo search-grey wolf optimization and correlative naive Bayes classifier with map reduce model for big data classification

[J]. Data and Knowledge Engineering, 2020, 127: 101788

DOI:10.1016/j.datak.2019.101788      [本文引用: 1]

SANAJ M S, PRATHAP P M J

An efficient approach to the map-reduce framework and genetic algorithm based whale optimization algorithm for task scheduling in cloud computing environment

[J]. Materials Today: Proceedings, 2020, 37: 3199- 3208

[本文引用: 1]

/

〈 〉