近日，计算机科学与技术学院夏辉教授团队的两篇论文分别被国际顶级期刊IEEE Journal on Selected Areas in Communications (IEEE JSAC)、国际顶级会议Network and Distributed System Security（NDSS 2024）录用。
第一篇论文为“FedME2：Memory Evaluation & Erase Promoting Federated Unlearning in DTMN”，该论文被国际顶级期刊IEEE Journal on Selected Areas in Communications (IEEE JSAC)录用。IEEE JSAC是计算机网络和通信领域三大顶级期刊之一，也是中国计算机学会推荐A类国际顶级学术期刊，属于中科院JCR一区期刊，2022年影响因子为16.4。
移动网络中的数字孪生系统利用了海量分布式设备的数据，因此在该环境下训练机器学习模型必须要重点关注数据隐私安全。
图1 FedME2框架图
该论文针对数据的所有权和遗忘权问题，基于联邦学习设计了一种兼顾模型预测性能和隐私保护效率的数据遗忘框架(如图1所示)。首先，FedME2通过融合模型多层关键输出的方式，借助模型不同层次的特征语义信息，对模型进行高准确率和强健壮性的记忆评估。其次，采用多损失函数的联合优化对模型进行有效的记忆擦除。最终，FedME2以记忆评估信息为指导，借助记忆擦除的收敛性可证明的训练方式(如图2所示)，实现了在数字孪生系统中更低的精度损失和更强的隐私保护。实验证实方案针对待遗忘数据有优秀的模型记忆评估效果同时也能对批量数据进行高效的擦除，且较同类型方案具有性能优势。
图2 记忆评估与记忆擦除模块
第二篇论文为“Enhance Stealthiness and Transferability of Adversarial Attacks with Class Activation Mapping Ensemble Attack”，该论文于2023年8月被网络安全领域“四大顶会”之一的Network and Distributed System Security（NDSS 2024）录用。NDSS是由ISOC举办的网络与分布式系统安全领域国际顶级学术会议，与IEEE S&P、ACM CCS、USENIX Security并称为网络安全领域的“四大顶会”，论文接收率低于17%。
该论文采用了一种与传统方法不同的策略，以增强对抗攻击算法的感知性和迁移性。传统方法常直接将多个模型的输出整合到目标函数中，然而，该论文则将类激活映射融入到寻找最小扰动的过程中。这一方法的优势在于能够避免在不重要的区域添加过大的扰动，从而保持对抗样本的感知性。同时，它还可以迅速调整良性图像的决策边界，使得在低攻击迭代次数下，攻击算法展现出出色的攻击性能。此外，论文还将多个模型的类别激活映射相结合，以确保对抗样本的迁移性，从而提高攻击的成功率和算法的鲁棒性。生成的对抗实例如下图所示：
夏辉教授团队主要研究领域包括物联网交互、物联网安全、人工智能安全、隐私保护、联邦学习和智能医疗，取得了一系列原创新成果，近年来在IEEE JSAC、IEEE ToN、IEEE TKDE、IEEE TII、NDSS、INFOCOM等高水平期刊/会议上发表学术论文40余篇，包括中国计算机学会推荐A类/ IEEE/ACM汇刊/ 中科院一区论文18篇。
夏辉教授目前担任ACM中国青岛分会秘书长、国际SCI期刊TCE副主编、IEEE TSUSC、SCN、KSII TIIS、Electronics以及国内核心期刊《信息网络安全》编委。
