信息学院邵子瑜课题组在分布式人工智能领域取得系列科研进展

分布式人工智能作为通用人工智能的新一代范式，是以智能网络为数字底座，通过构建一个协作式、去中心化的网络系统来实现群体智能，有效应对实际场景中的各种不确定性。分布式人工智能中的核心问题之一就是如何在资源受限的条件下部署高性能且可信可控可解释的分布式训练与推理，实现感知决策一体化智能。围绕这一核心问题，上海科技大学信息科学与技术学院邵子瑜课题组展开了相关的理论、算法、系统及应用方面的研究，取得了一系列成果。其中，理论与算法方面的一项成果被计算机网络领域会议IEEE International Conference on Computer Communications （IEEE INFOCOM 2023）接收，系统及应用方面的三项成果被计算机网络领域期刊 IEEE Transactions on Mobile Computing （IEEE TMC）录用。INFOCOM与TMC同时也是中国计算机学会(CCF)推荐的A类会议与期刊。

可信可控可解释的感知决策一体化智能算法设计框架

在感知智能和决策智能融合的大背景下，以深度强化学习为代表的智能算法被广泛地应用在各类分布式人工智能系统中。由于其涉及复杂深度学习模型，目前无法证明其可信、可控。针对这一公开性难题，研究人员以含上下文信息的多臂老虎机决策模型为切入点，利用神经正切核理论、在线学习方法和李雅普诺夫随机优化技术首次提出可信可控可解释的感知决策一体化智能算法设计框架。该设计框架同时在计算复杂度、表征泛化能力以及可信可解释这三个方面取得了很好的平衡，初步的仿真以及实验平台演示证明了其性能的优越性，在分布式人工智能中有着广泛的应用前景。

图1 感知决策一体化智能模型（左）和基于神经网络的主-对偶算法（右）

该研究成果由上海科技大学信息科学与技术学院邵子瑜课题组、刘鑫课题组合作完成，并以 “Neural Constrained Combinatorial Bandits”为题被 IEEE INFOCOM 2023接收(doi: 10.1109/INFOCOM53939.2023.10228958)。信息科学与技术学院2021级硕士生王上上为论文第一作者，邵子瑜教授为通讯作者。

边缘自然语言处理

目前已有的自然语言处理服务大多依托于云端部署的大型机器学习模型，不可避免具有服务响应缓慢、链接中断等远距离、集中式访问所带来的缺陷。着眼于自然语言处理服务的时效性，研究人员在国际上率先提出了边缘自然语言处理(Edge NLP)的概念，他们提出了一套分布式边缘自然语言处理框架，特别关注边缘端在算力、存储、能量等多种资源的稀缺性。通过对极具代表性的自然语言处理任务的实例研究和分析，验证了该分布式框架的有效性，及其在未知、随机的现实决策场景中的高效性。该成果不仅可用于科技向善，关爱残障人士的信息无障碍智能系统以及分布式生成式人工智能系统，未来还可用于分布式自然语言大模型的训练和推演，即在边缘端部署成千上万个中小规模的自然语言模型，将其有效聚合起来实现接近甚至超越单一自然语言大模型的性能。

图2  基于边缘自然语言处理的表情预测

图3 基于边缘自然语言处理的单词预测

关于表情预测方面的研究成果由邵子瑜课题组完成，并以 “Green Edge Intelligence Scheme for Mobile Keyboard Emoji Prediction”为题被IEEE Transactions on Mobile Computing录用(doi:10.1109/TMC.2023.3243955)。信息学院2023届硕士毕业生唐吟煦以及2022届硕士毕业生侯剑锋为论文共同第一作者，邵子瑜教授为通讯作者。

关于单词预测方面的研究成果由邵子瑜课题组与香港中文大学吕自成教授课题组合作完成，并以 “Next-Word Prediction: A Perspective of Energy-Aware Distributed Inference”为题被IEEE Transactions on Mobile Computing录用(doi: 10.1109/TMC.2023.3310536)。信息学院2021级硕士生王上上为论文第一作者，邵子瑜教授为通讯作者。

基于星地融合智能网络的泛在科学智能

随着科学研究对结合太空观测和地面处理分析的需求高涨，基于星地融合智能网络的泛在科学智能系统随之迅速发展。为了在满足系统能耗约束的前提下最小化任务处理时延，需要合理地在卫星和地面之间进行任务调度和系统资源分配。然而，星地之间传输时延难以实时观测，且需要考虑能耗和时延之间的权衡，使得该问题变得极具挑战性。邵子瑜课题组基于在线控制和在线学习相结合的方法，利用离线历史数据来加速学习过程，提出了一个分布式的智能任务调度和资源分配算法。理论分析与仿真实验验证了所提出算法的有效性和优越性。该成果能够有效促进泛在科学智能的发展，可进一步扩充至空天地海一体化智能网络以及基于卫星网络的天基算力系统，并在未来民用卫星领域(如手机卫星通信等)具有广阔的应用前景。

图四 基于星地融合智能网络实现泛在科学智能

该研究由邵子瑜课题组完成，并以 “Energy-Constrained Online Scheduling for Satellite-Terrestrial Integrated Networks”为题被IEEE Transactions on Mobile Computing录用发表(volume: 22, issue: 4, pp. 2163 - 2176 , 01 April 2023)。信息学院2022届博士毕业生高欣为论文第一作者，邵子瑜教授为通讯作者。

近年来，信息学院邵子瑜课题组在分布式人工智能、智能网络与计算、可信可解释的机器学习与优化算法，以及科技向善的智能系统等研究领域做出了多个具有国际影响力的成果，被数十个国际知名会议/期刊录用发表，得到国内外学者的广泛关注与积极评价。