信息学院系统与安全中心在信息安全研究领域取得系列进展

人工智能的高速发展使得与之相关的安全（security）挑战愈发突出，成为学术界与产业界共同关注的研究方向。上海科技大学信息科学与技术学院系统与安全中心（Systems and Security Center，以下简称SSC）持续聚焦该领域前沿，近期中心多个课题组取得阶段性成果，相关工作在多家国际主流学术期刊与会议上发表。

陈宇奇教授课题组在论文“Causal-Guided Detoxify Backdoor Attack of Open-Weight LoRA Models”中提出了一种名为CBA的面向开源社区大模型低秩适配（Low-Rank Adaptation, LoRA）权重的后门注入攻击方法。CBA 在无需获取原始数据集的前提下，能够高效逆向生成可靠的训练数据；同时进一步引入因果分析与模型合并机制来指导后门注入，使模型在保持原有任务性能时，实现较高的攻击成功率与良好的隐蔽性（图 1 ）。这为人工智能开源社区提供了重要警示：未经认证、来源不明的开源模型及其权重组件可能天然带有后门风险，应在发布、分发与使用环节引入更严格的安全评估与可信机制。该工作被网络和分布式系统安全研讨会（Network and Distributed System Security，NDSS 2026）接受。NDSS是安全领域的四大知名会议之一，中国计算机学会（CCF）推荐的 A类会议。信息学院2024级硕士研究生陈林智为论文的第一作者，上科大为第一完成单位，合作者有安全领域的独立研究者，陈宇奇教授为通讯作者。

图1:  CBA 的整体流程

陈宇奇教授课题组在题为“AgentSentinel: An End-to-End and Real-Time Security Defense Framework for Computer-Use Agents”的论文中提出了一个端到端的实时防御框架AgentSentinel。该框架可以实时地拦截并暂停计算机使用智能体相关服务中的敏感操作, 对其进行安全审计，最后根据审计结果恢复或终止其执行（图2）。该工作被ACM计算机与通信安全会议（ACM Conference on Computer and Communications Security，CCS 2025）接受。CCS是安全领域的四大知名会议之一，中国计算机学会（CCF）推荐的 A类会议。信息学院2024级博士研究生胡海涛为论文的共同第一作者，上科大为第一完成单位，合作者有安全领域的独立研究者，陈宇奇教授为通讯作者。

图2: AgentSentinel系统架构

      现有的静态分析工具在检测相关程序漏洞时，缺乏与SSRF有关的功能来提高检测准确性，且没有充分考虑PHP的动态类型特性。何静竹教授课题组在题为“Artemis: Toward Accurate Detection of Server-Side Request Forgeries through LLM-Assisted Inter-procedural Path-Sensitive Taint Analysis”的论文中提出了名为Artemis的静态污点分析工具（图3）。当中使用了大语言模型作为辅助方法。在 250个PHP Web应用程序上进行了评估，Artemis报告了207条真实漏洞路径（其中106条为真实SSRF），仅产生了15个误报。在检测到的106个SSRF漏洞中，35个是首次发现。这些结果彰显了Artemis的优秀效力。该研究成果被ACM面向对象编程系统、语言和应用大会（ACM International Conference on Object Oriented Programming Systems Languages and Applications，OOPSLA 2025）录用。OOPSLA是编程语言设计领域的旗舰会议，中国计算机学会（CCF）推荐的 A类会议。该成果第一作者为2022级硕士研究生季宇辰，合作者有IBM和英国格拉斯哥大学的学者等，何静竹教授为通讯作者。

图3 Artemis系统架构示意

       杨智策教授课题组题为“Bystander Privacy in Video Sharing Era: Automated Consent Compliance through Platform Censorship”的论文发表在人机交互领域会议 CHI 2025（Conference on Human Factors in Computing Systems）。研究聚焦于视频分享场景下日益突出的“旁观者隐私”问题，提出了一种名为 SelfFlag 的新思路（图4）。系统测量了主流视频平台的内容审查行为，论证了基于版权音乐的触发方式在现实环境中的可行性，并进一步设计了配套工具，帮助视频创作者在满足旁观者隐私要求的同时，尽量保留原视频的内容质量与观感。该工作为旁观者隐私保护提供了一种以旁观者为主导、依托现有平台机制的全新路径。CHI是中国计算机学会推荐的A类会议，人机交互领域的旗舰会议。信息学院2023级博士研究生廖思是该论文的第一作者，上科大为第一完成单位，合作者有来自香港科技大学（广州）的学者，杨智策教授为通讯作者。

图4 SelfFlag系统工作流程

张良峰教授课题组题为“List-Decodable Byzantine Robust PIR: Lower Communication Complexity, Higher Byzantine Tolerance, Smaller List Size”的论文发表在ASIACRYPT 2025。研究关注私有信息检索（PIR）这一密码学中的保护隐私的基础原语，提出了两种完美的列表可解码拜占庭鲁棒 PIR（BRPIR）方案，是首个能够同时满足以下特性的方案：在有占多数的恶意响应服务器的情况下仍能正常运行；对于规模为 n 的数据库实现通信复杂度为 O(n)；且对输出列表大小给出非平凡的估计。与现有方案相比，BRPIR方案具有更低的通信复杂度、更高的拜占庭容忍度以及更小的列表规模，达到国际领先水平。ASIACRYPT在国内学术界俗称为“亚密”，与CRYTO（美密）、EUROCRYPT（欧密）并称为国际密码学领域的三大知名会议。信息学院2023级博士研究生柯鹏震为论文第一作者，上科大为第一完成单位，合作单位有新加坡南洋理工大学和中国科学院信息工程研究所，张良峰教授为论文通讯作者。

信息与网络系统安全是国家总体安全的重要组成部分。围绕相关安全领域的挑战，SSC内多个课题组从不同切入点开展深入研究，形成了一批具有代表性的多样化成果，为人工智能和各项应用的安全可靠、稳定运行与规模化部署提供了支撑。未来，上海科技大学信息学院系统与安全中心将持续推进前沿计算机科学研究，助力相关领域不断创新发展。