信息学院文鼎柱团队提出FedLoDrop架构,让大模型微调更“轻”更“准”
近日,上海科技大学信息科学与技术学院智能网络中心(NICE)文鼎柱课题组在通信领域国际学术期刊 IEEE Journal on Selected Areas in Communications (JSAC) 上发表了题为 “FedLoDrop: Federated LoRA with Dropout for Generalized LLM Fine-tuning” 的研究成果,创新性地提出了 FedLoDrop 框架,通过引入随机丢弃机制,攻克了大模型在边缘网络中微调时“泛化性差”与“通信压力大”的双重挑战。随着ChatGPT、LLaMA 等大语...
2026-03-04