近日，第40届神经信息处理系统大会NeurIPS 2026（Conference on Neural Information Processing Systems）论文录用结果揭晓，南华大学计算机学院的最新研究成果《AdaCal: Adaptive Calibration for Robust Sparse Attention in Long-Context LLMs》（第一作者：24级研究生向乐芹，通讯作者：刘永彬教授）被录用。NeurIPS是全球人工智能与机器学习领域最具影响力的学术盛会之一，被中国计算机学会（CCF）推荐为A类会议，与ICML、ICLR并称为机器学习领域三大顶级会议。此项成果是学院激励师生扎根前沿、潜心科研取得的重要进展。学院将继续深耕内涵建设，持续产出高水平的标志性成果，助力学科高质量发展。

论文标题：AdaCal: Adaptive Calibration for Robust Sparse Attention in Long-Context LLMs

   主要工作：由于自注意力的计算开销随序列长度平方增长，大语言模型在长序列推理中面临显著的计算挑战，其中预填充阶段尤为容易成为瓶颈。静态稀疏注意力通过预定义掩码降低计算量，但可能遗漏对任务至关重要的证据；动态稀疏化虽然更加灵活，却可能在不同任务中表现不稳定，导致覆盖不足或引入干扰信息。我们提出 AdaCal，一种旨在提升稀疏注意力稳健性的自适应校准框架，将基于经验的粗粒度任务分派与逐注意力头的物理特征分析相结合。AdaCal 从轻量级探测模式中提取熵、集中度和中部区域覆盖率指标，动态决定哪些注意力头需要启用补充计算，以及采用何种扩展策略，从而按需分配额外计算资源。针对不同任务的策略能够抑制结构主导型输入中不必要的扩展，同时提高检索密集型任务对远距离信息的覆盖。实验表明，相较于具有竞争力的静态和动态稀疏注意力基线，AdaCal 具有更好的稳健性，且在超过 32K tokens 的长上下文设置中优势更为明显。