近日，我院刘勇进教授和他的博士生方升以及南方科技大学理学院张进教授团队合作完成的论文“Sheng Fang, Yong-Jin Liu, Wei Yao, Chengming Yu, Jin Zhang, qNBO: Quasi-Newton meets bilevel optimization”在深度学习领域的顶级会议International Conference on Learning Representations（简称ICLR）被成功接收发表。

双层规划问题（Bilevel Optimization，BLO）广泛应用于机器学习中的分层优化任务，但由于其复杂性，尤其是在大规模和高维数据背景下的求解面临诸多挑战。该论文提出了一种新颖的算法框架—qNBO用于解决双层规划问题。qNBO通过结合拟牛顿算法，既加速了下层问题的求解，又高效地近似了逆Hessian矩阵与梯度的乘积。通过这种创新的算法设计，qNBO有效克服了传统梯度下降法中的关键难点。数值实验表明，qNBO在超参数优化、数据清理和少样本元学习等实际任务中，展现出了比现有方法更优越的性能。

据悉，ICLR（国际学习表征会议）是深度学习领域最具影响力的国际会议之一，专注于深度学习及其相关应用的前沿研究，涵盖人工智能、统计学与数据科学、机器视觉、语音识别、文本理解等多个重要应用领域，发布了许多极具影响力的论文。ICLR采用公开评审制度，任何研究者均可参与论文评审讨论，这种透明的评审过程使得论文的接收难度大大增加。