活动名称:基于Moreau包络重整的双层优化问题不精确低层次解法交替梯度型算法
时间:2025年10月25日11:00
地点:汇贤楼数学科学学院333会议室
主讲人:张进
主办单位:数学科学学院
主讲人简介:南方科技大学数学系/深圳国家应用数学中心长聘正教授,国家级人才、广东省杰青、深圳市优青。2007、2010年本科、硕士毕业于大连理工大学,2014年博士毕业于加拿大维多利亚大学。2015至2018年间任职香港浸会大学,2019年初加入南方科技大学。
致力于最优化理论和应用研究,代表性成果发表在Math Program、SIAM J Optim、Math Oper Res、SIAM J Numer Anal、J Mach Learn Res、IEEE Trans Pattern Anal Mach Intell,以及ICML、NeurIPS等有重要影响力的最优化、计算数学、机器学习期刊与会议上。研究成果获得2020年中国运筹学会青年科技奖、2022年广东省青年科技创新奖,主持国家自然科学基金/广东省自然科学基金/深圳市科创委/香港研究资助局面上项目。
活动简介:本报告主要研究了一类双层优化问题,其中低层次问题是一个凸复合优化模型,这出现在各种应用中,包括用于正则化回归模型的双层超参数选择。为解决这些问题,我们提出了基于Moreau包络重整的双层优化问题的不精确低层次解法交替梯度型算法(AGILS)。所提出的算法在每次迭代时不需要低层次问题的精确解,从而提高了计算效率。我们证明了AGILS收敛到稳定点,并在Kurdyka-Lojasiewicz(KL)性质下建立了其序列收敛性。数值实验,包括一个玩具示例和一个用于稀疏组Lasso模型的双层超参数选择问题,证明了所提出的AGILS的有效性。