题目: Optimal Signal-Adaptive Double Sparse Regression: Phase Transition and Support Recovery
报告人:尹建鑫(中国人民大学)
邀请人:徐平峰(东北师范大学)
时间:2024年12月04日 14:00~15:00
地点:腾讯会议(#腾讯会议:974-988-982 )
报告内容简介: The double sparse linear model, which has both group-wise and element-wise sparsity in regression coefficients, has attracted lots of attention recently. This paper theoretically explores how signal strength influences the parameter estimation and support recovery in this model. We demonstrate that the mini-max lower bound of the double sparse linear model exhibits a phase transition phenomenon. Specifically, when the strength of the minimal nonzero signal is relatively large, the lower bound achieves the oracle rate, i.e., the error rate of the OLS estimator given the true support. Motivated by this finding, we propose a signal-adaptive two-stage double sparse iterative hard thresholding algorithm. Our estimator is minimax optimal, and its estimation error bound can reach the oracle rate under optimal signal strength conditions. Furthermore, we present support recovery results at both the group-wise and element-wise levels. Finally, numerical experiments are provided to support our theoretical findings.
报告人简介:尹建鑫,中国人民大学统计学院副教授,副院长,博士生导师。2009年在北京大学数学科学学院获得博士学位。2009年至2011年在美国宾夕法尼亚大学医学院生物统计系做博士后研究。 2011年8月回国到中国人民大学任教。从事高维数据分析、图模型学习、自然语言处理、知识图谱、非参数统计等方面的研究。社会兼职包括中国现场统计研究会计算统计分会副理事长、机器学习分会副理事长,中国人工智能学会因果与不确定性人工智能专委会委员等。全国统计教材编审委员第七、第八届委员会专业委员。2015年获教育部第七届高等学校科学研究优秀成果奖(人文社会科学)统计学三等奖,2021年作为主要获奖者之一获得北京市教学成果一等奖、多次获得学校优秀本科论文指导教师奖等。