【访学归来展示】韩龙飞:有限混合模型方法研究
姓名:韩龙飞
专业:信息与通信工程
导师:罗森林
年级:2012级博士
学院:信息与电子学院
访学时间:2015年9月至2017年6月
研究课题:有限混合模型方法研究
联培单位:美国卡内基梅隆大学
一、联培科研情况
1、研究课题
随着数据量与计算能力的提升,以及机器学习与深度学习的突破,使得人工智能成为目前计算机领域新的爆发点。尤其近几年来,计算机视觉与智慧医疗等相关人工智能研究领域的表现远远超出了人们的预期。为了能够学习和掌握机器学习的前沿知识和研究进展,在导师罗森林教授的支持下,我于2015年9月来到全美计算机专业TOP5的卡内基梅隆大学访学。我的研究方向是机器学习理论研究以及其在计算机视觉以及医疗数据的应用,具体内容为有限混合模型方法研究及应用。在国外导师Fernando De la Torre教授与国内导师罗森林教授的联合指导下,本人针对有限混合模型的稳健性及优化问题进行了详尽的分析研究。我们提出一种软间隔混合回归模型(soft-margin mixture of regressions,SMMR)用于克服数据的非均匀采样和不连续性。该方法利用最大间隔分类器迭代学习输入-输出空间的划分模式,将分类误差限制在最大函数间隔内,使得Hinge loss零区域对应样本的输出仅由其对应成分的专家模型决定,克服现有混合模型受数据分布形式或各成分样本数量不平衡的影响。实验证明,该方法在年龄估计、视点估计和人群数量估计上达到state-of-the-art的水平。同时,我们提出一种自步混合回归(self-pacedmixture of regression,SPMoR)方法用于提高混合专家模型的稳健性。该方法首次将自步学习理论应用于混合专家模型研究中,用于解决基于高斯分布的混合线性模型的健壮性问题。SPMoR在每次学习过程中采用Exclusive LASSO实现在不同成分中分别选择置信度高或者代价误差小的样本作为训练样本,遮蔽置信度低的样本的影响,具有更高的灵活性,可扩展到层次混合模型中。
总体而言,在近两年的联合培养中,我通过各位导师的指导取得多项研究成果,并将工作发表于CCF顶会CVPR和IJCAI,以及SCI期刊论文一篇。
二、联培科研成果
1、联培期间科研成果
[1] D. Huang*, L.Han*, F. Torre. Soft-margin mixture of regression. CVPR, 2017.
[2] L. Han, D.Zhang, S. Luo et al. self-paced mixture of regression. IJCAI, 2017.
[3] L. Han, S. Luo,et al. An Intelligible Risk Stratification Model for Diabetes based onSemi-supervised Clustering. IEEE JBHI, 2016.
2、其他科研成果
[1] L. Han, S. Luo,et al. Rule Extraction from Support Vector Machines Using Ensemble LearningApproach: An Application for Diagnosis of Diabetes. IEEE JBHI, 2015, 19(2):728-734.
[2] S. Luo, L. Han,et al. A Risk Assessment Model for Type 2 Diabetes in Chinese. PLOS ONE, 2014,9(8): e104046.
与小组成员展示实验室自行研发的IntraFace