1、⼈脸关键点检测项⽬
1.1 科研成果
1)创新设计了新的⽹络结构和Loss,在该领域最权威的数据库300W(68点)、
AFLW(21点)以及最常⽤数据库300vw(68点)、COFW(29点/68点)上均实现
了state of the art,同时速度⽅⾯也是第1名(速度是⽬前该领域第⼀名(2.6s)的
1700倍),并在gpu、cpu、android多平台上均达到性能和速度的极佳平衡,
inference时间分别为1.2ms(554 fps)、1.4ms(505fps)、1.2ms。
2)参与负责论⽂技术路线设计,论⽂已完成,已投2019 CVPR。
1.2 落地成果
1)完成⼈脸关键点106点模型,精度和速度均超过⽬前同点数业界性能最好的商汤
科技商⽤106点SDK,在爱奇艺公司多个业务上实现了落地应⽤:⼈脸识别海报图项
⽬(睁眼闭眼)、《破冰⾏动》换脸项⽬(h5宣传)、AIWorks特效视频制作(贴
纸特效)。
2)完成⼈脸关键点5点模型,应⽤到:AI雷达⼈脸识别、⼩媒资项⽬、2019年⼈脸
识别FRVT⽐赛中(最终成绩全球第6)。
2、Matting项⽬
2.1 ⼈像Matting
1)针对 matting 任务的特殊性,以
‘虚连接’的⽅式进⾏训练和 end to end 预 测, 有效减少了 inference 时间。
2) 针对matting任务对边界区域更加敏感的特性,⾸次将boundary概念应⽤到
matting任务中,并达到很好的效果,模型精度为 2.66*10-3(⽬前该领域第⼀名 3.01*10-3),inference time 为 121ms(第⼀名 6s)。
3)基于Matting模型,实现了⼈物更换背景特效,并应⽤到爱奇艺公司的AIWorks特
效视频制作上。
4)参与负责论⽂技术路线设计,论⽂已完成,已投2019 CVPR。
2.2 卡通Matting
1)根据爱奇艺奇巴布上动漫播放情况,针对性解帧相关视频,解决卡通⽚⼈物数
据之间Gap⽐较⼤的问题。
2)完成针对卡通形象的matting模型,制作相应的特效视频并应⽤到AIWorks上,⽬
前模型还在实验优化中。