双塔U2I召回
o 采用级联学习,从rank序列中采样正负样本,提高系统一致性,增强hard负样本,并减少选择偏差
o 引入辅助训练网络,缓解双塔模型中User和Item特征交互时机较晚且交互较少的问题,并加速训练
o 采用IPS缓解流行度/频道场景偏差,预测曝光概率以调节训练数据分布
o 引入Se-block、Resnet、user_bias塔等结构升级,提高模型学习和泛化能力
• 多兴趣召回
o 针对I2I类召回建模prerank模型,引入trigger相关特征,提高I2I类召回的整体召回效率
o 落地Comirec多兴趣召回模型,引入多样性loss和贪心算法的多样性策略
o 落地PDN召回模型,端到端建模U2I和I2I,兼顾U2I的泛化能力和I2I的多样性
• 精排模型
o 引入MMOE / CGC 模型结构升级,提高模型学习和泛化能力
o 排序公式引入WTD目标 (分桶分位数完播率),参与ensemble_rank队列
o 应用跨域学习,引入并建模跨域用户特征,与原用户向量进行交叉和垂直投影

特征工程
o 基于各actionlist构造skip list负反馈特征,特征重要性top5
o item属性与actionlist的miss match交叉特征,特征重要性top8
• 召回
o I2I召回:双塔I2I,word2vec,Swing,Graphsage
o U2I召回:1. batch内负采样;2. attention机制;3. 两阶段训练,解决参数加载延迟导致的一致性问题
• 机制
o 新用户策略:实时行为序列和用户画像抽取,跨域引入主站特征,建模实时I2U模型
o 通用:向量化打散,召回蛇形merge,召回hit_rate / 独占比等监控工具
o 物料:新物料保量/扩量机制,作者生态保量框架,高热/新热个性化扶持