-
Task-adaptive Neural Process for User Cold-Start Recommendation阅读笔记
#动机 本文是2021年WWW上的一篇论文。之前解决推荐系统冷启动问题的工作大部分是通过辅助信息或是元学习,这两种方法都有一些缺点,前者不能保证每个应用场景都能获取足够且高质量的辅助信息,后者由于通常是建立在MAML框架上的,它假设不同用户的推荐是高度相关的,但是事实并非如此。本文提出了TaNP框架 -
Product-based Neural Networks for User Response Prediction阅读笔记
#动机 本文是2016年的一篇文章,提出了经典的推荐模型PNN。传统的推荐模型例如LR、GBDT、FM等在挖掘高阶关系和学习到高质量特征表示受到限制,而当时的深度学习模型存在着不同的问题,例如FNN不是端到端训练的模型,同时不足以提取出多个field的交互特征,CCPM只能做邻域特征交叉,无法进行全 -
Zero Shot on the Cold-Start Problem: Model-Agnostic Interest Learning for Recommender Systems阅读笔记
#动机 本文是2021年CIKM上的一篇论文。目前主流解决推荐系统用户冷启动问题的方法有利用辅助信息以及元学习的方法,但是这些方法的局限是新用户的兴趣以及行为依旧是缺失的。语义知识和预训练好的embedding并不能改变推荐系统对新用户比老用户了解少的困境。作者提出了双塔模型MAIL解决上述问题。 -
Deep & Cross Network for Ad Click Predictions阅读笔记
#动机 本文是2017年的论文,提出了经典的深度学习推荐模型Deep&Cross。本文是为了解决当时需要手动构建特征交叉和DNN不能学习到所有交叉特征的问题,作者提出的Deep & Cross Network(DCN)无需手动交叉特征,同时除了DNN参数外,只引入了少量额外的参数,模型性能和所占内存 -
CMML: Contextual Modulation Meta Learning for Cold-Start Recommendation阅读笔记
#动机 本文是2021年CIKM上的一篇论文。元学习是解决推荐系统冷启动问题的一种很好的方法,但是常用的元学习方法(例如MAML)通常是计算量大且与当前主流工业部署不兼容的。因此本文作者提出了CMML框架,它由一个任务级的上下文编码器,一个混合用户物品对和任务级上下文的生成器,一个可以调节推荐模型以 -
Alleviating Cold-start Problem in CTR Prediction with A Variational Embedding Learning Framework阅读笔记
#动机 本文是2022年WWW上的一篇论文。之前关于冷启动的工作,大多是为新用户或新广告生成一个点(嵌入),但是因为冷启动用户或广告交互数据很少,冷启动用户或广告的嵌入并不是十分可靠,同时这些嵌入非常容易过拟合。为了学习到一个较为可靠的嵌入,同时避免过拟合,本文作者提出了一种通用的变分嵌入学习框架V -
Learning Graph Meta Embeddings for Cold-Start Ads in Click-Through Rate Prediction阅读笔记
#动机 本文是2021年SIGIR上的一篇论文。CTR预估任务是在线广告系统中最核心的任务,目前深度学习模型在CTR预估任务中取得了巨大成功,但是这些模型在新广告上效果不佳。之前的一些工作都是从新广告本身来解决这个问题(我的理解是只用到新广告本身的信息),而忽略了旧广告中可能包含的有用的信息。针对上 -
Learning to Warm Up Cold Item Embeddings for Cold-start Recommendation with Meta Scaling and Shifting Networks阅读笔记
#动机 本文是2021年SIGIR上的一篇论文。如今embedding技术在推荐系统中已经取得了巨大成功,但是这种技术对数据要求较高且存在着冷启动问题。对于只有少量交互信息的物品,它们的id embedding成为cold id embedding。cold id embedding有以下两个问题: -
Fast Adaptation for Cold-start Collaborative Filtering with Meta-learning阅读笔记
#动机 本文是2020年ICDM上的一篇论文。协同过滤是推荐系统最常用的算法之一,但是协同过滤算法很难去解决冷启动问题。通常解决冷启动的方法是利用额外的信息,例如用户的社交关系、职业等等,但由于这些辅助信息并不总是可用的,因此,如何应对协同过滤模型中的冷启动问题是至关重要的。本文作者提出了一个学习范 -
FORM: Follow the Online Regularized Meta-Leader for Cold-Start Recommendation阅读笔记
#动机 本文是2021年SIGIR上的一篇论文。传统的基于元学习的推荐系统通常是通过一个二重梯度下降来缓解冷启动问题,但是这种方法在在线场景中的推荐中存在以下问题:1.难以抵抗在线推荐的复杂波动。2.平等对待所有用户,无法根据用户历史交互记录的多样性对其进行评估。3.难以应对在线推荐的巨大吞吐量。对