输入“/”快速插入内容

AIGC 研究：推荐系统与大模型

飞书用户33

飞书用户9732

📌

推荐系统与大模型的融合：深度学习能力、多模态融合、上下文建模​

1.
推荐系统​

1.1
定义与应用​

推荐系统是一种信息过滤系统，用于预测用户对物品的“评分”或“偏好”（筛选与排序）。它可以帮助用户在海量的信息中找到自己感兴趣的物品，提高用户体验和满意度。应用如下：​

•
电商购物：推荐系统可以根据用户的历史购买记录、浏览记录等信息，推荐用户可能感兴趣的商品。​

•
社交媒体：推荐系统可以根据用户的社交关系、兴趣爱好等信息，推荐用户可能感兴趣的帖子、视频等内容。​

•
音乐、影视等娱乐内容：推荐系统可以根据用户的收听、观看记录等信息，推荐用户可能喜欢的音乐、影视作品。​

•
搜索引擎：推荐系统可以根据用户的搜索历史、行为等信息，推荐用户可能感兴趣的搜索结果。​

1.2
算法分类​

•
基于内容的推荐：根据物品的内容信息，推荐与用户兴趣相似的物品。​

•
基于协同过滤的推荐：根据用户对物品的评分或行为，推荐与其他用户具有相似兴趣的物品。​

•
基于关联规则的推荐：根据物品之间的关联关系，推荐用户可能感兴趣的物品。​

•
基于效用的推荐：根据用户对物品的评分或行为，计算物品的效用，推荐用户效用最高的物品。​

•
基于知识的推荐：根据用户的兴趣、偏好等信息，推荐与用户兴趣相关的物品。​

1.3
效果评估的指标​

•
准确率：推荐系统推荐的物品与用户实际喜欢的物品的匹配程度。​

•
覆盖率：推荐系统推荐的物品的数量与系统中所有物品的比例。​

•
新颖度：推荐系统推荐的物品与用户之前接触过的物品的差异程度。​

2.
影响推荐系统的因素​

大模型具有涌现能力和泛化能力。涌现能力是指大模型能够从数据中学习到复杂的规律，而泛化能力是指大模型能够在未见数据上表现良好。​

算法、算力、数据

算法是推荐系统的核心，决定了推荐系统的推荐策略。算力是推荐系统运行的必要条件，决定了推荐系统的推理效率。数据是推荐系统的基础，决定了推荐系统的推荐效果。​

•
复杂模型 + 少量数据 = 一般效果​

•
简单模型 + 大量数据 = 很好的效果   ​

•
复杂模型 + 大量数据 = 特别好的效果  ​

3.
大模型与推荐系统的融合​

核心问题：推荐系统如何与大模型取长补短，进而能够充分优化推荐性能和用户体验？​

•
特征表示学习：大模型可以通过深度学习等技术来学习更复杂、更有效的特征表示。传统的推荐系统可能会使用手工设计的特征，而大模型可以自动地从海量数据中学习到更丰富的特征表达，从而提高推荐准确性。  ​

•
多模态信息融合：对于包含多种类型数据（例如文本、图像、音频）的推荐任务，大模型可以同时处理不同模态的数据，从而更好地把握用户的兴趣和偏好。通过融合多模态信息，可以提供更个性化、多样化的推荐结果。  ​

•
上下文建模：大模型能够更好地捕捉和建模推荐过程中的上下文信息，例如时间、地点、设备等因素。这样可以根据不同的上下文环境调整推荐策略，提供更精准的推荐结果。  ​

•
对话式交互：大模型可以用于构建对话式推荐系统，通过与用户进行实时的交互来获取更准确的用户意图和反馈。这种交互式推荐可以进一步提高个性化程度和用户满意度。  ​

•
强化学习：结合大模型和强化学习技术，可以实现通过与用户的交互不断优化推荐策略。通过引入奖励机制和长期回报的考虑，推荐系统可以逐步学会更好地平衡短期和长期目标，提供更符合用户需求的推荐结果。  ​

3.1
何处运用大语言模型​

•
采集阶段：线上收集用户的行为和记录，得到原始数据（大模型可以生成新的内容）  。​

•
特征工程阶段：对原始数据进行筛选、加工、增强，得到可供下游深度模型使用的结构化数据。  ​

•
特征编码阶段：对结构化数据进行编码。​

•
打分排序阶段：评分、排序。​

•
推荐流程控制：召回/粗排/精排（可以利用大模型的泛化能力）。​

3.2
如何运用大语言模型​

•
在训练阶段，大语言模型的微调是指全量微调、参数高效微调等。​

•
在推理阶段，不引入传统推荐模型。​

3.3
与大模型融合的难点及优化方向​

融合的难点

AIGC 研究：推荐系统与大模型​