内容字号:默认大号超大号

段落设置:段首缩进取消段首缩进

字体设置:切换到微软雅黑切换到宋体

Bayesian Personalized Ranking算法解析及Python实现

2019-01-06 11:21 出处:清屏网 人气: 评论(0

1. Learning to Rank 

1.1 什么是排序算法

为什么google搜索 ”idiot“ 后,会出现特朗普的照片?

“我们已经爬取和存储了数十亿的网页拷贝在我们相应的索引位置。因 此,你输入一个关键字,我们将关键词与网页进行匹配,并根据 200 多个 因子对其进行排名,这些因子包括相关性、新鲜度、流行度、 PageRank 值、查询和文档匹配的单词个数、网页 URL 链接地址长度以及 其他人对排序结果的满意度等。在此基础上,在任何给定的时间,我们 尝试为该查询 排序 并找到最佳结果。”

——  GoogleCEO : 桑达尔 ·

1.2 排序算法的发展

1.2.1 早期排序技术

最早主要是利用词频、逆文档频率和文档长度这几个因子来人工拟合排序公式 因为考虑因素不多,由人工进行公式拟合是完全可行的,此时机器学习并不能派上很大用场,因为机器学 习更适合采用很多特征来进行公式拟合。此外,对于有监督机器学习来说,首先需要大量的训练数据,在 此基础上才可能自动学习排序模型,单靠人工标注大量的训练数据不太现实。

1.2.2 基于机器学习的排序技术

对于搜索引擎来说,尽管无法靠人工来标注大量训练数据,但是用户点击记录是可以当做机器学习方法训练数据的一个替代品,比如用户发出一个查询,搜索引擎返回搜索结果,用户会点击其中某些网页,可以假设用户点击的网页是和用户查询更加相关的页面。

1.3 Learning to Rank LTR

机器学习排序系统由 4 个步骤组成:

  1. 人工标注训练数据

2. PointWise Approach

定义:单文档方法的处理对象是单独的一篇文档,将文档转换为特征向量后,机器学习系统根据从训练数 据中学习到的分类或者回归函数对文档打分,打分结果即是搜索结果。

对于某个新的查询 Q 和文档 D ,系统首先获得其文档 D 对应的 3 个特征的特征值,之后利用学习到的参数组 合计算两者得分,当得分大于设定的阈值,即可判断文档是相关文档,否则判断为不相关文档。 

3. PairWise Approach 

对于左、右两张图,按照pointwise的思想,则认为这两条样本 i 和 j 都被点击,因此label都是1。但在右图包含更重要的信息 :用户只点了红框内的酒店,而没有点黄框内的酒店(右图黄框内的酒店和左图点击红框的酒店一致)。这说明样本 j 的 label应该比样本 i 的label大(样本 j 排名比样本 i 更靠前),很显然,pointwise并没有利用到这个信息。

对于搜索任务来说,系统接收到用户查询后,返回相关文档列表,所以 问题的关键是确定文档之间的先后 顺序关系。

单文档方法( PointWise Approach )完全从单个文档的分类得分角度计算,没有考虑文档之间的顺序关系。

文档对方法( PairWise Approach )则将重点转向了对文档顺序关系是否合理进行判断。 之所以被称为文档对方法,是因为这种机器学习方法的训练过程和训练目标,是判断任意两个文档组成的 文档对 <Doc1,Doc2> 是否满足顺序关系,即判断是否 Doc1 应该排在 Doc2 的前面。

根据转换后的训练实例,就可以利用机器学习方法进行分类函数的学习: 输入一个查询和文档对 <Doc1,Doc2> ,机器学习排序能够判断这种顺序关系是否成立,如果成立,那么在搜索结果中 Doc1 应该 排在 Doc2 前面,否则 Doc2 应该排在 Doc1 前面。 通过这种方式,就完成搜索结果的排序任务。

  1. 文档对方法( PairWise Approach )只考虑了两个文档对的相对先后顺序,却没有考虑文档出现在搜 索列表中的位置。排在搜索结果前列的文档更为重要,如果前列文档出现判断错误,代价明显高于排 在后面的文档。
  2. 不同的查询,其相关文档数量差异很大,所以转换为只有十几个对应的文档对,这对机器学习系统的 效果评价造成困难。

4. ListWise Approach

1. 单文档方法(PointWise Approach)将训练集里每一个文档当做一个训练实例。

2. 文档对方法(PairWise Approach)将同一个查询的搜索结果里任意两个文档对作为一个训练实例。

3. 文档列表方法(ListWise Approach)与上述两种表示方式不同,是将每一个查询对应的所有搜索结果列表整体作为一个训练实例,这也是为何称之为文档列表方法的原因。

4. 文档列表方法根据K个训练实例(一个查询及其对应的所有搜索结果评分作为一个实例)训练得到最优评分函数F。对于一个新的用户查询,函数F对每一个文档打分,之后按照得分顺序由高到低排序,就是对应的搜索结果。

对于某个评分函数 f 来说,对3个搜索结果文档的相关性打分,得到3个不同的相关度得分F(A)、 F(B)和F(C),根据这3个得分就可以计算6种排列组合情况各自的概率值。不同的评分函数,其6种搜索结果排列组合的概率分布是不一样的。所以可以通过不同的评分函数分布与实际分布比较得出最优的那个评分函数作为排序模型。如何判断 h 和 f 与虚拟的最优评分函数 g 更接近?一般可以用两个分布概率之间的距离远近来度量这种相似性,比如 KL散度等。

5. Bayesian Personalized Ranking

5.1 BPR介绍

  • 在推荐系统中,分为召回和排序两个阶段。
  • 贝叶斯个性化排序属于Pairwise Approach。

BPR算法的五个核心知识点:

  • 每个⽤户之间的偏好⾏为相互独⽴
  • 同⼀⽤户对不同物品的偏序,即排序关系相互独⽴
  • 表⽰⽤户u对 I 的偏好⼤于对 j 的偏好
  • 满⾜完整性,反对称性和传递性
  • 采用最⼤后验估计计算参数

其中,完整性,反对称性和传递性的定义如下:

5.2 BPR参数

在推荐系统中,排序算法通常完成对候选商品的二次筛选,也叫Reranking。这里的BPR算法借鉴了召回步骤中协同过滤算法的思想: 矩阵分解 。

对于用户u:

对于所有用户:

其中用户矩阵W:

物品矩阵H:

5.3 BPR参数计算方法

BPR算法采用的是最大化后验概率来估计参数(关于什么是最大化后验概率,可移步我的另外一篇文章:似然与概率的异同),因此,这里用到了贝叶斯公式。

之前已经假设每个用户之间的偏好行为相互独立,同一用户对不同物品的偏序相互独立,所以:

δ(b)函数返回1 如果条件b成立, 否则返回0。D为训练集, (u,i,j) 表示关系,即相对于j,用户u更喜欢 i 。

由于满足完整性和反对称性,所以上式可简化为:

其中,δ()为sigmod函数,用户 u 相比于 j 更喜欢 i 通过借助用户 u 对 i 的喜欢程度与对 j 的喜欢程度的差进行度量。

因此,可表示为:

目标是求解θ。 由于采用最大后验估计来学习参数,所以假设θ服从正态分布:

根据概率密度函数,求得:

关于这个等式的推导,笔者尝试将概率分布带入到概率密度函数中,发现并不能推导出来,但是由于存在正比关系,所以可以近似等于。

所以,最终的后验概率估计函数为:

通过最大化这个函数,可以求出参数W和H。

6. Bayesian Personalized Ranking算法实现

网上开源的BPR代码有很多,这里着重表达一下用户embedding矩阵和物品embedding矩阵,以及损失函数的构造。其中损失函数为最小化上一小节的最大后验概率函数。

7. 总结

回顾Bayesian Personalized Ranking 算法,有以下三点值得回味:

1. θ的正态分布(先验)形式:

之所以这样设计,笔者以为有两点:一是方便取对数、二是能与正则化联系起来。

2. 用户 u 相比于 j 更喜欢 i 通过借助用户 u 对 i 的喜欢程度与对 j 的喜欢程度的差进行度量。这当然是最直观的表示方法,当然也可以加以改进。

3. 万物皆可embedding !通过对用户以及物品分别构造embedding向量,从而完成用户对物品喜好程度的计算。

分享给小伙伴们:
本文标签: 算法Python

相关文章

发表评论愿您的每句评论,都能给大家的生活添色彩,带来共鸣,带来思索,带来快乐。

CopyRight © 2015-2016 QingPingShan.com , All Rights Reserved.