首页 > 专利 > 中国计量大学 > 一种考虑物品和物品属性特征级别重要性的会话推荐方法专利详情

一种考虑物品和物品属性特征级别重要性的会话推荐方法   0    0

有效专利 查看PDF
专利申请流程有哪些步骤?
专利申请流程图
申请
申请号:指国家知识产权局受理一件专利申请时给予该专利申请的一个标示号码。唯一性原则。
申请日:提出专利申请之日。
2021-09-06
申请公布
申请公布指发明专利申请经初步审查合格后,自申请日(或优先权日)起18个月期满时的公布或根据申请人的请求提前进行的公布。
申请公布号:专利申请过程中,在尚未取得专利授权之前,国家专利局《专利公报》公开专利时的编号。
申请公布日:申请公开的日期,即在专利公报上予以公开的日期。
2021-12-14
授权
授权指对发明专利申请经实质审查没有发现驳回理由,授予发明专利权;或对实用新型或外观设计专利申请经初步审查没有发现驳回理由,授予实用新型专利权或外观设计专利权。
2022-06-10
预估到期
发明专利权的期限为二十年,实用新型专利权期限为十年,外观设计专利权期限为十五年,均自申请日起计算。专利届满后法律终止保护。
2041-09-06
基本信息
有效性 有效专利 专利类型 发明专利
申请号 CN202111036107.8 申请日 2021-09-06
公开/公告号 CN113704441B 公开/公告日 2022-06-10
授权日 2022-06-10 预估到期日 2041-09-06
申请年 2021年 公开/公告年 2022年
缴费截止日
分类号 G06F16/332G06F16/33G06F16/338G06F16/9535G06N3/04G06N3/08 主分类号 G06F16/332
是否联合申请 独立申请 文献类型号 B
独权数量 1 从权数量 0
权利要求数量 1 非专利引证数量 0
引用专利数量 2 被引证专利数量 0
非专利引证
引用专利 CN111667067A、US2020134696A1 被引证专利
专利权维持 0 专利申请国编码 CN
专利事件 事务标签 公开、实质审查、授权
申请人信息
申请人 第一申请人
专利权人 中国计量大学 当前专利权人 中国计量大学
发明人 关伟、顾盼 第一发明人 关伟
地址 浙江省杭州市下沙高教园区学源街258号 邮编 310018
申请人数量 1 发明人数量 2
申请人所在省 浙江省 申请人所在市 浙江省杭州市
代理人信息
代理机构
专利代理机构是经省专利管理局审核,国家知识产权局批准设立,可以接受委托人的委托,在委托权限范围内以委托人的名义办理专利申请或其他专利事务的服务机构。
代理人
专利代理师是代理他人进行专利申请和办理其他专利事务,取得一定资格的人。
摘要
本发明公开了一种考虑物品和物品属性特征级别重要性的会话推荐方法。该方法根据给定用户的当前会话,挖掘出用户的多种兴趣,来预测用户对目标物品的点击率。主要由四个部分组成:第一部分是用物品级别的注意力机制得到会话中所有物品的重要性;第二部分是用物品属性特征级别的注意力机制得到会话中物品不同属性特征的重要性;第三部分是结合会话中物品的重要性和物品属性特征的重要性,从会话中抽取多个用户兴趣向量表征;最后,根据用户兴趣向量表征,预测用户对目标物品的点击率。
  • 摘要附图
    一种考虑物品和物品属性特征级别重要性的会话推荐方法
  • 说明书附图:图1
    一种考虑物品和物品属性特征级别重要性的会话推荐方法
  • 说明书附图:图2
    一种考虑物品和物品属性特征级别重要性的会话推荐方法
法律状态
序号 法律状态公告日 法律状态 法律状态信息
1 2022-06-10 授权
2 2021-12-14 实质审查的生效 IPC(主分类): G06F 16/332 专利申请号: 202111036107.8 申请日: 2021.09.06
3 2021-11-26 公开
权利要求
权利要求书是申请文件最核心的部分,是申请人向国家申请保护他的发明创造及划定保护范围的文件。
1.一种考虑物品和物品属性特征级别重要性的会话推荐方法,其特征在于:
用物品级别的注意力机制得到会话中所有物品的重要性;当前会话s={v1,v2,…,v|s|}对应向量表征为{x1,x2,…,x|s|},|s|代表会话中物品的数量,采用物品级别的注意力机制得到会话中任一物品vj的注意力值e(vj),然后采用softmax函数对每个物品的注意力值进行归一化,得到任一物品vj最终权重αj,具体计算过程如下:
其中,We1和we2分别是转换矩阵和转换向量,xj是物品vj的向量表征,RELU是RELU激活函数,exp(·)是指数函数;
用物品属性特征级别的注意力机制得到会话中物品不同特征的重要性;用户对同一物品的不同属性特征的偏好是不同的,用户对不同物品的相同属性特征的偏好也是不同的;
用户对物品vj的第i个属性特征的看重程度bi,j由乘法注意力机制计算得到,且再用softmax对bi,j进行归一化,得到参数ci,j,参数ci,j代表最终的用户对物品vj的第i个属性特征的看重程度;具体计算公式如下:
其中,Wi是将物品转换到属性空间的转换矩阵,xj是物品vj的向量表征,qi是第i个属性特征,属性特征的个数为M个;
结合会话中物品的重要性和物品属性特征的重要性,从会话中抽取多个用户兴趣向量表征,具体公式如下:
其中,ai,j是结合了物品重要程度αj和物品属性特征重要程度ci,j的参数;Wi是上步骤提到的将物品转换到属性空间的转换矩阵,Wi·xj可以将物品vj映射到第i个属性特征空间下,然后和参数ai,j相乘求和,得到用户的多兴趣向量表征mi; 中的vj∈s表示对会话s={v1,v2,…,v|s|}中所有物品进行ai,j·Wi·xj运算并求和;
根据用户兴趣向量表征,预测用户对目标物品的点击率;对于不同的目标物品,用户对其不同的属性特征有不同的关注度;因此,本方法首先将目标物品和用户多兴趣进行匹配,给用户不同兴趣分配不同权重αi,并得到用户和该目标物品相关的最终兴趣向量表征o;再用用户最终兴趣向量表征和目标物品的向量表征xnew计算相似度,得到推荐概率 为:
其中,mi为用户的第i个兴趣向量表征,xnew为目标物品vnew的向量表征;参数q和参数W1,W2控制每个兴趣向量表征的权重,σ是sigmoid激活函数, 的上标 是转置符号,表示对q进行转置;
根据模型特性,设计损失函数;通过用户对目标物品的点击率预测值 计算预测值 和真实值y之间的误差,进而使用误差来更新模型参数;采用交叉熵损失函数来指导模型参数的更新过程:
其中,y∈{0,1}是真实值,代表用户是否点击了目标物品;σ是sigmoid激活函数;采用Adam优化器更新模型参数。
说明书

技术领域

[0001] 本发明属于互联网服务技术领域,尤其是涉及一种考虑物品和物品属性特征级别重要性的会话推荐方法。

背景技术

[0002] 会话(Session)是一个时间段内用户的交互行为,基于会话的推荐是基于当前会话推荐用户下一个点击的物品。在实际场景中,有些用户是匿名登录,无法获取该用户的历史交互行为数据以及用户详细信息。因此,只能基于该匿名用户的当前会话给用户推荐感兴趣的物品。传统的会话推荐系统采用循环神经网络(RNN),来学习会话中的物品序列信息。而神经网络方法难以学习长序列中的长期依赖(long‑term dependency)问题,且很难捕捉用户细粒度的偏好。在电商场景中,一个物品有很多属性特征,用户在决定是否购买的时候,可能关注物品的价格、风格、质量以及品牌等。并且用户对他点击过的商品的喜欢程度并不相同,甚至对于有些点击过的物品是不喜欢的态度。因此,在基于当前会话抽取用户兴趣以及给用户推荐下一个感兴趣的物品时,应确定两个重要性:第一个重要性是会话中不同物品的重要性;二是会话中物品的不同属性特征的重要性。也就是确定用户对每个物品的喜欢程度,以及对物品的不同属性特征的喜欢程度。
[0003] 在2019年IJCAI会议中,苏州大学的研究团队提出一种基于分层细粒度注意力的推荐方法(DMRAN),该方法先用物品级别的注意力机制给序列中的物品分配不同重要性,并得到用户多属性特征,再用特征级别的注意力机制,对上一层抽取出的多属性特征分配不同重要性,最终得到用户多兴趣向量表征。该论文的做法会导致用户对不同物品的相同类型特征是同等看重的,忽视了用户对不同物品的相同属性的看重程度是不同的。如:用户在在购买鞋类商品时,可能更看重商品的品牌;而在购买绿植类商品时,不看重商品的品牌,而看重商品的价格。所以,先从所有物品中抽取出用户的多属性特征,再分配多属性特征的重要程度的方法是不合理的。本方法提出一种考虑物品和物品属性特征级别重要性的会话推荐方法,同时学习会话中物品的重要程度以及会话中物品不同属性特征的重要程度,结合两者得到用户的多兴趣向量表征,并预测用户下一个感兴趣的物品。

发明内容

[0004] 本发明所要解决的技术问题是给定用户的当前会话,会话推荐方法对用户的多种兴趣进行建模,来预测用户对目标物品的点击率。在电商场景中,一个物品有很多属性特征,用户在决定是否购买时,可能关注物品的价格、风格、质量以及品牌等。并且用户对他点击过的商品的喜欢程度并不相同。因此,在基于当前会话抽取用户兴趣以及给用户推荐下一个感兴趣的物品时,应确定两个重要性:第一个重要性是会话中不同物品的重要性;二是会话中物品的不同属性特征的重要性。
[0005] 一种考虑物品和物品属性特征级别重要性的会话推荐方法,包括以下步骤:
[0006] 用物品级别的注意力机制得到会话中所有物品的重要性。当前会话{v1,v2,…,v|s|}对应向量表征为{x1,x2,…,x|s|},采用物品级别的注意力(item‑level attention)机制得到会话中任一物品vj的注意力值(attention value)e(vj),然后采用softmax函数对每个物品的注意力值进行归一化,得到任一物品vj最终权重αj,具体计算过程如下:
[0007]
[0008]
[0009] 其中,We1和we2分别是转换矩阵和转换向量,xj是物品vj的向量表征,RELU是RELU激活函数,exp(·)是指数函数。
[0010] 用物品属性特征级别的注意力机制得到会话中物品不同特征的重要性。用户对同一物品的不同属性特征的偏好是不同的,用户对不同物品的相同属性特征的偏好也是不同的。用户对物品vj的第i个属性特征的看重程度bi,j由乘法注意力机制计算得到,且再用softmax对bi,j进行归一化,得到参数ci,j,参数ci,j代表最终的用户对物品vj的第i个属性特征的看重程度。具体计算公式如下:
[0011]
[0012]
[0013] 其中,Wi是将物品转换到属性空间的转换矩阵,xi是物品vi的向量表征,qi是第i个属性特征,属性特征的个数为M个。
[0014] 结合会话中物品的重要性和物品属性特征的重要性,从会话中抽取多个用户兴趣向量表征。用户在当前会话中体现的兴趣特征,取决于当前会话中不同物品的重要性,以及物品的不同属性的重要性。同时考虑两者非常重要,仅仅用基于物品级别的注意力机制来做推荐,忽视了真实场景下用户的多兴趣。仅仅用基于物品属性特征级别的注意力机制来做推荐,会导致模型对不重要的物品分配过多的权重。因此,需要结合会话中物品的重要性和物品属性特征的重要性,从会话中抽取多个用户兴趣向量表征,具体公式如下:
[0015] mi=∑jai,j·Wi·xj
[0016] 其中,ai,j是结合了物品重要程度αj和物品属性特征重要程度ci,j的参数。Wi是上步骤提到的将物品转换到属性空间的转换矩阵,Wi·xj可以将物品vj映射到第i个属性特征空间下,然后和参数ai,j相乘求和,得到用户的多兴趣向量表征mi。
[0017] 根据用户兴趣向量表征,预测用户对目标物品的点击率。对于不同的目标物品,用户对其不同的属性特征有不同的关注度。因此,本方法首先将目标物品和用户多兴趣进行匹配,给用户不同兴趣分配不同权重,并得到用户和该目标物品相关的最终兴趣向量表征O。再用用户最终兴趣向量表征和目标物品的向量表征xnew计算相似度,得到推荐概率 为:
[0018] αi=qT·σ(W1·mi+W2·xnew)
[0019]
[0020]
[0021] 其中,mi为用户的第i个兴趣向量表征,xnew为目标物品vnew的向量表征。参数q和参数W1,W2控制每个兴趣向量表征的权重,σ是sigmoid激活函数。
[0022] 根据模型特性,设计损失函数。通过用户对目标物品的点击率预测值 计算预测值 和真实值y之间的误差,进而使用误差来更新模型参数。采用交叉熵损失函数来指导模型参数的更新过程:
[0023]
[0024] 其中,y∈{0,1}是真实值,代表用户是否点击了目标物品。σ是sigmoid函数。采用Adam优化器更新模型参数。
[0025] 本发明的有益技术效果如下:
[0026] (1)本发明是一种细粒度化(fine‑grained)的的推荐方法,考虑真实场景下用户对物品的不同的属性特征的偏好是不同的。当遇到不同目标物品时,从当前会话中抽取出的用户兴趣是不同的。
[0027] (2)本发明结合物品级别的注意力机制和物品属性特征级别的注意力机制来生成用户的多兴趣向量表征。

实施方案

[0030] 为了进一步理解本发明,下面结合具体实施方式对本发明提供的一种考虑物品和物品属性特征级别重要性的会话推荐方法进行具体描述,但本发明并不限于此,该领域技术人员在本发明核心指导思想下做出的非本质改进和调整,仍然属于本发明的保护范围。
[0031] 首先,需要对用到的变量和公式给出相关定义。
[0032] 定义1.V:物品集合,且V={v1,v2,…,v|V|},|V|代表物品集合中物品的数量。
[0033] 定义2.s:当前会话,会话是当前时间段里的所有交互物品集合s={v1,v2,…,v|s|},|s|代表会话中物品的数量。
[0034] 定义3.S:系统中的会话集合,S={s1,s2,…,s|S|},|S|代表会话集合中会话的数量。
[0035] 定义4. 物品vj的向量表征。
[0036] 定义5.mi:用户的第i个兴趣向量表征。
[0037] 结合以上变量定义,将最终的问题定义为:给定用户的当前会话s,会话推荐方法对用户的多种兴趣进行建模,来预测用户对目标物品xnew,的点击率。在电商场景中,一个物品有很多属性特征,用户在决定是否购买时,可能关注物品的价格、风格、质量以及品牌等。并且用户对他点击过的商品的喜欢程度并不相同,甚至对于有些点击过的物品是不喜欢的态度。因此,在基于当前会话抽取用户兴趣以及给用户推荐下一个感兴趣的物品时,应确定两个重要性:第一个重要性是会话中不同物品的重要性;二是会话中物品的不同属性特征的重要性。也就是确定用户对每个物品的喜欢程度,以及对物品的不同属性特征的喜欢程度。
[0038] 为此,本发明提出了一种考虑物品和物品属性特征级别重要性的会话推荐方法,如图2所示,方法的向前传播(forward propagation)部分主要由四个部分组成。第一部分是用物品级别的注意力机制得到会话中所有物品的重要性;第二部分是用物品属性特征级别的注意力机制得到会话中物品不同属性特征的重要性;第三部分是结合会话中物品的重要性和物品属性特征的重要性,从会话中抽取多个用户兴趣向量表征;最后,根据用户兴趣向量表征,预测用户对目标物品的点击率。
[0039] 如图1所示,按照本发明的一个实施例,本方法包括如下步骤:
[0040] S100,用物品级别的注意力机制得到会话中所有物品的重要性。当前会话{v1,v2,…,v|s|}对应向量表征为{x1,x2,…,x|s|},采用物品级别的注意力(item‑level attention)机制得到会话中任一物品vj的注意力值(attentionvalue)e(vj),然后采用softmax函数对每个物品的注意力值进行归一化,得到任一物品vj最终权重αj,具体计算过程如下:
[0041]
[0042]
[0043] 其中,We1和we2分别是转换矩阵和转换向量,xj是物品vj的向量表征,RELU是RELU激活函数,exp(·)是指数函数。
[0044] S200,用物品属性特征级别的注意力机制得到会话中物品不同特征的重要性。用户对同一物品的不同属性特征的偏好是不同的,用户对不同物品的相同属性特征的偏好也是不同的。用户对物品vj的第i个属性特征的看重程度bi,j由乘法注意力机制计算得到,且再用softmax对bi,j进行归一化,得到参数ci,j,参数ci,j代表最终的用户对物品vj的第i个属性特征的看重程度。具体计算公式如下:
[0045]
[0046]
[0047] 其中,Wi是将物品转换到属性空间的转换矩阵,xj是物品vj的向量表征,qi是第i个属性特征,属性特征的个数为M个,在实验中M=3。
[0048] S300,结合会话中物品的重要性和物品属性特征的重要性,从会话中抽取多个用户兴趣向量表征。用户在当前会话中体现的兴趣特征,取决于当前会话中不同物品的重要性,以及物品的不同属性的重要性。同时考虑两者非常重要,仅仅用基于物品级别的注意力机制来做推荐,忽视了真实场景下用户的多兴趣。仅仅用基于物品属性特征级别的注意力机制来做推荐,会导致模型对不重要的物品分配过多的权重。因此,需要结合会话中物品的重要性和物品属性特征的重要性,从会话中抽取多个用户兴趣向量表征,具体公式如下:
[0049]
[0050] mi=∑jai,j·Wi·xj
[0051] 其中,ai,j是结合了物品重要程度αj和物品属性特征重要程度ci,j的参数。Wi是上步骤提到的将物品转换到属性空间的转换矩阵,Wi·xj可以将物品vi映射到第i个属性特征空间下,然后和参数ai,j相乘求和,得到用户的多兴趣向量表征mi。
[0052] S400,根据用户兴趣向量表征,预测用户对目标物品的点击率。对于不同的目标物品,用户对其不同的属性特征有不同的关注度。因此,本方法首先将目标物品和用户多兴趣进行匹配,给用户不同兴趣分配不同权重,并得到用户和该目标物品相关的最终兴趣向量表征o。再用用户最终兴趣向量表征和目标物品的向量表征xnew计算相似度,得到推荐概率为:
[0053] αi=qT·σ(W1·mi+W2·xnew)
[0054]
[0055]
[0056] 其中,mi为用户的第i个兴趣向量表征,xnew为目标物品vnew的向量表征。参数q和参数W1,W2控制每个兴趣向量表征的权重,σ是sigmoid激活函数。
[0057] S500,根据模型特性,设计损失函数。通过用户对目标物品的点击率预测值 计算预测值 和真实值y之间的误差,进而使用误差来更新模型参数。采用交叉熵损失函数来指导模型参数的更新过程:
[0058]
[0059] 其中,y∈{0,1}是真实值,代表用户是否点击了目标物品。σ是sigmoid函数。采用Adam优化器更新模型参数。
[0060] 上述对实施例的描述是为方便于本技术领域的普通技术人员能理解和应用本发明。熟悉本领域技术的人员显然可以容易地对上述实施例做出各种修改,并把在此说明的一般原理应用到其他实施例中而不必经过创造性的劳动。因此,本发明不限于上述实施例,本领域技术人员根据本发明的揭示,对于本发明做出的改进和修改都应该在本发明的保护范围之内。

附图说明

[0028] 图1为本发明一种考虑物品和物品属性特征级别重要性的会话推荐方法的流程示意图;
[0029] 图2为本发明一种考虑物品和物品属性特征级别重要性的会话推荐方法的模型框架图。
版权所有:盲专网 ©2023 zlpt.xyz  蜀ICP备2023003576号