首页 > 专利 > 杭州电子科技大学 > 基于多维霍克斯过程和注意力机制的下一个物品推荐方法专利详情

基于多维霍克斯过程和注意力机制的下一个物品推荐方法   0    0

有效专利 查看PDF
专利申请流程有哪些步骤?
专利申请流程图
申请
申请号:指国家知识产权局受理一件专利申请时给予该专利申请的一个标示号码。唯一性原则。
申请日:提出专利申请之日。
2019-09-04
申请公布
申请公布指发明专利申请经初步审查合格后,自申请日(或优先权日)起18个月期满时的公布或根据申请人的请求提前进行的公布。
申请公布号:专利申请过程中,在尚未取得专利授权之前,国家专利局《专利公报》公开专利时的编号。
申请公布日:申请公开的日期,即在专利公报上予以公开的日期。
2020-02-11
授权
授权指对发明专利申请经实质审查没有发现驳回理由,授予发明专利权;或对实用新型或外观设计专利申请经初步审查没有发现驳回理由,授予实用新型专利权或外观设计专利权。
2021-10-15
预估到期
发明专利权的期限为二十年,实用新型专利权期限为十年,外观设计专利权期限为十五年,均自申请日起计算。专利届满后法律终止保护。
2039-09-04
基本信息
有效性 有效专利 专利类型 发明专利
申请号 CN201910830872.3 申请日 2019-09-04
公开/公告号 CN110688565B 公开/公告日 2021-10-15
授权日 2021-10-15 预估到期日 2039-09-04
申请年 2019年 公开/公告年 2021年
缴费截止日
分类号 G06F16/9535G06Q10/04 主分类号 G06F16/9535
是否联合申请 独立申请 文献类型号 B
独权数量 1 从权数量 6
权利要求数量 7 非专利引证数量 1
引用专利数量 0 被引证专利数量 0
非专利引证 1、CN 110083770 A,2019.08.02CN 106998502 A,2017.08.01CN 110008409 A,2019.07.12苑威威等“.自注意力机制支持下的混合推荐算法”《.小型微型计算机系统》.2019,第40卷(第7期),Ting Bai等.“CTRec: A Long-ShortDemands Evolution Model for Continuous-Time Recommendation”《.Proceedings of the42nd International ACM SIGIR Conferenceon Research and Development inInformation Retrieval》.2019,;
引用专利 被引证专利
专利权维持 3 专利申请国编码 CN
专利事件 事务标签 公开、实质审查、授权
申请人信息
申请人 第一申请人
专利权人 杭州电子科技大学 当前专利权人 杭州电子科技大学
发明人 张新、王东京、俞东进 第一发明人 张新
地址 浙江省杭州市经济技术开发区白杨街道2号大街 邮编 310018
申请人数量 1 发明人数量 3
申请人所在省 浙江省 申请人所在市 浙江省杭州市
代理人信息
代理机构
专利代理机构是经省专利管理局审核,国家知识产权局批准设立,可以接受委托人的委托,在委托权限范围内以委托人的名义办理专利申请或其他专利事务的服务机构。
浙江千克知识产权代理有限公司 代理人
专利代理师是代理他人进行专利申请和办理其他专利事务,取得一定资格的人。
周希良
摘要
本发明公开了一种基于多维霍克斯过程和注意力机制的下一个物品推荐方法,包括:S1基于多维霍克斯过程和注意力机制的物品关键特征向量和用户兴趣向量的获取;S2用户动态兴趣的预测与建模;S3序列感知的推荐。本发明利用多维霍克斯过程和注意力机制从用户物品交互序列中提取物品的特征向量和用户兴趣向量,再结合用户的交互序列记录预测用户的动态兴趣,最后在推荐的时候综合考虑用户的兴趣偏好和物品的关键特征向量,从而改进推荐效果,提升推荐准确率。
  • 摘要附图
    基于多维霍克斯过程和注意力机制的下一个物品推荐方法
  • 说明书附图:图1
    基于多维霍克斯过程和注意力机制的下一个物品推荐方法
  • 说明书附图:图2
    基于多维霍克斯过程和注意力机制的下一个物品推荐方法
法律状态
序号 法律状态公告日 法律状态 法律状态信息
1 2021-10-15 授权
2 2020-02-11 实质审查的生效 IPC(主分类): G06F 16/9535 专利申请号: 201910830872.3 申请日: 2019.09.04
3 2020-01-14 公开
权利要求
权利要求书是申请文件最核心的部分,是申请人向国家申请保护他的发明创造及划定保护范围的文件。
1.基于多维霍克斯过程和注意力机制的下一个物品推荐方法,其特征在于包括如下步骤:
步骤(1).收集用户物品交互序列数据 用户物品交互序列为
用户与物品的交互行为的有序集合 其中用户集合和物
品集合分别为U和I;
步骤(2).根据用户uj的交互序列 将用户uj、历史交
互行为{(i1,t1),(i2,t2),…,(im‑1,tm‑1)}和目标物品im的条件密度函数建模为:
其中: 是用户uj对目标物品im的一般兴趣, 代表历史交互行为h影响用户uj对目标物品im兴趣的程度,κ(t‑th)用于表示时间衰减的指数核函数,f(x)=log(1+exp(x))是softplus函数,用于保证 的非负性;
步骤(3).给定所有用户的物品交互序列数据 对数形式的目
标函数定义为:
其中: 是给定用户uj在时间t之前的物品交互序列 用户uj对物
品i感兴趣的概率;
步骤(4).对上述目标函数O进行最大化求解,以求得所有用户和物品的特征向量;
步骤(5).根据用户交互记录中物品的特征向量以及用户的兴趣向量,计算出用户对于数据库中每个物品的兴趣值;
步骤(6).根据用户的兴趣值对数据库中的所有物品从高到底排序,并提取兴趣值最高的若干个物品推荐给用户。

2.根据权利要求1所述的基于多维霍克斯过程和注意力机制的下一个物品推荐方法,其特征在于:步骤(2)所述核函数κ(t‑th)定义为:
κ(t‑th)=exp(‑δu(t‑th))
其中:δu是与用户相关的参数,用来表示对于不同用户,历史交互行为h对目标物品im的影响是不同的。

3.根据权利要求1所述的基于多维霍克斯过程和注意力机制的下一个物品推荐方法,其特征在于:步骤(2)所述用户uj对目标物品im的一般兴趣 用余弦相似度函数定义为:
其中: 是物品im的特征向量表示, 是用户uj的兴趣向量表示。

4.根据权利要求1所述的基于多维霍克斯过程和注意力机制的下一个物品推荐方法,其特征在于:步骤(2)所述历史交互行为h影响用户uj对目标物品im兴趣的程度 定义为:
其中: 是历史交互行为h的特征向量表示, 是用户uj的兴趣向量表示, 是用户和历史交互行为感知的注意力机制权重。

5.根据权利要求1所述的基于多维霍克斯过程和注意力机制的下一个物品推荐方法,其特征在于:步骤(3)所述是给定用户uj在时间t之前的物品交互序列 用户uj对物品i感兴趣的概率 定义为:

6.根据权利要求5所述的基于多维霍克斯过程和注意力机制的下一个物品推荐方法,其特征在于:给定用户uj的历史交互记录,用户uj对物品i的兴趣定义为:
其中:f(x)=log(1+exp(x))是softplus函数,用于保证概率值
的非负性,μi,u表示代表用户的长期兴趣, 代表用户的短期兴趣。

7.根据权利要求1所述的基于多维霍克斯过程和注意力机制的下一个物品推荐方法,其特征在于:步骤(6)所述排序的计算公式定义为:
其中:ui表示目标用户;i∈I和i′∈I是数据库中的物品。
说明书

技术领域

[0001] 本发明属于数据挖掘及推荐技术领域,具体涉及一种基于多维霍克斯过程和注意力机制的下一个物品推荐方法。

背景技术

[0002] 推荐系统能够帮助用户从海量在线内容中找到相关项目来降低搜索成本,而预测用户的行为是实现个性化推荐系统的核心之一。然而,传统方法通常遭遇诸如低精度和数据利用不充分之类的问题,尤其是无法满足用户的实时需求。下一个物品推荐算法通过结合传统推荐算法与用户的交互序列来预测用户的下一个行为,在一定程度上提高了推荐的准确率和用户的满意率。然而,现有方法无法充分利用用户物品的交互序列数据,难以针对序列所反映的用户的动态兴趣进行准确建模并结合用户的长期兴趣。因此,如何充分利用丰富的序列信息,从中准确提取物品的关键特征和用户的长期和短期动态兴趣并进行建模,是实现更好推荐的关键之一。

发明内容

[0003] 针对现有技术所存在的上述技术问题,本发明提供了一种基于多维霍克斯过程和注意力机制的下一个物品推荐方法,能够改善推荐的效果和性能。
[0004] 一种基于多维霍克斯过程和注意力机制的下一个物品推荐方法,包括如下步骤:
[0005] (1)收集用户物品交互序列数据 用户物品交互序列为用户与物品的交互行为的有序集合 其中用户集合和物
品集合分别为U和I。
[0006] (2)根据用户uj的交互序列 将用户uj、历史交互行为{(i1,t1),(i2,t2),…,(im‑1,tm‑1)}和目标物品im的条件密度函数建模为:
[0007]
[0008] 其中: 是用户uj对目标物品im的一般兴趣, 代表历史行为h影响用户uj对目标物品im兴趣的程度,k(t‑th)是用于表示时间衰减的指数核函数,f(x)=log(1+exp(x))是softplus函数,用于保证 的非负性。
[0009] 上述指数核函数k(t‑th)定义为:
[0010] k(t‑th)=exp(‑δu(t‑th)),
[0011] 其中:δu是与用户相关的参数,用来表示对于不同用户,历史行为h对目标物品im的影响是不同的。
[0012] 上述用户uj对目标物品im的一般兴趣 用余弦相似度函数定义为:
[0013]
[0014] 其中: 是物品im的特征向量表示, 是用户uj的兴趣向量表示。
[0015] 上述历史行为h影响用户uj对目标物品im兴趣的程度 定义为:
[0016]
[0017] 其中: 是历史物品h的特征向量表示, 是用户uj的兴趣向量表示, 是用户和历史行为感知的注意力机制权重,以soft‑max函数形式定义为:
[0018]
[0019] 其中: 是物品集合I中的物品i的特征向量表示。
[0020] (3)给定所有用户的物品交互序列数据 对数形式的目标函数可以定义为:
[0021]
[0022] 其中: 是物品集合I中的物品i的特征向量表示, 是给定用户uj在时间t之前的物品交互序列 用户uj对物品i感兴趣的概率,定义为:
[0023]
[0024] (4)对上述目标函数O进行最大化求解,以求得所有用户和物品的特征向量。
[0025] (5)根据用户交互记录中每个物品的特征向量以及用户的兴趣向量,计算出用户对于数据库中每个物品的兴趣值。给定用户uj的历史交互记录,用户uj对物品i的兴趣定义为:
[0026]
[0027] 其中:f(x)=log(1+exp(x))是softplus函数,用于保证概率值的非负性,μi,u表示代表用户的长期兴趣, 代表用户的短期兴趣。
[0028] (6)根据用户的兴趣值对数据库中所有物品从高到底排序,并提取兴趣值最高的若干个物品推荐给用户。排序公式如下:
[0029]
[0030] 其中:u表示目标用户;i∈I和i′∈I是数据库中的物品。
[0031] 本发明首次结合注意力机制和多维霍克斯过程模型从用户物品交互序列中获取物品的关键特征向量,为解决物品特征提取困难问题提供了一种可行的方法;本发明根据用户的交互序列中的物品的特征向量准确获取用户的动态兴趣偏好,为用户的兴趣偏好的提取和建模困难提供了一种可靠的方法;综合利用物品的关键特征向量和用户的动态兴趣,本发明能够改进推荐的效果。

实施方案

[0034] 为了更为具体地描述本发明,下面结合附图及具体实施方式对本发明的技术方案进行详细说明。
[0035] 本发明基于多维霍克斯过程和注意力机制的下一个物品推荐方法包括以下步骤:
[0036] (1)收集用户物品交互序列数据 所述的用户物品交互序列为用户与物品的交互行为的有序集合 其中用户集
合和物品集合分别为U和I。
[0037] (2)根据用户uj的交互序列 将用户uj、历史交互行为{(i1,t1),(i2,t2),…,(im‑1,tm‑1)}和目标物品im的条件密度函数建模为:
[0038]
[0039] 其中: 是用户uj对目标物品im的一般兴趣, 代表历史行为h影响用户uj对目标物品im兴趣的程度,k(t‑th)是用于表示时间衰减的指数核函数,f(x)=log(1+exp(x))是softplus函数,用于保证 的非负性。
[0040] 上述指数核函数k(t‑th)定义为:
[0041] k(t‑th)=exp(‑δu(t‑th)),
[0042] 其中:δu是与用户相关的参数,用来表示对于不同用户,历史行为h对目标物品im的影响是不同的。
[0043] 上述用户uj对目标物品im的一般兴趣 用余弦相似度函数定义为:
[0044]
[0045] 其中: 是物品im的特征向量表示, 是用户uj的兴趣向量表示。
[0046] 上述历史行为h影响用户uj对目标物品im兴趣的程度 定义为:
[0047]
[0048] 其中: 是历史物品h的特征向量表示, 是用户uj的兴趣向量表示, 是用户和历史行为感知的注意力机制权重,以soft‑max函数形式定义为:
[0049]
[0050] 其中: 是物品集合I中的物品i的特征向量表示。
[0051] (3)给定所有用户的物品交互序列数据 对数形式的目标函数可以定义为:
[0052]
[0053] 其中:是物品集合I中的物品i的特征向量表示, 是给定用户uj在时间t之前的物品交互序列 用户uj对物品i感兴趣的概率,定义为:
[0054]
[0055] (4)对上述目标函数O进行最大化求解,以求得所有用户和物品的特征向量。
[0056] (5)根据用户交互记录中每个物品的特征向量以及用户的兴趣向量,计算出用户对于数据库中每个物品的兴趣值。给定用户uj的历史交互记录,用户uj对物品i的兴趣定义为:
[0057]
[0058] 其中:f(x)=log(1+exp(x))是softplus函数,用于保证概率值的非负性,μi,u表示代表用户的长期兴趣, 代表用户的短期兴趣。
[0059] (6)根据用户的兴趣值对数据库中的所有物品从高到底排序,并提取兴趣值最高的若干个推荐给用户。计算公式如下:
[0060]
[0061] 其中:u表示目标用户;i∈I和i′∈I是数据库中的物品。
[0062] 图1所示了本实施方式基于多维霍克斯过程和注意力机制的下一个物品推荐方法的架构。该推荐方法分为两个主要模块:预处理模块和预测模块。预处理模块中,首先获取所有用户的物品交互序列;再利用多维霍克斯过程模型和注意力机制从物品序列和对应的时间信息中学习物品的特征向量和用户的长期兴趣向量。在预测模块中,首先从目标用户的物品交互序列中获取用户短期动态兴趣偏好;然后根据用户的兴趣与物品特征向量给用户推荐推荐合适的物品。图2展示了用户偏好预测的详细步骤,其首先获取用户的交互行为记录,并从中提取用户的动态偏好,然后利用用户的偏好和物品的特征向量,计算目标用户u对物品的偏好。
[0063] 上述的对实施例的描述是为便于本技术领域的普通技术人员能理解和应用本发明。熟悉本领域技术的人员显然可以容易地对上述实施做出各种修改,并把在此说明的一般原理应用到其他实施例中而不必经过创造性的劳动。因此,本发明不限于上述实施例,本领域技术人员根据本发明的揭示,对于本发明做出的改进和修改都应该在本发明的保护范围之内。

附图说明

[0032] 图1为本发明推荐方法的系统架构示意图。
[0033] 图2为本发明推荐方法中的用户偏好预测流程示意图。
版权所有:盲专网 ©2023 zlpt.xyz  蜀ICP备2023003576号