首页 > 专利 > 杭州电子科技大学 > 一种基于视频关节点和混合分类器的跌倒检测方法专利详情

一种基于视频关节点和混合分类器的跌倒检测方法   0    0

有效专利 查看PDF
专利申请流程有哪些步骤?
专利申请流程图
申请
申请号:指国家知识产权局受理一件专利申请时给予该专利申请的一个标示号码。唯一性原则。
申请日:提出专利申请之日。
2019-07-02
申请公布
申请公布指发明专利申请经初步审查合格后,自申请日(或优先权日)起18个月期满时的公布或根据申请人的请求提前进行的公布。
申请公布号:专利申请过程中,在尚未取得专利授权之前,国家专利局《专利公报》公开专利时的编号。
申请公布日:申请公开的日期,即在专利公报上予以公开的日期。
2019-12-27
授权
授权指对发明专利申请经实质审查没有发现驳回理由,授予发明专利权;或对实用新型或外观设计专利申请经初步审查没有发现驳回理由,授予实用新型专利权或外观设计专利权。
2021-11-02
预估到期
发明专利权的期限为二十年,实用新型专利权期限为十年,外观设计专利权期限为十五年,均自申请日起计算。专利届满后法律终止保护。
2039-07-02
基本信息
有效性 有效专利 专利类型 发明专利
申请号 CN201910589503.X 申请日 2019-07-02
公开/公告号 CN110532850B 公开/公告日 2021-11-02
授权日 2021-11-02 预估到期日 2039-07-02
申请年 2019年 公开/公告年 2021年
缴费截止日
分类号 G06K9/00G06K9/62G06N3/04G06N3/08 主分类号 G06K9/00
是否联合申请 独立申请 文献类型号 B
独权数量 1 从权数量 9
权利要求数量 10 非专利引证数量 1
引用专利数量 1 被引证专利数量 0
非专利引证 1、2014.01.30Zhanyuan Huang等.Video-based FallDetection for Seniors with Human PoseEstimation《.IEEE》.2019,第1-4页. 申代友等.基于深度相机的老年跌倒监护系统《.中国医学物理学杂志》.2019,第36卷(第2期),第223-228页.;
引用专利 US2014026664A 被引证专利
专利权维持 3 专利申请国编码 CN
专利事件 事务标签 公开、实质审查、授权
申请人信息
申请人 第一申请人
专利权人 杭州电子科技大学 当前专利权人 杭州电子科技大学
发明人 蔡文郁、郑雪晨、郭嘉豪 第一发明人 蔡文郁
地址 浙江省杭州市下沙高教园区2号大街 邮编 310018
申请人数量 1 发明人数量 3
申请人所在省 浙江省 申请人所在市 浙江省杭州市
代理人信息
代理机构
专利代理机构是经省专利管理局审核,国家知识产权局批准设立,可以接受委托人的委托,在委托权限范围内以委托人的名义办理专利申请或其他专利事务的服务机构。
杭州君度专利代理事务所 代理人
专利代理师是代理他人进行专利申请和办理其他专利事务,取得一定资格的人。
黄前泽
摘要
本发明公开了一种基于视频关节点和混合分类器的跌倒检测方法。传统基于视频的跌倒检测算法依赖人工提取跌倒特征,借助线性判别分类器的方法检测跌倒,模型简单但准确率低。本发明如下:1、提取被检测视频片段的各帧图像。2、获取人体关节数据矩阵;3、建立多个行为矩阵。4、计算时间特征参数和空间特征参数。5、初级分类;6、二级分类。本发明采用的提取人体骨骼关节点方法解决了传统方法提取人体宽高比、投影面积等无法精确估计人体姿态的问题。本发明采用固定大小的滑动窗口构建行为矩阵能够同时在时间、空间轴建模,充分表达跌倒行为特征。
  • 摘要附图
    一种基于视频关节点和混合分类器的跌倒检测方法
  • 说明书附图:图1
    一种基于视频关节点和混合分类器的跌倒检测方法
  • 说明书附图:图2
    一种基于视频关节点和混合分类器的跌倒检测方法
  • 说明书附图:图3
    一种基于视频关节点和混合分类器的跌倒检测方法
  • 说明书附图:图4
    一种基于视频关节点和混合分类器的跌倒检测方法
  • 说明书附图:图5
    一种基于视频关节点和混合分类器的跌倒检测方法
法律状态
序号 法律状态公告日 法律状态 法律状态信息
1 2021-11-02 授权
2 2019-12-27 实质审查的生效 IPC(主分类): G06K 9/00 专利申请号: 201910589503.X 申请日: 2019.07.02
3 2019-12-03 公开
权利要求
权利要求书是申请文件最核心的部分,是申请人向国家申请保护他的发明创造及划定保护范围的文件。
1.一种基于视频关节点和混合分类器的跌倒检测方法,其特征在于:步骤1、提取被检测视频片段的各帧图像;
步骤2、利用人体节点采集软件采集被检测视频片段中每一帧图像的人体关节点数据,得到人体关节数据矩阵;
步骤3、根据步骤2得到的人体关节数据集,构建的s个行为矩阵; 为
向下取整运算符;m为图像数量;W为行为矩阵总帧数,取值为8~15;
第i个行为矩阵Ki,matrix的表达式如式(1)所示,i=1,2,…,s;
T
Ki,matrix=(K2i‑1,K2i,…,K2i+W‑1)               (1)
式(1)中,Kt为第t张图像的骨骼向量,其表达式如式(2)所示;t=1,2,...,m;
Kt=(Kt,0,Kt,1,…,Kt,N‑1)                   (2)
式(2)中,Ktj表示人体关节数据矩阵中第t行第j+1列的参数,j=0,1,...,N‑1;N为一帧图像中的人体关节点数量;
步骤4、计算时间特征参数和空间特征参数;
4‑
1.计算m张图像中的人体高度信息ht如式(3)所示;t=1,2,...,m;
ht=ht,head‑ht,foot                             (3)
式(3)中,ht,head为第t张图像中的人体的头部纵坐标ht,foot为第t张图像中的人体的脚部纵坐标;
4‑
2.分别提取各行为矩阵对应的图像中人体高度信息ht的最大值、最小值,作为空间最大值hi,max、空间最小值hi,min;i=1,2,…,s;
4‑
3.如式(4)和(5)所示,从第二张图像起,分别计算各图像的相邻帧高度差△ht,one;从第六张图像起,分别计算各图像的五帧高度差△ht,five;
△ht,one=ht‑ht‑1                               (4)
△ht,five=ht‑ht‑5                                (5)
4‑
4.分别提取各行为矩阵对应的图像中相邻帧高度差△ht,one的最大值、最小值、五帧高度差△ht,five的最大值、最小值,作为短时间最大值hi,one,max、短时间最小值hi,one,min、长时间最大值hi,five,max、长时间最小值hi,five,min;
4‑
5.构建跌倒特征向量Fi,SVM=(hi,max,hi,min,hi,one,max,hi,one,min,hi,five,max,hi,five,min);i=1,2,…,s;
步骤5、将s个跌倒特征向量Fi,SVM分别输入至经过训练的初级分类器,得到s个跌倒置信度Pi;设置阈值区间为[Pmin,Pmax];
若所有跌倒置信度Pi均小于Pmin,则判定视频中的行人未跌倒,跌倒检测结束;若存在至少一个跌倒置信度Pi大于Pmax,则判定视频中的行人跌倒,跌倒检测结束;否则,判定为出现类跌倒情况,进入步骤6;
步骤6、将跌倒置信度Pi在阈值区间[Pmax,Pmin]内的跌倒特征向量Fi,SVM输入至经过训练的二级分类器,二级分类器输出视频中的行人是否跌倒。

2.根据权利要求1所述的一种基于视频关节点和混合分类器的跌倒检测方法,其特征
在于:步骤1中,对被检测视频片段的每一帧图像进行高斯去噪处理。

3.根据权利要求1所述的一种基于视频关节点和混合分类器的跌倒检测方法,其特征
在于:步骤1中,对被检测视频片段的每一帧图像进行灰度化处理。

4.根据权利要求1所述的一种基于视频关节点和混合分类器的跌倒检测方法,其特征
在于:步骤2中,人体节点采集软件采用OpenPose软件;检测的人体关节点总数为18,分别是鼻子‑0、脖子‑1、右肩‑2、右肘‑3、右手腕‑4、左肩‑5、左肘‑6、左手腕‑7、右臀‑8、右膝盖‑9、右脚踝‑10、左臀‑11、左膝盖‑12、左脚踝‑13、右眼‑14、左眼‑15、右耳‑16、左耳‑17;人体关节点包含(x,y,score)三个数据;x为人体关节点在图像上的横坐标,y为人体关节点在图像上的纵坐标;score为人体关节点的置信度;人体关节数据矩阵的每一行均为一帧图像上的十八个关节点参数。

5.根据权利要求4所述的一种基于视频关节点和混合分类器的跌倒检测方法,其特征
在于:步骤2中,对各帧图像中缺失的人体关节点进行数据填充,具体方法如下:若缺失节关点的后一个人体关节点不缺失,则将缺关失节点用后一个人体关节点填充;若缺关失节点的后一个人体关节点缺失,且前一个人体关节点不缺失,则将缺关失节点用前一个人体关节点填充;否则,将该缺失节关点的图像删除。

6.根据权利要求1所述的一种基于视频关节点和混合分类器的跌倒检测方法,其特征
在于:步骤2中,人体节点采集软件检测的人体关节点中包含右脚踝、左脚踝、右眼、左眼、右耳、左耳;
步骤4‑1中,ht,head的表达式如式(6)所示;ht,foot的表达式如式(7)所示;
式(6)和(7)中,yt,14、yt,15、yt,16、yt,17分别为第t张图像中关节点右眼、左眼、右耳、左耳的纵坐标;yt,10、yt,13分别为第t张图像中右脚踝、左脚踝的纵坐标。

7.根据权利要求1所述的一种基于视频关节点和混合分类器的跌倒检测方法,其特征
在于:步骤4‑5执行后,根据式(8)对各跌倒特征向量Fi,SVM内的元素进行归一化处理;
式(8)中,data′p为跌倒特征向量归一化后的第p个元素;datap为跌倒特征向量归一化前的第p个元素;datamin为跌倒特征向量归一化前的最小值;datamax为跌倒特征向量归一化前的最大值。

8.根据权利要求1所述的一种基于视频关节点和混合分类器的跌倒检测方法,其特征
在于:步骤5中,初级分类器采用支持向量机;Pmax=0.8,Pmin=0.2。

9.根据权利要求1所述的一种基于视频关节点和混合分类器的跌倒检测方法,其特征
在于:步骤6中,二级分类器包括交替相连的多个卷积层、池化层以及三个全连接层;卷积神经网络的卷积方式中,padding参数设置为SAME;卷积层中卷积核的尺度为3×3;池化层中池化算子的大小为2×2、步长为1;池化层与下一个卷积层通过激活函数Relu连接;三个全连接层依次通过激活函数Relu连接;全连接层的dropout比重设置为0.5;最后一个卷积层与第一个全连接层通过激活函数Relu连接;第一个全连接层内设置1024个神经元,第二个全连接层内设置512个神经元;第三个全连接层内设置2个神经元。

10.根据权利要求1所述的一种基于视频关节点和混合分类器的跌倒检测方法,其特征
在于:步骤6中,二级分类器包括依次通过激活函数Relu连接的一个卷积层、一个池化层以及三个全连接层;卷积神经网络的卷积方式中,padding参数设置为'valid';卷积层中设置尺度分别为3×3、5×5、7×7、9×9的四种卷积核;池化层中设置大小分别为8×1、6×1、4×
1、2×1的四种池化算子;3×3、5×5、7×7、9×9的卷积核与8×1、6×1、4×1、2×1的池化算子分别对应相连;池化层的步长为1;全连接层的dropout比重设置为0.5;第一个全连接层内设置1024个神经元,第二个全连接层内设置512个神经元;第三个全连接层内设置2个神经元。
说明书

技术领域

[0001] 本发明属于跌倒检测技术领域,具体涉及一种基于视频关节点和混合分类器的跌倒检 测方法。

背景技术

[0002] 国内外学者针对老人摔倒已经做了许多研究,主流的跌倒检测方法主要有三种:基于 可穿戴传感器的跌倒检测、基于环境传感器的跌倒检测以及基于视频图像的检测。基于可 穿戴传感器的跌倒检测主要通过采集可穿戴传感器采集到的数据设置阈值检测摔
倒,阈值 设置不准确则影响最终检测结果。基于环境传感器的跌倒检测主要通过地面的压力传感器 或者声音检测设备得到的数据判断摔倒,如果环境噪声太大可能导致数据异常。
基于视频 的跌倒检测主要利用安装在日常生活中的普通相机或者深度相机采集视频数
据,然后用图 像识别来判定摔倒。与基于可穿戴传感器和基于环境传感器的检测算法相
比,基于视频的 跌倒检测无需老人佩戴设备,且不易受环境影响,实际应用更加广泛。然而传统基于视频 的跌倒检测算法依赖人工提取跌倒特征,借助线性判别分类器的方法检测
跌倒,模型简单 但准确率低,现有基于深度学习的检测算法模型复杂,难以降低检测耗时。

发明内容

[0003] 本发明的目的在于提供一种基于视频关节点和混合分类器的跌倒检测方法。
[0004] 本发明的具体步骤如下:
[0005] 步骤1、提取被检测视频片段的各帧图像。
[0006] 步骤2、利用人体节点采集软件采集被检测视频片段中每一帧图像的人体关节点数据, 得到人体关节数据矩阵;
[0007] 步骤3、根据步骤2得到的人体关节数据集,构建的s个行为矩阵;为向下取整运算符;m为图像数量。W为行为矩阵总帧数,取值为8~15。
[0008] 第i个行为矩阵Ki,matrix的表达式如式(1)所示,i=1,2,…,s。
[0009] Ki,matrix=(K2i‑1,K2i,…,K2i+W‑1)T  (1)
[0010] 式(1)中,Kt为第t张图像的骨骼向量,其表达式如式(2)所示;t=1,2,...,m。
[0011] Kt=(Kt,0,Kt,1,…,Kt,N‑1)  (2)
[0012] 式(2)中,Ktj表示人体关节数据矩阵中第t行第j+1列的参数,j=0,1,...,N‑1;N 为一帧图像中的人体关节点数量。
[0013] 步骤4、计算时间特征参数和空间特征参数。
[0014] 4‑1.计算m张图像中的人体高度信息ht如式(3)所示;t=1,2,...,m;
[0015] ht=ht,head‑ht,foot  (3)
[0016] 式(3)中,ht,head为第t张图像中的人体的头部纵坐标ht,foot为第t张图像中的人体的 脚部纵坐标。
[0017] 4‑2.分别提取各行为矩阵对应的图像中人体高度信息ht的最大值、最小值,作为空间最 大值hi,max、空间最小值hi,min;i=1,2,…,s。
[0018] 4‑3.如式(4)和(5)所示,从第二张图像起,分别计算各图像的相邻帧高度差Δht,one; 从第六张图像起,分别计算各图像的五帧高度差Δht,five;
[0019] Δht,one=ht‑ht‑1  (4)
[0020] Δht,five=ht‑ht‑5  (5)
[0021] 4‑4.分别提取各行为矩阵对应的图像中相邻帧高度差Δht,one的最大值、最小值、五帧高 度差Δht,five的最大值、最小值,作为短时间最大值hi,one,max、短时间最小值hi,one,min、长时间最 大值hi,five,max、长时间最小值hi,five,min。
[0022] 4‑5.构建跌倒特征向量Fi,SVM=(hi,max,hi,min,hi,one,max,hi,one,min,hi,five,max,hi,five,min);i=1,2,…,s。
[0023] 步骤5、将s个跌倒特征向量Fi,SVM分别输入至经过训练的初级分类器,得到s个跌倒 置信度Pi。设置阈值区间为[Pmin,Pmax]。
[0024] 若所有跌倒置信度Pi均小于Pmin,则判定视频中的行人未跌倒,跌倒检测结束;若存在 至少一个跌倒置信度Pi大于Pmax,则判定视频中的行人跌倒,跌倒检测结束;否则,判定 为出现类跌倒情况,进入步骤6。
[0025] 步骤6、将跌倒置信度Pi在阈值区间[Pmax,Pmin]内的跌倒特征向量Fi,SVM输入至经过训练 的二级分类器,二级分类器输出视频中的行人是否跌倒。
[0026] 作为优选,步骤1中,对被检测视频片段的每一帧图像进行高斯去噪处理。
[0027] 作为优选,步骤1中,对被检测视频片段的每一帧图像进行灰度化处理。
[0028] 作为优选,步骤2中,人体节点采集软件采用OpenPose软件。检测的人体关节点总 数为18,分别是鼻子‑0、脖子‑1、右肩‑2、右肘‑3、右手腕‑4、左肩‑5、左肘‑6、左手腕‑7、 右臀‑8、右膝盖‑9、右脚踝‑10、左臀‑11、左膝盖‑12、左脚踝‑13、右眼‑14、左眼‑15、右 耳‑16、左耳‑17。人体关节点包含(x,y,score)三个数据。x为人体关节点在图像上的横坐标, y为人体关节点在图像上的纵坐标;score为人体关节点的置信度。人体关节数据矩阵的每 一行均为一帧图像上的十八个关节点参数。
[0029] 作为优选,步骤2中,对各帧图像中缺失的人体关节点进行数据填充,具体方法如下: 若缺失节关点的后一个人体关节点不缺失,则将缺关失节点用后一个人体关节点填
充;若 缺关失节点的后一个人体关节点缺失,且前一个人体关节点不缺失,则将缺关失节点用前 一个人体关节点填充;否则,将该缺失节关点的图像删除。
[0030] 作为优选,步骤2中,人体节点采集软件检测的人体关节点中包含右脚踝、左脚踝、 右眼、左眼、右耳、左耳。
[0031] 步骤4‑1中,ht,head的表达式如式(6)所示;ht,foot的表达式如式(7)所示;
[0032]
[0033]
[0034] 式(6)和(7)中,yt,14、yt,15、yt,16、yt,17分别为第t张图像中关节点右眼、左眼、右 耳、左耳的纵坐标;yt,10、yt,13分别为第t张图像中右脚踝、左脚踝的纵坐标。
[0035] 作为优选,步骤4‑5执行后,根据式(8)对各跌倒特征向量Fi,SVM内的元素进行归一化 处理。
[0036]
[0037] 式(8)中,data′p为跌倒特征向量归一化后的第p个元素;datap为跌倒特征向量归一 化前的第p个元素;datamin为跌倒特征向量归一化前的最小值;datamax为跌倒特征向量归一 化前的最大值。
[0038] 作为优选,步骤5中,初级分类器采用支持向量机。Pmax=0.8,Pmin=0.2。
[0039] 作为优选,步骤6中,二级分类器包括交替相连的多个卷积层、池化层以及三个全连 接层。卷积神经网络的卷积方式中,padding参数设置为SAME。卷积层中卷积核的尺度为 
3×3。池化层中池化算子的大小为2×2、步长为1;池化层与下一个卷积层通过激活函数 
Relu连接。三个全连接层依次通过激活函数Relu连接。全连接层的dropout比重设置为0.5。 最后一个卷积层与第一个全连接层通过激活函数Relu连接。第一个全连接层内设置1024 
个神经元,第二个全连接层内设置512个神经元。第三个全连接层内设置2个神经元。
[0040] 作为优选,步骤6中,二级分类器包括依次通过激活函数Relu连接的一个卷积层、一 个池化层以及三个全连接层。卷积神经网络的卷积方式中,padding参数设置为'
valid'。卷 积层中设置尺度分别为3×3、5×5、7×7、9×9的四种卷积核;池化层中设置大
小分别为8×1、 6×1、4×1、2×1的四种池化算子;3×3、5×5、7×7、9×9的卷积核与8×1、
6×1、4×1、2×1 的池化算子分别对应相连。池化层的步长为1。全连接层的dropout比重设
置为0.5。第一 个全连接层内设置1024个神经元,第二个全连接层内设置512个神经元。第三个全连接层 内设置2个神经元。
[0041] 本发明具有的有益效果是:
[0042] 1、本发明采用的提取人体骨骼关节点方法解决了传统方法提取人体宽高比、投影面积 等无法精确估计人体姿态的问题。
[0043] 2、传统跌倒检测方法仅依据单帧视频图像判断跌倒,丢失了时间轴信息,本发明采用 固定大小的滑动窗口构建行为矩阵能够同时在时间、空间轴建模,充分表达跌倒行为特征。
[0044] 3、本发明将行为矩阵首先输入至初级分类器再输入至二级分类器,解决了传统机器学 习方法检测精度低的问题,现有深度学习的方法精度高但是模型复杂,检测耗时长,因此 本发明在不降低准确度的同时减少了检测耗时。

实施方案

[0050] 以下结合附图对本发明作进一步说明。
[0051] 如图1所示,一种基于视频关节点和混合分类器的跌倒检测方法,具体如下:
[0052] 步骤1、通过摄像头采集视频。当有人经过时,在视频中截取含有人的被检测视频片 段。
[0053] 步骤2、对被检测视频片段的每一帧图像进行高斯去噪处理。
[0054] 步骤3、利用人体节点采集软件采集被检测视频片段中每一帧图像的人体关节点数据, 并对缺失的人体关节点进行数据填充,得到人体关节数据矩阵;人体关节数据矩阵的每一 行均为一帧图像上的十八个关节点参数;人体关节数据矩阵的行号按照时间顺序
排列。
[0055] 人体节点采集软件采用OpenPose软件。OpenPose软件可选MPI、COCO、BODY25 三种模型,本实施例采用COCO模型,检测的人体关节点总数为18,分别是鼻子‑0、脖子 ‑1、右肩‑2、右肘‑3、右手腕‑4、左肩‑5、左肘‑6、左手腕‑7、右臀‑8、右膝盖‑9、右脚踝‑10、 左臀‑11、左膝盖‑12、左脚踝‑13、右眼‑14、左眼‑15、右耳‑16、左耳‑17。人体关节点包含  (x,y,score)三个数据。x为人体关节点在图像上的横坐标,y为人体关节点在图像上的纵坐 标;
score为人体关节点的置信度。
[0056] 对缺失的人体关节点进行数据填充的方法如下:
[0057] 由于存在光线及遮挡,OpenPose软件获取的人体关节点可能存在个别关节点缺失。填 充方式为若缺失节关点的后一个人体关节点(按照步骤3中所述的顺序,左耳‑17的后一 个关节点为鼻子‑0)不缺失,则将缺关失节点用后一个人体关节点填充;若缺关失节点的 后一个人体关节点缺失,且前一个人体关节点不缺失,则将缺关失节点用前一个人体关节 点填充;否则,将该帧图像删除。
[0058] 步骤4、如图1所示,根据步骤3得到的人体关节数据集,利用滑动窗口对构建的s 个行为矩阵; 为向下取整运算符;m为检测出人体关节点的图像数量。
[0059] 如图2所示。滑动窗口是一个用来存储时间序列数据的固定大小的窗口,随着时间的 推移,滑动窗口沿着时间轴移动,新进入的数据存入窗口底部,顶部数据被移出。本发明 采用滑动窗口构建行为矩阵,行为矩阵的总帧数W设置为10,总关节点数N为18,行为 矩阵大小为[10,18×3],即滑动窗口的长度为54,宽度为10。设置滑动步长step为2,最 后构建多个大小为10×54的行为矩阵。
[0060] 第i个行为矩阵Ki,matrix的表达式如式(1)所示,i=1,2,…,s;行为矩阵的每一行对应一 帧图像的骨骼向量;
[0061] Ki,matrix=(K2i‑1,K2i,…,K2i+W‑1)T  (1)
[0062] 式(1)中,Kt为第t张图像的骨骼向量,其表达式如式(2)所示;t=1,2,...,m。
[0063] Kt=(Kt,0,Kt,1,…,Kt,N‑1)  (2)
[0064] 式(2)中,Ktj表示人体关节数据矩阵中第t行第j+1列的参数,j=0,1,...,N‑1; 该参数包含(x,y,score)三个数据。因此各行为矩阵的大小为[W,N×3],
[0065] 步骤5、计算时间特征参数和空间特征参数。
[0066] 为了充分表达跌倒行为,本发明同时从各行为矩阵中提取时间特征和空间特征,具体 如下:
[0067] 5‑1.计算m张图像中的人体高度信息ht如式(3)所示;t=1,2,...,m。
[0068] ht=ht,head‑ht,foot  (3)
[0069] 式(3)中,ht,head为第t张图像中的人体的头部纵坐标,其表达式如式(4)所示。ht,foot为第t张图像中的人体的脚部纵坐标,其表达式如式(4)所示。
[0070]
[0071]
[0072] 式(4)和(5)中,yt,14、yt,15、yt,16、yt,17分别为第t张图像中关节点右眼‑14、左眼‑15、 右耳‑16、左耳‑17的纵坐标;yt,10、yt,13分别为第t张图像中右脚踝‑10、左脚踝‑13的纵坐标。
[0073] 5‑2.分别提取各行为矩阵对应的图像中人体高度信息的最大值、最小值,作为空间最 大值hi,max、空间最小值hi,min;i=1,2,…,s。
[0074] 5‑3.如式(6)和(7)所示,从第二张图像起,分别计算各图像的相邻帧高度差Δht,one; 从第六张图像起,分别计算各图像的五帧高度差Δhfive如图式(4)和(5)所示。Δht,one可以 表示相邻帧之间高度的变化值,即跌倒时人体在跌倒过程中身体下降的速度;Δht,five表示跌 倒前后五帧之间的高度变化。
[0075] Δht,one=ht‑ht‑1  (6)
[0076] Δht,five=ht‑ht‑5  (7)
[0077] 5‑4.分别提取各行为矩阵对应的图像中相邻帧高度差Δht,one的最大值、最小值、五帧高 度差Δht,five的最大值、最小值,作为短时间最大值hi,one,max、短时间最小值hi,one,min、长时间最 大值hi,five,max、长时间最小值hi,five,min。
[0078] 5‑5.将hi,max、hi,min、hi,one,max、hi,one,min、hi,five,max、hi,five,min进行特征融合成跌倒特征向量Fi,SVM, Fi,SVM=(hi,max,hi,min,hi,one,max,hi,one,min,hi,five,max,hi,five,min);i=1,2,…,s。
[0079] 5‑6.根据式(9)对各跌倒特征向量Fi,SVM内的元素进行归一化处理;进而消除视频中由 于体态、距离等个体差异造成的识别误差。
[0080]
[0081] 式(9)中,data′p为跌倒特征向量归一化后的第p个元素;datap为跌倒特征向量归一 化前的第p个元素;datamin为跌倒特征向量归一化前的最小值;datamax为跌倒特征向量归一 化前的最大值。
[0082] 步骤6:将归一化后的s个跌倒特征向量Fi,SVM分别输入至经过训练的初级分类器,得 到s个跌倒置信度Pi。初级分类器采用支持向量机(Support Vector Machine,SVM)。设置 阈值区间为[Pmin,Pmax],Pmax=0.8,Pmin=0.2。
[0083] 若所有跌倒置信度Pi均小于Pmin,则判定视频中的行人未跌倒,跌倒检测结束;若存在 至少一个跌倒置信度Pi大于Pmax,则判定视频中的行人跌倒,跌倒检测结束;否则,判定 为出现类跌倒情况,进入步骤7。
[0084] 步骤7、将跌倒置信度Pi在阈值区间[Pmax,Pmin]内的跌倒特征向量Fi,SVM输入至经过训练 的二级分类器,二级分类器输出视频中的行人是否跌倒。
[0085] 二级分类器采用CNN卷积神经网络,包括交替相连的多个卷积层、池化层以及三个 全连接层。卷积神经网络的卷积方式中,padding参数设置为SAME。卷积层中卷积核的尺 度为3×3。池化层中池化算子的大小为2×2、步长为1;池化层与下一个卷积层通过激活函 数Relu(Rectified Linear Units)连接。三个全连接层依次通过激活函数Relu连接。全连接 层的dropout比重设置为0.5。最后一个卷积层与第一个全连接层通过激活函数Relu连接。 第一个全连接层内设置1024个神经元,第二个全连接层内设置512个神经元。第三个全连 
接层内设置2个神经元,用于输出判断结果。
[0086] 实施例2
[0087] 如图3所示,一种基于视频关节点和混合分类器的跌倒检测方法,与实施例1的区别 在于:
[0088] 步骤2中,不对被检测视频片段的每一帧图像进行高斯去噪处理,而是进行灰度化处 理。
[0089] 步骤6中,二级分类器与实施例1中不相同,本实施中的二级分类器为多尺度的卷积 神经网络(记为MultiCNN),包括依次通过激活函数Relu连接的一个卷积层、一个池化 
层以及三个全连接层。卷积神经网络的卷积方式中,padding参数设置为'valid'。卷积层中 设置尺度分别为3×3、5×5、7×7、9×9的四种卷积核;池化层中设置大小分别为8×1、6×
1、 4×1、2×1的四种池化算子;3×3、5×5、7×7、9×9的卷积核与8×1、6×1、4×1、2×1的
池 化算子分别对应相连。池化层的步长为1。全连接层的dropout比重设置为0.5。第一个全 连接层内设置1024个神经元,第二个全连接层内设置512个神经元。第三个全连接层内设 
置2个神经元。
[0090] 该二级分类器是在传统的卷积神经网络的卷积层设置不同大小的卷积核,不同的卷积 核对应不同的池化算子进行池化。由于步骤4构建的行为矩阵大小为10×54,因此设
置四 种不同的卷积核,即3×3、5×5、7×7、9×9四种尺度不同的卷积核;再将不同大小的
卷积 核得到的特征图分别输入至大小为8×1、6×1、4×1、2×1的池化算子进行池化,池化
的步 长为1,从而得到不同的跌倒特征,铺平后输入至三层全连接层,输出跌倒检测结果。
[0091] 为验证本发明的精度和效率,对单独使用SVM分类器、单独使用CNN分类器、单独 使用MultiCNN分类器、实施例1中的方法、实施例2中的方法分别进行识别精度和识别 时长的试验;识别精度的结果对比柱状图如图4所示;从图4可以看出,单独使用CNN 分类器、单独使用MultiCNN分类器、实施例1、实施例2均能达到较高的精度。
[0092] 识别时长的结果对比柱状图如图5所示;从图5可以看出实施例1、实施例2的识别 时长明显短于单独使用CNN分类器、单独使用MultiCNN分类器。可见,本发明能够在保 证跌倒识别精度的前提下,大大降低跌倒识别的时长,减小计算量,提高计算效率。

附图说明

[0045] 图1是本发明实施例1的流程图;
[0046] 图2是本发明实施例1和实施例2中生成行为矩阵的示意图;
[0047] 图3是本发明实施例2的流程图;
[0048] 图4是本发明的识别精度柱状图;
[0049] 图5是本发明的识别时长柱状图。
版权所有:盲专网 ©2023 zlpt.xyz  蜀ICP备2023003576号