CN114587320A - 模拟心跳的方法和相关产品 - Google Patents
模拟心跳的方法和相关产品 Download PDFInfo
- Publication number
- CN114587320A CN114587320A CN202210320768.1A CN202210320768A CN114587320A CN 114587320 A CN114587320 A CN 114587320A CN 202210320768 A CN202210320768 A CN 202210320768A CN 114587320 A CN114587320 A CN 114587320A
- Authority
- CN
- China
- Prior art keywords
- target
- heart rate
- images
- value
- rate value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims abstract description 95
- 238000001514 detection method Methods 0.000 claims abstract description 109
- 230000009471 action Effects 0.000 claims abstract description 23
- 238000004088 simulation Methods 0.000 claims description 21
- 230000035565 breathing frequency Effects 0.000 claims description 20
- 239000008280 blood Substances 0.000 claims description 18
- 210000004369 blood Anatomy 0.000 claims description 18
- 238000004590 computer program Methods 0.000 claims description 13
- 230000008859 change Effects 0.000 claims description 7
- 230000001815 facial effect Effects 0.000 claims description 7
- 238000003860 storage Methods 0.000 claims description 7
- 230000009466 transformation Effects 0.000 claims description 6
- 238000013507 mapping Methods 0.000 claims description 4
- 230000036541 health Effects 0.000 abstract description 11
- 230000006870 function Effects 0.000 description 33
- 238000004891 communication Methods 0.000 description 25
- 238000010586 diagram Methods 0.000 description 25
- 230000000875 corresponding effect Effects 0.000 description 20
- 230000001276 controlling effect Effects 0.000 description 17
- 238000012545 processing Methods 0.000 description 17
- 230000008569 process Effects 0.000 description 14
- 230000005540 biological transmission Effects 0.000 description 13
- 238000003062 neural network model Methods 0.000 description 11
- 210000003491 skin Anatomy 0.000 description 10
- 238000005259 measurement Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 7
- 230000002996 emotional effect Effects 0.000 description 7
- 230000029058 respiratory gaseous exchange Effects 0.000 description 6
- 230000036387 respiratory rate Effects 0.000 description 5
- 238000001228 spectrum Methods 0.000 description 5
- 210000001519 tissue Anatomy 0.000 description 5
- 238000001914 filtration Methods 0.000 description 4
- 230000031700 light absorption Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000005070 sampling Methods 0.000 description 4
- 238000010521 absorption reaction Methods 0.000 description 3
- 230000017531 blood circulation Effects 0.000 description 3
- 210000004204 blood vessel Anatomy 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000002596 correlated effect Effects 0.000 description 3
- 230000033001 locomotion Effects 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 230000000474 nursing effect Effects 0.000 description 3
- 230000000737 periodic effect Effects 0.000 description 3
- 230000002618 waking effect Effects 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 210000001367 artery Anatomy 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 201000010099 disease Diseases 0.000 description 2
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 210000002615 epidermis Anatomy 0.000 description 2
- 230000003862 health status Effects 0.000 description 2
- 238000009532 heart rate measurement Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 210000003205 muscle Anatomy 0.000 description 2
- 238000013186 photoplethysmography Methods 0.000 description 2
- 238000004393 prognosis Methods 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 238000010183 spectrum analysis Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 208000024172 Cardiovascular disease Diseases 0.000 description 1
- 241001292396 Cirrhitidae Species 0.000 description 1
- 238000000862 absorption spectrum Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 230000005792 cardiovascular activity Effects 0.000 description 1
- 230000000739 chaotic effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- QVFWZNCVPCJQOP-UHFFFAOYSA-N chloralodol Chemical compound CC(O)(C)CC(C)OC(O)C(Cl)(Cl)Cl QVFWZNCVPCJQOP-UHFFFAOYSA-N 0.000 description 1
- 238000003759 clinical diagnosis Methods 0.000 description 1
- 210000002808 connective tissue Anatomy 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 230000008451 emotion Effects 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000005283 ground state Effects 0.000 description 1
- 230000004217 heart function Effects 0.000 description 1
- 238000002329 infrared spectrum Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012634 optical imaging Methods 0.000 description 1
- 239000005416 organic matter Substances 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 230000000541 pulsatile effect Effects 0.000 description 1
- 230000010349 pulsation Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000241 respiratory effect Effects 0.000 description 1
- 230000036391 respiratory frequency Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 210000003462 vein Anatomy 0.000 description 1
- 238000001845 vibrational spectrum Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0002—Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
- A61B5/0004—Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network characterised by the type of physiological signal transmitted
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0075—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/0205—Simultaneously evaluating both cardiovascular conditions and different types of body conditions, e.g. heart and respiratory condition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/08—Detecting, measuring or recording devices for evaluating the respiratory organs
- A61B5/0816—Measuring devices for examining respiratory frequency
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/48—Other medical applications
- A61B5/4806—Sleep evaluation
- A61B5/4809—Sleep detection, i.e. determining whether a subject is asleep or not
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/68—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
- A61B5/6887—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
- A61B5/6896—Toys
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/746—Alarms related to a physiological condition, e.g. details of setting alarm thresholds or avoiding false alarms
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/7475—User input or interface means, e.g. keyboard, pointing device, joystick
- A61B5/748—Selection of a region of interest, e.g. using a graphics tablet
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2576/00—Medical imaging apparatus involving image processing or analysis
- A61B2576/02—Medical imaging apparatus involving image processing or analysis specially adapted for a particular organ or body part
- A61B2576/023—Medical imaging apparatus involving image processing or analysis specially adapted for a particular organ or body part for the heart
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/02—Preprocessing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- Veterinary Medicine (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- Surgery (AREA)
- Medical Informatics (AREA)
- Heart & Thoracic Surgery (AREA)
- Pathology (AREA)
- Physiology (AREA)
- Theoretical Computer Science (AREA)
- Cardiology (AREA)
- Pulmonology (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Anesthesiology (AREA)
- Computer Networks & Wireless Communication (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
Abstract
本申请实施例提供了一种模拟心跳的方法和相关产品,该方法通过接收检测终端以无接触的方式对婴幼儿进行测量得到的心率值;并根据该心率值进行目标动作,该目标动作的频率与该心率值相对应。实施本申请提供的方法,在接收到所述检测终端检测到的心率值之后,执行与所述心率值相同频率或者相似频率的目标动作(例如振动、闪光),可以模拟所述目标对象的心跳,使看护者能够对该目标对象的健康进行实时监测。
Description
技术领域
本申请涉及生理指标测量领域,尤其涉及一种模拟心跳的方法和相关产品。
背景技术
心率,即心脏跳动的频率,是指心脏每分钟跳动的次数。心率作为人体四大生命体征之一,其稳定与否直接反映着心脏功能的好坏,是临床诊断疾病、观察治疗效果、进行预后判断的重要依据。在医院、托儿所以及亲子家庭等各类婴幼儿活动场所,看护人员需要经常对婴幼儿进行心率测量,以便看护者能够获知婴幼儿的生命健康状态。
然而,目前市场上常用的测量心率的产品,都要求看护人员在婴幼儿的旁边对婴幼儿进行接触式测量。当看护人员因事需要外出时,看护人员则无法实时的获取到婴幼儿的心率,也就无法获知婴幼儿的生命健康的实时状态。
发明内容
本申请实施例公开了一种模拟心跳的方法和相关产品。
第一方面,本申请实施例提供了一种模拟心跳的方法,所述方法包括:接收检测终端发送的心率值;根据所述心率值进行目标动作,所述目标动作的频率与所述心率值相对应。
在本方法中,所述心率值为对目标对象的心率进行检测得到的数值。具体的,由于检测终端的性能差异以及目标对象所处环境的不同,所述心率值可以为所述目标对象实际的心率值,也可以与所述目标对象的心率值存在一定的误差。在接收到所述检测终端检测到的心率值之后,执行与所述心率值相同频率或者相似频率的目标动作(例如振动、闪光),可以模拟所述目标对象的心跳,使看护者能够对该目标对象的健康进行实时监测。
在第一方面一个可能的实施方式中,所述心率值基于目标信号得到,所述目标信号为基于目标图像集合获取的表征目标对象的血容量的变化趋势的信号;所述目标图像集合包含至少两帧目标图像,所述至少两帧目标图像为包含所述目标对象的人脸的图像,所述心率值为所述目标对象的心率值。
应理解,当光照透过皮肤组织然后再反射到光敏传感器时光照有一定的衰减的。由于心脏搏动促使血液的流动,引起皮肤下的血管的容积随心脏呈脉动性变化,入射光的光程也会随之发生改变,以及血液对不同波段的光束的吸收作用不同,从而引起表层皮肤的颜色和形状变化。因此,反射光被摄像头接收到形成视频图像,采集到的视频中的每帧图像的亮度变化包含脉动信息,采用摄像头连续采集所述目标对象的表皮区域的信息,就能得到反映心血管活动中心脏搏动的时间变化及其周期的图像,也就能实现对所述目标对象的心率信息的不断捕捉。
在本实施方式中,所述目标图像集合中的图像均包含所述目标对象的人脸图像。将所述目标图像集合作为由第一神经网络模型的输入,由所述第一神经网络模型进行预测后,就可以把光转换成表征所述目标对象的血容量的变化趋势的信号电信号,即所述目标信号。
在第一方面一个可能的实施方式中,所述目标图像集合基于第一图像集合中的至少两帧热力图像的目标区域得到,所述第一图像集合中的图像均为表征所述目标对象向外辐射的热量的强度的热力图像,所述目标区域包含所述目标对象的人脸图像。
所述第一图像集合为所述检测终端对所述目标对象进行拍摄所得到的图像。可以理解的,所述第一图像集合中的图像除了包含所述目标对象的人脸图像之外,很可能还包含了一些其它的图像(例如目标对象的服装、背景图像等)。这些图像的存在可能会对所述目标信号的获取过程造成干扰,导致目标信号无法准确的反应所述目标对象的心率值;此外,这些图像的存在还可能加重所述第一神经网络模型的预测负担,影响设备对图像的处理效率。因此,在本实施方式中,可以通过第二神经网络模型确定上述第一图像集合中各帧图像的感兴趣区域ROI,即所述目标区域,使得到的所述目标信号更准确。
在第一方面一个可能的实施方式中,所述方法应用于电子玩偶,所述电子玩偶上设有马达和/或灯源,所述根据所述心率值进行目标动作,包括:控制所述马达以第一频率值根据所述心率值进行振动,所述第一频率值与所述心率值相同;和/或,控制所述灯源以第二频率值进行闪烁,所述第二频率值与所述心率值相同。
在本实施方式中,为了更好的模拟所述目标对象的心跳,所述目标动作可以设置为振动、灯光闪烁中的一个或多个,振动或者闪烁的频率可以与所述心率值一样,也可以与所述心率值近似。
在第一方面一个可能的实施方式中,所述电子玩偶上设有气囊和用于所述气囊和外界环境进行气体交换的气孔,所述方法还包括:根据所述心率值确定所述目标对象的呼吸频率值;根据所述呼吸频率控制所述气囊以第三频率进行收缩,将所述气囊中的气体通过所述气孔与外界的气体进行交换,所述第三频率值与所述呼吸频率值相同。
可以理解的,一般而言,人的呼吸频率和心率是正相关的。在得到所述目标对象的心率值之后,可以近似计算出所述目标对象的呼吸频率。基于所述呼吸频率,令所述电子玩偶模拟所述目标对象的呼吸过程,一方面是另一种体现心率的形式,另一方面也更加满足了监护者的情感需求。
在第一方面一个可能的实施方式中,所述方法应用于电子玩偶,所述电子玩偶上设有马达,所述接收检测终端发送的心率值,包括:接收所述检测终端发送的心率值和指示信息,所述指示信息用于指示所述目标对象是否处于睡眠状态;所述根据所述心率值进行目标动作,包括:在所述指示信息指示所述目标对象处于睡眠状态的情况下,控制所述马达以第四频率值和第一幅度值进行振动,所述第四频率值与所述心率值相同;在所述指示信息指示所述目标对象未处于睡眠状态的情况下,控制所述马达以所述第四频率值和第二幅度值进行振动,所述第四频率值与所述心率值相同,所述第二幅度值大于所述第一幅度值。
婴幼儿的心率在睡眠时候可以比平时清醒活动时减慢10-15次/分钟。由于所述心率值是所述检测终端通过对所述目标对象的脸部图像进行分析得出的,则上述检测终端可以同时基于所述目标对象的脸部图像确定出所述目标对象是处于睡眠状态还是清醒状态。之后,所述电子玩偶可以针对睡眠状态和清醒状态进行不同幅度的振动,这样,可以让监护人更清楚的得知是婴幼儿的生命状态,进一步满足了监护者的情感需求。
在第一方面一个可能的实施方式中,所述方法还包括:判断所述心率值是否处于参考区间,所述参考区间表征处于健康状态下的婴幼儿的心率范围;在所述心率值未处于所述参考区间的情况下,输出警报信息。
在本实施方式中,当所述目标对象的心率不正常时候,及时给监护人预警信息,可以提高所述目标对象的生命安全保障。
第二方面,本申请实施例提供了一种检测心率的方法,所述方法包括:根据目标图像集合获取目标信号;所述目标图像集合包含至少两帧目标图像,所述至少两帧目标图像为包含目标对象的人脸的图像,所述目标信号表征所述目标对象的血容量的变化趋势;基于所述目标信号,得到所述目标对象的心率值。
在本实施方式中,所述目标图像集合中的图像均包含所述目标对象的人脸图像。将所述目标图像集合作为由第一神经网络模型的输入,由所述第一神经网络模型进行预测后,就可以把光转换成表征所述目标对象的血容量的变化趋势的信号电信号,即所述目标信号。之后,再对得到的目标信号进行频谱分析,即可计算出所述目标对象的所述心率值。
在第二方面一个可能的实施方式中,在所述根据目标图像集合获取目标信号之前,所述方法还包括:对所述目标对象进行拍摄,得到第一图像集合,所述第一图像集合中的图像均为表征所述目标对象向外辐射的热量的强度的热力图像;确定所述第一图像集合中至少两帧热力图像的目标区域,得到目标图像集合,所述目标区域包含所述目标对象的人脸图像。
所述第一图像集合为所述检测终端对所述目标对象进行拍摄所得到的图像。可以理解的,所述第一图像集合中的图像除了包含所述目标对象的人脸图像之外,很可能还包含了一些其它的图像(例如目标对象的衣服、背景图像等)。这些图像的存在可能会对所述目标信号的获取过程造成干扰,导致目标信号无法准确的反映所述目标对象的心率值;此外,这些图像的存在还可能加重所述第一神经网络模型的预测负担,影响设备对图像的处理效率。因此,在本实施方式中,可以通过第二神经网络模型确定上述第一图像集合中各帧图像的感兴趣区域ROI,即所述目标区域,使得到的所述目标信号更准确。
在第二方面一个可能的实施方式中,所述基于所述目标信号,得到所述目标对象的心率值,包括:将所述目标信号从时域信号转化为频域信号;确定所述频域信号在目标频域区间中的峰值;将所述峰值进行线性变换,得到所述心率值。
在本实施方式中,通过傅里叶变换将所述目标信号从时域信号转化为频域信号,可以将目标信号转化为由振幅、相位、频率进行描述的信号,以便于找出信号中振幅较大(能量较高)信号对应的频率,并基于信号中的尖峰频率快速计算出所述目标对象的心率值。
在第二方面一个可能的实施方式中,所述确定所述第一图像集合中至少两帧热力图像的目标区域,得到目标图像集合,包括:对目标对象进行拍摄,得到第二图像集合,所述第二图像集合中的图像均为RGB图像或NIR图像;确定所述第二图像集合中至少两帧RGB图像或至少两帧NIR图像的第一区域,所述至少两帧RGB图像或至少两帧NIR图像的拍摄时刻与所述至少两帧热力图像的拍摄时刻相同,所述第一区域包含所述目标对象的人脸图像;将所述第一区域映射至所述至少两帧热力图像中,得到所述至少两帧热力图像的所述目标区域,得到所述目标图像集合。
在本实施方式中,所述目标图像集合可以由所述第一图集合得到。即,检测终端可以采用RGB或NIR摄像头对所述目标对象进行拍摄;此外,检测终端还同时采用一个热像仪对所述目标对象进行拍摄。可以理解的,在得到多张热力图像的同时,也得到与这多张热力图像相对应的RGB图像或者NIR图像。检测终端可以在所述RGB图像或者NIR图像中确定上述目标区域,再将所述目标区域映射至与该RGB或NIR图像对应帧的热力图像的相同的区域上。由于RGB与NIR图像的轮廓更为清晰,所得到的目标区域也会更精确。
第三方面,本申请实施例提供了一种模拟心跳的装置,所述装置包括:接收单元,用于接收检测终端发送的心率值;模拟单元,根据所述心率值进行目标动作,所述目标动作的频率为第一频率,所述第一频率与所述目标对象的心率相对应。
在第三方面一个可能的实施方式中,所述心率值基于目标信号得到,所述目标信号为基于目标图像集合获取的表征目标对象的血容量的变化趋势的信号;所述目标图像集合包含至少两帧目标图像,所述至少两帧目标图像为包含所述目标对象的人脸的图像,所述心率值为所述目标对象的心率值。
在第三方面一个可能的实施方式中,所述目标图像集合基于第一图像集合中的至少两帧热力图像的目标区域得到,所述第一图像集合中的图像均为表征所述目标对象向外辐射的热量的强度的热力图像,所述目标区域包含所述目标对象的人脸图像。
在第三方面一个可能的实施方式中,所述装置为电子玩偶,所述电子玩偶上设有马达和/或灯源,所述模拟单元,具体用于:控制所述马达以第一频率值根据所述心率值进行振动,所述第一频率值与所述心率值相同;和/或,控制所述灯源以第二频率值进行闪烁,所述第二频率值与所述心率值相同。
在第三方面一个可能的实施方式中,所述电子玩偶上设有气囊和用于所述气囊和外界环境进行气体交换的气孔,所述模拟单元还用于:根据所述心率值确定所述目标对象的呼吸频率值;根据所述呼吸频率控制所述气囊以第三频率进行收缩,将所述气囊中的气体通过所述气孔与外界的气体进行交换,所述第三频率值与所述呼吸频率值相同。
在第三方面一个可能的实施方式中,所述装置为电子玩偶,所述电子玩偶上设有马达,所述接收单元,具体用于:接收所述检测终端发送的心率值和指示信息,所述指示信息用于指示所述目标对象是否处于睡眠状态;所述模拟单元,具体用于:在所述指示信息指示所述目标对象处于睡眠状态的情况下,控制所述马达以第四频率值和第一幅度值进行振动,所述第四频率值与所述心率值相同;在所述指示信息指示所述目标对象未处于睡眠状态的情况下,控制所述马达以所述第四频率值和第二幅度值进行振动,所述第四频率值与所述心率值相同,所述第二幅度值大于所述第一幅度值。
在第三方面一个可能的实施方式中,所述装置还包括:预警单元,用于判断所述心率值是否处于参考区间,所述参考区间表征处于健康状态下的婴幼儿的心率范围;在所述心率值未处于所述参考区间的情况下,输出警报信息。
第四方面,本申请实施例提供了一种检测心率的装置,包括:获取单元,用于根据目标图像集合获取目标信号;所述目标图像集合包含至少两帧目标图像,所述至少两帧目标图像为包含目标对象的人脸的图像,所述目标信号表征所述目标对象的血容量的变化趋势;计算单元,用于基于所述目标信号,得到所述目标对象的心率值。
在第四方面一个可能的实施方式中,所述装置还包括:拍摄单元,用于对所述目标对象进行拍摄,得到第一图像集合,所述第一图像集合中的图像均为表征所述目标对象向外辐射的热量的强度的热力图像;确定所述第一图像集合中至少两帧热力图像的目标区域,得到目标图像集合,所述目标区域包含所述目标对象的人脸图像。
在第四方面一个可能的实施方式中,所述计算单元,具体用于将所述目标信号从时域信号转化为频域信号;确定所述频域信号在目标频域区间中的峰值;将所述峰值进行线性变换,得到所述心率值。
在第四方面一个可能的实施方式中,所述拍摄单元,具体用于对目标对象进行拍摄,得到第二图像集合,所述第二图像集合中的图像均为RGB图像或NIR图像;确定所述第二图像集合中至少两帧RGB图像或至少两帧NIR图像的第一区域,所述至少两帧RGB图像或至少两帧NIR图像的拍摄时刻与所述至少两帧热力图像的拍摄时刻相同,所述第一区域包含所述目标对象的人脸图像;将所述第一区域映射至所述至少两帧热力图像中,得到所述至少两帧热力图像的所述目标区域,得到所述目标图像集合。
第五方面,本申请实施例提供了一种模拟心跳的系统,所述系统包括:检测终端和模拟终端,所述检测终端和所述模拟终端通信连接,其中,所述模拟终端包括第一处理器,所述第一处理器通过读取存储器中存储的代码,以执行如第一方面以及第一方面任一种可能的方法;所述检测终端包括第二处理器,所述第二处理器通过读取存储器中存储的代码或第二方面以及第二方面任一种可能的方法。
第六方面,本申请实施例提供了一种电子设备,所述电子设备包括处理器,所述处理器通过读取存储器中存储的代码,以执行如第一方面以及第一方面任一种可能的方法或第二方面以及第二方面任一种可能的方法。
第七方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时,使所述处理器执行如第一方面以及第一方面任一种可能的方法或第二方面以及第二方面任一种可能的方法。
附图说明
为了更清楚地说明本申请实施例或背景技术中的技术方案,下面将对本申请实施例或背景技术中所需要使用的附图作简单的介绍。
图1本申请实施例提供的一种测量心率的场景示意图;
图2为本申请实施例提供的一种模拟心跳的方法的流程图;
图3为本申请实施例提供的一种检测心率的方法的流程图;
图4为本申请实施例提供的一种心率信号的频谱图;
图5为本申请实施例提供的一种电子玩偶模拟心跳的应用场景图;
图6为本申请实施例提供的一种心跳模拟系统的架构示意图;
图7为本申请实施例提供的一种心跳模拟系统的架构示意图;
图8为本申请实施例提供的一种心跳模拟系统的架构示意图;
图9为本申请实施例提供的一种心跳模拟系统的架构示意图;
图10为本申请实施例提供的一种模拟心跳的装置的结构示意图;
图11为本申请实施例提供的一种检测心率的装置的结构示意图;
图12为本申请实施例提供的一种电子设备的结构示意图;
图13为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
为了使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请作进一步地描述。
本申请的说明书、权利要求书及附图中的术语“第一”和“第二”等仅用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备等,没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元等,或可选地还包括对于这些过程、方法、产品或设备等固有的其它步骤或单元。
在本文中提及的“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员可以显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
在本申请中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上,“至少两个(项)”是指两个或三个及三个以上,“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:只存在A,只存在B以及同时存在A和B三种情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”。
本发明实施例提供了模拟心跳的方法及相关产品,为更清楚的描述本发明的方案。下面先介绍一些本申请实施例提供的模拟心跳方法及相关产品所涉及的知识。
(1)热像仪和热力图像
热像仪是利用红外探测器和光学成像物镜接受被测目标的红外辐射能量分布图形反映到红外探测器的光敏元件上,从而获得热力图像的设备。简单地讲热像仪就是将物体辐射的不可见红外能量转变为可见的热力图像。同理,热力图像是指记录物体本身或向外辐射的热量或温度的图像。通常情况下,热图像都是指红外热图像。
(2)感兴趣区域(region of interest,ROI)
机器视觉、图像处理中,从被处理的图像以方框、圆、椭圆、不规则多边形等方式勾勒出需要处理的区域,称为感兴趣区域ROI。在Halcon、OpenCV、Matlab等机器视觉软件上常用到各种算子和函数来求得感兴趣区域ROI,并进行图像的下一步处理。
(3)光电容积脉搏波描记法(Photoplethysmography,PPG)
当光照透过皮肤组织然后再反射到光敏传感器时光照有一定的衰减的。像肌肉、骨骼、静脉和其他连接组织等对光的吸收是基本不变的(前提是测量部位没有大幅度的运动),但是血液不同,由于动脉里有血液的流动,那么对光的吸收自然也有所变化。当我们把光转换成电信号时,正是由于动脉对光的吸收有变化而其他组织对光的吸收基本不变,得到的信号就可以分为直流DC信号和交流AC信号。提取其中的AC信号,就能反应出血液流动的特点,这种技术叫做光电容积脉搏波描记法PPG。
(4)近红外光(Near Infrared,NIR)
近红外光NIR是介于可见光(VIS)和中红外光(MIR)之间的电磁波,按ASTM(美国试验和材料检测协会)定义是指波长在780~2526nm范围内的电磁波,习惯上又将近红外区划分为近红外短波(780~1100nm)和近红外长波(1100~2526nm)两个区域。近红外光谱属于分子振动光谱的倍频和主频吸收光谱,主要是由于分子振动的非谐振性使分子振动从基态向高能级跃迁时产生的,具有较强的穿透能力。选用连续改变频率的近红外光照射某样品时,由于试样对不同频率近红外光的选择性吸收,通过试样后的近红外光线在某些波长范围内会变弱,透射出来的红外光线就携带有机物组分和结构的信息。通过检测器分析透射或反射光线的光密度,就可以确定该组分的一些特性。
心率是人体的重要生理参数之一,是人体健康的重要标准,对心率的日常监测可以正确反映一个人的身体健康状况,对于心血管疾病的预防和预后诊断,具有十分重要的研究意义和应用价值。在医院、托儿所以及亲子家庭等各类婴幼儿活动场所,看护人员需要经常对婴幼儿进行心率测量,以便看护者能够获知婴幼儿的生命健康状态。当发现婴幼儿有心率不正常的情况时,需要及时对婴幼儿采取治疗,才能使疾病得到合理的控制。
目前较为常用的心率测量方法在测量时都要求将测量设备与婴幼儿身体进行亲密的接触。如图1所示,心率测量设备102通过将其上的测量部件(例如贴片)与婴幼儿101的肌肤接触之后,心率测量设备即可以获取到婴幼儿101的心电信号并获取到婴幼儿101的心率值,并将该心率值显示在心率测量设备102显示屏上。
这种测量方法虽然准确,但是由于其需要将测量设备与婴幼儿身体进行亲密的接触,经常会引起婴幼儿的不适并影响其正常的生命活动;为了婴幼儿的健康,看护人员103还需要经常对测量设备进行消毒,耗费了大量人力物力。此外,在临床上,有些常年需要护理的婴幼儿及其家人(例如图1中的看护人103)都希望能够实时监护婴幼儿的健康情况,但是由于图1中的心率测量设备102需要与婴幼儿101亲密接触才能完成测量工作,因此,当看护人员103又是需要外出时,看护人员并不能实时地获取到婴幼儿101的心率值,也就无法得知其生命健康状态。由于婴幼儿本身的特殊性,看护人员103与婴幼儿101之间的情感交流需求无法得到满足。
针对上述方法存在的不足,本申请实施例提供了一种模拟心跳的方法,该方法通过热像仪和PPG信号对婴幼儿的心率进行无接触式测量得到的心率数据,并根据心率控制电子玩偶进行同频运动,达到模拟婴幼儿心跳的效果,能满足看护者对婴幼儿健康的实时监测,以及寄托其亲子情感的目的,请参阅图2。
图2为本申请实施例提供的一种模拟心跳的方法的流程图。如图2所示,该方法可以包括以下步骤:
201、模拟终端接收检测终端发送的心率值。
上述模拟终端可以是具备通信功能的电子玩偶、手机(mobile phone)、平板电脑(pad)、带数据收发功能的电脑(如笔记本电脑、掌上电脑等)、移动互联网设备(mobileinternet device,MID)、5G网络中的终端设备等,还可以是其他具备数据收发功能的设备,本申请对该模拟终端的具体形态不作限定对此不做限定。
在申请实施例中,上述心率值由上述检测终端发送。该检测终端用于对目标对象的心率进行测量,得到上述心率值,并将该心率值发送给上述模拟终端。该检测终端可以是具备通信功能和摄像功能的手机(mobile phone)、平板电脑(pad)、带数据收发功能的电脑(如笔记本电脑、掌上电脑等)、移动互联网设备(mobile internet device,MID)、5G网络中的终端设备等,还可以是其他具备数据收发功能的设备,本申请对上述检测终端的具体形态不作限定。
该检测终端以及上述模拟终端之间可以通过蓝牙、WiFi、5G网等无线网络进行通信,本申请对此不做限制,具体可以参考后续实施例的相关说明。
在一个可选的实施方式中,上述心率值基于目标信号得到,该目标信号为基于目标图像集合获取的表征上述目标对象的血容量的变化趋势的信号;该目标图像集合包含至少两帧目标图像,该至少两帧目标图像为包含上述目标对象的人脸的图像,上述心率值为所述目标对象的心率值。
具体的,上述检测终端可以根据PPG的测量原理获取上述心率值。可以理解的,通过PPG方法检测目标对象的心率需要记录入射光经皮肤、血管、肌肉和其他组织反射及散射回来的光,将光信号转换成电信号输出。由于摄像头是最便宜、最易得、最便捷的光电转换装置,因此,在本申请实施例中,上述检测终端可以包含一个或多个摄像头,该检测终端可以通过这一个或多个摄像头来对上述目标对象的包括人脸在内的整个头部区域进行采集,得到多帧包含上述目标对像人脸信息的图像。可以理解的,当光照透过皮肤组织然后再反射到光敏传感器时光照有一定的衰减的。由于心脏搏动促使血液的流动,引起皮肤下的血管的容积随心脏呈脉动性变化,入射光的光程也会随之发生改变,以及血液对不同波段的光束的吸收作用不同,从而引起表层皮肤的颜色和形状变化,因此,采用摄像头连续采集上述目标对象表皮区域的信息,得到反映心血管活动中心脏搏动的时间变化及其周期的图像,就能实现对上述目标对象的心率值的不断捕捉。
由于上述检测终端的性能以及上述目标对象所处环境存在诸多干扰因素(例如上述目标对象的肤色、目标对象的人脸位置等),上述心率值可以为所述目标对象实际的心率值,也可以为与上述目标对象的实际的心率值存在一定的误差。
在一个可选的实施方式中,上述目标图像集合基于第一图像集合中的至少两帧热力图像的目标区域得到,该第一图像集合中的图像均为表征上述目标对象向外辐射的热量的强度的热力图像,该目标区域包含所述目标对象的人脸图像。
也就是说,上述检测终端上设有类似热像仪之类的摄像装置,该摄像装置可以对上述目标对象进行拍摄,得到多帧反映该目标对像向外辐射的热量的强度的热力图像,即上述第一图像集合。应理解,该第一图像集合中的图像除了包含上述目标对象的人脸图像之外,很可能还包含了一些其它的图像(例如目标对象的衣服、背景图像等)。这些图像的存在可能会对上述目标信号的获取过程造成干扰,导致上述目标信号无法准确的反应所述目标对象的心率值;此外,这些图像的存在还可能影响设备对图像的处理效率。因此,在本实施方式中,可以通过神经网络模型确定上述第一图像集合中各帧图像的感兴趣区域ROI,即上述目标区域,使得到的所述目标信号更准确。
202、上述模拟终端根据上述心率值进行目标动作。
在接收到所述检测终端检测到的心率值之后,上述模拟终端将执行与所述心率值相同频率或者相似频率的目标动作(例如振动、闪光),以此模拟上述目标对象的心跳,让看护者能够对该目标对象的健康的进行实时监测。
在一个可能的实施方式中,上述模拟终端可以为电子玩偶,该电子玩偶上设有马达和/或灯源,该电子玩偶可以控制上述马达以第一频率值根据上述心率值进行振动,该第一频率值与上述心率值相同或者相近;或者,该电子玩偶还可以控制上述灯源以第二频率值进行闪烁,该第二频率值与上述心率值相同。
可以理解的,一般而言,人的呼吸频率和心率是正相关的。在得到上述目标对象的心率值之后,可以近似计算出上述目标对象的呼吸频率。例如,在正常的情况下,呼吸和心率的关系大概为1:4,也就是呼吸一次,会出现4次的心脏跳动。因此,在正常的情况下,当上述心率值为72次每分钟,呼吸的正常范围应该是在18次每分钟左右。
因此,在一个可能的实施方式中,上述电子玩偶上设有气囊和用于上述气囊和外界环境进行气体交换的气孔,上述电子玩偶可以根据上述心率值确定上述目标对象的呼吸频率值;并根据上述呼吸频率控制所述气囊以第三频率进行收缩,将该气囊中的气体通过气孔与外界的气体进行交换,上述第三频率值与上述呼吸频率值可以相同或相近。这样,令电子玩偶模拟所述目标对象的呼吸过程,一方面是另一种体现心率的形式,另一方面也更加满足了监护者的情感需求。
此外,需理解,婴幼儿的心率在睡眠时候可以比平时清醒活动时减慢10-15次/分钟。由于上述心率值是上述检测终端通过对上述目标对象的脸部图像进行分析得出的,则上述检测终端可以同时基于上述目标对象的脸部图像确定出该目标对象是处于睡眠状态还是清醒状态。因此,在一个可能的实施方式中,上述电子玩偶上可以接收上述检测终端发送的心率值和指示信息,上述指示信息用于指示上述目标对象是否处于睡眠状态;在所述指示信息指示所述目标对象处于睡眠状态的情况下,上述电子玩偶可以控制上述马达以第四频率值和第一幅度值进行振动,上述第四频率值与上述心率值相同或相近;在上述指示信息指示该目标对象未处于睡眠状态的情况下,上述电子玩偶可以控制上述马达以上述第四频率值和第二幅度值进行振动,上述第四频率值与上述心率值相同或相近,上述第二幅度值可以大于上述第一幅度值。针对睡眠状态和清醒状态进行不同幅度的振动,这样,可以让监护人更清楚的得知是婴幼儿的生命状态,进一步满足了监护者的情感需求。
在第一方面一个可能的实施方式中,上述模拟终端在接收到上述心率值之后,该模拟终端可以判断该心率值是否处于健康状态下的婴幼儿的心率范围;在所述心率值未处于该心率范围的情况下,输出警报信息,以此来提高所述目标对象的生命安全保障。
为了对上述检测终端对上述目标对象的心率值的检测过程进行进一步的说明,本申请实施例提供了一种检测心率的方法的流程图,具体情参阅图3。如图3所示,该方法可以包括以下步骤:
301、检测终端根据目标图像集合获取目标信号。
上述检测终端可以是具备通信功能和摄像功能的手机(mobile phone)、平板电脑(pad)、带数据收发功能的电脑(如笔记本电脑、掌上电脑等)、移动互联网设备(mobileinternet device,MID)、5G网络中的终端设备等。进一步的,上述检测终端可以是前述图2中的检测终端。此外,上述检测终端还可以是其他具备数据收发功能的设备,本申请对上述检测终端的具体形态不作限定。
上述目标图像集合包含至少两帧目标图像,该至少两帧目标图像为包含目标对象的人脸的图像,该目标信号表征所述目标对象的血容量的变化趋势。结合前述说明可知,基于PPG方法,采用摄像头连续采集目标对象表皮区域的信息,就能实现对上述目标对象的心率值的不断捕捉。因此,在本申请实施例中,上述检测终端可以通过上述目标对象进行拍摄,得到多帧目标图像作为上述目标图像集合;或者对上述目标对象进行拍摄,得到包含多帧上述目标对象的图像的视频流,并从该视频流中均匀采样,即从视频流中等时间间隔抽取帧存储为图像,得到上述目标图像集合。具体的,上述视频流可以为MPEG、AVI、MOV等格式;上述多帧目标图像可以为BMP、JPEG、TIF、GIF、PCX、PBM、PGM、PPM等格式,本申请实施例对此不作限定。一般的,为了上述目标信号准确性,上述目标图像集合中图像的帧数可以设定为60帧左右。
在一个可选的实现方式中,上述检测终端可以采用热像仪对上述目标对象进行拍摄,得到第一图像集合。该第一图像集合中的图像均为热力图像,即表征所述目标对象向外辐射的热量的强度的热力图像。由前述说明可知,该第一图像集合中的图像很可能存在对上述目标信号的获取过程造成干扰的因素,导致上述目标信号无法准确的反映所述目标对象的心率值;此外,这些图像的存在还可能影响设备对图像的处理效率。因此,在本实施方式中,可以确定上述第一图像集合中各帧图像的感兴趣区域ROI,即上述目标区域,将上述第一图像集合中的各帧图像的ROI所包含的图像作为上述目标图像集合,这样,可以使得到的所述目标信号更准确。具体的,该目标区域为包含所述目标对象的人脸图像。
可选的,上述检测终端可以通过第二网络模型确定上述第一图像集合中各帧图像的ROI,该第二网络模型可以是卷积神经网络模型。具体的,在执行本方法之前,可以将一定数量的包含人脸图像的热力图像作为样本数据,以此来训练得到上述第二网络模型。
可选的,上述检测终端上除了设有热像仪之类的摄像装置之外,检测终端上还可以设有一个RGB摄像头或者NIR摄像头,上述检测终端可以采用该RGB摄像头或该NIR摄像头对所述目标对象进行拍摄;此外,检测终端还同时采用上述热像仪之类的摄像装置对所述目标对象进行拍摄。可以理解的,在得到多张热力图像的同时,也得到与这多张热力图像相对应的RGB图像或者NIR图像。检测终端可以在上述RGB图像或者NIR图像中确定上述目标区域,再将该目标区域映射至与该RGB或NIR图像对应帧的热力图像的相同的区域上。
示例性的,假设上述检测终端上设有一个热像仪以及一个RGB摄像头。则在上述检测终端采集上述目标对象的过程中,上述检测装置将同时采用该热像仪以及该RGB摄像头对上述目标对象进行拍摄,并保存在同一时刻这两个摄像装置所拍摄的图片的对应关系。例如,在t1时刻,上述热像仪采集的图像为图像A,而上述RGB摄像头采集的图像为图像a;在t2时刻,上述热像仪采集的图像为图像B,而上述RGB摄像头采集的图像为图像B,则上述检测终端将保存图像A与图像a的对应关系,图像B与图像b的对应关系……以此类推。相应的,检测终端可以基于第三网络模型在所述图像a确定图像a的目标区域,再将该目标区域映射至与图像a对应的图像A的相同的区域上;在所述图像b确定图像b的目标区域,再将该目标区域映射至与图像b对应的图像B的相同的区域上……以此类推。该第三网络模型可以是卷积神经网络模型。具体的,在执行本方法之前,可以将一定数量的包含人脸图像的RGB图像作为样本数据,以此来训练得到上述第三网络模型。这样,由于RGB与NIR图像的轮廓更为清晰,所得到的目标区域也会更精确。
在获取到上述目标图像集合之后,上述检测终端可以将该目标图像集合作为第一网络模型的输入,得到所述目标信号,该第一网络模型可以是卷积神经网络模型。具体的,在执行本方法之前,可以将一定数量的包含人脸图像的热力图像作为样本数据,以此来训练得到上述第一网络模型。
对于不同性能的摄像设备而言,其采样率也可能不同。为了保准确率,并且确保采用不同的设备对目标对象进行拍摄时,其获取到的用于分析计算的信号对应的时间长度是一致的,在使用不同的设备采集目标对象的图像时(例如前述热像仪和RGB摄像头),可以设定摄像设备对该目标对象的采集时长,例如,该时长可以设定为1.5s,2s等。
在一个可选的实现方式中,上述检测终端还可以基于上述目标图像确定上述目标对象是否处于睡眠状态,得到用于指示上述目标对象是否处于睡眠状态的指示信息。
302、上述检测终端基于上述目标信号,得到目标对象的心率值。
具体的,上述检测终端可以先将上述目标信号从时域信号转化为频域信号,之后确定所述频域信号在目标频域区间中的峰值,并将所述峰值进行线性变换,得到所述心率值。
在本申请实施例中,可以通过傅立叶变换先将上述目标信号从时域信号转化为频域信号。傅立叶变换,就是把一个信号分解成无数的正弦波(或者余弦波)信号。因此,通过傅立叶变换很容易得到信号的频率域特性,从而便于找出这些基本正弦(或者余弦)信号中振幅较大(能量较高)信号对应的频率,确定上述目标信号中的主要振动频率特点。
应理解,心率信号(即上述目标信号)具有明显的周期性特点,在频域内对应频谱中的尖峰。因此,在本申请实施例中,可以采用数字谱分析的方法来有效地反映上述目标对象的心脏跳动的规律。由于周期运动在频谱中对应尖峰,而混沌信号在频谱图中会出现宽频噪声背景和宽峰,选取频谱图中的尖峰,并找出第一尖峰对应的频率即为心率的频率。
一般的,在得到经傅里叶变换之后的上述目标信号之后,上述检测终端选取0.75~4Hz通带范围内的峰值经过线性变换作为心率测量值。
示例性的,图4为本申请实施例提供的一种心率信号的频谱图。该心率信号可以为上述目标信号。由图4可知,该信号的尖峰频率为1.25Hz,因此,此次测量所得的心率为1.25×60=75(次/分钟)。也就是说,由图4中心率信号的反映出的规律可知,上述目标对象的心率大约为75(次/分钟)。
可以理解的,心率信号是一种微弱的非平稳信号,易受人体自身和身体状态的影响,因此上述目标信号在采集过程中容易受到外界干扰、电源波动干扰和眼动噪声等因素的影响。此外,通过上述目标图像集合所提取的上述目标信号可能不仅包含心率信息,还包括呼吸频率等生理信息。因此,在一个可选的实现方式中,为了更加精确地得到心率的信息,上述检测终端将对上述目标信号进行滤波。具体的,上述检测终端可以采用单点移动平均滤波法、窗口移动平均滤波法等滤波法对上述目标信号进行滤波去噪,得到信噪比更高的心率信号,再实现心率信号的提取。
结合上述模拟心跳的方法和上述检测心率的方法,本申请实施例提供了一种电子玩偶模拟心跳的应用场景图,具体请参阅图5。
如图5中的(A)所示,婴幼儿5A1平躺于婴儿床上,其可以前述说明中的目标对象。检测终端5A2可以是具备通信功能和摄像功能的手机(mobile phone)、平板电脑(pad)、带数据收发功能的电脑(如笔记本电脑、掌上电脑等)、移动互联网设备(mobile internetdevice,MID)、5G网络中的终端设备等,其可以包含至少一个热像仪以及一个或者多个摄像头。这些摄像头可以为RGB摄像头或NIR摄像头,其可以对婴幼儿5A1进行拍摄,采集到包含婴幼儿5A1的人脸图像的多帧图像或者视频流。具体的,检测终端5A2可以前述对图3说明中的检测终端。此外,图5中的(A)所示的阴影区域表示检测终端5A2上的摄像头的视场角5A3,即该摄像头能够拍摄到的景物范围。在本申实施例中,视场角5A3的取景范围中包括婴幼儿5A1的头部区域。
检测终端5A2可以通过上述热像仪对婴幼儿5A1进行拍摄,得到多帧包含婴幼儿5A1的图像;或者对上述目标对象进行拍摄,得到多帧包含上述目标对象的图像的视频流,并从该视频流中均匀采样,即从视频流中等时间间隔抽取帧存储为图像,得到多帧包含婴幼儿5A1人脸的图像。具体的,上述视频流可以为MPEG、AVI、MOV等格式;上述多帧包含婴幼儿5A1人脸的图像可以为BMP、JPEG、TIF、GIF、PCX、PBM、PGM、PPM等格式。
可以理解的,由于视场角5A3的范围中可能不只包含了婴幼儿5A1的头部,很可能还包含了一些其它的图像(婴幼儿5A1的衣服、背景图像等),这些图像的存在可能会对后续提取婴幼儿5A1的心率信号的过程造成干扰,导致心率信号无法准确的反映婴幼儿5A1的心率值;此外,这些图像的存在还可能加重设备的负担,影响设备对图像的处理效率。因此,在获取到上述多帧包含婴幼儿5A1人脸的图像之后,检测终端5A2可以通过神经网络模型确定上述多帧包含婴幼儿5A1人脸的图像中各帧图像的感兴趣区域ROI,该ROI大致为各帧图像中婴幼儿5A1的人脸图像所在的区域。
可选的,当检测终端5A2包含一个热像仪以及一个RGB摄像头或者NIR摄像头时,检测终端5A2可以采用该RGB摄像头或该NIR摄像头对婴幼儿5A1进行拍摄;此外,检测终端还同时采用上述热像仪对婴幼儿5A1进行拍摄。可以理解的,在采集到多张热力图像的同时,检测终端5A2也将获取到与这多张热力图像相对应的RGB图像或者NIR图像。检测终端5A2可以在上述RGB图像或者NIR图像中确定上述ROI,再将该ROI映射至与该RGB或NIR图像对应帧的热力图像的相同的区域上。具体可以参考前述说明,这里不再赘述。
对于不同性能的摄像设备而言,其采样率也可能不同。为了确保准确率,并且确保采用不同的设备对目标对象进行拍摄时,其获取到的用于分析计算的信号对应的时间长度是一致的,在使用不同的设备采集目标对象的图像时(例如前述热像仪和RGB摄像头),可以设定摄像设备对该目标对象的采集时长,例如,该时长可以设定为1.5s,2s等。图5中的(B)示出了经过检测终端5A2采集并确定ROI之后得到的多帧包含婴幼儿5A1人脸图像的热力图像。具体的,这多帧包含婴幼儿5A1人脸图像的热力图像可以为前述说明中的目标图像集合。为了能较为准确地提取到婴幼儿5A1的心率信号,上述多帧包含婴幼儿5A1人脸图像的热力图像的数量可以为60帧左右。
在获取到上述目标图像集合之后,上述检测终端可以基于神经网络模型对这多帧包含婴幼儿5A1人脸图像的热力图像进行预测,得到能表征婴幼儿5A1的血容量的变化趋势的心率信号,具体可参考图5中的(C)所示出的心率图。
可以看出,图5中的(C)所示出的心率图中的心率信号为时域信号。而实际上,心率信号具有明显的周期性特点,在频域内对应频谱中的尖峰。因此,在本申请实施例中,为了便于得到信号的频率域特性,进而便于找出信号中振幅较大(能量较高)信号对应的频率,确定婴幼儿5A1的心率信号的主要振动频率特点,检测终端5A2可以通过傅立叶变换先将上述目标信号从时域信号转化为频域信号,具体可参考图5中的(D)所示出的心率图。一般的,在得到经傅里叶变换之后的心率信号之后,检测终端5A2将选取0.75~4Hz通带范围内的峰值经过线性变换作为心率测量值。
具体的,上述线性变换公式可以表示为如图5中所示的“心率值(HR)=频率峰值×60”,其中,HR表示心率,即“heartrate”,频率峰值即为图5中的(D)所示出的心率图中频率为0.75~4Hz通带范围内的峰值点的横坐标所对应的频率值。例如,假设图5中的(D)所示出的心率图中频率为0.75~4Hz通带范围内的峰值的横坐标为1.25Hz,则此次测量所得的心率为1.25×60=75(次/分钟)。也就是说,婴幼儿5A1的心率大约为75(次/分钟)。
在检测终端5A2获取到婴幼儿5A1的心率值后,在检测终端5A2可以将该心率值发送给电子玩偶5F。
电子玩偶5F可以是具备通信功能的电子玩偶、手机(mobile phone)、平板电脑(pad)、带数据收发功能的电脑(如笔记本电脑、掌上电脑等)、移动互联网设备(mobileinternet device,MID)、5G网络中的终端设备等,还可以是其他具备数据收发功能的设备。本申请对的具体电子玩偶5F形态不作限定对此不做限定。具体的,电子玩偶5F还可以是前述说明中的模拟终端。
可以理解的,上述电子玩偶5F与检测终端5A2之间可以通过蓝牙、WiFi、5G网等无线网络进行通信,本申请对此不做限制。此外,检测终端需要放置于婴幼儿5A1的周围对婴幼儿5A1进行拍摄,但是电子玩偶可以不在婴幼儿5A1周围。并且,在一些情况下,电子玩偶5F可以位于与婴幼儿5A1距离较远的位置。例如,当电子玩偶5F与检测终端5A2之间可以通过5G网以及广域网进行通信时,电子玩偶5F可以由婴幼儿5A1的监护人携带,并离开婴幼儿并前往与婴幼儿5A1距离较远的地方,只要电子玩偶5F与检测终端5A2能保持正常的通信即可。
可选的,电子玩偶5F上设有马达和/或灯源,该电子玩偶5F可以控制上述马达以第一频率值根据上述心率值进行振动,该第一频率值与上述心率值相同或者相近;或者,电子玩偶5F还可以控制上述灯源以第二频率值进行闪烁,该第二频率值与上述心率值相同。也就是说,电子玩偶5F在接收到上述心率值之后,可以按照心率值进行振动,其振动的频率可以与该心率值一样,也可以与该心率值接近。例如,以上述心率值为75(次/分钟)为例,电子玩偶的振动频率可以为75(次/分钟),还可以为74(次/分钟)、76(次/分钟)等频率值。也就是说,电子玩偶的振动频率与上述心率值的差值只需要控制在预设的阈值之内即可。
可选的,电子玩偶5F上设有光源5F1。电子玩偶5F在接收到上述心率值之后,光源5F1还可以按照心率值进行闪烁;同理,其闪烁的频率可以与该心率值一样,也可以与该心率值接近。
可选的,上述检测终端5A2可以周期性的检测婴幼儿5A1的心率信号,以此来周期性地获取婴幼儿5A1的心率。例如,上述检测终端5A2可以每五分钟检测一次婴幼儿5A1的心率信号,并将该心率值发送给电子玩偶5F。电子玩偶5F在接收到该心率值之后,若该心率值与上一次接收到的心率值不同,则电子玩偶5F可以根据该心率值及时更改自己的振动频率或者闪烁频率,以便监护人员可以获取婴幼儿5A1实时的心率,确保其生命健康状态。
可以理解的,一般而言,的呼吸频率和心率是正相关的。在得到婴幼儿5A1的心率值之后,可以近似计算出婴幼儿5A1的呼吸频率。例如,在正常的情况下,呼吸和心率的关系大概为1:4,也就是呼吸一次,会出现4次的心脏跳动。因此,在正常的情况下,当上述心率值为72次每分钟,呼吸的正常范围应该是在18次每分钟左右。
因此,在一个可选的实施方式中,电子玩偶5F上可以设有气囊和用于上述气囊和外界环境进行气体交换的气孔,电子玩偶5F可以根据上述心率值确定婴幼儿5A1的呼吸频率值;并根据上述呼吸频率控制所述气囊以第三频率进行收缩,将该气囊中的气体通过气孔与外界的气体进行交换,上述第三频率值与上述呼吸频率值可以相同或相近。这样,令电子玩偶5F模拟婴幼儿5A1的呼吸过程,一方面是另一种体现心率的形式,另一方面也更加满足了监护者的情感需求。
此外,需理解,婴幼儿的心率在睡眠时候可以比平时清醒活动时减慢10-15次/分钟。由于上述心率值是检测终端5A2通过对婴幼儿5A1的脸部图像进行分析得出的,则检测终端5A2可以同时基于婴幼儿5A1的脸部图像确定出婴幼儿5A1是处于睡眠状态还是清醒状态,得到用于指示婴幼儿5A1是否处于睡眠状态的指示信息。因此,在一个可能的实施方式中,上述电子玩偶上可以接收检测终端5A2发送的心率值和指示信息。在所述指示信息指示婴幼儿5A1处于睡眠状态的情况下,电子玩偶5F可以控制上述马达以第四频率值和第一幅度值进行振动,上述第四频率值与上述心率值相同或相近;在上述指示信息指示婴幼儿5A1未处于睡眠状态的情况下,电子玩偶5F可以控制上述马达以上述第四频率值和第二幅度值进行振动,上述第四频率值与上述心率值相同或相近,上述第二幅度值可以大于上述第一幅度值。这样,可以让监护人更清楚的得知是婴幼儿的生命状态,进一步满足了监护者的情感需求。
在第一方面一个可能的实施方式中,电子玩偶5F在接收到上述心率值之后,可以判断该心率值是否处于健康状态下的婴幼儿的心率范围;在所述心率值未处于该心率范围的情况下,电子玩偶5F可以输出警报信息,以此来提高婴幼儿5A1的生命安全保障。
为了对前述检测终端以及前述模拟终端之间的通信方式进一步说明,本申请实施例提供了一些心跳模拟系统的架构示意图,请参考图6至图9。
在图6至图9中,检测终端601,检测终端701、检测终端801、检测终端901均可以是是具备通信功能和摄像功能的手机(mobile phone)、平板电脑(pad)、带数据收发功能的电脑(如笔记本电脑、掌上电脑等)、移动互联网设备(mobile internet device,MID)、5G网络中的终端设备等,其可以包含至少一个热像仪以及一个或者多个摄像头。具体的,其还可以是前述说明中的检测终端或者检测终端5A2;此外,在图6至图9中,电子玩偶603、电子玩偶704、电子玩偶804、电子玩偶903均可以是具备通信功能的电子玩偶、手机(mobile phone)、平板电脑(pad)、带数据收发功能的电脑(如笔记本电脑、掌上电脑等)、移动互联网设备(mobile internet device,MID)、5G网络中的终端设备等,还可以是其他具备数据收发功能的设备。具体的,其还可以是前述说明中的模拟终端或电子玩偶5F。路由器602、路由器702、路由器802以及路由器902可以是家庭路由器,其可以用于建立家庭局域网。
如图6所示,检测终端601与电子玩偶603均通过WiFi与路由器602通信连接。检测终端601通过家庭局域网将其检测到的心率数据传递给电子玩偶603。
如图7所示,电子玩偶704为支持蓝牙通信的终端;蓝牙网关703为集成了蓝牙、WiFi等无线通信方式的蓝牙网关。当蓝牙设备(例如电子玩偶704)进入蓝牙网关703的范围,就可以与蓝牙网关703的蓝牙部分进行连接,并传输当前数据。在图7中,蓝牙网关703和检测终端701均路由器702通信连接。然后,检测终端701在检测到心率数据之后,可以通过家庭局域网将该心率数据发送至蓝牙网关703,蓝牙网关703中的WiFi模块通过串口连接并接收到该心率数据后,蓝牙网关即可将该心率数据通过蓝牙传输给电子玩偶704。
如图8所示,移动终端803可以是具备通信功能以及热点共享功能的手机(mobilephone)、平板电脑(pad)、带数据收发功能的电脑(如笔记本电脑、掌上电脑等)、移动互联网设备(mobile internet device,MID)、5G网络中的终端设备等,还可以是其他具备数据收发功能的设备。电子玩偶804可以通过WiFi连接到移动终端803开设的WiFi热点,而检测终端801设备可以通过WiFi连接路由器802。检测终端801在检测到心率数据之后,检测终端801可以依次通过家庭局域网、广域网、移动网络和移动终端803开设的WiFi热点,将该心率数据传递给电子玩偶804。可选的,电子玩偶804也可以通过蓝牙连接到移动终端803;此时,检测终端801可以通过家庭局域网、广域网、移动网络和蓝牙将该上述心率数据传递给电子玩偶804。
采用图6、图7或图8所示的通信系统进行数据传输,可以降低电子玩偶的功耗。
如图9所示,检测终端901通过WiFi与路由器902通信连接。而电子玩偶903支持4G/5G中的物联网移动通信技术。例如,电子玩偶903可以通过如NB-IoT、eMTC等通信技术进行数据的接收和发送。在这种情况下,在检测终端901在检测到心率数据之后,检测终端901可以依次通过家庭局域网、广域网、移动物联网将数据传递给电子玩偶903。在这种情况下,在上述心率数据的传输过程中,心率数据可以被打包为.json的格式,并通过MQTT的消息协议实时自动且连续的推送到相关联的电子玩偶903上。
采用图9所示的通信系统进行数据传输,电子玩偶903可以脱离家庭局域网和其他移动终端,并可以实现独立联网,更便于心率数据的收发。
应理解,本申请只是示例性的给出了一些前述检测终端以及前述模拟终端之间的通信方式。在一些实施例中,前述检测终端以及前述模拟终端之间的通信方式还可以采用例如LoRa、Zigbee等连接技术,或者其他形式的通信方式,本申请实施例对此不作限制。
下面介绍本申请实施例提供的一种模拟心跳的装置的结构示意图,请参阅图10。图10中的模拟心跳的装置可以执行图2中模拟心跳的方法的流程,如图10所示,该装置可以包括:
接收单元1001,用于接收检测终端发送的心率值;模拟单元1002,用于根据上述心率值进行目标动作,该目标动作的频率与上述心率值相对应。
在一个可选的实施方式中,上述心率值基于目标信号得到,上述目标信号为基于目标图像集合获取的表征目标对象的血容量的变化趋势的信号;上述目标图像集合包含至少两帧目标图像,所述至少两帧目标图像为包含上述目标对象的人脸的图像,上述心率值为所述目标对象的心率值。
在一个可选的实施方式中,上述目标图像集合基于第一图像集合中的至少两帧热力图像的目标区域得到,上述第一图像集合中的图像均为表征上述目标对象向外辐射的热量的强度的热力图像,上述目标区域包含上述目标对象的人脸图像。
在一个可选的实施方式中,上述装置为电子玩偶,上述电子玩偶上设有马达和/或灯源,上述模拟单元1002,具体用于:控制上述马达以第一频率值根据上述心率值进行振动,上述第一频率值与上述心率值相同;和/或,控制上述灯源以第二频率值进行闪烁,上述第二频率值与上述心率值相同。
在一个可选的实施方式中,上述电子玩偶上设有气囊和用于上述气囊和外界环境进行气体交换的气孔,上述模拟单元1002还用于:根据上述心率值确定上述目标对象的呼吸频率值;根据上述呼吸频率控制上述气囊以第三频率进行收缩,将上述气囊中的气体通过上述气孔与外界的气体进行交换,上述第三频率值与上述呼吸频率值相同。
在一个可选的实施方式中,上述装置为电子玩偶,上述电子玩偶上设有马达,上述接收单元1001,具体用于:接收上述检测终端发送的心率值和指示信息,上述指示信息用于指示上述目标对象是否处于睡眠状态;上述模拟单元1002,具体用于:在上述指示信息指示上述目标对象处于睡眠状态的情况下,控制上述马达以第四频率值和第一幅度值进行振动,上述第四频率值与上述心率值相同;在上述指示信息指示上述目标对象未处于睡眠状态的情况下,控制上述马达以上述第四频率值和第二幅度值进行振动,上述第四频率值与上述心率值相同,上述第二幅度值大于上述第一幅度值。
在一个可选的实施方式中,上述装置还包括:预警单元1003,用于判断上述心率值是否处于参考区间,上述参考区间表征处于健康状态下的婴幼儿的心率范围;在上述心率值未处于上述参考区间的情况下,输出警报信息。
下面介绍本申请实施例提供的一种检测心率的装置的结构示意图,请参阅图11。图11中的检测心率的装置可以执行图3中检测心率的方法的流程,如图11所示,该装置可以包括:
获取单元1101,用于根据目标图像集合获取目标信号;上述目标图像集合包含至少两帧目标图像,上述至少两帧目标图像为包含目标对象的人脸的图像,上述目标信号表征上述目标对象的血容量的变化趋势;计算单元1102,用于基于上述目标信号,得到上述目标对象的心率值。
在一个可选的实施方式中,该装置还包括:拍摄单元1103,用于对上述目标对象进行拍摄,得到第一图像集合,上述第一图像集合中的图像均为表征上述目标对象向外辐射的热量的强度的热力图像;确定上述第一图像集合中至少两帧热力图像的目标区域,得到目标图像集合,上述目标区域包含上述目标对象的人脸图像。
在一个可选的实施方式中,上述计算单元1102,具体用于将上述目标信号从时域信号转化为频域信号;确定上述频域信号在目标频域区间中的峰值;将上述峰值进行线性变换,得到上述心率值。
在一个可选的实施方式中,上述拍摄单元1103,具体用于对目标对象进行拍摄,得到第二图像集合,上述第二图像集合中的图像均为RGB图像或NIR图像;确定上述第二图像集合中至少两帧RGB图像或至少两帧NIR图像的第一区域,上述至少两帧RGB图像或至少两帧NIR图像的拍摄时刻与上述至少两帧热力图像的拍摄时刻相同,上述第一区域包含上述目标对象的人脸图像;将上述第一区域映射至上述至少两帧热力图像中,得到上述至少两帧热力图像的上述目标区域,得到上述目标图像集合。
应理解,以上模拟心跳的装置以及检测心率的装置的各个单元的划分仅仅是一种逻辑功能的划分,实际实现时可以全部或部分集成到一个物理实体上,也可以物理上分开。例如,以上各个单元可以为单独设立的处理元件,也可以集成同一个芯片中实现,此外,也可以以程序代码的形式存储于控制器的存储元件中,由处理器的某一个处理元件调用并执行以上各个单元的功能。此外各个单元可以集成在一起,也可以独立实现。这里的处理元件可以是一种集成电路芯片,具有信号的处理能力。在实现过程中,所述方法的各步骤或以上各个单元可以通过处理器元件中的硬件的集成逻辑电路或者软件形式的指令完成。所述处理元件可以是通用处理器,例如CPU,还可以是被配置成实施以上方法的一个或多个集成电路,例如:一个或多个特定集成电路(application-specific integrated circuit,ASIC),或,一个或多个微处理器(digital signal processor,DSP),或,一个或者多个现场可编程门阵列(field-programmable gate array,FPGA)等。
图12为本申请实施例提供的一种电子设备的结构示意图。如图12所示,该电子设备120包括处理器1201、存储器1202以及通信接口1203;该处理器1201、存储器1202以及通信接口1203通过总线相互连接。该电子设备可以是前述说明中模拟心跳的装置。
存储器1202包括但不限于是随机存储记忆体(random access memory,RAM)、只读存储器(read-only memory,ROM)、可擦除可编程只读存储器(erasable programmablereadonly memory,EPROM)、或便携式只读存储器(compact disc read-only memory,CDROM),该存储器1202用于相关指令及数据。通信接口1203用于接收和发送数据,其可以实现图10中接收单元1001的功能。
处理器1201可以是一个或多个中央处理器(central processing unit,CPU),在处理器1201是一个CPU的情况下,该CPU可以是单核CPU,也可以是多核CPU。上述实施例中由模拟心跳的装置所执行的步骤可以基于该图12所示的电子设备的结构。具体的,处理器1201可实现图10中模拟单元1002的功能。
该电子设备120中的处理器1201用于读取该存储器1202中存储的程序代码,执行前述实施例中的模拟心跳的方法。
图13为本申请实施例提供的一种电子设备的结构示意图。如图13所示,电子设备130包括处理器1301、存储器1302、摄像头1303和通信接口1304;上述处理器1301、存储器1302、摄像头1303和通信接口1304通过总线1305相互连接。
存储器1302包括但不限于是随机存储记忆体(random access memory,RAM)、只读存储器(read-only memory,ROM)、可擦除可编程只读存储器(erasable programablereadonly memory,EPROM)、或便携式只读存储器(compact disc read-only memory,CDROM),上述存储器1302用于相关指令及数据。上述摄像头1303用于对场景进行拍摄,并将拍摄所得的视频流由总线1305传输至处理器1301,具体的,上述摄像头可以实现图11中拍摄单元1103的功能。通信接口1304用于接收和发送数据,例如向检测终端发送心率数据等。
处理器1301可以是一个或多个中央处理器(central processing unit,CPU),在处理器1301是一个CPU的情况下,上述CPU可以是单核CPU也可以是多核CPU。上述实施例中由监测心率的装置所执行的步骤可以基于上述图13所示的电子设备的结构。具体的,处理器1301可实现图11中的获取单元1101以及计算单元1102的功能。
该电子设备130中的处理器1301用于读取该存储器1302中存储的程序代码,执行前述实施例中的检测心率的方法。
在本申请的实施例中提供另一种计算机可读存储介质,该述计算机可读存储介质存储有计算机程序,该计算机程序被处理器执行时实现:接收检测终端发送的心率值;根据该心率值进行目标动作,该目标动作的频率与所述心率值相对应。
本申请实施例还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行前述实施例所提供的模拟心跳的方法。
本领域内的技术人员应明白,本发明的实施例可提供为方法、装置、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。
Claims (15)
1.一种模拟心跳的方法,其特征在于,包括:
接收检测终端发送的心率值;
根据所述心率值进行目标动作,所述目标动作的频率与所述心率值相对应。
2.根据权利要求1所述的方法,其特征在于,所述心率值基于目标信号得到,所述目标信号为基于目标图像集合获取的表征目标对象的血容量的变化趋势的信号;所述目标图像集合包含至少两帧目标图像,所述至少两帧目标图像为包含所述目标对象的人脸的图像,所述心率值为所述目标对象的心率值。
3.根据权利要求1或2所述的方法,其特征在于,所述目标图像集合基于第一图像集合中的至少两帧热力图像的目标区域得到,所述第一图像集合中的图像均为表征所述目标对象向外辐射的热量的强度的热力图像,所述目标区域包含所述目标对象的人脸图像。
4.根据权利要求1-3任一项所述的方法,其特征在于,所述方法应用于电子玩偶,所述电子玩偶上设有马达和/或灯源,所述根据所述心率值进行目标动作,包括:
控制所述马达以第一频率值进行振动,所述第一频率值与所述心率值相同;
和/或,控制所述灯源以第二频率值进行闪烁,所述第二频率值与所述心率值相同。
5.根据权利要求4所述的方法,其特征在于,所述电子玩偶上设有气囊和用于所述气囊和外界环境进行气体交换的气孔,所述方法还包括:
根据所述心率值确定所述目标对象的呼吸频率值;
根据所述呼吸频率控制所述气囊以第三频率进行收缩,将所述气囊中的气体通过所述气孔与外界的气体进行交换,所述第三频率值与所述呼吸频率值相同。
6.根据权利要求1-3任一项所述的方法,其特征在于,所述方法应用于电子玩偶,所述电子玩偶上设有马达,
所述接收检测终端发送的心率值,包括:
接收所述检测终端发送的心率值和指示信息,所述指示信息用于指示所述目标对象是否处于睡眠状态;
所述根据所述心率值进行目标动作,包括:
在所述指示信息指示所述目标对象处于睡眠状态的情况下,控制所述马达以第四频率值和第一幅度值进行振动,所述第四频率值与所述心率值相同;
在所述指示信息指示所述目标对象未处于睡眠状态的情况下,控制所述马达以所述第四频率值和第二幅度值进行振动,所述第四频率值与所述心率值相同,所述第二幅度值大于所述第一幅度值。
7.根据权利要求1-6任一项所述的方法,其特征在于,所述方法还包括:
判断所述心率值是否处于参考区间,所述参考区间表征处于健康状态下的婴幼儿的心率范围;
在所述心率值未处于所述参考区间的情况下,输出警报信息。
8.一种检测心率的方法,其特征在于,包括:
根据目标图像集合获取目标信号;所述目标图像集合包含至少两帧目标图像,所述至少两帧目标图像为包含目标对象的人脸的图像,所述目标信号表征所述目标对象的血容量的变化趋势;
基于所述目标信号,得到所述目标对象的心率值。
9.根据权利要求8所述的方法,其特征在于,在所述根据目标图像集合获取目标信号之前,所述方法还包括:
对所述目标对象进行拍摄,得到第一图像集合,所述第一图像集合中的图像均为表征所述目标对象向外辐射的热量的强度的热力图像;
确定所述第一图像集合中至少两帧热力图像的目标区域,得到目标图像集合,所述目标区域包含所述目标对象的人脸图像。
10.根据权利要求8或9所述的方法,其特征在于,所述基于所述目标信号,得到所述目标对象的心率值,包括:
将所述目标信号从时域信号转化为频域信号;
确定所述频域信号在目标频域区间中的峰值;
将所述峰值进行线性变换,得到所述心率值。
11.根据权利要求9或10所述的方法,其特征在于,所述确定所述第一图像集合中至少两帧热力图像的目标区域,得到目标图像集合,包括:
对目标对象进行拍摄,得到第二图像集合,所述第二图像集合中的图像均为RGB图像或NIR图像;
确定所述第二图像集合中至少两帧RGB图像或至少两帧NIR图像的第一区域,所述至少两帧RGB图像或至少两帧NIR图像的拍摄时刻与所述至少两帧热力图像的拍摄时刻相同,所述第一区域包含所述目标对象的人脸图像;
将所述第一区域映射至所述至少两帧热力图像中,得到所述至少两帧热力图像的所述目标区域,得到所述目标图像集合。
12.一种模拟心跳的装置,其特征在于,包括:
接收单元,用于接收检测终端发送的心率值;
模拟单元,根据所述心率值进行目标动作,所述目标动作的频率为第一频率,所述第一频率与所述目标对象的心率相对应。
13.一种检测心率的装置,其特征在于,包括:
获取单元,用于根据目标图像集合获取目标信号;所述目标图像集合包含至少两帧目标图像,所述至少两帧目标图像为包含目标对象的人脸的图像,所述目标信号表征所述目标对象的血容量的变化趋势;
计算单元,用于基于所述目标信号,得到所述目标对象的心率值。
14.一种电子设备,其特征在于,包括处理器,所述处理器通过读取存储器中存储的代码,以执行如权利要求1至7任一项所述的方法或8至11任一项所述的方法。
15.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时,使所述处理器执行权利要求1至7任一项所述的方法或8至11任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210320768.1A CN114587320A (zh) | 2022-03-29 | 2022-03-29 | 模拟心跳的方法和相关产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210320768.1A CN114587320A (zh) | 2022-03-29 | 2022-03-29 | 模拟心跳的方法和相关产品 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114587320A true CN114587320A (zh) | 2022-06-07 |
Family
ID=81809874
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210320768.1A Withdrawn CN114587320A (zh) | 2022-03-29 | 2022-03-29 | 模拟心跳的方法和相关产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114587320A (zh) |
-
2022
- 2022-03-29 CN CN202210320768.1A patent/CN114587320A/zh not_active Withdrawn
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Villarroel et al. | Non-contact physiological monitoring of preterm infants in the neonatal intensive care unit | |
McDuff et al. | A survey of remote optical photoplethysmographic imaging methods | |
Mestha et al. | Towards continuous monitoring of pulse rate in neonatal intensive care unit with a webcam | |
CN105792734B (zh) | 用于获得远程光体积描记波形的改进的信号选择 | |
Rahman et al. | Dopplesleep: A contactless unobtrusive sleep sensing system using short-range doppler radar | |
Jorge et al. | Non-contact monitoring of respiration in the neonatal intensive care unit | |
US10004410B2 (en) | System and methods for measuring physiological parameters | |
US10143377B2 (en) | Single channel imaging measurement of dynamic changes in heart or respiration rate | |
CA2654095C (en) | Apparatus, system, and method for monitoring physiological signs | |
US10110859B2 (en) | System, method and device for monitoring light and sound impact on a person | |
JP2013248387A (ja) | 呼吸速度推定のためのビデオプロセッシング | |
US20210212576A1 (en) | Monitoring of Physiological Parameters | |
CN105979861A (zh) | 用于基于反射和透射的光来确定对象的生命体征的设备、系统和方法 | |
CN106999116A (zh) | 用于皮肤检测的设备和方法 | |
WO2015185706A1 (en) | Device, system and method for detecting apnoea of a subject | |
US11083382B2 (en) | Method, information processing apparatus and server for determining a physiological parameter of an individual | |
Sinhal et al. | Estimating vital signs through non-contact video-based approaches: A survey | |
CN112263249A (zh) | 一种基于ecg强化血氧饱和度监测的方法和装置 | |
Lorato et al. | Camera-based on-line short cessation of breathing detection | |
Wang et al. | Camera-based respiration monitoring: Motion and PPG-based measurement | |
CN114587320A (zh) | 模拟心跳的方法和相关产品 | |
CN114947767A (zh) | 呼吸率的处理方法、装置及计算机可读存储介质 | |
Nahiyan et al. | Contactless monitoring for healthcare applications | |
Yue et al. | A new approach for noncontact imaging photoplethysmography using chrominance features and low-rank in the IoT operating room | |
Sun et al. | Comparison of scientific CMOS camera and webcam for monitoring cardiac pulse after exercise |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20220607 |
|
WW01 | Invention patent application withdrawn after publication |