CN111862091A - 一种基于表型测量早期发现综合征的系统 - Google Patents

一种基于表型测量早期发现综合征的系统 Download PDF

Info

Publication number
CN111862091A
CN111862091A CN202010779409.3A CN202010779409A CN111862091A CN 111862091 A CN111862091 A CN 111862091A CN 202010779409 A CN202010779409 A CN 202010779409A CN 111862091 A CN111862091 A CN 111862091A
Authority
CN
China
Prior art keywords
syndrome
module
phenotype
unit
point cloud
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010779409.3A
Other languages
English (en)
Inventor
詹国栋
李明
邹小兵
潘悦然
蔡昆京
程铭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Duke Kunshan University
Third Affiliated Hospital Sun Yat Sen University
Original Assignee
Duke Kunshan University
Third Affiliated Hospital Sun Yat Sen University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Duke Kunshan University, Third Affiliated Hospital Sun Yat Sen University filed Critical Duke Kunshan University
Priority to CN202010779409.3A priority Critical patent/CN111862091A/zh
Publication of CN111862091A publication Critical patent/CN111862091A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biomedical Technology (AREA)
  • Geometry (AREA)
  • Public Health (AREA)
  • Data Mining & Analysis (AREA)
  • Pathology (AREA)
  • Databases & Information Systems (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本发明提出了一种基于表型测量早期发现综合征的系统,包括:数据采集模块,用于多角度瞬间采集被测试者人体头部的RGBD图像数据;数据拼接模块,用于拼接多角度RGBD图像数据;3D建模模块,用于还原并重建成3D头部曲面模型;标志识别模块,用于识别3D头部曲面模型中人体的标志性特征点;表型计算模块,用于根据计算和/或训练人体表型;综合症模型训练模块,用于训练患有不同综合症的模型;综合症预测模块,用于计算被测量者患有各综合征的概率以及其中可能性最大的综合症;测量报告模块,用于生成测量报告。本发明能精确测量并计算人体3D数据的特征点、曲面距离及其他具有医学意义的数据,并根据所测量的数据预测出被测试者最可能患有的疾病。

Description

一种基于表型测量早期发现综合征的系统
技术领域
本发明涉及3D扫描技术领域和图像处理领域,特别涉及一种基于表型测量早期发现综合征的系统。
背景技术
大多数疾病在发病初期,医生会通过对病人的表型症状综合判断,推测病人所患疾病。然而,目前的纯人工诊断中存在几个问题:1.病人的体征在被人工测量时,容易因为出现较大误差,皮尺、激光等测量方法对病人的配合度要求过高,闪光灯对病人有刺激影响情绪,并不友好;2.病人的表型异常程度判断,不同医生难以使用统一尺度,难以规范化;3.对于异常症状综合判断时,医生难以直接根据异常程度判断可能患有对综合症;4.对于具有相似症状的综合征,医生难以进行区分并选择出最准确的综合征。
因此急需一种能够集采集数据、分析表型、判断疾病于一体的表型测量系统,能够在无闪光刺激的条件下瞬间采集病人头部360度的RGBD数据,并能够根据所采集的数据计算医学上有关的人体表型,最终能根据所计算的人体表型进行疾病科学判定,预测出可能患有的疾病;并根据表型数据,计算出患病相似症状中,最有可能的疾病。这样一种一体化智能测量、筛查系统,提供具有医学意义的数据,将更有利于医学研究及其他行业的工作。
发明内容
针对现有技术的不足,本发明提出一种基于表型测量早期发现综合征的系统,能在无刺激的情况下,瞬间扫描环绕人体全角度的3D数据,精确测量并计算人体3D数据的特征点、直线和曲面距离及其他具有医学意义的数据,并根据所测量的数据预测出被测试者最可能患有的疾病。
本发明的技术方案是这样实现的:
一种基于表型测量早期发现综合征的系统,包括:
数据采集模块,用于多角度瞬间采集被测试者人体头部的RGBD图像数据;其中,所述RGBD图像数据包括颜色信息和(x,y,z)坐标信息;
数据拼接模块,用于拼接由数据采集模块所采集的多角度RGBD图像数据;
3D建模模块,用于根据拼接好的RGBD图像数据还原并重建成3D头部曲面模型;
标志识别模块,用于识别3D头部曲面模型中人体的标志性特征点,所述标志性特征点包括但不限于与眉毛、眼睛、鼻子、嘴巴和脸轮廓相关的特征点;
表型计算模块,用于根据所识别的特征点以及相关器官和部位的RGBD图像数据,计算和/或训练人体表型;
综合症模型训练模块,用于基于人体表型的相关数据训练患有不同综合症的模型;
综合症预测模块,用于计算被测量者患有各综合征的概率以及其中可能性最大的综合症,并写入测量报告模块中;
测量报告模块,用于生成测量报告,展示计算所得的表型性状和综合症预测报告。
进一步的,所述表型计算模块包括几何计算单元和类型计算单元,其中
几何计算单元,用于根据所识别的特征点以及相关器官和部位的RGBD图像数据,根据几何空间坐标计算人体表型中的距离、角度、面积;
类型计算单元,用于根据所识别的特征点,选取预设指定区域的表型,将被选择区域的RGBD图像数据输入机器学习模型,进行表型类型的训练和预测。
进一步的,表型计算模块中,所述人体表型包括但不限于内眼角眼距表型和鱼泡眼表型,其中
内眼角眼距表型的计算,具体通过识别左右内眼角标志点及分别对应的空间坐标(x1,y1,z1)和(x2,y2,z2),根据距离计算公式可得所需计算的内眼角眼距为
Figure BDA0002619644090000031
鱼泡眼表型的计算,具体根据眼部器官的定义,确定左眼或右眼的标志点,并根据所确定的标志点的空间坐标确定左眼或右眼区域的RGB图像数据;最后根据所确定的左眼或右眼区域的RGB图像数据输入深度神经网络模型,确定被测量者的鱼泡眼表型类型。
进一步的,所述数据采集模块包括至少3个可用于无闪光灯瞬间拍摄的深度相机,所述深度相机环绕在被试者人体头部四周,以完整采集头部的RGBD图像数据。
进一步的,所述数据拼接模块通过迭代最近点算法进行拼接,包括对应点搜索单元、变换求解单元和拼接单元,其中
对应点搜索单元,用于将任意两个相邻深度摄像头设备所采集的关于被测量者人体头部不同角度的点云数据分别标记点云P={p1,p2,...pn}和Q={q1,q2,...qn};然后通过对应点进行搜索,计算筛选和调整点云P、Q储存的顺序,对于点云P中的一点pi,在Q中寻找距离距离最近的一点qi,使得P和Q中的点一一对应,即∨pi-qi∨=min,其中i=1,2,...,n;
变换求解单元,用于根据对应点,通过目标函数确定变换关系(R,t),其中目标函数为
Figure BDA0002619644090000041
拼接单元,用于在确定变换关系(R,t)后,根据公式RP+t=P′,可得到点云P经过变换后在点云Q坐标系下的点云P’,点云Q和点云P’结合起来就是拼接的点云;最后根据各深度摄像头设备所采集到的图像进行拼接的点云完成拼接。
进一步的,所述3D建模模块包括预处理单元、曲面重建单元和3D头部模型生成单元,其中
预处理单元,用于使用平滑滤波、下采样的方法对点云进行预处理,得到分布均匀的空间点云;
曲面重建单元,用于对所述空间点云进行网格化重建曲面;
3D头部模型生成单元,用于对重建的人体头部3D模型的曲面进行平滑处理,并根据点云对应的RGDB图像数据对3D头部模型进行着色。
进一步的,所述曲面重建单元中,具体通过投影映射法将拼接后的三维点云投影到二维平面上,并对投影后的二维点进行三角剖分,然后将二维剖分关系传递给三维点云的三角剖分,并基于点云三角网格重建人体头部3D模型的曲面。
进一步的,所述综合症模型训练模块中,所述模型的输入包括各表型的直线距离特征、曲面距离特征和曲面面积特征。
进一步的,所述综合症预测模块包括综合征独立预测单元和最大可能综合征预测单元,其中
综合征独立预测单元,用于根据表型计算模块中所述人体表型和综合症模型训练模块中所训练的各模型计算被测量者患有各综合征的概率;
最大可能综合症预测单元,用于预测被测量者其中可能性最大的综合症。
进一步的,综合征独立预测单元中,其中设综合征集合为{b1,b2,……,bk},被测量者的t个表型数据集合为A={s1,s2,……,st},针对所分析的k种综合症,设Bi表示被测量者患有综合症bi的事件,Bi∨A表示被测量者呈现某些表型特征恰好患有综合症bi的事件;P(B|i∨A)表示A是由于bi引起的概率;则当表型特征表现为A时,被测量者患有各综合症的概率的计算公式为:
Figure BDA0002619644090000051
其中i=1,2,......,k;
最大可能综合症预测单元,具体根据综合征独立预测单元中被测量者可能患各综合征的概率值,确定被测量者可能患有的综合征。
与现有技术相比,本发明具有以下优点:
1.本发明能在无闪光刺激的条件下,瞬间采集被测量者的头部数据,对被测量人刺激小,配合度要求低,容易测量;
2.本发明使用多角度深度相机瞬间拍摄所得RGBD图像数据进行计算复原人体头部得到复原模型数据,比人工使用皮尺等传统方法进行测量的数据更精确;
3.本发明使用计算机对人体表型相关特征点进行选择,计算尺度统一,比人工测量表型更精确更规范;
4.本发明根据人体表型对不同综合症进行判断,所分析的数据可解释性强;
5.本发明可使用一次测量结果分析多种综合症,方便快捷;
6、本发明还能够科学性地计算出被测量者最大可能患有的疾病,提高诊断准确率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施方式一种基于表型测量早期发现综合征的系统的结构框图;
图2为本发明实施方式中数据采集模块使用的采集装置部署示意图;
图3为本发明实施方式进行人脸特征标志点的标志示意图;
图4为本发明实施方式中对鱼泡眼表型的分类计算过程示意图;
图5为本发明实施方式中的测量报告例图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1及图2所示,本发明实施方式公开了一种基于表型测量早期发现综合征的系统,包括:
数据采集模块,用于多角度瞬间采集被测试者人体头部的RGBD图像数据;其中,所述RGBD图像数据包括颜色信息和(x,y,z)坐标信息;
数据拼接模块,用于拼接由数据采集模块所采集的多角度RGBD图像数据;
3D建模模块,用于根据拼接好的RGBD图像数据还原并重建成3D头部曲面模型;
标志识别模块,用于识别3D头部曲面模型中人体的标志性特征点,所述标志性特征点包括但不限于与眉毛、眼睛、鼻子、嘴巴和脸轮廓相关的特征点;
表型计算模块,用于根据所识别的特征点以及相关器官和部位的RGBD图像数据,计算和/或训练人体表型;
综合症模型训练模块,用于基于人体表型的相关数据训练患有不同综合症的模型;
综合症预测模块,用于计算被测量者患有各综合征的概率以及其中可能性最大的综合症,并写入测量报告模块中;
测量报告模块,用于生成测量报告,展示计算所得的表型性状和综合症预测报告。其中,所生成的测量报告图可如图5所示。
进一步的,数据采集模块包括至少3个可用于无闪光灯瞬间拍摄的深度相机,所述深度相机环绕在被试者人体头部四周,以完整采集头部的RGBD图像数据。如图2所示的实施方式中,被测量者位于中心,而4个深度相机环绕在人被测量者的四周,并且深度相机的摄像头朝向被测量者,使相机能够完整采集被测量者头部360度的RGBD图像,便于数据拼接模块的拼接。
进一步的,数据拼接模块通过迭代最近点算法进行拼接,包括对应点搜索单元、变换求解单元和拼接单元,其中
对应点搜索单元,用于将任意两个相邻深度摄像头设备所采集的关于被测量者人体头部不同角度的点云数据分别标记点云P={p1,p2,...pn}和Q={q1,q2,...qn};然后通过对应点进行搜索,计算筛选和调整点云P、Q储存的顺序,对于点云P中的一点pi,在Q中寻找距离距离最近的一点qi,使得P和Q中的点一一对应,即∨pi-qi∨=min,其中i=1,2,...,n;
变换求解单元,用于根据对应点,通过目标函数确定变换关系(R,t),其中目标函数为
Figure BDA0002619644090000071
拼接单元,用于在确定变换关系(R,t)后,根据公式RP+t=P′,可得到点云P经过变换后在点云Q坐标系下的点云P’,点云Q和点云P’结合起来就是拼接的点云;最后根据各深度摄像头设备所采集到的图像进行拼接的点云完成拼接。
具体的,对应搜索单元中,首先将其中两个相邻的深度摄像头设备所采集的RGBD图像数据分别标记成点云P={p1,p2,...pn}和Q={q1,q2,...qn},然后计算筛选和调整点云储存的顺序,对P中一点pi,在Q中寻找距离pi距离最近的一点qi,使得P和Q中的点一一对应,即
∨pi-qi∨=min,其中i=1,2,...,n;
然后,通过变换求解单元进行变换关系的求解。其中,变换关系(R,t)由旋转R和平移t两部分组成,根据目标函数
Figure BDA0002619644090000081
通过SVD奇异值分解法或非线性优化等方法对目标函数进行求解,可求解出R和t。
在确定变换关系(R,t)后,根据公式RP+t=P′,可以得到所有深度摄像头设备在同一坐标系下拼接后的点云,然后根据拼接后的点云完成RDGB图像数据的拼接。
进一步的,3D建模模块包括预处理单元、曲面重建单元和3D头部模型生成单元,其中
预处理单元,用于通过平滑滤波、下采样的方法对点云进行预处理,得到分布均匀的空间点云;
曲面重建单元,用于对所述空间点云进行网格化重建曲面;
具体的,曲面重建单元中,具体通过投影映射法将拼接后的三维点云投影到二维平面上,并对投影后的二维点进行三角剖分,然后将二维剖分关系传递给三维点云的三角剖分,并基于点云三角网格重建人体头部3D模型的曲面。其中,曲面重建单元并不限制于此方法重建人体头部3D模型的曲面。
3D头部模型生成单元,用于对重建的人体头部3D模型的曲面进行平滑处理,并根据点云对应的RGB图像数据对3D头部模型进行着色。
本发明实施方式中通过3D建模模块的预处理单元、曲面重建单元和3D头部模型生成单元最终重建被测量者的3D头部模型。
具体的,重建被测量者的3D头部模型后,标志识别模块使用深度学习模型,通过3Dlandmark方法,识别测量者的3D头部模型中人体的标志性特征点,其中标志性特征点包括但不限于与眉毛、眼睛、鼻子、嘴巴和脸轮廓相关的特征点。
具体的,如图3所示,包括与眉毛相关的10个特征点,与眼睛相关的12个特征点,与鼻子相关的9个特征点,和嘴巴相关的20个特征点和与脸轮廓相关的17个特征点。即标志识别模块根据3D建模模块所重建的被测量者的3D头部模型,识别如图3所述的68个人脸特征点,其中:
18-22为左眉毛的特征点,23-27为右眉毛的特征点;
37-42为左眼的特征点,43-48为右眼的特征点;
28-36为鼻子的特征点;
49-68为嘴巴的特征点;
1-17为脸轮廓的特征点。
进一步的,表型计算模块包括几何计算单元和类型计算单元,其中
几何计算单元,用于根据所识别的特征点以及相关器官和部位的RGBD图像数据,根据几何空间坐标计算人体表型中的距离、角度、面积;
类型计算单元,用于根据所识别的特征点,选取预设指定区域的表型,将被选择区域的RGBD图像数据输入机器学习模型,进行表型类型的训练和预测。
其中,表型计算模块中所计算的人体表型包括但不限于内眼角眼距表型和鱼泡眼表型。本发明实施方式以内眼角眼距的几何计算和右眼鱼泡眼的表型类型计算为例,进行说明:
(1)内眼角眼距表型的几何计算
如图3所示,根据标志识别模块可知特征点40和特征点41为被测量者的左右内眼角标志点,根据RGBD图像数据可确定特征点40和特征点41分别对应的空间坐标为(x1,y1,z1)和(x2,y2,z2),因此根据距离计算公式可得所需计算的内眼角眼距为
Figure BDA0002619644090000101
(2)右鱼泡眼表型的计算
对于右鱼泡眼表型的计算,如图4所示,可分为两个部分:区域选择和表型计算。
I、首先,在基于标志识别模块所得的RGBD图像数据中,根据表型相关器官的定义,进行区域选择。本发明实施方式中,计算的是右眼区域的表型,根据眼部器官的定义,所得的特征点中18、19、20、21、22、28、29、30、31、37、38、39、40、41、42特征点能规划出右眼区域的RGBD图像数据。设右眼区域相关标识点的坐标分别对应为(x18,y18,z18),(x19,y19,z19),…,(x42,y42,z42),其中xi,yi表示平面横纵坐标,zi表示深度坐标。根据平面横纵坐标的几何计算,可以确定本实施例表型考察图像的矩形区域范围,即
矩形区域的上下两端纵坐标分别为min{y18,y19,…,y42}和max{y18,y19,…,y42};
矩形区域的上下两端纵坐标分别为min{y18,y19,…,y42}和max{y18,y19,…,y42};
根据所确定的矩形范围,可以获得区域RGBD图像数据。
II、对于以上所选定的关于右眼的图像区域,进行表型类型的计算。
将训练数据的右眼区域RGBD图像数据输入深度神经网络(本发明实施方式中选择卷积神经网络3D ResNet-18)进行训练获得训练好的神经网络模型。然后将新获得的被测量者的右眼区域RGBD图像数据输入训练好的神经网络模型,可得到深度图像二分类结果,即能判断表型形状是否为鱼泡眼。
其中,对于左眼鱼泡眼的表型的计算同样可以确定。
以上只是以内眼角距的表型计算和右眼鱼泡眼的表型类型计算为例进行说明,本发明的人体表型并不限于这两个。
综合症模型训练模块中,用于根据表型计算模块中所计算的各人体表型,训练患有不同综合症的模型;其中,所使用的训练模型为机器学习模型,该模型的输入包括各表型的直线距离特征、曲面距离特征和曲面面积特征等特征。
本实施例中,对于综合症模型训练模块,可通过以下多种机器学习方法进行模型训练。其中,对于需要预测的某一综合症,被训练数据的响应变量y标签为二分类,即患有该综合症或不患有该综合症,由专业医生进行标注。
(1)逻辑回归(Logistic Regression)
使用逻辑回归进行训练分类器时,根据逻辑回归的方程:
Figure BDA0002619644090000111
t=ω1x+b1
通过训练多个被标记被试者的数据可以得到w1和b1得到能预测综合症的模型。当获得新的被测量者数据特征时,根据以上方程求出其对应的是否患有综合症分类。
(2)支持向量机(SVM)
当使用支持向量机进行训练分类器时,通过找到能将已标记的患有某综合症的人与其他人的数据分开的最大间隔超平面进行学习,超平面可以写作满足方程ω2·x-b2=0的点集x。通过训练可以求得最优ω2。当获得新的被测量者数据特征的向量x′时,可以根据计算新的被测量者表型数据结果求出其在超平面的哪一侧,进而进行是否患有综合症的分类评估。
(3)K近邻(KNN)算法
计算预测目标和所有样本之间的距离或者相似度,然后选择距离最近的前K个样本,然后通过这些样本来投票决策,选择最多投票的分类作为被计算预测的目标的分类。
(4)神经网络
将需要预测的表型特征组合输入由多个神经元结构组成的神经网络,计算每一层神经网络的势能,病通过激活函数控制输出大小,使输出的结果尽可能符合标签的综合症分类结果。
(5)线性判别分析(LDA)
将训练数据集中的样本,通过投影的方法,将表型特征集合投影到维度更低的空间中,使得投影后的点,会形成按类别区分,相同类别的点将会在投影后的空间中更接近。投影后类别的计算公式为y=w1 Tx+w0
(6)随机森林
使用多个决策树构建的随机森林分析被测量者的表型特征数据集合。对于训练数据集,通过重采样的方式产生n个样本。表型特征数据集合中一共有a个样本特征数目,对于重采样产生的n个样本选择其中的k个表型特征,用建立决策树的方式获得最佳分割点。具体地,决策树的建立通过找到使得Gini值最小的分割点而产生。重复m次,产生m棵决策树。最后通过多数投票机制来进行预测被测量样本的综合症筛查分类。
通过以上机器学习方法,可以训练患有不同综合症的模型。
本发明实施方式中,具体的,综合症预测模块包括综合征独立预测单元和最大可能综合征预测单元,其中
综合征独立预测单元,用于根据表型计算模块中所述人体表型和综合症模型训练模块中所训练的各模型计算被测量者患有各综合征的概率;
最大可能综合症预测单元,用于预测被测量者其中可能性最大的综合症。
进一步的,综合征独立预测单元中,其中设综合征集合为{b1,b2,……,bk},被测量者的t个表型数据集合为A={s1,s2,……,st},针对所分析的k种综合症,设Bi表示被测量者患有综合症bi的事件,Bi∨A表示被测量者呈现某些表型特征恰好患有综合症bi的事件;P(B|i∨A)表示A是由于bi引起的概率;则当表型特征表现为A时,被测量者患有各综合症的概率的计算公式为:
Figure BDA0002619644090000131
其中i=1,2,......,k;
最大可能综合症预测单元,具体根据综合征独立预测单元中被测量者可能患各综合征的概率值,确定被测量者可能患有的综合征。
本发明实施方式中,综合症预测模块通过贝叶斯方法进行计算不同综合症的概率,并找出最大可能的综合症。具体的
本发明实施方式中所考虑分析的综合征集合设为{b1,b2,……,bk}一共k种综合症,如:唐氏综合症。根据表型计算模块,本系统已经获得了一位被测量者的t个表型特征数据集合为A={s1,s2,……,st}。针对所分析的k种综合症,Bi表示这位被测量者患有综合症bi的事件,Bi∨A表示呈现某些表型特征恰好患有综合症bi的事件,P(B|i∨A)表示A是由于bi引起的概率。
根据医疗数据资料总结,可计算人群中患综合症bi的概率。具体方法为:随机抽样选出恰好患有b1,b2,……,bk综合症之一的病历N份。对于其中任何一种综合症bi,N个人中的患有人数为Ni,则可
Figure BDA0002619644090000141
其中i=1,2,……,k。
因此,根据医疗数据资料总结,可估计P(A∨B|i),即人群中患有综合症bi的人中表型特征是A的概率。具体方法为:
P(AB|i)表示A和Bi同时发生的概率,即人群中表型特征表现为A且患有综合症bi的事件的概率。对于所考虑的综合症bi,根据病例总结可以获得患有者同时表型符合A的患者人数,记录为Mi。据此,可以估计
Figure BDA0002619644090000142
根据条件概率公式,可以计算
Figure BDA0002619644090000143
因此,根据贝叶斯公式,可以计算当表型特征表现为A时,患有综合症bi的概率为:
Figure BDA0002619644090000144
其中i=1,2,……,k。
以上即为综合征独立预测单元确定被测量者患有综合症bi(即各综合症)的概率的确定过程。
最大可能综合症预测单元,可根据综合征独立预测单元计算出的各综合症的概率P进行比较,可以确定该被测量者最可能患有的综合症,以供医生进行诊断分析。
本发明实施方式一种基于表型测量早期发现综合征的系统在进行使用中,涉及到的辅助测量的工作人员、被测量者、接诊的医生可以参考以下步骤进行:
步骤1,辅助测量的工作人员引导被测量者坐在多个深度相机中,深度相机的摄像头均朝向被测量者,通过环绕在人体头部四周的多个深度相机瞬间采集被测量者头部360度的RGBD图像数据,所述RGBD图像数据包括头部被拍摄部分的颜色信息和(x,y,z)坐标信息;
步骤2,本系统自动将采集到的多角度的RGBD图像数据进行图像拼接;
步骤3,本系统将拼接的RGBD图像进行处理,复原出具有颜色和深度的人体模型;
步骤4,本系统对复原后的人体模型进行表型相关特征点识别,获取重要人体特征点的坐标;
步骤5,本系统根据识别所得的特征点坐标和复原的人体模型进行相关表型性状的计算,得到被测量者的表型特征;
步骤6,本系统根据测量所得的表型特征和被测量者的综合症病历诊断类别进行学习,得到能够预测是否患有某综合症的模型;
步骤7,本系统使用训练所得的模型,对新获得测量人员表型进行预测,并选出最有可能患的综合症,综合预测结果和表型计算结果。
步骤8,本系统根据计算结果,将包含被测量者基本信息、表型形状计算结果、综合症预测和评估结果的报告提供给医生,医生据此进行诊断;其中,测量报告例图可如图5所示。
本发明基于表型测量早期发现综合征的系统,能在无闪光刺激的条件下,瞬间采集被测量者的头部数据,对被测量人刺激小,配合度要求低,容易测量;通过多角度深度相机瞬间拍摄所得RGBD图像数据进行计算复原人体头部得到复原模型数据,比人工使用皮尺等传统方法进行测量的数据更精确;本发明使用计算机对人体表型相关特征点进行选择,计算尺度统一,比人工测量表型更精确更规范;并且本发明能根据人体表型对不同综合症进行判断,提供具有医学意义的数据,所分析的数据可解释性强,而且可使用一次测量结果分析多种综合症,方便快捷。本发明还能够科学性地计算出被测量者最大可能患有的疾病,提高诊断准确率,更有利于医学研究及其他行业的工作。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于表型测量早期发现综合征的系统,其特征在于,包括:
数据采集模块,用于多角度瞬间采集被测试者人体头部的RGBD图像数据;其中,所述RGBD图像数据包括颜色信息和(x,y,z)坐标信息;
数据拼接模块,用于拼接由数据采集模块所采集的多角度RGBD图像数据;
3D建模模块,用于根据拼接好的RGBD图像数据还原并重建成3D头部曲面模型;
标志识别模块,用于识别3D头部曲面模型中人体的标志性特征点,所述标志性特征点包括但不限于与眉毛、眼睛、鼻子、嘴巴和脸轮廓相关的特征点;
表型计算模块,用于根据所识别的特征点以及相关器官和部位的RGBD图像数据,计算和/或训练人体表型;
综合症模型训练模块,用于基于人体表型的相关数据训练患有不同综合症的模型;
综合症预测模块,用于计算被测量者患有各综合征的概率以及其中可能性最大的综合症,并写入测量报告模块中;
测量报告模块,用于生成测量报告,展示计算所得的表型性状和综合症预测报告。
2.根据权利要求1所述基于表型测量早期发现综合征的系统,其特征在于,所述表型计算模块包括几何计算单元和类型计算单元,其中
几何计算单元,用于根据所识别的特征点以及相关器官和部位的RGBD图像数据,根据几何空间坐标计算人体表型中的距离、角度、面积;
类型计算单元,用于根据所识别的特征点,选取预设指定区域的表型,将被选择区域的RGBD图像数据输入机器学习模型,进行表型类型的训练和预测。
3.根据权利要求1所述基于表型测量早期发现综合征的系统,其特征在于,表型计算模块中,所述人体表型包括但不限于内眼角眼距表型和鱼泡眼表型,其中
内眼角眼距表型的计算,具体通过识别左右内眼角标志点及分别对应的空间坐标(x1,y1,z1)和(x2,y2,z2),根据距离计算公式可得所需计算的内眼角眼距为
Figure FDA0002619644080000021
鱼泡眼表型的计算,具体根据眼部器官的定义,确定左眼或右眼的标志点,并根据所确定的标志点的空间坐标确定左眼或右眼区域的RGB图像数据;最后根据所确定的左眼或右眼区域的RGB图像数据输入深度神经网络模型,确定被测量者的鱼泡眼表型类型。
4.根据权利要求1所述基于表型测量早期发现综合征的系统,其特征在于,
所述数据采集模块包括至少3个可用于无闪光灯瞬间拍摄的深度相机,所述深度相机环绕在被试者人体头部四周,以完整采集头部的RGBD图像数据。
5.根据权利要求1所述基于表型测量早期发现综合征的系统,其特征在于,所述数据拼接模块通过迭代最近点算法进行拼接,包括对应点搜索单元、变换求解单元和拼接单元,其中
对应点搜索单元,用于将任意两个相邻深度摄像头设备所采集的关于被测量者人体头部不同角度的点云数据分别标记点云P={p1,p2,...pn}和Q={q1,q2,...qn};然后通过对应点进行搜索,计算筛选和调整点云P、Q储存的顺序,对于点云P中的一点pi,在Q中寻找距离距离最近的一点qi,使得P和Q中的点一一对应,即∨pi-qi∨=min,其中i=1,2,...,n;
变换求解单元,用于根据对应点,通过目标函数确定变换关系(R,t),其中目标函数为
Figure FDA0002619644080000031
拼接单元,用于在确定变换关系(R,t)后,根据公式RP+t=P′,可得到点云P经过变换后在点云Q坐标系下的点云P’,点云Q和点云P’结合起来就是拼接的点云;最后根据各深度摄像头设备所采集到的图像进行拼接的点云完成拼接。
6.根据权利要求1所述基于表型测量早期发现综合征的系统,其特征在于,所述3D建模模块包括预处理单元、曲面重建单元和3D头部模型生成单元,其中
预处理单元,用于使用平滑滤波、下采样的方法对点云进行预处理,得到分布均匀的空间点云;
曲面重建单元,用于对所述空间点云进行网格化重建曲面;
3D头部模型生成单元,用于对重建的人体头部3D模型的曲面进行平滑处理,并根据点云对应的RGB数据对3D头部模型进行着色。
7.根据权利要求1所述基于表型测量早期发现综合征的系统,其特征在于,所述曲面重建单元中,具体通过投影映射法将拼接后的三维点云投影到二维平面上,并对投影后的二维点进行三角剖分,然后将二维剖分关系传递给三维点云的三角剖分,并基于点云三角网格重建人体头部3D模型的曲面。
8.根据权利要求1所述基于表型测量早期发现综合征的系统,其特征在于,所述综合症模型训练模块中,所述模型的输入包括各表型的直线距离特征、曲面距离特征和曲面面积特征。
9.根据权利要求1所述基于表型测量早期发现综合征的系统,其特征在于,所述综合症预测模块包括综合征独立预测单元和最大可能综合征预测单元,其中
综合征独立预测单元,用于根据表型计算模块中所述人体表型和综合症模型训练模块中所训练的各模型计算被测量者患有各综合征的概率;
最大可能综合症预测单元,用于预测被测量者其中可能性最大的综合症。
10.根据权利要求1所述基于表型测量早期发现综合征的系统,其特征在于,
综合征独立预测单元中,其中设综合征集合为{b1,b2,……,bk},被测量者的t个表型数据集合为A={s1,s2,……,st},针对所分析的k种综合症,设Bi表示被测量者患有综合症bi的事件,Bi∨A表示被测量者呈现某些表型特征恰好患有综合症bi的事件;P(B|i∨A)表示A是由于bi引起的概率;则当表型特征表现为A时,被测量者患有各综合症的概率的计算公式为:
Figure FDA0002619644080000041
其中i=1,2,……,k;
最大可能综合症预测单元,具体根据综合征独立预测单元中被测量者可能患各综合征的概率值,确定被测量者可能患有的综合征。
CN202010779409.3A 2020-08-05 2020-08-05 一种基于表型测量早期发现综合征的系统 Pending CN111862091A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010779409.3A CN111862091A (zh) 2020-08-05 2020-08-05 一种基于表型测量早期发现综合征的系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010779409.3A CN111862091A (zh) 2020-08-05 2020-08-05 一种基于表型测量早期发现综合征的系统

Publications (1)

Publication Number Publication Date
CN111862091A true CN111862091A (zh) 2020-10-30

Family

ID=72972494

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010779409.3A Pending CN111862091A (zh) 2020-08-05 2020-08-05 一种基于表型测量早期发现综合征的系统

Country Status (1)

Country Link
CN (1) CN111862091A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113040751A (zh) * 2021-03-12 2021-06-29 国家康复辅具研究中心 一种定制矫形头盔的测量方法及获得的矫形头盔

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105005714A (zh) * 2015-06-18 2015-10-28 中国科学院自动化研究所 一种基于肿瘤表型特征的非小细胞肺癌预后方法
CN107239647A (zh) * 2016-03-28 2017-10-10 孙少燕 一种基于贝叶斯算法的疾病分析系统
CN107492090A (zh) * 2016-06-09 2017-12-19 西门子保健有限责任公司 根据合成数据利用机器学习的基于图像的肿瘤表型分析
CN108363902A (zh) * 2018-01-30 2018-08-03 成都奇恩生物科技有限公司 一种致病遗传变异的精确预测方法
CN109727640A (zh) * 2019-01-22 2019-05-07 袁隆平农业高科技股份有限公司 基于自动机器学习技术的全基因组预测方法及装置
CN111081371A (zh) * 2019-11-27 2020-04-28 昆山杜克大学 基于虚拟现实的孤独症早期筛查评估系统及方法
CN111105881A (zh) * 2019-12-26 2020-05-05 昆山杜克大学 一种3d测量人类表型的数据库系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105005714A (zh) * 2015-06-18 2015-10-28 中国科学院自动化研究所 一种基于肿瘤表型特征的非小细胞肺癌预后方法
CN107239647A (zh) * 2016-03-28 2017-10-10 孙少燕 一种基于贝叶斯算法的疾病分析系统
CN107492090A (zh) * 2016-06-09 2017-12-19 西门子保健有限责任公司 根据合成数据利用机器学习的基于图像的肿瘤表型分析
CN108363902A (zh) * 2018-01-30 2018-08-03 成都奇恩生物科技有限公司 一种致病遗传变异的精确预测方法
CN109727640A (zh) * 2019-01-22 2019-05-07 袁隆平农业高科技股份有限公司 基于自动机器学习技术的全基因组预测方法及装置
CN111081371A (zh) * 2019-11-27 2020-04-28 昆山杜克大学 基于虚拟现实的孤独症早期筛查评估系统及方法
CN111105881A (zh) * 2019-12-26 2020-05-05 昆山杜克大学 一种3d测量人类表型的数据库系统

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113040751A (zh) * 2021-03-12 2021-06-29 国家康复辅具研究中心 一种定制矫形头盔的测量方法及获得的矫形头盔

Similar Documents

Publication Publication Date Title
US8077946B2 (en) Apparatus and program for assisting report generation
US11980491B2 (en) Automatic recognition method for measurement point in cephalo image
KR102162683B1 (ko) 비정형 피부질환 영상데이터를 활용한 판독보조장치
Hernandez et al. Retracted: Early detection of Alzheimer's using digital image processing through iridology, an alternative method
CN112206006A (zh) 自主评估甲状腺结节良恶性的智能辅助识别设备及方法
da Cruz et al. Enabling autonomous medical image data annotation: A human-in-the-loop reinforcement learning approach
Kowalczyk et al. Mask detection and classification in thermal face images
Luís et al. Integrating eye-gaze data into cxr dl approaches: A preliminary study
CN111862091A (zh) 一种基于表型测量早期发现综合征的系统
CN112634221B (zh) 基于图像和深度的角膜层次识别及病变定位方法和系统
CN116738352B (zh) 视网膜血管阻塞疾病的视杆细胞异常分类方法及装置
CN115496700A (zh) 一种基于眼部图像的疾病检测系统及方法
Kastaniotis et al. Using kinect for assesing the state of Multiple Sclerosis patients
CN116092157A (zh) 一种智能面舌诊方法、系统及智能设备
Shayestegan et al. Comparison of Feature Selection and Supervised Methods for Classifying Gait Disorders
McIntyre et al. Toward glaucoma classification with moment methods
Xu et al. Unsupervised profiling of microglial arbor morphologies and distribution using a nonparametric Bayesian approach
CN118507040A (zh) 一种基于物联网的人脸识别健康预测系统
CN112649955A (zh) 光学成像系统及相关设备、方法和计算机程序
Suputra et al. Automatic 3D Cranial Landmark Positioning based on Surface Curvature Feature using Machine Learning.
Chaitanya et al. Brain Tumor Classification using DeepResidual Learning
Vispute et al. Automated polyp classification of gastroenteric lesion in colonoscopy videos
Nethravathi et al. Acne Vulgaris Severity Analysis Application
Shobha et al. Auto Skin Tumour Classification Using CNN Framework with Tensorflow and Keras
Delgarmi et al. Automatic Landmark Detection of Human Back Surface from Depth Images via Deep Learning

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20201030