CN113918732A - 多模态知识图谱构建方法、系统、存储介质及电子设备 - Google Patents
多模态知识图谱构建方法、系统、存储介质及电子设备 Download PDFInfo
- Publication number
- CN113918732A CN113918732A CN202111399505.6A CN202111399505A CN113918732A CN 113918732 A CN113918732 A CN 113918732A CN 202111399505 A CN202111399505 A CN 202111399505A CN 113918732 A CN113918732 A CN 113918732A
- Authority
- CN
- China
- Prior art keywords
- patient
- knowledge
- data
- information
- modal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000010276 construction Methods 0.000 title claims abstract description 48
- 238000000034 method Methods 0.000 claims abstract description 41
- 238000013461 design Methods 0.000 claims abstract description 9
- 230000004931 aggregating effect Effects 0.000 claims abstract description 7
- 239000003814 drug Substances 0.000 claims description 33
- 230000008569 process Effects 0.000 claims description 16
- 238000005070 sampling Methods 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 11
- 230000014509 gene expression Effects 0.000 claims description 9
- 201000010099 disease Diseases 0.000 claims description 8
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 claims description 8
- 229940079593 drug Drugs 0.000 claims description 8
- 238000013075 data extraction Methods 0.000 claims description 7
- 230000003238 somatosensory effect Effects 0.000 claims description 7
- 239000000284 extract Substances 0.000 claims description 3
- 238000004891 communication Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 8
- 238000000605 extraction Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 230000004927 fusion Effects 0.000 description 5
- 238000011161 development Methods 0.000 description 4
- 238000003745 diagnosis Methods 0.000 description 4
- 238000011282 treatment Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 208000024891 symptom Diseases 0.000 description 2
- 238000004220 aggregation Methods 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000007670 refining Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/367—Ontology
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H10/00—ICT specially adapted for the handling or processing of patient-related medical or healthcare data
- G16H10/60—ICT specially adapted for the handling or processing of patient-related medical or healthcare data for patient-specific data, e.g. for electronic patient records
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Animal Behavior & Ethology (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Epidemiology (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Primary Health Care (AREA)
- Public Health (AREA)
- Medical Treatment And Welfare Office Work (AREA)
Abstract
本申请公开了一种多模态知识图谱构建方法、系统、存储介质及电子设备，方法包括：知识图谱构建步骤：知识建模步骤：定义患者多模态知识图谱中所需部分包括：患者实体部分、患者社会关系部分、患者属性部分、患者事件发生的类别部分及模型设计部分；知识采集步骤：根据所述患者多模态知识图谱中所需部分对所述患者信息进行数据采集，获得采集结果；知识库形成步骤：将所述采集结果通过聚类及聚合的方法进行融合，构建患者的医疗档案知识库。本发明通过多模态知识图谱可以更进一步加深医生对于患者病情的了解，提升医疗决策的效率和准确率。
Description
技术领域
本发明属于多模态知识图谱构建领域，具体涉及一种多模态知识图谱构建方法、系统、存储介质及电子设备。
背景技术
随着互联网技术的发展，越来越多的行业正在使用互联网技术，尤其是人工智能技术来改进其工作的流程及方式，以提升工作效率。然而，通过调研发现目前诸多三甲医院的医疗档案仍采用的是传统的以时间序列为主的特征记录方式，即某时刻患者的症状是什么，使用了什么治疗方案，记录了此刻患者补充的环境及自身的特征信息。这种方式的记录主要采用时间线的变化为主，故很难发现特征在空间层面的关联，即通过不同时间节点提供的特征是相关的或者相关依赖的等。同时，目前大多医院的病历，也是简单的采用文本的形式进行的记录，关于患者其他维度的对诊断有帮助的信息并无法记录在病历档案中，因此诊疗方案的判断有很大的影响。因此，本案提出了基于多模态数据形式构建的图结构患者档案，首先对多模态数据(即不同形态的数据，如文本、图片、视频、音频等)进行采集，通过对患者不同症状维度的观察，采集患者的不同形式的信息；然后通过知识图谱本体和schame的构建，确定图谱的结构形式和约束，然后通过本案的几种方式将多模态信息存储到图谱结构中的相应节点中，形成患者的图谱档案，提升医疗诊断的效率和水平。
截止目前，大多医院的患者病历构建仍采用的是基于时间序列的患者病情发展及诊疗方案的记录方式；同时，虽然知识图谱技术已经被广泛用于处理结构化数据(采用本体+D2R技术)和文本数据(采用文本信息抽取技术)，但是还有一类非结构化数据，即视觉数据、音频数据等，则相对关注度较低，而且相缺乏有效的技术手段来从这些数据中提取结构化知识。最近几年，虽然有一些多模态技术提出，这些技术主要还是为了提升图像分类、图像生成、图像问答的效果，不能很好地支撑多模态知识图谱的构建。
发明内容
本申请实施例提供了一种多模态知识图谱构建方法、系统、存储介质及电子设备，以至少解决现有的多模态知识图谱构建方法中缺少非结构化数据的问题。
本发明提供了一种多模态知识图谱构建方法，其中，包括：
知识建模步骤：定义患者多模态知识图谱中所需部分包括：患者实体部分、患者社会关系部分、患者属性部分、患者事件发生的类别部分及模型设计部分；
知识采集步骤：根据所述患者多模态知识图谱中所需部分对所述患者信息进行数据采集，获得采集结果；
知识库形成步骤：将所述采集结果通过聚类及聚合的方法进行融合，构建患者的医疗档案知识库；
存储步骤：将所述患者的医疗档案知识库中的数据信息存储到数据库及文件中后根据所述所述患者的医疗档案知识库中的数据构建患者的多模态病历知识图谱，所述多模态知识图谱中包括：视频数据及音频数据的访问地址。
上述多模态知识图谱构建方法，其中，所述知识建模步骤包括：
所述患者实体部分包括患者实体信息、病类实体信息、相关联人员实体信息及药品实体信息；所述患者社会关系部分包括拥有信息、居住信息及服用药品信息；所述患者属性部分包括所述患者的性别信息、年龄信息、服用药物的形态信息及使用药物类型信息；所述患者事件部分包括使用药物后所述患者表现出的种声音及表情。
上述多模态知识图谱构建方法，其中，所述知识建模步骤包括：
语音采集步骤：使用数字录音机对所述患者语音进行采集，采样率为44100Hz,采样精度为16bit，单声道近采集，采集到的所述语音以.wav格式进行保存；
视频数据采集步骤：对所述患者的视频数据进行采集后由体感摄像头进行数据记录，以.wav格式对所述数据进行保存；
文本数据抽取步骤：通过从结构化数据、半结构化数据及非结构化数据中抽取知识图谱构建过程中所需的信息。
上述多模态知识图谱构建方法，其中，所述存储步骤包括：
将所述医疗档案知识库中的文本数据存储到文件的相应字段中，将医疗档案知识库中的图片数据、视频数据及音频数据存储到服务器的硬盘中，并在所述数据库的相应字段中设置文件的访问地址。
上述多模态知识图谱构建方法，其中，所述存储步骤还包括：
对存储数据、修改数据、写入数据、输出数据及元数据进行维护管理。
本发明还提供了一种多模态知识图谱构建系统，其中，包括：
知识建模模块，所述知识建模模块定义患者多模态知识图谱中所需部分包括：患者实体部分、患者社会关系部分、患者属性部分、患者事件发生的类别部分及模型设计部分；
知识采集模块，所述知识采集模块根据所述患者多模态知识图谱中所需部分对所述患者信息进行数据采集，获得采集结果；
知识库形成模块，所述知识库形成模块将所述采集结果通过聚类及聚合的方法进行融合，构建患者的医疗档案知识库。
存储模块，所述存储模块将所述患者的医疗档案知识库中的数据信息存储到数据库及文件中后根据所述所述患者的医疗档案知识库中的数据构建患者的多模态病历知识图谱，所述多模态知识图谱中包括：视频数据及音频数据的访问地址。
上述多模态知识图谱构建系统，其中，所述知识建模模块包括：
所述患者实体部分包括患者实体信息、病类实体信息、相关联人员实体信息及药品实体信息；所述患者社会关系部分包括拥有信息、居住信息及服用药品信息；所述患者属性部分包括所述患者的性别信息、年龄信息、服用药物的形态信息及使用药物类型信息；所述患者事件部分包括使用药物后所述患者表现出的种声音及表情。
上述多模态知识图谱构建系统，其中，所述知识建模模块包括：
语音采集单元，所述语音采集单元使用数字录音机对所述患者语音进行采集，采样率为44100Hz,采样精度为16bit，单声道近采集，采集到的所述语音以.wav格式进行保存；
视频数据采集单元，所述视频数据采集单元对所述患者的视频数据进行采集后由体感摄像头进行数据记录，以.wav格式对所述数据进行保存；
文本数据抽取单元，所述文本数据抽取单元通过从结构化数据、半结构化数据及非结构化数据中抽取知识图谱构建过程中所需的信息。
本发明还提供了一种电子设备，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，其中，所述处理器执行所述计算机程序时实现如上述任一所述的多模态知识图谱构建方法。
本发明还提供了一种存储介质，其上存储有计算机程序，其中，该程序被处理器执行时实现如上述任一所述的多模态知识图谱构建方法。
本发明的有益效果在于：
本发明属于知识图谱技术中的图谱构建领域。通过本发明可以对医疗系统中的病历记录和存储方式进行改进，即将原本的基于时间序列的以文本形式记录患者病历档案的方式，改进为基于多模态图谱结构的患者病历档案。因此，不仅可以改善以往仅以文本描述患者信息的方式，增加了视觉信息和音频信息，使得可以从多维度更细致的描述患者的特征；而且还可通过图结构发现各特征之间的关联，以及更多的信息。从而可以更进一步加深医生对于患者病情的了解，提升医疗决策的效率和准确率。
附图说明
此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。
在附图中：
图1是本发明的多模态知识图谱构建方法的流程图；
图2是本发明的分步骤S2的流程图；
图3是本发明的多模态知识图谱的结构图；
图4是本发明的多模态知识图谱构建系统的结构示意图；
图5是根据本发明实施例的电子设备的框架图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行描述和说明。应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。基于本申请提供的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。
显而易见地，下面描述中的附图仅仅是本申请的一些示例或实施例，对于本领域的普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图将本申请应用于其他类似情景。此外，还可以理解的是，虽然这种开发过程中所作出的努力可能是复杂并且冗长的，然而对于与本申请公开的内容相关的本领域的普通技术人员而言，在本申请揭露的技术内容的基础上进行的一些设计，制造或者生产等变更只是常规的技术手段，不应当理解为本申请公开的内容不充分。
在本申请中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是，本申请所描述的实施例在不冲突的情况下，可以与其它实施例相结合。
除非另作定义，本申请所涉及的技术术语或者科学术语应当为本申请所属技术领域内具有一般技能的人士所理解的通常意义。本申请所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制，可表示单数或复数。本申请所涉及的术语“包括”、“包含”、“具有”以及它们任何变形，意图在于覆盖不排他的包含；例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可以还包括没有列出的步骤或单元，或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。本申请所涉及的“连接”、“相连”、“耦接”等类似的词语并非限定于物理的或者机械的连接，而是可以包括电气的连接，不管是直接的还是间接的。本申请所涉及的“多个”是指两个或两个以上。“和/或”描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或B”可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。本申请所涉及的术语“第一”、“第二”、“第三”等仅仅是区别类似的对象，不代表针对对象的特定排序。
下面结合附图所示的各实施方式对本发明进行详细说明，但应当说明的是，这些实施方式并非对本发明的限制，本领域普通技术人员根据这些实施方式所作的功能、方法、或者结构上的等效变换或替代，均属于本发明的保护范围之内。
在详细阐述本发明各个实施例之前，对本发明的核心发明思想予以概述，并通过下述若干实施例予以详细阐述。
实施例一：
本发明主要是为了改进现有医疗机构患者病历档案基于时序型的构建方式存在的难以发现患者特征间关联的问题，提出了基于多模态知识图谱的方式去构建患者的病历档案，通过多模态图谱构建患者不同模态特征信息，来发现更多的不同特征之间的关联信息，增加对患者病情更多维度更细致的描述。
请参照图1，图1是多模态知识图谱构建方法的流程图。如图1所示，本发明的多模态知识图谱构建方法包括：
知识建模步骤S1：定义患者多模态知识图谱中所需部分包括：患者实体部分、患者社会关系部分、患者属性部分、患者事件发生的类别部分及模型设计部分；
知识采集步骤S2：根据所述患者多模态知识图谱中所需部分对所述患者信息进行数据采集，获得采集结果；
知识库形成步骤S3：将所述采集结果通过聚类及聚合的方法进行融合，构建患者的医疗档案知识库；
存储步骤S4：将所述患者的医疗档案知识库中的数据信息存储到数据库及文件中后根据所述所述患者的医疗档案知识库中的数据构建患者的多模态病历知识图谱，所述多模态知识图谱中包括：视频数据及音频数据的访问地址。
其中，所述知识建模步骤包括：
所述患者实体部分包括患者实体信息、病类实体信息、相关联人员实体信息及药品实体信息；所述患者社会关系部分包括拥有信息、居住信息及服用药品信息；所述患者属性部分包括所述患者的性别信息、年龄信息、服用药物的形态信息及使用药物类型信息；所述患者事件部分包括使用药物后所述患者表现出的种声音及表情。
请参照图2，图2是知识建模步骤S1的流程图。如图2所示，所述知识建模步骤S1包括：
语音采集步骤S11：使用数字录音机对所述患者语音进行采集，采样率为44100Hz,采样精度为16bit，单声道近采集，采集到的所述语音以.wav格式进行保存；
视频数据采集步骤S12：对所述患者的视频数据进行采集后由体感摄像头进行数据记录，以.wav格式对所述数据进行保存；
文本数据抽取步骤S13：通过从结构化数据、半结构化数据及非结构化数据中抽取知识图谱构建过程中所需的信息。
其中，所述存储步骤包括：
将所述医疗档案知识库中的文本数据存储到文件的相应字段中，将医疗档案知识库中的图片数据、视频数据及音频数据存储到服务器的硬盘中，并在所述数据库的相应字段中设置文件的访问地址。
其中，所述存储步骤还包括：
对存储数据、修改数据、写入数据、输出数据及元数据进行维护管理。
具体地说，多模态知识图谱医疗档案的构建过程主要包含知识建模、知识获取、知识融合、知识管理等步骤：
知识建模：定义知识图谱构建过程中所需的实体、关系、属性、事件的类别，以及模型的设计。在此实体主要包括患者实体、病类实体、相关联人员实体、药品实体等；关系主要包括拥有、居住、服用等关系实体；属性主要包含人员的性别、年龄，药物的形态、使用类型等实体；事件主要包括使用某种药物、展现出某种声音和表情等。其构建过程主要分为以下几步：
Step1：确定本体的领域和范围。本发明的本体主要针对的是医疗领域中的患者相关的信息，包括患者的个体；年龄、地址等文本信息；基于患者表情的视频类信息；患者的音频信息等。
Step2：考虑重用现有本体。精炼、扩充、修改网上现有的本体，或从中得到启发和帮助。
Step3：列出本体中的重要术语。主要是列出建模过程中所必需的实体、属性、关系，使得创建的本体不要偏离领域，如拥有、居住、服用等关系。
Step4：定义类和类的继承。确保类的继承(is-a、kind-of)正确，分析继承结构中的兄弟类，新类或属性值的取舍等，如患者的家族亲属等关系，病情的发展和衍生关系。
Step5：定义属性和关系。定义类之后往往还要定义其概念和概念间的内部联系。这里的联系分为内部属性(DatatypeProperty)和外部属性(ObjectProperty)。内部属性具有通用性，用来连接一个概念和一个值；外部属性，也称为关系，通常用于连接概念间的实例。
Step6：定义属性的限制。如属性的基数，属性的类型，属性的定义域和值域。
Step7：为类创建实例。添加个体作为该类的实例后，同时要为实例的属性赋值。
进一步，知识抽取：主要包括文本数据采集、视频数据采集和语音数据采集：
语音采集：
在安静、光线充足的房间内进行语音采集任务，背景噪音控制在50分贝以下，全程使用PAW-VE专业级数字录音机对被试的声音进行录音，采样率为44100Hz,采样精度为16bit，单声道采集，语音文件以.wav格式保存。语音采集范式包括三个任务：短文朗读、图片描述和访谈，任务使用E-prime2.0软件编写运行，各任务中的题目按照随机顺序呈现，呈现在一台14寸电脑屏幕上。若由于疫情或其它不可抗力因素导致无法线下采集，则采用线上采集方式，使用手机问卷链接发布任务题目，被试在安静的房间中使用手机录音功能按照任务指导语自行录制语音。被试按照屏幕中呈现的指导语依此完成三个语音产出任务，主试在旁边对指导语进行解释并确保被试完全理解指导语；图片描述任务在指导语中鼓励被试尽可能多地表达，如果被试回答过于简短，主试可在旁边适当鼓励更多表达；所有任务完成大约需要15-20分钟。
视频数据采集：
在一个安静、光照充足的房间完成面部表情数据采集。数据由一台IntelRealSense L515 3D体感摄像头(1920×1080p/30fps RGB)记录，文件以.wav格式保存。摄像头置于三脚架上，参与者需要保持面部与摄像头之间的距离在100厘米左右，摄像头的高度根据参与者坐下时的高度进行调整。
文本数据抽取：
通过从结构化数据、半结构化数据、非结构化数据中抽取知识图谱构建过程中所需的信息(如，病历、患者信息表中)，如实体、关系等；其中，从结构化数据中抽取信息主要使用数据处理工具和规则进行获取，从半结构化数据中抽取信息主要会用到规则和正则等方式，而从非结构化文本中抽取信息则需用到深度学习中的实体识别、关系抽取、属性抽取、实体对齐等方法。
再进一步，知识融合：
将多个知识库中的知识进行整合，形成一个知识库的过程，在这个过程中，主要需要解决的问题就是实体对齐。不同的知识库，收集知识的侧重点不同，对于同一个实体，有知识库的可能侧重于其本身某个方面的描述，有的知识库可能侧重于描述实体与其它实体的关系，知识融合的目的就是将不同知识库对实体的描述进行整合，从而获得实体的完整描述。不同的知识库对于同一个实体的描述，是有一些差异，所属时代的描述差别在于年代的具体程度，主要成就的差别在于成就的范围不同，不同信息源的差异在于不同的呈现形式等等，通过知识融合，可以将不同知识库中的知识进行互补融合，形成全面、准确、完整的实体描述。知识融合过程中，主要涉及到的工作就是实体对齐，也包括关系对齐、属性对齐、不同来源的实体的融合，可以通过相似度计算、聚合、聚类等技术来实现。
知识管理主要包括知识的存储、修改、写入、输出、元数据等维护管理。在本发明中针对不同类型的数据在图数据库中进行存储，其中对于文本数据直接存储到文件的相应字段中，然后对于图片、视频和音频数据则分别存储在服务器的硬盘中，并在数据库的相应字段中留出文件的访问地址，当真正加载此图谱是，可在这些节点中拉去相应的多模态数据进行显示。
通过上述的步骤可以生成基于患者实体的多模态病历知识图谱，即基于某个患者实体会有很多不同形态数据的叶子节点对其进行描述，形成一个图结构的患者档案。其本体结构示意图如图3所示。
实施例二：
请参照图4，图4是本发明的多模态知识图谱构建系统的结构示意图。如图4所示本发明的一种多模态知识图谱构建系统，其中，包括：
知识建模模块11，所述知识建模模块11定义患者多模态知识图谱中所需部分包括：患者实体部分、患者社会关系部分、患者属性部分、患者事件发生的类别部分及模型设计部分；
知识采集模块12，所述知识采集模块12根据所述患者多模态知识图谱中所需部分对所述患者信息进行数据采集，获得采集结果；
知识库形成模块13，所述知识库形成模块13将所述采集结果通过聚类及聚合的方法进行融合，构建患者的医疗档案知识库。
存储模块14，所述存储模块14将所述患者的医疗档案知识库中的数据信息存储到数据库及文件中后根据所述所述患者的医疗档案知识库中的数据构建患者的多模态病历知识图谱，所述多模态知识图谱中包括：视频数据及音频数据的访问地址。
其中，所述知识建模模块11包括：
所述患者实体部分包括患者实体信息、病类实体信息、相关联人员实体信息及药品实体信息；所述患者社会关系部分包括拥有信息、居住信息及服用药品信息；所述患者属性部分包括所述患者的性别信息、年龄信息、服用药物的形态信息及使用药物类型信息；所述患者事件部分包括使用药物后所述患者表现出的种声音及表情。
上述多模态知识图谱构建系统，其中，所述知识建模模块11包括：
语音采集单元111，所述语音采集单元111使用数字录音机对所述患者语音进行采集，采样率为44100Hz,采样精度为16bit，单声道近采集，采集到的所述语音以.wav格式进行保存；
视频数据采集单元112，所述视频数据采集单元112对所述患者的视频数据进行采集后由体感摄像头进行数据记录，以.wav格式对所述数据进行保存；
文本数据抽取单元113，所述文本数据抽取单元113通过从结构化数据、半结构化数据及非结构化数据中抽取知识图谱构建过程中所需的信息。
实施例三：
结合图5所示，本实施例揭示了一种电子设备的一种具体实施方式。电子设备可以包括处理器81以及存储有计算机程序指令的存储器82。
具体地，上述处理器81可以包括中央处理器(CPU)，或者特定集成电路(Application Specific Integrated Circuit，简称为ASIC)，或者可以被配置成实施本申请实施例的一个或多个集成电路。
其中，存储器82可以包括用于数据或指令的大容量存储器。举例来说而非限制，存储器82可包括硬盘驱动器(Hard Disk Drive，简称为HDD)、软盘驱动器、固态驱动器(SolidState Drive，简称为SSD)、闪存、光盘、磁光盘、磁带或通用串行总线(Universal SerialBus，简称为USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下，存储器82可包括可移除或不可移除(或固定)的介质。在合适的情况下，存储器82可在数据处理装置的内部或外部。在特定实施例中，存储器82是非易失性(Non-Volatile)存储器。在特定实施例中，存储器82包括只读存储器(Read-Only Memory，简称为ROM)和随机存取存储器(RandomAccess Memory，简称为RAM)。在合适的情况下，该ROM可以是掩模编程的ROM、可编程ROM(Programmable Read-Only Memory，简称为PROM)、可擦除PROM(Erasable ProgrammableRead-Only Memory，简称为EPROM)、电可擦除PROM(Electrically Erasable ProgrammableRead-Only Memory，简称为EEPROM)、电可改写ROM(Electrically Alterable Read-OnlyMemory，简称为EAROM)或闪存(FLASH)或者两个或更多个以上这些的组合。在合适的情况下，该RAM可以是静态随机存取存储器(Static Random-Access Memory，简称为SRAM)或动态随机存取存储器(Dynamic Random Access Memory，简称为DRAM)，其中，DRAM可以是快速页模式动态随机存取存储器(Fast Page Mode Dynamic Random Access Memory，简称为FPMDRAM)、扩展数据输出动态随机存取存储器(Extended Date Out Dynamic RandomAccess Memory，简称为EDODRAM)、同步动态随机存取内存(Synchronous Dynamic Random-Access Memory，简称SDRAM)等。
存储器82可以用来存储或者缓存需要处理和/或通信使用的各种数据文件，以及处理器81所执行的可能的计算机程序指令。
处理器81通过读取并执行存储器82中存储的计算机程序指令，以实现上述实施例中的任意一种多模态知识图谱构建方法。
在其中一些实施例中，电子设备还可包括通信接口83和总线80。其中，如图5所示，处理器81、存储器82、通信接口83通过总线80连接并完成相互间的通信。
通信接口83用于实现本申请实施例中各模块、装置、单元和/或设备之间的通信。通信端口83还可以实现与其他部件例如：外接设备、图像/数据采集设备、数据库、外部存储以及图像/数据处理工作站等之间进行数据通信。
总线80包括硬件、软件或两者，将电子设备的部件彼此耦接在一起。总线80包括但不限于以下至少之一：数据总线(Data Bus)、地址总线(Address Bus)、控制总线(ControlBus)、扩展总线(Expansion Bus)、局部总线(Local Bus)。举例来说而非限制，总线80可包括图形加速接口(Accelerated Graphics Port，简称为AGP)或其他图形总线、增强工业标准架构(Extended Industry Standard Architecture，简称为EISA)总线、前端总线(FrontSide Bus，简称为FSB)、超传输(Hyper Transport，简称为HT)互连、工业标准架构(Industry Standard Architecture，简称为ISA)总线、无线带宽(InfiniBand)互连、低引脚数(Low Pin Count，简称为LPC)总线、存储器总线、微信道架构(Micro ChannelArchitecture，简称为MCA)总线、外围组件互连(Peripheral Component Interconnect，简称为PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(Serial AdvancedTechnology Attachment，简称为SATA)总线、视频电子标准协会局部(Video ElectronicsStandards Association Local Bus，简称为VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下，总线80可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线，但本申请考虑任何合适的总线或互连。
该电子设备可以基于多模态知识图谱构建，从而实现结合图1-图2描述的方法。
另外，结合上述实施例中多模态知识图谱构建方法，本申请实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令；该计算机程序指令被处理器执行时实现上述实施例中的任意一种多模态知识图谱构建方法。
以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
综上所述，基于本发明的有益效果在于，通过本发明可以对医疗系统中的病历记录和存储方式进行改进，即将原本的基于时间序列的以文本形式记录患者病历档案的方式，改进为基于多模态图谱结构的患者病历档案。因此，不仅可以改善以往仅以文本描述患者信息的方式，增加了视觉信息和音频信息，使得可以从多维度更细致的描述患者的特征；而且还可通过图结构发现各特征之间的关联，以及更多的信息。从而可以更进一步加深医生对于患者病情的了解，提升医疗决策的效率和准确率。
以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明保护范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本发明的保护范围应以所附权利要求的保护范围为准。
Claims (10)
1.一种多模态知识图谱构建方法，其特征在于，包括：
知识建模步骤：定义患者多模态知识图谱中所需部分包括：患者实体部分、患者社会关系部分、患者属性部分、患者事件发生的类别部分及模型设计部分；
知识采集步骤：根据所述患者多模态知识图谱中所需部分对所述患者信息进行数据采集，获得采集结果；
知识库形成步骤：将所述采集结果通过聚类及聚合的方法进行融合，构建患者的医疗档案知识库；
存储步骤：将所述患者的医疗档案知识库中的数据信息存储到数据库及文件中后根据所述所述患者的医疗档案知识库中的数据构建患者的多模态病历知识图谱，所述多模态病历知识图谱中包括：视频数据及音频数据的访问地址。
2.如权利要求1所述的多模态知识图谱构建方法，其特征在于，所述知识建模步骤包括：
所述患者实体部分包括患者实体信息、病类实体信息、相关联人员实体信息及药品实体信息；所述患者社会关系部分包括拥有信息、居住信息及服用药品信息；所述患者属性部分包括所述患者的性别信息、年龄信息、服用药物的形态信息及使用药物类型信息；所述患者事件部分包括使用药物后所述患者表现出的种声音及表情。
3.如权利要求1所述的多模态知识图谱构建方法，其特征在于，所述知识建模步骤包括：
语音采集步骤：使用数字录音机对所述患者语音进行采集，采样率为44100Hz,采样精度为16bit，单声道近采集，采集到的所述语音以.wav格式进行保存；
视频数据采集步骤：对所述患者的视频数据进行采集后由体感摄像头进行数据记录，以.wav格式对所述数据进行保存；
文本数据抽取步骤：通过从结构化数据、半结构化数据及非结构化数据中抽取知识图谱构建过程中所需的信息。
4.如权利要求1所述的多模态知识图谱构建方法，其特征在于，所述存储步骤包括：
将所述医疗档案知识库中的文本数据存储到文件的相应字段中，将医疗档案知识库中的图片数据、视频数据及音频数据存储到服务器的硬盘中，并在所述数据库的相应字段中设置文件的访问地址。
5.如权利要求1所述的多模态知识图谱构建方法，其特征在于，所述存储步骤还包括：
对存储数据、修改数据、写入数据、输出数据及元数据进行维护管理。
6.一种多模态知识图谱构建系统，其特征在于，包括：
知识建模模块，所述知识建模模块定义患者多模态知识图谱中所需部分包括：患者实体部分、患者社会关系部分、患者属性部分、患者事件发生的类别部分及模型设计部分；
知识采集模块，所述知识采集模块根据所述患者多模态知识图谱中所需部分对所述患者信息进行数据采集，获得采集结果；
知识库形成模块，所述知识库形成模块将所述采集结果通过聚类及聚合的方法进行融合，构建患者的医疗档案知识库；
存储模块，所述存储模块将所述患者的医疗档案知识库中的数据信息存储到数据库及文件中后根据所述所述患者的医疗档案知识库中的数据构建患者的多模态病历知识图谱，所述多模态知识图谱中包括：视频数据及音频数据的访问地址。
7.如权利要求6所述的多模态知识图谱构建系统，其特征在于，所述知识建模模块包括：
所述患者实体部分包括患者实体信息、病类实体信息、相关联人员实体信息及药品实体信息；所述患者社会关系部分包括拥有信息、居住信息及服用药品信息；所述患者属性部分包括所述患者的性别信息、年龄信息、服用药物的形态信息及使用药物类型信息；所述患者事件部分包括使用药物后所述患者表现出的种声音及表情。
8.如权利要求6所述的多模态知识图谱构建系统，其特征在于，所述知识建模模块包括：
语音采集单元，所述语音采集单元使用数字录音机对所述患者语音进行采集，采样率为44100Hz,采样精度为16bit，单声道近采集，采集到的所述语音以.wav格式进行保存；
视频数据采集单元，所述视频数据采集单元对所述患者的视频数据进行采集后由体感摄像头进行数据记录，以.wav格式对所述数据进行保存；
文本数据抽取单元，所述文本数据抽取单元通过从结构化数据、半结构化数据及非结构化数据中抽取知识图谱构建过程中所需的信息。
9.一种电子设备，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至5中任一项所述的多模态知识图谱构建方法。
10.一种存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1至5中任一项所述的多模态知识图谱构建方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111399505.6A CN113918732A (zh) | 2021-11-19 | 2021-11-19 | 多模态知识图谱构建方法、系统、存储介质及电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111399505.6A CN113918732A (zh) | 2021-11-19 | 2021-11-19 | 多模态知识图谱构建方法、系统、存储介质及电子设备 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113918732A true CN113918732A (zh) | 2022-01-11 |
Family
ID=79247957
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111399505.6A Pending CN113918732A (zh) | 2021-11-19 | 2021-11-19 | 多模态知识图谱构建方法、系统、存储介质及电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113918732A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114791956A (zh) * | 2022-05-09 | 2022-07-26 | 亿景智联(北京)科技有限公司 | 一种医案知识图谱构建方法及装置 |
| CN115080762A (zh) * | 2022-06-17 | 2022-09-20 | 瀚云瑞科技(北京)有限公司 | 一种考试知识图谱关系建立方法及系统 |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2018072563A1 (zh) * | 2016-10-18 | 2018-04-26 | 中兴通讯股份有限公司 | 一种知识图谱构建方法、装置及系统 |
| CN109697233A (zh) * | 2018-12-03 | 2019-04-30 | 中电科大数据研究院有限公司 | 一种知识图谱体系搭建方法 |
| CN109766445A (zh) * | 2018-12-13 | 2019-05-17 | 平安科技（深圳）有限公司 | 一种知识图谱构建方法及数据处理装置 |
| CN110111905A (zh) * | 2019-04-24 | 2019-08-09 | 北京云知声信息技术有限公司 | 一种医疗知识图谱的构建系统和构建方法 |
| CN110189831A (zh) * | 2019-06-06 | 2019-08-30 | 厦门大学 | 一种基于动态图序列的病历知识图谱构建方法及系统 |
| CN110895561A (zh) * | 2019-11-13 | 2020-03-20 | 中国科学院自动化研究所 | 基于多模态知识感知的医疗问答检索方法、系统、装置 |
| CN110990579A (zh) * | 2019-10-30 | 2020-04-10 | 清华大学 | 跨语言的医学知识图谱构建方法、装置与电子设备 |
| US20200303072A1 (en) * | 2017-12-29 | 2020-09-24 | Obshchestvo S Ogranichennoj Otvetstvennostyu "Intellodzhik" | Method and system for supporting medical decision making |
| CN111950285A (zh) * | 2020-07-31 | 2020-11-17 | 合肥工业大学 | 多模态数据融合的医疗知识图谱智能自动构建系统和方法 |
| CN112131405A (zh) * | 2020-09-28 | 2020-12-25 | 中国科学技术大学 | 一种基于智能搜索的ar肿瘤知识图谱多模态演示方法 |
| CN112650860A (zh) * | 2021-01-15 | 2021-04-13 | 科技谷（厦门）信息技术有限公司 | 一种基于知识图谱的电子病历智能检索系统 |
| WO2021189971A1 (zh) * | 2020-10-26 | 2021-09-30 | 平安科技（深圳）有限公司 | 基于知识图谱表征学习的医疗方案推荐系统及方法 |
-
2021
- 2021-11-19 CN CN202111399505.6A patent/CN113918732A/zh active Pending
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2018072563A1 (zh) * | 2016-10-18 | 2018-04-26 | 中兴通讯股份有限公司 | 一种知识图谱构建方法、装置及系统 |
| US20200303072A1 (en) * | 2017-12-29 | 2020-09-24 | Obshchestvo S Ogranichennoj Otvetstvennostyu "Intellodzhik" | Method and system for supporting medical decision making |
| CN109697233A (zh) * | 2018-12-03 | 2019-04-30 | 中电科大数据研究院有限公司 | 一种知识图谱体系搭建方法 |
| CN109766445A (zh) * | 2018-12-13 | 2019-05-17 | 平安科技（深圳）有限公司 | 一种知识图谱构建方法及数据处理装置 |
| CN110111905A (zh) * | 2019-04-24 | 2019-08-09 | 北京云知声信息技术有限公司 | 一种医疗知识图谱的构建系统和构建方法 |
| CN110189831A (zh) * | 2019-06-06 | 2019-08-30 | 厦门大学 | 一种基于动态图序列的病历知识图谱构建方法及系统 |
| CN110990579A (zh) * | 2019-10-30 | 2020-04-10 | 清华大学 | 跨语言的医学知识图谱构建方法、装置与电子设备 |
| CN110895561A (zh) * | 2019-11-13 | 2020-03-20 | 中国科学院自动化研究所 | 基于多模态知识感知的医疗问答检索方法、系统、装置 |
| CN111950285A (zh) * | 2020-07-31 | 2020-11-17 | 合肥工业大学 | 多模态数据融合的医疗知识图谱智能自动构建系统和方法 |
| CN112131405A (zh) * | 2020-09-28 | 2020-12-25 | 中国科学技术大学 | 一种基于智能搜索的ar肿瘤知识图谱多模态演示方法 |
| WO2021189971A1 (zh) * | 2020-10-26 | 2021-09-30 | 平安科技（深圳）有限公司 | 基于知识图谱表征学习的医疗方案推荐系统及方法 |
| CN112650860A (zh) * | 2021-01-15 | 2021-04-13 | 科技谷（厦门）信息技术有限公司 | 一种基于知识图谱的电子病历智能检索系统 |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114791956A (zh) * | 2022-05-09 | 2022-07-26 | 亿景智联(北京)科技有限公司 | 一种医案知识图谱构建方法及装置 |
| CN115080762A (zh) * | 2022-06-17 | 2022-09-20 | 瀚云瑞科技(北京)有限公司 | 一种考试知识图谱关系建立方法及系统 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Apramian et al. | (Re) Grounding grounded theory: a close reading of theory in four schools | |
| Chatterjee et al. | An automatic ontology-based approach to support logical representation of observable and measurable data for healthy lifestyle management: Proof-of-concept study | |
| Rosenbloom et al. | Data from clinical notes: a perspective on the tension between structure and flexible documentation | |
| US9996670B2 (en) | Clinical content analytics engine | |
| US10019531B2 (en) | System and method for displaying, connecting and analyzing data in an online collaborative webpage | |
| US10997368B2 (en) | Resolving ambiguity in a statement | |
| US20130212109A1 (en) | Methods and apparatus for classifying content | |
| CN113918732A (zh) | 多模态知识图谱构建方法、系统、存储介质及电子设备 | |
| US20100094874A1 (en) | Method and an apparatus for retrieving additional information regarding a patient record | |
| US20160098456A1 (en) | Implicit Durations Calculation and Similarity Comparison in Question Answering Systems | |
| US11176126B2 (en) | Generating a reliable response to a query | |
| Horvat et al. | STIMONT: a core ontology for multimedia stimuli description | |
| Van der Velden | Forensic devices for activism: Metadata tracking and public proof | |
| Silva | What's [yet] to be seen? Re-using qualitative data | |
| Amar et al. | Electronic health record and semantic issues using fast healthcare interoperability resources: Systematic mapping review | |
| Hussain et al. | A natural language processing pipeline to synthesize patient-generated notes toward improving remote care and chronic disease management: a cystic fibrosis case study | |
| CN114360678A (zh) | 信息处理方法、装置、设备和存储介质 | |
| Leroux et al. | ODM on FHIR: Towards Achieving Semantic Interoperability of Clinical Study Data. | |
| Ghamdi et al. | An ontology-based system to predict hospital readmission within 30 days | |
| US20220100744A1 (en) | Generating a timely response to a query | |
| Corrigan et al. | Requirements and validation of a prototype learning health system for clinical diagnosis | |
| Batch et al. | ICDTag: a prototype for a web-based system for organizing physician-written blog posts using a hybrid taxonomy-folksonomy approach | |
| US11288583B2 (en) | Remedying defective knowledge of a knowledge database | |
| Yu et al. | Large Language Models in Biomedical and Health Informatics: A Bibliometric Review | |
| Gaudet-Blavignac et al. | Building a shared, scalable, and sustainable source for the problem-oriented medical record: developmental study |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| TA01 | Transfer of patent application right | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20230915 Address after: Room 401, 4th Floor, Building J, Yunmi City, No. 19 Ningshuang Road, Yuhuatai District, Nanjing City, Jiangsu Province, 210000 Applicant after: Nanjing Minglue Technology Co.,Ltd. Address before: 100089 a1002, 10th floor, building 1, yard 1, Zhongguancun East Road, Haidian District, Beijing Applicant before: MININGLAMP SOFTWARE SYSTEMS Co.,Ltd. |