CN114153316A - 基于ar的会议纪要生成方法、装置、服务器及存储介质 - Google Patents
基于ar的会议纪要生成方法、装置、服务器及存储介质 Download PDFInfo
- Publication number
- CN114153316A CN114153316A CN202111538610.3A CN202111538610A CN114153316A CN 114153316 A CN114153316 A CN 114153316A CN 202111538610 A CN202111538610 A CN 202111538610A CN 114153316 A CN114153316 A CN 114153316A
- Authority
- CN
- China
- Prior art keywords
- dimensional model
- conference summary
- conference
- calculating
- generating
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 61
- 230000003993 interaction Effects 0.000 claims abstract description 62
- 230000009471 action Effects 0.000 claims abstract description 56
- 239000011521 glass Substances 0.000 claims abstract description 44
- 230000008569 process Effects 0.000 claims abstract description 20
- 210000005252 bulbus oculi Anatomy 0.000 claims description 15
- 238000006073 displacement reaction Methods 0.000 claims description 13
- 230000001133 acceleration Effects 0.000 claims description 11
- 238000004364 calculation method Methods 0.000 claims description 10
- 238000005259 measurement Methods 0.000 claims description 10
- 230000002452 interceptive effect Effects 0.000 claims description 6
- 238000009434 installation Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 238000013507 mapping Methods 0.000 description 4
- 230000003190 augmentative effect Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000007654 immersion Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 210000001508 eye Anatomy 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009901 attention process Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/01—Indexing scheme relating to G06F3/01
- G06F2203/012—Walk-in-place systems for allowing a user to walk in a virtual environment while constraining him to a given position in the physical environment
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
本发明实施例公开了一种基于AR的会议纪要生成方法、装置、服务器及存储介质,其中,所述方法包括:预先测量并生成主要参会者交互部位的三维模型;预先测量并生成会议可操作物品的三维模型;在会议进行过程中,利用佩戴的AR眼镜计算关注位置;记录所述关注位置对应的交互部位三维模型操作动作;将所述交互部位三维模型操作转换为动作矢量记录;根据所述动作矢量记录生成操作会议纪要。可以精准计算会议中的重点发言和重点内容和对应的时间,并充分考虑参会者不同的关注点,生成兼顾个性化和主要内容的会议纪要,不仅丰富了会议纪要的内容形式,而且不会产生遗漏。提升了会议纪要内容的丰富性和权威性。
Description
技术领域
本发明涉及增强现实技术领域,尤其涉及一种基于AR的会议纪要生成方法、装置、服务器及存储介质。
背景技术
后疫情时代,企业协同办公越发普及,作为企业协同办公的关键能力,视频会议能力对于协同沟通效率提升有着至关重要的作用。传统的视频会议通过语音或者视频接入都能实现。但与真实会议相比,缺少沉浸感。参会者并不能获得与现场会议的同样感受。
AR会议是广泛运用多媒体、三维图像建模和智能交互等技术手段的集合,是AR在会议场景中的应用体现。AR会议需要同时满足高清晰、低时延、沉浸感强等特点,利用5G网络保障+4K超高清视频采集,可以实现AR线上会议落地。
在传统的视频会议中,可以根据发言语音自动生成会议纪要,供参会者回忆会议的相关内容,避免遗忘。然而在AR会议中,语音部分只是AR会议中展现的一部分,单纯依靠语音部分生成的会议纪要,不仅内容上有缺失,同时也无法体现出会议的重点内容。
发明内容
本发明实施例提供了一种基于AR的会议纪要生成方法、装置、服务器及存储介质,以解决现有技术中针对AR会议的会议纪要记录内容不能满足全面记录的要求。
第一方面,本发明实施例提供了一种基于AR的会议纪要生成方法,包括:
通过安装于终端的云手机平台入口接收用户选择安装应用程序信息;
根据所述应用程序信息对应用程序进行评估,以确定应用程序的安装载体;
在确定的安装载体上安装所述应用程序,在所述安装载体为终端时,生成所述应用程序的图标,并为所述图标与终端的应用程序建立对应映射关系;
在接收到应用程序启动指令时,判断所述应用程序的安装载体,在安装载体为云手机平台时,直接启动应用程序,否则,根据所述对应映射关系启动终端安装的应用程序,并向终端发送所述应用程序的启动运行指令,以使得终端启动运行该应用程序;
接收终端发送的所述应用程序的运行状态变化信息,根据所述运行状态变化信息,返回至云手机平台入口。
第二方面,本发明实施例还提供了一种基于AR的会议纪要生成装置,包括:
分接收模块,用于通过安装于终端的云手机平台入口接收用户选择安装应用程序信息;
评估模块,用于根据所述应用程序信息对应用程序进行评估,以确定应用程序的安装载体;
生成模块,用于在确定的安装载体上安装所述应用程序,在所述安装载体为终端时,生成所述应用程序的图标,并为所述图标与终端的应用程序建立对应映射关系;
启动模块,用于在接收到应用程序启动指令时,判断所述应用程序的安装载体,在安装载体为云手机平台时,直接启动应用程序,否则,根据所述对应映射关系启动终端安装的应用程序,并向终端发送所述应用程序的启动运行指令,以使得终端启动运行该应用程序;
监测模块,用于监测所述应用程序的运行状态,在所述运行状态变化时,根据变化后的运行状态,返回至云手机平台入口。
第三方面,本发明实施例还提供了一种服务器,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上述实施例提供的基于AR的会议纪要生成方法方法。
第四方面,本发明实施例还提供了包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如上述实施例提供的基于AR的会议纪要生成方法。
本发明实施例提供的基于AR的会议纪要生成方法、装置、服务器及存储介质,通过预先测量并生成主要参会者交互部位的三维模型;预先测量并生成会议可操作物品的三维模型;在会议进行过程中,利用佩戴的AR眼镜计算关注位置;记录所述关注位置对应的交互部位三维模型操作动作;记录所述交互部位三维模型操作转换为动作矢量记录;根据所述动作矢量记录生成操作会议纪要。通过预先获取操作模型和参会人员交互部位的三维模型,便于对会议过程中的操作过程进行数字化转换,便于后期生成操作会议纪要,便于参会者后期通过AR方式反复研究动作过程,同时利用佩戴的AR眼镜计算关注位置和对应的时间,可以精准计算会议中的重点发言和重点内容和对应的时间,并充分考虑参会者不同的关注点,生成兼顾个性化和主要内容的会议纪要,不仅丰富了会议纪要的内容形式,而且不会产生遗漏。提升了会议纪要内容的丰富性和权威性。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显:
图1是本发明实施例一提供的基于AR的会议纪要生成方法的流程示意图;
图2是本发明实施例二提供的基于AR的会议纪要生成方法的流程示意图;
图3是本发明实施例三提供的基于AR的会议纪要生成方法的流程示意图;
图4是本发明实施例四提供的基于AR的会议纪要生成装置的结构示意图;
图5是本发明实施例五提供的服务器的结构图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1是本发明实施例一提供的基于AR的会议纪要生成方法的流程图,本实施例可适用于对AR会议完整生成会议纪要的情况,该方法可以由基于AR的会议纪要生成装置来执行,并可集成于AR会议服务器中,具体包括如下步骤:
S110,预先测量并生成主要参会者交互部位的三维模型。
在本实施例中,所述AR会议的会议场景可以是医疗会议或者工业设备演示或者维修会议。因此,在会议过程中,不可避免的会存在一些实际操作环节。传统的视频或者音频会议无法记录上述实际操作的细节,只能记录相应的影像和对应的语音内容。无法真正记录实际操作。为更好的模拟记录相应的交互操作。在本实施例中,预先对主要参会者交互部位进行测量并根据测量结果生成相应的三维模型。主要参会者可以是会议中主要进行演讲或者主要进行操作演示的人员。相应的,所述交互部位可以是用于操作的人体部位,例如手部等。与传统的建立通用手部模型相比,可以根据操作人的实际手部形状对后期的操作进行精准定位。在医疗手术等演示环节,可以使参会者能够更加清晰准确的查看及后期通过会议纪要反复观摩准确的操作过程。可选的,可以通过激光扫描方式对交互部位进行三维扫描,进而生成准确的交互部位的三维模型
S120,预先测量并生成会议可操作物品的三维模型。
相应的,在会议过程中,通常需要对某些物品进行操作。例如,在医疗会议中,人体模型可以作为可操作物品;在新产品推广会议中,可以将相关的仪器设备做为可操作物品。
示例性的,仍然可以采用激光扫描方式对可操作物品进行三维测量,进而得到会议可操作物品的三维模型。可选的,通常可操作物品结构较为复杂,因此,测量时,在可操作物品可拆卸的情况下,分别对每个部件进行三维扫描,并根据装配关系生成会议可操作物品的三维模型。
S130,在会议进行过程中,利用佩戴的AR眼镜计算关注位置。
在AR会议中,参会者对于重点关注的事务,则会投入更多的精力重点关注。在重点关注过程中,视线通常会移向相应的方位。而AR眼镜则可以利用自身配置的各种传感器来计算关注位置。
示例性的,所述利用佩戴的AR眼镜计算关注位置,可以包括:利用佩戴的AR眼镜中的加速度传感器计算运动位移;根据所述运动位移和虚拟会场分布位置计算关注位置。利用加速度传感器可确定初始移动的方位和加速度,并可在停止时,反馈相应的加速度和方位。可选的,可以监测加速度传感器采集的数据,在数据大于阈值时,认为是头部开始转动,并转向关注位置。并在稳定后,确认加速度传感器采集到的加速度值在预设的时长内没有发生超出预设范围的变化,可以确认转动动作完成。
相应的,在建立AR会议室时,可以相应建立虚拟会议室场景,所述虚拟会议室场景,包括整体会议室的长宽高,每个与会者的相应位置和可操作物品对应的位置。
利用上述的转动位置和当前用户在虚拟会议室的位置结合虚拟会议室场景,计算得到对应的关注位置。
S140,记录所述关注位置对应的交互部位三维模型操作动作。
记录在关注过程中交互部位的三维模型的操作动作。示例性的,可以利用AR眼镜采集相应的图像,作为记录。可选的,可以通过当前用户佩戴的AR眼镜记录相应的操作动作。同时,也可选取同时关注该关注位置其他与会人员佩戴的AR眼镜采集相应的图像,以获取多个角度的交互部位三维模型操作动作。并进行相应的记录。
S150,将所述交互部位三维模型操作转换为动作矢量记录。
由于影像表现的局限性,上述步骤采集得到的影像并不适合直接作为AR会议的会议纪要内容。因此,需要将其进行转换为便于方便和查询的记录,在本实施例中,由于已经存在交互部位三维模型,因此,可以根据AR相应的图像记录转换为对应的动作记录,相应的,所述动作矢量记录可以包括:动作运动的方向和动作位移的大小。利用虚拟会议室的参数和AR眼镜所在的方位进行空间运算,并可结合周围其它人采集的影像和方位,可以准确的计算交互部位三维模型的动作运动的方向和动作位移的大小和对应的时间。
S160,根据所述动作矢量记录生成操作会议纪要。
示例性的,可以将上述计算交互部位三维模型的动作运动的方向和动作位移的大小和对应的时作为会议纪要,利用该种方式得到的会议记录,能够充分记录每个动作,并且基于记录结合模型和虚拟会议室的配置尺寸等数据,可以快速计算得到相应的动作模型,且可从不同方位进行观察。有助于参会者快速回忆会议内容,以及多次重复学习。
可选的,所述据所述动作矢量记录生成操作会议纪要,可以包括:根据所述动作矢量记录每个动作的力度和幅度;根据每个动作的力度和幅度计算与所述可操作物品的三维模型的交互动作程度;根据所述交互动作程度生成操作会议纪要。在AR会议中,与会人更加关注操作者与可操作物品的交互程度。因此,可以将动作矢量再次进行转换,根据动作方向和位移,计算相应的计算度,并根据交互部位的三维模型计算相应的加速度,进而计算动作力度和幅度,并根据每个动作的力度和幅度计算与所述可操作物品的三维模型的交互动作程度,所述交互动作程度可以是与所述可操作物品三维模型的接触方位,接触力度等。将上述计算得到的可操作物品三维模型的接触方位,接触力度等作为会议纪要,可便于参会者进行模仿学习,特别适应于医疗会议会诊等场景的AR会议。
本实施例通过预先测量并生成主要参会者交互部位的三维模型;预先测量并生成会议可操作物品的三维模型;在会议进行过程中,利用佩戴的AR眼镜计算关注位置;记录所述关注位置对应的交互部位三维模型操作动作;记录所述交互部位三维模型操作转换为动作矢量记录;根据所述动作矢量记录生成操作会议纪要。通过预先获取操作模型和参会人员交互部位的三维模型,便于对会议过程中的操作过程进行数字化转换,便于后期生成操作会议纪要,便于参会者后期通过AR方式反复研究动作过程,同时利用佩戴的AR眼镜计算关注位置和对应的时间,可以精准计算会议中的重点发言和重点内容和对应的时间,并充分考虑参会者不同的关注点,生成兼顾个性化和主要内容的会议纪要,不仅丰富了会议纪要的内容形式,而且不会产生遗漏。提升了会议纪要内容的丰富性和权威性。
在本实施例的一个优选实施方式中,所述方法还可增加如下步骤:记录会议产生的语音记录,根据所述关注位置对应的交互部位三维模型操作动作所对应的时间从所述语音记录中提取相应的语音;将所述相应的语音对应时间嵌入生成操作会议纪要中。在AR会议中,对可操作物品的三维模型进行操作过程中,主操作人通常会对其操作过程中重点需要注意的事项进行讲解,讲解内容可以方便其它参会者更好的学习和理解。但并非所有时间内会议的谈话内容都重要。因此,可以根据所述关注位置对应的交互部位三维模型操作动作对应相应的时间,并记录该段时间所产生的语音,并将其转换为文字,进一步的,还可对应每句话所对应的具体时间,将根据时间对应嵌入到操作会议纪要中,进一步方便参会人后期回忆学习。
实施例二
图2为本发明实施例二提供的基于AR的会议纪要生成方法的流程示意图。本实施例以上述实施例为基础进行优化,在本实施例中,将所述利用佩戴的AR眼镜计算关注位置,具体优化为:利用当前参会者佩戴的AR眼镜计算参会者关注位置;利用会议主持人佩戴的AR眼镜计算主持人关注位置。相应的,并将记录所述关注位置对应的交互部位三维模型操作动作,具体优化为:判断参会者关注位置和主持人关注位置是否相同,在不同时,分别记录参会者关注位置和主持人关注位置对应的交互部位三维模型操作动作。
相应的,本实施例所提供的基于AR的会议纪要生成方法,具体包括:
S210,预先测量并生成主要参会者交互部位的三维模型。
S220,预先测量并生成会议可操作物品的三维模型。
S230,在会议进行过程中,利用当前参会者佩戴的AR眼镜计算参会者关注位置。
S240,利用会议主持人佩戴的AR眼镜计算主持人关注位置。
通常,在医疗或者产品回忆之中,会议主持人通常为该行业内较为知名的专家学者。在会议过程中,会议主持人主要职责为控制会议时间,推动会议进程。协调参会者的发言。观察参会者的反应并给与反馈。因此。会议主持人所关注的位置通常是会议较为核心的内容。因此,会议主持人关注的信息和会议主题内容相关度较强,因此,需要计算主持人的关注位置。相应的,仍然可以采用上述方法计算主持人的关注位置。
S250,判断参会者关注位置和主持人关注位置是否相同。
在会议进行过程中,主持人和当前参会者可能关注的焦点略有不同。如果只按照参会者的关注位置记录对应的交互部位三维模型操作动作,则可能会遗漏掉重要的信息。因此,在本实施例中,在会议进行过程中,需要时时判断参会者关注位置和主持人关注位置是否相同,如果相同,则只记录同一位置的交互部位三维模型操作动作即可。
S260,在不同时,分别记录参会者关注位置和主持人关注位置对应的交互部位三维模型操作动作。
如果不同,则需要分别记录对应的关注位置对应的交互部位三维模型操作动作。以避免产生记录信息的缺失,导致操作会议纪要缺少重要内容。
S270,将所述交互部位三维模型操作转换为动作矢量记录。
S280,根据所述动作矢量记录生成操作会议纪要。
本实施例通过将所述利用佩戴的AR眼镜计算关注位置,具体优化为:利用当前参会者佩戴的AR眼镜计算参会者关注位置;利用会议主持人佩戴的AR眼镜计算主持人关注位置。相应的,并将记录所述关注位置对应的交互部位三维模型操作动作,具体优化为:判断参会者关注位置和主持人关注位置是否相同,在不同时,分别记录参会者关注位置和主持人关注位置对应的交互部位三维模型操作动作。可以避免由于参会者关注位置偏差导致的重要信息遗漏,同时,也可利用主持人关注位置对会议纪要信息进行补充完善,使得会议纪要内容完整无遗漏,更加便于参会者复现会议内容。
实施例三
图3为本发明实施例三提供的基于AR的会议纪要生成方法的流程示意图。本实施例以上述实施例为基础进行优化,在本实施例中,将所述利用佩戴的AR眼镜计算关注位置具体优化为:采集眼球位置,根据眼球位置、虚拟会场分布位置分别计算参会者关注位置和主持人关注位置。
相应的,本实施例所提供的基于AR的会议纪要生成方法,具体包括:
S310,预先测量并生成主要参会者交互部位的三维模型。
S320,预先测量并生成会议可操作物品的三维模型。
S330,在会议进行过程中,利用当前参会者佩戴的AR眼镜采集参会者眼球位置,根据眼球位置、虚拟会场分布位置计算参会者关注位置。
由于可操作物品的三维模型的尺寸可能较大,按照前述实施例提供的方法可能计算得到的参会者关注位置较大。而实际上参会人希望更加聚焦于某一部分,且在观看过程中,头部不会发生转动,主要依靠眼球转动实现切换观看视角的作用。因此,在本实施例中,还可通过当前参会者佩戴的AR眼镜上设置的后视摄像头采集眼球位置。示例性的,可以设定标准中心位置,依据采集的图像,确定眼球与标准中心位置的位移变化,基于位移变化,按照前述实施例提供的方式准确计算参会者关注位置。
此外,由于虚拟会场是按照实际会场情况布置,以使得参会者有更好的会议沉浸感。因此,某些参会者会距离较远,希望可以看到放大后的图像,此时,参会者可以利用AR眼镜设置的功能,实现放大和缩小的作用。例如,可以通过相应的按键实现局部放大和缩小的作用。在此种情况下,可以接收用户在AR眼镜设置的操作,对当前关注位置进行放大或者缩小,示例性的,可以以之前计算的关注位置的中心点作为放大后的中心点。进行放大。
S340,利用当前主持人佩戴的AR眼镜采集主持人眼球位置,根据眼球位置、虚拟会场分布位置计算主持人关注位置。
相应的,仍然可以采用上述步骤提供的方法,计算主持人的关注位置。
S350,判断参会者关注位置和主持人关注位置是否相同。
S360,在不同时,分别记录参会者关注位置和主持人关注位置对应的交互部位三维模型操作动作。
S370,将所述交互部位三维模型操作转换为动作矢量记录。
S380,根据所述动作矢量记录生成操作会议纪要。
本实施例通过将所述利用佩戴的AR眼镜计算关注位置具体优化为:采集眼球位置,根据眼球位置、虚拟会场分布位置分别计算参会者关注位置和主持人关注位置。可以利用AR眼镜配置的图像采集装置确定参会者和主持人的眼球变化位置,根据眼球位置、虚拟会场分布位置计算参会者关注位置。以更准确的确定参会者和主持人实际聚焦的关注位置,便于后期生成更为准确的AR会议纪要。
实施例四
图4是本发明实施例四提供的基于AR的会议纪要生成装置的结构示意图,如图4所示,所述装置包括:
第一测量模块410,用于预先测量并生成主要参会者交互部位的三维模型;
第二测量模块420,用于预先测量并生成会议可操作物品的三维模型;
计算模块430,用于在会议进行过程中,利用佩戴的AR眼镜计算关注位置;
第一记录模块440,用于记录所述关注位置对应的交互部位三维模型操作动作;
第二记录模块450,用于将所述交互部位三维模型操作转换为动作矢量记录;
生成模块460,用于根据所述动作矢量记录生成操作会议纪要。
本实施例提供的基于AR的会议纪要生成装置,通过预先测量并生成主要参会者交互部位的三维模型;预先测量并生成会议可操作物品的三维模型;在会议进行过程中,利用佩戴的AR眼镜计算关注位置;记录所述关注位置对应的交互部位三维模型操作动作;记录所述交互部位三维模型操作转换为动作矢量记录;根据所述动作矢量记录生成操作会议纪要。通过预先获取操作模型和参会人员交互部位的三维模型,便于对会议过程中的操作过程进行数字化转换,便于后期生成操作会议纪要,便于参会者后期通过AR方式反复研究动作过程,同时利用佩戴的AR眼镜计算关注位置和对应的时间,可以精准计算会议中的重点发言和重点内容和对应的时间,并充分考虑参会者不同的关注点,生成兼顾个性化和主要内容的会议纪要,不仅丰富了会议纪要的内容形式,而且不会产生遗漏。提升了会议纪要内容的丰富性和权威性。
在上述各实施例的基础上,所述计算模块,包括:
运动位移计算单元,用于利用佩戴的AR眼镜中的加速度传感器计算运动位移;
关注位置计算单元,用于根据所述运动位移和虚拟会场分布位置计算关注位置。
在上述各实施例的基础上,所述计算模块还包括:
参会者关注位置计算单元,用于利用当前参会者佩戴的AR眼镜计算参会者关注位置;
主持人关注位置计算单元,用于利用会议主持人佩戴的AR眼镜计算主持人关注位置。
在上述各实施例的基础上,所述生成模块,包括:
记录单元,用于根据所述动作矢量记录每个动作的力度和幅度;
计算单元,用于根据每个动作的力度和幅度计算与所述可操作物品的三维模型的交互动作程度;
生成单元,用于根据所述交互动作程度生成操作会议纪要。
在上述各实施例的基础上,所述计算模块,还包括:
采集单元,用于采集眼球位置,根据眼球位置、虚拟会场分布位置分别计算参会者关注位置和主持人关注位置。
在上述各实施例的基础上,所述第一记录模块,包括:
判断单元,用于判断参会者关注位置和主持人关注位置是否相同;
记录单元,用于在不同时,分别记录参会者关注位置和主持人关注位置对应的交互部位三维模型操作动作。
在上述各实施例的基础上,所述装置还包括:
语音记录单元,用于记录会议产生的语音记录,根据所述关注位置对应的交互部位三维模型操作动作所对应的时间从所述语音记录中提取相应的语音;
嵌入单元,用于将所述相应的语音对应时间嵌入生成操作会议纪要中。
本发明实施例所提供的基于AR的会议纪要生成装置可执行本发明任意实施例所提供的基于AR的会议纪要生成方法,具备执行方法相应的功能模块和有益效果。
实施例五
图5为本发明实施例五提供的一种服务器的结构示意图。图5示出了适于用来实现本发明实施方式的示例性服务器12的框图。图5显示的服务器12仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,服务器12以通用计算设备的形式表现。服务器12的组件可以包括但不限于:一个或者多个处理器或者处理单元16,系统存储器28,连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
服务器12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被服务器12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)30和/或高速缓存存储器32。服务器12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统34可以用于读写不可移动的、非易失性磁介质(图5未显示,通常称为“硬盘驱动器”)。尽管图5中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40,可以存储在例如存储器28中,这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
服务器12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信,还可与一个或者多个使得用户能与该服务器12交互的设备通信,和/或与使得该服务器12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且,服务器12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器20通过总线18与服务器12的其它模块通信。应当明白,尽管图中未示出,可以结合服务器12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的基于AR的会议纪要生成方法。
本发明实施例六还提供了一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如上述实施例提供的基于AR的会议纪要生成方法。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种基于AR的会议纪要生成方法,其特征在于,包括:
预先测量并生成主要参会者交互部位的三维模型;
预先测量并生成会议可操作物品的三维模型;
在会议进行过程中,利用佩戴的AR眼镜计算关注位置;
记录所述关注位置对应的交互部位三维模型操作动作;
将所述交互部位三维模型操作转换为动作矢量记录;
根据所述动作矢量记录生成操作会议纪要。
2.根据权利要求1所述的方法,其特征在于,所述利用佩戴的AR眼镜计算关注位置,包括:
利用佩戴的AR眼镜中的加速度传感器计算运动位移;
根据所述运动位移和虚拟会场分布位置计算关注位置。
3.根据权利要求1所述的方法,其特征在于,所述利用佩戴的AR眼镜计算关注位置,包括:
利用当前参会者佩戴的AR眼镜计算参会者关注位置;
利用会议主持人佩戴的AR眼镜计算主持人关注位置。
4.根据权利要求3所述的方法,其特征在于,根据所述动作矢量记录生成操作会议纪要包括:
根据所述动作矢量记录每个动作的力度和幅度;
根据每个动作的力度和幅度计算与所述可操作物品的三维模型的交互动作程度;
根据所述交互动作程度生成操作会议纪要。
5.根据权利要求4所述的方法,其特征在于,所述利用佩戴的AR眼镜计算关注位置还包括:
采集眼球位置,根据眼球位置、虚拟会场分布位置分别计算参会者关注位置和主持人关注位置。
6.根据权利要求5所述的方法,其特征在于,所述记录所述关注位置对应的交互部位三维模型操作动作,包括:
判断参会者关注位置和主持人关注位置是否相同;
在不同时,分别记录参会者关注位置和主持人关注位置对应的交互部位三维模型操作动作。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
记录会议产生的语音记录,根据所述关注位置对应的交互部位三维模型操作动作所对应的时间从所述语音记录中提取相应的语音;
将所述相应的语音对应时间嵌入生成操作会议纪要中。
8.一种基于AR的会议纪要生成装置,其特征在于,包括:
第一测量模块,用于预先测量并生成主要参会者交互部位的三维模型;
第二测量模块,用于预先测量并生成会议可操作物品的三维模型;
计算模块,用于在会议进行过程中,利用佩戴的AR眼镜计算关注位置;
第一记录模块,用于记录所述关注位置对应的交互部位三维模型操作动作;
第二记录模块,用于将所述交互部位三维模型操作转换为动作矢量记录;
生成模块,用于根据所述动作矢量记录生成操作会议纪要。
9.一种服务器,其特征在于,所述服务器包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的基于AR的会议纪要生成方法。
10.一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-7中任一所述的基于AR的会议纪要生成方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111538610.3A CN114153316B (zh) | 2021-12-15 | 2021-12-15 | 基于ar的会议纪要生成方法、装置、服务器及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111538610.3A CN114153316B (zh) | 2021-12-15 | 2021-12-15 | 基于ar的会议纪要生成方法、装置、服务器及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114153316A true CN114153316A (zh) | 2022-03-08 |
CN114153316B CN114153316B (zh) | 2024-03-29 |
Family
ID=80451358
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111538610.3A Active CN114153316B (zh) | 2021-12-15 | 2021-12-15 | 基于ar的会议纪要生成方法、装置、服务器及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114153316B (zh) |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5999208A (en) * | 1998-07-15 | 1999-12-07 | Lucent Technologies Inc. | System for implementing multiple simultaneous meetings in a virtual reality mixed media meeting room |
US20120198021A1 (en) * | 2011-01-27 | 2012-08-02 | Pantech Co., Ltd. | System and method for sharing marker in augmented reality |
CN106464956A (zh) * | 2014-05-21 | 2017-02-22 | Pcms控股公司 | 触发视频录制的用户兴趣阈值的环境调节的方法和系统 |
CN108537508A (zh) * | 2018-03-30 | 2018-09-14 | 上海爱优威软件开发有限公司 | 会议记录方法及系统 |
CN108566366A (zh) * | 2018-01-25 | 2018-09-21 | 置景(上海)科技有限公司 | 虚拟现实远程会议方法和系统 |
CN109661676A (zh) * | 2016-08-03 | 2019-04-19 | 谷歌有限责任公司 | 计算机辅助的视频会议的议程 |
EP3660848A1 (en) * | 2018-11-29 | 2020-06-03 | Ricoh Company, Ltd. | Apparatus, system, and method of display control, and carrier means |
CN111580658A (zh) * | 2020-05-09 | 2020-08-25 | 维沃移动通信有限公司 | 基于ar的会议方法、装置及电子设备 |
WO2020171972A1 (en) * | 2019-02-21 | 2020-08-27 | Microsoft Technology Licensing, Llc | Topic based summarizer for meetings and presentations using hierarchical agglomerative clustering |
CN111770300A (zh) * | 2020-06-24 | 2020-10-13 | 北京安博创赢教育科技有限责任公司 | 一种会议信息处理的方法及虚拟现实头戴设备 |
CN112839196A (zh) * | 2020-12-30 | 2021-05-25 | 北京橙色云科技有限公司 | 一种实现在线会议的方法、装置以及存储介质 |
CN112947758A (zh) * | 2021-03-04 | 2021-06-11 | 北京京航计算通讯研究所 | 一种基于vr技术的多用户虚实协同系统 |
-
2021
- 2021-12-15 CN CN202111538610.3A patent/CN114153316B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5999208A (en) * | 1998-07-15 | 1999-12-07 | Lucent Technologies Inc. | System for implementing multiple simultaneous meetings in a virtual reality mixed media meeting room |
US20120198021A1 (en) * | 2011-01-27 | 2012-08-02 | Pantech Co., Ltd. | System and method for sharing marker in augmented reality |
CN106464956A (zh) * | 2014-05-21 | 2017-02-22 | Pcms控股公司 | 触发视频录制的用户兴趣阈值的环境调节的方法和系统 |
CN109661676A (zh) * | 2016-08-03 | 2019-04-19 | 谷歌有限责任公司 | 计算机辅助的视频会议的议程 |
CN108566366A (zh) * | 2018-01-25 | 2018-09-21 | 置景(上海)科技有限公司 | 虚拟现实远程会议方法和系统 |
CN108537508A (zh) * | 2018-03-30 | 2018-09-14 | 上海爱优威软件开发有限公司 | 会议记录方法及系统 |
EP3660848A1 (en) * | 2018-11-29 | 2020-06-03 | Ricoh Company, Ltd. | Apparatus, system, and method of display control, and carrier means |
WO2020171972A1 (en) * | 2019-02-21 | 2020-08-27 | Microsoft Technology Licensing, Llc | Topic based summarizer for meetings and presentations using hierarchical agglomerative clustering |
CN111580658A (zh) * | 2020-05-09 | 2020-08-25 | 维沃移动通信有限公司 | 基于ar的会议方法、装置及电子设备 |
CN111770300A (zh) * | 2020-06-24 | 2020-10-13 | 北京安博创赢教育科技有限责任公司 | 一种会议信息处理的方法及虚拟现实头戴设备 |
CN112839196A (zh) * | 2020-12-30 | 2021-05-25 | 北京橙色云科技有限公司 | 一种实现在线会议的方法、装置以及存储介质 |
CN112947758A (zh) * | 2021-03-04 | 2021-06-11 | 北京京航计算通讯研究所 | 一种基于vr技术的多用户虚实协同系统 |
Also Published As
Publication number | Publication date |
---|---|
CN114153316B (zh) | 2024-03-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220398844A1 (en) | Shared Augmented Reality Session Recording and Playback | |
US11158102B2 (en) | Method and apparatus for processing information | |
CN109313812B (zh) | 具有上下文增强的共享体验 | |
US11678004B2 (en) | Recording remote expert sessions | |
CN110298906B (zh) | 用于生成信息的方法和装置 | |
WO2022148083A1 (zh) | 仿真3d数字人交互方法、装置、电子设备及存储介质 | |
US10241990B2 (en) | Gesture based annotations | |
US20220319139A1 (en) | Multi-endpoint mixed-reality meetings | |
CN110266992A (zh) | 一种基于增强现实的远程视频交互系统以及方法 | |
CN113011723B (zh) | 一种基于增强现实的远程装备维保系统 | |
JP7268071B2 (ja) | バーチャルアバターの生成方法及び生成装置 | |
US20230139977A1 (en) | Systems and methods for augmented reality application for annotations and adding interfaces to control panels and screens | |
JP2021170313A (ja) | ビデオを生成する方法および装置 | |
US20110231194A1 (en) | Interactive Speech Preparation | |
WO2020151432A1 (zh) | 一种智能看房的数据处理方法及系统 | |
US20230047858A1 (en) | Method, apparatus, electronic device, computer-readable storage medium, and computer program product for video communication | |
CN110573992B (zh) | 使用增强现实和虚拟现实编辑增强现实体验 | |
KR20210028198A (ko) | 아바타 애니메이션 | |
JP6888854B1 (ja) | 遠隔勤務支援システム及び遠隔勤務支援方法 | |
US20240169989A1 (en) | Multimodal responses | |
KR101523328B1 (ko) | 3차원 애니메이션 캐릭터에 대한 포즈 라이브러리 제공 방법, 이를 수행하는 포즈 라이브러리 제공 장치 및 이를 저장한 기록매체 | |
US20210072947A1 (en) | Remote interaction via bi-directional mixed-reality telepresence | |
WO2019155735A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
US11558440B1 (en) | Simulate live video presentation in a recorded video | |
KR20210073428A (ko) | 현실기반 sns를 위한 나만의 캐릭터 생성 및 사물 및 배경 복원 방법 및 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |