CN111402287A - 用于活动序列的标准化评估的系统和方法 - Google Patents
用于活动序列的标准化评估的系统和方法 Download PDFInfo
- Publication number
- CN111402287A CN111402287A CN201911392634.5A CN201911392634A CN111402287A CN 111402287 A CN111402287 A CN 111402287A CN 201911392634 A CN201911392634 A CN 201911392634A CN 111402287 A CN111402287 A CN 111402287A
- Authority
- CN
- China
- Prior art keywords
- motion
- activity sequence
- window
- query
- difference
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000000694 effects Effects 0.000 title claims abstract description 163
- 238000000034 method Methods 0.000 title claims abstract description 32
- 230000033001 locomotion Effects 0.000 claims abstract description 305
- 238000004364 calculation method Methods 0.000 claims abstract description 40
- 238000011156 evaluation Methods 0.000 claims abstract description 31
- 230000002159 abnormal effect Effects 0.000 claims abstract description 15
- 238000004458 analytical method Methods 0.000 claims description 31
- 230000005856 abnormality Effects 0.000 claims description 6
- 230000004927 fusion Effects 0.000 claims description 6
- 230000008569 process Effects 0.000 description 13
- 238000012360 testing method Methods 0.000 description 12
- 238000013500 data storage Methods 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 238000013459 approach Methods 0.000 description 5
- 238000010606 normalization Methods 0.000 description 5
- 230000002547 anomalous effect Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000012800 visualization Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000036544 posture Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 102100035964 Gastrokine-2 Human genes 0.000 description 1
- 101001075215 Homo sapiens Gastrokine-2 Proteins 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000001010 compromised effect Effects 0.000 description 1
- 230000001351 cycling effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 210000002478 hand joint Anatomy 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 230000037081 physical activity Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
- G09G5/39—Control of the bit-mapped memory
- G09G5/393—Arrangements for updating the contents of the bit-mapped memory
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01P—MEASURING LINEAR OR ANGULAR SPEED, ACCELERATION, DECELERATION, OR SHOCK; INDICATING PRESENCE, ABSENCE, OR DIRECTION, OF MOVEMENT
- G01P13/00—Indicating or recording presence, absence, or direction, of movement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/014—Hand-worn input/output arrangements, e.g. data gloves
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/10—Special adaptations of display systems for operation with variable images
- G09G2320/103—Detection of image changes, e.g. determination of an index representative of the image change
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/10—Special adaptations of display systems for operation with variable images
- G09G2320/106—Determination of movement vectors or equivalent parameters within the image
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
- G09G2340/0492—Change of orientation of the displayed image, e.g. upside-down, mirrored
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Social Psychology (AREA)
- Psychiatry (AREA)
- General Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Computer Hardware Design (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
用于活动序列的标准化评估的系统和方法。根据查询活动序列生成运动窗口。针对查询活动序列中的运动窗口中的每个,在参考活动序列中找到对应的运动窗口。基于与物理意义相关联的至少一个标准,在查询活动序列的运动窗口与参考活动序列中的对应运动窗口之间执行一个或多个差异计算。基于所述一个或多个差异计算来确定运动窗口的异常。基于查询活动序列中的检测到的异常运动窗口,输出查询活动序列的标准化评估结果。
Description
技术领域
本公开涉及用于通过使用与物理意义相关联的标准对活动序列进行标准化评估的系统和方法。
背景技术
人类移动的各方面可以对于例如设计工具的方式、布局工作空间的方式或执行任务的方式具有大的影响。理解人体可以如何移动并且与物体和环境交互,可以结果产生更符合人体工程学的工具、导航起来更高效的工作空间以及执行起来更直观的任务。然而,可能的人类运动和姿势的范围是广泛的,并且诸如举起杯子、指向一个方向或转动螺钉之类的简单任务经常由一组复杂的生物力学相互作用产生。简单结果来自复杂移动的这种关系可能使人类运动和姿势极其难以用有意义或实用的方式被量化或理解。
发明内容
在一个或多个说明性示例中,一种用于检测活动序列中的异常运动的系统包括:显示设备;存储器,其被配置成存储运动分析应用和运动捕获数据,所述运动捕获数据包括参考活动序列和查询活动序列;以及处理器,其可操作地连接到存储器和显示设备。处理器被配置成根据查询活动序列生成运动窗口;针对查询活动序列中的运动窗口中的每个,在参考活动序列中找到对应的运动窗口;基于与物理意义相关联的至少一个标准,在查询活动序列的运动窗口与参考活动序列中的对应运动窗口之间执行一个或多个差异计算;根据所述一个或多个差异计算来确定运动窗口的异常;以及向显示设备输出查询活动序列的标准化评估结果,所述标准化评估结果指示查询活动序列中的运动窗口的异常的度量。
在一个或多个说明性示例中,一种用于检测活动序列中的异常运动的方法包括:根据查询活动序列生成运动窗口;针对查询活动序列中的运动窗口中的每个,在参考活动序列中找到对应的运动窗口;基于与物理意义相关联的至少一个标准,在查询活动序列的运动窗口与参考活动序列中的对应运动窗口之间执行一个或多个差异计算;根据所述一个或多个差异计算来确定运动窗口的异常;以及输出查询活动序列的标准化评估结果,所述标准化评估结果指示查询活动序列中的运动窗口的异常的度量。
在一个或多个说明性示例中,一种非暂时性计算机可读介质包括运动分析应用的指令,所述指令当由一个或多个处理器执行时引起所述一个或多个处理器根据查询活动序列生成运动窗口;针对查询活动序列中的运动窗口中的每个,在参考活动序列中找到对应的运动窗口;基于与物理意义相关联的多个标准,在查询活动序列的运动窗口与参考活动序列中的对应运动窗口之间执行多个差异计算,所述差异计算包括取向差异计算和运动时间差异计算;执行所述多个差异计算的融合以确定运动窗口的异常;以及输出查询活动序列的标准化评估结果,所述标准化评估结果指示查询活动序列中的运动窗口的异常的度量,所述标准化评估结果包括被标识为具有异常的运动窗口的指示。
附图说明
图1图示了根据本公开的用于执行活动序列的标准化评估的示例系统;
图2图示了用于与参考活动序列相比来评估查询活动序列的标准化水平的示例过程;
图3图示了用于查询活动序列的运动窗口的示例表示;
图4图示了基于取向差异对运动窗口的异常的示例计算;以及
图5图示了基于运动时间差异对运动窗口的异常的示例计算。
具体实施方式
本文中描述了本公开的实施例。然而,将理解到,公开的实施例仅仅是示例,并且其他实施例可以采取各种以及替换形式。附图不一定是按比例的;一些特征可以被放大或最小化以示出特定部件的细节。因此,本文中公开的具体结构性和功能性细节不应被解释为是限制性的,而仅仅是作为用于教导本领域技术人员以各种方式采用实施例的代表性基础。如本领域普通技术人员将理解的,参考附图中的任何一个来图示和描述的各种特征可以与一个或多个其他附图中图示的特征相组合,以产生未被明确地图示或描述的实施例。图示的特征的组合为典型应用提供了代表性实施例。然而,与本公开的教导相一致的特征的各种组合和修改对于特定的应用或实现可能是期望的。
基于惯性测量单元(IMU)感测数据来理解人类活动在工业中是重要而又具有挑战性的问题。作为为了活动理解的基本主题,在许多情境中,评估人类活动的标准化水平是必要的。例如,在制造厂内部,清楚地理解和评估操作者的装配动作可以导致改进的产品质量管理。然而,用以执行这样的评估的手动检查是劳动密集型的,并且因此开发一种自动评估标准化水平的解决方案是必要的。一些系统可以预先记录标准化操作,并且然后计算每个查询活动序列与参考之间的差异。这样的方案仅仅暗示作为两个活动之间的总体差异的抽象值。此外,为了给结果赋予意义,需要根据运行情境、基于每次的人类输入将值映射到标准化水平。
本公开提出了一种使用来自IMU的时间序列数据来评估人类物理活动的标准化水平的方案。该方案将查询活动序列与给定的参考活动序列进行比较,并且融合考虑了物理运动的多个特性的评估结果。与将活动作为整体来评估并且返回单个数字作为标准化水平的其他系统相比,提出的方案检测活动序列中的异常运动,以便提供局部和细粒度的评估结果。该方案的另一个显著优点是阈值变量可以与物理意义相关联,并且可以针对宽范围的活动而被一般地定义,而在先前的方案中,参数是针对每种情况被手动选择的。
图1是用于执行活动序列的标准化评估的系统100的示例性实施例的示意图。系统100可以定量地计算移动的准确度,例如从规定的运动或姿势的偏离以及从完成的目标时间段的偏离。系统100包括处理器102,处理器102可操作地连接到存储器110、输入设备118、运动捕获设备120和显示设备108。如下面更详细描述的,在操作期间,系统100(i)例如从存储器110、输入设备118或另一个源接收包括参考活动序列和查询活动序列的运动捕获数据114,(ii)处理每运动窗口的查询活动序列以与参考活动序列进行比较,(iii)执行多个分析和对所述分析的数据融合,以确定运动窗口的异常,以及(iv)生成计算的标准化评估结果116,其标识查询活动序列的标准化评估和异常运动窗口。
在系统100中,处理器102包括一个或多个集成电路,所述集成电路实现中央处理单元(CPU)104和图形处理单元(GPU)106的功能性。在一些示例中,处理器102是片上系统(SoC),其将CPU 104和GPU 106以及可选地包括例如存储器110、网络设备和定位系统的其他部件的功能性集成到单个集成设备中。在其他示例中,CPU 104和GPU 106经由诸如PCIexpress或另一合适的外围数据连接之类的外围连接设备连接到彼此。在一个示例中,CPU104是商业上可获得的中央处理设备,其实现诸如x86、ARM、Power或MIPS指令集族中的一个的指令集。
GPU 106可以包括用于向显示设备108显示至少二维(2D)和可选的三维(3D)图形的硬件和软件。显示设备108可以包括电子显示屏、投影仪、打印机或重现图形显示的任何其他合适的设备。在一些示例中,处理器102使用GPU 106中的硬件功能性来执行包括驱动程序和其他软件指令的软件程序,以加速本文中描述的人类移动模型的图形描绘的生成和显示以及定量计算的可视化。
在操作期间,CPU 104和GPU 106执行从存储器110检索的存储的程序指令。存储的程序指令包括控制CPU 104和GPU 106的操作以执行本文中描述的操作的软件。
虽然图1将处理器102描绘为包括CPU 104和GPU 106两者,但是替换实施例可以省略GPU 106,例如处理器102可以是如下服务器:所述服务器仅使用CPU 104生成输出可视化数据,并且将输出可视化数据传输到使用GPU 106和显示设备108来显示数据的远程客户端计算设备。附加地,处理器102的替换实施例可以包括微控制器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、数字信号处理器(DSP)或者除了CPU 104和GPU 106之外或作为CPU104和GPU 106的替代物的任何其他合适的数字逻辑设备。
在系统100中,存储器110包括非易失性存储器和易失性存储器设备两者。非易失性存储器包括诸如NAND闪速存储器、磁和光学存储介质之类的固态存储器,或者当系统100去激活或失去电力时保留数据的任何其他合适的数据存储设备。易失性存储器包括静态和动态随机存取存储器(RAM),所述静态和动态随机存取存储器(RAM)在系统100的操作期间存储程序指令和数据,所述程序指令和数据包括运动分析应用112、运动捕获数据114和标准化评估结果116。在一些实施例中,CPU 104和GPU 106均具有对单独的RAM设备(例如,用于CPU 104的DDR SDRAM的变体和用于GPU 106的GDDR、HBM或其他RAM的变体)的访问,而在其他实施例中,CPU 104和GPU 106访问共享存储器设备。存储器110可以存储运动捕获数据114、运动分析应用112和标准化评估结果116以供维护和检索。
输入设备118可以包括使得系统100能够接收运动捕获数据114、运动分析应用112和标准化评估结果116的各种设备中的任何设备。合适的输入设备的示例还包括人机接口输入,诸如键盘、鼠标、触摸屏、语音输入设备等。在一些示例中,系统100将输入设备118实现为从另一个计算机或外部数据存储设备接收数据的网络适配器或外围互连设备,其对于以高效的方式接收大的运动捕获数据114集而言可以是有用的。
显示设备108可以包括电子显示屏、投影仪、打印机或再现系统100基于运动捕获数据114生成的标准化评估结果116的图形显示的任何其他合适的设备。
运动分析应用112包括指令,所述指令当由系统100的处理器102执行时引起系统100执行本文中描述的过程和操作。这些过程和操作包括例如(i)从存储器110、输入设备118或另一个源接收包括参考活动序列和查询活动序列的运动捕获数据114,(ii)处理每运动窗口的查询活动序列以与参考活动序列进行比较,(iii)执行多个分析和对所述分析的数据融合,以确定运动窗口的异常,以及(iv)生成计算的标准化评估结果116,其标识查询活动序列的标准化评估和异常运动窗口。
运动捕获数据114是指代表至少一个被跟踪的项目或该项目的部分随时间的位置的多个记录。例如,运动捕获数据114可以包括以下各项中的一个或多个:身体部位上的参考点随时间或以设置的时间间隔的位置的记录、随时间取得的传感器数据、视频流或已经使用计算机视觉技术被处理的视频流、指示机器随时间的操作状态的数据等。在一些情况下,运动捕获数据114可以包括代表多于一个连续移动的数据。例如,运动捕获数据114可以包括多个组合的运动捕获数据114集的组合。
运动捕获设备120是被配置成生成运动捕获数据114的设备。作为一些非限制性示例,运动捕获设备120可以包括:相机、视觉传感器、红外传感器、超声传感器、加速度计、压力传感器等。运动捕获设备120的一个非限制性示例是用户在执行循环运动时佩戴的一个或一对数字手套。数字手套可以包括如下传感器:所述传感器捕获用户运动以生成被存储在存储器110中的运动捕获数据114。
移动是由操作者执行的动作。参考移动是指移动的基线或规范版本。参考移动可以用作针对其他移动的比较标准,以允许对其他移动与参考移动有多接近进行标识。
出于计算人类运动的准确度的目的,运动捕获数据114一般可以被分类为两个类别中的一个:参考活动序列122,其包括代表参考或基线移动的数据;以及查询活动序列124,其包括代表测试移动的数据,所述测试移动即是将相对于基线移动针对准确度进行比较和定量地评估的移动。
参考活动序列122可以包括从运动捕获设备120接收的运动捕获数据114。所述数据还可以包括经处理的移动数据,诸如例如从原始移动数据收集的帧、步骤、循环和时间信息。在一个示例中,参考移动被表示为具有有序的帧集合的参考活动序列122,所述有序的帧集合中的每个帧包括与参考移动的各个时间间隔相对应的运动捕获数据114。
查询活动序列124还可以包括从运动捕获设备120接收的运动捕获数据114。在一些示例中,运动捕获数据114中的一个移动或多个移动包括将移动分类为参考移动或测试移动的一个标签或多个标签。可以被编程的运动分析应用112被配置成诸如经由输入设备118从用户、或从另一个源接收指令,所述指令用于将一个移动或多个移动分类为参考移动或测试移动。
运动分析应用112可以被编程为将运动捕获数据114分离成个体移动。在一些示例中,运动分析应用112计算对运动捕获数据114成为个体移动的不同可能的分离,并且基于由运动分析应用112计算的准确度来选择分离。
运动分析应用112也可以被编程为将接收到的移动分离成帧,由此“帧”与离散的时间间隔相对应。换言之,移动的每个帧包括运动捕获数据114的如下部分:所述部分与在该移动的时间线的各个间隔期间发生的移动部分相对应。在一些示例中,与个体帧相对应的间隔的持续时间被预设。在一些示例中,基于例如经由输入设备118从用户、或从另一个源接收的指令来设置与个体帧相对应的间隔的持续时间。在一些示例中,参考运动捕获数据114的一个或多个特性来设置与个体帧相对应的间隔的持续时间。例如,在一些实施例中,参考以下各项中的一个或多个来设置与个体帧相对应的间隔的持续时间:参考移动的持续时间、移动的总行进距离、移动内的多个个体运动或姿势、移动速度等。一般而言,帧持续时间的相同间隔用于参考移动以及用于将相对于该参考移动被评估的测试移动两者。
在一些实例中,运动捕获数据114可以作为存储的运动捕获数据的文件从数据存储设备接收。在这样的实例中,运动分析应用112可以将运动捕获数据114中的一个移动或多个移动分离成以供进一步处理的帧。
运动分析应用112还可以将测试移动的帧映射到参考移动的对应帧。在一些示例中,测试移动和参考移动被同步,使得测试移动的帧被映射到时间上对应的参考移动的帧,并且在一些实施例中,测试移动和参考移动在移动内的姿势和运动方面被对齐,使得测试移动的帧被映射到参考移动的帧,所述参考移动的帧关于在移动中被执行的运动和/或姿势的序列相对应。
运动分析应用112可以进一步计算一个测试移动或多个测试移动相对于参考移动的准确度。基于分析,运动分析应用112可以生成标准化评估结果116。标准化评估结果116可以包括指示测试移动与参考移动之间的客观差异量的标准化水平分数。标准化评估结果116可以进一步包括指示与参考移动相比在测试移动内的异常动作的信息。下面详细地描述了标准化评估结果116的生成的另外的方面。
虽然图示的系统100使用并入显示设备108的单个计算设备来示出,但是其他示例系统100可以包括多个计算设备。作为一个示例,处理器102将标准化评估结果116生成为一个或多个数据文件,并且处理器102经由数据网络将标准化评估结果116传输到远程计算设备。远程计算设备然后可以显示输出的标准化评估结果116。在一个非限制性示例中,在服务器计算设备中实现处理器102,该服务器计算设备执行运动分析应用112以实现网络(web)服务器,该网络(web)服务器经由数据网络将标准化评估结果116传输到远程客户端计算设备中的网络(web)浏览器。客户端计算设备实现网络(web)浏览器或其他合适的图像显示软件,以使用客户端计算设备的显示设备108显示从服务器接收的标准化评估结果116。
图2图示了用于与参考活动序列122相比来评估查询活动序列124的标准化水平的示例过程200。如本文中所使用的,运动窗口是如下时间窗口:其具有在该时间窗口中定义的运动。可以根据查询活动序列124来生成运动窗口。然后,对于每次迭代,查询活动序列124中的运动窗口在参考活动序列122中找到对应的运动窗口。随着运动窗口被标识,可以基于一个或多个标准来计算两个运动窗口之间的差异。在一个说明性实现中,基于两个标准——即取向和运动时间——来计算两个运动窗口之间的差异。可以通过融合来自标准的结果而确定运动窗口的最终异常。迭代继续,直到所有运动窗口都被处理。基于检测到的异常运动窗口来计算查询活动序列的标准化评估。如下面更详细地讨论的,可以由系统100的处理器102执行过程200。
更具体地,在操作202处,处理器102接收查询活动序列124和参考活动序列122。在一些示例中,可以从运动捕获设备120接收查询活动序列124和参考活动序列122的运动捕获数据114。例如,运动捕获设备120可以是一组手套(未示出),该组手套当由用户佩戴时被配置成传输运动捕获数据114,该运动捕获数据114代表由每只手的手掌面向的方向给出的用户手部的取向、由每只手关节的关节角度给出的每只手的姿势以及由每只手在三维中的线性加速度给出的移动。在一些示例中,运动捕获设备120可以被配置成经由诸如例如蓝牙、Wi-Fi、无线电传输等之类的无线连接协议与系统100连接。在一些示例中,运动捕获设备120可以包括使用诸如相机或红外跟踪系统之类的光学跟踪系统可跟踪的跟踪点。在一些示例中,运动捕获设备120可以包括诸如按钮或开关之类的一个或多个控件,所述一个或多个控件被配置成以下各项中的一个或多个:引起系统100开始捕获由运动捕获设备120传输的运动捕获数据114,和引起系统100停止捕获运动捕获数据114。在一些示例中,处理器102可以被配置成诸如响应于经由输入设备118接收的来自用户的指令,而将捕获的运动捕获数据114存储在数据存储设备上的数据文件中。
在一些示例中,运动捕获数据114可以作为数据文件从数据存储设备接收。例如,处理器102可以被配置成经由输入设备118接收用户指令,以从数据存储设备上的数据文件加载运动捕获数据114。在一些示例中,从不同的源接收运动捕获数据114的部分。例如,参考活动序列122可以从诸如存储器110之类的数据存储设备上的数据文件加载,而查询活动序列124可以使用运动捕获设备120捕获。
无论源如何,去往过程200的输入都是查询活动序列124和参考活动序列122。在一个或多个实现中,查询活动序列124中的数据包含来自IMU传感器的取向数据。四元数用于表示取向。因而,包括四元数序列的活动序列124可以如等式(1)中所示的那样表示:
其中t标示时间。表示取向信息的四元数数据是用以确定查询活动序列124与参考活动序列122相比的不相似性的基础。
在操作204处,处理器102根据查询活动序列124生成运动窗口。图3图示了用于查询活动序列124的运动窗口的示例300表示。运动窗口可以被称为,其标示以查询活动序列的索引i为中心的窗口。对于查询活动序列124的每个帧,处理器102根据以该帧为中心、具有由参数(例如,时间量、帧的数量等)配置的持续时间的时间窗口来生成运动窗口。对于在所配置参数的范围的两个方向上缺少持续时间的索引处的帧,运动窗口可以被夹在查询活动序列124的边界处。一般而言,如果查询活动序列124包含n个帧,则处理器102根据该查询活动序列124生成n个运动窗口。
如在操作206处所示,处理器102在查询活动序列124和参考活动序列122中找到对应的运动窗口。由于查询活动序列124和参考活动序列122的移动中的高灵活性水平,因此查询活动序列124和参考活动序列122可以被同步,使得可以实现帧级匹配。各种算法可以用于该任务,包括是如下过程的动态时间规整(DTW):通过该过程确定规整路径,以将查询活动序列124和参考活动序列122的去同步部分对齐。匹配算法通常基于序列帧之间的成对距离,在该特定情况下是四元数。在一示例中,使用以下四元数距离,如等式(2)中所示:
给定成对距离的组,处理器102然后标识使得总体距离被最小化的最佳匹配。作为结果,处理器102获得查询活动序列124中的帧与参考活动序列122中的帧之间的匹配。查询活动序列124中的运动窗口的每个帧相应地与其在参考活动序列122中的对应帧相关联。该组对应帧定义了参考活动序列122中的对应运动窗口,其被标示为。
关于差异计算,可以基于一个或多个标准来计算两个运动窗口之间的差异。在一个实现中,基于两个标准——即取向和运动时间——来计算两个运动窗口之间的差异。
如在操作208处所示,处理器102计算取向差异。图4图示了基于取向差异的运动窗口的异常的示例400计算。可以使用上面定义的四元数距离来定义两帧的取向差异,其中q1、q2是包含在帧数据中的四元数值。类似地,可以基于两个运动窗口中的所有帧之间的差异来计算两个运动窗口之间的取向差异。然而,即使对于相同的运动,移动也经常可以展现出大的取向变化。为了适应这样的可变性,选择成对距离的中值来表示两个运动窗口的距离。如果中值在预定义的阈值以上,则基于取向差异,来自查询活动序列的运动窗口被确定为异常。
如在操作210处所示,处理器102计算运动时间差异。图5图示了基于运动时间差异的运动窗口的异常的示例500计算。运动窗口的持续时间是标准化水平的另一个强大指示符。本发明考虑了两个运动窗口的运动时间差异。运动窗口的长度被定义为运动窗口中的帧的数量。如果两个运动窗口——即查询活动序列中的运动窗口和参考活动序列中的配对物——之间的长度差异大于某个阈值,则认为运动窗口异常。
在操作212处执行用以确定运动窗口的异常的差异的融合。在一示例中,通过融合来自多个标准的结果来确定运动窗口的异常。在一些实现中,以图示的示例继续,基于两个标准——即取向和运动时间——来计算两个运动窗口之间的差异。作为一个可能性,如果满足任何标准,则运动窗口被标识为异常。
在操作214处,处理器102确定是否有任何附加的运动窗口需要处理。如果是,则控制返回到操作206。如果已经处理了所有的运动窗口,则控制转到操作216。
在216处,一旦评估了查询活动序列中的所有运动窗口,处理器102就基于序列中检测到的异常运动窗口来计算该序列的标准化评估结果116。一个方法是要通过计算异常运动窗口与运动窗口总数量的比率来给出查询活动序列124的标准化水平分数。该分数可以如等式(3)中所示的那样计算:
其中:
因而,公开的方法提供了通过检测查询活动序列124内部的异常运动来自动评估查询活动序列124的标准化水平的解决方案。该方案对于利用IMU进行人类活动(包括但不限于特定的手部运动)异常检测和标准化评估的任何系统可以是有用的。
本文中公开的过程、方法或算法可以可交付给处理设备、控制器或计算机/由处理设备、控制器或计算机实现,所述处理设备、控制器或计算机可以包括任何现有的可编程电子控制单元或专用电子控制单元。类似地,所述过程、方法或算法可以以许多形式被存储为由控制器或计算机可执行的数据和指令,所述数据和指令包括但不限于:被永久地存储在不可写存储介质(诸如ROM设备)上的信息以及被可更改地存储在可写存储介质(诸如软盘、磁带、CD、RAM设备以及其他的磁和光学介质)上的信息。所述过程、方法或算法也可以在软件可执行对象中实现。替换地,可以使用诸如以下各项的合适的硬件部件来整体或部分地体现所述过程、方法或算法:专用集成电路(ASIC)、现场可编程门阵列(FPGA)、状态机、控制器或其他硬件部件或设备,或者硬件、软件和固件部件的组合。
虽然上面描述了示例性实施例,但是这些实施例不旨在描述通过权利要求书所包含的所有可能的形式。说明书中使用的词语是描述的词语,而不是限制的词语,并且应当理解,在不脱离本公开的精神和范围的情况下,可以进行各种改变。如先前所述,各种实施例的特征可以被组合以形成可能未被明确地描述或图示的本发明的另外实施例。虽然各种实施例可能已被描述为在一个或多个期望的特性方面提供优势或者优选于其他实施例或现有技术实现,但是本领域普通技术人员认识到,一个或多个特征或特性可以取决于具体的应用和实现而被折衷,以实现期望的总体系统属性。这些属性可以包括但不限于成本、强度、耐用性、生命周期成本、可销售性、外观、包装、大小、可维护性、重量、可制造性、易于装配等。照此,在任何实施例被描述为在一个或多个特性方面不如其他实施例或现有技术实现那样合期望的程度上,这些实施例不在本公开的范围之外,并且对于特定的应用可以是合期望的。
Claims (20)
1.一种用于检测活动序列中的异常运动的系统,包括:
显示设备;
存储器,其被配置成存储运动分析应用和运动捕获数据,所述运动捕获数据包括参考活动序列和查询活动序列;以及
处理器,其可操作地连接到存储器和显示设备,并且被配置成执行运动分析应用,以:
根据查询活动序列生成运动窗口;
针对查询活动序列中的运动窗口中的每个,在参考活动序列中找到对应的运动窗口;
基于与物理意义相关联的至少一个标准,在查询活动序列的运动窗口与参考活动序列中的对应运动窗口之间执行一个或多个差异计算;
根据所述一个或多个差异计算来确定运动窗口的异常;以及
向显示设备输出查询活动序列的标准化评估结果,所述标准化评估结果指示查询活动序列中的运动窗口的异常的度量。
2.根据权利要求1所述的系统,其中,所述一个或多个差异计算包括取向差异计算和运动时间差异计算,并且根据所述一个或多个差异计算来确定运动窗口的异常包括执行取向差异计算和运动时间差异计算的结果的融合。
3.根据权利要求1所述的系统,其中,如果满足所述一个或多个差异计算的任何标准,则标准化评估结果指示运动窗口的异常。
4.根据权利要求1所述的系统,其中,处理器进一步被配置成执行运动分析应用,以向显示设备输出被标识为具有异常的任何运动窗口。
5.根据权利要求1所述的系统,其中,处理器进一步被配置成执行运动分析应用,以:
计算异常运动窗口与运动窗口总数量的比率;以及
将所述比率包括在标准化评估结果中。
6.根据权利要求1所述的系统,其中,参考活动序列和查询活动序列包括表示取向信息的四元数值,并且处理器进一步被配置成执行运动分析应用,以:
根据四元数距离获得参考活动序列与查询活动序列的运动窗口之间的取向差异;以及
根据超过预定义的阈值的取向差异,将查询活动序列的运动窗口标识为具有异常。
7.根据权利要求1所述的系统,其中,处理器进一步被配置成执行运动分析应用,以:
根据参考活动序列与查询活动序列的运动窗口之间的长度的差异来标识运动时间差异;以及
根据超过预定义阈值的长度的差异,将查询活动序列的运动窗口标识为具有异常。
8.根据权利要求1所述的系统,其中查询活动序列包括多个帧,并且处理器进一步被配置成执行运动分析应用,以针对查询活动序列的每个帧,生成运动窗口作为以所述帧为中心、具有预定义参数的持续时间的时间窗口。
9.一种用于检测活动序列中的异常运动的方法,包括:
根据查询活动序列生成运动窗口;
针对查询活动序列中的运动窗口中的每个,在参考活动序列中找到对应的运动窗口;
基于与物理意义相关联的至少一个标准,在查询活动序列的运动窗口与参考活动序列中的对应运动窗口之间执行一个或多个差异计算;
根据所述一个或多个差异计算来确定运动窗口的异常;以及
输出查询活动序列的标准化评估结果,所述标准化评估结果指示查询活动序列中的运动窗口的异常的度量。
10.根据权利要求9所述的方法,其中,所述一个或多个差异计算包括取向差异计算和运动时间差异计算,并且进一步包括通过执行取向差异计算与运动时间差异计算的结果的融合,根据所述一个或多个差异计算来确定运动窗口的异常。
11.根据权利要求9所述的方法,其中,如果满足所述一个或多个差异计算的任何标准,则标准化评估结果指示运动窗口的异常。
12.根据权利要求9所述的方法,进一步包括向显示设备输出被标识为具有异常的任何运动窗口。
13.根据权利要求9所述的方法,进一步包括:
计算异常运动窗口与运动窗口总数量的比率;以及
将所述比率包括在标准化评估结果中。
14.根据权利要求9所述的方法,其中参考活动序列和查询活动序列包括表示取向信息的四元数值,进一步包括:
根据四元数距离获得参考活动序列与查询活动序列的运动窗口之间的取向差异;以及
根据超过预定义阈值的取向差异,将查询活动序列的运动窗口标识为具有异常。
15.根据权利要求9所述的方法,进一步包括:
根据参考活动序列与查询活动序列的运动窗口之间的长度的差异来标识运动时间差异;以及
根据超过预定义阈值的长度的差异,将查询活动序列的运动窗口标识为具有异常。
16.根据权利要求9所述的方法,其中,查询活动序列包括多个帧,并且进一步包括,针对查询活动序列的每个帧,生成运动窗口作为以所述帧为中心、具有预定义参数的持续时间的时间窗口。
17.一种非暂时性计算机可读介质,其包括运动分析应用的指令,所述指令当由一个或多个处理器执行时引起所述一个或多个处理器:
根据查询活动序列生成运动窗口;
针对查询活动序列中的运动窗口中的每个,在参考活动序列中找到对应的运动窗口;
基于与物理意义相关联的多个标准,在查询活动序列的运动窗口与参考活动序列中的对应运动窗口之间执行多个差异计算,所述差异计算包括取向差异计算和运动时间差异计算;
执行所述多个差异计算的融合以确定运动窗口的异常;以及
输出查询活动序列的标准化评估结果,所述标准化评估结果指示查询活动序列中的运动窗口的异常的度量,所述标准化评估结果包括被标识为具有异常的运动窗口的指示。
18.根据权利要求17所述的介质,进一步包括运动分析应用的指令,所述指令当由一个或多个处理器执行时引起所述一个或多个处理器:
计算异常运动窗口与运动窗口总数量的比率;以及
将所述比率包括在标准化评估结果中。
19.根据权利要求17所述的介质,其中参考活动序列和查询活动序列包括表示取向信息的四元数值,并且进一步包括运动分析应用的指令,所述指令当由一个或多个处理器执行时引起所述一个或多个处理器:
根据四元数距离获得参考活动序列与查询活动序列的运动窗口之间的取向差异;以及
根据超过预定义阈值的取向差异,将查询活动序列的运动窗口标识为具有异常。
20.根据权利要求17所述的介质,进一步包括运动分析应用的指令,所述指令当由一个或多个处理器执行时引起所述一个或多个处理器:
根据参考活动序列与查询活动序列的运动窗口之间的长度的差异来标识运动时间差异;以及
根据超过预定义阈值的长度的差异,将查询活动序列的运动窗口标识为具有异常。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/236,790 US11199561B2 (en) | 2018-12-31 | 2018-12-31 | System and method for standardized evaluation of activity sequences |
US16/236790 | 2018-12-31 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111402287A true CN111402287A (zh) | 2020-07-10 |
Family
ID=71079858
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911392634.5A Pending CN111402287A (zh) | 2018-12-31 | 2019-12-30 | 用于活动序列的标准化评估的系统和方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11199561B2 (zh) |
CN (1) | CN111402287A (zh) |
DE (1) | DE102019219485A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023275967A1 (ja) * | 2021-06-29 | 2023-01-05 | 日本電信電話株式会社 | 異常判定装置、異常判定方法、及び異常判定プログラム |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020144835A1 (ja) * | 2019-01-11 | 2020-07-16 | ソニー株式会社 | 情報処理装置および情報処理方法 |
US20220260608A1 (en) * | 2021-02-16 | 2022-08-18 | Ssam Sports, Inc. | Power and bandwidth management for inertial sensors |
CN113222013A (zh) * | 2021-05-11 | 2021-08-06 | 山西晟视汇智科技有限公司 | 一种多系统差异数据巡检方法、系统和存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120004887A1 (en) * | 2009-12-22 | 2012-01-05 | Panasonic Corporation | Action analysis device and action analysis method |
US20170169574A1 (en) * | 2015-12-10 | 2017-06-15 | Microsoft Technology Licensing, Llc | Motion detection of object |
US20180070864A1 (en) * | 2016-06-02 | 2018-03-15 | Matthew Schuster | Methods and devices for assessing a captured motion |
US20180167260A1 (en) * | 2016-12-13 | 2018-06-14 | Lightbend, Inc. | Resource and Metric Ranking by Differential Analysis |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR0121162B1 (ko) * | 1992-05-20 | 1997-11-18 | 구자홍 | 디지탈 티브이의 영상움직임 보상장치 |
DE4322343C2 (de) * | 1992-07-06 | 1996-10-02 | Mitsubishi Electric Corp | Mittel zum Erfassen eines Bewegungsvektors und Verfahren zum Bestimmen eines Bewegungsvektors |
CN1194047A (zh) * | 1995-03-22 | 1998-09-23 | 德国Idt国际数字技术有限公司 | 在多帧幅上协调确定移动的方法和设备 |
US9597016B2 (en) * | 2012-04-27 | 2017-03-21 | The Curators Of The University Of Missouri | Activity analysis, fall detection and risk assessment systems and methods |
KR101932535B1 (ko) * | 2012-08-27 | 2018-12-27 | 한화테크윈 주식회사 | 실내 감시 시스템 및 실내 감시 방법 |
US10740358B2 (en) * | 2013-04-11 | 2020-08-11 | Oracle International Corporation | Knowledge-intensive data processing system |
WO2015195765A1 (en) * | 2014-06-17 | 2015-12-23 | Nant Vision, Inc. | Activity recognition systems and methods |
US9830516B1 (en) * | 2016-07-07 | 2017-11-28 | Videoken, Inc. | Joint temporal segmentation and classification of user activities in egocentric videos |
US10462633B2 (en) * | 2017-03-10 | 2019-10-29 | Qualcomm Incorporated | Bluetooth based motion detection systems |
US20190138880A1 (en) * | 2017-11-03 | 2019-05-09 | Drishti Technologies, Inc. | Workspace actor selection systems and methods |
US10594940B1 (en) * | 2018-01-12 | 2020-03-17 | Vulcan Inc. | Reduction of temporal and spatial jitter in high-precision motion quantification systems |
US10609440B1 (en) * | 2018-06-08 | 2020-03-31 | Amazon Technologies, Inc. | Timing data anomaly detection and correction |
-
2018
- 2018-12-31 US US16/236,790 patent/US11199561B2/en active Active
-
2019
- 2019-12-12 DE DE102019219485.0A patent/DE102019219485A1/de active Pending
- 2019-12-30 CN CN201911392634.5A patent/CN111402287A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120004887A1 (en) * | 2009-12-22 | 2012-01-05 | Panasonic Corporation | Action analysis device and action analysis method |
US20170169574A1 (en) * | 2015-12-10 | 2017-06-15 | Microsoft Technology Licensing, Llc | Motion detection of object |
US20180070864A1 (en) * | 2016-06-02 | 2018-03-15 | Matthew Schuster | Methods and devices for assessing a captured motion |
US20180167260A1 (en) * | 2016-12-13 | 2018-06-14 | Lightbend, Inc. | Resource and Metric Ranking by Differential Analysis |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023275967A1 (ja) * | 2021-06-29 | 2023-01-05 | 日本電信電話株式会社 | 異常判定装置、異常判定方法、及び異常判定プログラム |
Also Published As
Publication number | Publication date |
---|---|
DE102019219485A1 (de) | 2020-07-02 |
US20200209277A1 (en) | 2020-07-02 |
US11199561B2 (en) | 2021-12-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111402287A (zh) | 用于活动序列的标准化评估的系统和方法 | |
EP3800618B1 (en) | Systems and methods for simultaneous localization and mapping | |
CN107428004B (zh) | 对象数据的自动收集和标记 | |
US20190126484A1 (en) | Dynamic Multi-Sensor and Multi-Robot Interface System | |
US20190065872A1 (en) | Behavior recognition apparatus, learning apparatus, and method and program therefor | |
JP6159179B2 (ja) | 画像処理装置、画像処理方法 | |
US9805265B2 (en) | Surveillance camera control device and video surveillance system | |
JP6783713B2 (ja) | 人行動推定システム | |
JP6897037B2 (ja) | 作業性評価装置 | |
US20110199461A1 (en) | Flow line production system, flow line production device, and three-dimensional flow line display device | |
EP4005186B1 (en) | Provision of a mixed reality service | |
RU2700246C1 (ru) | Способ и система захвата объекта с помощью роботизированного устройства | |
KR101872907B1 (ko) | 듀얼 스마트 밴드를 이용한 모션 분석 장치 및 방법 | |
US10860845B2 (en) | Method and system for automatic repetitive step and cycle detection for manual assembly line operations | |
Andrianakos et al. | An approach for monitoring the execution of human based assembly operations using machine learning | |
JPWO2018154709A1 (ja) | 動作学習装置、技能判別装置および技能判別システム | |
JP2022103189A (ja) | 作業現場監視装置、作業現場監視システム、作業現場監視方法およびプログラム | |
WO2010143361A1 (ja) | 作業認識システム、作業認識装置および作業認識方法 | |
KR20150133585A (ko) | 3차원 영상의 단면 탐색 시스템 및 방법 | |
CN111385813B (zh) | 用于重复活动序列中的循环持续时间测量的系统和方法 | |
JP2009211563A (ja) | 画像認識装置、画像認識方法、画像認識プログラム、ジェスチャ動作認識システム、ジェスチャ動作認識方法、及びジェスチャ動作認識プログラム | |
Postawa et al. | Automated image based recognition of manual work steps in the remanufacturing of alternators | |
JPWO2021130978A1 (ja) | 動作分析システムおよび動作分析プログラム | |
JP2009216480A (ja) | 三次元位置姿勢計測方法および装置 | |
TWI581765B (zh) | 運動軌跡感測系統及其運動軌跡收集方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |