CN107851113A - 被配置为基于从表演传感器单元导出的用户表演属性来实现对媒体数据的自动分类和/或搜索的框架、设备和方法 - Google Patents

被配置为基于从表演传感器单元导出的用户表演属性来实现对媒体数据的自动分类和/或搜索的框架、设备和方法 Download PDF

Info

Publication number
CN107851113A
CN107851113A CN201680040408.9A CN201680040408A CN107851113A CN 107851113 A CN107851113 A CN 107851113A CN 201680040408 A CN201680040408 A CN 201680040408A CN 107851113 A CN107851113 A CN 107851113A
Authority
CN
China
Prior art keywords
data
technical ability
performance
user
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201680040408.9A
Other languages
English (en)
Inventor
达伦·弗里格
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Gn Ltd By Share Ltd
Original Assignee
Gn Ltd By Share Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from AU2015901669A external-priority patent/AU2015901669A0/en
Priority claimed from PCT/AU2016/000020 external-priority patent/WO2016123648A1/en
Application filed by Gn Ltd By Share Ltd filed Critical Gn Ltd By Share Ltd
Publication of CN107851113A publication Critical patent/CN107851113A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/71Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/003Repetitive work cycles; Sequence of movements
    • G09B19/0038Sports
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0003Analysing the course of a movement or motion sequences during an exercise or trainings sequence, e.g. swing for golf or tennis
    • A63B24/0006Computerised comparison for qualitative assessment of motion sequences or the course of a movement
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0062Monitoring athletic performances, e.g. for determining the work of a user on an exercise apparatus, the completed jogging or cycling distance
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B69/00Training appliances or apparatus for special sports
    • A63B69/36Training appliances or apparatus for special sports for golf
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B71/00Games or sports accessories not covered in groups A63B1/00 - A63B69/00
    • A63B71/06Indicating or scoring devices for games or players, or for other sports activities
    • A63B71/0619Displays, user interfaces and indicating devices, specially adapted for sport equipment, e.g. display mounted on treadmills
    • A63B71/0622Visual, audio or audio-visual systems for entertaining, instructing or motivating the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/73Querying
    • G06F16/738Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/7867Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, title and artist information, manually generated time, location and usage information, user ratings
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B15/00Teaching music
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/04Speaking
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B5/00Electrically-operated educational appliances
    • G09B5/06Electrically-operated educational appliances with both visual and audible presentation of the material to be studied
    • G09B5/065Combinations of audio and video presentations, e.g. videotapes, videodiscs, television systems
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B5/00Electrically-operated educational appliances
    • G09B5/08Electrically-operated educational appliances providing for individual presentation of information to a plurality of student stations
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0003Analysing the course of a movement or motion sequences during an exercise or trainings sequence, e.g. swing for golf or tennis
    • A63B24/0006Computerised comparison for qualitative assessment of motion sequences or the course of a movement
    • A63B2024/0012Comparing movements or motion sequences with a registered reference
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2220/00Measuring of physical parameters relating to sporting activity
    • A63B2220/10Positions
    • A63B2220/12Absolute positions, e.g. by using GPS
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2220/00Measuring of physical parameters relating to sporting activity
    • A63B2220/62Time or time measurement used for time reference, time stamp, master time or clock signal
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2220/00Measuring of physical parameters relating to sporting activity
    • A63B2220/80Special sensors, transducers or devices therefor
    • A63B2220/803Motion sensors
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2220/00Measuring of physical parameters relating to sporting activity
    • A63B2220/80Special sensors, transducers or devices therefor
    • A63B2220/83Special sensors, transducers or devices therefor characterised by the position of the sensor
    • A63B2220/836Sensors arranged on the body of the user
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2225/00Miscellaneous features of sport apparatus, devices or equipment
    • A63B2225/50Wireless data transmission, e.g. by radio transmitters or telemetry
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2244/00Sports without balls
    • A63B2244/12Acrobats
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B69/00Training appliances or apparatus for special sports
    • A63B69/002Training appliances or apparatus for special sports for football
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B69/00Training appliances or apparatus for special sports
    • A63B69/06Training appliances or apparatus for special sports for rowing or sculling

Abstract

本申请总体涉及管理媒体。在一些实施例中,时间编码的技能表演事件数据是从包括多个运动传感器单元(MSU)(诸如具有MSU功能的服装)的最终用户硬件中导出的。处理来自MSU的数据以识别表示特定的预定义的基于身体运动的技能的表演事件。这允许响应于已经表演并捕获的特定技能的存在而对视频数据进行自动分类和/或识别。

Description

被配置为基于从表演传感器单元导出的用户表演属性来实现 对媒体数据的自动分类和/或搜索的框架、设备和方法
技术领域
本发明涉及基于从一个或多个表演传感器单元(例如,被配置为监测基于运动的表演和/或基于音频的表演的表演传感器单元)导出的数据来管理内容。本发明的实施例包括与这类内容的生成、分发和执行相关联的软件和硬件以及相关联的方法。本文描述的技术特别关注于基于从表演传感器单元导出的用户表演属性来对媒体数据进行自动分类和/或搜索。
背景技术
在整个说明书中对背景技术的任何讨论绝不应被视为承认这样的技术是众所周知的或者形成本领域公知常识的一部分。
与获取活动(如体育活动)的视频数据相关联的可用性和易用性方面的进步使得媒体设备的流行度和利用率显著上升。不仅存在与影像相关的显著的娱乐价值(例如在在线分发媒体以用于社交媒体消费的情况下),还存在可以通过对这些活动执行视频分析获得的大量的知识和价值。例如,这通常用于体育团队进行赛事回顾会议,其中运动员参与回顾显示过去表演的视频数据。
所产生的视频数据量远远超过实际感兴趣的视频数据量。例如,在十分钟的影像中,可能实际感兴趣的给定场景中的影像只有十秒钟。通常,通过采取将日志数据与视频数据相关联的步骤,来识别关键时刻,并帮助观看者(例如教练、运动员或其他感兴趣的观看者)识别显示特定伪影的画面。这通常是手动过程。
发明内容
至少在一些实施例中,本发明的目的是克服或改善现有技术的至少一个缺点、或提供有用的替代方案。
提供了以下概述实施例的集合以基于以下具体实施方式中公开的技术方面的选择来预示潜在的专利权利要求。这些概述实施例的集合并不旨在以任何方式限制可能要求的权利要求的范围。
一个实施例提供了一种用于管理媒体内容的计算机实现的方法,该方法包括;接收时间编码的技能表演事件数据,其中给定实例的时间编码的技能表演事件数据表示对多个预定义的基于身体运动的技能中的特定的一个技能的身体表演,其中,技能表演事件数据是基于对从包括多个运动传感器单元(MSU)的最终用户硬件中导出的数据的处理而被定义的,其中最终用户硬件预先被操作来下载包括状态引擎数据的数据,其中状态引擎数据将最终用户硬件配置为基于从多个MSU导出的运动传感器数据(MSD)识别表示多个预定义的基于身体运动的技能中的至少特定的一个技能的表演事件;访问一个或多个视频源,其中一个或多个视频源与时间编码的技能表演数据相关联;以及基于时间码相关性来识别来自一个或多个视频源中的每个视频源的视频数据中与时间编码的技能表演数据相对应的相应部分;从而使得能够识别视频数据中与各个特定实例的时间编码的技能表演数据相对应的部分。
一个实施例提供了一种用于提供对视频数据中用户期望的部分的访问的方法,该方法包括:维护对一个或多个视频数据储存库的访问,其中视频数据储存库被配置为与时间编码的技能表演事件数据相关联;维护对一个或多个时间编码的技能表演事件数据储存库的访问,其中给定实例的时间编码的技能表演事件数据表示多个预定义的基于身体运动的技能中的特定的一个技能的身体表演,其中技能表演事件数据是基于对从包括多个运动传感器单元(MSU)的最终用户硬件中导出的数据的处理来定义的,其中最终用户硬件预先被操作来下载包括状态引擎数据的数据,其中状态引擎数据将最终用户硬件配置为基于从多个MSU导出的运动传感器数据(MSD)识别表示多个预定义的基于身体运动的技能中的至少特定的一个技能的表演事件;提供查询界面,该查询界面被配置为使得用户能够定义和提交用户查询,其中用户查询是基于一个或多个技能表演事件数据属性值来定义的;响应于接收到用户查询:(i)识别满足查询的一个或多个实例的技能表演事件数据;(ii)识别视频数据中与所识别出的实例的技能表演事件数据相关联的部分;以及响应于查询,传送被配置为使得用户能够访问以查看视频数据中被识别出的部分的数据。
一个实施例提供了一种用于提供对视频数据中用户期望的部分的访问的方法,该方法包括:维护对一个或多个视频数据储存库的访问,其中视频数据表示在定义的捕获时间期间在定义的捕获区域中捕获的视频;维护对与一个或多个识别的具有MSU功能的服装的用户相关联的一个或多个时间编码的技能表演事件数据储存库的访问,其中,一个或多个具有MSU功能的服装的用户被识别为在定义的捕获时间期间存在于定义的捕获区域;提供查询界面,查询界面被配置为使得用户能够定义和提交用户查询,其中用户查询是基于一个或多个技能表演事件数据属性值来定义的;响应于接收到用户查询:(i)识别满足查询的一个或多个实例的技能表演事件数据;(ii)识别视频数据中与所识别出的实例的技能表演事件数据相关联的部分;以及响应于查询,传送被配置为使得用户能够访问以查看视频数据中被识别出的部分的数据。
一个实施例提供了一种用于管理媒体数据的计算机实现的方法,该方法包括:接收时间编码的技能表演事件数据,其中给定实例的时间编码的技能表演事件数据表示多个预定义的基于身体运动的技能中的特定的一个技能的身体表演,其中技能表演事件数据是基于对从包括至少一个表演传感器单元(PSU)的最终用户硬件中导出的数据的处理来定义的;访问一个或多个视频源,其中一个或多个视频源与时间编码的技能表演数据相关联;以及基于时间码相关性来识别来自一个或多个视频源中的每个视频源的视频数据中与时间编码的技能表演数据相对应的相应部分;从而使得能够识别视频数据中与实例的时间编码的技能表演数据相对应的相应部分。
一个实施例提供了一种用于管理媒体数据的计算机实现的方法,该方法包括:接收时间编码的技能表演事件数据,其中给定实例的时间编码的技能表演事件数据表示多个预定义的基于身体运动的技能中的特定的一个技能的身体表演,其中技能表演事件数据是基于对从包括至少一个表演传感器单元(PSU)的最终用户硬件中导出的数据的处理来定义的;访问一个或多个视频源,其中一个或多个视频源与时间编码的技能表演数据相关联;以及基于时间码相关性来识别来自一个或多个视频源中的每个视频源的视频数据中与时间编码的技能表演数据相对应的相应部分;从而使得能够同时渲染视频数据中带有从相应实例的时间编码的技能表演数据导出的图形数据的相应部分。
一个实施例提供了一种用于提供对视频数据中用户期望的部分的访问的方法,该方法包括:维护对一个或多个视频数据储存库的访问,其中视频数据的储存库被配置为与一组表演事件相关联;维护对一个或多个表演属性数据储存库的访问,其中,表演属性数据是从多个用户各自穿戴着的运动传感器单元集合中导出的,并且其中表演属性数据还被配置为与一组表演事件相关联;提供被配置为使得用户能够定义和提交用户查询的查询界面,其中用户查询是基于一个或多个表演属性值来定义的;响应于接收到用户查询:(i)识别表演属性数据中满足查询的一个或多个表演事件;和(ii)识别与视频数据中与所识别出的表演事件相关联的部分;以及响应于查询,传送被配置为使得用户能够访问以查看视频数据中被识别出的部分的数据。
一个实施例提供了一种用于提供对视频数据中用户期望的部分的访问的方法,该方法包括:维护对一个或多个视频数据储存库的访问,其中视频数据表示在定义的捕获时间期间在定义的捕获区域中捕获的视频;维护对与一个或多个识别的具有MSU功能的服装的用户相关联的一个或多个时间编码的技能表演事件数据存储库的访问,其中,一个或多个具有MSU功能的服装的用户被识别为在定义的捕获时间期间存在于定义的捕获区域;使得同时渲染:(i)表示给定实例的技能表演事件数据的图形数据;和(ii)视频数据;从而使得关于正在表演的技能的信息与表示技能的表演的视频数据一起被示出。
一个实施例提供了用于执行如本文所述的方法的计算机程序产品。
一个实施例提供用于携带计算机可执行代码的非暂态载体介质,当计算机可执行代码在处理器上被执行时,使得处理器执行如本文所述的方法。
一个实施例提供了一种被配置用于执行如本文所述的方法的系统。
在整个本说明书中对“一个实施例”、“一些实施例”或“实施例”的引用表示结合实施例描述的特定特征、结构或特性被包括在本发明的至少一个实施例中。因此,整个本说明书的各个地方中短语“在一个实施例中”、“在一些实施例中”或“在实施例中”的出现不一定全部指代同一实施例,但是可以指代同一实施例。此外,在一个或多个实施例中,可以以任何合适的方式组合特定的特征、结构或特性,如根据本公开对本领域普通技术人员将显而易见的。
如本文所使用的,除非另有规定,否则使用序数形容词“第一”、“第二”、“第三”等来描述同类对象仅表示被指代的相似对象的不同实例,并且不旨在隐含如此描述的对象必须在时间上、空间上、排名上、或以任何其它方式按照给定的顺序。
在下面的权利要求和本文的描述中,术语包括、包含或其包括中的任何一个是开放式术语,其表示至少包括随后的元素/特征,但不排除其它元素/特征。因此,术语包括当在权利要求中使用时,不应被解释为对其后列出的装置或元素或步骤的限制。例如,包括A和B的设备的表达的范围不应限于仅由元素A和B组成的设备。术语包含或其包含或如本文所使用的包含中的任何一个也是开放式术语,其也表示至少包括该术语之后的元素/特征,但不排除其它元素/特征。因此,包含是包括的同义词,并且包含表示包括。
如本文所使用的,术语“示例性的”用于提供示例的意义,而不是指示质量。也就是说,“示例性实施例”是作为示例提供的实施例,而不一定是示例性质量的实施例。
PCT/AU2016/000020的内容通过交叉引用被整体合并于此。
附图说明
现在将参考附图仅通过示例的方式描述本发明的实施例,其中:
图1A示意性地示出了根据一个实施例的被配置为实现对内容的生成和传送的框架。
图1B示意性地示出了根据另一实施例的被配置为实现对内容的生成和传送的框架。
图2A示出了根据一个实施例的技能分析方法。
图2B示出了根据一个实施例的技能分析方法。
图2C示出了根据一个实施例的技能分析方法。
图2D示出了根据一个实施例的技能分析方法。
图2E示出了根据一个实施例的技能分析方法。
图3示出了根据一个实施例的用户界面的用户界面显示视图。
图4A示出了根据一个实施例的媒体管理方法。
图4B示出了根据一个实施例的媒体管理方法。
图5示出了根据一个实施例的SIM分析方法。
图6示出了根据一个实施例的SIM分析方法。
图7示出了根据一个实施例的ODC验证方法。
图8示意性地示出了根据一个实施例的示例性实施方式。
图9A示出了包括服务器端和客户端组件的示例框架。
图9B示出了包括服务器端和客户端组件的另一示例框架。
图9C示出了包括服务器端和客户端组件的另一示例框架。
图9D示出了包括服务器端和客户端组件的另一示例框架。
图10A示出了示例框架的操作。
图10B示出另一示例框架的操作。
图10C示出另一示例框架的操作。
图11示出了示例操作方法。
图12A示出了根据一个实施例的表演分析设备。
图12B示出了根据一个实施例的表演分析设备。
图12C示出了根据一个实施例的表演分析设备。
图12D示出了根据一个实施例的表演分析设备。
图12E示出了根据一个实施例的具有MSU功能的服装布置。
图12F示出了根据一个实施例的具有示例连接设备的具有MSU功能的服装布置。
图12G示出了根据一个实施例的具有示例连接设备的具有MSU功能的服装布置。
图12H示出了根据一个实施例的MSU。
图12I示出了根据一个实施例的MSU和壳体。
具体实施方式
本文描述的实施例涉及技术框架,由此使用表演传感器单元(PSU)来监测用户技能表演,并且处理从这些PSU得到的数据,从而确定用户技能表演的属性。例如,对表演的属性的识别用于驱动计算机进程,例如本文所描述的计算机进程。
本文描述的技术有关于在PCT/AU2016/000020(其通过交叉引用被整体合并于此并且提供有关支持技术方面的有用内容和附加细节)中描述的技术。更具体地,本文描述的框架使用PSU来收集表示表演属性的数据,并使用该数据来实现下游处理的目的。这些目的可能包括技能培训目的(在PCT/AU2016/000020中进行了详细描述)和其他目的。这里特别考虑的目的是管理媒体数据,特别是视频数据。就此而言,本文所述的媒体管理功能可以结合技能训练来提供或者独立于技能训练来提供。
技能表演的性质在实施例之间是不同的,以下两个一般类别用于本文考虑的示例的目的:
·基于人类运动的技能表演。这些是其中人类运动属性表示技能的典型特性的表演。例如,基于运动的表演基本上包括涉及表演者的身体的运动的任何身体技能。一类重要的基于运动的表演是体育活动中使用的技能的表演。
·基于音频的技能表演。这些是其中可听见-可感知的属性表示技能的典型特性的表演。例如,基于音频的技能表演包括音乐和/或语言表演。一类重要的基于音频的表演是与演奏乐器相关联的技能的表演。
虽然以下提供的示例主要集中在基于运动的技能表演的相对在技术上更具挑战性的情况,但是应该理解的是,在基于运动的技能方面所应用的原理很容易应用于其它情况。例如,在从PSU接收的数据中使用可观测数据条件(ODC)的概念在运动、音频和其它形式的表演之间同样适用。
术语
为了下述实施例的目的,使用以下术语:
·表演传感器单元(PSU)。表演传感器单元是被配置为响应于对身体表演的监测而生成数据的硬件设备。这里主要考虑被配置用于处理运动数据和音频数据的传感器单元的示例,但应当理解,这些绝不是限制性的示例。
·表演传感器数据(PSD)。由PSU传送的数据被称为表演传感器数据。该数据可以包括来自PSU的完整原始数据或该数据的子集(例如基于压缩、减少的监测、采样速率等)。
·音频传感器单元(ASU)。音频传感器单元是一种PSU,其是被配置为响应于对声音的监测而生成和发送数据的硬件设备。在一些实施例中,ASU被配置为监测声音和/或振动效果,并将它们转换成数字信号(例如MIDI信号)。一个示例是ASU是拾取设备,其包括被配置为捕获弦乐器中的机械振动并将它们融合成电信号的换能器。
·音频传感器数据(ASD)。这是由一个或多个ASU传送的数据。
·运动传感器单元(MSU)。运动传感器单元是一种PSU,其是被配置为响应于运动而生成和发送数据的硬件设备。在大多数情况下,该数据是相对于本地参考系(frame ofreference)定义的。给定的MSU可以包括一个或多个加速度计;从一个或多个磁力计得到的数据;以及从一个或多个陀螺仪得到的数据。优选实施例使用一个或多个3轴加速度计、一个3轴磁力计和一个3轴陀螺仪。运动传感器单元可以是“被穿着的”或“可穿戴的”,这表示其被配置为被安装到人体固定位置(例如经由服装)。
·运动传感器数据(MSD)。由MSU传送的数据被称为运动传感器数据(MSD)。该数据可以包括来自MSU的完整原始数据或该数据的子集(例如基于压缩、减少的监测、采样速率等)。
·具有MSU功能的服装。具有MSU功能的服装是被配置为携带多个MSU的服装(例如衬衫或裤子)。在一些实施例中,MSU可被安装在形成在服装中的限定安装区中(优选地以可移除的方式,使得各个MSU能够被移除和替换)并被耦合到通信线路。
·POD设备。POD设备是接收PSD(例如,来自MSU的MSD)的处理设备。在一些实施例中,它由具有MSU功能的服装携带,并且在其它实施例中,它是单独的设备(例如,在一个实施例中,POD设备是耦合到智能手机的处理设备,并且在一些实施例中POD设备功能由智能手机或移动设备提供)。MSD在某些情况下经由有线连接被接收,并且在某些情况下经由无线连接被接收,并且在某些情况下经由无线和有线连接的组合被接收。如本文所述,POD设备负责处理MSD,从而识别MSD中的数据条件(例如,以使得能够识别一个或多个症状的存在)。在一些实施例中,POD设备的作用全部或部分地由诸如智能手机之类的多用途最终用户硬件设备执行。在一些实施例中,PSD处理的至少一部分由基于云的服务执行。
·运动捕获数据(MCD)。运动捕获数据(MCD)是使用任何可用的运动捕获技术得到的数据。在这方面,“运动捕获”涉及捕获设备用于例如使用被安装到已知位置的对象的视觉标记物来捕获表示运动的数据的技术。一个示例是由Vicon提供的运动捕获技术(但不推测发明人/申请人和Vicon之间的关系)。如下面进一步讨论的,MCD优选地用于提供视觉观测和MSD观测之间的联系。
·技能。在基于运动的活动的上下文中,技能是例如在辅导的上下文中要被观测(视觉上和/或经由MSD)的单个运动(或一组相关联的运动)。技能可以是例如划船运动、特定类别的足球踢出、特定类别的高尔夫挥杆、特定的杂技演习等等。还提及了“子技能”。这主要是为了区分被训练的技能与形成该技能的一部分或者是该技能的构造块的较少的技能。例如,在玩杂耍形式的技能的上下文中,子技能是涉及投掷球并将其捕获在同一只手中的技能。
·症状。症状是能够被观测(例如,在初始技能分析的上下文中在视觉上被观测,并且在最终用户环境的上下文中经由对MSD进行处理而被观测)的技能的属性。在实践中,症状是技能的可观测的运动属性,其与意义相关联。例如,对症状的识别可以触发关于传送自动辅导处理的动作。症状可以在视觉上(在传统辅导的上下文中相关)或经由PSD(在本文讨论的传送自动自适应技能训练的上下文中相关)被观测。
·原因。至少在某些情况下,症状与一个原因相关联(例如,给定的症状可以与一个或多个原因相关联)。在某些情况下,原因还能够在MSD中被观测到,然而这不一定是必需的。从辅导的角度来,一种方法是首先识别症状,然后确定/预测该症状的原因(例如,可以经由对MSD的分析进行确定,并且可以通过除分析MSD之外的方式进行预测)。然后,可以通过辅导反馈来解决所确定/所预测的原因,随后进行后续的表演评估,从而确定辅导反馈是否成功地解决了症状。
·可观测数据条件(ODC)。术语可观测数据条件用于描述能够在PSD(例如MSD(通常基于对ODC或一组预期ODC的存在的监测))中被观测到从而触发下游功能的条件。例如,可以针对给定的症状(或原因)定义ODC;如果在MSD中针对给定表演识别了该ODC,则确定该表演中存在相关症状(或原因)。这然后触发了训练程序中的事件。
·训练程序。术语“训练程序”用于描述经由执行软件指令被传送的交互过程,其向最终用户提供关于如何执行的指令,以及关于如何修改、改善或以其它方式调整其表演的反馈。在下面描述的至少一些实施例中,训练程序是“自适应训练程序”,其是基于规则/逻辑执行的训练程序,该规则/逻辑使得对处理的排序、对选择的反馈和/或训练的其它属性能够基于对相关最终用户的分析(例如,对其表演的分析和/或对诸如心理和/或身体属性之类的个人属性的分析)进行适应。
如下面更详细地描述的,从最终用户产品的角度来看,一些实施例采用下述技术:通过该技术,POD设备被配置为针对给定的表演分析用户的PSD(例如MSD),从而识别被表演的具体技能,并且在一些情况下还识别与该特定技能的表演相关联的症状。
示例端到端框架
图1A提供了由本文所述的一系列实施例利用的端到端框架的高级概述。在图1A的上下文中,利用示例技能分析环境101,从而分析一个或多个技能,并且提供能够生成与这些技能相关的最终用户内容的数据。例如,这在一些实施例中包括分析技能,从而确定能够由PSU识别的ODC(优选与特定技能、技能症状等相关联的ODC)。这些ODC能够在由示例内容生成平台102(例如训练程序)实现的内容生成逻辑内使用。在这方面,生成内容优选地包括定义协议,由此响应于对特定ODC的识别而采取规定的动作。在下面描述的实施例中,内容生成平台102用于为一个或多个计算程序生成规则,从而使得这些程序能够基于PSD(以及在一些情况下基于与那些技能表演相关联的症状)识别已经表演的具体技能。
利用一个或多个技能分析环境和内容生成平台,从而向示例内容管理和传送平台103提供内容。在一些实施例中,该平台由多个联网的服务器设备定义。实质上,平台103的目的是将由内容生成平台生成的可用内容提供给最终用户。在图1A的上下文中,其包括实现内容到示例最终用户设备104的下载。一些实施例中,下载包括内容的初始下载,以及随后对额外所需内容的进一步下载。进一步下载的性质在某些情况下受到用户交互的影响(例如,基于技能训练程序的组件和/或用户选择之间的自适应进展)。本文考虑的下载内容的具体示例是被配置为基于PSD(并且在一些情况下基于与那些技能表演相关联的症状)识别已经表演的特定技能的内容。
示例设备104以具有MSU功能的服装结合用户界面设备(例如,智能手机、耳机、HUD眼镜、视网膜投影设备等)的形式示出,具有MSU功能的服装携带多个MSU和POD设备。
在图1A的示例中,用户从平台103下载内容,并且使得该内容经由设备104被执行。例如,这可以包括使得能够基于PSD监测特定技能(例如与特定形式的身体活动相关的技能,例如滑雪)的表演的内容。在一些实施例中,这是结合图1A的示例提供的。设备104被配置为与包括媒体管理平台105的一个或多个内容交互平台交互。在一些实施例中,媒体管理平台105是(基于网络的和/或通过本地计算硬件提供的)外部平台,其提供与管理媒体内容相关的附加功能,并且特别提供涉及媒体数据(例如视频数据)与通过PSD识别的技能表演的关联的功能,其中所述PSD是经由硬件104的一个或多个实例生成的。
应该理解的是,图1A描绘了技术传送的多个阶段,包括技能分析阶段(该阶段被实施来分析将通过最终用户硬件来识别和进行症状测量的技能)、内容生成和分发(其将来自技能分析阶段的数据处理技术嵌入到软件产品和内容中以供最终用户体验)、以及最终用户传送阶段(其中最终用户硬件被操作以使得能够分析身体表演,从而识别技能和症状)。媒体管理功能主要作为最终用户传送阶段的一部分出现。
媒体管理概述
如上所述,媒体管理平台105提供与管理媒体内容相关的功能。总的来说,PSD被用作允许对媒体内容(例如,视频文件)进行标记和/或分类的基础。更具体地,通过结合在最终用户传送阶段使得能够识别真实世界身体表演中的特定技能和/或症状的技术来使用如本文所述的PSU,定义了时间编码的技能表演事件数据。这对应于实际的身体表演事件。这些也在视频数据中被捕获的事件通过本文所述的技术在视频数据中被自动识别。例如,使用时间相关(以及在一些情况下使用位置相关)的方法来实现对视频数据中包含示出表演事件的影像的部分的自动识别。
实施例包括用于管理媒体数据的计算机实现的方法。这种方法涉及接收时间编码的技能表演事件数据。每个给定实例的时间编码的技能表演事件数据的表示多个预定义的基于身体运动的技能中特定的一个基于身体运动的技能的身体表演。技能表演事件数据是基于对从包括一个或多个MSU的最终用户硬件导出的数据的处理来定义的。为了在下文描述实施例的目的,使用了多个MSU,这些MSU经由具有MSU功能的服装来提供。
时间编码的本质在各实施例之间不同。例如,时间编码可以包括表示活动开始的时间戳、开始和结束时间戳、持续时间信息和/或其它时间信息。此时间信息可以相对于任何可用的时钟设备(例如,POD设备时钟、智能手机时钟等等)来定义。在一些实施例中,智能手机或其他联网设备被配置为周期性地检查用于时间编码的时钟与在线位置处可用的参考时钟之间的关系。
在一些实施例中,最终用户硬件被预先操作(即,在表演技能/活动之前由用户操作)以下载针对技能或活动的数据。该数据包括状态引擎数据和/或传感器配置数据(下文将进行详细地讨论)。总的来说,状态引擎数据将最终用户硬件配置为(基于从多个MSU导出的运动传感器数据(MSD))识别表示特定的一组预定义的基于身体运动的技能的表演事件。例如,用户下载并激活与特定活动(例如诸如网球、滑板、滑雪等的运动)相关的内容,并且该内容包括状态引擎数据,该状态引擎数据被配置为使得能够处理与识别与该活动相关联的一组技能相关的MSU数据(该识别可以发生在最终用户硬件处,或者通过最终用户硬件的处理和服务器端的处理的组合发生)。在一些情况下,用户选择要被监测的特定技能(例如,用户决定他/她将尝试特定的滑雪动作),并激活被配置为针对该特定动作监测MSD的状态引擎数据。
可选地,状态引擎数据具有相关联的传感器配置数据,使得MSU被配置为传送与特定技能或技能集合相关的数据(该数据可以包括取样率、传感器灵敏度设置等等)。优选地,使得最终用户硬件的用户能够:(i)选择将要表演的活动;(ii)使得将状态引擎数据(和传感器配置数据)下载到最终用户硬件,所述状态引擎数据将最终用户硬件配置为基于从多个MSU导出的运动传感器数据(MSD)识别表示与所选活动相关联的多个预定的基于身体运动的技能的表演事件。
尽管一些实施例是通过参考如下方法来描述的:特定于技能的MSD分析的至少一部分基于专为具体的技能集合下载的状态引擎数据和/或传感器配置数据在最终用户数据处被执行,但在另外的实施例中,原始的和/或一般处理的MSD以技能中立方式为基础被传送到服务器进行服务器端的处理。
方法还包括访问一个或多个视频源,其中该一个或多个视频源与时间编码的技能表演数据相关联。也就是说,视频数据具有能够与时间码相关联的时间线(例如使用已知的或经计算的时间变换)。基于与时间编码的技能表演数据的对应关系来识别来自一个或多个视频源中的每个视频源的视频数据中的相应部分(基于时间码相关性)。这使得能够识别视频数据中与各实例的时间编码的技能表演数据相对应的相应部分。
在一些实施例中,时间编码的技能表演事件数据表示包括如下各项的表演属性:(i)针对被表演的定义的基于运动的技能的名称标识符;和(ii)被表演的技能的一个或多个症状。这些症状优选地包括表示与表演影响因素相关联的运动属性的症状(表演影响因素在表演分析的上下文中的作用将在下面进一步详细讨论)。症状也可能表示表演结果,如幅度、速度、力量、准确性等。因此,一个或多个症状基于以下项中的一项或两项来定义:相对于定义的最优表演的技能表演;以及在该技能的表演中观测到的一个或多个基于运动的属性。
通过确定所识别的技能的症状,该方法使得能够搜索技能表演事件,这包括使得能够识别对于特定技能具有指定症状的实例。例如,在实际的示例中,用户可以搜索对于技能X显示症状Y(而不是症状Z)的所有实例。
关于查询,在一些实施例中,该方法包括提供被配置为使得用户能够定义和提交用户查询的查询界面,其中用户查询是基于一个或多个技能表演事件数据属性值来定义的;响应于接收到用户查询:(i)识别技能表演事件数据中满足所述查询的一个或多个实例;(ii)识别视频数据中与所识别出的实例的技能表演事件数据相关联的部分;并且响应于所述查询来传送被配置为使得用户能够访问视频数据中所识别出的部分的数据。
下面描述的实施例涉及被配置为实现媒体管理的技术,包括通过参考期望存在于所捕获的影像中的用户表演的技能,基于该视频数据的内容实现对视频数据的自动分类。技术的关键要素包括:
·允许限定数据分析技术的技术,这些数据分析技术使得能够基于从PSU(具有MSU功能的服装上携带的MSU)导出的数据来识别技能(可选地,以及技能的属性/症状)。例如,这包括定义在MSD中可观测到的ODC,从而用于确定:(i)已经表演的特定技能;和(ii)该技能的表演的症状/属性。术语“症状”和“属性”在本文中通常用作同义词。在这方面,症状可以包括表示表演影响因素的运动的各方面和/或定性的表演结果(例如速度、力量、幅度和/或准确性值)。
·允许处理从最终用户设备导出的PSD(例如MSD)从而识别所表演的技能以及其症状(可选的)的技术。在一些实施例中,该处理的至少一部分发生在最终用户硬件处。例如,状态引擎数据被下载到最终用户硬件,从而将硬件配置为促进监测与特定活动相关联的一组特定技能(例如,使得独立可下载的内容封包可用于滑雪、滑板、橄榄球、高尔夫等等)。在某些情况下,该处理的部分或全部发生在云托管的位置。例如,上传原始的或部分处理的PSD以允许进行集中处理,从而识别技能表演事件(这可以作为基于下载的状态引擎数据的本地处理的替代方案或者与其组合发生)。
·最终用户硬件技术被配置为收集、提供和处理(全部或部分的)PSD,从而使得能够识别技能和症状。
·基于通过最终用户硬件提供的数据来实现对媒体内容的管理的技术允许基于从最终用户硬件的PSU导出的时间编码的表演事件数据在视频数据中自动识别表演事件。
下文还提供了这些技术中的每种技术的示例,另外的示例和细节在PCT/AU2016/000020中被提供。
图1B示出了根据一个实施例的示例性布置。
多个参与者使用具有MSU功能的服装(和相关联的IT基础设施)100。利用这些服装得到的数据被加载到技能表演数据120的储存库中。这可以经由一个或多个中间计算机设备/系统(其可选地执行将数据处理成新的形式的处理)发生。在一些实施例中,数据120(全部或部分)被保持在本地最终用户硬件中。
以类似的方式,从一个或多个捕获设备110导出的数据(再次可选地,经由一个或多个中间计算机设备/系统(其可以执行将数据处理成新的形式的处理))被加载到捕获的视频数据130中。
关联引擎140被配置为使得(例如,基于包括时间和/或位置数据的信息)将技能表演数据中的定义的技能表演事件与所捕获的视频数据的部分相匹配。查询处理引擎150使得一个或多个客户端终端160的用户能够提交查询并且由此基于技能表演数据的期望属性来获取对捕获的视频数据的访问。
在进一步公开与媒体管理功能相关的分类和查询处理功能之前,以下各部分提供了在一些实施例中使用技术(例如技能分析、内容分发和最终用户硬件)的环境以支持诸如图1的实施例的实施例。
技能分析阶段-概述
如上文所述,在一些实施例中,实施技能分析阶段被实施以分析将要在最终用户传送阶段识别和分析的技能。也就是说,存在初始阶段,通过该初始阶段来检查技能,从而确定将如何通过PSD(例如MSD)自动地识别和分析技能。这个阶段的结果被用于实现对最终用户硬件(例如,具有MSU功能的服装和相关的处理基础设施)和/或服务器端的处理基础设施的配置,其中服务器端的处理基础设施被配置为接收从最终用户硬件MSU得到的原始的和/或部分处理的数据。
在一些实施例中,技能分析阶段优选地包括以下分析:(i)确定技能的属性,例如表示正在被表演的技能的属性(其在最终用户功能包括技能识别的情况下特别相关)以及表示执行技能的方式的属性,例如症状和原因(其在最终用户功能包括技能表演分析的情况下(例如在技能训练的传送的上下文中)特别相关);以及(ii)定义实现对技能属性(例如,正在被表演的技能、以及该技能的表演的属性,例如症状和/或原因)的自动识别的ODC,使得最终用户硬件(PSU,例如MSU)能够被配置用于自动技能表演分析。
技能分析阶段的性质根据给定技能的性质(例如,在基于运动的技能和基于音频的技能的类别之间)而显著变化。为了示例的目的,现在在基于运动的技能的上下文中关于技能分析阶段来描述示例性实施例。也就是说,通过参考分析身体活动,从而确定用于配置POD设备的ODC来描述实施例,其中,所述POD设备监测来自安装于身体的MSU的数据。该示例被选择为表示相对具有挑战性和复杂性的上下文中的技能分析阶段,其中已经开发了各种新颖和创造性的技术方法来辅助针对基于运动的技能生成有效的ODC的任务。应当理解,并不是本文所描述的方法的所有方面都存在于所有实施例中、或者用于所有活动的上下文中。该技术适用于广泛的身体活动,具有不同程度的复杂性(例如,在表演、辅导和监测方面)。然而,本文描述的方法适用于广泛的活动,例如在个人和团队运动的上下文中表演的技能。
以下详细描述的方法和技术通过参考涉及下述特定身体活动的具体示例进行描述:划船。技能是标准划桨动作。已经选择划船作为示例,主要是为了方便的文本解释的目的,并且将很容易理解,参考该特定活动描述的技术如何容易地应用于其它活动(例如,表演英式足球的特定形式的踢球、摇摆高尔夫球杆、在滑雪板上进行杂技演习等)。
一般而言,有很多方法来确定给定身体活动的ODC。这些方法包括但不限于以下内容:
·利用二级技术,从而简化对MSD的理解。例如,下面提供的示例讨论了利用MCD和MSD的组合的方法。MCD主要由于运动捕获技术的已建立的性质(例如使用强大的高速摄像机)而被使用;另一方面,运动传感器技术目前在不断提高效能。使用成熟的MCD分析技术有助于理解和/或验证MSD和关于MSD进行的观测。
·直接利用MSD,无需MCD协助。例如,MSD在捕获数据方面以与MCD相似的方式被利用,从而生成与从MCD(例如,基于具有骨骼关节的身体化身(avatar))常规生成的三维身体模型类似的三维身体模型。将理解的是,这假设关于MCD的阈值准确度和可靠度。然而,在一些实施例中,能够实现这一点,因此致使不需要MCD协助。
·机器学习方法,例如其中MSD和/或MCD被收集用于多个样本表演、以及客观定义的表演结果数据(例如,在划船的情况下:功率输出;以及在高尔夫球的情况下:球方向和轨迹)。机器学习方法被实现,从而使能自动定义ODC和对技能表演的影响之间的关系。这种方法在以足够的样本规模被实现时,实现对ODC的计算机识别以驱动对技能表演结果的预测。例如,基于使用MSD(或在一些实施例中,MCD)的样本表演集合的高尔夫挥杆运动的机器学习,使用对客观定义的结果的分析来自动识别影响挥杆表演的ODC,从而实现对关于使用最终用户硬件(例如具有MSU功能的服装)的最终用户挥杆的结果的可靠的自动预测。
·远程收集来自最终用户的分析数据。例如,最终用户设备被配备有“记录”功能,其实现对表示由最终用户分别执行的特定技能的MSD(可选地连同关于由用户本身识别的症状等的信息)的记录。所记录的数据被发送到中央处理位置,以针对多个用户对于给定技能(或具有特定症状的特定技能)的MSD进行比较,从而识别技能(和/或症状)的ODC。例如,这通过识别数据中的共同点来实现。
还可以使用其它方法,包括利用非MSD数据验证和/或以其它方式辅助MSD数据的其它方法,并且还包括实现用于定义和分析样本用户组的不同技术的其它方法。
以下通过参考具体的示例实施例更详细地考虑上述第一示例,这些具体的示例实施例涉及使得主观专家辅导知识能够有助于开发能够在技能训练程序的上下文中使用的症状和/或原因的ODC。
技能分析阶段-样本分析示例
在一些示例实施例中,针对要训练的每个技能,需要使用一个或多个样本技能表演者来执行对该技能中涉及的运动的初始分析,从而实现对最优表演与次优表演之间的差异的确定(从而使得能够朝向最优表演方向进行辅导)。一般来说,这从视觉分析开始,随后将其(经由一个或多个中间处理)转换为对运动传感器数据的分析(称为针对可观测数据条件或ODC的监测)。
本文描述的示例技术包括通过多个样本对象获得表示身体技能表演(针对给定技能)的数据。针对每个身体技能表演,数据优选地包括:
(i)由一个或多个捕获设备从一个或多个捕获角度捕获的视频数据。例如,在划船的上下文中,这可以包括侧捕获角度和后捕获角度。
(ii)使用任何可用的运动捕获技术的运动捕获数据(MCD)。在这方面,“运动捕获”涉及捕获设备用于例如使用在已知位置被安装到对象的视觉标记物来捕获表示运动的数据的技术。一个示例是由Vicon提供的运动捕获技术(但不推测发明人/申请人和Vicon之间的关系)。
(iii)使用一个或多个安装于身体的运动传感器的运动传感器数据(MSD)。
在每种情况下,优选的方法是存储下述两者:(i)原始数据;以及(ii)已经经过一定程度的处理的数据。针对运动传感器数据尤其如此;随着更新/更好的处理算法变得可用,原始数据可以随时间被重新处理,从而增强最终用户功能。
总的来说,一般的概念是使用MCD作为视频数据(这对现实世界辅导是最有用的)和MSD(这是最终的最终用户功能所需要的,最终的最终用户功能涉及经由对从具有MSU功能的服装得到的数据的分析进行辅导)之间的垫脚石。在这方面,MCD呈现有用的垫脚石,因为(i)它是发达且可靠的技术;以及(ii)它非常适合监测身体部位的精确相对运动。
整体技术包括以下阶段:(i)收集表示所选对象的样本表演的数据;(ii)一个或多个教练使用视频数据来视觉分析样本表演;(iii)将一个或多个教练进行的视觉观测转换到MCD空间中;以及(iv)基于MCD观测分析MSD,从而识别MSD空间中的ODC,其在实际意义上表示一个或多个教练的观测。以下将更详细地讨论这些阶段中的每一个。这在图2A中经由框201至204示出。
替代方法在图2B(其省略了对视频数据的收集,并且替代地经由使用MCD生成的数字模型来执行视觉分析)、图2C(其中仅使用MSD,并且使用基于MSD的计算机生成的模型来实现视觉分析)、图2D(其中没有视觉分析,只有对MCD进行数据分析以识别样本之间的相似性和差异)、图2E(其经由MSD(MSD被收集用于样本表演,基于结果数据执行数据分析,如此客观地测量样本表演的一个或多个结果参数,并且基于机器学习来定义ODC,从而基于ODC实现对结果的预测)利用机器学习)中示出。
在使用“一个或多个”教练方面,在某些情况下,多个教练被使用,从而定义关于给定技能的分析和辅导的共识位置,并且在某些情况下,多个教练替代地/另外地用于定义特定于教练的内容。后者允许最终用户基于更广泛的辅导共识在辅导之间进行选择,或者基于特定教练的特定观点进行辅导。在实际层面上,在商业实现的上下文中,后者可以被提供作为优质内容产品(可选地具有更高的价格)的基础。术语“教练”可用于描述被认定为教练的人员、或针对目前的目的以辅导能力操作的人员(如运动员或其它专家)。
技能分析阶段-对象选择示例
对象选择包括选择代表给定技能的一组对象。在一些示例实施例中,执行样本选择以实现以下参数中的一个或多个之间的标准化:
(i)能力水平。优选地选择多个对象,使得在一定范围的能力水平上具有足够的表示。这可以包括:最初确定一组已知的能力水平,并针对每个水平确保足够的对象数目;分析第一样本组,基于分析识别该组内的能力水平表示,以及可选地扩展用于表示不足的能力水平的样本组或其它方法。在本文描述的实施例中,用户能力水平在多层次上是自动辅导处理的核心。例如,如下面进一步讨论的,使用对用户能力水平的初始评估来确定如何配置POD设备,例如,根据其监测的ODC来配置POD设备。作为上下文,新手所犯的错误将不同于专家所犯的错误。此外,有利的是提供针对用户的实际能力水平的辅导,例如通过首先提供训练,从而实现新手水平的最佳(或接近最佳)的表演,并且随后提供训练,从而实现更高级水平的最佳(或接近最佳)的表演。
(ii)身体尺寸和/或身形。在一些实施例中,或针对一些技能,身体尺寸和/或身形可能对技能的运动属性(例如通过参考症状的可观测特性)具有直接影响。可选的方法是扩展样本,使得其代表多个身体尺寸/身形中的每一个(理想地在每个能力水平处)。如下面进一步讨论的,在一些实施例中,经由数据驱动的样本扩展方法替代地实现身体尺寸/身形标准化,如下面进一步讨论的。简而言之,这允许通过对收集的数据应用一组预定义的转换从而在各种不同的身体尺寸和/或身形间转换该数据,来为每个样本用户表演定义多个MCD/MSD数据集。
(iii)风格。用户可以具有独特的风格,这不会对表演造成重大影响。样本优选地包括足够的表示以实现风格间的标准化,使得症状的可观测特性是独立于风格的。这实现以基于表演的方式进行辅导,而不依赖于个人风格的各方面。然而,在一些实施例中,以特定于风格的方式定义症状的至少一个选择。例如,这使得辅导能够采用特定的风格(例如,以实现针对特定运动员的风格的辅导)。
为了简单起见,以下描述集中于针对多个能力水平的标准化。在一个示例实施例中,存在“m”个能力水平(AL1到ALm)和每个能力水平的“n”个对象(SUB1到SUBn)。也就是说,总体上有m*n个对象。应当理解,每个单独的能力水平的对象的数目不必相等(例如,在一些实施例中,在给定能力水平处观测到额外的对象,从而获得更可靠的数据)。
如上所述,在一些实施例中,样本例如基于下述识别而随时间扩展:附加数据点是优选的。
技能分析阶段-表演制度定义示例
在一些示例实施例中,每个测试对象(AL1到ALm中的每一个处的SUB1到SUBn)执行定义的表演制度。在一些实施例中,表演制度在多个能力水平间是恒定的;在其它实施例中,针对每个能力水平定义特定的表演制度。作为上下文,在某些情况下,表演制度包括在不同强度水平下的表演,并且某些强度水平可能不适当地低于阈值能力水平。
一些实施例提供了一种处理,其包括针对给定技能定义分析表演制度。该制度定义了为了样本数据收集的目的而要由每个对象表演的多个身体技能表演。优选地,分析表演制度由用于执行定义数目的组的指令定义,每组具有所定义的组参数。组参数优选地包括:
(i)针对每组的重复的数目。例如,一组可以包括n次重复(其中n≥1),其中对象重复地尝试具有定义的参数的技能。
(ii)重复指令。例如,重复之间有多少休息时间。
(iii)强度参数。例如,可以以恒定强度(每个重复REP1到REPn以相同的强度Ic)、递增强度(以强度I1执行重复REP1,然后以强度I2执行重复REP2,其中I1>I2,依此类推)、或递减强度(以强度I1执行重复REP1,然后以强度I2执行重复REP2,其中I1<I2,依此类推)或更复杂的强度分布来执行组。定义强度的方式取决于活动。例如,可以使用诸如速度、功率、频率之类的强度参数。在某些情况下,这类度量实现客观测量和反馈。替代地,可以使用最大强度的百分比(例如“最大值的50%”),这是主观的但通常是有效的。
作为示例,用于分析在尔格(erg)机器上的划船运动形式(室内划船设备的形式)的技能的给定分析表演制度可以按如下所示来定义:
·执行6组(SET1至SET6),每组之间休息5分钟。
·针对每组,执行8次连续重复(REP1到REP8)。
·强度参数为:SET1处于强度=100W;SET2处于强度=250W;SET3处于强度=400W;SET4处于强度=550W;SET5处于强度=700W;SET6处于强度=850W。
下面还继续参考划船的示例。然而,应当理解,这仅仅是为了说明的目的而提供的代表性技能,并且基本原理适用于广泛的技能。
技能分析阶段-示例数据收集协议
收集和存储关于每个用户对表演制度的完成的数据。如前所述,针对本示例。在本文考虑的主要示例中,数据包括:
(i)由一个或多个捕获设备从一个或多个捕获角度捕获的视频数据。例如,可以使用前面、后面、侧面、相对侧、顶部和其它摄像头角度中的一个或多个。
(ii)使用任何可用的运动捕获技术的运动捕获数据(MCD)。
(iii)使用一个或多个安装于身体的运动传感器的运动传感器数据(MSD)。
优选地控制执行数据收集的条件,从而实现样本之间的高度一致性和可比性。例如,这可以包括诸如确保一致的摄像头放置、使用标记物等以辅助对象定位、对对象上的MSU的精确定位之类的技术。
收集的数据被组织并存储在一个或多个数据库中。还优选地收集和存储元数据,从而提供附加的上下文。此外,在某些情况下处理数据以识别关键事件。特别地,事件可以被自动地和/或手动地标记在针对基于运动的事件的数据中。例如,给定技能的重复可以包括多个运动事件,例如开始、完成和一个或多个中间事件。事件可以包括类似步骤、接触球的时刻、划船运动中的关键点等等。这些事件可以在每个数据集中或在能够跨视频数据、MCD和MSD同步的时间线上被定义。
技能分析阶段-示例数据同步
每种形式的数据优选地被配置为被同步。例如:
·视频数据和MCD优选地被配置为被同步,从而实现比较审查。这可以包括并行视频审查(这针对从不同的观看角度捕获的视频/MCD的比较分析尤其有用)以及重叠审查,例如使用部分透明(这对于针对共同角度捕获的视频/MCD尤其有用)。
·MSD优选地被配置为被同步,使得来自多个MSU的数据相对于公共时间参考被转换/被存储。这在一些实施例中是通过每个MSU向POD设备提供表示相对于其本地时钟的时间参考和/或相对于可观测的全局时钟的时间参考的数据来实现的。针对由分布式节点提供的数据的时间同步的各种有用的同步技术从其它信息技术环境(包括例如媒体数据同步)中是已知的。
同步优选地包括基于时间的同步(借此数据被配置为被标准化为公共时间参考),但不限于基于时间的同步。在一些实施例中,除基于时间的同步之外或作为基于时间的同步的替代还使用基于事件的同步(或作为辅助基于时间的同步的方法)。
基于事件的同步涉及数据(例如MCD或MSD)借以包括表示事件的数据的处理。事件通常相对于数据的本地时间轴被定义。例如,MCD可以包括起始点在0:00:00处的视频文件,并且在相对于该起始点的时间定义事件。事件可以被自动定义(例如通过参考能够由软件处理识别的事件,例如预定义的可观测信号)和/或被手动定义(例如,在对该数据的手动视觉审查期间标记视频数据以识别发生特定事件的时间)。
在MCD的上下文中,优选地标记数据以基于一个或多个表演事件实现同步。例如,在划船的上下文中,标记划船运动中的各种可识别的运动点,从而基于运动点的共同性来实现对视频数据的同步。这在比较来自不同样本用户的视频数据时是特别有用的:其有助于识别这些用户之间的不同移动速率。在某些情况下,基于运动点的同步是基于多个点的,其中视频速率被调整(例如,速度增加或速度降低),使得针对两个不同的样本(例如,不同的用户、不同的重复、不同的组等)的视频数据中的两个公共运动点能够被并排(或重叠)观看,以显示这些运动点之间的相同前进速率。例如,如果一个桨手具有1秒的划桨时间,并且另一桨手具有1.2秒的划桨时间,则应用基于运动点的同步,使得后者被缩小到一秒,从而实现两个桨手的运动之间的更直接的比较。
技能分析阶段-示例数据扩展方法
在一些实施例中,针对每个对象经由数据扩展处理来转换MSD和/或MCD,从而定义具有不同身体属性的多个另外的“虚拟对象”。例如,定义转换,从而使得每个MCD和/或MSD数据点能够基于多个不同的身体尺寸被转换。这使得能够从具有特定身体尺寸的对象捕获表演,以被扩展到反映不同身体尺寸的多个样本表演。术语“身体尺寸”涉及诸如高度、躯干长度、大腿长度、小腿长度、臀部宽度、肩宽之类的属性。应当理解,这些属性实际上将分别改变用于MCD和MSD数据收集的标记物和MSU的移动路径和相对位置。
数据扩展在身体尺寸标准化的上下文中也是有用的,这在于从所有样本表演者收集的数据能够被扩展到包括具有“标准”身体尺寸的虚拟表演者进行的一个或多个虚拟表演的一组虚拟表演。在一些实施例中,定义了单个“标准”身体尺寸。使用标准身体尺寸、并将来自样本表演的MSD和MCD转换到该标准身体尺寸,这允许对MCD和MSD的直接比较,而不管多个样本表演者的身体尺寸差异如何。
技能分析阶段-示例视觉分析方法
如上所述以及在图2A的框202中示出的,示例技能分析方法的一个方面包括经由视频数据对样本表演进行视觉分析。在其它实施例中,作为视频数据的替代或除视频数据之外,使用从MCD和/或MSD得到的计算机生成的模型来执行视频分析。因此,尽管下面的示例集中于基于视频数据的审查,但是应当理解,这样的示例是非限制性的,并且视频数据在其它示例中由基于MCD和/或MSD生成的模型代替。
视觉分析被执行用于各种目的,包括:对技能和该技能的组成部分的初步了解;对症状的初始识别;以及基于定义的分析模式对各个样本表演的分析。
图3示出了根据一个实施例的示例用户界面301。应当理解,特别适配的软件并未用于所有实施例中;图3的示例主要被提供来说明在视觉分析处理中特别有用的关键功能。
用户界面301包括多个视频显示对象302a-302d,每个视频显示对象被配置为播放所存储的视频数据。在一些实施例中,视频显示对象的数目例如基于下述项是可变的:(i)针对给定样本表演的视频捕获摄像头角度的数目,其中针对每个角度提供视频显示对象;以及(ii)用户控制。在用户控制方面,用户能够按表演水平(在这种情况下,多个视频显示对象被共同配置用于与该表演相关联的多个视频角度)或以单个视频为基础(例如从一个或多个样本表演中选择特定的角度)来选择要显示的视频数据。每个视频显示对象被配置为显示单个视频、或同时显示多个视频(例如,两个视频彼此重叠,并且具有透明度,从而实现对重叠和差异的观测)。播放上下文显示304提供在视频显示对象中正在显示的内容的细节。
对象302a至302d中显示的视频数据被同步,例如时间同步。公共滚动条303被提供用于实现多个同步视频(如所指出的,其可以包括每个视频显示对象中的多个重叠的视频对象)的同步导航。在一些实施例中,提供切换以在时间同步和基于运动事件的同步之间移动。
导航界面305使得用户能够导航可用的视频数据。该数据优选地被配置为通过参考多个属性来排序,从而实现对期望的表演和/或视频的识别。例如,一种方法是首先按技能排序,然后按能力水平排序,然后按用户排序。在优选实施例中,用户能够将表演视频数据集和/或单个视频拖放到视频显示对象中。
图3另外示出了观测记录界面306。这用于使得用户能够记录能够与被观看的表演数据集相关联的观测信息(例如,完成检查表、制作笔记等)。在观看多个表演数据集的情况下,优选地具有主集合和一个或多个重叠的比较集合,并且观测与主集合相关联。
技能分析阶段-经由视觉分析的示例症状识别
在示例实施例中,多个专家(例如教练)参与审查样本表演,从而识别症状。在一些情况下,这通过诸如用户界面301之类的界面来辅助,该界面提供观测记录界面306。在PCT/AU2016/000020中讨论了提取来自专家的知识的示例方法。
技能分析阶段-ODC的示例确定(例如,针对状态引擎数据)
在专家/教练进行视觉分析之后,技能分析阶段进入数据分析子阶段,从而分析从样本表演的视觉分析中获得的专家知识,以定义能够基于MSD自动检测症状的ODC。例如,这样的ODC被用于稍后下载到最终用户硬件(例如POD设备)的状态引擎数据中,使得训练程序能够基于表示对最终用户的身体表演中的特定症状的检测的输入来进行操作。
应当理解,在各种实施例中使用一系列不同的方法来定义给定症状的ODC。在一些实施例中,一般方法包括:
(i)执行对MSD的分析,从而(例如,基于包括加速度和方向的MSD)识别数据属性的组合,其基于视觉分析结果被预测为指示症状的存在;
(ii)针对表示样本表演的数据(例如,使用实际记录的MSD)测试那些数据属性,以验证那些数据属性存在于显示相关症状的所有样本表演中(可选地以特定于能力水平为基础);以及
(iii)针对表示样本表演的数据(例如,使用实际记录的MSD)测试那些数据属性,以验证那些数据属性不存在于未显示相关症状的样本表演中(再次,可选地以特定于能力水平为基础)。
示例包括但不限于以下内容:
·使用MCD作为视觉分析和MSD之间的垫脚石的方法;
·直接从视觉分析移动到分析MSD的方法;
·基于从各个传感器获得的数据来定义ODC的方法;以及
·使用从MSD构建的虚拟身体模型,基于整体身体运动来定义ODC的方法。
下面详细描述一些示例。
在一些实施例中,ODC还例如通过定义在MSU和/或POD设备上处理器/功率密度较低的ODC而被调整,从而有效地使用最终用户硬件。例如,这可能与采样速率、数据分辨率等有关。
技能分析阶段-视觉观测到MCD空间的示例转换
如上所述,在一些实施例中,MCD空间被用作视觉观测和MSD数据分析之间的垫脚石。这有助于避免与基于MSD的准确定义虚拟身体模型相关的挑战(例如,注意与将MSD转换到公共几何参考系相关联的挑战)。
总而言之,对于给定的症状,该处理包括分析与已经被标记为显示该症状的表演相关联的MCD。在一些实施例中,该分析在特定于能力水平基础上被执行(注意,症状从运动中可观测到的程度可以在能力水平之间变化)。例如,分析包括将显示相关症状的样本的MCD(例如从MCD得到的计算机生成的模型)与不显示症状的样本的MDC进行比较。
图5示出了根据一个实施例的方法。应当理解,这仅是一个示例,并且可选地使用各种其它方法来实现类似的目的。框501表示包括确定用于分析的症状的处理。例如,在划船的上下文中,症状可以是“抢臂”。框502表示包括识别用于分析的样本数据的处理。例如,样本数据可以包括:
·针对与症状相关联的所有重复的MCD。
·针对与特定强度参数处的症状相关联的所有重复的MCD。也就是说,该分析考虑了症状如何存在于特定强度参数处(与其它强度参数不同)。
·针对与特定能力水平处的症状相关联的所有重复的MCD。也就是说,该分析考虑了症状如何呈现在特定能力水平处(与其它能力水平不同)。
·针对与特定强度参数和特定能力水平处的症状相关联的所有重复的MCD(即组合前两种方法)。
也可以使用其它方法。在某些情况下,将上述方法中的多个结合使用以更好地了解诸如强度和能力之类的因素的影响(其可证明与给定症状相关或无关)。
这里使用的MCD优选地例如基于上面讨论的样本扩展技术来经MCD标准化为标准身体尺寸。同样,从这些处理得到的ODC能够使用样本扩展的转换原理被去标准化(de-normalised),从而适用于身体尺寸的可变(以及潜在的无限可变)范围。
功能框503表示包括识别潜在的症状指示符运动(SIM)的处理。例如,这包括识别针对每个样本重复被预测为表示相关症状的MCD中可观测的运动的属性。在一些实施例中,指示符运动由安装MSU的身体部分的运动路径的属性来定义。运动路径的属性可以包括角度、角度变化、加速/减速、加速/减速变化等。这在本文被称为“点路径数据”,其是表示在身体上定义的点的运动属性的数据。在这方面,潜在的SIM由一组或多组“点路径数据”定义(也就是说,在某些情况下,存在一组点路径数据,其中SIM基于仅一个身体部分的运动,以及在某些情况下,存在多组点路径数据,其中SIM基于诸如前臂和上臂之类的多个身体部分的运动)。
作为上下文,可以定义一组点路径数据以包括给定点的以下数据:
·X轴加速度:最小值:A,最大值B。
·Y轴加速度:最小值:C,最大值D。
·Z轴加速度:最小值:E,最大值F。
还可以使用除加速度之外的数据。此外,可以有多个加速度测量,并且这些可以在时间上参考其它事件和/或测量。例如,一组点路径数据可以通过参考观测另一组点路径数据之后的所定义的时间段来约束。作为上下文,这可以用于定义考虑到大腿上的点与前臂上的点的相对运动的SIM。
功能框504表示测试处理,借以针对比较数据测试潜在的SIM。在一些实施例中,测试验证如下:
(i)在针对样本数据中的每个重复的MCD中观测到一组或多组点路径数据。这验证了潜在的SIM在识别其被设计为进行操作的样本中的症状的存在方面是有效的。
(ii)在针对不与相关症状相关联的重复的MCD中未观测到一组或多组点路径数据。这验证了潜在的SIM将不会在症状不存在的情况下被触发。
判定505表示基于505处的测试确定潜在的SIM是否被验证。
在潜在的SIM不能被成功验证的情况下,其会被改善(参见框506)并被重新测试。在一些实施例中,经由交互式算法自动改善和重新测试。例如,这操作来将先前定义的潜在SIM下的点路径数据定义缩小到能够通过参考针对不存在相关症状的表演重复的MCD而被验证为唯一的点。在某些情况下,给定的SIM不能在阈值数目的迭代之后被验证,并且需要新的起始点潜在SIM。
框507表示在成功测试后对SIM的验证。
在一些实施例中,在样本数据是与相关症状相关联的所有重复的总MCD数据的子集的情况下,生成数据以指示SIM是否也被验证用于该总MCD数据的任何其它子集(例如,SIM是基于第一能力水平的分析得到的,但在第二能力水平处也是有效的)。
应当理解,确定潜在的SIM的处理可以主要是人工处理(例如,基于对视频和/或MCD得到的模型数据的视觉分析)。然而,在一些实施例中,该处理由各种级别的自动化来协助。例如,在一些实施例中,算法被配置为基于显示症状的MCD中的MCD与不存在症状的MCD中的MCD相比的共性来识别潜在的SIM。在一些实施例中,这样的算法被配置为定义潜在的SIM(每个由MCD空间或MSD空间中的相应一组或多组点路径数据来定义)的集合,这些潜在的SIM综合地定义显示症状的样本表演的样本集相对于所有其它样本表演(这些样本表演针对身体尺寸被标准化)的唯一性。在一个实施例中,算法被配置为输出表示包含对所选择的症状或症状集合通用的所有MCD的数据集的数据,并且能够对该数据集(例如基于特定传感器、运动内的特定时间窗口、数据分辨率约束等)进行过滤,从而能够通过用户引导将数据集缩小到具有在最终用户硬件的上下文中实现实际应用的特性的潜在SIM(例如,基于被提供给最终用户的具有MSU功能的服装的MCD)。
在一些实施例中,测试处理另外用于实现对视觉分析不成功的重复中的症状的识别。例如,在测试失败数目较少的情况下,对这些测试失败进行视觉分析,以确认症状确实不存在还是巧妙地存在。
技能分析阶段-从MCD空间到MSD空间的示例转换(ODC)
经由诸如图5的方法被验证的SIM然后被转换到MSD空间中。如上所述,每个SIM包括表示一组或多组点路径数据的数据,每组点路径数据定义针对人体上所定义的点的运动属性。
人体上定义了点路径数据的点优选地对应于在下述项的上下文中安装了MSU的点:(i)样本表演期间由对象穿戴的MSU布置;和(ii)最终用户使用的具有MSU功能的服装。在一些实施例中,最终用户的具有MSU功能的服装(或其变体)被用于样本表演的目的。
在针对除安装MSU的点之外的点定义了点路径数据的情况下,优选地执行数据转换,从而将点路径数据调整到这样的点。或者,这种转换可以被集成到后续阶段。
总而言之,分析样本数据(图5的框502的样本数据)中的一个或多个样本表演重复的MSD,从而识别与点路径数据相对应的数据属性。例如,点路径数据可以指示运动和/或加速方向相对于参考系(优选地是重力参考系)的一个或多个定义的范围。
在一些实施例中,从(a)在MCD空间中得到的SIM到(b)MSD空间中定义的数据的转换包括:
(i)针对每组点路径数据,识别存在于与SIM相关的每个样本表演中的表示点路径数据的MSD属性。在某些情况下,点路径数据和MSD属性之间的关系是不完美的,这例如由于MSD的性质所致。在这种情况下,所识别的MSD属性可以比由点路径数据定义的运动更宽。
(ii)通过与图5的框504-506的迭代测试类似的处理来验证所识别的MSD数据属性,从而验证所识别的MSD属性在针对显示症状的样本表演的MSD中一致地被发现,并且在所有不存在症状的样本表演中不存在。
该转换到MSD空间的处理产生数据条件,当该数据条件在从收集阶段(例如,图2A的框201)期间使用的一个或多个MSU得到的数据中被观测到时,指示存在症状。也就是说,转换处理产生症状的ODC。
以该方式定义的ODC由一个或多个传感器的各个传感器数据条件定义。例如,基于每个传感器处的速度和/或加速度测量结合规则(例如,时序规则:传感器X观测A,并且在定义的时间接近度内,传感器X观测B)来观测ODC。
然后,ODC能够被集成到状态引擎数据中,状态引擎数据被配置为可用于下载到最终用户设备,从而能够配置该最终用户设备以监测相关症状。
应当理解,由上述转换处理定义的ODC对于在数据收集阶段中使用的MSU是唯一的。因此,在最终用户将使用的收集阶段期间,使用相同的MSU和MSU定位(例如经由相同的具有MSU功能的服装)是方便的。然而,在一些实施例中,存在多个版本的最终用户的具有MSU功能的服装,例如具有不同的MSU和/或不同的MSU定位。在这种情况下,针对每个服装版本,可选地分别执行到MSD空间的转换。这可以通过经由虚拟MSU配置(对应于特定最终用户设备)的虚拟应用对所收集的测试数据应用已知的数据转换和/或进行建模来实现。例如,关于后者,可选地使用从MCD得到的虚拟模型作为支持一个或多个虚拟MSU的框架,并且确定对应于SIM数据的计算机预测的MSU读数。应当理解,这提供了基于硬件进展随时间重新定义ODC的能力,这是因为考虑到经由分析阶段收集的数据在这种情况下能够随时间被重新使用。
图6中示出了示例处理,作为用于定义基于MSC分析生成的ODC或SIM的处理。在601处识别经验证的SIM。在602处识别点路径数据的集合中的第一集合,并且经由由框603至608表示的处理来分析该集合,由框603至608表示的处理循环用于点路径数据的每个集合。该循环处理包括识别与点路径数据相对应的潜在MSD属性。例如,在一些实施例中,这包括针对与全部收集的相关MSD或其子集的点路径数据相同的时间点处理收集的MSD(注意,MCD和MSD以被配置用于时间同步的方式被存储)。然后在604处执行测试,以在605处确定所识别的MSD属性是否存在于从样本表演收集的所有相关存在症状的MSD(并且在一些实施例中,以确保其不存在于不存在症状的MSD中)。必要时,在606处执行改善,否则在607处MSD属性被验证。
一旦针对SIM中的所有点路径数据的集合完成了框603至608的循环处理,则在609处组合经验证的MSD属性,从而定义该症状的潜在ODC。然后经由框610至613的处理对这些潜在ODC进行测试、改善和验证,从而确保潜在ODC:(i)在确实存在相关症状的所有相关样本表演MSD中被识别,以及(ii)在不存在相关症状的所有相关样本表演MSD中不被识别(术语“相关”表示在某些情况下分析受能力水平等限制)
应当理解,在另外的实施例中使用各种替代方法,从而定义给定症状的ODC。然而,在基本所有的情况下,方法包括执行分析,从而定义可观测数据条件,可观测数据条件能够在存在症状的样本表演的MSD中被识别(被收集或被虚拟地定义),但是不能在不存在症状的样本表演中被识别。
技能分析阶段-经由MCD空间将视觉观测替代转换到MCD空间
在另外的实施例中,MCD用于生成虚拟身体模型,并且该模型与经时间同步的MSD相关联。以这种方式,能够在技能表演运动中的特定点处使用针对所选择的一个或多个MSU的MSD执行分析。
在该阶段使用的MSD可以是针对特定表演的MSD,或者是在类似表演的子集之间聚合的MSD(例如,在定义的能力水平下,经标准化的身体尺寸的表演)。聚合可以包括下述项中的一项或两项:(i)仅利用在所有表演的子集中相似/相同的MSD;以及(ii)定义数据值范围,使得经聚合的MSD包括针对表演的子集的全部MSD(或统计上相关的比例)。例如,关于后者,针对第一表演的MSD可能具有:特定传感器在特定时间点的x轴加速度值A,并且针对第二表演的MSD可能具有:该特定传感器在该特定时间点的x轴加速度值B。这些能够被聚合到经聚合的MSD中,其中该特定传感器在该特定时间点的x轴加速度的值被定义为在A和B之间。
因此,能够执行分析以确定类似下述项:
(i)针对特定表演,在运动中的特定点处,特定传感器的MSD的一个或多个方面的值(例如,加速度计值)。
(ii)将(i)处的值与运动中的同一点处的其它表演(例如,在相同能力水平下显示相同症状的其它表演)进行比较的比较数据。
(iii)针对一组表演(例如,在相同能力水平下显示相同症状的其它表演),在运动中的特定点处,针对特定传感器的MSD的一个或多个方面的值范围(例如,加速度计值)。
(iv)针对具有特定症状的特定表演,在运动中的特定点处,与针对不显示该特定症状的一个或多个另外的表演的相应MSD相比,特定传感器的MSD的一个或多个方面的比较数据(例如,加速度计值)。
这类分析用于确定给定症状的预测ODC。
一旦预测ODC被定义,这些ODC能够使用诸如图7所示的方法被测试。在701处确定特定症状的预测ODC,然后这些预测ODC在702处针对样本表演的MSD被测试。与前面的示例一样,这用于验证预测ODC存在于显示该症状的相关表演的MSD中,并且ODC在不显示该症状的相关表演的MSD中不存在。例如,“相关”表演是在共同能力水平下的样本表演,并且在一些实施例中被标准化为标准身体尺寸。基于测试,ODC在704处被改善、或者在705处被验证。
技能分析阶段:替代方法
在PCT/AU2016/000020中讨论了与技能分析阶段相关的各种另外的替代方法和技术。这些方法和技术和其他的技术/方法可选地用于本文考虑的用于媒体管理的实施例的上下文中。
示例可下载内容数据结构
在优选实施例中,可下载内容包括以下三种数据类型:
(i)表示传感器配置指令的数据,也称为“传感器配置数据”。这是被配置为执行下述操作的数据:使得将一个或多个PSU的集合配置为提供具有指定属性的传感器数据。例如,传感器配置数据包括使得给定PSU执行下述操作的指令:采用活跃/非活跃状态(和/或响应于定义的提示在这些状态之间进行);基于定义的协议(例如,采样速率和/或分辨率)传送来自其组成传感器组件中的一个或多个的传感器数据。给定的训练程序可以包括多组传感器配置数据,这些数据应用于相应的练习(或响应于提示特定形式的ODC监测的节目内事件)。在一些实施例中,多组传感器配置数据被定义为分别优化用于在最终用户硬件的不同布置中识别特定ODC。例如,最终用户硬件的一些布置可以具有附加的PSU和/或更高级的PSU。在优选实施例中,定义传感器配置数据,从而优化由PSU传送的数据,以在监测ODC时提高数据处理的效率。也就是说,在内容的特定元素监测n个特定ODC的情况下,传感器配置数据被定义为移除传感器数据中对于那些ODC的识别是多余的各方面。
(ii)状态引擎数据,其将诸如POD设备之类的表演分析设备配置为处理从连接的传感器的集合中的一个或多个传感器接收到的输入数据,从而分析由连接的传感器的集合中的该一个或多个传感器感测到的身体表演。重要的是,这包括监测与正在被传送的内容相关的一个或多个ODC的集合。例如,内容由逻辑驱动,该逻辑基于对由PSU传送的数据中的特定ODC的观测。
(iii)用户界面数据,其将表演分析设备配置为执行基于技能/活动监测(通过对MSD的处理)的功能(例如,如本文所讨论的针对媒体纪念物所需的报告),并且可选地,响应于对身体表演的分析而向用户提供反馈和指令(例如,传送包括训练程序数据的课程)。在一些实施例中,用户界面数据至少部分地从web服务器定期下载。
将可下载内容传送到最终用户设备的方式在实施例之间变化,例如基于最终用户硬件设备的性质、基于云的数据组织框架等而变化。下面描述了各种实施例。
关于传感器配置数据,内容数据包括计算机可读代码,其使得POD设备(或另一设备)能够将PSU的集合配置为以针对该特定技能(或一组技能)优化的定义的方式提供数据。这在减少在POD设备上执行的处理的量的上下文中是相关的;传感器提供的数据量基于识别正在被训练的特定一个或多个技能的症状实际所需要的数据量来减少。例如,这可以包括:
·选择性地(在某些情况下动态地)激活/禁用一个或多个传感器。
·设置单个传感器的采样速率。
·针对单个传感器设置数据传输速率和/或数据批处理序列。
·将传感器配置为仅提供其收集的数据的子集。
POD设备基于将要训练的技能来向传感器提供配置指令,并且随后基于所应用的配置(参见例如图11A中的功能框1101和1102)从一个或多个传感器接收数据,以便允许对PSU驱动的训练程序的传送。
在某些情况下,传感器配置数据包括在不同时间加载到POD设备上的各个部分。例如,POD设备可以包括在所有传感器配置中通用的这类代码(例如在其固件中)的第一集合,其由代码的一个或多个附加集合(其可以同时下载或可以在不同时间下载)补充,其以分级方式增加了实现传感器配置的特异性。例如,一种方法是具有基本级指令、特定于MSU的特定集合的指令、以及针对正在被训练的特定技能特定于那些MSU的配置的指令。
传感器优选地基于针对其传送训练内容的技能的特定监测要求来配置。这在某些情况下特定于正在被训练的特定的基于运动的技能,或甚至特定于正在被训练的基于运动的技能的特定属性。
在一些实施例中,状态引擎数据针对如何基于正在被训练的给定技能来处理从连接的传感器获得的数据(即,PSD)对POD设备进行配置。在一些实施例中,每个技能与一组ODC(其可选地各自表示症状)相关联,并且状态引擎数据将POD设备配置为处理传感器数据,从而基于对特定ODC的观测来对用户的表演进行客观判定。在一些实施例中,这包括识别特定ODC的存在,然后确定相关联的症状存在。在一些情况下,这随后触发辅助分析以识别表示与该症状相关联的原因的集合中的一个原因的ODC。在其它实施例中,分析包括基于下述(i)和(ii)之间的变化的确定:(i)基于用户的表演从传感器数据确定的症状模型数据;以及(ii)预定义的基线症状模型数据值。例如,这用于针对每个症状实现对用户的表演与预定义的特性的比较。
一些实施例中的用户界面数据包括呈现的数据,从而提供经由用户界面呈现的图形内容。在一些实施例中,这样的数据被维护在POD设备上(例如,视频数据从POD设备被流传输到用户界面设备,如智能手机或其它显示器)。在其它实施例中,定义用于经由用户界面呈现图形内容的数据被存储在其它地方,包括(i)在智能手机上;或(ii)在云托管的位置处。
用户界面数据还包括被配置为导致执行自适应训练程序的数据。这包括响应于输入的逻辑/规则,输入包括PSD(例如从MSD得到的ODC)和其它因素(例如,用户属性,如能力水平、学习风格和心理/身体状态)。在一些实施例中,对这类数据的下载实现离线模式的操作,由此为了用户参与训练程序,不需要活跃的因特网连接。
示例内容传送方法
如上所述,在一些实施例中,内容经由在线市场(例如,由云托管平台提供的在线市场)对用户可用。用户访问该市场(例如,经由在个人计算机或移动设备上执行的web浏览器应用),并获得期望的训练内容。基于获得的内容,用户配置POD设备以执行功能,包括关于提供针对期望的活动和/或技能的训练的功能(例如,通过使服务器将代码经由POD设备的因特网连接直接下载到POD设备,POD设备的因特网连接可以是本地WiFi网络)。基于该配置,能够在POD设备(或者在另外的实施例中耦合到POD设备的辅助设备)上执行一组训练程序规则,以提供交互式训练过程。交互式训练过程向用户提供响应于表示用户表演的输入的反馈/指令。该输入源自PSU,并且由POD设备处理。在一些实施例中,交互式训练过程基于一组复杂规则进行操作,这些规则考虑:(i)相对于预定义的表演属性观测到的用户表演属性;(ii)用户属性数据,包括历史表演数据;(iii)技能训练进展路径(可以是动态变量);以及(iv)其它因素。
本公开主要侧重于接收从一组运动传感器(例如,包括耦合到服装的可穿戴运动传感器;运动传感器被配置为使得能够分析用户身体位置在三维中的变化)得到的用户表演数据的POD设备的示例。例如,这特别适用于关于身体活动(如体育活动)和涉及人类运动的其它活动的训练。然而,该技术同样适用于从其它形式的传感器得到的数据。示例包括监测音频、视频、位置、湿度、温度、压力等的传感器。应当理解,来自这类传感器的数据可能对于广泛的活动类型的技能训练是有用的。例如,音频传感器对于训练诸如语言技能、歌唱和乐器的演奏之类的活动特别有用。
在一般层面上,本文公开的技术在一些实施例中被配置为能够捕获专家的智慧,并且从中复制教练和学生之间的一对一对话。在这方面,特征在某些情况下包括:
·双向交换。数字技术是多功能和高度可扩展的,并且可以应用于几乎任何技能或活动。使用传感器和相关技术,每个交互都有更好的教学能力,在实时辅导体验中适应个人用户的风格和生理。
·实时指令。传感器诊断运动和技术方面的错误,并实现对个性化的、触觉和/或视听反馈和/或指令的自动的(并且基本上即时的)传送。
·高级表演。不仅仅是跟踪,用户经常被辅导。由此产生的可衡量的表演提升有助于用户更快地且更确定地到达里程碑并达到目标。
基于本文的描述将理解通过各种实施例实现这些特征的方式。
技能训练内容经由用户界面(例如以图形和/或听觉形式)呈现。如上所述,存在实现这一点的各种技术布置。优选的方法是训练内容要直接下载到POD设备150,并且经由包括视频和/或音频输出的单独设备呈现,其允许用户体验呈现的内容。单独的设备可以包括诸如智能手机(其在一些实施例中执行配置为呈现由POD设备150提供的内容的应用)、耳机、具有集成显示器的一组眼镜、视网膜显示器设备和其它这样的用户界面设备之类的移动设备中的一个或多个。
在使用移动设备(例如,智能手机)的一些实施例中,POD设备提供被配置为向移动设备传送内容的本地web服务器。移动设备执行web浏览器应用(或在某些情况下是专用应用),其导航到作为本地web服务器从POD设备获得代码的web地址。
在优选实施例中,技能训练内容是从在线市场获得的。该市场优选地使得用户能够选择和购买各种不同的技能训练包,并且管理这些技能训练包到用户的POD设备(或多个POD设备)的下载。术语“技能训练包”描述了一组可获得的技能训练内容。这可以涉及单一技能、与常见活动相关的各种技能或各种其它布置。本公开不应通过参考用于构造技能训练数据如何被组织、如何可用于采购、如何货币化等的任何具体实现选项而受到限制。
示例内容传送框架
以下部分描述用于内容(例如,通过PSD(例如MSD)的处理驱动的自适应技能训练内容)到最终用户设备的传送的各种示例性技术框架。
总之,可以使用以下方法中的任何一个或多个或其组合:
·经由第一具有web功能的设备浏览和选择可下载内容,随后将内容下载到第二具有启用web功能的设备。例如,经由智能手机浏览内容,然后将内容直接从web源下载到POD设备。
·经由第一具有web功能的设备浏览和选择可下载的内容,随后将内容下载到该第一具有启用web功能的设备。然后可以将部分或全部内容从第一具有web功能的设备辅助下载到诸如POD设备之类的第二设备(例如,传感器配置数据和状态引擎数据首先被下载到移动设备,然后被传送到POD设备)。
·利用与用户界面设备分离的POD设备。例如,移动设备用于提供用户界面,并且POD设备是安装在具有MSU功能的服装中的处理单元。
·利用与用户界面设备集成的POD设备。例如,在一些实施例中,智能手机扮演POD设备的角色。
·利用物理耦合到现有最终用户移动设备的POD设备。例如,POD设备被定义为处理单元,其例如经由支架式座架耦合到智能手机。
图9A示出了根据一个实施例的示例性计算机实现的框架。图9B到图9D示出了各种替代实施例,其中相同的特征已经被指定相应的参考标号。
每个所示的框架包括多个计算设备(也称为“机器”或“终端”),每个计算设备被配置为通过经由一个或多个微处理器(也简称为“处理器”)执行计算机可执行代码(其可以被存储在计算机可读载体介质上)来提供功能(例如,执行“计算机实现的方法”)。应当理解,各种计算设备包括一系列其它硬件组件,这些组件没有具体示出。
图9A的示例示出了中央管理和内容管理平台900。该平台能够由单个计算设备(例如,服务器设备)来定义,或者更优选地由多个联网的计算设备来定义。在功能上描述了服务器的组件,而没有具体参考被配置为单独地或共同地提供相关功能的各种组成计算设备。应当理解,这样的事情是设计选择的问题,广泛的网络和服务器架构在本领域中是公知的。此外,在一些实施例中,存在并行操作的平台900的多个实例。
平台900被配置为提供由多个用户(例如,上面提及的对象)经由那些用户操作的计算设备访问的功能。图9A示出了相对于示例性用户操作的一组用户侧设备920。实际上,多个用户中的每一个操作相似设备920的相应集合(未示出)。
设备920包括移动设备930。例如,在本实施例中,移动设备930采用智能手机的形式。然而,在其它实施例中,使用不同的移动设备,例如平板电脑、PDA、便携式游戏设备等的。在一些实施例中,移动设备930由按目的配置的硬件定义,专门旨在提供与所描述的整体框架相关的功能。概括地说,移动设备930的主要功能是经由用户接口传送从平台900获得的内容。该内容能够“根据需要”(以在线模式)被下载、提前下载(从而实现在离线模式下的操作)、或两者皆有。
移动设备930能够耦合到一个或多个外部用户交互硬件,例如外部耳机、麦克风、提供图形显示器的可穿戴设备(例如,被配置为提供增强现实显示器的眼镜、视网膜投影显示器),等等。
在图9A的示例中,移动设备930被配置为经由从应用下载服务器971下载的移动应用(例如,iOS或安卓应用)与平台900进行交互。(在该实施例中,服务器971是第三方操作的服务器,尽管其它实施例使用第一方服务器)。这样的移动应用被存储在存储器设备934上并经由处理器933被执行。移动应用将移动设备930配置为经由可用的因特网连接与应用交互服务器972进行通信,应用交互服务器972进而提供到经由平台900可用的数据的网关。
在图9B的示例中,移动设备930被配置为经由web浏览器应用与平台900进行交互,web浏览器应用在导航到预定义的web地址时配置移动设备930以经由可用的因特网连接与移动设备web服务器974进行通信。web服务器974进而提供到经由平台900可用的数据的网关。基于存储在移动设备930的存储器934中的代码执行web浏览器应用,并且经由浏览器可渲染的用户界面代码提供特定于平台900的用户界面,浏览器可渲染的用户界面代码经由服务器974被下载到设备930。
设备920还包括个人计算机(PC)940。这可以是基本上被正确且适当地配置为使得POD设备950形式的另外的硬件设备能够与平台900通信的任何计算设备。例如,在一个实施例中,POD设备经由有线连接(例如USB连接)或无线连接(例如WiFi或蓝牙连接)连接到PC940。在功能上,这允许将数据从平台900下载到POD设备950。能够实现替代布置和连接,从而实现POD设备950之间的通信,例如:
·POD设备950经由移动服务930以及web服务器973访问平台900(参见图9C)。这涉及访问与POD设备950的操作相关的设备930的特定功能,或者在一些实施例中仅访问通过移动设备930提供的因特网连接。
·POD设备950经由web服务器973访问平台900(参见图9D)。
在某些这种情况下,例如在POD设备950不固有地提供用户界面的情况下,给定的用户操作移动设备930(或另一合适配置的计算设备)来访问用户界面(例如,经由移动应用或web页面),从而指示平台900将特定数据传送到与该用户相关联的POD设备950。在这样的实施例中,数据经由可用的因特网连接被直接下载到POD设备950。
在一些实施例中,首先将在移动设备930上呈现的技能训练内容下载到POD设备950。这被实现为使得移动设备930能够以离线模式(没有因特网连接)提供技能训练数据,其中必要的内容由POD设备950提供。这在没有移动设备930的示例中特别相关,并且经由仅与POD设备950(例如,耳机、具有内置显示器的眼镜组、视网膜投影设备等)通信的用户界面传送设备990提供用户界面。
示例性POD设备和传感器布置
POD设备950被配置为执行对从一个或多个PSU 960收集的数据的处理。这些PSU经由有线和/或无线连接连接到POD 950。例如,在一个实施例中,POD设备经由直接有线耦合连接到第一组PSU,并且经由到桥接组件的RF链路连接到第二组PSU,桥接组件进而经由直接有线耦合连接到第二组PSU。
在各种实施例中使用一系列PSU,这取决于正在被收集的数据的性质。进一步地,正在被收集的数据的性质取决于用户正在进行的技能或活动。例如,以下用户情况与本文中考虑的许多示例和实施例相关:
·可穿戴的MSU。MSU被集成到被配置为由对象佩戴的服装用品(具有MSU功能的服装)中。这种服装制品的示例包括压缩型服装(例如衬衫或裤子),每个包括已知位置处的多个间隔开的MSU。在一些情况下,服装包括预先形成的安装位置,用于可释放地接收相应的MSU以使得MSU能够在可用的安装位置之间移动。在一个实施例中,压缩衬衫支撑多个运动MSU并且具有用于互补地可释放地接收POD设备的安装件,使得安装件经由扩展通过并且由衬衫包围的有线连接将POD设备耦合到MSU。该衬衫能够与一组互补的压缩裤耦合,该组互补的压缩裤包括有线连接到公共RF通信模块的另外多个运动MSU。该RF通信模块将MSD传送到衬衫上提供的或由POD设备提供的另一RF模块,从而使得POD设备可以从衬衫和裤子上的所有MSU接收数据。
·ASU。在不同实施例中,使用不同的音频传感器。可用传感器的示例包括基于麦克风的传感器、插入音频输入端口(例如,经由2.5mm或3.5mm插孔连接器)从而接收音频信号的传感器、生成MIDI信号的拾音器等。
应当理解,POD设备950能够经由软件被配置为处理来自提供由POD设备接收的输出信号(例如数字输出信号)的基本上任何形式的PSU的数据。
一些实施例提供POD设备的多个不同的硬件配置,每个都被制造成与特定的PSU进行交互。例如,示例性POD设备可以包括:
·被配置为由服装携带的POD设备,其物理耦合到由该服装携带的多个MSU(并且在某些情况下,直接或间接地与一个或多个另外的MSU无线耦合)。
·包含麦克风的POD设备。
·包含音频输入端口(如3.5mm耳机插孔)的POD设备。
还将理解,各种形式的PSU允许针对各种技能的训练。例如,耦合到一个或多个ASU的POD设备在某些情况下用于提供各种音乐技能(例如歌唱、乐器的演奏等)的训练。
针对用户界面的传送的示例布置
用户界面提供反馈和/或指令的方式基于硬件配置而变化。在一些实施例中,用户接口仅是音频(例如使用耳机),在这种情况下,指令和反馈是基于音频的。在一些实施例中,用户界面包括视觉信息,其需要显示屏幕(例如,由智能手机设备、适当的眼镜和/或视网膜显示设备提供的显示屏幕等)。
图9A中的用户侧设备的布置能够被配置为如图10A所示的功能。更具体地说,市场平台在技术上被配置为将POD/引擎数据传送到POD设备,进而允许将POD设备配置为传送关于特定技能(或一组技能)的训练内容。POD设备被配置为基于先前从市场下载的POD/引擎数据来处理从传感器接收到的数据。基于该处理,POD设备向移动设备提供指令以经由其用户界面来显示平台内容(例如,从而提供反馈,指示用户执行特定任务等)。移动设备在相关的情况下从平台下载平台内容。
在其它实施例中使用另外的反馈设备(例如,音频装置、具有数字显示器的眼镜等),并且在图10A中,这被示出为直接耦合到POD设备。
图10B示出了移动设备以离线模式操作的替代布置。在该示例中,用户界面数据被下载到POD设备,并且经由POD设备提供给移动设备。另一替代布置在图10C中示出,其中没有移动设备,并且POD设备经由反馈设备(例如,耳机、具有屏幕的眼镜、视网膜投影设备或其它反馈设备)直接提供反馈/指令。
包含MSU的示例最终用户硬件布置
下面描述的是在实施例中实现的各种硬件配置,以便能够监测最终用户对给定技能的尝试表演,其包括在该尝试表演期间收集的传感器数据中识别预定义的可观测数据条件(例如,通过上述方法定义的可观测数据条件)。
应当理解:(i)这些仅是示例,并且本文公开的技术可以经由替代硬件布置来实现;(ii)提供的图示为示意图,并且不按比例绘制;以及(iii)图示提供了示出关键组件的功能表示,而不表示PCB设计、传感器单元定位、连接布线等方面。
各种实施例提供了可穿戴服装。例如,这些服装可以包括下述各项中的一个或多个:紧身衣、衬衫(短袖或长袖)、裤子(短裤或长裤)、手套、鞋类、帽子等。在一些情况下,可穿戴服装由被配置为彼此通信(例如,经由有线耦合或无线通信)的多个可分离的服装项(例如衬衫和裤子)定义。服装优选地由弹性材料制成,例如作为压缩服装。这有助于保持传感器组件相对于穿戴者身体的固定。优选地将这些服装制造为能够移除电气组件(例如传感器单元和POD设备),例如以进行维护等。
服装包括多个传感器串(strand),每个传感器串包括一个或多个传感器单元。传感器串各自从传感器串连接端口1208开始,其中传感器串连接端口被配置为将多个传感器串耦合到中央处理设备,该中央处理设备以与上面进一步公开的内容一致的方式被称为POD设备。传感器串可以包括单个传感器单元或多个传感器单元。
当传感器串包括多个传感器单元时,它们优选地串联连接。也就是说,其中串包括n个传感器单元SU1…SUn,寻址到到传感器单元SUi的通信由SU1…SUi-1中的每一个接收并重新发送。可以使用各种寻址协议,然而这些协议被配置为使得基于传感器单元安装位置来寻址通信。这允许安装传感器单元,而无需确保给定的特定传感器单元被安装在特定的安装位置(在传感器单元被移除用于服装清洗的情况下特别有用),并且还允许对传感器单元进行置换(例如,在故障的情况下)。
在一些情况下,寻址协议部分地基于与各个传感器单元相关联的标识符,在这种情况下,POD设备在识别出传感器单元时执行自动配置步骤,从而识别安装该传感器单元的安装位置,并将传感器的标识符与该安装位置相关联。在一些实施例中,通过不需要知道传感器标识符的技术来实现寻址,诸如在消息中包括重传计数(例如,消息包括由POD设备设置的重传整数,其在每次传输时递减,并且该消息在递减计数达到零的情况下由传感器单元接收和处理)。后一种方法在允许传感器单元被交换/替换而不需要随后重新配置POD设备处的寻址参数方面具有一些优点。
在优选实施例中,每个传感器单元包括安装在密封容器内的电路板组件。密封容器包括两个连接端口;一个用于沿着传感器串进行上行通信,一个用于沿着传感器链进行下行通信。在一些实施例中,传感器单元能够识别安装的方向,使得哪个端口是基于安装方向确定的上行端口和下行端口。在其它实施例中,存在预定义的安装方向,使得传感器单元不能被反向安装。连接端口优选地被配置用于卡扣(snap-locking)安装到传感器串上的互补连接端口,使得物理上可观测的耦合相应地提供电子/通信耦合。
传感器串包括连接线,包括一条或多条用于通信的线,以及一条或多条用于供电(向由POD设备提供的传感器单元供电)的线。连接线被密封,使得服装浸入水中(例如在清洁期间)不会损坏线。优选地,将POD设备和传感器单元连接到连接线的连接器模块提供不透水密封。此外,在优选实施例中,当POD设备和传感器单元被安装在服装上时,所有电气组件都被提供在防水或抗水配置中(例如,POD设备和传感器单元连接端口到传感器串连接端口的卡扣接合提供防水或抗水密封)。
在包括近端传感器单元和一个或多个下游传感器单元的给定传感器串上,近端传感器单元被配置为(i)在下行方向上中继由中央处理单元提供并寻址到一个或多个下游传感器单元的传感器指令;以及(ii)在上行方向将由下游传感器单元中的给定一个提供的传感器数据中继到中央处理单元。这可以包括激活/禁用指令。传感器指令还包括传感器配置数据,其中传感器配置数据配置传感器单元以定义的方式提供传感器数据。在某些情况下,传感器配置数据通过参考采样速率、监测由传感器组件可观测的减少的信息、以及专门针对正由POD设备观测的技能所定义的其它配置属性进行定义。
每个传感器单元包括(i)微处理器;(ii)存储器模块;以及(iii)一个或多个运动传感器组件的集合。下面进一步提供示例性传感器硬件的更详细的公开。然而,这些基本组件使得传感器组件能够接收来自POD设备的通信,并以预定义的方式(例如,通过参考分辨率、采样速率等定义)提供来自传感器组件的观测数据。在一些实施例中,每个传感器单元包括本地电源,然而优选地,沿着传感器串从POD设备(或另一中央电源)供电,而不需要对传感器单元电池等进行单独充电。
针对示例性传感器单元,一个或多个传感器组件的集合包括下述项中的一个或多个:(i)陀螺仪;(ii)磁力计;以及(iii)加速度计。在下面描述的优选实施例中,具有这些组件中的每一个,并且每个都被配置为提供三轴灵敏度。在另外的实施例中,存在一个或多个组件类型的多个组件,例如两个加速度计。这实现不同的配置,例如使得一个被配置为以给定的分辨率观测粗糙运动,而另一个被配置以更高的分辨率观测特定的精细运动。
中央处理设备(POD设备)包括:(i)电源;(ii)微处理器;以及(iii)存储器模块。存储器模块被配置为存储可由微处理器执行的软件指令,其使得处理设备能够执行各种功能,包括将传感器单元配置为以预定义的方式发送传感器数据,以及识别传感器数据中的一组或多组预定义的可观测数据条件,传感器数据包括由中央处理设备从多个连接的传感器单元接收的传感器数据。在优选实施例中,POD设备还包括传感器组件(例如,与传感器单元相同的传感器组件),从而能够在POD设备的位置进行运动观测。在一些实施例中,POD设备在被提供于使用中接近用户背部的上部中心的位置(例如在肩胛骨之间)处提供的口袋中被安装到服装。
图12A示出了根据一个实施例的可穿戴服装的许多硬件组件。应当理解,这些硬件组件被示出而不参考由服装它本身的配置产生的几何/空间配置。
图12A的POD设备1200包括耦合到存储器模块1202的处理器1201,该存储器模块被配置为存储软件指令,从而提供本文所述的功能。这些包括:
·表示训练程序(或多个训练程序)的数据,包括通过训练程序进行的逻辑,以及在由其它组件(如耳机、显示设备等)呈现的POD设备的外部传送的用户界面数据。
·针对训练程序(或每个训练程序),有多个要训练的技能。每个技能由包括传感器配置指令、用于识别传感器数据中的可观测数据条件的规则、以及与特定可观测数据条件被识别时的反馈(和/或其它动作)相关的规则的数据定义。
应当理解,还提供了软件指令的各种其它方面。
可再充电的电源1203向POD设备1200以及一个或多个连接的设备(包括传感器单元,以及一个或多个控制单元(在提供的情况下))提供电力。本地传感器组件1205(例如,三轴磁力计、三轴加速度计和三轴陀螺仪)使得POD设备能够用作传感器单元。还提供输入/输出1206,并且这些可以包括类似:电源/复位按钮;被配置为显示操作特性的灯;以及在一些实施例中为显示屏幕。然而,在这里描述的实施例中,POD设备和用户之间的主要通信模式是通过外部的(和自供电的)用户界面设备。
POD设备1200包括一个或多个无线通信模块1204,从而实现与一个或多个远程设备的通信/交互。例如,通信模块可以包括下述各项中的任何一个或多个:
·WiFi。例如,在一些实施例中,WiFi用于传送用户界面内容(包括图像、文本、音频和视频数据)以用于在UI显示设备1231处呈现。这可以包括智能手机、平板电脑、具有平视显示器(例如,增强现实耳机或眼镜)的设备以及其它这样的设备。UI显示设备可用于选择和/或导航可用于经由POD设备传送的训练内容。
·蓝牙。例如,在一些实施例中,蓝牙用于将可渲染的音频数据传送到蓝牙耳机等,从而向用户提供可听见的指令/反馈。
·被配置为允许与诸如心率监测器之类的监测设备进行交互的ANT+(或其它这样的通信模块)。
·RF通信模块。在一些实施例中,提供了一个或多个这样的模块,从而实现与无线传感器单元(例如,被配置为附接到设备(例如,滑板、黄金球棒等)的传感器单元)的通信。在一些情况下,这包括由连接到与POD设备无线通信的公共集线器的多个有线传感器单元定义的无线传感器串。
可以存在用于各种其它外部设备1233的各种其它无线通信模块。
POD设备包括电路板和可选地额外的硬件组件,其被提供在密封或可密封的容器中(防水或抗水)。该容器能够被安装到服装(或具体配置的口袋中的示例)中,并且该安装包括连接一个或多个耦合件。优选地,单个耦合件将POD设备连接到所有可用的传感器串。再次,这可以是卡扣耦合(防水或抗水),其基本上同时提供物理和电子耦合。
图12A示出了耦合到传感器连接端口1208的多个传感器串(串1...串n)。每个传感器串包括多个传感器单元(传感器单元1...传感器单元n),然而应当理解,在一些实施例中,给定的串只包括单个传感器单元。
图12B示出了传感器串的替代布置。作为上下文,一些实施例提供配置有一个或多个“部分”传感器串的服装。每个部分传感器串包括(i)没有或更多传感器单元;以及(ii)连接器模块,其被配置为耦合到由辅助服装提供的互补连接器模块。短语“没有或更多”表示在一些情况下,部分传感器串由传感器串线定义,传感器串线将POD设备连接到连接器模块,而没有任何中间传感器单元,而在其它情况下,部分传感器串由其上提供有一个或多个传感器单元的传感器串线定义,该串终止于连接器模块。
将连接器模块耦合到由辅助服装提供的互补连接器模块在功能上将一个或多个部分传感器串连接到相应的一个或多个辅助服装部分传感器串,从而实现(i)提供在一个或多个辅助服装部分传感器串上的一个或多个传感器单元;以及(ii)中央处理设备之间的通信。
在图12B的示例中,服装包括衬衫和裤子。有四个衬衫传感器串,以及两个裤子传感器串。连接器布置1209将部分裤子串耦合在一起,从而实现提供在裤子上的传感器单元与POD设备之间的通信(以及由POD设备为那些传感器单元供电)。在另外的实施例中,这种布置用于使得能够连接到提供在鞋类、手工品、头饰等上的传感器单元。例如,在一些实施例中,连接器端口被提供有近端臂、颈部和脚部孔,从而能够伸长通过由另外的服装物品或设备携带的一个或多个其它传感器单元所提供的传感器串。
在一些实施例中,由辅助服装(例如,手工品或鞋类)携带的传感器包括测量除运动之外的属性的专家传感器组件。例如,可以使用压力传感器组件(例如,从而测量黄金球棒上的握力、测量施加到地面或另一物体上的力等)。POD设备被配置为针对给定的训练程序了解要提供的传感器布置。例如,向用户提供关于应当连接的传感器单元的指令,并且POD设备执行检查以确保传感器响应,并且提供期望的传感器数据。
图12B还示出了设备可安装的传感器单元1240。该单元包括基本上与传感器单元1220相同的处理器1241、存储器1242和传感器组件1245。然而,它还包括无线通信模块1246,从而实现与POD设备1200的无线通信(例如RF通信),并且包括本地电源1243。还提供输入/输出(例如,灯、电源/复位按钮等)。
图12C在图12B上通过提供控制单元1230来扩展。该控制单元物理地耦合到衬衫串之一的远端,例如作为手腕安装的控制单元。在一些实施例中,控制单元与传感器单元集成。控制单元1230包括诸如一个或多个按钮之类的输入设备1231和诸如一个或多个灯和/或显示屏(优选地是低功率屏幕)之类的输出设备1232。提供控制单元1230以协助用户提供基本命令以经由POD设备来控制训练内容的提供。例如,命令可以包括“先前”和“下一个”,例如重复先前的可听指令,或者跳到训练课程中的下一阶段。在一些实施例中,提供可听内容以协助用户操作输入设备,例如通过可听见地提供可选择的菜单项。
在图12D的实施例中,控制单元1230还包括被配置为接收由设备可安装的传感器单元1240提供的无线信号的无线通信模块(例如RF)。以这种方式,无线传感器单元数据能够在POD设备直接地(经由模块1204)和间接地(经由模块1233、经由控制单元1230并且沿着传感器串,在这种情况下为衬衫传感器串4)被接收。这为无线通信提供冗余;应当理解,在信号通过人体(其主要是水)的可靠接收无线通信中可能存在挑战。具有两个间隔开的位置(如图12D所示或经由替代布置),来自单元1240的所有传感器数据将被接收并使其可用于分析的机会显著增加。POD设备实现数据完整性协议,从而确定如何组合/选择由两个路径中的每一个提供的数据。在一些实施例中,例如在对外部传感器单元具有更大依赖性的情况下,可以存在位于服装上的各个位置处的多个冗余无线通信单元。
在一些实施例中,单元1230被提供在其自己的串上而不是传感器串上,否则传感器串可以包括用于附接具有传感器功能的手部组件的终端连接器。
图12E提供了根据一个实施例的两件式服装的示意图(未按比例)。这标记有与前面的图相对应的参考标号。所示出的服装是由衬衫组件上的三个传感器串、以及在裤子组件上提供传感器单元的两个传感器串定义的两件式衣服(连接器1209将服装组件之间的传感器串耦合在一起)。
所示出的传感器单元的定位决不是限制性的,而是提供关于具有该传感器单元数目的服装的潜在传感器单元位置的粗略指导。图12E所示的一般原理是提供远离接头的传感器。从相应的传感器单元的陀螺仪、加速度计和磁力计收集的数据使得能够进行处理,从而确定跨多轴的相对传感器位置、角度、运动等等(注意,提供三个3轴传感器实际上为每个传感器提供九个灵敏度)。因此能够确定与身体运动有关的丰富数据。此外,通过POD设备提供的配置数据,每个传感器的灵敏度/操作能够针对特定技能进行选择性调整,例如为每个单独的传感器组件设置水平,仅报告特定的运动伪影,等等。这从一系列的角度来看是有用的,包括降低传感器单元处的功耗、减少POD设备处的处理开销、以及提高对特定关键运动伪影的敏感度(例如,通过应用运动模型,该运动模型仅监测具有特定定义的特性的运动,例如对划船动作中的运动进行高分辨率监测,而不监测人走向划船机的运动)。
图12F在图12E上通过示出远程设备的一部分来扩展,在该情况下,远程设备是携带无线传感器单元1240的滑板。如上所述,优选地,传感器单元1240经由多个通信路径与POD设备1200进行无线通信,从而管理与无线通信相关联的限制。例如,在所示出的示例中,由传感器单元1240发送的信号被配置为被由POD设备1200提供的无线通信模块和由手腕控制单元1230提供的无线通信模块(其经由与其连接的传感器串发送接收到的传感器数据)接收。
图12G在图12F上通过示出移动设备1281、以及无线耳机1282来扩展。
POD设备1200与移动设备1281(例如,智能手机或平板电脑,其可以操作包括iOS、安卓、Windows等在内的一系列操作系统中的任何一个)通信,从而为移动设备提供被配置为能够在用户界面显示器中呈现内容的数据,该内容协助通过技能训练程序指导用户。例如,内容可以包括视频数据、文本数据、图像等。在一些实施例中,POD设备1200作为用于传送这样的内容的本地web服务器进行操作(即,移动设备连接到由POD设备通告的无线网络)。
耳机1282(其不需要是具有所示出的设计配置的耳机)使得用户能够从POD设备接收可听见的反馈和/或指令,而不需要携带或涉及移动设备1281。这例如在携带或涉及移动设备将是不可行的或者通常不方便地涉及移动设备的技能的上下文中是相关的,例如在划船、慢跑、游泳、滑雪等时。在一些实施例中,可以使用有线耳机,例如通过由有线连接到POD设备的服装提供的3.5mm耳机插孔来使用。
图12H示出了根据一个实施例的传感器串。这包括多个传感器单元1220。每个传感器单元包括耦合到存储器1222的处理器1221。提供上行和下行数据连接1223和1224(在一些实施例中,这些可以在功能上基于安装方向来区分)。可以提供输入/输出1225,例如灯和/或电源/复位按钮。所示出的实施例包括触觉反馈单元1226,其可以用于协助向用户提供反馈(例如,在右臂传感器单元上激活与用户的右臂进行某些操作的指令相对应的触觉反馈)。所示出的传感器组件1227是3轴磁力计1227a、3轴加速度计1227b和3轴陀螺仪1227c。
图12I示出了根据一个实施例的示出了外壳1296的示例性传感器单元1220。该外壳由塑料材料形成,并且以水密的方式包围电路板1297,该电路板提供图12H所示的组件。连接器1298实现到由服装提供的传感器串的连接。
MSU和具有MSU功能的服装的配置:概述
在某些情况下,最终用户设备中的ODC的识别需要:(i)关于给定用户上的MSU的实际位置的知识;以及(ii)关于MSU的相对定位的知识。有意义地组合来自多个MSU的数据存在挑战,因为每个MSU通常提供关于它们自己的参考系的运动数据。
上述各种实施例使用从传感器单元的集合导出的数据,从而能够分析身体表演。这些传感器单元例如通过被配置为携带多个传感器单元的可穿戴服装被安装到用户的身体。本部分以及随后的部分描述了在一些实施例中用于配置传感器单元的示例性方法,从而能够基于从传感器导出的数据来分析诸如人体运动之类的运动。
作为背景,用于收集表示身体表演的数据的已知和流行的方法是使用光学运动捕获技术。例如,这种技术在光学上定位在用户身体上的各个位置处可观测的标记,并且使用视频捕获技术来导出表示标记的位置和运动的数据。分析通常使用虚拟构造的身体模型(例如,完整的骨骼、面部表情等),并且将标记的位置和运动转换到虚拟构造的身体模型。在一些现有技术示例中,计算机系统能够经由在计算机系统中定义的虚拟身体模型基本上实时地重建物理用户的精确运动。例如,这种技术由运动捕获技术组织Vicon提供。
运动捕获技术在其实用性方面受到限制,因为它们通常需要以下两者:(i)用户具有位于其身体上各个位置处的标记;以及(ii)使用一个或多个摄像头设备捕获用户表演。虽然一些技术(例如,使用深度感测摄像头的技术)能够减少对视觉标记的需求的依赖,但运动捕获技术本质上受限于针对在能够由一个或多个摄像头设备捕获的位置发生的表演的需求。
本文描述的实施例使用运动传感器单元,从而克服与运动捕获技术相关联的限制。运动传感器单元(也称为惯性测量单元或IMU),例如包括一个或多个加速度计、一个或多个陀螺仪和一个或多个磁力计的运动传感器单元能够固有地提供表示其自身运动的数据。这种传感器单元测量和报告参数,包括速度、方向和重力。
与运动捕获技术相比,使用运动传感器单元提出了一系列挑战。例如,针对至少以下原因,使用多个运动传感器时会出现技术挑战:
·每个传感器单元基于其自身的本地参考系提供数据。在这方面,每个传感器固有地提供数据,就像它本质上定义其自身宇宙的中心一样。这与运动捕获不同,在运动捕获中,捕获设备固有地能够相对于公共参考系来分析每个标记。
·每个传感器单元都不能准确地知道其所位于的枝干。虽然传感器服装可以定义大致的位置,但是个体用户将具有不同的身体属性,这将影响精确定位。这与运动捕获技术不同,在运动捕获中,标记通常以高精度定位。
·所有传感器完全独立地运行,就好像它们被放置在电子“碗汤(bowl of soup)”中,没有骨骼/四肢连接它们。也就是说,传感器各自的数据输出与任何种类的虚拟身体上的相对定位无关,这不同于运动捕获中使用的标记。
下面描述的技术和方法使得能够处理传感器单元数据,从而提供通用的全体范围的参考系。例如,这可以通过下述各项中的一者或两者来实现:(i)定义被配置为将传感器单元SU1至SUn的运动数据转换到公共参考系的转换;以及(ii)确定传感器单元SU1至SUn之间的骨骼关系。应当理解,在许多情况下,这些是不可分割的联系在一起的:转换到共同的参照系能够确定骨骼关系。
在一些实施例中,对传感器数据的处理导致定义表示虚拟骨骼身体模型的数据。这实际上使得从运动传感器套装布置收集的数据能够提供与经由常规运动捕获可用的分析类似形式的分析(其还提供表示虚拟骨骼身体模型的数据)。
可以使用在PCT/AU2016/000020中描述的处理技术。总的来说,这些处理技术至少在以下情境中发现应用:
·组装适用于与经由定义的运动捕获技术提供的模型进行比较的骨骼模型。例如,可以在分析阶段期间收集运动捕获数据和传感器导出的数据,从而验证从运动传感器数据的处理导出的骨骼模型数据是否与从运动捕获技术导出的相应骨骼模型匹配。这适用于在客观上定义技能(如上所述)的处理的上下文中,或者更普遍地适用于测试和验证数据传感器数据处理方法的上下文中。
·穿戴的具有传感器功能的服装的自动“非姿态特定”配置。也就是说,为了传感器配置的目的,不要求用户采用一个或多个预定义的配置姿态,下面描述的处理技术允许通过处理由基本上任何运动产生的传感器数据,来将每个相应传感器的数据转换到公共参考系(例如通过组装骨骼模型)。也就是说,下面的方法需要相当通用的“运动”,用于比较一个传感器相对于另一传感器的运动的目的。该运动的确切性质的重要性是有限的。
·实现对技能的身体表演的准确监测(例如在技能训练和反馈的上下文中)。例如,这可以包括监测传感器数据中的可观测数据条件(如上所述,其表示表演影响因素)。
另外的细节在PCT/AU2016/000020中被提供。
示例分类方法
参考图4A,一个实施例提供了一种用于管理视频数据的方法400。方法400优选地由服务商设备执行,但也可以由本地设备(例如智能电话)执行。在一些实施例中,该方法的执行分布在多个设备上,例如这多个设备包括服务器、智能手机和POD设备中的两个或更多个设备。
如功能块401所表示的,方法400包括维护对从一个或多个捕获设备导出的视频数据的储存库的访问。在一些情况下,存在视频数据的多个分布式储存库,并且这些储存库可以与一个或多个索引数据源(其单独存储如下数据:该数据表示视频数据的基于可渲染图像的组分的视频数据属性(例如,捕获设备、捕获时间、标签的细节等))相关联。
功能块402表示包括接收表示技能表演事件的数据(基于对从MSD导出的数据的处理来定义的时间编码的技能表演事件数据)的处理。通过包括分析从具有MSU功能的服装导出的数据的处理来定义给定的技能表演事件(即,技能表演事件数据的实例)。例如,从被配置为监测技能表演的最终用户设备直接或间接地接收该数据,例如,如上文所述(注意可以使用其他最终用户硬件,其可选地包括单一MSU版本)。例如,在一些实施例中,POD设备被配置为周期性地(或者响应于用户命令)(直接或者间接地)向执行方法400的服务器设备(或者诸如智能电话之类的本地设备)上传技能表演数据。在其他实施例中,作为中间步骤,用户从POD设备向个人计算机等下载数据。
功能块403表示包括将一个或多个技能表演事件与储存库中的视频数据的相应部分相关联的处理。实现此处理的方式在各实施例之间是不同的,并且在一些情况下取决于特定的捕获情况。可以使用以下技术中的一种或多种技术:
·在一些实施例中,技能表演事件数据的每个实例与时间信息相关联。这允许在技能表演事件和视频数据之间进行时间匹配。当然,在一些实施例中,这要求用于定义技能表演事件的时间基准和用于视频数据的时间基准之间的有效同步。在某些情况下,时间匹配就足够了,例如:(i)在知道特定视频数据被用来捕获相关参与者的情况下;和(ii)在视频数据是预先剪辑的“广播式”影像(例如体育赛事的电视报道)并且预计相关技能表演会按其发生的情况显示的情况下。
·在一些实施例中,技能表演事件数据的每个实例与位置信息相关联。这在某些情况下使用GPS、设备三角测量或其他位置跟踪技术。然而,在一些实施例中使用的替代方法用于提供能够被设备读取的可读的位置限定令牌(例如RFID标签、BLE标签等),并且因此(基于预定义的令牌位置的知识)提供特定于时间的位置信息。例如,一种选择是将BLE标签放置在给定摄像头的捕获区域中。在用户设备在与技能表演事件相关联的时间读取该标签的情况下,确定该技能表演事件将被该给定摄像头捕获。
·在一些实施例中,视频数据与参与标识符数据被预先关联。例如,如上面提到的,这可以使用位置限定令牌,但是作用相反。也就是说,参与者分别携带各自唯一的可读令牌(例如RFID标签或BLE标签),与摄像头相关联的读取设备因此能够确定特定参与者何时进入给定摄像头的捕获区域。
应当理解,上述方法可用于实现对如下各项的确定:(i)与特定表演事件相关联的捕获设备;和(ii)捕获设备将捕获表演事件的时间。另外的方法可以被实施为替代方法,或者此外,在其他实施例中实施。
如功能块404所表示的,403处的关联使得用户能够基于表演事件属性来搜索视频数据。
示例性查询处理方法
参考图4B,一个实施例提供了用于提供对视频数据中用户期望的部分的访问的方法410。功能块411表示包括维护对视频数据的一个或多个储存库的访问的处理。视频数据的储存库(即其中包含视频数据)被配置为与一组表演事件相关联(例如,基于剪辑片段(clip)的关联和/或基于时间的关联)。
功能块412表示包括维护对表演属性数据的一个或多个储存库的访问的处理。表演属性数据是从多个用户各自具有MSU功能的服装中导出的,例如如上所述。表演属性数据还被配置为与该组表演事件相关联。技能表演事件数据的每个实例包括一个或多个表演属性,并且如下所述,该方法包括基于一个或多个表演属性实现对储存库的查询,由此使得能够对与共同的表演属性相关联的多个视频数据部分进行定位。
功能块413表示包括提供被配置为使得用户能够定义和提交用户查询的查询界面的处理。用户查询是基于一个或多个表演属性值定义的。例如,表演属性可以包括以下各项中的任一项或多项:
·技能名称。例如,在滑板滑雪的环境中,技巧包括空中动作,常用名称包括“后侧360”、“下翻”、“前侧竞技”等。
·技能类别。继续使用滑板滑雪的示例,类别可以包括“直跳”、“反向动作”、“前转”、“后转”等。
·基于如下项定义的属性(例如症状):相对于定义的最优表演的技能表演。例如,这些属性可能包括“表演成功”、“失败”以及各种中间分类。
·基于如下项定义的属性(例如症状):在技能表演中观测到的一个或多个基于运动的属性。例如,这些属性可以基于表演影响因素来定义,诸如上文讨论的“在接近第一秒时臀部向内倾斜”的示例。应该理解的是,在某些情况下,这些属性对于特定技能来说是非常具体的,并且因此查询界面优选地允许首先(例如通过名字)选择技能,然后从可用列表中选择期望的基于运动的属性。
除了基于一个或多个表演属性值来定义查询之外,用户还可以根据在视频数据和表演属性数据的储存库中定义的数据值来设置其他查询参数,例如时间、日期、位置、(一个或多个)参与者等等。
在一些实施例中,查询界面允许相对复杂的查询,包括在相似时间由识别不同参与者的多个技能。例如,这可能与竞技体育相关,例如围绕由“防守技术Y”抵抗“进攻技术X”实例构建的查询。
该方法然后包括响应于接收到用户查询:(i)识别满足查询的表演属性数据中的一个或多个表演事件(功能块414);(ii)识别与所识别的表演事件相关联的视频数据的部分(功能块415)。
识别满足查询的表演属性数据中的一个或多个表演事件的处理可以基于基本上任何形式的合适的查询处理技术,并且因此基于查询处理技术/逻辑实现的形式来定义“满足”。
识别与所识别的表演事件相关联的视频数据的部分的处理可以包括定义针对特定的已知视频文件的开始/结束标记。
功能块413表示包括响应于查询而传送被配置为使得用户能够访问以查看视频数据的被识别的部分的数据的处理。例如,这可以包括以下项中的任一项或多项:
·提供链路以使得能够根据查询结果流式传输视频。
·提供基于查询结果下载视频文件片段的功能。
·根据查询结果定义视频剪辑片段的被合并剪辑片段或播放列表(例如剪辑片段之间自动连续进行)。
在另外的实施例中使用另外的方法。
示例性视频捕获和分类框架
图8示出了示例性视频捕获和分类框架。这旨在提供一种便利的方式以理解本文公开的技术的实际工作实现方式的示例。
图8的示例示出了包括两个空中特征802和803的滑雪设施800。放置摄像头805和806来分别捕获特征802和803处的活动影像。
使用设施800的一个或多个滑雪者穿着具有运动传感器功能的服装,例如套装810。在该实施例中,每个套装810是基于图2A和图2B中所示的服装,此外包括BLE技术,从而使得能够在定义的BLE识别门处进行参与者识别。假设在特征802和803中的每一个特征附近提供BLE识别门,从而使得能够定义视频数据标签。这些标签在所记录的视频数据中标识表示(或预计将表示)特定滑雪者(滑雪者是通过他/她的唯一BLE标签来识别的)正处于摄像头805和806中的特定的一个摄像头的视场中的时间事件。
在这个实施例中,来自这些摄像头的视频数据连续地被记录在视频捕获子系统820的操作摄像头控制/捕获模块824中,并在模块824的控制下被临时存储。基于对来自BLE标签阅读器的输入数据的处理,将视频数据移动到储存库821中的永久存储装置中,使得影像只在如下情况下才被保留:预计已经通过空中特征中的一个特征拍摄了穿着套装810的滑雪者。这可以包括基于输入数据的利用存储装置的连续缓冲记录,例如,以记录由BLE驱动的输入数据所定义的时间之前和/或之后的预定时间。管理模块825执行诸如调谐视频捕获/重新编码参数之类的功能。
表演分析子系统840直接或间接地从诸如套装810之类的套装中接收数据,并使用该数据来更新表演数据的储存库842。视频分类模块822使得能够基于表演数据842对视频数据821进行分类。子系统840还保存用户数据845,从而能够识别特定的用户。
用户界面模块841使得移动设备830的用户能够访问查询界面,从而经由查询处理模块846和823提交对捕获的视频数据821的查询。这使得能够基于一个或多个表演属性来查询储存库从而使得能够对与共同的表演属性相关联的视频数据的多个部分进行定位。例如,实际查询可能涉及:
·显示在“B日”对“特技A”的所有尝试。
·显示在“B日”所有成功完成的“特技A”。
·显示在“B日”所有未成功完成的“特技A”。
·显示“骑手C”在“B日”所有成功完成的“特技A”。
·显示在“B日”所有不成功的完成。
应该理解的是,这些仅仅是指示性的示例。
示例用例
以下示例用例由上述技术的实施例提供。
在第一用例中,在收集关于体育赛事(例如团体赛事(例如足球))的视频数据的情况下利用表演事件数据。视频数据的一个或多个储存库包含表示在定义的捕获时间期间在定义的捕获区域(例如用于足球比赛的比赛场地)中捕获的视频的视频数据。该方法利用与一个或多个所识别的具有MSU功能的服装的用户(在定义的捕获时间期间在定义的捕捉区域中的具有MSU功能的服装的用户)相关联的时间编码的技能表演事件数据的一个或多个储存库。例如,给定团队中的每个运动员穿着具有MSU功能的服装,并且从MSD导出的数据被(实时地或通过定期下载(诸如赛后转移))提供给这些储存库。查询界面被配置为使得用户能够定义和提交用户查询,其中用户是基于一个或多个技能表演事件数据属性值来定义的。对查询的响应包括:(i)识别技能表演事件数据中满足查询的一个或多个实例;以及(ii)识别与所识别的技能表演事件数据的实例相关联的视频数据的部分;以及响应于查询而传送被配置为使得用户能够访问以查看视频数据的被识别部分的数据。这优选地包括:响应于查询而传送被配置为使得用户能够访问以查看视频数据被识别的部分的数据包括提供对与所识别的技能表演事件数据的实例相关联的视频数据的离散部分的访问,从而使得能够基于用户查询节略地观看体育赛事。因此,例如,节略的影像显示了特定形式的足球踢法的每个实例(例如通过显示在表示该特定形式的足球踢法的每个表演事件数据的实例的时间之前和之后的5秒内的影像)。
在另一示例用例中,该技术被用于向视频数据(例如由诸如传统或POV数字摄像机之类的个人摄像机捕获的视频数据)提供覆盖(等等)。表演事件数据的实例与视频影像是时间相关的,并且表示这些事件的数据被提供来作为覆盖(或提供在相邻/相关的显示器上)。例如,POV(或其它)视频影像被提供有如下覆盖:该覆盖提供所表演的技能的名称(例如技巧),可选地与表示症状的数据(例如,空中动作的播放时间/幅度)相结合。
在另一示例用例中,固定式摄像头在一段时间内捕获多个参与者的视频影像,并且该影像与来自如下用户的表演事件数据相关联:该用户选择上传从他们各自的具有MSU功能的服装中导出的数据。这允许对多个用户的表演的广泛查询。
示例操作方法
图11示出根据一个实施例的示例操作方法。方框1101表示用户选择要被监测的参与活动(例如滑板、网球等)的处理。这在方框1102处触发识别该活动的硬件配置数据(例如传感器配置数据和状态引擎数据)。在相关的情况下,该数据是从云托管的位置下载的。方框1102表示配置传感器和监测硬件以监测与所选参与活动相关联的技能集合。然后用户参与活动,在此期间传感器输入数据被处理(由方框1104示出)。在某些情况下,传感器配置是通过监测驱动的;例如,传感器在给定运动观测到时被动态地重新配置以监测技能的子集(例如,传感器被配置为仅在识别到跳跃动作后监测空中动作)。方框1105表示基于1104处的处理而识别所表演的技能。然后,如方框1106所示,定义时间编码的技能表演事件数据。
结论和解释
应当理解,上述技术提供了在一些领域(特别是媒体管理)内的进步。例如,通过使用能够通过具有MSU功能的服装(以及可选的其他形式的PSU)进行技能表演识别的预定义处理技术,能够以丰富且高效的方式对视频数据进行自动分类。
除非另有明确说明,否则从以下讨论中可以明显看出,应该理解,在整个说明书中,利用诸如“处理”、“计算”、“核算”、“确定”、“分析”等的术语涉及计算机或计算系统或类似的电子计算设备将表示为物理(例如电子)量的数据操纵和/或转换为类似地表示为物理量的其它数据的动作和/或处理。
以类似的方式,术语“处理器”可以指处理电子数据(例如,来自寄存器和/或存储器)以将该电子数据转换到其它电子数据(例如可以被存储在寄存器和/或存储器中)的任何设备或设备的一部分。“计算机”或“计算机器”或“计算平台”可以包括一个或多个处理器。
在一个实施例中,这里描述的方法可以由接受计算机可读(也称为机器可读)代码的一个或多个处理器执行,该处理器包含指令集,当一个或多个处理器执行时,该指令集执行至少一个本文描述的方法。包括能够执行指定要采取的动作的指令集(顺序或以其它方式)的任何处理器。因此,一个示例是包括一个或多个处理器的典型处理系统。每个处理器可以包括CPU、图形处理单元和可编程DSP单元中的一个或多个。处理系统还可以包括具有主RAM和/或静态RAM和/或ROM的存储器子系统。可以包括总线子系统以在组件之间进行通信。处理系统还可以是具有由网络耦合的处理器的分布式处理系统。如果处理系统需要显示器,则可以包括这样的显示器,例如液晶显示器(LCD)或阴极射线管(CRT)显示器。如果需要手动数据输入,则处理系统还包括输入设备,例如,诸如键盘之类的字母数字输入单元。诸如鼠标之类的定点控制设备等中的一个或多个。如本文所使用的术语存储器单元,如果从上下文中清楚并且除非另有明确说明,还包括诸如盘驱动器单元之类的存储系统。一些配置中的处理系统可以包括声音输出设备和网络接口设备。存储器子系统因此包括计算机可读载体介质,其携带包括指令集的计算机可读代码(例如,软件),以在由一个或多个处理器执行时执行本文所描述的方法中的一个或多个。注意,当该方法包括数个元素,例如数个步骤时,除非具体说明,否则不暗示这些元件的排序。该软件可以驻留在硬盘中,或者也可以在由计算机系统执行期间完全或至少部分地驻留在RAM内和/或处理器内。因此,存储器和处理器也构成携带计算机可读代码的计算机可读载体介质。
此外,计算机可读载体介质可以形成计算机程序产品或被包括在计算机程序产品中。
在替代实施例中,一个或多个处理器作为独立设备操作,或者可以在网络部署中连接(例如,联网到其它处理器),一个或多个处理器可以以服务器或用户机器的身份在服务器用户网络环境中进行操作,或作为对等或分布式网络环境中的对等机器进行操作。一个或多个处理器可以形成个人计算机(PC)、平板PC、机顶盒(STB)、个人数字助理(PDA)、蜂窝电话、网络设备、网络路由器、交换机或网桥、或任何能够执行指定要由该机器采取的动作的指令集(顺序或以其它方式)的机器。
注意,虽然图仅示出携带计算机可读代码的单个处理器和单个存储器,但是本领域技术人员将理解,包括上述组件中许多组件,但未明确示出或描述,以便不模糊发明方面。例如,虽然仅示出了单个机器,但术语“机器”也应被视为包括单独或共同执行一组(或多组)指令以执行本文所讨论的任何一种或多种方法的机器的任何集合。
因此,本文描述的每种方法的一个实施例是携带一组指令的计算机可读载体介质的形式,例如用于在一个或多个处理器(例如作为web服务器布置的一部分一个或多个处理器)上执行的计算机程序。因此,如本领域技术人员将理解的,本发明的实施例可以体现为方法、诸如专用装置之类的装置、诸如数据处理系统之类的装置或计算机可读载体介质,例如,计算机程序产品。计算机可读载体介质携带计算机可读代码,其包括指令集,当在一个或多个处理器上执行时,指令集使得一个或多个处理器实现方法。因此,本发明的各方面可以采取方法、完全硬件实施例、完全软件实施例或组合软件和硬件方面的实施例的形式。此外,本发明可以采取携带介质中实施的计算机可读程序代码的载体介质(例如,计算机可读存储介质上的计算机程序产品)的形式。
还可以经由网络接口设备通过网络发送或接收该软件。尽管在示例性实施例中将载体介质示出为单个介质,但术语“载体介质”应当被认为包括存储一组或多组指令的单个介质或多个介质(例如,集中式或分布式数据库和/或相关联的高速缓存和服务器)。术语“载体介质”还应被视为包括能够存储、编码或携带指令集以供一个或多个处理器执行并使一个或多个处理器执行本发明的任何一个或多个方法的介质。载体介质可以采取许多形式,包括但不限于非易失性介质、易失性介质和传输介质。非易失性介质包括例如光盘、磁盘和磁光盘。易失性介质包括动态存储器,如主存储器。传输介质包括同轴电缆、铜线和光纤,包括构成总线子系统的电线。传输介质还可以采取声波或光波的形式,例如在无线电波和红外数据通信期间生成的波。因此,术语“载体介质”应被视为包括但不限于固态存储器,体现在光学和磁性介质中的计算机产品;具有承载由一个或多个处理器中的至少一个处理器可检测的传播信号并且表示指令集的介质,当指令集被运行时,执行方法;以及网络中承载由一个或多个处理器中的至少一个处理器可检测的可传播信号并且表示指令集的传输介质。
应当理解,所讨论的方法的步骤在一个实施例中由执行存储在存储装置中的指令(计算机可读代码)的处理(即,计算机)系统的适当的处理器(或多个处理器)执行。还将理解,本发明不限于任何特定的实现或编程技术,并且本发明可以使用用于实现本文所描述的功能的任何适当的技术来实现。本发明不限于任何特定的编程语言或操作系统。
应当理解,在上面对本发明的示例性实施例的描述中,为了简化本公开并有助于理解各种发明方面中的一个或多个方面,本发明的各种特征有时在单个实施例、图或其描述中被分组在一起。然而,这种公开的方法不应被解释为反映所要求保护的发明需要比每个权利要求中明确叙述的特征更多的特征的意图。相反,如以下权利要求所反映的那样,发明的各方面在于少于单个前述公开实施例的所有特征。因此,具体实施方式中的权利要求在此明确地并入具体实施方式中,其中每个权利要求独立地作为本发明的单独实施例。
此外,虽然本文所描述的一些实施例包括一些特征但不包括其它实施例中的其它特征,但是不同实施例的特征的组合意图在本发明的范围内,并且形成不同的实施例,如本领域技术人员将理解的。例如,在所附权利要求中,任何要求保护的实施例可以以任何组合使用。
此外,一些实施例在这里被描述为可以由计算机系统的处理器或通过执行该功能的其它手段来实现的方法或方法的元素的组合。因此,具有用于执行方法或方法的元素的必要指令的处理器形成用于执行方法或方法元素的装置。此外,本文中描述的装置实施例的元件是用于执行由针对实现本发明的目的的元件执行的功能的装置的示例。
在本文提供的描述中,阐述了许多具体细节。然而,应当理解,可以在没有这些具体细节的情况下实践本发明的实施例。在其它情况下,还没有详细地示出众所周知的方法、结构和技术,以便不模糊对描述的理解。
类似地,应注意,术语耦合在权利要求中使用时不应被解释为仅限于直接连接。可使用术语“耦合”和“连接”以及其派生词。应理解,这些术语不旨在作为彼此的同义词。因此,耦合到设备B的设备A的表达式的范围不应被限制在其中设备A的输出直接连接到设备B的输入的设备或系统。这意味着在A的输出和B的输入之间存在路径,其可以是包括其它设备或装置的路径。“耦合”可以意味着两个或更多个元件直接物理或电接触,或者两个或更多个元件彼此不直接接触但仍然彼此协作或相互作用。
因此,虽然已经描述了被认为是本发明的优选实施例的内容,但是本领域技术人员将认识到,在不脱离本发明的精神的情况下,可以对其进行其它和进一步的修改,并且旨在要求所有这些改变和修改落入本发明的范围内。例如,上面给出的任何公式仅仅表示可以使用的过程。可以从框图中添加或删除功能,并且可以在功能框之间互换操作。可以将步骤添加或删除到在本发明的范围内描述的方法。

Claims (60)

1.一种用于管理媒体数据的计算机实现的方法,所述方法包括:
接收时间编码的技能表演事件数据,其中给定实例的时间编码的技能表演事件数据表示对多个预定义的基于身体运动的技能中的特定的一个技能的身体表演,其中,所述技能表演事件数据是基于对从包括多个运动传感器单元(MSU)的最终用户硬件中导出的数据的处理而被定义的,其中所述最终用户硬件预先被操作来下载包括状态引擎数据的数据,其中所述状态引擎数据将所述最终用户硬件配置为基于从所述多个MSU导出的运动传感器数据(MSD)识别表示多个预定义的基于身体运动的技能中的至少所述特定的一个技能的表演事件;
访问一个或多个视频源,其中所述一个或多个视频源与所述时间编码的技能表演数据相关联;以及
基于时间码相关性来识别来自所述一个或多个视频源中的每个视频源的视频数据中与所述时间编码的技能表演数据相对应的相应部分;
从而使得能够识别视频数据中与各个特定实例的时间编码的技能表演数据相对应的部分。
2.根据权利要求1所述的方法,其中,所述最终用户硬件的用户能够:(i)选择要表演的活动;(ii)使得将状态引擎数据下载到所述最终用户硬件,其中所述状态引擎数据将所述最终用户硬件配置为基于从所述多个MSU导出的运动传感器数据(MSD)来识别与所选活动相关联的、表示多个预定义的基于身体运动的技能的表演事件。
3.根据权利要求1所述的方法,其中,所述时间编码的技能表演事件数据表示包括如下项的表演属性:(i)被表演的定义的基于运动的技能的名称标识符;和(ii)被表演的所述技能的一个或多个症状。
4.根据权利要求3所述的方法,其中,所述一个或多个症状包括表示与表演影响因素相关联的运动属性的症状。
5.根据权利要求3所述的方法,包括:使得能够基于所述表演属性中的一个或多个来搜索技能表演事件,从而使得能够对视频数据中与共同的表演属性相关联的多个部分进行定位。
6.根据权利要求3所述的方法,包括:使得能够基于表演属性进行搜索包括使得能够识别对于特定技能具有指定症状的实例。
7.根据权利要求3所述的方法,其中,所述症状中的一个或多个症状是基于以下项中的一项或两项来定义的:相对于定义的最优表演的所述技能的表演;以及在所述技能的表演中观测到的一个或多个基于运动的属性。
8.根据权利要求1所述的方法,其中,基于从所述多个MSU导出的运动传感器数据(MSD)识别表示多个预定义的基于身体运动的技能中的至少所述特定的一个技能的表演事件包括:使用来自在一个或多个人体关节的相对侧上的MSU的MSD来分析表示身体运动的数据。
9.根据权利要求1所述的方法,其中,基于时间码相关性来识别来自所述一个或多个视频源中的每个视频源的视频数据中与所述时间编码的技能表演数据相对应的相应部分包括:将元数据与所述视频数据相关联。
10.根据权利要求1所述的方法,其中,基于时间码相关性来识别来自所述一个或多个视频源中的每个视频源的视频数据中与所述时间编码的技能表演数据相对应的相应部分包括:从所述视频数据中提取子剪辑片段。
11.根据权利要求1所述的方法,其中,每个实例的时间编码的技能表演事件数据与表演位置信息相关联,并且其中视频源与视频位置数据相关联,其中所述方法包括:基于如下项识别来自所述一个或多个视频源中的每个视频源的视频数据中与所述时间编码的技能表演数据相对应的相应部分:(i)时间码相关性;以及(ii)所述表演位置信息与所述视频位置数据之间的位置信息相关性。
12.根据权利要求11所述的方法,其中,所述位置信息是从GPS导出的。
13.根据权利要求11所述的方法,其中,所述位置信息是通过读取定位令牌导出的。
14.根据权利要求1所述的方法,包括:维护表示本地交互事件的数据,其中每个本地交互事件与如下项相关联:(i)时间;和(ii)用户。
15.根据权利要求14所述的方法,其中,每个实例的时间编码的技能表演事件数据与如下项相关联:(i)时间信息;和(ii)用户,并且其中所述方法包括:识别技能表演事件时间和用户数据与本地交互事件时间和用户数据之间的相关性。
16.一种用于提供对视频数据中用户期望的部分的访问的方法,所述方法包括:
维护对一个或多个视频数据储存库的访问,其中所述视频数据储存库被配置为与时间编码的技能表演事件数据相关联;
维护对一个或多个时间编码的技能表演事件数据储存库的访问,其中给定实例的时间编码的技能表演事件数据表示多个预定义的基于身体运动的技能中的特定的一个技能的身体表演,其中所述技能表演事件数据是基于对从包括多个运动传感器单元(MSU)的最终用户硬件中导出的数据的处理来定义的,其中所述最终用户硬件预先被操作来下载包括状态引擎数据的数据,其中所述状态引擎数据将所述最终用户硬件配置为基于从所述多个MSU导出的运动传感器数据(MSD)识别表示多个预定义的基于身体运动的技能中的至少所述特定的一个技能的表演事件;
提供查询界面,所述查询界面被配置为使得用户能够定义和提交用户查询,其中所述用户查询是基于一个或多个技能表演事件数据属性值来定义的;
响应于接收到用户查询:(i)识别满足所述查询的一个或多个实例的技能表演事件数据;(ii)识别所述视频数据中与所识别出的实例的技能表演事件数据相关联的部分;以及
响应于所述查询,传送被配置为使得用户能够访问以查看所述视频数据中被识别出的部分的数据。
17.根据权利要求16所述的方法,其中,使得所述最终用户硬件的用户能够:(i)选择要表演的活动;(ii)使得将状态引擎数据下载到所述最终用户硬件,其中所述状态引擎数据将所述最终用户硬件配置为基于从所述多个MSU导出的运动传感器数据(MSD)识别与所选活动相关联的、表示多个预定义的基于身体运动的技能的表演事件。
18.根据权利要求16所述的方法,其中,所述时间编码的技能表演事件数据表示包括如下项的表演属性:(i)被表演的定义的基于运动的技能的名称标识符;和(ii)被表演的所述技能的一个或多个症状。
19.根据权利要求18所述的方法,其中,所述一个或多个症状包括表示与表演影响因素相关联的运动属性的症状。
20.根据权利要求18所述的方法,包括:使得能够基于所述表演属性中的一个或多个来搜索技能表演事件,从而使得能够对视频数据中与共同的表演属性相关联的多个部分进行定位。
21.根据权利要求18所述的方法,包括:使得能够基于表演属性进行搜索包括使得能够识别对于特定技能具有指定症状的实例。
22.根据权利要求18所述的方法,其中,所述症状中的一个或多个症状是基于以下项中的一项或两项来定义的:相对于定义的最优表演的所述技能的表演;以及在所述技能的表演中观测到的一个或多个基于运动的属性。
23.根据权利要求16所述的方法,其中,基于从所述多个MSU导出的运动传感器数据(MSD)识别表示多个预定义的基于身体运动的技能中的至少所述特定的一个技能的表演事件包括:使用来自在一个或多个人体关节的相对侧上的MSU的MSD来分析表示身体运动的数据。
24.根据权利要求16所述的方法,其中,基于时间码相关性来识别来自所述一个或多个视频源中的每个视频源的视频数据中与所述时间编码的技能表演数据相对应的相应部分包括:将元数据与所述视频数据相关联。
25.根据权利要求16所述的方法,其中,基于时间码相关性来识别来自所述一个或多个视频源中的每个视频源的视频数据中与所述时间编码的技能表演数据相对应的相应部分包括:从所述视频数据中提取子剪辑片段。
26.根据权利要求16所述的方法,其中,每个实例的时间编码的技能表演事件数据与表演位置信息相关联,并且其中视频源与视频位置数据相关联,其中所述方法包括:基于如下项识别来自所述一个或多个视频源中的每个视频源的视频数据中与所述时间编码的技能表演数据相对应的相应部分:(i)时间码相关性;以及(ii)所述表演位置信息与所述视频位置数据之间的位置信息相关性。
27.根据权利要求26所述的方法,其中,所述位置信息是从GPS导出的。
28.根据权利要求26所述的方法,其中,所述位置信息是通过读取定位令牌导出的。
29.根据权利要求16所述的方法,包括:维护表示本地交互事件的数据,其中每个本地交互事件与如下项相关联:(i)时间;和(ii)用户。
30.根据权利要求29所述的方法,其中,每个实例的时间编码的技能表演事件数据与如下项相关联:(i)时间信息;和(ii)用户,并且其中所述方法包括:识别技能表演事件时间和用户数据与本地交互事件时间和用户数据之间的相关性。
31.一种用于提供对视频数据中用户期望的部分的访问的方法,所述方法包括:
维护对一个或多个视频数据储存库的访问,其中所述视频数据表示在定义的捕获时间期间在定义的捕获区域中捕获的视频;
维护对与一个或多个识别的具有MSU功能的服装的用户相关联的一个或多个时间编码的技能表演事件数据储存库的访问,其中,所述一个或多个具有MSU功能的服装的用户被识别为在所述定义的捕获时间期间存在于所述定义的捕获区域;
提供查询界面,所述查询界面被配置为使得用户能够定义和提交用户查询,其中所述用户查询是基于一个或多个技能表演事件数据属性值来定义的;
响应于接收到用户查询:(i)识别满足所述查询的一个或多个实例的技能表演事件数据;(ii)识别所述视频数据中与所识别出的实例的技能表演事件数据的相关联的部分;以及
响应于所述查询,传送被配置为使得用户能够访问以查看所述视频数据中被识别出的部分的数据。
32.根据权利要求31所述的方法,其中所述视频数据表示运动事件,并且响应于所述查询而传送被配置为使得用户能够访问以查看所述视频数据中被识别出的部分的数据包括:提供对所述视频数据中与被识别出的实例的技能表演事件数据相关联的离散部分的访问,从而使得能够基于所述用户查询节略地观看所述体育事件。
33.根据权利要求31所述的方法,其中,每个给定实例的时间编码的技能表演事件数据表示多个预定的基于身体动作的技能中的特定的一个技能的身体表演,其中所述技能表演事件数据是基于对从包括多个运动传感器单元(MSU)的最终用户硬件中导出的数据的处理来定义的。
34.根据权利要求33所述的方法,其中,其中所述最终用户硬件预先被操作来下载包括状态引擎数据的数据,其中所述状态引擎数据将所述最终用户硬件配置为基于从所述多个MSU导出的运动传感器数据(MSD)识别表示多个预定义的基于身体运动的技能中的至少所述特定的一个技能的表演事件。
35.根据权利要求34所述的方法,使得所述最终用户硬件的用户能够:(i)选择要表演的活动;(ii)使得将状态引擎数据下载到所述最终用户硬件,其中所述状态引擎数据将所述最终用户硬件配置为基于从所述多个MSU导出的运动传感器数据(MSD)识别与所选活动相关联的、表示多个预定义的基于身体运动的技能的表演事件。
36.根据权利要求33所述的方法,其中,所述时间编码的技能表演事件数据表示包括如下项的表演属性:(i)被表演的定义的基于运动的技能的名称标识符;和(ii)被表演的所述技能的一个或多个症状。
37.根据权利要求36所述的方法,其中,所述一个或多个症状包括表示与表演影响因素相关联的运动属性的症状。
38.根据权利要求36所述的方法,包括:使得能够基于所述表演属性中的一个或多个表演属性来搜索技能表演事件,从而使得能够对视频数据中与共同的表演属性相关联的多个部分进行定位。
39.根据权利要求36所述的方法,包括:使得能够基于表演属性进行搜索包括使得能够识别对于特定技能具有指定症状的实例。
40.根据权利要求36所述的方法,其中,所述症状中的一个或多个症状是基于以下项中的一项或两项来定义的:相对于定义的最优表演的所述技能的表演;以及在所述技能的表演中观测到的一个或多个基于运动的属性。
41.根据权利要求33所述的方法,其中,基于从所述多个MSU导出的运动传感器数据(MSD)识别表示多个预定义的基于身体运动的技能中的至少所述特定的一个技能的表演事件包括:使用来自在一个或多个人体关节的相对侧上的MSU的MSD来分析表示身体运动的数据。
42.根据权利要求33所述的方法,其中,基于时间码相关性来识别来自所述一个或多个视频源中的每个视频源的视频数据中与所述时间编码的技能表演数据相对应的相应部分包括:将元数据与所述视频数据相关联。
43.根据权利要求33所述的方法,其中,基于时间码相关性来识别来自所述一个或多个视频源中的每个视频源的视频数据中与所述时间编码的技能表演数据相对应的相应部分包括:从所述视频数据中提取子剪辑片段。
44.一种用于管理媒体数据的计算机实现的方法,所述方法包括:
接收时间编码的技能表演事件数据,其中给定实例的时间编码的技能表演事件数据表示多个预定义的基于身体运动的技能中的特定的一个技能的身体表演,其中所述技能表演事件数据是基于对从包括至少一个表演传感器单元(PSU)的最终用户硬件中导出的数据的处理来定义的;
访问一个或多个视频源,其中所述一个或多个视频源与所述时间编码的技能表演数据相关联;以及
基于时间码相关性来识别来自所述一个或多个视频源中的每个视频源的视频数据中与所述时间编码的技能表演数据相对应的相应部分;
从而使得能够识别视频数据中与所述实例的时间编码的技能表演数据相对应的相应部分。
45.一种用于管理媒体数据的计算机实现的方法,所述方法包括:
接收时间编码的技能表演事件数据,其中给定实例时间编码的技能表演事件数据表示多个预定义的基于身体运动的技能中的特定的一个技能的身体表演,其中所述技能表演事件数据是基于对从包括至少一个表演传感器单元(PSU)的最终用户硬件中导出的数据的处理来定义的;
访问一个或多个视频源,其中所述一个或多个视频源与所述时间编码的技能表演数据相关联;以及
基于时间码相关性来识别来自所述一个或多个视频源中的每个视频源的视频数据中与所述时间编码的技能表演数据相对应的相应部分;
从而使得能够同时渲染视频数据中带有从相应实例的时间编码的技能表演数据导出的图形数据的相应部分。
46.根据权利要求45所述的方法,其中,每个技能表演事件包括一个或多个表演属性,并且其中所述方法包括基于一个或多个表演属性实现对储存库的查询,从而使得能够对视频数据中与共同的表演属性相关联的多个部分进行定位。
47.一种用于组织视频数据的方法,所述方法包括:
维护对从一个或多个捕获设备导出的视频数据的储存库的访问;
接收表示技能表演事件的数据,其中给定的技能表演事件是通过一定处理来定义的,所述处理包括对经由穿戴着的运动传感器单元集合收集的数据进行分析;
执行处理从而将一个或多个技能表演事件与所述储存库中的视频数据的相应部分相关联。
48.根据权利要求47所述的方法,其中,每个技能表演事件包括一个或多个表演属性,并且其中所述方法包括:基于一个或多个表演属性实现对所述储存库的查询,从而使得能够对视频数据中与共同的表演属性相关联的多个部分进行定位。
49.根据权利要求48所述的方法,其中,所述表演属性包括技能名称。
50.根据权利要求49所述的方法,其中,所述表演属性中的一个或多个表演属性基于以下项中的一项或两项来定义:相对于定义的最优表演的所述技能的表演;以及在所述技能的表演中观测到的一个或多个基于运动的属性。
51.根据权利要求47所述的方法,其中,每个技能表演事件与时间信息相关联。
52.根据权利要求47所述的方法,其中,每个表演事件与位置信息相关联。
53.根据权利要求52所述的方法,其中,所述位置信息是从GPS导出的。
54.根据权利要求52所述的方法,其中,所述位置信息是通过读取定位令牌导出的。
55.根据权利要求47所述的方法,包括:维护表示本地交互事件的数据,其中每个本地交互事件与如下项相关联:(i)时间;和(ii)用户。
56.根据权利要求55所述的方法,其中,每个技能表演事件与如下项相关联:(i)时间信息;和(ii)用户,并且其中所述方法包括:识别技能表演事件时间和用户数据与本地交互事件时间和用户数据之间的相关性。
57.一种用于提供对视频数据中用户期望的部分的访问的方法,所述方法包括:
维护对一个或多个视频数据储存库的访问,其中所述视频数据储存库被配置为与一组表演事件相关联;
维护对一个或多个表演属性数据储存库的访问,其中,所述表演属性数据是从多个用户各自穿戴着的运动传感器单元集合中导出的,并且其中所述表演属性数据还被配置为与所述一组表演事件相关联;
提供被配置为使得用户能够定义和提交用户查询的查询界面,其中所述用户查询是基于一个或多个表演属性值来定义的;
响应于接收到用户查询:(i)识别所述表演属性数据中满足所述查询的一个或多个表演事件;和(ii)识别视频数据中与所识别出的表演事件相关联的部分;以及
响应于所述查询,传送被配置为使得用户能够访问以查看所述视频数据中被识别出的部分的数据。
58.一种用于提供对视频数据中用户期望的部分的访问的方法,所述方法包括:
维护对一个或多个视频数据储存库的访问,其中所述视频数据表示在定义的捕获时间期间在定义的捕获区域中捕获的视频;
维护对一个或多个时间编码的技能表演事件数据储存库的访问,其中所述时间编码的技能表演事件数据与一个或多个识别的具有MSU功能的服装的用户相关联,其中,所述一个或多个具有MSU功能的服装的用户被识别为在所述定义的捕获时间期间存在于所述定义的捕获区域;
使得同时渲染:(i)表示给定实例的技能表演事件数据的图形数据;和(ii)视频数据;
从而使得关于正在表演的技能的信息与表示所述技能的表演的视频数据一起被示出。
59.一种最终用户设备,被配置为提供从被配置为使得能够执行根据前述任一项权利要求所述的方法的一个或多个MSU导出的数据。
60.一种计算机系统,被配置为执行根据前述任一项权利要求所述的方法。
CN201680040408.9A 2015-05-08 2016-05-09 被配置为基于从表演传感器单元导出的用户表演属性来实现对媒体数据的自动分类和/或搜索的框架、设备和方法 Pending CN107851113A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
AU2015901669A AU2015901669A0 (en) 2015-05-08 Frameworks and methodologies configured to enable automated categorisation and/or searching of video data based on user performance attributes
AU2015901669 2015-05-08
PCT/AU2016/000020 WO2016123648A1 (en) 2015-02-02 2016-02-02 Frameworks, devices and methodologies configured to enable delivery of interactive skills training content, including content with multiple selectable expert knowledge variations
AUPCT/AU2016/000020 2016-02-02
PCT/AU2016/050347 WO2016179652A1 (en) 2015-05-08 2016-05-09 Frameworks, devices and methodologies configured to enable automated categorisation and/or searching of media data based on user performance attributes derived from performance sensor units

Publications (1)

Publication Number Publication Date
CN107851113A true CN107851113A (zh) 2018-03-27

Family

ID=57247597

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680040408.9A Pending CN107851113A (zh) 2015-05-08 2016-05-09 被配置为基于从表演传感器单元导出的用户表演属性来实现对媒体数据的自动分类和/或搜索的框架、设备和方法

Country Status (6)

Country Link
US (1) US10942968B2 (zh)
EP (1) EP3295324A4 (zh)
JP (1) JP6836582B2 (zh)
KR (1) KR20180015648A (zh)
CN (1) CN107851113A (zh)
WO (1) WO2016179652A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110231870A (zh) * 2019-06-13 2019-09-13 湖南超视觉工程有限公司 一种基于Kinect体感技术的交互式表演方法、电子设备及计算机可读存储介质
CN112783586A (zh) * 2019-11-07 2021-05-11 贝克休斯油田作业有限责任公司 用于机械管理的可定制工作流程

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10863330B1 (en) * 2015-12-03 2020-12-08 Eta Vision Inc. Systems and methods for sensing, recording, analyzing and reporting environmental conditions in data centers and similar facilities
US11284544B1 (en) * 2015-12-03 2022-03-22 Eta Vision Inc. Systems and methods for sensing, recording, analyzing and reporting environmental conditions in data centers and similar facilities
US20180255074A1 (en) * 2017-03-01 2018-09-06 Symantec Corporation Managing data encrypting applications
TWI672611B (zh) * 2018-07-23 2019-09-21 宏碁股份有限公司 使用仿生韌帶之觸覺回饋系統

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080208801A1 (en) * 2007-02-26 2008-08-28 Robert R Friedlander System and method for deriving a hierarchical event based database optimized for analysis of biological systems
US20140142459A1 (en) * 2012-11-14 2014-05-22 MAD Apparel, Inc. Wearable performance monitoring, analysis, and feedback systems and methods
CN104137154A (zh) * 2011-08-05 2014-11-05 霍尼韦尔国际公司 用于管理视频数据的系统和方法

Family Cites Families (62)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6293802B1 (en) 1998-01-29 2001-09-25 Astar, Inc. Hybrid lesson format
US6389368B1 (en) 1999-10-01 2002-05-14 Randal R. Hampton Basketball goal sensor for detecting shots attempted and made
AU2002255568B8 (en) 2001-02-20 2014-01-09 Adidas Ag Modular personal network systems and methods
US20040219498A1 (en) 2002-04-09 2004-11-04 Davidson Lance Samuel Training apparatus and methods
US20060025229A1 (en) 2003-12-19 2006-02-02 Satayan Mahajan Motion tracking and analysis apparatus and method and system implementations thereof
CN1933880A (zh) 2004-01-26 2007-03-21 莫德高尔夫有限责任公司 用于测量和评估身体技能的动作和用于完成身体技能的设备的系统和方法
EP1846115A4 (en) * 2005-01-26 2012-04-25 Bentley Kinetics Inc METHOD AND SYSTEM FOR ANALYZING AND TEACHING ATHLETIC MOVEMENT
US20070063850A1 (en) 2005-09-13 2007-03-22 Devaul Richard W Method and system for proactive telemonitor with real-time activity and physiology classification and diary feature
US7602301B1 (en) 2006-01-09 2009-10-13 Applied Technology Holdings, Inc. Apparatus, systems, and methods for gathering and processing biometric and biomechanical data
US8714986B2 (en) 2006-08-31 2014-05-06 Achieve3000, Inc. System and method for providing differentiated content based on skill level
JP2008073285A (ja) 2006-09-22 2008-04-03 Seiko Epson Corp 靴、その靴を履いた人の歩行・走行動作評価支援装置
CN101652808A (zh) 2007-04-27 2010-02-17 诺基亚公司 基于表演情景来修改卡拉ok系统中的视听输出
US8799451B2 (en) 2009-01-28 2014-08-05 Headwater Partners I Llc Verifiable service policy implementation for intermediate networking devices
CN101441776B (zh) 2008-12-04 2010-12-29 浙江大学 示范表演驱动的基于加速传感器的三维人体动作编排方法
US9060714B2 (en) 2008-12-04 2015-06-23 The Regents Of The University Of California System for detection of body motion
US20100184564A1 (en) 2008-12-05 2010-07-22 Nike, Inc. Athletic Performance Monitoring Systems and Methods in a Team Sports Environment
US8988240B2 (en) * 2009-01-15 2015-03-24 AvidaSports, LLC Performance metrics
WO2010085476A1 (en) 2009-01-20 2010-07-29 Northeastern University Multi-user smartglove for virtual environment-based rehabilitation
GB0901020D0 (en) 2009-01-21 2009-03-04 Birmingham City University A motion capture apparatus
CA2757238C (en) 2009-03-27 2019-06-25 Infomotion Sports Technologies, Inc. Monitoring of physical training events
US8289185B2 (en) 2009-05-05 2012-10-16 Advanced Technologies Group, LLC Sports telemetry system for collecting performance metrics and data
US8629342B2 (en) 2009-07-02 2014-01-14 The Way Of H, Inc. Music instruction system
JP5695052B2 (ja) 2009-09-04 2015-04-01 ナイキ イノベイト セー. フェー. 運動活動のモニタリングおよび追跡の方法
US20110270135A1 (en) 2009-11-30 2011-11-03 Christopher John Dooley Augmented reality for testing and training of human performance
IT1397737B1 (it) 2010-01-18 2013-01-24 Giovanni Saggio Apparecchiatura e metodo di rilevamento, addestramento e allenamento di attivita' motorie
US8338684B2 (en) 2010-04-23 2012-12-25 Apple Inc. Musical instruction and assessment systems
GB2482729A (en) 2010-08-13 2012-02-15 Monnowtone Ltd An augmented reality musical instrument simulation system
US9076041B2 (en) 2010-08-26 2015-07-07 Blast Motion Inc. Motion event recognition and video synchronization system and method
US10216893B2 (en) 2010-09-30 2019-02-26 Fitbit, Inc. Multimode sensor devices
BR112013011083A2 (pt) 2010-11-05 2016-08-23 Nike International Ltd processo e sistema para treinamento pessoal automatizado
US9223936B2 (en) 2010-11-24 2015-12-29 Nike, Inc. Fatigue indices and uses thereof
US9457256B2 (en) 2010-11-05 2016-10-04 Nike, Inc. Method and system for automated personal training that includes training programs
JP5641222B2 (ja) 2010-12-06 2014-12-17 セイコーエプソン株式会社 演算処理装置、運動解析装置、表示方法及びプログラム
BR112013021436A2 (pt) 2011-02-17 2016-10-25 Nike International Ltd selecionado e correlacionando dados de atividades físicas com dados de imagens
US8696450B2 (en) 2011-07-27 2014-04-15 The Board Of Trustees Of The Leland Stanford Junior University Methods for analyzing and providing feedback for improved power generation in a golf swing
WO2013113036A1 (en) 2012-01-26 2013-08-01 Healthmantic, Inc System and method for processing motion-related sensor data with social mind-body games for health application
ITMI20120494A1 (it) 2012-03-27 2013-09-28 B10Nix S R L Apparato e metodo per l'acquisizione ed analisi di una attivita' muscolare
US9737261B2 (en) 2012-04-13 2017-08-22 Adidas Ag Wearable athletic activity monitoring systems
US8929709B2 (en) * 2012-06-11 2015-01-06 Alpinereplay, Inc. Automatic digital curation and tagging of action videos
CN102819863B (zh) 2012-07-31 2015-01-21 中国科学院计算技术研究所 一种三维人体运动的实时在线获取方法及其系统
US10008237B2 (en) * 2012-09-12 2018-06-26 Alpinereplay, Inc Systems and methods for creating and enhancing videos
US10548514B2 (en) 2013-03-07 2020-02-04 Alpinereplay, Inc. Systems and methods for identifying and characterizing athletic maneuvers
US9278255B2 (en) * 2012-12-09 2016-03-08 Arris Enterprises, Inc. System and method for activity recognition
US9043004B2 (en) 2012-12-13 2015-05-26 Nike, Inc. Apparel having sensor system
US9226706B2 (en) 2012-12-19 2016-01-05 Alert Core, Inc. System, apparatus, and method for promoting usage of core muscles and other applications
CA2900102A1 (en) * 2013-02-06 2014-08-14 Blur Sports Inc. Performance monitoring systems and methods for edging sports
CN103135765A (zh) 2013-02-20 2013-06-05 兰州交通大学 一种基于微机械传感器的人体动作信息捕捉系统
US9728103B2 (en) 2013-03-15 2017-08-08 Illinois Tool Works Inc. Data storage and analysis for a welding training system
US9713852B2 (en) 2013-03-15 2017-07-25 Illinois Tool Works Inc. Welding training systems and devices
US20140320481A1 (en) 2013-04-30 2014-10-30 Hewlett-Packard Development Company, L.P. Display control
WO2014197443A1 (en) 2013-06-03 2014-12-11 Kacyvenski Isaiah Motion sensor and analysis
US10687193B2 (en) 2013-09-19 2020-06-16 Unaliwear, Inc. Assist device and system
US9847038B2 (en) 2013-10-31 2017-12-19 Dexcom, Inc. Adaptive interface for continuous monitoring devices
CH709324A2 (fr) * 2014-01-06 2015-08-28 Cédric Mangaud Dispositif de création de vidéos augmentées.
CN103990285B (zh) 2014-05-12 2017-02-22 宁波市智能制造产业研究院 表演机器人
US20160180248A1 (en) 2014-08-21 2016-06-23 Peder Regan Context based learning
US9772684B2 (en) 2014-09-17 2017-09-26 Samsung Electronics Co., Ltd. Electronic system with wearable interface mechanism and method of operation thereof
JP6384549B2 (ja) 2014-10-10 2018-09-05 富士通株式会社 スキル判定プログラム、スキル判定方法およびスキル判定装置
US10918924B2 (en) 2015-02-02 2021-02-16 RLT IP Ltd. Frameworks, devices and methodologies configured to enable delivery of interactive skills training content, including content with multiple selectable expert knowledge variations
US10854104B2 (en) 2015-08-28 2020-12-01 Icuemotion Llc System for movement skill analysis and skill augmentation and cueing
US10970661B2 (en) 2016-01-11 2021-04-06 RaceFit International Company Limited System and method for monitoring motion and orientation patterns associated to physical activities of users
US10220255B2 (en) 2017-04-12 2019-03-05 Russell Copelan Wearable measuring apparatus for sports training

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080208801A1 (en) * 2007-02-26 2008-08-28 Robert R Friedlander System and method for deriving a hierarchical event based database optimized for analysis of biological systems
CN104137154A (zh) * 2011-08-05 2014-11-05 霍尼韦尔国际公司 用于管理视频数据的系统和方法
US20140142459A1 (en) * 2012-11-14 2014-05-22 MAD Apparel, Inc. Wearable performance monitoring, analysis, and feedback systems and methods

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110231870A (zh) * 2019-06-13 2019-09-13 湖南超视觉工程有限公司 一种基于Kinect体感技术的交互式表演方法、电子设备及计算机可读存储介质
CN112783586A (zh) * 2019-11-07 2021-05-11 贝克休斯油田作业有限责任公司 用于机械管理的可定制工作流程
CN112783586B (zh) * 2019-11-07 2023-10-31 贝克休斯油田作业有限责任公司 用于机械管理的可定制工作流程

Also Published As

Publication number Publication date
JP2018522361A (ja) 2018-08-09
WO2016179652A1 (en) 2016-11-17
KR20180015648A (ko) 2018-02-13
EP3295324A1 (en) 2018-03-21
US10942968B2 (en) 2021-03-09
US20180173797A1 (en) 2018-06-21
EP3295324A4 (en) 2018-10-24
JP6836582B2 (ja) 2021-03-03

Similar Documents

Publication Publication Date Title
CN107847789A (zh) 被配置为经由基于传感器的对身体表演的技能的监测来实现包括特定于位置的游戏化在内的游戏化的框架、设备和方法
CN107851113A (zh) 被配置为基于从表演传感器单元导出的用户表演属性来实现对媒体数据的自动分类和/或搜索的框架、设备和方法
CN107533806A (zh) 被配置为实现对包括具有多个可选择的专家知识变化的内容在内的交互技能训练内容的传送的框架、设备和方法
CN101911050B (zh) 实时注释器
CN104815428B (zh) 监测体育锻炼事件
US10803762B2 (en) Body-motion assessment device, dance assessment device, karaoke device, and game device
CN105593862B (zh) 具有活动提醒的活动识别
CN106462725A (zh) 监测游戏场所的活动的系统和方法
US20140278218A1 (en) Capturing and Analyzing Boardsport Maneuver Data
US10918924B2 (en) Frameworks, devices and methodologies configured to enable delivery of interactive skills training content, including content with multiple selectable expert knowledge variations
CN108369646A (zh) 多传感器事件检测和标记系统
CN108028902A (zh) 集成传感器和视频运动分析方法
US10661148B2 (en) Dual motion sensor bands for real time gesture tracking and interactive gaming
CN108959323A (zh) 视频分类方法和装置
Hollaus et al. Using wearable sensors and a convolutional neural network for catch detection in American football
CN107851457A (zh) 被配置为实现包括应用于交互技能训练内容的传送的对身体表演的技能的分析的框架和方法
CN110585730B (zh) 游戏的节奏感测试方法、装置以及相关设备
WO2018057044A1 (en) Dual motion sensor bands for real time gesture tracking and interactive gaming
Li et al. An image classification algorithm for football players’ activities using deep neural network
Ciliberto Movement recognition from wearable sensors data: power-aware evolutionary training for template matching and data annotation recovery methods
Khaksar A Framework for Gamification of Human Joint Remote Rehabilitation, Incorporating Non-Invasive Sensors
Groß et al. Dennis Groß
WO2016179654A1 (en) Wearable garments, and wearable garment components, configured to enable delivery of interactive skills training content
KR20110064859A (ko) 관심도 측정 장치

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20180327