CN104252712A - 图像生成装置及图像生成方法 - Google Patents

图像生成装置及图像生成方法 Download PDF

Info

Publication number
CN104252712A
CN104252712A CN201410292738.XA CN201410292738A CN104252712A CN 104252712 A CN104252712 A CN 104252712A CN 201410292738 A CN201410292738 A CN 201410292738A CN 104252712 A CN104252712 A CN 104252712A
Authority
CN
China
Prior art keywords
skeleton
action
animation
animation data
motion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410292738.XA
Other languages
English (en)
Other versions
CN104252712B (zh
Inventor
中岛光康
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Publication of CN104252712A publication Critical patent/CN104252712A/zh
Application granted granted Critical
Publication of CN104252712B publication Critical patent/CN104252712B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00Animation
    • G06T13/203D [Three Dimensional] animation
    • G06T13/403D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本发明的图像生成装置(100)具备动画获取部(150),动画获取部(150)获取多个动画数据。终端装置(200)具备指标值获取部(251)、合成骨架生成部(252)和绘画处理部(253)。指标值获取部(251)输入动画数据的与运动有关的指标的值,合成骨架生成部(252)采用通过动画获取部(150)获取的多个动画数据来生成与通过指标值获取部(251)而输入的指标的值相应的动画数据。

Description

图像生成装置及图像生成方法
技术领域
本发明涉及生成动画数据的图像生成装置及图像生成方法。
背景技术
以往,在日本的专利文献:日本特开2012-248233中记载了这样的技术:在人物处设定多个标记来测定各标记的动作并获取动画数据。
但是,在以往的技术中,例如,即使在想要改变动画数据的一部分的动作的情况下,也需要每次在人物处设定标记来获取新的动画数据。
发明内容
因此,本发明正是鉴于上述这样的状况而完成的,其目的在于使获得的动画数据容易与用户所希望的动作对应。
用于解决课题的技术方案
本发明提供一种图像生成装置,其特征在于,所述图像生成装置具备:数据获取单元,其获取多个动画数据;输入单元,其输入动画数据的与运动有关的指标的值;以及第一生成单元,其采用通过所述数据获取单元获取的多个动画数据来生成与通过所述输入单元输入的指标的值相应的动画数据。
此外,本发明提供一种图像生成方法,其特征在于,所述图像生成方法包括如下步骤:数据获取步骤,获取多个动画数据;输入步骤,输入动画数据的与运动有关的指标的值;以及生成步骤,采用通过所述数据获取步骤而获取的多个动画数据来生成与在所述输入步骤中被输入的指标的值相应的动画数据。
附图说明
图1示出了本发明的一个实施方式的图像生成系统的结构。
图2是将本发明的一个实施方式的图像生成装置的硬件的结构示出的框图。
图3是将本发明的一个实施方式的终端装置的硬件的结构示出的框图。
图4是将图像生成装置的功能性结构中的用于执行准备处理的功能性结构示出的功能框图。
图5是将骨架的概要示出的示意图。
图6是将终端装置的功能性结构中的用于执行骨架绘画处理的功能性结构示出的功能框图。
图7是对具有图4中的功能性结构的图2中的图像生成装置执行的准备处理的流程的一例进行说明的流程图。
图8是对准备处理中的标准化骨架获取处理的流程的一例进行说明的流程图。
图9是对准备处理中的标准骨架获取处理的流程的一例进行说明的流程图。
图10是对准备处理中的指标关联处理的流程的一例进行说明的流程图。
图11是对准备处理中的轴参数确定处理的流程的一例进行说明的流程图。
图12是对具有图6中的功能性结构的图3中的终端装置执行的骨架绘画处理的流程的一例进行说明的流程图。
图13是将通过骨架绘画处理而显示的显示画面例示出的示意图。
图14是对骨架绘画处理中的合成骨架生成处理的流程的一例进行说明的流程图。
图15是将时间序列的骨架空间示出的示意图。
图16是将与图15不同的帧(帧号码=k)的骨架空间示出的示意图。
图17是将骨架空间中的合成骨架示出的示意图,A是将在骨架空间设定有标准骨架动作的状态示出的图,B是将与不同的运动相关的指标值相应的特征骨架示出的图,C是将合成骨架示出的图。
图18是对具有图5中的功能性结构的图3中的终端装置执行的第一箭头绘画处理的流程进行说明的流程图。
图19是将骨架被反复描绘的状态示出的图。
图20是将视点方向被改变的显示画面例示出的示意图。
图21是将与图20不同的时刻的显示画面例示出的示意图。
图22是对具有图5中的功能性结构的图3中的终端装置执行的第二箭头绘画处理的流程进行说明的流程图。
图23是将骨架被反复描绘的状态示出的图。
图24是将显示有将骨架的部位变化的方向示出的箭头的显示画面例示出的示意图。
图25是对具有图5中的功能性结构的图3中的终端装置执行的对应指标报知处理的流程进行说明的流程图。
图26是将能够移动的关节描绘得比其它关节大的骨架的显示画面例示出的示意图。
图27是对在对应指标报知处理中作为插入处理而执行的关节插入移动处理的流程进行说明的流程图。
图28是对在对应指标报知处理和关节插入移动处理中作为插入处理而执行的结束插入处理的流程进行说明的流程图。
图29是对具有图5中的功能性结构的图3中的终端装置执行的实时显示处理的流程进行说明的流程图。
具体实施方式
下面,采用附图对本发明的实施方式进行说明。
根据本实施方式的图像生成系统,通过检测出附于成为模型的人物上的标记的位置,从而获得多个捕捉到人的动作的动态捕捉数据,根据这些而获取作为标准的骨架动作(用由“骨头”和“关节”构成的骨骼表示的模型的动作)。此外,在本实施方式的图像生成系统中,对作为标准的骨架动作设定与运动有关的指标值(例如最大反应力加速度的值等),对该指标设定轴参数。根据多个骨架的动态、或者获取动态捕捉数据时一并测定出的动作的参数(例如反应力加速度的值等)来设定与运动有关的指标的具体的值。此外,轴参数是根据多个骨架动作中的各指标值的分布而设定的表示动作的程度的值。并且,当用户将与运动有关的指标值的变更输入后,根据轴参数而变更标准的骨架动作。变更后的骨架动作被识别出源自于标准的骨架动作的变更部分而被显示出。
由此,能够将测定动作而得到的骨架变更成所希望的动作。
此外,轴参数是根据多个骨架而获得的。因此,通过根据轴参数而改变动作,从而标准的骨架的动作的变化变成与人的动作相应的动作,能够实现更适当的动作的变化。
并且,能够向用户明确地提示将标准的骨架动作变更的部分。
图1示出了本发明的一个实施方式的图像生成系统1的结构。
在图1中,图像生成系统1包括图像生成装置100和终端装置200,图像生成装置100和终端装置200构成为借助于互联网等网络300而能够通信。
图2是将本发明的一个实施方式的图像生成装置100的硬件的结构示出的框图。
图像生成装置100由例如服务器构成。
图像生成装置100具备CPU(Central Processing Unit:中央处理器)111、ROM(Read Only Memory:只读存储器)112、RAM(Random AccessMemory:随机存取存贮器)113、总线114、输入输出接口115、输入部116、输出部117、存储部118、通信部119和驱动器120。
CPU111根据用于准备处理(后述)的程序等、记录于ROM112中的程序、或者从存储部118下载到RAM113中的程序来执行各种处理。
在RAM113中还适当地存储有CPU111执行各种处理上所需的数据等。
CPU111、ROM112和RAM113经总线114而彼此被连接起来。此外,输入输出接口115也与该总线114连接。输入部116、输出部117、存储部118、通信部119和驱动器120与输入输出接口115连接。
输入部116由各种按钮等构成,根据用户的指示操作而输入各种信息。
输出部117由显示器及扬声器等构成,输出图像及声音。
存储部118由硬盘或DRAM(Dynamic Random Access Memory:动态随机存储器)等构成,存储骨架的数据及与运动有关的指标值或者轴参数等数据。
通信部119对借助于包括互联网在内的网络而与其它装置之间进行的通信进行控制。
驱动器120中适当地安装有由磁盘、光盘、光磁盘或者半导体存储器等构成的可移动介质131。通过驱动器120而从可移动介质131中读出的程序根据需要而被安装于存储部118中。此外,可移动介质131与存储部118同样地也能够存储在存储部118中存储的图像的数据等各种数据。
图3是将本发明的一个实施方式的终端装置200的硬件的结构示出的框图。
终端装置200由例如被称为智能手机的便携式终端构成。
在图3中,终端装置200具备CPU211、ROM212、RAM213、总线214、输入输出接口215、摄像部216、输入部217、输出部218、存储部219、通信部220和驱动器221。
CPU211根据用于骨架绘画处理的程序等、记录于ROM212中的程序、或者从存储部219下载到RAM213中的程序来执行各种处理。
在RAM213中还适当地存储有CPU211执行各种处理上所需的数据等。
CPU211、ROM212和RAM213经总线214而彼此被连接起来。此外,输入输出接口215也与该总线214连接。摄像部216、输入部217、输出部218、存储部219、通信部220和驱动器221与输入输出接口215连接。
虽未图示,但摄像部216具备光学透镜部和图像传感器。
为了对被拍摄体进行拍摄,光学透镜部由对光进行聚光的透镜、例如聚焦透镜及变焦透镜等构成。
聚焦透镜是使被拍摄体像在图像传感器的受光面上成像的透镜。变焦透镜是使焦点距离在一定的范围自由变化的透镜。
此外,根据需要而在光学透镜部设置有对焦点、曝光、白平衡等设定参数进行调整的外围电路。
图像传感器由光电转换元件及AFE(Analog Front End:模拟前端)等构成。
光电转换元件由例如CMOS(Complementary Metal OxideSemiconductor:互补金属氧化物半导体)型的光电转换元件等构成。被拍摄体像从光学透镜部入射到光电转换元件。因此,光电转换元件对被拍摄体像进行光电转换(摄像)而一定时间地存储图像信号,并将存储的图像信号作为模拟信号而顺次地提供给AFE。
AFE对该模拟的图像信号执行A/D(Analog/Digital:模数转换)转换处理等各种信号处理。通过各种信号处理来生成数字信号并作为摄像部216的输出信号(摄像图像的数据)而被输出。
输入部217由各种按钮等构成,根据用户的指示操作而输入各种信息。此外,输入部217具有话筒和A/D转换电路等,借助于话筒而将输入的声音的数据输出到CPU211或者存储部219。
输出部218具有显示器、扬声器和D/A转换电路等,输出图像及声音。
存储部219由硬盘或DRAM等构成,对存储有各种图像的数据和属性的图像数据库等进行存储。
通信部220对借助于包括互联网在内的网络而与其它装置之间进行的通信进行控制。
驱动器221中适当地安装有由磁盘、光盘、光磁盘或者半导体存储器等构成的可移动介质231。通过驱动器221而从可移动介质231中读出的程序根据需要而被安装于存储部219中。此外,可移动介质231与存储部219同样地也能够存储在存储部219中存储的图像的数据等各种数据。
[图像生成装置的功能结构]
图4是将图像生成装置100的功能性结构中的用于执行准备处理的功能性结构示出的功能框图。
准备处理是指根据通过动态捕捉而得到的动态捕捉数据获得标准的骨架(下面,称为“标准骨架”),并对标准骨架设定与运动相关的轴参数的一连串的处理。
另外,下面列举进行跑步的人物的动画数据为对象的情况为例进行说明。
在执行准备处理的情况下,在CPU111中,标准化骨架获取部151、标准骨架获取部152、指标关联处理部153和轴参数确定部154作为动画获取部150而发挥功能。
另外,也可以将标准化骨架获取部151、标准骨架获取部152、指标关联处理部153和轴参数确定部154的功能的一部分移交给GA(GraphicAccelerator:图形加速器)等进行图像处理的功能部。
标准化骨架获取部151执行后述的标准化骨架获取处理。具体而言,对于多个骨架动作,标准化骨架获取部151获取通过动态捕捉而得到的人物的动作的数据(动态捕捉数据)和通过测力板装置(测定力的装置)检测出的力(这里是地面反作用力)的数据。根据本实施方式,动态捕捉数据和地面反作用力的数据为通过标准化骨架获取部151来获取预先测定的数据。但是,也可以使图像生成装置100具备动态捕捉的功能和测力板装置,并测定动态捕捉数据和地面反作用力的数据。此外,标准化骨架获取部151根据动态捕捉数据生成骨架动作的数据,并按跑步形式的一个周期将所生成的骨架动作的数据标准化。由此,能够获取多个标准化的骨架动作(标准化骨架动作)。
图5是将骨架的概要示出的示意图。
骨架通常是指动物或人的整体的骨骼,用于通过骨架本身来表现动作、或者使通过电脑制图法合成的模型活动。骨架具有层次结构,由作为可动部的关节和作为刚体的骨头构成。
在图5中,骨架S具有按层次结构中的最上位的根关节J201、骨头B201a、关节J202、骨头B202a、关节J203的顺序连结起来的结构。
在骨架S包括时间轴上的姿势变化的情况下,构成按时间发生变化的骨架即骨架动作。骨架动作由多帧构成。骨架动作的时间轴变量成为:作为根关节J201的根的XYZ坐标位置、作为根关节J201的关节的从世界坐标向根关节J201的局部坐标的坐标转换信息(由三轴的旋转要素构成并作为角度信息来表示。根据本实施方式,作为四维的四元数来表示。)、以及关节J202的坐标转换信息(从根关节J201向关节J202的坐标转换信息)共计12维信息。通过采用四元数,从而能够高速地进行向位置坐标的计算。
此外,由于是刚体,因此骨头的长度不发生时间性变化而成为常数。上述的坐标转换信息是指骨头从关节伸出去的旋转方向。另外,下面,在称为所有关节时,包括根关节和关节。
回到图4,标准骨架获取部152执行后述的标准骨架获取处理。具体而言,标准骨架获取部152提取标准化的各骨架的各关节的时间轴参数(位置、旋转等),并计算出各个关节的平均值。并且,标准骨架获取部152将计算出的平均值设定作为关于标准骨架中对应的关节的时间轴参数。对于骨头也取平均地进行设定。由此,能够设定标准的骨架动作。
指标关联处理部153执行后述的指标关联处理。具体而言,指标关联处理部153从骨架动作的动态捕捉数据中获取与特定的运动有关的指标值。这里,指标关联处理部153获取体轴的倾斜度的平均值(体轴从铅垂方向向行进方向的倾斜度的平均值)。此外,指标关联处理部153从骨架动作中的测力板装置的测定结果(地面反作用力)获取与运动有关的指标值(这里是表示最大反应力的指标值)。并且,指标关联处理部153使获取的这些指标值与所有的骨架动作关联起来。
轴参数确定部154在所有的标准化骨架动作中选择与运动有关的指标值为上位和下位的一定比例(这里是20%)的各骨架动作(下面,称为“上位的骨架动作”和“下位的骨架动作”),计算出所选择的上位的指标值上位的骨架动作的指标的平均值和下位的骨架动作的指标的平均值。并且,轴参数确定部154将这些平均值和与标准化骨架动作之间的欧几里德距离大于规定值(阈值)D的部分从标准化骨架动作中除外。此外,轴参数确定部154在除外后的标准化骨架动作中再次选择上位的骨架动作和下位的骨架动作,计算出上位的骨架动作的指标值的平均值和下位的骨架动作的指标值的平均值来进行基于阈值D的标准化骨架动作的排除。轴参数确定部154执行多次(例如三次)用于这种排除的处理。由此,在维数大的骨架动作的数据中,能够更高精度地选择指标值为上位和下位的骨架动作。
轴参数确定部154执行后述的轴参数确定处理。具体而言,对于各指标值的上位的骨架动作和下位的骨架动作,轴参数确定部154将上述那样获得的上位的骨架动作的指标值的平均值和下位的骨架动作的指标值的平均值作为与各指标值对应的轴参数的基准值而存储在存储部118中。
[终端装置的功能结构]
图6是将终端装置200的功能性结构中的用于执行骨架绘画处理的功能性结构示出的功能框图。
骨架绘画处理是指根据所输入的指标值而生成使动作的程度发生变化的合成骨架动作,并将生成的合成骨架动作描绘出的一连串的处理。
在执行骨架绘画处理的情况下,在CPU211中,指标值获取部251、合成骨架生成部252和绘画处理部253发挥功能。
另外,也可以将指标值获取部251、合成骨架生成部252和绘画处理部253的功能的一部分移交给进行GA(Graphic Accelerator:图形加速器)等图像处理的功能部。
指标值获取部251在用户界面的画面中获取用户输入的指标值。例如,在用户界面的画面中,当标准骨架动作的反应力的指标值为“25”时,用户新输入“40”作为最大反应力加速度的值后,指标值获取部251获取“40”作为最大反应力加速度的值。
合成骨架生成部252执行后述的合成骨架生成处理。具体而言,合成骨架生成部252根据通过指标值获取部251获取的指标值而改变标准骨架的指标值,并生成合成骨架动作。例如,在通过指标值获取部251获取到改变后的最大反应力加速度的值“40”的情况下,合成骨架生成部252生成将标准骨架中的最大反应力加速度从“25”变更成“40”的合成骨架动作。
绘画处理部253将通过合成骨架生成部252生成的合成骨架动作作为动画而显示。此时,绘画处理部253在合成骨架动作中视觉性地识别出从标准骨架动作变更的指标而进行显示。例如,在合成骨架动作的最大反应力加速度的值从标准骨架动作变更的情况下,绘画处理部253在参与最大反应力加速度的值的部分(例如腿)显示箭头来识别并显示已从标准骨架动作产生变更的情况。
[动作]
下面,对动作进行说明。
[准备处理]
图7是对具有图4中的功能性结构的图2中的图像生成装置100执行的准备处理的流程的一例进行说明的流程图。
与借助于终端装置200等输入准备处理的起动对应地开始准备处理。
当开始准备处理后,在步骤S101中,标准化骨架获取部151执行标准化骨架获取处理(后述)。
在步骤S102中,标准骨架获取部152执行标准骨架获取处理(后述)。
在步骤S103中,指标关联处理部153执行指标关联处理(后述)。
在步骤S104中,轴参数确定部154执行轴参数确定处理(后述)。
在步骤S105中,轴参数确定部154对所有的指标进行轴参数的确定处理是否完成的判定。
在未对所有的指标完成轴参数处理的情况下,在步骤S105中判定为否,处理返回到步骤S104。
相对于此,在针对所有的指标都完成了轴参数确定处理的情况下,在步骤S105中判定为是,准备处理完成。
[标准化骨架获取处理]
下面,对在准备处理的步骤S101中执行的标准化骨架获取处理进行说明。
图8是对准备处理中的标准化骨架获取处理的流程的一例进行说明的流程图。
当开始标准化骨架获取处理后,在步骤S201中,标准化骨架获取部151获取通过光学式动态捕捉装置和测力板装置测定的动态捕捉数据和地面反作用力的数据作为跑步时的动作的数据。
具体而言,标准化骨架获取部151从光学式动态捕捉装置获取由安装于动作的测定对象处的标记的动作来表示的跑步动作的形式。光学式动态捕捉装置,是利用多部照相机对在想要测定人物动作的部安装位的标记进行追踪的装置。
这里,在成为动作的测定对象的人物中,标记被安装于能够推定用于构筑骨架的关节部位的位置处。即,通过动态捕捉能够追踪骨架的关节位置。
此外,标准化骨架获取部151从测力板装置获取跑步时的地面反作用力的数据。
作为一例,测力板装置被埋入于地面,通过由测定对象人物在该地面上跑,从而获得地面反作用力的信息。根据地面反作用力能够获得从测定对象向地面的朝向铅垂方向的反应力和向行进方向的推进力。
由于地面反作用力是力,因此,根据牛顿的运动法则,能够从下面的(1)式导出。
F=m×a    (1)
这里,“F”表示力,“m”表示质量,“a”表示加速度。“F”取决于质量,因此取决于测定对象的人物的体重。因此,通过将地面反作用力当作加速度而不是力进行处理,从而成为不取决于测定对象的人物的体重的指标。
根据本实施方式,由于采用最大反应力加速度的值(在反应力加速度的值中的最大的值)作为动作的指标值,因此将表示最大反应力加速度的值的指标值与动态捕捉数据关联起来进行存储,在后面的处理中利用。
在步骤S202中,标准化骨架获取部151获取骨架动作。具体而言,标准化骨架获取部151根据从动态捕捉装置获取的动态捕捉数据生成骨架动作。标准化骨架获取部151根据动态捕捉数据推定骨架的关节位置,将关节之间作为骨头。但是,在这样地确定了骨头的情况下,由于骨头严格来讲不是刚体而有时伸缩,因此标准化骨架获取部151整体进行最优化来生成骨架动作,以实现加以限制使得骨头成为刚体的同时尽可能地满足所推定的关节位置。
在步骤S203中,标准化骨架获取部151使骨架动作标准化。
具体而言,标准化骨架获取部151根据跑步形式的周期性来进行骨架动作的标准化。根据本实施方式,在右腿的膝盖赶超左腿的膝盖的时机切出骨架动作的运动图像,为了使切出的帧数一致,进行插补使得全部成为相同帧数(例如是100帧),从而进行标准化。在进行插补的情况下,以根关节的位置信息和根关节及关节所具有的角度信息作为对象来实施数据的插补。
标准化骨架获取部151对多个骨架动作(N次试做的骨架动作)进行骨架动作的标准化,生成N个标准化骨架动作。此外,对于各个标准化骨架动作,将作为指标值中的一个的、表示最大反应力加速度的值的指标值建立关联。
在步骤S204中,标准化骨架获取部151对是否进行了N次试做的骨架动作的标准化进行判定。
在未进行N次试做的骨架动作的标准化的情况下,在步骤S204中判定为否,处理返回到步骤S201。
相对于此,在进行了N次试做的骨架动作的标准化的情况下,在步骤S204中判定为是,处理返回到准备处理。
[标准骨架获取处理]
下面,对在准备处理的步骤S102中执行的标准骨架获取处理进行说明。
图9是对准备处理中的标准骨架获取处理的流程的一例进行说明的流程图。
当开始标准骨架获取处理后,在步骤S301中,标准骨架获取部152判断所有关节的处理是否完成。即,标准骨架获取部152针对所有关节(根关节和各关节)的每个关节判定是否对所有的帧分别进行了处理。
在对所有关节的每个关节都分别处理了所有的帧的情况下,在步骤S301中判定为是,处理返回到准备处理。
相对于此,在未对所有关节的每个关节分别处理完所有的帧的情况下,在步骤S301中判定为否,处理进入到步骤S302。
在步骤S302中,标准骨架获取部152获取全部试做的关节的参数。
在步骤S303中,标准骨架获取部152计算出标准骨架的关节的参数。求出关于标准骨架的关节的参数作为所取出的全部试做的关节各自的变量的平均值。按X轴、Y轴、Z轴的每个分量独立地计算出这里的平均值。
例如,在根关节的情况下,求出相应帧的全部试做的位置坐标的平均,作为标准骨架动作的相应帧的位置坐标。
此外,若是用四元数表示的角度信息,则根据下面的式(2)计算出。即,在q1、q2、q3、q4、q5这五个四元数的平均的情况下,作为Qmean=exp((1/5)×(ln(q1)+ln(q2)+ln(q3)+ln(q4)+ln(q5))(2)而计算出。
这里,“exp”表示底为自然常数的指数函数,“ln”表示自然对数。
这样,通过转换成对数四元数,从而能够获得用于标准骨架动作的平均值。
在步骤S304中,标准骨架获取部152对是否对全部帧进行了处理进行判定。
在对全部帧进行了处理的情况下,在步骤S304中判定为是,处理返回到准备处理。
相对于此,在未对全部帧进行处理的情况下,在步骤S304中判定为否,处理返回到步骤S302。
[指标关联处理]
下面,对在准备处理的步骤S103中执行的指标关联处理进行说明。
图10是对准备处理中的指标关联处理的流程的一例进行说明的流程图。
当开始指标关联处理后,在步骤S401中,指标关联处理部153对全部骨架动作的处理(即,用于对所有的标准化骨架动作生成标准骨架动作的处理)是否完成进行判定。
在所有的骨架动作的处理完成的情况下,在步骤S401中判定为是,处理返回到准备处理。
相对于此,在未完成所有的骨架动作的处理的情况下,在步骤S401中判定为否,处理进入到步骤S402。
在步骤S402中,指标关联处理部153对所有与运动有关的指标值的处理是否完成进行判定。
在所有与运动有关的指标值的处理完成的情况下,在步骤S402中判定为是,处理返回到步骤S401。
相对于此,在未完成所有与运动有关的指标值的处理的情况下,在步骤S402中判定为否,处理进入到步骤S403。
在步骤S403中,指标关联处理部153计算出体轴的倾斜度的平均值。通过根据标准化骨架动作求出体轴的前后方向的倾斜度的平均值,从而计算出体轴的倾斜度的平均值。这里,“体轴”是指从左右腿关节的中心朝向左右肩关节的中心的矢量。根据本实施方式,计算出一个标准化骨架动作在所有帧中的体轴矢量的平均值,将从铅垂方向到跑步行进方向的倾斜度作为体轴的倾斜度的平均值。关于标准骨架动作也是同样,计算出所有帧中的体轴矢量的平均,计算出体轴的倾斜度的平均值。并且,将计算出的体轴的倾斜度的平均值与各个骨架动作建立关联。
在步骤S404中,指标关联处理部153计算出最大反应力加速度的值。
获得最大反应力加速度的值作为通过测力板装置获得的地面反作用力在铅垂方向的分量中的最大值。并且,在一个周期的动作中,相对于与最大值对应的帧的标准化骨架动作,将表示最大反应力加速度的值的指标值建立关联。关于标准骨架动作,用于标准骨架动作生成时的标准化骨架动作的最大反应力加速度的值的平均值,被作为表示标准骨架动作的最大反应力加速度的值的指标值。
在步骤S404后,处理返回到步骤S402。
[轴参数确定处理]
下面,对在准备处理的步骤S104中执行的轴参数确定处理进行说明。
图11是对准备处理中的轴参数确定处理的流程的一例进行说明的流程图。
当开始轴参数确定处理后,在步骤S501中,轴参数确定部154对所有与运动有关的指标值的处理是否完成进行判定。
在所有与运动有关的指标值的处理完成的情况下,在步骤S501中判定为是,处理返回到准备处理。
在未完成所有与运动有关的指标值的处理的情况下,在步骤S501中判定为否,处理进入到步骤S502。
在步骤S502中,轴参数确定部154从所有的标准化骨架动作中获取最大反应力加速度的值为上位20%的标准化骨架动作。但是,在包括有小于标准骨架动作的最大反应力加速度的值的标准化骨架动作的情况下,将其除外。
在步骤S503中,轴参数确定部154将变量Loop设定为0(Loop=0)。
在步骤S504中,轴参数确定部154计算出所获取的标准化骨架动作的平均骨架动作(即上位的骨架动作的平均值)。
在步骤S505中,轴参数确定部154对逐次递增的变量Loop是否小于3(Loop++<3)进行判定。
在变量Loop不是小于3的情况下,在步骤S505中判定为否,处理进入到步骤S508。
相对于此,在变量Loop小于3的情况下,在步骤S505中判定为是,处理进入到步骤S506。
在步骤S506中,轴参数确定部154计算出所选择的骨架动作与平均骨架动作的欧几里德距离。即,轴参数确定部154,与标准骨架动作生成时同样地计算出上位的骨架动作的平均值,生成上位的平均骨架动作。并且,轴参数确定部154将生成的上位的平均骨架动作在位置空间中展开。即,轴参数确定部154根据所有帧中具有的变量和常数(根关节的位置和角度信息、骨头长、各关节处的角度信息)转换成成为空间位置坐标的根关节位置和关节位置。并且,轴参数确定部154,在所生成的上位的平均骨架动作和用于上位的平均骨架动作的生成的各个标准化骨架动作之间,求出在所有帧中累计的空间位置误差(欧几里德误差)。求得的欧几里德误差成为欧几里德距离。
在步骤S507中,轴参数确定部154将欧几里德误差(欧几里德距离)大于规定值D的标准化骨架动作从选择中排除。即,将在位置坐标中距离离开的骨架动作从上位的平均骨架动作中排除。然后,处理返回到步骤S504,再次生成上位的平均骨架动作。
在步骤S508中,轴参数确定部154计算出上位的骨架动作。即,轴参数确定部154将生成的上位的平均骨架动作作为最大反应力加速度的值大的骨架动作的代表,作为与最大反应力加速度的值有关的上位的骨架动作。此外,轴参数确定部154求出与上位的骨架动作对应的最大反应力加速度的值。最大反应力加速度的值作为用于上位的骨架动作生成的标准化骨架动作的最大反应力加速度的值的平均值。
在步骤S509中,轴参数确定部154计算出上位的骨架动作的指标值的平均值(上位的基准值)。即,轴参数确定部154根据所选择的上位的骨架动作计算出最大反应力加速度的值的平均值作为上位的基准值。
在步骤S510中,轴参数确定部154从所有的标准化骨架动作中获取最大反应力加速度的值小的下位20%的标准化骨架动作。但是,若包括大于标准骨架动作的最大反应力加速度的值的标准化骨架动作,则将其除外。
在步骤S511中,轴参数确定部154将变量Loop设置为0(Loop=0)。
在步骤S512中,轴参数确定部154计算出所获取的标准化骨架动作的平均骨架动作(即下位的骨架动作的平均值)。
在步骤S513中,轴参数确定部154对逐一递增的变量Loop是否小于3(Loop++<3)进行判定。
在变量Loop不是小于3的情况下,在步骤S513中判定为否,处理进入到步骤S516。
相对于此,在变量Loop小于3的情况下,在步骤S513中判定为是,处理进入到步骤S514。
在步骤S514中,轴参数确定部154计算出所选择的骨架动作与平均骨架动作的欧几里德距离。即,轴参数确定部154与标准骨架动作生成时同样地计算出下位的骨架动作的平均值,生成下位的平均骨架动作。并且,轴参数确定部154将生成的下位的平均骨架动作在位置空间中展开。即,轴参数确定部154根据在所有帧中具有的变量和常数(根关节的位置和角度信息、骨头长、各关节处的角度信息)转换成成为空间位置坐标的根关节位置和关节位置。并且,轴参数确定部154在所生成的下位的平均骨架动作和用于下位的平均骨架动作的生成的各个标准化骨架动作之间求出在全部帧中累计的空间位置误差(欧几里德误差)。求得的欧几里德误差成为欧几里德距离。
在步骤S515中,轴参数确定部154将欧几里德误差(欧几里德距离)大于规定值D的标准化骨架动作从选择中排除。即,将在位置坐标中距离离开的骨架动作从下位的平均骨架动作中排除。然后,处理返回到步骤S512,再次生成下位的平均骨架动作。
在步骤S516中,轴参数确定部154计算出下位的骨架动作。即,轴参数确定部154将求出的下位的平均骨架动作作为最大反应力加速度的值小的骨架动作的代表,作为与最大反应力加速度的值有关的下位的骨架动作。此外,轴参数确定部154求出与下位的骨架动作对应的下位的最大反应力加速度的值。下位的最大反应力加速度的值,作为用于下位的骨架动作生成的标准化骨架动作的最大反应力加速度的值的平均值。
在步骤S517中,轴参数确定部154计算出下位的骨架动作的指标值的平均值(下位的基准值)。即,轴参数确定部154根据所选择的下位侧特征骨架动作计算出最大反应力加速度的值的平均值作为下位的基准值。
在步骤S518中,轴参数确定部154将表示标准骨架动作的最大反应力加速度的值的指标值、最大反应力加速度的值的上位的骨架动作、最大反应力加速度的上位的基准值、最大反应力加速度的下位的骨架动作、最大反应力加速度的下位的基准值,作为最大反应力加速度的值的轴参数而存储在存储部118中。
在步骤S518后,处理返回到步骤S501。
在步骤S507、步骤S515中进行了基于位置空间的评价,但也可以按所有关节的旋转量本身的偏差进行评价。
[骨架绘画处理]
图12是对具有图6中的功能性结构的图3中的终端装置执行的骨架绘画处理的流程的一例进行说明的流程图。
与借助于输入部217而输入骨架绘画处理的起动对应地开始骨架绘画处理。
当开始骨架绘画处理后,在步骤S601中,绘画处理部253进行帧变量的初始化(Frame No=0)。
在步骤S602中,指标值获取部251获取所输入的与各运动有关的指标值。例如,在用户界面中,若通过滑杆赋予运动指标,则指标值获取部251获取滑杆所表示的指标值。
在步骤S603中,合成骨架生成部252执行合成骨架生成处理(后述)。在合成骨架生成处理中,根据所获取的与运动有关的指标值而生成该帧号码(Frame No)的合成骨架。
在步骤S604中,绘画处理部253控制输出部218来描绘合成骨架。在合成骨架的描绘中,根关节的行进方向的位置坐标被固定,以避免合成骨架沿着行进方向动作。
在步骤S605中,绘画处理部253对描绘的帧是否小于最大帧号码(Frame No<Max Frame No)进行判定。
在描绘的帧不小于最大帧号码的情况下,在步骤S605中判定为否,处理进入到步骤S607。
在步骤S607中,绘画处理部253将帧号码清零(Frame No=0)。
然后,处理进入到步骤S608。
相对于此,在描绘的帧小于最大帧号码的情况下,在步骤S605中判定为是,处理进入到步骤S606。
在步骤S606中,骨架绘画处理部110将帧号码增加一(Frame No++)。
在步骤S608中,绘画处理部253对是否调整绘画定时进行判定。即,由于与运动有关的指标值被改变,因此产生帧的插补及删除等需要,判定是否调整帧的绘画定时。
在对绘画定时进行调整的情况下,步骤S608的处理被重复。
相对于此,在不调整绘画定时的情况下,在步骤S608中判定为否,处理进入到步骤S609。
在步骤S609中,绘画处理部253对骨架绘画处理的完成操作是否完成进行判定。
在未进行完成操作的情况下,在步骤S609中判定为否,处理进入到步骤S602。
相对于此,在完成操作完成的情况下,在步骤S609中判定为是,骨架绘画处理完成。
图13是将通过骨架绘画处理而显示的显示画面例示出的示意图。
如图13所示,在显示画面的左侧,作为与运动有关的指标值,显示有表示体轴的倾斜度的平均值和最大反应力加速度的值的滑杆和当前的设定值(体轴的倾斜度的平均值5.0[deg]、最大反应力加速度的值25[m/s2])。此外,在显示画面的右侧显示有合成骨架SK401。
在图13所示的显示画面例中,对于各个与运动有关的指标值、即体轴的倾斜度的平均值和最大反应力加速度的值,能够通过滑杆使指标值变化。
[合成骨架生成处理]
下面,对在骨架绘画处理的步骤S603中执行的合成骨架生成处理进行说明。
图14是对骨架绘画处理中的合成骨架生成处理的流程的一例进行说明的流程图。
另外,根据本实施方式,列举表示最大反应力加速度的值的指标值被改变的情况为例进行说明。
当开始合成骨架生成处理后,在步骤S701中,合成骨架生成部252对所有的与运动有关的指标值的处理是否完成进行判定。
在所有的与运动有关的指标值的处理完成的情况下,在步骤S701中判定为是,处理进入到步骤S709。
相对于此,在未完成所有的与运动有关的指标值的处理的情况下,在步骤S701中判定为否,处理进入到步骤S702。
在步骤S702中,合成骨架生成部252,获取被输入的与各运动有关的指标值和最大反应力加速度的值的轴参数(在轴参数确定处理的步骤S518中获取的标准骨架动作的最大反应力加速度的值的指标值、最大反应力加速度的值的上位的骨架动作、最大反应力加速度的值的上位的基准值、最大反应力加速度的值的下位的骨架动作、最大反应力加速度的值的下位的基准值)。
在步骤S703中,合成骨架生成部252对变量Sbase设定标准骨架动作(时刻=帧号码Frame No)、对变量Dbase设定与标准骨架动作的运动有关的指标值(最大反应力加速度的值)、对变量Din设定被输入的最大反应力加速度的值。
例如,设Sbase=标准骨架动作(帧号码Frame No的帧)、Dbase=标准骨架动作的最大反应力加速度的值“25”、Din=被输入的最大反应力加速度的值“40”。
在步骤S704中,合成骨架生成部252,对被输入的最大反应力加速度的值是否比与标准骨架动作的运动有关的指标值更大(Dbase<Din)进行判定。
在被输入的最大反应力加速度的值比与标准骨架动作的运动有关的指标值大的情况下,在步骤S704中判定为是,处理进入到步骤S705。
在步骤S705中,合成骨架生成部252对变量Ss设定轴参数的上位的骨架动作(时刻=帧号码Frame No)、对变量Ds设定轴参数的最大反应力加速度的上位的基准值。
例如,设定Ss=轴参数的上位的骨架动作(帧号码Frame No的帧)、Ds=轴参数的上位的基准值“35”。
然后,处理进入到步骤S707。
相对于此,在被输入的最大反应力加速度的值比与标准骨架动作的运动有关的指标值小的情况下,在步骤S704中判定为否,处理进入到步骤S706。
在步骤S706中,合成骨架生成部252对变量Ss设定轴参数的下位的骨架动作(时刻=帧号码Frame No)、对变量Ds设定轴参数的最大反应力加速度的下位的基准值。
例如,设定Ss=轴参数的下位的骨架动作(帧号码Frame No的帧)、Ds=轴参数的下位的基准值“10”。
在步骤S707中,合成骨架生成部252计算出比率r=(Din-Dbase)/(Ds-Dbase)。
具体而言,在以Dbase为基准而设Ds为1时,求出被输入的指标值Din所在的比率作为r。即,r=0时,被输入的指标值Din=Dbase;r=1时,Din=Ds;r>1时,Din>Ds;0<r<1时,Dbase<Din<Ds。
在步骤S708中,合成骨架生成部252求出与比率r对应的骨架(变更后的骨架)。关于根关节的位置坐标,在XYZ轴各自独立地,例如在X坐标,根据下面的式(3)计算出。
X’=x_base+r×(x_s-x_base)    (3)
这里,“X’”成为特征骨架的根关节的X坐标值。同样地,也能够求出Y坐标值、Z坐标值。此外,“x_s”表示Ss所示的上位的骨架动作的帧中的根关节的X坐标值,“x_base”表示Sbase所示的标准骨架动作的帧中的根关节的X坐标值。
此外,关于用四元数表示的角度信息也同样地能够通过下述的插补式求出变更后的值。
q’=q_base×(inv(q_base)×q_s)r
这里,“q_base”表示标准骨架的四元数,“q_s”表示上位的骨架动作Ss的四元数,“inv()”表示反函数。
合成骨架生成部252,对所有的角度信息进行计算,求出骨架。另外,关于骨头,利用标准骨架的骨头。
然后,处理返回到步骤S701。
在步骤S709中,合成骨架生成部252,根据所有的骨架的指标值的平均值设定合成骨架。
然后,处理返回到骨架绘画处理。
图15是将时间序列的骨架空间示出的示意图。
如图15所示,由根关节的位置坐标、根关节和关节的角度信息构成的维次构成骨架空间的变量。
另外,这里为了简单地进行说明,设角度信息由θ1、θ2的二维构成。
在所希望的帧中,设标准骨架动作为SK301、上位的骨架动作为SK302、下位的骨架动作为SK303。在从标准骨架动作SK301朝向上位的骨架动作SK302的轴312上设定有变更后的骨架动作SK304。骨架动作SK304每个时刻不同,即,若帧不同,则各个骨架动作的变量也不同,因此骨架SK304也不同。
图16是将与图15不同的帧(帧号码=k)的骨架空间示出的示意图。
轴312是从标准骨架动作SK301观察上位的骨架动作时的插补轴。此外,轴313是从标准骨架动作SK301观察下位的骨架动作SK303时的插补轴。即,关于与特定的运动有关的指标,在比率r发生种种变化的情况下,骨架动作SK304被设定在轴312或轴313上。
图17是将骨架空间中的合成骨架示出的示意图。
另外,在图17A中示出了在骨架空间中设定有标准骨架动作SK301的状态,在图17B中示出了与和不同的运动有关的指标值相应的骨架动作SK324、SK334。此外,在图17C中示出了合成骨架动作SK340。
图17A所示的轴322、323和轴332、333是与和各自不同的运动有关的指标值相应的插补轴,当分别输入与这些运动有关的指标值的比率r后,图17B中的骨架动作SK324、SK334被设定。
并且,如图17C所示,通过获取骨架动作SK324、SK334的坐标的平均值,从而能够得到合成骨架动作SK340的角度信息,能够设定合成骨架动作SK340。
另外,在上述的说明中,关于与一个运动有关的指标,设定上位的骨架动作和下位的骨架动作的两个插补方向,分别通过一个骨架动作设定线形的轴。但是,即使在设定多个骨架动作并用折线而不是直线来设定轴的情况下,也能够通过同样的算法设定合成骨架。设定折数更多的轴才能够适当地应对更复杂的动作。
[视觉化的具体方式]
下面,对终端装置200的绘画处理部253描绘合成骨架时的具体方式进行说明。
[第一箭头绘画处理]
图18是对具有图5中的功能性结构的图3中的终端装置200执行的第一箭头绘画处理的流程进行说明的流程图。
第一箭头绘画处理是生成为了使骨架的变更状态可视化而显示的箭头的处理。
在骨架被反复描绘的状态下(参照图19),例如,点击操作用户界面中的最大反应力加速度的标签,并进行选择最大反应力加速度的值的操作,从而开始第一箭头绘画处理。另外,此时,将描绘对象的帧号码(Frame No)和最大反应力加速度的值作为参数能调出第一箭头绘画处理。
当开始第一箭头绘画处理后,在步骤S801中,绘画处理部253,针对与所选择的运动有关的指标值计算出该时刻(Frame No)的指标值为最大的情况下和为最小的情况下的骨架的空间姿势(合成骨架的空间位置坐标)。
在步骤S802中,绘画处理部253在计算出的骨架空间姿势(合成骨架的空间位置坐标)中将右脚踝、左脚踝、胸、右手腕、左手腕的关节作为处理对象的关节。
在步骤S803中,绘画处理部253,针对最大和最小的两个指标值下的骨架空间姿势(合成骨架的空间位置坐标),在处理对象的各个关节间求出差分(矢量)。
在步骤S804中,绘画处理部253选择差分量大的两个关节。
在步骤S805中,绘画处理部253生成将差分量作为“箭头的长度”、将矢量的方向作为“箭头的方向”的箭头。具体而言,例如,在最大的关节为左脚踝的关节、次大的关节为右脚踝的关节的情况下,绘画处理部253将差分量作为箭头的长度(或者大小)、将差分方向作为箭头的方向来在各个关节处描绘箭头。
在步骤S806中,绘画处理部253在所求的处理对象的关节间的差分明确的视点处以与地面铅垂的方向作为轴而进行视点的变更。另外,视点方向被确定成使得例如差分量最大的关节处的箭头的方向与绘画面平行(即从正面观察)。
在步骤S807中,绘画处理部253控制输出部218使得将生成的箭头描绘在对应的关节上。
然后,第一箭头绘画处理完成。
图20是将视点方向被改变的显示画面例示出的示意图。
在图20中,相对于图19中的显示画面例,合成骨架被变更成从侧面观察的状态,左脚踝的关节处的箭头A441和右脚踝的关节处的箭头A442成为从正面观察的状态。另外,在图20中,与所选择的运动有关的指标值(最大反应力加速度的值)的滑杆和当前的设定值的区域被矩形的光标包围。
此外,由于与运动有关的指标值每帧都发生变化,因此,如图20那样的显示画面例与时刻一同发生变化。
图21是将与图20不同的时刻的显示画面例示出的示意图。
在图21所示的显示画面例中,在右脚踝的关节和胸部的关节处显示有箭头A442、A443。
在这样的骨架的状态下,即使最大反应力加速度的值发生变化,左脚踝的关节的位置变化也很小,因此,在图21所示的帧中,即使操作最大反应力加速度的滑杆,在左脚踝的关节处也不显示箭头。
[第二箭头绘画处理]
图22是对具有图5中的功能性结构的图3中的终端装置200执行的第二箭头绘画处理的流程进行说明的流程图。
第二箭头绘画处理是在进行选择与运动有关的指标值的操作时对将进一步改变该指标值的情况下的骨架的部位的变化的方向示出的箭头进行描绘的处理。
在骨架被反复描绘的状态下(参照图23),例如,点击操作用户界面中的最大反应力加速度的标签,并进行选择最大反应力加速度的值的操作,从而开始第二箭头绘画处理。
当开始第二箭头绘画处理后,在步骤S901中,绘画处理部253计算出在指标变更后的时刻(Frame No)下的合成骨架的空间位置坐标P1。
在步骤S902中,绘画处理部253进一步计算出在沿着相同方向指标值发生变化时的合成骨架的空间位置坐标P2。
在步骤S903中,绘画处理部253将右脚踝、左脚踝、胸、右手腕、左手腕的关节作为处理对象的关节。
在步骤S904中,绘画处理部253在两个骨架空间位置坐标中以骨架空间位置坐标P1为基准而在各个处理对象的关节间求出差分(矢量)。即,绘画处理部253对从处理对象的关节处的空间位置坐标P1观察的空间位置坐标P2的差分进行计算。
在步骤S905中,绘画处理部253选择差分量最大的关节。
在步骤S906中,绘画处理部253控制输出部218使得将以差分量作为“箭头的大小”、将矢量的方向作为“箭头的方向”的箭头A443描绘到对应的关节上。
然后,第二箭头绘画处理完成。
图24是将显示有将骨架的部位变化的方向示出的箭头A443的显示画面例示出的示意图。
在图24中,用虚线描绘出了图23中的指标值变更前的骨架SK441,用实线描绘出了指标值变更后的骨架SK442。并且,在骨架动作SK442的右脚踝的关节附近显示有将在指标值进一步改变的情况下右脚踝发生变化的方向示出的箭头A443。
另外,在图24所示的显示画面例中,也可以不描绘指标值变更前的骨架动作SK441。在改变指标值的操作后,箭头443和指标值变更前的骨架动作SK441在预先设定的时间后消失。
[对应指标报知处理]
图25是对具有图5中的功能性结构的图3中的终端装置200执行的指标报知处理的流程进行说明的流程图。
指标报知处理是通过对静止的骨架进行操作从而将与该操作部位对应地发生变化的指标报知给用户的处理。
与骨架操作模式(受理用户对骨架的操作的模式)被选择对应地开始指标报知处理。
当开始对应指标报知处理后,在步骤S1001中,绘画处理部253使骨架动作的帧的自动更新停止,在用户选择的帧号码(Frame No)处在静止的状态下描绘骨架。
在步骤S1002中,绘画处理部253用大的圆描绘能够移动的关节(参照图26)。
在步骤S1003中,绘画处理部253进行对完成操作的插入设定和对关节移动操作的插入设定。即,被设定成对表示完成操作的插入信号和表示关节移动操作的插入信号进行受理的状态。
在步骤S1003后,绘画处理部253进入到待机模式。
图26是将能够移动的关节描绘得比其它关节大的骨架的显示例示出的示意图。
在图26所示的显示画面例中,在用户使画面上的能够移动的关节活动的情况(例如,关节J462向图26中的箭头A463的方向移动的情况)下,产生将关节的移动操作示出的插入信号,执行关节移动插入处理。
图27是对在对应指标报知处理中作为插入处理而执行的关节插入移动处理的流程进行说明的流程图。
当开始关节插入移动处理后,在步骤S1011中,绘画处理部253生成与移动的关节的位置对应的新的骨架N1。另外,即使是能够移动的关节,也无法使其进行自由的移动,能在骨头为刚体这样的制约下允许移动操作。
在步骤S1012中,绘画处理部253描绘新的骨架N1。
在步骤S1013中,为了下面的操作,绘画处理部253描绘移动的关节的部位。
在步骤S1014中,在准备中获取的标准化骨架动作的集合中,绘画处理部253从帧号码为Frame No的帧中确定最靠近移动的关节的位置的骨架的帧。此时,即使对动作参数彼此进行比较来进行检索,也可以转换成空间位置坐标后进行比较来加以确认。
在步骤S1015中,绘画处理部253,与被确定的标准化骨架动作具有的指标值对应地使显示画面的滑杆移动。
在图26中,显示有在右脚踝的关节J462沿着箭头A463的方向移动的情况下、与移动后的骨架相应的指标值。
在步骤S1015后,绘画处理部253再次进入到待机模式。
此外,在通过对应指标报知处理和关节插入移动处理成为待机模式的情况下,当进行完成操作后,产生将该完成操作示出的插入信号,执行完成插入处理。
图28是对在对应指标报知处理和关节插入移动处理中作为插入处理而执行的处理的流程进行说明的流程图。
当开始插入处理后,在步骤S1021中,执行用于结束对应指标报知处理的准备(所需的参数的存储、设定的清零等)。
在步骤S1021后,完成插入处理结束。此外,由此,指标报知处理也完成。
根据上述实施方式,例如,将根据作为样本而获取的多个个人的动态捕捉数据构成的标准骨架存储于图像生成装置100,根据终端装置200,能够将终端装置200的用户特有的动作作为指标值而输入。
由此,能够根据将多个个人的动作统一而成的标准骨架动作,生成反映了特定的个人的动作的合成骨架动作。
在该情况下,能够实现如下的形态:服务的提供者提供标准骨架动作的数据,各个利用服务的用户生成反映了用户自身的动作的合成骨架动作。
如以上说明的那样,本实施方式的图像生成系统1包括图像生成装置100和终端装置200。
图像生成装置100具备动画获取部150,动画获取部150获取多个动画数据。
终端装置200具备:指标值获取部251、合成骨架生成部252和绘画处理部253。
指标值获取部251输入动画数据的与运动有关的指标的值,合成骨架生成部252采用通过动画获取部150获取的多个动画数据来生成与通过指标值获取部251输入的指标的值相应的动画数据(合成骨架动作的数据)。
因此,能够将测定动作而得到的动画数据(骨架的数据)变更成所希望的动作。
此外,指标值获取部251输入动画数据的与运动有关的多个指标值,合成骨架生成部252生成与通过指标值获取部251输入的多个指标值相应的动画数据。
因此,在动画数据中,由于能够将多个与运动有关的指标值建立关联,并使这些指标值各自变更,因此能够实现更复杂的动作的变更。
此外,图像生成装置100具备标准骨架获取部152,标准骨架获取部152根据由动画获取部150获取的多个动画数据生成与运动有关的指标值被建立对应的标准的动画数据。合成骨架生成部252根据标准的动画数据生成与通过指标值获取部251输入的指标的值相应的动画数据。
此外,在标准的动画数据中设定与运动有关的指标的基准值,合成骨架生成部252,基于标准的动画数据中的基准值(例如上位或者下位的基准值),生成与通过指标值获取部251输入的指标值相应的动画数据。
因此,根据基于对动作进行测定所得到的多个动画数据来设定的基准值,能够生成将与运动有关的指标值改变的动画数据,因此,改变指标值的情况下的动作的变化与所测定的动作相应,能够实现更适当的动作的变化。
此外,终端装置200具备绘画处理部253,该绘画处理部253使输出部218显示与标准的动画数据相应的动画、以及用于输入在该动画数据中设定的与运动有关的指标值的用户界面,通过操作用户界面,从而指标值获取部251将与运动有关的指标值输入。
因此,能够以在视觉上容易明了的方式输入与运动有关的指标值。
在通过指标值获取部251而使与运动有关的指标值被输入的情况下,绘画处理部253在与通过合成骨架生成部252生成的动画数据相应的动画中,识别出与该被输入的指标值对应的部分并显示于输出部218。
因此,能够容易明了地显示由于与运动有关的指标值的变更而引起的动画的变化部分。
此外,绘画处理部253,将与通过指标值获取部251而输入的与运动有关的指标值相应地发生变化的动画的部分识别出并显示于输出部218。
因此,能够容易明了地显示在使与运动有关的指标改变的情况下产生影响的部分。
此外,绘画处理部253,使与指标值获取部251输入与运动有关的指标值之后的动画数据对应的运动所相关的指标显示于输出部218。
因此,根据对动画的直接的操作能够改变与运动有关的指标,因此能够提高对动画数据进行变更的情况下的操作性。
[变形例]
在上述的实施方式中,借助于通过应用而生成的显示画面内的滑杆来进行与运动有关的指标值的输入。
相对于此,也可以通过实时的运动来输入与运动有关的指标值并显示骨架动作。
具体而言,在将加速度传感器安装于用户的鞋中并将显示装置(例如便携式终端等)安装于腕处的状态下进行跑步,通过用户实际的动作而将指标值输入,从而能够生成骨架动作。
图29是对具有图6中的功能性结构的图3中的终端装置200执行的实时显示处理的流程进行说明的流程图。
实时显示处理是实时地将与运动有关的指标值输入来显示骨架动作的处理。
在将加速度传感器安装于用户的鞋处并将终端装置200安装于腕处的状态下,与实时显示处理的起动被输入对应地开始实时显示处理。
当开始实时显示处理后,在步骤S1031中,终端装置200从加速度传感器中获取与运动有关的指标值。例如,获取速度信息(与跑步的速度有关的信息)作为与运动有关的指标值。能够根据安装于鞋处的加速度传感器获取跑步的间距,并根据预先设定的步幅获取速度信息。利用加速度传感器获取的速度信息通过无线通信被发送到终端装置200。
在步骤S1032中,终端装置200将与作为与运动有关的指标值的速度相应的合成骨架描绘在显示画面上。
在步骤S1033中,终端装置200执行用于实时处理的时间调整的等待。
然后,反复执行实时显示处理。
另外,即使在通过实时显示处理来显示骨架动作的情况下,也将用于骨架动作的显示的指标作为对象来进行准备处理中的轴参数的设定,这是前提。
此外,除了安装于鞋处的加速度传感器以外,还采用多种传感器来获取多种与运动有关的指标值,能够实时地显示与多种与运动有关的指标所相应的合成骨架。即使在该情况下,只要生成准备处理中的数据,则能够以低计算成本生成合成骨架动作。
另外,本发明不限于上述的实施方式,本发明中包括在能够达成本发明的目的的范围内的变形、改进等。
在上述实施方式中,根据生成标准骨架动作的总体的标准化骨架动作求出对标准骨架动作设定的指标值。相对于此,能够根据与生成标准骨架动作的总体不同的骨架动作的集合求出对标准骨架动作设定的指标值。
由此,即使在无法利用生成标准骨架动作的总体的标准化骨架动作的数据的情况等下,由于能够将根据其它的骨架动作的集合求出的指标值设定为标准骨架,因此能够更灵活地实现本发明。
此外,在上述实施方式中,为了生成标准骨架动作而被采用骨架动作的集合由特定的个人的多个动态捕捉数据构成、或由多个个人的动态捕捉数据构成,两者均可以。
此外,在上述实施方式中,列举能够应用本发明的图像生成装置100由服务器构成、并且终端装置200由智能手机构成的情况为例进行了说明,但不特别地限定于此。
例如,利用具有信息处理功能的常规电子设备能够实现本发明。具体而言,例如,本发明的图像生成装置100和终端装置200可以由笔记本型个人电脑、打印机、电视接收机、摄像机、便携型导航装置、便携式电话机、掌上游戏机等构成。
此外,在上述实施方式中,列举将图像生成装置100和终端装置200作为分开的装置而构成的情况为例进行了说明,但不特别地限定于此。
例如,可以利用PC等构成图像生成装置100,并且图像生成装置100可以具备上述实施方式中的终端装置200的功能。
关于上述的一连串的处理,既可以通过硬件执行,也可以通过软件执行。
换言之,图4和图6中的功能性结构不过是示例,不特别地限定。即,图像生成装置100和终端装置200只要具备能够将上述的一连串的处理作为整体来执行的功能即可,关于为了实现该功能而采用怎样的功能块,不特别地限定于图4和图6中的示例。
此外,一个功能块既可以由硬件单体构成,也可以由软件单体构成,还可以由它们的组合构成。
在通过软件执行一连串的处理的情况下,能够从互联网或记录介质中将构成该软件的程序安装到计算机等中。
计算机也可以是组装到专用的硬件中的计算机。此外,计算机也可以是通过安装各种程序而能够执行各种功能的计算机、例如通用的个人电脑。
包含这种程序的记录介质,不仅由为了向用户提供程序而与装置主体另外发布的图2中的可移动介质131和图3中的可移动介质231构成,还能够由以预先组装到装置主体中的状态被提供给用户的记录介质等构成。可移动介质131、231由例如磁盘(包括软盘)、光盘、或者光磁盘等构成。光盘由例如CD-ROM(Compact Disk-Read Only Memory:光盘只读存储器)、DVD(Digital Versatile Disc:数字通用盘)等构成。光磁盘由MD(Mini-Disk:微型磁盘)等构成。此外,以预先组装到装置主体中的状态被提供给用户的记录介质由例如记录有程序的图2中的ROM112和图3中的ROM212、图2中的存储部118和图3中的存储部219中所含的硬盘等构成。
另外,在本说明书中,对记录于记录介质中的程序进行记述的步骤包括沿着其顺序按时间序列进行的处理,这自不待言,但不一定按时间序列进行处理,还包括并列地或者个别地执行的处理。
此外,在本说明书中,系统这一用词意味着由多个装置、多个单元等构成的整体装置。
以上对本发明的几个实施方式进行了说明,但这些实施方式不过是示例,不限定本发明的技术范围。本发明能够采取其它各种实施方式,并且,能够在不脱离本发明主旨的范围内进行省略、置换等各种变更。这些实施方式及其变形包括在记载于本说明书等中的发明范围及主旨中,并且包括在记载于权利要求书中的发明及其同等的范围中。

Claims (9)

1.一种图像生成装置,其特征在于,
所述图像生成装置具备:
数据获取单元,其获取多个动画数据;
输入单元,其输入动画数据的与运动有关的指标的值;以及
第一生成单元,其采用通过所述数据获取单元而获取的多个动画数据,来生成与通过所述输入单元而输入的指标的值相应的动画数据。
2.根据权利要求1所述的图像生成装置,其特征在于,
所述输入单元输入动画数据的与运动有关的多个指标的值,
所述第一生成单元生成与通过所述输入单元而输入的多个指标的值相应的动画数据。
3.根据权利要求1所述的图像生成装置,其特征在于,
所述图像生成装置还具备第二生成单元,所述第二生成单元根据通过所述数据获取单元而获取的多个动画数据来生成与运动有关的指标被建立对应的标准的动画数据,
所述第一生成单元,根据所述标准的动画数据来生成与通过所述输入单元而输入的指标的值相应的动画数据。
4.根据权利要求3所述的图像生成装置,其特征在于,
在所述标准的动画数据中设定与所述运动有关的指标的基准值,
所述第一生成单元,基于所述标准的动画数据中的所述基准值,来生成与通过所述输入单元而输入的指标的值相应的动画数据。
5.根据权利要求3所述的图像生成装置,其特征在于,
所述图像生成装置还具备显示控制单元,所述显示控制单元使显示单元显示基于所述标准的动画数据的动画、以及用于输入在该动画数据中设定的与所述运动有关的指标的值的用户界面,
通过操作所述用户界面,从而所述输入单元将与所述运动有关的指标的值输入。
6.根据权利要求5所述的图像生成装置,其特征在于,
在通过所述输入单元将与所述运动有关的指标的值输入的情况下,所述显示控制单元,在基于通过所述第一生成单元生成的动画数据的动画中识别出与该被输入的指标的值对应的部分并使之显示在所述显示单元。
7.根据权利要求5所述的图像生成系统,其特征在于,
所述显示控制单元,识别出根据通过所述输入单元所输入的与所述运动有关的指标的值而相应地变化的所述动画的部分,并使之显示在所述显示单元。
8.根据权利要求5所述的图像生成装置,其特征在于,
所述显示控制单元,使所述显示单元显示与通过所述输入单元将与所述运动有关的值输入后的所述动画数据所对应的指标。
9.一种图像生成方法,其特征在于,
所述图像生成方法包括如下步骤:
数据获取步骤,获取多个动画数据;
输入步骤,输入动画数据的与运动有关的指标的值;以及
生成步骤,采用通过所述数据获取步骤而获取的多个动画数据来生成与在所述输入步骤中被输入的指标的值相应的动画数据。
CN201410292738.XA 2013-06-27 2014-06-25 图像生成装置、图像生成方法和记录介质 Active CN104252712B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2013-135615 2013-06-27
JP2013135615A JP2015011480A (ja) 2013-06-27 2013-06-27 画像生成装置、画像生成方法及びプログラム

Publications (2)

Publication Number Publication Date
CN104252712A true CN104252712A (zh) 2014-12-31
CN104252712B CN104252712B (zh) 2018-11-16

Family

ID=52115141

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410292738.XA Active CN104252712B (zh) 2013-06-27 2014-06-25 图像生成装置、图像生成方法和记录介质

Country Status (3)

Country Link
US (1) US20150002518A1 (zh)
JP (1) JP2015011480A (zh)
CN (1) CN104252712B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106384385A (zh) * 2016-09-17 2017-02-08 北京航空航天大学 一种基于图论的人体形态建模方法
CN111080756A (zh) * 2019-12-19 2020-04-28 米哈游科技(上海)有限公司 一种交互动画生成方法、装置、设备及介质

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101619599B1 (ko) * 2014-08-08 2016-05-10 현대자동차주식회사 융합 레이더 센서 기반 저전력 차량 충돌 방지 방법 및 장치
US10660533B2 (en) * 2014-09-30 2020-05-26 Rapsodo Pte. Ltd. Remote heart rate monitoring based on imaging for moving subjects
US10973440B1 (en) * 2014-10-26 2021-04-13 David Martin Mobile control using gait velocity
US11068647B2 (en) * 2015-05-28 2021-07-20 International Business Machines Corporation Measuring transitions between visualizations
US10607139B2 (en) 2015-09-23 2020-03-31 International Business Machines Corporation Candidate visualization techniques for use with genetic algorithms
US10685035B2 (en) 2016-06-30 2020-06-16 International Business Machines Corporation Determining a collection of data visualizations
JP6509406B1 (ja) * 2018-04-26 2019-05-08 株式会社日立ハイテクノロジーズ 歩行態様表示方法、歩行態様表示システム及び歩行態様分析装置
KR102543650B1 (ko) * 2018-07-30 2023-06-15 주식회사 엔씨소프트 모션 합성 장치 및 모션 합성 방법
JP7302699B2 (ja) * 2020-09-23 2023-07-04 カシオ計算機株式会社 情報処理装置、情報処理方法及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101573959A (zh) * 2006-11-01 2009-11-04 索尼株式会社 运动图片中的片段跟踪
US20110208444A1 (en) * 2006-07-21 2011-08-25 Solinsky James C System and method for measuring balance and track motion in mammals
US20120028707A1 (en) * 2010-02-24 2012-02-02 Valve Corporation Game animations with multi-dimensional video game data

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3109738B2 (ja) * 1990-07-12 2000-11-20 株式会社日立製作所 コンピュータグラフィック表示方法およびその装置
CA2232997C (en) * 1997-03-26 2001-07-10 Dalhousie University Dynamic target addressing system
US5930379A (en) * 1997-06-16 1999-07-27 Digital Equipment Corporation Method for detecting human body motion in frames of a video sequence
US6061644A (en) * 1997-12-05 2000-05-09 Northern Digital Incorporated System for determining the spatial position and orientation of a body
US6052132A (en) * 1998-02-06 2000-04-18 Digital Equipment Corporation Technique for providing a computer generated face having coordinated eye and head movement
US6731287B1 (en) * 2000-10-12 2004-05-04 Momentum Bilgisayar, Yazilim, Danismanlik, Ticaret A.S. Method for animating a 3-D model of a face
US7127081B1 (en) * 2000-10-12 2006-10-24 Momentum Bilgisayar, Yazilim, Danismanlik, Ticaret, A.S. Method for tracking motion of a face
JP2008015713A (ja) * 2006-07-04 2008-01-24 Kyushu Institute Of Technology 動作変形システム及びその方法
US20080170750A1 (en) * 2006-11-01 2008-07-17 Demian Gordon Segment tracking in motion picture
US20090258710A1 (en) * 2008-04-09 2009-10-15 Nike, Inc. System and method for athletic performance race
US9981193B2 (en) * 2009-10-27 2018-05-29 Harmonix Music Systems, Inc. Movement based recognition and evaluation
JP5434965B2 (ja) * 2011-06-03 2014-03-05 カシオ計算機株式会社 動画生成方法、動画生成装置及びプログラム
KR101488130B1 (ko) * 2012-02-29 2015-01-29 미즈노 가부시키가이샤 러닝 폼 진단 시스템 및 러닝 폼을 득점화하는 방법
US10616663B2 (en) * 2012-07-02 2020-04-07 Russell Brands, Llc Computer-implemented capture of live sporting event data

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110208444A1 (en) * 2006-07-21 2011-08-25 Solinsky James C System and method for measuring balance and track motion in mammals
CN101573959A (zh) * 2006-11-01 2009-11-04 索尼株式会社 运动图片中的片段跟踪
US20120028707A1 (en) * 2010-02-24 2012-02-02 Valve Corporation Game animations with multi-dimensional video game data

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106384385A (zh) * 2016-09-17 2017-02-08 北京航空航天大学 一种基于图论的人体形态建模方法
CN106384385B (zh) * 2016-09-17 2020-10-30 北京航空航天大学 一种基于图论的人体形态建模方法
CN111080756A (zh) * 2019-12-19 2020-04-28 米哈游科技(上海)有限公司 一种交互动画生成方法、装置、设备及介质
CN111080756B (zh) * 2019-12-19 2023-09-08 米哈游科技(上海)有限公司 一种交互动画生成方法、装置、设备及介质

Also Published As

Publication number Publication date
JP2015011480A (ja) 2015-01-19
US20150002518A1 (en) 2015-01-01
CN104252712B (zh) 2018-11-16

Similar Documents

Publication Publication Date Title
CN104252712A (zh) 图像生成装置及图像生成方法
US10893219B2 (en) System and method for acquiring virtual and augmented reality scenes by a user
EP3798801A1 (en) Image processing method and apparatus, storage medium, and computer device
CN105103542B (zh) 手持型便携式光学扫描仪和使用的方法
JP6635037B2 (ja) 情報処理装置、および情報処理方法、並びにプログラム
US10733798B2 (en) In situ creation of planar natural feature targets
JP6609383B2 (ja) オーディオ、ビジュアル及びモーション分析を備えたデジタルカメラ
CN102171726B (zh) 信息处理装置、信息处理方法、程序以及信息存储介质
RU2708027C1 (ru) Способ передачи движения субъекта из видео на анимированного персонажа
KR20090110357A (ko) 비디오 스트림 내에서 마커 없는 직조된 기하학적 평면 개체의 실시간 자동 추적을 사용하는 증대된 현실성 방법 및 장치
CN104536579A (zh) 交互式三维实景与数字图像高速融合处理系统及处理方法
JP2024519940A (ja) データ処理方法、装置、データ処理システム、電子機器及びコンピュータプログラム
US20160210761A1 (en) 3d reconstruction
WO2019093457A1 (ja) 情報処理装置、情報処理方法及びプログラム
CN111813689B (zh) 游戏测试方法、设备和介质
US10582190B2 (en) Virtual training system
CN113610702B (zh) 一种建图方法、装置、电子设备及存储介质
JP7318814B2 (ja) データ生成方法、データ生成プログラムおよび情報処理装置
JP4689344B2 (ja) 情報処理方法、情報処理装置
JPWO2020121406A1 (ja) 3次元計測装置、移動ロボット、手押し車型移動装置および3次元計測処理方法
CN107993247A (zh) 追踪定位方法、系统、介质和计算设备
CN113362474A (zh) 增强现实数据展示方法、装置、电子设备及存储介质
CN112416124A (zh) 舞蹈姿势反馈方法及装置
JP5066047B2 (ja) 情報処理装置、情報処理方法、プログラム及び情報記憶媒体
JP4217008B2 (ja) カメラワークシミュレータ及びシミュレーション方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant