CN103888643A - 信息报知装置、信息报知方法 - Google Patents

信息报知装置、信息报知方法 Download PDF

Info

Publication number
CN103888643A
CN103888643A CN201310698278.6A CN201310698278A CN103888643A CN 103888643 A CN103888643 A CN 103888643A CN 201310698278 A CN201310698278 A CN 201310698278A CN 103888643 A CN103888643 A CN 103888643A
Authority
CN
China
Prior art keywords
image
information
state
detecting
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201310698278.6A
Other languages
English (en)
Other versions
CN103888643B (zh
Inventor
野岛磨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Publication of CN103888643A publication Critical patent/CN103888643A/zh
Application granted granted Critical
Publication of CN103888643B publication Critical patent/CN103888643B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30221Sports video; Sports image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory

Abstract

本发明提供一种信息报知装置、信息报知方法。信息报知装置(1)具备:图像获取部(42),其对分别拍摄了被摄体动作的多个运动图像进行获取;第1检测部(44),其从通过所述获取单元而获取到的多个运动图像中的各运动图像中,检测对所述被摄体的动作中的特定状态;面部检测部(45),其从所述各运动图像中,检测与通过所述状态检测单元而检测出的特定状态对应的图像;比较部(47),其对通过所述图像检测单元而检测出的图像之间进行比较;和报知控制部(50),其对与所述比较单元的比较结果相应的信息进行报知。

Description

信息报知装置、信息报知方法
技术领域
本发明涉及一种对与被摄体的动作相关的信息进行报知的信息报知装置以及信息报知方法。
背景技术
作为现有的技术,在日本特开2004-321767号公报,记载着为了高尔夫挥杆(golf swing)动作的确认而设置夹在高尔夫球(golf ball)两侧并与用户对置的外部装置的技术。
发明要解决的课题
但是,在专利文献1的技术中,由于如头部晃动检测用标识器那样的外部装置的设置是必须的,因此存在能够客观地掌握高尔夫挥杆的动作的时期被限于该动作中的问题。
发明内容
本发明鉴于这种情况而作出,其目的在于,即使不在该动作中也能够容易地确认被摄体的动作。
解决课题的手段
本发明的一种信息报知装置,具备:
获取单元,其对分别拍摄了被摄体动作的多个运动图像进行获取;
状态检测单元,其从通过所述获取单元而获取到的多个运动图像中的各运动图像中,检测所述被摄体的动作中的特定状态;
图像检测单元,其从所述各运动图像中检测与通过所述状态检测单元而检测出的特定状态对应的图像;
比较单元,其对通过所述图像检测单元而检测出的图像之间进行比较;和
报知控制单元,其对与所述比较单元的比较结果相应的信息进行报知。
本发明的一种信息报知方法,由信息报知装置执行,该信息报知方法包括:
获取步骤,其对分别拍摄了被摄体的动作的多个运动图像进行获取;
状态检测步骤,其从通过所述获取步骤而获取到的多个运动图像中的各运动图像中,检测所述被摄体的动作中的特定状态;
图像检测步骤,其从所述各运动图像中,检测与通过所述状态检测步骤而检测出的特定状态对应的图像;
比较步骤,其对通过所述图像检测步骤而检测出的图像之间进行比较;和
报知控制步骤,其对与所述比较步骤的比较结果相应的信息进行报知。
附图说明
图1是表示与本发明的一个实施方式有关的信息报知装置1的硬件(hardware)结构的框图。
图2是表示在图1的信息报知装置1的功能性结构中,用于执行比较结果报知处理的功能性结构的功能框图。
图3是表示摄像图像的坐标系的图。
图4是按7个特定的挥杆状态的每个图像,针对玩家(player)以及专业高尔夫球玩家(pro golfer),分别示出面部图像的位置等的图。
图5是表示报知图像的一个例子的图。
图6是表示报知图像的一个例子的图。
图7是表示报知图像的一个例子的图。
图8是表示报知图像的一个例子的图。
图9是表示报知图像的一个例子的图。
图10是表示具有图2的功能结构的图1的信息报知装置1执行的比较结果报知处理的流程的流程图。
图11是表示报知图像的一个例子的图。
具体实施方式
下面,使用附图,对本发明的实施方式进行说明。
[结构]
图1是表示与本发明的一个实施方式有关的信息报知装置的硬件结构的框图。
信息报知装置1构成为例如数字照相机(digital camera)。
信息报知装置1具备:CPU(Central Processing Unit,中央处理器)11、ROM(Read Only Memory,只读存储器)12、RAM(Random Access Memory,随机存储器)13、总线(bus)14、输入输出接口(interface)15、摄像部16、输入部17、输出部18、存储部19、通信部20、驱动(drive)21。
CPU11根据ROM12中记录的程序、或者从存储部19载入到RAM13的程序,执行各种处理。
在RAM13中也适当地存储CPU11执行各种处理上所需要的数据等。
CPU11、ROM12以及RAM13通过总线14相互连接。该总线14还与输入输出接口15连接。输入输出接口15与摄像部16、输入部17、输出部18、存储部19、通信部20以及驱动21连接。
虽然未图示,但摄像部16具备:光学透镜部、和图像传感器(imagesensor)。
为了拍摄被摄体,光学透镜部由对光进行聚光的透镜,例如聚焦透镜(focus lens)、变焦透镜(zoom lens)等构成。
聚焦透镜是使被摄体图像在图像传感器的光接收面成像的透镜。变焦透镜是使焦点距离在固定的范围内自由变化的透镜。
根据需要,在光学透镜部还设置有对焦点、曝光、白平衡(whitebalance)等的设定参数进行调整的周边电路。
图像传感器由光电变换元件、AFE(Analog Front End,模拟前端)等构成。
光电变换元件由例如CMOS(Complementary Metal OxideSemiconductor,互补金属氧化物半导体)型的光电变换元件等构成。被摄体图像从光学透镜部被入射到光电变换元件。因此,光电变换元件对被摄体图像进行光电变换(摄像),并对图像信号进行固定时间的累积,将累积的图像信号作为模拟(Analog)信号来依次提供给AFE。
AFE对于该模拟的图像信号执行A/D(Analog/D igital,模拟/数字)变换处理等各种信号处理。通过各种信号处理,从而生成数字(digital)信号,并作为摄像部16的输出信号而被输出。
下面,将这样的摄像部16的输出信号称为“摄像图像的数据”。摄像图像的数据被适当地提供给CPU11、RAM13等。
这里,在本实施方式中,例如每1/30秒从摄像部16中依次输出1张摄像图像的数据,来构成运动图像(连拍图像)的数据。也就是说,以下所谓的摄像图像,只要没有间断,则是指构成运动图像的单位图像(帧(flame)图像、视场(field)图像)。
输入部17由各种按钮等构成,根据用户的指示操作输入各种信息。
输出部18由显示器(displayer)、扬声器(speaker)等构成,来输出图像、声音。
存储部19由硬盘(hard-disk)或者DRAM(Dynamic Random AccessMemory,动态随机存取存储器)等构成,来存储各种图像的数据。
通信部20对通过包含互联网(internet)在内的网络(network)在与其他装置(未图示)之间进行的通信进行控制。
在驱动21适当地安装由磁盘、光盘、磁光盘或者半导体存储器等组成的可移动介质(removable media)31。根据需要,通过驱动21来从可移动介质31中读取出的程序被安装在存储部19。此外,可移动介质31也能够与存储部19同样地,对存储在存储部19中的图像的数据等各种数据进行存储。
图2是表示在这样的信息报知装置1的功能性结构中,用于执行报知处理的功能性结构的功能框图。
所谓报知处理,是指用于将包含在被拍摄出的运动图像内的被摄体的动作的解析结果,与作为比较对象的人物等的动作的解析结果进行比较,基于该比较出的结果,来生成报知信息并进行报知的一连串的处理。
在本实施方式中,对将基于包含在通过信息报知装置1拍摄出的运动图像中的玩家的高尔夫挥杆的解析结果(以下称为“玩家的解析结果”)的信息,与基于包含在预先存储在第2图像存储部62的运动图像中的专业高尔夫球玩家的高尔夫挥杆的解析结果(以下称为“专业高尔夫球玩家的解析结果”)的信息进行比较的例子进行说明。但是,也能够进行将基于包含在通过信息报知装置1拍摄出的运动图像中的玩家的当前的高尔夫挥杆的解析结果的信息,与基于包含在过去拍摄出的运动图像中的该玩家的高尔夫挥杆的解析结果的信息的比较等各种信息的比较。
在报知处理被执行的情况下,如图2所示,在CPU11中,摄像控制部41、图像获取部42、图像读取部43、第1检测部44、面部检测部45、第2检测部46、比较部47、建议(advice)信息生成部48、报知图像生成部49和报知控制部50起作用。
但是,图2是示例,具备进行GA(Graphics Accelerator,图形加速器)等图像处理的硬件,CPU11的功能的至少一部分也可以转为由该硬件处理。
在执行报知处理的情况下,使用作为存储部19的一个区域而被设置的第1图像存储部61以及第2图像存储部62。
在第1图像存储部61,存储从摄像部16输出的、通过图像获取部42获取出的运动图像(多个摄像图像)的数据。
在第2图像存储部62,预先存储关于专业高尔夫球玩家的高尔夫挥杆的运动图像。
摄像控制部41设定通过输入部17而被输入的各种摄像条件,控制摄像部16中的拍摄动作。
在本实施方式中,由于是对进行一连串动作的被摄体(玩家)进行拍摄,因此摄像控制部41使摄像部16对被摄体进行连续地拍摄,并作为运动图像的数据来输出。
图像获取部42获取从摄像部16中输出的运动图像的数据。然后,图像获取部42对运动图像的数据进行编码(encode)并存储在第1图像存储部61。
图像读取部43对存储在第1图像存储部61中的玩家的运动图像的数据和存储在第2图像存储部62中的专业高尔夫球玩家的运动图像的数据进行读取。也就是说,图像读取部43以各个摄像图像为单位,对存储在第1图像存储部61以及第2图像存储部62中的运动图像的数据进行依次解码(decode),并将解码出的一连串的摄像图像的数据存储在RAM13中。
第1检测部44基于通过图像读取部43读取出的玩家的运动图像的数据以及专业高尔夫球玩家的运动图像的数据,来按每个玩家以及专业高尔夫球玩家检测特定的挥杆状态的图像。这里,所谓特定的挥杆状态,是指如后述图4所示的“瞄球(address)”状态、“半后(half-back)”状态、“顶点(top)”状态、“半下(half-down)”状态、“击球(impact)”状态、“送杆(follow)”状态以及“完成(finish)”状态的7个状态。
具体来讲,第1检测部44基于玩家的运动图像的数据以及专业高尔夫球玩家的运动图像的数据,提取高尔夫俱乐部的球杆部分的图像数据。进一步地,第1检测部44基于提取出的图像数据,来执行半变换,并基于该执行结果,检测高尔夫球杆部分的图像与水平面所成的角度。进一步地,第1检测部44基于检测出的角度,来按每个玩家以及专业高尔夫球玩家检测上述7个特定的挥杆状态的图像。
此外,第1检测部44针对每个玩家以及专业高尔夫球玩家将所检测出的7个特定的挥杆状态的图像存储在RAM13中。
面部检测部45对每个通过第1检测部44检测出的7个特定的挥杆状态的图像,检测玩家以及专业高尔夫球玩家各自的面部部分的图像(以下称为“面部图像”)。面部图像的检测设置面部检测器(未图示),并基于来自该面部检测器的输出来执行。
第2检测部46按7个特定的挥杆状态的图像中的每个图像,检测通过面部检测部45检测出的面部图像在摄像图像中的位置坐标。具体来讲,第2检测部46对图3所示的摄像图像的坐标系中的面部图像的位置坐标进行检测。图3是表示摄像图像的坐标系的图。虽然摄像图像中的坐标能够作为X-Y平面上的坐标来定义,但为了定义后述面部的左右方向的倾斜度等,则在图3中为了方便而表示Z轴。
图4是按7个特定的挥杆状态的图像中的每个图像,针对玩家和专业高尔夫球玩家,表示面部图像的位置等的图。被检测出的面部图像的位置坐标通过图4的参数“c”表示。例如,在图4的专业高尔夫球玩家的“瞄球”状态中,该位置坐标被表示为X=33、Y=18。
另外,第2检测部46将检测出的面部图像的位置坐标与7个特定的挥杆状态的图像分别对应并存储在RAM13中。
此外,第2检测部46基于检测出的面部图像,针对各个玩家以及专业高尔夫球玩家,对面部的左右方向的倾斜度、面部的上下方向的倾斜度、以及面部向旋转方向的倾斜度进行检测。这里,在面部的正面方向的矢量与Z轴平行的情况下,面部的左右方向以及上下方向的倾斜度为0度。以这种情况为基准,面部的左右方向的倾斜度通过面部的正面方向的矢量向Z-X平面上的投影矢量围绕Y轴的旋转角来表示,面部在上下方向的倾斜度,通过面部的正面方向的矢量向Y-Z平面上的投影矢量围绕X轴的旋转角来表示。
此外,在面部的正面方向的矢量与Y轴平行的情况下,面部的倾斜度为0度。以这种情况为基准,面部的倾斜度通过面部的正面方向的矢量向X-Y平面上的投影矢量围绕Z轴的旋转角来表示。
被检测出的面部的左右方向的朝向以及面部的上下方向的朝向通过图4的参数“a”来表示。例如,在图4的专业高尔夫球玩家的“半后”状态中,表示面部向右倾斜5度,向下倾斜33度。
此外,被检测出的面部向旋转方向上的倾斜度通过图4的参数“b”来表示。例如,在图4的专业高尔夫球玩家的“顶点”状态中,表示面部的倾斜度为11度。
另外,第2检测部46将检测出的面部在左右方向上的倾斜度、面部在上下方向上的倾斜度、以及检测出的面部在旋转方向上的倾斜度,与7个特定的挥杆状态的图像建立对应并存储在RAM13中。
此外,第2检测部46对面部图像的大小、以及高尔夫球的图像(以下称为“高尔夫球图像”)在摄像图像中的位置坐标进行检测。面部图像的大小作为摄像图像中的面部图像的面积而被检测。关于高尔夫球图像在摄像图像中的位置的检测,设置有高尔夫球检测器(未图示),并基于来自该高尔夫球检测器的输出来执行。
检测出的面部图像的大小通过图4的参数“d”来表示。例如,在图4的专业高尔夫球玩家的情况下,表示面部图像的大小为9.5。
此外,检测出的高尔夫球图像的位置坐标通过图4的参数“e”来表示。例如,在图4的专业高尔夫球玩家的情况下,表示高尔夫球图像的位置坐标为X=38、Y=78。
另外,第2检测部46按每个玩家以及专业高尔夫球玩家,使面部图像的大小、以及高尔夫球图像在摄像图像中的位置坐标存储在RAM13中。
比较部47,针对玩家以及专业高尔夫球玩家的下述各值进行比较,并计算其的差值:通过第2检测部46检测出的面部图像的位置坐标、面部在左右方向上的倾斜度、面部在上下方向上的倾斜度、以及面部向旋转方向上的倾斜度。
建议信息生成部48,基于作为通过比较部47而产生的比较结果的各差值,生成建议信息。所谓建议信息,是指对玩家报知的文字信息。建议信息的内容是基于玩家与专业高尔夫球玩家之间的、面部图像的位置的差值的信息,例如,图5所示的“请将头部向下移动15cm向右移动15cm”。进一步地,建议信息生成部48将生成出的建议信息作为“位置建议信息”与玩家的挥杆状态建立对应,并存储在RAM13中。
此外,另一种方式的建议信息的内容为,基于玩家与专业高尔夫球玩家之间的、面部图像的位置坐标、面部在左右方向上的倾斜度、面部在上下方向上的倾斜度、以及面部向旋转方向上的倾斜度的各个差值的信息,例如,图6所示的“角度差:左右:25°/上下:27°/倾斜度19°;专业玩家位置:向下15cm向右15cm”。进一步地,建议信息生成部48将生成出的建议信息作为“与位置以及角度差相关的建议信息”,与玩家的挥杆状态建立对应并存储在RAM13中。
此外,另一种方式的建议信息的内容为,例如图7所示的、高尔夫球图像85的X坐标与玩家的面部图像的X坐标的差值“14cm”、高尔夫球图像86的X坐标与专业高尔夫球玩家的面部图像的X坐标的差值“31cm”、以及基于这些差值之间的差分信息的“差:17cm”。进一步地,建议信息生成部48将生成出的建议信息作为“与球间差相关的建议信息”,与玩家的挥杆状态建立对应,并存储在RAM13中。
此外,另一种方式的建议信息的内容为,基于玩家的面部图像的每个位置坐标的挥杆状态转变的信息,例如图9所示的“从瞄球开始到顶点为止头部移动过大”。进一步地,建议信息生成部48将生成的建议信息作为“图像(graph)建议信息”来存储在RAM13中。
报知图像生成部49基于通过建议信息生成部48生成的建议信息、通过第1检测部44检测出的每个玩家以及专业高尔夫球玩家的7个特定的挥杆状态的图像、以及通过第2检测部46检测出的面部图像的位置坐标、面部在左右方向上的倾斜度、面部在上下方向上的倾斜度、面部向旋转方向的倾斜度、高尔夫球图像的位置坐标,来生成报知图像的数据。
例如,在生成图5所示的报知图像的数据的情况下,报知图像生成部49从RAM13中提取被第1检测部44检测出的玩家的“顶点”状态的图像数据,从RAM13中提取玩家的“顶点”状态的“位置建议信息”。此外,报知图像生成部49基于通过第2检测部46检测出的面部图像的位置坐标、面部在左右方向上的倾斜度、面部在上下方向上的倾斜度,来生成表示玩家的面部图像的位置及面部的正面方向的标记(mark)图像81、以及表示专业高尔夫球玩家的面部图像的位置及面部的正面方向的标记图像82的各数据。然后,报知图像生成部49使标记图像81与玩家的面部图像重叠,将包含玩家的“顶点”状态的图像、与从RAM13中提取出的玩家的“顶点”状态相对应地被保存的“位置建议信息”、和标记图像81、82在内的图像数据作为图5所示的报知图像的数据而生成。
此外,例如在生成图6所示的报知图像的数据的情况下,报知图像生成部49从RAM13提取在第1检测部44中检测出的玩家以及专业高尔夫球玩家的“顶点”状态的图像数据,从RAM13提取玩家的“顶点”状态的“涉及位置以及角度差的建议信息”。此外,报知图像生成部49,基于通过第2检测部46检测出的面部图像的位置坐标、面部在左右方向上的倾斜度、面部在上下方向上的倾斜度,来生成表示玩家的面部图像的位置及面部的正面方向的标记(mark)图像83、以及表示专业高尔夫球玩家的面部图像的位置及面部的正面方向的标记图像84的各数据。然后,报知图像生成部49使标记图像83与玩家的面部图像重叠,将包含标记图像83与玩家的“顶点”状态的图像在内的图像数据作为图6所示的报知图像的左半部分区域的数据来生成。此外,报知图像生成部49使标记图像84与专业高尔夫球玩家的面部图像重叠,将包含标记图像84与专业高尔夫球玩家的“顶点”状态的图像在内的图像数据作为图6所示的报知图像的右半部分区域的数据来生成。进一步地,报知图像生成部49将与从RAM13中提取出的玩家的“顶点”状态相关联地被保存的“涉及位置以及角度差的建议信息”、报知图像的左半部分区域的数据、报知图像的右半部分区域的数据组合一起,生成为图6所示的报知图像的数据。
此外,例如在生成图7所示的报知图像的数据的情况下,报知图像生成部49从RAM13中提取在第1检测部44中检测出的玩家以及专业高尔夫球玩家的“半下”状态的图像数据,从RAM13中提取玩家的“半下”状态的“涉及球间差的建议信息”。此外,报知图像生成部49,将包含差值与玩家的“半下”状态的图像在内的图像数据,作为图7所示的报知图像的左半部分区域的数据而生成,该差值是包含在从RAM13中提取出的与玩家的“半下”状态对应存储的“涉及球间差的建议信息”中的高尔夫球图像的X坐标与玩家的面部图像的X坐标之间的差值(以下称为“第1坐标差值”)。此外,报知图像生成部49将包含在该“涉及球间差的建议信息”中的高尔夫球图像的X坐标与专业高尔夫球玩家的面部图像的X坐标之间的差值(以下称为“第2坐标差值”)、与专业高尔夫球玩家的“半下”状态的图像,作为图7所示的报知图像的右半部分区域的数据而生成。进一步地,报知图像生成部49将第1坐标差值与第2坐标差值之间的差值、报知图像的左半部分区域的数据以及报知图像的右半部分区域的数据和在一起,生成为图7所示的报知图像的数据。
此外,在生成例如图8所示的报知图像的数据的情况下,报知图像生成部49从RAM13提取在第1检测部44中检测出的玩家以及专业高尔夫球玩家各自的“顶点”以及“瞄球”状态的图像的数据。此外,报知图像生成部49基于通过第2检测部46而检测出的面部图像的位置坐标、面部在左右方向上的倾斜度、面部在上下方向上的倾斜度,来生成对玩家在“瞄球”状态下的面部图像的位置以及面部的正面方向进行表示的标记图像87、对玩家在“顶点”状态下的面部图像的位置以及面部的正面方向进行表示的标记图像88、对专业高尔夫球玩家在“瞄球”状态下的面部图像的位置以及面部的正面方向进行表示的标记图像89、对专业高尔夫球玩家在“顶点”状态下的面部图像的位置以及面部的正面方向进行表示的标记图像90。
然后,报知图像生成部49使标记图像87与玩家的“瞄球”状态的面部图像重叠,使标记图像88与玩家的“顶点”状态的面部图像重叠,将包含标记图像87、88以及玩家的“瞄球”以及“顶点”状态的图像在内的图像的数据作为图8所示的报知图像的左半部分区域的数据而生成。此外,报知图像生成部49,使标记图像89与专业高尔夫球玩家的“瞄球”状态的面部图像重叠,使标记图像90与专业高尔夫球玩家的“顶点”状态的面部图像重叠,将包含标记图像89、90以及专业高尔夫球玩家的“瞄球”以及“顶点”状态的图像在内的图像的数据作为图8所示的报知图像的右半部分区域的数据而生成。进一步地,报知图像生成部49将报知图像的左半部分区域的数据以及报知图像的右半部分区域的数据合在一起,生成为图8所示的报知图像的数据。
此外,在生成例如图9所示的报知图像的数据的情况下,报知图像生成部49对通过第2检测部46检测并存储在RAM13中的7个特定的挥杆状态中的玩家以及专业高尔夫球玩家的面部图像的位置坐标进行读取。此外,报知图像生成部49从RAM13中提取玩家的“涉及图像的建议信息”。然后,报知图像生成部49基于读取出的该位置坐标,针对各个玩家以及专业高尔夫球玩家,生成该位置坐标的移动图像,将该图像的数据以及该“涉及图像的建议信息”作为图9所示的报知图像的数据而生成。
另外,通过报知图像生成部49而生成的报知图像的数据被存储在RAM13中。
报知控制部50使通过报知图像生成部49而生成的报知图像的数据显示输出到输出部18。此时,报知控制部50根据用户通过输入部17进行的的输入操作,来选择通过报知图像生成部49生成并存储在RAM13中的报知图像的数据,然后显示输出到输出部18。
[报知处理]
接下来,对信息报知装置1执行的报知处理进行说明。
图10是表示具有图2的功能结构的图1的信息报知装置1执行的报知处理的流程的一个例子的流程图。
在图10中,为了开始被摄体的拍摄,如果信息报知装置1的输入部17被操作,则执行下面的步骤S1至S10的处理。
在步骤S1,摄像控制部41使摄像部16连续拍摄被摄体(玩家),并作为运动图像的数据输出。
在步骤S2,图像获取部42获取从摄像部16输出的运动图像的数据。然后,图像获取部42对运动图像的数据进行编码,并存储在第1图像存储部61中。
在步骤S3,图像读取部43,对存储在第1图像存储部61中的玩家的运动图像的数据、与预先存储在第2图像存储部62中的专业高尔夫球玩家的运动图像的数据进行读取。也就是说,图像读取部43以各摄像图像为单位,对存储在第1图像存储部61以及第2图像存储部62中的运动图像的数据进行依次解码,并将解码出的一连串摄像图像的数据存储在RAM13中。
在步骤S4,第1检测部44基于在步骤3中读取出的、玩家的运动图像的数据以及专业高尔夫球玩家的运动图像的数据,来按每个玩家以及专业高尔夫球玩家检测特定的挥杆状态的图像。这里,所谓特定的挥杆状态,是指如后述图4所示的“瞄球(address)”状态、“半后(half-back)”状态、“顶点(top)”状态、“半下(half-down)”状态、“击球(impact)”状态、“送杆(follow)”状态以及“完成(finish)”状态的7个状态。此外,第1检测部44,按每个玩家以及专业高尔夫球玩家将检测出的7个特定的挥杆状态的图像存储在RAM13中。
在步骤S5,面部检测部45,按在步骤S4检测出的7个特定的挥杆状态的每个图像,检测玩家以及专业高尔夫球玩家各自的面部图像。
在步骤S6,第2检测部46,按7个特定的挥杆状态的图像中的每个图像,检测在步骤S5检测出的面部图像在摄像图像中的位置坐标。此外,第2检测部46基于步骤S5中检测出的面部图像,针对各个玩家以及专业高尔夫球玩家,对面部在左右方向上的倾斜度、面部在上下方向上的倾斜度、以及面部向旋转方向上的倾斜度进行检测。另外,第2检测部46将检测出的面部图像的位置坐标、面部在左右方向上的倾斜度、面部在上下方向上的倾斜度、以及检测出的面部向旋转方向上的倾斜度与7个特定的挥杆状态的每个图像建立对应并存储在RAM13中。
此外,在步骤S6,第2检测部46对面部图像的大小、以及高尔夫球图像在摄像图像中的位置坐标进行检测。另外,第2检测部46,按每个玩家以及专业高尔夫球玩家,将面部图像的大小、以及高尔夫球图像在摄像图像中的位置坐标存储在RAM13中。
在步骤S7比较部47对玩家以及专业高尔夫球玩家的下述各值进行比较,并计算其差值:通过第2检测部46检测出的面部图像的位置坐标、面部在左右方向上的倾斜度、面部在上下方向上的倾斜度、以及面部向旋转方向上的倾斜度在。
在步骤S8,建议信息生成部48基于作为步骤S7中的计算结果的各差值,生成建议信息(上述的“位置建议信息”等)。进一步地,建议信息生成部48将生成出的“位置建议信息”、“位置以及角度差建议信息”及“球间差建议信息”与玩家的挥杆状态建立对应,并存储在RAM13中。进一步地,建议信息生成部48将生成的“图像建议信息”存储在RAM13中。
在步骤S9,报知图像生成部49,基于在步骤S8中生成的建议信息、在步骤S4中检测出的每个玩家以及专业高尔夫球玩家的7个特定的挥杆状态的图像、以及通过步骤S6检测出的面部图像的位置坐标、面部在左右方向上的倾斜度、面部在上下方向上的倾斜度、面部向旋转方向上的倾斜度、高尔夫球图像的位置坐标,生成图5至图9所示的报知图像的数据。此外,报知图像生成部49将所生成的报知图像的数据存储在RAM13中。
在步骤S10,报知控制部50使通过报知图像生成部49生成的报知图像的数据显示输出在输出部18。此时,报知控制部50根据用户通过输入部17进行的输入操作,来选择通过报知图像生成部49生成并存储在RAM13中的报知图像的数据,然后显示输出在输出部18。
以上,对本发明的实施方式进行了说明。
执行以上的报知处理的信息报知装置1具备:图像获取部42、第1检测部44、面部检测部45、比较部47、和报知控制部50。
图像获取部42对分别拍摄了被摄体的动作的多个运动图像进行获取。
第1检测部44根据通过图像获取部42而获取到的多个运动图像中的各运动图像中,检测被摄体的动作中的特定的挥杆状态。
面部检测部45从各运动图像中,对与通过第1检测部44而检测出的特定的挥杆状态对应的图像进行检测。
比较部47对通过面部检测部45而检测出的图像进行比较。
报知控制部50对基于通过比较部47而产生的比较结果的信息进行报知。
因此,在玩家的挥杆动作之后,基于特定的挥杆状态中的玩家的图像与专业高尔夫球玩家的图像的比较结果的信息、例如面部图像的位置的比较结果的信息被报知。因此,即使不是高尔夫挥杆过程中,也能够容易地确认特定的挥杆状态中的作为被摄体的玩家与专业高尔夫球玩家之间的差异点。
第1检测部44对一连串的动作的7个特定的挥杆状态进行检测。
面部检测部45对7个特定的挥杆状态的每个面部部分的图像进行检测。
比较部47对通过面部检测部45而检测出的多个图像进行比较。
因此,即使不是高尔夫挥杆中,也能够容易地确认多个特定的挥杆状态中的作为被摄体的玩家与专业高尔夫球玩家之间的差异点。
面部检测部45从与检测出的特定的挥杆状态对应的图像中,检测被摄体的面部图像。
比较部47在通过面部检测部45而检测出的部分图像之间进行比较。
因此,在玩家的挥杆动作之后,基于特定的挥杆状态中的玩家的图像与专业高尔夫球玩家的图像之间的比较结果的信息、例如面部图像的位置的比较结果的信息被报知。因此,即使不是高尔夫挥杆过程中,也能够容易地确认特定的挥杆状态中的作为被摄体的玩家与专业高尔夫球玩家之间的差异点。
此外,信息报知装置1具备第2检测部46。
第2检测部46,对通过面部检测部45而检测出的面部部分的图像的位置或者倾斜度进行检测。
比较部47在玩家以及专业高尔夫球玩家之间,对通过第2检测部46而检测出的面部部分的图像的位置或者倾斜度进行比较。
因此,即使不是高尔夫挥杆过程中,也能够容易地确认多个特定的挥杆状态中的作为被摄体的玩家与专业高尔夫球玩家之间的面部位置或者倾斜度的差异点。
此外,信息报知装置1具备报知图像生成部49。
报知图像生成部49基于通过比较部47而产生的比较结果,来生成报知图像的数据。
此外,报知图像生成部49生成包含建议信息和/或标记图像81~84在内的报知图像。该建议信息是基于通过比较部47在玩家以及专业高尔夫球玩家之间对通过第2检测部46而检测出的面部部分的图像位置或者倾斜度进行比较而得出的比较结果,该标记图像81~84表示分别针对玩家以及专业高尔夫球玩家的面部部分的图像位置或者倾斜度。
报知控制部50对通过报知图像生成部49生成的报知图像进行报知。
因此,即使不是高尔夫挥杆过程中,也能够容易地确认多个特定的挥杆状态中的作为被摄体的玩家与专业高尔夫球玩家之间的面部位置或者倾斜度的差异点,并且能够根据建议信息具体地掌握该面部的位置或者倾斜度之间的差异点,进一步地,能够根据标记图像在视觉上地掌握该面部或者倾斜度的位置之间的差异点。
另外,本发明不仅限定于上述的实施方式,在能够达成本发明的目的的范围内的变形、改良等也包含在本发明中。
在上述实施方式中,虽然信息报知装置1是1个,但不仅限于此,也可以设置2个,来从多个观察点对被摄体进行拍摄。由此,如图11所示,在与2个特定的挥杆状态的比较结果中,也可以对能够掌握前后方向的差分的报知图像进行报知。
此外,在上述实施方式中,虽然对玩家以及专业高尔夫球玩家的面部图像的位置进行了检测,但不仅限于此。例如,也能够检测除面部之外的手臂、腿等的图像位置。
此外,在上述实施方式中,作为特定的挥杆状态,虽然特定了“瞄球”状态等7个状态,但不仅限于此,也可以检测其他状态。此外,特定的挥杆状态的数量也可以为6个以下,也可以为8以上。
此外,在上述实施方式中,虽然以拍摄了高尔夫挥杆的运动图像的数据为对象,对适用本发明的情况进行了举例说明,但本发明也能够适用于各种动作的比较。例如,能够适用于对棒球棒的挥杆、网球球拍的挥杆、或者舞蹈的动作等各种运动的动作进行比较的情况。
此外,本发明也能够应用于乐器演奏、烹调(菜刀、煎锅的操作)、魔术、陶艺、甚至奥运会、残奥会的项目等各种动作的比较。
此外,在上述实施方式中,虽然适用本发明的信息报知装置1以数字照相机为例进行了说明,但不特别限定于此。
例如,本发明能够普遍适用于具有图像处理功能的电力设备。具体来讲,例如,本发明能够适用于笔记本电脑、打印机、电视机、摄像机、便携式导航装置、手机、便携式游戏机等。
上述一连串的处理可以通过硬件执行,也可以通过软件执行。
换言之,图2的功能性结构仅仅为示例,不特别限定于此。也就是说,只要在图像处理装置1中具备能够整体执行上述一连串的处理的功能就可以,而为了实现该功能而使用什么样的功能框架,并不特别限定于图2的例子。
此外,1个功能框架可以仅由硬件单体构成,也可以仅由软件构成,也可以由这些的组合构成。
在通过软件使一连串的处理执行的情况下,构成该软件的程序被从网络、记录介质安装到计算机等。
计算机也可以是被组入到专用的硬件上的计算机。此外,计算机也可以是通过安装各种程序而能够执行各种功能的计算机,例如被广泛应用的个人计算机。
包含这样的程序在内的记录介质不仅仅由为了向用户提供程序而与装置本体分开分配的图1的可移动介质31构成,也由以预先组入到了装置主体的状态而向用户提供的记录介质等构成。可移动介质31由例如磁盘(包含软盘(floppy disk))、光盘或者磁光盘等构成。光盘由例如CD-ROM(Compact Disk-Read Only Memory,只读光盘)、DVD(Digital Vetsatile Disk,数字多功能光盘)等构成。磁光盘由MD(Mini-Disk,迷你光碟)等构成。此外,以预先组入了装置主体的状态而向用户提供的记录介质,由例如记录程序的图1的ROM12、包含在图1的存储部19中的硬盘等构成。
另外,在本说明书中,对记录在记录介质中的程序进行描述的步骤,必然包含按照该步骤来按时序进行的处理,也包含不必按时序进行处理,而是并列或者分别执行的处理。
以上,虽然对本发明的几个实施方式进行了说明,但这些实施方式仅仅是示例,并不限定本发明的技术范围。本发明也能够采取其他各种实施方式,进一步地,在不超出本发明的主旨的范围内,也可以进行省略、置换等各种变更。这些实施方式及其变形包含在本说明书等所述的发明范围、主旨内,同时也包含在权利要求所述的发明及其等同的范围内。

Claims (9)

1.一种信息报知装置,具备:
获取单元,其对分别拍摄了被摄体动作的多个运动图像进行获取;
状态检测单元,其从通过所述获取单元而获取到的多个运动图像中的各运动图像中,检测所述被摄体的动作中的特定状态;
图像检测单元,其从所述各运动图像中,检测与通过所述状态检测单元而检测出的特定状态对应的图像;
比较单元,其对通过所述图像检测单元而检测出的图像之间进行比较;和
报知控制单元,其对与所述比较单元的比较结果相应的信息进行报知。
2.根据权利要求1所述的信息报知装置,其特征在于,
所述信息报知装置还具备:
存储单元,该存储单元对与多种特定状态的每种状态对应的多种信息进行存储,作为与所述比较结果相应的信息,
所述报知控制单元具有选择单元,该选择单元从存储在所述存储单元中的多种信息中,选择与所述比较结果相应的信息,
对通过所述选择单元而选择出的信息进行报知。
3.根据权利要求1所述的信息报知装置,其特征在于,
所述状态检测单元,从所述多个运动图像中的各运动图像中,检测多种特定状态,
所述图像检测单元,检测与通过所述状态检测单元而检测出的多种特定状态对应的多个图像,
所述比较单元,对通过所述图像检测单元而检测出的多个图像之间进行比较。
4.根据权利要求1所述的信息报知装置,其特征在于,
所述信息报知装置还具备:
部分图像检测单元,该部分图像检测单元从与通过所述图像检测单元而检测出的所述特定状态对应的图像中,检测所述被摄体的部分图像,
所述比较单元,在通过所述部分图像检测单元而检测出的部分图像之间进行比较。
5.根据权利要求4所述的信息报知装置,其特征在于,
所述状态检测单元对通过所述部分图像检测单元而检测出的部分图像的位置或者朝向进行检测,
所述比较单元在多个被摄体之间,对检测出的部分图像的位置或者朝向进行比较。
6.根据权利要求5所述的信息报知装置,其特征在于,
所述信息报知装置还具备:
图像生成单元,该图像生成单元生成与所述比较单元的比较结果相应的报知图像,
所述报知控制单元,生成与所述比较单元针对通过所述位置检测单元而检测出的位置或者朝向进行比较的结果相关的信息、和/或表示所述位置或者朝向的报知图像。
7.根据权利要求1所述的信息报知装置,其特征在于,
所述信息报知装置还具备生成合成图像的合成图像生成单元,该合成图像是针对所述被摄体之间,对各运动图像中的多种特定状态的图像进行合成所得的图像。
8.根据权利要求7所述的信息报知装置,其特征在于,
所述合成图像生成单元,按照使所述多种特定状态中除了规定的状态以外的状态相对于该规定的状态透明的方式进行合成,来生成合成图像。
9.一种信息报知方法,由信息报知装置执行,该信息报知方法包括:
获取步骤,其对分别拍摄了被摄体的动作的多个运动图像进行获取;
状态检测步骤,其从通过所述获取步骤而获取到的多个运动图像中的各运动图像中,检测所述被摄体的动作中的特定状态;
图像检测步骤,其从所述各运动图像,检测与通过所述状态检测步骤而检测出的特定状态对应的图像;
比较步骤,其对通过所述图像检测步骤而检测出的图像之间进行比较;和
报知控制步骤,其对与所述比较步骤的比较结果相应的信息进行报知。
CN201310698278.6A 2012-12-21 2013-12-18 信息报知装置、信息报知方法以及记录介质 Active CN103888643B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2012-280126 2012-12-21
JP2012280126A JP5754439B2 (ja) 2012-12-21 2012-12-21 情報報知装置、情報報知方法及びプログラム

Publications (2)

Publication Number Publication Date
CN103888643A true CN103888643A (zh) 2014-06-25
CN103888643B CN103888643B (zh) 2018-01-12

Family

ID=50957355

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310698278.6A Active CN103888643B (zh) 2012-12-21 2013-12-18 信息报知装置、信息报知方法以及记录介质

Country Status (3)

Country Link
US (1) US9761013B2 (zh)
JP (1) JP5754439B2 (zh)
CN (1) CN103888643B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106794371A (zh) * 2014-10-10 2017-05-31 富士通株式会社 技能判定程序、技能判定方法、技能判定装置以及服务器
CN110025116A (zh) * 2018-01-11 2019-07-19 卡西欧计算机株式会社 报知装置、报知方法以及记录介质
CN110297720A (zh) * 2018-03-22 2019-10-01 卡西欧计算机株式会社 通知装置、通知方法及存储通知程序的介质
CN111050863A (zh) * 2017-09-01 2020-04-21 富士通株式会社 练习辅助程序、练习辅助方法以及练习辅助系统
CN111124115A (zh) * 2019-12-18 2020-05-08 佛山科学技术学院 一种面向虚拟陶艺的可视化辅助学习方法及系统
CN111193961A (zh) * 2018-11-15 2020-05-22 索尼公司 视频编辑设备和方法

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5942908B2 (ja) * 2013-03-22 2016-06-29 カシオ計算機株式会社 表示制御装置、表示制御方法及びプログラム
BR112018070811A2 (pt) 2016-04-15 2019-02-05 Koninklijke Philips Nv método para fornecer retroinformação, sistema para fornecer retroinformação
JP6544551B1 (ja) * 2018-03-25 2019-07-17 柏熊 誠治 スイング判定装置、スイング判定方法、および、プログラム。
CN110314344B (zh) * 2018-03-30 2021-08-24 杭州海康威视数字技术股份有限公司 运动提醒方法、装置及系统
CN112423850A (zh) * 2018-07-24 2021-02-26 松下知识产权经营株式会社 运动辅助系统、运动辅助程序以及运动辅助方法
JP7008342B2 (ja) * 2019-03-05 2022-01-25 株式会社Sportip 運動評価システム
JP7319540B2 (ja) * 2019-08-27 2023-08-02 株式会社プロギア ショット管理システム、ショット管理方法及びプログラム
US11645873B1 (en) * 2020-03-20 2023-05-09 18Birdies Llc Systems, media, and methods providing a golf swing coach
KR102232253B1 (ko) * 2020-06-29 2021-03-25 (주)케이에스전자 두 개의 골프영상과 결과 데이터를 하나로 겹쳐서 확인하는 어플리케이션을 이용한 자세비교 및 교정 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020114493A1 (en) * 2001-02-16 2002-08-22 Golftec, Inc. Method and system for physical motion analysis
US6722888B1 (en) * 1995-01-20 2004-04-20 Vincent J. Macri Method and apparatus for tutorial, self and assisted instruction directed to simulated preparation, training and competitive play and entertainment
US20050215336A1 (en) * 2004-03-26 2005-09-29 Sumitomo Rubber Industries, Ltd. Golf swing-diagnosing system
WO2008023250A1 (en) * 2006-08-25 2008-02-28 The Sports Production Company Limited Motion coaching device, method and system
CN102218212A (zh) * 2010-04-13 2011-10-19 上海薄荷信息科技有限公司 一种虚拟私人运动教练装置及服务系统

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5904484A (en) * 1996-12-23 1999-05-18 Burns; Dave Interactive motion training device and method
JP2002223405A (ja) * 2001-01-26 2002-08-09 Swing Network Kk 映像記録再生装置、及び映像記録再生プログラム
JP2004164563A (ja) * 2002-09-26 2004-06-10 Toshiba Corp 画像解析方法、画像解析装置、画像解析プログラム
JP2004321767A (ja) 2003-02-13 2004-11-18 Asahi Sekkei Kogyo:Kk ゴルフ練習装置
JP4494837B2 (ja) * 2003-12-26 2010-06-30 Sriスポーツ株式会社 ゴルフスウィング診断システム
JP2005339100A (ja) * 2004-05-26 2005-12-08 Advanced Telecommunication Research Institute International 身体動作解析装置
US20060045312A1 (en) * 2004-08-27 2006-03-02 Bernstein Daniel B Image comparison device for providing real-time feedback
JP2008186247A (ja) * 2007-01-30 2008-08-14 Oki Electric Ind Co Ltd 顔向き検出装置および顔向き検出方法
CA2791932A1 (en) * 2010-03-05 2011-09-09 Interactive Sports Technologies Inc. Apparatus and method for measuring golf club shaft flex and golf simulation system incorporating the same
US8903521B2 (en) * 2010-08-26 2014-12-02 Blast Motion Inc. Motion capture element

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6722888B1 (en) * 1995-01-20 2004-04-20 Vincent J. Macri Method and apparatus for tutorial, self and assisted instruction directed to simulated preparation, training and competitive play and entertainment
US20020114493A1 (en) * 2001-02-16 2002-08-22 Golftec, Inc. Method and system for physical motion analysis
US20050215336A1 (en) * 2004-03-26 2005-09-29 Sumitomo Rubber Industries, Ltd. Golf swing-diagnosing system
WO2008023250A1 (en) * 2006-08-25 2008-02-28 The Sports Production Company Limited Motion coaching device, method and system
CN102218212A (zh) * 2010-04-13 2011-10-19 上海薄荷信息科技有限公司 一种虚拟私人运动教练装置及服务系统

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106794371A (zh) * 2014-10-10 2017-05-31 富士通株式会社 技能判定程序、技能判定方法、技能判定装置以及服务器
US10923224B2 (en) 2014-10-10 2021-02-16 Fujitsu Limited Non-transitory computer-readable recording medium, skill determination method, skill determination device and server
CN111050863A (zh) * 2017-09-01 2020-04-21 富士通株式会社 练习辅助程序、练习辅助方法以及练习辅助系统
CN110025116A (zh) * 2018-01-11 2019-07-19 卡西欧计算机株式会社 报知装置、报知方法以及记录介质
US11191341B2 (en) 2018-01-11 2021-12-07 Casio Computer Co., Ltd. Notification device, notification method, and storage medium having program stored therein
CN110297720A (zh) * 2018-03-22 2019-10-01 卡西欧计算机株式会社 通知装置、通知方法及存储通知程序的介质
CN111193961A (zh) * 2018-11-15 2020-05-22 索尼公司 视频编辑设备和方法
CN111193961B (zh) * 2018-11-15 2022-02-18 索尼公司 视频编辑设备和方法
CN111124115A (zh) * 2019-12-18 2020-05-08 佛山科学技术学院 一种面向虚拟陶艺的可视化辅助学习方法及系统

Also Published As

Publication number Publication date
CN103888643B (zh) 2018-01-12
US20140177926A1 (en) 2014-06-26
JP2014123322A (ja) 2014-07-03
US9761013B2 (en) 2017-09-12
JP5754439B2 (ja) 2015-07-29

Similar Documents

Publication Publication Date Title
CN103888643A (zh) 信息报知装置、信息报知方法
CN103581522B (zh) 信息通知装置以及信息通知方法
CN105450911B (zh) 图像处理装置、图像处理方法
CN103916586B (zh) 图像解析装置以及图像解析方法
CN104065875B (zh) 显示控制装置、显示控制方法以及记录介质
WO2019130527A1 (ja) 抽出プログラム、抽出方法および情報処理装置
KR101642854B1 (ko) 화상 처리 장치, 화상 처리 방법 및 기록 매체
EP2581121B1 (en) Motion scoring method, apparatus and program
CN103327234B (zh) 图像处理装置、以及图像处理方法
CN102263923A (zh) 动态图像再生装置及动态图像再生方法
JP2014064110A (ja) 画像処理装置、画像処理方法及びプログラム
CN108079547A (zh) 图像处理装置、分析系统、图像处理方法以及记录介质
JP6149365B2 (ja) 情報生成装置、情報生成方法及びプログラム
CN103914700B (zh) 显示控制装置、显示控制方法以及记录介质
JP5970890B2 (ja) 運動回数計測装置、運動回数計測方法およびプログラム
KR101705836B1 (ko) 깊이 정보를 이용한 골프 스윙 분석 시스템 및 방법
JP2006181014A (ja) 画像解析装置および動作修正システム
JP2013034492A (ja) 表示装置及び表示方法
JP2016123637A (ja) 画像処理装置、画像処理方法及びプログラム
JP2020135177A (ja) 動画を解析するためのプログラム、装置、及び方法
JP6064404B2 (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant