KR20140037896A - 스포츠 모션 비디오 분석 방법 - Google Patents

스포츠 모션 비디오 분석 방법 Download PDF

Info

Publication number
KR20140037896A
KR20140037896A KR1020137035131A KR20137035131A KR20140037896A KR 20140037896 A KR20140037896 A KR 20140037896A KR 1020137035131 A KR1020137035131 A KR 1020137035131A KR 20137035131 A KR20137035131 A KR 20137035131A KR 20140037896 A KR20140037896 A KR 20140037896A
Authority
KR
South Korea
Prior art keywords
video
video analysis
frame
image
motion
Prior art date
Application number
KR1020137035131A
Other languages
English (en)
Inventor
챤?헝
Original Assignee
챤?헝
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 챤?헝 filed Critical 챤?헝
Publication of KR20140037896A publication Critical patent/KR20140037896A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B69/00Training appliances or apparatus for special sports
    • A63B69/36Training appliances or apparatus for special sports for golf
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • G06V20/42Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items of sport video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • G06V20/47Detecting features for summarising video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30221Sports video; Sports image

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)

Abstract

발명은 스포츠 모션의 비디오 이미지를 분석하기 위한 방법, 장치, 시스템, 및 컴퓨터 프로그램 프로덕트를 지향하고, 특히, 비디오 내 핵심 모션 위치의 식별과, 스포츠 모션을 포함하는 비디오의 세그먼트의 자동 추출을 지향한다. 스포츠 모션을 디스플레이하는 비디오 데이터는 다수의 이미지 프레임을 나타내는 데이터를 포함한다. 다수의 이미지 프레임에 대하여, 이미지 프레임과 다른 이미지 프레임 간의 하나 이상의 프레임 차이 측정치가 연산된다. 프레임 차이 측정치를 분석하여, 스포츠 모션의 핵심 위치를 각각 보여주는 복수의 이미지 프레임을 식별할 수 있다. 스포츠 모션을 보여주는 스포츠 모션을 포함하는 비디오의 세그먼트는 핵심 위치를 보여주는 이미지 프레임들 중 둘 사이에 놓인다. 프레임 차이 측정치는 화소 차이 측정치 또는 광학적 유동 기술에 기초하여 연산될 수 있다.

Description

스포츠 모션 비디오 분석 방법{Method of analysing a video of sports motion}
본 발명은 스포츠 모션의 비디오 이미지를 분석하는 방법에 관한 것이다. 특히, 발명은 비디오 내의 키 모션 위치의 식별과, 스포츠 모션을 포함하는 비디오의 세그먼트의 자동 추출에 관련된다.
많은 스포츠에서의 참여는 계속적으로 소정의 모션의 반복을 포함한다. 특정 방식으로 이러한 모션들을 수행하는 지속적 능력은 스포츠에서 우수한 실력에 있어 일반적으로 중요하다. 참가자들이 소정의 방식으로 반복적으로 운동하게 하는 기능을 발전시키는 것을 돕기 위해 서로 다른 방법들이 발견된 바 있다. 스포츠에서의 실력 개선을 위한 이러한 방법에 기술이 사용되고 있다.
비디오 분석은 현대 스포츠 트레이닝의 중요한 부분이다. 자신의 모션 수행을 보는 기능은 개인으로 하여금 기술적 결함을 식별할 수 있게 하고 이러한 결함을 교정할 수 있게 한다. 더욱이, 비디오 분석 기술을 스포츠 모션 비디오에 적용하여, 변화할 필요가 있는 모션 형태를 식별할 수 있게 돕거나, 긍정적 피드백을 위해 정확하게 수행되는 모션 형태를 식별할 수 있게 돕는다.
일례로 골프를 들자면, 골퍼의 스윙 기술은 골프 공을 일관되게 쳐서 우수한 결과를 얻는 능력에 있어서 중요하다. 수십 년간, 선호되는 골프 스윙 기술이 알려져 있고, 대부분의 골퍼는 이러한 선호되는 기술에 가능한 가깝게 자신의 스윙을 모델링하려 노력하고 있다. 비디오 분석은 골퍼의 스윙을 개선시키기 위해 골프에 사용되고 있다.
직관적 형태의 비디오 분석은 단순히 골프 스윙을 녹화하고 다시 봐서 골퍼 자신 또는 지도자로는 구분할 수 없는 흠결을 식별하는 것이다. 특정 스윙 위치를 보여주는 개별 프레임들이 분석될 수 있도록 비디오 영상이 멈춰질 수 있다.
다른 분석 방법은 모델 스윙 대비 차이점을 더욱 쉽게 식별하기 위해, 골퍼의 스윙을 타인의 골프 스윙 옆에 디스플레이하는 것이다. 일부 기존 방법들은 2개의 스윙의 동기화 과정을 포함하여, 대응하는 스윙 위치들이 함께 나타나게 되어, 비교가 용이해진다.
골프 스윙을 분석하기 위해, 어드레스 위치, 탑 스윙 위치, 임팩트 위치, 및 피니시 위치와 같은 소정의 스윙 위치를 점검하는 것이 유용하다. 따라서, 이러한 위치에서 골퍼를 보여주는 비디오 프레임을 식별하는 것이 바람직하다.
골프 스윙의 비디오 영상을 캡처할 때, 예를 들어, 경기자가 스윙을 준비하고 있을 때, 스윙 자체의 어느 한 쪽을 녹화한 다량의 영상이 존재할 수 있다. 이러한 영상은 상당분 잉여이고, 실제 스윙 모션을 신속하게 식별하는 것을 어렵게 할 수 있으며, 저장되는 디지털 비디오 데이터의 경우에 소중한 메모리 공간을 차지할 수 있다. 따라서, 골프 스윙 모션만을 담은 비디오 영상의 세그먼트를 추출하는 것이 바람직하다.
일부 기존의 골프 스윙 비디오 분석 방법은 이러한 목적, 즉, 골프 스윙을 담은 비디오의 세그먼트의 추출, 또는, 핵심 스윙 위치의 식별, 또는, 두 가지 모두를 실현한다. 어드레스 및 피니시 위치의 식별은 골프 스윙을 보여주는 비디오의 세그먼트를 추출할 수 있게 한다 - 골프 스윙은 어드레스 및 피니시 위치 사이에서 비디오의 일부분으로 나타난다.
이러한 기존 방법들의 예는 다음과 같다:
● 비디오 스윙 영상을 수동으로 검사하고, 핵심 모션 위치를 보여주는 프레임과 골프 스윙을 보여주는 세그먼트를 식별함. 이는 모든 비디오 영상을 사용자가 살펴봐야하기 때문에 시간-집약적이다.
● 미국특허공보 제6,537,076호 및 미국특허공보 제6,567,536호에서와 같이, 임팩트 순간을 식별하기 위해 임팩트 잡음을 검출함. 나머지 스윙은 이 순간의 어느 한 쪽 소정의 시간 내에 있다고 가정된다. 이 방법은 비디오 캡처 장치와 함께 작동하는 오디오 검출 장치를 필요로하고, 임팩트 위치를 정확하게 검출할 수 있을 뿐이다. 이 방법은 서로 다른 템포의 스윙에 대해 신뢰가능하게 작동하지 않을 것이다.
● 미국특허출원공보 제2006/0281060호에서와 같이, 다른 타입의 센서를 이용하여 스윙의 부분을 검출 - 가령, 압력 매트. 그러나, 이 방법은 다른 타입의 센서 이용을 요구하고, 이는 비쌀 수 있고, 항상 편리한 것도 아닐 수 있다.
● 미국특허공보 제7,097,459호, 제7,704,157호, 및 제7,857,708호에서와 같이, 칼라 마커 또는 다른 식별가능한 라벨을 골퍼 및 골프 클럽 상에 배치하고 비디오 영상에서 그 위치를 자동적으로 검출함. 그러나, 이는 항상 가용하지만은 않은 마커 또는 라벨의 이용을 요구하고, 마커가 정확한 위치에 배치되지 않을 경우 오차가 생길 수 있다.
● 미국특허출원공보 제2010/0303303호에서와 같이, 경기자의 실루엣 또는 신체 세그먼트의 식별과 같은 물체 인지-기반법을 이용함. 그러나, 이러한 방법들은 골프 스윙 분석 방법을 적용하기 전에 사람 형상을 인지해야하는 어렵고 시간이 걸리는 문제점의 해결을 수반한다. 이러한 방법들은 따라서 매우 복잡하고, 높은 수준의 프로세싱 파워/메모리를 필요로 하며, 결과에 이르기까지 시간이 소요된다.
● 한국특허 제101002846호에서와 같이, 비디오 영상 내 볼의 위치와, 모션 중 볼의 위치 변화를 검출함. 이 방법이 비디오 캡처 장치 및 프로세서를 뛰어넘은 장비의 필요성을 배제하지만, 항상 가용하지만은 않은 볼의 존재에 의존한다. 어드레스 위치 중 볼이 클럽 헤드에 의해 덮인다고 또한 가정하고, 따라서, 어드레스시 볼이 클럽 헤드에 의해 덮이지 않는 각도로부터 녹화된 비디오를 분석하는데 유용하지 않다. 마지막으로, 항상 참인 것은 아닌 소정의 가정을 함으로써 어느 프레임이 피니시 위치를 보여주는지를 추정한다.
다른 골프 스윙 분석 방법에서, 미국특허공보 제7,200,282호에서와 같이, 골프 클럽의 위치는 Hough 또는 Radon 변환과 같은 직선 검출 방법을 이용하여 검출된다. 이러한 방법은 골프 클럽이 비교적 정적인 상태의 비디오 세그먼트에 유용할 수 있으나, 클럽이 빠르게 움직일 경우 효과적으로 작용하지 않을 수 있고 이미지가 흐려진다. 이러한 방법들은 또한 연산-집약적이다.
이러한 기술들 중 많은 기술들이 다른 스포츠의 모션 분석에도 적용될 수 있다.
따라서, 앞서 논의한 단점 중 적어도 일부를 극복하는 스포츠 모션의 비디오 이미지를 분석하는 개선된 방법을 제공하는 것이 발명의 목적이다.
비디오 캡처 장치는 최근 수년간 저변을 넓혀가고 있다. 비디오 이미지가 디지털 카메라 및 이동 전화와 같은 많은 개인용 전자 장치에서 캡처될 수 있다. 따라서, 누군가가 특정 스포츠 모션을 실행하는 개인의 비디오 영상을 캡처하는 것이 매우 쉬워지고 있다. 비디오 영상을 캡처하는데 사용되는 동일 장치가 영상의 분석에 사용될 수 있다면 편리할 것이다. 따라서, 개인용 전자 장치에 의해 수행될 수 있는 스포츠 모션의 비디오 이미지 분석 방법을 제공하는 것이 발명의 대안의 목적이다.
스포츠 모션의 비디오 이미지를 분석하기 위한 개선된 장치 및/또는 시스템을 제공하는 것이 발명의 대안의 목적이다.
대안으로서, 유용한 선택사항을 대중에게 적어도 제공하는 것이 발명의 일 목적이다.
발명의 제 1 형태에 따르면, 비디오 분석 방법이 제공되며, 상기 비디오의 적어도 일부분은 스포츠 모션을 디스플레이하고, 상기 방법은,
T개의 이미지 프레임을 나타내는 데이터를 수신하는 단계와,
Tc개의 이미지 프레임 각각에 대해, 이미지 프레임과 다른 이미지 프레임 사이의 하나 이상의 프레임 차이 측정치를 연산하는 단계와,
각각 스포츠 모션의 핵심 위치를 보여주는 복수의 이미지 프레임을 식별하도록 상기 프레임 차이 측정치를 분석하는 단계를 포함한다.
상기 방법은 상기 스포츠 모션을 디스플레이하는 비디오의 일부분을 식별하는 단계를 더 포함하는 것이 선호된다. 스포츠 모션을 디스플레이하는 비디오의 일부분을 식별하는 단계는, 스포츠 모션의 핵심 위치들 중 2개 사이의 이미지 프레임을 선택하는 단계를 포함하는 것이 더욱 선호된다.
상기 방법은, 프레임 차이 측정치로부터 스포츠 모션의 하나 이상의 모션 상태를 식별하는 단계를 더 포함하는 것이 선호된다. 상기 방법은 스포츠 모션의 핵심 위치를 식별하기 위해 모션 상태의 식별을 이용하는 단계를 포함하는 것이 더욱 선호된다.
"프레임 차이 측정치"는 이미지 프레임들 간의 비디오 데이터의 차이를 표시하는 양이다. 발명의 선호되는 실시예에서, 하나 이상의 프레임 차이 측정치는,
1. 이미지 프레임들 사이의 움직임의 양의 측정치,
2. 이미지 프레임들 사이의 움직임 위치의 측정치, 그리고,
3. 이미지 프레임들 사이의 움직임 속도, 또는 (가속도와 같은) 속도의 도함수의 측정치
중 적어도 하나를 포함한다.
각각의 프레임 차이 측정치는 프레임들 사이의 차이의 전역적 측정치, 또는, 프레임들 사이의 차이의 국부적 측정치일 수 있다. 전역적 측정치는 실질적으로 전체 이미지의 레벨에서 측정치로 이해될 수 있다. 국부적 측정치는 화소 또는 서브-이미지 레벨에서의 측정치로 이해될 수 있다.
각각의 이미지 프레임은 P개의 화소 또는 화소 그룹을 포함하는 것이 선호되고, 상기 방법은,
Tc개의 이미지 프레임 각각에 대해, Pc개의 화소 또는 화소 그룹 각각을 다른 이미지 프레임 내 대응하는 화소 또는 화소 그룹과 비교하고, 하나 이상의 화소 차이 측정치를 연산하는 단계를 더 포함한다.
상기 화소 차이 측정치는 화소 또는 화소 그룹들 사이의 세기 차이를 포함하는 것이 더욱 바람직하다.
상기 방법은 하나 이상의 화소 차이 측정치에 기초하여 하나 이상의 프레임 차이 측정치를 연산하는 단계를 포함하는 것이 바람직하다.
상기 방법은 이미지 프레임들 사이의 화소 차이 측정치의 통계적 값을 연산하는 단계를 포함하는 것이 더욱 바람직하다. 상기 방법은 지정 임계치를 넘는 화소 차이 측정치의 통계적 값들 연산하는 단계를 포함하는 것이 바람직하다. 상기 화소 차이 측정치는,
1. 이미지 프레임들 사이의 화소 움직임의 양의 측정치,
2. 이미지 프레임들 사이의 화소 움직임의 위치의 측정치,
3. 이미지 프레임들 사이의 화소 움직임의 속도 또는 (가속도와 같은) 속도의 도함수의 측정치
중 하나 이상을 포함할 수 있다.
연산되는 화소 차이 측정치의 통계적 값들은 중간값, 평균값, n번째-퍼센타일, 표준 편차 중 하나 이상을 포함할 수 있는 것이 더욱 바람직하다.
발명의 제 2 선호 실시예에서, 상기 방법은, Tc개의 이미지 프레임 각각에 대하여, 화소 또는 화소 그룹과, 다른 이미지 프레임 내 대응하는 화소 또는 화소 그룹 사이의 광학적 유동을 결정하는 단계를 포함한다.
광학적 유동을 결정하는 단계는, 각각의 이미지 프레임과 다른 이미지 프레임 사이의 화소 또는 화소 그룹 사이의 국부적 상관을 결정하는 단계를 포함하는 것이 더욱 바람직하다.
발명의 선호되는 실시예에서, 스포츠 모션의 핵심 위치를 각각 보여주는 복수의 이미지 프레임을 식별하기 위해 프레임 차이 측정치를 분석하는 단계는,
프레임 차이 측정치의 시간적 변화로 복수의 패턴을 식별하는 단계와,
각각의 패턴을 스포츠 모션의 모션 상태 중 하나와 연관시키는 단계를 포함한다.
복수의 패턴을 식별하는 단계는, 프레임 차이 측정치의 시간적 변화의 고점 및/또는 저점을 식별하는 단계를 포함하는 것이 바람직하다.
복수의 패턴을 식별하는 단계는, 이미지 프레임들 사이의 수직 화소 움직임의 고점 및/또는 저점을 식별하는 단계를 포함하는 것이 더욱 바람직하다.
발명의 소정의 실시예에서, 상기 방법은, 스포츠 모션의 핵심 위치를 각각 보여주는 복수의 이미지 프레임을 식별하기 위해 프레임 차이 측정치를 분석하기 위해 결정 모델이 이용된다.
발명의 선호도는 실시예에서, 상기 방법은 비디오에 이미지 개선 알고리즘을 적용하는 단계를 포함한다. 예를 들어, 일 실시예에서, 이미지 안정화 알고리즘이 비디오에 적용된다.
발명의 일 실시예에서, 상기 방법은, 광학 유동 벡터의 연산을 포함하는 이미지 안정화 알고리즘을 적용하고, 이어서, 프레임 차이 측정치를 연산하기 위해 광학 유동 벡터를 이용하는 단계를 포함한다.
발명의 일 실시예에서, 이미지 개선 알고리즘은 콘트래스트 개선 알고리즘을 포함할 수 있다.
프레임 차이 측정치를 분석하는 단계는, 프레임 차이 측정치의 시간적 변화에 노이즈 감소 필터를 적용하는 단계를 포함하는 것이 바람직하다.
프레임 차이 측정치를 연산하는 각각의 단계에 대하여, 다른 이미지 프레임이 이미지 프레임으로부터 지정된 개수의 이미지 프레임에 의해 분리되는 것이 바람직하다. 다른 이미지 프레임은 선행 또는 후속 프레임인 것이 더욱 바람직하다.
프레임 차이 측정치가 연산되는 이미지 프레임의 개수 Tc가 비디오 데이터 내 이미지 프레임의 개수 T와 동일한 것이 바람직하다.
화소 또는 화소 그룹의 개수 Pc가 이미지 프레임 내 화소 또는 화소 그룹의 개수 P와 동일한 것이 바람직하다.
상기 방법은, 스포츠 모션을 디스플레이하는 비디오의 일부분 및/또는 스포츠 모션의 핵심 위치를 보여주는 이미지 프레임들을 나타내는 데이터를 컴퓨터 판독형 매체에 기록하는 단계를 더 포함하는 것이 바람직하다. 상기 방법은 모든 다른 데이터를 소거하는 단계를 더 포함할 수 있다.
상기 방법은, 디스플레이 장치 상에 스포츠 모션을 디스플레이하는 비디오의 일부분 및/또는 스포츠 모션의 핵심 위치를 보여주는 이미지 프레임을 출력하는 단계를 포함하는 것이 더욱 바람직하다.
상기 방법은, 비디오 캡처 장치 상에서 비디오를 녹화하는 단계를 포함하는 것이 바람직하다. 비디오 분석 방법은 상기 비디오 캡처 장치 상에서 수행되는 것이 더욱 바람직하다. 일 실시예에서, 비디오 캡처 장치는 이동 전화다.
상기 방법은, 2개의 스포츠 모션을 동기화시키는 단계와, 디스플레이 장치 상에 두 스포츠 모션을 함께 디스플레이하는 단계를 더 포함하는 것이 바람직하다. 2개의 스포츠 모션은 스포츠 모션을 행하는 한 사람의 2개의 모습일 수 있고, 또는, 스포츠 모션을 행하는 두 사람의 동일 모습일 수도 있다. 동기화 방법은 각각의 스포츠 모션의 핵심 위치의 이미지 프레임을 동시에 디스플레이하는 단계를 포함하는 것이 더욱 바람직하다.
상기 방법은 스포츠 모션의 지속시간을 표시하는 값을 연산하는 단계를 더 포함하는 것이 바람직하다. 스포츠 모션의 지속시간을 표시하는 값은 핵심 위치들 중 2개를 보여주는 이미지 프레임들 사이에서 경과한 시간을 포함하는 것이 더욱 바람직하다.
발명의 선호되는 실시예에서, 상기 스포츠 모션은 골프 스윙이다.
발명의 선호되는 실시예에서, 상기 방법은 이미지 프레임들 중 하나 이상에서 물체를 식별하는 단계를 더 포함한다. 상기 방법은, 상기 스포츠 모션의 핵심 위치 중 하나를 보여주는 상기 이미지 프레임들 중 적어도 하나에서 물체를 식별하는 단계를 포함하는 것이 더욱 바람직하다. 예를 들어, 상기 방법은 하나 이상의 이미지 프레임에서 골프 클럽을 식별하는 단계를 포함하고, 특히 상기 이미지 프레임들은 어드레스 및 피니시 위치를 보여준다. 골프 클럽을 식별하기 위해 Hough 또는 Radon 변환법이 이용될 수 있다.
상기 방법은 하나 이상의 라인을 구성하고, 이미지 프레임들 중 하나 이상에 대해 라인을 디스플레이하는 단계를 포함하는 것이 바람직하다.
예를 들어, 일 실시예에서, 상기 방법은 어드레스 위치에서 골프 클럽을 통해 제 1 라인을, 그리고, 제 1 라인에 대해 (제 1 라인 위로) 대략 17˚로 제 2 라인을 구성하는 단계와, 골퍼의 측면의 하나 이상의 이미지 프레임 내에 라인을 디스플레이하는 단계를 포함한다. 다른 실시예에서, 방법은 대략 골프 클럽을 통해 수직 라인을 구성하는 단계와, 골퍼의 정면의 하나 이상의 이미지 프레임에 라인을 디스플레이하는 단계를 포함한다.
상기 방법은 이미지 프레임을 분석하는 단계와, 그 결과, 개선 명령어를 제공하는 단계를 더 포함하는 것이 바람직하다.
발명의 제 2 형태에 따르면, 비디오 분석 장치가 제공되며, 상기 비디오의 적어도 일부분은 스포츠 모션을 디스플레이하고, 상기 장치는,
T개의 이미지 프레임을 나타내는 데이터를 수신하는 수단과,
Tc개의 이미지 프레임 각각에 대해, 이미지 프레임과 다른 이미지 프레임 사이의 하나 이상의 프레임 차이 측정치를 연산하는 수단과,
각각 스포츠 모션의 핵심 위치를 보여주는 복수의 이미지 프레임을 식별하도록 상기 프레임 차이 측정치를 분석하는 수단을 포함한다.
상기 장치는 비디오를 녹화하기 위한 비디오 캡처 장치를 더 포함하는 것이 바람직하다. 상기 장치는 핵심 위치 이미지 프레임을 디스플레이하기 위한 디스플레이 수단을 더 포함하는 것이 더욱 바람직하다.
발명의 선호되는 실시예에서, 상기 장치는 이동 전화, 이동 태블릿, 또는 랩탑 컴퓨터를 포함한다.
발명의 제 3 형태에 따르면, 비디오 분석 시스템이 제공되며, 상기 비디오의 적어도 일부분은 스포츠 모션을 디스플레이하고, 상기 시스템은,
T개의 이미지 프레임을 나타내는 데이터를 수신하는 수단과,
Tc개의 이미지 프레임 각각에 대해, 이미지 프레임과 다른 이미지 프레임 사이의 하나 이상의 프레임 차이 측정치를 연산하는 수단과,
각각 스포츠 모션의 핵심 위치를 보여주는 복수의 이미지 프레임을 식별하도록 상기 프레임 차이 측정치를 분석하는 수단을 포함한다.
발명의 제 4 형태에 따르면, 컴퓨터에 의해 실행될 때, 컴퓨터로 하여금 방법을 수행하게 하는 컴퓨터 프로그램 프로덕트에 있어서, 상기 방법은,
T개의 이미지 프레임을 나타내는 데이터를 수신하는 단계와,
Tc개의 이미지 프레임 각각에 대해, 이미지 프레임과 다른 이미지 프레임 사이의 하나 이상의 프레임 차이 측정치를 연산하는 단계와,
각각 스포츠 모션의 핵심 위치를 보여주는 복수의 이미지 프레임을 식별하도록 상기 프레임 차이 측정치를 분석하는 단계를 포함한다.
모든 신규한 형태로 고려되어야 하는 발명의 추가적 형태는 발명의 특정 응용예 중 적어도 하나의 예를 제공하는 다음의 설명을 읽고 난 후 당 업자에게 명백해질 것이다.
발명의 하나 이상의 실시예가, 다음의 도면을 참조하여, 제한적인 의도없이, 단지 예로서, 아래에서 설명된다.
도 1은 발명의 일 실시예에 따른 골프 스윙 분석 방법을 설명하는 순서도다.
도 2는 발명의 일 실시예에 따른 골프 스윙 분석 시스템 또는 장치의 도해다.
도 3은 발명의 일 실시예에 따른 골퍼의 비디오를 구성하는 복수의 이미지 프레임의 도해다.
도 4는 일 실시예에 따른 비디오 데이터 분석 방법의 단계들을 예시하는 순서도다.
도 5는 발명의 일 실시예에 따른 분석 결과의 도해다.
도 6은 발명의 일 실시예에 딸느 방법에 의해 연산되는 데이터의 도해다.
도 7은 도 6에 도시되는 그래프 중 하나의 일부분의 도해다.
도 8은 발명의 일 실시예에 따른 방법이 도 3에 도시되는 비디오 데이터에 적용될 때 핵심 스윙 위치를 보여주는 이미지의 도해다.
도 9는 발명의 다른 실시예에 따른 핵심 스윙 위치를 보여주는 이미지의 도해다.
다음의 설명에서, 골프 스윙 분석에 관한 발명의 실시예들이 설명될 것이다. 이것이 발명의 일 응용예이지만, 이러한 실시예들은 단지 예로서 설명될 뿐이고, 발명의 다른 실시예에서는 다른 스포츠 모션이 분석됨을 이해하여야 한다.
예를 들어, 골프 스윙에서처럼, 발명의 실시예는 야구 배트 스윙, 농구 피치, 크리켓 샷, 럭비 킥, 테니스 샷, 및 다른 스포츠 모션의 분석에 사용될 수 있다. 발명은 어떤 특정 스포츠 모션에 사용되는 것으로 제한되지 않고, 당 업자는, 다음의 설명을 읽고나면, 여기서 논의되지 않은 스포츠 모션의 분석에 발명이 어떻게 적용될 수 있는지를 쉽게 이해할 수 있을 것이다.
도 1은 발명의 일 실시예에 따른 골프 스윙 분석 방법(100)을 예시하는 순서도다. 도 2는 발명의 동일 실시예에 따른 골프 스윙 분석 시스템 또는 장치(200)의 도해다.
단계(101)에서, 골프 스윙을 하는 개인의 비디오가 녹화된다. 비디오는 일부 잉여 영상, 즉, 실제 골프 스윙을 보여주지 않고 경기자가 자세를 취하거나 스윙 준비를 하는 등의 비디오 부분을 포함할 수 있다. 비디오는 임의의 비디오 캡처 장치(201)에서 녹화될 수 있고, 일부 실시예에서는 캠코더, 디지털 카메라, 이동 전화, 태블릿 컴퓨터, 등과 같이, 손쉽게 휴대가능한 디지털 장치가 사용된다. 어디서라도 골프 스윙을 녹화 및 분석할 수 있다는 편의성은 발명의 일부 실시예의 장점이다.
디지털 비디오 녹화시, 단계(101)의 종료 결과는 비디오를 집합적으로 구성하는 이미지 프레임들을 나타내는 디지털 데이터다. 이러한 데이터는 비디오 캡처 장치 상에 또는 임의의 적절한 데이터 저장 매체 상에, 예를 들어, 하드 드라이브, 메모리 카드, CD, 플로피 디스크, 등에 저장될 수 있다.
단계(102)에서, 발명에 따른 분석 단계를 수행하기에 적합한 컴퓨터 또는 프로세서(202)에서 대표 데이터가 수신된다. 일부 실시예에서, 프로세서(202)는 비디오 캡처에 사용되는 동일 장치(201)(가령, 이동 전화)에 탑재되어, 비디오의 캡처 및 분석과 분석 결과의 디스플레이에 단일 장치만 요구된다.
단계(103)에서, 방법은 비디오 데이터에 이미지 개선 알고리즘을 적용하는 단계를 포함할 수 있다. 이러한 알고리즘을 이용하여 데이터의 품질을 개선시키고, 따라서, 분석 방법의 결과를 개선시킬 수 있다. 사용될 수 있는 이미지 개선 알고리즘의 예는, 이미지 안정화 알고리즘, 콘트래스트 개선 알고리즘, 노이즈 감소 알고리즘, 등을 포함한다. 이미지 안정화 알고리즘은 예를 들어, 카메라가 사람의 손에 쥐어져 있을 경우 카메라 흔들림의 효과(획득되는 결과의 품질을 저하시킬 수 있음)를 감소시키는 것을 돕는다. 콘트래스트 개선 알고리즘은 캡처된 비디오의 광 품질이 불량할 때 특히 유용하며, 이는 예를 들어, 흔히 음지에 있기 때문에 골프 드라이빙 범위에서 캡처되는 비디오와 함께 발생할 수 있다. 적절한 알고리즘이 당 분야에 잘 알려져 있고, 더 상세히 논의하지 않을 것이다.
단계(104)에서, 프로세서(202)는 프로세서에 의해 수신되는 복수의 이미지 프레임에 대한 프레임 차이 측정치를 연산한다. 본 발명의 범주에서, 프레임 차이 측정치는 이미지 프레임들 사이의 비디오 데이터의 차이를 표시하는 양이다. 이 단계는 아래에서 더 상세히 설명될 것이다.
단계(105)에서, 프로세서(202)는, 예를 들어, 연산된 프레임 차이 측정치에 결정 모델을 적용함으로써 프레임 차이 측정치를 분석한다. 이 단계 역시 아래에서 더 상세히 설명될 것이다.
단계(106)에서, 프로세서(202)는 단계(105)의 분석 결과를 출력한다. 발명의 일 실시예에서, 분석 결과는 스포츠 모션의 핵심 위치와 스포츠 모션을 디스플레이하는 비디오의 부분을, 즉, 잉여 비디오 세그먼트없이, 각각 보여주는 복수의 이미지 프레임을 포함한다.
스포츠 모션의 핵심 위치는 스포츠 모션 분석에 중요하다고 간주되는 임의의 위치를 의미한다. 이러한 핵심 위치를 좌지우지하는 것은, 분석되는 스포츠 모션과, 관련된 사람이다 - 서로 다른 사람들이 개별 스포츠 모션 내의 서로 다른 위치에 대해 다양한 중요도를 배치할 수 있다. 골프 스윙 분석의 예에서, 핵심 위치는 어드레스시 골퍼의 위치, 백스윙 중간점, 백스윙의 탑, 다운스윙의 중간점, 임팩트, 및 팔로-스로로 흔히 간주된다. 그러나, 이러한 위치들은 단지 예로서 언급될 뿐, 골프 스윙의 임의의 다른 위치도 핵심 위치로 간주될 수 있다. 예를 들어, 스포츠 모션의 위치는 단지 사용자에게 디스플레이를 위해 선택된다는 점에 비추어볼 때 핵심적인 것으로 간주될 수 있다.
모션의 어느 쪽에서도 잉여 비디오없이 스포츠 모션을 디스플레이하는 비디오 부분은, 항상은 아니지만 종종, 최초 및 최종 위치 사이의 비디오의 해당 부분일 것이다. 골프 스윙의 경우에, 관련 비디오 부분은 어드레스 위치를 보여주는 프레임과, 팔로-스로 또는 피니시 위치를 보여주는 어드레스 사이의 모든 이미지 프레임을 포함한다. 다른 실시예에서, 비디오의 다른 부분은 요구되는 바에 따라 추출될 수 있다. 요구되는 비디오 세그먼트의 시작 또는 종료는 특정 방식으로, 예를 들어, 최초 및 최종 핵심 위치로부터 소정의 시간 또는 프레임 개수 내에서, 소정의 핵심 위치에 관련될 수 있다.
단계(107)에서, 프로세서(202)에 의해 출력되는 분석 결과가 디스플레이 수단(203) 상에 디스플레이된다. 디스플레이 수단(203)은 당 분야에 알려진 바와 같이, 이미지 프레임 및 비디오 영상을 디스플레이할 수 있는 임의의 적절한 장치를 포함할 수 있다. 일부 실시예에서, 디스플레이 수단(203)은 프로세서(202) 및/또는 비디오 캡처 장치(201)와 동일한 장치 내에 탑재된다. 예를 들어, 디스플레이 수단(203)은 이동 전화 상의 스크린을 포함할 수 있다.
단계(108)에서, 출력된 결과는 추가로 자동적으로 분석될 수 있고, 개선 명령어의 형태로 피드백이 제공될 수 있다. 예를 들어, 골프 스윙의 경우에, 어드레스시 골프 클럽의 위치가 검출된다(아래 논의됨). 골프 클럽이 너무 크거나 작은 각도에 있을 경우, 검출될 수 있고, 적절한 피드백이 제공될 수 있다 - 예를 들어, ("볼에 더 가까이 서세요/볼로부터 멀리 떨어지세요").
발명의 일부 실시예에 따라 분석 결과가 디스플레이되는 방식이 아래에 설명될 것이다.
도 3은 발명의 일 실시예에 따라 골퍼의 비디오(300)를 구성하는 복수의 이미지 프레임(301)의 도해다. 비디오 녹화는 초당 30프레임(fps)으로 대략 23초간 찍었다. 편의상 도 3에 5개의 이미지 프레임마다 하나씩만 도시된다. 비디오 중, 골퍼는 4회의 풀 골프 스윙을 하였고, 이러한 스윙을 보여주는 이미지 프레임들이 강조되어 (302)로 마킹된다.
비디오(300)는 T개의 이미지 프레임 X(t)의 시퀀스이고, 각각의 데이터로 표현된다. 각각의 이미지 프레임(X)은 P = [nr x nc] 화소로 구성되며, nr은 이미지 프레임 내 화소의 로우 수이고, nc는 이미지 프레임 내 화소의 칼럼 수다. 이미지 프레임은 다음과 같이 표현될 수 있다:
X(t) = [x(t)ij],
여기서 i = 1, 2,..., nr, j = 1, 2, ..., nc, 및 t = 1, 2, ..., T.
도 4는 발명의 일 실시예에 따른 비디오 데이터 분석 방법(400)의 단계들을 예시하는 순서도다. 도 4에 도시되는 방법(400)은 온라인 비디오 분석 방법으로 구현될 수 있다.
단계(401)에서, Tc개의 이미지 프레임이 분석에 사용된다. Tc는 T보다 작거나 동일할 수 있다. 논의되는 실시예에서, 모든 가용 데이터가 분석되도록 Tc = T 다. 그러나, 요구되는 결과를 얻기 위해 충분한 개수의 프레임이 분석되어야 하지만, 가용 프레임들의 서브세트만이 분석될 경우 프로세싱이 가속될 수 있다. 고속 비디오의 경우(가령, 초당 30프레임 이상), 더 빠른 프로세싱을 위해 모든 이미지 프레임이 사용될 필요가 없고, 이미지 프레임간 의미있는 비교가 이루어질 수 있도록, 프레임 간에 이미지의 충분한 변화가 있음을 보장하기 위해 모든 이미지 프레임이 사용될 필요가 없다.
이미지 프레임은 화소 세기 x의 그레이 스케일 이미지로 처리될 수 있고, x(t)는 [0, 최대 화소 세기]의 수치다. 그레이 스케일 이용시 방법이 단순화된다. 다른 실시예에서, 다른 측정치가 사용될 수 있고, 예를 들어, 화소 내 칼라 성분이 사용될 수 있다.
단계(402)에서, 분석을 위해 현 이미지 프레임이 선택된다. 일 실시예에서, 방법은 분석될 비디오 내 이미지 프레임들을 통해 순차적으로 이루어질 수 있다. 다른 실시예에서, 방법은 매 몇 프레임을 거쳐 작용하여, 모든 프레임을 분석하지 않으면서 결과를 얻으려 시도하며, 요구될 경우 다른 프레임들을 분석할 뿐이다. 다른 실시예에서, 분석을 위해 이미지 프레임들의 순서를 선택하는 다른 방식이 사용될 수 있다.
단계(403)에서, 차이 프레임 또는 차이 이미지 D(t)가 연산된다. 차이 프레임은 현 이미지 프레임 X(t)의 Pc 화소 각각과, 과거의 또는 미래의 다른 이미지 프레임 X(t-m)의 대응 화소 사이의 절대차이며, m은 t 이전의 프레임 수다:
D(t) = | X(t) - X(t-m) |.
다른 실시예에서, D(t)는 대응 화소들의 다른 차이 함수로 연산된다. 예를 들어, 차이 이미지 D(t)는 제공차, 변환차, 절대차의 로그, 로그차, 등일 수 있다.
일부 실시예에서, m = ±1 이다. 즉, 차이 프레임은 이전 또는 후속 이미지 프레임 사이의 차에 기초한다. 그러나 m은 임의의 정수일 수 있다. 예를 들어, 빠른 프로세싱을 위해 고속의 경우에, 그리고 프레임들간 이미지의 더 큰 변화를 검출하기 위해, 1보다 큰 정수가 사용될 수 있다.
일 실시예에서, Pc = P, 즉, 이미지 프레임 내 모든 화소들이 다른 이미지 프레임 내 화소들에게 비교된다. 그러나, 일부 실시예에서, Pc는 P보다 작아서, 화소의 서브세트만이 각각의 프레임에서 비교되며, 또는, 다운-샘플링된(즉, 해상도 감소된) 프레임들만이 비교된다. 이는 특히, 고해상도 이미징의 경우에, 효율을 증가시킬 수 있고, 모든 화소를 처리하지 않으면서 적정 결과를 얻을 수 있다. 다른 실시예에서, 화소 그룹이 프레임들 간에 비교된다.
단계(404)에서, 하나 이상의 프레임 차이 측정치가 연산된다. 이미지 프레임이 화소들로 구성되는 현재 논의되는 실시예에서, 프레임 차이 측정치는 프레임 간의 화소 차이 측정치 또는 그 통계치들을 포함한다. 예를 들어, 단계(404a)에서, 차이비 DRatio(dthres)가 연산된다. 이러한 차이 비는 지정된 세기 임계치 dthres를 넘는 차이 이미지 D의 화소 비다:
Figure pct00001
차이비는 차이 이미지의 운동의 크기의 측정치다 - 즉, 이미지 프레임들 간 운동의 크기의 측정치다. 이는 (화소 또는 서브-이미지 레벨에서의 운동의 국부적 측정치에 반해) 전체로서 이미지 프레임에 관련되기 때문에 전역적 측정치다. 높은 값의 DRatio(dthres)는 프레임들 간에 큰 운동을 나타낸다. 이미지의 회전 변환에 대해서는 불변이다.
단계(404b)에서, 차이 위치 인디케이터가 연산된다. 선택된 세기 임계치(ethres)가 주어졌을 때, ethres를 넘는 D 내 화소들에 대응하는 이진 매트릭스(E)는 다음과 같이 규정될 수 있다:
Figure pct00002
Figure pct00003
를 E의 칼럼 합계의 벡터라고 하고,
Figure pct00004
Figure pct00005
를 E의 로우 합계의 벡터라고 하자. 다음의 차이 위치 인디케이터가 아래와 같이 규정된다:
수평 차이 위치 인디케이터: HDPrctile(p) = pth-Percentile(eh)
수직 차이 위치 인디케이터: VDPrctile(p) = pth-Percentile(ev)
앞서 규정된 수평 및 수직 차이 위치 인디케이터는 이미지 프레임 간 운동 위치의 측정치다. p 값은 임의의 값일 수 있지만, 예를 들어, [5, 25, 50, 75, 95]로부터 선택될 수 있고, 2개 이상의 차이 위치 인디케이터를 제공하기 위해 복수의 값들이 사용될 수도 있다.
도 5는 발명의 일 실시예에 따른 분석 결과의 도해다. 도 5는 분석 중인 프레임(501)(X(t))을 예시한다. 프레임(501)은 골프 스윙을 거쳐가는 골퍼 부분의 이미지다. 차이 프레임 D(t)가 이미지(502)에 도시된다. 이는 프레임(501)과 비교 프레임 사이에서 다른 모든 화소들을 보여주고, 본 예에서, 비교 프레임은 바로 선행하는 프레임이다. 이미지(503)는 지정 임계치(ethres)를 넘어서는 차이 프레임 내 화소의 위치를 보여준다. 그래프(504, 505)는 각각 지정 임계치(ethres)를 넘어서는 차이 프레임 내 화소의 수평 및 수직 분포를 보여준다. 그래프(504, 505)를 이미지(503)와 연결하는 라인은 5번째, 50번째, 및 95번째 퍼센타일의 개략적 위치를 보여준다 - 즉, HDPrctile(p) 및 VDPrctile(p)의 각기 서로 다른 3개의 값을 보여주고, p는 5, 50, 95와 같다.
도 6은 발명의 일 실시예에 따른 방법에 의해 연산되는 다수의 이미지 프레임에 관한 데이터의 도해다. 그래프(602)는 시간(또는 프레임 수)에 대한 이미지 프레임 사이의 운동의 양의 측정치 DRatio의 도표다. 그래프(603)는 시간에 대한, 이미지 프레임들 간의 운동 위치의 측정치 VDPrctile(50)의 도표다. VDPrctile(50)는 차이 프레임에서 소정의 임계치를 넘어서는 화소들의 수직 위치의 중간값이다. 그래프(603)의 y-축 상의 라벨들은 데이터가 그려지는 방식에 대향된다 - 실제로 그래프 상단에서 y=0, 하단에서 y=200 이다.
다시 도 4를 참조하면, 발명의 일 실시예에 따라 골퍼의 스윙에서 핵심 위치를 식별하기 위해 프레임 차이 측정치를 분석하는 단계가 이제 설명될 것이다. 본 실시예에서, 간단한 시간 인지 전략이 사용된다. 아래 논의되는 방법의 세부사항은 (도 3에 따른) 골퍼의 측면 비디오의 분석과 관련된다.
단계(405)에서, 데이터 내 노이즈를 감소시키기 위해 지금껏 연산된 시간 프레임 차이 측정치 데이터에 가우시안 필터가 적용될 수 있다.
단계(406)에서, 프레임 차이 측정치 데이터에서 스윙 상태가 식별되려 시도된다. 영역(604, 605, 606)은 그래프(602, 603)의 데이터의 스윙 상태를 식별하는 결과를 보여준다. 영역(604)은 풀 스윙을 나타내지 않는 패턴을 보여주고, 영역(605, 606)은 프레임 차이 측정치 데이터 내 패턴에 상관된 스윙 상태를 표시한다. 프레임 차이 측정치 데이터에서 패턴에 상관된 스윙 상태를 표시한다. 특히, 4개의 개별 스윙 상태가 식별된다. 도 6에서, 이러한 스윙 상태들은 "시작", "업-다운", "다운-업", 및 "종료"로 불린다. 각각의 스윙 상태는 프레임 차이 측정치 데이터 내 패턴에 의한 특징을 갖는다. 예를 들어, 시작 및 종료 상태 중, DRatio의 값이 비교적 작아, 전체적 모션이 거의 없음을 표시한다. 업-다운 상태의 중간에서, DRatio 및 VDPrctile(50)은 동시에 저점을 쳐서(그래프(603)에서 y-축이 역전되기 때문에 VDPrctile(50)는 높음), 백스윙의 탑을 표시하고, 이 경우 운동은 최소이고 운동 위치는 최고점에 있다. 다운-업 상태 또는 다운스윙 중, DRatio는 신체 운동이 최대에 있기 때문에 최고다. 흔히 사용되는 피크 검출법을 이용하여 데이터의 고점 또는 저점을 식별할 수 있다.
완전한 스윙은 차례로 4개의 모든 상태를 지녀야 한다. 따라서, 차례로 4개의 상태의 로우와 스윙 상태에 특정한 특징 패턴의 검출을 이용하여 데이터에서 완전한 스윙을 식별할 수 있다. 성공적인 스윙 인지는, 예를 들어, 각각의 상태의 지속시간을 평가함으로써, 또한 비준될 수 있다. 초당 30프레임의 비디오 녹화의 경우에, 각각의 스윙 상태는 대부분의 골프 스윙에 대해 약 60프레임보다 길지 않아야 한다.
결정 단계(407)에서, 스윙이 식별되었는지 여부가 결정된다. 예를 들어, 스윙 검출은 차례로 모두 4개의 스윙 상태가 검출되는 것을 요구할 수 있다. 스윙이 식별되지 않은 경우, 방법은 단계(402)로 루프-백하여, 비디오 데이터 내 다른 이미지 프레임의 데이터를 분석한다. 스윙이 식별된 경우, 방법은 단계(409)로 이동한다.
단계(408)에서, 스윙의 핵심 위치를 보여주는 이미지 프레임이 데이터 내 식별된 스윙 상태에 기초하여 식별된다. 도 7은 도 6에 도시되는 바와 같은 그래프(603)의 일부분의 도해다. 도 7에 도시되는 그래프(701)는 제 1 완전 스윙을 나타내는 데이터를 포함하는 그래프(603)의 일부분이다.
핵심 스윙 위치를 보여주는 이미지 프레임들이 어떻게 식별되는 지의 예가 아래에서 설명된다:
● 어드레스 - 시작 상태에서 VDPrctile(50)의 지배적 고점의 위치
● 탑-스윙 - 다운-업 상태에서 VDPrctile(50)의 지배적 저점의 위치
● 임팩트 - 다운-업 상태에서 VDPrctile(50)의 지배적 고점의 위치
● 피니시 - 종료 단계에서 VDPrctile(50)의 지배적 저점의 위치
● 업스윙 및 다운스윙 - 고점-저점 = 시작 상태에서 VDPrctile(50)의 지배적 고점 - 업-다운 상태에서 VDPrctile(50)의 지배적 저점이고, CrossRatio = 업스윙 및 다운스윙 위치 결정을 위해 고점-저점의 선택된 비일 경우, 업스윙 및 다운스윙 프레임 = 각각 VDPrctile(50)이 저점 위 (CrossRatio*고점-저점)을 지날 때의 임팩트 프레임과 어드레스 프레임 사이의 최초 및 최종 위치다. 일 실시예에서, CrossRatio는 대략 0.3과 같다. 다른 실시예에서, 0.5가 선택될 수 있다.
발명의 일부 실시예에서, 물체 검출 방법을 이용하여 스포츠 모션 내 소정의 물체를 식별할 수 있고, 선택적으로, 물체 검출을 이용하여, 스윙 상태 및/또는 핵심 위치의 식별을 돕거나 비준할 수 있다. 골프 스윙 분석의 경우에, 골프 클럽 검출법, 예를 들어, 직선 검출 알고리즘이 이용될 수 있다.
도 6을 다시 참조하면, 그래프(601)는 이미지 프레임의 Hough 변환에서 고점 각도 검출 결과를 보여준다. 즉, 그래프(601)의 데이터는 이미지 프레임 내 골프 클럽의 각도를 나타낸다. 대안의 실시예에서, Radon 변환 또는 다른 적절한 알고리즘이 사용될 수 있다. 클럽 각도 및 위치의 가장 정확한 식별은 클럽이 비교적 정적일 때인 어드레스 및 피니시 위치에서 이루어질 수 있다.
도 4의 단계(409)에서, 핵심 스윙 위치를 도시하는 이미지 프레임들이 출력된다. 도 8은 발명의 일 실시예에 따른 방법이 도 3에 도시되는 비디오 데이터에 적용될 때 핵심 스윙 위치를 보여주는 이미지 도해다. 수신되는 비디오의 4개의 스윙 각각에 대하여, 6개의 핵심 위치가 제공된다. 도시되는 실시예에서, 물체 검출 알고리즘을 적용하여 어드레스시 골프 클럽의 위치를 표시하였다. 이는 모든 프레임에서 라인으로 표시된다.
단계(410)에서, 골프 스윙을 보여주는 최초에 녹화된 비디오의 일부분이 출력된다. 이는 어드레스와 피니시 위치 사이의 이미지 프레임들을 포함하는 비디오 데이터의 형태로 출력되고, 요망될 경우, 이러한 위치들 중 어느 한쪽의 몇몇 이미지 프레임들을 또한 포함할 수 있다. 도 3에 도시되는 비디오의 경우에, 4개의 짧은 비디오 세그먼트가 출력될 것이고, 각각은 녹화된 스윙 중 하나를 보여준다.
핵심 위치 프레임을 출력하고 추출된 골프 스윙 세그먼트를 출력하지 않는 것은, 메모리 요건 감소 및 프로세싱 속도 때문에 유리할 수 있다.
단계(410)에서, 방법은 단계(402)로 회귀하여 존재할 수 있는 스윙에 대한 비디오 분석을 계속할 수 있다.
발명의 방법 단계들 중 일부가 동시에 또는 서로 다른 순서로 이루어질 수 있음을 인지하여야 한다. 도 4의 단계들은 단지 설명을 위해, 차례로 도시된다. 방법의 일부 단계들을 적절하다면 동시에 수행함으로써, 발명의 방법이 "실시간" 작동을 위해 또는 적어도 매우 짧은 프로세싱 시간에 부응할 수 있다.
도 9는 발명의 다른 실시예에 따른, 핵심 스윙 위치를 보여주는 이미지의 도해다. 도 9는 "전문가" 스윙(901)의 핵심 스윙 위치를 보여주고, 이러한 위치들은 대상자(902)에 의한 3개의 스윙으로부터의 동등한 핵심 스윙 위치와 함께 정렬된다. 이러한 방식으로 이미지 프레임을 디스플레이하는 것은 스윙을 전문가의 스윙과 비교하는데 매우 유용하다.
도 9의 이미지 프레임에서, 제 1 라인(903)은 어드레스 프레임 내 골프 클럽의 위치를 표시하는 모든 프레임에서 디스플레이된다. 이 라인은 Hough 변환과 같은 물체 검출 알고리즘을 이용하여 선호되는 실시예에서 구성된다. 제 2 라인(904) 또한 구성 및 디스플레이될 수 있다. 제 1 라인(903)에 대해 대략 17˚로 제 2 라인(904)을 그림으로써(이 각도가 골프 클럽의 헤드에 대함), 유용한 교습 툴이 된다는 것을 발견하였다. 제 2 라인(904)은 골퍼의 어깨 너머로 지나갈 수 있다. 제 2 라인(904)에 대해 신체의 소정 부분의 위치를 확인하는 것이 바람직할 수 있다 - 예를 들어, 골퍼의 손은 임팩트시 대략 제 1 라인(903)과 제 2 라인(904) 사이에 놓여야 한다.
골퍼의 전면 모습이 분석되는 다른 실시예에서, 어드레스 위치에서 골프 클럽을 통해 대략 연장되는 수직 라인을 구성 및 디스플레이하는 것이 유용할 수 있다. 다시 이를 실현하기 위해 적절한 물체 검출 알고리즘이 사용될 수 있다. 이는 스윙 경로에 걸쳐 이 라인에 대해 골퍼의 헤드의 움직임을 확인하는데 유용할 수 있다.
발명의 일 실시예에서, 프레임 차이 측정치 DRatio만을 이용하여 스윙 상태와, 따라서 핵심 프레임 위치를 식별할 수 있다. 다른 실시예에서, 수직 방향으로 운동의 양은 스윙 상태 및 따라서 핵심 프레임 위치를 식별하는데 사용되는 프레임 차이 측정치일 수 있다. 서로 다른 측정치가 스포츠 모션 식별에 있어 서로 다른 장점을 제공할 수 있고, 따라서, 서로 다른 상황에서 유용할 수 있다. 다른 실시예에서, 2개 이상의 프레임 차이 측정치가 사용되고 측정치간 상호-비준이 모션 분석법의 정확도를 증가시킬 수 있다. 서로 다른 스윙 상태 및 핵심 위치를 식별하기 위한 규정은 어떤 측정치가 사용되느냐에 따라 변화될 필요가 있을 수 있다.
앞서 설명한 바와 같이, 프레임 차이 측정치는 지정 임계치를 넘는 차이 프레임 내 화소들의 수직 및 수평 분포인 HDPrctile(p) 및 VDPrctile(p)를 각각 포함할 수 있다. 일부 경우에, 움직임 변화가 캡처되는 모션을 더욱 정확하게 예측하도록, 회전 각도를 따라 이러한 분포를 연산하는 것이 더욱 유익할 수 있다. 예를 들어, 골프 스윙의 경우에, 어드레스 위치에서 클럽 평면에 평행한 방향으로의 분포가 연산될 수 있다. 어드레스 위치에서 클럽 평면에 수직인 방향으로의 분포는 이러한 방향으로 골프 클럽의 최소 움직임이 나타날 것이기 때문에 최적 결과를 생성하지 않을 수 있다.
앞서 논의한 예는 스윙 상태가, 따라서 핵심 위치가, 후방으로부터 캡처되는 골프 스윙의 비디오 데이터에서 어떻게 식별될 수 있는 지를 설명한다. 상기 스윙 상태 및 핵심 위치를 식별하기 위한 규정들은 이러한 특정 각도로부터 이러한 타입의 스포츠 모션을 보여주는 비디오로 제한된다. 그러나, 그 원리는 프레임 차이 측정치의 적정 패턴이 식별되면 다른 각도로부터 그리고 다른 스포츠에 대해서 모션 상태 및 핵심 위치를 인지하기 위해 이 방법을 연장하도록 쉽게 적응될 수 있다.
앞서 논의한 예에서, 프레임 차이 측정치로부터 스윙 상태 및 핵심 위치를 식별하는데 규정-기반 모델이 사용된다. 다른 실시예에서, 데이터의 분류, 인지, 및 회귀를 위한 다른 예측 및/또는 기계 학습 모델이 사용될 수 있고, 그 예로는 히든 마르코프 모델(Hidden Markov Model), 상태-공간 모델(State-Space Model), 유한 상태 기계(Finite State Machine), 회귀법(regression methods), 지원 벡터 기계(Support Vector Machine), 신경망(Neural Networks) 및 퍼지 로직(Fuzzy Logics)이 있다. 기계-학습 기술을 이용하는 방법은 서로 다른 많은 종류의 스포츠 모션을 학습 및 분류하는 작업을 만날 때 특히 유리하다.
발명의 대안의 실시예에서, 이미지 프레임들 사이의 운동 속도의 측정치인 프레임 차이 측정치의 연산을 이용하여, 스포츠 모션 비디오를 분석할 수 있다. 예를 들어, 이미지 프레임들 사이의 화소 움직임의 속도(속력 및 방향 모두를 포함함)가 연산된다.
인접한 프레임들 사이의 모든 화소에 대한 화소 움직임의 속도는 발명의 일 실시예에서 광학적 유동 기술을 이용하여 연산될 수 있다. 이미지 프레임 내 화소 또는 화소 그룹에 임의의 알려진 광학적 유동 기술이 적용될 수 있고, 화소 움직임 속도의 값을 도출하기 위해 이웃 상관 기능을 이용한다. 이러한 속도는 프레임 차이 측정치로서, 시간에 대해 도표화될 수 있고, 이를 분석하여, 설명한 바와 유사한 방식으로 스윙 상태 및 핵심 위치 이미지 프레임을 식별할 수 있다.
광학적 유동 기술이 사용되는 발명의 실시예에서, 광학적 유동 벡터가 (예를 들어, H. Farid 및 J.B. Woodward. Video Stabilization and Enhancement. TR2007-605, Departement of Computer Science, Dartmouth College, September 2007에서 설명되는 바와 같이) 이미지 안정화 알고리즘의 일부분으로 연산될 수 있기 때문에 이미지 안정화 알고리즘을 적용하는 것이 유리할 수 있고, 이는 나중에 분석 방법에 사용될 수 있고, 따라서, 이미지 안정화 알고리즘을 이용하는 장점을 얻을 수 있고 프로세싱 속도를 개선시킬 수 있다.
광학적 유동 기술은, 광학적 유동 기술이 관심 대상인 각각의 화소/화소 그룹에 대해 화소/화소 그룹 속도의 국부 추정치를 연산하기 때문에, 위에서 도 4와 관련하여 논의한 방법보다 훨씬 연산-집약적일 수 있다.
발명의 일부 실시예에서, 발명의 방법을 구체화하는 컴퓨터 프로그램 프로덕트가 제공된다. 예를 들어, 비디오 데이터에 대한 발명의 분석을 실행할 수 있는 프로그램은 이동 전화 또는 태블릿과 같은 컴퓨터 또는 연산 장치 상에 설치될 수 있다. 일 실시예에서, 컴퓨터 프로그램 프로덕트는 장치 상에 설치될 수 있는 다운로드가능한 프로덕트로 가용하다. 예를 들어, 컴퓨터 프로그램 프로덕트는 이동 전화 상의 앱으로 공급될 수 있다.
발명의 일 실시예에 따른 스포츠 분석 방법의 일부분을 수행하도록 구성되는 컴퓨터 프로그램 프로덕트용의 슈도코드가 아래에 제공된다:
Figure pct00006
Figure pct00007
본 발명의 실시예는 구현의 단순성 때문에 스포츠 모션의 분석에 특히 유리하다. 어떤 특별한 장비도 필요치 않고, 일부 실시예에서는 이동 전화와 같은 단일 장치만이 발명의 구현에 요구된다. 골프 스윙의 경우에, 골프 클럽(또는 동등한 길이의 강체형 물질)이 요구될 수 있으나, 골프공의 필요없이 분석이 수행될 수 있다.
발명을 구현하는 장치들은 사용이 매우 간단하다 - 이동 전화 상에 설치되면, 예를 들어, 요구되는 전부는 골퍼를 향해 카메라를 지향시키고, (녹화 시작 및 녹화 중지와 같은) 간단한 버튼을 누르는 것이며, 그 결과가 자동적으로 생성된다. 요구되는 전부는, 특히 이미지 안정화 방법이 사용될 경우, 흔들림에 대한 소정의 허용공차가 있지만, 합리적으로 안정한 카메라다.
발명의 분석 방법은 연산이 매우 빠르고 소량의 프로세싱 파워 및 작은 메모리 버퍼만을 필요로하는데, 이는 방법 단계들 중 일부가 동시에 수행되는 실시예에서, 방법이 비디오를 통한 단일 패스만을 요할 수 있기 때문이다. 따라서, 메모리-제한 및 연산적-제한 소자, 예를 들어, 디지털 카메라, 이동 전화, 및 태블릿에 적용가능하다. 그 결과, 발명이 어떤 위치에서도 용이하게 구현될 수 있다.
메모리의 이용은 요구되는 이미지 프레임 - 즉, 핵심 위치 이미지 프레임, 그리고 일부 실시예에서, 스윙 세그먼트의 비디오 - 을 단지 유지함으로써 더 최대화된다.
상술한 바와 같이, 발명은 거의 모든 각도로부터 많은 스포츠 모션을 분석하는데 사용될 수 있다. 모션 상태/핵심 위치 프레임을 식별하기 위한 서로 다른 규정이, 서로 다른 각도로부터의 분석에 요구될 수 있다. 이미지 프레임에서 하나 이상의 방향으로 합리적인 움직임 정도가 있는 이러한 각도에 카메라가 놓이는 것이 또한 바람직하며, 움직임 평면에서 카메라 각도는 덜 만족스런 결과를 생성할 수 있다.
핵심 모션 위치 및 추출되는 비디오 세그먼트가 생성되면, 스포츠 코칭, 등을 돕기 위해 사용자에게 제시하는 방식이 서로 다른 많은 것이 있다. 예를 들어, 스포츠 모션을 수행하는 동일인의 서로 다른 2개의 값이 단일 스크린 상에 제공될 수 있고, 각각의 모습으로부터 대응하는 핵심 모션 위치가 동시에 디스플레이된다. 대안으로서, 스포츠 모션을 수행하는 서로 다른 사람의 모습이 학습을 보조하기 위해, 예를 들어, 한 사람을 전문가의 스포츠 모션과 비교하기 위해, 나란히 디스플레이될 수 있다.
정보가 어떻게 디스플레이되어 사용자에 의해 어떻게 조작될 수 있는 지를 제어하기 위한 임의의 적절한 수단이 제공될 수 있다. 예를 들어, 일 실시예에서, 이미지 프레임이 버튼과 함께 이동 전화 스크린 상에 제시되고, 버튼은 사용자로 하여금 핵심 위치 사이를 전환할 수 있게 하고, 풀 비디오를 볼 수 있게 하며, 전문가와 비교, 등을 할 수 있게 한다. 발명은 분석 방법의 결과가 사용자에게 디스플레이되는 방식에 제한되지 않는다.
일 실시예에서, 예를 들어, 신체 위치의 오차 식류 식별, 등과 같이, 방법에 의해 식별되는 핵심 위치 프레임 중 하나 이상에 대해 추가적인 자동 분석이 수행될 수 있다. 추가적인 분석 결과는 임의의 형태로 사용자에게 제시될 수 있다. 개선 명령 형태의 소정의 피드백이 추가 분석의 결과로 또한 제공될 수 있다.
일 실시예에서, 스포츠 모션의 지속시간을 표시하는 값이 출력된다. 이는 프레임 수 및 프레임 속도에 따라 단순히 연산된다. 골프 스윙의 경우에, 골프 스윙의 지속시간이 출력될 수 있고, 이는 스윙간, 그리고 경기자간 비교에 유용할 수 있다. 골프에서, 스윙 리듬이 중요하다고 간주된다.
명세서 및 청구범위 전체에 걸쳐, 달리 명확하게 요구되지 않을 경우, "포함한다", "포함하는" 등의 용어는 배제적 의미에 반해 포괄적 측면으로 간주되어야 하며, 즉, "포함하지만, 이에 제한되지 않는"의 의미로 간주되어야 한다.
앞서, 그리고 아래에서, 언급되는 모든 출원, 특허, 및 공보의 전체 개시내용은 여기에 참고자료로 포함된다.
본 명세서 내 임의의 종래 기술에 대한 참조는, 종래 기술이 세계 어느나라에서도 활동 분야의 공통적 일반지식의 일부분을 형성한다는 확인서 또는 임의의 형태의 제안이 아니며, 그렇게 취급되어서도 안된다.
발명은 출원 명세서에 표시된 또는 기재된 부분, 요소, 및 특징부들로 개별적으로 또는 집합적으로, 상기 부분, 요소, 또는 특징부 중 둘 이상의 임의의 또는 모든 조합으로, 폭넓게 구성된다고 또한 여겨질 수 있다.
앞서의 설명에서, 숫자 또는 숫자의 동등물이라고 알려진 구성요소를 참조하였으나, 이러한 숫자는 마치 개별적으로 제시되는 것처럼 여기에 포함된다.
여기서 설명되는 현재 선호되는 실시예에 대한 다양한 변화 및 변형예가 당 업자에게 명백할 것이다. 이러한 변화 및 변형예는 발명의 사상 및 범위로부터 벗어나지 않으면서, 그리고 부속된 장점을 놓치지 않으면서, 이루어질 수 있다. 따라서, 이러한 변화 및 변형예가 본 발명 내에 포함되는 것을 의도된다.

Claims (50)

  1. 비디오 분석 방법에 있어서, 상기 비디오의 적어도 일부분은 스포츠 모션을 디스플레이하고, 상기 방법은,
    T개의 이미지 프레임을 나타내는 데이터를 수신하는 단계와,
    Tc개의 이미지 프레임 각각에 대해, 이미지 프레임과 다른 이미지 프레임 사이의 하나 이상의 프레임 차이 측정치를 연산하는 단계와,
    각각 스포츠 모션의 핵심 위치를 보여주는 복수의 이미지 프레임을 식별하도록 상기 프레임 차이 측정치를 분석하는 단계를 포함하는
    비디오 분석 방법.
  2. 제 1 항에 있어서,
    상기 방법은 상기 스포츠 모션을 디스플레이하는 비디오의 일부분을 식별하는 단계를 더 포함하는
    비디오 분석 방법.
  3. 제 2 항에 있어서,
    스포츠 모션을 디스플레이하는 비디오의 일부분을 식별하는 단계는, 스포츠 모션의 핵심 위치들 중 2개 사이의 이미지 프레임을 선택하는 단계를 포함하는
    비디오 분석 방법.
  4. 제 1 항 내지 제 3 항 중 어느 한 항에 있어서,
    상기 방법은, 프레임 차이 측정치로부터 스포츠 모션의 하나 이상의 모션 상태를 식별하는 단계를 더 포함하는
    비디오 분석 방법.
  5. 제 4 항에 있어서,
    상기 방법은 스포츠 모션의 핵심 위치를 식별하기 위해 모션 상태의 식별을 이용하는 단계를 포함하는
    비디오 분석 방법.
  6. 제 1 항 내지 제 5 항 중 어느 한 항에 있어서,
    상기 하나 이상의 프레임 차이 측정치는
    이미지 프레임들 사이의 움직임의 양의 측정치,
    이미지 프레임들 사이의 움직임 위치의 측정치, 그리고,
    이미지 프레임들 사이의 움직임 속도, 또는 (가속도와 같은) 속도의 도함수의 측정치
    중 적어도 하나를 포함하는
    비디오 분석 방법.
  7. 제 1 항 내지 제 6 항 중 어느 한 항에 있어서,
    각각의 프레임 차이 측정치는 프레임들 사이의 차이의 전역적 측정치인
    비디오 분석 방법.
  8. 제 1 항 내지 제 6 항 중 어느 한 항에 있어서,
    각각의 프레임 차이 측정치는 프레임들 사이의 차이의 국부적 측정치인
    비디오 분석 방법.
  9. 제 1 항 내지 제 8 항 중 어느 한 항에 있어서,
    각각의 이미지 프레임은 P개의 화소 또는 화소 그룹을 포함하고, 상기 방법은,
    Tc개의 이미지 프레임 각각에 대해, Pc개의 화소 또는 화소 그룹 각각을 다른 이미지 프레임 내 대응하는 화소 또는 화소 그룹과 비교하고, 하나 이상의 화소 차이 측정치를 연산하는 단계를 더 포함하는
    비디오 분석 방법.
  10. 제 9 항에 있어서,
    상기 화소 차이 측정치는 화소 또는 화소 그룹들 사이의 세기 차이를 포함하는
    비디오 분석 방법.
  11. 제 9 항 또는 제 10 항에 있어서,
    상기 방법은 하나 이상의 화소 차이 측정치에 기초하여 하나 이상의 프레임 차이 측정치를 연산하는 단계를 포함하는
    비디오 분석 방법.
  12. 제 9 항 내지 제 11 항 중 어느 한 항에 있어서,
    상기 방법은 이미지 프레임들 사이의 화소 차이 측정치의 통계적 값을 연산하는 단계를 포함하는
    비디오 분석 방법.
  13. 제 12 항에 있어서,
    상기 방법은 지정 임계치를 넘는 화소 차이 측정치의 통계적 값들 연산하는 단계를 포함하는
    비디오 분석 방법.
  14. 제 9 항 내지 제 13 항 중 어느 한 항에 있어서,
    상기 화소 차이 측정치는,
    이미지 프레임들 사이의 화소 움직임의 양의 측정치,
    이미지 프레임들 사이의 화소 움직임의 위치의 측정치,
    이미지 프레임들 사이의 화소 움직임의 속도 또는 (가속도와 같은) 속도의 도함수의 측정치
    중 하나 이상을 포함하는
    비디오 분석 방법.
  15. 제 12 항 내지 제 14 항 중 어느 한 항에 있어서,
    연산되는 화소 차이 측정치의 통계적 값들은 중간값, 평균값, n번째-퍼센타일, 표준 편차 중 하나 이상을 포함할 수 있는
    비디오 분석 방법.
  16. 제 1 항 내지 제 8 항 중 어느 한 항에 있어서,
    상기 방법은, Tc개의 이미지 프레임 각각에 대하여, 화소 또는 화소 그룹과, 다른 이미지 프레임 내 대응하는 화소 또는 화소 그룹 사이의 광학적 유동을 결정하는 단계를 포함하는
    비디오 분석 방법.
  17. 제 16 항에 있어서,
    광학적 유동을 결정하는 단계는, 각각의 이미지 프레임과 다른 이미지 프레임 사이의 화소 또는 화소 그룹 사이의 국부적 상관을 결정하는 단계를 포함하는
    비디오 분석 방법.
  18. 제 1 항 내지 제 17 항 중 어느 한 항에 있어서,
    스포츠 모션의 핵심 위치를 각각 보여주는 복수의 이미지 프레임을 식별하기 위해 프레임 차이 측정치를 분석하는 단계는,
    프레임 차이 측정치의 시간적 변화로 복수의 패턴을 식별하는 단계와,
    각각의 패턴을 스포츠 모션의 모션 상태 중 하나와 연관시키는 단계를 포함하는
    비디오 분석 방법.
  19. 제 18 항에 있어서,
    복수의 패턴을 식별하는 단계는, 프레임 차이 측정치의 시간적 변화의 고점 및/또는 저점을 식별하는 단계를 포함하는
    비디오 분석 방법.
  20. 제 19 항에 있어서,
    복수의 패턴을 식별하는 단계는, 이미지 프레임들 사이의 수직 화소 움직임의 고점 및/또는 저점을 식별하는 단계를 포함하는
    비디오 분석 방법.
  21. 제 1 항 내지 제 20 항 중 어느 한 항에 있어서,
    상기 방법은, 스포츠 모션의 핵심 위치를 각각 보여주는 복수의 이미지 프레임을 식별하기 위해 프레임 차이 측정치를 분석하기 위한 결정 모델을 이용하는 단계를 더 포함하는
    비디오 분석 방법.
  22. 제 1 항 내지 제 21 항 중 어느 한 항에 있어서,
    상기 방법은 비디오에 이미지 개선 알고리즘을 적용하는 단계를 포함하는
    비디오 분석 방법.
  23. 제 22 항에 있어서,
    상기 방법은 비디오에 이미지 안정화 알고리즘을 적용하는 단계를 더 포함하는
    비디오 분석 방법.
  24. 제 23 항에 있어서, 제 16항에 종속될 때, 상기 방법은, 광학 유동 벡터의 연산을 포함하는 이미지 안정화 알고리즘을 적용하고, 이어서, 프레임 차이 측정치를 연산하기 위해 광학 유동 벡터를 이용하는 단계를 포함하는
    비디오 분석 방법.
  25. 제 22 항 내지 제 24 항 중 어느 한 항에 잇어서,
    이미지 개선 알고리즘은 콘트래스트 개선 알고리즘을 포함하는
    비디오 분석 방법.
  26. 제 1 항 내지 제 25 항 중 어느 한 항에 있어서,
    프레임 차이 측정치를 분석하는 단계는, 프레임 차이 측정치의 시간적 변화에 노이즈 감소 필터를 적용하는 단계를 포함하는
  27. 제 1 항 내지 제 26 항 중 어느 한 항에 있어서,
    프레임 차이 측정치를 연산하는 각각의 단계에 대하여, 다른 이미지 프레임이 이미지 프레임으로부터 지정된 개수의 이미지 프레임에 의해 분리되는
    비디오 분석 방법.
  28. 제 27 항에 있어서,
    다른 이미지 프레임은 선행 또는 후속 프레임인
    비디오 분석 방법.
  29. 제 1 항 내지 제 28 항 중 어느 한 항에 있어서,
    프레임 차이 측정치가 연산되는 이미지 프레임의 개수 Tc가 비디오 데이터 내 이미지 프레임의 개수 T와 동일한
    비디오 분석 방법.
  30. 제 9 항 내지 제 29 항 중 어느 한 항에 있어서, 제 9 항에 종속될 때, 화소 또는 화소 그룹의 개수 Pc가 이미지 프레임 내 화소 또는 화소 그룹의 개수 P와 동일한
    비디오 분석 방법.
  31. 제 1 항 내지 제 30 항 중 어느 한 항에 있어서,
    상기 방법은, 스포츠 모션을 디스플레이하는 비디오의 일부분 및/또는 스포츠 모션의 핵심 위치를 보여주는 이미지 프레임들을 나타내는 데이터를 컴퓨터 판독형 매체에 기록하는 단계를 더 포함하는
  32. 제 1 항 내지 제 31 항 중 어느 한 항에 있어서,
    상기 방법은, 디스플레이 장치 상에 스포츠 모션을 디스플레이하는 비디오의 일부분 및/또는 스포츠 모션의 핵심 위치를 보여주는 이미지 프레임을 출력하는 단계를 포함하는
    비디오 분석 방법.
  33. 제 32 항에 있어서,
    상기 방법은, 2개의 스포츠 모션을 동기화시키는 단계와, 디스플레이 장치 상에 두 스포츠 모션을 함께 디스플레이하는 단계를 더 포함하는
    비디오 분석 방법.
  34. 제 33 항에 있어서,
    상기 방법의 동기화 단계는 각각의 스포츠 모션의 핵심 위치의 이미지 프레임을 동시에 디스플레이하는 단계를 포함하는
    비디오 분석 방법.
  35. 제 1 항 내지 제 34 항 중 어느 한 항에 있어서,
    상기 방법은 비디오 캡처 장치 상에서 비디오를 녹화하는 단계를 포함하는
    비디오 분석 방법.
  36. 제 35 항에 있어서,
    상기 방법의 비디오 분석 단계는 상기 비디오 캡처 장치 상에서 수행되는
    비디오 분석 방법.
  37. 제 1 항 내지 제 36 항 중 어느 한 항에 있어서,
    상기 방법은 스포츠 모션의 지속시간을 표시하는 값을 연산하는 단계를 더 포함하는
    비디오 분석 방법.
  38. 제 37 항에 있어서,
    스포츠 모션의 지속시간을 표시하는 값은 핵심 위치들 중 2개를 보여주는 이미지 프레임들 사이에서 경과한 시간을 포함하는
    비디오 분석 방법.
  39. 제 1 항 내지 제 38 항 중 어느 한 항에 있어서,
    상기 스포츠 모션은 골프 스윙인
    비디오 분석 방법.
  40. 제 1 항 내지 제 39 항 중 어느 한 항에 있어서,
    상기 방법은 이미지 프레임들 중 하나 이상에서 물체를 식별하는 단계를 더 포함하는
    비디오 분석 방법.
  41. 제 1 항 내지 제 40 항 중 어느 한 항에 있어서,
    상기 방법은, 상기 스포츠 모션의 핵심 위치 중 하나를 보여주는 상기 이미지 프레임들 중 적어도 하나에서 물체를 식별하는 단계를 포함하는
    비디오 분석 방법.
  42. 제 41 항에 있어서,
    상기 방법은 골프 클럽을 식별하기 위해 Hough 또는 Radon 변환법을 이용하는 단계를 포함하는
    비디오 분석 방법.
  43. 제 40 항 내지 제 42 항 중 어느 한 항에 있어서,
    상기 방법은 하나 이상의 라인을 구성하여, 이미지 프레임들 중 하나 이상에 대해 라인을 디스플레이하는 단계를 포함하는
    비디오 분석 방법.
  44. 제 1 항 내지 제 43 항 중 어느 한 항에 있어서,
    상기 방법은 이미지 프레임을 분석하는 단계와, 그 결과, 개선 명령어를 제공하는 단계를 더 포함하는
    비디오 분석 방법.
  45. 비디오 분석 장치에 있어서, 상기 비디오의 적어도 일부분은 스포츠 모션을 디스플레이하고, 상기 장치는,
    T개의 이미지 프레임을 나타내는 데이터를 수신하는 수단과,
    Tc개의 이미지 프레임 각각에 대해, 이미지 프레임과 다른 이미지 프레임 사이의 하나 이상의 프레임 차이 측정치를 연산하는 수단과,
    각각 스포츠 모션의 핵심 위치를 보여주는 복수의 이미지 프레임을 식별하도록 상기 프레임 차이 측정치를 분석하는 수단을 포함하는
    비디오 분석 장치.
  46. 제 45 항에 있어서,
    상기 장치는 비디오를 녹화하기 위한 비디오 캡처 장치를 더 포함하는
    비디오 분석 장치.
  47. 제 45 항 또는 제 46 항에 있어서,
    상기 장치는 핵심 위치 이미지 프레임을 디스플레이하기 위한 디스플레이 수단을 더 포함하는
    비디오 분석 장치.
  48. 제 47 항에 있어서,
    상기 장치는 이동 전화, 이동 태블릿, 또는 랩탑 컴퓨터를 포함하는
    비디오 분석 장치.
  49. 비디오 분석 시스템에 있어서, 상기 비디오의 적어도 일부분은 스포츠 모션을 디스플레이하고, 상기 시스템은,
    T개의 이미지 프레임을 나타내는 데이터를 수신하는 수단과,
    Tc개의 이미지 프레임 각각에 대해, 이미지 프레임과 다른 이미지 프레임 사이의 하나 이상의 프레임 차이 측정치를 연산하는 수단과,
    각각 스포츠 모션의 핵심 위치를 보여주는 복수의 이미지 프레임을 식별하도록 상기 프레임 차이 측정치를 분석하는 수단을 포함하는
    비디오 분석 시스템.
  50. 컴퓨터에 의해 실행될 때, 컴퓨터로 하여금 방법을 수행하게 하는 컴퓨터 프로그램 프로덕트에 있어서, 상기 방법은,
    T개의 이미지 프레임을 나타내는 데이터를 수신하는 단계와,
    Tc개의 이미지 프레임 각각에 대해, 이미지 프레임과 다른 이미지 프레임 사이의 하나 이상의 프레임 차이 측정치를 연산하는 단계와,
    각각 스포츠 모션의 핵심 위치를 보여주는 복수의 이미지 프레임을 식별하도록 상기 프레임 차이 측정치를 분석하는 단계를 포함하는
    컴퓨터 프로그램 프로덕트.
KR1020137035131A 2011-06-27 2012-06-27 스포츠 모션 비디오 분석 방법 KR20140037896A (ko)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201161501281P 2011-06-27 2011-06-27
US61/501,281 2011-06-27
NZ595937 2011-10-25
NZ59593711 2011-10-25
PCT/NZ2012/000109 WO2013002653A1 (en) 2011-06-27 2012-06-27 Method of analysing a video of sports motion

Publications (1)

Publication Number Publication Date
KR20140037896A true KR20140037896A (ko) 2014-03-27

Family

ID=47424362

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020137035131A KR20140037896A (ko) 2011-06-27 2012-06-27 스포츠 모션 비디오 분석 방법

Country Status (6)

Country Link
US (1) US9744421B2 (ko)
EP (1) EP2707837A4 (ko)
JP (1) JP6120837B2 (ko)
KR (1) KR20140037896A (ko)
CN (1) CN103688275A (ko)
WO (1) WO2013002653A1 (ko)

Families Citing this family (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9646209B2 (en) 2010-08-26 2017-05-09 Blast Motion Inc. Sensor and media event detection and tagging system
US9604142B2 (en) 2010-08-26 2017-03-28 Blast Motion Inc. Portable wireless mobile device motion capture data mining system and method
US9626554B2 (en) 2010-08-26 2017-04-18 Blast Motion Inc. Motion capture system that combines sensors with different measurement ranges
US9619891B2 (en) 2010-08-26 2017-04-11 Blast Motion Inc. Event analysis and tagging system
US9396385B2 (en) 2010-08-26 2016-07-19 Blast Motion Inc. Integrated sensor and video motion analysis method
US9607652B2 (en) 2010-08-26 2017-03-28 Blast Motion Inc. Multi-sensor event detection and tagging system
US9261526B2 (en) 2010-08-26 2016-02-16 Blast Motion Inc. Fitting system for sporting equipment
US9247212B2 (en) 2010-08-26 2016-01-26 Blast Motion Inc. Intelligent motion capture element
US9940508B2 (en) 2010-08-26 2018-04-10 Blast Motion Inc. Event detection, confirmation and publication system that integrates sensor data and social media
US20130203526A1 (en) * 2012-02-02 2013-08-08 New Kinetic Solutions, LLC Golf swing analysis with physical and skill deficit correction method
US9299158B2 (en) * 2013-02-01 2016-03-29 Coley Sports And Entertainment Llc Automated analysis of a motion
EP2973215B1 (en) 2013-03-15 2023-05-17 NIKE Innovate C.V. Feedback signals from image data of athletic performance
JP5754458B2 (ja) * 2013-03-22 2015-07-29 カシオ計算機株式会社 動画像抽出装置、動画像抽出方法及びプログラム
KR20150140814A (ko) * 2013-04-10 2015-12-16 오클랜드 유니서비시즈 리미티드 머리 및 눈 추적
US9457228B2 (en) * 2013-07-09 2016-10-04 Aditi Sinha Sport training equipment
US10664690B2 (en) 2013-11-21 2020-05-26 Mo' Motion Ventures Jump shot and athletic activity analysis system
US9589207B2 (en) 2013-11-21 2017-03-07 Mo' Motion Ventures Jump shot and athletic activity analysis system
JP6441570B2 (ja) * 2013-12-26 2018-12-19 住友ゴム工業株式会社 ゴルフスイングの分析システム、プログラム及び方法
US9724561B2 (en) * 2014-07-09 2017-08-08 Aditi Sinha Sport training equipment
US9454925B1 (en) * 2014-09-10 2016-09-27 Google Inc. Image degradation reduction
JP6676873B2 (ja) * 2014-09-22 2020-04-08 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
US10755817B2 (en) * 2014-11-20 2020-08-25 Board Of Regents, The University Of Texas System Systems, apparatuses and methods for predicting medical events and conditions reflected in gait
AU2016208790A1 (en) 2015-01-23 2017-08-10 Bayer Aktiengesellschaft Method and apparatus for determining the effect of active ingredients on nematodes and other organisms in aqueous tests
US10025986B1 (en) * 2015-04-27 2018-07-17 Agile Sports Technologies, Inc. Method and apparatus for automatically detecting and replaying notable moments of a performance
US11565163B2 (en) 2015-07-16 2023-01-31 Blast Motion Inc. Equipment fitting system that compares swing metrics
US10124230B2 (en) 2016-07-19 2018-11-13 Blast Motion Inc. Swing analysis method using a sweet spot trajectory
US10974121B2 (en) 2015-07-16 2021-04-13 Blast Motion Inc. Swing quality measurement system
EP3323084A4 (en) 2015-07-16 2019-07-10 Blast Motion Inc. SYSTEM FOR MULTISENSOR EVENT RECOGNITION AND MARKING
US11577142B2 (en) 2015-07-16 2023-02-14 Blast Motion Inc. Swing analysis system that calculates a rotational profile
US9694267B1 (en) 2016-07-19 2017-07-04 Blast Motion Inc. Swing analysis method using a swing plane reference frame
JP6613685B2 (ja) * 2015-07-28 2019-12-04 セイコーエプソン株式会社 スイング診断方法、スイング診断プログラム、記録媒体、スイング診断装置及びスイング診断システム
KR101703858B1 (ko) * 2015-08-12 2017-02-22 주식회사 골프존 골프스윙영상 정보 제공 시스템, 골프스윙영상 정보 제공을 위한 카메라 장치 및 골프스윙영상 정보 제공방법
CN105306834A (zh) * 2015-10-10 2016-02-03 上海慧体网络科技有限公司 一种采用运动视频分析技术判断比赛精彩程度的方法
CN106991356A (zh) * 2016-01-20 2017-07-28 上海慧体网络科技有限公司 一种对球赛视频中运动员进行跟踪的算法
US10265602B2 (en) 2016-03-03 2019-04-23 Blast Motion Inc. Aiming feedback system with inertial sensors
JP2017187969A (ja) * 2016-04-07 2017-10-12 富士通株式会社 画像処理装置、画像処理プログラム、及び画像処理方法
JP7057959B2 (ja) * 2016-08-09 2022-04-21 住友ゴム工業株式会社 動作解析装置
US10173100B2 (en) * 2016-09-17 2019-01-08 Navyaa Sinha Sport training equipment
GB2556923B (en) * 2016-11-25 2020-04-15 Canon Kk Generation of VCA Reference results for VCA Auto-setting
EP3610458A4 (en) * 2017-04-10 2021-01-06 HRL Laboratories, LLC SYSTEM FOR PREDICTING MOVEMENTS OF AN OBJECT OF INTEREST WITH AN AUTOMATIC ENCODER
US10786728B2 (en) 2017-05-23 2020-09-29 Blast Motion Inc. Motion mirroring system that incorporates virtual environment constraints
US10719712B2 (en) * 2018-02-26 2020-07-21 Canon Kabushiki Kaisha Classify actions in video segments using play state information
JP2019217150A (ja) * 2018-06-22 2019-12-26 セイコーエプソン株式会社 スイング解析装置、スイング解析方法、およびスイング解析システム
JP7344510B2 (ja) 2019-11-05 2023-09-14 テンソル・コンサルティング株式会社 動作分析システム、動作分析方法、および動作分析プログラム
CN111144493B (zh) * 2019-12-27 2022-09-09 重庆紫光华山智安科技有限公司 一种自动识别算法指标测试的方法、存储介质及电子终端
US11645873B1 (en) 2020-03-20 2023-05-09 18Birdies Llc Systems, media, and methods providing a golf swing coach
US11941841B2 (en) 2021-09-22 2024-03-26 International Business Machines Corporation Determination of a locational position for a camera to capture a collision of two or more actors
CN114897762B (zh) * 2022-02-18 2023-04-07 众信方智(苏州)智能技术有限公司 一种煤矿工作面采煤机自动定位方法及装置
CN114494981B (zh) * 2022-04-07 2022-08-05 之江实验室 一种基于多层次运动建模的动作视频分类方法及系统
CN116152708B (zh) * 2023-01-06 2023-07-07 北京体提科技有限公司 高尔夫项目有效动作抽取的方法及装置、存储介质、设备

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7110454B1 (en) 1999-12-21 2006-09-19 Siemens Corporate Research, Inc. Integrated method for scene change detection
US20020064764A1 (en) * 2000-11-29 2002-05-30 Fishman Lewis R. Multimedia analysis system and method of use therefor
US6537076B2 (en) * 2001-02-16 2003-03-25 Golftec Enterprises Llc Method and system for presenting information for physical motion analysis
US6567536B2 (en) 2001-02-16 2003-05-20 Golftec Enterprises Llc Method and system for physical motion analysis
JP2003117045A (ja) 2001-10-18 2003-04-22 Takasago Electric Ind Co Ltd スイングフォーム診断装置
US7200282B2 (en) 2001-12-12 2007-04-03 Sony Corporation Implementation of Hough transform and its application in line detection and video motion analysis
JP4156352B2 (ja) 2002-11-28 2008-09-24 富士フイルム株式会社 撮像装置、撮像方法、及び画像処理デバイス
JP4290462B2 (ja) 2003-04-16 2009-07-08 Sriスポーツ株式会社 ゴルフスウィングの診断システム
US7283647B2 (en) * 2003-07-16 2007-10-16 Mcnitt Michael J Method and system for physical motion analysis and training of a golf club swing motion using image analysis techniques
JP4494837B2 (ja) 2003-12-26 2010-06-30 Sriスポーツ株式会社 ゴルフスウィング診断システム
GB2414683B (en) 2004-03-26 2007-03-07 Yoshiaki Shirai Golf swing measuring system
AU2005201321B2 (en) 2004-03-26 2007-08-09 Sri Sports Limited Golf swing-diagnosing system
JP2006263169A (ja) * 2005-03-24 2006-10-05 Bridgestone Sports Co Ltd スイング動作の画像分析システム
US20060252018A1 (en) 2005-05-03 2006-11-09 Varinder Sooch Golf swing analysis
KR20090006861A (ko) 2006-05-25 2009-01-15 닛본 덴끼 가부시끼가이샤 영상의 특수 효과 검출 장치, 특수 효과 검출 방법, 특수 효과 검출 프로그램을 저장한 기록 매체 및 영상 재생 장치
WO2010085704A1 (en) 2009-01-23 2010-07-29 Shiv Kumar Bhupathi Video overlay sports motion analysis
JP5515671B2 (ja) * 2009-11-20 2014-06-11 ソニー株式会社 画像処理装置、その制御方法およびプログラム
US20110275045A1 (en) * 2010-01-22 2011-11-10 Foerster Bhupathi International, L.L.C. Video Overlay Sports Motion Analysis
KR101002846B1 (ko) 2010-02-01 2010-12-21 임홍재 골프 동영상 분석 처리 시스템

Also Published As

Publication number Publication date
US20130178304A1 (en) 2013-07-11
US9744421B2 (en) 2017-08-29
WO2013002653A1 (en) 2013-01-03
CN103688275A (zh) 2014-03-26
JP6120837B2 (ja) 2017-04-26
JP2014521139A (ja) 2014-08-25
EP2707837A4 (en) 2015-06-24
EP2707837A1 (en) 2014-03-19

Similar Documents

Publication Publication Date Title
KR20140037896A (ko) 스포츠 모션 비디오 분석 방법
US11380100B2 (en) Methods and systems for ball game analytics with a mobile device
JP4494837B2 (ja) ゴルフスウィング診断システム
US8848058B2 (en) Method for analyzing the motion of a person during an activity
US20140018181A1 (en) Golf swing analysis method and apparatus
WO2007035878A2 (en) Method and apparatus for determining ball trajectory
US11798318B2 (en) Detection of kinetic events and mechanical variables from uncalibrated video
JP2004164563A (ja) 画像解析方法、画像解析装置、画像解析プログラム
JP2003117045A (ja) スイングフォーム診断装置
JP2009020897A (ja) 画像解析方法、画像解析装置、画像解析プログラム
CN115624735B (zh) 一种用于球类运动的辅助训练系统和工作方法
JPH0312179A (ja) 打球診断装置
JP7198661B2 (ja) オブジェクト追跡装置及びそのプログラム
JPH0326281A (ja) 動作診断装置
KR101705836B1 (ko) 깊이 정보를 이용한 골프 스윙 분석 시스템 및 방법
Hou et al. Dancing like a superstar: Action guidance based on pose estimation and conditional pose alignment
CA3042375C (en) Sensing device for calculating information on golf shot of user and sensing method using the same
Tahan et al. A computer vision driven squash players tracking system
Malawski Real-Time First Person Perspective Tracking and Feedback System for Weapon Practice Support in Fencing.
KR102055146B1 (ko) 이벤트 기반 비전 센서를 이용한 운동 자세 점검 방법 및 운동 자세 점검 장치
KR20220114131A (ko) 스포츠 모션 비디오 분석 방법
CN116109981B (zh) 投篮识别方法、篮球识别装置、电子设备和存储介质
Toshniwal et al. AI Coach for Badminton
US20220343649A1 (en) Machine learning for basketball rule violations and other actions
JP2002301172A (ja) ゴルフクラブスイング時のブロー角計測システム

Legal Events

Date Code Title Description
N231 Notification of change of applicant
WITN Application deemed withdrawn, e.g. because no request for examination was filed or no examination fee was paid