KR20220049736A - 골프 스윙 자세에 관한 정보를 추정하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 - Google Patents

골프 스윙 자세에 관한 정보를 추정하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 Download PDF

Info

Publication number
KR20220049736A
KR20220049736A KR1020200133209A KR20200133209A KR20220049736A KR 20220049736 A KR20220049736 A KR 20220049736A KR 1020200133209 A KR1020200133209 A KR 1020200133209A KR 20200133209 A KR20200133209 A KR 20200133209A KR 20220049736 A KR20220049736 A KR 20220049736A
Authority
KR
South Korea
Prior art keywords
user
golf swing
information
determination criterion
swing
Prior art date
Application number
KR1020200133209A
Other languages
English (en)
Inventor
이용근
Original Assignee
주식회사 모아이스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 모아이스 filed Critical 주식회사 모아이스
Priority to KR1020200133209A priority Critical patent/KR20220049736A/ko
Priority to US18/031,175 priority patent/US20230381584A1/en
Priority to PCT/KR2021/012389 priority patent/WO2022080678A1/ko
Publication of KR20220049736A publication Critical patent/KR20220049736A/ko
Priority to KR1020230104738A priority patent/KR20230124852A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1116Determining posture transitions
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1121Determining geometric values, e.g. centre of rotation or angular range of movement
    • A61B5/1122Determining geometric values, e.g. centre of rotation or angular range of movement of movement trajectories
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1128Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0003Analysing the course of a movement or motion sequences during an exercise or trainings sequence, e.g. swing for golf or tennis
    • A63B24/0006Computerised comparison for qualitative assessment of motion sequences or the course of a movement
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0021Tracking a path or terminating locations
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B69/00Training appliances or apparatus for special sports
    • A63B69/36Training appliances or apparatus for special sports for golf
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/003Repetitive work cycles; Sequence of movements
    • G09B19/0038Sports
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0003Analysing the course of a movement or motion sequences during an exercise or trainings sequence, e.g. swing for golf or tennis
    • A63B24/0006Computerised comparison for qualitative assessment of motion sequences or the course of a movement
    • A63B2024/0012Comparing movements or motion sequences with a registered reference
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2102/00Application of clubs, bats, rackets or the like to the sporting activity ; particular sports involving the use of balls and clubs, bats, rackets, or the like
    • A63B2102/32Golf
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2220/00Measuring of physical parameters relating to sporting activity
    • A63B2220/05Image processing for measuring physical parameters
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2220/00Measuring of physical parameters relating to sporting activity
    • A63B2220/80Special sensors, transducers or devices therefor
    • A63B2220/807Photo cameras
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2230/00Measuring physiological parameters of the user
    • A63B2230/62Measuring physiological parameters of the user posture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0464Convolutional networks [CNN, ConvNet]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30221Sports video; Sports image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30221Sports video; Sports image
    • G06T2207/30224Ball; Puck
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Dentistry (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Physiology (AREA)
  • Multimedia (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Business, Economics & Management (AREA)
  • Evolutionary Computation (AREA)
  • Psychiatry (AREA)
  • Educational Technology (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • Educational Administration (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Image Analysis (AREA)

Abstract

본 발명의 일 태양에 따르면, 골프 스윙 자세에 관한 정보를 추정하기 위한 방법으로서, 사용자의 골프 스윙에 연관되는 정보에 기초하여 상기 사용자의 골프 스윙에 관한 판단 기준을 조정하는 단계, 및 상기 조정된 판단 기준에 기초하여 상기 사용자의 골프 스윙 자세에 관한 정보를 추정하는 단계를 포함하고, 상기 사용자의 골프 스윙에 연관되는 정보에는, 상기 사용자의 골프 스윙에 관한 촬영 이미지 및 상기 사용자가 선택한 비교 대상 골퍼의 스윙 자세에 관한 정보 중 적어도 하나가 포함되는 방법이 제공된다.

Description

골프 스윙 자세에 관한 정보를 추정하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체{METHOD, SYSTEM AND NON-TRANSITORY COMPUTER-READABLE RECORDING MEDIUM FOR ESTIMATING INFORMATION ON GOLF SWING POSE}
본 발명은 골프 스윙 자세에 관한 정보를 추정하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체에 관한 것이다.
근래에 들어 골프가 대중화되면서, 골퍼의 스윙 영상을 분석하고 골퍼에게 유용한 정보를 제공하기 위한 기술들이 소개되고 있다.
이에 관한 종래 기술의 일례로서, 한국공개특허공보 제2009-105031호에 개시된 영상처리기법을 이용한 골프 클리닉 시스템 및 그것의 운용 방법에 관한 기술을 예로 들 수 있는데, 이에 따르면, 골프 수련자의 신체 및 골프 클럽에 부착되는 복수개의 마커, 골프 수련자의 스윙 동작을 영상으로 수집하는 복수개의 카메라, 상기 복수개의 카메라에서 수집되는 2차원 영상을 3차원 영상으로 재구성하고, 움직임에 따른 마커의 공간상 좌표를 추출하여 인체 분절의 각도 값과 각 국면별 데이터를 실시간으로 분석하여 클리닉 결과를 레포트 형식으로 출력하는 영상 분석기 및 스윙 동작에 대한 운동 역학적 클리닉 정보가 회원 정보에 매칭되어 디지털 데이터로 저장되는 데이터 베이스를 포함하는 것을 특징으로 한다.
하지만, 위와 같은 종래 기술을 비롯하여 지금까지 소개된 기술에 의하면, 골퍼의 스윙을 분석하기 위하여, 골퍼의 자세 및 동작을 인식하기 위한 고가의 장비를 별도로 이용해야 하거나 골퍼의 신체 및 골프채에 별도의 센서(마커)를 부착해야 하는 실정이었다.
한편, 골프 스윙 자세를 분석하기 위해서는 판단 기준이 필요한데, 예를 들면, 골퍼의 스윙에 관한 2차원 촬영 이미지에서 검출되는 임팩트(impact) 순간의 왼쪽 무릎의 x 좌표가 골퍼의 스윙에 관한 2차원 촬영 이미지에서 검출되는 어드레스(address) 자세에서의 왼쪽 발목의 x 좌표로부터 소정의 거리(즉, 판단 기준) 이상 떨어진 경우에, 해당 스윙(또는 해당 스윙에 따른 골프공의 구질)이 슬라이스(slice)라고 판단할 수 있게 된다. 그러나, 이러한 판단 기준은 일률적으로 정할 수 있는 것이 아니며, 골퍼의 신체 구조, 골퍼의 스윙 특징이나 스윙 성향, 골프 스윙을 촬영하는 상황 등을 고려하여 적절하게 조정될 필요가 있다. 그러나, 위와 같은 종래 기술을 비롯하여 지금까지 소개된 기술에 의하면, 골퍼 및 촬영 상황에 맞추어 판단 기준을 적절하게 조정하는 기술에 관하여 제안하지는 못하였다.
본 발명은 전술한 종래 기술의 문제점을 모두 해결하는 것을 그 목적으로 한다.
또한, 본 발명은, 사용자의 골프 스윙에 연관되는 정보에 기초하여 위의 사용자의 골프 스윙에 관한 판단 기준을 조정하고, 그 조정된 판단 기준에 기초하여 위의 사용자의 골프 스윙 자세에 관한 정보를 추정하고, 위의 사용자의 골프 스윙에 연관되는 정보에는, 위의 사용자의 골프 스윙에 관한 촬영 이미지 및 위의 사용자가 선택한 비교 대상 골퍼의 스윙 자세에 관한 정보 중 적어도 하나가 포함되는 것을 다른 목적으로 한다.
또한, 본 발명은, 사용자의 골프 스윙 자세를 분석함에 있어서, 사용자 및 촬영 상황에 맞추어 판단 기준을 조정함으로써, 정확하면서도 사용자 맞춤형으로 골프 스윙 자세에 관한 정보를 추정하는 것을 또 다른 목적으로 한다.
또한, 본 발명은, 깊이별 컨볼루션(Depthwise Convolution) 및 지점별 컨볼루션(Pointwise Convolution)을 이용하여 인공신경망 모델을 경량화하고, 그 경량화된 인공신경망 모델을 이용하여 사용자의 골프 스윙에 관한 촬영 이미지로부터 위의 사용자의 적어도 하나의 관절을 추정하는 것을 또 다른 목적으로 한다.
상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다.
본 발명의 일 태양에 따르면, 사용자의 골프 스윙에 연관되는 정보에 기초하여 상기 사용자의 골프 스윙에 관한 판단 기준을 조정하는 단계, 및 상기 조정된 판단 기준에 기초하여 상기 사용자의 골프 스윙 자세에 관한 정보를 추정하는 단계를 포함하고, 상기 사용자의 골프 스윙에 연관되는 정보에는, 상기 사용자의 골프 스윙에 관한 촬영 이미지 및 상기 사용자가 선택한 비교 대상 골퍼의 스윙 자세에 관한 정보 중 적어도 하나가 포함되는 방법이 제공된다.
본 발명의 다른 태양에 따르면, 사용자의 골프 스윙에 연관되는 정보에 기초하여 상기 사용자의 골프 스윙에 관한 판단 기준을 조정하는 판단 기준 조정부, 및 상기 조정된 판단 기준에 기초하여 상기 사용자의 골프 스윙 자세에 관한 정보를 추정하는 스윙 정보 추정부를 포함하고, 상기 사용자의 골프 스윙에 연관되는 정보에는, 상기 사용자의 골프 스윙에 관한 촬영 이미지 및 상기 사용자가 선택한 비교 대상 골퍼의 스윙 자세에 관한 정보 중 적어도 하나가 포함되는 디바이스가 제공된다.
이 외에도, 본 발명을 구현하기 위한 다른 방법, 다른 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 비일시성의 컴퓨터 판독 가능한 기록 매체가 더 제공된다.
본 발명에 의하면, 사용자의 골프 스윙에 연관되는 정보에 기초하여 위의 사용자의 골프 스윙에 관한 판단 기준을 조정하고, 그 조정된 판단 기준에 기초하여 위의 사용자의 골프 스윙 자세에 관한 정보를 추정할 수 있게 된다.
또한, 본 발명에 의하면, 사용자의 골프 스윙 자세를 분석함에 있어서, 사용자 및 촬영 상황에 맞추어 판단 기준을 조정함으로써, 정확하면서도 사용자 맞춤형으로 골프 스윙 자세에 관한 정보를 추정할 수 있게 된다.
또한, 본 발명에 의하면, 깊이별 컨볼루션(Depthwise Convolution) 및 지점별 컨볼루션(Pointwise Convolution)을 이용하여 인공신경망 모델을 경량화하고, 그 경량화된 인공신경망 모델을 모바일 디바이스에서 이용하여 사용자의 골프 스윙에 관한 촬영 이미지에서 위의 사용자의 적어도 하나의 관절의 위치를 추정함으로써, 별도의 센서나 장비를 이용하지 않고, 모바일 디바이스에서 정확하고 효율적으로 위의 사용자의 골프 스윙 자세에 관한 정보를 추정할 수 있게 된다.
도 1은 본 발명의 일 실시예에 따른 디바이스의 내부 구성을 상세하게 도시하는 도면이다.
도 2의 (a)는 본 발명의 일 실시예에 따라 일반적인 컨볼루션(Convolution)이 수행되는 과정을 예시적으로 나타내는 도면이다.
도 2의 (b)는 본 발명의 일 실시예에 따라 깊이별 컨볼루션(Depthwise Convolution) 및 지점별 컨볼루션(Pointwise Convolution)이 수행되는 과정을 예시적으로 나타내는 도면이다.
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이러한 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 본 명세서에 기재되어 있는 특정 형상, 구조 및 특성은 본 발명의 정신과 범위를 벗어나지 않으면서 일 실시예로부터 다른 실시예로 변경되어 구현될 수 있다. 또한, 각각의 실시예 내의 개별 구성요소의 위치 또는 배치도 본 발명의 정신과 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 행하여지는 것이 아니며, 본 발명의 범위는 특허청구범위의 청구항들이 청구하는 범위 및 그와 균등한 모든 범위를 포괄하는 것으로 받아들여져야 한다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 구성요소를 나타낸다.
이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 여러 바람직한 실시예에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.
본 명세서에서, 골프 스윙에 관한 실시예가 풀 스윙에 초점을 맞추어 설명되기는 하지만, 본 발명에서의 골프 스윙은 골프채를 움직이기 위한 모든 동작을 포함하는 최광의의 개념으로 이해되어야 한다. 예를 들면, 본 발명의 일 실시예에 따른 골프 스윙에는, 풀 스윙, 하프 스윙, 칩 샷, 로브 샷, 퍼팅 등이 포함될 수 있다.
또한, 본 명세서에서, 골프에 관하여 초점을 맞추어 설명되기는 하지만, 골프 외의 다른 운동 종목에서 행하는 동작에 관한 정보를 추정하는 경우에도 본 발명이 활용될 수 있음은 당업자에게 자명하다. 예를 들면, 야구 스윙에 관한 정보, 헬스 또는 요가 자세에 관한 정보 등을 추정하는 경우에 활용될 수 있을 것이다.
또한, 본 명세서에서는, 이해를 돕기 위하여 사용자의 골프 스윙에 관한 촬영 이미지에서 관절을 검출하는 것에 관하여 초점을 맞추어 설명되기는 하지만, 관절에 제한되는 것은 아니며, 관절 외의 다른 신체 부위를 검출하는 경우에도 본 발명이 활용될 수 있는 것으로 이해되어야 할 것이다.
디바이스의 구성
이하에서는, 본 발명의 구현을 위하여 중요한 기능을 수행하는 디바이스(100)의 내부 구성과 각 구성요소의 기능에 대하여 살펴보기로 한다.
도 1은 본 발명의 일 실시예에 따른 디바이스(100)의 내부 구성을 상세하게 도시하는 도면이다.
도 1에 도시된 바와 같이, 본 발명의 일 실시예에 따른 디바이스(100)는, 판단 기준 조정부(110), 스윙 정보 추정부(120), 통신부(130) 및 제어부(140)를 포함하여 구성될 수 있다. 본 발명의 일 실시예에 따르면, 판단 기준 조정부(110), 스윙 정보 추정부(120), 통신부(130) 및 제어부(140)는 그 중 적어도 일부가 외부의 시스템(미도시됨)과 통신하는 프로그램 모듈일 수 있다. 이러한 프로그램 모듈은 운영 시스템, 응용 프로그램 모듈 또는 기타 프로그램 모듈의 형태로 디바이스(100)에 포함될 수 있고, 물리적으로는 여러 가지 공지의 기억 장치에 저장될 수 있다. 또한, 이러한 프로그램 모듈은 디바이스(100)와 통신 가능한 원격 기억 장치에 저장될 수도 있다. 한편, 이러한 프로그램 모듈은 본 발명에 따라 후술할 특정 업무를 수행하거나 특정 추상 데이터 유형을 실행하는 루틴, 서브루틴, 프로그램, 오브젝트, 컴포넌트, 데이터 구조 등을 포괄하지만, 이에 제한되지는 않는다.
한편, 디바이스(100)에 관하여 위와 같이 설명되었으나, 이러한 설명은 예시적인 것이고, 디바이스(100)의 구성요소 또는 기능 중 적어도 일부가 필요에 따라 서버(미도시됨) 내에서 실현되거나 외부 시스템(미도시됨) 내에 포함될 수도 있음은 당업자에게 자명하다.
한편, 본 발명의 일 실시예에 따른 디바이스(100)는 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기로서, 스마트폰, 태블릿, 스마트 워치, 스마트 밴드, 스마트 글래스, 데스크탑 컴퓨터, 노트북 컴퓨터, 워크스테이션, PDA, 웹 패드, 이동 전화기 등이 포함될 수 있다. 다만, 디바이스(100)는 전술한 예시뿐만 아니라 본 발명의 목적을 달성할 수 있는 범위 내에서 얼마든지 변경될 수 있다.
특히, 디바이스(100)는, 사용자가 디바이스(100)로부터 골프 스윙에 관한 정보 추정 등의 서비스를 제공받을 수 있도록 지원하는 애플리케이션(미도시됨)을 포함할 수 있다. 이와 같은 애플리케이션은 외부의 애플리케이션 배포 서버(미도시됨)로부터 다운로드된 것일 수 있다. 한편, 이러한 애플리케이션의 성격은 후술할 바와 같은 디바이스(100)의 판단 기준 조정부(110), 스윙 정보 추정부(120), 통신부(130) 및 제어부(140)와 전반적으로 유사할 수 있다. 여기서, 애플리케이션은 그 적어도 일부가 필요에 따라 그것과 실질적으로 동일하거나 균등한 기능을 수행할 수 있는 하드웨어 장치나 펌웨어 장치로 치환될 수도 있다.
먼저, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 사용자의 골프 스윙에 연관되는 정보에 기초하여 그 사용자의 골프 스윙에 관한 판단 기준을 조정하는 기능을 수행할 수 있다.
구체적으로, 본 발명의 일 실시예에 따르면, 사용자의 골프 스윙에 연관되는 정보에는, 그 사용자의 골프 스윙에 관한 촬영 이미지 및 그 사용자가 선택한 비교 대상 골퍼의 스윙 자세에 관한 정보 중 적어도 하나가 포함될 수 있다.
보다 구체적으로, 본 발명의 일 실시예에 따르면, 사용자의 골프 스윙에 관한 촬영 이미지는 디바이스(100)에 의해 촬영된 것이거나 다른 디바이스(미도시됨)에 의해 촬영된 이미지를 디바이스(100)가 획득한 것일 수 있다. 그리고, 본 발명의 일 실시예에 따르면, 사용자의 골프 스윙에 관한 촬영 이미지는 RGB 카메라에 의하여 촬영되는 2차원 촬영 이미지를 의미할 수 있다. 즉, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 깊이 카메라나 깊이 센서와 같은 장비로부터 획득되는 깊이 정보를 이용하지 않고, 사용자의 골프 스윙에 관한 2차원 촬영 이미지만을 이용하여 위의 사용자의 적어도 하나의 관절의 위치를 추정할 수 있다. 한편, 본 발명에서, 사용자의 골프 스윙에 관한 촬영 이미지는 주로 동영상을 의미하지만, 그 형식에 관계없이 사용자의 골프 스윙을 시각적인 형태로 표현할 수 있는 모든 데이터를 포함하는 최광의의 개념으로 이해되어야 한다. 또한, 본 발명의 일 실시예에 따르면, 사용자의 골프 스윙에 관한 촬영 이미지에는 그 사용자의 골프 스윙 자세 외에 그 사용자의 골프 스윙에 따른 골프공의 궤적도 포함될 수 있다.
한편, 본 발명의 일 실시예에 따른 사용자가 선택한 비교 대상 골퍼의 스윙 자세에 관한 정보에 관하여는 후술하기로 한다.
한편, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 인공신경망 모델을 이용하여 사용자의 골프 스윙에 관한 촬영 이미지로부터 추정되는 위의 사용자의 실제 신체에 관한 정보에 기초하여 위의 사용자의 골프 스윙에 관한 판단 기준을 조정하는 기능을 수행할 수 있다.
구체적으로, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 인공신경망 모델을 이용하여 사용자의 골프 스윙에 관한 촬영 이미지로부터 위의 사용자의 적어도 하나의 관절을 검출할 수 있다. 그리고, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 위와 같이 검출되는 위의 사용자의 적어도 하나의 관절을 참조하여 위의 사용자의 실제 신체에 관한 정보를 추정할 수 있다. 여기서, 본 발명의 일 실시예에 따르면, 사용자의 실제 신체에 관한 정보에는 그 사용자의 실제 신체의 크기(예를 들면, 실제 키, 실제 팔 길이, 실제 다리 길이 등)가 포함될 수 있으나, 이에 제한되는 것은 아니다.
예를 들면, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 인공신경망 모델을 이용하여 사용자의 골프 스윙에 관한 2차원 촬영 이미지로부터 위의 사용자의 양쪽 어깨 관절의 y 좌표 및 발 관절의 y 좌표를 검출할 수 있고, 이에 기초하여 양쪽 어깨 관절의 중심의 y 좌표 및 발바닥의 y 좌표를 산출하여 위의 사용자의 실제 키를 추정할 수 있다. 이때, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 인공신경망 모델을 이용하여 사용자의 골프 스윙에 관한 2차원 촬영 이미지로부터 골프채의 종류 및/또는 길이를 인식하고, 그 인식된 골프채의 종류 및/또는 길이를 더 참조하여 위의 사용자의 실제 키를 추정할 수도 있다.
다른 예를 들면, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 인공신경망 모델을 이용하여 사용자의 골프 스윙에 관한 2차원 촬영 이미지로부터 위의 사용자의 팔 관절을 검출할 수 있고, 이에 기초하여 위의 사용자의 팔 길이를 산출하여 위의 사용자의 실제 키를 추정할 수 있다. 이때, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 인공신경망 모델을 이용하여 사용자의 골프 스윙에 관한 2차원 촬영 이미지로부터 골프채의 종류 및/또는 길이를 인식하고, 그 인식된 골프채의 종류 및/또는 길이를 더 참조하여 위의 사용자의 실제 키를 추정할 수도 있다.
한편, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 위와 같이 추정되는 사용자의 실제 신체에 관한 정보에 기초하여 위의 사용자의 골프 스윙에 관한 판단 기준을 조정할 수 있다.
구체적으로, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 위와 같이 추정되는 사용자의 실제 신체에 관한 정보에 기초하여 위의 사용자의 실제 키를 정규화(normalization)하고, 이를 디폴트 판단 기준에 곱함으로써 위의 사용자의 골프 스윙에 관한 판단 기준을 조정할 수 있다. 본 발명의 일 실시예에 따르면, 이렇게 판단 기준을 조정함으로써, 촬영 거리 및 사용자의 실제 신체에 관한 정보를 모두 고려하여 사용자의 골프 스윙 자세에 관한 정확한 정보를 추정할 수 있게 된다.
예를 들면, 탑 오브 스윙(top of swing)에서 헤드업(head up) 발생 여부를 판단하는 경우에, 기본적으로 탑 오브 스윙에서의 머리 위치가 어드레스 자세에서의 머리 위치 보다 10 픽셀(즉, 디폴트 판단 기준) 이상에서 검출되면 헤드업이라고 판단하는 경우를 가정할 수 있다. 이러한 경우에, 키가 큰 사용자의 경우는 10 픽셀이 아주 조금 머리를 든 것에 불과한 상황일 수 있으므로, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 위의 사용자의 키를 정규화한 값(이 경우에는, 1보다 큰 값)을 디폴트 판단 기준(즉, 10 픽셀)에 곱함으로써 헤드업 발생 여부에 관하여 너무 엄격하게 판단되지 않도록 할 수 있다.
계속하여 예를 들면, 키가 보통인 사용자가 디바이스(100)와 매우 가까운 거리에서 스윙을 촬영한 경우에는, 실제로는 아주 조금 머리를 든 상황이지만 탑 오브 스윙에서의 머리 위치가 어드레스 자세에서의 머리 위치 보다 10 픽셀 이상에서 검출될 수 있다. 이러한 경우에, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 위의 촬영 거리를 고려하여 사용자의 키를 정규화한 값(이 경우에는, 1보다 큰 값)을 디폴트 판단 기준(즉, 10 픽셀)에 곱함으로써 헤드업 발생 여부에 관하여 너무 엄격하게 판단되지 않도록 할 수 있다.
한편, 본 발명의 일 실시예에 따르면, 사용자의 골프 스윙에 관한 판단 기준은 위에서 설명된 바와 같이 특정 값일 수 있지만, 특정 범위 또는 사용자의 관절 사이의 관계를 의미할 수도 있으며, 본 발명의 목적을 달성할 수 있는 범위 내에서 다양하게 변경될 수 있다.
한편, 본 발명의 일 실시예에 따른 인공신경망 모델에는 CNN(Convolutional Neural Network) 모델, RNN(Recurrent Neural Network) 모델, DBN(Deep Belief Network) 모델, 또는 위 모델들이 결합된 인공신경망 모델 등이 포함될 수 있다. 다만, 본 발명의 일 실시예에 따른 인공신경망 모델이 위의 열거된 것에 한정되는 것은 아니고, 본 발명의 목적을 달성할 수 있는 범위 내에서 다양하게 변경될 수 있다.
그리고, 본 발명의 일 실시예에 따른 인공신경망 모델은 깊이별 컨볼루션(Depthwise Convolution) 및 지점별 컨볼루션(Pointwise Convolution)을 이용하여 경량화된 모델일 수 있다.
또한, 본 발명의 일 실시예에 따른 인공신경망 모델은 가지치기(Pruning), 가중치 양자화(Quantization), 잔차 학습(Residual Learning)과 같은 경량화 알고리즘을 이용하여 경량화된 모델일 수도 있다.
구체적으로, 물체 인식 기술에서 일반적으로 사용되는 인공신경망 모델은 높은 수준의 인식 성능을 위하여 높은 수준의 컴퓨팅 자원의 소모를 필요로 하기 때문에, 모바일 디바이스와 같이 한정적인 컴퓨팅 자원만이 제공되는 환경에서는 이용하기 어려운 경우가 많다. 따라서, 본 발명의 일 실시예에 따르면, 깊이별 컨볼루션(Depthwise Convolution) 및 지점별 컨볼루션(Pointwise Convolution)을 이용하여 인공신경망 모델을 경량화하고, 그 경량화된 인공신경망 모델을 모바일 디바이스에서 이용함으로써 사용자의 골프 스윙에 관한 촬영 이미지에서 위의 사용자의 적어도 하나의 관절을 검출할 수 있다.
여기서, 본 발명의 일 실시예에 따른 깊이별 컨볼루션(Depthwise Convolution)이란, 본 발명의 일 실시예에 따른 인공신경망 모델에서 컨볼루션(Convolution)을 수행함에 있어서, 입력되는 층(Layer)의 깊이(즉, 입력 층의 채널)별로 각각 커널(Kernel)을 적용하는 컨볼루션 과정을 의미할 수 있다. 한편, 커널을 적용하여 연산하는 방법 자체는 일반적인 컨볼루션과 동일하므로, 자세한 설명은 생략하기로 한다.
그리고, 본 발명의 일 실시예에 따른 지점별 컨볼루션(Pointwise Convolution)이란, 본 발명의 일 실시예에 따른 인공신경망 모델에서 컨볼루션을 수행함에 있어서, 입력되는 층의 지점별로 각각 1 x 1 x M 크기의 커널(즉, 너비 1, 높이 1, 깊이 M의 커널)을 적용하는 컨볼루션 과정을 의미할 수 있다.
도 2의 (a)는 본 발명의 일 실시예에 따라 일반적인 컨볼루션(Convolution)이 수행되는 과정을 예시적으로 나타내는 도면이다.
도 2의 (b)는 본 발명의 일 실시예에 따라 깊이별 컨볼루션(Depthwise Convolution) 및 지점별 컨볼루션(Pointwise Convolution)이 수행되는 과정을 예시적으로 나타내는 도면이다.
도 2의 (a)을 참조하면, 본 발명의 일 실시예에 따르면, 입력되는 층(211)의 너비, 높이, 깊이가 각각 F, F, N이고, 각 커널(212)의 너비, 높이, 깊이가 각각 K, K, N이고, 출력되는 층(213)의 너비, 높이, 깊이가 각각 F, F, M인 경우를 가정할 수 있다. 또한, 여기에서는, 적절한 크기의 패딩(Padding)과 스트라이드(Stride)를 설정하여 입력되는 층(211)과 출력되는 층(213)의 너비, 높이의 변화가 없는 것으로 가정하였다. 이러한 경우에, 일반적인 컨볼루션 에서는, 입력되는 층(211)에 커널(212)이 적용되어 출력되는 층(213)의 하나의 깊이를 구성(즉, F x F x K x K x N번의 연산)하게 되고, M개의 커널(212)에 대하여 이러한 연산을 하게 되므로, 총 F x F x K x K x N x M번의 연산을 수행하게 된다.
도 2의 (b)를 참조하면, 본 발명의 일 실시예에 따르면, 입력되는 층(221)의 너비, 높이, 깊이가 각각 F, F, N이고, 깊이별 컨볼루션에서의 각 커널(222)의 너비, 높이, 깊이가 각각 K, K, 1이고, 지점별 컨볼루션에서의 각 커널(224)의 너비, 높이, 깊이가 각각 1, 1, N이고, 출력되는 층(225)의 너비, 높이, 깊이가 각각 F, F, M인 경우를 가정할 수 있다. 이러한 경우에, 입력되는 층(221)의 깊이별로 커널(222)이 적용되어 중간 층(223)의 각 깊이를 구성(즉, F x F x K x K x 1 x N번의 연산)하게 된다. 그 다음에, 그 중간 층(223)에 지점별로 커널(224)이 적용되어 출력되는 층(225)의 하나의 깊이를 구성(즉, F x F x 1 x 1 x N번의 연산)하게 되고, M개의 커널(224)에 대하여 이러한 연산을 하게 되므로, 지점별 컨볼루션에서는 총 F x F x 1 x 1 x N x M번의 연산을 수행하게 된다. 따라서, 본 발명의 일 실시예에 따른 깊이별 컨볼루션과 지점별 컨볼루션의 연산을 합하면 총 (F x F x K x K x 1 x N) + (F x F x 1 x 1 x N x M)번의 연산을 수행하게 되므로, 일반적인 컨볼루션보다 연산량이 줄어드는 효과가 있다.
한편, 본 발명의 일 실시예에 따른 경량화를 위한 알고리즘이 반드시 위의 알고리즘(깊이별 또는 지점별 컨볼루션)에 한정되는 것은 아니며, 위의 각 알고리즘의 적용 순서 또는 횟수 또한 다양하게 변경될 수 있다.
한편, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 인공신경망 모델을 이용하여 사용자의 골프 스윙에 관한 촬영 이미지에서 위의 사용자의 적어도 하나의 관절의 위치에 관한 확률 정보를 도출하고, 그 확률 정보를 참조하여 위의 사용자의 골프 스윙에 관한 판단 기준을 조정하는 기능을 수행할 수 있다.
구체적으로, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 사용자의 골프 스윙에 관한 촬영 이미지를 인공신경망 모델의 입력 데이터로 하여 확률 맵(Map; 즉, 위의 인공신경망 모델의 출력 데이터)을 생성할 수 있다.
예를 들어, 본 발명의 일 실시예에 따르면, 위의 확률 맵은 2차원 히트 맵(Heat map)을 의미할 수 있다. 그리고, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 인공신경망 모델을 이용하여 사용자의 적어도 하나의 관절마다 그 관절에 대한 적어도 하나의 2차원 히트 맵 이미지를 생성할 수 있고, 그 생성된 적어도 하나의 히트 맵 이미지를 구성하는 픽셀 값의 크기가 클수록 위의 관절의 2차원적 위치가 해당 픽셀에 해당할 확률이 높다거나, 위의 히트 맵에서 작은 픽셀 값이 넓게 분포하면 관절의 위치가 정확히 특정될 확률이 낮고 큰 픽셀 값이 좁게 분포하면 관절의 위치가 정확히 특정될 확률이 높다는 등의 성질에 기초하여 사용자의 적어도 하나의 관절의 2차원적 위치에 관한 확률 정보를 도출할 수 있다.
계속하면, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 사용자의 적어도 하나의 관절이 특정 위치에 존재할 확률이 임계값 이하인 경우에, 위의 사용자의 골프 스윙 자세에 관한 정보가 추정되지 않도록 위의 사용자의 골프 스윙에 관한 판단 기준을 조정할 수 있다. 이때, 본 발명의 일 실시예에 따르면, 위의 특정 위치에 존재할 확률이 임계값 이하인 관절은, 특정 스윙 자세와 연관되는 관절을 의미할 수 있다.
예를 들면, 본 발명의 일 실시예에 따르면, 특정 스윙 자세에 관한 정보를 추정함에 있어서 필요한 관절이 팔꿈치 관절인 경우에, 팔꿈치 관절이 특정 위치에 존재할 확률이 임계값 이하인 경우에는 사용자의 골프 스윙 자세에 관한 정보가 추정되지 않을 수 있다. 그러나, 그 밖의 관절이 특정 위치에 존재할 확률이 임계값 이하인 경우에는 위의 특정 스윙 자세와 연관이 없으므로, 사용자의 골프 스윙에 관한 정보가 추정될 수 있다.
그리고, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 사용자의 적어도 하나의 관절이 특정 위치에 존재할 확률이 임계값 이하인 경우에, 사용자의 골프 스윙에 관한 판단 기준을 가장 큰 값 또는 가장 작은 값으로 조정함으로써, 위의 사용자의 골프 스윙 자세에 관한 정보가 추정되지 않도록 할 수 있다.
한편, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)에 의하여 2차원적 위치에 관한 확률 정보가 도출되는 사용자의 적어도 하나의 관절은, 위의 사용자의 골프 스윙 자세에 관한 정보를 추정함에 있어서 필수적으로 요구되는 관절들을 의미할 수 있다. 즉, 사용자의 골프 스윙에 관한 정보를 추정함에 있어서 상대적으로 중요도가 낮은 관절들은 검출하지 않도록 검출할 관절의 수를 제한함으로써 인공신경망 모델의 연산 효율을 높일 수 있다.
한편, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 인공신경망 모델을 이용하여 사용자의 골프 스윙에 관한 촬영 이미지로부터 추정되는 위의 사용자의 골프 스윙에 따른 골프공의 궤적에 기초하여 위의 사용자의 골프 스윙에 관한 판단 기준을 조정하는 기능을 수행할 수 있다.
구체적으로, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 사용자의 골프 스윙에 관한 촬영 이미지를 구성하는 적어도 일부의 프레임에서 검출되는 골프채 및 골프공의 위치를 참조하여 위의 골프공의 궤적을 추정할 수 있다. 그리고, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 골프공의 궤적에 기초하여 골프공의 구질을 판단하고, 그 판단된 구질을 참조하여 위의 사용자의 골프 스윙에 관한 판단 기준을 조정할 수 있다.
보다 구체적으로, 디바이스(100)를 이용하여 골프공의 궤적을 추정하기 위해서는 사용자의 측면(즉, 공이 날아가는 모습을 촬영할 수 있는 방향)에서 사용자의 골프 스윙을 촬영해야 하는데, 하나의 디바이스(100)만으로 촬영하는 경우에는 사용자가 어드레스 자세를 취하게 되면 골프공이 골프채(구체적으로는, 골프채의 헤드)에 의하여 가려지게 된다. 따라서, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 사용자의 골프 스윙에 관한 촬영 이미지에서 어드레스 자세에서의 골프채의 위치를 검출하고, 그 검출된 골프채의 위치에 기초하여 임팩트 전의 골프공의 위치를 추정할 수 있다. 그리고, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 위의 임팩트 전의 골프공의 위치 및 임팩트 이후의 프레임들에서 각각 검출되는 골프공의 위치에 기초하여 골프공의 궤적 및 구질을 판단할 수 있다. 여기서, 골프공의 구질에는, 탑핑(topping), 뒤땅(chunk shot), 슬라이스(slice), 훅(hook), 뱀샷, 스트레이트(straight), 페이드(fade), 드로우(draw) 등이 포함될 수 있으나, 이에 제한되는 것은 아니다.
계속하면, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 골프공의 구질이 탑핑, 뒷땅, 슬라이스, 훅, 뱀샷 등의 나쁜 구질에 해당하는 경우에, 해당 구질과 연관되는 스윙 자세에 대하여 엄격한 판단이 이루어질 수 있도록 사용자의 골프 스윙에 관한 판단 기준을 조정할 수 있다. 예를 들면, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 골프공의 구질이 탑핑인 경우에, 탑핑과 연관되는 스윙 자세 중 하나인 헤드업의 발생 여부에 대하여 엄격한 판단이 이루어질 수 있도록 헤드업에 관한 판단 기준을 타이트하게 조정함으로써, 사용자가 머리를 조금만 든 경우에도 헤드업으로 판단되도록 할 수 있다. 반대로, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 골프공의 구질이 스트레이트, 페이드, 드로우 등의 좋은 구질인 경우에, 사용자의 스윙 자세에 헤드업 등의 문제점이 있더라도 그 문제점이 지적되지 않도록 헤드업에 관한 판단 기준을 느슨하게 조정할 수 있다.
한편, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 사용자가 선택한 비교 대상 골퍼의 스윙 자세에 관한 정보에 기초하여 추정되는 위의 비교 대상 골퍼의 스윙 자세의 특징을 참조하여 위의 사용자의 골프 스윙에 관한 판단 기준을 조정하는 기능을 수행할 수 있다.
구체적으로, 본 발명의 일 실시예에 따르면, 사용자가 선택한 비교 대상 골퍼의 스윙 자세에 관한 정보에는, 위의 비교 대상 골퍼의 스윙에 관한 촬영 이미지가 포함될 수 있다. 그리고, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 위의 비교 대상 골퍼의 스윙에 관한 촬영 이미지에서 위의 비교 대상 골퍼의 적어도 하나의 관절을 검출하고, 이렇게 검출된 적어도 하나의 관절에 기초하여 위의 비교 대상 골퍼의 스윙 자세의 특징을 추정할 수 있다. 여기서, 본 발명의 일 실시예에 따르면, 비교 대상 골퍼의 스윙 자세의 특징은 디바이스(100) 내부 또는 외부의 데이터베이스(미도시됨)에서 획득된 것일 수 있다. 이 경우에는, 위의 비교 대상 골퍼의 스윙 자세의 특징은, 사용자가 선택할 수 있는 비교 대상 골퍼의 스윙에 관한 촬영 이미지에서 미리 위의 특징을 추정한 다음에 이를 위의 데이터베이스에 저장한 것일 수 있다.
예를 들어, 본 발명의 일 실시예에 따르면, 사용자가 선택한 비교 대상 골퍼가 A 선수인 경우에, A 선수의 스윙 자세의 특징에는, A 선수의 스윙 자세, A 선수가 스윙을 할 때의 특징(예를 들면, 헤드업이 발생하는지 여부, 헤드업이 발생한다면 그 발생하는 정도 등) 등이 포함될 수 있다. 다만, 본 발명의 일 실시예에 따른 사용자가 선택한 비교 대상 골퍼의 스윙 자세의 특징은 위에서 설명된 것에 한정되지 않으며, 본 발명의 목적을 달성할 수 있는 범위 내에서 다양하게 변경될 수 있다.
계속하여 예를 들면, 본 발명의 일 실시예에 따르면, 사용자가 선택한 비교 대상 골퍼가 A 선수이고, A 선수가 스윙을 할 때 헤드업을 심하게 하는 특징이 있는 경우에, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 사용자의 스윙 자세에 헤드업의 문제점이 있더라도 그 문제점이 지적되지 않도록 헤드업에 관한 판단 기준을 느슨하게 조정할 수 있다. 반대로, 본 발명의 일 실시예에 따르면, 위의 A 선수가 스윙을 할 때 헤드업을 전혀 하지 않는 특징이 있는 경우에는, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)는, 헤드업의 발생 여부에 대하여 엄격한 판단이 이루어질 수 있도록 헤드업에 관한 판단 기준을 타이트하게 조정함으로써, 사용자가 머리를 조금만 든 경우에도 헤드업으로 판단되도록 할 수 있다.
다음으로, 본 발명의 일 실시예에 따른 스윙 정보 추정부(120)는, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)에 의하여 조정된 판단 기준에 기초하여 사용자의 골프 스윙 자세에 관한 정보를 추정하는 기능을 수행할 수 있다.
구체적으로, 본 발명의 일 실시예에 따르면, 사용자의 골프 스윙 자세에 관한 정보에는, 헤드업(head up), 얼리 익스텐션(early extension), 스웨이(sway) 등의 문제점이 포함될 수 있다. 그리고, 본 발명의 일 실시예에 따른 스윙 정보 추정부(120)는, 본 발명의 일 실시예에 따른 판단 기준 조정부(110)에 의하여 조정된 판단 기준에 기초하여 위와 같은 문제점을 추정하고, 그 추정된 문제점에 관한 정보를 사용자에게 제공할 수 있다. 다만, 본 발명의 일 실시예에 따른 사용자의 골프 스윙 자세에 관한 정보가 위의 열거된 것에 한정되는 것은 아니고, 본 발명의 목적을 달성할 수 있는 범위 내에서 다양하게 변경될 수 있다.
그리고, 본 발명의 일 실시예에 따른 스윙 정보 추정부(120)는, 규칙 기반 학습(rule-based learning)을 이용하여 사용자의 골프 스윙 자세에 관한 정보를 추정할 수 있다. 본 발명의 일 실시예에 따르면, 규칙 기반 학습은 결정 트리 학습(decision tree learning)을 포함할 수 있으나 이에 제한되는 것은 아니며, 결정 트리 학습이란, 규칙과 결과를 트리 구조로 도식화하여 형성된 결정 트리를 이용하여 수행되는 학습을 의미한다.
한편, 본 발명의 일 실시예에 따른 사용자의 골프 스윙 자세에 관한 정보는, 골프 스윙을 구성하는 부분 동작별로 구분되어 추정될 수 있다.
구체적으로, 본 발명의 일 실시예에 따른 골프 스윙은, 어드레스(address), 테이크 어웨이(take away), 백 스윙(back swing), 탑 오브 스윙(top of swing), 다운 스윙(down swing), 임팩트(impact), 팔로 스루(follow through) 및 피니쉬(finish)와 같은 8단계의 부분 동작으로 구성될 수 있다. 그리고, 본 발명의 일 실시예에 따른 사용자의 골프 스윙 자세에 관한 정보는, 위의 골프 스윙을 구성하는 부분 동작별로 구분되어 각각 추정될 수 있다.
그리고, 본 발명의 일 실시예에 따른 스윙 정보 추정부(120)는, 본 발명의 일 실시예에 따른 본 발명의 일 실시예에 따른 판단 기준 조정부(110)에 의해 검출되는 사용자의 적어도 하나의 관절의 종류, 그 사용자의 적어도 하나의 관절의 위치, 그 사용자의 적어도 하나의 관절과 그 사용자의 다른 적어도 하나의 관절 사이의 거리 및 그 사용자의 적어도 하나의 관절과 그 사용자의 다른 적어도 하나의 관절 사이에서 형성되는 각도 중 적어도 하나를 참조하여, 그 사용자의 골프 스윙에 관한 촬영 이미지가 위의 8단계 중 어느 단계에 해당하는지를 도출하거나, 그 사용자의 골프 스윙에 관한 촬영 이미지로부터 위의 8단계 중 특정 단계에 해당하는 적어도 하나의 프레임을 추출할 수 있다. 따라서, 본 발명의 일 실시예에 따른 스윙 정보 추정부(120)는, 사용자의 골프 스윙 자세에 관한 정보를, 골프 스윙을 구성하는 부분 동작별로 구분하여 추정하는 기능을 수행할 수 있다.
한편, 본 발명의 일 실시예에 따른 골프 스윙이 반드시 위와 같은 8단계로 구분되는 것은 아니다. 즉, 위의 8단계 각각을 구성하는 세부적인 단계를 더 포함하여 구분될 수도 있고, 위의 8단계의 적어도 일부가 하나의 단계를 구성하는 것으로 구분될 수도 있다.
다음으로, 본 발명의 일 실시예에 따른 통신부(130)는 판단 기준 조정부(110) 및 스윙 정보 추정부(120)로부터의/로의 데이터 송수신이 가능하도록 하는 기능을 수행할 수 있다.
마지막으로, 본 발명의 일 실시예에 따른 제어부(140)는 판단 기준 조정부(110), 스윙 정보 추정부(120) 및 통신부(130) 간의 데이터의 흐름을 제어하는 기능을 수행할 수 있다. 즉, 본 발명에 따른 제어부(140)는 디바이스(100)의 외부로부터의/로의 데이터 흐름 또는 디바이스(100)의 각 구성요소 간의 데이터 흐름을 제어함으로써, 판단 기준 조정부(110), 스윙 정보 추정부(120) 및 통신부(130)에서 각각 고유 기능을 수행하도록 제어할 수 있다.
이상 설명된 본 발명에 따른 실시예는 다양한 컴퓨터 구성요소를 통하여 실행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등과 같은, 프로그램 명령어를 저장하고 실행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위하여 하나 이상의 소프트웨어 모듈로 변경될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항과 한정된 실시예 및 도면에 의하여 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위하여 제공된 것일 뿐, 본 발명이 상기 실시예에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정과 변경을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 또는 이로부터 등가적으로 변경된 모든 범위는 본 발명의 사상의 범주에 속한다고 할 것이다.
100: 디바이스
110: 판단 기준 조정부
120: 스윙 정보 추정부
130: 통신부
140: 제어부

Claims (17)

  1. 골프 스윙 자세에 관한 정보를 추정하기 위한 방법으로서,
    사용자의 골프 스윙에 연관되는 정보에 기초하여 상기 사용자의 골프 스윙에 관한 판단 기준을 조정하는 단계, 및
    상기 조정된 판단 기준에 기초하여 상기 사용자의 골프 스윙 자세에 관한 정보를 추정하는 단계를 포함하고,
    상기 사용자의 골프 스윙에 연관되는 정보에는, 상기 사용자의 골프 스윙에 관한 촬영 이미지 및 상기 사용자가 선택한 비교 대상 골퍼의 스윙 자세에 관한 정보 중 적어도 하나가 포함되는
    방법.
  2. 제1항에 있어서,
    상기 사용자의 골프 스윙에 연관되는 정보에는 상기 사용자의 골프 스윙에 관한 촬영 이미지가 포함되고,
    상기 조정 단계에서, 인공신경망 모델을 이용하여 상기 촬영 이미지로부터 추정되는 상기 사용자의 실제 신체에 관한 정보에 기초하여 상기 판단 기준을 조정하는
    방법.
  3. 제2항에 있어서,
    상기 조정 단계에서, 상기 실제 신체에 관한 정보는, 상기 촬영 이미지에서 검출되는 상기 사용자의 적어도 하나의 관절을 참조하여 추정되는
    방법.
  4. 제1항에 있어서,
    상기 사용자의 골프 스윙에 연관되는 정보에는 상기 사용자의 골프 스윙에 관한 촬영 이미지가 포함되고,
    상기 조정 단계에서, 인공신경망 모델을 이용하여 상기 촬영 이미지로부터 추정되는 상기 사용자의 골프 스윙에 따른 골프공의 궤적에 기초하여 상기 판단 기준을 조정하는
    방법.
  5. 제4항에 있어서,
    상기 조정 단계에서, 상기 골프공의 궤적에 기초하여 상기 골프공의 구질을 판단하고, 상기 판단된 구질을 참조하여 상기 판단 기준을 조정하는
    방법.
  6. 제1항에 있어서,
    상기 사용자의 골프 스윙에 연관되는 정보에는 상기 사용자의 골프 스윙에 관한 촬영 이미지가 포함되고,
    상기 조정 단계에서, 인공신경망 모델을 이용하여 상기 촬영 이미지에서 상기 사용자의 적어도 하나의 관절의 위치에 관한 확률 정보를 도출하고, 상기 확률 정보를 참조하여 상기 판단 기준을 조정하는
    방법.
  7. 제6항에 있어서,
    상기 조정 단계에서, 상기 관절이 특정 위치에 존재할 확률이 임계값 이하인 경우에, 상기 사용자의 골프 스윙 자세에 관한 정보가 추정되지 않도록 상기 판단 기준을 조정하는
    방법.
  8. 제1항에 있어서,
    상기 사용자의 골프 스윙에 연관되는 정보에는 상기 사용자가 선택한 비교 대상 골퍼의 스윙 자세에 관한 정보가 포함되고,
    상기 조정 단계에서, 상기 비교 대상 골퍼의 스윙 자세에 관한 정보에 기초하여 추정되는 상기 비교 대상 골퍼의 스윙 자세의 특징을 참조하여 상기 판단 기준을 조정하는
    방법.
  9. 제1항에 따른 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 비일시성의 컴퓨터 판독 가능 기록 매체.
  10. 골프 스윙 자세에 관한 정보를 추정하기 위한 디바이스로서,
    사용자의 골프 스윙에 연관되는 정보에 기초하여 상기 사용자의 골프 스윙에 관한 판단 기준을 조정하는 판단 기준 조정부, 및
    상기 조정된 판단 기준에 기초하여 상기 사용자의 골프 스윙 자세에 관한 정보를 추정하는 스윙 정보 추정부를 포함하고,
    상기 사용자의 골프 스윙에 연관되는 정보에는, 상기 사용자의 골프 스윙에 관한 촬영 이미지 및 상기 사용자가 선택한 비교 대상 골퍼의 스윙 자세에 관한 정보 중 적어도 하나가 포함되는
    디바이스.
  11. 제10항에 있어서,
    상기 사용자의 골프 스윙에 연관되는 정보에는 상기 사용자의 골프 스윙에 관한 촬영 이미지가 포함되고,
    상기 판단 기준 조정부는, 인공신경망 모델을 이용하여 상기 촬영 이미지로부터 추정되는 상기 사용자의 실제 신체에 관한 정보에 기초하여 상기 판단 기준을 조정하는
    디바이스.
  12. 제11항에 있어서,
    상기 판단 기준 조정부는, 상기 촬영 이미지에서 검출되는 상기 사용자의 적어도 하나의 관절을 참조하여 상기 실제 신체에 관한 정보를 추정하는
    디바이스.
  13. 제10항에 있어서,
    상기 사용자의 골프 스윙에 연관되는 정보에는 상기 사용자의 골프 스윙에 관한 촬영 이미지가 포함되고,
    상기 판단 기준 조정부는, 인공신경망 모델을 이용하여 상기 촬영 이미지로부터 추정되는 상기 사용자의 골프 스윙에 따른 골프공의 궤적에 기초하여 상기 판단 기준을 조정하는
    디바이스.
  14. 제13항에 있어서,
    상기 판단 기준 조정부는, 상기 골프공의 궤적에 기초하여 상기 골프공의 구질을 판단하고, 상기 판단된 구질을 참조하여 상기 판단 기준을 조정하는
    디바이스.
  15. 제10항에 있어서,
    상기 사용자의 골프 스윙에 연관되는 정보에는 상기 사용자의 골프 스윙에 관한 촬영 이미지가 포함되고,
    상기 판단 기준 조정부는, 인공신경망 모델을 이용하여 상기 촬영 이미지에서 상기 사용자의 적어도 하나의 관절의 위치에 관한 확률 정보를 도출하고, 상기 확률 정보를 참조하여 상기 판단 기준을 조정하는
    디바이스.
  16. 제15항에 있어서,
    상기 판단 기준 조정부는, 상기 관절이 특정 위치에 존재할 확률이 임계값 이하인 경우에, 상기 사용자의 골프 스윙 자세에 관한 정보가 추정되지 않도록 상기 판단 기준을 조정하는
    디바이스.
  17. 제10항에 있어서,
    상기 사용자의 골프 스윙에 연관되는 정보에는 상기 사용자가 선택한 비교 대상 골퍼의 스윙 자세에 관한 정보가 포함되고,
    상기 판단 기준 조정부는, 상기 비교 대상 골퍼의 스윙 자세에 관한 정보에 기초하여 추정되는 상기 비교 대상 골퍼의 스윙 자세의 특징을 참조하여 상기 판단 기준을 조정하는
    디바이스.
KR1020200133209A 2020-10-15 2020-10-15 골프 스윙 자세에 관한 정보를 추정하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 KR20220049736A (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020200133209A KR20220049736A (ko) 2020-10-15 2020-10-15 골프 스윙 자세에 관한 정보를 추정하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
US18/031,175 US20230381584A1 (en) 2020-10-15 2021-09-13 Method, system, and non-transitory computer-readable recording medium for estimating information on golf swing posture
PCT/KR2021/012389 WO2022080678A1 (ko) 2020-10-15 2021-09-13 골프 스윙 자세에 관한 정보를 추정하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
KR1020230104738A KR20230124852A (ko) 2020-10-15 2023-08-10 골프 스윙 자세에 관한 정보를 추정하기 위한 방법,시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200133209A KR20220049736A (ko) 2020-10-15 2020-10-15 골프 스윙 자세에 관한 정보를 추정하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020230104738A Division KR20230124852A (ko) 2020-10-15 2023-08-10 골프 스윙 자세에 관한 정보를 추정하기 위한 방법,시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체

Publications (1)

Publication Number Publication Date
KR20220049736A true KR20220049736A (ko) 2022-04-22

Family

ID=81208344

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020200133209A KR20220049736A (ko) 2020-10-15 2020-10-15 골프 스윙 자세에 관한 정보를 추정하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
KR1020230104738A KR20230124852A (ko) 2020-10-15 2023-08-10 골프 스윙 자세에 관한 정보를 추정하기 위한 방법,시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020230104738A KR20230124852A (ko) 2020-10-15 2023-08-10 골프 스윙 자세에 관한 정보를 추정하기 위한 방법,시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체

Country Status (3)

Country Link
US (1) US20230381584A1 (ko)
KR (2) KR20220049736A (ko)
WO (1) WO2022080678A1 (ko)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100472300B1 (ko) * 2002-06-26 2005-03-10 문용선 골프볼 궤적에 근거한 스윙분석 시스템 및 방법
KR101394274B1 (ko) * 2013-11-27 2014-05-13 (주) 골프존 뎁스 정보 분석을 통한 신체 검출 방법 및 사용자 신체 검출을 위한 뎁스 정보 분석 장치
KR102514697B1 (ko) * 2015-04-09 2023-03-29 한국전자통신연구원 골프 동작 분석 장치 및 방법
KR101913667B1 (ko) * 2016-11-30 2018-10-31 조선대학교산학협력단 다중 카메라 및 단일 관성센서를 이용한 골프 스윙 분석 시스템 및 이를 이용한 골프 스윙 분석 방법
KR102353637B1 (ko) * 2019-03-17 2022-01-21 이상국 골프 동작 분석 방법 및 장치

Also Published As

Publication number Publication date
US20230381584A1 (en) 2023-11-30
KR20230124852A (ko) 2023-08-28
WO2022080678A1 (ko) 2022-04-21

Similar Documents

Publication Publication Date Title
US10796448B2 (en) Methods and systems for player location determination in gameplay with a mobile device
KR102539215B1 (ko) 골프 스윙에 관한 정보를 추정하기 위한 방법, 디바이스 및 비일시성의 컴퓨터 판독 가능한 기록 매체
EP3731235A1 (en) Device and method for monitoring activity performance
US11941916B2 (en) Practice drill-related features using quantitative, biomechanical-based analysis
JP7246005B2 (ja) 移動体追跡装置及び移動体追跡方法
US11024053B1 (en) User analytics using a mobile device camera and associated systems and methods
US20230245366A1 (en) 3d avatar generation using biomechanical analysis
KR102361029B1 (ko) 골프에 관한 콘텐츠를 추천하기 위한 방법, 디바이스 및 비일시성의 컴퓨터 판독 가능한 기록 매체
US11461905B2 (en) Determining a kinematic sequence
KR20220049736A (ko) 골프 스윙 자세에 관한 정보를 추정하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
CN112494915B (zh) 一种羽毛球机器人及其系统和控制方法
KR102413988B1 (ko) 골프 스윙에 관한 정보를 추정하기 위한 방법, 디바이스 및 비일시성의 컴퓨터 판독 가능한 기록 매체
KR20210146265A (ko) 골프 스윙에 관한 정보를 추정하기 위한 방법, 디바이스 및 비일시성의 컴퓨터 판독 가능한 기록 매체
KR20220100476A (ko) 골프 스윙에 관한 정보를 추정하기 위한 방법, 디바이스 및 비일시성의 컴퓨터 판독 가능한 기록 매체
KR102563764B1 (ko) 골프 스윙에 관한 정보를 추정하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
KR102369266B1 (ko) 골프에 관한 콘텐츠를 제공하기 위한 방법하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E601 Decision to refuse application
E601 Decision to refuse application
E801 Decision on dismissal of amendment