KR20220100476A

KR20220100476A - 골프 스윙에 관한 정보를 추정하기 위한 방법, 디바이스 및 비일시성의 컴퓨터 판독 가능한 기록 매체

Info

Publication number: KR20220100476A
Application number: KR1020210002920A
Authority: KR
Inventors: 이용근
Original assignee: 주식회사 모아이스
Priority date: 2021-01-08
Filing date: 2021-01-08
Publication date: 2022-07-15
Also published as: WO2022149811A1; JP2024502602A; KR20230169901A

Abstract

본 발명의 일 태양에 따르면, 골프 스윙에 관한 정보를 추정하기 위한 방법으로서, 사용자의 골프 스윙에 관한 촬영 이미지가 획득되면, 인공신경망 모델을 이용하여 상기 촬영 이미지에서 클럽의 샤프트에 관한 복수의 키포인트 및 상기 클럽의 페이스에 관한 복수의 키포인트 중 적어도 하나와 상기 사용자의 적어도 하나의 관절을 검출하는 단계, 및 상기 샤프트에 관한 복수의 키포인트의 위치 및 상기 페이스에 관한 복수의 키포인트의 위치 중 적어도 하나에 기초하여 상기 클럽의 자세를 추정하고, 상기 클럽의 자세 및 상기 사용자의 적어도 하나의 관절의 위치를 참조하여 상기 사용자의 골프 스윙에 관한 정보를 추정하는 단계를 포함하는 방법이 제공된다.

Description

골프 스윙에 관한 정보를 추정하기 위한 방법, 디바이스 및 비일시성의 컴퓨터 판독 가능한 기록 매체{METHOD, DEVICE AND NON-TRANSITORY COMPUTER-READABLE RECORDING MEDIUM FOR ESTIMATING INFORMATION ABOUT GOLF SWING}

본 발명은 골프 스윙에 관한 정보를 추정하기 위한 방법, 디바이스 및 비일시성의 컴퓨터 판독 가능한 기록 매체에 관한 것이다.

근래에 들어, 골퍼의 스윙 영상을 분석하고 골퍼에게 유용한 정보를 제공하기 위한 기술들이 소개되고 있다.

이에 관한 종래 기술의 일례로서, 한국공개특허공보 제2009-105031호에 개시된 영상처리기법을 이용한 골프 클리닉 시스템 및 그것의 운용 방법에 관한 기술을 예로 들 수 있는데, 이에 따르면, 골프 수련자의 신체 및 골프 클럽에 부착되는 복수개의 마커, 골프 수련자의 스윙 동작을 영상으로 수집하는 복수개의 카메라, 상기 복수개의 카메라에서 수집되는 2차원 영상을 3차원 영상으로 재구성하고, 움직임에 따른 마커의 공간상 좌표를 추출하여 인체 분절의 각도 값과 각 국면별 데이터를 실시간으로 분석하여 클리닉 결과를 레포트 형식으로 출력하는 영상 분석기 및 스윙 동작에 대한 운동 역학적 클리닉 정보가 회원 정보에 매칭되어 디지털 데이터로 저장되는 데이터 베이스를 포함하는 것을 특징으로 한다.

하지만, 위와 같은 종래 기술을 비롯하여 지금까지 소개된 기술에 의하면, 골퍼의 스윙을 분석하기 위하여, 골퍼의 자세 및 동작을 인식하기 위한 고가의 장비를 별도로 이용해야 하거나 골퍼의 신체 및 골프채에 별도의 센서(마커)를 부착해야 하는 실정이었다.

본 발명은 전술한 종래 기술의 문제점을 모두 해결하는 것을 그 목적으로 한다.

또한, 본 발명은, 사용자의 골프 스윙에 관한 촬영 이미지가 획득되면, 인공신경망 모델을 이용하여 위의 촬영 이미지에서 클럽의 샤프트에 관한 복수의 키포인트 및 위의 클럽의 페이스에 관한 복수의 키포인트 중 적어도 하나와 위의 사용자의 적어도 하나의 관절을 검출하는 단계, 및 위의 샤프트에 관한 복수의 키포인트의 위치 및 위의 페이스에 관한 복수의 키포인트의 위치 중 적어도 하나에 기초하여 위의 클럽의 자세를 추정하고, 위의 클럽의 자세 및 위의 사용자의 적어도 하나의 관절의 위치를 참조하여 위의 사용자의 골프 스윙에 관한 정보를 추정하는 것을 다른 목적으로 한다.

또한, 본 발명은, 깊이별 컨볼루션(Depthwise Convolution) 및 지점별 컨볼루션(Pointwise Convolution)을 이용하여 인공신경망 모델을 경량화하고, 그 경량화된 인공신경망 모델을 이용하여 사용자의 골프 스윙에 관한 촬영 이미지로부터 클럽의 자세 및 위의 사용자의 골프 스윙에 관한 정보를 추정하는 것을 또 다른 목적으로 한다.

또한, 본 발명은, 사용자의 골프 스윙에 관한 정보를 추정함에 있어서 위의 사용자의 적어도 하나의 관절의 위치뿐만 아니라 위의 사용자의 골프 스윙에 관한 촬영 이미지로부터 추정되는 클럽의 자세까지 참조하는 것을 또 다른 목적으로 한다.

상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다.

본 발명의 일 태양에 따르면, 사용자의 골프 스윙에 관한 촬영 이미지가 획득되면, 인공신경망 모델을 이용하여 상기 촬영 이미지에서 클럽의 샤프트에 관한 복수의 키포인트 및 상기 클럽의 페이스에 관한 복수의 키포인트 중 적어도 하나와 상기 사용자의 적어도 하나의 관절을 검출하는 단계, 및 상기 샤프트에 관한 복수의 키포인트의 위치 및 상기 페이스에 관한 복수의 키포인트의 위치 중 적어도 하나에 기초하여 상기 클럽의 자세를 추정하고, 상기 클럽의 자세 및 상기 사용자의 적어도 하나의 관절의 위치를 참조하여 상기 사용자의 골프 스윙에 관한 정보를 추정하는 단계를 포함하는 방법이 제공된다.

본 발명의 다른 태양에 따르면, 사용자의 골프 스윙에 관한 촬영 이미지가 획득되면, 인공신경망 모델을 이용하여 상기 촬영 이미지에서 클럽의 샤프트에 관한 복수의 키포인트 및 상기 클럽의 페이스에 관한 복수의 키포인트 중 적어도 하나와 상기 사용자의 적어도 하나의 관절을 검출하는 클럽 및 관절 검출부, 및 상기 샤프트에 관한 복수의 키포인트의 위치 및 상기 페이스에 관한 복수의 키포인트의 위치 중 적어도 하나에 기초하여 상기 클럽의 자세를 추정하고, 상기 클럽의 자세 및 상기 사용자의 적어도 하나의 관절의 위치를 참조하여 상기 사용자의 골프 스윙에 관한 정보를 추정하는 골프 스윙 정보 추정부를 포함하는 디바이스가 제공된다.

이 외에도, 본 발명을 구현하기 위한 다른 방법, 다른 디바이스 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 비일시성의 컴퓨터 판독 가능한 기록 매체가 더 제공된다.

본 발명에 의하면, 사용자의 골프 스윙에 관한 촬영 이미지가 획득되면, 인공신경망 모델을 이용하여 위의 촬영 이미지에서 클럽의 샤프트에 관한 복수의 키포인트 및 위의 클럽의 페이스에 관한 복수의 키포인트 중 적어도 하나와 위의 사용자의 적어도 하나의 관절을 검출하는 단계, 및 위의 샤프트에 관한 복수의 키포인트의 위치 및 위의 페이스에 관한 복수의 키포인트의 위치 중 적어도 하나에 기초하여 위의 클럽의 자세를 추정하고, 위의 클럽의 자세 및 위의 사용자의 적어도 하나의 관절의 위치를 참조하여 위의 사용자의 골프 스윙에 관한 정보를 추정함으로써, 별도의 센서(마커)나 장비를 이용하지 않고도 촬영 이미지만으로 사용자의 골프 스윙에 관한 정보를 추정할 수 있게 된다.

또한, 본 발명에 의하면, 깊이별 컨볼루션(Depthwise Convolution) 및 지점별 컨볼루션(Pointwise Convolution)을 이용하여 인공신경망 모델을 경량화하고, 그 경량화된 인공신경망 모델을 이용하여 사용자의 골프 스윙에 관한 촬영 이미지로부터 클럽의 자세를 추정함으로써, 별도의 센서(마커)나 장비를 이용하지 않고, 모바일 디바이스에서 정확하고 효율적으로 위의 사용자의 골프 스윙에 관한 정보를 추정할 수 있게 된다.

또한, 본 발명에 의하면, 사용자의 골프 스윙에 관한 정보를 추정함에 있어서 위의 사용자의 적어도 하나의 관절의 위치뿐만 아니라 위의 사용자의 골프 스윙에 관한 촬영 이미지로부터 추정되는 클럽의 자세까지 참조함으로써, 위의 사용자의 적어도 하나의 관절의 위치만으로는 파악하기 어려운 정보(예를 들면, 손목 컨트롤 및/또는 클럽 컨트롤에 관한 정보)를 추정할 수 있게 된다.

도 1은 본 발명의 일 실시예에 따른 디바이스의 내부 구성을 상세하게 도시하는 도면이다.
도 2의 (a)는 본 발명의 일 실시예에 따라 일반적인 컨볼루션(Convolution)이 수행되는 과정을 예시적으로 나타내는 도면이다.
도 2의 (b)는 본 발명의 일 실시예에 따라 깊이별 컨볼루션(Depthwise Convolution) 및 지점별 컨볼루션(Pointwise Convolution)이 수행되는 과정을 예시적으로 나타내는 도면이다.
도 3 내지 도 7은 본 발명의 일 실시예에 따라 클럽의 자세 및 사용자의 골프 스윙에 관한 정보를 추정하는 과정을 예시적으로 나타내는 도면이다.

후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이러한 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 본 명세서에 기재되어 있는 특정 형상, 구조 및 특성은 본 발명의 정신과 범위를 벗어나지 않으면서 일 실시예로부터 다른 실시예로 변경되어 구현될 수 있다. 또한, 각각의 실시예 내의 개별 구성요소의 위치 또는 배치도 본 발명의 정신과 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 행하여지는 것이 아니며, 본 발명의 범위는 특허청구범위의 청구항들이 청구하는 범위 및 그와 균등한 모든 범위를 포괄하는 것으로 받아들여져야 한다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 구성요소를 나타낸다.

이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 여러 바람직한 실시예에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.

본 명세서에서, 골프 스윙에 관한 실시예가 풀 스윙에 초점을 맞추어 설명되기는 하지만, 본 발명에서의 골프 스윙은 골프채를 움직이기 위한 모든 동작을 포함하는 최광의의 개념으로 이해되어야 한다. 예를 들면, 본 발명의 일 실시예에 따른 골프 스윙에는, 풀 스윙, 하프 스윙, 칩 샷, 로브 샷, 퍼팅 등이 포함될 수 있다.

디바이스의 구성

이하에서는, 본 발명의 구현을 위하여 중요한 기능을 수행하는 디바이스(100)의 내부 구성과 각 구성요소의 기능에 대하여 살펴보기로 한다.

도 1은 본 발명의 일 실시예에 따른 디바이스(100)의 내부 구성을 상세하게 도시하는 도면이다.

도 1에 도시된 바와 같이, 본 발명의 일 실시예에 따른 디바이스(100)는, 클럽 및 관절 검출부(110), 골프 스윙 정보 추정부(120), 통신부(130) 및 제어부(140)를 포함하여 구성될 수 있다. 본 발명의 일 실시예에 따르면, 클럽 및 관절 검출부(110), 골프 스윙 정보 추정부(120), 통신부(130) 및 제어부(140)는 그 중 적어도 일부가 외부의 시스템(미도시됨)과 통신하는 프로그램 모듈일 수 있다. 이러한 프로그램 모듈은 운영 시스템, 응용 프로그램 모듈 또는 기타 프로그램 모듈의 형태로 디바이스(100)에 포함될 수 있고, 물리적으로는 여러 가지 공지의 기억 장치에 저장될 수 있다. 또한, 이러한 프로그램 모듈은 디바이스(100)와 통신 가능한 원격 기억 장치에 저장될 수도 있다. 한편, 이러한 프로그램 모듈은 본 발명에 따라 후술할 특정 업무를 수행하거나 특정 추상 데이터 유형을 실행하는 루틴, 서브루틴, 프로그램, 오브젝트, 컴포넌트, 데이터 구조 등을 포괄하지만, 이에 제한되지는 않는다.

한편, 디바이스(100)에 관하여 위와 같이 설명되었으나, 이러한 설명은 예시적인 것이고, 디바이스(100)의 구성요소 또는 기능 중 적어도 일부가 필요에 따라 서버(미도시됨) 내에서 실현되거나 외부 시스템(미도시됨) 내에 포함될 수도 있음은 당업자에게 자명하다.

한편, 본 발명의 일 실시예에 따른 디바이스(100)는 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기로서, 스마트폰, 태블릿, 스마트 워치, 스마트 밴드, 스마트 글래스, 데스크탑 컴퓨터, 노트북 컴퓨터, 워크스테이션, PDA, 웹 패드, 이동 전화기 등이 포함될 수 있다. 다만, 디바이스(100)는 전술한 예시뿐만 아니라 본 발명의 목적을 달성할 수 있는 범위 내에서 얼마든지 변경될 수 있다.

특히, 디바이스(100)는, 사용자가 디바이스(100)으로부터 골프 스윙에 관한 정보 추정 등의 서비스를 제공받을 수 있도록 지원하는 애플리케이션(미도시됨)을 포함할 수 있다. 이와 같은 애플리케이션은 외부의 애플리케이션 배포 서버(미도시됨)로부터 다운로드된 것일 수 있다. 한편, 이러한 애플리케이션의 성격은 후술할 바와 같은 디바이스(100)의 클럽 및 관절 검출부(110), 골프 스윙 정보 추정부(120), 통신부(130) 및 제어부(140)와 전반적으로 유사할 수 있다. 여기서, 애플리케이션은 그 적어도 일부가 필요에 따라 그것과 실질적으로 동일하거나 균등한 기능을 수행할 수 있는 하드웨어 장치나 펌웨어 장치로 치환될 수도 있다.

먼저, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)는, 사용자의 골프 스윙에 관한 촬영 이미지가 획득되면, 인공신경망 모델을 이용하여 위의 촬영 이미지에서 클럽의 샤프트에 관한 복수의 키포인트 및 위의 클럽의 페이스에 관한 복수의 키포인트 중 적어도 하나와 위의 사용자의 적어도 하나의 관절을 검출하는 기능을 수행할 수 있다.

구체적으로, 본 발명의 일 실시예에 따르면, 사용자의 골프 스윙에 관한 촬영 이미지는 디바이스(100)에 의해 촬영된 것이거나 다른 디바이스(미도시됨)에 의해 촬영된 이미지를 디바이스(100)가 획득한 것일 수 있다. 그리고, 본 발명의 일 실시예에 따르면, 사용자의 골프 스윙에 관한 촬영 이미지는 RGB 카메라에 의하여 촬영되는 이미지를 의미할 수 있다. 즉, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)는, 깊이 카메라나 깊이 센서와 같은 장비로부터 획득되는 깊이 정보 및 사용자의 신체나 골프 클럽에 부착된 센서(마커)를 이용하지 않고, 사용자의 골프 스윙에 관한 RGB 이미지만을 이용하여 클럽의 샤프트에 관한 복수의 키포인트 및 그 클럽의 페이스에 관한 복수의 키포인트 중 적어도 하나와 위의 사용자의 적어도 하나의 관절을 검출할 수 있다. 한편, 본 발명에서, 사용자의 골프 스윙에 관한 촬영 이미지는 주로 동영상을 의미하지만, 그 형식에 관계없이 사용자의 골프 스윙을 시각적인 형태로 표현할 수 있는 모든 데이터를 포함하는 최광의의 개념으로 이해되어야 한다.

그리고, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)는, 인공신경망 모델을 이용하여, 사용자의 골프 스윙에 관한 촬영 이미지에서 클럽의 샤프트에 관한 복수의 키포인트 및 그 클럽의 페이스에 관한 복수의 키포인트 중 적어도 하나의 위치에 관한 확률 정보와 위의 사용자의 적어도 하나의 관절의 위치에 관한 확률 정보를 도출하는 기능을 수행할 수 있다.

구체적으로, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)에 의하여 도출될 수 있는 클럽의 샤프트에 관한 복수의 키포인트의 위치에 관한 확률 정보, 클럽의 페이스에 관한 복수의 키포인트의 위치에 관한 확률 정보 및 사용자의 적어도 하나의 관절의 위치에 관한 확률 정보는, 위의 사용자의 골프 스윙에 관한 촬영 이미지를 인공신경망 모델의 입력 데이터로 하여 생성되는 확률 맵(Map; 즉, 위의 인공신경망 모델의 출력 데이터)에 포함될 수 있다.

예를 들어, 본 발명의 일 실시예에 따르면, 위의 확률 맵은 2차원 히트 맵(Heat map)을 의미할 수 있다. 그리고, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)는, 인공신경망 모델을 이용하여 사용자의 적어도 하나의 관절마다 그 관절에 대한 적어도 하나의 2차원 히트 맵 이미지를 생성할 수 있고, 그 생성된 적어도 하나의 히트 맵 이미지를 구성하는 픽셀 값의 크기가 클수록 위의 관절의 2차원적 위치가 해당 픽셀에 해당할 확률이 높다거나, 위의 히트 맵에서 작은 픽셀 값이 넓게 분포하면 관절의 위치가 정확히 특정될 확률이 낮고 큰 픽셀 값이 좁게 분포하면 관절의 위치가 정확히 특정될 확률이 높다는 등의 성질에 기초하여 사용자의 적어도 하나의 관절의 2차원적 위치에 관한 확률 정보를 도출할 수 있다. 그리고, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)는, 위와 같이 도출되는 확률 정보를 참조하여 사용자의 적어도 하나의 관절의 2차원적 위치를 결정하고, 그 위치를 사용자의 적어도 하나의 관절로서 검출할 수 있다.

한편, 위에서 설명한 사용자의 관절의 위치에 관한 확률 정보를 도출하는 것에 관한 내용은, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)에 의하여 클럽의 샤프트에 관한 복수의 키포인트 및/또는 클럽의 페이스에 관한 복수의 키포인트가 검출되는 경우에도 유사하게 적용될 수 있으므로(즉, 위의 복수의 키포인트 각각에 대하여 그 키포인트에 대한 적어도 하나의 2차원 히트 맵 이미지가 생성될 수 있음), 자세한 설명은 생략하기로 한다.

한편, 본 발명의 일 실시예에 따른 인공신경망 모델에는 CNN(Convolutional Neural Network) 모델, RNN(Recurrent Neural Network) 모델, DBN(Deep Belief Network) 모델, 또는 위 모델들이 결합된 인공신경망 모델 등이 포함될 수 있다. 다만, 본 발명의 일 실시예에 따른 인공신경망 모델이 위의 열거된 것에 한정되는 것은 아니고, 본 발명의 목적을 달성할 수 있는 범위 내에서 다양하게 변경될 수 있다.

그리고, 본 발명의 일 실시예에 따른 인공신경망 모델은 깊이별 컨볼루션(Depthwise Convolution) 및 지점별 컨볼루션(Pointwise Convolution)을 이용하여 경량화된 모델일 수 있다.

또한, 본 발명의 일 실시예에 따른 인공신경망 모델은 가지치기(Pruning), 가중치 양자화(Quantization), 잔차 학습(Residual Learning)과 같은 경량화 알고리즘을 이용하여 경량화된 모델일 수도 있다. 또한, 본 발명의 일 실시예에 따른 인공신경망 모델은 인코더-디코더(encoder-decoder) 구조의 모델일 수 있고, 경량화를 위하여 디코더가 인코더에 비하여 매우 적은 수의 채널과 층으로 구성될 수 있다.

구체적으로, 물체 인식 기술에서 일반적으로 사용되는 인공신경망 모델은 높은 수준의 인식 성능을 위하여 높은 수준의 컴퓨팅 자원의 소모를 필요로 하기 때문에, 모바일 디바이스와 같이 한정적인 컴퓨팅 자원만이 제공되는 환경에서는 이용하기 어려운 경우가 많다. 따라서, 본 발명의 일 실시예에 따르면, 깊이별 컨볼루션(Depthwise Convolution) 및 지점별 컨볼루션(Pointwise Convolution)을 이용하여 인공신경망 모델을 경량화하고 그 경량화된 인공신경망 모델을 모바일 디바이스에서 이용함으로써, 사용자의 골프 스윙에 관한 촬영 이미지에서 클럽의 샤프트에 관한 복수의 키포인트 및 그 클럽의 페이스에 관한 복수의 키포인트 중 적어도 하나와 위의 사용자의 적어도 하나의 관절을 검출할 수 있다.

여기서, 본 발명의 일 실시예에 따른 깊이별 컨볼루션(Depthwise Convolution)이란, 본 발명의 일 실시예에 따른 인공신경망 모델에서 컨볼루션(Convolution)을 수행함에 있어서, 입력되는 층(Layer)의 깊이(즉, 입력 층의 채널)별로 각각 커널(Kernel)을 적용하는 컨볼루션 과정을 의미할 수 있다. 한편, 커널을 적용하여 연산하는 방법 자체는 일반적인 컨볼루션과 동일하므로, 자세한 설명은 생략하기로 한다.

그리고, 본 발명의 일 실시예에 따른 지점별 컨볼루션(Pointwise Convolution)이란, 본 발명의 일 실시예에 따른 인공신경망 모델에서 컨볼루션을 수행함에 있어서, 입력되는 층의 지점별로 각각 1 x 1 x M 크기의 커널(즉, 너비 1, 높이 1, 깊이 M의 커널)을 적용하는 컨볼루션 과정을 의미할 수 있다.

도 2의 (a)는 본 발명의 일 실시예에 따라 일반적인 컨볼루션(Convolution)이 수행되는 과정을 예시적으로 나타내는 도면이다.

도 2의 (b)는 본 발명의 일 실시예에 따라 깊이별 컨볼루션(Depthwise Convolution) 및 지점별 컨볼루션(Pointwise Convolution)이 수행되는 과정을 예시적으로 나타내는 도면이다.

도 2의 (a)을 참조하면, 본 발명의 일 실시예에 따르면, 입력되는 층(211)의 너비, 높이, 깊이가 각각 F, F, N이고, 각 커널(212)의 너비, 높이, 깊이가 각각 K, K, N이고, 출력되는 층(213)의 너비, 높이, 깊이가 각각 F, F, M인 경우를 가정할 수 있다. 또한, 여기에서는, 적절한 크기의 패딩(Padding)과 스트라이드(Stride)를 설정하여 입력되는 층(211)과 출력되는 층(213)의 너비, 높이의 변화가 없는 것으로 가정하였다. 이러한 경우에, 일반적인 컨볼루션 에서는, 입력되는 층(211)에 커널(212)이 적용되어 출력되는 층(213)의 하나의 깊이를 구성(즉, F x F x K x K x N번의 연산)하게 되고, M개의 커널(212)에 대하여 이러한 연산을 하게 되므로, 총 F x F x K x K x N x M번의 연산을 수행하게 된다.

도 2의 (b)를 참조하면, 본 발명의 일 실시예에 따르면, 입력되는 층(221)의 너비, 높이, 깊이가 각각 F, F, N이고, 깊이별 컨볼루션에서의 각 커널(222)의 너비, 높이, 깊이가 각각 K, K, 1이고, 지점별 컨볼루션에서의 각 커널(224)의 너비, 높이, 깊이가 각각 1, 1, N이고, 출력되는 층(225)의 너비, 높이, 깊이가 각각 F, F, M인 경우를 가정할 수 있다. 이러한 경우에, 입력되는 층(221)의 깊이별로 커널(222)이 적용되어 중간 층(223)의 각 깊이를 구성(즉, F x F x K x K x 1 x N번의 연산)하게 된다. 그 다음에, 그 중간 층(223)에 지점별로 커널(224)이 적용되어 출력되는 층(225)의 하나의 깊이를 구성(즉, F x F x 1 x 1 x N번의 연산)하게 되고, M개의 커널(224)에 대하여 이러한 연산을 하게 되므로, 지점별 컨볼루션에서는 총 F x F x 1 x 1 x N x M번의 연산을 수행하게 된다. 따라서, 본 발명의 일 실시예에 따른 깊이별 컨볼루션과 지점별 컨볼루션의 연산을 합하면 총 (F x F x K x K x 1 x N) + (F x F x 1 x 1 x N x M)번의 연산을 수행하게 되므로, 일반적인 컨볼루션보다 연산량이 줄어드는 효과가 있다.

한편, 본 발명의 일 실시예에 따른 경량화를 위한 알고리즘이 반드시 위의 알고리즘(깊이별 또는 지점별 컨볼루션)에 한정되는 것은 아니며, 위의 각 알고리즘의 적용 순서 또는 횟수 또한 다양하게 변경될 수 있다.

한편, 본 발명의 일 실시예에 따르면, 클럽의 샤프트에 관한 복수의 키포인트에는 클럽의 샤프트의 상부에 위치하는 임의의 포인트, 클럽의 샤프트의 하부에 위치하는 임의의 포인트 및 그 상부에 위치하는 임의의 포인트와 하부에 위치하는 임의의 포인트 사이의 어느 한 위치 중 적어도 두 위치가 포함될 수 있다.

도 3은 본 발명의 일 실시예에 따라 클럽의 자세 및 사용자의 골프 스윙에 관한 정보를 추정하는 과정을 예시적으로 나타내는 도면이다.

예를 들어, 본 발명의 일 실시예에 따르면, 도 3의 (a)를 참조하면, 클럽의 샤프트에 관한 복수의 키포인트에는 클럽의 샤프트의 상부에 위치하는 임의의 포인트(313; 즉, 클럽의 손잡이 부분), 그 샤프트의 하부에 위치하는 임의의 포인트(311; 즉, 클럽의 헤드 부분) 및 그 상부에 위치하는 임의의 포인트(313)와 하부에 위치하는 임의의 포인트(311)의 중간(312; 즉, 클럽의 샤프트의 중간)이 포함될 수 있다.

다른 예를 들어, 본 발명의 일 실시예에 따르면, 도 3의 (b)를 참조하면, 사용자의 골프 스윙에 관한 촬영 이미지에 클럽의 일부(예를 들면, 클럽의 헤드 부분)가 포함되지 않는 경우를 가정할 수 있다. 본 발명의 일 실시예에 따르면, 이러한 경우에는, 클럽의 샤프트에 관한 복수의 키포인트에는 클럽의 샤프트의 상부에 위치하는 임의의 포인트(322; 즉, 클럽의 손잡이 부분) 및 클럽의 샤프트의 중간(321)이 포함될 수 있다.

다만, 본 발명의 일 실시예에 따른 클럽의 샤프트에 관한 복수의 키포인트는 위에서 설명된 것에 한정되지 않으며, 본 발명의 목적을 달성할 수 있는 범위 내에서 다양하게 변경될 수 있다.

그리고, 본 발명의 일 실시예에 따르면, 클럽의 페이스에 관한 복수의 키포인트에는 그 페이스의 자세를 추정할 수 있도록 하는 적어도 세 위치가 포함될 수 있다. 여기서, 본 발명의 일 실시예에 따르면, 클럽의 페이스의 자세에는 그 페이스가 향하는 방향, 특정 기준선(예를 들면, 사용자의 신체에 관한 기준선 등)과 그 페이스가 이루는 각도, 골프 스윙 중에 클럽이 열리고 닫히는 정도 등이 포함될 수 있으나, 이에 제한되는 것은 아니다.

도 4는 본 발명의 일 실시예에 따라 클럽의 자세 및 사용자의 골프 스윙에 관한 정보를 추정하는 과정을 예시적으로 나타내는 도면이다.

예를 들어, 본 발명의 일 실시예에 따르면, 도 4를 참조하면, 클럽의 페이스(410)에 관한 복수의 키포인트에는 클럽 페이스(410) 상단을 이루는 선의 중간(411; 또는 클럽 페이스의 상단), 클럽 페이스(410) 하단을 이루는 선의 중간(413; 또는 클럽 페이스의 하단) 및 클럽 페이스의 클럽 페이스의 바깥쪽을 이루는 선의 중간(412; 또는 클럽 페이스의 가장 바깥쪽)이 포함될 수 있다.

다만, 본 발명의 일 실시예에 따른 클럽의 페이스에 관한 복수의 키포인트는 위에서 설명된 것에 한정되지 않으며, 클럽의 페이스에 관한 복수의 키포인트가 직선을 이루는 경우와 같이 그 페이스의 자세를 추정할 수 없게 하는 경우가 아니라면, 본 발명의 목적을 달성할 수 있는 범위 내에서 다양하게 변경될 수 있다.

한편, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)는, 사용자의 골프 스윙에 관한 촬영 이미지를 변형하고, 그 변형한 이미지에서 검출되는 클럽의 샤프트에 관한 복수의 키포인트, 그 변형한 이미지에서 검출되는 클럽의 페이스에 관한 복수의 키포인트 및 그 변형한 이미지에서 검출되는 사용자의 적어도 하나의 관절에 각각 기초하여, 위의 샤프트에 관한 복수의 키포인트의 위치, 위의 페이스에 관한 복수의 키포인트의 위치 및 위의 사용자의 적어도 하나의 관절의 위치를 각각 결정할 수 있다.

구체적으로, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)는, 사용자의 골프 스윙에 관한 촬영 이미지에 포함되는 적어도 일부의 프레임을 변형할 수 있다. 본 발명의 일 실시예에 따르면, 이러한 변형에는 프레임을 좌우 반전시키거나 프레임(또는 그 프레임에 포함되는 적어도 일부의 객체)의 위치를 이동시키는 것 등이 포함될 수 있다. 그리고, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)는, 위와 같이 변형된 사용자의 골프 스윙에 관한 촬영 이미지에서 클럽의 샤프트에 관한 복수의 키포인트 및 클럽의 페이스에 관한 복수의 키포인트 중 적어도 하나와 사용자의 적어도 하나의 관절을 검출할 수 있다. 그리고, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)는, 위와 같이 변형된 사용자의 골프 스윙에 관한 촬영 이미지에서의 검출 결과와 본래의 사용자의 골프 스윙에 관한 촬영 이미지에서의 검출 결과를 모두 참조(예를 들면, 각 이미지로부터 생성되는 히트 맵의 평균값을 참조)하여 클럽의 샤프트에 관한 복수의 키포인트 및 클럽의 페이스에 관한 복수의 키포인트 중 적어도 하나의 위치와 사용자의 적어도 하나의 관절의 위치를 결정함으로써, 인공신경망 모델의 검출 정확도를 높일 수 있다.

다만, 본 발명의 일 실시예에 따른 프레임의 변형 방법이나 변형 횟수가 위에서 설명된 것에 한정되는 것은 아니며, 본 발명의 목적을 달성할 수 있는 범위 내에서 다양하게 변경 및/또는 조합될 수 있다.

한편, 본 발명의 일 실시예에 따르면, 위와 같이 변형되는 프레임은 사용자의 골프 스윙을 분석함에 있어서 중요도가 높은 프레임(예를 들면, 백스윙 탑에 관한 프레임)일 수 있다. 그리고, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)는, 사용자의 골프 스윙에 관한 촬영 이미지에서 일차적으로 검출되는 클럽의 샤프트에 관한 복수의 키포인트 및 클럽의 페이스에 관한 복수의 키포인트 중 적어도 하나와 사용자의 적어도 하나의 관절을 참조하여 위와 같이 변형될 프레임을 결정할 수 있다.

또한, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)는, 사용자의 골프 스윙에 관한 촬영 이미지에서 여러 번의 검출을 수행하고 그 검출 결과를 모두 참조함으로써, 인공신경망 모델의 검출 정확도를 높일 수 있다. 이를 위해, 예를 들면, 랜덤 포레스트(Random Forest), 에이다부스트(AdaBoost) 등의 앙상블(Ensemble) 기법이 이용될 수 있다.

다음으로, 본 발명의 일 실시예에 따른 골프 스윙 정보 추정부(120)는, 클럽의 샤프트에 관한 복수의 키포인트의 위치 및 그 클럽의 페이스에 관한 복수의 키포인트의 위치 중 적어도 하나에 기초하여 그 클럽의 자세를 추정하는 기능을 수행할 수 있다.

구체적으로, 본 발명의 일 실시예에 따른 골프 스윙 정보 추정부(120)는, 클럽의 샤프트에 관한 복수의 키포인트 사이의 위치 관계 및 클럽의 페이스에 관한 복수의 키포인트의 위치 관계 중 적어도 하나에 기초하여, 그 클럽의 자세를 추정할 수 있다. 여기서, 본 발명의 일 실시예에 따르면, 클럽의 자세에는 클럽의 샤프트의 자세, 클럽의 페이스의 자세 등이 포함될 수 있고, 샤프트의 자세에는 그 샤프트의 위치나 그 샤프트가 향하는 방향, 특정 기준선(예를 들면, 사용자의 신체에 관한 기준선 등)과 샤프트가 이루는 각도 등이 포함될 수 있으나, 이에 제한되는 것은 아니다.

또한, 본 발명의 일 실시예에 따른 골프 스윙 정보 추정부(120)는, 클럽의 샤프트의 상부에 위치하는 임의의 포인트, 그 샤프트의 하부에 위치하는 임의의 포인트 및 그 상부에 위치하는 임의의 포인트와 하부에 위치하는 임의의 포인트 사이의 어느 한 위치 중 적어도 두 위치에 관한 확률 정보에 기초하여 위의 클럽의 자세를 추정할 수 있다.

예를 들어, 도 3의 (a)를 참조하면, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)에 의하여 사용자의 골프 스윙에 관한 촬영 이미지에서 클럽의 샤프트의 상부에 위치하는 임의의 포인트(313), 그 샤프트의 하부에 위치하는 임의의 포인트(311) 및 그 샤프트의 중간(312)이 그 샤프트에 관한 복수의 키포인트로서 검출되었고, 하부에 위치하는 임의의 포인트(311)의 위치에 관한 확률이 소정의 임계값을 초과하는 경우를 가정할 수 있다. 이러한 경우에, 본 발명의 일 실시예에 따른 골프 스윙 정보 추정부(120)는, 클럽의 샤프트의 상부에 위치하는 임의의 포인트(313)부터 하부에 위치하는 임의의 포인트(311)를 그 클럽의 자세(또는 클럽이 향하는 방향)로서 추정할 수 있다.

다른 예를 들어, 도 3의 (a)를 참조하면, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)에 의하여 사용자의 골프 스윙에 관한 촬영 이미지에서 클럽의 샤프트의 상부에 위치하는 임의의 포인트(313), 그 샤프트의 하부에 위치하는 임의의 포인트(311) 및 그 샤프트의 중간(312)이 그 샤프트에 관한 복수의 키포인트로서 검출되었고, 하부에 위치하는 임의의 포인트(311)의 위치에 관한 확률이 소정의 임계값 이하이고, 중간(312)의 위치에 관한 확률이 소정의 임계값을 초과하는 경우를 가정할 수 있다. 이러한 경우에, 본 발명의 일 실시예에 따른 골프 스윙 정보 추정부(120)는, 클럽의 샤프트의 상부에 위치하는 임의의 포인트(313)부터 중간(312)을 그 클럽의 자세(또는 클럽이 향하는 방향)로서 추정할 수 있다.

또 다른 예를 들어, 도 3의 (b)를 참조하면, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)에 의하여 사용자의 골프 스윙에 관한 촬영 이미지에서 클럽의 샤프트의 상부에 위치하는 임의의 포인트(322) 및 그 샤프트의 중간(321)이 그 샤프트에 관한 복수의 키포인트로서 검출되었고, 중간(321)의 위치에 관한 확률이 소정의 임계값을 초과하는 경우를 가정할 수 있다. 이러한 경우에, 본 발명의 일 실시예에 따른 골프 스윙 정보 추정부(120)는, 클럽의 샤프트의 상부에 위치하는 임의의 포인트(322)부터 중간(321)을 그 클럽의 자세(또는 클럽이 향하는 방향)로서 추정할 수 있다.

도 5는 본 발명의 일 실시예에 따라 클럽의 자세 및 사용자의 골프 스윙에 관한 정보를 추정하는 과정을 예시적으로 나타내는 도면이다.

예를 들어, 도 5를 참조하면, 본 발명의 일 실시예에 따른 클럽 및 관절 검출부(110)는, 사용자의 골프 스윙에 관한 촬영 이미지에서 클럽의 페이스(510)에 관한 복수의 키포인트(511)를 검출할 수 있다. 그리고, 본 발명의 일 실시예에 따른 골프 스윙 정보 추정부(120)는, 복수의 키포인트(511)의 위치 관계(예를 들면, 복수의 키포인트에 의하여 구성되는 면의 형태, 면적 등)에 기초하여 그 클럽의 페이스(510)의 자세(예를 들면, 그 페이스가 향하는 방향, 특정 기준선(예를 들면, 사용자의 신체에 관한 기준선 등)과 그 페이스가 이루는 각도, 골프 스윙 중에 클럽이 열리고 닫히는 정도 등)를 추정할 수 있다.

또한, 본 발명의 일 실시예에 따른 골프 스윙 정보 추정부(120)는, 상술한 바와 같이 추정되는 클럽의 자세 및 사용자의 적어도 하나의 관절의 위치를 참조하여 위의 사용자의 골프 스윙에 관한 정보를 추정하는 기능을 수행할 수 있다.

구체적으로, 본 발명의 일 실시예에 따른 골프 스윙 정보 추정부(120)는, 사용자의 적어도 하나의 관절의 위치에 기초하여 위의 사용자의 적어도 하나의 관절의 종류, 위의 사용자의 적어도 하나의 관절의 위치, 위의 사용자의 적어도 하나의 관절과 위의 사용자의 다른 적어도 하나의 관절 사이의 거리 및 위의 사용자의 적어도 하나의 관절과 위의 사용자의 다른 적어도 하나의 관절 사이에서 형성되는 각도 중 적어도 하나를 추정할 수 있고, 이를 바탕으로 위의 사용자의 자세를 추정할 수 있다. 그리고, 본 발명의 일 실시예에 따른 골프 스윙 정보 추정부(120)는, 이렇게 추정되는 위의 사용자의 자세 및 클럽의 자세에 기초하여 위의 사용자의 골프 스윙에 관한 정보를 추정할 수 있다.

여기서, 본 발명의 일 실시예에 따르면, 사용자의 골프 스윙에 관한 정보에는 사용자의 적어도 하나의 관절의 위치만으로는 파악하기 어려운 정보, 즉, 손목 컨트롤, 클럽 컨트롤 등에 관한 정보가 포함될 수 있다. 예를 들어, 본 발명의 일 실시예에 따르면, 사용자의 골프 스윙에 관한 정보에는 스윙 플레인(swing plane)에 관한 정보(예를 들면, 원 플레인 스윙인지, 투 플레인 스윙인지, 샬로윙(shallowing) 스윙인지 등), 코킹(cocking)에 관한 정보(예를 들면, 얼리 코킹(early cocking), 코킹, 오버 스윙(over swing), 캐스팅(casting), 스쿠핑(scooping) 등이 발생되었는지 여부), 백 스윙(back swing) 시 클럽 패스(club path)에 관한 정보(예를 들면, 클럽을 안쪽으로 빼는지, 바깥쪽으로 빼는지 등), 클럽 페이스에 관한 정보(예를 들면, 테이크 백(take back) 시 또는 백 스윙 탑(back swing top)에서 클럽이 닫혔는지, 열렸는지 등) 등이 포함될 수 있다. 다만, 본 발명의 일 실시예에 따른 사용자의 골프 스윙에 관한 정보가 위의 열거된 것에 한정되는 것은 아니고, 본 발명의 목적을 달성할 수 있는 범위 내에서 다양하게 변경될 수 있다.

한편, 본 발명의 일 실시예에 따르면, 사용자의 골프 스윙에 관한 정보는 골프 스윙을 구성하는 부분 동작별로 구분되어 추정될 수 있다.

구체적으로, 본 발명의 일 실시예에 따른 골프 스윙은, 어드레스(address), 테이크 어웨이(take away), 백 스윙(back swing), 탑 오브 스윙(top of swing), 다운 스윙(down swing), 임팩트(impact), 팔로 스루(follow through) 및 피니쉬(finish)와 같은 8단계의 부분 동작으로 구성될 수 있다. 그리고, 본 발명의 일 실시예에 따른 골프 스윙 정보 추정부(120)는, 클럽의 자세 및 사용자의 적어도 하나의 관절의 위치를 참조하여, 그 사용자의 골프 스윙에 관하여 촬영된 이미지가 위의 8단계 중 어느 단계에 해당하는지를 도출하고, 골프 스윙을 구성하는 부분 동작별로 구분하여 그 사용자의 골프 스윙에 관한 정보를 추정하는 기능을 수행할 수 있다.

한편, 본 발명의 일 실시예에 따른 골프 스윙이 반드시 위와 같은 8단계로 구분되는 것은 아니다. 즉, 위의 8단계 각각을 구성하는 세부적인 단계를 더 포함하여 구분될 수도 있고, 위의 8단계의 적어도 일부가 하나의 단계를 구성하는 것으로 구분될 수도 있다.

도 6 및 도 7은 본 발명의 일 실시예에 따라 클럽의 자세 및 사용자의 골프 스윙에 관한 정보를 추정하는 과정을 예시적으로 나타내는 도면이다.

예를 들어, 도 6을 참조하면, 본 발명의 일 실시예에 따른 골프 스윙 정보 추정부(120)는, 사용자의 적어도 하나의 관절의 위치에 기초하여 추정될 수 있는 사용자의 팔의 각도(또는 방향, 즉, 사용자의 자세)(611, 621 및 631) 및 클럽의 페이스에 관한 복수의 키포인트에 기초하여 추정될 수 있는 클럽의 페이스의 자세(예를 들면, 페이스가 향하는 방향)(610, 620 및 630)를 참조하여 사용자의 골프 스윙에 관한 정보를 추정할 수 있다.

다른 예를 들어, 도 7을 참조하면, 본 발명의 일 실시예에 따른 골프 스윙 정보 추정부(120)는, 사용자의 적어도 하나의 관절의 위치에 기초하여 추정될 수 있는 사용자의 손목의 방향(또는 각도, 즉, 사용자의 자세)(720) 및 클럽의 샤프트에 관한 복수의 키포인트에 기초하여 추정될 수 있는 클럽의 샤프트의 자세(예를 들면, 샤프트가 향하는 방향)(710)를 참조하여 사용자의 골프 스윙에 관한 정보를 추정할 수 있다.

다음으로, 본 발명의 일 실시예에 따른 통신부(130)는 클럽 및 관절 검출부(110) 및 골프 스윙 정보 추정부(120)로부터의/로의 데이터 송수신이 가능하도록 하는 기능을 수행할 수 있다.

마지막으로, 본 발명의 일 실시예에 따른 제어부(140)는 클럽 및 관절 검출부(110), 골프 스윙 정보 추정부(120) 및 통신부(130) 간의 데이터의 흐름을 제어하는 기능을 수행할 수 있다. 즉, 본 발명의 일 실시예에 따른 제어부(140)는 디바이스(100)의 외부로부터의/로의 데이터 흐름 또는 디바이스(100)의 각 구성요소 간의 데이터 흐름을 제어함으로써, 클럽 및 관절 검출부(110), 골프 스윙 정보 추정부(120) 및 통신부(130)에서 각각 고유 기능을 수행하도록 제어할 수 있다.

이상 설명된 본 발명에 따른 실시예는 다양한 컴퓨터 구성요소를 통하여 실행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등과 같은, 프로그램 명령어를 저장하고 실행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위하여 하나 이상의 소프트웨어 모듈로 변경될 수 있으며, 그 역도 마찬가지이다.

이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항과 한정된 실시예 및 도면에 의하여 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위하여 제공된 것일 뿐, 본 발명이 상기 실시예에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정과 변경을 꾀할 수 있다.

따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 또는 이로부터 등가적으로 변경된 모든 범위는 본 발명의 사상의 범주에 속한다고 할 것이다.

100: 디바이스
110: 클럽 및 관절 검출부
120: 골프 스윙 정보 추정부
130: 통신부
140: 제어부

Claims

골프 스윙에 관한 정보를 추정하기 위한 방법으로서,
사용자의 골프 스윙에 관한 촬영 이미지가 획득되면, 인공신경망 모델을 이용하여 상기 촬영 이미지에서 클럽의 샤프트에 관한 복수의 키포인트 및 상기 클럽의 페이스에 관한 복수의 키포인트 중 적어도 하나와 상기 사용자의 적어도 하나의 관절을 검출하는 단계, 및
상기 샤프트에 관한 복수의 키포인트의 위치 및 상기 페이스에 관한 복수의 키포인트의 위치 중 적어도 하나에 기초하여 상기 클럽의 자세를 추정하고, 상기 클럽의 자세 및 상기 사용자의 적어도 하나의 관절의 위치를 참조하여 상기 사용자의 골프 스윙에 관한 정보를 추정하는 단계를 포함하는
방법.
제1항에 있어서,
상기 샤프트에 관한 복수의 키포인트에는, 상기 샤프트의 상부에 위치하는 임의의 포인트, 상기 샤프트의 하부에 위치하는 임의의 포인트 및 상기 상부에 위치하는 임의의 포인트와 상기 하부에 위치하는 임의의 포인트 사이의 어느 한 위치 중 적어도 두 위치가 포함되는
방법.
제2항에 있어서,
상기 추정 단계에서, 상기 적어도 두 위치에 관한 확률 정보에 기초하여 상기 클럽의 자세를 추정하는
방법.
제1항에 있어서,
상기 클럽의 자세에는 상기 클럽의 페이스의 자세가 포함되고,
상기 페이스에 관한 복수의 키포인트에는, 상기 페이스의 자세를 추정할 수 있도록 하는 적어도 세 위치가 포함되는
방법.
제1항에 있어서,
상기 인공신경망 모델은 깊이별 컨볼루션(Depthwise Convolution) 및 지점별 컨볼루션(Pointwise Convolution)을 이용하여 경량화된 것인
방법.
제1항에 있어서,
상기 추정 단계에서, 상기 샤프트에 관한 복수의 키포인트의 위치, 상기 페이스에 관한 복수의 키포인트의 위치 및 상기 사용자의 적어도 하나의 관절의 위치는, 상기 촬영 이미지를 변형한 이미지에서 검출되는 상기 샤프트에 관한 복수의 키포인트, 상기 촬영 이미지를 변형한 이미지에서 검출되는 상기 페이스에 관한 복수의 키포인트 및 상기 촬영 이미지를 변형한 이미지에서 검출되는 상기 사용자의 적어도 하나의 관절에 각각 기초하여 결정되는
방법.
제1항에 따른 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 비일시성의 컴퓨터 판독 가능 기록 매체.
골프 스윙에 관한 정보를 추정하기 위한 디바이스로서,
사용자의 골프 스윙에 관한 촬영 이미지가 획득되면, 인공신경망 모델을 이용하여 상기 촬영 이미지에서 클럽의 샤프트에 관한 복수의 키포인트 및 상기 클럽의 페이스에 관한 복수의 키포인트 중 적어도 하나와 상기 사용자의 적어도 하나의 관절을 검출하는 클럽 및 관절 검출부, 및
상기 샤프트에 관한 복수의 키포인트의 위치 및 상기 페이스에 관한 복수의 키포인트의 위치 중 적어도 하나에 기초하여 상기 클럽의 자세를 추정하고, 상기 클럽의 자세 및 상기 사용자의 적어도 하나의 관절의 위치를 참조하여 상기 사용자의 골프 스윙에 관한 정보를 추정하는 골프 스윙 정보 추정부를 포함하는
디바이스.
제8항에 있어서,
상기 샤프트에 관한 복수의 키포인트에는, 상기 샤프트의 상부에 위치하는 임의의 포인트, 상기 샤프트의 하부에 위치하는 임의의 포인트 및 상기 상부에 위치하는 임의의 포인트와 상기 하부에 위치하는 임의의 포인트 사이의 어느 한 위치 중 적어도 두 위치가 포함되는
디바이스.
제9항에 있어서,
상기 골프 스윙 정보 추정부가, 상기 적어도 두 위치에 관한 확률 정보에 기초하여 상기 클럽의 자세를 추정하는
디바이스.
제8항에 있어서,
상기 클럽의 자세에는 상기 클럽의 페이스의 자세가 포함되고,
상기 페이스에 관한 복수의 키포인트에는, 상기 페이스의 자세를 추정할 수 있도록 하는 적어도 세 위치가 포함되는
디바이스.
제8항에 있어서,
상기 인공신경망 모델은 깊이별 컨볼루션(Depthwise Convolution) 및 지점별 컨볼루션(Pointwise Convolution)을 이용하여 경량화된 것인
디바이스.
제8항에 있어서,
상기 클럽 및 관절 검출부가, 상기 촬영 이미지를 변형한 이미지에서 검출되는 상기 샤프트에 관한 복수의 키포인트, 상기 촬영 이미지를 변형한 이미지에서 검출되는 상기 페이스에 관한 복수의 키포인트 및 상기 촬영 이미지를 변형한 이미지에서 검출되는 상기 사용자의 적어도 하나의 관절에 각각 기초하여, 상기 샤프트에 관한 복수의 키포인트의 위치, 상기 페이스에 관한 복수의 키포인트의 위치 및 상기 사용자의 적어도 하나의 관절의 위치를 각각 결정하는
디바이스.