KR102234165B1 - 경기 분석을 위한 서비스 제공 장치 및 방법 - Google Patents

경기 분석을 위한 서비스 제공 장치 및 방법 Download PDF

Info

Publication number
KR102234165B1
KR102234165B1 KR1020200086190A KR20200086190A KR102234165B1 KR 102234165 B1 KR102234165 B1 KR 102234165B1 KR 1020200086190 A KR1020200086190 A KR 1020200086190A KR 20200086190 A KR20200086190 A KR 20200086190A KR 102234165 B1 KR102234165 B1 KR 102234165B1
Authority
KR
South Korea
Prior art keywords
information
game
analysis
player
image
Prior art date
Application number
KR1020200086190A
Other languages
English (en)
Inventor
김경인
Original Assignee
주식회사 스포츠로그
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 스포츠로그 filed Critical 주식회사 스포츠로그
Priority to KR1020200086190A priority Critical patent/KR102234165B1/ko
Application granted granted Critical
Publication of KR102234165B1 publication Critical patent/KR102234165B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/251Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30221Sports video; Sports image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Tourism & Hospitality (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Geometry (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은 경기 분석을 위한 서비스 제공 장치 및 방법에 관한 것으로서, 더욱 상세히는 구기 종목 관련 경기를 촬영한 영상으로부터 선수의 움직임과 공의 움직임을 검출한 후 경기 판정과 함께 학습 모델에 학습시켜 상기 학습 모델을 통해 분석 대상인 선수의 경기 분석 결과를 제공하는 경기 분석을 위한 서비스 제공 장치 및 방법에 관한 것이다. 본 발명은 학습 모델을 통해 선수가 사용한 기술과 유사도가 가장 높은 학습 모델에 학습된 기술에 대한 정보를 제공하여 선수가 경기 중에 사용한 기술 및 상기 유사도를 기반으로 한 기술의 정확도를 실시간으로 파악할 수 있도록 제공함과 아울러 선수의 기술 사용에 따라 검출된 공의 궤적과 유사한 공의 궤적에 대응되어 학습 모델에 학습된 경기 판정 결과를 기초로 기술 사용에 따른 기술 성공 여부 및 득점 성공 여부를 학습 모델을 통해 자동 판단하여 자동으로 득점을 기록하면서 경기 결과를 산출할 수 있어, 경기에 참여하는 선수를 객관적으로 정확하고 신뢰성 있게 분석할 수 있을 뿐만 아니라 경기 현황을 자동 기록하여 경기 분석에 대한 편의성 및 효율성을 보장하는 효과가 있다.

Description

경기 분석을 위한 서비스 제공 장치 및 방법{Service providing apparatus and method for match analysis}
본 발명은 경기 분석을 위한 서비스 제공 장치 및 방법에 관한 것으로서, 더욱 상세히는 구기 종목 관련 경기를 촬영한 영상으로부터 선수의 움직임과 공의 움직임을 검출한 후 경기 판정과 함께 학습 모델에 학습시켜 상기 학습 모델을 통해 분석 대상인 선수의 경기 분석 결과를 제공하는 경기 분석을 위한 서비스 제공 장치 및 방법에 관한 것이다.
구기 종목의 경기 분석을 위해서는 선수의 움직임과 공의 비행기록 등을 연속적으로 기록하고 분석할 수 있는 정보가 필요하다.
그러나, 빠르게 움직이는 선수와 공의 움직임을 사람이 직접 카운트 하기에는 굉장히 많은 시간과 노력이 투입된다. 이러한 어려움으로 인해, 대부분의 구기 종목은 체계적이고 정확한 경기분석 정보가 없이 단편적인 승패 기록과 기억만으로 경기를 분석하여 작전을 구사하며, 부족한 경기분석 정보를 보충하기 위해 실제로 경기영상을 기초로 선수와 공의 움직임을 사람이 직접 카운트 하기도 하는데 이러한 수작업은 경기 분석 정보의 신뢰성을 보장할 수 없을 뿐만 아니라 상당히 비효율적인 문제가 있다.
최근 이러한 문제점을 개선하여, 카메라 영상을 통한 모션분석 기술이 등장하고 있으며, 이러한 모션 분석 기술은 선수의 관절별 움직임을 추적할 수 있는 스켈레톤 모션 트랙킹 기술이 적용되어 선수의 움직임을 스켈레톤 기반으로 가시적으로 경기 분석자가 확인할 수 있도록 제공하여 선수의 경기 중 동작에 대한 판별 정확도를 향상시키고 있다.
그러나, 이러한 모션 분석 기술을 이용하더라도 단순 스켈레톤 기반으로 선수의 움직임이나 볼의 움직임을 영상으로 보여주는데 그치며, 이에 따라 여전히 영상을 통해 사람이 직접 눈으로 확인하여 경기를 분석해야 하므로 경기 분석 내용이 분석하는 사람에 따라 상이하여 경기 분석 내용의 객관성을 담보하기 어려울 뿐만 아니라 이로 인해 경기 분석에 대한 정확도 및 신뢰성이 여전히 떨어지는 문제가 있다.
한국공개특허 제10-2005-0110593호
본 발명은 구기 종목의 경기 종류에 따른 라인 규정과 선수 정보 및 카메라 정보를 기초로 경기 영상에 대한 캘리브레이션을 통해 상기 영상을 실재 공간에 매핑한 매핑 정보를 생성한 후 상기 영상에 대한 영상 분석을 통해 선수의 움직임에 따른 스켈레톤 정보와 공의 움직임에 따른 좌표 정보를 검출하여 경기 판정 정보와 함께 학습 모델에 학습시키며, 학습 완료된 학습 모델에 분석 대상인 경기의 영상으로부터 검출한 정보를 적용하여 정확하고 신뢰성 있는 경기 분석 결과를 제공하는데 그 목적이 있다.
본 발명의 실시예에 따른 경기 분석을 위한 서비스 제공 장치의 서비스 제공 방법은, 카메라부를 통해 수신된 경기를 촬영한 영상에 실제 공간을 매핑하는 캘리브레이션을 수행하여 매핑 정보를 생성하는 캘리브레이션 단계와, 상기 영상에서 선수에 해당하는 제 1 객체를 검출하고, 상기 제 1 객체를 추적하면서 상기 제 1 객체에 대해 스켈레톤 분석을 통한 스켈레톤 정보를 생성하며, 상기 영상에서 공에 해당하는 제 2 객체를 검출하여 추적하는 추적 단계와, 상기 매핑 정보를 기초로 상기 제 2 객체의 위치 변화 정도가 미리 설정된 기준치 이상인 이벤트 발생시마다 상기 이벤트 발생 시점을 기준으로 미리 설정된 시간 동안에 생성된 하나 이상의 상기 스켈레톤 정보를 포함하는 기술 정보를 생성하고, 상기 이벤트 발생 시점부터 다음 이벤트가 발생하기 전까지 상기 제 2 객체의 움직임에 대한 하나 이상의 좌표 정보를 포함하는 궤적 정보를 생성하는 수집 단계와, 상기 이벤트에 대응되어 생성된 상기 기술정보와 상기 궤적 정보를 이벤트에 대한 사용자 입력에 따른 경기 판정 정보와 매칭하여 미리 설정된 학습 모델에 학습시키는 학습 단계 및 경기 분석 대상인 분석 대상 영상에 대해 상기 기술 정보 및 궤적 정보를 생성한 후 학습이 완료된 상기 학습 모델에 적용하여 상기 학습 모델을 통해 경기 분석 정보를 생성하는 경기 분석 단계를 포함할 수 있다.
본 발명과 관련된 일 예로서, 상기 캘리브레이션 단계는, 상기 영상에서 상기 경기에 대응되어 미리 설정된 라인 규정에 따른 패턴에 대응되는 복수의 라인을 검출한 후 상기 라인 규정에 따라 상기 복수의 라인별 길이를 식별하고, 상기 복수의 라인별 길이와 상기 경기에 참가하는 선수별 선수정보 및 상기 영상을 촬영한 카메라에 대한 카메라 정보를 기초로 실재 공간을 상기 영상에 매핑한 매핑 정보를 생성하는 것을 특징으로 할 수 있다.
본 발명과 관련된 일 예로서, 상기 선수 정보는 선수의 키를 포함하고, 상기 카메라 정보는 카메라의 화각 및 상기 카메라가 배치된 높이를 포함하는 것을 특징으로 할 수 있다.
본 발명과 관련된 일 예로서, 상기 경기 분석 단계는, 상기 영상 대신 분석 대상 영상에 대해 상기 추적 단계 및 수집 단계를 수행하고, 상기 분석 대상 영상에 대해 생성되는 상기 기술 정보 및 궤적 정보를 포함하는 수집 정보를 상기 학습이 완료된 학습 모델에 적용하여 상기 학습 모델을 통해 상기 수집 정보와 상관 계수가 미리 설정된 기준치 이상인 하나 이상의 경기 판정 정보를 기초로 상기 경기 분석 정보를 생성하는 것을 특징으로 할 수 있다.
본 발명과 관련된 일 예로서, 상기 경기 판정 정보는 공에 대한 타격 여부, 복수의 미리 설정된 기술 중 상기 기술 정보에 대응되며 공의 타격에 사용된 특정 기술의 기술명, 상기 특정 기술의 기술 성공 여부, 득점 여부 및 선수 이동 방향 중 적어도 하나를 포함하며, 상기 경기 분석 정보는 공에 대한 타격 여부, 상기 경기 판정 정보의 학습에 따라 상기 학습 모델에 설정된 복수의 서로 다른 기술명 중 공의 타격에 사용된 특정 기술에 대응되며 상기 수집 정보에 포함된 기술 정보와의 상관 계수가 가장 높은 특정 기술명, 상기 상관 계수에 따른 상기 특정 기술명에 대응되어 상기 학습 모델에 학습된 기술 정보와의 유사도, 상기 경기 분석 정보에 대응되는 수집 정보로부터 추출한 궤적 정보, 기술 성공 여부, 득점 여부 및 선수 이동 방향 중 적어도 하나를 포함하는 것을 특징으로 할 수 있다.
본 발명과 관련된 일 예로서, 상기 경기 분석 단계는, 상기 수집 정보에 포함되는 기술 정보에 포함된 하나 이상의 스켈레톤 정보를 클립 영상을 생성하고, 상기 클립 영상을 상기 경기 분석 정보에 포함시키는 단계를 더 포함하는 것을 특징으로 할 수 있다.
본 발명과 관련된 일 예로서, 상기 경기 분석 단계는, 상기 분석 대상 영상에 대해 상기 추적 단계 및 수집 단계를 반복 수행하여 시간 경과에 따라 하나 이상의 수집 정보를 생성하고, 상기 수집 정보 생성시마다 상기 학습 모델에 적용하여 상기 학습 모델을 통해 상기 하나 이상의 수집 정보와 각각 대응되는 하나 이상의 경기 분석 정보를 생성하며, 상기 하나 이상의 경기 분석 정보를 기초로 경기 분석 결과 정보를 생성하는 것을 특징으로 할 수 있다.
본 발명과 관련된 일 예로서, 상기 경기 분석 단계는, 상기 분석 대상 영상에 대응되는 분석 대상 경기에 참여하는 복수의 선수별 선수 정보 중 사용자 입력에 따라 선택된 특정 선수 정보와 상기 분석 대상 영상에 대한 영상 분석을 통해 검출된 복수의 객체 중 사용자 입력에 따라 선택된 특정 객체를 상호 매칭하는 매칭 단계를 더 포함하고, 상기 제 1 객체인 상기 특정 객체를 대상으로 상기 하나 이상의 경기 분석 정보를 생성하고, 상기 하나 이상의 경기 분석 정보를 기초로 상기 특정 객체에 대한 경기 분석 결과 정보를 생성하는 것을 특징으로 할 수 있다.
본 발명과 관련된 일 예로서, 상기 경기 분석 결과 정보는 상기 특정 선수가 시도한 하나 이상의 기술과 각각 대응되는 하나 이상의 기술명, 상기 기술명별 기술의 시도 횟수, 상기 하나 이상의 기술별 기술 시도시 득점 여부에 따른 성공횟수, 상기 기술명별 성공 확률, 상기 하나 이상의 경기 분석 정보 각각에 포함된 궤적 정보별로 최종 위치가 상기 라인 규정에 따른 득점 가능 영역 내에 속하는지 여부에 따라 상기 궤적정보별로 추출된 공에 대한 복수의 최종 위치 및 경기 승패 여부 중 적어도 하나를 포함하는 것을 특징으로 할 수 있다.
본 발명의 실시예에 따른, 경기 분석을 위한 서비스 제공 장치는, 카메라부로부터 수신된 경기를 촬영한 영상에 실제 공간을 매핑하는 캘리브레이션을 수행하여 매핑 정보를 생성하는 캘리브레이션부와, 상기 영상에서 선수에 해당하는 제 1 객체를 검출하고, 상기 제 1 객체를 추적하면서 상기 제 1 객체에 대해 스켈레톤 분석을 통한 스켈레톤 정보를 생성하며, 상기 영상에서 공에 해당하는 제 2 객체를 검출하여 추적하는 추적부와, 상기 매핑 정보를 기초로 상기 제 2 객체의 위치 변화 정도가 미리 설정된 기준치 이상인 이벤트 발생시마다 상기 이벤트 발생 시점을 기준으로 미리 설정된 시간 동안에 생성된 하나 이상의 상기 스켈레톤 정보를 포함하는 기술 정보를 생성하고, 상기 이벤트 발생 시점부터 다음 이벤트가 발생하기 전까지 상기 제 2 객체의 움직임에 대한 하나 이상의 좌표 정보를 포함하는 궤적 정보를 생성하는 수집부와, 상기 이벤트에 대응되어 생성된 상기 기술정보와 상기 궤적 정보를 이벤트에 대한 사용자 입력에 따른 경기 판정 정보와 매칭하여 미리 설정된 학습 모델에 학습시키는 학습부 및 경기 분석 대상인 분석 대상 영상에 대해 상기 기술 정보 및 궤적 정보를 생성한 후 학습이 완료된 상기 학습 모델에 적용하여 상기 학습 모델을 통해 경기 분석 정보를 생성하는 제어부를 포함할 수 있다.
본 발명은 복수의 서로 다른 경기 각각을 촬영한 복수의 영상을 기초로 검출한 선수 및 공의 움직임과 해당 움직임에 따른 경기 판정에 대한 정보를 포함하는 학습 데이터를 생성한 후 학습 모델에 학습시키고, 분석 대상 경기에 대한 영상을 기초로 공의 타격에 의한 이벤트 발생시 선수가 공의 타격에 사용한 기술과 공의 궤적에 대한 정보를 획득한 후 학습 모델에 적용하여 학습 모델을 통해 선수가 사용한 기술과 유사도가 가장 높은 학습 모델에 학습된 기술에 대한 정보를 제공하여 선수가 경기 중에 사용한 기술 및 상기 유사도를 기반으로 한 기술의 정확도를 실시간으로 파악할 수 있도록 제공함과 아울러 선수의 기술 사용에 따라 검출된 공의 궤적과 유사한 공의 궤적에 대응되어 학습 모델에 학습된 경기 판정 결과를 기초로 기술 사용에 따른 기술 성공 여부 및 득점 성공 여부를 학습 모델을 통해 자동 판단하여 자동으로 득점을 기록하면서 경기 결과를 산출할 수 있어, 경기에 참여하는 선수를 객관적으로 정확하고 신뢰성 있게 분석할 수 있을 뿐만 아니라 경기 현황을 자동 기록하여 경기 분석에 대한 편의성 및 효율성을 보장하는 효과가 있다.
또한, 본 발명은 경기에 참가하는 선수별로 제공되는 경기 분석 결과 정보를 통해 사용자가 특정 선수가 경기 중에 사용한 기술과 해당 사용 기술의 유사도에 따른 기술 정확도, 기술 성공 여부 및 클립 영상을 통한 기술 사용시 문제점 등을 확인 가능하도록 제공하여 특정 선수에 대한 정확한 분석과 더불어 상대 선수에 대한 분석을 통해 경기 전략을 효과적으로 수립할 수 있도록 지원하는 효과가 있다.
도 1은 본 발명의 실시예에 따른 경기 분석을 위한 경비 분석 시스템의 구성 환경도.
도 2는 본 발명의 실시예에 따른 경기 분석을 위한 서비스 제공 장치의 구성도.
도 3은 본 발명의 실시예에 따른 경기 분석을 위한 서비스 제공 장치의 학습 과정에 대한 동작 예시도.
도 4는 본 발명의 실시예에 따른 경기 분석을 위한 서비스 제공 장치의 캘리브레이션 동작에 대한 예시도.
도 5는 본 발명의 실시예에 따른 경기 분석을 위한 서비스 제공 장치의 스켈레톤 분석에 대한 예시도.
도 6은 본 발명의 실시예에 따른 경기 분석을 위한 서비스 제공 장치의 이벤트 발생에 따른 동작 예시도.
도 7 내지 도 8은 본 발명의 실시예에 따른 경기 분석을 위한 서비스 제공 장치의 경기 분석 정보 제공에 대한 동작 예시도.
도 9는 본 발명의 실시예에 따른 경기 분석을 위한 서비스 제공 방법에 대한 순서도.
이하, 도면을 참고하여 본 발명의 상세 실시예를 설명한다.
도 1은 본 발명의 실시예에 따른 경기 분석을 위한 서비스 제공 장치(100)가 포함된 경기 분석 시스템의 구성도이다.
도시된 바와 같이, 경기 분석 시스템은 경기에 대한 영상을 촬영하는 카메라부(10)(또는 카메라)와 통신망을 통해 연결된 서비스 제공 장치(100) 및 상기 카메라부(10)를 포함하여 구성될 수 있다.
이때, 본 발명에서 설명하는 통신망은, 유/무선 통신망을 포함할 수 있으며, 이러한 무선 통신망의 일례로 무선랜(Wireless LAN: WLAN), DLNA(Digital Living Network Alliance), 와이브로(Wireless Broadband: Wibro), 와이맥스(World Interoperability for Microwave Access: Wimax), GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), CDMA2000(Code Division Multi Access 2000), EV-DO(Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA(Wideband CDMA), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), IEEE 802.16, 롱 텀 에볼루션(Long Term Evolution: LTE), LTE-A(Long Term Evolution-Advanced), 광대역 무선 이동 통신 서비스(Wireless Mobile Broadband Service: WMBS), 5G 이동통신 서비스, 블루투스(Bluetooth), LoRa(Long Range), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association: IrDA), UWB(Ultra Wideband), 지그비(ZigBee), 인접 자장 통신(Near Field Communication: NFC), 초음파 통신(Ultra Sound Communication: USC), 가시광 통신(Visible Light Communication: VLC), 와이 파이(Wi-Fi), 와이 파이 다이렉트(Wi-Fi Direct) 등이 포함될 수 있다. 또한, 유선 통신망으로는 유선 LAN(Local Area Network), 유선 WAN(Wide Area Network), 전력선 통신(Power Line Communication: PLC), USB 통신, 이더넷(Ethernet), 시리얼 통신(serial communication), 광/동축 케이블 등이 포함될 수 있다.
또한, 상기 서비스 제공 장치(100)는 서버로 구성될 수 있으며, 상기 서비스 제공 장치(100)는 각종 정보를 표시하는 표시부를 포함하여 구성되거나 각종 정보를 표시하기 위한 별도의 출력 장치와 연결될 수 있다.
상술한 구성을 토대로, 본 발명의 실시예에 따른 서비스 제공 장치(100)는 구기 종목의 경기를 촬영한 카메라부(10)로부터 경기 관련 영상을 수신할 수 있으며, 상기 영상에서 선수의 움직임과 공의 움직임을 분석하여 미리 저장된 학습 모델에 학습시킨 후 학습 완료된 학습 모델을 통해 분석 대상 경기에 대해 상기 카메라부(10)로부터 수신되는 분석 대상 영상에 대해 경기 분석을 자동 수행하여, 상기 분석 대상 경기에 참가하는 선수에 대해 분석 대상 경기에서 사용한 각종 기술 및 판정 결과에 대한 경기 분석 결과를 정확하고 신뢰성 있게 제공할 수 있는데, 이를 이하 도면을 참고하여 상세히 설명한다.
이때, 본 발명에서 설명하는 구기 종목의 예로서, 배드민턴이나 테니스를 예로 들어 설명하나 이에 한정되지 않고 다양한 구기 종목에 본 발명이 적용될 수 있음은 물론이다.
도 2는 본 발명의 실시예에 따른 서비스 제공 장치(100)의 구성도로서, 도시된 바와 같이, 캘리브레이션부(110), 추적부(120), 수집부(130), 학습부(140) 및 제어부(160)를 포함하여 구성될 수 있다.
이때, 도 1에 도시된 구성 요소보다 많은 구성 요소에 의해 상기 서비스 제공 장치(100)가 구현될 수도 있고, 그보다 적은 구성 요소에 의해서도 상기 서비스 제공 장치(100)가 구현될 수도 있다.
또한, 상기 서비스 제공 장치(100)를 구성하는 구성부 중 적어도 하나가 다른 하나에 포함되어 구성될 수 있으며, 일례로, 캘리브레이션부(110), 추적부(120), 수집부(130) 및 학습부(140)가 상기 제어부(160)에 포함되어 구성될 수도 있다.
또한, 상기 서비스 제공 장치(100)는 저장부(150)를 더 포함하여 구성될 수 있으며, 상기 저장부(150)에는 상기 제어부(160)가 동작하는데 필요한 데이터 및 프로그램이 저장될 수 있다. 이때, 상기 저장부(150)는 DB로 구성될 수도 있으며, 상기 저장부(150)가 상기 제어부(160)에 포함되어 구성될 수도 있다.
또한, 상기 제어부(160)는 미리 저장되거나 상기 저장부(150)에 저장된 프로그램 및 데이터를 이용하여 상기 서비스 제공 장치(100)의 전반적인 제어 기능을 실행할 수 있다. 또한, 상기 제어부(160)는 RAM, ROM, CPU, GPU, 버스를 포함할 수 있으며, RAM, ROM, CPU, GPU 등은 버스를 통해 서로 연결될 수 있다.
또한, 서비스 제공 장치(100)는 통신망을 통해 통신하는 통신부를 더 포함하여 구성될 수 있으며, 상기 서비스 제공 장치(100)는 상기 통신부를 통해 상기 카메라부(10)와 통신망으로 통신하여 상기 카메라부(10)로부터 영상을 수신할 수 있다.
또한, 상기 서비스 제공 장치(100)는 사용자로부터 입력을 직접 수신하기 위한 사용자 입력부를 더 포함하여 구성될 수 있고, 상기 사용자 입력부를 통해 사용자의 입력을 수신할 수 있다.
이때, 상기 사용자 입력부와 상기 서비스 제공 장치(100)에 구성되는 표시부는 터치 기반의 사용자 입력을 수신하면서 영상을 표시하는 터치 스크린(touch screen)을 구성하는 구성부로 구성될 수도 있다.
또한, 상기 표시부가 외부 장치일 경우 상기 서비스 제공 장치(100)는 상기 통신부를 통해 상기 표시부와 통신 가능하도록 연결될 수 있다.
또한, 상기 서비스 제공 장치(100)는 통신부를 통해 사용자 단말과 같은 각종 단말과 통신할 수 있다.
상술한 구성을 토대로, 도 3을 참고하여 상기 서비스 제공 장치(100)의 각 구성부의 상세 동작 구성을 설명한다.
우선, 상기 제어부(160)는 상기 사용자 입력부를 통한 사용자 입력을 기초로 상기 카메라부(10)를 통한 촬영 대상인 구기 종목 관련 경기의 경기 종류와 상기 경기 종류에 대응되는 라인 규정에 대한 정보가 포함된 경기 정보와, 상기 경기에 참가하는 복수의 선수별 선수 정보 및 상기 카메라부(10)에 대한 카메라 정보를 수신하여 상기 저장부(150)에 저장할 수 있다.
이때, 상기 제어부(160)는 상기 통신부를 통해 외부 장치로부터 상기 경기 정보, 선수별 선수 정보 및 카메라 정보를 수신하여 상기 저장부(150)에 저장할 수도 있다.
또한, 상기 제어부(160)는 상기 통신부를 통해 상기 카메라부(10)로부터 영상을 수신할 수 있다.
또한, 상기 제어부(160)는 상기 캘리브레이션부(110), 추적부(120), 수집부(130) 및 학습부(140)의 동작을 제어할 수 있다.
한편, 상기 캘리브레이션부(110)는 상기 제어부(160)의 제어에 따라 상기 카메라부(10)로부터 전송되는 영상을 수신할 수 있다.
이때, 상기 제어부(160)가 상기 영상을 상기 통신부를 통해 수신한 후 상기 캘리브레이션부(110)에 제공할 수도 있다.
또한, 상기 캘리브레이션부(110)는 경기를 촬영한 영상에 실재 공간을 매핑하는 캘리브레이션(calibration)을 수행하여 매핑 정보를 생성할 수 있다.
일례로, 도 4에 도시된 바와 같이, 상기 캘리브레이션부(110)에는 상기 제어부(160)의 제어에 따라 구기 종목의 경기 종류에 따른 라인 규정이 설정될 수 있다.
이때, 상기 라인 규정은 경기 종류에 따른 경기장을 구성하는 라인의 고유 패턴과 상기 고유 패턴을 구성하는 복수의 서로 다른 라인별 길이를 포함할 수 있다.
또한, 상기 캘리브레이션부(110)에는 상기 제어부(160)의 제어에 따라 상기 경기에 참가하는 선수별 선수 정보 및 카메라 정보가 설정될 수 있다.
이때, 상기 선수 정보는 선수의 키를 포함할 수 있으며, 상기 카메라 정보는 상기 카메라부(10)의 화각 및 상기 카메라부(10)가 배치된 높이를 포함할 수 있다.
또한, 상기 추적부(120)는 상기 영상에 대한 영상 분석을 수행하여 상기 영상에서 라인을 검출하고, 선수에 해당되는 객체를 검출할 수 있다.
또한, 상기 캘리브레이션부(110)는 상기 추적부(120)와 연동하여 상기 추적부(120)를 통해 상기 영상에서 검출된 복수의 라인 중 상기 카메라 정보에 따른 카메라부(10)의 화각과 높이를 기초로 상기 고유 패턴을 형성하는 복수의 라인을 식별할 수 있으며, 상기 라인 규정에 따라 상기 고유 패턴을 형성하는 복수의 라인별로 상기 라인 규정에 따른 길이를 상기 영상에 매핑할 수 있다.
또한, 상기 캘리브레이션부(110)는 상기 영상에서 상기 추적부(120)를 통해 검출된 선수에 해당하는 객체별로 객체에 대응되는 상기 선수 정보에 따른 선수의 키를 매핑할 수 있다.
이에 따라, 상기 캘리브레이션부(110)는 상기 추적부(120)와 연동하여 상기 영상에서 검출된 복수의 라인 중 상기 고유 패턴에 대응되는 라인을 통해 바닥에 해당되는 영역을 식별하여 3차원의 가상 공간인 공간 정보를 상기 바닥에 맞추어 매핑하면서 상기 영역을 구성하는 복수의 라인에 매핑된 라인별 길이와 상기 영상에서 검출된 객체별로 매핑된 선수의 실제 키 및 카메라 정보에 따른 화각과 높이를 기초로 상기 공간 정보와 상기 카메라부(10)의 촬영 대상 공간인 실재 공간을 매핑한 매핑 정보를 생성할 수 있다.
즉, 상기 캘리브레이션부(110)는 상기 바닥에 해당되는 영역에 맞추어 상기 공간 정보의 바닥을 결정한 후 상기 라인별 길이와 상기 선수의 실제 키 및 카메라 정보를 기초로 상기 공간 정보를 구성하는 파라미터를 실재 공간에 대응되는 값으로 변환하여 상기 공간 정보와 실재 공간을 상호 매핑할 수 있다.
이를 통해, 복수의 선수 상호 간 키가 동일하더라도 영상에서는 카메라부(10)와 근거리에 있는 선수가 원거리에 있는 선수보다 더 크게 보이지만, 상기 추적부(120)를 통한 영상 분석시 상기 매핑 정보를 기초로 복수의 선수 상호 간 동일한 키로 변환되도록 처리할 수 있다.
한편, 상기 추적부(120)는, 상기 영상에 대한 영상 분석을 통해 선수에 해당되는 제 1 객체를 식별할 수 있으며, 상기 제 1 객체를 추적할 수 있다.
이때, 상기 추적부(120)는 상기 제 1 객체에 대한 식별 정보를 생성하여 상기 제어부(160)에 제공할 수 있으며, 상기 제어부(160)는 상기 사용자 입력부를 통한 사용자 입력을 기초로 수신되어 상기 저장부(150)에 저장된 복수의 선수별 선수 정보 중 상기 제 1 객체에 대응되어 사용자 입력에 따라 선택된 특정 선수 정보와 매칭한 매칭 정보를 생성할 수 있다.
또한, 상기 추적부(120)는 상기 영상에서 식별된 선수에 해당되는 객체가 복수인 경우 상기 복수의 객체와 각각 대응되며 서로 상이한 복수의 식별 정보를 생성한 후 상기 복수의 식별정보 각각을 상기 영상에서 대응되는 객체에 매칭하여 상기 영상에 삽입(추가)할 수 있으며, 상기 제어부(160)는 상기 추적부(120)로부터 상기 식별정보가 삽입된 영상을 포함하는 영상 정보를 수신하여 상기 표시부를 통해 출력할 수 있다.
이에 따라, 상기 제어부(160)는 상기 영상 정보에 따른 영상에 포함된 복수의 객체 각각에 매칭되어 상기 영상에 삽입된 복수의 식별 정보 중 사용자 입력에 따라 선택된 특정 식별 정보와 상기 복수의 선수 정보 중 사용자 입력에 따라 선택된 특정 선수 정보를 상호 매칭한 매칭 정보를 생성하여 상기 저장부(150)에 저장할 수 있다.
또한, 상기 제어부(160)는 상기 복수의 선수별 선수 정보와 각각 대응되는 복수의 매칭 정보를 생성할 수 있으며, 상기 복수의 매칭 정보를 포함하는 참가 정보를 생성하여 상기 저장부(150)에 저장할 수 있다.
또한, 도 5에 도시된 바와 같이, 상기 추적부(120)는 제 1 객체에 부여된 식별정보를 기초로 영상 내의 상기 제 1 객체를 추적하면서, 상기 제 1 객체에 대한 스켈레톤(skeleton) 분석을 통해 사람에 해당하는 상기 제 1 객체에 대해 관절 구조를 분석하여 상기 관절 구조에 대한 관절 구조 정보(또는 자세 정보)인 스켈레톤 정보를 생성할 수 있으며, 시간별로 생성되는 스켈레톤 정보를 상기 수집부(130)에 제공하거나 상기 저장부(150)에 저장할 수 있다.
이때, 상기 추적부(120)는 선수의 실제 키와 제 1 객체 사이의 비율이 미리 설정된 상기 매핑 정보를 기초로 상기 스켈레톤 정보를 변환할 수 있다.
이를 통해, 상기 추적부(120)는 선수가 카메라부(10)와의 원근 거리에 따라 영상 내에서 선수에 해당되는 제 1 객체의 크기가 변화하더라도 일정한 크기로 스켈레톤 정보를 변환할 수 있다.
또한, 상기 추적부(120)는 상기 영상에 대한 영상 분석을 통해 공에 해당되는 제 2 객체를 식별할 수 있으며, 상기 제 2 객체를 추적할 수 있다.
또한, 상기 추적부(120)는 상기 제 2 객체를 추적하면서 상기 매핑 정보를 기초로 상기 제 2 객체의 이동에 따른 상기 제 2 객체의 위치별 좌표 정보를 생성하여 상기 수집부(130)에 제공하거나 상기 저장부(150)에 저장할 수 잇다.
한편, 상기 수집부(130)는 상기 캘리브레이션부(110)로부터 상기 매핑 정보를 수신하여 상기 수집부(130)에 설정하거나 상기 캘리브레이션부(110)에 의해 상기 저장부(150)에 저장된 매핑 정보를 참조할 수 있다.
또한, 도 6에 도시된 바와 같이, 수집부(130)는 상기 매핑 정보를 기초로 상기 추적부(120)와 연동하여 상기 영상에서 상기 제 2 객체를 추적하면서, 상기 제 2 객체의 움직임에 따른 위치 변화 정도를 판단하고, 위치 변화 정도에 따라 이벤트 발생 여부를 판단하여, 상기 위치 변화 정도가 미리 설정된 기준치 이상인 경우 이벤트가 발생된 것으로 판단할 수 있다.
일례로, 상기 수집부(130)는 상기 제 2 객체가 영상 내 A 위치에서 B 위치로 이동함에 따라 상기 위치 변화 정도를 이동 벡터로 산출하고, 상기 위치 변화 정도에 따른 이동 벡터의 크기가 미리 설정된 기준 크기 이상인 경우 이벤트가 발생한 것으로 판단할 수 있다.
또한, 상기 수집부(130)는 상기 추적부(120)로부터 상기 제 1 객체에 대한 스켈레톤 정보를 수신하고, 이벤트 발생시 상기 이벤트의 발생 시점인 이벤트 발생 시점을 기준으로 미리 설정된 시간 동안에 생성된 하나 이상의 스켈레톤 정보를 취합하여, 상기 취합된 하나 이상의 스켈레톤 정보를 포함하는 기술 정보를 생성할 수 있다.
일례로, 도시된 바와 같이, 상기 수집부(130)는 제 1 객체에 대응되는 선수의 스매시(smash) 동작에 따라 상술한 바와 같이 제 2 객체에 대응되어 산출된 이동 벡터의 크기가 미리 설정된 크기 이상인 이벤트 발생시 상기 이벤트 발생 시점을 기준으로 미리 설정된 이전 시간 동안에 수신된(생성된) 하나 이상의 스켈레톤 정보와 상기 이벤트 발생 시점을 기준으로 미리 설정된 이후 시간 동안 수신된(생성된) 하나 이상의 스켈레톤 정보를 취합하고, 상기 스매시 동작과 관련되어 상기 취합된 스켈레톤 정보를 포함하는 상기 스매시 동작 관련 기술 정보를 생성할 수 있다.
이때, 상기 기술 정보는 경기에 사용되는 복수의 기술(기술 종류) 중 상기 제 1 객체에 대응되는 선수가 사용한 특정 기술(기술 종류)에 대응되는 선수의 움직임 정보를 의미할 수 있으며, 이러한 복수의 기술(기술 종류)에 대한 일례로, 배드민턴의 경우 서비스(서브), 스매시, 드라이브, 헤어핀, 푸시 등을 포함하고, 테니스의 경우 서브, 포핸드, 백핸드, 발리, 하프 발리, 스매시, 드롭샷 등을 포함할 수 있다.
또한, 상기 수집부(130)는 상기 이벤트 발생시 상기 이벤트 발생에 따른 공의 궤적을 추적하기 위해 상기 추적부(120)로부터 수신되거나 상기 저장부(150)에 저장된 좌표 정보를 기초로 상기 이벤트 발생 시점부터 다음 이벤트가 발생하기 전까지 상기 추적부(120)에 의해 생성된 상기 제 2 객체의 움직임에 대한 하나 이상의 좌표 정보를 취합하여, 상기 취합된 하나 이상의 좌표 정보를 포함하는 궤적 정보를 생성할 수 있다.
이때, 상기 다음 이벤트 역시 상기 이벤트와 동일한 이벤트 판단 기준에 따라 상기 수집부(130) 또는 추적부(120)에 의해 판단된 이벤트일 수 있다.
또한, 상기 수집부(130)는 상기 이벤트 발생시마다 상기 기술 정보와 궤적 정보를 생성할 수 있다.
또한, 상기 제어부(160)는 상기 수집부(130) 또는 추적부(120)에서 이벤트 발생으로 판단시 상기 수집부(130)로부터 상기 이벤트에 대응되어 수신된 기술 정보와 궤적 정보를 포함하는 이벤트 정보를 생성하여 상기 표시부를 통해 표시하고, 상기 사용자 입력부를 통한 사용자 입력을 기초로 상기 이벤트 정보에 대응되는 경기 판정 정보를 생성할 수 있다.
이때, 상기 경기 판정 정보는 공에 대한 타격 여부 또는 공격 여부, 복수의 미리 설정된 기술 중 상기 기술 정보에 대응되며 공의 타격시 사용된 특정 기술의 기술명, 상기 특정 기술의 기술 성공 여부, 상기 궤적 정보에 대응되는 득점 여부, 선수 이동 방향 등을 포함하는 사용자가 판단한 경기 내용에 대한 정보일 수 있다.
또한, 상기 제어부(160)는 상기 이벤트 정보에 대응되어 경기 판정 정보 생성시 상기 이벤트 정보와 경기 판정 정보를 상호 매칭된 상태로 포함하는 학습 데이터를 생성할 수 있으며, 상기 학습 데이터를 상기 학습부(140)에 제공할 수 있다.
이때, 상기 수집부(130)가 제어부(160)를 대신하여 상기 학습 데이터를 생성할 수도 있으며, 상기 학습 데이터를 상기 학습부(140)에 제공할 수 있다.
또한, 상기 제어부(160) 또는 수집부(130)는 상기 이벤트 발생시마다 상기 학습 데이터를 생성할 수 있다.
한편, 학습부(140)에는 학습 모델이 미리 설정될 수 있으며, 상기 학습 모델은 딥러닝(Deep learning) 알고리즘으로 구성될 수 있다.
이때, 상기 딥러닝 알고리즘은 하나 이상의 신경망 모델로 구성될 수 있다.
또한, 본 발명에서 설명하는 신경망 모델(또는 신경망)은 입력층(Input Layer), 하나 이상의 은닉층(Hidden Layers) 및 출력층(Output Layer)으로 구성될 수 있으며, 상기 신경망 모델에는 DNN(Deep Neural Network), RNN(Recurrent Neural Network), CNN(Convolutional Neural Network), SVM(Support Vector Machine) 등과 같은 다양한 종류의 신경망이 적용될 수 있다.
또한, 상기 학습부(140)는 상기 제어부(160) 또는 수집부(130)로부터 학습 데이터 수신시마다 미리 설정된 학습 모델에 학습시킬 수 있으며, 이를 통해 상기 학습 모델에 상기 기술 정보와 궤적 정보가 포함된 이벤트 정보와 상기 경기 판정 정보 사이의 상관 관계가 학습되도록 학습 모델을 학습시킬 수 있다.
이에 따라, 상기 학습부(140)는 이벤트에 대응되어 생성된 상기 기술정보와 상기 궤적 정보를 이벤트에 대한 사용자 입력에 따른 경기 판정 정보와 매칭하여 미리 설정된 학습 모델에 학습시켜, 상기 상관 관계가 학습 모델에 학습되도록 상기 학습 모델을 생성할 수 있다.
한편, 상기 학습부(140)를 통해 학습 모델에 대한 학습이 완료된 이후, 상기 제어부(160)는 분석 대상 경기의 분석 요청에 대한 요청 정보를 수신하면, 상기 요청 정보에 따라 상기 카메라부(10)로부터 수신되는 영상을 분석 대상 영상으로 판단하고, 상기 분석 대상 경기에 대한 경기 분석을 수행할 수 있는데, 이를 도 7을 참고하여 상세히 설명한다.
도시된 바와 같이, 상기 제어부(160)는 분석 대상 경기에 참가하는 복수의 선수별 선수정보를 포함하는 요청 정보를 수신할 수 있으며, 상기 요청 정보를 상기 저장부(150)에 저장할 수 있다.
또한, 상기 제어부(160)는 상기 카메라부(10)로부터 분석 대상 영상 수신시 상기 추적부(120)를 제어하여, 상기 추적부(120)를 통해 상기 분석 대상 영상에서 검출된 선수에 해당되는 복수의 객체별로 식별 정보를 생성한 후 상기 생성된 복수의 식별 정보가 각각 영상에서 대응되는 객체에 매칭되어 상기 영상에 삽입되도록 할 수 있다.
또한, 상기 제어부(160)는 상기 영상을 표시부를 통해 표시할 수 있으며, 복수의 객체에 각각 매칭되어 상기 영상에 삽입된 복수의 식별 정보 중 사용자 입력에 따라 선택된 특정 식별 정보와 상기 복수의 선수 정보 중 사용자 입력에 따라 선택된 특정 선수 정보를 상호 매칭한 매칭 정보를 생성하여 상기 저장부(150)에 저장할 수 있다.
또한, 상기 제어부(160)는 상기 복수의 선수별 선수 정보와 각각 대응되는 복수의 매칭 정보를 생성할 수 있으며, 상기 복수의 매칭 정보를 포함하는 참가 정보를 생성하여 상기 저장부(150)에 저장할 수 있다.
또한, 상기 추적부(120)는 상기 복수의 객체 각각에 서로 상이하게 부여된 식별 정보를 기초로 복수의 객체를 상호 구분하면서 동일 객체를 추적할 수 있으며, 동일 객체에 대해 상기 스켈레톤 정보 생성시마다 상기 스켈레톤 정보가 상기 분석 대상 영상에서 검출된 복수의 객체 중 어느 객체에 대한 스켈레톤 정보인지 식별할 수 있도록 상기 스켈레톤 정보에 대응되는 객체의 식별 정보를 스켈레톤 정보에 포함시킬 수 있다.
또한, 상기 제어부(160)는 선수에 해당되는 복수의 객체 각각을 선수에 해당하는 상기 제 1 객체로 설정하되, 상기 복수의 객체를 상기 참가 정보에 포함되는 매칭 정보 및 상기 스켈레톤 정보에 포함된 식별정보를 기초로 상호 구분하여 식별할 수 있다.
또한, 상기 제어부(160)의 제어에 의해, 상기 수집부(130)는 상기 추적부(120)로부터 수신되는 스켈레톤 정보에 포함된 객체의 식별 정보를 기초로 복수의 객체 중 스켈레톤 정보에 대응되는 특정 객체를 식별할 수 있으며, 특정 객체에 대응되어 기술 정보 생성시 상기 특정 객체의 식별정보를 상기 기술 정보에 포함된 스켈레톤 정보로부터 추출한 후 상기 특정 객체에 대응되는 하나 이상의 스켈레톤 정보가 취합되어 포함된 기술 정보에 포함시켜 설정할 수도 있다.
또는, 상기 수집부(130)는 상기 매칭 정보를 기초로 상기 기술 정보에 대응되는 특정 객체의 선수 정보를 상기 기술 정보에 포함시킬 수도 있다.
이에 따라, 상기 제어부(160)는 선수에 해당되는 제 1 객체인 복수의 객체 중 특정 객체에 대응되어 상기 추적부(120) 및 수집부(130)를 제어하여 상기 특정 객체에 대한 기술 정보 및 궤적 정보를 생성할 수 있다.
또한, 상기 제어부(160)는 상기 특정 객체에 대응되어 상기 수집부(130)로부터 수신된 상기 기술 정보 및 궤적 정보를 포함하는 수집 정보를 생성할 수 있다.
또한, 상기 제어부(160)는 상기 학습부(140)와 연동하여 상기 수집 정보를 상기 학습이 완료된 학습 모델에 적용하여 상기 학습 모델을 통해 상기 수집 정보와의 상관 관계에 따른 상관 계수가 미리 설정된 기준치 이상인 하나 이상의 경기 판정 정보를 획득할 수 있다.
이때, 상기 학습부(140)는 상기 제어부(160)에 포함되어 구성될 수도 있다.
또한, 상기 제어부(160)는 상기 학습 모델을 통해 획득한 상기 하나 이상의 경기 판정 정보를 기초로 상기 특정 객체에 대응되어 경기 분석 정보를 생성할 수 있다.
이때, 상기 경기 분석 정보는, 공에 대한 타격 여부, 공의 타격시 복수의 미리 설정된 기술 중 상기 특정 객체에 해당되는 선수가 공의 타격에 사용한 특정 기술의 기술명, 상기 특정 기술에 대해 상기 학습 모델에 학습된 기술 정보와의 유사도, 상기 특정 기술의 기술 성공 여부, 득점 여부, 선수 이동 방향 등을 포함할 수 있다.
또한, 상기 경기 분석 정보에 포함된 상기 특정 기술의 기술명은 상기 경기 판정 정보의 학습에 따라 상기 학습 모델에 설정된 복수의 서로 다른 기술명 중 공의 타격에 사용된 특정 기술에 대응되며 상기 수집 정보에 포함된 기술 정보와의 상관관계 정도인 상관 계수가 가장 높은 기술명일 수 있다.
또한, 상기 경기 분석 정보에 포함된 유사도는, 상기 특정 기술에 대해 상기 학습 모델에 학습된 기술정보와 상기 수집정보에 포함된 기술 정보 사이의 유사한 정도로서, 상기 상관 계수에 따라 산출된 값일 수 있으며, 상기 유사도를 통해 상기 수집 정보에 포함된 기술 정보에 따른 특정 기술의 정확도를 파악할 수 있도록 제공할 수 있다.
이때, 상기 제어부(160)는 상기 학습 모델이 산출하는 상관 계수를 미리 설정된 알고리즘에 적용하여 상기 유사도를 산출할 수 있다.
또한, 상기 제어부(160)는 상기 경기 분석 정보에 대응되는 수집 정보에 포함된 공의 궤적에 대한 궤적 정보를 상기 수집 정보로부터 추출하여 상기 경기 분석 정보에 포함시킬 수 있다.
또한, 상기 제어부(160)는 상기 수집 정보에 포함되는 기술 정보에 포함된 하나 이상의 스켈레톤 정보를 클립(clip) 영상(또는 영상 클립)을 생성하고, 상기 클립 영상을 상기 경기 분석 정보에 포함시킬 수 있다.
또한, 상기 제어부(160)는 상기 수집 정보에 대응되는 매칭 정보를 기초로 상기 매칭 정보에 포함된 선수 정보를 상기 경기 분석 정보에 포함시켜 해당 경기 분석 정보가 상기 분석 대상 경기에 참여하는 복수의 선수 중 어느 선수에 대한 정보인지 식별 가능하도록 제공할 수 있다.
또한, 상기 제어부(160)는 시간 경과에 따라 상기 분석 대상 영상을 기초로 이벤트 발생시마다 상기 추적부(120) 및 수집부(130)를 제어하여 하나 이상의 경기 분석 정보를 생성할 수 있으며, 상기 경기 분석 정보 생성시마다 상기 표시부를 통해 표시할 수 있으며, 상기 분석 대상 영상과 함께 실시간으로 표시할 수도 있다.
이를 통해, 본 발명에 따른 서비스 제공 장치(100)는 상기 경기 분석 정보를 제공하여 사용자가 상기 특정 객체에 해당되는 특정 선수를 식별 가능하도록 제공하면서 해당 특정 선수가 경기 중에 사용한 기술과 해당 사용 기술의 유사도에 따른 기술 정확도, 기술 성공 여부 및 클립 영상을 통한 기술 사용시 문제점 등을 확인 가능하도록 제공할 수 있다.
또한, 상기 제어부(160)는 상기 분석 대상 영상에 대해 상기 추적부(120) 및 수집부(130)를 제어하여 상술한 바와 같이 상기 기술 정보 및 궤적 정보를 획득하는 과정을 반복 수행하여, 시간 경과에 따라 시간별로 수집 정보를 생성할 수 있으며, 이를 통해 시간 경과에 따라 하나 이상의 수집 정보를 생성할 수 있다.
또한, 상기 제어부(160)는 상기 수집 정보 생성시마다 상기 학습 모델에 적용하여 상기 학습 모델을 통해 상기 하나 이상의 수집 정보와 각각 대응되는 하나 이상의 경기 분석 정보를 생성하며, 상기 하나 이상의 경기 분석 정보를 기초로 경기 분석 결과 정보를 생성할 수 있다.
이때, 상기 제어부(160)는 상기 기술 정보에 포함된 선수 정보를 기초로 분석 대상 경기에 참가하는 복수의 선수 중 특정 선수에 대응되는 수집 정보를 생성할 수 있으며, 상기 특정 선수의 선수 정보가 포함된 하나 이상의 수집 정보별로 상기 학습 모델에 적용하여 상기 특정 선수의 선수 정보에 대응되는 하나 이상의 경기 분석 정보를 생성할 수 있다.
이에 따라, 상기 제어부(160)는 상기 분석 대상 경기에 참가하는 상기 특정 선수에 대응되어 생성된 상기 하나 이상의 경기 분석 정보를 취합하고, 취합된 경기 분석 정보를 기초로 상기 경기 분석 결과 정보를 생성할 수 있으며, 상기 경기 분석 결과 정보를 표시부를 통해 표시할 수 있다.
이때, 상기 경기 분석 결과 정보는 상기 특정 선수가 시도한 하나 이상의 기술과 각각 대응되는 하나 이상의 기술명, 상기 기술명별 기술의 시도 횟수, 상기 하나 이상의 기술별 기술 시도시 득점 여부에 따른 성공횟수, 상기 기술명별 성공 확률, 상기 하나 이상의 경기 분석 정보 각각에 포함된 궤적 정보별로 최종 위치가 상기 라인 규정에 따른 득점 가능 영역 내에 속하는지 여부에 따라 상기 궤적정보별로 추출된 공에 대한 복수의 최종 위치(최종 좌표), 경기 승패 여부 중 적어도 하나를 포함할 수 있다.
또한, 도 8에 도시된 바와 같이, 상기 제어부(160)는 상기 경기 분석 결과 정보를 기초로 선수별 공격 패턴, 경기 진행 내역, 선수별 기술 분포 현황 및 선수별 득점 분포 현황 등을 포함하는 선수 분석 정보를 생성하여 상기 표시부를 통해 표시할 수 있다.
또한, 상기 제어부(160)는 상기 분석 대상 경기에 참가하는 선수별로 생성된 하나 이상의 경기 분석 정보를 취합하고, 상기 취합된 경기 분석 정보를 기초로 경기 자체에 대한 경기 분석 결과 정보를 생성할 수도 있다.
상술한 바를 통해, 본 발명은 복수의 서로 다른 경기 각각을 촬영한 복수의 영상을 기초로 검출한 선수 및 공의 움직임과 해당 움직임에 따른 경기 판정에 대한 정보를 포함하는 학습 데이터를 생성한 후 학습 모델에 학습시키고, 분석 대상 경기에 대한 영상을 기초로 공의 타격에 의한 이벤트 발생시 선수가 공의 타격에 사용한 기술과 공의 궤적에 대한 정보를 획득한 후 학습 모델에 적용하여 학습 모델을 통해 선수가 사용한 기술과 유사도가 가장 높은 학습 모델에 학습된 기술에 대한 정보를 제공하여 선수가 경기 중에 사용한 기술 및 상기 유사도를 기반으로 한 기술의 정확도를 실시간으로 파악할 수 있도록 제공함과 아울러 선수의 기술 사용에 따라 검출된 공의 궤적과 유사한 공의 궤적에 대응되어 학습 모델에 학습된 경기 판정 결과를 기초로 기술 사용에 따른 기술 성공 여부 및 득점 성공 여부를 학습 모델을 통해 자동 판단하여 자동으로 득점을 기록하면서 경기 결과를 산출할 수 있어, 경기에 참여하는 선수를 객관적으로 정확하고 신뢰성 있게 분석할 수 있을 뿐만 아니라 경기 현황을 자동 기록하여 경기 분석에 대한 편의성 및 효율성을 보장할 수 있다.
또한, 본 발명은 경기에 참가하는 선수별로 제공되는 경기 분석 결과 정보를 통해 사용자가 해당 특정 선수가 경기 중에 사용한 기술과 해당 사용 기술의 유사도에 따른 기술 정확도, 기술 성공 여부 및 클립 영상을 통한 기술 사용시 문제점 등을 확인 가능하도록 제공하여 특정 선수에 대한 정확한 분석과 더불어 상대 선수에 대한 분석을 통해 경기 전략을 효과적으로 수립할 수 있도록 지원할 수 있다.
도 9는 본 발명의 실시예에 따른 경기 분석을 위한 서비스 제공 방법에 대한 순서도이다.
도시된 바와 같이, 상기 서비스 제공 장치(100)는 경기를 촬영한 영상에 실제 공간을 매핑하는 캘리브레이션을 수행하여 매핑 정보를 생성하는 캘리브레이션 단계를 수행할 수 있다(S1).
또한, 상기 서비스 제공 장치(100)는, 상기 영상에서 선수에 해당하는 제 1 객체를 검출하고, 상기 제 1 객체를 추적하면서 상기 제 1 객체에 대해 스켈레톤 분석을 통한 스켈레톤 정보를 생성하며, 상기 영상에서 공에 해당하는 제 2 객체를 검출하여 추적하는 추적 단계를 수행할 수 있다(S2).
또한, 상기 서비스 제공 장치(100)는, 상기 매핑 정보를 기초로 상기 제 2 객체의 위치 변화 정도가 미리 설정된 기준치 이상인 이벤트 발생시마다(S3) 상기 이벤트 발생 시점을 기준으로 미리 설정된 시간 동안에 생성된 하나 이상의 상기 스켈레톤 정보를 포함하는 기술 정보를 생성하고, 상기 이벤트 발생 시점부터 다음 이벤트가 발생하기 전까지 상기 제 2 객체의 움직임에 대한 하나 이상의 좌표 정보를 포함하는 궤적 정보를 생성하는 수집 단계를 수행할 수 있다(S4).
또한, 상기 서비스 제공 장치(100)는, 상기 이벤트에 대응되어 생성된 상기 기술정보와 상기 궤적 정보를 이벤트에 대한 사용자 입력에 따른 경기 판정 정보와 매칭하여 미리 설정된 학습 모델에 학습시키는 학습 단계를 수행할 수 있다(S5).
또한, 상기 서비스 제공 장치(100)는, 경기 분석 대상인 분석 대상 영상에 대해 상기 기술 정보 및 궤적 정보를 생성한 후 학습이 완료된 상기 학습 모델에 적용하여 상기 학습 모델을 통해 경기 분석 정보를 생성하는 경기 분석 단계를 수행할 수 있다(S6, S7).
이때, 상기 경기 분석 단계에서, 상기 서비스 제공 장치(100)는, 상기 영상 대신 분석 대상 영상에 대해 상기 추적 단계 및 수집 단계를 수행하고, 상기 분석 대상 영상에 대해 생성되는 상기 기술 정보 및 궤적 정보를 포함하는 수집 정보를 상기 학습이 완료된 학습 모델에 적용하여 상기 학습 모델을 통해 상기 수집 정보와 상관 계수가 미리 설정된 기준치 이상인 하나 이상의 경기 판정 정보를 기초로 상기 경기 분석 정보를 생성할 수 있다..
본 명세서에 기술된 다양한 장치 및 구성부는 하드웨어 회로(예를 들어, CMOS 기반 로직 회로), 펌웨어, 소프트웨어 또는 이들의 조합에 의해 구현될 수 있다. 예를 들어, 다양한 전기적 구조의 형태로 트랜지스터, 로직게이트 및 전자회로를 활용하여 구현될 수 있다.
전술된 내용은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.
10: 카메라부 100: 서비스 제공 장치
110: 캘리브레이션부 120: 추적부
130: 수집부 140: 학습부
150: 저장부 160: 제어부

Claims (10)

  1. 경기 분석을 위한 서비스 제공 장치의 서비스 제공 방법에 있어서,
    카메라부를 통해 수신된 경기를 촬영한 영상에서 상기 경기에 대응되어 미리 설정된 라인 규정에 따른 패턴에 대응되는 복수의 라인을 검출한 후 상기 라인 규정에 따라 상기 복수의 라인별 길이를 식별하고, 상기 복수의 라인별 길이와 상기 경기에 참가하는 선수의 키를 포함하는 선수정보 및 상기 영상을 촬영한 카메라의 화각 및 높이를 포함하는 카메라 정보를 기초로 실재 공간을 상기 영상에 매핑한 매핑 정보를 생성하는 캘리브레이션 단계;
    상기 영상에서 선수에 해당하는 제 1 객체를 검출하고, 상기 제 1 객체를 추적하면서 사람에 해당하는 상기 제 1 객체에 대한 스켈레톤 분석을 통해 상기 제 1 객체에 대해 관절 구조를 분석하여 상기 관절 구조에 대한 관절 구조 정보 스켈레톤 정보로 생성하며, 상기 영상에서 공에 해당하는 제 2 객체를 검출하여 추적하는 추적 단계;
    상기 매핑 정보를 기초로 상기 제 2 객체의 위치 변화 정도가 미리 설정된 기준치 이상인 이벤트 발생시마다 상기 이벤트 발생 시점을 기준으로 미리 설정된 시간 동안에 생성된 복수의 스켈레톤 정보를 취합하고 취합된 상기 스켈레톤 정보를 포함하는 기술 정보를 생성하고, 상기 이벤트 발생 시점부터 다음 이벤트가 발생하기 전까지 상기 제 2 객체의 움직임에 대한 하나 이상의 좌표 정보를 포함하는 궤적 정보를 생성하는 수집 단계;
    상기 이벤트에 대응되어 생성된 상기 취합된 스켈레톤 정보를 포함하는 기술정보 및 상기 궤적 정보와 상기 이벤트에 대해서 사용자가 입력한 공의 타격시 사용된 특정 기술의 기술명, 상기 특정 기술의 기술 성공 여부, 상기 궤적 정보에 대응되는 득점 여부를 포함하는 경기 판정 정보 사이의 상관 관계가 학습되도록 미리 설정된 학습 모델에 학습시키는 학습 단계; 및
    경기 분석 대상인 분석 대상 영상에 대해 상기 취합된 스켈레톤 정보를 포함하는 기술 정보 및 궤적 정보를 생성한 후 학습이 완료된 상기 학습 모델에 적용하고 상기 학습 모델을 통해 획득한 경기 판정 정보를 이용하여 제 2 객체인 공의 타격시 복수의 미리 설정된 기술 중 상기 제 1 객체에 해당되는 선수가 공의 타격에 사용한 특정 기술의 기술명, 상기 특정 기술에 대해 상기 학습 모델에 학습된 기술 정보와의 유사도, 상기 특정 기술의 기술 성공 여부 중 적어도 하나를 경기 분석 정보로 생성하는 경기 분석 단계
    를 포함하는 경기 분석을 위한 서비스 제공 방법.
  2. 삭제
  3. 삭제
  4. 청구항 1에 있어서,
    상기 경기 분석 단계는,
    상기 영상 대신 분석 대상 영상에 대해 상기 추적 단계 및 수집 단계를 수행하고, 상기 분석 대상 영상에 대해 생성되는 상기 기술 정보 및 궤적 정보를 포함하는 수집 정보를 상기 학습이 완료된 학습 모델에 적용하여 상기 학습 모델을 통해 얻은 경기 판정 정보를 기초로 상기 경기 분석 정보를 생성하는 것을 특징으로 하는 경기 분석을 위한 서비스 제공 방법.
  5. 삭제
  6. 청구항 4에 있어서,
    상기 경기 분석 단계는,
    상기 수집 정보에 포함되는 기술 정보에 포함된 하나 이상의 스켈레톤 정보를 클립 영상을 생성하고, 상기 클립 영상을 상기 경기 분석 정보에 포함시키는 단계를 더 포함하는 것을 특징으로 하는 경기 분석을 위한 서비스 제공 방법.
  7. 청구항 4에 있어서,
    상기 경기 분석 단계는,
    상기 분석 대상 영상에 대해 상기 추적 단계 및 수집 단계를 반복 수행하여 시간 경과에 따라 하나 이상의 수집 정보를 생성하고, 상기 수집 정보 생성시마다 상기 학습 모델에 적용하여 상기 학습 모델을 통해 상기 하나 이상의 수집 정보와 각각 대응되는 하나 이상의 경기 분석 정보를 생성하며, 상기 하나 이상의 경기 분석 정보를 기초로 경기 분석 결과 정보를 생성하는 것을 특징으로 하는 경기 분석을 위한 서비스 제공 방법.
  8. 청구항 7에 있어서,
    상기 경기 분석 단계는,
    상기 분석 대상 영상에 대응되는 분석 대상 경기에 참여하는 복수의 선수별 선수 정보 중 사용자 입력에 따라 선택된 특정 선수 정보와 상기 분석 대상 영상에 대한 영상 분석을 통해 검출된 복수의 객체 중 사용자 입력에 따라 선택된 특정 객체를 상호 매칭하는 매칭 단계를 더 포함하고,
    상기 제 1 객체인 상기 특정 객체를 대상으로 상기 하나 이상의 경기 분석 정보를 생성하고, 상기 하나 이상의 경기 분석 정보를 기초로 상기 특정 객체에 대한 경기 분석 결과 정보를 생성하는 것을 특징으로 하는 경기 분석을 위한 서비스 제공 방법.
  9. 청구항 8에 있어서,
    상기 경기 분석 결과 정보는 상기 특정 선수가 시도한 하나 이상의 기술과 각각 대응되는 하나 이상의 기술명, 상기 기술명별 기술의 시도 횟수, 상기 하나 이상의 기술별 기술 시도시 득점 여부에 따른 성공횟수, 상기 기술명별 성공 확률, 상기 하나 이상의 경기 분석 정보 각각에 포함된 궤적 정보별로 최종 위치가 상기 라인 규정에 따른 득점 가능 영역 내에 속하는지 여부에 따라 상기 궤적정보별로 추출된 공에 대한 복수의 최종 위치 및 경기 승패 여부 중 적어도 하나를 포함하는 것을 특징으로 하는 경기 분석을 위한 서비스 제공 방법.
  10. 카메라부를 통해 수신된 경기를 촬영한 영상에서 상기 경기에 대응되어 미리 설정된 라인 규정에 따른 패턴에 대응되는 복수의 라인을 검출한 후 상기 라인 규정에 따라 상기 복수의 라인별 길이를 식별하고, 상기 복수의 라인별 길이와 상기 경기에 참가하는 선수의 키를 포함하는 선수정보 및 상기 영상을 촬영한 카메라의 화각 및 높이를 포함하는 카메라 정보를 기초로 실재 공간을 상기 영상에 매핑한 매핑 정보를 생성하는 캘리브레이션부;
    상기 영상에서 선수에 해당하는 제 1 객체를 검출하고, 상기 제 1 객체를 추적하면서 사람에 해당하는 상기 제 1 객체에 대한 스켈레톤 분석을 통해 상기 제 1 객체에 대해 관절 구조를 분석하여 상기 관절 구조에 대한 관절 구조 정보 스켈레톤 정보로 생성하며, 상기 영상에서 공에 해당하는 제 2 객체를 검출하여 추적하는 추적부;
    상기 매핑 정보를 기초로 상기 제 2 객체의 위치 변화 정도가 미리 설정된 기준치 이상인 이벤트 발생시마다 상기 이벤트 발생 시점을 기준으로 미리 설정된 시간 동안에 생성된 복수의 스켈레톤 정보를 취합하고 취합된 상기 스켈레톤 정보를 포함하는 기술 정보를 생성하고, 상기 이벤트 발생 시점부터 다음 이벤트가 발생하기 전까지 상기 제 2 객체의 움직임에 대한 하나 이상의 좌표 정보를 포함하는 궤적 정보를 생성하는 수집부;
    상기 이벤트에 대응되어 상기 수집부에서 생성한 상기 취합된 스켈레톤 정보를 포함하는 기술정보 및 상기 궤적 정보와 상기 이벤트에 대해서 사용자가 입력한 공의 타격시 사용된 특정 기술의 기술명, 상기 특정 기술의 기술 성공 여부, 상기 궤적 정보에 대응되는 득점 여부를 포함하는 경기 판정 정보 사이의 상관 관계를 미리 설정된 학습 모델에에 학습시키는 학습부; 및
    경기 분석 대상인 분석 대상 영상에 대해 상기 취합된 스켈레톤 정보를 포함하는 기술 정보 및 궤적 정보를 생성한 후 학습이 완료된 상기 학습 모델에 적용하고 상기 학습 모델을 통해 획득한 경기 판정 정보를 이용하여 제 2 객체인 공의 타격시 복수의 미리 설정된 기술 중 상기 제 1 객체에 해당되는 선수가 공의 타격에 사용한 특정 기술의 기술명, 상기 특정 기술에 대해 상기 학습 모델에 학습된 기술 정보와의 유사도, 상기 특정 기술의 기술 성공 여부 중 적어도 하나를 경기 분석 정보로 생성하는 제어부
    를 포함하는 경기 분석을 위한 서비스 제공 장치.
KR1020200086190A 2020-07-13 2020-07-13 경기 분석을 위한 서비스 제공 장치 및 방법 KR102234165B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200086190A KR102234165B1 (ko) 2020-07-13 2020-07-13 경기 분석을 위한 서비스 제공 장치 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200086190A KR102234165B1 (ko) 2020-07-13 2020-07-13 경기 분석을 위한 서비스 제공 장치 및 방법

Publications (1)

Publication Number Publication Date
KR102234165B1 true KR102234165B1 (ko) 2021-03-31

Family

ID=75237718

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200086190A KR102234165B1 (ko) 2020-07-13 2020-07-13 경기 분석을 위한 서비스 제공 장치 및 방법

Country Status (1)

Country Link
KR (1) KR102234165B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102533468B1 (ko) * 2022-08-12 2023-05-17 구민관 자동 득점 판정이 가능한 격투경기 운영 시스템 및 방법
WO2024096167A1 (ko) * 2022-11-04 2024-05-10 주식회사 핏투게더 스포츠 세션 내 타겟 이벤트의 유형을 획득하는 방법 및 이를 수행하는 전자 장치

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050014559A (ko) * 2003-07-31 2005-02-07 엘지전자 주식회사 축구 동영상의 이벤트 학습 및 검출방법
KR20050110593A (ko) 2005-11-01 2005-11-23 이승룡 스포츠 경기 분석 서비스 제공방법 및 시스템
KR20090118634A (ko) * 2008-05-14 2009-11-18 (주)비주얼 스포츠 운동경기의 자동분석 시스템 및 그 방법
KR20180063777A (ko) * 2016-12-02 2018-06-12 (주) 지티씨솔루션 축구 정보 분석 장치 및 그 방법
KR102020845B1 (ko) * 2018-04-04 2019-09-11 주식회사 자비스넷 객체 식별을 통한 카메라 캘리브레이션 시스템 및 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050014559A (ko) * 2003-07-31 2005-02-07 엘지전자 주식회사 축구 동영상의 이벤트 학습 및 검출방법
KR20050110593A (ko) 2005-11-01 2005-11-23 이승룡 스포츠 경기 분석 서비스 제공방법 및 시스템
KR20090118634A (ko) * 2008-05-14 2009-11-18 (주)비주얼 스포츠 운동경기의 자동분석 시스템 및 그 방법
KR20180063777A (ko) * 2016-12-02 2018-06-12 (주) 지티씨솔루션 축구 정보 분석 장치 및 그 방법
KR102020845B1 (ko) * 2018-04-04 2019-09-11 주식회사 자비스넷 객체 식별을 통한 카메라 캘리브레이션 시스템 및 방법

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102533468B1 (ko) * 2022-08-12 2023-05-17 구민관 자동 득점 판정이 가능한 격투경기 운영 시스템 및 방법
WO2024096167A1 (ko) * 2022-11-04 2024-05-10 주식회사 핏투게더 스포츠 세션 내 타겟 이벤트의 유형을 획득하는 방법 및 이를 수행하는 전자 장치

Similar Documents

Publication Publication Date Title
US10600334B1 (en) Methods and systems for facilitating interactive training of body-eye coordination and reaction time
US10643492B2 (en) Remote multiplayer interactive physical gaming with mobile computing devices
KR102265914B1 (ko) 테니스 자율훈련 시스템
JP6915701B2 (ja) 抽出プログラム、抽出方法および情報処理装置
US20210264141A1 (en) Device, System, and Method of Computer Vision, Object Tracking, Image Analysis, and Trajectory Estimation
AU2012231931B2 (en) Virtual golf simulation apparatus and sensing device and method used for same
CN111444890A (zh) 一种基于机器学习的体育数据分析系统和方法
KR102234165B1 (ko) 경기 분석을 위한 서비스 제공 장치 및 방법
US8210945B2 (en) System and method for physically interactive board games
CN105989196B (zh) 基于采集运动信息进行社交的方法及系统
CN107392939A (zh) 基于体感技术的室内运动观测装置、方法及存储介质
US20230338806A1 (en) Interactive basketball system
KR100907704B1 (ko) 인공지능형 캐디를 이용한 골퍼자세교정시스템 및 이를이용한 골퍼자세교정방법
US20230285832A1 (en) Automatic ball machine apparatus utilizing player identification and player tracking
US20230330485A1 (en) Personalizing Prediction of Performance using Data and Body-Pose for Analysis of Sporting Performance
JP2006185109A (ja) 画像計測装置及び画像計測方法
CN116271766A (zh) 网球训练的模拟方法及装置、电子设备及存储介质
US20240042281A1 (en) User experience platform for connected fitness systems
CN111228771B (zh) 高尔夫球娱乐系统和高尔夫球训练方法
KR101293710B1 (ko) 사용자의 순위를 결정하는 가상 골프 시뮬레이션 방법 및 시스템
CN109948896A (zh) 一种比赛阵容确定方法、装置、服务器及存储介质
KR102258214B1 (ko) 타격결과를 예측하는 가상 골프 장치 및 가상 골프 장치의 동작방법
CN113499575A (zh) 高尔夫挥杆视频调用方法及其系统、计算机可读取介质
KR102623146B1 (ko) 클럽 추천 장치 및 방법
KR102505470B1 (ko) 라이다센서 및 빅데이터를 이용한 스크린-골프 운영시스템

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant