KR20210089997A - 다중 영상 재생 방법 및 장치 - Google Patents

다중 영상 재생 방법 및 장치 Download PDF

Info

Publication number
KR20210089997A
KR20210089997A KR1020200003265A KR20200003265A KR20210089997A KR 20210089997 A KR20210089997 A KR 20210089997A KR 1020200003265 A KR1020200003265 A KR 1020200003265A KR 20200003265 A KR20200003265 A KR 20200003265A KR 20210089997 A KR20210089997 A KR 20210089997A
Authority
KR
South Korea
Prior art keywords
image
information
area
user
displaying
Prior art date
Application number
KR1020200003265A
Other languages
English (en)
Other versions
KR102357117B1 (ko
Inventor
김동민
최영민
Original Assignee
주식회사 엘지유플러스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 엘지유플러스 filed Critical 주식회사 엘지유플러스
Priority to KR1020200003265A priority Critical patent/KR102357117B1/ko
Publication of KR20210089997A publication Critical patent/KR20210089997A/ko
Application granted granted Critical
Publication of KR102357117B1 publication Critical patent/KR102357117B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B69/00—Training appliances or apparatus for special sports
    • A63B69/36—Training appliances or apparatus for special sports for golf
    • G06K9/00335—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20036—Morphological image processing
    • G06T2207/20044—Skeletonization; Medial axis transform

Abstract

실시예는 인터페이스의 제1 영역에 사용자 영상을 표시하고, 인터페이스의 제2 영역에 사용자 영상에 포함된 제1 객체의 회전 정보에 대응하는 기준 영상을 표시하는 다중 영상 재생 방법 및 장치에 관한 기술을 개시한다. 일실시예는 제1 객체의 스켈레톤 정보를 추출하는 단계, 제1 객체의 스켈레톤 정보에 기초하여, 제1 객체의 회전 정보를 추정하는 단계, 기준 영상에 포함된 제2 객체의 회전 정보가 제1 객체의 회전 정보에 대응하는 기준 영상을 서버에 요청하는 단계를 포함한다.

Description

다중 영상 재생 방법 및 장치{METHOD AND APPARATUS FOR MULTI-PLAYING VIDEOS}
아래 실시예들은 다중 영상 재생 방법 및 장치에 관한 것이다.
모션 인식 기술은 객체의 움직임 및 위치를 인식하는 기술로, 인간과 컴퓨터의 상호 작용에 관한 기술이다. 객체의 움직임 및 위치 정보는 센서 등 특정 장치를 객체에 부착하여 센서가 획득한 데이터에서 추출하거나, 카메라로 객체를 촬영한 영상에서 깊이 인식 알고리즘 등을 이용하여 추출할 수 있다. 객체의 움직임 및 위치 정보에서 인식된 모션 정보는 컴퓨터 장치에 입력되어 사용자 인식, 게임, 3D 모델링 등 다양한 분야에 활용될 수 있다.
골격 인식 기술은 모션 인식 기술 중 하나로, 영상에서 객체의 골격 정보를 추출하여 객체의 모션을 인식하는 기술이다. 영상에서 추출한 객체의 골격 정보에 포함된 뼈, 관절 등의 위치 정보 및 연결 정보 등에 기초하여 객체의 동작을 인식할 수 있다.
일 측에 따른 다중 영상 재생 방법은 사용자 영상을 표시하기 위한 제1 영역 및 기준 영상을 표시하기 위한 제2 영역을 포함하는 다중 영상 인터페이스를 표시하는 단계; 제1 객체를 포함하는 상기 사용자 영상을 상기 제1 영역에 표시하는 단계; 상기 제1 객체의 스켈레톤 정보를 추출하는 단계; 상기 제1 객체의 스켈레톤 정보에 기초하여, 상기 제1 객체의 회전 정보를 추정하는 단계; 상기 제2 영역에 표시되는 제2 객체의 회전 정보가 상기 제1 객체의 회전 정보에 대응하도록, 서버에 저장된 복수의 기준 영상들 중 상기 제1 객체의 회전 정보에 대응하는 상기 기준 영상을 요청하는 단계; 및 상기 기준 영상을 상기 제2 영역에 표시하는 단계를 포함한다.
상기 제1 객체의 회전 정보를 추정하는 단계는 상기 제1 객체의 스켈레톤 정보를 미리 정해진 복수의 회전 각도들에 대응하는 기준 값들을 포함하는 규격 정보에 비교함으로써, 상기 복수의 기준 값들 중 어느 하나의 기준 값을 선택하는 단계를 포함할 수 있다.
상기 제1 객체의 회전 정보를 추정하는 단계는 상기 제1 객체의 스켈레톤 정보를 기 학습된 신경망 모델에 입력함으로써, 미리 정해진 복수의 회전 각도들에 대응할 확률들을 추정하는 단계; 및 상기 확률들에 기초하여, 상기 복수의 회전 각도들에 대응하는 복수의 기준 값들 중 어느 하나의 기준 값을 선택하는 단계를 포함할 수 있다.
상기 제1 객체는 골프 스윙을 위한 준비 자세를 취한 사용자를 포함하고, 상기 제2 객체는 골프 스윙을 위한 준비 자세를 취한 프로 선수를 포함할 수 있다.
상기 기준 영상은 상기 제1 객체의 회전 정보에 대응하는 회전 정보를 가지는 상기 제2 객체를 포함할 수 있다.
상기 제1 객체의 스켈레톤 정보를 추출하는 단계는 상기 사용자 영상을 기 학습된 신경망 모델에 입력함으로써, 상기 제1 객체의 스켈레톤 정보를 추출하는 단계를 포함할 수 있다.
상기 사용자 영상은 거리 측정 센서로 촬영한 영상을 포함하고, 상기 제1 객체의 스켈레톤 정보를 추출하는 단계는 상기 사용자 영상의 거리 측정 정보에 기초하여, 상기 제1 객체의 스켈레톤 정보를 추출하는 단계를 포함할 수 있다.
상기 기준 영상을 상기 제2 영역에 표시하는 단계는 상기 제1 객체의 스켈레톤 정보의 변화 속도에 기초하여, 상기 기준 영상을 상기 제2 영역에 표시하는 단계를 포함할 수 있다.
상기 서버에 저장된 복수의 기준 영상들은 제2 객체를 서로 다른 각도에서 촬영한 복수의 영상들을 포함하고, 상기 복수의 기준 영상들 각각은 상기 제2 객체를 촬영한 각도에 대응하는 기준값에 맵핑될 수 있다.
상기 기준 영상을 상기 제2 영역에 표시하는 단계는 상기 사용자의 회전 정보 변경 입력을 수신하는 단계; 상기 서버에 저장된 복수의 기준 영상들 중 상기 사용자의 회전 정보 변경 입력에 대응하는 상기 기준 영상을 요청하는 단계; 및 상기 기준 영상을 제2 영역에 표시하는 단계를 더 포함할 수 있다.
상기 다중 영상 인터페이스는 상기 제1 영역에 표시되는 영상 및 상기 제2 영역에 표시되는 영상 중 적어도 하나의 재생을 제어하는 기능을 포함할 수 있다.
일 측에 따른 다중 영상 재생 장치는 제1 객체를 포함하는 사용자 영상을 표시하기 위한 제1 영역 및 기준 영상을 표시하기 위한 제2 영역을 포함하는 다중 영상 인터페이스 및 상기 제1 객체의 스켈레톤 정보를 추출하고, 상기 제1 객체의 스켈레톤 정보에 기초하여, 상기 제1 객체의 회전 정보를 추정하며, 상기 제2 영역에 표시되는 제2 객체의 회전 정보가 상기 제1 객체의 회전 정보에 대응하도록, 서버에 저장된 복수의 기준 영상들 중 상기 제1 객체의 회전 정보에 대응하는 상기 기준 영상을 요청하여, 상기 기준 영상을 상기 제2 영역에 표시하는 적어도 하나의 프로세서를 포함한다.
상기 프로세서는 상기 제1 객체의 회전 정보를 추정하기 위하여, 상기 제1 객체의 스켈레톤 정보를 미리 정해진 복수의 회전 각도들에 대응하는 기준 값들을 포함하는 규격 정보에 비교함으로써, 상기 복수의 기준 값들 중 어느 하나의 기준 값을 선택할 수 있다.
상기 프로세서는 상기 제1 객체의 회전 정보를 추정하기 위하여, 상기 제1 객체의 스켈레톤 정보를 기 학습된 신경망 모델에 입력함으로써, 미리 정해진 복수의 회전 각도들에 대응할 확률들을 추정하고, 상기 확률들에 기초하여, 상기 복수의 회전 각도들에 대응하는 복수의 기준 값들 중 어느 하나의 기준 값을 선택할 수 있다.
상기 제1 객체는 골프 스윙을 위한 준비 자세를 취한 사용자를 포함하고, 상기 제2 객체는 골프 스윙을 위한 준비 자세를 취한 프로 선수를 포함할 수 있다.
상기 프로세서는 상기 제1 객체의 스켈레톤 정보를 추출하기 위하여, 상기 사용자 영상을 기 학습된 신경망 모델에 입력함으로써, 상기 제1 객체의 스켈레톤 정보를 추출할 수 있다.
상기 사용자 영상은 거리 측정 센서로 촬영한 영상을 포함하고, 상기 프로세서는 상기 제1 객체의 스켈레톤 정보를 추출하기 위하여, 상기 사용자 영상의 거리 측정 정보에 기초하여, 상기 제1 객체의 스켈레톤 정보를 추출할 수 있다.
상기 프로세서는 상기 기준 영상을 상기 제2 영역에 표시하기 위하여, 상기 제1 객체의 스켈레톤 정보의 변화 속도에 기초하여, 상기 기준 영상을 상기 제2 영역에 표시할 수 있다.
상기 프로세서는 상기 기준 영상을 상기 제2 영역에 표시하기 위하여, 상기 사용자의 회전 정보 변경 입력을 수신하고, 상기 서버에 저장된 복수의 기준 영상들 중 상기 사용자의 회전 정보 변경 입력에 대응하는 상기 기준 영상을 요청하여, 상기 기준 영상을 제2 영역에 표시할 수 있다.
도 1은 일실시예에 따른 골격 인식 기술을 이용한 다중 영상 재생 방법을 설명하기 위한 도면.
도 2a 및 도 2b는 영상에서 추출한 객체의 스켈레톤 정보를 도시한 도면들.
도 3은 실시예에 따른 다중 영상 인터페이스를 예시한 도면.
도 4는 실시예에 따른 다중 영상 재생 방법을 구현하기 위해 필요한 구성 및 동작의 흐름을 설명하기 위한 도면.
도 5는 사용자의 입력에 기초하여 기준 영상을 회전하여 표시하는 실시예를 설명하기 위한 도면.
본 명세서에서 개시되어 있는 특정한 구조적 또는 기능적 설명들은 단지 기술적 개념에 따른 실시예들을 설명하기 위한 목적으로 예시된 것으로서, 실시예들은 다양한 다른 형태로 실시될 수 있으며 본 명세서에 설명된 실시예들에 한정되지 않는다.
제1 또는 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 이해되어야 한다. 예를 들어 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 구성요소들 간의 관계를 설명하는 표현들, 예를 들어 "~간의에"와 "바로~간의에" 또는 "~에 이웃하는"과 "~에 직접 이웃하는" 등도 마찬가지로 해석되어야 한다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
실시예에 따른 다중 영상 재생 방법 및 장치는 복수 개의 영상을 표시하고 재생하는 방법 및 장치에 관한 것으로, 이하에서 영상은 동영상을 의미한다.
도 1은 일실시예에 따른 골격 인식 기술을 이용한 다중 영상 재생 방법을 설명하기 위한 도면이다.
도 1을 참조하면, 일실시예에 따른 다중 영상 재생 방법은 다중 영상 인터페이스를 표시하는 단계(110), 제1 객체를 포함하는 사용자 영상을 표시하는 단계(120), 제1 객체의 스켈레톤 정보를 추출하는 단계(130), 제1 객체의 회전 정보를 추정하는 단계(140), 및 제1 객체의 회전 정보에 대응하는 기준 영상을 요청하는 단계(150), 및 기준 영상을 표시하는 단계(160)에 해당한다.
일실시예에 따른 다중 영상 인터페이스를 표시하는 단계(110)는 사용자 영상을 표시하기 위한 제1 영역 및 기준 영상을 표시하기 위한 제2 영역을 포함하는 다중 영상 인터페이스를 표시하는 단계에 해당할 수 있다. 일실시예에 따른 다중 영상 인터페이스는 제1 영역에 표시되는 영상 및 제2 영역에 표시되는 영상 중 적어도 하나의 재생을 제어하는 기능을 포함할 수 있다. 실시예에 따른 영상을 제어하는 기능은 인터페이스에 표시되는 각각의 영상을 확대 또는 축소하는 기능, 영상의 배속을 변경하는 기능, 영상의 재생 방향을 변경하는 기능을 포함할 수 있고, 제1 영역에 표시되는 영상 및 제2 영역에 표시되는 영상을 동시에 재생하는 기능 및 기준선 편집 기능을 포함할 수 있다. 실시예에 따른 제1 영역에 표시되는 영상을 제어하는 기능은 사용자의 선택 입력에 기초하여 제1 영역에 사용자가 선택한 영상을 표시하는 기능을 포함할 수 있다. 실시예에 다른 제2 영역에 표시되는 영상을 제어하는 기능은 사용자의 회전 정보 변경 입력에 기초하여 제2 영역에 표시되는 영상을 회전시켜 표시하는 기능을 포함할 수 있다. 실시예에 따른 단계(110)에서 표시되는 인터페이스의 구체적인 구성은 이하의 도 3에서 상술한다.
일실시예에 따른 제1 객체를 포함하는 사용자 영상을 표시하는 단계(120)는 제1 객체를 포함하는 사용자 영상을 상기 제1 영역에 표시하는 단계에 해당할 수 있다. 실시예에 따른 제1 객체는 골프 스윙을 위한 준비 자세를 취한 사용자를 포함할 수 있다. 일실시예에 따를 때, 사용자 영상은 사용자 단말에 저장된 동영상을 포함할 수 있고, 제1 객체를 포함하는 사용자 영상을 표시하는 단계(120)는 사용자의 영상 선택 입력을 수신하는 단계, 및 사용자의 입력에 기초하여 사용자의 단말에 저장된 영상(들) 중 사용자가 선택한 영상을 제1 영역에 표시하는 단계를 포함할 수 있다.
일실시예에 따른 제1 객체의 스켈레톤 정보를 추출하는 단계(130)는 단계(120)에서 표시된 사용자 영상에 포함된 제1 객체의 스켈레톤 정보를 추출하는 단계에 해당할 수 있다. 실시예에 따른 스켈레톤 정보는 객체의 관절 및/또는 뼈에 대응하는 복수의 지점들에 관한 정보를 포함할 수 있다. 실시예에 따른 복수의 지점들에 관한 정보는 지점들의 위치 정보, 지점들 간의 연결 정보 및 지점들 간의 연결 각도 정보를 포함할 수 있다. 일실시예에 따른 스켈레톤 정보는 다양한 알고리즘을 이용하여 객체가 포함된 영상에서 추출될 수 있다. 예를 들어, 스켈레톤 정보를 추출하기 위한 입력 영상은 이미지 센서로 측정된 RGB 영상이나 거리 측정 센서로 측정된 깊이 영상 등을 포함할 수 있다. 또한, 입력 영상에 기초하여 스켈레톤 정보를 추출하는 알고리즘으로 룰 기반의 알고리즘, 학습 기반의 알고리즘 등이 활용될 수 있다.
일실시예에 따른 제1 객체의 스켈레톤 정보를 추출하는 단계(130)는 사용자 영상을 기 학습된 신경망 모델에 입력함으로써, 상기 제1 객체의 스켈레톤 정보를 추출하는 단계를 포함할 수 있다. 일실시예에 따를 때, 단계(120)에서 표시된 사용자 영상은 거리 측정 센서로 촬영한 영상을 포함할 수 있고, 제1 객체의 스켈레톤 정보를 추출하는 단계(130)는 상기 사용자 영상의 거리 측정 정보에 기초하여, 상기 제1 객체의 스켈레톤 정보를 추출하는 단계를 포함할 수 있다.
일실시예에 따른 제1 객체의 회전 정보를 추정하는 단계(140)는 제1 객체의 스켈레톤 정보에 기초하여, 상기 제1 객체의 회전 정보를 추정하는 단계에 해당할 수 있다. 일실시예에 따른 회전 정보는 정면을 기준으로 객체가 회전된 정도를 나타내는 정보로, 객체를 촬영하는 카메라의 촬영 각도에 대응하는 기준 값을 포함할 수 있다. 예를 들어, 제1 객체가 영상에서 정면을 향하고 있는 경우, 제1 객체의 추정된 회전 정보는 0도에 대응하는 기준 값을 포함할 수 있다. 일실시예에 따른 기준 값은 미리 정해진 카메라의 촬영 각도들 중 하나의 촬영 각도로 객체를 촬영한 영상에서 객체의 스켈레톤 정보에 기초하여 결정된 값에 해당할 수 있다. 예를 들어, 카메라의 촬영 각도가 0도부터 120도 사이의 3도 간격에 해당하는 각도들로 미리 정해진 경우, 기준 값은 0도부터 120도까지 3도 간격에 해당하는 각도들 중 어느 하나의 촬영 각도로 촬영한 객체의 스켈레톤 정보에 기초하여 결정된 값에 해당할 수 있다.
실시예에 따른 제1 객체의 회전 정보를 추정하는 단계(140)는 제1 객체의 스켈레톤 정보를 미리 정해진 복수의 회전 각도들에 대응하는 기준 값들을 포함하는 규격 정보에 비교함으로써, 기준 값들 중 어느 하나의 기준 값을 선택하는 단계를 포함할 수 있다. 일실시예에 따른 회전 각도는 카메라의 촬영 각도에 해당할 수 있다. 일실시예에 따른 규격 정보는 미리 정해진 복수의 카메라의 촬영 각도들에 포함된 각각의 촬영 각도로 촬영한 객체의 각각의 스켈레톤 정보에 기초하여 결정된 기준 값들을 포함할 수 있다. 일실시예에 따를 때, 제1 객체의 스켈레톤 정보를 규격 정보에 포함된 기준 값들과 비교하여, 제1 객체의 스켈레톤 정보와 가장 가까운 기준 값을 선택할 수 있다. 일실시예에 따를 때, 제1 객체의 회전정보는 선택된 기준 값에 대응하는 카메라의 촬영 각도로 추정될 수 있다.
일실시예에 따른 제1 객체의 회전 정보를 추정하는 단계(140)는 제1 객체의 스켈레톤 정보를 기 학습된 신경망 모델에 입력함으로써, 미리 정해진 복수의 회전 각도들에 대응할 확률들을 추정하는 단계, 및 확률들에 기초하여, 복수의 회전 각도들에 대응하는 복수의 기준 값들 중 어느 하나의 기준 값을 선택하는 단계를 포함할 수 있다. 실시예에 따른 기 학습된 신경망 모델은 미리 정해진 카메라의 촬영 각도들 각각에 대응하는 객체의 스켈레톤 정보를 학습시킨 신경망 모델에 해당할 수 있다. 실시예에 따른 카메라의 촬영 각도에 대응하는 객체의 스켈레톤 정보는 해당 카메라의 촬영 각도로 객체를 촬영한 영상에서 획득한 객체의 스켈레톤 정보에 해당할 수 있다. 일실시예에 따른 제1 객체의 스켈레톤 정보를 기 학습된 신경망 모델에 입력함으로써, 제1 객체의 스켈레톤 정보가 학습된 촬영 각도들에 대응할 확률들을 추정하여, 확률이 가장 높은 기준 값을 선택할 수 있다. 일실시예에 따를 때, 제1 객체의 회전정보는 선택된 기준 값에 대응하는 카메라의 촬영 각도로 추정될 수 있다.
일실시예에 따른 제1 객체의 회전 정보에 대응하는 기준 영상을 요청하는 단계(150)는 제2 영역에 표시되는 제2 객체의 회전 정보가 제1 객체의 회전 정보에 대응하도록, 서버에 저장된 복수의 기준 영상들 중 제1 객체의 회전 정보에 대응하는 기준 영상을 요청하는 단계에 해당할 수 있다. 일실시예에 따를 때, 서버에 저장된 복수의 기준 영상들은 제2 객체를 서로 다른 각도에서 촬영한 복수의 영상들을 포함하고, 복수의 기준 영상들 각각은 제2 객체를 촬영한 각도에 대응하는 기준값에 맵핑될 수 있다. 실시예에 따를 때, 제1 객체의 회전 정보에 대응하는 기준 영상은 제1 객체의 회전 정보에 포함된 기준 값에 맵핑된 기준 영상에 해당할 수 있다. 다시 말해, 실시예에 따른 제1 객체의 회전 정보에 대응하는 기준 영상은 서버에 저장된 복수의 기준 영상들 중 기준 영상들에 포함된 제2 객체의 준비 자세의 방향이 사용자 영상에 포함된 제1 객체의 준비 자세의 방향과 가장 가까운 기준 영상에 해당할 수 있다. 일실시예에 따른 기준 영상은 제1 객체의 회전 정보에 대응하는 회전 정보를 가지는 제2 객체를 포함할 수 있다. 일실시예에 따른 제2 객체는 골프 스윙을 위한 준비 자세를 취한 프로 선수를 포함할 수 있다.
일실시예에 따른 기준 영상을 표시하는 단계(160)는 단계(110)에서 표시되는 인터페이스의 제2 영역에 기준 영상을 표시하는 단계에 해당할 수 있다. 일실시예에 따른 기준 영상을 표시하는 단계(160)는 제1 객체의 스켈레톤 정보의 변화 속도에 기초하여, 기준 영상을 제2 영역에 표시하는 단계를 포함할 수 있다. 실시예에 따른 객체의 스켈레톤 정보는 객체의 움직임에 따른 객체에 포함된 뼈 및 관절의 위치 변화에 기초하여 변화할 수 있다. 일실시예에 따를 때, 제1 객체의 스켈레톤 정보의 변화 속도에 기초하여, 기준 영상을 제2 영역에 표시하는 것은 제2 객체의 스켈레톤 정보가 제1 객체의 스켈레톤 정보에 대응되도록 제2 영역에 표시된 기준 영상의 재생 속도를 조절하는 것에 해당할 수 있다. 다시 말해, 제2 영역에 표시되는 제2 객체의 자세가 제1 객체의 변화되는 자세에 대응하도록 기준 영상을 표시하는 것에 해당할 수 있다.
일실시예에 따른 기준 영상을 표시하는 단계(160)는 사용자의 회전 정보 변경 입력을 수신하는 단계, 서버에 저장된 복수의 기준 영상들 중 사용자의 회전 정보 변경 입력에 대응하는 기준 영상을 요청하는 단계, 및 기준 영상을 제2 영역에 표시하는 단계를 더 포함할 수 있다. 일실시예에 따른 사용자의 회전 정보 변경 입력은 제2 영상에 표시된 객체의 회전 정보를 변경하는 입력에 해당할 수 있다. 일실시예에 따를 때, 사용자의 회전 정보 변경 입력이 있는 경우, 사용자의 입력에 기초하여 제2 객체를 다른 각도에서 촬영한 기준 영상을 제2 영역에 표시할 수 있다.
도 2a 및 도 2b는 영상에서 추출한 객체의 스켈레톤 정보를 도시한 도면들에 해당한다. 일실시예에 따른 객체의 스켈레톤 정보는 영상에 포함된 객체에서 골격 인식 알고리즘에 따라 검출된 관절(혹은 뼈)의 위치 정보 및 이들의 연결 정보를 포함할 수 있다.
도 2a 및 도 2b를 참조할 때, 원으로 표시된 부분은 골격 객체에서 검출된 관절 또는 뼈에 대응되는 지점들에 해당할 수 있고, 선으로 표시된 부분은 검출된 관절 및 뼈들의 연결 관계에 해당할 수 있다. 도 2a는 객체를 정면에서 촬영한 영상에서 추출한 스켈레톤 정보에 해당하고, 도 2b는 객체를 측면에서 촬영한 영상에서 추출한 스켈레톤 정보에 해당한다. 도 2a 및 도 2b를 참조할 때, 도 2a의 각 지점은 도 2b의 각 지점에 대응될 수 있으나, 대응되는 지점들의 위치 정보 및 연결 정보에는 차이가 존재한다. 예를 들어, 팔꿈치에 대응하는 지점(203, 213) 및 골반에 대응하는 지점(202, 212)의 상대적인 위치가 다르며, 골반에 대응하는 지점(202, 212) 및 무릎에 대응하는 지점(204, 214)의 연결 각도에도 차이가 있다. 실시예에 따른 단계(140)에서 도 2a에 대응되는 객체의 회전 정보 및 도 2b에 대응되는 객체의 회전 정보는 객체를 촬영한 카메라의 촬영 각도에 따른 스켈레톤 정보의 차이에 기초하여, 다르게 추정될 수 있다.
일실시예에 따르면, 스켈레톤 정보는 신경망에 입력되기 위하여 벡터의 형태로 표현될 수 있다. 예를 들어, 스켈레톤 정보는 관절(혹은 뼈)를 노드로 하는 트리 구조로 표현될 수 있으며, 스켈레톤 정보를 표현하는 벡터는 트리에 포함된 복수의 노드들을 BFS(Breadth First Search) 기반으로 탐색하는 순서로, 관절(혹은 뼈)들의 위치 정보를 포함하는 벡터일 수 있다.
이 때, 신경망에 입력하기 위하여, 스켈레톤 정보를 표현하는 벡터의 디멘션(dimension)은 관절(혹은 뼈)의 개수와 무관하게 동일하게 설정될 수 있다. 예를 들어, 벡터의 디멘션은 영상으로부터 추출 가능한 최대 관절(혹은 뼈)의 개수에 대응하여 정의되고, 벡터는 관절(혹은 뼈)의 유형(예를 들어, 트리 구조 내 레벨, 관절 유형, 뼈 유형 등)에 따라 영역이 분할될 수 있다. 입력 영상으로부터 스켈레톤 정보가 추출되면, 스켈레톤 정보에 포함된 관절(혹은 뼈)들의 위치 정보 각각은 관절(혹은 뼈)의 유형에 해당하는 영역에 포함되며, 각 영역 내 채워지지 않은 부분은 미리 정해진 임의의 값으로 설정될 수 있다.
예를 들어, 도 2a에서 추출되는 관절(혹은 뼈)의 개수는 13개이고, 도 2b에서 추출되는 관절(혹은 뼈)의 개수는 7개이다. 도 2a와 같이 정면에서 추출된 스켈레톤 정보에 포함된 관절(혹은 뼈)의 개수가 추출 가능한 최대 관절(혹은 뼈)의 개수라고 가정하면, 벡터의 디멘션은 총 13개의 관절(혹은 뼈)의 위치 정보를 포함할 수 있도록 정의될 수 있다. 이 때, 스켈레톤 정보에 포함된 노드들은 트리 구조 상 level 0에 해당하는 하나의 노드, level 1에 해당하는 3개의 노드들, level 2에 해당하는 3개의 노드들, level 3에 해당하는 4개의 노드들, 및 level 4에 해당하는 2개의 노드들로 구분될 수 있다. 이 경우, 벡터는 총 13개의 위치 정보를 level 0 내지 4에 대응하는 영역에 분할하여 저장할 수 있다. 만약 도 2b와 같이 7개의 관절(혹은 뼈)만 추출되는 경우, 관절(혹은 뼈)의 유형에 따라 벡터 내 해당 영역에 관절(혹은 뼈)의 위치 정보가 저장되고, 벡터 내 나머지 부분은 미리 정해진 임의의 값(예를 들어, 0)이 채워질 수 있다. 전술한 벡터의 형태는 예시적인 사항에 해당하며, 신경망의 설계에 따라 벡터의 형태는 다양하게 변형될 수 있다.
도 3은 실시예에 따른 다중 영상 인터페이스를 예시한 도면이다. 도 3을 참조하면, 제1 영역(310)은 사용자 영상이 표시되는 영역에 해당하고, 제2 영역(320)은 기준 영상이 표시되는 영역에 해당한다. 일실시예에 따른 다중 영상 인터페이스는 제1 영역에 표시되는 영상 및 제2 영역에 표시되는 영상 중 적어도 하나의 재생을 제어하는 기능을 포함할 수 있다. 실시예에 따른 다중 영상 인터페이스에 포함된 영상이 표시되는 제1 영역 및 제2 영역 각각에는 사용자의 입력에 기초하여 영상을 확대 또는 축소하는 기능, 영상의 배속을 변경하는 기능, 영상의 재생 방향을 변경하는 기능 등 영상을 제어하는 다양한 기능을 제공하는 인터페이스가 포함될 수 있다. 예를 들어, 영상이 표시되는 영역(310, 320) 각각에 영상 배율을 변경할 수 있는 입력부(311, 321)를 포함하여, 인터페이스에 표시되는 각각의 영상을 확대 또는 축소할 수 있는 기능을 제공할 수 있다. 또한, 영상이 표시되는 영역(310, 320) 각각에 영상의 배속을 변경할 수 있는 입력부(312, 322)를 포함하여, 인터페이스에 표시되는 각각의 영상의 재생 속도를 변경할 수 있는 기능을 제공할 수 있다. 실시예에 따른 다중 영상 인터페이스는 제1 영역에 표시되는 영상 및 제2 영역에 표시되는 영상을 동시에 재생하는 기능 및 기준선 편집 기능을 포함할 수 있다. 예를 들어, 다중 영상 인터페이스는 동시 재생 입력부(302)를 포함하여 사용자의 입력에 기초하여 제1 영역에 표시된 영상 및 제2 영역에 표시된 영상을 동시에 재생하는 기능을 포함할 수 있다. 실시예에 따를 때, 영상을 동시에 재생하는 것은 제2 영역에 표시되는 제2 객체의 회전 정보가 상기 제1 객체의 회전 정보에 대응하는 기준 영상을 재생하는 것에 해당할 수 있다. 일실시예에 따를 때, 영상을 동시에 재생하는 것은 제1 객체의 스켈레톤 정보의 변화 속도에 기초하여, 기준 영상을 제2 영역에 표시하는 것에 해당할 수 있다. 일실시예에 따를 때, 실시예에 따른 제1 영역에 표시되는 영상을 제어하는 기능은 제1 영역에 사용자가 선택한 영상을 표시하는 기능을 포함할 수 있다. 예를 들어, 다중 영상 인터페이스는 제1 영역에 영상 선택 입력부(313)를 포함하며, 영상 선택 입력부(313)를 통한 사용자의 제1 영역에 표시될 영상을 선택하는 입력에 기초하여, 사용자에 의해 선택된 영상을 제1 영역에 표시하는 기능을 포함할 수 있다. 실시예에 따를 때, 제2 영역에 표시되는 영상을 제어하는 기능은 제2 영역에 표시되는 영상을 회전시켜 표시하는 기능을 포함할 수 있다. 예를 들어, 다중 영상 인터페이스는 제2 영역에 영상 회전 입력부(323)를 포함하며, 영상 회전 입력부(323)를 통한 사용자의 영상에 포함된 객체의 회전 정보를 변경하는 입력에 기초하여, 변경된 회전 정보에 대응하는 영상을 제2 영역에 표시하는 기능을 포함할 수 있다.
도 4는 실시예에 따른 다중 영상 재생 방법을 구현하기 위해 필요한 구성 및 동작의 흐름을 설명하기 위한 도면이다. 도 4에서 설명하는 일실시예에서는 서버(420)의 구성을 영상제어 서버(421), 골격인식 서버(422), 스트리밍 서버(423)로 구분하고 있으나, 실시예에 따른 서버의 구성은 이에 한정되지 않으며, 하나의 서버로 구성되거나 다양한 구성을 포함할 수도 있다. 도 4를 참조할 때, 사용자의 단말(410)은 사용자의 영상이 표시되는 제1 영역 및 기준 영상이 표시되는 제2 영역을 포함한 다중 영상 인터페이스가 포함된 구성에 해당할 수 있다. 실시예에 따를 때, 제1 영역에 영상이 표시된 경우, 사용자의 입력에 기초하여 또는 일정한 기준에 기초하여, 서버(420)에 제1 객체의 회전 정보 분석을 요청할 수 있다. 일실시예에 따를 때, 사용자의 단말은 영상 제어 서버(421)를 통해 골격 인식 알고리즘에 따라 객체의 회전 정보를 추정하는 골격 인식 서버(422)에 회전 정보 분석을 요청할 수 있다. 실시예에 따를 때, 제1 객체의 회전 정보 분석 요청을 받은 서버는 골격 인식 알고리즘에 따라 제1 객체의 회전 정보를 추정하여, 기준 영상들이 저장된 서버(423)에 제1 객체의 회전 정보에 대응하는 제2 객체가 포함된 기준 영상을 요청할 수 있다. 일실시예에 따를 때, 골격 인식 서버(422)는 영상 제어 서버(421)에 회전 정보 분석 결과를 전송하고, 영상 제어 서버(421)에서 기준 영상들이 저장된 스트리밍 서버(423)에 기준 영상을 요청할 수 있다. 실시예에 따를 때, 사용자의 단말(410)은 서버(423)로부터 기준 영상을 전송받아 제2 영역에 기준 영상을 표시할 수 있다.
도 5는 사용자의 입력에 기초하여 기준 영상을 회전하여 표시하는 실시예를 설명하기 위한 도면이다. 도 5를 참조할 때, 사용자의 단말(510)의 다중 영상 인터페이스를 통한 사용자의 회전 정보 변경 입력이 있는 경우, 서버(520)에 영상 회전이 요청될 수 있다. 실시예에 따른 사용자의 회전 정보 변경 입력은 제2 영상에 표시된 객체의 회전 정보를 변경하는 입력에 해당할 수 있다. 일실시예에 따를 때, 사용자의 단말(510)에서 영상 제어 서버(521)에 사용자의 입력에 기초하여 영상 회전을 요청할 수 있고, 영상제어 서버는 제2 객체의 회전 정보에 사용자의 회전 정보 변경 입력을 반영하여 변경된 회전 정보에 대응하는 기준 영상을 스트리밍 서버(523)에 요청할 수 있다. 이 경우, 현재 재생 중인 제2 객체의 회전 정보는 서버에 저장되어 있을 수 있다.
일실시예에 따르면, 제2 영역의 영상을 회전하는 요청에 반응하여, 영상제어 서버(521)가 골격 인식 서버(522)에 제2 객체의 회전 정보 분석을 요청할 수 있다. 이 경우, 영상제어 서버는 골격 인식 서버(522)로부터 전송받은 제2 객체의 회전 정보에 사용자의 회전 정보 변경 입력을 반영하여 변경된 회전 정보에 대응하는 기준 영상을 스트리밍 서버(523)에 요청할 수 있다.
단말(510)은 스트리밍 서버(523)로부터 변경된 회전 정보에 대응하는 기준 영상을 전송받아, 제2 영역에 표시할 수 있다.
이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

Claims (20)

  1. 사용자 영상을 표시하기 위한 제1 영역 및 기준 영상을 표시하기 위한 제2 영역을 포함하는 다중 영상 인터페이스를 표시하는 단계;
    제1 객체를 포함하는 상기 사용자 영상을 상기 제1 영역에 표시하는 단계;
    상기 제1 객체의 스켈레톤 정보를 추출하는 단계;
    상기 제1 객체의 스켈레톤 정보에 기초하여, 상기 제1 객체의 회전 정보를 추정하는 단계;
    상기 제2 영역에 표시되는 제2 객체의 회전 정보가 상기 제1 객체의 회전 정보에 대응하도록, 서버에 저장된 복수의 기준 영상들 중 상기 제1 객체의 회전 정보에 대응하는 상기 기준 영상을 요청하는 단계; 및
    상기 기준 영상을 상기 제2 영역에 표시하는 단계
    를 포함하는
    다중 영상 재생 방법.
  2. 제1항에 있어서,
    상기 제1 객체의 회전 정보를 추정하는 단계는
    상기 제1 객체의 스켈레톤 정보를 미리 정해진 복수의 회전 각도들에 대응하는 기준 값들을 포함하는 규격 정보에 비교함으로써, 상기 복수의 기준 값들 중 어느 하나의 기준 값을 선택하는 단계
    를 포함하는,
    다중 영상 재생 방법.
  3. 제1항에 있어서,
    상기 제1 객체의 회전 정보를 추정하는 단계는
    상기 제1 객체의 스켈레톤 정보를 기 학습된 신경망 모델에 입력함으로써, 미리 정해진 복수의 회전 각도들에 대응할 확률들을 추정하는 단계; 및
    상기 확률들에 기초하여, 상기 복수의 회전 각도들에 대응하는 복수의 기준 값들 중 어느 하나의 기준 값을 선택하는 단계
    를 포함하는,
    다중 영상 재생 방법.
  4. 제1항에 있어서,
    상기 제1 객체는 골프 스윙을 위한 준비 자세를 취한 사용자를 포함하고,
    상기 제2 객체는 골프 스윙을 위한 준비 자세를 취한 프로 선수를 포함하는,
    다중 영상 재생 방법.
  5. 제1항에 있어서,
    상기 기준 영상은
    상기 제1 객체의 회전 정보에 대응하는 회전 정보를 가지는 상기 제2 객체를 포함하는
    다중 영상 재생 방법.
  6. 제1항에 있어서,
    상기 제1 객체의 스켈레톤 정보를 추출하는 단계는
    상기 사용자 영상을 기 학습된 신경망 모델에 입력함으로써, 상기 제1 객체의 스켈레톤 정보를 추출하는 단계
    를 포함하는,
    다중 영상 재생 방법.
  7. 제1항에 있어서,
    상기 사용자 영상은 거리 측정 센서로 촬영한 영상을 포함하고,
    상기 제1 객체의 스켈레톤 정보를 추출하는 단계는
    상기 사용자 영상의 거리 측정 정보에 기초하여, 상기 제1 객체의 스켈레톤 정보를 추출하는 단계
    를 포함하는,
    다중 영상 재생 방법.
  8. 제1항에 있어서,
    상기 기준 영상을 상기 제2 영역에 표시하는 단계는
    상기 제1 객체의 스켈레톤 정보의 변화 속도에 기초하여, 상기 기준 영상을 상기 제2 영역에 표시하는 단계
    를 포함하는
    다중 영상 재생 방법.
  9. 제1항에 있어서,
    상기 서버에 저장된 복수의 기준 영상들은
    제2 객체를 서로 다른 각도에서 촬영한 복수의 영상들을 포함하고,
    상기 복수의 기준 영상들 각각은 상기 제2 객체를 촬영한 각도에 대응하는 기준값에 맵핑되는
    다중 영상 재생 방법.
  10. 제1항에 있어서,
    상기 기준 영상을 상기 제2 영역에 표시하는 단계는
    상기 사용자의 회전 정보 변경 입력을 수신하는 단계;
    상기 서버에 저장된 복수의 기준 영상들 중 상기 사용자의 회전 정보 변경 입력에 대응하는 상기 기준 영상을 요청하는 단계; 및
    상기 기준 영상을 제2 영역에 표시하는 단계
    를 더 포함하는
    다중 영상 재생 방법.
  11. 제1항에 있어서,
    상기 다중 영상 인터페이스는
    상기 제1 영역에 표시되는 영상 및 상기 제2 영역에 표시되는 영상 중 적어도 하나의 재생을 제어하는 기능을 포함하는
    다중 영상 재생 방법.
  12. 하드웨어와 결합되어 제1항 내지 제11항 중 어느 하나의 항의 방법을 실행시키기 위하여 매체에 저장된 컴퓨터 프로그램.
  13. 제1 객체를 포함하는 사용자 영상을 표시하기 위한 제1 영역 및 서버로부터 수신한 기준 영상을 표시하기 위한 제2 영역을 포함하는 다중 영상 인터페이스 및
    상기 제1 객체의 스켈레톤 정보를 추출하고, 상기 제1 객체의 스켈레톤 정보에 기초하여, 상기 제1 객체의 회전 정보를 추정하며, 상기 제2 영역에 표시되는 제2 객체의 회전 정보가 상기 제1 객체의 회전 정보에 대응하도록, 서버에 저장된 복수의 기준 영상들 중 상기 제1 객체의 회전 정보에 대응하는 상기 기준 영상을 요청하여, 상기 기준 영상을 상기 제2 영역에 표시하는 적어도 하나의 프로세서
    를 포함하는
    다중 영상 재생 장치.
  14. 제13항에 있어서,
    상기 프로세서는
    상기 제1 객체의 회전 정보를 추정하기 위하여,
    상기 제1 객체의 스켈레톤 정보를 미리 정해진 복수의 회전 각도들에 대응하는 기준 값들을 포함하는 규격 정보에 비교함으로써, 상기 복수의 기준 값들 중 어느 하나의 기준 값을 선택하는
    다중 영상 재생 장치.
  15. 제13항에 있어서,
    상기 프로세서는
    상기 제1 객체의 회전 정보를 추정하기 위하여,
    상기 제1 객체의 스켈레톤 정보를 기 학습된 신경망 모델에 입력함으로써, 미리 정해진 복수의 회전 각도들에 대응할 확률들을 추정하고, 상기 확률들에 기초하여, 상기 복수의 회전 각도들에 대응하는 복수의 기준 값들 중 어느 하나의 기준 값을 선택하는
    다중 영상 재생 장치.
  16. 제13항에 있어서,
    상기 제1 객체는 골프 스윙을 위한 준비 자세를 취한 사용자를 포함하고,
    상기 제2 객체는 골프 스윙을 위한 준비 자세를 취한 프로 선수를 포함하는,
    다중 영상 재생 장치.
  17. 제13항에 있어서,
    상기 프로세서는
    상기 제1 객체의 스켈레톤 정보를 추출하기 위하여,
    상기 사용자 영상을 기 학습된 신경망 모델에 입력함으로써, 상기 제1 객체의 스켈레톤 정보를 추출하는
    다중 영상 재생 장치.
  18. 제13항에 있어서,
    상기 사용자 영상은 거리 측정 센서로 촬영한 영상을 포함하고,
    상기 프로세서는
    상기 제1 객체의 스켈레톤 정보를 추출하기 위하여,
    상기 사용자 영상의 거리 측정 정보에 기초하여, 상기 제1 객체의 스켈레톤 정보를 추출하는
    다중 영상 재생 장치.
  19. 제13항에 있어서,
    상기 프로세서는
    상기 기준 영상을 상기 제2 영역에 표시하기 위하여,
    상기 제1 객체의 스켈레톤 정보의 변화 속도에 기초하여, 상기 기준 영상을 상기 제2 영역에 표시하는
    다중 영상 재생 장치.
  20. 제13항에 있어서,
    상기 프로세서는
    상기 기준 영상을 상기 제2 영역에 표시하기 위하여,
    상기 사용자의 회전 정보 변경 입력을 수신하고, 상기 서버에 저장된 복수의 기준 영상들 중 상기 사용자의 회전 정보 변경 입력에 대응하는 상기 기준 영상을 요청하여, 상기 기준 영상을 제2 영역에 표시하는
    다중 영상 재생 장치.
KR1020200003265A 2020-01-09 2020-01-09 다중 영상 재생 방법 및 장치 KR102357117B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200003265A KR102357117B1 (ko) 2020-01-09 2020-01-09 다중 영상 재생 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200003265A KR102357117B1 (ko) 2020-01-09 2020-01-09 다중 영상 재생 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20210089997A true KR20210089997A (ko) 2021-07-19
KR102357117B1 KR102357117B1 (ko) 2022-01-27

Family

ID=77126050

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200003265A KR102357117B1 (ko) 2020-01-09 2020-01-09 다중 영상 재생 방법 및 장치

Country Status (1)

Country Link
KR (1) KR102357117B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102619701B1 (ko) * 2022-12-30 2024-01-02 주식회사 쓰리아이 동적 객체에 대한 3차원 자세 추정 데이터 생성 방법 및 그를 위한 컴퓨팅 장치

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130013122A (ko) * 2011-07-27 2013-02-06 삼성전자주식회사 객체 자세 검색 장치 및 방법
JP2014064110A (ja) * 2012-09-20 2014-04-10 Casio Comput Co Ltd 画像処理装置、画像処理方法及びプログラム
KR20160096473A (ko) * 2015-02-05 2016-08-16 한국전자통신연구원 동작 평가 시스템 및 방법
KR20160106455A (ko) * 2015-03-02 2016-09-12 주식회사 삼정텍 영상기기를 활용한 골프 자세 분석 방법
KR20160121379A (ko) * 2015-04-09 2016-10-19 한국전자통신연구원 골프 동작 분석 장치 및 방법
US20200005670A1 (en) * 2018-06-29 2020-01-02 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and storage medium

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130013122A (ko) * 2011-07-27 2013-02-06 삼성전자주식회사 객체 자세 검색 장치 및 방법
JP2014064110A (ja) * 2012-09-20 2014-04-10 Casio Comput Co Ltd 画像処理装置、画像処理方法及びプログラム
KR20160096473A (ko) * 2015-02-05 2016-08-16 한국전자통신연구원 동작 평가 시스템 및 방법
KR20160106455A (ko) * 2015-03-02 2016-09-12 주식회사 삼정텍 영상기기를 활용한 골프 자세 분석 방법
KR20160121379A (ko) * 2015-04-09 2016-10-19 한국전자통신연구원 골프 동작 분석 장치 및 방법
US20200005670A1 (en) * 2018-06-29 2020-01-02 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and storage medium

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102619701B1 (ko) * 2022-12-30 2024-01-02 주식회사 쓰리아이 동적 객체에 대한 3차원 자세 추정 데이터 생성 방법 및 그를 위한 컴퓨팅 장치

Also Published As

Publication number Publication date
KR102357117B1 (ko) 2022-01-27

Similar Documents

Publication Publication Date Title
Lai et al. Semantic-driven generation of hyperlapse from 360 degree video
CN109429052B (zh) 信息处理设备、信息处理设备的控制方法以及存储介质
KR102316056B1 (ko) 화상 처리장치, 화상 처리방법 및 프로그램
JP6794545B2 (ja) 仮想カメラを構成する方法、システム及び装置
US10171794B2 (en) Method for selecting cameras and image distribution system capable of appropriately selecting cameras
CN110335351B (zh) 多模态ar处理方法、装置、系统、设备及可读存储介质
KR20100043138A (ko) 화상 처리 장치, 동화상 재생 장치, 이들에서의 처리 방법 및 프로그램
US11503272B2 (en) Information processing apparatus, information processing method and storage medium
US11373329B2 (en) Method of generating 3-dimensional model data
US11334621B2 (en) Image search system, image search method and storage medium
CN108629799B (zh) 一种实现增强现实的方法及设备
JP2019036288A (ja) 画像処理装置、画像処理方法およびプログラム
Hu et al. Deep 360 pilot: Learning a deep agent for piloting through 360deg sports videos
US20160182769A1 (en) Apparatus and method for generating motion effects by analyzing motions of objects
Vo et al. Spatiotemporal bundle adjustment for dynamic 3d human reconstruction in the wild
KR102357117B1 (ko) 다중 영상 재생 방법 및 장치
WO2024022301A1 (zh) 视角路径获取方法、装置、电子设备及介质
KR102203109B1 (ko) 인공 신경망에 기반한 영상 처리 방법 및 장치
GB2566478B (en) Probability based 360 degree video stabilisation
US20200020090A1 (en) 3D Moving Object Point Cloud Refinement Using Temporal Inconsistencies
US20200014901A1 (en) Information processing apparatus, control method therefor and computer-readable medium
US20220044414A1 (en) Method and device for processing image on basis of artificial neural network
HanbyulJoo et al. Panoptic studio: A massively multiview system for social interaction capture
JP2002063578A (ja) 動き情報検知装置及び動き情報検知方法及び動き情報検知プログラムを記録した記録媒体
JP6817770B2 (ja) 画像処理装置、画像処理方法

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant