KR102599664B1 - 다시점 영상을 전송하기 위한 시스템의 동작 방법 및 이를 수행하는 시스템 - Google Patents

다시점 영상을 전송하기 위한 시스템의 동작 방법 및 이를 수행하는 시스템 Download PDF

Info

Publication number
KR102599664B1
KR102599664B1 KR1020210194006A KR20210194006A KR102599664B1 KR 102599664 B1 KR102599664 B1 KR 102599664B1 KR 1020210194006 A KR1020210194006 A KR 1020210194006A KR 20210194006 A KR20210194006 A KR 20210194006A KR 102599664 B1 KR102599664 B1 KR 102599664B1
Authority
KR
South Korea
Prior art keywords
camera images
camera
images
receiving device
transmitting
Prior art date
Application number
KR1020210194006A
Other languages
English (en)
Other versions
KR20230103253A (ko
Inventor
김영휘
차승훈
정승화
김범기
이근모
한성규
현성필
허재일
반재경
Original Assignee
주식회사 카이
경북대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 카이, 경북대학교 산학협력단 filed Critical 주식회사 카이
Priority to KR1020210194006A priority Critical patent/KR102599664B1/ko
Publication of KR20230103253A publication Critical patent/KR20230103253A/ko
Application granted granted Critical
Publication of KR102599664B1 publication Critical patent/KR102599664B1/ko

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194—Transmission of image signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106—Processing image signals
    • H04N13/122—Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106—Processing image signals
    • H04N13/167—Synchronising or controlling image signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189—Recording image signals; Reproducing recorded image signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/221—Image signal generators using stereoscopic image cameras using a single 2D image sensor using the relative movement between cameras and objects
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Studio Devices (AREA)

Abstract

실시예는, 다시점 영상을 제공하기 위한 전송 장치 및 수신 장치의 동작 방법에 대한 것이다. 실시예에 따른 전송 장치의 동작 방법은, 각각 다른 시각을 가지는 카메라 및 360도 카메라와 연결된 촬영 노드들을 통해 복수의 카메라 영상을 획득하는 단계; 촬영 노드들로부터 획득하는 카메라 영상에 미리 정해진 시간 단위로 동일한 타임 스탬프들을 기록하는 단계; 및 타임 스탬프들이 기록된 영상을 수신 장치로 전송하는 단계를 포함할 수 있다.

Description

다시점 영상을 전송하기 위한 시스템의 동작 방법 및 이를 수행하는 시스템{SYSTEM OPERATING METHOD FOR TRANSFERING MULTIVIEW VIDEO AND SYSTEM OF THEREOF}
실시예는, 다시점 영상을 전송하기 위한 시스템의 동작 방법 및 이를 수행하는 시스템에 관한 것이다.
고해상도의 스트리밍 기술은 매우 빠르게 발전하고 있으며, 특히 가상현실 또는 증강 현실 등의 기술을 이용하여 사용자에게 몰입도 있는 서비스가 제공되고 있다.
여러 개의 시점을 촬영하는 멀티 카메라(동종)와 360도 촬영이 가능한 VR 카메라(이종)들을 모두 활영하여 공연, 스포츠 등 다양한 콘텐츠를 촬영하는 것이 보편화 되고 있다. 프로젝터의 성능이 발전하고, 몰입형 공간에 대한 요구가 높아짐에 따라 멀티 프로젝션을 활용한 상영이나 전시의 수요도 꾸준히 증가하고 있다.
한편, 기존 방송 서비스는 하나의 채널을 통해 시청자에게 방송 정보를 제공하며, 야구와 같은 스포츠 경기를 중계하는 경우에 다수의 카메라를 경기장에 배치하고 여러 각도에서 선수들의 플레이 상황을 시청자에게 제공할 수 있도록 시스템이 구축되지만, 시청자들에게 제공되는 화면은 제작된 여러 화면 중 방송사에 의해 선택되어지는 하나의 화면에 지나지 않는다.
이와 관련하여 한국공개특허 제10-2008-0096006호에서는 파노라마 영상 생성 장치, 방법 및 상기 방법을 프로그램화하여 수록한 컴퓨터로 읽을 수 있는 기록매체에 관한 발명이 개시된다.
실시예에 따른 발명은 멀티 카메라 및 360도 카메라 등을 활용하여 다양한 카메라 조합으로 콘텐츠를 실시간으로 촬영하고 이를 합성하여 멀티 프로젝션으로 구축된 몰입형 상영 환경으로 영상을 송출하고, 이를 수신하여 재생하는 방법 및 이를 수행하는 장치를 제공하고자 한다.
다시점 영상을 전송하기 위한 전송 장치의 동작 방법에 있어서, 각각 다른 시각을 가지는 카메라 및 360도 카메라와 연결된 촬영 노드들을 통해 복수의 카메라 영상을 획득하는 단계; 상기 촬영 노드들로부터 획득하는 카메라 영상에 미리 정해진 시간 단위로 동일한 타임 스탬프들을 기록하는 단계; 및 상기 타임 스탬프들이 기록된 영상을 수신 장치로 전송하는 단계를 포함하는, 전송 장치의 동작 방법이 제공될 수 있다.
지시에 대응하여 상기 촬영 노드들 중 특정 촬영 노드를 선택하는 단계; 및 상기 특정 촬영 노드의 선택 사항을 별도의 음성 채널에 기록하는 단계를 더 포함할 수 있다.
상기 음성 채널의 소스가 변경되는 시점에 대응하여 상기 수신 장치에서 상기 특정 촬영 노드에 해당하는 카메라 영상이 선택될 수 있다.
상기 촬영 노드들을 통해 복수의 카메라 영상을 획득하는 단계는, 상기 복수의 카메라 영상에 대해서 중요도에 기초하여 카메라 영상의 화질을 최적화하기 위한 중요 영역을 결정하는 단계를 포함할 수 있다.
상기 타임 스탬프들이 기록된 영상을 수신 장치로 전송하는 단계는, 상기 중요 영역을 기준으로 상기 카메라 영상의 고화질 영상을 전송하는 단계를 포함할 수 있다.
상기 복수의 카메라 영상에서 상기 타임 스탬프가 동일하게 확인된 이후에 상기 수신 장치에서 상기 복수의 카메라 영상이 재생 장치로 제공될 수 있다.
다시점 영상을 재생하기 위한 수신 장치의 동작 방법에 있어서, 미리 정해진 시간 단위로 동일한 타임 스탬프들이 기록된 복수의 카메라 영상-상기 복수의 카메라 영상은 각각 다른 시각을 가지거나 360도 카메라의 영상을 포함함-을 수신하는 단계; 상기 타임 스탬프에 기초하여 상기 복수의 카메라 영상을 동기화하는 단계; 재생 장치에 대한 정보에 기초하여 상기 복수의 카메라 영상을 보정하는 단계; 및 상기 재생 장치로 상기 보정된 복수의 카메라 영상을 제공하는 단계를 포함하는, 수신 장치의 동작 방법이 제공될 수 있다.
상기 타임 스탬프에 기초하여 상기 복수의 카메라 영상을 동기화하는 단계는, 상기 복수의 카메라 영상 모두에서 상기 타임 스탬프를 확인하는 단계; 및 상기 타임 스탬프의 확인에 대응하여 상기 복수의 카메라 영상을 동기화하는 단계를 포함할 수 있다.
상기 전송 장치로부터 전송되는 음성 채널의 소스의 변경을 감지하는 단계; 및 상기 변경된 음성 채널에 해당하는 카메라 영상을 상기 재생 장치로 제공하는 단계를 더 포함할 수 있다.
상기 복수의 카메라 영상은, 분석된 중요도에 기초하여 결정된 중요 영역을 기준으로 카메라 영상의 화질이 최적화될 수 있다.
상기 타임 스탬프에 기초하여 상기 복수의 카메라 영상을 동기화하는 단계는, 실시간으로 입력되는 인터렉션 정보를 상기 복수의 카메라 영상에 합성하는 단계를 포함할 수 있다.
상기 재생 장치는 복수의 디스플레이이고, 상기 재생 장치에 대한 정보에 기초하여 상기 복수의 카메라 영상을 보정하는 단계는, 상기 복수의 디스플레이 각각의 해상도에 맞춰 상기 복수의 카메라 영상을 보정하는 단계를 포함할 수 있다.
실시예에 따른 발명을 통해, 멀티 카메라 및 360도 카메라 등을 활용하여 다양한 카메라 조합으로 콘텐츠를 실시간으로 촬영하고 이를 합성하여 멀티 프로젝션으로 구축된 몰입형 상영 환경으로 영상을 송출하고, 이를 수신하여 재생하는 방법 및 이를 수행하는 장치를 제공할 수 있다.
도 1은 실시예에서, 전송단 및 수신단을 포함하는 전체 시스템 구성을 설명하기 위한 도면이다.
도 2는 실시예에서, 다시점 영상을 전송하기 위한 전송 장치의 동작 방법의 흐름도이다.
도 3은 실시예에서, 다시점 영상을 재생하기 위한 수신 장치의 동작 방법의 흐름도이다.
도 4는 실시예에서, 영상 내 중요도에 기초하여 초고해상도 라이브 스트리밍이 서비스되는 실시예를 설명하기 위한 도면이다.
이하에서, 첨부된 도면을 참조하여 실시예들을 상세하게 설명한다. 그러나, 실시예들에는 다양한 변경이 가해질 수 있어서 특허출원의 권리 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 실시예들에 대한 모든 변경, 균등물 내지 대체물이 권리 범위에 포함되는 것으로 이해되어야 한다.
실시예에서 사용한 용어는 단지 설명을 목적으로 사용된 것으로, 한정하려는 의도로 해석되어서는 안된다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 실시예의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
또한, 실시 예의 구성 요소를 설명하는 데 있어서, 제1, 제2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성 요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성 요소의 본질이나 차례 또는 순서 등이 한정되지 않는다. 어떤 구성 요소가 다른 구성요소에 "연결", "결합" 또는 "접속"된다고 기재된 경우, 그 구성 요소는 그 다른 구성요소에 직접적으로 연결되거나 접속될 수 있지만, 각 구성 요소 사이에 또 다른 구성 요소가 "연결", "결합" 또는 "접속"될 수도 있다고 이해되어야 할 것이다.
어느 하나의 실시 예에 포함된 구성요소와, 공통적인 기능을 포함하는 구성요소는, 다른 실시 예에서 동일한 명칭을 사용하여 설명하기로 한다. 반대되는 기재가 없는 이상, 어느 하나의 실시 예에 기재한 설명은 다른 실시 예에도 적용될 수 있으며, 중복되는 범위에서 구체적인 설명은 생략하기로 한다.
도 1은 실시예에서, 전송단 및 수신단을 포함하는 전체 시스템 구성을 설명하기 위한 도면이다.
실시예에 따른 발명은, 전송단(110)에서 각각 다른 시각을 가지는 복수의 카메라를 이용하여 촬영된 영상들을 통합하여 실시간으로 스트리밍하고, 수신단(120)에서 수신된 영상을 여러 개의 디스플레이 또는 여러 종류의 디스플레이에 맞게 렌더링하는 방법을 제공할 수 있다.
전송단(110)은 복수의 카메라가 포함될 수 있다. 예를 들어, 각각 다른 각도로 동일한 객체를 촬영하거나 다른 객체를 촬영하되 동일한 시점(Time)에 촬영하는 복수의 카메라가 포함될 수 있다. 소스는 디지털 전송이 가능한 형태이면, SDI(Serial Digital Interface), HDMI, Video Streaming 중 어느 하나의 형태 또는 다른 형태로 서비스될 수 있다.
실시예에서, 전송단(110)의 촬영 노드는 복수 개의 카메라와 연결되고, 360도 카메라와 연결될 수 있다. 스트리밍되는 복수 개의 카메라 영상 중 적어도 하나의 시점이 될 수 있고, 360도 카메라의 카메라 영상은 증강 현실 또는 가상 현실의 공간으로 스트리밍될 수 있다. 360도 카메라는 영상이 분할되어 서비스될 수 있고, 분할된 화질은 다른 카메라들의 촬영 해상도에 대응하도록 제공될 수 있다.
카메라와 연결되는 각 촬영 노드는 HLS(HTTP Live Streaming)와 같은 스트리밍 전송 서비스를 위해 클라우드 혹은 IDC(Internet Data Center)에 연결될 수 있다.
이때, 카메라는 Genlock 등의 수단을 통해 서로 동일한 시점을 촬영하도록 동기화될 수 있고, 촬영 시점을 나타내기 위한 PTS(Presentation Time Stamp)가 스트리밍 소스에 기록될 수 있다.
실시예에 따른 카메라 영상은 영상 클라우드를 통해 원격지의 수신단(120)으로 스트리밍될 수 있다. 수신단(120)은, 스트리밍을 수신하는 수신 장치와 영상을 재생하는 디스플레이를 포함할 수 있다. 수신 장치는 영상 클라우드를 통해 수신된 복수의 카메라 영상들에 대해서 선택적 또는 적응적인 스트리밍 데이터를 생성하여 디스플레이로 제공할 수 있다. 예를 들어, PC, 프로젝터, AR 디스플레이 및 모바일 디스플레이 등 다양한 디스플레이 형태를 커버할 수 있다.
실시예에서, 수신 장치는 수신된 스트리밍 데이터를 디코딩하고 카메라 영상들을 동기화할 수 있다. 또한, 스트리밍이 제공될 디스플레이를 고려하여 카메라 영상이 선택될 수 있고 또는 카메라 시점에 대한 선택 정보에 기초하여 카메라 영상이 선택되어 디스플레이로 제공될 수 있다. 또한, 동일한 선택 영상에 대해서 디스플레이 정보에 기초하여 영상이 보정될 수 있다.
실시예를 통해 제공되는 영상은 120fps 이상의 멀티 스트림(UHD, FHD, HD 등)이 생성되어 서비스될 수 있고, HTTP HLS 기반 적응형 스트리밍 및 기반 적응형 스트리밍을 통해 다양한 환경에서 영상의 시청이 가능하도록 할 수 있다.
도 2는 실시예에서, 다시점 영상을 전송하기 위한 전송 장치의 동작 방법의 흐름도이다.
단계(210)에서 전송 장치는, 각각 다른 시각을 가지는 카메라 및 360도 카메라와 연결된 촬영 노드들을 통해 복수의 카메라 영상을 획득한다.
실시예에서, 카메라는 UHD, FHD, HD 등의 멀티 스트림이 가능한 해상도를 제공하는 카메라가 이용될 수 있고, 360도 카메라가 다른 촬영 노드로 연결될 수 있다. 실시예에서, 카메라들은 SDI 등의 디지털 소스를 통해 촬영 노드와 연결될 수 있다.
전송 장치는 획득한 복수의 카메라 영상에 대해서 중요도 기반의 화질이 최적화되는 영역을 결정할 수 있다. 이를 위해서 촬영 영상 내 중요 영역을 실시간으로 추정할 수 있다.
단계(220)에서 전송 장치는, 촬영 노드들로부터 획득하는 영상에 미리 정해진 시간 단위로 동일한 타임 스탬프들을 기록한다.
실시예에서, 카메라 영상 마다 동일한 시점에 대한 타임 스탬프를 기록할 수 있다. 예를 들어, 제1 시점에 제1 타임 스탬프를 카메라 영상 마다 동일하게 기록할 수 있고, 제2 시점에 제2 타임 스탬프를 카메라 영상 마다 동일하게 기록할 수 있다. 타임 스탬프로 적절한 Timecode가 이용될 수 있다.
실시예에서, 기록된 타임 스탬프는 카메라 영상이 전송된 이후 수신 장치에서 카메라 영상을 재생 장치로 제공할 때, 동일한 타임 스탬프에 기초하여 동기화된 영상을 제공하는 데에 활용될 수 있다. 예컨대, 전송된 카메라 영상의 타임 스탬프가 확인되면, 동일한 타임 스탬프가 확인된 이후에 카메라 영상의 재생이 시작되도록 할 수 있다.
일 실시예에서는, 촬영 노드에 대한 소스의 선택에 기초하여 해당 정보를 별도의 음성 채널에 할당할 수 있고, 수신 장치에서 음성 채널의 소스가 바뀌는 순간의 Timecode를 이용하여 촬영 노드에 대한 변경 사항을 인식하고 카메라 영상을 동기화할 수 있다.
실시예에서, 해당 정보가 기록되는 신호는 SMPTE의 12M 형식을 활용할 수 있으며, 내재된(reserved) 비트(bit)에 미리 정의된 소스 ID를 기입하여 전송할 수 있다.
단계(230)에서 전송 장치는, 타임 스탬프들이 기록된 영상을 수신 장치로 전송한다.
앞서, 카메라 영상 내 결정된 중요 영역을 중심으로 화질이 최적화된 카메라 영상을 영상 클라우드를 통해 수신 장치로 전송할 수 있다. 예를 들어, 카메라 영상 내 중요 영역에 대해 촬영 시의 고화질을 유지하고, 중요 영역 이외 모든 영역에 대해서 일정 수준 다운된 화질의 카메라 영상을 제공할 수 있다. 최적화에 의해서 일부 영역 간의 화질 차이가 발생할 수 있는데, 이를 위해 디지털 수퍼 레졸루션(Digital Super resolution)이 수행될 수 있다.
다른 실시예로, 촬영된 복수의 카메라 영상들이 수신 장치로 전송된 이후, 카메라 영상 내 중요 영역이 실시간으로 분석되고, 중요 영역에 기초하여 최적화된 화질의 스트리밍이 서비스될 수 있다.
도 3은 실시예에서, 다시점 영상을 재생하기 위한 수신 장치의 동작 방법의 흐름도이다.
단계(310)에서 수신 장치는, 동일한 타임 스탬프들이 기록된 복수의 카메라 영상을 수신한다.
실시예에서, 복수의 카메라 영상은 각각 다른 시각을 가지는 카메라에서 촬영된 카메라 영상이거나, 360도 카메라에서 촬영된 카메라 영상 등을 포함할 수 있다.
실시예에서, 미리 정해진 시간 단위로 동일한 시점에 대해서 동일한 타임 스탬프들이 기록된 카메라 영상들이 수신될 수 있다.
해당 영상들은 영상 분석을 통해 중요도에 기초하여 중요 영역을 기준으로 화질이 최적화되어 전송될 수 있다.
단계(320)에서 수신 장치는, 타임 스탬프에 기초하여 복수의 카메라 영상을 동기화한다.
실시예에서, 수신 장치에서 전송된 카메라 영상의 타임 스탬프가 확인되면, 전송되는 모든 소스의 카메라 영상이 동일한 타임 스탬프가 확인된 이후에 카메라 영상들이 재생 장치로 제공될 수 있다. 이후에는 동기화된 시스템 클럭에 기초하여 카메라 영상의 타이밍을 동기화하여 재생 장치로 제공할 수 있다.
일 실시예에서는, 촬영 노드에 대한 소스의 선택에 기초하여 해당 정보를 별도의 음성 채널에 할당할 수 있고, 수신 장치에서 음성 채널의 소스가 바뀌는 순간의 Timecode를 이용하여 촬영 노드에 대한 변경 사항을 인식하고 카메라 영상을 동기화할 수 있다.
단계(330)에서 수신 장치는, 재생 장치에 대한 정보에 기초하여 복수의 카메라 영상을 보정한다.
재생 장치는 복수의 디스플레이가 포함될 수 있다. 예컨대, 고화질의 영상이 제공 가능한 복수의 디스플레이, 가상 현실 또는 증강 현실을 위한 디스플레이, 모바일 디스플레이 등의 형태가 포함될 수 있다. 수신 장치는, 각 재생 장치의 디스플레이의 해상도 등의 보정 정보에 맞도록 멀티 스트림을 각각 가공할 수 있다.
실시예에 따른 타임 스탬프에 기초하여 복수의 디스플레이로 동기화된 고해상도의 멀티 스트림이 제공될 수 있다. 실시예에서, P2P 기반으로 스트리밍되거나, 클라우드 서버가 이용될 수 있다. 일례로, 공연장이나 디스플레이 환경에 기초하여 3차원 영상이 생성되거나, 분할 영상이 생성될 수 있다.
실시예에서, 재생 장치에 기초하여 보정된 카메라 영상들은 각각에 대응하는 재생 장치로 전송되어 재생될 수 있다. 재생되는 영상들은 타임 스탬프에 기초하여 동기화되어 기준 이하의 동기화 오차를 포함(예컨대 30ms의 오차)할 수 있다.
실시간으로 입력되는 인터렉션 정보가 전송되는 복수의 카메라 영상들과 함께 입력되는 경우, 수신 장치는 카메라 영상들에 해당 인터렉션을 합성하여 재생 장치로 제공할 수 있다.
도 4는 실시예에서, 영상 내 중요도에 기초하여 초고해상도 라이브 스트리밍이 서비스되는 실시예를 설명하기 위한 도면이다.
실시예에서, 공연장에 설치된 다시점의 복수의 카메라를 통해 공연 영상을 스트리밍하는 일례에 관한 것이다.
실시예에서, 전송 장치는 복수의 카메라 각각에 대한 영상을 수집하고 각각의 카메라 영상에 대해서 중요 영역 기반의 최적화를 수행할 수 있다.
카메라마다 촬영되는 각도가 모두 상이하지만, 모든 카메라는 촬영되는 실시간 영상을 기준으로 동일한 장면을 촬영하므로, 전송 장치는 촬영된 영상 역시 유사도가 높게 나타나는 점에 기초하여 복수의 카메라 영상에 대해서 동일하게 중요 영역을 설정하고, 카메라 영상의 해상도를 최적화할 수 있다.
예컨대, 복수의 카메라 중 대표 카메라에서 촬영되는 카메라 영상을 기준으로 중요 영역이 결정될 수 있고, 해당 중요 영역이 다른 채널의 카메라 영상들에 동일하게 적용될 수 있다.
예컨대, 공연하는 아티스트가 확인되는 영역이 중요 영역으로 결정될 수 있고, 해당 중요 영역을 기준으로 복수의 카메라 영상들 각각에서 카메라 영상이 최적화될 수 있다.
카메라 영상의 최적화에 관한 설명은 앞서 도 1내지 도 3의 설명을 참조할 수 있다.
실시예에서, 다시점 영상을 전송하고 재생하기 위한 전송 장치 및 수신 장치의 구성에 대해서 설명한다.
일 실시예에 따른 전송 장치(미도시), 수신 장치(미도시)는 각각 프로세서, 메모리 및 통신모듈을 포함할 수 있고, 무선 통신을 위한 통신 인터페이스를 포함할 수 있다. 프로세서, 메모리 및 통신모듈은 통신 버스를 통해 서로 통신할 수 있다.
일 실시예에 따른 전송 장치의 프로세서는 각각 다른 시각을 가지는 카메라 및 360도 카메라와 연결된 촬영 노드들을 통해 복수의 카메라 영상을 획득하는 단계; 촬영 노드들로부터 획득하는 카메라 영상에 미리 정해진 시간 단위로 동일한 타임 스탬프들을 기록하는 단계; 및 타임 스탬프들이 기록된 영상을 수신 장치로 전송하는 단계를 수행할 수 있으며, 수신 장치의 프로세서는 미리 정해진 시간 단위로 동일한 타임 스탬프들이 기록된 복수의 카메라 영상을 수신하는 단계; 상기 타임 스탬프에 기초하여 상기 복수의 카메라 영상을 동기화하는 단계; 재생 장치에 대한 정보에 기초하여 상기 복수의 카메라 영상을 보정하는 단계; 및 상기 재생 장치로 상기 보정된 복수의 카메라 영상을 제공하는 단계를 수행할 수 있다.
고해상도 영상을 획득하기 위한 프로그램을 실행할 수 있다. 실시예에서 따른 방법은, 와이드 카메라에서 촬영된 와이드 영상 및 와이드 카메라보다 좁은 FOV를 가지는 기가 픽셀 카메라에서 촬영된 복수의 기가 픽셀 영상들을 획득하는 단계; 복수의 기가 픽셀 영상들 각각에 대해 블러의 발생 여부를 감지하는 단계; 블러가 감지된 기가 픽셀 영상에 해당하는 영역에 대해 와이드 영상을 선택하는 단계; 및 복수의 기가 픽셀 영상 및 선택된 와이드 영상을 합성하여 최종 영상을 생성하는 단계를 포함할 수 있다.
메모리는 휘발성 메모리 또는 비 휘발성 메모리일 수 있고, 프로세서는 프로그램을 실행하고, 단말를 제어할 수 있다. 프로세서에 의하여 실행되는 프로그램 코드는 메모리에 저장될 수 있다. 전송 장치 및 수신 장치는 입출력 장치를 통하여 외부 장치(예를 들어, 퍼스널 컴퓨터 또는 네트워크)에 연결되고, 데이터를 교환할 수 있다. 전송 장치 및 수신 장치는 스마트 폰, 테블릿 컴퓨터, 랩톱 컴퓨터, 데스크톱 컴퓨터, 텔레비전, 웨어러블 장치, 보안 시스템, 스마트 홈 시스템 등 다양한 컴퓨팅 장치 및/또는 시스템에 탑재될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.

Claims (15)

  1. 다시점 영상을 전송하기 위한 전송 장치의 동작 방법에 있어서,
    각각 다른 시각을 가지는 카메라 및 360도 카메라와 연결된 촬영 노드들을 통해 복수의 카메라 영상을 획득하는 단계;
    상기 촬영 노드들로부터 획득하는 카메라 영상에 미리 정해진 시간 단위로 동일한 타임 스탬프들을 기록하는 단계;
    상기 타임 스탬프들이 기록된 영상을 수신 장치로 전송하는 단계;
    상기 촬영 노드들 중 특정 촬영 노드를 선택하는 단계; 및
    상기 특정 촬영 노드의 선택 사항을 별도의 음성 채널에 기록하는 단계
    를 포함하는,
    전송 장치의 동작 방법.
  2. 삭제
  3. 제1항에 있어서,
    상기 음성 채널의 소스가 변경되는 시점에 대응하여 상기 수신 장치에서 상기 특정 촬영 노드에 해당하는 카메라 영상이 선택되는,
    전송 장치의 동작 방법.
  4. 제1항에 있어서,
    상기 촬영 노드들을 통해 복수의 카메라 영상을 획득하는 단계는,
    상기 복수의 카메라 영상에 대해서 중요도에 기초하여 고화질의 카메라 영상을 제공하기 위한 중요 영역을 결정하는 단계
    를 포함하는,
    전송 장치의 동작 방법.
  5. 제4항에 있어서,
    상기 타임 스탬프들이 기록된 영상을 수신 장치로 전송하는 단계는,
    상기 중요 영역을 기준으로 상기 카메라 영상의 고화질 영상을 전송하는 단계
    를 포함하는,
    전송 장치의 동작 방법.
  6. 제1항에 있어서,
    상기 복수의 카메라 영상에서 상기 타임 스탬프가 동일하게 확인된 이후에 상기 수신 장치에서 상기 복수의 카메라 영상이 재생 장치로 제공되는,
    전송 장치의 동작 방법.
  7. 다시점 영상을 재생하기 위한 수신 장치의 동작 방법에 있어서,
    미리 정해진 시간 단위로 동일한 타임 스탬프들이 기록된 복수의 카메라 영상-상기 복수의 카메라 영상은 각각 다른 시각을 가지거나 360도 카메라의 영상을 포함함-을 수신하는 단계;
    상기 타임 스탬프에 기초하여 상기 복수의 카메라 영상을 동기화하는 단계;
    재생 장치에 대한 정보에 기초하여 상기 복수의 카메라 영상을 보정하는 단계;
    상기 재생 장치로 상기 보정된 복수의 카메라 영상을 제공하는 단계;
    상기 복수의 카메라 영상의 전송 장치로부터 전송되는 음성 채널의 소스의 변경을 감지하는 단계; 및
    상기 변경된 음성 채널에 해당하는 카메라 영상을 상기 재생 장치로 제공하는 단계
    를 포함하는,
    수신 장치의 동작 방법.
  8. 제7항에 있어서,
    상기 타임 스탬프에 기초하여 상기 복수의 카메라 영상을 동기화하는 단계는,
    상기 복수의 카메라 영상 모두에서 상기 타임 스탬프를 확인하는 단계; 및
    상기 타임 스탬프의 확인에 대응하여 상기 복수의 카메라 영상을 동기화하는 단계
    를 포함하는,
    수신 장치의 동작 방법.
  9. 삭제
  10. 제7항에 있어서,
    상기 복수의 카메라 영상은,
    분석된 중요도에 기초하여 결정된 중요 영역을 기준으로 고화질의 카메라 영상이 제공되는,
    수신 장치의 동작 방법.
  11. 제7항에 있어서,
    상기 타임 스탬프에 기초하여 상기 복수의 카메라 영상을 동기화하는 단계는,
    실시간으로 입력되는 인터렉션 정보를 상기 복수의 카메라 영상에 합성하는 단계
    를 포함하는,
    수신 장치의 동작 방법.
  12. 제7항에 있어서,
    상기 재생 장치는 복수의 디스플레이이고,
    상기 재생 장치에 대한 정보에 기초하여 상기 복수의 카메라 영상을 보정하는 단계는,
    상기 복수의 디스플레이 각각의 해상도에 맞춰 상기 복수의 카메라 영상을 보정하는 단계
    를 포함하는,
    수신 장치의 동작 방법.
  13. 하드웨어와 결합되어 제1항, 제3항 내지 제8항 및 제10항 내지 제12항 중 어느 하나의 항의 방법을 실행시키기 위하여 컴퓨터 판독 가능 매체에 저장된 컴퓨터 프로그램.
  14. 다시점 영상을 전송하기 위한 전송 장치에 있어서,
    하나 이상의 프로세서;
    메모리; 및
    상기 메모리에 저장되어 있으며 상기 하나 이상의 프로세서에 의하여 실행되도록 구성되는 하나 이상의 프로그램을 포함하고,
    상기 프로그램은,
    각각 다른 시각을 가지는 카메라 및 360도 카메라와 연결된 촬영 노드들을 통해 복수의 카메라 영상을 획득하는 단계;
    상기 촬영 노드들로부터 획득하는 카메라 영상에 미리 정해진 시간 단위로 동일한 타임 스탬프들을 기록하는 단계;
    상기 타임 스탬프들이 기록된 영상을 수신 장치로 전송하는 단계;
    상기 촬영 노드들 중 특정 촬영 노드를 선택하는 단계; 및
    상기 특정 촬영 노드의 선택 사항을 별도의 음성 채널에 기록하는 단계
    를 포함하는,
    전송 장치.
  15. 다시점 영상을 재생하기 위한 수신 장치에 있어서,
    하나 이상의 프로세서;
    메모리; 및
    상기 메모리에 저장되어 있으며 상기 하나 이상의 프로세서에 의하여 실행되도록 구성되는 하나 이상의 프로그램을 포함하고,
    상기 프로그램은,
    미리 정해진 시간 단위로 동일한 타임 스탬프들이 기록된 복수의 카메라 영상-상기 복수의 카메라 영상은 각각 다른 시각을 가지거나 360도 카메라의 영상을 포함함-을 수신하는 단계;
    상기 타임 스탬프에 기초하여 상기 복수의 카메라 영상을 동기화하는 단계;
    재생 장치에 대한 정보에 기초하여 상기 복수의 카메라 영상을 보정하는 단계;
    상기 재생 장치로 상기 보정된 복수의 카메라 영상을 제공하는 단계;
    상기 복수의 카메라 영상의 전송 장치로부터 전송되는 음성 채널의 소스의 변경을 감지하는 단계; 및
    상기 변경된 음성 채널에 해당하는 카메라 영상을 상기 재생 장치로 제공하는 단계
    를 포함하는,
    수신 장치.
KR1020210194006A 2021-12-31 2021-12-31 다시점 영상을 전송하기 위한 시스템의 동작 방법 및 이를 수행하는 시스템 KR102599664B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210194006A KR102599664B1 (ko) 2021-12-31 2021-12-31 다시점 영상을 전송하기 위한 시스템의 동작 방법 및 이를 수행하는 시스템

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210194006A KR102599664B1 (ko) 2021-12-31 2021-12-31 다시점 영상을 전송하기 위한 시스템의 동작 방법 및 이를 수행하는 시스템

Publications (2)

Publication Number Publication Date
KR20230103253A KR20230103253A (ko) 2023-07-07
KR102599664B1 true KR102599664B1 (ko) 2023-11-08

Family

ID=87154569

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210194006A KR102599664B1 (ko) 2021-12-31 2021-12-31 다시점 영상을 전송하기 위한 시스템의 동작 방법 및 이를 수행하는 시스템

Country Status (1)

Country Link
KR (1) KR102599664B1 (ko)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9369689B1 (en) * 2015-02-24 2016-06-14 HypeVR Lidar stereo fusion live action 3D model video reconstruction for six degrees of freedom 360° volumetric virtual reality video
KR102261242B1 (ko) * 2019-11-26 2021-06-07 윤경진 360도 3차원 영상 재생시스템

Also Published As

Publication number Publication date
KR20230103253A (ko) 2023-07-07

Similar Documents

Publication Publication Date Title
WO2021179783A1 (zh) 基于自由视点的视频直播处理方法、设备、系统、芯片及介质
JP6833348B2 (ja) 情報処理装置、画像処理システム、情報処理装置の制御方法、仮想視点画像の生成方法、及び、プログラム
JP6808357B2 (ja) 情報処理装置、制御方法、及び、プログラム
JP5197910B2 (ja) デジタル情報信号を受信する装置
US10341672B2 (en) Method and system for media synchronization
US7145947B2 (en) Video data processing apparatus and method, data distributing apparatus and method, data receiving apparatus and method, storage medium, and computer program
US20150124171A1 (en) Multiple vantage point viewing platform and user interface
WO2009141951A1 (ja) 映像撮影装置および映像符号化装置
JP2007150747A (ja) 受信装置及び本線映像配信装置
US10848837B2 (en) Device and method for processing high-definition 360-degree VR image
KR20180090719A (ko) 미디어 동기화 방법 및 시스템
CN111542862A (zh) 用于处理和分发直播虚拟现实内容的方法和设备
KR20200027638A (ko) 복수의 동영상 처리를 위한 장치 및 방법
KR101843025B1 (ko) 카메라워크 기반 영상합성 시스템 및 영상합성방법
US9491447B2 (en) System for providing complex-dimensional content service using complex 2D-3D content file, method for providing said service, and complex-dimensional content file therefor
US11706375B2 (en) Apparatus and system for virtual camera configuration and selection
KR102599664B1 (ko) 다시점 영상을 전송하기 위한 시스템의 동작 방법 및 이를 수행하는 시스템
US10764655B2 (en) Main and immersive video coordination system and method
KR101976288B1 (ko) 다시점 영상 생성 방법
JP6355634B2 (ja) データ処理装置、データ処理方法、プログラム、記録媒体及びデータ処理システム
JP2012004991A (ja) 放送受信装置及びその制御方法
van Deventer et al. Media orchestration between streams and devices via new MPEG timed metadata
KR20230103789A (ko) 다채널 영상을 전송하기 위한 시스템의 동작 방법 및 이를 수행하는 시스템
Schreer et al. Media production, delivery and interaction for platform independent systems: format-agnostic media
TWI822158B (zh) 沉浸式串流影像擷取與成像之裝置及方法

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right