KR102271527B1 - 화상처리장치, 화상처리방법 및 기억매체 - Google Patents

화상처리장치, 화상처리방법 및 기억매체 Download PDF

Info

Publication number
KR102271527B1
KR102271527B1 KR1020180023411A KR20180023411A KR102271527B1 KR 102271527 B1 KR102271527 B1 KR 102271527B1 KR 1020180023411 A KR1020180023411 A KR 1020180023411A KR 20180023411 A KR20180023411 A KR 20180023411A KR 102271527 B1 KR102271527 B1 KR 102271527B1
Authority
KR
South Korea
Prior art keywords
viewpoint
virtual
virtual object
virtual viewpoint
image
Prior art date
Application number
KR1020180023411A
Other languages
English (en)
Other versions
KR20180099534A (ko
Inventor
카즈나 마루야마
Original Assignee
캐논 가부시끼가이샤
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 캐논 가부시끼가이샤 filed Critical 캐논 가부시끼가이샤
Publication of KR20180099534A publication Critical patent/KR20180099534A/ko
Application granted granted Critical
Publication of KR102271527B1 publication Critical patent/KR102271527B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106—Processing image signals
    • H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00—General purpose image data processing
    • G06T1/0007—Image acquisition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189—Recording image signals; Reproducing recorded image signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/282—Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/04—Synchronising
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • H04N5/2723—Insertion of virtual advertisement; Replacing advertisements physical present in the scene by virtual advertisement
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Architecture (AREA)
  • Human Computer Interaction (AREA)
  • Processing Or Creating Images (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

화상처리장치는, 복수의 방향에서 촬영하는 복수의 카메라에 의해 취득된 촬영 화상에 근거해서 생성되는 가상시점 화상의 생성에 관련되는 가상 시점의 이동 경로를 특정하기 위한 시점정보를 취득하는 취득부; 및 상기 가상시점 화상에 삽입되는 가상 오브젝트의 표시 영역을 결정하는 제어부를 구비하고, 상기 제어부는, 상기 취득된 시점정보로부터 특정된 상기 이동 경로상의 제1시점의 가상 시점에 대응하는 가상시점 화상에 있어서의 상기 가상 오브젝트의 표시 영역을, 상기 제1시점의 가상 시점과, 상기 이동 경로상에서 상기 제1시점과는 다른 제2시점의 가상 시점에 근거하여, 결정한다.

Description

화상처리장치, 화상처리방법 및 기억매체{IMAGE PROCESSING APPARATUS, IMAGE PROCESSING METHOD, AND STORAGE MEDIUM}
본 발명은, 가상시점 화상을 생성하는 기술에 관한 것이다.
종래, 다른 위치에 설치된 복수의 카메라에 의해 복수의 방향으로부터 피사체를 촬영하고, 해당 촬영에 의해 얻어진 복수의 촬영 화상(복수시점화상)을 사용하여 가상시점 화상을 생성하는 기술이 제안되어 있다. 그 복수시점화상으로부터 가상시점 화상을 생성하는 기술에 의하면, 예를 들면, 축구나 바스켓볼의 하이라이트 씬을 여러가지 각도로부터 시청하는 것이 가능하게 되고, 통상의 촬영 화상보다도 시청자가 고현장감을 가질 수 있다.
일본 특허공개 2012-48639호 공보에는, 복수시점화상에는 포함되지 않는 가상 오브젝트로서의 광고를, 마치 복수시점화상에 포함된 현실의 대상물에 붙이는 것처럼, 가상시점 화상에 삽입해서 표시시키는 것이 기재되어 있다.
그렇지만, 종래의 기술에서는, 가상시점 화상의 생성에 관련되는 가상 시점이 이동할 경우에, 가상시점 화상의 적절한 영역에 가상 오브젝트가 표시되지 않을 경우가 생각된다. 예를 들면, 가상시점 화상에 포함되어야 할 가상 오브젝트가 가상 시점의 이동으로 인해 가상시점 화상에 포함되지 않게 될 수도 있을 가능성이 있다. 또한, 예를 들면, 가상시점 화상에 포함된 중요한 피사체가, 가상 시점의 이동으로 인해 가상 오브젝트에 의해 차폐될 수도 있을 가능성이 있다.
본 발명의 일 측면에 따른 화상처리장치는, 복수의 방향에서 촬영하는 복수의 카메라에 의해 취득된 촬영 화상에 근거해서 생성되는 가상시점 화상의 생성에 관련되는 가상 시점의 이동 경로를 특정하기 위한 시점정보를 취득하는 취득부; 및 상기 가상시점 화상에 삽입되는 가상 오브젝트의 표시 영역을 결정하는 제어부를 구비하고, 상기 제어부는, 상기 취득된 시점정보로부터 특정된 상기 이동 경로상의 제1시점의 가상 시점에 대응하는 가상시점 화상에 있어서의 상기 가상 오브젝트의 표시 영역을, 상기 제1시점의 가상 시점과, 상기 이동 경로상에서 상기 제1시점과는 다른 제2시점의 가상 시점에 근거하여, 결정한다.
본 발명의 또 다른 특징들은, 첨부도면을 참조하여 이하의 실시예들의 설명으로부터 명백해질 것이다.
도 1은 화상처리 시스템의 구성을 설명하는 블록도다.
도 2는 화상처리장치의 하드웨어 구성을 설명하는 블록도다.
도 3은 가상 오브젝트의 배치 및 가상 시점의 이동 경로를 설명하는 도다.
도 4는 제어장치에 의한 가상시점 화상의 생성에 관련되는 처리를 설명하는 흐름도다.
도 5는 화상처리장치에 의한 가상 오브젝트의 삽입에 관련되는 처리를 설명하는 흐름도다.
도 6a, 6b 및 6c는 화상처리장치에 의한 가상 오브젝트의 위치 결정에 관련되는 처리를 설명하는 흐름도다.
도 7a, 7b, 7c, 7d, 7e, 7f, 7g는 가상 오브젝트의 위치의 결정 방법을 설명하는 도다.
도 8a, 8b, 8c, 8d, 8e, 8f, 8g, 8h는 가상 오브젝트의 방향 및 형상의 결정 방법을 설명하는 도다.
도 9a, 9b, 9c는 가상시점 화상에 있어서의 가상 오브젝트의 표시 예를 각각 설명하는 도다.
도 10a, 10b, 10c, 10d, 10e, 10f, 10g, 10h, 10i는 가상 오브젝트를 복수배치할 경우에 있어서의, 가상 오브젝트의 위치의 결정 방법을 설명하는 도다.
도 11은 화상처리장치에 의한 가상 오브젝트의 조정에 관련되는 처리를 설명하는 흐름도다.
도 12a, 12b, 12c, 12d, 12e, 12f는 가상 오브젝트의 조정 방법을 설명하는 도다.
<시스템 구성>
도 1은, 일 실시예에 따른 화상처리 시스템(10)의 전체구성의 일례를 나타내는 도다. 화상처리 시스템(10)은, 복수 시점 화상 보유부(1)(이후, 보유부(1)), 화상처리장치(2), 제어장치(3) 및 가상시점 화상보유부(4)(이후, 보유부(4))를 가진다.
본 실시예에 따른 가상시점 화상은, 가상적인 시점에서 피사체를 촬영했을 경우에 얻어진 화상이다. 바꿔 말하면, 가상시점 화상은, 지정된 시점으로부터 보기를 나타내는 화상이다. 가상 시점은, 유저에 의해 지정되어도 좋거나, 화상해석의 결과등의 정보에 근거하여 자동적으로 지정되어도 좋다. 즉, 가상시점 화상에는, 유저가 임의로 지정한 시점에 대응하는 임의시점화상(자유시점화상)이 포함된다. 또한, 복수의 후보 중에서 유저가 지정한 시점에 대응하는 화상이나, 장치가 자동으로 지정한 시점에 대응하는 화상도, 가상시점 화상에 포함된다. 본 실시예에 있어서, 가상시점 화상은, 화상처리 시스템(10)에 있어서 생성된 동화상의 각 프레임에 대응한다. 즉, 화상처리 시스템(10)은, 시간적으로 연속하는 복수의 가상시점 화상으로 구성된 동화상을 생성한다. 본 실시예에 있어서의 유저는, 제어장치(3)를 조작해서 가상시점 화상의 생성을 제어하는 조작자이며, 화상처리 시스템(10)으로부터 전달된 가상시점 화상을 보는 시청자와는 구별된다. 단, 상기 조작자와 시청자가 동일한 유저이여도 좋다.
보유부(1)는, 복수의 카메라에 의해 각각 다른 방향에서 피사체가 촬영됨으로써 얻어진 복수의 촬영 화상(복수시점화상)을 보유한다. 보유부(1)는, 그 촬영 화상들을 화상처리장치(2)에 송신한다. 복수의 카메라는, 예를 들면 경기장의 필드나 라이브 스테이지를 둘러싸도록 설치되고, 동기적으로 촬영을 행한다. 단, 복수의 카메라는, 필드나 스테이지등의 피사체를 복수의 방향에서 촬영하게 설치되어 있으면, 피사체의 주위전체에 걸쳐 설치되지 않고 있어도 좋다. 본 실시예에서는, 복수의 카메라 각각으로부터 보유부(1)에 촬영 화상이 송신되고, 보유부(1)가 그것들의 촬영 화상을 화상처리장치(2)에 송신한다. 단, 이것에 한정되지 않고, 복수의 카메라로부터 화상처리장치(2)에 그 촬영 화상들이 직접 송신되어도 좋다. 또한, 보유부(1)가 보유하는 화상이나 화상처리장치(2)에 송신되는 화상이, 촬영 화상 자체가 아니고, 예를 들면 복수의 촬영 화상의 차이에 근거해서 생성된 화상이여도 좋다.
화상처리장치(2)는, 가상시점 화상생성부(201)(이후, 화상생성부(201)), 가상 오브젝트 배치 결정부(202)(이후, 배치 결정부(202)) 및 가상 오브젝트 모델화부(203)(이후, 모델화부(203))를 가진다.
화상생성부(201)는, 보유부(1)로부터 취득한 복수시점화상으로부터, 피사체의 형상을 표현하는 3차원 모델을 생성한다. 화상생성부(201)는, 제어장치(3)의 가상 카메라 패스(path) 생성부(302)(이후, 패스 생성부(302))로부터 취득한 가상 카메라 패스에 따라, 피사체의 3차원 모델에 색이나 질감을 표현하는 텍스처를 맵핑하여서, 가상시점 화상을 생성한다. 화상처리장치(2)에 의해 가상시점 화상을 생성하는 방법은 본 예에 한정되지 않는다. 예를 들면, 화상처리장치(2)는, 3차원 모델을 생성하지 않고 촬영 화상을 변형하거나 합성하거나 함으로써 가상시점 화상을 생성해도 좋다.
가상 카메라 패스는, 가상시점 화상의 생성에 관련되는 가상 시점의 이동 경로를 특정하기 위한 시점정보다. 유저에 의한 가상 시점의 지정에 따라, 제어장치(3)에 의해 가상 카메라 패스가 생성된다. 또한, 본 실시예의 가상 카메라 패스에는, 시점의 위치를 특정하기 위한 정보와 시선의 방향을 특정하기 위한 정보가 포함된다. 단, 이것에 한정되지 않고, 가상 카메라 패스에는 시선의 방향에 관한 정보가 포함되지 않아도 좋다. 이 경우에는, 예를 들면, 가상 카메라 패스에 의해 특정된 시점의 위치와, 미리 정해진 주시점의 위치에 근거하여, 가상 시점에 관련되는 시선의 방향이 결정되어도 좋다. 또, 가상 카메라 패스에는, 화각등 그 밖의 파라미터가 포함되어 있어도 좋다.
화상생성부(201)는, 모델화부(203)로부터 취득한 가상 오브젝트의 모델을 피사체의 3차원 모델과 합성하고, 가상 오브젝트의 텍스처를 모델에 맵핑 함으로써, 가상 오브젝트를 포함하는 가상시점 화상을 생성한다. 화상생성부(201)는, 생성한 가상시점 화상을 제어장치(3)의 가상시점 화상편집부(301)(이후, 편집부(301))에 출력한다. 가상 오브젝트는, 복수시점화상에는 포함되지 않고, 가상시점 화상에 포함된다. 본 실시예에서는, 가상 오브젝트가, 가상시점 화상에 광고를 표시시키기 위한 면형의 오브젝트로서 설명된다. 단, 가상 오브젝트의 형상이나 사용 목적은 이 경우에 한정되지 않는다. 예를 들면, 가상 오브젝트에는, 시합의 도중 경과에 관한 정보가 표시되어도 좋거나, 인물등의 피사체를 설명하는 문자와 화상이 표시되어도 좋다. 또한, 가상 오브젝트는, 예를 들면 직방체나 구체등 3차원 형상의 오브젝트이여도 좋다.
배치 결정부(202)는, 패스 생성부(302)로부터 취득한 가상 카메라 패스와 제어장치(3)의 가상 오브젝트 정보보유부(303)(이후, 정보보유부(303))로부터 취득한 배치 후보정보로부터, 가상 오브젝트의 배치 정보를 생성한다. 그리고, 배치 결정부(202)는, 생성한 배치 정보를 모델화부(203)에 출력한다. 본 실시예에서, 배치 후보정보는, 피사체가 존재하는 3차원 공간(예를 들면, 스타디움)내에 있어서의 가상 오브젝트를 배치하는 후보가 되는 영역을 가리키는 정보다. 가상 오브젝트의 배치 정보는, 가상 오브젝트의 위치, 크기, 형상 및 방향 중 적어도 하나에 관한 정보다. 그 배치 정보는, 가상 오브젝트의 위치, 크기, 형상 및 방향의 모두를 특정하여도 좋다. 이와는 달리, 상기 가상 오브젝트의 위치, 크기, 형상 및 방향 중 적어도 하나는, 배치 정보에 따르지 않는 소정의 값으로서 설정되어도 좋다. 배치 결정부(202)에 의해 가상 오브젝트의 배치를 결정하는 방법에 대해서 상세히 후술한다.
도 3을 참조하여, 가상 오브젝트의 배치 후보에 대해서 설명한다. 도 3에 나타낸 예에서는, 축구용의 필드의 주위에 가상 오브젝트의 배치 후보영역(5)이 존재한다. 배치 후보영역(5)은 영역 5a 내지 영역 5e의 복수개 영역으로 구성된다. 영역 5a는 서브영역 51a 내지 서브영역 51n의 복수개 영역으로 분할되어 있다. 배치 후보영역(5)은, 영역 5a와 영역 5b로 나타낸 바와 같이 그 필드의 측면전체에 걸쳐 배치되어 있어도 좋거나, 영역 5c와 영역 5d로 나타낸 바와 같이 축구 골등의 소정의 피사체의 근방을 피해서 배치되어 있어도 좋다. 영역 5a 내지 영역 5d는 각각 3차원 영역이다. 영역 5e는 필드면에 수직한 2차원 영역이다. 배치 후보영역(5)은, 도 3에 나타낸 영역에 한정되지 않고, 예를 들면 상기 필드내나 상공이여도 좋다.
모델화부(203)는, 배치 결정부(202)로부터 취득한 가상 오브젝트의 배치 정보와 정보보유부(303)로부터 취득한 가상 오브젝트 정보로부터, 가상 오브젝트의 3차원 모델을 생성한다. 가상 오브젝트 정보에는, 가상 오브젝트의 형상과 텍스처에 관한 정보가 포함된다. 가상 오브젝트 정보에는, 해당 가상 오브젝트에 의해 표시되는 광고를 식별하기 위한 식별자가 포함되어도 좋다. 그리고, 모델화부(203)는, 생성한 가상 오브젝트의 모델과, 이 모델에 맵핑하기 위한 텍스처를, 화상생성부(201)에 출력한다.
제어장치(3)는, 편집부(301), 패스 생성부(302) 및 정보보유부(303)를 가진다. 편집부(301)는, 유저에 의해 행해진 조작을 접수하고, 접수한 조작에 따라서 화상처리장치(2)에 대한 지시를 행한다. 예를 들면, 편집부(301)는 조이스틱, 조그 다이얼, 터치패널, 키보드, 및 마우스등의 조작부를 가지고, 해당 조작부를 거쳐 유저의 조작을 접수한다. 또, 편집부(301)는 표시부를 가지고, 유저에 대하여 그래픽 유저 인터페이스(ＧＵＩ)와 화상처리장치(2)에 의해 생성된 가상시점 화상등을 표시한다.
편집부(301)는, 구체적으로는, 가상시점 화상을 생성하는 화상처리장치(2)에 대하여, 가상시점 화상을 생성하는 복수시점화상의 (촬영시) 씬에 지시한다. 또한, 편집부(301)는, 생성된 동화상의 재생 속도의 조정이나 일시정지를 화상처리장치(2)에 지시한다. 또한, 편집부(301)는, 유저에 의한 가상 시점의 지정에 근거하여 패스 생성부(302)에 가상 카메라 패스의 생성을 지시하고, 가상시점 화상에의 가상 오브젝트의 삽입을 배치 결정부(202)에 지시한다. 또, 편집부(301)는, 그 지시에 근거하여 화상생성부(201)가 생성한 가상시점 화상을 취득하여, 유저에 대하여 프리뷰를 행한다. 게다가, 편집부(301)는, 프리뷰한 가상시점 화상을 유저의 지시에 따라서 파기하거나 보유부(4)에 출력하거나 한다.
패스 생성부(302)는, 편집부(301)로부터 가상 카메라 패스를 생성하기 위한 지시의 접수에 따라, 그 지시에 근거해서 가상 시점의 이동 경로상에 있어서의 시점의 위치와 시선의 방향을 결정한다. 그리고, 패스 생성부(302)는, 시간적으로 연속하는 복수의 가상 카메라 파라미터로 구성된 가상 카메라 패스를 생성한다. 각 가상 카메라 파라미터는, 가상 시점의 위치와 방향을 가리키는 파라미터다. 각 가상 카메라 파라미터는, 프레임 번호와 타임 코드등의, 어느 씬에 대응하는 파라미터인지를 특정하기 위한 정보에 관련되어 있다. 또한, 패스 생성부(302)는, 생성한 가상 카메라 패스를 배치 결정부(202)에 제공한다. 가상 카메라 패스의 정보의 형식은 본 예에 한정되지 않는다.
이제, 도 3을 참조하여 가상 시점의 이동 경로의 예를 설명한다. 도 3에 나타낸 예에서는, 가상 시점의 이동 경로(7)는, 주목 오브젝트를 후방에서 쫓도록 설정되어 있다. 본 예에서, 주목 오브젝트는, 골을 향해서 궤적(8)을 따라 이동하는 볼이다. 패스 생성부(302)에 의해 생성된 가상 카메라 패스는, 예를 들면 이 이동 경로(7)를 특정하는 정보다. 가상 카메라 패스에는, 이동 경로(7)상의 가상 시점 6a으로부터 가상 시점 6f까지의 각각에 대응하는 가상 카메라 파라미터가 포함된다. 따라서, 본 예에서는, 6프레임 분의 가상 시점을 특정하는 가상 카메라 패스가 생성된다. 유저는, 편집부(301)를 거쳐 이동 경로(7)를 지정할 때는, 이동 경로(7)를 가리키는 선을 지정해도 좋거나, 이동 경로상의 몇개의 가상 시점(예를 들면, 가상 시점 6a, 가상 시점 6d 및 가상 시점 6f)을 점으로서 지정해도 좋다. 그 점이 지정되었을 경우에는, 패스 생성부(302)는, 예를 들면 스플라인 보간등의 방법에 의해 나머지의 가상 시점(즉, 가상 시점 6b, 가상 시점 6c 및 가상 시점 6e)을 산출해도 좋다. 스플라인 보간은, 그 지정된 점 또는 그 근방을 통과하는 곡선을 생성하는 방법이다.
정보보유부(303)는, 가상 오브젝트의 배치 후보 정보 및 가상 오브젝트 정보를 보유한다. 정보보유부(303)는, 배치 결정부(202)로부터의 요구에 따라, 보유된 배치 후보 정보를 배치 결정부(202)에 출력한다. 또, 정보보유부(303)는, 모델화부(203)로부터의 요구에 따라, 보유된 가상 오브젝트 정보를 모델화부(203)에 출력한다.
보유부(4)는, 화상처리장치(2)에 의해 생성된 가상시점 화상을, 편집부(301)를 거쳐 취득해 보유한다. 그리고, 보유부(4)에 의해 보유된 가상시점 화상은, 시청자가 가진 재생장치 등의 장치에 출력된다. 보유부(4)에 의해 보유된 가상시점 화상은, 편집 처리가 행해지고나서 시청자에게 전달되어도 좋다. 또한, 화상처리 시스템(10)에 의해 생성된 가상시점 화상은 실시간으로 전달되어도 좋다.
본 실시예에서는, 가상 오브젝트의 배치를 결정하는 배치 결정부(202)와, 배치 결정부(202)에 의해 이루어진 결정에 따라 가상시점 화상을 생성하는 화상생성부(201)가 모두 화상처리장치(2)에 포함된다. 단, 이것에 한정되지 않는다. 예를 들면, 화상처리장치(2)와는 다른 화상생성장치는, 화상생성부(201)를 구비하여도 좋다. 이 경우, 배치 결정부(202)는, 가상 오브젝트의 위치, 크기, 형상 및 방향 중 적어도 하나에 관한 정보를 그 화상생성장치에 출력함으로써, 가상시점 화상에 있어서의 가상 오브젝트를 표시시키는 영역을 제어해도 좋다. 이와는 달리, 제어장치(3)는, 배치 결정부(202)와 모델화부(203)를 구비하여도 좋다.
<하드웨어 구성>
다음에, 화상처리장치(2)의 하드웨어 구성에 대해서, 도 2를 참조하여 설명한다. 제어장치(3)의 하드웨어 구성도 화상처리장치(2)의 하드웨어 구성과 같다. 화상처리장치(2)는, 중앙처리장치(ＣＰＵ)(211), 판독전용 메모리(ＲＯＭ)(212), 랜덤 액세스 메모리(ＲＡＭ)(213), 보조 기억장치(214), 표시부(215), 조작부(216), 통신부(217), 및 버스(218)를 가진다. ＣＰＵ(211)는, ＲＯＭ(212)이나 ＲＡＭ(213)에 격납된 컴퓨터 프로그램과 데이터를 사용해서 화상처리장치(2)의 전체를 제어한다. 화상처리장치(2)가 그래픽 처리장치(ＧＰＵ)를 갖고, 그 ＧＰＵ는 ＣＰＵ(211)에 의해 행해진 처리의 적어도 일부를 행해도 좋다. ＲＯＭ(212)은, 변경을 필요로 하지 않는 프로그램과 파라미터를 격납한다. ＲＡＭ(213)은, 보조 기억장치(214)로부터 공급된 프로그램과 데이터, 및 통신부(217)를 거쳐 외부에서 공급된 데이터를 일시 기억한다. 보조 기억장치(214)는, 예를 들면 하드디스크 드라이브로 구성되고, 정지 화상과 동화상등의 콘텐트 데이터를 기억한다.
표시부(215)는, 예를 들면 액정 디스플레이로 구성되고, 유저가 화상처리장치(2)를 조작하기 위한 ＧＵＩ를 표시한다. 조작부(216)는, 예를 들면 키보드나 마우스로 구성된다. 조작부(216)는, 유저에 의해 행해진 조작을 받아서 각종의 지시를 ＣＰＵ(211)에 입력한다. 통신부(217)는, 보유부(1)나 제어장치(3)등의 외부의 장치와 통신한다. 예를 들면, 화상처리장치(2)가 외부의 장치와 유선으로 접속될 경우에는, 근거리 통신망(ＬＡＮ) 케이블이 통신부(217)에 접속된다. 화상처리장치(2)가 외부의 장치와 무선통신하는 기능을 가질 경우, 통신부(217)는 안테나를 구비한다. 버스(218)는, 화상처리장치(2)의 각 부를 접속하여, 정보를 송신한다.
본 실시예에서는, 화상처리장치(2)가 표시부(215)와 조작부(216)를 구비하지만, 표시부(215) 및 조작부(216) 중 적어도 한쪽을 구비하지 않고 있어도 좋다. 또한, 표시부(215) 및 조작부(216) 중 적어도 한쪽이 화상처리장치(2)의 외부에 별도의 장치로서 존재하여도 좋고, ＣＰＵ(211)가, 표시부(215)를 제어하는 표시 제어부로서, 또한 조작부(216)를 제어하는 조작 제어부로서 동작해도 좋다.
<동작 플로우>
다음에, 도 4를 참조하여, 제어장치(3)에 의한 가상시점 화상의 생성에 관련되는 처리에 대해서 설명한다. 도 4에 나타낸 처리는, 가상시점 화상의 생성을 시작하기 위한 유저에 의해 행해진 조작을 편집부(301)가 접수할 때 시작된다. 예를 들면, 유저는, 경기중에 얻어진 촬영 화상으로부터 리플레이 화상으로서의 가상시점 화상을 생성할 때에 그 조작을 행한다. 유저는, 제어장치(3)의 표시부(215)를 보면서 조작부(216)를 거쳐 그 조작을 행한다. 단, 도 4에 나타낸 처리가 시작하는 타이밍은, 상술한 타이밍에 한정되지 않는다. 제어장치(3)의 ＣＰＵ(211)가 ＲＯＭ(212)에 격납된 프로그램을 ＲＡＭ(213)에 로딩하여 실행함으로써, 도 4에 나타낸 처리를 실현한다. 또한, 도 4에 나타낸 처리의 적어도 일부를, ＣＰＵ(211)와는 다른 전용의 하드웨어에 의해 실현해도 좋다.
단계 S1에 있어서, 편집부(301)는, 유저에 의해 행해진 씬 결정 조작에 따라, 생성 대상이 되는 가상시점 화상의 동화상의 시작 프레임과 종료 프레임을 결정한다. 단계 S2에 있어서, 편집부(301)는, 유저에 의한 가상 시점의 지정에 근거해서 패스 생성부(302)를 제어함으로써, 가상 카메라 패스를 생성해서 화상처리장치(2)에 출력한다. 편집부(301)는, 동화상의 재생 속도의 지정을 유저로부터 접수하고, 재생 속도에 관한 정보를 가상 카메라 패스에 포함시켜도 좋다.
단계 S3에 있어서, 편집부(301)는, 유저에 의해 행해진 조작에 근거하여, 가상시점 화상에 가상 오브젝트를 삽입할 것인가 아닌가를 판단한다. 예를 들면, 유저는, 가상 오브젝트로서의 광고를 가상시점 화상에 삽입할 경우, 제어장치(3)에 의해 표시된 ＧＵＩ상의 광고 삽입 항목을 체크한 후 가상시점 화상을 생성하는 버튼을 클릭한다. 한편, 가상시점 화상에 광고를 삽입하지 않을 경우, 유저는, 광고 삽입 항목을 체크하지 않고, 가상시점 화상을 생성하는 버튼을 클릭한다.
편집부(301)가 가상 오브젝트를 삽입한다고 판단되었을 경우(단계 S3의 ＹＥS), 단계 S4의 처리로 진행된다. 단계 S4에 있어서, 편집부(301)는, 화상처리장치(2)에 가상 오브젝트의 삽입을 지시하고, 정보보유부(303)를 제어해서 가상 오브젝트 정보와 배치 후보 정보를 화상처리장치(2)에 출력한다. 다음에, 편집부(301)는, 단계 S5에 있어서, 화상처리장치(2)에 의해 생성된 가상 오브젝트를 포함하는 가상시점 화상을 취득한다. 화상처리장치(2)에 의해 가상 오브젝트의 삽입 처리에 대해서는, 도 5를 참조하여 후술한다. 한편, 편집부(301)는 가상 오브젝트를 삽입하지 않는다고 판단되었을 경우(단계 S3의 ＮＯ), 단계 S5의 처리로 진행된다. 단계 S5에 있어서, 편집부(301)는 화상처리장치(2)에 의해 생성된 가상 오브젝트를 포함하지 않는 가상시점 화상을 취득한다.
단계 S6에 있어서, 편집부(301)는, 화상처리장치(2)로부터 취득한 가상시점 화상을, 유저가 확인할 수 있게 프리뷰 한다. 유저는 프리뷰를 확인하고, 필요에 따라서 가상 카메라 패스의 수정등의 조정을 행할 수 있다. 단계 S7에 있어서, 편집부(301)는, 유저가 소망하는 가상시점 화상의 생성에 성공한 것인가 아닌가를, 유저에 의해 행해진 조작에 근거하여 판단한다. 편집부(301)는, 그 생성에 성공했다고 판단되었을 경우(단계 S7의 ＹＥS), 단계 S10의 처리로 진행된다. 단계 S10에 있어서, 편집부(301)는, 생성된 가상시점 화상의 동화상을 보유부(4)에 출력하고, 그 보유부(4)는 접수한 화상을 기억한다. 그 후, 그 처리를 종료한다.
한편, 편집부(301)는, 생성에 실패했다고 판단되었을 경우(단계 S7의 ＮＯ), 단계 S8의 처리로 진행된다. 단계 S8에 있어서, 편집부(301)는, 가상 카메라 패스의 수정을 행할 것인가 아닌가를 유저 조작에 근거하여 판단한다. 편집부(301)는, 가상 카메라 패스를 수정한다고 판단되었을 경우(단계 S8의 ＹＥS), 단계 S2의 처리로 되돌아간다. 단계 S2에서, 편집부(301)는, 새로운 가상 카메라 패스를 생성하고, 가상시점 화상의 생성 지시를 다시 한다. 또, 편집부(301)는, 가상 카메라 패스를 수정하지 않는다고 판단되었을 경우(단계 S8의 ＮＯ), 단계 S9의 처리로 진행된다. 단계 S9에 있어서, 편집부(301)는 가상시점 화상을 파기한다. 그 후, 그 처리를 종료한다.
다음에, 도 5를 참조하여, 화상처리장치(2)에 의한 가상 오브젝트를 삽입하는 처리에 대해서 설명한다. 도 5에 나타낸 처리는, 배치 결정부(202)가 제어장치(3)로부터 가상 오브젝트의 삽입 지시를 접수할 때 시작한다. 단, 도 5에 나타낸 처리가 시작하는 타이밍은 상기 타이밍에 한정되지 않는다. 도 5에 나타낸 처리는, 화상처리장치(2)의 ＣＰＵ(211)가 ＲＯＭ(212)에 격납된 프로그램을 ＲＡＭ(213)에 로딩하여 실행함으로써, 실현된다. 도 5에 나타낸 처리의 적어도 일부를, ＣＰＵ(211)와는 다른 전용의 하드웨어에 의해 실현해도 좋다.
단계 S41에 있어서, 모델화부(203)는, 정보보유부(303)로부터 가상 오브젝트 정보를 취득한다. 단계 S42에 있어서, 배치 결정부(202)는, 정보보유부(303)로부터 가상 오브젝트의 배치 후보 정보를 취득한다. 도 4의 단계 S8에 있어서의 판단에 근거해서 가상시점 화상의 생성이 다시 행해지는 경우에는, 단계 S41 및 단계 S42의 각각에서 행해진 처리가 생략되어도 좋다. 단계 S43에 있어서, 화상생성부(201) 및 배치 결정부(202)는, 패스 생성부(302)로부터 가상 카메라 패스를 취득한다. 단계 S41, 단계 S42 및 단계 S43에서 행해진 처리들의 실행 순서가 도 5에 나타낸 예와 달라도 좋거나, 이것들의 처리가 병렬로 행해져도 좋다.
단계 S44에 있어서, 배치 결정부(202)는, 취득한 배치 후보 정보 및 가상 카메라 패스에 근거해서 가상 오브젝트의 배치를 결정하고, 이 결정 결과에 따라서 배치 정보를 생성한다. 가상 오브젝트의 배치 결정 방법의 상세에 대해서는, 도 6a 내지 6c를 참조하여 후술한다. 배치 결정부(202)에 의해 생성된 배치 정보는, 모델화부(203)에 출력된다. 단계 S45에 있어서, 모델화부(203)는, 취득한 가상 오브젝트 정보 및 배치 정보에 근거하여, 가상시점 화상에 삽입되는 가상 오브젝트의 3차원 모델을 생성하여, 화상생성부(201)에 출력한다. 단계 S46에 있어서, 모델화부(203)는, 취득한 가상 오브젝트 정보에 근거한 텍스처를 화상생성부(201)에 출력한다. 단계 S45의 처리와 단계 S46의 처리의 순서는, 반대이여도 좋거나, 병렬로 행해져도 좋다. 단계 S47에 있어서, 화상생성부(201)는, 가상 오브젝트의 모델 및 텍스처를 사용해서 가상시점 화상을 생성하고, 생성한 가상시점 화상을 제어장치(3)에 출력한다. 그 후, 처리를 종료한다.
이상과 같이, 배치 결정부(202)에 의해 생성된 배치 정보에 근거해서 가상 오브젝트의 모델이 생성되고, 화상생성부(201)에 있어서 가상시점 화상에 가상 오브젝트가 합성된다. 즉, 배치 결정부(202)는, 취득한 가상 카메라 패스에 근거해서 가상 오브젝트의 위치에 관한 배치 정보를 생성해 출력 함으로써, 가상시점 화상에 있어서의 가상 오브젝트를 표시시키는 표시 영역을, 가상 시점의 이동 경로에 따라서 제어할 수 있다.
<처리의 상세>
도 6a 내지 6c를 참조하여 화상처리장치(2)에 의한 가상 오브젝트의 위치 결정에 관련되는 처리에 대해서 설명한다. 도 6a는, 도 5의 단계 S44에 있어서의 처리의 상세를 나타내고 있다. 단계 S441에 있어서, 배치 결정부(202)는, 배치 후보 정보가 나타낸 복수의 후보영역 중, 가상 카메라 패스에 따라서 이동하는 가상 시점의 시야내에서 긴 시간동안 보이는 영역(가상시점 화상의 동화상에 긴 기간 표시된 영역)을, 가상 오브젝트를 배치하는 영역으로서 특정한다.
즉, 배치 결정부(202)는, 가상 카메라 패스로부터 특정된 이동 경로상의 복수의 가상 시점에 각각 대응한 복수의 가상시점 화상 중 소정수의 가상시점 화상에 가상 오브젝트가 포함되도록, 배치를 결정한다. 이 소정수는, 가상 카메라 패스에 포함된 가상 카메라 파라미터의 수에 근거해서 결정된 값이여도 좋거나, 유저에 의해 지정된 값이여도 좋다. 또, 그 소정값은, 각 후보영역이 상기 복수의 가상시점 화상 중 몇개의 가상시점 화상에 포함될지에 근거해서 결정된 값이여도 좋다. 본 실시예에서는, 가장 많은 가상시점 화상에 포함된 후보영역이, 가상 오브젝트의 배치를 위한 영역으로서 특정되도록 설명한다. 상기 복수의 가상시점 화상의 모두에 가상 오브젝트가 표시되는 상기와 같은 후보영역이 존재한다고 가정한다. 이 경우에는, 이 후보영역을 가상 오브젝트의 배치 영역으로서 특정한다. 본 실시예에 있어서, 이렇게 하여 결정된 가상 오브젝트의 위치는, 3차원 공간에 있어서의 고정 위치이며, 가상 시점의 이동에 따라 이동하지 않는다.
단계 S442에 있어서, 배치 결정부(202)는, 특정된 영역에 배치되는 가상 오브젝트의 방향과 형상을, 가상 시점의 이동 경로에 근거해서 결정한다. 가상 오브젝트의 방향과 형상은, 가상 시점에 상관없이 미리 설정되어 있어도 좋다. 도 3의 영역 5e로 나타낸 바와 같이 후보영역이 2차원 영역일 경우에는, 가상 오브젝트의 방향은 유일하게 결정된다.
다음에, 가상 오브젝트를 배치하는 영역을 특정하는 처리에 대해서, 도 6b 및 도 7a 내지 7g를 참조하여 설명한다. 도 6b는, 도 6a의 단계 S441에서 행해진 처리의 상세를 나타내고 있다. 단계 S4411에 있어서, 배치 결정부(202)는, 가상 카메라 패스의 선두의 가상 카메라 파라미터를 해석하여서, 동화상의 시작 프레임에 있어서의 가상 시점 6a의 시야를 특정한다. 단계 S4412에 있어서, 배치 결정부(202)는, 가상 오브젝트의 배치 후보영역(5)에 포함된 서브영역(51)의 각각이, 가상 시점 6a의 시야에 포함되는 것인가 아닌가를 판정한다.
단계 S4413에 있어서, 배치 결정부(202)는, 서브영역(51) 각각에 대해서, 해당 서브영역이 가상 시점 6의 시야내가 된 프레임수를 가리키는 카운터의 값을 갱신한다. 시작 프레임에 있어서의 가상 시점 6a가 도 7a에 나타낸 시야 61a를 가질 경우, 영역 5a의 굵은 테로 둘러싸여진 부분에 포함된 서브영역(51)이 가상 시점 6a의 시야내가 된다. 그러므로, 이것들의 서브영역(51)의 각각의 카운터의 값이 0으로부터 1로 갱신된다. 단계 S4414에 있어서, 배치 결정부(202)는, 미처리된 가상 카메라 파라미터가 있는 것인가 아닌가를 판정한다. 배치 결정부(202)는 미처리된 가상 카메라 파라미터가 있다고 판정되면(단계 S4414의 ＹＥS), 단계 S4415의 처리로 진행된다. 단계 S4415에서, 배치 결정부(202)는 다음 가상 카메라 파라미터를 해석 대상으로 설정한다. 그 후, 단계 S4411의 처리로 되돌아간다.
가상 시점 6이 도 7b에 도시한 바와 같이 가상 시점 6b로 이동했을 경우, 굵은 테로 둘러싸여진 부분에 포함된 서브영역(51)이 가상 시점 6b의 시야 6lb내가 된다. 그러므로, 이것들의 서브영역(51)의 각각에 대해서 상기 카운터의 값이 갱신된다. 도 7b에 나타낸 예에서는, 시야내에서 시야외로 변화된 서브영역(51)의 카운터의 값은 1인채로 있고, 시야내에 머무르는 서브영역(51)의 카운터의 값은 1로부터 2로 갱신된다. 마찬가지로, 도 7c, 도 7d, 도 7e 및 도 7f에 도시한 바와 같이 가상 시점 6이 이동하고, 가상 시점 6f가 동화상의 종료 프레임에 있어서의 가상 시점이라고 가정한다. 이 경우에, 가상 카메라 파라미터 모두를 해석한 시간에서의 카운터는, 도 7f에 나타낸 값들을 가리킨다. 배치 결정부(202)는 미처리된 가상 카메라 파라미터가 없다고 판정하면(단계 S4414의 ＮＯ), 단계 S4416의 처리로 진행된다.
단계 S4416에 있어서, 배치 결정부(202)는, 최대값을 가리키는 카운터에 대응한 서브영역(51)을 특정한다. 도 7f에 나타낸 예에서는, 최대값이 6을 가리키는 카운터에 각기 대응한 서브영역 51f, 서브영역 51g 및 서브영역 51h가 특정된다. 단계 S4417에 있어서, 배치 결정부(202)는, 특정된 서브영역(51) 중 인접한 서브영역(51)의 수에 근거하여, 가상 오브젝트를 배치하는 영역으로서 충분한 크기의 영역이 특정되어 있는 것인가 아닌가를 판정한다. 이 판정은, 구체적으로는, 특정된 인접한 서브영역(51)의 수가 가상 오브젝트의 소정의 크기에 대응하는 역치이상인가 아닌가를 판정하여서 행해진다. 이러한 판정은 본 예에 한정되지 않는다. 예를 들면, 특정된 인접한 서브영역(51)의 수의, 서브영역(51)의 총수에 대한 비율이 역치와 비교되어도 좋다.
특정된 서브영역(51)의 수와 비교되는 역치가 5일 경우에, 도 7f에 나타낸 예에서는, 특정된 서브영역(51)의 수가 3이다. 이 경우에, 배치 결정부(202)는, 가상 오브젝트를 배치하는 영역으로서 충분한 크기의 영역이 특정되지 않고 있다고 판정한다(단계 S4417의 NO). 이 경우, 단계 S4418의 처리로 진행된다. 단계 S4418에 있어서, 배치 결정부(202)는, 특정된 서브영역(51)에 인접한 서브영역(51) 중, 카운터의 값이 큰 서브영역(51)을 추가로 특정한다. 도 7f에 나타낸 예에서는, 서브영역51e 및 51i가 상기 특정된 서브영역(51)에 인접하고, 양쪽이 카운터의 값이 5이다. 그러므로, 새롭게 특정된 서브영역은 51e 내지 51i의 5개가 된다.
서브영역(51)이 새롭게 특정되므로, 도 7f에 나타낸 예에서는 그 특정된 서브영역(51)의 수가 5이다. 그러므로, 배치 결정부(202)는, 가상 오브젝트를 배치하는 영역으로서 충분한 크기의 영역이 특정되어 있다고 판정한다(단계 S4417의 YES). 이 경우, 단계 S4419의 처리로 진행된다. 단계 S4419에 있어서, 배치 결정부(202)는, 특정된 서브영역(51)을 가상 오브젝트의 배치 영역52로서 결정하고, 배치 정보를 생성한다. 가상 시점의 이동 경로(7)에 근거해서 결정된 배치 영역52를 도 7g에 나타낸다. 배치 결정부(202)가 생성한 배치 정보에는, 경기장등 피사체가 존재하는 3차원 공간에 있어서의 가상 오브젝트의 위치(배치 영역52)를 특정하기 위한 정보가 포함된다. 예를 들면, 그 배치 정보는, 배치 영역52를 나타내는 구형의 정점, 그 구형의 중앙의 좌표, 및 해당 구형의 종과 횡의 길이를 포함한다.
다음에, 가상 오브젝트의 형상을 결정하는 처리에 대해서, 도 6c 및 도 8a 내지 8h를 참조하여 설명한다. 도 6c는, 도 6a의 단계 S442에 있어서의 처리의 상세를 나타내고 있다. 단계 S4421에 있어서, 배치 결정부(202)는, 가상 카메라 패스의 선두의 가상 카메라 파라미터를 해석하여서, 가상 시점 6과 배치 영역52와의 위치 관계에 대응하는 가상 오브젝트 형상 53을 특정한다. 시작 프레임에 있어서의 가상 시점 6a가 도 8a에 나타내는 위치 및 방향일 경우, 가상 시점 6a의 시선에 수직한 가상 오브젝트 형상 53a가 특정된다. 단계 S4422에 있어서, 배치 결정부(202)는, 미처리된 가상 카메라 파라미터가 있는 것인가 아닌가를 판정한다. 배치 결정부(202)는, 미처리된 가상 카메라 파라미터가 있다고 판정하면(단계 S4422의 ＹＥS), 단계 S4423의 처리로 진행된다. 단계 S4423에 있어서, 배치 결정부(202)는 다음 대상 파라미터를 해석 대상으로 설정한다. 그후, 단계 S4421의 처리로 되돌아간다.
가상 시점 6이 도 8b에 나타낸 바와 같이 가상 시점 6b로 이동했을 경우, 가상 시점 6b의 시선에 수직한 가상 오브젝트 형상 53b가 특정된다. 마찬가지로, 가상 시점 6이 도 8c 및 도 8d에 나타낸 바와 같은 가상 시점 6c 및 가상 시점 6d로 이동했을 경우, 각각, 가상 시점 6c의 시선에 수직한 가상 오브젝트 형상 53c 및 가상 시점 6d의 시선에 수직한 가상 오브젝트 형상 53d이 특정된다. 가상 시점 6이 각각 도 8e 및 도 8f에 나타낸 바와 같은 가상 시점 6e 및 가상 시점 6f로 이동했을 경우, 배치 영역(52)내에 가상 오브젝트가 포함되면, 가상 시점 6의 시선에 수직한 가상 오브젝트 형상 53의 크기는 작다. 그러므로, 가상 오브젝트의 크기가 너무 작지 않도록, 가상 시점 6e의 시선 및 가상 시점 6f의 시선에 수직하지 않은 가상 오브젝트 형상 53e 및 가상 오브젝트 형상 53f가 특정된다. 단계 S4422에 있어서, 배치 결정부(202)는, 미처리된 가상 카메라 파라미터가 없다고 판정하면(단계 S4422의 ＮＯ), 단계 S4424의 처리로 진행된다.
단계 S4424에 있어서, 배치 결정부(202)는, 단계 S4421에 있어서 특정된 가상 오브젝트 형상 53의 변화에 근거하여, 실제 배치를 위한 가상 오브젝트 형상 53을 결정한다. 예를 들면, 가상 오브젝트 형상 53a로부터 가상 오브젝트 형상 53f까지의 변화로 나타낸 바와 같이, 상기 특정된 가상 오브젝트 형상 53이 크게 변화될 경우에, 실제 배치를 위한 형상 53은, 도 8g의 가상 오브젝트 형상 53g로 나타낸 것처럼, 원호형이어도 좋다. 또한, 상기 형상 53a로부터 형상 53c까지의 변화로 나타낸 바와 같이, 상기 특정된 가상 오브젝트 형상 53이 크게 변화되지 않을 경우에, 실제 배치를 위한 형상 53으로서, 도 8b의 가상 오브젝트 형상 53b로 나타낸 바와 같이 중간 형상 53이 결정되어도 좋다. 혹은, 형상 53e 및 형상 53f로 나타낸 바와 같이, 복수의 가상 카메라 파라미터에 대하여 같은 형상 53이 특정되었을 경우에, 실제 배치를 위한 가상 오브젝트 형상 53으로서 도 8h의 가상 오브젝트 형상 53k가 결정되어도 좋다. 다시 말해, 가장 많은 가상 카메라 파라미터에 대하여 특정된 형상 53이 실제 배치를 위한 상기 형상 53으로서 결정되어도 좋다. 이렇게 결정된 실제의 오브젝트 형상 53에 근거해서 가상시점 화상이 생성되고, 3차원 공간에 있어서의 가상 오브젝트의 형상은 가상 시점의 이동에 따라 변화되지 않는다. 도 9a 내지 9c는, 배치 결정부(202)가 결정한 가상 오브젝트 형상 53이 도 8g의 가상 오브젝트 형상 53g이었을 경우에, 가상시점 화상에 있어서의 가상 오브젝트의 표시 예를 각각 나타내고 있다. 도 9a, 도 9b 및 도 9c는 각각, 가상 시점 6a, 6c 및 6f에 대응하는 표시 예를 나타낸다.
이상과 같이, 배치 결정부(202)는, 취득한 가상 카메라 패스에 근거하여 가상 오브젝트의 위치, 방향 및 형상을 제어 함으로써, 가상시점 화상에 있어서의 가상 오브젝트를 표시시키는 표시 영역을 제어한다. 특히, 본 실시예에서는, 상기 가상 오브젝트를 표시시키는 표시 영역은, 이 이동 경로상의 제1시점의 가상 시점과 제2시점의 가상 시점에 근거하여 결정된다. 이 표시 영역은, 상기 가상 카메라 패스로부터 특정된 상기 이동 경로상의 제1시점의 가상 시점에 대응한 가상시점 화상에 있어서의 가상 오브젝트를 표시시키는 것이다.
도 7a 내지 7g와 도 8a 내지 8h에 나타낸 예에서는, 3차원 공간에 있어서의 제1시점(가상 시점 6이 가상 시점 6f에 위치하는 시점)의 가상 오브젝트의 위치가, 제1시점의 가상 시점(가상 시점6f)과 제2시점의 가상 시점(가상 시점 6a등)에 근거하여, 결정된다. 또한, 상기 결정된 위치에 근거하여, 가상시점 화상에 있어서의 가상 오브젝트를 표시시키는 영역이 결정된다. 여기에서, 3차원 공간에 있어서의 제1시점의 가상 오브젝트의 위치와 제2시점의 가상 오브젝트의 위치는 동일하다. 이러한 배치 결정 처리에 의해, 제1시점의 가상 시점에 대응하는 가상시점 화상의 적절한 영역에 가상 오브젝트를 표시시키고, 또한, 제2시점의 가상 시점에 대응하는 가상시점 화상의 적절한 영역에 가상 오브젝트를 표시시킬 수 있다.
가상 오브젝트의 위치, 형상 및 방향의 결정 방법은 상술한 방법에 한정되지 않는다. 예를 들면, 가상 오브젝트의 한쪽의 면에 광고가 표시되고, 다른 쪽의 면에는 광고가 표시되지 않는다고 한다. 이 경우, 광고가 표시되는 면이, 가상 카메라 패스에 따라 이동하는 가상 시점의 시야에 긴 시간동안 보이는 것이 바람직하다. 이 때문에, 배치 결정부(202)는, 가상 카메라 패스에 의해 특정된 이동 경로상의 가상 시점에 대응하는 가상시점 화상에, 가상 오브젝트의 면 중 광고가 표시되는 면이 포함되도록, 가상 오브젝트의 방향을 결정해도 좋다.
본 실시예에서는, 배치 결정부(202)는, 가상 시점의 이동 경로에 따라, 가상 오브젝트의 위치, 형상 및 방향을 결정하도록 설명되었다. 단, 이것에 한정되지 않고, 가상 오브젝트의 위치, 크기, 형상 및 방향 중 적어도 하나가 가상 시점의 이동 경로에 따라 결정되어도 좋다. 또한, 가상 오브젝트에 의해 표시되는 광고의 내용등의 정보는, 가상 시점의 이동 경로에 따라 결정되어도 좋다.
<가상 오브젝트의 복수배치>
다음에, 도 10a 내지 10i를 참조하여, 가상 오브젝트를 복수배치하는 경우에 있어서의, 가상 오브젝트의 위치의 결정 방법에 대해서 설명한다. 가상 시점 6이 가상 시점 6a로부터 가상 시점 6f까지 이동하는 경우에, 이동 경로(7)에 따라 가상 오브젝트를 2개 배치하는 것으로 가정한다. 이 경우, 배치 결정부(202)는, 이동 경로(7)의 전반과 후반에 각각 대응하는 2개의 배치 영역52를 특정한다. 도 10a 내지 10i에 나타낸 예에서는, 가상 시점 6a, 6b 및 6c가 이동 경로(7)의 전반에 대응하고, 가상 시점 6d, 6e 및 6f가 이동 경로(7)의 후반에 대응한다.
이동 경로(7)의 전반에 있어서, 도 10a, 10b 및 10c에 도시한 바와 같이, 서브영역(51)의 각각에 대해서 카운터의 값이 결정된다. 이동 경로(7)의 후반에 있어서, 도 10d, 10e 및 10f에 도시한 바와 같이, 서브영역(51)의 각각에 대해서, 전반의 카운터와 관계없이 카운터의 값이 결정된다. 그 결과, 이동 경로(7)의 전반의 카운터 값에 대응하는 배치 영역52로서는 도 10g에 나타낸 배치 영역52a가 특정된다. 또한, 이동 경로(7)의 후반의 카운터 값에 대응하는 배치 영역52로서는 도 10h에 나타낸 배치 영역52d가 특정된다. 배치 결정부(202)는, 특정한 2개의 배치 영역52가 중복하는 서브영역(51)에 대해서는, 2개의 가상 오브젝트 각각의 크기가 거의 같아지도록 할당한다. 그 결과, 가상 오브젝트의 실제의 배치는, 도 10i에 도시한 바와 같이, 배치 영역52a'에 한쪽의 가상 오브젝트가 배치되고, 배치 영역52d'에 다른 쪽의 가상 오브젝트가 배치되도록 결정된다. 이렇게 결정된 가상 오브젝트의 실제의 배치에 근거해서 가상시점 화상이 생성된다. 3차원 공간에 있어서의 복수의 가상 오브젝트의 배치는 가상 시점의 이동에 따라 변화되지 않는다.
<가상 오브젝트의 배치 조정>
이상의 설명에서는, 가상 시점의 이동 경로에 근거해서 가상 오브젝트의 배치가 자동으로 결정된다. 그렇지만, 그 결정된 가상 오브젝트의 배치를 유저가 더욱 조정할 수 있게 해도 좋다. 이하에서는, 이 경우의 화상처리 시스템(10)에 대해서 설명한다.
편집부(301)에 의해 프리뷰된 가상시점 화상에 대하여, 가상 오브젝트를 조정하기 위한 조작이 유저에 의해 행해지면, 편집부(301)는, 배치 결정부(202)에 대하여 가상 오브젝트의 조정 지시를 행한다. 배치 결정부(202)는, 편집부(301)로부터 가상 오브젝트의 조정 지시를 접수하면, 이미 생성된 배치 정보와 그 조정 지시에 근거하여, 가상 오브젝트의 배치를 조정해서 배치 정보를 갱신한다. 여기서, 조정 지시에는, 예를 들면 크기의 조정이나 위치의 조정 등의 조정 종별을 나타내는 정보와, 1.1배의 확대나 1미터의 이동 등의 조정량을 나타내는 정보가 포함된다. 갱신된 배치 정보는 화상생성부(201)에 출력되고, 가상 오브젝트의 배치가 조정된 가상시점 화상이 생성된다.
다음에, 가상 오브젝트의 조정에 관련되는 처리 플로우에 대해서 설명한다. 가상 오브젝트가 조정되는 경우의 플로우는, 도 4의 처리 플로우의 수정 플로우다. 보다 구체적으로는, 도 4의 단계 S7에 있어서 편집부(301)는, 유저가 소망하는 가상시점 화상의 생성에 실패했다고 판단하면(단계 S7의 NO), 가상 오브젝트의 조정을 행할 것인가 아닌가를 선택하기 위한 화상을 표시부에 표시하고, 유저 조작을 접수한다. 편집부(301)는 조정을 위한 유저 조작이 행해졌다고 판단하면, 편집부(301)는 화상처리장치(2)에 대하여, 조정 종별과 조정량을 지정하는 유저 조작에 따른 조정 지시를 행한다. 그 후, 단계 S5의 처리로 되돌아간다. 한편, 편집부(301)는 조정을 위한 유저 조작이 행해지지 않는다고 판단하면, 단계 S8의 처리로 진행되고, 상술한 도 4의 처리 플로우를 실행한다.
편집부(301)에 의해 조정 지시가 행해졌을 경우, 화상처리장치(2)는, 도 11에 나타낸 처리를 실행해서, 그 배치 정보를 갱신한다. 그 후, 도 5의 단계 S45 내지 S47의 처리를 행한다. 이에 따라, 조정된 가상 오브젝트를 포함하는 가상시점 화상이 출력된다. 다음에, 도 11 및 도 12a 내지 12f를 참조하여, 화상처리장치(2)에 의한 가상 오브젝트의 조정 처리에 대해서 설명한다. 도 11에 나타낸 처리는, 화상처리장치(2)가 제어장치(3)로부터의 조정 지시를 접수할 때 시작된다. 단, 도 11에 나타낸 처리가 시작되는 타이밍은, 상기 타이밍에 한정되지 않는다. 도 11에 나타낸 처리는, 화상처리장치(2)의 ＣＰＵ(211)가 ＲＯＭ(212)에 격납된 프로그램을 ＲＡＭ(213)에 로딩하여 실행함으로써 실현된다. 도 11에 나타낸 처리의 적어도 일부를, ＣＰＵ(211)와는 다른 전용의 하드웨어에 의해 실현해도 좋다.
단계 S401에 있어서, 배치 결정부(202)는, 편집부(301)로부터 접수한 조정 지시의 조정 종별을 특정한다. 단계 S402에 있어서, 배치 결정부(202)는, 특정된 조정 종별이 가상 오브젝트의 크기 조정인가 아닌가를 판정한다. 그 특정된 조정 종별이 크기 조정일 경우(단계 S402의 ＹＥS), 단계 S403의 처리로 진행된다. 배치 결정부(202)는, 단계 S403에 있어서 조정량을 특정한다. 그 후, 단계 S404에 있어서, 배치 결정부(202)는, 가상 오브젝트의 크기를 조정한다. 그 크기 조정은, 예를 들면, 가상 오브젝트의 폭 및 높이를 10% 증가시키는 조정이여도 좋거나, 가상시점 화상에 대한 가상 오브젝트가 차지하는 영역의 비율의 최대값이나 최소값을 지정하는 조정이여도 좋다.
그 특정된 조정 종별이 크기 조정이 아닐 경우(단계 S402의 ＮＯ), 단계 S405의 처리로 진행된다. 단계 S405에 있어서, 배치 결정부(202)는, 조정 종별이 가상 오브젝트의 위치 조정인가 아닌가를 판정한다. 조정 종별이 위치조정이면(단계 S405의 ＹＥS), 단계 S406의 처리로 진행된다. 단계 S406에 있어서, 배치 결정부(202)는, 조정량을 특정한다. 그 후, 배치 결정부(202)는, 단계 S407에 있어서, 가상 오브젝트의 위치를 조정한다. 그 위치 조정은, 예를 들면, 배치 영역52를 가상 시점 6으로부터 1미터 멀리 배치하는 조정이여도 좋다. 혹은, 그 위치 조정은, 가상시점 화상의 가상 오브젝트가 차지하는 영역의 비율이 역치이하가 되도록 배치 영역52를 가상 시점 6로부터 멀리 배치하는 조정이여도 좋다. 배치 결정부(202)는 그 조정 종별이 위치조정이 아니라고 판정한 경우(단계 S405의 ＮＯ) 또는 단계 S407의 그 조정이 완료했을 경우, 단계 S408의 처리로 진행된다. 단계 S408에 있어서, 배치 결정부(202)는, 가상 오브젝트의 배치 정보를 갱신한다. 그 후, 도 11의 처리를 종료한다.
예를 들면, 도 12a에 나타낸 바와 같이, 가상 시점 6g로부터 가상 시점 6h로의 이동을 위한 이동 경로(7)가 지정됨에 따라, 배치 영역52h 및 가상 오브젝트 형상 53h가 결정되었다고 가정한다. 도 12b는 이 경우의 가상 시점 6h에 대응하는 가상시점 화상을 나타낸다. 이 경우에 가상 시점 6과 가상 오브젝트와의 거리가 길 경우, 가상시점 화상에 대한 가상 오브젝트가 차지하는 영역의 비율이 작다. 그러므로, 예를 들면 가상 오브젝트에 의해 광고가 표시될 경우에는, 시청자가 광고를 시인하기 쉬워지도록, 가상 오브젝트의 크기를 조정하는 것이 유효하다.
유저는, 가상시점 화상의 프리뷰를 확인하여서, 가상시점 화상에 대한 가상 오브젝트가 차지하는 영역의 비율이 지나치게 작다고 판단하는 것으로 가정한다. 이 경우, 유저는, 제어장치(3)가 표시한 ＧＵＩ를 거쳐, 가상 오브젝트의 크기를 증가시키는 조작을 행한다. 도 12a에 나타낸 예에 있어서, 가상 오브젝트의 폭을 가상 시점 6으로부터 보아서 좌측으로 20% 증가하는 조작이 행해진다고 가정한다. 이 경우, 배치 결정부(202)에 의해 행해진 조정에 의해, 배치 영역52h가 배치 영역52h'로 변경된다. 이에 따라, 가상 오브젝트 형상 53h는 가상 오브젝트 형상 53h'로 변경된다. 그리고, 가상 시점 6h에 대응하는 조정후의 가상시점 화상은, 도 12c에 나타낸 것처럼 얻어지고, 시청자에 의한 가상 오브젝트의 시인성이 향상한다.
또한, 다른 예에서는, 도 12d에 나타낸 것처럼, 가상 시점 6i로부터 가상 시점 6j로 이동하는 이동 경로(7)가 지정됨에 따라, 배치 영역52j 및 가상 오브젝트 형상 53j가 결정된다고 가정한다. 도 12e는 이 경우의 가상 시점 6j에 대응하는 가상시점 화상을 나타낸다. 이 경우와 같이 가상 시점 6과 가상 오브젝트와의 거리가 너무 짧을 경우, 가상시점 화상에 대한 가상 오브젝트가 차지하는 영역의 비율이 너무 크다. 그러므로, 가상 오브젝트가 불필요하게 눈에 띄기 때문에 시청자가 현실의 피사체에 집중할 수 없을 가능성을 감소하기 위해서, 가상 오브젝트의 위치를 조정하는 것이 유효하다.
유저는, 가상시점 화상의 프리뷰를 확인하여서, 가상시점 화상에 대한 가상 오브젝트가 차지하는 영역의 비율이 지나치게 크다고 판단한다고 가정한다. 이 경우, 유저는, 제어장치(3)가 표시한 ＧＵＩ를 거쳐, 가상 오브젝트의 위치를 변경하는 조작을 행한다. 도 12d에 나타낸 예에 있어서, 가상 오브젝트의 위치를 가상 시점 6으로부터 보아서 뒤쪽으로 10미터 이동하는 조작이 행해졌다고 가정한다. 이 경우, 배치 결정부(202)에 의해 행해진 조정에 의해, 배치 영역52j가 배치 영역52j'로 변경된다. 그리고, 가상 시점 6j에 대응하는 조정후의 가상시점 화상은, 도 12f에 나타낸 것처럼 얻어지고, 가상 오브젝트의 불필요한 눈에 띄는 모습이 억제된다.
이상과 같이, 화상처리장치(2)는, 가상 시점의 이동 경로에 근거해서 배치된 가상 오브젝트가 가상시점 화상에 있어서 지나치게 작거나 지나치게 클 경우에, 가상 오브젝트의 크기나 위치를 유저 조작에 따라 조정한다. 이렇게 하여, 화상처리장치(2)는, 시청자에 대하여 적절한 시인성의 가상 오브젝트를 포함하는 가상시점 화상을 제공할 수 있다.
본 실시예에서는, 배치 결정부(202)가, 피사체가 존재하는 3차원 공간에 있어서의 고정 위치를 가상 오브젝트의 위치로서 결정하도록 설명했다. 또한, 가상 오브젝트의 3차원 공간에 있어서의 형상과 방향은, 가상 시점의 이동에 따라 변화되지 않는다. 이렇게 가상 오브젝트를 고정 배치하므로, 가상시점 화상과 가상 오브젝트가 자연스럽게 조화를 이룬다. 이 때문에, 생성된 가상시점 화상의 유저에 있어서의 시인성을 향상할 수 있다. 단, 이것에 한정되지 않는다. 가상 오브젝트의 3차원 공간상에 있어서의 위치, 크기, 형상 및 방향이, 시간의 경과와 가상 시점의 이동에 따라 변화되어도 좋다. 또한, 배치 결정부(202)는, 3차원 공간에 있어서의 가상 오브젝트의 위치, 크기, 형상 및 방향을 결정하지 않고, 2차원 가상시점 화상에 있어서의 가상 오브젝트의 위치, 공간, 형상 및 방향을, 가상 시점의 이동 경로에 따라 직접 제어해도 좋다.
또한, 본 실시예에서는, 가상시점 화상의 동화상에 있어서 가상 오브젝트가 될 수 있는 한 긴 시간 동안 보이도록, 가상 오브젝트의 배치가 결정된다. 이러한 배치 결정 방법에 의하면, 예를 들면 가상 오브젝트가 광고일 경우에는, 시청자에 대한 광고 효과를 개선할 수 있다. 단, 가상 오브젝트의 배치 결정 방법은 이 예에 한정되지 않는다. 예를 들면, 배치 결정부(202)는, 가상시점 화상의 가상 오브젝트 비표시 영역에 가상 오브젝트가 포함되지 않도록, 가상 오브젝트의 배치를 결정해도 좋다. 가상 오브젝트 비표시 영역은, 예를 들면, 가상시점 화상의 중심부등 유저가 지정할 수 있는 영역이여도 좋다. 혹은, 가상 오브젝트 비표시 영역은, 가상시점 화상에 있어서의 소정의 피사체가 표시되어야 할 영역이여도 좋다. 이것은, 가상시점 화상에 있어서 시청자가 주목 피사체를 보기 어려울 수도 있을 가능성을 감소할 수 있다. 또한, 가상 오브젝트 비표시 영역은, 가상시점 화상의 생성을 위한 촬영 화상에 포함된 실제의 광고를 표시하는 영역이여도 좋다. 그 실제의 광고를 표시하는 영역이 가상 오브젝트 비표시 영역으로서 설정되므로, 그 실제의 광고를 가상시점 화상의 시청자가 볼 기회를 손실하는 것을 억제할 수 있다.
이상 설명한 바와 같이, 본 실시예에 따른 화상처리 시스템(10)은, 복수의 카메라에 의해 다른 방향에서 피사체가 촬영됨으로써 얻어진 복수의 촬영 화상과, 가상 시점의 지정에 따른 정보에 근거하여, 가상시점 화상을 생성한다. 또한, 화상처리 시스템(10)에 포함된 화상처리장치(2)는, 가상시점 화상의 생성에 관련되는 가상 시점의 이동 경로를 특정하기 위한 시점정보를 취득한다. 또한, 화상처리장치(2)는, 해당 이동 경로상의 제1시점의 가상 시점에 대응하는 가상시점 화상에 있어서의 가상 오브젝트를 표시시키는 영역을, 제1시점의 가상 시점과 제2시점의 가상 시점에 따라 변경하는 제어를 행한다. 제2시점의 가상 시점은 해당 이동 경로상에 있고, 제2시점은 상기 제1시점과는 다르다.
이러한 구성에 의하면, 예를 들면, 가상시점 화상에 포함되어야 할 가상 오브젝트가 가상 시점의 이동으로 인해 가상시점 화상에 포함되지 않을 수도 있을 가능성을 감소하도록, 가상 오브젝트의 배치를 제어할 수 있다. 게다가, 예를 들면, 가상시점 화상에 포함된 중요한 피사체가, 가상 시점의 이동으로 인해 가상 오브젝트에 의해 차폐될 수도 있을 가능성을 감소하도록, 가상 오브젝트의 배치를 제어할 수도 있다. 다시 말해, 본 실시예에 따른 화상처리장치(2)에 의하면, 가상시점 화상의 생성에 관련되는 가상 시점이 이동하는 경우에, 가상시점 화상의 보다 적절한 영역에 가상 오브젝트를 표시시킬 수 있다.
상술한 실시예에 의하면, 가상시점 화상의 생성에 관련되는 가상 시점이 이동하는 경우에, 가상시점 화상의 보다 적절한 영역에 가상 오브젝트를 표시시킬 수 있다.
그 밖의 실시예
또한, 본 발명의 실시예(들)는, 기억매체(보다 완전하게는 '비일시적 컴퓨터 판독 가능한 기억매체'라고도 함)에 레코딩된 컴퓨터 실행가능한 명령어들(예를 들면, 하나 이상의 프로그램)을 판독하고 실행하여 상술한 실시예(들)의 하나 이상의 기능을 수행하는 것 및/또는 상술한 실시예(들)의 하나 이상의 기능을 수행하기 위한 하나 이상의 회로(예를 들면, 특정 용도 지향 집적회로(ASIC))를 구비하는 것인, 시스템 또는 장치를 갖는 컴퓨터에 의해 실현되고, 또 예를 들면 상기 기억매체로부터 상기 컴퓨터 실행가능한 명령어를 판독하고 실행하여 상기 실시예(들)의 하나 이상의 기능을 수행하는 것 및/또는 상술한 실시예(들)의 하나 이상의 기능을 수행하는 상기 하나 이상의 회로를 제어하는 것에 의해 상기 시스템 또는 상기 장치를 갖는 상기 컴퓨터에 의해 행해지는 방법에 의해 실현될 수 있다. 상기 컴퓨터는, 하나 이상의 프로세서(예를 들면, 중앙처리장치(CPU), 마이크로처리장치(MPU))를 구비하여도 되고, 컴퓨터 실행 가능한 명령어를 판독하여 실행하기 위해 별개의 컴퓨터나 별개의 프로세서의 네트워크를 구비하여도 된다. 상기 컴퓨터 실행가능한 명령어를, 예를 들면 네트워크나 상기 기억매체로부터 상기 컴퓨터에 제공하여도 된다. 상기 기억매체는, 예를 들면, 하드 디스크, 랜덤액세스 메모리(RAM), 판독전용 메모리(ROM), 분산형 컴퓨팅 시스템의 스토리지, 광디스크(콤팩트 디스크(CD), 디지털 다기능 디스크(DVD) 또는 블루레이 디스크(BD)TM등), 플래시 메모리 소자, 메모리 카드 등 중 하나 이상을 구비하여도 된다.
본 발명을 실시예들을 참조하여 기재하였지만, 본 발명은 상기 개시된 실시예들에 한정되지 않는다는 것을 알 것이다. 아래의 청구항의 범위는, 모든 변형예, 동등한 구조 및 기능을 포함하도록 폭 넓게 해석해야 한다.

Claims (36)

  1. 복수의 방향에서 촬영하는 복수의 카메라에 의해 취득된 촬영 화상에 근거해서 생성되는 가상시점 화상의 생성에 관련되는 가상 시점의 이동 경로를 특정하기 위한 시점정보를 취득하는 취득부; 및
    상기 이동 경로 상의 제1 시점의 가상 시점과 제2 시점의 가상 시점에 근거하여, 상기 취득부에 의해 취득된 시점정보로부터 특정된 상기 이동 경로 상의 제1 시점의 3차원 공간에 있어서의, 상기 가상 시점 화상에 표시되는 가상 오브젝트의 위치를 결정하고, 상기 가상 오브젝트의 상기 결정된 위치에 근거하여 상기 가상 시점 화상에 있어서의 상기 가상 오브젝트의 표시 영역을 결정하는 제어부를 구비하고,
    상기 제1 시점의 3차원 공간에 있어서의 상기 가상 오브젝트의 위치와 상기 제2 시점의 3차원 공간에 있어서의 상기 가상 오브젝트의 위치가 동일한, 화상처리장치.
  2. 삭제
  3. 삭제
  4. 삭제
  5. 삭제
  6. 삭제
  7. 삭제
  8. 삭제
  9. 삭제
  10. 삭제
  11. 삭제
  12. 삭제
  13. 삭제
  14. 삭제
  15. 삭제
  16. 삭제
  17. 삭제
  18. 삭제
  19. 복수의 방향에서 촬영하는 복수의 카메라에 의해 취득된 촬영 화상에 근거해서 생성되는 가상시점 화상의 생성에 관련되는 가상 시점의 이동 경로를 특정하기 위한 시점정보를 취득하는 취득부; 및
    상기 가상시점 화상에 표시되는 가상 오브젝트의 위치로서, 3차원 공간에 있고 가상 시점의 이동에 따라 변화되지 않는 고정 위치를, 상기 취득부에 의해 취득된 시점정보로부터 특정된 상기 이동 경로에 근거하여 결정하고, 그 결정된 고정 위치에 근거하여 상기 가상 시점 화상에 있어서의 가상 오브젝트의 표시 영역을 결정하는 제어부를 구비하는, 화상처리장치.
  20. 제 19 항에 있어서,
    상기 제어부는, 상기 3차원 공간에 있어서의 복수의 후보영역 중, 상기 이동 경로상의 복수의 가상 시점에 근거해서 생성되되 시간적으로 연속하는 복수의 가상시점 화상에 가장 긴 기간동안 표시된 후보영역을, 상기 가상 오브젝트의 위치로서 결정하는, 화상처리장치.
  21. 복수의 방향에서 촬영하는 복수의 카메라에 의해 취득된 촬영 화상에 근거해서 생성되는 가상시점 화상의 생성에 관련되는 가상 시점의 이동 경로를 특정하기 위한 시점정보를 취득하는 취득부; 및
    상기 가상 시점 화상에 표시되는 가상 오브젝트의 표시 영역을 결정하는 제어부를 구비하고,
    상기 제어부는, 상기 취득부에 의해 취득된 시점정보로부터 특정된 상기 이동 경로상의 제1시점의 가상 시점에 대응하는 가상시점 화상에 있어서의 상기 가상 오브젝트의 표시 영역을, 상기 제1시점의 가상 시점과, 상기 이동 경로상에서 상기 제1시점과는 다른 제2시점의 가상 시점에 근거하여, 결정하며,
    상기 제어부는, 상기 이동 경로상의 가상 시점에 대응하는 가상시점 화상의 가상 오브젝트 비표시 영역에 상기 가상 오브젝트가 표시되지 않도록, 상기 표시 영역을 결정하는, 화상처리장치.
  22. 제 21 항에 있어서,
    상기 가상 오브젝트 비표시 영역은, 가상시점 화상에 있어서의 소정의 피사체가 표시되어야 할 영역인, 화상처리장치.
  23. 제 21 항에 있어서,
    상기 가상 오브젝트 비표시 영역은, 상기 촬영 화상에 포함된 실제의 광고가 표시되어야 할 영역인, 화상처리장치.
  24. 복수의 방향에서 촬영하는 복수의 카메라에 의해 취득된 촬영 화상에 근거해서 생성되는 가상시점 화상의 생성에 관련되는 가상 시점의 이동 경로를 특정하기 위한 시점정보를 취득하는 취득부; 및
    상기 가상 시점 화상에 표시되는 가상 오브젝트의 표시 영역을 결정하는 제어부 - 상기 가상 오브젝트는, 상기 촬영 화상에 포함되지 않는 광고를 가상시점 화상에 표시시키기 위한 가상 오브젝트임 - 를 구비하고,
    상기 제어부는, 상기 취득부에 의해 취득된 시점정보로부터 특정된 상기 이동 경로상의 제1시점의 가상 시점에 대응하는 가상시점 화상에 있어서의 상기 가상 오브젝트의 표시 영역을, 상기 제1시점의 가상 시점과, 상기 이동 경로상에서 상기 제1시점과는 다른 제2시점의 가상 시점에 근거하여, 결정하는, 화상처리장치.
  25. 제 24 항에 있어서,
    상기 제어부는, 상기 이동 경로상의 가상 시점에 대응하는 가상시점 화상에, 광고가 표시되는 상기 가상 오브젝트의 면이 포함되도록, 상기 가상 오브젝트의 방향을 결정하는, 화상처리장치.
  26. 제 1 항 및 제 19 항 내지 제 25 항 중 어느 한 항에 있어서,
    상기 제어부는, 상기 가상 오브젝트의 위치, 크기, 형상 및 방향 중 적어도 하나를, 상기 취득부에 의해 취득된 시점 정보에 근거하여, 결정하는, 화상처리장치.
  27. 제 1 항 및 제 19 항 내지 제 25 항 중 어느 한 항에 있어서,
    상기 제어부는, 상기 이동 경로상의 복수의 가상 시점에 근거해서 생성되되 시간적으로 연속하는 복수의 가상시점 화상 모두에 상기 가상 오브젝트가 표시되도록, 상기 표시 영역을 결정하는, 화상처리장치.
  28. 제 1 항 및 제 19 항 내지 제 25 항 중 어느 한 항에 있어서,
    상기 취득부에 의해 취득된 시점정보는, 시점의 위치를 특정하기 위한 정보 및 시선의 방향을 특정하기 위한 정보를 포함하는, 화상처리장치.
  29. 제 1 항 및 제 19 항 내지 제 25 항 중 어느 한 항에 있어서,
    상기 가상 오브젝트를 포함하는 가상시점 화상을 상기 제어부에 의한 결정에 근거하여 생성하는 생성부를 더 구비하는, 화상처리장치.
  30. 제 1 항 및 제 19 항 내지 제 25 항 중 어느 한 항에 있어서,
    상기 제어부에 의한 결정에 근거하여, 상기 가상 오브젝트의 위치, 크기, 형상 및 방향 중 적어도 하나에 관한 정보를, 상기 가상시점 화상을 생성하는 화상생성장치에 출력하는 출력부를 더 구비하는, 화상처리장치.
  31. 복수의 방향에서 촬영하는 복수의 카메라에 의해 취득된 촬영 화상에 근거해서 생성되는 가상시점 화상의 생성에 관련되는 가상 시점의 이동 경로를 특정하기 위한 시점정보를 취득하는 단계; 및
    상기 이동 경로 상의 제1 시점의 가상 시점과 제2 시점의 가상 시점에 근거하여, 상기 취득된 시점정보로부터 특정된 상기 이동 경로 상의 제1 시점의 3차원 공간에 있어서의, 상기 가상 시점 화상에 표시되는 가상 오브젝트의 위치를 결정하고, 상기 가상 오브젝트의 상기 결정된 위치에 근거하여 상기 가상 시점 화상에 있어서의 상기 가상 오브젝트의 표시 영역을 결정하도록 제어하는 단계를 포함하고,
    상기 제1 시점의 3차원 공간에 있어서의 상기 가상 오브젝트의 위치와 상기 제2 시점의 3차원 공간에 있어서의 상기 가상 오브젝트의 위치가 동일한, 화상처리방법.
  32. 복수의 방향에서 촬영하는 복수의 카메라에 의해 취득된 촬영 화상에 근거해서 생성되는 가상시점 화상의 생성에 관련되는 가상 시점의 이동 경로를 특정하기 위한 시점정보를 취득하는 단계; 및
    상기 가상시점 화상에 표시되는 가상 오브젝트의 위치로서, 3차원 공간에 있고 가상 시점의 이동에 따라 변화되지 않는 고정 위치를, 상기 취득된 시점정보로부터 특정된 상기 이동 경로에 근거하여 결정하고, 그 결정된 고정 위치에 근거하여 상기 가상 시점 화상에 있어서의 가상 오브젝트의 표시 영역을 결정하도록 제어하는 단계를 포함하는, 화상처리방법.
  33. 복수의 방향에서 촬영하는 복수의 카메라에 의해 취득된 촬영 화상에 근거해서 생성되는 가상시점 화상의 생성에 관련되는 가상 시점의 이동 경로를 특정하기 위한 시점정보를 취득하는 단계; 및
    상기 가상 시점 화상에 표시되는 가상 오브젝트의 표시 영역을 결정하도록 제어하는 단계를 포함하고,
    상기 제어는, 상기 취득된 시점정보로부터 특정된 상기 이동 경로상의 제1시점의 가상 시점에 대응하는 가상시점 화상에 있어서의 상기 가상 오브젝트의 표시 영역을, 상기 제1시점의 가상 시점과, 상기 이동 경로상에서 상기 제1시점과는 다른 제2시점의 가상 시점에 근거하여, 결정하도록 행해지며,
    상기 제어는, 상기 이동 경로상의 가상 시점에 대응하는 가상시점 화상의 가상 오브젝트 비표시 영역에 상기 가상 오브젝트가 표시되지 않도록, 상기 표시 영역을 결정하도록 행해지는, 화상처리방법.
  34. 복수의 방향에서 촬영하는 복수의 카메라에 의해 취득된 촬영 화상에 근거해서 생성되는 가상시점 화상의 생성에 관련되는 가상 시점의 이동 경로를 특정하기 위한 시점정보를 취득하는 단계; 및
    상기 가상 시점 화상에 표시되는 가상 오브젝트의 표시 영역을 결정하도록 제어하는 단계 - 상기 가상 오브젝트는, 상기 촬영 화상에 포함되지 않는 광고를 가상시점 화상에 표시시키기 위한 가상 오브젝트임 - 를 포함하고,
    상기 제어는, 상기 취득된 시점정보로부터 특정된 상기 이동 경로상의 제1시점의 가상 시점에 대응하는 가상시점 화상에 있어서의 상기 가상 오브젝트의 표시 영역을, 상기 제1시점의 가상 시점과, 상기 이동 경로상에서 상기 제1시점과는 다른 제2시점의 가상 시점에 근거하여, 결정하도록 행해지는, 화상처리방법.
  35. 제 31 항 내지 제 34 항 중 어느 한 항에 있어서,
    상기 제어는, 상기 가상 오브젝트의 위치, 크기, 형상 및 방향 중 적어도 하나를, 상기 취득된 시점 정보에 근거하여, 결정하도록 행해지는, 화상처리방법.
  36. 컴퓨터에 청구항 31 내지 34 중 어느 한 항에 기재된 화상처리방법을 실행시키기 위한 프로그램을 기억하는 비일시적 컴퓨터 판독 가능한 기억매체.
KR1020180023411A 2017-02-28 2018-02-27 화상처리장치, 화상처리방법 및 기억매체 KR102271527B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JPJP-P-2017-035930 2017-02-28
JP2017035930A JP7086522B2 (ja) 2017-02-28 2017-02-28 画像処理装置、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
KR20180099534A KR20180099534A (ko) 2018-09-05
KR102271527B1 true KR102271527B1 (ko) 2021-07-01

Family

ID=61616748

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180023411A KR102271527B1 (ko) 2017-02-28 2018-02-27 화상처리장치, 화상처리방법 및 기억매체

Country Status (5)

Country Link
US (1) US10705678B2 (ko)
EP (1) EP3367666B1 (ko)
JP (1) JP7086522B2 (ko)
KR (1) KR102271527B1 (ko)
CN (1) CN108510595B (ko)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11025921B1 (en) 2016-09-22 2021-06-01 Apple Inc. Providing a virtual view by streaming serialized data
EP3336805A1 (en) * 2016-12-15 2018-06-20 Thomson Licensing Method and device for a placement of a virtual object of an augmented or mixed reality application in a real-world 3d environment
US11451757B2 (en) * 2018-09-28 2022-09-20 Intel Corporation Automated generation of camera paths
US11204677B2 (en) * 2018-10-22 2021-12-21 Acclarent, Inc. Method for real time update of fly-through camera placement
JP7237538B2 (ja) 2018-11-14 2023-03-13 キヤノン株式会社 情報処理装置、それを含むシステム、情報処理方法、およびプログラム
JP2020101845A (ja) * 2018-12-19 2020-07-02 キヤノン株式会社 画像処理装置、画像処理システム、画像処理方法、およびプログラム
US10740960B2 (en) * 2019-01-11 2020-08-11 Microsoft Technology Licensing, Llc Virtual object placement for augmented reality
JP2022051972A (ja) * 2019-02-06 2022-04-04 ソニーグループ株式会社 情報処理装置および方法、並びにプログラム
JP7403956B2 (ja) * 2019-02-27 2023-12-25 キヤノン株式会社 情報処理装置、制御方法、及びプログラム
US11057609B2 (en) * 2019-02-27 2021-07-06 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and computer readable storage medium for determining a moving path of virtual viewpoint
JP7418101B2 (ja) * 2019-07-26 2024-01-19 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
WO2021020143A1 (ja) * 2019-07-30 2021-02-04 ソニー株式会社 画像処理装置、画像処理方法、及び記録媒体
CN114502246A (zh) * 2019-10-10 2022-05-13 索尼集团公司 图像处理装置、图像处理方法和程序
JP7423251B2 (ja) * 2019-10-25 2024-01-29 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP7427468B2 (ja) * 2020-02-18 2024-02-05 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP2022090786A (ja) * 2020-12-08 2022-06-20 キヤノン株式会社 情報処理装置、画像生成装置、画像処理システム、情報処理方法、画像生成方法及びプログラム
JPWO2022181378A1 (ko) 2021-02-26 2022-09-01

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016134001A (ja) * 2015-01-20 2016-07-25 富士通テン株式会社 画像生成装置、画像生成方法及びプログラム

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2413720B (en) * 2003-03-14 2006-08-02 British Broadcasting Corp Video processing
US7116342B2 (en) 2003-07-03 2006-10-03 Sportsmedia Technology Corporation System and method for inserting content into an image sequence
JP4039676B2 (ja) * 2004-03-31 2008-01-30 株式会社コナミデジタルエンタテインメント 画像処理装置、画像処理方法及びプログラム
JP5013773B2 (ja) * 2006-08-18 2012-08-29 パナソニック株式会社 車載画像処理装置及びその視点変換情報生成方法
WO2008083500A1 (en) * 2007-01-11 2008-07-17 360 Replays Ltd. Method and system for generating a replay video
US8451380B2 (en) 2007-03-22 2013-05-28 Sony Computer Entertainment America Llc Scheme for determining the locations and timing of advertisements and other insertions in media
US8416247B2 (en) 2007-10-09 2013-04-09 Sony Computer Entertaiment America Inc. Increasing the number of advertising impressions in an interactive environment
GB0809631D0 (en) 2008-05-28 2008-07-02 Mirriad Ltd Zonesense
US8786596B2 (en) * 2008-07-23 2014-07-22 Disney Enterprises, Inc. View point representation for 3-D scenes
GB2462095A (en) 2008-07-23 2010-01-27 Snell & Wilcox Ltd Processing of images to represent a transition in viewpoint
JP2010033367A (ja) * 2008-07-29 2010-02-12 Canon Inc 情報処理装置及び情報処理方法
CN102598652B (zh) * 2009-10-30 2015-08-12 佳能株式会社 信息处理设备和方法
JP2011151773A (ja) * 2009-12-21 2011-08-04 Canon Inc 映像処理装置及び制御方法
JP5302227B2 (ja) * 2010-01-19 2013-10-02 富士通テン株式会社 画像処理装置、画像処理システム、および、画像処理方法
JP5567942B2 (ja) * 2010-08-30 2014-08-06 Ｋｄｄｉ株式会社 自由視点映像生成装置、自由視点映像システムにおいて広告を表示する方法及びプログラム
US8885023B2 (en) * 2010-09-01 2014-11-11 Disney Enterprises, Inc. System and method for virtual camera control using motion control systems for augmented three dimensional reality
US20120180084A1 (en) 2011-01-12 2012-07-12 Futurewei Technologies, Inc. Method and Apparatus for Video Insertion
JP5672109B2 (ja) * 2011-03-29 2015-02-18 カシオ計算機株式会社 撮像装置及び撮像方法、並びにプログラム
US9846960B2 (en) * 2012-05-31 2017-12-19 Microsoft Technology Licensing, Llc Automated camera array calibration
US8826325B2 (en) 2012-12-08 2014-09-02 Joao Redol Automated unobtrusive ancilliary information insertion into a video
US10140765B2 (en) * 2013-02-25 2018-11-27 Google Llc Staged camera traversal for three dimensional environment
US20140278847A1 (en) * 2013-03-14 2014-09-18 Fabio Gallo Systems and methods for virtualized advertising
JP6319952B2 (ja) * 2013-05-31 2018-05-09 任天堂株式会社 情報処理プログラム、情報処理装置、情報処理システム、および情報処理方法
WO2015047246A1 (en) 2013-09-25 2015-04-02 Intel Corporation Dynamic product placement in media content
WO2015111833A1 (ko) * 2014-01-21 2015-07-30 에스케이플래닛 주식회사 가상 광고 제공 장치 및 방법
JP6598109B2 (ja) * 2014-12-25 2019-10-30 パナソニックＩｐマネジメント株式会社 映像受信方法及び端末装置
KR101975553B1 (ko) * 2015-01-30 2019-05-07 전자부품연구원 로봇의 관측 시점 제어 장치
EP3101625A3 (en) * 2015-04-30 2016-12-14 Pixia Corp. Method and system of selecting a view from a plurality of cameras
ES2596534B1 (es) * 2015-07-06 2017-04-21 Market Sp'94, S.L. Procedimiento para inclusión de motivos publicitarios mediante un procesador de imágenes
US9858683B2 (en) 2015-08-05 2018-01-02 Intel Corporation Method and system of planar surface detection objects in 3d space generated from captured images for image processing

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016134001A (ja) * 2015-01-20 2016-07-25 富士通テン株式会社 画像生成装置、画像生成方法及びプログラム

Also Published As

Publication number Publication date
JP2018142164A (ja) 2018-09-13
US20180246631A1 (en) 2018-08-30
CN108510595A (zh) 2018-09-07
EP3367666B1 (en) 2023-04-05
EP3367666A1 (en) 2018-08-29
CN108510595B (zh) 2023-11-28
US10705678B2 (en) 2020-07-07
JP7086522B2 (ja) 2022-06-20
KR20180099534A (ko) 2018-09-05

Similar Documents

Publication Publication Date Title
KR102271527B1 (ko) 화상처리장치, 화상처리방법 및 기억매체
AU2018389234B2 (en) Method for calibrating an augmented reality device
US11086395B2 (en) Image processing apparatus, image processing method, and storage medium
US20190213791A1 (en) Information processing apparatus relating to generation of virtual viewpoint image, method and storage medium
JP5456020B2 (ja) 情報処理装置および方法
US20120019613A1 (en) Dynamically Variable Stereo Base for (3D) Panorama Creation on Handheld Device
US20120019614A1 (en) Variable Stereo Base for (3D) Panorama Creation on Handheld Device
KR102316061B1 (ko) 화상 처리장치, 방법 및 컴퓨터 프로그램
JP3749227B2 (ja) 立体画像処理方法および装置
JP3857988B2 (ja) 立体画像処理方法および装置
US20190132529A1 (en) Image processing apparatus and image processing method
KR20200023513A (ko) 화상 처리 시스템, 화상 처리 방법 및 기억 매체
JP7073092B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2003284093A (ja) 立体画像処理方法および装置
US20140035918A1 (en) Techniques for producing baseline stereo parameters for stereoscopic computer animation
CN111212219B (zh) 使用虚拟相机生成多面图像的方法和系统
JP2018180654A (ja) 情報処理装置、画像生成方法及びプログラム
US20220277520A1 (en) Information processing apparatus, information processing method, and storage medium
BR102022015085A2 (pt) Aparelho de processamento de imagem, método de processamento de imagem e meio de armazenamento
JP4892405B2 (ja) 画像処理装置および方法
JP4118146B2 (ja) 立体画像処理装置
US20220300120A1 (en) Information processing apparatus, and control method
JP2003284095A (ja) 立体画像処理方法および装置
JP2017046065A (ja) 情報処理装置
KR102287939B1 (ko) 동영상을 이용하여 3차원 이미지를 렌더링하는 장치 및 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right