KR20180024504A - 영상 표시 장치 및 그 동작방법 - Google Patents

영상 표시 장치 및 그 동작방법 Download PDF

Info

Publication number
KR20180024504A
KR20180024504A KR1020160110838A KR20160110838A KR20180024504A KR 20180024504 A KR20180024504 A KR 20180024504A KR 1020160110838 A KR1020160110838 A KR 1020160110838A KR 20160110838 A KR20160110838 A KR 20160110838A KR 20180024504 A KR20180024504 A KR 20180024504A
Authority
KR
South Korea
Prior art keywords
image
view
area
display apparatus
detected
Prior art date
Application number
KR1020160110838A
Other languages
English (en)
Other versions
KR102536945B1 (ko
Inventor
최길수
김영일
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020160110838A priority Critical patent/KR102536945B1/ko
Priority to EP17186849.0A priority patent/EP3300354B1/en
Priority to US15/681,962 priority patent/US10453246B2/en
Priority to PCT/KR2017/009200 priority patent/WO2018043985A1/en
Priority to CN201710767683.7A priority patent/CN107801075B/zh
Publication of KR20180024504A publication Critical patent/KR20180024504A/ko
Application granted granted Critical
Publication of KR102536945B1 publication Critical patent/KR102536945B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N5/4403—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/00—3D [Three Dimensional] image rendering
    • G06T15/10—Geometric effects
    • G06T15/20—Perspective computation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • G—PHYSICS
    • G08—SIGNALLING
    • G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00—Burglar, theft or intruder alarms
    • G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19678—User interface
    • G08B13/19691—Signalling events for better perception by user, e.g. indicating alarms by making display brighter, adding text, creating a sound
    • G08B13/19693—Signalling events for better perception by user, e.g. indicating alarms by making display brighter, adding text, creating a sound using multiple video sources viewed on a single or compound screen
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/275—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers
    • H04N13/366—Image reproducers using viewer tracking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213—Monitoring of end-user related data
    • H04N21/44218—Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47202—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting content on demand, e.g. video on demand
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47205—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for manipulating displayed content, e.g. interacting with MPEG-4 objects, editing locally
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81—Monomedia components thereof
    • H04N21/816—Monomedia components thereof involving special video data, e.g 3D video
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/76—Television signal recording
    • H04N5/91—Television signal processing therefor
    • H04N5/93—Regeneration of the television signal or of selected parts thereof
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048—Indexing scheme relating to G06F3/048
    • G06F2203/04806—Zoom, i.e. interaction techniques or interactors for controlling the zooming operation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00—Indexing scheme for image data processing or generation, in general
    • G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20—Indexing scheme for editing of 3D models
    • G06T2219/2004—Aligning objects, relative positioning of parts
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/4221—Dedicated function buttons, e.g. for the control of an EPG, subtitles, aspect ratio, picture-in-picture or teletext

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Computer Graphics (AREA)
  • Social Psychology (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Marketing (AREA)
  • Business, Economics & Management (AREA)
  • Geometry (AREA)
  • Architecture (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Abstract

실시예들에 따라 영상 표시 장치 및 영상 표시 장치의 동작 방법이 개시된다. 개시된 영상 표시 장치는, 디스플레이; 하나 이상의 인스트럭션을 저장하는 메모리; 및 상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 제공하는 메인 뷰를 표시하도록 상기 디스플레이를 제어하고, 상기 360도 영상 중 상기 메인 뷰에 표시되지 않는 다른 영역에서 하나 이상의 오브젝트를 검출하고, 상기 검출된 하나 이상의 오브젝트에 대응하는 하나 이상의 서브 뷰를 표시하도록 상기 디스플레이를 제어한다.

Description

영상 표시 장치 및 그 동작방법{Image display apparatus and operating method for the same}
다양한 실시예들은 영상 표시 장치 및 그 동작방법에 관한 것으로서, 더욱 상세하게는 360도 영상을 표시하는 영상 표시 장치 및 그 동작방법에 관한 것이다.
영상표시장치는 사용자가 시청할 수 있는 영상을 표시하는 기능을 갖춘 장치이다. 사용자는 영상표시장치를 통하여 방송을 시청할 수 있다. 영상표시장치는 방송국에서 송출되는 방송신호 중 사용자가 선택한 방송을 디스플레이에 표시한다. 현재 방송은 전세계적으로 아날로그 방송에서 디지털 방송으로 전환하고 있는 추세이다.
디지털 방송은 디지털 영상 및 음성 신호를 송출하는 방송을 의미한다. 디지털 방송은 아날로그 방송에 비해, 외부 잡음에 강해 데이터 손실이 작으며, 에러 정정에 유리하며, 해상도가 높고, 선명한 화면을 제공한다. 또한, 디지털 방송은 아날로그 방송과 달리 양방향 서비스가 가능하다.
또한, 최근에는 디지털 방송 기능에 더하여 다양한 컨텐츠를 제공하는 스마트 티브이가 제공되고 있다. 스마트 티브이는 사용자의 선택에 따라 수동적으로 동작하는 것이 아니라, 사용자의 조작 없이도 사용자가 원하는 것을 분석하여 제공하는 것을 목표로 한다.
다양한 실시예들은, 360도 영상에 포함된 오브젝트를 효과적으로 표시할 수 있는 영상 표시 장치 및 영상 표시 장치의 동작방법을 제공하고자 한다.
일 실시예에 따른 영상 표시 장치는, 디스플레이; 하나 이상의 인스트럭션을 저장하는 메모리; 및 상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 제공하는 메인 뷰를 표시하도록 상기 디스플레이를 제어하고, 상기 360도 영상 중 상기 메인 뷰에 표시되지 않는 다른 영역에서 하나 이상의 오브젝트를 검출하고, 상기 검출된 하나 이상의 오브젝트에 대응하는 하나 이상의 서브 뷰를 표시하도록 상기 디스플레이를 제어한다.
일 실시예에 따라 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 검출된 하나 이상의 오브젝트의 각 오브젝트를 포함하는 각 화각의 영역을 결정하고, 상기 각 결정된 영역에 대응하는 영상을 제공하는 상기 각 서브 뷰를 결정할 수 있다.
일 실시예에 따라 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 오브젝트 검출을 위해 얼굴 검출, 움직임 검출 중 적어도 하나를 이용할 수 있다.
일 실시예에 따라 상기 프로세서는, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 검출할 상기 오브젝트에 대한 정보를 사용자 인터페이스를 통해 수신하고, 상기 사용자 인터페이스를 통해 수신된 상기 오브젝트에 대한 정보를 기초로 상기 오브젝트를 검출할 수 있다.
일 실시예에 따라 상기 프로세서는, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 검출할 오브젝트에 대한 정보를 상기 360도 영상에 대응하는 메타데이터로부터 획득하고, 상기 획득된 상기 오브젝트에 대한 정보를 기초로 상기 오브젝트를 검출할 수 있다.
일 실시예에 따라 상기 프로세서는, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 사용자 요청에 따라 또는 자동으로 상기 오브젝트를 검출할 수 있다.
일 실시예에 따라 영상 표시 장치는, 디스플레이; 하나 이상의 인스트럭션을 저장하는 메모리; 및 상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 표시하도록 상기 디스플레이를 제어하고, 방향성을 가지는, 미리 정한 패턴의 사용자 입력을 나타내는 이벤트의 검출에 응답해서, 상기 방향으로 화각을 이동시킬 때 출현하는 적어도 하나의 오브젝트를 검출하고, 상기 적어도 하나의 오브젝트가 포함된 영역으로 점프하거나, 또는 상기 적어도 하나의 오브젝트가 포함된 영역에 도달할 때까지 회전 속도를 증가시키거나, 또는, 서브 뷰에서 검출되는 상기 적어도 하나의 오브젝트를 메인 뷰에서 표시하기 위해 상기 메인 뷰로 이동시키고, 상기 검출된 적어도 하나의 오브젝트를 포함하는 영역에 대응하는 영상을 표시하도록 상기 디스플레이를 제어한다.
일 실시예에 따라 상기 프로세서는, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 이벤트의 해제에 응답해서, 상기 점프 또는 회전 속도 제어를 정지시킬 수 있다.
일 실시예에 따라 상기 미리 정한 패턴의 사용자 입력은, 방향키의 롱 프레스 또는 더블 프레스를 포함할 수 있다.
일 실시예에 따라 영상 표시 장치의 동작 방법은, 360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 제공하는 메인 뷰를 표시하는 동작, 상기 360도 영상 중 상기 메인 뷰에 표시되지 않는 다른 영역에서 하나 이상의 오브젝트를 검출하는 동작, 및 상기 검출된 하나 이상의 오브젝트에 대응하는 하나 이상의 서브 뷰를 표시하는 동작을 포함한다.
일 실시예에 따라 영상 표시 장치의 동작 방법은, 360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 표시하는 동작, 방향성을 가지는, 미리 정한 패턴의 사용자 입력을 나타내는 이벤트의 검출에 응답해서, 상기 방향으로 화각을 이동시킬 때 출현하는 적어도 하나의 오브젝트를 검출하는 동작, 및 상기 적어도 하나의 오브젝트가 포함된 영역으로 점프하거나, 또는 상기 적어도 하나의 오브젝트가 포함된 영역에 도달할 때까지 회전 속도를 증가시키거나, 또는, 서브 뷰에서 검출되는 상기 적어도 하나의 오브젝트를 메인 뷰에서 표시하기 위해 상기 메인 뷰로 이동시키고, 상기 검출된 적어도 하나의 오브젝트를 포함하는 영역에 대응하는 영상을 표시하는 동작을 포함한다.
일 실시예에 따라 영상 표시 장치의 동작 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체가 개시된다.
실시예들에 따라 영상 표시 장치가 360도 영상을 이용하여 메인 뷰와 하나 이상의 서브 뷰를 제공할 때, 하나 이상의 서브 뷰에 제공되는 영상이 고정된 화각에 대응되는 영상이 아니라 오브젝트 기반으로 영상을 제공함으로써 사용자에게 무의미한 영상이 제공되는 것을 방지할 수 있다.
또한 실시예들에 따라 특정한 패턴의 사용자 입력을 이용하여 360도 영상에 포함된 하나 이상의 오브젝트를 효과적으로 검색 또는 재생할 수 있다.
도 1은 일 실시예에 따른 360도 영상을 표시하는 영상 표시 장치 및 제어 장치를 나타내는 도면이다.
도 2는 360도 영상의 화각을 설명하기 위한 도면이다.
도 3은 개시된 일 실시예에 따른 360도 영상을 표시하는 방법을 나타내는 도면이다.
도 4 는 일 실시예에 따른 360도 영상을 표시하는 영상 표시 장치의 구성을 나타내는 블록도이다.
도 5는 일 실시예에 따라 360도 영상을 재생하는 영상 표시 장치의 구성을 나타내는 블록도이다.
도 6은 일 실시예에 따라 영상 표시 장치에서 오브젝트 기반으로 서브 뷰를 표시하는 과정을 나타내는 흐름도이다.
도 7은 오브젝트 검출이 수행되는 360도 영상의 영역을 설명하기 위한 참고도이다.
도 8은 일 실시예에 따라 오브젝트 검출에 따라 메인 뷰 외에 서브 뷰를 더 표시하는 영상 표시 장치를 설명하기 위한 참고도이다.
도 9는 일 실시예에 따라 오브젝트가 검출되는 영역의 이동에 따라 서브 뷰에서 표시되는 영역을 변경하는 영상 표시 장치를 설명하기 위한 참고도이다.
도 10은 실시예들에 따라 360도 영상의 메타 정보를 설명하기 위한 참고도이다.
도 11은 일 실시예에 따라 메타 정보에 담길 수 있는 내용의 예를 나타낸다.
도 12는 일 실시예에 따라 영상 표시 장치에서 360도 영상에서 서브 뷰를 표시할지 여부를 선택할 수 있도록 하는 사용자 인터페이스의 일 예를 나타낸다.
도 13은 일 실시예에 따라 영상 표시 장치에서 360도 영상에서 표시할 서브 뷰의 개수를 선택할 수 있도록 하는 사용자 인터페이스의 일 예를 나타낸다.
도 14a는 일 실시예에 따라 영상 표시 장치에서 360도 영상에서 서브 뷰에 표시할 오브젝트를 선택할 수 있도록 하는 사용자 인터페이스의 일 예를 나타낸다.
도 14b는 도 14a에 도시된 사용자 인터페이스에서의 선택에 따라 영상 표시 장치의 동작을 설명하기 위한 참고도이다.
도 15a는 일 실시예에 따라 영상 표시 장치에서 360도 영상에서 서브 뷰에 표시할 오브젝트를 선택할 수 있도록 하는 사용자 인터페이스의 다른 예를 나타낸다.
도 15b는 도 15a에 도시된 사용자 인터페이스에서의 선택에 따라 영상 표시 장치의 동작을 설명하기 위한 참고도이다.
도 16은 일 실시예에 따라 영상 표시 장치에서 360도 영상에서 서브 뷰에 표시할 오브젝트를 선택할 수 있도록 하는 사용자 인터페이스의 또 다른 예를 나타낸다.
도 17은 일 실시예에 따라 영상 표시 장치에서 360도 영상에서 서브 뷰에 표시할 오브젝트를 선택할 수 있도록 하는 사용자 인터페이스의 또 다른 예를 나타낸다.
도 18은 일 실시예에 따라 영상 표시 장치 100의 동작의 다른 예의 흐름도이다.
도 19는 일 실시예에 따라 영상 표시 장치에서 특정한 패턴의 사용자 입력에 따라 오브젝트를 검출하거나 표시하는 과정을 나타내는 흐름도이다.
도 20은 일 예에 따라 360도 영상을 표시하는 영상 표시 장치에서 제어 장치 30의 오른쪽 방향키를 누름에 대응하는 사용자 입력을 수신한 경우의 동작을 설명하기 위한 참고도이다.
도 21은 일 실시예에 따라 영상 표시 장치 100가 특정한 패턴의 사용자 입력을 감지함에 따라 영상을 점프시켜 이동하는 동작을 설명하기 위한 참고도이다.
도 22는 일 실시예에 따라 영상 표시 장치 100가 특정한 패턴의 사용자 입력을 감지함에 따라 영상을 고속 회전시켜 이동하는 동작을 설명하기 위한 참고도이다.
도 23은 일 실시예에 따라 영상 표시 장치 100가 특정한 패턴의 사용자 입력을 감지함에 따라 서브 뷰에 표시되던 영상을 메인 뷰에 이동시켜 표시하는 동작을 설명하기 위한 참고도이다.
도 24는 일 실시예에 따라 영상 표시 장치 100의 동작의 다른 예의 흐름도이다.
본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 발명에 대해 구체적으로 설명하기로 한다.
본 발명에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 한다.
명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. 또한, 명세서에 기재된 "...부", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다.
아래에서는 첨부한 도면을 참고하여 실시예들에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
본 명세서의 실시예에서 "사용자"라는 용어는 제어 장치를 이용하여 영상 표시 장치의 기능 또는 동작을 제어하는 사람을 의미하며, 시청자, 관리자 또는 설치 기사를 포함할 수 있다.
도 1은 일 실시예에 따른 360도 영상을 표시하는 영상 표시 장치 및 제어 장치를 나타내는 도면이다.
도 1을 참조하면, 일 실시예에 따른 영상 표시 장치100는 360도 영상을 표시할 수 있다. 일 실시예에 따른 360도 영상은, 360도의 화각(angle of view)을 가지는 영상일 수 있다. 360도 영상은 정지 영상, 동영상, 또는 파노라마 영상일 수 있다. 예를 들어, 360도 영상은 적어도 하나의 카메라를 이용하여 360도 방향으로 촬영된 복수의 영상들에 기초하여, 생성된 영상일 수 있다. 이때, 촬영된 복수의 영상들은 구(sphere)에 맵핑될 수 있으며, 맵핑된 영상들의 접점들이 연결(스티칭(stiching))되어, 구(sphere) 형식의 360도 영상이 생성될 수 있다. 또한, 구(sphere) 형식의 360도 영상은, 다른 디바이스로 전송하거나 저장하기 위해 도 1에 도시된 바와 같이, 평면 형식의 360도 영상50으로 변환될 수 있다.
일 실시예에 따른 영상 표시 장치100는 평면 형식의 360도 영상50에 그래픽 처리를 하여, 평면 형식의 360도 영상50을 구 형식의 360도 영상70으로 변환할 수 있다. 영상 표시 장치100는 변환된 구 형식의 360도 영상 중 어떤 화각에 대응하는 일부 영역80을 선택하고, 선택된 영역80에 대응하는 영상을 디스플레이부에 표시할 수 있다. 이때, 영상 표시 장치100는 선택된 영역80에 대응하는 영상을 디스플레이의 해상도에 따라 스케일링하여 표시할 수 있다. 또한, 일 실시예에 따른, 영상 표시 장치100는 360도 영상 내에서 일부 영역80의 위치를 나타내는 3차원 형태의 인디케이터 20를 표시할 수 있다. 360도 영상의 화각에 대한 상세한 설명은 도 2를 참조하여 후술하기로 한다.
한편, 일 실시예에 따른 영상 표시 장치100는 TV일 수 있으나, 이는 일 실시예에 불과하며, 디스플레이를 포함하는 전자 장치로 구현될 수 있다. 예를 들어, 영상 표시 장치100는 휴대폰, 태블릿 PC, 디지털 카메라, 캠코더, 노트북 컴퓨터(laptop computer), 태블릿 PC, 데스크탑, 전자책 단말기, 디지털 방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션, MP3 플레이어, 착용형 기기(wearable device) 등과 같은 다양한 전자 장치로 구현될 수 있다. 특히, 실시예들은 TV와 같이 디스플레이가 대형인 디스플레이 장치에서 용이하게 구현될 수 있으나, 이에 한정되는 것은 아니다. 또한, 영상 표시 장치100는 고정형 또는 이동형일 수 있으며, 디지털 방송 수신이 가능한 디지털 방송 수신기일 수 있다.
영상 표시 장치100는 평면(flat) 디스플레이 장치뿐만 아니라, 곡률을 가지는 화면인 곡면(curved) 디스플레이 장치 또는 곡률을 조정 가능한 가변형(flexible) 디스플레이 장치로 구현될 수 있다. 영상 표시 장치100의 출력 해상도는 예를 들어, HD(High Definition), Full HD, Ultra HD, 또는 Ultra HD 보다 더 선명한 해상도를 포함할 수 있다.
한편, 영상 표시 장치100는 제어 장치30에 의해 제어될 수 있으며, 제어 장치30는 리모컨 또는 휴대폰과 같이 영상 표시 장치100를 제어하기 위한 다양한 형태의 장치로 구현될 수 있다.
또한, 제어 장치 30는 적외선(infrared) 또는 블루투스(bluetooth)를 포함하는 근거리 통신을 이용하여 영상 표시 장치 100를 제어할 수 있다. 제어 장치 30는 구비된 키(버튼을 포함), 터치 패드(touchpad), 사용자의 음성의 수신이 가능한 마이크(도시되지 아니함), 및 제어 장치 30의 모션 인식이 가능한 센서(도시되지 아니함) 중 적어도 하나를 이용하여 영상 표시 장치 100의 기능을 제어할 수 있다.
일 실시예에 따른 제어 장치30는 4방향 키(또는, 4방향 버튼)를 포함할 수 있다. 4방향 키는 360도 영상 내에서 디스플레이부에 표시되는 일부 영역80의 위치를 이동시키는 데 이용될 수 있다.
또한, 제어 장치30는 포인팅 장치일 수 있다. 예를 들어, 제어 장치30는 특정 키 입력을 수신하는 경우에, 포인팅 장치로 동작할 수 있다. 제어 장치30가 포인팅 장치로 동작하는 경우, 영상 표시 장치100는 제어 장치30를 상, 하, 좌, 우로 움직이거나 임의의 방향으로 기울이는 사용자 입력에 의해 제어될 수 있다. 제어 장치30의 센서를 통하여 감지된 제어 장치30의 움직임에 관한 정보는, 영상 표시 장치100로 전송될 수 있다. 영상 표시 장치100는 제어 장치30의 움직임에 관한 정보에 기초하여, 360도 영상 내에서 디스플레이부에 표시되는 일부 영역80을 이동시킬 수 있다.
또는, 제어 장치30가 터치 패드를 포함하는 경우, 터치 패드 상에서 움직이는 사용자의 손가락과 같은 피사체의 변위 값에 따라 360도 영상 내에서 디스플레이부에 표시되는 일부 영역80의 위치를 이동시킬 수 있다.
도 2는 360도 영상의 화각을 설명하기 위한 도면이다.
전술한 바와 같이, 360도 영상은 적어도 하나의 카메라를 이용하여 360도 방향으로 촬영된 복수의 영상들에 기초하여, 생성된 영상일 수 있다. 이때, 촬영된 복수의 영상들은 구(sphere)에 맵핑될 수 있으며, 맵핑된 영상들의 접점들이 연결(스티칭(stiching))되어, 구(sphere) 형식의 360도 영상이 생성될 수 있다.
그리고, 360도 영상은 360도의 화각(angle of view)을 가지는 영상을 의미할 수 있다. 360도 영상을 구 형식의 영상 200으로 표현할 때, 360도 영상의 화각은, x축 좌표와 y축 좌표로 구성될 수 있다. x축 좌표는 구의 중심을 지나는 세로 평면이 구의 표면을 따라 회전하면서 형성되는 각도를 나타낼 수 있다. y 축 좌표는 구의 중심을 지나는 가로 평면이 구의 표면을 따라 회전하면서 형성되는 각도를 나타낼 수 있다. 예를 들어 x축 좌표는 0도에서 360도 범위를 가질 수 있다. 예를 들어y축 좌표는 -90도 에서 90도 또는 0도에서 180 도의 범위를 가질 수 있다.
도 2를 참조하면, 예를 들어 영상 표시 장치 100는 360도 영상 200의 화각 (0,0)을 포함하는 영역 210의 영상을 디스플레이부의 메인 뷰에 표시할 수 있다. 또한 360도 영상 200의 메인 뷰에 표시되지 않는 다른 영역에 대한 정보를 사용자에게 더 제공하기 위해 영상 표시 장치 100는 화각 (90,0)을 포함하는 오른쪽 영역 220 및 화각 (270,0)을 포함하는 왼쪽 영역 230을 두 개의 서브 뷰에 각각 표시할 수 있다. 그러나 오브젝트에 기반함 없이 단지 화각에 기반하여 서브 뷰를 제공하는 경우 서브 뷰에는 어떠한 오브젝트도 또는 어떠한 유효한 정보나 영상이 포함되지 않을 수도 있다. 도 2에는 오브젝트 240이 영역 230의 위쪽에 포함되어 있음이 도시되어 있다. 따라서 앞서와 같은 예에서 왼쪽 영역 230, 오른쪽 영역 220를 서브 뷰를 제공할 때 오브젝트 240는 서브 뷰에 표시되지 않을 수 있다. 따라서 메인 뷰와 함께 하나 이상의 서브 뷰를 제공할 때 영상 표시 장치는 고정된 화각 기반이 아니라 오브젝트 기반으로 서브 뷰를 제공하는 것이 바람직하다.
사용자는 제어 장치 30를 이용하여 영상 표시 장치 100에 표시되는 영상을 이동시킬 수 있다. 예를 들어 제어 장치 30의 4방향 키 중 오른쪽 방향 키를 한번 누름에 의해 화각이 5도 만큼 오른쪽 방향으로 이동한 영역에 대응하는 영상을 영상 표시 장치 100에 표시할 수 있다. 한편, 특정한 패턴의 사용자 입력을 이용하여 360도 영상에 포함된 하나 이상의 오브젝트를 신속하게 검색하거나 재생하는 방안이 요구될 수 있다. 예를 들어 도 2를 참조하면 오브젝트 240는 대략 x 축 방향으로 300도 근처에 있다. 영역 210에 대응하는 영상이 영상 표시 장치 100에 표시되고 있는 상태에서 사용자가 제어 장치 30의 오른쪽 방향 키를 특정하게 누르는 패턴에 의해 영상 표시 장치 100는 오른쪽 방향에 있는 영역에 포함된 오브젝트를 검출하고 검출된 오브젝트를 포함하는 영역으로 빠르게 이동하거나 또는 바로 점프하는 것이 바람직할 수 있다. 즉, 기존에는 정해진 방향으로 일정한 회전 속도에 따른 회전 방법을 제공하였지만, 본 명세서에 개시된 실시예들에 따르면 사용자는 더 빠르게 영상을 회전시키거나 특정 위치로 건너 뛰게 할 수 있다.
도 3은 개시된 일 실시예에 따른 360도 영상을 표시하는 방법을 나타내는 도면이다.
사용자는 360도 영상 중 원하는 각도에 대응하는 영상을 보기 위하여 360도 영상을 네비게이션 할 수 있다. 도 3를 참조하면, 예를 들어 사용자가 화각이 0도에 대응하는 영역 311에 대응하는 영상320을 보다가 좀 더 오른쪽 방향에 있는 영역의 영상을 보고 싶을 때 사용자는 제어 장치 30를 이용하여 화각을 조정하는 사용자 입력을 선택할 수 있다. 예를 들어 사용자가 화각을 60도로 변경하는 사용자 입력을 선택할 때 영상 표시 장치 100는 화각이 60도에 대응하는 영역의 영상을 표시할 수 있다.
영상 표시 장치 100는 360도 영상을 표시하기 위해 메인 뷰와 하나 이상의 서브 뷰를 이용할 수 있다. 도 3을 참조하면, 영상 표시 장치 100는 디스플레이부 전체에 표시되는 메인 뷰 320와, 디스플레이부의 일부에 더 작은 영역을 차지하는 하나 이상의 서브 뷰 310, 330, 340를 제공할 수 있다. 영상 표시 장치 100가 오브젝트 중심이 아닌 화각 기반으로 하나 이상의 서브 뷰에 표시되는 영역을 결정할 때 영상 표시 장치100는 제1서브 뷰 310에는 왼쪽 영역에 대응하는 영상을 표시하고 제2서브 뷰 340에는 뒤쪽 영역에 대응하는 영상을 표시하고, 제3서브 뷰 330에는 오른쪽 영역에 대응하는 영상을 표시할 수 있다. 그런데, 오브젝트가 어디에 위치하는 가에 상관없이 정해진 화각 즉 정해진 방향에 대응하는 영역의 영상을 서브 뷰에 표시하고 있기 때문에 도 3에 도시된 바와 같이 제1 서브 뷰 310과 제 3서브 뷰 330에는 오브젝트가 잘려지거나 오브젝트가 없는 영상이 표시될 수 있다. 이와 같은 무의미한 영상을 표시하는 서브 뷰를 피하기 위해서 화각 기반이 아니라 오브젝트 기반으로 서브 뷰를 제공하는 것이 유리하다.
일 실시예에 따라 사용자는 제어 장치 30의 4방향 키를 이용하여 360도 영상의 화각을 이동시킬 수 있다. 예를 들어 4방향 키의 좌 우 방향키를 이용하여 360도 영상을 좌우 방향으로 이동시킬 수 있다. 예를 들어 4 방향 키의 상 하 방향키를 이용하여 360도 영상을 상하 방향으로 이동시킬 수 있다.
일 실시예에 따라 사용자는 가속도 센서나 자이로스코프를 포함하는 제어 장치 30를 상하좌우 또는 임의의 방향으로 움직임으로써 360도 영상의 화각을 조정할 수 있다.
일 실시예에 따라 사용자는 제어 장치 30에 마련된 터치패드에 사용자의 손가락을 터치하면서 움직이는 방향에 따라 360도 영상의 화각을 조정할 수 있다.
일 실시예에 따라 영상 표시 장치 100가 터치 센서티브 스크린으로 구성된 경우, 사용자는 영상 표시 장치 100의 터치 센서티브 스크린 상에서의 사용자의 손가락의 터치 움직임을 이용하여 360도 영상의 화각을 조정할 수 있다.
일 실시예에 따라 사용자는 제어 장치 30의 특정한 키나 버튼 또는 제어 장치 30을 이용한 제스쳐를 통하여 360도 영상을 줌인 하거나 줌 아웃 할 수 있다. 줌 인 입력에 응답해서 영상 표시 장치 100는 현재 표시되는 영역을 확대하여 표시할 수 있다. 줌 아웃 입력에 응답해서 영상 표시 장치 100는 현재 표시되는 영역을 축소하여 표시할 수 있다. 일 예에 따라 줌 아웃 정도가 미리 정한 임계치를 넘어가면 영상 표시 장치 100는 영상을 구 형상으로 표시할 수 있다. 일 예로 줌은 -4 배에서 4 배까지의 범위를 가질 수 있다.
일 실시예에 따라 영상 표시 장치 100는 특정한 패턴의 사용자 입력을 이용하여 360도 영상에 포함된 오브젝트로의 점프 또는 고속 회전을 제어할 수 있다. 예를 들어 제어 장치 30의 오른쪽 방향키를 한번 클릭하는 것에 의해서 영상 표시 장치 100는 360도 영상의 화각을 일정 각도 오른쪽 으로 이동시킨 영역의 영상을 표시할 수 있지만, 제어 장치 30의 오른쪽 방향키를 길게 누르는 것에 의해 영상 표시 장치 100는 360도 영상의 오른쪽 방향에 있는 영역에서 다음 오브젝트를 검출하고 검출된 오브젝트를 포함하는 영역으로 바로 점프하여 표시하거나 또는 검출된 오브젝트를 포함하는 영역에 이르기까지 빠른 속도로 회전하도록 제어할 수 있다.
도 4 는 일 실시예에 따른 360도 영상을 표시하는 영상 표시 장치의 구성을 나타내는 블록도이다. 도 4의 영상 표시 장치 100a는 도 1의 영상 표시 장치100의 일 실시예일 수 있다.
도 4를 참조하면, 일 실시예에 따른 영상표시장치100a는 감지부160, 제어부130, 메모리 120 및 디스플레이부110를 포함할 수 있다.
디스플레이부110는, 제어부130에서 처리된 영상 신호, 데이터 신호, OSD 신호, 제어 신호 등을 변환하여 구동 신호를 생성한다. 디스플레이부110는 PDP, LCD, OLED, 플렉시블 디스플레이(flexible display)등으로 구현될 수 있으며, 또한, 3차원 디스플레이(3D display)로 구현될 수 있다. 또한, 디스플레이부110는, 터치 스크린으로 구성되어 출력 장치 이외에 입력 장치로 사용되는 것도 가능하다.
일 실시예에 따른, 디스플레이부110는 360도 영상 중 소정 화각에 대응하는 일부 영역에 대응하는 영상을 표시할 수 있다. 또한, 화각을 조정하는 사용자 입력에 응답하여 조정된 화각에 대응하는 영상을 표시할 수 있다.
감지부160는, 사용자 입력을 감지하여, 감지된 신호를 제어부130로 전달할 수 있다. 또한, 감지부160는 제어 장치30로부터 전원 온/오프, 채널 선택, 채널-업/다운, 화면 설정 등의 사용자 입력을 감지할 수 있다. 또한, 일 실시예에 따른 감지부160는 360도 영상 중 디스플레이부110에 표시되는 일부 영역의 위치를 이동시키기 위한 입력, 디스플레이부에 표시되는 영상을 줌 인 시키거나 줌 아웃시키기 위한 입력, 360도 영상 중 특정 위치의 영역에 대응하는 영상을 표시시키기 위한 입력 등을 감지할 수 있다. 또한, 일 실시예에 따른 감지부 160는 제어 장치 30를 이용한, 특정한 패턴의 사용자 입력을 감지할 수 있다. 예를 들어 특정한 패턴의 사용자 입력은 길게 누르기(롱 프레스), 또는 더블 클릭 등을 포함할 수 있다. 그러나 특정한 패턴의 사용자 입력은 이에 한정되는 것은 아니며, 특정한 패턴의 제스쳐나, 특정한 패턴의 음성이나 어떠한 입력 패턴이더라도 영상 표시 장치가 특정한 패턴으로 정의하고 있으면 충분하다.
제어부130는 영상 신호를 처리하여 디스플레이부110로 입력할 수 있다. 이에 따라, 해당 영상 신호에 대응하는 영상이 디스플레이부110에 표시될 수 있다. 또한, 제어부130는 감지부160를 통하여 감지된 사용자 명령 또는 내부 프로그램에 의하여 디스플레이부 110를 제어할 수 있다.
예를 들어, 일 실시예에 따르면, 제어부130는 감지된 사용자 입력에 대응하여, 360도 영상 중 디스플레이부에 표시되는 일부 영역의 위치를 이동시키고, 이동된 영역에 대응하는 영상을 표시하도록 디스플레이부를 제어할 수 있다.
일 실시예에 따라 제어부 130는 감지된 특정한 패턴의 사용자 입력에 대응하여, 360도 영상에 포함된 하나 이상의 오브젝트를 검출하고 검출된 오브젝트를 포함하는 영역으로 바로 점프하거나, 해당 검출된 오브젝트를 포함하는 영역으로 도달하기 까지 회전속도를 증가시키고 상기 영역을 디스플레이가 표시하도록 제어할 수 있다.
일 실시예에 따라 제어부 130는 360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 제공하는 메인 뷰를 표시하도록 상기 디스플레이를 제어하고, 상기 360도 영상 중 상기 메인 뷰에 표시되지 않는 다른 영역에서 하나 이상의 오브젝트를 검출하고, 상기 검출된 하나 이상의 오브젝트에 대응하는 하나 이상의 서브 뷰를 표시하도록 상기 디스플레이를 제어할 수 있다.
그래픽 프로세서 181는 도 1에서 설명한 바와 같이 평면 형식의 360도 영상을 구(sphere)에 맵핑하여, 구 형식의 360도 영상을 생성할 수 있다.
일 실시예에 따라 그래픽 프로세서 181은 360도 영상에서 하나 이상의 오브젝트를 검출하고, 하나 이상의 오브젝트를 포함하는 영역을 결정할 수 있다.
도 5는 일 실시예에 따라 360도 영상을 재생하는 영상 표시 장치의 구성을 나타내는 블록도이다. 도 5의 영상 표시 장치100b는 도 1의 영상 표시 장치100의 일 실시예일 수 있다.
도 5를 참조하면, 일 실시예에 따른 영상 표시 장치100b는 제어부130, 디스플레이부120 및 감지부130 이외에 비디오 처리부180, 오디오 처리부115, 오디오 출력부125, 전원부160, 튜너부140, 통신부150, 입/출력부170, 저장부190를 더 포함할 수도 있다.
제어부110, 디스플레이부120 및 감지부130에 대하여, 도 2에서 설명한 내용과 동일한 내용은 도 3에서 생략하기로 한다.
비디오 처리부180는, 영상 표시 장치100b가 수신한 비디오 데이터에 대한 처리를 수행한다. 비디오 처리부180에서는 비디오 데이터에 대한 디코딩, 스케일링, 노이즈 필터링, 프레임 레이트 변환, 해상도 변환 등과 같은 다양한 이미지 처리를 수행할 수 있다.
그래픽 처리부181는 연산부(미도시) 및 렌더링부(미도시)를 이용하여 아이콘, 이미지, 텍스트 등과 같은 다양한 객체를 포함하는 화면을 생성한다. 연산부는 감지부160를 통해 감지된 사용자 입력을 이용하여 화면의 레이아웃에 따라 각 객체들이 표시될 좌표값, 형태, 크기, 컬러 등과 같은 속성값을 연산한다. 렌더링부는 연산부에서 연산한 속성값에 기초하여 객체를 포함하는 다양한 레이아웃의 화면을 생성한다. 렌더링부에서 생성된 화면은 디스플레이부110의 디스플레이 영역 내에 표시된다. 일 실시예에 따른 그래픽 처리부181는 도 1에서 설명한 바와 같이, 평면 형식의 360도 영상을 구(sphere)에 맵핑하여, 구 형식의 360도 영상을 생성할 수 있다. 또한 일실시예에 따라 그래픽 처리부 181은 360도 영상에서 얼굴 검출, 오브젝트 검출, 움직임 검출 중 하나 이상을 수행할 수 있다.
디스플레이부120는 제어부130의 제어에 의해 튜너부140를 통해 수신된 방송 신호에 포함된 비디오를 화면에 표시한다. 또한, 디스플레이부110는 통신부150 또는 입/출력부170를 통해 입력되는 컨텐츠(예를 들어, 동영상)를 표시할 수 있다. 디스플레이부110는 제어부130의 제어에 의해 메모리 120에 저장된 영상을 출력할 수 있다. 또한, 디스플레이부110는 음성 인식에 대응되는 음성 인식 태스크를 수행하기 위한 음성 UI(User Interface: 예를 들어, 음성 명령어 가이드를 포함하는) 또는 모션 인식에 대응되는 모션 인식 태스크를 수행하기 위한 모션 UI(예를 들어, 모션 인식을 위한 사용자 모션 가이드를 포함)를 표시할 수 있다.
오디오 처리부115는 오디오 데이터에 대한 처리를 수행한다. 오디오 처리부115에서는 오디오 데이터에 대한 디코딩이나 증폭, 노이즈 필터링 등과 같은 다양한 처리가 수행될 수 있다. 한편, 오디오 처리부115는 복수의 컨텐츠에 대응되는 오디오를 처리하기 위해 복수의 오디오 처리 모듈을 구비할 수 있다.
오디오 출력부125는 제어부130의 제어에 의해 튜너부140를 통해 수신된 방송 신호에 포함된 오디오를 출력한다. 오디오 출력부125는 통신부150 또는 입/출력부170를 통해 입력되는 오디오(예를 들어, 음성, 사운드)를 출력할 수 있다. 또한, 오디오 출력부125는 제어부110의 제어에 의해 저장부190에 저장된 오디오를 출력할 수 있다. 오디오 출력부125는 스피커126, 헤드폰 출력 단자127 또는 S/PDIF(Sony/Philips Digital Interface: 출력 단자128 중 적어도 하나를 포함할 수 있다. 오디오 출력부125는 스피커126, 헤드폰 출력 단자127 및 S/PDIF 출력 단자128의 조합을 포함할 수 있다.
튜너부140는 유선 또는 무선으로 수신되는 방송 신호를 증폭(amplification), 혼합(mixing), 공진(resonance)등을 통하여 많은 전파 성분 중에서 영상 표시 장치 100b에서 수신하고자 하는 채널의 주파수만을 튜닝(tuning)시켜 선택할 수 있다. 방송 신호는 오디오(audio), 비디오(video) 및 부가 정보(예를 들어, EPG(Electronic Program Guide))를 포함한다.
튜너부140는 사용자 입력(예를 들어, 제어 장치200로부터 수신되는 제어 신호, 예컨대, 채널 번호 입력, 채널의 업다운(up-down) 입력 및 EPG 화면에서 채널 입력)에 따라 채널 번호(예를 들어, 케이블 방송 506번)에 대응되는 주파수 대역에서 방송 신호를 수신할 수 있다.
영상 표시 장치100b의 튜너부140는 하나이거나 복수일 수 있다. 튜너부140는 영상 표시 장치100b와 일체형(all-in-one)으로 구현되거나 또는 영상 표시 장치100b와 전기적으로 연결되는 튜너부를 가지는 별개의 장치(예를 들어, 셋탑박스(set-top box, 도시되지 아니함), 입/출력부170에 연결되는 튜너부(도시되지 아니함))로 구현될 수 있다.
통신부150는 제어부130의 제어에 의해 영상 표시 장치100b를 외부 장치(예를 들어, 오디오 장치 등)와 연결할 수 있다. 제어부130는 통신부150를 통해 연결된 외부 장치로 컨텐츠를 송/수신, 외부 장치에서부터 어플리케이션(application)을 다운로드 하거나 또는 웹 브라우징을 할 수 있다. 통신부150은 디스플레이 장치100의 성능 및 구조에 대응하여 무선 랜151, 블루투스152, 및 유선 이더넷(Ethernet, 153) 중 하나를 포함할 수 있다. 또한, 통신부150은 무선랜151, 블루투스152, 및 유선 이더넷(Ethernet, 153)의 조합을 포함할 수 있다. 통신부150는 제어부110의 제어에 의해 제어 장치200의 제어 신호를 수신할 수 있다. 제어 신호는 블루투스 타입, RF 신호 타입 또는 와이파이 타입으로 구현될 수 있다.
통신부150는 블루투스 외에 다른 근거리 통신(예를 들어, NFC(near field communication, 도시되지 아니함), BLE(bluetooth low energy, 도시되지 아니함)를 더 포함할 수 있다.
감지부160는 사용자의 음성, 사용자의 영상 또는 사용자의 인터랙션을 감지하며, 마이크161, 카메라부162 및 광 수신부163를 포함할 수 있다.
마이크161는 사용자의 발화(utterance)된 음성을 수신한다. 마이크161는 수신된 음성을 전기 신호로 변환하여 제어부130로 출력할 수 있다. 사용자 음성은 예를 들어, 영상 표시 장치100b의 메뉴 또는 기능에 대응되는 음성을 포함할 수 있다. 일 예에 따라 다음 오브젝트를 검색하라는 명령 또는 다음 오브젝트로 점프하라는 명령에 대응하는 사용자 입력을 마이크 161을 통해서 수신할 수 있다.
카메라부162는 카메라 인식 범위에서 제스처를 포함하는 사용자의 모션에 대응되는 영상(예를 들어, 연속되는 프레임)을 수신할 수 있다. 제어부130는 수신된 모션의 인식 결과를 이용하여 영상 표시 장치100b에 표시되는 메뉴를 선택하거나 모션 인식 결과에 대응되는 제어를 할 수 있다. 일 예에 따라 다음 오브젝트를 검색하라는 명령 또는 다음 오브젝트로 점프하라는 명령에 대응하는 사용자 제스쳐 입력을 카메라 162을 통해서 수신할 수 있다.
광 수신부163는 외부의 제어 장치200에서부터 수신되는 광 신호(제어 신호를 포함)를 디스플레이부 110의 베젤의 광창(도시되지 아니함) 등을 통해 수신한다. 광 수신부163는 제어 장치 30로부터 사용자 입력(예를 들어, 터치, 눌림, 터치 제스처, 음성, 또는 모션)에 대응되는 광 신호를 수신할 수 있다. 수신된 광 신호로부터 제어부130의 제어에 의해 제어 신호가 추출될 수 있다. 예를 들어, 다음 오브젝트를 검색하라는 명령 또는 다음 오브젝트로 점프하라는 명령에 대응하는 사용자 입력을 광 수신부 163을 통해서 수신할 수 있다.
입/출력부 170는 제어부130의 제어에 의해 영상 표시 장치100b의 외부에서부터 비디오(예를 들어, 동영상 등), 오디오(예를 들어, 음성, 음악 등) 및 부가 정보(예를 들어, EPG 등) 등을 수신한다. 입/출력부170는 HDMI 포트 (High-Definition Multimedia Interface port) 171, 컴포넌트 잭component jack, 172, PC 포트173, 및 USB 포트174 중 하나를 포함할 수 있다. 입/출력부170는 HDMI 포트(171), 컴포넌트 잭172, PC 포트173, 및 USB 포트174의 조합을 포함할 수 있다.
제어부130는 영상 표시 장치100b의 전반적인 동작 및 영상 표시 장치100b의 내부 구성 요소들 사이의 신호 흐름을 제어하고, 데이터를 처리하는 기능을 수행한다. 제어부130는 사용자의 입력이 있거나 기 설정되어 저장된 조건을 만족하는 경우, 메모리 120에 저장된 OS(Operation System) 및 다양한 애플리케이션을 실행할 수 있다.
제어부 130는 영상 표시 장치100b의 외부에서부터 입력되는 신호 또는 데이터를 저장하거나, 영상 표시 장치100b에서 수행되는 다양한 작업에 대응되는 저장 영역으로 사용되는 램, 영상 표시 장치100b의 제어를 위한 제어 프로그램이 저장된 롬 및 프로세서를 포함할 수 있다.
일 실시예에 따른 제어부 130은 메모리에 저장된 하나 이상의 인스트럭션을 실행함으로써, 360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 제공하는 메인 뷰를 표시하도록 상기 디스플레이를 제어하고, 상기 360도 영상 중 상기 메인 뷰에 표시되지 않는 다른 영역에서 하나 이상의 오브젝트를 검출하고, 상기 검출된 하나 이상의 오브젝트에 대응하는 하나 이상의 서브 뷰를 표시하도록 상기 디스플레이를 제어할 수 있다.
일 실시예에 따른 제어부 130은 메모리에 저장된 하나 이상의 인스트럭션을 실행함으로써, 상기 검출된 하나 이상의 오브젝트의 각 오브젝트를 포함하는 각 화각의 영역을 결정하고, 상기 각 결정된 영역에 대응하는 영상을 제공하는 상기 각 서브 뷰를 결정할 수 있다.
일 실시예에 따른 제어부 130은 메모리에 저장된 하나 이상의 인스트럭션을 실행함으로써, 상기 오브젝트 검출을 위해 얼굴 검출, 움직임 검출 중 적어도 하나를 이용할 수 있다.
일 실시예에 따른 제어부 130은 메모리에 저장된 하나 이상의 인스트럭션을 실행함으로써, 검출할 상기 오브젝트에 대한 정보를 사용자 인터페이스를 통해 수신하고, 상기 사용자 인터페이스를 통해 수신된 상기 오브젝트에 대한 정보를 기초로 상기 오브젝트를 검출할 수 있다.
일 실시예에 따른 제어부 130은 메모리에 저장된 하나 이상의 인스트럭션을 실행함으로써,상기 검출할 오브젝트에 대한 정보를 상기 360도 영상에 대응하는 메타데이터로부터 획득하고, 상기 획득된 상기 오브젝트에 대한 정보를 기초로 상기 오브젝트를 검출할 수 있다.
일 실시예에 따른 제어부 130은 메모리에 저장된 하나 이상의 인스트럭션을 실행함으로써, 사용자 요청에 따라 또는 자동으로 상기 오브젝트를 검출할 수 있다.
일 실시예에 따른 제어부 130은 메모리에 저장된 하나 이상의 인스트럭션을 실행함으로써, 360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 표시하도록 상기 디스플레이를 제어하고, 방향성을 가지는, 미리 정한 패턴의 사용자 입력을 나타내는 이벤트의 검출에 응답해서, 상기 방향으로 화각을 이동시킬 때 출현하는 적어도 하나의 오브젝트를 검출하고, 상기 적어도 하나의 오브젝트가 포함된 영역으로 점프하거나, 또는 상기 적어도 하나의 오브젝트가 포함된 영역에 도달할 때까지 회전 속도를 증가시키거나, 또는, 서브 뷰에서 검출되는 상기 적어도 하나의 오브젝트를 메인 뷰에서 표시하기 위해 상기 메인 뷰로 이동시키고, 상기 검출된 적어도 하나의 오브젝트를 포함하는 영역에 대응하는 영상을 표시하도록 상기 디스플레이를 제어할 수 있다.
일 실시예에 따라 제어부 130은 메모리에 저장된 하나 이상의 인스트럭션을 실행함으로써, 이벤트의 해제에 응답해서, 상기 점프 또는 회전 속도 제어를 정지시킬 수 있다.
프로세서는 비디오에 대응되는 그래픽 처리를 위한 그래픽 프로세서(Graphic Processing Unit, 도시되지 아니함)를 포함할 수 있다. 프로세서는 코어(core, 도시되지 아니함)와 GPU(도시되지 아니함)를 통합한 SoC(System On Chip)로 구현될 수 있다. 프로세서는 싱글 코어, 듀얼 코어, 트리플 코어, 쿼드 코어 및 그 배수의 코어를 포함할 수 있다.
또한, 프로세서는 복수의 프로세서를 포함할 수 있다. 예를 들어, 프로세서는 메인 프로세서(main processor, 도시되지 아니함) 및 슬립 모드(sleep mode)에서 동작하는 서브 프로세서(sub processor, 도시되지 아니함)로 구현될 수 있다.
저장부 190는 제어부130의 제어에 의해 영상 표시 장치100b를 구동하고 제어하기 위한 다양한 데이터, 프로그램 또는 어플리케이션을 저장할 수 있다. 저장부190는 비디오 처리부180, 디스플레이부120, 오디오 처리부115, 오디오 출력부125, 전원부130, 튜너부140, 통신부150, 감지부130, 입/출력부170의 구동에 대응되는 입력/출력되는 신호 또는 데이터를 저장할 수 있다. 저장부190는 영상 표시 장치100b 및 제어부의 제어를 위한 제어 프로그램, 제조사에서 최초 제공되거나 외부에서부터 다운로드 받은 어플리케이션, 어플리케이션과 관련된 GUI(graphical user interface), GUI를 제공하기 위한 오브젝트(예를 들어, 이미지 텍스트, 아이콘, 버튼 등), 사용자 정보, 문서, 데이터베이스들 또는 관련 데이터들을 저장할 수 있다.
일 실시예에 따라 저장부 190은, 360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 제공하는 메인 뷰를 표시하는 하나 이상의 인스트럭션, 360도 영상 중 상기 메인 뷰에 표시되지 않는 다른 영역에서 하나 이상의 오브젝트를 검출하는 하나 이상의 인스트럭션, 상기 검출된 하나 이상의 오브젝트에 대응하는 하나 이상의 서브 뷰를 표시하는 하나 이상의 인스트럭션, 방향성을 가지는, 미리 정한 패턴의 사용자 입력을 나타내는 이벤트의 검출에 응답해서, 상기 방향으로 화각을 이동시킬 때 출현하는 적어도 하나의 오브젝트를 검출하는 하나 이상의 인스트럭션, 상기 적어도 하나의 오브젝트가 포함된 영역으로 점프하거나, 또는 상기 적어도 하나의 오브젝트가 포함된 영역에 도달할 때까지 회전 속도를 증가시키거나, 또는, 서브 뷰에서 검출되는 상기 적어도 하나의 오브젝트를 메인 뷰에서 표시하기 위해 상기 메인 뷰로 이동시키고, 상기 검출된 적어도 하나의 오브젝트를 포함하는 영역에 대응하는 영상을 표시하는 하나 이상의 인스트럭션을 포함하는, 하나 이상의 어플리케이션을 포함할 수 있다.
일 실시예에서 "저장부"라는 용어는 저장부190, 제어부의 롬, 램또는 영상 표시 장치100b에 장착되는 메모리 카드(예를 들어, micro SD 카드, USB 메모리, 도시되지 아니함)를 포함한다. 또한, 저장부190는 비휘발성 메모리, 휘발성 메모리, 하드 디스크 드라이브(HDD) 또는 솔리드 스테이트 드라이브(SSD)를 포함할 수 있다.
또한, 디스플레이부120를 가지는 영상 표시 장치100b는 튜너부를 가지는 별도의 외부 장치(예를 들어, 셋탑 박스, 도시되지 아니함)와 전기적으로 연결될 수 있다. 예를 들어, 영상 표시 장치100b는 아날로그 TV, 디지털 TV, 3D-TV, 스마트 TV, LED TV, OLED TV, 플라즈마 TV, 모니터 등으로 구현될 수 있으나, 이에 한정되지 않는다는 것은 당해 기술 분야의 통상의 지식을 가진 자에게 용이하게 이해될 것이다.
한편, 도 4 및 5에 도시된 영상표시장치100a, 100b의 블록도는 일 실시예를 위한 블록도이다. 블록도의 각 구성요소는 실제 구현되는 영상표시장치100의 사양에 따라 통합, 추가, 또는 생략될 수 있다. 즉, 필요에 따라 2 이상의 구성요소가 하나의 구성요소로 합쳐지거나, 혹은 하나의 구성요소가 2 이상의 구성요소로 세분되어 구성될 수 있다. 또한, 각 블록에서 수행하는 기능은 실시예들을 설명하기 위한 것이며, 그 구체적인 동작이나 장치는 본 발명의 권리범위를 제한하지 아니한다.
실시예들에 따라 도 6 내지 도 18을 참조하여, 오브젝트 기반으로 서브 뷰를 표시하는 방법을 설명한다.
도 6은 일 실시예에 따라 영상 표시 장치에서 오브젝트 기반으로 서브 뷰를 표시하는 과정을 나타내는 흐름도이다.
도 6을 참조하면, S610에서, 영상 표시 장치 100는 360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 제공하는 메인 뷰를 표시할 수 있다.
일 예에 따라 영상 표시 장치는 디스플레이부에 메인 뷰만을 표시할 수도 있고, 메인 뷰와 함께 하나 이상의 서브 뷰도 표시할 수 있다.
일 실시예에 따라 영상 표시 장치는 지정된 화각에 따른 영역을 다양하게 결정할 수 있다. 예를 들어 영상 표시 장치는 360도 영상중 전면의 영상 즉 화각 0도를 지정된 화각으로 결정할 수 있다. 예를 들어 영상 표시 장치는 360도 영상중 메인 뷰에 표시할 화각을 사용자로부터 입력받을 수 있다.
S620에서, 영상 표시 장치는 360도 영상 중 메인 뷰에 표시되지 않는 다른 영역에서 하나 이상의 오브젝트를 검출할 수 있다. 360도 영상중 메인 뷰에 표시되지 않는 다른 영역은, 360도 영상중 메인 뷰를 제외한 모든 영역 또는 메인 뷰를 제외한 일부 영역이 될 수 있다.
예를 들어 영상 표시 장치 100의 그래픽 처리부 181은 360도 영상을 구 형식의 영상으로 변환하고 변환된 구 형식의 영상에서 메인 뷰 영역을 제외한 영역에서 하나 이상의 오브젝트를 검출할 수 있다.
일 실시예에 따라 영상 표시 장치 100에서 메인 뷰에 표시되지 않는 다른 영역에서 하나 이상의 오브젝트를 검출할지 여부는 360도 영상의 재생 시작 전에 사용자 입력에 따라 미리 영상 표시 장치 100에 설정되어 있을 수 있다.
일 실시예에 따라 영상 표시 장치 100에서 메인 뷰에 표시되지 않는 다른 영역에서 하나 이상의 오브젝트의 검출은 360도 영상의 재생 중에 사용자 요청에 따라 수행될 수 있다. 예를 들어, 영상 표시 장치 100가 360도 영상의 재생을 시작하고 나서, 디스플레이에 특정한 아이콘을 표시하고 사용자로부터 특정한 아이콘을 선택하는 입력을 수신한 경우 영상 표시 장치 100는 메인 뷰에 표시되지 않는 다른 영역에서 하나 이상의 오브젝트를 검출을 수행할 수 있다. 또는 영상 표시 장치 100가 360도 영상의 재생을 시작하고 나서, 제어 장치 30로부터 <서브뷰 표시>에 대응하도록 정의된 특정한 버튼 선택을 감지함으로써 영상 표시 장치 100는 메인 뷰에 표시되지 않는 다른 영역에서 하나 이상의 오브젝트의 검출을 수행할 수 있다.
일 실시예에 따라 영상 표시 장치 100는 특정한 사용자 입력 이나 설정 없이 디폴트로, 오브젝트에 기반한 서브 뷰를 표시하도록 동작할 수 있다.
도 7은 오브젝트 검출이 수행되는 360도 영상의 영역을 설명하기 위한 참고도이다.
도 7의 700a을 참조하면, 일 실시예에 따라 영상 처리 장치 100의 그래픽 처리부 181는 구 형식의 360도 영상 700에서 메인 뷰에 표시되는 영역 710을 제외한 나머지 영역 705 전체를 대상으로 오브젝트 검출을 수행할 수 있다.
도 7의 700b를 참조하면, 일 실시예에 따라 영상 처리 장치 100의 그래픽 처리부 181는 구 형식의 360도 영상 700에서 메인 뷰에 표시되는 영역 710을 제외한 나머지 영역을 화각에 따라 소정 개수의 소 영역 720 내지 790으로 분할하고, 이 분할된 소 영역들중 하나 이상의 소 영역에서 오브젝트 검출을 수행할 수 있다.
일 실시예에 따라 영상 표시 장치 100는 재생할 360도 영상에 대한 사전 정보 또는 히스토리 정보를 가지고 있을 수 있다. 예를 들어 영상 표시 장치 100는 이러한 사전 정보 또는 히스토리 정보로부터 이 360도 영상에서 오브젝트가 출현할 가능성이 높은 영역을 예측할 수 있다. 또한 영상 표시 장치 100는 360도 영상 파일의 일부를 미리 재생해봄으로써 오브젝트가 나올 수 있는 영역을 예측할 수도 있다. 따라서 영상 표시 장치 100는 360도 영상에서 메인 뷰 영역을 제외한 나머지 영역 모두에 대해서 오브젝트 검출을 수행할 필요없이 오브젝트가 출현할 것으로 예측된 영역에 대해서만 오브젝트 검출을 수행함으로써 그래픽 프로세서의 자원을 절약할 수 있다.
실시예들에 따라 영상 표시 장치 100는 오브젝트를 다양하게 결정할 수 있다. 오브젝트는 360도 영상에서 검출할 그래픽 처리부 181가 검출할 수 있는 어떠한 형태의 대상이라도 될 수 있다. 오브젝트는, 사람, 동물, 물건, 자연 등과 같은 범주가 될 수도 있고 또는 얼굴, 그중에서도 특정한 얼굴, 특정한 모양, 움직임이 될 수도 있다. 영상 표시 장치 100는 내부적으로 검출할 오브젝트에 대한 정보가 설정되어 있을 수도 있고 또는 영상 표시 장치 100는 사용자 입력으로부터 검출할 오브젝트를 결정할 수도 있다. 오브젝트 결정에 대해서는 도 10 내지 도 17을 참조하여 구체적으로 설명하기로 한다.
실시예들에 따라 영상 표시 장치 100는 오브젝트 검출을 위해 다양한 기술 즉, 오브젝트 검출 기법 또는 얼굴 검출 기법 등 중 적어도 하나를 이용할 수 있다.
일 실시예에 따라 사용자는 메인 뷰에서 제공하는 영상의 화각을 조정할 수 있다. 따라서 메인 뷰에 대응되는 화각의 영역이 계속하여 변경될 수 있다. 이러한 경우에 영상 표시 장치 100는 그에 대응하여, 메인 뷰에 표시되는 영역의 바깥 영역을 메인 뷰의 화각 영역의 변경에 따라 지속적으로 변경하고 변경된 영역에서 오브젝트를 검출할 수 있다.
S630에서, 영상 표시 장치 100는 검출된 하나 이상의 오브젝트 대응하는 하나 이상의 서브 뷰를 표시할 수 있다.
영상 표시 장치 100가 360도 영상중 메인 뷰에 표시된 영역 바깥의 영역에서 복수개의 오브젝트를 검출한 경우 영상 표시 장치 100는 복수개의 오브젝트 각각에 대응하는 복수개의 서브 뷰를 표시할 수 있다.
이와 같이 도 6에 도시된 영상 표시 장치 100의 동작에 따르면, 360도 영상의 특성을 분석하여 움직임이 포착되는 방향 또는 정해진 오브젝트가 검출되는 방향에 따라서 서브 뷰를 제공할 수 있게 된다. 또한 영상 표시 장치 100는 각 재생 시점마다 검출되는 오브젝트의 개수에 따라서 자동으로 서브 뷰의 개수 조절이 가능하다. 예를 들어 어느 일정 시점에는 3개의 오브젝트가 검출되어 3개의 서브뷰를 표시하였지만 다음 시점에 2개의 오브젝트 만이 검출되어 서브 뷰는 2개로 감소될 수 있고, 또 다른 시점에 4개의 오브젝트가 검출되어 서브 뷰는 4개로 증가될 수 있다.
도 8은 일 실시예에 따라 오브젝트 검출에 따라 메인 뷰 외에 서브 뷰를 더 표시하는 영상 표시 장치를 설명하기 위한 참고도이다.
도 8을 참조하면, 어느 시점에서 영상 표시 장치는 360도 영상 800의 일부 영역 810에 대응하는 메인 뷰를 디스플레이부에 표시하고 있다. 영상 표시 장치 100는 360도 영상에서 메인 뷰에 대응하는 영역 810이 아닌 다른 영역에서 오브젝트 A, B, C를 검출할 수 있다.
오브젝트 A, B, C 가 검출되면 영상 표시 장치 100는 검출된 오브젝트 A를 포함하는 영역에 대응하는 서브 뷰 820, 오브젝트 B를 포함하는 영역에 대응하는 서브 뷰 830, 오브젝트 C를 포함하는 영역에 대응하는 서브 뷰 840을, 메인 뷰와 함께 디스플레이부에 표시할 수 있다.
도 9는 일 실시예에 따라 오브젝트가 검출되는 영역의 이동에 따라 서브 뷰에서 표시되는 영역을 변경하는 영상 표시 장치를 설명하기 위한 참고도이다.
도 9를 참조하면, 영상 표시 장치 100는 오브젝트 A를 포함하는 영역에 대응하는 서브 뷰 820, 오브젝트 B를 포함하는 영역에 대응하는 서브 뷰 830, 오브젝트 C를 포함하는 영역에 대응하는 서브 뷰 840을, 메인 뷰와 함께 디스플레이부에 표시하고 있다. 일정 시점에서 영상 표시 장치 100가 메인 뷰에 대응되는 영역 810을 제외한 영역에서 오브젝트 D, E를 새로 검출하고 오브젝트 B의 위치가 변경된 경우에, 영상 표시 장치 100는 오브젝트 D를 포함하는 영역에 대응하는 서브 뷰 850, 변경된 위치에서 검출된 오브젝트 B를 포함하는 영역에 대응하는 서브 뷰 860, 오브젝트 E를 포함하는 영역에 대응하는 서브 뷰 870을, 메인 뷰와 함께 표시할 수 있다.
360도 영상 파일은 360도 영상 파일과 별도로 또는 360도 영상 파일 내부에 해당 360도 영상에 대한 정보를 담고 있는 메타 정보를 포함할 수 있다.
도 10은 실시예들에 따라 360도 영상의 메타 정보를 설명하기 위한 참고도이다.
도 10의 1000A를 참조하면, 360도 영상 파일 1000은 360도 영상 1010과 이 360도 영상에 대한 정보를 담고 있는 메타 정보 1020을 포함할 수 있다.
도 10의 1000B를 참조하면, 360도 영상 파일 1000은 360도 영상 1010을 담고 있고, 별도로 존재하는 메타 파일 1030은 이 360도 영상에 대한 정보를 담고 있는 메타 정보 1020을 포함할 수 있다.
도 11은 일 실시예에 따라 메타 정보에 담길 수 있는 내용의 예를 나타낸다.
도 11을 참조하면, 메타 정보 1100는 복수의 엔트리를 포함할 수 있다. 각 엔트리 1110는 오브젝트 식별자 1111, 시간 정보 1112, 화각 정보 1113을 포함할 수 있다.
오브젝트 식별자 1111은 오브젝트를 식별하기 위한 정보이다.
시간 정보 1112는 해당 오브젝트가 360도 영상에서 출현하는 하나 이상의 시점에 관한 정보 또는 하나 이상의 프레임에 관한 정보를 나타낸다.
화각 정보 1113은 해당 오브젝트가 360도 영상에서, 시간 정보 1112의 각 시간 또는 각 프레임에서 나타날 때의 위치 정보 즉, 화각을 나타낸다.
도 11에서와 같이 360도 영상의 메타 정보 안에 오브젝트가 나타나는 시점과 화각에 대한 정보를 담아둠으로써, 영상 표시 장치 100는 360도 영상에서 얼굴 검출이나 오브젝트 검출 등을 통해 오브젝트를 검출할 필요없이 메타 정보를 참조하여, 오브젝트가 출현하는 영역에 대한 서브 뷰를 제공할 수 있다.
도 12는 일 실시예에 따라 영상 표시 장치에서 360도 영상에서 서브 뷰를 표시할지 여부를 선택할 수 있도록 하는 사용자 인터페이스의 일 예를 나타낸다.
도 12를 참조하면, 영상 표시 장치 100는 360도 영상에서 서브 뷰를 표시할 지 여부를 문의하는 메시지 1210을 담은 사용자 인터페이스 1200을 디스플레이에 표시할 수 있다. 사용자가 <확인> 아이템 1220을 선택하면 영상 표시 장치 100는 오브젝트 검출에 따른 하나 이상의 서브 뷰를 제공할 수 있고, 사용자가 <아니오> 아이템 1230을 선택하면 영상 표시 장치 100는 서브 뷰를 제공하지 않는다.
도 13은 일 실시예에 따라 영상 표시 장치에서 360도 영상에서 표시할 서브 뷰의 개수를 선택할 수 있도록 하는 사용자 인터페이스의 일 예를 나타낸다.
도 13을 참조하면, 영상 표시 장치 100는 360도 영상에서 표시할 서브 뷰의 개수를 선택하도록 요청하는 메시지 1310을 담은 사용자 인터페이스 1300을 디스플레이에 표시할 수 있다. 사용자는 예를 들어, 0개 아이템 1320, 1개 아이템 1330, 2개 아이템 1340, 3개 아이템 1350 중 하나를 선택할 수 있다. 영상 표시 장치 100는 사용자에 의해 선택된 서브 뷰의 개수 에 따라 360도 영상에서 검출된 하나 이상의 오브젝트를 표시할 수 있다. 사용자가 만약 0개 아이템 1320을 선택하면, 이는 영상 표시 장치가 서브 뷰를 표시하지 않도록 하는 의도로 판단하여 영상 표시 장치 100는 서브 뷰를 표시하지 않도록 할 수도 있다.
도 14a는 일 실시예에 따라 영상 표시 장치에서 360도 영상에서 서브 뷰에 표시할 오브젝트를 선택할 수 있도록 하는 사용자 인터페이스의 일 예를 나타낸다.
도 14b는 도 14a에 도시된 사용자 인터페이스에서의 선택에 따라 영상 표시 장치의 동작을 설명하기 위한 참고도이다.
도 14a를 참조하면, 영상 표시 장치 100는 360도 영상에서 서브 뷰에 표시할 오브젝트를 선택하도록 요청하는 메시지 1410을 담은 사용자 인터페이스 1400을 디스플레이에 표시할 수 있다. 예를 들어 360도 영상이 여러 명의 가수들로 이루어진 그룹의 360도 뮤직 비디오 인 경우에, 사용자 인터페이스 1400는 가수 A 아이템 1420, 가수 B 아이템 1430, 가수 C 아이템 1440을 선택할 수 있도록 하는 오브젝트로 제공할 수 있다. 예를 들어 사용자가 사용자 인터페이스 1400에서 가수 A 아이템 1420, 가수 B 아이템 1430, 가수 C 아이템 1440을 모두 오브젝트로서 선택한 경우의 영상 표시 장치 100의 동작이 도 14b에 도시되어 있다.
도 14b를 참조하면, 영상 표시 장치 100는 일정 화각에 대응하는 영역 810을 메인 뷰로 표시하다가 사용자에 의해 선택된 오브젝트인 가수 A, 가수 B, 가수 C 중 적어도 하나가 출현하는 시점이 되면, 가수 A 를 포함하는 서브 뷰 1450, 가수 C를 포함하는 서브 뷰 1460, 가수 B를 포함하는 서브 뷰 1470을 메인 뷰와 함께 표시할 수 있다. 물론 도 14b에서 영상 표시 장치 100는 가수 A 서브 뷰 1450, 가수 B 서브 뷰 1460, 가수 C 서브 뷰 1470을 모두 동시에 표시하는 것으로 도시되었으나 이에 한정되는 것은 아니다. 예를 들어 어느 시간 시점에서는 오브젝트 검출에서 가수 A만 검출된다면 영상 표시 장치 100는 가수 A 서브 뷰 1450 만을 메인 뷰와 함께 표시할 수도 있을 것이다.
도 15a는 일 실시예에 따라 영상 표시 장치에서 360도 영상에서 서브 뷰에 표시할 오브젝트를 선택할 수 있도록 하는 사용자 인터페이스의 다른 예를 나타낸다.
도 15b는 도 15a에 도시된 사용자 인터페이스에서의 선택에 따라 영상 표시 장치의 동작을 설명하기 위한 참고도이다.
도 15a를 참조하면, 영상 표시 장치 100는 360도 야구 영상에서 서브 뷰에 표시할 오브젝트를 선택하도록 요청하는 메시지 1510을 담은 사용자 인터페이스 1500을 디스플레이에 표시할 수 있다. 예를 들어 360도 영상이 스포츠 영상 중 야구 영상인 경우에, 사용자 인터페이스 1500는 1루 아이템 1520, 2루 아이템 1530, 3루 아이템 1540을 선택할 수 있도록 하는 오브젝트로 제공할 수 있다. 예를 들어 사용자가 사용자 인터페이스 1500에서 1루 아이템 1520, 2루 아이템 1530, 3루 아이템 1540을 모두 오브젝트로서 선택한 경우의 영상 표시 장치 100의 동작이 도 15b에 도시되어 있다.
도 15b를 참조하면, 영상 표시 장치 100는 일정 화각에 대응하는 영역 810을 메인 뷰로 표시하다가 사용자에 의해 선택된 오브젝트인 1루, 2루, 3루 위치 중 적어도 하나에 오브젝트가 출현하는 시점이 되면, 1루 영상 서브 뷰 1550, 2루 영상 서브뷰 1560, 3루 영상 서브 뷰 1570을 메인 뷰와 함께 표시할 수 있다.
도 16은 일 실시예에 따라 영상 표시 장치에서 360도 영상에서 서브 뷰에 표시할 오브젝트를 선택할 수 있도록 하는 사용자 인터페이스의 또 다른 예를 나타낸다.
도 16을 참조하면, 영상 표시 장치 100는 360도 축구 영상에서 서브 뷰에 표시할 오브젝트를 선택하도록 요청하는 메시지 1610을 담은 사용자 인터페이스 1600을 디스플레이에 표시할 수 있다. 예를 들어 360도 영상이 스포츠 영상 중 축구 영상인 경우에, 사용자 인터페이스 1600는 A팀 골키퍼 아이템 1620, B팀 골키퍼 아이템 1630, A팀 감독 아이템 1640, B팀 감독 아이템 1650, 공 아이템 1660을 선택할 수 있도록 하는 오브젝트로 제공할 수 있다.
이상 도 14a, 도 15a, 도 16에 도시된 바와 같은, 서브 뷰에 표시될 오브젝트 선택을 위한 사용자 인터페이스는 실시예들을 설명하기 위한 일 예에 불과하며, 오브젝트의 선택을 위해 다양한 아이템이 표시될 수 있다. 아이템으로는 단순히 얼굴, 자연, 동물 등도 표시될 수 있다.
일 실시예에 따라 영상 표시 장치 100는 다양한 스포츠 영상의 특성에 따라 서브 뷰의 개수나 서브 뷰에 표시될 영역을 결정할 수 있다. 즉, 영상 표시 장치 100는 앞서 설명한 바와 같이 360도 축구 영상, 360도 야구 영상 등 스포츠의 특성에 따라 사용자의 관심 오브젝트가 다를 것을 예측할 수 있고 따라서 각 스포츠 마다 서로 다르게 서브 뷰의 개수를 결정한다거나 서브 뷰에 표시될 영역을 결정할 수 있다.
실시예들에 따라 오브젝트의 선택은 직접 오브젝트의 명칭으로 사용자로부터 선택될 수 있을 뿐만 아니라 360도 영상이나 360도 영상의 일시 정지 화면에서 바로 사용자가 오브젝트로 검출할 영역을 선택하게 할 수도 있다.
도 17은 일 실시예에 따라 영상 표시 장치에서 360도 영상에서 서브 뷰에 표시할 오브젝트를 선택할 수 있도록 하는 사용자 인터페이스의 또 다른 예를 나타낸다.
도 17을 참조하면, 영상 표시 장치 100는 360도 영상을 표시하고 서브 뷰에 표시할 오브젝트를 선택하도록 요청하는 메시지 1710을 담은 사용자 인터페이스 1700을 디스플레이에 표시할 수 있다. 사용자 인터페이스 1700는 또한 제1 서브 뷰 영역 1720, 제2 서브 뷰 영역 1730, 제3 서브 뷰 영역 1740이 표시되어 있다. 예를 들어 도 17에 도시된 바와 같이 표시된 360도 영상에서 4명의 가수가 표시되어 있고 사용자는 표시된 가수들중 하나 이상을 제어 장치 30 또는 사용자의 손으로 선택하고, 선택된 가수 오브젝트를 제1 서브 뷰 영역 1720, 제2 서브 뷰 영역 1730, 제3 서브 뷰 영역 1740 중 하나에 드래그 한 다음 해제함으로써 선택된 가수가 제1 서브 뷰 영역 1720에 표시되게 할 수 있다. 만약 360도 영상 중 사용자 인터페이스 1700에 보여지지 않는 360도 영상의 다른 영역에 가수 오브젝트가 더 있다면 사용자는 제어 장치 30를 이용하여 화각을 이동시켜 오브젝트를 영상 표시 장치에 표시시킨 다음, 표시된 오브젝트를 선택할 수도 있다.
도 18은 일 실시예에 따라 영상 표시 장치 100의 동작의 다른 예의 흐름도이다.
도 18을 참조하면, 동작 1810에서, 영상 표시 장치 100는 360도 영상을 재생할 수 있다.
동작 1820에서, 영상 표시 장치 100는 360도 영상을 재생함과 함께 360도 영상을 분석할 수 있다.
동작 1830에서, 영상 표시 장치 100는 영상을 분석함으로써 의미 있는 오브젝트를 검출할 수 있다. 의미있는 오브젝트란, 360도 영상에 포함된 다양한 오브젝트들중에서, 영상 표시 장치 100에 의해 검출하기로 결정된 오브젝트 또는 사용자 입력에 따라 선택된 오브젝트를 포함할 수 있다.
동작 1840에서, 영상 표시 장치 100는 뷰 모드가 온 되어있는지를 판단하고, 뷰 모드가 온 되어 있지 않으면 그대로 별도의 동작 없이 360도 영상을 재생할 수 있다. 뷰 모드라 함은, 영상 표시 장치 100가 디스플레이에 메인 뷰 외에 하나 이상의 서브 뷰를 표시하는 모드를 나타낼 수 있다. 뷰 모드는 영상 표시 장치 100 내부에 디폴트로 설정된 값에 따라 온 될 수도 있고 또는 영상 표시 장치 100가 사용자 인터페이스를 통해 뷰 모드를 온 하겠다는 사용자 입력을 수신함에 따라 온 될 수도 있다.
동작 1850에서, 뷰 모드가 온 된 경우, 영상 표시 장치 100는 장면별 다시점 뷰를 표시할 수 있다. 영상 표시 장치 100는 동작 1830에서 검출된 하나 이상의 오브젝트에 대해서 각 오브젝트를 포함하는 영역을 복수개의 뷰를 이용하여 표시할 수 있다.
동작 1860에서, 영상 표시 장치 100는 영상 분석을 통해서 검출된 오브젝트 개수에 변경이 있으면 다시 서브 뷰의 개수를 조정하고, 동작 1840으로 진행할 수 있다. 검출된 오브젝트 개수에 변경이 없으면 그대로 재생 동작 1870으로 진행할 수 있다.
도 19는 일 실시예에 따라 영상 표시 장치에서 특정한 패턴의 사용자 입력에 따라 오브젝트를 검출하거나 표시하는 과정을 나타내는 흐름도이다.
도 19를 참조하면, 동작 1910에서, 영상 표시 장치 100는 360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 표시할 수 있다.
동작 1920에서, 영상 표시 장치 100는 방향성을 가지는 미리 정한 패턴의 사용자 입력을 나타내는 이벤트를 검출하고, 이러한 이벤트의 검출에 응답해서 해당 방향으로 화각을 이동시킬 대 출현하는 적어도 하나의 오브젝트를 검출할 수 있다. 예를 들어 제어 장치 30의 4방향 키 중 오른쪽 방향 키를 길게 누르는 사용자 입력 이벤트를 검출한 경우, 영상 표시 장치 100는 현재 디스플레이에 표시된 360도 영상의 영역을 기준으로 오른쪽 방향으로 화각을 이동시킨 영역에서 오브젝트를 검출할 수 있다.
동작 1930에서, 영상 표시 장치 100는 적어도 하나의 오브젝트가 검출된 경우, 이 적어도 하나의 오브젝트가 포함된 영역으로 점프하거나, 적어도 하나의 오브젝트가 포함된 영역에 도달할 대까지 회전속도를 증가시키거나, 또는 이 적어도 하나의 오브젝트가 서브 뷰에서 표시되는 영역에서 검출된 경우 이 오브젝트를 메인 뷰에 표시하기 위해 서브 뷰에 표시되는 영역을 메인 뷰에서 표시하고, 검출된 적어도 하나의 오브젝트를 포함하는 영역에 대응하는 영상을 표시할 수 있다.
도 20은 일 예에 따라 360도 영상을 표시하는 영상 표시 장치에서 제어 장치 30의 오른쪽 방향키를 누름에 대응하는 사용자 입력을 수신한 경우의 동작을 설명하기 위한 참고도이다.
도 20을 참조하면, 360도 영상 2000을 표시하는 영상 표시 장치 100가 최초 보여지는 영역 2010을 표시한 상태에서 제어 장치 30의 오른쪽 방향 키 입력을 감지할 수 있다. 오른쪽 방향 키 입력을 감지한 영상 표시 장치 100는 영역 2010이 나타내는 화각을 기준으로 일정 각도 오른쪽 방향으로 이동한 화각에 대응하는 영역 2020을 표시할 수 있다. 그리고 한번 더 오른쪽 방향 키 입력을 감지하면 영상 표시 장치 100는 영역 2020이 나타내는 화각을 기준으로 일정 각도 오른쪽 방향으로 이동한 화각에 대응하는 영역 2030을 표시할 수 있다. 이와 같이 영상 표시 장치 100는 제어 장치 100의 오른쪽 방향키 입력에 의해 화각이 일정 각도 오른쪽으로 증가하는 방향으로 이동하면서 영상을 표시할 수 있다.
도 21은 일 실시예에 따라 영상 표시 장치 100가 특정한 패턴의 사용자 입력을 감지함에 따라 영상을 점프시켜 이동하는 동작을 설명하기 위한 참고도이다.
도 21을 참조하면, 영상 표시 장치 100는 영역 2010에 대응하는 영상을 표시하던 중 방향성이 있는 특정한 패턴의 사용자 입력, 예를 들어 제어 장치 30의 4방향 키중 오른쪽 방향키를 길게 누르는 입력을 감지할 수 있다. 영상 표시 장치 100는 이러한 특정한 패턴의 사용자 입력에 응답해서 오른쪽 방향의 영역에 포함된 오브젝트를 검출할 수 있다. 오른쪽 방향의 영역에 포함된 오브젝트를 검출한 경우에 영상 표시 장치 100는 현재 표시된 영역과 오른쪽 방향의 영역에 포함된 오브젝트가 포함된 영역 사이에 있는 영역에 대응하는 영상의 표시는 건너 뛰고 바로, 오브젝트가 포함된 영역 2040에 대응하는 영상으로 점프하여 해당 영상을 표시할 수 있다.
이와 같이 미리 정의된 특정한 패턴의 사용자 입력을 이용하여 영상 표시 장치 100는 특정한 방향에서 나타나는 다음 오브젝트를 신속하게 검출하고 또한 표시할 수 있다.
도 22는 일 실시예에 따라 영상 표시 장치 100가 특정한 패턴의 사용자 입력을 감지함에 따라 영상을 고속 회전시켜 이동하는 동작을 설명하기 위한 참고도이다.
도 22를 참조하면, 영상 표시 장치 100는 영역 2010에 대응하는 영상을 표시하던 중 방향성이 있는 특정한 패턴의 사용자 입력, 예를 들어 제어 장치 30의 4방향 키중 오른쪽 방향키를 길게 누르는 입력을 감지할 수 있다. 영상 표시 장치 100는 이러한 특정한 패턴의 사용자 입력에 응답해서 오른쪽 방향의 영역에 포함된 오브젝트를 검출할 수 있다. 오른쪽 방향의 영역에 포함된 오브젝트를 검출한 경우에 영상 표시 장치 100는 현재 표시된 영역과 오른쪽 방향의 영역에 포함된 오브젝트가 포함된 영역 사이에 있는 영역에 대응하는 복수의 영상을 회전속도를 증가시켜 표시하고, 오브젝트가 포함된 영역 2040에 대응하는 영상을 표시할 수 있다.
도 23은 일 실시예에 따라 영상 표시 장치 100가 특정한 패턴의 사용자 입력을 감지함에 따라 서브 뷰에 표시되던 영상을 메인 뷰에 이동시켜 표시하는 동작을 설명하기 위한 참고도이다.
도 23을 참조하면, 영상 표시 장치 100는 메인 뷰 2300 및 서브 뷰 2310, 2320, 2330을 함께 표시하던 중 방향성이 있는 특정한 패턴의 사용자 입력, 예를 들어 제어 장치 30의 4방향 키중 오른쪽 방향키를 길게 누르는 입력을 감지할 수 있다. 영상 표시 장치 100는 이러한 특정한 패턴의 사용자 입력에 응답해서 오른쪽 방향의 영역에 포함된 오브젝트를 검출할 수 있다. 오른쪽 방향의 영역에 포함된 오브젝트가 예를 들어 서브 뷰 2330에 포함된 오브젝트 2340인 경우에, 영상 표시 장치 100는 서브 뷰 2330에 표시되던 오브젝트 2340을 포함하는 영상을 메인 뷰 2300으로 이동시켜 표시할 수 있다.
도 24는 일 실시예에 따라 영상 표시 장치 100의 동작의 다른 예의 흐름도이다.
도 24를 참조하면, 동작 2410에서, 영상 표시 장치 100는 360도 영상을 재생할 수 있다.
동작 2420에서, 영상 표시 장치 100는 360도 영상을 재생함과 함께 360도 영상을 분석할 수 있다.
동작 2430에서, 영상 표시 장치 100는 영상을 분석함으로써 의미 있는 오브젝트를 검출할 수 있다. 의미있는 오브젝트란, 360도 영상에 포함된 다양한 오브젝트들중에서, 영상 표시 장치 100에 의해 검출하기로 결정된 오브젝트 또는 사용자 입력에 따라 선택된 오브젝트를 포함할 수 있다.
동작 2440에서, 영상 표시 장치 100는 방향키의 롱 프레스 또는 더블 프레스와 같은 특정한 패턴의 사용자 입력을 감지할 수 있다.
동작 2450에서, 영상 표시 장치 100는 특정한 패턴의 사용자 입력 감지에 따라, 사용자 입력에 따른 방향키의 방향의 다음 오브젝트로 점프하여 영상을 표시하거나 또는 다음 오브젝트를 표시하기까지 회전 속도를 증가시킬 수 있다. 즉 영상 표시 장치 100는 동작 2430에서 의미있는 오브젝트를 검출하는 동작에 따라 현재 영상 표시 장치 100에 보여지는 360도 영역 기준으로 사용자 입력에 따른 방향키에 대응하는 방향에 있는 영역에서의 다음 오브젝트를 결정할 수 있다. 영상 표시 장치 100는 이와 같이 결정된 다음 오브젝트를 빠른 시간내에 디스플레이에 표시하기 위해 다음 오브젝트가 포함된 영역으로 바로 건너뛰어, 다음 오브젝트가 포함된 영역에 대응하는 영상을 표시하거나 또는 다음 오브젝트가 포함된 영역에 도달하기 까지 중간의 영상을 빠른 속도로 이동하면서 표시할 수 있다.
동작 2460에서, 영상 표시 장치 100는 사용자 입력에 따른 이벤트가 해제된 것을 감지하면, 동작 2470에서 사용자 입력에 따른 방향키에 대응하는 방향으로의 이동을 정지할 수 있다.
일 실시예에 따른 영상 표시 장치의 동작방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.
이상에서 실시예들에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속한다.

Claims (19)

  1. 영상 표시 장치에 있어서,
    디스플레이;
    하나 이상의 인스트럭션을 저장하는 메모리; 및
    상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 제공하는 메인 뷰를 표시하도록 상기 디스플레이를 제어하고,
    상기 360도 영상 중 상기 메인 뷰에 표시되지 않는 다른 영역에서 하나 이상의 오브젝트를 검출하고,
    상기 검출된 하나 이상의 오브젝트에 대응하는 하나 이상의 서브 뷰를 표시하도록 상기 디스플레이를 제어하는, 영상 표시 장치.
  2. 제1항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 검출된 하나 이상의 오브젝트의 각 오브젝트를 포함하는 각 화각의 영역을 결정하고, 상기 각 결정된 영역에 대응하는 영상을 제공하는 상기 각 서브 뷰를 결정하는, 영상 표시 장치.
  3. 제1항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 오브젝트 검출을 위해 얼굴 검출, 움직임 검출 중 적어도 하나를 이용하는, 영상 표시 장치.
  4. 제1항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    검출할 상기 오브젝트에 대한 정보를 사용자 인터페이스를 통해 수신하고,
    상기 사용자 인터페이스를 통해 수신된 상기 오브젝트에 대한 정보를 기초로 상기 오브젝트를 검출하는, 영상 표시 장치.
  5. 제1항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 검출할 오브젝트에 대한 정보를 상기 360도 영상에 대응하는 메타데이터로부터 획득하고,
    상기 획득된 상기 오브젝트에 대한 정보를 기초로 상기 오브젝트를 검출하는, 영상 표시 장치.
  6. 제1항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    사용자 요청에 따라 또는 자동으로 상기 오브젝트를 검출하는, 영상 표시 장치.
  7. 영상 표시 장치에 있어서,
    디스플레이;
    하나 이상의 인스트럭션을 저장하는 메모리; 및
    상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 표시하도록 상기 디스플레이를 제어하고,
    방향성을 가지는, 미리 정한 패턴의 사용자 입력을 나타내는 이벤트의 검출에 응답해서, 상기 방향으로 화각을 이동시킬 때 출현하는 적어도 하나의 오브젝트를 검출하고,
    상기 적어도 하나의 오브젝트가 포함된 영역으로 점프하거나, 또는 상기 적어도 하나의 오브젝트가 포함된 영역에 도달할 때까지 회전 속도를 증가시키거나, 또는, 서브 뷰에서 검출되는 상기 적어도 하나의 오브젝트를 메인 뷰에서 표시하기 위해 상기 메인 뷰로 이동시키고, 상기 검출된 적어도 하나의 오브젝트를 포함하는 영역에 대응하는 영상을 표시하도록 상기 디스플레이를 제어하는, 영상 표시 장치.
  8. 제7항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 이벤트의 해제에 응답해서, 상기 점프 또는 회전 속도 제어를 정지시키는, 영상 표시 장치.
  9. 제7항에 있어서,
    상기 미리 정한 패턴의 사용자 입력은, 방향키의 롱 프레스 또는 더블 프레스를 포함하는, 영상 표시 장치.
  10. 영상 표시 장치의 동작 방법에 있어서,
    360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 제공하는 메인 뷰를 표시하는 동작,
    상기 360도 영상 중 상기 메인 뷰에 표시되지 않는 다른 영역에서 하나 이상의 오브젝트를 검출하는 동작, 및
    상기 검출된 하나 이상의 오브젝트에 대응하는 하나 이상의 서브 뷰를 표시하는 동작을 포함하는, 영상 표시 장치의 동작 방법.
  11. 제10항에 있어서,
    상기 검출된 하나 이상의 오브젝트의 각 오브젝트를 포함하는 각 화각의 영역을 결정하고, 상기 각 결정된 영역에 대응하는 영상을 제공하는 상기 각 서브 뷰를 결정하는 동작을 더 포함하는, 영상 표시 장치의 동작 방법.
  12. 제10항에 있어서,
    상기 오브젝트 검출을 위해 얼굴 검출, 움직임 검출 중 적어도 하나를 이용하는 동작을 더 포함하는, 영상 표시 장치의 동작 방법.
  13. 제10항에 있어서,
    검출할 상기 오브젝트에 대한 정보를 사용자 인터페이스를 통해 수신하는 동작, 및
    상기 사용자 인터페이스를 통해 수신된 상기 오브젝트에 대한 정보를 기초로 상기 오브젝트를 검출하는 동작을 더 포함하는, 영상 표시 장치의 동작 방법.
  14. 제10항에 있어서,
    상기 검출할 오브젝트에 대한 정보를 상기 360도 영상 에 대응하는 메타데이터로부터 획득하는 동작, 및
    상기 획득된 상기 오브젝트에 대한 정보를 기초로 상기 오브젝트를 검출하는 동작을 더 포함하는, 영상 표시 장치의 동작 방법.
  15. 제10항에 있어서,
    사용자 요청에 따라 또는 자동으로 상기 오브젝트를 검출하는 동작을 더 포함하는, 영상 표시 장치의 동작 방법.
  16. 영상 표시 장치의 동작 방법에 있어서,
    360도 영상 중 지정된 화각에 따른 영역에 대응하는 영상을 표시하는 동작, 방향성을 가지는, 미리 정한 패턴의 사용자 입력을 나타내는 이벤트의 검출에 응답해서, 상기 방향으로 화각을 이동시킬 때 출현하는 적어도 하나의 오브젝트를 검출하는 동작, 및
    상기 적어도 하나의 오브젝트가 포함된 영역으로 점프하거나, 또는 상기 적어도 하나의 오브젝트가 포함된 영역에 도달할 때까지 회전 속도를 증가시키거나, 또는, 서브 뷰에서 검출되는 상기 적어도 하나의 오브젝트를 메인 뷰에서 표시하기 위해 상기 메인 뷰로 이동시키고, 상기 검출된 적어도 하나의 오브젝트를 포함하는 영역에 대응하는 영상을 표시하는 동작을 포함하는, 영상 표시 장치의 동작 방법.
  17. 제16항에 있어서,
    상기 이벤트의 해제에 응답해서, 상기 점프 또는 회전 속도 제어를 정지시키는 동작을 더 포함하는, 영상 표시 장치의 동작 방법.
  18. 제16항에 있어서,
    상기 미리 정한 패턴의 사용자 입력은, 방향키의 롱 프레스 또는 더블 프레스를 포함하는, 영상 표시 장치의 동작 방법.
  19. 제10항 내지 제18항중 어느 한 항의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.
KR1020160110838A 2016-08-30 2016-08-30 영상 표시 장치 및 그 동작방법 KR102536945B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020160110838A KR102536945B1 (ko) 2016-08-30 2016-08-30 영상 표시 장치 및 그 동작방법
EP17186849.0A EP3300354B1 (en) 2016-08-30 2017-08-18 Image display apparatus and method of operating the same
US15/681,962 US10453246B2 (en) 2016-08-30 2017-08-21 Image display apparatus and method of operating the same
PCT/KR2017/009200 WO2018043985A1 (en) 2016-08-30 2017-08-23 Image display apparatus and method of operating the same
CN201710767683.7A CN107801075B (zh) 2016-08-30 2017-08-30 图像显示设备及其操作方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160110838A KR102536945B1 (ko) 2016-08-30 2016-08-30 영상 표시 장치 및 그 동작방법

Publications (2)

Publication Number Publication Date
KR20180024504A true KR20180024504A (ko) 2018-03-08
KR102536945B1 KR102536945B1 (ko) 2023-05-25

Family

ID=59745181

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160110838A KR102536945B1 (ko) 2016-08-30 2016-08-30 영상 표시 장치 및 그 동작방법

Country Status (5)

Country Link
US (1) US10453246B2 (ko)
EP (1) EP3300354B1 (ko)
KR (1) KR102536945B1 (ko)
CN (1) CN107801075B (ko)
WO (1) WO2018043985A1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019190203A1 (ko) * 2018-03-27 2019-10-03 주식회사 케이티 비디오 신호 처리 방법 및 장치
WO2019203574A1 (ko) * 2018-04-17 2019-10-24 엘지전자 주식회사 360 비디오 데이터의 서브픽처 기반 처리 방법 및 그 장치
TWI755875B (zh) * 2020-09-29 2022-02-21 微星科技股份有限公司 呈現放大畫面的方法

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102567002B1 (ko) * 2016-08-16 2023-08-14 삼성전자주식회사 영상 표시 장치 및 그 동작방법
KR102598082B1 (ko) * 2016-10-28 2023-11-03 삼성전자주식회사 영상 표시 장치, 모바일 장치 및 그 동작방법
KR20180051288A (ko) * 2016-11-08 2018-05-16 삼성전자주식회사 디스플레이 장치 및 그 제어 방법
EP3550825A4 (en) * 2016-12-01 2020-05-13 LG Electronics Inc. -1- IMAGE DISPLAY DEVICE AND THIS IMAGE DISPLAY SYSTEM
KR102280169B1 (ko) * 2017-03-06 2021-07-21 삼성전자주식회사 영상을 처리하는 방법 및 장치
US20190129602A1 (en) * 2017-10-27 2019-05-02 Greg Siwak Systems and methods for imaging grounding
CN108965747A (zh) * 2018-06-19 2018-12-07 苏州佳世达电通有限公司 影像显示方法及应用其的影像显示装置
CN111355922B (zh) * 2018-12-24 2021-08-17 台达电子工业股份有限公司 摄影机布建与排程方法、监控系统以及非暂态电脑可读取媒体
CN109933400B (zh) * 2019-03-15 2024-03-22 努比亚技术有限公司 显示界面布局方法、可穿戴设备及计算机可读存储介质
JP7205323B2 (ja) * 2019-03-18 2023-01-17 株式会社リコー 通信端末、画像通信システム、表示方法、及びプログラム
KR102269760B1 (ko) * 2019-11-26 2021-06-29 서울과학기술대학교 산학협력단 영상 전송 시스템의 다중 영상 시점 보정 장치
CN113906727A (zh) * 2020-08-13 2022-01-07 深圳市大疆创新科技有限公司 全景回放的方法、装置和系统、拍摄设备、可移动平台
CN112788425A (zh) * 2020-12-28 2021-05-11 深圳Tcl新技术有限公司 动态区域显示方法、装置、设备及计算机可读存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100002071A1 (en) * 2004-04-30 2010-01-07 Grandeye Ltd. Multiple View and Multiple Object Processing in Wide-Angle Video Camera
US20140063181A1 (en) * 2012-09-03 2014-03-06 Lg Electronics Inc. Mobile terminal and method of controlling the same

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040081606A (ko) 2003-03-14 2004-09-22 (주)이화기술단 거푸집 결속장치
KR20060032694A (ko) 2004-10-13 2006-04-18 주식회사 팬택 입체 영상 및 360도 영상을 디스플레이하는 이동통신단말기
WO2007094802A2 (en) * 2005-03-25 2007-08-23 Intellivid Corporation Intelligent camera selection and object tracking
US8254713B2 (en) * 2005-11-11 2012-08-28 Sony Corporation Image processing apparatus, image processing method, program therefor, and recording medium in which the program is recorded
US20080062250A1 (en) * 2006-09-13 2008-03-13 X10 Wireless Technologies, Inc. Panoramic worldview network camera with instant reply and snapshot of past events
US9361943B2 (en) 2006-11-07 2016-06-07 The Board Of Trustees Of The Leland Stanford Jr. University System and method for tagging objects in a panoramic video and associating functions and indexing panoramic images with same
KR100965751B1 (ko) 2008-04-03 2010-06-24 곽윤환 비료포대의 포대와 비료 분리장치
KR20100022874A (ko) 2008-08-20 2010-03-03 노틸러스효성 주식회사 금융자동화기기의 카세트
US8040744B2 (en) 2009-01-05 2011-10-18 Sandisk Technologies Inc. Spare block management of non-volatile memories
WO2010101028A1 (ja) 2009-03-02 2010-09-10 東レ株式会社 網目状金属微粒子積層フィルム及びその製造方法
JP5347716B2 (ja) * 2009-05-27 2013-11-20 ソニー株式会社 画像処理装置、情報処理方法およびプログラム
KR101631912B1 (ko) 2009-11-03 2016-06-20 엘지전자 주식회사 이동 단말기 및 그 제어 방법
KR101139287B1 (ko) 2010-03-15 2012-04-26 한국과학기술연구원 사용자의 움직임을 반영한 파노라마 영상 재생 장치 및 파노라마 영상 재생 방법
KR101680684B1 (ko) 2010-10-19 2016-11-29 삼성전자주식회사 영상 처리 방법 및 이를 적용한 영상 촬영 장치
KR20130055967A (ko) 2011-11-21 2013-05-29 현대모비스 주식회사 파노라마 영상 제공 시스템 및 그 방법
US20130129304A1 (en) * 2011-11-22 2013-05-23 Roy Feinson Variable 3-d surround video playback with virtual panning and smooth transition
JP5825279B2 (ja) 2013-02-27 2015-12-02 ブラザー工業株式会社 端末装置及びプログラム
JP2014220724A (ja) * 2013-05-10 2014-11-20 ソニー株式会社 表示制御装置、表示制御方法、およびプログラム
KR20150122355A (ko) 2014-04-23 2015-11-02 엘지전자 주식회사 썸네일 이미지를 디스플레이 하는 헤드 마운티드 디스플레이 디바이스 및 그 제어 방법
CN104301769B (zh) * 2014-09-24 2017-12-15 华为技术有限公司 呈现图像的方法、终端设备和服务器
JP6525453B2 (ja) 2014-11-26 2019-06-05 日本放送協会 オブジェクト位置推定システム、及びそのプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100002071A1 (en) * 2004-04-30 2010-01-07 Grandeye Ltd. Multiple View and Multiple Object Processing in Wide-Angle Video Camera
US20140063181A1 (en) * 2012-09-03 2014-03-06 Lg Electronics Inc. Mobile terminal and method of controlling the same

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019190203A1 (ko) * 2018-03-27 2019-10-03 주식회사 케이티 비디오 신호 처리 방법 및 장치
WO2019203574A1 (ko) * 2018-04-17 2019-10-24 엘지전자 주식회사 360 비디오 데이터의 서브픽처 기반 처리 방법 및 그 장치
TWI755875B (zh) * 2020-09-29 2022-02-21 微星科技股份有限公司 呈現放大畫面的方法

Also Published As

Publication number Publication date
CN107801075B (zh) 2021-06-25
WO2018043985A1 (en) 2018-03-08
CN107801075A (zh) 2018-03-13
EP3300354B1 (en) 2022-05-04
KR102536945B1 (ko) 2023-05-25
US10453246B2 (en) 2019-10-22
EP3300354A2 (en) 2018-03-28
US20180061118A1 (en) 2018-03-01
EP3300354A3 (en) 2018-05-30

Similar Documents

Publication Publication Date Title
KR102536945B1 (ko) 영상 표시 장치 및 그 동작방법
US11062423B2 (en) Image display apparatus and method of operating the same
KR102354328B1 (ko) 영상 표시 장치 및 그 동작 방법
KR102414806B1 (ko) 영상 표시 장치 및 영상 표시 방법
US9538245B2 (en) Media system and method of providing recommended search term corresponding to an image
KR20160097867A (ko) 영상 표시 장치 및 영상 표시 방법
KR102474244B1 (ko) 영상 표시 장치 및 그 동작방법
US11500509B2 (en) Image display apparatus and image display method
KR102329124B1 (ko) 영상 표시 장치 및 영상 표시 방법
EP3024220A2 (en) Display apparatus and display method
KR20170124811A (ko) 영상 표시 장치 및 그 동작방법
KR20180046681A (ko) 영상 표시 장치, 모바일 장치 및 그 동작방법
KR20170106055A (ko) 서비스를 제공하기 위한 gui를 제공하는 영상 출력 장치 및 영상 출력 방법
KR20210074877A (ko) 디스플레이 장치 및 그 동작방법
KR20190022307A (ko) 클라이언트 디바이스, 컴패니언 스크린 디바이스 및 그 동작방법
KR20160098842A (ko) 디스플레이 장치 및 디스플레이 방법
US20170285767A1 (en) Display device and display method
KR102407191B1 (ko) 영상 표시 장치 및 영상 표시 방법
KR20170076475A (ko) 영상 표시 장치 및 영상 표시 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant