CN107770627B - 图像显示装置和操作图像显示装置的方法 - Google Patents
图像显示装置和操作图像显示装置的方法 Download PDFInfo
- Publication number
- CN107770627B CN107770627B CN201710702848.2A CN201710702848A CN107770627B CN 107770627 B CN107770627 B CN 107770627B CN 201710702848 A CN201710702848 A CN 201710702848A CN 107770627 B CN107770627 B CN 107770627B
- Authority
- CN
- China
- Prior art keywords
- degree
- information
- image
- perspective
- view
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 46
- 230000004044 response Effects 0.000 claims description 10
- 238000004891 communication Methods 0.000 claims description 9
- 238000010586 diagram Methods 0.000 description 60
- 230000033001 locomotion Effects 0.000 description 17
- 230000006870 function Effects 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 238000009877 rendering Methods 0.000 description 4
- 230000003321 amplification Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 206010003402 Arthropod sting Diseases 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000005057 finger movement Effects 0.000 description 1
- 238000009432 framing Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
- H04N21/4728—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/21805—Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/20—Linear translation of whole images or parts thereof, e.g. panning
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
- H04N21/47205—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for manipulating displayed content, e.g. interacting with MPEG-4 objects, editing locally
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
- H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/433—Content storage operation, e.g. storage operation in response to a pause request, caching operations
- H04N21/4334—Recording operations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/435—Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/8146—Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/816—Monomedia components thereof involving special video data, e.g 3D video
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
- H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
- H04N21/42206—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
- H04N21/4222—Remote control device emulator integrated into a non-television apparatus, e.g. a PDA, media center or smart toy
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Graphics (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Controls And Circuits For Display Device (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Social Psychology (AREA)
- Computer Networks & Wireless Communication (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本公开提供了一种图像显示装置,包括:显示器;存储器,被配置为存储指令;以及处理器,被配置为执行指令以获得360度内容、和包括被选择以再现360度内容的多个视角值的视角信息,并且被配置为控制显示器根据被包括在视角信息中的多个视角值来显示360度内容。
Description
相关申请的交叉引用
本申请要求2016年8月16日在韩国知识产权局提交的韩国专利申请第10-2016-0103756号的优先权,其公开通过引用全部并入本文。
技术领域
与示例实施例一致的装置和方法涉及图像显示装置和操作图像显示装置的方法,并且更具体地,涉及能够显示360度图像的图像显示装置和操作该图像显示装置的方法。
背景技术
图像显示装置能够显示由用户可观看的图像。例如,用户能够经由图像显示装置观看广播。图像显示装置在被包括在其中的显示器上显示用户从由广播电台广播的信号中选择的广播。目前,世界上大多数国家已将模拟广播切换为数字广播。
在数字广播中,发送数字图像信号和数字音频信号。当与模拟广播相比时,数字广播可抵抗(resilient against)外部噪声,因此具有少量数据丢失,具有更好的纠错,并提供高分辨率和高清晰度的屏幕图像。此外,数字广播能够提供模拟广播不能提供的双向服务。
近来已经开发了除数字广播功能之外能够提供各种类型的内容的智能电视机(TV)。智能电视机旨在在不要求用户的手动操作的情况下来分析和提供用户所期望的内容。
发明内容
示例实施例可以解决至少上述问题和/或缺点以及上面没有描述的其他缺点。此外,示例实施例不需要克服上述缺点,并且可以不克服上述任何问题。
示例实施例提供了能够有效地管理在360度图像的再现中使用的视角信息的图像显示装置、以及操作该图像显示装置的方法。
附加方面将在下面的描述中被部分地阐明,并且部分地将从描述中显而易见,或者可以通过示例实施例的实践被学习。
根据示例实施例的一个方面,提供了一种图像显示装置,包括:显示器;被配置为存储指令的存储器;以及处理器,被配置为执行该指令以:获得360度内容和与视角对应的视角信息;并且控制显示器根据视角信息来显示360度内容,其中视角信息包括与用于再现360度内容的多个所选择的视角值对应的多个条目,并且其中多个条目的每个条目指定指示要被显示的360度内容的区域的视角值,并且每个条目包括指示应用视角的时间点或者被应用视角值的帧的信息。
多个条目的每个条目还可以包括缩放大小信息。
图像显示装置还可以包括通信接口,并且处理器还可以被配置为执行指令以控制通信接口从外部计算机接收视角信息。
可以根据预设标准来从与360度内容对应的多条视角信息中推荐视角信息。
处理器还可以被配置为执行指令以从360度内容提取视角信息或者从与360度内容分离的元文件获得视角信息。
根据另一示例实施例的方面,提供了一种图像显示装置,包括:显示器;配置为存储指令的存储器;以及处理器,被配置为执行该指令以:在360度内容的再现期间接收用户输入;并且基于该用户输入来创建视角信息,其中该用户输入包括输入用于再现360度内容的多个所选择的视角值,其中视角信息包括多个条目,并且其中多个条目的每个条目指定指示要被显示的360度内容的区域的视角值,并且每个条目包括指示应用视角的时间点或者在其中视角值被应用的帧的信息。
多个条目的每个条目还可以包括缩放大小信息。
处理器还可以被配置为执行指令以将视角信息存储在360度内容的文件中,或者在与360度内容的文件分离的元文件中存储视角信息。
视角信息可以对应于被包括在360度内容中的对象,并且视角信息还可以包括用于识别对象的信息。
处理器还可以被配置为执行指令以:接收与被选择以再现360度图像的至少一个视角值对应的用户输入,所述360度图像与来自构成360度内容的多个文件中的至少一个文件对应,其中所述视角信息还可以包括:被选择以再现360度图像的所述至少一个视角值,以及与至少一个视角值中的每一个对应的文件标识符。
根据另一示例实施例的方面,提供了一种操作图像显示装置的方法,所述方法包括:获得360度内容和视角信息;并且根据视角信息来显示360度内容,其中视角信息包括与用于再现360度内容的多个所选择的视角值对应的多个条目,并且其中多个条目的每个条目指定表示要被显示的360度内容的区域的视角值,并且每个条目包括指示应用视角的时间点或者被应用视角值的帧的信息。
多个条目的每个条目还可以包括缩放大小信息。
该方法可以包括从外部计算机接收视角信息。
可以根据预设标准来从与360度内容对应的多条视角信息中推荐视角信息。
该方法可以包括从360度内容的文件中提取视角信息或者从与360度内容的文件分离的元文件获得视角信息。
根据另一示例实施例的方面,提供了一种操作图像显示装置的方法,该方法包括:在360度内容的再现期间接收用户输入;以及基于所述用户输入来创建视角信息,其中该用户输入包括用于再现360度内容的多个所选择的视角值,其中视角信息包括多个条目,并且其中多个条目的每个条目指定指示要被显示的360度内容的区域的视角值,并且每个条目包括指示应用视角的时间点或者在其中视角值被应用的帧的信息。
多个条目的每个条目还可以包括缩放大小信息。
该方法可以包括将视角信息存储在360度内容的文件中,或者在与360度内容的文件分离的元文件中存储视角信息。
视角信息可以对应于被包括在360度内容中的对象,并且视角信息还可以包括用于识别对象的信息。
根据另一示例实施例的方面,提供了一种非暂时性计算机可读记录介质,在其上已经记录当由计算机执行时执行操作图像显示装置的方法的计算机程序。
根据另一示例实施例的方面,提供了一种图像显示装置,包括:被配置为存储一个或多个指令的存储器;以及处理器,被配置为执行被存储在存储器中的指令以:获得360度内容和与视角对应的视角信息,其中360度内容包括多个对象;接收用于从在360度内容中的多个对象中选择至少一个对象的用户输入;并且通过利用视角信息来再现360度内容来显示所选择的至少一个对象的位置,其中所述视角信息通过跟踪所选择的至少一个对象而创建。
跟踪所选择的至少一个对象可以包括显示指示符以识别所选择的至少一个对象。
指示符可以包括球形指示符和圆柱形指示符中的至少一个。
所选择的至少一个对象可以是在360度内容中被描绘的人。
附图说明
从示例实施例的以下结合附图的描述中,上述和/或其他方面将变得显而易见并且更容易领会,其中:
图1是示出根据示例实施例的显示360度图像的图像显示装置和控制装置的示图;
图2是示出根据示例实施例的360度图像的视角的示图;
图3A是用于示出根据示例实施例的显示360度图像的方法的示图;
图3B是示出根据示例实施例的与360度图像对应的多条视角信息的参考图;
图4是示出根据示例实施例的包括多个服务器和多个终端以管理360度图像的视角信息的系统的示意图;
图5是根据示例实施例的创建并存储与360度图像对应的视角信息的图像显示装置的结构的框图;
图6是根据示例实施例的通过使用与360度图像对应的视角信息来再现360度图像的图像显示装置的结构的框图;
图7是根据示例实施例的创建视角信息和/或通过使用视角信息来再现360度图像的图像显示装置的结构的框图;
图8是根据示例实施例的在图像显示装置中创建视角信息的方法的流程图;
图9是示出根据示例实施例的在360度图像的再现期间调整视角的必要性的示例的参考图;
图10是用于示出根据示例实施例的通过在360度图像的再现期间调整视角而获得的屏幕图像的参考图;
图11是示出根据示例实施例的基于360度图像来生成视角元文件的方法的参考图;
图12是示出根据示例实施例的通过使用基于360度图像而生成的视角元信息来再现360度图像的方法的参考图;
图13A和图13B是示出根据示例实施例的视角信息的存储位置的参考图;
图14是用于示出根据示例实施例的视角信息的示例的示意图;
图15是用于示出根据示例实施例的作为图14的视角信息的示例的视角信息的框图;
图16是用于示出根据示例实施例的视角信息的示例的示意图;
图17是根据示例实施例的包括对象信息的视角信息的框图;
图18是示出根据示例实施例的自动生成视角信息的示例的参考图;
图19是示出根据示例实施例的手动创建视角信息的示例的参考图;
图20是用于示出根据示例实施例的包括调整条目的视角信息的示意图;
图21是针对根据示例实施例的示出图20的调整条目的示例的示意图;
图22是根据示例实施例的通过使用所创建的视角信息来再现360度内容的方法的流程图;
图23是示出根据示例实施例的当视角信息被构造为与360度内容分离的文件时的应用的多功能性的参考图;
图24是根据示例实施例的图像显示装置经由其显示360度内容的视角信息的用户接口;
图25是示出根据示例实施例的可以为360度内容的一个项目创建和维护的各种类型的视角信息文件的参考图;
图26是根据示例实施例的提供360度内容的服务器可以提供以选择视角信息的用户接口;
图27是示出根据示例实施例的当360度内容包括多个对象并且通过跟踪多个对象中的一个来创建视角信息时在屏幕图像上显示对象的位置的方法的参考图;
图28是用于示意性地解释根据示例实施例的用于管理用于包括多个文件的360度内容的视角信息的情景的参考图;
图29是示出根据示例实施例的包括多个文件的360度内容的参考图;
图30是示出根据示例实施例的通过使用图29的第一、第二、和第三文件来创建视角信息的方法的参考图;
图31是用于示出根据示例实施例的根据图30的操作而创建的视角信息文件的结构的示例的示意图;以及
图32是示出根据示例实施例的通过使用如图31所示的视角信息来再现360度内容的方法的参考图。
具体实施方式
在下文中,将简要描述在说明书中使用的术语,并且然后将详细描述示例实施例。
虽然考虑到示例实施例的功能来选择目前广泛使用的一般术语来描述示例实施例,但是这些一般术语可以根据本领域普通技术人员的意图、案例、新技术的出现等变化。
当在本说明书中使用时,术语“包含”和/或“包括”指定所述元件的存在,但不排除一个或多个其它元件的存在或添加。在本说明书中使用时,术语“...单元”和“...模块”是指在其中执行至少一个功能或操作的单元,并且可以被实现为硬件、软件、或硬件和软件的组合。
本文参考附图详细描述了示例实施例,使得本公开可以容易地由本公开所属领域的普通技术人员执行。然而,示例实施例可以以许多不同的形式具体实施并且不应被解释为受限于本文阐明的示例实施例。在附图中,为了简化说明,可以省略与描述无关的部分,并且相同的附图标记始终指代相同的元件。
本文使用的术语“用户”表示通过使用控制装置来控制图像显示装置的功能或操作的人。用户的示例可以包括观看者、管理者、或安装工程师。
图1是示出根据示例实施例的显示360度图像的图像显示装置100和控制装置30的示图。
参考图1,图像显示装置100可以显示360度图像。根据示例实施例的360度图像可以是具有360度的视角的图像。360度图像可以是静止图像、运动图片、或全景图像。例如,360度图像可以是基于通过使用至少一个相机在360度的方向上捕获的多个图像而生成的图像。在这点上,所捕获的多个图像可以被映射到球形,并且可以缝合(stitch)所映射的图像的接触点;因此,可以生成球形360度图像。此外,球形360度图像可以被转换成平面360度图像50,以便被发送到或存储在如图1所说明的另一设备中。
根据示例实施例的图像显示装置100可以通过对平面360度图像50执行图形处理,来将平面360度图像50转换成球形360度图像70。图像显示装置100可以从球形360度图像70选择与某一视角对应的区域80,并且在显示器上显示与所选择的区域80对应的图像。在这点上,图像显示装置100可以根据显示器的分辨率对与所选择的区域80对应的图像进行缩放,并且在显示器上显示所缩放的图像。根据示例实施例的图像显示装置100可以在360度图像70内显示指示区域80的位置的三维(three-dimensional,3D)指示符20。稍后将参考图2详细描述360度图像的视角。
根据示例实施例的图像显示装置100可以是TV,但这仅仅是示例实施例。图像显示装置100可以被实现为包括显示器的电子设备。例如,图像显示装置100可以是任何类型的电子设备,诸如移动电话、平板个人计算机(personal computer,PC)、数码相机、摄像机、膝上型计算机、台式计算机、电子书终端、数字广播终端、个人数字助理(personal digitalassistant,PDA)、便携式多媒体播放器(portable multimedia player,PMP)、导航设备、MP3播放器、或可穿戴设备。具体地,图像显示装置100的示例实施例可以容易地在具有大显示器的显示装置(诸如TV)中被实现。然而,示例实施例不限于此。图像显示装置100可以是固定的或可移动的、或者是数字广播接收器。
图像显示装置100可以被实现为平板显示装置、具有曲率的曲面显示装置、或具有可调曲率的柔性显示装置。图像显示装置100的输出分辨率可以是例如高清晰度(highdefinition,HD)、全HD、超HD、或比超HD更高清的分辨率。
图像显示装置100可以由控制装置30控制。控制装置30可以被实现为用于控制图像显示装置100的各种类型的设备中的任何一种,诸如遥控器或移动电话。
控制装置30可以经由诸如红外线或蓝牙的短距离通信来控制显示装置100,但不限于这些。控制装置30可以通过使用从被包括在控制装置30中的键(例如,按钮)、触摸板、能够接收用户语音的麦克风、和能够识别控制装置30的运动的传感器中选择的至少一个来控制图像显示装置100的功能。
例如,控制装置30可以包括4个方向键(或4个方向按钮)。4个方向键可以被用于移动360度图像70内的在显示器上所显示的区域80的位置。
控制装置30可以是指向设备(pointing device)。例如,当控制装置30接收到某一键输入时,控制装置30可以作为指向设备操作。当控制装置30作为指向设备操作时,图像显示装置100可以由用户输入来控制,用于使控制装置30向上、向下、向左、或向右移动,或者在任何随机方向倾斜控制装置30。关于经由控制装置30的传感器感测的控制装置30的运动的信息可以被发送到图像显示装置100。图像显示装置100可以基于控制装置30的运动信息,移动在360度图像70内的在显示器上所显示的区域80。
当控制装置30包括触摸板时,图像显示装置100可以根据在触摸板上移动的物体(例如,用户的手指)的位移值,来移动在360度图像70内的在显示器上所显示的区域80。
图2是示出360度图像的视角的示图。
如上所述,可以基于通过使用至少一个相机以360度而捕获的多个图像来生成360度图像。在这点上,被捕获的多个图像可以被映射到球形,并且可以缝合所映射的图像的接触点,并且因此可以生成球形360度图像。
360度图像可以指具有360度视角的图像。当360度图像被表示为具有球形的图像200时,可以相对于x轴和y轴表示360度图像的视角。x轴坐标可以被用于表示当穿过球形的中心的垂直平面沿着球形的表面旋转时形成的角度。y轴坐标可以被用于表示当穿过球形的中心的水平面沿着球形的表面旋转时形成的角度。例如,x轴坐标可以在0度至360度的范围内。例如,y轴坐标可以在-90度至90度或0度至180度的范围内。
例如,参照图2,当在球形图像200中的参考点221处的视角(x度,y度)为(0度,0度)时,在点222处的视角为(30度,30度)。
图3A是示出根据示例实施例的显示360度图像的方法的示图。
用户可以根据期望的视角来导航360度图像以观看图像300。例如,参考图3A,当以0度的视角观看区域311的图像320的用户想要观看位于区域311右边的区域(例如,在区域311的右侧的相邻区域)时,用户可以经由控制装置30提供输入以调整视角。例如,当用户提供将视角调整60度的输入时,图像显示装置100可以显示对应于以60度的视角观看的区域312的图像321。
根据示例实施例,用户可以通过使用控制装置30的四个方向键来移动360度图像的视角。例如,用户可以通过使用在四个方向键中的左和右方向键来水平移动360度图像。例如,用户可以通过使用在四个方向键中的上和下方向键来垂直移动360度图像。
根据示例实施例,用户可以通过在垂直方向、水平方向、或任意方向上移动包括加速度传感器或陀螺仪的控制装置30来调整360度图像的视角。
根据示例实施例,用户可以在在被包括在控制装置30中的触摸板上触摸和移动他的或她的手指的方向上调整360度图像的视角。
根据示例实施例,当图像显示装置100包括触敏(touch-sensitive)屏幕时,用户可以通过使用在图像显示装置100的触敏屏幕上的他的或她的手指的触摸移动来调整360度图像的视角,。
根据示例实施例,用户可以通过使用控制装置30的特定键或按钮或者经由通过使用控制装置30所做的手势来放大或缩小360度图像。响应于放大输入,图像显示装置100可以放大并显示当前正在被显示的区域。响应于缩小输入,图像显示装置100可以缩小并显示当前正在被显示的区域。例如,当缩小程度超过预设阈值时,图像显示装置100可以以球形显示图像。例如,缩放可以具有-4倍到4倍的范围。
图3B是示出与360度图像300对应的多条视角信息的参考图。
因为360度图像包括在单个时间点在所有方向(即,360度视图)上捕获的图像,所以360度图像包括比在单个方向上捕获的图像高得多的信息量。换句话说,在特定时间点,由用户以0度的视角观看的图像可能与由用户以90度或180度的视角观看的图像完全不同。因此,360度图像包括大量数据或信息(例如,多个区域,每个与视角对应),并且用户可以通过指定视角来选择要观看的区域。例如,当提供包括几个歌手(例如,歌手A、歌手B等)的音乐视频作为360度图像时,用户可能想要根据被集中于歌手A上的视角来观看360度图像。因此,在观看360度图像的同时,用户可以调整视角以获得被集中于歌手A上的视角。另一个用户可以调整视角以获得被集中于歌手B上的视角。
参考图3B,当观看360度音乐视频时,用户可以将视角调整为A1,并且因此可以以视角A1观看360度图像。然后,用户可以在预定时间点已经过去之后将视角调整为A2,并且可以以视角A2观看360度图像。从360度图像的开始到其结束由用户选择的视角可以被表示为A1-A2-A3-A4-A5-A6-A7-A8。当用户下次观看相同的360度音乐视频时,用户可以观看与视角B1对应的、360度音乐视频的部分,并且在预定时间点已经过去之后将视角调整为B2。结果,从360度图像的开始到其结束由用户选择的视角可以被表示为B1-B2-B3-B4-B5-B6-B7。因此,即使在单个360度图像的情况下,也可以根据由用户选择的视角来示出不同的图像,并且由于可以在360度图像内选择许多视角,基于360度图像,可以根据视角来提供许多图像。
用户可能想要根据与先前观看会话对应的视角信息来重新观看360度音乐视频,例如,根据视角A1-A2-A3-A4-A5-A6-A7-A8。因此,根据本文公开的示例实施例,由用户选择的视角被存储为视角信息和被管理,如上所述。当视角信息如这样被管理时,用户可以选择(例如,经由控制装置30、经由语音输入等)所存储的视角信息,并且根据在其中所存储的视角来方便地观看360度图像,而不必在重新观看360度音乐视频时再次调整视角。
此外,由于视角信息被单独管理,用户可以编辑先前创建的视角信息(例如,由用户先前设置或存储的视角信息、由广播站先前设置的视角信息等)。
先前创建的视角信息不仅可以被用于初始被定为目标的360度图像,而且可以用于另一360度图像。例如,当创建用于跟踪在包括5个歌手的歌手组的360度音乐视频1内的中心歌手的视角信息时,所创建的视角信息可以被用在该歌手组的另一音乐视频(即360度音乐视频2)中。换句话说,用于跟踪中心歌手的视角信息可以被用在所有其他360度音乐视频中。
用户可以将视角信息发送或分发给另一用户或另一网络上。类似地,用户可以获得由其他用户或经由其他网络已经创建的视角信息。
提供360度内容的服务提供商可以创建与360度内容相关联的视角信息,并将所创建的360度内容与360度内容一起或与360度内容分离地提供给用户。因此,除了搜索360度内容之外,用户可以搜索与360度内容相关联的视角信息以找到期望的视角信息。
如上所述,由于360度图像包括大量信息,因此根据示例实施例的视角信息被独立地管理,并且因此,360度图像的大量信息可以被系统地和有效地管理。
图4是示出根据示例实施例的包括多个服务器和多个终端以管理360度图像的视角信息的系统400的示意图。
参见图4,系统400可以包括服务器410和420,终端430、440、450和460,终端组470,和网络405。
服务器410和420,终端430、440、450和460,和终端组470可以经由网络405彼此连接。
终端430、440、450和460以及终端组470可以包括包含处理器和显示器并且能够显示360度图像的任何电子设备或计算设备。
根据示例实施例,终端430、440、450和460以及终端组470可以显示360度图像,并且可以根据调整360度图像的视角的用户输入来创建包括至少一个视角值的视角信息。终端可以存储为360度图像创建的视角信息,并且可以通过使用所创建的视角信息来在稍后再现360度图像。因此,通过在观看360度图像的同时选择360度图像的期望移动方向、并且创建和存储用于跟踪所选择的移动方向的视角信息,用户可以通过使用已经创建的视角信息来再现360度图像,而不需要在稍后再次观看360度图像时重新调整视角,从而方便地在期望方向观看360度图像。
根据示例实施例,终端430、440、450和460以及终端组470可以容易地校正或编辑所创建的视角信息。
终端组470可以包括TV 471、个人计算机(PC)472、和智能电话473。例如,用户可以通过使用PC 472来创建和存储与360度图像对应的视角信息。当用户经由TV 471或智能电话473再现360度图像时,用户可以读出所创建的视角信息,并且可以通过使用与360度图像对应的视角信息来再现360度图像。
根据示例实施例,终端430、440、450和460以及终端组470可以经由网络405来将所创建的视角信息发送到其他终端或服务器410和420。
根据示例实施例,终端430、440、450和460以及终端组470可以从服务器410或420接收已经创建的视角信息,并且可以通过使用所接收的视角信息来再现360度图像。
根据示例实施例,服务器410和420可以从至少一个终端收集与360度图像对应的视角信息。服务器410和420可以根据某一标准来管理或排列所收集的多条视角信息。例如,服务器可以收集和管理为特定360度音乐视频而创建的至少一条视角信息,并且当存在来自终端的请求时,服务器可以将所请求的视角信息发送到终端。服务器可以是提供360度图像的服务提供商的服务器。服务器可以将视角信息与360度图像一起提供或独立于360度图像提供。
因此,图4的视角信息管理系统400可以独立地创建、管理、和分发用于将来对其的需求增加的360度图像内容的视角信息,从而满足消费360度内容的用户的各种需求。
图5是根据示例实施例的创建并存储与360度图像对应的视角信息的图像显示装置100a的结构的框图。图5的图像显示装置100a可以是图1的图像显示装置100的示例实施例。
参考图5,图像显示装置100a可以包括传感器160、通信器150、控制器130、存储器120、和显示器110。
显示器110可以通过转换由控制器130处理的图像信号、数据信号、屏幕显示(on-screen display,OSD)信号、和控制信号来生成驱动信号。显示器110可以是等离子显示面板(plasma display panel,PDP)、液晶显示器(liquid-crystal display,LCD)、有机发光设备(organic light-emitting device,OLED)、柔性显示器、或三维(3D)显示器。显示器110可以被配置为触摸屏,并且因此可以充当输入设备以及输出设备。
显示器110可以显示与360度图像的对应于某一视角的区域对应的图像。响应于调整视角的用户输入,显示器110还可以显示与所述某一视角被调整到的视角对应的图像。
传感器160可以感测用户输入并将与所感测的用户输入对应的信号发送到控制器130。从控制装置30接收并由传感器160感测的用户输入的示例可以包括接通/断开电源、选择频道、提高和降低频道、以及设置屏幕。此外,传感器160可以感测:用于移动来自360度图像中的、在显示器110上所显示的区域的位置的输入,用于放大或缩小在显示器110上所显示的图像的输入,以及用于显示来自360度图像中的、与特定位置处的区域对应的图像的输入。
控制器130可以处理图像信号并将经处理的图像信号发送到显示器110。因此,与经处理的图像信号对应的图像可以被显示在显示器110上。控制器130可以经由由传感器160检测到的用户命令或内部程序来控制图像显示装置100a。
例如,根据示例实施例,控制器130可以根据所检测的用户输入,移动来自360度图像中的、在显示器110上所显示的区域的位置,并且可以控制显示器110显示与经移动的区域对应的图像。
控制器130可以根据所感测的放大或缩小输入,来减小或增大来自360度图像中的、在显示器110上所显示的区域的范围。
根据示例实施例,控制器130可以创建包括由用户选择的至少一个视角值的视角信息以再现360度图像,并且可以将所创建的视角信息存储在存储器120中。每个视角值可以包括关于应用视角的时间或帧的信息、表示视角的方向信息和大小信息、以及缩放大小信息。
根据示例实施例,控制器130可以再现与被包括在被存储在存储器120中的视角信息中的至少一个视角值对应的360度图像。
根据示例实施例,控制器130可以将视角信息存储在360度图像的文件中,或者存储在与360度图像的文件分离的元文件中。
根据示例实施例,视角信息可以对应于被包括在360度图像中的对象,并且还可以包括用于识别对象的信息。
根据示例实施例,控制器130可以接收与被选择以再现360度图像的至少一个视角值对应的用户输入,该360度图像与构成360度内容的多个文件中的至少一个对应,并且控制器130可以创建包括与至少一个文件对应的至少一个所选择的视角值和与每个视角值对应的文件标识符的视角信息。
存储器120可以包括操作系统(operating system,OS)、由控制器130处理的数据、以及由控制器130执行的至少一个指令。
具体地,存储器120可以存储由控制器130创建的视角信息以包括被选择以再现360度图像的至少一个视角值。
通信器150使得图像显示装置100a能够与其他电子设备通信。通信器150可以将所创建的视角信息或被存储在存储器120中的视角信息发送到外部。
图6是根据示例实施例的通过使用与360度图像对应的视角信息来再现360度图像的图像显示装置100b的结构的框图。图6的图像显示装置100b可以是图1的图像显示装置100的示例实施例。
参考图6,图像显示装置100b可以包括显示器110、存储器120、控制器130、和通信器150。
显示器110和存储器120的功能与图5的那些的功能重叠,并且因此将省略其详细描述。
通信器150可以与服务器600的通信器620执行通信。通信器150可以在控制器130的控制下向服务器600请求与360度图像对应的视角信息,并且可以接收响应于对视角信息的请求的、来自服务器600的视角信息。
通信器150可以将对应于360度图像的视角信息与360度图像一起接收或独立于360度图像接收该视角信息,或者360度图像可以提前被存储在图像显示装置100b的存储器120中。
控制器130可以获得360度图像和视角信息,该视角信息包括被选择以再现360度图像的至少一个视角值,并且控制器130可以根据被包括在所获得的视角信息中的至少一个视角值来显示360度图像。每个视角值可以包括关于应用视角的时间或帧的信息、表示视角的方向信息和高度信息、以及缩放大小信息。
控制器130可以从内部存储器获得视角信息或者可以经由通信接口从服务器600接收视角信息。
控制器130可以从360度图像的文件中提取视角信息,或者可以从与360度图像的文件分离的元文件获得视角信息。
服务器600可以提供与360度图像对应的视角信息。服务器600可以包括控制器610、通信器620、和存储器630。
响应于图像显示装置100b的视角信息请求,通信器620可以发送被存储在存储器630中的视角信息。通信器620可以从图像显示装置100b或从另一终端接收视角信息。
控制器610控制包括通信器620和存储器630的服务器600的所有组件。控制器610可以管理与360度图像对应的视角信息。
根据示例实施例,控制器610可以管理与多个360度图像中的每一个对应的至少一条视角信息。可以为单个360度图像创建多条视角信息,并且可以管理所述多条视角信息。
根据示例实施例,由多个编辑者或制造者创建的多条视角信息可以为一个360度图像存在。
根据示例实施例,与被包括在一个360度图像中的多个对象中的每一个对应的视角信息可以存在。例如,在包括一包括5个歌手的歌手组的音乐视频的360度图像的情况下,可以存在用于跟踪每个歌手的视角信息。
根据示例实施例,控制器610可以管理可以为一个360度图像生成的多条视角信息。换句话说,控制器610可以管理可以为一个360度图像创建的多条视角信息,并且可以控制用户从所述多条视角信息中选择期望的视角信息。
控制器610可以通过监测例如多条视角信息的点击数或其受欢迎程度来向用户推荐多条视角信息中的至少一个。
当控制器610从图像显示装置100b接收搜索针对360度图像的视角信息的请求时,控制器610可以从被存储在存储器630中的或被存储在所连接的外部计算机中的数据库中搜索与360度图像对应的所请求的视角信息,并且可以将视角信息提供给图像显示装置100b。搜索视角信息的请求可以包括360度图像的标识符,或者包括360度图像的部分所捕获的图像。当搜索视角信息的请求包括360度图像的标识符时,控制器610可以搜索与360度图像的标识符相对应的视角信息。当搜索视角信息的请求包括360度图像的部分所捕获的图像时,控制器610可以通过使用各种图像分析算法来找到包括部分所捕获的图像的360度图像的标识符,并且可以搜索与360度图像的标识符对应的视角信息。
图7是根据示例实施例的创建视角信息和/或通过使用视角信息来再现360度图像的图像显示装置100c的结构的框图。图7的图像显示装置100c可以是图1的图像显示装置100的示例实施例。
参考图7,图像显示装置100c除了控制器130、显示器110、和传感器160之外还可以包括视频处理器180、音频处理器115、音频输出接口125、电源190、调谐器140、通信器150、输入/输出接口170、和存储器120。
关于控制器130、显示器110、和传感器160,将不会重复参考图5描述的元件和特征。
视频处理器180处理由图像显示装置100c接收的视频数据。视频处理器180可对所接收的视频数据执行诸如解码、缩放、噪声过滤、帧速率变换、和分辨率变换的各种图像处理。
图形处理器181通过使用运算单元和渲染单元来生成包括诸如图标、图像、和文本的各种对象的屏幕图像。运算单元基于由传感器160感测到的用户输入,来计算诸如坐标值、形状、大小、颜色等的属性值,其中每个对象要根据屏幕图像的布局利用所述属性值被显示。渲染单元基于由运算单元计算的属性值,来生成包括对象的、各种布局的屏幕图像。由渲染单元生成的屏幕图像被显示在显示器110的显示区域上。如上参考图1所述,图形处理器181可以将平面形状的360度图像映射到球形以生成球形的360度图像。
在控制器130的控制下,显示器110在其屏幕上显示被包括在经由调谐器140接收的广播信号中的视频。显示器110还可以显示经由通信器150或输入/输出接口170输入的内容(例如,运动图片)。显示器110可以在控制器130的控制下输出被存储在存储器120中的图像。显示器110还可以显示用于执行与语音识别对应的语音识别任务的语音用户接口(userinterface,UI)(例如,包括语音命令词指南)、或者用于进行与运动识别(例如,手势识别)对应的运动识别任务的运动UI(例如,包括用于运动识别和手势识别的用户运动指南)。
音频处理器115处理音频数据。音频处理器115可以对音频数据执行诸如解码、放大、或噪声过滤的各种处理。音频处理器115可以包括多个音频处理模块以处理与多条内容对应的音频。
在控制器130的控制下,音频输出接口125输出被包括在经由调谐器140接收的广播信号中的音频。音频输出接口125还可以输出经由通信器150或输入/输出接口170输入的音频(例如,语音或声音)。音频输出接口125还可以在控制器130的控制下输出被存储在存储器190中的音频。音频输出接口125可以包括从扬声器126、耳机输出端口127、和索尼/飞利浦数字接口(Sony/Philips Digital Interface,S/PDIF)输出端口128中选择的至少一个。音频输出接口125可以包括扬声器126、耳机输出端口127、和S/PDIF输出端口128的任何组合。
调谐器140可以调谐和仅选择图像显示装置100c想要从经由有线或无线广播信号的放大、混合、共振等获得的许多无线电波分量中接收的频道的频率。广播信号包括音频、视频、和附加信息(例如,电子节目指南(electronic program guide,EPG))。
调谐器140可以根据用户输入(例如,从控制装置30接收的控制信号,例如,频道号输入、频道上下输入、和在EPG屏幕图像上的频道输入)在与频道号(例如,有线广播号506)对应的频带中接收广播信号。
调谐器140可以从诸如地面广播、有线广播、卫星广播、和因特网广播的各种来源接收广播信号。调谐器140还可以从诸如模拟广播或数字广播的来源接收广播信号。经由调谐器140接收的广播信号被解码(例如,音频解码、视频解码、或附加信息解码)并且因此被划分成音频、视频、和/或附加信息。音频、视频、和/或附加信息可以在控制器130的控制下被存储在存储器120中。
图像显示装置100c可以包括单个调谐器140或多个调谐器140。调谐器140可以与图像显示装置100c一体化,或者被实现为具有被电连接到图像显示装置100c的调谐器的单独的装置(例如,被连接到机顶盒和输入/输出接口170的调谐器)。
通信器150可以在控制器130的控制下将图像显示装置100c连接到外部装置(例如,音频装置)。控制器130可以向/从经由通信器150连接的外部装置发送/接收内容、从外部装置下载应用、或执行网络浏览。通信器150可以包括与图像显示装置100c的性能和结构对应的无线局域网(local area network,LAN)151、蓝牙接口152、或有线以太网接口153。通信器150可以包括无线LAN 151、蓝牙接口152、和有线以太网接口153的组合。通信器150可以在控制器130的控制下接收控制装置30的控制信号。控制信号可以被实现为蓝牙信号、射频(radio frequency,RF)信号、或Wi-Fi信号。
除了蓝牙接口152之外,通信器150还可以包括短距离通信(例如,近场通信(nearfield communication,NFC)或蓝牙低能耗(Bluetooth low energy,BLE))。
根据示例实施例,通信器150可以向服务器请求与360度图像对应的视角信息,并且可以接收响应于该请求的来自服务器的视角信息。
传感器160感测用户的声音、用户的图像、或与用户的交互,并且可以包括麦克风161、相机162、和光接收器163。
麦克风161接收用户的发出的声音。麦克风161可以将所接收的语音变换为电信号并将该电信号输出到控制器130。用户语音可以包括例如与图像显示装置100c的菜单或功能对应的语音。根据示例实施例,可以经由麦克风161来接收控制视角的用户输入。
相机162可以捕获与包括在相机162的识别范围内的手势的用户的运动对应的图像(例如,连续的帧)。控制器130可以通过使用所接收的运动的识别的结果,来选择被显示在图像显示装置100c上的菜单,或执行与运动识别的结果对应的控制。例如,控制可以是频道调整、音量调整、指示符移动、光标移动、和来自360度图像中的在显示器上所显示的区域的移动。
光接收器163经由显示器110的边框的光窗来从控制装置30接收光学信号(例如,控制信号)。光接收器163可以从控制装置30接收与用户输入(例如,触摸、按压、触摸手势、语音、或运动)对应的光学信号。可以在控制器130的控制下从所接收的光学信号提取控制信号。例如,可以经由光接收器163来接收控制视角的用户输入。
输入/输出接口170在控制器130的控制下从图像显示装置100c外面接收视频(例如,运动图片)、音频(例如,语音或音乐)、以及附加信息(例如,EPG)。输入/输出接口170可以包括高清多媒体接口(High-Definition Multimedia Interface,HDMI)端口171、组件插口172、PC端口173、或USB端口174。输入/输出接口170可以包括HDMI端口171、组件插口172、PC端口173、和USB端口174的任何组合。
控制器130控制图像显示装置100c的总体操作和图像显示装置100c的内部组件中的信号传送,并处理数据。当存在用户的输入或满足所存储的预设条件时,控制器130可以执行被存储在存储器120中的OS和各种应用。
控制器130可以包括存储由图像显示装置100c的外部源输入的信号或数据、或者被用作用于由图像显示装置100c执行的各种操作的存储区域的随机存取存储器(random-access memory,RAM);存储用于控制图像显示装置100c的控制程序的只读存储器(read-only memory,ROM);和处理器。
控制器130可以通过执行被存储在存储器120中的至少一个指令,来在再现360度图像的同时创建视角信息,该视角信息包括与控制视角的用户输入对应的至少一个视角值。
控制器130可以通过使用被存储在存储器120中的视角信息或从服务器接收的视角信息来再现360度图像,或者可以通过执行被存储在存储器120中的至少一个指令来编辑视角消息。
处理器可以包括用于执行视频图形处理的图形处理单元。可以通过使用其中并入核心和GPU(Graphics Processing Unit,图形处理单元)的片上系统(System On Chip,SoC)来实现该处理器。处理器可以包括单核、双核、三核、四核、或其多核。
处理器可以包括多个处理器。例如,可以通过使用主处理器和在睡眠模式下操作的子处理器来实现处理器。
存储器120可以在控制器130的控制下存储用于驱动和控制图像显示装置100c的各种数据、程序、或应用。存储器120可以存储与视频处理器180、显示器110、音频处理器115、音频输出接口125、电源190、调谐器140、通信器150、传感器160、和输入/输出接口170的驱动对应的输入/输出信号或数据。存储器120可以存储用于控制图像显示装置100c和控制器130的控制程序、最初由制造商提供或从图像显示装置100c外面下载的应用、与应用相关联的图形用户界面(GUI)、用于提供GUI的对象(例如,图像文本,图标和按钮)、用户信息、文档、数据库、或相关的多条数据。
根据示例实施例,存储器120可以包括至少一个应用,其包括用于创建视角信息的至少一个指令、用于存储所创建的视角信息的至少一个指令、用于读出所存储的视角信息的至少一个指令、用于编辑所读出的视角信息的至少一个指令、以及用于通过使用视角信息来再现360度图像的至少一个指令。
根据示例实施例,术语“存储器”包括存储器120、控制器130的ROM或RAM、或被安放在图像显示装置100c中的存储卡(例如,微型SD卡或USB存储器)。存储器120可以包括非易失性存储器、易失性存储器、硬盘驱动器(hard disk drive,HDD)、或固态驱动器(solidstate drive,SSD)。
具有显示器110的图像显示装置100c可以被电连接到具有调谐器的外部装置(例如,机顶盒)。例如,可以通过使用模拟TV、数字TV、3D TV、智能TV、LED TV、OLED TV、等离子TV、监视器等来实现图像显示装置100c,但是本领域普通技术人员将理解示例实施例不限于此。
在图5和图6中示出的图像显示装置100a和110b的框图仅仅是示例实施例。当实际实现时,可以根据图像显示装置100的规格来组合或省略在图5和图6中示出的组件,或者可以在图5和图6的框图中包括附加组件。换句话说,两个或更多个组件可以被组合成单个组件,或者单个组件可以被分成两个或更多个组件。在每个块中执行的功能仅仅是用于解释示例实施例的示例,并且每个块的详细操作或设备不限制示例实施例的范围。
根据示例实施例,现在将描述创建视角信息的方法。
图8是根据示例实施例的在图像显示装置中创建视角信息的方法的流程图。
参考图8,在操作S810中,图像显示装置可以获得被选择以再现360度内容的至少一个视角值。
图像显示装置可以在再现360度内容的同时接收包括用于控制360度内容的视角的事件的用户输入。例如,用户可以通过使用控制装置30来控制视角,或者当使用包括触敏屏幕的图像显示装置时,用户可以经由在触敏屏幕上的手指移动来控制视角。图像显示装置可以从用于控制视角的这样的用户输入获得至少一个视角值。
在操作S820中,图像显示装置可以创建包括所获得的至少一个视角值的视角信息。
图像显示装置可以将视角信息存储在360度内容的文件中或存储在与360度内容的文件分离的文件中。
现在将参考图9至图11更详细地描述创建视角信息的方法。
图9是示出在360度图像的再现期间调整视角的必要性的示例的参考图。
参考图9,参考标号910指示在一秒处的360度图像,参考标号920指示在三秒处的360度图像,参考标号930指示在五秒处的360度图像。经由360度图像,用户可以在一个时间点示出与360度的任何视角对应的图像。然而,当用户不操纵视角时,360度图像的视角可以不改变,并且可以仅示出在一个视角的360度图像的部分。在如图9所示的360度图像中,如果没有视角调整,则用户可以从图像920和930中观看在其中未适当示出对象(例如,人)的无意义的图像。因此,在这种情况下,360度图像的视角调整是必要的。
图10是用于示出通过在360度图像的再现期间调整视角而获得的屏幕图像的参考图。参考图10,参考标号1010指示在一秒处的360度图像,参考标号1020指示在三秒处的360度图像,参考标号1030指示在五秒处的360度图像。图像1010是像图9的图像910的在一秒处的图像。然而,参考图像1020,用户在三秒处的图像上将视角向右移动90度,因此可以在图像1020上显示期望的对象。在图像1030中,用户在五秒处的图像上将视角移动180度,因此可以示出360度图像的后部。
根据示例实施例,图像显示装置可以创建视角信息,该视角信息包括例如根据在三秒处的用户输入的视角值(即90度),以及根据在五秒处的用户输入的视角值(即180度)。
图11是示出根据示例实施例的基于360度图像生成视角元文件的方法的参考图。
参考图11,响应于在再现360度图像1100的同时在第一时间点调整视角的用户输入,图像显示装置可以生成第一视角条目1110。第一视角条目1110可以包括调整视角的时间点、和视角值。同样地,图像显示装置可以根据在第二时间点调整视角的用户输入来生成第二视角条目1120,并且可以根据在第三时间点调整视角的用户输入来生成第三视角条目1130。当收集了为360度图像1100生成的所有视角条目时,图像显示装置可以生成包括视角条目的视角元信息1140。
图12是示出根据示例实施例的通过使用基于360度图像而生成的视角元信息来再现360度图像的方法的参考图。
参考图12,当再现360度图像1100时,图像显示装置可以通过使用预生成的视角元信息1140来调整视角。换句话说,当再现360度图像1100时,图像显示装置可以参考被包括在视角元信息1140中的视角条目的时间信息,并且当与时间信息对应的时间到达时,可以将360度图像调整为被包括在视角条目中的视角值。详细地说,当被包括在第一视角条目1110中的第一时间点到达时,图像显示装置可以将360度图像调整为被包括在第一视角条目1110中的视角值。同样地,当被包括在第二视角条目1120中的第二时间点到达时,图像显示装置可以将360度图像调整为被包括在第二视角条目1120中的视角值,并且当被包括在第三视角条目1130中的第三时间点到达时,图像显示装置可以将360度图像调整为被包括在第三视角条目1130中的视角值。
因此,图像显示装置通过使用包括至少一个视角值的视角元信息来再现360度图像,从而使得360度图像能够根据预创建的视角跟踪信息被再现。
图13A和图13B是示出根据示例实施例的视角信息的存储位置的参考图。
参考图13A,视角信息1320可以与360度内容1310一起被存储在360度内容文件1300的部分中。换句话说,视角信息1320可以构成360度内容文件1300。
参考图13B,视角信息1320可以与360度内容文件1300分离地存储在视角信息元文件1330中。当将视角信息作为与360度内容文件分离的文件进行管理时,编辑视角信息可以更容易,并且传播视角信息可以较方便。
图14是用于示出根据示例实施例的视角信息的示例的示意图。
参考图14,可以为单个360度内容文件创建视角信息1400。视角信息1400可以包括至少一个视角条目。每个视角条目1410可以包括关于调整视角的时间点的信息1411、视角值1412和缩放值1413。时间信息1411不一定被表示为时间,并且可以被表示为帧号,只要该帧号能够表示视角被控制的时间点。视角值1412可以包括例如视角的x坐标和y坐标。缩放值1413可以指示表示放大或缩小的程度的大小。
图15是用于示出作为图14的视角信息1400的示例的视角信息1500的框图。
参考图15,视角信息1500可以包括视角条目1510、视角条目1520、和视角条目1530。每个视角条目可以包括时间信息、视角值、和缩放值。例如,视角条目1510指示1000ms作为时间信息1511,指示x=90、y=0作为视角值1512,并且指示0作为缩放值1513。
图16是用于示出根据示例实施例的视角信息的示例的示意图。
360度内容可以包括多个文件。例如,可以通过使用多个360度相机而不是使用单个360度相机来产生音乐视频。可以通过同时使用三个360度相机来拍摄单个场景,从而获得三个360度内容文件,其中,在该三个360度相机中,第一相机被布置在前面,第二相机被布置在左边,并且第三相机被布置在右边。
当360度内容包括如上所述的多个文件时,可以为所述多个文件创建单一的一条视角信息。换句话说,用户可以通过例如在第一时间部分中再现第一文件的同时调整视角、和在紧接着第一时间部分之后的第二时间部分中再现第二文件的同时调整视角,来将关于所述多个文件的视角调整信息包括在单个视角信息文件中。
参考图16,360度内容包括第一、第二、和第三360度内容文件。与360度内容对应的视角信息1600可以包括至少一个视角条目。每个视角条目1610可以包括文件标识符1611、时间信息1612、视角值1613、和缩放值1614。时间信息1612、视角值1613、和缩放值1614类似于参考图14所描述的时间信息1411、视角值1412、和缩放值1413,并且文件标识符1611可以指示被应用对应的视角值的360度内容文件的标识符。例如,视角条目可以指示第一360度内容文件的标识符,并且另一视角条目可以指示第二360度内容文件的标识符。
图17是根据示例实施例的包括对象信息的视角信息的框图。
根据示例实施例,视角信息还可以包括对象信息。当如图3B所示,用户为被包含在360度内容中的多个对象中的一个创建视角信息时,视角信息还可以包括对象信息。例如,当由跟踪来自出现在360度音乐视频中的多个歌手中的歌手A并且将360度图像调整到歌手A出现的视角的用户创建了视角信息时,视角信息可以包括作为对象信息的、关于作为对应对象的歌手A的信息。
参考图17,视角信息1700可以包括对象信息1710、视角条目1720、视角条目1730、和视角条目1740。视角条目1720、1730、和1740类似于参考参考图14至图16描述的那些视角条目。对象信息1710被用于识别与视角信息1700对应的对象,因此对象信息1710可以包括对象标识符。对象是在360度内容中出现的实体,并且因此可以是可以根据视角被跟踪的任何实体。例如,对象可以是诸如在音乐视频中出现的歌手、在体育视频中出现的运动员或球、在各种视频中出现的对象、动物等的任何实体。
用户可以在再现360度内容的同时手动创建视角信息或者视角信息可以被自动创建。
图18是示出根据示例实施例的自动生成视角信息的示例的参考图。
参考图18,在自动模式下,用户可以选择用于自动存储视角信息的菜单选项。用户可以在播放(例如,开始再现)360度内容之前或在360度内容的再现期间的任何时间选择菜单选项。图像显示装置100可以例如在显示器上显示消息1840以指示正在存储视角信息(例如,视角信息的自动存储)的状态。
在自动模式中,图像显示装置100可以在360度内容的再现期间存储作为视角信息的、当由用户做出的视角控制事件发生时根据该视角控制事件确定的视角值。视角控制事件可以是表示通过使用控制装置30、手指等已经发生的控制视角的用户输入的事件。
参考图18,在当由用户做出的视角控制事件发生时的第一时间、第二时间、以及第三时间,图像显示装置100可以自动生成包括与对应视角控制事件对应的视角值的视角条目1810、1820、和1830,并且将视角条目1810、1820、和1830自动存储为视角信息1800。换句话说,当用户在观看360度内容的同时将360度内容简单地控制到期望的视角时,图像显示装置可以自动创建作为视角信息的输入视角值。
图19是示出根据示例实施例的手动创建视角信息的示例的参考图。
在手动模式中,用户可以通过在观看360度内容的同时在期望的时刻暂停屏幕图像并通过进入编辑模式来存储视角信息。
参考图19,用户可以在用户想要存储视角信息的时刻暂停屏幕图像的再现并进入编辑模式。当用户已经进入编辑模式时,图像显示装置可以在用户想要存储视角信息的时间点附近在显示器上显示几个视频帧1910、1920、和1930。用户可以从在显示器上所显示的几个视频帧1910、1920、和1930中选择在其上想要视角被控制的视频帧,并且可以控制所选择的视频帧的视角。当用户选择视角并且然后选择在显示器上所显示的<存储>菜单1950时,图像显示装置可以通过使用从所选择的视频帧中选择的视角值来生成视角条目1960,并且可以将视角条目1960存储在视角信息1900中。
根据示例实施例,用户可以编辑所创建的视角信息。当将视角信息创建为独立于360度内容的视角信息文件时,视角信息文件可以被存储在例如文本文件中,并且因此用户可以打开文本文件并容易地校正或编辑视角信息。
根据示例实施例,用户可以打开包括视角信息的文本文件,并且校正或编辑包括被在视角条目中的视角值或缩放值。
根据示例实施例,图像显示装置可以自动地校正所创建的视角信息。例如,由于通过用户的视角控制而创建的视角信息可以包括视角值,使得再现根据通过用户的视角控制的熟练程度而不方便。例如,当用户在短时间段内快速地改变缩放值或快速改变视角时,根据为该改变而创建的视角信息的360度内容的再现可能是不自然的并且可能对于用户是麻烦的。因此,图像显示装置可以通过扫描被包括在所创建的视角信息中的视角条目的视角值和缩放值,来搜索导致不自然的图像再现的时间部分,并且可以插入使得在所发现的时间部分期间能够自然地再现图像的调整条目。
图20是用于示出根据示例实施例的包括调整条目的视角信息的示意图。
参考图20,视角信息2000包括第一至第五视角条目。图像显示装置可以通过扫描被包括在视角信息2000中的第一至第五视角条目来搜索导致不自然的图像再现的时间部分,并且可以将调整条目2010插入到视角信息2000中。可以在视角条目之间插入调整条目,并且可以包括使得视角值能够被平滑地改变的指令或者使得缩放值能够被平滑地改变的指令。例如,当在由视角条目指示的时间点之间的时间段期间超过预定阈值的视角值被改变时,图像显示装置可以插入调整条目。可替换地,在由视角条目指示的时间点之间的时间段期间超过预定阈值的缩放值被改变时,图像显示装置可以插入调整条目。
图21是针对示出图20的调整条目2010的示例的示意图。
参考图21,视角信息2100可以包括视角条目2110、视角条目2120、和视角条目2130。图像显示装置可以扫描视角条目2120和2130并且发现在3000ms和5000ms之间的时间段期间视角的x坐标从90度迅速地改变为370度。图像显示装置可以检查出视角在2000ms的时间段期间被改变了280度,并且可以将该改变确定为对于用户是麻烦的视角改变。在这种情况下,图像显示装置可以在视角条目2120和2130之间插入调整条目2140。调节条目2140可以包括指令Direction=Smooth(value)。指令Direction=Smooth(value)可以指在被包括在视角条目2120中的时间值与被包括在视角条目2130中的时间值之间再现帧的指令,其中该帧的数量对应于指令中的“value”。例如,当Direction=Smooth(100)时,这可以意味着在由视角条目2120指示的时间点与由视角条目2130指示的时间点之间要再现100帧。调整条目的这个插入可以平滑(smooth)360度内容的再现。
根据示例实施例,用户可以将参考图20描述的调整条目直接输入到构成视角信息的文本文件。
图22是根据示例实施例的通过使用所创建的视角信息来再现360度内容的方法的流程图。
参考图22,在操作S2210中,图像显示装置可以获得360度图像和视角信息。
根据示例实施例,图像显示装置可以从存储360度图像的文件或独立于存储360度图像的文件的文件获得视角信息。
根据示例实施例,图像显示装置可以从被包括在图像显示装置中的存储器或从提供视角信息的服务器获得视角信息。
视角信息可以是为360度图像初始创建的视角信息或者为另一360度图像初始创建的视角信息。
根据示例实施例,360度图像可以用单个文件或多个文件构造。
在操作S2220中,图像显示装置可以通过使用所获得的视角信息来再现360度图像。
图像显示装置可以通过参考在被包括在视角信息中的视角条目中包括的时间信息、视角值、和缩放值来在360度图像的再现期间确定视角或缩放程度。详细地,图像显示装置可以在由视角条目指示的时间点处,将视角值改变为被包括在视角条目中的视角值,并且显示与所改变的视角对应的区域的图像。图像显示装置可以将缩放大小调整为被包括在视角条目中的缩放值,根据所调整的缩放大小来放大或缩小图像,并且显示所放大或所缩小的图像。
根据示例实施例,当图像显示装置在通过参考视角信息的360度图像的再现期间接收用于控制视角的用户输入时,图像显示装置可以根据各种方案来操作。
根据示例实施例,当图像显示装置在通过参考视角信息的360度图像的再现期间接收用于控制视角的用户输入时,图像显示装置可以忽略视角信息,并再现对应于根据控制视角的用户输入的视角的图像。
根据示例实施例,当图像显示装置在通过参考视角信息的360度图像的再现期间已经接收到控制视角的用户输入时,图像显示装置可以再现对应于根据控制视角的用户输入的视角的图像,并且可以在一段时间(例如,30秒)已经过去之后再次参考视角信息来再现360度图像。换句话说,当图像显示装置在通过参考视角信息的360度图像的再现期间接收控制视角的用户输入时,图像显示装置可以在用户输入已经被接收到之后的一段时间期间通过根据用户输入来调整视角来再现图像,并且可以在一段时间已经过去之后再次回来参考视角信息来再现360度图像。
图23是示出根据示例实施例的当视角信息被构造为与360度内容分离的文件时的应用的多功能性的参考图。
参考图23,可以存在第一360度内容2310、第二360度内容2320、第一视角信息文件2330、第二视角信息文件2340、第三视角信息文件2350、和第四视角信息文件2360。
第一视角信息文件2330至第四视角信息文件2360可以被用于再现第一360度内容2310。类似地,第一视角信息文件2330至第四视角信息文件2360也可以被用于再现第二360度内容2320。
在其中视角信息文件可用于如图23所示的多个内容的项目的情况可以被用于包括多个歌手的音乐组的360度音乐视频中。例如,在包括多个歌手的音乐组的情况下,通常指定特定歌手的位置。因此,当为位于歌手组的第一音乐视频的中心的歌手A生成视角信息文件时,歌手A很可能也位于歌手组的第二音乐视频的中心,并且在第二音乐视频中的歌手A的运动线很可能类似于在第一音乐视频中的运动线。在这种情况下,为第一音乐视频创建的视角信息文件可以与第二音乐视频一起被使用。
图24是根据示例实施例的图像显示装置经由其显示360度内容的视角信息的用户接口。
参考图24,用户接口2400可以显示关于360度内容的多个项目的信息。关于360度内容的多个项目中的一个的信息2410可以包括一个360度内容的缩略图像2411、一个360度内容的文件标识符2412、对应于一个360度内容所存储的视角信息的视角信息按钮2413、视角信息搜索按钮2414、和再现按钮2415。
根据视角信息按钮2413的选择,图像显示装置可以将被存储在图像显示装置的本地存储装置中的文件显示为针对一个360度内容创建的至少一个视角信息文件。
根据视角信息搜索按钮2414的选择,图像显示装置可以经由网络向服务器发送搜索为360度内容创建的视角信息文件的请求,可以接收响应于请求的视角信息文件列表,并且可以显示所接收的视角信息文件列表。
图25是示出根据示例实施例的可以为360度内容的一个项目创建和维护的各种类型的视角信息文件的参考图2500。
参考图25,对于单个360度内容文件2510,可以存在由至少一个编辑者创建的视角信息文件。例如,在图25中,存储由编辑者A、编辑者B、和编辑者C分别创建的视角信息文件2570、2580、和2590。
当360度内容文件2510包括多个对象时,可以为每个对象创建至少一个视角信息文件。参考图25,为在360度内容文件2510中出现的歌手A创建三个视角信息文件2520、2530、和2540。第一视角信息文件2560对应于歌手B被存储。因此,由于可以为甚至单个360度内容文件创建多个视角信息文件,用户可以具有在360度内容文件的再现期间可以被选择的大范围的视角信息文件。
如图25所示的用于存储视角信息文件的数据库可以被存储在提供360度内容的服务器中。这样的数据库可以存在于终端内。
图26是根据示例实施例的提供360度内容的服务器可以提供以选择视角信息的用户接口。
例如,当图24的视角信息搜索按钮2414被选择时,图像显示装置可以被连接到服务器并且可以显示图26的用户接口2600。
参考图26,用户接口2600可以显示360度内容的缩略图或预览图2610。用户接口2600可以根据在其中可以选择可用于再现360度内容的视角信息的各种类别来在下部(lower portion)显示视角信息。
用户接口2600可以显示用于根据对象的选择的菜单2620。例如,可选择的对象可以包括歌手A、歌手B、和歌手C。
用户接口2600可以显示用于根据点击数的选择的菜单2630。服务器可以根据视角信息文件的点击数或下载数对多个视角信息文件进行排序,并且可以向用户提供关于视角信息文件的排名的信息,由此用户可以选择更受欢迎的视角信息文件。
用户接口2600可以显示用于根据编辑者的选择的菜单2640。例如,可选择的编辑者可以包括编辑者A、编辑者B、和编辑者C。根据对360度内容的使用需求,可以出现专业编辑360度内容的专业人员。可替换地,360度内容创建者可以创建与360度内容创建者创建的360度内容一起可用的视角信息文件。因此,用户可能想要特定编辑者或特定制造者创建的视角信息文件,并且因此可以方便地使用菜单2640的提供(provision)。
图27是示出根据示例实施例的当360度内容包括多个对象并且通过跟踪多个对象中的一个来创建视角信息时在屏幕图像上显示对象的位置的方法的参考图。
参见图27,图像显示装置可以显示与360度图像的区域对应的图像2700,以及指示区域的位置的3D指示符2720。3D指示符2720可以是球形指示符或圆柱形指示符,但是示例实施例不限于此。3D指示符2720可以显示区域以指示区域的位置。球形的3D指示符2720可以被称为球图(ball map)。
根据示例实施例,图像显示装置可以通过使用通过跟踪被包括在360度图像中的多个对象中的一个而创建的视角信息来再现360度图像。此时,图像显示装置可以经由3D指示符2720指示当前正在被再现的图像是用于跟踪特定对象的信息。
参考图27,图像显示装置可以在3D指示符2720上将出现在当前正在被显示的360度图像上的多个对象显示为预设符号、字符、多边形等。在3D指示符2720上的表示对象的符号、字符、多边形等可以根据在360度图像上的对象的移动或转移来移动或被移动。例如,在图27中,表示歌手的对象在3D指示符2720上被表示为圆。此外,为了指示当前正在被再现的360度图像根据通过跟踪特定对象而创建的视角信息被显示,图像显示装置可以在3D指示符2720上所显示的多个圆中不同地显示与特定对象对应的圆。例如,参考图27,图像显示装置可以在3D指示符2720上将多个未被跟踪的对象显示为空心圆2721、2722、和2724以及将当前被跟踪的对象2710显示为实心圆2723。
多个对象中被用于视角信息跟踪的对象可以通过使用各种方法中的任何方法被显示成与其他对象区分开。例如,可以例如通过被表示为不同颜色或不同形状、通过用箭头指向与目标对象对应的多边形、或者通过仅使与目标对象对应的多边形闪烁来将目标对象和其他对象作区分。
现在将参考图28至图32描述在其中为包括多个文件的360度内容创建视角信息的示例实施例。
图28是用于示意性地解释用于为包括多个文件的360度内容管理视角信息的方案的参考图。
参考图28,图像显示装置可以为包括文件1、2、和3的360度内容2800生成单个视角信息文件2810。视角信息文件2810可以包括用于所有文件1、2、和3的视角信息。
此后,图像显示装置可以通过参考视角信息文件2810来再现包括文件1、2、和3的360度内容2800。因为视角信息文件2810包括用于文件1,2和3的视角信息,当参考视角信息文件2810时,图像显示装置可以可替换地再现文件1、2、和3。
图29是示出根据示例实施例的包括多个文件的360度内容的参考图。
例如,当使用多个360度相机拍摄单个场景时,诸如当使用多个360度相机拍摄运动比赛场景时或者当使用多个360度相机拍摄音乐会或音乐视频时,可以创建包括多个文件的360度内容。
参考图29,使用用于音乐视频拍摄或音乐会录制的三个相机,即相机2910、2920、和2930来拍摄场景2900。使用在舞台左侧的相机2910捕获的图像指示第一文件2940,使用在舞台前方的相机2930而捕获的图像指示第二文件2950,并且使用在舞台右侧的相机2920而捕获的图像指示第三个文件2960。
图30是示出根据示例实施例的通过使用图29的第一文件2940、第二文件2950、和第三文件2960来创建视角信息的方法的参考图。
参考图30,图像显示装置可以同时再现构成360度内容的第一文件2940、第二文件2950、和第三文件2960。第一文件2940、第二文件2950、和第三文件2960可以通过在单个屏幕图像上被彼此重叠来被显示,或者可以在多个子屏幕图像上被显示。当正在再现第一文件2940、第二文件2950、和第三文件2960的同时,用户可对第一文件2940、第二文件2950、和第三文件2960执行视角控制。
当在第一文件2940、第二文件2950、和第三文件2960开始被再现之后对第一文件2940的视角控制发生时,图像显示装置可以生成与第一文件2940相关联的视角条目3010。接下来,当对第三文件2960的视角控制发生时,图像显示装置可以生成与第三文件2960相关联的视角条目3020。当对第二文件2950的视角控制发生时,图像显示装置可以生成与第二文件2950相关联的视角条目3030。当对第三文件2960的视角控制发生时,图像显示装置可以生成与第三文件2960相关联的视角条目3040。当对第二文件2950的视角控制发生时,图像显示装置可以生成与第二文件2950相关联的视角条目3060。因此,当用户不仅对单个文件执行视角控制而且还对几个文件执行视角控制时,图像显示装置可以收集与受视角控制影响的文件相关联的视角条目,以生成视角信息文件3000。
图31是用于示出根据图30的操作而创建的视角信息文件的结构的示例的示意图。
参见图31,由于为多个文件创建视角条目,视角信息3000需要指示每个视角条目对应于哪个文件。因此,视角信息3000的每个视角条目还可以包括文件标识符。例如,与文件1相关联的每个视角条目3110可以包括时间信息、视角值、和缩放值以及指示文件标识符为1的信息。与文件3相关联的每个视角条目3120可以包括时间信息、视角值、和缩放值以及指示文件标识符为3的信息。与文件2相关联的每个视角条目3130可以包括时间信息、视角值、和缩放值以及指示文件标识符为2的信息。与文件3相关联的每个视角条目3140可以包括时间信息、视角值、和缩放值以及指示文件标识符为3的信息。与文件1相关联的每个视角条目3150可以包括时间信息、视角值、和缩放值以及指示文件标识符为1的信息。与文件2相关联的每个视角条目3160可以包括时间信息、视角值、和缩放值以及指示文件标识符为2的信息。
图32是示出通过使用如图31所示的视角信息来再现360度内容的方法的参考图。
参考图32,当通过使用第一文件2940、第二文件2950、和第三文件2960来再现360度内容时,图像显示装置可以参考视角信息3000。
例如,图像显示装置可以读出所存储的视角信息3000并且根据被包括在视角信息3000中的视角条目来再现360度内容。
详细地,图像显示装置可以在从最前面的视角条目开始扫描视角信息3000的同时,再现360度内容。因为与第一文件2940相关联的视角条目3010存在于视角信息3000的开始处,图像显示装置可以在第一文件2940的图像上显示与被包括在视角条目3010的每一个中的视角值对应的区域的图像。由于与第三文件2960相关联的视角条目3020存在于紧接着视角信息3000的开始处之后,图像显示装置可以在第三文件2960的图像上显示与被包括在视角条目3020的每一个中的视角值对应的区域的图像。图像显示装置可以在第二文件2950的图像上显示与被包括在视角条目3030的每一个中的视角值对应的区域的图像。图像显示装置可以在第三文件2960的图像上显示与被包括在视角条目3040的每一个中的视角值对应的区域的图像。图像显示装置可以在第一文件2940的图像上显示与被包括在视角条目3050的每一个中的视角值对应的区域的图像。图像显示装置可以在第二文件2950的图像上显示与被包括在视角条目3060的每一个中的视角值对应的区域的图像。以这种方式,图像显示装置可以参考被包括在视角信息中的每一个视角条目中的内容,即文件标识符、时间信息、视角值、和缩放值,并且因此可以在与文件标识符对应的文件的图像上显示与由时间信息指示的时间处的视角值对应的区域的图像,从而再现包括多个文件的360度内容。
根据示例实施例,用户在观看360度图像的同时存储与视角控制相关联的视角信息,并且因此读出并利用所存储的视角信息而不需要在下一个360度图像的再现期间再次控制视角,从而方便地观看360度图像。
此外,根据示例实施例,视角信息被创建和管理为与360度图像分离的文件,导致360度图像的利用率的增加。
根据示例实施例的操作图像显示装置的方法可以被具体实现为由各种计算机工具可执行的程序命令并且可以被记录在计算机可读记录介质上。计算机可读记录介质可以单独地或组合地包括程序命令、数据文件、数据结构等。可以为示例实施例具体设计和配置要被记录在计算机可读记录介质上的程序命令或者该程序命令可以是计算机软件领域的普通技术人员所熟知并且可以由其使用的。计算机可读记录介质的示例包括诸如硬盘、软盘、或磁带的磁介质,诸如光盘只读存储器(compact disk-read-only memory,CD-ROM)或数字通用光盘(digital versatile disk,DVD)的光学介质,诸如光磁盘的磁光介质,以及诸如ROM、随机存取存储器(RAM)、或闪速存储器的被具体配置为存储和执行程序命令的硬件设备。程序命令的示例是可以由计算机通过使用解释器等来执行的高级语言代码以及由编译器做出的机器语言代码。
虽然已经参考附图描述了一个或多个示例实施例,但是本领域普通技术人员将会理解,在不脱离由所附权利要求所定义的精神和范围的情况下,可以在示例实施例中在形式和细节上进行各种改变。
Claims (13)
1.一种图像再现装置,包括:
存储器,配置为存储指令;以及
处理器,被配置为执行指令以:
存储对应于360度内容中包括的一个或多个对象的一个或多个视角信息文件,每个视角信息文件包含用于识别与视角信息文件对应的对象的对象标识符和多个条目,所述多个条目的每个条目包括时间点和指示要在所述时间点显示的所述360度内容的区域的视角值;
获得所述360度内容;
显示图形用户界面,所述图像用户界面包括对应于所述360度内容中包括的一个或多个对象的一个或多个对象标识符和对应于针对每个视角信息文件的点击数的一个或多个排名标识符;
响应于接收通过所述图形用户界面选择所述一个或多个对象标识符中的对象标识符和选择所述一个或多个排名标识符中的排名标识符的用户输入,获得与选择的对象标识符和选择的排名标识符对应的视角信息文件;以及
根据获得的视角信息文件来再现所述360度内容,
其中与选择的对象标识符和选择的排名标识符对应的视角信息文件用于使用所述时间点和所述视角值跟踪标识的对象出现的一个或多个屏幕。
2.根据权利要求1所述的图像再现装置,其中所述多个条目的每个条目还包括缩放大小信息。
3.根据权利要求1所述的图像再现装置,还包括通信接口,
其中所述处理器还被配置为执行所述指令以控制所述通信接口从外部计算机接收所述360度内容的所述视角信息文件。
4.根据权利要求1所述的图像再现装置,其中所述图形用户界面还包括根据预设标准来从与所述360度内容对应的多条视角信息当中推荐的一个或多个视角信息文件。
5.根据权利要求1所述的图像再现装置,其中所述处理器还被配置为执行所述指令以从所述360度内容提取所述视角信息文件或者从与所述360度内容分离的元文件获得所述视角信息文件。
6.一种图像再现装置,包括:
存储器,被配置为存储指令;以及
处理器,被配置为执行指令以:
在再现360度内容的同时,接收用来选择跟踪所述360度内容中包括的对象的一个或多个视角值的用户输入;以及
创建对应于所述对象的所述360度内容的视角信息,所述视角信息文件包括用于识别与所述视角信息文件对应的对象的对象标识符、对应于点击数的排名标识符和多个条目,所述多个条目的每个条目包括时间点和指示要在所述时间点显示的所述360度内容的区域的视角值,
其中与对象标识符和排名标识符对应的视角信息文件用于使用所述时间点和所述视角值跟踪标识的对象出现的一个或多个屏幕。
7.根据权利要求6所述的图像再现装置,其中所述多个条目的每个条目还包括缩放大小信息。
8.根据权利要求6所述的图像再现装置,其中所述处理器还被配置为执行所述指令以在所述360度内容的文件中存储所述360度内容的所述视角信息文件,或者在与所述360度内容的文件分离的元文件中存储所述360度内容的所述视角信息。
9.一种操作图像再现装置的方法,所述方法包括:
存储对应于360度内容中包括的一个或多个对象的一个或多个视角信息文件,每个视角信息文件包含用于识别与视角信息文件对应的对象的对象标识符和多个条目,所述多个条目的每个条目包括时间点和指示要在所述时间点显示的360度内容的区域的视角值;
获得360度内容;
显示图形用户界面,所述图像用户界面包括对应于所述360度内容中包括的一个或多个对象的一个或多个对象标识符和对应于针对每个视角信息文件的点击数的一个或多个排名标识符;
响应于接收通过所述图形用户界面选择所述一个或多个对象标识符中的对象标识符和选择所述一个或多个排名标识符中的排名标识符的用户输入,获得与选择的对象标识符和选择的排名标识符对应的视角信息文件;以及
根据获得的视角信息文件来再现所述360度内容,
其中与选择的对象标识符和选择的排名标识符对应的视角信息文件用于使用所述时间点和所述视角值跟踪标识的对象出现的一个或多个屏幕。
10.根据权利要求9所述的方法,其中所述多个条目的每个条目还包括缩放大小信息。
11.根据权利要求9所述的方法,还包括从外部计算机接收所述360度内容的所述视角信息文件。
12.根据权利要求9所述的方法,其中所述图形用户界面还包括根据预设标准来从与所述360度内容对应的多条视角信息当中推荐的一个或多个视角信息文件。
13.根据权利要求9所述的方法,还包括从所述360度内容的文件提取所述视角信息文件,或者从与所述360度内容分离的元文件获得所述视角信息文件。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160103756A KR102567002B1 (ko) | 2016-08-16 | 2016-08-16 | 영상 표시 장치 및 그 동작방법 |
KR10-2016-0103756 | 2016-08-16 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107770627A CN107770627A (zh) | 2018-03-06 |
CN107770627B true CN107770627B (zh) | 2020-11-06 |
Family
ID=61191896
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710702848.2A Active CN107770627B (zh) | 2016-08-16 | 2017-08-16 | 图像显示装置和操作图像显示装置的方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US11062423B2 (zh) |
EP (1) | EP3375197B1 (zh) |
JP (1) | JP6746772B2 (zh) |
KR (1) | KR102567002B1 (zh) |
CN (1) | CN107770627B (zh) |
WO (1) | WO2018034462A1 (zh) |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10681326B2 (en) | 2016-05-19 | 2020-06-09 | AVAGO TECHNOLOGlES INTERNATIONAL SALES PTE. LIMITED | 360 degree video system with coordinate compression |
US11019257B2 (en) | 2016-05-19 | 2021-05-25 | Avago Technologies International Sales Pte. Limited | 360 degree video capture and playback |
US10848668B2 (en) * | 2016-05-19 | 2020-11-24 | Avago Technologies International Sales Pte. Limited | 360 degree video recording and playback with object tracking |
KR102598082B1 (ko) * | 2016-10-28 | 2023-11-03 | 삼성전자주식회사 | 영상 표시 장치, 모바일 장치 및 그 동작방법 |
KR20180051288A (ko) * | 2016-11-08 | 2018-05-16 | 삼성전자주식회사 | 디스플레이 장치 및 그 제어 방법 |
US10999602B2 (en) | 2016-12-23 | 2021-05-04 | Apple Inc. | Sphere projected motion estimation/compensation and mode decision |
US11259046B2 (en) | 2017-02-15 | 2022-02-22 | Apple Inc. | Processing of equirectangular object data to compensate for distortion by spherical projections |
US10924747B2 (en) | 2017-02-27 | 2021-02-16 | Apple Inc. | Video coding techniques for multi-view video |
US11093752B2 (en) | 2017-06-02 | 2021-08-17 | Apple Inc. | Object tracking in multi-view video |
US20190005709A1 (en) * | 2017-06-30 | 2019-01-03 | Apple Inc. | Techniques for Correction of Visual Artifacts in Multi-View Images |
US10754242B2 (en) | 2017-06-30 | 2020-08-25 | Apple Inc. | Adaptive resolution and projection format in multi-direction video |
US10664127B2 (en) * | 2017-12-29 | 2020-05-26 | Facebook, Inc. | Connected TV 360-degree media interactions |
KR102638162B1 (ko) * | 2020-01-30 | 2024-02-20 | 아마텔러스 인크. | 영상 배신 장치, 영상 배신 시스템, 영상 배신 방법 및 프로그램 |
US10845943B1 (en) * | 2020-02-14 | 2020-11-24 | Carmax Business Services, Llc | Systems and methods for generating a 360-degree viewing experience |
US11259081B2 (en) | 2020-02-28 | 2022-02-22 | Rovi Guides, Inc. | Systems and methods for adaptively modifying presentation of media content |
CN113473157B (zh) * | 2020-04-28 | 2022-08-12 | 海信集团有限公司 | 一种自由视点视角信息推荐方法以及相关设备 |
WO2022032589A1 (zh) * | 2020-08-13 | 2022-02-17 | 深圳市大疆创新科技有限公司 | 全景回放的方法、装置和系统、拍摄设备、可移动平台 |
EP4064691A1 (en) * | 2021-03-23 | 2022-09-28 | Ricoh Company, Ltd. | Communication management device, image communication system, communication management method, and carrier means |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101583010A (zh) * | 2008-05-14 | 2009-11-18 | 致伸科技股份有限公司 | 图像处理方法及图像处理系统 |
CN103676434A (zh) * | 2012-09-12 | 2014-03-26 | 株式会社理光 | 照明光源装置、投影装置以及控制该投影装置的方法 |
CN103703755A (zh) * | 2011-07-22 | 2014-04-02 | 富士胶片株式会社 | 全景图像产生方法和图像捕获设备 |
CN104199944A (zh) * | 2014-09-10 | 2014-12-10 | 重庆邮电大学 | 一种实现街景视图展示的方法及装置 |
Family Cites Families (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB0313866D0 (en) | 2003-06-14 | 2003-07-23 | Impressive Ideas Ltd | Display system for recorded media |
KR100827129B1 (ko) | 2006-10-28 | 2008-05-02 | 삼성전자주식회사 | 미디어 컨텐츠의 부가정보 제공 장치 및 방법 |
US8605133B2 (en) | 2007-06-27 | 2013-12-10 | University Of Florida Research Foundation, Inc. | Display-based interactive simulation with dynamic panorama |
KR101397433B1 (ko) | 2007-07-18 | 2014-06-27 | 삼성전자주식회사 | 미디어 파일 재생 장치에서 이퀄라이저를 설정하는 방법 및이를 위한 장치 |
US20120092348A1 (en) | 2010-10-14 | 2012-04-19 | Immersive Media Company | Semi-automatic navigation with an immersive image |
US20130129304A1 (en) * | 2011-11-22 | 2013-05-23 | Roy Feinson | Variable 3-d surround video playback with virtual panning and smooth transition |
CN103916582B (zh) | 2013-01-07 | 2017-09-29 | 华为技术有限公司 | 一种图像处理方法及装置 |
JP5825279B2 (ja) | 2013-02-27 | 2015-12-02 | ブラザー工業株式会社 | 端末装置及びプログラム |
JP6249202B2 (ja) * | 2013-05-10 | 2017-12-20 | ソニー株式会社 | 画像表示装置、画像表示方法、およびプログラム |
JP5942933B2 (ja) | 2013-07-04 | 2016-06-29 | ブラザー工業株式会社 | 端末装置、及びプログラム |
KR101518814B1 (ko) | 2013-09-11 | 2015-05-28 | (주) 메리제이콘텐츠 | 360도 서라운드 뷰 영상 데이터를 이용한 방송 컨텐츠의 저작방법 |
JP6434034B2 (ja) | 2013-09-13 | 2018-12-05 | インテル コーポレイション | 映像生成物共有装置及び方法 |
WO2015126144A1 (ko) | 2014-02-18 | 2015-08-27 | 엘지전자 주식회사 | 파노라마 서비스를 위한 방송 신호 송수신 방법 및 장치 |
US9699437B2 (en) | 2014-03-03 | 2017-07-04 | Nextvr Inc. | Methods and apparatus for streaming content |
US9754159B2 (en) | 2014-03-04 | 2017-09-05 | Gopro, Inc. | Automatic generation of video from spherical content using location-based metadata |
JP2015187797A (ja) | 2014-03-27 | 2015-10-29 | シャープ株式会社 | 画像データ生成装置および画像データ再生装置 |
CN106664443B (zh) * | 2014-06-27 | 2020-03-24 | 皇家Kpn公司 | 根据hevc拼贴视频流确定感兴趣区域 |
US9654844B2 (en) | 2014-09-12 | 2017-05-16 | Kiswe Mobile Inc. | Methods and apparatus for content interaction |
US20160234556A1 (en) * | 2015-02-11 | 2016-08-11 | Fan Media Network, Inc. | System and Method for Organizing, Ranking and Identifying Users as Official Mobile Device Video Correspondents |
KR20170055867A (ko) * | 2015-11-12 | 2017-05-22 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
KR102536945B1 (ko) * | 2016-08-30 | 2023-05-25 | 삼성전자주식회사 | 영상 표시 장치 및 그 동작방법 |
KR102598082B1 (ko) * | 2016-10-28 | 2023-11-03 | 삼성전자주식회사 | 영상 표시 장치, 모바일 장치 및 그 동작방법 |
-
2016
- 2016-08-16 KR KR1020160103756A patent/KR102567002B1/ko active IP Right Grant
-
2017
- 2017-08-10 US US15/673,924 patent/US11062423B2/en active Active
- 2017-08-11 EP EP17841645.9A patent/EP3375197B1/en active Active
- 2017-08-11 WO PCT/KR2017/008722 patent/WO2018034462A1/en unknown
- 2017-08-11 JP JP2019506662A patent/JP6746772B2/ja active Active
- 2017-08-16 CN CN201710702848.2A patent/CN107770627B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101583010A (zh) * | 2008-05-14 | 2009-11-18 | 致伸科技股份有限公司 | 图像处理方法及图像处理系统 |
CN103703755A (zh) * | 2011-07-22 | 2014-04-02 | 富士胶片株式会社 | 全景图像产生方法和图像捕获设备 |
CN103676434A (zh) * | 2012-09-12 | 2014-03-26 | 株式会社理光 | 照明光源装置、投影装置以及控制该投影装置的方法 |
CN104199944A (zh) * | 2014-09-10 | 2014-12-10 | 重庆邮电大学 | 一种实现街景视图展示的方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
EP3375197A4 (en) | 2018-12-05 |
KR20180019421A (ko) | 2018-02-26 |
EP3375197A1 (en) | 2018-09-19 |
CN107770627A (zh) | 2018-03-06 |
JP2019525628A (ja) | 2019-09-05 |
US20180053280A1 (en) | 2018-02-22 |
WO2018034462A1 (en) | 2018-02-22 |
US11062423B2 (en) | 2021-07-13 |
KR102567002B1 (ko) | 2023-08-14 |
JP6746772B2 (ja) | 2020-08-26 |
EP3375197B1 (en) | 2022-10-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107770627B (zh) | 图像显示装置和操作图像显示装置的方法 | |
US10453246B2 (en) | Image display apparatus and method of operating the same | |
US10587903B2 (en) | Display apparatus and method of displaying content | |
US10536742B2 (en) | Display apparatus and display method | |
US20180342225A1 (en) | Display device and operating method thereof | |
US10203927B2 (en) | Display apparatus and display method | |
US10587869B2 (en) | Image display apparatus and operating method thereof | |
US20160170597A1 (en) | Display apparatus and display method | |
US11064150B2 (en) | High resolution user interface | |
US20160300595A1 (en) | Playback device for playing video content and operating method of the same | |
US11917329B2 (en) | Display device and video communication data processing method | |
KR20180057473A (ko) | 디스플레이 장치 및 컨텐츠를 디스플레이하는 방법 | |
US11169662B2 (en) | Display apparatus and display method | |
CN111078926A (zh) | 一种人像缩略图像的确定方法及显示设备 | |
US11336931B2 (en) | Display apparatus and method of displaying content | |
EP3032392B1 (en) | Display apparatus and display method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |