CN107852476B - 动画播放装置、动画播放方法、动画播放系统以及动画发送装置 - Google Patents

动画播放装置、动画播放方法、动画播放系统以及动画发送装置 Download PDF

Info

Publication number
CN107852476B
CN107852476B CN201680034701.4A CN201680034701A CN107852476B CN 107852476 B CN107852476 B CN 107852476B CN 201680034701 A CN201680034701 A CN 201680034701A CN 107852476 B CN107852476 B CN 107852476B
Authority
CN
China
Prior art keywords
image data
playback
panoramic image
panoramic
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201680034701.4A
Other languages
English (en)
Other versions
CN107852476A (zh
Inventor
青木崇行
内田和隆
福本骏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thank You
Original Assignee
Thank You
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thank You filed Critical Thank You
Publication of CN107852476A publication Critical patent/CN107852476A/zh
Application granted granted Critical
Publication of CN107852476B publication Critical patent/CN107852476B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/102Programmed access in sequence to addressed parts of tracks of operating record carriers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/658Transmission by the client directed to the server
    • H04N21/6587Control parameters, e.g. trick play commands, viewpoint selection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8547Content authoring involving timestamps for synchronizing content
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/93Regeneration of the television signal or of selected parts thereof
    • H04N5/935Regeneration of digital synchronisation signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Computer Security & Cryptography (AREA)
  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

本发明使全景图像的娱乐性得到提高。本发明包括:存储单元,该存储单元将同时拍摄到的多个全景图像数据通过规定的时间信息建立关联地进行存储;播放控制单元,该播放控制单元以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置;以及切换控制单元,该切换控制单元在播放所述播放对象中的规定播放时刻时,根据用户的切换请求,基于所述时间信息,将播放对象切换为所述播放时刻的其它全景图像数据。

Description

动画播放装置、动画播放方法、动画播放系统以及动画发送 装置
技术领域
本发明涉及动画播放装置、动画播放方法以及动画播放程序,尤其是在播放宽视场角的图像时特别合适。
背景技术
以往,视场角宽的图像被称之为全景图像,广泛用于监控摄像头、电视会议的用途。该全景图像中,存在以被称之为全天球、半天球这样的360°的视场角拍摄的图像。
对于该超宽视场角的全景图像,很难像人眼自然感觉到的那样同时显示,因而从所拍摄的全景图像中切出与用户的视点相对应的部位的图像并使其显示于显示装置。
现有技术文献
专利文献
专利文献1:日本特开2014-165763号
发明内容
但是,对于该全景图像,希望进一步提高娱乐性。
本发明是为了解决该问题而实施的,其目的是提供一种能够提高娱乐性的动画播放装置、动画播放方法、动画播放程序、动画播放系统以及动画发送装置。
为了解决该课题,本发明的动画播放装置的特征在于,包括:
存储单元,该存储单元将同时拍摄到的多个全景图像数据通过规定的时间信息建立关联地进行存储;
播放控制单元,该播放控制单元以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置;以及
切换控制单元,该切换控制单元在播放所述播放对象中的规定播放时刻时,根据用户的切换请求,基于所述时间信息,将播放对象切换为所述播放时刻的其它全景图像数据。
由此,能够毫无违和感地切换同时拍摄到的多个全景图像数据而使视听用户得到欣赏,能够提高全景图像数据的娱乐性。
另外,本发明的动画播放系统的特征在于,包括:
存储单元,该存储单元将同时拍摄到的多个全景图像数据通过规定的时间信息建立关联地进行存储;
播放控制单元,该播放控制单元以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置;以及
切换控制单元,该切换控制单元在播放所述播放对象中的规定播放时刻时,根据用户的切换请求,基于所述时间信息,将播放对象切换为所述播放时刻的其它全景图像数据。
由此,能够毫无违和感地切换同时拍摄到的多个全景图像数据而使视听用户得到欣赏,能够提高全景图像数据的娱乐性。
此外,本发明的动画播放方法的特征在于,包括以下步骤:
存储步骤:将同时拍摄到的多个全景图像数据通过规定的时间信息建立关联地进行存储;
播放控制步骤:以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置;以及
切换控制步骤:在播放所述播放对象中的规定播放时刻时,根据用户的切换请求,基于所述时间信息,将播放对象切换为所述播放时刻的其它全景图像数据。
由此,能够毫无违和感地切换同时拍摄到的多个全景图像数据而使视听用户得到欣赏,能够提高全景图像数据的娱乐性。
另外,本发明的动画播放程序的特征在于,包括以下步骤:
存储步骤:将同时拍摄到的多个全景图像数据通过规定的时间信息建立关联地进行存储;
播放控制步骤:以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置;以及
切换控制步骤:在播放所述播放对象中的规定播放时刻时,根据用户的切换请求,基于所述时间信息,将播放对象切换为所述播放时刻的其它全景图像数据。
由此,能够毫无违和感地切换同时拍摄到的多个全景图像数据而使视听用户得到欣赏,能够提高全景图像数据的娱乐性。
此外,本发明的动画发送装置的特征在于,包括:
取得单元,该取得单元从播放同时拍摄到的多个全景图像数据中选择出的一个全景图像数据的播放单元中取得所述选择出的一个全景图像数据的识别信息;
数据生成单元,该数据生成单元以其它全景图像数据的单位数据量低于所述一个全景图像数据的方式生成发送数据;以及
发送单元,该发送单元将所述生成的发送数据向所述播放单元发送。
由此,能够降低向播放装置发送的数据的总量,能够使多个全景图像数据顺利地切换,能够提高全景图像数据的娱乐性。
另外,本发明的动画播放系统的特征在于,包括:
取得单元,该取得单元取得同时拍摄到的多个全景图像数据;
播放控制单元,该播放控制单元以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置;
检测单元,该检测单元从所述多个全景图像数据中检测出预先设定的检测对象;以及
切换控制单元,该切换控制单元按照规定的优先级,从检测到所述检测对象的全景图像数据中选择出一个全景图像数据,将该选择出的一个全景图像数据切换为所述播放对象。
由此,即便视听用户不做任何操作,也能够自动地切换全景图像数据,能够提高全景图像数据的娱乐性。
此外,本发明的动画播放装置的特征在于,包括:
取得单元,该取得单元取得同时拍摄到的多个全景图像数据;
播放控制单元,该播放控制单元以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置;
检测单元,该检测单元从所述多个全景图像数据中检测出预先设定的检测对象;以及
切换控制单元,该切换控制单元按照规定的优先级,从检测到所述检测对象的全景图像数据中选择出一个全景图像数据,将该选择出的一个全景图像数据切换为所述播放对象。
由此,即便视听用户不做任何操作,也能够自动地切换全景图像数据,能够提高全景图像数据的娱乐性。
本发明能够提供可以提高全景图像数据的娱乐性的动画播放装置、动画播放方法、动画播放程序、动画播放系统以及动画发送装置。
附图说明
图1是表示第一实施方式中的动画播放系统的构成的示意图。
图2是用于说明第一实施方式中的拍摄的示意图。
图3是表示第一实施方式中的编辑装置的构成的框图。
图4是表示物体指定画面的示意图。
图5是表示追踪对象指定画面的示意图。
图6是表示第一实施方式中的服务器的构成的框图。
图7是表示第一实施方式中的播放装置的构成的框图。
图8是用于说明全景图像数据的切换(1)的示意图。
图9是用于说明全景图像数据的切换(2)的示意图。
图10是用于说明全景图像数据的切换(3)的示意图。
图11是用于说明附加信息的显示的示意图。
图12是表示第二实施方式中的动画播放系统的构成的示意图。
图13是用于说明第二实施方式中的拍摄的示意图。
图14是表示第二实施方式中的服务器的构成的框图。
图15是用于说明第二实施方式中的封包数据的生成(1)的示意图。
图16是表示第二实施方式中的播放装置的构成的框图。
图17是用于说明第二实施方式中的封包数据的生成(2)的示意图。
图18是用于说明全景图像数据的切换(1)的示意图。
图19是用于说明全景图像数据的切换(2)的示意图。
图20是用于说明全景图像数据的切换(3)的示意图。
图21是用于说明附加信息的显示的示意图。
图22是表示第二实施方式中的动画播放系统的构成的示意图。
图23是用于说明第二实施方式中的拍摄的示意图。
图24是表示第二实施方式中的服务器的构成的框图。
图25是用于说明第二实施方式中的封包数据的生成(1)的示意图。
图26是表示第二实施方式中的播放装置的构成的框图。
具体实施方式
接下来,参照附图,对本发明的具体实施方式进行说明。
<第一实施方式>
图1从整体上给出了动画播放系统10,其包括:摄像机机组1、编辑装置2、服务器3以及播放装置5。本说明书中,将基于1个镜头拍摄到的通常的动态图像数据称为单个图像数据,将通过将单个图像数据组合或者使用鱼眼镜头等而在视场角比通常宽的状态下生成的动态图像数据称为全景图像数据。全景图像数据如果直接显示,则对于人的眼睛而言,因视场角过大而不自然,因此,通常切出并显示与考虑到人的视野范围的视场角相对应的图像。
通过摄像机机组1拍摄到的单个图像数据由编辑装置2执行编辑处理而成为全景图像数据,在同时拍摄到的全景图像数据彼此建立了关联的状态下,存储于服务器3。应予说明,编辑装置2还可以兼用作服务器。
服务器3及播放装置5以无线或有线连接于互联网等网络NT。存储于服务器3的全景图像数据经由网络NT而传输,通过播放装置5(5A~5D)播放。
如图2所示,本实施方式中,使用多个摄像机机组1进行拍摄。对摄像机机组1的数量没有限制,本实施方式中,对3个摄像机机组1A~1C搭载于3台汽车而分别进行拍摄的情形进行说明。
摄像机机组1例如为通过将多个摄像机或多个镜头组合而能够以1个摄像机机组1在360°的视场角内进行动画拍摄的全天球或半天球的摄像机机组。此处,作为一例,对6个摄像机组合得到的摄像机机组1进行说明。
各摄像机分别内置有内部时钟,该内置时钟在摄像机机组1内及摄像机机组1间预先同步。例如通过使用电波时钟来执行该时钟的同步。各摄像机对动态图像数据嵌入时间信息,并且,实施适当编码处理,将动态图像数据以规定的方式压缩,存储在摄像机内。
各摄像机中分别存储有拍摄到的单个图像数据。这些动态图像数据通过有线或无线而转送到编辑装置2进行存储。
如图3所示,编辑装置2由计算机构成,由未图示的CPU(Central ProcessingUnit)、ROM(Read Only Memory)及RAM(Random Access Memory)构成的系统控制器21对编辑装置2的整体进行统一控制。系统控制器21将在闪存器、ROM或硬盘驱动器等存储部22中储存的基本程序、编辑程序、辅助信息设定程序等在RAM中展开,由此,基于这些程序执行各种处理及后述的编辑处理。
当借助操作输入部25而提供旨在执行编辑处理的来自编辑用户的请求时,编辑装置2的系统控制器21开始编辑处理。编辑装置2将通过有线或无线连接而从各摄像机提供的动态图像数据及装置ID(identification)存储于存储部22的图像存储部22A。应予说明,以下,将通过各摄像机拍摄到的动态图像数据称为单个图像数据。
系统控制器21的图像编辑部21A根据单个图像数据及装置ID认识单个图像数据的组合,并且,将单个图像数据解码,使用时间信息使其同步,同时按每个摄像机机组1组合单个图像数据,合成全天球的全景图像数据D。应予说明,预先由编辑者登记各摄像机机组1的装置ID。
通过摄像机机组1拍摄到的6个单个图像数据为以拍摄部位为中心以球状拍摄而得到的图像,例如应用墨卡托投影法、等距方位投影法等投影法展开而以平面图像的形式存储于存储部22的图像存储部22A。结果,按每个摄像机机组1A~1C分别生成全景图像数据Da~Dc。应予说明,所合成的全景图像数据Da~Dc(图中记载为P图像Da~Dc)以编码的状态存储于图像存储部22A。
编辑装置2将该全景图像数据Da~Dc关联起来,并且,执行使全景图像数据Da~Dc间的切换及物体的追踪变得容易的辅助信息设定处理。通过对存储于图像存储部22A的全景图像数据Da~Dc进行适当解码来执行该辅助信息设定处理。
当根据编辑用户对操作输入部25的操作而由操作输入部25提供操作请求信号时,系统控制器21的辅助信息设定部21B按照辅助信息设定程序执行辅助信息设定处理,将所设定的辅助信息登记于存储部22的辅助信息存储部22B。应予说明,此处虽然对全景图像数据Dc进行说明,但是,对于全景图像数据Da及Db也同样地进行处理。
另外,在间歇地进行拍摄的情况下,对于每个连续拍摄的全景图像数据Dc执行辅助信息设定处理。对于每个成为追踪对象的物体执行该辅助信息设定处理。
如图4所示,辅助信息设定部21B显示物体指定画面,使编辑用户执行物体的设定。例如对于从汽车8C拍摄汽车8A而得到的全景图像数据,显示一张图像,并且,使编辑用户将物体的轮廓指定为由多个点构成的轮廓坐标。
此外,辅助信息设定部21B根据在显示部24上的显示而使编辑用户输入物体的名称及与物体相关的附加信息(例如搭乘者、汽车的信息等),作为辅助信息登记于辅助信息存储部22B。
辅助信息设定部21B使用运动矢量及轮廓提取而对各图像确定轮廓坐标,作为辅助信息存储于辅助信息存储部22B。应予说明,轮廓坐标的提取并不一定要对所有的图像都进行,例如只要以1/6秒1张(即1秒6张左右)的间隔进行即可。
另外,在通过运动矢量计算出的轮廓坐标和通过轮廓提取计算出的轮廓坐标明显不同的情况下,辅助信息设定部21B显示将通过运动矢量及轮廓提取计算出的轮廓坐标分别与拍摄汽车8A而得到的图像重叠而得到的2个图像,使编辑用户选择一个图像。
辅助信息设定部21B优先使用基于所选择的图像中使用的手法得到的轮廓坐标。由此,在以多个手法提取物体的轮廓坐标、并且多个轮廓坐标的不同明显的情况下,通过使编辑用户选择其中任意一个,能够提高轮廓坐标的可靠性。
特别是,在拍摄时的汽车彼此的位置关系变化而使得全景图像数据Dc中的汽车8A的侧面发生变化的情况下,也能够设定正确的轮廓坐标,非常有效。
辅助信息设定部21B在与附加信息及时间信息建立了关联的状态下,将轮廓坐标作为辅助信息登记于辅助信息存储部22B。另外,辅助信息设定部21B将优先播放的一个全景图像数据D(以下,将其称为优先播放图像数据)作为使编辑用户选择的辅助信息登记于辅助信息存储部22B。
由此,编辑装置2的系统控制器21针对全景图像数据Da~Dc预先设定辅助信息。然后,系统控制器21根据编辑用户的请求而将全景图像数据Da~Dc及辅助信息登记于服务器3的存储部(未图示)。服务器3根据播放装置5的请求而执行下载处理。同时,在播放装置5中执行播放处理。
如图5所示,服务器3由计算机构成,由未图示的CPU(Central Processing Unit)、ROM(Read Only Memory)及RAM(Random Access Memory)构成的系统控制器31对服务器3的整体进行统一控制。系统控制器31将闪存器、ROM或硬盘驱动器等存储部32中储存的基本程序、流媒体传输程序等在RAM中展开,由此,基于这些程序,执行各种处理及后述的下载处理。
如图6所示,播放装置5(5A~5D)由计算机构成,由未图示的CPU(CentralProcessing Unit)、ROM(Read Only Memory)及RAM(Random Access Memory)构成的系统控制器51对播放装置5的整体进行统一控制。系统控制器51将闪存器、ROM或硬盘驱动器等存储部52中储存的基本程序、播放程序等在RAM中展开,由此,基于这些程序,执行各种处理及后述的播放处理。作为播放装置5,除了可以使用台式电脑、笔记本电脑以外,还可以使用平板终端及智能手机终端等搭载有PC功能的各种终端。作为操作输入部55,除了可以使用鼠标、键盘以外,还可以使用触摸面板等。
服务器3在存储部32的图像存储部32A中将上述的全景图像数据Da~Dc及辅助信息作为一个图像组PDG而存储多个图像组PDG(PDGa、PDGα、PDGw)。此外,在存储部32的PF(平台)信息存储部存储有播放全景图像的平台的网页的数据。
当保有播放装置5的视听用户借助网络NT而访问平台的网页时,由服务器3提供平台的网页的数据。在该平台中的规定的网页中,对于每个图像组PDG均显示全景图像数据的一览。该全景图像数据的一览显示例如图像组PDG中的全景图像数据中的预先由编辑用户选择的代表性的1张图像。
当播放装置5的视听用户通过点击例如所显示的图像而选择想视听的图像组PDG时,开始全景图像数据D的播放。以下,作为一例,对通过暂时下载图像数据并播放的、所谓的渐进式下载来执行下载的情形进行说明。
具体而言,服务器3执行下载处理,而播放装置5执行播放处理。该播放处理中,播放装置5仅切出全景图像数据D中的与显示的图像的尺寸相对应的区域而生成图像数据。以下,将此时的显示的图像的中心称为视点坐标。
并且,播放装置5根据视听用户对操作输入部55的操作而使视点坐标移动,或者切换显示的全景图像数据D,由此,视听用户能够体验到仿佛存在于拍摄现场那样的感觉。
服务器3的系统控制器31将属于所选择的图像组PDG的全景图像数据D及辅助信息提供给播放装置5。以下,作为一例,对下载图像组PDGa的情形进行说明。
当按每个时间序列将属于图像组PDGa的全景图像数据Da~Dc及辅助信息打包而生成封包数据时,系统控制器31的封包生成部31A借助外部接口33而将封包数据提供给播放装置5。
当借助外部接口53而被提供封包数据时,播放装置5的系统控制器51将封包数据存储于存储部52,并且,在通常模式下,开始播放处理。
具体而言,系统控制器51对属于图像组PDGa的全景图像数据Da~Dc均进行解码处理,并且,以辅助信息中被指定的优先播放图像数据为显示对象,生成以该优先播放图像数据的中心坐标为视点坐标的图像数据,使其显示于显示部54。
当根据视听用户对操作输入部55的操作输入而请求使视点偏向右方时,系统控制器51以从优先播放图像数据的中心坐标向右移动与操作输入相对应的坐标而得到的视点坐标为中心,生成显示图像数据,使其显示于显示部54。
例如,在像图1那样3台汽车8A~8C同行的情况下,当优先播放图像数据为全景图像数据Dc(即由汽车8C拍摄到的图像)时,使视点向右移动,由此,如图7所示,显示从斜后左方拍摄汽车8A而得到的显示图像。应予说明,通过对左右的光标按钮93进行操作,视点坐标进行移动。在播放装置5具有触摸面板的情况下,可以通过滑动动作等而使视点坐标进行移动。
如上所述,辅助信息中登记有物体的轮廓坐标。系统控制器51可以使用该轮廓坐标以物体为追踪对象而执行追踪处理。
例如,当通过点击画面上显示的设定按钮(未图示)而提供旨在进行追踪设定的请求信号时,如图8所示,系统控制器51显示追踪指定画面。该追踪指定画面中,与通常的播放时同样地,显示显示图像数据,并且,显示追踪对象指定按钮95和取消按钮96。在该状态下,当视听用户将光标99放置在登记有轮廓坐标的物体上时,系统控制器51改变物体部分的颜色来显示。应予说明,对是否是物体的认识根据辅助信息中的轮廓坐标来判断。
在此,当视听用户通过点击确定按钮(未图示)而提供旨在确定追踪对象的请求信号时,系统控制器51过渡到追踪模式,将汽车8C设定为追踪对象。
然后,系统控制器51以轮廓坐标的中心点为中心,生成图像数据,使其显示于显示部54。系统控制器51在到追踪设定被解除为止的期间,以汽车8C的轮廓坐标的中心点为中心,生成显示图像数据,使其显示于显示部54。
结果,如图9所示,在显示部54显示全景图像数据Dc中汽车8A为中心的显示图像。
另外,当视听用户点击汽车8A时,执行向从汽车8A拍摄到的全景图像数据Da的切换。
当系统控制器51在通常模式下认识到汽车8A被点击时,将显示对象变更为全景图像数据Da,并且,在切换前的显示对象、亦即被拍摄了全景图像数据Dc的汽车8C上设定视点坐标,生成显示图像数据。
由此,视听用户能够认识切换前的自己的视点,在切换前后,视听用户能够再次认识仿佛跳跃一样的感觉,啊,好像在那边。
当视听用户使视点坐标向左方移动时,如图10所示,显示汽车8C。然后,如图11所示,当视听用户将光标99放置在汽车8C上时,系统控制器51读取与汽车8C相关的辅助信息中的附加信息,显示于图像。
具体而言,系统控制器51监视光标99的位置,在光标99的前端部的坐标进入轮廓坐标的内部的情况下,从图像存储部32A读取辅助信息中的附加信息,并且,重叠附加信息而生成显示图像数据。
由此,视听用户能够取得汽车的种类、拍摄时间、行驶距离、区间等有关于物体的信息。
由此,将多个全景图像数据D关联起来,以图像组PDG的形式进行处理,并且,根据规定的操作来切换全景图像数据D,由此,能够自如地视听同时拍摄到的多个全景图像数据D,因此,能够提高作为全景图像数据D的娱乐性。
另外,通过指定预先设定的物体,将显示图像向从所指定的物体拍摄到的全景图像数据D切换。由此,能够使视听用户体验到仿佛在拍摄点间扭曲的感觉,能够增加视听用户的乐趣。
<第二实施方式>
图12~17所示的第二实施方式中,对与图1~图11所示的第一实施方式相对应的部位赋予并给出加100而得到的符号,省略相同部分的说明。第二实施方式与第一实施方式的不同点在于:在宽敞的会场使用更多的摄像机机组、以及实时传输全景图像数据。
如图12所示,第二实施方式中,将通过7个摄像机机组101(101A~101G)拍摄到的单个图像数据向服务器103发送,进行编辑处理,并且,从服务器103直接借助网络NT而进行流媒体传输。
因此,如图14及图15所示,当被提供单个图像数据时,服务器103的系统控制器131通过图像编辑部131A而将单个图像数据组合,生成全景图像数据D(Da~Dg)。
但是,全景图像数据D是原本6张的单个图像数据组合而得到的,虽然为平面图像,但是,视场角宽,与此相应地,其数据量大于通常的图像数据。
服务器103如果对所有像这样的数据量大的全景图像数据Da~Dg进行直接传输,则通信负荷增大。因此,服务器103生成与各模式相对应的组合的封包,并向播放装置105传输。
由服务器103提供的封包PK暂时存储于播放装置105的系统控制器151内的RAM而用于播放,然后,删除,而不会存储在存储部152中。
作为一例,如图13所示,对在音乐会会场进行拍摄、并且实时传输所拍摄的图像的情形进行说明。
本实施方式中,具有如下3种模式,即,各视听用户自身选择自己想视听的全景图像数据D及视点坐标的手动模式、全景图像数据D虽然是自身选择但是使用追踪功能设定视点坐标的半手动模式、以及自动选择全景图像数据D及视点坐标的自动模式。
视听用户选择设定通过播放装置105以何种模式进行视听。服务器103将与所设定的模式相对应的封包向播放装置105发送。
首先,对手动模式进行说明。
手动模式为用户视听者自身能够选择看什么的模式。在显示图像数据的旁边显示表示摄像机的配置的小画面或缩略图画面,当点击摄像机时,能够视听由对应的摄像机拍摄到的全景图像数据D,并且,还自身设定视点坐标。
在该表示摄像机的配置的小画面或缩略图画面中模仿摄像机机组地记载有摄像机的图。该摄像机的图所指的方向表示全景图像数据D刚被切换后的视点坐标的方向。该画面中,还可以使视点坐标的方向和图上的摄像机的方向相对应,随着视点坐标的移动而使图上的摄像机的方向进行变化并显示。由此,视听用户能够容易明白现在朝向哪个方向。
由于在1个场所环视360度,所以视听用户得到仿佛参加音乐会一样的感觉,并且,还可以根据状况视听由舞台附近的摄像机拍摄到的全景图像数据D。
该手动模式中,视听用户何时切换摄像机而变更视听的全景图像数据D不清楚。通常,虽然稍微进行解码,但是还是需要时间,因此,如果视听用户请求切换之后提供对应的全景图像数据D,则会发生时间滞后。另一方面,如果提供与所有的摄像机均对应的全景图像数据D,则通信负荷增大。
因此,本实施方式的服务器103中,以播放用的速率(rate)提供现在视听中的全景图像数据D,并且,同时提供使未视听的全景图像数据D的速率降低(例如降低到1/10~1/3左右)而得到的低速率全景图像数据Dl(Dla~Dlg)。
播放装置105始终向服务器103发送现在播放中的全景图像数据D的播放识别信息,由此,请求服务器103提供以该播放识别信息表示的全景图像数据D为中心的封包PK。
如图15所示,系统控制器131的封包生成部131B将全景图像数据Da和低速率全景图像数据(图中记载为LP图像)Dlb~Dlg组合,生成封包PK1。向现在播放全景图像数据Da的播放装置105提供该封包PK1。
同样地,封包生成部131B将全景图像数据Db和低速率全景图像数据(图中记载为LP图像)Dla、Dlc~Dlg组合,生成封包PK2。向现在播放全景图像数据Db的播放装置105提供该封包PK2。
以下,封包生成部131B同样地生成封包PK3~PK7。然后,系统控制器131提供与播放装置105的播放状况相对应的封包PK。
在视听用户切换了摄像机的情况下,播放装置105显示基于低速率全景图像数据Dl的图像,并且,请求服务器103提供与现在播放中的全景图像数据D相对应的封包PK。
当被提供请求信号时,服务器103立即变更向播放装置105提供的封包PK,提供与现在播放中的摄像机相对应的封包PK。
由此,服务器103能够避免因提供的数据量大而发生的故障于未然,并且,能够使视听用户无延迟地显示基于切换后的全景图像数据D的图像。
由此,手动模式中,仅使播放中的全景图像数据D采用播放用的速率,对于非播放中的全景图像数据,以使速率降低的状态向播放装置105提供。
接下来,对半手动模式进行说明。半手动模式为虽然摄像机(全景图像数据D)由视听用户自身设定、但是视点坐标自动变化的模式。
视听用户借助播放装置105而设定追踪对象。该追踪对象的设定是在播放装置105的系统控制器151中进行的,而不是在服务器103中。与手动模式同样地,将与视听用户设定的摄像机相对应的全景图像数据D及低速率全景图像数据Dl组合来提供封包PK。
系统控制器151的追踪部151A对全景图像数据D进行解码,并且,采用使用了平面图像或3D多面体的人脸认证、运动矢量等检测追踪对象。然后,系统控制器151以将检测出的追踪对象的中心附近作为视点坐标的方式生成显示图像数据。
由此,通过使用来自固定的摄像机的全景图像数据D,并且,对追踪对象进行自动追踪,能够直接体验到音乐会的感觉,并且,能够省略追赶追踪对象的操作,能够集中于显示图像地使视听用户欣赏音乐会。
接下来,对自动模式进行说明。自动模式为服务器103根据视听用户的追踪对象设定而将合适的全景图像数据D及表示视点坐标的信息的追踪信息以封包PK的形式提供的模式。该自动模式中,视听用户虽然能够进行视点坐标的移动、变焦等处理,但是无法进行摄像机的切换。当然,如果执行向手动模式或半手动模式的切换,则能够切换摄像机。
具体而言,视听用户借助播放装置105而设定追踪对象。在服务器103中的系统控制器131中进行该追踪对象的设定。在此,作为一例,对将追踪对象设定为一个人的偶像的情形进行说明。
如图17所示,系统控制器131的追踪部131C从全景图像数据D中检测出追踪对象,并且,将追踪对象的信息作为追踪信息向封包生成部131B提供。
封包生成部131B根据追踪对象的区域面积、动作的大小、人脸的大小、明亮度等选择一个全景图像数据D,并且,将该选择的全景图像数据D中的追踪对象的坐标信息作为追踪信息来生成封包PK。在封包PK的途中所选择的全景图像数据D进行了切换的情况下,将2个(或者2个以上)全景图像数据D和追踪信息生成为封包PK(例如封包PKa)。
播放装置105的系统控制器151对所提供的封包PK依次进行解码,并且,以追踪信息表示的坐标信息为视点坐标来生成显示图像数据。
另外,该自动模式中,并非将追踪对象限定于一人,还可以设定将整体优先的整体追踪对象。例如,用于在多个人的偶像组合的音乐会中不存在特定青睐的情形。
这种情况下,服务器103的系统控制器131选择偶像全体成员尽量大幅呈现(即面积比率大)的全景图像数据D。另外,在具有焰火、吊篮、火焰等在追踪对象以外动作的对象或较大的声音的情况下,选择它们大幅映出的全景图像数据D。
另外,在使用了聚光灯的情况下,系统控制器131检测出聚光灯的照射目的地,追踪聚光灯。可以利用边缘检测及运动矢量的检测来执行聚光灯的追踪。
在全景图像数据D间,面积比率的差异较小的情况下,或者偶像们分散的情况下,可以按时间划分来依次显示(循环)全景图像数据D,或者,以使摄像机进行旋转的方式使视点坐标以一定速度进行移动,并且,使显示图像数据发生变化。
另外,手动模式及半手动模式中,还可以将自动模式中选择的全景图像数据D的速率设定得较高。即,预先预测接下来要切换的全景图像数据D,在例如追踪对象大幅映出的情况下,判断为被切换的可能性高,将该全景图像数据D的速率设定得较高。相反,在追踪对象未映出、或非常小的情况下等,被切换的可能性低,因此,将该全景图像数据D的速率设定得较低。
另外,手动模式及半手动模式中,还可以使与自动模式中选择的全景图像数据D相对应的摄像机机组101变色或闪烁显示等,将追踪对象大幅映出通知给视听用户。
由此,对于播放对象的全景图像数据D以外的全景图像数据D,通过生成封包数据PK以使数据量减小,能够大幅减轻通信负荷。
<动作及效果>
特征A1:本发明的动画播放装置(播放装置5)或动画播放系统(动画播放系统10)的特征在于,包括:
存储单元(存储部52),该存储单元将同时拍摄到的多个全景图像数据(全景图像数据D)通过规定的时间信息建立关联地进行存储;
播放控制单元(系统控制器51),该播放控制单元以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置(显示部54);以及
切换控制单元(系统控制器51),该切换控制单元在播放所述播放对象中的规定播放时刻时,根据用户的切换请求,基于所述时间信息,将播放对象切换为所述播放时刻的其它全景图像数据。
如果是特征A1中记载的发明,则能够将同时拍摄到的全景图像数据根据用户的切换请求仿佛跳跃一样自如地切换为其它全景图像数据,因此,能够使播放全景图像数据的乐趣得到进一步提高。
特征A2:在特征A1中记载的发明的基础上,其特征在于,
通过指定拍摄到所述多个全景图像数据的摄像机或者搭载有该摄像机的物体来执行所述用户的切换请求。
应予说明,所谓拍摄到所述多个全景图像数据的摄像机或者搭载有该摄像机的物体,包含全景图像数据上通过拍照而映入的摄像机或者搭载有该摄像机的物体、子小画面或缩略图画面上显示的摄像机的配置图上显示的摄像机。像摄像机的配置图那样显示非实物的摄像机的图的情况下,优选刚切换后显示的全景图像数据的视点坐标的方向和摄像机的方向一致。
如果是特征A2中记载的发明,则能够以简单的操作使视听用户进行全景图像数据的切换,并且,能够使视听用户凭直觉认识是用哪台摄像机拍摄到的图像,能够更好地欣赏全景图像数据的视听。
特征A3:在特征A1或A2中记载的发明的基础上,其特征在于,
所述存储单元存储拍摄到所述多个全景图像数据的摄像机或者搭载有该摄像机的物体的坐标信息(轮廓坐标),
所述切换控制单元基于所述坐标信息,认识拍摄到所述多个全景图像数据的摄像机或者搭载有该摄像机的物体已被指定。
根据特征A3中记载的发明,预先具有表示链接区域的坐标信息,因此,不需要用于确定链接区域的处理,能够减轻播放装置的处理负荷。
应予说明,在将全景图像数据上通过拍照而映入的摄像机或者搭载有该摄像机的物体指定为链接区域的情况下,播放装置还可以通过剪切就地确定该摄像机或者物体。由此,能够使编辑作业变得容易。
如果是特征A3中记载的发明,则摄像机或物体的形状的内部区域被预先设定为切换用的链接区域,通过视听用户指定这些内部区域而进行全景图像数据间的切换,因此,能够使视听用户凭直觉理解操作方法。
特征A4:在特征A1~A3中的任意一项中记载的发明的基础上,其特征在于,
所述播放控制单元在对切换前的映出拍摄到所述多个全景图像数据的摄像机或者搭载有该摄像机的物体的显示图像进行切换后,立刻使其显示于所述显示装置。
如果是特征A4中记载的发明,则在刚切换后的显示图像上映出之前看到的视点,因此,能够使视听用户容易理解现在及之前的位置关系,并且,能够进一步欣赏全景图像数据的切换。
特征A5:在特征A1~A3中的任意一项中记载的发明的基础上,其特征在于,
所述播放控制单元在对视点坐标与切换前相同的显示图像进行切换后,立刻使其显示于所述显示装置。
如果是特征A5中记载的发明,则例如具有多个拍摄者的情况下,能够一边对位置不同所带来的视觉呈现不同等进行比较,一边进行感受,能够增加全景图像数据的欣赏方法。
特征A6:动画播放方法及动画播放程序的特征在于,包括以下步骤:
存储步骤:将同时拍摄到的多个全景图像数据通过规定的时间信息建立关联地进行存储;
播放控制步骤:以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置;以及
切换控制步骤:在播放所述播放对象中的规定播放时刻时,根据用户的切换请求,基于所述时间信息,将播放对象切换为所述播放时刻的其它全景图像数据。
根据特征A6中记载的发明,能够以配合播放时刻的状态毫无违和感地切换同时拍摄到的多个全景图像数据,因此,能够使视听用户体验到仿佛人替换了一样不可思议的感觉,能够进一步提高由全景图像数据的视听得到的感觉的乐趣。
特征B1:本发明的动画发送装置(服务器103)的特征在于,包括:
取得单元(系统控制器131),该取得单元从播放同时拍摄到的多个全景图像数据中选择出的一个全景图像数据的播放单元(播放装置105)中取得所述选择出的一个全景图像数据的识别信息(播放识别信息);
数据生成单元(封包生成部131B),该数据生成单元以其它全景图像数据的单位数据量低于所述一个全景图像数据的方式生成发送数据;以及
发送单元(外部接口133),该发送单元将所述生成的发送数据向所述播放单元发送。
如果是特征B1中记载的发明,则能够降低有关现在播放中以外的全景图像数据的数据量,因此,能够根据视听用户的要求迅速进行全景图像数据的切换,并且,能够降低播放装置中的解码的处理负荷及通信负荷。
特征B2:在特征B1中记载的发明的基础上,其特征在于,
所述数据生成单元使所述其它全景图像数据的速率低于所述一个全景图像数据。
如果是特征B2中记载的发明,则能够对正在播放相同的全景图像数据的播放装置发送一样的数据,因此,能够减少生成的数据的种类,能够减轻数据生成用的处理负荷。
应予说明,不仅是降低其它全景图像数据的速率,通过提高其它全景图像数据的图像压缩率(降低画质),也能够得到同样的效果。
特征B3:在特征B1中记载的发明的基础上,其特征在于,
所述数据生成单元仅将所述其它全景图像数据的一部分作为所述发送数据。
应予说明,这种情况下,作为识别信息,取得单元除了从播放装置中取得表示播放中的全景图像数据的信息以外,还取得现在播放中的全景图像数据的视点坐标等与显示图像的显示位置有关的信息。并且,对于其它全景图像数据,仅发送该显示位置的周围的数据。例如,预先将全景图像数据分割为多个,发送包含视点坐标的区域以及仅与该区域邻接的区域的全景图像数据,由此,能够降低生成的数据的种类,能够减轻数据生成单元的处理负荷。
特征B4:在特征B4中记载的动画播放系统的基础上,包括:
特征A1中记载的动画播放装置;
取得单元,该取得单元从所述动画播放装置中取得所述选择出的一个全景图像数据的识别信息;
数据生成单元,该数据生成单元以其它全景图像数据的单位数据量低于所述一个全景图像数据的方式生成发送数据;以及
动画发送装置,该动画发送装置具有将所述生成的发送数据向所述播放单元发送的发送单元。
特征C1:本发明的动画播放系统(动画播放系统110)的特征在于,包括:
取得单元(外部接口133),该取得单元取得同时拍摄到的多个全景图像数据;
播放控制单元(系统控制器151),该播放控制单元以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置;
检测单元,该检测单元从所述多个全景图像数据中检测出预先设定的检测对象;以及
切换控制单元(系统控制器131),该切换控制单元按照规定的优先级,从检测到所述检测对象的全景图像数据中选择出一个全景图像数据,将该选择出的一个全景图像数据切换为所述播放对象。
如果是特征C1中记载的发明,则能够自动地选择并显示映出所设定的检测图像的全景图像数据,因此,即便视听用户不做任何操作,也能够尽情地欣赏多个全景图像数据。
应予说明,播放控制单元优选在作为播放对象的全景图像数据中以检测对象的内部为视点坐标。由此,能够显示始终以检测对象为显示图像的中心或中心附近的显示图像,能够使视听用户进一步得到欣赏。
特征C2:在特征C1中记载的发明的基础上,
所述检测对象为预先设定的物体或事件。
由此,动画播放系统中,能够检测出特定的物体或事件并显示,因此,能够看到与用户的要求相对应的图像。
特征C3:本发明的动画播放装置(动画播放系统10)的特征在于,包括:
取得单元(外部接口53),该取得单元取得同时拍摄到的多个全景图像数据;
播放控制单元(系统控制器51),该播放控制单元以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置;
检测单元,该检测单元从所述多个全景图像数据中检测出预先设定的检测对象;以及
切换控制单元(系统控制器51),该切换控制单元按照规定的优先级,从检测到所述检测对象的全景图像数据中选择出一个全景图像数据,将该选择出的一个全景图像数据切换为所述播放对象。
如果是特征C3中记载的发明,则能够自动地选择并显示映出所设定的检测图像的全景图像数据,因此,即便视听用户不做任何操作,也能够尽情地欣赏多个全景图像数据。
特征C4:本发明的动画播放方法及动画播放程序的特征在于,包括以下步骤:
取得步骤:取得同时拍摄到的多个全景图像数据;
播放控制步骤:以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置;
检测步骤:从所述多个全景图像数据中检测出预先设定的检测对象;以及
按照规定的优先级,从检测到所述检测对象的全景图像数据中选择出一个全景图像数据,将该选择出的一个全景图像数据切换为所述播放对象。
如果是特征C4中记载的发明,则能够自动地选择并显示映出所设定的检测图像的全景图像数据,因此,即便视听用户不做任何操作,也能够尽情地欣赏多个全景图像数据。
<第三实施方式>
接下来,对图18~图26中给出的第三实施方式进行说明。第三实施方式与上述第一实施方式的不同点在于:动画播放系统210中,对同时拍摄到的各全景图像数据D设定基于通用的指标的基准指标坐标。应予说明,第三实施方式中,对与第一实施方式相对应的部位赋予并给出加200而得到的符号,省略关于相同部位的说明。
如图18所示,对3个拍摄者CM1~CM3使用3台摄像机机组201A~201C在头上进行拍摄的情形进行说明。如图19所示,假设拍摄者CM1看着拍摄者CM2的方向,拍摄者CM2及CM3看着物体OJ。
假设考虑以下情形:编辑装置202以拍摄者CM看着的视线附近为全景图像D的中心坐标(以下,将其称为全景中心坐标)同样制作全景图像D,从而制作全景动态图像D1p~D3p。如图19所示,在拍摄者CM1看着拍摄者CM2、拍摄者CM2及CM3看着物体OJ的情况下,全景中心坐标比较零乱。
例如,如图20所示,在视听用户以全景中心坐标为视点坐标而视听拍摄者CM1拍摄到的全景动态图像D1p的情况下,在基于全景动态图像D1p的显示图像251的视点坐标附近映出拍摄者CM2及CM3。在此,当视听用户切换为全景图像D2p时,显示基于全景图像D2p的显示图像252。在显示图像252的视点坐标附近映出物体OJ。此外,当视听用户切换为全景图像D3p时,显示基于全景图像D3p的显示图像253。在显示图像253的视点坐标附近什么都不映出。
由此,对于由拍摄者CM1~CM3拍摄到的全景图像D1p~D3p,全景中心坐标根据拍摄者CM1~CM3的视点而发生变化,因此,尽管在相同的场所进行拍摄,但是,如果以相同的坐标为基准而从各全景图像D1p~D3p切出显示图像,则分别将切出表示不同的方向的图像,有可能使视听用户混乱。
因此,本发明中,为了使视听用户容易理解显示图像朝向哪个方向,对全景图像D执行通用指标设定处理,以便基于通用指标来切出显示图像。
具体而言,作为通用指标设定处理,如图21所示,以相同的方位为通用指标。对于方位,例如在摄像机机组201(201A~201C)预先设置方位磁针、垂直(重力)检测器等方位检测器。编辑装置202的系统控制器221(未图示)取得单个图像数据、时间信息、以及方位信息,以方位相同或大致相同的方式设定全景图像数据D中的全景中心坐标。这种情况下,全景中心坐标成为通用指标坐标。
具体而言,系统控制器221的图像编辑部221A根据单个图像数据及装置ID认识单个图像数据的组合,并且,对单个图像数据进行解码,使用时间信息使其同步,同时,对每个摄像机机组201组合单个图像数据,合成全天球的天球状的图像数据,将其以全景中心坐标为中心展开,生成全景图像数据D。应予说明,实际上利用计算来执行这些处理。
此时,作为通用指标设定处理,图像编辑部221A基于按各摄像机机组取得的方位信息CP(CP1~CP3),以仿佛所有摄像机机组都朝向大致相同方位(相对于相同方向而言上下左右±10°)进行拍摄的方式制作全景图像数据D。
具体而言,图像编辑部221A生成与预先设定的一个摄像机机组相对应的全景图像数据D。应予说明,在此,对设定有与摄像机机组201A相对应的全景图像数据D1的情形进行说明。图像编辑部221A对照与全景图像数据D1相对应的方位信息CP1~CP3,在方位信息表示的方位存在差别的情况下,使全景中心坐标移动,并且,生成剩余的全景图像数据D2及D3,以便将该差别抵消。
由此,能够在相同时刻拍摄到的全景图像数据D1~D3间使全景中心坐标配置于大致相同方位,因此,如图21所示,能够生成仿佛所有摄像机机组201A~201C在大致相同方位拍摄到的全景图像数据D1~D3。
由此,在基于通用指标设定全景中心坐标的情况下,如图22所示,生成作为通用指标的方位大致相同的全景图像数据D1~D3。因此,对于播放装置205,通过按照视听用户的切换指示单纯地以相同的视点坐标切出图像,能够生成显示图像251~253。
结果,如图22所示,拍摄比较近的部位而得到的图像显示为显示图像251~253,因此,能够使视听用户欣赏全景图像数据D1~D3间的不同。
应予说明,在存在多个通用图像区域的情况下,优选将人的关注度高的图像区域优先选择为通用图像区域。对于人的关注度的高低,可以应用根据被称之为显著性映像(Saligency Map)的图像的特征量自动提取关注区域的手法。对于这些详细内容,在以下的URL1及URL2中有所记载,例如根据亮度的高低、亮度的图案、图像的大小等,提取人的关注度高的关注区域。
URL1:http://www.slideshare.net/akisatokimura/ss-10694017
URL2:http://www.slideshare.net/takao-y/20150619-49592895
另外,还可以将拍摄物体、风景这样的通用的被拍摄对象而得到的图像区域、亦即通用图像区域设定为通用指标。应予说明,通用图像区域的切出可以以全帧进行,也可以定期(例如每0.1~1秒1次的比例)进行。
具体而言,系统控制器221的图像编辑部221A根据单个图像数据及装置ID认识单个图像数据的组合,并且,对单个图像数据进行解码,使用时间信息使其同步,同时,对每个摄像机机组201组合单个图像数据,生成全景图像数据D1~D3。
然后,图像编辑部221检索出全景图像数据D1~D3中通用的物体、风景等被拍摄对象作为通用图像区域,例如以通用图像区域的中心为通用指标坐标,将该通用指标坐标与全景图像数据D1~D3建立关联来存储。
对通用图像区域的检测手法没有限制,通过使用根据亮度差而切出图像区域并匹配、采用运动矢量追赶通用图像区域等各种公知技术来执行。
例如,如图24所示,在物体OJ被检测为通用图像区域的情况下,图像编辑部221以物体OJ的中心为通用指标坐标,与全景图像数据D1~D3建立关联,并存储于存储部222。
播放装置205中,按照视听用户的切换指示,将通用指标坐标的不同抵消而确定视点坐标,由此,能够通过基于通用指标坐标切出图像而如图25所示生成显示图像271~273。显示图像271~273中,显示与切换前相近的视点,因此,能够不使视听用户混乱。
即,如图26所示,通过使通用图像区域为通用指标,能够生成拍摄者CM1~CM3拍摄了相同的被拍摄对象这样的全景图像数据D1~D3。
由此,图像编辑装置203中,执行用于基于通用指标来确定成为显示图像的中心的视点坐标的通用指标设定处理,由此,即便在根据视听用户的切换指示而切换作为显示图像的基楚的全景图像数据D的情况下,也能够将显示图像中的拍摄区域设定为相同或相近的位置,能够防止以下情况于未然:因显示完全不同的拍摄区域而不清楚显示的是哪里,从而导致视听用户混乱。
<第四实施方式>
接下来,对第四实施方式进行说明。第四实施方式与上述的第三实施方式的不同点在于:进行定点拍摄以及进行立体声录音。应予说明,第四实施方式中,对与第三实施方式相对应的部位赋予并给出加100而得到的符号,省略关于相同部位的说明。
第四实施方式中,与图13所示的第二实施方式同样地执行定点拍摄。因此,与第三实施方式同样地进行通用指标的设定,但是,拍摄开始后,只要以连续拍摄到的全景动态图像数据D中的至少1帧进行通用指标设定处理即可。
作为通用指标,例如可以拍摄特定的标记等,或者,设定为音乐会会场的风景、工作人员及表演者等人物等被拍摄对象,还可以设定方位。
另外,第四实施方式中,作为摄像机机组301的一部分,具有4个通道的录音单元,在播放时使用360°立体声麦克风(例如Ambisonics麦克风),该360°立体声麦克风根据视点方向的信息,通过将4个通道的声音混合而重新合成要用耳机播放的2个通道的声音。
由此,能够随着全景图像数据D的切换,提供与显示图像的视野相对应的因场所而不同的声音,因此,能够提高视听用户感觉的临场感,进一步提高全景图像的娱乐性。
<动作及效果(2)>
以下,对从上述实施方式提取出的发明组的特征进行说明,并且,根据需要给出课题及效果等。应予说明,以下,为了容易理解,以括弧等适当地给出上述各实施方式中相对应的构成,但是,并不限定于该以括弧等给出的具体构成。另外,各特征中记载的术语的含义及示例等可以适用于以相同的文字记载的其它特征中记载的术语的含义及示例。
以往,提出了全景图像播放技术,即,拍摄具有360°的视野角度的被称之为全天球或半天球的动态图像数据,根据用户的要求切出一部分并进行显示(例如参见专利文献1)。
该构成的全景图像播放技术中,以播放由1台摄像机机组得到的1个全景图像数据为前提。本发明的发明人认为:假设能够通过多台摄像机机组来切换多个全景图像数据并进行播放,则能够使全景图像数据的娱乐性得到提高。
特征D1:本发明的动画播放装置(播放装置205)或动画播放系统(动画播放系统210)的特征在于,包括:
存储单元(存储部252),该存储单元将同时拍摄的多个全景图像数据(全景图像数据D)通过规定的时间信息建立关联地进行存储;
播放控制单元(系统控制器251),该播放控制单元以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置(显示部54);
切换控制单元(系统控制器251),该切换控制单元在播放所述播放对象中的规定播放时刻时,根据用户的切换请求,基于所述时间信息,将播放对象切换为所述播放时刻的其它全景图像数据;以及
通用指标设定单元(图像编辑部221A),该通用指标设定单元执行用于基于所述多个全景图像数据中通用的通用指标来确定成为上述显示图像的中心的视点坐标的通用指标设定处理。
根据特征D1中记载的发明,能够使基于通用指标而确定的显示图像显示于播放装置,因此,即便对全景图像数据进行了切换的情况下,也能够始终显示拍摄相同或相近的场所而得到的部分,能够使视听用户简单地理解显示图像的位置。
特征D2:其特征在于,
所述播放控制单元在根据用户的切换请求而将播放对象切换为所述其它全景图像数据时,基于通用指标设定处理中设定的通用指标坐标,使所述其它全景图像数据中的显示图像显示于所述显示装置。
根据特征D2中记载的发明,能够将基于通用指标拍摄相同或相近的场所而得到的通用位置设定为通用指标坐标,因此,能够使用通用指标坐标而简单地将拍摄相同或相近的场所而得到的图像生成为显示图像。
特征D3:在特征D1或特征D2中记载的发明的基础上,其特征在于,
所述通用指标为基于拍摄时取得的测定信息而生成的方位。
根据特征D3中记载的发明,能够切出相同方位的区域作为显示图像,因此,不会使视听用户感觉到违和感。
特征D4:在特征D1中记载的发明的基础上,其特征在于,
所述通用指标为拍摄所述多个全景图像数据中共同拍摄的风景、物体等被拍摄对象而得到的通用图像区域。
根据特征D4中记载的发明,能够使拍摄相同部位而得到的区域为显示图像,因此,能够使视听用户容易认识现在的视野的位置。
特征D5:在特征D1中记载的发明的基础上,其特征在于,
包括声音输出单元,该声音输出单元输出声音,
所述存储单元存储使用具有2个以上通道的麦克风进行立体声录音得到的立体声音,
所述播放控制单元使所述声音输出单元输出与所述用户的指示相对应的方位的声音。
优选为,所述存储单元存储使用具有4个以上通道的麦克风进行录音得到的立体声音。
更优选为,所述播放控制单元将使用具有4个以上通道的麦克风进行录音得到的声音以与左右两耳相对应的2个通道的声音输出。
根据特征D5中记载的发明,除了与视听用户的视野相匹配的360°的全景图像以外,还能够进行与视听用户的视野(人脸的朝向)相匹配的声音的输出,因此,能够更加提高全景图像的临场感。
特征D6:一种全景动画编辑装置,其对用于使以与用户的请求相对应的视点坐标为中心的显示图像显示于显示装置的全景图像进行编辑,
所述全景动画编辑装置的特征在于,包括:
存储单元,该存储单元存储同时拍摄到的多个全景图像数据(全景图像数据D);和
时间信息设定单元,该时间信息设定单元对所述多个全景图像数据设定表示所述拍摄的时间关系的时间信息。
根据特征D6中记载的发明,能够使基于通用指标而确定的显示图像显示于播放装置,因此,即便在对全景图像数据进行了切换的情况下,也能够始终显示拍摄相同或相近的场所而得到的部分,能够使视听用户简单地理解显示图像的位置。
特征D7:特征D6中记载的全景动画编辑装置的特征在于,
还包括通用指标设定单元,该通用指标设定单元执行用于基于所述多个全景图像数据中通用的通用指标而确定上述视点坐标的通用指标设定处理。
根据特征D7中记载的发明,能够将基于通用指标拍摄相同或相近的场所而得到的通用位置设定为通用指标坐标,因此,能够使用通用指标坐标而简单地使播放装置将拍摄相同或相近的场所而得到的图像生成为显示图像。
特征D8:在特征D7中记载的发明的基础上,其特征在于,
所述通用指标设定单元通过将基于所述通用指标的通用指标坐标设定为所述多个全景图像数据来执行所述通用指标设定处理。
根据特征D8中记载的发明,只需要将通用指标坐标建立关联即可,因此,能够减轻编辑装置的处理负荷。
特征D9:在特征D7中记载的发明的基础上,其特征在于,
所述通用指标为方位,
所述通用指标设定单元通过以所述方位在所述多个全景图像数据间大致一致的方式改造所述多个全景图像数据来执行所述通用指标设定处理。
根据特征D9中记载的发明,能够将通用指标坐标作为全景中心坐标,因此,能够仅通过在多个全景图像数据间以相同的视点坐标进行切出的处理来使播放装置显示大致相同视点的显示图像。
特征D10:在特征D7中记载的发明的基础上,其特征在于,
所述通用指标为表示风景、物体等被拍摄对象的通用图像区域,
所述通用指标设定单元通过以所述通用图像区域的位置在所述多个全景图像数据间大致一致的方式改造所述多个全景图像数据来执行所述通用指标设定处理。
根据特征D10中记载的发明,只要在全景图像数据间以相同坐标为视点坐标即可,因此,能够减轻切换全景图像数据时播放装置的处理负荷。
特征D11:在特征D8中记载的发明的基础上,其特征在于,
所述通用指标设定单元在提取出多个通用的图像区域的情况下,将人的关注度高的图像区域优先设定为所述通用图像区域。
根据特征D11中记载的发明,能够将关注度高的图像区域作为通用图像区域,因此,通过将关注度高的图像区域设定为拍摄时的位置误差最小的通用图像区域,不会使视听用户感觉到拍摄场所的误差。
播放装置中的播放控制单元的特征在于,基于所述多个全景图像数据中通用的通用指标来确定成为上述显示图像的中心的视点坐标。
播放装置中的播放控制单元的特征在于,在根据用户的切换请求而将播放对象向所述其它全景图像数据切换时,基于通用指标设定处理中设定的通用指标坐标而使所述其它全景图像数据中的显示图像显示于所述显示装置。
<其它实施方式>
应予说明,上述第二实施方式中,对以人脸认证、运动矢量而对追踪对象的偶像进行追踪的情形进行了说明。本发明不限于此,也可以将例如戴在脖子上的项链、皮带等容易检测的特殊标记带在追踪对象上,对该标记进行检测。由此,能够更加可靠地对追踪对象进行追踪。
另外,上述第一实施方式中,对使用电波时钟进行同步的情形进行了说明。本发明不限于此,可以通过嵌入声音、光等同时拍摄并用于同步的同步信息,基于同步信息使其自此以后(编辑处理的阶段中)同步来生成时间信息。即便在这种情况下,也能够得到与上述的实施方式同样的效果。
此外,上述第一实施方式中,具有拍摄者拿着摄像机1进行拍摄的构成。第二实施方式中,摄像机被固定,因此,没有问题,但是,在摄像机搭载于人、动物或者使用人手进行拍摄的情况下,拍摄角度会产生偏差,即便在以相同的坐标为视点坐标进行了切换的情况下,也会产生拍摄角度不同的情形。因此,还可以预先在摄像机1上搭载陀螺仪传感器来调整全景图像D的中心坐标。具体而言,例如将摄像机1A设定为角度基准摄像机,用陀螺仪传感器检测摄像机1A的角度移动。摄像机1B及1C的角度移动也同样地用陀螺仪传感器进行检测。编辑装置2的系统控制器2以摄像机1A为基准,与通过陀螺仪传感器检测到的角速度的差值相对应地调整全景图像Db及Dc中的中心坐标,以使全景图像Da的中心坐标的视点移动和全景图像Db及Dc的中心坐标的视点移动相同。由此,在全景图像Da~Dc切换时,能够将中心坐标的视点统一。另外,例如在人的头上搭载摄像机的情况下,拍摄者朝向旁边等会使视点大幅变化。这种情况下,也可以调整全景图像Da~Dc的中心坐标,以便始终一个方向(东西南北的角度)为中心坐标。由此,视听用户的视点最优先,能够最大限度地利用360°的拍摄。
另外,上述第一及第二实施方式中,对仅拍摄全景图像D并能够切换地播放的情形进行了说明。本发明不限于此,还可以与用通常的拍摄摄像机拍摄的通常图像进行组合。例如,第二实施方式中,设置专门拍摄偶像变焦的变焦用摄像机,根据视听用户的要求,或者,根据情况(例如拍摄者指定时)等,能够向变焦用摄像机拍摄到的变焦图像切换。由此,能够满足想要以特写看偶像的脸的视听用户的要求。
此外,上述的实施方式中,对将编辑程序及播放程序等预先储存于ROM或硬盘驱动器等的情形进行了说明。本发明不限于此,也可以从存储卡等外部存储介质中安装于计算机内部的闪存器、硬盘驱动器等。另外,还可以借助USB(Universal Serial Bus)、Ethernet(注册商标)(Institute of Electrical and Electronics Engineers)802.11a/b/g等无线LAN(Local Area Network)从外部取得数据库制作程序等,进而,利用地面数字电视广播、BS数字电视广播进行传输。
产业上的可利用性
本发明可以适用于例如体验型的娱乐。
符号说明
1、101:摄像机机组
2、102:编辑装置
3、103:服务器
5、105:播放装置
10、110:动画播放系统
21:系统控制器
22:存储部
24:显示部
25:操作输入部
31、131:系统控制器
31A、131A:封包生成部
32、132:存储部
33、133:外部接口
51、151:系统控制器
52、152:存储部
53、153:外部接口
54、154:显示部
55、155:操作输入部

Claims (14)

1.一种全景动画播放装置,其特征在于,包括:
取得单元,该取得单元取得同时拍摄并通过规定的时间信息建立关联地存储的多个全景图像数据;
播放控制单元,该播放控制单元以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置;以及
切换控制单元,该切换控制单元在播放所述播放对象中的规定播放时刻时,根据用户的切换请求,基于所述时间信息,将播放对象切换为所述播放时刻的其它全景图像数据,
所述播放控制单元根据基于所述多个全景图像数据中通用的通用指标所设定的中心坐标,确定成为所述显示图像的中心的视点坐标。
2.根据权利要求1所述的全景动画播放装置,其特征在于,
所述播放控制单元在根据用户的切换请求而将播放对切象换为所述其它全景图像数据时,以从在通用指标设定处理中所设定的作为通用指标坐标的中心坐标移动与用户的操作输入相对应的坐标而得到的中心坐标为中心,使所述其它全景图像数据中的显示图像显示于所述显示装置,
所述全景图像数据是视场角为360°的全景图像数据。
3.根据权利要求1所述的全景动画播放装置,其特征在于,
通过指定被拍摄而显示在所述显示图像内且拍摄到所述多个全景图像数据的摄像机或者搭载有该摄像机的物体来执行所述用户的切换请求。
4.根据权利要求3所述的全景动画播放装置,其特征在于,
包括存储单元,该存储单元存储有拍摄到所述多个全景图像数据的摄像机或者搭载有该摄像机的物体的坐标信息,
所述切换控制单元基于所述坐标信息,认识拍摄到所述多个全景图像数据的摄像机或者搭载有该摄像机的物体已被指定。
5.根据权利要求3或4所述的全景动画播放装置,其特征在于,
所述播放控制单元在对切换前的映出拍摄到所述多个全景图像数据的摄像机或者搭载有该摄像机的物体的显示图像进行切换后,立刻使其显示于所述显示装置。
6.根据权利要求3所述的全景动画播放装置,其特征在于,
所述播放控制单元在对视点坐标与切换前相同的显示图像进行切换后,立刻使其显示于所述显示装置。
7.根据权利要求1所述的全景动画播放装置,其特征在于,包括:
检测单元,该检测单元从所述多个全景图像数据中检测出预先设定的检测对象;和
切换控制单元,该切换控制单元按照规定的优先级,从检测到所述检测对象的全景图像数据中选择出一个全景图像数据,将该选择出的一个全景图像数据切换为所述播放对象。
8.根据权利要求7所述的全景动画播放装置,其特征在于,
所述检测对象为预先设定的物体或事件。
9.一种全景动画编辑装置,其特征在于,
包括设定单元,该设定单元针对动画播放装置中播放的多个全景图像数据,基于该多个全景图像数据中通用的通用指标,对每个全景图像设定中心坐标,
所述动画播放装置包括:
播放控制单元,该播放控制单元在以同时拍摄并通过规定的时间信息建立关联地存储的多个全景图像数据中选择出的一个全景图像数据为播放对象,并切出该播放对象的一部分作为显示图像,且使其显示于显示单元时,基于所述中心坐标,确定视点坐标;和
切换控制单元,该切换控制单元在播放所述播放对象中的规定播放时刻时,根据用户的切换请求,基于所述时间信息,将播放对象切换为所述播放时刻的其它全景图像数据。
10.一种全景动画播放系统,其特征在于,包括:
取得单元,该取得单元取得同时拍摄并通过规定的时间信息建立关联地存储的多个全景图像数据;
设定单元,该设定单元针对所述多个全景图像数据,基于所述多个全景图像数据中通用的通用指标,对每个全景图像设定中心坐标;
发送单元,该发送单元发送所述多个全景图像数据及所述中心坐标;
动画播放装置,该动画播放装置包括播放控制单元和切换控制单元,其中,所述播放控制单元在以所发送的所述多个全景图像数据中选择出的一个全景图像数据为播放对象,并切出该播放对象的一部分作为显示图像,且使其显示于显示单元时,基于所述中心坐标,确定视点坐标;所述切换控制单元在播放所述播放对象中的规定播放时刻时,根据用户的切换请求,基于所述时间信息,将播放对象切换为所述播放时刻的其它全景图像数据。
11.根据权利要求10所述的全景动画播放系统,其特征在于,
所述通用指标为基于拍摄时取得的测定信息而生成的方位、或拍摄所述多个全景图像数据中被共同拍摄到的风景、物体这样的被拍摄对象而得到的通用图像区域。
12.一种全景动画播放方法,其特征在于,包括以下步骤:
存储步骤:将同时拍摄到的多个全景图像数据通过规定的时间信息建立关联地进行存储;
播放控制步骤:以所述多个全景图像数据中选择出的一个全景图像数据为播放对象,切出该播放对象的一部分作为显示图像,使其显示于显示装置;以及
切换控制步骤:在播放所述播放对象中的规定播放时刻时,根据用户的切换请求,基于所述时间信息,将播放对象切换为所述播放时刻的其它全景图像数据,
在所述播放控制步骤中,基于所述多个全景图像数据中通用的通用指标,确定成为所述显示图像的中心的视点坐标。
13.一种计算机可读取存储介质,其特征在于,存储有使计算机执行权利要求12所述的全景动画播放方法的全景动画播放程序。
14.一种全景动画发送装置,其特征在于,
包括发送单元,该发送单元针对动画播放装置中播放的多个全景图像数据,发送基于该多个全景图像数据中通用的通用指标对每个全景图像所设定的中心坐标,
所述动画播放装置包括:
播放控制单元,该播放控制单元在以同时拍摄并通过规定的时间信息建立关联地存储的多个全景图像数据中选择出的一个全景图像数据为播放对象,并切出该播放对象的一部分作为显示图像,且使其显示于显示单元时,基于所述中心坐标,确定视点坐标;以及
切换控制单元,该切换控制单元在播放所述播放对象中的规定播放时刻时,根据用户的切换请求,基于所述时间信息,将播放对象切换为所述播放时刻的其它全景图像数据。
CN201680034701.4A 2015-07-31 2016-07-28 动画播放装置、动画播放方法、动画播放系统以及动画发送装置 Expired - Fee Related CN107852476B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015152269 2015-07-31
JP2015-152269 2015-07-31
PCT/JP2016/072228 WO2017022641A1 (ja) 2015-07-31 2016-07-28 動画再生装置、動画再生方法、動画再生プログラム、動画再生システム及び動画送信装置

Publications (2)

Publication Number Publication Date
CN107852476A CN107852476A (zh) 2018-03-27
CN107852476B true CN107852476B (zh) 2020-11-20

Family

ID=57943123

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680034701.4A Expired - Fee Related CN107852476B (zh) 2015-07-31 2016-07-28 动画播放装置、动画播放方法、动画播放系统以及动画发送装置

Country Status (5)

Country Link
US (1) US10686985B2 (zh)
EP (1) EP3331239A4 (zh)
JP (1) JP6178524B2 (zh)
CN (1) CN107852476B (zh)
WO (1) WO2017022641A1 (zh)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107147918A (zh) * 2017-06-12 2017-09-08 北京佰才邦技术有限公司 一种数据处理方法、系统、设备和服务器
JP6953221B2 (ja) * 2017-07-31 2021-10-27 グリー株式会社 画像表示システム、画像表示プログラム、画像表示方法及びサーバ
JP2019110421A (ja) * 2017-12-18 2019-07-04 トヨタ自動車株式会社 動画配信システム
CN109379524B (zh) * 2018-12-14 2024-06-04 上海杰图天下网络科技有限公司 基于工业相机和工业镜头的全景数据采集装置
US10728443B1 (en) 2019-03-27 2020-07-28 On Time Staffing Inc. Automatic camera angle switching to create combined audiovisual file
US10963841B2 (en) 2019-03-27 2021-03-30 On Time Staffing Inc. Employment candidate empathy scoring system
JP7335753B2 (ja) * 2019-08-09 2023-08-30 サンリツオートメイシヨン株式会社 物体追尾システム、物体追尾装置、物体追尾方法及びプログラム
US11127232B2 (en) 2019-11-26 2021-09-21 On Time Staffing Inc. Multi-camera, multi-sensor panel data extraction system and method
US11023735B1 (en) 2020-04-02 2021-06-01 On Time Staffing, Inc. Automatic versioning of video presentations
US11144882B1 (en) 2020-09-18 2021-10-12 On Time Staffing Inc. Systems and methods for evaluating actions over a computer network and establishing live network connections
US20230386099A1 (en) * 2020-10-23 2023-11-30 Sony Group Corporation User interface system, user interface method, and image editing device
US11727040B2 (en) 2021-08-06 2023-08-15 On Time Staffing, Inc. Monitoring third-party forum contributions to improve searching through time-to-live data assignments
US11423071B1 (en) 2021-08-31 2022-08-23 On Time Staffing, Inc. Candidate data ranking method using previously selected candidate data
WO2023176389A1 (ja) * 2022-03-15 2023-09-21 ソニーグループ株式会社 情報処理装置、情報処理方法、及び記録媒体
US11907652B2 (en) 2022-06-02 2024-02-20 On Time Staffing, Inc. User interface and systems for document creation

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102729902A (zh) * 2012-07-19 2012-10-17 西北工业大学 一种服务于汽车安全驾驶的嵌入式全景显示装置和方法
CN103609105A (zh) * 2011-06-22 2014-02-26 皇家飞利浦有限公司 用于生成用于显示器的信号的方法和设备
CN103959802A (zh) * 2012-08-10 2014-07-30 松下电器产业株式会社 影像提供方法、发送装置以及接收装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10191261A (ja) * 1996-12-20 1998-07-21 Nippon Telegr & Teleph Corp <Ntt> 多視点映像再生方法
US7149549B1 (en) * 2000-10-26 2006-12-12 Ortiz Luis M Providing multiple perspectives for a venue activity through an electronic hand held device
US7580952B2 (en) * 2005-02-28 2009-08-25 Microsoft Corporation Automatic digital image grouping using criteria based on image metadata and spatial information
JP4232774B2 (ja) * 2005-11-02 2009-03-04 ソニー株式会社 情報処理装置および方法、並びにプログラム
JP4818178B2 (ja) * 2007-03-27 2011-11-16 キヤノン株式会社 ネットワーク制御装置、ネットワーク制御方法、プログラム
WO2009042858A1 (en) * 2007-09-28 2009-04-02 Gracenote, Inc. Synthesizing a presentation of a multimedia event
JP5223318B2 (ja) * 2007-12-07 2013-06-26 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
US8447136B2 (en) * 2010-01-12 2013-05-21 Microsoft Corporation Viewing media in the context of street-level images
US8872888B2 (en) * 2010-10-01 2014-10-28 Sony Corporation Content transmission apparatus, content transmission method, content reproduction apparatus, content reproduction method, program and content delivery system
US20120105577A1 (en) * 2010-11-01 2012-05-03 Olympus Imaging Corp. Panoramic image generation device and panoramic image generation method
JP2012142860A (ja) 2011-01-05 2012-07-26 Canon Inc 任意視点映像処理装置及びその制御方法、及びプログラム
JP5735330B2 (ja) * 2011-04-08 2015-06-17 株式会社ソニー・コンピュータエンタテインメント 画像処理装置および画像処理方法
US8805158B2 (en) * 2012-02-08 2014-08-12 Nokia Corporation Video viewing angle selection
JP5920708B2 (ja) * 2012-02-29 2016-05-18 国立大学法人名古屋大学 多視点映像ストリーム視聴システムおよび方法
JP5975739B2 (ja) * 2012-06-01 2016-08-23 任天堂株式会社 情報処理プログラム、情報処理装置、情報処理システム、およびパノラマ動画表示方法
JP6147966B2 (ja) * 2012-06-01 2017-06-14 任天堂株式会社 情報処理プログラム、情報処理装置、情報処理システム、および情報処理方法
JP2014165763A (ja) * 2013-02-26 2014-09-08 Ricoh Co Ltd 編集装置、編集方法、及び編集プログラム
US10365797B2 (en) * 2013-03-15 2019-07-30 Ambient Consulting, LLC Group membership content presentation and augmentation system and method

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103609105A (zh) * 2011-06-22 2014-02-26 皇家飞利浦有限公司 用于生成用于显示器的信号的方法和设备
CN102729902A (zh) * 2012-07-19 2012-10-17 西北工业大学 一种服务于汽车安全驾驶的嵌入式全景显示装置和方法
CN103959802A (zh) * 2012-08-10 2014-07-30 松下电器产业株式会社 影像提供方法、发送装置以及接收装置

Also Published As

Publication number Publication date
JPWO2017022641A1 (ja) 2017-08-03
WO2017022641A1 (ja) 2017-02-09
CN107852476A (zh) 2018-03-27
JP6178524B2 (ja) 2017-08-09
US10686985B2 (en) 2020-06-16
EP3331239A4 (en) 2018-08-08
EP3331239A1 (en) 2018-06-06
US20180191955A1 (en) 2018-07-05

Similar Documents

Publication Publication Date Title
CN107852476B (zh) 动画播放装置、动画播放方法、动画播放系统以及动画发送装置
US10382680B2 (en) Methods and systems for generating stitched video content from multiple overlapping and concurrently-generated video instances
JP5594850B2 (ja) 代替現実システム制御装置、代替現実システム、代替現実システム制御方法、プログラム、および記録媒体
JP6558587B2 (ja) 情報処理装置、表示装置、情報処理方法、プログラム、および情報処理システム
US10805530B2 (en) Image processing for 360-degree camera
JP7132730B2 (ja) 情報処理装置および情報処理方法
JPWO2018030206A1 (ja) カメラワーク生成方法及び映像処理装置
US20210092466A1 (en) Information processing apparatus, information processing method, and program
CN112262583A (zh) 360度多视口系统
JP2017518663A (ja) 立体ビューイング
JP2020086983A (ja) 画像処理装置、画像処理方法、及びプログラム
CN106534618B (zh) 伪现场解说实现方法、装置和系统
WO2021246183A1 (ja) 情報処理装置、情報処理方法、及び、プログラム
CN107172413A (zh) 现实场景视频显示方法和系统
WO2020059327A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2006005452A (ja) 画像合成装置及び画像合成システム
JP2021086189A (ja) 情報処理装置、情報処理方法、映像処理システム、およびプログラム
WO2023236656A1 (zh) 互动画面的渲染方法、装置、设备、存储介质及程序产品
JP7385385B2 (ja) 画像配信システムおよび画像配信方法
JP4608139B2 (ja) 画像合成方法及び画像合成装置
JP2014240961A (ja) 代替現実システム制御装置、代替現実システム、代替現実システム制御方法、プログラム、および記録媒体
JP2021015417A (ja) 画像処理装置、画像配信システム、および画像処理方法
EP3503101A1 (en) Object based user interface
JP2019071650A (ja) 制御装置、制御方法、及び、プログラム
JP5646033B2 (ja) 画像表示装置および画像表示方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20201120