CN103650003A - 图像显示系统、信息处理设备、服务器和图像处理方法 - Google Patents

图像显示系统、信息处理设备、服务器和图像处理方法 Download PDF

Info

Publication number
CN103650003A
CN103650003A CN201280032031.4A CN201280032031A CN103650003A CN 103650003 A CN103650003 A CN 103650003A CN 201280032031 A CN201280032031 A CN 201280032031A CN 103650003 A CN103650003 A CN 103650003A
Authority
CN
China
Prior art keywords
image
data
viewing area
link
client terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201280032031.4A
Other languages
English (en)
Other versions
CN103650003B (zh
Inventor
大场章男
势川博之
稻田彻悟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Computer Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Computer Entertainment Inc filed Critical Sony Computer Entertainment Inc
Publication of CN103650003A publication Critical patent/CN103650003A/zh
Application granted granted Critical
Publication of CN103650003B publication Critical patent/CN103650003B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/20Drawing from basic elements, e.g. lines or circles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234327Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into layers, e.g. base layer and one or more enhancement layers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234345Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements the reformatting operation being performed only on part of the stream, e.g. a region of the image or a time segment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/2662Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/454Content or additional data filtering, e.g. blocking advertisements
    • H04N21/4545Input to filtering algorithms, e.g. filtering a region of the image
    • H04N21/45455Input to filtering algorithms, e.g. filtering a region of the image applied to a region of the image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/16Indexing scheme for image data processing or generation, in general involving adaptation to the client's capabilities
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/08Bandwidth reduction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/36Level of detail

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Information Transfer Between Computers (AREA)
  • Processing Or Creating Images (AREA)
  • Image Generation (AREA)

Abstract

对三个分级数据片段(170,172,174)和一个视频数据片段(182)建立链接。在分级数据片段170正用于显示图像的同时当显示区域与链接区域(176)叠加时,切换到使用分级数据片段172的第0分级的显示(链接a)。在分级数据片段172正用于显示图像的同时,当显示区域与链接区域(178)叠加时,切换到使用分级数据片段174的第0分级的显示(链接b)。分级数据片段170的分开链接区域(180)的链接目的地是视频数据(182)(链接c),并且如果所述区域被放大,则视频回放开始。分级数据(170和172)保持在客户端终端侧,并且服务器以数据流格式将跨过切换边界(184)的数据传输给客户端终端。

Description

图像显示系统、信息处理设备、服务器和图像处理方法
技术领域
本发明涉及用于放大/缩小或垂直和水平移动显示器上显示的图像的技术。
背景技术
已经提出家用娱乐系统,其不仅运行游戏程序而且可以再现运动图像。在该家用娱乐系统中,GPU使用多边形生成三维图像(例如参考专利文献1)。
引用列表
专利文献
[PTL1]
US6,563,999A
发明内容
技术问题
为了在用户操作的终端上显示各种图像而不管图像是静态图像或运动图像,必须确保足够的资源,如用于存储请求的图像的数据的存储设备。此外,在基于用户的指令输入显示具有显示区域的移动的图像的模式中,即使对于高分辨率图像,也期望获得对于指令输入的足够响应。同时,用户认为的优化显示环境取决于终端具有的性能和图像显示目的而多样化。在允许经由网络获取巨量的内容片段的现代环境中,期望允许自由选择多种因素(如内容、质量、响应性和收费系统)的组合的技术。
考虑这样的问题进行了本发明,并且其目的是提供允许在符合用户的请求的环境中显示各种图像的技术。
解决问题的技术方案
本发明的一种模式涉及图像显示系统。该图像显示系统是包括客户端终端和服务器的显示系统,该客户端终端执行显示并根据显示区域移动的请求信号移动正在显示的图像中的显示区域,以及该服务器经由网络连接到客户端终端,并传输图像数据到所述客户端终端。所述客户端终端包括:第一存储,其存储至少部分图像的图像数据;区域参数确定器,其根据显示区域移动的请求信号确定表示正在显示的图像中的显示区域的位置和大小的区域参数;和显示图像处理器,其通过使用由所述区域参数限定和显示所需的图像数据绘制显示区域的图像,并且如果显示所需的图像数据存储在第一存储中则将该图像输出到显示设备。所述客户端终端还包括:操作信息传输器,其顺序地传输与显示区域的移动有关的信息到服务器;以及数据再现器,其再现从服务器传输的图像的数据,并且如果显示所需的图像数据没有存储在第一存储中则将该数据输出到显示设备。所述服务器包括:第二存储,其至少存储没有存储在所述第一存储中的图像数据;以及数据传输器,其将基于从所述操作信息传输器传输的与显示区域的移动有关的信息、通过使用所述第二存储中存储的图像数据绘制的显示区域的图像的数据传输到所述客户端终端。
本发明的另一模式涉及一种信息处理设备。该信息处理设备执行显示并根据显示区域移动的请求信号移动正在显示的图像中的显示区域。所述信息处理设备包括:存储,其存储至少部分图像的图像数据;区域参数确定器,其根据显示区域移动的请求信号确定表示正在显示的图像中的显示区域的位置和大小的区域参数;显示图像处理器,其通过使用由所述区域参数限定和显示所需的图像数据绘制显示区域的图像,并且如果显示所需的图像数据存储在所述存储中则将该图像输出到显示设备。所述信息处理设备还包括:操作信息传输器,其顺序地传输与显示区域的移动有关的信息到经由网络连接的服务器;以及数据再现器,其再现要由服务器传输的、基于与显示区域的移动有关的信息绘制的显示区域的图像的数据,并且如果显示所需的图像数据没有存储在所述存储中则将该数据输出到显示设备。
本发明的另一模式涉及一种服务器。该服务器包括:操作信息接收器,其从经由网络连接的客户端终端获取与显示区域的移动有关的信息,并且执行显示和根据显示区域移动的请求信号移动正在显示的图像中的显示区域;存储,其至少存储没有存储在客户端终端的存储设备中的图像数据;以及数据传输器,如果由与显示区域的移动有关的信息限定和显示所需的图像数据没有存储在客户端终端的存储设备中,则所述数据传输器将通过使用所述存储中存储的图像数据绘制的显示区域的图像的数据传输到所述客户端终端。
本发明的另一模式涉及一种图像处理方法。该图像处理方法是这样的图像处理方法,其用于在信息处理设备中执行显示并根据显示区域移动的请求信号移动正在显示的图像中的显示区域。所述图像处理方法包括:根据显示区域移动的请求信号确定表示正在显示的图像中的显示区域的位置和大小的区域参数的步骤;通过使用由所述区域参数限定和显示所需的图像数据绘制显示区域的图像,并且如果显示所需的图像数据存储在信息处理设备的存储中则将该图像输出到显示设备的步骤。所述图像处理方法还包括:顺序地传输与显示区域的移动有关的信息到经由网络连接到信息处理设备的服务器的步骤;以及再现要由服务器传输的、基于与显示区域的移动有关的信息绘制的显示区域的图像的数据,并且如果显示所需的图像数据没有存储在信息处理设备的存储中则将该数据输出到显示设备的步骤。
通过在方法、设备、系统、计算机程序等中通过改变本发明的上述构成元素和表达式所获得的也用作本发明的模式。
发明的有利效果
根据本发明,在质量和响应性满足用户的请求的情况下可以显示各种图像。
附图说明
图1是示出本实施例中的图像显示系统的配置的图。
图2是示出本实施例中的信息处理设备的配置的图。
图3是示出本实施例中的输入设备的外观配置示例的图。
图4是示意性示出在本实施例中在引入链接的模式中作为显示目标的多个图像之间的关系的图。
图5是本实施例中作为处理目标的分级数据的概念图。
图6是示意性示出在本实施例中在包括分级数据的多个图像数据当中设置链接的状态的图。
图7是详细示出本实施例中的客户端终端的信息处理设备中的控制部分的配置的图。
图8是示出本实施例中的服务器的功能块的配置的图。
图9是示出本实施例中由客户端终端保持的链接设置文件的数据结构示例的图。
图10是示出本实施例中由服务器保持的链接设置文件的数据结构示例的图。
图11是示意性示出本实施例中对链接区域设置的切换区域的示例的图。
图12是示出本实施例中通过图像显示系统在客户端终端中执行图像显示的处理过程的流程图。
具体实施方式
图1示出本实施例中的图像显示系统的配置。如该图所示,在图像显示系统2中,客户端终端1a、1b、……、1n每个如此配置,以便可连接到网络3并与服务器5执行数据传输和接收。客户端终端1a、1b、……、1n通过使用它们自己保持的图像数据执行图像显示,并且还通过使用从服务器5传输的图像数据执行图像显示。如稍后描述的,在本实施例中,图像数据的读取资源基于用户的显示区域移动请求而无缝切换。客户端终端1a、1b、……、1n以有线或无线方式连接到网络3。通用技术可应用于与服务器5建立通信有关的过程。
客户端终端1a、1b、……、1n包括:信息处理设备10a、10b、……、10n,其与服务器5执行数据传输和接收;以及显示设备12a、12b、……、12n,其输出通过信息处理设备10a、10b、……、10n的图像处理的结果。显示设备12a、12b、……、12n可以是电视,具有用于输出图像的显示器和用于输出声音的扬声器。以下,各个符号将统一表示,从而将采用客户端终端1、信息处理设备10和显示设备12。显示设备12可以通过有线电缆连接到信息处理设备10,或者可以通过无线LAN(局域网)等无线地连接。
图2示出信息处理设备10的配置。信息处理设备10如此配置,以便具有输入设备20、开关42、显示处理器44、音频处理器45、硬盘驱动器50、记录介质加载部分52、盘驱动器54、主存储器60、缓冲器存储器70、和控制部分100。显示处理器44具有帧存储器,用于缓冲要在显示设备12的显示器上显示的数据。
输入设备20接受用户在观看显示设备12上显示的屏幕的情况下进行的请求,具体地,例如,移动光标或选择文件或命令的请求以及用于滚动和放大/缩小屏幕的请求,并且将其作为信号传输给控制部分100。输入设备20可以通过一般的输入设备(如指向设备、鼠标、键盘、触摸面板、游戏控制器、和按钮)实现。输入设备20和控制部分100可以通过使用蓝牙(注册商标)协议或IEEE802.11协议建立无线连接。可替代地,它们可以经由电缆连接。
开关42是以太网开关(以太网是注册商标),并且是以有线或无线方式连接到外部装置并执行数据传输和接收的设备。开关42如此配置,使得它经由电缆14连接到外部网络,并且可以从服务器5接收图像数据等。
硬盘驱动器50用作存储数据的存储设备。当可移除记录介质(如存储卡)加载到记录介质加载部分52中时,记录介质加载部分52从可移除记录介质读出数据。当只读的ROM盘加载到盘驱动器54中时,盘驱动器54驱动并识别ROM盘以读出数据。ROM盘可以是光盘、磁光盘等。要在显示设备12上显示的图像数据和程序和执行各种处理所需的各种数据可以存储在硬盘驱动器50、可移除记录介质、ROM盘等中。
控制部分100包括多核CPU,并且在一个CPU中具有一个通用处理器核心和多个简化处理器核心。通用处理器核心称为PPU(PowerPC处理器单元),并且剩余处理器核心称为SPU(协处理器单元)。
控制部分100包括存储器控制器,其连接到主存储器60和缓冲器存储器70。PPU具有寄存器,并且包括作为用于执行算术运算的主体的主处理器。它有效地为每个SPU分配作为要执行的应用中的基本处理单元的任务。PPU自身可以执行任务。SPU具有寄存器,并且包括作为用于执行算术运算的主体的子处理器和作为本地存储区域的本地存储器。本地存储器可以用作缓冲器存储器70。
主存储器60和缓冲器存储器70是存储设备,并且配置为RAM(随机读取存储器)。SPU具有作为控制单元的专用DMA(直接存储器访问)控制器,并且可以高速执行主存储器60和缓冲器存储器70之间的数据传送。此外,它可以实现显示处理器44中的帧存储器和缓冲器存储器70之间的高速数据传送。本实施例的控制部分100通过并行地操作多个SPU实现高速图像处理功能。显示处理器44连接到显示设备12,并且根据来自用户的请求输出图像数据。音频处理器45输出通过控制部分100再现的音频信号到扬声器。
图3示出输入设备20的外观配置示例。输入设备20包括十字键(crosskey)21、模拟杆(analog stick)27a和27b、以及作为用户可操作的操作部件的四种操作按钮26。四种操作按钮26包括○按钮22、×按钮23、□按钮24和△按钮25。
在信息处理设备10中,为输入设备20的操作部件分配各种功能,用于输入放大/缩小显示图像的请求和在垂直和水平方向上滚动显示图像的请求。例如,请求放大/缩小显示图像的输入功能分配给右模拟杆27b。用户可以通过将模拟杆27b向用户侧拉动输入缩小显示图像的请求,并且可以通过将其从用户侧推走输入放大显示图像的请求。
此外,在垂直和水平方向上滚动的请求的输入功能分配给十字键21。用户按下十字键21,从而能够输入在按压的十字键21的方向上移动的请求。这些请求的输入功能可以分配给不同的操作部件。例如,滚动请求的输入功能可以分配给模拟杆27a。以下,显示图像的放大/缩小及其在垂直和水平方向上的滚动将通常统称为“显示区域的移动”。
在本实施例中,准备多个图像数据作为显示目标,并且用户移动显示区域,这允许显示图像在图像数据当中切换。具体地,在正在显示特定图像的同时显示区域进入预设区域时,用于显示的图像数据被切换。切换前后的图像可以是表示不同分辨率范围中的相同对象的数据,或者可以是表示完全不同的对象的数据。
此外,图像可以是静态图像或运动图像。为了实现这样的模式,除了图像自身的数据之外,还准备其中设置用于切换到另一图像数据的区域和切换目的地的图像数据。以下,这样的多个图像数据之间的关联将称为“链接”。基于链接切换图像数据将称为“链接的执行”。用作链接的执行的触发的图像上的区域将称为“链接区域”。
图4示意性示出这样的模式中的用作显示目标的多个图像之间的关系。在该图中,三个图像(即,图像156、158和160)用作显示目标。此外,假设在图像156的链接区域162和图像158的链接区域163之间设置链接,并且在图像156的链接区域164和图像160的链接区域165之间设置链接。在正在生成通过使用图像156的图像数据生成显示图像的同时、基于用户的移动请求显示区域与链接区域162重叠时,用于显示的图像数据从图像156切换到图像158,并且显示图像158中的链接区域163(箭头A)。
在图4的示例中,以高分辨率主要表示以图像156中的五角形为中心的区域的图像存储在硬盘驱动器50中作为另一图像158的数据。此外,链接区域162和链接区域163如此设置以便具有相同的视角。这允许通过使用图像158的数据连续地显示具有比图像156的分辨率高的分辨率的图像。此时,在外观上,只通过放大五角形切换图像数据。因此,用户不知道执行了这样的切换。
此外,在链接区域162和链接区域163之间,还设置箭头B,即,与箭头A相反方向上的链接,如图中所示。在该情况下,在箭头A的变换之后,当已经显示图像158中的期望区域的用户返回显示区域,并且该显示区域再次与链接区域163重叠时,用于显示的数据从图像158切换到图像156,并且显示图像156中的链接区域162(箭头B)。此外在该情况下,只通过图像158中的显示区域的返回,允许连续的切换而不知道图像数据的切换。
此外在从链接区域164到链接区域165的转换(箭头C)中,类似地,当正在显示图像156的同时显示图像通过放大到椭圆形与链接区域164重叠时,图像数据切换,并且显示图像160的链接区域165。这允许具有比图像156的分辨率更高分辨率的图像的显示。这里,在两个区域“重叠”的状态下,各区域的边界不需要严格重叠。显示区域存在于分辨率方向上的设定范围内或在稍后描述的图像平面上就足够了。
为了有效地渲染图像数据之间的这种链接,对图像数据给出分级结构将是可能的,该分级结构包括表示具有不同分辨率的一个图像的多个数据。此外,在基于用户的指令输入的图像的放大/缩小处理中,取决于分辨率切换用于绘制的数据的分级水平。这动态地增加可以通过使用一个单元的图像数据表示的分辨率的宽度。因此,设置链接区域的灵活性增加,并且使用图像的内容和服务可以多样化。以下,具有这样的分级结构的图像数据将称为“分级数据”。
图5是分级数据的概念图。分级数据具有分级结构,包括深度(Z轴)方向上的第0分级水平30、第一分级水平32、第二分级水平34、和第三分级水平36。尽管该图中只示出四个分级水平,但是分级水平的数量不限于此。
图5所示的分级数据具有四元树分级结构,并且每个分级水平由一个或多个磁贴图像38。所有的磁贴图像38形成为相同大小,具有相同数量的像素,并且具有例如256×256像素。各个分级水平的图像数据表示具有不同分辨率的一个图像,并且分辨率按照第三分级水平36、第二分级水平34、第一分级水平32和第0分级水平30的顺序变低。例如,第N分级水平(N是大于或等于0的整数)的分辨率可以是第(N+1)分级水平的分辨率的1/2,在水平(X轴)方向和垂直(Y轴)方向两者上。
分级数据存储在音频驱动器50中,处于以预定压缩格式压缩的状态,并且在显示在显示设备12上之前,从硬盘驱动器50读出以解码。这里,压缩格式不限定,并且可以是例如S3TC格式、JPEG格式和JPEG2000格式的任一。
对于分级数据的分级结构,水平方向、垂直方向和深度方向分别设为X轴、Y轴和Z轴,如图5所示,并且构造虚拟的三维空间。当从由输入设备20提供的屏幕的滚动和放大/缩小的指令输入信号导出帧的改变量时,信息处理设备10通过使用改变量导出虚拟空间中的帧的四个角的坐标(帧坐标)。
虚拟空间中的帧坐标用于将压缩数据加载到主存储器中以及帧绘制处理,这将在稍后描述。例如,对于显示图像的分辨率的改变,在Z轴上的各个分级水平之间设置切换边界。此外,当帧的Z坐标基于显示区域移动的请求信号超出该切换边界时,用于显示图像的绘制的分级水平切换。然后,根据需要执行加载和解码,并且通过根据请求的分辨率执行放大/缩小生成显示图像。
信息处理设备10可以导出用于识别分级水平的信息和在该分级水平的纹理坐标(UV坐标),替代虚拟空间中的帧坐标。以下,用于识别分级水平的信息和纹理坐标的组合也将称为帧坐标。此外,如果处理目标的图像没有给予分级结构,则帧坐标可以以图像屏幕的二维空间表示。可替代地,替代帧坐标,可以引入另一参数,用其确定帧(即,显示区域)的位置和大小。例如,该参数可以是对图像的视点的位置、帧的质心坐标及其侧边的大小、距离参考帧的相对位置和相对大小等。
此外,当通过设置的链接区域的内部/外部来确定是否执行链接时,使用帧坐标。此外,当通过靠近连接区域设置的切换区域的内部/外部确定在客户端终端1和服务器5之间切换确定是否执行链接的主体时,使用帧坐标。
为了在执行屏幕的放大/缩小处理或滚动处理时平滑地更新显示,信息处理设备10从硬盘驱动器50加载部分分级数据到主存储器60。此外,基于显示区域的之前移动方向,信息处理设备10可以预测将来将显示的区域,并且解码加载到主存储器60的图像数据的另一部分,以将解码的数据存储到缓冲器存储器70。这使得可能在稍后必要的定时瞬时切换用于显示区域的绘制的图像数据。
图6示意性示出在包括分级数据的多个图像数据之间设置链接的状态。在该图的示例中,在三个分级数据170、172和174和一个运动图像数据182之间设置链接,并且各链接区域之间的对应关系用虚线箭头示出。例如,当在通过使用分级数据170显示图像的同时、显示区域与在第二分级水平设置的链接区域176重叠时,进行到通过使用分级数据172的第0分级水平的显示的切换(链接a)。在该情况下,链接目的地的链接区域是分级数据172的第0分级水平的整个图像。
由于这样的设置,当通过使用分级数据170在图像显示中执行链接区域176的附近的放大时,首先,用于图像绘制的数据切换到分级数据170的第0分级水平、第一分级水平和第二分级水平,并且此外分级数据自身切换到分级数据172。因此,链接区域176中的对象可以进一步放大。
相反,当通过使用分级数据172正在显示图像的同时执行缩小到第0分级水平的分辨率时,图像返回分级数据170的链接区域176。类似地,当在通过使用分级数据172显示图像的同时、显示区域与在第二分级水平设置的链接区域178重叠时,进行到通过使用分级数据174的第0分级水平的显示的切换(链接b)。此后,当执行缩小到分级数据174的第0分级水平的分辨率时,图像返回分级数据172的链接区域178。
如上所述,由这些分级数据表示的目标对象可以是相同对象或者可以是完全不同的对象。在后者情况下,可以实现这样的再现,与图像数据的切换同步地形成不同图像世界。同时,在分级数据170中设置另一链接区域180,并且其链接目的地设为运动图像数据182(链接C)。例如,可能在作为链接源的链接区域180中隐藏该运动图像的标题图像,并且在执行该区域的放大时开始运动图像的再现。
链接目的地不限于分级数据和运动图像,并且可以是不具有分级结构的静态图像数据、通过幻灯片显示顺序显示的多个静态图像数据、音频数据等。如果链接目的地设为运动图像数据或音频数据,则当用户停止再现或再现完成时,显示图像可以返回链接源的图像。如果链接目的地是不同于迄今为止处理的图像数据(如运动图像数据或音频数据)的类型的数据,则除了处理目标的数据的切换之后,任意地激活用于相关数据的处理和再现的功能。
如上所述,在本实施例中,不管数据是否是分级数据,并且不管数据是静态图像数据、运动图像数据或音频数据,通过经由链接将多个电子数据与定义为起点的首先显示的初始图像连接,实现了通过显示区域的移动触发的各种内容段的执行。设置链接所需的信息基本上是表示链接源的区域的信息、与链接目的地的数据有关的信息、和当链接目的地是图像时表示该链接目的地的区域的信息的集合。以下,其中描述这样的设置的文件将称为“链接设置文件”。稍后将示出链接设置文件的具体示例。
通过利用这样的机制以多种方式连接单独的电子数据,最终可以形成包括作为节点的各自数据的网络。然而,由于在客户端终端1中的有限的存储区域,可以存储的数据量有限。同时,在经由网络3分发数据的情况下,输出性能(如响应)容易根据网络环境、客户端终端具有的资源、数据大小等改变。
在本实施例中,采用这样的模式,其中客户端终端1保持在它们之间设置链接的多个数据中的部分,并且服务器5与客户端终端1中的显示区域的移动相关联地根据需要执行数据分发。为此,在统一的操作性下,在数据网络上的可访问范围扩展的情况下,基于数据是否保持在客户端终端1中澄清数据的区分。这使得质量管理和收费控制容易。
例如,图6所示的数据网络中的分级数据170和172存储在客户端终端1的硬盘驱动器50中。此外,在执行其链接目的地是不是客户端终端1保持的数据的链接b或链接c时,客户端终端1将数据读取源从其自身硬盘驱动器50切换到服务器5。在图6中,一点链线184表示其切换边界。存在于切换边界的另一侧的数据以数据流格式通过服务器5传输到客户端终端1,并且客户端终端1顺序地再现和输出传输的流。
在客户端终端1和服务器5中,关于相同的图像数据保持类似的链接设置文件。这允许服务器5侧跟踪客户端终端1中显示区域的移动和链接的执行。然而,为了澄清链接目的地的数据的读取源,链接设置文件中与链接目的地的数据有关的信息的格式根据数据的读取源和客户端终端1或服务器5保持该链接设置文件而改变。该信息根据客户端终端1中的数据获取状态自适应地改变。
图7详细示出客户端终端1的信息处理设备10中的控制部分100的配置。控制部分100包括:输入信息获取器102,其获取用户从输入设备20输入的信息;帧坐标确定器110,其确定接着应当显示的帧的帧坐标;以及加载部分112,其确定应当重新加载的数据并且从硬盘驱动器50加载它。控制部分100还包括解码图像数据的解码部分114、绘制显示区域的图像的显示图像处理器116、再现运动图像数据的运动图像再现器118以及再现音频数据的音频再现器120。
控制部分100还包括:链接确定器106,其确定链接执行以及到服务器5的信息传输的必要性;操作信息传输器104,其将客户端终端1中的操作信息传输给服务器5;以及数据接收器108,其从服务器5接收数据。在硬盘驱动器50中,存储图像数据、运动图像数据、音频数据和链接设置文件。如上所述,为链接源的图像数据的每个创建链接设置文件。
如图7和稍后描述的图8所示,描述为执行各种处理的功能块的各个元件可以由硬件方面的CPU(中央处理单元)、存储器和其他LSI形成,并且可以由软件方面的加载到主存储器60的程序等实现。如上所述,控制部分100具有一个PPU和多个SPU,并且PPU和SPU可以单独地或者协作地形成各个功能块。因此,本领域技术人员要理解的是,这些功能块可以只通过硬件、只通过软件、或它们的组合以各种形式实现,并且它们不限于任何一个。
输入信息获取器102获取用户输入到输入设备20的指令的内容,如图像显示的开始/结束、图像文件的选择和显示区域的移动。帧坐标确定器110根据当前显示区域的帧坐标和关于用户的显示区域移动请求输入的信息,确定由帧速率确定的每个时间的帧坐标。具体地,帧坐标确定器110从由输入设备20获取的显示区域移动的请求信号计算移动速度矢量,并且根据它确定每个时间的帧坐标。关于这些帧坐标的信息首先通知给链接确定器106。
链接确定器106参考预先从硬盘驱动器50加载的并且对应于此时作为显示目标的图像的连接设置文件,监视从帧坐标确定器110通知的帧坐标是否与链接区域叠加。在链接设置文件中设置的连接目的地,硬盘驱动器50中存储的数据和服务器5保持的数据可以以混合方式存在。
如果链接目的地是硬盘驱动器50中存储的数据,则数据的标识信息设为与链接目的地的数据有关的信息。如果链接目的地是服务器5保持的数据,则设置用于标识服务器5的信息,并且不需要设置数据的特定标识信息。这是因为到服务器5保持的数据的链接实际上在服务器5侧执行。
然后,当帧与其链接目的地是硬盘驱动器50中存储的数据的链接区域叠加时,链接确定器106确定执行链接,并且将链接目的地的数据的标识信息返回给帧坐标确定器110。如果以此方式通知的链接目的地的数据是图像数据,则帧坐标确定器110将之前确定的帧坐标转换为链接目的地的图像的坐标系统中的帧坐标。坐标转换可以容易地执行,因为链接源的图像中的链接区域与链接设置文件中的链接目的地的图像中的链接区域相关联。
此外,帧坐标确定器110将图像数据的标识信息和确定的帧坐标通知给加载部分112、解码部分114和显示图像处理器116。如果链接驱动器106已经确定执行链接,则帧坐标确定器110通知链接目的地的图像数据的标识信息和坐标转换后的帧坐标。如果链接目的地是运动图像数据或音频数据,则其标识信息通知给加载部分112。通过使其信息包括在链接设置文件中的链接目的地的数据的标识信息中,进行链接目的地的数据的类型的确定。如果数据的文件名用作标识信息,则数据的类型可以通过使用通用扩展确定。
另一方面,当帧进入其链接目的地是服务器5保持的数据的链接区域的预定范围时,链接确定器106将设为关于链接目的地的信息的服务器5的标识信息和用于此时的显示的图像数据的标识信息通知给操作信息传输器104。操作信息传输器104从链接确定器106接收通知,并且与服务器5建立通信以通知用于此时的显示的图像数据的标识信息。此外,操作信息传输器104开始从帧坐标确定器110获取帧坐标,并且顺序地传送相关信息到服务器5。
建立与服务器5的通信,以便在显示区域靠近链接区域到在实际与链接区域叠加之前能够预期它进入链接区域的程度时传输客户端终端1中的操作信息。这允许当显示区域实际与链接区域叠加时在服务器5侧平滑地执行链接。为此,包括链接区域的具有预定大小的区域设为切换区域。切换区域可以对链接设置文件中的每个链接区域单独地设置,或者可以对所有链接区域设为相同范围。
此外,例如当帧移出切换区域时,链接确定器106从服务器5获取指示这个的通知,并且将其通知给操作信息传输器104。在该情况下,操作信息传输器104结束帧坐标到服务器5的传输。可替代地,链接确定器106自身可以确定帧是否移出切换区域。
加载部分112基于来自帧坐标确定器110的信息确定应当加载到主存储器60的磁贴图像。因此,如果存在还没有加载的磁贴图像,则加载部分112将这些磁贴图像的数据从硬盘驱动器50加载到主存储器60。应当加载到主存储器60的磁贴图像是包括在从帧坐标确定器110通知的帧中的磁贴图像、这些磁贴图像周围预定范围内的磁贴图像、从过去的帧坐标的转换起预期在将来是必须的区域中的磁贴图像等。
在这样的磁贴图像中,还包括预期在将来是必须的连接目的地的图像。例如,可以以预定时间间隔恒定地加载绘制中间随后的显示图像所需的数据以外的数据。此外,基于运动图像数据的标识信息或从帧坐标确定器110通知的音频数据的标识信息,加载部分112将来自硬盘驱动器50的相关文件提供给运动图像再现器118或音频再现器120。
基于关于从帧坐标确定器110获取的帧坐标的信息,解码部分114从主存储器60读出磁体图像的数据,以便解码它和将解码数据存储在缓冲器存储器70中。此时,在应当中间随后显示的帧的图像中,解码部分114对还没有存储在缓冲器存储器70的数据给出优先级并解码,并且根据预定规则,进一步解码其外围、预期在将来显示的区域等。显示图像处理器116基于从帧坐标确定器110获取的下一帧的帧坐标,从缓冲器存储器70读出对应的图像数据,并且绘制显示处理器44的帧存储器中的帧的图像。
数据接收器108根据客户端终端1中的显示区域的移动接收从服务器5传输的数据。这里接收的数据是根据显示区域运动请求通过静止图像中的显示区域的移动获得的运动图像或预先设为链接目的地的运动图像或音频数据的数据,并且通过服务器5以低延迟编解码实时地传输。如上所述,即使在链接目的地是静止图像(如分级数据)时,也通过实时传输通过其显示区域的移动获得的视频作为运动图像流消除了传输分级数据自身的需要。
运动图像再现器118再现通过加载部分112从硬盘驱动器50加载的运动图像数据或通过数据接收器108从服务器5接收的运动图像数据,并且将再现的数据输出到显示处理器44。音频再现器120再现通过加载部分112从硬盘驱动器50加载的音频数据或通过数据接收器108从服务器5接收的音频数据,并且将再现的数据输出到音频处理器45。
在从服务器5传输数据的时段中,该数据利用给予它的优先级输出。这切换输出数据的读取源。由于这样的配置,不管数据的读取源是硬盘驱动器50或服务器5,由显示区域移动请求触发的显示图像的更新、链接目的地的运动图像的显示以及音频再现可以在表面上以相同方式实现。
服务器5可以具有与主要在图2中所示的信息处理设备10的配置类似的配置。图8示出服务器5的功能块的配置。服务器5包括其中存储链接设置文件的链接设置文件存储246和其中存储图像数据、运动图像数据和音频数据的数据存储244。
服务器5进一步包括:操作信息接收器230,其从客户端终端1接收操作信息;链接确定器232,其确定执行链接和从客户端终端1接收信息的必要性;以及帧坐标确定器234,其确定每个帧的帧坐标。服务器5进一步包括:加载部分112,其确定应当重新加载的数据并且从数据存储244中加载它;帧绘制部分238,其解码图像数据并绘制作为运动图像的帧的显示区域的图像;以及数据传输器242,其传输运动图像数据或音频数据到客户端终端1。
链接设置文件存储246存储链接设置文件,其具有与信息处理设备10的硬盘驱动器50中存储的链接设置文件的结构相同的结构。因为服务器5通常掌握所有数据的信息,所以与服务器5保持的链接设置文件中的链接目的地的数据有关信息是该数据的标识信息。如果客户端终端1也保持链接目的地的信息,则使得表示这个的信息包括在与链接目的地的数据有关的信息中,从而读取源切换到客户端终端1的硬盘驱动器50。
如果采用这个,则链接设置文件存储246存储的链接设置文件根据客户端终端1保持什么而不同。因此,在图1所示的图像显示系统2中在服务器5连接到多个客户端终端1a、1b、……、1n等的模式中,为每个客户端终端不链接设置文件。
操作信息接收器230根据来自客户端终端1的操作信息传输器104的请求建立通信,并且接收此时在客户端终端1中显示的图像数据的标识信息。此外,它实时接收帧坐标。链接确定器232参考链接设置文件存储246存储的链接设置文件,监视相关帧是否与链接区域叠加。
然后,当帧与其链接目的地是没有被客户端终端1保持的数据的链接区域时,链接确定器232确定执行链接。此外,如果链接目的地的数据是图像数据,则链接确定器232将其标识信息通知给帧坐标确定器234。另一方面,如果该数据是运动图像数据或音频数据,则链接确定器232将该数据的标识信息通知给加载部分236。
此外,当帧移出已经触发从客户端终端1传输帧坐标的切换区域时,或者当帧进入其链接目的地是由客户端终端1保持的数据的链接区域时,链接确定器232将这个通知给客户端终端1的链接确定器106。
当链接确定器232已经确定执行链接时,帧坐标确定器234将从操作信息接收器230接收的帧坐标转换为从链接确定器232通知的链接目的地的图像的坐标系统中的帧坐标。帧坐标确定器234将链接目的地的图像数据的标识信息和坐标转换后获得的帧坐标通知给加载部分236和帧绘制部分238。加载部分236基于来自帧坐标确定器234的信息从数据存储244加载必要数据到图中未示出的存储器。
帧绘制部分238从存储器读出数据,并且基于帧坐标解码它以将解码数据存储到图中未示出的缓冲器存储器中,并且绘制帧的图像。加载部分236和帧绘制部分238的操作可以与上述信息处理设备10中的加载部分112、解码部分114和显示图像处理器116相同。然而,帧绘制部分238执行其帧是预定格式的绘制图像的运动图像数据的压缩编码,然后顺序地将编码数据提供给数据传输器242。
此外,基于从链接确定器232通知的链接目的地的运动图像数据的标识信息或音频数据的标识信息,加载部分236从数据存储244加载相关数据,并且顺序地将其提供给数据传输器242。数据传输器242顺序地将从加载部分236或帧绘制部分238提供的运动图像数据或音频数据传输给客户端终端1的数据接收器108。
图9和10示出链接设置文件的数据结构示例。图9所示的链接设置文件22a存储在客户端终端1的硬盘驱动器50中,并且图10所示的链接设置文件22b存储在服务器5的链接设置文件存储246中,并且它们与相同图像数据关联。在链接设置文件22a和22b中,关于一行的描述对应于一个链接。它们由四种字段形成,即,链接源图像帧字段302、有效缩放范围字段304、链接目的地文件字段306和链接目的地图像帧字段308。
如上所述,客户端终端1和服务器5保持类似的链接设置文件。这允许服务器5跟踪与客户端终端1中的显示有关的运动。因此,在图9的链接设置文件22a和图10的链接设置文件22b中,链接源图像帧字段302、有效缩放范围字段304、和链接目的地图像帧字段308每个具有相同设置。另一方面,如上所述,与链接目的地文件字段306中的链接描述数据有关的信息的格式相互不同。
通过预定帧参数,链接源图像帧字段302设置导致切换到正在显示的图像中的另一图像数据的区域,即,链接区域。该区域等效于例如图4中的箭头B的链接中的链接区域163。在该示例中,当具有与显示目标的图像具有相同中心的矩形围绕该图像并且当它的横宽比用作参考帧时具有预定值时,帧参数用以下四个参数的值表示:与该参考帧的水平偏移量的比;垂直偏移量的比;放大比;和旋转角。然而,链接区域的设置方法不限于此,并且可以采用例如图5中所示的三维空间中的四个角的坐标。
有效缩放范围字段304指定链接有效的放大比的宽度,其中链接源图像帧字段302中的放大比作为开始点。在链接设置文件22a和22b中的第一行,链接源图像帧字段302中所示的链接区域的放大比是“2.0”,并且有效缩放范围字段304的值是“98.0”。因此,获得这样的设置,使得链接设置有效并且当帧具有2.0到100.0的放大比时切换图像数据。
例如,在图4所示的箭头B的链接中,当作为图像的放大(即,从小于图像158的链接区域163的帧开始的帧放大)的结果、帧与链接区域163重叠时,进行到图像156的切换。因此,为了当帧的放大比等于或高于作为链接区域163的放大比的“2.0”时设置链接有效,有效缩放范围字段304的值设为正值。为此,在图像158的显示中充分增大放大比之后,即使在显示区域移动到包括链接区域163的范围时,链接也可以设为有效。
同时,在图4的箭头A的链接中,当作为显示图像的缩小(即,从大于图像158的链接区域162的帧开始的帧缩小)的结果、帧与链接区域162重叠时,进行到图像158的切换。因此,类似链接设置文件22a和22b中的第二行,有效缩放范围字段304设为负值,如“-1.0”。链接目的地文件字段306设置与链接目的地的数据有关的信息。例如,如果链接目的地的数据保持在客户端终端1侧,则该数据的文件名在客户端终端1侧保持的链接设置文件22a中设置。
在链接设置文件22a的第一行和第二行上,设置具有名称“parent_0”和“child_0”的分级数据。因此,当执行相关链接时,通过信息处理设备10的帧坐标确定器110、加载部分112、解码部分114和显示图像处理器116的协作,根据用户的显示区域移动请求,显示这些分级数据的图像。
此外,在第三行,链接目的地的数据设为“AAA.mp4”。从该扩展,得出链接目的地的数据是以MPEG-4格式压缩的运动图像数据。因此,在链接执行中,信息处理设备10的加载部分112将来自硬盘驱动器50的具有文件名“child.mp4”的运动图像数据提供给运动图像再现器118。从而,再现相关的运动图像。这也应用于音频数据。
另一方面,如果链接目的地的数据没有保持在客户端终端1侧,则在链接目的地文件字段306中设置服务器5的地址等。在链接设置文件22a的第四行上,链接目的地设为“/server1/aaa/”。具体地,这意味着输出需要从由“/server1/aaa/”表示的服务器获取,因为该链接中的链接目的地的数据没有存储在客户端终端1的硬盘驱动器50中。
对于这样的链接,在帧进入上述切换区域时,客户端终端1与由“/server1/aaa/”设置的服务器5建立通信,以顺序地传输帧坐标。同时,如果链接目的地的数据没有保持在客户端终端1侧,则在服务器5侧保持的链接设置文件22b中的链接目的地文件字段306中设置该数据的文件名。
具体地,对于图9的链接设置文件22a中的第四行的链接,如果在帧进入切换区域时如上所述传输帧坐标,则服务器5参考图10的链接设置文件22b,并且确定是否执行相同第四行的链接。在服务器5保持的链接设置文件22b中,具有名称“BBB.mp4”的运动图像数据设为链接目的地。因此,该运动图像数据可以在链接执行时传输到客户端终端1侧。
另一方面,如果客户端终端1侧保持链接目的地的数据,则除了链接目的地的数据的文件名以外,指示客户端终端1保持该数据的信息增加到链接目的地文件字段306。在图10的链接设置文件22b中,关于第一到第三行的链接,在各个文件名之前增加字符“/client1/”,从而示出客户端终端1保持的相关数据。该字符信息可以是客户端终端1的地址等。
如果帧坐标移除第四行的链接的切换区域,或者如果帧坐标进入第一到第三行的链接区域或对应链接的切换区域,则如同上述示例的因为帧已经进入第四行的链接的切换区域而已经接收帧坐标的服务器5的链接确定器106将其通知给客户端终端1的链接确定器106。从而,停止从客户端终端1传输帧坐标。
如图9和10所示,链接设置文件的设置内容根据链接目的地的数据是否由客户端终端1保持而改变。因此,例如当操作客户端终端1的用户购买数据并且正式从服务器5下载它时,重写链接设置文件22a和22b两者。此时,客户端终端1和服务器5在检测到下载时重写它们自己的链接设置文件。
链接目的地图像帧字段308通过该图像的帧参数指定切换后数据,即,链接目的地的图像中的链接区域的帧。如上所述,为链接源的每个图像数据创建链接设置文件22a和22b。具体地,在对应于图像156的数据的链接设置文件中描述关于图4中的箭头A和C的链接的信息,并且在对应于图像158的数据的链接设置文件中描述箭头B的链接信息。通过采用这种方式,即使双向设置链接,也可以独立地设置其行为。例如,还可能在箭头A的转换中的链接区域162和163与图4中的箭头B的转换中的链接区域163和162之间使得各区域不同。
图11示意性示出对链接区域设置的切换区域的示例。该图表示为形成如同图5中所示的三维空间的分级数据设置的链接区域260的部分。对于该链接区域260,首先,在相同分辨率的图像平面(XY平面)上,确定包括链接区域260和围绕它的预定宽度(ΔX,ΔY)的范围的区域262。此外,通过在分辨率方向(z轴方向)上改变该区域262的图像到预定程度(±ΔZ)获得的图像定义为分辨率方向上的上限/下限。
以此方式形成的三维区域用作链接区域260的切换区域264。如图9和10所示,同样当链接区域自身具有分辨率方向上的宽度时,类似地可以通过将分辨率从分辨率的上限和下限进一步改变预定程度(±ΔZ)设置切换区域。
接着,将描述通过至此描述的配置实现的数据提供数据的操作。图12是示出通过图像显示系统在客户端终端中执行图像显示的处理过程的流程图。在该流程图中,为了方便,连续执行的处理在一些情况下也通过一个矩形表示。首先,用户执行初始图像的选择等,并且命令利用客户端终端1开始图像显示。从而,通过客户端终端1的信息处理设备10中的加载部分112、解码部分114、显示图像处理器116等显示初始图像(S34)。
当用户在该状态下输入显示区域移动的请求时(S36),链接确定器106确定帧是否进入链接设置文件中设置的链接中的、其链接目的地数据没有在客户端终端1侧保持的链接的切换区域(S38)。如果帧坐标没有落入切换区域(S38的否),则通过加载部分112、解码部分114、显示图像处理器116等的协作,通过显示由这些帧坐标限定的显示区域输出新显示图像(S42)。
此时,如果帧已经进入其链接目的地数据在客户端终端1侧保持的链接的链接区域,则进行到该链接目的地的图像数据的切换。如果链接目的地的数据是运动图像数据或音频数据,则再现该数据。如果帧坐标落入切换区域内(S38的是),则操作信息传输器104与服务器5建立通信,以传输此时正在显示的图像数据的标识信息,然后开始帧坐标的传输(S40)。
基于从操作信息传输器104传输的信息,服务器5开始跟踪客户端终端1中的显示区域(S44)。此时,加载部分236和帧绘制部分238可以与客户端终端1的加载部分112、解码部分114和显示图像处理器116类似地操作,从而绘制实际的显示区域。同时,链接确定器232参考与正在客户端终端1中显示的图像数据相关联的链接设置文件,并且监视帧是否进入其链接目的地是没有被客户端终端1保持的数据的链接区域,以及帧是否存在于切换区域内(S46,S50)。
如果帧没有进入相关链接区域并且没有移出切换区域(S46的N,S50的N),则该状态保持。在此期间,客户端终端1响应于显示区域移动请求连续输出新显示图像,同时传输新帧坐标给服务器5(S54的N,S56的N,S40,S42)。在服务器5中,如果链接确定器232检测到帧已经进入其链接目的地是没有被客户端终端1保持的数据的链接区域(S46的Y),则数据传输器242传输链接目的地的数据到客户端终端1(S48)。
要传输的数据是通过链接目的地的图像上的显示区域的移动获得的运动图像、指定为链接目的地的运动图像和音频的任一、或它们的组合,如上所述。从由服务器5传输的数据的到达的定时起,客户端终端1对该数据的再现给出优先级并输出它(S42)。在此期间,服务器5根据帧坐标的移动继续传输显示区域的移动图像、运动图像数据或音频数据作为流。客户端终端1停止显示区域的绘制处理,并且继续传输帧坐标到服务器5(S54的N,S56的N,S40)。
此时客户端终端1传输的帧坐标可以保持在首先由S40的处理传输帧坐标时显示的图像的帧坐标。服务器5将这些帧坐标转换为链接目的地的图像上的帧坐标。这消除了客户端终端1识别链接目的地是什么图像的需要。可替代地,替代帧坐标,输入信息获取器102获取的显示区域移动的请求信号可以照原样传送。
如果帧移出其目的地是没有被客户端终端1保持的数据的链接区域,则服务器5停止数据传输(S46的N)。然而,链接确定器232在该帧存在于切换区域内的时段期间继续监视(S50的N)。例如,当链接目的地的移动图像或音频再现到最后时,或者当进一步执行客户端终端1保持的数据的链接时,该处理序列前进到与S46的N的情况相同的处理过程。然而,如果到客户端终端1保持的数据的链接是其链接目的地是不同于原始显示的图像的图像或区域的链接时,相关图像数据的标识信息或与该区域有关的信息传输到客户端终端1。
如果停止来自服务器的数据传输或进行到另一图像数据或区域的链接的通知,则客户端终端1通过使用其自身保持的数据进行切换到数据输出。如果帧移出切换区域(S50的Y),则服务器5的链接确定器232将其通知给客户端终端1,然后结束显示区域的跟踪(S52)。
当接收该通知时(S56的Y),客户端终端1结束传输帧坐标给服务器5(S58),并且监视帧是否再次进入切换区域(S38)。通过重复上述处理,在客户端终端1中进行类似输出,而不管从哪里读出数据。同时,由于以流格式从服务器5只传输客户端终端1没有保持的数据,所以在系统内清楚地进行数据的区分。
在诸如地图显示系统的传统技术中,其中从网络服务器传输图像数据以便由客户端终端显示,使用客户端终端中的缓存机制和图像数据的网络传输两者,并且在显示区域的数据完成时更新显示。在这样的形式中,根据跨越板的传输信道的带宽、缓存机制的性能等确定直到显示的响应性,而不管用户的意图。
此外,由于客户端终端的缓存,与用户原始具有的并且存储在硬盘驱动器中的数据的区分是不明确的。因此,即使在试图为图像数据的提供对用户收费时,难以对其设置边界。
在本实施例中,数据的读取源可以无缝切换,而不用改变客户端终端1中的操作性。另一方面,根据数据是否被客户端终端1保持进行数据的区分,因此其质量和收费管理可以对每个数据容易地执行。例如,在从服务器5传输客户端终端1没有保持的图像数据的情况下,采用电源预告片、剪辑、或原始运动图像或静态图像的具有较低时间分辨率和空间分辨率的图像,并且在客户端终端1中只执行再现和输出。如果已经观看它的用户决定购买它,则通过收费处理将原始运动图像或静止图像下载到硬盘驱动器50。
如果采用这个,则正式购买的数据是与传输信道的带宽、缓存机制的性能等几乎无关的数据,并且具有确保的质量和响应性,并且购买前的数据是其内容和质量受控制并且其响应性取决于环境的数据。结果,用户可以在购买前适当地检查数据之后决定购买数据,并且被允许通过相同操作观看它而与购买无关。此外,即使在具有较差资源的终端的情况下,用户可以跟踪通过链接机制巨大扩展的数据网络,并且享受各种内容。
上面基于实施例说明了本发明。上述实施例被例示,并且本领域技术人员将理解的是,在各个构成元件及其各个处理过程的组合中可以进行各种修改示例,并且这些修改示例落入本发明的范围内。
例如,在实施例中,客户端终端1和服务器5的任一个进行关于链接执行的确定,并且将其结果通知给对方,从而将随后的链接执行处理委托给对方。然而,可以通过总是在两个设备中进行关于链接执行的确定省略对对方设备的通知。在该情况下,例如,还可以实现这样的模式,其中例如在显示区域进入切换区域时预先从服务器5传输数据,并且当在客户端终端1侧进行关于链接执行的确定时将输出切换到从服务器传输的数据。
此外,在实施例中,服务器5只在帧存在于切换区域中时跟踪客户端终端1中的显示区域。然而,服务器5可以总是跟踪显示区域而不管帧的位置。在该情况下,服务器5可以只在执行到客户端终端1没有保持的数据的链接时传输数据到客户端终端1,或者可以持续传输所有数据而不管客户端终端1是否保持数据。在后者情况下,根据客户端终端1自身是否保持数据,可以在客户端终端1侧切换数据的读取源。
[参考标号列表]
1客户端终端,2图像显示系统,5服务器,10信息处理设备,12显示设备,20输入设备,22a链接设置文件,22b链接设置文件,38磁贴图像,50硬盘驱动器,60主存储器,70缓冲器存储器,100控制部分,102输入信息获取器,104操作信息传输器,106链接确定器,108数据接收器,110帧坐标确定器,112加载部分,114解码部分,116显示图像处理器,118运动图像再现器,120音频再现器,230操作信息接收器,232链接确定器,234帧坐标确定器,236加载部分,238帧绘制部分,242数据传输器,244数据存储,246链接设置文件存储
[产业可应用性]
如上所述,本发明可以应用于信息处理设备和信息处理系统,如计算机、游戏机、图像显示设备和内容提供服务器。

Claims (15)

1.一种图像显示系统,包括:
客户端终端,其执行显示并根据显示区域移动的请求信号移动正在显示的图像中的显示区域;以及
服务器,其经由网络连接到客户端终端,并传输图像数据到所述客户端终端;
所述客户端终端包括
第一存储,其存储至少部分图像的图像数据,
区域参数确定器,其根据显示区域移动的请求信号确定表示正在显示的图像中的显示区域的位置和大小的区域参数,
显示图像处理器,其通过使用由所述区域参数限定和显示所需的图像数据绘制显示区域的图像,并且如果显示所需的图像数据存储在第一存储中则将该图像输出到显示设备,
操作信息传输器,其顺序地传输与显示区域的移动有关的信息到服务器,以及
数据再现器,其再现从服务器传输的图像的数据,并且如果显示所需的图像数据没有存储在第一存储中则将该数据输出到显示设备;
所述服务器包括
第二存储,其至少存储没有存储在所述第一存储中的图像数据,以及
数据传输器,其将基于从所述操作信息传输器传输的与显示区域的移动有关的信息、通过使用所述第二存储中存储的图像数据绘制的显示区域的图像的数据传输到所述客户端终端。
2.按照权利要求1所述的图像显示系统,
其中,所述第一存储和所述第二存储与图像数据相关联地存储链接设置文件,在所述链接设置文件中设置与当图像正在显示的同时显示区域到达链接区域时用于将显示切换到不同图像的链接区域和切换后图像有关的信息,如果在与正在显示的图像的数据相关联的链接设置文件中设置的切换后图像的数据存储在第一存储中,则客户端终端的显示图像处理器通过使用图像的数据绘制切换后显示区域的图像,并且将该图像输出到显示设备,并且如果切换后图像的数据没有存储在第一存储中,则服务器的数据传输器将区域参数转换为切换后图像中的区域参数,并且传输图像中显示区域的图像的数据。
3.按照权利要求1或2所述的图像显示系统,
其中当由区域参数限定的显示区域到达预定范围时,所述预定范围包括要求没有存储在第一存储中的图像数据的区域,所述客户端终端的操作信息传输器开始与显示区域的移动有关的信息的传输,并且当显示区域存在于要求没有存储在第一存储中的图像数据的区域中时,所述服务器的数据传输器将图像的数据传输给客户端终端。
4.按照权利要求2所述的图像显示系统,
其中,当显示区域到达预定范围的切换区域时,所述预定范围包括在链接设置文件中设置并且它的切换后图像的数据没有存储在第一存储中的链接区域,所述客户端终端的操作信息传输器开始区域参数的传输,并且服务器进一步包括链接确定器,其在它的切换后图像的数据没有存储在第一存储中的链接区域处检测由区域参数限定的显示区域的到达,并且当链接确定器在链接区域处检测到显示区域的到达时,所述数据传输器将图像的数据传输给所述客户端终端。
5.按照权利要求4所述的图像显示系统,
其中,第一存储中存储的图像数据具有通过以分辨率顺序将表示具有不同分辨率的一个图像的多个图像数据分级而得到的分级结构,以及
链接设置文件中链接区域的设置包括分辨率的设置,并且包括链接区域的分辨率的预定范围内的分辨率包括在切换区域中。
6.按照权利要求4或5所述的图像显示系统,
其中,所述服务器的链接确定器进一步在它的切换后图像的数据存储在第一存储中的链接区域处检测显示区域的到达,并且在所述数据传输器正在传输显示区域的图像的数据给所述客户端终端的情况下,当链接确定器在链接区域处检测到显示区域的到达时,所述数据传输器停止数据的传输,以及
当来自所述数据传输器的数据传输停止时,所述客户端终端的显示图像处理器通过使用第一存储中存储的切换后图像的数据绘制显示区域的图像,并且将该图像输出到显示设备。
7.按照权利要求3所述的图像显示系统,
其中所述客户端终端的第一存储存储服务器信息,其中要求没有在第一存储中存储的图像数据的区域与服务器的识别信息相关联,所述服务器能够传输通过使用没有存储在第一存储中的图像数据绘制的显示区域的图像的数据,以及
所述操作信息传输器将与显示区域的移动有关的信息传输给它的识别信息在所述服务器信息中描述的服务器。
8.按照权利要求2或4所述的图像显示系统,
其中在链接设置文件中设置的切换后图像的数据包括运动图像数据。
9.一种信息处理设备,其执行显示并根据显示区域移动的请求信号移动正在显示的图像中的显示区域,
所述信息处理设备包括:
存储,其存储至少部分图像的图像数据;
区域参数确定器,其根据显示区域移动的请求信号确定表示正在显示的图像中的显示区域的位置和大小的区域参数;
显示图像处理器,其通过使用由所述区域参数限定和显示所需的图像数据绘制显示区域的图像,并且如果显示所需的图像数据存储在所述存储中则将该图像输出到显示设备;
操作信息传输器,其顺序地传输与显示区域的移动有关的信息到经由网络连接的服务器;以及
数据再现器,其再现要由服务器传输的、基于与显示区域的移动有关的信息绘制的显示区域的图像的数据,并且如果显示所需的图像数据没有存储在所述存储中则将该数据输出到显示设备。
10.一种服务器,包括:
操作信息接收器,其从经由网络连接的客户端终端获取与显示区域的移动有关的信息,并且执行显示和根据显示区域移动的请求信号移动正在显示的图像中的显示区域;
存储,其至少存储没有存储在客户端终端的存储设备中的图像数据;以及
数据传输器,如果由与显示区域的移动有关的信息限定和显示所需的图像数据没有存储在客户端终端的存储设备中,则所述数据传输器将通过使用所述存储中存储的图像数据绘制的显示区域的图像的数据传输到所述客户端终端。
11.一种图像处理方法,用于在信息处理设备中执行显示并根据显示区域移动的请求信号移动正在显示的图像中的显示区域,所述图像处理方法包括:
根据显示区域移动的请求信号确定表示正在显示的图像中的显示区域的位置和大小的区域参数的步骤;
通过使用由所述区域参数限定和显示所需的图像数据绘制显示区域的图像,并且如果显示所需的图像数据存储在信息处理设备的存储中则将该图像输出到显示设备的步骤;
顺序地传输与显示区域的移动有关的信息到经由网络连接到信息处理设备的服务器的步骤;以及
再现要由服务器传输的、基于与显示区域的移动有关的信息绘制的显示区域的图像的数据,并且如果显示所需的图像数据没有存储在信息处理设备的存储中则将该数据输出到显示设备的步骤。
12.一种计算机程序,用于使得计算机实现执行显示并根据显示区域移动的请求信号移动正在显示的图像中的显示区域的功能,所述计算机程序使得计算机实现:
根据显示区域移动的请求信号确定表示正在显示的图像中的显示区域的位置和大小的区域参数的功能;
通过使用由所述区域参数限定和显示所需的图像数据绘制显示区域的图像,并且如果显示所需的图像数据存储在计算机内部的存储设备中则将该图像输出到显示设备的功能;
顺序地传输与显示区域的移动有关的信息到经由网络连接的服务器的功能;以及
再现要由服务器传输的、基于与显示区域的移动有关的信息绘制的显示区域的图像的数据,并且如果显示所需的图像数据没有存储在计算机内部的存储设备中则将该数据输出到显示设备的功能。
13.一种计算机程序,用于使得计算机实现:
从经由网络连接的客户端终端获取与显示区域的移动有关的信息,并且执行显示和根据显示区域移动的请求信号移动正在显示的图像中的显示区域的功能;以及
如果由与显示区域的移动有关的信息限定和显示所需的图像数据没有存储在客户端终端的存储设备中,则将通过使用内部存储设备中存储的图像数据绘制的显示区域的图像的数据传输到所述客户端终端的功能。
14.一种记录介质,其中记录计算机程序,所述计算机程序用于使得计算机实现执行显示并根据显示区域移动的请求信号移动正在显示的图像中的显示区域的功能,所述计算机程序使得计算机实现:
根据显示区域移动的请求信号确定表示正在显示的图像中的显示区域的位置和大小的区域参数的功能;
通过使用由所述区域参数限定和显示所需的图像数据绘制显示区域的图像,并且如果显示所需的图像数据存储在计算机内部的存储设备中则将该图像输出到显示设备的功能;
顺序地传输与显示区域的移动有关的信息到经由网络连接的服务器的功能;以及
再现要由服务器传输的、基于与显示区域的移动有关的信息绘制的显示区域的图像的数据,并且如果显示所需的图像数据没有存储在计算机内部的存储设备中则将该数据输出到显示设备的功能。
15.一种记录介质,其中记录计算机程序,所述计算机程序用于使得计算机实现:
从经由网络连接的客户端终端获取与显示区域的移动有关的信息,并且执行显示和根据显示区域移动的请求信号移动正在显示的图像中的显示区域的功能;
如果由与显示区域的移动有关的信息限定和显示所需的图像数据没有存储在客户端终端的存储设备中,则将通过使用内部存储设备中存储的图像数据绘制的显示区域的图像的数据传输到所述客户端终端的功能。
CN201280032031.4A 2011-07-04 2012-05-22 图像显示系统、信息处理设备、服务器和图像处理方法 Active CN103650003B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011-148649 2011-07-04
JP2011148649A JP5662267B2 (ja) 2011-07-04 2011-07-04 画像表示システム、情報処理装置、サーバ、および画像処理方法
PCT/JP2012/003345 WO2013005367A1 (ja) 2011-07-04 2012-05-22 画像表示システム、情報処理装置、サーバ、および画像処理方法

Publications (2)

Publication Number Publication Date
CN103650003A true CN103650003A (zh) 2014-03-19
CN103650003B CN103650003B (zh) 2017-02-15

Family

ID=47436735

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201280032031.4A Active CN103650003B (zh) 2011-07-04 2012-05-22 图像显示系统、信息处理设备、服务器和图像处理方法

Country Status (5)

Country Link
US (1) US9460486B2 (zh)
EP (1) EP2731077B1 (zh)
JP (1) JP5662267B2 (zh)
CN (1) CN103650003B (zh)
WO (1) WO2013005367A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106598709A (zh) * 2015-10-14 2017-04-26 株式会社理光 信息处理系统、信息处理装置、信息处理方法和记录介质
CN108429906A (zh) * 2017-02-15 2018-08-21 三星电子株式会社 电子设备和用于在电子设备中发送和接收图像数据的方法
CN114264721A (zh) * 2021-11-26 2022-04-01 海鹰企业集团有限责任公司 新型声速处理系统

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5832481B2 (ja) * 2013-06-12 2015-12-16 株式会社ソニー・コンピュータエンタテインメント 情報処理装置、情報処理システム、および情報処理方法
CN105139435B (zh) * 2015-07-31 2017-12-08 湖北工业大学 一种处理多边形多重包含关系的边界一笔画方法
TWI627860B (zh) * 2016-05-31 2018-06-21 晨星半導體股份有限公司 影音處理裝置與方法
US10373290B2 (en) * 2017-06-05 2019-08-06 Sap Se Zoomable digital images
US20180367597A1 (en) * 2017-06-15 2018-12-20 Ramakrishnan Kolli Method and System of Sharing a File
JP7127626B2 (ja) * 2019-08-09 2022-08-30 株式会社デンソー コンテントの表示制御装置、表示制御方法及び表示制御プログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005301058A (ja) * 2004-04-14 2005-10-27 Zenrin Co Ltd 地図データの配信および地図表示の制御
JP2007156758A (ja) * 2005-12-02 2007-06-21 Nihon Computer Graphic Co Ltd ファイル管理装置、ファイル管理方法およびファイル管理プログラム
JP2007264867A (ja) * 2006-03-28 2007-10-11 Navitime Japan Co Ltd 地図画像表示システム、地図画像サーバ、地図画像表示装置および地図画像先読み表示プログラム
CN101086829A (zh) * 2006-06-07 2007-12-12 明基电通股份有限公司 调整显示器对比度的方法及其系统

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SG64486A1 (en) 1997-03-27 1999-04-27 Sony Corp Method and apparatus for information processing computer readable medium and authoring system
JP3872592B2 (ja) * 1997-03-27 2007-01-24 株式会社ソニー・コンピュータエンタテインメント 情報処理装置および方法、記録媒体、オーサリングプログラムデータが記録されたコンピュータ可読記録媒体並びにオーサリングシステム
US20090265661A1 (en) * 2008-04-14 2009-10-22 Gary Stephen Shuster Multi-resolution three-dimensional environment display
US8914744B2 (en) * 2008-06-06 2014-12-16 Liquidpixels, Inc. Enhanced zoom and pan for viewing digital images
US8917286B2 (en) * 2008-11-11 2014-12-23 Sony Corporation Image processing device, information processing device, image processing method, and information processing method
AU2009343075B2 (en) 2009-03-25 2013-10-17 Sony Interactive Entertainment Inc. Information processing device and information processing method
WO2011034924A1 (en) * 2009-09-15 2011-03-24 Envysion, Inc. Video streaming method and system
CN102025965B (zh) * 2010-12-07 2014-01-01 华为终端有限公司 视频通话方法及可视电话
WO2014014238A1 (en) * 2012-07-17 2014-01-23 Samsung Electronics Co., Ltd. System and method for providing image

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005301058A (ja) * 2004-04-14 2005-10-27 Zenrin Co Ltd 地図データの配信および地図表示の制御
JP2007156758A (ja) * 2005-12-02 2007-06-21 Nihon Computer Graphic Co Ltd ファイル管理装置、ファイル管理方法およびファイル管理プログラム
JP2007264867A (ja) * 2006-03-28 2007-10-11 Navitime Japan Co Ltd 地図画像表示システム、地図画像サーバ、地図画像表示装置および地図画像先読み表示プログラム
CN101086829A (zh) * 2006-06-07 2007-12-12 明基电通股份有限公司 调整显示器对比度的方法及其系统

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106598709A (zh) * 2015-10-14 2017-04-26 株式会社理光 信息处理系统、信息处理装置、信息处理方法和记录介质
CN108429906A (zh) * 2017-02-15 2018-08-21 三星电子株式会社 电子设备和用于在电子设备中发送和接收图像数据的方法
CN108429906B (zh) * 2017-02-15 2022-09-20 三星电子株式会社 电子设备和用于在电子设备中发送和接收图像数据的方法
CN114264721A (zh) * 2021-11-26 2022-04-01 海鹰企业集团有限责任公司 新型声速处理系统
CN114264721B (zh) * 2021-11-26 2024-04-19 海鹰企业集团有限责任公司 新型声速处理系统

Also Published As

Publication number Publication date
JP2013016045A (ja) 2013-01-24
JP5662267B2 (ja) 2015-01-28
US20140247285A1 (en) 2014-09-04
WO2013005367A1 (ja) 2013-01-10
EP2731077B1 (en) 2018-11-28
EP2731077A1 (en) 2014-05-14
US9460486B2 (en) 2016-10-04
CN103650003B (zh) 2017-02-15
EP2731077A4 (en) 2016-05-18

Similar Documents

Publication Publication Date Title
CN103650003A (zh) 图像显示系统、信息处理设备、服务器和图像处理方法
CN102362308B (zh) 信息处理装置和信息处理方法
JP5732129B2 (ja) 拡大表示ナビゲーション
JP5548671B2 (ja) 画像処理システム、画像提供サーバ、情報処理装置、および画像処理方法
JP2012533102A (ja) 変化するイメージの更新のクライアント・デバイスに対する選択的配布
WO2011067899A1 (ja) 情報処理装置および情報処理システム
CN102450011A (zh) 用于自由视点视频的高效流传输的方法和设备
CN104243995A (zh) 图像处理装置、图像处理系统、图像处理方法及计算机程序
CN103918012A (zh) 渲染系统、渲染服务器、其控制方法、程序及记录媒体
CN102460564A (zh) 用于提供移动设备互操作性的方法及装置
US20130260883A1 (en) Method and apparatus for providing a multi-screen based multi-dimension game service
JP2012169739A (ja) 映像分割再生方法、映像再生方法、映像分割再生システム、及び映像分割再生プログラム
EP4009644A1 (en) Method for providing and method for acquiring immersive media, apparatus, device, and storage medium
CN102959955A (zh) 共享图像
WO2017168582A1 (ja) 画像受信再生装置、画像生成送信装置、表示システム、画像受信再生方法、画像生成送信方法、画像受信再生プログラム及び画像生成送信プログラム
CN103827924A (zh) 信息处理装置、信息处理方法和内容文件的数据结构
CN103827957A (zh) 图像处理装置、图像处理方法和图像文件的数据结构
KR20200133387A (ko) 복수의 뷰포인트들을 포함하는 3차원 컨텐트에 대한 정보를 전송하기 위한 방법 및 장치
CN101917480A (zh) 多蓝牙设备信息传输的方法及系统
CN104010204B (zh) 图像信息处理方法及装置
EP4344234A1 (en) Live broadcast room presentation method and apparatus, and electronic device and storage medium
JP6406028B2 (ja) ドキュメント表示支援装置、端末装置、ドキュメント表示方法、およびコンピュータプログラム
KR102218187B1 (ko) 영상 콘텐츠 제공을 위한 장치 및 방법
CN104113704A (zh) 一种游戏图像处理方法及装置
US20120139949A1 (en) Information processing device

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant