动态图像编码方法及动态图像解码方法
技术领域
本发明涉及一种用图像单位对动态图像信号进行编码的动态图像编码方法、及对上述编码后的动态图像信号进行解码的动态图像解码方法、及用软件来实施这些方法的程序。
背景技术
近年来,迎来了统一处理声音、图像、其它像素值的多媒体时代,将以前的信息媒体即报纸、杂志、电视、收音机、电话等的信息传递给人的手段作为多媒体的对象采纳。通常,所谓多媒体不仅指文字,而且还指图像、声音、尤其是同时关联图像等进行表示的媒体,但在以上述现有的信息媒体作为多媒体对象时,需要用数字形式来表示该信息。
但是,若将上述各信息媒体所具有的信息量估计为数字信息量,则在文字的情况下,每1个文字的信息量为1-2字节,相反,在声音的情况下,每秒需要64Kbits(电话品质)以上的信息量,并且对于动态图像而言,每秒需要100Mbits(现行电视接收品质)以上的信息量,在上述信息媒体中,以数字形式来原样处理该庞大的信息是不现实的。例如,视频电话通过具有64Kbits/s-1.5Mbits/s传输速度的综合服务数字网(ISDN:Integrated Services Digital Network)而全部实用化,可是不能用ISDN原样发送摄像机的视频。
因此,所需要的是信息的压缩技术,例如在视频电话的情况下,使用ITU-T(国际电信联盟电信标准化部门)推荐的H.261或H.263标准的动态图像压缩技术。另外,根据MPEG-1标准的信息压缩技术,也可将图像信息与声音信息一起放入通常的音乐用CD(致密盘)。
这里,所谓MPEG(动态图像专家组:Moving Picture ExpertsGroup)是由ISO/IEC(国际标准化机构国际电气标准会议)标准化的动态图像信号压缩的国际标准,MPEG-1是将动态图像信号压缩到1.5Mbps、即将视频信号的信息压缩到约100分之1的标准,另外,在MPEG-1标准下,因为将作为对象的品质设为传输速度主要可以约1.5Mbps实现的程度的中等程度品质,所以在能满足更高画质化要求的标准化的MPEG-2中,动态图像信号以2-15Mbps来实现TV播放品质。并且在现状下,通过MPEG-1、MPEG-2和能推进标准化的作业组(ISO/IEC JTC1/SC29/WG11),实现超过MPEG-1、MPEG-2的压缩率,进而能以物体单位来进行编码、解码、操作,标准化实现在多媒体时代需要的新的功能的MPEG-4。在MPEG-4中,虽然最初旨在推进低位(bit)速率的编码方法的标准化,但现在扩展到既包含隔行图像也包含高位速率的更通用的编码。并且,现在ISO/IEC与ITU-T共同进行MPEG-4 AVC和ITU H.264的标准化活动,作为高压缩率的下一代图像编码方式。在2002年8月,发行了将下一代图像编码方式称为委员会草案(CD)的编码方式(另外,例如参照ISO/IEC14496-10 Editor’s Proposed Changes Relative toJVT-E146d37ncm,revision4,2002-12)。
通常,在动态图像编码中,通过削减时间方向和空间方向的冗余性来进行信息量的压缩。因此,在以削减时间的冗余性为目的的画面间预测编码中,参照前方或后方的图像,以块单位来进行动作的检测和预测图像的形成,对所得的预测图像与编码对象图像的差分值进行编码。这里,所谓图像是表示1个画面的术语,在逐行(渐进:progression)图像中意味着帧,在隔行(交织:interlace)图像中意味着帧或场。这里,所谓隔行图像是1个帧由时刻不同的两个场构成的图像。在隔行图像的编码或解码处理中,可将1个帧按帧原样处理,或作为两个场处理,或对帧内的每个块作为帧结构或场结构处理。
将不具有参照图像来进行画面内预测编码的称为I图像。另外,将仅参照1个图像来进行画面间预测编码的称为P图像。另外,将同时参照两个图像来进行画面间预测编码的称为B图像。B图像可以参照两个图像,作为显示时间从前或后开始的任意的组合。可对作为编码和解码的基本单位的每个块指定参照图像(参照图像),但将进行编码的比特流(位流)中在先记述的参照图像区分为第1参照图像,将在后记载的参照图像区分为第2参照图像。其中,作为编码和解码这些图像的情况下的条件,需要参照的图像被编码和解码。
在P图像或B图像的编码中使用动作补偿画面间预测编码。所谓动作补偿画面间预测编码是将动作补偿用于画面间预测编码的编码方式。所谓动作补偿不是单纯根据参照帧的像素值预测,而是检测图像内的各部的动作量(下面将该动作量称为动作矢量),并进行考虑了该动作量的预测,由此提高预测精度,且减少数据量的方式。例如,通过检测编码对象图像的动作矢量,并编码移动了该动作矢量大小的预测值与编码对象图像的预测余差,减少数据量。在该方式的情况下,因为在解码时需要动作矢量信息,所以还在编码动作矢量后被记录或传输。
以宏单位来检测动作矢量,具体而言,使编码对象图像侧的宏固定,使参照图像侧的宏在搜索范围内移动,找到与基准块最类似的参照块的位置,由此检测动作矢量。
图1是表示现有动态图像编码装置的结构框图。
动态图像编码装置具备:动作检测部103、减法运算部104、编码部105、动作补偿部106、可变长编码部107、解码部108、加法运算部109和存储器110、111。
将动态图像信号Vin输入减法运算部104与动作检测部103。
动作检测部103将从存储器110读出的编码完成的解码图像数据用作参照图像,在该图像内的搜索区域中检测表示预测为最佳位置的动作矢量MV,输出到动作补偿部106。
动作补偿部106使用由动作检测部103检测出的动作矢量MV,生成动作补偿图像信号MCRef,输出到减法运算部104和加法运算部109。
减法运算部104对输入的动态图像信号Vin与从动作补偿部106输入的动作补偿图像信号MCRef的差进行运算,并将差分信号Dif输出到编码部105。
编码部105对输入的差分信号Dif进行频率变换或量化等编码处理,生成编码信号,并输出到可变长编码部107和解码部108。可变长编码部107对输入的编码信号进行可变长编码等,并且通过附加从动作补偿部106输入的动作矢量MV等,生成编码流Str,输出到动态图像编码装置的外部。
解码部108对输入的编码信号进行去量化或逆频率变换等解码处理,将解码后的差分信号RecDif输出到加法运算部109。
加法运算部109将从解码部108输入的差分信号RecDif与从动作补偿部106输入的图像信号RecMCRef相加,生成局部解码图像LocalRecon。将生成的局部解码图像LocalRecon输出到存储器111。
局部解码图像是与用动态图像解码装置解码的结果一致的图像,在编码下一时刻的动态图像信号Vin时,用作参照图像。从而,在输入下一动态图像信号Vin之前,将写入存储器111中的局部解码图像LocalRecon拷贝到存储器110,或交换存储器110与存储器111。
图2是说明JVT的显示顺序信息(Picture Order Count:POC)与帧序号(Frame Number:FN)的概念的图。显示顺序信息POC表示图像的显示顺序。但是,不是意味实际的显示时间。例如,图中的图像IDR19的显示顺序信息POC为“0”,下一图像B20的POC为“1”,所以可知图像B20应在图像IDR19之后显示,但无法知道应在经过多少时间后显示。实际的显示时间从与各图像关联的、视频以外的数据得到,由与视频解码器(动态图像解码装置)无关的装置管理。提供显示顺序信息POC,使通常在作为特别的帧内图像(intrapicture)的IDR图像中被复位为“0”,按显示顺序以图像单位每次增加1。若变为预定的最大值,则再次复位到“0”。在图例中,表示在作为IDR图像的图像IDR19与图像IDR192中,显示顺序信息POC返回“0”的状态,另外,表示将显示顺序信息POC的最大值设定为“4”、以图像B24循环后返回“0”的状态。
FN是赋予被参照图像的序号。图中(A)表示解码图像B21之前的存储器的状态,存储3个参照图像。图中(B)表示解码图像B21并存储在存储器中后的状态。这里,图像B21的FN具有与后面解码的图像P25相同的值意味着在这些按解码顺序连续的多个图像具有相同FN的情况下,在解码顺序中最后的图像是参照图像,此外的图像不是参照图像。在本例中,因为图像B21不是参照图像,所以若被存储在存储器中,则被标记为“不用作参照图像”(将标记的状态缩写为unused)。在将参照图像存储在存储器中的情况下,标记为“用作参照图像”(将标记状态缩写为used)。另外,图中仅记载unused。另外,虽然是否是参照图像也可从编码流中的所谓nal_ref_idc场知道,但在本发明的说明中,因为不直接相关,所以这里不进行说明。另外,帧序号FN也与显示顺序信息POC一样,在IDR图像下通常被复位为“0”,若变为预定的最大值,则再次返回“0”。在本例中,表示在图像IDR19与图像IDR192中被复位为“0”,在图像B24中返回“0”的状态。
用图3和图4来说明为了确保空区域而从存储器中删除图像的动作。图3是说明在被unused的图像的情况下的删除动作的图。在刚要解码图像P23之前的存储器中存储解码了图像IDR19、P22、B20、B21的图像,因为图像B20是未被参照的图像,所以事先被设为unused(参照图中(A))。接着,使用进行存储器管理的MMCO(Memorymanagement control operation)或从老的开始顺序设为不用的滑动窗口等方法,根据需要使图像为unused。这些操作在本说明书中被称为不使用标记处理。这里,将图像P22设为unused(参照图中(B))。接着,为了确保空区域而删除图像,但在有unused图像的情况下,删除unused图像中显示顺序(POC)最早的图像。这里,图像P22的显示顺序为3,图像B20的显示顺序为1,所以删除图像B20(参照图中(C))。将图像P23存储在该删除后空的区域中(参照图中(D))。
另外,在图像中存在帧(frame)与场(field),在本说明书中,作为图像进行说明,但存储在存储器中时,也能够以帧单位(相同时刻的奇数场与偶数场)进行存储。另外,在存储器中为了确保空区域而删除时,也能以帧单位删除。
另外,图中用stage表示的序号表示存储器的变迁阶段,stagel意味着在该图像处理中进行不使用标记处理前的阶段,stage2意味着进行不使用标记处理后的阶段,stage3意味着确保空区域后的阶段,stage4意味着存储图像后的阶段。
图4是说明存储器中没有unused的图像的情况下的删除动作的图。如图所示,图像按图像IDR19、P22、B20、B21、P23的顺序被解码。如图中(A)所示,在解码图像P23之前的阶段,在存储器中存储IDR19、P22、B20、B21的图像,并都设为不是unused。另外,如图中(B)所示,即使在不使用标记处理中,也都设为未unused。这样,在没有unused的图像的情况下,当确保空区域时,删除存储在存储器的图像中最初解码的图像。如图中(C)所示,这里,在存储在存储器的图像中,因为IDR19是最初解码的图像,所以删除IDR19。最后,如图中(D)所示,将解码后的图像P23存储在空区域中。
图5是表示现有动态图像解码装置的结构框图。
动态图像解码装置具备可变长解码部402、图像解码部202、MMCO解码部204、存储器206和存储器管理部401。
将动态图像编码信号Str设为输入,由可变长解码部402进行可变长解码,图像解码部202解码编码后的图像数据comp_pic,并将解码图像信号Recon存储到存储器206中。图像解码部202在画面间编码图像的情况下,当解码时,将动作信息MV送到存储器206,形成动作补偿完成参照图像MCPic,进行动作补偿。由存储器管理部401输出图像的存储区域的决定、空区域的确保等存储器管理指示mctrl。显示顺序信息POC从可变长解码部402输出到存储器管理部401,并被保持。另外,将作为上述不使用标记处理之一的MMCO指令MMCO从可变长解码部402输入到MMCO解码部204,进行解码,将unused指示输入存储器管理部401。另外,从存储器206输出被显示的解码图像信号Vout。
图6是现有动态图像解码装置的存储器关联的动作流程图。本流程图中从步骤S1到步骤S2表示图像单位的动作。进行不使用标记处理,根据需要对存储器的各图像标记为unused(步骤S13)。接着,进行空区域确保处理,在存储器中确保空区域(步骤S14)。之后,将解码图像信号Vout存储到空区域中(步骤S15)。
图7是现有动态图像解码装置的空区域确保处理的动作流程图,是详细说明图6的步骤S14的流程图。在确保空区域的处理(步骤S14)中,在调查标记为unused的图像是否在存储器206中(步骤S141)的情况下,删除存储在存储器206中的标记为unused的图像中显示顺序最老的图像(步骤S143),在不在存储器206中的情况下,删除存储在存储器206中的图像中最初解码的图像(步骤S142)。
图9是说明无效图像处理的动作的概念图。规定存储器管理的动作,在以JVT输入动态图像解码装置中的序列的一部分图像丢失时,插入个数为丢失数量的无效图像。当序列参数组内的required_frame_num_update_behaviour_flag为1时,该动作在动态图像解码装置中进行。所谓无效图像是不具有实际的复原图像信号、尤其是被标记后的图像,不作为参照图像参照。如图所示的解码图像I19、P20、P21、P22、P23后的存储器状态如图(A)所示状态。之后,分配用于确定参照图像的参照索引(index),以使解码图像B24时按解码顺序在不是新的unused图像中,参照索引ref_idx的值变小。该分配为一个例子,方法因图像种类等而不同,但相同的是存在如下依赖性质,即依赖于存储在存储器中的图像来分配参照关系的索引。在本图的实例中,分配成将最后解码了的非unused的图像P22称为ref_idx=0,将之前解码的非unused的图像P21称为ref_idx=1。
这里,图像P21与图像P23在传输中途等丢失、未输入解码器的情况下,若不插入无效图像,则当解码图像B24时,如图(B)所示,分配参照索引ref_idx。本来,图像B24的参照的图像P22与图像P20分别分配为ref_idx=0和ref_idx=2,但因为将ref_idx=0分配给图像P22,将ref_idx=2分配给图像I19,所以存在与图像P20弄错而参照图像I19的问题。为了避免该问题,插入无效图像。
图(C)中示出在插入无效图像的情况下的、解码图像B24之前的存储器的状态。若检测出帧序号FN不连续,则插入不连续的个数的无效图像。在本例中,当解码FN=3的图像P22时,因为在此之前刚解码的图像P20为FN=1,所以原本不增加1以上,但由于增加2,所以可知丢失了一个。因此,在解码图像P22之前,插入1个无效图像。如上所述,无效图像是特别的图像,虽然不具有实际的被解码的图像信号,但标记为used,在分配参照图像时,作为参照图像处理,但实际上不能进行参照,所以还标记为不存在(non-exist)。
图10是表示现有动态图像解码装置的结构框图。与图5中说明的现有图像编码装置的不同之处在于,有FN间隙(gap)检测部211,且存储器管理部412的动作不同。FN间隙检测部211从可变长解码部411取得帧序号FN,在有间隙的情况下,指示存储器管理部412,插入需要个数的无效图像。存储器管理部412仅将指示的个数的无效图像存储在存储器206中。
图11是现有动态图像解码装置的无效图像处理的动作流程图。与图6中说明的现有图像解码装置的存储器关联动作的不同之处在于,在不使用标记处理(步骤S13)之前,调查帧序号FN的间隙(步骤S11),在有间隙的情况下,在将间隙个数的无效图像存储在存储器206中(步骤S12)后,前进到不使用标记处理(步骤S13),在没有间隙的情况下,前进到不使用标记处理(步骤S13)。在步骤S12中,仅存储间隙个数的无效图像,但在每次插入1个图像时,进行与图6所示的存储通常图像一样的处理。
图13是说明现有MPEG-2流的结构的概念图。如图所示,MPEG-2流具有以下分层结构。流(Stream)由多个图像组(Group Of Picture)构成,通过将其设为编码处理的基本单位,可进行动态图像的编辑或随机存取。图像组由多个图像构成,各图像有I图像、P图像或B图像。流、GOP和图像由表示各自单位区分的同步信号(sync)和在该单位下作为共同数据的标题(header)构成。在MPEG-2中,P图像可进行仅参照显示时刻之前的1个I图像或P图像的预测编码。另外,B图像可进行参照显示时刻之前1个与之后1个I图像或P图像的预测编码。另外,还决定配置在流中的顺序,配置在I图像或P图像之后。因此,在随机存取时,若从I图像开始解码,则配置在I图像以后的图像全部可进行解码、显示。另外,参照图像最大只能在存储器中存储两个,所以限制了参照结构的自由度。
图14是说明现有JVT的动态图像编码方法的概念图。在JVT中,只要不是作为特别的帧内图像的IDR图像,就可任意参照间隔开的图像。因此,例如为了提高编码效率,也可改换多个图像的编码顺序来进行编码。图中,图像19、20、21、25、26、27的图像间的相关非常强,另外,图像22、23、24、28、29、30图像间的相关非常强。此时,首先对图像19、20、21、25、26、27进行画面间编码(GOP1),之后对图像22、23、24、28、29、30进行画面间编码(GOP2),从而可期待提高编码效率。
图15是现有JVT的动态图像编码方法的动作流程图。在JVT的动态图像编码方法中,可将全部未编码图像设为编码替补(步骤S55)。之后,从编码替补中按照任何观点来选择图像,进行编码(步骤S56)。例如,当未编码的图像为10个时,也可以将该10个全部设为编码替补,按显示顺序选择第10个图像进行编码。在编码后,若有未编码的图像,则返回S55。在步骤S56中,不进行编码,等待输入未编码的图像。
另外,在这种现有的动态图像解码装置及现有的动态图像解码装置中,如上所述,在作为特别的帧内图像的IDR图像的部位以外,不能编辑编码后的流。下面说明该问题。
图8是说明序列的不连续导致显示顺序信息POC的不连续,并删除未显示的图像的问题的概念图。表示使某序列的两个部分Clip1与Clip2联合后解码的情况。将上述通过编辑等产生的序列的不连续发生的部位称为编辑点。在本例中,设定不考虑显示顺序信息POC循环也可以的显示顺序信息POC的最大值。图中(A)表示解码Clip1后的存储器的状态,存储图像I19、P22、B20、B21。各显示顺序信息POC如图所示,分别为4、7、5、6,将图像I19、B20、B21标记为unused。接着,图中(B)示出解码Clip2的最初的图像I85,并解码第2个图像P86前的状态。这里,设将图像I85存储到图像B20所在的位置上。之后进行不使用标记处理,但在该Clip2的情况下,将图像I85标记为unused(图中(B))。然后,进行空区域确保处理,但如上所述,因为存在unused的图像,所以删除unused的图像中具有最初显示顺序的图像,故删除图像I85。这里,若设从解码到显示的延迟平均为3个,则还未显示图像B21、P22、I85。但是,尽管图像I85还未显示,也从存储器中删除。
图12是说明序列的不连续导致帧序号FN的不连续、并且删除无效图像未显示的图像的问题的概念图。在本例中,表示使某序列的不连续的不同部分Clip1与Clip2联合后解码的状态。图(A)表示解码图像P25后的存储器的状态,存储从图像P21到图像P25共5个图像。之后,图(B)中示出在解码Clip2的最初图像I60时插入无效图像后的状态。图像I60为FN=12,之前刚解码的图像P25为FN=5,所以判断为丢失6个图像,插入6个无效图像。此时,因为删除全部存储器的图像,所以例如在图(A)的状态下,即使还未显示图像P23、P24、P25,也可能被删除。
图16是说明JVT的编码自由度在编辑时或随机存取时引起的问题的概念图。图(B)是最初的流(stream),与图14的流相同。图(A)表示没有GOP1、仅解码GOP2的状态。此时,因为未得到图像25、26、27,所以在从图像22再现到图像24后,不能从图像25再现到图像27,产生再现的不连续。这在通过编辑删除GOP1的情况下、从GOP2随机存取的情况下成为问题。图(C)表示没有GOP2、解码到GOP1的状态。此时,因为未得到图像22、23、24,所以产生再现的不连续。这在通过编辑删除GOP2的情况下成为问题。
发明内容
因此,本发明鉴于上述问题作出,其目的在于提供一种动态图像编码方法及动态图像解码方法等,即使在作为特别的帧内图像的IDR图像以外的图像的部位也可进行编辑。
为了实现上述目的,根据本发明的动态图像编码方法,用图像单位对动态图像信号进行编码来生成编码流,其特征在于,包含以下步骤:标志信息形成步骤,形成表示所述图像的顺序不连续的标志信息;和信息附加步骤,向所述编码流附加所述标志信息。
由此,可将表示图像顺序不连续的信息附加到编码流中。
另外,根据本发明的动态图像编码方法,用图像单位对动态图像信号进行编码来生成编码流,其特征在于,包含以下步骤:编码步骤,从由多个图像构成的规定编码单位中的最初画面内编码图像开始进行编码,使显示顺序在后的图像包含于该编码单位以后的编码单位中。
由此,即使解码某编码单位以后的图像,也可以不产生再现不连续地进行再现。
另外,根据本发明的动态图像解码方法,用图像单位对编码流进行解码,其特征在于,包含以下步骤:信息提取步骤,提取表示所述图像顺序不连续的标志信息;和管理步骤,根据所述标志信息,管理对解码完的图像进行存储的区域。
另外,所述标志信息是表示图像的显示顺序信息不连续的信息,在所述管理步骤中,根据所述显示顺序信息和所述标志信息,决定存储在所述区域中的解码完的图像中显示顺序最靠前的图像,并将决定的图像设定为删除对象图像。
由此,可防止由于图像的显示顺序信息不连续而删除未显示图像。
另外,所述动态图像解码方法,还包含无效图像存储步骤,在图像的编码顺序信息不连续的情况下,在所述区域中存储无效图像,所述标志信息是表示所述编码顺序信息不连续的信息,在所述管理步骤中,根据所述标志信息和所述编码顺序信息,判断所述区域中是否存储无效图像,在所述无效图像存储步骤中,根据所述管理步骤的判断结果,在所述区域中存储无效图像。
由此,可防止由于图像的编码顺序信息不连续而删除未显示图像。
并且,本发明不仅可实现为这种动态图像编码方法和动态图像解码方法,还可实现为具备将包含这种动态图像编码方法和动态图像解码方法的特征步骤作为单元的动态图像编码装置和动态图像解码装置,或实现为可利用计算机执行这些步骤的程序。另外,当然可通过CD-ROM等记录介质或英特网等传输媒体来发送这种程序。
从以上说明可知,根据本发明的动态图像编码方法,即使是作为特别的帧内图像的IDR图像以外的图像的部位也可进行编辑。
附图说明
图1是表示现有的动态图像编码装置的结构框图。
图2是说明显示顺序(POC)与被参照图像序号的概念图。
图3是说明在存在标记为不使用的图像的情况下,为了在存储器中确保空区域而删除图像的动作图。
图4是说明在不存在标记为不使用的图像的情况下、为了在存储器中确保空区域而删除图像的动作图。
图5是表示现有的动态图像解码装置的结构框图。
图6是表示现有的动态图像解码装置的存储器关联动作的流程图。
图7是现有动态图像解码装置的空区域确保处理的动作流程图。
图8是说明序列的不连续导致显示顺序信息POC不连续、并删除未显示的图像的问题的概念图。
图9是说明无效图像的动作的概念图。
图10是表示现有动态图像解码装置的结构框图。
图11是现有动态图像解码装置的无效图像的动作流程图。
图12是说明序列的不连续导致帧序号FN不连续、并删除无效图像未显示的图像的问题的概念图。
图13是说明现有MPEG-2流的结构的概念图。
图14是说明现有的JVT动态图像编码方法的概念图。
图15是说明现有的JVT动态图像编码方法的动作流程图。
图16是说明JVT的编码自由度在编辑时或随机存取时引起的问题的概念图。
图17是表示本发明的动态图像编码装置的结构框图(实施方式1)。
图18是说明本发明的动态图像解码方法的概念图(实施方式1)。
图19是表示本发明的动态图像解码装置的结构框图(实施方式1)。
图20是本发明的动态图像解码方法的动作流程图(实施方式1)。
图21是本发明的动态图像解码方法的空区域确保处理的动作流程图(实施方式1)。
图22是表示本发明的动态图像解码装置的结构框图(实施方式2)。
图23是本发明的动态图像解码方法的动作流程图(实施方式2)。
图24是表示本发明的动态图像编码方法的输出数据结构、本发明的动态图像解码方法的输入数据的结构图。
图25是表示本发明的动态图像编码装置的结构框图(实施方式3)。
图26是说明本发明的动态图像编码方法的概念图(实施方式3)。
图27是本发明的动态图像编码方法的动作流程图(实施方式3)。
图28是说明本发明的动态图像编码方法的概念图(实施方式4)。
图29是本发明的动态图像编码方法的动作流程图(实施方式4)。
图30是记录介质的说明图,该记录介质用于存储由计算机系统实现各实施方式的动态图像编码方法和动态图像解码方法的程序,(a)是表示作为记录介质主体的软盘的物理格式的实例的说明图,(b)是表示从软盘的正面看的外观、剖面结构及软盘的说明图,(c)是表示在软盘FD上进行上述程序的记录再现的结构说明图。
图31是表示实现内容发送服务的内容提供系统的整体结构框图。
图32是表示便携电话的一例的图。
图33是表示便携电话的内部结构的框图。
图34是表示数字播放系统的整体结构框图。
具体实施方式
下面,参照附图来说明本发明的实施方式。
(实施方式1)
图17是表示本实施方式的动态图像编码装置的结构框图。
动态图像编码装置具备:动作检测部103、减法运算部104、编码部105、动作补偿部106、可变长编码部113、解码部108、加法运算部109、存储器110、111和标志(flag)信息生成部112。
与现有的动态图像编码装置(图1)的不同之处在于:具备标志信息生成部112、和工作与可变长编码部107不同的可变长编码部113。
标志信息生成部112在显示顺序信息POC因编辑等而变得不连续的情况下,生成表示显示顺序信息POC不连续的标志。
可变长编码部113对输入的编码信号进行可变长编码等,通过附加由标志信息生成部112生成的标志、和从动作补偿部106输入的动作矢量MV等信息,生成编码流Str,输出到动态图像编码装置的外部。
图18是说明本发明的动态图像编码方法和动态图像解码方法的概念图。本图说明解决说明现有问题的图8的情况的状态。首先,由在编码时附加的标志来检测显示顺序信息POC因编辑等而变得不连续。将该标志称为标志A。所谓标志A是表示显示顺序信息POC因编辑等而不连续的标志。
该标志A如图所示,为放置在Clip紧前面的特别信息。在JVT中,因为定义存储称为补充增加信息(Supplemental enhancementinformation:下面简称为SEI)的视频解码器的附加信息的单位,所以存储在其中。也可存储在用户可独自定义的User data RegisteredSEI中。或者,存储在存储用于随机存取的信息的Random accesspoint SEI(下面简称为RAP SEI)中。在RAP SEI中,当从表示通过编辑等解码的动态图像也许与原来的动态图像不同的broken_link_flag、RAP SEI所在位置,按显示顺序解码第n个以后的图像的动态图像与原来的动态图像相等或基本上相等的情况下,存储表示该n个的recovery_frame_cnt等信息。在本发明中,当RAP SEI的broken_link_flag为“1”时,若进行编辑,则进行检测,并将RAP SEI以后的最初图像紧前面设为编辑点。或者,将recovery_frame_cnt所指的图像紧前面设为编辑点。或者,将RAP_SEI之后的最初可独立解码的图像(例如Intra Picture)设为编辑点。另外,所谓编辑点仅指图像的交界,而不定义SEI的交界。此外,有时还在存储序列的文件格式中,存储各图像的随机存取信息,在这些信息中存储表示正被编辑的信息,有时还存储着编辑点的信息。此时,可根据文件格式的信息来进行编辑的检测与编辑点的确定。将这些存储形式称为标志形式A的存储形式。
图19是表示本实施方式的动态图像解码装置的结构框图。与现有的动态图像解码装置(图5)的不同之处在于,追加了编辑检测部203,具备工作与存储器管理部401不同的存储器管理部205。
编辑检测部203从可变长解码部201取得表示显示顺序信息POC不连续的标志、或存储编辑点信息的信息,并进行分析,将控制信号mctrlc输出到存储器管理部205。若存储器管理部205输入意味着编辑的控制信息mctrlc,则进行管理,以使在编辑点之前的图像的显示顺序变为在编辑点之后的图像之前。即,当从unused图像中选择删除的图像时,设编辑点之前的图像的显示顺序比编辑点之后的图像靠前。
存储器管理部205为了管理显示顺序,使每次超过编辑点就增加1的Clip计数器保持在各图像中。如图(B)所示,将图像B20、P22、B21记录为Clip=1,将在编辑点之后的图像I85记录为Clip=2。在该状态下的不使用标志处理的处理中,从unused图像的最初解码剪切(clip)图像(标记为Clip=1的图像B20、P22、B21)中删除显示顺序最靠前的图像B20。从而,解决了会删除未显示的图像(在现有问题中为图像I85)的问题。
图20是本实施方式的动态图像解码方法的动作流程图。与现有的动态图像解码方法(图6)的不同之处在于,追加了步骤S31与步骤S32,修改步骤S14为步骤S14B。在图像单位的处理开始(步骤S1)后,调查是否正被编辑(步骤S31),若正被编辑,则进行在编辑点处的处理(步骤S32)。若未被编辑,则与以前一样,进行不使用标记处理(步骤S13),进行考虑编辑点前后的解码顺序的空区域确保处理(步骤S14B)。在编辑点处的处理能区别编辑点的前后,存储器管理部205在每次超过编辑点时使Clip计数器加1。
图21是本实施方式的动态图像解码方法的空区域确保处理的动作流程图。与现有的空区域确保方法(图6)的不同之处在于,对步骤S43进行修改后的步骤S43B。在将usused的图像存储在存储器中的情况下(步骤S41),使解码顺序在前的剪切图像优先,搜索包含usused图像的剪切图像,删除该剪切图像的usused图像中最初的显示顺序的图像。换而言之,作为解码顺序中位于最初包含usused图像的Clip的usused图像,删除这些图像中的最初显示顺序的图像。或者,换而言之,删除解码顺序中在最初的usused图像紧前面、紧后面的编辑点之间包含的usused图像中最初的显示顺序的图像。
如上所述,通过在编码时附加的标志来检测显示顺序信息POC因编辑等而变得不连续的基础上,决定删除的图像,所以可解决会删除未显示的图像(在现有的图8所示实例中为图像I85)的问题。
为了能由本发明的动态图像解码方法(图18、图19、图20、图21)来解决编辑的不连续,需要表示编辑点的信息。因此,优选表示包含编辑点信息的信息,位于可由解码装置容易获得的部位。
在本实施方式中,在显示顺序信息POC变得不连续的图像间,附加表示显示顺序信息POC变得不连续的编码时附加的标志,但不限于此。例如,标志信息生成部112也可生成表示显示顺序信息POC变得不连续的标志、和对显示顺序信息POC变得不连续的位置(编辑点)进行确定的信息。另外,也可将这些信息存储在序列参数组中,或存储在用户可独自定义的User data Registered SEI中,并配置在序列的容易获得的部位、例如开头,或存储在记录序列的介质中,或存储在管理序列的文件格式中。将这些存储形式称为标志形式A2。
这种情况下,当解码时,若编辑检测部203从这些部位取得标志A2,可得到编辑点信息,则进行本发明的动态图像解码方法(图18、图19、图20、图21)。
(实施方式2)
本实施方式中的动态图像编码装置的结构与图17所示实施方式1的框图一样。
在本实施方式中,标志信息生成部112在帧序号FN因编辑等变得不连续的情况下,生成表示帧序号FN变得不连续的标志B。
另外,标志信息生成部112生成的标志B也可以是指示插入无效图像的标志。标志B的附予形式与实施方式1中所示的标志A的形式一样。
图22是表示本实施方式的动态图像解码装置的结构框图。该图与图10中说明的现有动态图像解码装置的不同之处在于,追加编辑检测部21,并变更存储器管理部212。
编辑检测部214从可变长解码部201取得表示帧序号FN变得不连续的标志,并将控制信号ctrl_c输出到存储器管理部212。存储器管理部212即使在通过控制信号ctrl_c从FN间隙检测部211输入无效图像插入请求的情况下,当从编辑检测部214通知正被编辑时,进行无效图像的插入。
图23是本发明的动态图像解码方法的工作流程图。与现有的动态图像解码方法(图11)的不同之处在于,追加了步骤S31,修改步骤S14为步骤S14B。此外的步骤进行与图11的具有相同符号的步骤相同的动作,所以省略说明。另外,步骤S31与步骤S14B与实施方式1中说明的本发明的解码装置的步骤S31及步骤S14B相同,所以省略说明。
如上所述,在通过由编码时附加的标志来检测帧序号FN因编辑等而变得不连续的基础上,决定无效图像的插入,所以可解决会删除未显示的图像(在现有的图12所示实例中为图像P23、P24、P25)的问题。
另外,在本实施方式中,与实施方式1一样,向帧序号FN变得不连续的图像之间,附加表示帧序号FN变得不连续的在编码时附加的标志,但不限于此。例如,与实施方式1一样,标志信息生成部112也可生成表示帧序号FN变得不连续的标志、和对帧序号FN变得不连续的位置(编辑点)进行确认的信息。另外,与实施方式1一样存储这些信息。
此时,在解码时,与实施方式1一样,若编辑检测部203从这些部位取得标志B2,可得到编辑点信息,则进行本发明的动态图像解码方法(图22、图23)。
图24是表示实施方式1与实施方式2中的、本发明的动态图像编码方法的输出数据结构、本发明的动态图像解码方法的输入的数据的结构图。作为被编码的动态图像信号的序列如图(A)所示,包含RAP、MMCO、PICTURE的数据。RAP是Random access point SEI,其中的broken_link_field是实施方式1的标志A,另外,是实施方式2的标志B。PICTURE是以图像单位被编码的动态图像信号,有时在PICTURE之前存在MMCO(有时不存在)。所谓MMCO是存储器管理控制操作(Memory management control operation)的指示信息。另外,如图(B)所示,在序列的内部、或与序列关联的文件格式的规定位置、或记录序列的记录介质等中,存储实施方式1的标志A2,另外,存储实施方式2的标志B2。
(实施方式3)
图25是表示本实施方式的动态图像编码装置的结构框图。
动态图像编码装置具备:重排存储器101、编码排序部102、动作检测部103、减法运算部104、编码部105、动作补偿部106、可变长编码部107、解码部108、加法运算部109和存储器110、111。
重排存储器101按显示时间顺序以图像单位存储所输入的动态图像。编码排序部102按进行编码的顺序对存储在重排存储器101中的各图像进行重新排列。
图26是说明本实施方式的动态图像编码方法的概念图。解决图16所示问题的本实施方式的动态图像编码方法进行编码,以使在某个GOP中仅存储显示顺序连续的图像,另外,某个GOP的任意图像的显示顺序比接着解码的GOP的任意图像的显示顺序靠前。通过如此编码,在图16所示情况下,GOP1、GOP2中都不会产生再现的不连续。
图27是本实施方式的动态图像编码方法的动作流程图。用图(a)来说明动作。将从未编码的图像之中、从显示顺序最靠前的图像开始连续的图像设为显示基本单位(步骤S61)。即,将显示顺序不能不连续的1个以上的图像设为显示基本单位,确定显示基本单位,以使显示在该显示基本单位之前的未编码图像不存在。接着,调查显示基本单位中是否有未编码的图像(步骤S62),若有(步骤S62为是),则将显示基本单位中的未编码图像设为编码替补,从该编码替补中选择并进行编码(步骤S63)。调查是否有未编码的图像(步骤S64),若有(步骤S64为是),则前进到步骤S62。若无(步骤S64为否),则结束。另外,显示基本单位只要满足条件“在未编码的图像中,至少从显示顺序最靠前的图像到编码完成的图像中显示顺序最靠后的图像为止包含在显示基本单位中”,就能在任意的定时改变。
另外,图(B)是本实施方式的动态图像编码方法的动作流程图,但在该方法中,将从未编码的图像之中、从显示顺序最靠前的图像开始到编码完成的图像之中显示顺序最靠后的图像设定为必要的编码替补(步骤S71),从包含必要的编码替补、未编码的图像中选择并进行编码(步骤S72)。接着调查是否有I图像以外的未编码图像(步骤S73),若有(步骤S73为是),则前进到步骤S71,若无(步骤S73为否),则结束。另外,这里虽将至下一I图像之前设为GOP的替补,但不限于此,例如也可按文件格式中的GOP的记载来决定GOP的最后。
因为如上所述来决定GOP,所以例如可防止如图16所示的情况那样在GOP1、GOP2中分别产生再现的不连续。
另外,如本实施方式中说明的那样,即使将表示编码的标志加到编码流中也无妨。
(实施方式4)
图28是说明本实施方式的动态图像编码方法的概念图。在实施方式3中,是同时进行编辑的问题解决和随机存取时的问题解决的方法,但本实施方式的动态图像编码方法是解决随机存取时的问题的方法。因为制约比实施方式3的方法平缓,所以可使编码效率等提高。
若以图28的GOP2为例来说明,则在该动态图像编码方法中,
1)显示时间比某个GOP的帧内图像(I25)靠后的图像(B26、B27、B28),不在包含该帧内图像的GOP(GOP2)紧前面的GOP(GOP1)内编码。通过如此控制,如图中情况A所示,即使从GOP2的最初的图像(I25)开始解码,也可全部正确显示最初的图像之后的图像。
2)并且,显示时间比某个GOP的帧内图像(I25)靠前、且显示时间比该GOP紧前面的GOP的帧内图像(I19)靠后的图像(I19、B20、B21、B22、B23、B24),在该GOP(GOP2)或紧前面的GOP(GOP1)中编码。通过如此控制,即使从GOP1的最初图像(I19)开始解码,也可全部正确显示GOP1的最初图像(I19)以后的图像。
或者换言之,1)以GOP1为例,显示于某个GOP最后的图像选择在下一GOP的I图像(I25)之前显示的图像来进行编码(即必要选择图像P24以前的图像)。2)以GOP2为例,显示在某个GOP内最初的图像,从在紧前面的GOP的I图像(I19)之后显示的图像中选择并进行编码(即必要选择图像B20以后的图像)。
或者换言之,是如下编码的动态图像编码方法,即,使显示在某个GOP最初的图像的显示顺序在紧前面的GOP的I图像的显示顺序之后,显示在该GOP最后的图像的显示顺序在紧后面的GOP的I图像的显示顺序之前。这里,作为I图像来说明,但即使对可独立解码的图像也可同等适用。
图29是本实施方式的动态图像编码方法的动作流程图。首先,选择未编码的图像,作为入口图像来编码(步骤S81)。所谓入口图像是可独立解码的图像。接着,将从未编码的图像之中、显示顺序在最后编码的入口图像之前的图像设为必要的编码替补,接着,将显示顺序在编码预定的入口图像之前的未编码图像设为可省略的编码替补(步骤S82)。接着,调查必要的编码替补中是否有未编码的图像(步骤S83),若有(步骤S83为是),则从必要的编码替补及可省略的编码替补中选择并进行编码(步骤S85)。之后,调查是否有未编码的图像(步骤S86),若有,则前进到步骤S83,若没有,则结束处理。在步骤S83中,在必要的编码替补中没有未编码的图像时(步骤S83为否),则在步骤S84中,判断是否进行下一入口图像的编码(步骤S84)。在进行入口图像的编码的情况下(步骤S84为是),则前进到步骤S81,在不进行编码的情况下(步骤S84为否),则前进到步骤S85。
如上所述,显示顺序在GOP中的最初入口图像之后的图像,编码成包含在该GOP以后的GOP中,所以即使解码某一GOP以后的图像,也可不产生再现的不连续地进行再现。
另外,即使将表示本实施方式中说明的那样编码的标志附加到编码流中也无妨。
(实施方式5)
并且,通过将实现上述各实施方式中所示的动态图像编码方法或动态图像解码方法的结构的程序记录在软盘等存储介质中,可在独立的计算机系统中简单实施上述各实施方式中所示的处理。
图30是使用存储上述各实施方式的动态图像编码方法和动态图像解码方法的软盘,由计算机系统来实施的情况的说明图。
图30(b)表示从软盘的正面看的外观、剖面结构及软盘,图30(a)表示作为记录介质主体的软盘的物理格式的实例。软盘FD内置于壳体F内,在该盘的表面上,以同心圆形从外周向内周形成多个轨道Tr,沿角度方向将各轨道分割成16个扇区Se。因此,在存储上述程序的软盘中,在上述软盘FD上分配的区域中,记录作为上述程序的动态图像编码方法和动态图像解码方法。
另外,图30(c)表示在软盘FD上进行上述程序的记录再现的结构。在将上述程序记录在软盘FD中的情况下,从计算机系统Cs经软盘驱动器写入作为上述程序的动态图像编码方法和动态图像解码方法。另外,在通过软盘内的程序在计算机系统中构筑上述动态图像编码方法和动态图像解码方法的情况下,通过软盘驱动器从软盘中读出程序,并传送到计算机系统。
另外,在上述说明中,将软盘用作记录介质来进行说明,但使用光盘也可同样进行。另外,记录介质不限于此,只要是IC卡、ROM盒带等能记录程序的介质,即可同样实施。
这里,说明上述实施方式所示的动态图像编码方法或动态图像解码方法的应用例和使用该方法的系统。
图31是表示实现内容发送服务的内容提供系统ex100的整体结构框图。将通信服务的提供面积分割成期望的大小,并在各小区内分别设置作为固定无线站的基站ex107-ex110。
该内容提供系统ex100例如经由英特网服务提供商ex102和电话网ex104、及基站ex107-ex110,在英特网ex101上连接计算机ex111、PDA(个人数字助理:personal digital assistant)ex112、摄像机ex113、便携电话ex114、带摄像机的便携电话ex115等各设备。
但是,内容提供系统ex100不限于图31的组合,也可任意组合后进行连接。另外,各设备也可不经由作为固定无线站的基站ex107-ex110来直接连接于电话网ex104上。
摄像机ex113是数字视频摄像机等可拍摄动态图像的设备。另外,便携电话是PDC(Personal Digital Communications)方式、CDMA(Code Division Multiple Access)方式、W-CDMA(Wideband-CodeDivision Multiple Access)方式、或GSM(Global System for MobileCommunication)方式的便携电话机、或PHS(Personal HandyphoneSystem)等,是哪个都无妨。
另外,流服务器(streaming server)ex103从摄像机ex113经由基站ex109、电话网ex104连接,可使用摄像机ex113,基于用户发送的编码处理后的数据进行现场发送等。所拍摄的数据的编码处理既可由摄像机ex113进行,也可由进行数据发送处理的服务器等进行。另外,由摄像机ex116拍摄的动态图像数据也可经由计算机ex111发送到流服务器ex103。摄像机ex116是数码摄像机等可拍摄静止图像、动态图像的设备。此时,动态图像数据的编码可由摄像机ex116进行,也可由计算机ex111来进行。另外,编码处理在计算机ex111或摄像机ex116具有的LSIex117中进行处理。另外,也可将动态图像编码/解码用软件装在作为可由计算机ex111等读取的记录介质的任一存储介质(CD-ROM、软盘、硬盘等)中。并且,也可由带摄像机的便携电话ex115来发送动态图像数据。此时的动态图像数据是由便携电话ex115具有的LSI编码处理后的数据。
在该内容提供系统ex100中,用户与上述实施方式一样编码处理由摄像机ex113、摄像机ex116等拍摄的内容(例如拍摄音乐现场的视频等)后,发送到流服务器ex103,另一方面,流服务器ex103向有请求的客户机流发送上述内容数据。作为客户机,有可对上述编码处理后的数据进行解码的计算机ex111、PDAex112、摄像机ex113、便携电话ex114等。由此,内容提供系统ex100是可由客户机接收编码后的数据并进行再现,并且在客户机实时接收并解码、进行再现,由此可实现个人播放的系统。
最好在构成该系统的各设备的编码、解码中使用上述各实施方式中所示的动态图像编码装置或动态图像解码装置。
作为一例,说明便携电话。
图32是表示使用上述实施方式说明的动态图像编码方法和动态图像解码方法的便携电话ex115的图。便携电话ex115具有:与基站ex110之间收发电波的天线ex201;CCD摄像机等可拍摄视频、静止图像的摄像机部ex203、对解码由摄像机部ex203拍摄的视频、由天线ex201接收的视频等的数据进行显示的液晶显示器等显示部ex202;由操作键ex204组构成的主体部;用于进行声音输入的扬声器等声音输出部ex208;用于进行声音输入的麦克风等声音输入部ex205;用于对拍摄的动态图像或静止图像的数据、接收到的邮件的数据、动态图像的数据或静止图像的数据等编码后的数据或解码后的数据进行保存的记录介质ex207;可将记录介质ex207安装在便携电话ex115中的插槽部ex206。记录介质ex207是在SD卡等塑料外壳内容纳作为可进行电改写或删除的非易失性存储器的EEPROM(Electrically Erasable and Programmable Read Only Memory)之一的闪存存储器元件。
用图33来说明便携电话ex115。便携电话ex115经由同步总线ex313将电源电路部ex310、操作输入控制部ex304、图像编码部ex312、摄像机接口部ex303、LCD(Liquid Crystal Display)控制部ex302、图像解码部ex309、多路复用分离部ex308、记录再现部ex307、调制解调电路部ex306及声音处理部ex305,相互连接到统一控制具备显示部ex202及操作键ex204的主体部各部的主控制部ex311上。
电源电路部ex310若因用户的操作而在结束通话及电源键为导通状态时,通过从电池组向各部提供功率,将带摄像机的数字便携电话ex115启动到可动作的状态。
便携电话ex115根据由CPU、ROM及RAM等构成的主控制部ex311的控制,通过声音处理部ex305将声音通话模式时由声音输入部ex205集中的声音信号变换为数字声音数据,由调制解调电路部ex306进行扩频处理,并由发送接收电路部ex301实施数模变换处理及频率变换处理后,经天线ex201发送。另外,便携电话机ex115放大声音通话模式时由天线ex201接收到的接收数据,实施频率变换处理及模数变换处理,并由调制解码电路部ex306进行逆扩频处理,在由声音处理部ex305变换为模拟声音数据后,经声音输出部ex208输出。
并且,在数据通信模式时发送电子邮件的情况下,通过主体部的操作键ex204的操作输入的电子邮件的文本数据,经由操作输入控制部ex304送到主控制部ex311。主控制部ex311由调制解调电路部ex306对文本数据进行扩频处理,由发送接收电路部ex301实施数模变换处理及频率变换处理后,经天线ex201发送到基站ex110。
在数据通信模式时发送图像数据的情况下,经摄像机接口部ex303将由摄像机部ex203拍摄的图像数据提供给图像编码部ex312。另外,在不发送图像数据的情况下,也可经摄像机接口部ex303及LCD控制部ex302,将由摄像机部ex203拍摄的图像数据直接显示在显示部ex202上。
图像编码部ex312具备本申请中说明的动态图像编码装置,通过按照用于上述实施方式所示的动态图像编码装置的编码方法,压缩编码从摄像机部ex203提供的图像数据,变换为编码图像数据,并发送到多路复用分离部ex308。另外,与此同时,便携电话机ex115将摄像机部ex203在拍摄中由声音输入部ex205集中到的声音作为数字的声音数据,经声音处理部ex305,发送到多路复用分离部ex308。
多路复用分离部ex308按规定的方式多路复用从图像编码部ex312提供的编码图像数据和从声音处理部ex305提供的声音数据,调制解调电路部ex306对结果得到的多路复用数据进行扩频处理,并由发送接收电路部ex301实施数模变换处理及频率变换处理后,经天线ex201发送。
在数据通信模式时,在接收链接到网页等上的动态图像文件的数据的情况下,调制解调电路部ex306逆扩频处理经天线ex201从基站ex110接收到的接收数据,并将结果得到的多路复用数据发送到多路复用分离部ex308。
另外,在解码经天线ex201接收到的多路复用数据中,多路复用分离部ex308通过分离多路复用数据,分成图像数据的比特流与声音数据的比特流,经同步总线ex313将该编码图像数据提供给图像解码部ex309,同时,将该声音数据提供给声音处理部ex305。
下面,图像解码部ex309具备本申请中说明的动态图像解码装置,通过由对应于上述实施方式所示的编码方法的解码方法来解码图像数据的比特流,生成再现动态图像数据,并经LCD控制部ex302提供给显示部ex202,由此,显示例如链接到网页上的动态图像文件中包含的动态图像数据。与此同时,声音处理部ex305在将声音数据变换为模拟声音数据后,提供给声音输出部ex208,由此,再现例如链接到网页上的动态图像文件中包含的声音数据。
另外,不限于上述系统实例,最近基于卫星、地面波的数字播放成为话题,如图34所示,也可在数字播放系统中装入上述实施方式的至少动态图像编码装置或动态图像解码装置之一。具体而言,播放站ex409经电波将视频信息的比特流传输到通信或播放卫星ex410。接收到上述比特流的播放卫星ex410发射播放用电波,具有卫星播放接收设备的家庭的天线ex406接收该电波,由电视(接收机)ex401或机顶盒(STB)ex407等装置来解码比特流并进行再现。另外,也可在读取记录在作为记录介质的CD或DVD等存储介质ex402中的比特流并解码的再现装置ex403中,安装上述各实施方式中所示的动态图像解码装置。此时,将再现的视频信号显示在监视器ex404中。另外,还考虑在连接于有线电视用电缆ex405或卫星/地面波播放的天线ex406上的机顶盒ex407内安装动态图像解码装置,由电视的监视器ex408来再现。此时,也可不是机顶盒,而在电视内装入动态图像解码装置。另外,也可以是具有天线ex411的汽车ex412从卫星ex410或基站ex107等接收信号,在汽车ex412具有的汽车导航系统ex413等的显示装置中再现动态图像。
并且,也可由上述实施方式所示的动态图像编码装置编码图像信号并记录在记录介质中。作为具体例,有在DVD盘ex421中记录图像信号的DVD记录器、或在硬盘中记录图像信号的盘记录器等记录器ex420。另外,也可记录在SD卡ex422中。若记录器ex420具备上述实施方式所示的动态图像解码装置,则可再现记录在DVD盘ex421或SD卡ex422中的图像信号并由监视器ex408进行显示。
另外,汽车导航系统ex413的结构考虑例如在图33所示结构中去除摄像机部ex203与摄像机接口部ex303、图像编码部ex312的结构,在计算机ex111或电视(接收机)ex401等中也作同样考虑。
另外,上述便携电话ex114等的终端除具有编码器、解码器双方的发送接收型终端外,还考虑仅有编码器的发送终端、仅有解码器的接收终端等3种安装形式。
这样,可将上述实施方式所示的动态图像编码方法或动态图像解码方法用于上述任一设备/系统中,从而可得到上述实施方式中说明的效果。
另外,本发明不限于上述实施方式,在不脱离本发明范围的情况下,可进行各种变形或修改。
产业上的可利用性
如上所述,根据本发明的动态图像编码方法和动态图像解码方法,例如可用作在便携电话、DVD装置和个人计算机等中对构成动态图像的各图像进行编码后生成编码流、或对所生成的编码流进行解码的方法。