CN100525456C - 运动检测装置 - Google Patents

运动检测装置 Download PDF

Info

Publication number
CN100525456C
CN100525456C CNB2006101084442A CN200610108444A CN100525456C CN 100525456 C CN100525456 C CN 100525456C CN B2006101084442 A CNB2006101084442 A CN B2006101084442A CN 200610108444 A CN200610108444 A CN 200610108444A CN 100525456 C CN100525456 C CN 100525456C
Authority
CN
China
Prior art keywords
mentioned
motion detection
picture
data
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CNB2006101084442A
Other languages
English (en)
Other versions
CN1909666A (zh
Inventor
井口雅保
田中健
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Publication of CN1909666A publication Critical patent/CN1909666A/zh
Application granted granted Critical
Publication of CN100525456C publication Critical patent/CN100525456C/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/573Motion compensation with multiple frame prediction using two or more reference frames in a given prediction direction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/43Hardware specially adapted for motion estimation or compensation
    • H04N19/433Hardware specially adapted for motion estimation or compensation characterised by techniques for memory access
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

一种运动检测装置,不使解码对象图片的画质一律下降,并防止系统失灵,包括:参照图片设定部(132),按照存储有图像数据的外部多帧存储器(120)的数据转送能力,限制应该从外部多帧存储器(120)转送的图像数据的数据转送量;参照用局部存储器(111);参照存储器控制部(112),将存储在外部多帧存储器(120)中的图像数据的至少一部分转送到参照用局部存储器(111),该图像数据的转送量是参照图片设定部(132)所限制的数据转送量;以及运动检测部(101),对转送到参照局部存储器(111)的图像数据的至少一部分进行参照,从而对编码对象图片进行运动检测。

Description

运动检测装置
技术领域
本发明涉及一种用参照图片进行运动检测的运动检测装置。
背景技术
近年来,迎来了综合处理声音、图像以及其他像素值的多媒体时代,现有的信息媒体,即给人传递信息的报纸、杂志、电视机、收音机以及电话等手段,作为多媒体的对象而被采纳。一般情况下,所谓多媒体不仅显示文字,还将图形、声音、尤其是图像等同时相联合并显示,不过,要把上述现有的信息媒体作为多媒体的对象,必须以数字形式来显示该信息。
然而,如果将上述各信息媒体所含的信息量计算成数字信息量的话,在字符的情况下,1个字符所需要的信息量有1~2字节,但在声音的情况下每1秒需要64Kbits(电话质量),在动态图像的情况下每1秒需要100Mbits(现行电视接收质量)以上的信息量,因此,在上述信息媒体上以原样数字形式来处理这些庞大信息量是不现实的。例如,可视电话已由传输速度为64Kbit/s~1.5Mbit/s的综合业务数字网(ISDN:Integrated Services DigitalNetwork)来实用化了,但是以ISDN来传输电视摄影机的原样影像是不可能的。
面临这种问题,则需要信息压缩技术,例如可视电话已经采用了ITU—T(国际电信联盟电信标准化部门)推荐的H.261、H.263标准的动态图像压缩技术。另外,根据MPEG—1(运动图像专家组—1)标准的信息压缩技术,在通常的音乐用CD(紧致盘)中存储声音信息的同时,也可以存储图像信息。
在此,所谓MPEG(运动图像专家组:Moving Picture Experts Group)是指由ISO/IEC(国际标准化组织国际电工委员会)来制定的关于动态图像信号压缩的国际标准,MPEG—1是将动态图像信号压缩到1.5Mbps的压缩标准,即将电视信号信息压缩到约100分之1的压缩标准。但是,MPEG—1标准针对主要传输速度约1.5Mbps的中等画质,所以为满足进一步提高画质的要求,又制定了MPEG—2(运动图像专家组—2)标准,根据MPEG—2标准,能以2~15Mbps的动态图像信号来实现电视广播质量。而且现在,制定MPEG—1、MPEG—2标准的工作小组(国际标准化组织第一联合技术组第29分委会第11工作组:ISO/IEC JTC1/SC29/WG11)已制定了MPEG—4(运动图像专家组—4)标准,根据MPEG—4标准,实现了超过MPEG—1、MPEG—2的压缩率,而且可以进行了以物体为单位的编码、解码以及操作,从而实现了多媒体时代所需要的新功能。MPEG—4当初旨在进行低位速率编码方法的标准化,但是,现在其应用领域已经扩展到更通用的编码,包括包含隔行扫描图像的高位速率。
再者,2003年,作为压缩率更高的图像编码方式,ISO/IEC和ITU—T共同制定了MPEG—4AVC及H.264标准(例如参照非专利文献1)。对于H.264标准,正在草拟对应于High Profile的修改标准方案,该High Profile适合HD(高清晰度:High Definition)图像等。H.264标准与MPEG—2、MPEG—4相同,将会广泛应用于数字广播、DVD(数字化视频光盘:Digital Versatile Disk)播放机/记录机、硬盘播放机/记录机、摄录机以及可视电话等。
一般在动态图像的编码中,对时间方向和空间方向的冗余度进行削减,从而压缩信息。因此,在以时间冗余度的削减作为目的的画面间预测编码中,参照前面或后面的图片,从而以块为单位进行运动检测及预测图像的制作,然后对所获得的预测图像和编码对象图片的差分值进行编码。在此,所谓图片是表示一张画面的术语,在逐行扫描图像中意味着帧,在隔行扫描图像中意味着帧或场。其中,所谓隔行扫描图像是指由两个不同时间的场来构成1个帧的图像。隔行扫描图像的编码或解码处理有几种:将一个帧作为帧来进行处理、将一个帧作为两个场来进行处理、或以帧内的各个块为单位作为帧结构或场结构来进行处理。
不具有参照图像而进行画面内预测编码的图片称为I图片。另外,仅参照一张参照图像而进行画面间预测编码的图片称为P图片。此外,可以同时参照两张参照图像而进行画面间预测编码的图片称为B图片。B图片可以参照两张图片,该两张图片是从显示时间的前面或后面的图片中任意选择并组合起来的两张。参照图像(参照图片)可以以各个宏块为单位指定,宏块是编码的基本单位,该参照图片中有第1参照图片和第2参照图片,其区别在于:在已编码的位流中,先写入的参照图片是第1参照图片,以后所写入的参照图片是第2参照图片。不过,当对这些图片进行编码时有一种条件,即所参照的图片必须已被编码。
P图片或B图片的编码采用运动补偿画面间预测编码。所谓运动补偿画面间预测编码是指,在画面间预测编码中适用运动补偿的编码方式。所谓运动补偿是指,一种提高预测精度、同时减少数据量的方式,为此进行以下工作:不是单纯地根据参照帧的像素值来进行预测,而是检测图片内各部分的运动量(以下称运动矢量),考虑该运动量进行预测。例如,检测编码对象图片的运动矢量,并对根据该运动矢量移位的预测值与编码对象图片的预测残差进行编码,从而减少数据量。根据此方式,由于解码时需要运动矢量的信息,所以运动矢量也在被编码后被记录或被传输。
运动矢量以宏块为单位被检测,具体而言,先将编码对象图片的宏块(基准块)固定,并在搜索范围内使参照图片的宏块(参照块)移动,找出最相似于基准块的参照块的位置,从而检测运动矢量。
图1是表示现有的图像编码装置的结构的方框图。
该图像编码装置800包括:运动检测部801、多帧存储器802、减法器803、减法器804、运动补偿部805、编码部806、加法器807、运动矢量存储器808以及运动矢量预测部809。
运动检测部801将多帧存储器802所输出的运动检测参照像素MEp与画面信号Vin进行比较,并输出运动矢量MV和参照帧编号RN。
参照帧编号RN是一种识别信号,用于确定参照图像,该参照图像从多个参照图像中被选择,并由编码对象图像参照。
运动矢量MV暂时被存储在运动矢量存储器808后,作为近旁运动矢量PvMV输出。这个近旁运动矢量PvMV在运动矢量预测部809中,为预测预测运动矢量PdMV而被参照。
减法器804从运动矢量MV中减去预测运动矢量PdMV,并将其差作为运动矢量预测差DMV输出。
另外,多帧存储器802将由参照帧编号RN及运动矢量MV来表示的像素作为运动补偿参照像素MCp1输出,运动补偿部805生成小数像素精度的参照像素,并输出参照画面像素MCp2。减法器803从画面信号Vin减去参照画面像素MCp2,并输出画面预测误差DP。
编码部806对画面预测误差DP、运动矢量预测差DMV以及参照帧编号RN进行可变长编码,输出编码信号Str。再者,在编码时,同时输出解码画面预测误差RDP,该解码画面预测误差RDP是画面预测误差DP的解码结果。解码画面预测误差RDP在画面预测误差DP上重叠编码误差,而与画面间预测误差一致,该画面间预测误差是通过在图像解码装置中对编码信号Str进行解码而获得的。
加法器807在参照画面像素MCp2上加上解码画面预测误差RDP,作为解码画面RP存储在多帧存储器802中。但是,为了有效利用多帧存储器802的容量,存储在多帧存储器802的画面区域当无用时被开放,而无需存储在多帧存储器802中的画面的解码画面RP不存储在多帧存储器802中。
图2是用于说明现有的图像解码装置的方框图。在该图中,用与图1相同的符号来表示的部分都是与图1相同的结构,因此省略该部分的说明。
图2所示的现有图像解码装置900对编码信号Str进行解码,输出解码画面信号Vout,该编码信号Str由图1所示的现有图像编码装置800来编码的,该图像解码装置900包括:多帧存储器901、运动补偿部902、加法器903、加法器904、运动矢量存储器905、运动矢量预测部906以及解码部907。
解码部907对编码信号Str进行解码,输出解码画面预测误差RDP、运动矢量预测差DMV以及参照帧编号RN。
加法器904将预测运动矢量PdMV和运动矢量预测差DMV加在一起,解码运动矢量MV,该预测运动矢量PdMV从运动矢量预测部906输出。
多帧存储器901将由参照帧编号RN及运动矢量MV来表示的像素作为运动补偿参照像素MCp1输出,运动补偿部902生成小数像素精度的参照像素,输出参照画面像素MCp2。加法器903进行加法,在参照画面像素MCp2上加上解码画面预测误差RDP,将该加法结果作为解码画面RP(解码画面信号Vout)存储在多帧存储器901中。但是,为了有效利用多帧存储器901的容量,存储在多帧存储器901中的画面区域当无用时被开放,并且无需存储在多帧存储器901中的画面之解码画面RP不存储在多帧存储器901中。这样,能够准确地解码编码信号Str,生成解码画面信号Vout即解码画面RP。
另外,也有这样一个结构方案,即,以LSI(大规模集成电路:Large Scale Integration)来实现图1所示的现有的图像编码装置800(例如参照专利文献1)。如上述专利文献1所示,当以LSI等实现图像编码装置时,图1所示的现有图像编码装置800中的多帧存储器802被分割成LSI外面的外部帧存储器和LSI内部的局部存储器,该LSI内部的局部存储器在运动检测部801中对块进行匹配搜索时,被直接存取。
图3说明使用LSI构成的图像编码装置。在该图中,与图1所示的图像编码装置800相同的符号都表示与图1相同的结构,因此省略该部分的说明。
图像编码装置800a包括LSI810与外部多帧存储器820。外部多帧存储器820是连接于LSI810的存储器。
LSI810包括:图像编码装置800中除多帧存储器802以外的各结构单元、以及代替多帧存储器802的参照用局部存储器811。参照用局部存储器811是LSI810内部的局部存储器,该局部存储器在运动检测部801中对宏块进行匹配搜索时被直接存取。另外,图3中省略了除参照用局部存储器811及运动检测部801以外的LSI810所包含的各结构单元。
图3中,当运动检测部801进行运动检测时,首先通过外部连接总线Bus1,从外部多帧存储器820中,将成为搜索对象的图像区域转送到参照用局部存储器811。接着,从参照用局部存储器811中,通过内部总线Bus2读出数据,并由运动检测部801进行运动检测。根据这种结构,能够削减外部连接总线Bus1的像素转送量和LSI810的内部存储容量。
图4详细表示包括上述外部多帧存储器820及参照用局部存储器811的图像编码装置结构。
图像编码装置800a包括外部多帧存储器820及参照用局部存储器811,代替图像编码装置800中的多帧存储器802,同时包括参照存储器控制部812,控制这些存储器。
与上述图1所示的图像编码装置800的动作相同,在外部多帧存储器820中存储来自加法器807的加法结果,即解码画面RP。接着,外部多帧存储器820将用于运动补偿预测等的区域输出到参照用局部存储器811。另外,参照存储器控制部812对上述外部多帧存储器820和参照用局部存储器811之间的数据转送进行控制。
在这种图像编码装置800a中,现有的运动检测装置850包括运动检测部801、参照用局部存储器811以及参照存储器控制部812。
在此,说明一下上述图像编码装置800a的应用例子。
图5是实现H.264记录机的AV处理装置的方框图。
AV处理装置700包括:存储器710以及LSI720,该LSI720作为DVD记录机、硬盘记录机等实现,该DVD记录机、硬盘记录等再现已进行数字压缩处理的声音或图像。
存储器710是存储数据的存储器,包括图4所示的外部多帧存储器820区域,该存储器存储的数据是表示声音和图像的流数据St、编码数据、解码数据等。
LSI720包括:总线B、图像编码解码部721、声音编码解码部722、图像处理部723、图像输入输出部724、声音处理部725、声音输入输出部726、流输入输出部727、存储器输入输出部728以及AV控制部729。
总线B用于转送数据,该数据是例如流数据St、声音·图像的解码数据等。流输入输出部727输入上述流数据St,通过总线B输出。图像编码解码部721连接于总线B,进行图像的编码及解码。声音编码解码部722连接于总线B,进行声音的编码及解码。存储器输入输出部728连接于总线B,起到对存储器710的数据信号的输入输出接口的作用。
图像处理部723连接于总线B,对图像信号进行前期处理及后期处理。图像输入输出部724将图像信号作为图像输入输出信号VS输出到外部,该图像信号是由图像处理部723所处理的图像信号或没有由图像处理部723处理而通过的图像信号;图像输入输出部724也输入来自外部的图像输入输出信号VS。
声音处理部725连接于总线B,对声音信号进行前期处理及后期处理。声音输入输出部726将声音信号作为声音输入输出信号AS输出到外部,该声音信号是由声音处理部725所处理的声音信号或没有由声音处理部725处理而通过的声音信号;声音输入输出部726也输入来自外部的声音输入输出信号AS。AV控制部729控制整个LSI720。
在此说明这种AV处理装置700的编码动作。首先,图像输入输出信号VS被输入到图像输入输出部724,声音输入输出信号AS被输入到声音输入输出部726。
图像处理部723对输入到图像输入输出部724的图像输入输出信号VS进行过滤处理和为编码的特征提取等,并通过存储器输入输出部728,将已被处理的图像输入输出信号VS作为原图像存储到存储器710。接着,图像编码解码部721通过存储器输入输出部728,从存储器710取得原图像和参照图像,并且对存储器710发送在图像编码解码部721中编码的图像流数据(编码信号Str)和局部复原数据。
在此,图像编码解码部721包括:图4所示的图像编码装置800a中除外部多帧存储器820以外的各结构单元、以及图2所示的图像解码装置900(包括局部存储器代替多帧存储器901)。
另外,声音处理部725对输入到声音输入输出部726的声音输入输出信号AS进行过滤处理和为编码的特征提取等,并通过存储器输入输出部728,将已被处理的声音输入输出信号AS作为原声音数据存储到存储器710。接着,声音编码解码部722通过存储器输入输出部728,从存储器710取出原声音数据并编码,作为声音流数据存储到存储器710。
最后,图像流数据、声音流数据以及其他流信息作为一个流数据St来处理,通过流输入输出部727被输出。这种流数据St被写入到光盘、硬盘等存储媒体中。
专利文献1:特许第2963269号公报
非专利文献1:ISO/IEC 14496-10,International Standard:“Information technology-Coding of audio-visual objects-Part 10:Advanced video coding”(2004-10-01)
然而,根据上述专利文献1的图像编码装置所包括的运动检测装置,存在这样一个问题:有时,在外部多帧存储器820的总数据转送速率中,用于运动检测的数据转送速率的比例较大,因此导致AV处理装置的整个系统失灵。
按照H.264标准,进行画面间预测编码时可以参照多个图片,所以当要实现高画质时,可能发生这样一个情况:在帧结构的图片上标准上最多参照16张图片,在场结构的图片上最多参照32张图片。因此,当所参照的图片张数(参照张数)多时,图3所示的外部连接总线Bus1的数据转送能力当然会成为瓶颈。
图6说明为了运动检测而被参照的图片张数。
按照MPEG—2、MPEG—4标准,如图6A所示,只参照两张图片,例如对B图片B5只参照P图片P3和P图片P6。但是,按照H.264标准,如图6B所示,可能参照6张图片,例如对B图片B5参照以下6张图片:I图片I0、B图片B1、B图片B2、P图片P3、B图片B4以及P图片P6。在此,也可以进行限制,使图片的原来参照张数减少到与MPEG—2相同的张数,并进行编码,不过在这种情况下,不管外部多帧存储器820(存储器710)的数据转送能力如何,画质会一律降低。因此,当要实现高画质时,还是要增加参照张数。
并且,当进行媒体处理时,在外部多帧存储器820中存在多个存取要求,例如除画面间预测编码处理中用的参照图片转送以外的图像处理以及流数据处理、音频处理、整体控制处理等,因此数据转送能力可能不足,导致系统失灵。
发明内容
鉴于这个问题,本发明的目的在于:提供一种运动检测装置,不使解码的图片的画质一律下降,并能防止系统失灵。
为了达到上述目的,本发明所涉及的运动检测装置是这样一种运动检测装置,为了编码图片,检测编码对象图片的图像运动,其特征在于,包括:限制单元,按照存储有图像数据的外部存储器的数据转送能力,限制应该从上述外部存储器转送的上述图像数据的数据转送量;内部存储器;转送单元,将存储在上述外部存储器中的图像数据的至少一部分转送到上述内部存储器,该图像数据的转送量是上述限制单元所限制的数据转送量;和运动检测单元,对被转送到上述内部存储器的图像数据的至少一部分进行参照,从而进行上述编码对象图片的运动检测。例如,上述外部存储器将为进行上述编码对象图片的运动检测而被参照的预定的多个参照预定图片存储为上述图像数据;上述限制单元减少上述参照预定图片的张数,从而限制上述数据转送量。
具体而言,当外部存储器的数据转送能力高时,由于图像数据的数据转送量不受限制,所以在外部存储器所存储的多个参照预定图片中,可以将所有参照预定图片作为参照图片进行参照,从而进行编码对象图片的运动检测,并且该运动检测所编码的图片被解码时,能够防止该图片的画质降低。进一步,当外部存储器的数据转送能力低时,由于图像数据的数据转送量受限制,所以从外部存储器所存储的多个参照预定图片中,例如只有1张参照预定图片作为参照图片被转送到内部存储器,从而能够防止与其他处理共享外部存储器的系统整体失灵。结果,不使解码对象图片的画质一律下降,防止系统失灵。并且,系统设计人不用过多考虑外部存储器的存取状态,而能设计系统。
此外,上述限制单元可以具有这样一个特征:上述限制单元改变上述编码对象图片和图像数据之间的参照关系,从而限制上述数据转送量。
例如,场结构要以较多数据转送量来将外部存储器的图像数据转送到内部存储器,但在帧结构的情况下,所需数据转送量较少。因此,如本发明所述,通过这样一个方法也能限制上述外部存储器所转送的图像数据的数据转送量,即:改变参照关系,从而将场结构改变为帧结构,其结果,与上述相同,不使解码对象图片的画质一律下降,并防止系统失灵。
另外,也可以具有如下特征,上述运动检测装置还包括:算出单元,算出上述外部存储器的总数据转送速率中、可分配给运动检测的数据转送速率;上述限制单元限制上述数据转送量,使得由上述转送单元从上述外部存储器转送的图像数据的数据转送速率控制在由上述算出单元所算出的数据转送速率范围内。
由此,转送单元所转送的图像数据之数据转送速率被控制在可分配给运动检测的数据转送速率范围内,因此能确实防止系统失灵。
同时,也可以具有如下特征,上述算出单元检测可分配给上述运动检测的数据转送速率可能发生变动的时刻,并在该时刻算出可分配给上述运动检测的数据转送速率。
由此,例如事件发生时刻或序列开始时刻等,作为可分配给运动检测的数据转送速率可能发生变动的时刻而被检测出来,由于在该时刻算出数据转送速率,所以能随时算出适当的数据转送速率,并适当地限制图像数据的数据转送量。即,不仅能防止过度限制数据转送量,也能确实防止系统失灵。
同时,也可以具有如下特征,上述转送单元,按照上述运动检测单元所参照的每个区域,转送存储在上述图像数据中的图像数据;上述限制单元缩小上述区域,从而限制上述数据转送量。
由此,由限制单元缩小该各个区域,所以要从上述外部存储器所转送的图像数据之数据转送量受限制,结果,与上述相同,不使解码对象图片的画质一律降低,并防止系统失灵。
再者,本发明不仅以这种运动检测装置来实现,还能以如下方式来实现:包括该运动检测装置在内的图像编码装置以及这些装置的动作方法、程序、存储该程序的存储媒体、集成电路等。
发明效果
本发明的运动检测装置可以起到如下效果:不使解码的图片的画质一律降低,并防止系统失灵。
附图说明
图1是表示现有图像编码装置结构的方框图。
图2是说明现有图像解码装置的方框图。
图3是用于说明使用现有LSI构成的图像编码装置的说明图。
图4是详细表示包括现有外部多帧存储器及参照用局部存储器的图像编码装置结构的结构图。
图5是实现现有H.264记录机的AV处理装置的方框图。
图6A及图6B是用于说明为了运动检测而被参照的图片张数的说明图。
图7是表示包括本发明实施方式中的运动检测装置的图像编码装置的方框图。
图8是表示包括上述图像编码装置的AV处理装置结构的结构图。
图9是表示上述运动检测装置的整体动作的流程图。
图10是详细表示上述存储器转送能力的判定处理的流程图。
图11是详细表示上述数据转送速率的算出处理的流程图。
图12是用于说明上述转送处理及运动检测处理的概要的说明图。
图13是表示由上述参照存储器控制部所进行的转送处理的流程图。
图14是表示由上述运动检测部所进行的运动检测处理的流程图。
图15是表示现有运动检测处理的流程图。
图16是表示由本发明实施方式第1变形例中的运动检测部所进行的运动检测处理的流程图。
图17是表示上述实施方式的第2变形例所涉及的运动检测装置的整体动作的流程图。
图18A及图18B是用于说明上述实施方式的第3变形例所涉及的GOP结构被改变的模式图。
图19A~图19D是用于说明缩小上述实施方式的第4变形例所涉及的搜索范围的说明图。
具体实施方式
下面,按照附图说明本发明实施方式中的包括运动检测装置的图像编码装置。
图7表示包括本发明实施方式中的运动检测装置的图像编码装置。
本实施方式中的图像编码装置100包括:运动检测部101、减法器103、减法器104、运动补偿部105、编码部106、加法器107、运动矢量存储器108、运动矢量预测部109、参照用局部存储器111、参照存储器控制部112、外部多帧存储器120、能力判定部131以及参照图片设定部132。
同时,本实施方式中的运动检测装置100A是一种装置,不使解码对象图片的画质一律下降,防止系统失灵,并包括运动检测部101、参照用局部存储器111、参照存储器控制部112、能力判定部131以及参照图片设定部132。
本实施方式中的这种运动检测装置100A限制对于编码对象图片按照标准等规定的参照图片(参照预定图片)的张数,并利用该所限制的参照图片对编码对象图片进行运动检测。
运动检测部101,从参照用局部存储器111取得运动检测参照像素MEp(参照图片或其一部分搜索区域中的图像数据),并对该运动检测参照像素MEp和画面信号Vin进行比较,从而检测运动矢量MV。然后,运动检测部101输出该运动矢量MV和参照帧编号RN,该参照帧编号RN表示对应于该运动矢量MV的参照图片(帧)。
即,运动检测部101,以画面信号Vin所示的编码对象图片之各个宏块为单位,从参照用局部存储器111所存储的参照图片(或该参照图片的一部分搜索区域)中搜索具有与该宏块近似的图像的区域,即,对参照图片进行参照,从而检测表示该区域的运动矢量MV。在此,运动检测部101不是参照对于编码对象图片按照标准等被设定的所有参照图片(参照预定图片),而只参照这些参照图片中由参照图片设定部132所设定的参照图片,从而检测运动矢量MV。
由运动检测部101所检测的运动矢量MV暂时在运动矢量存储器108中存储。运动矢量预测部109将存储在运动矢量存储器108的运动矢量MV作为近旁运动矢量PvMV取得,并以该近旁运动矢量PvMV来预测预测运动矢量PdMV,然后输出。
减法器104从运动矢量MV减去预测运动矢量PdMV,将该差作为运动矢量预测差DMV输出。
参照用局部存储器111从外部多帧存储器120取得参照图片RfP,并将该参照图片RfP中以参照帧编号RN及运动矢量MV来表示的区域的图像数据作为运动补偿参照像素MCp1输出到运动补偿部105。在此,参照用局部存储器111,从外部多帧存储器120中,不一次取得所有参照图片RfP,而以各个编码对象宏块的编码处理为单位,取得对应于编码对象宏块的参照图片RfP的搜索区域。所谓参照图片RfP,以下意味着整体参照图片或其一部分搜索区域中的图像数据。
运动补偿部105从由参照用局部存储器111取得的运动补偿参照像素MCp1生成小数像素精度的参照像素,输出其结果得到的参照画面像素MCp2。
减法器103从画面信号Vin减去参照画面像素MCp2,并输出画面预测误差DP。
编码部106对画面预测误差DP、运动矢量预测差DMV以及参照帧编号RN进行可变长编码,输出编码信号Str。另外,编码部106在对画面预测误差DP进行编码时,也进行该编码后的画面预测误差DP的解码,输出该解码结果所得到的画面预测误差RDP。
加法器107进行加法,在参照画面像素MCp2上加上解码画面预测误差RDP,并将作为该加法结果的解码画面RP输出到外部多帧存储器120。
外部多帧存储器120将来自加法器107的解码画面RP作为图片(参照图片)存储。但是,为了有效利用外部多帧存储器120的容量,存储在外部多帧存储器120的图像区域当无用时被开放,而无需存储在外部多帧存储器120的解码画面RP,即不会再被参照的解码画面RP,不在外部多帧存储器120中存储。
能力判定部131判定外部多帧存储器120的数据转送能力(总数据转送速率),并且从该数据转送能力中算出可以分配给运动检测的数据转送速率,并将该算出来的数据转送速率通知给参照图片设定部132。
参照图片设定部132,根据对应于能力判定部131所通知的数据转送速率的数据转送量,从对于编码对象图片按照标准等被规定的图片参照图片(参照预定图片)中,选择在进行运动检测等编码处理时所参照的参照图片。例如,参照图片设定部132将实际所参照的多个参照图片作为列表形式的参照表设定。然后,参照图片设定部132,将该所设定的参照表通知给参照存储器控制部112以及运动检测部101。
参照存储器控制部112对外部多帧存储器120及参照用局部存储器111进行控制,使得参照图片设定部132所设定的参照图片从外部多帧存储器120被转送到参照用局部存储器111。
即,本实施方式中的参照图片设定部132削减按照上述标准等所规定的参照图片张数,使得由外部多帧存储器120转送到参照用局部存储器111的参照图片的数据转送速率成为小于或等于能力判定部131所通知的数据转送速率,从而限制该参照图片的数据转送量。
图8表示包括本实施方式中的图像编码装置100的AV处理装置结构。
AV处理装置200包括外部多帧存储器120和LSI220。
LSI220包括总线B、图像编码解码部221、声音编码解码部722、图像处理部723、图像输入输出部724、声音处理部725、声音输入输出部726、流输入输出部727、存储器输入输出部222以及AV控制部729。
即,本实施方式的AV处理装置200中的LSI220包括存储器输入输出部222和图像编码解码部221,取代现有例中所示的AV处理装置700中的存储器输入输出部728和图像编码解码部721。
图像编码解码部221包括:上述图像编码装置100中除外部多帧存储器120以外的各结构单元以及图像解码装置,该图像解码装置对该图像编码装置100所编码的编码信号Str进行解码。
存储器输入输出部222连接于总线B,起到输入输出接口的作用,对外部多帧存储器120输入或输出数据信号,并且对图像编码解码部221输出信息信号AI。信息信号AI表示:表示用于判定外部多帧存储器120的数据转送能力的动作频率、存储器总线宽度以及存储器动作协议等的信息,或声音编码解码部722、AV控制部729等各结构单元对外部多帧存储器120的存取状态等。
图9表示本实施方式中的运动检测装置100A的整体工作。
首先,运动检测装置100A的能力判定部131判别现在是否是要判定数据转送能力(总数据转送速率)的时刻(步骤S100)。例如,能力判定部131判别以下时刻即是要判定数据转送能力的时刻:输入到运动检测部101的画面信号Vin的序列、图片以及宏块的编码开始时刻,或事件发生的时刻。所谓事件发生是,例如意味着开始或结束特殊性再现等。
在此,能力判定部131当判别了现在是要进行能力判定的时刻(步骤S100的Yes)时,就对无动作时的(无存取时的)外部多帧存储器120的数据转送能力进行判定(步骤S102),算出可以分配给运动检测处理(编码处理)的数据转送速率(步骤S104)。
按照步骤S104算出数据转送速率后,参照图片设定部132在对应于该数据转送速率的数据转送量上增加余地,以规定的设定形式来设定参照图片,该参照图片在编码对象图片的运动检测处理时被实际参照(S106)。按照步骤S106设定参照图片后,参照存储器控制部112从外部多帧存储器120中将该所设定的参照图片RfP转送到参照用局部存储器111,并且,运动检测部101利用所转送到参照用局部存储器111的参照图片RfP,进行运动检测(步骤S108)。由此,运动检测部101决定运动矢量MV和参照帧编号RN。
然后,运动检测装置100A,按照对运动检测部101的画面信号Vin输入,判别是否要结束运动检测处理(步骤S110),当判别了应该结束时(步骤S110的Yes),则结束所有运动检测处理,而当判别了不应该结束时(步骤S110的No),则重复执行从步骤S100开始的处理。
此外,按照步骤S100,运动检测装置100A当判别了现在不是进行判定数据转送能力的时刻时(步骤S100的No),就根据事先由标准等所规定的参照图片,从步骤S108开始执行处理。
如此,本实施方式中的运动检测装置100A,在AV处理装置200的启动中,根据信息信号AI,不断判别现在是否是要判定数据转送能力的时刻,并动态地限制参照图片的张数。即,在可分配给运动检测处理的数据转送速率可能变动的情况下,该运动检测装置100A算出该数据转送速率。
图10详细表示图9步骤S102所进行的存储器转送能力判定处理。
首先,能力判定部131根据存储器输入输出部222所发送的信息信号AI,确定外部多帧存储器120的动作频率(步骤S200)。此时,确定动作频率的方法如下:根据时刻测量引起的值来确定,该时刻测量利用运动检测装置100A所具有的参考时钟;使内部PLL的动作变化,寻找与外部多帧存储器120的动作频率一致的点,由此来确定也是可以的。另外,也可以由AV处理装置200的设计者或用户来明确指定动作频率也是可以的。
其次,能力判定部131,与上述相同,按照信息信号AI,确定存储器总线的位宽(步骤S202),该存储器总线连接外部多帧存储器120和存储器输入输出部222(参照用局部存储器111)。此时,也可以根据这样一个方式来确定位宽:通过虚拟存取进行写入和读出,根据其结果调查哪个位是有效的,从而确定位宽。另外,也可以由AV处理装置200的设计者或用户来明确指定位宽。
并且,与上述相同,能力判定部131按照信息信号AI确定对外部多帧存储器120的存储器存取的协议(步骤S204)。此外,与上述相同,也可以通过以下方式来确定协议:通过虚拟存取确定协议;通过读取外部多帧存储器120具有的厂商编号确定协议。另外,也可以由AV处理装置200的设计者或用户来明确指定协议。
接着,能力判定部131按照步骤S200~S204的确定结果,判定外部多帧存储器120的数据转送能力,即判定总数据转送速率(步骤S206)。
此时,步骤S200~S204的处理顺序,无论什么顺序都可以。另外,也可以由AV处理装置200的设计者或用户来明确指定数据转送能力。
图11详细表示图9步骤S104所进行的数据转送速率的算出处理。
首先,根据存储器输入输出部222所发送的信息信号AI,能力判定部131确定除运动检测处理之外同时所执行的处理(步骤S300)。另外,也可以由AV处理装置200的设计者或用户来明确指定同时执行处理。
其次,能力判定部131选定可分配给同时执行处理的数据转送速率(步骤S302)。例如,能力判定部131事先对各个处理存储固有的数据转送速率,并从该所存储的数据转送速率中选定对应于同时执行处理的数据转送速率,该同时执行处理是按照步骤S300所确定的处理。能力判定部131也可以检测在同时执行处理中所实际使用的数据转送速率,该同时执行处理是按照步骤S300所确定的处理。
并且,能力判定部131从图9所示的步骤S102所判定的数据转送能力(总数据转送速率)中,减去分配给同时执行处理的数据转送速率,该数据转送速率是按照步骤S302所选定的速率(步骤S304)。
接着,能力判定部131将按照步骤S304所得到的差,以运动检测处理的同时执行数量相除(步骤S306)。例如,在同时对两个画面信号Vin进行运动检测处理(编码处理)的情况下,能力判定部131将在步骤S304中所得到的差除以2。
由此,能算出可以分配给1个运动检测处理的数据转送速率。
再者,当由AV处理装置200的设计者或用户来明确指定同时执行处理时,AV控制部729或控制其它系统的控制器等需要设定寄存器。
另外,有关可分配给运动检测处理的数据转送速率之算出,不是根据外部多帧存储器120的数据转送状态进行算出,而是根据流转换等进行算出,例如根据编码标准MPEG—2到H.264流转换进行算出。即,当要以低耗电或以高速度来进行运动检测处理时,则使可分配的数据转送速率算出为低,当要提高最大压缩率时,则使可分配的数据转送速率算出为高。
在此,详细说明图9步骤S108所进行的转送处理以及运动检测处理。
图12说明转送处理及运动检测处理的概要。在图12中,纵轴表示处理时间,横轴表示流水线阶段。
由参照图片设定部132来设定参照图片RfP1~RfPN后,参照存储器控制部112首先将参照图片RfP1从外部多帧存储器120转送到参照用局部存储器111。
运动检测部101参照转送到参照用局部存储器111的参照图片RfP1,并进行运动检测处理。此时,参照存储器控制部112事先将下一张参照图片RfP2从外部多帧存储器120转送到参照用局部存储器111。
运动检测部101参照转送到该参照用局部存储器111的参照图片RfP2,并进行运动检测处理,并且参照存储器控制部112事先将下一张参照图片RfP3从外部多帧存储器120转送到参照用局部存储器111。
如此,参照存储器控制部112及运动检测部101,各自通过流水线处理,执行转送处理和运动检测处理。
图13是表示由参照存储器控制部112所进行的转送处理的流程图。
首先,参照存储器控制部112,将有关参照图片RfP的处理循环值n初始化为0(步骤S400)。接着,参照存储器控制部112判别第n张参照图片RfP是否在参照表中包括(步骤S402),该参照表由参照图片设定部132来设定。参照存储器控制部112当判别在参照表中包括第n张参照图片RfP时(步骤S402中的Yes),就将该第n张参照图片RfP从外部多帧存储器120转送到参照用局部存储器111(步骤S404)。并且,参照存储器控制部112判别是否对所有参照图片已进行了步骤S402处理,即判别是否要继续进行转送处理(步骤S406),该参照图片是对于编码对象图片按照标准或算法等被规定的。
另一方面,按照步骤402,当判别在参照表中不包括时(步骤S402的No),参照存储器控制部112就不转送第n张参照图片RfP,而执行步骤S406的处理。
按照步骤S406,参照存储器控制部112当判别要继续处理时(步骤S406的Yes),就对n进行递增(步骤S408),从步骤S402反复执行处理。另外,当判别不应该继续处理时(步骤S406的No),参照存储器控制部112就结束所有转送处理。
图14是表示运动检测部101所进行的运动检测处理的流程图。
首先,运动检测部101将有关参照图片RfP的处理循环值n初始化为0(步骤S450)。接着,运动检测部101判别是否在参照表中包括第n张参照图片RfP,该参照表是由参照图片设定部132来设定的(步骤S452)。运动检测部101当判别在参照表中包括第n张参照图片RfP时(步骤S452的Yes),就对第n张参照图片RfP进行运动检测(步骤S454)。并且,运动检测部101判别是否对所有参照图片已进行了步骤S452的处理,即判别是否要继续进行运动检测处理(步骤S456),该参照图片是对于编码对象图片按照标准、算法等被规定的。
另一方面,按照步骤S452,当判别在参照表中不包括时(步骤S452的No),运动检测部101就不进行对第n张参照图片RfP的运动检测,而执行步骤S456的处理。
按照步骤S456,运动检测部101当判别要继续处理时(步骤S456的Yes),就对n进行递增(步骤S458),从步骤S452反复执行处理。同时,当判别不应该继续处理时(步骤S456的No),运动检测部101结束所有运动检测处理。
下面,对这种本实施方式的运动检测处理与现有的运动检测处理进行比较,做一下说明。
图15是表示现有的运动检测处理的流程图。
现有运动检测部将n初始化(步骤S950),然后对第n张参照图片RfP进行运动检测(步骤S952)。接着,运动检测部判别是否对所有参照图片RfP已执行了步骤S952的处理,即判别是否要继续执行处理,该参照图片RfP是按照标准或算法等被规定的(步骤S954),并当判别要继续处理时(步骤S954的Yes),就对n进行递增(步骤S956),而从步骤S952反复执行处理。
这种现有的运动检测处理与本实施方式中的运动检测处理相比,处理内容上没有大的差异,但只有这一点不同,即包括图14所示的步骤S452处理。因此,以现有的运动检测处理为基础,能简单地实现本实施方式中的运动检测处理。
如此,在本实施方式中,在外部多帧存储器120的数据转送能力高的情况下,即在可分配给运动检测处理的数据转送速率十分大的情况下,由于参照图片的张数不受限制,所以从外部多帧存储器120所包括的多个参照预定图片中,可以参照所有参照预定图片作为参照图片,从而对编码对象图片进行运动检测,当由该运动检测所编码的图片被解码时,可以防止该图片的画质降低。而且,在外部多帧存储器120的数据转送能力低的情况下,即在可分配给运动检测处理的数据转送速率小的情况下,由于参照图片的张数受限制,所以从外部存储器中的多个参照预定图片中,例如只有1张参照预定图片被转送到内部存储器作为参照图片,所以能够防止与其它处理共享外部多帧存储器120的系统整体失灵。结果,不使解码对象图片的画质一律下降,并防止系统失灵。并且,系统设计人不用过多考虑外部存储器的存取状态,而能设计系统。
总之,根据本实施方式,能最大限度地利用可存取外部多帧存储器120的数据转送能力,在数据转送速率有富裕的情况下,可以增加运动检测中所参照的图片张数,因此在不使系统工作失灵的范围内,能在采用运动检测装置100A的AV录像机等上,最大限度地提高编码画质。并且,根据本实施方式所示的方法,不改变GOP(图片组;Group Of Picture)结构,而能将图片张数调整为最佳张数。
如上所述,在运动检测装置100A和外部多帧存储器120相连接的状态下,能够构成最大限度地利用数据转送能力的系统,因此,采用运动检测装置100A的AV录像机等的系统设计者不用过多考虑所连接的外部多帧存储器120的转送能力,而能取得最佳编码画质。
(变形例1)
在此说明上述实施方式的第1变形例。
上述实施方式中的参照图片设定部132设定多个参照图片作为参照表,该多个参照图片对应于编码对象图片而被参照。不过,本变形例所涉及的参照图片设定部设定所实际参照的参照图片的最多张数(设定张数)。并且,从外部多帧存储器120所转送到参照用局部存储器111的参照图片张数达到了该设定张数时,参照图片设定部使参照存储器控制部112停止参照图片的转送。
在这种情况下,本变形例所涉及的运动检测部根据设定张数的参照图片进行运动检测处理,该设定张数由参照图片设定部设定。
图16表示本变形例的运动检测部所进行的运动检测处理。
首先,运动检测部判别设定张数N是否不是0,该设定张数N由参照图片设定部来设定(步骤S500)。运动检测部当判别设定张数N不是0时(步骤S500的Yes),就将有关参照图片RfP的处理循环值n初始化为0(步骤S502)。另一方面,当判别设定张数N是0时(步骤S500的No),运动检测部执行对编码对象图片进行画面内预测的处理(步骤S504)。
按照步骤S502,当n被初始化时,运动检测部判别n是否比N小(步骤S506)。当判别n比N小时(步骤S506的Yes),运动检测部对第n张参照图片RfP进行运动检测(步骤S508),并对n进行递增(步骤S510),然后从步骤S506反复执行处理。另一方面,当判别n是大于或等于N时(步骤S506的No),就不对第n张参照图片RfP进行运动检测,而结束运动检测处理。
如此,根据本变形例,设定参照图片的最多张数,从而能得到与上述实施方式相同的效果。
(变形例2)
在此说明上述实施方式的第2变形例。
上述实施方式中,在AV处理装置200启动中,运动检测装置100A随时判别现在是否是判定数据转送能力的时刻,并在是该时刻的情况下,进行数据转送能力的判定以及可以分配给运动检测处理的数据转送速率的算出。即,上述实施方式中的运动检测装置100A,在AV处理装置200的启动中,动态地改变可分配给运动检测处理的数据转送速率。
不过,本变形例所涉及的运动检测装置,只在AV处理装置启动时,即只在对运动检测装置进行初始化时,进行数据转送能力的判定等。即,本变形例所涉及的运动检测装置,在AV处理装置的启动中,不改变可分配给运动检测处理的数据转送速率而固定。
图17是表示本变形例所涉及的运动检测装置的整体动作的流程图。
本变形例所涉及的运动检测装置之能力判定部,在AV处理装置启动时,根据信息信号AI,判定无动作时(不存取时)的外部多帧存储器120的数据转送能力(步骤S600),并算出可分配给运动检测处理(编码处理)的数据转送速率(步骤S602)。
按照步骤S602,算出数据转送速率后,运动检测装置的参照图片设定部在对应于该数据转送速率的数据转送量上增加余地,而设定参照图片,该参照图片在编码对象图片的运动检测处理中被实际参照(步骤S604)。按照步骤S604,设定参照图片后,运动检测装置将该所设定的参照图片RfP从外部多帧存储器120转送到参照用局部存储器111,并且利用转送到参照用局部存储器111的参照图片RfP,进行运动检测(步骤S606)。
并且,运动检测装置,按照画面信号Vin的输入,判别是否要结束运动检测处理(步骤S608),当判别应该结束时(步骤S608的Yes),结束所有的运动检测处理,而当判别不应该结束时(步骤S608的No),从步骤S604反复执行处理。
如此,本变形例所涉及的运动检测装置,在AV处理装置启动时,算出可分配给运动检测处理的数据转送速率,而在AV处理装置启动中,设定参照图片,该参照图片对应于在启动时所算出的数据转送速率。即,在AV处理装置启动中的状态下,即使在AV处理装置中发生事件,运动检测装置也不重新算出数据转送速率,而是设定对应于在启动时所算出的数据转送速率的参照图片。另外,在本变形例中的步骤S604~S608处理与上述实施方式图9所示的步骤S106~S110处理相同。
再者,在本变形例中说明,在AV处理装置启动时算出数据转送速率的情况,不过,也可以在系统设计者设计AV处理装置时,按照外部多帧存储器120,固定地确定可分配给运动检测处理的数据转送速率。
(变形例3)
在此说明本实施方式的第3变形例。
在上述实施方式中,参照图片设定部从由标准等所规定的参照图片中选择所实际参照的参照图片并设定,而在上述变形例1中,参照图片设定部设定实际所参照的参照图片的最多张数。
本变形例的参照图片设定部按照可分配给运动检测处理的数据转送速率,改变编码信号Str的GOP的结构。例如,参照图片设定部将GOP结构从场结构改变为帧结构。
图18是一种模式图,说明GOP结构被改变。
例如,图18A所示,按照标准等所生成的编码信号Str是场结构。这种编码信号Str中,I图片包括场It1与Pb1,B图片分别包括场Bt2与Bb2、场Bt3与Bb3、场Bt5与Bb5以及场Bt6与Bb6,P图分别包括场Pt4与Pb4以及场Pt7与Pb7。另外,各场按照以下顺序被编码:场It1、Pb1、Pt4、Pb4、Bt2、Bb2、Bt3、Bb3、Pt7、Pb7、Bt5、Bb5、Bt6、Bb6,并按照图18A所示的顺序来显示。此外,场It1、Pb1、Bt2、Bb2、Bt3以及Bb3是已经被编码而不再用于参照的场,场Pt4、Pb4、Bt5、Bb5、Pt7以及Pb7是在编码中被用于参照的场,场Bt6是当前编码对象的场。并且,场Bb6是没有被编码的场。
即,当对B图片的场Bt6进行编码时,以下6张场作为参照图片被参照:P图片的场Pt4和Pb4、P图片的场Pt7和Pb7以及B图片的场Bt5和Bb5。并且,当对B图片的场Bb6进行编码时,也与上述相同,以下6张场作为参照图片被参照:P图片的场Pt4和Pb4、P图片的场Pt7和Pb7以及B图片的场Bt5和Bb5。因此,根据场结构,在进行B图片的编码(运动检测)时,需要转送6张图片的图像数据。
如图18B所示,参照图片设定部将这种场结构的编码信号Str改变为帧结构。在这种编码信号Str中,各图片按照以下顺序被编码:I图片I1、P图片P4、B图片B2、B图片B3、P图片P7、B图片B5、B图片B6,并按照图18B所示的顺序显示。另外,图片I1、B2以及B3是已编码而不再用于参照的图片,图片P4、B5以及P7是在编码中被用于参照的图片,图片B6是当前编码对象的图片。
即,当对B图片B6进行编码时,共3张图片作为参照图片被参照:P图片P4、P图片P7以及B图片B5。因此,根据帧结构,在进行B图片的编码(运动检测)时,需要转送3张图片的图像数据。
如此,根据本变形例,当在AV处理装置中不能确保足够的参照图片的数据转送速率时,采用如图18B所示的GOP结构,即改变参照关系,从而能够防止系统失灵。再者,在本变形例中,假定这样一个GOP结构:不允许超过I图片或P图片进行参照。
(变形例4)
在此说明上述实施方式的第4变形例。
上述实施方式中,参照图片设定部132设定对于编码对象图片所实际参照的参照图片作为参照表,在变形例1中,参照图片设定部设定所参照的参照图片的最多张数。即,上述实施方式及变形例1中,限制参照图片的张数,从而控制该参照图片的数据转送速率,使之控制到可分配给外部多帧存储器120的运动检测处理的数据转送速率。
不过,本变形例所涉及的参照图片设定部,不限制参照图片的张数,而是缩小成为参照图片的运动检测对象的范围(搜索范围)。通过这样缩小搜索范围,参照图片的数据转送量变少。其结果,能够将该参照图片的数据转送速率控制到可分配给外部多帧存储器120的运动检测处理的数据转送速率。
图19是用于说明缩小搜索范围的说明图。
对编码对象图片的运动检测处理例如以各个宏块为单位进行。如图19A所示,参照图片的搜索范围是3×3宏块,该3×3宏块以位于对应于检测对象宏块的位置的宏块为中心。
参照存储器控制部112将参照图片的该搜索范围中的图像数据从外部多帧存储器120转送到参照用局部存储器111,并存储在参照用局部存储器111。运动检测部101利用搜索范围中的图像数据,从该搜索范围中检测具有最近似于检测对象宏块图像的图像的区域,该搜索范围中的图像数据在参照用局部存储器111中存储。
在此,如图19B所示,当编码对象图片的检测对象宏块向右边移时,参照图片中的搜索范围也向右边移1个宏块。
即,参照存储器控制部112,从外部多帧存储器120中,将图像数据转送到参照用局部存储器111,并存储在参照用局部存储器111,该图像数据是在所移的搜索范围新包括的区域(图中画斜线部分)中。并且,参照存储器控制部112,将存储在参照用局部存储器111中的已不是搜索范围的区域的图像数据,从该参照用局部存储器111中删除。
如此,参照存储器控制部112,每次切换检测对象宏块时,从外部多帧存储器120中,将在搜索范围新包括的区域中的图像数据转送到参照用局部存储器111。该新包括的区域中的图像数据是3宏块。因此,为了简单地说明,若画面边界部分的转送与内部宏块区域的转送相同,则在参照图片包括100宏块的情况下,每1张参照图片转送300宏块图像数据。
本变形例所涉及的参照图片设定部对参照存储器控制部112及运动检测部101发出指示,将搜索范围从3×3宏块变为2×3宏块。
如图19C所示,受到这种指示的参照存储器控制部112将2×3宏块作为搜索范围,将该搜索范围的图像数据从外部多帧存储器120转送到参照用局部存储器111,并存储在参照用局部存储器111。运动检测部101,与上述相同,利用在参照用局部存储器111中存储的搜索范围的图像数据,从该搜索范围中检测包括最近似于检测对象宏块图像的图像的图像区域。
在此,如图19D所示,当编码对象图片的检测对象宏块向右边移时,参照图片中的搜索范围也向右边移1个宏块。即,参照存储器控制部112,与上述相同,每次切换检测对象宏块时,将在搜索范围中新包括的区域(图中画斜线部分)的图像数据从外部多帧存储器120转送到参照用局部存储器111。该新包括的区域的图像数据是2宏块。因此,与上述相同,若画面边界部分的转送与内部宏块区域的转送相同,则在参照图片包括100宏块的情况下,每1张参照图片转送200宏块的图像数据。
如此,缩小搜索范围,从而能减少参照存储器的数据转送量,使得该参照图片的数据转送速率控制到可分配给外部多帧存储器120的运动检测处理的数据转送速率。
再者,对于上述各实施方式所示的方框图(图7、图8等)中的各功能块,其典型的实施方法是集成电路,即是LSI。这些功能块可以单独地具有单片结构,也可以具有包括一部分或整体的单片结构(例如,存储器以外的功能块可以具有单片结构)。不过,图7的外部多帧存储器120和图8的存储器120需要保持大量数据,所以在一般情况下,以作为LSI的外置设备的大容量DRAM(动态随机存储器:Dynamic Random Access Memory)等来实现,但是由于技术的提高,也有可能被单封装化或单片化。
另外,尽管在此称为LSI,但是由于集成度的不同,也可能称为IC(集成电路;Intergraded Circuit)、系统LSI、超级(Super)LSI、极超级(Ultra)LSI等。同时,实现集成电路的方法不限于LSI,而可以由专用电路或通用处理器来实现。此外,在制造LSI后,也可以利用可编程的FPGA(现场可编程门阵列:Field Programmable Gate Array)或可重构处理器,该可重构处理器可以重构LSI内部的电路单元的连接和设定。并且,随着半导体技术的进步或另外技术的衍生,如果出现能代替LSI的另外集成电路技术,当然可以采用该技术对功能块进行集成化。在此方面,会有适用生物技术等的可能性。
产业上的可利用性
本发明的运动检测装置能够起到这样一个作用,即,不使解码对象图片的画质一律下降,并能防止系统失灵,从而能够进行运动检测,该运动检测最大限度地利用所连接的外部多帧存储器的转送能力,在实现例如采用H.264标准并利用多个参照图片进行画面间预测图像编码的DVD记录机、硬盘记录机、摄录机等的情况下有效。

Claims (17)

1、一种运动检测装置,为了编码图片,检测编码对象图片的图像运动,其特征在于,包括:
限制单元,按照存储有图像数据的外部存储器的数据转送能力,限制应该从上述外部存储器转送的上述图像数据的数据转送量;
内部存储器;
转送单元,将存储在上述外部存储器中的图像数据的至少一部分转送到上述内部存储器,该图像数据的转送量是上述限制单元所限制的数据转送量;和
运动检测单元,对被转送到上述内部存储器的图像数据的至少一部分进行参照,从而进行上述编码对象图片的运动检测。
2、如权利要求1所述的运动检测装置,其特征在于,
上述外部存储器将为进行上述编码对象图片的运动检测而被参照的预定的多个参照预定图片存储为上述图像数据;
上述限制单元减少上述参照预定图片的张数,从而限制上述数据转送量。
3、如权利要求2所述的运动检测装置,其特征在于,
上述限制单元,从存储在上述外部存储器中的上述多个参照预定图片中,选择作为参照图片的由上述转送单元所转送的一个或多个参照预定图片,从而减少上述多个参照预定图片的张数。
4、如权利要求2所述的运动检测装置,其特征在于,
上述限制单元设定最大张数,该最大张数小于存储在上述外部存储器中的上述多个参照预定图片的张数,并在作为参照图片的由上述转送单元所转送的参照预定图片的张数达到上述最大张数时,停止上述转送单元的转送,从而减少上述多个参照预定图片的张数。
5、如权利要求4所述的运动检测装置,其特征在于,
在上述最大张数由上述限制单元设定为0的情况下,上述转送单元不将上述多个参照预定图片中的任何一张作为参照图片转送;
上述运动检测单元为对编码对象图片进行画面内编码,禁止对上述编码对象图片的运动检测。
6、如权利要求1所述的运动检测装置,其特征在于,
上述限制单元改变上述编码对象图片和图像数据之间的参照关系,从而限制上述数据转送量。
7、如权利要求1所述的运动检测装置,其特征在于,
上述运动检测装置还包括:
算出单元,算出上述外部存储器的总数据转送速率中可分配给运动检测的数据转送速率;
上述限制单元限制上述数据转送量,使得由上述转送单元从上述外部存储器转送的图像数据的数据转送速率控制在由上述算出单元所算出的数据转送速率范围内。
8、如权利要求7所述的运动检测装置,其特征在于,
上述算出单元包括:
转送能力确定单元,确定上述外部存储器的总数据转送速率;和
速率算出单元,算出上述转送能力确定单元所确定的总数据转送速率中可分配给运动检测的数据转送速率。
9、如权利要求8所述的运动检测装置,其特征在于,
上述转送能力确定单元利用上述外部存储器的数据转送所使用的总线的宽度、上述外部存储器的动作频率以及上述外部存储器的动作协议,确定上述总数据转送速率。
10、如权利要求9所述的运动检测装置,其特征在于,
上述速率算出单元确定同时执行处理,并根据所确定的同时执行处理,算出可分配给上述运动检测的数据转送速率,该同时执行处理为:以运动检测之外的目的,在对上述外部存储器进行由上述转送单元执行的转送的同时对其进行存取的处理。
11、如权利要求10所述的运动检测装置,其特征在于,
上述速率算出单元进行减法运算,该减法运算是从上述总数据转送速率中,减去上述总数据转送速率中分配给上述同时执行处理的数据转送速率,从而算出可分配给上述运动检测的数据转送速率。
12、如权利要求11所述的运动检测装置,其特征在于,
上述速率算出单元将上述减法运算所获得的差,用同时所进行的运动检测处理的数量来除,从而算出可分配给上述运动检测的数据转送速率。
13、如权利要求7所述的运动检测装置,其特征在于,
在上述运动检测装置的初始化时,上述算出单元算出可分配给上述运动检测的数据转送速率。
14、如权利要求7所述的运动检测装置,其特征在于,
上述算出单元检测可分配给上述运动检测的数据转送速率可能发生变动的时刻,并在该时刻算出可分配给上述运动检测的数据转送速率。
15、如权利要求1所述的运动检测装置,其特征在于,
上述转送单元,按照上述运动检测单元所参照的每个区域,转送存储在上述图像数据中的图像数据;
上述限制单元缩小上述区域,从而限制上述数据转送量。
16、一种运动检测方法,为了编码图片,检测编码对象图片的图像运动,其特征在于,包括:
限制步骤,按照存储有图像数据的外部存储器的数据转送能力,限制应该从上述外部存储器转送的上述图像数据的数据转送量;
转送步骤,将存储在上述外部存储器中的图像数据的至少一部分转送到内部存储器,该图像数据的转送量是上述限制步骤所限制的数据转送量;和
运动检测步骤,对被转送到上述内部存储器的图像数据的至少一部分进行参照,从而进行上述编码对象图片的运动检测。
17、一种集成电路,为了编码图片,检测编码对象图片的图像运动,其特征在于,包括:
限制单元,按照存储有图像数据的外部存储器的数据转送能力,限制应该从上述外部存储器转送的上述图像数据的数据转送量;
内部存储器;
转送单元,将存储在上述外部存储器中的图像数据的至少一部分转送到上述内部存储器,该图像数据的转送量是上述限制单元所限制的数据转送量;和
运动检测单元,对被转送到上述内部存储器的图像数据的至少一部分进行参照,从而进行上述编码对象图片的运动检测。
CNB2006101084442A 2005-08-02 2006-08-02 运动检测装置 Expired - Fee Related CN100525456C (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2005224525A JP4570532B2 (ja) 2005-08-02 2005-08-02 動き検出装置、動き検出方法、集積回路およびプログラム
JP224525/2005 2005-08-02

Publications (2)

Publication Number Publication Date
CN1909666A CN1909666A (zh) 2007-02-07
CN100525456C true CN100525456C (zh) 2009-08-05

Family

ID=37700640

Family Applications (1)

Application Number Title Priority Date Filing Date
CNB2006101084442A Expired - Fee Related CN100525456C (zh) 2005-08-02 2006-08-02 运动检测装置

Country Status (3)

Country Link
US (1) US20070030899A1 (zh)
JP (1) JP4570532B2 (zh)
CN (1) CN100525456C (zh)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4757080B2 (ja) 2006-04-03 2011-08-24 パナソニック株式会社 動き検出装置、動き検出方法、動き検出集積回路および画像符号化装置
KR101365567B1 (ko) * 2007-01-04 2014-02-20 삼성전자주식회사 영상의 예측 부호화 방법 및 장치, 그 복호화 방법 및 장치
US7925798B2 (en) * 2007-01-26 2011-04-12 Lantiq Deutschland Gmbh Data packet processing device
US20100086053A1 (en) * 2007-04-26 2010-04-08 Panasonic Corporation Motion estimation device, motion estimation method, and motion estimation program
US9648325B2 (en) 2007-06-30 2017-05-09 Microsoft Technology Licensing, Llc Video decoding implementations for a graphics processing unit
JPWO2010021153A1 (ja) * 2008-08-21 2012-01-26 パナソニック株式会社 動き検出装置
CN102057399A (zh) * 2009-04-10 2011-05-11 松下电器产业株式会社 物体检测装置、物体检测系统、物体检测用集成电路、带物体检测功能的摄像机和物体检测方法
WO2010140338A1 (ja) * 2009-06-01 2010-12-09 パナソニック株式会社 画像符号化装置、方法、集積回路、プログラム
PL2698999T3 (pl) 2011-04-12 2017-10-31 Sun Patent Trust Sposób kodowania ruchomych obrazów, urządzenie do kodowania ruchomych obrazów, sposób dekodowania ruchomych obrazów, urządzenie do dekodowania ruchomych obrazów, oraz urządzenie do kodowania/dekodowania ruchomych obrazów
CA2833893C (en) 2011-05-24 2024-02-27 Panasonic Corporation Image coding method, image coding apparatus, image decoding method, image decoding apparatus, and image coding and decoding apparatus
US9485518B2 (en) 2011-05-27 2016-11-01 Sun Patent Trust Decoding method and apparatus with candidate motion vectors
PL3614665T3 (pl) 2011-05-27 2022-07-04 Sun Patent Trust Sposób kodowania obrazów, urządzenie do kodowania obrazów, sposób dekodowania obrazów, urządzenie do dekodowania obrazów, i urządzenie do kodowania i dekodowania obrazów
CA2834191C (en) 2011-05-31 2019-04-09 Panasonic Corporation Video encoding method, video encoding device, video decoding method, video decoding device, and video encoding/decoding device
SG194746A1 (en) 2011-05-31 2013-12-30 Kaba Gmbh Image encoding method, image encoding device, image decoding method, image decoding device, and image encoding/decoding device
KR101900986B1 (ko) 2011-06-30 2018-09-20 선 페이턴트 트러스트 화상 복호 방법, 화상 부호화 방법, 화상 복호 장치, 화상 부호화 장치, 및, 화상 부호화 복호 장치
IN2014CN00729A (zh) 2011-08-03 2015-04-03 Panasonic Corp
KR101999869B1 (ko) 2011-10-19 2019-07-12 선 페이턴트 트러스트 화상 부호화 방법, 화상 부호화 장치, 화상 복호 방법, 및, 화상 복호 장치
US9819949B2 (en) 2011-12-16 2017-11-14 Microsoft Technology Licensing, Llc Hardware-accelerated decoding of scalable video bitstreams
MA37697B1 (fr) 2012-06-29 2017-03-31 Ericsson Telefon Ab L M Codage et décodage de séquences vidéo comprenant des ensembles d'images de référence
JP5924211B2 (ja) * 2012-09-21 2016-05-25 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
CN103402086B (zh) * 2013-07-22 2017-02-15 华为技术有限公司 一种用于视频编码系统的性能控制方法及编码器

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10233986A (ja) * 1997-02-21 1998-09-02 Hitachi Ltd 映像信号記録装置
US6336159B1 (en) * 1997-06-25 2002-01-01 Intel Corporation Method and apparatus for transferring data in source-synchronous protocol and transferring signals in common clock protocol in multiple agent processing system
EP1765019B1 (en) * 2002-02-01 2008-01-16 Matsushita Electric Industrial Co., Ltd. Moving picture coding method and moving picture coding apparatus
JP4119269B2 (ja) * 2002-02-01 2008-07-16 松下電器産業株式会社 動画像符号化方法および動画像復号化方法
JP2004094452A (ja) * 2002-08-30 2004-03-25 Fujitsu Ltd Dmaコントローラおよびdma転送方法
JP2004215049A (ja) * 2003-01-07 2004-07-29 Sony Corp 符号化装置および方法、復号装置および方法、並びにプログラム
TW595124B (en) * 2003-10-08 2004-06-21 Mediatek Inc Method and apparatus for encoding video signals
JP4591657B2 (ja) * 2003-12-22 2010-12-01 キヤノン株式会社 動画像符号化装置及びその制御方法、プログラム
KR100668302B1 (ko) * 2004-07-28 2007-01-12 삼성전자주식회사 비디오 디코더/엔코더에서의 메모리 맵핑 장치 및 그 방법
US20060120612A1 (en) * 2004-12-08 2006-06-08 Sharath Manjunath Motion estimation techniques for video encoding

Also Published As

Publication number Publication date
CN1909666A (zh) 2007-02-07
US20070030899A1 (en) 2007-02-08
JP4570532B2 (ja) 2010-10-27
JP2007043421A (ja) 2007-02-15

Similar Documents

Publication Publication Date Title
CN100525456C (zh) 运动检测装置
US8358701B2 (en) Switching decode resolution during video decoding
CN100551074C (zh) 图像解码方法、图像解码装置和集成电路
US9332270B2 (en) Apparatus capable of performing both block-matching motion compensation and global motion compensation and method thereof
US8457212B2 (en) Image processing apparatus, image processing method, recording medium, and program
US20050238100A1 (en) Video encoding method for encoding P frame and B frame using I frames
US6792045B2 (en) Image signal transcoder capable of bit stream transformation suppressing deterioration of picture quality
US20090141808A1 (en) System and methods for improved video decoding
EP1879388B1 (en) Video information recording device, video information recording method, video information recording program, and recording medium containing the video information recording program
CN100446572C (zh) 译码数字影像位流所含画面的方法及其数字影像译码系统
CN101663899A (zh) 运动检测装置、运动检测方法、以及运动检测程序
KR20080066722A (ko) 전환 효과를 위한 멀티미디어 코딩 기술
US9729869B2 (en) Adaptive partition subset selection module and method for use therewith
US20090167775A1 (en) Motion estimation compatible with multiple standards
JP4709155B2 (ja) 動き検出装置
CN101455088B (zh) 运动图像解码装置
JPH11196411A (ja) 画像符号化装置、画像符号化方法、画像復号化装置、及び画像復号化方法
CN100466737C (zh) 信息处理设备以及方法
KR20170126934A (ko) 컨텐츠-적응적 b-픽쳐 패턴 비디오 인코딩
CN101523918A (zh) 视频编码
JP4902854B2 (ja) 動画像復号化装置、動画像復号化方法、動画像復号化プログラム、動画像符号化装置、動画像符号化方法、動画像符号化プログラム、及び動画像符号化復号化装置
US20100246682A1 (en) Scaled motion search section with downscaling and method for use therewith
Mochizuki et al. A 64 mW high picture quality H. 264/MPEG-4 video codec IP for HD mobile applications in 90 nm CMOS
JP4906197B2 (ja) 復号装置および方法、並びに記録媒体
Wei et al. An optimized hardware video encoder for AVS with Level C+ data reuse scheme for motion estimation

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C17 Cessation of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20090805

Termination date: 20120802