JP3772183B2 - 動画像符号化処理システム、動画像復号化処理システム、動画像符号化処理プログラム、及び、動画像復号化処理プログラム - Google Patents

動画像符号化処理システム、動画像復号化処理システム、動画像符号化処理プログラム、及び、動画像復号化処理プログラム Download PDF

Info

Publication number
JP3772183B2
JP3772183B2 JP2003048535A JP2003048535A JP3772183B2 JP 3772183 B2 JP3772183 B2 JP 3772183B2 JP 2003048535 A JP2003048535 A JP 2003048535A JP 2003048535 A JP2003048535 A JP 2003048535A JP 3772183 B2 JP3772183 B2 JP 3772183B2
Authority
JP
Japan
Prior art keywords
frame
amount
previous frame
operating frequency
operating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003048535A
Other languages
English (en)
Other versions
JP2003324735A (ja
Inventor
雅彦 吉本
健太郎 川上
英雄 大平
Original Assignee
有限会社金沢大学ティ・エル・オー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 有限会社金沢大学ティ・エル・オー filed Critical 有限会社金沢大学ティ・エル・オー
Priority to JP2003048535A priority Critical patent/JP3772183B2/ja
Publication of JP2003324735A publication Critical patent/JP2003324735A/ja
Application granted granted Critical
Publication of JP3772183B2 publication Critical patent/JP3772183B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、動作周波数及び動作電圧が変更可能なプロセッサを使用して、動画像の符号化又は復号化を行う動画像符号化処理システム、動画像復号化処理システム、動画像符号化処理プログラム、及び、動画像復号化処理プログラムに関する。
【0002】
【従来の技術】
近年、伝送路を通じて動画像の送受信を行うことや、動画像を蓄積メディアに蓄積することが可能となっている。一般に、動画像は情報量が大きいため、伝送ビットレートの限られた伝送路を用い動画像を伝送する場合、あるいは蓄積容量の限られた蓄積メディアに動画像を蓄積する場合には、動画像を符号化・復号化する技術が必要不可欠である。動画像の符号化・復号化方式として、ISO/IECが標準化を進めているMPEG(Moving Picture Experts
Group)やH.26Xがある。これらは動画像を構成する経時的に連続した複数のフレームの符号化又は復号化を行うものであり、動画像の時間的相関、空間的相関を利用した冗長性の削減を行うことにより動画像の情報量を減らして符号化し、符号化された動画像を再度元の動画像に復号化する技術である。
【0003】
かかる符号化・復号化技術はパーソナルコンピュータやマイクロコンピュータを内蔵する携帯電話等の情報端末機器等に適用されており、符号化・復号化の手段を記述したプログラムに基づいてコンピュータのプロセッサ等を動作させることにより、動画像を送信等する場合は動画像符号化処理システムとして、動画像を受信等する場合は動画像復号化処理システムとして機能させている。しかしながら、かかる動画像符号化又は復号化処理は比較的に演算量が多いため消費電力が大きくなる傾向にあり、ハードウエアよりも汎用性の高いソフトウエアを使用して、符号化・復号化処理における低消費電力化を図ることが大きな課題となっている。
【0004】
以下に、ソフトウエアを使用した動画像符号化又は復号化処理システムにおける従来の低消費電力化の手段を説明する。従来の低消費電力化の手段としては、例えば下記の非特許文献1に開示されている。
【0005】
【非特許文献1】
IEEE International Symposium on Circuits andSystem 2001(May,2001)の予稿集pp918-921 " An LSI forVDD-Hopping and MPEG4 System Based on the Chip"(H. Kawaguchi, G. Zhang, S.Lee, and T. Sakurai)
【0006】
図7は、非特許文献1で示された、動画像(動画像)符号化処理システムについて従来の低消費電力化を行う手法を示した図である。なお、低消費電力化の手段は、動画像復号化処理システムにおいても同様である。
【0007】
本従来例では、動的に動作電圧及び動作周波数を変更可能なプロセッサ上で、動画像符号化(特にMPEG)を処理する場合の低消費電力化を行うための動作電圧及び動作周波数の制御方法を示している。すなわち本従来例は、図8に示すように、動画像符号化を行う場合に、動画像内の動きの激しさなどによりフレーム単位に動画像符号化又は復号化の演算量が異なることに注目し、プロセッサの動作周波数及び動作電圧を制御して低消費電力化を図るものである。
【0008】
符号化処理は、1フレームの処理時間が符号化方式(MPEGなど)の規定などにより時間Tfに制約されており、その処理時間Tf内に1フレームの符号化処理が完了することが必要とされる。1フレームの処理時間Tf(秒)に対して、それを一定間隔にN個に分割し、一つ一つの間隔(時間)をタイムスロットTslot(Tslot=Tf/N)と定義し、また、タイムスロットTslot1からタイムスロットTslotiが終了した時点の残時間TRiをTRi=Tf−Tslot*iと定義する。一つのタイムスロットTslotで処理する動画像のブロック数(動画像の符号化はブロック単位に処理が行われる)をR(すなわちR*Nが1フレームのブロック数となる)とし、(R*i)ブロック処理にかかった時間(すなわちタイムスロットTslot1からタイムスロットTslotiまでに処理すべきブロック群に対して実際に処理にかかった時間)をTacc(i+1)とする。電圧変更した場合に動作電圧及び動作周波数が安定するまでの時間をTrdとする。なお、実タイムスロットRTslotiはタイムスロットTsloti内に完了されるべき処理に対して実際に要した処理時間を示す。図7では、まずタイムスロットTslot1及びタイムスロットTslot2に割り当てられたブロック群の処理に対しては、負荷が最大の場合でもそのタイムスロットTslot1,Tslot2内に十分に処理が完了可能なクロック周波数fmaxで動作させる。その処理にかかった時間Tacc3がTacc3<(Tf−TR2)である場合、すなわち、割り当てられたブロック群がタイムスロットTslot1,Tslot2内で処理が完了した場合、次のタイムスロットTslot3に割り当てられたブロック群の処理に使用可能な処理時間Ttar3はTtar3=Tf−Tacc3−TR3−Trdであり、この処理時間Ttar3内にTslot3に割り当てられたブロック群の処理が完結すればよいので、このブロック群に対しては動作周波数を下げて動作させる。図7の処理時間Tf1,Tf2,Tf3は、タイムスロットTslot3において負荷が最大の場合に、各動作周波数f1,f2,f3で動作させたときの処理時間を示す。動作周波数としては、図7においてf2=fmax/2の動作周波数を選択すれば、負荷が最大の場合でもタイムスロットTslot1からタイムスロットTslot3までに完了されるべき処理時間が(Tf−TR3)以内である、次のタイムスロットTslot4に処理が入り込むことはない。一方、動作周波数f3=fmax/3を選択した場合は、処理時間Tf3が処理時間Ttar3を超えてしまう。したがって、このタイムスロットTslot3で処理すべきブロック群に対してはf2=fmax/2の動作周波数及びその動作周波数に適する動作電圧で動作させる。同様にして、タイムスロットTslot毎にこの処理を行う。
【0009】
これにより、動的に動作クロック周波数及び動作電圧を変更するに際し、所定時間内に所定数のブロック群を処理可能な動作周波数のうち最小の動作周波数を選択することにより、総合的に動作周波数及び動作電圧を下げて動作させ、必要処理に応じて電圧を制御することにより、低消費電力化が図られている。
【0010】
【発明が解決しようとする課題】
ところで、ある一定の処理時間(例えば、ここでは1フレームの処理時間Tf)に完了すべき処理(例えば、ここでは1フレームの処理)に対しては、1フレームの処理時間を通してプロセッサを一定の動作電圧及び動作周波数で動作させて処理することが好ましい。すなわち、1フレームの処理時間をTf(秒)とし、演算量Kf(サイクル)とし、動作周波数Ffとすると、動作周波数Ff=Kf/Tf(サイクル/秒)に設定し、1フレームの処理時間Tfを通してプロセッサを一定の動作周波数Ffで動作させることにより、その処理時間Tf内で動作周波数Ffを何回も変動させる場合と比較して、より低消費電力化が可能となる。この証明は後述する第1の実施の形態で行う。
【0011】
しかしながら、本従来例では、処理時間Tfの同期する単位が1フレームであるにもかかわらず、1フレーム内で最大N回の動作電圧及び動作周波数の変更が行われており、低消費電力が十分に図られていなかった。すなわち、本従来例のように多段階に動作電圧及び動作周波数を制御可能なプロセッサでの動画像符号化又は復号化処理の低消費電力化は、1フレームの処理中に何回も動作電圧及び動作周波数を変更する必要があった。一方、上述のように、処理時間の制約の単位がフレームであるため、1フレームの処理中は処理を可能にする最低限の一定の周波数で制御するのが好ましい。そのため、1フレームの処理中に最大N回動作電圧及び動作周波数が変更される本従来例では十分な低消費電力化ができていなかった。
【0012】
そこで本発明は、前記のような課題を解決するためのものであり、前記従来技術と比較して大幅に低消費電力化を図ることができる動画像符号化又は復号化処理システム及び動画像符号化又は復号化処理プログラムを提案することにある。
【0013】
【課題を解決するための手段】
すなわち、本発明の動画像符号化処理システムは、動作周波数及び動作電圧が変更可能なプロセッサと、そのプロセッサを使用して連続する複数のフレームから構成される動画像をフレーム単位で順次符号化する動画像符号化手段を有するシステムにおいて、これから符号化される任意の一のフレームを所定フレームとし、前記所定フレームより前に符号化処理されるフレームを前フレームとすると、
所定フレームの符号化に必要な必要演算量を計算する必要演算量計算手段と、所定フレームの符号化処理に予め割り当てられている時間内に前記必要演算量を処理可能な動作電圧及び動作周波数を計算する動作電圧・動作周波数計算手段と、前記動作電圧・動作周波数計算手段により算出された動作周波数及び動作電圧でプロセッサを動作させる動作電圧・動作周波数制御手段とを備え、
前記必要演算量計算手段は、所定フレームと前フレームとの動き量、所定フレームのアクティビティの量、前フレームのアクティビティの量、前フレームの量子化ステップサイズの平均値、前フレームの量子化ステップサイズの平均値とその一つ前のフレームの量子化ステップサイズの平均値の差、前フレームのマクロブロックマッチング回数、前フレームの有効ブロック数、前フレームの有効係数の数、前フレームの符号化に実際に要した演算量、前フレームの発生ビット数、所定フレームの符号化ビットレート、所定フレームについてフレーム内符号化又はフレーム間符号化のいずれであるかの種類、必要演算量計算手段により算出された前フレームの必要演算量のうち、一つ以上の要素を使用して必要演算量Kを計算し、
前記必要演算量計算手段により所定フレームの必要演算量Kを算出し、前記動作電圧・動作周波数計算手段により前記必要演算量Kを処理可能な動作電圧V・動作周波数Fを算出した後に、前記動作電圧・動作周波数制御手段により所定フレームの符号化処理に割り当てられた時間内は前記算出された一定の動作周波数及び一定の動作電圧で前記プロセッサを動作させ、前記プロセッサが当該一定の動作周波数F及び一定の動作電圧Vで動作しながら動画像符号化手段により所定フレームの符号化処理を行うことを特徴とする。
また、本発明の動画像復号化処理システムは、動作周波数及び動作電圧が変更可能なプロセッサと、そのプロセッサを使用して連続する複数のフレームから構成される動画像をフレーム単位で順次復号化する動画像復号化手段を有するシステムにおいて、これから復号化される任意の一のフレームを所定フレームとし、前記所定フレームより前に復号化処理 されるフレームを前フレームとすると、
所定フレームの復号化に必要な必要演算量を計算する必要演算量計算手段と、所定フレームの復号化処理に予め割り当てられている時間内に前記必要演算量を処理可能な動作電圧及び動作周波数を計算する動作電圧・動作周波数計算手段と、前記動作電圧・動作周波数計算手段により算出された動作周波数及び動作電圧でプロセッサを動作させる動作電圧・動作周波数制御手段とを備え、
前記必要演算量計算手段は、所定フレームの符号化データのビット数、前記所定フレームがフレーム内符号化されたものであるか又はフレーム間符号化されたものであるかの種類、動きベクトルの大きさの平均値 ( 所定フレームの,もしくは前フレームのもの ) 、動きベクトルの大きさの分散 ( 所定フレームの,もしくは前フレームのもの ) 、有効ブロック数 ( 所定フレームの,もしくは前フレームのもの ) 、有効係数の数 ( 所定フレームの,もしくは前フレームのもの ) 、ビットレート ( 所定フレームの,もしくは前フレームのもの ) 、符号量 ( 所定フレームの,もしくは前フレームのもの ) 、量子化ステップサイズの平均値 ( 所定フレームの,もしくは前フレームのもの ) 、量子化ステップサイズの平均値の差 ( 所定フレームと1つ前のフレームの量子化ステップサイズの差,もしくは1つ前のフレームの量子化ステップサイズと2つ前のフレームの量子化ステップサイズの差 ) 、前フレームの復号化に実際に要した演算量、必要演算量計算手段により算出された前フレームの必要演算量のうち、一つ以上の要素を使用して必要演算量Kを計算し、
前記必要演算量計算手段により所定フレームの必要演算量Kを算出し、前記動作電圧・動作周波数計算手段により前記必要演算量Kを処理可能な動作電圧V・動作周波数Fを算出した後に、前記動作電圧・動作周波数制御手段により所定フレームの復号化処理に割り当てられた時間内は前記算出された一定の動作周波数及び一定の動作電圧で前記プロセッサを動作させ、前記プロセッサが当該一定の動作周波数F及び一定の動作電圧Vで動作しながら復号化手段により所定フレームの復号化処理を行うことを特徴とする。
また、本発明の動画像符号化処理プログラムは、動作周波数及び動作電圧が変更可能なプロセッサを有するコンピュータを、そのプロセッサを使用して連続する複数のフレームから構成される動画像をフレーム単位で順次符号化する動画像符号化手段を有するシステムとして機能させるプログラムにおいて、任意の一のフレームを所定フレームとし、前記所定フレームより前に符号化処理されるフレームを前フレームとすると、
所定フレームの符号化に必要な必要演算量を計算する必要演算量計算手段と、所定フレームの符号化処理に予め割り当てられている時間内に前記必要演算量を処理可能な動作電圧及び動作周波数を計算する動作電圧・動作周波数計算手段と、前記動作電圧・動作周波数計算手段により算出された動作周波数及び動作電圧でプロセッサを動作させる動作電圧・動作周波数制御手段とを備え、
前記必要演算量計算手段は、所定フレームと前フレームとの動き量、所定フレームのアクティビティの量、前フレームのアクティビティの量、前フレームの量子化ステップサイズの平均値、前フレームの量子化ステップサイズの平均値とその一つ前のフレームの量子化ステップサイズの平均値の差、前フレームのマクロブロックマッチング回数、前フレームの有効ブロック数、前フレームの有効係数の数、前フレームの符号化に実際に要した演算量、前フレームの発生ビット数、所定フレームの符号化ビットレート、所定フレームについてフレーム内符号化又はフレーム間符号化のいずれであるかの種類、必要演算量計算手段により算出された前フレームの必要演算量のうち、一つ以上の要素を使用して必要演算量Kを計算し、
前記必要演算量計算手段により所定フレームの必要演算量Kを算出し、前記動作電圧・動作周波数計算手段により前記必要演算量Kを処理可能な動作電圧V・動作周波数Fを算出した後に、前記動作電圧・動作周波数制御手段により所定フレームの符号化処理に割り当てられた時間内は前記算出された一定の動作周波数及び一定の動作電圧で前記プロセッサを動作させ、前記プロセッサが当該一定の動作周波数F及び一定の動作電圧Vで動作しながら動画像符号化手段により所定フレームの符号化処理を行うように、コンピュータを機能させることを特徴とする。
また、本発明の動画像復号化処理プログラムは、動作周波数及び動作電圧が変更可能なプロセッサを有するコンピュータを、そのプロセッサを使用して連続する複数のフレームから構成される動画像をフレーム単位で順次復号化する動画像復号化手段を有するシステムとして機能させるプログラムにおいて、任意の一のフレームを所定フレームとし、前記所定フレームより前に復号化処理されるフレームを前フレームとすると、
所定フレームの復号化に必要な必要演算量を計算する必要演算量計算手段と、所定フレームの復号化処理に予め割り当てられている時間内に前記必要演算量を処理可能な動作電圧及び動作周波数を計算する動作電圧・動作周波数計算手段と、前記動作電圧・動作周波数計算手段により算出された動作周波数及び動作電圧でプロセッサを動作させる動作電圧・動作周波数制御手段とを備え、
前記必要演算量計算手段は、所定フレームの符号化データのビット数、前記所定フレームがフレーム内符号化されたものであるか又はフレーム間符号化されたものであるかの種類、動きベクトルの大きさの平均値 ( 所定フレームの,もしくは前フレームのもの ) 、動きベクトルの大きさの分散 ( 所定フレームの,もしくは前フレームのもの ) 、有効ブロック数 ( 所定フレームの,もしくは前フレームのもの ) 、有効係数の数 ( 所定フレームの,もしくは前フレームのもの ) 、ビットレート ( 所定フレームの,もしくは前フレームのもの ) 、符号量 ( 所定フレームの,もしくは前フレームのもの ) 、量子化ステップサイズの平均値 ( 所定フレームの,もしくは前フレームのもの ) 、量子化ステップサイズの平均値の差 ( 所定フレームと1つ前のフレームの量子化ステップサイズの差,もしくは1つ前のフレームの量子化ステップサイズと2つ前のフレームの量子化ステップサイズの差 ) 、前フレームの復号化に実際に要した演算量、必要演算量計算手段により算出された前フレームの必要演算量のうち、一つ以上の要素を使用して必要演算量Kを計算し、
前記必要演算量計算手段により所定フレームの必要演算量Kを算出し、前記動作電圧・動作周波数計算手段により前記必要演算量Kを処理可能な動作電圧V・動作周波数Fを算出した後に、前記動作電圧・動作周波数制御手段により所定フレームの復号化処理に割り当てられた時間内は前記算出された一定の動作周波数及び一定の動作電圧で前記プロセッサを動作させ、前記プロセッサが当該一定の動作周波数F及び一定の動作電圧Vで動作しながら動画像復号化手段により所定フレームの復号化処理を行うように、コンピュータを機能させることを特徴とする。
【0014】
符号化・復号化方式(MPEG等)の規定においては、所定フレームに対して予め処理時間が割り当てられている。本発明によれば、必要演算量計算手段により所定フレームの符号化又は復号化に必要な必要演算量が計算され、動作電圧・動作周波数計算手段により所定フレームの符号化処理又は復号化処理に予め割り当てられている時間内に前記必要演算量を符号化処理又は復号化処理可能な動作電圧及び動作周波数が計算され、動作電圧・動作周波数制御手段により前記動作電圧・動作周波数計算手段により算出された動作周波数及び動作電圧でプロセッサが動作し、前記動作電圧・動作周波数制御手段により前記算出された動作周波数及び動作電圧でプロセッサを一定に動作させながら、動画像符号化手段又は動画像復号化手段により所定フレームの符号化又は復号化処理が行われる。したがって、フレームごとに一定の動作電圧及び動作周波数でプロセッサを動作させながら、そのプロセッサにより符号化又は復号化処理が行われることとなり、フレームを分割して成る所定数のブロックごとに動作周波数及び動作電圧が決定されることで一のフレームの符号化・復号化処理中に何度も動作電圧及び動作周波数が変更される従来技術と比較して、低消費電力化を図ることができる。
【0015】
【0016】
【0017】
また、前記複数の要素はそれぞれ符号化処理又は復号化処理において必要演算量に影響を与える要素である。本発明によれば、前記要素のうち一つ以上が必要演算量計算手段の要素として使用されて必要演算量が計算されるため、必要演算量計算手段により計算される必要演算量が現実に符号化処理又は復号化処理を行ったときの演算量により近い値となる。したがって、算出された必要演算量が現実の演算量よりも大き過ぎて低消費電力化が阻害されたり、必要演算量が現実の演算量よりも小さ過ぎて処理が時間内に完了しないという問題が生じにくい。
【0018】
本発明の動画像符号化処理システム又は動画像復号化処理システムは、前記プロセッサは、動作可能な可能動作周波数がn段階(nは2以上の整数)に用意されており、前記動作電圧・周波数計算手段は、前記必要演算量計算手段により算出された前記所定フレームの必要演算量Kと、所定フレームの処理に割り当てられる時間Tfとから、時間Tfで必要演算量Kを処理するに必要な動作周波数FfをFf=K/Tfで計算し、前記プロセッサが動作可能な可能動作周波数から前記必要な動作周波数Ff以上であり且つその動作周波数Ffに最も近い動作周波数Fを選択する計算を行うとともに、選択された動作周波数Fに適する動作電圧Vを計算することが好ましい。本発明の動画像符号化処理プログラム又は動画像復号化処理プログラムは、前記プロセッサは動作可能な可能動作周波数がn段階(nは2以上の整数)に用意されており、前記動作電圧・周波数計算手段は、前記必要演算量計算手段により算出された前記所定フレームの必要演算量Kと、所定フレームの処理に割り当てられる時間Tfとから、時間Tfで必要演算量Kを処理するに必要な動作周波数FfをFf=K/Tfで計算し、前記プロセッサが動作可能な可能動作周波数から前記必要な動作周波数Ff以上であり且つその動作周波数Ffに最も近い動作周波数Fを選択する計算を行うとともに、その選択された動作周波数Fに適する動作電圧Vを計算するように、コンピュータを機能させることが好ましい。
【0019】
この発明によれば、時間Tfで必要演算量Kを処理するに必要な動作周波数FfがFf=K/Tfで計算された後に、前記プロセッサが動作可能な可能動作周波数から前記必要な動作周波数Ff以上であり且つその動作周波数Ffに最も近い動作周波数Fを選択する計算が行われるとともに、選択された動作周波数Fに適する動作電圧Vが計算され、プロセッサがその算出(選択)された動作周波数F及び動作電圧Vで一定に動作しながら動画像符号化又は復号化手段により所定フレームの符号化又は復号化が行われる。すなわち、プロセッサが動作可能な可能動作周波数及び動作電圧のうち、所定フレームに割り当てられた時間Tf内に必要演算量Kを処理可能な最小の動作周波数F及び動作電圧Vにより、プロセッサを一定に動作させながら、そのプロセッサ上で動作する符号化又は復号化手段により所定フレームの符号化又は復号化処理が行われるため、可能動作周波数が段階的に用意されたプロセッサが使用されても、低消費電力化が効率的に行われる。
【0020】
【発明の実施の形態】
以下、本発明の動画像符号化又は復号化処理システムについて動画像符号化処理システムと動画像復号化処理システムに分けて詳述する。
【0021】
(第1の実施の形態)本発明の第1の実施の形態の動画像符号化処理システムは、例えばマイクロコンピュータが内蔵された携帯電話やパーソナルコンピュータ等の情報端末機器であるコンピュータ内においてマルチメディア信号処理部などの一部として機能するシステムであり、連続する所定数のフレームから構成される動画像をフレーム単位で順次符号化を行うシステムである。図1は、本実施の形態の動画像符号化処理システムS1の動作を示した概略ブロック図である。動画像符号化処理システムS1は、動作電圧及び動作周波数がn段階(nは2以上の整数)に用意され(すなわち、n段階の動作電圧及び動作周波数で動作可能であり)且つプログラムにより動作電圧及び動作周波数を変更可能なプロセッサ1と、DC−DCコンバータやPLLなどを備えて前記プロセッサ1の動作電圧及び動作周波数を制御する動作電圧・動作周波数制御手段4と、所定のデータを記憶する記憶領域である局部復号フレームメモリ6と入力フレームメモリ7と要素メモリ8とを少なくとも備えるコンピュータ(特にコンピュータ内のマルチメディア信号処理部)である。ただし、局部復号メモリ6および入力フレームメモリ7は動作電圧・動作周波数制御手段4により,プロセッサ1と同様に動作電圧・動作周波数が制御されてもよい。プロセッサ1は、プロセッサ1上で動作する必要演算量計算手段2と、プロセッサ1上で動作する動作電圧・動作周波数計算手段3と、プロセッサ1上で動作する動画像符号化手段5とを備える。なお、符号101は入力画像データ、符号102は動作電圧及び動作周波数指示、符号103は前フレームの局部復号データ、符号105は動作電圧及び動作周波数供給、符号106はフレームの符号化データ、符号107は前フレームの量子化ステップサイズの平均値の情報、符号108は各フレームについてフレーム内符号化であるかフレーム間符号化であるかの種類、符号109は動画像の符号化ビットレートの情報である。要素メモリ8は、後述する必要演算量計算手段2において使用される複数の要素のうち一部の要素(フレーム内符号化であるかフレーム間符号化であるかの種類108や符号化ビットレート109)が記憶される記憶領域である。動画像符号化手段5には符号化方式としてMPEG−4が使用されるが、H.26XやMPEG−1、MPEG−2などの他の符号化方式が使用されていても良い。
【0022】
次に、図1に従って本実施の形態の動画像符号化処理システムS1の動作を説明する。動画像符号化処理システムS1は、動画像符号化処理プログラムPrg1によりコンピュータ(特にコンピュータ内のマルチメディア信号処理部)を所定の手段として機能させることにより実現される。以下、順次符号化されるフレームのうちこれから符号化される任意の一のフレームを所定フレーム(すなわち、あるフレームが符号化された時点を基準とすると次に符号化されるフレームであり、換言すると、その時点において未だに符号化処理されておらず未来に符号化処理が行われる予定であるフレーム)、所定フレームより前に符号化された一のフレーム(過去に符号化されたフレーム)を前フレームとし、所定フレームを符号化する処理について説明するが、いずれのフレームについても同様の処理が行われる。
【0023】
図2はその動画像符号化処理プログラムPrg1の概略フローチャートを示す図である。動画像符号化処理プログラムPrg1は、後述するステップ1からステップ5においてコンピュータを各手段として機能させる。(ステップ1)所定フレームの画像情報を入力フレームメモリ7に入力する。(ステップ2)所定フレームの必要演算量Kを計算させる必要演算量計算手段2として機能させる。(ステップ3)算出された必要演算量Kに応じてプロセッサの動作周波数F及び動作電圧Vを計算させる動作電圧・動作周波数計算手段3として機能させる。(ステップ4)算出された動作周波数F及び動作電圧Vでプロセッサ1を動作させる制御を行わせる動作電圧・動作周波数制御手段4として機能させる。(ステップ5)所定フレームの画像情報を符号化させる動画像符号化手段5として機能させる。以上、ステップ1からステップ5の処理を入力フレームメモリ7に入力されるフレームの順番(すなわち、符号化される順番)に、すべてのフレームに対して行うことで、動画像の符号化を行う。以下、詳細に説明する。
【0024】
(ステップ1)入力された入力画像データは、フレームの同期をとるため、フレームを一時的に記憶する記憶領域である入力フレームメモリ7に一旦格納される。
【0025】
(ステップ2)必要演算量計算手段2は、入力フレームメモリ7にアクセスして所定フレームの入力画像データ101を取得し、所定フレームの符号化処理に必要な必要演算量Kを計算する。必要演算量Kの計算方法は様々な方法が考えられるが、たとえば、動画像符号化処理において、処理内容が動き補償である場合は、動きの激しい映像では演算量が多く、一方、動きの少ない映像では演算量が少ないことに注目して、所定フレームと前フレームとの動き量として差分絶対値和で計算される歪み値を算出し、動き量が大きいフレームに対しては必要演算量K(サイクル)を大きく、動き量が小さいフレームに対しては必要演算量K(サイクル)を小さくしたり、所定フレームがフレーム内符号化である場合は必要演算量を小さく、フレーム間符号化である場合は必要演算量Kを大きくしたり、符号化ビットレートが大きい場合は必要演算量Kを大きく、符号化ビットレートが小さい場合は必要演算量Kを小さくするなどのように、各要素に合わせて必要演算量K(サイクル)を増減させる。すなわち、これらの複数の要素は所定フレームの符号化処理のために必要な必要演算量に影響を与える要素であるため、必要演算量計算手段2が、これらの要素に応じて必要演算量K(サイクル)を増減させるように計算を行うことにより、必要演算量計算手段2により計算される必要演算量Kが現実に符号化処理を行ったときの演算量により近い値となる。本実施の形態では、関数Gを使用して計算し、入力フレームメモリ7に記憶されている所定フレームの入力画像データ101と、局部復号フレームメモリ6に蓄積されている復号化された前フレームの局部復号データ103とを比較して、入力画像の動きの大きさの予測(計算)を行う。この前フレームの局部復号データ103は、所定フレームよりも前に符号化が行われる前フレームの符号化処理において、前フレームを符号化して形成した前フレームの符号化データ106を、ローカルデコーダで復号化することにより形成され、局部復号フレームメモリ6に記憶されている。動きの大きさの予測(計算)の一例として、例えば差分絶対値和を用いる。以下に、差分絶対値和Σと必要演算量Kの求め方を説明する。なお、前フレームの画像データとしては、符号化後にローカルデコーダにより復号化された局部復号データ106を使用しても良いが、入力された前フレームの入力画像データをそのまま使用しても良い。
【0026】
入力フレームメモリ7に蓄積された所定フレームの入力画像データ101をX(i,j)(iは画像の水平方向の座標、jは垂直方向の座標)、後述する局部復号フレームメモリ6に蓄積された前フレームの局部復号データ103をY(i,j)(iは画像の水平方向の座標、jは垂直方向の座標)とすると、所定フレームと前フレームとの動き量は、差分絶対値和Z=Σ|X(i,j)−Y(i,j)|をすべての(またはサンプルした)画素に対して計算する。この差分絶対値和の値をZ、前フレームの平均量子化ステップサイズ(量子化ステップサイズの平均値)をQprev、所定フレームの符号化ビットレートをBRとおくと、これらの要素のうち一つ以上の要素を使用して、必要演算量Kは、K=G(Z,Qprev,BR)・・・(数式1)
で計算される。ただし、GはZ,Qprev,BRのうち、一以上の要素から導き出される関数である。その一例としては、K=j+δZ+ε△Qprev・・・(数式2)
が挙げられるが、これに限られるわけではない。また、必要演算量Kの計算に使用される要素として、所定フレームがフレーム内符号化であるかフレーム間符号化であるかの種類Iが使用される。所定フレームがフレーム内符号化である場合の必要演算量Kは小さい値と、フレーム間符号化である場合の必要演算量Kは大きい値となる。すなわち、必要演算量計算手段2は、差分絶対値和Zを使用するときは差分絶対値和Z=Σ|Xij−Yij|を計算した後に、必要演算量K=G(Z,Qprev,BR)を計算する。なお、動画像の符号化ビットレート109や、所定フレーム及び前フレームについてフレーム内符号化であるかフレーム間符号化であるかの種類108は要素が記憶される記憶領域である要素メモリ8に予め記憶されており、必要演算量Kの計算時に必要演算量計算手段2に読み込まれて使用される。前フレームの量子化ステップサイズの平均値107は前フレームの符号化処理が行われたときに動画像符号化手段5から必要演算量計算手段2にフィードバックされる。必要演算量計算手段2においては、これらの要素のうち一つの要素のみを使用しても良いし、複数の要素を組み合わせて使用しても良い。
【0027】
以下、上記関数Gについて説明する。上記関数Gを簡単に説明するため省略してK=G(Z)と記載する。所定フレームの動き量Zaであり、前フレームの動き量Zbとであるとき、前フレームの必要演算量Ka=G(Za)であり所定フレームの必要演算量Kb=G(Zb)となり、Za>ZbならKa>Kbとなるように、Za<ZbならKa<Kbとなるように、必要演算量K(サイクル)が設定される関数Gを用いる。
【0028】
(ステップ3)動作電圧・動作周波数計算手段3は、必要演算量Kの値をもとに、所定フレームの処理に対する動作周波数Ff(サイクル/秒)を予測する計算を行う。すなわち、符号化方式により処理時間が規定されている最小単位は1フレームであり、所定フレームの符号化処理に割り当てられた時間をTf(秒)とすると、所定フレームに必要とされる動作周波数Ff(サイクル/秒)、すなわち時間Tf(秒)内に前記必要演算量Kを符号化処理可能な動作周波数Ff(サイクル/秒)はFf=K/Tfで表されることから、動作電圧・動作周波数計算手段3は動作周波数Ff=K/Tfを計算する。図3に示すように、プロセッサ1および(又は)局部復号メモリ6等を含めた周辺装置がサポートする動作電圧・動作周波数がP段階(Pは2以上の整数)で変更可能な場合、動作電圧・動作周波数計算手段3は、F(n)>Ffであり、且つF(n−1)<Ffとなる動作周波数F(n)を所定フレームの符号化処理を行う動作周波数として選択する計算を行い、その動作周波数F(n)に適する動作電圧V(n)を選択する計算を行い、プロセッサ1および(又は)局部復号メモリ6等を含めた周辺装置をその動作周波数F(n)と動作電圧V(n)で動作させるように、動作電圧・動作周波数を動作電圧・動作周波数制御手段4に指示する(符号102)。
【0029】
(ステップ4)動作電圧・動作周波数制御手段4は、動作電圧・動作周波数計算手段3から指示を受けた動作電圧V(n)及び動作周波数F(n)の値をプロセッサ1および(又は)局部復号メモリ6等を含めた周辺装置に供給し(符号105)、その動作電圧V(n)及び動作周波数F(n)でプロセッサ1を一定に動作させる制御を行う。これにより、プロセッサ1および(又は)局部復号メモリ6等を含めた周辺装置は、一定の動作電圧V(n)及び動作周波数F(n)で動作することになる。
【0030】
(ステップ5)動画像符号化手段5は、動画像符号化処理プログラムPrg1によりコンピュータのプロセッサ1上で実現される手段であり、プロセッサ1を使用して入力フレームメモリ7に格納された入力画像データを動画像符号化を行う単位でアクセスし、符号化処理を行う手段である。すなわち、動画像符号化手段5は、入力フレームメモリ7から所定フレームの入力画像データ101を取得し、符号化して符号化データ106を生成する。ステップ4において、プロセッサ1および(又は)局部復号メモリ6等を含めた周辺装置は動作電圧・動作周波数制御手段4から供給された一定の動作電圧V(n)及び動作周波数F(n)で動作している状態となっているため、ステップ5では、動作電圧・動作周波数制御手段4がその動作周波数F(n)及び動作電圧V(n)でプロセッサ1および(又は)局部復号メモリ6等を含めた周辺装置を一定に動作させながら、そのプロセッサ1を使用して符号化を行う動画像符号化手段5が所定フレームの符号化を行うこととなる。たとえば動きの激しい画像(所定フレームの入力画像データ101)に対してはプロセッサ1および(又は)局部復号メモリ6等を含めた周辺装置を高い周波数で一定に動作させ、動きの少ない画像に対しては低い周波数で一定に動作させることにより低消費電力化を図ることが可能になる。さらに、動画像符号化手段5は、符号化データ106を復号する機能を有するローカルデコーダを備えており、所定フレームの符号化データ106はローカルデコーダにより復号されて局部復号フレームメモリ6に局部復号データ103として蓄積される。この所定フレームの局部復号データ103は所定フレームの次に符号化されるフレームについて必要演算量Kを計算する際に使用される。所定フレームの符号化データ106は伝送路を通じて送信されたり、蓄積メディアに蓄積される。
【0031】
以下に、プロセッサの動作電圧及び動作周波数を複数回変更しながら一のフレームを符号化する従来技術と比較して、本願発明がより低消費電力化を図ることができることを証明する。たとえば、ある特定の時間Ttにある特定の演算量Ktを行う場合、その特定の時間の間は、同一周波数で制御を行い、周波数FtをFt=Kt/Tt・・・(数式3)
に設定すると低消費電力を実現できる。たとえば、プロセッサ1の動作電圧及び動作周波数は図3に示すようにP段階に可変とし、任意の一のフレームの必要演算量をKtとし、そのフレームの処理に割り当てられる時間をTtとする。図4(a)に示すように、動作周波数をFtと設定し、プロセッサ1を動作周波数Ftで動作させるときの動作電圧をVaとし、時間Ttで必要演算量Ktの処理が終了する場合(すなわち、動作周波数が一定の場合)をCase1とし、図4(b)に示すように、初期値の動作周波数をh*Ftと設定し、プロセッサを動作周波数h*Ftで動作させるときの動作電圧をVbとし、時間Tt/hで必要演算量Ktの処理が終了する場合(すなわち、動作周波数の切り替えが1回行われる場合)をCase2とし、各Case1,Case2について前記任意の一のフレームを符号化する場合を考えてみる。どちらも同一の演算量、すなわちKt(サイクル)となる。一方、消費電力は、P=α×C×f×V2×t・・・(数式4)
α:係数、C:プロセッサのトランジスタ数f:動作周波数、V:動作電圧、t:動作時間で表される。これを用いてCase1の消費電力PaとCase2の消費電力Pbを計算すると、Pa=α×C×Ft×Va2×Tt・・・(数式5)
Pb=α×C×(h×Ft)×Vb2×(Tt/h)
=α×C×Ft×Vb2×Tt・・・(数式6)
となり、Pa:Pb=Va2:Vb2・・・(数式7)
となり、Va<Vbであるため、Pa<Pbとなる。すなわち、決められた演算量を一定時間で処理する場合、同一演算量Ktにもかかわらず、Case1の場合のように、その時間内で処理が終了可能な最小の動作周波数により、その処理時間を通してプロセッサを一定に動作させるほうが、従来のように処理時間中に動作周波数を変更するCase2場合よりも低消費電力であることがわかる。したがって、一定の動作電圧及び動作周波数でプロセッサ1を動作させながら一のフレームの符号化処理を行う本発明によれば、ブロックごとに動作電圧及び動作周波数が決定されるため一のフレームの符号化中に何度も動作電圧及び動作周波数が変更される従来技術と比較して、低消費電力化が図られることがわかる。
【0032】
(第2の実施の形態)図5は、第2の実施の形態の動画像符号化処理システムS2の動作を示した概略ブロック図である。本実施の形態の動画像符号化処理システムS2は、前記第1の実施の形態の動画像符号化処理システムS1に、さらに必要演算量計算手段2で使用する要素を多くして精度を高めたものである。コンピュータを動画像符号化処理システムS2として機能させる動画像符号化処理プログラムPrg2は、前記動画像符号化処理プログラムPrg1とほぼ同様である。たとえば、符号化の処理内容が逆量子化の場合は有効係数のみ復号化すれば良いため有効係数の数に比例した演算量となり、逆DCT(IDCT)の場合は無効ブロックに対して演算する必要がないため、無効ブロックの多いフレームに対しては演算量を少なくすることが可能であり、可変長符号化に対しては有効係数の数が演算量と比例するため有効係数の数により演算量が異なること等に注目して要素を追加する。
【0033】
差分絶対値和の値Z、前フレームの量子化ステップサイズの平均値107、符号化ビットレート109、所定フレームがフレーム内符号化であるかフレーム間符号化であるかの種類108のほかに、所定フレームのアクティビティの量、前フレーム(過去のフレーム)のアクティビティの量209、前フレームのマクロブロックマッチング回数202、前フレームの有効ブロック数203、前フレームの有効係数の数204、前フレームの符号化に実際に要した演算量205、必要演算量計算部により算出された前フレームの必要演算量206、前フレームの量子化ステップサイズの平均値とその一つ前のフレームの量子化ステップサイズの平均値の差210、前フレームの実際の発生ビット数などを要素として、所定フレームの必要演算量Kを予測する計算を行う。必要演算量計算手段2においては、これらの要素のうち一つの要素のみを使用しても良いし、複数の要素を組み合わせて使用しても良い。
【0034】
フレームのアクティビティの量は、例えば隣接画素差分絶対値和などで計算する。入力フレームメモリ7に蓄積された所定フレームの入力画像データ101をX(i,j)(iは画像の水平方向の座標であり、jは垂直方向の座標)とすると、隣接画素差分絶対値和Wは水平方向Wh=Σ|X(i,j)−X(i-1,j)|、垂直方向Wv=Σ|X(i,j)−X(i,j-1)|を計算することにより求められ、すべての(またはサンプルした)入力画像に対して計算することにより各フレームのアクティビティの量が求められる。この隣接画素差分絶対値和の値(すなわち各フレームのアクティビティの量)をWとする。
【0035】
所定フレームのアクティビティの量をWa、前フレーム(過去のフレーム)のアクティビティの量をWb、前フレームの量子化ステップサイズの平均値をQprev、前フレームのマクロブロックマッチング回数をM、前フレームの有効ブロック数をB、前フレームの有効係数の数をC、所定フレームの符号化ビットレートをBR、前フレームの量子化ステップサイズの平均値とその一つ前のフレームの量子化ステップサイズの平均値の差をΔQprev、前フレームの実際の発生ビット数D、前フレームの符号化に実際に要した演算量をS、必要演算量計算部2により算出された前フレームの必要演算量をPとおくと、必要演算量Kは、
K=G(Z,Wa,Wb,Qprev,M,B,C,BR,S,P,ΔQprev,D)・・・(数式8)
で表される。ただし関数GはZ,Wa,Wb,Qprev,M,B,C,BR,S,P,ΔQprev,Dのうち一つ以上の要素から導き出される関数である。その一例としては、
K=j+αM+βB+γC+δZ+ε△Qprev・・・(数式9)
が挙げられるが、これに限られるわけではない。すなわち、必要演算量計算手段2は、前記複数の要素のうち一つ以上の要素を使用し、K=G(Z,Wa,Wb,Qprev,M,B,C,BR,S,P,ΔQprev,D)の計算を行うことにより所定フレームの必要演算量Kを算出する。
【0036】
なお、前フレームのアクティビティの量209及び必要演算量計算部により算出された前フレームの必要演算量206は、前フレームの必要演算量計算の処理において算出された値が要素メモリ8に記憶されており、その値が読み込まれて使用される。前フレームの量子化ステップサイズの平均値107、前フレームのマクロブロックマッチング回数202、前フレームの有効ブロック数203、前フレームの有効係数の数204、前フレームの符号化に実際に要した演算量205は、前フレームの符号化処理に要した時間Tと符号化処理を行っていたときのプロセッサの動作周波数FからF×Tで計算され、前フレームの符号化処理の際に動画像符号化手段5から必要演算量計算手段2にフィードバックされる。
【0037】
(第3の実施の形態)本発明の第3の実施の形態の動画像復号化処理システムS3は、符号化された動画像を復号化するシステムである。図6は動画像復号化処理システムS3の動作を示した概略ブロック図である。本実施の形態の動画像復号化処理システムS3は、動作電圧及び動作周波数がn段階(nは2以上の整数)に用意され且つプログラムにより動作電圧及び動作周波数を変更可能なプロセッサ1と、前記プロセッサ1の動作電圧及び動作周波数を制御する動作電圧・動作周波数制御手段4と、前フレームの復号化データを記憶する局部復号フレームメモリ36とを備える。ただし,局部復号メモリ36は動作電圧・動作周波数制御手段4により,プロセッサ1と同様に動作電圧・動作周波数が制御されてもよい。プロセッサ1は、プロセッサ1上で動作する必要演算量計算手段32と、プロセッサ1上で動作する動作電圧・動作周波数計算手段3と、プロセッサ1上で動作する動画像復号化手段35とを備える。符号301は入力符号化データ、符号102は動作電圧・動作周波数指示、符号105は動作電圧・動作周波数供給、符号306は復号化データであり、第1の実施の形態と同一符号は同一機能又はそれ相当の機能を有する部分である。符号化ではなく復号化を行う点及び下記以外の点は第1の実施の形態と同様である。
【0038】
図6に従って、動画像復号化処理システムS3の動作を説明する。以下、順次復号化されるフレームのうちこれから復号化される任意の一のフレーム(すなわち、あるフレームが復号化された時点を基準とすると次に復号化されるフレームであり、換言すると、その時点において未だに復号化処理されておらず未来に復号化処理が行われる予定であるフレーム)を所定フレーム、所定フレームより前に復号化された一のフレーム(過去に復号化されたフレーム)を前フレームとし、所定フレームを復号化する処理について説明するが、いずれのフレームについても同様の処理が行われる。コンピュータを動画像復号化処理システムS3として機能させる動画像復号化処理プログラムPrg3は、前記動画像符号化処理プログラムPrg1とほぼ同様であるが、ステップ5において、所定フレームの符号化データを復号化させる動画像復号化手段35としてコンピュータ(詳しくはコンピュータに内蔵されるプロセッサ1)を機能させる。動画像復号化処理システムS3に入力されてきた入力符号化データ301は、必要演算量計算手段32に入力される。必要演算量計算手段32は符号化データ301の一フレーム分(すなわち、所定フレームの符号化データ301)の発生情報量(ビット数)FBを計算し、必要計算量Kを予測する計算を行う。必要演算量Kは、
K=G(FB,MVa,MVv,B,C,BR,D,Q,ΔQprev,I,E,P)・・・(数式10)
で表される。FBは一フレーム分の発生情報量(ビット数)である。ただし、関数Gは要素FB,MVa,MVv,B,C,BR,D,Q,ΔQprev,I,E,Pの一つ以上の要素を用いて導き出される関数である。必要演算量Kは、所定フレームに必要と予測される演算性能(周波数,サイクル)であり、所定フレーム内のビット数FBが大きければ高い値と、ビット数FBが小さければ低い値となる。また、必要演算量Kを予測する計算である必要演算量計算手段32の要素として、所定フレームがフレーム内符号化であるかフレーム間符号化であるかの種類も使用することが可能であり、所定フレームがフレーム内符号化である場合の必要演算量Kは小さい値と、フレーム間符号化である場合の必要演算量Kは大きい値となる。さらに、必要計算量Kは、動きベクトルの大きさの平均値(これから復号化するフレームの,もしくは前フレームのもの)MVa、動きベクトルの大きさの分散 (これから復号化するフレームの,もしくは前フレームのもの)MVv、有効ブロック数(これから復号化するフレームの,もしくは前フレームのもの)B、有効係数の数(これから復号化するフレームの,もしくは前フレームのもの)C、ビットレート(これから復号化するフレームの,もしくは前フレームのもの)BR、符号量(これから復号化するフレームの,もしくは前フレームのもの)D、量子化ステップサイズの平均値(これから復号化するフレームの,もしくは前フレームのもの)Q、量子化ステップサイズの平均値の差(これから復号化するフレームのQと1つ前のフレームのQの差,もしくは1つ前のフレームのQと2つ前のフレームのQの差)ΔQ、IピクチャであるかPピクチャであるかBピクチャであるかの種類I、前フレームの復号化に実際に要した演算量E、前フレームの復号化に必要な演算量の予測値(すなわち、必要演算量計算手段により算出された前フレームの必要演算量)Pにも影響され、これらを必要演算量計算手段32において要素として使用しても良い。例えば、動きベクトルの大きさの平均値(これから復号化するフレームの,もしくは前フレームのもの)MVaが大きい場合は必要演算量Kが大きくなるように、小さい場合は必要演算量Kが小さくなるように、動きベクトルの大きさの分散 (これから復号化するフレームの,もしくは前フレームのもの)MVvが大きい場合は必要演算量Kが大きくなるように、小さい場合は必要演算量Kが小さくなるように、有効ブロック数(これから復号化するフレームの,もしくは前フレームのもの)Bが大きい場合は必要演算量Kが大きくなるように、小さい場合は必要演算量Kが小さくなるように、有効係数の数(これから復号化するフレームの,もしくは前フレームのもの)Cが大きい場合は必要演算量Kが大きくなるように、小さい場合は必要演算量Kが小さくなるようにする。必要演算量計算手段32においては、これらの要素のうち一つの要素のみを使用しても良いし、複数組み合わせて使用しても良い。すなわち、これらの複数の要素は所定フレームの復号化処理のために必要な必要演算量に影響を与える要素であるため、必要演算量計算手段32が、これらの要素に応じて必要演算量K(サイクル)を増減させるように計算を行うことにより、必要演算量計算手段32により計算される必要演算量Kが現実に復号化処理を行ったときの演算量により近い値となる。
【0039】
動作電圧・動作周波数計算手段3及び動作電圧・動作周波数制御手段4は、前記第1の実施の形態と同様である。動画像復号化手段35は、所定フレームの入力符号化データ301を復号化して復号化データ306を生成する。動画像復号化手段35による復号化処理に際しては、動作電圧・動作周波数制御手段4により一定の動作電圧及び動作周波数でプロセッサ1を動作させながら復号化処理が行われる。フレームごとに、そのフレームの復号化処理の前に必要な必要演算量が算出され、その必要演算量に応じた一定の動作周波数及び動作電圧でプロセッサを動作させながらそのフレームの復号化が行われるため、フレームを分割して成る所定数のブロックごとに動作周波数及び動作電圧を変更する従来技術と比較して、低消費電力化を図ることができる。復号化データ306は、携帯電話やパソコンの画像表示部に動画像として表示されたり、ハードディスク等の記憶媒体に記憶される。
【0040】
【発明の効果】
以上説明したように、本発明の動画像符号化又は復号化処理システムと動画像符号化又は復号化処理プログラムによれば、これから符号化又は復号化する所定フレーム(未来に符号化又は復号化するフレーム)に対して、符号化又は復号化に要する必要演算量を予測する計算を行い、その所定フレームの処理に割り当てられた時間内は一定の動作周波数で制御することにより、フレーム単位に動作電圧・動作周波数がダイナミックに制御されるため、低消費電力を実現することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態の動画像符号化処理システムの動作を示した概略ブロック図。
【図2】上記実施の形態の動画像符号化処理システムとしてコンピュータを機能させる動画像符号化処理プログラムの概略フローチャートを示す図。
【図3】上記実施の形態の動画像符号化処理システムに使用されるプロセッサの動作電圧・動作周波数を示す概念図。
【図4】本発明の有効性を説明する図。
【図5】本発明の第2の実施の形態の動画像符号化処理システムの動作を示した概略ブロック図。
【図6】本発明の第3の実施の形態の動画像復号化処理システムの動作を示した概略ブロック図。
【図7】動画像符号化処理システムについて従来の低消費電力化を行う手法を示した図。
【図8】フレーム単位に動画像符号化又は復号化の演算量が異なる状態を示す概念図。
【符号の説明】
S1,S2 動画像符号化処理システム
S3 動画像復号化処理システム
1 プロセッサ
2 必要演算量計算手段
3 動作電圧・動作周波数計算手段
4 動作電圧・動作周波数制御手段
5 動画像符号化手段
6 局部復号フレームメモリ
7 入力フレームメモリ
8 要素メモリ
101 入力画像データ
102 動作電圧・動作周波数指示
103 局部復号データ
105 動作電圧・動作周波数供給
106 符号化データ
107 前フレームの量子化ステップサイズの平均値、
108 各フレームについてフレーム内符号化であるかフレーム間符号化であるかの種類
109 動画像の符号化ビットレート
209 前フレーム(過去のフレーム)のアクティビティの量
202 前フレームのマクロブロックマッチング回数
203 前フレームの有効ブロック数
204 前フレームの有効係数の数
205 前フレームの符号化に実際に要した処理量
206 必要演算量計算部により算出された前フレームの必要演算量
210 前フレームの量子化ステップサイズの平均値とその一つ前のフレームの量子化ステップサイズの平均値の差
35 動画像復号化手段
36 局部復号フレームメモリ
301 入力符号化データ
306 復号化データ

Claims (4)

  1. 動作周波数及び動作電圧が変更可能なプロセッサと、そのプロセッサを使用して連続する複数のフレームから構成される動画像をフレーム単位で順次符号化する動画像符号化手段を有するシステムにおいて、これから符号化される任意の一のフレームを所定フレームとし、前記所定フレームより前に符号化処理されるフレームを前フレームとすると、
    動画像符号化手段による所定フレームの符号化に必要な必要演算量を計算する必要演算量計算手段と、所定フレームの符号化処理に予め割り当てられている時間内に前記必要演算量を処理可能な動作電圧及び動作周波数を計算する動作電圧・動作周波数計算手段と、前記動作電圧・動作周波数計算手段により算出された動作周波数及び動作電圧でプロセッサを動作させる動作電圧・動作周波数制御手段とを備え、
    前記必要演算量計算手段は、所定フレームと前フレームとの動き量、所定フレームのアクティビティの量、前フレームのアクティビティの量、前フレームの量子化ステップサイズの平均値、前フレームの量子化ステップサイズの平均値とその一つ前のフレームの量子化ステップサイズの平均値の差、前フレームのマクロブロックマッチング回数、前フレームの有効ブロック数、前フレームの有効係数の数、前フレームの符号化に実際に要した演算量、前フレームの発生ビット数、所定フレームの符号化ビットレート、所定フレームについてフレーム内符号化又はフレーム間符号化のいずれであるかの種類、必要演算量計算手段により算出された前フレームの必要演算量のうち、一つ以上の要素を使用して必要演算量Kを計算するものであり、
    前記必要演算量計算手段により所定フレームの必要演算量Kを算出し、前記動作電圧・動作周波数計算手段により前記必要演算量Kを処理可能な動作電圧V・動作周波数Fを算出した後に、前記動作電圧・動作周波数制御手段により所定フレームの符号化処理に割り当てられた時間内は前記算出された一定の動作周波数及び一定の動作電圧で前記プロセッサを動作させ、前記プロセッサが当該一定の動作周波数F及び一定の動作電圧Vで動作しながら動画像符号化手段により所定フレームの符号化処理を行うことを特徴とする動画像符号化処理システム。
  2. 動作周波数及び動作電圧が変更可能なプロセッサと、そのプロセッサを使用して連続する複数のフレームから構成される動画像をフレーム単位で順次復号化する動画像復号化手段を有するシステムにおいて、これから復号化される任意の一のフレームを所定フレームとし、前記所定フレームより前に復号化処理されるフレームを前フレームとすると、
    動画像復号化手段による所定フレームの復号化に必要な必要演算量を計算する必要演算量計算手段と、所定フレームの復号化処理に予め割り当てられている時間内に前記必要演算量を処理可能な動作電圧及び動作周波数を計算する動作電圧・動作周波数計算手段と、前記動作電圧・動作周波数計算手段により算出された動作周波数及び動作電圧でプロセッサを動作させる動作電圧・動作周波数制御手段とを備え、
    前記必要演算量計算手段は、所定フレームの符号化データのビット数、前記所定フレームがフレーム内符号化されたものであるか又はフレーム間符号化されたものであるかの種類、動きベクトルの大きさの平均値 ( 所定フレームの,もしくは前フレームのもの ) 、動きベクトルの大きさの分散 ( 所定フレームの,もしくは前フレームのもの ) 、有効ブロック数 ( 所定フレームの,もしくは前フレームのもの ) 、有効係数の数 ( 所定フレームの,もしくは前フレームのもの ) 、ビットレート ( 所定フレームの,もしくは前フレームのもの ) 、符号量 ( 所定フレームの,もしくは前フレームのもの ) 、量子化ステップサイズの平均値 ( 所定フレームの,もしくは前フレームのもの ) 、量子化ステップサイズの平均値の差 ( 所定フレームと1つ前のフレームの量子化ステップサイズの差,もしくは1つ前のフレームの量子化ステップサイズと2つ前のフレームの量子化ステップサイズの差 ) 、前フレームの復号 化に実際に要した演算量、必要演算量計算手段により算出された前フレームの必要演算量のうち、一つ以上の要素を使用して必要演算量Kを計算するものであり、
    前記必要演算量計算手段により所定フレームの必要演算量Kを算出し、前記動作電圧・動作周波数計算手段により前記必要演算量Kを処理可能な動作電圧V・動作周波数Fを算出した後に、前記動作電圧・動作周波数制御手段により所定フレームの符号化又は復号化処理に割り当てられた時間内は前記算出された一定の動作周波数及び一定の動作電圧で前記プロセッサを動作させ、前記プロセッサが当該一定の動作周波数F及び一定の動作電圧Vで動作しながら動画像復号化手段により所定フレームの復号化処理を行うことを特徴とする動画像復号化処理システム。
  3. 動作周波数及び動作電圧が変更可能なプロセッサを有するコンピュータを、そのプロセッサを使用して連続する複数のフレームから構成される動画像をフレーム単位で順次符号化する動画像符号化手段を有するシステムとして機能させるプログラムにおいて、任意の一のフレームを所定フレームとし、前記所定フレームより前に符号化処理されるフレームを前フレームとすると、
    動画像符号化手段による所定フレームの符号化に必要な必要演算量を計算する必要演算量計算手段と、所定フレームの符号化処理に予め割り当てられている時間内に前記必要演算量を処理可能な動作電圧及び動作周波数を計算する動作電圧・動作周波数計算手段と、前記動作電圧・動作周波数計算手段により算出された動作周波数及び動作電圧でプロセッサを動作させる動作電圧・動作周波数制御手段とを備え、
    前記必要演算量計算手段は、所定フレームと前フレームとの動き量、所定フレームのアクティビティの量、前フレームのアクティビティの量、前フレームの量子化ステップサイズの平均値、前フレームの量子化ステップサイズの平均値とその一つ前のフレームの量子化ステップサイズの平均値の差、前フレームのマクロブロックマッチング回数、前フレームの有効ブロック数、前フレームの有効係数の数、前フレームの符号化に実際に要した演算量、前フレームの発生ビット数、所定フレームの符号化ビットレート、所定フレームについてフレーム内符号化又はフレーム間符号化のいずれであるかの種類、必要演算量計算手段により算出された前フレームの必要演算量のうち、一つ以上の要素を使用して必要演算量Kを計算するものであり、
    前記必要演算量計算手段により所定フレームの必要演算量Kを算出し、前記動作電圧・動作周波数計算手段により前記必要演算量Kを処理可能な動作電圧V・動作周波数Fを算出した後に、前記動作電圧・動作周波数制御手段により所定フレームの符号化処理に割り当てられた時間内は前記算出された一定の動作周波数及び一定の動作電圧で前記プロセッサを動作させ、前記プロセッサが当該一定の動作周波数F及び一定の動作電圧Vで動作しながら動画像符号化手段により所定フレームの符号化処理を行うように、コンピュータを機能させることを特徴とする動画像符号化処理プログラム。
  4. 動作周波数及び動作電圧が変更可能なプロセッサを有するコンピュータを、そのプロセッサを使用して連続する複数のフレームから構成される動画像をフレーム単位で順次復号化する動画像復号化手段を有するシステムとして機能させるプログラムにおいて、任意の一のフレームを所定フレームとし、連続する複数のフレームのうち前記所定フレームより前に復号化処理されるフレームを前フレームとすると、
    動画像復号化手段による所定フレームの復号化に必要な必要演算量を計算する必要演算量計算手段と、所定フレームの復号化処理に予め割り当てられている時間内に前記必要演算量を処理可能な動作電圧及び動作周波数を計算する動作電圧・動作周波数計算手段と、前記動作電圧・動作周波数計算手段により算出された動作周波数及び動作電圧でプロセッサを動作させる動作電圧・動作周波数制御手段とを備え、
    前記必要演算量計算手段は、所定フレームの符号化データのビット数、前記所定フレームがフレーム内符号化されたものであるか又はフレーム間符号化されたものであるかの種類、動きベクトルの大きさの平均値 ( 所定フレームの,もしくは前フレームのもの ) 、動きベクトルの大きさの分散 ( 所定フレームの,もしくは前フレームのもの ) 、有効ブロック数 ( 所定フレームの,もしくは前フレームのもの ) 、有効係数の数 ( 所定フレームの,もしくは 前フレームのもの ) 、ビットレート ( 所定フレームの,もしくは前フレームのもの ) 、符号量 ( 所定フレームの,もしくは前フレームのもの ) 、量子化ステップサイズの平均値 ( 所定フレームの,もしくは前フレームのもの ) 、量子化ステップサイズの平均値の差 ( 所定フレームと1つ前のフレームの量子化ステップサイズの差,もしくは1つ前のフレームの量子化ステップサイズと2つ前のフレームの量子化ステップサイズの差 ) 、前フレームの復号化に実際に要した演算量、必要演算量計算手段により算出された前フレームの必要演算量のうち、一つ以上の要素を使用して必要演算量Kを計算するものであり、
    前記必要演算量計算手段により所定フレームの必要演算量Kを算出し、前記動作電圧・動作周波数計算手段により前記必要演算量Kを処理可能な動作電圧V・動作周波数Fを算出した後に、前記動作電圧・動作周波数制御手段により所定フレームの復号化処理に割り当てられた時間内は前記算出された一定の動作周波数及び一定の動作電圧で前記プロセッサを動作させ、前記プロセッサが当該一定の動作周波数F及び一定の動作電圧Vで動作しながら動画像復号化手段により所定フレームの復号化処理を行うように、コンピュータを機能させることを特徴とする動画像復号化処理プログラム。
JP2003048535A 2002-02-26 2003-02-26 動画像符号化処理システム、動画像復号化処理システム、動画像符号化処理プログラム、及び、動画像復号化処理プログラム Expired - Fee Related JP3772183B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003048535A JP3772183B2 (ja) 2002-02-26 2003-02-26 動画像符号化処理システム、動画像復号化処理システム、動画像符号化処理プログラム、及び、動画像復号化処理プログラム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2002099372 2002-02-26
JP2002-99372 2002-02-26
JP2003048535A JP3772183B2 (ja) 2002-02-26 2003-02-26 動画像符号化処理システム、動画像復号化処理システム、動画像符号化処理プログラム、及び、動画像復号化処理プログラム

Publications (2)

Publication Number Publication Date
JP2003324735A JP2003324735A (ja) 2003-11-14
JP3772183B2 true JP3772183B2 (ja) 2006-05-10

Family

ID=29552255

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003048535A Expired - Fee Related JP3772183B2 (ja) 2002-02-26 2003-02-26 動画像符号化処理システム、動画像復号化処理システム、動画像符号化処理プログラム、及び、動画像復号化処理プログラム

Country Status (1)

Country Link
JP (1) JP3772183B2 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7941675B2 (en) 2002-12-31 2011-05-10 Burr James B Adaptive power control
US7953990B2 (en) 2002-12-31 2011-05-31 Stewart Thomas E Adaptive power control based on post package characterization of integrated circuits
US7228242B2 (en) 2002-12-31 2007-06-05 Transmeta Corporation Adaptive power control based on pre package characterization of integrated circuits
JP3548765B1 (ja) * 2003-03-11 2004-07-28 オムロン株式会社 最大電力追従制御装置
US20070160152A1 (en) * 2003-12-08 2007-07-12 Kanazawa University Technology Licensing Organization Ltd. System for encoding/decoding motion picture and method for encoding/decoding motion picture
US7129771B1 (en) 2003-12-23 2006-10-31 Transmeta Corporation Servo loop for well bias voltage source
US7012461B1 (en) 2003-12-23 2006-03-14 Transmeta Corporation Stabilization component for a substrate potential regulation circuit
US7692477B1 (en) 2003-12-23 2010-04-06 Tien-Min Chen Precise control component for a substrate potential regulation circuit
US7649402B1 (en) 2003-12-23 2010-01-19 Tien-Min Chen Feedback-controlled body-bias voltage source
US7639743B2 (en) * 2004-03-25 2009-12-29 Sony Corporation Image decoder and image decoding method and program
WO2005096634A1 (ja) * 2004-03-30 2005-10-13 Kanazawa University Technolgy Licensing Organization Ltd. マルチタスク処理システム、及び、マルチタスク処理方法
US7562233B1 (en) * 2004-06-22 2009-07-14 Transmeta Corporation Adaptive control of operating and body bias voltages
US7774625B1 (en) * 2004-06-22 2010-08-10 Eric Chien-Li Sheng Adaptive voltage control by accessing information stored within and specific to a microprocessor
JP2007251553A (ja) * 2006-03-15 2007-09-27 Matsushita Electric Ind Co Ltd リアルタイム処理装置及びその方法
JP5061757B2 (ja) * 2007-07-03 2012-10-31 日本電気株式会社 情報処理システム、映像送信サーバ、及び、端末
JP5056600B2 (ja) * 2008-06-10 2012-10-24 富士通株式会社 画像復号装置
JP5220834B2 (ja) * 2010-12-14 2013-06-26 技嘉科技股▲ふん▼有限公司 表示演算モジュール用検知切替システム

Also Published As

Publication number Publication date
JP2003324735A (ja) 2003-11-14

Similar Documents

Publication Publication Date Title
JP3772183B2 (ja) 動画像符号化処理システム、動画像復号化処理システム、動画像符号化処理プログラム、及び、動画像復号化処理プログラム
KR100873586B1 (ko) 미디어 프로세서에서 mpeg2 디코딩의 동적인 복잡도예측 및 조절
CN1879418B (zh) 用于视频编解码器的复杂度控制的方法和装置
US8737482B2 (en) Information processing apparatus and inter-prediction mode determining method
US20070081589A1 (en) Adaptive quantization controller and methods thereof
US20090060045A1 (en) Moving picture encoding apparatus and moving picture encoding method
JP2004266731A (ja) 動画符号化方法および装置
WO2006033227A1 (ja) 画像符号化装置
JPWO2004093458A1 (ja) 動画像符号化又は復号化処理システム及び動画像符号化又は復号化処理方法
RU2734616C1 (ru) Способ декодирования видео с предсказанием и устройство декодирования видео с предсказанием
JP4922101B2 (ja) 情報処理装置およびインター予測モード判定方法
JPWO2006004065A1 (ja) 動画像符号化処理システム、動画像符号化又は復号化処理システム、動画像符号化処理方法、及び、動画像符号化又は復号化処理方法
JP2003209845A (ja) 画像符号化集積回路
JP2007325119A (ja) 画像処理装置及び画像処理方法
JP2000032468A (ja) 画像符号化方法および動き補償モード選択プログラムを記録した記録媒体
JP4823150B2 (ja) 符号化装置並びに符号化方法
JP2006324888A (ja) 動画像符号化装置
JP3772184B2 (ja) 動画像符号化処理システム、動画像復号化処理システム、動画像符号化処理方法、及び、動画像復号化処理方法
KR100575962B1 (ko) 비디오 처리 장치의 파이프 라인 동작 방법과 그에 따른비트율 제어 방법
JP4243205B2 (ja) 動画像符号化装置、その方法及びそのプログラム
WO2005062621A1 (ja) 動画像符号化又は復号化処理システム、及び、動画像符号化又は復号化処理方法
JP2001045493A (ja) 動画像符号化装置、動画像出力装置、及び記憶媒体
JP2008263549A (ja) 動画像符号化装置および動画像符号化方法
JP2009118097A (ja) 画像符号化装置及びその制御方法、コンピュータプログラム
JP2008245237A (ja) 画像処理方法、画像処理装置およびそれを用いた撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050128

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20050128

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050310

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050412

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050613

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20050920

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051025

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051129

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees