JPH0879741A - 画像処理装置及び方法 - Google Patents

画像処理装置及び方法

Info

Publication number
JPH0879741A
JPH0879741A JP20781294A JP20781294A JPH0879741A JP H0879741 A JPH0879741 A JP H0879741A JP 20781294 A JP20781294 A JP 20781294A JP 20781294 A JP20781294 A JP 20781294A JP H0879741 A JPH0879741 A JP H0879741A
Authority
JP
Japan
Prior art keywords
data
frame
code
coded data
conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP20781294A
Other languages
English (en)
Other versions
JP3715664B2 (ja
Inventor
Mitsuru Maeda
充 前田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP20781294A priority Critical patent/JP3715664B2/ja
Publication of JPH0879741A publication Critical patent/JPH0879741A/ja
Application granted granted Critical
Publication of JP3715664B2 publication Critical patent/JP3715664B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】 【目的】 JPEGデータをMPEGデータに変換する
際に、画像データに復号化するJPEGデータを低減す
る。 【構成】 MotionJPEGデータからIフレームのMP
EGデータへの変換を行う場合は、量子化係数とブロッ
ク単位のJPEGデータをデータ変換器111に入力
し、量子化係数とJPEGデータとの演算結果からMP
EGデータを得た後、コードバッファ115に出力す
る。また、MotionJPEGデータからPフレームのMP
EGデータへの変換を行う場合は、符号化器110でMo
tionJPEGデータの復号化を行い、各ブロックのDC
T係数を逆DCT変換して画素値を再生し、各画素値の
差分を求めた後、求めた差分値にDCT変換を施し、量
子化係数で量子化して量子化結果を得る。そして、差分
比較器109の出力結果に応じて、データ変換器111
の出力または符号化器110の出力または符号化器11
2の出力を選択してコードバッファ115に出力する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、動画像の処理を行う画
像処理装置及び方法に関するものである。
【0002】
【従来の技術】近年、画像データの符号化技術の国際標
準化が盛んに行われている。カラー多値画像の符号化方
式として、JPEG(カラー静止画符号化)方式が国際
標準となった。この方式は入力されたカラー多値画像を
ブロックに分割し、DCT変換を施した後、係数を量子
化し、量子化結果にハフマン符号を割り当て、符号化す
る方式である。なお、詳細は「カラー静止画像符号化国
際標準方式(JPEG)の概説(その1)(技術解
説)」[画像電子学会誌第20巻第1号]に掲載されて
いる。
【0003】また、動画像に関しても国際標準化が進め
られている。TV会議を用途としたH.261(通信用
動画符号化)方式や、蓄積メディアを用途としたMPE
G(蓄積用動画像符号化)方式が標準となった。これら
の符号化方式は基本となるフレームをフレーム内符号化
し、その他のフレームを動き補償によって符号化する方
式である。フレーム内符号化の基本はJPEG方式と同
様にブロック分割とDCT変換である。また、動き補償
においてもブロック単位に動きベクトルを算出し、その
対象ブロックとの差分を求め、差分ブロックをDCT変
換し、係数を量子化し、量子化結果にハフマン符号を割
り当て、符号化する方式である。なお、詳細は「マルチ
メディア符号化の国際標準」[丸善(株)]に掲載され
ている。
【0004】これらの標準化が進む一方で、これらの技
術のLSI化が急速に実現しつつある。標準化の進めら
れた順に、最初にJPEG方式のLSIが発表された。
その後、JPEG方式の符号化を行うLSIが安価かつ
大量に供給された。これにより、動画像の符号化方式で
あるMPEG方式が標準化される前に、動画像の各フレ
ームをJPEG方式で符号化して磁気ディスク等に格納
するアプリケーションが普及した。以下、動画像をJP
EG方式により符号化したデータをMotionJPEGデー
タと称する。
【0005】これらのアプリケーションでは、MPEG
方式と比較してフレーム単位での編集が容易であり、取
扱いが容易であるという特徴がある。一方、MPEG方
式は、フレーム間符号化を採用しているために符号化効
率が高いという特徴がある。
【0006】また、これらのデータを処理するに際し
て、MotionJPEGデータをMPEGデータに変換する
技術も必要となる。
【0007】
【発明が解決しようとする課題】しかしながら、上述し
た例では、MotionJPEGデータをMPEGデータに変
換する際に、MotionJPEGデータを復号化して画像デ
ータに一旦戻し、その復号化された画像データをMPE
Gデータに再符号化するため、次のような欠点があっ
た。
【0008】すなわち、JPEG方式の復号化とMPE
G方式の符号化とを同時に実施するために装置の制御が
複雑であり、処理量も大きくなる。例えば、JPEG復
号器やMPEG符号化部をソフトウェアで実現すると、
処理を行うのに非常に多くの時間がかかってしまう。ま
た、MPEG方式で符号化する際に参照フレームを格納
しておく作業用のフレームメモリが必要であり、装置全
体のコストを下げる際の障害となる等の問題があった。
【0009】そこで、本発明の目的は、JPEGデータ
のようなフレーム内符号化データをMPEGデータのよ
うなフレーム間相関による符号化データに変換する際
に、画像データに復号化するフレーム内符号化データを
減らして効率よくデータの変換を行うことのできる画像
処理装置及び方法を提供することにある。
【0010】
【課題を解決するための手段】上記目的を達成するた
め、本発明の画像処理方法は、動画像データのフレーム
内符号化による符号化データをフレーム間相関による符
号化データに変換する画像処理方法であって、、前記フ
レーム間相関による符号化データのうちの少なくとも一
部のフレームの符号化データを復号化することなく変換
処理して用いる。
【0011】また、本発明の画像処理方法において、前
記フレーム内符号化による符号化データは、画素データ
の直交変換符号化によって得られる。
【0012】また、本発明の画像処理方法において、前
記フレーム間相関による符号化データは、画素データの
直交変換符号化によって得られる。
【0013】また、本発明の画像処理方法において、前
記少なくとも一部のフレームはフレーム内符号化フレー
ムである。
【0014】また、本発明の画像処理装置において、入
力されたフレーム内符号化による符号化データにおける
過去の符号化データと現在の符号化データとを比較する
データ比較手段と、前記フレーム内符号化による符号化
データを一次変換によってフレーム間相関による符号化
データに変換する第1のデータ変換手段と、フレーム内
符号化による符号化データを復号化してその復号された
データをフレーム間相関による符号化データに変換する
第2のデータ変換手段と、前記データ比較手段の出力に
よって前記第1のデータ変換手段と前記第2のデータ変
換手段とを選択する選択手段とを具備する。
【0015】また、本発明の画像処理装置において、前
記フレーム内符号化による符号化データは、画素データ
の直交変換符号化によって得られる。
【0016】また、本発明の画像処理装置において、前
記フレーム間相関による符号化データは、画素データの
直交変換符号化によって得られる。
【0017】また、本発明の画像処理装置において、前
記データ比較手段は、画素データの直交変換によって得
られた係数を比較する。
【0018】また、本発明の画像処理装置において、前
記第1のデータ変換手段は、フレーム内符号化による符
号化データの量子化係数とフレーム間相関による符号化
データの量子化係数とを比較する比較手段と、前記比較
手段からの比較結果に基づいてフレーム間相関による符
号化データに一次変換する変換手段とを具備する。
【0019】また、本発明の画像処理装置において、前
記一次変換は、上記比較手段の比較結果とフレーム内符
号化による符号化データとによって決まるアドレスを入
力とし、フレーム間相関による符号化データを出力とす
るルックアップテーブルによって行われる。
【0020】
【作用】本発明は、JPEGデータのようなフレーム内
符号化データをMPEGデータのようなフレーム間相関
による符号化データに変換する際に、特定のフレームの
符号化データを符号化データのまま変換している。その
ため、JPEGデータをMPEGデータに変換する際
に、画像データに復号化するJPEGデータを減らすこ
とができ、変換時間を短縮できる。
【0021】すなわち、データ比較手段は、フレーム間
相関による符号化方式の符号化単位分のデータ量の各ブ
ロックのフレーム内符号化による符号化データの直交変
換係数を前フレームの同一位置の各ブロックのフレーム
内符号化による符号化データの直交変換係数と比較する
ように動作する。第1のデータ変換手段は、フレーム内
符号化による符号化データをフレーム間相関による符号
化データにフレーム内符号化による符号化データのまま
変換するように動作する。第2のデータ変換手段は、フ
レーム内符号化による符号化データを復号し、同一位置
で時間が異なるフレーム内符号化による符号化データを
参照してフレーム間相関による符号化データに変換する
ように動作する。選択手段は、前記比較手段の結果に基
づいて前記第1のデータ変換手段または第2のデータ変
換手段の出力を選択するように動作する。
【0022】
【実施例】以下、本発明の第1の実施例による画像符号
化データ変換装置を図面を参照しながら説明する。図1
は、本発明の一実施例による画像符号化データ変換装置
の構成を示すブロック図である。
【0023】以下の説明では、フレーム内符号化データ
を、JPEG方式で符号化されたMotionJPEGデータ
とし、フレーム間相関を用いた符号化データを、MPE
G方式で符号化したデータとする。
【0024】図1において、1は、MotionJPEGデー
タを格納する記憶装置であり、2は、JPEG方式の復
号化を行うJPEG復号器である。3は、動画像のフレ
ーム画像を格納するフレームメモリである。4は、フレ
ームメモリ3に格納された画像データを表示するディス
プレイである。5は、MotionJPEGデータをMPEG
方式で符号化したデータに変換するデータ変換部であ
る。6は、装置外部との通信を制御する通信インターフ
ェースである。7は、コンピュータネットワークや公衆
回線(例えばISDN回線)で構成される通信回線であ
る。8は、MPEG方式で符号化されたMPEGデータ
を格納する記憶装置である。9は、装置全体を制御統括
するCPUである。10は、ユーザが動画像表示の要求
や指定をする入力装置である。
【0025】JPEGデータのMPEGデータへの変換
は以下の手順で行われる。すなわち、MotionJPEGデ
ータは、記憶装置1からデータ変換部5に入力される。
データ変換部5は、入力されたMotionJPEGデータを
MPEGデータに変換する。
【0026】図2にデータ変換部5のブロック図を示
す。同図において、101は、MPEG方式の符号化単
位分のMotionJPEGデータを格納するコードバッファ
である。ここで、MPEG方式の符号化単位をMPEG
方式のマクロブロックとする。なお、マクロブロック
は、左右及び上下に隣合った4つの輝度ブロックY0
1 、Y2 、Y3 と画像上では同じ位置にあたる2つの
色差ブロックCb、Crとの全部で6つのブロックで構
成される。102は、1フレーム分のMotionJPEGデ
ータを格納するコードメモリである。103は、Motion
JPEGデータを入力してDCT係数を復号する復号器
である。104、105、106は、量子化係数を格納
するラッチである。107、108は、MPEG方式の
1マクロブロック分の復号化されたDCT係数を格納す
るラッチである。
【0027】109は、ブロック単位でDCT係数の絶
対値差分を求め、各差分値をあらかじめ設定した閾値と
比較して判定結果を出力する差分比較器である。110
は、復号データからMPEGデータを生成する符号化器
である。111は、MotionJPEGデータの符号化デー
タをMPEGデータに変換するデータ変換器である。1
12は、差分比較器109の出力を元にMPEGデータ
を生成する符号化器ある。113は、MPEGヘッダデ
ータを生成する符号化器である。114は、差分比較器
109の出力結果に基づき入力を選択して出力するセレ
クタである。115は、セレクタ114の出力を格納し
ておくコードバッファである。116は、MotionJPE
Gデータの各ヘッダデータを解析するヘッダ解析器であ
る。117は、差分出力器109の出力を1マクロブロ
ック分格納するラッチである。
【0028】ここで、説明を容易にするために入力され
るMotionJPEGデータは4:1:1のサブサンプリン
グ比であるとする。また、MPEG方式のGOP(Grou
p ofPicture)の構成をフレーム内符号化(Intra )フ
レーム(以下Iフレームと略す)と時間的に前のフレー
ムを参照する動き補償符号化(Predictive)フレーム
(以下Pフレームと略す)とで構成されるものとする。
【0029】MPEG方式のGOPの構成は、Iフレー
ムとPフレームとで構成されるものとし、1GOPの構
成を15フレームとし、各フレームの符号化モードを、 I、P、P、P、P、P、P、P、P、P、P、P、
P、P、P とする。
【0030】以下、図2における各構成部の動作につい
て詳細に述べる。まず、MotionJPEGデータからMP
EGデータへの変換に先立ち、図1のCPU9によって
図2に示す各構成部の初期化が実施される。
【0031】次に、MotionJPEGデータの最初のフレ
ームのヘッダデータが、コードバッファ101を経由し
てヘッダ解析器116に入力される。ヘッダ解析器11
6は、MotionJPEGデータのヘッダデータを解析し、
画像サイズ等の画像の属性を得る。この結果は、符号化
器113に入力される。符号化器113は、これらの属
性と併せてCPU9から動画像としての属性、フレーム
レートや符号化レート等が入力され、これらに基づいて
MPEGヘッダデータを生成する。生成されたMPEG
ヘッダデータは、セレクタ114を介してコードバッフ
ァ115に出力する。ここで生成されるMPEGヘッダ
データは、シーケンススタートコード(SSC)で始ま
るシーケンスヘッダデータやGOPスタートコード(G
SC)で始まるGOPヘッダデータなどから成る。ま
た、ヘッダ解析器116はJPEG方式で用いた量子化
テーブルから予め決められたデフォルト量子化テーブル
を用いて量子化係数Q1を求める。求められた量子化係
数Q1はラッチ105に入力される。デフォルト量子化
テーブルは符号化して上記シーケンスヘッダデータに入
れる。
【0032】以下に、MotionJPEGデータからIフレ
ームのMPEGデータへの変換について述べる。フレー
ム内符号化に先立ち、CPU9は、MPEG方式におけ
る符号化制御のために量子化係数Q2をラッチ106に
格納する。また、符号化器113でフレームのヘッダデ
ータ(ピクチャヘッダ)を生成する。ここで、符号化し
たフレームがIフレームであることが示されている。
【0033】MPEG方式の符号化単位分のMotionJP
EGデータが順に図1の記憶装置1から読み出され、コ
ードバッファ101に入力される。フレーム内の位置関
係は、JPEG符号化方式のマクロブロックとMPEG
符号化方式のマクロブロックとは一致する。従って、1
マクロブロックには輝度ブロックが4ブロックと色差ブ
ロックが2ブロック含まれる。コードバッファ101に
格納されたMotionJPEGデータは、コードメモリ10
2とデータ変換器111に入力される。コードメモリ1
02は、FIFOメモリ等で構成される。
【0034】続いて、マクロブロックデータの処理を行
う。もし、入力されたマクロブロックのデータがフレー
ムの左端であれば、符号化器113は、スライスヘッダ
を生成し、セレクタ114を介してコードバッファ11
5に出力し格納する。スライスヘッダを生成する時に量
子化係数Q2をラッチ106から読み出し、符号化して
スライスヘッダに入れる。
【0035】データ変換器111のブロック図を図3に
示す。150は、量子化係数Q1、Q2を入力し、量子
化倍数P1を求める演算器である。151は、入力され
た符号化データを選択信号に従って出力先を変えるセレ
クタである。152は、ROM等で構成されるマクロブ
ロックヘッダ生成器である。153は、符号化データ等
をアドレスとするROM等で構成される、DCT係数の
直流成分の符号化データを変換するDC変換器である。
154は、符号化データ等をアドレスとするROM等で
構成される、DCT係数の交流成分の符号化データを変
換するAC変換器である。155は、選択信号に従っ
て、入力先を変えるセレクタである。
【0036】最初に、データ変換器111は、マクロブ
ロックのヘッダデータを出力する。このヘッダデータ
は、符号化するマクロブロックがフレーム内符号化すな
わち Intraモードで符号化されることを表すヘッダデー
タである。CPU9は、セレクタ155の入力にマクロ
ブロックヘッダ生成器152の出力を選択させ、マクロ
ブロックヘッダデータをマクロブロックヘッダ生成器1
52から読み出し、出力する。
【0037】続いて、データ変換器111は、ブロック
単位でJPEGデータを入力する他にラッチ105とラ
ッチ106から量子化係数Q1、Q2を入力する。最初
に、ラッチ105から入力された量子化係数Q1とラッ
チ106から入力された量子化係数Q2とから量子化倍
数P1を演算器150で、次式に従って求める。 P1=Q2/Q1 …… (1)
【0038】続いて、各ブロックの処理を行う。JPE
Gデータにおけるブロック単位の符号化データはDCT
直流成分のDPCM結果と交流成分の量子化された結果
と0ラン長のハフマン符号とで構成される。
【0039】まず、直流成分の符号の変換について述べ
る。サブサンプリング比が4:1:1のJPEG方式と
MPEG方式では同じ順でZ字でDPCMがかかる。従
って、量子化倍数P1を用いて直流成分の変換を行う。
例えば、入力された輝度成分の差分値D1が33であっ
た場合、そのハフマン符号は“1110100001”
である。ここで量子化倍数P1が3であれば、出力する
差分値D2は、 D2=D1/P1 …… (2) で求められる。
【0040】この場合の差分値D2は11であり、従っ
て、このハフマン符号は“1011011”と変換され
る。実際には、予めDC変換器153に量子化倍数P1
の値とハフマン符号をアドレスとして変換結果を格納し
ておき、DC変換器153のROMから読み出して変換
を行う。
【0041】次に、交流成分の符号の変換について述べ
る。例えば、輝度成分のハフマン符号“1111111
1100010011000”は、0ラン長が2で量子
化結果R1が16であることを示す。量子化倍数P1が
3であれば出力する量子化結果R2は、 R2=R1/P1 …… (3) から5となり、0ラン長が2で量子化結果が5を表すハ
フマン符号“1111110111101”に変換され
る。
【0042】実際には、予めAC変換器154に量子化
倍数P1の値とハフマン符号をアドレスとして変換結果
を格納しておき、AC変換器154のLUTとしてのR
OMから読み出して変換を行う。このように変換して得
られたMPEGデータは、コードバッファ115に格納
される。
【0043】以下、マクロブロック単位の処理を行い、
1フレームの処理が終了したら、コードバッファ115
の内容を送出し、図1の記憶装置8に格納したり、通信
インターフェース6を介して通信回線7に出力したりす
る。また、送出した符号長をCPU9に通報する。その
後、コードバッファ115をクリアする。
【0044】以上述べたように、本実施例によれば、Mo
tionJPEGデータをIフレームのMPEGデータへ変
換する場合に、従来のようにMotionJPEGデータを復
号化して画像データに戻すことなく、MotionJPEGデ
ータと量子化係数とから一次変換によって直接MPEG
データへ変換を行っているので、変換時間の短縮化が可
能になる。
【0045】次に、MotionJPEGデータからPフレー
ムのMPEGデータへの変換について述べる。動き補償
符号化に先立ち、CPU9は、前フレームにかかった符
号長から符号化制御のための量子化係数Q2を求め、ラ
ッチ106に格納する。また、ラッチ105の量子化係
数Q1′をラッチ104に移動させる。そして、JPE
G方式で用いた量子化テーブルから予め決められたデフ
ォルト量子化テーブルを用いて量子化係数Q1を求め
る。求められた量子化係数Q1はラッチ105に入力さ
れる。符号化器113でフレームのピクチャヘッダを生
成する。ここで、符号化したフレームがPフレームであ
ることが示されている。
【0046】1マクロブロック分のMotionJPEGデー
タが順に記憶装置1から読み出され、コードバッファ1
01に入力される。コードバッファ101に格納された
JPEGデータは、コードメモリ102、復号器10
3、データ変換器111に入力される。そして、復号器
103に入力されたJPEGデータを復号し、ラッチ1
05の量子化係数Q1を用いて各ブロック毎にDCT係
数の直流成分と交流成分を生成し、ラッチ107に格納
する。続いて、コードメモリ102から前フレームの同
一位置のマクロブロックのJPEGデータを読み出し、
復号器103でJPEGデータを復号してラッチ104
の量子化係数Q1′を用いて各ブロック毎にDCT係数
の直流成分と交流成分を生成し、ラッチ108に格納す
る。
【0047】その後、差分比較器109は、ラッチ10
7とラッチ108とから各ブロック毎にDCT係数を読
み出し、各DCT係数毎に差分を求めて絶対値を加算す
る。各ブロックの加算値A1からA6を求めた後、も
し、全ての加算値が0であり、ラッチ117の内容が
“10”または“00”であれば、比較差分器109は
コード“10”を生成する。
【0048】それ以外の場合、加算値A1からA6と予
め決定された閾値T1とを比較し、全ての加算値で、 T1>Ai≧0 (i=1〜6)… (4) であれば、差分比較器109はコード“00”を生成す
る。また、1つでも(4)式の条件を満たさない場合は
コード“01”を生成する。生成したコードは、セレク
タ114に出力される。
【0049】同時に、符号化器110は、マクロブロッ
クのヘッダデータを生成する。すなわち、動きベクトル
を(0、0)として動きベクトルの符号を生成する。ま
た、符号化器110は、符号化するマクロブロックが動
き補償符号化、すなわちPredictiveモードで符号化され
ることを表すヘッダデータを生成し、動きベクトル符号
を挿入しておく。
【0050】符号化器110は、ラッチ107から符号
化するマクロブロックのDCT係数を読み込むととも
に、ラッチ108から符号化するマクロブロックと前フ
レームの同一位置のマクロブロックのDCT係数を読み
込み、ラッチ106から量子化係数Q2を読み込む。そ
して、符号化器110は、ラッチ107のマクロブロッ
クの各ブロックのDCT係数を逆DCT変換して画素値
を再生する。続いて、ラッチ108のマクロブロックの
各ブロックのDCT係数を逆DCT変換して画素値を再
生する。その後、各画素値の差分を求める。求めた差分
値にDCT変換を施し、量子化係数Q2で量子化し、量
子化結果を得る。直流成分に関しては、直前のマクロブ
ロックの差分比較器109の出力コードが“00”であ
れば続いてDPCMし、そうでなければ新たにDPCM
を初期化して始める。交流成分の量子化結果はMPEG
方式に従って符号を割り当てておく。
【0051】データ変換器111に入力されたJPEG
データは、Intra フレームのマクロブロックと同様にJ
PEGデータからMPEGデータへと変換される。
【0052】差分比較器109の出力コードが“00”
であった場合、ラッチ117の内容が“10”であれ
ば、セレクタ114は符号化器112の内容を出力した
後、符号化器110の出力を入力してコードバッファ1
15に出力し、格納する。
【0053】差分比較器109の出力コードが“01”
であった場合、ラッチ117の内容が“10”であれ
ば、セレクタ114は符号化器112の内容を出力した
後、セレクタ114はデータ変換器111の出力を入力
してコードバッファ115に出力し、格納する。
【0054】差分比較器109の出力コードが“10”
であった場合、その結果は符号化器112に入力され
る。このコードが発生したときは、MPEG符号化デー
タは生成されず、符号化器112では連続して発生した
コード“10”の回数をカウントし、その数を表現する
符号(マクロブロックアドレスインクリメント符号)を
生成する。
【0055】マクロブロックの処理が終了したら、ラッ
チ107の内容を差分比較器109の出力に置き換え
る。
【0056】以下、マクロブロック単位の処理を行い、
1フレームの処理が終了したら、コードバッファ115
の内容を送出し、図1の記憶装置8に格納したり、通信
インターフェース6を介して通信回線7に出力したりす
る。また、送出した符号長をCPU9に通報する。その
後、コードバッファ115をクリアする。
【0057】以下、各フレームを予め決められた順にI
フレームまたはPフレームとして符号化し、所望のフレ
ーム数のMPEGデータを得る。その後、MPEG方式
で決められたシーケンスエンドコード等の終了符号を符
号化器113で生成し、セレクタ114を介してコード
バッファ115を経て送出し、全ての動作を終了する。
【0058】以上説明したように、本実施例によれば、
フレーム内符号化のみで符号化された動画から動き補償
符号化を用いる符号化データへの変換に際して、回路規
模が大きく、処理に時間がかかる動きベクトル探索をす
ることなく、符号化データの変換が瞬時に行える効果が
ある。
【0059】また、MPEG方式で符号化する際に参照
フレームを格納しておく作業用のフレームメモリが不要
であり、装置全体のコストを下げる効果がある。
【0060】さらに、処理に時間がかかる直交変換を省
略できるので処理時間を短縮できる効果がある。また、
符号化データの変換をLUTで行うことにより、高速な
変換が可能となる。
【0061】なお、本実施例ではMPEG符号化方式を
例にとって説明したが、H.261符号化方式であって
も本実施例の構成をH.261の符号に適したものに置
き換えることによって本発明を適用できる。
【0062】次に、本発明の第2の実施例による画像符
号化データ変換装置を図面を参照しながら説明する。図
4は、MotionJPEGデータを両方向動き補償符号化
(Bidirectionaj Predictive)フレーム(以下、Bフレ
ームと略す)を導入したMPEGデータに変換する場合
の図1に示すデータ変換部5のブロック図である。
【0063】データ変換部5は、入力されたMotionJP
EGデータをMPEGデータに変換する。すなわち、図
4において、201は、MPEG方式の1マクロブロッ
ク分のMotionJPEGデータを格納するコードバッファ
である。202、203は、1フレーム分のMotionJP
EGデータを格納するコードメモリである。204、2
05、206は、MotionJPEGデータを入力してDC
T係数に復号する復号器である。207は、MotionJP
EGデータの各ヘッダデータを解析するヘッダ解析器で
ある。208、209、210、211は、量子化係数
を格納するラッチである。212、213、214は、
マクロブロック分の復号化されたDCT係数を格納する
ラッチである。
【0064】215は、ブロック単位でDCT係数の絶
対値差分を求め、各差分値をあらかじめ設定した閾値と
比較して判定結果を出力する差分比較器である。216
は、差分比較器215の出力を1マクロブロック分格納
するラッチである。217、218、219は、復号デ
ータからMPEGデータを生成する符号化器である。2
20は、JPEGデータの符号化データをMPEGデー
タに変換するデータ変換器である。221は、MPEG
ヘッダデータを生成する符号化器である。222は、差
分比較器215の出力を元にMPEGデータを生成する
符号化器である。223は、差分比較器215の出力結
果に基づき入力を選択して出力するセレクタである。2
24は、セレクタ223の出力を格納しておくコードバ
ッファである。
【0065】ここで、説明を容易にするために入力され
るMotionJPEGデータは4:1:1のサブサンプリン
グ比であるとする。また、MPEG方式のGOPの構成
は、1フレームとPフレームとBフレームで構成される
ものとし、1GOPの構成を15フレームとし、各フレ
ームの符号化モードを、 I、B、B、P、B、B、P、B、B、P、B、B、
P、B、B とする。
【0066】以下、図4の各構成部の動作について詳細
に述べる。まず、MotionJPEGデータからMPEGデ
ータへの変換に先立ち、CPU9によって図4の各構成
部の初期化が実施される。
【0067】次に、MotionJPEGデータの最初のフレ
ームのヘッダデータが、コードバッファ201を経由し
てヘッダ解析器207に入力される。ヘッダ解析器20
7は、MotionJPEGデータのヘッダデータを解析し、
画像サイズ等の画像の属性を得る。この結果は符号化器
221に入力される。符号化器221は、これらの属性
と併せてCPU9から動画像としての属性、フレームレ
ートや符号化レート等が入力され、MPEGヘッダデー
タを生成し、セレクタ223を介してコードバッファ2
24に出力する。ここで生成されるヘッダデータは、シ
ーケンススタートコードで始まるシーケンスヘッダとG
OPスタートコードで始まるGOPヘッダデータであ
る。また、JPEG方式で用いた量子化テーブルから予
め決められたデフォルト量子化テーブルを用いて量子化
係数Q3を求める。求められた量子化係数Q3はラッチ
208に入力される。デフォルト量子化テーブルは、符
号化してシーケンスヘッダデータに入れる。
【0068】以下に、MotionJPEGデータからIフレ
ームのMPEGデータへの変換について述べる。フレー
ム内符号化に先立ち、CPU9は、符号制御のために量
子化係数Q4をラッチ211に格納する。また、符号化
器221でピクチャヘッダを生成する。ここで、符号化
したフレームがIフレームであることが示されている。
【0069】まず、1マクロブロック分のMotionJPE
Gデータが順に記憶装置1から読み出され、コードバッ
ファ201に入力される。コードバッファ201に格納
されたJPEGデータは、コードメモリ202とデータ
変換器220に入力される。入力されたJPEGデータ
は、コードメモリ202に格納される。同様に、コード
メモリ202から入力されたのと同一位置のマクロブロ
ックのMotionJPEGデータがコードメモリ203に格
納される。コードメモリ202、203は、FIFOメ
モリで構成される。データ変換器220の構成は、第1
の実施例のデータ変換器111と同様にLUTで構成さ
れている。
【0070】続いて、マクロブロックデータの処理を行
う。もし、入力されたマクロブロックのデータがフレー
ムの左端であれば、符号化器221はスライスヘッダを
生成し、セレクタ223を介してコードバッファ224
に出力し、格納する。また、スライスヘッダを生成する
時に量子化係数Q4をラッチ211から読み出し、符号
化してスライスヘッダに入れる。
【0071】データ変換器220は、マクロブロックの
ヘッダデータを生成する。すなわち、データ変換器22
0は、Intra モードで符号化されたマクロブロックであ
ることを表すヘッダデータを生成する。
【0072】また、データ変換器220は、ブロック単
位でJPEGデータを入力する他にラッチ208とラッ
チ211とから量子化係数Q3、Q4を入力する。最初
にラッチ208から入力された量子化係数Q3とラッチ
211から入力された量子化係数Q4とから量子化倍数
P2を次式に従って求める。 P2=Q4/Q3 ……(5)
【0073】続いて、各ブロックの処理を行う。まず、
直流成分の符号の変換について述べる。この場合、量子
化倍数P2を用いて直流成分の変換を行う。例えば、入
力された輝度成分の差分値D3が33であった場合、量
子化倍数Pが1.5であれば、出力する差分値D4は、
【0074】D4=D3/P2 ……(6) で求められ、この場合の差分値D4は22である。従っ
て、このハフマン符号は“11010110”と変換さ
れる。
【0075】次に、交流成分の符号の変換について述べ
る。例えば、輝度成分のハフマン符号“1111111
1100010011000”は0ラン長が2で量子化
結果R3が16であることを示す。量子化倍数P2が
1.5であれば出力する量子化結果R4は、 R4=R3/P2 ……(7) から10.6となり、四捨五入して0ラン長が2で量子
化結果が11を表すハフマン符号“111111110
1001011”に変換される。
【0076】これらの変換は、ROM等で構成されるL
UT(Look Up Table )を参照することによって行う。
このように変換して得られたMPEGデータは、コード
バッファ224に格納される。
【0077】以下、マクロブロック単位の処理を行い、
1フレームの処理が終了したら、コードバッファ224
の内容を送出し、図1の記憶装置8に格納したり、通信
インターフェース6を介して通信回線7に出力したりす
る。また、送出した符号長をCPU9に通報する。その
後、コードバッファ224をクリアする。
【0078】次に、MotionJPEGデータからPフレー
ムのMPEGデータへの変換について述べる。Pフレー
ムの符号化に先立ち、CPU9は、前フレームにかかっ
た符号長から符号化制御のための量子化係数Q4を求
め、ラッチ211に格納する。また、ラッチ209の量
子化係数Q3′′をラッチ210に移動させるとともに
ラッチ208の量子化係数Q3′をラッチ209に移動
させる。そして、JPEG方式で用いた量子化テーブル
から予め決められたデフォルト量子化テーブルを用いて
量子化係数Q3を求める。求められた量子化係数Q3は
ラッチ208に入力される。符号化器221でフレーム
のピクチャヘッダを生成する。ここで、符号化したフレ
ームがPフレームであることが示されている。
【0079】1マクロブロック分の Motion JPEGデ
ータが順に記憶装置1から読み出され、コードバッファ
201に入力される。コードバッファ201に格納され
たJPEGデータはコードメモリ202、復号器20
4、データ変換器220に入力される。復号器204
は、入力されたJPEGデータを復号し、ラッチ208
の量子化係数Q3を用いて各ブロック毎にDCT係数の
直流成分と交流成分を生成し、ラッチ212に格納す
る。同時に、コードメモリ202から前のIフレームま
たはPフレームの同一位置のマクロブロックのJPEG
データを読み出し、復号器205で復号してラッチ20
9の量子化係数Q3′を用いて各ブロック毎にDCT係
数の直流成分と交流成分を生成し、ラッチ213に格納
する。また、読み出したJPEGデータはコードメモリ
203にも入力される。
【0080】その後、差分比較器215は、ラッチ21
2とラッチ213から各ブロック毎にDCT係数を読み
出し、各DCT係数毎に差分を求めて絶対値を加算す
る。各ブロックの加算値A1からA6を求めた後、も
し、全ての加算値が0であり、ラッチ216の内容が
“110”または“000”であれば、比較差分器21
5はコード“110”を生成する。
【0081】それ以外の場合、加算値A1からA6と予
め決定された閾値T2と比較し、全ての加算値で、 T2>Ai≧0 (i=1〜6)……(8) であれば、差分比較器215は、コード“000”を生
成する。
【0082】また、1つでも(8)式の条件を満たさな
い場合は、コード“100”を生成する。生成したコー
ドは、セレクタ223に出力される。
【0083】これと並行して、符号化器217とデータ
変換器220が以下の動作を実行する。符号化器221
は、マクロブロックのヘッダデータを生成する。すなわ
ち、動きベクトルを(0、0)として動きベクトルの符
号を生成する。また、符号化器221は、符号化するマ
クロブロックが Predictive モードで符号化されること
を表すヘッダデータを生成し、動きベクトル符号を挿入
しておく。
【0084】符号化器217はまず、ラッチ212から
符号化するマクロブロックのDCT係数を読み込むとと
もに、ラッチ214から符号化するマクロブロックと前
のIフレームまたはPフレームの同一位置のマクロブロ
ックのDCT係数を読み込み、ラッチ211から量子化
係数Q4を読み込む。そして、ラッチ212のマクロブ
ロックの各ブロックDCT係数を逆DCT変換して画素
値を再生する。続いて、ラッチ214のマクロブロック
の各ブロックのDCT係数を逆DCT変換して画素値を
再生する。その後、各画素値の差分を求め、求めた差分
値にDCT変換を施し、量子化係数Q4で量子化し、量
子化結果を得る。直流成分に関しては、直前のマクロブ
ロックの差分比較器215の出力コードが“000”で
あれば続いてDPCMし、そうでなければ新たにDPC
Mを初期化して始める。交流成分の量子化結果は、MP
EG方式に従って符号を割り当てておく。
【0085】データ変化器220に入力されたJPEG
データはIntra フレームのマクロブロックと同様にJP
EGデータからMPEGデータへと変換される。
【0086】差分比較器215の出力コードが“00
0”であった場合、ラッチ216の内容が“110”で
あれば、セレクタ223は符号化器222の内容を出力
した後、符号化器218の出力を入力してコードバッフ
ァ224に出力し、格納する。
【0087】差分比較器215の出力コードが“10
0”であった場合、ラッチ216の内容が“110”で
あれば、セレクタ223は符号化器222の内容を出力
した後、セレクタ223はデータ変換器220の出力を
入力してコードバッファ224に出力し、格納する。
【0088】差分比較器215の出力コードが“11
0”であった場合、その結果は符号化器222に入力さ
れる。このコードが発生したときは、MPEG符号化デ
ータは生成されず、符号化器222では連続して発生し
たコード“110”の回数をカウントし、マクロブロッ
クアドレスインクリメント符号を生成する。
【0089】マクロブロックの処理が終了したら、ラッ
チ216の内容を差分比較器215の出力に置き換え
る。
【0090】以下、マクロブロック単位の処理を行い、
1フレームの処理が終了したら、コードバッファ224
の内容を送出し、図1の記憶装置8に格納したり、通信
インターフェース6を介して通信回線7に出力したりす
る。また、送出した符号長をCPU9に通報する。その
後、コードバッファ224をクリアする。
【0091】最後に、MotionJPEGデータからBフレ
ームのMPEGデータへの変換について述べる。Bフレ
ームの符号化に先立ち、CPU9は、前フレームにかか
った符号長から符号化制御のための量子化係数Q4を求
め、ラッチ211に格納する。また、ラッチ209の量
子化係数Q3′′をラッチ210に移動させるとともに
ラッチ208の量子化係数Q3′をラッチ209に移動
させる。そして、JPEG方式で用いた量子化テーブル
から予め決められたデフォルト量子化テーブルを用いて
量子化係数Q3を求める。求められた量子化係数Q3は
ラッチ208に入力される。また、符号化器221でフ
レームのピクチャヘッダを生成する。ここで、符号化し
たフレームがBフレームであることが示されている。
【0092】1マクロブロック分のMotionJPEGデー
タが順に記憶装置1から読み出され、コードバッファ2
01に入力される。コードバッファ201に格納された
JPEGデータは、復号器204、データ変換器220
に入力される。復号器204は、入力されたJPEGデ
ータを復号し、ラッチ208の量子化係数Q3を用いて
各ブロック毎にDCT係数の直流成分と交流成分を生成
し、ラッチ212に格納する。同時に、コードメモリ2
02から後のIフレームまたはPフレームの同一位置の
マクロブロックのJPEGデータを読み出し、コードメ
モリ203から前のIフレームまたはPフレームの同一
位置のマクロブロックのJPEGデータを読み出す。コ
ードメモリ202から読み出されたJPEGデータは、
復号器205で復号してラッチ209の量子化係数Q
3′を用いて各ブロック毎にDCTの直流成分と交流成
分を生成し、ラッチ213に格納する。コードメモリ2
03から読み出されたJPEGデータは、復号器206
で復号してラッチ210の量子化係数Q3′′を用いて
各ブロック毎にDCTの直流成分と交流成分を生成し、
ラッチ214に格納する。
【0093】その後、差分比較器215は、ラッチ21
2、213、214から各ブロック毎にDCT係数を読
み出し、各DCT係数毎に差分を求めて絶対値を加算す
る。すなわち、差分比較器215は、ラッチ212とラ
ッチ213の各ブロックのDCT係数毎の差分の絶対値
の加算値BA1からBA6を求める。また、ラッチ21
2とラッチ214の各ブロックのDCT係数毎の差分の
絶対値の加算値FA1からFA6を求める。さらに、ラ
ッチ213と214の各ブロックのDCT係数毎の平均
値を求め、ラッチ212の各係数との差分の絶対値の加
算値MA1からMA6を求める。
【0094】もし、加算値FA1〜6の全ての加算値が
0であった場合、ラッチ216の内容が“101”また
は“000”であれば、比較差分器215はコード“1
01”を生成する。また、加算値BA1〜6の全ての加
算値が0であった場合、ラッチ216の内容が“11
0”または“001”であれば、比較差分器215はコ
ード“110”を生成する。また、加算値MA1〜6の
全ての加算値が0であった場合、ラッチ216の内容が
“111”または“010”であれば、比較差分器21
5はコード“111”を生成する。
【0095】それ以外の場合、加算値FA1〜6を全て
加えた加算値FA、加算値BA1〜6を全て加えた加算
値BA、加算値MA1〜6を全て加えた加算値MAの
内、最小値SAを選択する。すなわち、最小値SAは、 SA=min(FA、BA、MA) …… (9) と表される。
【0096】その後、最小値SAと予め決定された閾値
T5と比較し、最小値SAが、 T5>SA …… (10) であって、加算値FAが最小であれば、差分比較器21
5はコード“000”を生成する。加算値BAが最小で
あれば、差分比較器215はコード“001”を生成す
る。加算値MAが最小であれば、差分比較器215はコ
ード“010”を生成する。
【0097】また、1つも(10)式の条件を満たさな
い場合は、差分比較器215はコード“011”を生成
する。生成したコードは、セレクタ223に出力され
る。
【0098】同時に、符号化器217、符号化器21
8、符号化器219、データ変換器220、符号化器2
21が、以下の動作を実行する。
【0099】まず、符号化器221は、マクロブロック
のヘッダデータを生成する。すなわち、時間的に前のフ
レームからの動きベクトルを(0、0)として動きベク
トルの符号を生成する。この時、符号化器221は、符
号化するマクロブロックがForward Predictiveモードで
符号化されることを表すヘッダデータを生成し、動きベ
クトル符号を挿入しておく。
【0100】そして、符号化器217はまず、ラッチ2
12から符号化するマクロブロックのDCT係数を、ラ
ッチ214から符号化するマクロブロックと時間的に前
のIフレームまたはPフレームの同一位置のマクロブロ
ックのDCT係数を、ラッチ211から量子化係数Q4
を読み込む。符号化器217はさらに、ラッチ212の
マクロブロックの各ブロックのDCT係数を逆DCT変
換して画素値を再生する。続いて、ラッチ214のマク
ロブロックの各ブロックのDCT係数を逆DCT変換し
て画素値を再生する。その後、各画素値の差分を求め、
求めた差分値にDCT変換を施し、量子化係数Q4で量
子化し、量子化結果を得る。直流成分に関しては、直前
のマクロブロックの差分比較器215の出力コードが
“000”であれば、続いてDPCMし、そうでなけれ
ば新たにDPCMを初期化して始める。交流成分の量子
化結果は、MPEG方式に従って符号を割り当ててお
く。
【0101】また、符号化器221は、マクロブロック
のヘッダデータを生成する。すなわち、時間的に後のフ
レームからの動きベクトルを(0、0)として動きブク
トルの符号を生成する。この時、符号化器221は、符
号化するマクロブロックがBackword Predictive モード
で符号化されることを表すヘッダデータを生成し、動き
ベクトル符号を挿入しておく。
【0102】そして、符号化器218はまず、ラッチ2
12から符号化するマクロブロックのDCT係数を読み
込むとともに、ラッチ213から符号化するマクロブロ
ックと時間的に後のIフレームまたはPフレームの同一
位置のマクロブロックのDCT係数を読み込み、ラッチ
211から量子化係数Q4を読み込む。符号化器218
はさらに、ラッチ212のマクロブロックの各ブロック
のDCT係数を逆DCT変換して画素値を再生する。続
いて、ラッチ213のマクロブロックの各ブロックのD
CT係数を逆DCT変換して画素値を再生する。その
後、各画素値の差分を求め、求めた差分値にDCT変換
を施し、量子化係数Q4で量子化し、量子化結果を得
る。直流成分に関しては、直前のマクロブロックの差分
比較器215の出力コードが“001”であれば、続い
てDPCMし、そうでなければ新たにDPCMを初期化
して始める。交流成分の量子化結果は、MPEG方式に
従って符号を割り当てておく。
【0103】さらに、符号化器221は、マクロブロッ
クのヘッダデータを生成する。すなわち、時間的に前後
のフレームからの各動きベクトルを(0、0)として動
きベクトルの符号を生成する。この時、符号化器221
は、符号化するマクロブロックがBidirectional Predic
tiveモードで符号化されることを表すヘッダデータを生
成し、両動きベクトル符号を挿入しておく。
【0104】そして、符号化器219はまず、ラッチ2
12から符号化するマクロブロックのDCT係数を読み
込むとともに、ラッチ213から符号化するマクロブロ
ックと時間的に後のIフレームまたはPフレームの同一
位置のマクロブロックのDCT係数を読み込み、ラッチ
214から符号化するマクロブロックと時間的に前のI
フレームまたはPフレームの同一位置のマクロブロック
のDCT係数を読み込み、ラッチ211から量子化係数
Q4を読み込む。符号化器219はさらに、ラッチ21
3のマクロブロックの各ブロックのDCT係数を逆DC
T変換して画素値を再生し、ラッチ214のマクロブロ
ックの各ブロックのDCT係数を逆DCT変換して画素
値を再生する。各画素値で平均を求めておく。続いて、
ラッチ212のマクロブロックの各ブロックのDCT係
数を逆DCT変換して画素値を再生する。その後、画素
毎に画素値と平均値の差分を求め、求めた差分値にDC
T変換を施し、量子化係数Q4で量子化し、量子化結果
を得る。直流成分に関しては、直前のマクロブロックの
差分比較器215の出力コードが“010”であれば続
いてDPCMし、そうでなければ新たにDPCMを初期
化して始める。交流成分の量子化結果は、MPEG方式
に従って符号を割り当てておく。
【0105】データ変換器220に入力されたJPEG
データは、Intra フレームのマクロブロックと同様にJ
PEGデータからMPEGデータへと変換される。
【0106】差分比較器215の出力コードが“00
0”であった場合、ラッチ216の内容が“101”ま
たは“110”または“111”であれば、セレクタ2
23は符号化器222の内容を出力した後、符号化器2
17の出力を入力してコードバッファ224に出力し、
格納する。
【0107】差分比較器215の出力コードが“00
1”であった場合、ラッチ216の内容が“101”ま
たは“110”または“111”であれば、セレクタ2
23は符号化器222の内容を出力した後、符号化器2
18の出力を入力してコードバッファ224に出力し、
格納する。
【0108】差分比較器215の出力コードが“01
0”であった場合、ラッチ216の内容が“101”ま
たは“110”または“111”であれば、セレクタ2
23は符号化器222の内容を出力した後、符号化器2
19の出力を入力してコードバッファ224に出力し、
格納する。
【0109】差分比較器215の出力コードが“01
1”であった場合、ラッチ216の内容が“101”ま
たは“110”または“111”であれば、セレクタ2
23は符号化器222の内容を出力した後、セレクタ2
23はデータ変換器220の出力を入力してコードバッ
ファ224に出力し、格納する。
【0110】差分比較器215の出力コードが“10
1”であった場合、その結果は符号化器222に入力さ
れる。このコードが発生したときは、MPEG符号化デ
ータは生成されず、符号化器222では連続して発生し
たコード“101”の回数をカウントし、マクロブロッ
クアドレスインクリメント符号を生成する。
【0111】差分比較器215の出力コードが“11
0”であった場合、その結果は符号化器222に入力さ
れる。このコードが発生したときは、MPEG符号化デ
ータは生成されず、符号化器222では連続して発生し
たコード“110”の回数をカウントし、マクロブロッ
クアドレスインクリメント符号を生成する。
【0112】差分比較器215の出力コードが“11
1”であった場合、その結果は符号化器222に入力さ
れる。このコードが発生したときは、MPEG符号化デ
ータは生成されず、符号化器222では連続して発生し
たコード“111”の回数をカウントし、マクロブロッ
クアドレスインクリメント符号を生成する。
【0113】マクロブロックの処理が終了したら、ラッ
チ216の内容を差分比較器215の出力に置き換え
る。
【0114】以下、マクロブロック単位の処理を行い、
1フレームの処理が終了したら、コードバッファ224
の内容を送出し、図1の記憶装置8に格納したり、通信
インターフェス6を介して通信回線7に出力したりす
る。また、送出した符号長をCPU9に通報する。その
後、コードバッファ224をクリアする。
【0115】以下、各フレームを予め決められた順にI
フレームまたはPフレームとして符号化し、所望のフレ
ーム数のMPEGデータを得る。その後、MPEG方式
で決められたシーケンスエンドコード等の終了符号を符
号化器221で生成し、セレクタ223を介してコード
バッファ224を経て送出し、全ての動作を終了する。
【0116】次に、本発明の第3の実施例による画像符
号化データ変換装置について図5を参照しながら説明す
る。本発明の第3の実施例は、演算装置でソフトウェア
を用いてデータ処理する場合を示したもので、図5は、
本発明の第3の実施例による画像符号化データ変換装置
の構成を示すブロック図であり、図6〜図14は、本発
明の第3実施例による画像符号化データ変換の手順を表
すフローチャートである。なお、図5において、図1と
同一の構成のものには同一の符号を付して説明を省略し
た。
【0117】図5で、301は、装置全体を制御統括
し、MotionJPEGデータをMPEGデータに変換する
CPUである。302は、データ処理をするためのソフ
トウェアを格納しておくプログラムメモリであり、30
3は、処理をするための作業領域を確保するための作業
メモリである。
【0118】説明を容易にするため、入力されるMotion
JPEGデータは4:1:1のサブサンプリング比であ
るとする。また、MPEG方式のGOPは、Iフレーム
とPフレームとで構成されるものとする。
【0119】まず、図6のステップS01に示すよう
に、CPU301は、プログラムメモリ302からMoti
onJPEGデータ/MPEGデータ変換のためのプログ
ラムを読み込み、実行を開始する。
【0120】次に、ステップS02に示すように、量子
化倍数P3の値と直流成分のハフマン符号とをアドレス
とする変換結果のLUT(直流成分変換LUT)を作業
メモリ303に格納する。
【0121】次に、ステップS03に示すように、量子
化倍数P3の値と交流成分のハフマン符号とをアドレス
とする変換結果のLUT(交流成分変換LUT)を作業
メモリ303に格納する。
【0122】次に、ステップS04に示すように、Moti
onJPEGデータのフレームのヘッダデータを読み込
み、JPEGデータのヘッダデータを解析し、画像サイ
ズ等の画像の属性を得る。
【0123】次に、ステップS05に示すように、各属
性、デフォルト量子化テーブルと併せて動画像としての
属性を加え、MPEGデータのシーケンスヘッダとGO
Pヘッダデータを生成し、出力する。
【0124】以下に、Iフレームの変換について述べ
る。まず、ステップS09に示すように、生成するフレ
ームがIフレームかPフレームかを判定し、Iフレーム
を生成する場合はステップS10に移る。
【0125】次に、ステップS10に示すように、JP
EG符号化データの量子化テーブルから、JPEG方式
デフォルト量子化テーブルを用いて量子化係数Q8を求
める。
【0126】次に、ステップS11に示すように、MP
EG方式における符号化制御のために量子化係数Q9を
決定する。
【0127】次に、図7のステップS12に示すよう
に、Iフレームであることを示すピクチャヘッダを生成
する。
【0128】次に、ステップS14に示すように、1マ
クロブロック分のMotionJPEGデータが順に記憶装置
1から読み出される。読み出されたMotionJPEGデー
タは、マクロブロック単位で作業メモリ303に格納さ
れる。
【0129】もし、ステップS15に示すように、入力
されたマクロブロックのデータがフレームの左端であれ
ば、ステップS16に示すように、量子化係数Q9を読
み出し、スライスヘッダを生成し、出力する。
【0130】次に、ステップS17に示すように、マク
ロブロックの処理に先立ち、Intraモードで符号化する
ことを表すマクロブロックのヘッダデータを生成し、出
力する。
【0131】次に、ステップS18に示すように、ブロ
ック単位でJPEGデータを処理する。量子化係数Q8
と量子化係数Q9とから量子化倍数P3を次式に従って
求める。 P3=Q8/Q9…(11)
【0132】次に、図8のステップS20に示すよう
に、量子化倍数P3とハフマン符号から作業メモリ30
3の直流成分変換LUTを参照して、直流成分における
JPEGデータからMPEGデータへの変換を行う。変
換して得られた符号化データは出力される。
【0133】例えば、輝度成分の直流成分のJPEGデ
ータの差分値D5が20であった場合、そのハフマン符
号は“11010100”である。ここで量子化倍数P
3が2.5であれば、出力するMPEGデータの差分値
D6は、 D6=D5/P3…(12) で求められる。
【0134】この場合は、差分値D6は4であり、従っ
て、このハフマン符号は“100100”と変換され
る。変換して得られた符号化データは、作業メモリ30
3に一時格納する。
【0135】次に、ステップS22に示すように、交流
成分におけるJPEGデータからMPEGデータへの変
換を、同様に量子化倍数P3とハフマン符号から作業メ
モリ303の交流成分変換LUTを参照して行う。変換
して得られた符号化データは出力される。
【0136】入力されたJPEGデータの量子化結果R
5と量子化倍数P3とから変換後のMPEGデータの量
子化結果R6は、 R6=R5/P3…(13) で求められる。
【0137】例えば、量子化倍数P3が7であって、0
ラン長が5で量子化結果R5が3であることを示すハフ
マン符号“1111111011111”が入力された
とする。このときの量子化結果R6は、1以下になって
しまうが、切り上げて1とする。従って、0ラン長が5
で量子化結果が1を表すハフマン符号“1111010
1”に変換される。
【0138】以上のような交流成分の変換を、ステップ
S21に示すように、全ての交流成分が終了するまで続
け、終了したらステップS19に戻る。
【0139】以下、ステップS19に示すように、マク
ロブロック単位の処理を行い、1フレームの処理が終了
したら、図7のステップS13に示すように、次のフレ
ームの処理に移る。
【0140】図5において、もし、ステップS06に示
すように、次のフレームがない場合には、動画像が終了
したので、ステップS07に示すように、シーケンスの
終了コードを生成して出力し、ステップS08に示すよ
うに、処理を終了する。
【0141】次に、Pフレームのデータへの変換につい
て述べる。まず、ステップS09に示すように、生成す
るフレームがIフレームかPフレームかを判定し、Pフ
レームを生成する場合はステップS23に移る。
【0142】次に、ステップS23に示すように、JP
EG符号化データの量子化テーブルから、JPEG方式
デフォルト量子化デーブルを用いて量子化係数Q10を
求める。
【0143】次に、ステップS24に示すように、前フ
レームのJPEGデータの量子化係数(前フレームがI
フレームであれば前述の量子化係数Q8、Pフレームで
あれば前フレームの量子化係数Q10)を量子化係数Q
11として保持しておく。
【0144】次に、図9のステップS25に示すよう
に、符号化制御のために量子化係数Q12を決定する。
【0145】次に、ステップS26に示すように、Pフ
レームであることを示すピクチャヘッダを生成する。
【0146】次に、ステップS28に示すように、1マ
クロブロック分のMotionJPEGデータが、順に記憶装
置1から読み出される。読み出されたMotionJPEGデ
ータは、マクロブロック単位で作業メモリ303に格納
される。
【0147】もし、ステップS29に示すように、入力
されたマクロブロックのデータがフレームの左端であれ
ば、ステップS30に示すように、量子化係数Q12を
読み出し、スライスヘッダを生成し、出力する。
【0148】続いて、マクロブロック単位でJPEGデ
ータを処理する。すなわち、図10のステップS32に
示すように、JPEGデータを復号し、量子化係数Q1
0とJPEG方式デフォルト量子化テーブルを用いて各
ブロックのDCTの直流成分と交流成分を生成する。
【0149】次に、ステップS33に示すように、前フ
レームの同一位置のマクロブロックのJPEGデータを
作業メモリ303から読み出して復号し、量子化係数Q
11とJPEG方式デフォルト量子化テーブルを用いて
各ブロックのDCT係数の直流成分と交流成分を生成す
る。
【0150】次に、ステップS34に示すように、各ブ
ロック毎にDCT係数毎の差分を求めて絶対値を加算す
る。これらの処理を6つのブロック全てについて行い、
終了したらステップS35に移る。なお、加算の結果を
ブロックの順にAA1からAA6とする。
【0151】もし、ステップS35に示すように、全て
の加算値AA1〜6が0、すなわち、 AAi=0(i=1〜6) …(14) であれば、動きベクトル(0,0)で符号が発生しない
マクロブロックであることを示している。
【0152】この場合は、もし、ステップS36に示す
ように、直前のマクロブロックの符号化モードがPredic
tiveモードであれば、スキップの処理を実施する。
【0153】すなわち、ステップS37に示すように、
スキップのマクロブロックを計数しておく。
【0154】もし、ステップS36に示すように、直前
のマクロブロックの符号化モードがPredictiveモードで
なければ、図13のステップS53に示すように、動き
ベクトル(0,0)のPredictiveモードで符号化される
ことを表すマクロブロックヘッダを出力する。
【0155】さらに、ステップS54に示すように、ス
キップするマクロブロックの計数値を0とする。
【0156】もし、図10のステップS35に示すよう
に、ブロックの加算値AA1〜6が全て0でなければ、
図11のステップS38に示すように、加算値AA1か
らAA6と予め決定された閾値T3と比較し、全ての加
算値で、 T3>AAi>0 (i=1〜6)… (15) であれば、Predictiveモードの符号を生成する。
【0157】次に、ステップS39に示すように、Pred
ictiveモードで符号化されることを表すマクロブロック
のヘッダデータを生成する。このヘッダデータには、動
きベクトル(0,0)の符号と、加算値AA1〜6が0
でないブロックの位置を表す符号を生成し、マクロブロ
ックヘッダに入れて出力する。
【0158】次に、ステップS41に示すように、符号
化するフレームの加算値AAi(i=1〜6)が0でな
いブロックのDCT係数を逆DCT変換して画素値を再
生する。
【0159】次に、ステップS42に示すように、符号
化する直前のフレームの同一位置のブロックの、加算値
AAi(i=1〜6)が0でないブロックのDCT係数
を逆DCT変換して画素値を再生する。
【0160】その後、ステップS43に示すように、各
画素値の差分を求める。
【0161】次に、ステップS44に示すように、求め
た差分値にDCT変換を施し、量子化係数Q12で量子
化し、量子化結果を得る。以上の処理をステップS40
に示すように、全てのブロックについて行い、終了した
らステップS45に移る。
【0162】もし、図12のステップS45に示すよう
に、直流成分に関しては、直前のマクロブロックがPred
ictiveモードで符号化されていれば、ステップS46に
示すように、DPCMを行い、MPEG方式の符号で符
号化し、出力する。また、直前のマクロブロックのモー
ドIntra モードであったり、左端のマクロブロックであ
れば、ステップS47に示すように、新たにDPCMを
初期化して、ステップS48に示すように、直流成分の
符号化を行う。
【0163】次に、ステップS49に示すように、交流
成分の量子化結果は、MPEG方式に従って符号を割り
当て、出力する。
【0164】次に、ステップS50に示すように、全て
のブロックについてステップS51の直流成分の符号化
及びステップS52の交流成分の符号化を行い、終了し
たらステップS27に戻る。
【0165】また、図11のステップS38に示すよう
に、1つでも(15)式の条件を満たさない場合は、In
tra モードの符号に変換して出力する。
【0166】変換に先立ち、直前のマクロブロックがス
キップ処理がされていれば、ステップS55に示すよう
に、計数値に見合ったマクロブロックアドレスインクリ
メント符号として出力する。
【0167】変換の詳細は、図14のステップS56〜
61のIフレームのマクロブロックの変換処理と同様の
処理を実施する。
【0168】以下、マクロブロック単位の処理を行い、
図6のステップS06に示すように、1フレームの処理
が終了したら、次のフレームの処理に移る。
【0169】もし、次のフレームがない場合には動画像
が終了したので、ステップS07に示すように、シーケ
ンスの終了コードを生成して出力し、ステップS08に
示すように、処理を終了する。
【0170】なお、本実施例ではMPEG符号化方式を
例にとって説明したが、H.261符号化方式であって
も本実施例の構成をH.261の符号に適したものに置
き換えることによって本発明を適用できる。また、MP
EG方式のGOPがIフレームとPフレームとで構成さ
れる場合について説明したが、Bフレームを導入したM
PEG方式への変換に本発明を適用してもよい。また、
本実施例においては、Iフレームのマクロブロックの変
換処理を行うに際しては、図14のステップS56〜6
1を用いたが、これに限らず他の処理としてもよい。
【0171】また、動画像の符号化の例としてMPEG
方式やH.261方式を例にとったが、動画像の符号化
方式はこれに限定されず、動き補償をする符号化であれ
ば良い。さらに、画像のサンプリングで4:1:1を例
にとって説明したが、4:4:4や4:2:2を入力と
した場合でも色度成分のみを再生してサブサンプリング
した後符号化すれば良い。
【0172】
【発明の効果】以上説明したように、本発明によれば、
フレーム内符号化による符号化データをフレーム間相関
による符号化データに変換する際に、特定のフレームの
符号化データを符号化データのまま変換しているので、
画像データに復号化するJPEGデータを減らすことが
でき、変換時間を短縮できる。
【図面の簡単な説明】
【図1】本発明の一実施例による画像符号化データ変換
装置の構成を示すブロック図である。
【図2】本発明の第1実施例によるデータ変換部の構成
を示すブロック図である。
【図3】本発明の一実施例によるデータ変換器の構成を
示すブロック図である。
【図4】本発明の第2実施例によるデータ変換部の構成
を示すブロック図である。
【図5】本発明の第3実施例による画像符号化データ変
換装置の構成を示すブロック図である。
【図6】本発明の第3実施例による画像符号化データ変
換の手順を表すフローチャートである。
【図7】本発明の第3実施例による画像符号化データ変
換の手順を表すフローチャートである。
【図8】本発明の第3実施例による画像符号化データ変
換の手順を表すフローチャートである。
【図9】本発明の第3実施例による画像符号化データ変
換の手順を表すフローチャートである。
【図10】本発明の第3実施例による画像符号化データ
変換の手順を表すフローチャートである。
【図11】本発明の第3実施例による画像符号化データ
変換の手順を表すフローチャートである。
【図12】本発明の第3実施例による画像符号化データ
変換の手順を表すフローチャートである。
【図13】本発明の第3実施例による画像符号化データ
変換の手順を表すフローチャートである。
【図14】本発明の第3実施例による画像符号化データ
変換の手順を表すフローチャートである。
【符号の説明】
1、8 記憶装置 2 JPEG復号器 3 フレームメモリ 4 ディスプレイ 5 データ変換部 6 通信インターフェイス 7 通信回線 9、301 CPU 10 入力装置 101、115、201、224 コードバッファ 102、202、203 コードメモリ 103、204、205、206 復号器 104、105、106、107、108、117、2
08、209、210、211、212、213、21
4、216 ラッチ 109、215 差分比較器 110、112、113、217、218、219、2
21、222 符号化器 111、220 データ変換器 114、151、155、223 セレクタ 116、207 ヘッダ解析器 150 演算器 152 マクロブロックヘッダ生成器 153 DC変換器 154 AC変換器 302 プログラムメモリ 303 作業メモリ

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】 動画像データのフレーム内符号化による
    符号化データをフレーム間相関による符号化データに変
    換する画像処理方法であって、、前記フレーム間相関に
    よる符号化データのうちの少なくとも一部のフレームの
    符号化データを復号化することなく変換処理して用いる
    ことを特徴とする画像処理方法。
  2. 【請求項2】 前記フレーム内符号化による符号化デー
    タは、画素データの直交変換符号化によって得られるこ
    とを特徴とする請求項1に記載の画像処理方法。
  3. 【請求項3】 前記フレーム間相関による符号化データ
    は、画素データの直交変換符号化によって得られること
    を特徴とする請求項1に記載の画像処理方法。
  4. 【請求項4】 前記少なくとも一部のフレームはフレー
    ム内符号化フレームであることを特徴とする請求項1に
    記載の画像処理方法。
  5. 【請求項5】 入力されたフレーム内符号化による符号
    化データにおける過去の符号化データと現在の符号化デ
    ータとを比較するデータ比較手段と、 前記フレーム内符号化による符号化データを一次変換に
    よってフレーム間相関による符号化データに変換する第
    1のデータ変換手段と、 フレーム内符号化による符号化データを復号化してその
    復号されたデータをフレーム間相関による符号化データ
    に変換する第2のデータ変換手段と、 前記データ比較手段の出力によって前記第1のデータ変
    換手段と前記第2のデータ変換手段とを選択する選択手
    段とを具備することを特徴とする画像処理装置。
  6. 【請求項6】 前記フレーム内符号化による符号化デー
    タは、画素データの直交変換符号化によって得られるこ
    とを特徴とする請求項5に記載の画像処理装置。
  7. 【請求項7】 前記フレーム間相関による符号化データ
    は、画素データの直交変換符号化によって得られること
    を特徴とする請求項5に記載の画像処理装置。
  8. 【請求項8】 前記データ比較手段は、画素データの直
    交変換によって得られた係数を比較することを特徴とす
    る請求項5〜7のいずれか1項に記載の画像処理装置。
  9. 【請求項9】 前記第1のデータ変換手段は、フレーム
    内符号化による符号化データの量子化係数とフレーム間
    相関による符号化データの量子化係数とを比較する比較
    手段と、前記比較手段からの比較結果に基づいてフレー
    ム間相関による符号化データに一次変換する変換手段と
    を具備することを特徴とする請求項5〜7のいずれか1
    項に記載の画像処理装置。
  10. 【請求項10】 前記一次変換は、上記比較手段の比較
    結果とフレーム内符号化による符号化データとによって
    決まるアドレスを入力とし、フレーム間相関による符号
    化データを出力とするルックアップテーブルによって行
    われることを特徴とする請求項9に記載の画像処理装
    置。
JP20781294A 1994-08-31 1994-08-31 画像処理方法 Expired - Fee Related JP3715664B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP20781294A JP3715664B2 (ja) 1994-08-31 1994-08-31 画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP20781294A JP3715664B2 (ja) 1994-08-31 1994-08-31 画像処理方法

Publications (2)

Publication Number Publication Date
JPH0879741A true JPH0879741A (ja) 1996-03-22
JP3715664B2 JP3715664B2 (ja) 2005-11-09

Family

ID=16545916

Family Applications (1)

Application Number Title Priority Date Filing Date
JP20781294A Expired - Fee Related JP3715664B2 (ja) 1994-08-31 1994-08-31 画像処理方法

Country Status (1)

Country Link
JP (1) JP3715664B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007306274A (ja) * 2006-05-11 2007-11-22 Nippon Telegr & Teleph Corp <Ntt> 符号化ストリーム再符号化方法、符号化ストリーム再符号化装置、符号化ストリーム復元方法、符号化ストリーム復元装置、符号化ストリーム再符号化プログラム、符号化ストリーム復元プログラムおよびそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2008118693A (ja) * 1997-11-05 2008-05-22 Sony Corp ディジタル信号変換方法およびディジタル信号変換装置
JP2008153771A (ja) * 2006-12-14 2008-07-03 Mitsubishi Electric Corp 画像符号化方式変換装置
JP2011091858A (ja) * 2011-01-06 2011-05-06 Mitsubishi Electric Corp 画像符号化方式変換装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008118693A (ja) * 1997-11-05 2008-05-22 Sony Corp ディジタル信号変換方法およびディジタル信号変換装置
JP2007306274A (ja) * 2006-05-11 2007-11-22 Nippon Telegr & Teleph Corp <Ntt> 符号化ストリーム再符号化方法、符号化ストリーム再符号化装置、符号化ストリーム復元方法、符号化ストリーム復元装置、符号化ストリーム再符号化プログラム、符号化ストリーム復元プログラムおよびそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP4672594B2 (ja) * 2006-05-11 2011-04-20 日本電信電話株式会社 符号化ストリーム再符号化方法、符号化ストリーム再符号化装置、符号化ストリーム復元方法、符号化ストリーム復元装置、符号化ストリーム再符号化プログラム、符号化ストリーム復元プログラムおよびそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2008153771A (ja) * 2006-12-14 2008-07-03 Mitsubishi Electric Corp 画像符号化方式変換装置
JP2011091858A (ja) * 2011-01-06 2011-05-06 Mitsubishi Electric Corp 画像符号化方式変換装置

Also Published As

Publication number Publication date
JP3715664B2 (ja) 2005-11-09

Similar Documents

Publication Publication Date Title
US9332270B2 (en) Apparatus capable of performing both block-matching motion compensation and global motion compensation and method thereof
JP4261630B2 (ja) 画像符号化装置及び方法、画像符号化プログラムが記録されたコンピュータ可読記録媒体
JP5100015B2 (ja) 画面間又は画面内符号化モードの動画像符号化方法及び装置
US20030095603A1 (en) Reduced-complexity video decoding using larger pixel-grid motion compensation
US8396311B2 (en) Image encoding apparatus, image encoding method, and image encoding program
JP5195032B2 (ja) 符号化装置/復号化装置、符号化方法/復号化方法及びプログラム
JP2011130410A (ja) 符号化方法、復号化方法及び装置
US20090225871A1 (en) Image encoding apparatus
US20070133689A1 (en) Low-cost motion estimation apparatus and method thereof
JP2000333163A (ja) 復号装置及び方法、符号化装置及び方法、画像処理システム、画像処理方法
US7346108B2 (en) Encoded-data converting apparatus and method for the same
JP3715664B2 (ja) 画像処理方法
JP3257052B2 (ja) 画像信号の高能率符号化装置及びその方法
JP2002344973A (ja) 画像符号化データのサイズ変換方法、画像符号化データ伝送方法、及び画像符号化データサイズ変換装置
JP3141149B2 (ja) 画像符号化装置
JP4100067B2 (ja) 画像情報変換方法及び画像情報変換装置
JP3188081B2 (ja) 画像符号化方法および画像符号化装置
JPH11155147A (ja) 画像再生方法、画像符号化装置及び画像符号化方法
JP3428549B2 (ja) 動画像圧縮装置
JP3166835B2 (ja) 動画像の高能率符号化方法及び装置
JP4760551B2 (ja) 動きベクトル復号化方法および復号化装置
JP2003087797A (ja) 画像情報変換装置及び方法、画像情報変換プログラム、並びに記録媒体
JP2003174653A (ja) 画像情報変換方法及び画像情報変換装置、並びに制御プログラム及び記録媒体
JP2004215049A (ja) 符号化装置および方法、復号装置および方法、並びにプログラム
JP2003070001A (ja) 動画像符号化装置

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050719

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050826

R150 Certificate of patent (=grant) or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090902

Year of fee payment: 4

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090902

Year of fee payment: 4

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100902

Year of fee payment: 5

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110902

Year of fee payment: 6

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110902

Year of fee payment: 6

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120902

Year of fee payment: 7

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120902

Year of fee payment: 7

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130902

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees