JP3897253B2 - 画像処理方法、画像処理装置、撮像装置、プログラム及び記録媒体 - Google Patents
画像処理方法、画像処理装置、撮像装置、プログラム及び記録媒体 Download PDFInfo
- Publication number
- JP3897253B2 JP3897253B2 JP2002380033A JP2002380033A JP3897253B2 JP 3897253 B2 JP3897253 B2 JP 3897253B2 JP 2002380033 A JP2002380033 A JP 2002380033A JP 2002380033 A JP2002380033 A JP 2002380033A JP 3897253 B2 JP3897253 B2 JP 3897253B2
- Authority
- JP
- Japan
- Prior art keywords
- frequency component
- component amount
- moving object
- image
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Analysis (AREA)
- Closed-Circuit Television Systems (AREA)
Description
【発明の属する技術分野】
本発明は、画像処理に係り、特に、デジタルカメラなどによって撮影された静止画像中の移動物体の検出及びそれに関連した画像処理に関する。
【0002】
【従来の技術】
様々な画像処理の分野において、画像中の移動物体の検出が必要となることがある。動画像の場合には、時間的に連続した前後の画像の比較により、比較的容易に移動物体を検出することができる(例えば特許文献1参照)。しかし、静止画像の場合、時間的に接近した画像を用意できないときには、そのような方法を適用できない。
【0003】
画像は記録又は伝送に先立って圧縮されることが多い。静止画像の圧縮にはJPEGが広く利用されているが、これに代わる圧縮方式としてJPEG2000(ISO/IEC FCD 15444−1)が注目されている(例えば非特許文献1参照)。
【0004】
【特許文献1】
特開平10−145776号公報
【非特許文献1】
野水泰之著、「次世代画像符号化方式 JPEG2000」、株式会社トリケップス、2001年2月13日
【0005】
【発明が解決しようとする課題】
よって、本発明の目的は、デジタルカメラなどによって撮影された静止画像中の移動物体を検出するための新規な方法及び装置を提供することにある。本発明のもう1つの目的は、静止画像中の移動物体を検出し、その検出結果に応じて静止画像を圧縮する新規な方法及び装置を提供することにある。本発明のもう1つの目的は、圧縮された静止画像中の移動物体を検出する新規な方法及び装置を提供することにある。本発明のもう1つの目的は、静止画像を圧縮処理した符号化データを移動物体の検出結果に応じて変換する新規な方法及び装置を提供することにある。
【0006】
【課題を解決するための手段】
本発明の画像処理方法は、請求項1に記載されるように、
静止画像に2次元ウェーブレット変換が適用されることにより得られたHLサブバンド係数及びLHサブバンド係数から、前記静止画像の領域毎の水平方向の高周波成分量(Yh)及び垂直方向の高周波成分量(Yv)を計算する高周波成分量算出処理と、
前記高周波成分量算出処理により前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)に基づいて、前記静止画像中の移動物体を検出する移動物体検出処理と、
を含み、
前記移動物体検出処理は、前記高周波成分量算出処理により前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの小さい方の値(Min(Yh,Yv))と第1の閾値とを比較する第1の判定ステップと、該第1の判定ステップで前記値(Min(Yh,Yv))が前記第1の閾値より小さいと判定された場合に、前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの大きい方の値(Max(Yh,Yv))と前記値(Min(Yh,Yv))との比(Max(Yh,Yv)/Min(Yh,Yv))を第2の閾値と比較する第2の判定ステップとを含むことを特徴とする。
【0007】
本発明の画像処理方法のもう1つの特徴は、請求項2に記載されるように、請求項1に記載の構成に加え、前記移動物体検出処理において、前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの小さい方の値(Min(Yh,Yv))が第1の閾値より小さく、かつ、前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの大きい方の値(Max(Yh,Yv))と前記値(Min(Yh,Yv))の比(Max(Yh,Yv)/Min(Yh,Yv))が第2の閾値より大きい場合に、前記値(Min(Yh,Yv))が水平方向の高周波成分量(Yh)ならば当該領域を水平方向に移動する移動物体が含まれる領域と判定し、前記値(Min(Yh,Yv))が垂直方向の高周波成分量(Yv)ならば当該領域を垂直方向に移動する移動物体が含まれる領域と判定し、前記値(Min(Yh,Yv))が前記第1の閾値より小さく、かつ、前記比(Max(Yh,Yv)/Min(Yh,Yv))が前記第2の閾値以下の場合に当該領域を斜め方向に移動する移動物体が含まれる領域と判定することにある。
【0008】
本発明の画像処理方法のもう1つの特徴は、請求項3に記載されるように、請求項1又は2に記載の構成に加え、2次元ウェーブレット変換を含む静止画像の圧縮処理をさらに含み、前記圧縮処理における2次元ウェーブレット変換により生成されるHLサブバンド係数及びLHサブバンド係数が前記静止画像の領域毎の前記水平方向及び垂直方向の高周波成分量の計算に用いられることにある。
【0009】
本発明の画像処理方法のもう1つの特徴は、請求項4に記載されるように、請求項3に記載の構成において、前記圧縮処理は、前記移動物体検出処理による移動物体の検出結果に従って、移動物体が含まれる前記静止画像の領域の画質が移動物体が含まれない前記静止画像の領域の画質より高画質の符号化データを生成することにある。
【0010】
本発明の画像処理方法のもう1つの特徴は、請求項5に記載されるように、請求項3に記載の構成に加え、前記移動物体検出処理による移動物体の検出結果に従って、前記圧縮処理により生成された符号化データを、移動物体が含まれる前記静止画像の領域の画質が移動物体が含まれない前記静止画像の領域の画質より高画質の符号データに変換する符号加工処理をさらに含むことにある。
【0011】
本発明の画像処理方法のもう1つの特徴は、請求項6に記載されるように、請求項1又は2に記載の構成に加え、2次元ウェーブレット変換を含む圧縮処理により圧縮された静止画像の符号化データの伸長処理をさらに含み、前記伸長処理により生成されるHLサブバンド係数及びLHサブバンド係数が前記静止画像の領域毎の前記水平方向及び垂直方向の高周波成分量の計算に用いられることにある。
【0012】
本発明の画像処理方法のもう1つの特徴は、請求項7に記載されるように、請求項6に記載の構成に加え、前記移動物体検出処理による移動物体の検出結果に従って、前記符号化データを、移動物体が含まれる前記静止画像の領域の画質が移動物体が含まれない前記静止画像の領域の画質より高画質の符号データに変換する符号加工処理をさらに含むことにある。
【0013】
本発明の画像処理方法のもう1つの特徴は、請求項8に記載されるように、請求項1乃至7のいずれか1項に記載の構成において、前記高周波成分量算出処理は2次元ウェーブレット変換が適用される領域と同一の領域毎の前記高周波成分量を計算することにある。
【0014】
本発明の画像処理方法のもう1つの特徴は、請求項9に記載されるように、請求項1乃至7のいずれか1項に記載の構成において、前記高周波成分量算出処理は2次元ウェーブレット変換が適用される領域より小さな領域毎の前記高周波成分量を計算することにある。
【0015】
本発明の画像処理装置は、請求項10に記載されるように、
静止画像に対する2次元ウェーブレット変換を実行するウェーブレット変換処理手段と、
前記ウェーブレット変換により生成されたHLサブバンド係数及びLHサブバンド係数から、前記静止画像の領域毎の水平方向の高周波成分量(Yh)及び垂直方向の高周波成分量(Yv)を計算する高周波成分量算出手段と、
前記高周波成分量算出手段により前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)に基づいて、前記静止画像中の移動物体を検出する移動物体検出手段と、
を有し、
前記移動物体検出手段は、前記高周波成分量算出手段により前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの小さい方の値(Min(Yh,Yv))と第1の閾値とを比較する第1の判定手段と、該第1の判定手段で前記値(Min(Yh,Yv))が前記第1の閾値より小さいと判定された場合に、前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの大きい方の値(Max(Yh,Yv))と前記値(Min(Yh,Yv))との比(Max(Yh,Yv)/Min(Yh,Yv))を第2の閾値と 比較する第2の判定手段とを含むことを特徴とする。
【0016】
本発明の画像処理装置のもう1つの特徴は、請求項11に記載されるように、請求項10の記載の構成に加え、前記移動物体検出手段において、前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの小さい方の値(Min(Yh,Yv))が第1の閾値より小さく、かつ、前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの大きい方の値(Max(Yh,Yv))と前記値(Min(Yh,Yv))の比(Max(Yh,Yv)/Min(Yh,Yv))が第2の閾値より大きい場合に、前記値(Min(Yh,Yv))が水平方向の高周波成分量(Yh)ならば当該領域を水平方向に移動する移動物体が含まれる領域と判定し、前記値(Min(Yh,Yv))が垂直方向の高周波成分量(Yv)ならば当該領域を垂直方向に移動する移動物体が含まれる領域と判定し、前記値(Min(Yh,Yv))が前記第1の閾値より小さく、かつ、前記比(Max(Yh,Yv)/Min(Yh,Yv))が前記第2の閾値以下の場合に当該領域を斜め方向に移動する移動物体が含まれる領域と判定することにある。
【0017】
本発明の画像処理装置のもう1つの特徴は、請求項12に記載されるように、請求項10又は11に記載の構成に加え、静止画像の圧縮処理を実行する圧縮処理手段を有し、前記ウェーブレット変換処理手段は前記圧縮処理手段に含まれることにある。
【0018】
本発明の画像処理装置のもう1つの特徴は、請求項13に記載されるように、請求項12に記載の構成において、前記圧縮処理手段は、前記移動物体検出手段による移動物体の検出結果に従って、移動物体が含まれる前記静止画像の領域の画質が移動物体が含まれない前記静止画像の領域の画質より高画質の符号化データを生成することにある。
【0019】
本発明の画像処理装置のもう1つの特徴は、請求項14に記載されるように、請求項12に記載の構成に加え、前記移動物体検出手段による移動物体の検出結果に従って、前記圧縮処理手段により生成された符号化データを、移動物体が含まれる前記静止画像の領域の画質が移動物体が含まれない前記静止画像の領域の画質より高画質の符号データに変換する符号加工手段を有することにある。
【0020】
本発明の画像処理装置のもう一つの特徴は、請求項15に記載されるように、
2次元ウェーブレット変換を含む圧縮処理により圧縮された静止画像の符号化データに対する伸長処理を実行する伸長処理手段と、
前記伸長処理により生成されるHLサブバンド係数及びLHサブバンド係数から、前記静止画像の領域毎の水平方向の高周波成分量(Yh)及び垂直方向の高周波成分量(Yv)を計算する高周波成分量算出手段と、
前記高周波成分量算出手段により前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)に基づいて、前記静止画像中の移動物体を検出する移動物体検出手段と、
を有し、
前記移動物体検出手段は、前記高周波成分量算出手段により前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの小さい方の値(Min(Yh,Yv))と第1の閾値とを比較する第1の判定手段と、該第1の判定手段で前記値(Min(Yh,Yv))が前記第1の閾値より小さいと判定された場合に、前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの大きい方の値(Max(Yh,Yv))と前記値(Min(Yh,Yv))との比(Max(Yh,Yv)/Min(Yh,Yv))を第2の閾値と比較する第2の判定手段とを含むことを特徴とする。
【0021】
本発明の画像処理装置のもう1つの特徴は、請求項16に記載されるように、請求項15に記載の構成に加え、前記移動物体検出手段による移動物体の検出結果に従って、前記符号化データを、移動物体が含まれる前記静止画像の領域の画質が移動物体が含まれない前記静止画像の領域の画質より高画質の符号データに変換する符号加工手段を有することにある。
【0022】
本発明の画像処理装置のもう1つの特徴は、請求項17に記載されるように、請求項10乃至16のいずれか1項に記載の構成において、前記高周波成分量算出手段は2次元ウェーブレット変換が適用される領域と同一の領域毎の前記高周波成分量を計算することにある。
【0023】
本発明の画像処理装置のもう1つの特徴は、請求項18に記載されるように、請求項10乃至16のいずれか1項に記載の構成において、前記高周波成分量算出手段は2次元ウェーブレット変換が適用される領域より小さな領域毎の前記高周波成分量を計算することにある。
【0024】
本発明の撮像装置は、請求項19に記載されるように、請求項10乃至16のいずれか1項に記載の各手段と、静止画像を撮影して入力する撮像手段を有することを特徴とする。
【0025】
【発明の実施の形態】
本発明の実施の形態の説明に先立ち、その理解に必要な範囲でJPEG2000について概説する。
【0026】
図1は、JPEG2000の基本的な圧縮・伸長処理の流れを示すブロック図である。圧縮処理の対象となる画像データは、各コンポーネント毎に、重複しない矩形領域(タイル)に分割され、各コンポーネント毎にタイル単位で処理される。ただし、画像全体を1つのタイルとして処理することも可能である。
【0027】
各コンポーネントの各タイル画像は、色空間変換・逆変換部1で、圧縮率の向上を目的として、RGBデータやCMYデータからYCrCbデータへの色空間変換を施される。この色空間変換が省かれる場合もある。
【0028】
色空間変換後のタイル画像は、ウェーブレット変換/逆変換部2により、2次元ウェーブレット変換(離散ウェーブレット変換)を施され、複数のサブバンドに分解される。ウェーブレット係数はサブバンド毎に量子化/逆量子化部3によって量子化される。JPEG2000は可逆圧縮(ロスレス圧縮)と非可逆圧縮(ロシィ圧縮)のいずれも可能であり、可逆圧縮の場合には量子化ステップ幅は常に1であり、この段階では実質的に量子化されない。
【0029】
量子化後の各サブバンド係数は、エントロピー符号化/復号化部4でエントロピー符号化される。このエントロピー符号化には、ブロック分割、係数モデリング及び2値算術符号化からなるEBCOT(Embedded Block Coding with Optimized Truncation)と呼ばれるブロックベースのビットプレーン符号化方式が用いられる。量子化後の各サブバンド係数のビットプレーンが、上位ビットから下位ビットへ向かって、コードブロックと呼ばれるブロック毎に符号化される。
【0030】
タグ処理部5において、エントロピー符号化/復号化部4で生成されたコードブロックの符号がまとめられパケットが作成され、次に、パケットがプログレッション順序に従って並べられるとともに必要なタグ情報が付加されることにより、所定のフォーマットの符号化データが作成される。JPEG2000では、符号順序制御に関して、解像度レベル、位置(プリシンクト)、レイヤ、コンポーネント(色成分)の組み合わせによる5種類のプログレッション順序が定義されている。
【0031】
このようにして生成されるJPEG2000の符号化データのフォーマットを図2に示す。図2に見られるように、符号化データはその始まりを示すSOCマーカと呼ばれるタグで始まり、その後に符号化パラメータや量子化パラメータ等を記述したメインヘッダ(Main Header)と呼ばれるタグ情報が続き、その後に各タイル毎の符号データが続く。各タイル毎の符号データは、SOTマーカと呼ばれるタグで始まり、タイルヘッダ(Tile Header)と呼ばれるタグ情報、SODマーカと呼ばれるタグ、各タイルの符号列を内容とするタイルデータ(Tile Data)で構成される。最後のタイルデータの後に、終了を示すEOCマーカと呼ばれるタグが置かれる。
【0032】
伸長処理は圧縮処理と逆の処理となる。符号化データはタグ処理部5で各コンポーネントの各タイルの符号列に分解される。この符号列はエントロピー符号化/復号化部4によってエントロピー復号化される。復号化されたウェーブレット係数は量子化/逆量子化部3で逆量子化されたのち、ウェーブレット変換/逆変換部2で2次元の逆ウェーブレット変換を施されることにより、各コンポーネントの各タイルの画像が再生される。各コンポーネントの各タイル画像は色空間変換/逆変換部1で逆色変換処理を施されてRGBなどのコンポーネントから構成されるタイル画像に戻される。
【0033】
ここで、本発明に直接関連する2次元ウェーブレット変換についてさらに説明する。図3乃至図6は、モノクロ画像(又はカラー画像の1つのコンポーネント)の16×16画素のタイル画像に対して、JPEG2000で採用されている5×3変換と呼ばれるウェーブレット変換を垂直方向及び水平方向に施す過程を説明するための図である。
【0034】
図3は変換前のタイル画像である。図示のようにXY座標をとり、あるxについて、Y座標がyである画素の画素値をP(y)(0≦y≦15)と表す。JPEG2000では、まず垂直方向(Y座標方向)に、Y座標が奇数(y=2i+1)の画素を中心にハイパスフィルタを施して係数C(2i+1)を得る。次に、Y座標が偶数(y=2i)の画素を中心にローパスフィルタを施して係数C(2i)を得る(これを全てのxについて行う)。ここで、ハイパスフィルタとローパスフィルタはそれぞれ式(1)と式(2)で表される。式中のfloor(x)は、xのフロア関数(実数xを、xを越えず、かつxに最も近い整数に置換する関数)である。
【0035】
C(2i+1)=P(2i+1)−floor((P(2i)+P(2i+2))/2) 式(1)
C(2i)=P(2i)+floor((C(2i-1)+C(2i+1)+2)/4) 式(2)
【0036】
なお、画像の端部においては、中心となる画素に対して隣接画素群が存在しないことがあり、この場合は「ミラリング」と呼ばれる手法によって不足する画素値を補うことになる。ミラリングは、文字通り境界を中心として画素値を線対称に折り返し、折り返した値を隣接画素群の値とみなす操作である。
【0037】
ハイパスフィルタで得られる係数をH、ローパスフィルタで得られる係数をL、とそれぞれ表記すれば、垂直方向の変換によって図3の画像は図4のようなL係数、H係数の配列へと変換される。
【0038】
続いて、図4の係数配列に対して、水平方向に、X座標が奇数( x=2i+1)の係数を中心にハイパスフィルタを施し、次にX座標が偶数(x=2i)の係数を中心にローパスフィルタを施す(これを全てのyについて行う。この場合、前記の式のP(2i)等は係数値を表すものと読み替える)。
【0039】
L係数を中心にローパスフィルタを施して得られる係数をLL、L係数を中心にハイパスフィルタを施して得られる係数をHL、H係数を中心にローパスフィルタを施して得られる係数をLH、H係数を中心にハイパスフィルタを施して得られる係数をHH、とそれぞれ表記すれば、図4の係数配列は図5の様な係数配列へと変換される。ここで同一の記号を付した係数群はサブバンドと呼ばれ、図5は4つのサブバンドで構成される。
【0040】
以上の処理で、1回のウェーブレット変換(1回のデコンポジション(分解))が終了する。図6は、ウェーブレット係数をサブバンド毎に集めたもので、このように係数を配列することをデインターリーブと呼び、図5のような状態に配置することをインターリーブと呼ぶ。
【0041】
2回目のウェーブレット変換は、LLサブバンドを原画像と見なして、同様の処理により行われる。その処理結果をデインターリーブすると、図7に示すようなサブバンドの係数が得られる。なお、図6及び図7中の係数の接頭の1や2は、その係数が得られるまでのウェーブレット変換の回数(デコンポジション・レベル)を示す。
【0042】
図8に、デコンポジション・レベル数=3の場合のサブバンド分解の様子を示す。なお、図8(d)に示す各サブバンド中の括弧で囲んだ数字は解像度レベルを表す。
【0043】
ここで、JPEG2000におけるプリシンクト、コードブロック、パケット、レイヤについて説明する。画像≧タイル≧サブバンド≧プリシンクト≧コードブロックの大きさ関係がある。
【0044】
プリシンクトとは、サブバンドの矩形領域で、同じデコンポジションレベルのHL,LH,HHサブバンドの空間的に同じ位置にある3つの領域の組が1つのプリシンクトとして扱われる。ただし、LLサブバンドでは、1つの領域が1つのプリシンクトとして扱われる。プリシンクトのサイズをサブバンドと同じサイズにすることも可能である。また、プリシンクトを分割した矩形領域がコードブロックである。図9にデコンポジションレベル1における1つのプリシンクトとコードブロックを例示した。図中のプリシンクトと記された空間的に同じ位置にある3つの領域の組が1つのプリシンクトとして扱われる。
【0045】
プリシンクトに含まれる全てのコードブロックの符号の一部(例えば最上位から3ビット目までの3枚のビットプレーンの符号)を取り出して集めたものがパケットである。符号が空(から)のパケットも許される。コードブロックの符号をまとめてパケットを生成し、所望のプログレッション順序に従ってパケットを並べることにより符号化データを形成する。図2の各タイルに関するSOD以下の部分がパケットの集合である。
【0046】
全てのプリシンクト(つまり、全てのコードブロック、全てのサブバンド)のパケットを集めると、画像全域の符号の一部(例えば、画像全域のウェーブレット係数の最上位のビットプレーンから3枚目までのビットプレーンの符号)ができるが、これがレイヤである。したがって、伸長時に復号されるレイヤ数が多いほど再生画像の画質は向上する。つまり、レイヤは画質の単位と言える。全てのレイヤを集めると、画像全域の全てのビットプレーンの符号になる。
【0047】
さて、デジタルカメラなどに用いられるイメージャは、ある露光時間内の光量を電気信号に変換することによって撮像する。したがって、露光時間内での移動量を無視できないような速度で移動する物体が含まれる静止画像の場合、移動物体の領域では移動方向の高周波成分が減少する。
【0048】
2次元ウェーブレット変換の説明から理解されるように、HLサブバンド係数は画像の垂直エッジ成分すなわち水平方向の高周波成分であり、LHサブバンド係数は画像の水平エッジ成分すなわち垂直方向の高周波成分である。したがって、HLサブバンド係数より水平方向の高周波成分量(の尺度)Yhを、LHサブハンド係数より垂直方向の高周波成分量(の尺度)Yvをそれぞれ計算することができる。デジタルカメラなどで撮影された静止画像をタイル分割し、各タイル毎に2次元ウェーブレット変換した場合、移動物体が含まれないタイルにおいては一般に図10の(d)に示すようにYhとYvの差は小さい。これに対し、水平方向に移動する移動物体が含まれるタイルにおいては、図10の(a)に示すようにYhがYvに比べかなり減少する。垂直方向に移動する移動物体が含まれるタイルにおいては、図10の(b)に示すようにYhに比べYvがかなり減少する。斜め方向に移動する移動物体が含まれるタイルでは、図10の(c)に示すように、Yh,Yvともに減少するが、その違いは小さい。本発明は、このような移動物体の移動方向と水平方向及び垂直方向の高周波成分量の変化の関係を利用し、静止画像中の移動物体及びその移動方向を検出する。
【0049】
以下、本発明のいくつかの実施の形態について図11乃至図19を参照して説明する。なお、説明の重複を減らすため、複数の図面において同一部分もしくは対応部分に同一の参照番号を用いる。
【0050】
《実施の形態1》 図11は、本発明の1つの実施の形態を説明するためのブロック図である。
【0051】
図11において、画像ソース50は、処理対象の静止画像のデータを蓄積している記憶装置やパソコンなどの機器である。この画像ソース50は、当該画像処理装置の内部にあっても、外部にあってネットワークなどの伝送路を介して当該画像処理装置に接続されるものであってもよい。
【0052】
ウェーブレット変換処理部(ウェーブレット変換処理手段)102は、画像ソース50より静止画像のデータを取り込み、静止画像に対し重複しない矩形領域(以下、タイル)毎に2次元のウェーブレット変換(例えば、前述の5×3変換)を施す処理を実行する手段である。
【0053】
Yh,Yv算出部(高周波成分量算出手段)105は、ウェーブレット変換処理部102より出力されるHL,LHサブバンドの係数を取り込み、それを用いて水平方向と垂直方向の高周波成分量Yh,Yvを計算する処理を実行する手段である。
【0054】
移動物体検出部(移動物体検出手段)110は、水平方向、垂直方向の高周波成分量Yh,Yvに基づいて静止画像中の移動物体を検出する処理を実行する手段である。移動物体検出の単位領域として、タイルと、それより小さい領域を選ぶことができる。まず、単位領域としてタイルが選ばれた場合の動作について、図12に示すフローチャートを参照して説明する。
【0055】
1つのタイルが選ばれ(ステップS100)、ウェーブレット変換処理部102で同タイルの2次元ウェーブレット変換が行われる(ステップS101)。
【0056】
Yh,Yv算出部105で、そのタイルのHL,LHサブバンド係数を用いて、例えば、(3)式により水平方向の高周波成分量Yhを、(4)式により垂直方向の高周波成分量Yをそれぞれ計算する(ステップS102)。
Yh=ah・Σ|1HL|+bh・Σ|2HL|+ch・Σ|3HL| (3)式
Yv=av・Σ|1LH|+bv・Σ|2LH|+cv・Σ|3LH| (4)式
ただし、ah,bh,ch,av,bv,cvは0以上の定数である。
【0057】
この例では、デコンポジションレベル1,2,3のHL,LHサブバンド係数を用いるが、より少ないレベルのHL,LHサブバンド係数(例えば、1HL,1LHサブバンド係数のみ)、あるいは、より多くのレベルのHL,LHサブバンド係数を用いて計算をしてもよい。
【0058】
移動物体検出部110において、Yh,Yvの小さいほうの値すなわちMin(Yh,Yv)と閾値TH1の比較判定を行う(ステップS104)。
【0059】
Min(Yh,Yv)が閾値TH1より大きければ(ステップS104,Yes)、図10の(d)のケースに相当するので、注目しているタイルに移動物体が含まれていないと判断し、処理はステップS112に進む。
【0060】
移動物体検出部110は、Min(Yh,Yv)が閾値TH1以下ならば(ステップS104,No)、図10の(a),(b)又は(c)のケースに相当するので、注目しているタイルに移動物体が含まれていると判断する。そして、移動物体の移動方向を判別するため、Yh,Yvの大きいほうの値と、小さいほうの値の比Max(Yh,Yv)/Min(Yh,Yv)を計算し、その比と閾値TH2との比較判定を行う(ステップS106)。比がTH2より大きいならば、図10の(a)又は(b)のケースに相当するので、Min(Yh,Yv)がYhならば水平方向に移動する物体が含まれていると判断し、Min(Yh,Yv)がYvならば垂直方向に移動する物体が含まれていると判断する(ステップS108)。比がTH2以下ならば、図10の(c)のケースに相当するので、斜め方向に移動する物体が含まれていると判断する(ステップS110)。以上の判断の結果はタイル対応で移動物体検出部110に一時的に保存される。
【0061】
ステップS100からステップS110の処理が各タイルについて繰り返される。最後のタイルまで処理が終了すると(ステップS112,Yes)、移動物体検出部110は、同じ移動方向の移動物体が含まれていると判断された、接続したタイル群を1つの移動物体の領域として検出する(ステップS114)。例えば、図13の(a)に示すように右方向に移動する自動車の像が含まれる静止画像が、図示のようにタイル分割されて処理される場合には、図13の(b)に示すように、左右矢印が記されたタイルは水平方向に移動する移動物体が含まれていると判断され、それらの接続したタイル群(網掛けされた領域)が1つの移動物体の領域として検出される。
【0062】
移動物体検出の単位領域としてタイルより小さな領域が選ばれた場合の動作について、図14に示すフローチャートを参照し説明する。なお、図2乃至図6を参照した説明から明らかなように、ウェーブレット変換の各サブバンドの各係数は、原画像の特定の画素(群)と対応関係がある。したがって、デインターリーブされた各サブバンドを矩形領域に分割した場合、その各領域は原画像上の特定の矩形領域と対応している。
【0063】
まず、1つのタイルが選ばれ(ステップS200)、そのタイルに対しウェーブレット変換処理部102で2次元ウェーブレット変換が実行される(ステップS201)。
【0064】
Yh,Yv算出部105において、注目しているタイルを再分割した1つの領域を選択し(ステップS202)、その領域のHL,LHサブバンド係数を用いて、水平方向の高周波成分量Yhと垂直方向の高周波成分量Yをそれぞれ計算する(ステップS204)。この計算式としては前記の(3)式,(4)式などを用いることができる。
【0065】
移動物体検出部110において、Min(Yh,Yv)と閾値TH1の比較判定を行う(ステップS206)。
【0066】
Min(Yh,Yv)が閾値TH1より大きければ(ステップS206,Yes)、注目している領域に移動物体が含まれていないと判断し、処理はステップS212に進む。
【0067】
移動物体検出部110は、Min(Yh,Yv)が閾値TH1以下ならば(ステップS206,No)、注目している領域に移動物体が含まれていると判断する。そして、Max(Yh,Yv)/Min(Yh,Yv)を計算し、この比と閾値TH2との比較判定を行う(ステップS208)。比がTH2より大きい場合、Min(Yh,Yv)がYhならば水平方向に移動する物体が含まれていると判断し、Min(Yh,Yv)がYvならば垂直方向に移動する物体が含まれていると判断する(ステップS209)。比がTH2以下ならば、斜め方向に移動する物体が含まれていると判断する(ステップS210)。以上の判断の結果はタイルの領域対応に移動物体検出部110に一時的に保存される。
【0068】
ステップS202からステップS210の処理がタイル内の各領域について繰り返される。選択されているタイルの最後の領域まで処理が終了すると(ステップS212,Yes)、ステップS200に戻り、次のタイルについて同様の処理が繰り返される。
【0069】
最後のタイルの処理が終了すると(ステップS214,Yes)、移動物体検出部110は、同じ移動方向の移動物体が含まれていると判断した領域の接続した領域群を1つの移動物体の領域として検出する(ステップS216)。
【0070】
このようなタイルより小さな領域を単位とした移動物体検出によれば、タイル単位の場合よりも移動物体の領域をより精密に検出することができる。また、静止画像を1タイルとしてウェーブレット変換を施す場合にも移動物体検出が可能である。
【0071】
この実施の形態の画像処理装置の各手段の機能及び装置内の処理は、ハードウェア又はファームウェアにより実現することも、パソコンなどの汎用コンピュータを利用しソフトウェアにより実現することも可能であり、そのいずれの態様も本発明に包含される。また、そのようなプログラムが記録された記録(記憶)媒体も本発明に包含される。
【0072】
以下に説明する実施の形態から理解されるように、本発明は、圧縮処理に2次元ウェーブレット変換が含まれるJPEG2000のような圧縮方式が利用される画像処理方法及び装置に好適に適用できる。
【0073】
《実施の形態2》 図15は、本発明の別の実施の形態を説明するためのブロック図である。この実施の形態は、JPEG2000のアルゴリズムにより静止画像の圧縮処理を実行する過程で、2次元ウェーブレット変換により生成されるHL,LHサブバンド係数を利用して移動物体の検出を行うとともに、検出された移動物体の領域の画質を他の領域より向上させた符号化データを生成する。
【0074】
図15において、圧縮処理部(圧縮処理手段)100は、図示しない画像ソースより、デジタルカメラで撮影されたような静止画像の画像データを取り込み、JPEG2000のアルゴリズムにより圧縮処理を行う手段である。この圧縮処理部100の内部構成は、図1に示したものと同様であるので図示しない。
【0075】
Yh,Yv算出部105と移動物体検出部110は、前記実施の形態1のものと同様である。ただし、Yh,Yv算出部105は水平方向、垂直方向の高周波成分量Yh,Yvの計算に、圧縮処理部100における圧縮処理過程で生成される量子化前のHL,LHサブバンドの係数を用いる。なお、圧縮対象の静止画像がカラー画像の場合には、Y(輝度)コンポーネント(RGBコンポーネントの場合はGコンポーネント)のHL,LHサブバンド係数のみが高周波成分量Yh,Yvの計算に用いられる。
【0076】
移動物体検出部110は、その水平方向、垂直方向の高周波成分量Yh,Yvに基づいて静止画像中の移動物体を検出するが、その検出結果は圧縮処理部100にも与えられ、圧縮処理部100において移動体物体の領域の画質を他の領域より向上させるように圧縮条件が制御される。
【0077】
移動物体検出の単位領域として、タイルと、それより小さい領域(例えば、図10に関連して説明したコードブロックや複数コードブロックに対応した領域、あるいはプリシンクトに対応した領域など)を選ぶことができる。単位領域としてタイルが選ばれた場合の移動物体検出動作は図12に示した通りである。ただし、ステップS101は圧縮処理部100内のウェーブレット変換処理手段で実行される。タイルより小さい領域が単位領域として選ばれた場合の動作は図14に示した通りであるが、ステップS201は圧縮処理部100内のウェーブレット変換処理手段で実行される。
【0078】
圧縮処理部100には、ステップS104(図12)又はステップS206(図14)の判断結果が移動物体検出部110より送られる。したがって、圧縮処理の制御のみを目的とする場合には、ステップS106〜S110,S114(図12)又はステップS208〜S210,S216(図14)の処理を省くことができる。
【0079】
圧縮処理部100においては、移動物体が含まれていると判断されたタイル又は領域を、移動物体が含まれていないタイル又は領域より高い画質となるように圧縮処理を実行する。JPEG2000では、注目した領域(ROI;Region of Interest)の画質を他の領域より向上させる選択的領域画質向上機能がある。JPEG2000の基本方式(JPEG2000 Part1)では、ウェーブレット係数の符号化前に、注目した領域(ROI領域)のウェーブレット係数値を上位ビット側へシフトし、その領域外のウェーブレット係数値を下位ビット側へシフトするMax
Shift方式が採用されている。JPEG2000では、ウェーブレット係数の量子化段階で、ROI領域のウェーブレット係数値を他の領域よりも細かい量子化ステップで量子化することによっても、ROI領域の画質を向上させることができる。圧縮処理部100は、上記いずれかの方法により、移動物体が含まれていると判断されたタイル又は領域の画質を向上させるように、量子化段階以降の処理を実行する。かくして、移動物体の領域が他の領域より高画質の符号化データが圧縮処理部100より出力される。すなわち、この実施の形態によれば、移動物体の領域の画質を落とすことなく、符号化データの符号量を削減することができる。
【0080】
この実施の形態の画像処理装置の各手段の機能又は装置内の処理は、ハードウェア又はファームウェアにより実現することも、パソコンなどの汎用コンピュータを利用しソフトウェアにより実現することも可能であり、そのいずれの態様も本発明に包含される。また、そのようなプログラムが記録された記録(記憶)媒体も本発明に包含される。
【0081】
《実施の形態3》 図16は、本発明の別の実施の形態を説明するためのブロック図である。この実施の形態は、前記実施の形態2と同様、JPEG2000のアルゴリズムにより静止画像の圧縮処理を実行する過程で、2次元ウェーブレット変換により得られるHL,LHサブバンド係数を利用して移動物体の検出を行うとともに、圧縮処理により生成された符号化データを、検出された移動物体の領域の画質を他の領域より向上させた符号化データに変換する。
【0082】
この実施の形態では、符号加工部(符号加工手段)115が追加され、移動物体検出部110の検出結果が符号加工部115に与えられる。静止画像の画像データは、圧縮処理部100によって、ロスレス圧縮されるか、ロスレスに近い低圧縮率でロシィ圧縮され、得られた符号化データは符号加工部115に入力される。
【0083】
JPEG2000の符号化データは、符号状態のままで符号の廃棄などの加工が可能である。符号加工部115は、圧縮処理部100により生成された符号化データを移動物体検出結果に従って加工することにより、移動物体が含まれるタイル又は領域の画質を低下させることなく全体の符号量を減少させた符号化データに変換する。これ以外は、前記実施の形態2と同様であるので、その説明は省略する。
【0084】
なお、圧縮処理部100と符号加工部115の間に記憶手段を介在させてもよい。また、符号加工部115を他の部分とネットワークなどで接続する態様も可能である。このような態様も本発明に包含される。
【0085】
この実施の形態の画像処理装置の各手段の機能又は装置内の処理は、ハードウェア又はファームウェアにより実現することも、パソコンなどの汎用コンピュータを利用しソフトウェアにより実現することも可能であり、そのいずれの態様も本発明に包含される。また、そのようなプログラムが記録された記録(記憶)媒体も本発明に包含される。
【0086】
《実施の形態4》 図17は、本発明の別の実施の形態を説明するためのブロック図である。この実施の形態は、JPEG2000の符号化データの伸長処理により得られるHL,LHサブバンド係数を利用して移動物体の検出を行う。
【0087】
図17において、伸長処理部(伸長処理手段)200は、図示しない画像ソースよりJPEG2000のアルゴリズムにより圧縮された静止画像の符号化データを取り込み、伸長処理を行う手段である。この伸長処理部200の内部構成は、図1に示したものと同様であるので図示しない。
【0088】
Yh,Yv算出部105と移動物体検出部110は、前記実施の形態1のものと同様である。ただし、Yh,Yv算出部105は水平方向、垂直方向の高周波成分量Yh,Yvの計算に、伸長処理部200による伸長処理によって生成される逆量子化後のHL,LHサブバンド係数を用いる。なお、静止画像がカラー画像の場合には、Yコンポーネント(RGBコンポーネントの場合はGコンポーネント)のHL,LHサブバンド係数のみが高周波成分量Yh,Yvの計算に用いられる。
【0089】
移動物体検出部110は、その水平方向、垂直方向の高周波成分量Yh,Yvに基づいて静止画像中の移動物体を検出する。前記実施の形態2,3と同様に、移動物体検出の単位領域として、タイルと、それより小さい領域(例えば図10に関連して説明したコードブロックや複数コードブロックに対応する領域、あるいはプリシンクトに対応した領域など)を選ぶことができる。単位領域としてタイルが選ばれた場合又はタイルより小さな領域が選ばれた場合の移動物体検出動作はそれぞれ図12又は図14に示した通りであるが、ステップS101又はステップ201は、伸長処理部200内のエントロピー復号化、逆量子化によるサブバンド係数生成の処理に置き換わる。
【0090】
この実施の形態の画像処理装置の各手段機能及び装置内の処理は、ハードウェア又はファームウェアにより実現することも、パソコンなどの汎用コンピュータを利用しソフトウェアにより実現することも可能であり、そのいずれの態様も本発明に包含される。また、そのようなプログラムが記録された記録(記憶)媒体も本発明に包含される。
【0091】
《実施の形態5》 図18は、本発明の別の実施の形態を説明するためのブロック図である。この実施の形態は、JPEG2000の符号化データの伸長処理によって生成されるHL,LHサブバンド係数を利用して移動物体の検出を行うとともに、符号化データを、検出された移動物体の領域を高画質、それ以外の領域を低画質にした符号化データに変換する。
【0092】
この実施の形態においては、前記実施の形態3と同様の符号加工部(符号加工手段)115が追加され、これ以外は前記実施の形態4と同様である。
【0093】
伸長処理部200は、図示しない画像ソースから、PEG2000のアルゴリズムによりロスレス圧縮された、又はロスレスに近いロシィ圧縮された静止画像の符号化データを取り込み、伸長処理を行う。この伸長処理で生成されたHL,LHサブバンド係数を用いて、Yh,Yv算出部105で水平方向、垂直方向の高周波成分量Yh,Yvが計算され、それを用いて移動物体検出部110で移動物体の領域が検出される。移動物体検出処理動作は前記実施の形態4と同様である。各タイル又はそれより小さな各領域に対する移動物体検出結果(図12のステップS104又は図14のステップS206の結果)は符号加工部115に与えられ、符号加工部115において、前記実施の形態3と同様に、移動物体が含まれると判断されたタイル又は領域が高画質、それ以外の領域が低画質となるように符号化データの加工が行われる。
【0094】
なお、符号化データの加工のみを目的とする場合には、図12のステップS106〜S110,S114の処理、又は図14のステップS208〜S210,S216の処理を省くことができる。
【0095】
この実施の形態の画像処理装置の各手段の機能及び装置内の処理は、ハードウェア又はファームウェアにより実現することも、パソコンなどの汎用コンピュータを利用しソフトウェアにより実現することも可能であり、そのいずれの態様も本発明に包含される。また、そのようなプログラムが記録された記録(記憶)媒体も本発明に包含される。
【0096】
《実施の形態6》 図19は、本発明の別の実施の形態を説明するためのブロック図である。この実施の形態に係る画像処理装置は撮像装置、より具体的にはデジタルカメラなどの電子カメラ装置である。
【0097】
図19において、300は光学レンズ、絞り機構、シャッター機構などから構成される一般的な撮像光学系である。301はCCD型又はMOS型のイメージャであり、撮像光学系300により結像される光学像を色分解してから光量に応じた電気信号に変換する。302はイメージャ301の出力信号をサンプリングしてデジタル信号に変換するCDS・A/D変換部であり、相関二重サンプリング(CDS)回路とA/D変換回路からなる。
【0098】
303は画像プロセッサであり、例えばプログラム(マイクロコード)で制御される高速のデジタル信号プロセッサからなる。この画像プロセッサ303は、CDS・A/D変換部302より入力する画像データに対するガンマ補正処理、ホワイトバランス調整処理、エッジ強調などのためのエンハンス処理のような信号処理のほか、イメージャ301、CDS・A/D変換部302、表示部304を制御し、また、オートフォーカス制御、自動露出制御、ホワイトバランス調整などのための情報の検出などを行う。表示部304は例えば液晶表示装置であり、モニタリング画像(スルー画像)や撮影画像などの画像の表示、その他の情報の表示などに利用される。
【0099】
以上に説明した撮像光学系300、イメージャ301、CDS・A/D変換部302及び画像プロセッサ303は、静止画像を撮影する撮像手段を構成している。
【0100】
308はJPEG2000のアルゴリズムによる画像データの圧縮処理と符号化データの伸長処理を行う圧縮/伸長処理部である。312は記録(記憶)媒体313に対する情報の書き込み/読み出しを行う媒体記録部である。記録媒体313は例えば各種メモリカードである。314はインターフェース部である。この画像処理装置は、インターフェース部314を介し、有線又は無線の伝送路あるいはネットワークを通じ、外部のパソコンなどと情報の交換を行うことができる。
【0101】
306はシステムコントローラであり、マイクロコンピュータからなる。このシステムコントローラ306は、操作部307から入力されるユーザの操作情報や画像プロセッサ303から与えられる情報などに応答して、撮像光学系300のシャッター機構、絞り機構、ズーミング機構の、画像プロセッサ303、圧縮/伸長処理部308、媒体記録部312などの制御を行う。305はメモリであり、画像データやその符号化データなどの一時記憶域、画像プロセッサ303やシステムコントローラ306、圧縮/伸長処理部308媒体記録部312などの作業記憶域として利用される。
【0102】
操作部307は、電子カメラ装置の操作のための一般的な操作ボタン(スイッチ)のほかに、移動物体検出に関連した指示を入力するための操作ボタンも備える。
【0103】
通常の撮影動作は次の通りである。操作部307のレリーズボタンが押下されると、システムコントローラ306より撮影指示が画像プロセッサ303に与えられ、画像プロセッサ303は静止画像撮影の条件でイメージャ301を駆動する。撮影された静止画像のデータは画像プロセッサ303を経由してメモリ305に記憶される。この画像データは、システムコントローラ306の制御により、予め指定された、又はデフォルトの圧縮率で、圧縮/伸長処理部308により圧縮され、その符号化データは媒体記録部312により記録媒体313に記録される。
【0104】
前記実施の形態1(図11)に対応した動作モードを指定することもできる。この動作モードにおいては、撮影された画像データは圧縮/伸長処理部308で圧縮されるが、圧縮過程で生成されるHL,LHサブバンド係数を利用した移動物体検出処理がシステムコントローラ306で実行される。すなわち、圧縮/伸長処理部308の2次元ウェーブレット変換機能が図11中のウェーブレット変換処理部102として利用され、図11中のYh,Yv算出部105及び移動物体検出部110の機能はシステムコントローラ306上でプログラムにより実現される。移動物体の検出結果は、符号化データに付加されて(例えばメインヘッダ又はタイルヘッダにコメントとして記述される)、符号化データとともに記録媒体313に記録される。
【0105】
前記実施の形態2(図15)に対応した動作モードを指定することも可能である。この動作モードにおいては、撮影された画像データは圧縮/伸長処理部308で圧縮されるが、この圧縮処理の過程で生成されるHL,LHサブバンド係数を利用した移動物体検出処理がシステムコントローラ306で実行される。すなわち、図15中のYh,Yv算出部105と移動物体検出部110の機能は、システムコントローラ306上でプログラムにより実現される。そして、移動体検出結果に従って、圧縮/伸長処理部308では、移動物体が含まれると判断されたタイル又はより小さな領域の画質を向上させるような圧縮処理が行われる。生成された符号化データは記録媒体313に記録される。
【0106】
前記実施の形態3(図16)に対応した動作モードも指定できる。この動作モードにおいては、撮影された画像データは圧縮/伸長処理部308で圧縮されたメモリ305又は記録媒体313に記録される。この圧縮処理の過程で生成されるHL,LHサブバンド係数を利用した移動物体検出処理がシステムコントローラ306で実行され、その検出結果もメモリ305に記録される。その後、メモリ305又は記録媒体313に記録されている符号化データに対し、移動物体検出結果に従った符号加工処理が実行され、移動物体の領域の画質を落とすことなく符号量を削減した符号化データが生成され、この符号化データが記録媒体313に記録される。すなわち、図16中の符号加工部115の機能はシステムコントローラ306上でプログラムにより実現される。
【0107】
前記実施の形態4(図17)に対応した動作モードを指定することもできる。この動作モードにおいては、指定された画像の符号化データが記録媒体313より読み出され、それが圧縮/伸長処理部308により伸長処理される。この伸長処理の過程で生成されるHL,LHサブバンド係数を利用した移動物体検出処理がシステムコントローラ306で実行される。移動物体検出結果は、例えば伸長された画像データとともに表示部304に表示され、あるいは、元の符号化データに付加されて(例えばメインヘッダ又はタイルヘッダにコメントとして記述される)、符号化データとともに記録媒体に記録される。
【0108】
前記実施の形態5(図18)に対応した動作モードを指定することも可能である。この動作モードが指定された場合には、指定された画像の符号化データが媒体記録部312により記録媒体313からメモリ305に読み出される。この符号化データは圧縮/伸長処理部308により伸長されるが、その過程で生成されるHL,LHサブバンド係数を利用した移動物体検出処理と、その結果に従った符号化データの加工がシステムコントローラ306で実行される。すなわち、図18中のYh,Yv算出部105、移動物体検出部110及び符号加工部115の機能がシステムコントローラ306上でプログラムにより実現される。メモリ305に符号加工後の符号化データが生成され、これは媒体記録部312により記録媒体313に記録される。
【0109】
なお、圧縮/伸長処理部308を例えば画像プロセッサ303上でプログラムにより実現してもよい。また、Yh,Yv算出部105、移動物体検出部110、符号加工部115に対応するハードウェア又はファームウェアを別に設けることもできる。
【0110】
前記実施の形態2乃至6における圧縮方式は必ずしもJPEG2000のみに限定されるわけではなく、圧縮過程に2次元ウェーブレット変換が含まれる他の圧縮方式も利用し得る。
【0111】
【発明の効果】
以上の説明から明らかなように、本発明によれば、デジタルカメラなどによって撮影された静止画像中の移動物体の領域及び移動方向を、時間的に前後した画像を参照することなく、検出することができる。圧縮された静止画像中の移動物体とその移動方向を検出することができる。静止画像中の移動物体の画質を落とすことなく、静止画像の符号化データの符号量を削減することができる。圧縮過程に2次元ウェーブレット変換を含むJPEG2000のような圧縮方式による圧縮処理や、その符号化データの伸長処理を伴う場合には、圧縮処理又は伸長処理で生成されるHL,LHサブバンド係数を移動物体検出に利用することにより、装置構成を単純化することができる、等々の効果を得られる。
【図面の簡単な説明】
【図1】 JPEG2000のアルゴリズムを説明するための簡略化したブロック図である。
【図2】 JPEG2000の符号化データのフォーマットを示す図である。
【図3】 タイル画像の一例を示す図である。
【図4】 図3のタイル画像に垂直方向のウェーブレット変換を行った結果を示す図である。
【図5】 図4の係数列に水平方向のウェーブレット変換を行った結果を示す図である。
【図6】 図5の係数列をデインターリーブした図である。
【図7】 図6のLLサブバンドに2次元のウェーブレット変換を行った結果を示す図である。
【図8】 3レベルの2次元ウェーブレット変換を行った場合の各レベルのサブバンド係数を示す図である。
【図9】 プリシンクトとコードブロックを説明するための図である。
【図10】 水平方向及び垂直方向の高周波成分量と移動方向との関連を示す図である。
【図11】 本発明の実施の形態1を説明するためのブロック図である。
【図12】 タイル単位の移動物体検出処理を説明するためのフローチャートである。
【図13】 タイル単位の移動物体検出の例を示す図ある。
【図14】 タイルより小さな領域単位の移動物体検出処理を説明するためのフローチャートである。
【図15】 本発明の実施の形態2を説明するためのブロック図である。
【図16】 本発明の実施の形態3を説明するためのブロック図である。
【図17】 本発明の実施の形態4を説明するためのブロック図である。
【図18】 本発明の実施の形態5を説明するためのブロック図である。
【図19】 本発明の実施の形態6を説明するためのブロック図である。
【符号の説明】
100 圧縮処理部
102 ウェーブレット変換処理部
105 Yh,Yv算出部
110 移動物体検出部
115 符号加工部
200 伸長処理部
300 撮像光学系
301 イメージャ
302 CDS・A/D変換部
303 画像プロセッサ
306 システムコントローラ
308 圧縮/伸長処理部
Claims (21)
- 静止画像に2次元ウェーブレット変換が適用されることにより得られたHLサブバンド係数及びLHサブバンド係数から、前記静止画像の領域毎の水平方向の高周波成分量(Yh)及び垂直方向の高周波成分量(Yv)を計算する高周波成分量算出処理と、
前記高周波成分量算出処理により前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)に基づいて、前記静止画像中の移動物体を検出する移動物体検出処理と、
を含み、
前記移動物体検出処理は、前記高周波成分量算出処理により前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの小さい方の値(Min(Yh,Yv))と第1の閾値とを比較する第1の判定ステップと、該第1の判定ステップで前記値(Min(Yh,Yv))が前記第1の閾値より小さいと判定された場合に、前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの大きい方の値(Max(Yh,Yv))と前記値(Min(Yh,Yv))との比(Max(Yh,Yv)/Min(Yh,Yv))を第2の閾値と比較する第2の判定ステップとを含むことを特徴とする画像処理方法。 - 前記移動物体検出処理において、前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの小さい方の値(Min(Yh,Yv))が第1の閾値より小さく、かつ、前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの大きい方の値(Max(Yh,Yv))と前記値(Min(Yh,Yv))の比(Max(Yh,Yv)/Min(Yh,Yv))が第2の閾値より大きい場合に、前記値(Min(Yh,Yv))が水平方向の高周波成分量(Yh)ならば当該領域を水平方向に移動する移動物体が含まれる領域と判定し、前記値(Min(Yh,Yv))が垂直方向の高周波成分量(Yv)ならば当該領域を垂直方向に移動する移動物体が含まれる領域と判定し、前記値(Min(Yh,Yv))が前記第1の閾値より小さく、かつ、前記比(Max(Yh,Yv)/Min(Yh,Yv))が前記第2の閾値以下の場合に当該領域を斜め方向に移動する移動物体が含まれる領域と判定することを特徴とする請求項 1 に記載の画像処理方法。
- 2次元ウェーブレット変換を含む静止画像の圧縮処理をさらに含み、前記圧縮処理における2次元ウェーブレット変換により生成されるHLサブバンド係数及びLHサブバンド係数が前記静止画像の領域毎の前記水平方向及び垂直方向の高周波成分量の計算に用いられることを特徴とする請求項1又は2に記載の画像処理方法。
- 請求項3に記載の画像処理方法において、前記圧縮処理は、前記移動物体検出処理による移動物体の検出結果に従って、移動物体が含まれる前記静止画像の領域の画質が移動物体が含まれない前記静止画像の領域の画質より高画質の符号化データを生成することを特徴とする画像処理方法。
- 前記移動物体検出処理による移動物体の検出結果に従って、前記圧縮処理により生成された符号化データを、移動物体が含まれる前記静止画像の領域の画質が移動物体が含まれない前記静止画像の領域の画質より高画質の符号データに変換する符号加工処理をさらに含むことを特徴とする請求項3に記載の画像処理方法。
- 2次元ウェーブレット変換を含む圧縮処理により圧縮された静止画像の符号化データの伸長処理をさらに含み、前記伸長処理により生成されるHLサブバンド係数及びLHサブバンド係数が前記静止画像の領域毎の前記水平方向及び垂直方向の高周波成分量の計算に用いられることを特徴とする請求項1又は2に記載の画像処理方法。
- 前記移動物体検出処理による移動物体の検出結果に従って、前記符号化データを、移動物体が含まれる前記静止画像の領域の画質が移動物体が含まれない前記 静止画像の領域の画質より高画質の符号データに変換する符号加工処理をさらに含むことを特徴とする請求項6に記載の画像処理方法。
- 請求項1乃至7のいずれか1項に記載の画像処理方法において、前記高周波成分量算出処理は2次元ウェーブレット変換が適用される領域と同一の領域毎の前記高周波成分量を計算することを特徴とする画像処理方法。
- 請求項1乃至7のいずれか1項に記載の画像処理方法において、前記高周波成分量算出処理は2次元ウェーブレット変換が適用される領域より小さな領域毎の前記高周波成分量を計算することを特徴とする画像処理方法。
- 静止画像に対する2次元ウェーブレット変換を実行するウェーブレット変換処理手段と、
前記ウェーブレット変換により生成されたHLサブバンド係数及びLHサブバンド係数から、前記静止画像の領域毎の水平方向の高周波成分量(Yh)及び垂直方向の高周波成分量(Yv)を計算する高周波成分量算出手段と、
前記高周波成分量算出手段により前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)に基づいて、前記静止画像中の移動物体を検出する移動物体検出手段と、
を有し、
前記移動物体検出手段は、前記高周波成分量算出手段により前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの小さい方の値(Min(Yh,Yv))と第1の閾値とを比較する第1の判定手段と、該第1の判定手段で前記値(Min(Yh,Yv))が前記第1の閾値より小さいと判定された場合に、前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの大きい方の値(Max(Yh,Yv))と前記値(Min(Yh,Yv))との比(Max(Yh,Yv)/Min(Yh,Yv))を第2の閾値と比較する第2の判定手段とを含むことを特徴とする画像処理装置。 - 前記移動物体検出手段において、前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの小さい方の値(Min(Yh,Yv))が第1の閾値より小さく、かつ、前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの大きい方の値(Max(Yh,Yv))と前記値(Min(Yh,Yv))の比(Max(Yh,Yv)/Min(Yh,Yv))が第2の閾値より大きい場合に、前記値(Min(Yh,Yv))が水平方向の高周波成分量(Yh)ならば当該領域を水平方向に移動する移動物体が含まれる領域と判定し、前記値(Min(Yh,Yv))が垂直方向の高周波成分量(Yv)ならば当該領域を垂直方向に移動する移動物体が含まれる領域と判定し、前記値(Min(Yh,Yv))が前記第1の閾値より小さく、かつ、前記比(Max(Yh,Yv)/Min(Yh,Yv))が前記第2の閾値以下の場合に当該領域を斜め方向に移動する移動物体が含まれる領域と判定することを特徴とする請求項 1 0に記載の画像処理装置。
- 静止画像の圧縮処理を実行する圧縮処理手段を有し、前記ウェーブレット変換処理手段は前記圧縮処理手段に含まれることを特徴とする請求項10又は11に記載の画像処理装置。
- 請求項12に記載の画像処理装置において、前記圧縮処理手段は、前記移動物体検出手段による移動物体の検出結果に従って、移動物体が含まれる前記静止画像の領域の画質が移動物体が含まれない前記静止画像の領域の画質より高画質の符号化データを生成することを特徴とする画像処理装置。
- 前記移動物体検出手段による移動物体の検出結果に従って、前記圧縮処理手段により生成された符号化データを、移動物体が含まれる前記静止画像の領域の画質が移動物体が含まれない前記静止画像の領域の画質より高画質の符号データに変換する符号加工手段を有することを特徴とする請求項12に記載の画像処理装置。
- 2次元ウェーブレット変換を含む圧縮処理により圧縮された静止画 像の符号化データに対する伸長処理を実行する伸長処理手段と、
前記伸長処理により生成されるHLサブバンド係数及びLHサブバンド係数から、前記静止画像の領域毎の水平方向の高周波成分量(Yh)及び垂直方向の高周波成分量(Yv)を計算する高周波成分量算出手段と、
前記高周波成分量算出手段により前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)に基づいて、前記静止画像中の移動物体を検出する移動物体検出手段と、
を有し、
前記移動物体検出手段は、前記高周波成分量算出手段により前記静止画像の各領域について算出された前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの小さい方の値(Min(Yh,Yv))と第1の閾値とを比較する第1の判定手段と、該第1の判定手段で前記値(Min(Yh,Yv))が前記第1の閾値より小さいと判定された場合に、前記水平方向の高周波成分量(Yh)及び前記垂直方向の高周波成分量(Yv)のうちの大きい方の値(Max(Yh,Yv))と前記値(Min(Yh,Yv))との比(Max(Yh,Yv)/Min(Yh,Yv))を第2の閾値と比較する第2の判定手段とを含むことを特徴とする画像処理装置。 - 前記移動物体検出手段による移動物体の検出結果に従って、前記符号化データを、移動物体が含まれる前記静止画像の領域の画質が移動物体が含まれない前記静止画像の領域の画質より高画質の符号データに変換する符号加工手段を有することを特徴とする請求項15に記載の画像処理装置。
- 請求項10乃至16のいずれか1項に記載の画像処理装置において、前記高周波成分量算出手段は2次元ウェーブレット変換が適用される領域と同一の領域毎の前記高周波成分量を計算することを特徴とする画像処理装置。
- 請求項10乃至16のいずれか1項に記載の画像処理装置において、前記高周波成分量算出手段は2次元ウェーブレット変換が適用される領域より小さな領域毎の前記高周波成分量を計算することを特徴とする画像処理装置。
- 請求項10乃至16のいずれか1項に記載の各手段と、前記静止画像を撮影して入力する撮像手段を有することを特徴とする撮像装置。
- 請求項1乃至9のいずれか1項に記載の各処理をコンピュータに実行させるプログラム。
- 請求項20に記載のプログラムが記録された、コンピュータが読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002380033A JP3897253B2 (ja) | 2002-12-27 | 2002-12-27 | 画像処理方法、画像処理装置、撮像装置、プログラム及び記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002380033A JP3897253B2 (ja) | 2002-12-27 | 2002-12-27 | 画像処理方法、画像処理装置、撮像装置、プログラム及び記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004213202A JP2004213202A (ja) | 2004-07-29 |
JP3897253B2 true JP3897253B2 (ja) | 2007-03-22 |
Family
ID=32816363
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002380033A Expired - Fee Related JP3897253B2 (ja) | 2002-12-27 | 2002-12-27 | 画像処理方法、画像処理装置、撮像装置、プログラム及び記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3897253B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101742291B (zh) * | 2008-11-14 | 2012-11-07 | 北大方正集团有限公司 | 压缩图像目标的定位与识别方法及装置 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010135912A (ja) * | 2008-12-02 | 2010-06-17 | Sumitomo Electric Ind Ltd | 動画像データの圧縮方法 |
-
2002
- 2002-12-27 JP JP2002380033A patent/JP3897253B2/ja not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101742291B (zh) * | 2008-11-14 | 2012-11-07 | 北大方正集团有限公司 | 压缩图像目标的定位与识别方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2004213202A (ja) | 2004-07-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4148462B2 (ja) | 画像処理装置、電子カメラ装置及び画像処理方法 | |
KR100971833B1 (ko) | 화상 부호화 방법 및 장치 | |
JP2004128583A (ja) | 撮像装置、画像処理方法、プログラム及び記録媒体 | |
JP2008533787A (ja) | 圧縮済領域における静止画像を処理するための方法、コンピュータプログラムプロダクト、および装置 | |
JP2006014121A (ja) | 画像符号化方法、画像符号化装置および撮像装置 | |
JP2004104347A (ja) | 画像処理装置、画像処理方法、プログラム及び記録媒体 | |
WO2006046550A1 (ja) | 画像符号化方法および装置、ならびに画像復号方法および装置 | |
JP2004186871A (ja) | 画像処理装置、撮像装置、プログラム及び記憶媒体 | |
JP3897253B2 (ja) | 画像処理方法、画像処理装置、撮像装置、プログラム及び記録媒体 | |
JP3966460B2 (ja) | 撮像装置、手振れ検出方法、画像処理方法、プログラム及び記録媒体 | |
JP2001359117A (ja) | 画像処理装置及び該装置における画像処理方法 | |
JP2006074130A (ja) | 画像復号方法、画像復号装置および撮像装置 | |
JP2006295561A (ja) | 符号化処理装置、符号化処理方法、プログラムおよび記録媒体 | |
JP4749508B2 (ja) | 画像復号方法 | |
JP4375662B2 (ja) | 画像処理装置、画像処理方法、プログラム、情報記録媒体及び撮像装置 | |
JP3899737B2 (ja) | 画像符号化装置及び方法 | |
JP4219303B2 (ja) | 符号化装置、符号化制御方法、プログラム及び記録媒体 | |
JP2007074042A (ja) | 動画像処理装置及び方法 | |
JP4055994B2 (ja) | 画像処理装置、画像処理方法、プログラム及び記録媒体 | |
JP4667424B2 (ja) | 画像復号装置 | |
JP4136680B2 (ja) | 撮像装置、撮像方法、コンピュータプログラム及び記録媒体 | |
JP4667423B2 (ja) | 画像復号装置 | |
JP2004215155A (ja) | 動き量検出装置、符号列変換装置、画像圧縮装置、撮像装置、撮像システム、画像編集装置及びプログラム | |
JP4077706B2 (ja) | インターレース画像の処理装置及び処理方法 | |
JP4458408B2 (ja) | 画像処理装置、画像処理方法、プログラム及び情報記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050222 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060920 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061120 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20061213 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20061214 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110105 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120105 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130105 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140105 Year of fee payment: 7 |
|
LAPS | Cancellation because of no payment of annual fees |