JP4621585B2 - 画像処理装置及び画像処理方法 - Google Patents

画像処理装置及び画像処理方法 Download PDF

Info

Publication number
JP4621585B2
JP4621585B2 JP2005362030A JP2005362030A JP4621585B2 JP 4621585 B2 JP4621585 B2 JP 4621585B2 JP 2005362030 A JP2005362030 A JP 2005362030A JP 2005362030 A JP2005362030 A JP 2005362030A JP 4621585 B2 JP4621585 B2 JP 4621585B2
Authority
JP
Japan
Prior art keywords
frame
pixels
luminance
total
flash
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005362030A
Other languages
English (en)
Other versions
JP2007166408A (ja
Inventor
田 卓 久 和
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2005362030A priority Critical patent/JP4621585B2/ja
Priority to US11/565,873 priority patent/US20070140356A1/en
Publication of JP2007166408A publication Critical patent/JP2007166408A/ja
Application granted granted Critical
Publication of JP4621585B2 publication Critical patent/JP4621585B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/142Detection of scene cut or scene change
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/87Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving scene cut or scene change detection in combination with video compression

Description

本発明は、画像処理装置及び画像処理方法、特に、フレーム間予測による動画像圧縮に関連する画像処理装置及び画像処理方法に関する。
静止画像の圧縮方式としてはJPEG(Joint Photographic Coding Experts Group)方式が広く用いられており、動画像の圧縮方式としてはMPEG(Motion Picture Coding Experts Group)方式が広く用いられている。JPEG方式にはJPEGやJPEG2000等の分類が存在し、MPEG方式にはMPEG1やMPEG2やH.264等の分類が存在する。JPEG方式では静止画像が変換処理や量子化処理や符号化処理により圧縮され、MPEG方式では動画像がさらにフレーム間予測や動き予測により圧縮される(特許文献1及び2)。
フレーム間予測による動画像圧縮について説明する。フレーム間予測による動画像圧縮が実施される場合には、動画像の各フレームについて、フレーム間予測による動画像圧縮のための参照フレームが事前に指定される。MPEG1やMPEG2では1個のフレームについて1個の参照フレームしか指定できず、各フレームの参照フレームは各フレームの隣接フレームに制限されているのだが、H.264では1個のフレームについて複数個の参照フレームを指定でき、各フレームの参照フレームは各フレームの隣接フレームに制限されていない。
H.264のこのような利点が有用なのは、動画像内にフラッシュやシーンチェンジが存在する場合である。フラッシュやシーンチェンジの際のフレームについては、その隣接フレームとの類似度が低い場合が多く、その隣接フレームをその参照フレームとするのが不適切な場合が多いからである。フラッシュを包含する動画像の具体例としては、爆発物の爆発時の様子を撮影した映像や、写真撮影の様子を撮影した映像や、フラッシュを伴うシーンを含むアニメーション等が挙げられる。シーンチェンジを包含する動画像の具体例としては、撮影の中断・再開や映像の編集がなされた映像等が挙げられる。
しかしながら、動画像の各フレームについて適切な参照フレームを見い出す事は極めて難しい。そこで現実には、経験上の妥当性を根拠として、各フレームの直前の数フレームを各フレームの参照フレームとする方式が一般的に採用されている。この方式は、シーンチェンジを包含する動画像には適している可能性が高いが、フラッシュを包含する動画像には適していない可能性が高い。一方で、フラッシュの存在を輝度計算により検出する事で、フラッシュを包含する動画像の各フレームについて適切な参照フレームを見い出すという事も考えられる。しかしながら、フラッシュの存在を特別な工夫もなしに輝度計算により検出しようすると、そのための演算量が膨大になるので効率的ではない。
特開2002−185817号公報 特開平11−225342号公報
本発明は、動画像を構成する各フレームについて、フレーム間予測による動画像圧縮のための参照フレームを適切且つ効率的に決定できる画像処理装置及び画像処理方法を実現することを課題とする。
本発明は例えば、動画像の各フレームについて、フレーム間予測による動画像圧縮のための参照フレームを決定する画像処理装置であって、各フレーム内の画素を任意の第1方向に沿って複数のラインに分割し、さらに、各フレーム内の画素を前記第1方向と非平行の第2方向に沿って複数のラインに分割し、動画像のフレーム間において、各フレーム内の画素の輝度の合計同士と、各フレームの前記第1方向のライン上の画素の輝度の合計同士と、各フレームの前記第2方向のライン上の画素の輝度の合計同士とをそれぞれ比較する比較手段と、前記比較手段による比較結果に基づき、各フレーム内にフラッシュが存在するか否かの判定を行う判定手段と、前記判定手段による判定結果に基づき、フラッシュの開始前のフレームをフラッシュの終了後のフレームの参照フレームとする決定を行う決定手段とを備えることを特徴とする画像処理装置に係る。
本発明は例えば、動画像の各フレームについて、フレーム間予測による動画像圧縮のための参照フレームを決定する画像処理方法であって、各フレーム内の画素を任意の第1方向に沿って複数のラインに分割し、さらに、各フレーム内の画素を前記第1方向と非平行の第2方向に沿って複数のラインに分割し、動画像のフレーム間において、各フレーム内の画素の輝度の合計同士と、各フレームの前記第1方向のライン上の画素の輝度の合計同士と、各フレームの前記第2方向のライン上の画素の輝度の合計同士とをそれぞれ比較する比較段階と、前記比較段階による比較結果に基づき、各フレーム内にフラッシュが存在するか否かの判定を行う判定段階と、前記判定段階による判定結果に基づき、フラッシュの開始前のフレームをフラッシュの終了後のフレームの参照フレームとする決定を行う決定段階とを備えることを特徴とする画像処理方法に係る。
本発明は、動画像を構成する各フレームについて、フレーム間予測による動画像圧縮のための参照フレームを適切且つ効率的に決定できる画像処理装置及び画像処理方法を実現することを可能にする。
図1は、動画像圧縮を実行する画像処理システムのブロック図である。図1の画像処理システムでは、MPEG方式のH.264(MPEG4AVC)に準拠した動画像圧縮が実行される。
図1の画像処理システムは、動画像圧縮の準備を実行する第1画像処理装置101と、動画像圧縮を実行する第2画像処理装置102により構成されている。第1画像処理装置101は、動画像の各フレームについて、フレーム間予測による動画像圧縮のための参照フレームを決定する画像処理装置である。第2画像処理装置102は、変換処理や量子化処理や符号化処理やフレーム間予測や動き補償による動画像圧縮を実行する画像処理装置である。第1画像処理装置101による参照関係の決定結果は、第2画像処理装置102によるフレーム間予測で利用される。
第1画像処理装置101の画像処理機能や第2画像処理装置102の画像処理機能は、LSI等の集積回路により実現されているとするが、ROMやHDD等に実装されているプログラムにより実現されているとしても構わない。いずれの第1画像処理装置101も本発明の実施例に相当する。
第1画像処理装置101と第2画像処理装置102は、別々の集積回路又はプログラムにより実現されている、すなわち別々の装置として分離されているとするが、同一の集積回路又はプログラムにより実現されている、すなわち同一の装置として統合されているとしても構わない。いずれの第1画像処理装置101も本発明の実施例に相当する。
第1画像処理装置101は、比較手段の具体例に相当する比較部111と、判定手段の具体例に相当する判定部112と、決定手段の具体例に相当する決定部113により構成されている。比較部111は、輝度算出部121と、輝度保持部122と、輝度差算出部123と、輝度差保持部124と、閾値処理管理部125と、閾値処理結果保持部126により構成されている。
比較部111は、動画像のフレーム間において、各フレーム内の各画素の輝度の合計A同士と、各フレームの水平方向のライン上の各画素の輝度のライン毎の合計B同士と、各フレームの垂直方向のライン上の各画素の輝度のライン毎の合計C同士とをそれぞれ比較するブロックである。具体的にはここでは、第1のフレームの輝度合計A1,B1,C1と第2のフレームの輝度合計A2,B2,C2とがそれぞれ相違するか否か、即ち両者間の輝度合計差|A1−A2|,|B1−B2|,|C1−C2|がそれぞれ閾値α,β,γを超過するか否かが評価される。輝度合計の算出及び保持は、輝度算出部121及び輝度保持部122により実行される。輝度合計差の算出及び保持は、輝度差算出部123及び輝度差保持部124により実行される。閾値処理の管理及び閾値処理結果の保持は、閾値処理管理部125及び閾値処理結果保持部126により実行される。
判定部112は、比較部111による比較結果に基づき、動画像の各フレームについて輝度変化の有無や位置を判定するブロックである。判定部112は、比較部111による比較結果に基づき、各フレーム内にフラッシュやシーンチェンジが存在するか否かの判定等を行う。
決定部113は、判定部112による判定結果に基づき、動画像の各フレームについて参照フレームを決定するブロックである。決定部113は、判定部112による判定結果に基づき、フラッシュ開始前のフレームをフラッシュ終了後のフレームの参照フレームとする決定等を行う。
図2は、動画像内に存在するフラッシュについて説明するための図である。図2には、A,B,C,,,,,D,E,Fと続く一連の動画像を構成する6枚のフレームが図示されている。A,B,Cの3枚のフレームとD,E,Fの3枚のフレームとがそれぞれ、3枚の隣接するフレームとなっている。
フレームB,C,D,E内には、フラッシュが存在する。フレームB,C,D,E内に存在するフラッシュは、フレームBとフレームEをそれぞれフラッシュ開始とフラッシュ終了とする一連のフラッシュである。フレームAは一連のフラッシュ開始直前のフレームに相当し、フレームFは一連のフラッシュ終了直後のフレームに相当する。
本実施例では、ある一連のフラッシュ開始直前のフレームAを、その一連のフラッシュ終了直後のフレームFの参照フレームとする。理由は、フラッシュ終了直後のフレームFは、直前のフレームEとの類似度よりもフラッシュ開始直前のフレームAとの類似度の方が高い場合が多いからである。これにより、フラッシュを包含する動画像の圧縮率が向上される。本実施例では、こういった処理が、比較部111による比較処理と判定部112による判定処理と決定部113による決定処理をもって実行される。
なお、本処理では、適用対象をフラッシュ開始直前のフレームとフラッシュ終了直後のフレームに限定する必要はない。例えば、フラッシュ開始直前のフレームの1つ前のフレームを、フラッシュ終了直後のフレームの参照フレームとしてもよいし、フラッシュ開始直前のフレームを、フラッシュ終了直後のフレームの1つ後のフレームの参照フレームとしてもよい。
また、本処理では、適用対象を一連のフラッシュに限定する必要はない。例えば、ある一連のフラッシュ開始直前のフレームを、後続の一連のフラッシュ終了直後のフレームの参照フレームとしてもよい。実際、多数の爆発物の爆発時の様子を撮影した映像や、多数の写真機による写真撮影の様子を撮影した映像について、多発するフラッシュの区切りを検出する事に固執する事は無意味な事が多い。
図3は、第1画像処理装置101の処理(動画像圧縮の準備)について説明するためのフローチャート図である。
先ず、S101では、比較部111が、動画像の各フレームについて、各フレーム内の全画素の輝度の合計Aと、各フレームの水平方向のライン上の全画素の輝度のライン毎の合計Bと、各フレームの垂直方向のライン上の全画素の輝度のライン毎の合計Cとをそれぞれ算出する。N番目のフレームの参照フレームが指定される際には、N番目のフレームとN−1番目のフレームの輝度合計A,B,Cが算出される。輝度合計A,B,Cの算出方法は図4に図示されている。
次に、S102では、比較部111が、動画像のフレーム間において、各フレーム内の全画素の輝度合計Aの、フレーム間における差分ΔAと、各フレームの水平方向のライン上の全画素のライン毎の輝度合計Bの、対応ライン間における差分ΔBと、各フレームの垂直方向のライン上の全画素のライン毎の輝度合計Cの、対応ライン間における差分ΔCとをそれぞれ算出する。N番目のフレームの参照フレームが指定される際には、N番目のフレームとN−1番目のフレームとの間での輝度合計差ΔA,ΔB,ΔCが算出される。輝度合計差ΔA,ΔB,ΔCの算出方法は図5に図示されている。
続いて、S103では、比較部111が、動画像のフレーム間において、フレーム間における輝度合計差ΔAが閾値α以上であるか否かを判断する。フレーム間での輝度合計差ΔAが閾値α以上であるという事は、フレーム間での輝度変化が大きいという事なので、本フローチャートは、あるフレーム間での輝度合計差ΔAが閾値α以上である場合には、そのフレーム間にてフラッシュの発生・消滅やシーンチェンジが起きているとして処理が進行するようになっている。あるフレーム間の輝度合計差ΔAが閾値α以上である場合、そのフレーム間についての処理はS104に移行して、あるフレーム間の輝度合計差ΔAが閾値α未満である場合、そのフレーム間についての処理はS131に移行する。なお、フレームの範囲内で物体が動くだけではフレームの輝度合計Aはさほど変わらないので、フレームの範囲内で物体が動いている際のフレーム間の輝度合計差ΔAはさほど大きくはならない。即ち、S103の処理には、フラッシュの発生・消滅やシーンチェンジと物体の運動とを区別できるという効果がある。
続いて、S104では、比較部111が、動画像のフレーム間において、対応ライン間における輝度合計差ΔBが閾値β以上であるような水平方向のラインの存在を検出する。
続いて、S105では、比較部111が、動画像のフレーム間において、対応ライン間における輝度合計差ΔCが閾値γ以上であるような垂直方向のラインの存在を検出する。
続いて、S111では、判定部112が、比較部111による比較結果に基づいて、各フレーム内にフラッシュやシーンチェンジが存在するか否かを判定する。具体的にはここでは、輝度合計差ΔAが閾値α以上であるフレーム間における、輝度合計差ΔBが閾値β以上であるような水平方向のラインと輝度合計差ΔCが閾値γ以上であるような垂直方向のラインの「分布」に基づいて、フレーム間にてフラッシュの発生・消滅が起きているかフラッシュの発生・消滅が起きていない(シーンチェンジが起きている)か、即ち、処理対象のフレーム内にフラッシュが存在するかフラッシュが存在しない(シーンチェンジが存在する)かが判定される。
フラッシュかシーンチェンジかの判定方法は図6に図示されている。図6Aのように、輝度合計差ΔBが閾値β以上の水平ラインと輝度合計差ΔCが閾値γ以上の垂直ラインの分布に偏りがある場合は、判定結果はフラッシュ(S112)となる。図6Bのように、輝度合計差ΔBが閾値β以上の水平ラインと輝度合計差ΔCが閾値γ以上の垂直ラインの分布に偏りがない場合は、判定結果はシーンチェンジ(S113)となる。分布の偏りの有無については、相関を算出する等の統計的方法により機械的に判定可能である。
輝度合計差ΔBが閾値β以上の水平ラインと輝度合計差ΔCが閾値γ以上の垂直ラインの分布に偏りがない場合には、さらに「各水平ライン間の輝度合計差ΔB」と「フレーム間の輝度合計差ΔA÷フレームの垂直方向の画素数」との差分、すなわち「各水平ライン間の輝度合計差ΔB」と「全水平ライン間の輝度合計差ΔBの平均」との差分を判定材料としてもよい。または「各垂直ライン間の輝度合計差ΔC」と「フレーム間の輝度合計差ΔA÷フレームの水平方向の画素数」との差分、すなわち「各垂直ライン間の輝度合計差ΔC」と「全垂直ライン間の輝度合計差ΔCの平均」との差分を判定材料としてもよい。輝度合計差とその平均との差分が大きいラインが多い又は少ないという事は、ライン間の輝度合計差の分布の偏りが大きい又は少ないという事なので、判定結果をフラッシュ又はシーンチェンジとする。
なお、S111の処理では、フラッシュの有無だけでなくフラッシュの存在領域が特定される事になる。フラッシュの存在領域の特定方法は図7に図示されている。フラッシュの存在領域では、図7のように、輝度合計差ΔBが閾値β以上の水平ラインと輝度合計差ΔCが閾値γ以上の垂直ラインとが交差する事になる。そのため、判定部112は、当該水平ラインと当該垂直ラインとが交差する領域をフラッシュの存在領域として特定する事になる。フラッシュの存在領域の特定結果は、各フレームの参照フレームが各フレームのブロック毎に指定される場合において特に有用である。フラッシュ終了直後のフレームにおいて、フラッシュの存在領域にあるブロックについてはフラッシュ開始直前のフレームを参照フレームとして、フラッシュの存在領域にないブロックについては直前のフレームを参照フレームとする事で、フラッシュを包含する動画像の圧縮率が更に向上される事になるからである。
続いて、S121では、決定部113が、判定部112による判定結果に基づいて、各フレームの参照フレームを決定する。具体的にはここでは、各フレーム内にフラッシュが存在するか否かという判定結果に基づいて、フラッシュ開始直前のフレームがフラッシュ終了直後のフレームの参照フレームとして決定される。その他のフレームについては原則として、各フレームの直前の1フレームまたは数フレームが各フレームの参照フレームとして決定される。更には、各フレーム内の各ブロック内にフラッシュが存在するか否かという判定結果に基づいて、フラッシュの存在領域に位置するブロックについてフラッシュ開始直前のフレームがフラッシュ終了直後のフレームの参照フレームとして決定される事にしてもよい。
なお、決定部113による決定結果は、第2画像処理装置102に提供すべく、決定部113から出力される。出力態様は、決定部113が決定結果を第2画像処理装置102が利用可能な記憶媒体に記憶させるような出力態様でもよいし、決定部113が決定結果を第2画像処理装置102に対して送信するような出力態様でもよい。
また、決定部113は、動画像を構成する全フレームについて参照フレームを決定するのではなく、動画像を構成する「フラッシュ終了直後のフレーム」のみについて参照フレームを決定するようにしてもよい。この場合、その他のフレームの参照フレームについては、デフォルトで決定されているという取り扱いにする。これにより、決定結果の情報量が少なくて済む事になる。
続いて、S131では、動画像の各フレームについてS101からS121までの処理が実行された否かが判断される。動画像の全フレームについてS101からS121までの処理が実行されるまで、動画像の各フレームについてS101からS121までの処理が実行される。
このように、第1画像処理装置101は、各フレーム内にフラッシュが存在するか否かを判定し、フラッシュ開始前のフレームをフラッシュ終了後のフレームの参照フレームとして決定する。これによって、フラッシュを包含する動画像の圧縮率が向上される。このように、第1画像処理装置101においては、動画像を構成するフレームの参照フレームが適切に決定される。
さらには、第1画像処理装置101は、動画像のフレーム間において、各フレーム内の各画素の輝度の合計A同士と、各フレームの水平方向のライン上の各画素の輝度のライン毎の合計B同士と、各フレームの垂直方向のライン上の各画素の輝度のライン毎の合計C同士とをそれぞれ比較するという簡単な演算で、動画像の各フレーム内にフラッシュが存在するか否かを判定する。すなわち、動画像の各フレーム内にフラッシュが存在するか否かを判定する処理が効率化されている。そのため、第1画像処理装置101においては、動画像を構成するフレームの参照フレームが効率的に決定される。
なお、水平方向のラインに関する輝度合計B及び輝度合計差ΔBや垂直方向のラインに関する輝度合計C及び輝度合計差ΔCは、ここでは1ライン毎に算出されているが、複数ライン毎に算出されるようにしてもよい。例えば、1ブロック毎(16ライン毎)にB,ΔB,C,ΔCが算出されるようにしてもよい。
また、水平方向のラインに関する輝度合計B及び輝度合計差ΔBや垂直方向のラインに関する輝度合計C及び輝度合計差ΔCは、ここでは全部のラインについて算出されているが、一部のラインについて算出されるようにしてもよい。例えば、B,ΔB,C,ΔCが1ラインおきの1ライン毎に算出されるようにしてもよい。
また、フレームのラインに関する輝度合計と輝度合計差は、ここでは水平方向のラインと垂直方向のラインに関して算出されているが、図8のように、互いに直交する第1方向のラインと第2方向のラインに関して算出されるようにしてもよいし、さらには、図9のように、互いに非平行の第1方向のラインと第2方向のラインに関して算出されるようにしてもよい。ただし、物体の運動を区別する精度が高いという点で、非平行よりも直交の方が優れている。そして、演算が容易(特に集積回路の演算の場合)という点で、単なる直交よりも水平・垂直の方が優れている。ちなみに、フレームのラインに関する輝度合計と輝度合計差が水平方向のラインと垂直方向のラインに関して算出される場合、図10のように、水平方向や垂直方向の物体運動の区別精度が高くなる。
動画像圧縮を実行する画像処理システムのブロック図である。 動画像内に存在するフラッシュについて説明するための図である。 第1画像処理装置の処理について説明するためのフローチャート図である。 輝度合計A,B,Cの算出方法について説明するための図である。 輝度合計差ΔA,ΔB,ΔCの算出方法について説明するための図である。 フラッシュかシーンチェンジかの判定方法について説明するための図である。 フラッシュの存在領域の特定方法について説明するための図である。 互いに直交する第1方向のラインと第2方向のラインを表す。 互いに非平行の第1方向のラインと第2方向のラインを表す。 物体運動の区別精度について説明するための図である。
符号の説明
101 第1画像処理装置
102 第2画像処理装置
111 比較部
112 判定部
113 決定部
121 輝度算出部
122 輝度保持部
123 輝度差算出部
124 輝度差保持部
125 閾値処理管理部
126 閾値処理結果保持部

Claims (5)

  1. 動画像の各フレームについて、フレーム間予測による動画像圧縮のための参照フレームを決定する画像処理装置であって、
    各フレーム内の画素を任意の第1方向に沿って複数のラインに分割し、さらに、各フレーム内の画素を前記第1方向と非平行の第2方向に沿って複数のラインに分割し、動画像のフレーム間において、各フレーム内の画素の輝度の合計同士と、各フレームの前記第1方向のライン上の画素の輝度の合計同士と、各フレームの前記第2方向のライン上の画素の輝度の合計同士とをそれぞれ比較する比較手段と、
    前記比較手段による比較結果に基づき、各フレーム内にフラッシュが存在するか否かの判定を行う判定手段と、
    前記判定手段による判定結果に基づき、フラッシュの開始前のフレームをフラッシュの終了後のフレームの参照フレームとする決定を行う決定手段とを備えることを特徴とする画像処理装置。
  2. 前記比較手段は、
    動画像のフレーム間において、各フレーム内の画素の輝度の合計同士と、各フレームの前記第1方向のライン上の画素の輝度の合計同士と、各フレームの前記第1方向と直交する前記第2方向のライン上の画素の輝度の合計同士とをそれぞれ比較することを特徴とする請求項1記載の画像処理装置。
  3. 前記比較手段は、
    動画像のフレーム間において、各フレーム内の画素の輝度の合計同士と、各フレームの前記第1方向である水平方向のライン上の画素の輝度の合計同士と、各フレームの前記第2方向である垂直方向のライン上の画素の輝度の合計同士とをそれぞれ比較することを特徴とする請求項2記載の画像処理装置。
  4. 前記比較手段は、
    動画像のフレーム間において、各フレーム内の画素の輝度の合計同士と、各フレームの前記第1方向のライン上の画素の輝度のライン毎の合計同士と、各フレームの前記第2方向のライン上の画素の輝度のライン毎の合計同士とをそれぞれ比較することを特徴とする請求項1乃至3のいずれか1項記載の画像処理装置。
  5. 動画像の各フレームについて、フレーム間予測による動画像圧縮のための参照フレームを決定する画像処理方法であって、
    各フレーム内の画素を任意の第1方向に沿って複数のラインに分割し、さらに、各フレーム内の画素を前記第1方向と非平行の第2方向に沿って複数のラインに分割し、動画像のフレーム間において、各フレーム内の画素の輝度の合計同士と、各フレームの前記第1方向のライン上の画素の輝度の合計同士と、各フレームの前記第2方向のライン上の画素の輝度の合計同士とをそれぞれ比較する比較段階と、
    前記比較段階による比較結果に基づき、各フレーム内にフラッシュが存在するか否かの判定を行う判定段階と、
    前記判定段階による判定結果に基づき、フラッシュの開始前のフレームをフラッシュの終了後のフレームの参照フレームとする決定を行う決定段階とを備えることを特徴とする画像処理方法。
JP2005362030A 2005-12-15 2005-12-15 画像処理装置及び画像処理方法 Expired - Fee Related JP4621585B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005362030A JP4621585B2 (ja) 2005-12-15 2005-12-15 画像処理装置及び画像処理方法
US11/565,873 US20070140356A1 (en) 2005-12-15 2006-12-01 Image processing device, image processing method, and image processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005362030A JP4621585B2 (ja) 2005-12-15 2005-12-15 画像処理装置及び画像処理方法

Publications (2)

Publication Number Publication Date
JP2007166408A JP2007166408A (ja) 2007-06-28
JP4621585B2 true JP4621585B2 (ja) 2011-01-26

Family

ID=38173441

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005362030A Expired - Fee Related JP4621585B2 (ja) 2005-12-15 2005-12-15 画像処理装置及び画像処理方法

Country Status (2)

Country Link
US (1) US20070140356A1 (ja)
JP (1) JP4621585B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2245594B1 (en) * 2008-01-17 2011-06-15 Koninklijke Philips Electronics N.V. Flash detection
JP5295638B2 (ja) * 2008-05-22 2013-09-18 池上通信機株式会社 テレビカメラ
JP5129182B2 (ja) * 2009-03-12 2013-01-23 富士フイルム株式会社 撮像装置及び撮像制御方法
EP2421249A4 (en) * 2009-04-16 2013-02-20 Panasonic Corp PICTURE DEVICE, EXTERNAL FLASH RECOGNITION PROCESS, PROGRAM AND INTEGRATED CIRCUIT
JP5634901B2 (ja) * 2010-05-10 2014-12-03 パナソニック株式会社 撮像装置、外部閃光補正方法、プログラム、および、集積回路
JP2013003238A (ja) * 2011-06-14 2013-01-07 Sony Corp 映像信号処理回路、映像信号処理方法、表示装置、及び、電子機器
JP5880737B2 (ja) * 2013-01-17 2016-03-09 Nttエレクトロニクス株式会社 動画像符号化装置
JP6156686B2 (ja) * 2013-02-20 2017-07-05 パナソニックIpマネジメント株式会社 画像処理装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09223234A (ja) * 1996-02-19 1997-08-26 Oki Electric Ind Co Ltd 動画像処理システムにおける動画像情報検出装置
JP2000115778A (ja) * 1998-09-25 2000-04-21 Sarnoff Corp ビデオ・デ―タ中のフラッシュ・フレ―ムの検出および符号化
JP2002101337A (ja) * 2000-09-21 2002-04-05 Canon Inc 動画像処理装置及びその方法、コンピュータ可読メモリ

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040125877A1 (en) * 2000-07-17 2004-07-01 Shin-Fu Chang Method and system for indexing and content-based adaptive streaming of digital video content
WO2005017781A1 (en) * 2003-07-25 2005-02-24 Sony Electronics Inc. Video content scene change determination
KR100596706B1 (ko) * 2003-12-01 2006-07-04 삼성전자주식회사 스케일러블 비디오 코딩 및 디코딩 방법, 이를 위한 장치
KR100557660B1 (ko) * 2004-07-29 2006-03-10 매그나칩 반도체 유한회사 영상 신호에서의 플리커 검출 방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09223234A (ja) * 1996-02-19 1997-08-26 Oki Electric Ind Co Ltd 動画像処理システムにおける動画像情報検出装置
JP2000115778A (ja) * 1998-09-25 2000-04-21 Sarnoff Corp ビデオ・デ―タ中のフラッシュ・フレ―ムの検出および符号化
JP2002101337A (ja) * 2000-09-21 2002-04-05 Canon Inc 動画像処理装置及びその方法、コンピュータ可読メモリ

Also Published As

Publication number Publication date
US20070140356A1 (en) 2007-06-21
JP2007166408A (ja) 2007-06-28

Similar Documents

Publication Publication Date Title
JP4621585B2 (ja) 画像処理装置及び画像処理方法
US8625671B2 (en) Look-ahead system and method for pan and zoom detection in video sequences
US20120275524A1 (en) Systems and methods for processing shadows in compressed video images
US20060045334A1 (en) Method and apparatus for detecting scene changes in video using a histogram of frame differences
US20100303158A1 (en) Method and apparatus for scene change detection
US7970055B2 (en) Method and apparatus for compressing image data
US20060210175A1 (en) Method and apparatus for detecting motion in MPEG video streams
CN1711557A (zh) 使用样板预测的图像分段
KR20010099660A (ko) 고품위 텔레비전 인코더에서 장면변화의 검출 및화면코딩타입의 조정을 행하기 위한 방법 및 장치
JP2012239085A (ja) 画像処理装置、画像処理方法
US20130155228A1 (en) Moving object detection method and apparatus based on compressed domain
JP5713797B2 (ja) 映像監視装置
US7280596B2 (en) Apparatus detecting motion of image data and detecting method thereof
US8509303B2 (en) Video descriptor generation device
US20110051010A1 (en) Encoding Video Using Scene Change Detection
US20110274317A1 (en) Matching weight information extraction device
US11164328B2 (en) Object region detection method, object region detection apparatus, and non-transitory computer-readable medium thereof
US8606024B2 (en) Compression-coding device and decompression-decoding device
JP2006517363A (ja) モーションベクトルの予測方法及びシステム
JP2007158855A (ja) 動きベクトル検出装置および動きベクトル検出方法
US20070253482A1 (en) Compression-coding device and decompression-decoding device
CN110324636B (zh) 用于对视频流中的帧序列进行编码的方法、设备和系统
JP4507896B2 (ja) 動画像圧縮装置と動画像圧縮処理方法
KR20100118811A (ko) 감시 카메라 시스템의 관리를 위한 장면 전환 검출 방법과 장면 전환 검출 신뢰도 산출 방법 및 소프트웨어
US20020028023A1 (en) Moving image encoding apparatus and moving image encoding method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080805

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100518

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100705

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101005

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101101

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131105

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131105

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees