JP4392560B2 - 画像処理装置および方法、並びに記録媒体 - Google Patents
画像処理装置および方法、並びに記録媒体 Download PDFInfo
- Publication number
- JP4392560B2 JP4392560B2 JP15379599A JP15379599A JP4392560B2 JP 4392560 B2 JP4392560 B2 JP 4392560B2 JP 15379599 A JP15379599 A JP 15379599A JP 15379599 A JP15379599 A JP 15379599A JP 4392560 B2 JP4392560 B2 JP 4392560B2
- Authority
- JP
- Japan
- Prior art keywords
- image signal
- difference value
- comparison result
- pixel
- field
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は画像処理装置および方法、並びに記録媒体に関し、特に、フレーム差分値とフィールド差分値とを併用して動き検出を行い、その検出した結果を記憶し、あらたな動き検出を行う際、その記憶された結果も含めて動き検出を行う画像処理装置および方法、並びに記録媒体に関する。
【0002】
【従来の技術】
入力された画像データから動きを検出する手法として、フィールド間での差分を用いる方法と、フレーム間での差分を用いる方法とがあり、共に、簡単な回路構成で実現できることから、一般的に用いられている。
【0003】
【発明が解決しようとする課題】
画像データがインターレースに入力される場合、フィールド差分だけを用いた場合、連続する2枚のフィールドには、上下方向に1ライン分のずれがある。従って、差分を算出するために、一方のフィールドは、隣合うラインから、その間に位置する画素を補間により算出し上述した1ライン分の補正を行った上で、他方のフィールドとの差分を算出する。このように、一方のフィールドからは、補間された画素データを用いてフィールド差分値を算出することになり、その補間のために、画像にぼけが生じてしまい、その結果、動き検出の精度が落ちてしまうといった課題があった。
【0004】
また、動き検出に、フレーム間での差分を用いる方法を適用した場合、差分を算出する画像の間には、2フィールドの開きがある。従って、フレーム差分を算出する2枚の画像が一致している場合でも、その2枚の画像の間にある画像も、同様に一致しているとは限らず、このことが動き検出を行う上で、検出漏れの原因となるという課題があった。
【0005】
そこで、フィールド差分値とフレーム差分値とを併用して動き検出を行うことにより、動き検出の精度を向上させることができる。しかしながら、フィールド差分値とフレーム差分値とを併用して動き検出を行うと、フィールド差分値、または、フレーム差分値の、どちらか一方を用いて動き検出を行う場合に比べて、多くの画素データを必要とし、それらを同時に読み出す為には、画素データを記憶させておくためのポート数が多く必要となる。そのため、回路規模が大きくなるといった課題があった。
【0006】
本発明はこのような状況に鑑みてなされたものであり、フレーム差分値とフィールド差分値とを併用して動き検出を行い、その検出した結果を記憶し、あらたな動き検出を行う際、その記憶された結果も含めて動き検出を行うことにより、回路構成を簡略化し、回路規模を小さくすることを目的とする。
【0007】
【課題を解決するための手段】
本発明の一側面の画像処理装置は、第1の画像信号を入力する入力手段と、前記第1の画像信号より前の時刻に入力された第2の画像信号と、前記第2の画像信号より前の時刻に入力された第3の画像信号を少なくとも記憶する第1の記憶手段と、前記第2の画像信号の第1のラインの処理対象とされる第1の画素と、前記第1のラインの前に位置する第2のラインに位置し、前記第1の画素に対応する位置に位置する第2の画素を加算し、その加算値に1/2を乗算し、その乗算値から、前記第3の画像信号の前記第1の画素に相当する位置に位置する第3の画素を減算することで、前記第2の画像信号と前記第3の画像信号から、フィールド差分値を算出するフィールド差分値算出手段と、前記第1の画像信号と前記第3の画像信号から第1のフレーム差分値を算出するフレーム差分値算出手段と、前記フレーム差分値に対応するしきい値と、前記フレーム差分値算出手段により算出された前記フレーム差分値を比較し、第1の比較結果を出力する第1の比較手段と、前記フィールド差分値に対応するしきい値と、前記フィールド差分値算出手段により算出された前記フィールド差分値を比較し、第2の比較結果を出力する第2の比較手段と、前記第2の画像信号と、前記第3の画像信号より前の時刻に入力された第4の画像信号とから前記フィールド差分値算出手段により算出されたフィールド差分値と、前記フィールド差分値に対応するしきい値との比較結果であり、第2の記憶手段に記憶されている第3の比較結果から第4の比較結果を算出する第4の比較結果算出手段と、前記第2の比較結果、前記第3の比較結果、および前記第4の比較結果の論理和を算出する論理和算出手段と、前記第1の比較手段からの第1の比較結果と、前記論理和算出手段からの論理和との論理積を算出する論理積算出手段と、前記第2の比較手段からの前記第2の比較結果を前記第3の比較結果として記憶する前記第2の記憶手段とを備える。
【0009】
本発明の一側面の情報処理方法は、第1の画像信号を入力する入力手段と、前記第1の画像信号より前の時刻に入力された第2の画像信号と、前記第2の画像信号より前の時刻に入力された第3の画像信号を少なくとも記憶する第1の記憶手段と、第3の比較結果を記憶する第2の記憶手段とを備える情報処理装置の情報処理方法において、前記第2の画像信号の第1のラインの処理対象とされる第1の画素と、前記第1のラインの前に位置する第2のラインに位置し、前記第1の画素に対応する位置に位置する第2の画素を加算し、その加算値に1/2を乗算し、その乗算値から、前記第3の画像信号の前記第1の画素に相当する位置に位置する第3の画素を減算することで、前記第2の画像信号と前記第3の画像信号から、フィールド差分値を算出し、前記第1の画像信号と前記第3の画像信号から第1のフレーム差分値を算出し、前記フレーム差分値に対応するしきい値と、算出された前記フレーム差分値を比較し、第1の比較結果を出力し、前記フィールド差分値に対応するしきい値と、算出された前記フィールド差分値を比較し、第2の比較結果を出力し、前記第2の画像信号と、前記第3の画像信号より前の時刻に入力された第4の画像信号とから既に算出されたフィールド差分値と、前記フィールド差分値に対応するしきい値との比較結果であり、前記第2の記憶手段に記憶されている第3の比較結果から第4の比較結果を算出し、前記第2の比較結果、前記第3の比較結果、および前記第4の比較結果の論理和を算出し、その論理和と前記第1の比較結果との論理積を算出し、前記第2の比較結果を前記第3の比較結果として前記第2の記憶手段に記憶させるステップを含む。
【0010】
本発明の一側面の記録媒体は、第1の画像信号を入力する入力手段と、前記第1の画像信号より前の時刻に入力された第2の画像信号と、前記第2の画像信号より前の時刻に入力された第3の画像信号を少なくとも記憶する第1の記憶手段と、第3の比較結果を記憶する第2の記憶手段とを備える情報処理装置を制御するコンピュータが読み取り可能なプログラムであり、前記第2の画像信号の第1のラインの処理対象とされる第1の画素と、前記第1のラインの前に位置する第2のラインに位置し、前記第1の画素に対応する位置に位置する第2の画素を加算し、その加算値に1/2を乗算し、その乗算値から、前記第3の画像信号の前記第1の画素に相当する位置に位置する第3の画素を減算することで、前記第2の画像信号と前記第3の画像信号から、フィールド差分値を算出し、前記第1の画像信号と前記第3の画像信号から第1のフレーム差分値を算出し、前記フレーム差分値に対応するしきい値と、算出された前記フレーム差分値を比較し、第1の比較結果を出力し、前記フィールド差分値に対応するしきい値と、算出された前記フィールド差分値を比較し、第2の比較結果を出力し、前記第2の画像信号と、前記第3の画像信号より前の時刻に入力された第4の画像信号とから既に算出されたフィールド差分値と、前記フィールド差分値に対応するしきい値との比較結果であり、前記第2の記憶手段に記憶されている第3の比較結果から第4の比較結果を算出し、前記第2の比較結果、前記第3の比較結果、および前記第4の比較結果の論理和を算出し、その論理和と前記第1の比較結果との論理積を算出し、前記第2の比較結果を前記第3の比較結果として前記第2の記憶手段に記憶させるステップを含むプログラムが記録されている。
【0011】
本発明においては、既に算出、および判定された結果が記憶され、新たな判定を行う際に用いられる。また、フィールド差分値とフレーム差分値が併用されて動き検出が行われる。
【0012】
【発明の実施の形態】
図1は、本発明を適用した記録再生装置1の一実施の形態の構成を示すブロック図である。アンテナ2により受信された番組は、チューナ3に出力され、ユーザが所望とする番組の信号のみ選択され、スイッチ4に出力される。スイッチ4は、外部入力端子5に接続されている図示されていない装置からのデータも入力される。スイッチ4は、マイクロコンピュータ6の指示により、チューナ3からの出力、または、外部入力端子5からの出力のうち、どちらか一方を選択し、映像信号を映像信号処理部7に、音声信号を音声信号処理部8に、それぞれ出力する。
【0013】
映像信号処理部7は、入力された映像信号にAGC(Automatic Gain Control)などの処理を施し、A/D(Analog/Digital)変換部9に出力する。同様に、音声信号処理部8は、入力された音声信号に所定の処理を施し、A/D変換部10に出力する。A/D変換部9は、入力された映像信号を、A/D変換部10は、入力された音声信号を、それぞれ、デジタル信号に変換する。A/D変換部9によりデジタル信号に変換された映像信号は、映像信号圧縮器11に出力され、A/D変換部10によりデジタル信号に変換された音声信号は、音声信号圧縮器12に出力される。
【0014】
映像信号圧縮器11に入力された映像信号は、例えば、MPEG(Moving Picture Experts Group)2方式の圧縮方式が用いられて、圧縮され、メモリ13に出力され、記憶される。同様に、音声信号圧縮器12に入力された音声信号は、例えば、MPEGオーディオ方式の圧縮方式が用いられて、圧縮され、メモリ14に出力され、記憶される。
【0015】
メモリ13に記憶された映像データと、メモリ14に記憶された音声データは、マイクロコンピュータ6の指示に従い、メモリコントローラ15がコントロールすることにより、読み出され、バス16を介して、記録用変調器17に入力される。記録用変調器17は、入力された映像データまたは音声データに、エラー訂正データの付加やEFM(Eight to Fourteen Modulation)変調などの処理を施し、ディスク18に出力し、記録させる。ディスク18は、内蔵型のハードディスク、着脱可能な光ディスクや磁気ディスクなどである。ディスク18へのデータの記録は、マイクロコンピュータ6の指示により、ディスクコントローラ19がディスク18を制御することにより行われる。
【0016】
ディスク18に記録されているデータは、再生用復調器20により、読み出され、EFM復調やエラー訂正などの処理が行われた後、バス16を介して、映像データはメモリ21に、音声データはメモリ22に、それぞれ出力され、記憶される。メモリ21に記憶された映像データは、マイクロコンピュータ6の指示に従い、メモリコントローラ15がコントロールすることにより、読み出され、映像信号伸張器23に出力される。同様に、メモリ22に記憶されている音声データは、読み出され、音声信号伸張器24に出力される。
【0017】
映像信号伸張部23は、入力された圧縮されている映像データに伸張処理を施し、メモリ25、動き検出回路26、および映像処理回路27に出力する。メモリ25に記憶された映像信号は、動き検出回路26と映像処理回路27に出力される。メモリ25は、動き検出および映像処理において必要なメモリであり、数フィールド分の映像信号を記憶することができる。
【0018】
動き検出回路26は、フィールド差分とフレーム差分を適応的に組み合わせ(詳細は後述する)、動き検出を行う。検出された動き検出結果の情報は、結果用メモリ28に記憶される。映像処理回路27は、結果用メモリ28から読み出した動き検出結果の情報と複数のフィールドの映像データを用いて、例えば、フレーム静止画の生成や拡大縮小などの処理を行う。映像処理回路27からの出力は、D/A変換部29に出力され、アナログ信号に変換される。アナログ信号に変換された映像データは、映像信号処理部30に出力される。映像信号処理部30は、入力された映像信号にエンファンシスなどの処理を施し、コンポジット映像信号として、記録再生装置1に接続されているモニタ41に出力する。
【0019】
一方、音声信号伸張器24に入力された音声データは、伸張処理が施されD/A変換部31に出力される。D/A変換部31に入力されたデジタル信号の音声データは、アナログ信号に変換され、音声信号処理部32に出力され、増幅などの所定の処理が施され、接続されているスピーカ42に出力される。
【0020】
操作部33は、リモートコントローラ、ボタン、ジョグダイヤルなどから構成され、ユーザが所望の処理を記録再生装置1に対して行うときに操作される。マイクロコンピュータ6は、操作部33からの操作信号に従い、各部を制御する。
【0021】
図2は、動き検出回路26の詳細を示すブロック図である。メモリ25は、3つのフィールドメモリ51−1乃至51−3から構成されている。これらのフィールドメモリ51−1乃至51−3は、マルチポート構成となっており、後述する動領域の判定用の読み出しと、拡大縮小用の読み出しは、同時刻に行える。映像信号伸張器23から出力された映像データは、メモリ25のフィールドメモリ51−1に入力されるとともに、加算器61−1にも入力される。フィールドメモリ51−1に記憶された映像データは、フィールドメモリ51−2に順次入力され、記憶され、フィールドメモリ51−2に記憶された映像データは、フィールドメモリ51−3に順次入力され、記憶される。
【0022】
従って、時刻tにおいて入力された映像データが加算器61−1に入力されるとき、フィールドメモリ51−1から出力される映像データは、1フィールド前の時刻t−1に入力された映像データであり、フィールドメモリ51−2から出力される映像データは2フィールド前の映像データであり、フィールドメモリ51−3から出力される映像データは、3フィールド前の映像データである。すなわち、1フィールド毎に、フィールドメモリ51−1からフィールドメモリ51−2へ、フィールドメモリ51−2からフィールドメモリ51−3へと映像データは、流れていく。実際に回路を構成する場合、映像データを移動させるのではなく、メモリ25内に複数のバンクを設け、そのバンクを切り換えることにより行うようにしても良い。
【0023】
以下の説明においては、時刻tにおいてフィールドメモリ51−1から出力される映像データをフィールドnのものとし、動き検出回路26の加算器61−1に入力される映像データをフィールドn+1のものとし、フィールドメモリ51−2から出力される映像データをフィールドn−1のものとし、フィールドメモリ51−3から出力される映像データをフィールドn−2のものとする。
【0024】
加算器61−1は、映像信号伸張器23から出力されたフィールドn+1の映像データから、フィールドメモリ51−2から出力されたフィールドn−1の映像データを減算し(以下、この減算された値をフレーム差分値aとする)、動領域判定回路62に出力する。
【0025】
フィールドメモリ51−1から出力されたフィールドnの映像データは、加算器61−2とディレイライン部63−1にも出力される。ディレイライン部63−1は、加算器61−2に、フィールドメモリ51−1から直接供給されるフィールドnの所定のライン(ラインmとする)の前のライン(ラインm−1とする)の映像データを加算器61−2に供給する。加算器61−2は、フィールドnのラインmの映像データとラインm−1の映像データとを加算し、その値を乗算器64に出力する。乗算器64は、入力された値に1/2を乗算し、その値を加算器61−3に出力する。このようにして、フィールドnに、フィールドn−1に存在するラインの映像データと同位置に存在するラインの映像データが生成される。
【0026】
加算器61−3は、フィールドnの生成されたラインの映像データから、フィールドメモリ51−2から出力されたフィールドn−1の対応する位置に位置するラインの映像データを減算することにより、フィールド差分値を算出し、動領域判定回路62に出力する。
【0027】
フィールドメモリ51−3から出力されたフィールドn−2の映像データは、加算器61−4とディレイライン部63−2に入力される。ディレイライン部63−2は、ディレイライン部63−1と同様の処理により、例えば、フィールドメモリ51−3から加算器61−4に供給されているラインの映像データがラインmの映像データのとき、その次のラインm+1の映像データを加算器61−5に供給する。
【0028】
加算器61−4は、フィールドメモリ51−3から供給されるフィールドn−2の映像データから、フィールドメモリ51−1から供給されるフィールドnの映像データを減算することにより、フレーム差分値(以下、フレーム差分値cとする)を算出し、動領域判定回路62に出力する。
【0029】
加算器61−5は、ディレイライン部63−2から出力されたフィールドn−2の映像データから、ディレイライン部63−1から出力されたフィールドnの映像データを減算することにより、フレーム差分値(以下、フレーム差分値bとする)を算出し、動領域判定回路62に出力する。
【0030】
動領域判定回路62は、各部において算出された値(入力された値)を用いて、動き領域を検出し、その結果を結果用メモリ28(図1)に出力する。
【0031】
図3は、動領域判定回路62の詳細を示す図である。加算器61−3から出力されたフィールド差分値は、動領域判定回路62の絶対値回路71−1に入力され、絶対値が算出され、比較器72−1に出力される。比較器72−1には、しきい値として、しきい値Field_thも入力される。比較器72−1は、入力されたフィールド差分値の絶対値としきい値Field_thとを比較し、その比較結果として、フィールド差分値の方が大きい場合、動領域の候補を示す値として”1”を、フィールド差分値の方が小さい場合、静止領域の候補を示す値として”0”を、AND回路74に出力する。
【0032】
同様に、加算器61−1から出力されたフレーム差分値aは、絶対値回路71−2を介して比較器72−2に入力され、加算器61−5から出力されたフレーム差分値bは、絶対値回路71−3を介して比較器72−3に入力され、加算器61−4から出力されたフレーム差分値cは、絶対値回路71−4を介して比較器72−4に入力される。比較器72−2乃至72−4には、それぞれしきい値としてしきい値Frame_thも入力されている。比較器72−2乃至72−4は、それぞれ、入力されたフレーム差分値と、しきい値Frame_thを比較し、その比較結果として、フレーム差分値の方が大きい場合、動領域候補であることを示す値として”1”を、フレーム差分値の方が小さい場合、静止領域候補であることを示す値として”0”を、OR回路73に出力する。
【0033】
OR回路73は、比較器72−2乃至72−4から、それぞれ入力された値の論理和を算出し、AND回路74に出力する。AND回路74は、比較器72−1からの値と、OR回路73からの値との論理積を算出し、その結果を、動領域判定結果として、結果用メモリ28に出力する。動領域判定結果としては、動領域と判定された場合、”1”、動領域ではない(静止領域である)と判断された場合、”0”である。
【0034】
次に、フィールド差分値とフレーム差分値a乃至cの算出の仕方について説明する。ここで、時刻tにおいて動き検出回路26に入力されるフィールドn+1、フィールドメモリ51−1から出力されるフィールドn、フィールドメモリ51−2から出力されるフィールドn−1、およびフィールドメモリ51−3から出力されるフィールドn−2との擬似的な位置関係を図4に示す。
【0035】
図4に示したように、映像信号はインターレースに入力されるため、隣あうフィールド間には、1ラインのずれが生じている。すなわち、フィールドn−2の一番上に位置するラインをラインmとし、その次のラインをm+1とすると、フィールドn−1の一番上に位置するラインnは、ラインmとラインm+1の中間に位置することになる。図4に示したように、所定のフィールド内の所定のライン上に位置する画素を画素A乃至Fとする。
【0036】
図4の一部分を垂直方向に切り出して、時間順に並べると、換言すれば、画素A乃至Fを全て含む平面で切り出し、その一部を取り出すと図5に示したようになる。このように、映像信号はインターレースに入力されるため、例えば、フィールドnの画素Bと画素Cの間に、フィールドn−1の画素Aが位置するという位置関係になる。従って、例えば、図6に示すように、フィールドn−1とフィールドnとのフィールド差分を算出する為には、フィールドnの画素Bと画素Cとの間に、フィールドnの画素Aに対応する位置に位置する画素Gを補間(生成)する必要がある。すなわち、画素Bと画素Cとを足し合わし、その足し合わされた値の半分(平均)の値が画素Gの画素データとなる。
【0037】
図2に示した動き検出回路26において、フィールドメモリ51−1に記憶されてるデータがフィールドnのものであるとき、フィールドメモリ51−2に記憶されているデータは、フィールドn−1のものである。そのようなときに、フィールドメモリ51−1から画素Cのデータが出力されると、ディレイライン部63−1からは画素Bのデータが出力される。そのため、加算器61−2では、画素Bのデータと画素Cのデータとが加算されることになる。その加算されたデータは、乗算器64に入力され、1/2が乗算されることにより、平均値が算出され、加算器61−3に出力される。加算器61−3には、フィールドメモリ51−2から出力されたフィールドn−1の画素Aのデータも入力され、その入力された画素Aのデータを、乗算器64から出力された画素Bと画素Cとの平均値(画素Gのデータ)から減算することにより、フィールド差分値が算出される。
【0038】
フレーム差分値は、同じライン配列をしているフィールド同士の画素データが用いられて算出される。すなわち、図7に示したように、フィールドn−2とフィールドn、フィールドn−1とフィールドn+1との間で、それぞれフレーム差分値が算出される。例えば、図2に示した動き検出回路26において、フィールドn+1の画素Dのデータが入力されたとき、フィールドメモリ51−2からフィールドn−1の画素Aのデータが出力される。その結果、加算器61−1には、画素Aのデータと画素Dのデータとが入力される。加算器61−1は、画素Dのデータから画素Aのデータを減算することにより、フレーム差分値aを算出する。
【0039】
本実施の形態においては、1つのフレーム差分値だけではなく、そのフレーム差分値を算出した画素(注目画素)があるラインの、上下に位置するライン内の画素(画素A,Dに対しては、画素B,C,E,F)も用いられて、さらにフレーム差分値が算出され、後述する動領域の判定に用いられる。上述したように、画素Aと画素Dとを用いてフレーム差分値が算出される処理と並行して、画素Bと画素E、画素Cと画素Fとの間でのフレーム差分値が、それぞれ算出される。
【0040】
上述したように、フィールドメモリ51−1からフィールドnの画素Cのデータが出力されているとき、ディレイライン部63−1からは、画素Bのデータが出力されているので、その画素Bのデータが用いられる。また、そのとき、フィールドメモリ51−3からは、画素Cに対応する位置に位置する、フィールドn−2の画素Fのデータが出力される。さらに、ディレイライン部63−2からは、画素Eのデータが出力される。これらの画素データが用いられて画素Bと画素Eからフレーム差分値b、画素Cと画素Fとからフレーム差分値cが、それぞれ算出される。
【0041】
図7においては、フィールドnが基準フィールド(以下、適宜、フィールドメモリ51−1に記憶されているフィールドことを基準フィールドと記述する)のときのフレーム差分値について説明したが、1フィールド前の、基準フィールドがフィールドn−1のときのフレーム差分値について図8を参照して説明する。図8においては、フィールドn−2より1フィールド前のフィールドn−3上に位置する画素を画素Gと画素Hとし、フィールドn−1上に位置する画素Aとはことなる画素を画素Iとする。フィールドメモリ51−1にフィールドn−1の画素データが記憶されているとき、動き検出回路26に入力されるフィールドの画素データは、フィールドnの画素データである。また、フィールドメモリ51−2には、フィールドn−2の画素データが、フィールドメモリ51−3には、フィールドn−3の画素データが、それぞれ記憶されている。
【0042】
動き検出回路26にフィールドnの画素Bの画素データが入力されたとき、フィールドメモリ51−2から、画素Bに対応する位置に位置する画素Eの画素データが加算器61−1に出力される。従って、加算器61−1からは、画素Bの画素データから画素Eの画素データが減算されることにより、フレーム差分値a’(画素Aと画素Dから算出されるフレーム差分値aと区別するため、ダッシュを付けて表現する。他も同様に表現する)が出力される。同様に、フレーム差分値b’は、画素Gと画素Iから、フレーム差分値c’は、画素Hと画素Aから、それぞれ算出される。
【0043】
このように、基準フィールドがフィールドnのときに、算出されるフレーム差分値bは、その1フィールド前(基準フィールドがフィールドn−1のとき)のときに、フレーム差分値a’として、既に算出されている。同様に、フレーム差分値cも、その1フィールド前の処理において、既に算出されている。さらに、これらのフレーム差分値bとフレーム差分値cを用いて判定される結果、換言すれば、比較器72−3(図3)と比較器72−4から出力される比較結果は、既に出されていることになる。既に得られた判定結果を用いることにより、動き検出回路26、およびその内部の動領域判定回路62の構成を簡略化することが可能となり、もって、全体の回路構成を小型化することが可能となる。
【0044】
図9は、上述したことを考慮した動き検出回路26の構成を示す図であり、図10は、図9に示した動き検出回路26の動領域判定回路62の構成を示す図である。図2に示した動き検出回路26、図10に示した動領域判定回路62と同様の処理を行う部分には、同一の符号を付し、その説明は、適宜省略する。
【0045】
図9に示した動き検出回路26は、図2に示した動き検出回路26のうちの、フィールド差分値を算出するための加算器61−1、フレーム差分値aを算出するための加算器61−2,61−3、ディレイライン部63−1、および乗算器64から構成され、その構成に、フレーム差分値bとフレーム差分値cとから得られる判定結果を記憶する動領域判定用メモリ81が動領域判定回路62に付加された構成とされている。図9に示した構成にした場合、フィールドメモリ51−3は、動領域を判定するためのデータは記憶しないが(従って省略可能だが)、映像処理回路27が処理を行う際に必要な画像データが記憶されている。
【0046】
図10に示した動領域判定回路62の構成は、図3に示した動領域判定回路62から、絶対値回路71−3、71−4、および比較器72−3,72−4を削除し、代わりに、動領域判定用メモリ81から供給されるフレーム差分値判定結果が、OR回路73に直接、および、ディレイライン部91を介して入力される構成とされている。
【0047】
次に、図9に示した動き検出回路26の動作について図11のフローチャートを参照して説明する。ステップS1において、フィールド差分値が算出される。フィールド差分値は、図6を参照して説明したように、例えば、フィールドn−1に存在する画素Aに対応するフィールドnの位置に、画素Gが画素Bと画素Cとから生成され、その生成された画素Gと画素Aとの差分値が算出されることにより行われる。
【0048】
すなわち、フィールドメモリ51−1からフィールドnの画素データが出力され、加算器61−2に画素Cのデータが入力されると、ディレイライン部63−1からは、画素Bのデータが出力され、フィールドメモリ51−2からは画素Aのデータが出力される。従って、加算器61−2には、画素Bと画素Cのデータ入力される。加算器61−2により、画素Bと画素Cのデータが加算され、乗算器64により1/2が乗算されることにより、画素Bと画素Cとの平均値が算出される。加算器61−3は、算出された画素Bと画素Cの平均値から、フィールドメモリ51−2から入力された画素Aのデータを減算することにより、フィールド差分値を算出する。
【0049】
このようにして、ステップS1において、フィールド差分値が算出されると、ステップS2において、フレーム差分値aが算出される。フレーム差分値aは、図7を参照して説明したように、例えば、フィールドn−1の画素Aとフィールドn+1の画素Dとの差分値を算出することにより行われる。すなわち、動き検出回路26にフィールドn+1の画素Dのデータ入力されたとき、その画素Dの位置に対応するフィールドn−1の画素Aのデータがフィールドメモリ51−2から出力される。従って、加算器61−1には、画素Aと画素Dのデータが入力される。加算器61−1は、画素Dのデータから画素Aのデータを減算することにより、フレーム差分値aを算出する。
【0050】
このようにして、ステップS2において、フレーム差分値aが算出されると、ステップS3において、動領域判定回路62(図10)により動領域の判定が行われる。動領域判定回路62の絶対値回路71−1には、加算器61−3から出力されたフィールド差分値が入力される。絶対値回路71−1は、入力されたフィールド差分値の絶対値を算出し、比較器72−1に出力する。比較器72−1は、入力された絶対値が取られたフィールド差分値と予め設定されているしきい値Field_thとを比較する。その比較結果が、フィールド差分値の方がしきい値Field_thより大きいと判断された場合、動領域の候補であることを示す”1”が、しきい値Field_thの方がフィールド差分値より大きいと判断された場合、静止領域の候補であることを示す”0”が、AND回路74に出力される。
【0051】
動領域判定回路62の絶対値回路71−2には、加算器61−1から出力されたフレーム差分値aが入力される。絶対値回路71−2は、入力されたフレーム差分値aの絶対値を算出し、比較器72−2に出力する。比較器72−2は入力された絶対値の取られたフレーム差分値aと、予め設定されているしきい値Frame_thとを比較する。その比較結果が、フレーム差分値の方がしきい値Frame_thより大きいと判断された場合、動領域の候補であることを示す”1”が、しきい値Frame_thの方がフレーム差分値より大きいと判断された場合、静止領域の候補であることを示す”0”が、OR回路73に出力される。
【0052】
本実施の形態においては、3つのフレーム差分値が用いられて動領域の判定が行なわれる。そのため、OR回路73は、3つのフレーム差分値から得られる動領域の判定結果が、全て動領域ではない(静止領域である)と判断された場合のみ、静止領域であるという判定結果をAND回路74に出力する。3つのフレーム差分値のうち、1つのフレーム差分値aは、加算器61−1から供給される、換言すれば、動き検出回路26に入力されたフィールドの画素データから算出される。しかしながら、他のフレーム差分値bとフレーム差分値cは、図8を参照して説明したように、フレーム差分値aが算出される1フィールド前に、既に算出されている。さらに、算出された結果が用いられ、比較器72−2により、動領域であるか否かの判定もされている。そして、これらの判定結果は、動領域判定用メモリ81に記憶されている。
【0053】
従って、OR回路73に入力される3つのフレーム差分値からの判定結果のうち、2つの判定結果は、動領域判定用メモリ81に記憶されている判定結果が用いられる。例えば、フレーム差分値c(図7に示した例の場合、画素Bと画素Eとから算出される差分値)から得られる判定結果は、動領域判用メモリ81から直接供給され、フレーム差分値b(図7に示した例の場合、画素Cと画素Fとから算出される差分値)から得られる判定結果は、ディレイライン部91を介して動領域判定用メモリ81から供給される。
【0054】
OR回路73は、入力された3つのフレーム差分値から得られる判定結果の論理和を算出し、AND回路74に出力する。AND回路74は、比較器72−1から入力された判定結果と、OR回路73から入力された判定結果の論理積を算出し、その結果を動領域判定の結果とし、結果用メモリ28に出力する。
【0055】
ステップS4において、判定結果の記憶が行われる。動領域判定回路62の比較器72−2から出力される判定結果は、OR回路73に出力されるとともに、動領域判定用メモリ81にも出力され、記憶される。動領域判定用メモリ81に記憶された判定結果は、上述したように、ステップS3において行われる動領域の判定処理の際に用いられる。
【0056】
このように、既に算出、および判定された結果を記憶し、新たな判定を行う際に用いるようにすることにより、動き検出を行う回路の構成を簡略化することが可能となる。また、フィールド差分値とフレーム差分値を併用して動き検出を行うことにより、より正確な動き検出を行うことが可能となる。
【0057】
このようにして、動き検出回路26により検出され、結果用メモリ28に記憶された動領域判定結果は、映像処理回路27において、例えば、画像の拡大または縮小の処理を行う際などに用いられる。図12を参照して、映像処理回路27が行う処理のうち、画像の拡大または縮小する際の処理について説明する。フィールドn−1とフィールドnにより1枚の画像が作成されるわけだが、その作成される画像に対して拡大または縮小の処理を施す場合には、基本的に4点補間により、所望の画素データが算出(補間)される。その際、動きのある場合と動きのない場合とで、所望の画素データを算出するのに用いられる画素データの選び方が異なる。
【0058】
すなわち、図12(A)に示したように、フィールドn−1に存在する画素Aに対して、フィールドnに存在する画素Bと画素Cが動いているという情報が、結果用メモリ28に記憶されている判定結果から得られる場合、補間したい画素データ(画素Zのデータ)は、画素Bのデータと画素Cのデータが用いられて算出される。画素A乃至Cのデータは、必要に応じメモリ25(フィールドメモリ51−1乃至53−3の対応するメモリ)から読み出される。
【0059】
一方、図12(B)に示したように、フィールドn−1に存在する画素Aに対して、画素Bと画素Cが動いていない(静止している)という情報が、結果用メモリ28に記憶されている判定結果から得られる場合、画素Zのデータは、画素Aのデータと画素Bのデータが用いられて算出される。このように、所定の画素に対して動きがあるか否かを判断し、換言すれば、結果用メモリ28に記憶されている判定結果に基づいて、補間する画素データを算出するのに用いる画素データを選択することにより、特に、静止領域での補間後の解像度を向上させることができる。
【0060】
上述した実施の形態においては、動き検出回路26の動領域判定用メモリ81とフィールドメモリ51−1乃至51−3(メモリ25)は、異なるメモリとして設けたが、動領域判定用メモリ81に記憶される判定結果を、メモリ25に記憶させるようにし、動領域判定用メモリ81を動き検出回路26から削除した構成としても良い。
【0061】
図10に示した動領域判定回路62においては、動領域判定用メモリ81からフレーム差分値の判定結果を1つ読み出し、ディレイライン部91により、もう1つのフレーム差分値の判定結果を得る構成としたが、動領域判定用メモリ81に、2つの読み出し用のポートを設け、2つとも同時に読み出せるようにしても良い。そのようにした場合、ディレイライン部91は削除され、OR回路73には、2つのフレーム差分値からの判定結果が、直接動領域判定用メモリ81から供給される構成となる。また、動領域判定用メモリ81から時分割に2つの判定結果を読み出すことにより、ディレイライン部91を削除した構成としても良い。
【0062】
上述した実施の形態においては、映像処理回路27が画像の拡大、または、縮小などの処理を行うようにしたが、マイクロコンピュータ6も、そのような処理ができるようにしても良い。マイクロコンピュータ6が、画像処理を行う場合、メモリ25に記憶されている画像データと、結果用メモリ28に記憶されている判定結果を用いて行う。そして、処理された画像データは、マイクロコンピュータ6経由で他の装置、例えば、ハードディスク、メモリスティック、IEEE1394などで接続されている装置などに出力される。
【0063】
上述した実施の形態においては、3つのフレーム差分値を用いる場合を説明したが、さらに多くのフレーム差分値を用いて、動領域の判定を行うようにしても良い。例えば、図13に示すように、画素Hと画素J、画素Iと画素Kとから、それぞれ算出されるフレーム差分値を用いるようにしても良い。また、上述した実施の形態においては、フィールド差分値を1つしか用いない場合を説明したが、複数のフィールド差分値を用いるようにしても良い。また、フィールド差分値も、動領域判定用メモリ81に記憶させるようにし、後の処理により必要に応じ読み出せるようにしておいても良い。このように、動領域の判定に用いるフィールド差分値、およびフレーム差分値を増やした場合においても、本発明を適用することにより、メモリポートの増大や回路規模の拡大などが生じることはない。
【0064】
上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウエアとしての記録再生装置1に組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば、汎用のパーソナルコンピュータなどにインストールされる。
【0065】
次に、図14を参照して、上述した一連の処理を実行するプログラムをコンピュータにインストールし、コンピュータによって実行可能な状態とするために用いられる媒体について、そのコンピュータが汎用のパーソナルコンピュータである場合を例として説明する。
【0066】
プログラムは、図14(A)に示すように、パーソナルコンピュータ101に内蔵されている記録媒体としてのハードディスク102や半導体メモリ103に予めインストールした状態でユーザに提供することができる。
【0067】
あるいはまた、プログラムは、図14(B)に示すように、フロッピーディスク111、CD-ROM(Compact Disk-Read Only Memory)112、MO(Magneto-Optical)113、DVD(Digital Versatile Disk)114、磁気ディスク115、半導体メモリ116などの記録媒体に、一時的あるいは永続的に格納し、パッケージソフトウェアとして提供することができる。
【0068】
さらに、プログラムは、図14(C)に示すように、ダウンロードサイト121から、デジタル衛星放送用の人工衛星122を介してパーソナルコンピュータ123に無線で転送したり、ローカルエリアネットワーク、インターネットといったネットワーク131を介して、パーソナルコンピュータ123に有線で転送し、パーソナルコンピュータ123において、内蔵するハードディスクなどに格納させることができる。
【0069】
本明細書における媒体とは、これら全ての媒体を含む広義の概念を有するものである。
【0070】
また、本明細書において、媒体により提供されるプログラムを記述するステップは、記載された順序に従って、時系列的に行われる処理は勿論、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0071】
【発明の効果】
以上の如く、本発明によれば、動領域の判定の精度を向上させることが可能になるとともに、その回路の構成を簡略化することが可能となる。
【図面の簡単な説明】
【図1】本発明を適用した記録再生装置の一実施の形態の構成を示すブロック図である。
【図2】図1の動き検出回路26の内部構成を示すブロック図である。
【図3】図2の動領域判定回路62の内部構成を示すブロック図である。
【図4】フィールドと画素との関係を説明する図である。
【図5】時間的に示した各画素の位置関係を説明する図である。
【図6】フィールド差分を説明する図である。
【図7】フレーム差分を説明する図である。
【図8】フレーム差分を説明する図である。
【図9】動き検出回路26の他の内部構成を示すブロック図である。
【図10】図8の動領域判定回路62の内部構成を示すブロック図である。
【図11】図9の動き検出回路26の動作を説明するフローチャートである。
【図12】画像の拡大、縮小の際の処理について説明する図である。
【図13】フレーム差分値を説明する図である。
【図14】媒体を説明する図である。
【符号の説明】
1 記録再生装置, 51 フィールドメモリ, 61 加算器、 62 動領域判定回路, 63 ディレイライン部, 64 乗算器, 71 絶対値回路, 72 比較器, 73 OR回路, 74 AND回路, 81 動領域判定用メモリ
Claims (3)
- 第1の画像信号を入力する入力手段と、
前記第1の画像信号より前の時刻に入力された第2の画像信号と、前記第2の画像信号より前の時刻に入力された第3の画像信号を少なくとも記憶する第1の記憶手段と、
前記第2の画像信号の第1のラインの処理対象とされる第1の画素と、前記第1のラインの前に位置する第2のラインに位置し、前記第1の画素に対応する位置に位置する第2の画素を加算し、その加算値に1/2を乗算し、その乗算値から、前記第3の画像信号の前記第1の画素に相当する位置に位置する第3の画素を減算することで、前記第2の画像信号と前記第3の画像信号から、フィールド差分値を算出するフィールド差分値算出手段と、
前記第1の画像信号と前記第3の画像信号から第1のフレーム差分値を算出するフレーム差分値算出手段と、
前記フレーム差分値に対応するしきい値と、前記フレーム差分値算出手段により算出された前記フレーム差分値を比較し、第1の比較結果を出力する第1の比較手段と、
前記フィールド差分値に対応するしきい値と、前記フィールド差分値算出手段により算出された前記フィールド差分値を比較し、第2の比較結果を出力する第2の比較手段と、
前記第2の画像信号と、前記第3の画像信号より前の時刻に入力された第4の画像信号とから前記フィールド差分値算出手段により算出されたフィールド差分値と、前記フィールド差分値に対応するしきい値との比較結果であり、第2の記憶手段に記憶されている第3の比較結果から第4の比較結果を算出する第4の比較結果算出手段と、
前記第2の比較結果、前記第3の比較結果、および前記第4の比較結果の論理和を算出する論理和算出手段と、
前記第1の比較手段からの第1の比較結果と、前記論理和算出手段からの論理和との論理積を算出する論理積算出手段と、
前記第2の比較手段からの前記第2の比較結果を前記第3の比較結果として記憶する前記第2の記憶手段と
を備える画像処理装置。 - 第1の画像信号を入力する入力手段と、
前記第1の画像信号より前の時刻に入力された第2の画像信号と、前記第2の画像信号より前の時刻に入力された第3の画像信号を少なくとも記憶する第1の記憶手段と、
第3の比較結果を記憶する第2の記憶手段と
を備える情報処理装置の情報処理方法において、
前記第2の画像信号の第1のラインの処理対象とされる第1の画素と、前記第1のラインの前に位置する第2のラインに位置し、前記第1の画素に対応する位置に位置する第2の画素を加算し、その加算値に1/2を乗算し、その乗算値から、前記第3の画像信号の前記第1の画素に相当する位置に位置する第3の画素を減算することで、前記第2の画像信号と前記第3の画像信号から、フィールド差分値を算出し、
前記第1の画像信号と前記第3の画像信号から第1のフレーム差分値を算出し、
前記フレーム差分値に対応するしきい値と、算出された前記フレーム差分値を比較し、第1の比較結果を出力し、
前記フィールド差分値に対応するしきい値と、算出された前記フィールド差分値を比較し、第2の比較結果を出力し、
前記第2の画像信号と、前記第3の画像信号より前の時刻に入力された第4の画像信号とから既に算出されたフィールド差分値と、前記フィールド差分値に対応するしきい値との比較結果であり、前記第2の記憶手段に記憶されている第3の比較結果から第4の比較結果を算出し、
前記第2の比較結果、前記第3の比較結果、および前記第4の比較結果の論理和を算出し、
その論理和と前記第1の比較結果との論理積を算出し、
前記第2の比較結果を前記第3の比較結果として前記第2の記憶手段に記憶させる
ステップを含む画像処理方法。 - 第1の画像信号を入力する入力手段と、
前記第1の画像信号より前の時刻に入力された第2の画像信号と、前記第2の画像信号より前の時刻に入力された第3の画像信号を少なくとも記憶する第1の記憶手段と、
第3の比較結果を記憶する第2の記憶手段と
を備える情報処理装置を制御するコンピュータが読み取り可能なプログラムであり、
前記第2の画像信号の第1のラインの処理対象とされる第1の画素と、前記第1のラインの前に位置する第2のラインに位置し、前記第1の画素に対応する位置に位置する第2の画素を加算し、その加算値に1/2を乗算し、その乗算値から、前記第3の画像信号の前記第1の画素に相当する位置に位置する第3の画素を減算することで、前記第2の画像信号と前記第3の画像信号から、フィールド差分値を算出し、
前記第1の画像信号と前記第3の画像信号から第1のフレーム差分値を算出し、
前記フレーム差分値に対応するしきい値と、算出された前記フレーム差分値を比較し、第1の比較結果を出力し、
前記フィールド差分値に対応するしきい値と、算出された前記フィールド差分値を比較し、第2の比較結果を出力し、
前記第2の画像信号と、前記第3の画像信号より前の時刻に入力された第4の画像信号とから既に算出されたフィールド差分値と、前記フィールド差分値に対応するしきい値との比較結果であり、前記第2の記憶手段に記憶されている第3の比較結果から第4の比較結果を算出し、
前記第2の比較結果、前記第3の比較結果、および前記第4の比較結果の論理和を算出し、
その論理和と前記第1の比較結果との論理積を算出し、
前記第2の比較結果を前記第3の比較結果として前記第2の記憶手段に記憶させる
ステップを含むプログラムが記録されている記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP15379599A JP4392560B2 (ja) | 1999-06-01 | 1999-06-01 | 画像処理装置および方法、並びに記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP15379599A JP4392560B2 (ja) | 1999-06-01 | 1999-06-01 | 画像処理装置および方法、並びに記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000348182A JP2000348182A (ja) | 2000-12-15 |
JP4392560B2 true JP4392560B2 (ja) | 2010-01-06 |
Family
ID=15570306
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP15379599A Expired - Fee Related JP4392560B2 (ja) | 1999-06-01 | 1999-06-01 | 画像処理装置および方法、並びに記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4392560B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5278048B2 (ja) * | 2009-03-04 | 2013-09-04 | セイコーエプソン株式会社 | 画像供給装置、画像供給システム、画像供給方法、及び画像供給用プログラム |
CN103886290B (zh) * | 2014-03-13 | 2015-08-26 | 西安交通大学 | 一种复杂背景下的煤流视频检测方法 |
-
1999
- 1999-06-01 JP JP15379599A patent/JP4392560B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000348182A (ja) | 2000-12-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5144545B2 (ja) | 動画像コーデック装置及びその方法 | |
JP2001197451A (ja) | 解像度変換装置及びこれを用いた装置 | |
JPH0562495A (ja) | サンプリング周波数変換器 | |
KR20060083978A (ko) | 움직임 벡터 필드 리-타이밍 | |
KR101805625B1 (ko) | 영상 스케일링을 통한 영상 레이트 변환 방법 및 그 장치 | |
JP4419210B2 (ja) | 画像処理装置および方法、並びに記録媒体 | |
JP2009004848A (ja) | ミキシング装置 | |
JP4392560B2 (ja) | 画像処理装置および方法、並びに記録媒体 | |
US8244055B2 (en) | Image processing apparatus and method, and program | |
JP5113479B2 (ja) | 画像信号処理装置及び画像信号処理方法 | |
JPH06261238A (ja) | 撮像装置 | |
US7974481B2 (en) | Method and apparatus for cost calculation in decimal motion estimation | |
US20070139567A1 (en) | Method and system for analog video noise detection | |
JP6985821B2 (ja) | 音声処理装置及びその制御方法 | |
JP2004015700A (ja) | プログレッシブ変換方法、プログレッシブ変換装置、シーケンス検出方法、シーケンス検出装置および映像データ処理装置 | |
KR100930436B1 (ko) | 이산 여현 역변환을 이용한 이미지 크기 재설정 방법 | |
JP4642171B2 (ja) | 画像再生装置および方法、並びに記録媒体 | |
JPH09307910A (ja) | 画像信号処理装置及び画像信号処理方法 | |
JPH1023296A (ja) | 信号処理装置及び方法 | |
JP2006094261A (ja) | 映像信号処理装置 | |
JPH07177407A (ja) | 撮像装置 | |
JP2010041633A (ja) | 映像信号処理装置、映像表示装置、映像信号処理方法 | |
JP2004364113A (ja) | 情報信号の処理装置および処理方法、係数の生成装置および生成方法、ルックアップテーブルの生成装置および生成方法、並びに各方法を実行するためのプログラム | |
JP4617825B2 (ja) | データ処理装置およびデータ処理方法、プログラム、並びに記録媒体 | |
JP2016082256A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060316 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090630 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090827 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090917 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090930 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121023 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121023 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131023 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |