JP2007249849A - 画像処理装置および方法、並びにプログラム - Google Patents

画像処理装置および方法、並びにプログラム Download PDF

Info

Publication number
JP2007249849A
JP2007249849A JP2006075514A JP2006075514A JP2007249849A JP 2007249849 A JP2007249849 A JP 2007249849A JP 2006075514 A JP2006075514 A JP 2006075514A JP 2006075514 A JP2006075514 A JP 2006075514A JP 2007249849 A JP2007249849 A JP 2007249849A
Authority
JP
Japan
Prior art keywords
image processing
correction
pixel
unit
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006075514A
Other languages
English (en)
Other versions
JP4775052B2 (ja
Inventor
Toru Nishi
亨 西
Kazuhiko Ueda
和彦 上田
Mitsuyasu Asano
光康 浅野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2006075514A priority Critical patent/JP4775052B2/ja
Priority to US11/715,361 priority patent/US7916970B2/en
Priority to KR1020070025948A priority patent/KR20070094545A/ko
Priority to EP07104292A priority patent/EP1835459A3/en
Priority to CNB2007100878001A priority patent/CN100536526C/zh
Publication of JP2007249849A publication Critical patent/JP2007249849A/ja
Application granted granted Critical
Publication of JP4775052B2 publication Critical patent/JP4775052B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)

Abstract

【課題】1次元画像処理から2次元画像処理に効率よく拡張できるようにする。
【解決手段】加算部31において、入力信号T0に対して加算されるトータル補正信号T5は、次のようにして生成される。即ち、総合補正部30において、水平補正部21の水平方向の補正量を示す出力信号T1、垂直補正部22の垂直補正の補正量を示す出力信号T2、左斜め補正部23の左斜め方向の補正量を示す出力信号T3、および、右斜め補正部24の右斜め方向の補正量を示す出力信号T4が、所定の演算方式に従って合成され、その合成後の信号がトータル補正信号T5として出力される。本発明は、テレビジョン放送受像機に適用可能である。
【選択図】図8

Description

本発明は、画像処理装置および方法並びにプログラムに関し、特に、2次元フィルタ処理に頼ることなく、1次元画像処理から2次元画像処理に効率よく拡張できるようになった画像処理装置および方法並びにプログラムに関する。
従来、画像を構成する複数画素のうちの処理対象として注目すべき画素(以下、注目画素と称する)に対して施す画像処理として、水平方向と垂直方向のうちの何れか一方向に配置される複数の画素(注目画素含)の各画素値を利用する画像処理が存在する。以下、かかる画像処理を、1次元画像処理と称する。
また、注目画素の画素値に対して施す画像処理として、所定の2次元領域内の複数の画素(注目画素含)の各画素値を利用する画像処理が存在する。以下、かかる画像処理を、2次元画像処理と称する。
通常、2次元画像処理を実現するためには、1次元画像処理を拡張する手法が採用される。かかる手法として、フィルタを2次元化する手法と、水平方向と垂直方向との各1次元画像処理のそれぞれを行って各方向の処理結果を足し合わせるという手法(例えば特許文献1参照)とが従来利用されている。
特開2004−272657号公報
しかしながら、前者の手法を利用した処理、即ち、2次元マトリクスを利用した処理(以下、2次元フィルタ処理と称する)を実行する画像処理装置を採用した場合には問題ないが、2次元フィルタ処理を実行しない画像処理装置を採用する必要がある場合には、次のような問題点が発生する。
即ち、2次元フィルタ処理を用いずに2次元画像処理を実現するためには、後者の手法、即ち、水平方向のみを処理対象とする1次元画像処理と、垂直方向のみを処理対象とする1次元画像処理との各結果を足し合わせる、といった手法が採用される。
このような手法で画像の補正が行われる場合、過補正になったり、未処理領域(補正がかからない領域等)が生じてしまう、という問題点が発生する。換言すると、このような手法は、1次元画像処理から2次元画像処理に効率よく拡張できた手法であるとは言い難い、という問題点が発生する。
本発明は、このような状況に鑑みてなされたものであり、2次元フィルタ処理に頼ることなく、1次元画像処理から2次元画像処理に効率よく拡張できるようにするものである。
本発明の一側面の画像処理装置は、水平方向と垂直方向とで定義される平面上に配置される複数の画素の各画素値から構成される画像データに対して、画像処理を施す画像処理装置であって、前記画像データを構成する前記各画素値のうちの、処理対象として注目すべき注目画素の画素値に対して、その注目画素を含む前記水平方向に配置される複数の画素の各画素値を利用する画像処理を施す水平方向画像処理手段と、前記注目画素の画素値に対して、その注目画素を含む前記垂直方向に配置される複数の画素の各画素値を利用する画像処理を施す垂直方向画像処理手段と、前記注目画素の画素値に対して、その注目画素を含む、前記水平方向および前記垂直方向とは異なる所定の斜め方向に配置される複数の画素の各画素値を利用する画像処理を施す斜め方向画像処理手段と、前記水平方向画像処理手段、前記垂直方向画像処理手段、および、前記斜め方向画像処理手段の各処理結果に基づいて、前記注目画素の画素値に対する補正量を決定する補正量決定手段と、前記注目画素の画素値に対して、前記補正量決定手段により決定された前記補正量を加算することで、前記注目画素の画素値を補正する補正手段とを備える。
前記斜め方向画像処理手段は、前記注目画素の画素値に対して、その注目画素を含む、前記水平方向に対して左45度斜め方向に配置される複数の画素の各画素値を利用する画像処理を施す左45度斜め方向画像処理手段と、前記注目画素の画素値に対して、その注目画素を含む、前記水平方向に対して右45度斜め方向に配置される複数の画素の各画素値を利用する画像処理を施す右45度斜め方向画像処理手段とを有する。
前記注目画素について、その補正方向と、前記補正量の指標となる補正指標量とに基づいて、前記水平方向画像処理手段、前記垂直方向画像処理手段、前記左45度斜め方向画像処理手段、および、前記右45度斜め方向画像処理手段の各処理結果を変更する変更手段をさらに設け、前記補正量決定手段は、前記水平方向画像処理手段、前記垂直方向画像処理手段、前記左45度斜め方向画像処理手段、および、前記右45度斜め方向画像処理手段についての前記変更手段により変更された各処理結果に基づいて、前記注目画素の画素値に対する前記補正量を決定することができる。
前記変更手段は、前記注目画素について、前記補正指標量の長さを有する前記補正方向のベクトルを補正指標ベクトルとして、前記補正指標ベクトルを、前記水平方向、前記垂直方向、前記左45度斜め方向、および、前記右45度斜め方向のそれぞれに分解し、その結果得られる前記水平方向、前記垂直方向、前記左45度斜め方向、および、前記右45度斜め方向の各ベクトルのそれぞれに基づいて、前記水平方向画像処理手段、前記垂直方向画像処理手段、前記左45度斜め方向画像処理手段、および、前記右45度斜め方向画像処理手段の各処理結果を変更することができる。
前記画像データは、動画像を構成する複数のアクセスユニットのうちの所定の1つについての画像データであり、前記注目画素についての移動ベクトルを検出する移動ベクトル検出手段をさらに設け、前記変更手段は、前記注目画素について、前記移動ベクトル検出手段により検出された前記移動ベクトルを、前記補正指標ベクトルとして利用することができる。
本発明の一側面の画像処理方法/プログラムは、水平方向と垂直方向とで定義される平面上に配置される複数の画素の各画素値から構成される画像データに対して、画像処理を施す画像処理装置の画像処理方法/そのような画像処理を制御するコンピュータに実行させるプログラムであって、前記画像データを構成する前記各画素値のうちの、処理対象として注目すべき注目画素の画素値に対して、その注目画素を含む前記水平方向に配置される複数の画素の各画素値を利用する水平方向画像処理を施し、前記注目画素の画素値に対して、その注目画素を含む前記垂直方向に配置される複数の画素の各画素値を利用する垂直方向画像処理を施し、前記注目画素の画素値に対して、その注目画素を含む、前記水平方向および前記垂直方向とは異なる所定の斜め方向に配置される複数の画素の各画素値を利用する斜め方向画像処理を施し、前記水平方向画像処理、前記垂直方向画像処理、および、前記斜め方向画像処理の各結果に基づいて、前記注目画素の画素値に対する補正量を決定し、前記注目画素の画素値に対して、決定された前記補正量を加算することで、前記注目画素の画素値を補正するステップを含む。
本発明の一側面においては、水平方向と垂直方向とで定義される平面上に配置される複数の画素の各画素値から構成される画像データに対して、次のような画像処理が施される。即ち、前記画像データを構成する前記各画素値のうちの、処理対象として注目すべき注目画素の画素値に対して、その注目画素を含む前記水平方向に配置される複数の画素の各画素値を利用する水平方向画像処理、その注目画素を含む前記垂直方向に配置される複数の画素の各画素値を利用する垂直方向画像処理、および、その注目画素を含む、前記水平方向および前記垂直方向とは異なる所定の斜め方向に配置される複数の画素の各画素値を利用する斜め方向画像処理がそれぞれ施され、それらの画像処理の各結果に基づいて、前記注目画素の画素値に対する補正量が決定され、前記注目画素の画素値に対して、決定された前記補正量が加算されることで、前記注目画素の画素値が補正される。
以上のごとく、本発明によれば、画像データを構成する各画素の画素値に対して、2次元画像処理による補正を行うことができる。特に、2次元フィルタ処理に頼ることなく、1次元画像処理から2次元画像処理に効率よく拡張できる。
以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、明細書又は図面における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、明細書又は図面に記載されていることを確認するためのものである。従って、明細書又は図面中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
さらに、この記載は、明細書又は図面に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、明細書又は図面に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定するものではない。
本発明の一側面の画像処理装置(例えば、図8、図10、図11の画像処理装置)は、
水平方向と垂直方向とで定義される平面(例えば図7の水平方向Hと垂直方向Vで定義される平面)上に配置される複数の画素の各画素値から構成される画像データに対して、画像処理を施す画像処理装置において、
前記画像データを構成する前記各画素値のうちの、処理対象として注目すべき注目画素の画素値に対して、その注目画素を含む前記水平方向に配置される複数の画素の各画素値を利用する画像処理を施す水平方向画像処理手段(例えば図8、図10、図11の水平補正部21)と、
前記注目画素の画素値に対して、その注目画素を含む前記垂直方向に配置される複数の画素の各画素値を利用する画像処理を施す垂直方向画像処理手段(例えば図8、図10、図11の垂直補正部22)と、
前記注目画素の画素値に対して、その注目画素を含む、前記水平方向および前記垂直方向とは異なる所定の斜め方向に配置される複数の画素の各画素値を利用する画像処理を施す斜め方向画像処理手段(例えば図8、図10、図11の左斜め補正部23や右斜め補正部24)と、
前記水平方向画像処理手段、前記垂直方向画像処理手段、および、前記斜め方向画像処理手段の各処理結果に基づいて、前記注目画素の画素値に対する補正量を決定する補正量決定手段(例えば図8の例の場合は総合補正部30であり、図10の例の場合は総合補正部35であり、図11の例の場合は総合補正部42)と、
前記注目画素の画素値に対して、前記補正量決定手段により決定された前記補正量を加算することで、前記注目画素の画素値を補正する補正手段(例えば図8、図10、図11の加算部31)と
を備える。
前記斜め方向画像処理手段は、
前記注目画素の画素値に対して、その注目画素を含む、前記水平方向に対して左45度斜め方向(例えば図7の線Lに平行な方向)に配置される複数の画素の各画素値を利用する画像処理を施す左45度斜め方向画像処理手段(例えば図8、図10、図11の左斜め補正部23)と、
前記注目画素の画素値に対して、その注目画素を含む、前記水平方向に対して右45度斜め方向(例えば図7の線Rに平行な方向)に配置される複数の画素の各画素値を利用する画像処理を施す右45度斜め方向画像処理手段(例えば図8、図10、図11の右斜め補正部24)と
を有する。
前記注目画素について、その補正方向と、前記補正量の指標となる補正指標量とに基づいて、前記水平方向画像処理手段、前記垂直方向画像処理手段、前記左45度斜め方向画像処理手段、および、前記右45度斜め方向画像処理手段の各処理結果を変更する変更手段(例えば、例えば図8の例の総合補正部30、図10の例の総合補正部35、および、図11の例の総合補正部42のうちの、図9のステップS2の処理を実行する部分であって、具体的には例えば図11の例の総合補正部42のうちの水平/垂直補正量決定部51や左/右斜め補正量決定部52)をさらに備え、
前記補正量決定手段は、前記水平方向画像処理手段、前記垂直方向画像処理手段、前記左45度斜め方向画像処理手段、および、前記右45度斜め方向画像処理手段についての前記変更手段により変更された各処理結果に基づいて、前記注目画素の画素値に対する前記補正量を決定する。
前記変更手段は、前記注目画素について、
前記補正指標量の長さを有する前記補正方向のベクトル(例えば図7のベクトルvt1)を補正指標ベクトルとして、
前記補正指標ベクトルを、前記水平方向、前記垂直方向、前記左45度斜め方向、および、前記右45度斜め方向のそれぞれに分解し、
その結果得られる前記水平方向、前記垂直方向、前記左45度斜め方向、および、前記右45度斜め方向の各ベクトル(例えば図7の補正指標ベクトルvt1についての、水平方向のベクトルv1、0ベクトルである垂直方向および左45度斜め方向のベクトル、並びに、右45度斜め方向のベクトルv2)のそれぞれに基づいて、前記水平方向画像処理手段、前記垂直方向画像処理手段、前記左45度斜め方向画像処理手段、および、前記右45度斜め方向画像処理手段の各処理結果を変更する。
前記画像データは、動画像を構成する複数のアクセスユニットのうちの所定の1つについての画像データであり、
前記注目画素についての移動ベクトルを検出する移動ベクトル検出手段(例えば図10の移動ベクトル検出部32)をさらに備え、
前記変更手段は、前記注目画素について、前記移動ベクトル検出手段により検出された前記移動ベクトルを、前記補正指標ベクトルとして利用する。
本発明の一側面の画像処理方法は、
水平方向と垂直方向とで定義される平面上に配置される複数の画素の各画素値から構成される画像データに対して、画像処理を施す画像処理装置(例えば、図8、図10、図11の画像処理装置)の画像処理方法であって、
前記画像データを構成する前記各画素値のうちの、処理対象として注目すべき注目画素の画素値に対して、その注目画素を含む前記水平方向に配置される複数の画素の各画素値を利用する水平方向画像処理を施し、
前記注目画素の画素値に対して、その注目画素を含む前記垂直方向に配置される複数の画素の各画素値を利用する垂直方向画像処理を施し、
前記注目画素の画素値に対して、その注目画素を含む、前記水平方向および前記垂直方向とは異なる所定の斜め方向に配置される複数の画素の各画素値を利用する斜め方向画像処理を施し(例えば図9のステップS1の処理)、
前記水平方向画像処理、前記垂直方向画像処理、および、前記斜め方向画像処理の各結果に基づいて、前記注目画素の画素値に対する補正量を決定し(例えば図9のステップS3の処理)、
前記注目画素の画素値に対して、決定された前記補正量を加算することで、前記注目画素の画素値を補正する(例えば図9のステップS4の処理)
ステップを含む。
本発明の一側面のプログラムは、上述した本発明の一側面の画像処理方法に対応するプログラムである。詳細については後述するが、このプログラムは、例えば、図18のリムーバブルメディア111や、記憶部108に含まれるハードディスク等の記録媒体に記録され、図18の構成のコンピュータにより実行される。
その他、本発明の一側面としては、上述した本発明の一側面のプログラムを記録した記録媒体も含まれる。
以上説明した本発明の一側面の画像処理装置は、例えば、テレビジョンシステム全体またはその一構成要素として利用可能である。テレビジョンシステムとは、テレビジョン放送受像機を含む1以上のAV(Audio and Visual)機器からなるシステムを指す。
ここで、1次元画像処理から2次元画像処理への拡張手法として、上述した従来の2つの手法のうちの、2次元フィルタ処理を利用しない方の手法、即ち、水平方向と垂直方向との各補正処理(1次元画像処理)のそれぞれを行い、各補正処理の結果(補正量)を足し合わせる(合成する)、といった従来の手法について説明する。なお、以下、かかる従来の手法を、単に、従来の拡張手法と称する。
図1は、従来の拡張手法が適用される画像処理装置の機能的構成例を示している。以下、図1の例の画像処理装置を、単に、従来の画像処理装置と称する。
なお、以下の説明においては、次の前提事項が成立しているとする。
即ち、従来の画像処理装置は、動画像データに対する各種画像処理をアクセスユニット単位で実行するとする。アクセスユニットとは、フレームやフィールドといった動画像の単位を指し、具体的には例えば、動画像を構成する各静止画像全体(フレーム等)またはその一部分(フィールド等)を指す。ただし、以下、説明の簡略上、従来の画像処理装置は、動画像データに対する各種画像処理をフレーム単位で実行するとする。
また、従来の画像処理装置を構成する各機能ブロック(加算部等の演算部も含む)に入力される信号を、まとめて入力信号と適宜称する。即ち、動画像、動画像を構成する各フレーム、および、各フレームを構成する各画素(各画素値)といった入力単位によらず、一括して入力信号と適宜称する。同様に、各機能ブロックから出力される信号を、その出力単位によらず、一括して出力信号と適宜称する。換言すると、入力単位や出力単位の区別が必要な場合、その単位(主に画素値)を用いて説明を行い、それ以外の場合、単に入力信号または出力信号を用いて説明を行う。
なお、以上の前提事項は、後述する本発明が適用される種々の画像処理装置についても成立するとする。
図1の例の従来の画像処理装置は、水平補正部1乃至加算部4から構成される。
かかる従来の画像処理装置において、所定のフレームデータまたはその一部分が入力信号T0として、水平補正部1、垂直補正部2、および加算部4に提供される。
水平補正部1は、入力信号T0に対して、水平方向の1次元画像処理を施し、その結果得られる信号を出力信号T1として加算部3に提供する。ここに、水平方向の1次元画像処理とは、注目画素と、その水平方向のライン上に配置される幾つかの別の画素との各画素値を利用して、注目画素の水平方向補正量を決定する処理をいう。
また、垂直補正部2は、入力信号T0に対して、垂直方向の1次元画像処理を施し、その結果得られる信号を出力信号T2として加算部3に提供する。ここに、垂直方向の1次元画像処理とは、注目画素と、その垂直方向のライン上に配置される幾つかの別の画素との各画素値を利用して、注目画素の垂直方向補正量を決定する処理をいう。
加算部3は、水平補正部1の出力信号T1と、垂直補正部2の出力信号T2とを加算し、その結果得られる信号T1+T2を出力信号T3として加算部4に提供する。
加算部4は、入力信号T0に対して、加算部3の出力信号T3を加算し、その結果得られる信号T0+T3を、最終的な出力信号T4として外部に出力する。
このように、水平補正部1の出力信号T1が水平方向補正信号であり、垂直補正部2の出力信号T2が垂直方向補正信号であるといえる。従って、それらの加算信号である加算部3の出力信号T3がトータル補正信号として、入力信号T0に加算されるのである。換言すると、入力信号T0が例えば各画素値(フレームを構成する各画素の画素値)で構成される場合には、水平補正部1の出力信号T1とは、各画素値についての水平方向補正量から構成される信号であるといえる。一方、垂直補正部2の出力信号T2とは、各画素値についての垂直方向補正量から構成される信号であるといえる。従って、加算部3の出力信号T3とは、
各画素値についての水平方向補正量と垂直方向補正量との合成量(トータル補正量)から構成される信号であるといえる。
次に、図2乃至図4を参照して、図1の例の従来の画像処理装置の補正処理の結果の例について説明する。
例えば、図2に示されるように、対角線を境にして左方が白色で右方が黒色の正方形の中央部分の領域11が、図3に示されるように水平方向に10画素分で垂直方向に9画素分(以下、10×9画素と称する)からなるフレーム11−1として、従来の画像処理装置に入力されたとする。
より正確には、図3のフレーム11−1を構成する10×9の画素の各画素値が、入力信号T0として従来の画像処理装置に入力されて、画像処理(補正処理)が施されることになる。ただし、ここでは、説明を容易なものとするために、図3のフレーム11−1自体が入力信号T0であるとして、以下の説明を行っていく。
また、水平補正部1の処理、即ち、水平方向の1次元画像処理は、水平方向に隣接して並ぶ7つの画素を処理対象とするフィルタ処理、即ち、7タップのフィルタによる水平補正処理であるとする。この場合、図3のフレーム11−1に対して、かかる水平補正部1の処理による補正が施される領域が、図4のフレーム11−2のうちの灰色の領域として示されている。
また、垂直補正部2の処理、即ち、垂直方向の1次元画像処理は、垂直方向に隣接して並ぶ7つの画素を処理対象とするフィルタ処理、即ち、7タップのフィルタによる垂直補正処理であるとする。この場合、図3のフレーム11−1に対して、かかる垂直補正部2の処理により補正が施される領域が、図5のフレーム11−3のうちの灰色の領域として示されている。
図4と図5とを比較するに、水平補正部1の処理でも垂直補正部2の処理でも、図3のフレーム11−1のうちの補正が施される領域は、同一領域(図4と図5において灰色となっている領域)になることがわかる。
従って、従来の画像処理装置では、結局、図3のフレーム11−1のうちの、図4と図5の灰色領域に対応する領域のみに対して、補正が施されることになる。そして、それらの領域における補正量は、水平方向補正量と垂直方向補正量との加算量(トータル補正量)となる。また、図3のフレーム11−1のうちの、図4と図5の灰色領域に対応する領域以外の領域(図4と図5において黒色のままとなっている領域)では、全く補正が施されないことになる。
即ち、従来の画像処理装置では、図3のフレーム11−1のうちの、図4と図5の灰色領域に対応する領域が過補正となり、それ以外の領域、即ち、図4と図5の黒色領域に対応する領域が、処理できない領域(補正がかからない領域等)となる、という上述した問題点が発生してしまう。
そこで、本発明人は、図3のフレーム11−1に対して、左45度斜めの方向(図2の白黒を分割する対角線と直行する方向、即ち、図2には図示せぬもう一方の対角線の方向)に隣接して並ぶ7つの画素を処理対象とするフィルタ処理、即ち、7タップのフィルタによる斜め補正処理を施す試験を行った。かかる試験の結果が、図6に示されている。即ち、図6のフレーム11−4のうちの、灰色領域が、かかる斜め補正処理による補正が施された領域であり、黒色領域が、その補正が施されなかった領域である。
図6と、図4や図5とを比較するに、補正が施された領域(灰色領域)が拡張していること、即ち、斜め補正処理による補正範囲は、水平や垂直の補正処理による補正範囲に比較して広範囲となることがわかる。
そこで、本発明人は、かかる試験結果に基づいて、1次元画像処理から2次元画像処理への拡張手法として、次のような新たな手法を発明した。即ち、水平補正処理と垂直補正処理のそれぞれを行うのみならず、さらに、所定の斜め方向の補正処理を行い、それぞれの補正処理の各結果(各方向補正量)を合成する、という手法を本発明人は発明した。以下、かかる拡張手法を、斜め方向考慮拡張手法と称する。
このようにして、斜め方向考慮拡張手法を適用することで、処理できない領域(補正が施されない領域)の範囲を縮小させることができる、という効果を奏することが可能になる。
ただし、斜め方向考慮拡張手法の合成処理において、水平方向、垂直方向、および、斜め方向の何れにも補正が施された領域(図6の灰色領域のうちの、図4と図5とにおいても灰色領域となっている領域)では、そのトータル補正量(合成された補正量)をただ単に、水平方向、垂直方向、および、斜め方向の各補正量の総加算量とすると、過補正になってしまう。即ち、水平方向、垂直方向、および、斜め方向の各補正量の総加算量をそのままトータル補正量(合成された補正量)として使用してしまうと、上述した問題点のうちの、過補正になってしまうという問題点については依然として解決できないことになる。
そこで、本発明人は、かかる過補正の問題点も解決すべく、さらに、斜め方向考慮拡張手法の応用手法として、次のような新たな手法を発明した。即ち、水平方向、垂直方向、および斜め方向のそれぞれの補正処理を行うところまでは、斜め方向考慮拡張手法と同一である。ただし、その後、各方向の補正処理の各結果(各方向補正量)を合成する合成処理では、各方向補正量をただ単に加算するのではなく、各方向補正量を、本来補正したい方向(以下、補正方向と称する)に応じてそれぞれ個別に変更し(再補正し)、変更後の各方向補正量を加算する、という手法を本発明人は発明した。以下、かかる手法を、斜め方向考慮拡張応用手法と称する。
以下、かかる斜め方向考慮拡張応用手法が適用された画像処理装置(その構成については後述する)の処理(特に合成処理)の概略について説明する。なお、以下、斜め方向考慮拡張応用手法が適用された画像処理装置を、単に本発明の画像処理装置と称する。
例えば、図7に示されるように、補正対象のフレーム(上述した例では図3のフレーム11−1)の水平方向Hを横軸として、垂直方向Vを縦軸とした二次元座標系を考える。この場合、注目画素についての補正方向は、この座標系内の所定のベクトルの方向として表現することができる。具体的には例えば図7の例では、ベクトルvt1,vt2の方向が、補正方向とされている。この場合、ベクトルvt1,vt2の各長さは、注目画素に対するトータル補正量に対応する長さであるとする。
この場合、例えば図7に示されるように、ベクトルvt1=(a,b)は、水平方向のベクトルv1と、右45度斜め方向(線Rに平行な方向)のベクトルv2と、0ベクトルである垂直方向および左45度斜め方向(線Lに平行な方向)のベクトルとにそれぞれ分解できる。
そこで、本発明の画像処理装置は、水平方向補正量については、ベクトルv1に対応する量に変更し、右45度斜め方向補正量については、ベクトルv2に対応する量に変更し、垂直方向と左45度斜め方向の各補正量についてはそれぞれ0(0ベクトルに対応する量)に変更する。そして、本発明の画像処理装置は、変更後の各方向補正量を加算する。以上の一連の処理が、斜め方向考慮拡張応用手法における合成処理の一例であって、図7のベクトルv1,v2を合成してベクトルvt1を生成するのと等価な処理となる。従って、本発明の画像処理装置は、かかる一連の処理結果(合成処理結果)を注目画素の画素値に加算することで、補正方向(ベクトルvt1の方向)の補正として、トータル補正量(ベクトルvt1の長さに対応する量)を注目画素の画素値に加算する補正を行ったことと等化になる。その結果、注目画素の画素値は適正に補正されることになる。即ち、過補正が防止されるのである。
同様に、例えば図7に示されるように、ベクトルvt2=(-a,b)は、水平方向のベクトルv3と、左45度斜め方向(線Lに平行な方向)のベクトルv4と、0ベクトルである垂直方向および右45度斜め方向(線Rに平行な方向)のベクトルとにそれぞれ分解できる。
そこで、本発明の画像処理装置は、水平方向補正量については、ベクトルv3に対応する量に変更し、左45度斜め方向補正量については、ベクトルv4に対応する量に変更し、垂直方向と右45度斜め方向の各補正量についてはそれぞれ0(0ベクトルに対応する量)に変更する。そして、本発明の画像処理装置は、変更後の各方向補正量を足し合わせる。以上の一連の処理が、斜め方向考慮拡張応用手法における合成処理の一例であって、図7のベクトルv3,v4を合成してベクトルvt2を生成するのと等価な処理となる。従って、本発明の画像処理装置は、かかる一連の処理結果(合成処理結果)を注目画素の画素値に加算することで、補正方向(ベクトルvt2の方向)の補正として、トータル補正量(ベクトルvt2の長さに対応する量)を注目画素の画素値に加算する補正を行ったことと等化になる。その結果、注目画素の画素値は適正に補正されることになる。即ち、過補正が防止されるのである。
なお、ベクトルvt1は、図7の例では、水平方向のベクトルv1と、右45度斜め方向のベクトルv2とに分解されているが(他方向は0ベクトルとされているが)、垂直方向と右45度斜め方向のベクトルとに分解されてもよい。同様に、ベクトルvt2は、図7の例では、水平方向のベクトルv3と、左45度斜め方向のベクトルv4とに分解されているが、垂直方向と左45度斜め方向のベクトルとに分解されてもよい。
また、補正方向は、ベクトルvt1,vt2の方向に限定されず、何れの方向ともなり得るが、補正方向が何れの方向であっても、その補正方向のベクトルは、水平方向、垂直方向、左45度斜め方向、および、右45度斜め方向の各ベクトル(0ベクトル含む)に分解できる。
以上の内容をまとめると、本発明の画像処理装置は、注目画素について、次のような一連の処理を行うことになる。
即ち、本発明の画像処理装置は、水平方向、垂直方向、左45度斜め方向、および、右45度斜め方向のそれぞれの1次元補正処理を行う。
次に、本発明の画像処理装置は、合成処理を実行する。
即ち、本発明の画像処理装置は、トータル補正量の指標となる量(以下、補正指標量と称する)をその長さとし、かつ、補正方向をその方向とするベクトル(以下、補正指標ベクトルと称する)を定義する。そして、本発明の画像処理装置は、補正指標ベクトルを、水平方向、垂直方向、左45度斜め方向、および、右45度斜め方向のそれぞれのベクトル(0ベクトル含む)に分解する。
次に、本発明の画像処理装置は、水平方向、垂直方向、左45度斜め方向、および、右45度斜め方向のそれぞれの1次元補正処理の結果(各方向補正量)を、対応する方向のベクトルに応じてそれぞれ個別に変更する(対応する方向のベクトルが0ベクトルの場合には補正量は0にする)。
次に、本発明の画像処理装置は、変更後の各方向補正量を足し合わせ、その結果得られる量をトータル補正量として決定する。
以上の一連の処理が、合成処理である。
そして、本発明の画像処理装置は、注目画素の画素値に対して、合成処理の結果得られたトータル補正量を加算することで、その注目画素の補正を行う。
以上の一連の処理を実行可能な本発明の画像処理装置の機能的構成例が図8に示されている。
図8の例の本発明の画像処理装置は、水平補正部21乃至加算部31から構成されている。
かかる本発明の画像処理装置において、図1の例と同様の信号T0が入力信号として、水平補正部21、垂直補正部22、左斜め補正部23、右斜め補正部24、および加算部31に提供される。
水平補正部21は、入力信号T0に対して、水平方向の1次元画像処理を施し、その結果得られる信号を出力信号T1(図1の水平補正部1の出力信号T1と同様の信号)として乗算部25に提供する。即ち、水平補正部21として、従来の水平補正部1をそのまま採用することもできる。
垂直補正部22は、入力信号T0に対して、垂直方向の1次元画像処理を施し、その結果得られる信号を出力信号T2(図1の垂直補正部2の出力信号T2と同様の信号)として乗算部26に提供する。即ち、垂直補正部22として、従来の垂直補正部2をそのまま採用することもできる。
左斜め補正部23は、入力信号T0に対して、左45度斜め方向の1次元画像処理を施し、その結果得られる信号を出力信号T3として乗算部27に提供する。
ここに、左45度斜め方向の1次元画像処理とは、注目画素と、その左45度斜め方向に配置される幾つかの別の画素との各画素値を利用して、注目画素の左45度斜め方向補正量を決定する処理をいう。即ち、入力信号T0が例えば各画素値(フレームを構成する各画素の画素値)で構成される場合には、左斜め補正部23の出力信号T3とは、各画素値についての左45度斜め方向補正量から構成される信号であるといえる。
右斜め補正部24は、入力信号T0に対して、右45度斜め方向の1次元画像処理を施し、その結果得られる信号を出力信号T4として乗算部28に提供する。
ここに、右45度斜め方向の1次元画像処理とは、注目画素と、その右45度斜め方向に配置される幾つかの別の画素との各画素値を利用して、注目画素の右45度斜め方向補正量を決定する処理をいう。即ち、入力信号T0が例えば各画素値(フレームを構成する各画素の画素値)で構成される場合には、右斜め補正部24の出力信号T4とは、各画素値についての右45度斜め方向補正量から構成される信号であるといえる。
総合補正部30は、水平補正部21の出力信号T1、垂直補正部22の出力信号T2、左斜め補正部23の出力信号T3、および、右斜め補正部24の出力信号T4に対して、図7を用いて上述したベクトルの概念を利用した合成処理を施し、その結果得られるトータル補正信号T5(図7の例では、ベクトルvt1やvt2に対応する信号T5)を生成し、それを出力信号として加算部31に提供する。
加算部31は、入力信号T0に対して、総合補正部30からのトータル補正信号T5を加算し、その結果得られる信号T0+T5を、最終的な出力信号T6として外部に出力する。
以下、繰り返しになるが、この図8の例の本発明の画像処理装置の処理(以下、補正処理と称する)の一例について、図9のフローチャートを参照して再度説明する。
ステップS1において、水平補正部21、垂直補正部22、左斜め補正部23、および、右斜め補正部24のそれぞれは、水平、垂直、左斜め、および右斜め方向の各補正信号T1,T2,T3,T4のそれぞれを、原信号T0(入力信号T0)から生成する。各補正信号T1,T2,T3,T4のそれぞれが総合補正部30に提供されると、処理はステップS2に進む。
ステップS2において、総合補正部30は、各補正信号T1,T2,T3,T4のそれぞれに対して、図7で説明したベクトルの概念を利用して再補正する。
ステップS3において、総合補正部30は、再補正後の各補正信号T1,T2,T3,T4からトータル補正信号T5を生成する。
具体的には例えば、補正指標ベクトルが、上述した図7のベクトルvt1である場合には、補正信号T1がベクトルv1に応じて変更された結果得られる信号が、ステップS2の処理結果である再補正後の補正信号T1となり、補正信号T2が0ベクトルに応じて変更された結果得られる信号(即ち0信号)が、ステップS2の処理結果である再補正後の補正信号T2となり、補正信号T3が0ベクトルに応じて変更された結果得られる信号(即ち0信号)が、ステップS2の処理結果である再補正後の補正信号T3となり、補正信号T4がベクトルv2に応じて変更された結果得られる信号が、ステップS2の処理結果である再補正後の補正信号T4となる。従って、ステップS3の処理で、ベクトルvt1に対応する信号が、トータル補正信号T5として生成されることになる。
また例えば、補正指標ベクトルが、上述した図7のベクトルvt2である場合には、補正信号T1がベクトルv3に応じて変更された結果得られる信号が、ステップS2の処理結果である再補正後の補正信号T1となり、補正信号T2が0ベクトルに応じて変更された結果得られる信号(即ち0信号)が、ステップS2の処理結果である再補正後の補正信号T2となり、補正信号T3がベクトルv4に応じて変更された結果得られる信号が、ステップS2の処理結果である再補正後の補正信号T3となり、補正信号T4が0ベクトルに応じて変更された結果得られる信号(即ち0信号)が、ステップS2の処理結果である再補正後の補正信号T4となる。従って、ステップS3の処理で、ベクトルvt2に対応する信号が、トータル補正信号T5として生成されることになる。
このように、ステップS2とS3の処理が、上述した斜め方向考慮拡張応用手法における合成処理の一例である。
ただし、ここでは、説明の簡略上、合成処理は全て総合補正部30側で行われるとしたが、合成処理の一部を、後述する図10の例のように、各方向の補正部(水平補正部21、垂直補正部22、左斜め補正部23、および右斜め補正部24)側に委譲してもよい。
トータル補正信号T5が加算部31に提供されると、処理はステップS4に進む。ステップS4において、加算部31は、原信号T0(入力信号T0)に対してトータル補正信号T5を加算した信号T0+T5を、出力信号T6として外部に出力する。これにより、補正処理は終了となる。
以上、図8の例の本発明の画像処理装置の補正処理について説明した。
かかる図8の例の本発明の画像処理装置は、例えば本発明人の既出願(特願2004−354571号等)の願書に添付した明細書等に記載されている画像処理装置、即ち、撮像ボケを抑制すべく、移動ベクトルの大きさ(長さ)に応じた補正量で補正を行う画像処理装置として採用可能である。
この場合、移動ベクトルを補正指標ベクトルとして利用するようにすれば、本発明の画像処理装置は、例えば次の図10のように構成することができる。
図10において、図8と対応する箇所には対応する符号を付しており、それらの箇所については説明を適宜省略する。
図10の例の本発明の画像処理装置においては、図8の例には無い分解部29と移動ベクトル検出部32が設けられている。また、図8の総合補正部30の代わりに総合補正部35が設けられている。即ち、詳細については後述するが、上述した合成処理の一部(図9のステップS2の処理)が、図10の例では水平補正部21乃至右斜め補正部24に委譲されており、図10の例では、ステップS3の処理のみを実行する総合補正部35が設けられているのである。
図10の例の本発明の画像処理装置において、移動ベクトル検出部32は、入力信号T0に対応する所定のフレームとその前後の幾つかのフレームとから、その所定のフレームを構成する各画素のそれぞれについて、水平方向の移動ベクトルと、垂直方向の移動ベクトルとをそれぞれ検出する。そして、移動ベクトル検出部32は、所定のフレームを構成する各画素の水平方向の移動ベクトル信号MV_H(以下、単にMV_Hと称する)と、各画素の垂直方向の移動ベクトル信号MV_V(以下、単にMV_Vと称する)とを分解部29に供給する。
分解部29は、MV_Hを構成する各画素の水平方向の移動ベクトルと、MV_Vを構成する各画素の垂直方向の移動ベクトルとの合成ベクトル(即ち、移動ベクトル)を、各画素の補正指標ベクトルとして、各画素についての補正指標ベクトルを、水平方向、垂直方向、左45度斜め方向、および、右45度斜め方向のそれぞれに分解したベクトルをそれぞれ生成する。そして、分解部29は、各画素の水平方向のベクトルからなる信号を、移動ベクトル信号MV0(以下、単にMV0と称する)として水平補正部21に提供する。分解部29は、各画素の垂直方向のベクトルからなる信号を、移動ベクトル信号MV1(以下、単にMV1と称する)として垂直補正部22に提供する。分解部29は、各画素の左45度斜め方向のベクトルからなる信号を、移動ベクトル信号MV2(以下、単にMV2と称する)として左斜め補正部23に提供する。分解部29は、各画素の右45度斜め方向のベクトルからなる信号を、移動ベクトル信号MV3(以下、単にMV3と称する)として右斜め補正部24に提供する。
なお、以下、注目画素の処理について説明する場合、注目画素の水平方向の移動ベクトルをMV_Hと称し、注目画素の垂直方向の移動ベクトルをMV_Vと称する。また、水平補正部21に対して注目画素の移動ベクトルとして与えられるベクトルをMV0と称する。垂直補正部22に対して注目画素の移動ベクトルとして与えられるベクトルをMV1と称する。左斜め補正部23に対して注目画素の移動ベクトルとして与えられるベクトルをMV2と称する。右斜め補正部24に対して注目画素の移動ベクトルとして与えられるベクトルをMV3と称する。
即ち、図10の例では、注目画素の補正指標ベクトル(MV_HとMV_Vとの合成ベクトルである移動ベクトル)が、水平、垂直、左45度斜め、および右斜め方向に分解され、それらのうちの、水平方向のベクトルがMV0として水平補正部21に提供され、垂直方向のベクトルがMV1として垂直補正部22に提供され、左45度斜め方向のベクトルがMV2として左斜め補正部23に提供され、右45度斜め方向のベクトルがMV3として右斜め補正部24に提供される。
ここで例えば、各方向のそれぞれにおいて、所定の一方向を+方向とし、その反対方向を−方向とする。具体的には例えば図7の例では、水平方向Hのうちの、図中右方向を+方向として、図中左方向を−方向とする。垂直方向Vのうちの、図中上方向を+方向として、図中下方向を−方向とする。左45度斜め方向(線Lの方向)のうちの、図中左斜め上方向を+方向として、図中右斜め下方向を−方向とする。右45度斜め方向(線Rの方向)のうちの、図中右斜め上方向を+方向として、図中左斜め下方向を−方向とする。
この場合、MV_H,MV_V,MV0,MV1,MV2,MV3のそれぞれは、+k(kは、ベクトルの大きさを表す任意の整数値)または-kで表現することができる。
以上の前提の下、分解部29が、注目画素に対して実行する処理の例について説明する。
上述したように、図10の例では、MV_HとMV_Vとの合成ベクトル、即ち移動ベクトルが補正指標ベクトルとして採用されている。従って、例えばMV_H=+a,MV_V=+bの場合には、補正指標ベクトル(移動ベクトル)は図7のベクトルvt1になる。また、例えばMV_H=−a,MV_V=+bの場合には、補正指標ベクトルがベクトルvt2となる。そこで、以下、説明を容易なものとするために、移動ベクトルは図7のベクトルvt1またはvt2であるとして説明していく。即ち、以下、MV_Hの大きさはaであるとし、MV_Vの大きさはbであるとして説明していく。
この場合、分解部29は、補正指標ベクトルを、水平方向、垂直方向、左45度斜め方向、および、右45度斜め方向のそれぞれに分解することになるが、これらのうちの、水平方向と垂直方向のベクトルについては、次のようにして生成(分解)する。即ち、分解部29は、水平方向と垂直方向とのうちの、aとbのうちの大きい方に対応する方向(即ち、aが大きければ水平方向であり、bが大きければ垂直方向である)のベクトルとして、max(a,b)−min(a,b)の大きさを有するベクトルを生成する。なお、max()とは、最大値を出力する関数を意味し、min()とは、最小値を出力する関数を意味する。この場合、分解部29は、もう一方の方向のベクトルは0ベクトルとする。
具体的には、aの方が大きい場合(図7の例の場合)、a−bの大きさを有する水平方向のベクトルが生成され、そのベクトルがMV0として水平補正部21に提供されることになる。この場合、垂直方向のベクトルは0ベクトルとなり、その0ベクトルがMV1として垂直補正部22に提供されることになる。
これに対して、bの方が大きい場合(図7には図示されていない場合)、b−aの大きさを有する垂直方向のベクトルが生成され、そのベクトルがMV1として垂直補正部22に提供さることになる。この場合、水平方向のベクトルは0ベクトルとなり、その0ベクトルがMV0として水平補正部21に提供されることになる。
また、分解部29は、補正指標ベクトルを、水平方向、垂直方向、左45度斜め方向、および、右45度斜め方向のそれぞれに分解することになるが、これらのうちの、左45度斜め方向と右45度斜め方向のベクトルについては、次のようにして生成(分解)する。即ち、分解部29は、MV_HとMV_Vとの符号が同一の場合(図7の例では、ベクトルvt1が移動ベクトルとされている場合)、min(a,b)の大きさを有する右45度斜め方向のベクトルを生成して、そのベクトルをMV3として右斜め補正部24に提供する。この場合、分解部29は、左45度斜め方向のベクトルは0ベクトルであると決定して(0ベクトルを生成して)、その0ベクトルをMV2として左斜め補正部23に提供する。
これに対して、分解部29は、MV_HとMV_Vとの符号が異なる場合(図7の例では、ベクトルvt2が移動ベクトルとされている場合)、min(a,b)の大きさを有する左45度斜め方向のベクトルを生成して、そのベクトルをMV2として左斜め補正部23に提供する。この場合、分解部29は、右45度斜め方向のベクトルは0ベクトルであると決定し(0ベクトルを生成し)、その0ベクトルをMV3として右斜め補正部24に提供する。
このようにして、補正指標ベクトル(移動ベクトル)が、水平方向、垂直方向、左45度斜め方向、および、右45度斜め方向のそれぞれに分解され、その結果得られる各方向のベクトルのそれぞれがMV0,MV1,MV2,MV3のそれぞれ(0ベクトル含む)として、水平補正部21、垂直補正部22、左斜め補正部23、右斜め補正部24のそれぞれに提供される。
すると、水平補正部21は、入力信号(原信号)T0に対して、MV0を考慮した水平方向の1次元画像処理を施し、その結果得られる信号を出力信号T11として総合補正部35に提供する。
同様に、垂直補正部21は、入力信号(原信号)T0に対して、MV1を考慮した垂直方向の1次元画像処理を施し、その結果得られる信号を出力信号T12として総合補正部35に提供する。
左斜め補正部23は、入力信号(原信号)T0に対して、MV2を考慮した左45度斜め方向の1次元画像処理を施し、その結果得られる信号を出力信号T13として総合補正部35に提供する。
右斜め補正部24は、入力信号(原信号)T0に対して、MV3を考慮した右45度斜め方向の1次元画像処理を施し、その結果得られる信号を出力信号T14として総合補正部35に提供する。
この場合、MV0,MV1,MV2,MV3のそれぞれ(0ベクトル含む)は、上述したように、図7のベクトルの概念に基づいて生成されたベクトル(補正指標ベクトルから、水平方向、垂直方向、左45度斜め方向、および、右45度斜め方向のそれぞれに分解されたベクトル)である。従って、水平補正部21の出力信号T11、垂直補正部22の出力信号T12、左斜め補正部23の出力信号T13、および、右斜め補正部24の出力信号T14のそれぞれは、図9のステップS2の処理結果としての信号(再補正後の各方向補正信号)である。即ち、水平方向、垂直方向、左45度斜め方向、および、右45度斜め方向のそれぞれのベクトルに対応する各方向の補正信号であるといえる。このように、図10の例では、水平補正部21乃至右斜め補正部24が、図9のステップS1とS2の処理を実行することになる。
従って、総合補正部33は、上述したように、ステップS3の処理のみを実行することになる。即ち、総合補正部35は、ステップS3において、信号T11、信号T12、信号T13、および、信号T14の加算信号T11+T12+T13+T14を、トータル補正信号T5として加算部31に提供する。すると、加算部31は、ステップS4において、原信号T0(入力信号T0)に対してトータル補正信号T5を加算した信号T0+T5を、出力信号T6として外部に出力する。
なお、図10の例の水平補正部21乃至右斜め補正部24の処理、即ち、移動ベクトル(MV0,MV1,MV2,MV3)を考慮した各方向(水平、垂直、左45度斜め、右45度斜め)の1次元画像処理は、特に限定されず、例えば、次のような処理を採用することができる。
即ち、例えば、1段階目の処理として、入力信号に対して所定の1次元画像処理(例えばフィルタ処理等)を施し、2段階目の処理として、1段階目の処理で得られた信号に対して、移動ベクトルを利用する別の処理(例えば移動ベクトルの大きさをゲイン量として、ゲインを変更する処理等)を施す、といった処理を採用することができる。
図9に対応させると、1段階目の処理がステップS1の処理に対応し、2段階目の処理がステップS2の処理に対応する。より具体的には例えば、水平補正部21についての第1の1次元画像処理とは、次のような処理となる。即ち、水平補正部21は、ステップS1において、入力信号(原信号)T0に対して、水平方向の1次元画像処理を施すことで、図8の例の水平補正部21の出力信号T1と同様の補正信号T1を生成する。そして、水平補正部21は、ステップS2において、分解部29からのMV0に応じて補正信号T0を再補正し、その結果得られる信号を出力信号T11として総合補正部35に提供する。なお、垂直補正部22乃至右斜め補正部4の処理も基本的に同様となるので、ここではそれらの説明については省略する。
その他、図10の例の水平補正部21乃至右斜め補正部24の処理としては、例えば1段階で済む処理であるが、その1段階の処理を行うために必要な各種条件を、移動ベクトルに応じて可変設定し(例えばタップ数等を移動ベクトルの大きさに応じて可変設定し)、移動ベクトルに応じて設定された各種条件に従って、入力信号に対して1次元画像処理(例えばフィルタ処理等)を施す、といった処理も採用可能である。
このように、図10の例の本発明の画像処理装置は、移動ベクトルを補正指標ベクトルとして利用した補正を行うことができる。その他、移動ベクトルを補正指標ベクトルとして利用した補正を行うことができる画像処理装置の構成例が図11に示されている。即ち、図11は、本発明の画像処理装置の構成例であって、上述した例とは異なる例を示している。
図11の例において、図10と対応する箇所には、対応する符号が付しており、それらの説明については適宜省略する。
図11の例の本発明の画像処理装置においては、図10の分解部29は設けられておらず、また、図10の例には無いMAX出力部41が設けられている。また、図10の総合補正部35の代わりに総合補正部42が設けられている。総合補正部42の詳細については、図12を参照して後述する。その他の構成は、図10の対応する構成と同様とされている。
移動ベクトル検出部32は、MV_Hを、MAX出力部41、水平補正部21、および総合補正部42に提供する一方、MV_Vを、MAX出力部41、垂直補正部22、および総合補正部42に提供する。
MAX出力部41は、MV_HとMV_Vとのうちの、その大きさが大きい方を、左斜め補正部23と右斜め補正部24とに提供する。
以下の図11の例の説明でも、説明を容易なものとするために、MV_Hの大きさをaとし、MV_Vの大きさをbとする。この場合、aの方が大きければ、MV_Hが、MAX出力部41から出力されて、左斜め補正部23と右斜め補正部24とのそれぞれに入力される。これに対して、bの方が大きければ、MV_Vが、MAX出力部41から出力されて、左斜め補正部23と右斜め補正部24とのそれぞれに入力される。
即ち、図11の例では、MV_HがMV0として水平補正部21に提供され、MV_VがMV1として垂直補正部22に提供される。また、MAX出力部41の出力(MV_HまたはMV_V)が、MV2として左斜め補正部23に提供されるとともに、MV3として右斜め補正部24に提供される。
水平補正部21は、入力信号(原信号)T0に対して、MV0を考慮した水平方向の1次元画像処理を施し、その結果得られる信号を出力信号T21として総合補正部42に提供する。
同様に、垂直補正部21は、入力信号(原信号)T0に対して、MV1を考慮した垂直方向の1次元画像処理を施し、その結果得られる信号を出力信号T22として総合補正部42に提供する。
左斜め補正部23は、入力信号(原信号)T0に対して、MV2を考慮した左45度斜め方向の1次元画像処理を施し、その結果得られる信号を出力信号T23として総合補正部42に提供する。
右斜め補正部24は、入力信号(原信号)T0に対して、MV3を考慮した右45度斜め方向の1次元画像処理を施し、その結果得られる信号を出力信号T24として総合補正部42に提供する。
ただし、図10の例では、MV0,MV1,MV2,MV3のそれぞれは、MV_HとMV_Vの合成ベクトルである移動ベクトル(補正指標ベクトル)が、水平、垂直、左45度斜め、および右45度斜めの各方向に分解された結果得られるベクトル(0ベクトル含む)であった。このため、水平補正部21の出力信号T11乃至右斜め補正部24の出力信号T14は、各方向のベクトルに分解済みの信号であるといえる。即ち、図10の例では、水平補正部21の出力信号T11乃至右斜め補正部24の出力信号T14とは、図9のステップS2の処理結果としての信号であるといえる。
これに対して、図11の例では、MV0,MV1,MV2,MV3のそれぞれは、MV_HまたはMV_Vのままである。従って、水平補正部21の出力信号T21乃至右斜め補正部24の出力信号T24は、各方向のベクトルに未分解の信号であるといえる。即ち、図11の例では、水平補正部21の出力信号T21乃至右斜め補正部24の出力信号T24とは、図9のステップS1の処理結果としての信号(または、ステップS2の処理途中の信号)であるといえる。
換言すると、図10の例の総合補正部35に提供される水平補正部21の出力信号T11乃至右斜め補正部24の出力信号T14で示される各方向補正量は、補正指標ベクトルが各方向に分解されたベクトルの大きさに対応する量に既になっている。このため、総合補正部35では、水平補正部21の出力信号T11乃至右斜め補正部24の出力信号T14の総加算信号を、そのままトータル補正信号T5とすることができた。即ち、総合補正部35は、図9のステップS3の処理のみを実行すれば足りた。
これに対して、図11の例の総合補正部42に提供される水平補正部21の出力信号T21乃至右斜め補正部24の出力信号T24が示す各方向補正量は、MV_HまたはMV_Vの大きさに対応する量であって、補正指標ベクトルが各方向に分解されたベクトルの各大きさに対応する量にはまだなっていない。このため、総合補正部35では、水平補正部21の出力信号T21乃至右斜め補正部24の出力信号T24の総加算信号を、そのままトータル補正信号T5とすることはできない。即ち、総合補正部42は、図9のステップS2の少なくとも一部を実行して、水平補正部21の出力信号T21乃至右斜め補正部24の出力信号T24が示す各方向補正量を、補正指標ベクトルから各方向に分解されたベクトルの各大きさに対応する量にそれぞれ変更させた後、ステップ3の処理を実行する(変更後の各方向補正量を加算する)必要がある。
このため、総合補正部42は、例えば図12に示すように、水平/垂直補正量決定部51、左/右斜め補正量決定部52、および加算部53を含むように構成されているのである。
なお、図12の説明においても、図7との関係を把握しやすくするために、MV_Hの大きさはaであり、かつ、MV_Vの大きさはbであるとする。
水平/垂直補正量決定部51は、信号T21または信号T22から、水平または垂直方向のベクトル(MV_HとMV_Vの合成ベクトルである移動ベクトルが、水平または垂直方向に分解された結果得られるベクトル)に対応する信号T43を生成して、加算部53に提供する。
このため、水平/垂直補正量決定部51には、MAX出力部61乃至乗算部65が設けられている。
MAX出力部61は、信号T21と信号T22とのうちの大きい方を、出力信号T41として乗算部65に出力する。即ち、信号T21とは、図11のMV0(=大きさaのMV_H)に応じて水平補正部21により生成された水平方向補正信号であり、信号T22とは、図11のMV1(大きさbのMV_V)に応じて垂直補正部22により生成された垂直方向補正信号である。従って、aとbとのうちのaの方が大きい場合(図7に示される場合)には、上述したように、移動ベクトルは水平方向に分解される(垂直方向は0ベクトルになる)ので、即ち、水平方向補正信号が利用される(垂直方向補正信号は0信号となる)ので、信号T21が信号T41として乗算部65に提供される。これに対して、bの方が大きい場合には、上述したように、移動ベクトルは垂直方向に分解される(水平方向は0ベクトルになる)ので、即ち、垂直方向補正信号が利用される(水平方向補正信号は0信号になる)ので、信号T22が信号T41として乗算部65に提供される。
また、移動ベクトルが水平方向に分解される場合(即ち、a>bの場合)、その水平方向のベクトル(例えば図7の例ではベクトルv3,v1)の大きさはa-bとなるので、その大きさと図11のMV_0(=MV_V)の大きさaとのスカラー比は、a-b/aとなる。一方、移動ベクトルが垂直方向に分解される場合(即ち、b>aの場合)、その垂直方向のベクトルの大きさはb-aとなるので、その大きさと図11のMV1(=MV_V)の大きさbとのスカラー比は、b-a/bとなる。これら両者の場合をまとめると、スカラー比は、結局、max(a,b) - min(a,b)/ max(a,b)で表すことができる。このスカラー比の演算を行うブロックが、MAX出力部62乃至β/α出力部64(および、後述するMIN出力部73)である。
具体的には、MAX出力部62は、MV_H(大きさa)とMV_V(大きさb)とのうちの、大きい方を出力信号MVXとして減算部63とβ/α出力部64(および後述するβ/α出力部74)に提供する。即ち、MAX出力部62の出力信号MVXとは、max(a,b)に対応する信号である。
減算部63は、MAX出力部62の出力信号MVXと、MIN出力部73の出力信号MVNとの減算信号を、出力信号MVDとしてβ/α出力部64に提供する。即ち、信号MVXは上述したようにmax(a,b)に対応する信号であり、信号MVNは後述するようにmin(a,b)に対応する信号であるので、減算部63の出力信号MVDとは、max(a,b) - min(a,b)に対応する信号となる。
β/α出力部64は、減算部63の出力信号MVDに対する、MAX出力部62の出力信号MVXの除算信号を、出力信号MVR1として乗算部65に提供する。即ち、β/α出力部64の出力信号MVR1とは、max(a,b) - min(a,b)/ max(a,b)に対応する信号、即ち、上述したスカラー比に対応する信号である。
乗算部65は、MAX出力部61の出力信号T41に対する、β/α出力部64の出力信号MVR1の乗算信号を、出力信号T43として加算部53に提供する。即ち、この乗算部65の出力信号T43が、水平または垂直方向のベクトルに対応する信号、具体的には例えば移動ベクトルが図7の補正指標ベクトルvt1,vt2である場合には水平方向のベクトルv1,v3に対応する信号となる。
このようにして、この乗算部65の出力信号T43が、再補正後の水平または垂直方向補正信号として、加算部53に提供される。
このような水平/垂直補正量決定部51に対して、左/右斜め補正量決定部52は、信号T33または信号T34から、左または右45度斜め方向のベクトル(MV_HとMV_Vの合成ベクトルである移動ベクトルが、左または右45度斜め方向に分解された結果得られるベクトル)に対応する信号T44を生成して、加算部53に提供する。
このため、左/右斜め補正量決定部52は、方向検出部71乃至乗算部75が設けられている。
方向検出部71は、MV_H(αとして入力)とMV_V(βとして入力)との乗算結果が0以上の場合、出力信号S1として1をセレクト部72に提供する一方、信号MV_Hと信号MV_Vとの乗算結果が0未満の場合、出力信号S1として0をセレクト部72に提供する。
セレクト部72は、方向検出部71から出力信号S1として0が供給された場合には、信号T23を出力信号T42として乗算部75に出力する一方、方向検出部71から出力信号S1として1が供給された場合には、信号T24を出力信号T42として乗算部75に出力する。
方向検出部71から出力信号S1として1が供給されることは、MV_HとMV_Vとの乗算結果が0以上であること、即ち、MV_VとMV_Hとが同符号であることを示している。上述したように、MV_VとMV_Hとが同符号の場合には、移動ベクトルは右45度斜め方向のベクトルに分解される(左45度斜め方向は0ベクトルとなる)ので、即ち、右45度斜め方向補正信号が利用される(左45度斜め方向補正信号は0信号となる)ので、図11の右斜め補正部24の出力信号T24が、信号T42として乗算部75に提供される。
これに対して、方向検出部71から出力信号S1として0が供給されることは、MV_HとMV_Vとの乗算結果が0未満であること、即ち、MV_VとMV_Hとが異符号であることを示している。上述したように、MV_VとMV_Hとが異符号の場合には、移動ベクトルは左45度斜め方向のベクトルに分解される(右45度斜め方向は0ベクトルとなる)ので、即ち、左45度斜め方向補正信号が利用される(右45度斜め方向補正信号は0信号となる)ので、図11の左斜め補正部23の出力信号T23が、信号T42として乗算部75に提供される。
この場合、信号T23,T24は、図11のMV2,MV3に応じて左斜め補正部23または右斜め補正部24により生成された左または右45度斜め方向補正信号であり、MV2,MV3の大きさは何れもmax(a,b)である。また、上述したように、移動ベクトルから分解された左または右45度斜め方向のベクトル(図7の例ではベクトルv4またはv2)の大きさはmin(a,b)である。従って、左または右45度斜め方向のベクトル(図7の例ではベクトルv4またはv2)と、MV2またはMV3とのスカラー比は何れも、min(a,b)/ max(a,b)となる。このスカラー比の演算を行うブロックが、MIN出力部73とβ/α出力部74(および上述したMAX出力部62)である。
具体的には、MIN出力部73は、信号MV_H(大きさA)と信号MV_V(大きさb)とのうちの小さい方を、出力信号MVNとして加算部63とβ/α出力部74に提供する。即ち、MIN出力部73の出力信号MVNとは、min(a,b)に対応する信号である。
β/α出力部74は、MIN出力部73の出力信号MVNに対する、MAX出力部62の出力信号MVXの除算信号を、出力信号MVR2として乗算部75に提供する。即ち、β/α出力部74の出力信号MVR2とは、min(a,b)/ max(a,b)に対応する信号、即ち、上述したスカラー比に対応する信号である。
乗算部75は、セレクト部72の出力信号T42に対する、β/α出力部74の出力信号MVR2の乗算信号を、出力信号T44として加算部53に提供する。即ち、この乗算部75の出力信号T44が、左または右45度斜め方向のベクトルに対応する信号、具体的には例えば移動ベクトルが図7の補正指標ベクトルvt1である場合には右45度斜め方向のベクトルv2に対応する信号となり、移動ベクトルが図7の補正指標ベクトルvt2である場合には左45度斜め方向のベクトルv4に対応する信号とな
このようにして、この乗算部75の出力信号T44が、右または左斜め方向補正信号として、加算部53に提供される。
加算部53は、水平/垂直補正量決定部51の出力信号T43(水平/垂直方向補正信号T43)と、左/右斜め補正量決定部52の出力信号T44(左/右45度斜め方向補正信号T44)との加算信号を、出力信号T35として図11の加算部31に提供する。即ち、加算部53は、水平または垂直方向のベクトルと、左または右45度斜め方向のベクトルとのベクトル合成と等価な処理を実行することで、トータル補正信号である信号T35を生成して出力する。
かかる信号T35は、図11に示されるように、総合補正部42の出力信号、即ちトータル補正信号として加算部31に提供される。そこで、加算部31は、入力信号T0に対して、総合補正部42の出力信号であるトータル補正信号T35を加算し、その結果得られる信号T0+T35を、最終的な出力信号T36として出力する。
以上説明したように、図11の例の本発明の画像処理装置も、結局、図9のフローチャートに従って補正処理を実行することができる。ただし、ステップS2の処理については、総合補正部42のうちの特に図12の水平/垂直補正量決定部51および左/斜め補正量決定部52により実行される。また、ステップS3の処理については、総合補正部42のうちの特に図12の加算部53により実行される。
ところで、各方向の1次元画像処理(図11等の水平補正部21乃至右斜め補正部24の処理等)は、上述したように特に限定されず、例えば、いわゆるエンハンス処理をそれぞれ採用することができる。
ただし、一般的にエンハンス処理が施された信号はノイズ等の影響を受けてしまっている。そこで、エンハンス処理による効果を落とさずに、ノイズ等の影響を抑制するために、エンハンス処理結果に対して、その処理方向に直行する方向に帯域制限をかける手法(以下、帯域制限手法と称する)が存在する。
具体的には例えば図11の例の画像処理装置に対して、この帯域制限手法をさらに適用した場合に実現される画像処理装置の構成例が、図13に示されている。
図13において、図11と対応する箇所には対応する符号を付しており、それらの箇所については説明を適宜省略する。
図13の例の本発明の画像処理装置においては、図11の例の画像処理装置に対して、さらに、水平補正部21の後段であって総合補正部42の前段にVLPF部81が、垂直補正部22の後段であって総合補正部42の前段にHLPF部82が、左斜め補正部23の後段であって総合補正部42の前段にRLPF部83が、右斜め補正部24の後段であって総合補正部42の前段にLLPF部84が、それぞれ設けられている。
VLPF部81は、水平補正部21で決定された水平方向の補正量がノイズの影響を受けないように、水平補正部21の出力信号T21に対して、水平補正部21の処理方向(水平方向)に直行する垂直方向に帯域制限をかけ(Low Pass Filter処理を施し)、その結果得られる信号T21'を出力信号として総合補正部42に提供する。
同様に、HLPF部82は、垂直補正部22で決定された垂直方向の補正量がノイズの影響を受けないように、垂直補正部22の出力信号T22に対して、垂直補正部22の処理方向(垂直方向)に直行する水平方向に帯域制限をかけ(Low Pass Filter処理を施し)、その結果得られる信号T22'を出力信号として総合補正部42に提供する。
RLPF部83は、左斜め補正部23で決定された左45度斜め方向の補正量がノイズの影響を受けないように、左斜め補正部23の出力信号T23に対して、左斜め補正部23の処理方向(左45度斜め方向)に直行する右45度斜め方向に帯域制限をかけ(Low Pass Filter処理を施し)、その結果得られる信号T23'を出力信号として総合補正部42に提供する。
LLPF部84は、右斜め補正部24で決定された右45度斜め方向の補正量がノイズの影響を受けないように、右斜め補正部24の出力信号T24に対して、右斜め補正部24の処理方向(右45度斜め方向)に直行する左45度斜め方向に帯域制限をかけ(Low Pass Filter処理を施し)、その結果得られる信号T24'を出力信号として総合補正部42に提供する。
ただし、入力信号T0として、例えばフレームを構成する複数の水平方向ライン(そのライン上に配置される1以上の画素の各画素値)が、そのライン番号順に順次入力されてくる場合には、VLPF部81、RLPF部83、および、LLPF部83は、注目画素が配置されている水平方向ラインとは別のライン(上または下方向に存在する幾つかの別の水平方向ライン)に配置されている画素も、処理対象画素として利用することになる。このため、図示はしないが、VLPF部81、RLPF部83、および、LLPF部83の各前段には、ラインメモリが必要となる。その結果、画像処理装置自体の回路規模が大きくなってしまう場合がある。
そこで、かかる場合を回避する目的があるとき、即ち、画像処理装置の回路規模を、図13の例の規模と比較してさらに一段と縮小したいという目的があるときには、次のような手法を採用すればよい。即ち、先に、各方向補正量を合成する合成処理実行し(図11等の例では、水平補正部21乃至右斜め補正部24の各出力信号を合成する合成処理を実行し)、その後、その合成補正量(図11等の例では、総合補正部42の出力信号T35)に対して、所定の一方向(例えば垂直方向)に帯域制限をかけ、帯域制限された合成補正量を最終的なトータル補正量として利用する(図11の例では、合成補正信号T35に対して帯域制限がかけられた信号を、トータル補正信号として加算部31に提供する)、といった手法(以下、合成後帯域制限手法と称する)を採用すればよい。これにより、ラインメモリは、トータル補正量に対して所定の一方向に帯域制限をかけるブロックの前段に1つだけで用意すればよいことになり、画像処理装置の回路規模をさらに一段と縮小することが可能になる。
具体的には例えば、図13の例と比較すべく、図11の例の画像処理装置に対して、かかる合成後帯域制限手法をさらに適用した場合に実現される画像処理装置の構成例が、図14に示されている。
図14の例の本発明の画像処理装置においては、図11の例の画像処理装置に対して、さらに、総合補正部42の後段であって加算部31の前段にVLPF部85が設けられている。
VLPF部85は、総合補正部42で各方向の補正量が合成された結果得られる合成補正量がノイズの影響を受けないように、総合補正部42の出力信号T35(合成補正信号T35)に対して、垂直方向に帯域制限をかけ(Low Pass Filter処理を施し)、その結果得られる信号T41をトータル補正信号として加算部31に提供する。
従って、図14の例では、加算部31は、入力信号T0に対して、VLPF部85の出力信号T41をトータル補正信号として加算し、その結果得られる信号T0+T41を、最終的な出力信号T36として外部に出力する。
なお、総合補正部42の出力信号T35に対して帯域制限をかける方向は、図14の例では垂直方向とされたが、図14の例に特に限定されない。ただし、エンハンス処理の目的が撮像ボケ抑制の場合、その撮像ボケの抑制効果を一番図りたい方向は、水平方向であることが多い。従って、このような場合には、撮像ボケの抑制効果を一番図りたい水平方向に直交する方向、即ち、図14の例のように垂直方向を、総合補正部42の出力信号T35に対して帯域制限をかける方向として採用すると好適である。
ところで、図14の例の画像処理装置において、入力信号T0が、垂直方向に動くオブジェクト(物体等)を含んだ画像についての画像信号であり、そのオブジェクト(像)の一部が注目画素であったときを考える。即ち、注目画素の水平方向の移動ベクトルであるMV_Hが0であったときを考える。このとき、総合補正部42の出力信号T35とは、垂直方向にエンハンスした補正量に対応する信号となっている。従って、VLPF部85では、このような垂直方向にエンハンスした補正量に対して帯域制限をかけることになり、結果的に、その出力信号T41の特性は、バンドパスフィルタ通過後の特性になってしまう、という問題が発生する。
そこで、かかる問題を解決するためには、図15に示されるように、VLPF部85に対してさらにMV_Hを入力させ、このMV_Hの大きさに応じて帯域制限の効き度合いを調整(制御)すればよい。
具体的には例えば、MV_Hの大きさに応じて帯域制限の効き度合いを調整(制御)可能なVLPF部85は、図16に示されるように構成することができる。
図16の例では、VLPF部85は、HPF部91乃至減算部94を含むように構成されている。
総合補正部42の出力信号T35は、入力補正信号としてVLPF部85のHPF部91、ゲイン量決定部92、および減算部94に入力される。
HPF部91は、入力補正信号T35に対してハイパスフィルタをかけ、その結果得られる信号T51を出力信号として乗算部93に提供する。
ゲイン量決定部92は、例えば図17に示されるような関数f(α)を保持している。そこで、ゲイン量決定部92は、移動ベクトル検出部32(図15)からのMV_Hを入力値αとして関数f1(α)に代入し、その出力値f1(MV_H)を、ゲインGとして乗算部93に提供する。
乗算部93は、HPF部31の出力信号T51に対して、ゲイン量決定部92からのゲインGを乗算し、その結果得られる信号G×T51を出力信号T52として、減算部94に提供する。
減算部94は、入力補正信号T35から、乗算部93の出力信号T52を減算し、その結果得られる信号T35-T52を、トータル補正信号T41として加算部31(図15)に提供する。
即ち、図16の例では、入力補正信号T35に対してハイパスフィルタがかけられた結果得られる信号T51が、MV_Hの大きさに応じてゲイン調整されて信号T52となり、その信号T52が、入力補正信号T35から減算されることで、入力補正信号T35に対してローパスフィルタがかけられた結果得られる信号と等価な信号T41が得られ、それがトータル補正信号として出力されるのである。
この場合、オブジェクトの動き成分の多くが垂直方向成分であるようなとき(垂直方向に近い方向にオブジェクトが動いているとき)にはMV_Hは小さい値となり、図17の関数f(α)の特性から容易にわかるように、ゲインGが1よりも小さい値となる。従って、減算部94において、入力補正信号T35から減算される量(信号T52のレベル)は、MV_Hが大きいとき(オブジェクトの動き成分の多くが水平方向成分であるようなとき、即ち、水平方向に近い方向にオブジェクトが動いているとき)と比較して少なくなる。このようにして、図16の例のVLPF部85においては、MV_Hの大きさに応じて帯域制限の効き度合いが制御されるのである。
なお、VLPF部85の構成として、単純なローパスフィルタの構成を採用するのではなく、このような図16の構成を採用した理由は、MV_Hの大きさに応じた帯域制限の効き度合いの制御を、より一段と簡単に実現できるようにするためである。
以上、合成後帯域制限手法が適用された画像処理装置として、図14乃至図16の構成例について説明したが、その構成は、上述した図14乃至図16の構成例に限定されず、次のような処理を実行可能な構成を有していれば足りる。
即ち、合成後帯域制限手法が適用された画像処理装置とは、
第1の方向に1以上の画素が連続して配置されてラインが構成され、1以上の前記ラインが、前記第1の方向に直交する第2の方向に1以上連続して配置されて画像が構成され、前記画像についての画像信号が前記ラインを単位として入力されたとき、その画像信号に対して次のような画像処理を施す画像処理装置であれば足りる。
即ち、
前記画像信号に対して前記第1の方向のエンハンス処理を施し、その結果得られる信号を第1のエンハンス処理済信号として出力し、
前記画像信号に対して、前記第1の方向とは異なる各方向のエンハンス処理をそれぞれ施し、それぞれの結果得られる複数の信号のそれぞれを、複数の第2のエンハンス処理済信号のそれぞれとして出力し、
前記第1のエンハンス処理済信号、および、複数の前記第2のエンハンス処理済信号に対して、所定の合成手法に基づく合成処理を施し、その結果得られる合成信号を出力し、
前記合成信号に対して、前記第1の方向とは異なる方向に帯域制限をかける処理を施し、その結果得られる信号を、前記画像信号に対する補正信号として出力し、
前記画像信号に対して前記補正信号を加算し、その結果得られる信号を、補正後の前記画像信号として出力する
画像処理装置であれば、合成後帯域制限手法が適用された画像処理装置であるといえ、その構成は上述した図14乃至図16の構成例に特に限定されない。
具体的は例えば、図示はしないが、図10の例の画像処理装置に対して、さらに、総合補正部35の後段であって加算部31の前段にVLPF部(図16の構成のVLPF部85等)が設けられた画像処理装置もまた、合成後帯域制限手法が適用された画像処理装置の一例である。
ところで、上述した一連の処理(或いはそのうちの一部分の処理)は、ハードウエアにより実行させることもできるが、ソフトウエアにより実行させることもできる。
この場合、図8、図10、図11、図13、図14、および図15の画像処理装置全体若しくはその一部分は、例えば、図18に示されるようなコンピュータで構成することができる。
図18において、CPU(Central Processing Unit)101は、ROM(Read Only Memory)102に記録されているプログラム、または記憶部108からRAM(Random Access Memory)103にロードされたプログラムに従って各種の処理を実行する。RAM103にはまた、CPU101が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU101、ROM102、およびRAM103は、バス104を介して相互に接続されている。このバス104にはまた、入出力インタフェース105も接続されている。
入出力インタフェース105には、キーボード、マウスなどよりなる入力部106、ディスプレイなどよりなる出力部107、ハードディスクなどより構成される記憶部108、および、モデム、ターミナルアダプタなどより構成される通信部109が接続されている。通信部109は、インターネットを含むネットワークを介して他の装置との通信処理を行う。
入出力インタフェース105にはまた、必要に応じてドライブ110が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどよりなるリムーバブルメディア111が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部108にインストールされる。
一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
このようなプログラムを含む記録媒体は、図18に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フロッピディスクを含む)、光ディスク(CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini-Disk)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア(パッケージメディア)111により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM102や、記憶部108に含まれるハードディスクなどで構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、上述したように、本明細書において、システムとは、複数の処理装置や処理部により構成される装置全体を表すものである。
従来の画像処理装置の機能的構成の一例を示すブロック図である。 画像処理の対象となるフレームの一例を示す図である。 画像処理の対象となるフレームの一例を示す図である。 図3のフレームに対して、従来の水平方向の1次元画像処理が施された結果の例を示す図である。 図3のフレームに対して、従来の垂直方向の1次元画像処理が施された結果の例を示す図である。 図3のフレームに対して、本発明が適用される斜め方向の1次元画像処理が施された結果の例を示す図である。 本発明が適用される画像処理の手法を説明するための図である。 本発明が適用される画像処理装置の機能的構成の一例を示すブロック図である。 図8の画像処理装置の補正処理の一例を説明するフローチャートである。 本発明が適用される画像処理装置の機能的構成の一例を示すブロック図である。 本発明が適用される画像処理装置の機能的構成の一例を示すブロック図である。 図11の画像処理装置のうちの総合補正部の機能的構成の詳細例を示すブロック図である。 本発明が適用される画像処理装置の機能的構成の一例を示すブロック図である。 本発明が適用される画像処理装置の全部または一部分のハードウエア構成の一例を示すブロック図である。 本発明が適用される画像処理装置の全部または一部分のハードウエア構成の一例を示すブロック図である。 図15の画像処理装置のうちのVLPF部の機能的構成の詳細例を示すブロック図である。 図16のゲイン量決定部が保持する関数の特性例を示す図である。 本発明が適用される画像処理装置の全部または一部分のハードウエア構成の一例を示すブロック図である。
符号の説明
21 水平補正部, 22垂直補正部, 23 左斜め補正部, 24 右斜め補正部, 29 分解部, 30 総合補正部, 32 移動ベクトル検出部, 35 総合補正部, 41 MAX出力部, 42 総合補正部, 51 水平/垂直補正量決定部, 52 左/右斜め補正量決定部, 81 VLPF部, 82 HLPF部, 83 RLPF部, 84 LLPF部, 85 VLPF部, 91 HPF部, 92 ゲイン量決定部, 93 乗算部, 94 減算部, 101 CPU, 102 ROM, 103 RAM, 108 記憶部, 111 リムーバブルメディア

Claims (7)

  1. 水平方向と垂直方向とで定義される平面上に配置される複数の画素の各画素値から構成される画像データに対して、画像処理を施す画像処理装置において、
    前記画像データを構成する前記各画素値のうちの、処理対象として注目すべき注目画素の画素値に対して、その注目画素を含む前記水平方向に配置される複数の画素の各画素値を利用する画像処理を施す水平方向画像処理手段と、
    前記注目画素の画素値に対して、その注目画素を含む前記垂直方向に配置される複数の画素の各画素値を利用する画像処理を施す垂直方向画像処理手段と、
    前記注目画素の画素値に対して、その注目画素を含む、前記水平方向および前記垂直方向とは異なる所定の斜め方向に配置される複数の画素の各画素値を利用する画像処理を施す斜め方向画像処理手段と、
    前記水平方向画像処理手段、前記垂直方向画像処理手段、および、前記斜め方向画像処理手段の各処理結果に基づいて、前記注目画素の画素値に対する補正量を決定する補正量決定手段と、
    前記注目画素の画素値に対して、前記補正量決定手段により決定された前記補正量を加算することで、前記注目画素の画素値を補正する補正手段と
    を備える画像処理装置。
  2. 前記斜め方向画像処理手段は、
    前記注目画素の画素値に対して、その注目画素を含む、前記水平方向に対して左45度斜め方向に配置される複数の画素の各画素値を利用する画像処理を施す左45度斜め方向画像処理手段と、
    前記注目画素の画素値に対して、その注目画素を含む、前記水平方向に対して右45度斜め方向に配置される複数の画素の各画素値を利用する画像処理を施す右45度斜め方向画像処理手段と
    を有する画像処理装置。
  3. 前記注目画素について、その補正方向と、前記補正量の指標となる補正指標量とに基づいて、前記水平方向画像処理手段、前記垂直方向画像処理手段、前記左45度斜め方向画像処理手段、および、前記右45度斜め方向画像処理手段の各処理結果を変更する変更手段をさらに備え、
    前記補正量決定手段は、前記水平方向画像処理手段、前記垂直方向画像処理手段、前記左45度斜め方向画像処理手段、および、前記右45度斜め方向画像処理手段についての前記変更手段により変更された各処理結果に基づいて、前記注目画素の画素値に対する前記補正量を決定する
    請求項2に記載の画像処理装置。
  4. 前記変更手段は、前記注目画素について、
    前記補正指標量の長さを有する前記補正方向のベクトルを補正指標ベクトルとして、
    前記補正指標ベクトルを、前記水平方向、前記垂直方向、前記左45度斜め方向、および、前記右45度斜め方向のそれぞれに分解し、
    その結果得られる前記水平方向、前記垂直方向、前記左45度斜め方向、および、前記右45度斜め方向の各ベクトルのそれぞれに基づいて、前記水平方向画像処理手段、前記垂直方向画像処理手段、前記左45度斜め方向画像処理手段、および、前記右45度斜め方向画像処理手段の各処理結果を変更する
    請求項3に記載の画像処理装置。
  5. 前記画像データは、動画像を構成する複数のアクセスユニットのうちの所定の1つについての画像データであり、
    前記注目画素についての移動ベクトルを検出する移動ベクトル検出手段をさらに備え、
    前記変更手段は、前記注目画素について、前記移動ベクトル検出手段により検出された前記移動ベクトルを、前記補正指標ベクトルとして利用する
    請求項4に記載の画像処理装置。
  6. 水平方向と垂直方向とで定義される平面上に配置される複数の画素の各画素値から構成される画像データに対して、画像処理を施す画像処理装置の画像処理方法において、
    前記画像データを構成する前記各画素値のうちの、処理対象として注目すべき注目画素の画素値に対して、その注目画素を含む前記水平方向に配置される複数の画素の各画素値を利用する水平方向画像処理を施し、
    前記注目画素の画素値に対して、その注目画素を含む前記垂直方向に配置される複数の画素の各画素値を利用する垂直方向画像処理を施し、
    前記注目画素の画素値に対して、その注目画素を含む、前記水平方向および前記垂直方向とは異なる所定の斜め方向に配置される複数の画素の各画素値を利用する斜め方向画像処理を施し、
    前記水平方向画像処理、前記垂直方向画像処理、および、前記斜め方向画像処理の各結果に基づいて、前記注目画素の画素値に対する補正量を決定し、
    前記注目画素の画素値に対して、決定された前記補正量を加算することで、前記注目画素の画素値を補正する
    ステップを含む画像処理方法。
  7. 水平方向と垂直方向とで定義される平面上に配置される複数の画素の各画素値から構成される画像データに対して施す画像処理を制御するコンピュータに実行させるプログラムであって、
    前記画像データを構成する前記各画素値のうちの、処理対象として注目すべき注目画素の画素値に対して、その注目画素を含む前記水平方向に配置される複数の画素の各画素値を利用する水平方向画像処理を施し、
    前記注目画素の画素値に対して、その注目画素を含む前記垂直方向に配置される複数の画素の各画素値を利用する垂直方向画像処理を施し、
    前記注目画素の画素値に対して、その注目画素を含む、前記水平方向および前記垂直方向とは異なる所定の斜め方向に配置される複数の画素の各画素値を利用する斜め方向画像処理を施し、
    前記水平方向画像処理、前記垂直方向画像処理、および、前記斜め方向画像処理の各結果に基づいて、前記注目画素の画素値に対する補正量を決定し、
    前記注目画素の画素値に対して、決定された前記補正量を加算することで、前記注目画素の画素値を補正する
    ステップを含むプログラム。
JP2006075514A 2006-03-17 2006-03-17 画像処理装置および方法、並びにプログラム Expired - Fee Related JP4775052B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2006075514A JP4775052B2 (ja) 2006-03-17 2006-03-17 画像処理装置および方法、並びにプログラム
US11/715,361 US7916970B2 (en) 2006-03-17 2007-03-08 Image processing apparatus, method of same, and program for same
KR1020070025948A KR20070094545A (ko) 2006-03-17 2007-03-16 화상 처리 장치 및 방법과 프로그램
EP07104292A EP1835459A3 (en) 2006-03-17 2007-03-16 Image processing apparatus, method of same, and program for same
CNB2007100878001A CN100536526C (zh) 2006-03-17 2007-03-19 图像处理设备、图像处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006075514A JP4775052B2 (ja) 2006-03-17 2006-03-17 画像処理装置および方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JP2007249849A true JP2007249849A (ja) 2007-09-27
JP4775052B2 JP4775052B2 (ja) 2011-09-21

Family

ID=38068428

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006075514A Expired - Fee Related JP4775052B2 (ja) 2006-03-17 2006-03-17 画像処理装置および方法、並びにプログラム

Country Status (5)

Country Link
US (1) US7916970B2 (ja)
EP (1) EP1835459A3 (ja)
JP (1) JP4775052B2 (ja)
KR (1) KR20070094545A (ja)
CN (1) CN100536526C (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090005843A (ko) * 2007-07-10 2009-01-14 삼성전자주식회사 촬상 장치 및 촬상 장치의 감도 개선 방법
JP2010004111A (ja) * 2008-06-18 2010-01-07 Nec Electronics Corp 画像処理装置および画像処理方法並びにプログラム
US8284314B2 (en) * 2009-12-16 2012-10-09 Vixs Systems, Inc. Adaptive edge enhancement using directional components from non-linear filtering
JP6021489B2 (ja) * 2011-10-03 2016-11-09 キヤノン株式会社 撮像装置、画像処理装置およびその方法
CN103593822B (zh) * 2012-08-17 2018-05-22 腾讯科技(深圳)有限公司 对数据图像进行磨砂特效处理的方法和装置
JP7363555B2 (ja) * 2020-02-14 2023-10-18 株式会社Jvcケンウッド 画像処理装置及び画像処理方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04205572A (ja) * 1990-11-30 1992-07-27 Sony Corp 信号処理装置及び信号処理方法
JPH04205573A (ja) * 1990-11-30 1992-07-27 Sony Corp 画像処理装置
JPH06319129A (ja) * 1993-05-07 1994-11-15 Mitsubishi Electric Corp 時空間画像フィルタ
JPH09311937A (ja) * 1996-05-24 1997-12-02 Nippon Hoso Kyokai <Nhk> 方向性適応型画像エンハンサ

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5790764A (en) * 1993-05-26 1998-08-04 Kyocera Corporation Image output device and image control method for smoothing image or increasing image resolution by use of same
US5799100A (en) 1996-06-03 1998-08-25 University Of South Florida Computer-assisted method and apparatus for analysis of x-ray images using wavelet transforms
US6507364B1 (en) * 1998-03-13 2003-01-14 Pictos Technologies, Inc. Edge-dependent interpolation method for color reconstruction in image processing devices
JP3777785B2 (ja) * 1998-03-18 2006-05-24 コニカミノルタビジネステクノロジーズ株式会社 画像処理装置
US7262879B2 (en) * 2001-03-28 2007-08-28 Sharp Laboratories Of America, Inc. Method for screening of halftone images
JP4150844B2 (ja) * 2001-07-05 2008-09-17 コニカミノルタビジネステクノロジーズ株式会社 画像処理装置および画像処理プログラム
JP4502303B2 (ja) 2001-07-05 2010-07-14 株式会社リコー 画像処理装置
US6876778B2 (en) * 2002-03-11 2005-04-05 Sunplus Technology Co., Ltd. Edge enhancement method and apparatus in digital image scalar-up circuit
US7423781B2 (en) 2002-03-20 2008-09-09 Ricoh Company, Ltd. Image processor and image processing method for image enhancement using edge detection
JP2004272657A (ja) 2003-03-10 2004-09-30 Matsushita Electric Ind Co Ltd 画像処理装置
TWI252039B (en) * 2003-09-25 2006-03-21 Himax Tech Inc De-interlacing device and the method thereof
JP2005142832A (ja) 2003-11-06 2005-06-02 Canon Inc 輪郭補正回路及び撮像装置
EP1589763A2 (en) 2004-04-20 2005-10-26 Sony Corporation Image processing apparatus, method and program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04205572A (ja) * 1990-11-30 1992-07-27 Sony Corp 信号処理装置及び信号処理方法
JPH04205573A (ja) * 1990-11-30 1992-07-27 Sony Corp 画像処理装置
JPH06319129A (ja) * 1993-05-07 1994-11-15 Mitsubishi Electric Corp 時空間画像フィルタ
JPH09311937A (ja) * 1996-05-24 1997-12-02 Nippon Hoso Kyokai <Nhk> 方向性適応型画像エンハンサ

Also Published As

Publication number Publication date
EP1835459A3 (en) 2010-04-28
JP4775052B2 (ja) 2011-09-21
US20070217706A1 (en) 2007-09-20
KR20070094545A (ko) 2007-09-20
EP1835459A2 (en) 2007-09-19
US7916970B2 (en) 2011-03-29
CN100536526C (zh) 2009-09-02
CN101039380A (zh) 2007-09-19

Similar Documents

Publication Publication Date Title
US8433152B2 (en) Information processing apparatus, information processing method, and program
JP4775052B2 (ja) 画像処理装置および方法、並びにプログラム
JP5132198B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US9727984B2 (en) Electronic device and method for processing an image
US8396318B2 (en) Information processing apparatus, information processing method, and program
JP6485068B2 (ja) 画像処理方法および画像処理装置
JP2009534900A (ja) 補間画像生成方法及びシステム
JP4783676B2 (ja) 画像処理装置及び画像処理プログラム
US8750635B2 (en) Image processing apparatus, image processing method, program, and recording medium
JP5927051B2 (ja) 画像処理装置、画像処理方法及びプログラム
US11663698B2 (en) Signal processing method for performing iterative back projection on an image and signal processing device utilizing the same
JP2009111969A (ja) 分割映像処理装置および方法、または制御因子計算装置
JP2007249794A (ja) 画像処理装置および方法、並びにプログラム
JP6755811B2 (ja) 画像処理装置、画像処理方法、及びプログラム
WO2011145668A1 (ja) 画像処理装置、画像処理回路、画像処理方法及びプログラム
JP6135937B2 (ja) 画像処理方法および画像処理装置
JP2017224971A (ja) 画像処理装置、画像処理方法、およびプログラム
JP5247633B2 (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
JP2004147281A (ja) 特殊効果映像生成装置、特殊効果映像生成方法及び特殊効果映像生成プログラム
JP5349204B2 (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
JP4910839B2 (ja) 画像処理装置および方法、並びにプログラム
JP6627528B2 (ja) 画像処理方法及び画像処理装置
CN114612295A (zh) 一种图像超分辨率处理方法和计算机设备
JP5659126B2 (ja) 画像処理装置、画像処理プログラム及び画像処理方法
JP5701816B2 (ja) 画像処理装置、画像処理プログラム及び画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090317

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110328

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110531

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110613

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140708

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees