JP4345651B2 - 画像情報の評価方法、画像情報の評価プログラム及び画像情報評価装置 - Google Patents

画像情報の評価方法、画像情報の評価プログラム及び画像情報評価装置 Download PDF

Info

Publication number
JP4345651B2
JP4345651B2 JP2004344546A JP2004344546A JP4345651B2 JP 4345651 B2 JP4345651 B2 JP 4345651B2 JP 2004344546 A JP2004344546 A JP 2004344546A JP 2004344546 A JP2004344546 A JP 2004344546A JP 4345651 B2 JP4345651 B2 JP 4345651B2
Authority
JP
Japan
Prior art keywords
camera shake
image information
evaluation
degree
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004344546A
Other languages
English (en)
Other versions
JP2006157427A (ja
Inventor
めぐみ 神田
プーン ユニス
クラーク イアン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2004344546A priority Critical patent/JP4345651B2/ja
Priority to US11/287,270 priority patent/US7693342B2/en
Publication of JP2006157427A publication Critical patent/JP2006157427A/ja
Application granted granted Critical
Publication of JP4345651B2 publication Critical patent/JP4345651B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像情報の評価方法、画像情報の評価プログラム及び画像情報評価装置に関する。
手ぶれした状態やピントが合っていない状態で撮影を行うと、その画像は、ぼやけた画像になる。しかし、ぼやけた画像を見て、それが手ぶれによるものなのか、ピンボケによるものなのか、判別することは難しい。そこで、デジタルカメラ等の撮影装置によって生成された画像情報を評価する方法が、種々提案されている。例えば、手ぶれを評価する方法(例えば、非特許文献1を参照。)が提案されている。
「Identification of Blur Parameters from Motion Blurred Image」,Y.Yizhaky and N.S.Kopeika,GRAPHICAL MODELS AND IMAGE PROCESSING Vol.59, No.5, September, pp. 310-320, 1997
しかし、手ぶれ評価とピンボケ評価を行う際に、全く別々の処理を行うことにすると、処理に時間がかかってしまう。
そこで、本発明は、手ぶれ評価の結果をピンボケ評価で利用し、画像情報の評価の処理時間を軽減することを目的とする。
上記目的を達成するための主たる発明は、画像情報を取得し、前記画像情報に基づいて、手ぶれ方向のぶれの程度を算出し、前記画像情報に基づいて、前記手ぶれ方向に垂直な方向のぶれの程度を算出し、前記手ぶれ方向のぶれの程度と前記手ぶれ方向に垂直な方向のぶれの程度とに基づいて、ピンボケの有無を評価することを特徴とする。
本発明の他の特徴については、本明細書及び添付図面の記載により明らかにする。
===開示の概要===
本明細書及び添付図面の記載により、少なくとも、以下の事項が明らかとなる。
画像情報を取得し、
前記画像情報に基づいて手ぶれ方向を求めて、前記画像情報の手ぶれ評価を行い、
前記手ぶれ評価で求められた手ぶれ方向に関する情報を利用して、前記画像情報のピンボケ評価を行う
ことを特徴とする画像情報の評価方法。
このような画像情報の評価方法によれば、処理時間を軽減することができる。
かかる評価方法であって、前記手ぶれ方向に関する情報とは前記手ぶれ方向の情報であり、前記ピンボケ評価では、前記手ぶれ方向と垂直な方向のぶれの程度を評価することが望ましい。また、かかる評価方法であって、前記手ぶれ方向に関する情報とは、前記手ぶれ方向に垂直な方向における前記画像情報のエッジの情報であることが望ましい。これにより、ピンボケ評価の処理時間を軽減することができる。
かかる評価方法であって、前記手ぶれ評価では、前記手ぶれ方向のサンプルラインを抽出してぶれの程度を評価し、前記ピンボケ評価では、手ぶれ方向に垂直な方向のサンプルラインを抽出してぶれの程度を評価することが望ましい。また、前記手ぶれ評価及び前記ピンボケ評価では、抽出された前記サンプルラインの自己相関関数に基づいて、ぶれの程度を評価することが好ましい。また、前記手ぶれ評価及び前記ピンボケ評価では同じ関数が利用されており、前記手ぶれ評価では前記手ぶれ方向を引数とし、前記ピンボケ評価では前記手ぶれ方向に垂直な方向を引数とすることが好ましい。これにより、ピンボケ評価の処理と、手ぶれ評価の処理とを共通化できる。
かかる評価方法であって、前記手ぶれ評価では、前記手ぶれ方向のぶれの程度を評価し、前記ピンボケ評価では、前記手ぶれ方向に垂直な方向のぶれの程度を評価することが望ましい。また、前記ピンボケ評価では、前記手ぶれ方向のぶれの程度と、前記手ぶれ方向に垂直な方向のぶれの程度と、に基づいて、ピンボケの程度を評価することが好ましい。これにより、手ぶれの影響を少なくして、ピンボケ評価を行うことができる。
かかる評価方法であって、前記画像情報を複数の領域に分割し、分割された領域から特定の領域を選択し、選択された特定の領域に対して、前記手ぶれ評価及びピンボケ評価を行うことが望ましい。また、分割された前記領域毎にその領域内の輝度差を算出し、前記輝度差が最も大きい領域を、前記特定の領域として選択することが好ましい。これにより、演算量を軽減できる。
かかる評価方法であって、前記手ぶれ評価の結果に基づいて前記画像情報に対して手ぶれ補正を行い、前記ピンボケ評価の結果に基づいて前記画像情報に対してピンボケ補正を行うことが望ましい。また、前記手ぶれ補正及びピンボケ補正の少なくとも一方の補正が行われた画像情報を、等倍で表示することが好ましい。これにより、ユーザーは、補正後の画像情報を正確に認識することができる。
演算処理装置及びメモリに、
画像情報を取得させ、
前記画像情報に基づいて手ぶれ方向を求めて、前記画像情報の手ぶれ評価を行わせ、
前記手ぶれ評価で求められた手ぶれ方向に関する情報を利用して、前記画像情報のピンボケ評価を行わせる
ことを特徴とする画像情報の評価プログラム。
このような評価プログラムによれば、処理時間を軽減することができる。
画像情報を取得し、
前記画像情報に基づいて手ぶれ方向を求めて、前記画像情報の手ぶれ評価を行い、
前記手ぶれ評価で求められた手ぶれ方向に関する情報を利用して、前記画像情報のピンボケ評価を行う
ことを特徴とする画像情報評価装置。
このような画像情報評価装置によれば、処理時間を軽減することができる。
===説明の対象===
<画像評価方法が適用される装置について>
本実施形態の画像評価方法は、評価対象となる画像情報を取得し、取得した画像情報に対する評価を行って、評価結果を求める。この画像評価方法は、種々の装置に適用することができる。
例えば、この方法は、画像評価用のコンピュータプログラム(例えば、画像処理ソフト)がインストールされたパーソナルコンピュータに、適用することができる。また、この方法は、画像情報を扱う種々の装置にも適用することができる。画像情報を扱う装置としては、例えば、デジタルカメラ、デジタルビデオカメラ、プリンタ等が含まれる。
そこで、まず本明細書では、画像評価を行うプリンタについて説明を行う。このプリンタは、メモリカードに記憶された印刷対象となる画像情報を評価し、画像情報と対応する評価結果をユーザーに対して表示し、ユーザーにより選択された画像情報をCD−R等(recordable compact disc)に記憶させることのできるプリンタについて説明する。
===プリンタ===
<プリンタ1の構成について>
まず、プリンタ1の構成について説明する。ここで、図1は、プリンタ1、及び、このプリンタ1に接続されるCD−R装置100の外観を説明する図である。図2は、プリンタ1の電気的構成を説明するためのブロック図である。
図1に示すように、プリンタ1の前面部には、操作パネル2、液晶表示部3、及び排紙部4が設けられている。操作パネル2には、各種の操作ボタン5やカードスロット6が設けられている。操作ボタン5はプリンタ1に対する指令を行う際に操作される。また、カードスロット6はメモリカード110(カード型のフラッシュメモリ,図2を参照。)が装着される部分である。このメモリカード110には、例えば、デジタルカメラ120で撮影された画像の画像情報が記憶される。なお、このメモリカード110には、いくつもの種類があるので、各メモリカード110が装着できるように、カードスロット6も複数用意されている。液晶表示部3は、各種の情報を表示する。この液晶表示部3は、メニューを表示させたり、メモリカード110に記憶されている画像情報の画像を表示させたりする部分である。本実施形態では、この液晶表示部3を操作ボタン5の上方に配置している。
排紙部4には、開閉可能な排紙トレーが設けられている。排紙トレーは、上部を前方に倒すことができるように取り付けられている。そして、この排紙トレーは、印刷時において、印刷済みの用紙が載せられる台として機能する。一方、プリンタ1の背面部には、給紙部7と各種のコネクタ(図示せず。)とが設けられている。給紙部7は、印刷に用紙を重ねて保持可能な部分である。また、コネクタは、CD−R装置100やデジタルカメラ120等の外部装置と接続するための部分であり、例えばUSB端子である。
図1の例において、CD−R装置100はケーブル102を介してプリンタ1に接続されている。なお、プリンタ1への接続は、ケーブル102に限らず無線であってもよい。このCD−R装置100は、メモリカード110に記憶された画像情報を、CD−R104にバックアップする際に用いられる。また、このCD−R装置100をプリンタ1に接続することにより、CD(compact disc,図示せず。)やCD−R104に記憶された画像情報を印刷することもできる。
次に、プリンタ1の電気的構成について説明する。図2に示すように、プリンタ1は、ヘッドユニット20、用紙搬送機構30、キャリッジ移動機構40、検出器群50、プリンタ側コントローラ60、液晶表示部3、操作ボタン5、及びカードスロット6を有する。また、これらの他に、プリンタ1は、ホストコンピュータ130と接続するための第1インタフェース12と、デジタルカメラ120やCD−R装置100と接続するための第2インタフェース14とを有している。
ヘッドユニット20は、インクを用紙に向けて吐出させるためのものであり、インクを吐出するヘッド22を有する。このヘッドユニット20は、キャリッジ(図示せず)に取り付けられており、キャリッジをキャリッジ移動方向に移動させるキャリッジ移動機構40によって、キャリッジとともに移動する。用紙搬送機構30は、キャリッジ移動方向と交差する方向に用紙を搬送する。検出器群50は、プリンタ1の状態を検出するためのものであり、例えば、キャリッジの位置を検出するためのリニア式エンコーダ、紙の搬送量を検出するためのロータリー式エンコーダ、及び用紙の有無を検出するための紙検出器(いずれも図示せず。)等が含まれる。
プリンタ側コントローラ60は、プリンタ1の制御を行うものである。このプリンタ側コントローラ60は、CPU62と、メモリ64と、制御ユニット68とを有する。CPU62は、プリンタ1の全体的な制御を行うための演算処理装置である。メモリ64は、CPU62のプログラムを格納する領域や作業領域等を確保するためのものであり、RAM、EEPROM、ROM等の記憶素子によって構成される。そして、画像情報の評価時において、メモリ64には評価対象の画像情報が格納される。制御ユニット68は、制御対象となる各部とCPU62との間に配置され、CPU62からのコマンドに基づいてモータ用の駆動信号を生成したり、各部から送られてくる信号を、CPU62が解釈できる形態にして出力したりする。
通常、プリンタ1は、ホストコンピュータ130から印刷データを受信すると、印刷データに基づいて印刷処理を行う。すなわち、印刷データの受信後、プリンタ側コントローラ60は、用紙搬送機構30に印刷開始位置まで用紙を搬送させ、キャリッジ移動機構にキャリッジをキャリッジ移動方向に移動させ、キャリッジとともに移動するヘッドから印刷データに基づいてインクを吐出させる。そして、これらの動作が繰り返し行われると、用紙に画像が印刷される。
さらに、本実施形態のプリンタ1は、画像情報のバックアップ処理を行う。バックアップ処理では、プリンタ側コントローラ60は、カードスロット6に装着されたメモリカード110から画像情報を、CD−R装置100によってCD−Rに記憶させる。このバックアップ処理は、ユーザーが操作ボタン5を操作することにより、開始される。なお、本実施形態では、このバックアップ処理において、画像情報の評価も行われる。以下に、バックアップ処理、及び、画像情報の評価処理について説明する。
===画像情報の評価・バックアップ===
<バックアップ処理の概略について>
図3は、バックアップ処理を説明するフローチャートである。この処理は、プリンタ1のメモリ64に記憶されたプログラムに基づいて、CPU62により実行される。このため、プログラムは、これらの処理をCPU62に実行させるためのコードを有する。
この処理では、まず、評価画像情報の取得が行われる(S110)。ここで、評価画像情報とは、評価の対象となる画像情報のことである。この処理では、メモリカード110に記憶されたバックアップ対象となる画像情報の中から評価画像情報が1つ定められ、この評価画像情報がメモリ64に記憶される。従って、バックアップ対象となる画像情報が複数ある場合には、その中の1つが評価画像情報として取得される。また、バックアップ対象となる画像情報が1つである場合には、その画像情報が評価画像情報として取得される。
次に、画像評価処理が行われる(S120)。この画像評価処理では、評価画像情報に関し、手ぶれ評価及びピンボケ評価が行われる。なお、この画像評価処理については、後で説明する。
次に、全ての画像情報について評価が行われたか否かが判断される(S130)。ここで、未評価の画像情報がある場合には、ステップS110に戻って前述した処理が行われる。一方、全ての画像情報の評価が終了した場合には、バックアップされる画像情報を確認する処理が行われる(S140)。この処理では、画像評価処理(S120)での評価結果に基づき、基準を満たさない画像情報に関してバックアップの対象とするか否かを、ユーザーに確認する。このとき、ユーザーに確認を促す画面が液晶表示部3に表示され、操作ボタンからの入力に応じてバックアップされる画像情報が確定される。そして、バックアップされる画像情報が確定されたならば、確定された画像情報をCD−R104に書き込む(S150)。この書き込み処理では、ステップS120で求められた評価結果(評価の内容)を、評価対象の画像情報と共に記憶させる。例えば、Exif(exchangeable image file format)における付属情報として、評価結果が記憶される。
===画像評価処理===
図4は、画像評価処理を説明するためのフローチャートである。この画像評価処理では、評価範囲の設定(S210)、手ぶれ評価(S220)、ピンぼけ評価(S240)、及び評価結果の記憶(S250)の処理が行われる。
以下、各処理について説明する。なお、画像中の水平方向をX方向とし、垂直方向をY方向とする。また、画像情報を構成する各画素P(図6B等を参照。)は、画像情報における水平方向の位置iと、垂直方向の位置jを用いて、P(i、j)として表される。
<評価範囲の設定(S210)>
図5は、評価範囲の設定(S210)を説明するためのフローチャートである。各処理は、プリンタ1のメモリ64に記憶されたプログラムに基づいて、CPU62により実行される。このため、プログラムは、これらの処理をCPU62に実行させるためのコードを有する。
また、図6Aは、256個のブロックBKに分割された画像情報を説明するための概念図である。図6Bは、隣り合う画素同士の輝度差を説明するための概念図である。図6Cは、最もエッジが多いブロックBKを含む評価範囲EVを示す概念図である。
この評価範囲の設定では、画像情報の中から評価範囲EVが特定される。なお、評価範囲EVは、手ぶれ評価(S220)及びピンぼけ評価(S230)が行われる範囲になる。
まず、CPU62は、評価画像情報の色空間を変換する(S211)。例えば、RGB色空間で表現された評価画像情報が、YIQ色空間(Y(輝度)、I(オレンジ−シアン)、Q(緑−マゼンタ)の色空間)の画像情報に変換される。なお、デジタルカメラで撮影された画像情報が、RGB色空間のビットマップ情報ではなくJPEG形式の情報であるときは、評価画像情報の色空間をYUV色空間に変換しても良い。要するに、評価画像情報の色空間が、輝度(Y)の成分を含む色空間に変換されれば良い。
次に、CPU62は、輝度画像情報を抽出する(S212)。上記のS211の変換処理によって生成されたYIQ色空間の画像情報は、Y平面の画像情報と、I平面の画像情報と、Q平面の画像情報とを有する。このうちのY平面の画像情報が、輝度画像情報として抽出される。
次に、CPU62は、輝度画像情報を分割する(S213)。本実施形態では、図6Aに示されるように、輝度画像情報が、16×16分割され、256個のブロックBKに分割される。例えば、輝度画像情報が640×480画素から構成される場合、各ブロックBKは、40×30画素から構成されることになる。
次に、CPU62は、輝度画像情報の画素毎に隣接画素との輝度差を算出し、ブロック毎に輝度差の合計を算出する(S214)。ここで、説明の都合上、各ブロックBKが、図6Bに示すように、左上端の画素P(i,j)から右下端の画素P(i+3,j+2)までの12画素で構成されているものとする。この場合、CPU62は、画素P(i+1,j)の輝度Y(i+1,j)から画素P(i,j)の輝度Y(i,j)を減算することで、画素P(i,j)の水平方向の輝度差を算出する。同様に、CPU62は、画素P(i+2,j)の輝度Y(i+2,j)から画素P(i+1,j)の輝度(i+1,j)を減算することで、画素P(i+1,j)の水平方向の輝度差を算出する。このような演算を、ブロックBK内の全画素に対して行う。そして、輝度差の絶対値を合計することで、そのブロックBKにおける水平方向の輝度差の合計を算出する。また、同様に、CPU62は、各ブロックBKにおける垂直方向の輝度差の合計も算出する。そして、CPU62は、ブロック毎に、水平方向の輝度差の合計と、垂直方向の輝度差の合計とを加算して、各ブロックの輝度差の総合計を算出する。
次に、CPU62は、得られた輝度差の総合計を各ブロックBKで比較し、輝度差の総合計が最大のブロックBKを特定する(S215)。輝度差の総合計が最大のブロックBKに属する画素は、隣接画素との間で輝度差が大きいと考えられる。すなわち、エッジの数が最も多いブロックBKと考えられる。例えば、図6Aの画像情報では、人物の顔の部分が最も輝度差が多くなると考えられる。このため、人物の顔の部分に対応するブロックBKが、輝度差の総合計が最大のブロックBK(max)と特定される。
次に、CPU62は、特定されたブロックBK(max)に基づいて、評価範囲EVを設定する(S216)。この評価範囲EVは、輝度差の総合計の最も大きいブロックBK(max)が中央部分に配置されるように、定められる。また、画像情報に対応するサイズを所定比率で縮小したサイズに定められる。例えば、640×480画素の画像情報に対して0.25の比率(画像情報に対応するサイズを、16等分したサイズ)で評価範囲EVが定められると、図6Cに示されるように、評価範囲EVは、160×120画素(4×4ブロック分)の範囲になる。
このように設定された評価範囲は、以下のような特徴がある。通常、デジタルカメラで撮影された画像情報の場合、ピントの合っている部分では輪郭が明確になる。画像の輪郭が明確な場合、その画像情報のその部分の隣接画素間の輝度差は大きい。評価範囲は、最も輝度差の大きいブロックBKを含む範囲であるため、上記の処理により設定された評価範囲EVは、画像情報の中でピントの合っている部分と考えられる。
そして、CPU62は、この評価範囲に対して、以下に説明する手ぶれ評価及びピンボケ評価を行う。
<手ぶれ評価(S220)>
手ぶれとは、シャッターを押すときにカメラを動かしてしまう状態である。この状態で撮影を行うと、シャッターが開いている間に、被写体の像が移動する。この結果、手ぶれの状態で撮影された画像は、被写体がくっきりと撮影されず、所定の方向(手ぶれ方向)にダブった感じでぼやけた画像になる。シャッタースピードが遅い(シャッターが開いてから閉じるまでの時間が遅い)と、手ぶれの影響を受け易い。また、デジカメで液晶モニタを見ながら撮影を行うと、撮影者の姿勢が不安定になり易く、手ぶれを生じさせ易い。
図7は、手ぶれによる画像の影響を概念的に説明するための説明図である。図中の実線は、シャッターが開いた時の像の位置を示している。一方、図中の点線は、シャッターが閉じる時の像の位置を示している。つまり、手ぶれの状態で撮影すると、被写体の像が、実線の位置から点線の位置へ移動する。ここでは、実線で示される像が、水平方向にDmだけ移動する。すなわち、手ぶれが生じた場合、被写体における或る点は、水平方向の長さDmの線として撮影される。言い換えると、手ぶれが生じた場合、被写体における或る点は、手ぶれ方向θmの長さDmの線として撮影される。この結果、撮影された画像は、図中の実線の像と点線の像との間でぼやけた画像になる。
そして、水平方向に手ぶれした状態で撮影された画像情報では、水平方向に隣接する画素間の輝度差が小さくなる。一方、垂直方向に隣接する画素間の輝度差は、水平方向と比較すると、小さくなりにくい。言い換えると、手ぶれした状態で撮影された画像情報は、手ぶれ方向θmの方向に隣接する画素間の輝度差は小さくなるが、手ぶれ方向θmと垂直な方向に隣接する画素間の輝度差は小さくなりにくいという性質を持つ。
本実施形態の手ぶれ評価(S220)は、このような画像情報に基づいて、撮影時の手ぶれの方向である手ぶれ方向角θmの評価と、手ぶれの程度Dmの評価を行うものである。以下、手ぶれ方向角θmの評価と、手ぶれ程度Dmの評価とを分けて説明する。
・手ぶれ方向角θmの評価
図8は、手ぶれ方向角θmの評価を説明するためのフローチャートである。各処理は、プリンタ1のメモリ64に記憶されたプログラムに基づいて、CPU62により実行される。このため、プログラムは、これらの処理をCPU62に実行させるためのコードを有する。
まず、CPU62は、前述のS210で設定された評価範囲EVの輝度画像情報を取得する(S221)。ここでは、S212における全範囲の輝度画像情報から、評価範囲EVの輝度画像情報を抽出しても良い。又は、RGB色空間の評価画像情報から評価範囲EVの画像情報を抽出し、抽出された画像情報を色変換して輝度画像情報を取得しても良い。
次に、CPU62は、X方向のソーベルフィルタを適用することにより、X方向の輝度の勾配を示すエッジ勾配画像Gxを算出し、Y方向のソーベルフィルタを適用することにより、Y方向の輝度の勾配を示すエッジ勾配画像Gyを算出する(S222)。言い換えると、CPU62は、X方向のソーベルフィルタを適用することにより、輝度画像情報のX方向のエッジを抽出し、Y方向のソーベルフィルタを適用することにより、輝度画像情報のY方向のエッジを抽出する。なお、エッジ勾配画像Gxを構成する画素をGx(i,j)とし、エッジ勾配画像Gyを構成する画素をGy(i,j)とする。Gx(i,j)は、輝度画像情報の位置(i,j)におけるX方向のエッジ勾配を示し、Gy(i,j)は、輝度画像情報の位置(i,j)のY方向のエッジ勾配を示すことになる。
ここで、ソーベルフィルタの適用について説明する。図9Aは、エッジ画像の生成に使用されるX方向のソーベルフィルタを説明する図である。図9Bは、エッジ画像の生成に使用されるY方向のソーベルフィルタを説明する図である。図9Cは、或る画素P(i,j)を中心とする3×3画素の範囲、及び、この範囲内の画素Pの輝度Yを説明する模式図である。また、図10は、ソーベルフィルタの適用を模式的に説明する図である。
ソーベルフィルタは、3×3の9要素からなるフィルタである。図9Cに示される画素P(i,j)に対してソーベルフィルタを適用するということは、その画素P(i,j)の近傍に存在する3×3画素の輝度Y(i−1,j−1)〜Y(i+1,j+1)に対して、ソーベルフィルタに対応する要素との積を算出し、得られた9個の積の和を求めるということである。例えば、画素P(i,j)に対してX方向のソーベルフィルタを適用した場合、Gx(i,j)は、以下のように算出される。
Figure 0004345651
X方向のソーベルフィルタ及びY方向のソーベルフィルタを輝度画像情報Y(i,j)にそれぞれ適用すると、図10の斜線で示されるように、画素P(i,j)を中心とする3×3画素に基づいて、X方向のエッジ勾配Gx(i,j)及びY方向のエッジ勾配Gy(i,j)が求められる。
なお、水平方向(X方向)に手ぶれした状態で撮影された画像情報に対して、X方向のソーベルフィルタを適用すると、X方向の輝度の勾配は小さいので、各画素でのエッジ勾配Gx(i,j)は小さい値になる。一方、Y方向のソーベルフィルタを適用すると、各画素でのエッジ勾配Gy(i,j)は、Gx(i,j)と比較して、大きい値になり易い。言い換えると、手ぶれ方向θmが0度又は180度に近いほど、Gx(i,j)は、Gy(i,j)と比較して、大きい値になり易い。また、手ぶれ方向θmが90度に近いほど、Gy(i,j)は、Gx(i,j)と比較して、大きい値になり易い。
次に、CPU62は、0〜180度(π)の範囲における各方向のエッジ強度を算出する(S223)。ある画素において、その画素のθn方向のエッジ勾配は、cosθn・Gx(i,j)+sinθn・Gy(i,j)と算出されるため、CPU62は、画像全体のθn方向のエッジ強度E(n)を次式のように算出する。

Figure 0004345651
つまり、CPU62は、各画素のθn方向のエッジ勾配を算出し、全画素のθn方向のエッジ勾配の絶対値の総和を算出する。そして、CPU62は、1度ずつθを変更し、0〜180度の範囲における各方向のエッジ強度を算出する(E(0)〜E(179)をそれぞれ算出する。)
ところで、手ぶれした状態で撮影された画像情報では、手ぶれ方向と同じ方向のエッジがぼやけてしまうので、手ぶれ方向のエッジ勾配が小さくなる。一方、手ぶれ方向と垂直な方向のエッジは、残り易い。このため、各方向のエッジ強度のうち、最も小さいエッジ強度に対応する角度が、手ぶれ方向と考えられる。また、最も大きいエッジ強度に対応する角度と垂直な方向が、手ぶれ方向と考えられる。但し、エッジ強度の最大値又は最小値に基づいて手ぶれ方向を決定すると、ノイズの多い画像情報に対しては誤評価するおそれがある。そこで、本実施形態では、以下のようにして、手ぶれの方向を決定している。
まず、CPU62は、全角度の範囲のエッジ強度の平均(以下、全範囲エッジ強度平均と呼ぶ)μを算出する(S224)。そして、CPU62は、判定角度θnを起点とする四分円Q1の範囲のエッジ強度の平均(第1エッジ強度平均と呼ぶ)μ1(n)と、この四分円Q1に属さない四分円Q2の範囲のエッジ強度の平均μ2(n)を算出する。図11は、四分円Q1及びQ2の説明図である。図中の斜線の部分が四分円Q1であり、斜線が施されていない部分が四分円Q2である。ここで、第1エッジ強度平均μ1は、四分円Q1を二等分する方向(θn+π/4)のエッジ勾配を反映したエッジ強度を示すことになる。また、第2エッジ強度平均μ2は、四分円Q2を二等分する方向(θn+3π/4)のエッジ勾配を反映したエッジ強度を示すことになる。
次に、CPU62は、その判定角度θnについて計算した第1エッジ強度平均μ1(n)と全範囲エッジ強度平均μとの偏差の絶対値と、第2エッジ強度平均μ2(n)と全範囲エッジ強度平均μ2(n)と全範囲エッジ強度平均μとの偏差の絶対値との和(以下、平均強度偏差DEV(n)と呼ぶ)を算出する(S225)。CPU62は、0〜180度の範囲における各方向の平均強度偏差DEVを算出する。なお、判定角度θnについての平均強度偏差DEV(n)は、次式のようになる。
Figure 0004345651
そして、CPU62は、各方向の平均強度偏差のうち、最も大きい平均強度偏差(以下、最大平均強度偏差と呼ぶ)DEV(max)を抽出する(S226)。この最大平均強度偏差DEV(max)に対応するQ1及びQ2では、第1エッジ強度平均μ1及び第2エッジ強度平均μ2が最大値又は最小値になる。そして、この最大平均強度偏差DEV(max)に対応するQ1及びQ2では、エッジ強度の最も強い方向又はエッジ強度の最も弱い方向が、それぞれの四分円を二等分していることになる。
そこで、CPU62は、最大平均強度偏差DEV(max)に対応する第1エッジ強度平均μ1(max)と第2エッジ強度平均μ2(max)との大小を比較し、第1エッジ強度平均μ1が第2エッジ強度平均μ2よりも小さいときには、最大平均強度偏差DEV(max)に対応する判定角度θmaxにπ/4を加えた角度を手ぶれ方向θmとして算出し、第1エッジ強度平均μ1が第2エッジ強度平均μ2よりも大きいときには、最大平均強度偏差DEV(max)に対応する判定角度θmaxに3π/4を加えた角度を手ぶれ方向θmとして算出する(S227)。
・手ぶれ程度Dmの評価
図12は、手ぶれ程度Dmの評価を説明するためのフローチャートである。各処理は、プリンタ1のメモリ64に記憶されたプログラムに基づいて、CPU62により実行される。このため、プログラムは、これらの処理をCPU62に実行させるためのコードを有する。
まず、CPU62は、手ぶれ方向のエッジ勾配画像Rmを算出する(S221)。エッジ勾配画像Rm(i,j)は、輝度画像情報Y(i,j)に対して、手ぶれ方向θmのソーベルフィルタを適用して、算出する。
次に、算出されたエッジ勾配画像Rmに対して、手ぶれ方向θmと垂直な方向θmvのソーベルフィルタを適用して、エッジ勾配画像Rmvを算出する(S232)。なお、手ぶれした画像情報におけるエッジ勾配画像Rmvは、多数の輝点が手ぶれ方向に伸びているような画像になる。そして、各輝点の手ぶれ方向の長さは、手ぶれ程度Dmとほぼ一致している。言い換えると、エッジ勾配画像Rmvの輝点の長さを検出できれば、手ぶれ程度Dmを検出できることになる。
そこで、CPU62は、得られたエッジ勾配画像Rmvから、手ぶれ方向θmに所定数のサンプルラインを抽出する(S233)。図13Aは、サンプルラインの概念図である。図13Bは、サンプルラインによって定義される関数Sk(x)の説明図である。本実施形態では、サンプルラインはL個の画素から構成される。サンプルラインを構成する各画素はx軸方向に並べられ、関数Sk(x)は、位置xに対応する画素のエッジ勾配画像Rmvでの大きさを示す。但し、サンプルラインを構成する画素はL個だけなので、x<0及びx>L−1においてSk(x)=0とする。ところで、上記の通り、エッジ勾配画像Rmvは、多数の輝点が手ぶれ方向に伸びているような画像になるので、関数Sk(x)は図13Bのような関数になる。すなわち、抽出されたサンプルラインに前述の輝点が含まれていれば、関数Sk(x)は、Dmの範囲で高い値になる。
次に、CPU62は、次式の通り、各サンプルラインの示す関数Sk(x)に基づいて、各サンプルラインに対する自己相関関数ACFk(τ)を算出する(S234)。
Figure 0004345651
自己相関関数ACFk(τ)は、Sk(x)と、Sk(x)をτだけシフトさせたSk(x+τ)との自己相関関係を求めるものである。言い換えると、自己相関関数ACFk(τ)は、Sk(x)とSk(x+τ)との一致している度合いを示すものである。自己相関関数ACFk(τ)が高い値ほど、Sk(x)とSk(x+τ)とが一致していることを示す。
図13Cは、Sk(x)とSk(x+τ)の一致の度合いの説明図である。既に説明したように、関数Sk(x)は、Dmの範囲で高い値を示す関数である。このため、Sk(x)をτだけシフトさせたSk(x+τ)も、Dmの範囲で高い値を示す関数になる。このため、Sk(x)とSk(x+τ)は、Dm−τの範囲において、高い値が一致している。つまり、高い値が一致する範囲は、τの値が小さいほど広くなり、τの値がDm以上になるとなくなる。この結果、自己相関関数ACFk(τ)は、τ=0からτ=Dmの範囲では、τが0に近いほど高い値になり、τがDmに近いほど低い値にある。また、τ>Dmでは、Sk(x)とSk(x+τ)の相関関係がなくなる。
そこで、CPU62は、全てのサンプルライン上の自己相関関数ACFk(τ)の平均として平均自己相関関数ACFaveを計算し、平均自己相関関数ACFaveが最小となる変位τを手ぶれ程度Dmとする(S235)。図14は、変位τと平均自己相関関数ACFaveと手ぶれの程度Dmとの関係を示す図である。
<ピンボケ評価>
ピンボケとは、ピントの合っていない状態のことである。ピントの合っていない状態で撮影を行うと、被写体がフィルム上(デジカメの場合、CCDセンサ上)で像が結ばれない。この結果、ピントが合っていない状態で撮影したとき、撮影された画像は、ぼやけた画像になる。
このように、ぼやけた画像の原因として、手ぶれとピンボケがある。前述の手ぶれの状態で撮影を行うと、被写体の或る一点の情報が、手ぶれ方向に並ぶ長さDmの複数の画素に分布して記録されることになる。一方、ピントの合っていない状態で撮影を行うと、被写体の或る一点の情報が、同心円内の複数の画素に分布して記録されることになる。本実施形態のピンボケ評価では、ピンボケの画像情報のこの性質を利用している。
図15は、ピンボケ評価を説明するためのフローチャートである。各処理は、プリンタ1のメモリ64に記憶されたプログラムに基づいて、CPU62により実行される。このため、プログラムは、これらの処理をCPU62に実行させるためのコードを有する。
まず、CPU62は、前述のS232で算出したものと同じ、手ぶれ方向θmと垂直な方向θmvのエッジ勾配画像Rmvを取得する(S242)。前述のS232で算出したエッジ勾配画像Rmvを記憶しておき、S242において読み出しても良い。また、前述のS232と同様の方法で、再度算出しても良い。
次に、CPU62は、エッジ勾配画像Rmvから、手ぶれ方向θmと垂直な方向に所定数のサンプルラインを抽出する(S242)。前述のS233と比較すると、抽出されるサンプルラインの方向が、90度異なっている。この場合、前述の手ぶれ評価で算出した手ぶれ方向θmに垂直な方向θmvに関する情報を利用することができる。
次に、CPU62は、前述のS234と同様に自己相関関数ACFk(τ)を算出し(S243)、前述のS235と同様に手ぶれ程度Dmvを決定する(S244)。ここでの処理は、前述のS234及びS235と同じなので、説明を省略する。
なお、ピンボケしていない画像情報(手ぶれのみの原因によるぼやけた画像情報も含む)では、被写体の或る一点の情報が、手ぶれ方向θmに垂直な方向θmvには分布しないので、この方向θmvのぶれ程度Dmvは小さくなる。一方、ピンボケした画像情報では、被写体の或る一点の情報が同心円状に分布しているため、手ぶれ方向θmに垂直な方向θmvのぶれ程度Dmvが大きくなる。
次に、CPU62は、手ぶれ方向θmの手ぶれ程度Dmと、手ぶれ方向θmに垂直な方向θmvのぶれ程度Dmvとの比率r(=Dm/Dmv)を算出する(S246)。そして、CPU62は、比率rが所定の閾値(S245の閾値とは異なる)よりも小さいか否かを、判断する(S247)。比率rが閾値よりも大きければ(S247でN)、ピンボケなしと評価される(S249)。一方、比率rが閾値よりも小さければ(S247でY)、ピンボケがあると評価される(S247)。この場合、手ぶれ方向θmに垂直な方向θmvの手ぶれ程度Dmvが、ピンボケの程度を示す値になる。
ここで、ピンボケした状態で、更に手ぶれした状態で撮影されることがある。このときの画像情報に対して前述の手ぶれ評価を行うと、手ぶれ程度Dmに、ピンボケによる影響が含まれてしまう。このため、ピンボケがあると評価された場合(S246でY)、CPU62は、ピンボケの影響分を除去するように、手ぶれ評価で算出した手ぶれ程度Dmを修正する(S248)。このとき、CPU62は、ピンボケ程度Dmや比率rに基づいて、手ぶれ程度Dmを修正する。
本実施形態のピンボケ評価によれば、前述の手ぶれ評価の処理を利用することができるので、例えば以下の処理が軽減される。
例えば、ピンボケ評価のS241(θmv方向のエッジ勾配画像の取得)において、手ぶれ評価のS232で算出したエッジ勾配画像Rmvを利用することができる(エッジ勾配画像Rmvは、前述の手ぶれ評価で算出した手ぶれ方向θm及びこれに垂直な方向θmvに関する情報でもある)。この場合、エッジ勾配画像Rmvを再度算出しなくて良いので、ピンボケ評価のS242におけるCPU62の負荷を軽減することができる。
また、ピンボケ評価のS241(θmv方向のエッジ勾配画像の取得)では、手ぶれ評価のS232と同様の方法で、エッジ勾配画像Rmvを再度算出しても良い。但し、手ぶれ評価ではS232を行う前に手ぶれ方向θmを算出する処理(S221〜S227)が行われるが、ピンボケ評価のS242では、手ぶれ方向θmの算出を再度行う必要はないので、エッジ勾配画像Rmvを算出の負荷が軽減される。また、手ぶれ評価のS232で用いられるプログラムを、ピンボケ評価のS242で再度利用することができるので、ピンボケ評価のプログラムを簡略化できる。
また、ピンボケ評価のS243は手ぶれ評価のS234と同じ処理なので、ピンボケ評価のプログラムを簡略化できる。すなわち、手ぶれ評価のS234の処理を行うプログラムは、サンプルラインの情報を引数としてACFk(τ)を返すものであるので、引数となるサンプルラインを変えれば、このプログラムをピンボケ評価のS243で利用することができる。
同様に、ピンボケ評価のS244は手ぶれ評価のS235と同じ処理なので、ピンボケ評価のプログラムを簡略化できる。すなわち、手ぶれ評価のS244の処理を行うポログラムは、各サンプルラインの自己相関関数ACFk(τ)を引数として手ぶれ程度Dmを返すものなので、S234の処理結果を引数にすれば、このプログラムからピンボケ評価のS244の手ぶれ程度Dmvを得ることができる。
以上のように、本実施形態のピンボケ評価によれば、前述の手ぶれ評価の処理を利用することができるので、処理が軽減される。
<評価結果の記憶(S250)>
ある評価画像情報のピンボケ評価の後、CPU62は、評価結果の記憶を行う(S250)。評価結果には、手ぶれ評価(S220)で算出された手ぶれ方向θm及び手ぶれ程度Dmと、ピンボケ評価(S240)で算出されたピンボケ程度Dmvと、が含まれる。これらの評価結果が、評価画像情報に対応付けられて、メモリ64に記憶される。
なお、全ての画像情報について評価が行われた後(S130でY)、バックアップされる画像情報を確認する際に(S140)、CPU62は、液晶表示部3に、バックアップの対象とされる画像情報を、一つずつ順に表示する。このとき、液晶表示部3には、S250においてメモリ64に記憶された評価結果に基づいて、表示されている画像情報に対応する評価結果(手ぶれ方向θm、手ぶれ程度Dm、ピンボケ程度Dmv)が表示される。ユーザーは、液晶表示部3に表示された評価結果を見て、その画像情報をバックアップするか否かを、操作ボタン5で確定する。ユーザーは、例えば手ぶれ程度Dmが大きいことを理由に、その画像情報のバックアップを行わないことにするかもしれない。このように、バックアップされる画像情報の確認の際に(S140)、液晶表示部3に評価結果が表示されることにより、ユーザーに判断資料を提示することができる。これにより、無駄な画像情報をCD−Rに書き込むことが無くなる。
===その他の実施の形態===
上記の実施形態は、主としてプリンタについて記載されているが、その中には、コンピュータシステム、プログラム、プログラムを記憶した記憶媒体等の開示が含まれていることは言うまでもない。
また、一実施形態としてのプリンタ等を説明したが、上記の実施形態は、本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。本発明は、その趣旨を逸脱することなく、変更、改良され得ると共に、本発明にはその等価物が含まれることは言うまでもない。特に、以下に述べる実施形態であっても、本発明に含まれるものである。
<適用製品について>
前述の実施形態では、プリンタが説明されていたが、これに限られるものではない。例えば、上記の画像情報の評価処理が、画像処理ソフトをインストールしたパーソナルコンピュータで行われても良い。
このような画像処理ソフトでは、画像補正処理を行うことができる。そして、ピンボケの画像に対する補正処理として、アンシャープマスクフィルタが知られている。画像処理ソフトが画像情報に対してアンシャープマスクフィルタを適用すれば、画像のエッジが強調され、ピンボケの画像を補正することができる。
但し、画像がぼやける原因として手ぶれとピンボケがある。初心者にはぼやけた画像を見ても、それが手ぶれによるものなのか、ピンボケによるものなのか、判別が難しい。このため、手ぶれの画像を見たユーザーが、ピンボケによるものと判断し、その画像情報に対してピンボケ補正を行うことがある。逆に、ピンボケの画像を見たユーザーが、手ぶれによるものと判断し、その画像情報に対して手ぶれ補正を行うことがある。
しかし、手ぶれの画像情報に対してアンシャープマスクフィルタを適用しても、画像が適切に補正されない。このため、画像処理ソフトが、画像情報の評価結果に基づいて、ピンボケの補正を行うか、手ぶれの補正を行うか、自動的に選択することが望ましい。
ピンボケの補正及び手ぶれの補正が行われた場合、ユーザーに対して、補正結果をディスプレイ上に表示することが望ましい。ところで、ピンボケの補正及び手ぶれの補正が行われた場合、画像のエッジが強調され、画像の輪郭が鮮明になる。このように、画像の輪郭が鮮明になるように補正が行われた後、ディスプレイ上に表示する際に、補正後の画像情報に対して拡大/縮小処理が行われると、鮮明になった輪郭までもが変倍されてしまい、表示された画像が不自然になるおそれがある。この結果、元の画像情報に対して適切に画像補正が行われたにもかかわらず、適切な画像補正が行われていないとユーザーに判断されるおそれがある。このため、ピンボケの補正及び手ぶれの補正が行われた場合、補正後の画像情報を表示する際には、拡大/縮小処理を行わずに、等倍でディスプレイ上に表示することが望ましい。これにより、ユーザーは、補正後の画像情報を正しく認識することができる。
===まとめ===
(1)ぼやけた画像を見て、それが手ぶれによるものなのか、ピンボケによるものなのか、初心者には判別することが難しい。そこで、画像情報に対して、手ぶれ評価及びピンボケ評価を自動的に行うことが望ましい。しかし、手ぶれ評価とピンボケ評価の処理を全く別々のものにすると、処理に時間がかかってしまう。
そこで、前述の画像評価処理では、まず、CPU62は、評価対象である評価画像情報を取得した後(S110)、評価画像情報に基づいて手ぶれ方向θmを求めて、画像情報の手ぶれ評価を行う(S220、S221〜S227)。そして、CPU62は、手ぶれ評価(S220)で求められた手ぶれ方向θmに関する情報を利用して、評価画像情報のピンボケ評価を行う。
これにより、手ぶれ評価の結果である手ぶれ方向θmに関する情報を、ピンボケ評価に利用しているので、ピンボケ評価の処理時間を軽減することができる。
(2)ここで、ピンボケ評価で利用される手ぶれ評価の結果としては、手ぶれ方向θmの情報が含まれる。そして、ピンボケ評価において、CPU62は、手ぶれ方向θmに垂直な方向θmvを算出し、その方向θmvのぶれの程度Dmvを評価する(S244)。
ここで、手ぶれ方向θmと垂直な方向θmvのぶれの程度Dmvを算出するのは、以下の理由の通りである。手ぶれの影響によって画像がぼやけている場合、手ぶれ方向θmに隣接する画素間の輝度差は小さくなる(エッジが不鮮明になる)が、手ぶれ方向θmに垂直な方向θmvに隣接する画素間の輝度差は小さくなりにくい(エッジがつぶれにくい)。このため、手ぶれの影響を受けた画像では、手ぶれ方向θmと垂直な方向θmvのぶれの程度Dmvは、手ぶれ方向θmのぶれの程度と比較して、小さい。一方、ピンボケの影響によって画像がぼやけている場合、被写体の或る一点の情報が、同心円内の複数の画素に分布して記録される(言い換えると、ピンボケの場合、ある画素の情報は、被写体における同心円内の情報を含んでいる)。このため、ピンボケの画像では、全ての方向に隣接する画素間の輝度差が小さくなるので、手ぶれ方向θmに垂直な方向θmvに隣接する画素間の輝度差が小さくなる(つまり、この方向θmvのぶれの程度Dmは大きい)。したがって、手ぶれ方向θmのぶれ程度Dmと、手ぶれ方向θmに垂直な方向θmvのぶれ程度Dmvとを比較すれば、手ぶれとピンボケとを判別できるのである。
(3)また、ピンボケ評価で利用される手ぶれ評価の結果としては、手ぶれ方向θmに垂直な方向θmのエッジ勾配画像Rmvが含まれる。通常、評価画像情報からエッジ勾配画像Rmvを取得する場合、手ぶれ方向θmを算出し、評価画像情報に対して手ぶれ方向θmに対するソーベルフィルタや、手ぶれ方向θmに垂直な方向θmvに対するソーベルフィルタを適用してエッジ勾配画像Rmvを算出する必要がある。但し、前述の実施形態では、ピンボケ評価の前に手ぶれ評価を行っているため、手ぶれ評価の結果を利用してエッジ勾配画像Rmvを取得できるので、ピンボケ評価の処理時間が軽減される。
(4)前述の実施形態の手ぶれ評価では、手ぶれ方向θmのサンプルラインをエッジ勾配画像Rmvから抽出している。また、前述の実施形態のピンボケ評価では、手ぶれ方向θmに垂直な方向θmvのサンプルラインをエッジ勾配画像Rmvから抽出している。そして、サンプルラインのエッジの方向の変化を評価すれば、そのサンプルラインの方向のぶれの程度が評価できる。
(5)手ぶれの状態で撮影された画像は、図7に示すように、手ぶれ方向θmに画像がぼやけた状態になる。このため、元の画像情報と、その画像情報を手ぶれ方向θmにDmだけ変位させた画像情報とは、自己相関関係が高い。このため、CPU62は、手ぶれ評価の際に、手ぶれ方向θmのサンプルラインの自己相関関数に基づいて、手ぶれの程度Dmを評価することができる。
一方、ピンボケの状態で撮影された画像は、被写体の或る一点の情報が、同心円内の複数の画素に分布して記録される。このため、サンプルラインとこれを同心円の直径分だけ変位させたサンプルラインとは、自己相関関係が高い。このため、CPU62は、ピンボケ評価の際に、手ぶれ方向θmに垂直な方向θmvのサンプルラインの自己相関関数に基づいて、ピンボケの程度Dmvを評価することができる。
(6)前述のピンボケ評価の処理は、手ぶれ評価の処理と共通化できる部分がある。例えば、ピンボケ評価のS242の処理(θmv方向のサンプルラインの抽出)は、手ぶれ評価のS233の処理(θm方向のサンプルラインの抽出)とほぼ同様の処理である。このため、エッジ勾配画像Rmvとサンプルラインを抽出する方向を引数とし、サンプルラインを出力するようにプログラムを構成すれば、同じプログラム(又は同じハードウェア回路)を利用して、両方の処理を行うことができる。
(7)既に説明したとおり、ピンボケの影響によって画像がぼやけている場合、被写体の或る一点の情報が、同心円内の複数の画素に分布して記録される。このため、どの方向のぶれの程度を評価しても、同心円の直径を評価することができる。但し、手ぶれとピンボケの両方の影響を受けているおそれがあるので、手ぶれの影響のない方向(手ぶれ方向θmに垂直な方向)のぶれの程度に基づいて、ピンボケの評価を行っている。
(8)前述の実施形態では、CPU62は、手ぶれ方向θmの手ぶれ程度Dmと、手ぶれ方向θmに垂直な方向θmvのぶれ程度Dmvとの比率r(=Dm/Dmv)に基づいて、ピンボケの程度を評価している。例えば、比率rが閾値よりも大きければピンボケなしと評価され、比率rが閾値よりも小さければピンボケありと評価される。これにより、画像がぼやけている場合に、それが手ぶれによるものなのか、ピンボケによるものなのかを判別することができる。
(9)前述の実施形態では、CPU62は、評価画像情報を16×16分割して256個のブロックに分割している(S213)。そして、分割された領域から特定の領域を選択し、選択された特定の領域に対して、手ぶれ評価を行っている。仮に、全画像情報に対して手ぶれ評価を行うと、CPU62の演算量が増えてしまい、処理に時間がかかってしまう。一方、前述の実施形態では、狭い領域に対して手ぶれ評価を行っているので、処理時間を軽減することができる。
(10)前述の実施形態では、分割されたブロック毎に、そのブロック内の輝度差の合計を算出している。これにより、最もピントの合っているブロックでは、画像の輪郭が鮮明なので、隣接する画素間の輝度差が大きくなる。このため、輝度差が最も大きいブロックを抽出すれば、ピントの合っている部分を抽出することができる。
特に、被写体を強調するため被写体以外の背景をぼかして撮影を行った場合、画像全体に対して画像評価を行うと、被写体にピントが合っているにも関わらず、手ぶれやピンボケと評価されるおそれがある。これに対し、前述の画像評価では、ピントが最も合っている部分で評価を行うので、画像評価の精度が向上する。
(11)画像がぼやける原因として手ぶれとピンボケがある。初心者には、ぼやけた画像を見ても、それが手ぶれによるものなのか、ピンボケによるものなのか、判別が難しい。このため、ぼやけた画像に対して、手ぶれ補正を行うか、ピンボケ補正を行うか、初心者には判断が難しい。そこで、前述の画像処理ソフトの実施形態では、手ぶれ評価の結果に基づいて画像情報に対して手ぶれ補正を行い、ピンボケ評価の結果に基づいて画像情報に対してピンボケ補正を行うことにしている。これにより、評価画像情報に対して自動的に手ぶれ補正又はピンボケ補正を行うことができ、初心者も適切な画像補正を行うことができる。
(12)画像補正が行われると、画像の輪郭が鮮明になる。しかし、このような補正が行われた後、ディスプレイ上に表示する際に、補正後の画像情報に対して拡大/縮小処理が行われると、鮮明になった輪郭までもが変倍されてしまい、表示された画像が不自然になるおそれがある。この結果、元の画像情報に対して適切に画像補正が行われたにもかかわらず、適切な画像補正が行われていないとユーザーに判断されるおそれがある。そこで、前述の画像ソフトの実施形態では、補正後の画像情報をディスプレイ上に表示する際には、等倍表示することにしている。
(13)前述の構成要素を全て含む画像評価方法によれば、全ての効果が得られるので、望ましい。しかし、前述の構成要素の全て含む必要がないことは、言うまでもない。
(14)前述のプリンタ1を制御するプログラムは、CPU62(演算処理装置の一例)及びメモリ64に、画像情報を取得させ、画像情報に基づいて手ぶれ方向θmを求めて画像情報の手ぶれ評価を行わせ、手ぶれ評価で求められた手ぶれ方向θmに関する情報を利用して、画像情報のピンボケ評価を行わせている。
また、前述の画像処理ソフトは、この画像処理ソフトをインストールしたパーソナルコンピュータのCPU(演算処理装置の一例)及びRAM(メモリの一例)に、画像情報を取得させ、画像情報に基づいて手ぶれ方向θmを求めて画像情報の手ぶれ評価を行わせ、手ぶれ評価で求められた手ぶれ方向θmに関する情報を利用して、画像情報のピンボケ評価を行わせている。
これにより、ピンボケ評価の処理時間を軽減できる。
(15)前述のプリンタ1(画像情報評価装置の一例)は、画像情報を取得し、画像情報に基づいて手ぶれ方向θmを求めて画像情報の手ぶれ評価を行い、手ぶれ評価で求められた手ぶれ方向θmに関する情報を利用して画像情報のピンボケ評価を行う。
また、前述の画像処理ソフトをインストールしたパーソナルコンピュータ(画像情報評価装置の一例)も、画像情報を取得し、画像情報に基づいて手ぶれ方向θmを求めて画像情報の手ぶれ評価を行い、手ぶれ評価で求められた手ぶれ方向θmに関する情報を利用して画像情報のピンボケ評価を行う。
但し、画像情報評価装置としては、これに限られるものではない。例えば、デジタルカメラであっても良い。この場合、撮影した直後に、撮影された画像に対して評価を行い、撮影者に評価結果を表示することが望ましい。これにより、撮影者は、手ぶれやピンボケに気をつけて撮影を行うことができ、又は、撮影された画像情報を消去することもできる。
プリンタ1、及び、このプリンタ1に接続されるCD−R装置100の外観を説明する図である。 プリンタ1の電気的構成を説明するためのブロック図である。 バックアップ処理を説明するフローチャートである。 画像評価処理を説明するためのフローチャートである。 評価範囲の設定(S210)を説明するためのフローチャートである。 図6Aは、256個のブロックBKに分割された画像情報を説明するための概念図である。図6Bは、隣り合う画素同士の輝度差を説明するための概念図である。図6Cは、最もエッジが多いブロックBKを含む評価範囲EVを示す概念図である。 手ぶれによる画像の影響を概念的に説明するための説明図である。 手ぶれ方向角θmの評価を説明するためのフローチャートである。 図9Aは、X方向のソーベルフィルタを説明する図である。図9Bは、Y方向のソーベルフィルタを説明する図である。図9Cは、或る画素P(i,j)を中心とする3×3画素の範囲、及び、この範囲内の画素Pの輝度Yを説明する模式図である。 ソーベルフィルタの適用を模式的に説明する図である。 四分円Q1及びQ2の説明図である。 手ぶれ程度Dmの評価を説明するためのフローチャートである。 図13Aは、サンプルラインの概念図である。図13Bは、サンプルラインによって定義される関数Sk(x)の説明図である。図13Cは、Sk(x)とSk(x+τ)の一致の度合いの説明図である。 変位τと平均自己相関関数ACFaveと手ぶれの程度Dmとの関係を示す図である。 ピンボケ評価を説明するためのフローチャートである。
符号の説明
1 プリンタ,2 操作パネル,3 液晶表示部,4 排紙部,5 操作ボタン,
6 カードスロット,7 給紙部,
12 第1インタフェース,14 第2インタフェース,
20 ヘッドユニット,22 ヘッド,
30 用紙搬送機構,40 キャリッジ移動機構,50 検出器群,
60 プリンタ側コントローラ,
100 CD−R装置,102 ケーブル,104 CD−R,
110 メモリカード,120 デジタルカメラ,130 ホストコンピュータ,
EV 評価範囲,P 画素,Y 輝度,
θm 手ぶれ方向、θmv 手ぶれ方向θmに垂直な方向、
Dm 手ぶれ程度、Dmv ピンボケ程度、
ACFk 自己相関関数

Claims (8)

  1. 画像情報を取得し、
    前記画像情報に基づいて、手ぶれ方向のぶれの程度を算出し、
    前記画像情報に基づいて、前記手ぶれ方向に垂直な方向のぶれの程度を算出し、
    前記手ぶれ方向のぶれの程度と前記手ぶれ方向に垂直な方向のぶれの程度とに基づいて、ピンボケの有無を評価する
    ことを特徴とする画像情報の評価方法。
  2. 請求項1に記載の評価方法であって、
    前記手ぶれ方向のぶれの程度を算出する際には、前記手ぶれ方向のサンプルラインを抽出して、抽出された前記サンプルラインの自己相関関数に基づいて、前記手ぶれ方向のぶれの程度を算出し、
    前記手ぶれ方向に垂直な方向のぶれの程度を算出する際には、前記手ぶれ方向に垂直な方向のサンプルラインを抽出して、抽出された前記サンプルラインの自己相関関数に基づいて、前記手ぶれ方向に垂直な方向のぶれの程度を算出する
    ことを特徴とする画像情報の評価方法。
  3. 請求項1又は2に記載の評価方法であって、
    前記手ぶれ方向のぶれの程度と前記手ぶれ方向に垂直な方向のぶれの程度の算出には、同じ関数が利用されており、
    前記手ぶれ方向のぶれの程度の算出では、前記手ぶれ方向を引数とし、
    前記手ぶれ方向に垂直な方向のぶれの程度の算出では、前記手ぶれ方向に垂直な方向を引数とする
    ことを特徴とする評価方法。
  4. 請求項1〜3のいずれかに記載の評価方法であって、
    前記画像情報を複数の領域に分割し、
    分割された領域毎に、その領域内の輝度差を算出し、
    前記輝度差が最も大きい領域を選択し、
    選択された領域において、前記手ぶれ方向のぶれの程度と前記手ぶれ方向に垂直な方向のぶれの程度とを算出する
    ことを特徴とする評価方法。
  5. 請求項1〜4のいずれかに記載の評価方法であって、
    前記画像情報がピンボケの画像であると評価された場合、前記画像情報に対してピンボケ補正を行う
    ことを特徴とする評価方法。
  6. 請求項5に記載の評価方法であって、
    前記ピンボケ補正が行われた画像情報を、等倍で表示する
    ことを特徴とする評価方法。
  7. 演算処理装置及びメモリに、
    画像情報を取得させ、
    前記画像情報に基づいて、手ぶれ方向のぶれの程度を算出させ、
    前記画像情報に基づいて、前記手ぶれ方向に垂直な方向のぶれの程度を算出させ、
    前記手ぶれ方向のぶれの程度と前記手ぶれ方向に垂直な方向のぶれの程度とに基づいて、ピンボケの有無を評価させる
    ことを特徴とする画像情報の評価プログラム。
  8. 画像情報を取得し、
    前記画像情報に基づいて、手ぶれ方向のぶれの程度を算出し、
    前記画像情報に基づいて、前記手ぶれ方向に垂直な方向のぶれの程度を算出し、
    前記手ぶれ方向のぶれの程度と前記手ぶれ方向に垂直な方向のぶれの程度とに基づいて、ピンボケの有無を評価する
    ことを特徴とする画像情報評価装置。
JP2004344546A 2004-11-29 2004-11-29 画像情報の評価方法、画像情報の評価プログラム及び画像情報評価装置 Expired - Fee Related JP4345651B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004344546A JP4345651B2 (ja) 2004-11-29 2004-11-29 画像情報の評価方法、画像情報の評価プログラム及び画像情報評価装置
US11/287,270 US7693342B2 (en) 2004-11-29 2005-11-28 Evaluating method of image information, storage medium having evaluation program stored therein, and evaluating apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004344546A JP4345651B2 (ja) 2004-11-29 2004-11-29 画像情報の評価方法、画像情報の評価プログラム及び画像情報評価装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2009013910A Division JP4591603B2 (ja) 2009-01-26 2009-01-26 画像情報の評価方法、画像情報の評価プログラム及び画像情報評価装置

Publications (2)

Publication Number Publication Date
JP2006157427A JP2006157427A (ja) 2006-06-15
JP4345651B2 true JP4345651B2 (ja) 2009-10-14

Family

ID=36635182

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004344546A Expired - Fee Related JP4345651B2 (ja) 2004-11-29 2004-11-29 画像情報の評価方法、画像情報の評価プログラム及び画像情報評価装置

Country Status (2)

Country Link
US (1) US7693342B2 (ja)
JP (1) JP4345651B2 (ja)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9769354B2 (en) 2005-03-24 2017-09-19 Kofax, Inc. Systems and methods of processing scanned data
US9137417B2 (en) 2005-03-24 2015-09-15 Kofax, Inc. Systems and methods for processing video data
JP4582330B2 (ja) * 2005-11-04 2010-11-17 セイコーエプソン株式会社 画像判定装置、画像判定方法および画像判定プログラム
CA2883060C (en) * 2005-11-09 2019-01-08 Philera New Zealand Limited Treatment of mitochondria-related diseases and improvement of age-related metabolic deficits
WO2007074774A1 (ja) * 2005-12-26 2007-07-05 Kyocera Corporation ぶれ量検出装置、ぶれ補正装置、撮像装置及びぶれ量検出方法
JP4251217B2 (ja) * 2006-06-21 2009-04-08 セイコーエプソン株式会社 印刷装置、画像データファイル処理装置、画像データファイルの選択方法、およびコンピュータプログラム
US8009903B2 (en) * 2006-06-29 2011-08-30 Panasonic Corporation Image processor, image processing method, storage medium, and integrated circuit that can adjust a degree of depth feeling of a displayed high-quality image
JP2008011424A (ja) * 2006-06-30 2008-01-17 Eastman Kodak Co 画像処理装置及び画像処理プログラム
JP2010134700A (ja) * 2008-12-04 2010-06-17 Toshiba Corp 画像評価装置および画像評価方法
US9767354B2 (en) 2009-02-10 2017-09-19 Kofax, Inc. Global geographic information retrieval, validation, and normalization
US8958605B2 (en) 2009-02-10 2015-02-17 Kofax, Inc. Systems, methods and computer program products for determining document validity
US8879846B2 (en) 2009-02-10 2014-11-04 Kofax, Inc. Systems, methods and computer program products for processing financial documents
US9576272B2 (en) 2009-02-10 2017-02-21 Kofax, Inc. Systems, methods and computer program products for determining document validity
US9349046B2 (en) 2009-02-10 2016-05-24 Kofax, Inc. Smart optical input/output (I/O) extension for context-dependent workflows
US8774516B2 (en) 2009-02-10 2014-07-08 Kofax, Inc. Systems, methods and computer program products for determining document validity
KR101615966B1 (ko) * 2009-03-24 2016-04-28 엘지전자 주식회사 카메라의 전자 이미지 안정화 제어 장치 및 방법
JP4729127B2 (ja) * 2010-11-05 2011-07-20 株式会社東芝 画像評価装置
JP5868053B2 (ja) * 2011-07-23 2016-02-24 キヤノン株式会社 画像処理方法、画像処理装置、およびプログラム
US9514357B2 (en) 2012-01-12 2016-12-06 Kofax, Inc. Systems and methods for mobile image capture and processing
US9058515B1 (en) 2012-01-12 2015-06-16 Kofax, Inc. Systems and methods for identification document processing and business workflow integration
US9483794B2 (en) 2012-01-12 2016-11-01 Kofax, Inc. Systems and methods for identification document processing and business workflow integration
US10146795B2 (en) 2012-01-12 2018-12-04 Kofax, Inc. Systems and methods for mobile image capture and processing
US9058580B1 (en) 2012-01-12 2015-06-16 Kofax, Inc. Systems and methods for identification document processing and business workflow integration
WO2014160426A1 (en) 2013-03-13 2014-10-02 Kofax, Inc. Classifying objects in digital images captured using mobile devices
US9208536B2 (en) 2013-09-27 2015-12-08 Kofax, Inc. Systems and methods for three dimensional geometric reconstruction of captured image data
US9355312B2 (en) 2013-03-13 2016-05-31 Kofax, Inc. Systems and methods for classifying objects in digital images captured using mobile devices
US20140316841A1 (en) 2013-04-23 2014-10-23 Kofax, Inc. Location-based workflows and services
EP2992481A4 (en) 2013-05-03 2017-02-22 Kofax, Inc. Systems and methods for detecting and classifying objects in video captured using mobile devices
JP2016538783A (ja) 2013-11-15 2016-12-08 コファックス, インコーポレイテッド モバイル映像データを用いて長尺文書の合成画像を生成するためのシステムおよび方法
US9760788B2 (en) 2014-10-30 2017-09-12 Kofax, Inc. Mobile document detection and orientation based on reference object characteristics
JP6654798B2 (ja) * 2014-11-10 2020-02-26 三星ディスプレイ株式會社Samsung Display Co.,Ltd. 画像処理装置、画像処理方法、およびプログラム
JP6541454B2 (ja) 2015-06-17 2019-07-10 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2017010092A (ja) 2015-06-17 2017-01-12 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
US10242285B2 (en) 2015-07-20 2019-03-26 Kofax, Inc. Iterative recognition-guided thresholding and data extraction
US9779296B1 (en) 2016-04-01 2017-10-03 Kofax, Inc. Content-based detection and three dimensional geometric reconstruction of objects in image and video data
US11062176B2 (en) 2017-11-30 2021-07-13 Kofax, Inc. Object detection and image cropping using a multi-detector approach
US11462052B2 (en) 2017-12-20 2022-10-04 Nec Corporation Image processing device, image processing method, and recording medium

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62127976A (ja) 1985-11-29 1987-06-10 Kyocera Corp 画像記録処理装置
DE68921840T2 (de) * 1988-10-27 1995-09-07 Canon Kk Bildaufnahme- und Verarbeitungseinrichtung.
JPH06118468A (ja) 1992-10-05 1994-04-28 Olympus Optical Co Ltd 画像修復装置
DE69331874T2 (de) * 1992-12-28 2002-11-14 Canon K.K., Tokio/Tokyo One-chip integrated circuit for use in a controlling focusing means
JP3812770B2 (ja) 1997-07-07 2006-08-23 株式会社リコー 手ぶれパラメータ検出方法及び情報記録媒体
US6081390A (en) * 1997-08-07 2000-06-27 Minolta Co., Ltd. Zoom lens system having camera shake compensating function
JP4403609B2 (ja) * 1998-12-11 2010-01-27 株式会社ニコン ブレ補正装置及び光学装置
JP2000224470A (ja) * 1999-02-02 2000-08-11 Minolta Co Ltd カメラシステム
JP4345940B2 (ja) 1999-04-13 2009-10-14 株式会社リコー 手ぶれ画像補正方法、記録媒体及び撮像装置
US6965397B1 (en) * 1999-11-22 2005-11-15 Sportvision, Inc. Measuring camera attitude
US20010008418A1 (en) * 2000-01-13 2001-07-19 Minolta Co., Ltd. Image processing apparatus and method
US6985177B2 (en) * 2000-07-04 2006-01-10 Canon Kabushiki Kaisha Image sensing system and its control method
JP4511766B2 (ja) * 2000-07-10 2010-07-28 株式会社リコー 撮影装置および撮影装置における振れ補正方法
SE518050C2 (sv) * 2000-12-22 2002-08-20 Afsenius Sven Aake Kamera som kombinerar skarpt fokuserade delar från olika exponeringar till en slutbild
JP2002288653A (ja) * 2001-03-23 2002-10-04 Minolta Co Ltd 画像処理装置,方法,プログラム及び記録媒体
JP3624859B2 (ja) * 2001-06-19 2005-03-02 カシオ計算機株式会社 撮像装置、ソフトフォーカス画像撮影方法
US7133070B2 (en) * 2001-09-20 2006-11-07 Eastman Kodak Company System and method for deciding when to correct image-specific defects based on camera, scene, display and demographic data
US7436435B2 (en) * 2001-10-01 2008-10-14 Minolta Co., Ltd. Image taking device having image-blur compensator
JP3893983B2 (ja) * 2002-01-17 2007-03-14 ソニー株式会社 情報提供装置及び情報提供方法、記憶媒体、並びにコンピュータ・プログラム
JP4130338B2 (ja) 2002-08-01 2008-08-06 富士フイルム株式会社 画像処理システム、画像処理方法、撮像装置、及び画像処理装置
US7127127B2 (en) * 2003-03-04 2006-10-24 Microsoft Corporation System and method for adaptive video fast forward using scene generative models
JP4378994B2 (ja) * 2003-04-30 2009-12-09 ソニー株式会社 画像処理装置、画像処理方法ならびに撮像装置
JP2004361486A (ja) * 2003-06-02 2004-12-24 Nikon Corp デジタルスチルカメラ
US7440634B2 (en) * 2003-06-17 2008-10-21 The Trustees Of Columbia University In The City Of New York Method for de-blurring images of moving objects
US7720302B2 (en) * 2003-09-25 2010-05-18 Fujifilm Corporation Method, apparatus and program for image processing
JP4530691B2 (ja) * 2004-03-17 2010-08-25 Hoya株式会社 像ブレ補正装置
US20050225787A1 (en) * 2004-03-29 2005-10-13 Fuji Photo Film Co., Ltd. Image output system, method, apparatus and program
JP2006024193A (ja) * 2004-06-07 2006-01-26 Fuji Photo Film Co Ltd 画像補正装置、画像補正プログラム、画像補正方法、および画像補正システム
JP3922278B2 (ja) * 2004-09-10 2007-05-30 コニカミノルタフォトイメージング株式会社 振れ補正機構付きカメラ
JP2006081006A (ja) * 2004-09-10 2006-03-23 Konica Minolta Photo Imaging Inc 振れ補正機構付きカメラ
JP4661181B2 (ja) * 2004-11-19 2011-03-30 コニカミノルタオプト株式会社 ステッピングモータのサーボ駆動方法、駆動機構及び撮像装置
JP4529840B2 (ja) * 2005-08-15 2010-08-25 カシオ計算機株式会社 撮像装置、画像処理方法及びプログラム
JP4434151B2 (ja) * 2006-01-23 2010-03-17 富士フイルム株式会社 撮像装置

Also Published As

Publication number Publication date
US7693342B2 (en) 2010-04-06
US20060159364A1 (en) 2006-07-20
JP2006157427A (ja) 2006-06-15

Similar Documents

Publication Publication Date Title
JP4345651B2 (ja) 画像情報の評価方法、画像情報の評価プログラム及び画像情報評価装置
JP4539318B2 (ja) 画像情報の評価方法、画像情報の評価プログラム及び画像情報評価装置
JP4487805B2 (ja) 画像評価方法、画像評価装置、及び印刷装置
US7676108B2 (en) Method and apparatus for initiating subsequent exposures based on determination of motion blurring artifacts
US8270751B2 (en) Method of notifying users regarding motion artifacts based on image analysis
US8149288B2 (en) Image capture device that records image accordant with predetermined condition and storage medium that stores program
US8446486B2 (en) Target detecting apparatus, image file recording apparatus and methods of controlling same
JP2006024193A (ja) 画像補正装置、画像補正プログラム、画像補正方法、および画像補正システム
US20090231628A1 (en) Image Processing Apparatus, Image Processing Method, Computer Program for Image Processing
US20090060329A1 (en) Image Data Analyzing Device, Image Data Analyzing Method, and Computer Program
JP4591603B2 (ja) 画像情報の評価方法、画像情報の評価プログラム及び画像情報評価装置
US8086063B2 (en) Image display apparatus and method, and program
US20090231627A1 (en) Image Processing Apparatus, Image Processing Method, Computer Program for Image Processing
JP4632417B2 (ja) 撮像装置、及びその制御方法
JPH1185962A (ja) 画像位置調整装置及び画像位置調整プログラムを記録したコンピュータが読み取り可能な記録媒体
US20090016567A1 (en) Image Display Apparatus, Image Display Method, and Program
JP2006113658A (ja) 画像処理装置及び方法、及びプログラムを記録した記憶媒体
JP4678067B2 (ja) 画像評価方法、画像評価装置、及び印刷装置
JP2011138272A (ja) 画像処理装置、及び、画像加工プログラム
JP2007057908A (ja) 画像選択装置および画像選択方法
JP4508112B2 (ja) 静止画抽出システム
JP2009088986A (ja) デジタルカメラ
JP4773924B2 (ja) 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP2008147714A (ja) 画像処理装置およびその方法
JP2008178031A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080605

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080617

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080806

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090623

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090706

R150 Certificate of patent or registration of utility model

Ref document number: 4345651

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120724

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120724

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130724

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees