JP4123900B2 - 画像処理方法、画像処理装置、画像処理プログラム、および画像処理プログラムを記録した記録媒体 - Google Patents

画像処理方法、画像処理装置、画像処理プログラム、および画像処理プログラムを記録した記録媒体 Download PDF

Info

Publication number
JP4123900B2
JP4123900B2 JP2002320859A JP2002320859A JP4123900B2 JP 4123900 B2 JP4123900 B2 JP 4123900B2 JP 2002320859 A JP2002320859 A JP 2002320859A JP 2002320859 A JP2002320859 A JP 2002320859A JP 4123900 B2 JP4123900 B2 JP 4123900B2
Authority
JP
Japan
Prior art keywords
pixel
image data
shadow
correction amount
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002320859A
Other languages
English (en)
Other versions
JP2004157641A (ja
Inventor
啓嗣 堺本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Noritsu Koki Co Ltd
Original Assignee
Noritsu Koki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Noritsu Koki Co Ltd filed Critical Noritsu Koki Co Ltd
Priority to JP2002320859A priority Critical patent/JP4123900B2/ja
Publication of JP2004157641A publication Critical patent/JP2004157641A/ja
Application granted granted Critical
Publication of JP4123900B2 publication Critical patent/JP4123900B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、撮像デバイスが取り込んだデジタル画像データに画像処理を施すことにより、該デジタル画像データから再現される画像に軟調感を与える画像処理方法,画像処理装置,画像処理プログラム,および画像処理プログラムを記録した記録媒体に関するものである。
【0002】
【従来の技術】
従来から、写真撮影において、軟らかいイメージの画像を取得する場合、軟調系効果フィルターをレンズに装着して撮影することや、ソフトレンズを装着したカメラで撮影することにより行われてきた。なお、上記軟調系効果フィルターとは、レンズに装着するフィルターであって、カメラに取り込まれる画像に軟調感を与えるためのものをいう。ここで、上記軟調系効果フィルターのなかには、光の微妙な滲みを表現することで、写真として再現される画像に軟調感を与えるものが存在する。
【0003】
しかし、上記軟調系効果フィルターを使用する場合、撮像シーンごとに適正なフィルターを選択しなければならず、頻繁にフィルターを交換しなければならない。したがって、上記軟調系効果フィルターは実用性が高いものとは言えず、簡単な方法で、写真として再現される画像のハイライト領域において光の微妙な滲みを表現できる手段が待望されていた。
【0004】
近年、写真処理の分野においては、CCD(Charge Coupled Device)等の撮像デバイスにより写真フィルムに記録された原画像からデジタル画像データを取り込むと共に、露光ヘッドが上記デジタル画像データに基づいて印画紙に画像を焼き付ける、いわゆるデジタル露光による写真処理が活発に行われている。このようなデジタル露光による写真処理では、上記デジタル画像データにさまざまな画像処理を施すことができる。例えば、特許文献1によれば、原画像データと輝度に関するヒストグラムとから覆い焼きマスクを作成し、上記覆い焼きマスクをぼかしフィルターによりぼかした後で、上記原画像データと覆い焼きマスクとを合成することで、原画像データに基づいて再現される画像に軟調感を与えることができる。
【0005】
【特許文献1】
特開平11−284860号公報(公開日 平成11年10月15日)
【0006】
【発明が解決しようとする課題】
ところが、特許文献1における方法によれば、写真フィルムから取り込まれる画像において、ぼかしフィルターの効果により、画像のハイライト領域をぼかすことが可能なものの、太陽,月,電灯等の明るい領域からの暗い領域にわたっての光の広がり具合や、光の方向性までをはっきりと表現できず、光の微妙な滲みを表現できないという問題が生じていた。
【0007】
そこで、本発明は、デジタル画像データから再現される画像に対し、光の広がり具合や光の方向性を表現して、光を微妙に滲ませることで、画像全体に軟調感を与えることのできる画像処理方法、画像処理装置、画像処理プログラム、画像処理プログラムを記録した記録媒体を提供することにある。
【0008】
【課題を解決するための手段】
請求項1に記載の画像処理方法は、上記課題を解決するために、デジタル画像データが所定の閾値以上を示す画素をハイライト画素として、デジタル画像データが上記閾値未満の画素をシャドウ画素として分類した第1データを作成するステップと、各シャドウ画素に関し、一番近い位置にあるハイライト画素までの距離と負の相関関係となるような光補正量を各シャドウ画素に与えた第2データを作成するステップと、上記デジタル画像データと第2データとの互いに対応する各画素に関して、上記デジタル画像データに上記光補正量を加算した補正済画像データを作成するステップとを備えることを特徴とする。
【0009】
また、請求項9に記載の画像処理装置は、上記課題を解決するために、デジタル画像データが所定の閾値以上を示す画素をハイライト画素として、デジタル画像データが上記閾値未満の画素をシャドウ画素として分類した第1データを作成する第1データ作成手段と、各シャドウ画素に関し、一番近い位置にあるハイライト画素までの距離と負の相関関係となるような光補正量を各シャドウ画素に与えた第2データを作成する第2データ作成手段と、上記デジタル画像データと第2データとの互いに対応する各画素に関して、上記デジタル画像データに上記光補正量を加算した補正済画像データを作成する補正手段とを備えることを特徴とする。
【0010】
上記手順または構成によれば、デジタル画像データが所定の閾値以上を示す画素をハイライト画素として、デジタル画像データが上記閾値未満の画素をシャドウ画素として分類した第1データを作成している。すなわち、原画像から取り込まれたデジタル画像データにおける各画素に関して、明るい領域の画素と暗い領域の画素とに分類することができる。
【0011】
つぎに、各シャドウ画素に関し、一番近い位置にあるハイライト画素までの距離と負の相関関係となるような光補正量を各シャドウ画素に与えた第2データを作成している。すなわち、明るい領域から近い位置のシャドウ画素ほど大きく、明るい領域から遠い位置のシャドウ画素ほど小さくした光補正量が、各シャドウ画素に割り振られる。
【0012】
さらに、上記デジタル画像データと第2データとの互いに対応する各画素に関して、上記デジタル画像データに上記光補正量を加算した補正済画像データを作成している。すなわち、デジタル画像データに対して、明るい領域から近い位置の画素ほど大きく、明るい領域から遠い位置の画素ほど小さくした光補正量を加算することになる。これにより、得られる補正済画像データにあっては、暗い領域において、明るい領域から遠ざかるにつれて除々に輝度が落ちるような光の広がりを表現することができ、光の広がり具合や方向性を表現することができる。つまり、上記補正済画像データから再現される画像によれば、暗い被写体において、明るい被写体からの光の広がり具合や光の方向性を表現できるので、光の微妙な滲みを表現した軟調感のある画像を再現することができる。
【0013】
請求項2に記載の画像処理方法は、請求項1に記載の手順に加えて、上記デジタル画像データの各階調に対する画素の度数を示した度数分布を作成し、上記度数分布から上記デジタル画像データの中央値を求め、上記中央値を上記所定の閾値とすることを特徴とする。
【0014】
上記手順によれば、上記デジタル画像データの各階調に対する画素の度数を示した度数分布を作成している。すなわち、各画素を階調数の大きさの順に並べ、各階調に属する画素の数を示した分布を作成している。これにより、上記デジタル画像データの中央値を求めることができる。
【0015】
さらに、ハイライト画素とシャドウ画素とを区別するための閾値として上記中央値を用いているので、デジタル画像データの全画素から、ハイライト画素とシャドウ画素とを略均等に分けることが可能となる。
【0016】
請求項3に記載の画像処理方法は、請求項1または2に記載の手順に加えて、デジタル画像データと第2データとの互いに対応する各画素に関し、色成分ごとのデジタル画像データから導出される輝度が所定値以上の画素を光源画素と指定して、第2データの各シャドウ画素の光補正量に対し、該シャドウ画素と上記光源画素との間に占めるハイライト画素の画素数と負の相関関係となるような修正量を加算することを特徴とする。
【0017】
上記手順によれば、色成分ごとのデジタル画像データから導出される輝度が所定値以上の画素を光源画素と指定している。これにより、上記デジタル画像データから再現される画像における光の出所(太陽,月,電灯等)を示す画素を指定することが可能となる。
【0018】
そして、デジタル画像データと第2データとの互いに対応する各画素に関し、第2データの各シャドウ画素の光補正量に対し、シャドウ画素と光源画素との間に占めるハイライト画素の画素数と負の相関関係となるような修正量を加算している。つまり、光源画素から周囲に向けて伸びている光が短いほど(ハイライト画素が少ないほど)、その光の延長線上に位置する各シャドウ画素の光補正量に大きな修正量が与えられている。一方、光源画素から周囲に向けて伸びている光が長いほど(ハイライト画素が多いほど)、その光の延長線上に位置する各シャドウ画素の光補正量に小さな修正量が与えられている。これにより、第2データにおいて、光源画素から光が不均一に広がっている場合でも、光源画素から伸びる光の広がりが均一かつ放射状(すなわち円形状)にみえるように修正できる。
【0019】
請求項4に記載の画像処理方法は、請求項1ないし3のいずれか1項に記載の手順に加えて、デジタル画像データと第2データとの互いに対応する各画素に関し、第2データの各シャドウ画素の光補正量に対して、色成分ごとのデジタル画像データから導出される彩度と正の相関関係となるような第1の関数をかけることを特徴とする。
【0020】
上記手順によれば、上記光補正量に第1の関数をかけることで、原画像データと第2データとの互いに対応する各画素に関して、色成分ごとのデジタル画像データから導出される彩度が大きいほど、各シャドウ画素に与えられている光補正量を大きくし、上記彩度が小さいほど、各シャドウ画素に与えられている光補正量を小さくできる。このように、第1の関数により上記光補正量を調整すると、補正済画像データにおいて、画素の彩度が大きいほどその画素の輝度を強調でき、色鮮やかな画像を再現できる。
【0021】
請求項5に記載の画像処理方法は、請求項1ないし4のいずれか1項に記載の手順に加えて、デジタル画像データと第2データとの互いに対応する各画素に関し、第2データの各シャドウ画素の光補正量に対して、色成分ごとのデジタル画像データから導出される輝度と負の相関関係となるような第2の関数をかけることを特徴とする。
【0022】
上記手順によれば、上記光補正量に第2の関数をかけることで、原画像データと第2データとの互いに対応する各画素に関して、色成分ごとのデジタル画像データから導出される輝度が大きいほど、各シャドウ画素に与えられている光補正量を小さくし、上記彩度が小さいほど、各シャドウ画素に与えられている光補正量を大きくできる。このように、第2の関数により上記光補正量を調整すると、補正済画像データから再現される画像において、暗い画素に対して輝度を強調させることができ、再現画像において暗い被写体の形状をはっきりと表現できる。
【0023】
請求項6に記載の画像処理方法は、請求項1ないし5のいずれか1項に記載の手順に加えて、デジタル画像データと第2データとの互いに対応する各画素に関し、第2データの各シャドウ画素に対し、該シャドウ画素から上記光源画素の距離と負の相関関係となるような第3の関数を、該シャドウ画素の光補正量に加えることを特徴とする。
【0024】
上記手順によれば、デジタル画像データと第2マスクとの互いに対応する各画素に関し、第2データの各シャドウ画素に対し、該シャドウ画素から上記光源画素の距離と負の相関関係となるような第3の関数を、該シャドウ画素の光補正量に加えている。つまり、第2データの各シャドウ画素に与えられる光補正量に対し、光源画素から遠ざかるにつれて値が小さくなるような第3の関数を加えていることになる。これにより、得られる補正済画像データから再現される画像にあっては、暗い領域において、光源画素から遠ざかるにつれて除々に輝度が落ちるような光の広がりを表現することができる。
【0025】
請求項7に記載の画像処理方法は、請求項1ないし6のいずれか1項に記載の手順に加えて、シャドウ画素を中心画素として、中心画素と隣接する4つの画素それぞれに向けて、中心画素から引き出し線を延ばしていくことで、各引き出し線の先端を頂点とした正方形領域内を順次拡大していき、上記正方形領域内で最初に探索されたハイライト画素を、上記シャドウ画素に関する一番近い位置にあるハイライト画素とすることを特徴とする。
【0026】
上記手順によれば、シャドウ画素を中心画素として、中心画素と隣接する4つの画素それぞれに向けて、中心画素から引き出し線を延ばしていく。これにより、中心画素を中心として、各引き出し線の先端を頂点とした正方形領域を順次拡大していくことができる。さらに、正方形領域内を順次拡大していき、上記正方形領域内で最初に探索されたハイライト画素を、上記シャドウ画素に関する一番近い位置にあるハイライト画素としている。このような手順により、上記シャドウ画素に関する一番近い位置にあるハイライト画素を容易に探索することができる。
【0027】
請求項8に記載の画像処理方法は、請求項7に記載の手順に加えて、上記正方形領域内における各画素の輝度の平均値を算出し、上記平均値を上記シャドウ画素のぼかし値とした第3データを作成するステップと、上記デジタル画像データと第3データとの互いに対応する各画素に関し、デジタル画像データにぼかし値を加算するステップとをさらに備えることを特徴とする。
【0028】
上記手順によれば、各シャドウ画素に関し、一番近い位置にあるハイライト画素を探索し、上記シャドウ画素が中心であって、上記ハイライト画素が辺(エッジ)に含まれている正方形領域を設定している。すなわち、各シャドウ画素について、ハイライト画素からの距離に応じた広さの正方形領域を設定している。
【0029】
つぎに、上記正方形領域内の各画素の輝度の平均値を算出し、上記平均値を上記シャドウ画素のぼかし値とした第3データを作成している。これは、シャドウ画素を中心として、上記正方形領域にぼかしフィルターを用いたフィルター処理を実行していることになるので、各シャドウ画素に関し、輝度のぼかし値を取得することができる。また、ぼかしフィルターによるぼかし効果はフィルターサイズに比例するので、各シャドウ画素におけるぼかし値のぼかし効果は、ハイライト画素からの距離に応じて大きくなる。
【0030】
さらに、上記デジタル画像データと第3データとの互いに対応する各画素に関し、デジタル画像データにぼかし値を加算している。したがって、ハイライト領域から離れている着目画素(シャドウ画素)ほど、大きなぼかし効果を与えることができる。これにより、補正済画像データから再現される画像において、光の進行方向に沿って除々に画像がぼけていく様子を表現することができる。
【0031】
請求項10に記載の画像処理プログラムは、上記課題を解決するために、請求項1ないし8のいずれか1項に記載の画像処理方法をコンピュータに実行させることを特徴とする。
【0032】
請求項11に記載の画像処理プログラムを記録した記録媒体は、請求項10に記載の画像処理プログラムをコンピュータに読み取り可能に記録してなることを特徴とする。
【0033】
これにより、上記記録媒体、またはネットワークを介して、一般的なコンピュータに画像処理プログラムをインストールすることによって、該コンピュータを用いて上記の画像処理方法を実現する、言い換えれば、該コンピュータを画像処理装置として機能させることができる。
【0034】
【発明の実施の形態】
〔実施の形態1〕
本実施の形態は、写真フィルムに記録された画像から取り込んだデジタル画像データに画像処理を施すことにより、該デジタル画像データに基づいて印画紙上に再現される画像についてハイライト部分を滲ませて、画像に軟調感を与える画像処理方法に関するものである。
【0035】
この画像処理方法の概略を図1に基づいて説明する。図1に示すように、まず、2値化データである第1マスク(第1データ)がデジタル画像データに基づいて作成される。そして、光の広がり,方向性が表現された第2マスク(第2データ)が第1マスクに基づいて作成される。さらに、上記原画像データに第2マスクを被せることで、ハイライト部分が滲んだ軟調画像である補正済画像データを出力することができる。以下、本実施の形態の画像処理が実現される写真処理システムを説明した上で、本実施の形態の画像処理方法を説明する。
【0036】
図2は、本実施形態の写真処理装置の概略構成を示すブロック図である。上記写真処理システムは、フィルムスキャナ1、画像処理装置2、写真焼付装置3、操作部4を備えた構成となっている。
【0037】
フィルムスキャナ1は、写真フィルムに光を照射し、その透過光をCCDなどで受光することにより、写真フィルムに記録されたコマごとの画像を原画像データ(デジタル画像データ)として読み取るブロックである。フィルムスキャナ1は、読み取ったデジタル画像データを赤色成分(R)、緑色成分(G)、および青色成分(B)ごとに画像処理装置2へ送信する。また、上記原画像データは8ビットのデジタル信号とするが、ビット数はこれに限定されるものではない。
【0038】
画像処理装置2は、PC(Personal Computer)などによって構成されており、フィルムスキャナ1から送られた原画像データに種々の画像処理を施し、補正済画像データを写真焼付装置3に出力するブロックである。なお、画像処理装置2の詳細な構成については、後に詳述する。
【0039】
プリンタとしての写真焼付装置3は、画像処理装置2によって処理がなされた色成分ごとの補正済画像データに基づいて感光材料である印画紙を露光することにより、印画紙上に画像を焼き付けるためのブロックである。補正済画像データに応じた光を印画紙に照射するヘッドとしては、デジタル画像データに応じて画素ごとに印画紙への照射光を変調できる光変調素子が用いられる。このような光変調素子としては、例えばPLZT露光ヘッド、DMD(Digital Micromirror Device)、LCD(液晶表示装置)、LED(Light Emitting Diode)パネル、レーザー、FOCRT(Fiber Optic Cathode Ray Tube)、CRT(Cathode Ray Tube)等が挙げられる。
【0040】
なお、写真焼付装置3は、写真フィルムのスキャニングと印画紙の露光とを両方行うことができるオートプリンタとして構成されていてもよい。この場合、画像出力システムを、画像の読み取りから焼付けまでを行うオートプリンタと、画像処理装置2とを接続した構成とすることにより、システムの簡素化を図ることができる。
【0041】
操作部4は、フィルムスキャナ1から読み取られた画像,画像処理がなされた画像,システムの動作状況等をオペレータに表示するためのモニター等の表示手段および、オペレータが種々の情報を入力するためのマウス,キーボード等の入力手段から構成されるブロックである。なお、表示手段と入力手段とを別々に構成せずに、タッチパネル方式の操作部を用いて、表示手段と入力手段とを同一のハードウェアで構成してもよい。
【0042】
つぎに、図3に基づいて、画像処理装置2の詳細な構成について説明する。画像処理装置2は、メモリ11,縮小処理部12,閾値設定部13,倍率設定部14,第1マスク作成部(第1データ作成手段)15,第2マスク作成部(第2データ作成手段)16,第2マスク修正部17,拡大処理部18,彩度変更部19,第2マスク調整部20,光源光合成部21,原画像補正部(補正手段)22,データ範囲修正部23を備えている。
【0043】
メモリ11は、フィルムスキャナ1から送られてきた原画像データ、および操作部4より送られてきたオペレータからのコマンド等の情報を一旦記憶する揮発性のメモリである。なお、用いられるメモリとしてはDRAM(Dynamic Random Access Memory)、SRAM(Static Random Access Memory)が挙げられる。
【0044】
縮小処理部12は、フィルムスキャナ1から送られてきた原画像データに対して間引き処理(例えば、1/16サイズに縮小する)を施すためのブロックである。さらに、縮小処理部12は、間引いた原画像データを第1マスク作成部15へ送信する。ここで、原画像データのサイズを間引いている理由は、後述する第1マスクおよび第2マスクの作成処理の速度を向上させるためである。ただし、このような間引き処理を施さなくても、第1マスクおよび第2マスクを作成することは可能である。なお、以下では、ここで間引かれた(縮小された)原画像データを「縮小画像データ(デジタル画像データ)」とする。
【0045】
閾値設定部13は、後述する第1マスクを作成するために用いられる色成分ごとの閾値を設定するためのブロックである。具体的に、閾値設定部13は、フィルムスキャナ1から送られてきた原画像データに基づいて、図4に示すようなヒストグラム(度数分布)を色成分ごとに作成する。そして、閾値設定部13は、色成分ごとに、上記ヒストグラムから得られる中央値を閾値として検出する。つまり、閾値設定部13は、色成分ごとに、原画像データにおける各画素を、階調の昇り順または下り順に並べ、中間の順番に該当する画素の階調を閾値として検出している。なお、このヒストグラムとは、横軸に縮小画像データがとり得る各階調を示し、縦軸は画素数を示した分布である。
【0046】
また、上記ヒストグラムにおいて、全画素数の2%数の最高階調側の画素と、全画素数の2%程度数の最低階調側の画素とを除外して、上記閾値を検出してもよい。これは、最高階調付近の画素値を示す画素および最低階調付近の画素値を示す画素においては、電気的ノイズが増幅されている傾向にあるので、ノイズ成分を無視した閾値を検出するためである。
【0047】
倍率設定部14は、フィルムスキャナ1から送られてきた原画像データに基づいて、後述する彩度変更部19,第2マスク調整部20,光源光合成部21で用いられる倍率α,倍率β,倍率γを、画素ごとに演算するブロックである。具体的には、以下に示す演算が実行される。
【0048】
【数1】
Figure 0004123900
【0049】
なお、LUT〔輝度〕とは、原画像データから導出される輝度の所定範囲に対して、負の相関関係となる関数であり、図7に示す関数である。また、ここで輝度とは、色成分ごとのデジタル画像データについて重みの均等な平均値、すなわち(Rdat+Gdat+Bdat)/3とする。
【0050】
第1マスク作成部15は、縮小処理部12から送られてきた縮小画像データに基づき、2値化したデータである第1マスクを作成し、作成した第1マスクを第2マスク作成部16へ送信するためのブロックである。この処理の概略を説明すると以下のとおりである。まず、第1マスク作成部15は、色成分ごとの縮小画像データが、色成分ごとに対応する上記閾値よりも、全ての色成分で高い画素をハイライト画素として検出する。一方、第1マスク作成部15は、少なくとも1の色成分の縮小画像データが、色成分ごとに対応する上記閾値より低い画素をシャドウ画素として検出する。
【0051】
そして、第1マスク作成部15は、縮小画像データの各画素について、ハイライト画素を「0」として、シャドウ画素を「1」として表した第1マスクを作成する。すなわち、第1マスクとは、縮小画像データに対し、ハイライト画素とシャドウ画素とを分類した2値化データである。
【0052】
第2マスク作成部16は、第1マスクにおける各シャドウ画素に対して光補正量を与えた第2マスクを作成し、作成した第2マスクを第2マスク修正部17へ送信するためのブロックである。ここで、光補正量とは、後の手順で第2マスクを原画像データに被せる際に、光の広がり,方向を強調するために、色成分ごとの原画像データに加算される補正量をいう。
【0053】
この処理の概略を説明すると以下のとおりである。第2マスク作成部16は、第1マスクにおける各シャドウ画素を中心画素として、中心画素から一番近い位置にあるハイライト画素までの距離と負の相関関係となるような光補正量を中心画素としてのシャドウ画素に与えた第2マスクを作成する。これにより、ハイライト画素が密集した明るい領域から近い位置の着目画素ほど大きく、明るい領域の画素から遠い位置の画素ほど小さくした光補正量が各着目画素に割り振られる。例えば、ハイライト画素から5画素離れたシャドウ画素には214の光補正量が与えられ、ハイライト画素から12画素離れたシャドウ画素には182の光補正量が与えられる。
【0054】
つまり、第2マスクとは、上記シャドウ画素が密集した暗い領域において、ハイライト画素が密集した明るい領域からの光の方向が表現されたマスクである。すなわち、第2マスク作成部16においては、シャドウ画素が密集した暗い領域において、明るい領域から遠ざかるにつれて除々に光補正量が落ちる、すなわち、明るい領域から遠ざかるにつれて除々に輝度が落ちるという光の広がりや方向性を表現した第2マスクが作成される。
【0055】
つぎに、各中心画素に関し、一番近い位置にあるハイライト画素を探索する手順を説明する。図5(a)に示すように、まず、中心画素と隣接する4つの画素それぞれに向けて、中心画素から引き出し線を延ばしていく。これにより、図5(b)に示すように、中心画素を中心として、各引き出し線の先端を頂点とした正方形領域を順次拡大していくことができる。さらに、正方形領域内を順次拡大していく。そして、図5(c)に示すように、上記正方形領域内で最初に探索されたハイライト画素を、上記シャドウ画素に関する一番近い位置にあるハイライト画素としている。このような手順により、上記シャドウ画素に関する一番近い位置にあるハイライト画素を容易に探索することができる。
【0056】
ただし、各中心画素に関し、一番近い位置にあるハイライト画素の探索は上記手順に限定されるものではない。例えば、上記中心画素を中心として、上記各引き出し線の先端を、各辺の中点とした正方形領域を順次拡大していき、上記正方形領域内で最初に探索されたハイライト画素を、上記シャドウ画素に関する一番近い位置にあるハイライト画素とする手順でも構わない。
【0057】
第2マスク修正部17は、第2マスク作成部16から送られてきた第2マスクに対し、修正処理を施すためのブロックである。具体的に、第2マスク修正部17は、以下に示す処理を実行している。
【0058】
まず、オペレータが、操作部4を介して、縮小画像データの各画素のうち、電灯,太陽,月等の光源となりうる被写体の中心を光源画素として指定する。なお、光源画素の指定は、オペレータによるものでなくてもよい。例えば、第2マスク修正部17が、色成分ごとの縮小画像データから導出される輝度について所定値以上の画素を光源画素として検出する手順であっても構わない。
【0059】
そして、第2マスク修正部17は、各シャドウ画素の光補正量に対して、着目画素と光源画素との間に占めるハイライト画素の画素数と負の相関関係となるような修正量を加算する処理を行っている。
【0060】
すなわち、上記処理によれば、第2マスクにおいて、光の出所(太陽,月,電灯等)を示す光源画素を検出することが可能となる。そして、第2マスクの各シャドウ画素に与えられている光補正量に対して、それぞれのシャドウ画素と光源画素との間に存在するハイライト画素の数と負の相関関係となるような修正量を加算している。このような処理を行う理由を以下に説明する。通常、画像において、光は光源画素を中心として均一かつ放射状に(つまり円形状に)広がるように写るものであるが、撮影環境によっては、光源画素から光が不均一に広がるように写ることもある。そこで、第2マスク修正部17による処理を実行すると、図6に示すように、光源画素と各シャドウ画素との間に存在するハイライト画素の数が少ないほど(図6の矢印が短いほど)大きな修正量を、ハイライト画素の数が多いほど(図6の矢印が長いほど)小さな修正量を第2マスクの各シャドウ画素の補正量に加算している。これにより、光源画素から周囲に向けて伸びている光が短いほど、その延長線上に位置する各シャドウ画素に大きな修正量が与えられているので、第2マスクにおいて、光源画素から伸びる光の広がりが均一かつ放射状(円形状に)にみえるように修正できる。
【0061】
拡大処理部18は、第2マスク修正部17から送られてきた第2マスクを原画像データのサイズに拡大し、拡大した第2マスクを第2マスク調整部20へ送信するためのブロックである。なお、拡大処理は線形補間法(バイリニア法)によって行われる。第1マスクおよび第2マスクは、処理速度を向上させるために、縮小画像データに基づいて作成されている。したがって、第2マスクの各画素は、縮小画像データの各画素に対応するものの、原画像データの各画素に対応していない。そこで、拡大処理部18が、第2マスクを原画像データのサイズに拡大させることで、第2マスクの各画素を原画像データの各画素に対応させるようにしている。
【0062】
彩度変更部19は、フィルムスキャナ1から送られてきた原画像データに対して彩度変更処理を行うために、色成分ごとのデジタル画像データの彩度補正量を求めるブロックである。以下、上記彩度変更処理について説明する。ここでの彩度変更とは、原画像データの各画素において、比較的彩度の低い画素ほど、彩度を低下させると共に、比較的彩度の高い画素には彩度を維持するような処理である。このような処理を実行するのは、低彩度化した画像ほど光が強調される一方、人体の肌や空などにまで低彩度化を施すと原画像のイメージが損なわれてしまうからである。ここで、上記彩度変更処理における色成分ごとの彩度補正量の演算手順を以下に示す。
【0063】
【数2】
Figure 0004123900
【0064】
つまり、倍率γにより、各色成分の画素値の差が小さい画素ほど、その差を埋めるための彩度補正量を大きくして、各色成分の画素値の差が大きい画素ほど、その差を埋めるための彩度補正量を小さくしている。
【0065】
第2マスク調整部20は、拡大処理部18から送られてきた第2マスクの各シャドウ画素の光補正量に第1の関数および第2の関数をかけて、第2マスクの各シャドウ画素の光補正量を調整し、調整後の第2マスクを光源光合成部21へ送信するブロックである。ここで、第2マスクの各シャドウ画素の光補正量の調整は、原画像データの対応する各画素の彩度,輝度に応じて行われる。具体的には、原画像データと第2マスクとの互いに対応する各画素に関し、第2マスクの各シャドウ画素の各光補正量に対し、原画像データの各画素の彩度と正の相関関係が成立する第1の関数と、対応する原画像データの輝度と負の相関関係が成立するような第2の関数とをかける処理が実行される。
【0066】
【数3】
Figure 0004123900
【0067】
ここで、数3においては、1/(倍率β+3)が第1の関数に該当し、倍率α/LUT〔輝度〕が第2の関数に該当する。なお、倍率αおよび倍率βは、倍率設定部14により設定されたものである。また、倍率βは、数1に示すように、ある色成分と他の色成分とのデジタル画像データの差分から導出される倍率であり、彩度に応じた関数である。
【0068】
すなわち、上記光補正量に第1の関数をかけることで、原画像データと第2マスクとの互いに対応する各画素に関して、色成分ごとのデジタル画像データから導出される彩度が大きいほど、各シャドウ画素に与えられている光補正量を大きくし、上記彩度が小さいほど、各シャドウ画素に与えられている光補正量を小さくできる。このように、第1の関数により上記光補正量を調整すると、原画像データに第2マスクを被せて得られる補正済画像データ(後述する)において、画素の彩度が大きいほどその画素の輝度を強調でき、色鮮やかな画像を再現できるからである。
【0069】
また、上記光補正量に第2の関数をかけることで、原画像データと第2データとの互いに対応する各画素に関して、色成分ごとのデジタル画像データから導出される輝度が大きいほど、各シャドウ画素に与えられている光補正量を小さくし、上記彩度が小さいほど、各シャドウ画素に与えられている光補正量を大きくできる。このように、第2の関数により上記光補正量を調整すると、原画像データに第2マスクを被せて得られる補正済画像データ(後述する)において、暗い画素に対して輝度を強調させることができ、暗い被写体の形状をはっきりと表現できる。
【0070】
また、数3においては、各光補正量に対して第1の関数および第2の関数をかけることにより、第2マスクの調整が図られているが、さらに、全画素における原画像データから算出される濃度の平均値に比例した変数を、各光補正量にかけることにより、第2マスクの調整を図っても構わない。これにより、原画像全体の明るさに比例した変数を各光補正量にかけることができ、画像処理装置2に各種画像における汎用性を持たせることができる。
【0071】
光源光合成部21は、第2マスクの各シャドウ画素の各光補正量に対し、光源画素からの距離に応じた第3の関数を加算する合成処理を行い、該処理後の第2マスクを原画像補正部22へ送信するブロックである。具体的に、光源光合成部21は、第2マスクの各シャドウ画素の光補正量に対し、シャドウ画素と前記光源画素との距離に対して負の相関関係となるような第3の関数を、該シャドウ画素の光補正量に加算する合成処理を行う。
【0072】
【数4】
Figure 0004123900
【0073】
このような合成処理を実行する理由を説明する。ここでは、各シャドウ画素の各光補正量に対し、光源画素からの距離と負の相関関係となるような第3の関数を加算していることになる。これにより、第2マスクの各シャドウ画素において、光源画素から遠ざかるにつれて除々に輝度が落ちるような光の広がりを表現することができる。
【0074】
また、後述する補正済画像データにおいて、画像全体に青みを覆わせるために、光源光合成部21による合成処理を、色成分ごとに分けて異なる演算で実行することにより、上記合成後の第2マスクの光補正値を色成分ごとに算出してもよい。この場合、数4の演算ではなく数5の演算が実行される。
【0075】
【数5】
Figure 0004123900
【0076】
原画像補正部22は、色成分ごとに、メモリ11から原画像データを読み出すと共に、読み出した原画像データに、光源光合成部21から送られてきた第2マスクを被せることにより、補正済画像データを出力するためのブロックである。具体的には、原画像データと第2マスクとの互いに対応する各画素に関して、色成分ごとの原画像データに上記光補正量を加算している。これにより、第2マスクで表現されている光の強さ,方向,広がりが、補正済画像データにおいても表現されることになり、軟調性の高い補正済画像データを得ることができる。
【0077】
また、原画像データに第2マスクを被せる際に、彩度変更部19が算出した彩度補正量を原画像データに加算する。これにより、原画像データの彩度が全体的に低下するので、光の強さ,方向,広がりをさらに際立たせることができる。さらに、上記第2マスクをそのまま原画像データに被せると、人工的な光の線が残存した違和感のある補正済画像データが出力することもあり得る。このような場合、予め、第2マスクの各画素に適当なノイズ成分を加えることによって、上記光の線を目立たなくさせることも可能である。以下、原画像補正部22で実行される演算を示す。
【0078】
【数6】
Figure 0004123900
【0079】
データ範囲修正部23は、補正済画像データの階調分布の幅が、原画像データの階調分布の幅を超えないように、補正済画像データのデータ範囲を修正するブロックである。具体的には、色成分ごとに、補正済画像データの各階調のうち、原画像データにおける階調の最高値を超えている階調は、上記最高値に変換する。そして、色成分ごとに、補正済画像データの各階調のうち、原画像データにおける階調の最低値を下回っている階調は、上記最低値に変換する。これにより、補正済画像データにおいて、原画像データの階調分布の幅を保つことができる。
【0080】
つぎに、画像処理装置2によって実行される本実施の形態に係る画像処理の概略を図8のフローチャートに基づいて説明する。まず、フィルムスキャナ1が、写真フィルムに記録されているコマ画像から原画像データを取得し、上記原画像データを画像処理装置2へ送信する(S1)。ここで取り込まれた原画像データの一例を図9(a)に示す。そして、画像処理装置2は、受け取った原画像データを、縮小処理部12,閾値設定部13,倍率設定部14,彩度変更部19へ送信すると共に、メモリ11に記憶させる。
【0081】
つぎに、閾値設定部13が、色成分ごとに、原画像データに基づいてヒストグラムを作成し、上記ヒストグラムから第1マスクを作成するための閾値を色成分ごとに算出する(S2)。さらに、倍率設定部14が、原画像データに基づいて、彩度変更部19,第2マスク調整部20,光源光合成部21で用いられる倍率α,倍率β,倍率γを、画素ごとに演算する(S3)。また、彩度変更部19は、彩度変更処理を行うための、色成分ごとの原画像データの彩度補正量を求める(S4)。
【0082】
そして、縮小処理部12は、フィルムスキャナ1から送られてきた原画像データに対して間引き処理を行い、縮小画像データを生成する(S5)。その後、第1マスク作成部15が、閾値設定部13により設定された閾値、および上記縮小画像データに基づいて、ハイライト画素とシャドウ画素とを示した第1マスクを作成する(S6)。すなわち、第1マスクとは、縮小画像データの各画素を、ハイライト画素とシャドウ画素とで表した、2値化データである。なお、図9(a)に対応する第1マスクの一例を図9(b)に示す。つぎに、第2マスク作成部16が、上記各シャドウ画素に対して光補正量を与えた第2マスクを作成する(S7)。これにより、シャドウ画素が集合した暗い領域において、明るい領域からの光の方向が表現された、第2マスクが作成される。
【0083】
その後、第2マスク修正部17は、上記第2マスクの各シャドウ画素の光補正量に対して、前記修正量を加算する(S8)。これは、第2マスクにおいて、光源画素からの光が円形状に放射する様子を表現するためである。そして、拡大処理部18が、第2マスク修正部17によって修正された第2マスクを、原画像データのサイズに拡大する(S9)。これは、縮小画像データの各画素に対応する第2マスクを拡大することで、第2マスクを原画像データの各画素に対応づけるためである。なお、図9(a)に対応する第2マスクの一例を図9(c)に示す。
【0084】
さらに、第2マスク調整部20は、拡大された第2マスクの各シャドウ画素の光補正量に対し、第1の関数と第2の関数とをかけることで、第2マスクの調整処理を行う(S10)。なお、第1の関数および第2の関数は、倍率設定部14により設定された倍率α,倍率βを基に生成される。これにより、原画像データにおける彩度の高い画素および暗い画素に対応する、第2マスクの各シャドウ画素の光補正量を向上させることができる。
【0085】
その後、光源光合成部21は、第2マスクの各シャドウ画素の光補正量に対し、第3の関数を加算する処理を行う(S11)。なお、第3の関数は、倍率設定部14により設定された倍率αおよびLUT〔輝度〕に基づいて設定される。これにより、第2マスクの各シャドウ画素において、光源画素から離れるに従って除々に輝度が低下するような光の広がりを表現することができる。なお、図9(a)に対応する第2マスクであって、S11における処理後の第2マスクの一例を図9(d)に示す。
【0086】
そして、原画像補正部22が、原画像データに上記彩度補正量を加算して、彩度補正がなされた原画像データを生成し、この原画像データに第2マスクを被せることにより、補正済画像データを出力する(S12)。つまり、原画像補正部22は、色成分ごとの原画像データと第2マスクとの互いに対応する各画素に関して、色成分ごとの原画像データに彩度補正量および光補正量を加算する処理を実行している。なお、図9(a)に対応する補正済画像データから再現される画像の一例を図9(e)に示す。
【0087】
さらに、データ範囲修正部23が、補正済画像データの階調幅を修正する(S13)。その後、データ範囲修正部23により出力された補正済画像データは、写真焼付装置3に送られる。そして、写真焼付装置3は、上記補正済画像データに基づいて、印画紙上に画像を焼き付ける(S14)。
【0088】
以上のように、本実施形態の手順によれば、原画像データに上記第2マスクを被せているので、第2マスクにおける光の広がりや方向性を補正済画像データにおいて表現することができる。ここで、光の広がりや方向性とは、▲1▼明るい領域から遠ざかるにつれて除々に輝度が落ちるような光の広がり、▲2▼太陽、月等の光源から遠ざかるにつれて除々に輝度が落ちるような光の広がり、▲3▼上記光源から均一かつ放射状に伸びる光の広がりや方向性をいう。また、上述した手順によれば、原画像データにおける暗い領域の各画素の輝度を調整しているので暗い被写体の形状をはっきりとさせることができる。さらに、彩度の大きな画素ほど輝度が強調されるような処理がなされているので、色鮮やかな補正済画像データを再現することができる。このように、本実施の形態の画像処理方法によって得られる補正済画像データにおいては、光の広がり,方向性がはっきりと表現される。すなわち、補正済画像データの明るい領域において、光を滲んだ様子を表現することができ、軟調感を与えることができる。
【0089】
また、本実施の形態の手順によれば、色成分ごとの原画像データに彩度補正量を加算しているが、これにより、原画像データの全体的な彩度を低下させることができる。このような処理を施しているのは、無彩色加工がなされた画像データほど光の広がり等を明確に表現できることが試験等を通じて認められているからである。但し、原画像データに彩度補正量を加算する処理を行わなくても、本発明の画像処理方法を実現することは可能である。
【0090】
さらに、本実施の形態の手順によれば、S13の手順において、補正済画像データのデータ範囲の変更を行っているが、この手順を行わなくても、本発明の画像処理方法を実現することは可能である。
【0091】
〔実施の形態2〕
他の実施の形態を以下に説明する。なお、説明の便宜上、実施の形態2における画像処理方法では、実施の形態1に係る画像処理方法と異なる箇所についてのみ説明する。なお、実施の形態1と同一の機能を奏する部材には、実施の形態1と同一の部材番号を付する。
【0092】
ここで、実施の形態2における画像処理方法の概略を図10に基づいて説明する。図10に示すように、まず、2値化データである第1マスクが原画像データ(デジタル画像データ)に基づいて作成される。そして、光の広がり,方向性が表現された第2マスクが第1マスクに基づいて作成される。さらに、上記原画像データにぼかし効果を与えた第3マスク(第3データ)が、原画像データおよび第1マスクに基づいて作成される。さらに、原画像データに対して、第2マスクおよび第3マスクを被せることで、明るい領域が滲んだ軟調画像である補正済画像データを出力することができる。以下、本実施の形態の画像処理が実現される写真処理システムを説明した上で、実施の形態2の画像処理方法を説明する。
【0093】
まず、図11に基づいて、画像処理装置2の詳細な構成について説明する。画像処理装置2は、メモリ11,縮小処理部12,閾値設定部13,倍率設定部51,第1マスク作成部(第1データ作成手段)15,第1マスク修正部52,第2マスク作成部(第2データ作成手段)16,第3マスク作成部53,拡大処理部54,ぼかし補正値演算部55,第2マスク調整部20,光源光合成部21,原画像補正部(補正手段)58,データ範囲修正部23を備えている。
【0094】
倍率設定部51は、フィルムスキャナ1から送られてきた原画像データに基づいて、第2マスク調整部20,光源光合成部21、および後述するぼかし補正値演算部55で用いられる倍率α,倍率β,倍率γを、画素ごとに演算するブロックである。具体的には、数1に示す演算が実行される。
【0095】
第1マスク修正部52は、第1マスク作成部15において作成された第1マスクに対し、シャドウ画素が密接に並んでいる画素群をシャドウ領域として検出し、上記シャドウ領域を縮小する処理を実行するブロックである。具体的に、第1マスク修正部52は、図12に示すように、第1マスクにおける上記シャドウ領域のエッジに相当するシャドウ画素を、ハイライト画素へ変換することにより、上記シャドウ領域を縮小させている。
【0096】
このような処理を行う理由を以下説明する。上記第1マスクおよび第2マスクは、縮小画像データに基づいて作成されているため、第2マスクを原画像データのサイズに拡大する必要がある。ここで、第2マスクを拡大するためには、線形補間法によって行われるが、第2マスクの各シャドウ画素には光補正量が割り振られているものの、各ハイライト画素のデータはゼロである。したがって、第2マスクを線形補間法により拡大すれば、シャドウ領域とハイライト領域との境界において、補間処理で新たに生じる画素にも光補正量が割り振られてしまうので、ハイライト領域がシャドウ領域に侵食されることが起こりえる。
【0097】
そこで、第2マスクが作成される前段階の第1マスクに関して、予め、シャドウ領域のエッジに相当する各シャドウ画素をハイライト画素へと変換している。すなわち、第1マスクの段階で、予め、シャドウ領域を縮めておくことによって、第2マスクを原画像のサイズに合わせて拡大する段階で、ハイライト領域がシャドウ領域に侵食されることを防止するようにしているのである。
【0098】
第3マスク作成部53は、色成分ごとの縮小画像データから導出される輝度値に対して、ぼかし処理を施した第3マスクを作成するブロックである。以下、第3マスクの作成手順を説明する。
【0099】
まず、第3マスク作成部53は、各シャドウ画素を中心画素として、第1マスクに関し、上記中心画素から一番近い位置にあるハイライト画素を探索していく。ここで、この探索処理の手順については、実施の形態1において説明したので省略する。そして、第3マスク作成部53は、図5(c)に示す、上記探索処理で設定された正方形領域に関し、各画素の輝度の平均値を求めて、該平均値を中心画素のぼかし値とする。さらに、第3マスク作成部53は、各シャドウ画素に該平均値をぼかし値として割り振った第3マスクを作成する。なお、輝度の平均値は、上記正方形領域内の各画素の色成分ごとの縮小画像データから算出する。
【0100】
すなわち、第1マスクと色成分ごとの縮小画像データとの互いに対応する各画素に関し、シャドウ画素を中心画素としてぼかしフィルターによるぼかし効果を与えたぼかし値を作成している。そして、各シャドウ画素にそれぞれのぼかし値を割り振った第3マスクを作成している。ここで、上記正方形領域が広いほどぼかし効果が強くなるので、各シャドウ画素に与えられるぼかし値は、ハイライト画素から離れているほど、すなわち明るい領域から離れているほど、ぼかし効果が強い。つまり、各シャドウ画素に与えられるぼかし効果は、明るい領域から離れている画素ほど大きいので、光が進行方向に沿って画像がぼやけていく様子を表現することができる。
【0101】
拡大処理部54は、上記第2マスクおよび第3マスクを原画像データのサイズに拡大する処理を行うブロックである。なお、拡大処理は、線形補間法(バイリニア法)により行われる。
【0102】
ぼかし補正値演算部55は、上記各シャドウ画素に関し、第3マスクのぼかし値を補正して、ぼかし補正値を求めるためのブロックである。具体的に、ぼかし補正値演算部55は、色成分ごとの原画像データと第3マスクとの互いに対応する各シャドウに関し、上記ぼかし値から輝度を減じて2で割った値を求め、得られた値をぼかし補正値としている。このようにして得られたぼかし補正値を色成分ごとの原画像データに加算することで(後述する)、各シャドウ画素において、色成分間の画像データの差(彩度)を維持しつつ、ぼかし効果を与えることができる。なお、ぼかし補正値演算部55で実行される演算を数7に示す。
【0103】
【数7】
Figure 0004123900
【0104】
原画像補正部58は、色成分ごとに、メモリ11から原画像データを読み出すと共に、読み出した原画像データに、光源光合成部21から送られてきた第2マスクを被せることにより、補正済画像データを出力するためのブロックである。具体的には、原画像データと第2マスクとの互いに対応する各画素に関して、色成分ごとの原画像データに上記光補正量を加算している。これにより、第2マスクで表現されている光の強さ,方向,広がりが、補正済画像データにおいても表現されることになり、軟調性の高い補正済画像データを得ることができる。
【0105】
また、原画像補正部58は、原画像データに第2マスクを被せる際に、第3マスクも被せている。すなわち、原画像補正部58は、ぼかし補正値演算部55が算出したぼかし補正量を原画像データに加算する。これにより、原画像データの彩度を維持しつつ、光の進行方向に沿って除々に画像がぼけていく様子を示した補正済画像データを出力することができる。以下、原画像補正部58で実行される演算を数8に示す。
【0106】
【数8】
Figure 0004123900
【0107】
つぎに、画像処理装置2によって実行される実施の形態2に係る画像処理の概略を図13のフローチャートに基づいて説明する。まず、S21からS23までは、実施の形態1におけるS1からS3までと同様の処理がなされるので、その説明を省略する。さらに、S24からS25までは、実施の形態1におけるS4からS5までと同様の処理がなされるので、説明を省略する。なお、フィルムスキャナ1が取り込んだ原画像データの一例を図14(a)に示す。
【0108】
そして、S25において、第1マスクが作成された後、第1マスク修正部52は、第1マスクのシャドウ領域におけるエッジ部分の各画素をハイライト画素に変換することにより、シャドウ領域を縮小させる処理を実行する(S26)。これにより、後の手順で、第2マスクを拡大させても、ハイライト領域がシャドウ領域に侵食されることを防止することができる。なお、第1マスク修正部52によって修正された第1マスクの一例を図14(b)に示す。
【0109】
つぎに、第2マスク作成部16が、第1マスク修正部52により修正された第1マスクに基づいて、第2マスクを作成する(S27)。この手順は、実施の形態1におけるS7と同様の処理であるので、ここではその説明を省略する。なお、図14(a)に対する第2マスクの一例を図14(c)に示す。
【0110】
その後、第3マスク作成部53が、色成分ごとの縮小画像データから導出される輝度にぼかし効果を与えたぼかし値を,各シャドウ画素に割り振った第3マスクを作成する(S28)。これにより、各シャドウ画素に対し、ハイライト領域から遠いシャドウ画素ほどぼかし効果の強いぼかし値を与えることができる。
【0111】
さらに、拡大処理部54が、第2マスク作成部16によって作成された第2マスクと、第3マスク作成部53によって作成された第3マスクとを、原画像データのサイズに拡大する(S29)。これは、縮小画像データの各画素に対応する第2マスクおよび第3マスクを拡大することで、第2マスクおよび第3マスクの各画素を原画像データの各画素に対応づけるためである。
【0112】
つぎに、ぼかし補正値演算部55が、第3マスクの各シャドウ画素のぼかし値を補正することにより、ぼかし補正値を算出する(S30)。なお、図14(a)に対する第3マスクであって、ぼかし補正値演算部55によって補正された第3マスクの一例を図14(d)に示す。
【0113】
さらに、S31からS32までの処理が実行されるが、これらの処理は、実施の形態1におけるS10からS11までの処理と同様であるので、ここでは、その説明を省略する。
【0114】
そして、原画像補正部58が、原画像データに対し、ぼかし補正値演算部55により補正された第3マスク、および光源光合成部21より送られてきた第2マスクを被せることにより、補正済画像データを出力する(S33)。つまり、原画像補正部58は、色成分ごとの原画像データと第2マスクと第3マスクとの互いに対応する各画素に関して、色成分ごとの原画像データにぼかし補正量および光補正量を加算する処理を実行している。
【0115】
その後、S34からS35までの処理が実行されるが、これらの処理は、実施の形態1におけるS13からS14までの処理と同様であるので、ここでは、その説明を省略する。なお、図14(a)に対応する補正済画像データの一例を図14(e)に示す。
【0116】
以上のように、本実施の形態の手順によれば、原画像データに対して、第2マスクのみならず第3マスクをも被せているので、補正済画像データにおいて、彩度を維持しつつ、光の進行方向に沿って除々に画像がぼけていく様子を表現することができる。
【0117】
また、本実施の形態の手順によれば、原画像データに対して、ぼかし補正値演算部55により補正された第3マスクを被せている。しかし、ぼかし補正値演算部55による補正を行わなくてもよい。すなわち、ぼかし補正値演算部55により補正がなされていない第3マスクを原画像データに被せても、本発明の効果を奏することが可能である。この場合、原画像データと第3マスクとの互いに対応する各画素に関し、原画像データにぼかし値を加算する演算を行う。
【0118】
なお、実施の形態1,実施の形態2によれば、色成分ごとの原画像データに基づいて画像処理方法が実行されているが、モノクロ画像データに基づいて、第2マスクを原画像データに被せる手順を実行することも可能である。この場合、原画像データから単一のヒストグラムが作成されると共に、単一の閾値が設定される。そして、上記閾値以上の画素をハイライト画素とすると共に、上記閾値未満の画素をシャドウ画素とする。
【0119】
また、実施の形態1,実施の形態2によれば、原画像データに間引き処理を施して縮小画像データを生成し、上記縮小画像データに基づいて第1マスク,第2マスク,第3マスクが作成された後、これら第1マスク,第2マスク,第3マスクが原画像データのサイズに拡大されている。しかし、上記間引き処理を実行しているのは、マスク作成処理の速度を向上させるためにすぎない。したがって、上記間引き処理を行わず、原画像データに基づいて第1マスク,第2マスク,第3マスクを作成しても、本発明の画像処理方法を実現することは可能である。
【0120】
ところで、以上の実施の形態で示した手順は、プログラムで実現することが可能である。このプログラムはコンピュータで読み取り可能な記録媒体に格納されている。本発明では、この記録媒体として、画像処理装置2で処理が行われるために必要な図示していないメモリ(例えばROMそのもの)であってもよいし、また図示していないが外部記憶装置としてプログラム読み取り装置が設けられ、そこに記録媒体を挿入することで読み取り可能なプログラムメディアであってもよい。
【0121】
上記いずれの場合においても、格納されているプログラムはマイクロプロセッサ(図示せず)のアクセスにより実行される構成であってもよいし、格納されているプログラムを読み出し、読み出したプログラムを図示されていないプログラム記憶エリアにダウンロードすることにより、そのプログラムが実行される構成であってもよい。この場合、ダウンロード用のプログラムは予め本体装置に格納されているものとする。
【0122】
ここで上記プログラムメディアは、本体と分離可能に構成される記録媒体であり、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスクやハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD等の光ディスクのディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM、EPROM、EEPROM、フラッシュROM等による半導体メモリを含めた固定的にプログラムを担持する媒体であってもよい。
【0123】
また、本発明においてはインターネットを含む通信ネットワークと接続可能なシステム構成であることから、通信ネットワークからプログラムをダウンロードするように流動的にプログラムを担持する媒体であってもよい。尚、このように通信ネットワークからプログラムをダウンロードする場合には、そのダウンロード用プログラムは予め本体装置に格納しておくか、あるいは別な記録媒体からインストールされるものであってもよい。
【0124】
最後に、上述した実施の形態は、本発明の範囲を限定するものではなく、本発明の範囲内で種々の変更が可能である。
【0125】
【発明の効果】
請求項1に記載の画像処理方法は、以上のように、デジタル画像データが所定の閾値以上を示す画素をハイライト画素として、デジタル画像データが上記閾値未満の画素をシャドウ画素として分類した第1データを作成するステップと、各シャドウ画素に関し、一番近い位置にあるハイライト画素までの距離と負の相関関係となるような光補正量を各シャドウ画素に与えた第2データを作成するステップと、上記デジタル画像データと第2データとの互いに対応する各画素に関して、上記デジタル画像データに上記光補正量を加算した補正済画像データを作成するステップとを備えることを特徴とする。
【0126】
また、請求項9に記載の画像処理装置は、以上のように、デジタル画像データが所定の閾値以上を示す画素をハイライト画素として、デジタル画像データが上記閾値未満の画素をシャドウ画素として分類した第1データを作成する第1データ作成手段と、各シャドウ画素に関し、一番近い位置にあるハイライト画素までの距離と負の相関関係となるような光補正量を各シャドウ画素に与えた第2データを作成する第2データ作成手段と、上記デジタル画像データと第2データとの互いに対応する各画素に関して、上記デジタル画像データに上記光補正量を加算した補正済画像データを作成する補正手段とを備えることを特徴とする。
【0127】
これにより、得られる補正済画像データにあっては、暗い領域において、明るい領域から遠ざかるにつれて除々に輝度が落ちるような光の広がりを表現することができ、光の広がり具合や方向性を表現することができる。つまり、上記補正済画像データから再現される画像によれば、暗い被写体において、明るい被写体からの光の広がり具合や光の方向性を表現できるので、光の微妙な滲みを表現した軟調感のある画像を再現することができるという効果を奏する。
【0128】
請求項2に記載の画像処理方法は、請求項1に記載の手順に加えて、上記デジタル画像データの各階調に対する画素の度数を示した度数分布を作成し、上記度数分布から上記デジタル画像データの中央値を求め、上記中央値を上記所定の閾値とすることを特徴とする。
【0129】
これにより、ハイライト画素とシャドウ画素とを区別するための閾値として上記中央値を用いているので、デジタル画像データの全画素から、ハイライト画素とシャドウ画素とを略均等に分けることが可能になるという効果を奏する。
【0130】
請求項3に記載の画像処理方法は、請求項1または2に記載の手順に加えて、デジタル画像データと第2データとの互いに対応する各画素に関し、色成分ごとのデジタル画像データから導出される輝度が所定値以上の画素を光源画素と指定して、第2データの各シャドウ画素の光補正量に対し、該シャドウ画素と上記光源画素との間に占めるハイライト画素の画素数と負の相関関係となるような修正量を加算することを特徴とする。
【0131】
これにより、第2データにおいて、光源画素から光が不均一に広がっている場合でも、光源画素から伸びる光の広がりが均一かつ放射状(すなわち円形状)にみえるように修正できるという効果を奏する。
【0132】
請求項4に記載の画像処理方法は、請求項1ないし3のいずれか1項に記載の手順に加えて、デジタル画像データと第2データとの互いに対応する各画素に関し、第2データの各シャドウ画素の光補正量に対して、色成分ごとのデジタル画像データから導出される彩度と正の相関関係となるような第1の関数をかけることを特徴とする。
【0133】
これにより、補正済画像データにおいて、画素の彩度が大きいほどその画素の輝度を強調でき、色鮮やかな画像を再現できるという効果を奏する。
【0134】
請求項5に記載の画像処理方法は、請求項1ないし4のいずれか1項に記載の手順に加えて、デジタル画像データと第2データとの互いに対応する各画素に関し、第2データの各シャドウ画素の光補正量に対して、色成分ごとのデジタル画像データから導出される輝度と負の相関関係となるような第2の関数をかけることを特徴とする。
【0135】
これにより、補正済画像データにおいて、暗い画素に対して輝度を強調させることができ、再現画像における暗い被写体の形状をはっきりと表現できるという効果を奏する。
【0136】
請求項6に記載の画像処理方法は、請求項1ないし5のいずれか1項に記載の手順に加えて、デジタル画像データと第2データとの互いに対応する各画素に関し、第2データの各シャドウ画素に対し、該シャドウ画素から上記光源画素の距離と負の相関関係となるような第3の関数を、該シャドウ画素の光補正量に加えることを特徴とする。
【0137】
これにより、補正済画像データから再現される画像にあっては、暗い領域において、光源画素から遠ざかるにつれて除々に輝度が落ちるような光の広がりを表現することができるという効果を奏する。
【0138】
請求項7に記載の画像処理方法は、請求項1ないし6のいずれか1項に記載の手順に加えて、シャドウ画素を中心画素として、中心画素と隣接する4つの画素それぞれに向けて、中心画素から引き出し線を延ばしていくことで、各引き出し線の先端を頂点とした正方形領域内を順次拡大していき、上記正方形領域内で最初に探索されたハイライト画素を、上記シャドウ画素に関する一番近い位置にあるハイライト画素とすることを特徴とする。
【0139】
これにより、上記シャドウ画素に関する一番近い位置にあるハイライト画素を容易に探索することができるという効果を奏する。
【0140】
請求項8に記載の画像処理方法は、請求項7に記載の手順に加えて、上記正方形領域内における各画素の輝度の平均値を算出し、上記平均値を上記シャドウ画素のぼかし値とした第3データを作成するステップと、上記デジタル画像データと第3データとの互いに対応する各画素に関し、デジタル画像データにぼかし値を加算するステップとをさらに備えることを特徴とする。
【0141】
これにより、補正済画像データから再現される画像において、光の進行方向に沿って除々に画像がぼけていく様子を表現することができる。
【0142】
請求項10に記載の画像処理プログラムは、上記課題を解決するために、請求項1ないし8のいずれか1項に記載の画像処理方法をコンピュータに実行させることを特徴とする。
【0143】
請求項11に記載の画像処理プログラムを記録した記録媒体は、請求項10に記載の画像処理プログラムをコンピュータに読み取り可能に記録してなることを特徴とする。
【0144】
これにより、上記記録媒体、またはネットワークを介して、一般的なコンピュータに画像処理プログラムをインストールすることによって、該コンピュータを用いて上記の画像処理方法を実現する、言い換えれば、該コンピュータを画像処理装置として機能させることができる。
【図面の簡単な説明】
【図1】本発明の実施の形態の画像処理方法により、補正済画像データが生成されるまでの流れの概略を示した説明図である。
【図2】上記画像処理方法が実現される写真処理装置の概略構成を示したブロック図である。
【図3】上記写真処理装置の構成要素である画像処理装置の概略構成を示したブロック図である。
【図4】上記写真処理装置におけるフィルムスキャナにより取り込まれた原画像データの各階調に対する画素の度数分布を色成分ごとに示したヒストグラムである。
【図5】上記画像処理装置における第2マスク作成部が実行する手順を示した説明図であって、(a)は、第1マスクにおいて中心画素から隣接する各画素に向けて引き出し線を延ばす様子を示した説明図であり、(b)は、各引き出し線の先端を頂点とした正方形領域を拡張していく様子を示した説明図であり、(c)は、ハイライト画素を探索した様子を示した説明図である。
【図6】上記画像処理装置における第2マスク作成部により生成される第2マスクにおいて、光源画素とハイライト画素との間に位置する明るい領域を示した説明図である。
【図7】上記画像処理装置の構成要素である倍率設定部に設定されているルックアップテーブルを示したグラフである。
【図8】上記画像処理方法の各手順の流れを示したフローチャートである。
【図9】上記画像処理方法の各手順により再現される画像であって、(a)は、フィルムスキャナに取り込まれた原画像の一例を示した画像であり、(b)は、(a)に対する第1マスクの一例を示した画像であり、(c)は、(a)に対する第2マスクの一例を示した画像であり、(d)は、(c)の第2マスクに所定の処理を施した一例を示した画像であり、(e)は、(a)に対する補正済画像データから再現される画像の一例を示したイメージ図である。
【図10】本発明の他の実施の形態に係る画像処理方法により、補正済画像データが生成されるまでの流れを示した説明図である。
【図11】他の実施の形態に係る画像処理方法が実現される画像処理装置の概略構成を示したフローチャートである。
【図12】他の実施の形態に係る画像処理装置の第1マスク修正部が、第1マスクにおけるシャドウ領域のエッジ部分に係るシャドウ画素をハイライト画素へ変換する様子を示した説明図である。
【図13】他の実施の形態に係る画像処理方法の各手順の流れを示したフローチャートである。
【図14】他の実施の形態に係る画像処理方法の各手順により再現される画像であって、(a)は、フィルムスキャナに取り込まれた原画像の一例を示した画像であり、(b)は、(a)に対する第1マスクの一例を示した画像であり、(c)は、(a)に対する第2マスクの一例を示した画像であり、(d)は、(a)に対する第3マスクの一例を示した画像であり、(e)は、(a)に対する補正済画像データから再現される画像の一例を示したイメージ図である。
【符号の説明】
1 フィルムスキャナ
2 画像処理装置
3 写真焼付装置
11 メモリ
12 縮小処理部
13 閾値設定部
14 倍率設定部
15 第1マスク作成部(第1データ作成手段)
16 第2マスク作成部(第2データ作成手段)
17 第2マスク修正部
18 拡大処理部
19 彩度変更部
20 第2マスク調整部
21 光源光合成部
22 原画像補正部(補正手段)
23 データ範囲修正部
51 倍率設定部
52 第1マスク修正部
53 第3マスク作成部
54 拡大処理部
55 ぼかし補正値演算部
58 原画像補正部(補正手段)

Claims (11)

  1. デジタル画像の各画素について、デジタル画像の各画素の有するデータであり且つ画素の明るさを示すデータであり且つ明るいほど高値を示すデータである画像データが閾値よりも高い画素をハイライト画素とし、上記画像データが上記閾値未満の画素をシャドウ画素として分類する第1工程と、
    上記シャドウ画素と分類された画素について、上記シャドウ画素と当該シャドウ画素から一番近い位置にあるハイライト画素との間の距離が短いほど大きくなる値である光補正量を上記シャドウ画素の画像データに加算し、当該加算して得られた値を上記シャドウ画素の補正済画像データとする第2工程とを含むことを特徴とする画像処理方法。
  2. 上記画像データの各値に対する画素の度数を示した度数分布を作成し、上記度数分布における中央値を上記閾値とすることを特徴とする請求項1に記載の画像処理方法。
  3. 上記シャドウ画素の画像データに光補正量を加算する前に、上記デジタル画像の全画素のうちオペレータに指定された画素である光源画素と上記シャドウ画素との間の画素数が少ないほど大きくなるような値である光修正量を上記光補正量に加算することによって上記光補正量を修正し、
    上記第2工程は、上記修正された後の光補正量を上記シャドウ画素の画像データに加算し、当該加算して得られた値を上記シャドウ画素の補正済画像データとする工程であることを特徴とする請求項1に記載の画像処理方法。
  4. 上記画像データには、赤色成分の明るさを示す赤画像データと、緑色成分の明るさを示す緑画像データと、青色成分の明るさを示す青画像データとが含まれており、
    上記第1工程では、赤画像データと緑画像データと青画像データとの全てが各々のデータに対する閾値以上を示す画素をハイライト画素とし、赤画像データと青画像データと緑画像データとのうちの少なくとも一つのデータがこのデータに対する閾値未満を示す画素をシャドウ画素として分類し、
    上記第2工程では、上記シャドウ画素と分類された画素について、上記赤画像データに対して上記光補正量を加算して得られる値を補正済赤画像データとし、上記緑画像データに対して上記光補正量を加算して得られる値を補正済緑画像データとし、上記青画像データに対して上記光補正量を加算して得られる値を補正済青画像データとすることを特徴とする請求項1に記載の画像処理方法。
  5. 上記シャドウ画素の赤画像データと緑画像データと青画像データとの各々に対して光補正量を加算する前に、
    上記シャドウ画素と分類された画素について、上記赤画像データと上記緑画像データと上記青画像データとに基づいて、上記シャドウ画素の彩度が高いほど大きくなるような第1パラメータを設定する第3工程と、
    上記シャドウ画素と分類された画素について、上記光補正量に対して上記第1パラメータを乗じることによって上記光補正量を調整する第4工程とを実行し、
    上記第2工程は、上記シャドウ画素と分類された画素について、上記赤画像データと上記緑画像データと上記青画像データとの各々に対して上記第4工程にて調整された後の光補正量を加算する工程であることを特徴とする請求項4に記載の画像処理方法。
  6. 上記シャドウ画素の赤画像データと緑画像データと青画像データとの各々に対して光補正量を加算する前に、
    上記シャドウ画素と分類された画素について、上記赤画像データと上記緑画像データと上記青画像データとに基づいて、上記シャドウ画素の輝度が高いほど小さくなるような第2パラメータを設定する第5工程と、
    上記シャドウ画素と分類された画素について、上記光補正量に対して上記第2パラメータを乗じることによって上記光補正量を調整する第6工程とを実行し、
    上記第2工程は、上記シャドウ画素と分類された画素について、上記赤画像データと上記緑画像データと上記青画像データとの各々に対して上記第6工程にて調整された後の光補正量を加算する工程であることを特徴とする請求項4に記載の画像処理方法。
  7. 上記シャドウ画素を中心画素として、中心画素と隣接する4つの画素それぞれに向けて、中心画素から引き出し線を延ばしていくことで、
    各引き出し線の先端を頂点とした正方形領域内を順次拡大していき、上記正方形領域内で最初に探索されたハイライト画素を、上記シャドウ画素から一番近い位置にあるハイライト画素とすることを特徴とする請求項4に記載の画像処理方法。
  8. 画素に関して上記赤画像データと上記緑画像データと上記青画像データとの平均値を当該画素の輝度値とし、
    上記正方領域内にて上記ハイライト画素が最初に探索された時の当該正方形領域内における各画素の輝度値の平均値を算出し、当該算出した輝度値の平均値を上記シャドウ画素のぼかし値とする第7工程と、
    上記シャドウ画素について、下記の式Aを演算することによって下記ぼかし補正値を得る第8工程とを実行し、
    ぼかし補正値=(シャドウ画素のぼかし値−シャドウ画素の輝度値)/2 (式A)
    上記第2工程は、上記シャドウ画素と分類された画素について、上記赤画像データに対して上記光補正量および上記ぼかし補正値を加算して得られる値を上記補正後赤画像データとし、上記緑画像データに対して上記光補正量および上記ぼかし補正値を加算して得られる値を上記補正後緑画像データとし、上記青画像データに対して上記光補正量および上記ぼかし補正値を加算して得られる値を上記補正後青画像データとする工程であることを特徴とする請求項7に記載の画像処理方法。
  9. デジタル画像の各画素について、デジタル画像の各画素の有するデータであり且つ画素の明るさを示すデータであり且つ明るいほど高値を示すデータである画像データが閾値よりも高い画素をハイライト画素とし、上記画像データが上記閾値未満の画素をシャドウ画素として分類する第1手段と、
    上記シャドウ画素と分類された画素について、上記シャドウ画素と当該シャドウ画素から一番近い位置にあるハイライト画素との間の距離が短いほど大きくなる値である光補正量を上記シャドウ画素の画像データに加算し、当該加算して得られた値を上記シャドウ画素の補正済画像データとする第2手段とを含むことを特徴とする画像処理装置。
  10. 請求項1から8のいずれか1項に記載の画像処理方法をコンピュータに実行させるための画像処理プログラム。
  11. 請求項10に記載の画像処理プログラムをコンピュータに読み取り可能に記録してなることを特徴とする画像処理プログラムを記録した記録媒体。
JP2002320859A 2002-11-05 2002-11-05 画像処理方法、画像処理装置、画像処理プログラム、および画像処理プログラムを記録した記録媒体 Expired - Fee Related JP4123900B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002320859A JP4123900B2 (ja) 2002-11-05 2002-11-05 画像処理方法、画像処理装置、画像処理プログラム、および画像処理プログラムを記録した記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002320859A JP4123900B2 (ja) 2002-11-05 2002-11-05 画像処理方法、画像処理装置、画像処理プログラム、および画像処理プログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JP2004157641A JP2004157641A (ja) 2004-06-03
JP4123900B2 true JP4123900B2 (ja) 2008-07-23

Family

ID=32801581

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002320859A Expired - Fee Related JP4123900B2 (ja) 2002-11-05 2002-11-05 画像処理方法、画像処理装置、画像処理プログラム、および画像処理プログラムを記録した記録媒体

Country Status (1)

Country Link
JP (1) JP4123900B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006082542A1 (en) * 2005-02-07 2006-08-10 Koninklijke Philips Electronics N.V. Clipping
JP5245648B2 (ja) * 2008-08-27 2013-07-24 カシオ計算機株式会社 画像処理装置、及び、プログラム
JP5321308B2 (ja) * 2009-07-16 2013-10-23 株式会社ニコン 画像処理装置および画像処理プログラム
JP2013025650A (ja) 2011-07-23 2013-02-04 Canon Inc 画像処理装置、画像処理方法およびプログラム
KR101298974B1 (ko) * 2011-09-30 2013-08-23 한국전기연구원 광원 제어 및 영상 보정을 통한 영상 처리 장치 및 방법
JP2014230088A (ja) 2013-05-22 2014-12-08 ソニー株式会社 画像調整装置、画像調整方法、画像調整プログラムおよび撮像装置
JP6485068B2 (ja) * 2014-02-05 2019-03-20 パナソニックIpマネジメント株式会社 画像処理方法および画像処理装置
US11677901B2 (en) * 2019-03-12 2023-06-13 Marmon Foodservice Technologies, Inc. Infrared toaster

Also Published As

Publication number Publication date
JP2004157641A (ja) 2004-06-03

Similar Documents

Publication Publication Date Title
JP4081219B2 (ja) 画像処理方法及び画像処理装置
JP2007096509A (ja) 画像処理装置、および画像処理方法
EP1139284B1 (en) Method and apparatus for performing local color correction
JP2005108194A (ja) 画質調整情報の生成および画質調整情報を用いた画質調整
JP2001186325A (ja) 画像処理方法、装置、記録媒体、及び伝送媒体
JP4066803B2 (ja) 画像処理装置、画像処理プログラム、画像処理方法および電子カメラ
JP2019047169A (ja) ハイダイナミックレンジ画像を作成する装置、方法、及びプログラム
JP4123900B2 (ja) 画像処理方法、画像処理装置、画像処理プログラム、および画像処理プログラムを記録した記録媒体
JPH10111928A (ja) 画像処理方法及び装置
US20040001644A1 (en) Image processing method and system for correcting digital image data from photographic medium
JP2002125130A (ja) 画像処理装置、画像処理方法および画像処理プログラムを記録した記録媒体
JPH11266358A (ja) 画像処理方法
US20040036899A1 (en) Image forming method, image processing apparatus, print producing apparatus and memory medium
JP2020145553A (ja) 画像処理装置、画像処理方法、及びプログラム
US20040184672A1 (en) Image processing method and apparatus for correcting photographic images
JP4143425B2 (ja) 画像処理方法及び装置、並びに画像処理プログラム
JPH11191871A (ja) 画像処理装置
JPH11317863A (ja) 画像処理装置
JP3823865B2 (ja) 画像処理方法、画像処理プログラムおよび画像処理プログラムを記録した記録媒体
JP2009070099A (ja) 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP7507554B2 (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム
US20050129287A1 (en) Image processing method
JP2004133551A (ja) 画像処理方法、画像処理装置、画像処理プログラム、および画像処理プログラムを記録した記録媒体
JP2004215005A (ja) 画像処理装置、シーン判定装置、画像処理方法、シーン判定方法、およびプログラム
JP3823883B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、画像処理プログラムを記録した記録媒体および写真焼付装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040909

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070829

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071106

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080415

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080428

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110516

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110516

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120516

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120516

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130516

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees