JPWO2011132416A1 - 撮像装置及び画像復元方法 - Google Patents

撮像装置及び画像復元方法 Download PDF

Info

Publication number
JPWO2011132416A1
JPWO2011132416A1 JP2011534947A JP2011534947A JPWO2011132416A1 JP WO2011132416 A1 JPWO2011132416 A1 JP WO2011132416A1 JP 2011534947 A JP2011534947 A JP 2011534947A JP 2011534947 A JP2011534947 A JP 2011534947A JP WO2011132416 A1 JPWO2011132416 A1 JP WO2011132416A1
Authority
JP
Japan
Prior art keywords
psf
information
image
gain
component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011534947A
Other languages
English (en)
Other versions
JP4856293B2 (ja
Inventor
大山 一朗
一朗 大山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2011534947A priority Critical patent/JP4856293B2/ja
Application granted granted Critical
Publication of JP4856293B2 publication Critical patent/JP4856293B2/ja
Publication of JPWO2011132416A1 publication Critical patent/JPWO2011132416A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/615Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4" involving a transfer function modelling the optical system, e.g. optical transfer function [OTF], phase transfer function [PhTF] or modulation transfer function [MTF]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

光学系によって撮影されたPSF画像に基づいて劣化画像を復元する場合に、高解像度に劣化画像を復元することができる撮像装置を提供する。撮像装置(10)は、光学系(1)と、光学系(1)により撮影されたPSF(Point Spread Function)情報を取得し、PSF情報を補正することにより修正PSF情報を出力するPSF撮影部(2)と、光学系(1)により撮影された被写体情報を取得し出力する被写体撮影部(5)と、修正PSF情報と被写体情報とに基づき被写体情報の復元演算を行う画像復元部(6)とを有し、PSF撮影部(2)は、PSF情報を周波数領域のデータに変換しOTF(Optical Transfer Function)情報を出力する周波数領域変換部(3)と、OTF情報において、直流成分でない低周波成分のゲインに対する直流成分のゲインの比が小さくなるよう補正する低周波成分ゲイン平滑化部(4)とを有する。

Description

本発明は、撮影時に劣化した画像を、劣化の少ない画像に復元する技術に関する。
撮影時に光学系のピントずれ、ブレ、あるいは収差等の要因で劣化した画像を、劣化の少ない画像に復元する技術の開発が進められている。例えば、特許文献1に開示された技術では、ピントずれ、ブレ、あるいは収差等により劣化した劣化画像(撮影画像)を、ピントずれやブレ、収差等による点広がり関数(PSF:Point Spread Function)の逆特性を持つ補正関数を用いた復元演算により、劣化を補正した復元画像を得ることができる。多くの場合、設計データ等に基づいてコンピュータにより作成されたPSFデータを用いて補正関数が作成される。
また、特許文献2に開示された技術では、PSFデータの作成が困難である場合に、実写して得られたPSFデータを用いて、劣化画像の復元演算を行っている。
特開昭62−127976号公報 特開2009−163642号公報
しかし、設計データ等に基づきコンピュータにより作成されたPSFデータを用いて劣化画像の復元演算を実施した場合、カメラ組立て時の実装誤差が大きいなどの理由によりPSFデータが示すPSFと実際のPSFとの乖離が大きいときに、高解像度な復元画像を得ることができなくなる。そのため、コンピュータにより作成されたPSFデータでなく実際に撮影して得られたPSF画像を用いた画像復元を実施する必要が出てくる場合がある。
また、特許文献2のように、コンピュータにより作成されたPSFデータでなく、点光源を撮影して得られるPSF画像を用いて劣化画像の復元演算を行った場合においても、特にPSF画像を撮影する際の撮像素子の不要輝度(以下、適宜「ノイズ」と記載)が大きい場合には、そのノイズの影響によりPSF画像が示すPSFが実際のPSFと乖離する。その結果、高解像度な復元画像が得られなくなるという課題がある。
そこで、本発明は、上記課題を解決するためになされたものであり、光学系によって撮影されたPSF画像に基づいて劣化画像を復元する場合に、高解像度に劣化画像を復元することができる撮像装置及び画像復元方法を提供することを目的とする。
上記目的を達成するために、本発明の一態様に係る撮像装置は、光学系と、前記光学系により撮影されたPSF(Point Spread Function)情報を取得し、前記PSF情報を補正することにより修正PSF情報を出力するPSF撮影部と、前記光学系により撮影された被写体情報を取得し出力する被写体撮影部と、前記修正PSF情報と前記被写体情報とに基づき前記被写体情報の復元演算を行う画像復元部とを有し、前記PSF撮影部は、前記PSF情報を周波数領域のデータに変換しOTF(Optical Transfer Function)情報を出力する周波数領域変換部と、前記OTF情報において、直流成分でない低周波成分のゲインに対する直流成分のゲインの比が小さくなるよう補正する低周波成分ゲイン平滑化部とを有する。
このように、光学系によって撮影されたPSF情報を周波数領域へ変換したOTF情報において、低周波成分に対する直流成分の比が小さくなるようにOTF情報を補正することにより、PSF画像に含まれるランダムノイズの影響を低下させることができる。その結果、高解像度に劣化画像を復元することが可能となる。
本発明の一態様に係る撮像装置によれば、画像復元演算の際に、撮影PSF画像の不要輝度(特に時系列的に変動するランダムノイズ)が大きい場合であっても、PSF画像の輝度平均値が適正な値になるよう、低周波ゲインに対する直流ゲインの比が小さくなるようにOTF情報を補正することにより、復元情報がより正確になり、高解像度な画像復元が可能となる。
図1は、本発明の実施の形態に係る撮像装置の構成を示すブロック図である。 図2は、本発明の実施の形態における元画像、PSF、劣化画像の関係を説明するための図である。 図3は、本発明の実施の形態におけるPSFの輝度分布を示す図である。 図4は、本発明の実施の形態におけるノイズが復元画像に及ぼす影響を検証するためのシミュレータを示す図である。 図5は、本発明の実施の形態における劣化画像に含まれるノイズと復元画像との関係を説明する図である。 図6は、本発明の実施の形態におけるPSF画像に含まれるノイズと復元画像との関係を説明する図である。 図7は、本発明の実施の形態における劣化画像及びPSF画像に含まれるノイズと復元画像の解像度との関係を説明する図である。 図8は、本発明の実施の形態における理想のPSF情報を示す図である。 図9は、本発明の実施の形態におけるノイズが含まれたPSF情報を示す図である。 図10は、本発明の実施の形態に係る撮像装置の動作を示すフローチャートである。 図11は、本発明の実施の形態におけるPSF情報を示す図である。 図12は、本発明の実施の形態におけるOTF情報を示す図である。 図13は、本発明の実施の形態における復元画像を示す図である。 図14は、本発明の実施の形態における復元画像の解像度を示す図である。
以下、本発明の実施の形態を説明する前に、撮影されたPSF画像の不要輝度(ノイズ)が大きい場合に高解像度な画像復元が困難となる要因について説明する。
図2から図9を用いて、撮影されたPSF画像のノイズが大きい場合に高解像度な画像復元が困難になる要因について説明する。図2(a)に劣化の無い元画像(被写体)を示す。撮影された画像の解像度を測定する際に一般的に用いられるくさび型チャートである。図2(b)に光学系のPSF画像の一例を示す。
光学系のピントずれ、ブレ、あるいは収差等により点像が図2(b)に示すように有限の広がりを持つ。そのため、図2(a)の元画像は、光学系を介することにより、図2(c)に示すような解像度が劣化した劣化画像として撮像素子上に結像される。劣化画像は、元画像と、全画像領域の輝度積分値が「1」になるよう正規化されたPSF画像との畳込み積分により表わされることが知られている。
なお、図3は、図2(b)のPSF画像で輝度が最も大きい部分を含むラインのうち、輝度が最も大きい領域の周辺を拡大した輝度分布である。図3は、PSF画像がノイズを含まない場合の輝度分布である。画像の輝度の表現は、実装するシステムにより異なるが、ここでは「0」を黒、「1.0」を白として表現する。
図4は、撮像素子に結像した被写体像を取込む際に、劣化画像及びPSF画像のそれぞれに混入するノイズが、復元画像の解像度に与える影響を調べるためのシミュレータのブロック図を表わす。シミュレータは、ノイズを含まない劣化画像にノイズを付与する劣化画像ノイズ付与部101と、ノイズを含まないPSF画像にノイズを付与するPSF画像ノイズ付与部102と、画像復元演算部103とを備える。このシミュレータを用いて、劣化画像とPSF画像とのそれぞれに対するノイズの影響を調べることができる。
ノイズはガウスノイズを仮定する。そして、そのガウスノイズの標準偏差σを変動させることにより、ノイズの影響が調べられる。例えば画像位置により時系列的に殆ど変化しない固定値ノイズ(例えば、暗電流ノイズ、または所定のラインもしくは画素位置における撮像素子の製造不良により発生するノイズ等)は、あらかじめそれぞれの画像位置でのノイズ値を調べておくことにより容易に補償可能であるためここでは考慮しない。すなわち、補償が困難な時系列的にランダムに変化するランダムノイズ(ガウスノイズで仮定)のみを考慮して、ノイズの影響を調べている。なお、画像位置とは、画像上の位置であり、典型的には画像を構成する画素の位置である。また、ガウスノイズとは、ノイズ成分の輝度値分布がガウス分布に近似するノイズである。
画像復元演算部103は、画像復元アルゴリズムとして知られているウィナーフィルタあるいはリチャードソン・ルーシー(Richardson−Lucy)アルゴリズム等を用いて画像復元演算を行えばよい。ここでは、画像復元演算部103は、ウィナーフィルタを用いて画像復元演算を行うことにより復元画像を得る構成としている。
ウィナーフィルタHw(u,v)の構成は、例えば非特許文献(「ディジタル画像処理(2004年7月22日 CG−ARTS協会発行)」の146ページ)に記載されている以下の(式1)を用いればよい。
Hw(u,v)=
1/H(u,v)・|H(u,v)|^2/(|H(u,v)|^2+K) (式1)
ここで、H(u,v)はPSF画像のフーリエ変換である光学伝達関数(OTF:Optical Transfer Function)を表わす。また、uはPSF画像の垂直方向の各周波数成分が格納されている配列のアドレスを表わす。また、vはPSF画像の水平方向の各周波数成分が格納されている配列のアドレスを表わす。Kは適当な定数である。
画像復元演算部103は、劣化画像のフーリエ変換データと、ウィナーフィルタHw(u,v)とを各周波数成分毎で乗算し、その乗算結果を逆フーリエ変換することにより復元画像を生成する。被写体としては図2(a)に示したくさび型チャートを用いている。PSF画像としては、図2(b)のPSF画像にPSF画像ノイズ付与部102で必要に応じてノイズを付与した後に全領域における輝度積分値が1となるよう正規化した画像を用いている。
図5の(a)、(b)及び(c)に、図2(c)の劣化画像に、劣化画像ノイズ付与部101で標準偏差σを変動させたガウスノイズを付与した場合の各標準偏差σに対応する復元画像を示す。PSF画像及び劣化画像は、ここでは一例として512×512画素の画像サイズとしている。
具体的には、図5の(a)、(b)及び(c)は、標準偏差σをそれぞれ劣化画像の輝度最大設定値(ここでは「0」を黒、「1.0」を白としているため、輝度最大設定値は「1」である)の0%、0.05%、及び0.3%に設定した場合における復元画像を示す。このときPSF画像にはノイズを付与していない。図5の(a)、(b)及び(c)から明らかなように、標準偏差σを大きくするに従って、復元画像の解像度が若干低下している。なお、輝度最大設定値とは、輝度を示す値のうち最も大きい輝度を示す値である。
図6の(a)、(b)及び(c)に、図2(b)のPSF画像に、PSF画像ノイズ付与部102で標準偏差σを変動させたガウスノイズを付与した場合の、各標準偏差σに対応する復元画像を示す。具体的には、図6の(a)、(b)及び(c)は、ガウスノイズの標準偏差σをそれぞれPSF画像の最大輝度値の0%、0.05%、及び0.3%に設定した場合における復元画像を示す。このとき劣化画像にはノイズを付与していない。図6の(a)、(b)及び(c)から明らかなように、ガウスノイズの標準偏差σを大きくするに従って、復元画像の解像度が顕著に低下している。
なお、PSF画像の最大輝度値とは、PSF画像において、最も大きい輝度を示す画像位置の輝度値である。具体的には、PSF画像の最大輝度値とは、例えば、PSF画像を構成する画素のうち、最も大きい輝度を示す画素の輝度値である。
図7に、ガウスノイズの標準偏差σを変動させた場合の復元画像の解像度の変化を比較した結果を示す。図7において、記号701は劣化画像のみにガウスノイズを与えた場合における復元画像の解像度を表している。また、記号702はPSF画像のみにガウスノイズを与えた場合における復元画像の解像度を表している。
劣化画像に与えるガウスノイズの標準偏差σは輝度最大設定値に対する割合で表している。また、PSF画像に与えるガウスノイズの標準偏差σは最大輝度値に対する割合で表している。ここでは、ガウスノイズをPSF画像に付与する際には、PSF画像は最大輝度値が輝度最大設定値「1.0」となるよう正規化しており、劣化画像及びPSF画像に同等のノイズを付与した条件で比較している。
解像度は、CIPA規格DC−003「デジタルカメラの解像度測定方法」を参照し、CIPAより配布されている解像度測定用ツールHYRes3.1を用いて測定されている。このように測定される解像度は、測定された本数が多いほど高解像度であることを表す。なお、本実施の形態において、劣化画像及びPSF画像のいずれにもガウスノイズを与えない場合に復元される復元画像の解像度は428本である。
図7から分かるように、画像信号とガウスノイズの標準偏差σとの比に依存して復元画像の解像度が変化している。また、劣化画像よりもPSF画像の方が、ガウスノイズの標準偏差σを大きくしていった場合の解像度の低下が著しいことが分かる。
劣化画像のみにガウスノイズを与えた場合は、ガウスノイズの標準偏差σが輝度最大設定値の0.6%以上になると解像度が著しく低下して解像度が0本(測定不能)となっている。一方、PSF画像のみにガウスノイズを与えた場合は、ガウスノイズの標準偏差σが最大輝度値の0.3%以上になると解像度が著しく低下して解像度が0本となっている。
したがって、劣化画像に含まれるノイズよりも、PSF画像に含まれるノイズの方が復元画像に対して大きな悪影響を及ぼすことが分かった。ちなみに、図2(c)の復元前の劣化画像の解像度を測定した場合は、ノイズの有無にかかわらず、収差によるぼけの影響で測定不能という結果になり、解像度は0本である。
PSF画像に含まれるノイズにより復元画像の解像度が大幅に低下する要因を検証した結果を、図8及び図9を用いて説明する。
図8(a)は図2(b)のPSF画像の輝度が最も大きい部分の周辺のラインを拡大した輝度分布を表わしている。ここでは、PSF画像にノイズは含まれていない。
図8(b)はこのノイズを含まないPSF画像をフーリエ変換したOTFのゲインを表わす。図8(b)のOTFは直流成分(周波数「0」)でのゲインが1となるよう正規化されている。図8(b)の横軸は周波数を表し、直流成分(周波数「0」)より右側が正の周波数、左側が負の周波数を表す。図2(b)のPSF画像は輝度最大となる画像位置を中心として対称な輝度分布を持っている例を用いている。そこで、ゲイン分布の見易さを考慮して、図8(b)及びOTFを示す以降の図では、2次元配列であるOTFのうち垂直及び水平方向の直流成分のデータを含む1ラインのみデータを抽出し、表示している。
図9(a)は、図2(b)のPSF画像に、標準偏差σが最大輝度値の0.3%のガウスノイズを付与した画像の、輝度が最も大きい部分の周辺のラインを拡大した輝度分布を表わしている。図9(b)はこのノイズを含んだPSF画像をフーリエ変換したOTFのゲインを表わす。図9(b)のOTFも直流成分(周波数「0」)でのゲインが「1」となるよう正規化されている。
図9(b)では図8(b)と比較して、周波数「0」の成分(直流成分)のゲインが他の周波数成分のゲインと比較して顕著に大きくなっているのが分かる。これは、図2(b)のPSF画像は、輝度の小さい領域が画像全体のうちの大部分を占めており、その輝度の小さい領域にノイズが付与されることにより、ノイズによるPSF画像全体の輝度平均値(=直流成分)が大幅に変動するためと考えられる。
したがって、撮影されたPSF画像のOTFと実際のOTFとの乖離が大きくなることにより、復元画像の解像度が大幅に低下する。なお、メディアンフィルタなどのランダムノイズを低減する一般的なフィルタをPSF画像に作用させても、PSF画像の輝度の小さい領域からランダムノイズを完全に除去することは困難なため、PSF画像全体の輝度平均値の変動を除去することは難しい。
このように、撮影されたPSF画像を用いて劣化画像を復元する場合には、補正が困難なランダムノイズ(ガウスノイズ)の影響でPSF画像の輝度平均値が変動することにより、PSFの周波数成分のうち直流成分が大きく変動し、高解像度な復元画像が得られないという課題が、図4のシミュレータを用いた検討により明らかになった。
そこで、上記の課題を解決することができる、本発明の一態様に係る撮像装置について、以下に説明する。
(実施の形態)
以下、本発明の実施の形態について図面を参照しながら説明する。
図1は、本発明の実施の形態に係る撮像装置の構成の一例を示すブロック図である。撮像装置10は、光学系1と、周波数領域変換部3及び低周波成分ゲイン平滑化部4を含むPSF撮影部2と、被写体撮影部5と、画像復元部6とを備える。
光学系1は被写体像を取得する。具体的には、光学系1は、例えばレンズ及び撮像素子などを含む。光学系1は、点像又は点像に相当する被写体像を撮影することにより、PSF画像I_psf(x,y)を生成する。また、光学系1は、任意の被写体像を撮影することにより、被写体画像I_img(x,y)を生成する。
PSF撮影部2は、光学系1に対応するPSFを取得するために光学系1に点像もしくはそれに相当する被写体像を撮影させ、PSF画像I_psf(x,y)を光学系1から取得し保存する。ここで、xは画像中の垂直方向の画像位置、yは水平方向の画像位置を表わす。
つまり、PSF撮影部2は、PSF情報を取得する。ここで、PSF情報とは、光学系1によって撮影されたPSF画像I_psf(x,y)に基づく情報である。具体的には、PSF情報は、例えば、PSF画像I_psf(x,y)そのものを示す。また例えば、PSF情報は、PSF画像I_psf(x,y)を空間領域から周波数領域へ変換した情報であってもよい。
なお、PSF画像I_psf(x,y)は、ノイズの影響を最小限とするため、最大輝度値が輝度最大設定値「1.0」に近い値となるように撮影された画像であることが好ましい。また、画像位置により時系列的に変化しない既知の固定値ノイズ(例えば、暗電流ノイズ、または所定のラインもしくは画素位置における撮像素子の製造不良により発生するノイズなど)がある場合は、PSF撮影部2は、PSF画像I_psf(x,y)のそれぞれの画像位置であらかじめ調べられた固定値ノイズの輝度値Nf(x,y)を、(式2)のように、PSF画像I_psf(x,y)からを減算する。
Ir1_psf(x,y)=I_psf(x,y)−Nf(x,y) (式2)
ここで、PSF撮影部2は、固定値ノイズの輝度値が減算されたPSF画像Ir1_psf(x,y)で輝度値が負になった画像位置の輝度値を「0」に補正する。
なお、PSF撮影部2は、必ずしも、PSF画像I_psf(x,y)から固定値ノイズの輝度値Nf(x,y)を減算する必要はない。例えば、固定値ノイズが全画像領域でほぼ一定値であることがあらかじめ分かっている場合などには、PSF撮影部2は、PSF画像I_psf(x,y)から固定値ノイズの輝度値Nf(x,y)を減算する必要はない。
以上のように、PSF撮影部2は、PSF情報を取得する。ここで、PSF情報とは、光学系1によって撮影されたPSF画像I_psf(x,y)に基づく情報である。具体的には、PSF情報は、例えば、PSF画像I_psf(x,y)を示す。また例えば、PSF情報は、PSF画像I_psf(x,y)から固定値ノイズの輝度値Nf(x,y)が減算されたPSF画像Ir1_psf(x,y)を示してもよい。
なお、以下において、PSF画像I_psf(x,y)から固定値ノイズの輝度値Nf(x,y)が減算されたPSF画像Ir1_psf(x,y)を単にPSF画像Ir1_psf(x,y)ともいう。
周波数領域変換部3は、PSF画像Ir1_psf(x,y)を、FFT(Fast Fourier Transform)などのフーリエ変換手法を用いて空間領域から周波数領域のデータに変換し、OTF情報H_psf(u,v)を作成する。つまり、周波数領域変換部3は、PSF情報を周波数領域のデータに変換しOTF情報を出力する。具体的には、周波数領域変換部3は、PSF情報が示すPSF画像Ir1_psf(x,y)を空間領域から周波数領域へ変換することにより、OTF情報H_psf(u,v)を出力する。
低周波成分ゲイン平滑化部4は、OOTF情報H_psf(u,v)において、低周波成分のゲインGain_low_freqに対する直流成分のゲインGain_H_psf(u0,v0)の比Gain_H_psf(u0,v0)/Gain_low_freqが小さくなるよう、OTF情報H_psf(u,v)を補正する。
低周波成分のゲインとは、直流成分の周波数を除く、所定の周波数より低い周波数における周波数成分から得られるゲインである。具体的には、低周波成分のゲインとは、直流成分の周波数の近傍の周波数における周波数成分から得られるゲインである。例えば、低周波成分のゲインは、直流成分の周波数に隣接する周波数における周波数成分の平均値である。ここでは低周波成分のゲインGain_low_freqはOTF情報H_psf(u,v)で直流成分の周波数を除き最も小さい周波数における周波数成分のゲインの値が格納されているGain_H_psf(u0,v0+1)とGain_H_psf(u0+1,v0)との平均値とする。
u0は、PSF画像の垂直方向の各周波数成分が格納されている配列の、直流成分の値が格納されているアドレスを表わす。また、v0は、PSF画像の水平方向の各周波数成分が格納されている配列の、直流成分の値が格納されているアドレスを表わす。
こうしてPSF撮影部2は、OTF情報H_psf(u,v)を補正することにより、修正PSF情報Hr_psf(u,v)を出力する。
なお、修正PSF情報Hr_psf(u,v)は必要に応じて正規化処理をして出力される。OTF情報H_psf(u,v)を補正する理由及びGain_H_psf(u0,v0)/Gain_low_freqの設定範囲は後述する。
被写体撮影部5は光学系1で取得した様々な被写体の被写体画像I_img(x,y)を保存する。被写体撮影部5は、必要に応じて、前記固定値ノイズの補償やメディアンフィルタなどのノイズ補償処理を被写体画像I_img(x,y)に施してもよい。
つまり、被写体撮影部5は、光学系1によって撮影された被写体画像I_img(x,y)を取得し、被写体情報を出力する。ここで、被写体情報とは、取得した被写体画像I_img(x,y)に基づく情報である。例えば、被写体情報は、被写体画像I_img(x,y)そのものを示す情報である。また例えば、被写体情報は、被写体画像I_img(x,y)に各種ノイズ補償処理を施した画像を示す情報であってもよい。また例えば、被写体情報は、被写体画像I_img(x,y)又は被写体画像I_img(x,y)に各種ノイズ補償処理を施した画像を空間領域から周波数領域へ変換した情報であってもよい。
画像復元部6は、修正PSF情報と被写体情報とに基づき、ウィナーフィルタ等による画像復元演算を行い、復元画像を作成する。つまり、画像復元部6は、修正PSF情報と被写体情報とに基づき、被写体情報の復元演算を行う。すなわち、画像復元部6は、被写体情報に修正PSF情報を作用させる画像復元演算を行うことにより、被写体情報が示す画像よりも解像度が高い復元画像を生成する。
具体的には、画像復元部6は、例えば、被写体情報が示す被写体画像I_img(x,y)を空間領域から周波数領域へ変換し、変換結果に対して修正PSF情報Hr_psf(u,v)を作用させることにより復元演算を行う。
なお、修正PSF情報Hr_psf(u,v)は、工場出荷時やメンテナンス時などに一度撮影し算出したデータであってもよい。つまり、画像復元部6は、メモリなどの記憶手段を有し、PSF撮影部2によって生成された修正PSF情報Hr_psf(u,v)をあらかじめ保存しておき、保存した修正PSF情報Hr_psf(u,v)を用いて、復元画像を生成すればよい。すなわち、PSF撮影部2は、被写体画像I_img(x,y)が変わる度に必ずしも修正PSF情報Hr_psf(u,v)を生成する必要はない。
次に、以上のように構成された本実施の形態に係る撮像装置における各種動作について説明する。
図10は、前記に説明した本発明の実施の形態に係る撮像装置の動作を示すフローチャートである。具体的には、図10の(a)は、修正PSF情報生成処理の流れを示すフローチャートである。また、図10の(b)は、画像復元処理の流れを示すフローチャートである。上述したように、図10の(a)に示す処理は、図10の(b)に示す処理よりも先に少なくとも1回行われればよく、必ずしも同期して行われる必要はない。
まず、図10の(a)に示すフローチャートについて説明する。
光学系1は、PSF画像I_psf(x,y)を撮影する(S101)。続いて、PSF撮影部2は、式(2)に従って、PSF画像I_psf(x,y)から固定値ノイズの輝度値Nf(x,y)を減算することにより、固定値ノイズの輝度値が減算されたPSF画像Ir1_psf(x,y)を算出する(S102)。
そして、周波数領域変換部3は、固定値ノイズの輝度値を減算されたPSF画像Ir1_psf(x,y)を空間領域から周波数領域へ変換することにより、OTF情報H_psf(u,v)を算出する(S103)。続いて、低周波成分ゲイン平滑化部4は、低周波成分のゲインに対する直流成分のゲインの比率が小さくなるように、OTF情報H_psf(u,v)を補正することにより、修正PSF情報Hr_psf(u,v)を生成する(S104)。最後に、PSF撮影部2は、生成された修正PSF情報Hr_psf(u,v)を正規化し、画像復元部6へ出力する(S105)。
なお、ステップS102の固定値ノイズ減算処理は必ずしも実行される必要はない。例えば、PSF撮影部2は、固定値ノイズが非常に小さい場合や、固定値ノイズが全画像領域でほぼ一定値であることがあらかじめ分かっている場合などには、固定値ノイズ減算処理を実行しなくてもよい。
次に、図10の(b)に示すフローチャートについて説明する。
光学系1は、被写体画像I_img(x,y)を撮影する(S111)。続いて、被写体撮影部5は、ノイズ補償処理後の被写体画像I_img(x,y)にノイズ補償処理を行なう(S112)。最後に、画像復元部6は、ノイズ補償処理後の被写体画像I_img(x,y)と修正PSF情報Hr_psf(u,v)とに基づいて復元演算を行うことにより、復元画像を生成する(S113)。
なお、ステップS112のノイズ補償処理は必ずしも実行される必要はない。
次に、OTF情報H_psfを補正する理由及びGain_H_psf(u0,v0)/Gain_low_freqの設定範囲の説明を行う。以下の説明において、被写体画像I_img(x,y)としては図2(c)に示したくさび型チャートの劣化画像を用いる。PSF画像Ir1_psf(x,y)としては、図2(b)のPSF画像に、標準偏差σが最大輝度値の0.3%であるガウスノイズが付与された画像を用いる(輝度値が負になった画像位置の輝度値は0に補正)。
図11(a)にPSF画像Ir1_psf(x,y)の最大輝度値の位置を含むラインの輝度分布を示す。固定値ノイズを除去しているため、最大輝度値の位置付近では図1の光学系1のPSFに基づく輝度分布を持ち、最大輝度値の位置から離れた位置では輝度値がほぼ「0」になっている。
図11(b)に図11(a)の破線付近を拡大した輝度分布を示す。最大輝度値の位置から離れた位置でもランダムに分布するガウスノイズの影響により微少な輝度分布(微小な輝度値の変動)が存在するのがわかる。
図11(c)にPSF画像Ir1_psf(x,y)をフーリエ変換したOTF情報H_psf(u,v)を示す。図11(c)のOTF情報H_psf(u,v)は直流成分(周波数「0」)でのゲインが「1」となるよう正規化されている。図11(c)を見れば、直流成分が他の周波数成分と比較してゲインが顕著に大きくなっているのが分かる。これは、前述したようにガウスノイズにより、PSF画像Ir1_psf(x,y)全体の輝度平均値が大幅に増加したためと考えられる。
したがって、PSF画像Ir1_psf(x,y)を用いて画像復元演算をした場合には、図11(c)のOTF情報H_psf(u,v)が示すOTFと実際のOTFとの乖離が大きくなることにより、復元画像の解像度が大幅に低下する。そこで、本実施の形態においては、OTF情報H_psf(u,v)の直流成分のゲインと他の周波数のゲインとの乖離を補正し、実際のOTFに近づけることにより、高解像度な画像復元を可能にする。
図12に、Gain_H_psf(u0,v0)/Gain_low_freqが小さくなるようにOTF情報H_psf(u,v)を補正した場合の修正PSF情報Hr_psf(u,v)を示す。図12の修正PSF情報Hr_psf(u,v)は、直流成分(周波数「0」)でのゲインが「1」となるよう正規化されている。図12(a)はGain_H_psf(u0,v0)/Gain_low_freq=1.5となるようにOTF情報H_psf(u,v)を補正した場合の修正PSF情報Hr_psf(u,v)である。また、図12(b)はGain_H_psf(u0,v0)/Gain_low_freq=1.0となるようにOTF情報H_psf(u,v)を補正した場合の修正PSF情報Hr_psf(u,v)である。また、図12(c)はGain_H_psf(u0,v0)/Gain_low_freq=0.67となるようにOTF情報H_psf(u,v)を補正した場合の修正PSF情報Hr_psf(u,v)である。
図13に、図12に示す修正PSF情報を用いて画像復元演算をした時の復元画像を示す。図13(a)はOTF情報H_psf(u,v)を補正しない場合の復元画像を示す。また、図13(b)はGain_H_psf(u0,v0)/Gain_low_freq=1.5となるようにOTF情報H_psf(u,v)を補正した場合の復元画像を示す。また、図13(c)はGain_H_psf(u0,v0)/Gain_low_freq=1.0となるようにOTF情報H_psf(u,v)を補正した場合の復元画像を示す。また、図13(d)はGain_H_psf(u0,v0)/Gain_low_freq=0.67となるようにOTF情報H_psf(u,v)を補正した場合の復元画像を示す。
図13を見れば、Gain_H_psf(u0,v0)/Gain_low_freqが小さくなるようにOTF情報H_psf(u,v)を補正することにより、復元画像の解像度が向上していることが分かる。
図14にGain_H_psf(u0,v0)/Gain_low_freqを変化させた場合の解像度の変化を示す。図14に示すグラフにおいて、縦軸はCIPAより配布されている解像度測定用ツールHYRes3.1を用いて測定した復元画像の解像度を表わし、横軸は修正PSF情報のDCゲイン/低周波ゲイン(=Gain_H_psf(u0,v0)/Gain_low_freq)を表わす。
図14から、DCゲイン/低周波ゲインが0.2から5の間になるようにOTF情報H_psf(u,v)を補正した場合に解像度が向上することが分かる。つまり、低周波成分ゲイン平滑化部4は、OTF情報H_psf(u,v)において、直流成分でない低周波成分のゲインに対する直流成分のゲインの比が0.2倍から5倍の間になるよう補正することが好ましい。
さらに、DCゲイン/低周波ゲインが「0.2」から「2.0」の間になるようにOTF情報H_psf(u,v)を補正した場合に、ガウスノイズが存在しない場合の半分以上の解像度を得られるようになる。つまり、低周波成分ゲイン平滑化部4は、OTF情報H_psf(u,v)において、直流成分でない低周波成分のゲインに対する直流成分のゲインの比が0.2倍から2倍の間になるよう補正することがより好ましい。
さらに、DCゲイン/低周波ゲインが「0.2」から「1.0」の間になるようにOTF情報H_psf(u,v)を補正した場合に、ガウスノイズが存在しない場合と同等の解像度を得られるようになる。つまり、低周波成分ゲイン平滑化部4は、OTF情報H_psf(u,v)において、直流成分でない低周波成分のゲインに対する直流成分のゲインの比が0.2倍から1倍の間になるよう補正することがより好ましい。
DCゲイン/低周波ゲインが「0.2」より小さい場合は、DCゲインが他の周波数成分のゲインに比較して小さくなり過ぎ、補正した修正PSF情報Hr_psf(u,v)が示すOTFと実際のOTFとの乖離が大きくなり過ぎることにより、復元画像の解像度が大幅に低下する。
上記の結果から、図12(b)のようにDCゲイン/低周波ゲインが「1」になるようOTF情報H_psf(u,v)を補正すると、修正PSF情報Hr_psf(u,v)が示すOTFが実際のOTFと近くなるために復元画像の解像度が向上することが分かった。さらに、DCゲイン/低周波ゲインが「1」でなくても上記に示した所定の範囲内となるようにOTF情報H_psf(u,v)を補正するのであれば、復元画像の解像度は向上することが分かった。
以上のように、本発明の実施の形態に係る撮像装置10によれば、画像復元演算の際に、撮影されたPSF画像の不要輝度(特に時系列的に変動するランダムノイズ)が大きい場合であっても、DCゲイン/低周波ゲインが適正な値となるようにOTF情報H_psf(u,v)を補正することにより、画像を復元するためのPSF情報がより正確になり、高解像度な画像復元が可能となる。
なお、PSF撮影部2から出力される修正PSF情報Hr_psf(u,v)は、周波数領域のデータとして説明しているが、修正PSF情報は空間領域のデータであってもよい。例えば、画像復元部6の演算アルゴリズムとして空間領域で演算を行うリチャードソン・ルーシーアルゴリズムを用いる場合などは、PSF撮影部2、必要に応じて修正PSF情報Hr_psf(u,v)を逆フーリエ変換を行って画像領域のデータとして出力してもよい。つまり、PSF撮影部2は、PSF撮影部2の後段の処理に応じて適切なデータ形態に変換して修正PSF情報を出力してもよい。
なお、低周波成分ゲイン平滑化部4は、直流成分を除き最も小さい周波数成分のゲインの平均値を低周波成分のゲインGain_low_freqとして用いているが、これに限定されるわけではない。例えば、低周波成分のゲインGain_low_freqは、直流成分を除き最も小さい周波数におけるゲインの最大値や最小値、その他の低周波成分を含めたゲインの平均値など、直流成分以外の低周波成分のゲインに基づき決定されればよい。
なお、PSF撮影部2は、(式2)の固定値ノイズの輝度値の減算を必ずしも行わなくてもよい。PSF撮影部2は、例えば、固定値ノイズが全画像領域でほぼ一定値である場合などは、固定値ノイズの輝度値の減算を必ずしも行わなくてもよい。つまり、PSF撮影部2は、必要に応じてPSF画像の輝度値から固定値ノイズの輝度値を減算すればよく、固定値ノイズの輝度値の減算は必須の構成ではないことは言うまでもない。
なお、本実施の形態では、PSFの分布が図2(b)のように輝度最大となる画像位置を中心として対称な輝度分布を持っている例を用いて説明しているが、対称でない輝度分布のPSFを持った光学系に対しても適用可能であることは言うまでもない。
以上、本発明の一態様に係る撮像装置10について、実施の形態に基づいて説明したが、本発明は、これらの実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものも、本発明の範囲内に含まれる。
例えば、上記実施の形態において、撮像装置10は、PSF撮影部2を備えていたが、必ずしもPSF撮影部2を備える必要はない。具体的には、撮像装置10は、例えば、あらかじめ生成された修正PSF情報を保存しておけばよい。この場合であっても、撮像装置10は、あらかじめ保存された修正PSF情報と被写体情報とに基づき被写体情報の復元演算を行うことができるので、高解像度に被写体画像を復元することが可能となる。
また、上記実施の形態における撮像装置10が備える構成要素の一部または全部は、1個のシステムLSI(Large Scale Integration:大規模集積回路)から構成されているとしてもよい。例えば、撮像装置10は、PSF撮影部2と被写体撮影部5と画像復元部6とを有するシステムLSIから構成されてもよい。
システムLSIは、複数の構成部を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM(Read Only Memory)、RAM(Ramdom Access Memory)などを含んで構成されるコンピュータシステムである。前記RAMには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムに従って動作することにより、システムLSIは、その機能を達成する。
なお、ここでは、システムLSIとしたが、集積度の違いにより、IC、LSI、スーパーLSI、ウルトラLSIと呼称されることもある。また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)、あるいはLSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適用等が可能性としてありえる。
また、本発明は、このような特徴的な処理部を備える撮像装置として実現することができるだけでなく、撮像装置に含まれる特徴的な処理部をステップとする画像復元方法として実現することもできる。また、画像復元方法に含まれる特徴的な各ステップをコンピュータに実行させるコンピュータプログラムとして実現することもできる。そして、そのようなコンピュータプログラムを、CD−ROM(Compact Disc Read Only Memory)等のコンピュータ読取可能な記録媒体あるいはインターネット等の通信ネットワークを介して流通させることができるのは、言うまでもない。
本発明は、デジタルスチルカメラ、デジタルビデオカメラ、携帯電話用カメラ、監視カメラ、医療用カメラ、望遠鏡、顕微鏡、車載カメラ、ステレオ測距カメラ、立体映像撮影用多眼式カメラ、自由視点映像作成に用いる光線空間取込用カメラ、EDOF(Extended Depth of Field)カメラ、又はFDOF(Flexible Depth of Field) Photographyなど、光学系により被写体像を撮影する撮像装置全般に有用である。
1 光学系
2 PSF撮影部
3 周波数領域変換部
4 低周波成分ゲイン平滑化部
5 被写体撮影部
6 画像復元部
10 撮像装置
101 劣化画像ノイズ付与部
102 PSF画像ノイズ付与部
103 画像復元演算部

Claims (6)

  1. 光学系と、
    前記光学系により撮影されたPSF(Point Spread Function)情報を取得し、前記PSF情報を補正することにより修正PSF情報を出力するPSF撮影部と、
    前記光学系により撮影された被写体情報を取得し出力する被写体撮影部と、
    前記修正PSF情報と前記被写体情報とに基づき前記被写体情報の復元演算を行う画像復元部とを有し、
    前記PSF撮影部は、
    前記PSF情報を周波数領域のデータに変換しOTF(Optical Transfer Function)情報を出力する周波数領域変換部と、
    前記OTF情報において、直流成分でない低周波成分のゲインに対する直流成分のゲインの比が小さくなるよう補正する低周波成分ゲイン平滑化部とを有する
    撮像装置。
  2. 前記低周波成分ゲイン平滑化部は、前記OTF情報において、直流成分でない低周波成分のゲインに対する直流成分のゲインの比が0.2倍から5倍の間になるよう補正する
    請求項1記載の撮像装置。
  3. 前記低周波成分ゲイン平滑化部は、前記OTF情報において、直流成分でない低周波成分のゲインに対する直流成分のゲインの比が0.2倍から1倍の間になるよう補正する
    請求項1記載の撮像装置。
  4. 光学系と、
    前記光学系により撮影された被写体情報を取得し出力する被写体撮影部と、
    あらかじめ保存された修正PSF(Point Spread Function)情報と前記被写体情報とに基づき前記被写体情報の復元演算を行う画像復元部とを有し、
    前記修正PSF情報は、前記光学系により撮影されたPSF情報を周波数領域のデータに変換したOTF(Optical Transfer Function)情報において、直流成分でない低周波成分のゲインに対する直流成分のゲインの比が小さくなるよう補正することにより生成された情報である
    撮像装置。
  5. 光学系により撮影されたPSF(Point Spread Function)情報を取得し、前記PSF情報を補正することにより修正PSF情報を出力するPSF撮影ステップと、
    前記光学系により撮影された被写体情報を取得し出力する被写体撮影ステップと、
    前記修正PSF情報と前記被写体情報とに基づき前記被写体情報の復元演算を行う画像復元ステップとを有し、
    前記PSF撮影ステップは、
    前記PSF情報を周波数領域のデータに変換しOTF情報を出力する周波数領域変換サブステップと、
    前記OTF情報において、直流成分でない低周波成分のゲインに対する直流成分のゲインの比が小さくなるよう補正する低周波成分ゲイン平滑化サブステップとを有する
    画像復元方法。
  6. 請求項5に記載の画像復元方法をコンピュータに実行させるためのプログラム。
JP2011534947A 2010-04-23 2011-04-20 撮像装置及び画像復元方法 Active JP4856293B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011534947A JP4856293B2 (ja) 2010-04-23 2011-04-20 撮像装置及び画像復元方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010100408 2010-04-23
JP2010100408 2010-04-23
PCT/JP2011/002316 WO2011132416A1 (ja) 2010-04-23 2011-04-20 撮像装置及び画像復元方法
JP2011534947A JP4856293B2 (ja) 2010-04-23 2011-04-20 撮像装置及び画像復元方法

Publications (2)

Publication Number Publication Date
JP4856293B2 JP4856293B2 (ja) 2012-01-18
JPWO2011132416A1 true JPWO2011132416A1 (ja) 2013-07-18

Family

ID=44833957

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011534947A Active JP4856293B2 (ja) 2010-04-23 2011-04-20 撮像装置及び画像復元方法

Country Status (4)

Country Link
US (1) US20120070096A1 (ja)
JP (1) JP4856293B2 (ja)
CN (1) CN102422321B (ja)
WO (1) WO2011132416A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8606032B2 (en) * 2009-12-23 2013-12-10 Sony Corporation Image processing method, device and program to process a moving image
JP5361976B2 (ja) * 2011-08-25 2013-12-04 キヤノン株式会社 画像処理プログラム、画像処理方法、画像処理装置及び撮像装置
US9373023B2 (en) * 2012-02-22 2016-06-21 Sri International Method and apparatus for robustly collecting facial, ocular, and iris images using a single sensor
US20130300912A1 (en) * 2012-05-14 2013-11-14 Ricoh Innovations, Inc. Dictionary Learning for Incoherent Sampling
JP6318520B2 (ja) * 2013-09-27 2018-05-09 株式会社リコー 撮像装置、撮像システムおよび撮像方法
CN104580879B (zh) * 2013-10-09 2018-01-12 佳能株式会社 图像处理设备、图像拾取设备以及图像处理方法
JP5819925B2 (ja) * 2013-12-25 2015-11-24 ウイングアーク1st株式会社 コード読取装置およびコード読取用プログラム
CN103886596B (zh) * 2014-03-19 2016-08-31 江苏大学 一种基于深度图像骨架端点分析的生猪行走步频提取方法
CN109460690B (zh) * 2017-09-01 2022-10-14 虹软科技股份有限公司 一种用于模式识别的方法和装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6097856A (en) * 1998-07-10 2000-08-01 Welch Allyn, Inc. Apparatus and method for reducing imaging errors in imaging systems having an extended depth of field
JP4370780B2 (ja) * 2002-12-25 2009-11-25 株式会社ニコン ブレ補正カメラシステム、ブレ補正カメラ、画像回復装置及びブレ補正プログラム
CN100592763C (zh) * 2007-02-15 2010-02-24 北京思比科微电子技术有限公司 对图像亮度进行调整的方法和装置
JP5060967B2 (ja) * 2008-01-09 2012-10-31 ライトロン株式会社 劣化した画像を復元する装置、方法およびプログラム
JP5261796B2 (ja) * 2008-02-05 2013-08-14 富士フイルム株式会社 撮像装置、撮像方法、画像処理装置、画像処理方法、およびプログラム
JP4618355B2 (ja) * 2008-09-25 2011-01-26 ソニー株式会社 画像処理装置及び画像処理方法

Also Published As

Publication number Publication date
JP4856293B2 (ja) 2012-01-18
CN102422321A (zh) 2012-04-18
CN102422321B (zh) 2015-01-07
US20120070096A1 (en) 2012-03-22
WO2011132416A1 (ja) 2011-10-27

Similar Documents

Publication Publication Date Title
JP4856293B2 (ja) 撮像装置及び画像復元方法
JP4847633B2 (ja) 撮像装置及び画像復元方法
EP3620989A1 (en) Information processing method, information processing apparatus, and program
JP2009207118A (ja) 撮像装置及びぶれ補正方法
WO2011010438A1 (ja) 視差検出装置、測距装置及び視差検出方法
JP5672527B2 (ja) 画像処理装置及び画像処理方法
US10846839B2 (en) Image processing apparatus, image processing method, and storage medium
JP2014146107A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
WO2015133593A1 (en) Image processing method, image processing apparatus, image capturing apparatus, image processing program and non-transitory computer-readable storage medium
JP2015115733A (ja) 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
US10748252B2 (en) Method and device for image correction
US10628928B2 (en) Image processing apparatus, image processing method, and storage medium for gain adjustment
EP4109396A1 (en) Image de-blurring
JP4927005B2 (ja) 変化要因情報のデータの生成法および信号処理装置
Tezaur et al. A system for estimating optics blur psfs from test chart images
JP2018067868A (ja) 撮像装置
JP2015091072A (ja) 撮像装置及びこの撮像装置を備えた撮像システム及び偽色除去方法
JP2015119428A (ja) 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体
JP6189172B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2015090998A (ja) 撮像装置及び画像補正方法
WO2009110184A1 (ja) 変化要因情報のデータの生成法および信号処理装置
JP2015109562A (ja) 画像処理装置、撮像装置、制御方法、及びプログラム
JP6216667B2 (ja) 画像処理装置
JP5065099B2 (ja) 変化要因情報のデータの生成法および信号処理装置
JP2015115632A (ja) 撮像装置及び画像補正方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20110926

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111004

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111027

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141104

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4856293

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150