JP4798221B2 - 画像の歪曲補正方法、歪曲補正プログラム、及び光学装置 - Google Patents

画像の歪曲補正方法、歪曲補正プログラム、及び光学装置 Download PDF

Info

Publication number
JP4798221B2
JP4798221B2 JP2008514372A JP2008514372A JP4798221B2 JP 4798221 B2 JP4798221 B2 JP 4798221B2 JP 2008514372 A JP2008514372 A JP 2008514372A JP 2008514372 A JP2008514372 A JP 2008514372A JP 4798221 B2 JP4798221 B2 JP 4798221B2
Authority
JP
Japan
Prior art keywords
distortion
distortion correction
correction
lens
aberration
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008514372A
Other languages
English (en)
Other versions
JPWO2007129444A1 (ja
Inventor
司 村田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2008514372A priority Critical patent/JP4798221B2/ja
Publication of JPWO2007129444A1 publication Critical patent/JPWO2007129444A1/ja
Application granted granted Critical
Publication of JP4798221B2 publication Critical patent/JP4798221B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • G06T3/047Fisheye or wide-angle transformations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/663Remote control of cameras or camera parts, e.g. by remote control devices for controlling interchangeable camera parts based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Lenses (AREA)

Description

本発明は、ディジタルカメラや画像処理ソフトウエアなどに適用される歪曲補正方法、歪曲補正プログラムに関する。また、本発明は、ディジタルカメラ、交換レンズ、カメラシステムなど、撮影用の光学系を備えた光学装置に関する。
ディジタルカメラなどで撮影した画像を歪曲補正する画像処理技術が知られている(特許文献1,特許文献2,非特許文献1等を参照)。その歪曲補正では、画像上の歪曲量分布が既知となっている必要がある。
撮影用のレンズが画像に与える歪曲量Dは、理想像点の像高を 0 、実際の像点の像高をとすると、以下の式で表される。
D=100×(Y−Y0)/Y0[%]
この歪曲量Dの画像上の分布は、以下のとおり像高比r(=像高/最高像高)の関数で近似することができる。
D(r)≡a1r+a22+a33+a44+a55+a66+…
一般的には、この関数の項数を以下のとおり次数を3に抑えたとしても十分に良い近似ができると考えられている。
D(r)≡a1r+a22+a33
因みに、この関数の係数a1,a2,a3は、レンズの種類(仕様)によって異なるだけでなく、撮影時のレンズポジション(焦点距離fと焦点位置dとの組み合わせ)によっても変化する。
このため、特許文献1に記載のカメラには、歪曲補正情報として、係数a1,a2,a3をレンズポジション毎に格納したテーブルが予め用意されている。画像の撮影時、レンズポジションに応じてカメラがこのテーブルを参照すれば、画像上の歪曲量分布を簡単に推測することができる。
一方、特許文献2には、モニタ上に画像を表示しながらオペレータに対し歪曲補正の補正特性を設定させ、その設定下で歪曲補正を実行するプリンタが開示されている。このプリンタによれば、オペレータが各画像に対し所望の歪曲補正を施すことができる。
特開2003−110847号公報 特開平11−331543号公報 高橋友刀,「レンズ設計」,東海大学出版会,P127,1994年3月20日
しかしながら、特許文献1に記載のカメラでは、一部のレンズポジションで撮影した画像については歪曲量分布の推測精度が悪くなり、歪曲補正の精度が低下し、補正結果が好ましくならない可能性がある。これを防ぐには、テーブルの情報量を増やさなければならない。
一方、特許文献2に記載のプリンタでは、歪曲補正の良否がオペレータの感覚に左右される。また、たとえ熟練したオペレータであっても、画像の歪曲量分布が複雑なとき(陣笠型の歪曲収差が発生しているときなど)には、それを完全に補正することは難しい。また、歪曲補正に手間と時間が掛かる。
そこで本発明は、歪曲補正情報の情報量を抑えながら確実かつ良好な歪曲補正を行うことのできる歪曲補正方法、歪曲補正プログラム、及び光学装置を提供することを目的とする。
本発明の歪曲補正方法は、撮影用の光学系の歪曲収差をそのレンズポジションの関数で表し、その係数の情報を前記光学系の歪曲補正情報として予め用意する用意手順と、前記光学系で撮影した画像の歪曲を、その撮影時のレンズポジションと、前記用意された前記歪曲補正情報とに基づき補正する補正手順とを含む歪曲補正方法であって、前記用意手順では、2箇所以上のレンズポジションにおける残留収差がそれぞれ適切に制御されるように前記係数を最適化することを特徴とする。
なお、前記係数の最適化では、前記2箇所以上のレンズポジションにおける残留収差の大きさのバランスを制御してもよい。
また、前記2箇所以上のレンズポジションにおける残留収差の大きさは、前記2箇所以上のレンズポジションにおける前記補正前の収差タイプに応じて設定されてもよい。
また、前記2箇所以上のレンズポジションにおける残留収差の大きさは、前記2箇所以上のレンズポジションにおける残留収差のタイプに応じて設定されてもよい。
また、前記2箇所以上のレンズポジションにおける残留収差の大きさは、前記2箇所以上のレンズポジションにおける像高毎に設定されてもよい。
また、前記用意手順では、前記最適化後の前記係数を、前記2箇所以上のレンズポジションにおける残留収差が目標残留収差となるように補正してもよい。
また、前記係数の最適化では、前記2箇所以上のレンズポジションにおける残留収差が目標残収差に近づくように制御してもよい。
また、前記2箇所以上のレンズポジションにおける目標残留収差は、前記2箇所以上のレンズポジションにおける前記補正前の収差に応じて設定されてもよい。
また、前記補正前の収差タイプが陣笠型であるレンズポジションにおける目標残留収差は、非陣笠型に設定されてもよい。
また、前記補正前の収差タイプが樽型であるレンズポジションにおける目標残留収差は、前記補正前よりも歪曲量の大きさが小さい樽型に設定されてもよい。
また、前記補正前の収差タイプが糸巻型であるレンズポジションにおける目標残留収差は、前記補正前よりも歪曲量の大きさが小さい樽型、又は前記補正前よりも歪曲量の大きさが小さい糸巻き型に設定されてもよい。
また、前記用意手順では、前記歪曲の補正時に使用される前記レンズポジションの値に誤差が含まれる可能性を想定してもよい。
また、前記用意手順では、前記歪曲の補正時に使用される前記レンズポジションの値に誤差が含まれていたとしてもその補正が過剰補正とならないように前記最適化後の前記係数を補正してもよい。
また、本発明の歪曲補正プログラムは、撮影用の光学系の歪曲収差をそのレンズポジションの関数で表したときの係数の情報を、前記光学系の歪曲補正情報として予め用意する用意手順と、前記光学系で撮影した画像の歪曲を、その撮影時のレンズポジションと、前記用意された前記歪曲補正情報とに基づき補正する補正手順とをコンピュータに実行させる歪曲補正プログラムであって、前記係数は、2箇所以上のレンズポジションにおける残留収差の大きさのバランスが制御されるように予め最適化されていることを特徴とする。
なお、前記係数は、前記2箇所以上のレンズポジションにおける残留収差の大きさが前記2箇所以上のレンズポジションにおける前記補正前の収差タイプに依存するように予め最適化されていてもよい。
また、前記係数は、前記2箇所以上のレンズポジションにおける残留収差の大きさが前記2箇所以上のレンズポジションにおける残留収差のタイプに依存するように予め最適化されていてもよい。
また、前記係数は、前記2箇所以上のレンズポジションにおける残留収差の大きさが前記2箇所以上のレンズポジションにおける像高に依存するように予め最適化されていてもよい。
また、前記係数は、前記2箇所以上のレンズポジションにおける残留収差が目標残収差に近づくように予め最適化されていてもよい。
また、前記2箇所以上のレンズポジションにおける目標残留収差は、前記2箇所以上のレンズポジションにおける前記補正前の収差に依存してもよい。
また、前記補正前の収差タイプが陣笠型であるレンズポジションにおける目標残留収差は、非陣笠型であってもよい。
また、前記補正前の収差タイプが樽型であるレンズポジションにおける目標残留収差は、前記補正前よりも歪曲量の大きさが小さい樽型であってもよい。
また、前記補正前の収差タイプが糸巻型であるレンズポジションにおける目標残留収差は、前記補正前よりも歪曲量の大きさが小さい樽型、又は前記補正前よりも歪曲量の大きさが小さい糸巻き型であってもよい。
また、前記係数は、前記歪曲の補正時に使用される前記レンズポジションの値に誤差が含まれていたとしてもその補正が過剰補正とならないように予め最適化されていてもよい。
また、本発明の光学装置は、撮影用の光学系を備えると共に、前記光学系の歪曲収差をそのレンズポジションの関数で表したときの係数の情報を、前記光学系で撮影した画像の歪曲を補正するときに使用すべき歪曲補正情報として予め記憶した光学装置であって、前記係数は、2箇所以上のレンズポジションにおける残留収差の大きさのバランスが制御されるように予め最適化されていてもよい。
なお、前記係数は、前記2箇所以上のレンズポジションにおける残留収差の大きさが前記2箇所以上のレンズポジションにおける前記補正前の収差タイプに依存するように予め最適化されていてもよい。
また、前記係数は、前記2箇所以上のレンズポジションにおける残留収差の大きさが前記2箇所以上のレンズポジションにおける残留収差のタイプに依存するように予め最適化されていてもよい。
また、前記係数は、前記2箇所以上のレンズポジションにおける残留収差の大きさが前記2箇所以上のレンズポジションにおける像高に依存するように予め最適化されていてもよい。
また、前記係数は、前記2箇所以上のレンズポジションにおける残留収差が目標残収差に近づくように予め最適化されていてもよい。
また、前記2箇所以上のレンズポジションにおける目標残留収差は、前記2箇所以上のレンズポジションにおける前記補正前の収差に依存してもよい。
また、前記補正前の収差タイプが陣笠型であるレンズポジションにおける目標残留収差は、非陣笠型であってもよい。
また、前記補正前の収差タイプが樽型であるレンズポジションにおける目標残留収差は、前記補正前よりも歪曲量の大きさが小さい樽型であってもよい。
また、前記補正前の収差タイプが糸巻型であるレンズポジションにおける目標残留収差は、前記補正前よりも歪曲量の大きさが小さい樽型、又は前記補正前よりも歪曲量の大きさが小さい糸巻き型であってもよい。
また、前記係数は、前記歪曲の補正時に前記係数と共に使用される前記レンズポジションの値に誤差が含まれていたとしても、その補正が過剰補正とならないように予め最適化されていてもよい。
また、本発明の何れかの光学装置は、前記撮影用の光学系を備え、かつ前記歪曲補正情報を予め記憶した交換レンズと、前記交換レンズに対し着脱可能であり、かつ前記交換レンズが予め記憶した前記歪曲補正情報を読み取ることの可能なカメラとからなることを特徴とする(この光学装置は、カメラシステムに対応する。)。
本発明によれば、歪曲補正情報の情報量を抑えながら確実かつ良好な歪曲補正を行うことのできる歪曲補正方法、歪曲補正プログラム、及び光学装置が実現する。
[第1実施形態]
以下、本発明の第1実施形態を説明する。本実施形態は、歪曲補正情報を用意する方法の実施形態である。歪曲補正情報は、ソフトウエアやディジタルカメラなどの歪曲補正に必要なものであり、撮影用のレンズの種類(仕様)に固有なので、その用意は、レンズの製造者によって行われる。
図1は、或るレンズの或るレンズポジションにおける歪曲収差データである。図1において、横軸は像高比rであり、縦軸は歪曲量Dである。本発明者は、この歪曲量Dは、像高比rの関数(1)で良好に近似することができると考えた(但し、A,B,Cは係数)。
D(r)≡Ar4+Br3+Cr2 …(1)
また、この関数(1)の係数A,B,Cは、レンズのレンズポジション(焦点位置d,焦点距離fの組み合わせ)により異なる。係数Aの -1 -1 方向の分布、係数Bの -1 -1 方向の分布、係数Cの -1 -1 方向の分布は、それぞれ、図2(A),(B),(C)に点線で示すとおり、滑らかな曲面SA,SB,SCで表すことができる(但し、図2に示した曲線の形状は、一例であって、実際の形状はこれと同じになるとは限らない。)。
そこで、本実施形態では、係数A,B,Cのそれぞれを、 -1 -1 の関数(A),(B),(C)で表すことを考える。
Figure 0004798221
以下、これらの関数(A),(B),(C)を「係数用関数」といい、上述した関数(1)を「歪曲量関数」という。
係数用関数(A)は、d,fの次数の組み合わせの異なる9組の項からなり、9組の係数Γ00,Γ01,Γ02,Γ10,Γ11,Γ12,Γ20,Γ21,Γ22を含む。
係数用関数(B)は、d,fの次数の組み合わせの異なる9組の項からなり、9組の係数Δ00,Δ01,Δ02,Δ10,Δ11,Δ12,Δ20,Δ21,Δ22を含む。
係数用関数(C)は、d,fの次数の組み合わせの異なる9組の項からなり、9組の係数Λ00,Λ01,Λ02,Λ10,Λ11,Λ12,Λ20,Λ21,Λ22を含む。
このとき、歪曲量関数(1)は、以下の式(2)のとおり、27組の係数Γ00,Γ01,Γ02,Γ10,Γ11,Γ12,Γ20,Γ21,Γ22,Δ00,Δ01,Δ02,Δ10,Δ11,Δ12,Δ20,Δ21,Δ22,Λ00,Λ01,Λ02,Λ10,Λ11,Λ12,Λ20,Λ21,Λ22で表されることになる。
Figure 0004798221
そこで、本実施形態の製造者は、これら27組の係数の値を、上述したレンズの歪曲補正情報として用意する。
因みに、このレンズで撮影された画像の歪曲補正では、歪曲補正情報に含まれる27組の係数の値を歪曲量関数(2)に当てはめて推測式を取得し、その推測式へ画像の撮影時のレンズポジションf,dの値を当てはめることにより画像の歪曲量分布を既知とし、その歪曲量分布がゼロとなるように(つまり、その歪曲量分布を補正特性として)歪曲補正を行えばよい。
さて、本実施形態の製造者は、先ず、上述したレンズの各レンズポジションf,dにおける歪曲収差データを用意する。この歪曲収差データは、レンズの設計データに基づくシミュレーションによって得たものであっても、レンズの実測データであってもよいが、なるべく詳細なデータであることが望ましい。この歪曲収差データを利用し、製造者は、27組の係数の値を最適化する。この最適化処理には、コンピュータが使用される。このコンピュータには、歪曲収差データが予め製造者によって入力されており、また、以下の手順を実行するための最適化処理プログラムがインストールされている。
図3は、最適化処理を簡略化して示すフローチャートである。
図3に示すとおり、最適化処理では、コンピュータは、最初に27組の係数を初期値に設定し(ステップS11)、続いて、それら係数の評価値Sを算出し(ステップS12)、その評価値Sが小さくなるように27組の係数の値の組み合わせを繰り返し少しずつ修正する(ステップS13,S14)。その後、評価値Sが十分に小さくなると(ステップS13YES)、その時点における27組の係数の値を歪曲補正情報として記憶し(ステップS15)、最適化処理を終了する。以下、初期値の設定(ステップS11)と、評価値Sの算出(ステップS12)とを順に詳しく説明する。
初期値の設定(ステップS11);
本ステップでは、先ず、コンピュータは、或るレンズポジションf,dにおける歪曲収差データを、上述した歪曲量関数(1)に対しフィッティングし(例えば、最小二乗法によるフィッティングである。)、係数A,B,Cの値を取得する。さらに、コンピュータは、このような係数A,B,Cの値の取得を、全レンズポジションf,dについてそれぞれ行う。
続いて、コンピュータは、全レンズポジションf,dにおける係数Aの値を、上述した係数用関数(A)に対しフィッティングし、9組の係数Γの値を取得する。また、全レンズポジションf,dにおける係数Bの値を、係数用関数(B)に対しフィッティングし、9組の係数Δの値を取得する。また、全レンズポジションf,dにおける係数Cの値を、係数用関数(C)に対しフィッティングし、9組の係数Λの値を取得する。このようにして取得された27組の係数の値が、初期値として設定される。
評価値Sの算出(ステップS12);
本ステップでは、先ず、コンピュータは、27組の係数の値を歪曲量関数(2)に当てはめ、推測式を取得すると共に、その推測式により、或るレンズポジションf,dの歪曲量D(f,d,r)を推測する。以下、この歪曲量D(f,d,r)を、「推測歪曲量Dexp(f,d,r)」とおく。
また、コンピュータは、歪曲収差データから、前記レンズポジションf,dにおける実際の歪曲量D(f,d,r)を参照する。以下、この歪曲量D(f,d,r)を、「固有歪曲量Dlen(f,d,r)」とおく。
そして、コンピュータは、推測歪曲量Dexp(f,d,r)と固有歪曲量Dlen(f,d,r)との差{Dlen(f,d,r)−Dexp(f,d,r)}を算出する。この差{Dlen(f,d,r)−Dexp(f,d,r)}は、27組の係数が前記レンズポジションf,dにもたらす推測誤差であって、前記レンズポジションf,dで撮影した画像を前記27組の係数に基づき歪曲補正したときに残る歪曲量である。そこで、以下では、この差{Dlen(f,d,r)−Dexp(f,d,r)}を、「残留収差量δD(f,d,r)」とおく。
さらに、コンピュータは、このような残留収差量δD(f,d,r)の算出を、全レンズポジションについてそれぞれ行う。そして、コンピュータは、全レンズポジションのトータルの残留収差量を、27組の係数の評価値Sとして算出する。評価値Sの算出式は、以下の式(3)のとおりである(以上、ステップS12の説明)。
Figure 0004798221
すなわち、本実施形態の最適化処理では、先ず、27組の係数は、それぞれ初期値に設定される(ステップS11)。但し、このとき、9組の係数Γの初期値と、9組の係数Δの初期値と、9組の係数Λの初期値とは、互いに独立したフィッティングで算出される。このため、ステップS12〜S14のループの開始当初は、一部のレンズポジションにおいて残留収差量δD(f,d,r)が大きくなっている可能性がある。
しかし、上述したステップS12〜S14のループは、式(3)で表される評価値Sを小さくする方向に働く。つまり、各レンズポジションにおける残留収差量δD(f,d,r)をそれぞれゼロに近づける方向に働く。よって、このループが十分な回数だけ繰り返されると、27組の係数の値は、全レンズポジションにおける残留収差量δDの大きさをそれぞれ均等に抑えるような値へと収束する。その結果、全レンズポジションにとって良好な歪曲補正情報(27組の係数の値)が用意される。
したがって、本実施形態で用意した歪曲補正情報は、歪曲補正情報の情報量が少ないにも拘わらず、全レンズポジションに関する歪曲補正を、それぞれ確実かつ良好に行うことができる。
また、本実施形態では、レンズの焦点距離fと焦点位置dとの双方が可変であることを前提としたが、レンズが単焦点レンズである場合はfが不変なので、上述した係数A,B,Cがdのみの関数で近似される。このとき、係数用関数(A),(B),(C)の項数はそれぞれ3となり、歪曲補正情報は、9組の係数から構成されることになる。
なお、本実施形態では、最適化処理をコンピュータが実行したが、この処理の一部又は全部を、製造者が手計算で行ってもよい。
[第2実施形態]
以下、本発明の第2実施形態を説明する。本実施形態は、第1実施形態の変形例である。ここでは、第1実施形態との相違点のみ説明する。
相違点は、評価値Sの算出式として、上述した式(3)の代わりに以下の式(4)を用いる点にある。
Figure 0004798221
(4)において、ζ(f,d,r)は重み係数であり、レンズポジション毎かつ像高比毎に設定される。本実施形態では、簡単のため、重み係数ζ(f,d,r)を、レンズポジションf,dのみの関数とし、同じレンズポジションであれば像高比rによらず一定の値とする。このとき、重み係数ζ(f,d,r)が大きいレンズポジションほど、最適化後の残留収差量δD(f,d,r)が小さくなる。
そこで、本実施形態では、高い補正精度が必要なレンズポジションでは重み係数ζ(f,d,r)を大きく設定し、高い補正精度を必要としないレンズポジションでは重み係数ζ(f,d,r)を小さく設定する。こうすることで、トータルの残留収差を第1実施形態と同程度に抑えながら、一部のレンズポジションの補正精度を効率的に高めることができる。
ここで、高い補正精度が必要なレンズポジションは、例えば、固有歪曲量Dlen(f,d,r)のタイプが陣笠型であるようなレンズポジションである。なぜなら、陣笠型の歪曲量分布は、同じ補正精度で歪曲補正を行っても、他のタイプの歪曲量分布と比較すると、補正後の画像に違和感を残す可能性が高いと考えられる。
一方、高い補正精度を必要としないレンズポジションは、例えば、固有歪曲量Dlen(f,d,r)のタイプが樽型であるようなレンズポジションである。なぜなら、一般に、樽型の歪曲量分布は、同じ補正精度で歪曲補正を行っても、他のタイプの歪曲量分布と比較すると、補正後の画像に違和感を残す可能性が低いと考えられる。
そこで、本実施形態では、各レンズポジションの重み係数ζを、各レンズポジションの固有歪曲量Dlen(f,d,r)のタイプに応じて、次式(5)のとおり定義する。
Figure 0004798221
(5)の定義をグラフで表すと、図4のとおりとなる。図4(A)に示すように、固有歪曲量Dlen(f,d,r)のタイプが樽型であるレンズポジションでは、重み係数ζは小さい値ζa(ζa≪1)を採り、図4(B)に示すように、固有歪曲量Dlen(f,d,r)のタイプが糸巻型であるレンズポジションでは、重み係数ζは若干大きい値ζb(ζa<ζb<1)を採り、図4(C)に示すように、固有歪曲量Dlen(r)のタイプが陣笠型であるレンズポジションでは、重み係数ζは大きい値ζc(ζb<ζc<1)を採る。
したがって、本実施形態で用意された歪曲補正情報(27組の係数)によれば、歪曲量の推測や補正に何の工夫を施さなくとも(27組の係数の値を歪曲量関数(2)に当てはめてできる推測式で歪曲補正を行うだけで)、各レンズポジションでの歪曲補正の精度を、各レンズポジションでの歪曲量分布のタイプに応じて制御することができる。
具体的には、歪曲補正前の画像の歪曲量分布のタイプが陣笠型であるときには歪曲補正の精度は高くなり、歪曲補正前の画像の歪曲分布のタイプが糸巻型であるときには歪曲補正の精度は中程度になり、歪曲補正前の画像の歪曲量分布が樽型であるときには歪曲補正の精度は低くなる。
なお、本実施形態では、各レンズポジションの重み係数ζ(f,d,r)を、各レンズポジションの固有歪曲量Dlen(f,d,r)のタイプで定義したが、固有歪曲量Dlen(f,d,r)の大きさで定義してもよく、固有歪曲量Dlen(f,d,r)の大きさとタイプの組み合わせで定義してもよい。
また、本実施形態では、各レンズポジションの重み係数ζ(f,d,r)を、各レンズポジションの固有歪曲量Dlen(f,d,r)で定義したが、固有歪曲量Dlen(f,d,r)、残留収差量δD(f,d,r)の何れか1つ又は2つで定義してもよい。以下、重み係数ζ(f,d,r)の定義方法の例を幾つか示す。
<定義1>各レンズポジションの重み係数ζ(f,d,r)を、各レンズポジションの残留収差量δD(f,d,r)のタイプで定義するもの(例えば、式(6)参照)。
Figure 0004798221
<定義2>各レンズポジションの重み係数ζ(f,d,r)を、各レンズポジションの固有歪曲量Dlen(f,d,r)のタイプと残留収差量δD(f,d,r)のタイプとの組み合わせで定義するもの(例えば、式(7)参照)。
Figure 0004798221
なお、各レンズポジションの推測歪曲量Dexp(f,d,r)及び残留収差量δD(f,d,r)は、レンズポジションだけでなく設定中の係数(27組の係数の組み合わせ)にも依存するので、定義1,2の何れかを採用する場合は、ステップS14にて係数が修正される毎に重み係数ζ(f,d,r)を設定し直す必要がある。
因みに、式(6)の定義を採用すると、歪曲補正後の歪曲量分布が好ましくないときほど(樽型よりも糸巻型、糸巻型よりも陣笠型)、歪曲補正の精度が高くなる。
また、式(7)の定義を採用すると、歪曲量分布が歪曲補正前後に目立ちにくいもの(樽型)から目立ちやすいもの(非樽型)へと変化するときに、歪曲補正の精度が高くなり、目立ちやすいもの(陣笠型)から目立ちにくいもの(非陣笠型)へと変化するときに、歪曲補正の補正精度が低くなる。
また、本実施形態では、重み係数ζ(f,d,r)をレンズポジションf,dのみの関数としたが、レンズポジションf,d及び像高比rの関数としてもよい。
例えば、式(7)の定義を採用し、特に、固有歪曲量Dlen(f,d,r)が樽型でありかつ残留収差量δD(f,d,r)が陣笠型のときには、歪曲補正後の画像の周辺部に特に強い違和感が生じるので、図5に示すとおり、重み係数ζを像高比rに依存させ、像高比rが大きいときに重み係数ζの値を大きくすると効果的である。
[第3実施形態]
以下、本発明の第3実施形態を説明する。本実施形態は、第2実施形態の変形例である。ここでは、第2実施形態との相違点のみ説明する。
図6は、本実施形態の最適化処理のフローチャートである。
相違点は、歪曲補正後の画像の歪曲量分布をゼロに近づける代わりに、意図的な歪曲量分布に近づける点にある。以下、この意図的な歪曲量分布を、「目標残留収差量」という。目標残留収差量DTarget(f,d,r)の情報は、製造者からコンピュータへと予め入力されている。
歪曲補正後の画像の歪曲量分布を目標残留収差量DTarget(f,d,r)に近づけるため、本実施形態では、27組の係数を第2実施形態と同様の手順で最適化した後に(ステップS11〜S15)、その最適化後の係数を目標残留収差量DTarget(f,d,r)に応じて補正する(ステップS35)。
例えば、全レンズポジションの目標残留収差量DTarget(f,d,r)を、像高比rの二次関数で表される共通の目標残留収差量(つまり、レンズポジションに依存しない目標残留収差量)とする場合(つまり、DTarget(f,d,r)=αr2とする場合)は、ステップS35において、27組の係数のうち、r2に関する9組の係数Λ00,Λ01,Λ02,Λ10,Λ11,Λ12,Λ20,Λ21,Λ22、特に、レンズポジションd,fに依らない係数Λ00を、Λ00→Λ00+αなどと補正すればよい。
したがって、本実施形態で用意した歪曲補正情報(補正後の27組の係数)によれば、歪曲量の推測や補正に工夫を施さなくとも(27組の係数の値を歪曲量関数(2)へ当てはめてできる推測式で歪曲補正を行うだけで)、各画像の歪曲量分布を、製造者が所望した歪曲量分布に近づけることができる。
なお、本実施形態は、第2実施形態の変形例であるが、第1実施形態を同様に変形してもよい。
[第4実施形態]
以下、本発明の第4実施形態を説明する。本実施形態は、第3実施形態の変形例である。ここでは、第3実施形態との相違点のみ説明する。
図7は、本実施形態の最適化処理のフローチャートである。
図7に示すとおり、相違点は、目標残留収差量DTarget(f,d,r)に応じて係数を補正するステップ(ステップS35)を省略した点と、評価値Sの算出式として式(4)の代わりに式(8)を用いる点とにある。
Figure 0004798221
この式(8)は、式(4)において、目標残留収差量DTarget(f,d,r)を加味したものである。本実施形態では、この式(8)で表される評価値Sを小さくする方向に、ステップS12’〜S14のループが働くので、残留収差量δD(f,d,r)は、ゼロではなく、目標残留収差量DTarget(f,d,r)に近づく。
その結果、本実施形態によっても、第3実施形態と同等の効果が得られる。
なお、本実施形態では、各レンズポジションの目標残留収差量DTarget(f,d,r)を、各レンズポジションの固有歪曲量Dlen(f,d,r)の大きさやタイプに応じて設定してもよい。そのような設定下で歪曲補正情報(27組の係数)を取得すれば、推測や補正に何の工夫を施さなくとも、各画像の歪曲補正後の歪曲量分布を、各画像の歪曲補正前の歪曲量分布のタイプに応じて制御することができる。
例えば、固有歪曲量Dlen(f,d,r)のタイプが陣笠型であるレンズポジションでは、目標残収差量DTarget(f,d,r)を非陣笠型に設定するとよい。
また、固有歪曲量Dlen(f,d,r)のタイプが樽型であるレンズポジションでは、目標残留収差量DTarget(f,d,r)を、固有歪曲量Dlen(f,d,r)よりも歪曲量の小さい樽型に設定するとよい。
また、固有歪曲量Dlen(f,d,r)のタイプが糸巻型であるレンズポジションでは、目標残留収差量DTarget(f,d,r)を、固有歪曲量Dlen(f,d,r)よりも歪曲量の小さい樽型、又は固有歪曲量Dlen(f,d,r)よりも歪曲量の小さい糸巻き型に設定するとよい。
なお、目標残留収差量DTarget(f,d,r)の設定の一部又は全部は、コンピュータがステップS12’において自動的に実行することとしてもよい。
また、第3実施形態の目標残留収差量DTarget(f,d,r)を、本実施形態と同様に設定してもよい。
また、本実施形態では、評価値Sの算出式として、式(8)の代わりに、式(8)において重み係数ζ(f,d,r)=1とおいたものを用いてもよい。
[第5実施形態]
以下、本発明の第5実施形態を説明する。本実施形態は、歪曲補正機能を有した画像編集ソフトウエアの実施形態である。このソフトウエアは、インターネットやCD−ROMなどを介してディジタルカメラのユーザのコンピュータへインストールされる。ここでは、このコンピュータの動作を説明することにより、このソフトウエアの内容を説明する。
コンピュータは、ディジタルカメラに接続されると、そのディジタルカメラに格納されている画像データを取り込む。この画像データが、歪曲補正の対象となる。この画像データには、図8に示すように、付加情報として、撮影時に使用されたレンズの種類を示す情報と、撮影時のレンズポジションd,fの値を示す情報とが付加されている。このような付加情報は、撮影時にディジタルカメラによって他の情報(露出,シャッタースピード,撮影日時など)と共に付加されたものである。
また、コンピュータは、上述した歪曲量関数(2)を予め記憶すると共に、複数種類のレンズの歪曲補正情報(27組の係数)を、例えば、図9に示すようにテーブルとして予め記憶している。
このテーブルにおいて、歪曲補正情報は、レンズの種類毎に格納されている。各レンズの歪曲補正情報は、上述した実施形態により予め用意されたものである。また、各レンズの歪曲補正情報としては、補正強度が「強」であるもの(高補正用の歪曲補正情報)と、補正強度が「中」であるもの(中補正用の歪曲補正情報)と、補正強度が「弱」であるもの(低補正用の歪曲補正情報)との3種類が用意されている。
高補正用の歪曲補正情報は、第1実施形態又は第2実施形態で取得されたもの、又は、第3実施形態又は第4実施形態において目標残留収差量DTarget(f,d,r)の大きさをゼロに設定して取得されたものである。
中補正用の歪曲補正情報は、第3実施形態又は第4実施形態において目標残留収差量DTarget(f,d,r)の大きさをゼロよりも大きな値に設定して取得されたものである。
低補正用の歪曲補正情報は、第3実施形態又は第4実施形態において、目標残留収差量DTarget(f,d,r)の大きさをゼロよりも大きく、かつ中補正用のそれよりも大きな値に設定して取得されたものである。
さて、コンピュータは、或る画像の歪曲補正に当たり、その画像の画像データの付加情報(図8)を参照し、その画像の撮影に使用されたレンズの種類と、その画像の撮影時に設定されたレンズポジションd,fの値とを認識する。
また、その画像の歪曲補正に当たり、コンピュータは、ユーザに対し、歪曲補正の補正強度を「強」、「中」、「弱」の中から1つ選択させることにより、補正強度を指定させる。
そして、コンピュータは、使用されたレンズの種類と、指定された補正強度とに応じてテーブル(図9)を参照し、そのレンズの種類と補正強度との組み合わせに対応付けられた歪曲補正情報(27組の係数の値)を読み出す。
コンピュータは、読み出した27組の係数の値を前述した歪曲量関数(2)へ当てはめることにより、推測式を取得する。さらに、コンピュータは、その推測式に対し、撮影時に設定されたレンズポジションd,fの値を当てはめることにより、画像上の歪曲量分布を既知とする。そして、ユーザから歪曲補正の指示があると、コンピュータは、上記の歪曲補正情報を利用して画像データの歪曲補正を行い、歪曲補正後の画像を外部のモニタなどへ出力する。
以上、本実施形態のコンピュータは、歪曲補正時に、ユーザが指定した補正強度に応じて歪曲補正情報を使い分けるので、ユーザの要求に応じることができる。
しかも、本実施形態のテーブル(図9)には、各レンズの歪曲補正情報が補正強度毎に予め用意されているので、実際の歪曲補正時、コンピュータは指定された補正強度に応じて歪曲補正情報を使い分けるだけで、演算内容を変更する必要は無い。したがって、各補正強度の歪曲補正を、それぞれ高速に行うことができる。
さらに、本実施形態の歪曲補正情報は、第1実施形態〜第4実施形態の何れかの方法で取得されたものなので、情報量が少ないにも拘わらず、全レンズポジションに関する歪曲補正を、それぞれ確実かつ良好に行うことができる。
なお、本実施形態のテーブルには、1種類のレンズにつき3種類の歪曲補正情報が格納されたが、1種類のレンズにつき1種類の歪曲補正情報、1種類のレンズにつき2種類の歪曲補正情報、或いは1種類のレンズにつき4種類以上の歪曲補正情報が格納されてもよい。その場合、ユーザの選択肢の数も、歪曲補正情報の種類数と同じになる。
また、本実施形態のテーブルには、1種類のレンズにつき補正強度の異なる複数種類の歪曲補正情報が格納されたが、補正タイプの異なる複数種類の歪曲補正情報が格納されてもよい。ここで、補正タイプの異なる複数種類の歪曲補正情報とは、例えば、第3実施形態又は第4実施形態において目標残留収差量DTarget(f,d,r)のタイプを樽型に設定して取得された歪曲補正情報と、目標残留収差量DTarget(f,d,r)のタイプを糸巻型に設定して取得された歪曲補正情報と、目標残留収差量DTarget(f,d,r)のタイプを陣笠型に設定して取得された歪曲補正情報とである。その場合、ユーザが指定するのは、「補正強度」ではなく、「補正タイプ」となる。
また、本実施形態のテーブルの内容は、新しい種類のレンズが発売される毎に更新される(つまり新しい種類のレンズの歪曲補正情報が追加される)ことが望ましい。更新情報は、各種のソフトウエアと同様、インターネット上で公開され、それをユーザがコンピュータへダウンロードすればよい。
また、本実施形態では、コンピュータを利用したが、コンピュータの代わりに、画像処理機能を搭載したストレージャやプリンタなどを利用し、ストレージャやプリンタなどに対し同様の処理を行わせてもよい。或いは、カメラ、カメラシステム(カメラと交換レンズとからなるシステム)などの携帯機器に対し、同様の処理を行わせてもよい。因みに、カメラシステムにこの処理を行わせる場合、複数種類の歪曲補正情報を交換レンズが予め記憶し、歪曲量関数(2)をカメラが予め記憶すればよい。
[第6実施形態]
以下、本発明の第6実施形態を説明する。本実施形態は、歪曲補正機能を搭載したレンズ一体型ディジタルカメラの実施形態である。
図10は、本カメラの構成図である。図10に示すとおり、本カメラ10には、レンズポジションが可変のレンズ10L,カメラCPU10A,撮像素子12,信号処理回路13,メモリ14,圧縮・伸張回路15,記録部16,画像処理回路17などが備えられる。このうち、カメラCPU10Aの内部には、ROMやRAMが備えられる。
このカメラCPU10A内のROMには、レンズ10Lに関する歪曲補正情報(27組の係数の値)Iと、歪曲量関数(2)とが予め格納されている。歪曲補正情報(27組の係数の値)Iは、カメラ10の製造者により、第1実施形態〜第4実施形態の何れかの方法で用意されたものである。ここでは、歪曲補正情報Iを、補正強度が「強」である歪曲補正情報、例えば、第3実施形態又は第4実施形態において目標残留収差量DTarget(f,d,r)の大きさをゼロに設定して取得された歪曲補正情報とする。
なお、レンズ一体型のカメラでは、レンズの種類が不変なので、ここでは、CPU10AのROMには、歪曲補正情報(27組の係数の値)と歪曲量関数(2)とが別々に格納される代わりに、前者を後者へ当てはめてできる推測式が格納されるものとして説明する。
撮影時、レンズ10Lが撮像素子12上に被写体の像を形成すると、撮像素子12は、その被写体の像を撮像して画像データを取得する。その画像データは、信号処理回路13において処理された後、メモリ14へ一時的に格納される。この撮影時のレンズ10Lのレンズポジションf,dの値は、不図示のエンコーダを介してカメラCPU10Aによって読み取られる。
カメラCPU10Aは、そのレンズポジションf,dの値を、ROMに格納された推測式へ当てはめ、画像上の歪曲量分布を既知とする。画像処理回路17は、その歪曲量分布がゼロとなるように(つまり、その歪曲量分布を補正特性として)、メモリ14に格納された画像データに対し歪曲補正処理を施す。歪曲補正後の画像データは、圧縮・伸張回路15において圧縮処理された後、記録部16において記録される。
以上、本実施形態のカメラ10は、歪曲補正情報として、上述した実施形態で取得された歪曲補正情報を予め記憶し(ここでは、その歪曲補正情報を歪曲量関数に当てはめてできる推測式を予め記憶し)、それに基づき歪曲補正を行う。したがって、歪曲補正情報の情報量を抑えながら、全レンズポジションに関する歪曲補正を、それぞれ確実かつ良好に行うことができる。
なお、本実施形態では、歪曲補正情報の格納先をカメラCPU10A内のROMとしたが、カメラCPU10Aとは別に設けられたメモリであっても構わない。
また、本実施形態のカメラ10は、画像データに対し歪曲補正を施したが、歪曲補正を施す代わりに、歪曲補正に必要な情報(推測した歪曲量分布の情報など)を画像データに付加してもよい。その場合、画像データの歪曲補正は、コンピュータなどで行われることになる。
[第7実施形態]
以下、本発明の第7実施形態を説明する。本実施形態は、歪曲補正機能を持つディジタルカメラシステムの実施形態である。
図11は、本カメラシステムの構成図である。図11に示すとおり、本カメラシステムは、交換レンズ11と、交換レンズ11を着脱可能なカメラ10とからなる。
交換レンズ11には、レンズポジションが可変のレンズ11L,レンズCPU11A,ROM11Bなどが備えられる。カメラ10には、カメラCPU10A,撮像素子12,信号処理回路13,メモリ14,圧縮・伸張回路15,記録部16,画像処理回路17、操作釦10Bなどが備えられる。ユーザは、この操作釦10Bを介して、歪曲補正の補正強度をカメラ10に指定する。また、カメラCPU10Aの内部には、ROMやRAMが備えられる。また、図11には表さなかったが、カメラ10は、一眼レフレックスカメラであり、交換レンズ11が形成する被写体の像を、非撮影時にユーザが目視するための光学ファインダ(クイックリターンミラー、ペンタプリズムなど)も備えられている。
カメラCPU10A内のROMには、歪曲量関数(2)が予め格納されており、交換レンズ11内のROM11Bには、レンズ11Lに関する歪曲補正情報I(27組の係数の値)が格納されている。この歪曲補正情報Iは、交換レンズ11の製造者により、第1実施形態〜第4実施形態の何れかの方法で用意されたものである。ここでは、歪曲補正情報(27組の係数の値)Iを、補正強度が「強」である歪曲補正情報、例えば、第3実施形態又は第4実施形態において目標残留収差量DTarget(f,d,r)の大きさをゼロに設定して取得された歪曲補正情報とする。
交換レンズ11内のレンズCPU11Aは、電源投入時などの適当なタイミングでROM11Bから27組の係数の値を読み出し、カメラ10内のカメラCPU10Aへと送信する。
一方、カメラ10内のカメラCPU10Aは、送信された27組の係数の値を認識すると、それら27組の係数の値を、ROM内の歪曲量関数(2)へ当てはめて、推測式を取得する。また、カメラCPU10は、操作釦10Bの状態に基づき、ユーザが指定した補正強度を認識する。
撮影時、レンズ11Lが撮像素子12上に被写体の像を形成すると、撮像素子12は、その被写体の像を撮像して画像データを取得する。その画像データは、信号処理回路13において処理された後、メモリ14へ一時的に格納される。この撮影時のレンズ11Lのレンズポジションf,dの値は、不図示のエンコーダを介してレンズCPU11Aによって読み取られ、カメラ10内のカメラCPU10Aへと送信される。
カメラCPU10Aは、そのレンズポジションf,dの値を前記推測式へ当てはめ、画像上の歪曲量分布を既知とする。さらに、カメラCPU10Aは、その歪曲量分布を、ユーザが設定した補正強度に応じて変換する。推測された歪曲量分布が、D(r)=A14+B13 1 2であったとすると、変換後の歪曲量分布D’(r)は、例えば、変換係数αを用いて、以下の式(9)、或いは(10)で表される。
D’(r)=A14+B13+(C1+α)r2(9)
D’(r)=α{A14+B13 1 2} …(10)
但し、式(10)における変換係数αは、ユーザの指定した補正強度が高いほどα→1になる(1に近づく)ものとする。
画像処理回路17は、変換後の歪曲量分布D’(r)を画像の歪曲量分布とみなし、それがゼロとなるように、メモリ14に格納された画像データに対し歪曲補正処理を施す。歪曲補正後の画像データは、圧縮・伸張回路15において圧縮処理された後、記録部16において記録される。
以上、本実施形態のカメラシステムでは、交換レンズ11は、歪曲補正情報Iを予め記憶し、カメラ10は、歪曲量関数(2)を予め記憶する。そして、実際の歪曲量分布の推測には、それら両者の情報が利用される。さらに、本実施形態のカメラ10は、その推測した歪曲量分布を、ユーザが設定した補正強度に応じて変換し、変換後の歪曲量分布を、画像の歪曲量分布とみなして歪曲補正を行う。したがって、本実施形態のカメラシステムは、ユーザの指定した補正強度で歪曲補正を行うことができる。
しかも、上述した歪曲補正情報Iは、上述した実施形態により取得されたものなので、情報量が少ないにも拘わらず、交換レンズ11の全レンズポジションに関する歪曲量分布を、正確に表す。したがって、全レンズポジションに関する全補正強度の歪曲補正が、それぞれ良好に行われる。
因みに、本実施形態のカメラ10は、一眼レフレックスカメラなので、光学ファインダを介して観察される被写体の像は、交換レンズ11の歪曲収差の影響を受けて歪んでいる。一方、撮影した画像を強い補正強度で歪曲補正すると、その歪みは略完全に無くなるが、画像周辺部の情報が欠落する可能性がある。このため、画像に依っては、強い補正強度で歪曲補正を行うと、フレーミング時の画像と撮影された画像とに大きな相違が生じる可能性がある。しかし、本実施形態のカメラ10のユーザは、歪曲補正の補正強度を指定することができるので、補正強度と情報保全とのバランスを、ユーザが所望するバランスに設定することができる。
なお、本実施形態では、歪曲量関数(2)の格納先をカメラCPU10A内のROMとしたが、カメラCPU10Aとは別に設けられたメモリであっても構わない。
また、本実施形態のカメラ10は、画像データに対し歪曲補正を施したが、歪曲補正を施す代わりに、歪曲補正に必要な情報(推測した歪曲量分布の情報など)を画像データに付加してもよい。その場合、画像データの歪曲補正は、コンピュータなどで行われることになる。
また、本実施形態では、交換レンズ11が記憶するのは、1種類の歪曲補正情報であったが、交換レンズ11の記憶容量(ここでは、ROM11Bの記憶容量)が大きい場合には、補正強度の異なる複数種類の歪曲補正情報であってもよい。その場合、カメラ10は、推測後の歪曲量分布を補正する代わりに、それら3種類の歪曲補正情報を使い分けて歪曲量分布の推測を行えばよい。
[第8実施形態]
以下、本発明の第8実施形態を説明する。本実施形態は、第1実施形態の変形例である。ここでは、第1実施形態との相違点のみ説明する。
第1実施形態では、画像の撮影時にレンズから実測されるレンズポジションf,dの値(実測値)が正確であるとの前提の上に立つが、実際には測定誤差が生じている可能性がある。この測定誤差は、レンズ駆動機構の機械的誤差、エンコーダの量子化誤差などに起因する。
レンズポジションf,dの実測値に測定誤差が生じていると、第1実施形態にて良好な歪曲補正情報(27組の係数)を用意したとしても、歪曲量の推測精度、そして歪曲量の補正精度は悪化する。歪曲量の補正精度が悪化する場合、通常は補正不足となることは許容できても、過剰補正となることは許容できない。
そこで本実施形態のコンピュータは、レンズポジションf,dの測定誤差に起因する過剰補正の発生を確実に回避するため、最適化後の歪曲補正情報(27組の係数)に対し補正を施す。以下、この補正を歪曲補正と区別するため、「係数補正」と称す。
図12は、本実施形態の最適化処理のフローチャートである。図12において、ステップS85が係数補正のステップである。以下、このステップS85を詳しく説明する。
先ず、コンピュータは、或るレンズポジションf1,d1に着目し、そのレンズポジションf1,d1に対し様々な測定誤差を与え、様々な測定誤差がもたらす推測誤差を見積もる。ここでは、目標残留収差DTarget(r)がゼロなので、歪曲補正後の画像に残る残留歪曲量δD(r)を、推測誤差(補正誤差)として見積もる。
ここで、様々な測定誤差とは、レンズポジションの実測値が(f1,d1)であったときに、その実測値(f1,d1)に含まれ得る様々な測定誤差のことである。これは、レンズ(エンコーダ及びレンズ駆動機構を含むレンズ鏡筒)から予め実測される。また、見積もりに使用される歪曲補正情報(27組の係数)は、前のステップで最適化された歪曲補正情報(27組の係数)である。
図13(A)〜(D)は、様々な測定誤差による様々な残留歪曲量δD(r)を示す図である。図13(A)〜(D)の左側には、歪曲補正前の歪曲量(固有歪曲量Dlen(r))を示した。なお、図13では簡単のため、全ての固有歪曲量Dlen(r)を等しく描いたが、実際には測定誤差が異なる分だけ若干ずつ異なる。
図13(A)〜(D)を比較すると明らかなとおり、測定誤差が異なると、残留歪曲量δD(r)も異なる。或る測定誤差は、図13(A),(B)に示すとおり補正不足(δD(r)とDlen(r)とが等符号)を引き起こしているのに対し、別の測定誤差は、図13(C),(D)に示すとおり過剰補正(δD(r)とDlen(r)とが異符号)を引き起こしている。
そこで、コンピュータは、様々な測定誤差による様々な残留歪曲量δD(r)(図13(A)〜(D))の中から、過剰補正による最大の残留歪曲量δD(r)(図13(D))を見出す。以下、この残留歪曲量δD(r)を「最大残留歪曲量δDmax(r)」とおく。これによって、コンピュータは、或るレンズポジション(f1,d1)における処理を終了する。
さらに、コンピュータは、以上の処理(最大残留歪曲量δDmax(r)の取得)を、他のレンズポジションについても行う。その結果、全てのレンズポジションにおける全ての最大残留歪曲量δDmax(r)が得られる。
続いて、コンピュータは、全てのレンズポジションにおける全ての最大残留歪曲量δDmax(r)に基づき、最大残留歪曲量δDmax(r)をレンズポジションf,dの関数で近似する。その関数としては、前述した歪曲量関数(2)と同じ関数型の関数、すなわち式(11)を採用することができる。
Figure 0004798221
但し、式(11)は複雑なので、rの項数を削減した簡易的な関数を採用してもよい。例えば、式(12A)(12B)(12C)の何れかである。
Figure 0004798221
ここでは簡単のため、式(12A)(12B)(12C)のうち、rの二乗の項のみからなる式(12C)を採用する。
この場合、コンピュータは、全てのレンズポジションにおける全ての最大残留歪曲量δDmax(r)を式(12C)に対しフィッティングし、式(12C)における9組の係数δΛ00,δΛ01,δΛ02,δΛ10,δΛ11,δΛ12,δΛ20,δΛ21,δΛ22の値を取得する。
続いて、コンピュータは、これらの係数δΛ00,δΛ01,δΛ02,δΛ10,δΛ11,δΛ12,δΛ20,δΛ21,δΛ22の値に基づき、前のステップで最適化された歪曲補正情報(27組の係数)の係数Λ00,Λ01,Λ02,Λ10,Λ11,Λ12,Λ20,Λ21,Λ22の各々へ係数補正を施し、本ステップを終了する。
この係数補正に使用される補正式は、以下の式(13)である。
Figure 0004798221
したがって、係数補正後の歪曲補正情報(27組の係数)が過剰補正を引き起こす可能性は、ゼロに抑えられる。歪曲補正情報(27組の係数)が仮に推測誤差を引き起こしたとしても、それは何れも補正不足しか引き起こさない。
また、本実施形態の係数補正では、係数補正の対象が、歪曲補正情報(27組の係数)のうち、rの二乗に関する係数(9組の係数)のみに制限されたので、歪曲補正情報(27組の係数)が仮に補正不足を引き起こしたとしても、画像の残留歪曲量はrの二乗に略比例する。
したがって、本実施形態で得られた歪曲補正情報(27組の係数)によれば、歪曲補正後の画像に不自然な歪曲が残る可能性は確実に抑えられる。
なお、本実施形態は、第1実施形態の変形例であるが、第2実施形態、第3実施形態、第4実施形態の何れかを同様に変形してもよい。また、これら変形例の何れかで用意した係数(歪曲補正情報)を、第5実施形態〜第7実施形態の何れかで使用してもよい。
[その他の実施形態]
なお、上述した各実施形態では、歪曲補正情報の情報量をなるべく抑えるために、歪曲量分布(式(1))の係数A,B,Cを係数用関数(A),(B),(C)で表現したが、情報量を抑える必要が無い場合には、全レンズポジションにおける係数A,B,Cの値を、そのまま歪曲補正情報として用意してもよい。また、その歪曲補正情報は、補正後の各レンズポジションの歪曲量分布をゼロにするための歪曲補正情報であってもよく、また、補正後の各レンズポジションの歪曲量分布を目標残留収差量DTarget(f,d,r)にするための歪曲補正情報であってもよい。
また、上述した各実施形態では、係数用関数(A),(B),(C)を、fの逆冪の項とdの逆冪の項とで構成したが、fの重根の項(f1/2=√fなど)や、fの冪乗の項(f,f2など)を含めてもよい。以下、係数用関数の幾つかの例を示す。
Figure 0004798221
Figure 0004798221
但し、fcは焦点距離fの代表値、dcは焦点位置dの代表値である。例えば、fcは、歪曲補正の対象であるレンズの焦点距離fの値範囲の最小値、dcは同レンズの焦点位置dの値範囲の最小値である。
Figure 0004798221
Figure 0004798221
また、上述した各実施形態では、歪曲量分布の式として式(1)を使用したが、例えば、式(14)、或いは(15)で示すような別の式を使用してもよい。
D(r)≡Ar3+Br2(14)
D(r)≡Ar3+Br2+Cr …(15)
或るレンズの或るレンズポジションにおける歪曲収差データである。 係数A,B,Cの -1 ,f -1 方向の分布の様子を示す図である。 第1実施形態の最適化処理を簡略化して示すフローチャートである。 (5)の定義をグラフで表したものである。 重み係数ζをrに依存させた場合のグラフである。 第3実施形態の最適化処理のフローチャートである。 第4実施形態の最適化処理のフローチャートである。 画像データの付加情報を説明する図である。 コンピュータが記憶するテーブルの内容を説明する図である。 第6実施形態のカメラの構成図である。 第7実施形態のカメラシステムの構成図である。 第8実施形態の最適化処理のフローチャートである。 第8実施形態の最適化処理を説明する図である。

Claims (34)

  1. 撮影用の光学系の歪曲収差をそのレンズポジションの関数で表し、その係数の情報を前記光学系の歪曲補正情報として予め用意する用意手順と、
    前記光学系で撮影した画像の歪曲を、その撮影時のレンズポジションと、前記用意された前記歪曲補正情報とに基づき補正する補正手順と
    を含む歪曲補正方法であって、
    前記用意手順では、
    2箇所以上のレンズポジションにおける残留収差がそれぞれ適切に制御されるように前記係数を最適化する
    ことを特徴とする歪曲補正方法。
  2. 請求項1に記載の歪曲補正方法において、
    前記係数の最適化では、
    前記2箇所以上のレンズポジションにおける残留収差の大きさのバランスを制御する
    ことを特徴とする歪曲補正方法。
  3. 請求項2に記載の歪曲補正方法において、
    前記2箇所以上のレンズポジションにおける残留収差の大きさは、前記2箇所以上のレンズポジションにおける前記補正前の収差タイプに応じて設定される
    ことを特徴とする歪曲補正方法。
  4. 請求項2又は請求項3に記載の歪曲補正方法において、
    前記2箇所以上のレンズポジションにおける残留収差の大きさは、前記2箇所以上のレンズポジションにおける残留収差のタイプに応じて設定される
    ことを特徴とする歪曲補正方法。
  5. 請求項2〜請求項4の何れか一項に記載の歪曲補正方法において、
    前記2箇所以上のレンズポジションにおける残留収差の大きさは、前記2箇所以上のレンズポジションにおける像高毎に設定される
    ことを特徴とする歪曲補正方法。
  6. 請求項1〜請求項5の何れか一項に記載の歪曲補正方法において、
    前記用意手順では、
    前記最適化後の前記係数を、前記2箇所以上のレンズポジションにおける残留収差が目標残留収差となるように補正する
    ことを特徴とする歪曲補正方法。
  7. 請求項1〜請求項5の何れか一項に記載の歪曲補正方法において、
    前記係数の最適化では、
    前記2箇所以上のレンズポジションにおける残留収差が目標残収差に近づくように制御する
    ことを特徴とする歪曲補正方法。
  8. 請求項6又は請求項7に記載の歪曲補正方法において、
    前記2箇所以上のレンズポジションにおける目標残留収差は、
    前記2箇所以上のレンズポジションにおける前記補正前の収差に応じて設定される
    ことを特徴とする歪曲補正方法。
  9. 請求項8に記載の歪曲補正方法において、
    前記補正前の収差タイプが陣笠型であるレンズポジションにおける目標残留収差は、
    非陣笠型に設定される
    ことを特徴とする歪曲補正方法。
  10. 請求項8又は請求項9に記載の歪曲補正方法において、
    前記補正前の収差タイプが樽型であるレンズポジションにおける目標残留収差は、
    前記補正前よりも歪曲量の大きさが小さい樽型に設定される
    ことを特徴とする歪曲補正方法。
  11. 請求項8〜請求項10の何れか一項に記載の歪曲補正方法において、
    前記補正前の収差タイプが糸巻型であるレンズポジションにおける目標残留収差は、
    前記補正前よりも歪曲量の大きさが小さい樽型、又は前記補正前よりも歪曲量の大きさが小さい糸巻き型に設定される
    ことを特徴とする歪曲補正方法。
  12. 請求項1〜請求項11の何れか一項に記載の歪曲補正方法において、
    前記用意手順では、
    前記歪曲の補正時に使用される前記レンズポジションの値に誤差が含まれる可能性を想定する
    ことを特徴とする歪曲補正方法。
  13. 請求項12に記載の歪曲補正方法において、
    前記用意手順では、
    前記歪曲の補正時に使用される前記レンズポジションの値に誤差が含まれていたとしてもその補正が過剰補正とならないように前記最適化後の前記係数を補正する
    ことを特徴とする歪曲補正方法。
  14. 撮影用の光学系の歪曲収差をそのレンズポジションの関数で表したときの係数の情報を、前記光学系の歪曲補正情報として予め用意する用意手順と、
    前記光学系で撮影した画像の歪曲を、その撮影時のレンズポジションと、前記用意された前記歪曲補正情報とに基づき補正する補正手順と
    をコンピュータに実行させる歪曲補正プログラムであって、
    前記係数は、
    2箇所以上のレンズポジションにおける残留収差の大きさのバランスが制御されるように予め最適化されている
    ことを特徴とする歪曲補正プログラム。
  15. 請求項14に記載の歪曲補正プログラムにおいて、
    前記係数は、
    前記2箇所以上のレンズポジションにおける残留収差の大きさが前記2箇所以上のレンズポジションにおける前記補正前の収差タイプに依存するように予め最適化されている
    ことを特徴とする歪曲補正プログラム。
  16. 請求項14又は請求項15に記載の歪曲補正プログラムにおいて、
    前記係数は、
    前記2箇所以上のレンズポジションにおける残留収差の大きさが前記2箇所以上のレンズポジションにおける残留収差のタイプに依存するように予め最適化されている
    ことを特徴とする歪曲補正プログラム。
  17. 請求項14〜請求項16の何れか一項に記載の歪曲補正プログラムにおいて、
    前記係数は、
    前記2箇所以上のレンズポジションにおける残留収差の大きさが前記2箇所以上のレンズポジションにおける像高に依存するように予め最適化されている
    ことを特徴とする歪曲補正プログラム。
  18. 請求項14〜請求項17の何れか一項に記載の歪曲補正プログラムにおいて、
    前記係数は、
    前記2箇所以上のレンズポジションにおける残留収差が目標残収差に近づくように予め最適化されている
    ことを特徴とする歪曲補正プログラム。
  19. 請求項18に記載の歪曲補正プログラムにおいて、
    前記2箇所以上のレンズポジションにおける目標残留収差は、
    前記2箇所以上のレンズポジションにおける前記補正前の収差に依存する
    ことを特徴とする歪曲補正プログラム。
  20. 請求項19に記載の歪曲補正プログラムにおいて、
    前記補正前の収差タイプが陣笠型であるレンズポジションにおける目標残留収差は、
    非陣笠型である
    ことを特徴とする歪曲補正プログラム。
  21. 請求項19又は請求項20に記載の歪曲補正プログラムにおいて、
    前記補正前の収差タイプが樽型であるレンズポジションにおける目標残留収差は、
    前記補正前よりも歪曲量の大きさが小さい樽型である
    ことを特徴とする歪曲補正プログラム。
  22. 請求項19〜請求項21の何れか一項に記載の歪曲補正プログラムにおいて、
    前記補正前の収差タイプが糸巻型であるレンズポジションにおける目標残留収差は、
    前記補正前よりも歪曲量の大きさが小さい樽型、又は前記補正前よりも歪曲量の大きさが小さい糸巻き型である
    ことを特徴とする歪曲補正プログラム。
  23. 請求項14〜請求項22の何れか一項に記載の歪曲補正プログラムにおいて、
    前記係数は、
    前記歪曲の補正時に使用される前記レンズポジションの値に誤差が含まれていたとしてもその補正が過剰補正とならないように予め最適化されている
    ことを特徴とする歪曲補正プログラム
  24. 撮影用の光学系を備えると共に、前記光学系の歪曲収差をそのレンズポジションの関数で表したときの係数の情報を、前記光学系で撮影した画像の歪曲を補正するときに使用すべき歪曲補正情報として予め記憶した光学装置であって、
    前記係数は、
    2箇所以上のレンズポジションにおける残留収差の大きさのバランスが制御されるように予め最適化されている
    ことを特徴とする光学装置。
  25. 請求項24に記載の光学装置において、
    前記係数は、
    前記2箇所以上のレンズポジションにおける残留収差の大きさが前記2箇所以上のレンズポジションにおける前記補正前の収差タイプに依存するように予め最適化されている
    ことを特徴とする光学装置。
  26. 請求項24又は請求項25に記載の光学装置において、
    前記係数は、
    前記2箇所以上のレンズポジションにおける残留収差の大きさが前記2箇所以上のレンズポジションにおける残留収差のタイプに依存するように予め最適化されている
    ことを特徴とする光学装置。
  27. 請求項24〜請求項26の何れか一項に記載の光学装置において、
    前記係数は、
    前記2箇所以上のレンズポジションにおける残留収差の大きさが前記2箇所以上のレンズポジションにおける像高に依存するように予め最適化されている
    ことを特徴とする光学装置。
  28. 請求項24〜請求項27の何れか一項に記載の光学装置において、
    前記係数は、
    前記2箇所以上のレンズポジションにおける残留収差が目標残収差に近づくように予め最適化されている
    ことを特徴とする光学装置。
  29. 請求項28に記載の光学装置において、
    前記2箇所以上のレンズポジションにおける目標残留収差は、
    前記2箇所以上のレンズポジションにおける前記補正前の収差に依存する
    ことを特徴とする光学装置。
  30. 請求項29に記載の光学装置において、
    前記補正前の収差タイプが陣笠型であるレンズポジションにおける目標残留収差は、
    非陣笠型である
    ことを特徴とする光学装置。
  31. 請求項29又は請求項30に記載の光学装置において、
    前記補正前の収差タイプが樽型であるレンズポジションにおける目標残留収差は、
    前記補正前よりも歪曲量の大きさが小さい樽型である
    ことを特徴とする光学装置。
  32. 請求項29〜請求項31の何れか一項に記載の光学装置において、
    前記補正前の収差タイプが糸巻型であるレンズポジションにおける目標残留収差は、
    前記補正前よりも歪曲量の大きさが小さい樽型、又は前記補正前よりも歪曲量の大きさが小さい糸巻き型である
    ことを特徴とする光学装置。
  33. 請求項24〜請求項32の何れか一項に記載の光学装置において、
    前記係数は、
    前記歪曲の補正時に前記係数と共に使用される前記レンズポジションの値に誤差が含まれていたとしても、その補正が過剰補正とならないように予め最適化されている
    ことを特徴とする光学装置。
  34. 請求項24〜請求項33の何れか一項に記載の光学装置において、
    前記撮影用の光学系を備え、かつ前記歪曲補正情報を予め記憶した交換レンズと、
    前記交換レンズに対し着脱可能であり、かつ前記交換レンズが予め記憶した前記歪曲補正情報を読み取ることの可能なカメラと
    からなることを特徴とする光学装置。
JP2008514372A 2006-04-14 2007-04-11 画像の歪曲補正方法、歪曲補正プログラム、及び光学装置 Active JP4798221B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008514372A JP4798221B2 (ja) 2006-04-14 2007-04-11 画像の歪曲補正方法、歪曲補正プログラム、及び光学装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2006112454 2006-04-14
JP2006112454 2006-04-14
JP2008514372A JP4798221B2 (ja) 2006-04-14 2007-04-11 画像の歪曲補正方法、歪曲補正プログラム、及び光学装置
PCT/JP2007/000388 WO2007129444A1 (ja) 2006-04-14 2007-04-11 画像の歪曲補正方法、歪曲補正プログラム、及び光学装置

Publications (2)

Publication Number Publication Date
JPWO2007129444A1 JPWO2007129444A1 (ja) 2009-09-17
JP4798221B2 true JP4798221B2 (ja) 2011-10-19

Family

ID=38667557

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008514372A Active JP4798221B2 (ja) 2006-04-14 2007-04-11 画像の歪曲補正方法、歪曲補正プログラム、及び光学装置

Country Status (3)

Country Link
US (1) US8120676B2 (ja)
JP (1) JP4798221B2 (ja)
WO (1) WO2007129444A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012256118A (ja) * 2011-06-07 2012-12-27 Canon Inc 画像復元装置およびその方法
KR101812807B1 (ko) * 2011-06-29 2017-12-27 엘지이노텍 주식회사 영역별 가중치를 기반으로 한 적응형 자동 노출 제어 방법
WO2015029024A1 (en) 2013-08-26 2015-03-05 Inuitive Ltd. Method and system for correcting image distortion
WO2015182021A1 (ja) * 2014-05-26 2015-12-03 ソニー株式会社 撮像制御装置、撮像装置および撮像制御方法
JP6565326B2 (ja) * 2014-08-11 2019-08-28 セイコーエプソン株式会社 撮像表示装置及びその制御方法
CN115482288A (zh) * 2021-05-31 2022-12-16 影石创新科技股份有限公司 镜头参数转换方法、装置、计算机设备和存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11331543A (ja) * 1998-05-20 1999-11-30 Fuji Photo Film Co Ltd 画像処理方法および画像処理装置
JP2002359771A (ja) * 2001-06-01 2002-12-13 Fuji Photo Film Co Ltd 撮像装置、画像処理装置、画像処理方法、及びプログラム
JP2003110847A (ja) * 2002-07-09 2003-04-11 Olympus Optical Co Ltd 画像出力装置
JP2004199350A (ja) * 2002-12-18 2004-07-15 Clarion Co Ltd 画像歪み補正装置及び画像歪み補正方法
JP2005057605A (ja) * 2003-08-06 2005-03-03 Sony Corp 画像処理装置、画像処理システム、撮像装置および画像処理方法
JP2006081145A (ja) * 2004-08-10 2006-03-23 Ricoh Co Ltd 画像記録装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0313074A (ja) * 1989-06-09 1991-01-22 Canon Inc 画像処理システム
JP3326330B2 (ja) * 1996-06-06 2002-09-24 旭光学工業株式会社 分岐撮像観察光学系
US6747757B1 (en) 1998-05-20 2004-06-08 Fuji Photo Film Co., Ltd. Image processing method and apparatus
US7596286B2 (en) 2003-08-06 2009-09-29 Sony Corporation Image processing apparatus, image processing system, imaging apparatus and image processing method
US7535598B2 (en) 2004-06-16 2009-05-19 Ricoh Company, Ltd. Image recording apparatus and image processing system
TWI407140B (zh) * 2009-12-24 2013-09-01 Largan Precision Co Ltd 攝像光學鏡頭

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11331543A (ja) * 1998-05-20 1999-11-30 Fuji Photo Film Co Ltd 画像処理方法および画像処理装置
JP2002359771A (ja) * 2001-06-01 2002-12-13 Fuji Photo Film Co Ltd 撮像装置、画像処理装置、画像処理方法、及びプログラム
JP2003110847A (ja) * 2002-07-09 2003-04-11 Olympus Optical Co Ltd 画像出力装置
JP2004199350A (ja) * 2002-12-18 2004-07-15 Clarion Co Ltd 画像歪み補正装置及び画像歪み補正方法
JP2005057605A (ja) * 2003-08-06 2005-03-03 Sony Corp 画像処理装置、画像処理システム、撮像装置および画像処理方法
JP2006081145A (ja) * 2004-08-10 2006-03-23 Ricoh Co Ltd 画像記録装置

Also Published As

Publication number Publication date
JPWO2007129444A1 (ja) 2009-09-17
US20100177219A1 (en) 2010-07-15
WO2007129444A1 (ja) 2007-11-15
US8120676B2 (en) 2012-02-21

Similar Documents

Publication Publication Date Title
JP4798221B2 (ja) 画像の歪曲補正方法、歪曲補正プログラム、及び光学装置
US8368762B1 (en) Methods and apparatus for camera calibration based on multiview image geometry
WO2007066459A1 (ja) 歪曲補正方法、歪曲補正プログラム、画像処理装置、交換レンズ、カメラ、及びカメラシステム
US20090290028A1 (en) Imaging apparatus and imaging method
JP2006191282A (ja) デジタル一眼レフカメラ
JP2009290863A (ja) 撮像装置およびカメラボディ
JP2008252522A (ja) カメラ
JP2006293035A (ja) 撮像装置、焦点調節装置及びその制御方法
JP2000358157A (ja) デジタル画像の光減衰を補償する方法および装置
JP6468868B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
JP5460170B2 (ja) 撮像装置及びその制御方法
JP4863441B2 (ja) 撮像装置及びその制御方法
JP2019208168A (ja) 撮像装置およびその制御方法ならびにプログラム
JP2003219357A (ja) デジタル撮像装置及び画像形成システム
JP5321108B2 (ja) カメラ、レンズ収差補正プログラム、およびレンズ収差補正プログラムを記録したコンピュータ読み取り可能な記録媒体
US20050030411A1 (en) Digital still camera and image processing program
US8964039B2 (en) Image capturing system and image capturing method
JP2009105621A (ja) プログラム、画像処理装置およびカメラ
JP2006231863A (ja) 印刷装置及びその制御方法、画像処理装置及びその制御方法
JP5251203B2 (ja) 画像処理装置および画像処理プログラム
CN107306350B (zh) 图像处理装置、图像捕获装置、透镜装置和图像处理方法
JP2008182684A (ja) 歪曲補正方法、歪曲補正装置、歪曲補正プログラム、及びディジタルカメラ
JP2004266648A (ja) 手ぶれ補正装置及び手ぶれ補正プログラム
JP2008167062A (ja) 歪曲補正方法、歪曲補正装置、歪曲補正プログラム、及びディジタルカメラ
JP6575667B2 (ja) 露出制御装置及び光学機器

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100316

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110301

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110705

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110718

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140812

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4798221

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140812

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250