JP3494662B2 - カメラ及びこのカメラを備えた撮影システム - Google Patents

カメラ及びこのカメラを備えた撮影システム

Info

Publication number
JP3494662B2
JP3494662B2 JP52752398A JP52752398A JP3494662B2 JP 3494662 B2 JP3494662 B2 JP 3494662B2 JP 52752398 A JP52752398 A JP 52752398A JP 52752398 A JP52752398 A JP 52752398A JP 3494662 B2 JP3494662 B2 JP 3494662B2
Authority
JP
Japan
Prior art keywords
image
indirect
color
direct
reflecting surface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP52752398A
Other languages
English (en)
Inventor
モハメッド アボレラ アブデルラティフ
Original Assignee
有限会社ネイチャーテクノロジー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 有限会社ネイチャーテクノロジー filed Critical 有限会社ネイチャーテクノロジー
Application granted granted Critical
Publication of JP3494662B2 publication Critical patent/JP3494662B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control

Description

【発明の詳細な説明】 [技術分野] この発明は、撮影された物体の像の色を補正し、その
像の色を正しく表示することの可能な撮影システムに関
する。
[背景技術] 物体の色は照明状況に影響され易く、カメラにより撮
影された像の色を常に正しく表示することは困難であ
る。人間はそのような環境にあっても、物体の色を正し
く認識することができ、この能力は色の不変性と呼ばれ
る。
既存のビデオカメラでは、このような特性を有する撮
像素子を備えたものは存在しない。そして、かかるビデ
オカメラを備えた撮影システムにおいて色の不変性を実
現するために、特定点の色をその周囲の色と比較して補
正したり、複雑な補正を行う試みがなされている。しか
し、これらの試みは特殊な画像の補正に限定されたり画
像処理に多くの時間を要することから、実用的ではなか
った。
本発明は、撮影された物体の像の色を実用的な速さで
補正し、その像の色を正しく表示することの可能なレス
ポンスの良い撮影システムを提供することを目的として
いる。
[発明の開示] 本発明に係るカメラの特徴構成は、カラー画像を撮像
する撮像素子と、対象物の像を前記撮像素子上に結像す
るレンズとを備えたカメラであって、前記対象物の像を
散乱反射し前記レンズを介して前記撮像素子上に入射さ
せる反射面を前記レンズ及び撮像素子のなす最大視野内
に設け、前記対象物上の対象点の直接像を撮す直接像部
と前記反射面から得られる対象点の間接像を撮す間接像
部を有している撮像素子を備えたことにある。
後述する発明者の解析によれば、最大視野内に設けら
れた反射面により散乱反射された間接像は、対象点の照
明の色を代表することが判明した。
特に、前記撮像素子のうち前記直接像を撮す直接像部
の幅が前記間接像を撮す間接像部の幅よりも広くなるよ
うに前記反射面を設定すると、撮像素子の最大視野を有
効に活用することが可能となる。しかも、後述するよう
に、間接像部の幅が最大視野の25%程度になっても、色
の補正には不都合が生じないことが確認された。
また、少なくとも前記最大視野外の光を遮るための覆
いを前記レンズの採光部側に設けることが望ましい。最
大視野外の光は色の補正に誤差を与えるが、この覆いに
より誤差を低減させることが可能となるからである。
前記撮像の色は前記間接像と前記直接像とを比較する
ことにより補正される。
反射面の設計に当たっては、前記直接像部と前記間接
像部とが並ぶ方向に対し、前記対象物の直接像と間接像
とが相似形となるようにすることができる。この場合、
花や小さな物体を細部までより正確に色補正することが
可能となる。
一方、前記直接像を撮す直接像部と前記間接像を撮す
間接像部とが並ぶ方向に対し、前記間接像部と前記直接
像部とで対応し合う各ピクセル数の割合が一定となるよ
うに反射面を設計してもよい。この場合は、色補正のア
ルゴリズムが単純化され、色の補正を非常に高速に処理
することが可能となる。
反射面の形状設計は次式に従うとよい。
Xni=f(A−tan(2α))/(1+A・tan(2α)) 但し、fはレンズの焦点距離、Aは(X/Z)、Xは対
象点Pの水平基準線Chからの水平方向距離、Zは対象点
Pの垂直基準線Cvからの垂直距離、αは反射面と垂直基
準線Cvに平行な水平線とのなす角である。
発明者の実験によれば、前記反射面を表面に油脂膜を
形成した皮で構成すると、色の補正が非常に良好に行え
ることが判明した。
本発明に係る撮影システムの特徴は、上記いずれかの
特徴構成に係るカメラを備えると共に、スキャンライン
に沿って順次スキャンされた映像をデジタル化しメモリ
ーに記憶する映像入力部を備え、前記映像は直接像部と
間接像部とを有しているとよい。
また、直接像の色を間接像の色で除算することによっ
て前記画像処理を行うようにしてもよく、前記の除算に
よる結果と3つの色において共通の補正項(S)と掛け
合わされればよい。
前記対象物上の対象点が前記撮像素子上で結像して得
られる前記直接像の各主座標と、前記反射面により前記
撮像素子上に得られる前記対象点の間接像の各副座標と
を対応させる対応手段を設け、次式により色補正された
撮像を得る色補正部を備えてあるとよい。
D1(Xmi,Ymi)=(Rmi/Rni)・S, D2(Xmi,Ymi)=(Gmi/Gni)・S, D3(Xmi,Ymi)=(Bmi/Bni)・S 但し、D1,D2,D3は、それぞれ色補正された撮像の前記
主座標(Xmi,Ymi)でのR,G,B成分であり、Rmi,Gmi,Bmi
は、それぞれ前記主座標(Xmi,Ymi)における直接像ピ
クセル(Pm)でのR,G,B成分であり、Rni,Gni,Bniは、そ
れぞれ前記副座標(Xni,Yni)における間接像ピクセル
(Pn)でのR,G,B成分であり、Sは補正項である。
後述する発明者の解析によれば、最大視野内に設けら
れた反射面により散乱反射された間接像は、対象点の照
明の色を代表することが判明した。したがって、この照
明の色を代表するRni,Gni,BniによりRmi,Gmi,Bmiをそれ
ぞれ除することで、照明の色の影響による誤差を打ち消
すことが可能となる。この点は、発明者の実験により確
認された。また、補正項SはRmi,Gmi、BmiをRni,Gni,Bn
iにより除した結果、その出力が装置的なスケール幅の
限界を超えることによる飽和を防ぐ。
本発明を実施するに当たっては、記憶媒体に記憶させ
た上記対応手段を実現するためのソフトウエアを汎用の
パーソナルコンピューターに組み込むと共に、上記反射
面を備えた上記覆いを汎用のビデオカメラに取り付ける
とよい。
このように、上記本発明の特徴によれば、反射面によ
る間接像と直接像を対比させることで、撮影された物体
の像の色を実用的な速さで補正し、その像の色を正しく
表示するレスポンスの良い撮影システムを提供すること
が可能となった。
本発明の詳細は、以下に示す発明の実施の形態及び実
施例の項から明らかになるであろう。なお、特許請求の
範囲の項に記入した符号は、あくまでも図面との対照を
便利にするためのものにすぎず、該記入により本発明は
添付図面の構成に限定されるものではない。
[発明を実施するための最良の形態] まず、図1〜5を参照しながら、本発明の原理を説明
する。
図1に示す例は、単純化された光路の幾何学的モデル
を示し、ここでは一般的な対象物Ob上の対象点Pと、反
射面(ノーズ面)18上の特定の点である反射基準点Nと
の位置関係を考える。対象物Ob上の対象点Pが、カメラ
20のレンズ21におけるOを通過して、CCD素子23上の直
接像部Fmに直接像として結像している。一方、対象物Ob
上の対象点Pの像は反射体15における反射面18表面によ
り散乱反射し、前記レンズ21を通過してCCD素子23上の
間接像部Fnに間接像として入射する。間接像部Fnでは反
射面18の散乱反射及び反射面18がレンズ21の焦点外にあ
ることから像を結ばないが、単純化のために反射面18は
鏡面反射を行うものとし、光の経路の中心を線分PN及び
NOにて便宜上表示する。
CCD素子23の全画像面Fのうち、一対の最大視野線
(面)Vm,Vmに囲まれる範囲は、レンズ21によりCCD素子
23上に結像可能な範囲であり、この範囲が最大視野に相
当する。なお、最大視野が図1の紙面垂直方向に広がり
を有していることはいうまでもない。この範囲に対応す
る全画像面Fの内、左上から右下に至る最大視野線Vm
と、反射面18の反射面頂部18a及びレンズ21のOとを結
ぶ境界視野線Vnとにより囲まれる範囲に対応する間接像
部Fnは、間接像を撮像する範囲である。残りに対応する
範囲直接像部Fmは、直接像を撮像する範囲である。
図1における水平基準線Chはレンズ21の中心を通り水
平方向及び紙面厚み方向に対する零点を示す基準軸であ
り、CCD素子23の撮影面を通過する垂直基準線Cvは垂直
方向に対する基準点を示す基準軸である。画像座標は
(X,Y,Z)系の座標により表示される。図中の符号X,Xn,
Xmi及びXniは、それぞれ、対象点P,反射基準点N,直接像
部Fm上の対象点Pの直接像Im及び間接像部Fn上の対象点
Pの間接像Inと、水平基準線Chとの水平距離である。同
じくこれら各点と水平基準線Chとの図1紙面垂直方向に
対する水平距離は、符号Y,Yn,Ymi及びYniにより表示さ
れる。また、図中の符号Z及びZnは、それぞれ、対象点
P及び反射基準点Nと、垂直基準線Cvとの水平距離であ
る。換言すれば、距離Znは反射基準点Nの深さであり、
対象点Pと反射基準点Nとの垂直方向距離はZ−Znで示
される。
ところで、照明からの光は物体の表面にぶつかり、そ
して表面の光学的特徴に依存した形態を持って反射す
る。反射光のカメラ20による見え方I(λ)は、次式に
よって記述できる。
I(λ)=E(λ)・ρ(λ) (1) ここでE(λ)は照明のスペクトル強度分布、ρ
(λ)は物体の表面反射、λは波長である。そして反射
I(λ)は三つの色R,G,Bに分解される。直接像Imを水
平方向に縮小した解像度で照明を反射するのが反射面18
であり、間接像Inを得ることは、照明をそうした形で測
定していることを意味する。
反射面18により鏡面反射した光線は、拡散光線の分布
によって囲まれている。それは異なる重みによりCCD素
子23の間接像部Fnとして到達する光線に影響を与える。
例えば、図2(a)において、光軸S1及びS2に沿ってそ
れぞれ入射した光線は、例えば鏡面反射の光軸S1,S2を
頂点とするガウス分布G1,G2に近似した拡散反射強度分
布を有している。そして、CCD素子23上に向かう特定の
光軸Sn上の光線は、強度DRC1、DRC2の値をもって間接像
部FnとしてCCD素子23に到達する光線に影響を与える。
かかる近似により、ノーズ上の点から反射した光線C
は、次式のように記述することができる。
C(X,Y)=∫∫Eo(X,Y)・ρo(X,Y)・B1(X,Y)dXdY
(2) ここで、添字oは対象物Ob上の点であることを意味す
る。
光線Cは、情景からノーズ面上における全ての照明点
Nの重み付けされた総和を意味する。このときの重み付
けの係数は、光線の角度の変化によって、また、ノーズ
面の表面荒さによって変化する。ぼかし係数B1は反射面
18の光学的特性、及び、表面荒さに依存している。
反射面18がレンズ21の焦点外であるので、反射面18で
反射したそれぞれの光線は円形に投影される。その強度
分布は、図2(b)に示すように、ぼかし円の直径方向
に対してガウス関数に従って変化すべく近似される。よ
って、CCD素子23における間接像部Fnのそれぞれのピク
セルの受光量は、円形窓の重み付けをもった総和とな
る。この円形窓の大きさは、ぼかし係数B2に依存し、こ
のぼかし係数は、焦点距離及びカメラ20のレンズ21から
の反射基準点Nの深さに依存する。
Cni=∫∫・2(Xni,Yni)・C(Xni,Yni)dXni・dYn
i (3) ここで、添字niは間接像Inのピクセルを意味し、副座
標(Xni,Yni)は間接像のCCD素子23上の座標を意味す
る。
二種類のぼかし係数B1,B2を含む二つの式を組み合わ
せる結果として、二つの空間ぼかしの操作がなされる。
一つは反射面18上で、もう一つは反射面18がレンズ21の
焦点外にあることに起因するCCD素子23上での焦点のず
れによって行われる。ぼかしの過程は、別々にコントロ
ールされた2つの層で行われる。上記二つのぼかし係数
を含む2つの式を組み合わせることによる連続的なコン
ボリューションは、対象点Pの照明の色を代表している
ものと考える。すなわち、反射面18の反射によりCCD素
子23上に得られる間接像部Fnは、対象点P又はその近傍
の照明の色を代表しているものと考える。
したがって、次式(4)に示す演算処理を行って得ら
れる色強度信号D1,D2,D3は、補正された対象物Obにおけ
る対象点Pの色を代表することとなる。なぜなら、対象
点P自体の色を代表する各主座標におけるRmi,Gmi,Bmi
を、対象点Pの照明の色を代表する各副座標におけるRn
i,Gni,Bniにより除することで、対象点Pの照明の色の
影響を除去しているからである。
D1(Xmi,Ymi)=(Rmi/Rni)・S, D2(Xmi,Ymi)=(Gmi/Gni)・S, D3(Xmi,Ymi)=(Bmi/Bni)・S (4) 但し、上式中、添字mは直接像Imを,nは反射面1によ
る間接像Inを,iはCCD素子23上の画像を意味する。ま
た、D1,D2,D3は、それぞれ色補正された撮像の主座標
(Xmi,Ymi)でのR,G,B成分であり、Rmi,Gmi,Bmiは、そ
れぞれ主座標(Xmi,Ymi)における直接像ピクセル(P
m)でのR,G,B成分であり、Rni,Gni,Bniは、それぞれ副
座標(Xni,Yni)における間接像ピクセル(Pn)でのR,
G,B成分である。また、主座標(Xmi,Ymi)とは対象点P
が撮像素子23上で結像して得られる直接像の座標であ
り、副座標(Xni,Yni)とは反射面18により撮像素子23
上に得られる対象点Pの間接像の座標である。係数S
は、D1〜D3の値が飽和しないように絶対値を調節する。
空間的明るさを検出するためのセンサとしての反射面
18の役割は、簡単な実験によって確認することができ
る。強いスポットライトが直接に白い壁に当てられたと
き、本発明に係る撮影システム1は、図3(c)に見ら
れる画像をとらえる。そのスポットの直接像Imは、境界
線DLの左側に白い円に近い図形として現れ、その間接像
Inは水平解像度が減少して周囲にフレアを伴った楕円の
形で投影される。反射面18による反射は、照明の色を代
表する。照明の色は、白熱灯と色フィルタを使うことに
よって変化させることができる。狭い帯状の光を白い壁
の上に投影すると、それらのR,G,Bの値は直接像Imと間
接像Inの中で対応する斑点として測定された。色強度信
号(D1,D2,D3)の割合は、照明の色を変化させてもほぼ
一定であった。
次に、反射面18とカメラ20との位置関係について説明
する。
反射面18と垂直基準線Cvに平行な水平線とのなす角は
αである。線NOで表された反射面18からの反射光線と水
平線のなす角はξであり、同じく線NOと反射面18とのな
す角はβである。線NOと反射面18の垂線との角はθであ
る。線NOは入射光を現す線PNを反射面18に関して鏡面反
射させたものであるから、線PNと反射面18の垂線とのな
す角も同じくθである。fはカメラ20のレンズ21の焦点
距離である。線PNと水平線とのなす角をx、線POと水平
線とのなす対象点水平位置角度をφ、線POと線PNとのな
す視野誤差角をψでそれぞれ表示する。
対象点Pに注目すると、ψ=φ−x (5) となる。
∠PNOに注目すると、x+ξ=2θとなる。
反射基準点Nの対頂角より、α=ξ+βが成立する。
反射基準点N周りの反射面18の垂線の関係より、β=
π/2−θとなる。
反射基準点N周りの上記2式より、ξ=α−β=α+
θ−π/2が成立し、さらに、θ=ξ−α+π/2が成立す
る。
上記各式を整理すると、次式が成立する。
ψ=φ−x=φ−(2θ−ξ)=φ+ξ−2θ=φ+ξ−2(ξ−α+π/2) =φ+ξ−2ξ+2α−π=φ−ξ+2α−π (6) 反射面18の角度αは、上式から計算できる。また、対
象点水平位置角度φは、次式により求められる。
φ=tan-1((Z−f)/x) (7) 角度ξは、反射面18上における反射基準点Nないし間
接像Inの水平方向座標を示す指標となり、次式により求
められる。
ξ=tan-1(f/Xni) (8) ここで、対象点Pの水平座標を変化させる時の最適な
反射面18の角αを図5(a)に示す。角度αは視野誤差
角ψを2度という小さな値に設定して計算した。一方、
他の角度は、それらの平均値をもって代表させた。図5
(a)において、対象点水平位置角度ψを横軸に、反射
面18の角αの値を縦軸に示した。対象点水平位置角度φ
が増加するとき、視野誤差角ψを小さなほぼ一定の値に
保つために、反射面18の角αを適宜減少させることが望
ましい。
図1、3及び4に示すように、各画像ラインは、直接
像Imを捉える直接像部Fmと、境界線DLで隔てられ且つ間
接像Inを捉える間接像部Fnとよりなる。これら直接像部
Fm,間接像部Fnを隔てる境界線DLは、反射面18の反射面
頂部18aに対応する。本発明でのマッピングは、間接像
部Fnをなす間接像ピクセルPnを直接像部Fmの直接像ピク
セル集合Pmに割り当てることを意味する。対象物Obがカ
メラ20に近いと、角度ψは視野誤差の測定になるので、
マッピングは難しくなる。直接像Imと間接像Inとの視野
ズレを最小にするために、角度ψはできる限り小さいこ
とが要求される。角度ψが大きければ、対象物Obが直接
残部Fmには映るが、間接像部Fnには映らないか、あるい
はその反対のことが起こりうる。角度ψは反射面18の座
標の項で表すことができる。図1の幾何学的配置から、
次の関係が導き出せる。
tan(x)=(Z−Zn)/(Xn−X) (9) 式(5)の両辺のタンジェントを求めると、次式が成
立する。
tanψ=(tanφ−tan(x))/(1+tanφ・tan(x))(1
0) これら両式(9)(10)より、次式が求められる。
tanψ=(Xn(Z−f)+Zn・X+X・f−2X・Z)/(Xn・X+Zn(f− Z)+Z(Z−f)−X2) (11) 式(11)は、対象点P(X,Z)と、反射面18上の反射
基準点N(Xn,Zn)との双方の角度の依存性を表してい
る。式(11)においてX=0とすると、次式(12)に示
すようにカメラ光軸点でのタンジェント角度が得られ
る。
tanψ=(Xn(Z−f)/(Zn(f−Z)+Z(Z−f)) (1
2) 反射基準点Nと水平基準線Chとの水平距離である基準
点水平距離Xnが増加すれば、視野誤差ψが増加する。よ
って、反射面18を水平基準線Chに対してできる限り水平
に近づけるのがよい。誤差角度ψは反射基準点Nの深さ
Znの増加に伴って増加する。よって、カメラ20のレンズ
21から反射基準点Nまでの深さZnはできる限り小さい方
がよい。
対象物距離Zについての視野誤差角度の依存性を図5
(b)に示す。距離Zが増加すると、視野誤差角度ψは
減少する。誤差角度ψは、対象物Obが近くにあるときは
かなりの値であるが、距離が40cm以上になると2度未満
になる。高解像度のストライプで照明をしない限り、視
野の問題は重要ではない。通常の照明状態では、明るさ
は短い周期で変化したりしない。反射基準点Nからの基
準点水平距離Xnの増加に伴い、誤差角度ψは増加する。
図5(a)に示すような傾向で反射面18の角度αが変化
するなら、この影響は最小化される。
上記式(5)及び式(6)より、x=φ−ψ=π+ξ
−2αとなり、さらに、これらの式のタンジェントを求
めると、次式が成立する。
tan(x)=tan(π+ξ−2α)=tan(ξ−2α)
(13) 上式に式(7)、式(8)を代入すると、次式が求め
られる。
(Z−Zn)/(X−Xn)=((f−Xni・tan(2α))/(Xni
+f・tan(2α)) (14) ここで(X/Z)=Aとおき、上式(14)を展開、整理
すると、次式が成立する。
Xni/f=((A−tan(2α))−(Xn/Z−(Zn/Z)・tan(2α)))/
((1+ A・tan(2α))−((Xn/Z)・tan(2α)+Zn/Z)) (15) さらに、Z>>Zn、X>>Xnであるとすると、上式の
分子及び分母のそれぞれにおける後半の項が零となり、
次式が成立する。
Xni=f(A−tan(2α))/(1+A・tan(2α)) (1
6) この式は、同じスキャンラインSLに属する対象物Obの
直線像Imと間接像Inとの水平座標に対するマッピングを
表している。対象物Ob上の一つの対象点Pに対応する間
接像部Fn上での点の座標を示すXniは、距離の値にはっ
きりと依存してはいないが、どちらかと言えば比率A=
(X/Z)に依存している。これは式の中でZnを省略する
ことによって説明できる。対象物Obがカメラ20の位置か
ら十分に隔たった位置にあると仮定すると、角度ψは非
常に小さくなる。その場合、もしOPに沿って注目すべき
対象点Pが移動するなら、線分PN上の反射面18の反射は
わずかに変化する。式(16)に記述されているように、
マッピングは反射面18の形状の決定に直接的に関係す
る。
図3(a)、図4(a)は非リニアマッピングの手法
を示し、図3(b),図4(b)はリニアマッピングの
手法を示す。マッピングは、直接像部Fmと間接像部Fnと
の位置的関係において、上記式(16)中のXni、A=(X
/Z)及び反射面の各微小部分の角度αをどのように定め
るかにより、非リニア又はリニアの関係を選択できる。
図4は、1つのスキャンラインSL上における直接像部Fm
上の直接像ピクセル集合Pmと間接像部Fn上の間接像ピク
セルPnとの対応関係を説明するために、直接像ピクセル
集合Pm、間接像ピクセルPnを斜めにずらすと共に対応す
るものを矢印で示している。直接像部Fmにおけるマッピ
ングの方向は矢印Mmに向かっているのに対し、間接像部
Fnにおけるマッピングの方向は逆の矢印Mnに向かってい
る。通常、直接像部Fmと間接像部Fnとの境界線DLは、全
画像面Fの下縁と直交している。
図3(a)、図4(a)の非リニアマッピングでは、
各間接像ピクセルPnは異なる個数のピクセルよりなる各
直接像ピクセル集合Pmに割り付けてある。このマッピン
グでは、互いに対応する直接像Imと間接像Inにおける各
部の寸法はa/d=b/cとなるように割り付けられている。
すなわち、直接像部Fmと間接像部Fnとが並ぶ方向に対
し、対象物Obの直接像Imと間接像Inとが相似形となるよ
うに割り付けてある。このようなマッピングは、画像の
微少な部分を正確に色補正する場合、例えば、花や小さ
な物体を撮影する場合に適している。
図3(b)、図4(b)のリニアマッピングでは、直
接像部Fmと間接像部Fnとが並ぶ方向に対し、間接像部Fn
と直接像部Fmとで対応し合う各ピクセル数の割合(Pm/P
n)が一定となるように割り付けてある。このマッピン
グでは、互いに対応する直接像Imと間接像Inにおける各
部の寸法はa/dとb/cとが不均等となるように割り付けら
れている。すなわち、直接像Imと間接像Inとが非相似形
とならざるを得ず、直接像部Fmの部分は均一な解像度で
色補正される。本マッピングは、画像処理を高速に行う
ことができ、ほぼリアルタイムで色補正された画像を得
ることが可能となる。なお、上述の割付を行う対応手段
は、後述するように、パーソナルコンピューター30によ
り実現可能である。
反射面18は、その全体が図1に示すように直線的では
なく、各微小部分毎に表面の角度αが異なっており、全
体として曲面状となる。図1の反射面18は説明の便宜の
ために直線状に描かれているに過ぎない。
線図を用いて反射面18を設計するに当たり、まず、CC
D素子上における境界線DLよりも右側の間接像部Fnに、
可視像の垂直な限界線を投影できるように、反射面頂部
18aにおける反射面の微小部分の角度αを決定する。反
射面の各微小部分の角度αは、図5(a)に示した必要
性に基づいて決定した。深さ1メートルの範囲内におい
て、直接像から投影される長さと対応する反射面18の微
小部分長さとを線図により測定した。この場合、深さの
差は、式(16)から求められる概算的な数値として、大
きな誤差を生じさせることはなかった。すなわち、上述
のマッピングのための式は、直接像部Fmと間接像部Fnと
の間における各ピクセルの線図による測定に当てはまる
といえる。
一方、数式を用いて反射面18を設計するに当たって
は、まず、反射面頂部18aの座標(Xo,Zo)をカメラ20に
到達する光の境界線から求める。リニアマッピングを利
用する場合には、間接像部Fnと直接像部Fmとの対応関係
より、上記A=(X/Z)及びM=(Xni/f)を求め、当該
座標における反射面の微小部分の角度αを上記式(16)
を用いて決定する。次いで、次式(17)、(18)を用い
て、座標(Xo,Zo)から微小距離離れた部分の座標を求
める。次の2つの式における添字“n"及び“n−1"は反
射面18を微小部分に分割した場合における反射面頂部18
aにより近いn−1番目の微小部分とこの頂部から離れ
た反射面終端部18b側のn番目の微小部分位置との関係
を意味する。さらに、この新たな座標(Xn,Zn)におけ
る角度αを上式(16)により求める。このような作業を
順次繰り返すことで、反射面18の曲面が決定される。
Zn=(Zn-1−tanαn-1(Mnfn−Xn-1))/(1−Mn・tan(αn-1)) (17) Xn=Xn-1+(Zn-1−Zn)/tanαn-1 (18) 次に、図1,3,4,7,8を参照しつつ、本発明にかかる撮
影システムの構成について説明する。
図7は、カメラ20近傍の具体的構成を示し、カメラ20
の先端側部分に反射体15を有する保護覆い10を取り付け
てある。保護覆い10は、角錐台状の覆い本体11とカメラ
20に外嵌するための取付部12とを有している。この保護
覆い10の覆い本体11は、図1に示す一対の最大視野線
(面)Vm,Vmで囲まれる範囲より外からカメラ20に対す
る光の侵入を防ぐための機能を果たす。一対の最大視野
線Vm,Vmで囲まれる範囲外からの光は、撮像を補正する
ための反射面18からの光に誤差を与えるので、これを除
去することが望ましいからである。
反射体15は、覆い本体11における一方の内面に取り付
けてあり、反射面18の表面形状を決めるための基材16
と、基材16の表面に張り付けた皮17とを備えている。皮
17の反射面18側は光を散乱反射するようにマット状で黒
又はグレーに着色されており、油脂を塗りつけて膜を形
成してある。
図8は撮影システム1の論理ブロック図であり、この
撮影システム1は、大略、保護覆い10と、カメラ20と、
パーソナルコンピューター30と、モニター装置41及びカ
ラープリンター42とにより構成してある。カメラ20のレ
ンズ21から取り込まれた映像は絞り22を介して光量を調
節された状態でCCD素子23上に結像する。CCD素子23の出
力はパーソナルコンピューター30の映像入力部31に取り
込まれる他、フレーム平均化部24において撮影された映
像の光量を求め、CCD素子23の出力が飽和しないように
開口調節モーター25により絞り22の開口量を制御する。
パーソナルコンピューター30は汎用品であり、ハード
ディスクやRAM等の記憶手段にソフトウエアを組み込ん
で、以下に示すタイマー32〜色彩応用回路37等の各種機
能を実現する。このソフトウエアはCD−ROMやフレキシ
ブルディスク等の記憶媒体に記憶させた状態で配布状態
である。映像入力部31はカメラ20においてスキャンライ
ンSLに沿って順次スキャンされた映像をデジタル化しメ
モリーに記憶する。タイマー32はメモリーに記憶された
全映像の直接像部Fmと間接像部Fnとを分割する境界線DL
の位置を決定するためのトリガーとして機能する。本実
施形態では、全画像のうち直接像部Fmを240ピクセル、
間接像部Fnを80ピクセルとしている。マッパー33は間接
像部Fnに含まれる1スキャン当たり80個の各間接像ピク
セルPnを、対応する直接像部Fmの各直接像ピクセル集合
Pmにマッピングする。このマッピングは上述の如く式
(16)に従って非リニア又はリニアに行われる。
色補正部34では先の式(4)によるD1,D2及びD3がそ
れぞれ求められ、全画像におけるこれらの値の最大値を
最大値選択部35により求める。この最大値が飽和しない
レベルが式(4)における係数である補正項Sの適切な
値であり、スケーラー36は補正項Sの適切な値を色補正
部34において決定し、出力D1,D2,D3の値を補正する。例
えば、8ビットコンピューターでは情報処理のスケール
幅が256であり、R,G,Bのうち1色当たりのスケール幅の
割付は約85となるから、D1,D2及びD3のスケール幅の最
大値が85以下となるように補正項Sを設定する。16,32
ビットコンピューターではさらに大きなスケール幅の割
付が可能であり、さらに細かな階調で色を表現すること
ができる。
色彩応用回路37は色補正された映像を記憶、再生、編
集等するための手段であって、ハードディスク等に記憶
されたソフトウエアをCPUその他のハードウエアにより
駆動させることで実現される。色彩応用回路37により再
生等された画像は、映像処理装置38を介してモニター装
置41にカラー動画等として表示される他、I/Oポート39
及びカラープリンター42を介して静止画としてカラー印
刷される。
上記発明を実証するため、上記カメラ20としてSONY社
製XC−711(商標)カラービデオカメラを用い、レンズ2
1には焦点距離12.5mmのコスミカ製Cマウント(商標)
を使用した。色の値は、ミノルタ製色差計CS−100(商
標)を使用した。撮影システム1の最初の構成は、実験
データを求めるべく静止画像を得るものとした。皮17は
拡散反射させるためにつや消しで灰色の色紙により作成
したが、上述の油脂膜を設けた皮革を用いた場合の方が
良好な結果が得られた。全画像面Fに対する間接像部Fn
の幅の比は最大値が25%に制限されるように設計した。
動作クロック120MHzのPentium(商標)を用いたパーソ
ナルコンピューター30を使用したときの処理時間は、32
0×220ピクセルの画像で0.55秒であった。
表面の色を補正するこの撮影システム1の応用性は、
色品質に関した明るさ強度の影響を研究することによっ
て確認できる。発明者は日光と蛍光灯とを組み合わせた
幾枚かのフルカラー画像について実験を行った。画像処
理は直接像Imの色を間接像Inの色で除算することによっ
て行われる。画像の色は改善され、暗い画像は明るくな
り細部まで確認できるようになり、明るすぎる画像は暗
くなった、100ルクス以下の暗い画像は反射面18を使用
する方法による処理の後でもノイズが目立った。
この撮影システム1による色補正の量的な品質を調査
するために、もう一つの実験を行った。赤色紙片をカメ
ラ平面に設置し、異なる照明強度の下で紙片の色を比較
した。赤色紙片の輝度における照明強度の効果を、補正
前後の対比により図6(a)に示す。横軸は照明の強さ
であり、縦軸は赤色紙片の輝度である。Before correct
ionに示すように、通常、情景照明の強さが増すと、画
像中の色紙片の明るさが増す。After correctionに示す
ように、補正後の紙片中の明るさは、照明の強さを変化
させてもほぼ一定で安定している。CIE1931基準に基づ
くxy色度座標についての照明の強さの効果を図6(b)
に示す。図6(b)のBefore correctionでは、横軸に
示す照明の強さが増加すると、縦軸に示す赤色紙片のx
色度座標の値も増加している。これは照明の強さが異な
ると、もとの色に対して色相の歪みが生じることを意味
している。補正後のx色度座標を見ると、照明が強くな
るにつれてわずかに減少している。なお、図6(a)
(b)において、最も照明が弱い場合に相当する100ル
クスでの輝度及びx色度座標の値は、これより大きな照
明の強さのものと常に異なっているが、反射面の条件設
定を変更することにより、低強度の照明でも照度及び色
相の定常性を維持することは可能である。
反射面18を使用するこの撮影システム1による画像の
色の補正によって、歪ませられたもとの画像の色が除去
された。異なる強さの照明の下での補正された一画像の
ヒストグラムはどれもよく似ていた。このことからして
も、体験的に照明の強さは影響していないということが
言える。図6(a)(b)に示すように、色補正の前後
におけるカラーパラメータは、照明の強さをある範囲で
変化させたときに、色の明るさと色相は小さな変化をす
るに止まっているといえる。
最後に、本発明の他の実施形態の可能性について説明
する。
上記実施形態では、CCD素子23の全画像面Fが平面状
であったが、全画像面Fが例えばレンズ21の点Oを中心
とする曲面状に形成されたCCD素子23を用いることも理
論的には可能である。この場合、上記式(15)は次の式
に置換することができる。
tan(2α)=(A・tanξ+1−((Zn/Z)+(Xn/Z)・tanξ))/(1− A・tanξ+((Zn/Z)・tanξ−(Xn/Z))) (19) さらに、Z>>Zn、X>>Xnであるとすると、上式の
分子及び分母のそれぞれにおける後半の項が零となり、
上記式(16)と置換可能な次式が成立する。
tan(2α)=(A・tanξ+1)/(1−A・tan
ξ) (20) 反射面18の曲面の設計は、上記式(16)の代わりにこ
の式(20)に基づいて行えばよい。
上記実施形態では反射面18を油脂膜を形成した黒色の
皮により構成したが、この反射面は光を適切な強度で散
乱反射させればよく、表面がマット調のグレー等の他の
材料により構成してもよい。
上記実施形態では、より実用的な例を示すべく、マッ
ピングにおいて1つの間接像ピクセルPnと複数の直接像
ピクセルよりなる直接像ピクセル集合Pmとを割り付け
た。しかし、間接像部Fnと直接像部Fmとの幅が等しい場
合は1つの間接像ピクセルPnと1つの直接像ピクセルPm
とを割り付けもよく、また、間接像部Fnが直接像部Fmよ
りも幅広な場合は複数の間接像ピクセルよりなるの間接
像ピクセル集合Pnと1つの直接像ピクセルPmとを割り付
けることも理論的には可能である。
[産業上の利用可能性] 上述の撮影システム(装置)は、動画を撮影するため
のビデオカメラや静止画を撮影するためのデジタルカメ
ラ等に利用することができる。また、上述の撮影システ
ムは、色に基づいたスレテオ距離取得装置も好適に応用
することができる。現在のステレオ距離取得装置は、各
スキャンライン上でのカラーコードの変化点を特徴点と
し、それを検出するようになっている。その特徴点は、
右左のステレオ画像間で比較され、カラーコードが近け
れば一致となる。カラーコードの安定性は本発明に係る
色の不変性の大きな利点であり、本撮影システムをステ
レオ距離取得装置に適用することでステレオマッチング
の信頼性を高めることができる。
図面の簡単な説明 図1は、本発明の原理を説明するための対象物Ob,反
射面,レンズ及びCCD素子の関係を示す説明図である。
図2の(a)は拡散反射パターンによる反射面上の最
初のコンボリューション、(b)は焦点がずれた間接像
部FnによるCCD素子上の二番目のコンボリューションを
説明するための図である。
図3の(a)は非リニアマッピング、(b)はリニア
マッピング、(c)はスポットライト照明時のそれぞれ
における全画像面F上の直接像Imと間接像Inとの関係を
示す図である。
図4の(a)は非リニアマッピング、(b)はリニア
マッピングのそれぞれにおける各直接像ピクセル集合Pm
と各間接像ピクセルPnとの割付を説明するための図であ
る。
図5の(a)は対象点Pの異なる水平位置と最適な反
射面の角αとの関係を示すグラフ、(b)は対象点Pの
深さと視野誤差角ψとの関係を示すグラフである。
図6の(a)は照明の強さと輝度との関係における色
補正前後の変化を示すグラフ、(b)は照明の強さとx
色度座標との関係における色補正前後の変化を示すグラ
フである。
図7の(a)は保護覆いを取り付けたカメラの斜視
図、(b)は保護覆いの横断面図である。
図8は、本発明に係る撮影システムの論理ブロック図
である。
図9は、本発明の別の実施形態を示す図1相当図であ
る。
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 平3−286398(JP,A) 特開 平3−254727(JP,A) 特開 平5−122708(JP,A) 実開 平2−82127(JP,U) 独国特許出願公開19514629(DE,A 1) (58)調査した分野(Int.Cl.7,DB名) H04N 9/04 - 9/11 H04N 5/225 - 5/238

Claims (12)

    (57)【特許請求の範囲】
  1. 【請求項1】カラー画像を撮像する撮像素子(23)と、
    対象物(Ob)の像を前記撮像素子上に結像するレンズ
    (21)とを備えたカメラであって、前記対象物(Ob)の
    像を散乱反射し前記レンズ(21)を介して前記撮像素子
    (23)上に入射させる反射面(18)を前記レンズ(21)
    及び撮像素子(23)のなす最大視野(Vm,Vm)内に設
    け、前記対象物(Ob)上の対象点(P)の直接像を撮す
    直接像部(Fm)と前記反射面(18)から得られる対象点
    (P)の間接像を撮す間接像部(Fn)を有している撮像
    素子(23)を備えたカメラ。
  2. 【請求項2】前記直接像部(Fm)の幅が前記間接像部
    (Fn)の幅よりも広くなるように前記反射面(18)を設
    定してある請求項1に記載のカメラ。
  3. 【請求項3】覆い(10)を前記レンズ(21)の採光部側
    に設け、前記反射面(18)を覆い(10)の内面に設けて
    ある請求項1又は2に記載のカメラ。
  4. 【請求項4】前記撮像の色が間接像(In)と直接像(I
    m)とを比較することにより補正されることを特徴とす
    る請求項1〜3のいずれかに記載のカメラ。
  5. 【請求項5】前記直接像部(Fm)と前記間接像部(Fn)
    とが並ぶ方向に対し、前記対象物(Ob)の直接像(Im)
    と間接像(In)とが相似形となる請求項1〜4のいずれ
    かに記載のカメラ。
  6. 【請求項6】前記直接像部(Fm)と前記間接像部(Fn)
    とが並ぶ方向に対し、前記間接像部(Fn)と前記直接像
    部(Fm)とで対応し合う各ピクセル数の割合(Pm/Pn)
    が一定となる請求項1〜5のいずれかに記載のカメラ。
  7. 【請求項7】前記反射面(18)の形状を次式に従って形
    成してある請求項1〜6のいずれかに記載のカメラ。 Xni=f(A−tan(2α))/(1+A・tan(2α)) 但し、fはレンズの焦点距離、Aは(X/Z)、Xは対象
    点(P)の水平基準線(Ch)からの水平方向距離、Zは
    対象点(P)の垂直基準線(Cv)からの垂直距離、αは
    反射面(18)と垂直基準線(Cv)に平行な水平線とのな
    す角である。
  8. 【請求項8】記反射面(18)が表面に油脂膜を形成した
    皮である請求項1〜7のいずれかに記載のカメラ。
  9. 【請求項9】スキャンライン(SL)に沿って順次スキャ
    ンされた映像をデジタル化しメモリーに記憶する映像入
    力部(31)を備え、前記映像は直接像部(Fm)と間接像
    部(Fn)とを有している請求項1〜8のいずれかに記載
    のカメラを備えた撮影システム。
  10. 【請求項10】直接像(Im)の色を間接像(In)の色で
    除算することによって前記画像処理を行う請求項1〜8
    のいずれかに記載のカメラを備えた撮影システム。
  11. 【請求項11】前記の除算による結果は3つの色におい
    て共通の補正項(S)と掛け合わされるものである請求
    項10に記載の撮影システム。
  12. 【請求項12】前記対象物(Ob)上の対象点(P)が前
    記撮像素子(23)上で結像して得られる前記直接像の各
    主座標(Xmi,Ymi)と、前記反射面(18)により前記撮
    像素子(23)上に得られる前記対象点(P)の間接像の
    各副座標(Xni,Yni)とを対応させる対応手段(30)を
    設け、次式により色補正された撮像を得る色補正部(3
    4)を備えた請求項1〜8のいずれかに記載のカメラを
    備えた撮影システム。 D1(Xmi,Ymi)=(Rmi/Rni)・S, D2(Xmi,Ymi)=(Gmi/Gni)・S, D3(Xmi,Ymi)=(Bmi/Bni)・S 但し、D1,D2,D3は、それぞれ色補正された撮像の前記主
    座標(Xmi,Ymi)でのR,G,B成分であり、Rmi,Gmi,Bmi
    は、それぞれ前記主座標(Xmi,Ymi)における直接像ピ
    クセル(Pm)でのR,G,B成分であり、Rni,Gni,Bniは、そ
    れぞれ前記副座標(Xni,Yni)における間接像ピクセル
    (Pn)でのR,G,B成分であり、Sは補正項である。
JP52752398A 1996-12-17 1996-12-17 カメラ及びこのカメラを備えた撮影システム Expired - Fee Related JP3494662B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP1996/003683 WO1998027744A1 (fr) 1996-12-17 1996-12-17 Systeme d'imagerie

Publications (1)

Publication Number Publication Date
JP3494662B2 true JP3494662B2 (ja) 2004-02-09

Family

ID=14154238

Family Applications (1)

Application Number Title Priority Date Filing Date
JP52752398A Expired - Fee Related JP3494662B2 (ja) 1996-12-17 1996-12-17 カメラ及びこのカメラを備えた撮影システム

Country Status (6)

Country Link
US (1) US6624847B1 (ja)
EP (1) EP0952738A4 (ja)
JP (1) JP3494662B2 (ja)
KR (1) KR100417629B1 (ja)
CA (1) CA2275466C (ja)
WO (1) WO1998027744A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100760171B1 (ko) * 1999-03-12 2007-09-20 소니 가부시끼 가이샤 화상 제공 장치 및 그 제공 방법, 화상 처리 장치 및 그 처리 방법, 및 기억 매체
EP1220547A4 (en) * 1999-09-17 2005-09-21 Nature Technology Co Ltd IMAGE ENTRY SYSTEM, IMAGE PROCESSOR AND CAMERA THEREFOR
JP3804916B2 (ja) * 2001-02-09 2006-08-02 シャープ株式会社 撮像システムとその画像データ制御に用いられるプログラムおよびその撮像システムにおける撮像画像の歪み補正方法とその手順を記憶させた記憶媒体
JP4800591B2 (ja) * 2004-05-26 2011-10-26 オリンパス株式会社 撮影システム
US7812297B2 (en) * 2007-06-26 2010-10-12 Microsemi Corp. - Analog Mixed Signal Group, Ltd. Integrated synchronized optical sampling and control element
WO2009113055A2 (en) * 2008-03-13 2009-09-17 Microsemi Corp. - Analog Mixed Signal Group, Ltd. A color controller for a luminaire
TW201004477A (en) * 2008-06-10 2010-01-16 Microsemi Corp Analog Mixed Si Color manager for backlight systems operative at multiple current levels
US8324830B2 (en) * 2009-02-19 2012-12-04 Microsemi Corp.—Analog Mixed Signal Group Ltd. Color management for field-sequential LCD display
US10244981B2 (en) * 2011-03-30 2019-04-02 SensiVida Medical Technologies, Inc. Skin test image analysis apparatuses and methods thereof

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19514629A1 (de) 1995-04-26 1996-10-31 Thomson Brandt Gmbh Videokamera mit Weißabgleich

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE2533214C3 (de) * 1975-07-25 1980-10-09 Siemens Ag, 1000 Berlin Und 8000 Muenchen Vorrichtung zur Erfassung der Einfallsrichtung elektromagnetischer Strahlung
JPS6468190A (en) * 1987-09-09 1989-03-14 Victor Company Of Japan Three-color separation optical system
JP2508951Y2 (ja) * 1988-02-03 1996-08-28 富士写真フイルム株式会社 白バランス調節装置
JPH03254727A (ja) * 1990-03-02 1991-11-13 Canon Inc 画像撮影装置
JP2855770B2 (ja) * 1990-04-02 1999-02-10 住友電気工業株式会社 画像処理式交通流計測装置
JP3016450B2 (ja) * 1991-10-29 2000-03-06 ソニー株式会社 電子カメラ
JP3254727B2 (ja) 1992-05-20 2002-02-12 日新電機株式会社 窒化ホウ素含有膜の形成方法
JP3286398B2 (ja) 1993-05-28 2002-05-27 三洋電機株式会社 電気掃除機
WO1995006303A1 (en) * 1993-08-25 1995-03-02 The Australian National University Panoramic surveillance system
JPH0882831A (ja) * 1994-09-09 1996-03-26 Canon Inc レンズフード

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19514629A1 (de) 1995-04-26 1996-10-31 Thomson Brandt Gmbh Videokamera mit Weißabgleich

Also Published As

Publication number Publication date
KR20000057663A (ko) 2000-09-25
US6624847B1 (en) 2003-09-23
EP0952738A4 (en) 2002-03-27
WO1998027744A1 (fr) 1998-06-25
CA2275466A1 (en) 1998-06-25
EP0952738A1 (en) 1999-10-27
CA2275466C (en) 2004-09-14
KR100417629B1 (ko) 2004-02-05

Similar Documents

Publication Publication Date Title
US6876775B2 (en) Technique for removing blurring from a captured image
CA2412706C (en) Correcting geometric distortion in a digitally captured image
US7253832B2 (en) Shape extraction system and 3-D (three dimension) information acquisition system using the same
US6552783B1 (en) Optical system
EP1349487B1 (en) Image capturing device with reflex reduction
WO2017168986A1 (ja) 制御装置、内視鏡撮像装置、制御方法、プログラムおよび内視鏡システム
JP2008033189A (ja) 画像表示装置、画像表示方法及び画像表示プログラム
JP3494662B2 (ja) カメラ及びこのカメラを備えた撮影システム
US10485420B2 (en) Eye gaze tracking
JP2006285763A (ja) 被写体についての陰影のない画像を生成する方法および装置、並びにそれに用いる白色板
US7391522B2 (en) Three-dimensional shape detecting device, image capturing device, and three-dimensional shape detecting program
US20040109077A1 (en) Camera, imaging system and illuminations sensor
US7365301B2 (en) Three-dimensional shape detecting device, image capturing device, and three-dimensional shape detecting program
US20080279458A1 (en) Imaging system for shape measurement of partially-specular object and method thereof
WO1998027744A9 (ja)
KR0159442B1 (ko) 도장면 성상 측정장치
JP2021021710A (ja) 表面特性評価方法、表面特性評価装置、及び表面特性評価プログラム
JPH11304589A (ja) 環境光測定システム
JP2021004762A (ja) 計測装置、撮像装置、計測システム、制御方法、プログラム及び記録媒体
JP2006226958A (ja) 反射特性測定プログラム及び反射特性測定方法
KR102556609B1 (ko) 조도변화와 빛의 반사에 따라 적응적으로 촬영영상을 보정하는 감시용 카메라의 촬영영상 보정장치 및 그 촬영영상 보정방법
Abdellatif et al. Measurement of True Object Colors by Using the Reflection of a Sub-Surface
US20210118171A1 (en) Object characteristic locating device and laser and imaging integration system
Stumpfel Hdr lighting capture of the sky and sun
CN1097959C (zh) 摄影系统

Legal Events

Date Code Title Description
R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081121

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081121

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091121

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101121

Year of fee payment: 7

S802 Written request for registration of partial abandonment of right

Free format text: JAPANESE INTERMEDIATE CODE: R311802

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101121

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101121

Year of fee payment: 7

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101121

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111121

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121121

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees