JP4800591B2 - 撮影システム - Google Patents

撮影システム Download PDF

Info

Publication number
JP4800591B2
JP4800591B2 JP2004156750A JP2004156750A JP4800591B2 JP 4800591 B2 JP4800591 B2 JP 4800591B2 JP 2004156750 A JP2004156750 A JP 2004156750A JP 2004156750 A JP2004156750 A JP 2004156750A JP 4800591 B2 JP4800591 B2 JP 4800591B2
Authority
JP
Japan
Prior art keywords
image
unit
color
rgb
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004156750A
Other languages
English (en)
Other versions
JP2005341175A5 (ja
JP2005341175A (ja
Inventor
康宏 小宮
徹 和田
治 今野
伸雅 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2004156750A priority Critical patent/JP4800591B2/ja
Priority to DE112005001206T priority patent/DE112005001206T5/de
Priority to PCT/JP2005/009643 priority patent/WO2005117452A1/ja
Publication of JP2005341175A publication Critical patent/JP2005341175A/ja
Priority to US11/599,013 priority patent/US20070064119A1/en
Publication of JP2005341175A5 publication Critical patent/JP2005341175A5/ja
Priority to US12/777,430 priority patent/US20100220211A1/en
Application granted granted Critical
Publication of JP4800591B2 publication Critical patent/JP4800591B2/ja
Priority to US13/548,426 priority patent/US20120281109A1/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • G01J3/50Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors
    • G01J3/508Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors measuring the colour of teeth
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • G01J3/52Measurement of colour; Colour measuring devices, e.g. colorimeters using colour charts
    • G01J3/524Calibration of colorimeters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/125Colour sequential image capture, e.g. using a colour wheel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics

Description

本発明は、被写体の分光スペクトル情報を利用して、入力画像の色補正を行う撮影システムに関する。
従来、工業分野や食品分野、医療分野等の多くの分野において、色彩管理が行われている。例えば、工業分野では、製造した製品の色についての色彩管理が行われており、製品が規格内の色に仕上がっているか否かの確認に、分光計、色彩計等の測色器が利用されている。また、医療分野では、例えば皮膚科において、皮膚の色についての色彩管理が行われている。皮膚の色の変化を記録するために、デジタルカメラが利用されることが多い。
デジタルカメラは、近年、高画素化、低廉化が進み、これに伴い色彩管理における利用分野も広がっている。例えば、歯科分野等においてもデジタルカメラが利用されつつある。
デジタルカメラは患部の画像を容易に取得することができ、撮像後直ちに画像を確認することができるという利点がある反面、色補正の精度が低いことから、同一被写体であっても、撮影の度に撮像画像の色が異なる等の問題がある。デジタルカメラにおける色補正の精度は、種々の原因によって低下する。特に、ホワイトバランスの検出精度の低下が色補正の精度に与える影響は大きい。
そこで、特許文献1においては、ホワイトバランスの補正精度を向上させる提案がなされている。この提案においては、デジタルカメラの撮影時に測色センサの情報を利用して、ホワイトバランスの補正精度を向上させるようになっている。即ち、特許文献1は、デジタルカメラで撮影している領域とほぼ同じ方向に測色センサを設置し、得られた測色センサのRGB値をもとに、デジタルカメラの信号値を補正するものである。この場合には、デジタルカメラで撮影した画像データのRGB値を、RGB毎に画面全体で平均化して、測色センサと比較するようにしている。
特開2003−125422号公報
ところで、皮膚科や、歯科用の医療現場では、画像中の患部の部分だけでも正確な色を取得したいという要求が高い。しかしながら、特許文献1においては、単に画面全体のホワイトバランスを調整することを目的としていることから、患部について正確な色を取得することができるとは限らない。
例えば、皮膚科の医療現場では、皮膚の炎症等の時間的な変化を把握する必要から、日時をずらして複数回撮影することが必要である。この場合において、同一背景の元で毎回の撮影を行うことは、現実の医療現場では不可能に近い。このように患部の背景画像が変化すると、最適なホワイトバランスを得るためのホワイトバランス補正係数も変化する。即ち、この場合には、同一患部を同一照明条件下で撮影したとしても、各回の撮像画像のRGB値は画像毎に異なってしまう。
更に、仮に背景画像を固定することができたとしても、デジタルカメラにおいては、CIEのRGB表色系に準拠したRGB値、つまり人の眼の特性にあったRGB値を取得することは製造上も困難であり、分光計や色彩計ほどの精度で色を検出することは難しい。
本発明はかかる問題点に鑑みてなされたものであって、撮影画像について高精度の色補正を行うことができる撮影システムを提供することを目的とする。
本発明の請求項1に係る撮影システムは、撮影レンズを用いて被写体を撮影する撮影システムにおいて、前記被写体のカラー画像を撮影するためのカラー画像撮像手段と、前記被写体の所定の計測位置のスペクトル情報を検出する分光検出手段と、前記計測位置に対する前記カラー画像上での対応位置を検出する対応位置検出手段と、前記分光検出手段で取得されるスペクトル情報と前記対応位置検出手段で取得される対応位置情報とから、前記カラー画像撮像手段で撮像されるカラー画像の色補正を行う色補正手段とを具備したことを特徴とする。
本発明において、カラー画像撮像手段は、被写体のカラー画像を撮影し、色彩情報検出手段は被写体の色彩情報を検出する。色彩情報検出手段とカラー画像撮像手段との対応位置情報から、検出した色彩情報のカラー画像中の位置を求め、この対応位置については、色彩情報によってカラー画像を色補正することで、高精度の色補正を行ったカラー画像を得る。
本発明によれば、撮影画像について高精度の色補正を行うことができるという効果を有する。
以下、図面を参照して本発明の実施の形態について詳細に説明する。図1は本発明の第1の実施の形態に係る撮影システムを示すブロック図である。
図1において、撮影システムは、カラー画像撮像部1及び色彩情報検出部2を有している。カラー画像撮像部1は例えばデジタルカメラ等によって構成されており、図示しない被写体を撮像して、例えばRGB3原色画像等のカラー画像を色補正部3に出力する。
色彩情報検出部2は、カラー画像撮像部1が撮像した被写体について、その一部の所定位置の色彩情報を検出し、検出した色彩情報を色補正部3に出力するようになっている。色補正部3には、色彩情報検出部2によって検出された色彩情報が、カラー画像撮像部1からのカラー画像中のいずれの位置に対応するかを示す対応位置情報も入力される。
色補正部3は、対応位置情報に基づいて、カラー画像中の対応する位置の情報を色彩情報によって補正して、補正カラー画像として出力する。
図2は図1の撮影システムをデジタルカメラに適用した場合の外観を示す説明図である。
この実施の形態においては、カラー画像の情報としてRGB情報を得るデジタルカメラ13を採用する。このデジタルカメラ13に、色彩情報としてのスペクトルを検出する測色計としての分光計(以下、測色計ともいう)10が取り付けられる。図2ではデジタルカメラの主な構成要素のみを図示している。即ち、デジタルカメラ13は、撮影レンズ4、RGBカラー撮像素子5、画像処理部6、画像表示部7、操作ダイヤル8によって構成される。また、デジタルカメラ13の筐体には、分光計10を取り付けるための接続部9が設けられており、この接続部9によって分光計10が通常のストロボのごとく取り付けられる。分光計10は、ファインダ11、角度センサ12が主な構成要素である。
図3は図1のデジタルカメラ13及び分光計10の具体的な構成を示すブロック図である。
14は撮影対象となる被写体であり、図3では被写体14が人間の腕の例を示している。また、15は注目部であり、例えば腕の中にある患部(炎症部等)である。デジタルカメラ13は撮影レンズ16にて被写体像をRGBカラー撮像素子5上に結像させる。信号処理部17はゲイン補正やオフセット補正等を行うアナログ処理回路である。18はAD変換器、19はRGB画像の記憶部であるRGB画像メモリである。
測色計10は、分光検出部25と、カメラ取り付け部26とによって構成され、カメラ取り付け部26に対して分光検出部25が上下左右に回転するようになっている。22は分光計10の撮影レンズであり、被写体14の光束がハーフミラー23を介して、分光器24、ファインダ11に送られる。角度センサ12は分光検出部25の回転の角度を検出して角度情報を出力する。分光器24は、ハーフミラー23からの入射光を分光してスペクトル情報を出力する。
角度センサ12からの角度情報及び分光器24からのスペクトル情報は、それぞれデジタルカメラ13内の角度データメモリ28又は測色データメモリ27に与えられて記憶されるようになっている。
デジタルカメラ13の画像処理部6内の対応位置検出部21は、角度センサ12から得られた角度情報と撮影レンズ16の画角情報および被写体までの距離情報をもとに、測色計10の被写体上の計測位置が、撮影されたRGB画像のいずれの位置にあるかを演算する。対応位置情報は2次元の座標情報Cx、Cyとして色補正部3に与えられる。20は画像保存部、7は画像表示部であり、色補正部3で補正されたRGB画像をそれぞれ、保存、表示するものである。
図4は図3中の色補正部3の具体的な構成を示すブロック図である。
29はRGB画像メモリ19の中から対応位置情報Cx、Cyに基づいて画像の切り出しを行う画像切出部、30は切り出したデータの平均を求めるデータ平均部、31は平均されたデータからスペクトル推定を行うためのスペクトル推定部、32は補正係数C(λ)を算出するための補正係数算出部である。33はRGB画像メモリ19に記憶されたRGB信号に基づいて被写体14の各位置のスペクトルを推定するための被写体スペクトル推定部、34は信号補正部である。35はスペクトル信号からRGBに変換するためのRGB変換部である。
次に、このように構成された実施の形態の作用について図5及び図6を参照して説明する。本実施の形態では皮膚科での撮影を例として説明する。図5はファインダー11上の表示例を示す説明図である。図6はカメラ位置と被写体との関係を説明するための説明図である。
まず、撮影にあたり、デジタルカメラ13は三脚等の図示しないカメラ固定装置の上に設置される。患者は椅子等に座るとともに、患部(この場合は腕の一部)を机の上に置くなどしてデジタルカメラ13の撮影方向に対向させて動かないように固定する。
医師や看護婦等の操作者はデジタルカメラ13の図示しないズームや三脚のハンドルを操作して、撮影すべき被写体14のフレーミングの調整を行う。例えば、患部を含む腕全体を撮影するものとする。この場合に患部は必ずしもデジタルカメラ13の画面中心に位置するとは限らない。フレーミングが決まった時点で、次に測色計10のファインダー11を見ながら、患部をその画面の中心位置に位置させる。
ファインダー11では図5のように見えており、中心にある円形部分を患部に合わせることにより、測色計10の計測方向を被写体14に対してまっすぐに正対させることができる。このようにして、デジタルカメラ13および測色計10における撮影準備が整うと撮影が行われ、撮影された被写体画像の画像データがRGB画像メモリ19に、また、スペクトルデータが測色データメモリ27に記憶される。
撮影時のカメラ位置と被写体14との関係は図6のようになっている。つまり、デジタルカメラ13の画角αと、AF情報から換算される被写体14までの距離情報Lと、測色計の角度θ、φと、デジタルカメラ13と測色計10の基線長Bとから、RGB画像上での注目被写体(注目部15の画像)の位置を算出することができる。対応位置算出部21では演算によって対応位置を2次元座標値Cx、Cyとして算出し、色補正部3に出力する。
色補正部3では算出した2次元座標値Cx、Cyに基づき、RGB画像メモリ19に記憶されている被写体画像の対応位置を中心とした矩形領域を切り出す。矩形領域の大きさは例えば16×16画素である。この矩形領域の画像信号はデータ平均部30により全画素の平均値(Rave,Gave,Bave)が求められる。スペクトル推定部31は、この平均値(Rave,Gave,Bave)から、例えば特開平11−085952号公報にて開示された手法により、スペクトル信号S1(λ)を推定する。次に補正係数算出部32では、測色データメモリ27に記憶されたスペクトル情報S2(λ)を用いて、補正係数C(λ)を下記(1)式によって算出する。
C(λ) = S2(λ) / S1(λ) …(1)
一方、RGB画像メモリ19からは各画素毎に画像データが順次読み出され、被写体スペクトル推定部33にて順次スペクトル信号に変換される。そして、信号補正部34で、補正係数算出部32で算出された補正係数C(λ)が乗算されて、信号値の補正が行われる。補正されたスペクトル信号値はRGB変換部35にてRGB値に変換されて、補正カラー画像としての補正R’G’B’信号が出力される。この補正R’G’B’信号は、例えば、画像保存部20、画像表示部7に送られる。
このように本実施の形態によれば、別に設けた測色計によって得られたスペクトルデータに基づいて、撮像して得たRGB画像の補正を行うことから、極めて高精度の色補正が可能である。また、補正係数の算出においては、測色計の計測位置に正確に対応したRGB画像の所定領域を検出していることから、補正係数の精度は極めて高い。
なお、本実施の形態では、RGB画像の補正の際に一度スペクトルデータに変換するようにしたが、演算量削減のために図7に示すように、RGB補正係数算出部35を新たに設けて、スペクトルに対応した補正係数をRGB信号に対応した係数として求め、この計数をRGB画像データに乗算するようにしてもよい。この場合には、被写体スペクトル推定部、RGB変換部が不要となり、演算量を大幅に削減することが可能である。
また、図8のように、デジタルカメラの画像表示部7に、測色系の対応位置を十字等のマークにて重畳表示させてもよい。このマーク位置は対応位置算出部21にて求められるCx、Cyに基づいて表示される。操作者はこのマークを見ながら、測色計10を上下左右に移動させ、注目部15である患部にマーク位置を合わせるようにして撮影を行うことができる。対応位置を画面上で確認できることから、対応位置の位置合わせを正確に行うことができる。
また、図9に示すように、測色計10にレーザポインタ36を設けて対応位置を求めるようにしてもよい。この場合、測色計10の位置合わせ時には上記と同様にファインダー11にて被写体の患部(注目部15)に測色計10の測色ポイントを合わせる。そして、デジタルカメラ13によるの撮影時にレーザポインタ36から光が照射され、レーザポインタ36の写り込んだ画像が撮影される。次いで、レーザポインタ36が照射されない画像が撮影される。対応位置算出部21では、図10のようにレーザポインタ36が照射された画像、照射されない画像の差分が検出され、差分値の大きいポイントを利用して対応位置が算出される。
図11は本発明の第2の実施の形態に係り、デジタルカメラ13’及び分光計10の具体的な構成を示すブロック図である。図11において図3と同一の構成要素には同一符号を付して説明を省略する。
第1実施の形態では測色計を左右上下に動かしその角度θ、φを検出してRGB画像との対応位置を検出するようにしたが、本実施の形態ではデジタルカメラで狙った位置に測色計の撮影方向を制御することを特徴とする。
図11に示すように、本実施の形態は第1実施の形態と異なり、対応角度算出部40と、回転モータ41とを有する。分光検出部25はカメラ取り付け部26’に対して上下にだけ動くことができるように構成されている。デジタルカメラ13’では注目部15を常にカメラの撮像範囲の中心で捉えるようにする。そして、対応角度算出部40では被写体14までの距離情報やカメラの画角情報から、分光検出部25が注目部15を捉える角度を計算し、この角度になるように回転モータ41が制御されるように構成されている。
このように構成された実施の形態においては、撮影時はまず、デジタルカメラ13’を被写体1に略正対させ、撮影画面の中央に被写体14の患部(注目部15)が位置するように、カメラ位置を調整する。その後、図示しないシャッタボタンが半押しされるとAF動作が行われ、被写体14までの距離が計測される。この情報を元に対応角度算出部40では、測色計10の撮影方向が被写体14の注目部15(患部)になる角度φを算出する。そして、角度センサ12の情報を利用しながら、回転モータ41により分光検出部25を回転させ、角度がこの角度φになる位置にて停止させる。角度が所定の角度になった情報はデジタルカメラ13’側に伝えられ、画像表示部7には撮影可能を示すマーク等が表示される。このマークの表示を確認して、撮影者はシャッタボタンを全押し状態にして撮影を実行する。こうして、略同じ時刻でのRGB画像とスペクトルデータとが記録される。その後の処理は第1の実施の形態とほぼ同じであるが、画像切出部29において用いる対応位置情報としては、画面の中心の座標を示す値が与えられる。
このように本実施の形態では、撮影距離の情報により測色計の方向が自動的に変わるため、撮影者が測色計の位置合わせを行う必要がなく、極めて簡単に撮影を行うことができる。また、測色計の方向が変わったか否かを画像表示部に表示し確認した後撮影を行うことから、RGB画像と測色計の撮影範囲との関係を正確に規定することができる。
なお、この確認は画像表示部に特定のマークを表示するようにしたが、音で伝えてもよいし、LED等のランプを点灯させてもよい。また、デジタルカメラのフォーカスロックを使い患部を画面の中心からずらして撮影する場合等はカメラの回転角度を検出して、測色計を左右に回転させるようにしてもよい。
図12は本実施の形態の変形例を示している。測色計10のミラー23は回転する構造となっており、破線位置まで動くことができる。この破線位置までミラー23が移動した場合には白色板200からの光束が測色計10に入り、デジタルカメラ3’周辺の照明スペクトルが検出可能である。このように検出した照明スペクトル情報を利用して、被写体14の正確な色情報を検出することが可能である。詳細な検出方法は特開平11−085952号公報にて開示された手法を採用すればよい。撮影時には、デジタルカメラ13’の情報とともに、注目部15のスペクトル情報とデジタルカメラ3’周辺の照明スペクトルとが計測され、これらの情報をもとに、注目部15の正確な色が推定される。
図13及び図14は本発明の第3実施の形態に係り、図13は装置の外観を示す説明図である。本実施の形態は測色計とデジタルカメラとを三脚等に取り付けることによって、別体に構成可能にした例を示している。
図13において、201は測色計10とデジタルカメラ13’’の双方が取り付け可能な三脚である。測色計10及びデジタルカメラ13’’は、それぞれ画像処理装置202に接続されている。画像処理装置202は、パソコン等によって構成された制御装置である。
図14は図13中の画像処理装置202の具体的な構成を示すブロック図である。
図14において、204は外部機器コントローラであり、例えば、USBやRS−232C等のコントローラである。205はデータ入力I/Fであり、測色計10からスペクトル情報が入力され、デジタルカメラ13’’からはRGB画像データが入力される。データ入力I/F205に取込まれたスペクトル情報及びRGB画像データはそれぞれ測色データメモリ209又はRGB画像メモリ210に与えられて記憶される。
注目位置指定部206は、測色計10の測色ポイントがRGB画像上のいずれの位置にあるかを指定する。色補正部212は、RGB画像データをスペクトル情報を元に色補正する。色再現処理部207は、画像表示部208のプロファイル情報を用いて、色補正部212で色補正されたRGB画像に対して、さらに色補正を行うものである。画像保存部213は、色補正部212や色再現部207で補正されたRGB画像データが保存される。CPU211は画像処理装置202の全体を制御するものである。
このように構成された実施の形態においては、画像処理装置202の制御によって、デジタルカメラ13’’の撮影がまず行われ、次に測色計10での測色が行われる。デジタルカメラ13’’からのRGB画像データ及び測色計10からのスペクトル情報は、それぞれRGB画像メモリ210又は測色データメモリ209に記憶される。
注目位置指定部206では、撮影したRGB画像を画像表示部208に表示する。撮影者は、画像表示部208による表示を観察しながら、マウス等の図示しない画面位置指示装置を利用して、測色計10での測色ポイントの指定を行う。測色計10及びデジタルカメラ13’’からの角度情報、画角情報及び被写体までの距離情報等に基づく対応位置情報Cx、Cyが色補正部212に与えられる(図示省略)。色補正部212はRGB画像中の対応位置情報に基づく領域について、RGB画像データを測色計10の出力に基づいて色補正する。
このように本実施の形態においては、デジタルカメラ13’’及び測色計10の両方とも、市販のものをそのまま利用することができ、簡単な構成で容易に高精度の色補正が可能である。
なお、図15のようにデジタルカメラ13’’と測色計10とを信号線203で接続して通信可能とすることにより、デジタルカメラ13’’での撮影と測色計10での測色を時間的に同時に行うことも可能であると共に、測色計10のデータをデジタルカメラ13’’を介して画像処理装置202に供給することができ、信号線の数を減らしシステムを簡素化することもできる。
図16は第3の実施の形態の変形例を示すものである。図16の変形例では、デジタルカメラ13’’に照明付きフード220を取り付ける構成になっている。照明付きフード220には照明装置221が内蔵されていると共に測色計10が固定して取り付けられるようになっている。また、撮影の際にはフード220の先端を撮影の被写体14に接触させて撮影する構成となっており、デジタルカメラ13’’の撮影中心にある点Pの位置に測色計10の測色ポイントも設定されている。
このような構成によれば、専用のフード220を被写体14に押し当てるだけで簡単にデジタルカメラ13’’の撮影画面の中心位置を測色計10にて測色することができる。これにより、対応位置を常に固定的に設定することができ、極めて簡単で且つ安定した撮影を行うことができる。
図17は本発明の第4の実施の形態を示す説明図である。本実施の形態はデジタルカメラと測色計とを別体で構成せず、デジタルカメラ内部に測色部を備えた撮影システムを構成したものである。
図17に示すように、本実施の形態におけるデジタルカメラ214内には、ハーフミラー215と、分光検出部216が設けられている。ハーフミラー215は、光軸上の図示しない被写体(デジタルカメラの画面の中心被写体)の光束の一部を分光検出部216に導く。ハーフミラー215はRGBカラー撮像素子5の撮影時には、図17の矢印方向に回転して、被写体の光束をRGBカラー撮像素子5に導くようになっている。
このように構成された実施の形態においては、まず、図示しないシャッタボタンが半押しされると画面中央位置にフォーカスが調整され、次いで分光検出部216の働きによって画面中心にある被写体のスペクトルが計測される。次に、シャッタボタンが全押しされた時に、ミラー215が回転移動して、被写体の光束がRGBカラー撮像素子5に入射されて、RGB画像の撮影が行われる。他の処理は第1の実施の形態と同様である。
このように本実施の形態では、分光検出部216がカメラ内部に具備されており、上記各実施の形態のように別体に構成されておらず相互に同一の光学系及び撮像素子を利用していることから、使い勝手が極めて良い。また、常に画面の中心位置を測色ポイントとすることにより、対応位置検出が失敗することもなく、安定した測色が可能である。
なお、本実施の形態においては、分光検出部216が光軸のポイントのみを検出するようにしたが、例えば、複数のフォーカス検出位置に対応して複数の分光検出部216を備え、これらをフォーカス位置に応じて切り替えて用いてもよいことは明らかである。
図18乃至図23は本発明の第5実施の形態に係り、図18は装置の外観を示す説明図である。本実施の形態は測色計に代えて、マルチバンドカメラを用いる例を説明するものである。
本実施の形態においては、図18に示すように、通常のデジタルカメラ229の直前にマルチバンド撮影をするための色分離フィルタ230を具備する。図19は色分離フィルタ230の構成を示す説明図である。色分離フィルタ230は、フィルタA,フィルタB,フィルタCを有するフィルタターレット238とフィルタ保持部239とによって構成される。フィルタターレット238はフィルタ保持部239中で回動自在に保持されている。図19(a)は色分離フィルタ230を構成するフィルタターレット238を示し、図19(b)は色分離フィルタ230を構成するフィルタ保持部239を示している。
図20は撮影帯域の特性を説明するための説明図であり、図20(a)はRGBカラー撮像素子5の分光感度特性を示すグラフ、図20(b),図20(c)は色分離フィルタ230のフィルタA,Bの特性をそれぞれ示すグラフである。
フィルタA,Bの分光透過特性は、図20(b),図20(c)に示すように、図20(a)に示すRGBカラー撮像素子5のそれぞれの分光感度のピーク位置を分けるような特性となっており、フィルタAとフィルタBとを切り替えて撮影することにより、6バンドの撮影を行うことができる。また、フィルタCはスルーとなっており、通常のRGBの撮影を可能にする。なお、フィルタA,Bとしては、干渉フィルタだけでなく、波長可変フィルタを採用することができる。
また、このフィルタ保持部239はフィルタ回転部234を有しており、手動によりフィルタターレット238を直接回転させることができるようになっている。また、レンズ取り付け部236によって、フィルタ保持部239はデジタルカメラ229の撮影レンズ4に直接取り付けられるようになっている。なお、フィルタ保持部239には、フィルタID窓235が設けられており、このフィルタID窓235によって、現在撮影レンズ4の直前に配置されているフィルタがいずれの種類のフィルタであるかを目視で確認することができるような構成となっている。
図21はデジタルカメラ229の内部の回路構成を示すブロック図である。なお、図21において図3と同一の構成要素には同一符号を付して説明を省略する。
図21において、52はマルチバンド画像メモリで、フィルタA,フィルタBで撮影されたRGB画像が6バンドのマルチバンド画像として記憶される。240は切替部であり、マルチバンド画像とRGB画像の記憶先を切り替えるものであり、撮影モード切替部242の指定モードに応じて切替が行われる。
撮影モードは「RGBモード」と「マルチバンドモード」の2種類とする。241は対応位置指定部であり、RGB画像の中の被写体位置、マルチバンド画像の中の被写体位置を指定するものである。この実施の形態の場合にはマルチバンド画像は2種類のRGB画像から構成されているため、それぞれのRGB画像を順次画像表示部7に表示させて(計6画像)、操作ダイヤル8にて、RGB画像との対応位置を指定する。図22は対応位置を説明するための説明図であり、図22(a)はRGBカラー画像について示し、図22(b)はマルチバンド画像について示している。
図23は図21中の色補正部244の具体的な構成を示すブロック図である。色補正部244は、2系統の信号切り出し部29,60,データ平均部30,61,スペクトル推定部31,62を備えている点が上記実施の形態と異なる。この構成によって、色補正部244は、マルチバンド画像の対応位置のスペクトルを検出して、色補正を行うようになっている。
このように構成された実施の形態においては、撮影時には「マルチバンドモード」がまず指定され、フィルタAをセットして撮影を行う。次いで、手動にてフィルタBをセットして撮影を行う。フィルタA,Bにて撮影された画像はマルチバンド画像メモリ52(図23)に記憶される。次に、「RGBモード」が指定され、フィルタCを選択して撮影を行い、撮影された画像データはRGB画像メモリ19に記憶される。
色補正部244は、マルチバンド画像メモリ52からのマルチバンド画像が入力されて、信号切出部60、データ平均部61及びスペクトル推定部62において、対応位置情報Cx2,Cy2に対応した位置のスペクトル情報S2(λ)を取得する。また、色補正部244は、RGB画像メモリ19からのRGBカラー画像が入力されて、信号切出部29、データ平均部30及びスペクトル推定部31において、対応位置情報Cx1,Cy1に対応した位置のスペクトル情報を取得する。
補正係数算出部32は上記(1)式に基づいて補正係数C(λ)を算出する。以後の動作は第1の実施の形態と同様である。
このように、本実施の形態においては、手動で回転可能な色分離フィルタを用いることにより、極めて安価に、RGB画像の色補正を行うことができる。また、色分離フィルタにより撮影された画像の対応位置に関しては、操作ダイヤルを用いて手動で指定するようになっていることから、手ぶれ等で、フィルタA,B,Cの撮影時にカメラが動いた場合でも、確実に対応位置を指定することができる。なお、色分離フィルタに代えて、図24のように液晶等を用いた波長可変フィルタ237を利用してもよいことは明らかである。
また、本実施の形態においては、色分離フィルタ230の操作は全くの手動でデジタルカメラ229側との通信も一切行わなかったが、デジタルカメラ229側の指示によってフィルタ回転操作、フィルタID検出を行うようにしてもよい。または、このようなフィルタが一体化した撮影レンズを用いるようにしてもよいことは当然である。
図25乃至図30は本発明の第6実施の形態に係り、図25は具体的な構成を示すブロック図である。本実施の形態においてもマルチバンドカメラを用いる例を示している。なお、図25において図21と同一の構成要素には同一符号を付して説明を省略する。
本実施の形態においては、デジタルカメラ245上にマルチバンドカメラ50が具備されている。マルチバンドカメラ50は撮影レンズ53、分光フィルタ54、回転モータ59、モノクロセンサ55,信号処理部57及びA/D変換器58によって構成される。
図26は図25中の分光フィルタ54の構成を示す説明図である。分光フィルタ54は、図26に示すように、相互に異なる分光透過特性を有する色フィルタ54a,54b,…を複数枚有して構成されている。図26の例では、8枚のフィルタの場合であるが、数は8に限定されるものではない。撮影制御部60は、撮影レンズ16のフォーカス、絞り、モノクロセンサ56の電子シャッタ速度等を制御する。
また、デジタルカメラ245は、マルチバンド画像メモリ52と対応位置指定部241、手ぶれセンサ243の手ぶれ情報に基づいてマルチバンド画像の位置ズレを補正するための位置ずれ補正部161を備えている。注目位置指定部241は、デジタルカメラ245とマルチバンドカメラ50で撮影した画像から、被写体14の注目部15(患部)の対応位置を検出するものである。
次に、このように構成された実施の形態の動作について説明する。
被写体14を撮影すべく、被写体14にビデオカメラの撮影レンズ16を向け、操作ダイヤル8等によって、画角、撮影位置を決定する。撮影者によって、図示しないシャッタボタンが半押しされると、デジタルカメラ245のAE,AF制御動作が開始される。この制御による情報はマルチバンドカメラ50に伝えられ、撮影制御部60により、AF情報に応じて撮影レンズ53のフォーカス位置が被写体距離に設定される。また、AE情報に応じて、モノクロセンサ56のシャッタ速度と撮影レンズ53の絞り値とが設定される。なお、この設定にあたってはフィルタ54の個々の色フィルタ54a,54b,…毎に適正露光となるように異なるシャッタ速度値に設定するので、SNのよい撮影が可能である。
シャッタボタンが全押しされると撮影が開始され、RGBカラー撮像素子5によって撮影された画像信号はRGB信号メモリ19に記憶される。また、マルチバンドカメラ50においては、フィルタ54が回転し、異なるフィルタ54a,54b,…を用いた撮影が行われる。位置ずれ補正部161は、手ぶれセンサ243からの手ぶれ情報に基づいてマルチバンド画像の位置ずれを補正し、位置ズレ補正された画像を順次マルチバンド画像メモリ52に記憶させる。
次に、操作ダイヤル8を利用して、撮影したRGBカラー画像とマルチバンド画像とに含まれる被写体患部位置が指定される。即ち、それぞれの画像を画像表示部7に表示させると共に、指定カーソルを表示画像上に重畳させて表示する。
図27は操作ダイヤル8を説明するための説明図である。操作ダイヤル8は、図27に示すように、上下左右の矢印キーと中心の確定キーを含んで構成されており、指定カーソルは矢印キーの操作に応答して、表示画像上を上下左右に移動するように構成されており、確定キーを操作したタイミングにおける指定カーソルの画像上の位置に対応して、患部の位置が決定される。このような指定操作が、RGBカラー画像とマルチバンド画像とに対して行われて、それぞれの対応位置が求められる。RGBカラー画像に対応する位置をCx1,Cy1とし、マルチバンド画像に対応する位置をCy1,Cy2とする。
色補正部244の構成は図23と同様であり、上記実施の形態と同様の動作によって、色補正を行う。
このように本実施の形態においては、マルチバンドカメラ50から算出されたスペクトルデータに基づいてRGB画像の補正を行うことから、極めて高精度の色補正が可能である。また、この実施の形態では特に画素数に関しては明記しなかったが、例えば、デジタルカメラ245については500万画素、マルチバンドカメラ50については感度等を考慮して40万画素程度とすることが考えられる。この場合には、マルチバンドカメラ50では高精度の色情報が取得できるものの、十分な解像度が得られないが、デジタルカメラ245においては高解像度の画像が得られる。デジタルカメラ245の高解像度の画像とマルチバンドカメラ50の高精度の色情報とを融合した画像を得ることになり、極めて高画質の画像を得ることができる。
また、本実施の形態のマルチバンドカメラ50はフィルタ回転型の面順次式であるため、手ぶれ等によりそれぞれの分光画像にズレが生じるが、デジタルカメラ245内での手ぶれセンサ等による手ぶれ情報を元に分光画像間のブレを補正しているので、対応位置がより正確に求められる。
なお、本実施の形態では図26のような回転フィルタ型のマルチバンドカメラ50を用いたが、これに限らず液晶型の波長可変フィルタ等を用いてもよいことは当然である。
また、注目位置指定部や色補正部はデジタルカメラ内に設けるようにしたが、デジタルカメラ以外の演算処理装置、例えばパソコン等を用いて行ってもよい。また、本実施の形態ではマルチバンドカメラ50はデジタルカメラ245に直結される構成となっているが、別体としてもよく、無線等で信号のやりとりをするようにしてもよい。
また、図28のように、光路分岐手段246を設けて、デジタルカメラ245とマルチバンドカメラ50の撮影方向、画角を一致させるようにすれば、対応位置の指定が極めて簡単になる。
また、手ぶれ情報としては、手ぶれセンサの情報を用いることとしたが、マルチバンド画像の各画像間の位置ズレ量を演算にて求めて補正するようにしてもよい。また、RGBカラー画像にて撮影される画像情報を用いて行うようにしてもよく、これはたとえば、図29に示すように、マルチバンドカメラ50の各分光画像の撮影タイミングと、デジタルカメラ245の撮影タイミングの時刻を合わせ、それぞれ連続するRGBの2画像から位置ズレを検出し、この情報を用いて分光画像をλ1の画像位置に補正することができる。図30に示すような相関演算部247にてRGB画像間の位置ズレ量を検出し、これに基づいて位置ズレ補正部248にてマルチバンド画像の位置補正を行う。RGB画像の方が解像度が高く、相関演算の結果求まる位置検出精度が、マルチバンドカメラ50から求める場合に比較して高精度であり、良好なブレ補正を行うことができる。
図31乃至図37は本発明の第7の実施の形態に係り、図31はカメラ側の具体的な構成を示すブロック図であり、図32は画像処理部の具体的な回路構成を示すブロック図である。本実施の形態は本件出願人が先に出願した特願2002−218863号明細書に記載した照明型のマルチバンドカメラに適用したものであり、撮影対象が歯及び、歯を含む顔である場合に好適なものである。
図31において、撮影システムは、マルチバンドカメラ69、充電ユニット72及び画像処理部68によって構成される。
マルチバンドカメラ69は、更に、照明ユニット70、撮像ユニット73及び制御ユニット71によって構成される。太線にて示す照明ユニット70は、マルチバンドカメラ69の先端側に着脱自在に設けられており、照明ユニット接点77により制御ユニット71と信号の授受及びパワーの供給等が行われるようになっている。なお、図示しないが着脱せずに固定であっても構わない。
照明ユニット70は、発する光の分光特性が相互に異なる複数種類のLEDから構成されるLED照明部70a,70bとこれを被写体に照明するための照明光学系74、LEDの情報が記憶されているLEDメモリ75,LED近傍の温度を測定するための温度センサ76によって構成される。なお、LED照明部70a,70bとしては、例えば、本実施の形態では7種類のLEDを各4個ずつ配置した、合計28個のLEDによって構成されている。各LEDの中心波長はそれぞれ、450nm, 465nm, 505nm, 525nm, 575nm, 605nm, 630nmである。また、照明光学系74はLED光を被写体面(図31では色票110のカメラ側の面)に照射するためのもので、LED光を略均一に照射するように構成されている。
撮像ユニット73は撮影レンズ16,RGBカラー撮像素子5、ゲイン補正やオフセット補正等を行うアナログ処理を行う信号処理部17及びAD変換器18によって構成される。フォーカスレバー79は、マニュアルにてフォーカスを変更するためのもので、フォーカスレバー79の位置検出用接点80も具備されている。
制御ユニット71内のカメラ制御CPU81は、カメラ制御を行うためのCPUであり、ローカルバス82及びLCDコントローラ87に接続される一方、撮像ユニット73の制御を行うと共に、撮像ユニット73で撮影したカラー画像信号を外部のモニタに出力するためのコンポジット出力端子85に接続されている。
LEDドライバ83は、LED照明部70a,70bの発光を制御するためのもので,データI/F84は照明ユニット70のLEDメモリ75の内容や温度センサ76の情報を受信するためのインタフェースである。通信I/Fコントローラ97は、例えばUSB2のような通信I/Fを制御するためのコントローラであり、98はその接続のための通信I/F接続接点である。
リチウムバッテリ99は、マルチバンドカメラ69全体に電源供給を行うためのもので、充電のための接点である充電接点100に接続されている。画像メモリ89は、撮像ユニット73で撮影された画像データを一次的に記憶するためのものである。
本実施の形態においては、LED照明部70a,70bは、7種類のLEDを用いており、画像メモリ89は、最低でも7種類の分光画像と1つのRGBカラー画像を記憶可能な容量を有している。LCDモニタ86は、カメラで撮影中の画像、または撮影済みの画像を表示するためのモニタである。
また、LCDモニタ86は、必要に応じてオーバーレメモリ88に記憶されている画像パターンと重畳された画像を表示するように構成されている。画像パターンとしては、例えば歯全体を水平に撮影するような水平ラインや、これに交差するクロスライン等である。操作部I/F90は、マルチバンドカメラ69に配設されている操作ボタンや情報伝達のため図示しない出力部との間で信号の授受を行う。
なお、操作ボタンとしては、通常のRGBの撮影と、マルチバンドの撮影を切り替える撮像モード切替スイッチ91と、シャッタボタン92,LCDモニタ86に表示される画像データの変更等の操作をするためのビューア制御ボタン93等からなる。パワーLED94は、情報伝達のため出力部として機能して、マルチバンドカメラ69の状態を撮影者に知らせるためのものである。また、バッテリの状態を知らせるためのバッテリLED95,撮影時の危険を知らせるためのアラームブザー96等もマルチバンドカメラ69の背面側に構成される。
これらのLED94〜96の点灯と各動作状況との関係は、例えば、下記のとおりである。
パワーLED
緑点灯 : 撮影準備OK
緑点滅 : 撮影準備中(初期ウォーミング等)
赤点消灯 : バッテリ充電中
バッテリLED
緑点灯 : バッテリ容量が十分
黄色点灯 : バッテリ容量が少ない(充電の必要有り)
赤色点灯 : バッテリ容量が極めて少ない(至急充電の必要有り)
アラームブザー
警鐘 : 撮影した画像データが無効である
充電ユニット72は、マルチバンドカメラ69のキャリブレーションを行うための色票110と、マルチバンドカメラ69が充電ユニット72に正常な位置に装着されたか否かを確認するためのマイクロスイッチ111と、充電ユニットの電源のON/OFFを行うための電源スイッチ102と、電源スイッチ102のON/OFFに連動して点灯/消灯する電源ランプ103と、マルチバンドカメラ69が正常位置に装着された時に点灯する装着ランプ104とによって構成される。
充電ユニット72は、例えば、卓上型であり、マルチバンドカメラ69が充電ユニット72の所定位置に装着されることで、マルチバンドカメラ69の充電接点100を介して、マルチバンドカメラ69に電力を供給することができるようになっている。
装着ランプ104は、充電ユニット72がマルチバンドカメラ69の正常位置に装着された場合には緑色に点灯し、されていない場合には赤色に点滅する。また、この充電ユニット72には、電源接続コネクタ105が設けられており、ACアダプタ106が接続されるようになっている。そして、リチウムバッテリ99の充電容量が減少し、バッテリLED95の黄色や赤が点灯している状態では、マルチバンドカメラ69が充電ユニット72に置かれた時にリチウムバッテリ99への充電が行われるように構成されている。
画像処理部68は、図32に示すように、図23の色補正部244と略同様の構成の色補正部250を有している。本実施の形態においては、画像処理部68は対応位置算出部107を備えている。上記各実施の形態においては、マニュアル操作によって対応点(対応位置)検出を行っていたのに対し、本実施の形態においては対応点検出を全自動で行う構成になっている。
図33は図32中の対応位置算出部107の具体的な構成を示すブロック図である。また、図34は対応位置算出部107の入力画像を示す説明図であり、図34(a)はマルチバンド画像を示し、図34(b)はRGB画像を示している。
図33に示すように、対応位置算出部107は、図34のマルチバンド画像から輝度信号を取り出すための輝度変換部108と、画面のほぼ中心にある歯の領域を抜き出す中心歯検出部109と、抜き出された中心歯の画像を縮小するための画像縮小部112と、抜き出された歯のRGBカラー画像上での対応位置を検出するためのテンプレートマッチング部113とによって構成される。
図32に示すように、画像処理部68は、対応位置算出部107の他に、マルチバンド画像メモリ52、RGB画像メモリ19、色補正部250、色補正部250からのR’G’B’画像信号が与えられる色再現処理部207及び画像保存部213を有している。それぞれの機能は上記各実施の形態と同様である。色補正部250中のキャリブレーション部253は、色票画像メモリ251に記憶された色票画像と暗電流画像メモリ252に記憶された暗電流画像とを利用して、マルチバンド画像のキャリブレーションを行うようになっている。
次に、このように構成された実施の形態の動作について図35及び図36を参照して説明する。
本実施の形態においては、3つの撮影モードを有している。各撮影モードについて図35を参照して説明する。本実施の形態は歯科医院におけるホワイトニング(漂白)や義歯構築を例にしている。
撮影モードとしては、図35(a)に示すように、顔全体の撮影である顔貌撮影、図35(b)に示す上下の歯全体の撮影である全顎撮影、図35(c)に示す歯の1〜2本の撮影を行う歯牙撮影の3種類がある。顔貌撮影と全顎撮影とはRGB画像としての撮影であり、歯牙撮影はマルチバンド画像としての撮影である。本実施の形態は、歯牙撮影で得られたマルチバンド画像から、顔貌撮影や全顎撮影で得られたRGB画像の色を補正するものである。
(RGB撮影)
撮影者は、マルチバンドカメラ69を持ち上げて充電ユニット72から取り外し、撮影モードを「RGBモード」に合わせる。RGBカラー撮像素子5では順次撮影が行われ、その画像がLCDモニタ86にて表示される。この撮影の時にはLED照明部70a,70bは消灯している。撮影者(歯科医や歯科衛生士)は、LCDモニタ86上の画像を見ながら、被写体(顔、または、全顎)に位置を合わせて、次にフォーカスレバー79を用いてピントを合わせる。この際にカメラ制御CPU81では適正露光になるようにRGBカラー撮像素子5の電子シャッタスピードを制御する。そして、シャッタボタンが押された時に撮影された画像が画像メモリ89に記憶される。この際に、RGB画像モード等の付帯情報も一緒に記憶される。
次に、撮影者は、マルチバンドカメラ69を充電ユニット72に載置する。そうすると、装着ランプ104が点灯し、画像処理部68のRGB画像メモリ19に撮影されたRGB画像が転送されて、記憶される。
(マルチバンド撮影)
次に、撮影者は、マルチバンドカメラ69を持ち上げて、充電ユニット72から取り外し、撮影モードを「測色モード」に合わせる。これにより、LED照明部70a,70bにおいては、7種類のLEDの全てが点灯するとともに、RGBカラー撮像素子5では順次撮影が行われ、その画像がLCDモニタ86にて表示される。さらに、照明ユニット70にはコンタクトキャップ260(図36参照)が取り付けられ、撮影者(歯科医や歯科衛生士)はLCDモニタ86上の画像を見ながら、特定の歯に位置を合わせ、フォーカスレバー79を用いてピントを合わせる。
この場合には、図36に示すように、コンタクトキャップ260が撮影したい歯牙261に接し、ある程度の位置固定が行われるようになっている。そして、所望の位置合わせが行われると、撮影者によってシャッタボタンが押されて、マルチバンド撮影が行われる。この例では、LED照明部70a,70bは7種類のLEDが順次点灯し、各点灯時に撮影されたRGB画像のうち所定の1色の画像データが画像メモリ89に記憶される。この場合には、
450nm(λ1) → B画像
465nm(λ2) → B画像
505nm(λ3) → G画像
525nm(λ4) → G画像
575nm(λ5) → G画像
605nm(λ6) → R画像
630nm(λ7) → R画像
にように、LEDの中心波長に対応してRGB画像から選択された色の画像が画像メモリ89にマルチバンド画像として保存される。また、撮影の際にそれぞれの波長の撮影が適正露光になるように、LEDの照射時間、照射強度、撮像素子の電子シャッタ速度等がカメラ制御CPU81によって制御される。また、この撮影時に温度変化が激しい場合にはアラームブザーが鳴り警告が発せられる。
撮影が終了するとコンタクトキャップをはずし、次に、マルチバンドカメラ69が充電ユニット72に載置されると、装着ランプ104が点灯し、キャリブレーション画像の測定が行われる。このとき、コンタクトキャップが外されないと充電ユニット72にマルチバンドカメラ69を装着できない構造となっている。即ち、撮影に利用されたLEDと同一波長のLEDを順次点灯させて色票110の撮影を行い、撮影画像を画像メモリ89に色票画像として記憶させる。次いで、LEDが全く点灯しない状態(暗黒下)で撮影を行って、画像メモリ89に暗電流画像として記憶させる。
次に、撮影されたマルチバンド画像、色票画像、暗電流画像ともに画像処理部68に転送し、色票画像及び暗電流画像はそれぞれ色票画像メモリ251又は暗電流画像メモリ252に記憶させる。被写体画像はマルチバンド画像メモリ52に記憶される。キャリブレーション部253は、
M‘(λ) = (M(λ)−D(λ)) / W(λ)
M(λ) : 被写体画像
D(λ) : 暗電流画像
W(λ) ; 色票画像
M‘(λ) : キャリブレーションされた被写体画像
なる演算を行い、RGBカラー撮像素子5の暗電流とLED照明部70a,70bの光量劣化や波長シフト等を補正する。特に、LEDは温度変化によりその発光光量が変化するので、使用温度に合わせてキャリブレーションすることが精度向上に極めて有効である。キャリブレーション処理以降の動作は上記実施の形態と同様である。こうして、RGB画像に対して高精度の色補正を行うことができる。
なお、本実施の形態においては、マルチバンド画像とRGB画像の対応位置を自動的に算出するようにしたことから、手動にて対応位置を指定する等の煩雑な操作が不要となる。また、マルチバンドカメラ69はバッテリにてケーブルレスで操作することができ、使い勝手が著しく向上している。さらに、色票による補正を行っていることから、LEDや撮像素子の劣化、変動を補正することができ、極めて高精度の測色を実現することができる。
色票110は、充電機能も兼ねたクレイドルに内蔵されており、キャリブレーションのためにユーザが煩雑な操作を行う必要はない。さらに、装着ランプの点灯により、画像データの転送に際した操作ミスを低減することができ確実なデータ転送が可能である。また、本体のバッテリランプにより充電の状態を常に把握できる。また、温度センサを具備しており、歯牙の撮影時に温度変化があった場合や、歯牙撮影時とキャリブレーション時とで温度差が大きい場合等には、アラームブザーを利用して警告を発するようになっており、安定した撮影が可能である。
なお、画像処理部は通常のパソコン等で構成することができ、この場合には、例えば色補正部をソフトウエアにて実現するようにしてもよいことは明らかである。
また、本体が充電ユニット72から外され、測定後にしばらく充電ユニット72に戻されない場合には、使用者が忘れている場合もありアラームブザーを鳴らすなどして警告を発してもよい。
また、色票に関しては時間経過とともに劣化することも予想される。特に、光の影響、ゴミによる汚れ等の懸念がある。これを防ぐ方法として色票と照明ユニットとの間にシャッタを設け、マルチバンドカメラが持ち上げられた場合にはシャッタが締まり、外光やゴミが入らないような構成にしてもよい。
図37は画像処理部として測色画像を利用する画像処理部269を用いた他の応用例を示すブロック図である。
254はキャリブレーションされた被写体画像から各画像位置のXYZ値を求めるための色度算出器、256は求めたXYZ値から歯冠色票の番号であるシェード番号を算出するためのシェード番号算出器である。シェード番号算出器256は、求めたXYZ値とシェード番号データベース270に記憶されている各社のシェードガイドのXYZ値を比較してシェード番号を求める。255はRGB画像データを求めるためのRGB画像演算部であり、257はその保存部である。258は画像表示部7の色ばらつきを補正するための補正画像作成部であり、色補正された画像が画像表示部7に表示される。このように構成された色補正部272によって、マルチバンド画像から歯牙のシェード番号が正確に判定されるとともに、歯牙に正確な色が画像表示部7に表示される。
図38は本発明の第8の実施の形態を示す説明図である。
上述したように、色票は各種要因によって劣化する。また、実際の色票は、最初からある程度のばらつきを有している。歯科医院で使用する場合には、単一のシステムだけであれば問題はないが、図36のように例えば、撮影システムが3セットあった場合には、いずれのマルチバンドカメラと充電ユニットとが組み合わされて利用されるか分からない。特に、キャリブレーションは色票データを基に行われることから、色票そのものがばらついていると、同一歯牙を計測したとしてもマルチバンドカメラ毎に異なる計測結果が得られてしまう。そこで、本実施の形態においては、各充電ユニットの中に色票の分光反射率を記憶した色票特性メモリを設け、キャリブレーションの際にはこの分光反射率を利用して更に補正をかけるようにしている。
図38において、歯科医院内には、例えば第7の実施の形態と同様の撮影システム264A〜264Cが設けられている。撮影システム264A〜264Cは、それぞれマルチバンドカメラ69と同様の構成のマルチバンドカメラ265A〜265C、充電ユニット72と同様の構成の充電ユニット262A〜262Cを備えている。更に、充電ユニット262A〜262Cには、それぞれ色票特性メモリ263A〜263Cが設けられている。
図38の例では、マルチバンドカメラ265A〜265Cは、これらの3つの撮影システム264A〜264Cについて共通の画像処理部を構成するマイコン266に接続されるようになっている。更に、マイコン266は、インターネット267を介して歯科技工所268の図示しないマイコンに接続されると共に、インターネット267を介してデータ管理センター271の図示しないマイコンにも接続される。
マイコン266によるキャリブレーション処理においては、
M‘(λ) = (M(λ)−D(λ)) / W(λ) * S(λ)
M(λ) : 被写体画像
D(λ) : 暗電流画像
W(λ) ; 色票画像
S(λ) : 色票の分光反射率
M‘(λ) : キャリブレーションされた被写体画像
なる演算が行われて、各色票のばらつきの補正を行う。これにより、複数のシステム間でのカメラの互換が可能となる。また、この補正によって、例えば歯科医院と歯科技工所との間でデータを交換する時にも有効である。
また、色票が何らかの原因で汚れたり、変色してしまった場合には色票を交換することができるようにしておくことが有効である。色票の交換に当たっては、データ管理センター271から色票を歯科医院に郵送する。そして、歯科医院では、色票を交換する。色票にはID番号が記載されてあり、その番号を応じて、自動的にデータ管理センター271から色票の分光反射率データが歯科医院に転送され(図32の破線)、各充電ユニット262A〜262Cの色票特性メモリ263A〜263Cに書き込まれるようにしてもよい。
また、図示しないが色票に識別コードを設け充電ユニットで自動的にID番号を認識してもよい。なお、いうまでもないが、手段としては、バーコード方式、無線タグ方式などでもよい。
オンラインでデータの更新を行うことにより、ユーザは煩雑な操作をする必要がなく利便性が向上する。なお、色票の交換の必要性は、設置時間、設置時との信号値の変位等に応じて、自動的に警告メッセージを発するようにしてもよい。また、この警告はインターネットを介してデータ管理センター261に通知されるようにしておくことも可能で、データ管理センター271ではこの通知情報からユーザに電話等でコンタクトして、色票の交換を促すことができ、常に安定した測色を行うことができる。
本発明の第1の実施の形態に係る撮影システムを示すブロック図。 図1の撮影システムをデジタルカメラに適用した場合の外観を示す説明図。 図1のデジタルカメラ13及び分光計10の具体的な構成を示すブロック図。 図3中の色補正部3の具体的な構成を示すブロック図。 ファインダー11上の表示例を示す説明図。 カメラ位置と被写体との関係を説明するための説明図。 色補正部の他の例をブロック図。 画像表示部7の表示を説明するための説明図。 測色計の他の例を示すブロック図。 位置情報の算出を説明するためのフローチャート。 本発明の第2の実施の形態を示すブロック図。 第2の実施の形態の変形例を示すブロック図。 本発明の第3実施の形態を示す説明図。 図13中の画像処理装置202の具体的な構成を示すブロック図。 第3の実施の形態の変形例を示す説明図。 第3の実施の形態の変形例を示す説明図。 本発明の第4の実施の形態を示す説明図。 本発明の第5実施の形態を示す説明図。 色分離フィルタ230の構成を示す説明図。 撮影帯域の特性を説明するための説明図。 デジタルカメラ229の内部の回路構成を示すブロック図。 対応位置を説明するための説明図。 図21中の色補正部244の具体的な構成を示すブロック図。 液晶等を用いた波長可変フィルタ237を示す説明図。 本発明の第6実施の形態を示すブロック図。 図25中の分光フィルタ54の構成を示す説明図。 操作ダイヤル8を説明するための説明図。 デジタルカメラ245とマルチバンドカメラ50の撮影方向、画角を一致させる例を示す説明図。 手ぶれ補正を説明するための説明図。 位置ずれ補正部の構成を示すブロック図。 本発明の第7の実施の形態を示すブロック図。 画像処理部の具体的な回路構成を示すブロック図。 図32中の対応位置算出部107の具体的な構成を示すブロック図。 対応位置算出部107の入力画像を示す説明図。 各撮影モードを説明するための説明図。 実施の形態の動作を説明するための説明図。 画像処理部として測色画像を利用する画像処理部269を用いた他の応用例を示すブロック図。 本発明の第8の実施の形態を示す説明図。
符号の説明
1…カラー画像撮像部、2…色彩情報検出部、3…色補正部。
代理人 弁理士 伊 藤 進

Claims (7)

  1. 撮影レンズを用いて被写体を撮影する撮影システムにおいて、
    前記被写体のカラー画像を撮影するためのカラー画像撮像手段と、
    前記被写体の所定の計測位置のスペクトル情報を検出する分光検出手段と、
    前記計測位置に対する前記カラー画像上での対応位置を検出する対応位置検出手段と、
    前記分光検出手段で取得されるスペクトル情報と前記対応位置検出手段で取得される対応位置情報とから、前記カラー画像撮像手段で撮像されるカラー画像の色補正を行う色補正手段とを具備したことを特徴とする撮影システム。
  2. 前記対応位置検出手段は、前記撮影レンズの画角情報と、前記被写体までの距離情報とを用いて前記対応位置情報を検出することを特徴とする請求項1に記載の撮影システム。
  3. 前記分光検出手段は、前記カラー画像撮像手段に取り付け可能とする取り付け部を有することを特徴とする請求項1に記載の撮影システム。
  4. 前記取り付け部を介して、前記分光検出手段と前記カラー画像撮像手段との間でデータの送受信を行うことを特徴とする請求項に記載の撮影システム。
  5. 前記分光検出手段は、手動または、前記カラー画像撮像手段からの制御によって、その測定の方向が可変となる構成となっていることを特徴とする請求項1に記載の撮影システム。
  6. 前記カラー画像撮像手段は、画像表示手段を具備し、前記分光検出手段の前記計測位置を前記画像表示手段上に表示可能であることを特徴とする請求項に記載の撮影システム。
  7. 前記分光検出手段と前記カラー画像撮像手段とは、略同時刻のデータが取得されることを特徴とする請求項1に記載の撮影システム。
JP2004156750A 2004-05-26 2004-05-26 撮影システム Expired - Fee Related JP4800591B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2004156750A JP4800591B2 (ja) 2004-05-26 2004-05-26 撮影システム
DE112005001206T DE112005001206T5 (de) 2004-05-26 2005-05-26 Fotografiersystem
PCT/JP2005/009643 WO2005117452A1 (ja) 2004-05-26 2005-05-26 撮影システム
US11/599,013 US20070064119A1 (en) 2004-05-26 2006-11-14 Photographing system
US12/777,430 US20100220211A1 (en) 2004-05-26 2010-05-11 Photographing system for performing color correction of an image of a subject using spectroscopic information of the subject
US13/548,426 US20120281109A1 (en) 2004-05-26 2012-07-13 Photographing system for performing color correction of an image of a subject using spectroscopic information of the subject

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004156750A JP4800591B2 (ja) 2004-05-26 2004-05-26 撮影システム

Publications (3)

Publication Number Publication Date
JP2005341175A JP2005341175A (ja) 2005-12-08
JP2005341175A5 JP2005341175A5 (ja) 2007-07-05
JP4800591B2 true JP4800591B2 (ja) 2011-10-26

Family

ID=35451281

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004156750A Expired - Fee Related JP4800591B2 (ja) 2004-05-26 2004-05-26 撮影システム

Country Status (4)

Country Link
US (3) US20070064119A1 (ja)
JP (1) JP4800591B2 (ja)
DE (1) DE112005001206T5 (ja)
WO (1) WO2005117452A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017145994A1 (ja) 2016-02-24 2017-08-31 コニカミノルタ株式会社 二次元測色装置、二次元測色システム及び二次元測色方法

Families Citing this family (59)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7773802B2 (en) * 2002-07-26 2010-08-10 Olympus Corporation Image processing system with multiple imaging modes
US7756327B2 (en) * 2002-07-26 2010-07-13 Olympus Corporation Image processing system having multiple imaging modes
CN101699850A (zh) * 2004-01-23 2010-04-28 奥林巴斯株式会社 图像处理系统以及照相机
JP2007208413A (ja) * 2006-01-31 2007-08-16 Olympus Corp 色補正装置および色補正方法ならびに色補正プログラム
JP5074066B2 (ja) * 2007-03-27 2012-11-14 オリンパス株式会社 画像処理装置、及び、画像処理方法
JP4870609B2 (ja) * 2007-04-17 2012-02-08 株式会社ナナオ 調整方法、調整システム、表示装置、調整用装置及びコンピュータプログラム
KR100928586B1 (ko) * 2007-10-16 2009-11-24 한국전자통신연구원 촬영용 표준컬러 기준판 시스템
US8169471B2 (en) * 2007-11-09 2012-05-01 Fujifilm Corporation Image capturing system, image capturing method, and computer readable medium
JP5210616B2 (ja) * 2007-12-14 2013-06-12 日立メディカルコンピュータ株式会社 医用画像診断支援装置及び医用画像診断支援プログラム
JP5210615B2 (ja) * 2007-12-14 2013-06-12 日立メディカルコンピュータ株式会社 医用画像診断支援装置及び医用画像診断支援プログラム
JP5203762B2 (ja) * 2008-03-24 2013-06-05 日立メディカルコンピュータ株式会社 医用画像診断支援装置及び医用画像診断支援プログラム
JP2009260411A (ja) * 2008-04-11 2009-11-05 Olympus Corp 撮像装置
JP5253000B2 (ja) * 2008-06-03 2013-07-31 オリンパス株式会社 撮像装置
JP4594413B2 (ja) 2008-06-30 2010-12-08 オリンパス株式会社 歯科用画像処理装置、システム、方法、及びプログラム
US8717460B2 (en) * 2009-02-04 2014-05-06 Texas Instruments Incorporated Methods and systems for automatic white balance
JP5374231B2 (ja) 2009-05-18 2013-12-25 オリンパス株式会社 撮像装置
JP5535525B2 (ja) * 2009-06-05 2014-07-02 三菱重工印刷紙工機械株式会社 走行する印刷物の測色値換算方法及び装置、印刷制御方法及び装置、並びに印刷状態判定方法及び装置
JP5207484B2 (ja) * 2009-07-24 2013-06-12 日本放送協会 撮像装置
JP5561520B2 (ja) * 2010-01-29 2014-07-30 ソニー株式会社 画像処理装置、画像処理方法、プログラム、および電子装置
US8547450B2 (en) * 2010-02-22 2013-10-01 Texas Instruments Incorporated Methods and systems for automatic white balance
CA2880604A1 (en) * 2010-03-10 2011-09-15 Elc Management Llc System for skin treatment analysis using spectral image data to generat e 3d rgb model
JP5806504B2 (ja) 2011-05-17 2015-11-10 オリンパス株式会社 撮像装置およびこれを備える顕微鏡システム
WO2012170718A1 (en) * 2011-06-08 2012-12-13 Apple Inc. Camera test and calibration based on spectral monitoring of light
JP5882455B2 (ja) * 2011-06-15 2016-03-09 マイクロソフト テクノロジー ライセンシング,エルエルシー 高解像度マルチスペクトル画像キャプチャ
US10243121B2 (en) 2011-06-24 2019-03-26 Cree, Inc. High voltage monolithic LED chip with improved reliability
JP5787695B2 (ja) 2011-09-28 2015-09-30 株式会社トプコン 画像取得装置
FR2981465B1 (fr) * 2011-10-18 2014-05-16 Centre Nat Machinisme Agricole Accessoire et dispositif pour l'acquisition de l'image d'un objet
JP2013108788A (ja) * 2011-11-18 2013-06-06 Tokyo Institute Of Technology マルチスペクトル画像情報取得装置及びマルチスペクトル画像情報取得方法
JP6127448B2 (ja) * 2011-11-30 2017-05-17 株式会社リコー 撮像ユニット、測色装置、画像形成装置および測色システム
FR2985064B1 (fr) * 2011-12-23 2016-02-26 Oreal Procede pour delivrer un conseil cosmetique
US8988682B2 (en) * 2012-10-23 2015-03-24 Apple Inc. High accuracy imaging colorimeter by special designed pattern closed-loop calibration assisted by spectrograph
EP2930494B1 (de) 2012-11-06 2021-08-04 X-Rite Switzerland GmbH Handmessgerät zur erfassung des visuellen eindrucks eines messobjekts
JP6194592B2 (ja) * 2013-02-22 2017-09-13 セイコーエプソン株式会社 分光カメラ
JP6123360B2 (ja) * 2013-03-07 2017-05-10 セイコーエプソン株式会社 分光測定装置
DE102013004213A1 (de) * 2013-03-12 2014-09-18 Display-Messtechnik & Systeme GmbH & Co. KG Bildgebendes Farbmessgerät mit hoher Genauigkeit
US20150070512A1 (en) * 2013-09-06 2015-03-12 Ferrand D.E. Corley Test pattern and method of monitoring changes in test pattern characteristics
JP2015066262A (ja) * 2013-09-30 2015-04-13 富士フイルム株式会社 画像処理装置、画像処理システム、及び画像処理方法
JP6255992B2 (ja) * 2013-12-27 2018-01-10 セイコーエプソン株式会社 分光測定システム、分光モジュール、及び、位置ズレ検出方法
WO2015182571A1 (ja) * 2014-05-29 2015-12-03 コニカミノルタ株式会社 光学特性測定装置および光学特性測定方法
CN108718405B (zh) 2014-09-17 2019-11-26 深圳市大疆创新科技有限公司 自动白平衡系统及方法
EP3054273B8 (en) * 2015-02-09 2019-09-11 Instrument Systems Optische Messtechnik GmbH Colorimetry system for display testing
CN106352991A (zh) * 2015-07-14 2017-01-25 中国电力科学研究院 一种测量光纤光栅波长的装置和设备
JP6188750B2 (ja) * 2015-07-28 2017-08-30 株式会社トプコン 画像取得装置
CN106470336A (zh) * 2015-08-17 2017-03-01 深圳富泰宏精密工业有限公司 相机色温补偿系统及智能终端
FR3041750A1 (fr) * 2015-09-30 2017-03-31 Color Grail Res Procede d'amelioration des coordonnees colorimetriques pour chaque pixel d'une image multicanaux
EP3184975B1 (en) 2015-12-23 2023-08-30 Spectricity A spectrometer module
EP3184976A1 (en) * 2015-12-23 2017-06-28 IMEC vzw User device comprising a camera and a spectrometer module
DE102016200938A1 (de) * 2016-01-22 2017-07-27 Ford Global Technologies, Llc Verfahren und Vorrichtung zur Farbkorrektur eines digitalen Kamerabildes
CN106370307A (zh) * 2016-10-12 2017-02-01 青岛市光电工程技术研究院 一种水面溢油成像探测方法与装置
JPWO2018088466A1 (ja) * 2016-11-11 2019-10-03 コニカミノルタ株式会社 測色計及び2次元測色装置
JP6862989B2 (ja) * 2017-03-27 2021-04-21 セイコーエプソン株式会社 レンズユニット及び撮像システム
KR102022836B1 (ko) * 2017-09-15 2019-11-04 한국오츠카전자 주식회사 광 측정 장치, 시스템 및 방법
JP7370991B2 (ja) * 2018-02-20 2023-10-30 プレスコ テクノロジー インコーポレーテッド 飲料缶のカラー装飾仕様をオンラインで監視および制御するための方法とシステム
US11557056B2 (en) * 2019-12-06 2023-01-17 Canon Kabushiki Kaisha Image-capturing control apparatus, image-capturing control method, and storage medium for evaluating appearance of object
CN111953955B (zh) * 2020-08-26 2022-01-04 维沃移动通信有限公司 白平衡补偿方法、装置及电子设备
JP2022049268A (ja) 2020-09-16 2022-03-29 セイコーエプソン株式会社 電子機器および分光カメラ
WO2022102295A1 (ja) * 2020-11-10 2022-05-19 ソニーグループ株式会社 撮像装置
EP4250723A4 (en) * 2020-12-16 2023-12-27 Huawei Technologies Co., Ltd. IMAGE GENERATION METHOD AND APPARATUS AND ELECTRONIC DEVICE
WO2024046727A1 (en) * 2022-08-30 2024-03-07 ams Sensors Germany GmbH Multispectral image sensor arrangement, electronic device and method of multispectral imaging

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US146983A (en) * 1874-02-03 Improvement in compositions for panels
US5541706A (en) * 1992-10-22 1996-07-30 Nikon Corporation Exposure calculation device for a camera
JPH06130463A (ja) * 1992-10-22 1994-05-13 Nikon Corp カメラの露出演算装置
JP3246021B2 (ja) * 1993-01-06 2002-01-15 ミノルタ株式会社 二次元測色計
US6254385B1 (en) * 1997-01-02 2001-07-03 Lj Laboratories, Llc Apparatus and method for measuring optical characteristics of teeth
EP0952738A4 (en) * 1996-12-17 2002-03-27 Mohamed Abolella Abdellatif IMAGING SYSTEM
US6501542B2 (en) * 1998-06-30 2002-12-31 Lj Laboratories, Llc Apparatus and method for measuring optical characteristics of an object
US6094215A (en) * 1998-01-06 2000-07-25 Intel Corporation Method of determining relative camera orientation position to create 3-D visual images
US6517478B2 (en) * 2000-03-30 2003-02-11 Cbyon, Inc. Apparatus and method for calibrating an endoscope
JP2002185974A (ja) * 2000-12-12 2002-06-28 Canon Inc 画像処理装置およびその方法
US6826424B1 (en) * 2000-12-19 2004-11-30 Haishan Zeng Methods and apparatus for fluorescence and reflectance imaging and spectroscopy and for contemporaneous measurements of electromagnetic radiation with multiple measuring devices
JP2002267574A (ja) * 2001-03-14 2002-09-18 Hitachi Ltd カラー表示装置の測色装置、測色方法、画質調整・検査装置、画質調整・検査方法
JP2002320232A (ja) * 2001-04-24 2002-10-31 Motoo Nakashiro カラー撮像方法および被写体照明装置
JP3614126B2 (ja) * 2001-10-18 2005-01-26 ミノルタ株式会社 デジタルカメラ
JP4320998B2 (ja) * 2002-02-01 2009-08-26 株式会社ニコン 電子カメラ
US7756327B2 (en) * 2002-07-26 2010-07-13 Olympus Corporation Image processing system having multiple imaging modes
US7348993B2 (en) * 2003-11-10 2008-03-25 Microsoft Corporation System and method for obtaining accurate image content

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017145994A1 (ja) 2016-02-24 2017-08-31 コニカミノルタ株式会社 二次元測色装置、二次元測色システム及び二次元測色方法

Also Published As

Publication number Publication date
US20070064119A1 (en) 2007-03-22
WO2005117452A1 (ja) 2005-12-08
US20120281109A1 (en) 2012-11-08
DE112005001206T5 (de) 2007-03-29
JP2005341175A (ja) 2005-12-08
US20100220211A1 (en) 2010-09-02

Similar Documents

Publication Publication Date Title
JP4800591B2 (ja) 撮影システム
JP4088313B2 (ja) 画像処理システム、院内処理システム
JP4937971B2 (ja) 画像処理システム
JP2005341175A5 (ja)
JP5558688B2 (ja) 眼科装置および画像生成方法
JP4616318B2 (ja) カメラ
JP2007047045A (ja) 画像処理装置及び方法並びにプログラム
JP2010081057A (ja) 画像処理装置、画像処理方法および測色システム
KR100849007B1 (ko) 촬영 시스템
JP4831962B2 (ja) 撮影装置
JP2006054679A (ja) ホワイトバランス装置及びそのプログラム
JP2011069735A (ja) 歯科用測色装置
JP2528144B2 (ja) 経内視鏡分光診断装置
JP2009053160A (ja) 歯科用測色装置
WO2019244254A1 (ja) 画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラム
JP4576175B2 (ja) デジタルカメラ
KR20210074788A (ko) 연속촬영 및 동시촬영이 가능한 의료용 복합촬영장치

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070517

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101005

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110712

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110804

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140812

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4800591

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140812

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees