JP5146682B2 - 撮像装置及び撮像方法 - Google Patents

撮像装置及び撮像方法 Download PDF

Info

Publication number
JP5146682B2
JP5146682B2 JP2008516605A JP2008516605A JP5146682B2 JP 5146682 B2 JP5146682 B2 JP 5146682B2 JP 2008516605 A JP2008516605 A JP 2008516605A JP 2008516605 A JP2008516605 A JP 2008516605A JP 5146682 B2 JP5146682 B2 JP 5146682B2
Authority
JP
Japan
Prior art keywords
mixing ratio
signal
wavelength
subject
frequency
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008516605A
Other languages
English (en)
Other versions
JPWO2007135885A1 (ja
Inventor
淳 高山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2008516605A priority Critical patent/JP5146682B2/ja
Publication of JPWO2007135885A1 publication Critical patent/JPWO2007135885A1/ja
Application granted granted Critical
Publication of JP5146682B2 publication Critical patent/JP5146682B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • G01C3/08Use of electric radiation detectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/257Colour aspects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values

Description

本発明は撮像装置及び撮像方法に係り、特に、複数の撮像素子を用いて3次元画像を撮影する撮像装置及び撮像方法に関する。
従来から、複数の撮像素子により被写体を異なる位置から撮像して撮影画像の相関を求め、同一被写体に対する視差により、撮像素子の位置や焦点距離などのパラメータを用いて被写体の位置(距離)を測る3次元撮像装置が知られている(特許文献1〜特許文献3参照)。
このような3次元撮像装置では、被写体の距離の検出に、撮像素子から出力される各波長信号(RGB信号など)により求めた輝度信号Yが用いられる。輝度信号Yは、通常、撮像素子から出力される各波長信号を固定した比率で混合することにより求めていた。例えば、輝度信号Yは、RGB信号をY=0.3R+0.6G+0.3Bといった所定の比率で混合することにより求めていた。
上記の3次元撮像装置では、固定焦点レンズを用いて被写体の距離を測る場合、一般に数10cmから無限遠まで焦点が合うように設定されている。被写体に焦点が合っているか否かの判断は、輝度信号YのMTF(Modulation Transfer Function)などにより評価しており、被写体の測距精度はこのMTFに依存している。上記の輝度信号Yは、G信号の成分が多いことから、G信号のMTF特性に近い特性を持っている。
特開平7−244717号公報 特開2000−186929号公報 特開2000−347133号公報
しかしながら、一般に、パンフォーカス(固定焦点)レンズを透過した被写体からの反射光は、波長ごとに焦点が相違する。例えば、図7に示すように、同じ被写体からの光が固定焦点レンズ16を透過して結像する場合、その結像面は、各波長の光、すなわち赤(R)、緑(G)、青(B)の光によって相違する。また、図8に示すように、レンズ17a〜17cの焦点距離を一定とした場合は、焦点が合う被写体の最適位置(距離)は波長ごとに相違する。すなわち、赤光は緑光と比較して遠い位置の被写体に焦点が合い、青光は緑光と比較して近い位置の被写体に焦点が合う。
従って、被写体が数10cm以下の至近距離にある場合は、青信号では高いMTF特性が得られるが、上記のように緑信号の割合が多い輝度信号YではMTF特性が落ちてボケた画像になってしまう。また、被写体が遠景である場合は、赤信号では高いMTF特性が得られるが、緑信号の割合が多い輝度信号YではやはりMTF特性が落ちてしまう。このように、各波長信号を固定した比率で混合した輝度信号Yを用いると、被写体の位置によって高い測距精度が得られない場合があるという問題があった。
本発明の課題は、複数の撮像素子を用いた撮像装置及び撮像方法において、被写体の位置に関わらず高精度な測距を行うことを可能とする撮像装置及び撮像方法を提供することにある。
上記課題を解決するために、請求項1に記載の発明は、撮像装置であって、入射光を複数種類の波長ごとに電気信号に変換する複数の撮像素子と、前記複数の撮像素子ごとに設けられ、前記複数の撮像素子から出力された複数の波長信号を所定の混合比で混合して輝度信号を生成する輝度信号生成部と、前記複数の撮像素子の各々に結像した被写体像の相対的位置関係に応じて前記複数の撮像素子ごとに前記複数の波長信号の混合比を変更する混合比制御部と、前記複数の撮像素子ごとに得られた輝度信号の相関に基づいて被写体までの距離を検出する距離検出部と、を備え、前記混合比制御部は、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の割合が多くなるように混合比を変更することを特徴とする。
請求項1に記載の発明によれば、撮像素子の各々に結像した被写体像の相対的位置関係に応じて各波長信号の混合比を変更し、最適な波長の光を多く利用することにより、各波長信号を固定した比率で混合した輝度信号を用いる場合と比較して、被写体の位置に関わらず高精度な測距を行うことが可能となる。
請求項2に記載の発明は、請求項1に記載の撮像装置であって、前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部を備え、前記混合比制御部は前記位置検出部が検出した前記複数の撮像素子の各々に結像した被写体像の相対的位置関係に応じて前記混合比を変更することを特徴とする。
請求項2に記載の発明によれば、複数の撮像素子による被写体像の相対的位置関係を用いることにより、最適な波長の光が多くなるように各波長信号の混合比を変更することが可能となる。
請求項3に記載の発明は、請求項1又は2に記載の撮像装置であって、前記混合比制御部は前記複数の波長信号の各々に乗算する係数を変更することにより前記混合比を変更することを特徴とする。
請求項3に記載の発明によれば、複数の波長信号の各々に乗算する係数を変更することにより、各波長信号の混合比を変更することが可能となる。
なお、請求項1に記載の撮像装置においては、前記混合比制御部は、前記撮像素子と被写体との距離が遠いときは長波長信号の割合が多く、前記撮像素子と被写体との距離が近いときは短波長信号の割合が多くなるように前記混合比を変更するようにしてもよく、これによれば、遠い被写体には長波長の光の焦点が合い、近い被写体には短波長の光の焦点が合うことから、被写体の距離に応じて焦点が合う波長信号の割合を多くすることにより、MTF特性の高い輝度信号を得ることが可能となる。被写体に適した高周波成分の割合が多くMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
請求項1に記載の発明において、前記混合比制御部は、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の割合が多くなるように混合比を変更することで、複数の撮像素子に結像した被写体像の相互の距離は、被写体の距離が遠いほど狭くなり、被写体の距離が近いほど広くなることから、被写体像の相互の距離に応じて焦点が合う波長信号の割合を多くすることにより、MTF特性の高い輝度信号を得ることが可能となる。
請求項4に記載の発明は、請求項1乃至のいずれか一項に記載の撮像装置であって、前記混合比制御部は、同一の撮像素子に結像した複数の被写体ごとに前記混合比を変更することを特徴とする。
請求項4に記載の発明によれば、同一フレーム内に存在する複数の被写体について、各波長信号の混合比を最適化することが可能となる。
請求項5に記載の発明は、撮像装置であって、入射光を複数種類の波長ごとに電気信号に変換する複数の撮像素子と、前記複数の撮像素子ごとに設けられ、前記複数の撮像素子の各々から出力された複数の波長信号の各々を高周波成分と低周波成分とに分離するフィルタと、前記複数の波長信号ごとの低周波成分を所定の混合比で混合して低域輝度信号を生成する低域輝度信号生成部と、前記複数の波長信号ごとの高周波成分を所定の混合比で混合して高域輝度信号を生成し、前記高域輝度信号と前記低域輝度信号とを加算して輝度信号を生成する輝度信号生成部と、前記複数の撮像素子ごとに得られた輝度信号の相関に基づいて被写体までの距離を検出する距離検出部と、前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部と、前記位置検出部の検出結果に応じて前記高周波成分の混合比を変更する混合比制御部と、を備え、前記混合比制御部は、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の高周波成分の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の高周波成分の割合が多くなるように混合比を変更することを特徴とする。
請求項5に記載の発明によれば、高周波成分については、各波長の高周波成分のうち被写体に焦点が合う波長の光だけが残ることから、フィルタで高周波成分を分離するのみで、被写体に焦点が合う波長信号の割合が多い混合比の高域輝度信号を得ることができる。これにより、MTF特性の高い高域輝度信号を用いて、高精度な測距を行うことが可能となる。
また、各波長信号の高周波成分と低周波成分とを分離して、低周波成分は被写体の距離に関わらず固定された混合比で混合することから、位置検出のための輝度信号をモニタ用信号と共用する場合でも、モニタ画像の色再現性を確保することが可能となる。
請求項6に記載の発明は、請求項5に記載の撮像装置であって、前記低域輝度信号生成部は前記複数の波長信号ごとの前記低周波成分に係数を乗算することにより前記低周波成分を所定の混合比とすることを特徴とする。
請求項6に記載の発明によれば、複数の波長信号ごとの低周波成分に係数を乗算することにより、低周波成分を所定の混合比とすることが可能となる。
請求項5に記載の発明において、前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部と、前記位置検出部の検出結果に応じて前記高周波成分の混合比を変更する混合比制御部とを備えることで、フィルタで高周波成分を分離すると共に、被写体の距離に応じて高周波成分の混合比を変更することにより、よりMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
また、複数の撮像素子による被写体像の相対的位置関係を用いることにより、最適な波長の光が多くなるように各波長信号の混合比を変更することが可能となる。
請求項7に記載の発明は、請求項5に記載の撮像装置であって、前記混合比制御部は前記複数の波長信号ごとの高周波成分に乗算する係数を変更することにより前記混合比を変更することを特徴とする。
請求項7に記載の発明によれば、複数の波長信号ごとの高周波成分に乗算する係数を変更することにより、輝度信号における高周波成分の混合比を変更することが可能となる。
請求項8に記載の発明は、撮像装置であって、入射光を複数種類の波長ごとに電気信号に変換する複数の撮像素子と、前記複数の撮像素子ごとに設けられ、前記複数の撮像素子の各々から出力された複数の波長信号の各々から高周波成分を分離するフィルタと、前記複数の撮像素子ごとに前記高周波成分を混合して得られた高域輝度信号の相関に基づいて被写体までの距離を検出する距離検出部と、前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部と前記位置検出部の検出結果に応じて前記高周波成分の混合比を変更する混合比制御部と、を備え、前記混合比制御部は、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の高周波成分の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の高周波成分の割合が多くなるように混合比を変更することを特徴とする。
請求項8に記載の発明によれば、高周波成分については、各波長の高周波成分のうち被写体に焦点が合う波長の光だけが残ることから、フィルタで高周波成分を分離するのみで被写体に焦点が合う波長信号の割合が多い混合比の高域輝度信号を得ることができる。これにより、MTF特性の高い高域輝度信号を用いて、高精度な測距を行うことが可能となる。また、各波長信号の高周波成分と低周波成分とを分離して、低周波成分は被写体の距離に関わらず固定された混合比で混合することから、位置検出のための輝度信号をモニタ用信号と共用する場合でも、モニタ画像の色再現性を確保することが可能となる。
請求項8に記載の発明において、前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部と、前記位置検出部の検出結果に応じて前記高周波成分の混合比を変更する混合比制御部とを備えることで、フィルタで高周波成分を分離すると共に、被写体の距離に応じて高周波成分の混合比を変更することにより、よりMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
なお、請求項5又は8に記載の撮像装置においては、前記混合比制御部は、前記撮像素子と被写体との距離が遠いときは長波長信号の高周波成分の割合が多く、前記撮像素子と被写体との距離が近いときは短波長信号の高周波成分の割合が多くなるように混合比を変更するようにしてもよく、これによれば、遠い被写体には長波長の光の焦点が合い、近い被写体には短波長の光の焦点が合うことから、被写体の距離に応じて焦点が合う波長信号の高周波成分の割合を多くすることによって、MTF特性の高い高域輝度信号を得ることが可能となる。被写体に適した高周波成分の割合が多くMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
請求項5又は8に記載の発明において、前記混合比制御部は、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の高周波成分の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の高周波成分の割合が多くなるように混合比を変更することで、複数の撮像素子に結像した被写体像の相互の距離は、被写体の距離が遠いほど狭くなり、被写体の距離が近いほど広くなることから、被写体像の相互の距離に応じて焦点が合う波長信号の高周波成分の割合を多くすることにより、MTF特性の高い高域輝度信号を得ることが可能となる。
請求項9に記載の発明は、請求項5、7又はに記載の撮像装置であって、前記混合比制御部は、同一の撮像素子に結像した複数の被写体ごとに前記混合比を変更することを特徴とする。
請求項9に記載の発明によれば、同一フレーム内に存在する複数の被写体について、各波長信号の混合比を最適化することが可能となる。
請求項10に記載の発明は、請求項1乃至のいずれか一項に記載の撮像装置であって、前記複数の波長信号は赤信号、緑信号及び青信号であることを特徴とする。
請求項10に記載の発明によれば、複数の波長信号が赤信号、緑信号及び青信号である場合にも、上記の作用を得ることができる。
請求項11に記載の発明は、撮像方法であって、入射光を複数種類の波長ごとに電気信号に変換する複数の撮像素子を使用し、前記複数の撮像素子から出力された複数の波長信号を所定の混合比で混合して前記複数の撮像素子ごとに輝度信号を生成する輝度信号生成工程と、前記撮像素子の各々に結像した被写体像の相対的位置関係に応じて前記複数の撮像素子ごとに前記複数の波長信号の混合比を変更する混合比制御工程と、前記複数の撮像素子ごとに得られた輝度信号の相関に基づいて被写体までの距離を検出する距離検出工程と、を有し、前記混合比制御工程において、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の割合が多くなるように混合比を変更することを特徴とする。
請求項11に記載の発明によれば、撮像素子の各々に結像した被写体像の相対的位置関係に応じて各波長信号の混合比を変更し、最適な波長の光を多く利用することにより、各波長信号を固定した比率で混合した輝度信号を用いる場合と比較して、被写体の位置に関わらず高精度な測距を行うことが可能となる。
請求項12に記載の発明は、請求項11に記載の撮像方法であって、前記混合比制御工程において、前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部を使用し、前記位置検出部が検出した前記複数の撮像素子の各々に結像した被写体像の相対的位置関係に応じて前記混合比を変更することを特徴とする。
請求項12に記載の発明によれば、複数の撮像素子による被写体像の相対的位置関係を用いることにより、最適な波長の光が多くなるように各波長信号の混合比を変更することが可能となる。
請求項13に記載の発明は、請求項11又は12に記載の撮像方法であって、前記混合比制御工程において、前記複数の波長信号の各々に乗算する係数を変更することにより前記混合比を変更することを特徴とする。
請求項13に記載の発明によれば、複数の波長信号の各々に乗算する係数を変更することにより、各波長信号の混合比を変更することが可能となる。
なお、請求項11に記載の発明においては、前記混合比制御工程において、前記撮像素子と被写体との距離が遠いときは長波長信号の割合が多く、前記撮像素子と被写体との距離が近いときは短波長信号の割合が多くなるように混合比を変更するようにしてもよく、これによれば、遠い被写体には長波長の光の焦点が合い、近い被写体には短波長の光の焦点が合うことから、被写体の距離に応じて焦点が合う波長信号の割合を多くすることにより、MTF特性の高い輝度信号を得ることが可能となる。被写体に適した高周波成分の割合が多くMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
請求項11に記載の発明において、前記混合比制御工程において、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の割合が多くなるように混合比を変更することで、複数の撮像素子に結像した被写体像の相互の距離は、被写体の距離が遠いほど狭くなり、被写体の距離が近いほど広くなることから、被写体像の相互の距離に応じて焦点が合う波長信号の割合を多くすることにより、MTF特性の高い輝度信号を得ることが可能となる。
請求項14に記載の発明は、請求項11乃至13のいずれか一項に記載の撮像方法であって、前記混合比制御工程において、同一の撮像素子に結像した複数の被写体ごとに前記混合比を変更することを特徴とする。
請求項14に記載の発明によれば、同一フレーム内に存在する複数の被写体について、各波長信号の混合比を最適化することが可能となる。
請求項15に記載の発明は、撮像方法であって、入射光を複数種類の波長ごとに電気信号に変換する複数の撮像素子と、前記複数の撮像素子の各々から出力された複数の波長信号の各々を高周波成分と低周波成分とに分離するフィルタとを使用し、前記複数の波長信号ごとの低周波成分を所定の混合比で混合して低域輝度信号を生成する低域輝度信号生成工程と、前記複数の波長信号ごとの高周波成分を所定の混合比で混合して高域輝度信号を生成し、前記高域輝度信号と前記低域輝度信号とを加算して輝度信号を生成する輝度信号生成工程と、前記複数の撮像素子ごとに得られた輝度信号の相関に基づいて被写体までの距離を検出する距離検出工程と、前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部を使用し、前記位置検出部の検出結果に応じて前記高周波成分の混合比を変更する混合比制御工程と、を有し、前記混合比制御工程において、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の高周波成分の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の高周波成分の割合が多くなるように混合比を変更することを特徴とする。
請求項15に記載の発明によれば、高周波成分については、各波長の高周波成分のうち被写体に焦点が合う波長の光だけが残ることから、フィルタで高周波成分を分離するのみで被写体に焦点が合う波長信号の割合が多い混合比の高域輝度信号を得ることができる。これにより、MTF特性の高い高域輝度信号を用いて、高精度な測距を行うことが可能となる。
また、各波長信号の高周波成分と低周波成分とを分離して、低周波成分は被写体の距離に関わらず固定された混合比で混合することから、位置検出のための輝度信号をモニタ用信号と共用する場合でも、モニタ画像の色再現性を確保することが可能となる。
請求項16に記載の発明は、請求項15に記載の撮像方法であって、前記複数の波長信号ごとの前記低周波成分に係数を乗算することにより前記低周波成分を所定の混合比とすることを特徴とする。
請求項16に記載の発明によれば、複数の波長信号ごとの低周波成分に係数を乗算することにより、低周波成分を所定の混合比とすることが可能となる。
請求項15に記載の発明において、前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部を使用し、前記位置検出部の検出結果に応じて前記高周波成分の混合比を変更する混合比制御工程を有することで、フィルタで高周波成分を分離すると共に、被写体の距離に応じて高周波成分の混合比を変更することにより、よりMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
また、複数の撮像素子による被写体像の相対的位置関係を用いることにより、最適な波長の光が多くなるように各波長信号の混合比を変更することが可能となる。
請求項17に記載の発明は、請求項15に記載の撮像方法であって、前記混合比制御工程において、前記複数の波長信号ごとの高周波成分に乗算する係数を変更することにより前記混合比を変更することを特徴とする。
請求項17に記載の発明によれば、複数の波長信号ごとの高周波成分に乗算する係数を変更することにより、輝度信号における高周波成分の混合比を変更することが可能となる。
請求項18に記載の発明は、撮像方法であって、入射光を複数種類の波長ごとに電気信号に変換する複数の撮像素子と、前記複数の撮像素子の各々から出力された複数の波長信号の各々から高周波成分を分離するフィルタとを使用し、前記複数の撮像素子ごとに前記高周波成分を混合して得られた高域輝度信号の相関に基づいて被写体までの距離を検出する距離検出工程と、前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部を使用し、前記位置検出部の検出結果に応じて前記高周波成分の混合比を変更する混合比制御工程と、を有し、前記混合比制御工程において、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の高周波成分の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の高周波成分の割合が多くなるように混合比を変更することを特徴とする。
請求項18に記載の発明によれば、高周波成分については、各波長の高周波成分のうち被写体に焦点が合う波長の光だけが残ることから、フィルタで高周波成分を分離するのみで被写体に焦点が合う波長信号の割合が多い混合比の高域輝度信号を得ることができる。これにより、MTF特性の高い高域輝度信号を用いて、高精度な測距を行うことが可能となる。
また、各波長信号の高周波成分と低周波成分とを分離して、低周波成分は被写体の距離に関わらず固定された混合比で混合することから、位置検出のための輝度信号をモニタ用信号と共用する場合でも、モニタ画像の色再現性を確保することが可能となる。
請求項18に記載の発明において、前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部を使用し、前記位置検出部の検出結果に応じて前記高周波成分の混合比を変更する混合比制御工程を有することで、フィルタで高周波成分を分離すると共に、被写体の距離に応じて高周波成分の混合比を変更することにより、よりMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
なお、請求項15又は18に記載の発明においては、前記混合比制御工程において、前記撮像素子と被写体との距離が遠いときは長波長信号の高周波成分の割合が多く、前記撮像素子と被写体との距離が近いときは短波長信号の高周波成分の割合が多くなるように混合比を変更するようにしてもよく、これによれば、遠い被写体には長波長の光の焦点が合い、近い被写体には短波長の光の焦点が合うことから、被写体の距離に応じて焦点が合う波長信号の高周波成分の割合を多くすることによって、MTF特性の高い高域輝度信号を得ることが可能となる。被写体に適した高周波成分の割合が多くMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
請求項15又は18に記載の発明において、前記混合比制御工程において、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の高周波成分の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の高周波成分の割合が多くなるように混合比を変更することで、複数の撮像素子に結像した被写体像の相互の距離は、被写体の距離が遠いほど狭くなり、被写体の距離が近いほど広くなることから、被写体像の相互の距離に応じて焦点が合う波長信号の高周波成分の割合を多くすることにより、MTF特性の高い高域輝度信号を得ることが可能となる。
請求項19に記載の発明は、請求項1517又は18に記載の撮像方法であって、前記混合比制御工程において、同一の撮像素子に結像した複数の被写体ごとに前記混合比を変更することを特徴とする。
請求項19に記載の発明によれば、同一フレーム内に存在する複数の被写体について、各波長信号の混合比を最適化することが可能となる。
請求項20に記載の発明は、請求項11乃至19のいずれか一項に記載の撮像方法であって、前記複数の波長信号は赤信号、緑信号及び青信号であることを特徴とする。
請求項20に記載の発明によれば、複数の波長信号が赤信号、緑信号及び青信号である場合にも、上記と同様の作用を得ることができる。
請求項1又は11に記載の発明によれば、被写体の位置に関わらず高精度な測距を行うことが可能となる。
請求項2又は12に記載の発明によれば、被写体に最適な波長の光が多くなるように各波長信号の混合比を変更することが可能となる。
請求項3又は13に記載の発明によれば、複数の波長信号の各々に乗算する係数を変更することにより、各波長信号の混合比を変更することが可能となる。
請求項1又は11に記載の発明によれば、被写体に適した高周波成分の割合が多くMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
請求項4又は14に記載の発明によれば、同一フレーム内に存在する複数の被写体について、各波長信号の混合比を最適化することが可能となる。
請求項5又は15に記載の発明によれば、被写体に適した高周波成分の割合が多くMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
また、位置検出のための輝度信号をモニタ用信号と共用する場合でも、モニタ画像の色再現性を確保することが可能となる。
請求項6又は16に記載の発明によれば、低周波成分を所定の混合比とすることが可能となる。
請求項5又は15に記載の発明によれば、よりMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。また、被写体に最適な波長の光が多くなるように各波長信号の混合比を変更することが可能となる。
請求項7又は17に記載の発明によれば、高周波成分の混合比を変更することが可能となる。
請求項8又は18に記載の発明によれば、被写体に適した高周波成分の割合が多くMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
また、位置検出のための輝度信号をモニタ用信号と共用する場合でも、モニタ画像の色再現性を確保することが可能となる。
請求項8又は18に記載の発明によれば、よりMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
請求項8又は18に記載の発明によれば、被写体に適した高周波成分の割合が多くMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
請求項9又は19に記載の発明によれば、同一フレーム内に存在する複数の被写体について、各波長信号の混合比を最適化することが可能となる。
請求項10又は20に記載の発明によれば、複数の波長信号が赤信号、緑信号及び青信号である場合にも、上記と同様の効果を得ることができる。
第1の実施形態に係る撮像装置の全体構成を示すブロック図である。 第1の実施形態に係る撮像素子と被写体の距離との関係を示す概念図である。 第2の実施形態に係る撮像装置の全体構成を示すブロック図である。 第3の実施形態に係る撮像装置の全体構成を示すブロック図である。 第4の実施形態に係る撮像装置の全体構成を示すブロック図である。 第5の実施形態に係る撮像装置の全体構成を示すブロック図である。 固定焦点レンズと各波長の光との関係を示す概念図である。 固定焦点レンズと被写体の距離との関係を示す概念図である。
符号の説明
1 撮像装置
2a,2b 撮像素子
3a,3b レンズユニット
4 システム制御部
5a,5b 絞り制御部
6a,6b タイミング生成部
7a,7b 色分離補間部
8a,8b モニタ用信号生成部
9a,9b 混合比制御部
10a,10b 輝度信号生成部
11 位置検出部
12 距離検出部
13a,13b 高域通過フィルタ
14a,14b 低域輝度信号生成部
15a,15b 混合比制御部
16 固定焦点レンズ
17a〜17c レンズ
[第1の実施形態]
本発明の第1の実施形態について、図1及び図2を参照して説明する。
図1に示すように、撮像装置1は3Dカメラ(ステレオカメラ)を構成する2つの撮像素子2a,2bを備えており、複数の撮像素子2a,2bにより被写体を異なる位置から撮像して撮影画像の相関を求め、同一被写体に対する視差により、撮像素子の位置や焦点距離などのパラメータを用いて、被写体の位置(距離)を測るようになっている。なお、撮像装置1が備える撮像素子は複数であればよく、2つに限られるものではない。
また、撮像素子2a,2bの前には、被写体光像を撮像素子2a,2bの結像面に結像させる複数のレンズ及びこれらのレンズにより集光される光の量を調整する絞り部から構成されるレンズユニット3a,3bが設けられている。
撮像素子2a,2bは、入射光を複数種類の波長ごとに電気信号に変換するようになっている。本実施形態の撮像素子2a,2bは、R(赤)、G(緑)、B(青)の各波長のフィルタを備えた画素が水平方向に順次繰り返し配列されて構成されており、R(赤)、G(緑)、B(青)信号の順次繰り返し信号を出力するようになっている。
また、図2(a)〜(c)に示すように、撮像素子2a,2bの受光面は、同一被写体の受光面上での結像位置に応じて、結像位置の距離が相互に近い方から、Rエリア、Gエリア、Bエリアに区分けされている。これらのエリアは、被写体の位置に応じて変動するようになっている。例えば、被写体が左右に移動すれば、Rエリア、Gエリア、Bエリアもそれぞれ左右にシフトするようになっている。
図7に示すように、被写体が同一位置にある場合は、各波長の光によって結像面が異なる。すなわち、B(青)光の結像面が最も近く、G(緑)光、R(赤)光の順に結像面が遠くなる。従って、図8に示すように、各波長の光の結像面を同一とした場合は、G光と比較すると、A光は遠い位置にある被写体に焦点が合い、B光は近い位置にある被写体に焦点が合う。
また、3Dカメラを構成する撮像素子2a,2bでは、撮像素子2a,2bと被写体との距離が遠いほどレンズユニット3a,3bの透過光が結像する位置の間隔が狭くなり、撮像素子2a,2bと被写体との距離が近いほど結像位置の間隔が広くなる。撮像素子2a,2bの間隔が相互の距離の最小値であり、被写体が無限遠の場合における両者の結像面の距離に相当する。本実施形態では、この結像位置の相互距離に応じて撮像素子2a,2bの受光面をエリア分けしている。また、上述のように、被写体の位置に応じて各エリアを変動させるようになっている。
これにより、撮像素子2a,2bの受光面における結像位置の相互距離が最も近いRエリアではR光が最もシャープに結像し、結像位置の相互距離が互いに最も遠いBエリアではB光が最もシャープに結像し、その中間のGエリアではG光が最もシャープに結像するようになっている。図2(a)ではBエリアにおいてB光の焦点が合い、図2(b)ではGエリアにおいてG光の焦点が合い、図2(c)ではRエリアにおいてR光の焦点が合っている。
次に、本実施形態に係る撮像装置1の機能的構成について説明する。
図1に示すように、撮像装置1は、撮像素子2a,2bを備えており、撮像素子2a,2bの前には、レンズユニット3a,3bがそれぞれ設けられている。
撮像素子2a,2bは、レンズユニット3a,3bを透過した入射光を電気信号に光電変換して取り込むようになっている。
レンズユニット3a,3bは、レンズにより被写体からの光を撮像素子2a,2bの結像面に集光すると共に、絞り部によって撮像素子2a,2bの結像面に集光される光の量を調整するようになっている。
また、撮像装置1は、システム制御部4を備えている。システム制御部4は、CPU(Central Processing Unit)、書き換え可能な半導体素子で構成されるRAM(Random Access Memory)及び不揮発性の半導体メモリで構成されるROM(Read Only Memory)から構成されている。
また、システム制御部4には撮像装置1の各構成部分が接続されており、システム制御部4は、ROMに記録された処理プログラムをRAMに展開してCPUによりこの処理プログラムを実行することにより、これらの各構成部分を駆動制御するようになっている。
図1に示すように、システム制御部4には、絞り制御部5a,5b、タイミング生成部6a,6b、色分離補間部7a,7b、モニタ用信号生成部8a,8b、混合比制御部9a,9b、輝度信号生成部10a,10b、位置検出部11及び距離検出部12が電気的に接続されている。
絞り制御部5a,5bは、レンズユニット3a,3bのレンズによって集光される光の量を調整する絞り部を駆動制御するようになっている。すなわち、絞り制御部5a,5bは、システム制御部4から入力される制御値に基づき、撮像素子2a,2bの撮像動作開始直前に絞り部を開口させてから所定の露光時間の経過後に絞り部を閉塞させ、また、非撮像時は撮像素子2a,2bへの入射光を遮断することによって、入射光量を制御するようになっている。
タイミング生成部6a,6bは、所定のタイミングパルスを生成して撮像素子2a,2bに出力することにより撮像素子2a,2bの撮影動作(露光に基づく電荷蓄積や蓄積電荷の読出しなど)を制御するようになっている。
色分離補間部7a,7bは、撮像素子2a,2bから出力されたR(赤)、G(緑)、B(青)信号の順次繰り返し信号から、R信号、G信号、B信号のそれぞれを分離すると共に、各波長信号(
例えば、B,G,R各色の電気信号)について色補間処理を行うようになっている。
モニタ用信号生成部8a,8bは、色分離補間部7a,7bから出力されたR、G、Bの各信号について、最低輝度値となる黒レベルを基準値に補正する黒基準補正、白色を調整するAWB(自動ホワイトバランス)、色成分値を補正する色補正、色空間をRGBからYUVに変換する色空間変換などの画像処理を行うことにより、モニタ用信号を生成するようになっている。
混合比制御部9a,9bは、撮像素子2a,2bの各々と被写体との位置関係に応じ、撮像素子2a,2bごとに複数の波長信号の混合比を変更するようになっている。本実施形態の混合比制御部9a,9bは、撮像素子2a,2bと被写体との距離が遠いときは長波長信号の割合が多く、撮像素子撮像素子2a,2bと被写体との距離が近いときは短波長信号の割合が多くなるように混合比を変更するようになっている。
すなわち、混合比制御部9a,9bは、R信号、G信号、B信号が所定の混合比とされた輝度信号Y,Yを基準として、位置検出部11の検出結果(撮像素子と被写体との位置関係)に基づき、被写体と撮像素子2a,2bとの距離が相対的に遠い場合はR信号の割合を多く、相対的に近い場合はB信号の割合を多く、その中間の場合はG信号の割合を多くするようになっている。
この際、混合比制御部9a,9bは、複数の波長信号の各々に乗算する係数を変更することによって、複数の波長信号の混合比を変更するようになっている。具体的には、輝度信号Y,Y=0.3R+0.59G+0.11Bを基準として、図示しない乗算回路により各波長信号に変更した係数を乗算して輝度信号Y,Yの各項をR、G、Bとすることにより、混合比を変更するようになっている。なお、輝度信号Y,YにおけるR信号、G信号、B信号の割合は100%となってもよい。
また、混合比制御部9a,9bは、撮像素子2a,2bに結像した被写体像の相互の距離が近いときは長波長信号の割合が多く、被写体像の相互の距離が遠いときは短波長信号の割合が多くなるように混合比を変更することも可能である。
すなわち、混合比制御部9a,9bは、撮像素子2a,2bの結像面のうちRエリア、Gエリア、Bエリアのいずれにおいて被写体からの光が結像したかに応じて、R信号、G信号、B信号の混合比を変更することも可能である。具体的には、被写体像がRエリアに結像した場合は、被写体の距離が相対的に遠いものとしてR信号の割合を多く、Bエリアに結像した場合は、被写体の距離が相対的に近いものとしてB信号の割合を多く、Gエリアに結像した場合は、その中間としてG信号の割合を多くする。
また、混合比制御部9a,9bは、R信号、G信号、B信号それぞれの係数の差が大きい場合は、撮像素子2a,2bの各エリアの境界付近に切換区間を設け、この切換区間においては係数が徐々に変化するように係数を設定することが望ましい。これにより、各エリアの境界付近で得られた輝度信号Y,Yに基づく位置検出に誤差を抑制することが可能となる。
このように、撮像素子2a,2bと被写体との距離に応じ、輝度信号Y,Yにおいて被写体に焦点が合う波長信号の割合が多くなるように各波長の光の混合比を変更することで、MTF特性の高い輝度信号Y,Yを得ることが可能となる。すなわち、被写体との距離が相対的に遠い場合はR信号の割合を多くし、被写体との距離が相対的に近い場合はB信号の割合を多くし、その中間の場合はG信号の割合を多くすることにより、MTF特性の高い輝度信号Y,Yを得ることが可能となる。
また、混合比制御部9a,9bは、同一の撮像素子に結像した複数の被写体ごとに各波長信号の混合比を変更することも可能である。これにより、同一フレーム内に存在する複数の被写体について、各波長信号の混合比を最適化することが可能となる。
輝度信号生成部10a,10bは、撮像素子2a,2bの各々から出力された複数の波長信号を所定の混合比で混合して輝度信号を生成するようになっている。本実施形態の輝度信号生成部10a,10bは、混合比制御部9a,9bにより変更された混合比に従ってR信号、G信号、B信号を混合し、輝度信号Y,Yを生成するようになっている。
位置検出部11は、撮像素子2a,2bの各々に結像した被写体像の相対的位置関係を検出するようになっている。すなわち、位置検出部11は、混合比制御部9で当該位置検出部11の検出結果(1回目の検出結果)に基づいて混合比を変更し、変更した混合比により輝度信号生成部10a,10bで各波長信号を混合する。そして得られた輝度信号Y,Yの相関を求めることにより、撮像素子2a,2bの同一被写体に対する相対的位置関係(2回目の検出結果)を検出するようになっている。
距離検出部12は、撮像素子2a,2bごとに得られた輝度信号の相関に基づいて被写体までの距離を検出するようになっている。すなわち、距離検出部12は、位置検出部11で検出された撮像素子2a,2bに結像した同一被写体の相対的位置関係から、撮像素子の位置や焦点距離などのパラメータを用いて被写体の位置(距離)を検出するようになっている。
次に、本実施形態の撮像装置1を使用した本発明の撮像方法について説明する。
被写体からの光がレンズユニット3a,3bを透過して撮像素子2a,2bの結像面に入射すると、撮像素子2a,2bはタイミングパルスに従って入射光を電気信号に光電変換し、R、G、B信号の順次繰り返し信号を出力する。
次に、色分離補間部7a,7bは、撮像素子2a,2bから出力されたR、G、B信号の順次繰り返し信号から、R信号、G信号、B信号のそれぞれを分離すると共に、各波長信号について色補間処理を行う。
続いて、モニタ用信号生成部8a,8bは色分離補間部7a,7bから出力されたR、G、Bの各信号について黒基準補正、AWB(自動ホワイトバランス)、色補正、色空間変換などの画像処理を行い、モニタ用信号を生成する。
一方、混合比制御部9a,9bは、被写体の距離に応じ、基準となる輝度信号Y,YのR信号、G信号、B信号の混合比を変更する。
すなわち、混合比制御部9a,9bは、輝度信号Y,Y=0.3R+0.59G+0.11Bをそれぞれ基準として、位置検出部11の(1回目の)検出結果(撮像素子と被写体との位置関係)に基づき、被写体と撮像素子2a,2bとの距離が相対的に遠い場合はR信号の割合が多く、相対的に近い場合はB信号の割合が多く、その中間の場合はG信号の割合が多くなるように、各波長信号に乗算する係数を変更する。
また、混合比制御部9a,9bは、撮像素子2a,2bのRエリア、Gエリア、Bエリアのいずれにおいて被写体像が結像したかに応じて、R信号、G信号、B信号の混合比を変更することも可能である。なお、上述のように、各エリアは被写体の位置に応じて変動し、例えば、被写体が左右に移動すれば、Rエリア、Gエリア、Bエリアもそれぞれ左右にシフトする。
続いて、輝度信号生成部10a,10bは、混合比制御部9a,9bにより変更された混合比に従って、R信号、G信号、B信号を混合して輝度信号Y,Yを生成する。
次に、位置検出部11は、輝度信号生成部10a,10bから得られた輝度信号Y,Yの相関を求めることにより、撮像素子2a,2bに結像した同一被写体の相対的位置関係を検出する。
続いて、距離検出部12は、位置検出部11で検出された撮像素子2a,2bに結像した同一被写体の相対的位置関係(2回目の検出結果)から、撮像素子の位置や焦点距離などのパラメータを用いて被写体の位置(距離)を検出する。
以上より本実施形態によれば、撮像素子2a,2bと被写体との位置関係に応じて各波長信号の混合比を変更し、最適な波長の光を多く利用することにより、各波長信号を固定した比率で混合した輝度信号を用いる場合と比較して、被写体の位置に関わらず高精度な測距を行うことが可能となる。
また、撮像素子2a,2bによる被写体像の相対的位置関係を用いることにより、最適な波長の光が多くなるように各波長信号の混合比を変更することが可能となる。
また、複数の波長信号の各々に乗算する係数を変更することにより、各波長信号の混合比を変更することが可能となる。
また、遠い被写体には長波長の光の焦点が合い、近い被写体には短波長の光の焦点が合うことから、被写体の距離に応じて焦点が合う波長信号の割合を多くすることにより、MTF特性の高い輝度信号を得ることが可能となる。
また、撮像素子2a,2bに結像した被写体像の相互の距離は、被写体の距離が遠いほど狭くなり、被写体の距離が近いほど広くなることから、これをもとに被写体像の相互の距離に応じて焦点が合う波長信号の割合を多くすることにより、MTF特性の高い輝度信号を得ることが可能となる。
また、同一フレーム内に存在する複数の被写体について、各波長信号の混合比を最適化することが可能となる。
また、複数の波長信号がR信号、G信号及びB信号である場合にも、上記の作用を得ることができる。
[第2の実施形態]
次に、本発明の第2の実施形態について、図3を参照して説明する。なお、第1の実施形態と同一部分には同一符号を付してその説明を省略し、第1の実施形態と異なる部分について説明する。
本実施形態の撮像装置1は、混合比制御部9a,9bに代わって高域通過フィルタ13a,13bを備えているほか、低域輝度信号生成部14a,14bを備えている。
高域通過フィルタ13a,13bは、色分離補間部7a,7bから出力された各波長信号のうち高周波成分のみを通過させることにより、各波長信号の高周波成分R、G、Bと低周波成分R、G、Bとを分離するようになっている。このうち高周波成分は輝度信号生成部10a,10bに出力され、低周波成分は低域輝度信号生成部14a,14bに出力される。
低域輝度信号生成部14a,14bは、複数の波長信号ごとの低周波成分を所定の混合比で混合して低域輝度信号YL1,YL2を生成するようになっている。ここで、所定の混合比とは、所定の固定された混合比を意味する。本実施形態では、上記基準となる輝度信号Y,Y=0.3R+0.59G+0.11Bの混合比を所定の混合比として、図示しない乗算回路で各波長の低周波成分に所定の係数を乗算して混合することにより、低域輝度信号YL1,YL2を生成するようになっている。この低域輝度信号YL1,YL2は、輝度信号生成部10a,10bに出力される。
また、輝度信号生成部10a,10bは、波長信号ごとの高周波成分を混合して高域輝度信号YH1,YH2を生成し、高域輝度信号YH1,YH2と低域輝度信号YL1,YL2とを加算して輝度信号Y,Yを生成するようになっている。
このように、輝度信号生成部10a,10bは、波長信号ごとの高周波成分はそのまま混合(あるいは所定の混合比で混合)して高域輝度信号YH1,YH2を生成するようになっている。これにより、高周波成分については、各波長の高周波成分のうち被写体に焦点が合う波長の光だけが残ることから、高域通過フィルタ13a,13bで高周波成分を分離するのみで、被写体に焦点が合う波長信号の割合が多い高域輝度信号YH1,YH2を得ることができる。すなわち、被写体の距離が相対的に遠い場合はR信号の割合が多く、被写体の距離が相対的に近い場合はB信号の割合が多く、その中間である場合はG信号の割合が多くなる。これにより、MTF特性の高い輝度信号Y,Yを得ることが可能となる。
また、各波長信号の高周波成分と低周波成分とを分離して、低周波成分は被写体の距離に関わらず固定された混合比で混合することから、位置検出のための輝度信号をモニタ用信号と共用する場合でも、モニタ画像の色再現性を確保することが可能となる。
次に、本実施形態の撮像装置1を使用した本発明の撮像方法について説明する。
高域通過フィルタ13a,13bは、色分離補間部7a,7bから出力された各波長信号のうち高周波成分のみを通過させることにより、各波長信号の高周波成分と低周波成分とを分離し、高周波成分を輝度信号生成部10a,10bに出力すると共に、低周波成分を低域輝度信号生成部14a,14bに出力する。
次に、低域輝度信号生成部14a,14bは、各波長信号の低周波成分を所定の混合比により混合して低域輝度信号YL1,YL2を生成して輝度信号生成部10a,10bに出力する。
次に、輝度信号生成部10a,10bは、高域通過フィルタ13a,13bにより分離された各波長信号の高周波成分により高域輝度信号YH1,YH2を生成し、この高域輝度信号YH1,YH2と低域輝度信号YL1,YL2とを加算して、輝度信号Y,Yを生成する。この際、輝度信号生成部10a,10bは、各波長信号の高周波成分をそのまま混合して輝度信号を生成する。
以上より本実施形態によれば、高周波成分については、各波長の高周波成分のうち被写体に焦点が合う波長の光だけが残ることから、高域通過フィルタ13a,13bで高周波成分を分離するのみで、被写体に焦点が合う波長信号の割合が多い混合比の高域輝度信号YH1,YH2を得ることができる。これにより、MTF特性の高い高域輝度信号YH1,YH2を用いて、高精度な測距を行うことが可能となる。
また、各波長信号の高周波成分と低周波成分とを分離して、低周波成分は被写体の距離に関わらず固定された混合比で混合することから、位置検出のための輝度信号をモニタ用信号と共用する場合でも、モニタ画像の色再現性を確保することが可能となる。
また、複数の波長信号ごとの低周波成分に係数を乗算することにより、低周波成分を所定の混合比とすることが可能となる。
[第3の実施形態]
次に、本発明の第3の実施形態について、図4を参照して説明する。なお、第2の実施形態と同一部分には同一符号を付してその説明を省略し、第2の実施形態と異なる部分について説明する。
本実施形態の撮像装置1は、高域通過フィルタ13a,13b及び低域輝度信号生成部14a,14bに加えて、混合比制御部15a,15bを備えている。
混合比制御部15a,15bは、被写体の距離に応じ、各波長信号の高周波成分の混合比を変更するようになっている。本実施形態では、撮像素子2a,2bと被写体との距離が遠いときは長波長信号の高周波成分の割合が多く、撮像素子2a,2bと被写体との距離が近いときは短波長信号の高周波成分の割合が多くなるように混合比を変更するようになっている。
すなわち、混合比制御部15a,15bは、R信号、G信号、B信号が所定の混合比とされた高域輝度信号を基準として、位置検出部11の検出結果に基づき、被写体の距離が相対的に遠い場合はR信号の割合を多く、被写体の距離が相対的に近い場合はB信号の割合を多く、その中間の場合はG信号の割合を多くするようになっている。
具体的には、混合比制御部15a,15bは、図示しない乗算回路により高域輝度信号の各波長信号に乗算する係数を変更することにより混合比を変更するようになっている。
また、混合比制御部15a,15bは、複数の撮像素子2a,2bに結像した被写体像の相互の距離が近いときは長波長信号の高周波成分の割合が多く、被写体像の相互の距離が遠いときは短波長信号の高周波成分の割合が多くなるように混合比を変更することも可能である。
すなわち、混合比制御部15a,15bは、撮像素子2a,2bのRエリア、Gエリア、Bエリアのいずれにおいて被写体像が結像したかに応じて、R信号、G信号、B信号の混合比を変更することも可能である。
これにより、上記のように高域通過フィルタ13a,13bで高周波成分を分離するのみで、被写体に焦点が合う波長信号の割合が多い高域輝度信号YH1,YH2を得ることができるが、更に、各波長の光の混合比を変更することにより、より高いMTF特性の高域輝度信号YH1,YH2を得ることが可能となる。
また、輝度信号生成部10a,10bは、混合比制御部15a,15bにより変更された混合比に従って、各波長信号の高周波成分を混合して高域輝度信号YH1,YH2を生成し、この高域輝度信号YH1,YH2と低域輝度信号YL1,YL2とを加算して輝度信号Y,Yを生成するようになっている。
次に、本実施形態の撮像装置1を使用した本発明の撮像方法について説明する。
高域通過フィルタ13a,13bが各波長信号の高周波成分と低周波成分とを分離すると、混合比制御部15a,15bは、被写体の距離に応じ、各波長信号の高周波成分の混合比を変更する。すなわち、位置検出部11の検出結果に基づき、被写体の距離が相対的に遠い場合はR信号の割合を多く、被写体の距離が相対的に近い場合はB信号の割合を多く、その中間の場合はG信号の割合を多くする。
一方、低域輝度信号生成部14a,14bは、各波長信号の低周波成分を所定の混合比により混合して低域輝度信号YL1,YL2を生成して輝度信号生成部10a,10bに出力する。
続いて、輝度信号生成部10a,10bは、混合比制御部15a,15bにより変更された混合比に従って、各波長信号の高周波成分を混合して高域輝度信号YH1,YH2を生成し、この高域輝度信号YH1,YH2と低域輝度信号YL1,YL2とを加算して輝度信号Y,Yを生成する。
以上より本実施形態によれば、高域通過フィルタ13a,13bで高周波成分を分離すると共に、被写体の距離に応じて高周波成分の混合比を変更することにより、よりMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
また、撮像素子2a,2bに結像した被写体像の相対的位置関係を用いることにより、最適な波長の光が多くなるように各波長信号の混合比を変更することが可能となる。
また、複数の波長信号ごとの高周波成分に乗算する係数を変更することにより、高域輝度信号における高周波成分の混合比を変更することが可能となる。
また、遠い被写体には長波長の光の焦点が合い、近い被写体には短波長の光の焦点が合うことから、被写体の距離に応じて焦点が合う波長信号の高周波成分の割合を多くすることにより、MTF特性の高い高域輝度信号を得ることが可能となる。
また、撮像素子2a,2bに結像した被写体像の相互の距離は、被写体の距離が遠いほど狭くなり、被写体の距離が近いほど広くなることから、被写体像の相互の距離に応じて焦点が合う波長信号の高周波成分の割合を多くすることにより、MTF特性の高い高域輝度信号を得ることが可能となる。
[第4の実施形態]
次に、本発明の第4の実施形態について、図5を参照して説明する。なお、第2の実施形態と同一部分には同一符号を付してその説明を省略し、第2の実施形態と異なる部分について説明する。
本実施形態の撮像装置1は、第2の実施形態と同様に混合比制御部9a,9bに代わり高域通過フィルタ13a,13bを備えているが、低域輝度信号生成部14a,14b及び輝度信号生成部10a,10bは備えていない。
高域通過フィルタ13a,13bは、色分離補間部7a,7bより出力された各波長信号から高周波成分のみを分離して位置検出部11に出力するようになっている。
これにより、上記のように高周波成分については、各波長の高周波成分のうち被写体に焦点が合う波長の光だけが残ることから、高域通過フィルタ13a,13bで高周波成分を分離するのみで、被写体の距離に応じた混合比の高域輝度信号YH1,YH2を得ることが可能となる。
また、位置検出部11は、撮像素子2a,2bごとに高周波成分を混合して得られた高域輝度信号YH1,YH2の相関に基づき、撮像素子2a,2bの同一被写体に対する相対的位置関係を検出するようになっている。
次に、本実施形態の撮像装置1を使用した本発明の撮像方法について説明する。
高域通過フィルタ13a,13bが各波長信号から高周波成分のみを分離すると、位置検出部11は、撮像素子2a,2bごとに各波長信号の高周波成分を混合して得られた高域輝度信号YH1,YH2の相関を求めることにより、撮像素子2a,2bの同一被写体に対する相対的位置関係を検出する。
以上より本実施形態によれば、高周波成分については、各波長の高周波成分のうち被写体に焦点が合う波長の光だけが残ることから、高域通過フィルタ13a,13bで高周波成分を分離するのみで、被写体に焦点が合う波長信号の割合が多い混合比の高域輝度信号を得ることができる。これにより、MTF特性の高い高域輝度信号を用いて、高精度な測距を行うことが可能となる。
また、各波長信号の高周波成分と低周波成分とを分離して、低周波成分は被写体の距離に関わらず固定された混合比で混合することから、位置検出のための輝度信号をモニタ用信号と共用する場合でも、モニタ画像の色再現性を確保することが可能となる。
[第5の実施形態]
次に、本発明の第5の実施形態について、図6を参照して説明する。なお、第4の実施形態と同一部分には同一符号を付してその説明を省略し、第4の実施形態と異なる部分について説明する。
本実施形態の撮像装置1は、高域通過フィルタ13a,13bに加え、混合比制御部15a,15bを備えている。
混合比制御部15a,15bは、上記第3の実施形態と同様に、被写体の距離に応じ、各波長信号の高周波成分の混合比を変更するようになっている。本実施形態では、撮像素子2a,2bと被写体との距離が遠いときは長波長信号の高周波成分の割合が多く、撮像素子2a,2bと被写体との距離が近いときは短波長信号の高周波成分の割合が多くなるように混合比を変更するようになっている。
また、混合比制御部15a,15bは、複数の撮像素子2a,2bに結像した被写体像の相互の距離が近いときは長波長信号の高周波成分の割合が多く、被写体像の相互の距離が遠いときは短波長信号の高周波成分の割合が多くなるように混合比を変更することも可能である。
これにより、上記のように高域通過フィルタ13a,13bで高周波成分を分離するのみで、被写体に焦点が合う波長信号の割合が多い高域輝度信号YH1,YH2を得ることができるが、更に、各波長の光の混合比を変更することにより、より高いMTF特性の高域輝度信号YH1,YH2を得ることが可能となる。
また、位置検出部11は、混合比制御部15a,15bにより変更された混合比に従って、撮像素子2a,2bごとに高周波成分を混合して得られた高域輝度信号YH1,YH2の相関に基づき、撮像素子2a,2bに結像した同一被写体に対する相対的位置関係を検出するようになっている。
次に、本実施形態の撮像装置1を使用した本発明の撮像方法について説明する。
高域通過フィルタ13a,13bが各波長信号から高周波成分のみを分離すると、混合比制御部15a,15bは、被写体の距離に応じ、各波長信号の高周波成分の混合比を変更する。
続いて、位置検出部11は、混合比制御部15a,15bにより変更された混合比に従って混合された高域輝度信号YH1,YH2の相関に基づき、撮像素子2a,2bの同一被写体に対する相対的位置関係を検出する。
以上より本実施形態によれば、高域通過フィルタ13a,13bで高周波成分を分離すると共に、被写体の距離に応じて高周波成分の混合比を変更することにより、よりMTF特性の高い高域輝度信号を得て高精度な測距を行うことが可能となる。
また、遠い被写体には長波長の光の焦点が合い、近い被写体には短波長の光の焦点が合うことから、被写体の距離に応じて焦点が合う波長信号の高周波成分の割合を多くすることにより、MTF特性の高い高域輝度信号を得ることが可能となる。
また、撮像素子2a,2bに結像した被写体像の相互の距離は、被写体の距離が遠いほど狭くなり、被写体の距離が近いほど広くなることから、被写体像の相互の距離に応じて焦点が合う波長信号の高周波成分の割合を多くすることにより、MTF特性の高い高域輝度信号を得ることが可能となる。
以上述べたように本発明の撮像装置及び撮像方法によれば、複数の撮像素子を用いた撮像装置及び撮像方法において、被写体の位置に関わらず高精度な測距を行うことが可能となる。

Claims (20)

  1. 入射光を複数種類の波長ごとに電気信号に変換する複数の撮像素子と、
    前記複数の撮像素子ごとに設けられ、前記複数の撮像素子から出力された複数の波長信号を所定の混合比で混合して輝度信号を生成する輝度信号生成部と、
    前記複数の撮像素子の各々に結像した被写体像の相対的位置関係に応じて前記複数の撮像素子ごとに前記複数の波長信号の混合比を変更する混合比制御部と、
    前記複数の撮像素子ごとに得られた輝度信号の相関に基づいて被写体までの距離を検出する距離検出部と、を備え、
    前記混合比制御部は、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の割合が多くなるように混合比を変更することを特徴とする撮像装置。
  2. 前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部を備え、前記混合比制御部は前記位置検出部が検出した前記複数の撮像素子の各々に結像した被写体像の相対的位置関係に応じて前記混合比を変更することを特徴とする請求項1に記載の撮像装置。
  3. 前記混合比制御部は前記複数の波長信号の各々に乗算する係数を変更することにより前記混合比を変更することを特徴とする請求項1又は2に記載の撮像装置。
  4. 前記混合比制御部は、同一の撮像素子に結像した複数の被写体ごとに前記混合比を変更することを特徴とする請求項1乃至のいずれか一項に記載の撮像装置。
  5. 入射光を複数種類の波長ごとに電気信号に変換する複数の撮像素子と、
    前記複数の撮像素子ごとに設けられ、前記複数の撮像素子の各々から出力された複数の波長信号の各々を高周波成分と低周波成分とに分離するフィルタと、
    前記複数の波長信号ごとの低周波成分を所定の混合比で混合して低域輝度信号を生成する低域輝度信号生成部と、
    前記複数の波長信号ごとの高周波成分を所定の混合比で混合して高域輝度信号を生成し、前記高域輝度信号と前記低域輝度信号とを加算して輝度信号を生成する輝度信号生成部と、
    前記複数の撮像素子ごとに得られた輝度信号の相関に基づいて被写体までの距離を検出する距離検出部と、
    前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部と、
    前記位置検出部の検出結果に応じて前記高周波成分の混合比を変更する混合比制御部と、を備え、
    前記混合比制御部は、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の高周波成分の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の高周波成分の割合が多くなるように混合比を変更することを特徴とする撮像装置。
  6. 前記低域輝度信号生成部は前記複数の波長信号ごとの前記低周波成分に係数を乗算することにより前記低周波成分を所定の混合比とすることを特徴とする請求項5に記載の撮像装置。
  7. 前記混合比制御部は前記複数の波長信号ごとの高周波成分に乗算する係数を変更することにより前記混合比を変更することを特徴とする請求項5に記載の撮像装置。
  8. 入射光を複数種類の波長ごとに電気信号に変換する複数の撮像素子と、
    前記複数の撮像素子ごとに設けられ、前記複数の撮像素子の各々から出力された複数の波長信号の各々から高周波成分を分離するフィルタと、
    前記複数の撮像素子ごとに前記高周波成分を混合して得られた高域輝度信号の相関に基づいて被写体までの距離を検出する距離検出部と、
    前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部と、
    記位置検出部の検出結果に応じて前記高周波成分の混合比を変更する混合比制御部と、を備え、
    前記混合比制御部は、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の高周波成分の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の高周波成分の割合が多くなるように混合比を変更することを特徴とする撮像装置。
  9. 前記混合比制御部は、同一の撮像素子に結像した複数の被写体ごとに前記混合比を変更することを特徴とする請求項5、7又はに記載の撮像装置。
  10. 前記複数の波長信号は赤信号、緑信号及び青信号であることを特徴とする請求項1乃至のいずれか一項に記載の撮像装置。
  11. 入射光を複数種類の波長ごとに電気信号に変換する複数の撮像素子を使用し、
    前記複数の撮像素子から出力された複数の波長信号を所定の混合比で混合して前記複数の撮像素子ごとに輝度信号を生成する輝度信号生成工程と、
    前記撮像素子の各々に結像した被写体像の相対的位置関係に応じて前記複数の撮像素子ごとに前記複数の波長信号の混合比を変更する混合比制御工程と、
    前記複数の撮像素子ごとに得られた輝度信号の相関に基づいて被写体までの距離を検出する距離検出工程と、を有し、
    前記混合比制御工程において、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の割合が多くなるように混合比を変更することを特徴とする撮像方法。
  12. 前記混合比制御工程において、前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部を使用し、前記位置検出部が検出した前記複数の撮像素子の各々に結像した被写体像の相対的位置関係に応じて前記混合比を変更することを特徴とする請求項11に記載の撮像方法。
  13. 前記混合比制御工程において、前記複数の波長信号の各々に乗算する係数を変更することにより前記混合比を変更することを特徴とする請求項11又は12に記載の撮像方法。
  14. 前記混合比制御工程において、同一の撮像素子に結像した複数の被写体ごとに前記混合比を変更することを特徴とする請求項11乃至13のいずれか一項に記載の撮像方法。
  15. 入射光を複数種類の波長ごとに電気信号に変換する複数の撮像素子と、
    前記複数の撮像素子の各々から出力された複数の波長信号の各々を高周波成分と低周波成分とに分離するフィルタとを使用し、
    前記複数の波長信号ごとの低周波成分を所定の混合比で混合して低域輝度信号を生成する低域輝度信号生成工程と、
    前記複数の波長信号ごとの高周波成分を所定の混合比で混合して高域輝度信号を生成し、前記高域輝度信号と前記低域輝度信号とを加算して輝度信号を生成する輝度信号生成工程と、
    前記複数の撮像素子ごとに得られた輝度信号の相関に基づいて被写体までの距離を検出する距離検出工程と、
    前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部を使用し、前記位置検出部の検出結果に応じて前記高周波成分の混合比を変更する混合比制御工程と、を有し、
    前記混合比制御工程において、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の高周波成分の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の高周波成分の割合が多くなるように混合比を変更することを特徴とする撮像方法。
  16. 前記複数の波長信号ごとの前記低周波成分に係数を乗算することにより前記低周波成分を所定の混合比とすることを特徴とする請求項15に記載の撮像方法。
  17. 前記混合比制御工程において、前記複数の波長信号ごとの高周波成分に乗算する係数を変更することにより前記混合比を変更することを特徴とする請求項15に記載の撮像方法。
  18. 入射光を複数種類の波長ごとに電気信号に変換する複数の撮像素子と、
    前記複数の撮像素子の各々から出力された複数の波長信号の各々から高周波成分を分離するフィルタとを使用し、
    前記複数の撮像素子ごとに前記高周波成分を混合して得られた高域輝度信号の相関に基づいて被写体までの距離を検出する距離検出工程と、
    前記複数の撮像素子の各々に結像した被写体像の相対的位置関係を検出する位置検出部を使用し、前記位置検出部の検出結果に応じて前記高周波成分の混合比を変更する混合比制御工程と、を有し、
    前記混合比制御工程において、前記複数の撮像素子に結像した被写体像の相互の距離が近いときは長波長信号の高周波成分の割合が多く、前記被写体像の相互の距離が遠いときは短波長信号の高周波成分の割合が多くなるように混合比を変更することを特徴とする撮像方法。
  19. 前記混合比制御工程において、同一の撮像素子に結像した複数の被写体ごとに前記混合比を変更することを特徴とする請求項1517又は18に記載の撮像方法。
  20. 前記複数の波長信号は赤信号、緑信号及び青信号であることを特徴とする請求項11乃至19のいずれか一項に記載の撮像方法。
JP2008516605A 2006-05-18 2007-05-14 撮像装置及び撮像方法 Expired - Fee Related JP5146682B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008516605A JP5146682B2 (ja) 2006-05-18 2007-05-14 撮像装置及び撮像方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2006139172 2006-05-18
JP2006139172 2006-05-18
PCT/JP2007/059851 WO2007135885A1 (ja) 2006-05-18 2007-05-14 撮像装置及び撮像方法
JP2008516605A JP5146682B2 (ja) 2006-05-18 2007-05-14 撮像装置及び撮像方法

Publications (2)

Publication Number Publication Date
JPWO2007135885A1 JPWO2007135885A1 (ja) 2009-10-01
JP5146682B2 true JP5146682B2 (ja) 2013-02-20

Family

ID=38723198

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008516605A Expired - Fee Related JP5146682B2 (ja) 2006-05-18 2007-05-14 撮像装置及び撮像方法

Country Status (3)

Country Link
US (1) US8040396B2 (ja)
JP (1) JP5146682B2 (ja)
WO (1) WO2007135885A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW201026034A (en) * 2008-12-31 2010-07-01 Altek Corp Automatic focusing method in high-noise environment and the device thereof
JP6552235B2 (ja) * 2015-03-23 2019-07-31 キヤノン株式会社 撮像装置、その制御方法及びプログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04138579A (ja) * 1990-09-29 1992-05-13 Glory Ltd 対応点探索方法
JPH0545574A (ja) * 1991-08-14 1993-02-23 Sony Corp ビデオカメラ
JPH06253199A (ja) * 1993-02-24 1994-09-09 Fuji Photo Film Co Ltd 自動焦点調節装置
JPH109827A (ja) * 1996-06-24 1998-01-16 Omron Corp 高さ判別装置および方法
JP2001083407A (ja) * 1999-09-13 2001-03-30 Canon Inc 撮像装置
JP2001141988A (ja) * 1999-08-31 2001-05-25 Canon Inc 焦点調節装置及びその制御方法及びその制御プログラムを供給する媒体

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6204881B1 (en) * 1993-10-10 2001-03-20 Canon Kabushiki Kaisha Image data processing apparatus which can combine a plurality of images at different exposures into an image with a wider dynamic range
JPH07244717A (ja) 1994-03-02 1995-09-19 Mitsubishi Electric Corp 車両用走行環境認識装置
JP2000186929A (ja) 1998-12-21 2000-07-04 Matsushita Electric Ind Co Ltd 車載及びetc用ステレオカメラ装置
JP2000347133A (ja) 2000-01-01 2000-12-15 Hidetoshi Takamoto ステレオカメラ
JP4844052B2 (ja) * 2005-08-30 2011-12-21 ソニー株式会社 映像信号処理装置と撮像装置および映像信号処理方法とプログラム
JP4389865B2 (ja) * 2005-11-17 2009-12-24 ソニー株式会社 固体撮像素子の信号処理装置および信号処理方法並びに撮像装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04138579A (ja) * 1990-09-29 1992-05-13 Glory Ltd 対応点探索方法
JPH0545574A (ja) * 1991-08-14 1993-02-23 Sony Corp ビデオカメラ
JPH06253199A (ja) * 1993-02-24 1994-09-09 Fuji Photo Film Co Ltd 自動焦点調節装置
JPH109827A (ja) * 1996-06-24 1998-01-16 Omron Corp 高さ判別装置および方法
JP2001141988A (ja) * 1999-08-31 2001-05-25 Canon Inc 焦点調節装置及びその制御方法及びその制御プログラムを供給する媒体
JP2001083407A (ja) * 1999-09-13 2001-03-30 Canon Inc 撮像装置

Also Published As

Publication number Publication date
JPWO2007135885A1 (ja) 2009-10-01
US20090201385A1 (en) 2009-08-13
WO2007135885A1 (ja) 2007-11-29
US8040396B2 (en) 2011-10-18

Similar Documents

Publication Publication Date Title
JP4939901B2 (ja) 距離画像生成方法及びその装置
JP4452951B2 (ja) 距離画像生成方法及びその装置
JP5670481B2 (ja) 多開口画像データの処理
JP5942697B2 (ja) 焦点検出装置および撮像装置
JP5728673B2 (ja) 多開口画像データの処理
KR101886059B1 (ko) 촬상장치 및 그 제어 방법
JP5000413B2 (ja) 撮像システム及び画像信号処理プログラム
JP5591851B2 (ja) 固体撮像装置および携帯情報端末
KR101510107B1 (ko) 촬상 장치 및 촬상 방법
JP2010271670A (ja) 撮像装置
JP2022141659A (ja) 検出装置、撮像素子および撮像装置
JP2016038414A (ja) 焦点検出装置およびその制御方法、並びに撮像装置
JP2009271523A (ja) 焦点検出装置および撮像装置
JP2009092909A (ja) 撮像装置、フォーカス制御方法、プログラムおよび集積回路
JP5146682B2 (ja) 撮像装置及び撮像方法
JP5600941B2 (ja) 焦点検出装置および撮像装置
US9402069B2 (en) Depth measurement apparatus, imaging apparatus, and method of controlling depth measurement apparatus
JP5804105B2 (ja) 撮像装置
JP6987524B2 (ja) 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
JP5338113B2 (ja) 相関演算装置、焦点検出装置および撮像装置
JP5332384B2 (ja) 相関演算装置、焦点検出装置および撮像装置
JP5338119B2 (ja) 相関演算装置、焦点検出装置および撮像装置
JP5338118B2 (ja) 相関演算装置、焦点検出装置および撮像装置
JP7235068B2 (ja) 撮像装置
JP4968009B2 (ja) 相関演算方法、相関演算装置、焦点検出装置および撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100510

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20110215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120418

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120615

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120831

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121031

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121113

R150 Certificate of patent or registration of utility model

Ref document number: 5146682

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151207

Year of fee payment: 3

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees