JP2007104349A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2007104349A
JP2007104349A JP2005291900A JP2005291900A JP2007104349A JP 2007104349 A JP2007104349 A JP 2007104349A JP 2005291900 A JP2005291900 A JP 2005291900A JP 2005291900 A JP2005291900 A JP 2005291900A JP 2007104349 A JP2007104349 A JP 2007104349A
Authority
JP
Japan
Prior art keywords
imaging
cds
signal
ccd
agc
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005291900A
Other languages
English (en)
Other versions
JP4899402B2 (ja
Inventor
Norihiko Nakano
憲彦 中野
Shinichiro Hirooka
慎一郎 廣岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2005291900A priority Critical patent/JP4899402B2/ja
Priority to CN2006101437745A priority patent/CN1945417B/zh
Priority to US11/543,354 priority patent/US7773140B2/en
Publication of JP2007104349A publication Critical patent/JP2007104349A/ja
Application granted granted Critical
Publication of JP4899402B2 publication Critical patent/JP4899402B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/32Transforming X-rays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof

Abstract

【課題】
ステレオ撮像システムにおいて、信号処理部1つで同時露光を実現すること。
【解決手段】
撮像を行う複数の撮像手段と、入力信号の選択処理を行う入力選択手段と、撮像手段の駆動を行うセンサ駆動信号発生手段と、撮像手段が出力する撮像データのカメラ信号処理を行うカメラ信号処理手段と、を有するステレオ撮像装置によって構成される。
複数の撮像手段が同時に露光を行い、センサ駆動信号発生手段が駆動信号のマスク制御を行い撮像手段からの撮像データの出力タイミングを異ならせることにより、複数の撮像手段が出力する映像データを撮像手段より少ない数のカメラ信号処理手段でカメラ信号処理を行うことを可能とする。
【選択図】 図3

Description

本発明は、複数の撮像手段を備える撮像装置に関する。
本技術分野の背景技術として、例えば、特開平7−7653号公報(特許文献1)がある。該公報には、「複数の撮像素子からの信号を撮像素子よりも少ない信号処理装置で信号処理することにより、従来よりも低消費電力、小容量、安価な多入力、多出力の撮像装置を提供すること」を目的とし、解決手段として、「n個の固体撮像素子からの信号を、第1の信号選択回路でk個の画像信号処理装置に割り振る。画像信号処理装置により信号処理後、第2の信号選択回路により、k個の信号をm個の出力装置に割り振る。第1及び第2の信号選択回路の信号選択は制御回路により行う。また、第1の信号選択回路に接続された各々の撮像素子に対応した画像信号処理装置の制御データも制御回路で記憶し、n個の撮像素子のうち選択された撮像素子とm個の出力装置のうち選択された出力装置との接続についても制御回路で記憶する。」という技術が開示されている。
また、例えば、特開2000−341719(特許文献2)がある。該公報には、「外部同期回路を用いることなく複数のカメラの同期をとり、さらに輝度ばらつきの少ない映像信号を出力するステレオカメラを得る」を課題とし、解決手段として、「レンズ2a、2bと、撮像素子3a、3bと、撮像素子の出力信号を増幅する利得調整手段4a、4bと、撮像素子出力信号を映像信号に変換する信号処理手段5a、5bとを備えた撮像系を複数有するステレオカメラにおいて、複数の撮像素子と信号処理手段を共通して駆動する駆動信号、複合同期信号等を出力するタイミング信号発生手段6bと、一つの撮像系の撮像素子出力信号を検波する露出検波手段8bおよびこの露出検波手段から出力される検波値と所定の露出調整目標値から露出調整値を算出する露出時間算出手段9bにより構成される露出調整手段7bを備え、タイミング信号発生手段を露出時間算出手段の出力により制御する」という技術が開示されている。
特開平7−7653号公報 特開2000−341719号公報
例えば監視カメラや立体視カメラにおいて、複数のカメラを用いてステレオ撮像を行い被写体の抽出を行う手法はよく知られている。この際、上記特許文献1のように、撮像素子よりも少ない信号処理装置で信号処理を行うことは、低コスト・低消費電力の撮像システムを構成するのに有効である。
ところが、撮影映像として、動きの早い・激しい被写体を撮影している場合がある。これの場合、複数のカメラを用いてステレオ撮像を行い被写体の抽出を精度よく行うために、複数カメラ間の撮影を同期し露光期間や露光期間の重心のタイミングを合わせることが有効となる。上記特許文献1では、撮影時の露光期間や露光期間のタイミング合わせについて考慮されていないため、カメラ間の映像の撮影タイミングにずれが生じ、撮像画像を用いて画像処理を行った場合の精度が悪くなるという問題が生じる。
上記特許文献2には、複数の撮像素子に対し同じ駆動信号を入力することにより、カメラ間の撮影を同期し露光期間を合わせる方法が示されている。
ところが、上記特許文献2では、複数の撮像素子から同時にパラレルで信号が出力されるため、信号処理手段が撮像素子と同じ数だけ必要となり、コストが高くなるという問題が生じる。
そこで、本発明は、複数の撮像手段を備える撮像装置において、低コスト化かつ高画質化を目的とする。
上記目的は特許請求の範囲に記載の発明により達成される。
本発明によれば、複数の撮像手段を備える撮像装置における低コスト化かつ高画質化を実現できる。
以下、図面を用いて本発明の実施例を説明する。
図1は、本発明の第1実施例に係るステレオ撮像システムを示す模式図である。図1において、101_1は第1のCCD撮像部、101_2は第2のCCD撮像部、102_1は第1のCDS/AD部、102_2は第2のCDS/AD部、103は入力選択部、104はカメラ信号処理部、105はセンサ駆動信号発生部、106はステレオ撮像制御部である。
ステレオ撮像システムにおいて、第1のCCD撮像部101_1は、光電変換により撮像を行い、第1のアナログ信号を出力する。第1のCDS/AD部102_1は、第1のCCD撮像部101_1が出力する第1のアナログ信号に対し、相関2重サンプリングとAD変換を行い第1のデジタル信号を出力する。第2のCCD撮像部101_2は、光電変換により撮像を行い、第2のアナログ信号を出力する。第2のCDS/AD部102_2は、第2のCCD撮像部101_2が出力する第2のアナログ信号に対し、相関2重サンプリングとAD変換を行い第2のデジタル信号を出力する。図1に示すステレオ撮像システムでは、第1のCCD撮像部101_1と第2のCCD撮像部101_2それぞれに専用の第1のCDS/AD部102_1と第2のCDS/AD部102_2を用いる構成としているため、基準とする黒レベルのサンプリングを各々のCCD撮像部の出力するアナログ信号に個別に行うことができ、画質を向上させることが可能となる。入力選択部103は、第1のCDS/AD部102_1が出力する第1のデジタル信号と第2のCDS/AD部102_2が出力する第2のデジタル信号に対し、センサ駆動信号発生部105またはステレオ撮像制御部106からの制御信号を用いて選択処理を行い、片方のデジタル信号を選択して出力する。入力選択部103で行う選択処理にセンサ駆動信号発生部105からの制御信号を用いるのであれば、例えば偶数フィールドと奇数フィールドの判別に用いるフィールドパルス:FPを用いて行えばフィールド単位での入力切替が、水平方向の同期信号:HDを用いればライン単位での入力切替が容易に可能となる。また、図1に示すステレオ撮像システムでは入力選択部を第1のCDS/AD部102_1と第2のCDS/AD部102_2の後ろに置く構成としたが、第1のCCD撮像部101_1と第2のCCD撮像部101_2の後ろに置く構成とし、CDS/AD部を1つに統合し、コスト低減を図ることも可能である。カメラ信号処理部104は、入力選択部103が出力する選択されたデジタル信号に対し、フィルタ処理・デモザイキング処理・キャリア除去処理・エンハンス処理等のカメラ信号処理を行い、映像信号を出力する。センサ駆動信号発生部105は、駆動または制御を行うための信号を生成し、第1のCCD撮像部101_1と第1のCDS/AD部102_1と第2のCCD撮像部101_2と第2のCDS/AD部102_2と入力選択部103とカメラ信号処理部104とステレオ撮像制御部106に出力する。ステレオ撮像制御部106は、入力選択部103とカメラ信号処理部104とセンサ駆動信号発生部105の制御を行う。
図2は、本発明の第1実施例に係るステレオ撮像システムのCCD駆動パルスの一例を示す図である。図2において、2−Aは通常のCCD駆動パルスタイミング、2−Bは本実施例の第1のCCD撮像部101_1であるカメラLと第2のCCD撮像部101_2であるカメラRに対するCCD駆動パルスを示す。
図2において、VDは垂直方向の同期信号、HDは水平方向の同期信号、SUBは基板クロック信号、XSGnは通常の読み出しクロック信号、Vnは通常の垂直レジスタ転送クロック、XSGstLはカメラLに対する読み出しクロック信号、VstLはカメラLに対する垂直レジスタ転送クロック、XSGstRはカメラRに対する読み出しクロック信号、VstRはカメラRに対する垂直レジスタ転送クロックを示している。
本実施例のステレオ撮像システムに用いる図2の2−Bでは、図2の2−A:通常のCCD駆動パルスタイミングで示す駆動パルスと比較し、露光期間R1の後でカメラRのXSGstRとVstRの信号をマスク・パルスを固定している。このことにより、カメラRのVstRの信号をマスク・パルスを固定している間は、第2のCCD撮像部101_2の垂直CCDに露光期間R1に撮像した電荷・信号を保持することができる。ゆえに、通常のCCD駆動パルスタイミングを用いた場合には、信号出力1のタイミングで出力する露光期間R1で撮影した信号出力のタイミングを、信号出力R1のタイミングにずらす・遅らせることが可能となる。すなわち、カメラLとカメラRで露光期間L1と露光期間R1で同時に露光したデータを、異なるタイミングで出力可能となる。この信号をマスク・パルスを固定する期間は、VDまたはXSGstLやXSGstRやFPなどのV系のパルスを用いることにより、1フィールドや1サンプリング周期を容易に実現可能である。また、カメラRに対し、SUBの信号はマスク・パルスを固定していない。これは、XSGstRをマスク・パルスを固定するために露光期間が長くなり電荷・信号がCCDの撮像素子からあふれる現象が生じ、画質が劣化する場合があることを、SUBの信号で電荷・信号を捨てることにより未然に防ぎ、画質の劣化を防止することができるようにするためである。また、図2にでは垂直レジスタ転送クロックを1つの信号として示しているが複数の垂直レジスタ転送クロックであってもよい。また、図2にではXSGstR後のVstRのパルス出力を1つとしているが、特に個数は限定しない。また、図2に示す信号の論理は、図と異なっていてもかまわない。また、SUBはカメラLとカメラRで異なったタイミングの信号をそれぞれに入力してもよいし、XSGstLとXSGstRはカメラLとカメラRで異なったタイミングの信号をそれぞれに入力してもよい。これにより、カメラRとカメラLで露光期間の重心のタイミングを合わせることができ、カメラLとカメラRの露光期間を異ならせた場合においても、露光期間R1の後でカメラRのXSGstRとVstRの信号をマスク・パルスを固定することによりカメラRの信号の出力タイミングをずらす・遅らせることが可能となる。
図3は、本発明の第1実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図である。図3において3Aは露光とデータ出力タイミング、図の3Bはカメラ信号処理部へのデータ入力タイミングを示す。
図2の2−B:本実施例のCCD駆動パルスタイミングを用いることにより、3A:露光とデータ出力タイミングに示すように、カメラLとカメラRで同時に露光したデータを異なるタイミングで出力可能となる。入力選択部では、3B:カメラ信号処理部へのデータ入力タイミングに示すように、カメラLとカメラRから異なるタイミングで出力される出力データのタイミングに合わせて選択する信号を切り替える。このような選択する信号の切り替え処理のタイミング制御は、ステレオ撮像制御部106からの制御信号やFP信号を用いることにより容易に実現可能である。また、上記した図2でカメラRのXSGstRとVstRの信号をマスク・パルスを固定する期間は、入力選択部103が第1のCCD撮像部101_1であるカメラLが出力した第1のアナログ信号を用いて第1のCDS/AD部が出力した第1のデジタル信号を選択している期間としてもよい。入力選択処理部103でカメラLとカメラRの信号出力タイミングに応じた選択処理を行うことにより、図3の3B:カメラ信号処理部へのデータ入力タイミングに示すように、カメラ信号処理部104に対する入力信号を時分割で切り替えることができる。このことにより、同時露光した2つのCCD撮像部に対し、1つのカメラ信号処理手段で信号処理を行うことが可能となり、信号処理手部削減による低コスト化と、同時露光による高画質化及び撮像画像を用いて画像処理を行った場合の精度向上を実現可能である。また、第1のCCD撮像部101_1と第2のCCD撮像部101_2には、プログレッシブ読み出し可能なCCDを用いてもよい。プログレッシブ読み出しで秒60枚のフレーム画像が出力可能なCCDを用いることにより、入力選択部103で二者択一の選択処理が行われるためにカメラ毎のカメラ信号処理部104への入力のレートが低下した場合においても、例えば、カメラLとカメラRで交互に選択された場合においても、インターレース読み出しのCCDを用いた場合と同様に、各々のカメラ毎に秒30枚のフレーム画像が得られることができる。
図4は、本発明の第1実施例に係るステレオ撮像システムの別の形態を示す模式図である。図4において、107_1は第1のCDS/AGC/AD部、107_2は第2のCDS/AGC/AD部、108は駆動信号加工処理部である。
図4は、図1の模式図と比較して、第1のCDS/AD部102_1が第1のCDS/AGC/AD部107_1へ、第2のCDS/AD部102_2が第2のCDS/AGC/AD部107_2へ変更されており、第1のCCD撮像部101_1が出力する第1のアナログ信号と第2のCCD撮像部101_2が出力する第2のアナログ信号に対し、それぞれ第1のCDS/AGC/AD部107_1と第2のCDS/AGC/AD部107_2でゲインコントロールが可能となっている。図4では、ゲインコントロールの制御を行うために、ステレオ撮像制御部104から、それぞれ第1のCDS/AGC/AD部107_1と第2のCDS/AGC/AD部107_2に対して制御信号が追加されている。さらに、図4は、図1の模式図と比較して、駆動信号加工処理部108を備えている。図1では、第1のCCD撮像部101_1と第2のCCD撮像部101_2に対し、センサ駆動信号発生部105が出力する信号を直接入力していた。このため、上記した駆動信号のマスク処理をセンサ駆動信号発生部105で行わなければならず、また2種類のセンサ駆動信号を出力しなければならないため、特殊なセンサ駆動信号発生部105を用いなければならなかった。本構成では、センサ駆動信号発生部105から出力される1種類の通常のCCD駆動パルスを駆動信号加工処理部108に入力し、駆動信号加工処理部108で分配処理やマスク処理を行ったセンサ駆動信号を第1のCCD撮像部101_1と第2のCCD撮像部101_2に対し出力する構成としている。このような分配処理・マスク処理を行う駆動信号加工処理部108は、FPGAを用いて容易に実現可能である。上記により、汎用のセンサ駆動信号発生部105を用いて、同時露光した2つのCCD撮像部に対し、1つのカメラ信号処理手段で信号処理を行うことが可能となる。さらに、図4は、図1の模式図と比較して、CDS/AGC/AD部への制御信号が駆動信号加工処理部108に入力されており、駆動信号加工処理部108で制御信号を加工し出力可能である。さらに、図4は、図1の模式図と比較して、第1のCDS/AGC/AD部107_1と第2のCDS/AGC/AD部107_2に対し、個別の制御信号がセンサ駆動信号発生部105から出力されている。CDS/AGC/AD部では、2種類のサンプリング信号を用いて相関2重サンプリング処理を行っているが、この処理にはアナログ信号の遅延が大きく影響するため、第1のCDS/AGC/AD部107_1と第2のCDS/AGC/AD部107_2に対し同じサンプリング信号で相関2重サンプリング処理を行った場合、第1のCCD撮像部101_1と第1のCDS/AGC/AD部107_1間の基板特性と、第2のCCD撮像部101_2と第2のCDS/AGC/AD部107_2間の基板の特性の差の影響を強く受け、画質の向上を図ることが難しい。図4に示すように、第1のCDS/AGC/AD部107_1と第2のCDS/AGC/AD部107_2に対し、センサ駆動信号発生部105から個別の制御信号を出力することにより、基板特性に応じたサンプリング信号の調整を行うことができ、画質の向上を図ることができる。また、上記駆動信号加工処理部108に入力される信号のうちマスク処理をしない信号については、センサ駆動信号発生部105から出力される信号を回路上で分配して、それぞれのCCD撮像部とCDS/AGC/AD部に入力してもよい。
かように本実施例によれば、同時露光後のCCD撮像部に対する垂直転送信号と読み出し信号をマスクし信号出力タイミングをずらし、信号出力タイミングに合わせてカメラ信号処理部への入力信号を選択することにより、同時露光した撮影データを1つのカメラ信号処理部でカメラ信号処理可能であり、低コスト化と、同時露光による高画質化及び撮像画像を用いて画像処理を行った場合のステレオ撮像の画像処理能力を向上させることができる。
図5は、本発明の第2実施例に係るステレオ撮像システムのCCD駆動パルスの一例を示す図である。図5において、H1とH2は水平レジスタ転送クロック、RGはリセットゲートクロック、OBPは黒の基準レベルサンプリング制御信号、PBLKはプリブランキング信号、CLKはクロック信号である。
図5では、上記カメラRのXSGstRとVstRの信号をマスク・パルスを固定する期間は、第2のCDS/AD部または第2のCDS/AGC/AD部に出力するOBPの信号をマスク・パルスを固定する。このことにより、第2の撮像部から撮像された信号が出力されない期間中に不正な信号を用いて第2のCDS/AD部または第2のCDS/AGC/AD部で黒の基準レベルをサンプリングすることがなくなり、画質を向上させることができる。
図5では、上記カメラRのXSGstRとVstRの信号をマスク・パルスを固定する期間は、第2のCCD撮像部に出力するH1とH2とRGの信号と、第2のCDS/AD部または第2のCDS/AGC/AD部に出力するPBLKとCLKの信号をマスク・パルスを固定する。必要のない信号をマスク・パルスを固定することにより、消費電力を低減することができる。また、図5に示す信号の論理は、図と異なっていてもかまわない。また、上記した信号のいくつかををマスクする形態でもよい。また、同様にして上記した入力選択部でカメラLが選択されていない場合に、第1のCCD撮像部と、第1のCDS/AD部または第1のCDS/AGC/AD部とに対する駆動パルス・制御信号をマスク・固定してもよい。
かように本実施例によれば、同時露光後のCCD撮像部に対する垂直転送信号と読み出し信号をマスクする場合に、CDS/AGC/AD部に対する黒の基準レベルサンプリング制御信号をマスクすることにより高画質化を、CCD撮像部に対する水平レジスタ転送クロックとリセットゲートクロックとCDS/AGC/AD部に対するプリブランキング信号とクロック信号をマスクすることにより低消費電力化を、実現することができる。
図6は、本発明の第3実施例に係るステレオ撮像システムを示す模式図である。図6において、109はシャッタ部である。
図6は、本発明の第1実施例の模式図である図1と比較して、シャッタ部109を持つ。シャッタ部109はセンサ駆動信号発生部105またはステレオ撮像制御部106からの信号を用いてシャッタ制御を行い第2のCCD撮像部102_2に対する入射光を調整する。
図7は、本発明の第3実施例に係るステレオ撮像システムの露光とシャッタ開閉タイミングとデータ出力タイミングの一例を示す図である。
図7は、本発明の第1実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図3と比較して、シャッタ制御タイミングが追加されている。同時露光後のカメラRに対する垂直転送信号と読み出し信号をマスクすることにより垂直CCDに電荷・信号を保持している間に、第2のCCD撮像部に強い光が入射した場合、垂直CCDに電荷がもれこみノイズが発生する場合がある。本実施例では、垂直転送信号と読み出し信号をマスクしている期間、露光をしていない期間ではシャッタを閉じることにより、第2のCCD撮像部に入射する光をマスクする。このことにより、垂直CCDに電荷・信号を保持している間に強い光がカメラRに対し入射されてもノイズを発生させることを防ぐことができる。
かように本実施例によれば、垂直転送信号と読み出し信号をマスクすることにより垂直CCDに電荷・信号を保持している間に、シャッタを閉じることにより、入射光をさえぎることができ、ノイズを発生させず高画質の撮像を行うことができる。
図8は、本発明の第4実施例に係るステレオ撮像システムを示す模式図である。図8において110は記録部である。
図8は本発明の第1実施例の模式図である図1と比較して、記録部110を持つ。記録部110ではカメラ信号処理部104が出力する映像信号の記録処理を行う。第1のCCD撮像部101_1で撮像された映像信号と比較して、第2のCCD撮像部101_2で撮像された映像信号は、垂直転送信号と読み出し信号をマスクして垂直CCDに電荷・信号を保持している間にノイズの影響を受けるため、画質が劣化している場合がある。よって、記録部110で映像信号の記録を行う場合には、第1のCCD撮像部101_1で撮像された映像信号を優先して記録を行うようにする。例えば、片方の映像信号のみを記録する場合には第1のCCD撮像部101_1で撮像された映像信号記録する。このことにより、画質のよい映像を記録して残すことができる。例えば、片方の映像信号をすべて記録し片方の映像信号を間引いて記録する場合には、第1のCCD撮像部101_1で撮像された映像信号をすべて記録し、第2のCCD撮像部101_2で撮像された映像信号を間引いて記録する。データの間引きに関しては、記録部110で行ってもよいし、カメラ信号処理部104内部で間引きを行い記録部110に出力しない構成としてもよい。また、記録部110で映像信号を圧縮して記録する場合には、第1のCCD撮像部101_1で撮像された映像信号の圧縮率を優先的に低くするようにすればよい。
かように本実施例によれば、垂直転送信号と読み出し信号をマスクして垂直CCDに電荷・信号を保持していないCCD撮像部で撮影した映像信号を優先的に記録することにより、高画質の映像を記録データとして残すことが可能となる。
図9は、本発明の第5実施例に係るステレオ撮像システムを示す模式図である。図9において110は画像処理部である。
図9は本発明の第1実施例に係るステレオ撮像システムの別の形態を示す模式図である図4と比較して、画像処理部111を持ち、また第4の実施例で説明した記録部110を持つ。画像処理部111では、ステレオ撮像された映像信号を用いて画像処理を行う。画像処理の結果、垂直転送信号と読み出し信号をマスクすることにより垂直CCDに電荷・信号を保持することをしていない第1のCCD撮像部101_1で撮影した映像信号に問題が発生した場合、例えば第1のCCD撮像部101_1の前に障害物があり後ろを撮影できないため画像処理や監視能力が低下した場合、には、垂直転送信号と読み出し信号をマスクすることにより垂直CCDに電荷・信号を保持することをしていないCCD撮像部を、第1のCCD撮像部101_1から第2のCCD撮像部101_2へと切り替える。これは、画像処理部111から、ステレオ撮像制御部106に対し制御信号を出力し、ステレオ撮像制御部106で、読み出し信号と垂直転送信号をマスクする対象と、黒の基準レベルサンプリング制御信号をマスクする対象と、水平転送信号とリセットゲートクロック信号をマスクする対象と、クロック信号をマスクする対象と、シャッタ部109が入射光をマスクする対象と、記録部110が優先して記録する映像信号と、を切り替えることで実現可能である。このことにより。画像処理や監視に好適な映像を撮影しているカメラを高画質で撮影、記録可能となる。この切り替えは、カメラLとカメラRの露光周期と同期して行ったり、記録部110でMPEG等の画面相関を用いた圧縮処理を行っている場合にはGOP周期と同期して行えばよい。また、画像処理部111で画像処理を行ったデータや画像を記録部110記録してもよい。また、本実施例により、高画質のカメラを任意に選択可能となるため、外部から入力される視聴者の利き目の情報を用いてカメラの選択が可能となり、視聴者の利き目に高画質の映像を入力することができる。
かように本実施例によれば、画像処理結果に応じて、垂直転送信号と読み出し信号をマスクして垂直CCDに電荷・信号を保持するカメラを切り替えることにより、好適な映像を撮像しているカメラで高画質の撮影ができ、画像処理や監視能力を向上することができる。
次に、3つの撮像部を用いたステレオ撮像方法について説明する。
図10は、本発明の第6実施例に係るステレオ撮像システムを示す模式図である。図10において、1001_1は第1のCCD撮像部、1001_2は第2のCCD撮像部、1001_3は第3のCCD撮像部、1002_1は第1のCDS/AGC/AD部、1002_2は第2のCDS/AGC/AD部、1002_3は第3のCDS/AGC/AD部、1003は入力選択部、1004はカメラ信号処理部、1005はセンサ駆動信号発生部、1006はステレオ撮像制御部、1007は駆動信号加工処理部である。
ステレオ撮像システムにおいて、第1のCCD撮像部1001_1は、光電変換により撮像を行い、第1のアナログ信号を出力する。第1のCDS/AGC/AD部1002_1は、第1のCCD撮像部1001_1が出力する第1のアナログ信号に対し、相関2重サンプリングとステレオ撮像制御部1006からの制御によるゲインコントロールとAD変換を行い第1のデジタル信号を出力する。第2のCCD撮像部1001_2は、光電変換により撮像を行い、第2のアナログ信号を出力する。第2のCDS/AGC/AD部1002_2は、第2のCCD撮像部1001_2が出力する第2のアナログ信号に対し、相関2重サンプリングとステレオ撮像制御部1006からの制御によるゲインコントロールとAD変換を行い第2のデジタル信号を出力する。第3のCCD撮像部1001_3は、光電変換により撮像を行い、第3のアナログ信号を出力する。第3のCDS/AGC/AD部1002_3は、第3のCCD撮像部1001_3が出力する第3のアナログ信号に対し、相関2重サンプリングとステレオ撮像制御部1006からの制御によるゲインコントロールとAD変換を行い第3のデジタル信号を出力する。入力選択部1003は、第1のCDS/AGC/AD部1002_1が出力する第1のデジタル信号と第2のCDS/AGC/AD部1002_2が出力する第2のデジタル信号と第3のCDS/AGC/AD部1002_3が出力する第3のデジタル信号に対し、センサ駆動信号発生部1005またはステレオ撮像制御部1006からの制御信号を用いて選択処理を行い、デジタル信号を選択して出力する。カメラ信号処理部1004は、入力選択部1003が出力する選択されたデジタル信号に対し、フィルタ処理・デモザイキング処理・キャリア除去処理・エンハンス処理等のカメラ信号処理を行い、映像信号を出力する。センサ駆動信号発生部1005は、駆動または制御を行うための信号を生成し、第1のCDS/AGC/AD部1002_1と第2のCDS/AGC/AD部1002_2と第3のCDS/AGC/AD部1002_3と入力選択部1003とカメラ信号処理部1004とステレオ撮像制御部1006と駆動信号加工処理部1007に出力する。ステレオ撮像制御部1006は、第1のCDS/AGC/AD部1002_1と第2のCDS/AGC/AD部1002_2と第3のCDS/AGC/AD部1002_3と入力選択部1003とカメラ信号処理部1004とセンサ駆動信号発生部1005の制御を行う。駆動信号加工処理部1007は、センサ駆動信号発生部1005から出力される1種類の通常のCCD駆動パルスに対し、分配処理やマスク処理を行ったセンサ駆動信号を第1のCCD撮像部1001_1と第2のCCD撮像部1001_2と第3のCCD撮像部1001_3に対し出力する。さらに、駆動信号加工処理部1007は、センサ駆動信号発生部1005から出力される制御パルスに対し、分配処理やマスク処理を行った制御パルスを第1のCDS/AGC/AD部1002_1と第2のCDS/AGC/AD部1002_2と第3のCDS/AGC/AD部1002_3に出力する。
図11は、本発明の第6実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図である。図11において、2Aは露光とデータ出力タイミング、2Bはカメラ信号処理部へのデータ入力タイミングを示す。
駆動信号加工処理部1007で分配処理やマスク処理を行ったCCD駆動パルスを用いること、すなわち出力制御信号をマスクすること、により、2A:露光とデータ出力タイミングに示すように、カメラAとカメラBとカメラCで同時に露光したデータを異なるタイミングで出力可能となる。入力選択部1003では、2B:カメラ信号処理部へのデータ入力タイミングに示すように、カメラAとカメラBとカメラCから異なるタイミングで出力される出力データのタイミングに合わせて選択する信号を切り替える。このような選択する信号の切り替え処理のタイミング制御は、ステレオ撮像制御部1006からの制御信号やVD信号を用いることにより容易に実現可能である。入力選択処理部1003においてカメラAとカメラBとカメラCの信号出力タイミングに応じた選択処理を行うことにより、図11の2B:カメラ信号処理部へのデータ入力タイミングに示すように、カメラ信号処理部1004に対する入力信号を時分割で切り替えることができる。このことにより、同時露光した3つのCCD撮像部に対し、1つのカメラ信号処理手段で信号処理を行うことが可能となり、信号処理手部削減による低コスト化と、同時露光による高画質化及び撮像画像を用いて画像処理を行った場合の精度向上を実現可能である。
かように本実施例によれば、同時露光後のCCD撮像部に対する出力制御信号をマスクし信号出力タイミングをずらし、信号出力タイミングに合わせてカメラ信号処理部への入力信号を選択することにより、3つの撮像部を用いた場合においても同時露光した撮影データを1つのカメラ信号処理部でカメラ信号処理可能であり、低コスト化と、同時露光による高画質化及び撮像画像を用いて画像処理を行った場合のステレオ撮像の画像処理能力を向上させることができる。
図12は、本発明の第7実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図である。図12において、3Aは露光とデータ出力タイミング、3Bはカメラ信号処理部へのデータ入力タイミングを示す。
本発明の第6実施例に係る図11と比較して、図12ではカメラAの露光が、カメラBとカメラCと同時露光した露光A1-1だけでなく、異なるタイミングの露光A1-2で行われデータ出力されている。図12に示す方法を用いることにより、カメラAはカメラBやカメラCと比較して多くのを撮像を行うことが可能となり、カメラAの出力映像データの動解像度を向上することができる。各カメラのCCD撮像部にプログレッシブ読み出しで秒60枚または59.94枚のフレーム画像が出力可能なCCDを用いた場合、入力選択部1003で選択処理が行われるためにカメラ毎のカメラ信号処理部1004への入力のレートが低下した場合においても、カメラAにおいては、インターレース読み出しのCCDを用いた場合と同様に秒30枚または29.97枚のフレーム画像が得られることができ、NTSC等の映像信号規格との親和性がよい。
出力制御信号をマスクして垂直CCDに電荷・信号を保持している間は、ノイズの影響を受けるため、画質が劣化している場合がある。よって、露光A1-2のデータ出力タイミングは、図12の出力1に示すように露光B1のデータ出力の次とし露光A1-2のデータ出力のSNを優先しカメラAの画質の向上を図ってもよいし、図12の出力2に示すように露光C1のデータ出力の次とし露光C1のデータ出力のSNを優先しステレオ撮像画像処理能力の向上を図ってもよい。どちらの場合においても、カメラAのデータ出力タイミングに関わらず、カメラAの露光間隔を均等に行うことが可能である。
かように本実施例によれば、3つの撮像部を用いた場合においても、複数のカメラと同時露光した露光と異なるタイミングで露光した撮像データを出力することにより、特定カメラにおいて多くの撮像を行うことができ、動解像度を向上させることができる。
図13は、本発明の第8実施例に係るステレオ撮像システムの撮像部の位置関係を表す模式図である。図13において、1301は第1の撮像部α、1302は第2の撮像部β、1303は第3の撮像部γである。
図13に示すように、第1の撮像部α1301と第2の撮像部β1302のエピポーラ線をエピポーラ線1、第1の撮像部α1301と第3の撮像部γ1303のエピポーラ線をエピポーラ線2、第2の撮像部β1302と第3の撮像部γ1303のエピポーラ線をエピポーラ線3と定めた場合、エピポーラ線1とエピポーラ線2が交わる角度はθ1、エピポーラ線1とエピポーラ線3が交わる角度はθ2、エピポーラ線2とエピポーラ線3が交わる角度はθ3となる。このようなエピポーラ線を規定する際に、各撮像部の光軸が平行でない場合には、画像処理を行い補正を行ったエピポーラ線で行えばよい。
3つの撮像部を持つステレオ撮像システムでは、それぞれのエピポーラ線が交わる角度が90度に一番近い角度の角の撮像部、図13では第1の撮像部α1301と、その他の2つの撮像部、図13では第2の撮像部β1302と第3の撮像部γ1303の間で、ステレオ撮像画像処理を行うことが多い。すなわち、第1の撮像部α1301の撮影データと第2の撮像部β1302の撮影データでステレオ撮像画像処理を行い、また第1の撮像部α1301の撮影データと第3の撮像部γ1303の撮影データでステレオ撮像画像処理を行うことが多い。これは、ステレオ撮像画像処理では2つの画像間の対応点検索をエピポーラ線の方向で行うため、エピポーラ線がCCDの捜査方向と平行または直行しているほうが、処理速度、精度に関して好適であるためである。
出力制御信号をマスクして垂直CCDに電荷・信号を保持している間は、ノイズの影響を受けるため、画質が劣化している場合がある。よって、ステレオ撮像画像処理で2回データを使われる撮像部、図13では第1の撮像部α1301を、前記第6実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図11のカメラA、すなわち出力タイミングを遅らせないカメラとする。このことにより、ステレオ撮像画像処理で2回データを使われる撮像データの画質を優先することができ、ステレオ画像処理の精度を向上させることができる。
また、第7実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図12のカメラAでは撮像データを多く得られるため画面間の相関関係を用いて画像処理を行うことにより画質を向上することが可能である。よって、ステレオ撮像画像処理で2回データを使われる撮像部、図13では第1の撮像部α1301を、前記第2実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図12のカメラA、すなわち多くの撮像を行うカメラとする。このことにより、ステレオ撮像画像処理で2回データを使われる撮像データの画質を向上することができ、ステレオ画像処理の精度を向上させることができる。
かように本実施例によれば、3つの撮像部を用いた場合において、エピポーラ線が交わる角度が90度に一番近い角度の角の撮像部の出力を優先したり、エピポーラ線が交わる角度が90度に一番近い角度の角の撮像部の撮像を多く行うことにより、ステレオ画像処理の精度を向上させることができる。
図14は、本発明の第9実施例に係るステレオ撮像システムを表す模式図である。本発明の第6実施例に係るステレオ撮像システムを示す図10と比較して、画像処理部108を持つ。
図14に示すように、カメラ信号処理部104から出力された映像信号は、画像処理部108に入力され、画像処理部108では、ステレオ画像処理、例えば、前処理としてガウシアンを用いたLPF処理や、特徴点検出処理としてSobelフィルタやPrewittフィルタやKirschフィルタを用いたエッジ検出処理やラプラシアンフィルタ処理やMoravecオペレータやHarrisオペレータやSUSANオペレータを用いたコーナ検出処理や、対応点検索処理として差分絶対値和処理や正規化相互相関処理や、視差から距離を求める処理や、後処理として特異点除去処理が行われる。画像処理部108の処理結果は、ステレオ撮像制御部106に出力され、ステレオ撮像制御部106では画像処理部108の処理結果に応じてステレオ撮像部の制御が可能な構成となっている。
図15は、本発明の第9実施例に係るカメラ制御のアルゴリズムを示す図である。
前記第6実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図11のカメラAに関しては、本発明の第8実施例に示す方法で決定してもよいし、ユーザーにより指定されてもよい。画像処理部108ではカメラ制御を行うために、図15の1501で、カメラAとカメラβのエピポーラ線方向Aβの特徴量N1、例えばある強度以上のエッジの数などの演算/評価を行う。次に図15の1502では、カメラAとカメラγのエピポーラ線方向Aγの特徴量N2の演算/評価を行う。図15の1503では、1501と1502で演算した特徴量の比較を行う。エピポーラ線方向Aβの特徴量N1がエピポーラ線方向Aγの特徴量N2よりも大きい場合(N1>>N2)、図15の1504のように、カメラβを前記第1実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図11または前記第7実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図12のカメラBとする。エピポーラ線方向Aβの特徴量N1がエピポーラ線方向Aγの特徴量N2よりも小さい場合(N1<<N2)、図15の1505のように、カメラγを前記第6実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図11または前記第7実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図12のカメラBとする。出力制御信号をマスクして垂直CCDに電荷・信号を保持している間は、ノイズの影響を受けるため、画質が劣化している場合がある。よって、特徴量の多いカメラをカメラBし、垂直CCDで保持する期間を短くすることにより、特徴量の多いエピポーラ線の方向の画像処理をSN良く行うことができる。また、図15の1506に示すように、エピポーラ線の方向Aβの特徴量N1とエピポーラ線の方向Aγの特徴量N2と同程度の場合(N1≒N2)、カメラβとカメラγを交互にカメラBとしてやればよい。このことにより、どちらのエピポーラ線の方向の画像処理をSN良くおこなうことができる。図15の1504から1506に示すカメラBの選択結果は、図15の1507で画像処理部108から、ステレオ撮像制御部106に通知され、ステレオ撮像制御部106でカメラBの選択処理を駆動信号の制御を行うことにより実現すればよい。
かように本実施例によれば、各エピポーラ線の方向の特徴量を演算し、特徴量の多いエピポーラ線の方向のカメラから優先して撮像データを出力させることにより、特徴量の多いエピポーラ線の方向の画像処理をSN良く行うことができ、ステレオ撮像画像処理を用いた距離計測の精度を向上させることが可能となる。
図16は、本発明の第10実施例に係るステレオ撮像システムを表す模式図である。本発明の第9実施例に係るステレオ撮像システムを示す図14と比較して、記録部109を持つ。
図16に示すように、カメラ信号処理部104から出力された映像信号は、記録部109に入力され、記録部109では、映像信号すなわち画像データの記録を行う。記録部109で画像データの記録を行う際に、画像処理部108で行った画像処理結果を画像処理部108から記録部109に入力し、画像データとリンクして記録を行ってもよい。
図17は、本発明の第10実施例に係る記録制御のアルゴリズムを示す図である。
記録部109では、画像データの記録を行うために記録データの選択制御を行う。図17の1701では、通常時か非常時かの判定を行う。このような判定に用いる情報は、外部から入力されてもよいし、画像処理108の画像処理結果、例えば、侵入者の有無や被写体距離、を用いればよい。図17の1701の判定の結果、通常時と判定された場合においては、単一のカメラの映像、例えば一番画質のよいカメラAの映像の記録を行う。図17の1701の判定の結果、非常時と判定された場合においては、複数のカメラの映像の記録を行う。複数のカメラの映像の記録の方法としては、図17の1704に示すように全部のカメラ、すなわちカメラAとカメラBとカメラCの画像データを記録してもよいし、図17の1705に示すように全部のカメラで略等しいタイミングで露光した画像のみ記録してもよいし、図17の1706に示すようにエピポーラ線の方向の特徴量の多い組のカメラの画像を記録すればよい。このような記録方法の選択は図1703で行われ、外部入力からの情報を用いて決定してもよいし、画像処理108の画像処理結果を用いた非常事態の強弱の判定によって決定してもよい。また、各カメラの画像データの記録時には、一定の間隔で間引きを行ったデータを記録し、記録データ量や記録帯域の削減を図っても良い。このように、非常時には複数のカメラの画像データを記録することにより、後でもう一度画像処理を行うことが可能となり、通常のリアルタイムの画像処理を実現するためのアルゴリズムを用いた画像処理と異なるアルゴリズムで時間をかけて画像処理をすることができる。すなわち、リアルタイム性を優先した簡易アルゴリズムでなく、時間はかかるが高性能な画像処理アルゴリズムを用いて、画像処理を行うことができ、非常事態発生時の画像処理結果の精度、例えば被写体の大きさの精度、を向上することが可能できる。このような、記録データを用いた再度の画像処理は、本実施例に示すステレオ撮像システムでなく、画像データをPCやWSにコピーし、PCやWSで行っても良い。また、画像処理108の画像処理結果を用いて非常時の判定を行った際に、判定が間違っていた場合(例えば、犬を間違えて人間と検出し、非常時でないのに非常時と判定してしまった)においても、記録した画像データを用いてアルゴリズムの検証を行うことができるため、誤検出不具合解析に役立つことができ、長期的に見てステレオ画像処理システムの信頼性を向上させることができる。
かように本実施例によれば、非常時には複数のカメラの映像を記録することにより、後で記録した画像を用いて再度ステレオ画像処理を行うことが可能であり、より精度の高い画像処理をおこなうことができ、監視システムのセンシング手段としての好適である。
図18は、本発明の第11実施例に係るステレオ撮像システムを表す模式図である。本発明の第10実施例に係るステレオ撮像システムを示す図16と比較して、第1のCCD撮像部101_1、第2のCCD撮像部101_2、第3のCCD撮像部101_3、第1のCDS/AGC/AD部102_1、第2のCDS/AGC/AD部102_2、第3のCDS/AGC/AD部102_3のかわりに、第1の撮像部1801_1、第2の撮像部1801_2、第3の撮像部1801_3を持つ。
図18において、第1の撮像部1801_1、第2の撮像部1801_2、第3の撮像部1801_3は、CMOS型撮像素子を用いて構成されていてもよい。CMOS型撮像素子においても、各画素ごとにFDアンプをもつことにより、全画素同時にFDアンプに信号を読み出すことができ、いわゆるグローバルシャッタができ、各撮像部で略等しいタイミングで露光を行うことができる。各撮像部に対する信号読み出しののタイミングを異ならせ、FDアンプに信号を保持することにより、CMOS型撮像素子を用いた場合においても、同時露光した撮影データを1つのカメラ信号処理部でカメラ信号処理可能である。
かように本実施例によれば、撮像手段にCMOS型撮像素子を用いた場合においても、FDアンプに信号を保持することにより各撮像手段の信号出力のタイミングを異ならせ、信号出力タイミングに合わせてカメラ信号処理部への入力信号を選択することにより、同時露光した撮影データを1つのカメラ信号処理部でカメラ信号処理可能であり、低コスト化と、同時露光による高画質化及び撮像画像を用いて画像処理を行った場合のステレオ撮像の画像処理能力を向上させることができる。
以上の実施例6〜11において、3つの撮像部を用いるステレオ撮像について説明したが、これを4つ以上の撮像部を用いる場合にも適用することは可能である。また、2つの撮像部を可動に構成し(例えば回転)、3つ以上の撮像部を用いるステレオ撮像と同様の制御をすることも可能である。
本発明の第1実施例に係るステレオ撮像システムを示す模式図である。 本発明の第1実施例に係るステレオ撮像システムのCCD駆動パルスの一例を示す図である。 本発明の第1実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図である。 本発明の第1実施例に係るステレオ撮像システムの別の形態を示す模式図である。 本発明の第2実施例に係るステレオ撮像システムのCCD駆動パルスの一例を示す図である。 本発明の第3実施例に係るステレオ撮像システムを示す模式図である。 本発明の第3実施例に係るステレオ撮像システムの露光とシャッタ開閉タイミングとデータ出力タイミングの一例を示す図である。 本発明の第4実施例に係るステレオ撮像システムを示す模式図である。 本発明の第5実施例に係るステレオ撮像システムを示す模式図である。 本発明の第6実施例に係るステレオ撮像システムを示す模式図である。 本発明の第6実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図である。 本発明の第7実施例に係るステレオ撮像システムの露光と信号処理タイミングの一例を示す図である。 本発明の第8実施例に係るステレオ撮像システムの撮像部の位置関係を表す模式図である。 本発明の第9実施例に係るステレオ撮像システムを示す模式図である。 本発明の第9実施例に係るカメラ制御のアルゴリズムを示す図である。 本発明の第10実施例に係るステレオ撮像システムを示す模式図である。 本発明の第10実施例に係る記録制御のアルゴリズムを示す図である。 本発明の第11実施例に係るステレオ撮像システムを示す模式図である。
符号の説明
101_1 第1のCCD撮像部
101_2 第2のCCD撮像部
102_1 第1のCDS/AD部
102_2 第2のCDS/AD部
103 入力選択部
104 カメラ信号処理部
105 センサ駆動信号発生部
106 ステレオ撮像制御部
107_1 第1のCDS/AGC/AD部
107_2 第2のCDS/AGC/AD部
108 駆動信号加工処理部
109 シャッタ部
110 記録部
111 画像処理部
1001_1 第1のCCD撮像部
1001_2 第2のCCD撮像部
1001_3 第3のCCD撮像部
1002_1 第1のCDS/AGC/AD部
1002_2 第2のCDS/AGC/AD部
1002_3 第3のCDS/AGC/AD部
1003 入力選択部
1004 カメラ信号処理部
1005 センサ駆動信号発生部
1006 ステレオ撮像制御部
1007 駆動信号加工処理部
1008 画像処理部
1009 記録部
1301 第1の撮像部α
1302 第2の撮像部β
1303 第3の撮像部γ
1801_1 第1の撮像部
1801_2 第2の撮像部
1801_3 第3の撮像部

Claims (22)

  1. 複数の撮像手段と、
    該複数の撮像手段を駆動する駆動手段と、
    該複数の撮像手段の出力データをカメラ信号処理するカメラ信号処理手段と、
    該複数の撮像手段が略等しいタイミングで露光し、異なるタイミングでデータ出力するように該駆動手段を制御する制御手段と、
    を備えることを特徴とする撮像装置。
  2. 撮像を行う第1のCCD撮像手段と、
    該第1のCCD撮像手段が出力する信号に対し相関2重サンプリングとAD変換を行いデジタル信号を出力する第1のCDS/AD手段と、
    撮像を行う第2のCCD撮像手段と、
    該第2のCCD撮像手段が出力する信号に対し相関2重サンプリングとAD変換を行いデジタル信号を出力する第2のCDS/AD手段と、
    該第1のCDS/AD手段と該第2のCDS/AD手段が出力する各々のデジタル信号の選択処理を行い片方のデジタル信号を選択して出力する入力選択手段と、
    該入力選択手段が出力するデジタル信号に対しカメラ信号処理を行い映像信号を出力するカメラ信号処理手段と、
    該第1のCCD撮像手段と該第1のCDS/AD手段と該第2のCCD撮像手段と該第2のCDS/AD手段と該入力選択手段と該カメラ信号処理手段とステレオ撮像制御手段に駆動または制御を行うための信号を生成し出力するセンサ駆動パルス発生手段と、
    該入力選択手段と該カメラ信号処理手段と該センサ駆動パルス発生手段の制御を行うステレオ撮像制御手段と、
    を備え、
    前記第2のCCD撮像手段を駆動するための前記センサ駆動パルス手段が出力する読み出し信号と垂直転送信号をマスクし垂直CCDに信号を保持することにより、前記第2のCCD撮像手段の撮像データの出力タイミングを遅らせること、
    を特徴とする撮像装置
  3. 撮像を行う第1のCCD撮像手段と、
    該第1のCCD撮像手段が出力する信号に対し相関2重サンプリングとゲインコントロールとAD変換を行いデジタル信号を出力する第1のCDS/AGC/AD手段と、
    撮像を行う第2のCCD撮像手段と、
    該第2のCCD撮像手段が出力する信号に対し相関2重サンプリングとゲインコントロールとAD変換を行いデジタル信号を出力する第2のCDS/AGC/AD手段と、
    該第1のCDS/AGC/AD手段と該第2のCDS/AGC/AD手段が出力する各々のデジタル信号の選択処理を行い片方のデジタル信号を選択して出力する入力選択手段と、
    該入力選択手段が出力するデジタル信号に対しカメラ信号処理を行い映像信号を出力するカメラ信号処理手段と、
    駆動信号加工処理手段と該第1のCDS/AGC/AD手段と該第2のCDS/AGC/AD手段と該入力選択手段と該カメラ信号処理手段とステレオ撮像制御手段に駆動または制御を行うための信号を生成し出力するセンサ駆動パルス発生手段と、
    該センサ駆動パルス発生手段が出力するセンサ駆動パルスとCDS/AGC/AD手段制御パルスに対し分配やマスク処理を行う駆動信号加工処理手段と、
    該第1のCDS/AGC/AD手段と該第2のCDS/AGC/AD手段と該入力選択手段と該カメラ信号処理手段と該センサ駆動パルス発生手段の制御を行うステレオ撮像制御手段と、
    を備え、
    前記センサ駆動パルス発生手段が出力するセンサ駆動パルスに対し、駆動信号加工処理手段で前記第2のCCD撮像手段に出力する読み出し信号と垂直転送信号をマスクし垂直CCDに信号を保持することにより、撮像データの出力タイミングを異ならせること、
    を特徴とする撮像装置
  4. 請求項2または3に記載の撮像装置において、
    前記センサ駆動パルス手段が出力する読み出し信号と垂直転送信号をマスクする期間は、
    前記信号選択手段が前記第1のCDS/AD手段または前記第1のCDS/AGC/AD手段が出力する信号を選択している期間であること、
    を特徴とする撮像装置
  5. 請求項2乃至4のいずれかに記載の撮像装置において、
    前記センサ駆動パルス手段が出力する読み出し信号と垂直転送信号をマスクする期間に、
    前記センサ駆動パルス発生手段が前記第2のCDS/AD手段または前記第2のCDS/AGC/AD手段に対して出力する黒の基準レベルサンプリング制御信号もマスクすること、
    を特徴とする撮像装置
  6. 請求項2乃至5のいずれかに記載の撮像装置において、
    前記センサ駆動パルス手段が出力する読み出し信号と垂直転送信号をマスクする期間に、
    前記センサ駆動パルス手段が第2のCCD撮像手段に出力する水平転送信号とリセットゲートクロック信号と、前記センサ駆動パルス発生手段が前記第2のCDS/AD手段または前記第2のCDS/AGC/AD手段に対して出力するクロック信号とプリブランキング信号と、をマスクすること、
    を特徴とする撮像装置
  7. 請求項2乃至6のいずれかに記載の撮像装置において、
    前記撮像手段は光の遮光を行うシャッタ手段を有し、
    前記センサ駆動パルス手段が出力する読み出し信号と垂直転送信号をマスクする期間に、
    該シャッタ手段を用いて第2のCCD撮像手段に対する入射光を遮光すること、
    を特徴とする撮像装置
  8. 請求項2乃至7のいずれかに記載の撮像装置において、
    前記撮像手段は映像データの記録を行う記録手段を有し、
    該記録手段で前記カメラ信号処理手段が出力する映像信号を記録する場合に、
    前記第1のCCD撮像手段が撮影した映像を優先して記録すること、
    を特徴とする撮像装置
  9. 請求項2乃至8のいずれかに記載の撮像装置において、
    前記撮像手段は画像処理を行う画像処理手段を有し、
    該画像処理手段の画像処理結果により、
    前記センサ駆動パルス手段が出力する読み出し信号と垂直転送信号をマスクする対象を前記第1のCCD撮像手段と前記第2のCCD撮像手段で切り替えること、
    を特徴とする撮像装置
  10. 請求項5乃至8のいずれかに記載の撮像装置において、
    前記撮像手段は画像処理を行う画像処理手段を有し、
    該画像処理手段の画像処理結果により、
    前記センサ駆動パルス手段が出力する黒の基準レベルサンプリング制御信号をマスクする対象を前記第1のCDS/AD手段または前記第1のCDS/AGC/AD手段と前記第2のCDS/AD手段または前記第2のCDS/AGC/AD手段で切り替えること、
    を特徴とする撮像装置
  11. 請求項6乃至8のいずれかに記載の撮像装置において、
    前記撮像手段は画像処理を行う画像処理手段を有し、
    該画像処理手段の画像処理結果により、
    前記センサ駆動パルス手段が出力する水平転送信号とリセットゲートクロック信号をマスクする対象を前記第1のCCD撮像手段と前記第2のCCD撮像手段で切り替えること、
    前記センサ駆動パルス手段が出力するクロック信号とプリブランキング信号をマスクする対象を前記第1のCDS/AD手段または前記第1のCDS/AGC/AD手段と前記第2のCDS/AD手段または前記第2のCDS/AGC/AD手段で切り替えること、
    を特徴とする撮像装置
  12. 請求項7乃至8のいずれかに記載の撮像装置において、
    前記撮像手段は画像処理を行う画像処理手段を有し、
    該画像処理手段の画像処理結果により、
    前記シャッタ手段が入射光を遮光する対象を前記第1のCCD撮像手段と前記第2のCCD撮像手段で切り替えること、
    を特徴とする撮像装置
  13. 請求項8記載の撮像装置において、
    前記撮像手段は画像処理を行う画像処理手段を有し、
    該画像処理手段の画像処理結果により、
    前記記録手段が優先して記録する映像信号を前記第1のCCD撮像手段が撮影した映像と前記第2のCCD撮像手段が撮影した映像で切り替えること、
    を特徴とする撮像装置
  14. 撮像を行う複数の撮像手段と、
    該撮像手段の駆動を行うセンサ駆動信号発生手段と、
    該撮像手段が出力する撮像データのカメラ信号処理を行うカメラ信号処理手段と、
    を備え、
    前記複数の撮像手段が同時に露光を行い、前記センサ駆動信号発生手段が各々の前記撮像手段からの撮像データの出力タイミングを異ならせることにより、
    複数の撮像手段が出力する映像データを撮像手段より少ない数のカメラ信号処理手段でカメラ信号処理を行うこと、
    を特徴とする撮像装置
  15. 撮像を行う第1のCCD撮像手段と、
    該第1のCCD撮像手段が出力する信号に対し相関2重サンプリングとゲインコントロールとAD変換を行いデジタル信号を出力する第1のCDS/AGC/AD手段と、
    撮像を行う第2のCCD撮像手段と、
    該第2のCCD撮像手段が出力する信号に対し相関2重サンプリングとゲインコントロールとAD変換を行いデジタル信号を出力する第2のCDS/AGC/AD手段と、
    撮像を行う第3のCCD撮像手段と、
    該第3のCCD撮像手段が出力する信号に対し相関2重サンプリングとゲインコントロールとAD変換を行いデジタル信号を出力する第3のCDS/AGC/AD手段と、
    該第1のCDS/AGC/AD手段と該第2のCDS/AGC/AD手段と該第3のCDS/AGC/AD手段が出力する各々のデジタル信号の選択処理を行いいずれかのデジタル信号を選択して出力する入力選択手段と、
    該入力選択手段が出力するデジタル信号に対しカメラ信号処理を行い映像信号を出力するカメラ信号処理手段と、
    駆動信号加工処理手段と該第1のCDS/AGC/AD手段と該第2のCDS/AGC/AD手段と該第3のCDS/AGC/AD手段と該入力選択手段と該カメラ信号処理手段とステレオ撮像制御手段に駆動または制御を行うための信号を生成し出力するセンサ駆動パルス発生手段と、
    該センサ駆動パルス発生手段が出力するセンサ駆動パルスとCDS/AGC/AD手段制御パルスに対し分配やマスク処理を行う駆動信号加工処理手段と、
    該第1のCDS/AGC/AD手段と該第2のCDS/AGC/AD手段と該第3のCDS/AGC/AD手段と該入力選択手段と該カメラ信号処理手段と該センサ駆動パルス発生手段の制御を行うステレオ撮像制御手段と、
    を備え、
    前記センサ駆動パルス発生手段が出力するセンサ駆動パルスに対し、駆動信号加工処理手段で前記第2のCCD撮像手段と前記第3のCCD撮像手段に出力する出力制御信号をマスクし垂直CCDに信号を保持することにより、撮像データの出力タイミングを異ならせること、
    を特徴とする撮像装置
  16. 撮像を行う第1のCCD撮像手段と、
    該第1のCCD撮像手段が出力する信号に対し相関2重サンプリングとゲインコントロールとAD変換を行いデジタル信号を出力する第1のCDS/AGC/AD手段と、
    撮像を行う第2のCCD撮像手段と、
    該第2のCCD撮像手段が出力する信号に対し相関2重サンプリングとゲインコントロールとAD変換を行いデジタル信号を出力する第2のCDS/AGC/AD手段と、
    撮像を行う第3のCCD撮像手段と、
    該第3のCCD撮像手段が出力する信号に対し相関2重サンプリングとゲインコントロールとAD変換を行いデジタル信号を出力する第3のCDS/AGC/AD手段と、
    該第1のCDS/AGC/AD手段と該第2のCDS/AGC/AD手段と該第3のCDS/AGC/AD手段が出力する各々のデジタル信号の選択処理を行いいずれかのデジタル信号を選択して出力する入力選択手段と、
    該入力選択手段が出力するデジタル信号に対しカメラ信号処理を行い映像信号を出力するカメラ信号処理手段と、
    駆動信号加工処理手段と該第1のCDS/AGC/AD手段と該第2のCDS/AGC/AD手段と該第3のCDS/AGC/AD手段と該入力選択手段と該カメラ信号処理手段とステレオ撮像制御手段に駆動または制御を行うための信号を生成し出力するセンサ駆動パルス発生手段と、
    該センサ駆動パルス発生手段が出力するセンサ駆動パルスとCDS/AGC/AD手段制御パルスに対し分配やマスク処理を行う駆動信号加工処理手段と、
    該第1のCDS/AGC/AD手段と該第2のCDS/AGC/AD手段と該第3のCDS/AGC/AD手段と該入力選択手段と該カメラ信号処理手段と該センサ駆動パルス発生手段の制御を行うステレオ撮像制御手段と、
    を備え、
    該第1のCCD撮像手段と該第2のCCD撮像手段と該第3のCCD撮像手段が略等しいタイミングで露光し、前記センサ駆動パルス発生手段が出力するセンサ駆動パルスに対し、駆動信号加工処理手段で前記第2のCCD撮像手段と前記第3のCCD撮像手段に出力する出力制御信号をマスクし垂直CCDに信号を保持することにより、撮像データの出力タイミングを異ならせる場合に、
    上記略等しいタイミングと異なるタイミングで露光した撮像データも出力すること、
    を特徴とする撮像装置
  17. 請求項15記載の撮像装置において、
    撮像データの出力タイミングを遅らせるのは、
    該第1のCCD撮像手段と該第2のCCD撮像手段と該第3のCCD撮像手段のそれぞれのエピポーラ線が交わる角度が直角に近い角以外の撮像手段であること、
    を特徴とする撮像装置
  18. 請求項16記載の撮像装置において、
    異なるタイミングで露光を行うのは、
    該第1のCCD撮像手段と該第2のCCD撮像手段と該第3のCCD撮像手段のそれぞれのエピポーラ線が交わる角度が直角に近い角の撮像手段であること、
    を特徴とする撮像装置
  19. 請求項15乃至18のいずれかに記載の撮像装置において、
    前記カメラ信号処理手段が出力する映像データの画像処理を行う画像処理手段を有し、
    該画像処理手段で、異なるタイミングで露光を行う撮像手段の映像データの各エピポーラ線の方向の特徴量を演算し、特徴量の多いエピポーラ線の方向にある撮像手段から優先して撮像データを出力させること、
    を特徴とする撮像装置
  20. 請求項15乃至19のいずれかに記載の撮像装置において、
    前記撮像装置は映像データの記録を行う記録手段を有し、
    該記録手段で前記カメラ信号処理手段が出力する映像信号を記録する場合に、
    通常時は異なるタイミングで露光を行う撮像手段の映像データの記録を行い、非常時にはすべての撮像手段の映像データを記録すること、
    を特徴とする撮像装置
  21. 請求項15乃至20のいずれかに記載の撮像装置において、
    撮像手段に、CMOS型撮像手段を用いること、
    を特徴とする撮像装置
  22. 請求項1において、
    前記複数の撮像手段から異なるタイミングで出力される信号に対してカメラ信号処理をする共通の信号処理手段を備えること
    を特徴とする撮像装置。
JP2005291900A 2005-10-05 2005-10-05 撮像装置 Active JP4899402B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2005291900A JP4899402B2 (ja) 2005-10-05 2005-10-05 撮像装置
CN2006101437745A CN1945417B (zh) 2005-10-05 2006-09-30 摄像装置
US11/543,354 US7773140B2 (en) 2005-10-05 2006-10-04 Stereo image-pickup apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005291900A JP4899402B2 (ja) 2005-10-05 2005-10-05 撮像装置

Publications (2)

Publication Number Publication Date
JP2007104349A true JP2007104349A (ja) 2007-04-19
JP4899402B2 JP4899402B2 (ja) 2012-03-21

Family

ID=37901515

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005291900A Active JP4899402B2 (ja) 2005-10-05 2005-10-05 撮像装置

Country Status (3)

Country Link
US (1) US7773140B2 (ja)
JP (1) JP4899402B2 (ja)
CN (1) CN1945417B (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011525075A (ja) * 2008-06-10 2011-09-08 マスターイメージ 3ディー アジア リミテッド ライアビリティ カンパニー 移動機器用立体画像生成チップ及びこれを用いた立体画像表示方法
JP2012505566A (ja) * 2008-09-11 2012-03-01 アンソニー アゾバルディ,マーク 同期化された映像データを生成及び送信するための方法及び装置
WO2012121108A1 (ja) * 2011-03-04 2012-09-13 日立オートモティブシステムズ株式会社 車載カメラ装置
KR20190013728A (ko) * 2016-05-27 2019-02-11 소니 세미컨덕터 솔루션즈 가부시키가이샤 처리 장치, 화상 센서 및 시스템

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006131967A1 (ja) * 2005-06-08 2006-12-14 Fujitsu Limited 画像処理装置
US7995857B2 (en) * 2007-09-03 2011-08-09 Himax Technologies Limited Method and apparatus utilizing step-wise gain control for image processing
CN101571620B (zh) * 2008-04-30 2011-11-02 联想(北京)有限公司 调节摄像单元的方法和设备
CN101959022B (zh) * 2009-07-17 2012-11-28 深圳泰山在线科技有限公司 一种同步电路和摄像装置及其同步曝光控制方法
JP5503438B2 (ja) * 2009-07-21 2014-05-28 富士フイルム株式会社 3次元画像表示装置及び3次元画像表示方法
JP5415170B2 (ja) * 2009-07-21 2014-02-12 富士フイルム株式会社 複眼撮像装置
JP4957850B2 (ja) * 2010-02-04 2012-06-20 カシオ計算機株式会社 撮像装置、警告方法、および、プログラム
FR2967324B1 (fr) * 2010-11-05 2016-11-04 Transvideo Procede et dispositif de controle du dephasage entre cameras stereoscopiques
JP5825932B2 (ja) * 2011-08-26 2015-12-02 キヤノン株式会社 撮像装置及びその制御方法、プログラム、及び記録媒体
CN103679129A (zh) * 2012-09-21 2014-03-26 中兴通讯股份有限公司 一种图像中的目标物体识别方法及装置
CN103957361B (zh) * 2014-03-06 2017-07-14 浙江宇视科技有限公司 一种监控相机的曝光方法及其装置
JP6752679B2 (ja) 2016-10-15 2020-09-09 キヤノン株式会社 撮像システム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0193981A (ja) * 1987-10-05 1989-04-12 Sharp Corp 立体映像システム撮像装置
JPH11328413A (ja) * 1998-05-14 1999-11-30 Fuji Heavy Ind Ltd ステレオ画像処理システム
JP2002084466A (ja) * 2000-09-08 2002-03-22 Mitsubishi Electric Corp 撮像装置および自動レベル調整方法
JP2004028727A (ja) * 2002-06-25 2004-01-29 Fuji Heavy Ind Ltd 監視システムおよび監視方法、当該監視システムにおける距離補正装置および距離補正方法
JP2005086219A (ja) * 2003-09-04 2005-03-31 Fuji Photo Film Co Ltd デジタルカメラ及び撮影制御方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3321904B2 (ja) 1993-06-16 2002-09-09 株式会社日立製作所 撮像装置
US20020113865A1 (en) * 1997-09-02 2002-08-22 Kotaro Yano Image processing method and apparatus
JP3830689B2 (ja) 1999-05-25 2006-10-04 三菱電機株式会社 ステレオカメラ
CN1441314A (zh) * 2002-02-25 2003-09-10 邓兴峰 多镜头数码立体相机
AU2003221143A1 (en) * 2003-03-20 2004-10-11 Seijiro Tomita Stereoscopic video photographing/displaying system
JP4497912B2 (ja) * 2003-12-17 2010-07-07 富士フイルム株式会社 カメラ及びカメラのズーム制御方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0193981A (ja) * 1987-10-05 1989-04-12 Sharp Corp 立体映像システム撮像装置
JPH11328413A (ja) * 1998-05-14 1999-11-30 Fuji Heavy Ind Ltd ステレオ画像処理システム
JP2002084466A (ja) * 2000-09-08 2002-03-22 Mitsubishi Electric Corp 撮像装置および自動レベル調整方法
JP2004028727A (ja) * 2002-06-25 2004-01-29 Fuji Heavy Ind Ltd 監視システムおよび監視方法、当該監視システムにおける距離補正装置および距離補正方法
JP2005086219A (ja) * 2003-09-04 2005-03-31 Fuji Photo Film Co Ltd デジタルカメラ及び撮影制御方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011525075A (ja) * 2008-06-10 2011-09-08 マスターイメージ 3ディー アジア リミテッド ライアビリティ カンパニー 移動機器用立体画像生成チップ及びこれを用いた立体画像表示方法
JP2012505566A (ja) * 2008-09-11 2012-03-01 アンソニー アゾバルディ,マーク 同期化された映像データを生成及び送信するための方法及び装置
US8654251B2 (en) 2008-09-11 2014-02-18 University Of Malta Method and apparatus for generating and transmitting synchronized video data
WO2012121108A1 (ja) * 2011-03-04 2012-09-13 日立オートモティブシステムズ株式会社 車載カメラ装置
JP2012186574A (ja) * 2011-03-04 2012-09-27 Hitachi Automotive Systems Ltd 車載カメラ装置
KR20190013728A (ko) * 2016-05-27 2019-02-11 소니 세미컨덕터 솔루션즈 가부시키가이샤 처리 장치, 화상 센서 및 시스템
KR102343629B1 (ko) * 2016-05-27 2021-12-28 소니 세미컨덕터 솔루션즈 가부시키가이샤 처리 장치, 화상 센서 및 시스템
US11252305B2 (en) 2016-05-27 2022-02-15 Sony Semiconductor Solutions Corporation Processing apparatus, image device and system with image data via single common data bus

Also Published As

Publication number Publication date
JP4899402B2 (ja) 2012-03-21
CN1945417A (zh) 2007-04-11
US7773140B2 (en) 2010-08-10
CN1945417B (zh) 2010-09-15
US20070076112A1 (en) 2007-04-05

Similar Documents

Publication Publication Date Title
JP4899402B2 (ja) 撮像装置
US9160934B2 (en) Image capturing apparatus obtaining high-exposure and low-exposure images, and method for controlling the same
JP5342969B2 (ja) 撮像装置及び撮像方法
JP5215262B2 (ja) 撮像装置
KR101709984B1 (ko) 움직임 검출용 고체촬영장치 및 움직임 검출 시스템
US8223235B2 (en) Digital imager with dual rolling shutters
US8558915B2 (en) Photographing apparatus and method
KR20180121879A (ko) 촬상 제어 장치, 및 촬상 제어 방법, 및 촬상 장치
JP2010074584A (ja) 撮像装置および撮像方法
JP2015169722A (ja) 撮像装置
US20100194916A1 (en) Image capture apparatus, method of controlling the same, and program
JP2010062639A (ja) 撮像装置
JP2009017459A (ja) Ccd型固体撮像素子及びその駆動方法並びに撮像装置
JP5452269B2 (ja) 撮像装置
JP4724400B2 (ja) 撮像装置
JP4770262B2 (ja) 撮像装置
JP2008283477A (ja) 画像処理装置及び画像処理方法
JP2007028236A (ja) 撮像装置
JP2010081422A (ja) 撮影装置
US20150085172A1 (en) Image capturing apparatus and control method thereof
WO2019216029A1 (ja) 撮像装置、電子機器および駆動方法
JP2011082921A (ja) 撮像装置及び撮像システム
JP5726244B2 (ja) 撮像装置及び撮像方法
JP2004274533A (ja) 動き検出装置、動き検出方法および撮像装置
JP2020068391A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080409

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100803

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100921

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111206

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111219

R151 Written notification of patent or utility model registration

Ref document number: 4899402

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150113

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250