JP2008098976A - 固体撮像素子 - Google Patents

固体撮像素子 Download PDF

Info

Publication number
JP2008098976A
JP2008098976A JP2006278446A JP2006278446A JP2008098976A JP 2008098976 A JP2008098976 A JP 2008098976A JP 2006278446 A JP2006278446 A JP 2006278446A JP 2006278446 A JP2006278446 A JP 2006278446A JP 2008098976 A JP2008098976 A JP 2008098976A
Authority
JP
Japan
Prior art keywords
solid
distance
state imaging
imaging device
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006278446A
Other languages
English (en)
Other versions
JP5204963B2 (ja
Inventor
Takashi Kawada
任史 河田
Michinori Ichikawa
道教 市川
Fumio Kubo
文雄 久保
Yutaka Ishiyama
豊 石山
Ryohei Ikeno
良平 池野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Stanley Electric Co Ltd
Original Assignee
Stanley Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Stanley Electric Co Ltd filed Critical Stanley Electric Co Ltd
Priority to JP2006278446A priority Critical patent/JP5204963B2/ja
Priority to US11/867,121 priority patent/US8218024B2/en
Publication of JP2008098976A publication Critical patent/JP2008098976A/ja
Application granted granted Critical
Publication of JP5204963B2 publication Critical patent/JP5204963B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S11/00Systems for determining distance or velocity not using reflection or reradiation
    • G01S11/12Systems for determining distance or velocity not using reflection or reradiation using electromagnetic waves other than radio waves
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Abstract

【課題】物体の動きとその距離との双方を検出することを可能にするとともに、簡潔な構成によりコストの低減を図ることを可能にした固体撮像素子を提供する。
【解決手段】物体を撮像する単一の撮像面を備えた固体撮像素子であって、上記撮像面が、物体までの距離を検出する距離検出機能を担うために特化された距離検出エリアと、物体の動きを検出する動き検出機能を担うために特化された動き検出エリアと、外部と通信する通信機能を担うために特化された光通信エリアとに領域分割されている。
【選択図】 図1

Description

本発明は、固体撮像素子に関し、さらに詳細には、移動物体の検出などに用いて好適な固体撮像素子に関する。
従来、移動している物体(本明細書においては、単に「移動物体」と適宜に称する。)の動き(動きの方向およびその速度)を検出する手法としては、例えば、特許文献1として提示する特開2003−67752号公報や特許文献2として提示する特開2002−314989号公報などに開示されているように、CCDカメラなどの撮像手段によって撮像された画像データをメモリに記憶し、演算回路によってメモリに記憶した現在の画像データと過去の画像データとのマッチングを行い、そのマッチングの結果を評価することにより移動物体の動き、即ち、動きの方向およびその速度を検出するという手法が知られている。
一方、移動物体などの各種の物体までの距離計測の手法としては、例えば、特許文献3として提示する特開2005−182137号公報や特許文献4として提示する特開2000−75030号公報などに開示されているように、ミリ波レーダーやレーザーレーダーなどのシステムを用いて、レーザーなどの光源を検出したエリア内を走査させ、その反射光を検出することで距離を測定するという手法が知られている。

即ち、従来の技術によれば、物体の動きとその距離との双方を検出するためには、物体の動きを検出するためのシステムとその距離を検出するためのシステムとをそれぞれ別々に用意する必要があるため、システム全体の規模が大型化するとともに、コスト高になるという問題点があった。
また、距離の検出のためにレーザーレーダーを用いる場合には、レーザーをスキャンさせる必要があるため、こうしたスキャンを実現するための機構も必要になり、装置構成がなお一層複雑化するという問題点もあった。
特開2003−67752号公報 特開2002−314989号公報 特開2005−182137号公報 特開2000−75030号公報
本発明は、従来の技術の有する上記したような種々の問題点に鑑みてなされたものであり、その目的とするところは、物体の動きとその距離との双方を検出することを可能にするとともに、簡潔な構成によりコストの低減を図ることを可能にした固体撮像素子を提供しようとするものである。
上記目的を達成するために、本発明は、単一の固体撮像素子における単一の撮像面内に、移動物体などの各種の物体の距離を測定するために用いる距離検出エリアと、移動物体などの各種の物体の動きを測定するために用いる動き検出エリアとを設けるようにしたものである。
また、本発明は、単一の固体撮像素子における単一の撮像面内に、上記した距離検出エリアと動き検出エリアとに加えて、さらに光通信のために用いる光通信エリアを設けるようにしたものである。
即ち、本発明による固体撮像素子においては、画像情報の取得は全撮像領域、即ち全画面(全画素)を対象として行うが、光を受光して距離計測に用いるデータの生成および出力は距離検出エリアが行い、光を受光して動き検出に用いるデータの生成および出力は動き検出エリアが行い、光を受光して光通信に用いるデータの生成および出力は光通信エリアが行うというように、それぞれ分割された各撮像領域毎にそれぞれの機能を実現する。
こうした本発明によれば、単一の撮像面の固体撮像素子を用いることにより、物体の距離とその動きとの双方を同時に検出することが可能となる。
上記したように、本発明は従来の技術とは異なり、物体の動きを検出するための要素と物体の距離を検出するための要素とが別体とはならず一体化されているので、構成が簡潔になりコストの低減を図ることができる。
さらに、上記したように、本発明においては、物体の動きを検出するための要素と物体の距離を検出するための要素とが一体化されているので、光軸調整などの必要が無く取付が容易である。なお、物体の動きを検出するための要素と物体の距離を検出するための要素とが別体になっている場合には、それぞれの位置合わせが必要となる。
そして、こうした本発明による固体撮像素子を適宜に組み合わせて用いることにより、自動車、ロボットあるいは防犯システムなどの各種の分野において、物体の動きおよびその距離の検出や光通信を低コストで実現することができるようになる。

即ち、本発明のうち請求項1に記載の発明は、物体を撮像する単一の撮像面を備えた固体撮像素子であって、上記撮像面が、物体までの距離を検出する距離検出機能を担うために特化された距離検出エリアと、物体の動きを検出する動き検出機能を担うために特化された動き検出エリアとに領域分割されたものである。
また、本発明のうち請求項2に記載の発明は、物体を撮像する単一の撮像面を備えた固体撮像素子であって、上記撮像面が、物体までの距離を検出する距離検出機能を担うために特化された距離検出エリアと、物体の動きを検出する動き検出機能を担うために特化された動き検出エリアと、外部と通信する通信機能を担うために特化された光通信エリアとに領域分割されたものである。
また、本発明のうち請求項3に記載の発明は、本発明のうち請求項1または2のいずれか1項に記載の発明において、上記距離検出エリアの画素が、上記他のエリアの画素よりも大きいようにしたものである。
また、本発明のうち請求項4に記載の発明は、本発明のうち請求項1、2または3のいずれか1項に記載の発明において、上記距離検出エリアと上記距離検出エリアと上記光通信エリアとは、画像情報を取得するようにしたものである。
本発明は、以上説明したように構成されているので、物体の動きとその距離との双方を検出することが可能になるとともに、簡潔な構成によりコストの低減を図ることが可能になるという優れた効果を奏する。
以下、添付の図面を参照しながら、本発明による固体撮像素子の実施の形態の一例を詳細に説明するものとする。

図1には、本発明の実施の形態の一例による固体撮像素子の撮像面の配置構成説明図が示されている。
この本発明による固体撮像素子10は、従来の固体撮像素子の撮像面が単一の撮像領域よりなるものであるのに対して、単一の撮像面10aの撮像領域が分割されていて、撮像面10aが複数の撮像領域により構成されている点において、従来の固体撮像素子とは異なっている。
即ち、固体撮像素子10の撮像面10aは、図1において撮像面10aの左方側領域に配置されるとともに移動物体などの各種の物体までの距離を検出する距離検出機能を担うために特化された距離検出エリア12と、図1において撮像面10aの右方側領域に配置されるとともに移動物体などの各種の物体の動きを検出する動き検出機能ならびに通信機能を担うために特化された動き検出・通信エリア14とに領域分割されている。
つまり、この固体撮像素子10は、撮像面10aを単に領域毎に分割して使用するのではなく、その設計段階から撮像面10aの領域毎に、それぞれの領域に担当させる機能に特化した設計を行って構成するようになされたものである。

ここで、撮像面10aは矩形形状を備えており、横方向に長いサイズ、例えば、縦横比が「4:3」程度に設定されている。
距離検出エリア12は、上記したように図1において撮像面10aの左方側領域に位置し、その大きさは撮像面10a全体の1/4〜1/3程度の面積を占めている。
この距離検出エリア12は、光を受光して距離計測に用いるデータ(後述するように、この実施の形態においては、距離データである。)を生成して出力する。
動き検出・通信エリア14は、図1において撮像面10aの右方側領域に位置し、撮像面10aにおける距離検出エリア12以外の領域を占めている。この距離検出エリア12は、画像の取得も可能である。
この動き検出・通信エリア14は、光を受光して動き検出に用いるデータ(後述するように、この実施の形態においては、フローデータ(ベクトルデータ)である。)を生成して出力する。
また、動き検出・通信エリア14は、動き検出機能の実行と同時に、通信用データの受光部として用いられるものであって、画像の取得も可能である。

以上の構成において、この固体撮像素子10によれば、単一の固体撮像素子10を用いて撮像を行うことによって、固体撮像素子10の距離検出エリア12と動き検出・通信エリア14とがそれぞれ光を受光すると、距離検出エリア12は距離計測に用いる距離データを生成して出力し、一方、動き検出・通信エリア14は動き検出に用いるフローデータを生成して出力する。
即ち、固体撮像素子10により物体を撮像することによって、物体に関する距離検出と動き検出とを同時に行うことができるようになり、距離検出機能と動き検出機能との2つの機能を単一の固体撮像素子10によって実現できる。
また、動き検出・通信エリア14は、通信用データを受光するとともに画像の取得も行う。

次に、図2には、本発明の実施の形態の他の例による固体撮像素子の撮像面の配置構成説明図が示されている。
なお、上記した固体撮像素子10の構成と同一または相当する構成には、固体撮像素子10において用いた符号と同一の符号を付して示すことにより、その構成ならびに作用の詳細な説明は省略する。
この本発明による固体撮像素子20は、単一の撮像面20aが、距離検出エリア12と動き検出・通信エリア14とを備えるとともに、距離検出エリア12と動き検出・通信エリア14との上下位置に外部と通信する通信機能を担うために特化された光通信エリア22を備えている点において、固体撮像素子10と異なっている。
より詳細には、光通信エリア22は、距離検出エリア12と動き検出・通信エリア14との上方位置と下方位置とにそれぞれ設けられており、撮像面20aの横方向全幅にわたって配置されている。
この光通信エリア22は、光を受光して光通信に用いるデータ(後述するように、この実施の形態においては、受信データである。)を生成して出力する。
また、光通信エリア22は、光通信機能の実行と同時に、画像の取得も可能である。

以上の構成において、この固体撮像素子20によれば、単一の固体撮像素子20を用いて撮像を行うことによって、固体撮像素子20の距離検出エリア12と動き検出・通信エリア14と光通信エリア22とがそれぞれ光を受光すると、距離検出エリア12は距離計測に用いる距離データを生成して出力し、一方、動き検出・通信エリア14は動き検出に用いるフローデータを生成して出力し、さらに、光通信エリア22は光通信に用いる受信データを生成して出力する。
即ち、固体撮像素子20により物体を撮像することによって、物体に関する距離検出と動き検出とを同時に行うことができるようになるとともに、これらと同時に外部との通信も行うことができ、距離検出機能と動き検出機能と通信機能との3つの機能を単一の固体撮像素子20によって実現できる。また、光通信エリア22は、画像の取得も行う。

ここで、距離検出エリア12は、具体的には、例えば、TOF(Time Of Flight:飛行時間型測定)法により距離計測を実施することができるように構成すればよく、特開2005−295381号公報に開示されたような素子構造を用いることが可能である。
なお、TOF法とは、光源から測定対象物へ照射された光の反射波を受光したとき、その光の到達時間を計測することで、測定対象物までの距離を求める手法である。距離は光の飛行時間に依存するため、時間を計測することで距離の計算が可能となる。
TOF法では、具体的には、光源たる発光部として、例えば、発光デバイス(LED、レーザー、SLDなど)の高速パルス変調が可能なものを用いるが、距離検出エリア12は、発光部から測定対象物へ照射された光の反射光を受光し、その受光に基づいて距離計測に用いる距離データを生成して演算回路へ出力し、演算回路がTOF法に基づく処理を行うことになる(図4を参照しながら後述するセンサシステム100を参照する。)。
また、距離検出エリア12は、反射光の検出効率の向上および高速スキャンが必要となるため、距離検出エリア12の解像度は、他のエリアよりも荒いものとなる。

次に、動き検出・通信エリア14は、具体的には、例えば、オプティカルフローによる動き検出を実施することができるように構成すればよい。
従来より動き検出に際しては、一般的にオプティカルフローが用いられている。即ち、オプティカルフローは既知の技術であり、通常の固体撮像素子で撮像した映像を過去のデータとの比較を行うことで検出することが可能である。
より詳細には、オプティカルフローとは、時間的に連続する画像の中での物体の動きをベクトルで表現したものである。具体的には、ある時間tの特徴点を抽出し、時間tより時間が経過したdt時間後にその特徴点がどの位置に動いているかを検出し、特徴点の移動方向と移動距離とをベクトルとして検出し、その検出したベクトルだけを取り出したものがオプティカルフローを示すフローデータである。なお、観測者が直進移動する場合には、オプティカルフローは画像の消失点より外に広がるように移動する。
動き検出・通信エリア14は、光の受光により画像データを生成してメモリに記憶しておき、現在の画像データと現在よりもdt時間前の画像データとを用いて測定対象物のベクトルを検出し、そのベクトルによるフローデータを演算回路へ出力して、演算回路がオプティカルフローに基づく処理を行うことになる(図4を参照しながら後述するセンサシステム100を参照する。)。
なお、動き検出・通信エリア14においては、基本的には図1ならびに図2における矢印A方向のベクトルを主に検出するようになされている。また、動き検出・通信エリア14においては、上記したように画像データが取得される。

次に、光通信エリア22は、具体的には、例えば、特開2003−332595号公報や特開2005−182455号公報に開示された手法による光通信を実施することができるように構成すればよい。
光通信エリア22は、光を受光し、受光した光に基づいて受信データを生成してデコーダへ出力し、デコーダが受信データをデコードすることになる(図4を参照しながら後述するセンサシステム100を参照する。)。光通信エリア22においては、画像データの取得も可能である。

次に、図3を参照しながら、固体撮像素子10、20の距離検出エリア12、動き検出・通信エリア14ならびに光通信エリア22の画素の大きさについて説明する。
即ち、固体撮像素子10、20の距離検出エリア12、動き検出・通信エリア14ならびに光通信エリア22の画素の大きさに関しては、図3に示すように、距離検出エリア12の画素が他のエリアの画素よりも大きくするようして構成することが好ましい。
つまり、距離検出エリア12は、超高速で読み込みを行い、物体からの反射光を受光することでその位置と時間とにより当該物体までの距離を検出するものである。この固体撮像素子10、20においては、距離検出エリア12の画素の大きさを他のエリアより大きくすることで、上記した距離検出を高速化を図ることを可能にした。
また、動き検出・通信エリア14は、高速読み出しを行って物体の動きの検出を行うものであり、全ての方向のベクトルの検出が可能であるが、この実施の形態においては、図1および図2に示す動き検出・通信エリア14の矢印A方向のみのベクトルを検出することで、高速化を図るようした。

図4には、固体撮像素子20を受光部として構成したセンサシステムのブロック構成図が示されている。
このセンサシステム100は、LEDやSLDあるいはレーザーなどの光源であって距離検出のための物体への投光や通信のためのデータ送信を行う発光部102と、固体撮像素子20により構成されていて光を受光するためのカメラとなる受光部104と、受光部104を構成する固体撮像素子20の距離検出エリア12で生成されて出力された距離データと動き検出・通信エリア14で生成されて出力されたフローデータとを入力する演算回路106と、受光部104を構成する固体撮像素子20の光通信エリア22で生成されて出力された受信データを入力するデコーダ108と、送信データをエンコードするエンコーダ110と、発光部102と受光部104とを同期させる発光・受光同期回路112と、演算回路106により制御される制御回路114とを有して構成されている。

以上の構成において、このセンサシステム100においては、発光部102と受光部104との同期をとるための発光・受光同期回路112から出力される信号により、発光部102より発光させた光の反射波を受光部104により受光する。
受光部104においては、受光した反射波に基づいて、固体撮像素子20の距離検出エリア12で距離データを生成し、固体撮像素子20の動き検出・通信エリア14でフローデータを生成し、固体撮像素子20の光通信エリア22で受信データを生成して、これら生成した3つのデータを出力する。
受光部104から出力された距離データとフローデータとは、演算回路106へ入力されて、演算回路106は距離データとフローデータとに基づいて障害物検出などを実行し、演算回路106はその結果に基づいて制御回路114を制御し、制御回路114は制御信号を出力する。
なお、距離データとフローデータとは用途により利用方法が変わるものである。例えば、距離データとフローデータとを別々に用いる場合や、同時に用いる場合などがある。
上記したようにセンサシステム100は、その用途に合わせた演算回路106により演算処理を行い、出力結果をもとに制御回路114の制御を行う。
一方、受光部104から出力された受信データは、デコーダ108へ入力され、このデコーダ108により復元されて制御信号として出力される。
また、送信データは、エンコーダ110によりエンコードされた後に発光・受光同期回路112に入力され、発光部102の発光として送信される。

図5には、図4に示すセンサシステム100を素子としてワンチップにパッケージした状態を示すイメージ図である。
このパッケージにおいては、チップの中心部に固体撮像素子20により構成された受光部104をもうけ、周辺に演算回路106やバッファなどを配置する。

図6以降には、固体撮像素子10、20を備えたセンサシステム100を自動車に用いた場合の例が示されている。
ここで、図6には、自動車200を上面より観察した場合の説明図が示されており、この図6に示す例においては、受光部104として自動車200に7個の固体撮像素子20が設けられている。
より詳細には、自動車200の前方方向監視のために符号Aと符号Bとで示す固体撮像素子20が取り付けられており、自動車200の左方方向監視のために符号Cと符号Dとで示す固体撮像素子20が取り付けられており、自動車200の右方方向監視のために符号Eと符号Fとで示す固体撮像素子20が取り付けられており、自動車200の後方方向監視のために符号Gで示す固体撮像素子20が取り付けられている。
なお、自動車200に固体撮像素子10、20を取り付ける際にはその取り付け方向が重要になるが、こうした取り付け方向の詳細については後述する。

また、図7、図8および図9には、自動車200における固体撮像素子20の取り付け位置の例が示されている。
具体的には、図7(a)(b)は、自動車200の前方方向監視のために固体撮像素子20を自動車200へ取り付ける場合の例を示している。固体撮像素子20は、ヘッドライト200aの中へ取り付けたり(図7(a)参照)、あるいは、フロントのバンパー200bへ取り付けたりすることができ(図7(b)参照)、また、車室内になどおける前方方向が監視できる位置へ取り付けるようにしてもよい。
また、図8(a)(b)は、自動車200の側方方向監視のために固体撮像素子20を自動車200へ取り付ける場合の例を示している。固体撮像素子20は、サイドミラー200cへ取り付けたり(図8(a)参照)、あるいは、ピラー200dへ取り付けたりすることができ(図8(b)参照)、また、ヘッドライトやテールランプの中などにおける側方方向が監視できる位置へ取り付けるようにしてもよい。
さらに、図9(a)(b)は、自動車200の後方方向監視のために固体撮像素子20を自動車200へ取り付ける場合の例を示している。固体撮像素子20は、車両内200e、例えば、後部ガラスの中に取り付けたり(図9(a)参照)、あるいは、リアのバンパー200fへ取り付けたり(図9(b)参照)、あるいは、テールランプ200gの中へ取り付けたりすることができ(図9(c)参照)、また、ハイマウントストップランプなどに取り付けるようにしてもよい。

次に、図10(a)(b)(c)を参照しながら、自動車200に固体撮像素子20を取り付ける際における、固体撮像素子20の配置について説明する。
ここで、図10(a)に示す配置は、2つの固体撮像素子20を互いの距離検出エリア12が繋がって連続するように配置したものである。こうして固体撮像素子20で撮像される画像が二つ並べるような画角にすることで、距離検出エリア12を広くとることができる。
次に、図10(b)に示す配置は、2つの固体撮像素子20の互いの距離検出エリア12を重ね合わせるように配置したものである。こうした配置にすることで、距離の検出精度を向上させることができる。
また、図10(c)に示す配置は、2つの固体撮像素子20を互いの動き検出・通信エリア14が繋がって連続するように配置したものである。こうした配置にすることで、2つの固体撮像素子20の動き検出・通信エリア14がつながるような画角となり、シームレスな画像を取得することができ、距離検出エリア12と重ね合わせた画像を出力することができることになる。

ところで、上記した図10(a)(b)(c)に示す固体撮像素子20の配置における撮像面に関しては、その中心部に距離検出エリア12が位置し、距離検出エリア12の左右両側に動き検出・通信エリア14が位置し、距離検出エリア12および動き検出・通信エリア14の上下部に光通信エリア22が位置することになる。
従って、図10(a)(b)(c)に示す配置の固体撮像素子20を自動車200の前方方向の監視に用いると、その中心部に位置する距離検出エリア12によって、自車の進行方向に存在する前方の自動車や障害物との距離を検出することが可能になり、進行方向の障害物や自動車を検知することができる。
また、距離検出エリア12の左右両側に位置する動き検出・通信エリア14によって、自車の進行方向に進入して自車の進行方向を妨げる可能性のある物体、例えば、飛び出して来る人の動きを検出することが可能になり、自車の進行方向に進入してくる物体を検知することができる。
そして、こうした距離検出エリア12ならびに動き検出・通信エリア14の上記作用による検知に基づいて、衝突防止制御、例えば、ブレーキ制御やハンドル制御などを行うことができる。
一方、光通信エリア22は、信号や街路灯、その他インフラなどから出力される通信データなどを受光し、その受光した通信データに基づいて運転手に情報提示などを行うことが可能となる。

次に、図10(b)に示すように配置された固体撮像素子20を自車の前方に取り付け、固体撮像素子20により前方方向監視を行う場合において、図11に示すような状況を検出する際の固体撮像素子20の検出動作について説明する。
図11において、符号300は信号機であり、信号機300には赤信号が点灯されているものとする。また、符号302は自車の前方に位置する車両であり、車両302は停止している。さらに、符号304、306は歩行者であり、歩行者304は停止しているが、歩行者306は自車の前方の道路上へ移動しているものとする。
こうした場合には、固体撮像素子20により、歩行者304、306の飛び出しの検出、先行車である車両302との車間距離の検出、インフラ(信号機300など)や先行車である車両302との通信を同時にリアルタイムに行う必要があり、さらには各検出結果や通信結果から被害を軽減する最適な制御手段を総合的に判断する必要がある。
図10(b)に示すように配置された固体撮像素子20を自車の前方に取り付けることにより、歩行者304,306の飛び出しの検出、先行車である車両302との車間距離の検出、インフラ(信号機300など)や先行車である車両302との通信を同時にリアルタイムで行うことが可能となる。

まず、はじめに、歩行者304,306の飛び出しの検出について説明すると、固体撮像素子20により撮像される画像の右側の歩行者306が距離検出エリア12方向、即ち、固体撮像素子20により撮像される画像の中央方向へ移動する場合には、右側に位置する動き検出・通信エリア14において、図12に示すように中央方向へ向うベクトル400が検出されてフローデータが出力され、自車の進行方向に入ってくる障害物として認識される。
一方、固体撮像素子20により撮像される画像の左側の歩行者304が道路沿いを歩行している場合は、自車との相対速度により外側への移動ベクトルとなるため、自車の進行方向に入ってくる障害物としての認識は無い。
なお、この際に動き検出・通信エリア14においては、検出結果は上記したようにフローデータとして出力され、画像データとして出力する必要はない。

次に、先行車である車両302との車間距離の検出について説明すると、固体撮像素子20の距離検出エリア12では車両302を検出し、図12に示すように輝度濃淡レベルにより距離の遠近が表現される。これにより自車の前方の車両302までの距離を検知し、その距離がある閾値を超えたところで、運転者に警告を出すなどの制御が可能となる。即ち、自車の先行車との車間距離検出が可能となる。

次に、インフラ(信号機300など)との通信について説明すると、自車の先行車である車両302のテールランプや街路灯あるいは信号機300の光源として、LEDなどの高速変調パルス発光が可能な光源を用いてデータ送出機能を持たせた場合に、光通信エリア22により送出されたデータを受光することにより情報通信も可能となる。例えば、先行車からブレーキ情報、速度情報などを光通信エリア22が受け取ることで、衝突回避などが可能となる。
具体的には、信号機の光源もLED化されてきているため、そこに情報を載せることで車両への情報送信が可能となってきている(特開2002−202741号公報参照)。例えば、信号機300から現在の信号の状態、信号変化までの時間などを送信し、光通信エリア22でそれを受信することで、車両の速度制御を行い事故を防ぐことが可能となる。

次に、図2に示す固体撮像素子20を自車の左側方に取り付けて、側方衝突を検出する場合について説明する。
図13には、自車の左側方に取り付けた図2に示す固体撮像素子20により撮像された画像を示している。
固体撮像素子20の動き検出・通信エリア14によって、自車に近づいてくる車や人などのベクトルを検出することにより、衝突回避や衝突までの時間を予測した衝突時のエアバッグ制御などを行うことが可能となる。
具体的には、左側方より自車へ接近する車両500に注目すると、自車が停止しているときと自車が走行しているときとでは、動き検出・通信エリア14によって出力されるフローデータの形状が大きく異なることが知られている。
このため、自車の速度とベクトルとにより、自車への衝突の可能性を検出することが可能である。
また、距離検出エリア12で車両500を検出した場合には、自車のどこに衝突するかの検出が可能である。
これにより、衝突回避の可否が可能であるし、またその場合のエアバック制御などに用いることもできる可能性がある。

また、図13に示す距離検出エリア12に関しては、距離検出エリア12により運転手からの死角となる場所の物体(例えば、縁石などの障害物)までの距離測定を行うことが可能となるため、ある閾値を超えた物体を検出した場合には、運転手への警報を発したり、ハンドルを制御することで衝突を回避することが可能となる。
さらには、距離検出エリア12は、実際の輝度映像を出力できるため、運転者が映像を確認することが可能になる。

次に、図2に示す固体撮像素子20を自車の後方に取り付けて、後方方向監視を行う場合について説明する。
図14(a)および図15(a)には、自車の後方に取り付けた図2に示す固体撮像素子20により撮像された画像を示している。なお、固体撮像素子20を自車の後方に取り付ける場合には、前方や側方に取り付ける場合と異なり、90度回転させた方向に固体撮像素子20を設置する。即ち、固体撮像素子20の下部に距離検出エリア12が位置し、固体撮像素子20の上部に動き検出・通信エリア14が位置し、固体撮像素子20の両方の側部に光通信エリア22が位置するようにして、固体撮像素子20を自車の後方に設置する。
こうした場合に、図14(a)に示すように自車に対して後方から車両600が近づいてくる場合には、動き検出・通信エリア14によって、図14(b)に示すように画像下部方向へのベクトルが検出されることになり、後方からの衝突回避、衝突警報などの制御に用いることが可能となる。
具体的には、この場合、車両600が自車に近づいてくるとすると、後方の車両600の動き検知結果はベクトル602となる。これにより、自車の衝突回避や、後方の車両600への衝突警告(ブレーキランプの輝度を上げる、点滅させるなど)を行うことが可能となる。
また、後方の車両600に固体撮像素子20と同様な通信可能なシステムが搭載されていれば、固体撮像素子20が発光部102より送信した情報を受信することが可能となる。
また、インフラ(街路灯など)に情報送出部が搭載されていて情報送信されていれば、光通信エリア22により周辺環境の情報を受光することも可能である。
一方、図15(a)(b)は、下部に位置する距離検出エリア12を用いた場合の例を示している。
距離検出エリア12では、自車をバックさせるときの死角となる領域の障害物検知や壁までの距離計測を行うことを可能にしている。人物700や車両702までの距離を計測することによって、距離がある閾値を越えたところでブレーキ制御や警報を鳴らして衝突を回避することが可能となる。

以上において説明したように、距離計測に特化した距離検出エリア12と動き検出と通信に特化した動き検出・通信エリア14とを有する固体撮像素子10や、距離計測に特化した距離検出エリア12と動き検出と通信に特化した動き検出・通信エリア14と光通信の受光に特化した光通信エリア22とを有する固体撮像素子20を、自動車ヘッドランプ内、テールランプ内あるいはサイドミラー内などにに取り付けることにより、コスト削減を図りながら当該自動車の周辺監視や障害物検出を有効に行うことが可能になる。
即ち、固体撮像素子10、20を自動車に取り付けることにより、当該自動車の進行方向においては障害物の認識や距離計測を可能とし、また、当該自動車の側方においては当該自動車への衝突の可能性やその距離計測を可能とし、また、当該自動車の後方においては当該自動車のへ接近する車両などの検出やバック時の距離計測を可能とするようになる。
このように、固体撮像素子10、20を自動車に取り付けると、自車に衝突あるいは自車が衝突すると思われる物、自車の進行方向に入ろうとしている障害物、自車の進行方向の障害物や先行車、自車へ後方から接近する車両ならびに測方衝突の可能性のある車両などの検出が可能となり、また、これらの画像も同時に撮像可能であるとともに、通信を行うことができる。

なお、上記した実施の形態は、以下の(1)乃至(3)に示すように変形することができるものである。
(1)上記した実施の形態において示した本発明による固体撮像素子10、20の距離検出エリア12、動き検出・通信エリア14ならびに光通信エリアの形状や大きさ、あるいは、その配置は説明のための一例に過ぎないものであり、用途に応じて距離検出エリア12、動き検出・通信エリア14ならびに光通信エリアの形状や大きさ、あるいは、その配置を適宜に変更してよいことは勿論である。
(2)上記した実施の形態においては、固体撮像素子10、20を自動車に取り付けた場合について説明したが、固体撮像素子10、20の用途は自動車に限られるものではないことは勿論であり、ロボットのセンサーや防犯システムのセンサーなどに利用することができる。
(3)上記した実施の形態ならびに上記した(1)乃至(2)に示す変形例は、適宜に組み合わせるようにしてもよい。
本発明は、自動車、ロボットあるいは防犯システムなどの各種の分野に利用することができるものである。
図1は、本発明の実施の形態の一例による固体撮像素子の撮像面の配置構成説明図である。 図2は、本発明の実施の形態の他の例による固体撮像素子の撮像面の配置構成説明図である。 図3は、本発明による固体撮像素子の距離検出エリア、動き検出・通信エリアならびに光通信エリアの画素の大きさについて説明図である。 図4は、本発明による固体撮像素子を受光部として構成したセンサシステムのブロック構成図である。 図5は、図4に示すセンサシステムを素子としてワンチップにパッケージした状態を示すイメージ図である。 図6は、図4に示すセンサシステムの受光部として7個の本発明による固体撮像素子を自動車に取り付けた状態を示す説明図である。 図7(a)(b)は、自動車の前方方向監視のために本発明による固体撮像素子を当該自動車へ取り付ける場合の取付位置の説明図である。 図8(a)(b)は、自動車の側方方向監視のために本発明による固体撮像素子を当該自動車へ取り付ける場合の取付位置の説明図である。 図9(a)(b)(c)は、自動車の後方方向監視のために本発明による固体撮像素子を当該自動車へ取り付ける場合の取付位置の説明図である。 図10(a)(b)(c)は、自動車に本発明による固体撮像素子を取り付ける際における当該固体撮像素子の配置の説明図である。 図11は、本発明による固体撮像素子の動作の説明図である。 図12は、本発明による固体撮像素子の動作の説明図である。 図13は、本発明による固体撮像素子の動作の説明図である。 図14(a)(b)は、本発明による固体撮像素子の動作の説明図である。 図15(a)(b)は、本発明による固体撮像素子の動作の説明図である。
符号の説明
10、20 固体撮像素子
10a、20a 撮像面
12 距離検出エリア
14 動き検出・通信エリア
22 光通信エリア
100 センサシステム
102 発光部
104 受光部
106 演算回路
108 デコーダ
110 エンコーダ
112 発光・受光同期回路
114 制御回路

Claims (4)

  1. 物体を撮像する単一の撮像面を備えた固体撮像素子であって、
    前記撮像面が、
    物体までの距離を検出する距離検出機能を担うために特化された距離検出エリアと、
    物体の動きを検出する動き検出機能を担うために特化された動き検出エリアと
    に領域分割された
    ことを特徴とする固体撮像素子。
  2. 物体を撮像する単一の撮像面を備えた固体撮像素子であって、
    前記撮像面が、
    物体までの距離を検出する距離検出機能を担うために特化された距離検出エリアと、
    物体の動きを検出する動き検出機能を担うために特化された動き検出エリアと、
    外部と通信する通信機能を担うために特化された光通信エリアと
    に領域分割された
    ことを特徴とする固体撮像素子。
  3. 請求項1または2のいずれか1項に記載の固体撮像素子において、
    前記距離検出エリアの画素が、前記他のエリアの画素よりも大きい
    ことを特徴とする固体撮像素子。
  4. 請求項1、2または3のいずれか1項に記載の固体撮像素子において、
    前記距離検出エリアと前記距離検出エリアと前記光通信エリアとは、画像情報を取得する
    ことを特徴とする固体撮像素子。
JP2006278446A 2006-10-12 2006-10-12 固体撮像素子 Expired - Fee Related JP5204963B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006278446A JP5204963B2 (ja) 2006-10-12 2006-10-12 固体撮像素子
US11/867,121 US8218024B2 (en) 2006-10-12 2007-10-04 Solid state camera and sensor system and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006278446A JP5204963B2 (ja) 2006-10-12 2006-10-12 固体撮像素子

Publications (2)

Publication Number Publication Date
JP2008098976A true JP2008098976A (ja) 2008-04-24
JP5204963B2 JP5204963B2 (ja) 2013-06-05

Family

ID=39381358

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006278446A Expired - Fee Related JP5204963B2 (ja) 2006-10-12 2006-10-12 固体撮像素子

Country Status (2)

Country Link
US (1) US8218024B2 (ja)
JP (1) JP5204963B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010002326A (ja) * 2008-06-20 2010-01-07 Stanley Electric Co Ltd 移動ベクトル検出装置
JP2012038031A (ja) * 2010-08-05 2012-02-23 Kyushu Institute Of Technology 移動体の前方への飛出し物体の検出方法及びその装置
KR20140113224A (ko) * 2013-03-15 2014-09-24 삼성전자주식회사 이미지 센서, 이의 동작 방법, 및 이를 포함하는 시스템
KR20190015203A (ko) * 2016-03-25 2019-02-13 퓨어라이파이 리미티드 카메라 시스템
JP2019175112A (ja) * 2018-03-28 2019-10-10 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2020506402A (ja) * 2017-01-06 2020-02-27 ジェー. ブラウン,ウィリアム 自由空間光通信及びlidarのためのシステム
WO2021024720A1 (ja) * 2019-08-07 2021-02-11 ソニーセミコンダクタソリューションズ株式会社 通信装置および通信方法

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009169776A (ja) * 2008-01-18 2009-07-30 Hitachi Ltd 検出装置
TWI432925B (zh) * 2010-08-17 2014-04-01 Pixart Imaging Inc 互動式控制系統、物體的動態偵測方法、主機裝置和其控制方法
US8947506B2 (en) * 2010-08-27 2015-02-03 Broadcom Corporation Method and system for utilizing depth information for generating 3D maps
DE102010063420A1 (de) * 2010-12-17 2012-06-21 Bayerische Motoren Werke Aktiengesellschaft Fahrerassistenzsystem mit einer Sensoranordnung zur Erfassung des Abstandes des eigenen Fahrzeuges zu einem Fremdobjekt
KR20130102400A (ko) * 2012-03-07 2013-09-17 삼성전자주식회사 티오에프 센서 및 티오에프 카메라
US9036866B2 (en) 2013-01-28 2015-05-19 Alliance For Sustainable Energy, Llc Image-based occupancy sensor
CN105539452A (zh) * 2016-01-21 2016-05-04 安徽理工大学 基于红外探测技术汽车障碍探测预警系统
US10604121B2 (en) * 2016-06-06 2020-03-31 Magna Mirrors Of America, Inc. Vehicle camera with lens cleaner
EP3301480A1 (en) * 2016-10-03 2018-04-04 Xenomatix NV System and method for determining a distance to an object
US11391826B2 (en) * 2017-09-27 2022-07-19 Magna Electronics Inc. Vehicle LIDAR sensor calibration system
US11221392B2 (en) * 2018-07-31 2022-01-11 GM Global Technology Operations LLC Lidar object detection and data communications

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03196106A (ja) * 1989-12-26 1991-08-27 Olympus Optical Co Ltd カメラの焦点検出装置
JPH04249226A (ja) * 1991-02-05 1992-09-04 Olympus Optical Co Ltd カメラ
JPH0630374A (ja) * 1992-07-10 1994-02-04 Kyocera Corp 不要撮影を防止する電子スチルカメラ
JP2002076317A (ja) * 2000-08-28 2002-03-15 Canon Inc 固体撮像装置および撮像システム
JP2004294420A (ja) * 2003-02-03 2004-10-21 Shoji Kawahito 距離画像センサ
JP2005070014A (ja) * 2003-08-28 2005-03-17 Sony Corp 固体撮像デバイス、この固体撮像デバイスを用いた撮像方法および装置並びに距離計測方法およびシステム
JP2005175392A (ja) * 2003-12-15 2005-06-30 Toshiba Corp 固体撮像装置およびそれを利用した撮像システム
JP2005295381A (ja) * 2004-04-02 2005-10-20 Sony Corp 撮像装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000075030A (ja) 1998-08-27 2000-03-14 Aisin Seiki Co Ltd スキャン型レーザーレーダ装置
JP2001004909A (ja) * 1999-06-18 2001-01-12 Olympus Optical Co Ltd 自動焦点調節装置を有するカメラ
JP2002314989A (ja) 2001-04-10 2002-10-25 Yazaki Corp 車両用周辺監視装置
US7202897B2 (en) * 2001-07-11 2007-04-10 Sony Corporation Solid-state image pickup exposure control system and method
JP2003067752A (ja) 2001-08-28 2003-03-07 Yazaki Corp 車両周辺監視装置
JP2005182137A (ja) 2003-12-16 2005-07-07 Nissan Motor Co Ltd 先行車両検出装置及び先行車両検出方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03196106A (ja) * 1989-12-26 1991-08-27 Olympus Optical Co Ltd カメラの焦点検出装置
JPH04249226A (ja) * 1991-02-05 1992-09-04 Olympus Optical Co Ltd カメラ
JPH0630374A (ja) * 1992-07-10 1994-02-04 Kyocera Corp 不要撮影を防止する電子スチルカメラ
JP2002076317A (ja) * 2000-08-28 2002-03-15 Canon Inc 固体撮像装置および撮像システム
JP2004294420A (ja) * 2003-02-03 2004-10-21 Shoji Kawahito 距離画像センサ
JP2005070014A (ja) * 2003-08-28 2005-03-17 Sony Corp 固体撮像デバイス、この固体撮像デバイスを用いた撮像方法および装置並びに距離計測方法およびシステム
JP2005175392A (ja) * 2003-12-15 2005-06-30 Toshiba Corp 固体撮像装置およびそれを利用した撮像システム
JP2005295381A (ja) * 2004-04-02 2005-10-20 Sony Corp 撮像装置

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010002326A (ja) * 2008-06-20 2010-01-07 Stanley Electric Co Ltd 移動ベクトル検出装置
JP2012038031A (ja) * 2010-08-05 2012-02-23 Kyushu Institute Of Technology 移動体の前方への飛出し物体の検出方法及びその装置
KR102071526B1 (ko) * 2013-03-15 2020-03-02 삼성전자주식회사 이미지 센서, 이의 동작 방법, 및 이를 포함하는 시스템
KR20140113224A (ko) * 2013-03-15 2014-09-24 삼성전자주식회사 이미지 센서, 이의 동작 방법, 및 이를 포함하는 시스템
KR20190015203A (ko) * 2016-03-25 2019-02-13 퓨어라이파이 리미티드 카메라 시스템
US11172113B2 (en) 2016-03-25 2021-11-09 Purelifi Limited Camera system including a proximity sensor and related methods
KR102341354B1 (ko) * 2016-03-25 2021-12-20 퓨어라이파이 리미티드 카메라 시스템
KR20210156302A (ko) * 2016-03-25 2021-12-24 퓨어라이파이 리미티드 카메라 시스템
KR102481606B1 (ko) * 2016-03-25 2022-12-27 퓨어라이파이 리미티드 카메라 시스템
US11778311B2 (en) 2016-03-25 2023-10-03 Purelifi Limited Camera system including a proximity sensor and related methods
JP2020506402A (ja) * 2017-01-06 2020-02-27 ジェー. ブラウン,ウィリアム 自由空間光通信及びlidarのためのシステム
JP2019175112A (ja) * 2018-03-28 2019-10-10 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP7117872B2 (ja) 2018-03-28 2022-08-15 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
WO2021024720A1 (ja) * 2019-08-07 2021-02-11 ソニーセミコンダクタソリューションズ株式会社 通信装置および通信方法

Also Published As

Publication number Publication date
US20080170142A1 (en) 2008-07-17
US8218024B2 (en) 2012-07-10
JP5204963B2 (ja) 2013-06-05

Similar Documents

Publication Publication Date Title
JP5204963B2 (ja) 固体撮像素子
US11676400B2 (en) Vehicular control system
JP6470346B2 (ja) 車両用危険報知制御装置
JP5617999B2 (ja) 車載周辺物認識装置及びこれを用いる運転支援装置
US7378947B2 (en) Device and method for the active monitoring of the safety perimeter of a motor vehicle
JP5855272B2 (ja) ブレーキ状況を認識する方法および装置
CN107547784B (zh) 相机系统
JP6332384B2 (ja) 車両用物標検出システム
US9784839B2 (en) Automotive lighting device and a vehicle having the same
EP3293051A1 (en) Front end sensor for pedestrians
JP2000339589A (ja) 車両の交通安全補助システムおよび記録媒体
US20190135169A1 (en) Vehicle communication system using projected light
JP2006318093A (ja) 車両用移動物体検出装置
US11738767B2 (en) Vehicular driver assist system using acoustic sensors
JP2012221303A (ja) 運転支援用車載点灯装置、車載運転支援装置及び運転支援システム
KR102017958B1 (ko) 철도차량용 증강현실 헤드업 디스플레이 시스템
JP2004331021A (ja) 夜間障害物報知装置
JP2008052320A (ja) 周辺監視システム
US20230415734A1 (en) Vehicular driving assist system using radar sensors and cameras
US20220108117A1 (en) Vehicular lane marker determination system with lane marker estimation based in part on a lidar sensing system
JP2008286566A (ja) 車載装置
JP7399158B2 (ja) センシングシステムおよび車両
CN115669004A (zh) 确定支持v2x的邻近车辆的位置的方法
KR20220058894A (ko) 터닝 보조 시스템의 작동 방법, 터닝 보조 시스템, 및 이러한 터닝 보조 시스템을 구비한 자동차
CN220764231U (zh) 用于车辆的盲区检测系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090806

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111027

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20111122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120220

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20120228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120515

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120627

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120911

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130218

R150 Certificate of patent or registration of utility model

Ref document number: 5204963

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160222

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees