JP2000346626A - 3次元画像入力装置 - Google Patents

3次元画像入力装置

Info

Publication number
JP2000346626A
JP2000346626A JP11162889A JP16288999A JP2000346626A JP 2000346626 A JP2000346626 A JP 2000346626A JP 11162889 A JP11162889 A JP 11162889A JP 16288999 A JP16288999 A JP 16288999A JP 2000346626 A JP2000346626 A JP 2000346626A
Authority
JP
Japan
Prior art keywords
signal
charge
light
photoelectric conversion
signal charge
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP11162889A
Other languages
English (en)
Other versions
JP4136195B2 (ja
JP2000346626A5 (ja
Inventor
Nobuhiro Tani
信博 谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pentax Corp
Original Assignee
Asahi Kogaku Kogyo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Asahi Kogaku Kogyo Co Ltd filed Critical Asahi Kogaku Kogyo Co Ltd
Priority to JP16288999A priority Critical patent/JP4136195B2/ja
Priority to US09/589,064 priority patent/US6982761B1/en
Publication of JP2000346626A publication Critical patent/JP2000346626A/ja
Publication of JP2000346626A5 publication Critical patent/JP2000346626A5/ja
Application granted granted Critical
Publication of JP4136195B2 publication Critical patent/JP4136195B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

(57)【要約】 【課題】 高精細画像に対応した多画素CCDを用いて
安価かつ簡便に雑音の少ない距離情報信号を得る。 【解決手段】 CCDに第1及び第2のグループのフォ
トダイオードを設ける。電荷掃出し信号S1を出力しフ
ォトダイオードに蓄積していた不要電荷を排出する。電
荷掃出し信号S1の終了により、測距光S3を照射され
た被計測物体からの反射光S4により生じる電荷S12
が、フォトダイオードに蓄積される。電荷転送信号S9
を出力し、第1のグループのフォトダイオードに蓄積さ
れた電荷を垂直転送部へ転送する。電荷掃出し信号S
1、電荷転送信号S9を繰り返し出力することによりこ
の垂直転送部に第1のグループのフォトダイオードによ
り検出された距離情報に関する信号電荷が積分される。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、光伝播時間測定法
を用いて被計測物体の3次元形状等を検出する3次元画
像入力装置に関する。
【0002】
【従来の技術】従来3次元画像入力装置による3次元計
測は、光、電波あるいは音を被計測物体に照射する能動
方式と、光等を照射しない受動方式とに分類される。能
動方式には、光伝播時間測定法、変調した光波を用いる
位相差測定法、三角測量法、モアレ法、干渉法等が知ら
れており、受動方式には、ステレオ視法、レンズの焦点
法等が知られている。
【0003】能動方式は受動方式に比べ、レーザ光等を
照射するための機構が必要なために装置の規模が大きく
なるが、距離分解能、計測時間、計測空間範囲等の点に
おいて優れており、産業応用分野において広く用いられ
てきている。「MeasurementScience and Technology」
(S. Christie 他、vol.6, p1301-1308, 1995 年)に記
載された3次元画像入力装置では、パルス変調されたレ
ーザ光が被計測物体に照射され、その反射光がイメージ
インテンシファイアが取付けられた2次元CCDセンサ
によって受光され、電気信号に変換される。イメージイ
ンテンシファイアはレーザ光のパルス発光に同期したゲ
ートパルスによってシャッタ制御される。この構成によ
れば、遠い被計測物体からの反射光による受光量は近い
被計測物体からの反射光による受光量に比べて小さいの
で、被計測物体の距離に応じた出力がCCDの各画素毎
に得られる。
【0004】一方、国際公開97/01111号公報に開示され
た装置では、パルス変調されたレーザ光等の光が被計測
物体に照射され、その反射光がメカニカル又は液晶素子
等から成る電気光学的シャッタと組み合わされた2次元
CCDセンサによって受光され、電気信号に変換され
る。そのシャッタは、測距光のパルスとは異なるタイミ
ングで制御され、距離情報がCCDの各画素毎に得られ
る。
【0005】
【発明が解決しようとする課題】このような従来の能動
方式の装置では、CCDセンサにおける電荷蓄積動作を
制御するためにKDP素子等の光シャッタが設けられて
いる。ところが光シャッタの規模が大きいだけでなく、
光シャッタを駆動するために高電圧を供給する電気回路
が必要であるので、従来装置は大型化せざるを得ないと
いう問題があった。一方、米国特許第 5,081,530号明細
書には、CCDセンサの電荷蓄積動作を制御するために
電子シャッタを用いる構成が開示されているが、従来の
1回の電子シャッタにより得られるCCDセンサの出力
は、被計測物体の距離情報を検出するために十分な大き
さを有していない。
【0006】本発明は、光シャッタを必要とせず小型で
安価であり、しかも高精細画像に対応した多画素CCD
においても十分に大きい出力を得ることのできる3次元
画像入力装置を得ることを目的としている。
【0007】
【課題を解決するための手段】本発明の3次元画像入力
装置は、被計測物体に測距光を照射する光源と、受光量
に応じた電荷を蓄積可能な第1及び第2の光電変換素子
と、第1の光電変換素子に隣接して設けられた第1の信
号電荷保持部と、第2の光電変換素子に隣接して設けら
れた第2の信号電荷保持部と、第1の光電変換素子に蓄
積した第1の信号電荷を第1の信号電荷保持部のみに接
続された第1の電極を用いて第1の信号電荷保持部に転
送する第1の信号電荷転送手段と、第2の光電変換素子
に蓄積した第2の信号電荷を第2の信号電荷保持部のみ
に接続された第2の電極を用いて第2の信号電荷保持部
に転送する第2の信号電荷転送手段と、第1の信号電荷
転送手段を繰り返し駆動することにより、第1の信号電
荷保持部において被計測物体の距離情報に関する第1の
信号電荷を積分する信号電荷積分手段とを備えたことを
特徴としている。
【0008】3次元画像入力装置は好ましくは、第1の
光電変換素子に蓄積した不要電荷を第1の光電変換素子
から掃出すことにより第1の光電変換素子における信号
電荷の蓄積動作を開始させる第1の蓄積電荷掃出手段
と、第2の光電変換素子に蓄積した不要電荷を第2の光
電変換素子から掃出すことにより第2の光電変換素子に
おける信号電荷の蓄積動作を開始させる第2の蓄積電荷
掃出手段とを備え、信号電荷積分手段が、第1の蓄積電
荷掃出手段と前記第1の信号電荷転送手段とを交互に駆
動することにより行われる。
【0009】第1及び第2の光電変換素子が基板に沿っ
て形成された構成においては、蓄積動作開始手段は不要
電荷を基板側に掃出す。第1及び第2の信号電荷保持部
は、好ましくは第1及び第2の信号電荷を3次元画像入
力装置の外部に出力するための垂直転送部である。また
第1の光電変換素子は例えば、所定方向に第2の光電変
換素子を所定の数挟んで配列される。
【0010】第1の蓄積電荷掃出手段において不要電荷
を掃出すために出力される電荷掃出し信号と、第1の信
号電荷転送手段において第1の信号電荷を転送するため
に出力される第1の電荷転送信号と、第2の信号電荷転
送手段において第2の信号電荷を転送するために出力さ
れる第2の電荷転送信号とは、それぞれ例えばパルス信
号である。
【0011】好ましくは、被計測物体の距離情報に対応
した信号電荷が、第1の光電変換素子による反射光の受
光終了まで、第1の光電変換素子において蓄積される。
またこのとき好ましくは、電荷掃出し信号の出力が終了
することによって、被計測物体の距離情報に対応した信
号電荷の第1の光電変換素子における蓄積が開始する。
【0012】好ましくは、光源によって、パルス状の測
距光が出力され、電荷掃出し信号が出力されてから第1
の電荷転送信号が出力されるまでの第1の電荷蓄積期間
中、測距光のパルスが出力されることによって、被計測
物体の距離情報に対応した信号電荷が第1の信号電荷保
持部において積分される。
【0013】また好ましくは、光源による測距光の照射
動作を禁止する照射動作制御手段と、この照射動作制御
手段により測距光の照射を禁止した状態で、第1及び第
2の蓄積電荷掃出手段と第1及び第2の信号電荷転送手
段とを駆動して被計測物体の画像情報に関する第1及び
第2の信号電荷をそれぞれ第1及び第2の信号電荷保持
部に転送する画像情報検出手段とを備える。
【0014】また本発明の3次元画像入力装置は、被計
測物体に光を照射する光源と、所定のグループに分けら
れ受光量に応じた電荷を生成する複数の光学センサと、
光学センサにおいて生成された電荷を光学センサの外部
へ転送するために光学センサの各々に設けられた電荷転
送電極と、電荷転送電極により光学センサから転送され
る電荷を保持転送するための電荷転送部と、光学センサ
毎に設けられた電荷転送電極を前記光学センサのグルー
プ毎に制御可能な電荷転送電極制御手段と、電荷転送電
極制御手段を繰り返し駆動することにより光学センサの
一部のグループで生成された電荷を電荷転送部へ繰り返
し転送し、この電荷を電荷転送部において累積的に蓄積
する生成電荷蓄積手段とを備えることを特徴としてい
る。
【0015】
【発明の実施の形態】以下、本発明の実施の形態を図面
を参照して説明する。図1は本発明の第1の実施形態で
ある3次元画像入力装置を備えたカメラの斜視図であ
る。
【0016】カメラ本体10の前面において、撮影レン
ズ11の左上にはファインダ窓12が設けられ、右上に
はストロボ13が設けられている。カメラ本体10の上
面において、撮影レンズ11の真上には、測距光である
レーザ光を照射する発光装置(光源)14が配設されて
いる。発光装置14の左側にはレリーズスイッチ15と
液晶表示パネル16が設けられ、また右側にはモード切
替ダイヤル17とV/Dモード切替スイッチ18が設け
られている。カメラ本体10の側面には、ICメモリカ
ード等の記録媒体を挿入するためのカード挿入口19が
形成され、また、ビデオ出力端子20とインターフェー
スコネクタ21が設けられている。
【0017】図2は図1に示すカメラの回路構成を示す
ブロック図である。撮影レンズ11の中には絞り25が
設けられている。絞り25の開度はアイリス駆動回路2
6によって調整される。撮影レンズ11の焦点調節動作
およびズーミング動作はレンズ駆動回路27によって制
御される。
【0018】撮影レンズ11の光軸上には撮像素子(C
CD)28が配設されている。CCD28には、撮影レ
ンズ11によって被写体像が形成され、被写体像に対応
した電荷が発生する。CCD28における電荷の蓄積動
作、電荷の読出動作等の動作はCCD駆動回路30によ
って制御される。CCD28から読み出された電荷信号
すなわち画像信号はアンプ31において増幅され、A/
D変換器32においてアナログ信号からデジタル信号に
変換される。デジタルの画像信号は撮像信号処理回路3
3においてガンマ補正等の処理を施され、画像メモリ3
4に一時的に格納される。アイリス駆動回路26、レン
ズ駆動回路27、CCD駆動回路30、撮像信号処理回
路33はシステムコントロール回路35によって制御さ
れる。
【0019】画像信号は画像メモリ34から読み出さ
れ、LCD駆動回路36に供給される。LCD駆動回路
36は画像信号に応じて動作し、これにより画像表示L
CDパネル37には、画像信号に対応した画像が表示さ
れる。
【0020】また画像メモリ34から読み出された画像
信号はTV信号エンコーダ38に送られ、ビデオ出力端
子20を介して、カメラ本体10の外部に設けられたモ
ニタ装置39に伝送可能である。システムコントロール
回路35はインターフェース回路40に接続され、イン
ターフェース回路40はインターフェースコネクタ21
に接続されている。したがって画像メモリ34から読み
出された画像信号は、インターフェースコネクタ21に
接続されたコンピュータ41に伝送可能である。またシ
ステムコントロール回路35は、記録媒体制御回路42
を介して画像記録装置43に接続されている。したがっ
て画像メモリ34から読み出された画像信号は、画像記
録装置43に装着されたICメモリカード等の記録媒体
Mに記録可能である。
【0021】システムコントロール回路35には、発光
素子制御回路44が接続されている。発光装置14には
発光素子14aと照明レンズ14bが設けられ、発光素
子14aの発光動作は発光素子制御回路44によって制
御される。発光素子14aは測距光であるレーザ光を照
射するものであり、このレーザ光は照明レンズ14bを
介して被計測物体の全体に照射される。被計測物体にお
いて反射した光は撮影レンズ11に入射する。この光を
CCD28によって検出することにより、後述するよう
に被計測物体の3次元画像が計測される。なお、この計
測において、CCD28における転送動作のタイミング
等の制御はシステムコントロール回路35とCCD駆動
回路30によって行なわれる。
【0022】システムコントロール回路35には、レリ
ーズスイッチ15、モード切替ダイヤル17、V/Dモ
ード切替スイッチ18から成るスイッチ群45と、液晶
表示パネル(表示素子)16とが接続されている。
【0023】図3および図4を参照して、本実施形態に
おける距離測定の原理を説明する。なお図4において横
軸は時間tである。
【0024】距離測定装置Bから出力された測距光は被
計測物体Sにおいて反射し、図示しないCCDによって
受光される。測距光は所定のパルス幅Hを有するパルス
状の光であり、したがって被計測物体Sからの反射光
も、同じパルス幅Hを有するパルス状の光である。また
反射光のパルスの立ち上がりは、測距光のパルスの立ち
上がりよりも時間δ・t(δは遅延係数)だけ遅れる。
測距光と反射光は距離計測装置Tと被計測物体Sの間の
2倍の距離rを進んだことになるから、その距離rは r=δ・t・C/2 ・・・(1) により得られる。ただしCは光速である。
【0025】例えば測距光のパルスの立ち上がりから反
射光を検知可能な状態に定め、反射光のパルスが立ち下
がる前に検知不可能な状態に切換えるようにすると、す
なわち反射光検知期間Tを設けると、この反射光検知期
間Tにおける受光量Aは距離rの関数である。すなわち
受光量Aは、距離rが大きくなるほど(時間δ・tが大
きくなるほど)小さくなる。
【0026】本実施形態では上述した原理を利用して、
CCD28に設けられ、2次元的に配列された複数のフ
ォトダイオード(光電変換素子)においてそれぞれ受光
量Aを検出することにより、カメラ本体10から被計測
物体Sの表面の各点までの距離をそれぞれ検出し、被計
測物体Sの表面形状に関する3次元画像のデータを一括
して入力している。
【0027】図5は、CCD28に設けられているフォ
トダイオード(第1及び第2の光電素子)51a1 、5
1a2 と垂直転送部52の配置を示す図である。図6
は、CCD28を基板53に垂直な平面で切断して示す
断面図である。このCCD28は従来公知のインターラ
イン型CCDであり、不要電荷の掃出しにVOD(縦型
オーバーフロードレイン)方式を用いたものである。
【0028】フォトダイオード51a1 、51a2 と垂
直転送部(信号電荷保持部)52はn型基板53の面に
沿って形成されている。フォトダイオード51a1 、5
1a 2 は所定の配置で2次元的に格子状に配列され、垂
直転送部52はフォトダイオード51a1 、51a2
隣接して設けられている。図5は格子状に配列されたフ
ォトダイオードの1つの列を抜き出したもので、フォト
ダイオード51a1 が3つのフォトダイオード51a2
を挟んで3つおきに上下方向に配置さている。垂直転送
部52は、1つのフォトダイオード51a1 に対して4
つの垂直転送電極52a1 、52b1 、52c1 、52
1 を備え第1の信号電荷保持部を形成している。また
同様に1つのフォトダイオード51a2 に対して4つの
垂直転送電極52a2 、52b2 、52c2 、52d2
を備え第2の信号電荷保持部を形成している。同一記号
で図示された垂直転送電極同士、例えば垂直転送電極5
3a2 は回路内において互いに電気的に接続されてい
る。また垂直転送電極52b 1 と52b2 、52c1
52c2 、52d1 と52d2 は回路内においてそれぞ
れ電気的に接続されている。すなわちCCD内の垂直転
送電極は、電気的に記号52a1 、52a2 、52b1
と52b2 、52c1 と52c2 、52d1 と52d2
で表される5つの系列の電極に分かれており、それぞれ
の系列毎に独立に信号電圧を印加することができる。例
えば記号52a1 で表される垂直転送電極、あるいは記
号52b1 と52b2 で表される垂直転送電極のみに信
号電圧を印加しその他の垂直転送電極には信号電圧を印
加しないことができる。したがって垂直転送部52で
は、フォトダイオード毎に4つのポテンシャルの井戸が
形成可能であり、従来公知のように、これらの井戸の深
さを制御することによって、信号電荷をCCD28から
出力することができる。なお垂直転送電極の数は目的に
応じて自由に変更できる。
【0029】基板53の表面に形成されたp型井戸の中
にフォトダイオード51a1 、51a2 が形成され、p
型井戸とn型基板53の間に印加される逆バイアス電圧
によってp型井戸が完全に空乏化される。この状態にお
いて、入射光(被計測物体からの反射光)の光量に応じ
た電荷がフォトダイオード51a1 、51a2 において
蓄積される。基板電圧Vsub を所定値以上に大きくする
と、フォトダイオード51a1 、51a2 に蓄積した電
荷は、基板53側に掃出される。これに対し、転送ゲー
ト部54に電荷転送信号(電圧信号)が印加されたと
き、フォトダイオード51a1 、51a2 に蓄積した電
荷は垂直転送部52に転送される。すなわち電荷掃出し
信号によって電荷を基板53側に掃出した後、フォトダ
イオード51a1 、51a2 に蓄積した信号電荷が、電
荷転送信号によって垂直転送部52側に転送される。こ
のような動作を繰り返すことにより、垂直転送部52に
おいて信号電荷が積分され、電子シャッタ動作が実現さ
れる。
【0030】本実施形態におけるCCDは、垂直転送電
極52a1 を有するフォトダイオード51a1 と、垂直
転送電極52a2 を有するフォトダイオード51a2
備えているが、距離に関するデータを検出するために用
いられるのは、フォトダイオード51a1 のみである。
これは後に詳述するように、高精細な画像を得るために
CCDの画素数(フォトダイオード数)を増加すると、
距離検出動作の実行が困難となるためである。このため
距離検出動作には3ラインおきのフォトダイオード51
1 のみを用いている。なお、被計測物体の画像に関す
るデータの検出にはフォトダイオード51a1 及び51
2 を用いて画像検出動作を行なう。
【0031】図7は、被計測物体の表面の各点までの距
離に関するデータを検出する距離情報検出動作のタイミ
ングチャートである。図1、図2、図5〜図7を参照し
て距離情報検出動作を説明する。
【0032】垂直同期信号(図示せず)の出力に同期し
て電荷掃出し信号(パルス信号)S1が出力され、これ
によりフォトダイオード51a1 に蓄積していた不要電
荷が基板53の方向に掃出され、フォトダイオード51
1 における蓄積電荷量はゼロになる(符号S2)。電
荷掃出し信号S1の出力の開始の後、一定のパルス幅を
有するパルス状の測距光S3が出力される。測距光S3
が出力される期間(パルス幅)は調整可能であり、図示
例では、電荷掃出し信号S1の出力と同時に測距光S3
がオフするように調整されている。
【0033】測距光S3は被計測物体において反射し、
CCD28に入射する。すなわちCCD28によって被
計測物体からの反射光S4が受光されるが、電荷掃出し
信号S1が出力されている間は、フォトダイオード51
1 において電荷は蓄積されない(符号S2)。電荷掃
出し信号S1の出力が停止されると、フォトダイオード
51a1 では、反射光S4の受光によって電荷蓄積が開
始され、反射光S4と外光に起因する信号電荷S5が発
生する。反射光S4が消滅すると(符号S6)フォトダ
イオード51a1 では、反射光に基く電荷蓄積は終了す
るが(符号S7)、外光のみに起因する電荷蓄積が継続
する(符号S8)。
【0034】その後、電荷転送信号S9が出力される
と、フォトダイオード51a1 に蓄積された電荷が垂直
転送部52に転送される。この電荷転送は、電荷転送信
号の出力の終了(符号S10)によって完了する。すな
わち、外光が存在するためにフォトダイオード51a1
では電荷蓄積が継続するが、電荷転送信号の出力が終了
するまでフォトダイオード51a1 に蓄積されていた信
号電荷S11が垂直転送部52へ転送される。電荷転送
信号の出力終了後に蓄積している電荷S14は、そのま
まフォトダイオード51a1 に残留する。
【0035】このように電荷掃出し信号S1の出力の終
了から電荷転送信号S9の出力が終了するまでの期間T
U1の間、フォトダイオード51a1 には、被計測物体ま
での距離に対応した信号電荷が蓄積される。そして、反
射光S4の受光終了(符号S6)までフォトダイオード
51a1 に蓄積している電荷が、外光と被計測物体の距
離情報とに対応した信号電荷S12として垂直転送部5
2へ転送され、その他の信号電荷S13は外光のみに起
因するものである。
【0036】電荷転送信号S9の出力から一定時間が経
過した後、再び電荷掃出し信号S1が出力され、垂直転
送部52への信号電荷の転送後にフォトダイオード51
1に蓄積された不要電荷が基板53の方向へ掃出され
る。すなわち、フォトダイオード51a1 において新た
に信号電荷の蓄積が開始する。そして、上述したのと同
様に、電荷蓄積期間TU1が経過したとき、信号電荷は垂
直転送部52へ転送される。
【0037】このような信号電荷S11の垂直転送部5
2への転送動作は、次の垂直同期信号が出力されるま
で、繰り返し実行される。これにより垂直転送部52に
おいて、信号電荷S11が積分され、1フィールドの期
間(2つの垂直同期信号によって挟まれる期間)に積分
された信号電荷S11は、その期間被計測物体が静止し
ていると見做せれば、被計測物体までの距離情報に対応
している。
【0038】以上説明した信号電荷S11の検出動作は
1つのフォトダイオード51a1 に関するものであり、
垂直転送電極52a1 を有する全てのフォトダイオード
51a1 においてこのような検出動作が行なわれる。1
フィールドの期間における検出動作の結果、垂直転送電
極52a1 を有するフォトダイオード51a1 に隣接し
た垂直転送部には、そのフォトダイオード51a1 によ
って検出された距離情報が保持される。この距離情報は
垂直転送部52における垂直転送動作および図示しない
水平転送部における水平転送動作によってCCD28か
ら出力され、被計測物体の3次元画像データとして、3
次元画像入力装置の外部に取り出される。
【0039】しかしCCD28により検出された反射光
は、被計測物体の表面の反射率の影響を受けている。し
たがって、この反射光を介して得られた距離情報は反射
率に起因する誤差を含んでいる。また、CCD28によ
り検出された反射光には、被計測物体からの反射光以外
に外光等の成分も含まれており、これに起因する誤差も
存在する。
【0040】次にこれらの誤差を補正する方法について
説明する。図8〜図10は距離補正情報、反射率情報お
よび反射率補正情報の検出動作におけるタイミングチャ
ートである。図11と図12は距離情報検出動作のフロ
ーチャートである。図1、図2、図7〜図12を参照し
て、本実施形態における距離情報検出動作について説明
する。
【0041】ステップ101においてレリーズスイッチ
15が全押しされていることが確認されるとステップ1
02が実行され、ビデオ(V)モードと距離測定(D)
モードのいずれが選択されているかが判定される。これ
らのモード間における切替はV/Dモード切替スイッチ
18を操作することによって行なわれる。
【0042】Dモードが選択されているとき、ステップ
103において垂直同期信号が出力されるとともに測距
光制御が開始される。すなわち発光装置14が駆動さ
れ、パルス状の測距光S3が断続的に出力される。次い
でステップ104が実行され、CCD28による検知制
御が開始される。すなわち図7を参照して説明した距離
情報検出動作が開始され、電荷掃出し信号S1と電荷転
送信号S9が交互に出力されて、距離情報の信号電荷S
11が垂直転送部52において積分される。
【0043】ステップ105では、距離情報検出動作の
開始から1フィールド期間が終了したか否か、すなわち
新たに垂直同期信号が出力されたか否かが判定される。
1フィールド期間が終了するとステップ106へ進み、
距離情報の信号電荷S11がCCD28から出力され
る。この信号電荷S11はステップ107において画像
メモリ34に一時的に記憶される。ステップ108では
測距光制御がオフ状態に切換えられ、発光装置14の発
光動作が停止する。
【0044】ステップ109〜112では、距離補正情
報の検出動作が行なわれる。まずステップ109では、
垂直同期信号が出力されるとともにCCD28による検
知制御が開始される。すなわち発光装置14の発光動作
が行なわれることなく、光源が消灯された状態で、電荷
掃出し信号S21と電荷転送信号S22が交互に出力さ
れる。電荷蓄積時間TU1は図7に示す距離情報検出動作
と同じであるが、被計測物体に測距光が照射されないた
め(符号S23)、反射光は存在せず(符号S24)。
したがって、距離情報の信号電荷は発生しないが、CC
D28には外光等の外乱成分が入射するため、この外乱
成分に対応した信号電荷S25が発生し、電荷転送信号
S22の出力によって、それまでフォトダイオードに蓄
積していた信号電荷S26が垂直転送部へ転送される。
この信号電荷S26は、外乱成分が距離情報に及ぼす影
響を補正するための、電荷蓄積時間TU1に対する距離補
正情報に対応している。
【0045】ステップ110では、距離補正情報の検出
動作の開始から1フィールド期間が終了したか否か、す
なわち新たに垂直同期信号が出力されたか否かが判定さ
れる。1フィールド期間が終了するとステップ111に
おいて、距離補正情報の信号電荷S26がCCD28か
ら出力される。距離補正情報の信号電荷S26はステッ
プ112において画像メモリ34に一時的に記憶され
る。
【0046】ステップ113〜117では、反射率情報
の検出動作が行なわれる。ステップ113では、垂直同
期信号が出力されるとともに測距光制御が開始され、パ
ルス状の測距光S33が断続的に出力される。ステップ
114では、CCD28による検知制御が開始され、電
荷掃出し信号S31と電荷転送信号S35が交互に出力
される。電荷掃出し信号S31が出力されることによっ
て、フォトダイオードにおける蓄積電荷量はゼロになる
(符号S32)。電荷掃出し信号S31の出力が終了す
ると、測距光S33が出力され、CCDには反射光S3
4が入射する。反射光S34が消滅した後、電荷転送信
号S35が出力される。すなわち反射率情報の検出動作
は、電荷掃出し信号S31の出力が終了してから電荷転
送信号S35の出力が終了するまでの電荷蓄積期間TU2
内に、反射光S34の全てが受光されるように制御され
る。
【0047】このようにフォトダイオードでは、 反射光
S34を受光している間は反射光S34と外光に起因す
る信号電荷S36が蓄積され、また、反射光S34を受
光していない間は外光のみに起因する信号電荷S37、
S38が蓄積される。そして電荷転送信号S35の出力
により、それまでのフォトダイオードに蓄積されていた
信号電荷S39が垂直転送部へ転送される。この信号電
荷S39は反射率情報に対応し、外光に基く成分S’3
9を含んでいる。
【0048】ステップ115では、反射率情報検出動作
の開始から1フィールド期間が終了したか否か、すなわ
ち新たに垂直同期信号が出力されたか否かが判定され
る。1フィールド期間が終了するとステップ116へ進
み、反射率情報の信号電荷S39がCCD28から出力
される。この信号電荷S39はステップ117において
画像メモリ34に一時的に記憶される。ステップ118
では測距光制御がオフ状態に切換えられ、発光装置14
の発光動作が停止する。
【0049】ステップ119〜122では、反射率補正
情報の検出動作が行なわれる。ステップ119では、垂
直同期信号が出力されるとともにCCD28による検知
制御が開始される。すなわち発光装置14の発光動作が
行なわれることなく、光源が消灯された状態で、電荷掃
出し信号S41と電荷転送信号S42が交互に出力され
る。電荷蓄積時間TU2は図9に示す反射率情報検出動作
と同じであるが、被計測物体に測距光が照射されないた
め(符号S43)、反射光は存在せず(符号S44)。
したがって、反射率情報の信号電荷は発生しないが、C
CD28には外光等の外乱成分に対応した信号電荷S4
6が発生する。この信号電荷S46は、外乱成分が電荷
蓄積時間TU2に対する反射率情報に及ぼす影響を補正す
るための反射率補正情報に対応している。
【0050】ステップ120では、反射率補正情報の検
出動作の開始から1フィールド期間が終了したか否か、
すなわち新たに垂直同期信号が出力されたか否かが判定
される。1フィールド期間が終了するとステップ121
において、反射率補正情報の信号電荷S46がCCD2
8から出力され、ステップ122において画像メモリ3
4に一時的に記憶される。
【0051】ステップ123では、ステップ103〜1
22において得られた距離情報、距離補正情報、反射率
情報および反射率補正情報を用いて距離データの演算処
理が行なわれ、ステップ124において距離データが出
力されてこの検出動作は終了する。一方、ステップ10
2においてVモードが選択されていると判定されたと
き、ステップ125において測距光制御がオフ状態に切
換えられるとともに、ステップ126においてCCD2
8(フォトダイオード51a1 51a2 )による通常の
撮影動作(CCDビデオ制御)がオン状態に定められ、
この検出動作は終了する。
【0052】ステップ123において実行される演算処
理の内容を図7〜図10を参照して説明する。反射率R
の被計測物体が照明され、この被計測物体が輝度Iの2
次光源と見做されてCCDに結像された場合を想定す
る。このとき、電荷蓄積時間tの間にフォトダイオード
に発生した電荷が積分されて得られる出力Snは、 Sn=k・R・I・t ・・・(2) で表される。ここでkは比例定数で、撮影レンズのFナ
ンバーや倍率等によって変化する。
【0053】被計測物体がレーザ等の光源からの光で照
明される場合、輝度Iはその光源による輝度IS と背景
光による輝度IB との合成されたものとなり、 I=IS +IB ・・・(3) と表せる。
【0054】図7に示されるように電荷蓄積時間を
U1、測距光S3のパルス幅をTS 、距離情報の信号電
荷S12のパルス幅をTD とし、1フィールド期間中の
その電荷蓄積時間がN回繰り返されるとすると、得られ
る出力SM10は、 SM10=Σ(k・R(IS ・TD +IB ・TU1)) =k・N・R(IS ・TD +IB ・TU1) ・・・(4) となる。なお、パルス幅TD は TD =δ・t =2r/C ・・・(5) と表せる。
【0055】図9に示されるようにパルス状の電荷蓄積
時間TU2が、測距光S33の期間(パルス幅)TS より
も十分大きく、反射光の単位受光時間を全部含むように
制御された場合に得られる出力SM20は、 SM20=Σ(k・R(IS ・TS +IB ・TU2)) =k・N・R(IS ・TS +IB ・TU2) ・・・(6) となる。
【0056】図8に示されるように発光を止めて、図7
と同じ時間幅でのパルス状の電荷蓄積を行なった場合に
得られる出力SM11は、 SM11=Σ(k・R・IB ・TU1) =k・N・R・IB ・TU1 ・・・(7) となる。同様に、図10に示されるような電荷蓄積を行
なった場合に得られる出力SM21は、 SM21=Σ(k・R・IB ・TU2) =k・N・R・IB ・TU2 ・・・(8) となる。
【0057】(4)、(6)、(7)、(8)式から、 SD =(SM10−SM11)/(SM20−SM21) =TD /TS ・・・(9) が得られる。
【0058】上述したように測距光S3と反射光S4に
はそれぞれ外光等の外乱成分(背景光による輝度IB
が含まれている。(9)式のTD /TS は、測距光S3
を照射したときの被計測物体からの反射光S4の光量
を、測距光S3の光量によって正規化したものであり、
これは、測距光S3の光量(図7の信号電荷S11に相
当)から外乱成分(図8の信号電荷S26に相当)を除
去した値と、反射光S4の光量(図9の信号電荷S39
に相当)から外乱成分(図10の信号電荷S’39に相
当)を除去した値との比に等しい。
【0059】(9)式の各出力値SM10、SM11、SM
20、SM21はステップ107、112、117、122
において、距離情報、距離補正情報、反射率情報、反射
率補正情報として格納されている。したがって、これら
の情報に基いて、TD /TSが得られる。パルス幅Ts
は既知であるから、(5)式とTD /TS から距離rが
得られる。
【0060】次に図6および図13〜図15を参照して
例えば100万画素を越えるような高精細な多画素CC
Dを距離検出動作に用いたときの問題について説明す
る。
【0061】CCD回路内において各垂直転送電極に
は、それぞれ寄生容量Cpが存在する。図6に図示され
た寄生容量Cpは、これを模式的に表したものである。
したがって同一記号で表された垂直転送電極全体におけ
る寄生容量は、これらの寄生容量Cpの和となる。図1
3は同一記号で表される垂直転送電極全体の等価回路図
であり、Cはそのときの寄生容量(Cpの和)、Rは垂
直転送電極がもつ抵抗による抵抗値である。またAin
等価回路への入力信号、Aout は等価回路からの出力信
号を表す。
【0062】図14は等価回路に入力されるパルス状の
入力信号Ainと、そのとき等価回路から出力される出力
信号Aout を図示したものであり、Ain、Aout はそれ
ぞれの最大値によって規格化されている。パルス状の入
力信号Ainが垂直転送電極に入力されるとき、出力信号
out の立ち上り及び立ち下がりには寄生容量Cと抵抗
値Rの存在のために時定数t1 (=CR)で特徴づけら
れる遅れが生ずる。高精細な画像を得るためにCCDの
画素数(フォトダイオードの数)を増加すると、垂直転
送電極の数が増えるために寄生容量C(Cpの和)の値
が大きくなる。その結果時定数t1 が増大し、出力信号
out の立ち上がり及び立ち下がりの遅れが増大する。
【0063】例えばCCDの全フォトダイオードを用い
たときの垂直転送電極(52a1 、52a2 )の寄生容
量Cが3000pFで抵抗値Rが50Ωの場合、時定数
1は150nsである。このとき図5のように、1/
4ラインに間引かれた3ラインおきのフォトダイオード
51a1 のみを距離検出に用いると、寄生容量Cは75
0pFとなり、抵抗値Rは70Ωとなる。したがって時
定数t1 は52.5nsに減ぜられる。図15は図7と
同様に距離情報検出動作におけるタイミングチャートを
表しているが、電荷転送信号を時定数150nsおよび
時定数52.5nsで出力したときの状態を表してい
る。実線で表される電荷転送信号S61はフォトダイオ
ード51a1 のみを用いたとき、すなわち時定数52.
5nsのときの電荷転送信号を表す。破線で表される電
荷転送信号S62はフォトダイオード51a1 、51a
2 を用いたとき、すなわち時定数150nsのときの電
荷転送信号を表す。また実線で表された垂直転送部への
転送電荷量S63は電荷転送信号S61に対応し、破線
で表された垂直転送部への転送電荷量S64は電荷転送
信号S62に対応する。
【0064】本実施形態では、電荷転送信号が立ち下が
ったときにフォトダイオードから垂直転送部へ蓄積電荷
を転送している。電荷転送信号S61は電荷転送信号S
62よりも信号の立ち下がりが早いので、垂直転送部へ
転送される蓄積電荷のうち外光に起因するものは斜線部
S65だけ電荷転送信号S62のときよりも少ない。こ
のため垂直転送部へ転送された蓄積電荷のうち距離情報
の信号電荷S66の占める割合は相対的に高くなり、雑
音である外光による信号電荷の割合は低くなる。したが
って距離情報に対する雑音成分が低減し距離検出精度が
向上する。また雑音による信号電荷の量が減じるととも
にフォトダイオードから垂直転送部への転送時間が短く
なることから、1フィールド期間における電荷の積分回
数を増加させることができるので大きな信号出力を得る
ことができる。
【0065】以上のように本実施形態によれば、高精細
画像に対応した多画素CCDにおいても光シャッタを必
要としない小型の3次元画像入力装置を安価に製造する
ことができる。
【0066】さらに本実施形態によれば、被計測物体に
対して測距光を走査することなく、被計測物体の表面形
状に関する3次元画像のデータ、すなわち距離情報を一
括して計測することができる。したがって被計測物体の
3次元画像を得るまでの時間を大幅に短縮することが可
能となる。
【0067】なお本実施形態では被計測物体の距離情報
に対して、外光等の影響が除去されていたが、外光等の
影響が無視できるときは、(9)式において外光等の影
響に関する信号電荷の積分値(すなわちSM11、S
21)を省略すればよい。これにより、被計測物体の表
面の反射率のみに関する補正が行なわれる。
【0068】またステップ105、110、115、1
20では、1フィールド期間の間、信号電荷の蓄積が行
なわれているが、これに代えて、複数フィールド期間、
電荷蓄積を行なうようにしてもよい。
【0069】また本実施形態におけるCCDは、フォト
ダイオード51a1 を3個のフォトダイオード51a2
を挟んで垂直ライン上にとびとびに配置していたが、所
定の数のフォトダイオード51a2 を挟んで水平ライン
上にとびとびに配置してもよい。またこれらの配置を組
み合せて格子状に配置してもよい。
【0070】
【発明の効果】以上のように本発明によれば、光シャッ
タを必要とせず小型で安価であり、しかも高精細画像に
対応した多画素CCDにおいても十分に大きい出力を得
ることのできる3次元画像入力装置を得ることができ
る。
【図面の簡単な説明】
【図1】本発明の一実施形態である3次元画像入力装置
を備えたカメラの斜視図である。
【図2】図1に示すカメラの回路構成を示すブロック図
である。
【図3】測距光による距離測定の原理を説明するための
図である。
【図4】測距光、反射光、ゲートパルス、およびCCD
が受光する光量分布を示す図である。
【図5】CCDに設けられるフォトダイオードと垂直転
送部の配置を示す図である。
【図6】CCDを基板に垂直な平面で切断して示す断面
図である。
【図7】被計測物体までの距離に関するデータを検出す
る距離情報検出動作のタイミングチャートである。
【図8】距離補正情報の検出動作のタイミングチャート
である。
【図9】反射率情報の検出動作のタイミングチャートで
ある。
【図10】反射率補正情報の検出動作のタイミングチャ
ートである。
【図11】距離情報検出動作のフローチャートの前半部
である。
【図12】距離情報検出動作のフローチャートの後半部
である。
【図13】CCD回路内における垂直転送電極の等価回
路である。
【図14】垂直転送電極の等価回路への入力信号波形と
そのときの出力信号波形を表す図である。
【図15】フォトダイオードを間引いて距離情報検出動
作を行なったときと間引かないで行なったときのタイミ
ングチャートである。
【符号の説明】
発光装置 14 フォトダイオード 51a1 、51a2 垂直転送電極 52a1 、52a2 垂直転送部 52

Claims (11)

    【特許請求の範囲】
  1. 【請求項1】 被計測物体に測距光を照射する光源と、 前記被計測物体からの反射光を受け、受光量に応じた電
    荷を蓄積可能な第1及び第2の光電変換素子と、 前記第1の光電変換素子に隣接して設けられた第1の信
    号電荷保持部と、 前記第2の光電変換素子に隣接して設けられた第2の信
    号電荷保持部と、 前記第1の光電変換素子に蓄積した第1の信号電荷を前
    記第1の信号電荷保持部のみに接続された第1の電極を
    用いて前記第1の信号電荷保持部に転送する第1の信号
    電荷転送手段と、 前記第2の光電変換素子に蓄積した第2の信号電荷を前
    記第2の信号電荷保持部のみに接続された第2の電極を
    用いて前記第2の信号電荷保持部に転送する第2の信号
    電荷転送手段と、 前記第1の信号電荷転送手段を繰り返し駆動することに
    より、前記第1の信号電荷保持部において前記被計測物
    体の距離情報に関する前記第1の信号電荷を積分する信
    号電荷積分手段とを備えたことを特徴とする3次元画像
    入力装置。
  2. 【請求項2】 前記第1の光電変換素子に蓄積した不要
    電荷を前記第1の光電変換素子から掃出すことにより前
    記第1の光電変換素子における信号電荷の蓄積動作を開
    始させる第1の蓄積電荷掃出手段と、 前記第2の光電変換素子に蓄積した不要電荷を前記第2
    の光電変換素子から掃出すことにより前記第2の光電変
    換素子における信号電荷の蓄積動作を開始させる第2の
    蓄積電荷掃出手段とを備え、 前記信号電荷積分手段が、前記第1の蓄積電荷掃出手段
    と前記第1の信号電荷転送手段とを交互に駆動すること
    により行われることを特徴とする請求項1に記載の3次
    元画像入力装置。
  3. 【請求項3】 前記第1及び第2の光電変換素子が基板
    に沿って形成され、前記第1の蓄積電荷掃出手段が不要
    電荷を前記基板側に掃出すことを特徴とする請求項2に
    記載の3次元画像入力装置。
  4. 【請求項4】 前記第1及び第2の信号電荷保持部が前
    記第1及び第2の信号電荷を3次元画像入力装置の外部
    に出力するための垂直転送部であることを特徴とする請
    求項1に記載の3次元画像入力装置。
  5. 【請求項5】 前記第1の光電変換素子が所定方向に前
    記第2の光電変換素子を所定の数だけ挟んで配列されて
    いることを特徴とする請求項1に記載の3次元画像入力
    装置。
  6. 【請求項6】 前記第1の蓄積電荷掃出手段において前
    記不要電荷を掃出すために出力される電荷掃出し信号
    と、前記第1の信号電荷転送手段において前記第1の信
    号電荷を転送するために出力される第1の電荷転送信号
    と、前記第2の信号電荷転送手段において前記第2の信
    号電荷を転送するために出力される第2の電荷転送信号
    とがそれぞれパルス信号であることを特徴とする請求項
    2に記載の3次元画像入力装置。
  7. 【請求項7】 前記被計測物体の距離情報に対応した信
    号電荷が、前記第1の光電変換素子による前記反射光の
    受光終了まで、前記第1の光電変換素子において蓄積さ
    れることを特徴とする請求項6に記載の3次元画像入力
    装置。
  8. 【請求項8】 前記電荷掃出し信号の出力が終了するこ
    とによって、前記被計測物体の距離情報に対応した信号
    電荷の前記第1の光電変換素子における蓄積が開始する
    ことを特徴とする請求項7に記載の3次元画像入力装
    置。
  9. 【請求項9】 前記光源によって、パルス状の測距光が
    出力され、前記電荷掃出し信号が出力されてから前記第
    1の電荷転送信号が出力されるまでの第1の電荷蓄積期
    間中、前記測距光のパルスが出力されることによって、
    前記被計測物体の距離情報に対応した信号電荷が前記第
    1の信号電荷保持部において積分されることを特徴とす
    る請求項6に記載の3次元画像入力装置。
  10. 【請求項10】 前記光源による前記測距光の照射動作
    を禁止する照射動作制御手段と、 前記照射動作制御手段により前記測距光の照射を禁止し
    た状態で、前記第1及び第2の蓄積電荷掃出手段と前記
    第1及び第2の信号電荷転送手段とを駆動して前記被計
    測物体の画像情報に関する前記第1及び第2の信号電荷
    をそれぞれ前記第1及び第2の信号電荷保持部に転送す
    る画像情報検出手段とを備えたことを特徴とする請求項
    1に記載の3次元画像入力装置。
  11. 【請求項11】 被計測物体に光を照射する光源と、 所定のグループに分けられ、受光量に応じた電荷を生成
    する複数の光学センサと、 前記光学センサにおいて生成された前記電荷を前記光学
    センサの外部へ転送するために前記光学センサの各々に
    設けられた電荷転送電極と、 前記電荷転送電極により前記光学センサから転送される
    前記電荷を保持転送するための電荷転送部と、 前記光学センサ毎に設けられた前記電荷転送電極を前記
    光学センサの前記グループ毎に制御可能な電荷転送電極
    制御手段と、 前記電荷転送電極制御手段を繰り返し駆動することによ
    り前記光学センサの一部のグループで生成された電荷を
    前記電荷転送部へ繰り返し転送し、この電荷を前記電荷
    転送部において累積的に蓄積する生成電荷蓄積手段とを
    備えることを特徴とする3次元画像入力装置。
JP16288999A 1999-06-09 1999-06-09 3次元画像入力装置 Expired - Fee Related JP4136195B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP16288999A JP4136195B2 (ja) 1999-06-09 1999-06-09 3次元画像入力装置
US09/589,064 US6982761B1 (en) 1999-06-09 2000-06-08 Device for capturing three-dimensional images with independently controllable groups of photoelectric conversion elements

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP16288999A JP4136195B2 (ja) 1999-06-09 1999-06-09 3次元画像入力装置

Publications (3)

Publication Number Publication Date
JP2000346626A true JP2000346626A (ja) 2000-12-15
JP2000346626A5 JP2000346626A5 (ja) 2006-06-29
JP4136195B2 JP4136195B2 (ja) 2008-08-20

Family

ID=15763190

Family Applications (1)

Application Number Title Priority Date Filing Date
JP16288999A Expired - Fee Related JP4136195B2 (ja) 1999-06-09 1999-06-09 3次元画像入力装置

Country Status (1)

Country Link
JP (1) JP4136195B2 (ja)

Also Published As

Publication number Publication date
JP4136195B2 (ja) 2008-08-20

Similar Documents

Publication Publication Date Title
JP3574607B2 (ja) 3次元画像入力装置
JP4391643B2 (ja) 3次元画像入力装置
JP3574602B2 (ja) 3次元画像入力装置
JP3820087B2 (ja) 3次元画像検出装置
JP4105801B2 (ja) 3次元画像入力装置
JP4303354B2 (ja) 3次元画像入力装置
JP4157223B2 (ja) 3次元画像入力装置
US7091978B2 (en) Processing apparatus and photographing device
JP4369575B2 (ja) 3次元画像検出装置
JP4369574B2 (ja) 3次元画像検出装置
JP2000341720A (ja) 3次元画像入力装置および記録媒体
US6778219B1 (en) Three-dimensional image capturing device
JP4270658B2 (ja) 3次元画像検出装置
JP4428831B2 (ja) 3次元画像検出装置
US6982761B1 (en) Device for capturing three-dimensional images with independently controllable groups of photoelectric conversion elements
JP2000083260A (ja) 3次元画像入力装置
JP2001275132A (ja) 3次元画像検出装置と撮像素子駆動回路
JP4136195B2 (ja) 3次元画像入力装置
JP4391661B2 (ja) 3次元画像検出装置
JP2001008233A (ja) 3次元画像入力装置
JP4250281B2 (ja) 3次元画像検出装置
JP2001045520A (ja) 3次元画像検出装置および光通信受信装置
JP4346736B2 (ja) 3次元画像検出装置
JP3954300B2 (ja) 3次元画像検出装置
JP2000333210A (ja) 3次元画像入力装置および記録媒体

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060515

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060515

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080305

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080311

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080417

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20080425

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080520

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080603

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110613

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120613

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120613

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120613

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130613

Year of fee payment: 5

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees