JP4969111B2 - 車両の後方監視カメラ及び運転支援装置 - Google Patents

車両の後方監視カメラ及び運転支援装置 Download PDF

Info

Publication number
JP4969111B2
JP4969111B2 JP2006043251A JP2006043251A JP4969111B2 JP 4969111 B2 JP4969111 B2 JP 4969111B2 JP 2006043251 A JP2006043251 A JP 2006043251A JP 2006043251 A JP2006043251 A JP 2006043251A JP 4969111 B2 JP4969111 B2 JP 4969111B2
Authority
JP
Japan
Prior art keywords
driving support
vehicle
light source
cameras
support device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006043251A
Other languages
English (en)
Other versions
JP2007223342A (ja
Inventor
雅明 福原
謙 大角
竜彦 門司
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Automotive Systems Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Automotive Systems Ltd filed Critical Hitachi Automotive Systems Ltd
Priority to JP2006043251A priority Critical patent/JP4969111B2/ja
Publication of JP2007223342A publication Critical patent/JP2007223342A/ja
Application granted granted Critical
Publication of JP4969111B2 publication Critical patent/JP4969111B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、自動車等の車両に搭載される車載カメラ装置及びそれを用い運転の支援を行う運転支援装置に係り、特に、車両後方における運転支援を行う装置に関する。
近年、方向転換や駐車場への駐車などの車両の後退時、車両後方の様子を車両後部に設けられた車載カメラにより撮影し、運転者に提供することで車両後方における運転者からの死角を低減して運転を支援する、いわゆるバックビューモニタと呼ばれる運転支援装置を備えた車両が普及してきている。最近では、単に後方の映像を表示するだけではなく、駐車区画線を映像にハイライト表示したり、ステアリング角に基づく車両の予測進路を表示したりして運転を支援する機能を有する運転支援装置も実現されてきている。
例えば、特開2002−321581号公報には、車両の進行方向の映像を表示すると共に、ステアリング角に基づいて車両の進路を予測し、駐車車両などの対象物との接触を回避する駐車支援装置が開示されている。このような運転支援装置において、実際に駐車する場所の判定は、予め運転者が行うものであり、目的エリアに障害物があるか否か、或いは駐車するための空間が十分であるかどうかの判定は、運転者に委ねられていた。
このような従来の運転支援装置に対し、例えば特開2003−2138号公報には、カメラ2台で構成されるステレオカメラにより撮像した映像を利用して障害物を検知し、運転者への警報、あるいは、ブレーキアシスト操作を行う、運転支援装置が開示されている。
特開2002−321581号公報 特開2003−2138号公報
特開2003−2138号公報には、ステレオカメラを構成する2台のカメラを、リアウインド両隅の天井付近のボディに設置することが開示されている。このような位置にカメラを設けると、車両の形状によっては、カメラ部の突起が車両デザインを著しく損なう場合があり、また、ボディのゆがみから、2台のカメラの光軸がずれて、3次元距離測定の精度が低下する恐れもある。
ステレオカメラは、高価な装置でありながら使用機会は、車両の駐車や後退時に限られており、稼働率が低く、効果的に使用できていないという問題がある。さらに、高精度な制御を行うためには、高解像度の撮像素子が求められるが、画素の大きさは感度に比例し、同じ光学サイズで高解像度の撮像素子を用いると感度が低下し、夜間の3次元距離測定性能が低下する。同画素サイズで光学サイズの大きい撮像素子は非常に高価であり、車載用の部品としてのコスト的な問題も生じていた。
上述した課題を解決するために、本発明による運転支援装置は、複数台のカメラを有して構成される車両の後方監視カメラと該後方監視カメラにより撮像された映像情報を用いて運転支援を行う制御装置とを有する車両の運転支援装置において、前記制御装置は、シフトレバーの設定位置に応じて前記複数のカメラによって取り込まれる映像の画素数を切り替え、複数台のカメラは、ステーと該ステーの両側に設けられたカメラ機構部とから構成される共通する一つの部材に固定され、車両後部ナンバープレートが取り付けられる車両ボディの凹部の範囲であって、車両ボディに対して突起しない場所に備えられる。
好ましくは、複数台のカメラが固定される部材と同一の部材にカメラの撮像範囲を照らす複数の光源が固定される。これら複数の光源は、カメラが有する撮像素子の感度波長と同じ波長の光を発し、それぞれ独立して光量の調節がなされる。
車両デザインを損なうことがなく、3次元距離測定を行うために十分な精度を維持することのできる運転支援装置を実現できる。
図1は、本発明の一実施形態における運転支援装置の構成を示す概略ブロック図である。
運転支援装置は、後方監視用ステレオカメラ10,第一の光源11,第二の光源12,コントロールユニット13,アクセル制御装置14,ステアリング制御装置15,ブレーキ制御装置16,車速センサ17,Rレンジ検出手段18,ステアリング操舵角センサ
19,ナビゲーションシステム20,アクティブヘッドレスト装置21,エアバック装置22を含んで構成される。
コントロールユニット13は、白線や車両などを検出する図示しない前方監視用カメラと接続されていても良い。
これら各装置,手段は、CANをなどの通信手段を介して相互に通信可能に接続されている。
図2は、後方監視用ステレオカメラの構成を示すブロック図である。後方監視用ステレオカメラ10は、第一のカメラ110,第二のカメラ120、及び処理部130を含んで構成される。
第一のカメラ110及び第二のカメラ120は、同様の構成を有しており、それぞれレンズ等で構成される光学系111,光学系111を通して得られる映像を電気信号に変換する撮像素子112,撮像素子112により得られたアナログの電気信号をデジタル信号に変換するAD変換器113を有する。図示しないが、光学系111は、レンズや偏向フィルタ,可視光カットフィルタなどを有して構成される。
撮像素子112としては、例えば、38万画素以上の高解像度のものを用いるのが好ましい。高解像度の撮像素子を用いることにより、精度の高い画像処理を行うことができ、3次元距離測定精度を向上させ、また、装置の組み込み誤差や経時変化に伴う光軸ズレのために設ける補正シロを増やすことが可能となる。
AD変換器113は、10ビット以上の分解能を持つ撮像素子用のAD変換器であり、相関二重サンプリング(CDS),プログラマブル・ゲイン・コントロール(PGA),タイミングジェネレータ(TG)などの機能を有する。これらの機能が撮像素子112と1つの半導体チップ上に集積されたCMOSセンサを使えば、装置を小型化することが可能である。
処理部130は、画像処理LSI131,CPU132,CANドライバ133,メモリ134,第一の光源駆動回路135,第二の光源駆動回路146を有して構成される。
画像処理LSI131は、第一のカメラ110及び第二のカメラ120から出力されるデジタル映像出力を取り込み、映像の特徴量の抽出、2つのカメラの視差に基づく3次元距離測定などの処理を行うLSIである。
CPU132は、第一のカメラ110,第二のカメラ120のシャッタやゲインの制御を行うと共に、画像処理LSI131による画像処理の結果に基づき得られる車両後方の障害物や接近車両などの情報を、CANドライバ133,CANバスなどの通信手段を通じて上位のコントロールユニット13に転送する。また、第一の光源11及び第二の光源12に対する光量制限やオン,オフなどの制御を行う。
メモリ134は、画像データを一時的に記憶するバッファ,プログラムを格納するものである。画像処理LSI131,CPU132,メモリ134などは小型化のためマルチチップモジュールなどにより1チップ化されていても良い。
第一の光源駆動回路135,第二の光源駆動回路136は、それぞれ対応する光源のオン,オフと、光量を制御するためにDUTY制御や電流制御を行う。第一の光源駆動回路135と第二の光源駆動回路136の発光波長は、撮像素子112の感度特性を考慮したもので、撮像素子の感度が高い波長に合わせて、発光波長のピークを持たせる。これにより光量的に効率良く映像情報を取得することが可能となり、撮像素子112の高解像度化による感度低下を補うことができる。
図3は、本発明の一実施形態におけるステレオカメラ10の外観図である。
ステレオカメラ10は、ステー201と、左右のカメラ機構部202を有して構成される。
左右あるカメラ機構部202の一方の側には第一のカメラ110が、他方の側には第二のカメラが配置される。カメラ機構部202は、第一及び第二のカメラそれぞれの光学系111と撮像素子112の位置関係を保持するよう構成される。
ステー201は、左右のカメラ機構部202の光軸を、3次元距離測定するためのしかるべき方向に固定する。ステー201は、3次元距離測定の精度を保つため、振動や衝撃に対して強い,剛性の高い素材で構成される。
ステー201の左右両側には、カメラ機構部202の他、それぞれ第一の光源11及び第二の光源12が配置される。すなわち、第一及び第二の光源11,12は、左右一対ずつ設けられている。また、ステー201は、処理部130などを実現する回路を搭載したプリント基板を固定するための筐体としても用いられる。
図4は、ステレオカメラ10の取り付け位置を示す車両の部分外観図である。
多くの乗用車は車両後部のトランクや、ハッチのドアオープナーが設けられる凹部にナンバープレートが設置されている。図4は、いわゆるセダンタイプの乗用車を後部から見た部分外観を示しており、凹部400にナンバープレート402が取り付けられ、また、トランクのオープナー601が設けられている。
本実施例において、後方監視用ステレオカメラ10は、凹部400のナンバープレート402上部に、トランクやハッチの面より内側になるように組み込まれる。このように後方監視用ステレオカメラ10を設置することで、車両のボディラインを損なうことが無く、さらには雨や直射日光,泥はねの汚れなどから直接の影響を受けにくくすることができる。このとき、第一及び第二のカメラ装置110,120により撮影される領域の一部に自車両のバンパーの少なくとも一部が含まれるように調整される。
後方監視用ステレオカメラ10に設けられる第一の光源11は、主に遠距離を照射しており、スモールライトなどと連動して、夜間は常時点灯するよう制御される。また、リフレクタなどにより、発せられた光をナンバープレート402にも導くように構成され、遠方と同時にナンバープレートを照射する。夜間、必要に応じ、より遠くの映像を取得したい場合は、第一の光源駆動回路135を制御して光量を調整することが可能である。
第二の光源12は、第一の光源11に比べ、近距離ではあるが、より広角な範囲を照射する光源として構成される。第二の光源12は、シフトレバーが後退位置(Rレンジ)に入れられたことをRレンジ検出手段18が検出した場合に点灯される。第二の光源12は、近距離照らすのみではなく、バックランプを兼用するようにしてもかまわない。
図5は、コントロールユニット13により実施される処理の流れを示すフローチャートである。コントロールユニット13は、イグニションキーがオンされると電源が供給され、その処理を開始する。
コントロールユニット13は、起動されると、まず、各種設定値のクリア等、初期化処理を行う(ステップS100)。
初期化処理の後、コントロールユニット13は、後方監視用ステレオカメラ10から画像を取り込み、エッジ抽出,カラー判定等により自車両のバンパーとして認識される対象物が所定の範囲内に映っているか否か調べ、後方監視用ステレオカメラ10に、カメラレンズの汚れ,光軸ずれなどの異常が生じていないか判定する。この判定において異常が検出された場合、コントロールユニット13は、画像取り込みの原点補正等の補正により補正が可能な範囲か否かを判断する(ステップS101,S103)。これらの判断の結果、映像が正常でないと判断された場合、コントロールユニット13は、ドライバにシステム動作不可の警報を発行する(ステップS102)。
ステップS104で、コントロールユニット13は、Rレンジ検出手段18によりシフトレバー位置がRレンジに設定されていることが確認されたか否か判別する。シフトレバーが、Rレンジに設定されている場合は、ナビゲーションシステム20により自車両の現在位置付近の情報を取り込む(ステップS105)。ナビゲーションシステム20から取り込んだ情報から、自車両の現在位置付近に自宅或いは駐車場があるかの判別が行われる(ステップS106)。自車両の現在位置付近に自宅或いは駐車場がない場合、処理はステップS104に戻る。自車両の現在位置付近に自宅或いは駐車場が存在する場合、コントロールユニット13は、駐車運転支援モードに移行する(ステップS107)。駐車が終わると、駐車運転支援モードを終え、S104以降の処理を継続する。
駐車支援モードでは、後方監視用ステレオカメラ10,車速センサ17,ステアリング操舵角センサ19,アクセル制御装置14,ステアリング制御装置15から得られる情報を使用しながら、駐車区画線のハイライト表示や、ステアリング角に基づく車両の予測進路の表示といった運転者に対する支援を行う。このような運転支援については、公知の技術を適用することができ、ここでは詳細な説明は省略する。
ステップS104において、シフトレバーがRレンジに入れられていない場合、コントロールユニット13は、動作モードを後方監視モードに移行する(ステップS108)。後方監視モードでは、まず、後方監視用ステレオカメラ10からの情報に基づいて、後方からの接近車両があるかどうかを判断する(ステップS109)。後方からの接近車両が検出されない場合、処理はステップS104に戻る。
後方からの接近車両があり、衝突が予測される場合、コントロールユニット13は、エアバック装置22,アクティブヘッドレスト装置21の制御を行い、衝突に伴う衝撃から乗員を保護する(ステップS110,111)。
ステップS109における接近車両の判断、ステップS110におけるエアバック装置22の制御、ステップS111におけるアクティブヘッドレスト装置21の制御は、後方監視用ステレオカメラ10,車速センサ17,ステアリング操舵角センサ19,アクセル制御装置14,ステアリング制御装置15からの情報に基づいて行われるが、これらの処理については、公知の技術を適用することができるので、ここでは詳細な説明は省略する。
図6,図7は使用される画素範囲を説明するためのイメージ図である。
撮像素子の有効画素範囲がX×Yであるとすると、図6において、映像の破線610より外側に位置するX0,Y0の領域は、組み込み誤差や経時変化による光軸ずれを補正するための補正シロとして用いられる。
駐車支援などの機能には、広い映像情報が必要で、例えば、車速が10Km/h以下の比較的ゆっくりとした車両動作であるときには、有効画素X×YからX0,Y0の領域を除く全ての領域X1×Y1(破線610で囲まれた領域)が使用される。広い画角の情報を処理するに伴い、データ転送,映像データの処理等に時間を要することになるが、車両速度の比較的遅い駐車支援等においては特に問題となることはない。
一方、後方から迫ってくる車両の衝突などの予測は、より短時間での処理が要求されるが、比較的狭い範囲の映像情報があれば十分行うことができる。このため、使用する映像領域を、例えば、X2×Y2の領域(図7において破線620で囲まれた領域)に制限し、データ転送,映像データ処理等に要する時間を節約する。本実施例では、駐車支援モードでは、広い範囲の映像を利用し、後方監視モードにおいては、使用する映像領域を制限するように画素範囲の切り替えが行われる。
以上説明した実施例によれば、車両の後方監視装置を構成する2台のカメラが、共通する一つの部材に固定され、車両のトランクやハッチのドアのオープナーの両脇に位置するように配置され、且つ、リヤナンバープレートのある凹部の範囲に治まり、車両ボディに対して突起しない場所に備えられる。これにより、車両のデザインを損なうことを防ぐことができる。
また、光源ごとに光量を調整することが可能で、発する光の波長が撮像素子の感度波長とほぼ同じ波長である複数の光源を使用しているため、夜間においても高解像度で映像を取得することができる高性能な後方運転支援装置を安価に実現できる。
また、後方接近車両の監視機能と駐車支援機能を一つの装置で実現でき、バック走行時のみならず、通常の走行時にも後方監視カメラを利用するので、高価なカメラをより効果的に活用することができる。
本発明の一実施形態における運転支援装置の構成を示す概略ブロック図である。 後方監視用ステレオカメラの構成を示すブロック図である。 後方監視用ステレオカメラ10の外観図である。 後方監視用ステレオカメラ10の取り付け位置を示す車両の部分外観図である。 コントロールユニット13により実施される処理の流れを示すフローチャートである。 使用される画素範囲を説明するためのイメージ図である。 使用される画素範囲を説明するためのイメージ図である。
符号の説明
10…後方監視用ステレオカメラ、11…第一の光源、12…第二の光源、13…コントロールユニット、14…アクセル制御装置、15…ステアリング制御装置、16…ブレーキ制御装置、17…車速センサ、18…Rレンジ検出手段、19…ステアリング操舵角センサ、20…ナビゲーションシステム、21…アクティブヘッドレスト装置、22…エアバック装置、110…第一のカメラ、111…光学系、112…撮像素子、113…
AD変換器、120…第二のカメラ、130…処理部、131…画像処理LSI、132…CPU、133…CANドライバ、134…メモリ、135…第一の光源駆動回路、
136…第二の光源駆動回路、201…ステー、202…カメラ機構部、401…リアドアのオープナー、402…ナンバープレート。

Claims (7)

  1. 複数のカメラを備えて構成される車両の後方監視カメラと、該後方監視カメラにより撮像された映像情報を用いて運転支援を行う制御装置とを有する運転支援装置において、
    前記制御装置は、シフトレバーの設定位置に応じて前記複数のカメラによって取り込まれる映像の画素数を切り替え
    前記複数のカメラは、ステーと該ステーの両側に設けられたカメラ機構部とから構成される共通する一つの部材に固定され、該部材を介して車両後部のナンバープレートが取り付けられる車両ボディの凹部の範囲であって、車両ボディに対して突出しない箇所に備えられることを特徴とした運転支援装置。
  2. 前記運転支援装置は、さらに、前記部材に固定され、前記複数のカメラにより撮影される領域を照らす光源を有することを特徴とする請求項1記載の運転支援装置。
  3. 前記光源が複数であることを特徴とする請求項2の記載の運転支援装置。
  4. 前記複数の光源の各々の光量をそれぞれ独立して調整する光源駆動回路を有することを特徴とする請求項3記載の運転支援装置。
  5. 前記光源の発する光の波長が、前記複数のカメラが有する撮像素子の感度波長と同じ波長であることを特徴とする請求項2乃至4記載の運転支援装置。
  6. 前記光源は、シフトレバーがRレンジに設定されたとき点灯するように制御されることを特徴とする請求項2乃至5記載の運転支援装置。
  7. 前記光源は、スモールライトのスイッチと連動してON/OFFが制御されることを特徴とする請求項2乃至6記載の運転支援装置。
JP2006043251A 2006-02-21 2006-02-21 車両の後方監視カメラ及び運転支援装置 Active JP4969111B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006043251A JP4969111B2 (ja) 2006-02-21 2006-02-21 車両の後方監視カメラ及び運転支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006043251A JP4969111B2 (ja) 2006-02-21 2006-02-21 車両の後方監視カメラ及び運転支援装置

Publications (2)

Publication Number Publication Date
JP2007223342A JP2007223342A (ja) 2007-09-06
JP4969111B2 true JP4969111B2 (ja) 2012-07-04

Family

ID=38545562

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006043251A Active JP4969111B2 (ja) 2006-02-21 2006-02-21 車両の後方監視カメラ及び運転支援装置

Country Status (1)

Country Link
JP (1) JP4969111B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5558342B2 (ja) 2009-02-27 2014-07-23 トヨタ自動車株式会社 車載レーダー装置および車載レーダー装置用カバー
JP5513190B2 (ja) * 2010-03-19 2014-06-04 パナソニック株式会社 車両後方監視装置および車両後方監視方法
JP2013217697A (ja) * 2012-04-05 2013-10-24 Denso Corp レーダ装置
JP2014016962A (ja) * 2012-07-11 2014-01-30 Resonant Systems Inc 車両周辺監視システム
WO2015038501A1 (en) * 2013-09-11 2015-03-19 Robert Bosch Gmbh Modifying adaptive cruise control to mitigate rear-end collisions
KR101675557B1 (ko) * 2015-06-02 2016-11-11 주식회사 케이에스에스이미지넥스트 광 패턴 촬영 이미지를 이용한 차량 제어 방법 및 장치
CN105059216A (zh) * 2015-08-17 2015-11-18 南京航空航天大学 一种汽车开门防撞系统
JP2017193239A (ja) * 2016-04-20 2017-10-26 スタンレー電気株式会社 車載システム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3402023B2 (ja) * 1995-10-18 2003-04-28 日産自動車株式会社 後側方車両報知装置
JP4048949B2 (ja) * 2002-12-26 2008-02-20 三菱自動車工業株式会社 駐車支援装置
JP4034257B2 (ja) * 2003-10-15 2008-01-16 本田技研工業株式会社 リヤビューカメラ取付け構造
JP2006007977A (ja) * 2004-06-25 2006-01-12 Stanley Electric Co Ltd 車両用バックモニタ

Also Published As

Publication number Publication date
JP2007223342A (ja) 2007-09-06

Similar Documents

Publication Publication Date Title
JP4969111B2 (ja) 車両の後方監視カメラ及び運転支援装置
JP4863741B2 (ja) 対象物検出システム、駆動装置、車両
JP3349412B2 (ja) 車両搭載カメラ
CN102245433B (zh) 用于监视车辆的周围环境的装置
JPH1178717A (ja) 車両搭載カメラ
CN107792177B (zh) 停车支援装置
JP2008054030A (ja) 車両周辺監視装置
US20110181406A1 (en) Display system and vehicle having the same
JP2003158649A (ja) 車載用ビデオカメラ
CN112644469A (zh) 停车辅助装置、停车辅助方法以及记录介质
JP2021187369A (ja) 車載カメラ装置
JP2020100213A (ja) 移動体用撮影システム
US11760275B2 (en) Image pickup system and image pickup device
WO2018225503A1 (ja) コネクタ装置、及びコネクタシステム
US11100353B2 (en) Apparatus of controlling region of interest of image and method for controlling the same
JP4664219B2 (ja) 車両用灯具の照射方向制御装置
JP7247201B2 (ja) 車載カメラ、及びこれを用いた駆動制御システム
JP2007168670A (ja) 車載用表示装置
CN114286074A (zh) 车辆复眼相机
JPH05338492A (ja) 可動式車載カメラ装置
US20190027041A1 (en) Display control device
WO2023067868A1 (ja) 車載撮像システム
JP2020043395A (ja) カメラキャリブレーション装置
US20230286533A1 (en) Method for detecting objects in a vehicle detection field comprising an interior and an outer region of a vehicle
JP7267980B2 (ja) 車両用カメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080130

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20091228

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110829

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20111004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111228

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20120126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120306

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120403

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150413

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4969111

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350