JP2007253748A - 対象物検出システム、駆動装置、車両 - Google Patents

対象物検出システム、駆動装置、車両 Download PDF

Info

Publication number
JP2007253748A
JP2007253748A JP2006079326A JP2006079326A JP2007253748A JP 2007253748 A JP2007253748 A JP 2007253748A JP 2006079326 A JP2006079326 A JP 2006079326A JP 2006079326 A JP2006079326 A JP 2006079326A JP 2007253748 A JP2007253748 A JP 2007253748A
Authority
JP
Japan
Prior art keywords
object detection
vehicle
detection system
camera
imaging means
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006079326A
Other languages
English (en)
Other versions
JP4863741B2 (ja
Inventor
Hiroshi Aoki
洋 青木
Masato Yokoo
正登 横尾
Yutaka Hakomori
裕 箱守
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Takata Corp
Original Assignee
Takata Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Takata Corp filed Critical Takata Corp
Priority to JP2006079326A priority Critical patent/JP4863741B2/ja
Priority to US11/710,520 priority patent/US7720375B2/en
Priority to CN2007100844128A priority patent/CN101041342B/zh
Priority to EP07005681A priority patent/EP1837805B1/en
Priority to DE602007005958T priority patent/DE602007005958D1/de
Publication of JP2007253748A publication Critical patent/JP2007253748A/ja
Application granted granted Critical
Publication of JP4863741B2 publication Critical patent/JP4863741B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/013Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over
    • B60R21/0134Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over responsive to imminent contact with an obstacle, e.g. using radar systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/01516Passenger detection systems using force or pressure sensing means
    • B60R21/0152Passenger detection systems using force or pressure sensing means using strain gauges
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/0153Passenger detection systems using field detection presence sensors
    • B60R21/01538Passenger detection systems using field detection presence sensors for image processing, e.g. cameras or sensor arrays
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60TVEHICLE BRAKE CONTROL SYSTEMS OR PARTS THEREOF; BRAKE CONTROL SYSTEMS OR PARTS THEREOF, IN GENERAL; ARRANGEMENT OF BRAKING ELEMENTS ON VEHICLES IN GENERAL; PORTABLE DEVICES FOR PREVENTING UNWANTED MOVEMENT OF VEHICLES; VEHICLE MODIFICATIONS TO FACILITATE COOLING OF BRAKES
    • B60T7/00Brake-action initiating means
    • B60T7/12Brake-action initiating means for automatic initiation; for initiation not subject to will of driver or passenger
    • B60T7/22Brake-action initiating means for automatic initiation; for initiation not subject to will of driver or passenger initiated by contact of vehicle, e.g. bumper, with an external object, e.g. another vehicle, or by means of contactless obstacle detectors mounted on the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • B60R2001/1253Mirror assemblies combined with other articles, e.g. clocks with cameras, video cameras or video screens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W10/00Conjoint control of vehicle sub-units of different type or different function
    • B60W10/18Conjoint control of vehicle sub-units of different type or different function including control of braking systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transportation (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Traffic Control Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Air Bags (AREA)

Abstract

【課題】 車両内外の対象物に関する情報を複数の撮像手段を用いて検出する対象物検出システムにつき、当該対象物検出システムの合理化を図るのに有効な技術を提供する。
【解決手段】 車両に搭載される対象物検出システム100では、車両内外の対象物に関する情報を第1カメラ110及び第2カメラ120が、対象物に関する情報を検出する制御を行う制御装置130と、車両バッテリ20から供給された電力を各カメラへと供給する電源装置140のうちの少なくとも一方を共有する構成とされる。
【選択図】 図1

Description

本発明は、車両に搭載される対象物検出システムに係り、詳しくは車両内外の対象物に関する情報を検出する技術に関するものである。
従来、カメラ等の撮像手段を用いて、車両シート上の着座物に関する情報を検出する種々の技術が知られている。例えば、下記特許文献1には、車両乗員の前方に設置した単一のカメラを用い、当該車両乗員の位置を検出しようとする乗員検知装置の構成が開示されている。
特開2003−294855号公報
上記特許文献1に記載の乗員検知装置のように、車両においてカメラ等の撮像手段を用いて車両周辺の対象物を撮影する技術は、対象物に関する情報を検出するのに有効とされるが、この種の対象物検出技術に関しては、車両内外の対象物に関する情報を複数の撮像手段を用いて合理的に検出するシステムを構築する要請がある。
本発明は、かかる点に鑑みてなされたものであり、車両内外の対象物に関する情報を複数の撮像手段を用いて検出する対象物検出システムにつき、当該対象物検出システムの合理化を図るのに有効な技術を提供することを課題とする。
前記課題を解決するために、本発明が構成される。本発明は、典型的には自動車において、車両内外の対象物に関する情報を撮像手段を用いて検出する対象物検出システムに適用することができるが、自動車以外の車両、例えば航空機、船舶、電車、バス等に関する対象物検出システムの構築技術に対しても同様に、本発明を適用することが可能である。
(本発明の第1発明)
前記課題を解決する本発明の第1発明は、請求項1に記載されたとおりの対象物検出システムである。
請求項1に記載のこの対象物検出システムは、第1撮像手段及び第2撮像手段、制御手段、電源手段を少なくとも備える。本発明では、第1撮像手段及び第2撮像手段に加え、更に別の撮像手段を設けることもできる。
本発明の第1撮像手段は、車両内外の領域のうち、第1領域の対象物の画像を撮影する手段として構成される。本発明の第2撮像手段は、第1領域とは異なる第2領域の対象物の画像を撮影する手段として構成される。このとき、第1領域及び第2領域の両方が、車両の領域または車外の領域とされてもよいし、或いは第1領域が車内の領域とされ、第2領域が車外の領域とされてもよいし、或いは第1領域が車外の領域とされ、第2領域が車内の領域とされてもよい。これらの撮像手段として3D式の複眼カメラ、3D式の単眼カメラ、2D式のカメラを適宜用いることができる。
本発明の制御手段は、各撮像手段にて撮影された対象物の画像に基づいて、当該対象物に関する情報を検出する制御を行う手段として構成される。この制御手段は、具体的には、画像処理手段、記憶手段、入出力手段を少なくとも備える。
画像処理手段は、品質の良い画像を得るための各撮像手段の制御や、撮影した画像を加工分析するための画像処理制御を行う機能を有する。撮像手段の制御においては、フレームシート、シャッター時間、感度調整、精度補正が行われ、ダイナミックレンジや輝度、ホワイトバランスなどが調整される。また、画像処理制御においては、画像の回転補正やレンズ歪み補正、フィルター演算、差分演算などの画像前処理演算と、形状判定やトラッキングなどの画像認識処理演算が実行される。また、この画像処理手段では、本実施の形態のように3D式の複眼カメラを用いる場合には視差演算を行い、3D式の単眼カメラを用いる場合には時間差演算を行う。更に、この画像処理手段の機能には、距離補正演算、レンジゲート演算や立体グループ化演算、対象物をトラッキングする移動ベクトル演算などの対象物の認識演算と制御信号を出力するための判断演算が含まれる。
記憶手段は、演算制御ソフトウエアに加えて、補正用のデータや前処理用のバッファーフレームメモリー、認識演算のための定義データや基準パターンを記録(記憶)する機能を有する。
入出力手段は、車両全体に関する制御を行うECUとの間で、車両に関する情報、周辺の交通状況に関する情報、天候や時間帯に関する情報などが入力され認識結果を出力する。車両に関する情報の例としては、車両ドアの開閉、シートベルトの装脱着、ブレーキの作動、車速、ステアリング操舵角度などがある。
本発明の電源手段は、車両バッテリと各撮像手段との間に介在して、当該車両バッテリから供給された電力を少なくとも各撮像手段へと供給する手段として構成される。すなわち、この電源手段は、車両バッテリに接続されており、当該車両バッテリの電源を電圧変換したのちに各撮像手段に供給する、電圧変換部としての機能を有する。従って、この電源手段が対象物検出システムの実質的な電源とされる。この電源手段は、各撮像手段に加えて制御手段に対する電源として構成されるのが好ましい。
特に、本発明では、第1撮像手段及び第2撮像手段が、制御手段及び電源手段のうちの少なくとも一方を共有する構成を採用している。ここでいう「共有」に関しては、制御手段及び電源手段のいずれか一方を共有する態様や、制御手段及び電源手段の両方を共有すする態様を採用することができる。典型的には、第1撮像手段及び第2撮像手段に関する制御が、同一の制御手段によって行なわれる構成や、第1撮像手段及び第2撮像手段に同一の電源手段から電力が供給される構成を用いる。また、第1撮像手段及び第2撮像手段に加え1または複数の別の撮像手段に関する制御が、同一の制御手段によって行なわれる構成や、第1撮像手段及び第2撮像手段に加え1または複数の別の撮像手段に同一の電源手段から電力が供給される構成を用いることもできる。
ここで、本発明の制御手段に関しては、当該制御手段は、対象物検出システムの各構成要素の中でも比較的高価で、且つ発熱量が多い構成要素である。従って、この制御手段を共有することによって、システム性能を低下させることなくコスト及びシステム全体の大きさを抑えることが可能となる。一方、本発明の電源手段に関しては、当該電源手段は撮像手段の電子システムの性能を決める重要な部分である。従って、この電源手段を共有することは、第1撮像手段及び第2撮像手段によるシステムを一体化設計することに等しく、システム全体の大きさを抑えるとともに、省電力を実現するのに有効である。
従って、請求項1に記載の発明によれば、特に第1撮像手段及び第2撮像手段が、制御手段及び電源手段のうちの少なくとも一方を共有する構成によって、対象物検出システムの合理化を図ることが可能となる。
(本発明の第2発明)
前記課題を解決する本発明の第2発明は、請求項2に記載されたとおりの対象物検出システムである。
請求項2に記載のこの対象物検出システムは、請求項1に記載の構成において、最大電流の使用時期が異なる第1撮像手段及び第2撮像手段が、電源手段を共有する構成とされる。また、電源手段から供給される各撮像手段に関する最大電流の供給時期が、第1撮像手段と第2撮像手段とで異なる構成とされる。
このような構成によれば、電源手段を共有したうえで、第1撮像手段と第2撮像手段との電源使用の最大電流(ピーク電流)使用時のタイミングを分けることによって、電源手段の最大供給電流が抑えられ電源を有効利用することができる。また、電源手段のサイズの小型化によって更にシステム全体の大きさを抑えることが可能となる。
(本発明の第3発明)
前記課題を解決する本発明の第3発明は、請求項3に記載されたとおりの対象物検出システムである。
請求項3に記載のこの対象物検出システムでは、請求項1または請求項2に記載の第1撮像手段及び第2撮像手段が、制御手段を共有する構成とされる。そして、この制御手段は、検出した対象物に関する情報及び車両に関する情報の少なくとも一方に基づいて、各撮像手段による対象物検出性能の占有率を可変とする。ここでいう「検出した対象物に関する情報」には、車内については車両乗員の乗降動作の情報、車両乗員の体格の情報、車外については、前方車両や側方車両、自転車、歩行者、障害物等の有無の情報、前方車両や側方車両の車速の情報などが包含される。また、ここでいう「車両に関する情報」には、車両が走行中か否かの情報、車速の情報、車両ドアの開閉の情報、シートベルト装脱着の情報などが包含される。これらの対象物に関する情報や、車両に関する情報は、対象物検出性能の占有率を第1撮像手段と第2撮像手段とにいかなる割合で割り当てるのが適切であるかを判断するのに有効な情報とされる。
従って、このような構成によれば、検出した対象物に関する情報及び車両に関する情報の少なくとも一方に基づいて、各撮像手段による対象物検出性能の占有率を可変とすることによって、対象物検出システムの更なる合理化を図ることが可能となる。
(本発明の第4発明)
前記課題を解決する本発明の第4発明は、請求項4に記載されたとおりの対象物検出システムである。
請求項4に記載のこの対象物検出システムは、請求項3に記載の構成において、第1撮像手段は、第1領域としての車内領域に向かう視野を形成し、第2撮像手段は、第2領域としての車外領域に向かう視野を形成する。
また、この対象物検出システムにおいて、請求項3に記載の制御手段は、車両が停車状態である場合には、第2撮像手段よりも第1撮像手段による対象物検出性能の占有率が高い第1の設定モードにて制御される。すなわち、この第1の設定モードでは、車両が停車中(エンジン停止中或いはアイドリング状態での車両停止中)であるという情報によって、車外を撮影する側の撮像手段よりも、車内を撮影する側の撮像手段に対象物検出性能を多く割り当てる設定とされる。これは、車両が停車状態である場合には、車外の情報を検出する必要性が低いという考えに基づくものである。これにより、第2撮像手段による車外画像の更新を高速で行う必要がなく、その分第1撮像手段による車内画像の品質を向上させることができるため合理的である。このとき、車外を撮影する側の撮像手段よりも、車内を撮影する側の撮像手段に対象物検出性能が多く割り当てられれば、その配分比率は必要に応じて適宜設定可能である。
一方、制御手段は、当該車両が走行状態である場合には、第2撮像手段による占有率が第1の設定モード時よりも高い第2の設定モードにて制御される。すなわち、この第2の設定モードでは、車両が走行中であるという情報によって、車外を撮影する側の撮像手段に割り当てる対象物検出性能を第1の設定モード時よりも高く設定する。これは、車両が走行状態である場合には、車外の情報を検出する必要性が第1の設定モード時よりも高まっているという考えに基づくものである。これにより、第2撮像手段による車外画像の品質を向上させることができるため合理的である。このとき、車外を撮影する側の撮像手段に割り当てる対象物検出性能が第1の設定モード時よりも高く設定されれば、その配分比率は必要に応じて適宜設定可能である。例えば、この第2の設定モードにおいて、車外を撮影する側の撮像手段よりも、車内を撮影する側の撮像手段に対象物検出性能が多く割り当てられる場合や、車内を撮影する側の撮像手段よりも、車外を撮影する側の撮像手段に対象物検出性能が多く割り当てられる場合があってもよい。
従って、請求項4に記載の発明によれば、車内と車外とで使用目的が異なる2つの撮像手段に関し、各々が最大能力で画像処理を要求するタイミングを分離することができ、対象物検出性能低下を招くことなく制御手段の共有が可能となる。
なお、本発明では、制御手段による上記第1の設定モードや第2の設定モードに加え、更に別の設定モードを設けることもできる。例えば、車外の対象物との衝突の危険性が高まったという情報に基づいて、車内を撮影する側の撮像手段よりも、車外を撮影する側の撮像手段に対象物検出性能を多く割り当てる設定モードを設けることができる。また、車外の対象物との衝突が回避できないという情報に基づいて、車外を撮影する側の撮像手段よりも、車内を撮影する側の撮像手段に対象物検出性能を多く割り当てる設定モードを設けることができる。そして、車内を精度良く撮影し乗員の位置や動きを高速で検出した結果、警報出力やブレーキ等により車両衝突を防止する或いは軽減させるべく作動する衝突防止装置や衝突軽減装置、エアバッグやシートベルトにより乗員を拘束するべく作動する乗員拘束装置を乗員の状態に応じて適正に作動させることが可能となる。
(本発明の第5発明)
前記課題を解決する本発明の第5発明は、請求項5に記載されたとおりの対象物検出システムである。
請求項5に記載のこの対象物検出システムは、請求項3に記載の構成において、第1撮像手段は、第1領域としての車内領域の運転席に向かう視野を形成し、第2撮像手段は、第2領域としての車内領域の助手席に向かう視野を形成する。
また、この対象物検出システムにおいて、請求項3に記載の制御手段は、助手席乗員よりも運転席乗員の動作が大きい場合には、第2撮像手段よりも第1撮像手段による対象物検出性能の占有率が高い第1の設定モードにて制御される。すなわち、この第1の設定モードでは、助手席乗員よりも運転席乗員が大きく動作しているという情報によって、助手席を撮影する側の撮像手段よりも、運転席を撮影する側の撮像手段に対象物検出性能を多く割り当てる設定とされる。これは、大きく動作をしている運転席乗員の方が助手席乗員よりも精度良く検出する必要性が高いという考えに基づくものである。例えば車両乗員の乗降時の動作や通常時の姿勢の変化に関し、運転席乗員と助手席乗員の動作を比較することによって、当該動作の大小が判断される。これにより、第2撮像手段による助手席画像の更新を高速で行う必要がなく、その分第1撮像手段による運転席画像の品質を向上させることができるため合理的である。このとき、助手席を撮影する側の撮像手段よりも、運転席を撮影する側の撮像手段に対象物検出性能が多く割り当てられれば、その配分比率は必要に応じて適宜設定可能である。
一方、制御手段は、運転席乗員よりも助手席乗員の動作が大きい場合には、第1撮像手段よりも第2撮像手段による対象物検出性能の占有率が高い第2の設定モードにて制御される。すなわち、この第2の設定モードでは、運転席乗員よりも助手席乗員が大きく動作しているという情報によって、運転席を撮影する側の撮像手段よりも、助手席を撮影する側の撮像手段に対象物検出性能を多く割り当てる設定とされる。これは、大きく動作をしている助手席乗員の方が運転席乗員よりも精度良く検出する必要性が高いという考えに基づくものである。これにより、第1撮像手段による運転席画像の更新を高速で行う必要がなく、その分第2撮像手段による助手席画像の品質を向上させることができるため合理的である。このとき、運転席を撮影する側の撮像手段よりも、助手席を撮影する側の撮像手段に対象物検出性能が多く割り当てられれば、その配分比率は必要に応じて適宜設定可能である。
従って、請求項5に記載の発明によれば、運転席と助手席とで使用目的が異なる2つの撮像手段に関し、各々が最大能力で画像処理を要求するタイミングを分離することができ、対象物検出性能低下を招くことなく制御手段の共有が可能となる。
なお、本発明では、制御手段による上記第1の設定モードや第2の設定モードに加え、更に別の設定モードを設けることもできる。例えば、運転席乗員と助手席乗員を検出した結果、当該検出結果の信頼度を判定したうえで、信頼度の低い方の乗員を撮影する側の撮像手段に対象物検出性能を多く割り当てるように制御する設定モードを設けることができる。このような制御モードによって、信頼度の低い方の乗員の検出精度を向上させることが可能となる。
(本発明の第6発明)
前記課題を解決する本発明の第6発明は、請求項6に記載されたとおりの対象物検出システムである。
請求項6に記載のこの対象物検出システムでは、請求項1〜請求項5のいずれかに記載の第1撮像手段及び第2撮像手段は、いずれも各対象物の立体形状(立体表面形状)を検出する3Dカメラとして構成される。このような構成によれば、特に対象物までの距離を複数回計測する3Dカメラを用いることによって、各対象物の精度の高い認識が可能となる。また、3Dカメラとして複眼カメラを用いて対象物までの距離を計測する構成では、制御手段(画像処理手段)にて行う視差演算のボリュームが大きく、従って第1撮像手段及び第2撮像手段が制御手段を共有するメリットが大きい。また、3Dカメラとして単眼カメラを用いて対象物までの距離を計測する構成では、照明(イルミネータ)の電力消費が大きく、従って各撮像手段ごとに照明の作動タイミングをかえて電源電流を極力平坦化するように制御すれば、第1撮像手段及び第2撮像手段が電源手段を共有するメリットが大きい。これにより、ノイズの発生を抑えるとともに、電源手段のコンパクト化を図ることが可能となる。
(本発明の第7発明)
前記課題を解決する本発明の第7発明は、請求項7に記載されたとおりの対象物検出システムである。
請求項7に記載のこの対象物検出システムでは、請求項1〜請求項6のいずれかに記載の構成において、第1撮像手段を収容する収容部と、第2撮像手段を収容する収容部が単一の筐体によって構成される。このような構成によれば、少なくとも第1撮像手段及び第2撮像手段が単一の筐体に収容された一体化構造が実現されることとなり、システム全体のコンパクト化を図ることが可能となる。
なお、本発明には、第1撮像手段、第2撮像手段、制御手段及び電源手段を全て単一の筐体に収容する構成や、第1撮像手段及び第2撮像手段を第1の筐体に収容し、制御手段及び電源手段を、第1の筐体とは別の第2の筐体に収容する構成等が包含される。
(本発明の第8発明)
前記課題を解決する本発明の第8発明は、請求項8に記載されたとおりの対象物検出システムである。
請求項8に記載のこの対象物検出システムは、請求項7に記載の構成において、第1撮像手段及び第2撮像手段を収容する単一の筐体に、更に制御手段及び電源手段が収容された一体化構造とされる。このような構成によれば、複第1撮像手段及び第2撮像手段に加え、制御手段及び電源手段までもが単一の筐体に収容された一体化構造が実現されることとなり、対象物検出システム全体の更なるコンパクト化を図ることが可能となる。
(本発明の第9発明)
前記課題を解決する本発明の第9発明は、請求項9に記載されたとおりの対象物検出システムである。
請求項9に記載のこの対象物検出システムは、請求項8に記載の構成において、車両の各部位のうちのサイドミラー周辺部或いはインナーリヤビューミラー周辺部に単一の筐体が取り付けられる構成とされる。サイドミラー周辺部として、例えばサイドミラー取り付け部のドア枠パネルを選択することができ、インナーリヤビューミラー周辺部として、例えばセンターコンソールの照明ユニットを選択することができる。このようなサイドミラー周辺部やインナーリヤビューミラー周辺部は、車内や車外への視野を確保するのに有効な部位であり、とりわけ車内の乗員に向かう広い視野を形成するのに効果的な部位である。従って、単一の筐体によって一体化構造とされた対象物検出システムを、サイドミラー周辺部或いはインナーリヤビューミラー周辺部に組み込むことによって、当該対象物検出システムの合理的な配置が実現されることとなる。
(本発明の第10発明)
前記課題を解決する本発明の第10発明は、請求項10に記載されたとおりの駆動装置である。
請求項10に記載のこの駆動装置は、請求項1〜9のいずれかに記載の対象物検出システム、駆動対象、駆動制御手段を少なくとも備える。本発明の駆動対象には、警報出力やブレーキ等により車両衝突を防止する或いは軽減させるべく作動する衝突防止装置や衝突軽減装置、エアバッグやシートベルトにより乗員を拘束するべく作動する乗員拘束装置などが包含される。本発明の駆動制御手段は、対象物検出システムの制御手段において検出された情報に基づいて、駆動対象を駆動制御する手段として構成される。
このような構成によれば、対象物検出システムの制御手段による対象物の検出結果に応じた適正な態様で駆動対象を駆動制御することで、駆動対象のきめ細かい制御が可能となる。
(本発明の第11発明)
前記課題を解決する本発明の第11発明は、請求項11に記載されたとおりの車両である。
請求項11に記載のこの車両は、エンジン走行系統、電装系統、駆動制御装置、車両バッテリ、対象物検出手段を少なくとも備える。エンジン走行系統は、エンジン及び車両の走行に関与する系統として構成される。電装系統は、車両に使われる電機部品に関与する系統として構成される。駆動制御装置は、エンジン走行系統及び電装系統の駆動制御を行う機能を有する装置として構成される。対象物検出手段は、車両内外の領域の複数の対象物に関する情報を検出する手段として構成される。本発明では、この対象物検出手段が、請求項1〜請求項9のいずれかに記載の対象物検出システムを用いて構成される。
このような構成によれば、合理化された対象物検出システムを搭載する車両が提供されることとなる。
以上のように、本発明によれば、車両内外の対象物に関する情報を第1撮像手段及び第2撮像手段を用いて検出する対象物検出システムにつき、特に第1撮像手段及び第2撮像手段が、対象物に関する情報を検出する制御を行う制御手段と、車両バッテリから供給された電力を各撮像手段へと供給する電源手段のうちの少なくとも一方を共有する構成によって、対象物検出システムの合理化を図ることが可能となった。
以下、本発明の実施の形態につき図面を参照しつつ詳細に説明する。まず、図1〜図3を参照しながら、本発明における「対象物検出システム(対象物検出手段)」の一実施の形態である対象物検出システム100の構成を説明する。
本実施の形態に係る車両搭載用の対象物検出システム100の構成が図1に示される。
図1に示すように、本実施の形態の対象物検出システム100は、単一の筐体101に、第1カメラ110、第2カメラ120、制御装置130、電源装置140が少なくとも収容される一体化構造とされる。すなわち、本実施の形態では、各カメラを収容する2つの収容部が単一の筐体101によって構成されており、この単一の筐体101が、本発明における「単一の筐体」に相当する。
本実施の形態の第1カメラ110及び第2カメラ120は、いずれもC−MOS又はCCD(電荷結合素子)を用いたうえで、光センサをアレイ状(格子状)に配置した3D(3次元画像)式のカメラ(「モニター」といもいう)として構成される。本実施の形態では、これら各カメラとして、対象物までの距離を複数回計測することによって当該対象物の立体形状(立体表面形状)を検出する3D式の複眼カメラ(「3Dカメラ」ともいう)を用いており、撮影デバイス(投影レンズなど)及びデータ転送回路を含む構成とされる。なお、この3D式の複眼カメラにかえて、3D式の単眼カメラを用いることもできる。詳細については後述するが、第1カメラ110は、車内領域に向けて配置され、前席や後席の車両シートに着座した車両乗員、前席や後席の車両シートに装着されたチャイルドシートやジュニアシート、前席や後席の車両シートに載置された載置物などの画像を撮影することが可能とされる。一方、第2カメラ120は、車外領域に向けて配置され、歩行者、自転車、車両、障害物などの画像を撮影することが可能とされる。ここで、第1カメラ110が、本発明における「第1撮像手段」に相当し、第2カメラ120が、本発明における「第2撮像手段」に相当する。また、第1カメラ110が向けられる車内領域が、本発明における「第1領域」に相当し、第2カメラ120が向けられる車外領域が、本発明における「第2領域」に相当する。
本実施の形態の制御装置130は、画像処理手段(演算処理手段)、記憶手段、入出力手段等によって構成される。この制御装置130が、本発明における「制御手段」に相当する。本実施の形態では、第1カメラ110及び第2カメラ120がこの制御装置130を共有する構成を用いている。
制御装置130の画像処理手段は、品質の良い画像を得るためのカメラ制御や、撮影した画像を加工分析するための画像処理制御を行う手段として構成される。具体的には、カメラ制御においては、フレームシート、シャッター時間、感度調整、精度補正が行われ、ダイナミックレンジや輝度、ホワイトバランスなどが調整される。また、画像処理制御においては、画像の回転補正やレンズ歪み補正、フィルター演算、差分演算などの画像前処理演算と、形状判定やトラッキングなどの画像認識処理演算が実行される。また、この画像処理手段では、本実施の形態のように3D式の複眼カメラを用いる場合には視差演算を行い、3D式の単眼カメラを用いる場合には時間差演算を行う。更に、この画像処理手段の機能には、距離補正演算、レンジゲート演算や立体グループ化演算、対象物をトラッキングする移動ベクトル演算などの対象物の認識演算と制御信号を出力するための判断演算が含まれる。この画像処理手段では、第1カメラ110及び第2カメラ120が上記各演算の全部又は一部を共有することができ、また各演算の占有率を可変とすることができる。例えば、視差演算や画像前処理演算を共有とする場合は、静止画(フレーム)のフレームレートを割り振ることによって占有率が可変とされる。また、認識演算を共有とする場合には、認識レベルや精度、演算時間を割り振ることによって占有率が可変とされる。
なお、詳細については後述するが、本実施の形態の画像処理手段では、第1カメラ110と第2カメラ120による対象物検出性能の占有率(SF)が、車両に関する情報(車両が走行中か否かの情報、車速の情報、車両ドアの開閉の情報、シートベルト装脱着の情報など)や、対象物に関する情報(車両乗員の乗降動作の情報、車両乗員の体格の情報など)に基づいて可変とされるように設定されている。
制御装置130の記憶手段は、演算制御ソフトウエアに加えて、補正用のデータや前処理用のバッファーフレームメモリー、認識演算のための定義データや基準パターンを記録(記憶)する手段として構成される。
制御装置130の入出力手段は、車両全体に関する制御を行うECU30との間で、車両に関する情報、周辺の交通状況に関する情報、天候や時間帯に関する情報などが入力され認識結果を出力する。車両に関する情報の例としては、車両ドアの開閉、シートベルトの装脱着、ブレーキの作動、車速、ステアリング操舵角度などがある。本実施の形態では、この入出力手段から出力された情報に基づいて、ECU30が駆動対象40に対し駆動制御信号を出力する構成とされる。この駆動対象40としては、警報出力やブレーキ等により車両衝突を防止する或いは軽減させるべく作動する衝突防止装置や衝突軽減装置、エアバッグやシートベルトにより乗員を拘束するべく作動する乗員拘束装置などがあげられる。この駆動対象40が、本発明における「駆動対象」に相当し、この駆動対象40を駆動制御するECU30が、本発明における「駆動制御手段」に相当する。
本実施の形態の電源装置140は、車両バッテリ20と第1カメラ110及び第2カメラ120との間に介在して、第1カメラ110、第2カメラ120及び制御装置130に対し駆動用の電力を供給するための装置として構成される。本実施の形態では、第1カメラ110及び第2カメラ120が、この電源装置140を共有する構成を用いている。この電源装置140は、車両バッテリ20に接続されており、車両バッテリ20の電源を電圧変換したのちに第1カメラ110、第2カメラ120及び制御装置130に供給する、電圧変換部としての機能を有する。従って、この電源装置140は、対象物検出システム100の実質的な電源であり、本発明における「電源手段」を構成する。また、車両バッテリ20が、本発明における「車両バッテリ」に相当する。
また、本実施の形態では、第1カメラ110と第2カメラ120とで最大電流の使用時期が異なる構成とされており、これら第1カメラ110及び第2カメラ120に関し電源装置140が共有とされている。そして、この電源装置140から供給される各カメラに関する最大電流の供給時期が、第1カメラ110と第2カメラ120とで異なる構成になっている。このような構成によれば、電源装置140を共有化したうえで、第1カメラ110と第2カメラ120の電源使用の最大電流(ピーク電流)使用時のタイミングを分けることによって、電源装置140の最大供給電流が抑えられ電源を有効利用することができる。また、電源装置140のサイズの小型化によって更に対象物検出システム全体の大きさを抑えることが可能となる。
ここで、上記構成の対象物検出システム100の具体的な配置態様が図2及び図3に示される。図2には本実施の形態の対象物検出システム100の第1の配置態様において、車両10を上方から視た様子が示され、図3には本実施の形態の対象物検出システム100の第1の配置態様において、車両10のサイドミラー14周辺部を車内から視た様子が示される。
図2及び図3に示すように、本発明の「車両」としての自動車の車両10において、車両の各領域のうちのサイドミラー(「ドアミラー」ともいう)14周辺部に本実施の形態の対象物検出システム100を配置することができる。具体的には、サイドミラー14取り付け部のドア枠パネルに、一体構造の対象物検出システム100が組み込まれている。この部位は、Aピラー12とドア枠パネルとの境界部分として構成される。
図2では、車両左側のサイドミラー14周辺部に対象物検出システム100を設置する場合について記載しているが、車両右側或いは車両両側のサイドミラー14周辺部に対象物検出システム100を設置することもできる。
このような第1の配置態様によって配置された対象物検出システム100によれば、第1カメラ110によって車内へと向かう視野112が形成される。この視野112は、運転席シート、助手席シート及び後席シートの全体を見渡せる広い視野(例えば、FOVが120度の視野)とされる。これにより、前席シート(運転席シート、助手席シート)及び後席シートが撮影され、シート上の車両乗員、チャイルドシート、載置物などの大きさ、形状、位置、有無、種類などの情報が検出されることとなる。一方、第2カメラ120によって車外側方へと向かう視野122(例えば、FOVが60度の視野)が形成される。これにより、車両側方に存在する歩行者、自転車、他の車両(追い越し車両)、障害物などの大きさ、形状、位置、有無、種類などの情報が検出されることとなる。例えば、ブラインドスポットの検出、側方衝突の可能性、側方衝突の発生などがこの第2カメラ120によってチェックされる。なお、この第2カメラ120を、その視野122が車外前方へ向けて形成されるように構成することもできる。
また、当該車両10は、特に図示しないものの、エンジン及び車両の走行に関与する系統であるエンジン走行系統、車両に使われる電機部品に関与する系統である電装系統、エンジン走行系統及び電装系統の駆動制御を行う駆動制御装置、第1カメラ110及び第2カメラ120により得られる情報を駆動制御装置にて処理する処理手段(前述のECU30)等を備える。
また、上記構成の対象物検出システム100の具体的な配置態様に関し、図2及び図3に示す配置態様とは別の配置態様が図4及び図5に示される。図4には本実施の形態の対象物検出システム100の第2の配置態様において、車両10を上方から視た様子が示され、図5には本実施の形態の対象物検出システム100の第2の配置態様において、車両10のインナーリヤビューミラー16周辺部を車内から視た様子が示される。
図4及び図5に示すように、車両10において、車両の各領域のうちのインナーリヤビューミラー16周辺部に本実施の形態の対象物検出システム100を配置することができる。具体的には、センターコンソールの照明ユニットに、一体構造の対象物検出システム100が組み込まれている。この部位は、インナーリヤビューミラー16の周辺領域であって、フロントウインドシールド上部と天井パネル前部との境界部分として構成される。
このような第2の配置態様によって配置された対象物検出システム100によれば、第1カメラ110によって車内へと向かう視野112が形成される。この視野112は、運転席シート、助手席シート及び後席シートの全体を左右バランスよく見渡せる広い視野(例えば、FOVが120度の視野)とされる。これにより、前席シート(運転席シート、助手席シート)及び後席シートが撮影され、シート上の車両乗員、チャイルドシート、載置物などの大きさ、形状、位置、有無、種類などの情報が検出されることとなる。一方、第2カメラ120によって車外前方へと向かう視野122(例えば、FOVが60度の視野)が形成される。これにより、車両前方に存在する歩行者、自転車、他の車両(前走車両や対向車両)、障害物などの大きさ、形状、位置、有無、種類などの情報が検出されることとなる。例えば、前走車両の動きや、対向車両の自走行車線への割り込み、前方衝突の可能性、前方衝突の発生などがこの第2カメラ120によってチェックされる。なお、この第2カメラ120を、その視野122が車外側方へ向けて形成されるように構成することもできる。
次に、上記構成の対象物検出システム100の動作を説明する。
車両10のイグニッションキーがON操作されると、電源装置140が作動し、第1カメラ110及び第2カメラ120の作動が開始される。
本実施の形態では、上述のように制御装置130の画像処理手段における演算を共有化するとともに、その演算に係る占有率(実質的には各カメラの対象物検出性能の割り振り)を、車両に関する情報(車両が走行中か否かの情報、車速の情報、車両ドアの開閉の情報、シートベルト装脱着の情報など)や、対象物に関する情報(車両乗員の乗降動作の情報、車両乗員の体格の情報など)に基づいて可変とする設定になっている。そこで、一例として、第2カメラ120の演算に関する占有率(SF)が、次の4つの設定モードにて制御される場合を想定する。第2カメラ120の対象物検出性能に関し、その占有率が第1モード(Lモード)において(0%〜30%)に設定され、第2モード(Mモード)において(30%〜60%)に設定され、第3モード(Hモード)において(60%〜90%)に設定され、第4モード(Fモード)において(90%〜100%)に設定されるものとする。
このような設定において、まず、車両10の始動時や車両乗員が乗り変わったとき、またシートベルト(バックル)が脱着されたときなどには、第2カメラ120の占有率が第1モード(Lモード)に設定される。この場合は、車外の情報を検出する必要性が極めて低いため、第2カメラ120の検出精度が最小となるように(カメラの検知周期(フレームレート)が最小となるように)設定する一方、第1カメラ110による車両乗員の検出精度が最大となるように(カメラの検知周期(フレームレート)が最大となるように)設定して、乗員状態の検出信頼度を上げることができる。
また、車両10の停車中または低速走行時には、車両前方に移動物体がない限り、第2カメラ120の占有率が第2モード(Mモード)に設定される。この場合は、車外の情報を検出する必要性が車内の情報を検出する必要性と同等か或いは低いため、第2カメラ120の検出精度が相対的に低くなるように(カメラの検知周期(フレームレート)が低くなるように)設定する一方、第1カメラ110による車両乗員の検出精度が相対的に高くなるように(カメラの検知周期(フレームレート)が高くなるように)設定することができる。この第2モードが、請求項4における「第1の設定モード」に相当する。
また、車両10の中高速走行時には、第2カメラ120の占有率が第3モード(Hモード)に設定される。この場合には、車外の情報を検出する必要性が車内の情報を検出する必要性よりも高いため、第2カメラ120の検出精度が相対的に高くなるように設定する一方、第1カメラ110による車両乗員の検出精度が相対的に低くなるように設定することができる。なお、この中高速走行時であっても、直線定速走行で前方に先行車が無い場合には、定期的に第2カメラ120の占有率を第2モード(Mモード)に設定し、車両乗員の検出精度を上げることができる。この第3モードが、請求項4における「第2の設定モード」に相当する。
先行車の急停車による衝突の危険性や、対向車との衝突の危険性を、第2カメラ120を介して周期的に評価し、このような危険性が検出されると、運転者に対し警報を出力するともに、第2カメラ120の占有率を第4モード(Fモード)に設定して、評価周期を早めたり、演算精度を高めることで、当該危険性が更に増大するか否かを監視する。衝突の危険性が高まると、その出力に応じて、車両衝突を防止する或いは軽減させる例えば警報装置やプリブレーキ装置が作動し、また乗員を拘束する例えばシートベルト装置が作動する(シートベルトの巻き取りを行う)。
衝突の危険性が更に高まり、衝突が回避できないと判断した場合には、衝突不可避信号の出力によって、第2カメラ120の占有率が第1モード(Lモード)に設定されて、第1カメラ110による車両乗員の検出精度が最大となるように(カメラの検知周期(フレームレート)が最大となるように)引き上げられる。また、当該衝突不可避信号の出力によって、乗員を拘束する例えばエアバッグ装置を作動させるとともに、エアバッグが展開する瞬間に車両乗員の位置を精度良く検出して、当該エアバッグを車両乗員の検出位置に見合った態様で適正に作動させる。衝突発生後の車両停止状態では、第2カメラ120の占有率が第2モード(Mモード)に設定され、車両乗員の動きを検出するとともに、車両の周辺状況を監視する。
このように、本実施の形態では、制御装置130による対象物の検出結果に応じた適正な態様で駆動対象(警報装置、プリブレーキ装置、シートベルト装置、エアバッグ装置など)を駆動制御することで、当該駆動対象のきめ細かい制御が可能となる。
なお、上記実施の形態のように、第1カメラ110によって車内を撮影し、第2カメラ120によって車外を撮影する構成にかえて、第1カメラ110及び第2カメラ120の両方が、車内或いは車外を撮影する構成を採用することもできる。
一例として、第1カメラ110が運転席を撮影し、第2カメラ120が助手席を撮影する構成を用いる。
この構成において、車両乗員の乗降時の動作や通常時の姿勢の変化に関し、運転席乗員と助手席乗員の動作を比較することによって、当該動作の大小が判断し、動作の大きい側の乗員を撮影するカメラに対象物検出性能を多く割り当てる設定を採用することができる。例えば、大きく動作をしている運転席乗員の方が助手席乗員よりも精度良く検出する必要性が高いと判断した場合には、第1カメラ110に対象物検出性能を多く割り当てる。この設定モードが、請求項5における「第1の設定モード」に相当する。これにより、第2カメラ120による助手席画像の更新を高速で行う必要がなく、その分第1カメラ110による運転席画像の品質を向上させることができるため合理的である。
一方、大きく動作をしている助手席乗員の方が運転席乗員よりも精度良く検出する必要性が高いと判断した場合には、第2カメラ120に対象物検出性能を多く割り当てる。この設定モードが、請求項5における「第2の設定モード」に相当する。これにより、第1カメラ110による運転席画像の更新を高速で行う必要がなく、その分第2カメラ120による助手席画像の品質を向上させることができるため合理的である。
また、車両乗員が変則的な姿勢をした場合や、車両乗員の動きが早い場合、また異常な光の反射があった場合など、車両乗員の検出信頼度が低下することがある。この検出信頼度は、カメラにおけるノイズ量や検出結果によるばらつき量、過去フレームとの連続性等から判断される。従って、第1カメラ110による運転席乗員の撮影と、第2カメラ120による助手席乗員の撮影の結果、検出信頼度の大小によって、信頼度の低い乗員側への処理の割り当てを多くして検出精度を向上させるようにすることができる。
以上のように、本実施の形態の対象物検出システム100によれば、第1カメラ110及び第2カメラ120が、制御装置130及び電源装置140の両方を共有することによって、当該対象物検出システム100の合理化を図ることが可能となる。すなわち、該制御装置130は、対象物検出システム100の各構成要素の中でも比較的高価で、且つ発熱量が多い構成要素であり、第1カメラ110及び第2カメラ120がこの制御装置130を共有することによって、システム性能を低下させることなくコスト及びシステム全体の大きさを抑えることが可能となる。また、電源装置140は第1カメラ110及び第2カメラ120電子システムの性能を決める重要な部分である。従って、第1カメラ110及び第2カメラ120がこの電源装置140を共有することは、第1カメラ110及び第2カメラ120によるシステムを一体化設計することに等しく、システム全体の大きさを抑えるとともに、省電力を実現するのに有効である。
また、本実施の形態の対象物検出システム100では、単一の筐体101に、第1カメラ110、第2カメラ120、制御装置130、電源装置140が収容される一体化構造を採用しているため、対象物検出システム全体のコンパクト化を図ることが可能となる。また、このような構成によれば、一体化された対象物検出システムごと車両の任意の部位に比較的容易に装着可能である。
また、本実施の形態では、第1カメラ110及び第2カメラ120として3Dカメラを用いることによって、各対象物までの距離が計測され、当該対象物の精度の高い認識が可能となる。また、3Dカメラとして複眼カメラを用いて対象物までの距離を計測する構成では、制御装置(画像処理手段)130にて行う視差演算のボリュームが大きく、従って第1カメラ110及び第2カメラ120がこの制御装置130を共有するメリットが大きい。また、3Dカメラとして単眼カメラを用いて対象物までの距離を計測する構成では、照明(イルミネータ)の電力消費が大きく、従って第1カメラ110と第2カメラ120とで照明の作動タイミングをかえて電源電流を極力平坦化するように制御すれば、第1カメラ110及び第2カメラ120がこの電源装置140を共有するメリットが大きい。これにより、ノイズの発生を抑えるとともに、電源装置140のコンパクト化を図ることが可能となる。
(他の実施の形態)
なお、本発明は上記の実施の形態のみに限定されるものではなく、種々の応用や変形が考えられる。例えば、上記実施の形態を応用した次の各形態を実施することもできる。
上記実施の形態では、第1カメラ110と第2カメラ120の2つのカメラを備える対象物検出システム100について記載したが、本発明では、単一の対象物検出システムに複数のカメラを搭載することが可能である。これら複数のカメラとして、3D式の複眼カメラ、3D式の単眼カメラ、2D式のカメラを適宜採用することができる。
また、上記実施の形態では、第1カメラ110及び第2カメラ120が、制御装置130及び電源装置140の両方を共有する構成について記載したが、本発明では、第1カメラ110及び第2カメラ120を含む複数の撮像手段が、制御装置及び電源装置の少なくとも一方を共有する構成を採用することができる。
また、上記実施の形態では、単一の筐体101に第1カメラ110、第2カメラ120、制御装置130、電源装置140が収容される構成について記載したが、本発明では、少なくとも第1カメラ110及び第2カメラ120を含む複数の撮像手段が単一の筐体に収容される構成を採用することができる。
また、上記実施の形態では、対象物検出システム100を車両の各部位のうちサイドミラー14周辺部やインナーリヤビューミラー16周辺部に組み込む構成について記載したが、本発明では、対象物検出システムを組み込む部位は、必要に応じて適宜選択可能である。例えば、AピラーとBピラーの中間部、ダッシュボードの左右センター部分などに対象物検出システムを組み込むこともできる。
また、上記実施の形態では、自動車に装着される対象物検出システムの構成について記載したが、自動車をはじめ、航空機、船舶、電車、バス等の各種の車両に装着される対象物検出システムの構成に対し本発明を適用することができる。
本実施の形態に係る車両搭載用の対象物検出システム100の構成を示す図である。 本実施の形態の対象物検出システム100の第1の配置態様において、車両10を上方から視た様子を示す図である。 本実施の形態の対象物検出システム100の第1の配置態様において、車両10のサイドミラー14周辺部を車内から視た様子を示す図である。 本実施の形態の対象物検出システム100の第2の配置態様において、車両10を上方から視た様子を示す図である。 本実施の形態の対象物検出システム100の第2の配置態様において、車両10のインナーリヤビューミラー16周辺部を車内から視た様子を示す図である。
符号の説明
10…車両
12…Aピラー
14…サイドミラー
16…インナーリヤビューミラー
20…車両バッテリ
30…ECU
40…駆動対象
100…対象物検出システム
110…筐体
110…第1カメラ
112,122…視野
120…第2カメラ
130…制御手段
140…電源手段

Claims (11)

  1. 車両内外の領域のうち、第1領域の対象物の画像を撮影する第1撮像手段と、前記第1領域とは異なる第2領域の対象物の画像を撮影する第2撮像手段と、
    各撮像手段にて撮影された前記対象物の画像に基づいて、当該対象物に関する情報を検出する制御を行う制御手段と、
    車両バッテリと各撮像手段との間に介在して、当該車両バッテリから供給された電力を各撮像手段へと供給する電源手段と、
    を有する対象物検出システムであって、
    前記第1撮像手段及び第2撮像手段が、前記制御手段及び電源手段のうちの少なくとも一方を共有する構成であることを特徴とする対象物検出システム。
  2. 請求項1に記載の対象物検出システムであって、
    最大電流の使用時期が異なる前記第1撮像手段及び第2撮像手段が、前記電源手段を共有する構成であり、当該電源手段から供給される各撮像手段に関する最大電流の供給時期が、前記第1撮像手段と前記第2撮像手段とで異なる構成であることを特徴とする対象物検出システム。
  3. 請求項1または2に記載の対象物検出システムであって、
    前記第1撮像手段及び第2撮像手段が、前記制御手段を共有する構成であり、当該制御手段は、検出した前記対象物に関する情報及び車両に関する情報の少なくとも一方に基づいて、各撮像手段による対象物検出性能の占有率を可変とする構成であることを特徴とする対象物検出システム。
  4. 請求項3に記載の対象物検出システムであって、
    前記第1撮像手段は、前記第1領域としての車内領域に向かう視野を形成し、前記第2撮像手段は、前記第2領域としての車外領域に向かう視野を形成する構成であり、
    前記制御手段は、車両が停車状態である場合には、前記第2撮像手段よりも前記第1撮像手段による対象物検出性能の占有率が高い第1の設定モードにて制御される一方、当該車両が走行状態である場合には、前記第2撮像手段による占有率が前記第1の設定モード時よりも高い第2の設定モードにて制御される構成であることを特徴とする対象物検出システム。
  5. 請求項3に記載の対象物検出システムであって、
    前記第1撮像手段は、前記第1領域としての車内領域の運転席に向かう視野を形成し、前記第2撮像手段は、前記第2領域としての車内領域の助手席に向かう視野を形成する構成であり、
    前記制御手段は、助手席乗員よりも運転席乗員の動作が大きい場合には、前記第2撮像手段よりも前記第1撮像手段による対象物検出性能の占有率が高い第1の設定モードにて制御される一方、運転席乗員よりも助手席乗員の動作が大きい場合には、前記第1撮像手段よりも前記第2撮像手段による対象物検出性能の占有率が高い第2の設定モードにて制御される構成であることを特徴とする対象物検出システム。
  6. 請求項1〜5のいずれかに記載の対象物検出システムであって、
    前記第1撮像手段及び第2撮像手段は、いずれも各対象物の立体形状を検出する3Dカメラとして構成されることを特徴とする対象物検出システム。
  7. 請求項1〜6のいずれかに記載の対象物検出システムであって、
    前記第1撮像手段を収容する収容部と、前記第2撮像手段を収容する収容部が単一の筐体によって構成されることを特徴とする対象物検出システム。
  8. 請求項7に記載の対象物検出システムであって、
    前記第1撮像手段及び第2撮像手段を収容する前記単一の筐体に、更に前記制御手段及び電源手段が収容された一体化構造であることを特徴とする対象物検出システム。
  9. 請求項8に記載の対象物検出システムであって、
    車両の各部位のうちのサイドミラー周辺部或いはインナーリヤビューミラー周辺部に前記単一の筐体が取り付けられる構成であることを特徴とする対象物検出システム。
  10. 請求項1〜9のいずれかに記載の対象物検出システムと、
    駆動対象と、
    前記対象物検出システムの制御手段において検出された情報に基づいて、前記駆動対象を駆動制御する駆動制御手段と、
    を備えることを特徴とする駆動装置。
  11. エンジン走行系統と、電装系統と、前記エンジン走行系統及び電装系統の駆動制御を行う駆動制御手段と、車両バッテリと、車両内外の領域の複数の対象物に関する情報を検出する対象物検出手段、を有し、
    前記対象物検出手段は、請求項1〜9のいずれかに記載の対象物検出システムを用いて構成されることを特徴とする車両。
JP2006079326A 2006-03-22 2006-03-22 対象物検出システム、駆動装置、車両 Expired - Fee Related JP4863741B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2006079326A JP4863741B2 (ja) 2006-03-22 2006-03-22 対象物検出システム、駆動装置、車両
US11/710,520 US7720375B2 (en) 2006-03-22 2007-02-26 Object detecting system
CN2007100844128A CN101041342B (zh) 2006-03-22 2007-03-02 对象物检测系统、驱动装置、车辆
EP07005681A EP1837805B1 (en) 2006-03-22 2007-03-20 Object detecting system, actuating device, and vehicle
DE602007005958T DE602007005958D1 (de) 2006-03-22 2007-03-20 Objektdetektionssystem, Betätigungsvorrichtung und Fahrzeug

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006079326A JP4863741B2 (ja) 2006-03-22 2006-03-22 対象物検出システム、駆動装置、車両

Publications (2)

Publication Number Publication Date
JP2007253748A true JP2007253748A (ja) 2007-10-04
JP4863741B2 JP4863741B2 (ja) 2012-01-25

Family

ID=37963826

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006079326A Expired - Fee Related JP4863741B2 (ja) 2006-03-22 2006-03-22 対象物検出システム、駆動装置、車両

Country Status (5)

Country Link
US (1) US7720375B2 (ja)
EP (1) EP1837805B1 (ja)
JP (1) JP4863741B2 (ja)
CN (1) CN101041342B (ja)
DE (1) DE602007005958D1 (ja)

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010116126A (ja) * 2008-11-14 2010-05-27 Aisin Aw Co Ltd 表示制御システム、表示制御方法、及び表示制御プログラム
JP2010116124A (ja) * 2008-11-14 2010-05-27 Aisin Aw Co Ltd 表示制御システム、表示制御方法、及び表示制御プログラム
JP2012105196A (ja) * 2010-11-12 2012-05-31 Jvc Kenwood Corp 映像記憶装置
CN102819942A (zh) * 2012-06-29 2012-12-12 惠州市德赛汽车电子有限公司 一种模拟汽车信号传送检测系统及方法
WO2013021707A1 (ja) * 2011-08-10 2013-02-14 本田技研工業株式会社 乗員検知装置
JP2014533348A (ja) * 2011-09-08 2014-12-11 コンティネンタル・テーベス・アクチエンゲゼルシヤフト・ウント・コンパニー・オッフェネ・ハンデルスゲゼルシヤフト 車両の取付部品の検知
JP2015508293A (ja) * 2011-10-28 2015-03-19 ナビゲート サージカル テクノロジーズ インク 手術位置モニタリングシステム及びその方法
JP2016113142A (ja) * 2014-12-15 2016-06-23 株式会社リコー 移動体用カメラ及びカメラを搭載した移動体
US9456122B2 (en) 2013-08-13 2016-09-27 Navigate Surgical Technologies, Inc. System and method for focusing imaging devices
US9452024B2 (en) 2011-10-28 2016-09-27 Navigate Surgical Technologies, Inc. Surgical location monitoring system and method
US9489738B2 (en) 2013-04-26 2016-11-08 Navigate Surgical Technologies, Inc. System and method for tracking non-visible structure of a body with multi-element fiducial
WO2016199311A1 (ja) * 2015-06-10 2016-12-15 株式会社Doog 移動筐体
US9554763B2 (en) 2011-10-28 2017-01-31 Navigate Surgical Technologies, Inc. Soft body automatic registration and surgical monitoring system
US9566123B2 (en) 2011-10-28 2017-02-14 Navigate Surgical Technologies, Inc. Surgical location monitoring system and method
US9585721B2 (en) 2011-10-28 2017-03-07 Navigate Surgical Technologies, Inc. System and method for real time tracking and modeling of surgical site
JP2017149211A (ja) * 2016-02-23 2017-08-31 株式会社デンソー 車両用システム及びコンピュータプログラム
US9918657B2 (en) 2012-11-08 2018-03-20 Navigate Surgical Technologies, Inc. Method for determining the location and orientation of a fiducial reference
WO2019107167A1 (ja) * 2017-11-30 2019-06-06 パナソニックIpマネジメント株式会社 画像処理装置、画像処理システム、撮像装置、撮像システム、及び画像処理方法
KR20190068804A (ko) * 2017-12-11 2019-06-19 현대자동차주식회사 능동형 안전 벨트 제어 장치 및 이의 제어 방법
JP2020050077A (ja) * 2018-09-26 2020-04-02 株式会社Subaru 車両の乗員監視装置、および乗員保護システム
JP2022015103A (ja) * 2020-07-08 2022-01-21 トヨタ自動車株式会社 車両制御装置
JP2022510476A (ja) * 2018-12-07 2022-01-26 ツェット・エフ・アクティブ・セーフティー・ゲーエムベーハー 運転者支援システム、および、自動車両の支援される動作のための方法
US11304777B2 (en) 2011-10-28 2022-04-19 Navigate Surgical Technologies, Inc System and method for determining the three-dimensional location and orientation of identification markers
US12070365B2 (en) 2012-03-28 2024-08-27 Navigate Surgical Technologies, Inc System and method for determining the three-dimensional location and orientation of identification markers

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090295921A1 (en) * 2005-10-12 2009-12-03 Pioneer Corporation Vehicle-mounted photographing device and method of measuring photographable range of vehicle-mounted camera
JP4898261B2 (ja) * 2006-04-04 2012-03-14 タカタ株式会社 対象物検出システム、作動装置制御システム、車両、対象物検出方法
US7786898B2 (en) * 2006-05-31 2010-08-31 Mobileye Technologies Ltd. Fusion of far infrared and visible images in enhanced obstacle detection in automotive applications
JP4793307B2 (ja) * 2007-04-03 2011-10-12 株式会社デンソー 車両周辺監視装置
EP2070774B1 (en) 2007-12-14 2012-11-07 SMR Patents S.à.r.l. Security system and a method to derive a security signal
KR20100087920A (ko) * 2009-01-29 2010-08-06 삼성전자주식회사 영상 데이터 획득 방법 및 장치
US20100271533A1 (en) * 2009-04-28 2010-10-28 Crispin Porter & Bogusky Image Recordation Device with a Plurality of Lenses
US8885022B2 (en) * 2010-01-04 2014-11-11 Disney Enterprises, Inc. Virtual camera control using motion control systems for augmented reality
JP2011205513A (ja) * 2010-03-26 2011-10-13 Aisin Seiki Co Ltd 車両周辺監視装置
US8885023B2 (en) * 2010-09-01 2014-11-11 Disney Enterprises, Inc. System and method for virtual camera control using motion control systems for augmented three dimensional reality
US9569677B2 (en) * 2011-02-08 2017-02-14 Robert Bosch Gmbh Device and method for directing radiation in the direction of an optical element of an image sensing device of a vehicle
KR20130026942A (ko) * 2011-09-06 2013-03-14 한국전자통신연구원 차량의 위험감지장치 및 그 제어방법
CN102555911A (zh) * 2012-02-22 2012-07-11 北京科实医学图像技术研究所 闭路立体电视
US9950708B1 (en) 2012-11-02 2018-04-24 Waymo Llc Adaptation of autonomous driving behaviour based on occupant presence and position
DE102015011813B4 (de) 2015-09-09 2017-05-24 Audi Ag Verfahren und System zum Sichern mindestens eines Gegenstands
CN106507040B (zh) * 2016-10-26 2019-10-18 浙江宇视科技有限公司 目标监测的方法及装置
JP6786407B2 (ja) * 2017-01-23 2020-11-18 株式会社クボタ 作業車無線管理システム
US11400834B2 (en) 2018-02-02 2022-08-02 State Farm Mutual Automobile Insurance Company Adjusting interior configuration of a vehicle based on external environment data
US11485254B2 (en) 2018-04-09 2022-11-01 State Farm Mutual Automobile Insurance Company System and method for adjusting an interior configuration of a vehicle in response to a vehicular accident
CN108769808B (zh) * 2018-05-24 2021-01-29 浙报融媒体科技(浙江)有限责任公司 交互式视频播放方法和系统
JP7211673B2 (ja) * 2018-05-25 2023-01-24 株式会社Subaru 車両の乗員監視装置
US11046266B1 (en) 2018-06-04 2021-06-29 State Farm Mutual Automobile Insurance Company System and method for dampening impact to a vehicle
US10953830B1 (en) 2018-07-13 2021-03-23 State Farm Mutual Automobile Insurance Company Adjusting interior configuration of a vehicle based on vehicle contents
US10836401B1 (en) * 2018-07-13 2020-11-17 State Farm Mutual Automobile Insurance Company Dynamic limiting of vehicle operation based on interior configurations
US10858011B1 (en) 2018-07-13 2020-12-08 State Farm Mutual Automobile Insurance Company Dynamic safe storage of vehicle content
KR102601354B1 (ko) * 2018-11-29 2023-11-13 현대모비스 주식회사 영상기반 승객 검출 및 안전벨트 착용 검출 장치와 방법
US11820393B2 (en) 2020-10-28 2023-11-21 Fca Us Llc Functionally safe rationalization check for autonomous vehicle machine learning algorithms

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003104126A (ja) * 2001-09-27 2003-04-09 Tokai Rika Co Ltd 車両室内監視装置
JP2004262320A (ja) * 2003-02-28 2004-09-24 Honda Motor Co Ltd 動態検知カメラ装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3282524A (en) * 1964-01-03 1966-11-01 Dietz Machine Works Inc Automatic winding machine
JP3031013B2 (ja) * 1991-11-15 2000-04-10 日産自動車株式会社 視覚情報提供装置
US5528698A (en) 1995-03-27 1996-06-18 Rockwell International Corporation Automotive occupant sensing device
US7050606B2 (en) 1999-08-10 2006-05-23 Cybernet Systems Corporation Tracking and gesture recognition system particularly suited to vehicular control applications
US6535242B1 (en) * 2000-10-24 2003-03-18 Gary Steven Strumolo System and method for acquiring and displaying vehicular information
JP2002325250A (ja) 2001-02-16 2002-11-08 Ki Sun Kim 車両の映像及び音声記録装置
DE10131198A1 (de) 2001-06-28 2003-01-16 Bosch Gmbh Robert Verfahren und Vorrichtung zur Beeinflussung wenigstens eines Parameters eines Fahrzeugs
JP4122814B2 (ja) 2002-04-03 2008-07-23 トヨタ自動車株式会社 乗員検知装置
US20060012679A1 (en) 2004-07-14 2006-01-19 Ressler Galen E Multifunction vehicle interior imaging system

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003104126A (ja) * 2001-09-27 2003-04-09 Tokai Rika Co Ltd 車両室内監視装置
JP2004262320A (ja) * 2003-02-28 2004-09-24 Honda Motor Co Ltd 動態検知カメラ装置

Cited By (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010116124A (ja) * 2008-11-14 2010-05-27 Aisin Aw Co Ltd 表示制御システム、表示制御方法、及び表示制御プログラム
JP2010116126A (ja) * 2008-11-14 2010-05-27 Aisin Aw Co Ltd 表示制御システム、表示制御方法、及び表示制御プログラム
JP2012105196A (ja) * 2010-11-12 2012-05-31 Jvc Kenwood Corp 映像記憶装置
JPWO2013021707A1 (ja) * 2011-08-10 2015-03-05 本田技研工業株式会社 乗員検知装置
WO2013021707A1 (ja) * 2011-08-10 2013-02-14 本田技研工業株式会社 乗員検知装置
EP2743143A1 (en) * 2011-08-10 2014-06-18 Honda Motor Co., Ltd. Vehicle occupant detection device
JP5638139B2 (ja) * 2011-08-10 2014-12-10 本田技研工業株式会社 乗員検知装置
EP2743143A4 (en) * 2011-08-10 2015-02-25 Honda Motor Co Ltd VEHICLE PASSENGER DETECTION DEVICE
JP2014533348A (ja) * 2011-09-08 2014-12-11 コンティネンタル・テーベス・アクチエンゲゼルシヤフト・ウント・コンパニー・オッフェネ・ハンデルスゲゼルシヤフト 車両の取付部品の検知
US9554763B2 (en) 2011-10-28 2017-01-31 Navigate Surgical Technologies, Inc. Soft body automatic registration and surgical monitoring system
US9566123B2 (en) 2011-10-28 2017-02-14 Navigate Surgical Technologies, Inc. Surgical location monitoring system and method
US11304777B2 (en) 2011-10-28 2022-04-19 Navigate Surgical Technologies, Inc System and method for determining the three-dimensional location and orientation of identification markers
US9452024B2 (en) 2011-10-28 2016-09-27 Navigate Surgical Technologies, Inc. Surgical location monitoring system and method
JP2017074389A (ja) * 2011-10-28 2017-04-20 ナビゲート サージカル テクノロジーズ インク 手術位置モニタリングシステム
US9585721B2 (en) 2011-10-28 2017-03-07 Navigate Surgical Technologies, Inc. System and method for real time tracking and modeling of surgical site
JP2015508293A (ja) * 2011-10-28 2015-03-19 ナビゲート サージカル テクノロジーズ インク 手術位置モニタリングシステム及びその方法
US12070365B2 (en) 2012-03-28 2024-08-27 Navigate Surgical Technologies, Inc System and method for determining the three-dimensional location and orientation of identification markers
CN102819942A (zh) * 2012-06-29 2012-12-12 惠州市德赛汽车电子有限公司 一种模拟汽车信号传送检测系统及方法
US9918657B2 (en) 2012-11-08 2018-03-20 Navigate Surgical Technologies, Inc. Method for determining the location and orientation of a fiducial reference
US9489738B2 (en) 2013-04-26 2016-11-08 Navigate Surgical Technologies, Inc. System and method for tracking non-visible structure of a body with multi-element fiducial
US9844413B2 (en) 2013-04-26 2017-12-19 Navigate Surgical Technologies, Inc. System and method for tracking non-visible structure of a body with multi-element fiducial
US9456122B2 (en) 2013-08-13 2016-09-27 Navigate Surgical Technologies, Inc. System and method for focusing imaging devices
JP2016113142A (ja) * 2014-12-15 2016-06-23 株式会社リコー 移動体用カメラ及びカメラを搭載した移動体
WO2016199311A1 (ja) * 2015-06-10 2016-12-15 株式会社Doog 移動筐体
JP2017149211A (ja) * 2016-02-23 2017-08-31 株式会社デンソー 車両用システム及びコンピュータプログラム
WO2019107167A1 (ja) * 2017-11-30 2019-06-06 パナソニックIpマネジメント株式会社 画像処理装置、画像処理システム、撮像装置、撮像システム、及び画像処理方法
KR20190068804A (ko) * 2017-12-11 2019-06-19 현대자동차주식회사 능동형 안전 벨트 제어 장치 및 이의 제어 방법
KR102626248B1 (ko) * 2017-12-11 2024-01-17 현대자동차주식회사 능동형 안전 벨트 제어 장치 및 이의 제어 방법
JP2020050077A (ja) * 2018-09-26 2020-04-02 株式会社Subaru 車両の乗員監視装置、および乗員保護システム
JP2022510476A (ja) * 2018-12-07 2022-01-26 ツェット・エフ・アクティブ・セーフティー・ゲーエムベーハー 運転者支援システム、および、自動車両の支援される動作のための方法
JP7428713B2 (ja) 2018-12-07 2024-02-06 ツェット・エフ・アクティブ・セーフティー・ゲーエムベーハー 運転者支援システム、および、自動車両の支援される動作のための方法
JP2022015103A (ja) * 2020-07-08 2022-01-21 トヨタ自動車株式会社 車両制御装置
JP7331797B2 (ja) 2020-07-08 2023-08-23 トヨタ自動車株式会社 車両制御装置
US11697409B2 (en) 2020-07-08 2023-07-11 Toyota Jidosha Kabushiki Kaisha Vehicle control apparatus

Also Published As

Publication number Publication date
US7720375B2 (en) 2010-05-18
EP1837805B1 (en) 2010-04-21
DE602007005958D1 (de) 2010-06-02
EP1837805A1 (en) 2007-09-26
CN101041342B (zh) 2011-02-09
JP4863741B2 (ja) 2012-01-25
CN101041342A (zh) 2007-09-26
US20070223910A1 (en) 2007-09-27

Similar Documents

Publication Publication Date Title
JP4863741B2 (ja) 対象物検出システム、駆動装置、車両
JP5030580B2 (ja) 車両用作動システム、車両
US7847229B2 (en) Object detecting system
JP4898261B2 (ja) 対象物検出システム、作動装置制御システム、車両、対象物検出方法
US20070229661A1 (en) Object detecting system and method
CN109116839A (zh) 车辆控制系统、车辆控制方法及存储介质
JP2008129948A (ja) 乗員検出装置、作動装置制御システム、シートベルトシステム、車両
US8009977B2 (en) On-vehicle lighting apparatus
JP2008261749A (ja) 乗員検出装置、作動装置制御システム、シートベルトシステム、車両
JP2008269496A (ja) 乗員情報検出システム、乗員拘束システム、車両
US20080048887A1 (en) Vehicle occupant detection system
JP2007216722A (ja) 対象物検出システム、作動装置制御システム、車両
CN110949301B (zh) 车辆的乘员监视装置以及乘员保护系统
WO2020250523A1 (ja) 移動体の電源制御装置
JP4969111B2 (ja) 車両の後方監視カメラ及び運転支援装置
US20150175055A1 (en) Controlling exterior vehicle lights
WO2020250524A1 (ja) 移動体の制御装置
JP2023101066A (ja) 車両制御システム
CN113661700A (zh) 成像装置与成像方法
JP7563279B2 (ja) 車両用制御装置
JP4882324B2 (ja) 車両用画像処理装置
US11483499B2 (en) Imaging apparatus for addition of pixels on the basis of a temperature of an imaging array
US20230286533A1 (en) Method for detecting objects in a vehicle detection field comprising an interior and an outer region of a vehicle
JP2006240404A (ja) 車載カメラ撮影装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110609

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110622

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111014

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111108

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141118

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S343 Written request for registration of root pledge or change of root pledge

Free format text: JAPANESE INTERMEDIATE CODE: R316354

SZ02 Written request for trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R316Z02

S343 Written request for registration of root pledge or change of root pledge

Free format text: JAPANESE INTERMEDIATE CODE: R316354

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S343 Written request for registration of root pledge or change of root pledge

Free format text: JAPANESE INTERMEDIATE CODE: R316354

SZ02 Written request for trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R316Z02

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees