JP2017188738A - 車載カメラの取付角度検出装置、取付角度較正装置、取付角度検出方法、取付角度較正方法、およびコンピュータープログラム - Google Patents

車載カメラの取付角度検出装置、取付角度較正装置、取付角度検出方法、取付角度較正方法、およびコンピュータープログラム Download PDF

Info

Publication number
JP2017188738A
JP2017188738A JP2016074817A JP2016074817A JP2017188738A JP 2017188738 A JP2017188738 A JP 2017188738A JP 2016074817 A JP2016074817 A JP 2016074817A JP 2016074817 A JP2016074817 A JP 2016074817A JP 2017188738 A JP2017188738 A JP 2017188738A
Authority
JP
Japan
Prior art keywords
vehicle
straight line
straight
mounting angle
bird
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016074817A
Other languages
English (en)
Other versions
JP6565769B2 (ja
Inventor
宗作 重村
Sosaku Shigemura
宗作 重村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2016074817A priority Critical patent/JP6565769B2/ja
Priority to CN201780021593.1A priority patent/CN108886606B/zh
Priority to PCT/JP2017/013759 priority patent/WO2017175687A1/ja
Priority to DE112017001841.2T priority patent/DE112017001841T5/de
Priority to US16/088,627 priority patent/US10787126B2/en
Publication of JP2017188738A publication Critical patent/JP2017188738A/ja
Application granted granted Critical
Publication of JP6565769B2 publication Critical patent/JP6565769B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】前後左右の全てには車載カメラが搭載されていない車両でも車載カメラの取付角度を調整可能とする。【解決手段】互いに平行で且つ等幅な2本の直線部分を有するターゲット図形が形成された地面の撮影画像を鳥瞰変換して、鳥瞰画像中の2本の直線部分が、互いに平行で且つ等幅となるような取付角度を探索する。こうすれば、車両の前方あるいは後方に向けて車載カメラが搭載されている車両でも、車載カメラの実際の取付角度を検出することができるので、車載カメラの取付角度を調整することが可能となる。また、例えば、互いに平行で且つ等幅な2本の側線を有するが、側線に交差する横線を有さない駐車枠のような図形でも、ターゲット図形として用いて、車載カメラ10の取付角度を検出し、正しい取付角度に較正することができる。【選択図】図10

Description

本発明は、車両の周囲の地面を撮影する車載カメラの車両に対する取付角度を検出し、あるいは取付角度を較正する技術に関する。
車載カメラで撮影した画像をモニター画面に表示することで、運転者が車両の周辺の状況を容易に確認可能とする種々の技術が実用化されている。例えば、車両の後部に車載カメラを搭載しておき、車両の後進時に後方の状況を撮影した画像をモニター画面に表示させて、その撮影画像に重ねて車両の予測進路を表示することにより、後進運転を支援する技術が実用化されている。
また、車両の前後左右に車載カメラを搭載しておき、それらで撮影した画像を変換して、あたかも上方から車両の周囲を見たような画像(すなわち、鳥瞰画像)としてモニター画面に表示することで、運転者が周囲の状況を容易に把握できるようにした技術も実用化されている。
これらの技術では、車載カメラが車両に対して、設計されたとおりの正しい角度で取り付けられていることが前提となる。仮に、取付角度が設計値からずれている場合、例えば、車両の後進時に後方の撮影画像に重ねて表示する予測進路と、実際の進路との間にずれが生じてしまう。あるいは、車両の前後左右の車載カメラの画像を鳥瞰画像に変換して、車両の周囲を上方から見たような画像として表示した時に、例えば、左の車載カメラの鳥瞰画像と、前の車載カメラの鳥瞰画像との間で位置ずれが生じてしまう。同様なことは、右の車載カメラと前の車載カメラとの間や、左の車載カメラと後の車載カメラとの間、右の車載カメラと後の車載カメラとの間でも生じ得る。
もちろん、車両に対する車載カメラの取付角度は、車両の工場出荷時に調整されているが、長い間に亘る使用によって取付角度にずれが生じたり、あるいは修理のために車載カメラを取り外したりして、車載カメラの取付角度を再度、調整しなければならない場合も生じ得る。
そこで、駐車枠のような既知の形状の枠内に車両を移動させて、車両の前後左右に搭載された車載カメラで撮影した画像を視線変換することによって、車両に対する取付角度を、車載カメラ毎に決定する技術が提案されている(特許文献1)。仮に、各車載カメラの取付角度が正しいのであれば、各車載カメラの撮影画像を変換して得られた鳥瞰画像は、画像の繋ぎ目部分でも位置ずれが生じない筈である。
提案の技術はこの点に着目して、各車載カメラの撮影画像を変換して得られた鳥瞰画像間で位置ずれが生じないように、各車載カメラの車両に対する取付角度を決定する。こうして、各車載カメラの取付角度を求めることができれば、取付角度が許容範囲に収まるように調整し、あるいは取付角度を較正することが可能となる。
特開2011−182236号公報
しかし、上記の提案の技術では、車両の前後左右に車載カメラが搭載されており、それらの車載カメラを用いて車両の全周の撮影画像が得られることを前提としている。このため、車両の前後左右の全てには車載カメラが搭載されていない場合(例えば車両の後方あるいは前方には車載カメラを搭載しているが、左右には車載カメラを搭載していない場合)には、車載カメラの車両に対する取付角度を検出して、正しい取付角度に較正することができないという問題があった。
この発明は、従来技術が有する上述した課題に鑑みてなされたものであり、前後左右の全てには車載カメラが搭載されていない車両でも、車載カメラの車両に対する取付角度を検出して、正しい取付角度に較正することが可能な技術の提供を目的とする。
上述した課題を解決するために本発明の車載カメラの取付角度検出装置、取付角度較正装置、取付角度検出方法、取付角度較正方法、およびコンピュータープログラムは、互いに平行で且つ等幅な2本の直線部分を有するターゲット図形が形成された地面の撮影画像を取得して、鳥瞰画像に変換する。得られた鳥瞰画像中で、ターゲット図形の2本の直線部分が、互いに平行で且つ等幅となっているか否かを判断する。その結果、平行になっていないか、等幅でなかった場合には、鳥瞰変換に用いた取付角度が実際の取付角度ではないものと判断して、取付角度を変更することにより、ターゲット図形の2本の直線部分が、互いに平行で且つ等幅となるような取付角度を探索する。そして、そのような取付角度が得られたら、その取付角度を、車載カメラの車両に取り付けられている実際の取付角度として決定する。
こうすれば、前後左右の全てには車載カメラが搭載されていない車両でも、車載カメラの車両に対する取付角度を検出して、正しい取付角度に較正することが可能となる。
また、互いに平行で且つ等幅な2本の直線部分を有する図形であれば、ターゲット図形として用いることができる。このため、例えば、互いに平行で且つ等幅な2本の側線を有するが、側線に交差する横線を有さない駐車枠のような図形でも、ターゲット図形として用いて、車載カメラ10の取付角度を検出し、正しい取付角度に較正することが可能となる。
車載カメラ10を搭載した車両1の大まかな構成を示す説明図である。 第1実施例の取付角度較正装置100の内部構造を示したブロック図である。 第1実施例の取付角度較正装置100が車載カメラ10の取付角度を較正する第1実施例の取付角度較正処理の前半部分のフローチャートである。 第1実施例の取付角度較正処理の後半部分のフローチャートである。 駐車枠Tの側線に対して車両1を位置合わせした状態を示す説明図である。 駐車枠Tに対して車両1を直進させる様子を示す説明図である。 駐車枠Tの撮影画像から側線の中心直線および境界直線を検出した様子を示す説明図である。 複数枚の撮影画像から側線の中心直線および境界直線を検出した結果を蓄積した様子を示す説明図である。 側線の中心直線および境界直線の検出結果を蓄積することによって、車両1が側線に対して平行に向いているか否かを判断可能な理由を示す説明図である。 鳥瞰画像中の駐車枠Tから検出した2本の側線の平行度および2本の側線の幅の差に着目して、取付角度を探索する様子を示す説明図である。 取付角度を探索する前に、車両1の向きが駐車枠Tの側線a,bと平行になっていることを確認する理由についての説明図である。 車体基準座標系とカメラ基準座標系との関係についての説明図である。 車体基準座標系を解析用車体基準座標系に変換する方法についての説明図である。 解析用車体基準座標系をカメラ基準座標系に変換する方法についての説明図である。 カメラ基準座標系が撮影画像上での画像面座標系に変換される様子についての説明図である。 鳥瞰変換についての説明図である。 車載カメラ10の駐車枠に対する角度を変えながら撮影画像を鳥瞰変換する様子についての説明図である。 第1実施例の取付角度較正装置100では、横線の無い駐車枠Tでも取付角度の較正が可能なことを示す説明図である。 第2実施例の取付角度較正装置200の内部構造を示したブロック図である。 第2実施例の取付角度較正装置200が車載カメラ10の取付角度を較正する第2実施例の取付角度較正処理の後半部分のフローチャートである。 第2実施例の取付角度較正装置200が代表撮影画像を鳥瞰変換することによって取付角度を探索する様子を示した説明図である。 駐車枠の2本の側線および側線の端点の位置に着目して、取付角度を探索する変形例についての説明図である。
以下では、上述した本願発明の内容を明確にするために実施例について説明する。
A.第1実施例 :
A−1.装置構成 :
図1には、車載カメラ10を搭載した車両1の大まかな構成が示されている。図示した例では、車載カメラ10は車両1の後部の位置に、斜め下向きに搭載されており、車両1の後方の状況を斜め上方から撮影することができる。そして、車載カメラ10で撮影した撮影画像は、画像生成装置20を介してモニター6に表示される。車両1の運転者は、モニター6に表示された画像から、車両1の後方の状況を確認することができる。
尚、以下では車両1の後部に車載カメラ10が取り付けられているものとして説明するが、車載カメラ10は車両1の前方に取り付けられていてもよい。
画像生成装置20は、車載カメラ10が斜め上方から撮影した画像を、車載カメラ10の光学系の歪みを除去した見易い画像に変換してモニター6に表示する機能や、更にその画像を、あたかも真上から撮影した鳥瞰画像に鳥瞰変換して、モニター6に表示する機能を有している。光学系の歪みを除去するためのデータや、鳥瞰変換の際に使用する車載カメラ10の取付角度のデータは、画像生成装置20に内蔵された記憶部21に記憶されている。画像生成装置20は、車載カメラ10が撮影した画像を取得すると、記憶部21から読み出したデータを用いて画像を変換することによって、モニター6に表示する画像を生成する。運転者は、こうしてモニター6に表示された画像を視認することによって、車両1の周囲の状況を容易に把握することが可能となる。
ここで、詳細には後述するが、撮影画像を鳥瞰画像に鳥瞰変換する際には、車載カメラ10が車両1に対して正しい角度で取り付けられていることが前提となる。もちろん、車両1の工場出荷時には、車載カメラ10の取付角度は正しい角度に調整されているが、長い間の使用によって、あるいは何らかの理由で、車載カメラ10の取付角度にずれが生じることが起こり得る。そして、取付角度にずれが生じると、鳥瞰変換によって得られた鳥瞰画像は歪んだ画像となってしまう。
そこで、車両1には、車載カメラ10の車両1に対する取付角度を較正する取付角度較正装置100が搭載されている。取付角度較正装置100は、画像生成装置20に接続されており、車載カメラ10の光学系の歪みを除去した撮影画像を画像生成装置20から取得すると、車載カメラ10の適切な取付角度を探索する。取付角度を探索する方法については、後ほど詳しく説明する。そして、適切な取付角度が得られたら、画像生成装置20の記憶部21に記憶されている取付角度を、探索して得られた取付角度に変更することによって取付角度を較正する。
また、詳細な理由については後述するが、取付角度較正装置100が取付角度を適切に探索するためには、車両1のハンドル2が操舵されていない直進状態のままで、車両1が適切な距離を移動することが必要となる。そこで、取付角度較正装置100には、車両1のハンドル2の操舵角を検出する操舵角センサー3や、車両1の移動距離を検出する移動距離センサー4が接続されている。そして、車載カメラ10の取付角度を較正する際には、ハンドル2が操舵されていない直進状態になっていることや、車両1の移動距離を監視する。その結果、ハンドル2が直進状態になっていなかったり、車両1が移動していなかったりした場合には、モニター6を用いて警告の画像を表示したり、スピーカー5を用いて警告の音声を出力したりすることによって、較正をやり直すようになっている。
A−2.第1実施例の取付角度較正装置100の内部構造 :
図2には、第1実施例の取付角度較正装置100の大まかな内部構造を示したブロック図が示されている。図示されるように第1実施例の取付角度較正装置100は、撮影画像取得部101と、中心直線検出部102と、境界直線検出部103と、検出直線記憶部104と、平行判断部105と、車両監視部106と、警報出力部107と、設定値取得部108と、鳥瞰変換部109と、取付角度探索部110と、鳥瞰画像評価部111と、設定値変更部112と、取付角度決定部113と、取付角度更新部114とを備えている。また、取付角度較正装置100の中で取付角度更新部114を除いた部分(図中の破線で囲った部分)は、第1実施例の取付角度検出装置120に対応する。
尚、これらの「部」は、車載カメラ10の取付角度を検出して、取付角度を較正するために取付角度較正装置100が備える機能に着目して、取付角度較正装置100の内部を便宜的に分類した抽象的な概念である。従って、取付角度較正装置100がこれらの「部」に物理的に区分されていることを表すものではない。これらの「部」は、CPUで実行されるコンピュータープログラムとして実現することもできるし、LSIやメモリーを含む電子回路として実現することもできるし、更にはこれらを組合せることによって実現することもできる。本実施例では、取付角度較正装置100は、CPUやROMやRAMなどを備えたマイクロコンピューターによって主に形成されており、従って上記の「部」はCPUが実行するコンピュータープログラムによって主に実現されている。
撮影画像取得部101は、画像生成装置20に接続されており、車載カメラ10で撮影した画像から光学系の歪みが除去された状態の撮影画像を、画像生成装置20から取得する。また、車載カメラ10の取付角度を検出する際には、所定のターゲット図形が描かれた地面の画像を取得する。
ここで、ターゲット図形とは、互いに平行で且つ等幅な2本の直線部分を有する図形である。例えば、駐車場などで1台分の車両を駐車する範囲を示す駐車枠は、両側の車両との境界を示す側線を有しているから、代表的なターゲット図形として用いることができる。ターゲット図形の具体例については後述する。
中心直線検出部102は、撮影画像中のターゲット図形が有する2本の直線部分を検出して、それぞれの直線部分の中心線に相当する中心直線を検出する。ターゲット図形には2本の直線部分があるから、それぞれの直線部分について1本ずつ、合計で2本の中心直線を検出する。そして、検出した2本の中心直線は、検出直線記憶部104に記憶する。
また、境界直線検出部103は、撮影画像中のターゲット図形が有する2本の直線部分を検出すると、それぞれの直線部分について、両側の境界線に相当する境界直線を検出する。ターゲット図形には2本の直線部分があるから、それぞれの直線部分について2本ずつ、合計で4本の境界直線を検出する。そして、検出した4本の境界直線は、検出直線記憶部104に記憶する。
尚、ターゲット図形から2本の中心直線と4本の境界直線を検出する具体例については後述する。また、検出直線記憶部104には、複数枚の撮影画像から検出された複数本の中心直線および境界直線が記憶される。
平行判断部105は、検出直線記憶部104に記憶されている複数本の中心直線および境界直線を読み出して、それらを解析することによって、車両1の向きが、地面上に描かれたターゲット図形の2本の直線部分に対して平行になっているか否かを判断する。判断する方法については、別図を用いて後ほど詳しく説明する。
また、平行判断部105で、ターゲット図形の2本の直線部分に対する車両1の向きを正しく判断するためには、車両1が所定距離以上、直進している状態で、複数枚の撮影画像を取得する必要がある。
そこで、車両監視部106は、撮影画像取得部101が撮影画像を取得している間の車両1の状態を監視する。すなわち、車両監視部106は、ハンドル2の操舵角センサー3や、移動距離センサー4に接続されており、ハンドル2が直進状態になっていることや、車両1の移動距離を監視する。そして、複数枚の撮影画像を取得している間に、ハンドル2が操舵されたり、車両1の移動距離が十分でなかったりした場合には、撮影画像を取得し直す必要があるものと判断して、検出直線記憶部104に記憶された中心直線および境界直線の検出結果を消去する。更に、撮影画像を取得し直す必要がある旨を、警報出力部107に出力する。
警報出力部107は、スピーカー5やモニター6に接続されており、撮影画像を取得し直す必要がある旨の判断結果を車両監視部106から受け取ると、スピーカー5やモニター6を用いてその旨の警告を出力する。
また、平行判断部105で判断した結果が、ターゲット図形の2本の直線部分に対して車両1が平行になっていない旨の判断結果であった場合にも、平行判断部105は、検出直線記憶部104に記憶された検出結果を消去すると共に、撮影画像を取得し直す必要がある旨を警報出力部107に出力する。すると、警報出力部107は、スピーカー5やモニター6を用いてその旨の警告を出力する。
これに対して、平行判断部105の判断結果が、ターゲット図形の2本の直線部分に対して車両1が平行になっている旨の判断結果であった場合には、設定値取得部108が、画像生成装置20から車載カメラ10の取付角度を取得する。車載カメラ10の取付角度は、画像生成装置20に内蔵された記憶部21に記憶されている。
また、平行判断部105によって、ターゲット図形の2本の直線部分に対して車両1が平行になっていると判断された場合には、鳥瞰変換部109は、次のようにして撮影画像を鳥瞰変換する。先ず、撮影画像取得部101が取得しておいた撮影画像を読み出す。この時に読み出す撮影画像は、撮影画像取得部101が取得した最新の撮影画像とすることができる。更に、車載カメラ10の取付角度が記憶部21から読み出した取付角度であるものとして、撮影画像を鳥瞰画像に変換する。
鳥瞰画像評価部111は、こうして得られた鳥瞰画像を解析して、ターゲット図形の2本の直線部分の平行度、および2本の直線部分の幅の差を評価する。そして、それらが何れも所定の許容範囲内になかった場合には、その旨を設定値変更部112に出力し、設定値変更部112は、設定値取得部108が記憶部21から取得していた取付角度の値を変更する。
すると、鳥瞰変換部109は、変更された取付角度を用いて再び鳥瞰変換を行うことによって、新たな鳥瞰画像を生成する。鳥瞰画像評価部111は、この新たに得られた鳥瞰画像に対して、ターゲット図形の2本の直線部分の平行度、および2本の直線部分の幅の差を評価する。そして、それらが何れも所定の許容範囲内になかった場合には、設定値変更部112が、再び、取付角度の値を変更する。
このように、鳥瞰画像評価部111および設定値変更部112は、鳥瞰変換部109によって得られた鳥瞰画像の評価結果に基づいて取付角度を変更することによって、鳥瞰画像中のターゲット図形の2本の直線部分が所定の基準を満たすような取付角度を探索していることになる。従って、鳥瞰画像評価部111および設定値変更部112をまとめて、取付角度探索部110と把握することができる。
そして、鳥瞰画像評価部111によって、鳥瞰画像中のターゲット図形の2本の直線部分が所定の基準を満たすと判断されると、取付角度決定部113は、その時の鳥瞰変換に用いた取付角度を取得して、その取付角度を正しい取付角度として決定する。このようにして、車載カメラ10の正しい取付角度を検出することができる。
また、取付角度更新部114は、取付角度決定部113が決定した正しい取付角度を取得して、画像生成装置20の記憶部21に書き込むことによって、記憶部21が記憶している取付角度を正しい取付角度に更新する。こうすることによって、画像生成装置20が画像を生成する際に用いる取付角度の較正が終了する。
以下では、上述した内部構造を有する第1実施例の取付角度較正装置100が、車載カメラ10の取付角度を較正する際に実行する処理について、具体例を用いて説明する。
A−3.第1実施例の取付角度較正処理 :
図3および図4には、第1実施例の取付角度較正装置100が実行する取付角度較正処理のフローチャートが示されている。
図示されるように、取付角度較正処理では先ず始めに駐車枠Tの側線に対して車両1を平行に向けて、更にハンドル2を直進状態にする旨の指示を、スピーカー5およびモニター6から出力する(S100)。
例えば、図5に示したように、同じ幅を有する2本の平行な側線aおよび側線bと、これら側線a,bに直交する横線cとを備える駐車枠Tが地面に描かれていたとする。この場合、車両1の向きが2本の側線a,bに対して平行となるようにして、更にハンドル2を直進状態(すなわち、何れの方向にも操舵されていない状態)にする旨の音声をスピーカー5から出力すると共に、その旨を指示する画像をモニター6に表示する。
尚、本実施例では、駐車枠Tが、本発明の「ターゲット図形」に相当し、2本の側線a,bが、本発明の「ターゲット図形が備える直線部分」に相当する。また、ターゲット図形は、同じ幅を有する2本の平行な直線部分を有する図形であればよく、必ずしも図5に例示した駐車枠Tでなくても構わない。
また、車両1の運転者は、指示に従って、駐車枠Tの側線a.bに対して平行となるように車両1を移動させるが、この時に、厳密に平行とする必要は無く、目分量で平行となるようにしておけばよい。
このように、駐車枠Tの側線に対して車両1を平行にして、ハンドル2を直進状態とする旨を出力したら(図3のS100)、今度は、所定距離L(例えば2メートル)、車両1を直進させる旨の指示を、スピーカー5およびモニター6を用いて出力する(S101)。車両1の運転者は、指示に従って、駐車枠Tに向けて車両1を所定距離L、直進させる。図6には、駐車枠Tに向けて車両1を所定距離L、直進させる様子が示されている。 尚、車両1を直進させる距離は、所定距離L以上であれば十分であり、厳密に所定距離Lである必要はない。
続いて、取付角度較正装置100は、画像生成装置20から駐車枠Tの撮影画像を取得する(図3のS102)。尚、画像生成装置20から取得する撮影画像は、車載カメラ10の光学系の歪みなどが取り除かれた画像となっている。
そして、取得した撮影画像を解析して駐車枠Tの2本の側線a,bの中心直線および境界直線を検出し、中心直線および境界直線の傾きや、中心直線の切片位置、境界直線の境界切片位置を記憶する(S103)。
図7には、撮影画像を解析して駐車枠Tの2本の側線a,bの中心直線および境界直線を検出する様子が示されている。図7(a)に例示されているように、撮影画像には、画像上で左側の側線bと、右側の側線aと、奥側の横線cとが写っている。また、車載カメラ10の光学系の歪みを除去した後の撮影画像では、左側の側線bおよび右側の側線aは何れも、幅を有する直線となっている。
そこで、左側の側線bの中心線を延長した中心直線を検出する。また、右側の側線aについても、側線aの中心線を延長した中心直線を検出する。図7(b)には、このようにして左側の側線bから検出した中心直線bcと、右側の側線aから検出した中心直線acとが例示されている。
また、左側の側線bおよび右側の側線aは何れも幅を有している。そこで、左側の側線bについて、駐車枠Tの内側の境界線および外側の境界線を延長した2本の境界直線を検出する。右側の側線aについても同様に、駐車枠Tの外側の境界線および外側の境界線を延長した2本の境界直線を検出する。図7(b)には、このようにして左側の側線bから検出した内側の境界直線biおよび外側の境界直線boと、右側の側線aから検出した内側の境界直線aiおよび外側の境界直線ao中心直線acとが例示されている。
結局、1枚の撮影画像からは、左側の側線bについての中心直線bc、内側の境界直線bi、および外側の境界直線boの3本の直線と、右側の側線aについての中心直線ac、内側の境界直線ai、および外側の境界直線aoの3本の直線、合計で6本の直線が検出されることになる。
こうして6本の直線を検出したら、それらの直線のそれぞれについて、直線の傾きを検出する。図7(b)に示した例では、左側の側線bから検出された内側の境界直線biについて、直線の傾きkbiを検出した様子が示されている。また、右側の側線aから検出された内側の境界直線aiについては、直線の傾きkaiを検出した様子が示されている。更に、図7(b)では図示を省略しているが、中心直線bcや、境界直線boや、中心直線acや、境界直線aoについても、それぞれの直線の傾きkbcや、kbo、kac、kaoを検出する。
更に、中心直線bc,acについては、直線の切片位置を検出する。ここで「切片位置」とは、撮影画像中に設定した所定の一辺を中心直線が横切る座標位置である。図7(c)に示した例では、撮影画像の下側の辺と上側の辺との間の位置に、下側の辺と平行な検査用の一辺(以下、検査用辺DL)が設定されている。そして、この検査用辺DLを中心直線bcが横切る座標位置を、中心直線bcの切片位置pbcとして検出する。また、中心直線acが検査用辺DLを横切る座標位置を、中心直線acの切片位置pacとして検出する。
また、4本の境界直線bo,bi,ao,aiについては、境界切片位置を検出する。ここで「境界切片位置」とは、撮影画像中に設定した所定の検査用辺DLを、境界直線が横切る座標位置である。図7(c)に示されるように、それぞれの境界直線bo,bi,ao,aiについて、境界切片位置pbo,pbi,pao,paiを検出する。
尚、ここでは、検査用辺DLは、撮影画像の下側の辺と平行な直線が設定されているものとして説明したが、これに限られるわけではない。例えば、撮影画像の左側の辺と右側の辺との間に位置に、左側あるいは右側の辺と平行に設定した直線を、検査用辺DLとして用いても良い。あるいは、簡便には、撮影画像の上側の辺、下側の辺、左側の辺、右側の辺の何れかを選択して、検査用辺DLとして用いても良い。更には、2本の中心直線や、4本の境界直線のそれぞれについて、別個に設定した検査用辺DLを用いることもできる。
図3のS103では、このようにして、検出した2本の中心直線のそれぞれについて、直線の傾きや切片位置を検出し、更に4本の境界直線のそれぞれについて、直線の傾きや境界切片位置を検出して、検出した結果を、メモリー(図2の検出直線記憶部104に相当)に記憶する。
続いて、取付角度較正装置100は、車両1のハンドル2が直進状態に保たれているか否かを判断する(S104)。S100およびS102で前述したように、車両1の運転者には、ハンドル2を直進状態にして、車両1を直進させるように指示してあるので、運転者がハンドル2を操舵しない限り、S104では「yes」と判断される。
そして、S104では「yes」と判断された場合は、所定枚数分(例えば、100枚分)の撮影画像に対して上述した処理(すなわち、撮影画像を解析して、中心直線の傾きおよび切片位置と、境界直線の傾きおよび境界切片位置とを検出し、それらの検出結果を記憶する処理)を行ったか否かを判断する(S107)。当然ながら、初めは1枚の撮影画像を処理しただけなので、S107では「no」と判断される。
そこで、この場合(すなわち、S107:noの場合)は、車両1の移動距離が、所定距離Lに達したか否かを判断する(S108)。
その結果、まだ所定距離Lに達していない場合は(S108:no)、再び、駐車枠Tの撮影画像を取得し(S102)、その撮影画像を解析することによって、中心直線の傾きおよび切片位置と、境界直線の傾きおよび境界切片位置とを検出して、検出結果を記憶する(S103)。
このようにすることで、取付角度較正装置100のメモリーには、1枚の撮影画像を取得する度に、2本の中心直線bc,acについての傾きkbc,kacおよび切片位置pbc,pacと、4本の境界直線bo,bi,ao,aiについての傾きkbo,kbi,kao,kaiおよび境界切片位置pbo,pbi,pai,paiとが蓄積されていく。図8には、取付角度較正装置100のメモリーに、中心直線についての傾きおよび切片位置や、境界直線についての傾きおよび境界切片位置が蓄積される様子が、模式的に示されている。
また、このようにして中心直線および境界直線の検出結果を蓄積している間に、車両1の運転者によってハンドル2が操舵された場合には、ハンドル2が直進状態にないと判断される(S104:no)。
そして、この場合は、取付角度較正装置100のメモリーに蓄積されている中心直線および境界直線の検出結果(図8参照)を破棄した後(S105)、ハンドル2を直進状態に保持しなければならない旨の警告および指示を、スピーカー5およびモニター6を用いて出力する(S106)。
続いて、処理の先頭に戻って、駐車枠Tの側線に対して車両1を平行にして、ハンドル2を直進状態とする旨を再び出力した後(S100)、続く上述した一連の処理(すなわち、S102〜S108)を繰り返す。こうすることによって、図8に示したように、中心直線および境界直線の検出結果が取付角度較正装置100のメモリーに蓄積されていく。
また、取付角度較正装置100のメモリーに、所定枚数分の撮影画像についての検出結果が蓄積される前に(S107:no)、車両1に移動距離が所定距離Lに達した場合には(S108:yes)、車両1の進行方向を逆転させて、所定距離L直進させる旨の指示を、スピーカー5およびモニター6を用いて出力する(S109)。例えば、それまで車両1が後進していた場合には、ハンドル2を直進状態に保ったまま、今度は車両1を前進させることによって、所定距離L移動する旨を指示する。また逆に、車両1が前進していた場合には、ハンドル2を直進状態に保ったまま、車両1を後進させることによって、所定距離L移動する旨を指示する。
その後、再びS102に戻って、駐車枠Tの撮影画像を取得した後、撮影画像を解析して検出した中心直線および境界直線の蓄積を継続する(S103〜S108)。
このような操作を繰り返しながら、撮影画像から検出した中心直線および境界直線を蓄積していると、やがては、中心直線および境界直線を検出して蓄積した撮影画像の枚数が、所定枚数に達したと判断される(S107:yes)。
そして、所定枚数分の撮影画像から検出した中心直線および境界直線の蓄積が完了すると、駐車枠Tの2本の側線a,bに対する車両1の向きが、S100で指示したとおりに平行になっていたか否かを判断することが可能となる。以下では、判断方法について説明するが、その準備として、判断するための基本的な考え方について説明する。
仮に、駐車枠Tの2本の側線a,bに対して、車両1の向きが平行になっていたとする。ハンドル2を直進状態に保ったまま車両1を移動させると、車両1と駐車枠Tとの相対的な位置関係が変化する。この位置関係の変化を、車両1の位置を基準として(すなわち車両1の位置を固定した状態で)、駐車枠Tの位置が変化したものとして表すと、図9(a)を得ることができる。
図9(a)に示されるように、車両1に対して駐車枠Tが移動しているが、この駐車枠Tの移動方向は、実際には車両1が移動する方向である。また、車両1はハンドル2を直進状態に保ったままで直進するから、車両1が移動する方向は、車両1の向きと同じとなる。そして、車両1の向きは、駐車枠Tの2本の側線a,bに対して平行となっているものとしているから、結局、図9(a)で駐車枠Tが移動する方向は、2本の側線a,bと同じ方向となる。従って、図9(a)に示されるように、車両1に対して駐車枠Tが移動すると、駐車枠Tの側線a,bは、それぞれ側線a,bの延長線上を移動する。
このことから、駐車枠Tの2本の側線a,bに対して、車両1の向きが平行になっている場合には、車両1を直進させながら取得した何れの撮影画像についても、側線aから検出した中心直線acは同じ直線となる筈である。同様に、側線bから検出した中心直線bcも同じ直線となる筈である。また、側線aから検出した外側の境界直線aoも同じ直線となり、内側の境界直線aiも同じ直線となる筈である。全く同様に、側線bから検出した外側の境界直線boも、内側の境界直線biも同じ直線となる筈である。
これに対して、駐車枠Tの2本の側線a,bに対して、車両1の向きが平行になっていなかったとする。この場合は、車両1の位置を基準として、駐車枠Tの位置が変化するものとして表示すると、図9(b)が得られる。図9(b)を見れば直ちに了解できるように、駐車枠Tの位置が変化するに伴って、車両1に対する側線a,bの位置が変化する。
従って、駐車枠Tの2本の側線a,bに対して、車両1の向きが平行になっていない場合には、車両1を直進させながら撮影画像を取得すると、撮影画像の側線aから検出した中心直線acや、側線bから検出した中心直線bcは、撮影画像毎に異なる直線となる筈である。また、側線aから検出した外側の境界直線aoや、内側の境界直線aiや、側線bから検出した外側の境界直線boや、内側の境界直線biも、撮影画像毎に異なる直線となる筈である。
このことから、複数枚の撮影画像から検出した中心直線ac,bcや、境界直線ao,ai,bo,biを記憶しておき、撮影画像間でそれらの直線が同じと見なせるのであれば、駐車枠Tの2本の側線a,bに対して、車両1の向きが平行になっていると判断して良いと考えられる。
図3および図4の取付角度較正処理では、このような原理に基づいて、駐車枠Tの2本の側線a,bに対して、車両1の向きが平行になっていると判断する。
すなわち、図3のS107に示すように、所定枚数分の撮影画像から検出した中心直線および境界直線の蓄積が完了したと判断したら(S107:yes)、蓄積しておいた中心直線の傾きおよび切片位置の分散が、所定の許容値以下に収まっているか否かを判断する(図4のS110)。
この判断は、次のようにして行う。先ず、図8を用いて前述したように、中心直線の傾きおよび切片位置は、中心直線bcおよび中心直線acのそれぞれについて蓄積されている。そこで、中心直線bcについての傾きkbcを読み出して、それらの分散σkbcを算出し、中心直線acについての傾きkacを読み出して、それらの分散σkacを算出する。
同様に、中心直線bcについての切片位置pbcを読み出して、それらの分散σpbcを算出し、中心直線acについての切片位置pacを読み出して、それらの分散σpacを算出する。
そして、求めた分散σkbc,σkac,σpbc,σpacが、それぞれに設定された所定の許容値以下に収まっているか否かを判断する。
その結果、中心直線bc,acの傾きkbc,kac、および切片位置pbc,pacの何れの分散σkbc,σkac,σpbc,σpacについても、所定の許容値以内に収まっていると判断した場合は(図4のS110:yes)、今度は、境界直線の傾きおよび切片位置の分散が、所定の許容値以下に収まっているか否かを判断する(S111)。すなわち、境界直線boについての傾きkboを読み出して、それらの分散σkboを算出し、境界直線biについての傾きkbiを読み出して、それらの分散σkbiを算出する。同様に、境界直線aoについての傾きkao、および境界直線aiについての傾きkaiを読み出して、それぞれの分散σkao,σkaiを算出する。
更に、境界直線boの境界切片位置pbo、境界直線biの境界切片位置pbi、境界直線aoの境界切片位置pao、境界直線aiの境界切片位置paiを読み出して、それぞれの分散σpbo,σpbi,σpao,σpaiを算出する。
そして、求めた分散σkao,σkai,σpbo,σpbi,σpao,σpaiが、それぞれに設定された所定の許容値以下に収まっているか否かを判断する。
その結果、分散σkao,σkai,σpbo,σpbi,σpao,σpaiが、所定の許容値以下に収まっていると判断した場合は(S111:yes)、撮影画像から検出した中心直線bc,acや、境界直線bo,bi,ao,aiが、撮影画像間で一致すると見なせる状態(すなわち、図9(a)に示した状態)と考えて良い。従って、この場合は、車両1の向きが、駐車枠Tの2本の側線a,bに対して平行になっていると判断できる。
これに対して、中心直線bc,acの傾きkbc,kacや、切片位置pbc,pacについての分散σkbc,σkac,σpbc,σpacが所定の許容値以内に収まっていない場合は(S110:no)、車両1の向きが、駐車枠Tの2本の側線a,bに対して平行になっていないと判断できる。
同様に、境界直線bo,bi,ao,aiの傾きkbo,kbi,kao,kaiや、境界切片位置pbo,pbi,pao,paiについての分散σkbo,σkbi,σkao,σkai,σpbo,σpbi,σpao,σpaiが、所定の許容値以内に収まっていない場合(S111:no)も、車両1の向きが、駐車枠Tの2本の側線a,bに対して平行になっていないと判断できる。
そこで、これらの場合(すなわち、S110:noあるいはS111:no)は、駐車枠Tの側線a,bに対して車両1が平行になっていない旨を、スピーカー5およびモニター6を用いて出力する(S112)。そして、蓄積した所定枚数分の撮影画像の中心直線および境界直線の検出結果(図8参照)を破棄した後(S113)、処理の先頭に戻って、上述した一連の処理(すなわち、図3のS100〜図4のS111の処理)を、始めからやり直す。
尚、以上では、中心直線の傾きおよび切片位置の分散が所定の許容値以下という条件と、境界直線の傾きおよび境界切片位置の分散が所定の許容値以下という条件の2つの条件を満たした場合に、車両1の向きが、駐車枠Tの側線a,bに対して平行になっていると判断した。しかし、何れか一方の条件を満たせば、車両1の向きと、駐車枠Tの側線a,bとが平行になっていると判断してもよい。
例えば、中心直線の傾きおよび切片位置の分散が所定の許容値以下であれば、車両1の向きと、駐車枠Tの側線a,bとが平行と判断することができる。そして、この場合は、中心直線の傾きおよび切片位置を蓄積すれば良く、従って、境界直線の傾きおよび境界切片位置は蓄積しなくても構わない。
また逆に、境界直線の傾きおよび境界切片位置の分散が所定の許容値以下であれば、車両1の向きと、駐車枠Tの側線a,bとが平行と判断することもできる。そして、この場合は、境界直線の傾きおよび境界切片位置を蓄積すれば良く、従って、中心直線の傾きおよび切片位置は蓄積しなくても構わない。
以上のようにして、駐車枠Tの2本の側線a,bに対して車両1の向きが平行になっていることが確認できたら(S111:yes)、撮影画像を取得する(S114)。このとき取得する撮影画像は、画像生成装置20から新たな撮影画像を取得しても良いし、あるいは、中心直線および境界直線を蓄積するために取得した所定枚数分の撮影画像の中で、画像生成装置20から最後に取得した撮影画像を流用しても良い。
続いて、画像生成装置20のメモリーに記憶されている車載カメラ10の取付角度の設定値を取得する(S115)。前述したように、画像生成装置20は車載カメラ10で撮影した撮影画像を鳥瞰変換して、鳥瞰画像をモニター6に出力する機能を有している。車載カメラ10の撮影画像を鳥瞰変換するためには、車載カメラ10が車両1に取り付けられている取付角度の値が必要となるので、画像生成装置20のメモリーには車載カメラ10の取付角度の設定値が記憶されている。そこで、S115では、この取付角度の設定値を画像生成装置20から取得する。
その後、S114で取得した撮影画像を鳥瞰変換する(S116)。この時に、鳥瞰変換に際して使用する車載カメラ10の取付角度は、S115で画像生成装置20から取得した取付角度の設定値を使用する。
そして、得られた鳥瞰画像を解析することにより、鳥瞰画像に写った駐車枠Tの2本の側線a,bの平行度が許容範囲内にあるか否かを判断する(S117)。
例えば、図10(a)に示すような撮影画像が得られており、この撮影画像を鳥瞰変換したところ、図10(b)のような鳥瞰画像が得られたものとする。図10(b)に示されるように、鳥瞰画像中の駐車枠Tは形状が歪んでいる。仮に、鳥瞰変換に用いた車載カメラ10の取付角度が正しいのであれば、得られた鳥瞰画像中の駐車枠Tは、実際の駐車枠Tの形状、すなわち、等幅で互いに平行な2本の側線a,bを有する形状となっている筈である。従って、鳥瞰画像中の駐車枠Tの形状が歪むということは、鳥瞰変換に用いた車載カメラ10の取付角度が、実際の取付角度とは異なっていることを意味している。
そこで、図4のS117では、S116で得られた鳥瞰画像を解析して、駐車枠Tの2本の側線b,aを検出し、更に、側線bの中心直線bcと、側線aの中心直線acとを検出する。そして、側線bの中心直線bcと、側線aの中心直線acとの平行度が、所定の許容範囲内にあるか否かを判断する。
その結果、側線bの中心直線bcと、側線aの中心直線acとの平行度が許容範囲内になかった場合は(S117:no)、鳥瞰画像中の駐車枠Tの形状が歪んでおり、従って、鳥瞰変換に用いた車載カメラ10の取付角度が正しくないと判断できる。
そこで、取付角度の設定値を変更して(S119)、変更した取付角度を用いて再び撮影画像を鳥瞰変換し(S116)、鳥瞰画像中の駐車枠Tの2本の側線の中心直線を検出して、それらの中心直線の平行度が許容範囲内にあるか否かを判断する(S117)。
尚、詳細には後述するが、車載カメラ10の取付角度には、ピッチ方向の取付角度(以下、ピッチ方向角度θp)と、ヨウ方向の取付角度(以下、ヨウ方向角度θy)と、ロール方向の取付角度(以下、ロール方向角度θr)とが存在する。ここで、ピッチ方向とは、車載カメラ10の光軸が車両1に対して上下方向に角度を変えるような方向である。また、ヨウ方向とは、車載カメラ10の光軸が車両1に対して左右方向に角度を変えるような方向である。更に、ロール方向とは、車載カメラ10が、車載カメラ10の光軸を中心軸として回転するような方向である。
S117で「no」と判断されて、S119で車載カメラ10の取付角度の設定値を変更する際には、車載カメラ10の取付角度の中でピッチ方向角度θpおよびヨウ方向角度θyを中心に設定値を変更することが望ましい。
車載カメラ10の取付角度を変更しながら、撮影画像の鳥瞰変換を繰り返しているうちに、例えば、図10(c)に示すような鳥瞰画像が得られたとする。図10(c)に示されるように、鳥瞰画像中の駐車枠Tは、側線bと側線aとは平行となっているが、依然として駐車枠Tの形状が歪んでいる。また、側線bの幅wbの方が、側線aの幅waよりも広くなっており、側線bと側線aとは等幅になっていない。このことは、2本の側線b,aの平行度が許容範囲内にあったとしても、そのことをもって直ちに正しい取付角度が得られたと考えることはできないことを示している。
そこで、駐車枠Tの2本の側線b,aの平行度が許容範囲内にあったと判断した場合には(図4のS117:yes)、続いて、側線bの幅wbと、側線aの幅waとを検出して、それらの幅の差が所定の許容範囲内か否かを判断する(S118)。
その結果、側線b,aの幅の差が許容範囲内になかった場合は(S118:no)、鳥瞰変換に用いた車載カメラ10の取付角度が、依然として正しくないと判断できるので、再び、取付角度の設定値を変更する(S119)。そして、変更した取付角度を用いて再び撮影画像を鳥瞰変換し(S116)、鳥瞰画像中の駐車枠Tの2本の側線を検出して、2本の側線の平行度が許容範囲内にあるか否か、および側線の差が許容範囲内にあるか否かを判断する(S117、S118)。
尚、S118で「no」と判断されて、S119で車載カメラ10の取付角度の設定値を変更する際には、車載カメラ10の取付角度の中でロール方向角度θrを中心に設定値を変更することが望ましい。
このようにして車載カメラ10の取付角度を変更しながら、撮影画像の鳥瞰変換を繰り返しているうちに、図10(d)に示すような鳥瞰画像が得られたとする。図10(d)に示した鳥瞰画像では、駐車枠Tの2本の側線b,aは平行となっている。更に、側線bの幅wbと、側線aの幅waとが等しくなっている。従って、駐車枠Tの形状は歪んでいないと考えて良い。そして、このことは、鳥瞰変換に用いた取付角度が、正しい角度、すなわち、車載カメラ10の車両1に対する実際の取付角度であることを意味している。
そこで、駐車枠Tの側線の平行度が許容範囲内となり、且つ、駐車枠Tの側線の幅の差が許容範囲内となるような鳥瞰画像が得られたら(S117:yes、且つ、S118:yes)、その時の鳥瞰変換に用いた取付角度を、更新するべき正しい取付角度として決定する(S120)。
そして、決定した取付角度を、画像生成装置20のメモリーに書き込むことによって、画像生成装置20に記憶されている取付角度の設定値を更新した後(S121)、図3および図4に示す取付角度較正処理を終了する。
尚、上述した取付角度較正処理の中で、更新するべき正しい取付角度として決定するまでの処理(すなわち、図3のS100〜図4のS120までの処理)は、車載カメラ10の取付角度を検出する取付角度検出処理として把握することもできる。
以上に詳しく説明したように、上述した取付角度較正処理では、撮影画像を鳥瞰変換して正しい取付角度を探索する(図4のS116〜S119)に先立って、車両1が駐車枠Tの2本の側線a,bに対して平行になっていることを確認している(S111:yes)。そして、実はこのようにすることで、車両1に対する車載カメラ10の正しい取付角度を簡単に検出することが可能となる。以下では、この点について補足して説明する。
図10を用いて前述したように、取付角度較正処理では、図10(a)に示すような撮影画像を鳥瞰変換して、図10(d)に示すような歪みのない駐車枠Tが得られるような取付角度を探索する。
実は、このようにして得られる取付角度は、駐車枠Tの2本の側線a,bに対して車載カメラ10の光軸CLがなす角度である。例えば、図11に示すように、車載カメラ10の光軸CLが、駐車枠Tの側線a,bに対してヨウ方向に角度θ、傾いていたものとする。実際には傾いているにも拘わらず、傾いていないものとして鳥瞰変換したのでは、駐車枠Tの形状が歪んでしまう。そこで、歪みのない駐車枠Tが得られるように、ヨウ方向の角度を変更することによって、実際に傾いている角度θを探索する。
しかし、こうして求められた角度θは、車載カメラ10の光軸CLが、駐車枠Tの側線a,bに対して傾いている角度であって、車載カメラ10が車両1に対して取り付けられている角度とは無関係である。すなわち、駐車枠Tの側線a,bに対して車載カメラ10の光軸CLがなす角度が分かっても、駐車枠Tの側線a,bに対して車両1がなす角度が分からなければ、車載カメラ10の車両1に対する取付角度を求めることはできない。図11で、車両1が破線で表示されているのは、車両1の向きが未確定であることを表している。
ところが、車両1の向きが、駐車枠Tの側線a,bに対して平行となっていることが保証されているものとする。この場合、車両1の向きと、駐車枠Tの側線a,bの向きとが同じ向きとなるから、車載カメラ10の光軸CLが駐車枠Tの側線a,bに対してなす角度は、そのまま、車両1に対してなす角度(すなわち、車両1に対する車載カメラ10の取付角度)と読み替えることができる。このため、車載カメラ10の車両1に対する取付角度を、簡単に求めることが可能となる。
このような理由から、上述した取付角度較正処理では、車両1が駐車枠Tの2本の側線a,bに対して平行になっていることを確認した上で(図4のS111:yes)、撮影画像を鳥瞰変換して正しい取付角度を探索(S116〜S119)しているのである。
また、上述した取付角度較正処理では、車載カメラ10の取付角度を変更して、様々な取付角度で撮影画像の鳥瞰変換を実行可能なことが前提となっている。そこで以下では、このようなことが可能な理由について説明する。
先ず始めに、撮影画像を鳥瞰変換するために用いる各種の座標系について説明する。
図12には、鳥瞰変換に用いる各種の座標系が示されている。鳥瞰変換では、車両1を基準とする直交座標系と、車載カメラ10を基準とする直交座標系とを考える。また、車両1を基準とする直交座標系は、車両1の前後方向に対して直角かつ水平方向に取った座標軸(以下、Xo軸)と、車両1の前後方向に取った座標軸(以下、Yo軸)と、車両1の前後方向に対して直角かつ鉛直方向に取った座標軸(以下、Zo軸)とによって形成されているものとする。尚、以下では、このような車両1を基準とする直交座標系による座標を「車両基準座標」と称し、車両基準座標による座標値を(xo、yo、zo)と表すものとする。
また、車載カメラ10を基準とする直交座標系については、車載カメラ10の光軸に沿って取った座標軸(以下、CY軸)と、CY軸に直角で且つ水平方向に取った座標軸(以下、CX軸)と、CY軸およびCX軸に対して直角且つ上向きに取った座標軸(以下、CZ軸)とによって形成されているものとする。また、以下では、このような、車載カメラ10を基準とする直交座標系による座標を「カメラ基準座標」と称し、カメラ基準座標による座標値を(cx、cy、cz)と表すものとする。
ここで、車両基準座標(xo、yo、zo)とカメラ基準座標(cx、cy、cz)との関係は、車両1に取り付けられた車載カメラ10の位置によって変化する。そこで、鳥瞰変換を容易とするために、車両1を基準とする直交座標系の原点Oが、車載カメラ10を基準とする直交座標系の原点COに一致するように、車両1を基準とする直交座標系を平行移動させた新たな直交座標系を考える。この新たな直交座標系の各座標軸の中で、Xo軸に平行な座標軸をX軸とし、Yo軸に平行な座標軸をY軸とし、Zo軸に平行な座標軸をZ軸とする。また、この新たな直交座標系による座標は、以下では「解析用車両基準座標」と称し、解析用車両基準座標による座標値を(x、y、z)と表すものとする。
このような解析用車両基準座標を考えると、車載カメラ10のピッチ方向の回転はX軸周りの回転と考えることができ、車載カメラ10のロール方向の回転はY軸周りの回転と、車載カメラ10のヨウ方向の回転はZ軸周りの回転と考えることができる。
更に、これら車両基準座標の座標値(xo、yo、zo)と、解析用車両基準座標の座標値(x、y、z)とは、図13に示す式(1)によって容易に変換することができる。尚、式(1)中のtx、ty、tzは、カメラ基準座標の原点COの車両基準座標でのxo座標、yo座標、zo座標を表している。
このように、車両基準座標の座標値(xo、yo、zo)と、解析用車両基準座標の座標値(x、y、z)とは相互に変換可能であり、また、解析にはもっぱら解析用車両基準座標の座標値(x、y、z)が用いられる。
このような解析用車両基準座標の座標値(x、y、z)と、カメラ基準座標の座標値(cx、cy、cz)とは、図14中に示した式(2)によって関係づけられている。ここで、式(2)中の[P]は、解析用車両基準座標をピッチ方向に回転させるための回転行列である。また、式(2)中の[R]は、解析用車両基準座標をロール方向に回転させるための回転行列であり、[Y]は、解析用車両基準座標をヨウ方向に回転させるための回転行列である。また、回転行列[P]中の角度θpは、解析用車両基準座標に対するカメラ基準座標のピッチ方向の回転角度であり、回転行列[R]中の角度θrは、解析用車両基準座標に対するカメラ基準座標のロール方向の回転角度である。更に、回転行列[Y]中の角度θpは、解析用車両基準座標に対するカメラ基準座標のヨウ方向の回転角度である。
地面に描かれた駐車枠Tの解析用車両基準座標による座標値(x、y、z)は、図14に示した式(2)によって、カメラ基準座標の座標値(cx、cy、cz)に変換される。
こうしてカメラ基準座標に変換された駐車枠Tの座標値(cx、cy、cz)は、撮影画像上での座標値(u、v)に変換することができる。尚、撮影画像上での座標値(u、v)を、以下では、画像面座標の座標値(u、v)と称するものとする。
図15には、カメラ基準座標に変換された駐車枠Tの座標値(cx、cy、cz)を、画像面座標の座標値(u、v)に変換する方法が示されている。図示されるように、カメラ基準座標の原点COから適切な距離SLに、車載カメラ10の光軸(ここでは、座標軸CY)に直交する平面(以下、画像面と称する)を設定する。こうすれば、車載カメラ10の撮影画像は、カメラ基準座標上の撮影対象を、画像面に投影したものと考えることができる。
従って、カメラ基準座標の座標軸CYと画像面との交点を原点として、カメラ基準座標の座標軸CXと平行に座標軸Uを取り、カメラ基準座標の座標軸CZと平行に座標軸Vと取れば、地面に描かれた駐車枠Tの座標値(cx、cy、cz)は、図15(c)に示した式(3)によって、画像面上の座標値(u、v)に変換される。
図16には、以上に説明した各座標値の関係がまとめて示されている。すなわち、車両基準座標の座標値(xo、yo、zo)と、解析用車両基準座標の座標値(x、y、z)とは、図13に示した式(1)によって相互に変換可能である。また、解析用車両基準座標の座標値(x、y、z)は、図14(b)中の式(2)によってカメラ基準座標の座標値(cx、cy、cz)に変換され、更に、図15(c)中の式(3)によって画像面座標の座標値(u、v)に変換される。そして、この画像面座標の座標値(u、v)が撮影画像上での座標値に対応する。
このように、解析用車両基準座標の座標値(x、y、z)と、画像面座標の座標値(u、v)とは一対一に対応しているから、図16中に破線の矢印で示したように、画像面座標の座標値(u、v)を解析用車両基準座標の座標値(x、y、z)に逆変換することも可能である。そして、鳥瞰画像は、解析用車両基準座標の画像をZ軸方向から見た画像であるから、解析用車両基準座標の座標値(x、y、z)のZ軸成分を削除することによって得られる画像となる。
従って、画像面座標の座標値(u、v)を解析用車両基準座標の座標値(x、y、z)に逆変換し、得られた解析用車両基準座標の座標値(x、y、z)からZ軸成分を削除するという一連の変換を行えば、撮影画像を鳥瞰変換することができる。更に、これらの一連の変換を合成した変換を実行する鳥瞰変換モジュールを形成することも可能である。
尚、車両基準座標の座標値(x、y、z)のZ軸成分を削除して得られる座標値(x、y)を、以下では、鳥瞰座標の座標値(x、y)と称することがあるものとする。
また、図14(b)の式(2)に示されるように、解析用車両基準座標の座標値(x、y、z)からカメラ基準座標の座標値(cx、cy、cz)への変換は、車載カメラ10のピッチ方向の角度θpと、ロール方向の角度θrと、ヨウ方向の角度θyとに依存する。このことから当然に、撮像画像の画像面座標(u、v)を鳥瞰座標の座標値(x、y)に変換する鳥瞰変換も、車載カメラ10のピッチ方向の角度θpと、ロール方向の角度θrと、ヨウ方向の角度θyとに依存する。
そこで、図17に示したように、車載カメラ10のピッチ方向の角度θpと、ロール方向の角度θrと、ヨウ方向の角度θyとを、鳥瞰変換モジュールの外部から設定可能としておく。
図4に示した取付角度調整処理のS116では、このような鳥瞰変換モジュールを用いて、撮影画像を鳥瞰画像に変換している。
尚、以上では、駐車枠Tが2本の側線a,bと、側線に直角な横線cとを有しているものとして説明した(図5参照)。しかし、上述したように、図3および図4に示した取付角度較正処理では、駐車枠Tの2本の側線a,bは利用するものの、駐車枠Tの横線cについては利用していない。従って、駐車枠Tが横線cを有していない場合でも、何ら問題なく、車載カメラ10の取付角度を検出して、正しい取付角度に較正することができる。
すなわち、図18(a)に示すように駐車枠Tが横線cを持たない場合には、図18(b)に例示するような撮影画像が得られる。このような場合でも、2本の側線bおよび側線aを検出すれば、上述した取付角度較正処理を行うことによって、車載カメラ10の取付角度を較正することが可能となる。
B.第2実施例 :
上述した第1実施例では、画像生成装置20から取得した撮影画像を鳥瞰変換して、得られた鳥瞰画像の中から駐車枠Tの2本の側線a,bを検出するものとして説明した。
しかし、上述したように、撮影画像を鳥瞰変換するに先立って、複数枚の撮影画像から検出した側線の中心直線および境界直線を蓄積することによって、駐車枠Tの2本の側線a,bに対して、車両1が平行になっていることを確認している。
そこで、画像生成装置20から取得した撮影画像を鳥瞰変換するのではなく、蓄積した中心直線および境界直線を利用して、鳥瞰変換するための画像を生成しても良い。以下では、このような第2実施例について、第1実施例との相違点を中心に説明する。
B−1.第2実施例の取付角度較正装置200の内部構造 :
図19には、第2実施例の取付角度較正装置200の大まかな内部構造を示したブロック図が示されている。第2実施例の取付角度較正装置200は、図2を用いて前述した第1実施例の取付角度較正装置100に対して、代表撮影画像生成部201を備える点や、鳥瞰変換部109が、鳥瞰変換する画像を撮影画像取得部101からではなく、代表撮影画像生成部201から取得する点が大きく異なっている。以下、これらの相違点を中心として、第2実施例の取付角度較正装置200の内部構造について簡単に説明する。
図示されるように第2実施例の取付角度較正装置200も、前述した第1実施例の取付角度較正装置100と同様に、撮影画像取得部101と、中心直線検出部102と、境界直線検出部103と、検出直線記憶部104と、平行判断部105と、車両監視部106と、警報出力部107と、設定値取得部108と、鳥瞰変換部109と、取付角度探索部110と、鳥瞰画像評価部111と、設定値変更部112と、取付角度決定部113と、取付角度更新部114とを備えている。これらに加えて、第2実施例の取付角度較正装置200は、代表撮影画像生成部201も備えている。
尚、第2実施例の取付角度較正装置200の中で取付角度更新部114を除いた部分(図中の破線で囲った部分)は、第2実施例の取付角度検出装置220に対応する。
撮影画像取得部101や、中心直線検出部102、境界直線検出部103、検出直線記憶部104、平行判断部105、車両監視部106、警報出力部107の機能は、前述した第1実施例と同様であるため、ここでは説明を省略する。
代表撮影画像生成部201は、平行判断部105の判断結果を取得する。そして、平行判断部105の判断結果が、ターゲット図形の2本の直線部分に対して車両1が平行になっている旨の判断結果であった場合には、検出直線記憶部104に記憶されている中心直線の検出結果や、境界直線の検出結果を読み出すことによって、代表撮影画像を生成する。代表撮影画像については後ほど詳しく説明するが、代表撮影画像には、複数枚の撮影画像から検出したターゲット図形の2本の直線部分を代表するような、2本の中心直線と4本の境界直線とが含まれている。
また、設定値取得部108は、第1実施例と同様に、平行判断部105から、ターゲット図形の直線部分に対して車両1が平行である旨の判断結果を受け取ると、画像生成装置20から車載カメラ10の取付角度を取得して、鳥瞰変換部109に出力する。
第2実施例の鳥瞰変換部109は、設定値取得部108から取付角度を受け取ると、代表撮影画像生成部201で生成した代表撮影画像に対して鳥瞰変換を行う。
第2実施例の鳥瞰画像評価部111は、代表撮影画像を鳥瞰変換して得られた鳥瞰画像を解析して、代表撮影画像に含まれる2本の中心直線や4本の境界直線が、ターゲット図形の直線部分を代表するような直線に正しく変換されているか否かを判断する。そして、正しく変換されていなかった場合は、前述した第1実施例と同様に、設定値変更部112は、設定値取得部108が記憶部21から取得していた取付角度の値を変更する。
すると、鳥瞰変換部109は、変更された取付角度を用いて、再び代表撮影画像を鳥瞰変換することにより、新たな鳥瞰画像を生成する。
このように、第2実施例においても、鳥瞰画像評価部111および設定値変更部112をまとめて、取付角度探索部110と把握することができる。
そして、鳥瞰画像評価部111によって、代表撮影画像に含まれる2本の中心直線や4本の境界直線が正しく変換されたと判断されたら、第2実施例の取付角度決定部113および取付角度更新部114は、前述した第1実施例の取付角度決定部113および取付角度更新部114と同様な処理を行う。すなわち、取付角度決定部113は、その時の鳥瞰変換に用いた取付角度を取得して、その取付角度を正しい取付角度として決定する。また、取付角度更新部114は、取付角度決定部113が決定した正しい取付角度を、画像生成装置20の記憶部21に書き込むことによって、記憶部21が記憶している取付角度を更新する。こうすることによって、画像生成装置20が画像を生成する際に用いる取付角度の較正が終了する。
B−2.第2実施例の取付角度較正処理 :
図20には、第2実施例の取付角度較正処理の後半部分のフローチャートが示されている。尚、第2実施例の取付角度較正処理の前半部分のフローチャートは、図3に示した第1実施例の取付角度較正処理の前半部分のフローチャートと同様であるため、図示を省略している。以下では、処理の前半部分については、前述した図3を流用し、処理の後半部分については図20を参照することによって、第2実施例の取付角度較正処理について簡単に説明する。
第2実施例の取付角度較正処理も、前述した第1実施例の取付角度較正処理と同様に、先ず始めに、駐車枠Tの側線に対して車両1を平行に向けて、ハンドル2を直進状態にする旨の指示を出力し、更に、車両1を所定距離L、直進させる旨の指示を出力する(図3のS100およびS101に相当)。その後、画像生成装置20から駐車枠Tの撮影画像を取得して、その撮影画像から、駐車枠Tの2本の側線a,bの中心直線および境界直線の傾きや、中心直線の切片位置、境界直線の境界切片位置を検出して記憶する(S102およびS103に相当)。
続いて、車両1のハンドル2が直進状態に保たれているか否か、あるいは所定枚数分の撮影画像の検出結果を記憶したか否か、更には、車両1の移動距離が所定距離Lに達したか否かを判断する(S104、S107、S108に相当)。この時、ハンドル2が直進状態に保たれていなかった場合は、それまでに検出して記憶しておいた中心直線および境界直線の検出結果を破棄して、ハンドル2が直進状態に保持する必要がある旨の警告および指示を出力した後(S105、S106に相当)、処理の始めからやり直す。また、車両1の移動距離が所定距離Lに達した場合には、車両1の移動方向を逆転させる旨の指示を出力した後(S109に相当)、新たな撮影画像を取得して、その撮影画像から検出した中心直線および境界直線を記憶する(S102、S103に相当)。
このようにして中心直線および境界直線の検出結果を蓄積している間に、中心直線および境界直線の検出結果を蓄積した撮影画像の枚数が所定枚数に達したら(S107:yesに相当)、撮影画像から検出した中心直線および境界直線の蓄積が完了する。
続いて、蓄積した中心直線の傾きおよび切片位置の分散が、所定の許容値以下に収まっているか否かを判断する(図20のS150)。この判断は、前述した図4のS110の判断と同じである。すなわち、図8を用いて前述したように、中心直線bcについての傾きkbcを読み出して、それらの分散σkbcを算出し、中心直線acについての傾きkacを読み出して、それらの分散σkacを算出する。同様に、中心直線bcについての切片位置pbcを読み出して、それらの分散σpbcを算出し、中心直線acについての切片位置pacを読み出して、それらの分散σpacを算出する。
そして、求めた分散σkbc,σkac,σpbc,σpacが、それぞれに設定された所定の許容値以下に収まっているか否かを判断する。
その結果、中心直線の傾きおよび切片位置のそれぞれについての分散が、所定の許容値以内に収まっていた場合は(図20のS150:yes)、今度は、境界直線の傾きおよび切片位置の分散が、所定の許容値以下に収まっているか否かを判断する(S151)。この判断も、前述した図4のS111の判断と同じである。すなわち、図8を用いて前述したように、境界直線bo,bi,ao,aiのそれぞれについての傾きkbo,kbi,kao,kaiを読み出して、それぞれについての分散σkbo,σkbi,σkao,σkaiを算出する。同様に、境界直線bo,bi,ao,aiのそれぞれについての境界切片位置pbo,pbi,pao,paiを読み出して、それぞれについての分散σpbo,σpbi,σpao,σpaiを算出する。
そして、求めた分散σkbo,σkbi,σkao,σkai,σpbo,σpbi,σpao,σpaiが、それぞれに設定された所定の許容値以下に収まっているか否かを判断する。
また、中心直線の傾きおよび切片位置のそれぞれについての分散が、所定の許容値以内に収まっていない場合や(S150:no)、境界直線の傾きおよび境界切片位置のそれぞれについての分散が、所定の許容値以内に収まっていない場合は(S151:no)、車両1の向きが、駐車枠Tの2本の側線a,bに対して平行になっていないと判断できる。
そこで、これらの場合(S150:noあるいはS151:no)は、駐車枠Tの側線a,bに対して車両1が平行になっていない旨を出力し(S152)、更に、蓄積した所定枚数分の撮影画像の中心直線および境界直線の検出結果(図8参照)を破棄する(S153)。その後、処理の先頭(すなわち、図3のS100に相当する処理)に戻って、上述した一連の処理を始めからやり直す。
これに対して、中心直線の傾きおよび切片位置の分散が許容値以下で(S150:yes)、且つ、境界直線の傾きおよび境界切片位置の分散が許容値以下であった場合は(S151:yes)、所定枚数分の撮影画像から検出した中心直線bc,acや、境界直線bo,bi,ao,aiが、撮影画像間で一致すると見なせる状態(すなわち、図9(a)に示した状態)と考えて良い。従って、この場合は、車両1の向きが、駐車枠Tの2本の側線a,bに対して平行になっていると判断できる。
前述した第1実施例の取付角度較正処理では、このようにして、車両1の向きが、駐車枠Tの側線a,bに対して平行になっていることが確認できた場合には(図4のS111:yes)、鳥瞰変換するための撮影画像を取得した(S114)。
これに対して第2実施例の取付角度較正処理では、鳥瞰変換するための代表撮影画像を生成する(図20のS154)。ここで、代表撮影画像とは、車両1の向きが駐車枠Tの側線a,bに対して平行になっていることを確認するために用いた所定枚数の撮影画像を代表する画像である。以下、代表撮影画像について詳しく説明する。
車両1の向きが駐車枠Tの側線a,bに対して平行になっていることが確認されたと言うことは、所定枚数分の撮影画像から検出した中心直線bc,acや、境界直線bo,bi,ao,aiのそれぞれが、撮影画像間で重なっていると見なせるということである。
従って、所定枚数分の撮影画像から検出した中心直線bcを代表する代表中心直線tbcや、所定枚数分の撮影画像から検出した中心直線acを代表する代表中心直線tacを想定することができる。例えば、代表中心直線tbcについては、所定枚数分の中心直線bcの傾きkbcおよび切片位置pbcの平均値または中央値を、それぞれ傾きおよび切片位置とするような直線を求めて、代表中心直線tbcとすることができる。
同様にして、所定枚数分の境界直線boを代表する代表境界直線tboや、所定枚数分の境界直線biを代表する代表境界直線tbiや、所定枚数分の境界直線aoを代表する代表境界直線taoや、所定枚数分の境界直線aiを代表する代表境界直線taiを決定することができる。
図21(a)には、このようにして決定した代表中心直線tbc,tac、および代表境界直線tbo,tbi,tao,taiが例示されている。また、このような代表中心直線tbc,tac、および代表境界直線tbo,tbi,tao,taiは、所定枚数分の撮影画像に写った駐車枠Tの2本の側線a,bの部分を代表していると考えることができる。図20のS154で生成する代表撮影画像とは、図21(a)に示すような画像である。
尚、以上では、代表撮影画像は、2本の代表中心直線tbc,tac、および4本の代表境界直線tbo,tbi,tao,taiを備えるものとして説明した。
しかし、代表撮影画像は、2本の代表中心直線tbc,tacを除いて、4本の代表境界直線tbo,tbi,tao,taiを備えるものとしても良い。この場合は、境界直線の傾きおよび境界切片位置を蓄積すれば良く、従って、中心直線の傾きおよび切片位置は蓄積しなくても構わない。
続いて、車載カメラ10の取付角度の設定値を取得した後(図20のS155)、S154で生成した代表撮影画像を鳥瞰変換する(S156)。図21(a)に示したように、代表撮影画像は、2本の代表中心直線tbc,tac、および4本の代表境界直線tbo,tbi,tao,taiを備えているから、鳥瞰変換することによって代表撮影画像は、図21(b)に示すような鳥瞰画像に変換される。
そして、得られた鳥瞰画像を解析することにより、鳥瞰変換後の駐車枠Tの2本の側線a,bの平行度が許容範囲内にあるか否かを判断する(S157)。この判断は、図21(b)に示した鳥瞰画像中の2本の代表中心直線tbc,tacの平行度を求めて、得られた平行度が許容範囲内にあるか否かによって判断することができる。
あるいは、代表撮影画像に2本の代表中心直線tbc,tacが含まれておらず、従って、鳥瞰画像にも2本の代表中心直線tbc,tacが含まれていない場合には、鳥瞰画像中の4本の代表境界直線tbo,tbi,tao,taiの平行度が許容範囲内にあるか否かを判断してもよい。
その結果、鳥瞰変換後の駐車枠Tの2本の側線a,bの平行度が許容範囲内にあると判断した場合は(S157:yes)、今度は、鳥瞰変換後の駐車枠Tの2本の側線a,bの幅の差が許容範囲内にあるか否かを判断する(S158)。この判断は、図21(b)に示した鳥瞰画像中の2本の代表境界直線tbo,tbiの距離と、2本の代表境界直線tao,taiの距離とを求めて、2つの距離の差が許容範囲内にあるか否かによって判断することができる。
また、鳥瞰変換後の駐車枠Tの2本の側線a,bの平行度が許容範囲内にないと判断した場合は(S157:no)、鳥瞰変換に用いた車載カメラ10の取付角度が正しくないと判断できる。あるいは、鳥瞰変換後の駐車枠Tの2本の側線a,bの幅の差が許容範囲内にないと判断した場合も(S158:no)、鳥瞰変換に用いた車載カメラ10の取付角度が正しくないと判断できる。
そこで、これらの場合(S157:no、あるいはS158:no)は、取付角度の設定値を変更して(S159)、変更した取付角度を用いて再び代表撮影画像を鳥瞰変換する(S156)。そして、得られた鳥瞰画像中の駐車枠Tの2本の側線の平行度が許容範囲内にあるか否か(S157)、あるいは2本の側線の幅の差が許容範囲内にあるか否か(S158)の判断を繰り返すことにより、正しい取付角度を探索する。
その結果、鳥瞰変換後の駐車枠Tの2本の側線a,bの平行度が許容範囲内にあると判断され(S157:yes)、且つ、鳥瞰変換後の駐車枠Tの2本の側線a,bの幅の差が許容範囲内にあると判断されたら(S158:yes)、その時の鳥瞰変換に用いた取付角度を、正しい取付角度として決定する(S160)。
そして、決定した取付角度を、画像生成装置20のメモリーに書き込むことによって、画像生成装置20に記憶されている取付角度の設定値を更新して(S161)、第2実施例の取付角度較正処理を終了する。
尚、上述した第2実施例の取付角度較正処理についても、更新するべき正しい取付角度として決定するまでの処理(すなわち、図3のS100に相当する処理〜図20のS160までの処理)は、車載カメラ10の取付角度を検出する取付角度検出処理として把握することができる。
以上に説明した第2実施例の取付角度較正処理では、2本の代表中心直線、および4本の代表境界直線を含んだ代表撮影画像を鳥瞰変換するので、鳥瞰変換後の代表中心直線および代表境界直線を直接求めることができる。このため、鳥瞰画像中の駐車枠Tを検出し、駐車枠Tの2本の側線a,bを検出しなくても、2本の側線a,bが正しく鳥瞰変換されているか否かを、簡単に判断することが可能となる。
また、所定枚数の撮影画像を代表する代表撮影画像を鳥瞰変換するので、撮影画像に混入するノイズの影響を受けることなく、車載カメラ10の正しい取付角度を安定して検出することが可能となる。
C.変形例 :
上述した第1実施例および第2実施例には、以下のような変形例を考えることができる。すなわち、図10を用いて前述したように、2本の側線b,aの幅が等しくない場合は、2本の側線b,aの端点の位置がずれている(図10(c)参照)。これに対して、2本の側線b,aの幅が等しくなると、2本の側線b,aの端点の位置はずれなくなる(図10(d)参照)。
このことから、2本の側線b,aの幅の差の代わりに、2本の側線b,aの端点の位置に着目して、車載カメラ10の取付角度を探索しても良い。
例えば、図22(a)に例示したような撮影画像が得られていたとする。この撮影画像を鳥瞰変換したところ、図22(b)に示すような鳥瞰画像が得られた場合には、鳥瞰画像中の側線bの中心直線bcと、側線aの中心直線acとが平行ではないので、鳥瞰変換に用いた取付角度は正しくないと判断することができる。
そこで、取付角度の探索を継続したところ、図22(c)に示すような鳥瞰画像が得られたものとする。この場合には、鳥瞰画像中の側線bの中心直線bcと、側線aの中心直線acとは平行であるが、側線bの端点Tpbの位置と、側線aの端点Tpaの位置とがずれているので、鳥瞰変換に用いた取付角度は正しくないと判断することができる。
そこで、更に、取付角度の探索を継続した結果、図22(d)に示すような鳥瞰画像が得られたものとする。この鳥瞰画像では、側線bの中心直線bcと、側線aの中心直線acとが平行で、更に、側線bの端点Tpbの位置と、側線aの端点Tpaの位置とがずれていない。このような場合には、鳥瞰変換に用いた取付角度は正しいと判断することができる。
このことから、駐車枠Tの2本の側線a,bが平行となり、且つ、2本の側線a,bの端点の位置がずれない鳥瞰画像が得られるような取付角度を探索することで、正しい取付角度を決定することができる。
以上に説明した変形例の方法では、駐車枠Tの2本の側線b,aの平行度と、それぞれの側線b,aの端点の位置とに基づいて、車載カメラ10の取付角度を探索する。従って、図18を用いて前述したように、駐車枠Tが横線cを有さない場合でも、車載カメラ10の取付角度を較正することが可能となる。
以上、各種の実施例および変形例について説明したが、本発明は上記の実施例および変形例に限られるものではなく、その要旨を逸脱しない範囲において種々の態様で実施することができる。
1…車両、 10…車載カメラ、 20…画像生成装置、
100…取付角度較正装置、 101…撮影画像取得部、
102…中心直線検出部、 103…境界直線検出部、
104…検出直線記憶部、 105…平行判断部、 106…車両監視部、
107…警報出力部、 108…設定値取得部、 109…鳥瞰変換部、
110…取付角度探索部、 111…鳥瞰画像評価部、
112…設定値変更部、 113…取付角度決定部、 114…取付角度更新部、
120…取付角度検出装置、 200…取付角度較正装置、
201…代表撮影画像生成部、 220…取付角度検出装置。

Claims (11)

  1. 車両の周囲の地面を撮影する車載カメラ(10)が前記車両に対して取り付けられた取付角度を検出する取付角度検出装置(120、220)であって、
    互いに平行で且つ等幅な2本の直線部分を有するターゲット図形が形成された前記地面の撮影画像を取得する撮影画像取得部(101)と、
    前記車両に対する前記車載カメラの取付角度の設定値を取得して、前記車載カメラが前記設定値で取り付けられているものと仮定することによって、前記撮影画像を、前記撮影画像に写った前記地面をあたかも上方から見下ろした鳥瞰画像に鳥瞰変換する鳥瞰変換部(109)と、
    前記鳥瞰変換に用いる前記取付角度の設定値を変更することで、前記鳥瞰画像中の前記ターゲット図形の前記2本の直線部分の平行度および前記2本の直線部分の幅の差が、何れも所定の許容範囲内となる前記取付角度を探索する取付角度探索部(110)と、
    探索された前記取付角度を、前記車載カメラの前記車両に対する取付角度として決定する取付角度決定部(113)と
    を備える取付角度検出装置。
  2. 請求項1に記載の取付角度検出装置であって、
    前記車載カメラは、前記車両の前方または後方に向けて搭載されており、
    前記撮影画像取得部は、前記ターゲット図形の前記2本の直線部分の方向に沿って前記車両を直進させることによって異なる位置から撮影された複数の前記撮影画像を取得しており、
    前記撮影画像から前記ターゲット図形中の2本の前記直線部分を検出して、前記直線部分を延長した2本の中心直線について、前記中心直線の傾きと、前記中心直線が前記撮影画像中の所定の一辺を横切る切片位置とを、前記2本の中心直線を識別した状態で検出する中心直線検出部(102)と、
    前記複数の撮影画像の各々から検出された前記2本の中心直線についての前記傾きおよび前記切片位置を、前記2本の中心直線が識別された状態で記憶しておき、前記2本の中心直線の各々についての前記傾きおよび前記切片位置の偏差が所定の許容値以下であった場合に、前記ターゲット図形の前記2本の直線部分に対して前記車両が平行と判断する平行判断部(105)と
    を備え、
    前記取付角度探索部は、前記ターゲット図形の前記2本の直線部分に対して前記車両が平行と判断された場合に、前記取付角度を探索する
    ことを特徴とする取付角度検出装置。
  3. 請求項2に記載の取付角度検出装置であって、
    前記撮影画像から前記ターゲット図形中で幅を有する2本の前記直線部分を検出して、前記2本の直線部分の内側および外側の直線を延長した4本の境界直線について、前記境界直線の傾きと、前記境界直線が前記撮影画像中の所定の一辺を横切る境界切片位置とを、前記4本の境界直線を識別した状態で検出する境界直線検出部(103)と、
    前記複数の撮影画像の各々から検出された前記4本の境界直線についての前記傾きおよび前記境界切片位置を、前記4本の境界直線が識別された状態で記憶しておき、前記4本の境界直線の各々についての前記傾きおよび前記境界切片位置の偏差が所定の許容値以下であった場合に、前記ターゲット図形の前記2本の直線部分に対して前記車両が平行と判断する平行判断部(105)と
    を備え、
    前記取付角度探索部は、前記ターゲット図形の前記2本の直線部分に対して前記車両が平行と判断された場合に、前記取付角度を探索する
    ことを特徴とする取付角度検出装置。
  4. 請求項3に記載の取付角度検出装置(220)であって、
    前記ターゲット図形の前記2本の直線部分に対して前記車両が平行と判断されると、前記複数の撮影画像の各々から前記4本の境界直線を抽出した結果に基づいて、前記4本の境界直線を代表する4本の代表境界直線を決定し、前記ターゲット図形の前記2本の直線部分を前記4本の代表境界直線で代表させることによって、前記複数の撮影画像を代表する代表撮影画像を生成する代表撮影画像生成部(201)と
    を備え、
    前記鳥瞰変換部は、前記代表撮影画像を鳥瞰変換することによって前記鳥瞰画像を生成する
    ことを特徴とする取付角度検出装置。
  5. 請求項2ないし請求項4の何れか一項に記載の取付角度検出装置であって、
    前記撮影画像の取得中に、前記車両の前記操舵角を監視する車両監視部(106)と、
    前記撮影画像の取得中に、前記車両が直進していない場合には警報を出力する警報出力部(107)と
    を備える取付角度検出装置。
  6. 車両の周囲の地面を撮影する車載カメラの前記車両に対する取付角度を較正する取付角度較正装置(100、200)であって、
    互いに平行で且つ等幅な2本の直線部分を有するターゲット図形が形成された前記地面の撮影画像を取得する撮影画像取得部(101)と、
    前記車両に対する前記車載カメラの取付角度の設定値を取得して、前記車載カメラが前記設定値で取り付けられているものと仮定することによって、前記撮影画像を、前記撮影画像に写った前記地面をあたかも上方から見下ろした鳥瞰画像に鳥瞰変換する鳥瞰変換部(109)と、
    前記鳥瞰変換に用いる前記取付角度の設定値を変更することで、前記鳥瞰画像中の前記ターゲット図形の前記2本の直線部分の平行度および前記2本の直線部分の幅の差が、何れも所定の許容範囲内となる前記取付角度を探索する取付角度探索部(110)と、
    探索された前記取付角度によって、前記車載カメラの前記車両に対する取付角度を較正する取付角度較正部(114)と
    を備える取付角度較正装置。
  7. 請求項6に記載の取付角度較正装置であって、
    前記車載カメラは、前記車両の前方または後方に向けて搭載されており、
    前記撮影画像取得部は、前記ターゲット図形の前記2本の直線部分の方向に沿って前記車両を直進させることによって異なる位置から撮影された複数の前記撮影画像を取得しており、
    前記撮影画像から前記ターゲット図形中の2本の前記直線部分を検出して、前記直線部分を延長した2本の中心直線について、前記中心直線の傾きと、前記中心直線が前記撮影画像中の所定の一辺を横切る切片位置とを、前記2本の中心直線を識別した状態で検出する中心直線検出部(102)と、
    前記複数の撮影画像の各々から検出された前記2本の中心直線についての前記傾きおよび前記切片位置を、前記2本の中心直線が識別された状態で記憶しておき、前記2本の中心直線の各々についての前記傾きおよび前記切片位置の偏差が所定の許容値以下であった場合に、前記ターゲット図形の前記2本の直線部分に対して前記車両が平行と判断する平行判断部(105)と
    を備え、
    前記取付角度探索部は、前記ターゲット図形の前記2本の直線部分に対して前記車両が平行と判断された場合に、前記取付角度を探索する
    ことを特徴とする取付角度較正装置。
  8. 車両の周囲の地面を撮影する車載カメラの前記車両に対する取付角度を検出する取付角度検出方法であって、
    互いに平行で且つ等幅な2本の直線部分を有するターゲット図形が形成された前記地面の撮影画像を取得する撮影画像取得工程(S102)と、
    前記車両に対する前記車載カメラの取付角度の設定値を取得する設定値取得工程(S115、S155)と、
    前記設定値を取得すると、前記車載カメラが前記設定値で前記車両に取り付けられているものと仮定して、前記撮影画像を、前記撮影画像に写った前記地面をあたかも上方から見下ろした鳥瞰画像に鳥瞰変換する鳥瞰変換工程(S116、S156)と、
    前記鳥瞰画像中の前記ターゲット図形の前記2本の直線部分の平行度、および前記2本の直線部分の幅の差を検出して、検出した前記2本の直線部分の平行度および前記幅の差が所定の許容範囲内にあるか否かを判断する判断工程(S117、S118、S157、S158)と、
    検出した前記2本の直線部分の平行度および前記幅の差の何れかが、所定の許容範囲内に無かった場合には、前記車載カメラの取付角度の前記設定値を変更することによって、前記2本の直線部分の平行度および前記幅の差が、何れも前記許容範囲内に入る前記取付角度を探索する取付角度探索工程(S119、S159)と、
    探索された前記取付角度を、前記車載カメラの前記車両に対する取付角度として決定する取付角度決定工程(S120、S160)と
    を備える取付角度検出方法。
  9. 前記車両の前方または後方の地面を撮影する前記車載カメラに適用される請求項8に記載の取付角度検出方法であって、
    前記撮影画像取得工程は、前記ターゲット図形の前記2本の直線部分の方向に沿って前記車両を直進させることによって異なる位置から撮影された複数の前記撮影画像を取得する工程であり、
    前記撮影画像から前記ターゲット図形中の2本の前記直線部分を検出して、前記直線部分を延長した2本の中心直線について、前記中心直線の傾きと、前記中心直線が前記撮影画像中の所定の一辺を横切る切片位置とを、前記2本の中心直線を識別した状態で検出して記憶しておく中心直線記憶工程(S103)と、
    前記複数の撮影画像の各々から検出された前記2本の中心直線についての前記傾きおよび前記切片位置の偏差が所定の許容値以下であった場合に、前記ターゲット図形の前記2本の直線部分に対して前記車両が平行と判断する平行判断工程(S110、S150)と
    を備え、
    前記設定値取得工程は、前記ターゲット図形の前記2本の直線部分に対して前記車両が平行と判断された場合に、前記取付角度の設定値を取得する工程である
    取付角度検出方法。
  10. 車両の周囲の地面を撮影する車載カメラの前記車両に対する取付角度を検出する機能を、コンピューターを用いて実現するためのコンピュータープログラムであって、
    互いに平行で且つ等幅な2本の直線部分を有するターゲット図形が形成された前記地面の撮影画像を読み込む撮影画像読込機能(S102)と、
    前記車両に対する前記車載カメラの取付角度の設定値を読み込む設定値読込機能(S115、S155)と、
    前記設定値を読み込むと、前記車載カメラが前記設定値で前記車両に取り付けられているものと仮定して、前記撮影画像を、前記撮影画像に写った前記地面をあたかも上方から見下ろした鳥瞰画像に鳥瞰変換する鳥瞰変換機能(S116、S156)と、
    前記鳥瞰画像中の前記ターゲット図形の前記2本の直線部分の平行度、および前記2本の直線部分の幅の差を検出して、検出した前記2本の直線部分の平行度および前記幅の差の何れかが、所定の許容範囲内にあるか否かを判断する判断機能(S117、S118、S157、S158)と、
    検出した前記2本の直線部分の平行度および前記幅の差の何れかが、所定の許容範囲内に無かった場合には、前記車載カメラの取付角度の前記設定値を変更することによって、前記2本の直線部分の平行度および前記幅の差が、何れも前記許容範囲内に入る前記取付角度を探索する取付角度探索機能(S119、S159)と、
    探索された前記取付角度を、前記車載カメラの前記車両に対する取付角度として決定する取付角度決定機能(S120、S160)と
    を、コンピューターを用いて実現させるコンピュータープログラム。
  11. 前記車両の前方または後方の地面を撮影する車載カメラの取付角度を検出する機能を、コンピューターを用いて実現するための請求項10にコンピュータープログラムであって、
    前記撮影画像読込機能は、前記ターゲット図形の前記2本の直線部分の方向に沿って前記車両を直進させることによって異なる位置から撮影された複数の前記撮影画像を読み込む機能であり、
    前記撮影画像から前記ターゲット図形中の2本の前記直線部分を検出して、前記直線部分を延長した2本の中心直線について、前記中心直線の傾きと、前記中心直線が前記撮影画像中の所定の一辺を横切る切片位置とを、前記2本の中心直線を識別した状態で検出して記憶しておく中心直線記憶機能(S103)と、
    前記複数の撮影画像の各々から検出された前記2本の中心直線についての前記傾きおよび前記切片位置の偏差が所定の許容値以下であった場合に、前記ターゲット図形の前記2本の直線部分に対して前記車両が平行と判断する平行判断機能(S110、S150)と
    を備え、
    前記設定値読込機能は、前記ターゲット図形の前記2本の直線部分に対して前記車両が平行と判断された場合に、前記取付角度の設定値を読み込む機能である
    コンピュータープログラム。
JP2016074817A 2016-04-03 2016-04-03 車載カメラの取付角度検出装置、取付角度較正装置、取付角度検出方法、取付角度較正方法、およびコンピュータープログラム Active JP6565769B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2016074817A JP6565769B2 (ja) 2016-04-03 2016-04-03 車載カメラの取付角度検出装置、取付角度較正装置、取付角度検出方法、取付角度較正方法、およびコンピュータープログラム
CN201780021593.1A CN108886606B (zh) 2016-04-03 2017-03-31 车载照相机的安装角度检测装置、安装角度校准装置、以及安装角度检测方法
PCT/JP2017/013759 WO2017175687A1 (ja) 2016-04-03 2017-03-31 車載カメラの取付角度検出装置、取付角度較正装置、および取付角度検出方法
DE112017001841.2T DE112017001841T5 (de) 2016-04-03 2017-03-31 Vorrichtung zum erfassen eines montagewinkels für eine fahrzeuginterne kamera, vorrichtung zum kalibrieren eines montagewinkels, und verfahren zur erfassung eines montagewinkels
US16/088,627 US10787126B2 (en) 2016-04-03 2017-03-31 Mounting angle detection device for in-vehicle camera, mounting angle calibration device, and mounting angle detection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016074817A JP6565769B2 (ja) 2016-04-03 2016-04-03 車載カメラの取付角度検出装置、取付角度較正装置、取付角度検出方法、取付角度較正方法、およびコンピュータープログラム

Publications (2)

Publication Number Publication Date
JP2017188738A true JP2017188738A (ja) 2017-10-12
JP6565769B2 JP6565769B2 (ja) 2019-08-28

Family

ID=60001146

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016074817A Active JP6565769B2 (ja) 2016-04-03 2016-04-03 車載カメラの取付角度検出装置、取付角度較正装置、取付角度検出方法、取付角度較正方法、およびコンピュータープログラム

Country Status (5)

Country Link
US (1) US10787126B2 (ja)
JP (1) JP6565769B2 (ja)
CN (1) CN108886606B (ja)
DE (1) DE112017001841T5 (ja)
WO (1) WO2017175687A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111210482A (zh) * 2020-02-24 2020-05-29 高新兴科技集团股份有限公司 摄像机视频图像实时纠偏方法、计算机存储介质及设备
JP2020135776A (ja) * 2019-02-26 2020-08-31 プラス株式会社 撮影装置

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11025723B2 (en) * 2016-05-27 2021-06-01 Axon Enterprise, Inc. Systems and methods for mounts for recording devices
EP3392801A1 (en) * 2017-04-21 2018-10-24 Harman International Industries, Incorporated Systems and methods for driver assistance
JP6995447B2 (ja) 2018-11-26 2022-01-14 アルパイン株式会社 キャリブレーション装置
US10930155B2 (en) * 2018-12-03 2021-02-23 Continental Automotive Systems, Inc. Infrastructure sensor detection and optimization method
KR102297683B1 (ko) * 2019-07-01 2021-09-07 (주)베이다스 복수의 카메라들을 캘리브레이션하는 방법 및 장치
CN112990117B (zh) * 2021-04-21 2021-08-17 智道网联科技(北京)有限公司 基于智能驾驶系统的安装数据处理方法及装置
CN114049404B (zh) * 2022-01-12 2022-04-05 深圳佑驾创新科技有限公司 一种车内相机外参标定方法及装置
CN117541592B (zh) * 2024-01-10 2024-06-21 宁德时代新能源科技股份有限公司 相机安装偏差的确定方法和视觉检测补偿方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008117386A1 (ja) * 2007-03-23 2008-10-02 Pioneer Corporation 車両用画像処理装置及び車両用画像処理プログラム
JP2013115540A (ja) * 2011-11-28 2013-06-10 Clarion Co Ltd 車載カメラシステム及びその較正方法、及びその較正プログラム
JP2014127834A (ja) * 2012-12-26 2014-07-07 Clarion Co Ltd 車載カメラ用キャリブレーションシステム
JP2016001776A (ja) * 2014-06-11 2016-01-07 株式会社日本自動車部品総合研究所 車載カメラの取付角度調整処理、取付角度検出装置
JP2016100887A (ja) * 2014-11-26 2016-05-30 株式会社デンソー 画像変換装置および画像変換方法

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4152370B2 (ja) 2004-09-28 2008-09-17 三洋電機株式会社 ダイバーシチ方法および装置
US7782374B2 (en) * 2005-03-03 2010-08-24 Nissan Motor Co., Ltd. Processor and processing method for generating a panoramic image for a vehicle
JP4443621B2 (ja) * 2007-01-18 2010-03-31 三菱電機株式会社 カーナビゲーション装置
JP2008187564A (ja) * 2007-01-31 2008-08-14 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両
JP5133783B2 (ja) * 2008-05-30 2013-01-30 アルパイン株式会社 車載装置
US8502860B2 (en) * 2009-09-29 2013-08-06 Toyota Motor Engineering & Manufacturing North America (Tema) Electronic control system, electronic control unit and associated methodology of adapting 3D panoramic views of vehicle surroundings by predicting driver intent
JP5491235B2 (ja) 2010-03-02 2014-05-14 東芝アルパイン・オートモティブテクノロジー株式会社 カメラキャリブレーション装置
JP5444139B2 (ja) * 2010-06-29 2014-03-19 クラリオン株式会社 画像のキャリブレーション方法および装置
KR20130065005A (ko) * 2011-12-09 2013-06-19 주식회사 만도 레이더 장치 및 안테나 장치
JP6025365B2 (ja) * 2012-04-04 2016-11-16 京セラ株式会社 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法
JP5991842B2 (ja) 2012-04-16 2016-09-14 アルパイン株式会社 車載カメラの取付角度補正装置および取付角度補正方法
DE102013103952B4 (de) * 2012-05-02 2020-07-09 GM Global Technology Operations LLC Spurerkennung bei voller Fahrt mit einem Rundumsichtsystem
JP6009894B2 (ja) * 2012-10-02 2016-10-19 株式会社デンソー キャリブレーション方法、及びキャリブレーション装置
JP6364797B2 (ja) * 2014-02-06 2018-08-01 株式会社デンソー 画像解析装置、および画像解析方法
CN103863205A (zh) * 2014-04-03 2014-06-18 深圳市德赛微电子技术有限公司 一种辅助车载全景系统摄像头安装的方法及其辅助系统
JP6538547B2 (ja) * 2015-12-25 2019-07-03 株式会社Soken 道路曲率計測装置
EP3438603A1 (en) * 2016-03-29 2019-02-06 KYB Corporation Road surface displacement detection device and suspension control method
CN110352391B (zh) * 2017-01-20 2024-01-16 株式会社久保田 作业车
KR102314336B1 (ko) * 2017-09-14 2021-10-19 주식회사 만도모빌리티솔루션즈 차량용 레이더 장치 및 그의 각도 추정 방법
KR102505471B1 (ko) * 2018-10-08 2023-03-06 주식회사 에이치엘클레무브 레이더 장착 각도 검출 장치 및 그 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008117386A1 (ja) * 2007-03-23 2008-10-02 Pioneer Corporation 車両用画像処理装置及び車両用画像処理プログラム
JP2013115540A (ja) * 2011-11-28 2013-06-10 Clarion Co Ltd 車載カメラシステム及びその較正方法、及びその較正プログラム
JP2014127834A (ja) * 2012-12-26 2014-07-07 Clarion Co Ltd 車載カメラ用キャリブレーションシステム
JP2016001776A (ja) * 2014-06-11 2016-01-07 株式会社日本自動車部品総合研究所 車載カメラの取付角度調整処理、取付角度検出装置
JP2016100887A (ja) * 2014-11-26 2016-05-30 株式会社デンソー 画像変換装置および画像変換方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020135776A (ja) * 2019-02-26 2020-08-31 プラス株式会社 撮影装置
CN111210482A (zh) * 2020-02-24 2020-05-29 高新兴科技集团股份有限公司 摄像机视频图像实时纠偏方法、计算机存储介质及设备
CN111210482B (zh) * 2020-02-24 2024-03-05 高新兴科技集团股份有限公司 摄像机视频图像实时纠偏方法、计算机存储介质及设备

Also Published As

Publication number Publication date
CN108886606B (zh) 2020-08-28
JP6565769B2 (ja) 2019-08-28
US20190118712A1 (en) 2019-04-25
WO2017175687A1 (ja) 2017-10-12
CN108886606A (zh) 2018-11-23
DE112017001841T5 (de) 2018-12-27
US10787126B2 (en) 2020-09-29

Similar Documents

Publication Publication Date Title
JP6565769B2 (ja) 車載カメラの取付角度検出装置、取付角度較正装置、取付角度検出方法、取付角度較正方法、およびコンピュータープログラム
KR101265012B1 (ko) 차량 탑재 카메라의 교정 장치, 방법 및 프로그램
JP4690476B2 (ja) 車載カメラの校正装置
JP6458439B2 (ja) 車載カメラ較正装置、画像生成装置、車載カメラ較正方法、画像生成方法
JP4751939B2 (ja) 車載カメラの校正装置
JP5091902B2 (ja) 車載カメラの校正に用いられる校正指標と、当該校正指標を用いた車載カメラの校正方法と、システムと、当該システムのためのプログラム
JP5820787B2 (ja) 画像処理装置、及びプログラム
JP4803450B2 (ja) 車載カメラの校正装置及び当該装置を用いた車両の生産方法
JP6924251B2 (ja) 画像センサの外因性パラメータを較正するための方法及び装置
JP5240527B2 (ja) 車載カメラの校正装置、方法、及びプログラム
US9792683B2 (en) System, vehicle and method for online calibration of a camera on a vehicle
US20120314073A1 (en) Apparatus and Method for Detecting Posture of Camera Mounted on Vehicle
JP5081313B2 (ja) 車載カメラの校正装置
EP1783687A1 (en) Movement amount computation system
JP2008131177A (ja) 車載カメラの校正装置、校正方法、並びにこの校正方法を用いた車両の生産方法
JP2002259995A (ja) 位置検出装置
JP4670528B2 (ja) 撮像装置のずれ検出方法、撮像装置のずれ補正方法及び撮像装置
WO2018042954A1 (ja) 車載カメラ、車載カメラの調整方法、車載カメラシステム
WO2016129552A1 (ja) カメラパラメータ調整装置
US20160093065A1 (en) Method for detecting an object in an environmental region of a motor vehicle, driver assistance system and motor vehicle
JP2016053748A (ja) 運転支援装置および運転支援方法
JP6450530B2 (ja) 車載カメラの取付角度調整処理、取付角度検出装置
JP6085212B2 (ja) 運転支援装置
JP2018136739A (ja) キャリブレーション装置
US11477371B2 (en) Partial image generating device, storage medium storing computer program for partial image generation and partial image generating method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190328

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190702

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190715

R151 Written notification of patent or utility model registration

Ref document number: 6565769

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250