JP6471522B2 - カメラパラメータ調整装置 - Google Patents
カメラパラメータ調整装置 Download PDFInfo
- Publication number
- JP6471522B2 JP6471522B2 JP2015024544A JP2015024544A JP6471522B2 JP 6471522 B2 JP6471522 B2 JP 6471522B2 JP 2015024544 A JP2015024544 A JP 2015024544A JP 2015024544 A JP2015024544 A JP 2015024544A JP 6471522 B2 JP6471522 B2 JP 6471522B2
- Authority
- JP
- Japan
- Prior art keywords
- camera
- image
- parameter
- unit
- vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000004364 calculation method Methods 0.000 claims description 68
- 238000012545 processing Methods 0.000 claims description 60
- 238000006243 chemical reaction Methods 0.000 claims description 41
- 238000011156 evaluation Methods 0.000 claims description 13
- 238000013500 data storage Methods 0.000 claims description 12
- 230000010354 integration Effects 0.000 claims description 4
- 230000002194 synthesizing effect Effects 0.000 claims 1
- 240000004050 Pentaglottis sempervirens Species 0.000 description 67
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 67
- 238000000034 method Methods 0.000 description 48
- 238000001514 detection method Methods 0.000 description 38
- 238000012937 correction Methods 0.000 description 15
- 238000010191 image analysis Methods 0.000 description 15
- 238000012986 modification Methods 0.000 description 14
- 230000004048 modification Effects 0.000 description 14
- 238000009434 installation Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 238000000605 extraction Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 238000003384 imaging method Methods 0.000 description 7
- 238000007726 management method Methods 0.000 description 7
- 239000000203 mixture Substances 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
- B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
- B60R1/27—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/40—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
- B60R2300/402—Image calibration
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B15/00—Special procedures for taking photographs; Apparatus therefor
- G03B15/006—Apparatus mounted on flying objects
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B37/00—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
- G03B37/04—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with cameras or projectors providing touching or overlapping fields of view
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Mechanical Engineering (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Biomedical Technology (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Studio Devices (AREA)
Description
上記目的を達成するための第2の発明は、車両に搭載され、車両の周辺のうち、それぞれ異なる範囲を撮影する少なくとも2つのカメラ(2,3)と、カメラ毎に設定されている、車両に対する搭載位置及び取付姿勢を表すカメラパラメータを記憶するパラメータ記憶部(13a)と、カメラが撮影した画像と、そのカメラに対応するカメラパラメータに基づいて、そのカメラの撮影範囲に対応する俯瞰画像である部分俯瞰画像を生成する俯瞰変換処理部(F2)と、複数のカメラのうち、所定のカメラのカメラパラメータを調整する際の基準とするカメラである基準カメラを選択する基準カメラ選択部(F8)と、基準カメラが撮影した画像と、基準カメラに対応するカメラパラメータに基づいて、基準カメラによって撮影された物体の車両に対する相対位置を特定する第1相対位置特定部(G1)と、複数のカメラのうち、基準カメラ以外のカメラであって、カメラパラメータの調整対象とするカメラである調整対象カメラが撮影した画像と、調整対象カメラに対応するカメラパラメータに基づいて、調整対象カメラによって撮影された物体の車両に対する相対位置を特定する第2相対位置特定部(G2)と、基準カメラが撮影した画像と、調整対象カメラが撮影した画像とに基づいて、基準カメラと調整対象カメラとが、同一の物体を撮影したか否かを判定する判定部(F9)と、判定部が調整対象カメラと基準カメラとが同一の物体を撮影したと判定した場合に、調整対象カメラと基準カメラの両方によって撮影された物体である共通撮影物に対して第2相対位置特定部が特定した相対位置と、第1相対位置特定部が共通撮影物に対して特定した相対位置とのずれ度合いを算出するずれ度合い算出部(G3)と、調整対象カメラに対するカメラパラメータとして、ずれ度合い算出部が算出したずれ度合いが0となるカメラパラメータである整合化パラメータを算出するパラメータ算出部(G4)と、カメラが撮影した画像、又は、カメラが撮影した画像に基づいて俯瞰変換処理部が生成した部分俯瞰画像を、その画像に含まれる物体の車両に対する現在の相対位置を特定するためのデータである位置特定用データと対応づけて記憶する画像データ記憶部(12a)と、を備え、第1相対位置特定部は、共通撮影物が基準カメラによる現在の撮影画像に含まれている場合には、現在の撮影画像とカメラパラメータと基づいて共通撮影物の相対位置を特定する一方、共通撮影物が基準カメラによる現在の撮影画像に含まれていない場合には、画像データ記憶部に格納されている基準カメラに対応する画像のうち、共通撮影物を含む画像と、その画像に対応付けられている位置特定用データと、基準カメラのカメラパラメータとに基づいて共通撮影物の相対位置を特定し、第2相対位置特定部は、共通撮影物が調整対象カメラによる現在の撮影画像に含まれている場合には、現在の撮影画像とカメラパラメータと基づいて共通撮影物の相対位置を特定する一方、共通撮影物が調整対象カメラによる現在の撮影画像に含まれていない場合には、画像データ記憶部に格納されている調整対象カメラに対応する画像のうち、共通撮影物を含む画像と、その画像に対応付けられている位置特定用データと、調整対象カメラのカメラパラメータとに基づいて、共通撮影物の相対位置を特定するものであり、俯瞰変換処理部は、パラメータ算出部が算出した整合化パラメータを、調整対象カメラが撮像した画像から部分俯瞰画像を生成する際のカメラパラメータとして用いることを特徴とする。
上記目的を達成するための第3の発明は、 車両に搭載され、車両の周辺のうち、それぞれ異なる範囲を撮影する少なくとも2つのカメラ(2,3)と、カメラ毎に設定されている、車両に対する搭載位置及び取付姿勢を表すカメラパラメータを記憶するパラメータ記憶部(13a)と、カメラが撮影した画像と、そのカメラに対応するカメラパラメータに基づいて、そのカメラの撮影範囲に対応する俯瞰画像である部分俯瞰画像を生成する俯瞰変換処理部(F2)と、複数のカメラのうち、所定のカメラのカメラパラメータを調整する際の基準とするカメラである基準カメラを選択する基準カメラ選択部(F8)と、基準カメラが撮影した画像と、基準カメラに対応するカメラパラメータに基づいて、基準カメラによって撮影された物体の車両に対する相対位置を特定する第1相対位置特定部(G1)と、複数のカメラのうち、基準カメラ以外のカメラであって、カメラパラメータの調整対象とするカメラである調整対象カメラが撮影した画像と、調整対象カメラに対応するカメラパラメータに基づいて、調整対象カメラによって撮影された物体の車両に対する相対位置を特定する第2相対位置特定部(G2)と、基準カメラが撮影した画像と、調整対象カメラが撮影した画像とに基づいて、基準カメラと調整対象カメラとが、同一の物体を撮影したか否かを判定する判定部(F9)と、判定部が調整対象カメラと基準カメラとが同一の物体を撮影したと判定した場合に、調整対象カメラと基準カメラの両方によって撮影された物体である共通撮影物に対して第2相対位置特定部が特定した相対位置と、第1相対位置特定部が共通撮影物に対して特定した相対位置とのずれ度合いを算出するずれ度合い算出部(G3)と、調整対象カメラに対するカメラパラメータとして、ずれ度合い算出部が算出したずれ度合いが0となるカメラパラメータである整合化パラメータを算出するパラメータ算出部(G4)と、を備え、カメラとして、車両の前方の所定範囲を撮影する前方カメラと、車両の後方の所定範囲を撮影する後方カメラと、を備え、基準カメラ選択部は、前方カメラと後方カメラの何れか一方を基準カメラとして採用し、他方を調整対象カメラとし、俯瞰変換処理部は、パラメータ算出部が算出した整合化パラメータを、調整対象カメラが撮像した画像から部分俯瞰画像を生成する際のカメラパラメータとして用いることを特徴とする。
上記目的を達成するための第4の発明は、車両に搭載され、車両の周辺のうち、それぞれ異なる範囲を撮影する少なくとも2つのカメラ(2,3)と、カメラ毎に設定されている、車両に対する搭載位置及び取付姿勢を表すカメラパラメータを記憶するパラメータ記憶部(13a)と、カメラが撮影した画像と、そのカメラに対応するカメラパラメータに基づいて、そのカメラの撮影範囲に対応する俯瞰画像である部分俯瞰画像を生成する俯瞰変換処理部(F2)と、複数のカメラのうち、所定のカメラのカメラパラメータを調整する際の基準とするカメラである基準カメラを選択する基準カメラ選択部(F8)と、基準カメラが撮影した画像と、基準カメラに対応するカメラパラメータに基づいて、基準カメラによって撮影された物体の車両に対する相対位置を特定する第1相対位置特定部(G1)と、複数のカメラのうち、基準カメラ以外のカメラであって、カメラパラメータの調整対象とするカメラである調整対象カメラが撮影した画像と、調整対象カメラに対応するカメラパラメータに基づいて、調整対象カメラによって撮影された物体の車両に対する相対位置を特定する第2相対位置特定部(G2)と、基準カメラが撮影した画像と、調整対象カメラが撮影した画像とに基づいて、基準カメラと調整対象カメラとが、同一の物体を撮影したか否かを判定する判定部(F9)と、判定部が調整対象カメラと基準カメラとが同一の物体を撮影したと判定した場合に、調整対象カメラと基準カメラの両方によって撮影された物体である共通撮影物に対して第2相対位置特定部が特定した相対位置と、第1相対位置特定部が共通撮影物に対して特定した相対位置とのずれ度合いを算出するずれ度合い算出部(G3)と、調整対象カメラに対するカメラパラメータとして、ずれ度合い算出部が算出したずれ度合いが0となるカメラパラメータである整合化パラメータを算出するパラメータ算出部(G4)と、を備え、カメラとして、車両の前方の所定範囲を撮影する前方カメラと、車両の後方の所定範囲を撮影する後方カメラと、車両の右側方の所定範囲を撮影する右側方カメラ(8)と、車両の左側方の所定範囲を撮影する左側方カメラ(9)と、を備え、前方カメラの撮影範囲は、右側方カメラの撮影範囲の一部、及び左側方カメラの撮影範囲の一部とそれぞれ重なっており、後方カメラの撮影範囲は、右側方カメラの撮影範囲の一部、及び左側方カメラの撮影範囲の一部とそれぞれ重なっており、基準カメラ選択部は、前方カメラと後方カメラの何れか一方を基準カメラとして採用し、基準カメラ選択部が、前方カメラを基準カメラとした場合には、パラメータ算出部は後方カメラ、右側方カメラ、左側方カメラのそれぞれに対して整合化パラメータを算出する一方、後方カメラを基準カメラとした場合には、パラメータ算出部は前方カメラ、右側方カメラ、左側方カメラのそれぞれに対して整合化パラメータを算出し、俯瞰変換処理部は、パラメータ算出部が算出した整合化パラメータを、調整対象カメラが撮像した画像から部分俯瞰画像を生成する際のカメラパラメータとして用いることを特徴とする。
次に、制御部1が実施する、整合化パラメータを算出するための一連の処理(パラメータ算出処理とする)について、図6に示すフローチャートを用いて説明する。なお、図6は、一例として、自車両が前進している状況において制御部1が実施するパラメータ算出処理に対応するフローチャートである。例えば、自車両は図4に示すように白線L1、L2で区画される車線を、前進走行しているものとする。
以上の構成では、共通撮影物判定部F9が、前方カメラ2と後方カメラ3とが同一の物体を撮影したと判定した場合、乖離度合い算出部G3が、各車載カメラの撮影画像から定まる共通撮影物の相対位置の乖離度合いを算出する。また、パラメータ算出部G4は、整合対象カメラのカメラパラメータとして、その乖離度合いが0となるカメラパラメータ(つまり整合化パラメータ)を算出する。そして、俯瞰変換処理部F2が、算出された整合化パラメータを用いて、整合対象カメラが撮影した画像から部分俯瞰画像を生成し、さらに、画像合成部F6は、その整合化パラメータを用いて生成された部分俯瞰画像を用いて統合俯瞰画像を生成する。
上述した実施形態では、撮部分俯瞰画像内における物体の位置から、その相対位置を特定する態様を例示したがこれに限らない。部分俯瞰画像に変換する前の画像や、歪み補正処理を実施する前の画像(つまり撮影画像)内における物体の位置から、その物体の相対位置を特定してもよい。また、履歴画像管理部F4が管理する画像も、部分俯瞰画像ではなく、車載カメラから入力される画像であってもよい。
以上では、各車載カメラの取付誤差から各車載カメラの信頼度を算出し、信頼度の高いほうの車載カメラを基準カメラとする態様を例示したがこれに限らない。基準カメラ設定部F8は、進行方向側カメラを基準カメラとしてもよい。つまり、自車両が前進している場合には前方カメラ2を基準カメラとし、自車両が後退している場合には後方カメラ3を基準カメラとしてもよい。
運転支援システムの中には、所定の検出範囲に探査波を送信することでその検出範囲に存在する物体の相対位置を検出する物体検出装置を備えるものも存在する。運転支援システム100が、そのような物体検出装置を備えている場合には、同一の物体に対して、物体検出装置が検出した相対位置と、車載カメラの撮影画像から特定される相対位置とを比較することで、車載カメラの信頼度を評価し、その評価結果に基づいて基準カメラを決定してもよい。
前方カメラ2と後方カメラ3とが共通の物体を撮影したか否かの判断材料とするデータは、撮影された画像、またはその画像から生成される俯瞰画像といった単位ではなく、その画像に含まれる、所定の特徴量を有する検出対象物の単位であってもよい。
以上では、前方カメラ2と後方カメラ3を備え、どちらかを基準カメラとし、他方を整合対象カメラとする態様を例示したが、これに限らない。運転支援システム100は、図11に示すように、右側方カメラ8、左側方カメラ9を備えていてもよい。この場合、前方カメラ2、後方カメラ3の何れか一方を基準カメラとし、その他の車載カメラを順番に整合対象カメラとして整合化パラメータを算出してもよい。例えば、前方カメラ2を基準カメラとし、右側方カメラ8を整合対象カメラとした場合には、共通撮影物判定部F9は、前方カメラ2の撮影画像と右側方カメラ8の撮影画像とを比較して、共通撮影物の有無を判定すればよい。
Claims (11)
- 車両に搭載され、前記車両の周辺のうち、それぞれ異なる範囲を撮影する少なくとも2つのカメラ(2,3)と、
前記カメラ毎に設定されている、前記車両に対する搭載位置及び取付姿勢を表すカメラパラメータを記憶するパラメータ記憶部(13a)と、
前記カメラが撮影した画像と、そのカメラに対応する前記カメラパラメータに基づいて、そのカメラの撮影範囲に対応する俯瞰画像である部分俯瞰画像を生成する俯瞰変換処理部(F2)と、
複数の前記カメラのうち、所定の前記カメラの前記カメラパラメータを調整する際の基準とする前記カメラである基準カメラを選択する基準カメラ選択部(F8)と、
前記基準カメラが撮影した画像と、前記基準カメラに対応する前記カメラパラメータに基づいて、前記基準カメラによって撮影された物体の前記車両に対する相対位置を特定する第1相対位置特定部(G1)と、
複数の前記カメラのうち、前記基準カメラ以外の前記カメラであって、前記カメラパラメータの調整対象とする前記カメラである調整対象カメラが撮影した画像と、前記調整対象カメラに対応する前記カメラパラメータに基づいて、前記調整対象カメラによって撮影された物体の前記車両に対する相対位置を特定する第2相対位置特定部(G2)と、
前記基準カメラが撮影した画像と、前記調整対象カメラが撮影した画像とに基づいて、前記基準カメラと前記調整対象カメラとが、同一の物体を撮影したか否かを判定する判定部(F9)と、
前記判定部が前記調整対象カメラと前記基準カメラとが同一の物体を撮影したと判定した場合に、前記調整対象カメラと前記基準カメラの両方によって撮影された物体である共通撮影物に対して前記第2相対位置特定部が特定した相対位置と、前記第1相対位置特定部が前記共通撮影物に対して特定した相対位置とのずれ度合いを算出するずれ度合い算出部(G3)と、
前記調整対象カメラに対する前記カメラパラメータとして、前記ずれ度合い算出部が算出した前記ずれ度合いが0となる前記カメラパラメータである整合化パラメータを算出するパラメータ算出部(G4)と、
前記カメラに設定されている前記カメラパラメータが表すそのカメラの搭載位置及び取付姿勢と、実際のそのカメラの搭載位置及び取付姿勢との誤差である取付誤差を、複数の前記カメラのそれぞれに対して算出する誤差算出部(F11)と、
前記カメラ毎の信頼度を評価する信頼度評価部(F81)と、を備え、
前記信頼度評価部は、前記誤差算出部が算出する誤差が小さいほど、そのカメラに対する信頼度を高く評価し、
前記基準カメラ選択部は、前記信頼度評価部が評価した信頼度が最も高い前記カメラを前記基準カメラとして採用し、
前記俯瞰変換処理部は、前記パラメータ算出部が算出した前記整合化パラメータを、前記調整対象カメラが撮像した画像から前記部分俯瞰画像を生成する際の前記カメラパラメータとして用いることを特徴とするカメラパラメータ調整装置。 - 請求項1において、
前記カメラが撮影した画像、又は、前記カメラが撮影した画像に基づいて前記俯瞰変換処理部が生成した前記部分俯瞰画像を、その画像に含まれる物体の前記車両に対する現在の相対位置を特定するためのデータである位置特定用データと対応づけて記憶する画像データ記憶部(12a)と、を備え、
前記第1相対位置特定部は、
前記共通撮影物が前記基準カメラによる現在の撮影画像に含まれている場合には、現在の撮影画像と前記カメラパラメータと基づいて前記共通撮影物の相対位置を特定する一方、
前記共通撮影物が前記基準カメラによる現在の撮影画像に含まれていない場合には、前記画像データ記憶部に格納されている前記基準カメラに対応する画像のうち、前記共通撮影物を含む画像と、その画像に対応付けられている前記位置特定用データと、前記基準カメラの前記カメラパラメータとに基づいて前記共通撮影物の相対位置を特定し、
前記第2相対位置特定部は、
前記共通撮影物が前記調整対象カメラによる現在の撮影画像に含まれている場合には、現在の撮影画像と前記カメラパラメータと基づいて前記共通撮影物の相対位置を特定する一方、
前記共通撮影物が前記調整対象カメラによる現在の撮影画像に含まれていない場合には、前記画像データ記憶部に格納されている前記調整対象カメラに対応する画像のうち、前記共通撮影物を含む画像と、その画像に対応付けられている前記位置特定用データと、前記調整対象カメラの前記カメラパラメータとに基づいて、前記共通撮影物の相対位置を特定することを特徴とするカメラパラメータ調整装置。
- 車両に搭載され、前記車両の周辺のうち、それぞれ異なる範囲を撮影する少なくとも2つのカメラ(2,3)と、
前記カメラ毎に設定されている、前記車両に対する搭載位置及び取付姿勢を表すカメラパラメータを記憶するパラメータ記憶部(13a)と、
前記カメラが撮影した画像と、そのカメラに対応する前記カメラパラメータに基づいて、そのカメラの撮影範囲に対応する俯瞰画像である部分俯瞰画像を生成する俯瞰変換処理部(F2)と、
複数の前記カメラのうち、所定の前記カメラの前記カメラパラメータを調整する際の基準とする前記カメラである基準カメラを選択する基準カメラ選択部(F8)と、
前記基準カメラが撮影した画像と、前記基準カメラに対応する前記カメラパラメータに基づいて、前記基準カメラによって撮影された物体の前記車両に対する相対位置を特定する第1相対位置特定部(G1)と、
複数の前記カメラのうち、前記基準カメラ以外の前記カメラであって、前記カメラパラメータの調整対象とする前記カメラである調整対象カメラが撮影した画像と、前記調整対象カメラに対応する前記カメラパラメータに基づいて、前記調整対象カメラによって撮影された物体の前記車両に対する相対位置を特定する第2相対位置特定部(G2)と、
前記基準カメラが撮影した画像と、前記調整対象カメラが撮影した画像とに基づいて、前記基準カメラと前記調整対象カメラとが、同一の物体を撮影したか否かを判定する判定部(F9)と、
前記判定部が前記調整対象カメラと前記基準カメラとが同一の物体を撮影したと判定した場合に、前記調整対象カメラと前記基準カメラの両方によって撮影された物体である共通撮影物に対して前記第2相対位置特定部が特定した相対位置と、前記第1相対位置特定部が前記共通撮影物に対して特定した相対位置とのずれ度合いを算出するずれ度合い算出部(G3)と、
前記調整対象カメラに対する前記カメラパラメータとして、前記ずれ度合い算出部が算出した前記ずれ度合いが0となる前記カメラパラメータである整合化パラメータを算出するパラメータ算出部(G4)と、
前記カメラが撮影した画像、又は、前記カメラが撮影した画像に基づいて前記俯瞰変換処理部が生成した前記部分俯瞰画像を、その画像に含まれる物体の前記車両に対する現在の相対位置を特定するためのデータである位置特定用データと対応づけて記憶する画像データ記憶部(12a)と、を備え、
前記第1相対位置特定部は、
前記共通撮影物が前記基準カメラによる現在の撮影画像に含まれている場合には、現在の撮影画像と前記カメラパラメータと基づいて前記共通撮影物の相対位置を特定する一方、
前記共通撮影物が前記基準カメラによる現在の撮影画像に含まれていない場合には、前記画像データ記憶部に格納されている前記基準カメラに対応する画像のうち、前記共通撮影物を含む画像と、その画像に対応付けられている前記位置特定用データと、前記基準カメラの前記カメラパラメータとに基づいて前記共通撮影物の相対位置を特定し、
前記第2相対位置特定部は、
前記共通撮影物が前記調整対象カメラによる現在の撮影画像に含まれている場合には、現在の撮影画像と前記カメラパラメータと基づいて前記共通撮影物の相対位置を特定する一方、
前記共通撮影物が前記調整対象カメラによる現在の撮影画像に含まれていない場合には、前記画像データ記憶部に格納されている前記調整対象カメラに対応する画像のうち、前記共通撮影物を含む画像と、その画像に対応付けられている前記位置特定用データと、前記調整対象カメラの前記カメラパラメータとに基づいて、前記共通撮影物の相対位置を特定するものであり、
前記俯瞰変換処理部は、前記パラメータ算出部が算出した前記整合化パラメータを、前記調整対象カメラが撮像した画像から前記部分俯瞰画像を生成する際の前記カメラパラメータとして用いることを特徴とするカメラパラメータ調整装置。 - 請求項3において、
前記カメラ毎の信頼度を評価する信頼度評価部(F81)を備え、
前記基準カメラ選択部は、前記信頼度評価部が評価した信頼度が最も高い前記カメラを前記基準カメラとして採用することを特徴とするカメラパラメータ調整装置。 - 請求項2から4の何れか1項において、
前記車両の移動に関する情報を逐次取得し、その情報に基づいて前記車両の移動量を逐次特定する移動量特定部(F3)を備え、
前記位置特定用データは、その位置特定用データと対応付けられる画像が撮影又は生成された時点における時刻情報、又は、前記移動量特定部が逐次特定する前記移動量に基づいて定まる、前記画像が撮影された時点から現在までの総移動量、又は、前記総移動量に基づいて定まる、前記車両周辺のうち、前記画像が表す領域である対応領域を示すデータであることを特徴とするカメラパラメータ調整装置。 - 請求項1から5の何れか1項において、
前記カメラとして、前記車両の前方の所定範囲を撮影する前方カメラと、前記車両の後方の所定範囲を撮影する後方カメラと、を備え、
前記基準カメラ選択部は、前記前方カメラと前記後方カメラの何れか一方を前記基準カメラとして採用し、他方を前記調整対象カメラとすることを特徴とするカメラパラメータ調整装置。 - 請求項1から5の何れか1項において、
前記カメラとして、前記車両の前方の所定範囲を撮影する前方カメラと、前記車両の後方の所定範囲を撮影する後方カメラと、前記車両の右側方の所定範囲を撮影する右側方カメラ(8)と、前記車両の左側方の所定範囲を撮影する左側方カメラ(9)と、を備え、
前記前方カメラの撮影範囲は、前記右側方カメラの撮影範囲の一部、及び前記左側方カメラの撮影範囲の一部とそれぞれ重なっており、
前記後方カメラの撮影範囲は、前記右側方カメラの撮影範囲の一部、及び前記左側方カメラの撮影範囲の一部とそれぞれ重なっており、
前記基準カメラ選択部は、前記前方カメラと前記後方カメラの何れか一方を前記基準カメラとして採用し、
前記基準カメラ選択部が、前記前方カメラを前記基準カメラとした場合には、前記パラメータ算出部は前記後方カメラ、前記右側方カメラ、前記左側方カメラのそれぞれに対して前記整合化パラメータを算出する一方、前記後方カメラを前記基準カメラとした場合には、前記パラメータ算出部は前記前方カメラ、前記右側方カメラ、前記左側方カメラのそれぞれに対して前記整合化パラメータを算出することを特徴とするカメラパラメータ調整装置。 - 車両に搭載され、前記車両の周辺のうち、それぞれ異なる範囲を撮影する少なくとも2つのカメラ(2,3)と、
前記カメラ毎に設定されている、前記車両に対する搭載位置及び取付姿勢を表すカメラパラメータを記憶するパラメータ記憶部(13a)と、
前記カメラが撮影した画像と、そのカメラに対応する前記カメラパラメータに基づいて、そのカメラの撮影範囲に対応する俯瞰画像である部分俯瞰画像を生成する俯瞰変換処理部(F2)と、
複数の前記カメラのうち、所定の前記カメラの前記カメラパラメータを調整する際の基準とする前記カメラである基準カメラを選択する基準カメラ選択部(F8)と、
前記基準カメラが撮影した画像と、前記基準カメラに対応する前記カメラパラメータに基づいて、前記基準カメラによって撮影された物体の前記車両に対する相対位置を特定する第1相対位置特定部(G1)と、
複数の前記カメラのうち、前記基準カメラ以外の前記カメラであって、前記カメラパラメータの調整対象とする前記カメラである調整対象カメラが撮影した画像と、前記調整対象カメラに対応する前記カメラパラメータに基づいて、前記調整対象カメラによって撮影された物体の前記車両に対する相対位置を特定する第2相対位置特定部(G2)と、
前記基準カメラが撮影した画像と、前記調整対象カメラが撮影した画像とに基づいて、前記基準カメラと前記調整対象カメラとが、同一の物体を撮影したか否かを判定する判定部(F9)と、
前記判定部が前記調整対象カメラと前記基準カメラとが同一の物体を撮影したと判定した場合に、前記調整対象カメラと前記基準カメラの両方によって撮影された物体である共通撮影物に対して前記第2相対位置特定部が特定した相対位置と、前記第1相対位置特定部が前記共通撮影物に対して特定した相対位置とのずれ度合いを算出するずれ度合い算出部(G3)と、
前記調整対象カメラに対する前記カメラパラメータとして、前記ずれ度合い算出部が算出した前記ずれ度合いが0となる前記カメラパラメータである整合化パラメータを算出するパラメータ算出部(G4)と、を備え、
前記カメラとして、前記車両の前方の所定範囲を撮影する前方カメラと、前記車両の後方の所定範囲を撮影する後方カメラと、を備え、
前記基準カメラ選択部は、前記前方カメラと前記後方カメラの何れか一方を前記基準カメラとして採用し、他方を前記調整対象カメラとし、
前記俯瞰変換処理部は、前記パラメータ算出部が算出した前記整合化パラメータを、前記調整対象カメラが撮像した画像から前記部分俯瞰画像を生成する際の前記カメラパラメータとして用いることを特徴とするカメラパラメータ調整装置。 - 車両に搭載され、前記車両の周辺のうち、それぞれ異なる範囲を撮影する少なくとも2つのカメラ(2,3)と、
前記カメラ毎に設定されている、前記車両に対する搭載位置及び取付姿勢を表すカメラパラメータを記憶するパラメータ記憶部(13a)と、
前記カメラが撮影した画像と、そのカメラに対応する前記カメラパラメータに基づいて、そのカメラの撮影範囲に対応する俯瞰画像である部分俯瞰画像を生成する俯瞰変換処理部(F2)と、
複数の前記カメラのうち、所定の前記カメラの前記カメラパラメータを調整する際の基準とする前記カメラである基準カメラを選択する基準カメラ選択部(F8)と、
前記基準カメラが撮影した画像と、前記基準カメラに対応する前記カメラパラメータに基づいて、前記基準カメラによって撮影された物体の前記車両に対する相対位置を特定する第1相対位置特定部(G1)と、
複数の前記カメラのうち、前記基準カメラ以外の前記カメラであって、前記カメラパラメータの調整対象とする前記カメラである調整対象カメラが撮影した画像と、前記調整対象カメラに対応する前記カメラパラメータに基づいて、前記調整対象カメラによって撮影された物体の前記車両に対する相対位置を特定する第2相対位置特定部(G2)と、
前記基準カメラが撮影した画像と、前記調整対象カメラが撮影した画像とに基づいて、前記基準カメラと前記調整対象カメラとが、同一の物体を撮影したか否かを判定する判定部(F9)と、
前記判定部が前記調整対象カメラと前記基準カメラとが同一の物体を撮影したと判定した場合に、前記調整対象カメラと前記基準カメラの両方によって撮影された物体である共通撮影物に対して前記第2相対位置特定部が特定した相対位置と、前記第1相対位置特定部が前記共通撮影物に対して特定した相対位置とのずれ度合いを算出するずれ度合い算出部(G3)と、
前記調整対象カメラに対する前記カメラパラメータとして、前記ずれ度合い算出部が算出した前記ずれ度合いが0となる前記カメラパラメータである整合化パラメータを算出するパラメータ算出部(G4)と、を備え、
前記カメラとして、前記車両の前方の所定範囲を撮影する前方カメラと、前記車両の後方の所定範囲を撮影する後方カメラと、前記車両の右側方の所定範囲を撮影する右側方カメラ(8)と、前記車両の左側方の所定範囲を撮影する左側方カメラ(9)と、を備え、
前記前方カメラの撮影範囲は、前記右側方カメラの撮影範囲の一部、及び前記左側方カメラの撮影範囲の一部とそれぞれ重なっており、
前記後方カメラの撮影範囲は、前記右側方カメラの撮影範囲の一部、及び前記左側方カメラの撮影範囲の一部とそれぞれ重なっており、
前記基準カメラ選択部は、前記前方カメラと前記後方カメラの何れか一方を前記基準カメラとして採用し、
前記基準カメラ選択部が、前記前方カメラを前記基準カメラとした場合には、前記パラメータ算出部は前記後方カメラ、前記右側方カメラ、前記左側方カメラのそれぞれに対して前記整合化パラメータを算出する一方、前記後方カメラを前記基準カメラとした場合には、前記パラメータ算出部は前記前方カメラ、前記右側方カメラ、前記左側方カメラのそれぞれに対して前記整合化パラメータを算出し、
前記俯瞰変換処理部は、前記パラメータ算出部が算出した前記整合化パラメータを、前記調整対象カメラが撮像した画像から前記部分俯瞰画像を生成する際の前記カメラパラメータとして用いることを特徴とするカメラパラメータ調整装置。 - 請求項8又は9において、
前記カメラ毎の信頼度を評価する信頼度評価部(F81)を備え、
前記基準カメラ選択部は、前記信頼度評価部が評価した信頼度が最も高い前記カメラを前記基準カメラとして採用することを特徴とするカメラパラメータ調整装置。 - 請求項1から10の何れか1項において、
前記俯瞰変換処理部によって生成された複数の前記カメラのそれぞれの撮影画像に対応する前記部分俯瞰画像を合成することで前記車両周辺の俯瞰画像である統合俯瞰画像を生成する俯瞰画像統合処理部(F6)と、
前記俯瞰画像統合処理部が生成した前記統合俯瞰画像をディスプレイに表示する表示処理部(F7)と、を備えることを特徴とするカメラパラメータ調整装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015024544A JP6471522B2 (ja) | 2015-02-10 | 2015-02-10 | カメラパラメータ調整装置 |
DE112016000689.6T DE112016000689T5 (de) | 2015-02-10 | 2016-02-08 | Kameraparametereinstellvorrichtung |
PCT/JP2016/053653 WO2016129552A1 (ja) | 2015-02-10 | 2016-02-08 | カメラパラメータ調整装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015024544A JP6471522B2 (ja) | 2015-02-10 | 2015-02-10 | カメラパラメータ調整装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016149613A JP2016149613A (ja) | 2016-08-18 |
JP2016149613A5 JP2016149613A5 (ja) | 2016-12-28 |
JP6471522B2 true JP6471522B2 (ja) | 2019-02-20 |
Family
ID=56615543
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015024544A Active JP6471522B2 (ja) | 2015-02-10 | 2015-02-10 | カメラパラメータ調整装置 |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP6471522B2 (ja) |
DE (1) | DE112016000689T5 (ja) |
WO (1) | WO2016129552A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6729607B2 (ja) * | 2018-01-11 | 2020-07-22 | 株式会社デンソー | 設置位置情報提供装置及び設置位置情報提供方法 |
JP2021144257A (ja) | 2018-06-06 | 2021-09-24 | ソニーグループ株式会社 | 情報処理装置、情報処理方法、プログラム、及び、移動体 |
JP7153889B2 (ja) * | 2019-03-01 | 2022-10-17 | パナソニックIpマネジメント株式会社 | 画像補正装置、画像生成装置、カメラシステム及び車両 |
TWI705011B (zh) * | 2019-03-12 | 2020-09-21 | 緯創資通股份有限公司 | 車載鏡頭偏移檢測方法與車載鏡頭偏移檢測系統 |
KR102611759B1 (ko) * | 2019-06-20 | 2023-12-11 | 현대모비스 주식회사 | 차량의 어라운드 뷰 영상의 보정 장치 및 그 제어 방법 |
CN110719406B (zh) * | 2019-10-15 | 2022-06-14 | 腾讯科技(深圳)有限公司 | 拍摄处理方法、拍摄设备及计算机设备 |
KR102387684B1 (ko) * | 2020-08-28 | 2022-04-20 | 사이텍 주식회사 | 자율주행 차량의 카메라 검교정 장치 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4710653B2 (ja) * | 2005-03-03 | 2011-06-29 | 日産自動車株式会社 | 車載画像処理装置及び車両用画像処理方法 |
JP5523730B2 (ja) * | 2009-04-07 | 2014-06-18 | アルパイン株式会社 | 車載周辺画像表示装置 |
JP5820787B2 (ja) * | 2012-08-30 | 2015-11-24 | 株式会社デンソー | 画像処理装置、及びプログラム |
-
2015
- 2015-02-10 JP JP2015024544A patent/JP6471522B2/ja active Active
-
2016
- 2016-02-08 WO PCT/JP2016/053653 patent/WO2016129552A1/ja active Application Filing
- 2016-02-08 DE DE112016000689.6T patent/DE112016000689T5/de active Pending
Also Published As
Publication number | Publication date |
---|---|
JP2016149613A (ja) | 2016-08-18 |
WO2016129552A1 (ja) | 2016-08-18 |
DE112016000689T5 (de) | 2017-10-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6471522B2 (ja) | カメラパラメータ調整装置 | |
US20210365750A1 (en) | Systems and methods for estimating future paths | |
US9467679B2 (en) | Vehicle periphery monitoring device | |
WO2016002163A1 (ja) | 画像表示装置、画像表示方法 | |
US8514282B2 (en) | Vehicle periphery display device and method for vehicle periphery image | |
WO2017069191A1 (ja) | キャリブレーション装置、キャリブレーション方法、及び、キャリブレーションプログラム | |
JP5011049B2 (ja) | 画像処理システム | |
WO2019008764A1 (ja) | 駐車支援方法及び駐車支援装置 | |
US20110228980A1 (en) | Control apparatus and vehicle surrounding monitoring apparatus | |
JP2007274377A (ja) | 周辺監視装置、プログラム | |
JP6586849B2 (ja) | 情報表示装置及び情報表示方法 | |
JP5516998B2 (ja) | 画像生成装置 | |
JP2008230296A (ja) | 車両用運転支援システム | |
US20140043466A1 (en) | Environment image display apparatus for transport machine | |
JP7426174B2 (ja) | 車両周囲画像表示システム及び車両周囲画像表示方法 | |
US20170028917A1 (en) | Driving assistance device and driving assistance method | |
JP2012040883A (ja) | 車両周囲画像生成装置 | |
JP2008236711A (ja) | 運転支援方法及び運転支援装置 | |
JP6375633B2 (ja) | 車両周辺画像表示装置、車両周辺画像表示方法 | |
JPWO2019142660A1 (ja) | 画像処理装置および画像処理方法、並びにプログラム | |
JP7000383B2 (ja) | 画像処理装置および画像処理方法 | |
CN110053625B (zh) | 距离计算装置和车辆控制装置 | |
KR20170057684A (ko) | 전방 카메라를 이용한 주차 지원 방법 | |
KR20190067578A (ko) | 오버랩 촬영 영역을 가지는 이종 카메라를 이용한 충돌 경고 장치 및 방법 | |
US20200231099A1 (en) | Image processing apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20161115 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171030 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20181225 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190107 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6471522 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |