JP6780661B2 - 画像処理装置および方法、プログラム、並びに画像処理システム - Google Patents
画像処理装置および方法、プログラム、並びに画像処理システム Download PDFInfo
- Publication number
- JP6780661B2 JP6780661B2 JP2017561586A JP2017561586A JP6780661B2 JP 6780661 B2 JP6780661 B2 JP 6780661B2 JP 2017561586 A JP2017561586 A JP 2017561586A JP 2017561586 A JP2017561586 A JP 2017561586A JP 6780661 B2 JP6780661 B2 JP 6780661B2
- Authority
- JP
- Japan
- Prior art keywords
- camera
- line segment
- vehicle
- unit
- correction amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 181
- 238000000034 method Methods 0.000 title claims description 77
- 238000012937 correction Methods 0.000 claims description 184
- 238000001514 detection method Methods 0.000 claims description 166
- 238000004364 calculation method Methods 0.000 claims description 85
- 230000008569 process Effects 0.000 claims description 62
- 240000004050 Pentaglottis sempervirens Species 0.000 claims description 54
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 claims description 54
- 230000008859 change Effects 0.000 claims description 38
- 238000006243 chemical reaction Methods 0.000 claims description 31
- 230000003287 optical effect Effects 0.000 claims description 31
- 238000003384 imaging method Methods 0.000 claims description 28
- 230000005540 biological transmission Effects 0.000 claims description 21
- 238000003860 storage Methods 0.000 claims description 18
- 230000006870 function Effects 0.000 claims description 15
- 238000003672 processing method Methods 0.000 claims description 2
- 230000004069 differentiation Effects 0.000 claims 1
- 238000004891 communication Methods 0.000 description 71
- 238000005516 engineering process Methods 0.000 description 29
- 238000010586 diagram Methods 0.000 description 18
- 238000005457 optimization Methods 0.000 description 15
- 238000002372 labelling Methods 0.000 description 13
- 239000003550 marker Substances 0.000 description 13
- 230000033001 locomotion Effects 0.000 description 10
- 230000001133 acceleration Effects 0.000 description 7
- 238000009434 installation Methods 0.000 description 7
- 230000002093 peripheral effect Effects 0.000 description 7
- 230000000694 effects Effects 0.000 description 5
- 230000001360 synchronised effect Effects 0.000 description 5
- 239000000203 mixture Substances 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 239000000725 suspension Substances 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 238000002485 combustion reaction Methods 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000007717 exclusion Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 241000251468 Actinopterygii Species 0.000 description 1
- 241000270666 Testudines Species 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 230000002730 additional effect Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000005452 bending Methods 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 238000001816 cooling Methods 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 235000013305 food Nutrition 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000000116 mitigating effect Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000010363 phase shift Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/10—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
- B60W40/114—Yaw movement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
-
- G06T3/047—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/40—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
- B60R2300/402—Image calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Description
1.第1の実施の形態(概要)
2.第2の実施の形態(システム)
3.第3の実施の形態(応用例)
4.第4の実施の形態(パーソナルコンピュータ)
[本技術の概要]
まず、図1を参照して、本技術を適用した複数カメラによる較正処理(キャリブレーション)の概要について説明する。図1のAは、左から順に、理想位置状態、車体前側沈み状態、車体右側沈み状態のカメラ画像を示す図である。図1のBは、左から順に、理想位置状態、車体前側沈み状態、車体右側沈み状態の俯瞰画像を示す図である。
図2の例においては、本技術を適用したカメラ較正システムが示されている。カメラ較正システム21は、カメラ11−1乃至11−4と画像信号処理装置31を含むように構成されている。なお、図2の例においては、カメラが4台からなる例が示されているが、カメラの台数は、複数であれば何台でもよい。
次に、図3のフローチャートを参照して、図2のカメラ較正システムの処理について説明する。
[本技術のカメラ較正システムの詳細な構成例]
図4は、本技術を適用した画像処理システムとしてのカメラ較正システムの詳細な構成例を示すブロック図である。このカメラ較正システム21は、車に搭載されるシステムである。
図5は、カメラおよび画像処理ICの詳細な構成例を示す機能ブロック図である。
次に、図6のフローチャートを参照して、カメラ較正システム21の車両周辺俯瞰表示処理について説明する。
次に、図7のフローチャートを参照して、図6のステップS61のカメラ間の同期処理について説明する。なお、この処理は、カメラ11間のクロックのタイミングのズレがあまりないのであれば一定以上の位相ズレを検出するまでの非定期で行ってもよいし、または定期的に行われるようにしてもよいし、較正処理をより正確に行う為にその前の処理として行われるようにしてもよい。
図8は、図5の較正値による歪み補正処理部の構成例を示すブロック図である。
次に、図18のフローチャートを参照して、図6のステップS64の較正処理について説明する。なお、ステップS131乃至S136は、カメラ11毎(特に前後カメラ)に行われる較正処理であり、ステップS137以降は、ステップS131乃至S136で求められた結果を用いて、隣接カメラ間で行われる左右カメラ11の較正処理である。
図19のAの例においては、4つのカメラ11−1乃至11−4の合成画像で、各カメラ11の較正がずれた場合の画像が疑似的に示されている。
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車などのいずれかの種類の車両に搭載される装置として実現されてもよい。
図20は、本開示に係る技術が適用され得る車両制御システム2000の概略的な構成の一例を示すブロック図である。車両制御システム2000は、通信ネットワーク2010を介して接続された複数の電子制御ユニットを備える。図20に示した例では、車両制御システム2000は、駆動系制御ユニット2100、ボディ系制御ユニット2200、バッテリ制御ユニット2300、車外情報検出装置2400、車内情報検出装置2500、及び統合制御ユニット2600を備える。これらの複数の制御ユニットを接続する通信ネットワーク2010は、例えば、CAN(Controller Area Network)、LIN(Local Interconnect Network)、LAN(Local Area Network)又はFlexRay(登録商標)等の任意の規格に準拠した車載通信ネットワークであってよい。
ここで、図21は、撮像部2410及び車外情報検出部2420の設置位置の例を示す。撮像部2910,2912,2914,2916,2918は、例えば、車両2900のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部2910及び車室内のフロントガラスの上部に備えられる撮像部2918は、主として車両2900の前方の画像を取得する。サイドミラーに備えられる撮像部2912,2914は、主として車両2900の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部2916は、主として車両2900の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部2918は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な汎用のパーソナルコンピュータなどが含まれる。
図22は、上述した一連の処理をプログラムにより実行するパーソナルコンピュータのハードウエアの構成例を示すブロック図である。
(1) 車の直進状態を検出する車状態検出部と、
第1のカメラにより撮像された画像と、前記車に対して前記第1のカメラと対向する位置に配置される第2のカメラにより撮像された画像と、前記第1のカメラおよび前記第2のカメラのいずれとも異なる第3のカメラにより撮像された画像とのぞれぞれの画像から線分を検出する線分検出部と、
走行背景における無限点を検出する無限点検出部と、
前記無限点検出部により検出された無限点に応じて、第1のカメラの補正量を算出する第1の補正量算出部と、
前記第1の補正量算出部により算出された第1のカメラの補正量と前記線分検出部により検出された線分に基づいて、前記第3のカメラの補正量を算出する第2の補正量算出部と、
前記第1のカメラの補正量に基づいて、前記第1のカメラの画角の補正処理を実行する補正処理部と
を備える画像処理装置。
(2) 前記無限点検出部により検出された無限点と、前記線分検出部により検出された線分の収束点とが一致しない場合、前記第1のカメラの補正量である画角の不整合量をカメラ光軸と車両進行方向のズレ角として保存する保存部を
さらに備える前記(1)に記載の画像処理装置。
(3) 前記第1の補正量算出部は、前記線分検出部により検出された線分の車両進行に伴う時系列変化から、前記線分検出部により検出された線分のうち、その法線方向成分を有するシフトが発生しない線分を用いて、前記第1のカメラの補正量を算出し、その法線方向成分を有するシフトが発生する線分を用いての前記第1のカメラの補正量の算出処理を禁止する
前記(1)または(2)に記載の画像処理装置。
(4) 車両の進行方向を検出する進行方向検出部を
さらに備え、
前記第1の補正量算出部は、前記進行方向検出により検出された進行方向に変化がない場合、前記線分検出部により検出された線分の車両進行に伴う時系列変化から、前記線分検出部により検出された線分のうち、その法線方向成分を有するシフトが発生しない線分を用いて、前記第1のカメラの補正量を算出し、その法線方向成分を有するシフトが発生する線分を用いての前記第1のカメラの補正量の算出処理を禁止する
前記(1)または(2)に記載の画像処理装置。
(5) 車両の進行方向を検出する進行方向検出部を
さらに備え、
前記第1の補正量算出部は、前記進行方向検出により検出された進行方向に変化がない場合、前記線分検出部により検出された線分の車両進行に伴う時系列変化から、前記線分検出部により検出された複数線分の線分交点が時系列変動した際、前記線分を補正処理から除外する
前記(1)乃至(3)のいずれかに記載の画像処理装置。
(6) 前記進行方向検出部は、車両のヨー角を検出することで、車両の進行方向を検出する
前記(4)または(5)に記載の画像処理装置。
(7) 前記第2の補正量算出部は、前記線分検出部により検出された線分の進行方向を軸として、進行に伴い検出される同一線分の俯瞰変換画像のうちの線分の一次微分が、異なるカメラ画像で一致するように前記第2のカメラの補正量を算出する
前記(1)乃至(6)のいずれかに記載の画像処理装置。
(8) 前記第2の補正量算出部は、前記線分検出部により検出された線分の進行方向を軸として、その一次微分が、俯瞰画像または魚眼投影からの歪みのない画像にした投影で一致するように前記第2のカメラの補正量を算出する
前記(1)乃至(7)のいずれかに記載の画像処理装置。
(9) 前記第2の補正量算出部は、撮像された路面上の認識パターンに基づいて、各カメラが特定する車両進行方向位置が、前記第1のカメラにより撮像された画像と前記第3のカメラにより撮像された画像で一致するように、前記第3のカメラの位置補正の算出を行う
前記(1)乃至(8)のいずれかに記載の画像処理装置。
(10) 前記第1の補正量算出部は、前記無限点検出部により検出された無限点と前記線分検出部により検出された線分の傾きに応じて、第1のカメラの補正量と、前記第2のカメラの補正量を算出し、
前記第2の補正量算出部は、前記第1および第2のカメラの補正量と、前記線分検出部により検出された線分に基づいて、前記第3のカメラの補正量と、前記第3のカメラと対向する位置に配置される第4のカメラの補正量を算出する
前記(1)乃至(9)のいずれかに記載の画像処理装置。
(11) 前記第1の補正処理部は、前記第1および第2のカメラで車線幅を検出する場合、車線幅を一致させる補正を行う
前記(10)に記載の画像処理装置。
(12) 前記第1の補正処理部は、同時刻で前記第1および第2のカメラで車線幅を検出できない場合、前記第1のカメラで検出された車線幅を前記第2のカメラのカメラ視野が通過後の予測通過時刻に検出した車幅と一致させる補正を行う
前記(10)に記載の画像処理装置。
(13) 前記第1、第2、および第3のカメラのタイミングの差分を検出する差分検出部と、
前記差分検出部により検出された差分に基づいて、信号線を介して、各カメラに同期コマンドを送信するコマンド送信部と
をさらに備える
前記(1)乃至(12)のいずれかに記載の画像処理装置。
(14) 前記同期コマンドは、基準カメラの同期タイミングを参照に遅延量を算出して、算出された遅延量に比例した時間情報を有し、
前記コマンド送信部は、前記同期コマンドを送信する
前記(13)に記載の画像処理装置。
(15) 前記第1、第2、および第3のカメラは、視野角で150°以上であり、かつ、対称光学系の後軸が水平より30°以上に下方向にあり、装着車両の直進走行進行方向の方角が、各カメラの光軸周辺において30°以上の像高に位置している
前記(1)乃至(14)のいずれかに記載の画像処理装置。
(16) 前記車状態検出部は、GNSS(全地球航法衛星システム)、GPS(Global Positioning System)データ、ヨーレートセンサ、ステアリング操舵角、検出線分の交点変動のいずれか1つ、またはその組み合わせのデータ情報から前記車の直進状態を判定する
前記(1)乃至(15)のいずれかに記載の画像処理装置。
(17) 画像処理装置が、
車の直進状態を検出し、
第1のカメラにより撮像された画像と、前記車に対して前記第1のカメラと対向する位置に配置される第2のカメラにより撮像された画像と、前記第1のカメラおよび前記第2のカメラのいずれとも異なる第3のカメラにより撮像された画像とのぞれぞれの画像から線分を検出し、
走行背景における無限点を検出し、
検出された無限点に応じて、第1のカメラの補正量を算出し、
算出された第1のカメラの補正量と前記線分検出部により検出された線分に基づいて、前記第3のカメラの補正量を算出し、
前記第1のカメラの補正量に基づいて、前記第1のカメラの画角の補正処理を実行する
画像処理方法。
(18) 車の直進状態を検出する車状態検出部と、
第1のカメラにより撮像された画像と、前記車に対して前記第1のカメラと対向する位置に配置される第2のカメラにより撮像された画像と、前記第1のカメラおよび前記第2のカメラのいずれとも異なる第3のカメラにより撮像された画像とのぞれぞれの画像から線分を検出する線分検出部と、
走行背景における無限点を検出する無限点検出部と、
前記無限点検出部により検出された無限点に応じて、第1のカメラの補正量を算出する第1の補正量算出部と、
前記第1の補正量算出部により算出された第1のカメラの補正量と前記線分検出部により検出された線分に基づいて、前記第3のカメラの補正量を算出する第2の補正量算出部と、
前記第1のカメラの補正量に基づいて、前記第1のカメラの画角の補正処理を実行する補正処理部と
して、コンピュータを機能させるプログラム。
(19) 車の車体に配置され、
画像を撮像する撮像部と、
前記撮像部により撮像された画像を送信する送信部と
を備える第1のカメラ、前記車に対して前記第1のカメラと対向する位置に配置される第2のカメラ、および前記第1のカメラおよび前記第2のカメラのいずれとも異なる第3のカメラと、
前記車の直進状態を検出する車状態検出部と、
前記第1のカメラ、前記第2のカメラ、および前記第3のカメラにより撮像されたそれぞれの画像から線分を検出する線分検出部と、
走行背景における無限点を検出する無限点検出部と、
前記無限点検出部により検出された無限点に応じて、第1のカメラの補正量を算出する第1の補正量算出部と、
前記第1の補正量算出部により算出された第1のカメラの補正量と前記線分検出部により検出された線分に基づいて、前記第3のカメラの補正量を算出する第2の補正量算出部と、
前記第1のカメラの補正量に基づいて、前記第1のカメラの画角の補正処理を実行する補正処理部と
を備える画像処理装置と
からなる画像処理システム。
Claims (18)
- 車の直進状態を検出する車状態検出部と、
第1のカメラにより撮像された画像と、前記車に対して前記第1のカメラと対向する位置に配置される第2のカメラにより撮像された画像と、前記第1のカメラおよび前記第2のカメラのいずれとも異なる第3のカメラにより撮像された画像とのぞれぞれの画像から線分を検出する線分検出部と、
走行背景における無限点を検出する無限点検出部と、
前記無限点検出部により検出された無限点に応じて、第1のカメラの補正量を算出する第1の補正量算出部と、
前記第1の補正量算出部により算出された第1のカメラの補正量と前記線分検出部により検出された線分に基づいて、前記第3のカメラの補正量を算出する第2の補正量算出部と、
前記第1のカメラの補正量に基づいて、前記第1のカメラの画角の補正処理を実行する補正処理部と
車両の進行方向を検出する進行方向検出部と
を備え、
前記第1の補正量算出部は、前記進行方向検出部により検出された進行方向に変化がない場合、前記線分検出部により検出された線分の車両進行に伴う時系列変化から、前記線分検出部により検出された複数線分の線分交点が時系列変動した際、前記線分を用いての前記第1のカメラの補正量の算出処理を禁止する
画像処理装置。 - 前記無限点検出部により検出された無限点と、前記線分検出部により検出された線分の収束点とが一致しない場合、前記第1のカメラの補正量である画角の不整合量をカメラ光軸と車両進行方向のズレ角として保存する保存部を
さらに備える請求項1に記載の画像処理装置。 - 前記第1の補正量算出部は、前記線分検出部により検出された線分の車両進行に伴う時系列変化から、前記線分検出部により検出された線分のうち、その法線方向成分を有するシフトが発生しない線分を用いて、前記第1のカメラの補正量を算出し、その法線方向成分を有するシフトが発生する線分を用いての前記第1のカメラの補正量の算出処理を禁止する
請求項1に記載の画像処理装置。 - 前記第1の補正量算出部は、前記進行方向検出部により検出された進行方向に変化がない場合、前記線分検出部により検出された線分の車両進行に伴う時系列変化から、前記線分検出部により検出された線分のうち、その法線方向成分を有するシフトが発生しない線分を用いて、前記第1のカメラの補正量を算出し、その法線方向成分を有するシフトが発生する線分を用いての前記第1のカメラの補正量の算出処理を禁止する
請求項1に記載の画像処理装置。 - 前記進行方向検出部は、車両のヨー角を検出することで、車両の進行方向を検出する
請求項4に記載の画像処理装置。 - 前記第2の補正量算出部は、前記線分検出部により検出された線分の進行方向を軸として、進行に伴い検出される同一線分の俯瞰変換画像のうちの線分の一次微分が、異なるカメラ画像で一致するように前記第2のカメラの補正量を算出する
請求項1に記載の画像処理装置。 - 前記第2の補正量算出部は、前記線分検出部により検出された線分の進行方向を軸として、その一次微分が、俯瞰画像または魚眼投影からの歪みのない画像にした投影で一致するように前記第2のカメラの補正量を算出する
請求項1に記載の画像処理装置。 - 前記第2の補正量算出部は、撮像された路面上の認識パターンに基づいて、各カメラが特定する車両進行方向位置が、前記第1のカメラにより撮像された画像と前記第3のカメラにより撮像された画像で一致するように、前記第3のカメラの位置補正の算出を行う
請求項1の記載の画像処理装置。 - 前記第1の補正量算出部は、前記無限点検出部により検出された無限点と前記線分検出部により検出された線分の傾きに応じて、第1のカメラの補正量と、前記第2のカメラの補正量を算出し、
前記第2の補正量算出部は、前記第1および第2のカメラの補正量と、前記線分検出部により検出された線分に基づいて、前記第3のカメラの補正量と、前記第3のカメラと対向する位置に配置される第4のカメラの補正量を算出する
請求項1に記載の画像処理装置。 - 前記補正処理部は、前記第1および第2のカメラで車線幅を検出する場合、車線幅を一致させる補正を行う
請求項9の記載の画像処理装置。 - 前記補正処理部は、同時刻で前記第1および第2のカメラで車線幅を検出できない場合、前記第1のカメラで検出された車線幅を前記第2のカメラのカメラ視野が通過後の予測通過時刻に検出した車幅と一致させる補正を行う
請求項9の記載の画像処理装置。 - 前記第1、第2、および第3のカメラのタイミングの差分を検出する差分検出部と、
前記差分検出部により検出された差分に基づいて、信号線を介して、各カメラに同期コマンドを送信するコマンド送信部と
をさらに備える請求項1に記載の画像処理装置。 - 前記同期コマンドは、基準カメラの同期タイミングを参照に遅延量を算出して、算出された遅延量に比例した時間情報を有し、
前記コマンド送信部は、前記同期コマンドを送信する
請求項12の記載の画像処理装置。 - 前記第1、第2、および第3のカメラは、視野角で150°以上であり、かつ、対称光学系の後軸が水平より30°以上に下方向にあり、装着車両の直進走行進行方向の方角が、各カメラの光軸周辺において30°以上の像高に位置している
請求項1の記載の画像処理装置。 - 前記車状態検出部は、GNSS(全地球航法衛星システム)、GPS(Global Positioning System)データ、ヨーレートセンサ、ステアリング操舵角、検出線分の交点変動のいずれか1つ、またはその組み合わせのデータ情報から前記車の直進状態を判定する
請求項1に記載の画像処理装置。 - 画像処理装置が、
車の直進状態を検出し、
第1のカメラにより撮像された画像と、前記車に対して前記第1のカメラと対向する位置に配置される第2のカメラにより撮像された画像と、前記第1のカメラおよび前記第2のカメラのいずれとも異なる第3のカメラにより撮像された画像とのぞれぞれの画像から線分を検出し、
走行背景における無限点を検出し、
検出された無限点に応じて、第1のカメラの補正量を算出し、
算出された第1のカメラの補正量と検出された線分に基づいて、前記第3のカメラの補正量を算出し、
前記第1のカメラの補正量に基づいて、前記第1のカメラの画角の補正処理を実行し、
車両の進行方向を検出し、
検出された進行方向に変化がない場合、検出された線分の車両進行に伴う時系列変化から、検出された複数線分の線分交点が時系列変動した際、前記線分を用いての前記第1のカメラの補正量の算出処理を禁止する
画像処理方法。 - 車の直進状態を検出する車状態検出部と、
第1のカメラにより撮像された画像と、前記車に対して前記第1のカメラと対向する位置に配置される第2のカメラにより撮像された画像と、前記第1のカメラおよび前記第2のカメラのいずれとも異なる第3のカメラにより撮像された画像とのぞれぞれの画像から線分を検出する線分検出部と、
走行背景における無限点を検出する無限点検出部と、
前記無限点検出部により検出された無限点に応じて、第1のカメラの補正量を算出する第1の補正量算出部と、
前記第1の補正量算出部により算出された第1のカメラの補正量と前記線分検出部により検出された線分に基づいて、前記第3のカメラの補正量を算出する第2の補正量算出部と、
前記第1のカメラの補正量に基づいて、前記第1のカメラの画角の補正処理を実行する補正処理部と、
車両の進行方向を検出する進行方向検出部と
して、コンピュータを機能させ、
前記第1の補正量算出部は、前記進行方向検出部により検出された進行方向に変化がない場合、前記線分検出部により検出された線分の車両進行に伴う時系列変化から、前記線分検出部により検出された複数線分の線分交点が時系列変動した際、前記線分を用いての前記第1のカメラの補正量の算出処理を禁止する
プログラム。 - 車の車体に配置され、
画像を撮像する撮像部と、
前記撮像部により撮像された画像を送信する送信部と
を備える第1のカメラ、前記車に対して前記第1のカメラと対向する位置に配置される第2のカメラ、および前記第1のカメラおよび前記第2のカメラのいずれとも異なる第3のカメラと、
前記車の直進状態を検出する車状態検出部と、
前記第1のカメラ、前記第2のカメラ、および前記第3のカメラにより撮像されたそれぞれの画像から線分を検出する線分検出部と、
走行背景における無限点を検出する無限点検出部と、
前記無限点検出部により検出された無限点に応じて、第1のカメラの補正量を算出する第1の補正量算出部と、
前記第1の補正量算出部により算出された第1のカメラの補正量と前記線分検出部により検出された線分に基づいて、前記第3のカメラの補正量を算出する第2の補正量算出部と、
前記第1のカメラの補正量に基づいて、前記第1のカメラの画角の補正処理を実行する補正処理部と、
車両の進行方向を検出する進行方向検出部と
を備え、
前記第1の補正量算出部は、前記進行方向検出部により検出された進行方向に変化がない場合、前記線分検出部により検出された線分の車両進行に伴う時系列変化から、前記線分検出部により検出された複数線分の線分交点が時系列変動した際、前記線分を用いての前記第1のカメラの補正量の算出処理を禁止する画像処理装置と
からなる画像処理システム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016006003 | 2016-01-15 | ||
JP2016006003 | 2016-01-15 | ||
PCT/JP2017/000010 WO2017122552A1 (ja) | 2016-01-15 | 2017-01-04 | 画像処理装置および方法、プログラム、並びに画像処理システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2017122552A1 JPWO2017122552A1 (ja) | 2018-11-08 |
JP6780661B2 true JP6780661B2 (ja) | 2020-11-04 |
Family
ID=59310955
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017561586A Active JP6780661B2 (ja) | 2016-01-15 | 2017-01-04 | 画像処理装置および方法、プログラム、並びに画像処理システム |
Country Status (3)
Country | Link |
---|---|
US (1) | US10565736B2 (ja) |
JP (1) | JP6780661B2 (ja) |
WO (1) | WO2017122552A1 (ja) |
Families Citing this family (56)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6511406B2 (ja) * | 2016-02-10 | 2019-05-15 | クラリオン株式会社 | キャリブレーションシステム、キャリブレーション装置 |
JP6882455B2 (ja) * | 2016-09-08 | 2021-06-02 | クノル−ブレムゼ ジステーメ フューア ヌッツファールツォイゲ ゲゼルシャフト ミット ベシュレンクテル ハフツングKnorr−Bremse Systeme fuer Nutzfahrzeuge GmbH | 車両用電気系統 |
JP6930120B2 (ja) * | 2017-02-02 | 2021-09-01 | 株式会社リコー | 表示装置、移動体装置及び表示方法。 |
WO2018179281A1 (ja) * | 2017-03-30 | 2018-10-04 | 三菱電機株式会社 | 物体検出装置及び車両 |
US11521395B2 (en) * | 2017-05-30 | 2022-12-06 | Sony Semiconductor Solutions Corporation | Image processing device, image processing method, and program |
US11044463B2 (en) * | 2017-06-27 | 2021-06-22 | Sony Corporation | Image processing device and image processing method |
JP6776202B2 (ja) * | 2017-07-28 | 2020-10-28 | クラリオン株式会社 | 車載カメラのキャリブレーション装置及び方法 |
JP6944308B2 (ja) * | 2017-08-18 | 2021-10-06 | ソニーセミコンダクタソリューションズ株式会社 | 制御装置、制御システム、および制御方法 |
CN107578012B (zh) * | 2017-09-05 | 2020-10-27 | 大连海事大学 | 一种基于聚类算法选择敏感区域的驾驶辅助系统 |
US11158088B2 (en) | 2017-09-11 | 2021-10-26 | Tusimple, Inc. | Vanishing point computation and online alignment system and method for image guided stereo camera optical axes alignment |
US11089288B2 (en) * | 2017-09-11 | 2021-08-10 | Tusimple, Inc. | Corner point extraction system and method for image guided stereo camera optical axes alignment |
US11554727B2 (en) * | 2017-11-06 | 2023-01-17 | Magna Electronics Inc. | Multi-camera vehicle vision system with data synchronization |
KR102470298B1 (ko) * | 2017-12-01 | 2022-11-25 | 엘지이노텍 주식회사 | 카메라 보정 방법 및 장치 |
KR102552490B1 (ko) * | 2018-01-03 | 2023-07-06 | 현대자동차주식회사 | 차량용 영상 처리 장치 및 방법 |
US10605897B2 (en) * | 2018-03-06 | 2020-03-31 | Veoneer Us, Inc. | Vehicle lane alignment correction improvements |
KR102024834B1 (ko) * | 2018-04-23 | 2019-09-24 | 주식회사 이알랩 | 차량에 설치된 카메라의 보정 장치 및 방법 |
KR102071418B1 (ko) * | 2018-05-17 | 2020-01-30 | 에스케이텔레콤 주식회사 | 차량용 카메라 캘리브레이션 장치 및 방법 |
DE102018210079A1 (de) * | 2018-06-21 | 2019-12-24 | Robert Bosch Gmbh | Verfahren zum initialen Kalibrieren eines Sensors für ein Fahrerassistenzsystem eines Fahrzeugs |
JP7006527B2 (ja) * | 2018-07-09 | 2022-01-24 | トヨタ自動車株式会社 | 車載装置および車両捜索システム |
WO2020014683A1 (en) * | 2018-07-13 | 2020-01-16 | Kache.AI | Systems and methods for autonomous object detection and vehicle following |
US20200027241A1 (en) * | 2018-07-19 | 2020-01-23 | GM Global Technology Operations LLC | Auto-calibration for vehicle cameras |
JP2020036166A (ja) * | 2018-08-29 | 2020-03-05 | アルパイン株式会社 | 画像表示装置、画像表示方法 |
JP7208356B2 (ja) * | 2018-09-26 | 2023-01-18 | コーヒレント・ロジックス・インコーポレーテッド | 任意の世界ビューの生成 |
JP6744374B2 (ja) * | 2018-09-27 | 2020-08-19 | 本田技研工業株式会社 | 表示装置、表示制御方法、およびプログラム |
CN109389650B (zh) * | 2018-09-30 | 2021-01-12 | 京东方科技集团股份有限公司 | 一种车载相机的标定方法、装置、车辆和存储介质 |
US11055541B2 (en) * | 2018-10-12 | 2021-07-06 | Volvo Car Corporation | Vehicle lane marking and other object detection using side fisheye cameras and three-fold de-warping |
DE102018218745B4 (de) * | 2018-11-01 | 2021-06-17 | Elektrobit Automotive Gmbh | Kameravorrichtung, Fahrerassistenzsystem und Fahrzeug |
DE102018220406A1 (de) * | 2018-11-28 | 2020-05-28 | Zf Friedrichshafen Ag | Vorrichtung zum Lokalisieren einer Landmaschine basierend auf Sensordaten und Bildsegmentierung |
JP7236849B2 (ja) * | 2018-11-29 | 2023-03-10 | 日立Astemo株式会社 | 外界認識装置 |
JP7211047B2 (ja) * | 2018-12-04 | 2023-01-24 | 株式会社アイシン | 路面検出装置および路面検出プログラム |
GB2579843A (en) | 2018-12-18 | 2020-07-08 | Continental Automotive Gmbh | Method and apparatus for calibrating the extrinsic parameter of an image sensor |
EP3899642A1 (en) | 2018-12-20 | 2021-10-27 | Snap Inc. | Flexible eyewear device with dual cameras for generating stereoscopic images |
US11195028B2 (en) * | 2019-01-04 | 2021-12-07 | Qualcomm Incorporated | Real-time simultaneous detection of lane marker and raised pavement marker for optimal estimation of multiple lane boundaries |
KR102034316B1 (ko) * | 2019-01-29 | 2019-11-08 | 주식회사 만도 | 차량 위치 보정 시스템 및 방법, 그리고 카메라 |
CN113646769A (zh) * | 2019-02-15 | 2021-11-12 | 丰田自动车欧洲公司 | 用于图像归一化的系统和方法 |
KR102268094B1 (ko) * | 2019-03-09 | 2021-06-22 | 코어포토닉스 리미티드 | 동적 입체 캘리브레이션을 위한 시스템 및 방법 |
JP7217577B2 (ja) * | 2019-03-20 | 2023-02-03 | フォルシアクラリオン・エレクトロニクス株式会社 | キャリブレーション装置、キャリブレーション方法 |
KR102274026B1 (ko) * | 2019-05-22 | 2021-07-09 | (주)베이다스 | 차량용 카메라 캘리브레이션 장치 및 그 방법 |
US11227167B2 (en) * | 2019-06-28 | 2022-01-18 | Baidu Usa Llc | Determining vanishing points based on lane lines |
US10965931B1 (en) * | 2019-12-06 | 2021-03-30 | Snap Inc. | Sensor misalignment compensation |
CN113091757B (zh) * | 2019-12-23 | 2022-09-27 | 百度在线网络技术(北京)有限公司 | 地图生成方法和装置 |
CN111901515B (zh) * | 2019-12-25 | 2021-08-10 | 上海弈山实业有限公司 | 定向场景数据实时判断系统 |
US11294760B2 (en) | 2019-12-30 | 2022-04-05 | Semiconductor Components Industries, Llc | Methods and apparatus for a temporal synchronization unit |
US11272144B2 (en) * | 2020-01-15 | 2022-03-08 | George Gorgees | Large vehicle backup camera apparatus |
US11341683B2 (en) * | 2020-09-22 | 2022-05-24 | AiFi Corp | Smart self calibrating camera system |
US11910092B2 (en) * | 2020-10-01 | 2024-02-20 | Black Sesame Technologies Inc. | Panoramic look-around view generation method, in-vehicle device and in-vehicle system |
CN112308768B (zh) * | 2020-10-19 | 2023-09-08 | 武汉中科通达高新技术股份有限公司 | 一种数据处理方法、装置、电子设备以及存储介质 |
CN112529966B (zh) * | 2020-12-17 | 2023-09-15 | 豪威科技(武汉)有限公司 | 一种车载环视系统的在线标定方法及其车载环视系统 |
JP2022126066A (ja) * | 2021-02-18 | 2022-08-30 | トヨタ自動車株式会社 | 車載センサシステム、及び車載センサシステムのデータ生成方法 |
JP2022149731A (ja) | 2021-03-25 | 2022-10-07 | 本田技研工業株式会社 | 制御装置、制御装置の動作方法及びプログラム |
JP2022150828A (ja) * | 2021-03-26 | 2022-10-07 | 本田技研工業株式会社 | 制御装置、制御装置の動作方法及びプログラム |
CN117837137A (zh) * | 2021-08-24 | 2024-04-05 | 索尼半导体解决方案公司 | 信号处理设备、信号处理系统、信号处理方法和程序 |
JP2023046965A (ja) * | 2021-09-24 | 2023-04-05 | キヤノン株式会社 | 画像処理システム、移動装置、画像処理方法、およびコンピュータプログラム |
TWI776741B (zh) * | 2021-11-26 | 2022-09-01 | 荷蘭商荷蘭移動驅動器公司 | 車載相機之控制方法及車載裝置 |
US11887338B2 (en) * | 2022-06-16 | 2024-01-30 | Motional Ad Llc | Maintaining calibration of an IBIS camera |
US11967112B2 (en) * | 2022-09-07 | 2024-04-23 | AitronX Inc. | Method and apparatus for detecting calibration requirement for image sensors in vehicles |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09243906A (ja) * | 1996-03-05 | 1997-09-19 | Eastman Kodak Japan Kk | 自動焦点合わせ装置および自動焦点合わせ方法 |
JP3752510B2 (ja) * | 1996-04-15 | 2006-03-08 | イーストマン コダック カンパニー | 画像の自動被写体検出方法 |
JP4573977B2 (ja) * | 1999-09-22 | 2010-11-04 | 富士重工業株式会社 | 監視システムの距離補正装置、および監視システムの消失点補正装置 |
JP4697101B2 (ja) * | 2006-09-07 | 2011-06-08 | 株式会社デンソー | 車両検出装置、およびライト制御装置 |
JP5208147B2 (ja) | 2010-03-09 | 2013-06-12 | 三菱電機株式会社 | 車載カメラのカメラキャリブレーション装置 |
JP5455124B2 (ja) * | 2010-04-01 | 2014-03-26 | 国立大学法人鳥取大学 | カメラ姿勢パラメータ推定装置 |
JP5444139B2 (ja) * | 2010-06-29 | 2014-03-19 | クラリオン株式会社 | 画像のキャリブレーション方法および装置 |
JP5663352B2 (ja) | 2011-03-03 | 2015-02-04 | 日本電産エレシス株式会社 | 画像処理装置、画像処理方法、及び画像処理プログラム |
JP5580233B2 (ja) * | 2011-03-22 | 2014-08-27 | 富士重工業株式会社 | 車外監視装置および車外監視方法 |
JP5898475B2 (ja) * | 2011-11-28 | 2016-04-06 | クラリオン株式会社 | 車載カメラシステム及びその較正方法、及びその較正プログラム |
JP5971939B2 (ja) * | 2011-12-21 | 2016-08-17 | アルパイン株式会社 | 画像表示装置、画像表示装置における撮像カメラのキャリブレーション方法およびキャリブレーションプログラム |
JP6085212B2 (ja) | 2013-03-28 | 2017-02-22 | 本田技研工業株式会社 | 運転支援装置 |
JP6194819B2 (ja) * | 2014-03-03 | 2017-09-13 | Smk株式会社 | 画像処理システム |
US20180108150A1 (en) * | 2016-10-17 | 2018-04-19 | Dsi Assignments, Llc | Systems and methods for in-field stereocamera calibration |
-
2017
- 2017-01-04 US US15/781,193 patent/US10565736B2/en not_active Expired - Fee Related
- 2017-01-04 JP JP2017561586A patent/JP6780661B2/ja active Active
- 2017-01-04 WO PCT/JP2017/000010 patent/WO2017122552A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
US20180365859A1 (en) | 2018-12-20 |
WO2017122552A1 (ja) | 2017-07-20 |
JPWO2017122552A1 (ja) | 2018-11-08 |
US10565736B2 (en) | 2020-02-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6780661B2 (ja) | 画像処理装置および方法、プログラム、並びに画像処理システム | |
JP6834964B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
CN109313018B (zh) | 成像控制装置和方法、以及车辆 | |
US11076141B2 (en) | Image processing device, image processing method, and vehicle | |
WO2017057044A1 (ja) | 情報処理装置及び情報処理方法 | |
JP6764573B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
WO2017212927A1 (ja) | 撮像制御装置および方法、並びに車両 | |
CN110574357B (zh) | 成像控制设备、用于控制成像控制设备的方法以及移动体 | |
WO2020116206A1 (ja) | 情報処理装置、および情報処理方法、並びにプログラム | |
US11585898B2 (en) | Signal processing device, signal processing method, and program | |
CN111587572A (zh) | 图像处理装置、图像处理方法和程序 | |
US20230370709A1 (en) | Imaging device, information processing device, imaging system, and imaging method | |
WO2021256411A1 (ja) | 信号処理装置、調光制御方法、信号処理プログラム、及び調光システム | |
WO2016203989A1 (ja) | 画像処理装置および画像処理方法 | |
US20240056694A1 (en) | Imaging device, image processing method, and image processing program | |
US11436706B2 (en) | Image processing apparatus and image processing method for improving quality of images by removing weather elements | |
US20220165066A1 (en) | Information processing apparatus, information processing method, and program | |
WO2022196316A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
US20220148283A1 (en) | Information processing apparatus, information processing method, and program | |
WO2020255589A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
KR20230000567A (ko) | 센서를 이용한 차량의 각도 계산 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191112 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200519 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200618 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200813 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200901 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200915 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200928 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6780661 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |