JP7449393B2 - 車載装置および車載カメラのキャリブレーション方法 - Google Patents

車載装置および車載カメラのキャリブレーション方法 Download PDF

Info

Publication number
JP7449393B2
JP7449393B2 JP2022545229A JP2022545229A JP7449393B2 JP 7449393 B2 JP7449393 B2 JP 7449393B2 JP 2022545229 A JP2022545229 A JP 2022545229A JP 2022545229 A JP2022545229 A JP 2022545229A JP 7449393 B2 JP7449393 B2 JP 7449393B2
Authority
JP
Japan
Prior art keywords
marker
vehicle
mobile terminal
camera
calibration
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022545229A
Other languages
English (en)
Other versions
JPWO2022044294A1 (ja
Inventor
隆幸 小笹
康司 大西
直士 垣田
輝彦 上林
修久 池田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Ten Ltd
Original Assignee
Denso Ten Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Ten Ltd filed Critical Denso Ten Ltd
Publication of JPWO2022044294A1 publication Critical patent/JPWO2022044294A1/ja
Application granted granted Critical
Publication of JP7449393B2 publication Critical patent/JP7449393B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/26Measuring arrangements characterised by the use of optical techniques for measuring angles or tapers; for testing the alignment of axes
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

開示の実施形態は、車載装置および車載カメラのキャリブレーション方法に関する。
従来、ドライブレコーダ等の車載カメラの取り付け時において、車両周辺の所定位置に設けた専用の構造物を利用したり、車両周辺の床面に配置されて種々の表示パターンを表示するディスプレイを利用したりする、車載カメラのキャリブレーション方法が知られている(たとえば、特許文献1参照)。
特開2018-203039号公報
しかしながら、上述の従来技術には、キャリブレーションを実施するための専用の構造物やディスプレイ、これらの設置スペース等が必要であり、手間がかかるという問題がある。
実施形態の一態様は、上記に鑑みてなされたものであって、キャリブレーションの手間を削減することができる車載装置および車載カメラのキャリブレーション方法を提供することを目的とする。
実施形態の一態様に係る車載装置は、制御部を備える。前記制御部は、携帯端末上に表示されるマーカを車載カメラによって撮像する。また、前記制御部は、撮像された画像が前記マーカの姿勢の算出に適するか否かを判定する。また、前記制御部は、前記算出に適すると判定された場合に前記マーカの姿勢を算出する。また、前記制御部は、出された算出結果から前記車載カメラの取付角度を推定する。また、前記制御部は、定された推定結果に基づいて前記車載カメラのキャリブレーションを実行する。また、前記制御部は、前記算出に不適と判定された場合に前記携帯端末の再配置を要求する。
実施形態の一態様によれば、キャリブレーションの手間を削減することができる。
図1は、第1の比較例に係る車載カメラのキャリブレーション方法の説明図(その1)である。 図2は、第1の比較例に係る車載カメラのキャリブレーション方法の説明図(その2)である。 図3は、第2の比較例に係る車載カメラのキャリブレーション方法の説明図である。 図4は、実施形態に係る車載カメラのキャリブレーション方法の概要説明図である。 図5は、実施形態に係る車載システムの構成例を示すブロック図である。 図6は、実施形態に係る携帯端末の構成例を示すブロック図である。 図7は、携帯端末に係る3軸方向の説明図である。 図8は、TILT方向に係るマーカMの表示例を示す図である。 図9は、ROLL方向に係るマーカMの表示例を示す図である。 図10は、PAN方向に係るマーカMの表示例を示す図である。 図11は、ROLL方向に係るマーカMの表示の変形例を示す図である。 図12は、TILT方向に係るマーカMの表示の変形例を示す図である。 図13は、カメラの取付角度の推定処理の説明図(その1)である。 図14は、カメラの取付角度の推定処理の説明図(その2)である。 図15は、カメラの取付角度の推定処理の説明図(その3)である。 図16は、実施形態に係るドライブレコーダが実行する処理手順を示すフローチャートである。
以下、添付図面を参照して、本願の開示する車載装置および車載カメラのキャリブレーション方法の実施形態を詳細に説明する。なお、以下に示す実施形態によりこの発明が限定されるものではない。
また、以下では、実施形態に係る車載装置がドライブレコーダ10であり、車載カメラが、かかるドライブレコーダ10に搭載されたカメラ11である場合を例に挙げて説明を行う。
まず、実施形態の説明に先立って、本実施形態の比較例から説明する。図1は、第1の比較例に係るカメラ11のキャリブレーション方法の説明図(その1)である。また、図2は、第1の比較例に係るカメラ11のキャリブレーション方法の説明図(その2)である。また、図3は、第2の比較例に係るカメラ11のキャリブレーション方法の説明図である。
図1および図2に示すように、第1の比較例に係るカメラ11のキャリブレーション方法では、車両Vの前方の所定位置に設けられた構造物STを利用してキャリブレーションを行う。図2に示すように、構造物STは、たとえば複数のポールと複数のジョイントとを組み合わせて車両Vの前方の所定位置に設けられる。
そして、作業者が、たとえばスマートフォン等の携帯端末20において専用アプリを起動し、携帯端末20上に表示された、カメラ11の撮像画像中の構造物STについて位置指定しながら検出する座標P1,P2,P3に基づいてキャリブレーションを行う。なお、図2中の符号「WP」は車両Vのタイヤ位置に対応する。
しかしながら、かかる第1の比較例を用いた場合、構造物STの設置に手間がかかるうえに、キャリブレーションのために構造物STの設置スペースを含む相応の広さのスペースを要するという問題がある。
また、図3に示すように、第2の比較例に係るカメラ11のキャリブレーション方法では、カメラ11の撮像画像上に2本の水平線H1,H2を設定し、走行中に、水平線H1,H2の間に車両Vの前方の実際の水平線が入るようにキャリブレーションを行う。
しかしながら、かかる第2の比較例を用いた場合、キャリブレーションを行いたい時に車両Vの前方に実際に水平線が見えているとは限らないうえ、走行開始直後のキャリブレーションが保証できないという問題がある。
そこで、実施形態に係るカメラ11のキャリブレーション方法では、カメラ11によって撮像された、携帯端末20上に表示されたマーカMの姿勢を算出し、算出結果からカメラ11の取付角度を推定し、推定結果に基づいてキャリブレーションを行うこととした。
図4は、実施形態に係るカメラ11のキャリブレーション方法の概要説明図である。具体的には、図4に示すように、実施形態に係るカメラ11のキャリブレーション方法では、まず作業者が保持する携帯端末20において専用アプリを起動し、携帯端末20上にマーカMを表示させる。
マーカMは、2組の平行な2辺を有する四角形である。すなわち、マーカMは、正方形であってもよいし、矩形であってもよいし、平行四辺形であってもよい。本実施形態では、マーカMは正方形であるものとする。また、マーカMを表示する携帯端末20は、車両Vの周辺の任意の位置にあってよい。
そして、ドライブレコーダ10は、カメラ11によるかかる携帯端末20の撮像画像を取得し、撮像画像中からマーカMを抽出する。そして、ドライブレコーダ10は、抽出したマーカMの姿勢を算出する。すなわち、実施形態に係るカメラ11のキャリブレーション方法では、まず、携帯端末20上に表示されたマーカMの姿勢を算出する(ステップS1)。
つづいて、ドライブレコーダ10は、算出した算出結果からカメラ11の取付角度を推定する(ステップS2)。
このとき、実施形態に係るカメラ11のキャリブレーション方法では、たとえばAR(Augmented Reality)技術において用いられる、ARマーカの特徴点から2組の平行線を抽出し、これに基づいてカメラの角度を推定する公知のアルゴリズムを利用することができる。かかるアルゴリズムを利用した推定処理については、図13~図15を用いた説明で後述する。
そして、ドライブレコーダ10は、推定した推定結果に基づいてキャリブレーションを行う(ステップS3)。これにより、第1の比較例のように構造物STを設けることなく、また、第2の比較例のように限定された状況下でなく、カメラ11のキャリブレーションを行うことができる。
なお、キャリブレーションの精度を確保するために、たとえばマーカMは、携帯端末20のTILT方向の角度またはROLL方向の角度が、水平面に対して所定の角度以内である場合にのみ表示されることが好ましい。かかる点については、図7~9,11,12を用いた説明で後述する。
また、たとえばマーカMは、携帯端末20のPAN方向の角度については、車両Vに対して正確に合わせ込むことはできないため、抽出したマーカMの辺長比に基づいてキャリブレーションに適さないと判定される場合には、携帯端末20の再配置を要求するようにしてもよい。かかる点については、図10を用いた説明で後述する。
このように、実施形態に係るカメラ11のキャリブレーション方法では、カメラ11によって撮像された、携帯端末20上に表示されたマーカMの姿勢を算出し、算出結果からカメラ11の取付角度を推定し、推定結果に基づいてキャリブレーションを行うこととした。
したがって、実施形態に係るカメラ11のキャリブレーション方法によれば、キャリブレーションの手間を削減することができる。
以下、上述した実施形態に係るカメラ11のキャリブレーション方法を適用した車載システム1の構成例について、より具体的に説明する。
図5は、実施形態に係る車載システム1の構成例を示すブロック図である。また、図6は、実施形態に係る携帯端末20の構成例を示すブロック図である。なお、図5および図6では、本実施形態の特徴を説明するために必要な構成要素のみを表しており、一般的な構成要素についての記載を省略している。
換言すれば、図5および図6に図示される各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。例えば、各ブロックの分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することが可能である。
また、図5および図6を用いた説明では、既に説明済みの構成要素については、説明を簡略するか、説明を省略する場合がある。
図5に示すように、実施形態に係る車載システム1は、ドライブレコーダ10と、携帯端末20とを含む。まず、図6を用いて、携帯端末20の構成例から説明する。
携帯端末20は、キャリブレーションの作業者が携帯する端末装置であり、例えばスマートフォンやタブレット端末、ノート型PC(Personal Computer)等の情報処理端末である。
図6に示すように、携帯端末20は、ジャイロセンサ21と、表示部22と、記憶部23と、制御部24とを備える。
ジャイロセンサ21は、携帯端末20に係る3軸方向の角度を示す信号を制御部24へ出力する。ここで、図7は、携帯端末20に係る3軸方向の説明図である。図7に示すように、携帯端末20の正面方向をX軸の正方向、幅方向をY軸方向、高さ方向をZ軸方向とした3軸の直交座標系を想定する。
ジャイロセンサ21は、携帯端末20の姿勢に応じて、かかる座標系におけるX軸まわりのROLL方向、Y軸まわりのTILT方向、および、Z軸まわりのPAN方向の各角度を示す信号を制御部24へ出力する。
図6の説明に戻る。表示部22は、たとえばタッチパネルディスプレイ等によって実現され、制御部24の制御に基づいてマーカMを表示する。
記憶部23は、たとえば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現され、図6の例では、アプリ情報23aを記憶する。
アプリ情報23aは、実施形態に係るキャリブレーション方法において携帯端末20における機能を実現する専用アプリのプログラムを含む。
制御部24は、コントローラ(controller)であり、たとえば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、携帯端末20内部の記憶デバイスに記憶されている各種プログラムがRAMを作業領域として実行されることにより実現される。また、制御部24は、たとえば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現することができる。
制御部24は、アプリ実行部24aを有し、以下に説明する情報処理の機能や作用を実現または実行する。
アプリ実行部24aは、アプリ情報23aから専用アプリのプログラムを読み込んで実行する。また、アプリ実行部24aは、ジャイロセンサ21から取得する3軸方向の各角度に基づいて、表示部22にマーカMを表示させる。
ここで、マーカMの表示例について、図8~図12を用いて説明する。図8は、TILT方向に係るマーカMの表示例を示す図である。また、図9は、ROLL方向に係るマーカMの表示例を示す図である。
また、図10は、PAN方向に係るマーカMの表示例を示す図である。また、図11は、ROLL方向に係るマーカMの表示の変形例を示す図である。また、図12は、TILT方向に係るマーカMの表示の変形例を示す図である。
図8に示すように、アプリ実行部24aは、TILT方向については、携帯端末20の角度が水平面であるXY平面に対する所定角θ1以内であれば、携帯端末20の表示部22にマーカMを表示させる(図中の「マーカ表示」参照)。
一方、アプリ実行部24aは、TILT方向についての携帯端末20の角度が所定角θ1以外であれば、携帯端末20の表示部22にマーカMを表示させない(図中の「マーカ非表示」参照)。
また、図9に示すように、アプリ実行部24aは、ROLL方向については、携帯端末20の角度が水平面であるXY平面に対する所定角θ2以内であれば、携帯端末20の表示部22にマーカMを表示させる(図中の「マーカ表示」参照)。
一方、アプリ実行部24aは、ROLL方向についての携帯端末20の角度が所定角θ2以外であれば、携帯端末20の表示部22にマーカMを表示させない(図中の「マーカ非表示」参照)。
そして、本実施形態では、少なくともかかるTILT方向およびROLL方向について携帯端末20が所定角θ1,θ2以内にある場合にのみ表示部22に表示させたマーカMに基づいて、キャリブレーションを行う。
これは、PAN方向の角度については、TILT方向およびROLL方向の水平面に相当する基準面が存在しない、すなわち上述したように、PAN方向の角度については、車両Vに対して正確に合わせ込むことはできないためである。その意味では、本実施形態に係るキャリブレーション方法は、簡易的なキャリブレーション方法であると言える。
ただし、PAN方向については、たとえばドライブレコーダ10側で抽出されるマーカMの辺長比に基づいて、大まかにPAN方向の角度を合わせ込むことが可能である。具体的には、上述したようにマーカMを正方形とした場合、図10に示すように、ドライブレコーダ10側で抽出されるマーカMの辺長比が所定範囲内であれば、すなわち4辺長が著しく異なる長さでないならば、キャリブレーションへの利用可と見なすことができる。
一方、ドライブレコーダ10側で抽出されるマーカMの辺長比が所定範囲外であれば、すなわち4辺長が著しく異なる長さであるならば、キャリブレーションへの利用不可と見なすこととなる。かかる場合、たとえばドライブレコーダ10は、PAN方向について、携帯端末20の再配置を要求する。
これまで図8~図10を用いて説明したように、TILT方向およびROLL方向については、所定角θ1,θ2以内である場合にマーカMを表示させることによって、PAN方向については、マーカMの辺長比に基づいて必要であれば再配置を要求することによって、キャリブレーションの精度を確保することができる。
なお、これまでは、たとえば図9に示したように、携帯端末20の傾きが変わればこれに追従してマーカMの傾きも変わる表示例を示してきたが、携帯端末20の傾きに依存せず、常に車両Vに対し水平または同一サイズとなるようにマーカMを表示させてもよい。
すなわち、図11に示すように、アプリ実行部24aは、ROLL方向の角度が変化しても、マーカMは常に車両Vに対して水平となるように、携帯端末20の表示部22にマーカMを表示させてもよい。
また、図12に示すように、アプリ実行部24aは、TILT方向の角度が変化しても、マーカMは常に車両Vに対して同一サイズとなるように、携帯端末20の表示部22にマーカMを表示させてもよい。
図5の説明に戻り、つづいてドライブレコーダ10の構成例について説明する。図5に示すように、ドライブレコーダ10は、カメラ11と、通知デバイス12と、記憶部13と、制御部14とを備える。
カメラ11は、たとえば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を備え、かかる撮像素子を用いて所定の撮像範囲を撮像する。
通知デバイス12は、キャリブレーションに関する情報を通知するデバイスであって、たとえばディスプレイやスピーカ等によって実現される。
記憶部13は、上述した記憶部23と同様に、たとえば、RAM、フラッシュメモリ等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現され、図5の例では、設計情報13aと、内部パラメータ情報13bとを記憶する。
設計情報13aは、カメラ11に関する設計値を含む情報であって、たとえばカメラ11の取付角度に関する設計値を含む。内部パラメータ情報13bは、カメラ11の内部パラメータに関する情報であって、キャリブレーションが行われた場合に、その結果が反映される。
制御部14は、上述した制御部24と同様に、コントローラであり、たとえば、CPUやMPUによって、ドライブレコーダ10内部の記憶デバイスに記憶されている各種プログラムがRAMを作業領域として実行されることにより実現される。また、制御部14は、たとえば、ASICやFPGA等の集積回路により実現することができる。
制御部14は、取得部14aと、算出部14bと、推定部14cと、キャリブレーション実行部14dとを有し、以下に説明する情報処理の機能や作用を実現または実行する。
取得部14aは、カメラ11によって撮像された携帯端末20の撮像画像を取得する。算出部14bは、取得部14aによって取得された撮像画像中からマーカMを抽出する。また、算出部14bは、抽出したマーカMの姿勢を算出する。
推定部14cは、算出部14bによって算出されたマーカMの姿勢に基づいてカメラ11の取付角度を推定する。ここで、かかる推定処理について、図13~図15を用いて説明する。図13は、カメラ11の取付角度の推定処理の説明図(その1)である。また、図14は、カメラ11の取付角度の推定処理の説明図(その2)である。また、図15は、カメラ11の取付角度の推定処理の説明図(その3)である。
まず、算出部14bは、取得部14aによって取得された撮像画像をたとえば2値化し、2値化した領域からマーカMの輪郭を抽出する。そして、図13に示すように、算出部14bは、抽出した輪郭に相当する四角形を、内部パラメータ情報13bを用いて三次元空間におけるカメラ11の投影面IMG上に四角形QL1として投影する。
ここで、四角形QL1の各辺を、図13に示すように、第1辺SD1,第2辺SD2、第3辺SD3,第4辺SD4と定義する。次に、算出部14bは、これら各辺と、カメラ11の光学中心OCとを結んだ四角形QL2を生成する。かかる四角形QL2は、実世界における3次元空間上のマーカMに相当する四角形である。
ここで、四角形QL2の各辺を、図13に示すように、第1辺SD11,第2辺SD12、第3辺SD13,第4辺SD14と定義する。すると、図13に示すように、4つの面が生成される。
第1面F1は、光学中心OCと、四角形QL1の第1辺SD1と、四角形QL2の第1辺SD11とが含まれる面である。また、第2面F2は、光学中心OCと、四角形QL1の第2辺SD2と、四角形QL2の第2辺SD12とが含まれる面である。
また、第3面F3は、光学中心OCと、四角形QL1の第3辺SD3と、四角形QL2の第3辺SD13とが含まれる面である。また、第4面F4は、光学中心OCと、四角形QL1の第4辺SD4と、四角形QL2の第4辺SD14とが含まれる面である。
次に、算出部14bは、所定の平面との交線が互いに平行になる面の組を2組特定する。所定の平面とは、あらかじめ平面の法線が分かっている面であり、たとえば路面である。具体的には、算出部14bは、路面との交線が平行な面として、第2面F2と第4面F4との組と、第1面F1と第3面F3との組と、の2つの組を特定する。また、算出部14bは、四角形QL2を路面上に形成される平行四辺形であると想定する。
そして、推定部14cは、路面の法線を算出する。まず、推定部14cは、算出部14bで特定した面の組の一方である第1面F1と第3面F3とに基づき、面同士の交線の方向を求める。具体的には、図14に示すように、推定部14cは、第1面F1と第3面F3との交線CL1の向きを求める。交線CL1の方向ベクトルV1は、第1面F1の法線ベクトルおよび第3面F3の法線ベクトルそれぞれと垂直なベクトルである。したがって、推定部14cは、第1面F1の法線ベクトルと第3面F3の法線ベクトルとの外積により、交線CL1の方向ベクトルV1を求める。第1面F1と第3面F3は、路面との交線が平行となるため、方向ベクトルV1は路面と平行になる。
同様に、推定部14cは、算出部14bで特定した面の組の他方である第2面F2と第4面F4との交線の方向を求める。具体的には、図15に示すように、推定部14cは、第2面F2と第4面F4との交線CL2の向きを求める。交線CL2の方向ベクトルV2は、第2面F2の法線ベクトルおよび第4面F4の法線ベクトルそれぞれと垂直なベクトルである。したがって、推定部14cは、第2面F2の法線ベクトルと第4面F4の法線ベクトルとの外積により、交線CL2の方向ベクトルV2を求める。第2面F2と第4面F4も同様に、路面との交線が平行となるため、方向ベクトルV2は路面と平行になる。
そして、推定部14cは、方向ベクトルV1と方向ベクトルV2との外積により、四角形QL2の面の法線、すなわち路面の法線を算出する。ここで、推定部14cが算出した路面の法線はカメラ11のカメラ座標系で算出されるため、実際の路面の法線である垂直方向との違いから3次元空間の座標系を求めることにより、路面に対するカメラ11の姿勢を推定することができる。その推定結果から、推定部14cは、車両Vに対するカメラ11の取付角度を推定する。なお、図13~図15を用いて説明した推定処理には、たとえばAR技術における公知の「ARToolkit」のアルゴリズムを利用して実行することができる。
図5の説明に戻る。キャリブレーション実行部14dは、推定部14cによる推定結果に基づいてキャリブレーションを行う。具体的には、キャリブレーション実行部14dは、推定部14cによって推定されたカメラ11の取付角度と設計情報13aとを比較し、内部パラメータ情報13bを調整する。
あるいは、キャリブレーション実行部14dは、通知デバイス12を介して作業者へキャリブレーション結果を通知する。作業者は、その通知内容に基づいて、カメラ11の取付角度を調整する。なお、ドライブレコーダ10が図示略のエーミング機構を備えている場合には、キャリブレーション実行部14dは、キャリブレーション結果に基づいてエーミング機構にカメラ11の取付角度を調整させてもよい。
また、キャリブレーション実行部14dは、キャリブレーション時の状況を判定し、その判定結果に応じて通知デバイス12を介した通知を行ってもよい。たとえば、キャリブレーション実行部14dは、取得された撮像画像中に太陽光の映り込みが激しく、マーカMの抽出に適さないと判定される場合には、たとえば携帯端末20の向きを変えるように指示したり、車両Vを移動させるように指示したりといったガイダンス情報を通知するようにしてもよい。
次に、実施形態に係るドライブレコーダ10が実行する処理手順について、図16を用いて説明する。図16は、実施形態に係るドライブレコーダ10が実行する処理手順を示すフローチャートである。
図16に示すように、算出部14bは、カメラ11によって撮像された、携帯端末20上に表示されたマーカMの姿勢を算出する(ステップS101)。
そして、推定部14cが、算出部14bによる算出結果からカメラ11の取付角度を推定する(ステップS102)。
そして、キャリブレーション実行部14dが、推定部14cによる推定結果に基づいてカメラ11のキャリブレーションを実行し(ステップS103)、処理を終了する。
上述してきたように、実施形態に係るドライブレコーダ10(「車載装置」の一例に相当)は、算出部14bと、推定部14cと、キャリブレーション実行部14d(「実行部」の一例に相当)とを備える。算出部14bは、カメラ11(「車載カメラ」の一例に相当)によって撮像された、携帯端末20上に表示されたマーカMの姿勢を算出する。推定部14cは、算出部14bによって算出された算出結果からカメラ11の取付角度を推定する。キャリブレーション実行部14dは、推定部14cによって推定された推定結果に基づいてカメラ11のキャリブレーションを実行する。
したがって、実施形態に係るドライブレコーダ10によれば、キャリブレーションの手間を削減することができる。
また、キャリブレーション実行部14dは、任意の位置に配置された携帯端末20上に表示されたマーカMに基づいてキャリブレーションを実行する。
したがって、実施形態に係るドライブレコーダ10によれば、キャリブレーションに際しての省スペース化を図ることができる。
また、キャリブレーション実行部14dは、携帯端末20の姿勢に応じて表示されるマーカMに基づいてキャリブレーションを実行する。
したがって、実施形態に係るドライブレコーダ10によれば、キャリブレーションの精度を確保しつつ、キャリブレーションの手間を削減することができる。
また、キャリブレーション実行部14dは、携帯端末20がROLL方向について水平面に対し所定角以内にある場合に表示されるマーカMに基づいてキャリブレーションを実行する。
したがって、実施形態に係るドライブレコーダ10によれば、ROLL方向についてキャリブレーションの精度を確保しつつ、キャリブレーションの手間を削減することができる。
また、キャリブレーション実行部14dは、携帯端末20がTILT方向について水平面に対し所定角以内にある場合に表示されるマーカMに基づいてキャリブレーションを実行する。
したがって、実施形態に係るドライブレコーダ10によれば、TILT方向についてキャリブレーションの精度を確保しつつ、キャリブレーションの手間を削減することができる。
また、キャリブレーション実行部14dは、マーカMの辺長比が所定範囲外である場合に、PAN方向について携帯端末20の再配置を要求する。
したがって、実施形態に係るドライブレコーダ10によれば、PAN方向についてキャリブレーションの精度を確保しつつ、キャリブレーションの手間を削減することができる。
また、キャリブレーション実行部14dは、常に車両Vに対し水平または同一サイズとなるように表示されるマーカMに基づいてキャリブレーションを実行する。
したがって、実施形態に係るドライブレコーダ10によれば、携帯端末20の姿勢によりキャリブレーションの精度を落とすことなく、キャリブレーションの手間を削減することができる。
また、マーカMは、2組の平行な2辺を有する四角形である。
したがって、実施形態に係るドライブレコーダ10によれば、AR技術における角度推定のためのアルゴリズムを用いてキャリブレーションを行い、キャリブレーションの手間を削減することができる。
なお、上述した実施形態では、ドライブレコーダ10に搭載されたカメラ11をキャリブレーション対象となる車載カメラの一例として挙げたが、これに限られるものではない。たとえば、車両Vの前方に設けられるフロントカメラや、後方に設けられるリアカメラ、側方に設けられるサイドカメラ等、各種の車載カメラのキャリブレーションに本実施形態を適用してもよい。
また、上述した実施形態では、ドライブレコーダ10を車載装置の一例として挙げたが、これに限られるものではなく、車載装置は、前述の各種の車載カメラが接続されたECU(Electronic Control Unit)等であってもよい。
さらなる効果や変形例は、当業者によって容易に導き出すことができる。このため、本発明のより広範な態様は、以上のように表しかつ記述した特定の詳細および代表的な実施形態に限定されるものではない。したがって、添付の請求の範囲およびその均等物によって定義される総括的な発明の概念の精神または範囲から逸脱することなく、様々な変更が可能である。
1 車載システム
10 ドライブレコーダ
11 カメラ
12 通知デバイス
13 記憶部
13a 設計情報
13b 内部パラメータ情報
14 制御部
14a 取得部
14b 算出部
14c 推定部
14d キャリブレーション実行部
20 携帯端末
21 ジャイロセンサ
22 表示部
23 記憶部
23a アプリ情報
24 制御部
24a アプリ実行部
V 車両

Claims (8)

  1. 携帯端末上に表示されるマーカを車載カメラによって撮像し、
    撮像された画像が前記マーカの姿勢の算出に適するか否かを判定し、
    前記算出に適すると判定された場合に前記マーカの姿勢を算出
    出された算出結果から前記車載カメラの取付角度を推定
    定された推定結果に基づいて前記車載カメラのキャリブレーションを実行し、
    前記算出に不適と判定された場合に前記携帯端末の再配置を要求する制御部
    を備える車載装置。
  2. 前記制御部は、
    前記携帯端末の姿勢に応じて表示される前記マーカに基づいて前記キャリブレーションを実行する
    求項1記載の車載装置。
  3. 前記制御部は、
    前記携帯端末がROLL方向について水平面に対し所定角以内にある場合に表示される前記マーカに基づいて前記キャリブレーションを実行する
    求項に記載の車載装置。
  4. 前記制御部は、
    前記携帯端末がTILT方向について水平面に対し所定角以内にある場合に表示される前記マーカに基づいて前記キャリブレーションを実行する
    求項に記載の車載装置。
  5. 前記制御部は、
    前記マーカの辺長比が所定範囲外である場合に、PAN方向について前記携帯端末の再配置を要求する
    求項に記載の車載装置。
  6. 前記制御部は、
    常に車両に対し水平または同一サイズとなるように表示される前記マーカに基づいて前記キャリブレーションを実行する
    求項に記載の車載装置。
  7. 前記マーカは、2組の平行な2辺を有する四角形である
    求項1に記載の車載装置。
  8. 携帯端末上に表示されるマーカを車載カメラによって撮像し、
    撮像された画像が前記マーカの姿勢の算出に適するか否かを判定し、
    前記算出に適すると判定された場合に前記マーカの姿勢を算出
    出された算出結果から前記車載カメラの取付角度を推定
    定された推定結果に基づいて前記車載カメラのキャリブレーションを実行し、
    前記算出に不適と判定された場合に前記携帯端末の再配置を要求する
    制御部が行う車載カメラのキャリブレーション方法。
JP2022545229A 2020-08-28 2020-08-28 車載装置および車載カメラのキャリブレーション方法 Active JP7449393B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/032757 WO2022044294A1 (ja) 2020-08-28 2020-08-28 車載装置および車載カメラのキャリブレーション方法

Publications (2)

Publication Number Publication Date
JPWO2022044294A1 JPWO2022044294A1 (ja) 2022-03-03
JP7449393B2 true JP7449393B2 (ja) 2024-03-13

Family

ID=80354956

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022545229A Active JP7449393B2 (ja) 2020-08-28 2020-08-28 車載装置および車載カメラのキャリブレーション方法

Country Status (2)

Country Link
JP (1) JP7449393B2 (ja)
WO (1) WO2022044294A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018169353A (ja) 2017-03-30 2018-11-01 パナソニックIpマネジメント株式会社 取付誤差検出装置、取付誤差検出方法及び取付誤差検出プログラム
WO2019049421A1 (ja) 2017-09-08 2019-03-14 株式会社ソニー・インタラクティブエンタテインメント キャリブレーション装置、キャリブレーションシステム、およびキャリブレーション方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101755190B (zh) * 2008-05-19 2012-02-22 松下电器产业株式会社 校准方法、校准装置及具备该校准装置的校准系统
JP2015033007A (ja) * 2013-08-02 2015-02-16 オリンパスイメージング株式会社 画像処理装置
JP2015031601A (ja) * 2013-08-02 2015-02-16 国立大学法人電気通信大学 3次元計測装置及び方法並びにプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018169353A (ja) 2017-03-30 2018-11-01 パナソニックIpマネジメント株式会社 取付誤差検出装置、取付誤差検出方法及び取付誤差検出プログラム
WO2019049421A1 (ja) 2017-09-08 2019-03-14 株式会社ソニー・インタラクティブエンタテインメント キャリブレーション装置、キャリブレーションシステム、およびキャリブレーション方法

Also Published As

Publication number Publication date
JPWO2022044294A1 (ja) 2022-03-03
WO2022044294A1 (ja) 2022-03-03

Similar Documents

Publication Publication Date Title
CN110146869B (zh) 确定坐标系转换参数的方法、装置、电子设备和存储介质
CN110264520B (zh) 车载传感器与车辆位姿关系标定方法、装置、设备和介质
US9866818B2 (en) Image processing apparatus and method, image processing system and program
JP4751939B2 (ja) 車載カメラの校正装置
JP4690476B2 (ja) 車載カメラの校正装置
US8817079B2 (en) Image processing apparatus and computer-readable recording medium
US20070053679A1 (en) 360-° Image photographing apparatus
JP6737288B2 (ja) 周囲監視装置、画像処理方法、及び画像処理プログラム
JP5081313B2 (ja) 車載カメラの校正装置
US10410419B2 (en) Laser projection system with video overlay
JP2011182236A (ja) カメラキャリブレーション装置
JP5552892B2 (ja) 画像処理装置および画像処理プログラム
JP2009288152A (ja) 車載カメラのキャリブレーション方法
CN111800589B (zh) 图像处理方法、装置和系统,以及机器人
US20060215881A1 (en) Distance measurement apparatus, electronic device, distance measurement method, distance measurement control program and computer-readable recording medium
JP6614042B2 (ja) 姿勢変化判定装置、俯瞰映像生成装置、俯瞰映像生成システム、姿勢変化判定方法およびプログラム
JP2013001366A (ja) 駐車支援装置および駐車支援方法
JP2011064566A (ja) 距離推定装置
JP2014165810A (ja) パラメータ取得装置、パラメータ取得方法及びプログラム
JP2014174067A (ja) 車載カメラのキャリブレーション装置
JP7449393B2 (ja) 車載装置および車載カメラのキャリブレーション方法
WO2019012004A1 (en) METHOD FOR DETERMINING SPATIAL UNCERTAINTY IN IMAGES OF AN ENVIRONMENTAL REGION OF A MOTOR VEHICLE, DRIVING ASSISTANCE SYSTEM AND MOTOR VEHICLE
JP4873272B2 (ja) カメラ校正装置
JP5049304B2 (ja) 車両の周辺を画像表示するための装置
US20160176340A1 (en) Perspective shifting parking camera system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240301

R150 Certificate of patent or registration of utility model

Ref document number: 7449393

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150