JP2023178051A - 移動体、移動体の制御方法、及びコンピュータプログラム - Google Patents

移動体、移動体の制御方法、及びコンピュータプログラム Download PDF

Info

Publication number
JP2023178051A
JP2023178051A JP2022091097A JP2022091097A JP2023178051A JP 2023178051 A JP2023178051 A JP 2023178051A JP 2022091097 A JP2022091097 A JP 2022091097A JP 2022091097 A JP2022091097 A JP 2022091097A JP 2023178051 A JP2023178051 A JP 2023178051A
Authority
JP
Japan
Prior art keywords
formula
atan
image
camera unit
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022091097A
Other languages
English (en)
Inventor
知朗 土屋
Tomoaki Tsuchiya
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2022091097A priority Critical patent/JP2023178051A/ja
Priority to US18/317,947 priority patent/US20230394845A1/en
Priority to EP23174483.0A priority patent/EP4286223A1/en
Priority to CN202310629956.7A priority patent/CN117162916A/zh
Publication of JP2023178051A publication Critical patent/JP2023178051A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/40Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
    • B60R2300/402Image calibration

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Automation & Control Theory (AREA)
  • Human Computer Interaction (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • General Engineering & Computer Science (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Geometry (AREA)

Abstract

【課題】側方を撮像しつつ、高解像度で低歪曲の画像を電子サイドミラーとして表示できる移動体を提供する。【解決手段】移動体において、高解像度領域と低解像度領域を有する光学像を撮像手段の受光面に形成する光学系を有すると共に移動体の側方に設置されるカメラユニットを有し、高解像度領域の垂直画角をθv、水平画角をθh、光学系の光軸の垂直方向角度をφv、水平方向角度をφh、移動体の長軸方向のドライバの視点位置とカメラユニットのオフセットをx1、移動体の短軸方向のカメラユニットの移動体の側面からのオフセットをz、カメラユニットの地面からの高さ方向のオフセットをh1、長軸方向におけるドライバの視点位置からの距離をd1、d2、距離d1、d2における地面上の所定の幅をw1、w2とするとき、式2~式4を満たすようにした。【選択図】 図8

Description

本発明は、移動体、移動体の制御方法、及びコンピュータプログラム等に関する。
近年、車両に搭載されるルームミラー(後写鏡)を電子ルームミラーで置き換えるという要望がある。例えば特許文献1には、車両外の後方を撮像範囲とする撮像手段と車両内の表示手段を有し、撮像手段で撮像した画像を車両内のディスプレイで表示することにより、ドライバが車両外の後方の様子を確認できる電子ルームミラーシステムが開示されている。
又、特許文献2には、車両後方を撮像するようにカメラを設置し、撮像画像を車室内に表示することにより、後退時などに車両後方の死角をドライバが確認できるようにするための後方確認システムが開示されている。
特開2010-95202号公報 特開2004-345554号公報
上述の電子ルームミラー用画像を撮像する撮像手段としてのカメラは、ドライバが後方の比較的遠方の様子をより精細に確認するため高解像度を有することが求められる。一方で、側方衝突検知システム用カメラは、左折時などの衝突、巻き込みを回避するために、車両側方の死角や後側方を含んだより広い範囲での安全を確認するため、より広い範囲を撮像することが求められる。
又、電子ルームミラーシステムと側方衝突検知システムを車両に同時に搭載する場合、電子ルームミラーシステム用のカメラと、側方衝突検知システム用のカメラを個別に搭載すると車載画像処理システムが複雑になってしまう。このような課題は、例えば、車両の周囲の状況を撮影するために複数のカメラを配置して自動運転などを行う自動運転システムにおいても同様に発生している。
これに対して、例えば特殊な超広角レンズを用いたカメラを採用することによって、車両に設置するカメラの数を減らすことができる。しかし、超広角レンズなどを用いた場合には、広い画角は得られるものの周辺部の歪曲が大きく、高解像度で低歪曲の画像を電子サイドミラーなどに表示することが難しいという問題がある。
従って本発明では、上記の課題を鑑みて、側方を撮像しつつ、高解像度で低歪曲の画像を電子サイドミラーとして表示できる移動体を提供することを1つの目的とする。
上記目的を達成するために、本発明の1つの側面の移動体は、
高解像度領域と低解像度領域を有する光学像を撮像手段の受光面に形成する光学系を有すると共に移動体の側方に設置されるカメラユニットを有し、
前記高解像度領域の垂直画角をθv、水平画角をθh、前記光学系の光軸の垂直方向角度をφv、水平方向角度をφh、前記移動体の長軸方向のドライバの視点位置と前記カメラユニットのオフセットをx1、前記移動体の短軸方向の前記カメラユニットの前記移動体の側面からのオフセットをz、前記カメラユニットの地面からの高さ方向のオフセットをh1、前記長軸方向における、前記ドライバの前記視点位置からの距離をd1、d2、距離d1、d2における地面上の所定の幅をw1、w2とするとき、
Atan(h1/(d1+x1))-θv/2<φv<Atan(h1/(d2+x1))+θv/2・・・(式2)
Φh_limit=max(Atan((w1-z)/(d1+x1))-θh/2,Atan((w2-z)/(d2+x1))-θh/2)・・・(式3)
Φh_limit<φh<-Atan(z/(d1+x1))+θh/2・・(式4)
を満たし、更に、
前記低解像度領域の垂直画角をθlv、水平画角をθlh、
地面から所定の高さh2、
前記ドライバの前記視点位置から前記移動体の前端までの距離x2、
前記移動体の全長をd7、
地面上の所定の幅をw7とするとき、
x2<x1の場合、
Atan(h1/(x1-x2))-θlv/2<φv・・・(式5)
Atan((w7-z)/(x1-x2))-θlh/2<φh<-Atan(z/(x1-x2))+θlh/2・・・(式6)
x2>x1の場合、
-Atan((h1-h2)/(x2-x1))-θlv/2+180°<φv・・・(式7)
-Atan((w7-z)/(x2-x1))-θlh/2+180°<φh・・・(式8)
x2=x1の場合、
+90°<φv+θlv/2・・・・(式9)
-90>φh-θlh/2・・・・(式10)
+90<φh+θlh/2・・・・(式11)
を満たすように前記カメラユニットを設置したことを特徴とする。
本発明によれば、側方を撮像しつつ、高解像度で低歪曲の画像を電子サイドミラーとして表示できる移動体を実現することができる。
実施形態1のカメラユニットと車両の位置関係を説明する図である。 (A)、(B)は、実施形態1における撮像部の光学特性を説明するための図である。 実施形態1における画像処理システムの構成を説明するための機能ブロック図である。 実施形態1のカメラユニットの車両1への設置条件について説明するための図である。 中型貨物車等における規定領域とカメラユニットの設置条件の例を説明するための図である。 図5の一部を拡大した図である。 図5,図6の中型貨物車を側面から見た図である。 実施形態6における画像処理システムの構成を説明するための機能ブロック図である。 実施形態6に係る自車両を上方から見下ろしたときの側方検知に必要な検知領域を説明するための図である。 実施形態6にかかる自車両を側面から見たときの側方検知に必要な検知領域を示した図である。
以下、添付図面を参照して、本発明の好適な実施の形態について実施例を用いて説明する。なお、各図において、同一の部材ないし要素については同一の参照番号を付し、重複する説明は省略ないし簡略化する。
[実施形態1]
実施形態1では、高精細な電子ルームミラーや電子サイドミラー用の表示や広範囲な後方などの車両周辺確認用の表示を少ない数のカメラで両立すると共に、画角の割り当てを最適化できる画像処理システムについて説明する。
図1は、実施形態1のカメラユニットと車両の位置関係を説明する図である。
本実施形態では、図1に示すように、移動体としての例えば自動車の車両1の前方、右側方、後方、左側方にそれぞれカメラユニット11、12、13、14が設置されている。なお、本実施形態では4つのカメラユニットを有するが、カメラユニットの数は4に限定されず、少なくとも1つのカメラユニットがあれば良い。
カメラユニット11~14は、移動体としての車両1のそれぞれ前方、右側方、左側方、後方を撮像範囲とするように設置されている。
本実施形態では、カメラユニット11~14は略同様の構成を有し、それぞれ光学像を撮像する撮像素子と、撮像素子の受光面に光学像を形成する光学系とを有する。
なお、例えばカメラユニット11、13が有する光学系の光軸は、車両1が略水平状態の場合に、略水平となるように設置し、カメラユニット12、14が有する光学系の光軸は水平よりも若干下方を向くか、或いは真下を向くように設置されている。
又、本実施形態で使用するカメラユニット11~14が有する光学系はそれぞれ光軸周辺の狭い画角において高精細な画像を得ることができ、かつ広い画角において低解像度の撮像画像を得ることができるように構成されている。なお、11a~14aは高解像度で低歪曲な像を撮像可能な撮像画角であり、11b~14bは低解像度で高歪曲な像を撮像可能な撮像画角を示している。なお、11b~14bは、11a~14aの領域を含む。即ち、広い撮像画角11b~14bの内、中央の狭い撮像画角11a~14aにおいては高解像度の撮像画像が得られる。
次に、本実施形態におけるカメラユニット11~14が有する光学系について図2を用いて説明する。なお、それぞれのカメラユニット11~14の光学系の特性は同じでなくても良いが、本実施形態においては、カメラユニット11~14が有する光学系は略同じ特性を有するものとし、カメラユニット11が有する光学系について例示的に説明する。
図2(A)、(B)は、実施形態1における撮像部の光学特性を説明するための図であり、図2(A)は、実施形態1におけるカメラユニット11が有する光学系の、撮像素子の受光面上での各半画角における像高yを等高線状に示した図である。
図2(B)は、本実施形態におけるカメラユニット11が有する光学系の像高yと半画角θとの関係を表す射影特性を表した図である。図2(B)では、半画角(光軸と入射光線とがなす角度)θを横軸とし、カメラユニット11のセンサ面上(像面上)での結像高さ(像高)yを縦軸として示している。
本実施形態におけるカメラユニット11が有する光学系は、図2(B)に示すように、所定の半画角θa未満の領域と半画角θa以上の領域でその射影特性y(θ)が異なるように構成されている。従って、単位あたりの半画角θに対する像高yの増加量を解像度というとき解像度が領域によって異なる。この局所的な解像度は、射影特性y(θ)の半画角θでの微分値dy(θ)/dθで表されるともいえる。即ち、図2(B)の射影特性y(θ)の傾きが大きいほど解像度が高いといえる。又、図2(A)の等高線状の各半画角における像高yの間隔が大きいほど解像度が高いともいえる。
本実施形態においては、半画角θが所定の半画角θa未満のときにセンサ面上に形成される中心寄り(中央部)の領域を高解像度領域10a、半画角θが所定の半画角θa以上の外寄り(周辺部)の領域を低解像度領域10bと呼ぶ。なお、高解像度領域10aは撮像画角11aに対応しており、高解像度領域10aと低解像度領域10bを含む画角は撮像画角11bに対応している。
なお、本実施形態では、高解像度領域10aと低解像度領域10bの境界の円を解像度境界と呼び、解像度境界に対応する表示画面上の境界画像を表示解像度境界又は単に境界画像と呼ぶ。なお、表示画面に表示される境界画像(表示解像度境界)は円状でなくても良い。便宜的に長方形などにして表示しても良い。又、高解像度領域10aと低解像度領域10bの境界は円状でなくてもよく、楕円でもよく、或いは歪んだ形状でも良い。
又、境界93(高解像度領域10a)の重心は、光学系の光軸が受光面と交わる位置と一致していなくても良い。但し、本実施形態では、境界93(高解像度領域10a)の重心は、光学系の光軸が受光面と交わる位置とほぼ一致しているので光学系の設計が容易であると共に、安定的な光学特性が得られ、歪曲補正の負荷も抑制することができる効果がある。
なお、本実施形態において、高解像度領域10aは歪曲が相対的に少ない低歪曲領域であり、低解像度領域10bは歪曲が相対的に多い高歪曲領域となっている。従って、本実施形態においては、高解像度領域、低解像度領域はそれぞれ低歪曲領域、高歪曲領域に対応しており、高解像度領域、低解像度領域をそれぞれ低歪曲領域、高歪曲領域と呼ぶことがある。
本実施形態におけるカメラユニット11が有する光学系は、高解像度領域(低歪曲領域)10aにおいてその射影特性y(θ)がf×θより大きくなるように構成されている(fはカメラユニット11が有する光学系の焦点距離)。又、高解像度領域(低歪曲領域)における射影特性y(θ)は低解像度領域(高歪曲領域)における射影特性とは異なるように設定されている。
又、θmaxをカメラユニット11が有する光学系が有する最大の半画角とするとき、θaとθmaxの比θa/θmaxは所定の下限値以上であることが望ましく、例えば所定の下限値として0.15~0.16が望ましい。
又、θaとθmaxの比θa/θmaxは所定の上限値以下であることが望ましく、例えば0.25~0.35とすることが望ましい。例えば、θmaxを90°とし、所定の下限値を0.15、所定の上限値0.35とする場合、θaは13.5~31.5°の範囲で決定することが望ましい。
更に、カメラユニット11が有する光学系は、その射影特性y(θ)が、以下の式1も満足するように構成されている。
1<f×sin(θmax)/y(θmax)≦1.9・・・・・(式1)
fは、前述のようにカメラユニット11が有する光学系の焦点距離である。下限値を1とすることで、同じ最大結像高さを有する正射影方式(即ち、y=f×sinθの場合)の魚眼レンズよりも中心解像度を高くすることができる。又、上限値を1.9とすることで、魚眼レンズ同等の画角を得つつ良好な光学性能を維持することができる。上限値は、高解像度領域と、低解像度領域の解像度のバランスを考慮して決めればよく、1.9~1.4の範囲で設定するのが望ましい。
以上のように光学系を構成することで、高解像度領域10aにおいては、高解像度が得られる一方、低解像度領域10bでは、単位あたりの半画角θに対する像高yの増加量を小さくし、より広い画角を撮像することが可能になる。従って、魚眼レンズと同等の広画角を撮像範囲としつつ、高解像度領域10aにおいては、高い解像度を得ることができる。
更に、本実施形態では、高解像度領域(低歪曲領域)においては、通常の撮像用の光学系の射影特性である中心射影方式(y=f×tanθ)や等距離射影方式(y=f×θ)に近い特性としているため、光学歪曲が小さく、精細に表示することが可能となる。従って、周囲の車両などを目視する際における自然な遠近感が得られると共に、画質の劣化を抑えて良好な視認性を得ることができる。
なお、上述の式1の条件を満たす射影特性y(θ)であれば、同様の効果を得ることができるため、本発明は図2に示した射影特性に限定されない。なお、本実施形態では上述の式1の条件を満たす射影特性y(θ)を有する光学系を異画角レンズと呼ぶ場合がある。
なお、カメラユニット11~14のそれぞれの光学系の高解像度領域10aは撮像画角11a~14aに対応しており、撮像画角11a~14aと低解像度領域10bを含む画角は撮像画角11b~14bに対応している。
なお、前述のように、本実施形態では、カメラユニット11~14の撮像素子の受光面の略中央と高解像度領域10aの重心(光学系の光軸)はほぼ重なっており、高解像度領域10aの重心は光学系の光軸が受光面と交わる位置と一致している。
しかし、例えば撮像素子の受光面の略中央と高解像度領域10aの重心(光学系の光軸)は所定の方向(第1の方向)にずれていても良い。又、高解像度領域10aの重心は光学系の光軸が受光面と交わる位置とずれていても良い。
次に本実施形態における画像処理システムの構成について図3を用いて説明する。図3は実施形態1における画像処理システムの構成を説明するための機能ブロック図である。
図3において画像処理システム100は、移動体としての車両1に搭載されており、カメラユニット11~14の筐体内にはそれぞれ撮像部21~24とカメラ処理部31~34が配置されている。
撮像部21~24はそれぞれ異画角レンズ21c~24cと例えばCMOSイメージセンサやCCDイメージセンサなどの撮像素子21d~24dを有する。
光学系としての異画角レンズ21c~24cは、1枚以上の光学レンズから構成されており、式1の条件を満たす射影特性y(θ)を有し、低歪曲領域と高歪曲領域とを有する光学像をそれぞれ撮像素子21d~24dの受光面に形成する。
撮像素子21d~24dは撮像手段として機能しており、光学像を光電変換して撮像信号を出力する。撮像素子21d~24dの受光面には例えばRGBの色フィルタが画素毎に配列されている。RGBの配列は例えばベイヤー配列となっている。
従って、撮像素子からは、ベイヤー配列に従って例えば所定の行からはR,G,R、Gの信号が順次出力され、隣の行からはG,B,G,B、の信号が順次出力されるように構成されている。
31~34はカメラ処理部であり、撮像部21~24と共にそれぞれ同じカメラユニット11~14の筐体に収納されており、撮像部21~24から出力された撮像信号をそれぞれ処理する。なお、図3では撮像部24、カメラ処理部34の詳細及びその配線は便宜上省略されている。
カメラ処理部31~34はそれぞれ画像処理部31a~34a、認識部31b~34b、カメラ情報部31c~34cを有する。画像処理部31a~34aは撮像部21~24から出力された撮像信号をそれぞれ画像処理する。なお、カメラ処理部31の一部又は全部を撮像素子21d~24d内の積層された信号処理部で行っても良い。
具体的には、画像処理部31a~34aは、撮像部21~24からベイヤー配列に従って入力された画像データをそれぞれデベイヤ処理し、RGBのラスタ形式の画像データへ変換する。更に、ホワイトバランスの調整やゲイン・オフセット調整、ガンマ処理、カラーマトリックス処理や可逆圧縮処理など種々の補正処理を行う。但し、非可逆圧縮処理などは行わず、いわゆるRAW画像信号を形成する。
認識部31b~34bは画像処理部31a~34aで画像処理された歪曲補正されていないRAW画像信号からそれぞれ所定の対象物(例えば自動車、人物、障害物など)を画像認識する。即ち、認識部31b~34bは、低歪曲領域に対応する画像信号を歪曲補正せずにRAW画像信号の状態で画像認識して第1の画像認識結果を出力する。
なお、本実施形態の認識部31b~34bは少なくとも高解像度領域10aから得られたRAW画像信号に対して画像認識処理を行い、所定の対象物を認識する。なお、この時、認識部31b~34bは、低解像度領域10bから得られたRAW画像信号についても画像認識処理をしても良い。但し、RAW画像信号は歪曲補正されていないので、異画角レンズの周辺部の画像は歪が大きく認識の信頼性は落ちることになる。
或いは、認識部31b~34bは、高解像度領域10aから得られたRAW画像信号を切り出して、その高解像度領域10aから得られたRAW画像信号に対してだけ画像認識処理を行っても良い。
なお、その際画像認識のために切り出す領域は、画像認識処理に適した形状である矩形にすることが望ましい。又、切り出す矩形領域は高解像度領域10a内の一部だけ(例えば高解像度領域10aに内接する矩形)でも良いし、高解像度領域10aと低解像度領域10bの両方を含んだ矩形でも良い。
ここで、認識部31b~34bは撮像手段により取得された画像信号の内、少なくとも一部領域の画像信号に基づき画像認識して第1の画像認識結果を出力する第1の画像認識手段として機能している。なお、本実施形態において、前記一部領域は低歪曲領域に対応する領域である。
認識部31b~34bは、対象物の種類と座標のセットを認識結果として統合処理部40に送信する。
一方、認識部31b~34bは、統合処理部40の統合制御部41cから、対象物の種類と、その対象物の移動方向に関する情報又は優先認識領域情報のセットである予測情報を受信する。この予測情報については後述する。
ここで、車両1の正面に設置されたカメラユニット11の認識部31bの出力は走行制御部(ECU)60にも直接供給されている。これは、認識部31bの障害物などの認識結果に基づいて直ちに走行を停止したり、障害物を回避するように走行を制御したりする必要が生じる場合があるからである。
カメラ情報部31c~34cはそれぞれカメラユニット11~14に関するカメラ情報を予めメモリに保持している。カメラ情報部はカメラユニット11~14内に設けた各種センサ等からの情報を一時的に保持することもできる。カメラ情報は、例えば異画角レンズ21c~24cが形成する光学像の図2に示されるような特性情報(解像度境界情報など)を含む。
又、撮像素子21d~24dの画素数、カメラユニットの車両座標における取り付け位置座標及び姿勢(ピッチ、ロール、ヨーなど)の情報、撮像方向などを含む。カメラ情報は、ガンマ特性、感度特性、フレームレートなどの情報を含んでも良い。更に、カメラ情報は、画像処理部31a~34aにおいてRAW画像信号を生成する際の画像処理方法や画像フォーマットに関する情報を含んでも良い。
なお、取り付け位置座標は、カメラユニット毎に車両に対する取り付け位置が決まっている場合が多いので、事前にカメラ情報部内のメモリに記憶しておいても良い。又、カメラユニットの姿勢座標は車両1に対する相対的な座標であり、カメラユニットに設けられた不図示のエンコーダなどから取得しても良い。或いは3次元加速度センサなどを用いて取得しても良い。
又、撮像方向に関する情報は例えば地磁気センサを用いて取得しても良い。カメラの解像度境界情報はレンズ設計によって決まるので予めカメラ情報部内のメモリに記憶しておくものとする。
なお、カメラ情報は撮像部21~24の固有の情報であり、互いに異なり、それらの情報は統合処理部40に送信され、統合処理部40において画像処理などをする際に参照される。ここで、カメラ情報部31c~34cは、光学像の特性に関する特性情報やカメラユニットの位置姿勢情報を保持する保持手段として機能している。
なお、カメラ処理部31~34の内部にはコンピュータとしてのCPUや記憶媒体としてのコンピュータプログラムを記憶したメモリが内蔵されている。又、CPUはメモリ内のコンピュータプログラムを実行することにより、カメラ処理部31~34内の各部を制御するように構成されている。
なお、本実施形態では、画像処理部31a~34aや認識部31b~34bは例えば専用回路(ASIC)やプロセッサ(リコンフィギュラブルプロセッサ、DSP)などのハードウェアを用いる。それによって、高解像度領域の画像認識の高速化が実現でき、事故を回避できる可能性を高めることができる。なお、画像処理部31a~34aは歪曲補正機能を持っていても良い。
なお、カメラ処理部31~34の内部の機能ブロックの一部又は全部を、CPUに、メモリに記憶されたコンピュータプログラムを実行させることによって実現しても良いが、その場合には、CPUの処理速度を高めることが望ましい。
40は統合処理部であり、SOC(Sytem On Chip)/FPGA(Field Programable Gate Array)41、コンピュータとしてのCPU42、記憶媒体としてのメモリ43を有する。CPU42はメモリ43に記憶されたコンピュータプログラムを実行することによって、画像処理システム100全体の各種制御を行う。なお、本実施形態では統合処理部40はカメラユニットとは別の筐体で収納されている。
SOC/FPGA41は画像処理部41a、認識部41b、統合制御部41cを有する。
画像処理部41aはカメラ処理部31~34からそれぞれのRAW画像信号を取得すると共に、カメラ情報部31c~34cより各カメラユニット11~14のカメラ情報を取得する。
カメラ情報は、前述のように、異画角レンズ21c~24cの光学特性や撮像素子21d~24dの画素数、光電変換特性、γ特性、感度特性、RAW画像信号のフォーマット情報、カメラユニットの車両座標における取り付け位置の座標や姿勢情報などを含む。
画像処理手段としての画像処理部41aは光学系の特性情報などのカメラ情報を取得する。そしてカメラ情報に基づきカメラ処理部31~34からのそれぞれのRAW画像信号に対して解像度変換を行うと共に、撮像部21~24のそれぞれの低解像度領域10bから得られた画像信号に対して歪曲補正等の画像処理ステップを実行する。
即ち、光学像の特性に基づき、歪曲補正領域の画像信号に対して歪曲補正すると共に、歪曲補正された画像信号と、歪曲補正しない非歪曲補正領域の画像信号とを合成して合成画像を生成する。即ち、画像処理部41aは表示信号生成手段としても機能しており、歪曲補正などを行って、合成画像を生成する表示信号生成ステップを行う。なお、本実施形態において歪曲補正領域はユーザにより、又は自動で設定可能である。
本実施形態では画像処理部41aは、高解像度領域10aから得られた画像信号は歪曲が殆どないので歪曲補正は行わない。但し、画像処理部41aは、高解像度領域10aから得られた画像信号に対しても簡略的な歪曲補正を行っても良い。又、画像処理部41aはカメラ処理部31~34からのそれぞれのRAW画像信号に対して適宜非可逆圧縮処理などを行う。
又、画像処理部41aは歪曲補正を行った撮像部21~24のそれぞれの低解像度領域10bの画像信号と、高解像度領域10aの画像信号をスムーズにつなぎ合わせるように合成して撮像部21~24毎の全体画像を形成する。
なお、低解像度領域10bの画像信号と高解像度領域10aから得られた画像信号の両方に対して歪曲補正を行う場合には、画像処理部31a~34aでそれぞれ得られたRAW画像信号をそのまま歪曲補正しても良い。
なお、画像処理部41aでは、カメラ情報の中の特にカメラの配置位置と姿勢情報に基づき画像の回転等の画像処理を行う。これについては後述する。
認識部41bは少なくとも低解像度領域を歪曲補正した後の、撮像部21~24毎の全体画像に対して画像認識処理を行い、撮像部21~24毎の全体画像における所定の対象物(例えば自動車、人物、障害物など)を画像認識する。即ち、認識部41bは、少なくとも低解像度領域(高歪曲領域)に対応する画像信号を歪曲補正した後で画像認識して第2の画像認識結果を出力する。
その際に、認識部31b~34bによる認識結果(対象物の種類や座標)も参照する。なお、本実施形態では、認識部41bは撮像部21~24毎の全体画像に対して画像認識をしているが、必ずしも全体画像に対して画像認識をしなくても良い。例えば画像の周辺部については画像認識しなくても良い。
即ち、認識部41bは、例えば認識部31b~34bにより認識した領域を含む、より広い領域を認識するものであれば良い。
即ち、認識部41bは、画像取得手段により取得された画像信号の内、第1の画像認識手段で画像認識を行った一部領域を含む、該一部領域より広い領域の画像信号を画像認識して第2の画像認識結果を出力する第2の画像認識手段として機能している。なお、第2の画像認識手段は、低歪曲領域としての高解像度領域10aと高歪曲領域としての低解像度領域10bに対応した画像信号を合成した合成画像について画像認識して第2の画像認識結果を出力している。
なお、本実施形態では、画像処理部41aは、複数の撮像部としてのカメラユニット12~14からの画像をつなぎ合わせるように合成して、パノラマ的な合成画像を形成する。
その場合、つなぎ合わされる複数の撮像部の画像は、それぞれの撮影画角の少なくとも一部が互いに所定量以上のオーバーラップ領域を有するように設定されていることが望ましい。
なお、本実施形態では、カメラユニット12と13の撮影範囲は互いに重複するようにそれぞれ配置されている。又、カメラユニット13と14の撮影範囲が互いに重複するようにそれぞれ配置されている。しかも、その際、少なくとも2つの画像取得手段の低歪曲領域の撮影範囲が互いに重複するように配置されている。
又、認識部41bは、そのパノラマ的な合成画像に対して画像認識を行う。そうすることによって、例えば複数の撮像部の画角にまたがるように撮影された対象物の画像認識が可能となる。即ち、それぞれの撮像部からの個別の全体画像では、対象物の全体像が分からず画像認識できない場合があるが、パノラマ的な合成画像においてはその対象物のほぼ全体が映り画像処理により画像認識が可能になる場合があるからである。
統合制御部41cは、例えば認識部31b~34bによる認識結果と認識部41bによる認識結果が異なる場合には、より信頼性が高い方の認識結果を採用することで統合された画像認識結果を出力する。
例えば認識部31b~34bにより認識された画像内の対象物の占める割合と認識部41bにより認識された同じ対象物の、画面内に閉める割合を比較し、その割合が大きい方の認識結果を、より信頼性が高いと判断して採用する。
或いは高解像度領域内と低解像度領域の両方にまたがっている対象物の場合には、認識部31b~34bによる認識結果よりも認識部41bによる認識結果を、より信頼性が高いと判断して採用しても良い。或いは、認識部31b~34bにより認識された対象物の位置が画面の周辺部の場合には、信頼性が低いと判断して、認識部41bによる認識結果を、より信頼性が高いと判断して採用しても良い。
或いは、認識部41bでは、低解像度領域を歪曲補正した状態で、低解像度領域だけ画像認識をすると共に、もし低解像度領域と高解像度領域にまたがる対象物があった場合には、その対象物に対して画像認識をするようにしても良い。又、高解像度領域だけに存在する対象物に対しては認識部31b~34bによる認識の信頼性の方が高いとみなして認識部41bでは画像認識処理をしないように制御しても良い。
ここで、統合制御部41cは、第1の画像認識結果の信頼性と第2の画像認識結果の信頼性に基づき統合された画像認識結果を出力する統合処理手段として機能している。
又、統合制御部41cは、撮像部21~24毎の全体画像や、パノラマ的な合成画像などの内、所望の画像を第1表示部50,第2表示部51などに表示するための信号を形成する。又、認識された対象物を強調表示するための枠や、対象物の種類、サイズ、位置、速度などに関する情報や警告などのためのCGなどを生成する。更に、カメラ情報部31c~34cから取得した表示解像度境界情報などの光学系の特性情報に基づき境界を表示するための境界画像のCGを生成しても良い。
又、これらのCGや文字を画像に重畳するための表示処理などを行う。ここで第1表示部50,第2表示部51などは表示手段として機能しており、画像信号や統合された画像認識結果を表示する表示ステップを実行可能である。
更に又、本実施形態においては、統合制御部41cは複数のカメラユニットの間で認識された対象物に関する情報を共有するように構成されている。即ち、例えばカメラユニット14において認識された対象物がカメラユニット11の画角の方向に移動していることが認識されたものとする。その場合には、統合制御部41cはその対象物の種類と、その対象物の移動方向に関する情報又は優先認識領域情報を含む予測情報をカメラユニット11の認識部31bに送信する。
このような予測情報をカメラユニット11~14の認識部31b~34bで共有することによってカメラユニット11~14の認識部31b~34bにおける画像認識精度を向上させることができる。なお、このような予測情報を共有するメリットは、カメラユニット11~14の認識部31b~34bが統合処理部40の認識部41bと別体の場合に特に効果が大きい。
又、統合制御部41cは走行制御部(ECU)60などとCANやFlexRay、Ethernetなどのプロトコルを用いて、内部に設けられた不図示の通信手段を介して通信を行う。それによって、走行制御部(ECU)60などから受信した車両制御信号に基づき表示する情報を適宜変更する表示処理を行う。即ち、例えば車両制御信号により取得された車両の移動状態に応じて表示手段に表示する画像の範囲などを変化させる。
なお、走行制御部(ECU)60は、車両1に搭載されており、車両1の駆動制御、方向制御などを総合的に行うためのコンピュータやメモリを内蔵したユニットである。走行制御部(ECU)60からは車両制御信号として例えば走行速度、走行方向、シフトレバーのシフト位置、ウインカーの状態、地磁気センサなどによる車両の向きなどの車両の走行(移動状態)に関する情報などが統合処理部40に対して入力される。
逆に統合制御部41cは、認識部41bで認識された所定の対象物(障害物など)の種類、位置、移動方向、移動速度などの情報を走行制御部(ECU)60に送信する。それによって走行制御部(ECU)60は、車両の停止、駆動、走行方向の変更などの、障害物の回避などに必要な制御を行う。ここで走行制御部(ECU)60は、統合された画像認識結果に基づき移動体としての車両の移動を制御する移動制御手段として機能している。
第1表示部50は例えば車両1の運転席の前方上部の車幅方向の中央付近に、表示画面を車両後方に向けて設置され電子ルームミラーとして機能する。なお、ハーフミラーなどを用いて、画像表示用のディスプレイとして使用しないときは鏡として使用できる構成としても良い。又、第1表示部50はタッチパネルや操作ボタンを備え、ユーザからの指示を取得し、統合制御部41cへ出力可能な構成としても良い。又、第1表示部50を例えば従来の光学的なサイドミラーの代わりに、左右の障害物などを確認するための電子サイドミラーとして用いることもできる。
第2表示部51は、例えば車両1の運転席の前方の車幅方向の中央付近の操作パネル周辺に設置される。なお、移動体としての車両1には、不図示のナビゲーションシステムや、オーディオシステムなどが搭載されている。そして、例えば第2表示部には、ナビゲーションシステムや、オーディオシステムや走行制御部(ECU)60からの各種制御信号なども表示することができる。又、タッチパネルや操作ボタンを備え、ユーザからの指示を取得可能な構成としている。
なお、第2表示部51は例えば外部のタブレット端末の表示部であってもよく、統合処理部40に対して有線で接続することにより画像の表示ができるようにしても良いし、通信部62を介して無線で画像を受信して表示することもできるようにしても良い。なお、第1表示部50、第2表示部51のディスプレイパネルとしては、液晶ディスプレイや有機ELディスプレイなどを用いることができる。なお、表示部の数は3つに限定されない。
なお、統合処理部40などに含まれる機能ブロックの一部又は全部をハードウェアで実現するようにしても良いし、CPU42に、メモリ43に記憶されたコンピュータプログラムを実行させることによって実現しても良い。ハードウェアとしては、専用回路(ASIC)やプロセッサ(リコンフィギュラブルプロセッサ、DSP)などを用いることができる。
なお、画像処理部31a~34aで行っている画像処理の一部又は全部を統合処理部40の画像処理部41aで行っても良い。即ち、本実施形態では、例えば画像取得手段と第1の画像認識手段とは同じカメラユニットの筐体に収納されており、カメラユニットと第2の画像認識手段はそれぞれ別の筐体に収納されている。しかし、例えば第1の画像認識手段を第2の画像認識手段と共に統合処理部40の筐体に収納しても良い。
なお、本実施形態では統合処理部40は移動体としての車両1に搭載されているが、統合処理部40の画像処理部41a、認識部41b、統合制御部41cの一部の処理を例えばネットワークを介して外部サーバなどで行っても良い。その場合、例えば画像取得手段としての撮像部21~24は移動体としての車両1に搭載されるが、例えばカメラ処理部31~34や統合処理部40の機能の一部を外部サーバなどで処理することが可能になる。又、統合処理部40の一部又は全部の機能を走行制御部(ECU)60に持たせることも可能である。
61は記録部であり、統合処理部40で生成された撮像部21~24毎の全体画像や、パノラマ的な合成画像を記録する。更に、認識された対象物を示す所定の枠や文字や警告などのCGや、CGが重畳され第1表示部50,第2表示部51などに表示された画像を時刻などやGPS情報などと共に記録する。
統合処理部40は記録部61に記録された過去の情報を再生し、それを第1表示部50や第2表示部51に表示することも可能である。
62は通信部であり、ネットワークを介して外部サーバなどと通信するためのものであり、記録部61に記録される前の情報や記録部61に記録された過去の情報を外部サーバなどに送信して外部サーバなどに保存することが可能である。
又、前述のように画像を外部のタブレット端末などに送信して、タブレット端末の表示部である第2表示部51に画像を表示することもできる。又、外部サーバなどから渋滞情報や、各種の情報を取得して、統合処理部40を介して第1表示部50や第2表示部51に表示することも可能である。
63は操作部でありユーザの操作によって画像処理システムに対する様々な指示を入力するためのものである。操作部は例えばタッチパネルや操作ボタンなどを含む。
図4は実施形態1のカメラユニットの車両1への設置条件について説明するための図である。
図4において14は左側方に設置されたカメラユニットであり、電子サイドミラー表示用の画像を撮像する。
又、ドライバが、電子サイドミラーの表示により車両周辺の安全を確認するためには、図4の網掛けで示すような車両側方や後方の地面上の領域を表示する必要がある。以降、本実施形態では図4における網掛け領域を規定領域とも記載する。図4では、ドライバの視点位置Eから後方の距離d1において幅w1の領域を、距離d2の距離において幅w2の地面上の領域を、規定領域とする。この規定領域が第1表示部50に表示されることが望ましい。即ちd1、d2は、図4のX方向における、ドライバの視点位置Eから後方の距離であり、w1,w2はそれぞれ距離d1、d2における地面上の幅である。
図4に示す規定領域を電子サイドミラーに表示するためには、少なくとも規定領域をカメラユニット14の撮像領域に含めるように設置する必要がある。従って本実施形態では、カメラユニット14の、式1の条件を満たす高解像度領域10aに対応した撮像画角で、規定領域が撮像可能なようにカメラユニット14を設置する。なお、図4ではカメラユニット14はX軸、Y軸、Z軸の交点に配置されており、図4で示されるような撮像画角を有するものとする。
ここで、式1の条件を満たす高解像度領域10aを用いて、規定領域を表示するようにサイドミラー用の画像を形成するためには、カメラユニット14を垂直方向について、以下の式2の条件を満たすように設置することが望ましい。
Atan(h/(d1+x))-θv/2<φv<Atan(h/(d2+x))+θv/2・・・・・(式2)
又、水平方向については以下の式3、式4の条件を満たすように設置することが望ましい。
Φh_limit
=max(Atan((w1-z)/(d1+x))-θh/2,Atan((w2-z)/(d2+x))-θh/2)・・・(式3)
Φh_limit<φh<-Atan(z/(d1+x))+θh/2・・・(式4)
ここで、図4に示すように、θvは高解像度領域10aの垂直画角、θhは高解像度領域10aの水平画角、φvはカメラユニット14の光学系の光軸の垂直方向角度、φhはカメラユニット14の光学系の光軸の水平方向角度とする。又、xは車両1の長軸方向(図4のX方向)におけるドライバの視点位置Eとカメラユニット14のオフセット、zはカメラユニット14の車両側面からの短軸方向(図4のZ方向)のオフセットとする。又、hはカメラユニット14の地面からの高さ方向(図4のY方向)のオフセットとする。
なお、ドライバの視点位置Eは、ドライバの着座位置での目の位置又はドライバの座席面の中央位置とする。
なお、以上の説明では左側方のカメラユニット14の設置条件について説明したが、右側方のカメラユニット12についても同じ条件となる。
以上のように式1~式4の条件を全て満たすことによって、図4に示すような、ドライバが安全を確認すべき規定領域を高解像度領域10aの画角内に含めて撮像することができる。従って、電子サイドミラーにより高解像度で低歪曲の画像を適切に表示することができる。
このように、本実施形態では上記式1~式4の条件を満たすようにすることで、高解像度領域10aの画角に車両後側方の規定領域を撮像範囲に含めて撮像することが可能となる。従って、車両後側方の規定領域を電子サイドミラーに表示することができドライバーが安全を確認することができる。更に高解像度領域10aは、歪曲が小さく解像度が高いためドライバーは高解像度で低歪曲の画像によってタイムリーに障害物等を目視することができる。
しかも、高解像度領域10aについてはRAW画像信号の状態で画像認識を行うようにすることで、遅延なく画像認識ができるので障害物などに関する情報をドライバーに速やかに通知することもできる。又、このように上記式1~式4の条件が満たされることで、自動車は、ドライバーが安全を確認しやすい映像を電子サイドミラーに表示できる。
以上説明したように本実施形態では、高解像度領域(低歪曲領域)10aにおいては、通常の撮像用の光学系の射影特性である中心射影方式(即ち、y=f×tanθである場合)や等距離射影方式(即ち、y=f×θである場合)に近い特性としている。従って、光学歪曲が小さく、高解像度で表示することが可能となる。又、周囲の車両などを目視する際における自然な遠近感が得られる。更に、画質の劣化を抑えて良好な視認性を得ることができると共に画像認識も歪曲補正せずに行える。
なお、上述の式1の条件を満たさない射影特性y(θ)であっても、光学系が高解像度領域10aと低解像度領域10bを有する光学像を形成するものであって、かつ式2~式4の条件を満たすように設置しても良い。その場合であっても、ある程度高解像で低歪曲の画像を目視或いは画像認識することができる。
なお、例えば乗員が9人以下の乗用車や小型の貨物車(例えば車両重量が3.5トン以下)の場合にはd1=4m、w1=1m、d2=20m、w2=4mの規定領域をドライバーが電子サイドミラーで確認できることが望ましい。
この場合に、例えば高解像度領域10aの垂直画角θvと水平画角θhがそれぞれ47.2度のカメラユニットを用い、x=0.5m、z=0.2m、h=1mの位置にカメラユニットを設置することを想定する。その場合、カメラユニットの光軸の垂直方向の角度φvと水平方向の角度φhはそれぞれ、-11.07°<φv<26.4°、-13.1°<φh<26.1°となる。カメラユニットは、これらの条件を満たすように、カメラの光軸を合わせて設置される。
又乗員が10人以上の乗用車や、中型や大型の貨物車の場合には、より後方が確認できることが望ましいため、d1=4m、w1=1m、d2=30m、w2=5mの規定領域をドライバーが電子サイドミラーで確認できることが望ましい。その場合、高解像度領域10aの垂直画角θvと水平画角θhがそれぞれ47.2度のカメラユニットを用い、x=0.5m、z=0.2m、h=1mの位置にカメラユニットを設置するとする。すると、カメラユニットの光軸の垂直方向の角度φvと水平方向の角度φhはそれぞれ、-11.1°<φv<25.5°、-13.5°<φh<26.1°となる。
なお、上述の数値例では、カメラユニットの設置位置(x、z、h)を固定の条件として、その場合のカメラユニットの光軸の角度条件を算出したが、式2~3の条件を満たしていればよく、設置条件の算出方法はこれに限定しない。例えば、車両設計上の制約条件として、カメラユニットの光軸の角度が予め決まっている場合、それに基づいて、式2~3の条件を満たすカメラユニットの設置位置の範囲を決定する。
それにより、規定領域をカメラユニットの高解像度領域の撮像範囲に含めることができる。両設計上の制約条件としてカメラユニットの設置位置(x、z、h)とカメラユニットの光軸の角度が予め決まっている場合、それに基づいて、式2~3の条件を満たすカメラユニットの高解像度領域10aの垂直画角θvと水平画角θhを夫々決定しても良い。
[実施形態2]
実施形態2では、中型貨物車にカメラユニットを設置する場合の設置条件を説明する。中型貨物車としては、例えば車両総重量が3.5トンを超え12トン以下の車両とする。なお、3.5トンを超え7.5トン以下の車両としても良い。中型貨物車では、乗用車や小型貨物車に比較して側方方向により広い範囲の安全をドライバーが確認する必要がある。
図5は中型貨物車等における規定領域とカメラユニットの設置条件の例を説明するための図であり、図6は図5の一部を拡大した図である。又、図7は、図5,図6の中型貨物車を側面から見た図である。図5~図7に示すように、ドライバの視点位置Eからの距離d1~d6とそれぞれの距離に対応する幅w1~w6が電子サイドミラーに表示されてドライバが確認できることが望ましい。
なお、d1~d6とそれぞれの距離に対応する幅w1~w6で規定されている領域を本実施形態における規定領域として記載する。又、本実施形態においては、規定領域の全てをカメラユニットの高解像度領域10aで撮像できるようにカメラユニットを設置する。なお、図5において、P3~P5はP3’~P5’と対応しており、車両1の長軸方向(X方向)の中心線に対してそれぞれ対称な位置関係にある。
なお、図6に示されるように、サイドミラー表示のために設置されるカメラユニット14の位置はドライバの視点位置Eからxだけ前に配置され、車両の側面からzだけオフセットしているものとする。尚、図7に示されるように、カメラユニット14は、車両1に対して斜め前方に突き出された支持アームに取付けられている。
本実施形態において、図5に示す規定領域の全てをカメラユニットの高解像度領域10aで撮像できるように設置するためには、カメラユニット14の位置や角度は上記の式1~式4の条件に加え、更に、以下の式5~式9の条件を満たすことが望ましい。
即ち、垂直方向については、以下の式5を満たすことが望ましい。
Atan(h/(d3+x))-θv/2>φv・・・・(式5)
又、水平方向については、距離d3の車体側の点P1を撮像するために、以下の式6を満たすことが望ましい。
-Atan(z/(d3+x))+θh/2>φh・・・・(式6)
又、距離d3の外側の点P3を撮像するために、以下の式7を満たすことが望ましい。
Atan((w3-z)/(d3+x))-θh/2<φh・・・・(式7)
又、距離d4の外側の点P4を撮像するために、以下の式8を満たすことが望ましい。
Atan((w4-z)/(d4+x))-θh/2<φh・・・・(式8)
又、距離d5の外側の点P5を撮像するために、以下の式9を満たすことが望ましい。
Atan((w5-z)/(d5+x))-θh/2<φh・・・・(式9)
ここでd3~d5は、図5に示すX方向についての、ドライバの視点位置Eから後方の距離であり、w3~w5は、図5に示すZ方向の車両1の側面から外側に広がる幅である。
又、xは車両の長軸方向(図5、図6のX方向)におけるドライバの視点位置Eとカメラユニット14のオフセット、zはカメラユニット14の車両側面からの短軸方向(図5~7のY方向)のオフセットとする。又、hはカメラユニット14の地面からの高さ方向(図7のZ方向)のオフセットとする。なお、本実施形態では、w4=w5である。
[実施形態3]
実施形態3では、大型貨物車にカメラユニットを設置する場合の設置条件を説明する。大型貨物車として例えば車両総重量が12トンを超える車両とする。7.5トンを超える車両としても良い。実施形態2の規定領域のうち距離d1の幅w1と、距離d2の幅w2、距離d5の幅w5の領域をカメラユニットの高解像度領域の撮像範囲に含めるようにカメラユニットを設置する。
その場合の設置条件として、上記の式2~式4の条件の他に式5、式6、式9を満たすようにする。即ち、垂直方向については式5の条件とし、水平方向について、距離d3の車両1の側の点を撮像するための条件は式6とし、距離d5の外側の点を撮像するための条件は式9とする。
[実施形態4]
実施形態4では、実施形態2の規定領域のうち距離d4の幅w4とd5の幅w5の領域をカメラユニットの高解像度領域の撮像範囲に含めるようにする。その場合の設置条件として、上記の式2~式4の条件の他に式5、式6、式8、式9の条件を満たすようにする。
即ち、垂直方向については式5の条件とし、水平方向については、距離d3の車両1の側の点を撮像するために式6の条件とし、距離d4の外側の点を撮像するために式8の条件とし、距離d5の外側の点を撮像するために式9の条件とする。
[実施形態5]
実施形態5では、実施形態1の規定領域に加え、図6~図7に示す距離d6、d3の位置で幅w6で規定される領域を低解像度領域10bで撮像できるように構成する。運転席とは反対側の地面を確認するためこの規定領域を撮像範囲に含めることが望ましい。
この場合、上記の式1~式4の条件の他に以下の式10~式16の条件を満たすことが望ましい。又、その際、実施形態2~4のうちのいずれかの実施形態の条件も満たすようにしても良い。そのようにすることで、1つのカメラユニットで各規定領域を撮像範囲に含めることができる。
即ち、x>d6の場合、垂直方向については、以下の式10を満たすことが望ましい。
Atan(h/(x-d6))-θlv/2<φv・・・・(式10)
又、水平方向については、以下の式11を満たすことが望ましい。
Atan((w6-z)/(x-d6))-θlh/2<φh
<-Atan(z/(x-d6))+θlh/2・・・・(式11)
又、x<d6の場合、
垂直方向については、以下の式12を満たすことが望ましい。
Atan(h/(d6-x))+90°-θlv/2<φv・・・・(式12)
又、水平方向については、以下の式13を満たすことが望ましい。
Atan((w6-z)/(x-d6))-θlh/2+90°<φh<-Atan(z/(x-d6))+θlh/2-90°・・・・(式13)
又、x=d6の場合、
垂直方向については、以下の式14を満たすことが望ましい。
+90°<φv+θlv/2・・・・(式14)
又、水平方向の車体側については、以下の式15を満たすことが望ましい。
-90°>φh-θlh/2・・・・(式15)
又、水平方向の外側については、以下の式16を満たすことが望ましい。
+90°<φh+θlh/2・・・・(式16)
なお、ここで、θlvは低解像度領域10bの垂直画角、θlhは低解像度領域10bの水平画角とする。
なお、以上の実施形態1~5の説明では左側方のカメラユニット14について説明したが右側方のカメラユニット12についても同様の条件が成り立つ。
以上のような実施形態2~5の規定領域の具体例として、例えばd1=4m、w1=1m、d2=20m、W2=4m、d3=1.5m、w3=4.5m、d4=10m、w4=15mをドライバーが電子サイドミラーで確認できることが望ましい。更に又、d5=25m、w5=15m、d6=1m、w6=2mの規定領域をドライバーが電子サイドミラーで確認できることが望ましい。
例えば、カメラユニットの設置位置をx=1.1m、z=0.3m、h=2.3mとすると、カメラユニットの光軸の垂直方向の角度φvと水平方向の角度φhはそれぞれ、0.67度<φv<17.9度、-3.37度<φh<17度などになる。
なお、以上の説明では、カメラユニット11~14の撮像素子の受光面の略中央と高解像度領域10aの重心(光学系の光軸)はほぼ重なっており、高解像度領域10aの重心は光学系の光軸が受光面と交わる位置と一致しているものとした。しかし、前述のように、受光面の略中央と高解像度領域10aの重心(光学系の光軸)はずれていても良いし、高解像度領域10aの重心と、光学系の光軸が受光面と交わる位置とは一致していなくても良い。
即ち、例えばカメラユニット14の高解像度領域(低歪曲領域)10aの重心を撮像素子の受光面140の中心から上側(第1の方向)にずれるように配置して、けられが生じるようにしても良い。
そして、上記のけられの方向(第1の方向)を例えば車両1の方向を向くように配置すれば、車体の外側の撮像可能な画角は広がることになり、撮像画角を最適化でき撮像素子の画素を最大限有効に用いることができる。
なお、けられが生じている部分は、θlvやθlhの範囲から除外される。即ち、θlvやθlhの端のけられが生じている部分が含まれないように、実施形態1~5において、上記の式1~16は計算される。
以上のように、実施形態1~5では、高解像度領域(低歪曲領域)10aは、通常の撮像用の光学系の中心射影方式(即ち、y=f×tanθの場合)又は等距離射影方式(即ち、y=f×θの場合)に近似した射影特性となるように構成されている。従って、例えば第1表示部50などの電子サイドミラーに表示される高解像度領域(低歪曲領域)10aの画像は、解像度が低解像度領域(高歪曲領域)10bと比較して高く、車両1の側方の遠方を、より精細に表示することができる。しかも画角の異なる複数のカメラユニットを用いて側方を撮像する場合に比べてコスト、処理効率、小型化等において優れている。
なお、各規定領域を表示できれば表示の仕方は限定しない。例えば、距離d6、d3の幅w6で規定される規定領域と、距離d3~d5の幅w3~w5で規定される領域と、距離d1、d2の幅w1、w2で規定される領域をカメラユニットの撮像画像から夫々個別の画像として切り出して異なる表示部に表示しても良い。このようにすることで各規定領域の目的に合った表示を行うことができる。
又、距離d6、d3の幅w6で規定される領域と、距離d3~d5の幅w3~w5で規定される領域と、距離d1、d2の幅w1、w2で規定される領域を撮像範囲に含んでいるため、カメラユニットの撮像画像をそのまま1つの表示部に表示しても良い。このようにすることで、規定領域をドライバーが確認できるようにしつつ画像切り出しの処理を簡易化することができる。
又、本実施形態の高解像度領域10aは光学歪曲が小さいため、第1表示部50に表示される電子ルームミラーや電子サイドミラー用の画像も歪みが小さい状態で表示することができ、車両の周囲を運転者がより自然な遠近感で視認できる。
又、高解像度領域10aは、光学歪みが小さいので、歪曲補正をしないRAW画像信号の状態で画像認識ができ、画像認識のための処理負荷を低減し高速で画像認識をすることができる。
従って画像認識結果に基づき障害物を早期に発見でき、障害物を回避するための動作をタイムリーに行える。このように、以上の実施形態の条件式を満たすように構成した場合には、特に高速道路などでの高速走行時において大きな効果を得ることができる。
なお、以上の実施形態では複数のカメラユニットを用いる例を説明したが、カメラユニットが1つだけのシステムにおいても有効である。
[実施形態6]
実施形態6においては、トラックの遠方用電子サイドミラー(UNR46、クラス2)と側方衝突警報装置(WP29)を両立させるように構成している。
即ち、実施形態6では、大型貨物車両で電子サイドミラー用の表示のための撮像領域と車両側方の移動物体を検知し、衝突の可能性がある場合にドライバーに警報する側方衝突警報のための検知領域を1つのカメラで撮像できるようにしている。
一般的に車両が大型になるほど車両側方の死角が増えるので、このような構成による効果は大きい。なお、ここでは、大型貨物車両は、例えば車両総重量8.0トン以上の車両とする。
先ず、本実施形態における画像処理システムを図8を参照しながら説明する。図8は実施形態6における画像処理システムの構成を説明するための機能ブロック図である。
本実施例における画像処理システム100は、実施形態1の画像処理システムの構成に対して更に警告表示部52と音声通知部53を含むよう構成している。以下、実施形態1と動作や構成が異なる機能ブロックについて説明する。又、実施形態1と動作や構成が同様な機能ブロックについての説明は省略する。
本実施例における画像処理システム100は、右左折時の巻き込みや衝突を防止するために車両側方の移動物体を検知する。ここでの移動物体とは、例えば自転車、歩行者、その他の車両などであり、本実施形態においては、検知対象と呼ぶ。
統合制御部41cは、認識部31b~34b、認識部41bが出力した認識結果に基づいて検知対象が含まれているか判断し、認識結果を出力する。統合制御部41cが出力する認識結果は、検知対象の有無、検知対象の種類や座標、速度情報を含む。
警告表示部52と音声通知部53は警告手段として機能しており、統合制御部41cから出力された認識結果に基づいて、視覚情報によりドライバーに側方衝突警報を行う。
警告表示部52は、例えばLED等で構成し、検知対象が存在するという情報が認識結果に含まれる場合に、点灯や点滅を行う構成としても良い。
又、警告表示部52を液晶などのディスプレイで構成しても良い。その場合、検知対象が存在するという情報が認識結果に含まれる場合に、ディスプレイ上にアイコンや文字情報などで出力しても良い。又、警告表示部52は例えば車両1の運転席の前方の車幅方向端付近に、表示画面をドライバー方向に向けて設置するように構成しても良い。又、警告表示部52は例えば第1表示部50、第2表示部51の付近に設置、或いは第1表示部50、第2表示部51と代用又は兼用する構成としても良い。
音声通知部53は音声通知手段として機能しており、統合制御部41cから出力された認識結果に基づいて例えばスピーカーを用いて音を出力する。音声通知部53は例えば車両1の運転席の前方の車幅方向端付近などに設置しても良い。
又、統合制御部41cは警告条件判断手段としても機能しており、認識部31b~34b、認識部41bで得られた検知対象の座標や速度に基づいて警告表示部52又は音声通知部53が出力する警報の内容を変更するよう制御する。
又、統合制御部41cは、警告表示部52で警告表示する内容を検知対象と車両側方の距離に応じて色相を変更して表示するようにしても良い。例えば、統合制御部41cは、検知対象との距離が小さい場合は赤色、検知対象との距離が中程度の場合は黄色、検体対象との距離が所定値より大きい場合は青色、又は緑色で表示するよう制御しても良い。
又、統合制御部41cは、検知対象との距離が近いほど警報表示の輝度を高くするよう警告表示部52を制御する構成としても良い。
又、統合制御部41cは、例えば検知対象と車両側方の距離が近い程、通知の音量が大きくなるように音声通知部53を制御しても良い。
なお、統合制御部41cは、走行制御部(ECU)60から入力された自車両の走行速度が所定の速度以下であるか判断し、所定の速度以下である場合にのみ警告表示部52で警告表示、又は、音声通知部53で警告通知を行う構成としても良い。即ち、自車両の走行速度が所定の速度より速い場合、正しく検知対象を認識できない可能性があるため、このような構成とすることで、正しく側方検知を行える。尚、上記の所定の速度は例えば30km/h程度とすることが望ましい。
又、検知対象が移動している場合は、車両と衝突する可能性が高いため、統合制御部41cは検知対象の速度が所定の範囲内であるか判断しても良い。そして、検知対象の速度が所定の範囲内(所定の速度以上)であると判断した場合にのみ警告表示部52で警告表示、又は、音声通知部53で警告通知を行う構成としても良い。この場合、所定検知対象の速度の所定範囲として、例えば5km/h以上20km/以下などとすることが望ましい。
又、統合制御部41cは走行制御部(ECU)60から出力された自車両の移動方向情報から自車両が右左折しているかを判断し、車両が右左折している場合にのみ52警告表示部で警告表示、又は、53音声通知部で警告通知を行うようにしても良い。
次に、本実施形態におけるカメラユニットの設置条件について図5、図9、図10を参照しながら説明する。
前述のように、図5はドライバが、電子サイドミラーの表示により車両周辺の安全を確認すべき規定領域を表している。
図9は実施形態6に係る自車両を上方から見下ろしたときの側方検知に必要な検知領域を説明するための図である。本実施形態においては、規定領域をカメラユニットの高解像度領域10aで撮像、更に検知領域を低解像度領域で10bで撮像できるようにカメラユニットを設置する。図5で示したドライバの視点位置Eからの距離d1、d2とそれぞれの距離に対応する幅w1、w2で規定されている領域を本実施形態における規定領域とよぶ。
又、図10は実施形態6にかかる自車両を側面から見たときの側方検知に必要な検知領域を示した図である。図9、図10で示すように、車両全長d7と車の側面からの距離w7で規定されている領域を本実施形態における検知領域と呼ぶ。この検知領域は、自車両が右左折する時に前記検知領域内に物体があった場合巻き込みや衝突が起こる可能性が高い領域である。そのため、目視確認が難しい運転席と反対側の車両側方に存在する検知対象を検知するために検知領域をカメラユニットの撮像範囲に含める。
なお、図9で示すようにサイドミラー表示のために設置されているカメラユニット14の位置はドライバの視点位置Eからx1だけ前方に配置され、車両の側面からzだけオフセットしているものとする。又、ドライバの視点位置Eから車両前端までの距離をx2とする。
カメラユニット14の高さ方向のオフセットh1については、式17のように、所定の高さh2より高くすることが望ましい。尚、h2は検知対象の高さに対応している。
即ち、
h1>=h2・・・(式17)
の条件を満たすことが望ましい。このような設置条件とすることで、所定の高さh2以下の検知対象の高さ方向を撮像範囲に含めることができる。例えば、自転車を検知対象に含める場合、h2を約1.7メートルとすることが望ましい。又、歩行者を検知対象に含める場合は、h2を約2メートルとすることが望ましい。
即ち、高解像度領域で撮像した映像を電子サイドミラーに表示するために、規定領域をカメラユニットの高解像度領域10aで撮像する。更に車両側方にある検知対象との衝突や巻き込みを防ぐために車両前端側方を含めた検知領域全てを同時に撮像できるようにカメラユニットを設置する。そのために、カメラユニット14の位置と角度が、上記式1~4の条件に加えて下記式18~24の条件を満たすように設置する。それによって車両側方の検知対象の検知と電子サイドミラーへの高解像度映像の表示の両立が可能となる。
ドライバの視点位置Eから車両前端までの距離x2よりカメラユニットのオフセットx1が大きい場合、検知領域内にいる検知対象を映すためには車両前端の位置で幅w7全てを地面を撮像範囲に含める必要がある。
従って、x2<x1の場合、垂直方向については、以下の式18を満たすように設置することで車両前端と地面との接点を撮像することができる。
Atan(h1/(x1-x2))-θlv/2<φv・・・(式18)
又、水平方向については、以下の式19を満たすことで図9の点P6、P7にある検知対象を撮像することができる。
Atan((w7-z)/(x1-x2))-θlh/2<φh<-Atan(z/(x1-x2))+θlh/2・・・(式19)
一方、移動体の前端までの距離x2よりカメラユニットのオフセットx1が小さい場合、検知領域内にいる検知対象を映すためには移動体の前端までの距離x2の位置で所定の高さh2の検知対象を撮像範囲に含める必要がある。
従って、x2>x1の場合、
垂直方向については、以下の式20を満たすことで図9の点P7にある検知対象を撮像することができる。
-Atan((h1-h2)/(x2-x1))-θlv/2+180°<φv・・・(式20)
一方、水平方向については、以下の式21を満たすことで図9の点P6にある検知対象を撮像することができる。
-Atan((w7-z)/(x2-x1))-θlh/2+180°<φh・・・(式21)
又、移動体の前端までの距離x2とカメラユニットのオフセットx1が同じ場合は検知対象をとらえるためにカメラユニットの真下、外側を映すことが望ましい。
従って、x2=x1の場合、
垂直方向については、以下の式22を満たすことが望ましい。
+90°<φv+θlv/2・・・・(式22)
又、水平方向の車体側については、以下の式23を満たすことが望ましい。
-90>φh-θlh/2・・・・(式23)
又、水平方向の外側については、以下の式24を満たすことが望ましい。
+90<φh+θlh/2・・・・(式24)
上記の式22~式24の条件を満たすことで図9の点P6、点P7にある検知対象を撮像範囲に含めることができる。
以上の実施形態6の説明では運転席が右側の場合の車両左側方のカメラユニット14の設置条件を例にとって説明したが、運転席が左側の場合の車両右側方のカメラユニット12についても同様の条件を満たすことで成り立つ。
以上のような実施形態6の規定領域の具体例として例えばd1=4m、w1=1m、d2=30m、w2=5mの規定領域をドライバーが電子サイドミラーで確認できることが望ましい。更に、検知領域の具体例として例えばw7=3m、車両の全長d7=12mの検知領域内の検知対象を撮像できることが望ましい。又、例えば高解像度領域10aの垂直画角θvと水平画角θhがそれぞれ47.2度のカメラユニットを用い、x1=1.1m、x2=0.9m、z=0.3m、h1=2.3mの位置にカメラユニットを設置し、検知対象の高さをh2=1.7mとする。
その場合には、カメラユニットの光軸の垂直方向の角度φvと水平方向の角度φhはそれぞれ、
0.67°<φv<27.83°、
-4.24°<φh<27.00°
を満たすように設置する。それによって、側方衝突検知システムに必要な画角を撮像しつつ、高解像度で低歪曲の画像を電子サイドミラーに表示するための画像の撮像を同時に行うことができる。
又、上記具体例で検知領域の幅を広げて、例えばw7=4.25mとすると、より広範囲で検知対象を検知できるためより望ましい。その場合には、カメラユニットの光軸の垂直方向の角度φvと水平方向の角度φhはそれぞれ、
0.67°<φv<27.83°、
-2.90°<φh<27.00°
を満たすように設置する。それによって、より広範囲な側方衝突検知システムに必要な画角を撮像しつつ、高解像度で低歪曲の画像を電子サイドミラーに表示するための画像の撮像を同時に行うことができる。
以上のように、本実施形態の高解像度領域10aは光学歪曲が小さいため、第1表示部50に表示される電子ルームミラーや電子サイドミラー用の画像も歪みが小さい状態で表示することができ、車両の周囲を運転者がより自然な遠近感で視認できる。
又、車両側方の検知領域を撮像することで車両側方の移動物体を検知し、警告を行うことでドライバーは巻き込みや衝突する可能性を低減することができる。従って、本実施形態によれば、側方衝突検知システムに必要な画角を撮像しつつ、高解像度で低歪曲の画像を電子サイドミラーに表示するための画像の撮像を同時に行うことができる。
[実施形態7]
実施形態7においては、トラックの遠方確認用電子サイドミラー(UNR46、クラス2)と側方衝突警報装置(WP29)を有し、図9のP8地点を高解像度領域に含め、1つの異画角カメラで撮像できるシステムとしている。
実施形態7では、実施形態6の検知領域のうち、図9の点P8にある検知対象をカメラユニットの高解像度領域の撮像範囲に含めるようにカメラユニットを設置する。以下、実施形態6と動作や構成が異なる機能ブロックについて説明する。又、実施形態6と動作や構成が同様な機能ブロックについての説明は省略する。
実施形態7では、実施形態6の検知領域のうち、図9の点P8にある検知対象をカメラユニットの高解像度領域の撮像範囲に含めるようにカメラユニットを設置しているので、検知対象の認識処理の前処理としての歪曲補正量を小さくすることができる。よって、計算リソースや処理に要する時間を小さくできるというメリットがある。
本実施形態において、実施形態6の検知領域を低解像度領域で撮像しつつ、実施形態6の規定領域と検知領域のうち、図9の点P8をカメラユニットの高解像度領域10aで撮像できるように設置する。その場合の設置条件として、上記式1~4、式17~24の条件に加えて以下の式25の条件を満たすようにする。
即ち、水平方向について、図9の点P8をカメラユニットの高解像度領域で10aで撮像するために、以下の式25の条件満たすようにする。
Atan((w7-z)/(x1-x2+d7))-θh/2<φh・・・(式25)
以上のような実施形態7の規定領域の具体例として例えばd1=4m、w1=1m、d2=30m、w2=5mの規定領域をドライバーが電子サイドミラーで確認できることが望ましい。更に、検知領域の具体例として例えばw7=3m、車両の全長d7=7mの検知領域内の検知対象を撮像できることが望ましい。又、例えば高解像度領域10aの垂直画角θvと水平画角θhが夫々47.2度のカメラユニットを用い、x1=1.1m、x2=0.9m、z=0.3m、h1=2.3mの位置にカメラユニットを設置し、検知対象の高さをh2=1.7mとする。
その場合、カメラユニットの光軸の垂直方向の角度φvと水平方向の角度φhはそれぞれ、
0.67°<φv<27.83°、
-3.04°<φh<27.00°
を満たすように設置する。それにより、より広範囲な側方衝突検知システムに必要な画角を撮像しつつ、高解像度で低歪曲の画像を電子サイドミラーに表示するための画像の撮像を同時に行うことができる。
更に、本実施形態固有の利点として、検知対象の認識処理の前処理としての歪曲補正量を小さくすることができるため、計算リソースや処理に要する時間を小さくできるというメリットがある。
[実施形態8]
実施形態8においては、トラックの遠方確認用電子サイドミラー(UNR46、クラス2)とトラックの広角確認用電子サイドミラー(UNR46、クラス4高解像度領域)と側方衝突警報装置(WP29)を1つの異画角カメラを用いて実現する。
即ち、実施形態8では、実施形態6の検知領域に加えて実施形態2で規定された領域で撮像できるように構成する。一般に、大型貨物車では、乗用車や小型貨物車に比較して側方方向により広い範囲の安全をドライバーが確認する必要があり、又、車両が右左折時の巻き込みや衝突の可能性を低減するために車両側方に存在する検知対象を検知してドライバに警告する必要がある。
以下、実施形態6と動作や構成が異なる機能ブロックについて説明する。なお、実施形態6と動作や構成が同様な機能ブロックについての説明は省略する。又、本実施形態の規定領域については実施形態2と同様であるため説明を省略する。本実施形態においては、図5に示す規定領域を全てをカメラユニットの高解像度領域で10aで撮像しつつ、図9で示す検知領域すべてをカメラユニットで撮像できるように設置する。そのために、設置条件として、上記式1~9、式17~24の条件を満たすようにする。
実施形態8においては例えばd1=4m、w1=1m、d2=30m、w2=5m、d3=1.5、w3=4.5、d4=10、w4=15、d5=25、w5=15の規定領域をドライバーが電子サイドミラーで確認できることが望ましい。更に、検知領域の具体例として例えばw7=3m、車両の全長d7=12mの検知領域内の検知対象を撮像できることが望ましい。そして、例えば高解像度領域10aの垂直画角θvと水平画角θhが夫々47.2度のカメラユニットを用い、x1=1.1m、x2=0.9m、z=0.3m、h1=2.3mの位置にカメラユニットを設置し、検知対象をの高さをh2=1.7mとする。
その場合、
カメラユニットの光軸の垂直方向の角度φvと水平方向の角度φhを、それぞれ、
0.67°<φv<17.90°、
-4.24°<φh<17.02°
を満たすように設置する。
それによって、より広範囲な側方衝突検知システムに必要な画角を撮像しつつ、高解像度で低歪曲の画像を電子サイドミラーに表示するための画像の撮像を同時に行うことができる。本実施形態のようにカメラユニットを設置することにより、側方方向の、より広い範囲の領域と、巻き込みや衝突を防止するために検知領域の両方を撮像することができる。
[実施形態9]
実施形態9においては、トラックの遠方確認用電子サイドミラー(UNR46、クラス2)とトラックの広角確認用電子サイドミラー(UNR46、クラス4)を有する。又、図5の点P5、P5´を高解像度領域で捉え、側方衝突警報装置(WP29)を1つの異画角カメラを用いて実現する。
即ち、実施形態9では、実施形態6の検知領域に加えて実施形態3で規定された領域を撮像できるように構成する。そして本実施形態では実施形態8の規定領域の中で図5の点P5、P5´を高解像度領域で撮像範囲に含めるようにカメラユニットを設置する。これにより、点P5、P5´にある物体を高解像度で確認でき、更に巻き込みや衝突を防止するために検知領域の撮像を両立できる。
又、実施形態8と比較して光軸の条件を緩和できる設置方向の自由度が高くできるため、例えば、高解像度領域の画角が狭いカメラユニットでも規定領域と検知領域の撮像をより容易に両立することできる。
なお、実施形態9の画像処理システム100の各機能ブロックは、実施形態6と同様であるため説明は省略する。又、本実施形態の規定領域については実施形態3と同様であるため省略する。本実施形態での設置条件として、上記の式2~式4の条件の他に式5、式6、式9、式17~24を満たすように構成する。
本実施形態のようにカメラユニットを設置することにより、側方衝突検知システムに必要な画角を撮像しつつ、高解像度で低歪曲の画像を電子サイドミラーに表示するための画像の撮像を同時に行うことができる。更に、点P5、P5´にある物体の高解像度での撮像と巻き込みや衝突を防止するために検知領域の撮像の両方が可能とできる。
[実施形態10]
実施形態10においては、トラックの遠方確認用電子サイドミラー(UNR46、クラス2)とトラックの広角確認用電子サイドミラー(UNR46、クラス4)を有する。又、図5の点P4、P4´、P5、P5´を高解像度領域で捉え、側方衝突警報装置(WP29)を1つの異画角カメラで撮像できるように構成している。
実施形態10では、実施形態6の検知領域に加えて、実施形態4で規定された領域で撮像できるように構成する。本実施形態では実施形態8の規定領域の中で図5の点P4、P4´、P5、P5´を高解像度領域の撮像範囲に含めるようにカメラユニットを設置する。これにより、点P4、P4´、P5、P5´にある物体を高解像度で確認でき、更に巻き込みや衝突を防止するために検知領域を撮像できる。又、実施形態8と比較して設置条件を緩和できるため、高解像度領域が狭い画角のカメラユニットでも規定領域と検知領域の撮像を両立できる。
以下、本実施形態の画像処理システム100の各機能ブロックは、実施形態6と同様であるため説明は省略する。又、本実施形態の規定領域については実施形態4と同様であるため省略する。本実施形態の設置条件として、上記の式2~式4の条件の他に式5、式6、式8、式9、式17~24の条件を満たすように構成する。
本実施形態のようにカメラユニットを設置することにより、側方衝突検知システムに必要な画角を撮像しつつ、高解像度で低歪曲の画像を電子サイドミラーに表示するための画像の撮像を同時に行うことができる。更に、点P4、P4´、P5、P5´にある物体の高解像度での撮像と巻き込みや衝突を防止するために検知領域の撮像の両方が可能となる。
[実施形態11]
実施形態11においては、トラックの遠方確認用電子サイドミラー(UNR46、クラス2)とトラックの側近傍確認用電子サイドミラー(UNR46、クラス5)と側方衝突警報装置(WP29)を1つの異画角カメラを用いて実現している。
即ち、本実施形態では、実施形態6の検知領域に加えて実施形態5で規定された領域で撮像できるように構成する。なお、運転席とは反対側の地面をドライバーが画像で確認するための規定領域と、車両が右左折時の巻き込みや衝突の可能性を低減するために車両側方を検知する検知領域の両方を撮像範囲に含めることが望ましい。本実施形態の構成は実施形態6の構成と同様であるため省略する。又、本実施形態の規定領域については実施形態5と同様であるため省略する。
本実施形態において、図5に示す規定領域の全てをカメラユニットの高解像度領域10aで撮像しつつ、図6~図7に示す距離d6、d3の位置で幅w6で規定される領域と図9で示す検知領域のすべてをカメラユニットで撮像できるように設置する。
その場合の設置条件として、上記の式1~式4の条件の他に式10~式24の条件を満たすように構成する。
実施形態11においては、例えばd1=4m、w1=1m、d2=30m、w2=5m、d3=1.5、w3=4.5、d4=10、w4=15、d5=25、w5=15の規定領域をドライバーが電子サイドミラーで確認できることが望ましい。更に、検知領域の具体例として例えばw7=3m、車両の全長d7=12mの検知領域内の検知対象を撮像できることが望ましい。例えば高解像度領域10aの垂直画角θvと水平画角θhがそれぞれ47.2度のカメラユニットを用い、x1=1.1m、x2=0.9m、z=0.3m、h1=2.3m位置にカメラユニットを設置し、検知対象をの高さをh2=1.7mとする。その場合、
カメラユニットの光軸の垂直方向の角度φvと水平方向の角度φhはそれぞれ、
0.67°<φv<17.90°、
-3.37°<φh<17.02°
を満たすように設置する。それによって、より広範囲な側方衝突検知システムに必要な画角を撮像しつつ、高解像度で低歪曲の画像を電子サイドミラーに表示するための画像の撮像を同時に行うことができる。
又、その際、実施形態7~10のうちのいずれかの実施形態の条件も満たすようにしても良い。そのようにすることで、1つのカメラユニットで各規定領域を撮像範囲に含めることができる。
本実施形態のようにカメラユニットを設置することにより、側方衝突検知システムに必要な画角を撮像しつつ、高解像度で低歪曲の画像を電子サイドミラーに表示するための画像の撮像を同時に行うことができる。更に、運転席とは反対側の地面をドライバーが画像で確認するための規定領域と、車両が右左折時の巻き込みや衝突の可能性を低減するために車両側方を検知する検知領域の両方を撮像範囲に含めることができる。
[実施形態12]
上述した実施形態1~11において説明された様々な機能、処理及び方法の少なくとも1つは、プログラムを用いて実現することができる。以下、実施形態12では、上述した実施形態1~11において説明された様々な機能、処理及び方法の少なくとも1つを実現するためのプログラムを「プログラムX」と呼ぶ。更に、プログラムXを実行するためのコンピュータを「コンピュータY」と呼ぶ。パーソナルコンピュータ、マイクロコンピュータ、CPU(CentralProcessingUnit)などは、コンピュータYの1例である。上述した実施形態における画像処理システムなどのコンピュータも、コンピュータYの1例である。
上述した実施形態1~11において説明された様々な機能、処理及び方法の少なくとも1つは、コンピュータYがプログラムXを実行することによって実現することができる。この場合において、プログラムXは、コンピュータ読み取り可能な記憶媒体を介してコンピュータYに供給される。実施形態12におけるコンピュータ読み取り可能な記憶媒体は、ハードディスク装置、磁気記憶装置、光記憶装置、光磁気記憶装置、メモリカード、ROM、RAMなどの少なくとも1つを含む。更に、実施形態12におけるコンピュータ読み取り可能な記憶媒体は、non-transitory(非一時的)な記憶媒体である。
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明は上記実施形態に限定されるものではなく、本発明の主旨に基づき種々の変形が可能であり、それらを本発明の範囲から除外するものではない。
尚、以上の実施形態1~12を適宜組み合わせても良く、例えば以下のような構成を少なくとも含む。
(構成1)
高解像度領域と低解像度領域を有する光学像を撮像手段の受光面に形成する光学系を有すると共に移動体の側方に設置されるカメラユニットを有し、
前記高解像度領域の垂直画角をθv、水平画角をθh、前記光学系の光軸の垂直方向角度をφv、水平方向角度をφh、前記移動体の長軸方向のドライバの視点位置と前記カメラユニットのオフセットをx1、前記移動体の短軸方向の前記カメラユニットの前記移動体の側面からのオフセットをz、前記カメラユニットの地面からの高さ方向のオフセットをh1、前記長軸方向における、前記ドライバの前記視点位置からの距離をd1、d2、距離d1、d2における地面上の所定の幅をw1、w2とするとき、
Atan(h1/(d1+x1))-θv/2<φv<Atan(h1/(d2+x1))+θv/2・・・(式2)
Φh_limit
=max(Atan((w1-z)/(d1+x1))-θh/2,Atan((w2-z)/(d2+x1))-θh/2)・・・(式3)
Φh_limit<φh<-Atan(z/(d1+x1))+θh/2・・(式4)
を満たし、更に、
前記低解像度領域の垂直画角をθlv、水平画角をθlh、
地面から所定の高さh2、
前記ドライバの前記視点位置から前記移動体の前端までの距離x2、
前記移動体の全長をd7、
地面上の所定の幅をw7とするとき、
x2<x1の場合、
Atan(h1/(x1-x2))-θlv/2<φv・・・(式18)
Atan((w7-z)/(x1-x2))-θlh/2<φh<-Atan(z/(x1-x2))+θlh/2・・・(式19)
x2>x1の場合、
-Atan((h1-h2)/(x2-x1))-θlv/2+180°<φv・・・(式20)
-Atan((w7-z)/(x2-x1))-θlh/2+180°<φh・・・(式21)
x2=x1の場合、
+90°<φv+θlv/2・・・・(式22)
-90>φh-θlh/2・・・・(式23)
+90<φh+θlh/2・・・・(式24)
を満たすように前記カメラユニットを設置したことを特徴とする移動体。
(構成2)
前記h2は、検知対象の高さに対応しており、
h1>=h2を満たすように前記カメラユニットを設置することを特徴とする構成1に記載の移動体。
(構成3)
前記ドライバの前記視点位置は、前記ドライバの着座位置での目の位置又は前記ドライバの座席面の中央位置であることを特徴とする構成1又は2に記載の移動体。
(構成4)
前記高解像度領域と前記低解像度領域は低歪曲領域と高歪曲領域にそれぞれ対応していることを特徴とする構成1~3のいずれか1項に記載の移動体。
(構成5)
前記光学系の焦点距離をf、半画角をθ、像面での像高をy、像高yと半画角θとの関係を表す射影特性をy(θ)とするとき、
前記低歪曲領域におけるy(θ)はf×θより大きく、前記高歪曲領域における前記射影特性とは異なることを特徴とする構成4に記載の移動体。
(構成6)
前記低歪曲領域は、中心射影方式(y=f×tanθ)又は等距離射影方式(y=f×θ)に近似した射影特性となるように構成されていることを特徴とする構成5に記載の移動体。
(構成7)
θmaxを前記光学系が有する最大の半画角とするとき、前記光学系は、
1<f×sin(θmax)/y(θmax)≦1.9・・・(式1)
を満足するように構成されていることを特徴とする構成5又は6に記載の移動体。
(構成8)
前記w1は1m、w2は4m、前記距離d1は4m、d2は20mであることを特徴とする構成1から7のいずれか1項に記載の移動体。
(構成9)
前記w7は3mであることを特徴とする構成1~8のいずれか1項に記載の移動体。
(構成10)
前記w7は4.25mであることを特徴とする構成1~8のいずれか1項に記載の移動体。
(構成11)
更に、d3~d5を前記長軸方向についての前記ドライバの前記視点位置からの距離、w3~w5を距離d3~d5における地面上の所定の幅とするときに、
前記カメラユニットを
Atan(h/(d3+x))-θv/2>φv・・・・(式5)
-Atan(z/(d3+x))+θh/2>φh・・・・(式6)
Atan((w3-z)/(d3+x))-θh/2<φh・・・・(式7)
Atan((w4-z)/(d4+x))-θh/2<φh・・・・(式8)
Atan((w5-z)/(d5+x))-θh/2<φh・・・・(式9)
の条件を満たすように配置したことを特徴とする構成1~10のいずれか1項に記載の移動体。
(構成12)
更に、d3、d5を前記長軸方向についての、前記ドライバの前記視点位置からの距離、w5を距離d5における地面上の所定の幅とするときに、
前記カメラユニットを
Atan(h/(d3+x))-θv/2>φv・・・・(式5)
-Atan(z/(d3+x))+θh/2>φh・・・・(式6)
Atan((w5-z)/(d5+x))-θh/2<φh・・・・(式9)
の条件を満たすように配置したことを特徴とする構成1~10のいずれか1項に記載の移動体。
(構成13)
更に、d3~d5を前記長軸方向についての、前記ドライバの前記視点位置から後方の距離、w4、w5をそれぞれ距離d4、d5における地面上の所定の幅とするときに、
前記カメラユニットを
Atan(h/(d3+x))-θv/2>φv・・・・(式5)
-Atan(z/(d3+x))+θh/2>φh・・・・(式6)
Atan((w4-z)/(d4+x))-θh/2<φh・・・・(式8)
Atan((w5-z)/(d5+x))-θh/2<φh・・・・(式9)
の条件を満たすように配置したことを特徴とする構成1~10のいずれか1項に記載の移動体。
(構成14)
更に、d6を前記長軸方向についての、前記ドライバの前記視点位置からの距離、w6を距離d6における地面上の所定の幅とするときに、
前記カメラユニットを
x>d6の場合、
Atan(h/(x-d6))-θlv/2<φv・・・・(式10)
Atan((w6-z)/(x-d6))-θlh/2<φh<-Atan(z/(x-d6))+θlh/2・・・・(式18)
x<d6の場合、
Atan(h/(d6-x))+90°-θlv/2<φv・・・・(式19)
Atan((w6-z)/(x-d6))-θlh/2+90°<φh<-Atan(z/(x-d6))+θlh/2-90°・・・・(式20)
x=d6の場合、
+90°<φv+θlv/2・・・・(式9)
-90>φh-θlh/2・・・・(式10)
+90<φh+θlh/2・・・・(式11)
の条件を満たすように配置したことを特徴とする構成1~10のいずれか1項に記載の移動体。
(構成15)
前記光学系の特性情報に基づき前記撮像手段から得られた画像信号に対して歪曲補正をする画像処理手段を有することを特徴とする構成1~14のいずれか1項に記載の移動体。
(構成16)
前記画像処理手段は、前記撮像手段から得られた前記画像信号に対して画像認識をする画像認識手段を含むことを特徴とする構成15に記載の移動体。
(構成17)
前記画像認識手段は自転車を検知することを特徴とする構成16に記載の移動体。
(構成18)
前記画像認識手段による画像認識の結果に基づいて警告を行う警告手段を有することを特徴とする構成16に記載の移動体。
(構成19)
前記警告手段は音声による警告をする音声通知手段を含むことを特徴とする構成18に記載の移動体。
(構成20)
前記警告手段は、前記移動体の速度が所定の速度以下のときに、前記画像認識手段による画像認識の結果に基づいて前記警告を行うことを特徴とする構成18又は19に記載の移動体。
(構成21)
前記警告手段は、前記画像認識手段による画像認識により検知された検知対象の速度が所定の速度以下のときに前記警告を行うことを特徴とする構成18~20のいずれか1項に記載の移動体。
(構成22)
少なくとも前記高解像度領域に対応する画像を表示する表示手段を有することを特徴とする構成1~21のいずれか1項に記載の移動体。
1:車両
10a:高解像度領域
10b:低解像度領域
11~14:カメラユニット
21~24:撮像部
31~34:カメラ処理部
31b~34b:認識部
40:統合処理部
41b:認識部
50:第1表示部
51:第2表示部
52:警告表示部
53:音声通知部
60:走行制御部ECU
100:画像処理システム100

Claims (24)

  1. 高解像度領域と低解像度領域を有する光学像を撮像手段の受光面に形成する光学系を有すると共に移動体の側方に設置されるカメラユニットを有し、
    前記高解像度領域の垂直画角をθv、水平画角をθh、前記光学系の光軸の垂直方向角度をφv、水平方向角度をφh、前記移動体の長軸方向のドライバの視点位置と前記カメラユニットのオフセットをx1、前記移動体の短軸方向の前記カメラユニットの前記移動体の側面からのオフセットをz、前記カメラユニットの地面からの高さ方向のオフセットをh1、前記長軸方向における、前記ドライバの前記視点位置からの距離をd1、d2、距離d1、d2における地面上の所定の幅をw1、w2とするとき、
    Atan(h1/(d1+x1))-θv/2<φv<Atan(h1/(d2+x1))+θv/2・・・(式2)
    Φh_limit
    =max(Atan((w1-z)/(d1+x1))-θh/2,Atan((w2-z)/(d2+x1))-θh/2)・・・(式3)
    Φh_limit<φh<-Atan(z/(d1+x1))+θh/2・・(式4)
    を満たし、更に、
    前記低解像度領域の垂直画角をθlv、水平画角をθlh、
    地面から所定の高さh2、
    前記ドライバの前記視点位置から前記移動体の前端までの距離x2、
    前記移動体の全長をd7、
    地面上の所定の幅をw7とするとき、
    x2<x1の場合、
    Atan(h1/(x1-x2))-θlv/2<φv・・・(式18)
    Atan((w7-z)/(x1-x2))-θlh/2<φh<-Atan(z/(x1-x2))+θlh/2・・・(式19)
    x2>x1の場合、
    -Atan((h1-h2)/(x2-x1))-θlv/2+180°<φv・・・(式20)
    -Atan((w7-z)/(x2-x1))-θlh/2+180°<φh・・・(式21)
    x2=x1の場合、
    +90°<φv+θlv/2・・・・(式22)
    -90>φh-θlh/2・・・・(式23)
    +90<φh+θlh/2・・・・(式24)
    を満たすように前記カメラユニットを設置したことを特徴とする移動体。
  2. 前記h2は、検知対象の高さに対応しており、
    h1>=h2を満たすように前記カメラユニットを設置することを特徴とする請求項1に記載の移動体。
  3. 前記ドライバの前記視点位置は、前記ドライバの着座位置での目の位置又は前記ドライバの座席面の中央位置であることを特徴とする請求項1に記載の移動体。
  4. 前記高解像度領域と前記低解像度領域は低歪曲領域と高歪曲領域にそれぞれ対応していることを特徴とする請求項1に記載の移動体。
  5. 前記光学系の焦点距離をf、半画角をθ、像面での像高をy、像高yと半画角θとの関係を表す射影特性をy(θ)とするとき、
    前記低歪曲領域におけるy(θ)はf×θより大きく、前記高歪曲領域における前記射影特性とは異なることを特徴とする請求項4に記載の移動体。
  6. 前記低歪曲領域は、中心射影方式(y=f×tanθ)又は等距離射影方式(y=f×θ)に近似した射影特性となるように構成されていることを特徴とする請求項5に記載の移動体。
  7. θmaxを前記光学系が有する最大の半画角とするとき、前記光学系は、
    1<f×sin(θmax)/y(θmax)≦1.9・・・(式1)
    を満足するように構成されていることを特徴とする請求項5に記載の移動体。
  8. 前記w1は1m、w2は4m、前記距離d1は4m、d2は20mであることを特徴とする請求項7に記載の移動体。
  9. 前記w7は3mであることを特徴とする請求項8に記載の移動体。
  10. 前記w7は4.25mであることを特徴とする請求項8に記載の移動体。
  11. 更に、d3~d5を前記長軸方向についての前記ドライバの前記視点位置からの距離、w3~w5を距離d3~d5における地面上の所定の幅とするときに、
    前記カメラユニットを
    Atan(h/(d3+x))-θv/2>φv・・・・(式5)
    -Atan(z/(d3+x))+θh/2>φh・・・・(式6)
    Atan((w3-z)/(d3+x))-θh/2<φh・・・・(式7)
    Atan((w4-z)/(d4+x))-θh/2<φh・・・・(式8)
    Atan((w5-z)/(d5+x))-θh/2<φh・・・・(式9)
    の条件を満たすように配置したことを特徴とする請求項1に記載の移動体。
  12. 更に、d3、d5を前記長軸方向についての、前記ドライバの前記視点位置からの距離、w5を距離d5における地面上の所定の幅とするときに、
    前記カメラユニットを
    Atan(h/(d3+x))-θv/2>φv・・・・(式5)
    -Atan(z/(d3+x))+θh/2>φh・・・・(式6)
    Atan((w5-z)/(d5+x))-θh/2<φh・・・・(式9)
    の条件を満たすように配置したことを特徴とする請求項1に記載の移動体。
  13. 更に、d3~d5を前記長軸方向についての、前記ドライバの前記視点位置から後方の距離、w4、w5をそれぞれ距離d4、d5における地面上の所定の幅とするときに、
    前記カメラユニットを
    Atan(h/(d3+x))-θv/2>φv・・・・(式5)
    -Atan(z/(d3+x))+θh/2>φh・・・・(式6)
    Atan((w4-z)/(d4+x))-θh/2<φh・・・・(式8)
    Atan((w5-z)/(d5+x))-θh/2<φh・・・・(式9)
    の条件を満たすように配置したことを特徴とする請求項1に記載の移動体。
  14. 更に、d6を前記長軸方向についての、前記ドライバの前記視点位置からの距離、w6を距離d6における地面上の所定の幅とするときに、
    前記カメラユニットを
    x>d6の場合、
    Atan(h/(x-d6))-θlv/2<φv・・・・(式10)
    Atan((w6-z)/(x-d6))-θlh/2<φh<-Atan(z/(x-d6))+θlh/2・・・・(式18)
    x<d6の場合、
    Atan(h/(d6-x))+90°-θlv/2<φv・・・・(式19)
    Atan((w6-z)/(x-d6))-θlh/2+90°<φh<-Atan(z/(x-d6))+θlh/2-90°・・・・(式20)
    x=d6の場合、
    +90°<φv+θlv/2・・・・(式9)
    -90>φh-θlh/2・・・・(式10)
    +90<φh+θlh/2・・・・(式11)
    の条件を満たすように配置したことを特徴とする請求項1に記載の移動体。
  15. 前記光学系の特性情報に基づき前記撮像手段から得られた画像信号に対して歪曲補正をする画像処理手段を有することを特徴とする請求項1に記載の移動体。
  16. 前記画像処理手段は、前記撮像手段から得られた前記画像信号に対して画像認識をする画像認識手段を含むことを特徴とする請求項15に記載の移動体。
  17. 前記画像認識手段は自転車を検知することを特徴とする請求項16に記載の移動体。
  18. 前記画像認識手段による画像認識の結果に基づいて警告を行う警告手段を有することを特徴とする請求項16に記載の移動体。
  19. 前記警告手段は音声による警告をする音声通知手段を含むことを特徴とする請求項18に記載の移動体。
  20. 前記警告手段は、前記移動体の速度が所定の速度以下のときに、前記画像認識手段による画像認識の結果に基づいて前記警告を行うことを特徴とする請求項18に記載の移動体。
  21. 前記警告手段は、前記画像認識手段による画像認識により検知された検知対象の速度が所定の速度以下のときに前記警告を行うことを特徴とする請求項18に記載の移動体。
  22. 少なくとも前記高解像度領域に対応する画像を表示する表示手段を有することを特徴とする請求項1に記載の移動体。
  23. 高解像度領域と低解像度領域を有する光学像を撮像手段の受光面に形成する光学系を有すると共に移動体の側方に設置されるカメラユニットを有し、
    前記高解像度領域の垂直画角をθv、水平画角をθh、前記光学系の光軸の垂直方向角度をφv、水平方向角度をφh、前記移動体の長軸方向のドライバの視点位置と前記カメラユニットのオフセットをx1、前記移動体の短軸方向の前記カメラユニットの前記移動体の側面からのオフセットをz、前記カメラユニットの地面からの高さ方向のオフセットをh1、前記長軸方向における、前記ドライバの前記視点位置からの距離をd1、d2、距離d1、d2における地面上の所定の幅をw1、w2とするとき、
    Atan(h1/(d1+x1))-θv/2<φv<Atan(h1/(d2+x1))+θv/2・・・(式2)
    Φh_limit
    =max(Atan((w1-z)/(d1+x1))-θh/2,Atan((w2-z)/(d2+x1))-θh/2)・・・(式3)
    Φh_limit<φh<-Atan(z/(d1+x1))+θh/2・・(式4)
    を満たし、更に、
    前記低解像度領域の垂直画角をθlv、水平画角をθlh、
    地面から所定の高さh2、
    前記ドライバの前記視点位置から前記移動体の前端までの距離x2、
    前記移動体の全長をd7、
    地面上の所定の幅をw7とするとき、
    x2<x1の場合、
    Atan(h1/(x1-x2))-θlv/2<φv・・・(式5)
    Atan((w7-z)/(x1-x2))-θlh/2<φh<-Atan(z/(x1-x2))+θlh/2・・・(式6)
    x2>x1の場合、
    -Atan((h1-h2)/(x2-x1))-θlv/2+180°<φv・・・(式7)
    -Atan((w7-z)/(x2-x1))-θlh/2+180°<φh・・・(式8)
    x2=x1の場合、
    +90°<φv+θlv/2・・・・(式9)
    -90>φh-θlh/2・・・・(式10)
    +90<φh+θlh/2・・・・(式11)
    を満たすように前記カメラユニットを設置し、
    前記撮像手段から得られた画像を画像処理する画像処理ステップと、
    前記画像処理ステップにより画像処理された画像を表示する表示ステップとを有することを特徴とする移動体の制御方法。
  24. 請求項23に記載の制御方法の各ステップをコンピュータに実行させるためのコンピュータプログラム。

JP2022091097A 2022-06-03 2022-06-03 移動体、移動体の制御方法、及びコンピュータプログラム Pending JP2023178051A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2022091097A JP2023178051A (ja) 2022-06-03 2022-06-03 移動体、移動体の制御方法、及びコンピュータプログラム
US18/317,947 US20230394845A1 (en) 2022-06-03 2023-05-16 Movable apparatus, control method for movable apparatus, and storage medium
EP23174483.0A EP4286223A1 (en) 2022-06-03 2023-05-22 Movable apparatus, control method for movable apparatus, and storage medium
CN202310629956.7A CN117162916A (zh) 2022-06-03 2023-05-31 可移动设备、可移动设备的控制方法和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022091097A JP2023178051A (ja) 2022-06-03 2022-06-03 移動体、移動体の制御方法、及びコンピュータプログラム

Publications (1)

Publication Number Publication Date
JP2023178051A true JP2023178051A (ja) 2023-12-14

Family

ID=86497755

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022091097A Pending JP2023178051A (ja) 2022-06-03 2022-06-03 移動体、移動体の制御方法、及びコンピュータプログラム

Country Status (4)

Country Link
US (1) US20230394845A1 (ja)
EP (1) EP4286223A1 (ja)
JP (1) JP2023178051A (ja)
CN (1) CN117162916A (ja)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3083245B2 (ja) 1995-06-22 2000-09-04 喜弘 井上 積重容器の除塵装置
JP2004345554A (ja) 2003-05-23 2004-12-09 Clarion Co Ltd 車両後方モニタ装置及び車両後方モニタシステム
JP2010095202A (ja) 2008-10-19 2010-04-30 Alpine Electronics Inc ルームミラー位置後視カメラ画像表示装置
JP2023046930A (ja) * 2021-09-24 2023-04-05 キヤノン株式会社 カメラユニットの設置方法、移動体、画像処理システム、画像処理方法、およびコンピュータプログラム
JP2023046965A (ja) * 2021-09-24 2023-04-05 キヤノン株式会社 画像処理システム、移動装置、画像処理方法、およびコンピュータプログラム
JP7467402B2 (ja) * 2021-09-24 2024-04-15 キヤノン株式会社 画像処理システム、移動装置、画像処理方法、およびコンピュータプログラム
JP2023047495A (ja) * 2021-09-27 2023-04-06 キヤノン株式会社 移動体、画像処理方法、およびコンピュータプログラム

Also Published As

Publication number Publication date
EP4286223A1 (en) 2023-12-06
CN117162916A (zh) 2023-12-05
US20230394845A1 (en) 2023-12-07

Similar Documents

Publication Publication Date Title
JP3627914B2 (ja) 車両の周囲監視システム
US8130270B2 (en) Vehicle-mounted image capturing apparatus
US20090022423A1 (en) Method for combining several images to a full image in the bird's eye view
US8477191B2 (en) On-vehicle image pickup apparatus
JP2005167638A (ja) 移動体周囲監視装置、移動体および画像変換方法
JP2024063155A (ja) 移動体、画像処理方法、およびコンピュータプログラム
US20230096414A1 (en) Camera unit installing method, moving device, image processing system, image processing method, and storage medium
US20230098424A1 (en) Image processing system, mobile object, image processing method, and storage medium
US20230113406A1 (en) Image processing system, mobile object, image processing method, and storage medium
JP2023178051A (ja) 移動体、移動体の制御方法、及びコンピュータプログラム
US20240114253A1 (en) Movable apparatus and installation method for imaging device
US20240114252A1 (en) Movable apparatus and installation method for imaging device
US20230094232A1 (en) Image processing system, image processing method, storage medium, image pickup apparatus, and optical unit
US20240177492A1 (en) Image processing system, image processing method, and storage medium
JP7434476B2 (ja) 画像処理システム、画像処理方法、撮像装置、光学系、およびコンピュータプログラム
JP7476151B2 (ja) 画像処理システム、画像処理方法、およびコンピュータプログラム
JP4611898B2 (ja) 画像表示システム
US20230007190A1 (en) Imaging apparatus and imaging system
CN118118800A (zh) 图像处理系统、图像处理方法和存储介质
WO2023145690A1 (ja) 画像処理システム、移動体、撮像システム、画像処理方法、及び記憶媒体