JP7122394B2 - 撮像部制御装置 - Google Patents

撮像部制御装置 Download PDF

Info

Publication number
JP7122394B2
JP7122394B2 JP2020559891A JP2020559891A JP7122394B2 JP 7122394 B2 JP7122394 B2 JP 7122394B2 JP 2020559891 A JP2020559891 A JP 2020559891A JP 2020559891 A JP2020559891 A JP 2020559891A JP 7122394 B2 JP7122394 B2 JP 7122394B2
Authority
JP
Japan
Prior art keywords
imaging unit
moving
image
control device
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020559891A
Other languages
English (en)
Other versions
JPWO2020121758A1 (ja
Inventor
一貴 湯浅
竜彦 門司
進一 野中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Astemo Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Astemo Ltd filed Critical Hitachi Astemo Ltd
Publication of JPWO2020121758A1 publication Critical patent/JPWO2020121758A1/ja
Application granted granted Critical
Publication of JP7122394B2 publication Critical patent/JP7122394B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Description

本開示は、撮像部制御装置に関する。
従来から撮像素子を用いた撮影装置に係る発明が知られている(下記特許文献1を参照)。特許文献1に記載された移動体撮像装置は、複数の撮像部と、システム制御部と、表示・記録部とを備え、移動体に搭載される。上記撮像部は、撮像素子と、その撮像素子の出力信号から映像信号を生成する信号処理部と、これら撮像素子と信号処理部とを制御する撮像制御部を少なくとも有する。
上記システム制御部は、上記複数の撮像部を制御する。上記表示・記録部は、上記複数の撮像部から出力される映像信号を表示もしくは記録する。この従来の移動体撮像装置は、上記システム制御部が、上記移動体の位置情報や上記移動体が移動している範囲を含む地図情報に基づいて、上記複数の撮像部を互いに時差を持たせて制御を行なうことを特徴とする(同文献、請求項1等を参照)。
この従来の発明によると、移動体の現状の周囲状況に対して、次に生じると予測される周囲状況の変化が複数の撮像部に対して時系列的に及ぼす影響に対応して、それぞれの撮像部を適正に制御することができるので、移動体の操縦者による映像の視認性が向上する(同文献、第0020段落等を参照)。
特開2007-081695号公報
前記従来のような撮像装置では、撮像部によって撮影された移動体の前方の画像の一部に極端に暗い領域や極端に明るい領域が存在し、その領域に基づいて撮像部の露出補正がされるおそれがある。この場合、移動体が方向転換して露出補正に用いられた画像領域とは異なる方向へ移動すると、撮像部によって撮影された画像に、露出オーバーによる白とびや露出アンダーによる黒つぶれなどの不具合が発生するおそれがある。
本開示は、撮像部の露出を従来よりも適切に調節可能な撮像部制御装置を提供する。
本開示の一態様は、移動体に搭載される撮像部を制御する撮像部制御装置であって、前記移動体の移動方向を算出する移動方向演算部と、前記移動方向に応じて前記撮像部によって撮影された画像に露出補正の基準となる画像領域を設定する画像領域設定部と、前記画像領域の画像情報に基づいて前記撮像部の露出補正を行う露出補正部と、を備える、撮像部制御装置である。
本開示の上記一態様によれば、移動体の移動方向に応じて露出補正の基準となる画像領域を設定することで、撮像部の露出を従来よりも適切に調節可能な撮像部制御装置を提供することができる。
本開示の実施形態に係る撮像部制御装置のブロック図。 図1の撮像部制御装置による撮像部の制御方法の一例を示すフロー図。 図1の画像領域設定部によって設定された画像領域の一例を示す図。 図1の露出補正部による露出補正を説明するグラフ。 図1の露出補正部による露出補正を説明するグラフ。 図1の露出補正部による露出補正を説明するグラフ。 図1の画像領域設定部によって設定された画像領域の変形例を示す図。 図1の撮像部制御装置による撮像部の制御方法の変形例を示すフロー図。 図1の画像領域設定部によって設定された画像領域の変形例を示す図。 比較形態の撮像装置で露出補正の基準となる画像領域の一例を示す図。 比較形態の撮像装置で発生した白とびの一例を示す図。
以下、図面を参照して本開示に係る撮像部制御装置の実施形態を説明する。
図1は、本開示の実施形態に係る撮像部制御装置100のブロック図である。詳細については後述するが、本実施形態の撮像部制御装置100は次の構成を主な特徴としている。
撮像部制御装置100は、移動体10に搭載される撮像部11を制御する装置である。撮像部制御装置100は、移動体10の移動方向を算出する移動方向演算部110と、移動体10の移動方向に応じて撮像部11によって撮影された画像に露出補正の基準となる画像領域を設定する画像領域設定部120と、その画像領域の画像情報に基づいて撮像部11の露出補正を行う露出補正部130と、を備える。
以下、撮像部制御装置100が搭載される移動体10の各部の構成と、撮像部制御装置100の各部の構成について、それぞれ詳細に説明する。
移動体10は、たとえば自動車などの車両であり、撮像部11と、ヨーレートセンサ12と、舵角センサ13と、車輪速センサ14と、方向指示器15と、を備えている。また、図示は省略するが、移動体10は、たとえば、動力発生装置、伝動装置、電子制御装置(ECU)、走行装置、計器類、ヘッドライト、ホーン、などを備えている。動力発生装置は、たとえば、エンジンと電動機の少なくとも一方を含む。走行装置は、たとえば、フレーム、サスペンション、ステアリングシステム、ブレーキシステム、ホイール、タイヤなどを含む。
撮像部11は、たとえば、右カメラおよび左カメラを備えたステレオカメラ装置または単眼カメラを備えた単眼カメラ装置である。撮像部11は、たとえば、鏡筒、レンズ、アイリス、シャッター、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device Image Sensor)などの撮像素子、画像データを処理する画像処理装置などを備えている。なお、撮像部11が右カメラおよび左カメラまたは単眼カメラである場合、撮像部制御装置100は、撮像部11を備えたステレオカメラ装置または単眼カメラ装置であってもよい。
ステレオカメラ装置は、たとえば光軸が平行で間に距離(基線長)を有する右カメラと左カメラを備え、これら右カメラと左カメラによって対象物を同時に撮影する。右カメラで撮影された画像に写った対象物の座標と、左カメラで撮影された画像に写った同じ対象物の座標との間には、視差と呼ばれる差が生じる。ステレオカメラ装置は、右カメラと左カメラの画像にテンプレートマッチングを適用して視差を求め、求めた視差から三角測量法を用いて3次元空間における対象物の位置を求めることができる。撮像部11は、撮影した画像や視差情報を、撮像部制御装置100へ出力する。
ヨーレートセンサ12は、たとえば自動車用ジャイロセンサであり、移動体10のヨーレートを計測して撮像部制御装置100へ出力する。舵角センサ13は、たとえば、自動車である移動体10のステアリングシャフトに取り付けられ、移動体10の前輪の操舵角を計測して撮像部制御装置100へ出力する。
車輪速センサ14は、たとえば、自動車である移動体10のハブやナックルに取り付けられ、移動体10の各車輪の回転速度に応じた信号を撮像部制御装置100へ出力する。方向指示器15は、たとえば、移動体10を運転する乗員によって、移動体10の予定移動方向に応じて操作され、右または左の予定移動方向を撮像部制御装置100へ出力する。
撮像部制御装置100の各部は、たとえば、中央演算装置(CPU)、集積回路(LSI)、記憶装置、プログラム等を含むマイクロコンピュータによって構成されている。前述のように、撮像部11がステレオカメラ装置または単眼カメラ装置である場合、撮像部制御装置100は、移動体10に搭載されたECUの一部であってもよい。
移動方向演算部110は、移動体10の移動方向を算出する。ここで、移動方向とは、たとえば、直進方向、右方向、および左方向の三方向である。移動方向演算部110は、たとえば、位置情報取得部140から入力された移動体10の位置情報と、移動経路演算部150から入力された移動体10の移動経路とに基づいて、移動体10の移動方向を予測する演算を行うように構成されている。また、移動方向演算部110は、挙動情報取得部160によって取得された移動体10の挙動情報に基づいて、移動体10の実際の移動方向を演算するように構成されている。
画像領域設定部120は、移動方向演算部110によって算出された移動体10の移動方向に応じて、撮像部11によって撮影された画像IMの一部に、露出補正の基準となる画像領域IRを設定する(図3を参照)。より具体的には、画像領域設定部120は、たとえば、直進方向Sと右方向Rと左方向Lのいずれかの移動方向に応じて、画像IMの消失点を含む中央領域CRと、中央領域CRの右側の右領域RRと、中央領域CRの左側の左領域LRのいずれかに、画像領域IRを設定する。なお、画像領域設定部120は、後述するように、外界情報認識部170によって認識された外界情報に基づいて、画像領域IRを設定してもよい。
露出補正部130は、画像領域設定部120によって設定された画像領域IRの画像情報に基づいて、撮像部11の露出補正を行う。より具体的には、露出補正部130は、画像領域IRの画像情報として、たとえば、各画素の赤、緑、青(RGB)の色情報や輝度を求める。また、露出補正部130は、たとえば、撮像部11のアイリス、ゲイン、およびシャッタースピードを制御して、撮像部11の露光補正を行う。また、露出補正部130は、たとえば、撮像部11によって撮影された画像を電子的に補正することによって、撮像部11の露出補正を行ってもよい。
位置情報取得部140は、移動体10の位置情報を取得する。より具体的には、位置情報取得部140は、たとえば、全地球測位システム(GPS)または全地球航法衛星システム(GNSS)を用いて移動体10の位置情報を取得する。また、位置情報取得部140は、たとえば、挙動情報取得部160によって取得された移動体10のヨーレート、操舵角、各車輪の回転速度などに基づいて移動体10の移動方向と移動量を算出することで、移動体10の位置情報を取得するようにしてもよい。
移動経路演算部150は、位置情報取得部140によって取得された移動体10の位置情報から移動体10の移動経路を算出する。より具体的には、移動経路演算部150は、たとえば、道路地図情報にアクセス可能に設けられ、道路地図情報と、移動体10の位置情報と、移動体10の乗員によって入力された目的地の位置情報と、に基づいて、移動体10の現在位置から目的地までの移動経路を算出する。
挙動情報取得部160は、たとえば、移動体10に搭載されたヨーレートセンサ12から、移動体10の挙動情報として、移動体10のヨーレートを取得し、取得したヨーレートを移動方向演算部110へ出力する。また、挙動情報取得部160は、たとえば、舵角センサ13から、移動体10の挙動情報として、移動体10の操舵角を取得し、取得した操舵角を移動方向演算部110へ出力する。
また、挙動情報取得部160は、たとえば、車輪速センサ14から、移動体10の挙動情報として、各車輪の回転速度を取得し、取得した各車輪の回転速度を移動方向演算部110へ出力する。また、挙動情報取得部160は、たとえば、方向指示器15から、移動体10の挙動情報として、移動体10の予定移動方向を取得し、取得した移動体10の予定移動方向を移動方向演算部110へ出力する。
外界情報認識部170は、撮像部11によって撮影された画像から移動体10の周囲の障害物情報および道路情報を含む外界情報を認識する。より具体的には、外界情報認識部170は、撮像部11によって撮影された画像データを用いて物体検出処理を行って、障害物情報および道路情報を含む外界情報を認識する。障害物情報は、たとえば、車両、歩行者、建造物、ガードレール、中央分離帯、縁石、および電柱などの位置、大きさ、形状などを含む。道路情報は、たとえば、道路形状、白線、道路標示、および道路標識などを含む。
以下、本開示に係る撮像部制御装置と異なる比較形態の撮像装置の問題点を説明し、その比較形態の撮像装置と対比しつつ、本実施形態の撮像部制御装置100の作用を説明する。比較形態の撮像装置は、たとえば、移動体10の移動方向に応じて画像領域IRを設定する画像領域設定部120を有しない点で、本実施形態の撮像部制御装置100と異なっている。以下では、比較形態の撮像装置と、本実施形態の撮像部制御装置100の間で共通する構成については、同一の符号を付して説明を省略する。
図8Aは、比較形態の撮像装置における撮像部11の露出補正の基準となる画像領域IRの一例を示す図である。図8Bは、比較形態の撮像装置において、撮像部11の画像IMに発生した白とびWOの一例を示す図である。比較形態の撮像装置は、移動体10の移動方向に応じて画像領域IRを設定する画像領域設定部120を有しない。そのため、比較形態の撮像装置において、撮像部11の露出補正の基準となる画像領域IRは、移動体10の直進方向S、右方向R、および左方向Lなどの移動方向に関わらず、たとえば画像IMの消失点を含む中央部に固定される。
ここで、図8Aに示すように、移動体10の直進方向Sにおいて、撮像部11の画像IMに、たとえば太陽光が届きにくい建物Bの奥まった部分など、極端に暗い領域DRが存在している場合がある。また、その極端に暗い領域DRが、撮像部11の露出補正の基準となる画像領域IRに含まれる場合がある。すると、比較形態の撮像装置では、極端に暗い領域DRを含む画像領域IRを基準として撮像部11の露出補正が行われるため、撮像部11の露出が増加する。
これにより、図8Bに示すように、建物Bの奥まった部分をより認識しやすくなる。しかし、比較形態の撮像装置の画像IMにおいて、たとえば、撮像部11の露出補正の基準となる図8Aに示す画像領域IRの左右の領域では、図8Bに示すように、露出オーバーによる白とびWOなどの不具合が発生するおそれがある。
図8Aに示す例とは逆に、移動体10の直進方向Sにおいて、画像IMの中央部の画像領域IRに、極端に明るい領域が含まれる場合がある。すると、比較形態の撮像装置では、極端に明るい領域を含む画像領域IRを基準として撮像部11の露出補正が行われるため、撮像部11の露出が減少する。
これにより、図8Bに示す例と同様に、画像IMの中央部の極端に明るい領域は認識しやすくなる。しかし、比較形態の撮像装置の画像IMにおいて、たとえば、撮像部11の露出補正の基準となる図8Aに示す画像領域IRの左右の領域では、図8Bに示す例とは逆に、露出アンダーによる黒つぶれなどの不具合が発生するおそれがある。
たとえば、先進運転支援システム(ADAS)や自動運転では、撮像部11の画像IMから障害物や道路の情報を認識する技術が用いられている。しかし、撮像部11の画像IMに白とびや黒つぶれなどの不具合が発生すると、移動体10の前方の交差点において、移動体10が右方向Rまたは左方向Lに移動する右折時または左折時に、交差点内の車両や歩行者などの障害物の認識に支障を来すおそれがある。したがって、撮像部11の画像IMに発生する上記のような不具合を抑制することが求められている。
図2は、本実施形態の撮像部制御装置100による撮像部11の制御方法の一例を示すフロー図である。図3は、本実施形態の撮像部制御装置100の画像領域設定部120によって撮像部11の画像IMに設定された画像領域IRの一例を示す図である。
まず、ステップS11において、撮像部制御装置100は、移動体10の移動経路を算出する。より具体的には、撮像部制御装置100は、位置情報取得部140によって移動体10の位置情報を取得し、移動経路演算部150によってその位置情報から移動体10の移動経路を算出する。
次に、ステップS12において、撮像部制御装置100は、移動体10の移動方向を演算する。より具体的には、撮像部制御装置100は、ステップS11で得られた移動体10の位置情報および移動経路に基づいて、移動体10の移動方向を算出する。これにより、撮像部制御装置100は、たとえば図3に示すように、移動体10の前方の交差点における移動体10の移動方向が、直進方向S、右方向R、および左方向Lのうち、左方向Lであることを予測する。
次に、ステップS13において、撮像部制御装置100は、移動体10の挙動情報を取得する。より具体的には、撮像部制御装置100は、挙動情報取得部160によって、移動体10に搭載されたヨーレートセンサ12から移動体10のヨーレートを挙動情報として取得する。また、撮像部制御装置100は、挙動情報取得部160によって、移動体10に搭載された舵角センサ13から移動体10の操舵角を挙動情報として取得する。また、撮像部制御装置100は、挙動情報取得部160によって、移動体10に搭載された車輪速センサ14から移動体10の複数の車輪の回転速度を挙動情報として取得する。さらに、撮像部制御装置100は、挙動情報取得部160によって、移動体10に搭載された方向指示器15から移動体10の予定移動方向を挙動情報として取得する。
次に、ステップS14において、撮像部制御装置100は、ステップS12で算出した移動体10の移動方向である左方向Lと、ステップS13で取得した移動体10の挙動情報とが一致しているか否かを判定する。より具体的には、撮像部制御装置100は、たとえば、移動方向演算部110によって、移動体10のヨーレート、操舵角、左右の車輪の回転速度の差、予定移動方向のうち、少なくとも一つの挙動情報に基づいて、撮像部11の画像IMに写った交差点での移動体10の実際の移動方向を算出する。そして、移動方向演算部110は、ステップS12で予測した移動体10の移動方向である左方向Lと、移動体10の挙動情報に基づいて算出した移動体10の実際の移動方向とが、一致しているか否かを判定する。
ステップS14において、移動体10の移動方向と挙動情報とが一致している場合(YES)、ステップS15へ進み、移動方向演算部110は、ステップS12で算出した移動体10の移動方向である左方向Lを、画像領域設定部120へ出力する。
次に、ステップS16において、撮像部制御装置100は、移動体10の移動方向に応じて、撮像部11によって撮影された画像IMに露出補正の基準となる画像領域IRを設定する。より具体的には、撮像部制御装置100は、たとえば、画像領域設定部120によって、画像IMの中央領域CR、右領域RR、および左領域LRのうち、移動体10の移動方向である左方向Lに応じた左領域LRに、画像領域IRを設定する。
次に、ステップS17において、撮像部制御装置100は、移動体10の移動方向に応じて設定された画像領域IRの画像情報に基づいて、撮像部11の露出補正を行う。より具体的には、撮像部制御装置100は、移動体10の移動方向である左方向Lに応じて画像IMの左領域LRに設定された画像領域IRの画像情報に基づいて、露出補正部130によって撮像部11の露出補正を行う。なお、撮像部11が二つのカメラを含む場合、これら二つのカメラに同時に露出補正を行う。
図4Aから図4Cは、撮像部制御装置100の露出補正部130による露出補正を説明するグラフである。露出補正部130は、画像領域IRの画像情報に基づいて撮像部11の露出補正を行う。より具体的には、露出補正部130は、たとえば、画像領域IRの画像情報として輝度情報を用い、輝度情報に基づいて作成したヒストグラムに応じて撮像部11の露出補正値を決定する。
たとえば、画像領域IRにおいて、図4Aに示すように輝度の高い画素数が極端に多い場合、露出オーバーであることが予想される。この場合、露出補正部130は、露出を減少させるように負の露出補正値を決定する。また、画像領域IRにおいて、図4Bに示すように低い輝度から高い輝度まで画素数が比較的均等に偏りなく分布している場合には、適度なコントラストがあり、露出が適切であることが予想される。この場合、露出補正部130は、露出を維持するように露出補正値をゼロにする。また、図4Cに示すように輝度の低い画素数が極端に多い場合、露出アンダーであることが予想される。この場合、露出補正部130は、露出を増加させるように正の露出補正値を決定する。
一方、ステップS14において、移動体10の移動方向と挙動情報とが一致していない場合(NO)、ステップS18へ進み、移動方向演算部110は、ステップS13で取得した移動体10の挙動情報に基づく進行方向である直進方向Sまたは右方向Rを、画像領域設定部120へ出力する。これは、たとえば、移動体10を運転する乗員が、移動経路演算部150によって算出された移動体10の移動経路と異なる経路を選択した場合である。
この場合、ステップS16において、撮像部制御装置100は、たとえば、画像領域設定部120によって、画像IMの中央領域CR、右領域RR、および左領域LRのうち、移動体10の移動方向である直進方向Sまたは右方向Rに応じた中央領域CRまたは右領域RRに、画像領域IRを設定する。このように、ステップS14で移動体10の移動方向と挙動情報とを比較することで、移動体10を運転する乗員が、移動経路を変更した場合などに対応することが可能になる。
次に、ステップS17において、撮像部制御装置100は、移動体10の移動方向に応じて画像IMの中央領域CRまたは右領域RRに設定された画像領域IRの画像情報に基づいて、前述のように、露出補正部130による撮像部11の露出補正を行う。
以上のように、本実施形態の撮像部制御装置100は、移動体10に搭載される撮像部11を制御する装置である。撮像部制御装置100は、移動体10の移動方向を算出する移動方向演算部110と、移動体10の移動方向に応じて撮像部11によって撮影された画像に露出補正の基準となる画像領域IRを設定する画像領域設定部120と、画像領域IRの画像情報に基づいて撮像部11の露出補正を行う露出補正部130と、を備えている。
この構成により、たとえば、図3に示すように、移動体10の進行方向である左方向Lに応じて画像IMの左領域LRに設定した画像領域IRを基準として、露出補正を行うことができる。そのため、たとえば図8Aに示すように、移動体10の移動方向である左方向Lとは異なる直進方向Sにおいて、撮像部11の画像IMの中央部に極端に暗い領域DRや極端に明るい領域が存在しても、その領域を含まない左領域LRに設定された画像領域IRを基準として、露出補正を行うことができる。
これにより、前述の比較形態の撮像装置よりも撮像部11の露出補正を適切に行って、撮像部11の画像IMに白とびや黒つぶれなどの不具合が発生するのを抑制することができる。したがって、本実施形態によれば、移動体10の移動方向に応じて露出補正の基準となる画像領域IRを設定することで、撮像部11の露出を従来よりも適切に調節可能な撮像部制御装置100を提供することができる。
また、本実施形態の撮像部制御装置100は、移動体10の位置情報を取得する位置情報取得部140と、移動体10の位置情報から移動体10の移動経路を算出する移動経路演算部150と、移動体10の挙動情報を取得する挙動情報取得部160と、をさらに備えている。この構成により、撮像部制御装置100は、移動体10の位置情報、移動経路、および挙動情報を利用して、撮像部11を制御することが可能になる。
また、本実施形態の撮像部制御装置100において、移動方向演算部110は、移動体10の位置情報および移動経路に基づいて移動方向を算出するように構成されている。この構成により、撮像部制御装置100は、たとえば、移動体10の前方の交差点における移動体10の移動方向を予測することが可能になる。
また、本実施形態の撮像部制御装置100において、挙動情報取得部160は、移動体10に搭載されたヨーレートセンサ12から移動体10のヨーレートを挙動情報として取得するように構成されている。また、移動方向演算部110は、移動体10のヨーレートに基づいて移動体10の移動方向を算出するように構成されている。この構成により、撮像部制御装置100は、移動体10のヨーレートに基づく移動体10の実際の移動方向に応じて、露出補正の基準となる画像領域IRを設定することができる。
また、本実施形態の撮像部制御装置100において、挙動情報取得部160は、移動体10に搭載された舵角センサ13から移動体10の操舵角を挙動情報として取得するように構成されている。また、移動方向演算部110は、移動体10の操舵角に基づいて移動体10の移動方向を算出するように構成されている。この構成により、撮像部制御装置100は、移動体10の操舵角に基づく移動体10の実際の移動方向に応じて、露出補正の基準となる画像領域IRを設定することができる。
また、本実施形態の撮像部制御装置100において、挙動情報取得部160は、移動体10に搭載された車輪速センサ14から移動体10の複数の車輪の回転速度を挙動情報として取得するように構成されている。また、移動方向演算部110は、移動体10の複数の車輪の回転速度の差に基づいて移動体10の移動方向を算出するように構成されている。この構成により、撮像部制御装置100は、移動体10の車輪の回転速度の差に基づく移動体10の実際の移動方向に応じて、露出補正の基準となる画像領域IRを設定することができる。
また、本実施形態の撮像部制御装置100において、挙動情報取得部160は、移動体10に搭載された方向指示器15から移動体10の予定移動方向を挙動情報として取得するように構成されている。また、移動方向演算部110は、移動体10の予定移動方向に基づいて移動体10の移動方向を算出するように構成されている。この構成により、撮像部制御装置100は、移動体10の方向指示器15の操作に基づく移動体10の予測移動方向に応じて、露出補正の基準となる画像領域IRを設定することができる。
以上説明したように、本実施形態によれば、移動体10の移動方向に応じて露出補正の基準となる画像領域IRを設定することで、撮像部11の露出を従来よりも適切に調節可能な撮像部制御装置100を提供することができる。
なお、本開示に係る撮像部制御装置は、前述の実施形態に係る撮像部制御装置100の構成に限定されない。以下、図5から図7を参照して、前述の実施形態に係る撮像部制御装置100のいくつかの変形例について説明する。
図5は、前述の実施形態に係る撮像部制御装置100の画像領域設定部120によって設定された画像領域IRの変形例を示す図である。
撮像部制御装置100は、前述のように撮像部11によって撮影された画像から移動体10の周囲の障害物情報および道路情報を含む外界情報を認識する外界情報認識部170を備えている。また、本変形例において、画像領域設定部120は、外界情報に基づいて画像領域IRを設定するように構成されている。この構成により、撮像部11のカメラの取り付け位置のずれが生じたり、移動体10の車輪の径が変化したりした場合でも、画像IMに適切な画像領域IRを設定することができる。
より詳細には、外界情報認識部170は、撮像部11の画像IMの座標に基づいて、画像IMから認識した車両Vや歩行者等の移動体の重心Gの位置を求め、その重心Gの軌跡を記録する。外界情報認識部170は、所定数以上の軌跡を記録した後、画像IMの横方向に移動する重心Gを、画像IMにプロットする。これにより、外界情報認識部170は、画像IMにおいて、車両や歩行者等の移動体が通過する領域を認識することができる。
さらに、画像領域設定部120は、外界情報認識部170によって認識された車両や歩行者等の移動体が通過する領域に、画像領域IRを設定する。より具体的には、画像領域設定部120は、車両や歩行者等の移動体が通過する領域において、移動体10の移動方向に応じて画像領域IRを設定する。より詳細には、画像領域設定部120は、移動体10の直進時には、画像IMの中央領域CRに画像領域IRを設定し、移動体10の右折時には、画像IMの右領域RRに画像領域IRを設定し、移動体10の左折時には、画像IMの左領域LRに画像領域IRを設定する。
なお、画像領域設定部120は、たとえば、移動体10がまっすぐな道路を直進していることが判定され、かつ、道路に表示された白線の曲率がしきい値以下の場合に、道路の左右両側の白線の消失点を中心とする任意の中央領域CRに画像領域IRを設定してもよい。なお、白線の消失点は、たとえば、外界情報認識部170によって認識することができる。また、移動体10がまっすぐな道路を直進しているか否かの判定は、たとえば、挙動情報取得部160によって取得された挙動情報を用いて行うことができる。たとえば、移動体10の操舵角およびヨーレートの値がともにしきい値以下であれば、移動体10が直進していると判定することができる。
図6は、前述の実施形態に係る撮像部制御装置100による撮像部11の制御方法の変形例を示すフロー図である。図7は、この変形例に係る撮像部制御装置100の画像領域設定部120によって設定された画像領域IRを示す図である。
本変形例において、撮像部制御装置100は、位置情報取得部140、移動経路演算部150、および外界情報認識部170を有しなくてもよい。
まず、ステップS21において、本変形例に係る撮像部制御装置100は、図2に示す前述のステップS13と同様に、挙動情報取得部160によって移動体10の挙動情報を取得する。次に、ステップS22において、本変形例に係る撮像部制御装置100は、移動方向演算部110によって、移動体10の挙動情報に基づいて、移動体10移動方向を算出する。
たとえば、移動体10がまっすぐな道路を直進している場合は、挙動情報取得部160によって取得された操舵角やヨーレートがしきい値以下となる。この場合、移動方向演算部110は、移動体10の移動方向を直進方向Sとして算出する。また、移動体10が左カーブを走行している場合や、交差点を左折している場合は、操舵角やヨーレートがしきい値以上になる。この場合、移動方向演算部110は、移動体10の移動方向を図7に示す左方向Lとして算出する。
次に、ステップS23において、本変形例に係る撮像部制御装置100は、画像領域設定部120によって、移動体10の移動方向に応じて、画像IMに画像領域IRを設定する。たとえば、移動体10の移動方向が直進方向Sである場合、画像領域設定部120は、図7に示す中央領域CRに画像領域IRを設定する。また、移動体10の移動方向が左方向Lである場合、画像領域設定部120は、図7に示す左領域LRに画像領域IRを設定する。画像領域設定部120による画像領域IRの設定は、たとえば、移動体10の挙動情報の時間的な変化に応じて動的に行うようにしてもよい。
次に、ステップS24において、本変形例に係る撮像部制御装置100は、図2に示すステップS17と同様に、移動体10の移動方向に応じて設定された画像領域IRの画像情報に基づいて、撮像部11の露出補正を行う。本変形例によっても、前述の実施形態と同様に、移動体10の移動方向に応じて露出補正の基準となる画像領域IRを設定することで、撮像部11の露出を従来よりも適切に調節可能な撮像部制御装置100を提供することができる。
以上、図面を用いて本開示に係る撮像部制御装置の実施形態およびその変形例を詳述してきた。しかし、本開示に係る撮像部制御装置の具体的な構成は、上記実施形態およびその変形例に限定されるものではなく、本開示の要旨を逸脱しない範囲における設計変更等があっても、それらは本開示に含まれる。
10 移動体
11 撮像部
12 ヨーレートセンサ
13 舵角センサ
14 車輪速センサ
15 方向指示器
100 撮像部制御装置
110 移動方向演算部
120 画像領域設定部
130 露出補正部
140 位置情報取得部
150 移動経路演算部
160 挙動情報取得部
170 外界情報認識部
IM 画像
IR 画像領域

Claims (8)

  1. 移動体に搭載される撮像部を制御する撮像部制御装置であって、
    前記移動体の前方の交差点における前記移動体の移動方向として、直進方向、右方向、および左方向のいずれかを算出する移動方向演算部と、
    前記移動方向に応じて前記撮像部によって撮影された画像に露出補正の基準となる画像領域を設定する画像領域設定部と、
    前記画像領域の画像情報に基づいて前記撮像部の露出補正を行う露出補正部と、を備え、
    前記画像領域設定部は、前記移動方向が前記直進方向である場合に、前記撮像部によって撮影された画像の消失点を含む中央領域に前記画像領域を設定し、前記移動方向が前記右方向である場合に、該中央領域の右側の右領域に前記画像領域を設定し、前記移動方向が前記左方向である場合に、前記中央領域の左側の左領域に前記画像領域を設定し、
    前記露出補正部は、前記画像領域の前記画像情報である輝度情報に基いて作成したヒストグラムに応じて露出オーバーであることが予想される場合に、前記撮像部の露出を減少させるように負の露出補正値を決定し、前記ヒストグラムに応じて露出が適切であることが予想される場合に、前記撮像部の露出を維持するように前記露出補正値をゼロに設定し、前記ヒストグラムに応じて露出アンダーであることが予想される場合に、前記撮像部の露出を増加させるように正の前記露出補正値を決定する、
    像部制御装置。
  2. 前記移動体の位置情報を取得する位置情報取得部と、
    前記位置情報から前記移動体の移動経路を算出する移動経路演算部と、
    前記移動体の挙動情報を取得する挙動情報取得部と、をさらに備える、請求項1に記載の撮像部制御装置。
  3. 前記移動方向演算部は、前記位置情報および前記移動経路に基づいて前記移動方向を算出する、請求項2に記載の撮像部制御装置。
  4. 前記挙動情報取得部は、前記移動体に搭載されたヨーレートセンサから前記移動体のヨーレートを前記挙動情報として取得し、
    前記移動方向演算部は、前記ヨーレートに基づいて前記移動体の移動方向を算出する、請求項2に記載の撮像部制御装置。
  5. 前記挙動情報取得部は、前記移動体に搭載された舵角センサから前記移動体の操舵角を前記挙動情報として取得し、
    前記移動方向演算部は、前記操舵角に基づいて前記移動体の移動方向を算出する、請求項2に記載の撮像部制御装置。
  6. 前記挙動情報取得部は、前記移動体に搭載された車輪速センサから前記移動体の複数の車輪の回転速度を前記挙動情報として取得し、
    前記移動方向演算部は、前記複数の車輪の回転速度の差に基づいて前記移動体の移動方向を算出する、請求項2に記載の撮像部制御装置。
  7. 前記挙動情報取得部は、前記移動体に搭載された方向指示器から前記移動体の予定移動方向を前記挙動情報として取得し、
    前記移動方向演算部は、前記予定移動方向に基づいて前記移動体の移動方向を算出する、請求項2に記載の撮像部制御装置。
  8. 前記撮像部によって撮影された画像から前記移動体の周囲の障害物情報および道路情報を含む外界情報を認識する外界情報認識部をさらに備え、
    前記画像領域設定部は、前記外界情報に基づいて前記画像領域を設定する、請求項1に記載の撮像部制御装置。
JP2020559891A 2018-12-12 2019-11-20 撮像部制御装置 Active JP7122394B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018232134 2018-12-12
JP2018232134 2018-12-12
PCT/JP2019/045356 WO2020121758A1 (ja) 2018-12-12 2019-11-20 撮像部制御装置

Publications (2)

Publication Number Publication Date
JPWO2020121758A1 JPWO2020121758A1 (ja) 2021-10-14
JP7122394B2 true JP7122394B2 (ja) 2022-08-19

Family

ID=71075625

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020559891A Active JP7122394B2 (ja) 2018-12-12 2019-11-20 撮像部制御装置

Country Status (3)

Country Link
JP (1) JP7122394B2 (ja)
CN (1) CN113170057B (ja)
WO (1) WO2020121758A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022053967A (ja) * 2020-09-25 2022-04-06 ソニーセミコンダクタソリューションズ株式会社 撮像制御装置、および撮像制御方法ならびに移動体

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006118076A1 (ja) 2005-04-28 2006-11-09 Aisin Seiki Kabushiki Kaisha 車両周辺監視システム
JP2011065442A (ja) 2009-09-17 2011-03-31 Hitachi Automotive Systems Ltd 自車影認識装置
JP2014143547A (ja) 2013-01-23 2014-08-07 Denso Corp 露出制御装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07302325A (ja) * 1994-04-30 1995-11-14 Suzuki Motor Corp 車載用画像認識装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006118076A1 (ja) 2005-04-28 2006-11-09 Aisin Seiki Kabushiki Kaisha 車両周辺監視システム
JP2011065442A (ja) 2009-09-17 2011-03-31 Hitachi Automotive Systems Ltd 自車影認識装置
JP2014143547A (ja) 2013-01-23 2014-08-07 Denso Corp 露出制御装置

Also Published As

Publication number Publication date
WO2020121758A1 (ja) 2020-06-18
CN113170057A (zh) 2021-07-23
JPWO2020121758A1 (ja) 2021-10-14
CN113170057B (zh) 2023-06-13

Similar Documents

Publication Publication Date Title
EP2950521B1 (en) Camera capable of reducing motion blur in a low luminance environment and vehicle including the same
CN107963077B (zh) 一种车辆通过路口的控制方法、装置及系统
KR101579098B1 (ko) 스테레오 카메라, 이를 구비한 차량 운전 보조 장치, 및 차량
US9308917B2 (en) Driver assistance apparatus capable of performing distance detection and vehicle including the same
US9235767B2 (en) Detection region modification for driving assistance apparatus and driving assistance method
CN106428209B (zh) 转向辅助装置
US20180302551A1 (en) Signal processing apparatus and imaging apparatus
KR101611261B1 (ko) 스테레오 카메라, 이를 구비한 차량 운전 보조 장치, 및 차량
US10704957B2 (en) Imaging device and imaging method
JP2020501423A (ja) 車両の周辺領域を状況に依存した捕捉を実施するためのカメラ手段及び方法
JP2005332107A (ja) 車両用走行区分線認識装置
JP2016149613A (ja) カメラパラメータ調整装置
JP7122394B2 (ja) 撮像部制御装置
JP6174884B2 (ja) 車外環境認識装置および車外環境認識方法
US20240056694A1 (en) Imaging device, image processing method, and image processing program
JP2005332105A (ja) 車両用走行区分線認識装置
JP2009038463A (ja) 露光調整方法、車両用撮像装置および自動車
US11410288B2 (en) Image processing apparatus
KR102302574B1 (ko) 스테레오 카메라 모듈 및 스테레오 카메라의 캘리브레이션 방법
JP7181956B2 (ja) 移動体の制御装置及び制御方法並びに車両
JP2022157399A (ja) 画像処理装置および画像処理方法、車両用制御装置、プログラム
EP3905656A1 (en) Image processing device
KR20160092403A (ko) 차량 운전 보조 장치 및 차량 운전 보조 장치의 제어 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220412

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220610

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220726

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220808

R150 Certificate of patent or registration of utility model

Ref document number: 7122394

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150