JP6003745B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP6003745B2
JP6003745B2 JP2013060195A JP2013060195A JP6003745B2 JP 6003745 B2 JP6003745 B2 JP 6003745B2 JP 2013060195 A JP2013060195 A JP 2013060195A JP 2013060195 A JP2013060195 A JP 2013060195A JP 6003745 B2 JP6003745 B2 JP 6003745B2
Authority
JP
Japan
Prior art keywords
image processing
image
range
imaging
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013060195A
Other languages
English (en)
Other versions
JP2014187495A5 (ja
JP2014187495A (ja
Inventor
貴之 木村
貴之 木村
俊和 村尾
俊和 村尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2013060195A priority Critical patent/JP6003745B2/ja
Priority to US14/778,823 priority patent/US9967438B2/en
Priority to PCT/JP2014/053776 priority patent/WO2014148175A1/ja
Priority to DE112014001571.7T priority patent/DE112014001571B4/de
Publication of JP2014187495A publication Critical patent/JP2014187495A/ja
Publication of JP2014187495A5 publication Critical patent/JP2014187495A5/ja
Application granted granted Critical
Publication of JP6003745B2 publication Critical patent/JP6003745B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/04Synchronising
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/42Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by switching between different modes of operation using different resolutions or aspect ratios, e.g. switching between interlaced and non-interlaced mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/443Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by reading pixels from selected 2D regions of the array, e.g. for windowing or digital zooming
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮像手段に取得させる画像データを用いて画像処理を行う画像処理装置に関する。
従来、撮像手段によって撮像された画像データを用いて、種々の用途(アプリケーション)に応じた画像処理を実行する画像処理装置が知られている。これらの画像処理装置は、アプリケーションに応じて、撮像手段により撮像した画像データの全体(以下、全画面データという)を用いた画像処理や、全画面データから必要となる一部を切り出した画像データ(切り出し画像データ)を用いた画像処理を行う。例えば、切り出し画像データを用いた画像処理を行う画像処理装置として、撮像手段の光軸を調整するものが知られている(特許文献1参照)。
特開2010−251938
ところで、アプリケーションが実行される頻度はその目的や用途により異なる。例えば、より高い頻度で画像処理を必要とするアプリケーションを実行しようとする場合、上記従来装置では、全画面データをより高いフレームレートで取得しなくてはならないため、撮像手段を動作させる動作クロックの周波数を高くする必要が生じるという問題があった。
本発明は、このような問題に鑑みてなされたものであり、高速な動作クロックを用いることなく、種々のアプリケーションに対応する画像処理装置を提供することを目的とする。
上記目的を達成するためになされた請求項1に記載の画像処理装置では、撮像手段が、予め設定されたフレーム毎に、予め設定された撮像範囲の画像データを取得する。また、画像処理手段が、撮像手段が取得した画像データについて画像処理を実行する。ここで特に、第1設定手段は、撮像手段が撮像する撮像範囲のうち予め設定された第1範囲を、予め設定された第1フレームレートで撮像手段に撮像させるように設定を行う。
また、第2設定手段は、撮像手段が撮像する撮像範囲の一部であり第1範囲より狭い第2範囲を、第1フレームレートより高い第2フレームレートで、撮像手段に撮像させるように設定を行う。そして、判断手段が、画像処理が実行する処理内容に応じて、第1設定手段及び第2設定手段のうちいずれを選択するかを判断し、処理内容のうち実行頻度の低い処理内容においては第1設定手段を選択するように判断する。
従って、本発明の画像処理装置は、アプリケーションに必要とされる画像処理を、高速な動作クロックを用いることなく、必要とされる実行頻度で実現することができる。ここで、より高い頻度で画像処理を必要とするアプリケーションを実現する場合、画像処理装置は、第2範囲を、このアプリケーションの実現に少なくとも必要とされる画像範囲として、撮像手段にデータを取得させ、この画像データを用いた画像処理を行う。これによると、必要とされる画像範囲を切り出す処理を行うことが無いため、画像処理装置の処理負
荷を軽減することができる。
ここで、請求項2に記載のように、第1設定手段は、第1範囲を撮像範囲の全域に設定してもよい。また、請求項3に記載のように、第2設定手段は、一組の第2範囲及び第2フレームレートを設定してもよいし、複数組の第2範囲及び第2フレームレートを設定してもよい。
なお、請求項4に記載のように、撮像手段は、判断手段での判断にかかわらず、同じ周波数の動作クロックに従って撮像を行うものであってもよい。つまり、本発明の画像処理装置は、フレームレートの変更を、動作クロックの周波数を変化させること無く行うため、動作クロックの周波数を高くした場合に懸念されるEMC特性の劣化、及び発熱の増加を抑制することができる。
また、請求項5に記載のように、撮像手段が撮像した画像における無限遠点の該画像における中央に対するずれ量を算出するずれ量算出手段を備え、第2設定手段は、該ずれ量に基づいて第2範囲を設定してもよい。
第1実施形態の画像処理装置の構成を表すブロック図である。 (a)は全画面モードの撮像範囲を説明する説明図であり、(b)は切り出し画面モードの撮像範囲を説明する説明図である。 (a)は全画面モードのタイミング信号を説明する説明図であり、(b)は切り出し画面モードのタイミング信号を説明する説明図である。 光軸補正処理で検出する無限遠点(FOE)について説明する説明図であり、(a)はカメラの光軸とFOEとの関係を示す説明図であり、(b)は光軸のずれによるFOEのずれを説明する説明図である。 起動時光軸補正処理の内容を示すフローチャートである。 光軸補正処理の内容を示すフローチャートである。 第2実施形態の通常処理の内容を示すフローチャートである。 画像設定処理の内容を示すフローチャートである。 第3実施形態において、クロック周波数を第1実施形態の切り出し画面モードより高い周波数に設定したときのタミング信号を説明する説明図である。 他の実施形態での切り出し画面を説明する説明図である。
以下に本発明の実施形態を図面と共に説明する。
[第1実施形態]
[1.全体構成]
図1は、第1実施形態の画像処理装置10の構成を示すブロック図である。
画像処理装置10は、車両に搭載された状態で用いられるものであり、その車両に搭載されている車載カメラ(以下、単に「カメラ」という)20、統合判断ECU60、警報部70及び操舵ECU80とともに、前方車両の認識に基づく警報処理及び操舵制御を実現する。なお、画像処理装置10及びカメラ20からなる構成をカメラシステム1という。
カメラ20は、車室内の所定位置、例えばルームミラーの裏側に設置され、車両の進行方向前方の道路を撮像する。なお、カメラ20は、車室内の所定位置に設置されるときに、その撮像範囲が車両の進行方向に対して所定の撮像範囲となるように、その向き等が調整されている
カメラ20は、垂直方向及び水平方向にPD(Photo Diode)を配列した公知のPDアレイからなるCMOSイメージセンサを備えるセンサ部30と、発振器40と、制御部50とを備え、画像処理装置10からのカメラ制御値に基づく制御部50からの指示に従って、露出時間(シャッタースピード)、画像処理装置10へ出力する信号(画素値)のゲ
イン、フレームレート及び撮像範囲等を調整することが可能に構成されている。カメラ20は、撮像した画像の画素毎の輝度(明るさ)を示すデジタル信号を画素値として、該画素値を、画像の垂直・水平同期信号とともに画像処理装置10へ出力する。
このカメラ20では、センサ部30が、垂直・水平同期信号、及びピクセルクロック(以下、これらをタイミング信号という)に従うタイミングで画素値を出力し、発振器40が、これらのタイミング信号を制御部50からの指示に従って生成する。
垂直同期信号は、1フレームの区切り(撮像範囲の総画素数)を設定する信号であり、水平同期信号は、フレーム内の水平方向毎の区切りを設定する信号であり、ピクセルクロックは、センサ部30によって撮像する画像の画素毎の画素値を取得するタイミングを設定する信号(動作クロック)である。カメラ20では、ピクセルクロックは予め定められた周波数に固定されている。また、1フレームの区切りに要する時間は可変であり、その最小時間は撮像時間(露光時間)に比べて十分に大きい値となっている。
制御部50は、画像処理装置10から出力されたカメラ制御値に基づいて、フレームレート及び撮像範囲の調整を指示する。
具体的には、フレームレートを調整するカメラ制御値として、垂直同期信号をハイ(High)レベルとする期間(垂直同期信号ハイ期間Hvという)及びロー(LOW)レベルとする期間(垂直同期信号ロー期間Lvという)と、水平同期信号をハイレベルとする期間(水平同期信号ハイ期間Hh)及びローレベルとする期間(水平同期信号ロー期間Lh)とが設定される。ただし、垂直同期信号ロー期間Lv、及び水平同期信号ロー期間Lhの長さは、それぞれ、一定時間に設定されている。以下では、必要に応じ、各期間Hv、Lv、Hh、Lhの長さを、これらの記号で表すものとする。
また、撮像範囲を調整するパラメータとして、撮像範囲のうち最初に取得される画素の撮像画面上の座標(開始座標Sという)、及び最後に取得される画素の撮像画面上の座標(終了座標Eという)が設定される。
ここで、図2(a)に示すように、x方向にm画素及びy方向にn画素からなる矩形の撮像画面全体(以下、全画面という)の画素値を取得する場合の各タイミング信号について説明する。制御部50は、垂直・水平同期信号がともにハイに設定されている期間、ピクセルクロックに従ってセンサ部30から画素値を出力させるように制御する。
まず、撮像範囲の開始座標S1は全画面の画面左上角に設定され、終了座標E1は画面右下角に設定される。
そして、図3(a)に示すように、垂直同期信号ハイ期間Hv1の長さは全画面(全画素数(m×n画素))の画素値を取得するために必要な時間として設定される。垂直同期信号ロー期間Lv1の長さは、所定時間aに設定される。この期間Hv1及び期間Lv1の長さの合計が、垂直同期信号の周期、つまりフレーム周期T1として決定される。
また、水平同期信号ハイ期間Hh1の長さは、ここでは、x方向についてmピクセル分の画素値を取得するために必要な時間として、ピクセルクロックの周期とx方向の画素数(m)との積として設定される。水平同期信号ロー期間Lh1の長さは、所定時間bに設定されている。この期間Hh1及び期間Lh1の長さの合計が、水平同期信号の周期として決定される。以下では、このように全画面の画素値を取得するモードを全画面モードという。
次に、図2(b)に示すように、全画面のうち一部を切り出した切り出し画面の画素値を取得する場合(切り出しモードという)のタイミング信号について説明する。簡単のた
め、切り出し画面は、x方向にm画素及びy方向にp(p<n)画素の画素数m×p(m×p<m×n)からなる矩形の画面とする。
この場合、開始座標S2及び終了座標E2は、それぞれ切り出し画面の左上角及び右下角に設定される。また、図3(b)に示すように、垂直同期信号ハイ期間Hv2の長さは、pライン分の画素値を取得するために必要な時間に設定される。水平同期信号ハイ期間Hh2の長さは、x方向の画素数が同じであることから、全画面モードの水平同期信号ハイ期間Hh1の長さと同じ値に設定される。切り出し画面モードのフレーム周期T2は、取得するライン数が少ない(取得する画素数が少ない)ことから、全画面モードのフレーム周期T1より短い周期に決定される。
このように、カメラ20は、より広い撮像範囲(画素数大)の画素値を取得するように設定された場合、結果としてフレームレートが低く設定される。一方より狭い撮像範囲(画素数小)の画素値を取得するように設定された場合、結果としてフレームレートはより高く設定される。このようなフレームレートの変更は、動作クロックを変更せずに行われる。
つまり、カメラ20は、撮像範囲が設定されることにより1フレームで伝送する画素数が設定され、画素数が設定されることによりフレームレートが設定される、という構成になっている。
画像処理装置10は、少なくとも、CPU11、メモリ12、カメラ20の撮像画像を入力するための画像インタフェース13、及び統合判断ECU60との通信を行うための通信インタフェース14を備える。
画像インタフェース13は、カメラ20から出力される画素値及び水平・垂直同期信号が入力される。CPU11は、画像インタフェース13に入力された水平・垂直同期信号に基づいて、カメラ20から順次出力される画素値が、いずれの画素位置に対応するものかを認識する。そして、認識した画素位置に対応するように、カメラ20から出力される画素値をメモリ12に記憶する。このようにして、カメラ20から出力される画像信号がメモリ12に保存される。
CPU11は、カメラ20から出力された画像信号を処理することにより、
統合ECUが行う各種制御の用途(アプリケーション)に応じた画像処理を行うとともに、その処理結果を統合ECUに出力する。具体的には、統合ECUが実行するアプリケーションとしての警報処理及び操舵処理の実現のために、CPU11は、画像処理として認識対象物(ここでは前方車両)の位置の認識処理を行う。
またCPU11は、認識対象物が適切に認識されるように、カメラ20の露出制御、撮像範囲及びフレームレートを調整する制御を行う。具体的には、CPU11は、カメラ20の露光時間、ゲイン、フレームレート、及び撮像画像範囲を調整するため、これらの調整指示値を含むカメラ制御値をカメラ20へ出力する。通信インタフェース14は、CPU11と、統合判断ECU60との間の通信を実行するものである。
統合ECUは、CPU11から送信された前方車両の位置に基づいて、自車両が前方車両と接触する危険性があるか否かを判定し、危険があると判定した場合には、警報部70に対して警報を発するように指示する(警報処理)。また、危険性が高い場合には、単に警報を発するだけでなく、操舵ECU80に対して操舵制御(操舵装置のアシスト量を調節したり、操舵装置を自動的に駆動したりして危険を回避する制御)を行うように指示する(操舵処理)。
[2.CPUでの処理]
次に、CPU11が実行する処理(起動時光軸補正処理という)について説明する。CPU11は、カメラ20の光軸のずれを補正する光軸補正処理を実行した後に、統合ECUが実行するアプリケーションとしての警報処理及び操舵処理に応じた画像処理(前方車両認識)を実行する。
はじめに、カメラ20の光軸補正処理の概要について説明する。カメラ20は、車室内の所定位置に設置されるときに、図4(a)に示すように光軸Pが車両の進行方向正面を向き、撮像した画像(G0)における無限遠点(FOE:Focus of Expansion)が、図4(b)に示すように、水平方向の画面幅中央、且つ垂直方向の画面幅中央(つまり画面中央)に位置するように調整されているものとする。
しかし、実際にはカメラ20の取り付け状態が変換することによって、カメラ20の光軸Pの向きには誤差が生じ、撮像画像(例えばG1、G2)から精度の高い位置検出ができない虞がある。この光軸Pの向きのずれを補正する処理が、次に説明する光軸補正処理である。光補正処理を行う場合、光軸のずれ分を考慮し、撮像範囲を全画面とすることが望ましい。
次に、図5示すフローチャートを用いて、CPU11が実行する処理について説明する。本処理は、予め記憶されているプログラムに従い、CPU11が予め定めたタイミング(例えば、イグニションスイッチがオンされるタイミング)毎に、あるいは所定の周期毎に実行される。
CPU11は、起動時光軸補正処理を開始すると、まずS110で光軸補正処理を実行した後、アプリケーションとしての警報処理及び操舵処理を終了するタイミングとなるまで(S140:YES)、露出設定(S120)を行った後に、これらのアプリケーションに応じた画像処理を行う(S130)、という処理を繰り返し実行する。
S110で実行する光軸補正処理では、図6のフローチャートに示すように、まずS210では、予め定められた露出条件でカメラ20から撮像画像を取得する。続いて、S220では、光軸を補正した履歴がメモリ12に記憶されているか否かを確認し、履歴が記憶されている場合はS260に移行し、履歴が記憶されていない場合はS230に移行する。
光軸を補正した履歴が記憶されていない場合に移行するS230では、カメラ20の撮像範囲を全画面とするように、カメラ制御値を設定する。次にS240では、S230で設定された全画面モードで全画面の画像(画素値)を取得し、取得した画像から無限遠点を算出し、算出した無限遠点と本来位置すべき無限遠点である画面中央とのずれ(以下、光軸ずれ量という)を算出する。無限遠点の算出方法は種々の方法が周知であるため、説明を省略する。続くS250では、算出した光軸ずれ量と、光軸補正を行ったという履歴(例えば、履歴を示すフラグ値等)をメモリ12に記憶した後、S260に移行する。
続いてS260では、アプリケーションとしての警報処理及び操舵処理に少なくとも必要とされる画面範囲、すなわち全画面から必要とされる範囲を切り出した切り出し画面を撮像範囲とするように、カメラ制御値を設定し、本処理を終了する。なお、S260では、S250から移行する場合は、S240で算出した光軸ずれ量に基づいて、このずれ分を補正するずれ量補正処理を実行し、カメラ制御値を設定する。ずれ量補正処理によるずれの補正は、駆動機構によりカメラ20の光軸を調整することにより実現されてもよいし、画面座標の算出時にずれ量分を調整することにより実現されてもよい。
これにより、光軸補正処理は、全画面で、相対的に低いフレームレートで実現される。一方、アプリケーションとしての、前方車両認識に基づく警報処理及び操舵処理に応じた画像処理は、自車両走行レーンの前方を切り出し画面(撮像画面)として、相対的に高いフレームレートで実現される。
[3.効果]
以上説明したように、本実施形態の画像処理装置10では、アプリケーションを実現するための画像処理の内容に応じて、高速な動作クロックを用いることなく、カメラ20が画像を取得するフレームレートを変更することができる。ここで、フレームレートが高く設定される場合、必要とされる画像範囲を切り出す処理はカメラ20が行うため、画像処理装置10の処理負荷を軽減することができる。
また、本実施形態の画像処理装置10では、フレームレートの変更を、動作クロックの周波数を変更することなく行っているため、動作クロックの周波数を高くした場合に懸念されるEMC特性の劣化、及び発熱の増加を抑制することができる。
[4.特許請求の範囲との対応]
本実施形態では、カメラ20が撮像手段に相当する。また、S130の処理が画像処理手段としての処理に相当し、S220が判断手段としての処理に相当し、S230の処理が第1設定手段としての処理に相当し、S260の処理が第2設定手段としての処理に相当する。さらにまた、本実施形態における画像処理装置10及びカメラ20からなるカメラシステム1が、画像処理システムに相当する。また、全画面が第1範囲に相当し、切り出し画面が第2範囲に相当し、全画面モードでのフレームレートT1が第1フレームレートに相当し、切り出し画面モードでのフレームレートT2が第2フレームレートに相当する。
[第2実施形態]
第2実施形態について説明する。本実施形態の画像処理装置は、構成は上記実施形態と同様であるが、CPU11が実行する処理内容が異なる。つまり、上記実施形態では、画像処理装置10(CPU11)は、図5に示すように、光軸補正処理(S110)を実行した後に操舵処理等のアプリケーションのための画像処理(S130)を実行したが、本発明は、はじめに光軸を補正する処理を実行することなく、各種アプリケーションに応じた画像処理を実行する場合にも適用できる。
本実施形態のCPU11が実行する通常処理を、図7のフローチャートを用いて説明する。本処理では、まずS310で画像設定処理を実行する。続いてS320〜S340では、アプリケーションを終了させるまで(S340:YES)、図5に示すS120〜S140と同様の処理を繰り返す。
S310で実行する画像設定処理では、図8のフローチャートに示すように、まずS410では、S330で実行する画像処理、すなわち統合処理で実現するアプリケーションに応じた画像処理を、全画面で且つ相対的に低いフレームレートで撮像した画像について実行するのか否かを判断する。
ここで、S410にて全画面で且つ相対的に低いフレームレートで撮像した画像について画像処理を実行すると判断された場合(S410:YES)、S420に移行し、カメラ制御値として全画面モードの制御値を設定して本処理を終了する。一方、S410にて否定判断された場合(S410:NO)、S430に移行し、カメラ制御値として切り出し画面モードの制御値を設定して本処理を終了する。
具体的には、例えばアプリケーションとしての光軸補正処理に対応する画像処理を実行する場合は、S410にて肯定判断され、カメラ制御値が全画面モードの制御値に設定される。また、アプリケーションとしての前方車両認識に基づく警報処理及び操舵制御処理を実行する場合は、S410にて否定判断され、カメラ制御値が、自車両走行レーン前方を撮像範囲とする切り出し画面モードの制御値に設定される。
以上説明したように、本実施形態では、S410での判断に従って、各種アプリケーションに応じた画像範囲及びフレームレートで撮像された撮像画像を用いて画像処理を実行することができ、上記実施形態と同様の効果を得ることができる。
[第3実施形態]
第3実施形態について説明する。本実施形態は、装置構成は上記実施形態と同様であるが、カメラ制御値のパラメータが上記実施形態とは一部異なる。つまり、本実施形態のカメラ制御値のパラメータは、上記実施形態で設定したカメラ制御値パラメータに、カメラ20のピクセルクロックの周波数を設定するクロック周波数パラメータが追加されている。そして、カメラ20は、該クロック周波数パラメータの制御値によって、カメラ20のピクセルクロックの周波数を変更可能な構成となっている。
つまり、上記実施形態ではフレームレートの変更を、ピクセルクロックのクロック周波数(f1)を変更することなく実現していたが、本実施形態では、クロック周波数(f2)を変更(f2>f1)することにより、必要がある場合には、図9に示すように更に高いフレームレートを実現することができる。
[他の実施形態]
(1)上記実施形態では、切り出し画面モードで取得した撮像画像についての画像処理(前方車両の認識処理)を用いるアプリケーション(以下、切り出し画面アプリケーションという)として警報処理及び操舵制御を実現するための画像処理装置10について説明したが、画像処理装置の用途(アプリケーション)はこれに限定されるものではない。
具体的には、切り出し画面アプリケーションとしては、上記前方車両認識に基づく警報処理及び操舵制御処理のほか、少なくとも自車両前方の白線の存在する範囲を切り出し範囲とする白線認識処理に基づく警報処理や操舵制御処理、及び、少なくとも自車両前方の歩行者の検出範囲を切り出し範囲とする歩行者認識処理に基づく警報処理及び回避処理等、自車両前方のセンシングを実現する各種アプリケーションであってもよい。
または、切り出し画面アプリケーションとしては、フロントガラスにおける雨滴を検出する雨滴センサ、フロントガラスのくもり状況を検出するくもりセンサ、自車両前方の霧の発生状況を検出する霧センサ、天空の明るさを検出する照度センサ、ステレオカメラを用いて対象物との距離を検出する距離センサ、路面のエッジを検出する路面検出センサ等の機能を実現するアプリケーションであってもよい。
つまり、切り出し画面モードは、予め想定される認識範囲を切り出し画面として、且つ切り出し画面を高頻度に更新する必要のあるアプリケーションに適用される。なお、この切り出し画面(認識範囲)Kは、図10に示すように、全画面のうちカメラ20の搭載誤差として設定される搭載誤差範囲Eを除いた範囲に設定されてもよい。
一方、全画面モードで取得した撮像画像を用いた画像処理を行うアプリケーション(以下、全画面アプリケーションという)としては、上記光軸補正処理のほか、鳥瞰図を生成する処理、カーナビゲーションシステムの画面上に所定の情報を付加した画像を生成する
処理、自車両の運転内容や運転時の周囲の状況を記録するドライブレコーダや、夜間の視界を確保するナイトビューシステムのための処理等のアプリケーションが挙げられる。
つまり、全画面モードは、光軸補正処理のほか、光軸がずれていてもアプリケーションの実行精度への影響が少なく且つ実行頻度の低いアプリケーションに適用される。なお、必要に応じて、全画面モードを上記に挙げた切り出し画面アプリケーションに適用してもよい。
(2)上記実施形態では、カメラは車両前方を撮像するものであったが、これに限らず、例えば車両後方を撮像するものや車両側方を撮像するものなど、車両周辺を撮像するカメラによる撮像画像を用いて実行できる種々アプリケーションについて、本発明を適用することが可能である。
(3)上記実施形態では、アプリケーションに応じて全画面モード及び切り出しモードの2つのモードのうちいずれか一方のモードに切り替えて、カメラ20により撮像画像を取得していた。これに対し、アプリケーションに応じて切り出す画像範囲及びフレームレートが異なる複数の切り出し画面モードを設定し、これらのモードを切り替える構成としてもよい。または、全画面モードを設定せず、切り出す画像範囲及びフレームレートが異なる複数の切り出し画面モードを設定し、これらのモードを切り替える構成としてもよい。
(4)上記実施形態では、センサ部30はCMOSイメージセンサで構成されていたが、センサ部30はCCDイメージセンサで構成されていてもよい。
(5)上記実施形態において、通信インタフェース14によるカメラ20と画像処理装置10との間でのデータ伝送は、パラレル伝送方式であっても、シリアル伝送方式であってもよい。
(6)上記実施形態において、カメラ20で用いられる動作クロックの周波数が画像処理装置10のCPU11等で用いられる動作クロック周波数より高い場合、カメラ20から画像処理装置10へのデータ伝送経路に分周回路を設けてもよい。
(7)画像処理装置20は、上記実施形態において統合判断ECU60が実行する処理を行うように構成されてもよい。
(8)上記実施形態で例示した画像処理装置10の構成要素は、ハードウェアで実現してもよく、ソフトウェアで実現してもよく、ハードウェアとソフトウェアとの組み合わせで実現してもよい。例えば、上述した処理(プログラム)を実行するコンピュータ装置(例えばマイコン)により画像処理装置10の少なくとも一部を構成してもよい。また、これらの構成要素は機能概念的なものであり、その一部又は全部を、機能的又は物理的に分散又は統合してもよい。
(9)上記実施形態は、本発明が適用された実施形態の一例に過ぎない。本発明は、画像処理装置、画像処理方法、画像処理装置としてコンピュータを機能させるためのプログラム、そのプログラムを記録した記録媒体、などの種々の形態で実現することができる。
1・・・カメラシステム 10・・・画像処理装置 11・・・CPU 20・・・カメラ 30・・・センサ部 40・・・発振器 50・・・制御部

Claims (6)

  1. 予め設定されたフレームレート毎に、予め設定された撮像範囲について撮像手段(20)が撮像した画像を処理する画像処理装置であって、
    前記撮像手段が撮像した画像の画像データについて画像処理を実行する画像処理手段(S130、S330)と、
    前記撮像手段に、前記撮像範囲のうち予め設定された第1範囲を、予め設定された第1フレームレートで撮像させる設定を行う第1設定手段(S230、S420)と、
    前記撮像手段に、前記撮像手段が撮像する撮像範囲の一部であり、前記第1範囲より狭い第2範囲を、前記第1フレームレートより高い第2フレームレートで撮像させる設定を行う第2設定手段(S260、S430)と、
    前記画像処理手段が実行する処理内容に応じて、前記第1設定手段及び前記第2設定手段のうちいずれを選択するかを判断し、前記処理内容のうち実行頻度の低い処理内容においては前記第1設定手段を選択するように判断する判断手段(S110、S310)と、
    を備えることを特徴とする画像処理装置。
  2. 前記第1設定手段は、前記第1範囲を、前記撮像範囲の全域とすることを特徴とする請求項1に記載の画像処理装置。
  3. 前記第2設定手段は、少なくとも一組の前記第2範囲及び前記第2フレームレートを設定することを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記撮像手段は、前記判断手段での判断にかかわらず、同じ周波数のクロックに従って動作することを特徴とする請求項1から3のいずれか一項に記載の画像処理装置。
  5. 前記撮像手段が撮像した画像における無限遠点の該画像における中央に対するずれ量を算出するずれ量算出手段を備え、
    前記第2設定手段は、該ずれ量に基づいて前記第2範囲を設定することを特徴とする請求項1から4のいずれか一項に記載の画像処理装置。
  6. 請求項1からのいずれか一項に記載の画像処理装置と、前記撮像手段とを備える画像処理システム。
JP2013060195A 2013-03-22 2013-03-22 画像処理装置 Active JP6003745B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013060195A JP6003745B2 (ja) 2013-03-22 2013-03-22 画像処理装置
US14/778,823 US9967438B2 (en) 2013-03-22 2014-02-18 Image processing apparatus
PCT/JP2014/053776 WO2014148175A1 (ja) 2013-03-22 2014-02-18 画像処理装置
DE112014001571.7T DE112014001571B4 (de) 2013-03-22 2014-02-18 Bildverarbeitungsvorrichtung

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013060195A JP6003745B2 (ja) 2013-03-22 2013-03-22 画像処理装置

Publications (3)

Publication Number Publication Date
JP2014187495A JP2014187495A (ja) 2014-10-02
JP2014187495A5 JP2014187495A5 (ja) 2015-07-23
JP6003745B2 true JP6003745B2 (ja) 2016-10-05

Family

ID=51579868

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013060195A Active JP6003745B2 (ja) 2013-03-22 2013-03-22 画像処理装置

Country Status (4)

Country Link
US (1) US9967438B2 (ja)
JP (1) JP6003745B2 (ja)
DE (1) DE112014001571B4 (ja)
WO (1) WO2014148175A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6003745B2 (ja) 2013-03-22 2016-10-05 株式会社デンソー 画像処理装置
US9718405B1 (en) 2015-03-23 2017-08-01 Rosco, Inc. Collision avoidance and/or pedestrian detection system
JP6658402B2 (ja) * 2016-08-26 2020-03-04 富士通株式会社 フレームレート判定装置、フレームレート判定方法及びフレームレート判定用コンピュータプログラム
US10999539B2 (en) 2017-12-26 2021-05-04 Waymo Llc Adjustable vertical field of view
JP6896030B2 (ja) * 2019-08-20 2021-06-30 三菱電機株式会社 車載カメラ装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4059704B2 (ja) * 2002-05-10 2008-03-12 三洋電機株式会社 ビデオカメラ
DE102004015806A1 (de) 2004-03-29 2005-10-27 Smiths Heimann Biometrics Gmbh Verfahren und Anordnung zur Aufnahme interessierender Bereiche von beweglichen Objekten
US7599521B2 (en) * 2004-11-30 2009-10-06 Honda Motor Co., Ltd. Vehicle vicinity monitoring apparatus
JP4556777B2 (ja) 2005-06-15 2010-10-06 株式会社デンソー 夜間運転視界支援装置
JP4737317B2 (ja) 2009-04-14 2011-07-27 株式会社デンソー 車両周辺撮影表示システム
WO2012004928A1 (ja) * 2010-07-08 2012-01-12 パナソニック株式会社 撮像装置
JP2012060371A (ja) * 2010-09-08 2012-03-22 Pentax Ricoh Imaging Co Ltd 撮像システムおよび画素信号読出し方法
JP5740647B2 (ja) * 2011-01-20 2015-06-24 株式会社ミツトヨ 画像測定装置
JP2013042402A (ja) * 2011-08-18 2013-02-28 Seiko Epson Corp 車載カメラ制御装置、車載カメラ制御システム及び車載カメラシステム
JP6003745B2 (ja) 2013-03-22 2016-10-05 株式会社デンソー 画像処理装置

Also Published As

Publication number Publication date
US20160050342A1 (en) 2016-02-18
DE112014001571B4 (de) 2023-07-27
DE112014001571T5 (de) 2015-12-10
WO2014148175A1 (ja) 2014-09-25
JP2014187495A (ja) 2014-10-02
US9967438B2 (en) 2018-05-08

Similar Documents

Publication Publication Date Title
JP4248558B2 (ja) 道路区画線検出装置
JP6003745B2 (ja) 画像処理装置
US7171027B2 (en) Vehicular image processing apparatus and related method
JP6060282B2 (ja) 車載カメラ画像処理装置
US9986164B2 (en) Camera shaking correction device and imaging apparatus with offset correction
JP6068945B2 (ja) カメラ映像の反射光除去装置及び方法
JP6739066B2 (ja) 撮像制御装置、撮像制御方法、プログラムおよびそれを記録した記録媒体
JP4760089B2 (ja) 車載画像処理装置、および画像処理方法
CN109835266B (zh) 摄像装置模块
JP2008124728A (ja) 撮像装置
JP6305430B2 (ja) 撮像設定変更装置、撮像システム、および撮像設定変更方法
JPWO2015129280A1 (ja) 画像処理装置および画像処理方法
JP2008143447A (ja) 車両用安全制御装置
JP2013168738A (ja) 露光制御装置
US20180069998A1 (en) Imaging apparatus, imaging system, and vehicle
JPWO2016121406A1 (ja) 画像処理装置、画像処理システム、車両、撮像装置、および画像処理方法
JP2012178639A (ja) 画像処理装置、駐車制御システム、及び、画像処理方法
JP7070326B2 (ja) 物体検出装置
JP2013168737A (ja) 露光制御装置
JP6314667B2 (ja) 撮像装置、画像補正プログラムおよび画像処理装置
JP2020102703A (ja) 電子機器、電子機器の制御方法およびプログラム
JP2007156919A (ja) 道路区画線検出装置
JP2020127164A (ja) 情報処理装置
US20230289986A1 (en) Range finding device, control method for range finding device, and storage medium
WO2023013106A1 (ja) 画像処理装置、および、画像データ送信方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150605

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160809

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160822

R151 Written notification of patent or utility model registration

Ref document number: 6003745

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250