JP2017204016A - Image processing apparatus - Google Patents
Image processing apparatus Download PDFInfo
- Publication number
- JP2017204016A JP2017204016A JP2016093641A JP2016093641A JP2017204016A JP 2017204016 A JP2017204016 A JP 2017204016A JP 2016093641 A JP2016093641 A JP 2016093641A JP 2016093641 A JP2016093641 A JP 2016093641A JP 2017204016 A JP2017204016 A JP 2017204016A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image processing
- frame
- control unit
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
Description
本発明は、画像処理装置に関する。 The present invention relates to an image processing apparatus.
従来の技術として、視差画像を使ったクラスタリング処理における誤認識を低減し且つ認識率向上するとともに、処理負荷を低減して、高精度に周辺環境を認識することが可能な画像処理装置が知られている(例えば、特許文献1参照)。 As a conventional technique, an image processing apparatus capable of reducing misrecognition and improving a recognition rate in clustering processing using a parallax image and reducing a processing load and recognizing a surrounding environment with high accuracy is known. (For example, refer to Patent Document 1).
この画像処理装置は、複数のカメラユニットと、各撮像素子が各光学フィルタを介して取得した撮影画像について画像処理を行う画像処理手段と、を備え、各光学フィルタは、光学特性が異なる複数のフィルタ領域を有し、画像処理手段は、撮影画像における、各フィルタ領域の光学特性に基づいて画像特性が異なる複数の画像領域毎に、異なる画像処理を行うものである。画像処理装置では、複眼撮像画像を、目的の認識対象ごとに領域分割し、さらに、これらをそれぞれの認識処理に適した画像が撮像できるように光学的に工夫している。これにより、認識すべき対象を整理し、その対象が見えるエリアを画像上で配置設定し、その認識に適した特種光学フィルタを構築し、この特種フィルタの画像特性と認識処理方法に応じて視差計算ロジックのアルゴリズムやパラメータ、さらに、画像間引き率や視差計算実行画素位置検出アルゴリズムを変更することで、誤認識の低減や認識対象の拡大といった性能の向上とともに、処理の高速化も図ることが可能であるとされている。 The image processing apparatus includes a plurality of camera units and an image processing unit that performs image processing on a captured image acquired by each imaging device via each optical filter, and each optical filter has a plurality of optical characteristics different from each other. The image processing means has a filter area, and performs different image processing for each of a plurality of image areas having different image characteristics based on the optical characteristics of each filter area in the captured image. In the image processing apparatus, the compound eye captured image is divided into regions for each target recognition target, and optically devised so that an image suitable for each recognition process can be captured. As a result, the objects to be recognized are arranged, the area where the objects can be seen is arranged and set on the image, a special optical filter suitable for the recognition is constructed, and the parallax according to the image characteristics and the recognition processing method of the special filter By changing the algorithm and parameters of the calculation logic, and the image decimation rate and the parallax calculation execution pixel position detection algorithm, it is possible to improve the performance such as reducing false recognition and expanding the recognition target, and to speed up the processing. It is said that.
特許文献1の画像処理装置では、複眼カメラから入力されるフレーム画像をすべて画像処理し、これに基づいて、画像処理を実行する。したがって、常に画像処理を実行する画像処理制御部の処理負荷が大きいという問題があった。一方、複眼カメラの一方から入力されるフレーム画像を他のフレーム画像の補間用として使用する場合は、認識対象によっては単眼処理だけでも画像認識が可能である。
In the image processing apparatus of
したがって、本発明の目的は、画像処理制御部の処理負荷を低減でき、画像認識性能に優れた画像処理装置を提供することにある。 Accordingly, an object of the present invention is to provide an image processing apparatus that can reduce the processing load of the image processing control unit and is excellent in image recognition performance.
[1]上記目的を達成するため、撮像画像を第1フレーム画像として順次出力する第1カメラと、前記撮像画像を第2フレーム画像として順次出力する第2カメラと、前記第1カメラから入力される第1フレーム画像、及び、前記第2カメラから入力される第2フレーム画像に基づいて、画像処理を実行する画像処理制御部と、を有し、前記画像処理制御部は、前記第1フレーム画像及び前記第2フレーム画像に基づいて画像処理を実行する第1処理プロセスと、前記第1フレーム画像又は前記第2フレーム画像に基づいて画像処理を実行する第2処理プロセスと、を交互に実行することを特徴とする画像処理装置を提供する。 [1] In order to achieve the above object, a first camera that sequentially outputs a captured image as a first frame image, a second camera that sequentially outputs the captured image as a second frame image, and the first camera are input. An image processing control unit that executes image processing based on a first frame image and a second frame image input from the second camera, wherein the image processing control unit includes the first frame A first processing process that executes image processing based on the image and the second frame image and a second processing process that executes image processing based on the first frame image or the second frame image are executed alternately. An image processing apparatus is provided.
[2]前記画像処理制御部は、前記第1フレーム画像と前記第1フレーム画像の前フレーム画像の認識結果との差に基づいて、前記第2処理プロセスにおいて、前記撮像画像を前記第1フレーム画像のみに基づいて画像処理を実行するか、前記撮像画像を前記第1フレーム画像及び前記第2フレーム画像に基づいて画像処理を実行するかを判断することを特徴とする上記[1]に記載の画像処理装置であってもよい。 [2] In the second processing process, the image processing control unit converts the captured image into the first frame based on a difference between the recognition result of the first frame image and the previous frame image of the first frame image. [1] In the above [1], it is determined whether to perform image processing based on only an image or to perform image processing on the captured image based on the first frame image and the second frame image. The image processing apparatus may be used.
[3]また、前記第2フレーム画像は、前記第1フレーム画像の補完用として使用されることを特徴とする特徴とする上記[1]又は[2]に記載の画像処理装置であってもよい。 [3] The image processing apparatus according to [1] or [2], wherein the second frame image is used for complementing the first frame image. Good.
[4]また、前記画像処理制御部は、前記第1処理プロセスにおいて、前記第1フレーム画像、前記第2フレーム画像を時系列に処理することを特徴とする上記[1]又は[2]に記載の画像処理装置であってもよい。 [4] Further, in the above [1] or [2], the image processing control unit processes the first frame image and the second frame image in time series in the first processing process. The image processing apparatus described may be used.
[5]また、前記画像処理制御部は、マルチコアプロセッサで構成され、前記第1フレーム画像、前記第2フレーム画像を並列処理することを特徴とする上記[1]又は[2]に記載の画像処理装置であってもよい。 [5] The image according to [1] or [2], wherein the image processing control unit includes a multi-core processor, and performs parallel processing on the first frame image and the second frame image. It may be a processing device.
本発明の画像処理装置によれば、画像処理制御部の処理負荷を低減でき、画像認識性能に優れた画像処理装置を提供することができる。 According to the image processing apparatus of the present invention, it is possible to provide an image processing apparatus that can reduce the processing load of the image processing control unit and is excellent in image recognition performance.
(本発明の第1の実施の形態)
本発明の第1の実施の形態に係る画像処理装置1は、撮像画像を第1フレーム画像SAとして順次出力する第1カメラ10と、撮像画像を第2フレーム画像SBとして順次出力する第2カメラ20と、第1カメラ10から入力される第1フレーム画像SA、及び、第2カメラ20から入力される第2フレーム画像SBに基づいて、画像処理を実行する画像処理制御部30と、を有し、画像処理制御部30は、第1フレーム画像SA及び前記第2フレーム画像SBに基づいて画像処理を実行する第1処理プロセスと、第1フレーム画像SA又は第2フレーム画像SBに基づいて画像処理を実行する第2処理プロセスと、を交互に実行するように構成されている。
(First embodiment of the present invention)
The
また、画像処理制御部は、第1フレーム画像SA(n)と第1フレーム画像SA(n)の前フレーム画像SA(n―1)の認識結果との差に基づいて、第2処理プロセスにおいて、撮像画像を第1フレーム画像SA(n)のみに基づいて画像処理を実行するか、撮像画像を第1フレーム画像SA(n)及び第2フレーム画像SB(n)に基づいて画像処理を実行するかを判断するように構成されている。 The image processing control unit, on the basis of the difference between the recognition result of the previous frame image S A (n-1) of the first frame image S A (n) and the first frame image S A (n), a second In the processing process, the captured image is processed based on only the first frame image S A (n), or the captured image is converted into the first frame image S A (n) and the second frame image S B (n). Based on this, it is configured to determine whether to execute image processing.
図1は、本発明の画像処理装置の概略構成を示すブロック図の一例を示している。以下、図1により、本発明の画像処理装置の構成を説明する。 FIG. 1 shows an example of a block diagram showing a schematic configuration of an image processing apparatus of the present invention. Hereinafter, the configuration of the image processing apparatus of the present invention will be described with reference to FIG.
(第1カメラ10、第2カメラ20)
第1カメラ10、第2カメラ20は、例えば、CCD(Charge Coupled Device)、CMOS(Complementary Metal-Oxide Semiconductor)などの半導体撮像素子を備えている。第1カメラ10、第2カメラ20は、複数のカメラを配置してほぼ同一の画面を撮像できるように配置する一例であって、3以上のカメラを配置する構成でもよい。この第1カメラ10、第2カメラ20は、ほぼ同一の画面を撮像できるように配置され、いわゆる複眼カメラとして機能する。
(
The
第1カメラ10、第2カメラ20は、所定の周期Tでほぼ同一対象を撮像して、第1フレーム画像SA、第2フレーム画像SBを出力する。この第1カメラ10、第2カメラ20は、複眼カメラとして機能する。ほぼ同一対象を撮像した第1フレーム画像SA、第2フレーム画像SBは、一方のカメラが他方のカメラを補完することができる。例えば、第2カメラ20を第1カメラ10の補完用として使用することにより、第1カメラ10で捕らえきれなかった対象物を撮像することができる。一方、第1カメラ10、第2カメラ20により、奥行き情報を取得することも可能である。
本実施の形態では、第2カメラ20が第1カメラ10を補完するものとして説明する。
In the present embodiment, a description will be given assuming that the
(画像処理制御部30)
画像処理制御部30は、例えば、記憶されたプログラムに従って、取得した画像データに演算、加工などを行うCPU(Central Processing Unit)、半導体メモリであるRAM(Random Access Memory)及びROM(Read Only Memory)などから構成されるマイクロコンピュータである。このROMには、例えば、画像処理制御部30が動作するためのプログラム、フレームと前フレームとの差により画像処理方法を切り替えるための閾値Th、画像認識で使用するテンプレートマッチング用のテンプレート32等が記憶され、必要に応じて参照することができる。RAMは、例えば、複数の画像情報や一時的に演算結果などを格納する記憶領域として用いられる。また画像処理制御部30は、その内部にクロック信号を生成する手段を有し、このクロック信号に基づいて処理を実行する。
(Image processing control unit 30)
The image
第1の実施の形態に係る画像処理装置1の画像処理制御部30は、CPU(Central Processing Unit)が1つのプロセッサを備えたシングルコアプロセッサである。したがって、画像認識等の画像処理においては、各処理プロセスを時系列に処理していく。
The image
図2(a)は、本発明の第1の実施の形態に係る画像処理装置における、第1カメラから画像処理制御部に入力される第1フレーム画像SAの時系列図であり、図2(b)は、第2カメラから画像処理制御部に入力される第2フレーム画像SBの時系列図であり、図2(c)は、画像処理制御部の処理プロセスの実行状態を示す時系列図である。 2 (a) is in an image processing apparatus according to a first embodiment of the present invention, a time series diagram of a first frame image S A input from the first camera to the image processing control unit, FIG. 2 (b) is a time series diagram of a second frame image S B input from the second camera to the image processing control unit, FIG. 2 (c), when indicating the execution state of the processing process of the image processing control unit FIG.
図2(a)に示すように、第1カメラ10で撮像された第1フレーム画像SA(n)は、時系列に第1フレーム画像SA(1)、SA(2)、SA(3)、・・・・、SA(n)、・・・・が所定の周期Tで画像処理制御部30に入力される。この第1フレーム画像SA(1)、SA(2)、SA(3)、・・・・、SA(n)、・・・・により、周期Tのフレーム1、フレーム2、フレーム3、・・・・、フレームn、・・・・の期間が規定される。
As shown in FIG. 2A, the first frame images S A (n) captured by the
また、図2(b)に示すように、第2カメラ20で撮像された第2フレーム画像SB(n)は、時系列に第2フレーム画像SB(1)、SB(2)、SB(3)、・・・・、SB(n)、・・・・が所定の周期Tで画像処理制御部30に入力される。この第2フレーム画像SB(1)、SB(2)、SB(3)、・・・・、SB(n)、・・・・により、周期Tのフレーム1、フレーム2、フレーム3、・・・・、フレームn、・・・・の期間が規定される。
Also, as shown in FIG. 2B, the second frame image S B (n) captured by the
図3は、本発明の第1の実施の形態に係る画像処理装置の動作を示すフローチャートである。また、図4(a)は、本発明の第1の実施の形態に係る画像処理装置における、第1カメラから画像処理制御部に入力されるフレーム(n−1)における画像SA(n−1)の画像の一例であり、図4(b)は、第1カメラから画像処理制御部に入力されるフレームnにおける第1フレーム画像SA(n)の画像の一例である。 FIG. 3 is a flowchart showing the operation of the image processing apparatus according to the first embodiment of the present invention. 4A shows an image S A (n−) in the frame (n−1) input from the first camera to the image processing control unit in the image processing apparatus according to the first embodiment of the present invention. 4B is an example of the image of the first frame image S A (n) in the frame n input from the first camera to the image processing control unit.
(画像処理装置1の動作)
画像処理制御部30は、図2(a)、(b)に示したように、第1フレーム画像SA、第2フレーム画像SBを取得する(Step1)。
(Operation of the image processing apparatus 1)
Image
次に、画像処理制御部30は、第1フレーム画像と第1フレーム画像の前フレーム画像の認識結果との差を算出する。すなわち、図4(b)で示す第1フレーム画像SA(n)と図4(a)で示す前フレーム画像である第1フレーム画像SA(n−1)との差分画像Δ=|SA(n)―SA(n−1)|を算出する(Step2)。
Next, the image
画像処理制御部30は、差分画像Δ=|SA(n)―SA(n−1)|が閾値Th以上であるかどうかを判断する(Step3)。一例として、各画素の差分の総和を求め、この総和が閾値Th以上であるかどうかを判断する。差分画像Δが閾値Th以上である場合はStep4へ進み(Step3:Yes)、差分画像Δが閾値Th以上でない場合はStep5へ進む(Step3:No)。
The image
画像処理制御部30は、図2(c)に示すように、第1処理プロセスである奇数フレームの画像処理は、第1フレーム画像SA及び第2フレーム画像SBに基づいて画像処理を実行する。また、第2処理プロセスである偶数フレームの画像処理も、第1フレーム画像SA及び第2フレーム画像SBに基づいて時系列に画像処理を実行する。すなわち、図示したフレーム4のように、差分画像Δが閾値Th以上である場合は、第1フレーム画像SA及び第2フレーム画像SBに基づいて時系列に画像処理が実行される(Step4)。すなわち、差分画像Δが閾値Th以上である場合は、変化検出が大きいため、複眼処理が行われる。
As shown in FIG. 2C, the image
画像処理制御部30は、図2(c)に示すように、第1処理プロセスである奇数フレームの画像処理は、第1フレーム画像SA及び第2フレーム画像SBに基づいて画像処理を実行する。一方、第2処理プロセスである偶数フレームの画像処理は、第1フレーム画像SAのみに基づいて画像処理を実行する。すなわち、図示したフレーム2のように、差分画像Δが閾値Th以上でない場合は、第1フレーム画像SAのみに基づいて画像処理が実行される(Step5)。すなわち、差分画像Δが閾値Th以上でない場合は、変化検出が小さいため、単眼処理が行われる。
As shown in FIG. 2C, the image
第2カメラ20は、第1カメラ10の補完用として使用される構成としているので、第1フレーム画像SA(n)と前フレーム画像である第1フレーム画像SA(n−1)との差分画像Δ=|SA(n)―SA(n−1)|が閾値Th以下の場合は補完用の第2カメラ20を使用する必要はない。したがって、第2処理プロセスを第1カメラ10からの第1フレーム画像SAのみに基づいて画像処理を実行することにより、画像処理制御部30の処理負荷を低減することができる。
Since the
図5は、第1の実施の形態の変形例を示すものである。上記説明した、第1フレーム画像SA(n)と前フレーム画像である第1フレーム画像SA(n−1)との差分画像Δ=|SA(n)―SA(n−1)|が閾値Th以下の場合に、第2処理プロセスにおいて、前フレームの認識結果を活用するものである。すなわち、図5に示す場合は、第2フレームにおいて、SA(2)とSB(1)に基づいて画像処理が実行される。この場合は、第2フレーム画像SB(1)は前フレームの認識結果を活用するので、画像処理制御部30の処理負荷を低減することができる。
FIG. 5 shows a modification of the first embodiment. The difference image Δ = | S A (n) −S A (n−1) between the first frame image S A (n) described above and the first frame image S A (n−1) as the previous frame image. When | is equal to or smaller than the threshold Th, the recognition result of the previous frame is used in the second processing process. That is, in the case shown in FIG. 5, image processing is executed based on S A (2) and S B (1) in the second frame. In this case, since the second frame image S B (1) uses the recognition result of the previous frame, the processing load on the image
(画像認識処理)
図6(a)は、本発明の第1の実施の形態に係る画像処理装置における、第1カメラから画像処理制御部に入力される背景画像SA(0)の画像の一例であり、図6(b)は、第1カメラから画像処理制御部に入力される第1フレーム画像SA(n)の画像の一例であり、図6(c)は、画像処理制御部において差分画像ΔAを演算した結果の画像の一例である。また、図7(a)は、第2カメラから画像処理制御部に入力される背景画像SB(0)の画像の一例であり、図7(b)は、第2カメラから画像処理制御部に入力される第2フレーム画像SB(n)の画像の一例であり、図7(c)は、画像処理制御部において差分画像ΔBを演算した結果の画像の一例である。
(Image recognition processing)
FIG. 6A is an example of an image of the background image S A (0) input from the first camera to the image processing control unit in the image processing apparatus according to the first embodiment of the present invention. 6B is an example of an image of the first frame image S A (n) input from the first camera to the image processing control unit, and FIG. 6C illustrates the difference image Δ A in the image processing control unit. It is an example of the image of the result of having calculated. 7A is an example of an image of the background image S B (0) input from the second camera to the image processing control unit, and FIG. 7B is an example of the image processing control unit from the second camera. it is an example of an image of a second frame image S B inputted (n) in FIG. 7 (c) is an example of a result of an image obtained by calculating a difference image delta B in the image processing control unit.
画像処理制御部30は、図6(b)で示す任意の時間(nフレーム目の時間)における第1フレーム画像SA(n)と、図6(a)で示す背景画像SA(0)との差分画像ΔA=|SA(n)―SA(0)|を算出する。
The image
画像処理制御部30は、この差分画像ΔA=|SA(n)―SA(0)|に基づいて、一例として、2値化処理した後に、テンプレート32を参照しながらテンプレートマッチングを行なう。これにより、例えば、図6(c)に示すように、車両100を抽出する。
For example, the image
画像処理制御部30は、同様に、図7(b)で示す任意の時間(nフレーム目の時間)における第2フレーム画像SB(n)と、図7(a)で示す背景画像SB(0)との差分画像ΔB=|SB(n)―SB(0)|を算出する。
Similarly, the image
画像処理制御部30は、この差分画像ΔB=|SB(n)―SB(0)|に基づいて、一例として、2値化処理した後に、テンプレート32を参照しながらテンプレートマッチングを行なう。これにより、例えば、図7(c)に示すように、車両100と歩行者101を抽出する。
For example, the image
画像処理制御部30は、例えば、差分画像ΔAと差分画像ΔBの論理和をとることにより、車両100及び歩行者101を画像認識することができる。このように、第2カメラ20が第1カメラ10を補完するものとして機能する。また、差分画像ΔAと差分画像ΔBの論理積をとることにより、例えば、ノイズを低減させる等の演算処理を行なうことも可能である。
Image
(本発明の第2の実施の形態)
本発明の第2の実施の形態に係る画像処理装置1の画像処理制御部30は、例えば、記憶されたプログラムに従って、取得した画像データに演算、加工などを行うCPU(Central Processing Unit)、半導体メモリであるRAM(Random Access Memory)及びROM(Read Only Memory)などから構成されるマイクロコンピュータである。このROMには、例えば、画像処理制御部30が動作するためのプログラム、フレームと前フレームとの差により画像処理方法を切り替えるための閾値Th、画像認識で使用するテンプレートマッチング用のテンプレート32等が記憶され、必要に応じて参照することができる。RAMは、例えば、複数の画像情報や一時的に演算結果などを格納する記憶領域として用いられる。また画像処理制御部30は、その内部にクロック信号を生成する手段を有し、このクロック信号に基づいて処理を実行する。
(Second embodiment of the present invention)
The image
第2の実施の形態に係る画像処理装置1の画像処理制御部30は、CPU(Central Processing Unit)が複数のプロセッサを備えたマルチコアプロセッサである。したがって、画像認識等の画像処理においては、各処理プロセスを並列処理することができる。以下においては、2つのプロセッサを備えたデュアルコアとして説明する。なお、第1の実施の形態と同様の部分は説明を省略する。
The image
図8(a)は、本発明の第2の実施の形態に係る画像処理装置における、第1カメラから画像処理制御部に入力される第1フレーム画像SAの時系列図であり、図8(b)は、第2カメラから画像処理制御部に入力される第2フレーム画像SBの時系列図であり、図8(c)は、画像処理制御部の処理プロセスの実行状態を示す時系列図である。 8 (a) is a second in the image processing apparatus according to the embodiment, the time series diagram of a first frame image S A input from the first camera to the image processing control unit of the present invention, FIG. 8 (b) is a time series diagram of a second frame image S B input from the second camera to the image processing control unit, FIG. 8 (c), when indicating the execution state of the processing process of the image processing control unit FIG.
図8(a)に示すように、第1カメラ10で撮像された第1フレーム画像SA(n)は、時系列に第1フレーム画像SA(1)、SA(2)、SA(3)、・・・・、SA(n)、・・・・が所定の周期Tで画像処理制御部30に入力される。この第1フレーム画像SA(1)、SA(2)、SA(3)、・・・・、SA(n)、・・・・により、周期Tのフレーム1、フレーム2、フレーム3、・・・・、フレームn、・・・・の期間が規定される。
As shown in FIG. 8A, the first frame images S A (n) captured by the
また、図8(b)に示すように、第2カメラ20で撮像された第2フレーム画像SB(n)は、時系列に第2フレーム画像SB(1)、SB(2)、SB(3)、・・・・、SB(n)、・・・・が所定の周期Tで画像処理制御部30に入力される。この第2フレーム画像SB(1)、SB(2)、SB(3)、・・・・、SB(n)、・・・・により、周期Tのフレーム1、フレーム2、フレーム3、・・・・、フレームn、・・・・の期間が規定される。
Further, as shown in FIG. 8B, the second frame images S B (n) captured by the
画像処理制御部30は、第1の実施の形態と同様に、奇数フレームにおいて、第1フレーム画像SA及び第2フレーム画像SBに基づいて画像処理を実行し、複眼処理を行なう。図8(c)に示すように、第1処理プロセスである奇数フレームの画像処理は、第1フレーム画像SA及び第2フレーム画像SBに基づいて並列的に画像処理を実行する。差分画像Δが閾値Th以上である場合は、第2処理プロセスである偶数フレームの画像処理も、第1フレーム画像SA及び第2フレーム画像SBに基づいて並列的に画像処理を実行する。すなわち、図示したフレーム4のように、第1フレーム画像SA及び第2フレーム画像SBに基づいて並列的に画像処理が実行され、複眼処理が行われる。
Similarly to the first embodiment, the image
また、画像処理制御部30は、第1の実施の形態と同様に、奇数フレームにおいて、第1フレーム画像SA及び第2フレーム画像SBに基づいて画像処理を実行し、複眼処理を行なう。図8(c)に示すように、第1処理プロセスである奇数フレームの画像処理は、第1フレーム画像SA及び第2フレーム画像SBに基づいて並列的に画像処理を実行する。差分画像Δが閾値Th以上でない場合は、第2処理プロセスである偶数フレームの画像処理は、第1フレーム画像SAのみに基づいて画像処理を実行する。すなわち、図示したフレーム2のように、第1フレーム画像SAのみに基づいて画像処理が実行され、単眼処理が行われる。
The image
図9は、第2の実施の形態の変形例を示すものである。上記説明した、第1フレーム画像SA(n)と前フレーム画像である第1フレーム画像SA(n−1)との差分画像Δ=|SA(n)―SA(n−1)|が閾値Th以下の場合に、第2処理プロセスにおいて、前フレームの認識結果を活用するものである。すなわち、図9に示す場合は、第2フレームにおいて、SA(2)とSB(1)に基づいて画像処理が実行される。この場合は、第2フレーム画像SB(1)は前フレームの認識結果を活用するので、画像処理制御部30の処理負荷を低減することができる。
FIG. 9 shows a modification of the second embodiment. The difference image Δ = | S A (n) −S A (n−1) between the first frame image S A (n) described above and the first frame image S A (n−1) as the previous frame image. When | is equal to or smaller than the threshold Th, the recognition result of the previous frame is used in the second processing process. That is, in the case shown in FIG. 9, image processing is executed based on S A (2) and S B (1) in the second frame. In this case, since the second frame image S B (1) uses the recognition result of the previous frame, the processing load on the image
(実施の形態の効果)
本発明の実施の形態によれば、以下のような効果を有する。
(1)第1の実施の形態に係る画像処理装置は、画像処理制御部30において、第1フレーム画像SA(n)と第1フレーム画像SA(n)の前フレーム画像SA(n―1)の認識結果との差に基づいて、第2処理プロセスにおいて、撮像画像を第1フレーム画像SA(n)のみに基づいて画像処理を実行するか、撮像画像を第1フレーム画像SA(n)及び第2フレーム画像SB(n)に基づいて画像処理を実行するかを判断する。これにより、画像処理制御部の処理負荷を低減でき、画像認識性能に優れた画像処理装置を提供することができる。
(2)第2の実施の形態に係る画像処理装置は、画像処理制御部30のCPUを複数のプロセッサを備えたマルチコアとする。これにより、第1の実施の形態の効果に加えて、撮像画像を第1フレーム画像SA(n)及び第2フレーム画像SB(n)に基づいて並列的に画像処理を実行する場合に、各フレームの期間Tを短くした画像認識が可能となる。これにより、画像処理制御部の処理負荷を低減でき、画像認識性能に優れた画像処理装置を提供することができる。
(Effect of embodiment)
The embodiment of the present invention has the following effects.
(1) In the image processing apparatus according to the first embodiment, the image
(2) In the image processing apparatus according to the second embodiment, the CPU of the image
以上、本発明のいくつかの実施の形態及び変形例を説明したが、これらの実施の形態及び変形例は、一例に過ぎず、特許請求の範囲に係る発明を限定するものではない。 As mentioned above, although some embodiment and modification of this invention were demonstrated, these embodiment and modification are only examples, and do not limit the invention based on a claim.
例えば、カメラの数は2つとして説明したがこれに限定されない。また、偶数フレームを複眼処理、奇数フレームを単眼処理としてもよい。 For example, although the number of cameras has been described as two, the present invention is not limited to this. Further, even-numbered frames may be compound-eye processing and odd-numbered frames may be monocular processing.
また、これら新規な実施の形態及び変形例は、その他の様々な形態で実施されることが可能であり、本発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更等を行うことができる。また、これら実施の形態及び変形例の中で説明した特徴の組合せの全てが発明の課題を解決するための手段に必須であるとは限らない。さらに、これら実施の形態及び変形例は、発明の範囲及び要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。 These novel embodiments and modifications can be implemented in various other forms, and various omissions, replacements, changes, and the like can be made without departing from the scope of the present invention. it can. In addition, not all combinations of features described in these embodiments and modifications are necessarily essential to the means for solving the problems of the invention. Furthermore, these embodiments and modifications are included in the scope and gist of the invention, and are included in the invention described in the claims and the equivalents thereof.
1…画像処理装置
10…第1カメラ
20…第2カメラ
30…画像処理制御部
32…テンプレート
100…車両
101…歩行者
DESCRIPTION OF
Claims (5)
前記撮像画像を第2フレーム画像として順次出力する第2カメラと、
前記第1カメラから入力される第1フレーム画像、及び、前記第2カメラから入力される第2フレーム画像に基づいて、画像処理を実行する画像処理制御部と、を有し、
前記画像処理制御部は、前記第1フレーム画像及び前記第2フレーム画像に基づいて画像処理を実行する第1処理プロセスと、前記第1フレーム画像又は前記第2フレーム画像に基づいて画像処理を実行する第2処理プロセスと、を交互に実行することを特徴とする画像処理装置。 A first camera that sequentially outputs captured images as first frame images;
A second camera that sequentially outputs the captured image as a second frame image;
An image processing control unit that executes image processing based on a first frame image input from the first camera and a second frame image input from the second camera;
The image processing control unit executes a first processing process for executing image processing based on the first frame image and the second frame image, and performs image processing based on the first frame image or the second frame image. And an image processing apparatus that alternately executes the second processing process.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016093641A JP2017204016A (en) | 2016-05-09 | 2016-05-09 | Image processing apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016093641A JP2017204016A (en) | 2016-05-09 | 2016-05-09 | Image processing apparatus |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017204016A true JP2017204016A (en) | 2017-11-16 |
Family
ID=60322276
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016093641A Pending JP2017204016A (en) | 2016-05-09 | 2016-05-09 | Image processing apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017204016A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102510122B1 (en) * | 2021-11-24 | 2023-03-15 | (주)카네비모빌리티 | Vision-based real-time vehicle detection, tracking method for forward collision warning and apparatus therefor |
-
2016
- 2016-05-09 JP JP2016093641A patent/JP2017204016A/en active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102510122B1 (en) * | 2021-11-24 | 2023-03-15 | (주)카네비모빌리티 | Vision-based real-time vehicle detection, tracking method for forward collision warning and apparatus therefor |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108352074B (en) | Image processing system and method for optical flow estimation | |
US9607240B2 (en) | Image processing apparatus, image capturing apparatus, image processing method, image capturing method, and non-transitory computer-readable medium for focus bracketing | |
KR102399017B1 (en) | Method of generating image and apparatus thereof | |
KR102483641B1 (en) | Method and apparatus for processing binocular image | |
JP5919538B2 (en) | Object detection apparatus and object detection method | |
EP3683764A1 (en) | Image generation device and image generation method | |
JP2015177300A (en) | Image recognition apparatus and image recognition method | |
JP2017129788A5 (en) | ||
US20170099438A1 (en) | Image processing apparatus and method | |
JP2021170284A (en) | Information processing device and program | |
US9883096B2 (en) | Focus detection apparatus and control method thereof | |
JP2017072913A5 (en) | ||
JP2017204016A (en) | Image processing apparatus | |
JP2010102568A (en) | Information processing apparatus | |
JP7401246B2 (en) | Imaging device, method of controlling the imaging device, and program | |
US10880457B2 (en) | Image processing apparatus, image capturing apparatus, image processing method, and storage medium | |
WO2018037479A1 (en) | Image processing device, stereo camera device, and image processing method | |
JP2021108022A5 (en) | ||
KR101681197B1 (en) | Method and apparatus for extraction of depth information of image using fast convolution based on multi-color sensor | |
EP3494545B1 (en) | Methods and apparatus for codeword boundary detection for generating depth maps | |
JP2017199174A (en) | Image processing device | |
JP6173199B2 (en) | Image processing apparatus, image processing method, and imaging apparatus | |
US10026181B2 (en) | Method and apparatus for detecting object | |
JP2018206063A (en) | Image recognition device and image recognition method | |
RU2541855C1 (en) | Apparatus for determining outlines of objects on image |