JP2013172378A - Image processing device and vehicle - Google Patents

Image processing device and vehicle Download PDF

Info

Publication number
JP2013172378A
JP2013172378A JP2012036058A JP2012036058A JP2013172378A JP 2013172378 A JP2013172378 A JP 2013172378A JP 2012036058 A JP2012036058 A JP 2012036058A JP 2012036058 A JP2012036058 A JP 2012036058A JP 2013172378 A JP2013172378 A JP 2013172378A
Authority
JP
Japan
Prior art keywords
image
exposure
recognition
processing
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012036058A
Other languages
Japanese (ja)
Inventor
Shintaro Kida
真太郎 木田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2012036058A priority Critical patent/JP2013172378A/en
Publication of JP2013172378A publication Critical patent/JP2013172378A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To synthesize different recognition results into a single image, in overlap, of photographed images with plural exposure amounts, thereby displaying the image in real time, in a case where different recognition processes for the plural exposure amounts are required.SOLUTION: An image processing device includes: a sensor 12 for imaging responsively to a different exposure amount for each frame; an image recognition process circuit 15a for performing plural recognition processes in response to respective exposure amounts by switching the processes for each frame on the basis of image data obtained with different exposure amount for each frame; an exposure control part 16 that holds plural exposure reference values corresponding to plural recognition processes, determines an exposure amount obtained by the sensor 12 and re-sets to the sensor 12 a recognition process at the image recognition process circuit 15a at a discretionary timing and an exposure reference value corresponding to the recognition process at the aforementioned timing by feeding them back, at an appropriate timing, so as to be reflected in a next-point frame of the same kind of recognition process, among recognition processes that are switched from moment to moment; and an image overlap-synthesis part 14 for overlapping obtained images of plural recognition processes onto a single image of an exposure amount.

Description

本発明は、車両に搭載され車載前方認識処理を行うことが可能な画像処理装置及びそれを備えた車両に関する。   The present invention relates to an image processing apparatus mounted on a vehicle and capable of performing a vehicle-mounted front recognition process, and a vehicle including the same.

従来、車両に搭載された画像処理装置による処理である車載前方認識処理には、昼間でも動作させるLDW(白線検知)に加えて、夜間ではAHB(オートハイビーム位置検知)という画像処理がある。各処理で高い検知(認識)率を維持するには、適切な露出量で撮像した画像が必要となるが、車載用の前方検知画像処理にはそれぞれの露出制御技術が考えられ既に知られている。
しかし、従来のLDWやAHBのような車両前方認識処理では、必要な認識率を維持するため、それぞれの処理に適した露出量設定で画像処理を行う必要がある。従来は単一の露出量で単一の認識処理か、もしくは複数の露出量切り替えによって単一の認識処理の結果や検知情報を警報音でドライバに知らせるか車両の制御に使用される。
これらの検知・認識処理を複数もつシステムの場合、適切な露出量はそれぞれ異なる場合があるため、露出量設定はフレーム毎に切り替えて、適切な露出量フレームに対して認識処理(AHBまたはLDW)を行なうことになる。
さらに、今後、濡れた路面や凍った路面など、人が視認しにくい車両前方の危険を察知するにあたり、新たな認識処理が開発され増えることが考えられ、その情報が従来の認識処理結果と共にリアルタイムに運転手や同乗者が視認できる必要性が予想される。
Conventionally, in-vehicle forward recognition processing, which is processing performed by an image processing device mounted on a vehicle, includes image processing called AHB (automatic high beam position detection) at night in addition to LDW (white line detection) that is operated even during the daytime. In order to maintain a high detection (recognition) rate in each process, an image captured with an appropriate exposure amount is required, but each exposure control technology can be considered for in-vehicle front detection image processing and is already known. Yes.
However, in conventional vehicle forward recognition processing such as LDW and AHB, it is necessary to perform image processing with an exposure amount setting suitable for each processing in order to maintain a necessary recognition rate. Conventionally, a single recognition process is used for a single exposure amount, or a single recognition process result or detection information is notified to the driver by an alarm sound by switching a plurality of exposure amounts, or used for vehicle control.
In the case of a system having a plurality of these detection / recognition processes, the appropriate exposure amount may be different. Therefore, the exposure amount setting is switched for each frame, and the recognition process (AHB or LDW) is performed for the appropriate exposure amount frame. Will be performed.
In addition, new recognition processes may be developed and increased in the future in order to detect dangers in front of the vehicle that are difficult for humans to see, such as wet or frozen road surfaces. It is expected that the driver and passengers will be able to see it.

例えば、濡れた路面上の白線は視認しにくいが、従来の装置では画像としてではなく、警告または、ブレーキ・ハンドルなどの操作補助を想定している。
しかし、見えない白線に対して寄っているか、白線からはみだしたか、または誤認かの判断が難しい上に、複数処理後の視認向けの表示を想定していない。
このため、表示を行なう場合は露出量の異なるフレームが交互に表示されることになるため、ちらついて視認には向かないといった問題があった。
For example, although a white line on a wet road surface is difficult to visually recognize, a conventional device assumes a warning or operation assistance such as a brake handle, not as an image.
However, it is difficult to determine whether it is close to the invisible white line, protruded from the white line, or misidentified, and display for visual recognition after a plurality of processes is not assumed.
For this reason, since frames with different exposure amounts are alternately displayed when displaying, there is a problem that they are not suitable for visual recognition.

特許文献1には、カメラ1台の低コストで、近傍のヘッドライトから遠方のテールランプまで高精度に光点の位置を特定し、ヘッドライトやテールライトと、信号機や街灯、自動販売機などのノイズ光を識別して、夜間の車両検知性能を高め、より高度な機能を提供する目的が開示されている。
特許文献1には、車両に搭載された1台のカメラ(撮像手段)が撮影した画像を解析する画像解析手段を備え、画像解析手段でカメラが撮影した2つ以上の露出量の異なる画像を解析して前方を走行する他の車両の位置を検知する装置について開示され、露出量を変えながら撮像した複数の画像を解析し、解析結果をもとに次の露出調整をフィードバックする構成が開示されている。
In Patent Document 1, the position of a light spot is specified with high accuracy from a nearby headlight to a distant tail lamp at a low cost of one camera, such as a headlight, a taillight, a traffic light, a streetlight, a vending machine, etc. An object of discriminating noise light to enhance nighttime vehicle detection performance and providing more advanced functions is disclosed.
Patent Document 1 includes image analysis means for analyzing an image taken by one camera (imaging means) mounted on a vehicle, and two or more images with different exposure amounts taken by the camera by the image analysis means. An apparatus for analyzing and detecting the position of another vehicle traveling ahead is disclosed, and a configuration for analyzing a plurality of images taken while changing the exposure amount and feeding back the next exposure adjustment based on the analysis result is disclosed. Has been.

特許文献2には、負荷を抑えて、前方車両や白線を認識しやすい画像を得る目的で、車両に搭載された1台のカメラ(撮像手段)が露出量の異なる複数の画像を取得し、コントラストを判断して合成画像を生成する構成が開示されている。
特許文献2には、露出量を変えながら車両前方の画像認識処理をする点が開示されている。しかし、図8に示すように、複数の車両前方画像認識処理の結果をリアルタイムでそのまま交互に表示すると、露出量が異なることに起図したちらつく画像となり、視認しにくいといった問題があった。
In Patent Document 2, a single camera (imaging means) mounted on a vehicle acquires a plurality of images with different exposure amounts for the purpose of obtaining an image that can easily recognize a preceding vehicle or a white line while suppressing a load. A configuration for determining a contrast and generating a composite image is disclosed.
Patent Document 2 discloses that image recognition processing in front of the vehicle is performed while changing the exposure amount. However, as shown in FIG. 8, when the results of a plurality of vehicle front image recognition processes are alternately displayed in real time, there is a problem that the image becomes flickering due to different exposure amounts and is difficult to visually recognize.

本発明は、上記の課題を鑑みて、視認しにくい状況、たとえば夜間や雨路の白線といった車両前方の危険認識に加えて、対向車ハイビーム検知など異なる複数の露出量で異なる認識処理が必要となった場合でも、ちらつくことなく、異なる認識処理結果をリアルタイムに視認することが出来る画像を生成可能な画像処理装置を提供することを目的とする。   In view of the above-described problems, the present invention requires different recognition processes such as oncoming vehicle high beam detection, in addition to danger recognition in front of the vehicle such as nighttime or white lines on rainy roads, in addition to recognition of situations that are difficult to visually recognize. An object of the present invention is to provide an image processing apparatus capable of generating an image capable of viewing different recognition processing results in real time without flickering.

上記の課題を解決するために、請求項1の発明は、撮像手段によってフレーム毎に異なる露出量で撮像された画像データに基づいて、各露出量に対応する複数の認識処理をフレーム毎に切り替えながら処理する画像認識処理手段と、該画像認識処理手段における複数の認識処理に対応した露出基準値を複数保持し、フレーム毎に前記撮像手段で得られた露出量を判断し、任意の時点での前記画像認識処理手段における認識処理と、前記時点の認識処理に対応した露出基準値を、刻々と切り替わる認識処理のうち、同種の認識処理における次点フレームに反映されるように、適切なタイミングでフィードバックして前記撮像手段に再設定する露出制御手段と、前記画像認識処理手段によって得られた複数の認識処理結果である画像を1つの露出量の画像に重畳する画像重畳合成手段と、該画像重畳合成手段によって得られた結果画像を出力する画像出力手段と、を備えることを特徴とする。   In order to solve the above problems, the invention of claim 1 switches a plurality of recognition processes corresponding to each exposure amount for each frame based on image data picked up with different exposure amounts for each frame by the imaging means. The image recognition processing means to be processed while holding a plurality of exposure reference values corresponding to a plurality of recognition processes in the image recognition processing means, and determining the exposure amount obtained by the imaging means for each frame, at any time Of the image recognition processing means and the exposure reference value corresponding to the recognition process at the time point are appropriately reflected so as to be reflected in the next frame in the same kind of recognition process. An exposure control unit that feeds back and resets the imaging unit, and an image that is a plurality of recognition processing results obtained by the image recognition processing unit. Wherein the image superimposing synthesizing means for superimposing the image, and an image output means for outputting a result image obtained by the image superimposing combining means, in that it comprises.

本発明によれば、センサの露出量の基準値を認識処理に必要な分保持し、切り替え設定することで、2種類以上の異なる露出値でそれぞれに適した認識処理を行い、異なる認識処理結果を複数の露出量撮影画像のうち1つの画像に重畳合成してリアルタイムで視認することが出来る画像を生成可能な画像処理装置を提供することが出来る。   According to the present invention, the reference value of the exposure amount of the sensor is retained as much as necessary for the recognition process, and by performing switching setting, the recognition process suitable for each of the two or more different exposure values is performed, and different recognition process results It is possible to provide an image processing apparatus capable of generating an image that can be visually recognized in real time by superimposing and synthesizing with one of a plurality of exposure amount photographed images.

本発明の実施形態に係わる画像処理装置による各露出状況と認識処理結果および結果の合成画像について説明するための図。The figure for demonstrating each exposure condition by the image processing apparatus concerning embodiment of this invention, the recognition process result, and the synthesized image of a result. 本発明の実施形態に係わる画像処理装置の構成について説明するためのブロック図。1 is a block diagram for explaining a configuration of an image processing apparatus according to an embodiment of the present invention. 本発明の実施形態に係わる画像処理装置による、具体的なセンサ露出量制御と画像合成タイミングについて説明するための図(その1)。The figure for demonstrating the concrete sensor exposure amount control and image composition timing by the image processing apparatus concerning embodiment of this invention (the 1). 本発明の実施形態に係わる画像処理装置による露出制御および画像合成について説明するためのフローチャート。6 is a flowchart for explaining exposure control and image composition by the image processing apparatus according to the embodiment of the present invention. 本発明の実施形態に係わる画像処理装置による、具体的なセンサ露出量制御と画像合成タイミングについて説明するための図(その2)。The figure for demonstrating the concrete sensor exposure amount control and image composition timing by the image processing apparatus concerning embodiment of this invention (the 2). 従来の画像処理におけるメモリの使い方を示す図。The figure which shows the usage of the memory in the conventional image processing. 従来の画像処理におけるメモリの使い方を示す図。The figure which shows the usage of the memory in the conventional image processing. 従来の各露出状況と認識処理結果および結果の合成画像について説明するための図。The figure for demonstrating each conventional exposure condition, the recognition process result, and the synthesized image of a result. 本実施形態の画像処理装置を適用可能な車両を示す模式図。The schematic diagram which shows the vehicle which can apply the image processing apparatus of this embodiment.

本発明の実施の形態について図面を参照して説明する。
具体的には、車両前方画像認識処理結果を撮像結果に合成表示する装置において、以下の特徴を有する。
要するに、本発明は、複数の認識処理のそれぞれに必要な露出制御を行ない、露出制御と認識処理とを交互に切り替えて、得られた複数の露出値をもとに、異なる複数の認識処理結果をひとつの露出量設定で調整された画像に重畳することを特徴としている。
Embodiments of the present invention will be described with reference to the drawings.
Specifically, the apparatus for combining and displaying the vehicle front image recognition processing result with the imaging result has the following characteristics.
In short, the present invention performs exposure control necessary for each of a plurality of recognition processes, and alternately switches between exposure control and recognition processing, and based on a plurality of obtained exposure values, a plurality of different recognition processing results. Is superimposed on an image adjusted with one exposure amount setting.

上記特徴について、以下の図面を用いて具体的に説明する。
図1は、本発明の実施形態に係わる画像処理装置による各露出状況と認識処理結果および結果の合成画像について説明するための図である。
例えば、図1に示す処理前の画像1a(低露出画像)のようなAHBの場合、適切な露出量は認識率を維持できる程度にまで低くしてセンサより撮像データを取得する。この撮像フレームを画像認識処理部でハイビームの位置検知を行なう。対象のハイビームの画面上の座標を元に対象部分を囲む長方形枠(処理結果1bの枠)を処理結果に出力する。
一方、図1に示す画像2aのようなLDWの場合、夜間やトンネル内の暗所の場合、適切な露出量は認識率を維持できる程度にまで高くしてセンサから撮像データを取得する。この撮像フレームを画像認識処理部で白線の始点終点の位置検知を行なう。対象の白線の画面上の座標を元に対象部分に沿った直線(処理結果2bの線)を処理結果に出力する。
これら2画像分の結果を見やすい撮像フレーム(基本的に夜間などの暗所では露出の高い画像)に重畳して、目視で確認できるようなひとつの画像として出力した場合は図1に示す合成処理結果のようになる。
The above features will be specifically described with reference to the following drawings.
FIG. 1 is a diagram for explaining each exposure state, a recognition processing result, and a resultant composite image by the image processing apparatus according to the embodiment of the present invention.
For example, in the case of an AHB such as an unprocessed image 1a (low-exposure image) shown in FIG. 1, the appropriate exposure amount is reduced to a level that can maintain the recognition rate, and imaging data is acquired from the sensor. The image recognition processing unit detects the position of the high beam on the imaging frame. Based on the coordinates of the target high beam on the screen, a rectangular frame (frame of the processing result 1b) surrounding the target portion is output as the processing result.
On the other hand, in the case of an LDW such as the image 2a shown in FIG. 1, in a dark place at night or in a tunnel, the appropriate exposure amount is increased to such an extent that the recognition rate can be maintained, and image data is acquired from the sensor. The image recognition processing unit detects the position of the start point and the end point of the white line in this imaging frame. Based on the coordinates of the target white line on the screen, a straight line (line of the processing result 2b) along the target portion is output as the processing result.
When the results of these two images are superimposed on an easy-to-see imaging frame (basically a high-exposure image in a dark place such as at night) and output as a single image that can be visually confirmed, the composition processing shown in FIG. Like the result.

以下、本実施形態では、これら2種類の異なる露出量を必要とする認識処理例について説明する。
図2(a)は、本発明の実施形態に係わる画像処理装置11の構成について説明するためのブロック図である。
センサ12は、撮像手段を構成し、レジスタに設定されたフレーム毎に異なる露出量で撮像する。
画像補間生成部13は、センサ12の画素構成によって必要な画素値の補間処理を行なう部分であり、画像認識処理に必要な画像として補正し、画像重畳合成部14へ渡す。
画像認識処理部15は、フレーム毎に異なる露出量で得られる画像データに基づいて,各露出量に対応する複数の認識処理をフレーム毎に切り替えながら実施する。
画像認識処理部15は、メモリ14cに格納された画像データを用いて、暗所では高露出量を必要とする道路の白線検知処理、暗所では低露出量を必要とする対向車両のハイビーム検知処理を行い、処理結果から認識対象の画像上の基準位置座標を算出する。
Hereinafter, in the present embodiment, an example of recognition processing that requires these two types of different exposure amounts will be described.
FIG. 2A is a block diagram for explaining the configuration of the image processing apparatus 11 according to the embodiment of the present invention.
The sensor 12 constitutes an imaging unit and images with a different exposure amount for each frame set in the register.
The image interpolation generation unit 13 is a part that performs interpolation processing of necessary pixel values depending on the pixel configuration of the sensor 12, corrects it as an image necessary for image recognition processing, and passes it to the image superimposition synthesis unit 14.
The image recognition processing unit 15 performs a plurality of recognition processes corresponding to each exposure amount while switching each frame based on image data obtained with different exposure amounts for each frame.
The image recognition processing unit 15 uses the image data stored in the memory 14c to detect a white line on a road that requires a high exposure amount in a dark place, and detects a high beam of an oncoming vehicle that requires a low exposure amount in a dark place. Processing is performed, and reference position coordinates on the recognition target image are calculated from the processing result.

露出制御部16は、露出制御手段を構成し、画像認識処理部15における複数の認識処理に対応した露出基準値を複数保持し、フレーム毎にセンサ12で得られた露出量を自動的に判断し、ある時点での画像認識処理部15における認識処理と、保持してあるその時点の認識処理に対応した露出基準値を、刻々と切り替わる認識処理のうち、同種の認識処理における次点フレームに反映されるように、適切なタイミングに自動的にフィードバックしてセンサ12に再設定する。
露出制御部16は、画像補完処理生成回路13aから得られる画素データから、1フレーム画像をブロックに分けて、各ブロックの輝度量を測定する機能と、低露出用および高露出用の所定の露出量基準値、輝度算出用のパラメータ値、各ブロックで測定した輝度値、および所定タイミングでセンサ12へ設定するためのパラメータ値らを保持するレジスタ群を内蔵し、各ブロックの輝度量と露出量基準値、所定フレーム回数後にセンサ取得画像に反映させるための露出用パラメータを更新し、1フレーム分の処理毎に割り込み信号を発生させる機能を有する露出解析回路16aを備える。
露出制御部16は、割り込みに応じて所望の割り込み処理とセンサ12へのレジスタ設定を実行し、または画像認識処理部15で得られる画像上の認識対象物の基準位置座標に基づいて、結果出力用の露出量画像へ重畳する線や枠とする演算処理を実行するプロセッサ(CPU)を備える。
画像重畳合成部14は、画像認識処理部14によって得られた複数の認識処理結果をひとつの露出量の画像に重畳する。
画像出力部17は、画像重畳合成部14によって得られた結果画像を出力する。
The exposure control unit 16 constitutes an exposure control means, holds a plurality of exposure reference values corresponding to a plurality of recognition processes in the image recognition processing unit 15, and automatically determines the exposure amount obtained by the sensor 12 for each frame. Then, the recognition reference value in the image recognition processing unit 15 at a certain point in time and the exposure reference value corresponding to the recognized recognition processing at that point in time are used as the next frame in the same kind of recognition processing among the recognition processings that are switched every moment. In order to be reflected, feedback is automatically made at an appropriate timing to reset the sensor 12.
The exposure control unit 16 divides one frame image into blocks from the pixel data obtained from the image complementation processing generation circuit 13a and measures the luminance amount of each block, and predetermined exposure for low exposure and high exposure. A built-in register group that holds a reference amount value, a parameter value for calculating brightness, a brightness value measured in each block, and a parameter value to be set in the sensor 12 at a predetermined timing, and the brightness amount and exposure amount of each block An exposure analysis circuit 16a having a function of updating an exposure parameter to be reflected in the sensor acquired image after the reference value and a predetermined number of frames and generating an interrupt signal for every one frame of processing is provided.
The exposure control unit 16 executes desired interrupt processing and register setting to the sensor 12 in response to the interrupt, or outputs a result based on the reference position coordinates of the recognition target on the image obtained by the image recognition processing unit 15. A processor (CPU) that executes arithmetic processing to form a line or a frame to be superimposed on the exposure amount image.
The image superimposing and synthesizing unit 14 superimposes a plurality of recognition processing results obtained by the image recognition processing unit 14 on an image with one exposure amount.
The image output unit 17 outputs the result image obtained by the image superposition / synthesis unit 14.

図2(b)は、本発明の詳細な構成部について説明するための図である。
センサ12は、I2C通信規格の外部信号から露出制御が可能なセンサであり、露出量制御は画像処理系から行なう。
メモリ14cは、画像処理系の外部に接続するメモリ、フレームバッファとして使用するほか、CPU処理にも使用する。
モニタ18は、処理結果を合成した画像を表示する。
画像処理系は、以下の回路またはインターフェイスで構成される。
入力信号インターフェイス19は、センサ12から入力される同期信号を整形する。同時に画像データを受信し、タイミング調整をして画像補完生成回路13aへ出力する。
画像補完生成回路13aは、入力信号インターフェイスを経由した画像データの画素データを補完処理して、フレームバッファ切り替え回路14aと露出解析回路16aへ出力する。
FIG. 2B is a diagram for explaining the detailed components of the present invention.
The sensor 12 is a sensor capable of exposure control from an external signal of the I2C communication standard, and exposure amount control is performed from the image processing system.
The memory 14c is used not only as a memory and frame buffer connected to the outside of the image processing system but also for CPU processing.
The monitor 18 displays an image obtained by combining the processing results.
The image processing system includes the following circuits or interfaces.
The input signal interface 19 shapes the synchronization signal input from the sensor 12. At the same time, it receives image data, adjusts the timing, and outputs it to the image complement generation circuit 13a.
The image complement generation circuit 13a complements the pixel data of the image data via the input signal interface and outputs it to the frame buffer switching circuit 14a and the exposure analysis circuit 16a.

露出解析回路16aは、1フレーム分の輝度データからそのフレームの露出量を見積もり、あらかじめ定めた基準の露出量と比較して、条件に応じた露出量を露出設定用のレジスタに保持する。
フレームバッファ切り替え回路14aは、画像補完生成回路13aから画像データを受信し、内部のレジスタによって出力先となるメモリ14cのフレームバッファ領域を切り替える。設定されたフレームバッファの先頭アドレスから1フレーム分その領域に画像データを出力する。途中バスインターフェイスとメモリ制御回路14bを経由する。
画像重畳合成部14は、メモリを有し、フレームバッファ切り替え回路14aは、メモリ内にフレームバッファとしての領域を設け、所望の重畳結果となる出力画像を読み出す領域と、画像処理用領域と、前記撮像手段から得られる画像を書き込む領域と、フレームの切り替えタイミング時に同時に同じ領域に対する読み書きを行うのを防ぐ緩衝領域とに区分し、順次に露出制御部16からのタイミングに応じて画像領域を切り替えて選択する。
メモリ制御回路14bは、メモリ14cの動作を制御し、メモリ14cとフレームバッファ切り替え回路14a、CPU22、画像認識処理回路15a、画像出力回路17a間のデータフローを調停する。
The exposure analysis circuit 16a estimates the exposure amount of the frame from the luminance data for one frame, and stores the exposure amount according to the condition in the exposure setting register as compared with a predetermined reference exposure amount.
The frame buffer switching circuit 14a receives the image data from the image complement generation circuit 13a, and switches the frame buffer area of the memory 14c as the output destination by an internal register. Image data is output to the area for one frame from the set head address of the frame buffer. On the way through the bus interface and the memory control circuit 14b.
The image superimposing / synthesizing unit 14 has a memory, and the frame buffer switching circuit 14a provides an area as a frame buffer in the memory, an area for reading an output image as a desired superposition result, an image processing area, An area for writing an image obtained from the image pickup means and a buffer area for preventing reading and writing to the same area at the same time when the frame is switched, and sequentially switching the image area according to the timing from the exposure control unit 16 select.
The memory control circuit 14b controls the operation of the memory 14c, and arbitrates the data flow between the memory 14c, the frame buffer switching circuit 14a, the CPU 22, the image recognition processing circuit 15a, and the image output circuit 17a.

画像認識処理回路15aは、メモリ17cのフレームバッファのうち前処理回路からの書き込みを終えた処理用画像フレームを読み出し、認識処理を行なう。認識結果を所定のフレームバッファ領域に書き込む。この場合の所定のフレームバッファは処理用画像フレームに対し処理が終了し、後段の画像出力回路17aで読み出す画像合成結果のフレームとして保持される領域を示す。
画像出力回路17aは、メモリ14c内の所定のフレームバッファから画像フレームデータを読み出し、モニタ18に出力する。画像出力回路17aは、所定のフレームバッファの先頭アドレスを保持するレジスタをもち、処理が終わった後の画像フレームバッファ領域を読み出すよう、読み出し割り込み信号に応じた割り込み処理時に随時レジスタ値を更新する。
The image recognition processing circuit 15a reads the processing image frame that has been written from the preprocessing circuit in the frame buffer of the memory 17c, and performs recognition processing. The recognition result is written in a predetermined frame buffer area. The predetermined frame buffer in this case indicates an area held as a frame of an image synthesis result read out by the subsequent image output circuit 17a after processing for the processing image frame is completed.
The image output circuit 17a reads image frame data from a predetermined frame buffer in the memory 14c and outputs it to the monitor 18. The image output circuit 17a has a register for holding the start address of a predetermined frame buffer, and updates the register value at any time during interrupt processing corresponding to the read interrupt signal so as to read the image frame buffer area after the processing is completed.

CPU22は、中央演算処理装置を構成し、内部に設けられたROMからプログラムを読み出して実行することで、レジスタの読み書きや、割り込みハンドラをプログラム内で実行する。
センサ制御回路16bは、制御用レジスタをもち、センサ12に接続される。CPU22からレジスタに書き込むことで、センサ12のレジスタ値を更新することができる。センサ制御回路16bは、センサ12の初期設定や露出量を制御するために使用する。
レジスタインターフェイス20は、露光解析回路16bや画像認識処理回路15aのレジスタの読み書きを行なう。
The CPU 22 constitutes a central processing unit, and reads and executes a program from a ROM provided therein, thereby executing register read / write and an interrupt handler in the program.
The sensor control circuit 16 b has a control register and is connected to the sensor 12. The register value of the sensor 12 can be updated by writing to the register from the CPU 22. The sensor control circuit 16b is used to control the initial setting and exposure amount of the sensor 12.
The register interface 20 reads and writes the registers of the exposure analysis circuit 16b and the image recognition processing circuit 15a.

図3〜図5は、具体的なセンサに対する露出量制御と画像合成タイミングについて説明するための図である。
以下、図4(a)に示すフローチャートを参照して、露出制御について説明する。
ステップS10では、センサ12から露出制御を反映した撮像フレームが画像処理系に出力される。センサ露出制御はCPU処理を介して行なう(図3に示す処理(1)または処理(8))。露出量の基準値を高いものと低いものでそれぞれ専用のレジスタに設定してセンサ制御のタイミングでそれぞれを交互に使用するため高露出と低露出とにおける適正露出に補正された画像が交互に得られる。なお、交互に得られる低露出画像と高露出画像とを合成処理単位とする。
ステップS15では、露出解析回路16aが取得したフレーム内の輝度測定を行い、輝度測定値をもとに現在の露出設定が高いか低いかを判定し、露出補正パラメータ値を算出し、露出が低いフレームであると判定された場合は、所定フレーム数後に使用される低い露出量用パラメータを算出された補正値に更新する。
3 to 5 are diagrams for explaining exposure amount control and image synthesis timing for specific sensors.
Hereinafter, exposure control will be described with reference to the flowchart shown in FIG.
In step S10, an imaging frame reflecting exposure control is output from the sensor 12 to the image processing system. Sensor exposure control is performed through CPU processing (processing (1) or processing (8) shown in FIG. 3). The reference values for the exposure amount are set to dedicated registers for high and low values, and each is used alternately at the timing of sensor control, so images that have been corrected to appropriate exposures at high and low exposures are obtained alternately. It is done. Note that a low-exposure image and a high-exposure image obtained alternately are set as a synthesis processing unit.
In step S15, the luminance in the frame acquired by the exposure analysis circuit 16a is measured, it is determined whether the current exposure setting is high or low based on the luminance measurement value, the exposure correction parameter value is calculated, and the exposure is low. If it is determined that the frame is a frame, the low exposure amount parameter used after a predetermined number of frames is updated to the calculated correction value.

一方、露出が高いフレームであると判定された場合は、所定フレーム数後に使用される露出量用パラメータを算出された補正値に更新する(図3に示す処理(2)または処理(9))。
ステップS20では、露出解析回路16aがステップS15直後に割り込み信号を発行し、割り込み制御回路2へ発行する(図3に示す処理(3)または処理(10))。
ステップS25では、割り込み制御回路21は、他の割り込み信号と調停しCPU22へ露出制御用の割り込み信号を発生する。CPU22がこの割り込み信号を取得し、割り込みハンドラで露出設定用のレジスタ値(パラメータ)を読み出し、センサ制御回路16bを介してセンサ12のレジスタに書き込む。(図3に示す処理(4)または処理(11))
なお、センサ12への反映タイミングはセンサの仕様に依存するが、以下の仕組みで反映までのフレーム時間に関わらず交互に露出設定が可能となる。
On the other hand, when it is determined that the frame has a high exposure, the exposure amount parameter used after a predetermined number of frames is updated to the calculated correction value (process (2) or process (9) shown in FIG. 3). .
In step S20, the exposure analysis circuit 16a issues an interrupt signal immediately after step S15 and issues it to the interrupt control circuit 2 (process (3) or process (10) shown in FIG. 3).
In step S <b> 25, the interrupt control circuit 21 arbitrates with other interrupt signals and generates an exposure control interrupt signal to the CPU 22. The CPU 22 acquires this interrupt signal, reads the exposure setting register value (parameter) by the interrupt handler, and writes it to the register of the sensor 12 via the sensor control circuit 16b. (Process (4) or process (11) shown in FIG. 3)
Although the reflection timing to the sensor 12 depends on the specification of the sensor, exposure can be set alternately regardless of the frame time until reflection by the following mechanism.

露出解析回路16aでは、ある時点の露出設定値を保持するレジスタにおいて露出量の種類Nが高低2種とした場合、expo[0](低露出用)およびexpo[1](高露出用)とし、ある時点でexpo[i](i=0または1)であるとし、次の設定ではexpo[next_i](next_i=0または1)の値をセンサ制御に使用するものとする。
センサ12のレジスタ値を更新した時点から、その値がセンサ12の露出に反映されるまでのフレーム時間をフレーム数Fとすると、以下の式で次の時点でどちらの露出設定レジスタを使用するかが決定される。
next_i=mod((i+F),N) ・・・(1)
なお、式(1)のmodは余剰演算とする。
In the exposure analysis circuit 16a, when the type of exposure amount N is two types of high and low in the register that holds the exposure setting value at a certain time, it is set to expo [0] (for low exposure) and expo [1] (for high exposure). It is assumed that expo [i] (i = 0 or 1) at a certain time point, and in the next setting, the value of expo [next_i] (next_i = 0 or 1) is used for sensor control.
Assuming that the frame time from when the register value of the sensor 12 is updated until the value is reflected in the exposure of the sensor 12 is the number of frames F, which exposure setting register is used at the next time in the following equation. Is determined.
next_i = mod ((i + F), N) (1)
Note that mod in the equation (1) is a surplus operation.

ステップS30では、センサ12はレジスタに書かれた露出設定を所定フレーム数後に撮像に使用する。撮像毎に適切なタイミングで交互に異なる露出設定を書き換えることで、露出の低いフレームと高いフレームが交互に取得できる。
図に示す例では、露出量の種類がN=2、フレーム数F=3の場合となり、ある時点で低露出値のexpo[0]レジスタが使用されたとすると、next_i=1となり高露出値のexpo[1]レジスタ値がセンサ12に設定され、3フレーム後にセンサ12から得られる画像への露出量に反映される。次に、ステップS10に戻り、上記処理を繰り返す。
本実施形態に示した露出制御の例では、露出値の設定を相対的に高いものと低いものとの2種類で示しているが、本発明はこのような場合に限定されるものではなく、expo[i]のレジスタを2種類以上実装することで、さらに多くの異なる露出値の設定が可能になる。
In step S30, the sensor 12 uses the exposure setting written in the register for imaging after a predetermined number of frames. By rewriting different exposure settings alternately at appropriate timing for each imaging, frames with low exposure and frames with high exposure can be obtained alternately.
In the example shown in the figure, the type of exposure amount is N = 2 and the number of frames F = 3. If the low exposure value expo [0] register is used at a certain point in time, next_i = 1 and the high exposure value is set. The expo [1] register value is set in the sensor 12 and is reflected in the exposure amount to the image obtained from the sensor 12 after three frames. Next, it returns to step S10 and repeats the said process.
In the example of exposure control shown in this embodiment, the exposure value is set in two types of relatively high and low, but the present invention is not limited to such a case. By mounting two or more types of expo [i] registers, more different exposure values can be set.

以下、図4(b)に示すフローチャートを参照して、画像合成について説明する。
ステップS50では、処理(1)で得られたセンサ画像は画像補完生成回路13aで補完された画素データがフレームバッファ切り替え回路14aに出力される。フレームバッファ切り替え回路14aは、直前のフレームがフレームバッファにすべて送られた直後に割り込み信号が発生すると、CPU処理でフレームバッファアドレス切り替え用の割り込みハンドラが起動し、書き込み先のアドレスを切り替える。
フレームバッファ切り替え回路14aは、同時に処理用のアドレスを切り替え、書き込み先と処理中のアドレスが重ならないようにする。フレームバッファ切り替え回路14aは、アドレスを切り替える際にその時点の露出条件(高低)を読み出し、時点の露出量が高い場合は切り替え先を低露出量フレーム用に、低い場合は切り替え先を高露出量フレーム用のフレームバッファアドレスとする。(図3に示す処理(5)または処理(12))
ステップS55では、画像補完生成回路13aから出力されるメモリ14c内のフレームデータをフレームバッファへ格納する。図3に示す例では、処理(1)の直前のフレームがフレームバッファに送られた直後で低露出用フレームバッファアドレスに切り替えられている。そのため、処理(1)で得られた低露出量の画像は、メモリ14c内の低露出量用のフレームバッファに一時格納される。同様に処理(8)で得られた高露出量の画像は、メモリ14c内の高露出量用のフレームバッファに一時格納される。
Hereinafter, image composition will be described with reference to the flowchart shown in FIG.
In step S50, pixel data complemented by the image complement generation circuit 13a is output to the frame buffer switching circuit 14a from the sensor image obtained in the process (1). When an interrupt signal is generated immediately after all the previous frames are sent to the frame buffer, the frame buffer switching circuit 14a activates an interrupt handler for frame buffer address switching by CPU processing, and switches the write destination address.
The frame buffer switching circuit 14a simultaneously switches the processing address so that the write destination and the address being processed do not overlap. The frame buffer switching circuit 14a reads the exposure condition (high / low) at the time when switching the address. When the exposure amount at the time is high, the switching destination is for the low exposure amount frame, and when it is low, the switching destination is the high exposure amount. The frame buffer address for the frame is used. (Process (5) or process (12) shown in FIG. 3)
In step S55, the frame data in the memory 14c output from the image complement generation circuit 13a is stored in the frame buffer. In the example shown in FIG. 3, the frame immediately before the process (1) is switched to the low exposure frame buffer address immediately after being sent to the frame buffer. Therefore, the low exposure amount image obtained in the process (1) is temporarily stored in the low exposure amount frame buffer in the memory 14c. Similarly, the high exposure image obtained in the process (8) is temporarily stored in the high exposure frame buffer in the memory 14c.

ステップS60では、画像認識処理回路15aで認識処理を行なう。図3に示す例では、処理(1)の直前のフレームがフレームバッファに送られた直後で低露出用フレームバッファアドレス(処理用)に切り替えられているので、処理(1)で得られた低露出量の画像は低露出量用のフレームバッファ(処理用)から読み出され、処理結果をレジスタに保持する。オートハイビーム検知処理では、低露出で画像上の認識されたハイビームを囲む長方形枠の左上と右下の座標が保持される。白線検知処理では、認識された白線に沿った直線の始点と終点の座標が保持される。
ステップS65では、認識結果の座標に基づいて直線または枠線を、すでにメモリ14c内のフレームバッファに格納されている高露出画像に重畳合成する。
ステップS70では、合成された画像を画像出力回路17aが読出しモニタ18に出力される。1フレーム分の読出し完了毎に割り込み信号を発生し、読み出すフレームバッファの領域を切り替える。次に、ステップS50に戻り、処理を繰り返す。
In step S60, the image recognition processing circuit 15a performs recognition processing. In the example shown in FIG. 3, the frame immediately before the process (1) is switched to the low-exposure frame buffer address (for processing) immediately after being sent to the frame buffer. The exposure amount image is read from the low exposure amount frame buffer (for processing), and the processing result is held in the register. In the auto high beam detection process, the coordinates of the upper left and lower right of the rectangular frame surrounding the recognized high beam on the image with low exposure are maintained. In the white line detection process, the coordinates of the start point and end point of the straight line along the recognized white line are held.
In step S65, a straight line or a frame line is superimposed and synthesized on the high-exposure image already stored in the frame buffer in the memory 14c based on the recognition result coordinates.
In step S70, the image output circuit 17a reads the synthesized image and outputs it to the monitor 18. An interrupt signal is generated every time reading of one frame is completed, and the frame buffer area to be read is switched. Next, it returns to step S50 and repeats a process.

この例も、露出値が高低2種類の場合のフレームバッファ切り替えに限らず、露出値に対応した分のフレームバッファ領域を実装し、前述の露出量制御と同期を取ることで、複数の露出値に応じた認識処理に対応できる。
認識処理における必要な露出量がN種類の場合、重畳画像表示は撮像時点からN−1フレーム分だけ時間的に遅れる。なお実質的には、露出量の種類はN≦4が望ましい。
この場合でも認識結果が数フレーム分ずれる可能性があるが、認識結果は線や枠といった単純な図形として表示するため、実際の走行用に必要な撮像フレーム速度は十分に速いセンサを使用することが前提となるため画像上に大きなズレは発生しない。
認識処理自体の数は、露出量と同じである必要はなく、システム容量や処理速度の許す限り、実装してよい。その場合、いくつかの認識処理は複数ある露出値のいずれかを共用することが前提となる。
This example is not limited to frame buffer switching when the exposure value is two types of high and low, but a frame buffer area corresponding to the exposure value is mounted, and a plurality of exposure values are obtained by synchronizing with the exposure amount control described above. It can correspond to the recognition process according to.
When N types of exposures are required in the recognition process, the superimposed image display is delayed in time by N-1 frames from the time of imaging. In practice, it is desirable that the type of exposure amount is N ≦ 4.
Even in this case, the recognition result may be shifted by several frames. However, since the recognition result is displayed as a simple figure such as a line or a frame, use a sensor that has a sufficiently high imaging frame speed for actual driving. Therefore, there will be no significant shift on the image.
The number of recognition processes itself need not be the same as the exposure amount, and may be implemented as long as the system capacity and processing speed allow. In that case, it is assumed that some recognition processes share one of a plurality of exposure values.

このようにして、メモリ14c内のフレームバッファ領域を露出の種類毎に複数設け、かつそれぞれの露出量用に、書き込み用領域、処理用領域、合成出力用領域を切り替えると図5に示すようになる。図5に示すN/Aの領域は、書き込みタイミングが読み出し時に読み出し用の領域に同時にアクセスするのを防ぐための緩衝領域である。
図5に示すように、一方の緩衝領域N/Aが余分となる場合はこの領域をひとつ減らしメモリ領域をより節約してもよい。
In this way, when a plurality of frame buffer areas in the memory 14c are provided for each exposure type, and the writing area, the processing area, and the composite output area are switched for each exposure amount, as shown in FIG. Become. The N / A area shown in FIG. 5 is a buffer area for preventing simultaneous access to the read area when the write timing is read.
As shown in FIG. 5, when one buffer area N / A becomes redundant, this area may be reduced by one to further save the memory area.

ところで、従来の画像処理におけるメモリの使い方としては、図6に示すように、メモリ100への格納はトグル状に切り替える方法が考えられる。しかし、従来の単純なトグル方式では単一の処理結果に対応可能だが、複数の認識結果を出力するのには対応できないといった問題があった。
また、図7に示すように、通常の画像処理システムのようにメモリ110にセンサからの画像データを一時格納し重畳合成を含む画像認識処理を行なった後、出力用メモリ120へ結果画像をコピーしてからモニタに出力するという構成では、メモリ資源を有効に活用しきれていない。
これに対して、本実施形態によれば、上記したようなメモリ14c内のフレームバッファ切り替えを行う。すなわち、図5に示すように領域をトグル形式のように順次に切り替えることで、メモリ資源を有効に利用し複数の画像認識処理結果を同一画面上で表示することが可能となる。
本発明によれば、センサの露出量の基準値を認識処理に必要な分保持し、切り替え設定することで、2種類以上の異なる露出値でそれぞれに適した認識処理を行なえる。
Incidentally, as a method of using the memory in the conventional image processing, as shown in FIG. 6, a method of switching the storage in the memory 100 to a toggle shape is conceivable. However, the conventional simple toggle method can cope with a single processing result, but cannot cope with outputting a plurality of recognition results.
Further, as shown in FIG. 7, after the image data from the sensor is temporarily stored in the memory 110 and the image recognition process including the superposition synthesis is performed in the memory 110 as in the normal image processing system, the result image is copied to the output memory 120. In the configuration in which the data is output to the monitor after that, the memory resources are not fully utilized.
On the other hand, according to the present embodiment, the frame buffer in the memory 14c as described above is switched. That is, as shown in FIG. 5, by sequentially switching the areas like a toggle format, it is possible to effectively use memory resources and display a plurality of image recognition processing results on the same screen.
According to the present invention, the reference value of the exposure amount of the sensor is stored as much as necessary for the recognition processing, and the recognition processing suitable for each of the two or more different exposure values can be performed by switching setting.

また、雨路の白線のような不可視情報もしくは視認しにくい情報の認識処理と、複数の異なる露出量を必要とする別の認識処理とが共存しつつ、認識率を低下させずに、その認識結果を同一画像上に表示する。
さらに、単一のシステムで複数の認識処理を行なえるため、装置のコスト削減を図れる。
この結果、夜間や雨路の白線などの視認しにくい検知物情報とそれとは異なる複数の認識処理結果がリアルタイムに同一画面上で視認できる。そのため、より安全運転の判断がしやすくなる。
他に、システムのコスト削減、認識処理種類に応じた拡張性の効果も期待できる。
In addition, recognition processing of invisible information such as white lines on rainy roads or information that is difficult to visually recognize coexists with other recognition processing that requires multiple different exposure amounts, and without recognizing the recognition rate. The result is displayed on the same image.
Furthermore, since a plurality of recognition processes can be performed with a single system, the cost of the apparatus can be reduced.
As a result, detected object information that is difficult to visually recognize, such as night lines and white lines on rainy roads, and a plurality of different recognition processing results can be visually recognized on the same screen in real time. Therefore, it becomes easier to judge safe driving.
In addition, it can be expected to reduce the cost of the system and expand according to the type of recognition processing.

<その他の実施形態>
図9は、本実施形態の画像処理装置を適用可能な車両を示す模式図である。
本実施形態の画像処理システムは、車両100の周辺、例えば前方の画像を取得するための撮像ユニット101と、取得した画像に解析処理した車両100の前方の映像を、車内適所に設けた画像表示ユニット103に出力する画像解析ユニット102と、を備えている。
なお、画像解析ユニット102の一部の機能として、上記実施形態の画像処理系(画像処理装置)12を適用することが出来る。
また、撮像ユニット101としては上記実施形態のセンサ12、画像表示ユニット103としては上記実施形態のモニタ18を適用することが出来る。
なお、撮像ユニット101は、車両100が走行する前方の画像を撮像できるように、座席のルームミラー位置等に設置されている。
<Other embodiments>
FIG. 9 is a schematic diagram showing a vehicle to which the image processing apparatus of this embodiment can be applied.
The image processing system according to the present embodiment includes an image display unit 101 for acquiring an image around the vehicle 100, for example, a front image, and an image display in which an image in front of the vehicle 100 analyzed for the acquired image is provided at an appropriate position in the vehicle. And an image analysis unit 102 that outputs to the unit 103.
Note that the image processing system (image processing apparatus) 12 of the above-described embodiment can be applied as a partial function of the image analysis unit 102.
Further, the sensor 12 of the above embodiment can be applied as the imaging unit 101, and the monitor 18 of the above embodiment can be applied as the image display unit 103.
In addition, the imaging unit 101 is installed in a room mirror position of the seat or the like so that an image in front of the vehicle 100 traveling can be captured.

撮像ユニット101で撮像された車両前方の映像(画像)は、画像信号化されて画像解析ユニット102に入力される。画像解析ユニット102は、撮像ユニット101から出力された画像信号を解析して、車両前方の映像を画像表示ユニット103(モニタ18)に表示する。
画像解析ユニットとして、上記実施形態の画像処理装置を用いることで、夜間や雨路の白線などの視認しにくい検知物情報と、それとは異なる複数の認識処理結果がリアルタイムに同一画面上で視認できる。そのため、より安全運転の判断がしやすい車両を実現することが出来る。
なお、撮像ユニット101の設置位置は、車両前方を撮像するためのルームミラー位置に限らず、例えば駐車等時に車両後方を撮像して、その映像を画像表示ユニット103に表示できるように、リアウィンドウ周辺に設けるようにしても良い。
A video (image) in front of the vehicle imaged by the imaging unit 101 is converted into an image signal and input to the image analysis unit 102. The image analysis unit 102 analyzes the image signal output from the imaging unit 101 and displays a video in front of the vehicle on the image display unit 103 (monitor 18).
By using the image processing apparatus of the above-described embodiment as an image analysis unit, it is possible to visually recognize detected object information such as night lines and white lines on rainy roads and a plurality of different recognition processing results on the same screen in real time. . Therefore, it is possible to realize a vehicle that makes it easier to judge safe driving.
Note that the installation position of the imaging unit 101 is not limited to the position of the room mirror for imaging the front of the vehicle. For example, the rear window can be used to capture the rear of the vehicle during parking or the like and display the image on the image display unit 103. You may make it provide in the periphery.

11 画像処理装置、12 センサ、13 画像補間生成部、14 画像重畳合成部、14a フレームバッファ切り替え回路、14b メモリ制御回路、14c メモリ、15 画像認識処理部、15a 画像認識処理回路、16 露出制御部、16a 露光解析回路、17 画像出力部、18 モニタ、19 入力信号インターフェイス、20 レジスタインターフェイス、21 割り込み制御回路 DESCRIPTION OF SYMBOLS 11 Image processing apparatus, 12 Sensor, 13 Image interpolation production | generation part, 14 Image superimposition synthetic | combination part, 14a Frame buffer switching circuit, 14b Memory control circuit, 14c Memory, 15 Image recognition processing part, 15a Image recognition processing circuit, 16 Exposure control part , 16a Exposure analysis circuit, 17 image output unit, 18 monitor, 19 input signal interface, 20 register interface, 21 interrupt control circuit

特許4253271号Japanese Patent No. 4253271 特開2009−177250号公報JP 2009-177250 A

Claims (9)

撮像手段によってフレーム毎に異なる露出量で撮像された画像データに基づいて、各露出量に対応する複数の認識処理をフレーム毎に切り替えながら処理する画像認識処理手段と、
該画像認識処理手段における複数の認識処理に対応した露出基準値を複数保持し、フレーム毎に前記撮像手段で得られた露出量を判断し、任意の時点での前記画像認識処理手段における認識処理と、前記時点の認識処理に対応した露出基準値を、刻々と切り替わる認識処理のうち、同種の認識処理における次点フレームに反映されるように、適切なタイミングでフィードバックして前記撮像手段に再設定する露出制御手段と、
前記画像認識処理手段によって得られた複数の認識処理結果である画像を1つの露出量の画像に重畳する画像重畳合成手段と、
該画像重畳合成手段によって得られた結果画像を出力する画像出力手段と、を備えることを特徴とする画像処理装置。
Image recognition processing means for processing a plurality of recognition processes corresponding to each exposure amount while switching for each frame, based on image data picked up with different exposure amounts for each frame by the imaging means;
A plurality of exposure reference values corresponding to a plurality of recognition processes in the image recognition processing means are held, an exposure amount obtained by the imaging means is determined for each frame, and a recognition process in the image recognition processing means at an arbitrary time point Then, the exposure reference value corresponding to the recognition process at the time point is fed back at an appropriate timing so that it is reflected in the next point frame in the same kind of recognition process among the recognition processes that are switched every moment, and is re-applied to the imaging unit. Exposure control means to be set;
Image superimposing and synthesizing means for superimposing an image as a plurality of recognition processing results obtained by the image recognition processing means on an image of one exposure amount;
And an image output means for outputting a result image obtained by the image superposition and synthesis means.
前記画像重畳合成手段は、メモリを有し、前記メモリ内にフレームバッファとしての領域を設け、所望の重畳結果となる出力画像を読み出す領域と、画像処理用領域と、前記撮像手段から得られる画像を書き込む領域と、フレームの切り替えタイミング時に同時に同じ領域に対する読み書きを行うのを防ぐ緩衝領域とに区分し、順次に前記露出制御手段からのタイミングに応じて画像領域を切り替えて選択するフレームバッファ切り替え手段を備えることを特徴とする請求項1記載の画像処理装置。   The image superimposing / synthesizing unit has a memory, and an area as a frame buffer is provided in the memory, an area for reading an output image as a desired superimposition result, an image processing area, and an image obtained from the imaging unit Frame buffer switching means for dividing the image area into a buffer area for preventing simultaneous reading and writing to the same area at the frame switching timing, and sequentially switching and selecting the image area in accordance with the timing from the exposure control means The image processing apparatus according to claim 1, further comprising: 前記撮像手段から得られる画像データに基づいて、複数の画像認識処理毎に後続のフレームに対して前記撮像手段に設定するための露出量設定値を算出する露出解析手段を備えることを特徴とする請求項1記載の画像処理装置。   An exposure analysis unit that calculates an exposure amount setting value for setting in the imaging unit for a subsequent frame for each of a plurality of image recognition processes based on image data obtained from the imaging unit is provided. The image processing apparatus according to claim 1. 前記露出解析手段からの露出量設定値に基づいて、所定のタイミングで異なる露出量を前記撮像手段に設定する露出制御手段を備えることを特徴とする請求項3記載の画像処理装置。   The image processing apparatus according to claim 3, further comprising an exposure control unit configured to set a different exposure amount in the imaging unit at a predetermined timing based on an exposure amount setting value from the exposure analysis unit. 前記撮像手段から得られる画像データを画像処理に適したデータに補完するための画像補完処理手段と、
前記撮像手段から得られる画像データを入力し、前記画像補完処理手段へ受け渡すと同時に、前記画像補完処理手段と前記露出解析手段および前記フレームバッファ切り替え手段へのデータ処理および割り込み信号のタイミング調整用信号を生成する信号生成手段と、を備えることを特徴とする請求項4記載の画像処理装置。
Image complement processing means for complementing image data obtained from the imaging means to data suitable for image processing;
For inputting image data obtained from the image pickup means and transferring the image data to the image complement processing means, and simultaneously for data processing to the image complement processing means, the exposure analysis means and the frame buffer switching means, and timing adjustment of interrupt signals. The image processing apparatus according to claim 4, further comprising a signal generation unit configured to generate a signal.
前記露出制御手段は、前記画像補完処理手段から得られる画像データから、1フレーム画像をブロックに分けて、各ブロックの輝度量を測定する機能と、低露出用および高露出用の所定の露出量基準値、輝度算出用のパラメータ値、各ブロックで測定した輝度値、および所定タイミングで前記撮像手段へ設定するためのパラメータ値らを保持するレジスタ群を内蔵し、各ブロックの輝度量と露出量基準値、所定フレーム回数後にセンサ取得画像に反映させるための露出用パラメータを更新し、1フレーム分の処理毎に割り込み信号を発生させる機能を有する露出解析手段を備えることを特徴とする請求項1記載の画像処理装置。   The exposure control unit has a function of dividing one frame image into blocks from the image data obtained from the image complement processing unit and measuring the luminance amount of each block, and predetermined exposure amounts for low exposure and high exposure Built-in register group that holds reference values, parameter values for brightness calculation, brightness values measured in each block, and parameter values for setting to the image pickup means at a predetermined timing, and the brightness amount and exposure amount of each block 2. An exposure analysis unit having a function of updating a reference value and an exposure parameter to be reflected in a sensor-acquired image after a predetermined number of frames and generating an interrupt signal for each process of one frame. The image processing apparatus described. 前記メモリに格納された画像データを用いて、暗所では高露出量を必要とする道路の白線検知処理、暗所では低露出量を必要とする対向車両のハイビーム検知処理を行い、処理結果から認識対象の画像上の基準位置座標を算出する画像認識処理手段を備えることを特徴とする請求項1記載の画像処理装置。   Using the image data stored in the memory, white line detection processing for roads requiring high exposure in dark places, high beam detection processing for oncoming vehicles requiring low exposure in dark places, and processing results 2. The image processing apparatus according to claim 1, further comprising image recognition processing means for calculating a reference position coordinate on the recognition target image. 前記露出制御手段は、割り込みに応じて所望の割り込み処理と前記撮像手段へのレジスタ設定を実行し、または前記画像認識処理手段で得られる画像上の認識対象物の基準位置座標に基づいて、結果出力用の露出量画像へ重畳する線や枠とする演算処理を実行するプロセッサを備えることを特徴とする請求項1記載の画像処理装置。   The exposure control means executes a desired interrupt process and register setting to the imaging means in response to the interrupt, or results based on the reference position coordinates of the recognition object on the image obtained by the image recognition processing means. The image processing apparatus according to claim 1, further comprising: a processor that executes arithmetic processing to form lines and frames to be superimposed on the output exposure amount image. 車両周囲の画像データを取得する撮像手段と、該撮像手段によって撮像された前記画像データを処理する画像処理手段と、該画像処理手段によって処理された画像データに係る画像を表示する画像表示装置と、を備え、前記画像処理手段は、請求項1乃至8の何れか一項に記載の画像処理装置であることを特徴とする車両。   Imaging means for acquiring image data around the vehicle, image processing means for processing the image data picked up by the imaging means, and an image display device for displaying an image related to the image data processed by the image processing means The vehicle is characterized in that the image processing means is the image processing apparatus according to any one of claims 1 to 8.
JP2012036058A 2012-02-22 2012-02-22 Image processing device and vehicle Pending JP2013172378A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012036058A JP2013172378A (en) 2012-02-22 2012-02-22 Image processing device and vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012036058A JP2013172378A (en) 2012-02-22 2012-02-22 Image processing device and vehicle

Publications (1)

Publication Number Publication Date
JP2013172378A true JP2013172378A (en) 2013-09-02

Family

ID=49266036

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012036058A Pending JP2013172378A (en) 2012-02-22 2012-02-22 Image processing device and vehicle

Country Status (1)

Country Link
JP (1) JP2013172378A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016021038A1 (en) * 2014-08-08 2016-02-11 日産自動車株式会社 Traffic signal detection device and traffic signal detection method
CN108353134A (en) * 2015-10-30 2018-07-31 三星电子株式会社 Use the filming apparatus and its image pickup method of multiple-exposure sensor
WO2020230660A1 (en) * 2019-05-10 2020-11-19 ソニーセミコンダクタソリューションズ株式会社 Image recognition device, solid-state imaging device, and image recognition method

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016021038A1 (en) * 2014-08-08 2016-02-11 日産自動車株式会社 Traffic signal detection device and traffic signal detection method
JPWO2016021038A1 (en) * 2014-08-08 2017-06-29 日産自動車株式会社 Signal detection device and signal detection method
CN108353134A (en) * 2015-10-30 2018-07-31 三星电子株式会社 Use the filming apparatus and its image pickup method of multiple-exposure sensor
WO2020230660A1 (en) * 2019-05-10 2020-11-19 ソニーセミコンダクタソリューションズ株式会社 Image recognition device, solid-state imaging device, and image recognition method
US11805330B2 (en) 2019-05-10 2023-10-31 Sony Semiconductor Solutions Corporation Image recognition device, solid-state imaging device, and image recognition method

Similar Documents

Publication Publication Date Title
JP2009017020A (en) Image processor and method for generating display image
US10875452B2 (en) Driving assistance device and driving assistance method
JP6406159B2 (en) In-vehicle display control device, in-vehicle display control method
JP2008034966A (en) Image display apparatus
WO2016147584A1 (en) Vehicle monitoring device, vehicle monitoring method, and vehicle monitoring program
JP2011178301A (en) Obstacle detection device, obstacle detection system including the same, and obstacle detection method
JP2012174152A (en) Image processing device, image processing system and image processing method
JP6447289B2 (en) Imaging apparatus, imaging method, program, vehicle control system, and vehicle
JP2017033402A (en) Vehicle-mounted display control device and vehicle-mounted display control method
JP2004343676A (en) Camera system for automobile and double exposed video acquisition method
US11528453B2 (en) Sensor fusion based perceptually enhanced surround view
US20190174065A1 (en) Image display apparatus
US10455159B2 (en) Imaging setting changing apparatus, imaging system, and imaging setting changing method
JP2013172378A (en) Image processing device and vehicle
JP2006080752A (en) Exposure controller for camera and exposure control method for camera
JP6407596B2 (en) Image processing apparatus and driving support system
US20220408062A1 (en) Display control apparatus, display control method, and program
JP6032141B2 (en) Travel road marking detection device and travel road marking detection method
JP2008230561A (en) Photographing control device and photometry area adjustment method
JP2007153087A (en) System and method for determining collision with obstacle, and computer program
WO2020162498A1 (en) Information processing device
JP6866212B2 (en) Display control device, display control method and camera monitoring system
JP7262043B2 (en) Anomaly detection system, moving body, anomaly detection method, and program
WO2020049806A1 (en) Image processing device and image processing method
EP3396620B1 (en) Display control device and display control method