JP4747670B2 - Image processing device - Google Patents

Image processing device Download PDF

Info

Publication number
JP4747670B2
JP4747670B2 JP2005148469A JP2005148469A JP4747670B2 JP 4747670 B2 JP4747670 B2 JP 4747670B2 JP 2005148469 A JP2005148469 A JP 2005148469A JP 2005148469 A JP2005148469 A JP 2005148469A JP 4747670 B2 JP4747670 B2 JP 4747670B2
Authority
JP
Japan
Prior art keywords
image
partial
imaging
sensitivity
cursor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005148469A
Other languages
Japanese (ja)
Other versions
JP2006325135A (en
Inventor
浩司 大方
貴之 木村
健太郎 望田
史生 浅倉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2005148469A priority Critical patent/JP4747670B2/en
Publication of JP2006325135A publication Critical patent/JP2006325135A/en
Application granted granted Critical
Publication of JP4747670B2 publication Critical patent/JP4747670B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Studio Devices (AREA)

Description

本発明は、画像処理装置に関するものである。   The present invention relates to an image processing apparatus.

従来、単一のCCDに対して赤外光の波長帯と可視光の波長帯の両方に感度を持たせたCCDカメラが提案されている(例えば、特許文献1参照。)。この特許文献1に開示されているCCDカメラによれば、外来光の波長帯を選択付与する光学フィルタに、赤外線除去効果のない透過部と赤外光をカットする赤外線フィルタ部とを所定比率で分散配置する。   Conventionally, a CCD camera has been proposed in which a single CCD has sensitivity in both the wavelength band of infrared light and the wavelength band of visible light (see, for example, Patent Document 1). According to the CCD camera disclosed in Patent Document 1, an optical filter that selectively gives a wavelength band of extraneous light has a predetermined ratio between a transmission part that does not remove infrared rays and an infrared filter part that cuts infrared light. Distribute.

この構成により、可視光と赤外光の外来光は、光学フィルタを通り、透過部を通過した赤外光を含むフィルタ透過光はそれに対応したCCDの各画素のセンサで受けられ、赤外線フィルタ部を通過した赤外線カット光もそれに対応した各画素のセンサで受けられて、それぞれ電気信号に変換され、映像信号出力として取り出される。
特開平11−289491号公報
With this configuration, the external light of visible light and infrared light passes through the optical filter, and the filter transmitted light including the infrared light that has passed through the transmission part is received by the corresponding sensor of each pixel of the CCD, and the infrared filter part The infrared cut light that has passed through is received by the corresponding sensor of each pixel, converted into an electric signal, and extracted as a video signal output.
JP 11-289491 A

ところで、道路上の白線を認識する白線認識や、夜間における車両前方の視界を確保するナイトビュー等の周知の車両用のアプリケーションでは、アプリケーション毎に個別の撮像装置が用いられている。これらの撮像装置は、共に車両前方を撮影するものであるにも係らず、アプリケーションの違い(言い換えれば用途の違い)に伴う光学特性の違いから、アプリケーション毎に用意されている。   By the way, in known vehicle applications such as white line recognition for recognizing a white line on a road and night view for securing a field of view in front of the vehicle at night, an individual imaging device is used for each application. These imaging apparatuses are prepared for each application due to the difference in optical characteristics due to the difference in application (in other words, the difference in use) even though both of them capture the front of the vehicle.

一方、上述した、従来技術のCCDカメラは、可視光と赤外光の波長帯の両方に感度を持っていることから、このCCDカメラを採用すれば、上記各アプリケーションにおいてカメラを共用することが可能となり、搭載スペースやコストの面で有利となる。   On the other hand, the above-described prior art CCD camera has sensitivity in both visible light and infrared light wavelength bands, so if this CCD camera is adopted, the camera can be shared in each application. This is possible and is advantageous in terms of mounting space and cost.

しかしながら、白線認識とナイトビューとでは、画角、分解能、感度等の光学特性において相反する要求があるため、従来技術のCCDカメラを単に採用するだけでは、アプリケーション毎の要求光学特性に応じた画像信号を出力することができない。   However, white line recognition and night view have conflicting requirements in terms of optical characteristics such as angle of view, resolution, sensitivity, etc., so simply adopting a CCD camera of the prior art will result in an image that meets the required optical characteristics for each application. The signal cannot be output.

また、白線認識等のアプリケーションでは、撮像装置が車両前方の所定距離範囲を撮像範囲としていることを前提としている。そのため、撮像装置の撮像範囲は、所定の目標範囲に合わせ込まれることが必要となる。このような場合、例えば、撮像装置に対して所定の位置関係となるように所定のパターンを有するターゲットを設置し、そのターゲットのパターンを撮像した画像信号を用いて、撮像装置の撮像範囲をソフト的に調整する技術が従来提案されている。   Also, in applications such as white line recognition, it is assumed that the imaging device has a predetermined distance range in front of the vehicle as the imaging range. Therefore, the imaging range of the imaging device needs to be adjusted to a predetermined target range. In such a case, for example, a target having a predetermined pattern is set so as to have a predetermined positional relationship with the imaging device, and an imaging range of the imaging device is softened using an image signal obtained by imaging the target pattern. Conventionally adjusting techniques have been proposed.

しかしながら、撮像装置の撮像範囲をソフト的に調整する従来技術の場合、ターゲットの背景が複雑であると、ターゲットの位置の判別が困難となり、撮像範囲を調整することができなくなる。そのため、従来技術で撮像範囲を調整する場合には、背景が一様な場所を選択したり、一様な背景となるように暗幕等を設置したりする必要があった。そのため、作業スペースの確保や作業自体に多くの時間を要していた。   However, in the case of the conventional technique that adjusts the imaging range of the imaging apparatus in a software manner, if the target background is complicated, it is difficult to determine the position of the target, and the imaging range cannot be adjusted. Therefore, when the imaging range is adjusted by the conventional technique, it is necessary to select a place where the background is uniform or to install a dark curtain or the like so that the background is uniform. Therefore, it takes a lot of time to secure the work space and work itself.

本発明は、上記の問題を鑑みてなされたもので、その第1の目的は、単一の撮像装置を用いて、光学特性の異なる複数の画像信号を出力することができる画像処理装置を提案することである。また、その第2の目的は、撮像装置の撮像範囲の調整に要する作業時間を短縮することができる画像処理装置を提案することである。   The present invention has been made in view of the above problems, and a first object thereof is to propose an image processing apparatus capable of outputting a plurality of image signals having different optical characteristics using a single imaging device. It is to be. A second object of the invention is to propose an image processing apparatus that can shorten the work time required for adjusting the imaging range of the imaging apparatus.

上記目的を達成するためになされた請求項1記載の画像処理装置は、赤外光の波長帯と可視光の波長帯とに感度を有する受光素子を複数備えた単一の撮像手段の撮影した画像を用いて、光学特性の異なった複数の画像信号を出力するための画像処理を行う画像処理手段を備えた画像処理装置であって、画像処理手段は、撮像手段の撮影した画像から一部分の範囲の画像を切り出す画像切り出し手段と、画像切り出し手段の切り出した部分画像の分解能を高める高分解能処理手段と、高分解能処理手段によって分解能が高められた部分画像の感度を赤外光の波長帯に調整する部分画像感度調整手段と、撮像手段の撮影した画像の感度を可視光の波長帯に調整する画像感度調整手段と、を備え、前記撮像手段で撮影された共通する画像をもとに、画像感度調整手段によって感度が可視光の波長帯に調整された画像の画像信号、及び部分画像感度調整手段によって感度が赤外光の波長帯に調整された部分画像の部分画像信号を出力することを特徴とする。 The image processing apparatus according to claim 1, which has been made to achieve the above object, has been photographed by a single imaging means having a plurality of light receiving elements having sensitivity in the wavelength band of infrared light and the wavelength band of visible light. An image processing apparatus comprising image processing means for performing image processing for outputting a plurality of image signals having different optical characteristics using an image, wherein the image processing means is a part of an image captured by an imaging means. Image clipping means for cutting out an image of the range, high resolution processing means for increasing the resolution of the partial image cut out by the image cutting means, and sensitivity of the partial image whose resolution is enhanced by the high resolution processing means in the wavelength band of infrared light based partial image sensitivity adjusting means for adjusting an image sensitivity adjusting means for adjusting the sensitivity of the captured image of the imaging means in the wavelength band of visible light, comprising a, a common image captured by the imaging means, Output an image signal of an image whose sensitivity is adjusted to the visible light wavelength band by the image sensitivity adjusting means, and a partial image signal of the partial image whose sensitivity is adjusted to the infrared light wavelength band by the partial image sensitivity adjusting means. It is characterized by.

このように、本発明の画像処理装置は、感度が可視光の波長帯に調整された画像の画像信号と、高分解能化や赤外光の波長帯に感度調整された上記画像の部分画像の部分画像信号とを出力する。これにより、単一の撮像手段を用いて、要求光学特性に応じた複数の異なる画像信号を出力することが可能となる。 Thus, the image processing apparatus of the present invention, sensitivity and image signals of the image that is adjusted according to the wavelength of visible light, high-resolution and infrared light the image sensitivity in the wavelength band is adjusted in A partial image signal of the partial image is output. As a result, it is possible to output a plurality of different image signals corresponding to the required optical characteristics using a single imaging means.

請求項に記載の画像処理装置は、
画像感度調整手段は、
画像の明るさの最大値を大きくする場合、撮影手段のシャッタースピードの設定値を変更し、
画像の明るさの最小値を小さくする場合、画像信号の出力ゲインを調整し、
部分画像感度調整手段は、
部分画像の明るさの最大値を大きくする場合、撮影手段のシャッタースピードの設定値を変更し、
部分画像の明るさの最小値を小さくする場合、部分画像信号の出力ゲインを調整することを特徴とする。
An image processing apparatus according to claim 2 is provided.
The image sensitivity adjustment means
To increase the maximum brightness of the image, change the shutter speed setting value of the shooting means,
When reducing the minimum brightness of the image, adjust the output gain of the image signal,
The partial image sensitivity adjustment means
To increase the maximum brightness of the partial image, change the shutter speed setting value of the shooting means,
When reducing the minimum brightness of the partial image, the output gain of the partial image signal is adjusted.

これにより、画像の明るさの最大値を大きくする場合には、シャッタースピードの設定値を変更することで調整可能となり、画像の明るさの最小値を小さくする場合には、画像毎に出力ゲインが小さくなるように調整することができる。これにより、出力される各画像信号のノイズレベルは、低減される方向で調整されるようになる。   As a result, when the maximum value of image brightness is increased, it can be adjusted by changing the setting value of the shutter speed, and when the minimum value of image brightness is decreased, the output gain is set for each image. Can be adjusted to be small. As a result, the noise level of each output image signal is adjusted in the direction of reduction.

請求項に記載の画像処理装置は、撮影手段のシャッタースピードの設定値を変更する際、画像感度調整手段と部分画像感度調整手段とが異なる設定変更の指示値を示す場合、当該各指示値のうち高い値を示す指示値に撮像手段のシャッタースピードの設定値を変更するシャッタースピード変更手段を備えることを特徴とする。 The image processing apparatus according to claim 3 , when changing the setting value of the shutter speed of the photographing unit, when the image sensitivity adjustment unit and the partial image sensitivity adjustment unit indicate different setting change instruction values, A shutter speed changing means for changing the set value of the shutter speed of the image pickup means to an instruction value indicating a higher value of the above.

これにより、シャッタースピードとして1つの設定のみ可能な撮像手段を用いた場合であっても、撮像手段の撮影する画像の明るさを高めることが可能となる。   This makes it possible to increase the brightness of an image captured by the imaging unit even when an imaging unit capable of setting only one shutter speed is used.

請求項に記載の画像処理装置によれば、画像処理手段は、部分画像に対してエッジ強調処理を施すエッジ強調手段を備え、エッジ強調手段によってエッジ強調された部分画像の画像信号を出力することを特徴とする。これにより、被写体が鮮明に映し出される部分画像信号を出力することができる。 According to the image processing apparatus of the fourth aspect , the image processing means includes edge enhancement means for performing edge enhancement processing on the partial image, and outputs an image signal of the partial image edge-enhanced by the edge enhancement means. It is characterized by that. Thereby, the partial image signal in which the subject is clearly displayed can be output.

請求項に記載の画像処理装置によれば、画像信号は、車両前方に存在する物体を認識する物体形状認識のアプリケーションに用いられ、部分画像信号は、車両前方の視界を確保するアプリケーションに用いられることを特徴とする。 According to the image processing apparatus of the fifth aspect , the image signal is used for an object shape recognition application for recognizing an object existing in front of the vehicle, and the partial image signal is used for an application for securing a field of view in front of the vehicle. It is characterized by being able to.

例えば、道路上の白線を認識する白線認識等、車両前方に存在する物体を認識する物体形状認識等のアプリケーションでは、車両前方の道路上の白線を認識するために広角の画像を必要とし、一方、ナイトビュー等の車両の前方の視界を確保するアプリケーションでは、車両から遠方の画像を必要とする。従って、撮像手段の撮影した広角画像の画像信号を白線認識に用い、その画像から切り出した遠方の部分画像の部分画像信号をナイトビューに用いることで、双方のアプリケーションに対応した画角の画像を用いることが可能となる。   For example, in an application such as white line recognition for recognizing a white line on a road, for example, object shape recognition for recognizing an object existing in front of the vehicle, a wide-angle image is required to recognize the white line on the road ahead of the vehicle. In an application that secures a field of view in front of the vehicle such as night view, an image far from the vehicle is required. Therefore, by using the image signal of the wide-angle image captured by the imaging means for white line recognition and using the partial image signal of the distant partial image cut out from the image for night view, the image of the angle of view corresponding to both applications can be obtained. It can be used.

請求項に記載の画像処理装置によれば、
撮像手段の撮影した画像は、デジタル画像信号として出力されるものであって、
画像処理手段は、
撮像手段の出力するデジタル画像信号を順次記憶する記憶手段と、
記憶手段に記憶されたデジタル画像信号を順次読み出して、アナログ画像信号に変換する画像変換手段と、を備え、
デジタル画像信号、及び部分画像のアナログ部分画像信号を同時に出力することを特徴とする。
According to the image processing apparatus of claim 6 ,
The image taken by the imaging means is output as a digital image signal,
The image processing means
Storage means for sequentially storing digital image signals output by the imaging means;
Image conversion means for sequentially reading out digital image signals stored in the storage means and converting them into analog image signals;
A digital image signal and an analog partial image signal of a partial image are output simultaneously.

このように、デジタル画像を記憶する記憶手段を備えることで、アナログ画像に変換するためのデジタル画像を順次読み出すことができる。その結果、デジタル画像信号、及びアナログ部分画像信号を同時に出力することが可能となる。   Thus, by providing the storage means for storing the digital image, it is possible to sequentially read out the digital image for conversion to the analog image. As a result, a digital image signal and an analog partial image signal can be output simultaneously.

請求項に記載の画像処理装置によれば、
撮像手段の撮影した画像又は部分画像、画像又は部分画像上で移動可能なカーソル、及び当該カーソルの位置する画像上の座標位置を表示する表示手段と、
カーソルの移動操作を行うためのカーソル操作手段と、
カーソルの位置する画像上の座標位置を入力する座標位置入力手段と、
座標位置入力手段によって入力された座標位置に基づいて、撮像手段の撮像範囲を調整する撮像範囲調整手段と、を備えることを特徴とする。
According to the image processing device of claim 7 ,
An image or partial image captured by the imaging means, a cursor movable on the image or partial image, and a display means for displaying a coordinate position on the image where the cursor is located;
Cursor operation means for performing cursor movement operations;
A coordinate position input means for inputting a coordinate position on the image where the cursor is located;
And an imaging range adjusting unit that adjusts the imaging range of the imaging unit based on the coordinate position input by the coordinate position input unit.

これにより、作業者は、画像上に映し出されるカーソルを操作して画像上のターゲットの座標位置を読み取り、その読み取った座標位置を入力することで、ターゲットの背景が複雑な場合であっても、背景が一様な場所を選択したり、一様な背景となるように暗幕等を設置したりすることなく、ターゲットの位置を特定することができる。その結果、撮像装置の撮像範囲の調整に要する作業時間を短縮することができる。   Thus, the operator operates the cursor displayed on the image to read the coordinate position of the target on the image, and inputs the read coordinate position, even if the background of the target is complicated, The position of the target can be specified without selecting a place with a uniform background or installing a dark curtain or the like so that the background is uniform. As a result, it is possible to shorten the work time required for adjusting the imaging range of the imaging device.

請求項に記載の画像処理装置によれば、
撮像手段の撮影した画像又は部分画像、及び画像又は部分画像上で移動可能なカーソルを表示する表示手段と、
カーソルの移動操作を行うものであって、画像内の一部分の範囲を特定するためのカーソル操作手段と、
カーソル操作手段によって特定された一部分の範囲の画像から、所定の特徴点の座標位置を認識し、この認識した座標位置に基づいて、撮像手段の撮像範囲を調整する撮像範囲調整手段と、を備えることを特徴とする。
According to the image processing device of claim 8 ,
Display means for displaying an image or partial image taken by the imaging means, and a cursor movable on the image or partial image;
Cursor movement operation, and a cursor operation means for specifying a partial range in the image,
An imaging range adjusting unit for recognizing a coordinate position of a predetermined feature point from an image of a partial range specified by the cursor operation unit and adjusting an imaging range of the imaging unit based on the recognized coordinate position; It is characterized by that.

これにより、ターゲットの背景が複雑な場合であっても、画像における所定の特徴点(ターゲット)の範囲が特定されるため、従来のように、撮像手段の撮像範囲をソフト的に調整する場合において、ターゲットの位置の判別が容易となる。   As a result, even when the background of the target is complicated, the range of the predetermined feature point (target) in the image is specified. The target position can be easily determined.

以下、図面に基づいて本発明の好ましい実施形態について説明する。なお、本実施形態
では、本発明の画像処理装置を備えた車載アプリケーションシステムに関して説明する。この車載アプリケーションシステムは、道路上の白線を認識する白線認識と、車両の前方の視界を確保するナイトビューのアプリケーションを含むものである。
Hereinafter, preferred embodiments of the present invention will be described with reference to the drawings. In the present embodiment, an in-vehicle application system including the image processing apparatus of the present invention will be described. This in-vehicle application system includes a white line recognition for recognizing a white line on a road and a night view application for ensuring a field of view in front of the vehicle.

(第1の実施形態)
図1は、実施形態による車載アプリケーションシステムの全体構成を示すブロック図である。図1に示すように、カメラ100、画像処理ECU200、制御ECU300、表示器400a〜c、及び調整ツール500から構成されている。なお、調整ツール500は、適宜、車内LANに接続されるものである。
(First embodiment)
FIG. 1 is a block diagram illustrating an overall configuration of an in-vehicle application system according to an embodiment. As shown in FIG. 1, the camera 100, the image processing ECU 200, the control ECU 300, the displays 400 a to 400 c, and the adjustment tool 500 are configured. The adjustment tool 500 is appropriately connected to the in-vehicle LAN.

カメラ100は、車室内の所定位置、例えばルームミラーの裏側に設置され、車両の進行方向前方の風景を撮像するものである。なお、カメラ100は、車室内の所定位置に設置されるときに、その撮像範囲が車両の進行方向に対して所定の撮像範囲となるように、その向き等が調整される。この撮像範囲の調整は、調整ツール500を用いて行われ、その詳細は、第2実施形態で説明する。   The camera 100 is installed at a predetermined position in the vehicle interior, for example, on the back side of a rearview mirror, and images a landscape in front of the traveling direction of the vehicle. Note that when the camera 100 is installed at a predetermined position in the vehicle interior, the direction and the like of the camera 100 are adjusted so that the imaging range is a predetermined imaging range with respect to the traveling direction of the vehicle. The adjustment of the imaging range is performed using the adjustment tool 500, and details thereof will be described in the second embodiment.

また、カメラ100は、光学特性の異なるデジタル画像信号(広角)、NTSC方式のアナログ画像信号(広角)、及びNTSC方式のアナログ画像信号(望遠)を所定のフレームレート(例えば30[fps])で同時出力する。   The camera 100 also outputs digital image signals (wide angle) having different optical characteristics, NTSC analog image signals (wide angle), and NTSC analog image signals (telephoto) at a predetermined frame rate (for example, 30 [fps]). Output simultaneously.

画像処理ECU200は、カメラ100から出力されたデジタル画像信号(広角)を処理することにより、道路上の白線の位置の認識を行うとともに、その認識した白線位置を車内LANに出力する。   The image processing ECU 200 processes the digital image signal (wide angle) output from the camera 100 to recognize the position of the white line on the road, and outputs the recognized white line position to the in-vehicle LAN.

さらに、画像処理ECU200は、白線と白線を除く路面部分とのコントラストが適正になるように、カメラ100のシャータースピード、デジタル画像信号(広角)の出力ゲインの指示値を含むカメラ制御値をカメラ100に出力する。   Further, the image processing ECU 200 receives camera control values including the instruction values for the shutter speed of the camera 100 and the output gain of the digital image signal (wide angle) so that the contrast between the white line and the road surface portion excluding the white line is appropriate. Output to.

画像処理ECU200は、画像インターフェース(I/F)210、CPU220,メモリ230、及び通信I/F240を有する。画像I/F210は、カメラ100から出力されるデジタル画像信号(広角)の画素毎の明るさの程度を示す画素値の位置情報等が入力され、その位置情報等をCPU220に伝達する。CPU220は、画像I/F210によって伝達される位置情報に基づいて、画像の各ライン毎に出力される画素値が、いずれの画素位置に対応するものかを認識する。そして、認識した画素位置に対応するように、カメラ100から出力される画素値をメモリ230に記憶する。このようにして、メモリ230に、カメラ100から出力されるデジタル画像信号(広角)が保存される。   The image processing ECU 200 includes an image interface (I / F) 210, a CPU 220, a memory 230, and a communication I / F 240. The image I / F 210 receives position information of pixel values indicating the degree of brightness of each pixel of the digital image signal (wide angle) output from the camera 100 and transmits the position information to the CPU 220. Based on the position information transmitted by the image I / F 210, the CPU 220 recognizes which pixel position the pixel value output for each line of the image corresponds to. Then, the pixel value output from the camera 100 is stored in the memory 230 so as to correspond to the recognized pixel position. In this way, the digital image signal (wide angle) output from the camera 100 is stored in the memory 230.

通信I/F240は、CPU220と制御ECU300との間の通信を調整するものである。本実施形態では、CPU220は、画像信号における白線の位置を認識して、この認識した白線位置を制御ECU300に送信する。   Communication I / F 240 adjusts communication between CPU 220 and control ECU 300. In the present embodiment, the CPU 220 recognizes the position of the white line in the image signal and transmits the recognized white line position to the control ECU 300.

制御ECU300は、車線逸脱警報の制御装置であり、CPU220から送信された白線位置に基づいて、自車両が車線内から逸脱した(しそう)か否かを判定し、逸脱した(しそう)と判定した場合には、表示器400aに対して、警告表示を表示するように指示する。表示器400aは、制御ECU300からの指示に応じた画像を表示する。   The control ECU 300 is a control device for a lane departure warning, and determines whether or not the host vehicle has deviated from the lane based on the position of the white line transmitted from the CPU 220, and has determined that the vehicle has departed. In this case, the display unit 400a is instructed to display a warning display. The display device 400a displays an image corresponding to an instruction from the control ECU 300.

表示器400bは、白線認識やナイトビュー以外のアプリケーションに用いられる表示器であり、カメラ100から出力されるデジタル画像信号(広角)を入力して、その画像を表示する。   The display device 400b is a display device used for applications other than white line recognition and night view. The display device 400b receives the digital image signal (wide angle) output from the camera 100 and displays the image.

表示器400cは、例えば、車両のフロントウィンドウ付近に配置されるHUD(Head Up Display)であり、車両の前方の視界を確保するナイトビューのアプリケーションを構成する。この表示器400cは、NTSC方式に対応したものであり、カメラ100から出力されるNTSC方式のアナログ画像信号(望遠)を入力し、その望遠画像を表示する。   The display device 400c is, for example, a HUD (Head Up Display) disposed in the vicinity of the front window of the vehicle, and constitutes a night view application that secures a field of view in front of the vehicle. The display 400c is compatible with the NTSC system, and receives an NTSC analog image signal (telephoto) output from the camera 100 and displays the telephoto image.

図2に、カメラ100の内部構成を示すブロック図である。カメラ100は、イメージャ110、信号処理IC120によって構成される。イメージャ110は、CCD等の撮像素子で構成され、画像WPのデジタル画像信号をフレーム毎に信号処理IC120へ出力する。このイメージャ110は、赤外光の波長帯と可視光の波長帯の両方に感度を有している。   FIG. 2 is a block diagram showing the internal configuration of the camera 100. The camera 100 includes an imager 110 and a signal processing IC 120. The imager 110 includes an image sensor such as a CCD, and outputs a digital image signal of the image WP to the signal processing IC 120 for each frame. The imager 110 has sensitivity in both the wavelength band of infrared light and the wavelength band of visible light.

信号処理IC120は、ASIC(Application Specific Integrated Circuit)であり、RAM(望遠)130、RAM(広角)140、デジタル処理フィルタ150、アナログ処理フィルタ(望遠)160、アナログ処理フィルタ(広角)170の各種機能ブロックを有する。   The signal processing IC 120 is an ASIC (Application Specific Integrated Circuit), and various functions of a RAM (telephoto) 130, a RAM (wide angle) 140, a digital processing filter 150, an analog processing filter (telephoto) 160, and an analog processing filter (wide angle) 170. Has a block.

信号処理IC120は、イメージャ110からの画像信号を入力して、光学特性の異なったデジタル画像信号(広角)、NTSC方式のアナログ画像信号(広角)、及びNTSC方式のアナログ画像信号(望遠)を所定のフレームレート(例えば30[fps])で同時出力するための画像処理を行う。   The signal processing IC 120 inputs an image signal from the imager 110 and inputs a digital image signal (wide angle) having different optical characteristics, an NTSC analog image signal (wide angle), and an NTSC analog image signal (telephoto). Image processing for simultaneous output at a frame rate (for example, 30 [fps]).

RAM(望遠)130、及びRAM(広角)140は、イメージャ110からの所定フレーム数に相当するデジタル画像信号を順次格納(記憶)する。このデジタル画像信号は、アナログ処理フィルタ(望遠)160やアナログ処理フィルタ170(広角)によって順次読み出され、その読み出された記憶領域にイメージャ110からの新たなデジタル画像信号を格納する。   A RAM (telephoto) 130 and a RAM (wide angle) 140 sequentially store (store) digital image signals corresponding to a predetermined number of frames from the imager 110. The digital image signal is sequentially read by the analog processing filter (telephoto) 160 and the analog processing filter 170 (wide angle), and a new digital image signal from the imager 110 is stored in the read storage area.

このように、デジタル画像信号を格納(記憶)するRAM(望遠)130、及びRAM(広角)140を備えることで、アナログ画像信号に変換するためのデジタル画像信号を順次読み出すことができる。その結果、信号処理IC120から、デジタル画像信号(広角)、NTSC方式のアナログ画像信号(広角)、及びNTSC方式のアナログ画像信号(望遠)を所定のフレームレート(例えば30[fps])で同時出力することが可能となる。   As described above, by providing the RAM (telephoto) 130 and the RAM (wide angle) 140 for storing (storing) the digital image signal, it is possible to sequentially read out the digital image signal for conversion into the analog image signal. As a result, a digital image signal (wide angle), an NTSC analog image signal (wide angle), and an NTSC analog image signal (telephoto) are simultaneously output from the signal processing IC 120 at a predetermined frame rate (for example, 30 [fps]). It becomes possible to do.

デジタル処理フィルタ150は、イメージャ110からのデジタル画像信号を入力し、画像WPの感度を調整するものであり、画像処理ECU200からのカメラ制御値に従って、イメージャ110のシャータースピード、及びデジタル画像信号(広角)の出力ゲインを調整する。この出力ゲインの調整されたデジタル画像信号(広角)を画像処理ECU200や表示器400bに出力する。   The digital processing filter 150 receives the digital image signal from the imager 110 and adjusts the sensitivity of the image WP. According to the camera control value from the image processing ECU 200, the digital processing filter 150 and the digital image signal (wide angle) ) Output gain. The digital image signal (wide angle) whose output gain is adjusted is output to the image processing ECU 200 and the display 400b.

アナログ処理フィルタ(望遠)160は、RAM(望遠)130に格納されたデジタル画像信号を順次読み出し、この画像信号の画像WPから一部分の範囲の部分画像PPを切り出し、この切り出した部分画像PPの分解能を高めるとともに、この分解能の高められた部分画像PPの感度を調整し、さらに、部分画像PPに対してエッジ強調処理を施したうえでアナログ画像信号に変換する画像フィルタ処理を実行する。この画像フィルタ処理の施されたアナログ画像信号(望遠)が表示器400cに出力される。   The analog processing filter (telephoto) 160 sequentially reads the digital image signals stored in the RAM (telephoto) 130, cuts out a partial image PP in a partial range from the image WP of the image signal, and the resolution of the cut out partial image PP In addition, the sensitivity of the partial image PP with an increased resolution is adjusted, and further, an edge enhancement process is performed on the partial image PP, and then an image filter process is performed to convert the partial image PP into an analog image signal. The analog image signal (telephoto) subjected to the image filtering process is output to the display 400c.

アナログ処理フィルタ(広角)170は、RAM(広角)140に格納されたデジタル画像信号を順次読み出し、この画像信号の画像WPの感度を調整したうえでアナログ画像信号に変換する。このアナログ画像信号に変換されたアナログ画像信号(広角)が調整ツール500に出力される。   The analog processing filter (wide angle) 170 sequentially reads the digital image signals stored in the RAM (wide angle) 140, adjusts the sensitivity of the image WP of the image signals, and converts them into analog image signals. The analog image signal (wide angle) converted into the analog image signal is output to the adjustment tool 500.

次に、本実施形態の特徴部分について説明する。道路上の白線を認識する白線認識のアプリケーションと、車両の前方の視界を確保するナイトビューとが同じ車両に搭載される場合、従来は、アプリケーション毎に個別の撮像装置を用いている。これは、共に車両前方を撮影するものであるにも係らず、アプリケーションの違い(言い換えれば用途の違い)に伴う光学特性の違いから、個別の撮像装置を用いている。   Next, the characteristic part of this embodiment is demonstrated. When a white line recognition application for recognizing a white line on a road and a night view for securing a field of view in front of the vehicle are mounted on the same vehicle, conventionally, an individual imaging device is used for each application. In this case, although both images are taken in front of the vehicle, individual imaging devices are used because of the difference in optical characteristics due to the difference in application (in other words, difference in application).

一方、イメージャ110は、可視光と赤外光の波長帯の両方に感度を持っていることから、このイメージャ110を採用すれば、上記各アプリケーションにおいて撮像装置を共用することが可能となり、搭載スペースやコストの面で有利となる。   On the other hand, since the imager 110 has sensitivity in both visible light and infrared light wavelength bands, if this imager 110 is employed, it becomes possible to share the imaging device in each of the above applications, and the mounting space. This is advantageous in terms of cost.

しかしながら、図3に示すように、白線認識とナイトビューとでは、画角、分解能、感度等の光学特性において相反する要求があるため、単にイメージャ110を採用するだけでは、アプリケーション毎の要求光学特性に応じた画像信号を出力することができない。   However, as shown in FIG. 3, white line recognition and night view have conflicting demands on optical characteristics such as angle of view, resolution, sensitivity, etc. Therefore, simply adopting the imager 110 requires required optical characteristics for each application. It is not possible to output an image signal corresponding to.

図3に示すように、画角については、白線認識において広角画像(水平画角50[度]程度)を必要とする。これは、車両前方に存在する物体を認識する物体形状認識等のアプリケーションにおいて共通なことではあるが、車両が走行する自車線の白線を認識するだけでなく、自車線に隣接する他車線の白線等も検出可能とするために広角の画像を必要とする。また、車両の前方の視界を確保するために用いられるナイトビューにおいては、表示器400cに遠方の画像を表示するために用いるため、望遠画像(水平画角20[度]程度)を必要とする。   As shown in FIG. 3, the angle of view requires a wide-angle image (horizontal angle of view of about 50 [degrees]) in white line recognition. This is common in applications such as object shape recognition for recognizing an object existing in front of the vehicle, but not only recognizes the white line of the own lane on which the vehicle travels, but also the white line of another lane adjacent to the own lane. And so on, a wide-angle image is required. In addition, in the night view used for securing the field of view in front of the vehicle, a telephoto image (horizontal angle of view of about 20 [degrees]) is required because it is used to display a distant image on the display 400c. .

図4は、カメラ100の最大画角に対するナイトビューの必要画角を示した図である。同図に示すように、白線認識においては、広角画像を必要とするため、水平・垂直画角ともに最大画角の画像を用いる。これに対し、ナイトビューにおいては、望遠画像を必要とするため、最大画角の画像に対してある一部分の範囲の画像を用いることになる。このように、白線認識とナイトビューとで必要な画角が異なっている。   FIG. 4 is a diagram illustrating a necessary field angle of night view with respect to the maximum field angle of the camera 100. As shown in the figure, since the white line recognition requires a wide-angle image, an image having the maximum field angle is used for both the horizontal and vertical field angles. On the other hand, in the night view, since a telephoto image is required, an image in a certain range with respect to the image with the maximum angle of view is used. Thus, the required angle of view differs between white line recognition and night view.

また、図3に示すように、分解能については、白線認識において、カメラ100の最大画素数(648[pxl]程度)に対して最大画角(水平50[度]程度)であるから13[pxl/度]程度である。これに対し、ナイトビューにおいては、望遠画像を表示器400cに直接表示するため、表示器400cの水平画素数(525[pxl])と必要な水平画角20[度]程度とから26[pxl/度]以上の分解能を備える必要がある。このように、白線認識とナイトビューとで必要な分解能が異なっている。   As shown in FIG. 3, the resolution is 13 [pxl] because the maximum angle of view (horizontal 50 [degrees]) with respect to the maximum number of pixels (about 648 [pxl]) of the camera 100 in white line recognition. / Degree]. On the other hand, in the night view, since the telephoto image is directly displayed on the display 400c, 26 [pxl] is obtained from the number of horizontal pixels (525 [pxl]) of the display 400c and the required horizontal angle of view of about 20 [degrees]. / Degree] or higher resolution is required. Thus, the required resolution differs between white line recognition and night view.

さらに、図3に示すように、感度については、白線認識では白線に特化した露出制御を施す必要があるのに対し、ナイトビューでは、遠方に着目した露出制御を施す必要がある。このように、白線認識とナイトビューとでは、被写体の違いに伴って、その感度も異なる。   Furthermore, as shown in FIG. 3, with respect to the sensitivity, it is necessary to perform exposure control specialized for white lines in white line recognition, whereas in night view, it is necessary to perform exposure control that focuses on the distance. Thus, the sensitivity of white line recognition and night view differ depending on the subject.

そこで、本実施形態の信号処理IC120では、デジタル処理フィルタ150、アナログ処理フィルタ(望遠)160、及びアナログ処理フィルタ(広角)170の各々において、イメージャ110からのデジタル画像信号に対して異なる画像処理を施すことで、光学特性の異なったデジタル画像信号(広角)、NTSC方式のアナログ画像信号(広角)、及びNTSC方式のアナログ画像信号(望遠)を所定のフレームレート(例えば30[fps])で同時出力するようにした。   Therefore, in the signal processing IC 120 of this embodiment, each of the digital processing filter 150, the analog processing filter (telephoto) 160, and the analog processing filter (wide angle) 170 performs different image processing on the digital image signal from the imager 110. By applying the digital image signal (wide angle) having different optical characteristics, the NTSC analog image signal (wide angle), and the NTSC analog image signal (telephoto) simultaneously at a predetermined frame rate (for example, 30 [fps]). Output it.

すなわち、デジタル処理フィルタ150では、上述したように、イメージャ110からのデジタル画像信号を入力し、画像WPの感度を調整し、この出力ゲインの調整されたデジタル画像信号(広角)を画像処理ECU200や表示器400bに出力する。これにより、画像WPの感度と部分画像PPの感度の調整を個別に行うことができる。   That is, as described above, the digital processing filter 150 receives the digital image signal from the imager 110, adjusts the sensitivity of the image WP, and converts the output image-adjusted digital image signal (wide angle) to the image processing ECU 200 or It outputs to the display 400b. Thereby, the sensitivity of the image WP and the sensitivity of the partial image PP can be individually adjusted.

一方、アナログ処理フィルタ(望遠)160では、上述したように、画像WPから一部分の範囲の部分画像PPを切り出し、この切り出した部分画像PPの分解能を高めるために、デジタルズーム(例えば、単純補間、Bi Linear、Bi Cubic等の周知の手法)によって分解能を補間し、この分解能の高められた部分画像PPの感度を調整し、さらに、部分画像PPに対してエッジ強調処理を施したうえでアナログ画像信号に変換する画像フィルタ処理を実行する。   On the other hand, in the analog processing filter (telephoto) 160, as described above, a partial image PP in a partial range is cut out from the image WP, and digital zoom (for example, simple interpolation, Bi) is performed in order to increase the resolution of the cut out partial image PP. The resolution is interpolated by a known method such as Linear, Bi Cubic, etc., the sensitivity of the partial image PP with the increased resolution is adjusted, and an edge enhancement process is performed on the partial image PP, and then an analog image signal is obtained. The image filter process for converting to is executed.

これにより、単一のイメージャ110を用いて、要求光学特性に応じた複数の異なる画像信号を出力することが可能となる。そして、デジタル処理フィルタ150から出力される広角の画像WPを白線認識に用い、画像WPから切り出した部分画像PPをナイトビューに用いることで、双方のアプリケーションに対応した画角の画像を用いることが可能となる。   As a result, it is possible to output a plurality of different image signals corresponding to the required optical characteristics using a single imager 110. Then, by using the wide-angle image WP output from the digital processing filter 150 for white line recognition and using the partial image PP cut out from the image WP for night view, it is possible to use images with an angle of view corresponding to both applications. It becomes possible.

このアナログ処理フィルタ(望遠)160では、部分画像PPに対してエッジ強調処理を施している。これにより、被写体が鮮明に映し出される部分画像PPの部分画像信号を出力することができる。その結果、表示器400cにおいて、歩行者等の被写体が鮮明に映し出されるようになる。   In this analog processing filter (telephoto) 160, edge enhancement processing is performed on the partial image PP. Thereby, the partial image signal of the partial image PP in which the subject is clearly displayed can be output. As a result, a subject such as a pedestrian is clearly displayed on the display 400c.

また、アナログ処理フィルタ(広角)170は、上述したように、画像WPの感度を調整したうえでアナログ画像信号に変換し、この変換したアナログ画像信号(広角)を調整ツール500に出力する。   In addition, as described above, the analog processing filter (wide angle) 170 adjusts the sensitivity of the image WP and converts it to an analog image signal, and outputs the converted analog image signal (wide angle) to the adjustment tool 500.

ここで、デジタル処理フィルタ150、アナログ処理フィルタ(望遠)160、アナログ処理フィルタ(広角)170における感度調整について説明する。上述したように、デジタル処理フィルタ150では、画像処理ECU200からのカメラ制御値に従って、イメージャ110のシャータースピード、及びデジタル画像信号(広角)の出力ゲインを調整する。   Here, sensitivity adjustment in the digital processing filter 150, the analog processing filter (telephoto) 160, and the analog processing filter (wide angle) 170 will be described. As described above, the digital processing filter 150 adjusts the shutter speed of the imager 110 and the output gain of the digital image signal (wide angle) in accordance with the camera control value from the image processing ECU 200.

また、アナログ処理フィルタ(望遠)160では、表示器400cからの指示に従って、イメージャ110のシャータースピード、及びNTSC方式のアナログ画像信号(望遠)の出力ゲインを調整する。また、アナログ処理フィルタ(広角)170では、調整ツール500からの指示に従って、イメージャ110のシャータースピード、及びNTSC方式のアナログ画像信号(広角)の出力ゲインを調整する。   The analog processing filter (telephoto) 160 adjusts the shutter speed of the imager 110 and the output gain of the NTSC analog image signal (telephoto) in accordance with an instruction from the display 400c. The analog processing filter (wide angle) 170 adjusts the shutter speed of the imager 110 and the output gain of the NTSC analog image signal (wide angle) in accordance with an instruction from the adjustment tool 500.

このように、デジタル処理フィルタ150、アナログ処理フィルタ(望遠)160、アナログ処理フィルタ(広角)170における感度調整においては、イメージャ110のシャータースピード、及び各画像信号の出力ゲインを調整することで感度を調整するものであるが、図5(a)に示すように、何れにおいても、イメージャ110のシャータースピードは、画像の明るさの最大値を大きくする場合に変更し、出力ゲインは、画像の明るさの最小値を小さくする場合に調整する。   As described above, in sensitivity adjustment in the digital processing filter 150, the analog processing filter (telephoto) 160, and the analog processing filter (wide angle) 170, the sensitivity is adjusted by adjusting the shutter speed of the imager 110 and the output gain of each image signal. In any case, as shown in FIG. 5A, the shutter speed of the imager 110 is changed when the maximum value of the brightness of the image is increased, and the output gain is the brightness of the image. Adjust to reduce the minimum height.

これにより、各画像の明るさの最大値を大きくする場合には、シャッタースピードの設定値を変更することで調整可能となり、各画像の明るさの最小値を小さくする場合には、画像毎に出力ゲインが小さくなるように調整することができる。その結果、出力される各画像信号のノイズレベルは、低減される方向で調整されるようになる。   As a result, when the maximum brightness value of each image is increased, it can be adjusted by changing the setting value of the shutter speed, and when the minimum brightness value of each image is decreased, it can be adjusted for each image. The output gain can be adjusted to be small. As a result, the noise level of each output image signal is adjusted in the direction of reduction.

なお、イメージャ110のシャータースピードは、1つの設定のみ可能であるため、デジタル処理フィルタ150、アナログ処理フィルタ(望遠)160、及びアナログ処理フィルタ(広角)170から異なる設定変更の指示値を示す場合、どの指示値に決定すべきか判断ができなくなる。   Since only one setting is possible for the shutter speed of the imager 110, when different setting change instruction values are indicated from the digital processing filter 150, the analog processing filter (telephoto) 160, and the analog processing filter (wide angle) 170, It becomes impossible to determine which indicated value should be determined.

そこで、本実施形態では、当該各指示値のうち高い値を示す指示値にシャッタースピードの設定値を変更する。これにより、シャッタースピードとして1つの設定のみ可能であっても、各画像の明るさを高めることが可能となる。   Therefore, in the present embodiment, the setting value of the shutter speed is changed to an instruction value indicating a higher value among the instruction values. Thereby, even if only one setting is possible as the shutter speed, the brightness of each image can be increased.

また、感度を調整する際の別形態として、図5(b)に示すように、飽和レベルや0レベル以下の画像信号の数によって明るさのリニア制御、ノンリニア(対数)制御を切り替えることでも良い。   As another form for adjusting the sensitivity, as shown in FIG. 5B, linear brightness control and non-linear (logarithmic) control may be switched depending on the number of image signals below the saturation level or 0 level. .

白線認識は、白線と路面が識別できればよいため、白線と路面との境界に相当するエッジを検出する以外は、画像信号が飽和レベルや0レベル以下になっていてもよい。一方、ナイトビューでは、表示器400cにおいて人等の被写体を映し出すため、画像信号が飽和レベルや0レベル以下になっている場合、白く飛んだり、黒く潰れたりした画像になる。そのため、画像信号が飽和レベルや0レベル以下となる画像の数が多い場合には、リニア制御からノンリニア(対数)制御に切り替えるようにしてもよい。これにより、白く飛んだり、黒く潰れたりした画像にならないようにでき、被写体を鮮明に映し出すことが可能となる。   The white line recognition only needs to be able to identify the white line and the road surface. Therefore, the image signal may be at a saturation level or 0 level or less, except for detecting an edge corresponding to the boundary between the white line and the road surface. On the other hand, in the night view, since an object such as a person is projected on the display 400c, when the image signal is at a saturation level or 0 level or less, the image is white or black. For this reason, when the number of images in which the image signal is at the saturation level or 0 level or less is large, the linear control may be switched to the non-linear (logarithmic) control. As a result, the image can be prevented from flying white or crushed in black, and the subject can be clearly displayed.

次に、本実施形態の信号処理IC120の動作について、図6に示すフローチャートを用いて説明する。先ず、ステップS10では、イメージャ110からデジタル画像信号を取得する。ステップS20では、RAM(望遠)130、RAM(広角)140の各々に、デジタル画像信号を格納するとともに、所定フレーム数に相当するデジタル画像信号を読み出す。   Next, the operation of the signal processing IC 120 of this embodiment will be described using the flowchart shown in FIG. First, in step S10, a digital image signal is acquired from the imager 110. In step S20, the digital image signal is stored in each of the RAM (telephoto) 130 and the RAM (wide angle) 140, and the digital image signal corresponding to the predetermined number of frames is read out.

ステップS30では、デジタル処理フィルタ150、アナログ処理フィルタ(望遠)160、アナログ処理フィルタ(広角)170において、上述した処理(画像フィルタ処理)が行われ、ステップS40において、光学特性の異なったデジタル画像信号(広角)、NTSC方式のアナログ画像信号(広角)、及びNTSC方式のアナログ画像信号(望遠)を同時に出力する。以後、ステップS10〜S40の処理を繰り返すことで、所定のフレームレート(例えば30[fps])で各画像信号を同時出力する。   In step S30, the above-described processing (image filter processing) is performed in the digital processing filter 150, the analog processing filter (telephoto) 160, and the analog processing filter (wide angle) 170. In step S40, digital image signals having different optical characteristics are processed. (Wide angle), NTSC analog image signal (wide angle), and NTSC analog image signal (telephoto) are simultaneously output. Thereafter, by repeating the processing of steps S10 to S40, the image signals are simultaneously output at a predetermined frame rate (for example, 30 [fps]).

このように、本実施形態の信号処理IC120では、アナログ処理フィルタ(望遠)160において、画像WPから一部分の範囲の部分画像PPを切り出し、この切り出した部分画像PPの分解能を高めるために、デジタルズームによって分解能を補間し、この分解能の高められた部分画像PPの感度を調整し、さらに、部分画像PPに対してエッジ強調処理を施したうえでアナログ画像信号に変換する画像フィルタ処理を実行する。そして、光学特性の異なったデジタル画像信号(広角)、NTSC方式のアナログ画像信号(広角)、及びNTSC方式のアナログ画像信号(望遠)を所定のフレームレート(例えば30[fps])で同時出力する。これにより、単一のイメージャ110を用いて、要求光学特性に応じた複数の異なる画像信号を同時出力することが可能となる。   As described above, in the signal processing IC 120 of the present embodiment, the analog processing filter (telephoto) 160 cuts out a partial image PP in a partial range from the image WP, and uses digital zoom to increase the resolution of the cut out partial image PP. Interpolation of the resolution is performed, the sensitivity of the partial image PP with the increased resolution is adjusted, and further, image enhancement processing is performed to convert the partial image PP into an analog image signal after performing edge enhancement processing. A digital image signal (wide angle) having different optical characteristics, an NTSC analog image signal (wide angle), and an NTSC analog image signal (telephoto) are simultaneously output at a predetermined frame rate (for example, 30 [fps]). . As a result, a single imager 110 can be used to simultaneously output a plurality of different image signals corresponding to the required optical characteristics.

(第2の実施形態)
第2の実施形態は、第1の実施形態によるものと共通するところが多いので、以下、共通部分についての詳しい説明は省略し、異なる部分を重点的に説明する。本実施形態では、調整ツール500を用いて行われる、カメラ100の撮像範囲の調整について説明する。
(Second Embodiment)
Since the second embodiment is often in common with that according to the first embodiment, a detailed description of the common parts will be omitted below, and different parts will be mainly described. In the present embodiment, adjustment of the imaging range of the camera 100 performed using the adjustment tool 500 will be described.

本実施形態の車載アプリケーションシステムに含まれる白線認識等のアプリケーションでは、カメラ100が車両前方の所定距離範囲を撮像範囲としていることを前提としている。そのため、その撮像範囲は、所定の目標範囲に合わせ込まれることが必要となる。このような場合、従来は、例えば、カメラ100に対して所定の位置関係となるように所定のパターンを有するターゲットを設置し、そのターゲットのパターンを撮像した画像信号を用いて、カメラ100の撮像範囲をソフト的に調整されている。   In an application such as white line recognition included in the in-vehicle application system of the present embodiment, it is assumed that the camera 100 has a predetermined distance range in front of the vehicle as an imaging range. Therefore, the imaging range needs to be adjusted to a predetermined target range. In such a case, conventionally, for example, a target having a predetermined pattern is set so as to have a predetermined positional relationship with respect to the camera 100, and the image of the camera 100 is captured using an image signal obtained by capturing the target pattern. The range is softly adjusted.

しかしながら、この場合、ターゲットの背景が複雑であると、ターゲットの位置の判別が困難となり、撮像範囲を調整することができなくなる。そのため、従来技術で撮像範囲を調整する場合には、背景が一様な場所を選択したり、一様な背景となるように暗幕等を設置したりする必要があった。そのため、作業スペースの確保や作業自体に多くの時間を要していた。   However, in this case, if the background of the target is complicated, it becomes difficult to determine the position of the target, and the imaging range cannot be adjusted. Therefore, when the imaging range is adjusted by the conventional technique, it is necessary to select a place where the background is uniform or to install a dark curtain or the like so that the background is uniform. Therefore, it takes a lot of time to secure the work space and work itself.

そこで、本実施形態では、カメラ100に対して所定の位置関係となるように所定のパターンを有するターゲットを設置し、そのターゲットのパターンを撮像した、図7(a)に示すアナログ画像信号(広角)を調整ツール500の表示器に表示し、この表示した画像から作業者がターゲットの中心位置を読み取り、この読み取った中心位置に基づいて撮像範囲を調整する。   Therefore, in the present embodiment, an analog image signal (wide angle) shown in FIG. 7A in which a target having a predetermined pattern is set so as to have a predetermined positional relationship with the camera 100 and the pattern of the target is imaged. ) Is displayed on the display of the adjustment tool 500, the operator reads the center position of the target from the displayed image, and adjusts the imaging range based on the read center position.

以下、本実施形態の調整ツール500を用いて実行される撮像範囲調整処理について、図8に示すフローチャートを用いて説明する。先ず、ステップS100では、カメラ100から出力されるアナログ画像信号(広角)を取得し、図示しない表示器にその画像を表示する。   Hereinafter, the imaging range adjustment process executed using the adjustment tool 500 of the present embodiment will be described with reference to the flowchart shown in FIG. First, in step S100, an analog image signal (wide angle) output from the camera 100 is acquired, and the image is displayed on a display (not shown).

ステップS110では、作業者は、画像上で移動可能なカーソルを操作して、画像上のターゲットの中心位置にカーソルを合わせ、そのカーソルの位置する画像上の座標位置を表示器から読み取る。ステップS120では、その読み取った座標位置を調整ツール500に入力し、ステップS130では、その入力された座標位置に基づいて、カメラ100の撮像範囲の調整を行う。   In step S110, the operator operates a movable cursor on the image, aligns the cursor with the center position of the target on the image, and reads the coordinate position on the image where the cursor is located from the display. In step S120, the read coordinate position is input to the adjustment tool 500, and in step S130, the imaging range of the camera 100 is adjusted based on the input coordinate position.

これにより、作業者は、画像上に映し出されるカーソルを操作して画像上のターゲットの座標位置を読み取り、その読み取った座標位置を入力することで、ターゲットの背景が複雑な場合であっても、背景が一様な場所を選択したり、一様な背景となるように暗幕等を設置したりすることなく、ターゲットの位置を特定することができる。その結果、撮像装置の撮像範囲の調整に要する作業時間を短縮することができる。   Thus, the operator operates the cursor displayed on the image to read the coordinate position of the target on the image, and inputs the read coordinate position, even if the background of the target is complicated, The position of the target can be specified without selecting a place with a uniform background or installing a dark curtain or the like so that the background is uniform. As a result, it is possible to shorten the work time required for adjusting the imaging range of the imaging device.

(変形例)
本実施形態では、作業者の入力した座標位置に基づいて、カメラ100の撮像範囲の調整を行うものであるが、例えば、図7(b)に示すように、カーソルを操作して、調整ツール500の表示器に表示された画像内の一部分の範囲を特定し、この特定した一部分の範囲の画像から、ターゲットの中心の座標位置を自動認識し、この認識した座標位置に基づいて、撮像手段の撮像範囲を調整するようにしてもよい。
(Modification)
In this embodiment, the imaging range of the camera 100 is adjusted based on the coordinate position input by the operator. For example, as shown in FIG. A range of a part in the image displayed on the display of 500 is specified, a coordinate position of the center of the target is automatically recognized from the image of the specified range of the part, and an imaging unit is based on the recognized coordinate position The image pickup range may be adjusted.

これにより、ターゲットの背景が複雑な場合であっても、画像におけるターゲットの範囲が特定されるため、従来のように、撮像装置の撮像範囲をソフト的に調整する場合において、ターゲットの位置の判別が容易となる。   As a result, even if the background of the target is complicated, the target range in the image is specified. Therefore, when the imaging range of the imaging apparatus is adjusted by software as in the past, the target position is determined. Becomes easy.

車載アプリケーションシステムの全体構成を示すブロック図である。It is a block diagram which shows the whole structure of a vehicle-mounted application system. カメラ100の機能構成を示すブロック図である。2 is a block diagram showing a functional configuration of a camera 100. FIG. ナイトビューと白線認識の要求光学特性を比較した図である。It is the figure which compared the required optical characteristic of night view and white line recognition. カメラ100の最大画角に対するナイトビューの必要画角を示した図である。FIG. 5 is a diagram illustrating a necessary view angle of night view with respect to a maximum view angle of the camera 100. (a)、(b)は、露出制御を説明するための図である。(A), (b) is a figure for demonstrating exposure control. 第1の実施形態に係わる、信号処理IC120の動作を説明するためのフローチャートである。5 is a flowchart for explaining an operation of the signal processing IC 120 according to the first embodiment. (a)は、ターゲットの中心をカーソルで特定する場合のイメージを示した図であり、(b)は、ターゲットの表示範囲をカーソルで特定する場合のイメージを示した図である。(A) is the figure which showed the image when specifying the center of a target with a cursor, (b) is the figure which showed the image when specifying the display range of a target with a cursor. 第2の実施形態に係わる、撮像範囲調整処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the imaging range adjustment process concerning 2nd Embodiment.

符号の説明Explanation of symbols

100 カメラ
110 イメージャ
120 信号処理IC
150 デジタル処理フィルタ
160 アナログ処理フィルタ(望遠)
170 アナログ処理フィルタ(広角)
200 画像処理ECU
500 調整ツール
100 camera 110 imager 120 signal processing IC
150 Digital processing filter 160 Analog processing filter (Telephoto)
170 Analog processing filter (wide angle)
200 Image processing ECU
500 Adjustment tool

Claims (8)

赤外光の波長帯と可視光の波長帯とに感度を有する受光素子を複数備えた単一の撮像手段の撮影した画像を用いて、光学特性の異なった複数の画像信号を出力するための画像処理を行う画像処理手段を備えた画像処理装置であって、
前記画像処理手段は、
前記撮像手段の撮影した画像から一部分の範囲の画像を切り出す画像切り出し手段と、
前記画像切り出し手段の切り出した部分画像の分解能を高める高分解能処理手段と、
前記高分解能処理手段によって分解能が高められた部分画像の感度を赤外光の波長帯に調整する部分画像感度調整手段と、
前記撮像手段の撮影した画像の感度を可視光の波長帯に調整する画像感度調整手段と、を備え、
前記撮像手段で撮影された共通する画像をもとに、前記画像感度調整手段によって感度が可視光の波長帯に調整された画像の画像信号、及び前記部分画像感度調整手段によって感度が赤外光の波長帯に調整された部分画像の部分画像信号を出力することを特徴とする画像処理装置。
For outputting a plurality of image signals having different optical characteristics using images taken by a single imaging means having a plurality of light receiving elements having sensitivity in the wavelength band of infrared light and the wavelength band of visible light An image processing apparatus comprising image processing means for performing image processing,
The image processing means includes
Image cutout means for cutting out a partial range image from the image taken by the imaging means;
High resolution processing means for increasing the resolution of the partial image cut out by the image cutting means;
Partial image sensitivity adjusting means for adjusting the sensitivity of the partial image whose resolution is enhanced by the high resolution processing means to the wavelength band of infrared light;
Image sensitivity adjusting means for adjusting the sensitivity of the image taken by the imaging means to the wavelength band of visible light,
Based on a common image taken by the imaging means, an image signal of an image whose sensitivity is adjusted to a visible light wavelength band by the image sensitivity adjusting means, and an infrared light by the partial image sensitivity adjusting means. An image processing apparatus for outputting a partial image signal of a partial image adjusted to a wavelength band of.
前記画像感度調整手段は、前記画像の明るさの最大値を大きくする場合、前記撮影手段のシャッタースピードの設定値を変更し、前記画像の明るさの最小値を小さくする場合、前記画像信号の出力ゲインを調整し、
前記部分画像感度調整手段は、前記部分画像の明るさの最大値を大きくする場合、前記撮影手段のシャッタースピードの設定値を変更し、前記部分画像の明るさの最小値を小さくする場合、前記部分画像信号の出力ゲインを調整することを特徴とする請求項記載の画像処理装置。
The image sensitivity adjusting means changes the setting value of the shutter speed of the photographing means when increasing the maximum value of the image brightness, and reduces the minimum value of the image brightness when decreasing the minimum value of the image brightness. Adjust the output gain,
The partial image sensitivity adjusting means, when increasing the maximum value of the brightness of the partial image, changing the setting value of the shutter speed of the photographing means, and decreasing the minimum value of the brightness of the partial image, the image processing apparatus according to claim 1, wherein adjusting the output gain of the partial image signals.
前記撮影手段のシャッタースピードの設定値を変更する際、前記画像感度調整手段と前記部分画像感度調整手段とが異なる設定変更の指示値を示す場合、当該各指示値のうち高い値を示す指示値に前記撮像手段のシャッタースピードの設定値を変更するシャッタースピード変更手段を備えることを特徴とする請求項記載の画像処理装置。 When changing the setting value of the shutter speed of the photographing unit, when the image sensitivity adjustment unit and the partial image sensitivity adjustment unit indicate different setting change instruction values, an instruction value indicating a higher value among the respective instruction values The image processing apparatus according to claim 2 , further comprising: a shutter speed changing unit that changes a setting value of the shutter speed of the imaging unit. 前記画像処理手段は、前記部分画像に対してエッジ強調処理を施すエッジ強調手段を備え、前記エッジ強調手段によってエッジ強調された部分画像の画像信号を出力することを特徴とする請求項1〜の何れか1項に記載の画像処理装置。 It said image processing means includes an edge enhancement means for performing edge enhancement processing on the partial image, according to claim 1 to 3, characterized in that outputs an image signal of an edge enhanced partial image by the edge enhancement means The image processing apparatus according to any one of the above. 前記画像信号は、車両前方に存在する物体を認識する物体形状認識のアプリケーションに用いられ、
前記部分画像信号は、前記車両前方の視界を確保するアプリケーションに用いられることを特徴とする請求項1〜の何れか1項に記載の画像処理装置。
The image signal is used for an object shape recognition application for recognizing an object existing in front of the vehicle,
The partial image signal, the image processing apparatus according to any one of claim 1 to 4, characterized in that for use in applications to ensure the field of view of the vehicle front.
前記撮像手段の撮影した画像は、デジタル画像信号として出力されるものであって、
前記画像処理手段は、前記撮像手段の出力するデジタル画像信号を順次記憶する記憶手段と、前記記憶手段に記憶されたデジタル画像信号を順次読み出して、アナログ画像信号に変換する画像変換手段と、を備え、前記デジタル画像信号、及び前記部分画像のアナログ部分画像信号を同時に出力することを特徴とする請求項1〜の何れか1項に記載の画像処理装置。
The image taken by the imaging means is output as a digital image signal,
The image processing means includes storage means for sequentially storing digital image signals output from the imaging means, and image conversion means for sequentially reading the digital image signals stored in the storage means and converting them into analog image signals. comprising, an image processing apparatus according to any one of claim 1 to 5, characterized in that outputs the digital image signal, and an analog partial image signals of the partial images simultaneously.
前記撮像手段の撮影した画像又は前記部分画像、前記画像又は前記部分画像上で移動可能なカーソル、及び当該カーソルの位置する前記画像上の座標位置を表示する表示手段と、
前記カーソルの移動操作を行うためのカーソル操作手段と、
前記カーソルの位置する前記画像上の座標位置を入力する座標位置入力手段と、
前記座標位置入力手段によって入力された座標位置に基づいて、前記撮像手段の撮像範囲を調整する撮像範囲調整手段と、を備えることを特徴とする請求項1〜の何れか1項の記載の画像処理装置。
Display means for displaying an image or partial image taken by the imaging means, a cursor movable on the image or the partial image, and a coordinate position on the image where the cursor is located;
Cursor operating means for performing the cursor moving operation;
Coordinate position input means for inputting a coordinate position on the image where the cursor is located;
Based on the coordinate position input by the coordinate position input means, of any one of of claims 1-6, characterized in that and an imaging range adjusting means for adjusting the imaging range of the image pickup means Image processing device.
前記撮像手段の撮影した画像又は前記部分画像、及び前記画像又は前記部分画像上で移動可能なカーソルを表示する表示手段と、
前記カーソルの移動操作を行うものであって、前記画像内の一部分の範囲を特定するためのカーソル操作手段と、
前記カーソル操作手段によって特定された一部分の範囲の画像から、所定の特徴点の座標位置を認識し、この認識した座標位置に基づいて、前記撮像手段の撮像範囲を調整する撮像範囲調整手段と、を備えることを特徴とする請求項1〜の何れか1項に記載の画像処理装置。
Display means for displaying an image taken by the imaging means or the partial image, and a cursor movable on the image or the partial image;
A cursor operating means for performing a moving operation of the cursor, and a cursor operating means for specifying a range of a part in the image;
An imaging range adjusting means for recognizing a coordinate position of a predetermined feature point from an image of a partial range specified by the cursor operation means, and adjusting an imaging range of the imaging means based on the recognized coordinate position; the image processing apparatus according to any one of claim 1 to 6, characterized in that it comprises.
JP2005148469A 2005-05-20 2005-05-20 Image processing device Expired - Fee Related JP4747670B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005148469A JP4747670B2 (en) 2005-05-20 2005-05-20 Image processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005148469A JP4747670B2 (en) 2005-05-20 2005-05-20 Image processing device

Publications (2)

Publication Number Publication Date
JP2006325135A JP2006325135A (en) 2006-11-30
JP4747670B2 true JP4747670B2 (en) 2011-08-17

Family

ID=37544439

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005148469A Expired - Fee Related JP4747670B2 (en) 2005-05-20 2005-05-20 Image processing device

Country Status (1)

Country Link
JP (1) JP4747670B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4645714B2 (en) 2008-09-19 2011-03-09 株式会社デンソー Image processing device
JP6390512B2 (en) * 2015-05-21 2018-09-19 株式会社デンソー In-vehicle camera device

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07283988A (en) * 1994-04-06 1995-10-27 Hitachi Ltd Image pickup device
JP3084208B2 (en) * 1995-05-18 2000-09-04 株式会社日立製作所 Image processing device
JP2001189926A (en) * 1999-12-28 2001-07-10 Mitsubishi Electric Corp Image pickup device for road monitor
JP2002104115A (en) * 2000-09-27 2002-04-10 Auto Network Gijutsu Kenkyusho:Kk Front obstacle confirming system
JP2003023553A (en) * 2001-07-06 2003-01-24 Saibuaasu:Kk Remote operation camera and image providing apparatus
JP2004072278A (en) * 2002-08-02 2004-03-04 Canon Inc Imaging apparatus and control method therefor
JP2004172655A (en) * 2002-11-15 2004-06-17 Fuji Photo Film Co Ltd Image processing apparatus and electronic camera
JP2004260265A (en) * 2003-02-24 2004-09-16 Nikon Corp Pixel extracting circuit having pixel turning over function, and image pickup apparatus
JP4250437B2 (en) * 2003-03-04 2009-04-08 キヤノン株式会社 Signal processing apparatus, signal processing method, and program
JP2004304252A (en) * 2003-03-28 2004-10-28 Minolta Co Ltd Imaging systems
JP2003298931A (en) * 2003-05-09 2003-10-17 Matsushita Electric Ind Co Ltd Exposure control system

Also Published As

Publication number Publication date
JP2006325135A (en) 2006-11-30

Similar Documents

Publication Publication Date Title
US10462372B2 (en) Imaging device, imaging system, and imaging method
JP4543147B2 (en) Panorama vision system and method
US7576767B2 (en) Panoramic vision system and method
JP4258539B2 (en) Multiple angle of view camera
KR101367637B1 (en) Monitoring apparatus
JP2009089158A (en) Imaging apparatus
JP5505764B2 (en) On-vehicle camera device calibration support method, calibration support device, and on-vehicle camera device
US8970735B2 (en) Capturing device, capturing system, and capturing method
JP4747670B2 (en) Image processing device
JP2019001325A (en) On-vehicle imaging device
JP7467402B2 (en) IMAGE PROCESSING SYSTEM, MOBILE DEVICE, IMAGE PROCESSING METHOD, AND COMPUTER PROGRAM
EP4156127A1 (en) Image processing system, mobile object, image processing method, and storage medium
JP2006178652A (en) Vehicle environment recognition system and image processor
WO2016121406A1 (en) Image processing apparatus, image processing system, vehicle, imaging apparatus, and image processing method
JP2023046930A (en) Method for installing camera unit, movable body, image processing system, image processing method, and computer program
WO2015115103A1 (en) Image processing device, camera system, and image processing method
JP5759709B2 (en) Image recognition device
JP7434476B2 (en) Image processing system, image processing method, imaging device, optical system, and computer program
JP7476151B2 (en) IMAGE PROCESSING SYSTEM, IMAGE PROCESSING METHOD, AND COMPUTER PROGRAM
JPH09231379A (en) Device for recognizing traveling lane by picture processing
EP4286223A1 (en) Movable apparatus, control method for movable apparatus, and storage medium
JP2024007203A (en) Camera system and control method thereof, and program
JP2024005791A (en) Camera monitor system, control method thereof, and program
CN115883984A (en) Image processing system and method, storage medium, image pickup apparatus, and optical unit
JP2023077492A (en) Camera system, movable body, control method and computer program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070709

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100831

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110419

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110502

R151 Written notification of patent or utility model registration

Ref document number: 4747670

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140527

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees