JP2007221199A - On-vehicle camera display device and image processing unit - Google Patents

On-vehicle camera display device and image processing unit Download PDF

Info

Publication number
JP2007221199A
JP2007221199A JP2006036130A JP2006036130A JP2007221199A JP 2007221199 A JP2007221199 A JP 2007221199A JP 2006036130 A JP2006036130 A JP 2006036130A JP 2006036130 A JP2006036130 A JP 2006036130A JP 2007221199 A JP2007221199 A JP 2007221199A
Authority
JP
Japan
Prior art keywords
vehicle
image
image data
turning
turning amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006036130A
Other languages
Japanese (ja)
Inventor
Shuhei Takimoto
周平 滝本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Wiring Systems Ltd
AutoNetworks Technologies Ltd
Sumitomo Electric Industries Ltd
Original Assignee
Sumitomo Wiring Systems Ltd
AutoNetworks Technologies Ltd
Sumitomo Electric Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Wiring Systems Ltd, AutoNetworks Technologies Ltd, Sumitomo Electric Industries Ltd filed Critical Sumitomo Wiring Systems Ltd
Priority to JP2006036130A priority Critical patent/JP2007221199A/en
Publication of JP2007221199A publication Critical patent/JP2007221199A/en
Pending legal-status Critical Current

Links

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide an on-vehicle camera display device capable of displaying a desired region according to the turning state of a vehicle, and to provide an image processing unit. <P>SOLUTION: An image processor generates image data for display containing the image of a region, where a portion corresponding to the turning state of the vehicle is cut out in a captured image by the camera based on output from a first turning quantity determination section. A display shows an image of display based on the image data for display. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

この発明は、車両周辺景色を撮像するための技術に関する。   The present invention relates to a technique for imaging a scenery around a vehicle.

従来より、車外に設けた車載カメラにより車両周辺の死角となる景色を撮像し、この撮像画像を車室内のモニタに表示するようにした技術がある。   2. Description of the Related Art Conventionally, there is a technique in which a scene that becomes a blind spot around a vehicle is captured by an in-vehicle camera provided outside the vehicle, and this captured image is displayed on a monitor in the vehicle interior.

この場合に、撮像画像にガイド線などを重畳して表示させる技術がある。また、運転者にわかりやすい画像とするために、撮像画像に対して画面分割や拡大、所定領域の切出し等の画像処理を施して、モニタに表示させる技術もある。   In this case, there is a technology for displaying a guide line or the like superimposed on the captured image. In addition, there is a technique in which a captured image is displayed on a monitor by performing image processing such as screen division and enlargement, extraction of a predetermined area, etc., in order to make the image easy to understand for the driver.

ところで、上記のような車載カメラとして広角カメラを用いると、単一のカメラでより広い領域を撮像してこれを車室内のモニタに映し出す事が可能となる。   By the way, when a wide-angle camera is used as the vehicle-mounted camera as described above, it is possible to capture a wider area with a single camera and project this on a monitor in the vehicle interior.

しかしながら、このような広角カメラによる映像は歪みが大きいため、そのままモニタに表示させると、現実世界との違和感を運転者に与える可能性がある。そこで、撮像した広角な領域のうち監視の必要性の高い領域を切出して、これに適宜歪み補正処理等を施してモニタに表示させるようにする技術が提案されている。監視の必要性の高い領域の例としては、車両後方を撮像するバックカメラを想定すると、車両の後方斜め下方領域や、車両の後部側方領域等である。つまり、車両の後方斜め下方領域画像は、当該領域に障害物が無いかどうかを確認するための画像として供される。また、車両の後部側方領域画像は、車両が駐車エリアから道路に出て行く場合等に、当該道路に車両が走行していないか否かを確認するための画像として供される。   However, since the image from such a wide-angle camera has a large distortion, if it is displayed on the monitor as it is, it may give the driver a sense of discomfort with the real world. In view of this, a technique has been proposed in which a region that is highly necessary to be monitored is extracted from a wide-angle region that has been imaged, and subjected to distortion correction processing or the like as appropriate, and displayed on a monitor. As an example of an area with high necessity for monitoring, assuming a back camera that captures an image of the rear of the vehicle, there are an obliquely lower rear area of the vehicle, a rear side area of the vehicle, and the like. That is, the rear diagonally lower region image of the vehicle is provided as an image for confirming whether or not there is an obstacle in the region. Further, the rear side area image of the vehicle is provided as an image for confirming whether or not the vehicle is traveling on the road when the vehicle leaves the parking area.

ところが、車両が駐車エリアから道路上に出て行く場合を考えると、上記のようなバックカメラでは、車両の旋回に伴い、車両の後部側方領域画像に必要な道路領域が表示されなくなってしまう。つまり、駐車エリアにおいて車両が道路に対して略垂直な姿勢である初期状態では、車両の後部側方領域画像に監視対象となる道路が表示される。しかしながら、車両が旋回しつつ道路上に出て行くと、道路に対する車両の相対的な角度が変ってしまい、車両の後部側方領域画像に監視対象となる道路が表示されなくなってしまうのである。   However, considering the case where the vehicle goes out of the parking area on the road, the back camera as described above does not display the necessary road area in the rear side area image of the vehicle as the vehicle turns. . That is, in the initial state where the vehicle is in a substantially vertical posture with respect to the road in the parking area, the road to be monitored is displayed in the rear side area image of the vehicle. However, if the vehicle turns on the road while turning, the relative angle of the vehicle with respect to the road changes, and the road to be monitored is not displayed in the rear side area image of the vehicle.

そこで、本発明は、車両の旋回状態に応じて、所望の領域を表示させることを目的とする。   Therefore, an object of the present invention is to display a desired area according to the turning state of the vehicle.

この発明に係る車載カメラ表示装置は、車両周辺景色を撮像する撮像手段と、前記撮像手段による撮像画像に対して画像処理を施して表示用画像データを生成する画像処理手段と、前記表示用画像データに基づいて表示用画像を表示する表示手段と、車両の旋回状態を取得する旋回状態取得手段と、を備え、前記画像処理手段は、前記表示用画像データとして、前記旋回状態取得手段からの出力に基づいて、前記撮像手段による撮像画像のうち車両の旋回状態に応じた部分を切出した画像を含む画像データを生成するものである。   An in-vehicle camera display device according to the present invention includes an imaging unit that captures a vehicle surrounding scene, an image processing unit that performs image processing on an image captured by the imaging unit and generates display image data, and the display image. Display means for displaying a display image based on the data, and a turning state acquisition means for acquiring a turning state of the vehicle, and the image processing means outputs the display image data from the turning state acquisition means. Based on the output, image data including an image obtained by cutting out a portion corresponding to the turning state of the vehicle from the image captured by the imaging unit is generated.

この場合に、前記旋回状態取得手段は、車両が回転する角速度を検出するヨーレートセンサからの出力に基づいて車両の旋回量を求める第1の旋回量判定手段を有するものであってもよい。   In this case, the turning state acquisition means may include first turning amount determination means for obtaining a turning amount of the vehicle based on an output from a yaw rate sensor that detects an angular velocity at which the vehicle rotates.

また、旋回状態取得手段は、前記撮像手段による撮像画像に基づいて車両の旋回量を求める第2の旋回量判定手段を有するものであってもよい。   Further, the turning state acquisition unit may include a second turning amount determination unit that obtains a turning amount of the vehicle based on an image captured by the imaging unit.

また、前記第2の旋回量判定手段は、基準タイミングにおいて撮像された画像の一部を含む基準画像データと、前記基準画像データに対して車両旋回量に応じた変換処理を施した少なくとも一つの旋回量比較用画像データとを予め生成し、前記撮像手段により撮像された画像データと前記基準画像データ及び前記旋回量比較用画像データとに基づいて車両の旋回量を求めるものであってもよい。   The second turning amount determination means includes at least one of reference image data including a part of an image captured at a reference timing, and conversion processing corresponding to the turning amount of the reference image data. The turning amount comparison image data may be generated in advance, and the turning amount of the vehicle may be obtained based on the image data captured by the imaging unit, the reference image data, and the turning amount comparison image data. .

さらに、前記基準画像データは、車両から斜め下方領域の画像を含むものであってもよい。   Furthermore, the reference image data may include an image of an obliquely lower region from the vehicle.

また、前記撮像手段は、車両の側方を含む領域を撮像可能な手段であり、前記画像処理手段は、車両の旋回量が大きくなるに伴って、車両の側方から車両幅方向中央よりの領域を順次又は段階的に切出して前記表示用画像データを生成するようにしてもよい。   In addition, the imaging unit is a unit capable of imaging a region including the side of the vehicle, and the image processing unit moves from the side of the vehicle from the center in the vehicle width direction as the turning amount of the vehicle increases. The display image data may be generated by cutting out the region sequentially or stepwise.

また、前記旋回状態取得手段は、車両停止状態からの車両の挙動開始時を起点として車両の旋回状態を取得してもよい。   Further, the turning state acquisition means may acquire the turning state of the vehicle starting from the start of the behavior of the vehicle from the vehicle stop state.

また、この発明に係る画像処理装置は、入力された撮像画像に対して画像処理を施して表示用画像データを生成して出力する画像処理手段と、車両の旋回状態を取得する旋回状態取得手段と、を備え、前記画像処理手段は、前記表示用画像データとして、前記旋回状態取得手段からの出力に基づいて、前記撮像手段による撮像画像のうち車両の旋回状態に応じた部分を切出した画像を含む画像データを生成するものである。   The image processing apparatus according to the present invention includes an image processing unit that performs image processing on the input captured image to generate and output display image data, and a turning state acquisition unit that acquires a turning state of the vehicle. The image processing means is an image obtained by cutting out a portion corresponding to the turning state of the vehicle from the image picked up by the image pickup means based on the output from the turning state acquisition means as the display image data. Is generated.

この発明の車載カメラ表示装置によると、画像処理手段は、表示用画像データとして、旋回状態取得手段からの出力に基づいて、前記撮像手段による撮像画像のうち車両の旋回状態に応じた部分を切出した画像を含む画像データを生成するため、車両の旋回状態に応じて所望の領域を表示手段に表示させることができる。   According to the vehicle-mounted camera display device of the present invention, the image processing means cuts out a portion corresponding to the turning state of the vehicle from the image taken by the imaging means as display image data based on the output from the turning state acquisition means. In order to generate the image data including the obtained image, a desired area can be displayed on the display means in accordance with the turning state of the vehicle.

また、前記旋回状態取得手段は、車両が回転する角速度を検出するヨーレートセンサの出力に基づいて車両の旋回量を求める第1の旋回量算判定段とを有していると、ヨーレートセンサに基づいて車両の旋回量を求めることができる。   Further, when the turning state acquisition means has a first turning amount calculation determination stage for obtaining a turning amount of the vehicle based on an output of a yaw rate sensor that detects an angular velocity at which the vehicle rotates, based on the yaw rate sensor. Thus, the turning amount of the vehicle can be obtained.

さらに、旋回状態取得手段は、前記撮像手段による撮像画像に基づいて車両の旋回角を求める第2の旋回量判定手段を有すると、他のセンサ等に接続することなく、車両の旋回量を求めることができる。   Further, when the turning state acquisition means has the second turning amount determination means for obtaining the turning angle of the vehicle based on the image taken by the imaging means, the turning state obtaining means obtains the turning amount of the vehicle without being connected to another sensor or the like. be able to.

また、前記第2の旋回量判定手段は、基準タイミングにおいて撮像された画像の一部を含む基準画像データと、前記基準画像データに対して車両旋回量に応じた変換処理を施した少なくとも一つの旋回量比較用画像データとを予め生成し、前記撮像手段により撮像された画像データと前記基準画像データ及び前記旋回量比較用画像データとに基づいて車両の旋回量を求めるようにすると、比較的迅速に旋回量を求めることができる。   The second turning amount determination means includes at least one of reference image data including a part of an image captured at a reference timing, and conversion processing corresponding to the turning amount of the reference image data. When the turning amount comparison image data is generated in advance and the turning amount of the vehicle is obtained based on the image data captured by the imaging means, the reference image data, and the turning amount comparison image data, The turning amount can be obtained quickly.

また、基準画像データが車両から斜め下方領域の画像を含むと、車両の旋回量をより正確に求めることができる。   Further, when the reference image data includes an image of a region obliquely below the vehicle, the turning amount of the vehicle can be obtained more accurately.

また、前記撮像手段は、車両の側方を含む領域を撮像可能な手段であり、前記画像処理手段は、車両の旋回量が大きくなるに伴って、車両の側方から車両幅方向中央よりの領域を順次又は段階的に切出して前記表示用画像データを生成すると、車両が横道に進入する場合に、その横道を継続して表示させるのに適する。   In addition, the imaging unit is a unit capable of imaging a region including the side of the vehicle, and the image processing unit moves from the side of the vehicle from the center in the vehicle width direction as the turning amount of the vehicle increases. When the display image data is generated by cutting out the regions sequentially or stepwise, it is suitable for continuously displaying the side road when the vehicle enters the side road.

前記旋回状態取得手段は、車両停止状態からの車両の挙動開始時を起点として車両の旋回状態を取得すると、その車両停止状態を基準とする所望の領域を表示し続けることができる。   When the turning state acquisition means acquires the turning state of the vehicle starting from the start of the behavior of the vehicle from the vehicle stop state, the turning state acquisition means can continue to display a desired region based on the vehicle stop state.

また、この発明の画像処理装置によると、画像処理手段は、表示用画像データとして、旋回状態取得手段からの出力に基づいて、前記撮像手段による撮像画像のうち車両の旋回状態に応じた部分を切出した画像を含む画像データを生成するため、車両の旋回状態に応じて所望の領域を含む画像データを得ることができる。   Further, according to the image processing apparatus of the present invention, the image processing unit displays, as display image data, a portion corresponding to the turning state of the vehicle in the image captured by the imaging unit based on the output from the turning state acquisition unit. Since image data including the cut-out image is generated, image data including a desired region can be obtained according to the turning state of the vehicle.

{実施形態}
以下、この発明の実施形態に係る車載カメラ表示装置について説明する。図1は車載カメラ表示装置の設置例を示す図であり、図2は車載カメラ表示装置を示すブロック図である。
{Embodiment}
Hereinafter, an in-vehicle camera display device according to an embodiment of the present invention will be described. FIG. 1 is a diagram illustrating an installation example of an in-vehicle camera display device, and FIG. 2 is a block diagram illustrating the in-vehicle camera display device.

この車載カメラ表示装置は、カメラ10と画像処理ユニット20と表示器30とを備えている。   This in-vehicle camera display device includes a camera 10, an image processing unit 20, and a display 30.

カメラ10は、車両2の周辺景色を撮像する撮像手段である。より具体的には、カメラ10は、CCD素子等の撮像素子と光学レンズ等を備えている。ここでは、カメラ10は、単一の撮像素子と、魚眼レンズ又は広角レンズ等の広角なレンズとを備えており、単一の撮像素子により車両周辺における所定の広角な領域を撮像可能な構成とされている。また、このカメラ10は、車両後部の幅方向略中央部に、車両後方に指向する姿勢で設置されている。そして、車両2後方の所定領域、ここでは、車両後部の左右両側方領域及び後方斜め下方領域を含む広角な領域(図1の斜線領域参照)を撮像可能に設置されている。このカメラ10により、図3に示すように、車両後部の左右両側方領域及び後方斜め下方領域を含む広角な撮像画像が得られる。   The camera 10 is an image pickup unit that picks up an image of the surrounding scenery of the vehicle 2. More specifically, the camera 10 includes an imaging element such as a CCD element and an optical lens. Here, the camera 10 includes a single image sensor and a wide-angle lens such as a fish-eye lens or a wide-angle lens, and is configured to be able to image a predetermined wide-angle region around the vehicle with the single image sensor. ing. In addition, the camera 10 is installed at a substantially central portion in the width direction of the rear portion of the vehicle with a posture directed toward the rear of the vehicle. A predetermined area behind the vehicle 2, here, a wide-angle area (refer to the hatched area in FIG. 1) including the left and right side areas and the rear oblique lower area at the rear of the vehicle is installed so as to be capable of imaging. As shown in FIG. 3, the camera 10 can obtain a wide-angle captured image including left and right side regions and a rear oblique lower region at the rear of the vehicle.

なお、カメラ10は、複数の撮像素子により、又は、プリズムとレンズとの組合わせにより、車両の両側方領域を含む範囲を撮像する構成であってもよい。   Note that the camera 10 may be configured to capture a range including both side regions of the vehicle using a plurality of imaging elements or a combination of a prism and a lens.

画像処理ユニット20は、画像処理部22と、メモリ24と、第1の旋回量判定部26とを備えている。   The image processing unit 20 includes an image processing unit 22, a memory 24, and a first turning amount determination unit 26.

画像処理部22は、上記カメラ10による撮像画像に対して画像処理を施して表示用画像データを生成する画像処理手段であり、画像処理用IC等により構成されている。この画像処理部22は、通常状態では、図4に示すように、カメラ10で撮像された撮像画像(図3参照)のうち車両2の車両後部の左右両側方領域画像及び後方斜め下方領域画像を切出し、これにメモリ24に格納された変換テーブルを用いて歪み補正処理等を施して表示用画像データを生成する。また、車両2の後方進行中には、第1の旋回量判定部26からの出力に基づいて、上記撮像画像のうち旋回状態に応じた部分を切出した画像を含む表示用画像データを生成する。後者の処理については後に詳述する。   The image processing unit 22 is an image processing unit that performs image processing on an image captured by the camera 10 to generate display image data, and includes an image processing IC or the like. As shown in FIG. 4, the image processing unit 22 in the normal state is a left and right side region image and a rear oblique lower region image of the rear portion of the vehicle 2 in the captured image (see FIG. 3) captured by the camera 10. And a distortion correction process or the like is performed using the conversion table stored in the memory 24 to generate display image data. Further, while the vehicle 2 is traveling backward, display image data including an image obtained by cutting out a portion corresponding to the turning state of the captured image is generated based on the output from the first turning amount determination unit 26. . The latter process will be described in detail later.

メモリ24は、例えばEPROMまたはフラッシュROM等の書き換え可能な不揮発性メモリであり、上記画像処理部22における歪み補正等に用いられる変換テーブルが格納されている。   The memory 24 is a rewritable non-volatile memory such as an EPROM or a flash ROM, and stores a conversion table used for distortion correction in the image processing unit 22.

第1の旋回量判定部26は、車両2の旋回状態を取得する旋回状態取得手段であり、ここでは、車両が回転する速度を検出するヨーレートセンサ4からの出力に基づいて車両の旋回量を求める第1の旋回量判定手段として機能する。この第1の旋回量判定部26による旋回量判定処理については後に詳述する。   The first turning amount determination unit 26 is a turning state acquisition unit that acquires the turning state of the vehicle 2. Here, the turning amount of the vehicle is determined based on the output from the yaw rate sensor 4 that detects the rotation speed of the vehicle. It functions as a first turning amount determination means to be obtained. The turning amount determination processing by the first turning amount determination unit 26 will be described in detail later.

表示器30は、画像処理部22で生成された表示用画像データに基づいて表示用画像を表示する表示手段であり、液晶表示装置等により構成されて車室内に設置されている。   The display 30 is a display unit that displays a display image based on the display image data generated by the image processing unit 22, and is configured by a liquid crystal display device or the like and installed in the vehicle interior.

ここで、図5及び図6に示すように、この車載カメラ表示装置を搭載した車両2が、駐車エリア6から道路8に出て行く場合の表示範囲を考えてみる。なお、駐車エリア6は道路8に直接面しており、かつ、駐車エリア6内で車両2は道路8に略直交する姿勢で前向き駐車されている。そして、車両2は後ろ向きで駐車エリア6から道路8に出て行くとする。   Here, as shown in FIG. 5 and FIG. 6, consider the display range when the vehicle 2 equipped with this in-vehicle camera display device goes out from the parking area 6 to the road 8. The parking area 6 faces the road 8 directly, and the vehicle 2 is parked forward in a posture substantially orthogonal to the road 8 in the parking area 6. Then, it is assumed that the vehicle 2 goes backwards from the parking area 6 to the road 8.

この場合、駐車エリア6から道路8に出て行く場合の初期状態では、車両2は道路8に対して略直交しているので、図5に示すように、車両2の後部の両側方領域と道路8とは重なりあっている。従って、図4に示すように、表示器30における車両2の後部の両側方領域画像に道路8が映し出される。このため、運転者は、表示器30を通じて道路8における車両2の走行有無を確認しつつ道路8に出て行くように運転することができる。   In this case, since the vehicle 2 is substantially orthogonal to the road 8 in the initial state when leaving the parking area 6 on the road 8, as shown in FIG. It overlaps with road 8. Therefore, as shown in FIG. 4, the road 8 is displayed on the both side area images of the rear portion of the vehicle 2 on the display 30. For this reason, the driver can drive to go out to the road 8 while confirming whether or not the vehicle 2 is traveling on the road 8 through the display 30.

そして、車両2が駐車エリア6からある程度出てしまうと、道路8に対する車両2の傾きが変ってしまう。すると、車両2の後部側方領域(図6の2点鎖線で囲まれる領域参照R1)と道路8とはずれてしまう。このため、上記初期状態のままの表示を継続すると、表示器30には道路8が映し出されなくなってしまう。   And if the vehicle 2 comes out of the parking area 6 to some extent, the inclination of the vehicle 2 with respect to the road 8 will change. Then, the rear side region of the vehicle 2 (region reference R1 surrounded by a two-dot chain line in FIG. 6) and the road 8 are deviated. For this reason, if the display in the initial state is continued, the road 8 is not projected on the display 30.

そこで、本車載カメラ表示装置では、車両2の旋回状態に応じた部分を切出した画像を含むように画像データを生成して、表示器30に継続して道路8を映し出すようにしている。   Therefore, in the in-vehicle camera display device, image data is generated so as to include an image obtained by cutting out a portion corresponding to the turning state of the vehicle 2, and the road 8 is continuously displayed on the display 30.

まず、第1の旋回量判定部26が車両2の旋回量を判定する処理について説明する。   First, a process in which the first turning amount determination unit 26 determines the turning amount of the vehicle 2 will be described.

すなわち、第1の旋回量判定部26は、車両2に設けられたヨーレートセンサ4に接続されている。このヨーレートセンサ4は、角速度センサ等により構成されており、車両2に設置されて該車両2が回転する角速度を検出する手段である。このヨーレートセンサ4による検出結果は、例えば、CAN等の車載LANを通じて第1の旋回量判定部26に与えられる。例えば、図5及び図6に示すように、車両2が駐車エリア6から道路8に出て行く場合には、図7に示すように、左右に微調整されるように旋回しつつ、全体としては一方向に大きく旋回する(ここでは旋回角が+(プラス)になるような挙動)ような車両2の挙動を示す検出信号が出力される。そして、第1の旋回量判定部26が、ヨーレートセンサ4から与えられる検出結果に基づいて、所定の基準タイミングから所定の旋回量判定時までの間で、旋回角0゜を基準に車両2の角速度の積分値を算出することで、車両2の旋回量を求める。ここで所定の基準タイミングは、車両2が駐車エリア6に停止した状態から道路8に出て行く際の挙動開始時であり、例えば、シフトレバーのポジションセンサに基づいて車両のギヤをバックに入れたと判定されたタイミングや、ギヤをバックに入れた後やエンジン始動後或は車両2の一旦停止後に、速度センサや加速度センサ、ヨーレートセンサ等の出力に基づき車両2が実際に動き始めたと判定されるタイミング等、或は、カメラ10で撮像された撮像画像に基づいて車両2の移動が検出されたタイミング等である。ここでは、車両のギヤをバックに入れたタイミングが挙動開始時であるとして説明する。このようにして、駐車エリア6に車両2が駐車された姿勢を基準として、車両2の旋回量が求められ、この旋回量を示す信号が画像処理部22に与えられる。   That is, the first turning amount determination unit 26 is connected to the yaw rate sensor 4 provided in the vehicle 2. The yaw rate sensor 4 is constituted by an angular velocity sensor or the like, and is a means that is installed in the vehicle 2 and detects an angular velocity at which the vehicle 2 rotates. The detection result by the yaw rate sensor 4 is given to the first turning amount determination unit 26 through an in-vehicle LAN such as CAN, for example. For example, as shown in FIG. 5 and FIG. 6, when the vehicle 2 goes out from the parking area 6 to the road 8, as shown in FIG. Outputs a detection signal indicating the behavior of the vehicle 2 such that the vehicle turns significantly in one direction (in this case, the behavior in which the turning angle becomes + (plus)). Then, based on the detection result given from the yaw rate sensor 4, the first turning amount determination unit 26 determines the vehicle 2 from the predetermined reference timing to the predetermined turning amount determination time with reference to the turning angle of 0 °. The amount of turning of the vehicle 2 is obtained by calculating the integral value of the angular velocity. Here, the predetermined reference timing is the start of behavior when the vehicle 2 exits the road 8 from a state where it is stopped in the parking area 6, for example, the vehicle gear is put in the back based on the position sensor of the shift lever. It is determined that the vehicle 2 has actually started to move based on the output of the speed sensor, the acceleration sensor, the yaw rate sensor, etc. Or the timing at which the movement of the vehicle 2 is detected based on the captured image captured by the camera 10. Here, the description will be made assuming that the timing when the vehicle gear is put in the back is the start of the behavior. In this way, the turning amount of the vehicle 2 is obtained based on the posture in which the vehicle 2 is parked in the parking area 6, and a signal indicating the turning amount is given to the image processing unit 22.

次に、画像処理部22が車両2の旋回状態に応じた部分を切出した画像を含むように画像データを生成する処理について説明する。   Next, the process which produces | generates image data so that the image process part 22 may include the image which cut out the part according to the turning state of the vehicle 2 is demonstrated.

すなわち、画像処理部22は、第1の旋回量判定部26の検出結果に基づいて、車両2の旋回量が大きくなるのに伴って、車両2の側方から車両2の幅方向中央よりの領域を順次又は段階的に切出して表示用画像データを生成する。   That is, the image processing unit 22 determines that the vehicle 2 from the side in the width direction of the vehicle 2 from the side of the vehicle 2 as the turning amount of the vehicle 2 increases based on the detection result of the first turning amount determination unit 26. Display image data is generated by cutting out the regions sequentially or stepwise.

図8はカメラによる撮像画像に対する切出領域の変化例を示す図であり、図9(a)〜図9(d)はカメラによる水平面内撮像領域における表示領域の変化例を示す図である。   FIG. 8 is a diagram illustrating a change example of the cutout region with respect to a captured image by the camera, and FIGS. 9A to 9D are diagrams illustrating a change example of the display region in the imaging region within the horizontal plane by the camera.

すなわち、車両2の一方側方領域(図8及び図9において車両後方に向けて右側に旋回する場合)に関する処理を中心に説明すると、カメラ10による撮像画像に対して複数(ここでは4つ)の切出領域D1,D2,D3,D4が予め設定されている。各切出領域D1,D2,D3,D4は、車両2の側方領域(換言すれば撮像画像の側方領域)から車両2の幅方向中央よりの領域に段階的に向う範囲に設定されている。   That is, a description will be given centering on processing related to one side region of the vehicle 2 (when turning rightward toward the rear of the vehicle in FIGS. 8 and 9), a plurality of (here, four) images taken by the camera 10. The cut-out areas D1, D2, D3, and D4 are preset. Each of the cutout areas D1, D2, D3, and D4 is set in a range that is stepwise from the side area of the vehicle 2 (in other words, the side area of the captured image) to the area from the center in the width direction of the vehicle 2. Yes.

なお、上記各切出領域D1,D2,D3,D4に対して歪み等を補正する変換テーブルが予め準備されてメモリ24内に格納されている。各変換テーブルは例えば事前に次のようなキャリブレーションを行うことで生成される。すなわち、図9(a)〜図9(d)に示すように、格子パターン50を、各切出領域D1,D2,D3,D4に対応する仮想光軸A1,A2,A3、A4と略垂直姿勢で、かつ、切出領域D1,D2,D3,D4全体に映り込むように配設する。そして、カメラ10により格子パターン50を撮像し、撮像された格子パターン50の歪みを除去できるような各画素の変換値を算出することで、上記変換テーブルを生成する。このように、各切出領域D1,D2,D3,D4毎に別々にキャリブレーションを行ってそれぞれ別々に変換テーブルを生成準備しておくことで、それぞれの各切出領域D1,D2,D3,D4に応じた適切な補正画像を得ることができる。なお、このようなキャリブレーション処理自体は、周知技術を含む適用可能な技術によって実施可能であるので、ここではその詳細な説明は省略する。   A conversion table for correcting distortion and the like is prepared in advance for each of the cutout areas D1, D2, D3, and D4 and stored in the memory 24. Each conversion table is generated, for example, by performing the following calibration in advance. That is, as shown in FIGS. 9A to 9D, the lattice pattern 50 is substantially perpendicular to the virtual optical axes A1, A2, A3, and A4 corresponding to the cutout regions D1, D2, D3, and D4. It arrange | positions so that it may reflect in the cutting | disconnection area | region D1, D2, D3, D4 by the attitude | position. And the said conversion table is produced | generated by imaging the lattice pattern 50 with the camera 10, and calculating the conversion value of each pixel which can remove the distortion of the imaged lattice pattern 50. FIG. In this way, by performing calibration separately for each of the cutout regions D1, D2, D3, and D4 and preparing the conversion tables separately, the respective cutout regions D1, D2, D3, and the like are prepared. An appropriate corrected image according to D4 can be obtained. Such a calibration process itself can be performed by an applicable technique including a known technique, and thus detailed description thereof is omitted here.

また、車両2が後方に向けて右方向に旋回しつつ後進する場合を想定すると、旋回量の範囲は複数(ここでは4つ)の範囲に分割されており、それぞれの範囲が各切出領域D1,D2,D3,D4に対応づけられており、この対応関係データが上記メモリ24に格納されている。例えば、旋回量を示す0゜〜90゜の範囲が、(0゜〜θ1)、(θ1〜θ2)、(θ2〜θ3)、(θ3〜90゜)の範囲(但し、0゜<θ1<θ2<θ3<90゜に分割されており、それぞれ切出領域D1,D2,D3,D4に対応づけられている。例えば、各切出領域D1,D2,D3,D4に対応する各仮想光軸A1,A2,A3、A4が、それぞれ(0゜〜θ1)、(θ1〜θ2)、(θ2〜θ3)、(θ3〜90゜)の範囲に属するように対応づけて設定される。そして、画像処理部22は、第1の旋回量判定部26の検出結果及び上記対応関係データに基づいて、切出領域D1,D2,D3,D4の中から旋回量に応じたもの一つを選択して、カメラ10による撮像画像のうち対応する画像を切出す。切出された画像は上記変換テーブルを用いて補正され、車両2の側方領域画像を本来表示されるべき部分に重畳される。これにより、車両2の旋回状態に応じた部分を切出した画像を含む画像データが生成される。なお、旋回量が上記各範囲の閾値である場合には、その前後のいずれの切出領域D1,D2,D3,D4を選択するようにしてもよい。   In addition, assuming that the vehicle 2 moves backward while turning rightward toward the rear, the range of the turning amount is divided into a plurality of (here, four) ranges, and each range corresponds to each cut-out area. D1, D2, D3, and D4 are associated with each other, and this correspondence data is stored in the memory 24. For example, the range of 0 ° to 90 ° indicating the turning amount is the range of (0 ° to θ1), (θ1 to θ2), (θ2 to θ3), (θ3 to 90 °) (where 0 ° <θ1 < It is divided into θ2 <θ3 <90 ° and is associated with the cutout areas D1, D2, D3, D4, for example, each virtual optical axis corresponding to each cutout area D1, D2, D3, D4. A1, A2, A3, and A4 are set so as to correspond to the ranges of (0 ° to θ1), (θ1 to θ2), (θ2 to θ3), and (θ3 to 90 °), respectively. The image processing unit 22 selects one of the cutout areas D1, D2, D3, and D4 according to the turning amount based on the detection result of the first turning amount determination unit 26 and the correspondence data. Then, a corresponding image is cut out from the image picked up by the camera 10. The cut image is the conversion table. And the side region image of the vehicle 2 is superimposed on the portion to be originally displayed, whereby image data including an image obtained by cutting out the portion corresponding to the turning state of the vehicle 2 is generated. When the turning amount is the threshold value of each of the above ranges, any of the cutout regions D1, D2, D3, and D4 before and after the range may be selected.

なお、車両2の他方側方領域(図8及び図9において車両後方に向けて左側に旋回する場合)に関する処理を中心に説明すると、上記と逆の側方領域に関して上記と同様の切出し等の画像処理を行って、表示用画像データを生成する。   The processing related to the other side region of the vehicle 2 (when turning to the left side toward the rear of the vehicle in FIGS. 8 and 9) will be mainly described. With respect to the side region opposite to the above, Image processing is performed to generate display image data.

また、車両2が後進する場合の旋回方向と反対側の側方画像については、車両2に対する側方画像をそのまま継続して表示してもよいし、或は、表示自体をやめてもよい。   As for the side image opposite to the turning direction when the vehicle 2 moves backward, the side image with respect to the vehicle 2 may be continuously displayed as it is, or the display itself may be stopped.

このように構成された車載カメラ表示装置の動作について図10のフローチャートを参照して説明する。   The operation of the in-vehicle camera display device configured as described above will be described with reference to the flowchart of FIG.

まず、ステップS1において、画像処理部22は、シフトレバーのポジションセンサからの検出結果に基づいてバックギヤに入れられたか否かを判定する。ここで、バックギヤに入れられていないと判定されるとステップS1の処理を繰返し、バックギヤに入れられたと判定されると、次ステップS2に進む。   First, in step S1, the image processing unit 22 determines whether or not the back gear has been engaged based on the detection result from the position sensor of the shift lever. If it is determined that the gear is not in the back gear, the process of step S1 is repeated. If it is determined that the gear is in the back gear, the process proceeds to the next step S2.

ステップS2では、第1の旋回量判定部26がヨーレートセンサ4からの検出結果に基づいて車両2の旋回量を判定し、求められた旋回量を示す信号を画像処理部22に与える。   In step S <b> 2, the first turning amount determination unit 26 determines the turning amount of the vehicle 2 based on the detection result from the yaw rate sensor 4, and gives a signal indicating the obtained turning amount to the image processing unit 22.

続くステップS3では、画像処理部22は、求められた旋回量に応じた切出領域D1,D2,D3,D4を決定し、次ステップS4に進む。   In subsequent step S3, the image processing unit 22 determines cutout regions D1, D2, D3, and D4 according to the obtained turning amount, and proceeds to next step S4.

ステップS4では、画像処理部22は、カメラ10による撮像画像のうち決定された切出領域D1,D2,D3,D4に対応する領域を切出すと共に、これに対応する変換テーブルをメモリ24から読出す。そして、切出された画像データに対して変換テーブルを用いた所定の画像変換処理を行って補正し、補正された切出し画像を含む表示用画像データを生成して出力する。出力された表示用画像データは表示器30に与えられて監視用の表示画像として車室内の運転者等に対して表示される。   In step S <b> 4, the image processing unit 22 cuts out areas corresponding to the cut out areas D <b> 1, D <b> 2, D <b> 3, D <b> 4 determined from the image captured by the camera 10, and reads the conversion table corresponding to this from the memory 24. put out. Then, a predetermined image conversion process using a conversion table is performed on the cut image data to correct it, and display image data including the corrected cut image is generated and output. The output display image data is given to the display device 30 and displayed as a monitor display image to a driver or the like in the passenger compartment.

続くステップS6では、画像処理部22は、シフトレバーのポジションセンサからの検出結果に基づいてバックギヤが解除されたか否かを判定する。そして、バックギヤが解除されていないと判定すると、ステップS2に戻りステップS2〜ステップS6の処理を繰返し、車両2の旋回量に応じた切出領域D1,D2,D3,D4の表示を継続する。これにより、道路8に対する車両2の旋回量が大きくなるほど、切出領域D1,D2,D3,D4のうちより中央よりのものが選択されて表示器30に表示されるようになり、道路8を含む領域R2の画像が継続的に表示されることになる。   In subsequent step S6, the image processing unit 22 determines whether or not the back gear is released based on the detection result from the position sensor of the shift lever. If it is determined that the back gear is not released, the process returns to step S2 and the processes of steps S2 to S6 are repeated, and the display of the cut areas D1, D2, D3, and D4 according to the turning amount of the vehicle 2 is continued. As a result, as the turning amount of the vehicle 2 with respect to the road 8 increases, the area from the center of the cutout areas D1, D2, D3, and D4 is selected and displayed on the display 30. The image of the region R2 that is included is continuously displayed.

そして、ステップS6において、画像処理部22がバックギヤが解除されたと判定すると、旋回量に応じた表示を行う処理を終了する。   When the image processing unit 22 determines in step S6 that the back gear has been released, the process of displaying according to the turning amount is terminated.

以上のように構成された車載カメラ表示装置によると、画像処理部22は、第1の旋回量判定部26のからの出力に基づいて、カメラ10の撮像画像のうち車両2の旋回状態に応じた部分を切出した領域D1,D2,D3,D4の画像を含む表示用画像データを生成するため、車両2の旋回状態に応じて所望の領域を表示器30に表示させることができる。   According to the in-vehicle camera display device configured as described above, the image processing unit 22 responds to the turning state of the vehicle 2 in the captured image of the camera 10 based on the output from the first turning amount determination unit 26. Since the display image data including the images of the regions D1, D2, D3, and D4 obtained by cutting out the portion is generated, a desired region can be displayed on the display 30 according to the turning state of the vehicle 2.

より具体的には、カメラ10は車両2の側方を含む領域を撮像可能に構成されており、画像処理部22は、車両2の旋回量が大きくなるに伴って、車両2の側方から車両幅方向中央よりの領域を段階的に切出して表示用画像データを生成しているため、例えば、道路8に対して略垂直姿勢の車両2が該道路8に進入する場合に、その道路8を継続して表示させるのに適している。   More specifically, the camera 10 is configured to be able to image a region including the side of the vehicle 2, and the image processing unit 22 can be viewed from the side of the vehicle 2 as the turning amount of the vehicle 2 increases. Since the display image data is generated by stepping out the region from the center in the vehicle width direction, for example, when the vehicle 2 in a substantially vertical posture with respect to the road 8 enters the road 8, the road 8 It is suitable for displaying continuously.

特に、第1の旋回量判定部26は、ヨーレートセンサ4の出力に基づいて車両2の旋回量を求めるため、比較的正確に車両2の旋回量を求めることができる。   In particular, since the first turning amount determination unit 26 obtains the turning amount of the vehicle 2 based on the output of the yaw rate sensor 4, the turning amount of the vehicle 2 can be obtained relatively accurately.

また、車両2が駐車エリア6に停止した状態から車両2の挙動開始時を起点として、車両2の旋回量を求めているため、その車両停止状態を基準とする所望の領域、即ち、車両2の側方領域を表示し続けることができる。   Further, since the turning amount of the vehicle 2 is obtained from the start of the behavior of the vehicle 2 from the state in which the vehicle 2 is stopped in the parking area 6, a desired region based on the vehicle stop state, that is, the vehicle 2 is obtained. You can continue to display the side area.

{変形例}
上記実施形態では、第1の旋回量判定部26がヨーレートセンサからの検出結果に基づいて車両2の旋回量を判定したが、必ずしもその必要はない。
{Modifications}
In the above embodiment, the first turning amount determination unit 26 determines the turning amount of the vehicle 2 based on the detection result from the yaw rate sensor, but this is not necessarily required.

以下に車両の旋回量判定に係る変形例を説明する。図11は変形例に係る車載カメラ表示装置を示すブロック図である。   Hereinafter, a modified example relating to the turning amount determination of the vehicle will be described. FIG. 11 is a block diagram showing an in-vehicle camera display device according to a modification.

この車載カメラ表示装置では、上記画像処理ユニット20に対応する画像処理ユニット20Bが、第1の旋回量判定部26に換えて、第2の旋回量判定部26Bを備えると共に、メモリ40を備える構成となっている。   In this in-vehicle camera display device, an image processing unit 20B corresponding to the image processing unit 20 includes a second turning amount determination unit 26B instead of the first turning amount determination unit 26, and also includes a memory 40. It has become.

第2の旋回量判定部26Bは、カメラ10による撮像画像に基づいて車両の旋回量を求める手段であり、画像処理用IC等により構成されている。   The second turning amount determination unit 26B is a means for obtaining the turning amount of the vehicle based on an image captured by the camera 10, and includes an image processing IC or the like.

メモリ40は、例えば、SDRAM等の揮発性メモリ等により構成されており、上記第1の旋回量判定部26Bにおける旋回量判定処理に用いられる判定用画像データを一時的に格納できるようになっている。   The memory 40 is composed of, for example, a volatile memory such as SDRAM, and can temporarily store determination image data used for the turning amount determination processing in the first turning amount determination unit 26B. Yes.

第2の旋回量判定部26Bにおける旋回量の判定処理について説明する。   The turning amount determination process in the second turning amount determination unit 26B will be described.

すなわち、車両2が駐車エリア6に停止した状態から道路8に出て行く際の挙動開始時である基準タイミングにおいて、カメラ10による撮像画像が画像処理部22を通じて第2の旋回量判定部26Bに与えられる。すると、第2の旋回量判定部26Bは、該基準タイミングにおける撮像画像の一部を含む基準画像データを生成する。ここでは、図12の枠内に示すように、撮像画像のうち車両後方の斜め下方領域を含む基準画像データを生成する。より具体的には、車両後方の斜め下方領域を俯瞰画像(上方から見た画像、トップビュー画像ともいう)に変換して基準画像データT0を生成する。この基準画像データT0には、道路の模様や白線等が含まれる。   That is, an image captured by the camera 10 is sent to the second turning amount determination unit 26B through the image processing unit 22 at the reference timing when the behavior when the vehicle 2 exits the road 8 from the state where the vehicle 2 has stopped in the parking area 6 is started. Given. Then, the second turning amount determination unit 26B generates reference image data including a part of the captured image at the reference timing. Here, as shown in the frame of FIG. 12, reference image data including a diagonally lower region behind the vehicle in the captured image is generated. More specifically, reference image data T0 is generated by converting a diagonally lower area behind the vehicle into an overhead image (also referred to as an image viewed from above, also referred to as a top view image). The reference image data T0 includes road patterns, white lines, and the like.

また、第2の旋回量判定部26Bは、図13(a)、図13(b)、図13(c)に示すように、該基準画像データT0に対して車両2の旋回量に応じた回転処理等の変換処理を施して少なくとも一つ(ここでは3つ)の旋回量比較用画像データT1,T2,T3を生成する。なお、基準画像データT0に対する回転処理の回転角度d1゜,d2゜,d3゜,d4゜は、例えば、0゜<d1゜<θ1、θ1<d2゜<θ2、θ2<d3゜<θ3、θ3<d4゜<90゜の範囲で設定される。ここでの変換処理で使われる回転角度に応じた変換テーブルは、不揮発性メモリ内に格納されている。   Further, the second turning amount determination unit 26B responds to the turning amount of the vehicle 2 with respect to the reference image data T0 as shown in FIGS. 13 (a), 13 (b), and 13 (c). Conversion processing such as rotation processing is performed to generate at least one (here, three) turning amount comparison image data T1, T2, T3. Note that the rotation angles d1 °, d2 °, d3 °, d4 ° for the reference image data T0 are, for example, 0 ° <d1 ° <θ1, θ1 <d2 ° <θ2, θ2 <d3 ° <θ3, θ3. It is set in the range of <d4 ° <90 °. A conversion table corresponding to the rotation angle used in the conversion process here is stored in a nonvolatile memory.

そして、これらの基準画像データT0及び旋回量比較用画像データT1,T2,T3は、上記各回転角度d1゜,d2゜,d3゜,d4゜と対応づけられて判定用画像データとしてメモリ40内に一時的に格納される。   The reference image data T0 and the turning amount comparison image data T1, T2, T3 are associated with the rotation angles d1 °, d2 °, d3 °, d4 ° in the memory 40 as image data for determination. Temporarily stored.

そして、車両2の旋回量を判定するときには、カメラ10による撮像画像が画像処理部22を通じて第2の旋回量判定部26Bに与えられる。すると、第2の旋回量判定部26Bは、カメラ10による撮像画像に対して各基準画像データT0及び旋回量比較用画像データT1,T2,T3を基準とするマッチング処理等を行い、各基準画像データT0及び旋回量比較用画像データT1,T2,T3に最も類似する画像領域を抽出する。そして、第2の旋回量判定部26Bは、抽出された各画像領域と対応する各基準画像データT0及び旋回量比較用画像データT1,T2,T3との間で相関値を求め、最も相関度の高い基準画像データT0及び旋回量比較用画像データT1,T2,T3を決定し、対応する回転角度d1゜,d2゜,d3゜,d4゜のうちの一つを決定する。そして、決定された一つの回転角度d1゜,d2゜,d3゜,d4゜を含む信号を画像処理部22に与える。   Then, when determining the turning amount of the vehicle 2, an image captured by the camera 10 is given to the second turning amount determination unit 26 </ b> B through the image processing unit 22. Then, the second turning amount determination unit 26B performs matching processing and the like on the basis of each reference image data T0 and turning amount comparison image data T1, T2, and T3 on the image captured by the camera 10, and each reference image. An image region most similar to the data T0 and the turning amount comparison image data T1, T2, T3 is extracted. Then, the second turning amount determination unit 26B obtains a correlation value between each extracted image area and each corresponding reference image data T0 and turning amount comparison image data T1, T2, and T3, and obtains the most correlation degree. High reference image data T0 and turning amount comparison image data T1, T2, T3 are determined, and one of the corresponding rotation angles d1 °, d2 °, d3 °, d4 ° is determined. Then, a signal including one determined rotation angle d1 °, d2 °, d3 °, d4 ° is given to the image processing unit 22.

この変形例に係る車載カメラ表示装置の動作について図14のフローチャートを参照して説明する。   The operation of the in-vehicle camera display device according to this modification will be described with reference to the flowchart of FIG.

まず、ステップS11において、画像処理部22は、バックギヤに入れられたか否かを判定する。ここで、バックギヤに入れられていないと判定されるとステップS11の処理を繰返し、バックギヤに入れられたと判定されると、次ステップS12に進む。   First, in step S <b> 11, the image processing unit 22 determines whether or not the back gear has been set. If it is determined that the gear is not in the back gear, the process of step S11 is repeated. If it is determined that the gear is in the back gear, the process proceeds to the next step S12.

ステップS12では、第2の旋回量判定部26Bは、カメラ10による撮像画像及び変換テーブルに基づいて、基準画像データT0及び旋回量比較用画像データT1,T2,T3を生成し、これらを判定用画像データとしてメモリ40内に格納する。   In step S12, the second turning amount determination unit 26B generates reference image data T0 and turning amount comparison image data T1, T2, and T3 based on the image captured by the camera 10 and the conversion table, and these are used for determination. The image data is stored in the memory 40.

次ステップS13では、第2の旋回量判定部26Bは、カメラ10による撮像画像データ及びメモリ40に格納された判定用画像データに基づいて、車両2の旋回量を判定し、この旋回量を示す信号を画像処理部22に与える。   In the next step S13, the second turning amount determination unit 26B determines the turning amount of the vehicle 2 based on the image data captured by the camera 10 and the determination image data stored in the memory 40, and indicates this turning amount. The signal is supplied to the image processing unit 22.

この後、画像処理部22は、図10のフローチャートにおけるステップS3〜S6と同様の処理を実行する。これにより、車両2の旋回量に応じた画像データが表示器30に与えられて監視用の表示画像として車室内の運転者等に向けて表示される。そして、ステップS6で、画像処理部22が、バックギヤが解除されたと判定すると、ステップS12に戻りステップS12,ステップS13,ステップS3〜ステップS6の処理を繰返し、車両2の旋回量に応じた切出領域D1,D2,D3,D4の表示を継続する。一方、バックギヤが解除されたと判定すると、処理を終了する。   Thereafter, the image processing unit 22 executes the same processing as steps S3 to S6 in the flowchart of FIG. As a result, image data corresponding to the turning amount of the vehicle 2 is given to the display 30 and displayed as a monitor display image toward the driver in the vehicle compartment. If the image processing unit 22 determines in step S6 that the back gear has been released, the process returns to step S12 and repeats the processes of steps S12, S13, and S3 to S6, and cuts out according to the turning amount of the vehicle 2. The display of the areas D1, D2, D3, D4 is continued. On the other hand, if it is determined that the back gear is released, the process is terminated.

この変形例に係る車載カメラ表示装置によっても、上記実施形態と同様の効果を得ることができる。   The same effect as that of the above embodiment can also be obtained by the in-vehicle camera display device according to this modification.

加えて、第2の旋回量判定部26Bは、カメラ10による撮像画像に基づいて車両2の旋回角を求めるため、ヨーレートセンサ等の他のセンサに接続することなく、車両2の旋回量を求めることができるという利点がある。   In addition, the second turning amount determination unit 26B obtains the turning amount of the vehicle 2 without being connected to another sensor such as a yaw rate sensor in order to obtain the turning angle of the vehicle 2 based on the image captured by the camera 10. There is an advantage that you can.

また、第2の旋回量判定部26Bは、基準タイミングにおいて撮像された画像の一部を含む基準画像データと、この基準画像データに対して旋回量に応じた変換処理を施した旋回量比較用画像データとを予め生成し、これらの画像データとカメラ10により撮像された撮像画像画像データとに基づいて車両の旋回量を求めるようにしているため、旋回量の各判定段階での処理量を少なくすることができ、比較的迅速に旋回量を求めることができる。   The second turning amount determination unit 26B is for comparing reference image data including a part of an image captured at the reference timing, and turning amount comparison obtained by performing conversion processing on the reference image data according to the turning amount. Since the image data is generated in advance and the turning amount of the vehicle is obtained based on the image data and the captured image image data captured by the camera 10, the amount of processing at each determination step of the turning amount is reduced. The amount of turning can be reduced, and the turning amount can be obtained relatively quickly.

また、基準画像データは車両2から斜め下方領域の画像を含むため、カメラ10と被写体との間の距離の影響を可及的に排除して、比較的正確に車両の旋回量を判定することができる。   In addition, since the reference image data includes an image of an obliquely lower region from the vehicle 2, the influence of the distance between the camera 10 and the subject is eliminated as much as possible, and the turning amount of the vehicle is determined relatively accurately. Can do.

なお、本変形例において、撮像素子及びレンズ等を有する撮像部10Cと画像処理部22と第2の旋回量判定部26Bとメモリ24,40とを単一のケース内に収容する等して単一の車載カメラ装置20Cとして構成してもよい。これにより、本車載カメラ装置を車両に取付けて映像出力を車内の表示器30に接続することで、容易に車両に組込むことができる。   In this modification, the image pickup unit 10C having the image pickup element, the lens, and the like, the image processing unit 22, the second turning amount determination unit 26B, and the memories 24 and 40 are stored in a single case. You may comprise as one vehicle-mounted camera apparatus 20C. Thereby, it can mount in a vehicle easily by attaching this vehicle-mounted camera apparatus to a vehicle and connecting a video output to the indicator 30 in a vehicle.

また、車両2の旋回状態を取得する旋回状態取得手段は上記実施形態及び上記変形例に係る構成に限られない。例えば、ハンドルの切れ角を検出するセンサや磁気方位センサ等に基づいて車両の旋回量を求めるようにしてもよい。   Moreover, the turning state acquisition means for acquiring the turning state of the vehicle 2 is not limited to the configuration according to the embodiment and the modification. For example, the turning amount of the vehicle may be obtained based on a sensor for detecting a turning angle of the steering wheel, a magnetic azimuth sensor, or the like.

また、本実施形態及び上記変形例では、車両の後方を撮像するバックカメラに適用した例で説明したが、適用例はこれに限られない。例えば、車両の前部側方を撮像するフロントカメラにも適用できる。   Moreover, although this embodiment and the said modification demonstrated by the example applied to the back camera which images the back of a vehicle, an application example is not restricted to this. For example, the present invention can also be applied to a front camera that images the front side of the vehicle.

なお、本実施形態及び上記変形例では、予め複数の切出領域D1,D2,D3,D4を設定しておき、車両2の旋回量に応じて一つの切出領域D1,D2,D3,D4を選択する構成を採用したが必ずしもその必要はない。車両2の側方領域に対応する切出領域を基準にして、車両2の旋回量に応じて該切出領域を連続的に中央よりの方向へ移動させるようにしてもよい。   In the present embodiment and the above modification, a plurality of cutout areas D1, D2, D3, and D4 are set in advance, and one cutout area D1, D2, D3, and D4 is set according to the turning amount of the vehicle 2. Although the structure which selects is adopted, it is not always necessary. Based on the cutout area corresponding to the side area of the vehicle 2, the cutout area may be continuously moved in the direction from the center according to the turning amount of the vehicle 2.

実施形態に係る車載カメラ表示装置の設置例を示す図である。It is a figure which shows the example of installation of the vehicle-mounted camera display apparatus which concerns on embodiment. 車載カメラ表示装置を示すブロック図である。It is a block diagram which shows a vehicle-mounted camera display apparatus. カメラによる撮像画像例を示す図である。It is a figure which shows the example of a captured image with a camera. 表示器による表示画像例を示す図である。It is a figure which shows the example of a display image by a display. 車両が駐車エリアから道路に出て行く様子を示す図である。It is a figure which shows a mode that a vehicle goes out to a road from a parking area. 車両が駐車エリアから道路に出て行く他の様子を示す図である。It is a figure which shows the other mode that a vehicle goes out to a road from a parking area. ヨーレートセンサにより検出された旋回角の変化例を示す図である。It is a figure which shows the example of a change of the turning angle detected by the yaw rate sensor. カメラによる撮像画像に対する切出領域の変化例を示す図である。It is a figure which shows the example of a change of the extraction area | region with respect to the captured image by a camera. 図9(a),図9(b),図9(c),図9(d)はカメラによる水平面内撮像領域における表示領域の変化例を示す図である。FIG. 9A, FIG. 9B, FIG. 9C, and FIG. 9D are diagrams showing examples of changes in the display area in the horizontal imaging area by the camera. 車載カメラ表示装置の動作を示すフローチャートである。It is a flowchart which shows operation | movement of a vehicle-mounted camera display apparatus. 変形例に係る車載カメラ表示装置を示すブロック図である。It is a block diagram which shows the vehicle-mounted camera display apparatus which concerns on a modification. 基準画像データに含まれる対象画像を示す図である。It is a figure which shows the target image contained in reference | standard image data. 図13(a),図13(b),図13(c)は、旋回量比較用画像データの例を示す図である。FIG. 13A, FIG. 13B, and FIG. 13C are diagrams showing examples of turning amount comparison image data. 変形例に係る車載カメラ表示装置の動作を示すフローチャートである。It is a flowchart which shows operation | movement of the vehicle-mounted camera display apparatus which concerns on a modification. 他の変形例に係る車載カメラ表示装置の動作を示すフローチャートである。It is a flowchart which shows operation | movement of the vehicle-mounted camera display apparatus which concerns on another modification.

符号の説明Explanation of symbols

2 車両
4 ヨーレートセンサ
10 カメラ
20 画像処理ユニット
22 画像処理部
24,40 メモリ
26 第1の旋回量判定部
26B 第2の旋回量判定部
30 表示器
D1,D2,D3,D4 切出領域
T0 基準画像データ
T1,T2,T3 旋回量比較用画像データ
2 Vehicle 4 Yaw Rate Sensor 10 Camera 20 Image Processing Unit 22 Image Processing Unit 24, 40 Memory 26 First Turning Amount Determination Unit 26B Second Turning Amount Determination Unit 30 Display D1, D2, D3, D4 Cutout Area T0 Reference Image data T1, T2, T3 Image data for turning amount comparison

Claims (8)

車両周辺景色を撮像する撮像手段と、
前記撮像手段による撮像画像に対して画像処理を施して表示用画像データを生成する画像処理手段と、
前記表示用画像データに基づいて表示用画像を表示する表示手段と、
車両の旋回状態を取得する旋回状態取得手段と、
を備え、
前記画像処理手段は、前記表示用画像データとして、前記旋回状態取得手段からの出力に基づいて、前記撮像手段による撮像画像のうち車両の旋回状態に応じた部分を切出した画像を含む画像データを生成する、車載カメラ表示装置。
Imaging means for imaging the scenery around the vehicle;
Image processing means for generating image data for display by performing image processing on an image captured by the imaging means;
Display means for displaying a display image based on the display image data;
Turning state acquisition means for acquiring the turning state of the vehicle;
With
The image processing means includes, as the display image data, image data including an image obtained by cutting out a portion corresponding to a turning state of a vehicle from an image taken by the imaging means based on an output from the turning state acquisition means. An in-vehicle camera display device to be generated.
請求項1記載の車載カメラ表示装置であって、
前記旋回状態取得手段は、車両が回転する角速度を検出するヨーレートセンサからの出力に基づいて車両の旋回量を求める第1の旋回量判定手段を有する、車載カメラ表示装置。
The in-vehicle camera display device according to claim 1,
The turning state acquisition means includes a first turning amount determination means for obtaining a turning amount of the vehicle based on an output from a yaw rate sensor that detects an angular velocity at which the vehicle rotates.
請求項1記載の車載カメラ表示装置であって、
前記旋回状態取得手段は、前記撮像手段による撮像画像に基づいて車両の旋回量を求める第2の旋回量判定手段を有する、車載カメラ表示装置。
The in-vehicle camera display device according to claim 1,
The on-vehicle camera display device, wherein the turning state acquisition means includes second turning amount determination means for obtaining a turning amount of the vehicle based on an image captured by the imaging means.
請求項3記載の車載カメラ表示装置であって、
前記第2の旋回量判定手段は、基準タイミングにおいて撮像された画像の一部を含む基準画像データと、前記基準画像データに対して車両旋回量に応じた変換処理を施した少なくとも一つの旋回量比較用画像データとを予め生成し、前記撮像手段により撮像された画像データと前記基準画像データ及び前記旋回量比較用画像データとに基づいて車両の旋回量を求める、車載カメラ表示装置。
The in-vehicle camera display device according to claim 3,
The second turning amount determination means includes at least one turning amount obtained by subjecting the reference image data including a part of an image captured at a reference timing and a conversion process corresponding to the turning amount of the vehicle to the reference image data. A vehicle-mounted camera display device that generates image data for comparison in advance and obtains a turning amount of the vehicle based on the image data picked up by the image pickup means, the reference image data, and the turning amount comparison image data.
請求項4記載の車載カメラ表示装置であって、
前記基準画像データは、車両から斜め下方領域の画像を含む、車載カメラ表示装置。
The in-vehicle camera display device according to claim 4,
The on-vehicle camera display device, wherein the reference image data includes an image of an obliquely lower region from the vehicle.
請求項1〜請求項4のいずれかに記載の車載カメラ表示装置であって、
前記撮像手段は、車両の側方を含む領域を撮像可能な手段であり、
前記画像処理手段は、車両の旋回量が大きくなるに伴って、車両の側方から車両幅方向中央よりの領域を順次又は段階的に切出して前記表示用画像データを生成する、車載カメラ表示装置。
The vehicle-mounted camera display device according to any one of claims 1 to 4,
The imaging means is means capable of imaging a region including the side of the vehicle,
The image processing means generates the display image data by sequentially or stepping out a region from the center of the vehicle width direction from the side of the vehicle as the turning amount of the vehicle increases. .
請求項1〜請求項6のいずれかに記載の車載カメラ表示装置であって、
前記旋回状態取得手段は、車両停止状態からの車両の挙動開始時を起点として車両の旋回状態を取得する、車載カメラ表示装置。
The on-vehicle camera display device according to any one of claims 1 to 6,
The turning state acquisition means is an in-vehicle camera display device that acquires the turning state of the vehicle starting from the start of the behavior of the vehicle from the vehicle stop state.
入力された撮像画像に対して画像処理を施して表示用画像データを生成して出力する画像処理手段と、
車両の旋回状態を取得する旋回状態取得手段と、
を備え、
前記画像処理手段は、前記表示用画像データとして、前記旋回状態取得手段からの出力に基づいて、前記撮像手段による撮像画像のうち車両の旋回状態に応じた部分を切出した画像を含む画像データを生成する、画像処理装置。
Image processing means for performing image processing on the input captured image to generate and output display image data; and
Turning state acquisition means for acquiring the turning state of the vehicle;
With
The image processing means includes, as the display image data, image data including an image obtained by cutting out a portion corresponding to a turning state of a vehicle from an image taken by the imaging means based on an output from the turning state acquisition means. An image processing apparatus to generate.
JP2006036130A 2006-02-14 2006-02-14 On-vehicle camera display device and image processing unit Pending JP2007221199A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006036130A JP2007221199A (en) 2006-02-14 2006-02-14 On-vehicle camera display device and image processing unit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006036130A JP2007221199A (en) 2006-02-14 2006-02-14 On-vehicle camera display device and image processing unit

Publications (1)

Publication Number Publication Date
JP2007221199A true JP2007221199A (en) 2007-08-30

Family

ID=38498045

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006036130A Pending JP2007221199A (en) 2006-02-14 2006-02-14 On-vehicle camera display device and image processing unit

Country Status (1)

Country Link
JP (1) JP2007221199A (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009081496A (en) * 2007-09-25 2009-04-16 Hitachi Ltd In-vehicle camera
JP2010109483A (en) * 2008-10-28 2010-05-13 Honda Motor Co Ltd Vehicle-surroundings displaying method
WO2013018537A1 (en) * 2011-08-02 2013-02-07 日産自動車株式会社 Driving assistance apparatus and driving assistance method
WO2013046407A1 (en) * 2011-09-29 2013-04-04 トヨタ自動車株式会社 Image display device, and image display method
CN103797529A (en) * 2011-09-12 2014-05-14 日产自动车株式会社 Three-dimensional object detection device
WO2015115103A1 (en) * 2014-01-29 2015-08-06 京セラ株式会社 Image processing device, camera system, and image processing method

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009081496A (en) * 2007-09-25 2009-04-16 Hitachi Ltd In-vehicle camera
JP2010109483A (en) * 2008-10-28 2010-05-13 Honda Motor Co Ltd Vehicle-surroundings displaying method
WO2013018537A1 (en) * 2011-08-02 2013-02-07 日産自動車株式会社 Driving assistance apparatus and driving assistance method
CN103718225A (en) * 2011-08-02 2014-04-09 日产自动车株式会社 Driving assistance apparatus and driving assistance method
JPWO2013018537A1 (en) * 2011-08-02 2015-03-05 日産自動車株式会社 Driving support device and driving support method
US9235767B2 (en) 2011-08-02 2016-01-12 Nissan Motor Co., Ltd. Detection region modification for driving assistance apparatus and driving assistance method
RU2576362C2 (en) * 2011-08-02 2016-02-27 Ниссан Мотор Ко., Лтд. Driving aid device and process
CN103797529A (en) * 2011-09-12 2014-05-14 日产自动车株式会社 Three-dimensional object detection device
WO2013046407A1 (en) * 2011-09-29 2013-04-04 トヨタ自動車株式会社 Image display device, and image display method
JPWO2013046407A1 (en) * 2011-09-29 2015-03-26 トヨタ自動車株式会社 Image display device and image display method
WO2015115103A1 (en) * 2014-01-29 2015-08-06 京セラ株式会社 Image processing device, camera system, and image processing method

Similar Documents

Publication Publication Date Title
US9973734B2 (en) Vehicle circumference monitoring apparatus
JP6458439B2 (en) On-vehicle camera calibration device, image generation device, on-vehicle camera calibration method, and image generation method
US8908037B2 (en) Calibration device, method, and program for on-board camera
JP5341789B2 (en) Parameter acquisition apparatus, parameter acquisition system, parameter acquisition method, and program
JP4321543B2 (en) Vehicle periphery monitoring device
KR100550299B1 (en) Peripheral image processor of vehicle and recording medium
US20070239357A1 (en) Driving support method and driving support device
JP2007274377A (en) Periphery monitoring apparatus, and program
JP2001218197A (en) Device for displaying periphery of vehicle
EP3002727B1 (en) Periphery monitoring apparatus and periphery monitoring system
JP6471522B2 (en) Camera parameter adjustment device
JP3765862B2 (en) Vehicle environment recognition device
JP7426174B2 (en) Vehicle surrounding image display system and vehicle surrounding image display method
JP2007221199A (en) On-vehicle camera display device and image processing unit
JP6532616B2 (en) Display control device, display system, and display control method
WO2015122124A1 (en) Vehicle periphery image display apparatus and vehicle periphery image display method
WO2018123546A1 (en) Viewing device for vehicles
JP7000383B2 (en) Image processing device and image processing method
JP6130118B2 (en) Image processing system, image processing apparatus, image processing method, and program
JP4857159B2 (en) Vehicle driving support device
JP2005182305A (en) Vehicle travel support device
JP5651491B2 (en) Image display system, image display apparatus, and image display method
JP4999748B2 (en) Side mirror device
JP6974192B2 (en) Camera misalignment detection device and camera misalignment detection method
JP4557712B2 (en) Driving support system