JP4877447B2 - Vehicle peripheral image display device - Google Patents

Vehicle peripheral image display device Download PDF

Info

Publication number
JP4877447B2
JP4877447B2 JP2004251608A JP2004251608A JP4877447B2 JP 4877447 B2 JP4877447 B2 JP 4877447B2 JP 2004251608 A JP2004251608 A JP 2004251608A JP 2004251608 A JP2004251608 A JP 2004251608A JP 4877447 B2 JP4877447 B2 JP 4877447B2
Authority
JP
Japan
Prior art keywords
image
camera
vehicle
display
angle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004251608A
Other languages
Japanese (ja)
Other versions
JP2006074105A (en
Inventor
英夫 山田
誠一 鈴木
敦 佐藤
俊宏 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Equos Research Co Ltd
Original Assignee
Equos Research Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Equos Research Co Ltd filed Critical Equos Research Co Ltd
Priority to JP2004251608A priority Critical patent/JP4877447B2/en
Publication of JP2006074105A publication Critical patent/JP2006074105A/en
Application granted granted Critical
Publication of JP4877447B2 publication Critical patent/JP4877447B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Description

この発明は、車両に搭載された画像表示装置に係り、詳しくは、車体周辺の透過画像を表示する車両周辺画像表示装置に関するものである。   The present invention relates to an image display device mounted on a vehicle, and more particularly to a vehicle periphery image display device that displays a transmission image around a vehicle body.

従来、自動車の運転者が、車両の周囲を視認する際、車体自体の影となって視覚が遮られ、認識できない死角領域が、車両の周囲に存在する。従来では、運転操作の補助として死角領域をカメラ等の画像取得機器で取得し、画像を車内のモニターに映し出す構成が提案されている。例えば、車両後尾に、車両の後尾に近接した領域を映し出すカメラを設置し、後退時には自動的に車内モニターに後方の撮影画像が映し出される構成などが提案されている。
特開2002−262280
2. Description of the Related Art Conventionally, when a driver of an automobile visually recognizes the surroundings of a vehicle, there is a blind spot area around the vehicle that is unrecognizable because the vision is blocked by the shadow of the vehicle body. Conventionally, a configuration has been proposed in which a blind spot area is acquired by an image acquisition device such as a camera as an assisting driving operation and an image is displayed on a monitor in a vehicle. For example, a configuration has been proposed in which a camera that displays an area close to the rear of the vehicle is installed at the rear of the vehicle, and a rear captured image is automatically displayed on the in-vehicle monitor when the vehicle moves backward.
JP2002-262280

特許文献1に代表されるように、画像が映し出されるモニターは、カメラの視点が固定されているので、表示される領域や方法は予め固定されており、使用者が必要とする方向の画像が、必ず得られる訳ではない。
また、カメラを複数設置して、使用するカメラを切り換えてそれぞれの画像を表示する構成とした場合には、画像が切り替わった際に、表示されている画像内容と使用者位置関係とを直感的に理解することが難しかった。
As represented by Patent Document 1, a monitor on which an image is displayed has a fixed camera viewpoint, so the displayed area and method are fixed in advance, and an image in a direction required by the user is displayed. , It is not necessarily obtained.
In addition, when multiple cameras are installed and each camera is switched to display each image, when the images are switched, the displayed image contents and the user's positional relationship are intuitive. It was difficult to understand.

この発明は、任意の方向の車全周囲を表示し、所望の車両周囲情報を直感的に認識させ得る画像情報表示することができる車両周辺画像表示装置を提供することを目的とする。   It is an object of the present invention to provide a vehicle periphery image display device capable of displaying the entire vehicle periphery in an arbitrary direction and displaying image information that allows intuitive recognition of desired vehicle periphery information.

以上のような問題を解決する本発明は、以下のような構成を有する。
(1)車両に配置され、隣接するカメラの画像が重なる領域がある、魚眼レンズを備えた複数のカメラと、
該複数のカメラにより撮像された画像を組合せて、車両の水平方向の全周囲の画像を取得し得る周辺画像取得装置と、
該周辺画像取得装置により取得された画像を表示するディスプレイと、
該周辺画像取得装置により取得された画像から、画面上で指定された位置座標によって切り出す範囲の画像を指定する指定装置と、
前記指定装置によって指定された画像範囲と、前記カメラの画角に基づいて求められたカメラ切替角度とに応じて、切り出す画像を撮像するカメラを1つ選択する選択手段とを有する車両周辺画像表示装置において、
ユーザにより画像の拡大・縮小の指示する指示手段と、を更に有し、
該指示手段により画像の拡大・縮小の指示があった場合、その指示に従った画角の変更後、該画角の変更に伴うカメラ切替角度を再計算して求めることを特徴とする車両周辺画像表示装置。
The present invention for solving the above problems has the following configuration.
(1) a plurality of cameras with fisheye lenses that are arranged in a vehicle and have an area where images of adjacent cameras overlap ;
A peripheral image acquisition device capable of acquiring images of the entire periphery of the vehicle in the horizontal direction by combining images captured by the plurality of cameras;
A display for displaying an image acquired by the peripheral image acquisition device;
A designation device for designating an image in a range to be cut out by the position coordinates designated on the screen from the image acquired by the peripheral image acquisition device;
Vehicle periphery image display comprising: a selection unit that selects one camera that captures an image to be cut out in accordance with an image range designated by the designation device and a camera switching angle obtained based on an angle of view of the camera. in the device,
An instruction means for instructing the enlargement / reduction of the image by the user,
When the instruction means gives an instruction to enlarge or reduce the image, after changing the angle of view according to the instruction, the camera switching angle associated with the change of the angle of view is recalculated to obtain the vehicle periphery Image display device.

(2)前記選択手段は、前記指定装置によって画面上で指定された位置座標を、カメラの光軸を基にした角度位置で示される第1座標上の位置座標に換算する換算手段を備え、
該第1座標上の位置座標と、カメラ切替角度とに応じて、切り出す画像を撮像するカメラを選択する上記(1)に記載の車両周辺画像表示装置。
(2) The selection unit includes a conversion unit that converts position coordinates designated on the screen by the designation device into position coordinates on a first coordinate indicated by an angular position based on the optical axis of the camera,
The vehicle surrounding image display device according to ( 1), wherein a camera that captures an image to be cut out is selected according to the position coordinate on the first coordinate and the camera switching angle .

(3)前記ディスプレイに表示された画像を映し出すカメラの光軸の第1座標位置から前記指定装置によって指定された画像を示す第2座標位置までの移動角度が、カメラ切替角度を超えているか否かにより、切り出す画像を撮像するカメラを選択する上記(2)に記載の車両周辺画像表示装置。 (3) Whether the movement angle from the first coordinate position of the optical axis of the camera that displays the image displayed on the display to the second coordinate position indicating the image designated by the designation device exceeds the camera switching angle. The vehicle periphery image display device according to (2) , wherein a camera that captures an image to be cut out is selected .

(4)前記指定装置は、ジョイスティック、タッチパネル、トラックボールの内いずれか1つであることを特徴とする上記(1)〜(3)のいずれか1に記載の車両周辺画像表示装置。
(5)前記周辺画像取得装置により取得される画像が、少なくとも車室内の特定の場所から撮像したように撮像画像の視点変換を行う視点変換装置と、
前記指定装置で指定された画像上に、車体の輪郭線を重ね合わせて表示する表示制御装置とを備えた上記(1)〜(4)のいずれか1に記載の車両周辺画像表示装置。
(4) The vehicle peripheral image display device according to any one of (1) to (3), wherein the designation device is any one of a joystick, a touch panel, and a trackball .
(5) a viewpoint conversion device that performs viewpoint conversion of a captured image so that an image acquired by the peripheral image acquisition device is captured at least from a specific place in a vehicle interior;
The vehicle periphery image display device according to any one of (1) to (4), further including a display control device that displays a vehicle body contour line superimposed on an image designated by the designation device.

請求項1〜3に記載の発明によれば、車両全周の画像をカメラで取得することができので、指定装置で指定した、車両全周方向における、任意の範囲の水平方向画像 をディスプレイに表示することができる。魚眼レンズを用いたカメラにより画像を取得する場合には、複数のカメラによって重複して得られる画像範囲があるため、そのような画像範囲を指定する場合には、指定された範囲に基づいて、最も有用な画像が得られるカメラを選択することができる。
According to the first to third aspects of the invention, an image of the entire vehicle circumference can be acquired by the camera, so that an arbitrary range of horizontal images in the vehicle circumferential direction designated by the designation device can be displayed on the display. Can be displayed. When an image is acquired by a camera using a fisheye lens, there are image ranges obtained by duplication by a plurality of cameras. Therefore, when specifying such an image range, it is most based on the specified range. A camera from which useful images can be obtained can be selected.

請求項に記載の発明によれば、ジョイスティック、タッチパネル、トラックボールなどを用いて、抽出する画像の範囲を指定できるので、画像範囲の指定操作が容易となり、操作に対する負担が軽減される。
請求項に記載の本発明によれば、ディスプレイに表示される画像が、車室内から周囲を映した場合に得られる画像に近づけられるため、車室内から車両の周囲を視認した場合の画像感覚に近い画像となり、一層外部状況の把握が容易となる。また、車体の輪郭線と重ねて表示されるので、ディスプレイに映し出された映像において、外部状況と車両との相対的 な位置関係を容易に把握することができる。
According to the fourth aspect of the present invention, since the range of the image to be extracted can be specified using a joystick, a touch panel, a trackball, or the like, the operation for specifying the image range is facilitated, and the burden on the operation is reduced.
According to the fifth aspect of the present invention, the image displayed on the display can be brought close to the image obtained when the surroundings are projected from the vehicle interior, so that the image sense when the periphery of the vehicle is viewed from the vehicle interior is obtained. This makes it easier to grasp the external situation. In addition, since it is displayed so as to overlap with the outline of the vehicle body, it is possible to easily grasp the relative positional relationship between the external situation and the vehicle in the image displayed on the display.

次にこの発明の車両周辺画像表示装置1の好適実施形態について説明する。図1は、車両周辺画像表示装置1の構成を示すブロック図である。車両周辺画像表示装置1は、車両2に取り付けられ車両の周囲を撮像する撮像手段である複数のカメラ3F〜3Bと、画像処理の演算、座標演算及びそれに基づく制御を行う演算処理装置4と、メモリ5と、使用者が表示したい画像方向を入力する入力装置7や、各種処理の結果合成された画像を表示する画像表示装置8と、これらの装置の通信を媒体するシステムバス11とを備えている。   Next, a preferred embodiment of the vehicle periphery image display device 1 of the present invention will be described. FIG. 1 is a block diagram showing the configuration of the vehicle periphery image display device 1. The vehicle periphery image display device 1 includes a plurality of cameras 3F to 3B, which are imaging means that are attached to the vehicle 2 and image the periphery of the vehicle, an arithmetic processing device 4 that performs image processing arithmetic, coordinate arithmetic, and control based thereon. The memory 5 includes an input device 7 for inputting an image direction desired to be displayed by the user, an image display device 8 for displaying an image synthesized as a result of various processes, and a system bus 11 for mediating communication of these devices. ing.

カメラ3F、3R、3L、3Bは、図2に示されているように、車両10の外周側面に、外側に向けて設けられている。カメラ3Fは、車両10の前方にレンズの光軸を向け、その周囲の景色を画像として取得する。カメラ3Rは、車両10の右側方にレンズの光軸を向け、その周囲の景色を画像として取得する。カメラ3Lは、車両10の左側方にレンズの光軸を向け、その周囲の景色を画像として取得する。カメラ3Bは、車両10の後方にレンズの光軸を向け、その周囲の景色を画像として取得する。カメラ3Fとカメラ3Bの光軸は、同一軸線(車両の中心線)上に位置し、カメラ3Lとカメラ3Rの光軸は、同一軸線上に位置する。そして、こけらの2本の光軸は、車両10の略中央で直交するように配置されている。換言すると、各カメラ3F、3R、3L、3Bの光軸が、同一水平面内に含まれ、該平面内において、直交するように、各カメラは配置されている。車両の移動方向は、路面に沿った方向、即ち水平方向なので、光軸が水平方向に向くように設置されているが、画角内に水平が含まれるように設置されていればよい。   The cameras 3F, 3R, 3L, and 3B are provided on the outer peripheral side surface of the vehicle 10 toward the outside, as shown in FIG. The camera 3F directs the optical axis of the lens in front of the vehicle 10 and acquires the surrounding scenery as an image. The camera 3R directs the optical axis of the lens to the right side of the vehicle 10 and acquires the surrounding scenery as an image. The camera 3L directs the optical axis of the lens toward the left side of the vehicle 10 and acquires the surrounding scenery as an image. The camera 3B directs the optical axis of the lens to the rear of the vehicle 10 and acquires the surrounding scenery as an image. The optical axes of the camera 3F and the camera 3B are located on the same axis (vehicle center line), and the optical axes of the camera 3L and the camera 3R are located on the same axis. And these two optical axes are arranged so as to be orthogonal at the approximate center of the vehicle 10. In other words, the optical axes of the cameras 3F, 3R, 3L, and 3B are included in the same horizontal plane, and the cameras are arranged so as to be orthogonal to each other in the plane. Since the moving direction of the vehicle is a direction along the road surface, that is, a horizontal direction, the vehicle is installed so that the optical axis is oriented in the horizontal direction. However, the vehicle may be installed so that the horizontal angle is included in the angle of view.

カメラ3F、3R、3L、3Bは、例えばCCD(Charge-Coupled Devices)により、光(画像)信号を電気信号に変換する構成を備えている。それぞれのカメラ3F、3R、3L、3Bは、A/D変換器31F、31R、31L、31Bを介してシステムバス11に各々接続される。   The cameras 3F, 3R, 3L, and 3B have a configuration that converts a light (image) signal into an electrical signal using, for example, a CCD (Charge-Coupled Devices). The cameras 3F, 3R, 3L, and 3B are connected to the system bus 11 via A / D converters 31F, 31R, 31L, and 31B, respectively.

各カメラ3F、3B、3R、3Lは、魚眼レンズを有し、広角(180°)であるため、各カメラで取得される画像には、図2に示されているように、隣接するカメラの画像と重なる領域PCW1〜4が存在する。従って、この領域PCW1〜4では、2つのカメラによって画像を取得することが可能な領域である。   Since each camera 3F, 3B, 3R, 3L has a fisheye lens and has a wide angle (180 °), an image acquired by each camera has an image of an adjacent camera as shown in FIG. There are areas PCW1 to PCW4 that overlap. Accordingly, the areas PCW1 to PCW4 are areas in which images can be acquired by two cameras.

各カメラ3F、3R、3L、3Bから出力された画像信号は、A/D変換器31F、31R、31L、31Bによって、それぞれデジタル信号に変換される。また、接続されたカメラ3F、3R、3L、3Bが、デジタル信号出力が可能なものである場合には、A/D変換器31F、31R、31L、31Bには不要である。なお、本実施形態では、上述のように、撮像手段は、魚眼レンズを用いたカメラ4つを有しているが、車両の周囲360°の画像を取得できれば、どのようなカメラを用いても構わない。例えば、5つ以上の複数のカメラを、車両の外側に向けて設置してもよい。また、360°の画像を取得できるカメラを1つ用いてもよい。この場合には、カメラを車両の天板上又は車体底部に配置する。   Image signals output from the cameras 3F, 3R, 3L, and 3B are converted into digital signals by A / D converters 31F, 31R, 31L, and 31B, respectively. Further, when the connected cameras 3F, 3R, 3L, and 3B can output digital signals, they are not necessary for the A / D converters 31F, 31R, 31L, and 31B. In the present embodiment, as described above, the imaging unit has four cameras using fisheye lenses, but any camera may be used as long as an image of 360 ° around the vehicle can be acquired. Absent. For example, five or more cameras may be installed toward the outside of the vehicle. One camera that can acquire a 360 ° image may be used. In this case, the camera is disposed on the top plate of the vehicle or on the bottom of the vehicle body.

演算処理装置4は、中央処理装置[CPU(Central Processing Unit)]41と、リードオンリーメモリ[ROM]42と、ランダムアクセスメモリ[RAM]43とを備えている。中央処理装置41は、例えば、後述するポインタの移動量計算、座標の算出などの演算を行い、或は、各カメラから取得された画像から入力された方向の画像を切り取り(抽出し)、また、切り取った画像を使用者の視点位置に視点変換し、切り取った画像に、車両の輪郭を合成する、などの処理及び演算を行う。
ROM42には、例えば、中央処理装置41が画像処理を行うためのソフトウエア等が格納されており、RAM43は、例えば、各種画像処理等を行う場としてのワーキングエリアとして使用される。
The arithmetic processing unit 4 includes a central processing unit [CPU (Central Processing Unit)] 41, a read-only memory [ROM] 42, and a random access memory [RAM] 43. For example, the central processing unit 41 performs operations such as calculation of a pointer movement amount and coordinate calculation described later, or cuts out (extracts) an image in a direction input from an image acquired from each camera. Then, the cut-out image is converted into the viewpoint position of the user, and processing and calculation are performed such as synthesizing the outline of the vehicle with the cut-out image.
The ROM 42 stores, for example, software for the central processing unit 41 to perform image processing, and the RAM 43 is used as a working area as a place for performing various image processing, for example.

メモリ5Aは、各カメラ3F、3R、3L、3Bが撮影した画像を経時的に連続してそれぞれ記録するカメラ画像バッファ51F、51R、51L、51Bと、描画用画像バッファ52と、画像処理情報メモリ53と、車両情報記憶手段である車体データメモリ54と、ワークメモリ55とを備えている。
周辺画像取得装置は、カメラ3F、3R、3L、3Bとカメラ画像バッファ51F、51R、51L、51Bとから構成される。
The memory 5A includes camera image buffers 51F, 51R, 51L, and 51B that continuously record images taken by the cameras 3F, 3R, 3L, and 3B over time, a drawing image buffer 52, and an image processing information memory. 53, a vehicle body data memory 54 serving as vehicle information storage means, and a work memory 55.
The peripheral image acquisition device includes cameras 3F, 3R, 3L, and 3B and camera image buffers 51F, 51R, 51L, and 51B.

描画用画像バッファ52には、カメラ画像に画像処理を施して生成した画像が保存される。画像処理情報メモリ53には、視点変換、歪み補正、合成等画像処理を実行するために必要な変数、及びポインタの移動量計算等を実行するために必要な変数や計算式等が保存される。また、初期カメラの選択に応じて決定される第1座標、第2座標を演算する際に使用される重みを決定するためのテーブルなども記憶されている。なお、GUIで構成されたメニュー画面等を介して設定値の入力や変更は適宜可能となっている。車体データメモリ54には、表示画像に重ねて、車体透過イメージを作るために必要な輪郭情報が格納されている。輪郭情報には、車体の輪郭やタイヤ位置等を表現した3Dモデリングデータまたは3Dに見えるように描かれたビットマップデータなどが保存されている。この車体データメモリ54に保存されるデータには、カメラ画像または画像処理後のカメラ画像と合成するために使用するマスクデータも含まれる。   The drawing image buffer 52 stores an image generated by performing image processing on the camera image. The image processing information memory 53 stores variables necessary for executing image processing such as viewpoint conversion, distortion correction, and composition, as well as variables and calculation formulas necessary for executing pointer movement amount calculation and the like. . In addition, a table for determining weights used when calculating the first coordinate and the second coordinate determined in accordance with the selection of the initial camera is also stored. Note that setting values can be input or changed as appropriate via a menu screen or the like configured with a GUI. The vehicle body data memory 54 stores contour information necessary for creating a vehicle body transmission image superimposed on the display image. In the contour information, 3D modeling data expressing the contour of the vehicle body, the tire position, and the like, or bitmap data drawn so as to be seen in 3D are stored. The data stored in the vehicle body data memory 54 includes mask data used for combining with a camera image or a camera image after image processing.

ワークメモリ55は、画像の合成、正像変換、視点変換等の処理をするに当たってのワーキングエリアとして機能する。 The work memory 55 functions as a working area for processing such as image synthesis, normal image conversion, and viewpoint conversion.

入力装置7は、ディスプレイ8の表面に設けられたタッチパネルである。タッチパネルは、ディスプレイ8の表面に指等を接触させて場合に、その接触した位置を検出するセンサである。例えば、ディスプレイ8の特定の位置に映し出されたアイコンを指標として、そのアイコンで指示された位置と、タッチパネルにより検出された、指で触れた位置とを照合し、両者が同じ位置である場合には、スイッチングを行うように設定することができる。
このようなタッチパネルの他、ジョイスティック、トラックボール等のようなポインティングディバイスにより入力手段を構成することもできる。このようなポインティングディバイスは、リモコン操作により、画面上のカーソルを所望の位置に移動させ、カーソルが位置している点で、リモコン側入力操作を行うことにより、位置入力を行うものである。
The input device 7 is a touch panel provided on the surface of the display 8. The touch panel is a sensor that detects a contact position when a finger or the like is brought into contact with the surface of the display 8. For example, when an icon displayed at a specific position on the display 8 is used as an index, a position indicated by the icon is collated with a position touched by a finger detected by the touch panel, and both are the same position. Can be set to perform switching.
In addition to such a touch panel, the input means can also be configured by a pointing device such as a joystick or a trackball. Such a pointing device performs position input by moving the cursor on the screen to a desired position by remote control operation and performing input operation on the remote control side at the point where the cursor is located.

ディスプレイ8は、画像データを表示する。ディスプレイ8は、例えば液晶パネルやELパネル等が用いられる。D/A変換器81は、ディスプレイ8がアナログ入力の場合、中央処理装置41が扱うデジタルデータをアナログデータに変換する。ディスプレイ8がデジタル入力対応であれば不要となる。   The display 8 displays image data. As the display 8, for example, a liquid crystal panel, an EL panel, or the like is used. When the display 8 is an analog input, the D / A converter 81 converts digital data handled by the central processing unit 41 into analog data. If the display 8 is compatible with digital input, it becomes unnecessary.

以上のように構成された本発明の車両周辺画像表示装置1の作用について、図3に示されているフローチャートに基づき説明する。本システムは、例えば、運転者等の使用者からのスイッチONにより起動される。スイッチがONされると、初期画面が表示装置に表示される(ステップS101)。図4は、初期画面の状態を示すディスプレイ8の表示画面の図である。中央に車体10の平面図が表示され、カメラの位置に対応した場所に、三角形の表示アイコン82F、82B、82R、82Lが現れる。また車庫入れする場合など、特に使用者が使用する頻度の多い方向には、予めXの表示アイコン82FL、82BLが示され、初期位置として指定することができるように構成されている。   The operation of the vehicle periphery image display device 1 of the present invention configured as described above will be described based on the flowchart shown in FIG. This system is activated by, for example, a switch ON from a user such as a driver. When the switch is turned on, an initial screen is displayed on the display device (step S101). FIG. 4 is a diagram of the display screen of the display 8 showing the state of the initial screen. A plan view of the vehicle body 10 is displayed at the center, and triangular display icons 82F, 82B, 82R, and 82L appear at locations corresponding to the positions of the cameras. In addition, the display icons 82FL and 82BL of X are shown in advance in the direction that is frequently used by the user, such as when putting in a garage, and can be designated as an initial position.

これらの複数の表示アイコンのいずれか1つにタッチする(ステップS103)ことにより、画面上の位置が特定され、その位置に対応して設けられたカメラが選択される(ステップS105)。カメラの選択は、図5に示されているような、予め記憶されているマップに基づき、表示アイコン82の位置に応じて定められている。例えば、表示82Fを指定した場合には、カメラ3Fが選択され、表示82Bを指定した場合には、カメラ3Bが選択され、表示82Lを指定した場合には、カメラ3Lが選択され、表示82Rを指定した場合には、カメラ3Rが選択され、表示82FL、82BLを選択した場合には、カメラ3Lが選択されることとなる。   By touching any one of these display icons (step S103), a position on the screen is specified, and a camera provided corresponding to the position is selected (step S105). The selection of the camera is determined according to the position of the display icon 82 based on a map stored in advance as shown in FIG. For example, when the display 82F is designated, the camera 3F is selected, when the display 82B is designated, the camera 3B is selected, and when the display 82L is designated, the camera 3L is selected and the display 82R is displayed. When designated, the camera 3R is selected, and when the displays 82FL and 82BL are selected, the camera 3L is selected.

選択されたカメラに対応した第1座標が決定される(ステップS107)。この値は、次のように決定される。図6に示されているように、車両10の平面図を含む平面内において、対向して配置されたカメラ3Fと3B、及びカメラ3Rと3Lをそれぞれ結ぶ直線の直交点を原点Oとして、前方カメラ3Fのレンズ光軸線方向を0度、この0度の光軸から左回りに、左のカメラ3Lのレンズ光軸線方向を−90度、後方カメラ3Bのレンズ光軸線方向を180度、右のカメラ3Rのレンズ光軸線方向を90度に設定し、この角度をX座標とする。また、それぞれの位置のY座標は、図7に示されているように、図6に示されている各光軸を含む鉛直面において、カメラのレンズの中心を原点として、水平方向を0度、上方へ向けた角度(仰角)を+、下方へ向けた角度(俯角)を−で表現し、その角度をY座標とし、第1座標は、(X1,Y1)で表現される。図5は、各表示アイコンを指定した場合の、第1座標及び選択されたカメラを示すマップである。   First coordinates corresponding to the selected camera are determined (step S107). This value is determined as follows. As shown in FIG. 6, in the plane including the plan view of the vehicle 10, the orthogonal points of the straight lines connecting the cameras 3 </ b> F and 3 </ b> B and the cameras 3 </ b> R and 3 </ b> L arranged to face each other The lens optical axis direction of the camera 3F is 0 degree, counterclockwise from the 0 degree optical axis, the lens optical axis direction of the left camera 3L is -90 degrees, the lens optical axis direction of the rear camera 3B is 180 degrees, and the right The lens optical axis direction of the camera 3R is set to 90 degrees, and this angle is set as the X coordinate. Further, as shown in FIG. 7, the Y coordinate of each position is 0 degree in the horizontal direction with the center of the camera lens as the origin on the vertical plane including each optical axis shown in FIG. The upward angle (elevation angle) is represented by +, the downward angle (Depression angle) is represented by-, the angle is defined as a Y coordinate, and the first coordinate is represented by (X1, Y1). FIG. 5 is a map showing the first coordinates and the selected camera when each display icon is designated.

このような第1座標は、例えば表示アイコン82Fを指定すると、第1座標(X1,Y1)は、(0,0)となる。同様に、表示アイコン82Rを指定すると第1座標(X1,Y1)は、(90,0)となる。   For example, when the display icon 82F is designated, the first coordinates (X1, Y1) are (0, 0). Similarly, when the display icon 82R is designated, the first coordinates (X1, Y1) are (90, 0).

このように設定された第1座標から第2座標(X2,Y2)を決定する(ステップS109)。図8に示されているように、第2座標は、カメラが取得した魚眼画像PC1内において表示画像を切り出す範囲PC2を指定するために用いられる座標であり、第2座標が、切り出す表示画像の中心点P0となる。第2座標(X2,Y2)は、第1座標(X1,Y1)に基づき、以下の式に基づき求められる。   The second coordinates (X2, Y2) are determined from the first coordinates thus set (step S109). As shown in FIG. 8, the second coordinate is a coordinate used for designating a range PC2 in which the display image is cut out in the fisheye image PC1 acquired by the camera, and the second coordinate is the display image to be cut out. Becomes the center point P0. The second coordinate (X2, Y2) is obtained based on the following equation based on the first coordinate (X1, Y1).

X2 = X1 − A
Y2 = Y1
Aは、カメラ方向による補正値であり、図5に示されているように、表示アイコンで指定された位置に応じて予め決定されている。この際、中心点及び切り出し画角は、ある特定の視点(例えば、運転席や車両の中心、又は4つのカメラの対角線が交差する点(図6中のO点))から見た画像表示になるように設定される。この設定値は、画像処理用設定値に記憶されている値を参照する。
X2 = X1-A
Y2 = Y1
A is a correction value according to the camera direction, and is predetermined according to the position designated by the display icon as shown in FIG. At this time, the center point and the cut-off angle of view are displayed on an image viewed from a specific viewpoint (for example, the center of the driver's seat or the vehicle, or a point where diagonal lines of four cameras intersect (point O in FIG. 6)). Is set to be This setting value refers to the value stored in the image processing setting value.

なお、図4の表示画面で表示アイコン82F、82L、82B、82Rが指定された場合、ユーザは自車両から少し遠方を表示させたいと判断し、車体に対して水平方向の画角が設定され(Y2(Y1)=0)、表示アイコン82FL、82BLが指定された場合、ユーザは車体に接触する障害物があるか否かを表示させたいと判断し、例えば車体水平方向から斜め30度下の画像を取得するようにY座標が設定される(Y2(Y1)=−30)。
以上のような、ステップS101〜S105及びディスプレイ8、入力装置7によって、指定装置が構成される。
When the display icons 82F, 82L, 82B, and 82R are designated on the display screen of FIG. 4, the user determines that he / she wants to display a little distant from the own vehicle, and the angle of view in the horizontal direction with respect to the vehicle body is set. When (Y2 (Y1) = 0) and the display icons 82FL and 82BL are designated, the user determines that there is an obstacle that touches the vehicle body, for example, 30 degrees below the vehicle body horizontal direction. The Y coordinate is set so as to acquire the image (Y2 (Y1) = − 30).
The above-described steps S101 to S105, the display 8, and the input device 7 constitute a designation device.

次に表示画像を左右方向へ移動させた場合における、カメラの切替角度を算出する(ステップS111)。車両10の水平面内における全周をカメラの撮像画像から抽出する場合、この実施形態では、複数のカメラを用いて車体全周の画像を取得する構成としているため、表示画像を連続して左右方向へ移動させると、画像を取得するカメラを切り替える必要が生じする。このカメラの切替位置は、撮像画像から表示画像を切り出す画角Cに応じて決定される。また、表示画像を切り出す画角Cは、表示画像を切り出す際のズーム(倍率)により異なるが、この処理段階では、ディスプレイに表示される前であり、ホームポジションとして記憶されている画角とする。また、画角Cは、このシステムが直前に使用された際の倍率を記憶しておき、その倍率に基づいて決められた画角としてもよい。   Next, the camera switching angle when the display image is moved in the left-right direction is calculated (step S111). When the entire circumference of the vehicle 10 in the horizontal plane is extracted from the captured image of the camera, in this embodiment, the image of the entire circumference of the vehicle body is obtained using a plurality of cameras. When moving to, it becomes necessary to switch the camera that acquires the image. The camera switching position is determined according to the angle of view C at which the display image is cut out from the captured image. In addition, the angle of view C for cutting out the display image differs depending on the zoom (magnification) at the time of cutting out the display image, but at this stage of processing, the angle of view is stored as the home position before being displayed on the display. . The angle of view C may be a field angle determined based on the magnification obtained by storing the magnification when the system was used immediately before.

Xrは、図8の第2座標系において、P0を+方向に移動したときの切り替えるP0の位置とし、Xlは、図8の第2座標系において、P0を−方向に移動したときの切り替えるP0の位置とする。   Xr is the position of P0 that is switched when P0 is moved in the + direction in the second coordinate system of FIG. 8, and Xl is P0 that is switched when P0 is moved in the-direction in the second coordinate system of FIG. The position of

具体的な計算式としては、第1座標に対しての値に戻すためのカメラ方向による補正値をA,画角をCとすると求めるカメラの切替角度(Xr,Xl)は
Xr=A+90−C/2
Xl=A−90+C/2
で求められる。
As a specific calculation formula, the camera switching angle (Xr, Xl) to be calculated when the correction value by the camera direction for returning to the value with respect to the first coordinate is A and the angle of view is C is Xr = A + 90−C. / 2
Xl = A−90 + C / 2
Is required.

カメラ方向による補正値Aの設定例はS109と同様である。画角Cが常にデフォルトである場合には、切替角度(Xr,Xl)は、毎度計算せずデフォルトの値を記憶しておき読み出すようにしてもよい。
本実施形態では魚眼レンズを用いている為、歪みが生じる。そのため、ステップS109で決定した画像を切り出し、その画像に歪みを補正する為の正像変換処理を施し、正像画像PC3を生成する(ステップS113)。なお、この技術は公知のため、詳しい説明は省略する。
An example of setting the correction value A depending on the camera direction is the same as in S109. When the angle of view C is always the default, the switching angle (Xr, Xl) may be stored and read out without being calculated each time.
In this embodiment, since a fisheye lens is used, distortion occurs. Therefore, the image determined in step S109 is cut out, and the image is subjected to normal image conversion processing for correcting distortion, thereby generating a normal image PC3 (step S113). Since this technique is publicly known, detailed description is omitted.

S113で正像変換処理が施された画像に、車体輪郭線を重畳するための車体輪郭線を演算する(ステップS115)。車体データにメモリされている車体輪郭線は、3次元データとして記憶されており、画像に重畳する二次元画像を決定する為、S107で使用した特定の視点から、S103でユーザから入力された方向に向かって視線方向を一致させた場合に、二次元画像として現れる車体輪郭線を演算する。   A vehicle body contour line for superimposing the vehicle body contour line on the image subjected to the normal image conversion process in S113 is calculated (step S115). The vehicle body contour line memorized in the vehicle body data is stored as three-dimensional data. In order to determine a two-dimensional image to be superimposed on the image, the direction input by the user in S103 from the specific viewpoint used in S107. When the line-of-sight directions are made to coincide with each other, a vehicle body outline that appears as a two-dimensional image is calculated.

ステップS115で演算された車体輪郭線をS113で正像変換処理された画像に重畳する(ステップS117)。S117で作成された画像をディスプレイ8に表示する(ステップS119)。図9は表示例を示すもので、ディスプレイ8の表示画面の正面図である。ステップS115〜S119により、表示制御装置が構成される。   The vehicle body contour calculated in step S115 is superimposed on the image subjected to the normal image conversion process in S113 (step S117). The image created in S117 is displayed on the display 8 (step S119). FIG. 9 shows a display example and is a front view of a display screen of the display 8. A display control apparatus is comprised by step S115-S119.

右下部分には、ディスプレイ8に表示されている部分を示すための表示方向表示部83が配置されている。この表示部83は、車体全体を平面図として表示する車体表示部831と、該車体に対して、ディスプレイに表示されている位置を示す画像位置表示部832とを有する。画像位置表示部832は、車体表示部831の輪郭に沿って配置され、抽出される画像の位置が移動すると、その移動に従って画像位置表示部832も移動する構成となっている。   In the lower right part, a display direction display part 83 for indicating a part displayed on the display 8 is arranged. The display unit 83 includes a vehicle body display unit 831 that displays the entire vehicle body as a plan view, and an image position display unit 832 that indicates the position displayed on the display with respect to the vehicle body. The image position display unit 832 is arranged along the outline of the vehicle body display unit 831. When the position of the extracted image moves, the image position display unit 832 also moves according to the movement.

これにより、車体表示部831と画像位置表示部832との相対的な位置関係が示される。図9に示されている例では、自車の左側で丸の位置している箇所が、現在画像を表示している方向であることを示している。 Thereby, the relative positional relationship between the vehicle body display unit 831 and the image position display unit 832 is shown. In the example shown in FIG. 9, the location where the circle is located on the left side of the host vehicle indicates that the current image is being displayed.

また、右下の虫眼鏡の形をした表示は画角を変更するためのアイコン841、842であり、画面に表示されている画像の拡大縮小を行う。このアイコン841、842に触れることにより、画像の拡大縮小操作を行う。つまり、拡大表示した場合には、画角は狭くなり、縮小表示した場合には、画角は広くなる。+記号が記されているアイコン841は、拡大を指示するものであり、−記号が記されているアイコン842は、縮小を指示するものである。   The display in the shape of a magnifying glass in the lower right is icons 841 and 842 for changing the angle of view, and enlarges or reduces the image displayed on the screen. By touching these icons 841 and 842, the image is enlarged or reduced. In other words, the angle of view is narrowed when enlarged, and the angle of view is widened when reduced. An icon 841 with a + sign indicates an enlargement, and an icon 842 with a − sign indicates a reduction.

さらに、表示画面の4隅並びに上下辺及び左右辺の中央部には、表示限界を示すための限界表示アイコン87U、87D、87L、87R、87LU、87LD、87RU、87RDがそれぞれ設けられている。これらの操作アイコンは、画面の外側へ向けた矢印の形に構成されており、これらのアイコンが表示されている状態では、アイコンの矢印が向いている方向への画面の移動が可能であることを示しており、アイコンの表示が消えている場合には、現在の表示画面が、該アイコンの矢印方向の表示領域が限界であることを示すものである。   Further, limit display icons 87U, 87D, 87L, 87R, 87LU, 87LD, 87RU, and 87RD for indicating display limits are provided at the four corners of the display screen and at the center of the upper and lower sides and the left and right sides, respectively. These operation icons are configured in the shape of arrows pointing to the outside of the screen, and when these icons are displayed, the screen can be moved in the direction in which the icon arrow faces. When the icon display disappears, the current display screen indicates that the display area of the icon in the arrow direction is limited.

つまり、アイコン87Uが表示されている場合には、上方への画面の移動が可能であることを示している。アイコン87Dが表示されている場合には、下方への画面の移動が可能であることを示している。アイコン87Lが表示されている場合には、左方への画面の移動が可能であることを示している。アイコン87Rが表示されている場合には、右方への画面の移動が可能であることを示している。   That is, when the icon 87U is displayed, it indicates that the screen can be moved upward. When the icon 87D is displayed, it indicates that the screen can be moved downward. When the icon 87L is displayed, it indicates that the screen can be moved to the left. When the icon 87R is displayed, it indicates that the screen can be moved to the right.

リターンマーク85は初期画面に戻る為のカーソル(フローチャートにはその処理の記載なし)である。画面には、輪郭線86が表示され、外部状況と車両との位置関係が直感的に把握し易く表示される。例えば、後輪が駐車スペース内に納まっているか?などを、一見して感覚的に把握することができるものである。画像の移動に応じて、輪郭線86もその都度演算され、同様に変更される。   A return mark 85 is a cursor for returning to the initial screen (the processing is not described in the flowchart). A contour line 86 is displayed on the screen, and the positional relationship between the external situation and the vehicle is easily and intuitively displayed. For example, are the rear wheels in the parking space? Etc. can be grasped sensuously at a glance. In accordance with the movement of the image, the contour line 86 is also calculated each time and is similarly changed.

図10は、図3に示されているフローチャートの続きを表す、処理フローチャートである。次に、終了の指示があるか否かを判断する(ステップS121)。これはスイッチのOFFがユーザにより入力されたか否かを判断する為のものである。終了の指示なければ次のステップに移り、指示があれば本処理は終了される。   FIG. 10 is a process flowchart showing a continuation of the flowchart shown in FIG. Next, it is determined whether or not there is an end instruction (step S121). This is for determining whether or not the switch OFF is input by the user. If there is no instruction to end, the process proceeds to the next step, and if there is an instruction, this process ends.

タッチパネルによるユーザからの拡大・縮小の指示があるか否かを判断する(ステップS123)。即ち、図9に示されるディスプレイ画面において、右下のズーム操作を行うアイコン841、842が操作されたかを検出し、表示画像の拡大又は縮小の指示があるか判断する。指示がなかった場合には、ステップS129に移行し、指示があった場合には、画角の変更、カメラ切替角度の再計算等を行い、ステップS129に移行する。   It is determined whether or not there is an enlargement / reduction instruction from the user via the touch panel (step S123). That is, on the display screen shown in FIG. 9, it is detected whether the icons 841 and 842 for performing the zoom operation at the lower right are operated, and it is determined whether there is an instruction to enlarge or reduce the display image. If there is no instruction, the process proceeds to step S129. If there is an instruction, the angle of view is changed, the camera switching angle is recalculated, and the process proceeds to step S129.

画角の変更処理(ステップS125)は、例えば、拡大の指示があった場合(アイコン841が1回押された場合)、画角を5度小さくする。縮小の指示があった場合(アイコン842が1回押された場合)画角を5度大きくするといった処理である。変更角度の単位(5度)は、この値に限定されない。また、適宜変更可能に設定してもよい。さらに、一定時間以上(例えば2秒以上)連続して押されている場合には、5度単位に連続して画角を変更する構成としてもよい。
次に、カメラ切替角度の再計算を行う(ステップS127)。つまり、ステップS125で決定された画角、現在のカメラ方向に応じてカメラ切替画角の計算を行う。計算方法はステップS111と同様に行う。
In the view angle changing process (step S125), for example, when an enlargement instruction is given (when the icon 841 is pressed once), the view angle is decreased by 5 degrees. When the reduction instruction is given (when the icon 842 is pressed once), the angle of view is increased by 5 degrees. The unit of change angle (5 degrees) is not limited to this value. Moreover, you may set so that change is possible suitably. Furthermore, the angle of view may be changed continuously in units of 5 degrees when the button is continuously pressed for a certain time (for example, 2 seconds or more).
Next, the camera switching angle is recalculated (step S127). That is, the camera switching angle of view is calculated according to the angle of view determined in step S125 and the current camera direction. The calculation method is the same as in step S111.

ステップS127の後、切り取り位置の移動の指示があったか判断する(ステップS129)。切り取り位置の移動の指示は、図9に示されるディスプレイ画面上において、画面中心点より外れた位置に触れることで行われる。或は、そのような位置を、ポインティングディバイスで指定することにより行われる。
移動の指示があった場合には、切り取り座標の計算(ステップS131)を行い、操作されなかった場合には、ステップS133を実行する。
After step S127, it is determined whether an instruction to move the cut position has been given (step S129). The instruction to move the cut position is made by touching a position off the screen center point on the display screen shown in FIG. Alternatively, such a position is designated by designating with a pointing device.
If there is an instruction to move, the cut coordinate is calculated (step S131), and if not operated, step S133 is executed.

図11は、切り取り座標の計算処理(ステップS131)を行うサブルーチンを示すスローチャートーである。この処理では、最初に第1座標を演算する(ステップS201)。
画面の中心を(Xcp,Ycp)、ステップS127で入力されたと判断された指示座標を(Xip,Yip)、重みを(AX,AY)として算出される。これらの座標は、画面上の位置を示す座標であり、座標表示単位は、ピクセルで現れされる。重み(AX,AY)は、ピクセル単位で示される座標を角度単位で示される第1座標に換算する係数である。指示座標(Xip,Yip)は、ディスプレイ画面に指などを触れることにより、画面表面に重ねられているタッチパネルにより、指の接触位置として検出される。
FIG. 11 is a slow chart showing a subroutine for performing the cutting coordinate calculation process (step S131). In this process, first the first coordinates are calculated (step S201).
The center of the screen is calculated as (Xcp, Ycp), the designated coordinates determined to have been input in step S127 are calculated as (Xip, Yip), and the weight is calculated as (AX, AY). These coordinates are coordinates indicating a position on the screen, and a coordinate display unit appears in pixels. The weights (AX, AY) are coefficients for converting coordinates indicated in pixel units into first coordinates indicated in angle units. The designated coordinates (Xip, Yip) are detected as a finger contact position by a touch panel overlaid on the screen surface by touching the display screen with a finger or the like.

また、現在の第1座標(X10,Y10)とすると、求める移動量(dX,dY)及び移動後の第1座標(X11,Y11)は、
dX=(Xcp−Xip)/AX
dY=(Ycp−Yip)/AY
X11=X10+dX
Y11=Y10+dY
となる。
Further, assuming that the current first coordinates (X10, Y10), the obtained movement amount (dX, dY) and the first coordinates after movement (X11, Y11) are:
dX = (Xcp−Xip) / AX
dY = (Ycp−Yip) / AY
X11 = X10 + dX
Y11 = Y10 + dY
It becomes.

ここで、重みの値が小さければ小さいほど大幅な切取位置の移動が可能となり、大きければ大きいほど、切取位置移動の微調整が可能となる。
例えば、表示画像が横640ピクセル縦480ピクセルで、Xip=200、Yip=300で、重みが50とすると、dX≒−9、dY≒−4となる。
Here, the smaller the weight value, the greater the movement of the cutting position, and the larger the weight value, the fine adjustment of the movement of the cutting position becomes possible.
For example, if the display image is 640 pixels wide, 480 pixels high, Xip = 200, Yip = 300, and the weight is 50, then dX≈−9 and dY≈−4.

図12に示されているように、以上のような演算により、魚眼画像PC1は、画像の中心がP0に移動する。 As shown in FIG. 12, the center of the image of the fisheye image PC1 moves to P0 by the above calculation.

次に、S201で決定された座標がカメラ切替角度(Xl,Xr)を超えているかの判断を行う(ステップS203)。
例えば、カメラが前方に選択されていて、カメラ切替角度を(Xl,Xr)、S201で計算された第2座標を(X2,Y2)とすると、X2<Xlまたは、X2>Xrとなるかを判断する。X2<Xlまたは、X2>Xrである場合には、切り出す画像の端が途切れるため、隣接するカメラで取得される画像に切り換える必要がある。X2=Xlまたは、X2=Xrとなる位置の近傍は、図2に示されている隣接するカメラからの取得画像が重なる領域PCW1〜4内に表示画像が含まれているので、カメラを切り換えることが可能であり、これにより、端の欠けない表示画像(切取画像)を取得することができる。
Next, it is determined whether the coordinates determined in S201 exceed the camera switching angle (Xl, Xr) (step S203).
For example, if the camera is selected forward, the camera switching angle is (X1, Xr), and the second coordinate calculated in S201 is (X2, Y2), whether X2 <Xl or X2> Xr is satisfied. to decide. When X2 <Xl or X2> Xr, the edge of the image to be cut out is interrupted, so it is necessary to switch to an image acquired by an adjacent camera. In the vicinity of the position where X2 = Xl or X2 = Xr, the display images are included in the areas PCW1 to PCW4 where the acquired images from the adjacent cameras shown in FIG. This makes it possible to obtain a display image (cut-out image) with no edges.

S201で決定された座標がカメラ切替角度(Xl,Xr)を超えている場合には、切り換えるカメラを決定する(ステップS205)。例えば、カメラが前方に選択されていて、カメラ切替角度を(Xl,Xr)、S201で計算された第1座標を(X11,Y11)とすると
X11 < Xl の場合は、左側方カメラに切り替える。
X11 > Xr の場合は、右側方カメラに切り替える。
If the coordinates determined in S201 exceed the camera switching angle (Xl, Xr), the camera to be switched is determined (step S205). For example, if the camera is selected forward, the camera switching angle is (X1, Xr), and the first coordinate calculated in S201 is (X11, Y11), the camera is switched to the left side camera.
If X11> Xr, switch to right side camera.

カメラを切り換えた後、S205で決定されたカメラの方向に応じてカメラ切替角度の計算を行う(ステップS207)。計算方法はS111で行う方法と同じであるので、説明を省略する。
このように、ステップS111、S127、S203、S205、S207によって、選択手段が構成される。
After switching the camera, the camera switching angle is calculated according to the camera direction determined in S205 (step S207). Since the calculation method is the same as the method performed in S111, the description is omitted.
As described above, the selection unit is configured by steps S111, S127, S203, S205, and S207.

次に、第2座標(X22,Y22)を算出する(ステップS209)。つまり、ステップS201で計算された第1座標と、ステップS207で決定されたカメラの方向に基づき、ステップS109で説明した計算方法により、第2座標が計算される。計算方法は、ステップS109での計算方法と同様であり、
X22 = X11 − A
Y22 = Y11
で得られる。
Aの値は、ステップS207で選択されたカメラと、図5に示されているマップに基づき決定される。
Next, the second coordinates (X22, Y22) are calculated (step S209). That is, the second coordinates are calculated by the calculation method described in step S109 based on the first coordinates calculated in step S201 and the camera direction determined in step S207. The calculation method is the same as the calculation method in step S109.
X22 = X11-A
Y22 = Y11
It is obtained by.
The value of A is determined based on the camera selected in step S207 and the map shown in FIG.

以上の処理を完了させた後、図10に示されているフローチャートにリターンされ、ステップS133が実行される。ステップS133〜S139の処理は、ステップS113〜S119の処理と同様であるので、説明を省略する。ステップS139の画面表示処理の後、ステップS121へリターンされ、処理が繰り返される。   After completing the above processing, the process returns to the flowchart shown in FIG. 10, and step S133 is executed. Since the processing of steps S133 to S139 is the same as the processing of steps S113 to S119, description thereof is omitted. After the screen display process in step S139, the process returns to step S121, and the process is repeated.

以上説明した構成に加えて、ステップS119、S139で画像表示する前に、表示画像について視点変換処理を行っても良い。カメラ3F、3R、3L、3Bで取得された画像は、カメラ位置から対象物を写したアングルとなっており、運転者が運転席の位置から、該当部分を視認した場合のアングルとは異なっている。そこで、カメラで取得された画像のアングルを、運転者の視点から視認した場合のアングルに変換し、その変換後の画像をディスプレイに表示する。   In addition to the configuration described above, viewpoint conversion processing may be performed on the display image before displaying the image in steps S119 and S139. The images acquired by the cameras 3F, 3R, 3L, and 3B are angles obtained by copying the object from the camera position, which is different from the angle when the driver visually recognizes the corresponding part from the position of the driver's seat. Yes. Therefore, the angle of the image acquired by the camera is converted into an angle when viewed from the viewpoint of the driver, and the converted image is displayed on the display.

この画像に対する視点変換処理方法は、例えば第1座標の中心を運転席に設置し、ステップS201で求まった第1座標と、カメラの設定位置の座標とに基づき、画像の切取り位置及び画角を算出することで実現される。また、この場合、ステップS123〜127は実行されない。さらに、この視点変換を行う場合、側面に設けられたカメラ3R、3Lは、車体の中央部でなく、運転席の側方に設けられていることが好ましい。これは、本装置を使用するのは運転者であることが多いので、カメラ3R、3Lの撮影位置を、使用者(運転者)の視点位置に近づけるためである。この場合、例えば、視点変換処理をする際に、変換処理の負担が軽減されるとともに、変換後の画像の歪みも抑えることができる。   In this viewpoint conversion processing method for the image, for example, the center of the first coordinate is set in the driver's seat, and the cutout position and the angle of view of the image are determined based on the first coordinate obtained in step S201 and the coordinates of the camera setting position. It is realized by calculating. In this case, steps S123 to 127 are not executed. Furthermore, when performing this viewpoint conversion, it is preferable that the cameras 3R and 3L provided on the side surfaces are provided not on the center of the vehicle body but on the side of the driver's seat. This is because the driver is often used by the driver, so that the photographing positions of the cameras 3R and 3L are brought close to the viewpoint position of the user (driver). In this case, for example, when the viewpoint conversion process is performed, the burden of the conversion process is reduced, and distortion of the image after conversion can also be suppressed.

上記説明した構成の他、ステップS123における切取位置移動の指示は、表示画面の隅に設けられているアイコン87U、87D、87L、87R等に触れることにより、画像が矢印の方向に移動する構成としてもよい。   In addition to the configuration described above, the instruction to move the cut position in step S123 is a configuration in which the image moves in the direction of the arrow by touching the icons 87U, 87D, 87L, 87R, etc. provided at the corners of the display screen. Also good.

画像取込装置の構成を示すブロック図である。It is a block diagram which shows the structure of an image capture device. カメラ取り付け位置を示す、車両の平面図である。It is a top view of a vehicle which shows a camera attachment position. フローチャートである。It is a flowchart. 表示画像図である。It is a display image figure. 予め記憶されているカメラと座標位置等の関係を示すマップである。It is a map which shows the relationship between the camera memorize | stored beforehand and a coordinate position. 第1座標のX座標系を示す車両の平面図である。It is a top view of the vehicle which shows X coordinate system of the 1st coordinate. 第1座標のY座標系を示す車両の側面図である。It is a side view of the vehicle which shows Y coordinate system of the 1st coordinate. カメラ取得画像と表示画像との関係、及び第2座標系を示す図である。It is a figure which shows the relationship between a camera acquisition image and a display image, and a 2nd coordinate system. 表示画像図である。It is a display image figure. フローチャートである。It is a flowchart. フローチャートである。It is a flowchart. カメラ取得画像と表示画像との関係、及び第2座標系を示す図である。It is a figure which shows the relationship between a camera acquisition image and a display image, and a 2nd coordinate system.

符号の説明Explanation of symbols

1 車両周辺画像表示装置
3F、3R、3L、3B カメラ
7 入力装置
8 表示装置(ディスプレイ)
DESCRIPTION OF SYMBOLS 1 Vehicle periphery image display apparatus 3F, 3R, 3L, 3B Camera 7 Input apparatus 8 Display apparatus (display)

Claims (5)

車両に配置され、隣接するカメラの画像が重なる領域がある、魚眼レンズを備えた複数のカメラと、
該複数のカメラにより撮像された画像を組合せて、車両の水平方向の全周囲の画像を取得し得る周辺画像取得装置と、
該周辺画像取得装置により取得された画像を表示するディスプレイと、
該周辺画像取得装置により取得された画像から、画面上で指定された位置座標によって切り出す範囲の画像を指定する指定装置と、
前記指定装置によって指定された画像範囲と、前記カメラの画角に基づいて求められたカメラ切替角度とに応じて、切り出す画像を撮像するカメラを1つ選択する選択手段とを有する車両周辺画像表示装置において、
ユーザにより画像の拡大・縮小の指示する指示手段と、を更に有し、
該指示手段により画像の拡大・縮小の指示があった場合、その指示に従った画角の変更後、該画角の変更に伴うカメラ切替角度を再計算して求めることを特徴とする車両周辺画像表示装置。
A plurality of cameras equipped with fisheye lenses arranged in a vehicle and having an area where images of adjacent cameras overlap .
A peripheral image acquisition device capable of acquiring images of the entire periphery of the vehicle in the horizontal direction by combining images captured by the plurality of cameras;
A display for displaying an image acquired by the peripheral image acquisition device;
A designation device for designating an image in a range to be cut out by the position coordinates designated on the screen from the image acquired by the peripheral image acquisition device;
Vehicle periphery image display comprising: a selection unit that selects one camera that captures an image to be cut out in accordance with an image range designated by the designation device and a camera switching angle obtained based on an angle of view of the camera. in the device,
An instruction means for instructing the enlargement / reduction of the image by the user,
When the instruction means gives an instruction to enlarge or reduce the image, after changing the angle of view according to the instruction, the camera switching angle associated with the change of the angle of view is recalculated to obtain the vehicle periphery Image display device.
前記選択手段は、前記指定装置によって画面上で指定された位置座標を、カメラの光軸を基にした角度位置で示される第1座標に換算する換算手段を備え、
該第1座標と、カメラ切替角度とに応じて、切り出す画像を撮像するカメラを選択する請求項1に記載の車両周辺画像表示装置。
The selection means includes a conversion means for converting position coordinates designated on the screen by the designation device into first coordinates indicated by an angular position based on the optical axis of the camera,
The vehicle surrounding image display device according to claim 1, wherein a camera that captures an image to be cut out is selected according to the first coordinates and the camera switching angle.
前記ディスプレイに表示された画像を映し出すカメラの光軸の第1座標位置から前記指定装置によって指定された画像を示す第2座標位置までの移動角度が、カメラ切替角度を超えているか否かにより、切り出す画像を撮像するカメラを選択する請求項2に記載の車両周辺画像表示装置。
Whether the movement angle from the first coordinate position of the optical axis of the camera that displays the image displayed on the display to the second coordinate position indicating the image designated by the designation device exceeds the camera switching angle, The vehicle surrounding image display device according to claim 2, wherein a camera that picks up an image to be cut out is selected.
前記指定装置は、ジョイスティック、タッチパネル、トラックボールの内いずれか1つであることを特徴とする請求項1〜3のいずれか1に記載の車両周辺画像表示装置。
The vehicle surrounding image display device according to claim 1, wherein the designation device is any one of a joystick, a touch panel, and a trackball.
前記周辺画像取得装置により取得される画像が、少なくとも車室内の特定の場所から撮像したように撮像画像の視点変換を行う視点変換装置と、
前記指定装置で指定された画像上に、車体の輪郭線を重ね合わせて表示する表示制御装置とを備えた請求項1〜4のいずれか1に記載の車両周辺画像表示装置。
A viewpoint conversion device that performs viewpoint conversion of a captured image so that an image acquired by the peripheral image acquisition device is captured at least from a specific place in a vehicle interior;
The vehicle surrounding image display device according to any one of claims 1 to 4, further comprising: a display control device that displays an outline of a vehicle body superimposed on an image designated by the designation device.
JP2004251608A 2004-08-31 2004-08-31 Vehicle peripheral image display device Expired - Fee Related JP4877447B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004251608A JP4877447B2 (en) 2004-08-31 2004-08-31 Vehicle peripheral image display device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004251608A JP4877447B2 (en) 2004-08-31 2004-08-31 Vehicle peripheral image display device

Publications (2)

Publication Number Publication Date
JP2006074105A JP2006074105A (en) 2006-03-16
JP4877447B2 true JP4877447B2 (en) 2012-02-15

Family

ID=36154297

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004251608A Expired - Fee Related JP4877447B2 (en) 2004-08-31 2004-08-31 Vehicle peripheral image display device

Country Status (1)

Country Link
JP (1) JP4877447B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11866042B2 (en) 2018-08-20 2024-01-09 Indian Motorcycle International, LLC Wheeled vehicle adaptive speed control method and system

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006240383A (en) * 2005-03-01 2006-09-14 National Univ Corp Shizuoka Univ Cruising assist on-vehicle information system
JP4472656B2 (en) * 2006-03-29 2010-06-02 国立大学法人静岡大学 Presentation direction indicator
JP2008042235A (en) * 2006-08-01 2008-02-21 Honda Motor Co Ltd Display device for vehicle
JP4855884B2 (en) * 2006-09-28 2012-01-18 クラリオン株式会社 Vehicle periphery monitoring device
JP2008260335A (en) * 2007-04-10 2008-10-30 Honda Motor Co Ltd Driving support device
JP2009087228A (en) * 2007-10-02 2009-04-23 Denso Corp Image display device
JP5115136B2 (en) * 2007-10-16 2013-01-09 株式会社デンソー Vehicle rear monitoring device
CN101953163B (en) * 2008-02-20 2013-04-17 歌乐牌株式会社 Vehicle peripheral image display system
JP5118605B2 (en) * 2008-10-30 2013-01-16 クラリオン株式会社 Vehicle periphery image display system
JP5300443B2 (en) 2008-12-01 2013-09-25 富士通テン株式会社 Image processing device
JP5187179B2 (en) * 2008-12-16 2013-04-24 三菱自動車工業株式会社 Vehicle periphery monitoring device
JP5158051B2 (en) * 2009-09-18 2013-03-06 三菱自動車工業株式会社 Driving assistance device
JP5251804B2 (en) * 2009-09-18 2013-07-31 三菱自動車工業株式会社 Driving assistance device
JP5605605B2 (en) * 2010-03-09 2014-10-15 アイシン精機株式会社 Vehicle periphery monitoring device
WO2011114610A1 (en) * 2010-03-18 2011-09-22 パナソニック株式会社 Omnidirectional image processing device and omnidirectional image processing method
JP5381847B2 (en) * 2010-03-24 2014-01-08 株式会社デンソー Vehicle display device
JP5679763B2 (en) * 2010-10-27 2015-03-04 ルネサスエレクトロニクス株式会社 Semiconductor integrated circuit and all-around video system
KR101295618B1 (en) 2011-12-09 2013-08-12 주식회사 와이즈오토모티브 Apparatus and method for displaying blind spot
CN103237685B (en) * 2010-12-30 2017-06-13 明智汽车公司 Blind area display device and method
JP5385366B2 (en) * 2011-12-12 2014-01-08 富士通テン株式会社 Vehicle display device
JP5284452B2 (en) * 2011-12-12 2013-09-11 富士通テン株式会社 Vehicle display device
JP6205640B2 (en) 2012-07-30 2017-10-04 市光工業株式会社 Warning device for vehicle
TWI535587B (en) * 2012-11-14 2016-06-01 義晶科技股份有限公司 Method for controlling display of vehicular image by touch panel and vehicular image system thereof
JP6148887B2 (en) * 2013-03-29 2017-06-14 富士通テン株式会社 Image processing apparatus, image processing method, and image processing system
WO2015104860A1 (en) * 2014-01-10 2015-07-16 アイシン精機株式会社 Image display control device and image display system
DE102015008042B3 (en) * 2015-06-23 2016-12-15 Mekra Lang Gmbh & Co. Kg Display device for vehicles, in particular commercial vehicles
EP3544293B1 (en) 2016-11-21 2024-02-28 Kyocera Corporation Image processing device, imaging device, and display system
JP2018085584A (en) * 2016-11-21 2018-05-31 京セラ株式会社 Image processing apparatus, imaging apparatus, and display system
JP7259914B2 (en) * 2017-05-11 2023-04-18 株式会社アイシン Perimeter monitoring device
JP6802226B2 (en) * 2018-09-12 2020-12-16 矢崎総業株式会社 Vehicle display device

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3618891B2 (en) * 1996-04-08 2005-02-09 キヤノン株式会社 Camera control apparatus and camera control information display method
JP3573653B2 (en) * 1998-04-07 2004-10-06 松下電器産業株式会社 In-vehicle image display device
JP4364471B2 (en) * 2001-12-28 2009-11-18 株式会社エクォス・リサーチ Image processing apparatus for vehicle
JP2004015233A (en) * 2002-06-04 2004-01-15 Sumitomo Electric Ind Ltd Image processing system and image processing apparatus

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11866042B2 (en) 2018-08-20 2024-01-09 Indian Motorcycle International, LLC Wheeled vehicle adaptive speed control method and system

Also Published As

Publication number Publication date
JP2006074105A (en) 2006-03-16

Similar Documents

Publication Publication Date Title
JP4877447B2 (en) Vehicle peripheral image display device
JP4246195B2 (en) Car navigation system
KR101446898B1 (en) Vehicle periphery monitoring device
EP1950954B1 (en) Image processing device, image processing method, program thereof, recording medium containing the program, and imaging device
JP4863922B2 (en) Driving support system and vehicle
JP6491574B2 (en) AR information display device
JP5412979B2 (en) Peripheral display device
JP4888831B2 (en) Vehicle periphery monitoring device
JP5128566B2 (en) Ambient image presentation device and operation support system
JP5914013B2 (en) Driving assistance device
JP2010246088A (en) Device and method for adjusting image captured by on-board camera device, and on-board camera device
JP7283059B2 (en) Perimeter monitoring device
JP2006242859A (en) Information display device for vehicle
WO2013038681A1 (en) Camera calibration device, camera, and camera calibration method
JP5178454B2 (en) Vehicle perimeter monitoring apparatus and vehicle perimeter monitoring method
JP5977130B2 (en) Image generation apparatus, image display system, and image generation method
JP4436392B2 (en) Video processing device
JP5638494B2 (en) Image generation method, image generation apparatus, and operation support system
JP5476216B2 (en) Ambient monitoring device for vehicles
CN111572450B (en) Image processing apparatus, in-vehicle camera system, and image processing method
JP5709460B2 (en) Driving support system, driving support method, and driving support program
JP2013062692A (en) Calibration device and method for on-vehicle camera
JP2008137425A (en) Parking assisting method and parking assisting device
JP4945315B2 (en) Driving support system and vehicle
WO2010007960A1 (en) View-point conversion video image system for camera mounted on vehicle and method for acquiring view-point conversion video image

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111102

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111115

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141209

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees