JP6005115B2 - Image processing apparatus, electronic apparatus, and image processing method - Google Patents

Image processing apparatus, electronic apparatus, and image processing method Download PDF

Info

Publication number
JP6005115B2
JP6005115B2 JP2014199077A JP2014199077A JP6005115B2 JP 6005115 B2 JP6005115 B2 JP 6005115B2 JP 2014199077 A JP2014199077 A JP 2014199077A JP 2014199077 A JP2014199077 A JP 2014199077A JP 6005115 B2 JP6005115 B2 JP 6005115B2
Authority
JP
Japan
Prior art keywords
vehicle
image
around
image processing
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014199077A
Other languages
Japanese (ja)
Other versions
JP2015065659A (en
Inventor
大野 恭裕
恭裕 大野
行輔 尾▲崎▼
行輔 尾▲崎▼
貴克 山下
貴克 山下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Ten Ltd
Original Assignee
Denso Ten Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Ten Ltd filed Critical Denso Ten Ltd
Priority to JP2014199077A priority Critical patent/JP6005115B2/en
Publication of JP2015065659A publication Critical patent/JP2015065659A/en
Application granted granted Critical
Publication of JP6005115B2 publication Critical patent/JP6005115B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、車両に搭載された表示装置に画像を表示する技術に関する。   The present invention relates to a technique for displaying an image on a display device mounted on a vehicle.

一般に、車両に搭載した複数のカメラにより車両の周辺の画像を取得し、自動的に、または、ユーザの操作によって、表示装置に表示することで車両周辺の監視を可能とする装置がある。また、車両の真上を仮想視点として見下ろした画像を画面に表示し、ユーザに車両全周囲の安全確認の手段を提供する装置がある。さらに、車両に搭載した複数のカメラを使用して所定の高さの視点で撮影し、カメラが撮影した画像の視点位置を車両の全体図とともに表示する第1画面と、この第1画面に表示される視点位置の移動に対応させて、それぞれのカメラ画像を表示する第2画面との2つの画面で車両周囲の安全確認を行う技術がある(例えば、特許文献1参照。)。   In general, there is an apparatus that enables monitoring of the periphery of a vehicle by acquiring images around the vehicle with a plurality of cameras mounted on the vehicle and displaying the images on a display device automatically or by a user operation. In addition, there is an apparatus that displays on the screen an image looking down directly above the vehicle as a virtual viewpoint, and provides a user with means for confirming safety around the entire vehicle. In addition, a first screen is displayed on the first screen, in which a plurality of cameras mounted on the vehicle are used to shoot from a viewpoint at a predetermined height, and the viewpoint position of the image captured by the camera is displayed together with an overall view of the vehicle. There is a technique for confirming safety around a vehicle on two screens, a second screen displaying each camera image, corresponding to the movement of the viewpoint position (see, for example, Patent Document 1).

特開2008−219559号公報JP 2008-219559 A

しかしながら、従来のカメラによる車両周辺の画像表示は、複数のカメラのうち個々のカメラからの画像が車両のどの方向に対応しているのかを確認をする必要があり、画面にユーザの車両が映らないので車両と車両の周辺に存在する障害物との距離などの位置関係をユーザが把握するのは困難であった。   However, in the conventional image display around the vehicle by the camera, it is necessary to confirm in which direction the image from each of the cameras corresponds to the vehicle, and the user's vehicle is displayed on the screen. Therefore, it is difficult for the user to grasp the positional relationship such as the distance between the vehicle and an obstacle existing around the vehicle.

また、車両の真上を仮想視点として見下ろした画像を画面に表示した場合、ユーザは車両の全周囲の広い範囲をいちどに確認する必要があり、ユーザにとっては情報量が多すぎて、どこを注意すべきかのポイントを絞ることが困難であった。   In addition, when displaying an image looking down on the vehicle as a virtual viewpoint on the screen, the user needs to check a wide range of the entire circumference of the vehicle at a time, and the amount of information is too much for the user. It was difficult to narrow down the point of what to do.

さらに、特許文献1に開示されている技術では、カメラが撮影した画像の視点の位置を車両の全体図とともに示す画面と、視点位置の移動に対応させて、それぞれのカメラ画像を表示する画面とを別々の画面で表示しており、2つの画面に表示された情報の対応付けをユーザ自身で行わなければならず、車両と障害物との位置関係をユーザが把握しにくいという問題があった。   Furthermore, in the technique disclosed in Patent Document 1, a screen showing the position of the viewpoint of the image captured by the camera together with the overall view of the vehicle, and a screen for displaying each camera image corresponding to the movement of the viewpoint position, Are displayed on different screens, and the information displayed on the two screens must be correlated by the user himself, which makes it difficult for the user to grasp the positional relationship between the vehicle and the obstacle. .

本発明は、上記課題に鑑みてなされたものであり、車両と車両周辺の障害物との位置関係をユーザが直感的に把握できる技術を提供することを目的とする。   The present invention has been made in view of the above problems, and an object of the present invention is to provide a technique that allows a user to intuitively grasp the positional relationship between a vehicle and an obstacle around the vehicle.

上記課題を解決するため、請求項1の発明は、車両の周辺を撮影する複数のカメラから取得される画像に基づいて前記車両の周囲の画像を生成する画像生成手段と、前記車両の周囲の画像を表示する表示装置に前記画像を出力する出力手段と、を備え、前記画像生成手段は、前記車両の全周囲を含む広い範囲を車両の上方からみた第1画像と、前記第1画像の視点とは異なる視点で前記車両の周囲の限られた範囲を順番に連続表示する第2画像とを生成し、前記出力手段は、前記車両走行前であることを条件として前記第1画像を出力し、同じく前記車両が走行前であることを条件として前記第2画像を出力して該第2画像を連続表示する。
In order to solve the above-mentioned problem, the invention of claim 1 is characterized in that an image generation means for generating an image around the vehicle based on images acquired from a plurality of cameras that capture the periphery of the vehicle, Output means for outputting the image to a display device for displaying an image, wherein the image generation means includes a first image in which a wide range including the entire periphery of the vehicle is viewed from above the vehicle, and the first image A second image that sequentially displays a limited range around the vehicle in a different viewpoint from the viewpoint, and the output means displays the first image on the condition that the vehicle is before traveling. The second image is output on the condition that the vehicle is before traveling, and the second image is continuously displayed.

また、請求項2の発明は、請求項1に記載の画像処理装置において、前記出力手段は、前記車両の走行前において、前記第2画像が前記表示装置に連続表示された後、または、前記第2画像が前記表示装置に連続表示される前に、前記第1画像を出力する。
Further, the invention of claim 2, the image processing apparatus according to claim 1, wherein the output means, before the running of the vehicle, after the second image is continuously displayed on the display device, or the Before the second image is continuously displayed on the display device, the first image is output.

また、請求項3の発明は、両の周辺を撮影する複数のカメラから取得される画像に基づいて前記車両の周囲の画像を生成する画像生成手段と、前記車両の周囲の画像を表示する表示装置に前記画像を出力する出力手段と、を備え、前記画像生成手段は、前記車両の全周囲を含む広い範囲を車両の上方からみた第1画像と、前記第1画像の視点とは異なる視点で前記車両の周囲の限られた範囲の第2画像とを生成し、前記出力手段は、前記車両が走行前であることを条件として前記第1画像を出力し、同じく前記車両が走行前であることを条件として前記第2画像を出力し、前記第1画像と前記第2画像と相互間において視点の位置が連続的に変化するように出力されて連続表示される
According to a third aspect of the present invention, there is provided an image generating means for generating an image around the vehicle based on images acquired from a plurality of cameras that photograph both of the surroundings, and a display for displaying the image around the vehicle. Output means for outputting the image to the apparatus, wherein the image generation means is a first image obtained by viewing a wide range including the entire periphery of the vehicle from above the vehicle, and a viewpoint different from the viewpoint of the first image. And a second image of a limited range around the vehicle, and the output means outputs the first image on condition that the vehicle is not traveling, and the vehicle is also The second image is output on the condition that the image is present, and the first image and the second image are output and continuously displayed so that the position of the viewpoint continuously changes between each other.

また、請求項4の発明は、車両の周辺を撮影する複数のカメラから取得される画像に基づいて前記車両の周囲の画像を生成する画像生成手段と、前記車両の周囲の画像を表示する表示装置に前記画像を出力する出力手段と、を備え、前記画像生成手段は、前記車両の全周囲を含む広い範囲を車両の上方からみた第1画像と、前記第1画像の視点とは異なる視点で前記車両の周囲の限られた範囲を順番に連続表示する第2画像とを生成し、前記出力手段は、前記車両の車速が所定速度以下であることを条件として前記第1画像を出力し、同じく前記車両の速度が所定速度以下であることを条件として前記第2画像を出力して該第2画像を連続表示する。 According to a fourth aspect of the present invention, there is provided an image generating means for generating an image around the vehicle based on images acquired from a plurality of cameras that photograph the periphery of the vehicle, and a display for displaying the image around the vehicle. Output means for outputting the image to the apparatus, wherein the image generation means is a first image obtained by viewing a wide range including the entire periphery of the vehicle from above the vehicle, and a viewpoint different from the viewpoint of the first image. And a second image that sequentially displays a limited range around the vehicle in order, and the output means outputs the first image on condition that the vehicle speed of the vehicle is equal to or lower than a predetermined speed. Similarly, the second image is output on the condition that the speed of the vehicle is equal to or lower than a predetermined speed, and the second image is continuously displayed.

また、請求項5の発明は、請求項1ないし4のいずれかに記載の画像処理装置において、前記第2画像は、前記車両の周囲から該車両をみた画像であって、前記車両の周囲を旋回して表示する画像である。
また、請求項6の発明は、請求項1ないし5のいずれかに記載の画像処理装置において、前記連続表示は、ユーザのボタン操作により途中終了または一時停止する。
According to a fifth aspect of the present invention, in the image processing device according to any one of the first to fourth aspects, the second image is an image of the vehicle viewed from the periphery of the vehicle, and the periphery of the vehicle is It is an image displayed by turning.
According to a sixth aspect of the present invention, in the image processing apparatus according to any one of the first to fifth aspects, the continuous display is terminated or suspended temporarily by a user's button operation.

本発明によれば、ユーザは、車両の全周囲を含む広い範囲を車両の上方からみた第1画像と、第1画像の視点とは異なる視点で前記車両の周囲の限られた範囲の第2画像とを確認することで、1つの画面で直感的に車両と障害物との位置関係を把握できる。   According to the present invention, the user can view a wide range including the entire periphery of the vehicle from the top of the vehicle, and a second limited range around the vehicle from a viewpoint different from the viewpoint of the first image. By confirming the image, it is possible to intuitively grasp the positional relationship between the vehicle and the obstacle on one screen.

図1は、画像表示システムのブロック図である。FIG. 1 is a block diagram of an image display system. 図2は、複数の車載カメラが車両に配置される位置を示す図である。FIG. 2 is a diagram illustrating positions where a plurality of in-vehicle cameras are arranged in the vehicle. 図3は、任意の仮想視点からみた合成画像の生成方法を説明する図である。FIG. 3 is a diagram illustrating a method for generating a composite image viewed from an arbitrary virtual viewpoint. 図4は、画像処理部の処理の流れを示す図である。FIG. 4 is a diagram illustrating a flow of processing of the image processing unit. 図5は、第1の実施形態における合成画像の画面遷移を示す図である。FIG. 5 is a diagram illustrating screen transition of the composite image in the first embodiment. 図6は、表示部の表示処理の流れを示す図である。FIG. 6 is a diagram illustrating a flow of display processing of the display unit. 図7は、第2の実施形態における合成画像の画面遷移を示す図である。FIG. 7 is a diagram illustrating a screen transition of the composite image in the second embodiment. 図8は、画像処理部の処理の変形例1を示す図である。FIG. 8 is a diagram illustrating a first modification of the processing of the image processing unit. 図9は、画像処理部の処理の変形例2を示す図である。FIG. 9 is a diagram illustrating a second modification of the processing of the image processing unit. 図10は、第3の実施形態の画像表示システムのブロック図である。FIG. 10 is a block diagram of an image display system according to the third embodiment. 図11は、第3の実施形態の画像処理部の処理の流れを示す図である。FIG. 11 is a diagram illustrating a processing flow of the image processing unit according to the third embodiment. 図12は、第3の実施形態の合成画像の画面遷移を示す図である。FIG. 12 is a diagram illustrating screen transition of the composite image according to the third embodiment. 図13は、第3の実施形態の画像処理部の処理の変形例1を示す図である。FIG. 13 is a diagram illustrating a first modification of the process of the image processing unit of the third embodiment. 図14は、第3の実施形態の画像処理部の処理の変形例2を示す図である。FIG. 14 is a diagram illustrating a second modification of the process of the image processing unit according to the third embodiment.

以下、図面を参照しつつ本発明の実施形態について説明する。
<1.第1の実施の形態>
<1−1.構成>
図1は、第1の実施形態の画像表示システム100のブロック図である。この画像表示システム100は、車両(本実施の形態では、自動車)に搭載される電子装置であり、車両の周辺を撮影して画像を生成し、車室内に表示する機能を有している。この画像表示システム100を利用するユーザとなる車両のドライバは当該車両の周辺を容易に把握できるようになっている。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
<1. First Embodiment>
<1-1. Configuration>
FIG. 1 is a block diagram of an image display system 100 according to the first embodiment. The image display system 100 is an electronic device that is mounted on a vehicle (in this embodiment, an automobile), and has a function of photographing the periphery of the vehicle to generate an image and displaying the image in the passenger compartment. A driver of a vehicle serving as a user who uses the image display system 100 can easily grasp the periphery of the vehicle.

図1に示すように、画像表示システム100は、画像処理部10と、車両の周辺を撮影する撮影部5とを備えている。画像表示システム100は液晶ディスプレイなどの表示部21を備えており、表示部21の画面がドライバから視認可能なように車両のインストルメントパネルなどに設置される。また、撮影部5は、画像処理部10に電気的に接続され画像処理部10からの信号に基づいて動作する。なお、表示部21はタッチパネル機能を有し、ユーザから各種指示を受付可能である。   As shown in FIG. 1, the image display system 100 includes an image processing unit 10 and a photographing unit 5 that photographs the periphery of the vehicle. The image display system 100 includes a display unit 21 such as a liquid crystal display, and is installed on an instrument panel or the like of a vehicle so that the screen of the display unit 21 is visible from a driver. The photographing unit 5 is electrically connected to the image processing unit 10 and operates based on a signal from the image processing unit 10. The display unit 21 has a touch panel function and can accept various instructions from the user.

撮影部5は、車載カメラであるフロントカメラ51、サイドカメラ52及びバックカメラ53を備えている。これらの車載カメラ51,52,53は、レンズと撮像素子とを備えており電子的に画像を取得する。   The photographing unit 5 includes a front camera 51, a side camera 52, and a back camera 53 that are in-vehicle cameras. These in-vehicle cameras 51, 52, and 53 include a lens and an image sensor and electronically acquire an image.

図2は、車載カメラ51,52,53が車両9に配置される位置を示す図である。図2に示すように、フロントカメラ51は、車両9の前端となるフロントバンパ91の左右略中心に設けられ、その光軸は車両9の直進方向に向けられている。また、サイドカメラ52は、左右のドアミラー93にそれぞれ設けられており、その光軸は直進方向に対して直交するように車両9の外部方向に向けられている。バックカメラ53は、車両9の後端となるリアバンパ92の左右略中心に設けられ、その光軸は車両9の直進方向の逆方向に向けられている。   FIG. 2 is a diagram illustrating positions where the in-vehicle cameras 51, 52, 53 are arranged on the vehicle 9. As shown in FIG. 2, the front camera 51 is provided at the substantially left and right center of the front bumper 91 that is the front end of the vehicle 9, and its optical axis is directed in the straight traveling direction of the vehicle 9. Further, the side cameras 52 are provided on the left and right door mirrors 93, respectively, and their optical axes are directed to the outside of the vehicle 9 so as to be orthogonal to the straight traveling direction. The back camera 53 is provided at the substantially right and left center of the rear bumper 92 that is the rear end of the vehicle 9, and its optical axis is directed in the direction opposite to the straight traveling direction of the vehicle 9.

これらの車載カメラ51,52,53のレンズとしては魚眼レンズなどが採用されており、車載カメラ51,52,53は180度以上の画角αを有している。このため、4つの車載カメラ51,52,53を利用することで、車両9の全周囲の撮影が可能となっている。   As the lenses of these in-vehicle cameras 51, 52, and 53, fish-eye lenses are employed, and the in-vehicle cameras 51, 52, and 53 have an angle of view α of 180 degrees or more. For this reason, it is possible to shoot the entire periphery of the vehicle 9 by using the four in-vehicle cameras 51, 52, and 53.

なお、車載カメラ51,52,53は180度以上の画角αを有しているため、各カメラの撮影範囲が重複する重複領域β生じる。このような重複領域では同一の物体が別々の方向に表示される。そのため、このような重複領域の画像処理は、両方のカメラの画像の重複する部分の透過率調整(例えば互いに50%とする。)して重ね合わせて表示してもよいし、重複する部分から任意の範囲の画像を削除してもよい。   Since the vehicle-mounted cameras 51, 52, and 53 have an angle of view α of 180 degrees or more, an overlapping region β in which the shooting ranges of the cameras overlap is generated. In such an overlapping area, the same object is displayed in different directions. For this reason, in the image processing of such overlapping regions, the transmittance of overlapping portions of the images of both cameras may be adjusted (for example, 50% each other) and superimposed and displayed. Any range of images may be deleted.

図1に戻り、画像処理部10は、撮影部5で取得された撮影画像を処理して表示用の画像に変換する画像変換部3と、各種の演算処理を行うCPU1と、表示部21と通信を行う通信部42とを備えている。画像変換部3で生成された画像は通信部42から表示部21に出力されて表示される。   Returning to FIG. 1, the image processing unit 10 processes the captured image acquired by the capturing unit 5 and converts it into a display image, the CPU 1 that performs various arithmetic processes, the display unit 21, and the like. And a communication unit 42 that performs communication. The image generated by the image conversion unit 3 is output from the communication unit 42 to the display unit 21 and displayed.

画像変換部3は、撮影部5の複数の車載カメラ51,52,53で取得された複数の撮影画像に基づいて仮想視点からみた合成画像を生成できる。画像変換部3は、このような画像処理に必要な輝度調整部31と多重化部32と視点変換部33とを備えたハードウェア回路として構成されている。   The image conversion unit 3 can generate a composite image viewed from a virtual viewpoint based on a plurality of captured images acquired by the plurality of vehicle-mounted cameras 51, 52, 53 of the imaging unit 5. The image conversion unit 3 is configured as a hardware circuit including a luminance adjustment unit 31, a multiplexing unit 32, and a viewpoint conversion unit 33 necessary for such image processing.

輝度調整部31は、撮影部5で取得された撮影画像の全体としての明るさを示す平均輝度を参照し、撮影画像のゲイン調整を行うようになっている。具体的には、撮影画像の平均輝度が比較的高い場合はゲイン調整値を小さくし、比較的低い場合はゲイン調整値を大きくする。これにより、車両9の周辺環境がある程度暗い場合などにおいて撮影画像の明るさが調整されることとなる。   The brightness adjusting unit 31 refers to the average brightness indicating the brightness of the entire captured image acquired by the capturing unit 5 and adjusts the gain of the captured image. Specifically, the gain adjustment value is decreased when the average luminance of the captured image is relatively high, and the gain adjustment value is increased when the average brightness is relatively low. Thereby, the brightness of the captured image is adjusted when the surrounding environment of the vehicle 9 is somewhat dark.

多重化部32は、複数の車載カメラ51,52,53で取得されてゲイン調整された複数の撮影画像を一つの画像に合成して多重化画像とする。視点変換部33は、多重化部32で生成された多重化画像を用いて、車両9の周辺の任意の仮想視点からみた合成画像を生成する。視点変換部33が、仮想視点からみた合成画像を生成する手法については後述する。   The multiplexing unit 32 combines a plurality of captured images acquired by the plurality of in-vehicle cameras 51, 52, and 53 and gain-adjusted into one image to obtain a multiplexed image. The viewpoint conversion unit 33 generates a composite image viewed from an arbitrary virtual viewpoint around the vehicle 9 using the multiplexed image generated by the multiplexing unit 32. A method in which the viewpoint conversion unit 33 generates a composite image viewed from a virtual viewpoint will be described later.

CPU1は、画像表示システム100の各部を統括的に制御する制御部として機能する。CPU1の各種の制御機能は、CPU1が備えるメモリ11などに予め記憶されたプログラムに従って演算処理が実行されることによりソフトウェア的に実現される。   The CPU 1 functions as a control unit that comprehensively controls each unit of the image display system 100. Various control functions of the CPU 1 are realized by software by executing arithmetic processing according to a program stored in advance in a memory 11 or the like provided in the CPU 1.

また、画像処理部10は、車両9に設けられた各種装置からの信号を入力する信号入力部41を備えている。この信号入力部41を介して、画像表示システム100の外部からの信号がCPU1に入力される。具体的には、車両電源制御装置84からは車両のACC−ON/OFFの信号が入力される。ACCは、車両9の画像表示システム100を含む付属品に対して、電力を供給する供給線をON/OFFするスイッチである。   Further, the image processing unit 10 includes a signal input unit 41 for inputting signals from various devices provided in the vehicle 9. A signal from the outside of the image display system 100 is input to the CPU 1 via the signal input unit 41. Specifically, a vehicle ACC-ON / OFF signal is input from the vehicle power supply control device 84. The ACC is a switch for turning on / off a supply line for supplying power to accessories including the image display system 100 of the vehicle 9.

また、表示部21にはシフトセンサ81、車速度センサ82、切替スイッチ83、および、車両電源制御装置84などから、各種情報を示す信号が入力される。シフトセンサ81からは、”P”,”D”,”N”,”R”などのシフトポジションが入力される。また、車速度センサ82からは、その時点の車両9の走行速度(km/h)が入力される。切替スイッチ83からは、表示部21のディスプレイに表示されるカメラ画像を切替える信号が入力される。例えばフロントカメラの画像、サイドカメラの画像、バックカメラの画像のような順序で切替えがなされる。車両電源制御装置84からは車両のACC−ON/OFFの信号が入力される。なお、後述するように車両電源制御装置84からの車両のACC−ON/OFF信号は信号入力部41を介して画像処理部10のCPU1にも入力される。   In addition, signals indicating various information are input to the display unit 21 from the shift sensor 81, the vehicle speed sensor 82, the changeover switch 83, the vehicle power supply control device 84, and the like. A shift position such as “P”, “D”, “N”, “R” is input from the shift sensor 81. Further, the vehicle speed sensor 82 inputs the traveling speed (km / h) of the vehicle 9 at that time. A signal for switching the camera image displayed on the display of the display unit 21 is input from the switch 83. For example, switching is performed in the order of the front camera image, the side camera image, and the back camera image. A vehicle ACC-ON / OFF signal is input from the vehicle power supply control device 84. As will be described later, the vehicle ACC-ON / OFF signal from the vehicle power supply control device 84 is also input to the CPU 1 of the image processing unit 10 via the signal input unit 41.

<1−2.画像変換処理>
次に、画像変換部3の視点変換部33が、撮影部5で得られた複数の撮影画像に基づいて、任意の仮想視点からみた合成画像を生成する手法について説明する。図3は、任意の仮想視点からみた合成画像を生成する手法を説明するための図である。
<1-2. Image conversion processing>
Next, a method in which the viewpoint conversion unit 33 of the image conversion unit 3 generates a composite image viewed from an arbitrary virtual viewpoint based on a plurality of captured images obtained by the imaging unit 5 will be described. FIG. 3 is a diagram for explaining a method of generating a composite image viewed from an arbitrary virtual viewpoint.

撮影部5のフロントカメラ51、サイドカメラ52及びバックカメラ53で同時に撮影が行われると、車両9の前方、左側方、右側方、及び、後方をそれぞれ示す4つの撮影画像P1〜P4が取得される。すなわち、撮影部5で取得される4つの撮影画像P1〜P4には、撮影時点の車両9の全周囲を示す情報が含まれていることになる。   When the front camera 51, the side camera 52, and the back camera 53 of the photographing unit 5 are simultaneously photographed, four photographed images P1 to P4 respectively showing the front, left side, right side, and rear of the vehicle 9 are acquired. The That is, the four captured images P1 to P4 acquired by the imaging unit 5 include information indicating the entire periphery of the vehicle 9 at the time of shooting.

取得された4つの撮影画像P1〜P4は多重化された後、視点変換部33により仮想的な三次元の立体曲面SPに投影される。立体曲面SPは、例えば略半球状(お椀形状)をしており、その中心部分(お椀の底部分)が車両9の位置として定められている。撮影画像P1〜P4に含まれる各画素の位置と、この立体曲面SPの各画素の位置とはあらかじめ対応関係が定められている。このため、立体曲面SPの各画素の値は、この対応関係と、撮影画像P1〜P4に含まれる各画素の値とに基づいて決定できる。撮影画像P1〜P4の各画素の位置と立体曲面SPの各画素の位置との対応関係は、テーブルデータとして画像処理部10のCPU1が備えるメモリ11に記憶される。   The obtained four captured images P1 to P4 are multiplexed and then projected onto a virtual three-dimensional curved surface SP by the viewpoint conversion unit 33. The three-dimensional curved surface SP has, for example, a substantially hemispherical shape (a bowl shape), and a central portion (a bottom portion of the bowl) is determined as the position of the vehicle 9. The correspondence between the positions of the pixels included in the captured images P1 to P4 and the positions of the pixels of the solid curved surface SP is determined in advance. For this reason, the value of each pixel of the three-dimensional curved surface SP can be determined based on this correspondence and the value of each pixel included in the captured images P1 to P4. The correspondence between the positions of the pixels of the captured images P1 to P4 and the positions of the pixels of the three-dimensional curved surface SP is stored as table data in the memory 11 included in the CPU 1 of the image processing unit 10.

一方で、立体曲面SPに対するVP1,VP2,VP5,および、VP7などの仮想視点が設定される。そして、設定された仮想視点VP1,VP2,VP5,および、VP7に応じて、立体曲面SPにおける必要な領域が画像として切り出されることにより、任意の仮想視点からみた合成画像が生成されることになる。   On the other hand, virtual viewpoints such as VP1, VP2, VP5, and VP7 for the solid curved surface SP are set. Then, according to the set virtual viewpoints VP1, VP2, VP5, and VP7, a necessary area on the three-dimensional curved surface SP is cut out as an image, so that a composite image viewed from an arbitrary virtual viewpoint is generated. .

例えば、図中に示すように、車両9の後方となる仮想視点VP1を設定した場合は、車両9の後方から車両9を見下ろしたような合成画像CP1が生成されることになる。また、車両9の左側面となる仮想視点VP2や右側面となるVP5を設定した場合は、車両9の左側面、または、右側面から車両9を見下ろしたような合成画像CP2、または、CP5が生成されることとなる。さらに、車両9の真上の仮想視点VP7を設定した場合は、車両9の真上から見下ろすような合成画像CP7が生成される。仮想視点と、立体曲面SPにおける必要な領域との関係はあらかじめ定められており、テーブルデータとして画像処理部10のCPU1が備えるメモリ11に記憶される。   For example, as shown in the figure, when a virtual viewpoint VP1 that is behind the vehicle 9 is set, a composite image CP1 that looks down on the vehicle 9 from behind the vehicle 9 is generated. Further, when the virtual viewpoint VP2 that is the left side surface of the vehicle 9 and the VP5 that is the right side surface are set, the composite image CP2 or CP5 that looks down on the vehicle 9 from the left side surface or the right side surface of the vehicle 9 is displayed. Will be generated. Further, when the virtual viewpoint VP7 directly above the vehicle 9 is set, a composite image CP7 that looks down from directly above the vehicle 9 is generated. The relationship between the virtual viewpoint and the necessary area in the three-dimensional curved surface SP is determined in advance, and is stored as table data in the memory 11 provided in the CPU 1 of the image processing unit 10.

実際に合成画像を生成する場合においては、立体曲面SPの全ての画素の値を決定する必要はなく、仮想視点に対応して必要となる領域の画素の値のみを撮影画像P1〜P4に基づいて決定することで、処理速度を向上できる。また、合成画像中に示す車両9の像はあらかじめビットマップなどはメモリ11内に用意しておき、仮想視点に応じた方向の車両9の像を生成された合成画像に重畳すればよい。   In the case of actually generating a composite image, it is not necessary to determine the values of all the pixels of the three-dimensional curved surface SP, and only the values of the pixels in the area necessary for the virtual viewpoint are based on the captured images P1 to P4. The processing speed can be improved. The image of the vehicle 9 shown in the composite image may be prepared in advance in the memory 11 as a bitmap or the like, and the image of the vehicle 9 in the direction corresponding to the virtual viewpoint may be superimposed on the generated composite image.

なお、撮影画像P1〜P4の各画素の位置と立体曲面SPの各画素の位置との対応関係のテーブルデータ、仮想視点と立体曲面SPにおける必要な領域との関係を定めたテーブルデータ、車両の像のビットマップデータなどのメモリ11内に保存されているデータは他のデータに書き換え可能である。またメモリ11はCPU1の内部に設けられているが、これに限らずCPU1の外部または画像処理部10の外部に設けられても良い。   It should be noted that the table data of the correspondence between the positions of the pixels of the captured images P1 to P4 and the positions of the pixels of the three-dimensional curved surface SP, table data that defines the relationship between the virtual viewpoint and the necessary area in the three-dimensional curved surface SP, Data stored in the memory 11 such as image bitmap data can be rewritten to other data. The memory 11 is provided inside the CPU 1, but is not limited thereto, and may be provided outside the CPU 1 or outside the image processing unit 10.

<1−3.動作>
次に、本実施形態の画像処理部10の動作について、図4の画像処理部10の処理の流れを示す図、および、図5の第1の実施形態における合成画像の画面遷移を示す図を参照して説明する。
<1-3. Operation>
Next, with respect to the operation of the image processing unit 10 of the present embodiment, a diagram illustrating a processing flow of the image processing unit 10 in FIG. 4 and a diagram illustrating a screen transition of the composite image in the first embodiment in FIG. 5. The description will be given with reference.

画像処理部10のCPU1が車両電源制御装置84からのACC−ON信号を信号入力部41を介して受信する(ステップS101がYes)と、画像処理部10の通信部42は表示部21との初期通信を開始する(ステップS102)。ここで初期通信とは画像処理部10と表示部21との間で通信可能か否かを確認する処理をいう。画像処理部10のCPU1が車両電源制御装置84からのACC−ON信号を受信していない場合は処理を終了する(ステップS101がNo)。   When the CPU 1 of the image processing unit 10 receives the ACC-ON signal from the vehicle power supply control device 84 via the signal input unit 41 (Yes in step S101), the communication unit 42 of the image processing unit 10 communicates with the display unit 21. Initial communication is started (step S102). Here, the initial communication refers to processing for confirming whether or not communication is possible between the image processing unit 10 and the display unit 21. If the CPU 1 of the image processing unit 10 has not received the ACC-ON signal from the vehicle power supply control device 84, the processing is terminated (No in step S101).

画像処理部10と表示部21との初期通信が正常に終了すれば(ステップS103がYes)、画像処理部10はCPU1のメモリ11から車両周囲確認処理を行うためのデータを読み出す(ステップS104)。車両周囲確認処理データの例としては、車両のビットマップデータ、視点の移動データ(時間ごとの視点位置や視点の方向のデータ)などがあげられる。   If the initial communication between the image processing unit 10 and the display unit 21 is normally completed (step S103 is Yes), the image processing unit 10 reads data for performing a vehicle surrounding confirmation process from the memory 11 of the CPU 1 (step S104). . Examples of the vehicle periphery confirmation processing data include vehicle bitmap data, viewpoint movement data (viewpoint position and viewpoint direction data for each time), and the like.

初期通信が正常に終了していない場合(ステップS103がNo)は再度、表示部21との通信を行ったり、複数回の通信を試みても通信できない場合は処理を終了する。なお、ここで初期通信が正常に終了しない場合としては、故障などの原因で画像処理部10が正常に動作していないことがあげられる。このような場合は表示部21に車両周囲の画像表示のシステムが故障している旨の警告を表示するようにできる。   If the initial communication has not ended normally (No in step S103), the communication is again performed with the display unit 21. If communication is not possible even after a plurality of communication attempts, the process ends. Here, the case where the initial communication does not end normally is that the image processing unit 10 is not operating normally due to a failure or the like. In such a case, a warning that the system for displaying images around the vehicle has failed can be displayed on the display unit 21.

メモリ11から車両周辺確認処理のデータを読み出した後に、画像処理部10の画像変換部3は読み出したデータに基づいて、車両周囲の合成画像を生成する(ステップS105)。作成された合成画像のデータは表示部21に送信される(ステップS106)。なお、画像処理部10は作成した仮想視点の位置が段階的に変更されている複数の合成画像が連続性を有するように順番に表示部21にデータを送信する。これにより仮想視点の位置が段階的に変更され、連続表示により車両を見下ろした状態で、車両9の周囲を周回する画像を表示部21に表示させることができる。   After reading the vehicle periphery confirmation processing data from the memory 11, the image conversion unit 3 of the image processing unit 10 generates a composite image around the vehicle based on the read data (step S105). The generated composite image data is transmitted to the display unit 21 (step S106). The image processing unit 10 transmits data to the display unit 21 in order so that a plurality of synthesized images in which the positions of the created virtual viewpoints are changed in stages have continuity. As a result, the position of the virtual viewpoint is changed stepwise, and an image that goes around the vehicle 9 can be displayed on the display unit 21 in a state where the vehicle is looked down by continuous display.

複数の合成画像の表示部21への送信が終了する(ステップS107がYes)と、車両9の略中心の直上(真上)の合成画像を生成し(ステップS108)、生成した車両9の略中心の直上(真上)の合成画像を表示部21へ送信する(ステップS109)。   When transmission of the plurality of composite images to the display unit 21 is completed (Yes in step S107), a composite image immediately above (directly above) the approximate center of the vehicle 9 is generated (step S108), and the generated vehicle 9 is abbreviated. A composite image directly above (directly above) the center is transmitted to the display unit 21 (step S109).

なお、複数の合成画像データの表示部21への送信が終了していない場合(ステップS107がNo)は、ステップS105の処理に戻って、次の車両周囲の合成画像を生成する処理を行う。   If transmission of a plurality of composite image data to the display unit 21 has not been completed (No in step S107), the process returns to the process of step S105 to perform a process of generating a composite image around the next vehicle.

上記の車両9の周囲の複数の合成画像の生成と表示、車両9の略中心の直上(真上)の合成画像の生成と表示について、図5に基づいて説明する。   Generation and display of a plurality of composite images around the vehicle 9 and generation and display of a composite image immediately above (directly above) the approximate center of the vehicle 9 will be described with reference to FIG.

車両9の後方から車両9を見下ろしたような合成画像CP1、車両9の左側面から車両9を見下ろしたような合成画像CP2、車両9の左斜め側面から車両9を見下ろしたような合成画像CP3、車両9の前方から車両9を見下ろしたような合成画像CP4、車両9の右側面から車両9を見下ろしたような合成画像CP5、車両9の右斜め側面から車両9を見下ろしたような合成画像CP6、車両9の略中心の直上(真上)から車両9を見下ろしたような合成画像CP7がそれぞれ撮影部5のカメラ51,52,53から入力される画像に基づいて、画像処理部10はユーザが自身の目線の高さで車両の周囲を1周するようなCP1からCP6の合成画像を順番に生成し、最後に車両周囲の全体を車両9の略中心の直上(真上)の視点からみたCP7の合成画像をCP6の次に生成して、表示部21に連続表示させる。これにより、車両を見下ろした状態で車両の周囲を周回するように示す複数の合成画像が表示部21に表示されるため、ユーザが車両を目の前にした視点から車両の全周囲を確認することで、1つの画面で直感的に車両と障害物との位置関係を把握できる。   A composite image CP1 in which the vehicle 9 is looked down from the rear of the vehicle 9, a composite image CP2 in which the vehicle 9 is looked down from the left side of the vehicle 9, and a composite image CP3 in which the vehicle 9 is looked down from the diagonally left side of the vehicle 9 The composite image CP4 as if the vehicle 9 was looked down from the front of the vehicle 9, the composite image CP5 as if the vehicle 9 was looked down from the right side of the vehicle 9, and the composite image as if the vehicle 9 was looked down from the diagonally right side of the vehicle 9 Based on images input from the cameras 51, 52, and 53 of the photographing unit 5, respectively, the image processing unit 10 determines that the composite image CP <b> 7 looks down on the vehicle 9 from just above (directly above) the center of the CP <b> 6 and vehicle 9. A composite image of CP1 to CP6 is generated in order so that the user makes one round of the periphery of the vehicle at the height of his / her own line of sight, and finally, the viewpoint directly above (directly above) the substantial center of the vehicle 9 over the entire vehicle periphery. Entanglement A composite image of the CP7 produces the following CP6, is continuously displayed on the display unit 21. As a result, a plurality of composite images are displayed on the display unit 21 so as to circulate around the vehicle while looking down at the vehicle, so that the user confirms the entire periphery of the vehicle from a viewpoint in front of the vehicle. Thus, the positional relationship between the vehicle and the obstacle can be grasped intuitively on one screen.

また、仮想視点の位置が連続性を持って移動しつつ、車両の周囲を旋回するように示す複数の合成画像と車両の略中心の直上(真上)からみた合成画像との双方が表示されることで、ユーザは1つの画面で直感的に車両と障害物との位置関係を把握できる。さらに、車両の周囲と車両の略中心の直上(真上)との複数の視点から車両周囲の安全性を確認できる。   In addition, both a plurality of composite images showing that the position of the virtual viewpoint moves continuously and turning around the vehicle and a composite image viewed from directly above (directly above) the center of the vehicle are displayed. Thus, the user can intuitively grasp the positional relationship between the vehicle and the obstacle on one screen. Furthermore, safety around the vehicle can be confirmed from a plurality of viewpoints of the periphery of the vehicle and directly above (directly above) the approximate center of the vehicle.

また、車両の周囲の画像でユーザが見落とす障害物などの情報があったとしても、車両の周囲の画像の後に連続性をもって表示される車両の上方の画像により再度安全確認を行うことができる。   Further, even if there is information such as an obstacle that the user overlooks in the surrounding image of the vehicle, the safety confirmation can be performed again by the image above the vehicle displayed with continuity after the surrounding image of the vehicle.

また、ユーザが車両の全周囲の広い範囲をいちどに確認する必要はなく、車両周囲の限られた範囲の画像の後に車両の略中心の直上(真上)の広い範囲の車両全体の画像を連続して表示することで、ユーザは1つの画面で車両周囲の安全確認をより確実に行える。   In addition, it is not necessary for the user to check a wide range all around the vehicle at once, and an image of the entire vehicle in a wide range immediately above (directly above) the center of the vehicle is continuously displayed after an image of a limited range around the vehicle. Thus, the user can confirm the safety around the vehicle more reliably on one screen.

また、車両の位置を中心として車両の周囲を順に移動する仮想視点からみた合成画像を生成することで、ユーザは1つの画面で直感的に車両の全周囲の障害物を確認することができる。   Further, by generating a composite image viewed from a virtual viewpoint that sequentially moves around the vehicle around the position of the vehicle, the user can intuitively check obstacles around the entire vehicle on one screen.

なお、ここで示した合成画像は一例であり、合成画像の車両を見下ろす高さ、方向、合成画像の連続表示の一時停止、連続表示の回転速度の調整、連続表示の回転を逆回転とすることなどの設定はユーザの任意の変更が可能である。   The composite image shown here is only an example, and the height and direction overlooking the vehicle of the composite image, the continuous display of the composite image is paused, the rotation speed of the continuous display is adjusted, and the rotation of the continuous display is reversed. The user can arbitrarily change the setting.

また、連続表示を一時停止して表示部の画面の任意の部分をユーザ操作により選択することで選択した部分を拡大表示させることもできる。さらに、本実施形態では車両周囲を表示する合成画像を連続表示した後に、車両の略中心の直上(真上)の合成画像を連続表示させる場合を述べたが、この順序に限ることなく車両の略中心の直上(真上)の合成画像を表示した後に車両周囲の合成画像を連続表示させてもよい。   Further, the selected portion can be enlarged and displayed by pausing the continuous display and selecting an arbitrary portion of the screen of the display unit by a user operation. Furthermore, in the present embodiment, a case has been described in which a composite image that displays the periphery of the vehicle is continuously displayed, and then a composite image immediately above (directly above) the vehicle's center is continuously displayed. However, the present invention is not limited to this order. The composite image around the vehicle may be displayed continuously after displaying the composite image directly above (directly above) the approximate center.

また、本実施形態では車両の後方の仮想視点の位置から周囲を1周する場合について述べたが、画像を遷移させる開始位置は特定されるものではなく任意の位置でもよい。さらに、周囲を周回する回数は1回に限らず2回以上または半周など任意の回数でもよい。   Moreover, although this embodiment described the case where the circumference | surroundings are made 1 round from the position of the virtual viewpoint of the back of a vehicle, the starting position which changes an image is not specified and arbitrary positions may be sufficient. Furthermore, the number of times of circulation around the periphery is not limited to one, but may be any number of times such as two or more times or a half circle.

また、本実施形態では車両周囲確認処理の開始条件を画像処理部10または表示部21が車両電源制御装置84からのACC−ON信号を受信したことを開始条件とすることで、これにより画像処理装置の起動時にユーザが車両の周辺を確認できる。通常、画像処理装置は車両の走行前にACC−ONに応答して起動するため、車両の走行前にユーザが車両の周辺を確認できるという効果を有する。このような車両周囲確認処理の開始条件は、ACC−ON信号の受信のみではなく、切替スイッチ83を所定時間以上(例えば3秒以上)継続して押下することとしてもよい。これによりユーザが車両周囲を自動で確認したい場合にはいつでも確認を行うことができる。   Further, in the present embodiment, the start condition of the vehicle surrounding confirmation process is that the image processing unit 10 or the display unit 21 receives the ACC-ON signal from the vehicle power supply control device 84 as a start condition. The user can confirm the vicinity of the vehicle when the device is activated. Usually, since the image processing apparatus is activated in response to ACC-ON before the vehicle travels, there is an effect that the user can confirm the periphery of the vehicle before the vehicle travels. Such a vehicle surrounding confirmation process start condition may be not only the reception of the ACC-ON signal but also the pressing of the changeover switch 83 continuously for a predetermined time or more (for example, 3 seconds or more). Thereby, when a user wants to confirm the circumference of a vehicle automatically, it can check anytime.

さらに、複数の合成画像を連続表示している際に、表示部21に図示しない完了ボタンを設けて、連続表示の途中であってもこの完了ボタンを押下することで、合成画像の連続表示を終了させたり、図示しない設定ボタンを設けて予め、ACC−ONや切替えスイッチ83を所定時間以上押下することによる車両周囲確認処理の開始を行わないようにすることもできる。   Further, when a plurality of composite images are continuously displayed, a completion button (not shown) is provided on the display unit 21 and the composite image is continuously displayed by pressing the completion button even during the continuous display. It is also possible to prevent the vehicle surroundings confirmation process from being started by ending or by previously providing a setting button (not shown) and pressing the ACC-ON or the changeover switch 83 for a predetermined time or more.

また、車両周囲確認処理を実行して合成画像を連続表示している場合に、車速が所定速度以上、シフトポジションの”R”への切替え、切替SWの押下といったユーザの操作に基づく信号が表示部21に入力された場合は、以下に詳述するように車両周囲確認処理を終了して、ユーザの操作に対応した処理を開始する。   In addition, when the vehicle surroundings confirmation process is executed and the composite image is continuously displayed, a signal based on a user operation such as switching the vehicle speed to “R” or pressing the switch SW is displayed. If input to the unit 21, the vehicle surroundings confirmation process is terminated as described in detail below, and a process corresponding to the user's operation is started.

次に、表示部21の処理動作について図6の表示部21の表示処理の流れを示す図を用いて説明する。表示部21は車両電源制御装置84からのACC−ON信号を受信する(ステップS201がYes)と、表示部の本体電源をONする(ステップS202)。なお、車両電源制御装置84からのACC−ON信号を受信していない(ステップS201がNo)の場合は処理を終了する。   Next, the processing operation of the display unit 21 will be described with reference to the flowchart of the display process of the display unit 21 in FIG. When the display unit 21 receives the ACC-ON signal from the vehicle power supply control device 84 (Yes in step S201), the display unit 21 turns on the main body power supply of the display unit (step S202). In addition, a process is complete | finished when the ACC-ON signal from the vehicle power supply control apparatus 84 is not received (step S201 is No).

その後、同じく車両電源制御装置84からのACC−ON信号を受信している画像処理部10と初期通信を開始する(ステップS203)。ここで、初期通信とは画像処理部10と表示部21との間で通信可能か否かを確認する処理をいう。初期通信が正常に終了した場合(ステップS204がYes)は、画像処理部10から車両周囲確認処理の合成画像のデータを受信する(ステップS205)。   Thereafter, initial communication is started with the image processing unit 10 that is also receiving the ACC-ON signal from the vehicle power supply control device 84 (step S203). Here, the initial communication refers to processing for confirming whether or not communication is possible between the image processing unit 10 and the display unit 21. When the initial communication is normally completed (step S204 is Yes), the composite image data of the vehicle surrounding confirmation process is received from the image processing unit 10 (step S205).

初期通信が正常に終了していない場合(ステップS204がNo)は、再度、画像処理部10との通信を行ったり、複数回通信を試みても通信できない場合は処理を終了する。なお、ここで初期通信が正常に終了しない場合としては、故障などの原因で画像処理部10が正常に動作していないことがあげられる。このような場合は、表示部21に車両周囲の画像表示のシステムが故障している旨の警告を表示するようにできる。   If the initial communication has not ended normally (No in step S204), the process is ended if communication with the image processing unit 10 is performed again or communication is not possible even after a plurality of communication attempts. Here, the case where the initial communication does not end normally is that the image processing unit 10 is not operating normally due to a failure or the like. In such a case, a warning that the image display system around the vehicle has failed can be displayed on the display unit 21.

表示部21が画像処理部10から合成画像データを受信している間に、表示部21はオープニング画面を表示する(ステップS206)。オープニング画面表示後、画像処理部10から受信した車両周囲の複数の合成画像を上記図5を用いて説明したように、連続表示させる(ステップS207)。複数の合成画像を連続表示している間にシフトセンサ81から表示部21へシフトポジションが”R“に切替えられた信号が送信される(ステップS208がYes)と、表示部21は車両周囲の合成画像を連続表示している画面から、車両の後方を撮影した画像を表示するバックモード画像表示の画面に切替えて表示する(ステップS209)。   While the display unit 21 is receiving composite image data from the image processing unit 10, the display unit 21 displays an opening screen (step S206). After the opening screen is displayed, a plurality of composite images around the vehicle received from the image processing unit 10 are continuously displayed as described above with reference to FIG. 5 (step S207). When a signal indicating that the shift position is switched to “R” is transmitted from the shift sensor 81 to the display unit 21 while a plurality of composite images are continuously displayed (Yes in step S208), the display unit 21 The screen that continuously displays the composite image is switched to the back mode image display screen that displays an image of the rear of the vehicle (step S209).

シフトポジションが”R“に切替えられていない場合(ステップS208がNo)で、切替スイッチ83が押下された場合(ステップS210がYes)は、表示部21は車両周囲の合成画像を連続表示している画面から、車両の前方を撮影した画像を表示するフロントモード画像表示の画面に切替えて表示する。(ステップS211)。   When the shift position is not switched to “R” (No at Step S208) and the changeover switch 83 is pressed (Yes at Step S210), the display unit 21 continuously displays composite images around the vehicle. The screen is switched to a front mode image display screen that displays an image of the front of the vehicle. (Step S211).

切替スイッチ83が押下されていない場合(ステップS210がNo)で、車速が所定の速度以上(例えば車速が12km/h以上)の場合(ステップS212がYes)は、車両周囲の合成画像を連続表示している画面からナビゲーション画像を表示する画面に切替えて表示する(ステップS215)。車速が所定の速度以上でない場合(ステップS212がNo)は、車両周囲の合成画像の連続表示が終了しているか否かを判断し(ステップS213)、合成画像の連続表示が終了していない場合(ステップS213がNo)は、画像処理部10から表示部21へ新たな合成画像が送信され、表示部21は画像処理部10から送信された新たな合成画像を前の合成画像と連続性をもたせて表示する。   When the changeover switch 83 is not pressed (No in Step S210) and the vehicle speed is equal to or higher than a predetermined speed (for example, the vehicle speed is 12 km / h or higher) (Yes in Step S212), the composite image around the vehicle is continuously displayed. The displayed screen is switched to the screen for displaying the navigation image (step S215). When the vehicle speed is not equal to or higher than the predetermined speed (No at Step S212), it is determined whether or not the continuous display of the composite image around the vehicle has ended (Step S213), and the continuous display of the composite image has not ended. (No in step S213), a new composite image is transmitted from the image processing unit 10 to the display unit 21, and the display unit 21 makes the new composite image transmitted from the image processing unit 10 continuous with the previous composite image. It is displayed.

車両周囲の合成画像の連続表示が終了した場合(ステップS213がYes)は、画像処理部10から表示部21へ送信された車両9の略中心の直上(真上)の合成画像が表示部21に表示される(ステップS214)。これにより、車両を見下ろした状態で車両の周囲を周回するように示す複数の合成画像が表示部21に表示されるため、ユーザが車両を目の前にした視点から車両の全周囲を確認することで、1つの画面で直感的に車両と障害物との位置関係を把握できる。   When the continuous display of the composite image around the vehicle is completed (Yes in step S213), the composite image directly above (directly above) the substantial center of the vehicle 9 transmitted from the image processing unit 10 to the display unit 21 is displayed. (Step S214). As a result, a plurality of composite images are displayed on the display unit 21 so as to circulate around the vehicle while looking down at the vehicle, so that the user confirms the entire periphery of the vehicle from a viewpoint in front of the vehicle. Thus, the positional relationship between the vehicle and the obstacle can be grasped intuitively on one screen.

車両9の略中心の直上(真上)の合成画像表示後、表示部21はナビゲーション画像を表示する画面を表示する(ステップS215)。   After displaying the composite image directly above (directly above) the approximate center of the vehicle 9, the display unit 21 displays a screen for displaying the navigation image (step S215).

仮想視点の方向が連続性を持って移動しつつ、車両の周囲を旋回するように示す複数の合成画像と車両上方からみた合成画像との双方が表示されることで、ユーザは1つの画面で直感的に車両と障害物との位置関係を把握できる。さらに、車両の周囲と車両の略中心の直上(真上)との複数の視点から車両周囲の安全性を確認できる。   By displaying both a plurality of composite images showing the direction of the virtual viewpoint moving continuously and turning around the vehicle and a composite image viewed from above the vehicle, the user can Intuitively grasp the positional relationship between the vehicle and the obstacle. Furthermore, safety around the vehicle can be confirmed from a plurality of viewpoints of the periphery of the vehicle and directly above (directly above) the approximate center of the vehicle.

また、車両の周囲の画像でユーザが見落とす障害物などの情報があったとしても、車両の周囲の画像の後に連続性をもって表示される車両の略中心の直上(真上)の画像により再度安全確認を行うことができる。   Even if there are information such as obstacles that the user overlooks in the surrounding image of the vehicle, it is safe again by an image directly above (directly above) the center of the vehicle displayed with continuity after the surrounding image of the vehicle. Confirmation can be made.

また、ユーザが車両の全周囲の広い範囲を確認する必要はなく、車両周囲の限られた範囲の画像の後に車両の略中心の直上(真上)の広い範囲の車両全体の画像を連続して表示することで、ユーザは1つの画面で車両周囲の安全確認をより確実に行える。   Further, it is not necessary for the user to check a wide range of the entire periphery of the vehicle, and an image of the entire vehicle in a wide range immediately above (directly above) the approximate center of the vehicle is continuously displayed after an image of the limited range around the vehicle. By displaying the information, the user can confirm the safety around the vehicle more reliably on one screen.

また、車両周囲の限られた範囲の画像の後に車両の略中心の直上(真上)の広い範囲の車両全体の画像を連続して表示することで、ユーザは1つの画面で車両周囲の安全確認をより確実に行える。   In addition, by continuously displaying an image of the entire vehicle in a wide range immediately above (directly above) the approximate center of the vehicle after an image of a limited range around the vehicle, the user can safely Confirmation can be performed more reliably.

また、車両の位置を中心として車両周囲を順に移動する仮想視点からみた合成画像を生成することで、ユーザは1つの画面で直感的に車両の全周囲の障害物を確認することができる。   Also, by generating a composite image viewed from a virtual viewpoint that sequentially moves around the vehicle centering on the position of the vehicle, the user can intuitively check obstacles around the entire vehicle on one screen.

なお、ここで示した合成画像は一例であり、合成画像の車両を見下ろす高さ、方向、合成画像の連続表示の一時停止、連続表示の回転速度の調整、連続表示の回転を逆回転とすることなどの設定はユーザの任意の変更が可能である。   The composite image shown here is only an example, and the height and direction overlooking the vehicle of the composite image, the continuous display of the composite image is paused, the rotation speed of the continuous display is adjusted, and the rotation of the continuous display is reversed. The user can arbitrarily change the setting.

また、連続表示を一時停止して表示部の画面の任意の部分をユーザ操作により選択することで選択した部分を拡大表示することも可能である。さらに、本実施形態では車両周囲を表示する合成画像を連続表示した後に、車両上方の合成画像を連続表示させる場合を述べたが、この順序に限ることなく車両の略中心の直上(真上)の合成画像を表示した後に車両周囲の合成画像を連続表示させてもよい。   It is also possible to magnify and display the selected portion by pausing the continuous display and selecting an arbitrary portion of the screen of the display unit by a user operation. Furthermore, in the present embodiment, a case has been described in which the composite image displaying the vehicle periphery is continuously displayed, and then the composite image above the vehicle is continuously displayed. However, the present invention is not limited to this order. After the composite image is displayed, the composite image around the vehicle may be continuously displayed.

また、本実施形態では車両の後方の仮想視点の位置から周囲を1周する場合について述べたが、画像を遷移させる開始位置は特定されるものではなく任意の位置でもよい。さらに、周囲を周回する回数は1回に限らず2回以上または半周など任意の回数でもよい。   Moreover, although this embodiment described the case where the circumference | surroundings are made 1 round from the position of the virtual viewpoint of the back of a vehicle, the starting position which changes an image is not specified and arbitrary positions may be sufficient. Furthermore, the number of times of circulation around the periphery is not limited to one, but may be any number of times such as two or more times or a half circle.

また、本実施形態では車両周囲確認処理の開始条件を画像処理部10または表示部21が車両電源制御装置84からのACC−ON信号を受信したことを開始条件とすることで、これにより画像処理装置の起動時にユーザが車両の周辺を確認することができる。通常、画像処理装置は車両の走行前にACC−ONに応答して起動するため、車両の走行前にユーザが車両の周辺を確認できるという効果を有する。このような車両周囲確認処理の開始条件は、ACC−ON信号の受信のみではなく、切替スイッチ83を所定時間以上(例えば3秒以上)継続して押下することとしてもよい。これによりユーザが車両周囲を自動で確認したい場合にはいつでも確認を行うことができる。   Further, in the present embodiment, the start condition of the vehicle surrounding confirmation process is that the image processing unit 10 or the display unit 21 receives the ACC-ON signal from the vehicle power supply control device 84 as a start condition. The user can confirm the periphery of the vehicle when the apparatus is activated. Usually, since the image processing apparatus is activated in response to ACC-ON before the vehicle travels, there is an effect that the user can confirm the periphery of the vehicle before the vehicle travels. Such a vehicle surrounding confirmation process start condition may be not only the reception of the ACC-ON signal but also the pressing of the changeover switch 83 continuously for a predetermined time or more (for example, 3 seconds or more). Thereby, when a user wants to confirm the circumference of a vehicle automatically, it can check anytime.

さらに、複数の合成画像を連続表示している際に、表示部21に図示しない完了ボタンを設けて、連続表示の途中であってもこの完了ボタンを押下することで、合成画像の連続表示を終了させたり、図示しない設定ボタンを設けて予めACC−ON時や切替えスイッチ83を所定時間以上押下することによる車両周囲確認処理の開始を行わないようにすることもできる。
<2.第2の実施の形態>
第2の実施形態は第1の実施形態と基本的な構成は同一である。本実施形態については図7の第2の実施形態における合成画像の画面遷移を示す図を用いて説明する。図7のCP1aからCP7aは上記図5に示したCP1からCP7の車両周囲の合成画像の連続表示とは周囲の合成画像を生成する視点の位置が異なる。本実施形態では、車両の左側に仮想視点を移動させた状態でその周囲の合成画像CP1aからCP7aを画像処理部10で生成し、これらの合成画像を表示部21に連続表示させる。
Further, when a plurality of composite images are continuously displayed, a completion button (not shown) is provided on the display unit 21 and the composite image is continuously displayed by pressing the completion button even during the continuous display. It is also possible to provide a setting button (not shown) so that the vehicle surrounding confirmation process is not started by ACC-ON or by pressing the changeover switch 83 for a predetermined time or more in advance.
<2. Second Embodiment>
The basic configuration of the second embodiment is the same as that of the first embodiment. This embodiment will be described with reference to a diagram showing a screen transition of a composite image in the second embodiment of FIG. CP1a to CP7a in FIG. 7 differ from the continuous display of the composite image around the vehicle of CP1 to CP7 shown in FIG. 5 in the position of the viewpoint for generating the surrounding composite image. In the present embodiment, the virtual viewpoint is moved to the left side of the vehicle, the surrounding synthesized images CP1a to CP7a are generated by the image processing unit 10, and these synthesized images are continuously displayed on the display unit 21.

CP1aは車両9の後方で車両9の左に所定距離移動した位置の仮想視点から車両9を見下ろしたような合成画像、CP2aは車両9の左側面で車両9の左に所定距離移動した位置の仮想視点から車両9を見下ろしたような合成画像、CP3aは車両9の左斜め側面で車両9の左に所定距離移動した位置の仮想視点から車両9を見下ろしたような合成画像、CP4aは車両9の前面で車両9の左に所定距離移動した位置の仮想視点から車両9を見下ろしたような合成画像、CP5aは車両9の右側面で車両9の左に所定距離移動した位置の仮想視点から車両9を見下ろしたような合成画像、CP6aは車両9の右側面で車両9の左に所定距離移動した位置の仮想視点から車両9を見下ろしたような合成画像、CP7aは車両9の略中心の直上(真上)の仮想視点から左に所定距離移動して車両9を見下ろしたような合成画像である。   CP1a is a composite image in which the vehicle 9 is looked down from a virtual viewpoint at a position moved to the left of the vehicle 9 behind the vehicle 9, and CP2a is a position moved to the left of the vehicle 9 on the left side of the vehicle 9 by a predetermined distance. A composite image in which the vehicle 9 is looked down from the virtual viewpoint, CP3a is a composite image in which the vehicle 9 is looked down from the virtual viewpoint at a position moved to the left of the vehicle 9 on the left oblique side of the vehicle 9, and CP4a is the vehicle 9 A composite image in which the vehicle 9 is looked down from a virtual viewpoint at a position moved to the left of the vehicle 9 in front of the vehicle, CP5a is a vehicle from a virtual viewpoint at a position moved to the left of the vehicle 9 on the right side of the vehicle 9 A composite image as if looking down at the vehicle 9, CP6a is a composite image as if looking down at the vehicle 9 from a virtual viewpoint at a position moved to the left of the vehicle 9 on the right side of the vehicle 9, and CP7a is just above the approximate center of the vehicle 9. From the virtual viewpoint just above) to move a predetermined distance to the left is a composite image as looked down vehicle 9.

このように車両から所定距離移動して、周囲の合成画像の連続表示の仮想視点の位置を車両の画像を一部にでも含む範囲内で切替えることで、ユーザが確認したい部分を選択して表示できる。例えばユーザが運転席(右側の席)に着座しており、左側を重点的に確認したい場合は、上記に示したように車両から左に所定距離移動した位置の視点を中心に合成画像を生成し、その合成画像の連続表示を行うことが可能である。仮想視点の位置の変更はユーザが手動で行うことが可能であり、車両の画像を含む範囲でユーザが確認を希望する任意の位置を中心に合成画像の連続表示を行うことが可能である。これにより、ユーザは重点的に確認を行いたい位置を中心にその周囲の状況を確認することができ、車両と障害物との位置関係を1つの画面で直感的に把握することができる。   In this way, by moving a predetermined distance from the vehicle, the position of the virtual viewpoint of the continuous display of surrounding composite images is switched within a range that includes even part of the vehicle image, thereby selecting and displaying the part that the user wants to check it can. For example, if the user is seated in the driver's seat (right seat) and wants to check the left side with emphasis, as shown above, a composite image is generated around the viewpoint of the position moved a predetermined distance to the left from the vehicle. In addition, the composite image can be continuously displayed. The change of the position of the virtual viewpoint can be manually performed by the user, and the composite image can be continuously displayed around an arbitrary position that the user desires to confirm within the range including the vehicle image. As a result, the user can check the situation around the position where the user wants to check mainly, and can intuitively grasp the positional relationship between the vehicle and the obstacle on one screen.

また、仮想視点の位置が連続性を持って遷移しつつ、車両から所定距離移動した周囲を旋回するように示す複数の合成画像と車両の略中心の直上(真上)の仮想視点から所定距離移動した合成画像との双方が表示されることで、ユーザは1つの画面で直感的に車両と障害物との位置関係を把握できる。さらに、車両から所定距離移動した周囲の仮想視点と車両の略中心の直上(真上)から所定距離移動した仮想視点との複数の仮想視点から車両周囲の安全性を確認できる。   Also, a predetermined distance from a plurality of composite images shown to turn around a distance moved from the vehicle while the position of the virtual viewpoint changes continuously, and a virtual viewpoint just above (directly above) the center of the vehicle By displaying both of the moved composite images, the user can intuitively grasp the positional relationship between the vehicle and the obstacle on one screen. Furthermore, the safety around the vehicle can be confirmed from a plurality of virtual viewpoints including a virtual viewpoint around the vehicle moved a predetermined distance and a virtual viewpoint moved a predetermined distance directly above (directly above) the approximate center of the vehicle.

また、車両から所定距離移動した周囲の画像でユーザが見落とす障害物などの情報があったとしても、車両から所定距離移動した周囲の画像の後に連続性をもって表示される車両の略中心の直上(真上)の仮想視点から所定距離移動した画像により再度安全確認を行うことができる。   Further, even if there is information such as an obstacle overlooked by the user in the surrounding image moved from the vehicle by a predetermined distance, the image is displayed immediately above the approximate center of the vehicle displayed continuously with the surrounding image moved by the predetermined distance from the vehicle ( Safety confirmation can be performed again using an image moved a predetermined distance from the virtual viewpoint directly above.

また、車両から所定距離移動した位置を真上からみた広い範囲をいちどに確認する必要はなく、車両から所定距離移動した周囲の限られた範囲の画像の後に車両の略中心の直上(真上)の仮想視点から所定距離移動した広い範囲の画像を連続して表示することで、ユーザは1つの画面で車両周囲の安全確認をより確実に行える。
<3.画像処理部;変形例>
<3−1.変形例1>
次に、図4を用いて説明した画像処理部10の処理の変形例について説明する。
In addition, it is not necessary to check a wide range when the position moved from the vehicle by a predetermined distance is viewed from right above, but immediately above the center of the vehicle (directly above) after an image of a limited range around the vehicle moved from the vehicle by a predetermined distance. By continuously displaying a wide range of images moved by a predetermined distance from the virtual viewpoint, the user can confirm the safety around the vehicle more reliably on one screen.
<3. Image processing unit; modification>
<3-1. Modification 1>
Next, a modified example of the processing of the image processing unit 10 described with reference to FIG. 4 will be described.

図4では、仮想視点の位置が異なる複数の合成画像を生成するごとに表示部21に送信していたが、この変形例1では複数の合成画像を生成してから表示部21に送信するようにしている。   In FIG. 4, every time a plurality of composite images having different virtual viewpoint positions are generated, the image is transmitted to the display unit 21. However, in Modification 1, a plurality of composite images are generated and then transmitted to the display unit 21. I have to.

図8は、この変形例1の画像処理部10の処理の例を示す図である。画像処理部10のCPU1が車両電源制御装置84からの表示部21に画像を出力する指示を行うための指示信号であるACC−ON信号を信号入力部41を介して受信する(ステップS301がYes)と、画像処理部10の通信部42は表示部21との初期通信を開始する(ステップS302)。ここで初期通信とは画像処理部10と表示部21との間で通信可能か否かを確認する処理をいう。画像処理部10のCPU1が車両電源制御装置84からのACC−ON信号を受信していない場合は処理を終了する(ステップS301がNo)。   FIG. 8 is a diagram illustrating an example of processing of the image processing unit 10 according to the first modification. The CPU 1 of the image processing unit 10 receives an ACC-ON signal that is an instruction signal for giving an instruction to output an image from the vehicle power supply control device 84 to the display unit 21 via the signal input unit 41 (Yes in step S301). ), The communication unit 42 of the image processing unit 10 starts initial communication with the display unit 21 (step S302). Here, the initial communication refers to processing for confirming whether or not communication is possible between the image processing unit 10 and the display unit 21. If the CPU 1 of the image processing unit 10 has not received the ACC-ON signal from the vehicle power supply control device 84, the process ends (No in step S301).

画像処理部10と表示部21との初期通信が正常に終了すれば(ステップS303がYes)、CPU1はメモリ11から車両周囲確認処理を行うためのデータを読み出す(ステップS304)。車両周囲確認処理データの例としては、車両のビットマップデータ、視点の移動データ(時間ごとの視点位置や視点の方向のデータ)などのパラメータのデータがあげられる。   If the initial communication between the image processing unit 10 and the display unit 21 is normally completed (step S303 is Yes), the CPU 1 reads data for performing a vehicle surrounding confirmation process from the memory 11 (step S304). Examples of the vehicle surrounding confirmation processing data include parameter data such as vehicle bitmap data and viewpoint movement data (viewpoint position and viewpoint direction data for each time).

初期通信が正常に終了していない場合(ステップS303がNo)は再度、表示部21との通信を行ったり、複数回の通信を試みても通信できない場合は処理を終了する。なお、ここで初期通信が正常に終了しない場合としては、故障などの原因で画像処理部10が正常に動作していないことがあげられる。このような場合は表示部21に車両周囲の画像表示のシステムが故障している旨の警告を表示するようにできる。   If the initial communication has not ended normally (No in step S303), the communication is again performed with the display unit 21. If communication is not possible even after a plurality of communication attempts, the process ends. Here, the case where the initial communication does not end normally is that the image processing unit 10 is not operating normally due to a failure or the like. In such a case, a warning that the system for displaying images around the vehicle has failed can be displayed on the display unit 21.

ステップS304に戻って、メモリ11から車両周辺確認処理のデータを読み出した後に、画像処理部10の画像変換部3は読み出したデータに基づいて、車両周囲確認処理の合成画像を生成する(ステップS305)。ここで、車両周囲確認処理の合成画像とは、車両9の周囲の合成画像、および、車両9の略中心の直上(真上)の合成画像をいう。   Returning to step S304, after reading the vehicle periphery confirmation process data from the memory 11, the image conversion unit 3 of the image processing unit 10 generates a composite image of the vehicle periphery confirmation process based on the read data (step S305). ). Here, the composite image of the vehicle periphery confirmation process refers to a composite image around the vehicle 9 and a composite image directly above (directly above) the substantial center of the vehicle 9.

作成された車両周囲確認処理の合成画像のデータは表示部21に出力される(ステップS306)。なお、画像処理部10は作成した仮想視点の位置が段階的に変更されている複数の合成画像が連続性を有するような順番でまとめて表示部21にデータが出力される。   The generated composite image data of the vehicle surrounding confirmation process is output to the display unit 21 (step S306). Note that the image processing unit 10 outputs data to the display unit 21 together in an order in which a plurality of synthesized images in which the positions of the created virtual viewpoints are changed in stages have continuity.

これにより仮想視点の位置が段階的に変更され、車両9の周囲の上方の仮想視点から車両方向にみた状態で、車両9の周囲を連続的に周回する画像を表示部21に表示させることができる。また、車両9の周囲の合成画像、および、車両9の略中心の直上(真上)の複数の合成画像を同じタイミングで表示部21に出力することで、段階的に変更されて連続的に表示されている合成画像のうち、所定の画像の表示をとばして、次の画像を表示したり、前の画像に戻って表示することができ、連続的に表示される画像のうちユーザが確認したい箇所の画像を素早く表示できる。   As a result, the position of the virtual viewpoint is changed in stages, and an image that continuously circulates around the vehicle 9 can be displayed on the display unit 21 when viewed from the upper virtual viewpoint around the vehicle 9 in the vehicle direction. it can. In addition, by outputting a composite image around the vehicle 9 and a plurality of composite images immediately above (directly above) the approximate center of the vehicle 9 to the display unit 21 at the same timing, the image is changed stepwise and continuously. Of the displayed composite images, the display of the predetermined image can be skipped and the next image can be displayed or the previous image can be displayed again. The user confirms among the continuously displayed images. You can quickly display the image you want.

<3−2.変形例2>
また、図4では、仮想視点の位置が異なる複数の合成画像を生成するごとに表示部21に送信していたが、変形例2では、予め生成されてメモリ11に記憶された複数の合成画像をACC−ON信号に応答して表示部21に送信するようにしている。
<3-2. Modification 2>
Further, in FIG. 4, every time a plurality of composite images having different virtual viewpoint positions are generated, the images are transmitted to the display unit 21. However, in Modification 2, a plurality of composite images generated in advance and stored in the memory 11 are used. Is transmitted to the display unit 21 in response to the ACC-ON signal.

図9は、この変形例2の画像処理部10の処理の例を示す図である。画像処理部10のCPU1が車両電源制御装置84からの表示部21に画像を出力する指示を行うための指示信号であるACC−ON信号を信号入力部41を介して受信する(ステップS401がYes)と、画像処理部10の通信部42は表示部21との初期通信を開始する(ステップS402)。ここで初期通信とは画像処理部10と表示部21との間で通信可能か否かを確認する処理をいう。画像処理部10のCPU1が車両電源制御装置84からのACC−ON信号を受信していない場合(ステップS401がNo)は処理を終了する。   FIG. 9 is a diagram illustrating an example of processing of the image processing unit 10 according to the second modification. The CPU 1 of the image processing unit 10 receives an ACC-ON signal that is an instruction signal for giving an instruction to output an image from the vehicle power supply control device 84 to the display unit 21 via the signal input unit 41 (Yes in step S401). ), The communication unit 42 of the image processing unit 10 starts initial communication with the display unit 21 (step S402). Here, the initial communication refers to processing for confirming whether or not communication is possible between the image processing unit 10 and the display unit 21. When the CPU 1 of the image processing unit 10 has not received the ACC-ON signal from the vehicle power supply control device 84 (No in step S401), the process ends.

画像処理部10と表示部21との初期通信が正常に終了すれば(ステップS403がYes)、CPU1はメモリ11から車両周囲確認処理の合成画像データを読み出す(ステップS404)。この合成画像データは、ACC−ON信号を受信する前に車両9の周辺を撮影する撮影部5の複数のカメラにより撮影された複数の撮影画像に基づいて、上記画像変換処理により生成された合成画像であり、予めメモリ11に保存されているデータである。   If the initial communication between the image processing unit 10 and the display unit 21 is normally completed (step S403 is Yes), the CPU 1 reads the composite image data of the vehicle surrounding confirmation process from the memory 11 (step S404). The composite image data is generated by the image conversion process based on a plurality of photographed images photographed by a plurality of cameras of the photographing unit 5 that photographs the periphery of the vehicle 9 before receiving the ACC-ON signal. It is an image and is data stored in the memory 11 in advance.

ステップS404において、予めメモリ11に保存されている車両周囲確認処理の合成画像データが、メモリ11から読み出された後、車両周囲確認処理の合成画像データが表示部21へ出力される(ステップS405)。   In step S404, the composite image data of the vehicle surrounding confirmation process stored in the memory 11 in advance is read from the memory 11, and then the composite image data of the vehicle surrounding confirmation process is output to the display unit 21 (step S405). ).

これにより、表示部21に画像を出力する指示を行うための指示信号であるACC−ON信号を画像処理部10のCPU1が受信してすぐに車両周辺確認処理の合成データを表示部21へ出力することができ、指示信号を受信してから表示部21へ合成画像データ出力する時間を短縮できる。   As a result, the CPU 1 of the image processing unit 10 receives the ACC-ON signal that is an instruction signal for instructing the display unit 21 to output an image, and immediately outputs the combined data of the vehicle periphery confirmation processing to the display unit 21. The time for outputting the composite image data to the display unit 21 after receiving the instruction signal can be shortened.

初期通信が正常に終了していない場合(ステップS403がNo)は再度、表示部21との通信を行ったり、複数回の通信を試みても通信できない場合は処理を終了する。なお、ここで初期通信が正常に終了しない場合としては、故障などの原因で画像処理部10が正常に動作していないことがあげられる。このような場合は表示部21に車両周囲の画像表示のシステムが故障している旨の警告を表示するようにできる。
<4.第3の実施の形態>
次に、第3の実施の形態について説明する。上記第1の実施の形態では主に、ACC−ON信号を指示信号とし、この指示信号に応答して仮想視点の位置が異なる複数の合成画像を送信していた。これに対して、第3の実施の形態では、ユーザの操作に基づく信号を指示信号とし、ユーザの操作に応答して複数の合成画像が送信されるようになっている。
If the initial communication has not ended normally (No in step S403), the communication is again performed with the display unit 21. If communication is not possible even after a plurality of communication attempts, the process ends. Here, the case where the initial communication does not end normally is that the image processing unit 10 is not operating normally due to a failure or the like. In such a case, a warning that the system for displaying images around the vehicle has failed can be displayed on the display unit 21.
<4. Third embodiment>
Next, a third embodiment will be described. In the first embodiment, the ACC-ON signal is mainly used as an instruction signal, and a plurality of synthesized images having different virtual viewpoint positions are transmitted in response to the instruction signal. On the other hand, in the third embodiment, a signal based on a user operation is used as an instruction signal, and a plurality of synthesized images are transmitted in response to the user operation.

<4−1.構成>
図10は、第3の実施の形態の画像表示システム101のブロック図である。第3の実施形態も、第1の実施形態と基本的な構成はほぼ同一である。図10において、上記図1で説明した構成と異なる点は、表示部21に設けられた操作部61aと操作部61bとを備えていることである。
<4-1. Configuration>
FIG. 10 is a block diagram of an image display system 101 according to the third embodiment. The basic configuration of the third embodiment is almost the same as that of the first embodiment. 10 is different from the configuration described in FIG. 1 in that an operation unit 61a and an operation unit 61b provided in the display unit 21 are provided.

操作部61aは表示部21の表示画面に透明電極で形成されたタッチスイッチ、および、表示部21の周囲に設けられた固定のハードスイッチなどからなり、ユーザの操作による指示信号が、信号入力部41を介してCPU1に送信される。CPU1はこの指示信号を受けて、後述する画像処理部10での合成画像の生成および合成画像の表示部21への出力を行う。   The operation unit 61a includes a touch switch formed of a transparent electrode on the display screen of the display unit 21, a fixed hard switch provided around the display unit 21, and the like. It is transmitted to the CPU 1 via 41. Upon receiving this instruction signal, the CPU 1 generates a composite image and outputs the composite image to the display unit 21 in the image processing unit 10 described later.

合成画像の具体例としては、車両9の周辺を撮影する撮影部5の複数のカメラ(フロントカメラ51、サイドカメラ52、および、バックカメラ53)から取得される複数の画像に基づいて生成される、車両9の周囲の上方の仮想視点から車両9の方向をみる画像があげられる。また、合成画像の他の具体例は、車両9の略中心の直上(真上)の仮想視点からみた画像などがある。   As a specific example of the composite image, the composite image is generated based on a plurality of images acquired from a plurality of cameras (a front camera 51, a side camera 52, and a back camera 53) of the photographing unit 5 that photographs the periphery of the vehicle 9. An image in which the direction of the vehicle 9 is viewed from the upper virtual viewpoint around the vehicle 9 is given. Another specific example of the composite image is an image viewed from a virtual viewpoint directly above (directly above) the approximate center of the vehicle 9.

操作部61bは画像表示システム101に一体的に設けられている固定スイッチである。この操作部61bのユーザの操作による指示信号が、信号入力部41を介してCPU1に送信される。CPU1はこの指示信号を受けて、後述する画像処理部10での合成画像の生成および合成画像の表示部21への出力を行う。なお、操作部61bは、遠隔操作可能とするリモートコントローラであってもよく、あるいは固定スイッチとリモートコントローラの両者を併用してもよい。図10における画像表示システム101のその他の構成は、上記図1で画像表示システム100で説明した構成と同じ構成である。   The operation unit 61 b is a fixed switch provided integrally with the image display system 101. An instruction signal generated by a user operation on the operation unit 61 b is transmitted to the CPU 1 through the signal input unit 41. Upon receiving this instruction signal, the CPU 1 generates a composite image and outputs the composite image to the display unit 21 in the image processing unit 10 described later. The operation unit 61b may be a remote controller that can be remotely operated, or both a fixed switch and a remote controller may be used in combination. The other configuration of the image display system 101 in FIG. 10 is the same as the configuration described for the image display system 100 in FIG.

<4−2.動作>
図11は、第3の実施形態の画像処理部の処理の流れを示す図である。
<4-2. Operation>
FIG. 11 is a diagram illustrating a processing flow of the image processing unit according to the third embodiment.

画像処理部10のCPU1がユーザの操作により操作部61a、または、操作部61bからの指示信号を受信した場合(ステップS501がYes)、CPU1はメモリ11から車両周囲確認処理を行うためのデータを読み出す(ステップS502)。車両周囲確認処理データの例としては、車両のビットマップデータ、視点の移動データ(時間ごとの視点位置や視点の方向のデータ)などがあげられる。   When the CPU 1 of the image processing unit 10 receives an instruction signal from the operation unit 61a or the operation unit 61b by a user's operation (Yes in step S501), the CPU 1 stores data for performing vehicle surrounding confirmation processing from the memory 11. Read (step S502). Examples of the vehicle periphery confirmation processing data include vehicle bitmap data, viewpoint movement data (viewpoint position and viewpoint direction data for each time), and the like.

なお、画像処理部10のCPU1が操作部61a、または、操作部61bのいずれかの操作部から指示信号を受信していない場合(ステップS501がNo)は処理を終了する。   If the CPU 1 of the image processing unit 10 has not received an instruction signal from either the operation unit 61a or the operation unit 61b (No in step S501), the process ends.

メモリ11から車両周辺確認処理のデータを読み出した後に、画像処理部10の画像変換部3は読み出したデータに基づいて、車両周囲の合成画像を生成する(ステップS503)。作成された合成画像のデータは表示部21に出力される(ステップS504)。なお、画像処理部10は作成した仮想視点の位置が段階的に変更されている複数の合成画像が連続性を有するように順番に表示部21にデータを出力する。これにより仮想視点の位置が段階的に変更され、車両9の周囲の上方の仮想視点から車両方向にみた状態で、車両9の周囲を連続的に周回する画像を表示部21に表示させることができる。   After reading the vehicle periphery confirmation processing data from the memory 11, the image conversion unit 3 of the image processing unit 10 generates a composite image around the vehicle based on the read data (step S503). The generated composite image data is output to the display unit 21 (step S504). The image processing unit 10 outputs data to the display unit 21 in order so that a plurality of synthesized images in which the positions of the created virtual viewpoints are changed in stages have continuity. As a result, the position of the virtual viewpoint is changed in stages, and an image that continuously circulates around the vehicle 9 can be displayed on the display unit 21 when viewed from the upper virtual viewpoint around the vehicle 9 in the vehicle direction. it can.

複数の合成画像の表示部21への出力が終了する(ステップS505がYes)と、車両9の略中心の直上(真上)の合成画像を生成し(ステップS506)、生成した車両9の略中心の直上(真上)の合成画像を表示部21へ出力する(ステップS507)。   When the output of the plurality of composite images to the display unit 21 is completed (Yes in step S505), a composite image immediately above (directly above) the approximate center of the vehicle 9 is generated (step S506), and the generated vehicle 9 is abbreviated. The composite image directly above (directly above) the center is output to the display unit 21 (step S507).

なお、ステップS505において複数の合成画像データの表示部21への出力が終了していない場合(ステップS505がNo)は、ステップS503の処理に戻って、次の車両9の周囲の合成画像を生成する処理を行う。   If output of a plurality of composite image data to the display unit 21 is not completed in step S505 (No in step S505), the process returns to step S503 to generate a composite image around the next vehicle 9. Perform the process.

次に、表示部21の処理動作について、図12の第3の実施形態の合成画像の画面遷移を示す図を用いて説明する。表示部21は画像処理部10から車両周囲確認処理の合成画像データを受信する(ステップS601がYes)と、表示部21に画像処理部10から受信した車両9の周囲の複数の合成画像を連続表示させる(ステップS602)。   Next, the processing operation of the display unit 21 will be described with reference to the screen transition of the composite image of the third embodiment in FIG. When the display unit 21 receives the composite image data of the vehicle surrounding confirmation process from the image processing unit 10 (Yes in step S <b> 601), the display unit 21 continuously displays a plurality of composite images around the vehicle 9 received from the image processing unit 10. It is displayed (step S602).

なお、画像処理部10から車両周囲確認処理の合成画像データを受信していない場合(ステップS601がNo)は処理を終了する。   Note that if the composite image data of the vehicle surrounding confirmation process has not been received from the image processing unit 10 (No in step S601), the process ends.

ステップS602の処理により、複数の合成画像を連続表示している間にシフトセンサ81から表示部21へシフトポジションが”R“に切替えられた信号が送信される(ステップS603がYes)と、表示部21は車両9の周囲の合成画像を連続表示している画面から、車両9の後方を撮影した画像を表示するバックモード画像表示の画面に切替えて表示する(ステップS604)。   As a result of the processing in step S602, a signal indicating that the shift position is switched to “R” is transmitted from the shift sensor 81 to the display unit 21 while a plurality of composite images are being continuously displayed (step S603 is Yes). The unit 21 switches from the screen that continuously displays the composite image around the vehicle 9 to the back mode image display screen that displays an image of the rear of the vehicle 9 (step S604).

シフトポジションが”R“に切替えられていない場合(ステップS603がNo)で、切替スイッチ83が押下された場合(ステップS605がYes)は、表示部21は車両9の周囲の合成画像を連続表示している画面から、車両9の前方を撮影した画像を表示するフロントモード画像表示の画面に切替えて表示する。(ステップS606)。   When the shift position is not switched to “R” (No in Step S603) and the changeover switch 83 is pressed (Yes in Step S605), the display unit 21 continuously displays composite images around the vehicle 9. The displayed screen is switched to a front mode image display screen that displays an image obtained by photographing the front of the vehicle 9. (Step S606).

ステップS605において、切替スイッチ83が押下されていない場合(ステップS605がNo)で、車速が所定の速度以上(例えば車速が12km/h以上)の場合(ステップS607がYes)は、車両9の周囲の合成画像を連続表示している画面からナビゲーション画像を表示する画面に切替えて表示する(ステップS610)。   If the changeover switch 83 is not pressed in step S605 (step S605 is No) and the vehicle speed is equal to or higher than a predetermined speed (for example, the vehicle speed is 12 km / h or higher) (step S607 is Yes), the surroundings of the vehicle 9 The composite image is switched from the continuously displayed screen to the screen displaying the navigation image (step S610).

車速が所定の速度以上でない場合(ステップS607がNo)は、車両9の周囲の合成画像の連続表示が終了しているか否かを判断し(ステップS608)、合成画像の連続表示が終了していない場合(ステップS608がNo)は、画像処理部10から表示部21へ新たな合成画像が送信され、表示部21は画像処理部10から送信された新たな合成画像を前の合成画像と連続性をもたせて表示する。   If the vehicle speed is not equal to or higher than the predetermined speed (No in Step S607), it is determined whether or not the continuous display of the composite image around the vehicle 9 is complete (Step S608), and the continuous display of the composite image is complete. If not (No in step S608), a new composite image is transmitted from the image processing unit 10 to the display unit 21, and the display unit 21 continues the new composite image transmitted from the image processing unit 10 with the previous composite image. Display with sex.

車両9の周囲の合成画像の連続表示が終了した場合(ステップS608がYes)は、画像処理部10から表示部21へ送信された車両9の略中心の直上(真上)の合成画像が表示部21に表示される(ステップS609)。これにより、車両を見下ろした状態で車両の周囲を周回するように示す複数の合成画像が表示部21に表示されるため、ユーザが車両を目の前にした視点から車両の全周囲を確認することで、1つの画面で直感的に車両と障害物との位置関係を把握できる。   When the continuous display of the composite image around the vehicle 9 is finished (Yes in step S608), the composite image immediately above (directly above) the approximate center of the vehicle 9 transmitted from the image processing unit 10 to the display unit 21 is displayed. It is displayed on the part 21 (step S609). As a result, a plurality of composite images are displayed on the display unit 21 so as to circulate around the vehicle while looking down at the vehicle, so that the user confirms the entire periphery of the vehicle from a viewpoint in front of the vehicle. Thus, the positional relationship between the vehicle and the obstacle can be grasped intuitively on one screen.

ステップS609において、車両9の略中心の直上(真上)の合成画像表示後、表示部21はナビゲーション画像を表示する画面を表示する(ステップS610)。   In step S609, after displaying the composite image immediately above (directly above) the approximate center of the vehicle 9, the display unit 21 displays a screen for displaying the navigation image (step S610).

このように、仮想視点の方向が連続性を持って移動しつつ、車両の周囲を旋回するように示す複数の合成画像と車両上方からみた合成画像との双方が表示されることで、ユーザは1つの画面で直感的に車両と障害物との位置関係を把握できる。さらに、車両9の周囲と車両9の略中心の直上(真上)との複数の視点から車両9の周囲の安全性を確認できる。   In this way, by displaying both a plurality of composite images that are shown to turn around the vehicle and a composite image viewed from above the vehicle while the direction of the virtual viewpoint moves with continuity, the user can The positional relationship between the vehicle and the obstacle can be grasped intuitively on one screen. Furthermore, the safety of the surroundings of the vehicle 9 can be confirmed from a plurality of viewpoints of the surroundings of the vehicle 9 and directly above (directly above) the approximate center of the vehicle 9.

また、車両9の周囲の画像でユーザが見落とす障害物などの情報があったとしても、車両9の周囲の画像の後に連続性をもって表示される車両9の略中心の直上(真上)の画像により再度安全確認を行うことができる。   Further, even if there is information such as an obstacle that the user overlooks in the surrounding image of the vehicle 9, an image immediately above (directly above) the approximate center of the vehicle 9 displayed with continuity after the surrounding image of the vehicle 9. By doing so, it is possible to confirm the safety again.

また、ユーザが車両9の全周囲の広い範囲を確認する必要はなく、車両9の周囲の限られた範囲の画像の後に車両9の略中心の直上(真上)の広い範囲の車両9全体の画像を連続して表示することで、ユーザは1つの画面で車両9の周囲の安全確認をより確実に行える。   Further, it is not necessary for the user to check the wide range of the entire periphery of the vehicle 9, and after the image of the limited range around the vehicle 9, the entire vehicle 9 in the wide range almost directly above (directly above) the center of the vehicle 9. By continuously displaying these images, the user can confirm the safety around the vehicle 9 more reliably on one screen.

また、車両9の周囲の限られた範囲の画像の後に車両9の略中心の直上(真上)の広い範囲の車両9全体の画像を連続して表示することで、ユーザは1つの画面で車両9の周囲の安全確認をより確実に行える。   Further, the user can continuously display an image of the entire vehicle 9 in a wide range immediately above (directly above) the approximate center of the vehicle 9 after an image of a limited range around the vehicle 9, so that the user can display a single screen. Safety confirmation around the vehicle 9 can be performed more reliably.

また、車両9の位置を中心として車両9の周囲を順に移動する仮想視点からみた合成画像を生成することで、ユーザは1つの画面で直感的に車両9の全周囲の障害物を確認することができる。   In addition, by generating a composite image viewed from a virtual viewpoint that sequentially moves around the vehicle 9 around the position of the vehicle 9, the user can intuitively check obstacles around the vehicle 9 on one screen. Can do.

なお、ここで示した合成画像は一例であり、合成画像の車両を見下ろす高さ、方向、合成画像の連続表示の一時停止、連続表示の回転速度の調整、連続表示の回転を逆回転とすることなどの設定はユーザの任意の変更が可能である。   The composite image shown here is only an example, and the height and direction overlooking the vehicle of the composite image, the continuous display of the composite image is paused, the rotation speed of the continuous display is adjusted, and the rotation of the continuous display is reversed. The user can arbitrarily change the setting.

また、連続表示を一時停止して表示部の画面の任意の部分をユーザ操作により選択することで選択した部分を拡大表示することも可能である。さらに、本実施形態では車両9の周囲を表示する合成画像を連続表示した後に、車両9の上方の合成画像を連続表示させる場合を述べたが、この順序に限ることなく車両9の略中心の直上(真上)の合成画像を表示した後に車両9の周囲の合成画像を連続表示させてもよい。   It is also possible to magnify and display the selected portion by pausing the continuous display and selecting an arbitrary portion of the screen of the display unit by a user operation. Furthermore, in the present embodiment, a case has been described in which a composite image that displays the surroundings of the vehicle 9 is continuously displayed, and then a composite image above the vehicle 9 is continuously displayed. The composite image around the vehicle 9 may be continuously displayed after the composite image directly above (directly above) is displayed.

また、本実施形態では車両9の後方の仮想視点の位置から周囲を1周する場合について述べたが、画像を遷移させる開始位置は特定されるものではなく任意の位置でもよい。さらに、周囲を周回する回数は1回に限らず2回以上または半周など任意の回数でもよい。   Further, in the present embodiment, the case where the periphery of the vehicle 9 is circled once from the position of the virtual viewpoint behind the vehicle 9 is described, but the start position for transitioning the image is not specified and may be an arbitrary position. Furthermore, the number of times of circulation around the periphery is not limited to one, but may be any number of times such as two or more times or a half circle.

また、本実施形態では車両9の周囲確認処理の開始条件を画像処理部10がユーザの操作による操作部61a、または、操作部61bからの指示信号を受信したことを開始条件とすることで、ユーザが車両9の周辺確認を行いたい場合にいつでも車両9の周囲を確認できる。   In the present embodiment, the start condition of the surrounding confirmation process of the vehicle 9 is that the image processing unit 10 receives the instruction signal from the operation unit 61a or the operation unit 61b by the user's operation as a start condition. When the user wants to check the surroundings of the vehicle 9, the surroundings of the vehicle 9 can be checked at any time.

さらに、複数の合成画像を連続表示している際に、表示部21に図示しない完了ボタンを設けて、連続表示の途中であってもこの完了ボタンを押下することで、合成画像の連続表示を終了させたり、操作部61a、または、操作部61bを所定時間以上押下することによる車両周囲確認処理の開始を行わないようにすることもできる。   Further, when a plurality of composite images are continuously displayed, a completion button (not shown) is provided on the display unit 21 and the composite image is continuously displayed by pressing the completion button even during the continuous display. It is also possible not to end the vehicle surroundings confirmation process by ending or pressing down the operation unit 61a or the operation unit 61b for a predetermined time or more.

<4−3.変形例1>
次に、第3の実施形態の画像処理部の処理の変形例について説明する。
<4-3. Modification 1>
Next, a modified example of the processing of the image processing unit of the third embodiment will be described.

この変形例1では、複数の合成画像を生成してから表示部21に送信するようにしている。図13は、この場合の画像処理部の処理の例を示す図である。画像処理部10のCPU1がユーザの操作により操作部61a、または、操作部61bからの指示信号を受信した場合(ステップS701がYes)、CPU1はメモリ11から車両周囲確認処理を行うためのデータを読み出す(ステップS702)。車両周囲確認処理データの例としては、車両のビットマップデータ、視点の移動データ(時間ごとの視点位置や視点の方向のデータ)などのパラメータのデータがあげられる。   In the first modification, a plurality of synthesized images are generated and then transmitted to the display unit 21. FIG. 13 is a diagram illustrating an example of processing of the image processing unit in this case. When the CPU 1 of the image processing unit 10 receives an instruction signal from the operation unit 61a or the operation unit 61b by a user operation (Yes in step S701), the CPU 1 receives data for performing a vehicle surrounding confirmation process from the memory 11. Read (step S702). Examples of the vehicle surrounding confirmation processing data include parameter data such as vehicle bitmap data and viewpoint movement data (viewpoint position and viewpoint direction data for each time).

メモリ11から車両周辺確認処理のデータを読み出した後に、画像処理部10の画像変換部3は読み出したデータに基づいて、車両周囲確認処理の合成画像を生成する(ステップS703)。ここで、車両周囲確認処理の合成画像とは、車両9の周囲の合成画像、および、車両9の略中心の直上(真上)の合成画像をいう。   After reading the vehicle periphery confirmation process data from the memory 11, the image conversion unit 3 of the image processing unit 10 generates a composite image of the vehicle periphery confirmation process based on the read data (step S703). Here, the composite image of the vehicle periphery confirmation process refers to a composite image around the vehicle 9 and a composite image directly above (directly above) the substantial center of the vehicle 9.

ステップS703において、作成された車両周囲確認処理の合成画像のデータは表示部21に出力される(ステップS704)。なお、画像処理部10は作成した仮想視点の位置が段階的に変更されている複数の合成画像が連続性を有するような順番でまとめて表示部21にデータが出力される。   In step S703, the generated composite image data of the vehicle periphery confirmation process is output to the display unit 21 (step S704). Note that the image processing unit 10 outputs data to the display unit 21 together in an order in which a plurality of synthesized images in which the positions of the created virtual viewpoints are changed in stages have continuity.

これにより仮想視点の位置が段階的に変更され、車両9の周囲の上方の仮想視点から車両9の方向にみた状態で、車両9の周囲を連続的に周回する画像を表示部21に表示させることができる。また、車両9の周囲の合成画像、および、車両9の略中心の直上(真上)の複数の合成画像を同じタイミングで表示部21に出力することで、段階的に変更されて連続的に表示されている合成画像のうち、所定の画像の表示をとばして、次の画像を表示したり、前の画像に戻って表示することができ、連続的に表示される画像のうちユーザが確認したい箇所の画像を素早く表示できる。   As a result, the position of the virtual viewpoint is changed in stages, and an image that continuously circulates around the vehicle 9 is displayed on the display unit 21 when viewed from the upper virtual viewpoint around the vehicle 9 in the direction of the vehicle 9. be able to. In addition, by outputting a composite image around the vehicle 9 and a plurality of composite images immediately above (directly above) the approximate center of the vehicle 9 to the display unit 21 at the same timing, the image is changed stepwise and continuously. Of the displayed composite images, the display of the predetermined image can be skipped and the next image can be displayed or the previous image can be displayed again. The user confirms among the continuously displayed images. You can quickly display the image you want.

<4−4.変形例2>
この変形例2では、予め生成されてメモリ11に記憶された複数の合成画像を指示信号に応答して表示部21に送信するようにしている。図14は、第3の実施形態の画像処理部の処理の変形例2を示す図である。画像処理部10のCPU1がユーザの操作により操作部61a、または、操作部61bからの指示信号を受信した場合(ステップS801がYes)、画像処理部10はCPU1のメモリ11から車両周囲確認処理の合成画像データを読み出す(ステップS802)。この合成画像データは、操作部61a、または、操作部61bからの指示信号を受信する前に車両9の周辺を撮影する撮影部5の複数のカメラにより撮影された複数の撮影画像に基づいて、上記画像変換処理により生成された合成画像であり、予めメモリ11に保存されているデータである。
<4-4. Modification 2>
In the second modification, a plurality of synthesized images generated in advance and stored in the memory 11 are transmitted to the display unit 21 in response to the instruction signal. FIG. 14 is a diagram illustrating a second modification of the process of the image processing unit according to the third embodiment. When the CPU 1 of the image processing unit 10 receives an instruction signal from the operation unit 61a or the operation unit 61b by a user's operation (Yes in step S801), the image processing unit 10 performs a vehicle surrounding confirmation process from the memory 11 of the CPU 1. The composite image data is read out (step S802). The composite image data is based on a plurality of captured images captured by a plurality of cameras of the imaging unit 5 that captures the vicinity of the vehicle 9 before receiving an instruction signal from the operation unit 61a or the operation unit 61b. This is a composite image generated by the image conversion process and is data stored in the memory 11 in advance.

なお、CPU1がユーザの操作により操作部61a、または、操作部61bからの指示信号を受信していない場合は処理を終了する(ステップS801がNo)。   Note that if the CPU 1 has not received an instruction signal from the operation unit 61a or the operation unit 61b by a user operation, the process ends (No in step S801).

ステップS802に戻り、予めメモリ11に保存されている車両周囲確認処理の合成画像データが、メモリ11から読み出された後、車両周囲確認処理の合成画像データが表示部21へ出力される(ステップS803)。   Returning to step S802, the composite image data of the vehicle surroundings confirmation process stored in the memory 11 in advance is read from the memory 11, and then the composite image data of the vehicle surroundings confirmation process is output to the display unit 21 (step S802). S803).

これにより、表示部21に画像を出力する指示を行うための指示信号である操作部61a、または、操作部61bからの信号を画像処理部10のCPU1が受信してすぐに車両周辺確認処理の合成データを表示部21へ出力することができ、指示信号を受信してから表示部21へ合成画像データ出力する時間を短縮できる。   Thereby, the CPU 1 of the image processing unit 10 receives the signal from the operation unit 61a or the operation unit 61b which is an instruction signal for giving an instruction to output an image to the display unit 21, and immediately performs the vehicle periphery confirmation process. The composite data can be output to the display unit 21, and the time for outputting the composite image data to the display unit 21 after receiving the instruction signal can be shortened.

100 画像表示システム
10 画像処理部
5 撮影部
21 表示部
83 切替スイッチ
84 車両電源制御装置
DESCRIPTION OF SYMBOLS 100 Image display system 10 Image processing part 5 Image pick-up part 21 Display part 83 Changeover switch 84 Vehicle power supply control apparatus

Claims (6)

車両の周辺を撮影する複数のカメラから取得される画像に基づいて前記車両の周囲の画像を生成する画像生成手段と、
前記車両の周囲の画像を表示する表示装置に前記画像を出力する出力手段と、
を備え、
前記画像生成手段は、前記車両の全周囲を含む広い範囲を車両の上方からみた第1画像と、前記第1画像の視点とは異なる視点で前記車両の周囲の限られた範囲を順番に連続表示する第2画像とを生成し、
前記出力手段は、前記車両が走行前であることを条件として前記第1画像を出力し、同じく前記車両が走行前であることを条件として前記第2画像を出力して該第2画像を連続表示すること、
を特徴とする画像処理装置。
Image generating means for generating an image around the vehicle based on images acquired from a plurality of cameras that capture the periphery of the vehicle;
Output means for outputting the image to a display device for displaying an image around the vehicle;
With
The image generation means sequentially includes a first image in which a wide range including the entire periphery of the vehicle is viewed from above the vehicle, and a limited range around the vehicle in order from a viewpoint different from the viewpoint of the first image. Generating a second image to be displayed;
The output means outputs the first image on the condition that the vehicle is not traveling, and outputs the second image on the condition that the vehicle is not yet traveled, and continuously outputs the second image . Displaying,
An image processing apparatus.
請求項1に記載の画像処理装置において、
前記出力手段は、前記車両の走行前において、前記第2画像が前記表示装置に連続表示された後、または、前記第2画像が前記表示装置に連続表示される前に、前記第1画像を出力すること、
を特徴とする画像処理装置。
The image processing apparatus according to claim 1.
The output means displays the first image after the second image is continuously displayed on the display device or before the second image is continuously displayed on the display device before the vehicle travels. Output,
An image processing apparatus.
車両の周辺を撮影する複数のカメラから取得される画像に基づいて前記車両の周囲の画像を生成する画像生成手段と、
前記車両の周囲の画像を表示する表示装置に前記画像を出力する出力手段と、
を備え、
前記画像生成手段は、前記車両の全周囲を含む広い範囲を車両の上方からみた第1画像と、前記第1画像の視点とは異なる視点で前記車両の周囲の限られた範囲の第2画像とを生成し、
前記出力手段は、前記車両が走行前であることを条件として前記第1画像を出力し、同じく前記車両が走行前であることを条件として前記第2画像を出力し、
前記第1画像と前記第2画像とは相互間において視点の位置が連続的に変化するように出力されて連続表示されること、
を特徴とする画像処理装置。
Image generating means for generating an image around the vehicle based on images acquired from a plurality of cameras that capture the periphery of the vehicle;
Output means for outputting the image to a display device for displaying an image around the vehicle;
With
The image generation means includes a first image of a wide range including the entire periphery of the vehicle as viewed from above the vehicle, and a second image of a limited range around the vehicle at a viewpoint different from the viewpoint of the first image. And generate
The output means outputs the first image on the condition that the vehicle is not traveling, and outputs the second image on the condition that the vehicle is also before traveling,
The first image and the second image are output and continuously displayed so that the position of the viewpoint continuously changes between each other;
An image processing apparatus.
車両の周辺を撮影する複数のカメラから取得される画像に基づいて前記車両の周囲の画像を生成する画像生成手段と、
前記車両の周囲の画像を表示する表示装置に前記画像を出力する出力手段と、
を備え、
前記画像生成手段は、前記車両の全周囲を含む広い範囲を車両の上方からみた第1画像と、前記第1画像の視点とは異なる視点で前記車両の周囲の限られた範囲を順番に連続表示する第2画像とを生成し、
前記出力手段は、前記車両の車速が所定速度以下であることを条件として前記第1画像を出力し、同じく前記車両の速度が所定速度以下であることを条件として前記第2画像を出力して該第2画像を連続表示すること、
を特徴とする画像処理装置。
Image generating means for generating an image around the vehicle based on images acquired from a plurality of cameras that capture the periphery of the vehicle;
Output means for outputting the image to a display device for displaying an image around the vehicle;
With
The image generation means sequentially includes a first image in which a wide range including the entire periphery of the vehicle is viewed from above the vehicle and a limited range around the vehicle in a viewpoint different from the viewpoint of the first image. Generating a second image to be displayed;
The output means outputs the first image on condition that the vehicle speed of the vehicle is equal to or lower than a predetermined speed, and similarly outputs the second image on condition that the speed of the vehicle is equal to or lower than the predetermined speed. Continuously displaying the second image ;
An image processing apparatus.
請求項1ないし4のいずれかに記載の画像処理装置において、
前記第2画像は、前記車両の周囲から該車両をみた画像であって、前記車両の周囲を旋回して表示する画像であること、
を特徴とする画像処理装置。
The image processing apparatus according to any one of claims 1 to 4,
The second image is an image of the vehicle viewed from around the vehicle, and is an image displayed by turning around the vehicle;
An image processing apparatus.
請求項1ないし5のいずれかに記載の画像処理装置において、
前記連続表示は、ユーザのボタン操作により途中終了または一時停止すること、
を特徴とする画像処理装置。
The image processing apparatus according to any one of claims 1 to 5,
The continuous display is terminated or paused by a user's button operation,
An image processing apparatus.
JP2014199077A 2009-05-29 2014-09-29 Image processing apparatus, electronic apparatus, and image processing method Active JP6005115B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014199077A JP6005115B2 (en) 2009-05-29 2014-09-29 Image processing apparatus, electronic apparatus, and image processing method

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009130102 2009-05-29
JP2009130102 2009-05-29
JP2014199077A JP6005115B2 (en) 2009-05-29 2014-09-29 Image processing apparatus, electronic apparatus, and image processing method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2010052210A Division JP5627253B2 (en) 2009-05-29 2010-03-09 Image processing apparatus, electronic apparatus, and image processing method

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2016081216A Division JP6118936B2 (en) 2009-05-29 2016-04-14 Image processing device

Publications (2)

Publication Number Publication Date
JP2015065659A JP2015065659A (en) 2015-04-09
JP6005115B2 true JP6005115B2 (en) 2016-10-12

Family

ID=52672021

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2014199075A Active JP5905062B2 (en) 2009-05-29 2014-09-29 Image processing apparatus, electronic apparatus, and image processing method
JP2014199076A Active JP5986611B2 (en) 2009-05-29 2014-09-29 Image processing apparatus, electronic apparatus, and image processing method
JP2014199077A Active JP6005115B2 (en) 2009-05-29 2014-09-29 Image processing apparatus, electronic apparatus, and image processing method
JP2016081216A Active JP6118936B2 (en) 2009-05-29 2016-04-14 Image processing device

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2014199075A Active JP5905062B2 (en) 2009-05-29 2014-09-29 Image processing apparatus, electronic apparatus, and image processing method
JP2014199076A Active JP5986611B2 (en) 2009-05-29 2014-09-29 Image processing apparatus, electronic apparatus, and image processing method

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2016081216A Active JP6118936B2 (en) 2009-05-29 2016-04-14 Image processing device

Country Status (1)

Country Link
JP (4) JP5905062B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6649619B2 (en) * 2016-03-30 2020-02-19 日産自動車株式会社 Driving support method and driving support device
JP6665630B2 (en) * 2016-03-30 2020-03-13 日産自動車株式会社 Driving support method and driving support device
US11055989B2 (en) * 2017-08-31 2021-07-06 Nec Corporation Viewpoint invariant object recognition by synthesization and domain adaptation

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10151995A (en) * 1996-11-26 1998-06-09 Fujitsu Ten Ltd Reproducing device
JP3503466B2 (en) * 1998-03-05 2004-03-08 日産自動車株式会社 Display device for vehicles
CA2369648A1 (en) * 1999-04-16 2000-10-26 Matsushita Electric Industrial Co., Limited Image processing device and monitoring system
JP2001236418A (en) * 2000-02-22 2001-08-31 Matsushita Electric Works Ltd Business method using internet living space vr system, and storage medium for the same
JP3803021B2 (en) * 2000-10-02 2006-08-02 松下電器産業株式会社 Driving assistance device
JP2002342408A (en) * 2001-05-14 2002-11-29 Matsushita Electric Works Ltd Method for estimating unit house
JP2002366976A (en) * 2001-06-08 2002-12-20 Fujitsu Ltd Program and device for displaying object
JP2004185054A (en) * 2002-11-29 2004-07-02 Matsushita Electric Works Ltd House floor layout design supporting system
JP4353016B2 (en) * 2004-07-12 2009-10-28 株式会社デンソー Reverse guide display device for vehicle
JP5029062B2 (en) * 2007-02-26 2012-09-19 富士通株式会社 Multi-view video transmission system
JP5047650B2 (en) * 2007-03-06 2012-10-10 クラリオン株式会社 In-vehicle camera system
JP5045172B2 (en) * 2007-03-20 2012-10-10 マツダ株式会社 Vehicle driving support device
JP2009035024A (en) * 2007-07-31 2009-02-19 Fujitsu Ten Ltd On-board electronic system and device
JP5439890B2 (en) * 2009-03-25 2014-03-12 富士通株式会社 Image processing method, image processing apparatus, and program

Also Published As

Publication number Publication date
JP2015046889A (en) 2015-03-12
JP5986611B2 (en) 2016-09-06
JP2015043586A (en) 2015-03-05
JP6118936B2 (en) 2017-04-19
JP2015065659A (en) 2015-04-09
JP2016184926A (en) 2016-10-20
JP5905062B2 (en) 2016-04-20

Similar Documents

Publication Publication Date Title
JP5627253B2 (en) Image processing apparatus, electronic apparatus, and image processing method
US9706175B2 (en) Image processing device, image processing system, and image processing method
JP5302227B2 (en) Image processing apparatus, image processing system, and image processing method
JP5087051B2 (en) Image generating apparatus and image display system
JP6548900B2 (en) Image generation apparatus, image generation method and program
WO2011090163A1 (en) Parameter determination device, parameter determination system, parameter determination method, and recording medium
JP5658507B2 (en) Image display system, image generation apparatus, and image display method
JP6084097B2 (en) Image generation apparatus, image display system, and image generation method
JP2011131678A (en) Image processing device, image processing system and image processing method
JP6118936B2 (en) Image processing device
JP7000383B2 (en) Image processing device and image processing method
JP6130118B2 (en) Image processing system, image processing apparatus, image processing method, and program
JP5479639B2 (en) Image processing apparatus, image processing system, and image processing method
JP2012065228A (en) Image processing apparatus, image display system, and image display method
JP2014215855A (en) Image generation device and image generation method
JP2006005451A (en) On-vehicle monitor
JP5466743B2 (en) Image generating apparatus and image display system
JP2016141303A (en) Visual field support device
JP4285229B2 (en) Vehicle display device
TWM506429U (en) Side-view driving imaging system

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150818

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160223

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160418

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160809

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160906

R150 Certificate of patent or registration of utility model

Ref document number: 6005115

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250