JP2009083791A - Image display method, on-vehicle image display system and image processing apparatus - Google Patents

Image display method, on-vehicle image display system and image processing apparatus Download PDF

Info

Publication number
JP2009083791A
JP2009083791A JP2007259142A JP2007259142A JP2009083791A JP 2009083791 A JP2009083791 A JP 2009083791A JP 2007259142 A JP2007259142 A JP 2007259142A JP 2007259142 A JP2007259142 A JP 2007259142A JP 2009083791 A JP2009083791 A JP 2009083791A
Authority
JP
Japan
Prior art keywords
image
vehicle
image display
passenger
driver
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007259142A
Other languages
Japanese (ja)
Inventor
Shuhei Takimoto
周平 滝本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Wiring Systems Ltd
AutoNetworks Technologies Ltd
Sumitomo Electric Industries Ltd
Original Assignee
Sumitomo Wiring Systems Ltd
AutoNetworks Technologies Ltd
Sumitomo Electric Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Wiring Systems Ltd, AutoNetworks Technologies Ltd, Sumitomo Electric Industries Ltd filed Critical Sumitomo Wiring Systems Ltd
Priority to JP2007259142A priority Critical patent/JP2009083791A/en
Publication of JP2009083791A publication Critical patent/JP2009083791A/en
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an image display method, a car-mounted image display system and an image processing apparatus capable of imaging a driver and an assistant driver of a front seat without uncomfortable feeling against the rear passengers when imaging a driver and an asistant driver together using an imaging device having a wide-angle lens. <P>SOLUTION: The image picked up by the imaging device 1 is laterally reversed and divided into two areas, left and right. Each area is processed to be respectively laterally reversed by an image processing part 22 of an ECU 2 to be displayed on the image display device 3. The image picked up by the imaging device 1 may be divided into two areas, left and right, and processed to laterally replace the arrangement of the two areas each other. Storing data of a corresponding position of each picture element of an original image and a replaced image in a conversion table or the like, the each picture element of a picked up image may be processed to be moved from the stored data of the corresponding positions. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は、車輌の後部座席の乗員に対し、快適な車内環境を提供する画像表示方法、車載用画像表示システム及び画像処理装置に関する。   The present invention relates to an image display method, an in-vehicle image display system, and an image processing apparatus that provide a comfortable in-vehicle environment to passengers in a rear seat of a vehicle.

近年、車輌にはカーナビゲーション装置又はテレビジョン装置等が搭載され、走行に係る案内画像又はテレビ番組等を液晶ディスプレイなどの画像表示装置に表示することによって、車輛走行中の乗員の快適性改善が図られている。   In recent years, vehicles have been equipped with car navigation devices or television devices, and by displaying guidance images or television programs related to traveling on image display devices such as liquid crystal displays, the comfort of passengers traveling in vehicles has been improved. It is illustrated.

車輌の走行中に乗員は画像表示装置に表示された画像を視聴するのみでなく、他の乗員と会話を楽しむ機会がしばしばある。車輌後席の乗員が運転席及び助手席の乗員と会話を行う場合、後席の乗員からは運転席及び助手席の乗員の表情を直接見ることができないため、会話の真意を履き違えるなど、円滑な会話を行うことが困難な状況になる虜がある。そこで、前席の乗員をカメラなどの撮像装置で撮像し、撮像した前席乗員の画像を画像表示装置に表示することで、前席の乗員及び後席の乗員の会話を改善する方法が提案されている。   While the vehicle is running, the occupant often has the opportunity to enjoy conversations with other occupants as well as view images displayed on the image display device. When a passenger in the rear seat of a vehicle has a conversation with a passenger in the driver's seat and passenger's seat, the passenger's seat in the rear seat cannot directly see the facial expressions of the passenger in the driver's seat and passenger's seat, so the conversation's true intentions may be changed. There are prisoners who are in a situation where it is difficult to have a simple conversation. Therefore, a method for improving the conversation between the front seat passenger and the rear seat passenger by imaging the front seat passenger with an imaging device such as a camera and displaying the captured image of the front seat passenger on the image display device is proposed. Has been.

特許文献1においては、後席用映像カメラが撮像した後席乗員の画像を、前席乗員に見える位置に配置された前席用ディスプレイに表示し、また、前席用映像カメラが撮像した前席乗員の画像を、後席乗員に見える位置に配置された後席用ディスプレイに表示する車載用映像表示装置が提案されている。この車載用映像表示装置は、例えば、車輌の運転中に前席の親が後席の子供の状態を容易に確認することができ、後席の子供が前席の親の顔を見ることができるため、前席の親が後席の子供を容易且つ安全にあやすことができる。   In Patent Document 1, an image of a rear-seat occupant captured by a rear-seat video camera is displayed on a front-seat display arranged at a position visible to the front-seat occupant, and before the front-seat video camera captures the image. A vehicle-mounted video display device that displays an image of a seat occupant on a rear seat display arranged at a position visible to the rear seat occupant has been proposed. This in-vehicle video display device allows the front seat parent to easily check the state of the rear seat child during driving of the vehicle, for example, and the rear seat child can see the face of the front seat parent. Therefore, the front seat parent can easily and safely rear the rear seat child.

特許文献2においては、後方撮影用カメラにて車輌後席の様子を撮影すると共に、車輌が急カーブを走行している期間を検出して、車輌が急カーブを走行していない場合には運転者用モニターにカーナビゲーションの画像を表示し、車輌が急カーブを走行している場合には運転者用モニターに後席の画像を運転者用モニターに表示する車載用画像情報処理装置が提案されている。この車載用画像情報処理装置は、車輌が急カーブを走行している期間などで後席の子供を監視する必要がある場合に、後席の様子を自動的に運転者用モニターに表示することができるため、運転中の運転者が後席の状況を把握したいとき又は把握すべきときに、能率的にこれを把握させることができる。
特開2003−25911号公報 特開2005−249586号公報
In Patent Document 2, the state of the backseat of the vehicle is photographed with a rear-facing camera, and the period during which the vehicle is traveling on a sharp curve is detected. If the vehicle is not traveling on a sharp curve, driving is performed. An in-vehicle image information processing device that displays car navigation images on the driver's monitor and displays the rear seat image on the driver's monitor when the vehicle is traveling on a sharp curve has been proposed. ing. This in-vehicle image information processing device automatically displays the state of the backseat on the driver's monitor when it is necessary to monitor the child in the backseat during a period when the vehicle is traveling on a sharp curve. Therefore, when the driver who is driving wants to grasp or should grasp the situation of the rear seat, this can be efficiently grasped.
JP 2003-25911 A JP 2005-249586 A

車輌の後席の乗員に運転席及び助手席の乗員の表情を表示するために、車輌内の前部には運転席及び助手席を撮像する撮像装置を搭載する必要がある。撮像装置は運転席用と助手席用とを個別に搭載することができるが、コストが高くなるという問題から、1つの撮像装置を車輌前部のセンタークラスタ付近に搭載し、1つの撮像装置が運転席及び助手席を一括して撮像する構成とすることが望ましい。しかし、1つの撮像装置が運転席及び助手席を一括して撮像した画像を後席用の画像表示装置に表示した場合、後席の乗員から見た運転席乗員と助手席乗員との位置関係と比べて左右反対に表示された画像になるという問題があった。   In order to display the expression of the passengers in the driver's seat and the passenger seat on the passenger in the rear seat of the vehicle, it is necessary to mount an imaging device for imaging the driver's seat and the passenger seat in the front part of the vehicle. The imaging device can be mounted separately for the driver seat and the passenger seat, but due to the problem of high cost, one imaging device is mounted near the center cluster in the front of the vehicle, and one imaging device It is desirable that the driver's seat and passenger's seat be imaged together. However, when an image captured by the single imaging device in the driver's seat and front passenger seat is displayed on the rear seat image display device, the positional relationship between the driver's seat passenger and the passenger's seat viewed from the rear seat passenger There is a problem that the image is displayed opposite to the left and right.

また、車輌内は狭く、撮像装置と運転席及び助手席との距離が近いため、1つの撮像装置が運転席及び助手席を一括して撮像するためには、焦点距離が短く広い範囲を写すことができる広角レンズを撮像装置に用いる必要がある。しかし、撮像装置に広角レンズを用いた場合、広角レンズの特徴として被写界深度が深く画角が広い反面、画面の周辺部における像に歪曲が生じるため、運転席及び助手席の乗員がお互いに外向きの視線で撮像され、後席乗員に違和感を与える画像になるという問題があった。   In addition, since the inside of the vehicle is narrow and the distance between the imaging device and the driver's seat and the passenger seat is short, in order for one imaging device to collectively capture the driver's seat and the passenger seat, the focal length is short and the wide range is captured. It is necessary to use a wide-angle lens that can be used in an imaging device. However, when a wide-angle lens is used in the imaging device, the wide-angle lens has a large depth of field and a wide angle of view, but the image on the periphery of the screen is distorted. However, there is a problem that the image is taken with an outward line of sight and gives an uncomfortable feeling to the rear seat occupant.

特許文献1に記載の車載用映像表示装置及び特許文献2に記載の車載用画像情報処理装置についても、上述の問題が生じる可能性がある。また、特許文献1に記載の車載用映像表示装置及び特許文献2に記載の車載用画像情報処理装置は、車輌の前席の乗員と後席の乗員との会話を目的としたものではなく、後席の子供の様子を前席の親が確認することを目的としたものである。このため、特許文献2の車載用画像情報処理装置には、車輌の走行状態を検出して、例えば車輌が急カーブを走行している場合などに後席の様子を自動的にモニターに表示する機能が備えられている。しかし、前席の乗員及び後席の乗員の会話を目的とした場合には、このような表示の自動切替え機能は会話の妨げとなるという問題がある。   The above-described problem may also occur in the in-vehicle video display device described in Patent Document 1 and the in-vehicle image information processing device described in Patent Document 2. Further, the in-vehicle video display device described in Patent Document 1 and the in-vehicle image information processing device described in Patent Document 2 are not intended for conversation between a front seat passenger and a rear seat passenger, The purpose is to confirm the state of the child in the rear seat by the parent in the front seat. For this reason, the in-vehicle image information processing apparatus disclosed in Patent Document 2 detects the running state of the vehicle and automatically displays the state of the rear seat on the monitor when the vehicle is traveling on a sharp curve, for example. Features are provided. However, for the purpose of conversation between the front passenger and the rear passenger, there is a problem that such an automatic switching function of the display hinders the conversation.

本発明は、斯かる事情に鑑みてなされたものであって、その目的とするところは、広角レンズを有する撮像装置を用いて運転席側及び助手席側の乗員を一括して撮像した画像に、所定の画像処理を施して後席へ向けた画像表示装置に表示することにより、後席の乗員に対して違和感のない前席乗員の画像を表示することができる画像表示方法、車載用画像表示システム及び画像処理装置を提供することにある。   The present invention has been made in view of such circumstances, and an object of the present invention is to provide an image in which passengers on the driver's seat side and the passenger seat side are collectively imaged using an imaging device having a wide-angle lens. , An image display method capable of displaying an image of a front seat occupant that does not give a sense of incongruity to a rear seat occupant by performing predetermined image processing and displaying the image on an image display device directed toward the rear seat, and a vehicle-mounted image It is to provide a display system and an image processing apparatus.

また本発明の他の目的とするところは、カーナビゲーション装置又はテレビチューナ等の他の装置から入力された画像と、撮像装置が撮像した前席の乗員の画像とを、後席へ向けた画像表示装置に切替えて表示することにより、画像表示装置を多目的に利用することができる車載用画像表示システムを提供することにある。   Another object of the present invention is an image in which an image input from another device such as a car navigation device or a TV tuner and an image of a front seat occupant captured by the imaging device are directed to the rear seat. An object of the present invention is to provide an in-vehicle image display system that can use an image display device for multiple purposes by switching to a display device for display.

また本発明の他の目的とするところは、撮像装置が撮像した画像から乗員の口の形状を検出し、及び/又は、前席の乗員が発する音声を検出し、検出結果に基づいて画像表示装置に表示する画像を切替えることにより、他の装置からの画像を画像表示装置に表示している場合であっても、前席の乗員の会話時に撮像装置が撮像した画像を後席の乗員に表示することができる車載用画像表示システムを提供することにある。   Another object of the present invention is to detect the shape of the occupant's mouth from the image captured by the imaging device and / or to detect the sound produced by the occupant in the front seat and display an image based on the detection result. Even if the image from another device is displayed on the image display device by switching the image to be displayed on the device, the image captured by the imaging device during the conversation of the front seat occupant can be transferred to the rear seat occupant. An object is to provide an in-vehicle image display system capable of displaying.

第1発明に係る画像表示方法は、広角レンズを有する撮像装置で車輌の運転席側及び助手席側の乗員を一括して撮像し、撮像した画像を前記車輌の後席へ向けた画像表示装置に表示する画像表示方法において、前記撮像装置が撮像した画像の各画素を左右反転した位置へ移動し、左右反転した画像を運転席側に該当する第1領域及び助手席側に該当する第2領域に分割し、前記第1領域の各画素を前記第1領域内で左右反転した位置へ移動すると共に、前記第2領域の各画素を前記第2領域内で左右反転した位置へ移動し、各領域を左右反転した画像を前記画像表示装置に表示することを特徴とする。   An image display method according to a first aspect of the present invention is an image display device in which an image pickup device having a wide-angle lens is used to collectively image a driver's side and a passenger's side occupant of a vehicle, and the captured image is directed to the rear seat of the vehicle. In the image display method displayed on the screen, each pixel of the image captured by the imaging device is moved to a position that is horizontally reversed, and the horizontally reversed image is a first area corresponding to the driver seat side and a second corresponding to the passenger seat side. Dividing into regions, moving each pixel in the first region to a horizontally reversed position in the first region, moving each pixel in the second region to a horizontally reversed position in the second region, An image obtained by horizontally inverting each region is displayed on the image display device.

また、第2発明に係る画像表示方法は、広角レンズを有する撮像装置で車輌の運転席側及び助手席側の乗員を一括して撮像し、撮像した画像を前記車輌の後席へ向けた画像表示装置に表示する画像表示方法において、前記撮像装置が撮像した画像を運転席側に該当する第1領域及び助手席側に該当する第2領域に分割し、前記第1領域及び第2領域を左右に置換した位置へ前記画像の各画素を移動し、各領域を左右置換した画像を前記画像表示装置に表示することを特徴とする。   The image display method according to the second aspect of the present invention is a method in which an image pickup apparatus having a wide-angle lens is used to collect images of passengers on the driver's seat and passenger's side of a vehicle at once, and the captured images are directed to the rear seat of the vehicle. In an image display method for displaying on a display device, an image captured by the imaging device is divided into a first region corresponding to a driver seat side and a second region corresponding to a passenger seat side, and the first region and the second region are divided. Each pixel of the image is moved to a position where left and right are replaced, and an image in which each region is replaced left and right is displayed on the image display device.

また、第3発明に係る画像表示方法は、広角レンズを有する撮像装置で車輌の運転席側及び助手席側の乗員を一括して撮像し、撮像した画像を前記車輌の後席へ向けた画像表示装置に表示する画像表示方法において、前記撮像装置が撮像した画像と、前記画像の運転席側及び助手席側が左右に置換された画像とについて、各画素の位置の対応を予め記憶しておき、前記撮像装置が撮像した画像の各画素を前記対応に応じて移動し、前記対応に応じて各画素を移動した画像を前記画像表示装置に表示することを特徴とする。   The image display method according to the third aspect of the present invention is an image pickup apparatus having a wide-angle lens that collectively captures a driver's side and a passenger's side occupant of the vehicle and directs the captured image to the rear seat of the vehicle. In the image display method for displaying on a display device, the correspondence between the positions of each pixel is stored in advance for an image captured by the imaging device and an image in which the driver seat side and the passenger seat side of the image are replaced to the left and right. Each pixel of an image captured by the imaging device is moved in accordance with the correspondence, and an image in which each pixel is moved in accordance with the correspondence is displayed on the image display device.

また、第4発明に係る車載用画像表示システムは、車輌に搭載され、前記車輌の運転席側及び助手席側の乗員を一括して撮像する広角レンズを有する撮像装置と、前記車輌の後席へ向けて画像を表示する画像表示装置と、前記撮像装置が撮像した画像に画像処理を施して前記画像表示装置に表示させる処理を行う画像処理装置とを備える車載用画像表示システムにおいて、前記画像処理装置は、前記撮像装置が撮像した画像の各画素を左右反転した位置へ移動する手段と、左右反転した画像を運転席側に該当する第1領域及び助手席側に該当する第2領域に分割する手段と、前記第1領域の各画素を前記第1領域内で左右反転した位置へ移動すると共に、前記第2領域の各画素を前記第2領域内で左右反転した位置へ移動する手段とを有することを特徴とする。   An in-vehicle image display system according to a fourth aspect of the present invention is mounted on a vehicle, and includes an imaging device having a wide-angle lens that collectively images passengers on the driver side and the passenger side of the vehicle, and the rear seat of the vehicle. In an in-vehicle image display system comprising: an image display device that displays an image toward the image; and an image processing device that performs image processing on the image captured by the imaging device and displays the image on the image display device. The processing device includes means for moving each pixel of the image captured by the imaging device to a position that is horizontally reversed, and a horizontally reversed image in the first region corresponding to the driver seat side and the second region corresponding to the passenger seat side. Means for dividing, and means for moving each pixel in the first area to a position horizontally reversed in the first area, and for moving each pixel in the second area to a position reversed horizontally in the second area And having And wherein the door.

また、第5発明に係る車載用画像表示システムは、車輌に搭載され、前記車輌の運転席側及び助手席側の乗員を一括して撮像する広角レンズを有する撮像装置と、前記車輌の後席へ向けて画像を表示する画像表示装置と、前記撮像装置が撮像した画像に画像処理を施して前記画像表示装置に表示させる処理を行う画像処理装置とを備える車載用画像表示システムにおいて、前記画像処理装置は、前記撮像装置が撮像した画像を運転席側に該当する第1領域及び助手席側に該当する第2領域に分割する手段と、前記第1領域及び第2領域を左右に置換した位置へ前記画像の各画素を移動する手段とを有することを特徴とする。   In addition, an in-vehicle image display system according to a fifth aspect of the present invention is mounted on a vehicle, and includes an imaging device having a wide-angle lens that collectively images passengers on the driver's seat and passenger's side of the vehicle, and the rear seat of the vehicle. In an in-vehicle image display system comprising: an image display device that displays an image toward the image; and an image processing device that performs image processing on the image captured by the imaging device and displays the image on the image display device. The processing device replaces the image captured by the imaging device into a first region corresponding to the driver seat side and a second region corresponding to the passenger seat side, and the first region and the second region left and right. And a means for moving each pixel of the image to a position.

また、第6発明に係る車載用画像表示システムは、車輌に搭載され、前記車輌の運転席側及び助手席側の乗員を一括して撮像する広角レンズを有する撮像装置と、前記車輌の後席へ向けて画像を表示する画像表示装置と、前記撮像装置が撮像した画像に画像処理を施して前記画像表示装置に表示させる処理を行う画像処理装置とを備える車載用画像表示システムにおいて、前記画像処理装置は、前記撮像装置が撮像した画像と、前記画像の運転席側及び助手席側が左右に置換された画像とについて、各画素の位置の対応を予め記憶した記憶手段と、前記撮像装置が撮像した画像の各画素を前記記憶手段が記憶した前記対応に応じて移動する手段とを有することを特徴とする。   An in-vehicle image display system according to a sixth aspect of the present invention is mounted on a vehicle, and includes an imaging device having a wide-angle lens that collectively images passengers on the driver's seat and passenger's side of the vehicle, and the rear seat of the vehicle. In an in-vehicle image display system comprising: an image display device that displays an image toward the image; and an image processing device that performs image processing on the image captured by the imaging device and displays the image on the image display device. The processing device includes a storage unit that stores in advance correspondence between the positions of the pixels of the image captured by the imaging device and an image in which the driver seat side and the passenger seat side of the image are replaced to the left and right, and the imaging device And a means for moving each pixel of the captured image in accordance with the correspondence stored in the storage means.

また、第7発明に係る車載用画像表示システムは、前記画像処理装置が、他の装置から画像の入力を受け付ける画像入力受付手段と、前記撮像装置が撮像した画像に画像処理を施した画像又は前記画像入力受付手段が受け付けた画像の前記画像表示装置における表示を切替える画像切替手段とを更に有することを特徴とする。   The on-vehicle image display system according to a seventh aspect of the present invention is an image input receiving unit that receives an image input from another device and an image obtained by performing image processing on an image captured by the imaging device, or The image display device further comprises image switching means for switching display of the image received by the image input receiving means on the image display device.

また、第8発明に係る車載用画像表示システムは、前記画像処理装置が、前記撮像装置が撮像した画像から運転席乗員及び助手席乗員の口の形状を検出する口形状検出手段を更に有し、前記画像切替手段が、前記口形状検出部が検出した口の形状に基づいて表示画像を切替えるようにしてあることを特徴とする。   In the in-vehicle image display system according to the eighth aspect of the present invention, the image processing device further includes mouth shape detection means for detecting the shapes of the mouths of the driver seat passenger and the passenger seat passenger from the image captured by the imaging device. The image switching means switches the display image based on the mouth shape detected by the mouth shape detection unit.

また、第9発明に係る車載用画像表示システムは、前記車輌の前席乗員の音声を検出する音声検出手段を更に備え、前記画像切替手段は、前記音声検出手段の検出結果に基づいて表示画像を切替えるようにしてあることを特徴とする。   The vehicle-mounted image display system according to a ninth aspect of the present invention further includes sound detection means for detecting the sound of the front seat occupant of the vehicle, and the image switching means displays a display image based on the detection result of the sound detection means. It is characterized by switching between.

また、第10発明に係る画像処理装置は、車輌に搭載され、広角レンズを有する撮像装置が前記車輌の運転席側及び助手席側の乗員を一括して撮像した画像に画像処理を施して、前記車輌の後席へ向けた画像表示装置に表示させる処理を行う画像処理装置において、前記撮像装置が撮像した画像の各画素を左右反転した位置へ移動する手段と、左右反転した画像を運転席側に該当する第1領域及び助手席側に該当する第2領域に分割する手段と、前記第1領域の各画素を前記第1領域内で左右反転した位置へ移動すると共に、前記第2領域の各画素を前記第2領域内で左右反転した位置へ移動する手段とを備えることを特徴とする。   An image processing apparatus according to a tenth aspect of the present invention is mounted on a vehicle, and an image pickup apparatus having a wide-angle lens performs image processing on an image obtained by collectively capturing a driver seat side and a passenger seat side passenger of the vehicle, In the image processing device for performing processing to display on the image display device toward the rear seat of the vehicle, means for moving each pixel of the image captured by the imaging device to a horizontally reversed position, and a horizontally reversed image of the driver seat Means for dividing the first area corresponding to the side and the second area corresponding to the passenger seat side, and moving each pixel of the first area to a position horizontally reversed in the first area, and the second area And a means for moving each pixel to a position that is horizontally reversed in the second region.

また、第11発明に係る画像処理装置は、車輌に搭載され、広角レンズを有する撮像装置が前記車輌の運転席側及び助手席側の乗員を一括して撮像した画像に画像処理を施して、前記車輌の後席へ向けた画像表示装置に表示させる処理を行う画像処理装置において、前記撮像装置が撮像した画像を運転席側に該当する第1領域及び助手席側に該当する第2領域に分割する手段と、前記第1領域及び第2領域を左右に置換した位置へ前記画像の各画素を移動する手段とを備えることを特徴とする。   An image processing apparatus according to an eleventh aspect of the invention is mounted on a vehicle, and an image pickup apparatus having a wide-angle lens performs image processing on an image in which the driver's side and passenger's side passengers of the vehicle are collectively imaged, In the image processing device for performing processing to be displayed on the image display device directed to the rear seat of the vehicle, the image captured by the imaging device is displayed in a first region corresponding to the driver seat side and a second region corresponding to the passenger seat side. And means for dividing the image forming apparatus, and means for moving each pixel of the image to a position where the first area and the second area are replaced to the left and right.

また、第12発明に係る画像処理装置は、車輌に搭載され、広角レンズを有する撮像装置が前記車輌の運転席側及び助手席側の乗員を一括して撮像した画像に画像処理を施して、前記車輌の後席へ向けた画像表示装置に表示させる処理を行う画像処理装置において、前記撮像装置が撮像した画像と、前記画像の運転席側及び助手席側が左右に置換された画像とについて、各画素の位置の対応を予め記憶した記憶手段と、前記撮像装置が撮像した画像の各画素を前記記憶手段が記憶した前記対応に応じて移動する手段とを備えることを特徴とする。   An image processing apparatus according to a twelfth aspect of the present invention is mounted on a vehicle, and an image pickup apparatus having a wide-angle lens performs image processing on images obtained by collectively capturing the driver side and passenger side passengers of the vehicle, In the image processing device that performs processing to be displayed on the image display device toward the rear seat of the vehicle, the image captured by the imaging device, and the image in which the driver seat side and the passenger seat side of the image are replaced with left and right, The image processing apparatus includes: a storage unit that stores in advance a correspondence between positions of the pixels; and a unit that moves each pixel of the image captured by the imaging apparatus according to the correspondence stored in the storage unit.

本発明においては、広角レンズを有する撮像装置にて一括して撮像した運転席側及び助手席側の乗員の画像に、後席の乗員のための種々の画像処理を施して、後席へ向けた画像表示装置に表示する。このとき行う画像処理は、まず撮像により得られた画像を左右反転し、次いでこの画像を左右に2つの領域に分割して、各領域をそれぞれ左右反転する画像処理とすることができる。これにより、後席用の画像表示装置に表示される画像は、運転席及び助手席の乗員の位置関係が、後席の乗員から見た運転席及び助手席の乗員の位置関係に対応すると共に、運転席及び助手席の乗員の外向きの視線が内向きに補正される。   In the present invention, various image processing for the occupants of the rear seats is performed on the images of the occupants on the driver's seat and passenger's side that are collectively imaged by the imaging device having the wide-angle lens, and the images are directed to the rear seats. Displayed on the image display device. The image processing performed at this time can be image processing in which an image obtained by imaging is first reversed horizontally, and then this image is divided into two regions on the left and right, and each region is horizontally reversed. Thus, the image displayed on the image display device for the rear seat corresponds to the positional relationship between the driver's seat and the passenger seat in the driver's seat and the passenger seat as viewed from the rear seat passenger. The outward line-of-sight of the passengers in the driver seat and the passenger seat is corrected inward.

また、本発明においては、まず撮像により得られた画像を左右に2つの領域に分割し、次いで分割した2つの領域の配置を左右に置換する画像処理を行ってもよい。この画像処理の場合であっても、上述の場合と同様に、後席用の画像表示装置に表示される画像は、運転席及び助手席の乗員の位置関係が、後席の乗員から見た運転席及び助手席の乗員の位置関係に対応すると共に、運転席及び助手席の乗員の外向きの視線が内向きに補正される。   In the present invention, first, an image obtained by imaging may be divided into two regions on the left and right, and then image processing may be performed to replace the arrangement of the two divided regions on the left and right. Even in the case of this image processing, as in the case described above, the image displayed on the image display device for the rear seat is the positional relationship between the driver seat and the passenger seat viewed from the rear seat passenger. This corresponds to the positional relationship between the driver's seat and the passenger seat, and the outward line of sight of the driver seat and passenger seat passenger is corrected inward.

また、本発明においては、撮像装置が撮像した画像の運転席側及び助手席側を左右に置換する場合、元の画像と置換後の画像との各画素の位置の対応を予め変換テーブルなどに記憶しておき、記憶した対応を基に撮像により得られた画像の各画素を移動する画像処理を行ってもよい。これにより、簡単な画素の移動のみで画像処理を行うことができ、上述の場合と同様に、後席用の画像表示装置に表示される画像は、運転席及び助手席の乗員の位置関係が、後席の乗員から見た運転席及び助手席の乗員の位置関係に対応すると共に、運転席及び助手席の乗員の外向きの視線が内向きに補正される。   Further, in the present invention, when replacing the driver's seat side and the passenger's seat side of the image captured by the imaging device to the left and right, the correspondence of the position of each pixel between the original image and the replaced image is previously stored in a conversion table or the like. Image processing may be performed in which each pixel of the image obtained by imaging is moved based on the stored correspondence. As a result, image processing can be performed with only simple pixel movements, and the image displayed on the image display device for the rear seats has a positional relationship between the driver's seat and the passenger's seat in the same manner as described above. This corresponds to the positional relationship between the driver seat and the passenger seat in the passenger seat viewed from the rear seat passenger, and the outward line of sight of the driver seat and passenger seat passenger is corrected inward.

また、本発明においては、カーナビゲーション装置又はテレビチューナ等の他の装置から入力された画像と、撮像装置が撮像した前席の乗員の画像とを、後席へ向けた画像表示装置に切替えて表示する。表示する画像の切替えは、乗員の手動操作に基づく方法であってもよく、乗員の会話の有無を判断して自動的に行う方法であってもよい。これにより、後席用に設けた画像表示装置を他の目的に利用することができると共に、会話を行う際には前席乗員を撮像した画像を表示することができる。   Further, in the present invention, an image input from another device such as a car navigation device or a TV tuner and an image of a front seat occupant captured by the imaging device are switched to an image display device directed to the rear seat. indicate. Switching of images to be displayed may be a method based on a manual operation by the occupant, or may be a method automatically performed by determining the presence or absence of occupant conversation. Accordingly, the image display device provided for the rear seat can be used for other purposes, and an image obtained by capturing the front seat occupant can be displayed when a conversation is performed.

また、本発明においては、撮像装置が撮像した画像から前席の乗員の口の形状を検出する。例えば口の形状の検出は、まず撮像により得られた画像から乗員の顔に相当する領域を抽出する処理(所謂、顔認識処理)を行い、顔領域から更に上唇及び下唇を抽出する処理を行って、上唇及び下唇の湾曲度、又は上唇の頂点及び下唇の頂点の距離等を算出することで行うことができる。検出した口の形状から乗員の口の開き度合い(以下、口の開度という)を算出することができ、口の開度が所定量を超えた場合に前席の乗員の画像を画像表示装置に表示することで、会話の有無に応じた表示画像の自動切替えが実現できる。   In the present invention, the shape of the mouth of the passenger in the front seat is detected from the image captured by the imaging device. For example, the detection of the mouth shape is performed by first extracting a region corresponding to the occupant's face from an image obtained by imaging (so-called face recognition processing), and further extracting upper and lower lips from the face region. This is done by calculating the degree of curvature of the upper lip and the lower lip, or the distance between the vertex of the upper lip and the vertex of the lower lip. The degree of opening of the occupant's mouth (hereinafter referred to as the opening degree of the mouth) can be calculated from the detected shape of the mouth, and when the opening degree of the mouth exceeds a predetermined amount, an image display device of the occupant in the front seat By displaying on the screen, automatic switching of the display image according to the presence or absence of conversation can be realized.

また、本発明においては、車輌にマイクなどを搭載して前席乗員が発する音声を検出する。これにより、例えば検出した音声の音量が所定量を超えた場合に乗員の会話が発生したと判断して、前席の乗員の画像を画像表示装置に表示することができる。又は、音声認識処理を行って検出した音声が会話に係るものであるか否かを判断し、会話の音声の場合に前席の乗員の画像を画像表示装置に表示することができる。いずれの方法であっても、検出した音声により会話の有無を判断することができ、会話の有無に応じた表示画像の自動切替えが実現できる。   In the present invention, a microphone or the like is mounted on the vehicle to detect a voice emitted by the front seat occupant. Thereby, for example, when the detected sound volume exceeds a predetermined amount, it is determined that a passenger's conversation has occurred, and an image of the passenger in the front seat can be displayed on the image display device. Alternatively, it is possible to determine whether or not the voice detected by performing the voice recognition process is related to the conversation, and in the case of the voice of the conversation, the image of the front seat occupant can be displayed on the image display device. In any method, the presence or absence of conversation can be determined based on the detected voice, and automatic switching of display images according to the presence or absence of conversation can be realized.

本発明による場合は、運転席側及び助手席側の乗員を一括して撮像した画像に所定の画像処理を施して、運転席及び助手席の乗員の位置関係が後席の乗員から見た運転席及び助手席の乗員の位置関係に対応すると共に、運転席及び助手席の乗員の外向きの視線が内向きに補正された画像を、後席へ向けた画像表示装置に表示することにより、後席の乗員が前席の乗員の表情などを確認しながら、違和感なく車輌内で会話を行うことができる。   In the case of the present invention, predetermined image processing is performed on images obtained by collectively capturing the passengers on the driver's seat and passenger's side, and the positional relationship between the passengers on the driver's seat and the passenger's seat is viewed from the rear passengers. By displaying on the image display device facing the rear seat, an image corresponding to the positional relationship between the passengers in the seat and the passenger seat, and the outward line of sight of the passengers in the driver seat and the passenger seat corrected inward, The passenger in the rear seat can talk in the vehicle without feeling uncomfortable while checking the facial expression of the passenger in the front seat.

また、本発明による場合は、他の装置から入力された画像又は撮像装置が撮像した画像を、画像表示装置に手動又は自動で切替えて表示することにより、後席用に設けた画像表示装置を多目的に利用することができるため、車載用画像表示システムの利便性を向上することができる。   Further, according to the present invention, an image display device provided for the rear seat is displayed by switching an image input from another device or an image captured by the imaging device manually or automatically on the image display device. Since it can be used for multiple purposes, the convenience of the in-vehicle image display system can be improved.

また、本発明による場合は、撮像装置が撮像した画像から乗員の口の形状を検出し、及び/又は、前席の乗員が発する音声を検出し、検出結果に基づいて画像表示装置に表示する画像を切替えることにより、他の装置からの画像を画像表示装置に表示している場合であっても、前席の乗員の有無に応じて表示画像の自動切替えを行うことができるため、車載用画像表示システムの利便性をより向上することができる。   Further, according to the present invention, the shape of the passenger's mouth is detected from the image captured by the imaging device, and / or the sound emitted by the passenger in the front seat is detected, and displayed on the image display device based on the detection result. By switching the image, even when an image from another device is displayed on the image display device, the display image can be automatically switched according to the presence or absence of a passenger in the front seat. The convenience of the image display system can be further improved.

(実施の形態1)
以下、本発明をその実施の形態を示す図面に基づき具体的に説明する。図1は、本発明の実施の形態1に係る車載用画像表示システムの構成を示すブロック図である。図において1は車輌のインストルメントパネルの中央(センタークラスタ)などに搭載されて、車輌の運転席及び助手席(の乗員)を撮像する撮像装置である。撮像装置1が撮像した画像は、車輌の適所に搭載されたECU(Electronic Control Unit)2にて種々の画像処理が施されて、車輌の後席用の画像表示装置3に表示されるようにしてある。なお、撮像装置1及びECU2、並びにECU2及び画像表示装置3は、専用の通信線、汎用の車内LAN(Local Area Network)用ケーブル又は無線にて接続されている。
(Embodiment 1)
Hereinafter, the present invention will be specifically described with reference to the drawings showing embodiments thereof. FIG. 1 is a block diagram showing a configuration of an in-vehicle image display system according to Embodiment 1 of the present invention. In the figure, reference numeral 1 denotes an imaging device that is mounted in the center (center cluster) of an instrument panel of a vehicle and images a driver's seat and a passenger seat (passenger) of the vehicle. The image picked up by the image pickup device 1 is subjected to various image processing by an ECU (Electronic Control Unit) 2 mounted at an appropriate position of the vehicle so as to be displayed on the image display device 3 for the rear seat of the vehicle. It is. The imaging device 1 and the ECU 2 and the ECU 2 and the image display device 3 are connected by a dedicated communication line, a general-purpose in-vehicle LAN (Local Area Network) cable, or wirelessly.

撮像装置1は、広角レンズ11及び撮像素子12を用いて撮像を行うビデオカメラである。広角レンズ11は、例えば90°以上の広い画角を有するレンズであり、車輌のセンタークラスタに搭載された撮像装置1の撮像範囲に車輌の運転席及び助手席を含むことができ、運転席の乗員及び助手席の乗員を一括して撮像することができるようにしてある。撮像素子12は、例えばCCD(Charge Coupled Device)などにより1秒間に60回程度の頻度で撮像を行うことができ、広角レンズ11によって集められた光に応じた電気信号をECU2へ出力するようにしてある。   The imaging device 1 is a video camera that performs imaging using a wide-angle lens 11 and an imaging element 12. The wide-angle lens 11 is a lens having a wide angle of view of, for example, 90 ° or more. The imaging range of the imaging device 1 mounted on the center cluster of the vehicle can include a driver seat and a passenger seat of the vehicle. The passengers and passengers in the passenger seat can be imaged collectively. The image pickup device 12 can pick up an image with a frequency of about 60 times per second using, for example, a CCD (Charge Coupled Device), and outputs an electric signal corresponding to the light collected by the wide-angle lens 11 to the ECU 2. It is.

ECU2は、A/D変換部21、画像処理部22、D/A変換部23、画像メモリ24及びテーブル用メモリ25等を備えている。撮像装置1の撮像素子12が出力した電気信号はECU2のA/D変換部21へ与えられ、アナログの電気信号からデジタルデータの画像に変換される。A/D変換部21は、変換したデジタルデータの画像を画像処理部22へ与えるようにしてある。   The ECU 2 includes an A / D conversion unit 21, an image processing unit 22, a D / A conversion unit 23, an image memory 24, a table memory 25, and the like. The electric signal output from the image pickup device 12 of the image pickup apparatus 1 is supplied to the A / D converter 21 of the ECU 2 and converted from an analog electric signal to an image of digital data. The A / D conversion unit 21 provides an image of the converted digital data to the image processing unit 22.

画像処理部22は、A/D変換部21から与えられた画像に種々の画像処理を施してD/A変換部23へ出力するようにしてある。画像処理部22が行う画像処理は、例えば歪補正、拡大/縮小、一部の切り出し及び他の画像の重畳等の処理であり、更に本発明の車載用画像表示システムにおけるECU2の画像処理部22では、車輌の前席の乗員と後席の乗員との会話に適した画像を画像表示装置3に表示するための画像処理を行うようにしてある(この画像処理の詳細は後述する)。   The image processing unit 22 performs various image processing on the image given from the A / D conversion unit 21 and outputs the processed image to the D / A conversion unit 23. The image processing performed by the image processing unit 22 is, for example, processing such as distortion correction, enlargement / reduction, partial clipping, and superimposition of other images, and the image processing unit 22 of the ECU 2 in the in-vehicle image display system of the present invention. Then, image processing for displaying on the image display device 3 an image suitable for the conversation between the front passenger and the rear passenger is performed (details of this image processing will be described later).

画像処理部22は、A/D変換部21から与えられた画像、画像処理の過程で発生する一時的な画像又は画像処理後の画像等を画像メモリ24に記憶して処理を行うようにしてある。画像メモリ24は、SRAM(Static Random Access Memory)又はDRAM(Dynamic Random Access Memory)等のデータ書き換え可能な大容量のメモリ素子で構成されている。また、テーブル用メモリ25には、画像処理部22が上述の画像処理を行う際に用いる変換テーブルなど(例えば、歪補正テーブルなど)が予め記憶してあり、画像処理部22がテーブル用メモリ25から変換テーブルを読み出して画像処理を行うようにしてある。テーブル用メモリ25は、例えばマスクROM(Read Only Memory)又はEEPROM(Electrically Erasable Programmable ROM)等の不揮発性のメモリ素子で構成されている。   The image processing unit 22 stores the image provided from the A / D conversion unit 21, a temporary image generated in the course of image processing, an image after image processing, or the like in the image memory 24 for processing. is there. The image memory 24 is composed of a large-capacity memory device such as SRAM (Static Random Access Memory) or DRAM (Dynamic Random Access Memory) that can rewrite data. The table memory 25 stores in advance a conversion table (for example, a distortion correction table) used when the image processing unit 22 performs the above-described image processing, and the image processing unit 22 stores the table memory 25. The conversion table is read out from the image and image processing is performed. The table memory 25 is composed of a nonvolatile memory element such as a mask ROM (Read Only Memory) or an EEPROM (Electrically Erasable Programmable ROM).

D/A変換部23は、画像処理部22から画像処理が施された画像を与えられており、与えられたデジタルデータの画像を画像表示装置3の表示に適したアナログ信号に変換して、画像表示装置3へ出力するようにしてある。画像表示装置3は、例えば液晶ディスプレイであり、ECU2のD/A変換部23から与えられる信号に基づいて表示を行うようにしてある。また、画像表示装置は、車輌の運転席若しくは助手席の背面、又は車輌の天井等に配設されて、後席の乗員に対して画像を表示することができるようにしてある。   The D / A conversion unit 23 is given an image subjected to image processing from the image processing unit 22, converts the image of the given digital data into an analog signal suitable for display on the image display device 3, and The image is output to the image display device 3. The image display device 3 is, for example, a liquid crystal display, and performs display based on a signal given from the D / A conversion unit 23 of the ECU 2. The image display device is arranged on the back of the driver's seat or the front passenger seat of the vehicle, or on the ceiling of the vehicle, and can display an image to the passengers in the rear seat.

図2は、本発明の実施の形態1に係る車載用画像表示システムの画像処理部22が行う画像処理を説明するための模式図であり、(a)に撮像装置1が撮像した画像を示し、その後(a)から(d)までアルファベット順に処理を時系列で示してある。なお、図示の画像例は、車輌の右側に運転席が設けられた所謂右ハンドル車の場合である。車輌のセンタークラスタに搭載された撮像装置1が広角レンズ11を用いて車内を撮像した場合、広角レンズ11は被写界深度が深く画角が広く、画像の周辺部分でゆがみが生じるため、撮像により得られる画像(元画像51)は運転席及び助手席の乗員の視線が互いに外向きとなる(図2(a)参照)。   FIG. 2 is a schematic diagram for explaining image processing performed by the image processing unit 22 of the in-vehicle image display system according to Embodiment 1 of the present invention, and (a) shows an image captured by the imaging device 1. Thereafter, the processing is shown in time series in alphabetical order from (a) to (d). The illustrated image example is a so-called right-hand drive vehicle in which a driver's seat is provided on the right side of the vehicle. When the imaging device 1 mounted in the center cluster of the vehicle images the interior of the vehicle using the wide-angle lens 11, the wide-angle lens 11 has a large depth of field and a wide angle of view, and distortion occurs in the peripheral portion of the image. In the image (original image 51) obtained by the above, the lines of sight of the passengers in the driver's seat and the passenger seat are outward (see FIG. 2 (a)).

まず、画像処理部22は、撮像装置1から与えられた元画像51を、左右反転した画像(鏡像画像52)となるように各画素の位置を移動させる画像処理を行う(図2(b)参照)。次いで、画像処理部22は、画像処理により得られた鏡像画像52を、運転席側の第1領域53a及び助手席側の第2領域53bに分割し(図2(c)参照)、第1領域53a及び第2領域53bがそれぞれ左右反転した2つの鏡像画像となるように、第1領域53a及び第2領域53bのそれぞれの画素位置を移動させる画像処理を行って、表示画像54を取得する(図2(d)参照)。   First, the image processing unit 22 performs image processing for moving the position of each pixel so that the original image 51 given from the imaging device 1 is a horizontally reversed image (mirror image 52) (FIG. 2B). reference). Next, the image processing unit 22 divides the mirror image 52 obtained by the image processing into a first area 53a on the driver's seat side and a second area 53b on the passenger seat side (see FIG. 2C). Image processing is performed to move the respective pixel positions of the first region 53a and the second region 53b so that the region 53a and the second region 53b are two mirror image images that are horizontally reversed, and the display image 54 is acquired. (See FIG. 2 (d)).

図3は、画像表示装置3に表示される画像の表示例であり、(A)に車輌の後席から見た車内及び画像表示装置3の様子を示し、(B)に画像表示装置3に表示される画像を示してある。図示の車輌60は運転席61が右側に設けられ右ハンドル車であり、インストルメントパネルの略中央に設けられたセンタークラスタに撮像装置1が配設されている。画像表示装置3は、車輌60の運転席61及び助手席62の間の位置に、車輌60の天井から吊り下げられる態様で配設してあり、車輌の後席の乗員が視認できるようにしてある。後席の乗員から見た場合、右側が運転席61の運転者71であり、左側が助手席62の乗員72である。   FIG. 3 is a display example of an image displayed on the image display device 3, (A) shows the interior of the vehicle as viewed from the rear seat of the vehicle and the state of the image display device 3, and (B) shows the image display device 3. The displayed image is shown. The illustrated vehicle 60 is a right-hand drive vehicle with a driver's seat 61 provided on the right side, and the imaging device 1 is disposed in a center cluster provided substantially at the center of the instrument panel. The image display device 3 is arranged in a mode that is suspended from the ceiling of the vehicle 60 at a position between the driver's seat 61 and the passenger seat 62 of the vehicle 60 so that an occupant in the rear seat of the vehicle can see. is there. When viewed from the rear seat passenger, the right side is the driver 71 of the driver seat 61, and the left side is the passenger 72 of the passenger seat 62.

運転席61が右側に設けられた車輌60内のセンタークラスタに配された撮像装置1が撮像した元画像51は、図2(a)に示すように左側に運転席61の運転者71が写され、右側に助手席62の乗員72が写された画像である。この元画像51を直接に画像表示装置3に表示した場合、表示される運転者71及び助手席62の乗員72の位置関係と、後席の乗員から見た運転者71及び乗員72の実際の位置関係とが左右逆になる。   The original image 51 captured by the imaging device 1 arranged in the center cluster in the vehicle 60 provided with the driver's seat 61 on the right side is a photograph of the driver 71 of the driver's seat 61 on the left side as shown in FIG. The image shows the passenger 72 of the passenger seat 62 on the right side. When the original image 51 is directly displayed on the image display device 3, the positional relationship between the displayed driver 71 and the passenger 72 of the passenger seat 62 and the actual state of the driver 71 and the passenger 72 viewed from the passenger in the rear seat are displayed. The positional relationship is reversed left and right.

これに対して、図2に示した画像処理を画像処理部22にて行った表示画像54を画像表示装置3に表示した場合、表示される画像の位置関係と後席の乗員から見た実際の位置関係とが一致し、右側が運転席61の運転者71であり、左側が助手席62の乗員72である(図3参照)。また、鏡像画像52と表示画像54とを比較すると、鏡像画像52では運転席61の運転者71及び助手席62の乗員72の視線がそれぞれ反対方向の外向きであり、会話には不自然な画像であるが、表示画像54では内向きであり、会話に適した画像である。   On the other hand, when the display image 54 obtained by performing the image processing shown in FIG. 2 in the image processing unit 22 is displayed on the image display device 3, the positional relationship between the displayed images and the actual view from the occupant of the rear seat The right side is the driver 71 of the driver seat 61 and the left side is the passenger 72 of the passenger seat 62 (see FIG. 3). Further, when the mirror image 52 and the display image 54 are compared, in the mirror image 52, the lines of sight of the driver 71 in the driver seat 61 and the passenger 72 in the passenger seat 62 are outward in opposite directions, which is unnatural for conversation. Although it is an image, the display image 54 is inward and is an image suitable for conversation.

図4は、本発明の実施の形態1に係る車載用画像表示システムのECU2が行う処理の手順を示すフローチャートである。ECU2は、まず、撮像装置1から与えられる電気信号をA/D変換部21にてデジタルデータの画像に変換することによって、撮像装置1にて撮像された画像(元画像51)を取得する(ステップS1、図2(a)参照)。次いでECU2は、画像処理部22にて元画像51を左右反転する画像処理を行い(ステップS2)、鏡像画像52を取得する(図2(b)参照)。なお、画像処理部22による元画像51の左右反転は、元画像51を構成する各画素を予め定められた位置に移動させることで行うことができる。   FIG. 4 is a flowchart showing a procedure of processing performed by the ECU 2 of the in-vehicle image display system according to Embodiment 1 of the present invention. The ECU 2 first acquires an image (original image 51) captured by the imaging device 1 by converting an electrical signal given from the imaging device 1 into an image of digital data by the A / D converter 21 ( Step S1, see FIG. 2 (a)). Next, the ECU 2 performs image processing for horizontally inverting the original image 51 in the image processing unit 22 (step S2), and acquires a mirror image 52 (see FIG. 2B). Note that the horizontal reversal of the original image 51 by the image processing unit 22 can be performed by moving each pixel constituting the original image 51 to a predetermined position.

次いで、ECU2は、鏡像画像52を運転席61側の第1領域53aと助手席62側の第2領域53bとに左右に分割し(ステップS3、図2(c)参照)、第1領域53a及び第2領域53bをそれぞれ左右反転する画像処理を行って(ステップS4)、表示画像54を取得する(図2(d)参照)。なお、画像処理部22による第1領域53a及び第2領域53bの左右反転は、第1領域53a及び第2領域53bを構成する各画素を予め定められた位置にそれぞれ移動させることで行うことができる。その後、ECU2は、デジタルデータの表示画像54をD/A変換部23にてアナログの信号に変換して画像表示装置3へ出力することにより、画像の表示を行って(ステップS5)、処理を終了する。   Next, the ECU 2 divides the mirror image 52 into a first region 53a on the driver's seat 61 side and a second region 53b on the passenger seat 62 side (see step S3, FIG. 2 (c)), and the first region 53a. And the image processing which reverses right and left each of the 2nd field 53b is performed (Step S4), and display picture 54 is acquired (refer to Drawing 2 (d)). Note that the horizontal reversal of the first region 53a and the second region 53b by the image processing unit 22 can be performed by moving the pixels constituting the first region 53a and the second region 53b to predetermined positions, respectively. it can. Thereafter, the ECU 2 displays the image by converting the display image 54 of the digital data into an analog signal by the D / A conversion unit 23 and outputting the analog signal to the image display device 3 (step S5). finish.

なお、図示の処理は、撮像装置1が撮像を行う都度、1秒間に60回程度の頻度で繰り返し行われる。また、ステップS3に示した画像の分割は、実際に画像のデータを2つに分割する必要はなく、ステップS4の左右反転を運転席側と助手席側とでそれぞれ別に行うことができれば十分である。   Note that the illustrated process is repeatedly performed at a frequency of about 60 times per second each time the imaging apparatus 1 captures an image. Further, the image division shown in step S3 does not need to actually divide the image data into two, and it is sufficient if the left-right reversal of step S4 can be performed separately on the driver seat side and the passenger seat side. is there.

以上の構成の実施の形態1に係る車載用画像表示システムは、撮像装置1が撮像した画像を左右反転し、左右に2つの領域に分割し、各領域をそれぞれ左右反転して画像表示装置3に表示する構成とすることにより、後席の乗員から見た運転席61の運転者71及び助手席62の乗員72の位置関係と、画像表示装置3に表示された運転者71および乗員72の位置関係とを一致させることができると共に、運転者71及び乗員72の視線が内向きに補正されるため、後席の乗員が画像表示装置3に表示された画像を見ながら違和感なく会話を行うことができる。   The in-vehicle image display system according to the first embodiment having the above configuration horizontally inverts an image captured by the imaging device 1, divides the image into two regions on the left and right, and horizontally inverts each region, so that the image display device 3 With the configuration displayed in FIG. 5, the positional relationship between the driver 71 of the driver seat 61 and the passenger 72 of the passenger seat 62 viewed from the rear passenger, and the driver 71 and the passenger 72 displayed on the image display device 3 are displayed. The positional relationship can be matched, and the driver's 71 and the occupant 72's line of sight are corrected inward, so that the occupant in the rear seat has a conversation while looking at the image displayed on the image display device 3. be able to.

なお、本実施の形態においては、車載用画像表示システムの撮像装置1、ECU2及び画像表示装置3がそれぞれ別体で車輌に搭載される構成としたが、これに限るものではなく、撮像装置1及びECU2を一体としてもよく、又はECU2及び画像表示装置3を一体としてもよい。また、撮像装置1が撮像した画像をアナログの電気信号として出力する構成としたが、これに限るものではなく、撮像装置1がデジタルデータの画像をECU2へ出力する構成としてもよい。また、ECU2は画像処理を施した画像をアナログの信号に変換して画像表示装置3へ出力する構成としたが、これに限るものではなく、画像処理を施した画像をデジタルデータとして出力する構成としてもよい。   In the present embodiment, the imaging device 1, the ECU 2, and the image display device 3 of the in-vehicle image display system are separately mounted on the vehicle. However, the present invention is not limited to this, and the imaging device 1 And the ECU 2 may be integrated, or the ECU 2 and the image display device 3 may be integrated. In addition, the image captured by the image capturing apparatus 1 is output as an analog electrical signal. However, the present invention is not limited to this, and the image capturing apparatus 1 may output an image of digital data to the ECU 2. Further, the ECU 2 is configured to convert the image-processed image into an analog signal and output the analog signal to the image display device 3. However, the present invention is not limited to this, and the image-processed image is output as digital data. It is good.

また、図3に示した画像の表示例は車輌60の運転席61及び助手席62にそれぞれ運転者71及び乗員72が乗車している場合であり、例えば運転席61に運転者71が乗車しているが、助手席62には乗員72が乗車していない場合には、以下の例のように異なる表示を行う構成としてもよい。図5は、画像表示装置3に表示される画像の別の表示例であり、(A)に車輌の後席から見た車内及び画像表示装置3の様子を示し、(B)に画像表示装置3に表示される表示画像154を示してある。   In addition, the display example of the image shown in FIG. 3 is a case where the driver 71 and the passenger 72 are on the driver seat 61 and the passenger seat 62 of the vehicle 60, respectively. For example, the driver 71 gets on the driver seat 61. However, when the passenger 72 is not in the passenger seat 62, a different display may be used as in the following example. FIG. 5 is another display example of the image displayed on the image display device 3, (A) shows the interior of the vehicle and the image display device 3 as seen from the rear seat of the vehicle, and (B) shows the image display device. 3 shows a display image 154 displayed.

車輌60の運転席61に運転者71が乗車し、助手席62には乗員72が乗車していない場合、ECU2は撮像装置1が撮像した画像から運転席61側の半分の画像を切り出して拡大する画像処理を行って、画像表示装置3に表示するようにしてある。このとき、ECU2は切り出した運転席61側の画像を左右反転して表示してもよく、左右反転せずに表示してもよい(図5には左右反転した画像を示してある)。また、ECU2は切り出した運転席61側の画像を拡大せずに表示してもよい。   When the driver 71 gets on the driver's seat 61 of the vehicle 60 and the passenger 72 does not get on the passenger seat 62, the ECU 2 cuts and enlarges the half image on the driver's seat 61 side from the image captured by the imaging device 1. The image processing is performed and displayed on the image display device 3. At this time, the ECU 2 may display the clipped image of the driver's seat 61 in a horizontally reversed manner, or may display the image without horizontally flipping (FIG. 5 shows a horizontally reversed image). Further, the ECU 2 may display the clipped driver seat 61 side image without enlarging it.

(実施の形態2)
実施の形態1に係る車載用画像表示システムは、撮像装置1が撮像した元画像51を左右反転し、第1領域53a及び第2領域53bに左右分割し、各領域を左右反転する画像処理をECU2の画像処理部22が行う構成であるが、画像処理部22が行う画像処理はこれに限らない。実施の形態2に係る車載用画像表示システムは、画像処理部22がこれとは異なる画像処理を行う構成である。図6は、本発明の実施の形態2に係る車載用画像表示システムの画像処理部22が行う画像処理を説明するための模式図であり、(a)に撮像装置1が撮像した画像を示し、その後(a)から(c)までアルファベット順に処理を時系列で示してある。
(Embodiment 2)
The in-vehicle image display system according to Embodiment 1 performs image processing in which the original image 51 captured by the imaging device 1 is horizontally reversed, divided into a first region 53a and a second region 53b, and each region is horizontally reversed. Although the image processing unit 22 of the ECU 2 performs the configuration, the image processing performed by the image processing unit 22 is not limited to this. The in-vehicle image display system according to Embodiment 2 has a configuration in which the image processing unit 22 performs image processing different from this. FIG. 6 is a schematic diagram for explaining the image processing performed by the image processing unit 22 of the in-vehicle image display system according to the second embodiment of the present invention. FIG. 6A shows an image captured by the imaging device 1. Thereafter, the processing is shown in time series in alphabetical order from (a) to (c).

まず、画像処理部22は、撮像装置1から与えられた元画像51(図6(a)参照)を、運転席側の第1領域252a及び助手席側の第2領域252bに左右に分割する(図6(b)参照)。次いで、画像処理部22は、第1領域252a及び第2領域252bの位置を左右に置換するように、各領域の画素位置を移動させる画像処理を行って、表示画像54を取得する。   First, the image processing unit 22 divides the original image 51 (see FIG. 6A) given from the imaging device 1 into a first area 252a on the driver's seat side and a second area 252b on the passenger seat side. (See FIG. 6 (b)). Next, the image processing unit 22 acquires the display image 54 by performing image processing for moving the pixel position of each region so as to replace the positions of the first region 252a and the second region 252b to the left and right.

図6に示した画像処理で得られる表示画像54と、図2に示した画像処理で得られる表示画像54とは同じ画像であり、実施の形態2に係る車載用画像表示システムがこの表示画像54を画像表示装置3に表示することによって、実施の形態1に係る車載用画像表示システムと同様の効果を得ることができる。   The display image 54 obtained by the image processing shown in FIG. 6 and the display image 54 obtained by the image processing shown in FIG. 2 are the same image, and the vehicle-mounted image display system according to the second embodiment displays this display image. By displaying 54 on the image display device 3, the same effect as the vehicle-mounted image display system according to the first embodiment can be obtained.

図7は、本発明の実施の形態2に係る車載用画像表示システムのECU2が行う処理の手順を示すフローチャートである。ECU2は、まず、撮像装置1から与えられる電気信号をA/D変換部21にてデジタルデータの画像に変換することによって、撮像装置1にて撮像された画像(元画像51)を取得する(ステップS11、図6(a)参照)。次いでECU2は、元画像51を運転席側の第1領域252aと助手席側の第2領域252bとに左右に分割し(ステップS12、図6(b)参照)、第1領域252a及び第2領域252bの位置を左右に置換する画像処理を行って(ステップS13)、表示画像54を取得する(図6(c)参照)。その後、ECU2は、デジタルデータの表示画像54をD/A変換部23にてアナログの信号に変換して画像表示装置3へ出力することにより、画像の表示を行い(ステップS14)、処理を終了する。   FIG. 7 is a flowchart showing a procedure of processing performed by the ECU 2 of the in-vehicle image display system according to Embodiment 2 of the present invention. The ECU 2 first acquires an image (original image 51) captured by the imaging device 1 by converting an electrical signal given from the imaging device 1 into an image of digital data by the A / D converter 21 ( Step S11, see FIG. 6A). Next, the ECU 2 divides the original image 51 into a first area 252a on the driver's seat side and a second area 252b on the passenger seat side (see step S12, FIG. 6B), and the first area 252a and the second area 252a. Image processing for replacing the position of the region 252b to the left and right is performed (step S13), and the display image 54 is acquired (see FIG. 6C). Thereafter, the ECU 2 displays the image by converting the display image 54 of the digital data into an analog signal by the D / A conversion unit 23 and outputting the analog signal to the image display device 3 (step S14), and ends the processing. To do.

なお、図示の処理は、撮像装置1が撮像を行う都度、1秒間に60回程度の頻度で繰り返し行われる。また、ステップS12に示した画像の分割は、実際に画像のデータを2つに分割する必要はなく、ステップS13の左右置換を運転席側と助手席側とでそれぞれ別に行うことができれば十分である。   Note that the illustrated process is repeatedly performed at a frequency of about 60 times per second each time the imaging apparatus 1 captures an image. Further, the image division shown in step S12 does not need to actually divide the image data into two, and it is sufficient if the left and right replacement in step S13 can be performed separately on the driver seat side and the passenger seat side. is there.

以上の構成の実施の形態2に係る車載用画像表示システムは、撮像装置1が撮像した画像を左右に2つの領域に分割し、各領域の位置を左右に置換して画像表示装置3に表示する構成とすることにより、後席の乗員から見た運転席の運転者及び助手席の乗員の位置関係と、画像表示装置3に表示された運転者及び乗員の位置関係とを一致させることができると共に、運転者及び乗員の視線が内向きに補正されるため、後席の乗員が画像表示装置3に表示された画像を見ながら違和感なく会話を行うことができる。   The in-vehicle image display system according to the second embodiment having the above configuration divides an image captured by the imaging device 1 into two regions on the left and right, and displays the image on the image display device 3 by replacing the position of each region to the left and right. By adopting such a configuration, the positional relationship between the driver in the driver seat and the passenger in the passenger seat viewed from the passenger in the rear seat and the positional relationship between the driver and the passenger displayed on the image display device 3 can be matched. In addition, since the driver's and passenger's line of sight are corrected inwardly, the passenger in the rear seat can talk with the user while looking at the image displayed on the image display device 3.

なお、実施の形態2に係る車載用画像表示システムのその他の構成は、実施の形態1に係る車載用画像表示システムの構成と同様であるため、対応する箇所には同じ符号を付して説明を省略する。   In addition, since the other structure of the vehicle-mounted image display system which concerns on Embodiment 2 is the same as that of the vehicle-mounted image display system which concerns on Embodiment 1, it attaches | subjects the same code | symbol to a corresponding location, and demonstrates it. Is omitted.

(実施の形態3)
実施の形態3に係る車載用画像表示システムは、上述の画像処理とは更に異なる画像処理を画像処理部22が行う構成である。図8は、本発明の実施の形態3に係る車載用画像表示システムの画像処理部22が行う画像処理を説明するための模式図であり、(a)に撮像装置1が撮像した画像を示し、(b)に画像表示装置3に表示される画像を示してある。
(Embodiment 3)
The in-vehicle image display system according to Embodiment 3 has a configuration in which the image processing unit 22 performs image processing that is further different from the above-described image processing. FIG. 8 is a schematic diagram for explaining image processing performed by the image processing unit 22 of the in-vehicle image display system according to Embodiment 3 of the present invention. FIG. 8A shows an image captured by the imaging device 1. (B) shows an image displayed on the image display device 3.

実施の形態1にて図2に示した元画像51及び表示画像54、又は実施の形態2にて図6に示した元画像51及び表示画像54を比較すると、表示画像54は、元画像51の運転席側と助手席側とを左右に入れ替えた画像であることがわかる。そこで、実施の形態3に係る車載用画像表示システムでは、元画像51の各画素の位置に対して、対応する表示画像54での各画素の位置を予め記憶した変換テーブル25aをテーブル用メモリ35に予め記憶しておく。   When comparing the original image 51 and the display image 54 shown in FIG. 2 in Embodiment 1 or the original image 51 and the display image 54 shown in FIG. 6 in Embodiment 2, the display image 54 is the original image 51. It can be seen that this is an image in which the driver's seat side and the passenger's seat side are replaced on the left and right. Therefore, in the in-vehicle image display system according to the third embodiment, the conversion table 25a in which the position of each pixel in the display image 54 corresponding to the position of each pixel in the original image 51 is stored in advance is used as the table memory 35. Is stored in advance.

変換テーブル25aは、入力された画素の位置に対して移動先の位置を出力するようにしてあり、元画像51の全画素についての移動先の位置が記憶してある。ECU2の画像処理部22は、テーブル用メモリ25から変換テーブル25aを読み出して、撮像装置1から与えられた元画像51の各画素の位置を移動することによって、表示画像54を取得し、画像表示装置3に表示するようにしてある。   The conversion table 25a outputs the movement destination position with respect to the input pixel position, and stores the movement destination positions for all the pixels of the original image 51. The image processing unit 22 of the ECU 2 reads the conversion table 25a from the table memory 25, acquires the display image 54 by moving the position of each pixel of the original image 51 given from the imaging device 1, and displays the image. The information is displayed on the device 3.

図9は、変換テーブル25aによる画素の移動を説明するための模式図であり、(a)に元画像51の8つの画素A〜Hを示し、(b)に表示画像54での各画素A〜Hの移動先を示してある。また、図10は、変換テーブル25aの一構成例を示す模式図であり、図9に示した画素の移動を実現するための変換テーブル25aの構成を示してある。なお、図9及び図10においては、画像の各画素は(x、y)の座標で位置を示してある。また、図中の”m”及び”n”は画像のサイズにより決定される偶数の定数であり、”i”はi=m−iを満たす定数(即ち、(i、y)及び(i+1、y)がx方向の中央の画素となる定数)である。   FIG. 9 is a schematic diagram for explaining the movement of the pixels by the conversion table 25a. (A) shows the eight pixels A to H of the original image 51, and (b) shows each pixel A in the display image 54. The movement destination of ~ H is shown. FIG. 10 is a schematic diagram showing a configuration example of the conversion table 25a, and shows the configuration of the conversion table 25a for realizing the movement of the pixels shown in FIG. In FIG. 9 and FIG. 10, each pixel of the image has a position indicated by coordinates (x, y). Also, “m” and “n” in the figure are even constants determined by the size of the image, and “i” is a constant that satisfies i = m−i (ie, (i, y) and (i + 1, y) is a constant that becomes the center pixel in the x direction).

例えば、元画像51の左上の画素A(0、0)は、表示画像54のx方向の中央右側の画素A(i+1、0)に移動され、元画像51の中央左側の画素B(i、0)は、表示画像54の右上の画素B(m、0)に移動される。また、元画像51の中央右側の画素C(i+1、0)は、表示画像54の左上の画素C(0、0)に移動され、元画像51の右上の画素D(m、0)は、表示画像54の中央左側の画素D(i、0)に移動される。これらの各画素の元画像51での位置と、表示画像54での位置とは、変換テーブル25aに入力座標及び出力座標として一対一に予め定められて記憶されている。   For example, the upper left pixel A (0, 0) of the original image 51 is moved to the center right pixel A (i + 1, 0) in the x direction of the display image 54, and the center left pixel B (i, 0) of the original image 51 is moved. 0) is moved to the upper right pixel B (m, 0) of the display image 54. Further, the pixel C (i + 1, 0) on the right side of the center of the original image 51 is moved to the pixel C (0, 0) on the upper left of the display image 54, and the pixel D (m, 0) on the upper right of the original image 51 is The pixel is moved to the pixel D (i, 0) on the left side of the center of the display image 54. The position of each pixel in the original image 51 and the position in the display image 54 are stored in the conversion table 25a in a predetermined one-to-one relationship as input coordinates and output coordinates.

図11は、本発明の実施の形態3に係る車載用画像表示システムのECU2が行う処理の手順を示すフローチャートである。ECU2は、まず、撮像装置1から与えられる電気信号をA/D変換部21にてデジタルデータの画像に変換することによって、撮像装置1にて撮像された画像(元画像51)を取得する(ステップS21、図8(a)参照)。次いで、ECU2は、テーブル用メモリ25から予め記憶された変換テーブル25aを読み出し(ステップS22)、変換テーブル25aに従って元画像51の各画素の位置を移動し(ステップS23)、表示画像54を取得する(図8(b)参照)。その後、ECU2は、デジタルデータの表示画像54をD/A変換部23にてアナログの信号に変換して画像表示装置3へ出力することにより、画像の表示を行い(ステップS24)、処理を終了する。   FIG. 11 is a flowchart showing a procedure of processing performed by the ECU 2 of the in-vehicle image display system according to Embodiment 3 of the present invention. The ECU 2 first acquires an image (original image 51) captured by the imaging device 1 by converting an electrical signal given from the imaging device 1 into an image of digital data by the A / D converter 21 ( Step S21, see FIG. 8A). Next, the ECU 2 reads the conversion table 25a stored in advance from the table memory 25 (step S22), moves the position of each pixel of the original image 51 according to the conversion table 25a (step S23), and acquires the display image 54. (See FIG. 8 (b)). Thereafter, the ECU 2 displays the image by converting the display image 54 of the digital data into an analog signal by the D / A conversion unit 23 and outputting the analog signal to the image display device 3 (step S24), and ends the processing. To do.

以上の構成の実施の形態3に係る車載用画像表示システムは、撮像装置1が撮像した画像の各画素を移動させる位置を変換テーブル25aに予め記憶しておき、変換テーブル25aを用いて各画素を移動させて取得した表示画像54を画像表示装置3に表示する構成とすることにより、実施の形態1及び実施の形態2の場合と比較して簡単な画像処理で表示画像54を取得することができ、後席の乗員が画像を見ながら違和感なく会話を行うことができる画像を画像表示装置3に表示することができる。   In the on-vehicle image display system according to Embodiment 3 having the above-described configuration, the position where each pixel of the image captured by the imaging device 1 is moved is stored in advance in the conversion table 25a, and each pixel is stored using the conversion table 25a. The display image 54 obtained by moving the image is displayed on the image display device 3, so that the display image 54 can be acquired by simple image processing as compared with the case of the first and second embodiments. It is possible to display on the image display device 3 an image that allows a passenger in the rear seat to talk without feeling uncomfortable while looking at the image.

なお、実施の形態3に係る車載用画像表示システムのその他の構成は、実施の形態1に係る車載用画像表示システムの構成と同様であるため、対応する箇所には同じ符号を付して説明を省略する。   In addition, since the other structure of the vehicle-mounted image display system which concerns on Embodiment 3 is the same as that of the structure of the vehicle-mounted image display system which concerns on Embodiment 1, it attaches | subjects the same code | symbol to a corresponding location, and demonstrates it. Is omitted.

(実施の形態4)
実施の形態1〜3に係る車載用画像表示システムは、撮像装置1が撮像した画像を画像表示装置3に表示するのみであるが、実施の形態4に係る車載用画像表示システムは、撮像装置1が撮像した画像と他の装置から与えられた画像とを画像表示装置3に切替えて表示する構成である。図12は、本発明の実施の形態4に係る車載用画像表示システムの構成を示すブロック図である。実施の形態4に係る車載用画像表示システムは、撮像装置1が運転席及び助手席を一括して撮像した画像をECU202へ与えると共に、カーナビゲーション装置204が案内用の地図画像などをECU202へ与えるようにしてある。ECU202は、撮像装置1から与えられた画像又はカーナビゲーション装置204から与えられた画像のいずれかを選択して、画像表示装置3に表示するようにしてある。
(Embodiment 4)
Although the in-vehicle image display system according to the first to third embodiments only displays the image captured by the imaging device 1 on the image display device 3, the in-vehicle image display system according to the fourth embodiment is the imaging device. Reference numeral 1 denotes a configuration in which an image captured by an image and an image given from another device are switched to the image display device 3 and displayed. FIG. 12 is a block diagram showing a configuration of an in-vehicle image display system according to Embodiment 4 of the present invention. In the in-vehicle image display system according to the fourth embodiment, the image pickup apparatus 1 provides the ECU 202 with images of the driver's seat and the passenger's seat collectively, and the car navigation device 204 provides a map image for guidance to the ECU 202. It is like that. The ECU 202 selects either an image given from the imaging device 1 or an image given from the car navigation device 204 and displays it on the image display device 3.

ECU202は、ユーザによる操作を受け付ける操作部227と、撮像装置1及びカーナビゲーション装置204から与えられる画像のいずれを表示するかの選択に係る制御を行う制御部226とを備えている。操作部227は、一又は複数のボタン又はスイッチ等を有しており、ユーザから受け付けた操作内容を制御部226へ通知するようにしてある。例えば、ユーザは操作部227を操作することによって、画像表示装置3に表示する画像の設定を(1)撮像装置1が撮像した画像に固定、(2)カーナビゲーション装置204の画像に固定又は(3)ECU202による自動切換の3つの設定から選択することができるようにしてある。   The ECU 202 includes an operation unit 227 that receives an operation by a user, and a control unit 226 that performs control related to selection of which image to be displayed from the imaging device 1 and the car navigation device 204 is displayed. The operation unit 227 has one or a plurality of buttons or switches, and notifies the control unit 226 of the operation content received from the user. For example, the user operates the operation unit 227 to (1) fix the setting of an image displayed on the image display device 3 to an image captured by the imaging device 1 and (2) fix the image to the image of the car navigation device 204 ( 3) It can be selected from three settings of automatic switching by the ECU 202.

制御部226は、操作部227から通知された操作内容を基に、ユーザによる画像表示の設定が上記(1)〜(3)のいずれであるかを判断し、この設定に応じて画像処理部222の動作を制御するようにしてある。画像処理部222には、A/D変換部21から撮像装置1が撮像した画像が与えられると共に、カーナビゲーション装置204から案内用の地図画像などが与えられている。画像処理部222は、これらの画像から制御部226の制御に応じて1つを選択し、種々の画像処理を施してD/A変換部23へ与えることにより画像表示装置3に選択した画像を表示するようにしてある。   Based on the operation content notified from the operation unit 227, the control unit 226 determines which of the above-described (1) to (3) is the image display setting by the user, and the image processing unit according to this setting. The operation of 222 is controlled. The image processing unit 222 is provided with an image captured by the imaging device 1 from the A / D conversion unit 21 and a map image for guidance from the car navigation device 204. The image processing unit 222 selects one of these images in accordance with the control of the control unit 226, performs various image processing, and gives the selected image to the image display device 3 by giving it to the D / A conversion unit 23. It is supposed to be displayed.

ユーザによって(1)撮像装置1が撮像した画像に固定の設定が選択された場合、制御部226は、撮像装置1が撮像した画像を画像表示装置3に表示するように、画像処理部222の選択を制御するようにしてある。また、ユーザによって(2)カーナビゲーション装置204の画像に固定の設定が選択された場合、制御部226は、カーナビゲーション装置204からの画像を画像表示装置3に表示するように、画像処理部222の選択を制御するようにしてある。   When the user selects (1) a fixed setting for an image captured by the imaging device 1, the control unit 226 displays the image captured by the imaging device 1 on the image display device 3. The selection is controlled. When the user selects (2) a fixed setting for the image of the car navigation device 204, the control unit 226 displays the image from the car navigation device 204 on the image display device 3. The selection is controlled.

また、ユーザによって(3)ECU202による自動切換の設定が選択された場合、制御部226は、撮像装置1が撮像した画像を基に、車輌の前席(運転席及び助手席)の乗員が会話したか否かを判定するようにしてある。前席の乗員が会話したと判定した場合、制御部226は撮像装置1が撮像した画像を画像表示装置3に表示するように、画像処理部222の選択を制御し、前席の乗員が会話していないと判定した場合には、カーナビゲーション装置204からの画像を画像表示装置3に表示するように、画像処理部222の選択を制御するようにしてある。   When the user selects (3) automatic switching setting by the ECU 202, the control unit 226 allows the passengers in the front seats (driver's seat and front passenger seat) of the vehicle to talk based on the image captured by the imaging device 1. It is determined whether or not it has been done. When it is determined that the front seat occupant has a conversation, the control unit 226 controls the selection of the image processing unit 222 so that the image captured by the imaging device 1 is displayed on the image display device 3, and the front seat occupant has a conversation. If it is determined that the image processing unit 222 has not been selected, the selection of the image processing unit 222 is controlled so that the image from the car navigation device 204 is displayed on the image display device 3.

このとき、制御部226は撮像装置1が撮像した画像から前席の乗員の顔を検出し、乗員の顔の口の形状を検出することによって、乗員の会話の有無を判定するようにしてある。撮像装置1が撮像した画像からの乗員の顔の検出は、既存の顔認識技術などで行われているものであるため詳細な説明は省略するが、例えば画像のコントラストなどを基に2つの目に相当する部分を探し出して、この2つの目を含む領域が顔の構造を有するか否かを判断することで行うことができる。また、口の形状の検出は、顔部分の画像にフィルタ処理及び閾値処理等を行うことによって上唇及び下唇の輪郭などを抽出することで行うことができ、制御部226は検出した口の形状から上唇及び下唇の湾曲度、又は上唇の頂点及び下唇の頂点の距離等に基づいて口の開度を算出するようにしてある。制御部226は、算出した口の開度が所定量を超えるか否かを判定し、口の開度が所定量を超えた場合に乗員が会話を行ったと判断することができる。   At this time, the control unit 226 detects the front passenger's face from the image captured by the imaging device 1 and determines the presence / absence of the passenger's conversation by detecting the shape of the mouth of the passenger's face. . The detection of the occupant's face from the image captured by the image capturing apparatus 1 is performed by the existing face recognition technology and the like, and thus detailed description thereof is omitted. For example, the two eyes are based on the contrast of the image. This can be done by searching for a portion corresponding to and determining whether or not the region including the two eyes has a facial structure. Further, the shape of the mouth can be detected by extracting the contours of the upper lip and the lower lip by performing filter processing and threshold processing on the face image, and the control unit 226 detects the shape of the detected mouth. The opening degree of the mouth is calculated based on the degree of curvature of the upper lip and the lower lip, the distance between the upper lip vertex and the lower lip vertex, or the like. The control unit 226 determines whether or not the calculated opening of the mouth exceeds a predetermined amount, and can determine that the occupant has a conversation when the opening of the mouth exceeds the predetermined amount.

図13は、本発明の実施の形態4に係る車載用画像表示システムのECU202が行う画像切替処理の手順を示すフローチャートであり、ECU202の制御部226が行う処理を示してある。まず、制御部226は、画像処理部222から撮像装置1が撮像した画像を取得し(ステップS31)、画像のコントラストなどを基に2つの目に相当する部分を探し出して、この2つの目を含む領域が顔の構造を有するか否かを判断することによって乗員の顔検出を行う(ステップS32)。次いで制御部226は、検出した画像中の乗員の顔部分から上唇及び下唇の輪郭などを抽出することで口の形状を検出し(ステップS33)、検出した口の形状から上唇及び下唇の湾曲度、又は上唇の頂点及び下唇の頂点の距離等に基づいて口の開度を算出する(ステップS34)。   FIG. 13 is a flowchart showing a procedure of image switching processing performed by ECU 202 of the vehicle-mounted image display system according to Embodiment 4 of the present invention, and shows processing performed by control unit 226 of ECU 202. First, the control unit 226 acquires an image captured by the imaging apparatus 1 from the image processing unit 222 (step S31), searches for a portion corresponding to the two eyes based on the contrast of the image, and the two eyes. The occupant's face is detected by determining whether or not the area to be included has a face structure (step S32). Next, the control unit 226 detects the shape of the mouth by extracting the contours of the upper lip and the lower lip from the face part of the occupant in the detected image (step S33), and detects the upper lip and the lower lip from the detected mouth shape. The opening degree of the mouth is calculated based on the degree of curvature or the distance between the apex of the upper lip and the apex of the lower lip (step S34).

次いで、制御部226は、算出した口の開度が予め決定された所定量を超えるか否かを判定する(ステップS35)。口の開度が所定量を超える場合(S35:YES)、制御部226は撮像装置1が撮像した画像を画像表示装置3に表示するように画像処理部222の選択を制御し(ステップS36)、画像切替処理を終了する。また、口の開度が所定量を超えない場合(S35:NO)、制御部226はカーナビゲーション装置204からの画像を表示するように画像処理部222の選択を制御し(ステップS37)、画像切替処理を終了する。   Next, the control unit 226 determines whether or not the calculated opening of the mouth exceeds a predetermined amount determined in advance (step S35). When the opening degree of the mouth exceeds a predetermined amount (S35: YES), the control unit 226 controls the selection of the image processing unit 222 so that the image captured by the imaging device 1 is displayed on the image display device 3 (step S36). Then, the image switching process ends. When the opening degree of the mouth does not exceed the predetermined amount (S35: NO), the control unit 226 controls the selection of the image processing unit 222 so as to display the image from the car navigation device 204 (step S37). The switching process is terminated.

以上の構成の実施の形態4に係る車載用画像表示システムは、ユーザによる表示の設定を操作部227にて受け付け、受け付けた設定に応じてECU2が撮像装置1からの画像又はカーナビゲーション装置204からの画像のいずれかを選択して画像表示装置3に表示する構成とすることにより、後席用の画像表示装置を多目的に利用することができる。また、撮像装置1が撮像した画像を基にECU2が前席の乗員の口の形状を検出し、口の開度に応じて表示する画像を切替える構成とすることにより、前席の乗員による会話の有無に応じた表示画像の自動切替えを行うことができ、車載用画像表示システムの利便性をより向上することができる。   In the in-vehicle image display system according to the fourth embodiment having the above-described configuration, the display setting by the user is received by the operation unit 227, and the ECU 2 receives the image from the imaging device 1 or the car navigation device 204 according to the received setting. By selecting one of the images and displaying it on the image display device 3, the rear seat image display device can be used for multiple purposes. Further, the ECU 2 detects the shape of the mouth of the occupant in the front seat based on the image captured by the imaging device 1 and switches the image to be displayed according to the opening of the mouth, so that the conversation by the occupant in the front seat The display image can be automatically switched according to the presence or absence of the camera, and the convenience of the in-vehicle image display system can be further improved.

なお、実施の形態4においては、制御部226が画像処理部222から画像を取得して顔検出、口の形状検出、口の開度の算出及び開度の判定等の処理を行う構成としたが、これに限るものではなく、これらの処理の一部を画像処理部222にて行う構成としてもよい。また、操作部227をECU2に設ける構成としたが、これに限るものではなく、画像表示装置3に設ける構成としてもよく、この場合には画像表示装置3からECU2へユーザの操作内容を通知する構成とすればよい。また、操作部227をリモートコントローラなどの別体とする構成としてもよい。   In the fourth embodiment, the control unit 226 acquires an image from the image processing unit 222 and performs processing such as face detection, mouth shape detection, mouth opening calculation, and opening degree determination. However, the present invention is not limited to this, and a part of these processes may be performed by the image processing unit 222. Further, although the operation unit 227 is provided in the ECU 2, the present invention is not limited to this, and may be provided in the image display device 3. In this case, the operation content of the user is notified from the image display device 3 to the ECU 2. What is necessary is just composition. The operation unit 227 may be configured as a separate unit such as a remote controller.

また、図13に示したフローチャートでは、口の開度が所定量を超えない場合にはカーナビゲーション装置204の画像を画像表示装置3に表示するため、前席の乗員が会話を終了した直後に画像の切替えが行われる虞があるため、撮像装置1からの画像を表示するように切替えを行った場合には、所定時間が経過するまでカーナビゲーション装置204の画像に切替えを行わずに、撮像装置1の画像を継続して表示する構成としてもよい。   In the flowchart shown in FIG. 13, when the opening degree of the mouth does not exceed a predetermined amount, an image of the car navigation device 204 is displayed on the image display device 3, so immediately after the passenger in the front seat ends the conversation. Since there is a possibility that the image is switched, when switching is performed so that the image from the imaging device 1 is displayed, the image of the car navigation device 204 is not switched until the predetermined time elapses. It is good also as a structure which displays the image of the apparatus 1 continuously.

また、画像表示装置3には撮像装置1の画像又はカーナビゲーション装置204の画像のいずれかを表示する構成としたが、これに限るものではなく、例えば車輌の助手席に乗員が乗車していない場合などには、画像表示装置3の表示領域を二分して両方の画像を表示する構成としてもよい。図14は、画像表示装置3に表示される画像の別の表示例であり、(A)に車輌の後席から見た車内及び画像表示装置3の様子を示し、(B)に画像表示装置3に表示される表示画像254を示してある。本図に示す表示例では、画像表示装置3の表示領域を左右に二分し、左側にカーナビゲーション装置204からの地図画像を表示し、右側に撮像装置1が撮像した画像を表示している。このように、ECU2にて前席の運転手71による会話を検出した場合には両方の画像を表示し、会話を検出しない場合にはカーナビゲーション装置204からの画像のみを表示する構成としてもよい。   Further, the image display device 3 is configured to display either the image of the imaging device 1 or the image of the car navigation device 204. However, the present invention is not limited to this. For example, no passenger is in the passenger seat of the vehicle. In some cases, the display area of the image display device 3 may be divided into two to display both images. FIG. 14 is another display example of an image displayed on the image display device 3, (A) shows the interior of the vehicle as viewed from the rear seat of the vehicle and the state of the image display device 3, and (B) the image display device. 3 shows a display image 254 displayed. In the display example shown in this figure, the display area of the image display device 3 is divided into right and left, a map image from the car navigation device 204 is displayed on the left side, and an image captured by the imaging device 1 is displayed on the right side. Thus, when the conversation by the front seat driver 71 is detected in the ECU 2, both images are displayed, and when the conversation is not detected, only the image from the car navigation device 204 may be displayed. .

なお、実施の形態4に係る車載用画像表示システムのその他の構成は、実施の形態1に係る車載用画像表示システムの構成と同様であるため、対応する箇所には同じ符号を付して説明を省略する。   In addition, since the other structure of the vehicle-mounted image display system which concerns on Embodiment 4 is the same as that of the structure of the vehicle-mounted image display system which concerns on Embodiment 1, it attaches | subjects the same code | symbol to a corresponding location, and demonstrates it. Is omitted.

(実施の形態5)
実施の形態4に係る車載用画像表示システムは、撮像装置1が撮像した画像を基に前席の乗員による会話の有無を判定する構成であるが、実施の形態5に係る車載画像表示システムは音声検出により会話の有無を判定する構成である。図15は、本発明の実施の形態5に係る車載用画像表示システムの構成を示すブロック図である。実施の形態4に係る車載用画像表示システムは、マイク305を備えており、マイク305が集音した音は電気信号又はデジタルデータとしてECU302の制御部326へ与えられる。マイク305は、車輌のインストルメントパネルなど前席の乗員が発する音声を検出することができる位置に配設してある。制御部326は、操作部227が受け付けたユーザの操作及びマイク305が検出した音声に応じて画像処理部322の制御を行って、画像表示装置3に表示する画像の切替えを行うようにしてある。
(Embodiment 5)
The in-vehicle image display system according to the fourth embodiment is configured to determine whether or not there is a conversation by a passenger in the front seat based on the image captured by the imaging device 1, but the in-vehicle image display system according to the fifth embodiment It is the structure which determines the presence or absence of a conversation by audio | voice detection. FIG. 15 is a block diagram showing a configuration of an in-vehicle image display system according to Embodiment 5 of the present invention. The in-vehicle image display system according to Embodiment 4 includes a microphone 305, and the sound collected by the microphone 305 is given to the control unit 326 of the ECU 302 as an electric signal or digital data. The microphone 305 is disposed at a position where it is possible to detect the sound emitted by the front passenger, such as an instrument panel of a vehicle. The control unit 326 controls the image processing unit 322 in accordance with the user operation received by the operation unit 227 and the sound detected by the microphone 305 to switch the image displayed on the image display device 3. .

画像表示装置3に表示する画像に係る設定としてユーザが自動切換を選択した場合、制御部326はマイク305が集音した音が乗員の会話によるものであるか否かを判定し、判定結果に基づいて表示画像の切替えを行うようにしてある。集音した音が会話によるものであるか否かの判定は、集音された音から波形又は音響分析の結果等の特徴量データを取得し、予め記憶した音声及び非音声(環境音)の特徴量テンプレートと比較することによって行うことができる。ただし、判定方法は上記のものに限らず、一般的な音声認識技術に用いられる方法であってよい。また、マイク305の指向性が高く、高精度に前席の乗員が発する音声を検出できる構成であれば、上記のように音の特徴量データなどを取得することなく、マイク305が検出した音声の音量が所定量を超えるか否かの簡単な判定のみで会話の有無を判定する構成としてもよい。   When the user selects automatic switching as the setting related to the image displayed on the image display device 3, the control unit 326 determines whether or not the sound collected by the microphone 305 is due to the conversation of the occupant. The display image is switched based on this. Whether or not the collected sound is due to conversation is obtained by acquiring feature data such as a waveform or a result of acoustic analysis from the collected sound, and storing pre-stored sound and non-speech (environmental sound) This can be done by comparing with a feature amount template. However, the determination method is not limited to the above method, and may be a method used in general speech recognition technology. In addition, if the microphone 305 has high directivity and can accurately detect the voice emitted by the passenger in the front seat, the voice detected by the microphone 305 can be acquired without acquiring the sound feature data as described above. It is good also as a structure which determines the presence or absence of a conversation only by simple determination of whether the sound volume of exceeds the predetermined amount.

制御部326は、マイク305が検出した音声から前席の乗員が会話したと判定した場合、撮像装置1が撮像した画像を画像表示装置3に表示するように画像処理部322の選択を制御し、前席の乗員が会話していないと判定した場合には、カーナビゲーション装置204からの画像を画像表示装置3に表示するように画像処理部322の選択を制御するようにしてある。画像処理部322は、制御部326による制御に基づいて、撮像装置1から与えられてA/D変換部21にて変換された画像、又はカーナビゲーション装置204から与えられた画像のいずれかを選択し、D/A変換部23へ与えることによって、画像表示装置3に選択した画像を表示するようにしてある。   The control unit 326 controls the selection of the image processing unit 322 so that the image captured by the imaging device 1 is displayed on the image display device 3 when it is determined from the sound detected by the microphone 305 that the front seat occupant has a conversation. When it is determined that the front passenger is not talking, the selection of the image processing unit 322 is controlled so that the image from the car navigation device 204 is displayed on the image display device 3. Based on the control by the control unit 326, the image processing unit 322 selects either the image given from the imaging device 1 and converted by the A / D conversion unit 21 or the image given from the car navigation device 204. The selected image is displayed on the image display device 3 by giving it to the D / A converter 23.

図16は、本発明の実施の形態5に係る車載用画像表示システムのECU302が行う画像切替処理の手順を示すフローチャートであり、ECU302の制御部326が行う処理を示してある。まず、制御部326は、マイク305による集音を行って車輌の前席の音声を検出し(ステップS41)、検出した音声から乗員の会話の有無を判定する(ステップS42)。判定の結果、乗員の会話がある場合(S43:YES)、制御部326は撮像装置1が撮像した画像を画像表示装置3に表示するように画像処理部322の選択を制御し(ステップS44)、画像切替処理を終了する。また、乗員の会話がない場合(S43:NO)、制御部326はカーナビゲーション装置204からの画像を表示するように画像処理部322の選択を制御し(ステップS45)、画像切替処理を終了する。   FIG. 16 is a flowchart showing a procedure of image switching processing performed by the ECU 302 of the vehicle-mounted image display system according to Embodiment 5 of the present invention, and shows processing performed by the control unit 326 of the ECU 302. First, the control unit 326 collects sound with the microphone 305 to detect the front seat voice of the vehicle (step S41), and determines the presence or absence of passenger conversation from the detected voice (step S42). If there is a passenger conversation as a result of the determination (S43: YES), the control unit 326 controls the selection of the image processing unit 322 so that the image captured by the imaging device 1 is displayed on the image display device 3 (step S44). Then, the image switching process ends. If there is no occupant conversation (S43: NO), the control unit 326 controls the selection of the image processing unit 322 to display an image from the car navigation device 204 (step S45), and the image switching process is terminated. .

以上の構成の実施の形態5に係る車載用画像表示システムは、マイク305が検出した音声を基に前席の乗員による会話の有無を判定し、判定結果に応じて画像表示装置3に表示する画像を切替える構成とすることにより、前席の乗員による会話の有無に応じた表示画像の自動切替えを行うことができ、車載用画像表示システムの利便性をより向上することができる。   The vehicle-mounted image display system according to the fifth embodiment having the above configuration determines the presence or absence of a conversation by the front seat occupant based on the sound detected by the microphone 305 and displays it on the image display device 3 according to the determination result. By adopting a configuration for switching images, it is possible to automatically switch display images according to the presence or absence of a conversation by a passenger in the front seat, and the convenience of the in-vehicle image display system can be further improved.

なお、本実施の形態にて図15に示したマイク305は1つのみであるが、これに限るものではなく、運転席側及び助手席側にそれぞれマイク305を設ける構成としてもよく、車輌内に3つ以上のマイク305を搭載する構成としてもよい。また、ECU302がマイク305の音声検出に基づく切替えのみでなく、撮像装置1が撮像した画像からの乗員の口形状の検出結果に基づく切替え(実施の形態4参照)を併用してもよい。   Note that although there is only one microphone 305 shown in FIG. 15 in the present embodiment, the present invention is not limited to this. The microphone 305 may be provided on the driver seat side and the passenger seat side. Alternatively, three or more microphones 305 may be mounted. The ECU 302 may use not only switching based on the sound detection of the microphone 305 but also switching based on the detection result of the passenger's mouth shape from the image captured by the imaging device 1 (see Embodiment 4).

なお、実施の形態5に係る車載用画像表示システムのその他の構成は、実施の形態4に係る車載用画像表示システムの構成と同様であるため、対応する箇所には同じ符号を付して説明を省略する。   In addition, since the other structure of the vehicle-mounted image display system which concerns on Embodiment 5 is the same as that of the structure of the vehicle-mounted image display system which concerns on Embodiment 4, it attaches | subjects the same code | symbol to a corresponding location, and demonstrates it. Is omitted.

本発明の実施の形態1に係る車載用画像表示システムの構成を示すブロック図である。It is a block diagram which shows the structure of the vehicle-mounted image display system which concerns on Embodiment 1 of this invention. 本発明の実施の形態1に係る車載用画像表示システムの画像処理部が行う画像処理を説明するための模式図である。It is a schematic diagram for demonstrating the image process which the image process part of the vehicle-mounted image display system which concerns on Embodiment 1 of this invention performs. 画像表示装置に表示される画像の表示例である。It is an example of a display of the image displayed on an image display device. 本発明の実施の形態1に係る車載用画像表示システムのECUが行う処理の手順を示すフローチャートである。It is a flowchart which shows the procedure of the process which ECU of the vehicle-mounted image display system which concerns on Embodiment 1 of this invention performs. 画像表示装置に表示される画像の別の表示例である。It is another example of a display of the image displayed on an image display apparatus. 本発明の実施の形態2に係る車載用画像表示システムの画像処理部が行う画像処理を説明するための模式図である。It is a schematic diagram for demonstrating the image process which the image process part of the vehicle-mounted image display system which concerns on Embodiment 2 of this invention performs. 本発明の実施の形態2に係る車載用画像表示システムのECUが行う処理の手順を示すフローチャートである。It is a flowchart which shows the procedure of the process which ECU of the vehicle-mounted image display system which concerns on Embodiment 2 of this invention performs. 本発明の実施の形態3に係る車載用画像表示システムの画像処理部が行う画像処理を説明するための模式図である。It is a schematic diagram for demonstrating the image process which the image process part of the vehicle-mounted image display system which concerns on Embodiment 3 of this invention performs. 変換テーブルによる画素の移動を説明するための模式図である。It is a schematic diagram for demonstrating the movement of the pixel by a conversion table. 変換テーブルの一構成例を示す模式図である。It is a schematic diagram which shows one structural example of a conversion table. 本発明の実施の形態3に係る車載用画像表示システムのECUが行う処理の手順を示すフローチャートである。It is a flowchart which shows the procedure of the process which ECU of the vehicle-mounted image display system which concerns on Embodiment 3 of this invention performs. 本発明の実施の形態4に係る車載用画像表示システムの構成を示すブロック図である。It is a block diagram which shows the structure of the vehicle-mounted image display system which concerns on Embodiment 4 of this invention. 本発明の実施の形態4に係る車載用画像表示システムのECUが行う画像切替処理の手順を示すフローチャートである。It is a flowchart which shows the procedure of the image switching process which ECU of the vehicle-mounted image display system which concerns on Embodiment 4 of this invention performs. 画像表示装置に表示される画像の別の表示例である。It is another example of a display of the image displayed on an image display apparatus. 本発明の実施の形態5に係る車載用画像表示システムの構成を示すブロック図である。It is a block diagram which shows the structure of the vehicle-mounted image display system which concerns on Embodiment 5 of this invention. 本発明の実施の形態5に係る車載用画像表示システムのECUが行う画像切替処理の手順を示すフローチャートである。It is a flowchart which shows the procedure of the image switching process which ECU of the vehicle-mounted image display system which concerns on Embodiment 5 of this invention performs.

符号の説明Explanation of symbols

1 撮像装置
2 ECU(画像処理装置)
3 画像表示装置
11 広角レンズ
12 撮像素子
21 A/D変換部
22 画像処理部(移動する手段、分割する手段)
23 D/A変換部
24 画像メモリ
25 テーブル用メモリ(記憶手段)
25a 変換テーブル
51 元画像
52 鏡像画像
53a 第1領域
53b 第2領域
54 表示画像
60 車輌
61 運転席
62 助手席
154 表示画像
202 ECU(画像処理装置)
204 カーナビゲーション装置(他の装置)
222 画像処理部(移動する手段、分割する手段、画像入力手段、画像切替手段)
226 制御部(口形状検出手段)
227 操作部
302 ECU(画像処理装置)
305 マイク(音声検出手段)
322 画像処理部(移動する手段、分割する手段、画像入力手段、画像切替手段)
326 制御部
327 操作部
1 imaging device 2 ECU (image processing device)
3 Image display device 11 Wide-angle lens 12 Image sensor 21 A / D converter 22 Image processing unit (moving means, dividing means)
23 D / A converter 24 Image memory 25 Table memory (storage means)
25a conversion table 51 original image 52 mirror image 53a first area 53b second area 54 display image 60 vehicle 61 driver's seat 62 passenger's seat 154 display image 202 ECU (image processing device)
204 Car navigation device (other devices)
222 Image processing unit (moving means, dividing means, image input means, image switching means)
226 Control unit (mouth shape detection means)
227 Operation unit 302 ECU (image processing apparatus)
305 Microphone (voice detection means)
322 Image processing unit (moving means, dividing means, image input means, image switching means)
326 Control unit 327 Operation unit

Claims (12)

広角レンズを有する撮像装置で車輌の運転席側及び助手席側の乗員を一括して撮像し、撮像した画像を前記車輌の後席へ向けた画像表示装置に表示する画像表示方法において、
前記撮像装置が撮像した画像の各画素を左右反転した位置へ移動し、
左右反転した画像を運転席側に該当する第1領域及び助手席側に該当する第2領域に分割し、
前記第1領域の各画素を前記第1領域内で左右反転した位置へ移動すると共に、前記第2領域の各画素を前記第2領域内で左右反転した位置へ移動し、
各領域を左右反転した画像を前記画像表示装置に表示すること
を特徴とする画像表示方法。
In an image display method for capturing images of passengers on the driver's side and passenger's side of a vehicle at a time with an imaging device having a wide-angle lens, and displaying the captured image on an image display device facing the rear seat of the vehicle,
Move each pixel of the image captured by the imaging device to a position that is horizontally reversed,
The horizontally reversed image is divided into a first area corresponding to the driver seat side and a second area corresponding to the passenger seat side,
Moving each pixel in the first area to a position horizontally reversed in the first area, and moving each pixel in the second area to a position horizontally reversed in the second area;
An image display method, comprising: displaying an image obtained by horizontally inverting each region on the image display device.
広角レンズを有する撮像装置で車輌の運転席側及び助手席側の乗員を一括して撮像し、撮像した画像を前記車輌の後席へ向けた画像表示装置に表示する画像表示方法において、
前記撮像装置が撮像した画像を運転席側に該当する第1領域及び助手席側に該当する第2領域に分割し、
前記第1領域及び第2領域を左右に置換した位置へ前記画像の各画素を移動し、
各領域を左右置換した画像を前記画像表示装置に表示すること
を特徴とする画像表示方法。
In an image display method for capturing images of passengers on the driver's side and passenger's side of a vehicle at a time with an imaging device having a wide-angle lens, and displaying the captured image on an image display device facing the rear seat of the vehicle,
The image captured by the imaging device is divided into a first region corresponding to the driver's seat side and a second region corresponding to the passenger seat side,
Move each pixel of the image to a position where the first region and the second region are replaced left and right;
An image display method, comprising: displaying an image in which each region is replaced left and right on the image display device.
広角レンズを有する撮像装置で車輌の運転席側及び助手席側の乗員を一括して撮像し、撮像した画像を前記車輌の後席へ向けた画像表示装置に表示する画像表示方法において、
前記撮像装置が撮像した画像と、前記画像の運転席側及び助手席側が左右に置換された画像とについて、各画素の位置の対応を予め記憶しておき、
前記撮像装置が撮像した画像の各画素を前記対応に応じて移動し、
前記対応に応じて各画素を移動した画像を前記画像表示装置に表示すること
を特徴とする画像表示方法。
In an image display method for capturing images of passengers on the driver's side and passenger's side of a vehicle at a time with an imaging device having a wide-angle lens, and displaying the captured image on an image display device facing the rear seat of the vehicle,
For the image captured by the imaging device and the image in which the driver seat side and the passenger seat side of the image are replaced on the left and right, the correspondence between the positions of the pixels is stored in advance.
Move each pixel of the image captured by the imaging device according to the correspondence,
An image display method, wherein an image in which each pixel is moved in accordance with the correspondence is displayed on the image display device.
車輌に搭載され、前記車輌の運転席側及び助手席側の乗員を一括して撮像する広角レンズを有する撮像装置と、前記車輌の後席へ向けて画像を表示する画像表示装置と、前記撮像装置が撮像した画像に画像処理を施して前記画像表示装置に表示させる処理を行う画像処理装置とを備える車載用画像表示システムにおいて、
前記画像処理装置は、
前記撮像装置が撮像した画像の各画素を左右反転した位置へ移動する手段と、
左右反転した画像を運転席側に該当する第1領域及び助手席側に該当する第2領域に分割する手段と、
前記第1領域の各画素を前記第1領域内で左右反転した位置へ移動すると共に、前記第2領域の各画素を前記第2領域内で左右反転した位置へ移動する手段と
を有すること
を特徴とする車載用画像表示システム。
An imaging device mounted on a vehicle and having a wide-angle lens that collectively images passengers on the driver side and passenger side of the vehicle, an image display device that displays an image toward the rear seat of the vehicle, and the imaging In an in-vehicle image display system comprising: an image processing apparatus that performs image processing on an image captured by the apparatus and displays the image on the image display apparatus;
The image processing apparatus includes:
Means for moving each pixel of the image captured by the imaging device to a position that is horizontally reversed;
Means for dividing the horizontally reversed image into a first region corresponding to the driver's seat side and a second region corresponding to the passenger seat side;
And means for moving each pixel in the first region to a horizontally reversed position in the first region and moving each pixel in the second region to a horizontally reversed position in the second region. An on-vehicle image display system that is characterized.
車輌に搭載され、前記車輌の運転席側及び助手席側の乗員を一括して撮像する広角レンズを有する撮像装置と、前記車輌の後席へ向けて画像を表示する画像表示装置と、前記撮像装置が撮像した画像に画像処理を施して前記画像表示装置に表示させる処理を行う画像処理装置とを備える車載用画像表示システムにおいて、
前記画像処理装置は、
前記撮像装置が撮像した画像を運転席側に該当する第1領域及び助手席側に該当する第2領域に分割する手段と、
前記第1領域及び第2領域を左右に置換した位置へ前記画像の各画素を移動する手段と
を有すること
を特徴とする車載用画像表示システム。
An imaging device mounted on a vehicle and having a wide-angle lens that collectively images passengers on the driver side and passenger side of the vehicle, an image display device that displays an image toward the rear seat of the vehicle, and the imaging In an in-vehicle image display system comprising: an image processing apparatus that performs image processing on an image captured by the apparatus and displays the image on the image display apparatus;
The image processing apparatus includes:
Means for dividing an image captured by the imaging device into a first region corresponding to a driver seat side and a second region corresponding to a passenger seat side;
An in-vehicle image display system comprising: means for moving each pixel of the image to a position where the first region and the second region are replaced left and right.
車輌に搭載され、前記車輌の運転席側及び助手席側の乗員を一括して撮像する広角レンズを有する撮像装置と、前記車輌の後席へ向けて画像を表示する画像表示装置と、前記撮像装置が撮像した画像に画像処理を施して前記画像表示装置に表示させる処理を行う画像処理装置とを備える車載用画像表示システムにおいて、
前記画像処理装置は、
前記撮像装置が撮像した画像と、前記画像の運転席側及び助手席側が左右に置換された画像とについて、各画素の位置の対応を予め記憶した記憶手段と、
前記撮像装置が撮像した画像の各画素を前記記憶手段が記憶した前記対応に応じて移動する手段と
を有すること
を特徴とする車載用画像表示システム。
An imaging device mounted on a vehicle and having a wide-angle lens that collectively images passengers on the driver side and passenger side of the vehicle, an image display device that displays an image toward the rear seat of the vehicle, and the imaging In an in-vehicle image display system comprising: an image processing apparatus that performs image processing on an image captured by the apparatus and displays the image on the image display apparatus;
The image processing apparatus includes:
Storage means for storing in advance the correspondence of the position of each pixel for the image captured by the imaging device and the image in which the driver seat side and the passenger seat side of the image are replaced on the left and right;
An in-vehicle image display system comprising: means for moving each pixel of an image picked up by the image pickup device according to the correspondence stored in the storage means.
前記画像処理装置は、
他の装置から画像の入力を受け付ける画像入力受付手段と、
前記撮像装置が撮像した画像に画像処理を施した画像又は前記画像入力受付手段が受け付けた画像の前記画像表示装置における表示を切替える画像切替手段と
を更に有すること
を特徴とする請求項4乃至請求項6のいずれか1つに記載の車載用画像表示システム。
The image processing apparatus includes:
Image input receiving means for receiving image input from another device;
5. An image switching unit that switches an image obtained by performing image processing on an image captured by the imaging device or an image received by the image input receiving unit on the image display device. Item 7. The vehicle-mounted image display system according to any one of Items 6.
前記画像処理装置は、
前記撮像装置が撮像した画像から運転席乗員及び助手席乗員の口の形状を検出する口形状検出手段を更に有し、
前記画像切替手段が、前記口形状検出部が検出した口の形状に基づいて表示画像を切替えるようにしてあること
を特徴とする請求項7に記載の車載用画像表示システム。
The image processing apparatus includes:
Further comprising mouth shape detection means for detecting the mouth shape of the driver seat passenger and the passenger seat passenger from the image captured by the imaging device;
The in-vehicle image display system according to claim 7, wherein the image switching unit is configured to switch a display image based on a mouth shape detected by the mouth shape detection unit.
前記車輌の前席乗員の音声を検出する音声検出手段を更に備え、
前記画像切替手段は、前記音声検出手段の検出結果に基づいて表示画像を切り替えるようにしてあること
を特徴とする請求項7又は請求項8に記載の車載用画像表示システム。
Voice detection means for detecting the voice of the front seat occupant of the vehicle,
The in-vehicle image display system according to claim 7 or 8, wherein the image switching unit is configured to switch a display image based on a detection result of the sound detection unit.
車輌に搭載され、広角レンズを有する撮像装置が前記車輌の運転席側及び助手席側の乗員を一括して撮像した画像に画像処理を施して、前記車輌の後席へ向けた画像表示装置に表示させる処理を行う画像処理装置において、
前記撮像装置が撮像した画像の各画素を左右反転した位置へ移動する手段と、
左右反転した画像を運転席側に該当する第1領域及び助手席側に該当する第2領域に分割する手段と、
前記第1領域の各画素を前記第1領域内で左右反転した位置へ移動すると共に、前記第2領域の各画素を前記第2領域内で左右反転した位置へ移動する手段と
を備えること
を特徴とする画像処理装置。
An image display device mounted on a vehicle and having a wide-angle lens performs image processing on images obtained by collectively capturing images of passengers on the driver side and passenger side of the vehicle, and provides an image display device directed toward the rear seat of the vehicle In an image processing apparatus that performs processing for display,
Means for moving each pixel of the image captured by the imaging device to a position that is horizontally reversed;
Means for dividing the horizontally reversed image into a first region corresponding to the driver's seat side and a second region corresponding to the passenger seat side;
And means for moving each pixel in the first region to a horizontally reversed position in the first region and moving each pixel in the second region to a horizontally reversed position in the second region. A featured image processing apparatus.
車輌に搭載され、広角レンズを有する撮像装置が前記車輌の運転席側及び助手席側の乗員を一括して撮像した画像に画像処理を施して、前記車輌の後席へ向けた画像表示装置に表示させる処理を行う画像処理装置において、
前記撮像装置が撮像した画像を運転席側に該当する第1領域及び助手席側に該当する第2領域に分割する手段と、
前記第1領域及び第2領域を左右に置換した位置へ前記画像の各画素を移動する手段と
を備えること
を特徴とする画像処理装置。
An image display device mounted on a vehicle and having a wide-angle lens performs image processing on images obtained by collectively capturing images of passengers on the driver side and passenger side of the vehicle, and provides an image display device directed toward the rear seat of the vehicle In an image processing apparatus that performs processing for display,
Means for dividing an image captured by the imaging device into a first region corresponding to a driver seat side and a second region corresponding to a passenger seat side;
An image processing apparatus comprising: means for moving each pixel of the image to a position where the first region and the second region are replaced left and right.
車輌に搭載され、広角レンズを有する撮像装置が前記車輌の運転席側及び助手席側の乗員を一括して撮像した画像に画像処理を施して、前記車輌の後席へ向けた画像表示装置に表示させる処理を行う画像処理装置において、
前記撮像装置が撮像した画像と、前記画像の運転席側及び助手席側が左右に置換された画像とについて、各画素の位置の対応を予め記憶した記憶手段と、
前記撮像装置が撮像した画像の各画素を前記記憶手段が記憶した前記対応に応じて移動する手段と
を備えること
を特徴とする画像処理装置。
An image display device mounted on a vehicle and having a wide-angle lens performs image processing on images obtained by collectively capturing images of passengers on the driver side and passenger side of the vehicle, and provides an image display device directed toward the rear seat of the vehicle In an image processing apparatus that performs processing for display,
Storage means for storing in advance the correspondence of the position of each pixel for the image captured by the imaging device and the image in which the driver seat side and the passenger seat side of the image are replaced on the left and right;
An image processing apparatus comprising: means for moving each pixel of an image captured by the imaging apparatus according to the correspondence stored by the storage means.
JP2007259142A 2007-10-02 2007-10-02 Image display method, on-vehicle image display system and image processing apparatus Pending JP2009083791A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007259142A JP2009083791A (en) 2007-10-02 2007-10-02 Image display method, on-vehicle image display system and image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007259142A JP2009083791A (en) 2007-10-02 2007-10-02 Image display method, on-vehicle image display system and image processing apparatus

Publications (1)

Publication Number Publication Date
JP2009083791A true JP2009083791A (en) 2009-04-23

Family

ID=40657756

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007259142A Pending JP2009083791A (en) 2007-10-02 2007-10-02 Image display method, on-vehicle image display system and image processing apparatus

Country Status (1)

Country Link
JP (1) JP2009083791A (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014072753A (en) * 2012-09-28 2014-04-21 Fujitsu Ltd Warning report program, communication terminal device and warning report method
KR101392857B1 (en) 2012-10-30 2014-05-07 팽정희 Method and programed media by Side view processing which swaps image pixels for the opposite side pixels
JP2019523726A (en) * 2016-05-24 2019-08-29 ジェンテックス コーポレイション Vehicle display with selected image data display
WO2019177073A1 (en) * 2018-03-15 2019-09-19 いすゞ自動車株式会社 Detection device and detection system
CN111163974A (en) * 2017-10-05 2020-05-15 宁波吉利汽车研究开发有限公司 Display system and method for vehicle

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014072753A (en) * 2012-09-28 2014-04-21 Fujitsu Ltd Warning report program, communication terminal device and warning report method
KR101392857B1 (en) 2012-10-30 2014-05-07 팽정희 Method and programed media by Side view processing which swaps image pixels for the opposite side pixels
JP2019523726A (en) * 2016-05-24 2019-08-29 ジェンテックス コーポレイション Vehicle display with selected image data display
CN111163974A (en) * 2017-10-05 2020-05-15 宁波吉利汽车研究开发有限公司 Display system and method for vehicle
CN111163974B (en) * 2017-10-05 2023-08-15 宁波吉利汽车研究开发有限公司 Display system and method for vehicle
WO2019177073A1 (en) * 2018-03-15 2019-09-19 いすゞ自動車株式会社 Detection device and detection system
JP2019156256A (en) * 2018-03-15 2019-09-19 いすゞ自動車株式会社 Detection device and detection system
CN111801248A (en) * 2018-03-15 2020-10-20 五十铃自动车株式会社 Detection device and detection system
JP7063024B2 (en) 2018-03-15 2022-05-09 いすゞ自動車株式会社 Detection device and detection system

Similar Documents

Publication Publication Date Title
CN111163974B (en) Display system and method for vehicle
JP5672862B2 (en) Imaging apparatus, imaging system, and imaging method
KR100936557B1 (en) Perimeter monitoring apparatus and image display method for vehicle
JP2018157403A (en) On-vehicle display device, control method for on-vehicle display device, and control program for on-vehicle display device
JP6077214B2 (en) Image processing apparatus, image processing method, program, and image processing system
JP2014116756A (en) Periphery monitoring system
JP6857695B2 (en) Rear display device, rear display method, and program
JP2016168877A (en) Visual recognition device for vehicle
JP2010179850A (en) Vehicular display device
JP6810589B2 (en) In-vehicle projection device
JP2015071320A (en) Conversation support device, conversation support method, and conversation support program
JP2009083791A (en) Image display method, on-vehicle image display system and image processing apparatus
JP2018078420A (en) Vehicle image display device and vehicle image display program
JP4579132B2 (en) Vehicle / Ambient Image Providing Device
JP5236359B2 (en) In-vehicle information display device
CN111133752A (en) Expression recording system
EP3476673B1 (en) Vehicle image displaying apparatus and method of displaying image data on a head-mounted display device disposed in a vehicle
JP4696825B2 (en) Blind spot image display device for vehicles
JP7037896B2 (en) Visual assistance device
JP2021093628A (en) Vehicle peripheral display device
JP2018076035A (en) Conversation support device for vehicle
JP2004023472A (en) Forward night vision system for vehicle
KR20160064601A (en) Device for detecting occupants in a vehicle and method thereof
JP4407246B2 (en) Vehicle periphery monitoring system and vehicle periphery monitoring method
US20240087339A1 (en) Information processing device, information processing system, and information processing method