JP6891460B2 - Vehicle display system and freeze detector - Google Patents

Vehicle display system and freeze detector Download PDF

Info

Publication number
JP6891460B2
JP6891460B2 JP2016224446A JP2016224446A JP6891460B2 JP 6891460 B2 JP6891460 B2 JP 6891460B2 JP 2016224446 A JP2016224446 A JP 2016224446A JP 2016224446 A JP2016224446 A JP 2016224446A JP 6891460 B2 JP6891460 B2 JP 6891460B2
Authority
JP
Japan
Prior art keywords
image
display
region
determination unit
frames
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016224446A
Other languages
Japanese (ja)
Other versions
JP2018079839A (en
Inventor
明 江頭
明 江頭
祐次 野々山
祐次 野々山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2016224446A priority Critical patent/JP6891460B2/en
Publication of JP2018079839A publication Critical patent/JP2018079839A/en
Application granted granted Critical
Publication of JP6891460B2 publication Critical patent/JP6891460B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、車両用表示システムおよびフリーズ検出装置に関するものである。 The present invention relates to a vehicle display system and a freeze detection device.

従来、車載カメラによって撮影された車外の映像に基づく複数フレームの表示画像を順番に車載ディスプレイに出力する車両用表示システムが知られている。 Conventionally, there is known a vehicle display system that sequentially outputs a display image of a plurality of frames based on an image outside the vehicle taken by an in-vehicle camera to an in-vehicle display.

特許文献1には、このような車載表示システムのフリーズを検出する技術が記載されている。フリーズとは、車載カメラの撮影範囲の光景が変化しているにも関わらず、車載ディスプレイに出力される撮影画像に変化が全く無い事象をいう。特許文献1に記載の技術では、複数フレームの画像間で変化が無い場合に、フリーズが発生したと判定している。 Patent Document 1 describes a technique for detecting such a freeze of an in-vehicle display system. Freeze refers to an event in which there is no change in the captured image output to the in-vehicle display even though the scene in the shooting range of the in-vehicle camera has changed. In the technique described in Patent Document 1, it is determined that a freeze has occurred when there is no change between images of a plurality of frames.

特開2008−193145号公報Japanese Unexamined Patent Publication No. 2008-193145

発明者の検討によれば、複数フレームの画像間で変化があるか否かを判定する処理は、非常に負荷が高い。 According to the inventor's examination, the process of determining whether or not there is a change between images of a plurality of frames is extremely burdensome.

本発明は上記点に鑑み、車両用表示システムにおいて、フリーズを検出する処理の処理負荷を軽減することを目的とする。 In view of the above points, it is an object of the present invention to reduce the processing load of the process of detecting a freeze in a vehicle display system.

上記目的を達成するための請求項1に記載の発明は、車載カメラ(1、2)によって撮影された車外の映像に基づく複数フレームの表示画像を順番に車載ディスプレイ(5、6)に出力する主制御部(31、31a)と、前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)と、前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、前記複数フレームの前記表示画像中の前記第1領域は、前記複数フレームの表示画像における消失点に最も近い画素と上下方向の位置が同じ画素を含む、車両用表示システムである。
また、請求項3に記載の発明は、車載カメラ(1、2)によって撮影された車外の映像に基づく複数フレームの表示画像を信号線を介して順番に車載ディスプレイ(5、6)に出力する主制御部(31)と、前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)と、を有し、前記第1のコンピュータと所定の通信線で接続されている第2のコンピュータ(32)と、前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、前記主制御部は、前記複数フレームの表示画像から、前記第1領域内の画像を抽出して、前記第1判定部で用いられるよう前記通信線を介して前記2のコンピュータに出力し、前記通信線の伝送帯域幅は前記信号線の伝送帯域幅よりも狭く、前記主制御部は、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像から前記第2領域内の画像を抽出して前記通信線を介して前記第2判定部に出力する、車両用表示システムである。
また、請求項5に記載の発明は、車載カメラ(1、2)によって撮影された車外の映像に基づく複数フレームの表示画像を信号線を介して順番に車載ディスプレイ(5、6)に出力する第1のコンピュータである主制御部(31)と、前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)を有し、前記第1のコンピュータと所定の通信線で接続されている第2のコンピュータ(32)と、前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、前記主制御部は、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの画像から、前記第2領域内の画像を構成する複数個の部分画像を抽出し、抽出した複数個の部分画像を、前記第2判定部で用いられるよう、1つの部分画像の出力期間と次の部分画像の出力期間との間に時間間隔を置いて、所定の通信線を介して前記2のコンピュータに出力し、前記通信線の伝送帯域幅は前記信号線の伝送帯域幅よりも狭い、車両用表示システムである。
The invention according to claim 1 for achieving the above object sequentially outputs display images of a plurality of frames based on an image outside the vehicle taken by an in-vehicle camera (1, 2) to an in-vehicle display (5, 6). The first determination unit (S120) for determining whether or not the images in the first region of the main control units (31, 31a) and the display images of the plurality of frames sequentially output from the main control units have changed. , S220) and the case where the first determination unit determines that the image in the first region has not changed, and the display image of the plurality of frames is in the second region larger than the first region. Based on the second determination unit (S140, S240) that determines whether or not the image has changed, and the second determination unit that determines that the image in the second region has not changed, a predetermined value is determined. An abnormality handling unit (S150, S250) that performs abnormality handling processing is provided, and the first region in the display image of the plurality of frames is a pixel closest to the disappearance point in the display image of the plurality of frames and in the vertical direction. It is a display system for vehicles that includes pixels with the same position.
Further, the invention according to claim 3 outputs a plurality of frames of display images based on an image outside the vehicle taken by the vehicle-mounted camera (1, 2) to the vehicle-mounted display (5, 6) in order via a signal line. The first determination unit (S120, S120,) which determines whether or not the images in the first region of the main control unit (31 ) and the display images of the plurality of frames output in order from the main control unit have changed. S220) and the case where the first determination unit determines that the image in the first region has not changed are selected, and the image in the second region larger than the first region in the display image of the plurality of frames is selected. A second computer (32) having a second determination unit (S140, S240) for determining whether or not the image has changed, and being connected to the first computer by a predetermined communication line, and the above. The main control unit includes an abnormality response unit (S150, S250) that performs a predetermined abnormality response process based on the determination by the second determination unit that the image in the second region has not changed. An image in the first region is extracted from the display image of the plurality of frames and output to the second computer via the communication line so as to be used in the first determination unit, and the transmission band of the communication line is output. The width is narrower than the transmission bandwidth of the signal line, and the main control unit selects a case where the first determination unit determines that the image in the first region has not changed, and displays the plurality of frames. This is a vehicle display system that extracts an image in the second region from an image and outputs it to the second determination unit via the communication line.
Further, the invention according to claim 5 outputs a plurality of frames of display images based on an image outside the vehicle taken by the vehicle-mounted camera (1, 2) to the vehicle-mounted display (5, 6) in order via a signal line. It is determined whether or not the images in the first region of the main control unit (31 ) , which is the first computer, and the display images of the plurality of frames output in order from the main control unit are changed. A case where the first determination unit (S120, S220) and the first determination unit determines that the image in the first region has not changed is selected, and the display image of the plurality of frames is more than the first region. A second computer (S140, S240) having a second determination unit (S140, S240) for determining whether or not the image in the large second region has changed , and connected to the first computer by a predetermined communication line ( 32) and an abnormality response unit (S150, S250) that performs a predetermined abnormality response process based on the determination by the second determination unit that the image in the second region has not changed. The main control unit selects a case where the first determination unit determines that the image in the first region has not changed, and constitutes a plurality of images in the second region from the images of the plurality of frames. Individual partial images are extracted, and a time interval is set between the output period of one partial image and the output period of the next partial image so that the extracted plurality of partial images can be used in the second determination unit. This is a vehicle display system that outputs an image to the computer 2 via a predetermined communication line, and the transmission bandwidth of the communication line is narrower than the transmission bandwidth of the signal line.

また、請求項に記載の発明は、車載カメラ(1、2)によって撮影された車外の映像に基づく複数フレームの表示画像を順番に車載ディスプレイ(5、6)に出力する主制御部(31、31a)の異常を検出するフリーズ検出装置であって、前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)と、前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、前記複数フレームの前記表示画像中の前記第1領域は、前記複数フレームの表示画像における消失点に最も近い画素と上下方向の位置が同じ画素を含む、フリーズ検出装置である。 The invention according to claim 6 is a main control unit (31) that sequentially outputs a display image of a plurality of frames based on an image outside the vehicle taken by the vehicle-mounted camera (1, 2) to the vehicle-mounted display (5, 6). 31a), which is a freeze detection device for detecting an abnormality, and determines whether or not an image in a first region of the display images of the plurality of frames sequentially output from the main control unit has changed. One determination unit (S120, S220) and the case where the first determination unit determines that the image in the first region has not changed are selected, and the display image of the plurality of frames is larger than the first region. The second determination unit (S140, S240) for determining whether or not the image in the second region has changed, and the second determination unit for determining that the image in the second region has not changed. Based on this, the first region in the display image of the plurality of frames is provided with an abnormality response unit (S150, S250) that performs a predetermined abnormality response process, and is closest to the disappearance point in the display image of the plurality of frames. It is a freeze detection device that includes a pixel having the same position in the vertical direction as the image.

このように、異常対応処理のトリガとなる第2判定部は、第2領域よりも狭い第1領域
内の画像が変化していないと判定された場合を選んで、判定を行う。したがって、第2判定部が判定を行う頻度が低減される。したがってその分、異常対応処理のための判定処理の負荷が低減される。ひいては、フリーズを検出する処理の処理負荷が低減される。
In this way, the second determination unit that triggers the abnormality handling process selects and determines the case where it is determined that the image in the first region narrower than the second region has not changed. Therefore, the frequency with which the second determination unit makes a determination is reduced. Therefore, the load of the determination process for the abnormality response process is reduced accordingly. As a result, the processing load of the process of detecting the freeze is reduced.

なお、上記および特許請求の範囲における括弧内の符号は、特許請求の範囲に記載された用語と後述の実施形態に記載されて当該用語の例となる具体物等との対応関係を示すものである。 The reference numerals in parentheses in the above and claims indicate the correspondence between the terms described in the claims and the concrete objects described in the embodiments described later and which are examples of the terms. is there.

第1実施形態に係る車両用表示システムの構成図である。It is a block diagram of the display system for a vehicle which concerns on 1st Embodiment. 追加マイコンが実行するフリーズ検知処理のフローチャートである。It is a flowchart of freeze detection processing executed by an additional microcomputer. 車両用表示システムの作動を示すシーケンス図である。It is a sequence diagram which shows the operation of the display system for a vehicle. 小領域の例を示す図である。It is a figure which shows the example of a small area. 第2実施形態に係る車両用表示システムの構成図である。It is a block diagram of the display system for a vehicle which concerns on 2nd Embodiment. サブマイコンが実行するフリーズ検知処理のフローチャートである。It is a flowchart of freeze detection processing executed by a sub-microcomputer. 車両用表示システムの作動を示すシーケンス図である。It is a sequence diagram which shows the operation of the display system for a vehicle. 車両用表示システムの作動を示すシーケンス図である。It is a sequence diagram which shows the operation of the display system for a vehicle. 広領域画像を構成する部分画像を示す図である。It is a figure which shows the partial image which constitutes a wide area image. 第2実施形態に係る車両用表示システムの構成図である。It is a block diagram of the display system for a vehicle which concerns on 2nd Embodiment. 車両用表示システムの作動を示すシーケンス図である。It is a sequence diagram which shows the operation of the display system for a vehicle.

(第1実施形態)
以下、第1実施形態について説明する。図1に示すように、本実施形態に係る車両用表示システムは、右カメラ1、左カメラ2、電子ミラー用ECU3、追加マイコン4、右ディスプレイ5、左ディスプレイ6を有している。この車両用表示システムは、車両のサイドミラーの代わりに車両側方および車両後方の光景を運転者に見せるための電子ミラーシステムである。
(First Embodiment)
Hereinafter, the first embodiment will be described. As shown in FIG. 1, the vehicle display system according to the present embodiment includes a right camera 1, a left camera 2, an electronic mirror ECU 3, an additional microcomputer 4, a right display 5, and a left display 6. This vehicle display system is an electronic mirror system for showing the driver a view of the side of the vehicle and the rear of the vehicle instead of the side mirror of the vehicle.

右カメラ1および左カメラ2は、それぞれ、車外の撮影範囲内の光景を表す映像信号を出力する車載カメラである。具体的には、右カメラ1は、車両の右前側のドアに取り付けられ、車両の右側方および右後方の映像を表す映像信号を出力する。また、左カメラ2は、車両の左前側のドアに取り付けられ、車両の左側方および左後方の映像を表す映像信号を出力する。 The right camera 1 and the left camera 2 are in-vehicle cameras that output video signals representing a scene within a shooting range outside the vehicle, respectively. Specifically, the right camera 1 is attached to the door on the right front side of the vehicle and outputs video signals representing images on the right side and the rear right side of the vehicle. Further, the left camera 2 is attached to the door on the left front side of the vehicle and outputs a video signal representing an image on the left side and the left rear side of the vehicle.

電子ミラー用ECU3は、車両に搭載され、メインマイコン31およびサブマイコン32を有している。 The electronic mirror ECU 3 is mounted on a vehicle and has a main microcomputer 31 and a sub microcomputer 32.

メインマイコン31には、右カメラ1および左カメラ2の各々から映像信号が入力される。メインマイコン31は、CPU、RAM、ROM等を有する。CPUがROMに記録されたプログラムを実行し、その実行の際に、RAMを作業領域として使用する。CPUがこのプログラムを実行することで、メインマイコン31が主制御処理を実行する。 Video signals are input to the main microcomputer 31 from each of the right camera 1 and the left camera 2. The main microcomputer 31 has a CPU, RAM, ROM, and the like. The CPU executes the program recorded in the ROM, and when the program is executed, the RAM is used as a work area. When the CPU executes this program, the main microcomputer 31 executes the main control process.

メインマイコン31は、主制御処理において、右カメラ1から入力された映像信号に基づいて、複数フレームの右側表示画像を1フレームずつ繰り返し生成して順番に追加マイコン4に出力する。例えば、電子ミラー用ECU3は、右カメラ1から入力された映像信号に対して所定の画像処理を施すことで、1秒あたり60フレーム分の右側表示画像を生成して出力する。 In the main control process, the main microcomputer 31 repeatedly generates right-hand display images of a plurality of frames frame by frame based on the video signal input from the right camera 1, and outputs them to the additional microcomputer 4 in order. For example, the electronic mirror ECU 3 generates and outputs 60 frames of right-hand display images per second by performing predetermined image processing on the video signal input from the right camera 1.

また、メインマイコン31は、主制御処理において、左カメラ2から入力された映像信号に基づいて、複数フレームの左側表示画像を1フレームずつ繰り返し生成して順番に出力する。例えば、電子ミラー用ECU3は、左カメラ2から入力された映像信号に対して所定の画像処理を施すことで、1秒あたり60フレーム分の左側表示画像を生成して出力する。 Further, in the main control process, the main microcomputer 31 repeatedly generates left side display images of a plurality of frames frame by frame based on the video signal input from the left camera 2 and outputs them in order. For example, the electronic mirror ECU 3 generates and outputs 60 frames of left-hand display images per second by performing predetermined image processing on the video signal input from the left camera 2.

メインマイコン31が実行する画像処理としては、例えば、歪み補正処理、トリミング処理、視点変換処理、輝度調整処理、物体検出処理がある。メインマイコン31は、物体検出処理においては、周知の画像認識技術を用いて他車両、人等の障害物を検出し、検出した障害物を強調した右側表示画像および左側表示画像を生成する。本実施形態では、メインマイコン31が主制御部に対応する。 The image processing executed by the main microcomputer 31 includes, for example, distortion correction processing, trimming processing, viewpoint conversion processing, luminance adjustment processing, and object detection processing. In the object detection process, the main microcomputer 31 detects obstacles such as other vehicles and people by using a well-known image recognition technique, and generates a right-side display image and a left-side display image in which the detected obstacles are emphasized. In this embodiment, the main microcomputer 31 corresponds to the main control unit.

サブマイコン32は、CPU、RAM、ROM等を有する。CPUがROMに記録されたプログラムを実行し、その実行の際に、RAMを作業領域として使用する。CPUがこのプログラムを実行することで、CAN7を介した通信、メインマイコン31の故障診断、電子ミラー用ECU3の電源管理等の処理をサブマイコン32が実行する。これらの処理は、メインマイコン31の主制御処理に比べると、処理負荷が低い。ここで、処理負荷とは、単位時間当たりに必要な演算数をいう。このように、メインマイコン31の主制御処理の処理負荷が高いので、メインマイコン31は、サブマイコン32に比べて、フリーズする可能性が高い。 The sub-microcomputer 32 has a CPU, RAM, ROM, and the like. The CPU executes the program recorded in the ROM, and when the program is executed, the RAM is used as a work area. When the CPU executes this program, the sub-microcomputer 32 executes processing such as communication via CAN 7, failure diagnosis of the main microcomputer 31, and power management of the electronic mirror ECU 3. The processing load of these processes is lower than that of the main control process of the main microcomputer 31. Here, the processing load means the number of operations required per unit time. As described above, since the processing load of the main control processing of the main microcomputer 31 is high, the main microcomputer 31 is more likely to freeze than the sub microcomputer 32.

サブマイコン32は、メインマイコン31とシリアル通信線で接続されている。このシリアル通信線は、電子ミラー用ECU3内に実装される。右カメラ1および左カメラ2からメインマイコン31に映像信号を送る信号線よりも、メインマイコン31から追加マイコン4へ右側表示画像、左側表示画像を送る信号線よりも、伝送帯域が狭く、通信速度が低い。 The sub-microcomputer 32 is connected to the main microcomputer 31 by a serial communication line. This serial communication line is mounted in the electron mirror ECU 3. The transmission band is narrower than the signal line that sends the video signal from the right camera 1 and the left camera 2 to the main microcomputer 31, and the transmission band is narrower than the signal line that sends the right-side display image and left-side display image from the main microcomputer 31 to the additional microcomputer 4. Is low.

追加マイコン4は、メインマイコン31のフリーズを検知するための装置である。追加マイコン4には、メインマイコン31から出力された右側表示画像および左側表示画像が1フレームずつ繰り返し入力される。 The additional microcomputer 4 is a device for detecting the freeze of the main microcomputer 31. The right-side display image and the left-side display image output from the main microcomputer 31 are repeatedly input to the additional microcomputer 4 frame by frame.

追加マイコン4は、CPU、RAM、ROM等を有する。CPUがROMに記録されたプログラムを実行し、その実行の際に、RAMを作業領域として使用する。CPUがこのプログラムを実行することで、追加マイコン4が画像転送処理およびフリーズ検知処理を実行する。 The additional microcomputer 4 has a CPU, RAM, ROM, and the like. The CPU executes the program recorded in the ROM, and when the program is executed, the RAM is used as a work area. When the CPU executes this program, the additional microcomputer 4 executes the image transfer process and the freeze detection process.

画像転送処理において追加マイコン4は、メインマイコン31から入力された右側表示画像を右ディスプレイ5に逐次出力すると共に、メインマイコン31から入力された左側表示画像を左ディスプレイ6に逐次出力する。これにより、右ディスプレイ5は複数フレームの右側表示画像を時系列順に1フレームずつ繰り返し表示し、左ディスプレイ6は複数フレームの左側表示画像を1フレームずつ時系列順に繰り返し表示する。 In the image transfer process, the additional microcomputer 4 sequentially outputs the right-side display image input from the main microcomputer 31 to the right display 5, and sequentially outputs the left-side display image input from the main microcomputer 31 to the left display 6. As a result, the right display 5 repeatedly displays the right side display images of the plurality of frames one frame at a time in chronological order, and the left display 6 repeatedly displays the left side display images of the plurality of frames one frame at a time.

フリーズ検知処理において追加マイコン4は、メインマイコン31のフリーズを検知する。フリーズとは、右カメラ1の撮影範囲の光景が変化しているにも関わらず、右ディスプレイ5に表示される撮影画像に変化が全く無い事象、または、左カメラ2の撮影範囲の光景が変化しているにも関わらず、左ディスプレイ6に表示される撮影画像に変化が全く無い事象をいう。フリーズ検知処理の詳細については後述する。 In the freeze detection process, the additional microcomputer 4 detects the freeze of the main microcomputer 31. Freeze is an event in which the captured image displayed on the right display 5 does not change at all even though the scene in the shooting range of the right camera 1 has changed, or the scene in the shooting range of the left camera 2 has changed. This refers to an event in which there is no change in the captured image displayed on the left display 6 despite the fact that the image is displayed. The details of the freeze detection process will be described later.

右ディスプレイ5は、車室内において運転席よりも前側かつ右側に配置される車載ディスプレイである。左ディスプレイ6は、車室内において運転席よりも前側かつ左側に配置される車載ディスプレイである。右ディスプレイ5および左ディスプレイ6が表示する右側表示画像および左側表示画像は、運転席に座った状態の運転者から視認可能となっている。 The right display 5 is an in-vehicle display arranged in front of and to the right of the driver's seat in the vehicle interior. The left display 6 is an in-vehicle display arranged in front of and to the left of the driver's seat in the vehicle interior. The right-side display image and the left-side display image displayed by the right display 5 and the left display 6 are visible to the driver sitting in the driver's seat.

CAN7は、車両内の各種通信機器同士が通信するための車内LANである。CAN7には、車両のバッテリーの状態を示す情報、ドアの開閉の情報、ドアロックの有無の情報、ウインカーの作動状態の情報、シフト位置の情報、ヘッドライトの点灯状態の情報、各種システムの状態情報(例えば、エラー情報、診断情報)等が、車内の電子ミラー用ECU3以外の装置から送信される。 The CAN 7 is an in-vehicle LAN for communicating with each other in various communication devices in the vehicle. In CAN7, information indicating the state of the vehicle battery, information on opening / closing the door, information on the presence / absence of the door lock, information on the operating state of the blinker, information on the shift position, information on the lighting state of the headlight, and the state of various systems Information (for example, error information, diagnostic information) and the like are transmitted from a device other than the electronic mirror ECU 3 in the vehicle.

また、CAN7には、ミラー調整スイッチからミラー調整情報が送信される。ミラー調整情報は、切り出し位置の情報および調光情報を含む。切り出し位置の情報は、ミラー調整スイッチに対して乗員が手動で行った設定の情報である。切り出し位置とは、右カメラ1および左カメラ2が撮影した映像の内どの部分を右ディスプレイ5および左ディスプレイ6での表示用に使用するかを決める情報である。 Further, the mirror adjustment information is transmitted to the CAN 7 from the mirror adjustment switch. The mirror adjustment information includes cutout position information and dimming information. The cutout position information is information on the settings manually made by the occupant with respect to the mirror adjustment switch. The cutout position is information that determines which part of the images captured by the right camera 1 and the left camera 2 is used for display on the right display 5 and the left display 6.

メインマイコン31は、上述のトリミング処理で、サブマイコン32を介してこの切り出し位置の情報を取得し、取得した情報に従って、映像信号のうち切り出し位置以外の部分を捨てて、残りの部分のみを用いて右側表示画像および左側表示画像を生成する。 The main microcomputer 31 acquires the information of the cutout position via the sub-microcomputer 32 in the above-mentioned trimming process, discards the part of the video signal other than the cutout position according to the acquired information, and uses only the remaining part. Generates a right-side display image and a left-side display image.

調光情報は、ミラー調整スイッチに対して乗員が手動で行った明るさの設定に関する情報である。また、メインマイコン31は、上述の輝度調整処理で、サブマイコン32を介して調光情報を取得し、取得した調光情報に従って、右側表示画像および左側表示画像の輝度レベルを調整する。 The dimming information is information related to the brightness setting manually performed by the occupant with respect to the mirror adjustment switch. Further, the main microcomputer 31 acquires dimming information via the sub-microcomputer 32 in the above-mentioned luminance adjusting process, and adjusts the luminance levels of the right side display image and the left side display image according to the acquired dimming information.

以下、上記のような構成の車両用表示システムの作動について、図2、図3を用いて説明する。車両用表示システムは、車両の主電源(例えばイグニッション)がオンのときに作動し、オフのときに停止してもよい。 Hereinafter, the operation of the vehicle display system having the above configuration will be described with reference to FIGS. 2 and 3. The vehicle display system may be activated when the vehicle's main power source (eg, ignition) is on and stopped when it is off.

図2は、追加マイコン4が実行するフリーズ検知処理のフローチャートである。図3は、車両用表示システムの作動を示すシーケンス図である。図3では、簡単のため、右カメラ1および左カメラ2のうち一方のカメラのみの作動を表しているが、他方のカメラの作動も同様である。また図3では、簡単のため、右ディスプレイ5および左ディスプレイ6のうち、上記一方のカメラに対応する一方のディスプレイのみの作動を表しているが、他方のディスプレイの作動も同様である。なお、図3の事例においては、車両は走行していてもよいし停止していてもよい。 FIG. 2 is a flowchart of the freeze detection process executed by the additional microcomputer 4. FIG. 3 is a sequence diagram showing the operation of the vehicle display system. In FIG. 3, for the sake of simplicity, the operation of only one of the right camera 1 and the left camera 2 is shown, but the operation of the other camera is also the same. Further, in FIG. 3, for the sake of simplicity, the operation of only one of the right display 5 and the left display 6 corresponding to the above-mentioned camera is shown, but the operation of the other display is also the same. In the case of FIG. 3, the vehicle may be running or stopped.

追加マイコン4は、車両用表示システムの作動時を選んで上述の画像転送処理を実行する。また、追加マイコン4は、車両用表示システムの作動時を選んでフリーズ検知処理を実行してもよい。あるいは、追加マイコン4は、車両の走行時にフリーズ検知処理を実行して停止時にフリーズ検知処理を実行しないようになっていてもよい。 The additional microcomputer 4 selects the time when the vehicle display system is operating and executes the above-mentioned image transfer process. Further, the additional microcomputer 4 may execute the freeze detection process at the time when the vehicle display system is operating. Alternatively, the additional microcomputer 4 may execute the freeze detection process when the vehicle is running and not execute the freeze detection process when the vehicle is stopped.

追加マイコン4は、フリーズ検知処理において、まずステップS110で、右カメラ1または左カメラ2から新しい映像信号が入力されるまで待つ。以下、右カメラ1および左カメラ2を、単にカメラという。 In the freeze detection process, the additional microcomputer 4 first waits in step S110 until a new video signal is input from the right camera 1 or the left camera 2. Hereinafter, the right camera 1 and the left camera 2 are simply referred to as cameras.

図3に示すように、メインマイコン31は、主制御処理において、カメラから新たな映像信号が入力されると、ステップT101で、当該映像信号に基づいて上述の通り左側表示画像または右側表示画像を生成する。以下、左側表示画像および右側表示画像を、それぞれ、単に表示画像という。そしてメインマイコン31は、生成した表示画像を追加マイコン4に出力する。 As shown in FIG. 3, when a new video signal is input from the camera in the main control process, the main microcomputer 31 displays the left side display image or the right side display image as described above based on the video signal in step T101. Generate. Hereinafter, the left side display image and the right side display image are simply referred to as display images, respectively. Then, the main microcomputer 31 outputs the generated display image to the additional microcomputer 4.

そして追加マイコン4は、画像転送処理において、入力された当該表示画像を、右ディスプレイ5および左ディスプレイ6のうち上記カメラに対応する方(以下、単にディスプレイという)に、出力する。これにより、当該ディスプレイは、ステップT401で、当該表示画像を表示する。 Then, the additional microcomputer 4 outputs the input display image to the right display 5 and the left display 6 corresponding to the camera (hereinafter, simply referred to as a display) in the image transfer process. As a result, the display displays the display image in step T401.

また、追加マイコン4は、フリーズ検知処理のステップS110で、上述の当該表示画像から所定の小領域における画素を抽出する。この小領域は、第1領域に対応する。ここで、小領域について、図4を用いて説明する。図4に示された画像は、メインマイコン31から出力された表示用画像である。 Further, the additional microcomputer 4 extracts pixels in a predetermined small area from the above-mentioned display image in step S110 of the freeze detection process. This small area corresponds to the first area. Here, the small area will be described with reference to FIG. The image shown in FIG. 4 is a display image output from the main microcomputer 31.

表示用画像の各々は、複数個の画素列を有する。これら複数個の画素列は、上下方向(すなわち縦方向)に並んでいる。複数個の画素列の各々は、左右方向(すなわち横方向)に一列に並んだ複数個の画素を含む。例えば、表示用画像は、マトリクス状に画素が配置された画像である。 Each of the display images has a plurality of pixel sequences. These plurality of pixel sequences are arranged in the vertical direction (that is, the vertical direction). Each of the plurality of pixel rows includes a plurality of pixels arranged in a row in the left-right direction (that is, in the horizontal direction). For example, the display image is an image in which pixels are arranged in a matrix.

表示用画像のデータは、RAM中で表示用画像の格納エリアのアドレスにおいて1つずつ順番に並んだ複数の画素列データを含んでいる。複数の画素列データは、上述の複数個の画素列と1対1に対応している。1つの画素列データは、対応する画素列を表すデータである。ある画素列データに対応する画素列と、格納エリアのアドレスにおいてその画素列データと隣り合う画素列データに対応する画素列とは、表示画像中で上下方向に隣り合う。 The display image data includes a plurality of pixel string data arranged one by one at the address of the storage area of the display image in the RAM. The plurality of pixel string data has a one-to-one correspondence with the above-mentioned plurality of pixel strings. One pixel string data is data representing a corresponding pixel string. The pixel string corresponding to a certain pixel string data and the pixel string corresponding to the pixel string data adjacent to the pixel string data at the address of the storage area are adjacent to each other in the vertical direction in the display image.

これら複数の画素列データの各々は、1つずつ順番に並んだ複数の画素データを含んでいる。複数の画素データは、対応する画素列に含まれる画素と1対1に対応している。1つの画素データは、対応する画素を表すデータである。ある画素データに対応する画素と、その画素データと格納エリア中で隣り合う画素データに対応する画素とは、表示画像中で左右方向に隣り合う。 Each of the plurality of pixel string data includes a plurality of pixel data arranged one by one in order. The plurality of pixel data has a one-to-one correspondence with the pixels included in the corresponding pixel sequence. One pixel data is data representing the corresponding pixel. The pixel corresponding to a certain pixel data and the pixel corresponding to the pixel data and the pixel data adjacent to each other in the storage area are adjacent to each other in the left-right direction in the display image.

図4中の横に細長い四角枠で囲まれた領域Xが、小領域である。この小領域は、上述の複数の画素列のうち所定の1つの画素列中の、連続した一部の画素のみを含む。すなわち、この小領域に含まれるすべての画素は、当該1つの画素列に1まとまりの連続領域として含まれる。したがって、このような小領域の画像データは、格納エリアから読み出し易い。 The area X surrounded by a horizontally elongated square frame in FIG. 4 is a small area. This small area includes only a part of consecutive pixels in a predetermined one pixel sequence among the plurality of pixel sequences described above. That is, all the pixels included in this small area are included as one continuous area in the one pixel sequence. Therefore, the image data in such a small area can be easily read from the storage area.

そして、当該1つの画素列は、表示画像中の消失点に最も近い画素を含む。入力される映像信号が示す画像の消失点の位置は、カメラの特性等によってあらかじめ決まる。そして、メインマイコン31には、右カメラ1および左カメラ2から入力される映像信号が示す画像の消失点の位置情報が、あらかじめ記録されている。そしてメインマイコン31は、この位置情報に基づいて、表示画像中の消失点の位置を特定し、特定した消失点の位置に基づいて、小領域を決定する。 Then, the one pixel sequence includes the pixel closest to the vanishing point in the display image. The position of the vanishing point of the image indicated by the input video signal is determined in advance by the characteristics of the camera and the like. Then, the position information of the vanishing point of the image indicated by the video signals input from the right camera 1 and the left camera 2 is recorded in advance in the main microcomputer 31. Then, the main microcomputer 31 specifies the position of the vanishing point in the display image based on this position information, and determines a small area based on the position of the specified vanishing point.

より具体的には、右側表示画像の小領域は、図4に示すように、消失点に最も近い上記1つの画素列のうち、自車両が撮影されている最も右側の画素よりも右側のすべての画素のみを含む。左側表示画像の小領域は、消失点に最も近い上記1つの画素列のうち、自車両が撮影されている最も左側の画素よりも左側のすべての画素のみを含む。映像信号が示す画像中の自車両が撮影されている画素の情報は、あらかじめわかっており、メインマイコン31に記録されている。メインマイコン31は、当該画素の情報に基づいて、表示画像中の自車両が撮影されている画素を特定する。 More specifically, as shown in FIG. 4, the small area of the right-side display image is all of the one pixel sequence closest to the vanishing point on the right side of the right-most pixel in which the own vehicle is photographed. Contains only the pixels of. The small area of the left-side display image includes only all the pixels on the left side of the left-most pixel in which the own vehicle is photographed in the one pixel sequence closest to the vanishing point. The information on the pixels in which the own vehicle is photographed in the image indicated by the video signal is known in advance and is recorded in the main microcomputer 31. The main microcomputer 31 identifies the pixel in which the own vehicle is photographed in the display image based on the information of the pixel.

このように、複数フレームの表示画像中の小領域は、複数フレームの表示画像における消失点に最も近い画素と上下方向の位置が同じ画素を含む。表示画像中の消失点を通る左右方向の線は、概ね空と地面の境目の水平線に相当する。水平線の近傍は、空や地面に比べれば、車両の走行に応じて画素値の変動が大きい領域である。したがって、消失点に最も近い画素と上下方向の位置が同じ画素を小領域が含むことで、小領域内の画像が変化していないという判定を追加マイコン4が無駄に(すなわち、フリーズが発生していないのに)行う可能性が低減される。これにより、フリーズを検出する処理の処理負荷がより低減される。 As described above, the small area in the display image of the plurality of frames includes the pixel closest to the vanishing point in the display image of the plurality of frames and the pixel having the same position in the vertical direction. The horizontal line passing through the vanishing point in the displayed image roughly corresponds to the horizontal line at the boundary between the sky and the ground. The vicinity of the horizon is a region in which the pixel value fluctuates more with the running of the vehicle than in the sky or the ground. Therefore, since the small area includes the pixel closest to the vanishing point and the pixel whose position in the vertical direction is the same, the addition is made to determine that the image in the small area has not changed. The microcomputer 4 is useless (that is, freeze occurs). The possibility of doing it (even though it is not) is reduced. As a result, the processing load of the process of detecting the freeze is further reduced.

更に追加マイコン4は、ステップS110で、今回のステップS110で抽出した小領域中の画像(すなわち画素群)と、今回よりも1回または2回以上前のステップS110で抽出した小領域中の画像とを比較する。なお、ここで比較されるのは、右ディスプレイ5、左ディスプレイ6のうち同じディスプレイに送られる表示画像の同じ小領域である。今回よりも1回または2回以上前のステップS110で抽出した小領域中の画像は、最後に取得した表示画像よりも1つまたは2つ以上前のフレームの表示画像中の画素群である。 Further, the additional microcomputer 4 uses the image in the small area (that is, the pixel group) extracted in step S110 this time and the image in the small area extracted in step S110 once or twice or more before this time in step S110. Compare with. It should be noted that what is compared here is the same small area of the display image sent to the same display among the right display 5 and the left display 6. The image in the small area extracted in step S110 one or two or more times before this time is a pixel group in the display image of the frame one or two or more times before the last acquired display image.

この比較は、比較対象の画像間で小領域中の全画素を1ビットずつ比較する方法を採用してもよい。あるいは、比較対象の画像間で小領域中のハッシュ値(例えばSHA、MD5、CRC)を比較する方法を採用してもよい。 For this comparison, a method of comparing all the pixels in the small region bit by bit between the images to be compared may be adopted. Alternatively, a method of comparing hash values (for example, SHA, MD5, CRC) in a small region between images to be compared may be adopted.

続いてステップS120では、直前のステップS110の比較結果に基づいて、比較対象の画像に違いがあるか否かを判定する。少しでも違いがあれば違いがあると判定される。違いが有ると判定した場合はステップS110に戻り、違いが無いと判定した場合はステップS130に進む。 Subsequently, in step S120, it is determined whether or not there is a difference in the images to be compared based on the comparison result of the immediately preceding step S110. If there is any difference, it is judged that there is a difference. If it is determined that there is a difference, the process returns to step S110, and if it is determined that there is no difference, the process proceeds to step S130.

図3の事例では、ステップT301において、追加マイコン4は、このステップS110、S120の処理により、小領域の画像に違いが有ると判定し、ステップS110に戻る。このように、車両用表示システムが正常に動作しておりメインマイコン31がフリーズしていない場合は、追加マイコン4は、小領域の画像に違いが有ると判定する。 In the case of FIG. 3, in step T301, the additional microcomputer 4 determines that there is a difference in the image of the small area by the processing of steps S110 and S120, and returns to step S110. As described above, when the vehicle display system is operating normally and the main microcomputer 31 is not frozen, the additional microcomputer 4 determines that there is a difference in the image of the small area.

図3の事例では、その後も、メインマイコン31が、カメラから映像信号を取得してステップT103で表示画像を生成し、生成した表示画像を追加マイコン4に出力する。そして追加マイコン4は、この表示画像をディスプレイに表示させる(ステップT403参照)と共に、ステップT303で、小領域の画像に違いが有ると判定する。 In the example of FIG. 3, the main microcomputer 31 continues to acquire the video signal from the camera, generate a display image in step T103, and output the generated display image to the additional microcomputer 4. Then, the additional microcomputer 4 displays this display image on the display (see step T403), and determines in step T303 that there is a difference in the image of the small area.

その後、図3の事例では、車両用表示システムが正常に動作してメインマイコン31にフリーズが発生していないが、偶々小領域の画像に変化が無い状態が発生する。この場合は、小領域以外の画素には変化がある。 After that, in the case of FIG. 3, the vehicle display system operates normally and the main microcomputer 31 does not freeze, but a state in which the image of the small area does not change by chance occurs. In this case, there is a change in the pixels other than the small area.

その場合、メインマイコン31は、カメラから映像信号を取得してステップT105で表示画像を生成し、生成した表示画像を追加マイコン4に出力する。そして追加マイコン4は、この表示画像をディスプレイに表示させる(ステップT405参照)。しかし、追加マイコン4は、ステップT305で小領域の画像に違いが無いと判定する。具体的には、追加マイコン4は、ステップS120で、「違い無し」と判定し、ステップS130に進む。 In that case, the main microcomputer 31 acquires a video signal from the camera, generates a display image in step T105, and outputs the generated display image to the additional microcomputer 4. Then, the additional microcomputer 4 displays this display image on the display (see step T405). However, the additional microcomputer 4 determines in step T305 that there is no difference in the image of the small area. Specifically, the additional microcomputer 4 determines in step S120 that there is no difference, and proceeds to step S130.

続いて追加マイコン4は、ステップS130で、最後に生成した表示画像から所定の広領域における画素を抽出する。この広領域は、第2領域に対応し、上述の小領域を含むと共に、小領域よりも大きい。例えば、第2領域は、表示画像の全画素を含む矩形領域であってもよい。例えば、広領域は、小領域の4倍以上の数の画素を含む矩形領域であってもよい。 Subsequently, in step S130, the additional microcomputer 4 extracts pixels in a predetermined wide area from the display image finally generated. This wide area corresponds to the second area, includes the above-mentioned small area, and is larger than the small area. For example, the second region may be a rectangular region including all pixels of the display image. For example, the wide area may be a rectangular area containing four or more times as many pixels as the small area.

更に追加マイコン4は、ステップS130で、今回のステップS130で抽出した広領域中の画像と、今回よりも1回または2回以上前のステップS110で抽出した広領域中の画像とを比較する。なお、ここで比較されるのは、右ディスプレイ5、左ディスプレイ6のうち同じディスプレイに送られる表示画像の同じ広領域である。今回よりも1回または2回以上前のステップS110で抽出した広領域中の画像は、最後に取得した表示画像よりも1つまたは2つ以上前のフレームの表示画像中の画素群である。 Further, the additional microcomputer 4 compares the image in the wide area extracted in step S130 this time with the image in the wide area extracted in step S110 one or two times or more before this time in step S130. It should be noted that what is compared here is the same wide area of the display image sent to the same display among the right display 5 and the left display 6. The image in the wide area extracted in step S110 one or two or more times before this time is a pixel group in the display image of the frame one or two or more times before the last acquired display image.

この比較は、比較対象の画像間で広領域中の全画素を1ビットずつ比較する方法を採用してもよい。あるいは、比較対象の画像間で広領域中のハッシュ値を比較する方法を採用してもよい。 For this comparison, a method of comparing all the pixels in a wide area bit by bit between the images to be compared may be adopted. Alternatively, a method of comparing hash values in a wide area between images to be compared may be adopted.

続いて追加マイコン4は、ステップS140では、直前のステップS130の比較結果に基づいて、比較対象の画像に違いがあるか否かを判定する。少しでも違いがあれば違いがあると判定される。違いが有ると判定した場合はステップS110に戻り、違いが無いと判定した場合はステップS150に進む。図3の事例では、上述の通り、広領域の画素に違いがあるので、ステップT306のように、広領域の画素に違いがあると判定し、ステップS130からステップS110に戻る。 Subsequently, in step S140, the additional microcomputer 4 determines whether or not there is a difference in the images to be compared based on the comparison result of the immediately preceding step S130. If there is any difference, it is judged that there is a difference. If it is determined that there is a difference, the process returns to step S110, and if it is determined that there is no difference, the process proceeds to step S150. In the case of FIG. 3, as described above, since there is a difference in the pixels in the wide area, it is determined that there is a difference in the pixels in the wide area as in step T306, and the process returns from step S130 to step S110.

図3の事例では、その後も、メインマイコン31が、カメラから映像信号を取得してステップT107で表示画像を生成し、生成した表示画像を追加マイコン4に出力する。そして追加マイコン4は、この表示画像をディスプレイに表示させる(ステップT407参照)と共に、ステップT307で、小領域の画像に違いが有ると判定する。 In the example of FIG. 3, the main microcomputer 31 continues to acquire the video signal from the camera, generate a display image in step T107, and output the generated display image to the additional microcomputer 4. Then, the additional microcomputer 4 displays this display image on the display (see step T407), and determines in step T307 that there is a difference in the image of the small area.

その後、図3の事例では、メインマイコン31にフリーズが発生する。この場合、実際には車両の側方および後方の光景に変化があるにも関わらず、メインマイコン31から出力される右側表示画像と左側表示画像のいずれか一方に、変化がなくなる。 After that, in the case of FIG. 3, the main microcomputer 31 freezes. In this case, although there is actually a change in the side view and the rear view of the vehicle, there is no change in either the right side display image or the left side display image output from the main microcomputer 31.

これは、メインマイコン31の主制御処理のうち、右側表示画像を生成する処理部分と左側表示画像を生成する処理部分のうちいずれか一方に異常(たとえば無限ループ)が発生することが、メインマイコン31のフリーズの一態様だからである。このようになると、RAM中の表示用画像の格納エリアにおいて当該いずれか一方に対応する表示画像が変化しなくなる。主制御処理では、RAM中の表示用画像の格納エリアに記憶されたデータが追加マイコン4を介して右ディスプレイ5、左ディスプレイ6に出力されるので、当該データが変化しなくなると、メインマイコン31から出力される当該表示画像が変化しなくなる。 This is because, in the main control process of the main microcomputer 31, an abnormality (for example, an infinite loop) occurs in either the processing portion for generating the right side display image or the processing part for generating the left side display image. This is because it is one aspect of the freeze of 31. In this case, the display image corresponding to either one of them does not change in the storage area of the display image in the RAM. In the main control process, the data stored in the storage area of the display image in the RAM is output to the right display 5 and the left display 6 via the additional microcomputer 4. Therefore, when the data does not change, the main microcomputer 31 The display image output from is not changed.

その場合、メインマイコン31は、カメラから映像信号を取得してステップT109で表示画像を生成し、生成した表示画像を追加マイコン4に出力する。そして追加マイコン4は、この表示画像をディスプレイに表示させる(ステップT409参照)。 In that case, the main microcomputer 31 acquires a video signal from the camera, generates a display image in step T109, and outputs the generated display image to the additional microcomputer 4. Then, the additional microcomputer 4 displays this display image on the display (see step T409).

しかし、追加マイコン4は、ステップT309で小領域の画像に違いが無いと判定する。具体的には、追加マイコン4は、ステップS120で、「違い無し」と判定し、ステップS130に進む。 However, the additional microcomputer 4 determines in step T309 that there is no difference in the image of the small area. Specifically, the additional microcomputer 4 determines in step S120 that there is no difference, and proceeds to step S130.

更に、追加マイコン4は、ステップT311で広領域の画像に違いが無いと判定する。具体的には、追加マイコン4は、ステップS140で、「違い無し」と判定し、ステップS150に進む。 Further, the additional microcomputer 4 determines in step T311 that there is no difference in the wide area image. Specifically, the additional microcomputer 4 determines in step S140 that there is no difference, and proceeds to step S150.

追加マイコン4は、ステップS150では、フリーズ対応処理を行う。具体的には、ステップT313に示すように、サブマイコン32に対して、フリーズを検知したことを示す信号を、出力する。 In step S150, the additional microcomputer 4 performs freeze-corresponding processing. Specifically, as shown in step T313, a signal indicating that a freeze has been detected is output to the sub-microcomputer 32.

この信号を受けたサブマイコン32は、ステップT201で、メインマイコン31をリセットする。これにより、メインマイコン31はリセットされて再起動する。この結果、メインマイコン31では、主制御処理が一旦終了してリセットが実行され、リセット後に主制御処理が再開される。これにより、メインマイコン31のフリーズが解消される場合がある。 Upon receiving this signal, the sub-microcomputer 32 resets the main microcomputer 31 in step T201. As a result, the main microcomputer 31 is reset and restarted. As a result, in the main microcomputer 31, the main control process is temporarily completed, the reset is executed, and the main control process is restarted after the reset. As a result, the freeze of the main microcomputer 31 may be eliminated.

なお、メインマイコン31がリセットされた場合、主制御処理が一旦終了してから再開されるまでは、右ディスプレイ5、左ディスプレイ6には撮影画像が一時的に表示されなくなる。 When the main microcomputer 31 is reset, the captured image is temporarily not displayed on the right display 5 and the left display 6 until the main control process is once completed and then restarted.

なお、サブマイコン32は、フリーズを検知したことを示す信号を受信した場合、運転者に音声または画像でリセットの可否を問い合わせてもよい。この場合、運転者によるリセット許可の操作があった場合にリセットを行い、運転者によるリセット拒否の操作があった場合にリセットを行わない。このようにすることで、運転者がメインマイコン31のリセット時期を状況に応じて適切に選択することができる。 When the sub-microcomputer 32 receives the signal indicating that the freeze has been detected, the sub-microcomputer 32 may inquire the driver whether or not the reset is possible by voice or image. In this case, the reset is performed when the driver operates the reset permission, and the reset is not performed when the driver refuses the reset. By doing so, the driver can appropriately select the reset time of the main microcomputer 31 according to the situation.

リセットにより、右側表示画像を生成する処理部分と左側表示画像を生成する処理部分のうち、異常の有る処理部分の異常が解消され、異常の無い処理部分も正常になることが望ましい。しかし、必ずしもそのようになるとは限らず、リセットにより異常の無かった処理部分にも異常が発生してしまう可能性がゼロではない。したがって、運転者がメインマイコン31のリセット時期を状況に応じて適切に選択することができるという効果は、車両の安全性の向上に寄与する。 By resetting, it is desirable that the abnormality of the processing portion having an abnormality among the processing portion for generating the right side display image and the processing portion for generating the left side display image is eliminated, and the processing portion without the abnormality becomes normal. However, this is not always the case, and the possibility that an abnormality will occur in the processing part where there was no abnormality due to the reset is not zero. Therefore, the effect that the driver can appropriately select the reset timing of the main microcomputer 31 according to the situation contributes to the improvement of the safety of the vehicle.

なお、問い合わせを行う場合も行わない場合も、サブマイコン32は、音声または画像で、運転者に、フリーズ発生の通知を行ってもよい。 Whether or not the inquiry is made, the sub-microcomputer 32 may notify the driver of the occurrence of the freeze by voice or image.

続いてサブマイコン32は、ステップT203で、メインマイコン31にフリーズが発生したことを示すフリーズ通知を、CAN7上の他の車載機器に送信する。これにより、これら車載機器は、車両用表示システムの異常に対応した処理を行うことができる。 Subsequently, in step T203, the sub-microcomputer 32 transmits a freeze notification indicating that the main microcomputer 31 has been frozen to another in-vehicle device on the CAN 7. As a result, these in-vehicle devices can perform processing corresponding to the abnormality of the vehicle display system.

以上説明した通り、メインマイコン31は、カメラによって撮影された車外の映像に基づく複数フレームの表示画像を順番にディスプレイに出力する。また、追加マイコン4は、メインマイコン31から順番に出力された複数フレームの表示画像における、小領域内の画像が変化しているか否かを判定する。また、追加マイコン4は、小領域内の画像が変化していないと判定した場合を選んで、複数フレームの表示画像において広領域内の画像が変化しているか否かを判定する。そして追加マイコン4は、第2領域内の画像が変化していないと判定したことに基づいて、所定の異常対応処理を行う。 As described above, the main microcomputer 31 sequentially outputs the display images of a plurality of frames based on the image outside the vehicle taken by the camera to the display. Further, the additional microcomputer 4 determines whether or not the image in the small area has changed in the display images of the plurality of frames sequentially output from the main microcomputer 31. Further, the additional microcomputer 4 selects a case where it is determined that the image in the small area has not changed, and determines whether or not the image in the wide area has changed in the display image of a plurality of frames. Then, the additional microcomputer 4 performs a predetermined abnormality handling process based on the determination that the image in the second region has not changed.

このように、追加マイコン4は、異常対応処理の直接のトリガとなる判定(すなわちステップS140の判定)を、広領域よりも狭い小領域内の画像が変化していないと判定された場合を選んで、行う。したがって、異常対応処理の直接のトリガとなる判定が行われる頻度が低減される。したがってその分、異常対応処理のための判定処理の負荷が低減される。ひいては、フリーズを検出する処理の処理負荷が低減される。 In this way, the additional microcomputer 4 selects the case where it is determined that the image in the small area narrower than the wide area has not changed in the determination (that is, the determination in step S140) that directly triggers the abnormality handling process. So, do it. Therefore, the frequency with which the determination that directly triggers the abnormality handling process is performed is reduced. Therefore, the load of the determination process for the abnormality response process is reduced accordingly. As a result, the processing load of the process of detecting the freeze is reduced.

なお、本実施形態では、追加マイコン4が、ステップS120を実行することで第1判定部として機能し、ステップS140を実行することで第2判定部として機能し、ステップS150を実行することで異常対応部として機能する。また、本実施形態では、追加マイコン4がフリーズ検出装置に対応する。 In the present embodiment, the additional microcomputer 4 functions as a first determination unit by executing step S120, functions as a second determination unit by executing step S140, and is abnormal by executing step S150. Functions as a corresponding part. Further, in the present embodiment, the additional microcomputer 4 corresponds to the freeze detection device.

(第2実施形態)
次に第2実施形態について説明する。第1実施形態の車両用表示システムでは、追加マイコン4がフリーズ検知処理を行っていたのに対し、本実施形態の車両用表示システムでは、サブマイコン32がフリーズ検知処理を行う。
(Second Embodiment)
Next, the second embodiment will be described. In the vehicle display system of the first embodiment, the additional microcomputer 4 performs the freeze detection process, whereas in the vehicle display system of the present embodiment, the sub-microcomputer 32 performs the freeze detection process.

本実施形態の車両用表示システムは、図5に示すように、第1実施形態の車両用表示システムに対して、追加マイコン4が廃されている。本実施形態のメインマイコン31から出力された右側表示画像および左側表示画像は、それぞれ、右ディスプレイ5および左ディスプレイ6に直接出力される。車両用表示システムのその他のハードウェア構成は、第1実施形態と同じである。 In the vehicle display system of the present embodiment, as shown in FIG. 5, the additional microcomputer 4 is abolished with respect to the vehicle display system of the first embodiment. The right-side display image and the left-side display image output from the main microcomputer 31 of the present embodiment are directly output to the right display 5 and the left display 6, respectively. Other hardware configurations of the vehicle display system are the same as those in the first embodiment.

ここで、メインマイコン31とサブマイコン32の間の通信線について説明する。メインマイコン31とサブマイコン32の間の通信線は、シリアル通信線である。このシリアル通信線の伝送帯域幅は、メインマイコン31から右ディスプレイ5へ右側表示画像を出力する信号線の伝送帯域幅よりも、メインマイコン31から左ディスプレイ6へ左側表示画像を出力する信号線の伝送帯域幅よりも、遙かに狭い。したがって、このシリアル通信線を介して単位時間に送られるデータ量は、メインマイコン31からディスプレイへ送られる表示画像のデータ量よりも遙かに小さく、例えば1/50以下である。 Here, the communication line between the main microcomputer 31 and the sub-microcomputer 32 will be described. The communication line between the main microcomputer 31 and the sub-microcomputer 32 is a serial communication line. The transmission bandwidth of this serial communication line is that of the signal line that outputs the left display image from the main microcomputer 31 to the left display 6 than the transmission bandwidth of the signal line that outputs the right display image from the main microcomputer 31 to the right display 5. Much narrower than the transmission bandwidth. Therefore, the amount of data transmitted per unit time via the serial communication line is much smaller than the amount of data of the display image transmitted from the main microcomputer 31 to the display, for example, 1/50 or less.

本実施形態のメインマイコン31は、第1実施形態と同様の主制御処理を行うと共に、主制御処理と同時並行的に、フリーズ検知用画像送信処理を実行する。フリーズ検知用画像送信処理において、メインマイコン31は、RAM中の表示用画像の格納エリアから、右側表示用画像の小領域の画像および左側表示用画像の小領域の画像を繰り返し定期的に抽出する。抽出は、メインマイコン31が新たな表示用画像を生成してRAM中の表示用画像の格納エリアに記録する度に、行われる。そしてメインマイコン31は、抽出した画像を、上記シリアル通信線を介して、サブマイコン32に逐次出力する。 The main microcomputer 31 of the present embodiment performs the same main control processing as that of the first embodiment, and also executes the freeze detection image transmission processing in parallel with the main control processing. In the freeze detection image transmission process, the main microcomputer 31 repeatedly and periodically extracts a small area image of the right side display image and a small area image of the left side display image from the storage area of the display image in the RAM. .. The extraction is performed every time the main microcomputer 31 generates a new display image and records it in the storage area of the display image in the RAM. Then, the main microcomputer 31 sequentially outputs the extracted images to the sub-microcomputer 32 via the serial communication line.

また、フリーズ検知用画像送信処理において、メインマイコン31は、サブマイコン32から広領域画像を要求されたことに基づいて、広領域の画像をサブマイコン32に出力する。 Further, in the freeze detection image transmission process, the main microcomputer 31 outputs a wide area image to the sub microcomputer 32 based on the request for the wide area image from the sub microcomputer 32.

サブマイコン32は、第1実施形態と同様、メインマイコン31の故障診断、電子ミラー用ECU3の電源管理等の処理等を実行する。それに加え、サブマイコン32のCPUが所定のプログラムを実行することで、サブマイコン32がフリーズ検知処理も行う。 Similar to the first embodiment, the sub-microcomputer 32 executes processing such as failure diagnosis of the main microcomputer 31 and power management of the electronic mirror ECU 3. In addition, the CPU of the sub-microcomputer 32 executes a predetermined program, so that the sub-microcomputer 32 also performs freeze detection processing.

図6は、このフリーズ検知処理のフローチャートである。図7、図8は、本実施形態における車両用表示システムの作動を示すシーケンス図である。図7、図8では、簡単のため、右カメラ1および左カメラ2のうち一方のカメラのみの作動を表しているが、他方のカメラの作動も同様である。また図7では、簡単のため、右ディスプレイ5および左ディスプレイ6のうち、上記一方のカメラに対応する一方のディスプレイのみの作動を表しているが、他方のディスプレイの作動も同様である。なお、図7、図8の事例においては、車両は走行していてもよいし停止していてもよい。 FIG. 6 is a flowchart of this freeze detection process. 7 and 8 are sequence diagrams showing the operation of the vehicle display system according to the present embodiment. In FIGS. 7 and 8, for the sake of simplicity, the operation of only one of the right camera 1 and the left camera 2 is shown, but the operation of the other camera is also the same. Further, in FIG. 7, for the sake of simplicity, the operation of only one of the right display 5 and the left display 6 corresponding to the above-mentioned camera is shown, but the operation of the other display is also the same. In the cases of FIGS. 7 and 8, the vehicle may be running or stopped.

図7の事例では、車両用表示システムが正常に動作してメインマイコン31にフリーズが発生していないが、偶々小領域の画像に変化が無い状態が発生する。図8の事例では、メインマイコン31にフリーズが発生する。 In the case of FIG. 7, the vehicle display system operates normally and the main microcomputer 31 does not freeze, but a state in which the image of the small area does not change by chance occurs. In the case of FIG. 8, the main microcomputer 31 freezes.

サブマイコン32は、フリーズ検知処理において、まずステップS210で、右カメラ1または左カメラ2から小領域の画像が入力されるまで待つ。以下、右カメラ1および左カメラ2を、いずれも単にカメラという。 In the freeze detection process, the sub-microcomputer 32 first waits in step S210 until an image of a small area is input from the right camera 1 or the left camera 2. Hereinafter, the right camera 1 and the left camera 2 are both simply referred to as cameras.

まず、図7の事例について説明する。図7に示すように、メインマイコン31は、主制御処理において、カメラから新たな映像信号が入力されると、ステップT111で、当該映像信号に基づいて上述の通り左側表示画像または右側表示画像を生成する。以下、左側表示画像および右側表示画像を、いずれも単に表示画像という。そして、生成した表示画像を、RAM中の表示用画像の格納エリアに新たに上書き記録する。 First, the case of FIG. 7 will be described. As shown in FIG. 7, when a new video signal is input from the camera in the main control process, the main microcomputer 31 displays the left side display image or the right side display image as described above based on the video signal in step T111. Generate. Hereinafter, both the left side display image and the right side display image are simply referred to as display images. Then, the generated display image is newly overwritten and recorded in the storage area of the display image in the RAM.

そしてメインマイコン31は、当該格納エリアに記録された表示画像を右ディスプレイ5および左ディスプレイ6のうち対応する方(以下、単にディスプレイという)に出力する。これにより、当該ディスプレイは、ステップT411で、当該表示画像を表示する。 Then, the main microcomputer 31 outputs the display image recorded in the storage area to the corresponding one of the right display 5 and the left display 6 (hereinafter, simply referred to as a display). As a result, the display displays the display image in step T411.

また、メインマイコン31は、フリーズ検知用画像送信処理において、上記格納エリアに新たな表示画像が記録されると、ステップT112で、当該表示画像の小領域の画像を、シリアル通信線を介して、サブマイコン32に出力する。 Further, when a new display image is recorded in the storage area in the freeze detection image transmission process, the main microcomputer 31 displays a small area image of the display image via a serial communication line in step T112. Output to the sub-microcomputer 32.

また、サブマイコン32は、メインマイコン31から小領域の画像を取得すると、ステップS210で、今回取得した画像と、今回よりも1回または2回以上前のステップS110で抽出した小領域中の画像とを比較する。なお、ここで比較されるのは、右ディスプレイ5、左ディスプレイ6のうち同じディスプレイに送られる表示画像である。今回よりも1回または2回以上前に取得した小領域中の画像は、最後に取得した表示画像よりも1つまたは2つ以上前のフレームの表示画像中の画素群である。 Further, when the sub-microcomputer 32 acquires an image of a small area from the main microcomputer 31, the image acquired this time in step S210 and the image in the small area extracted in step S110 one or two times or more before this time. Compare with. It should be noted that what is compared here is a display image sent to the same display among the right display 5 and the left display 6. The image in the small area acquired one or two or more times before this time is a group of pixels in the display image of the frame one or two or more times before the last acquired display image.

続いてステップS220では、直前のステップS210の比較結果に基づいて、比較対象の画像に違いがあるか否かを判定する。少しでも違いがあれば違いがあると判定される。違いが有ると判定した場合はステップS210に戻り、違いが無いと判定した場合はステップS225に進む。 Subsequently, in step S220, it is determined whether or not there is a difference in the images to be compared based on the comparison result of the immediately preceding step S210. If there is any difference, it is judged that there is a difference. If it is determined that there is a difference, the process returns to step S210, and if it is determined that there is no difference, the process proceeds to step S225.

図7の事例では、ステップT212において、サブマイコン32は、このステップS210、S220の処理により、小領域の画像に違いが有ると判定し、ステップS210に戻る。このように、車両用表示システムが正常に動作しておりメインマイコン31がフリーズしていない場合は、サブマイコン32は、小領域の画像に違いが有ると判定する。 In the case of FIG. 7, in step T212, the sub-microcomputer 32 determines that there is a difference in the image of the small area by the processing of steps S210 and S220, and returns to step S210. In this way, when the vehicle display system is operating normally and the main microcomputer 31 is not frozen, the sub-microcomputer 32 determines that there is a difference in the image of the small area.

その後、図7の事例では、車両用表示システムが正常に動作してメインマイコン31にフリーズが発生していないが、偶々小領域の画像に変化が無い状態が発生する。この場合は、小領域以外の画素には変化がある。 After that, in the case of FIG. 7, the vehicle display system operates normally and the main microcomputer 31 does not freeze, but a state in which the image of the small area does not change by chance occurs. In this case, there is a change in the pixels other than the small area.

その場合、メインマイコン31は、カメラから映像信号を取得してステップT113で表示画像を生成し、生成した表示画像をディスプレイに表示させる(ステップT413参照)。 In that case, the main microcomputer 31 acquires a video signal from the camera, generates a display image in step T113, and displays the generated display image on the display (see step T413).

更にメインマイコン31は、ステップT114で、小領域の画像をサブマイコン32に出力する。そして、サブマイコン32は、ステップT214で小領域の画像に違いが無いと判定する。具体的には、サブマイコン32は、ステップS220で、「違い無し」と判定し、ステップS225に進む。 Further, the main microcomputer 31 outputs a small area image to the sub-microcomputer 32 in step T114. Then, the sub-microcomputer 32 determines in step T214 that there is no difference in the image of the small area. Specifically, the sub-microcomputer 32 determines in step S220 that there is no difference, and proceeds to step S225.

続いてサブマイコン32は、ステップS225で、広領域画像を要求する信号を、上記シリアル通信線を介して、メインマイコン31に、出力する。この作動は、図7におけるステップT215の作動に該当する。 Subsequently, in step S225, the sub-microcomputer 32 outputs a signal requesting a wide area image to the main microcomputer 31 via the serial communication line. This operation corresponds to the operation of step T215 in FIG. 7.

メインマイコン31は、フリーズ検知用画像送信処理において、広領域の画像を要求するこの信号を受信したことに基づいて、ステップT115で、広領域の画像を、上記シリアル通信線を介して、2個分送信し始める。 In the freeze detection image transmission process, the main microcomputer 31 receives two wide-area images via the serial communication line in step T115 based on the reception of this signal requesting a wide-area image. Start sending minutes.

ここで、メインマイコン31からサブマイコン32への広領域の画像を送信する手順について、図9を用いて説明する。上述の通り、シリアル通信線の伝送帯域幅は狭いので、広領域の画像のような大量のデータをすべて送信するには、非常に時間がかかる。 Here, a procedure for transmitting a wide-area image from the main microcomputer 31 to the sub-microcomputer 32 will be described with reference to FIG. As mentioned above, since the transmission bandwidth of the serial communication line is narrow, it takes a very long time to transmit all a large amount of data such as a wide area image.

例えば、メインマイコン31から右ディスプレイ5、左ディスプレイ6の各々へは、1秒間に60フレーム分の表示画像が送信されるのに対して、メインマイコン31からサブマイコン32へは、1フレーム分の広領域の表示画像を送るのに0.5秒以上かかる。 For example, 60 frames of display images are transmitted from the main microcomputer 31 to each of the right display 5 and the left display 6 per second, whereas one frame is transmitted from the main microcomputer 31 to the sub-microcomputer 32. It takes 0.5 seconds or more to send a display image of a wide area.

このように伝送帯域幅の狭いシリアル通信線を介して、広領域の表示画像を送信する場合には、送信バッファ溢れの可能性、および、帯域の長時間連続占有が発生する。 When a wide-area display image is transmitted via a serial communication line having a narrow transmission bandwidth in this way, there is a possibility that the transmission buffer may overflow and the bandwidth may be continuously occupied for a long time.

シリアル通信線の伝送帯域の狭さを補うために、メインマイコン31からシリアル通信線向けに出力されたデータを一時的に保持するバッファメモリがメインマイコン31に設けられている場合に、送信バッファ溢れが発生し得る。メインマイコン31から出力されるデータの量が多過ぎると、メインマイコン31から出力されたデータ量と既にシリアル通信線に出力されたデータ量との差が、バッファメモリの容量を超えてしまった場合に、バッファ溢れが発生し、送信データの欠落が発生する。 When the main microcomputer 31 is provided with a buffer memory for temporarily holding the data output from the main microcomputer 31 for the serial communication line in order to compensate for the narrow transmission band of the serial communication line, the transmission buffer overflows. Can occur. If the amount of data output from the main microcomputer 31 is too large, the difference between the amount of data output from the main microcomputer 31 and the amount of data already output to the serial communication line exceeds the capacity of the buffer memory. In addition, the buffer overflows and the transmission data is lost.

帯域の長時間連続占有は、シリアル通信線が、広領域の画像を送信するためだけに長時間連続して占有されることをいう。帯域の長時間連続占有が発生すると、メインマイコン31とサブマイコン32のシリアル通信線を介した他の通信(例えば、他の診断情報の送受信、電源制御のための信号の送受信)が長時間できなくなってしまう。 Long-term continuous occupancy of a band means that the serial communication line is continuously occupied for a long time only for transmitting a wide area image. When the band is continuously occupied for a long time, other communication (for example, transmission / reception of other diagnostic information, transmission / reception of a signal for power supply control) via the serial communication line of the main microcomputer 31 and the sub microcomputer 32 can be performed for a long time. It will disappear.

そこで、メインマイコン31は、図9に示すように、RAM中の表示用画像の格納エリアの広領域Z内の画像を複数個の部分画像Yに分割する。これら複数個の部分画像が、広領域Z内の画像を構成する。図9の例では、広領域Z内の画像が8×8=64個の部分画像に分割される。 Therefore, as shown in FIG. 9, the main microcomputer 31 divides the image in the wide area Z of the storage area of the display image in the RAM into a plurality of partial images Y. These plurality of partial images constitute an image in the wide area Z. In the example of FIG. 9, the image in the wide area Z is divided into 8 × 8 = 64 partial images.

そしてメインマイコン31は、これら複数個の部分画像を、1個ずつ、時間間隔を置いて、上記格納エリアから抽出し、シリアル通信線を介してサブマイコン32に出力する。 Then, the main microcomputer 31 extracts these plurality of partial images one by one from the storage area at time intervals, and outputs them to the sub-microcomputer 32 via the serial communication line.

つまり、メインマイコン31は、小領域内の画像が変化していないと判定された場合を選んで、複数フレームの画像から、広領域内の画像を構成する複数個の部分画像を抽出する。そして、抽出した複数個の部分画像を、1つの部分画像の出力期間と次の部分画像の出力期間との間に時間間隔を置いて、サブマイコン32に出力する。 That is, the main microcomputer 31 selects a case where it is determined that the image in the small area has not changed, and extracts a plurality of partial images constituting the image in the wide area from the images of the plurality of frames. Then, the extracted plurality of partial images are output to the sub-microcomputer 32 with a time interval between the output period of one partial image and the output period of the next partial image.

このように、抽出した複数個の部分画像を、1つの部分画像の出力期間と次の部分画像の出力期間との間に時間間隔を置いて、サブマイコン32に出力することで、当該時間間隔において上述の他の通信を行うことができる。したがって、帯域の長時間連続占有が軽減される。また、送信バッファ溢れの可能性が低減される。 By outputting the extracted plurality of partial images to the sub-microcomputer 32 with a time interval between the output period of one partial image and the output period of the next partial image, the time interval is set. In, the other communication described above can be performed. Therefore, long-term continuous occupancy of the band is reduced. Also, the possibility of overflowing the transmission buffer is reduced.

なお、上述の通り、シリアル通信線を介して広領域の画像を送信するのには、長い時間がかかる。したがって、部分画像を1個ずつ抽出して送信している最中に、格納エリア中の表示用画像が更新されてしまう場合がある。したがって、広領域を構成する全部の部分画像がメインマイコン31からサブマイコン32に送信されたとき、それら部分画像は、同じ1つのフレームに属するとは限らず、多くの場合、互いに異なる複数フレームに属する。 As described above, it takes a long time to transmit a wide area image via the serial communication line. Therefore, the display image in the storage area may be updated while the partial images are extracted one by one and transmitted. Therefore, when all the partial images constituting the wide area are transmitted from the main microcomputer 31 to the sub-microcomputer 32, the partial images do not always belong to the same one frame, and in many cases, they are divided into a plurality of different frames. Belongs.

しかし、そのようになっていたとしても、メインマイコン31のフリーズを検知することに支障はない。例えば、主制御処理中の右側表示画像を生成する処理部分にフリーズが発生すれば、当該格納エリアの右側表示画像は、長時間変化しないからである。左側表示画像を生成する処理部分にフリーズが発生した場合も同様である。 However, even if this is the case, there is no problem in detecting the freeze of the main microcomputer 31. For example, if a freeze occurs in the processing portion that generates the right-side display image during the main control process, the right-side display image of the storage area does not change for a long time. The same applies when a freeze occurs in the processing portion that generates the left-side display image.

また、広領域の撮影画像が複数の部分画像として細切れに送信されることにより、上述の通り、送信中に格納エリア中の表示画像が変化する可能性があるが、そのせいで2フレーム分の広領域画像が変化する場合はフリーズは発生していない。したがって、この場合もフリーズがない場合の対応で良い。 Further, as described above, the display image in the storage area may change during transmission because the captured image in a wide area is transmitted in small pieces as a plurality of partial images, but this causes two frames. If the wide area image changes, no freeze has occurred. Therefore, even in this case, it is sufficient to deal with the case where there is no freeze.

具体的には、メインマイコン31は、フリーズ検知用画像送信処理において、まずステップT115で、2個の広領域の画像のうち、1個目の広領域の画像の、最初の部分画像を、シリアル通信線を介して、サブマイコン32に送信する。 Specifically, in the freeze detection image transmission process, the main microcomputer 31 first serializes the first partial image of the first wide-area image of the two wide-area images in step T115. It is transmitted to the sub-microcomputer 32 via the communication line.

次に、メインマイコン31は、フリーズ検知用画像送信処理において、前回の部分画像の出力期間の完了から所定時間間隔後に、ステップT118で、1個目の広領域の画像のうち2個目の部分画像を、上記シリアル通信線を介して、サブマイコン32に送信する。 Next, in the freeze detection image transmission process, the main microcomputer 31 performs the second portion of the first wide-area image in step T118 after a predetermined time interval from the completion of the output period of the previous partial image. The image is transmitted to the sub-microcomputer 32 via the serial communication line.

その後、メインマイコン31は、フリーズ検知用画像送信処理において、上述の通り、前回の部分画像の出力期間完了から所定時間間隔後に、1個目の広領域の画像のうち次の部分画像を、上記シリアル通信線を介してサブマイコン32に送信するという処理を、繰り返す。これにより、1個目の広領域の画像のすべての部分画像がサブマイコン32に送信される。 After that, in the freeze detection image transmission process, the main microcomputer 31 displays the next partial image of the first wide-area image after a predetermined time interval from the completion of the output period of the previous partial image as described above. The process of transmitting to the sub-microcomputer 32 via the serial communication line is repeated. As a result, all partial images of the first wide-area image are transmitted to the sub-microcomputer 32.

その後、メインマイコン31は、フリーズ検知用画像送信処理において、1個目の広領域の最後の部分画像の出力期間完了から所定時間間隔後に、2個目の広領域の画像のうち最初の部分画像を、上記シリアル通信線を介してサブマイコン32に送信する。 After that, in the freeze detection image transmission process, the main microcomputer 31 performs the first partial image of the second wide area image after a predetermined time interval from the completion of the output period of the last partial image of the first wide area. Is transmitted to the sub-microcomputer 32 via the serial communication line.

更にその後、メインマイコン31は、フリーズ検知用画像送信処理において、前回の部分画像の出力期間完了から所定時間間隔後に、2個目の広領域の画像のうち次の部分画像を、上記シリアル通信線を介してサブマイコン32に送信するという処理を、繰り返す。 After that, in the freeze detection image transmission process, the main microcomputer 31 transfers the next partial image of the second wide-area image to the serial communication line after a predetermined time interval from the completion of the output period of the previous partial image. The process of transmitting to the sub-microcomputer 32 via the above is repeated.

この繰り返しの最後に、メインマイコン31は、フリーズ検知用画像送信処理において、前回の部分画像の出力期間完了から所定時間間隔後に、ステップT120で、2個目の広領域の画像のうち最後の部分画像を、上記シリアル通信線を介してサブマイコン32に送信する。 At the end of this repetition, in the freeze detection image transmission process, the main microcomputer 31 performs the last portion of the second wide area image in step T120 after a predetermined time interval from the completion of the output period of the previous partial image. The image is transmitted to the sub-microcomputer 32 via the serial communication line.

このように、複数の部分画像が、1つの部分画像の出力期間と次の部分画像の出力期間との間に所定時間間隔をおいて、間欠的に送信されている間、その送信の合間の時間において、シリアル通信線を介して上述の他の通信が行われる。 In this way, while a plurality of partial images are intermittently transmitted with a predetermined time interval between the output period of one partial image and the output period of the next partial image, the interval between the transmissions is performed. In time, the other communications described above take place over the serial communication line.

また、複数の部分画像が所定時間間隔をおいて間欠的に送信されている間も、メインマイコン31は、主制御処理において、カメラから映像信号を取得する度に、表示画像を生成してカメラに表示させる(ステップT116、T119、T416、T419参照)。 Further, even while a plurality of partial images are intermittently transmitted at predetermined time intervals, the main microcomputer 31 generates a display image every time a video signal is acquired from the camera in the main control process. (See steps T116, T119, T416, T419).

サブマイコン32は、2個分の広領域の画像について、すべての部分画像を受信すると、ステップS225からステップS230に進み、受信した2個の広領域の画像を互いに比較する。 When the sub-microcomputer 32 receives all the partial images of the two wide-area images, the process proceeds from step S225 to step S230, and the two received wide-area images are compared with each other.

続いてサブマイコン32は、ステップS240で、直前のステップS230の比較結果に基づいて、比較対象の画像に違いがあるか否かを判定する。少しでも違いがあれば違いがあると判定される。違いが有ると判定した場合はステップS210に戻り、違いが無いと判定した場合はステップS250に進む。図7の事例では、上述の通り、偶々小領域の画像に変化が無かっただけで、広領域の画素に違いがあるので、ステップT220のように、広領域の画素に違いがあると判定し、ステップS240からステップS210に戻る。 Subsequently, in step S240, the sub-microcomputer 32 determines whether or not there is a difference in the images to be compared based on the comparison result of the immediately preceding step S230. If there is any difference, it is judged that there is a difference. If it is determined that there is a difference, the process returns to step S210, and if it is determined that there is no difference, the process proceeds to step S250. In the case of FIG. 7, as described above, there is a difference in the pixels in the wide area just because the image in the small area does not change by chance. Therefore, it is determined that there is a difference in the pixels in the wide area as in step T220. , Return to step S210 from step S240.

図7の事例では、その後も、メインマイコン31が、カメラから映像信号を取得してステップT121で表示画像を生成し、生成した表示画像をディスプレイに表示させる(ステップT421参照)。それと共にメインマイコン31は、ステップT122で、小範囲の画像をサブマイコン32に出力する。そしてサブマイコン32は、ステップS220で、小領域の画素に違いが無いと判定する(ステップT222参照)。 In the case of FIG. 7, the main microcomputer 31 continues to acquire the video signal from the camera, generate a display image in step T121, and display the generated display image on the display (see step T421). At the same time, the main microcomputer 31 outputs a small range of images to the sub-microcomputer 32 in step T122. Then, in step S220, the sub-microcomputer 32 determines that there is no difference in the pixels in the small area (see step T222).

次に、図8の事例について説明する。図7と図8の作動中、同じ内容の作動については、同じ符号を付して、説明を省略する。図8の作動において、メインマイコン31のステップT111からT120までの作動、サブマイコン32のステップT212からT215までの作動、および、ディスプレイの作動は、図7と同じである。 Next, the case of FIG. 8 will be described. During the operation of FIGS. 7 and 8, the same reference numerals are given to the operations having the same contents, and the description thereof will be omitted. In the operation of FIG. 8, the operation of the main microcomputer 31 from steps T111 to T120, the operation of the sub-microcomputer 32 from steps T212 to T215, and the operation of the display are the same as those of FIG.

ただし、ステップT113の直前に発生する事象は、正常な状態で偶々小領域に変化がなかった事象ではなく、メインマイコン31にフリーズが発生した事象である。 However, the event that occurs immediately before step T113 is not an event in which the small region does not change by chance in a normal state, but an event in which the main microcomputer 31 freezes.

その場合、サブマイコン32は、2個分の広領域の画像について、すべての部分画像を受信すると、ステップS225からステップS230に進み、受信した2個の広領域の画像を互いに比較する。 In that case, when the sub-microcomputer 32 receives all the partial images of the two wide-area images, the process proceeds from step S225 to step S230, and the two received wide-area images are compared with each other.

続いてサブマイコン32は、ステップS240で、直前のステップS230の比較結果に基づいて、比較対象の画像に違いがあるか否かを判定する。図8の事例では、上述の通り、フリーズが発生しているので、上記格納エリアの表示画像(すなわち、右側表示画像または左側表示画像)が更新されない。したがって、サブマイコン32は、ステップS240で、ステップT224のように、広領域の画素に違いが無いと判定し、ステップS240からステップS250に進む。 Subsequently, in step S240, the sub-microcomputer 32 determines whether or not there is a difference in the images to be compared based on the comparison result of the immediately preceding step S230. In the case of FIG. 8, as described above, since the freeze has occurred, the display image of the storage area (that is, the right side display image or the left side display image) is not updated. Therefore, in step S240, the sub-microcomputer 32 determines that there is no difference in the pixels in the wide area as in step T224, and proceeds from step S240 to step S250.

サブマイコン32は、ステップS250では、フリーズ対応処理を行う。具体的には、ステップT226に示すように、メインマイコン31をリセットする。これにより、メインマイコン31はリセットされて再起動する。この結果、メインマイコン31では、主制御処理が一旦終了してリセットが実行され、リセット後に主制御処理が再開される。これにより、メインマイコン31のフリーズが解消される場合がある。 In step S250, the sub-microcomputer 32 performs freeze-corresponding processing. Specifically, as shown in step T226, the main microcomputer 31 is reset. As a result, the main microcomputer 31 is reset and restarted. As a result, in the main microcomputer 31, the main control process is temporarily completed, the reset is executed, and the main control process is restarted after the reset. As a result, the freeze of the main microcomputer 31 may be eliminated.

なお、サブマイコン32は、ステップS250では、運転者に音声または画像でリセットの可否を問い合わせてもよい。この場合、運転者によるリセット許可の操作があった場合にリセットを行い、運転者によるリセット拒否の操作があった場合にリセットを行わない。このようにすることで、運転者がメインマイコン31のリセット時期を状況に応じて適切に選択することができる。 In step S250, the sub-microcomputer 32 may ask the driver whether or not the reset is possible by voice or image. In this case, the reset is performed when the driver operates the reset permission, and the reset is not performed when the driver refuses the reset. By doing so, the driver can appropriately select the reset time of the main microcomputer 31 according to the situation.

続いてサブマイコン32は、ステップT228で、メインマイコン31にフリーズが発生したことを示すフリーズ通知を、CAN7上の他の車載機器に送信する。これにより、これら車載機器は、車両用表示システムの異常に対応した処理を行うことができる。 Subsequently, in step T228, the sub-microcomputer 32 transmits a freeze notification indicating that the main microcomputer 31 has been frozen to another in-vehicle device on the CAN 7. As a result, these in-vehicle devices can perform processing corresponding to the abnormality of the vehicle display system.

このようになっていることで、本実施形態のサブマイコン32は、第1実施形態の追加マイコン4と同等の機能を実現することができる。 By doing so, the sub-microcomputer 32 of the present embodiment can realize the same function as the additional microcomputer 4 of the first embodiment.

また、メインマイコン31は、複数フレームの表示画像から、小領域内の画像を抽出して所定のシリアル通信線を介してサブマイコン32に出力する。そして、メインマイコン31は、小領域内の画像が変化していないとサブマイコン32が判定した場合を選んで、複数フレームの表示画像から広領域内の画像を抽出してシリアル通信線を介してサブマイコン32に出力する。このようにすることで、広領域内の画像の送信頻度を減らすことができるので、シリアル通信線の帯域を節約することができる。 Further, the main microcomputer 31 extracts an image in a small area from the display images of a plurality of frames and outputs the image to the sub-microcomputer 32 via a predetermined serial communication line. Then, the main microcomputer 31 selects the case where the sub-microcomputer 32 determines that the image in the small area has not changed, extracts the image in the wide area from the display images of the plurality of frames, and uses the serial communication line. Output to the sub-microcomputer 32. By doing so, the frequency of transmitting images in a wide area can be reduced, so that the bandwidth of the serial communication line can be saved.

なお、本実施形態では、サブマイコン32が、ステップS220を実行することで第1判定部として機能し、ステップS240を実行することで第2判定部として機能し、ステップS250を実行することで異常対応部として機能する。また、本実施形態では、メインマイコン31が主制御部に対応し、サブマイコン32がフリーズ検出装置に対応する。 In the present embodiment, the sub-microcomputer 32 functions as a first determination unit by executing step S220, functions as a second determination unit by executing step S240, and is abnormal by executing step S250. Functions as a corresponding part. Further, in the present embodiment, the main microcomputer 31 corresponds to the main control unit, and the sub-microcomputer 32 corresponds to the freeze detection device.

(第3実施形態)
次に第3実施形態について説明する。第1実施形態の車両用表示システムでは、追加マイコン4がフリーズ検知処理を行っていたのに対し、本実施形態の車両用表示システムでは、メインマイコン31がフリーズ検知処理を行う。
(Third Embodiment)
Next, the third embodiment will be described. In the vehicle display system of the first embodiment, the additional microcomputer 4 performs the freeze detection process, whereas in the vehicle display system of the present embodiment, the main microcomputer 31 performs the freeze detection process.

メインマイコン31のうち、フリーズ検知処理がフリーズしていなくても、主制御処理がフリーズすることがある。そのような場合には、メインマイコン31がフリーズ検知処理を実行していても、フリーズ検知が可能となる。 Of the main microcomputer 31, the main control process may freeze even if the freeze detection process is not frozen. In such a case, freeze detection is possible even if the main microcomputer 31 is executing the freeze detection process.

本実施形態のハードウェア構成は、第2実施形態と同じである。本実施形態のメインマイコン31は、図10に示すように、主制御部31aとフリーズ検出部31bを有する。主制御部31aが主制御処理を実行し、フリーズ検出部31bがフリーズ検知処理を実行する。主制御処理の処理内容は、第1実施形態と同じである。フリーズ検知処理の処理内容も、第1実施形態と同じである。 The hardware configuration of this embodiment is the same as that of the second embodiment. As shown in FIG. 10, the main microcomputer 31 of the present embodiment has a main control unit 31a and a freeze detection unit 31b. The main control unit 31a executes the main control process, and the freeze detection unit 31b executes the freeze detection process. The processing content of the main control processing is the same as that of the first embodiment. The processing content of the freeze detection process is also the same as that of the first embodiment.

ただし、フリーズ検知処理における小領域の画像と広領域の画像の取得方法が、第1実施形態と異なる。具体的には、本実施形態では、フリーズ検出部31bは、図2のステップS110とS130で、メインマイコン31のRAM中の表示用画像の格納エリアから、小領域の画像と広領域の画像を取得する。 However, the method of acquiring the image of a small area and the image of a wide area in the freeze detection process is different from that of the first embodiment. Specifically, in the present embodiment, the freeze detection unit 31b obtains a small area image and a wide area image from the display image storage area in the RAM of the main microcomputer 31 in steps S110 and S130 of FIG. get.

また、フリーズ検知処理中のフリーズ対応処理(図2のステップS150)においては、フリーズ検出部31bは、フリーズ検知をサブマイコン32に通知するだけでなく、メインマイコン31をリセットする。 Further, in the freeze handling process (step S150 in FIG. 2) during the freeze detection process, the freeze detection unit 31b not only notifies the sub-microcomputer 32 of the freeze detection, but also resets the main microcomputer 31.

図11に、本実施形態における車両用表示システムの作動を示す。この図11と図3で同じ符号が付された処理は、同じ処理内容を示す。この図に示すように、本実施形態では、第1実施形態において追加マイコン4が行っていたことをフリーズ検出部31bが行うことで、第1実施形態と同等の機能が実現する。 FIG. 11 shows the operation of the vehicle display system according to the present embodiment. The processes with the same reference numerals in FIGS. 11 and 3 indicate the same processing contents. As shown in this figure, in the present embodiment, the freeze detection unit 31b performs what the additional microcomputer 4 has done in the first embodiment, thereby realizing the same functions as those in the first embodiment.

このようになっていることで、本実施形態のフリーズ検出部31bは、第1実施形態の追加マイコン4と同等の機能を実現することができる。 By doing so, the freeze detection unit 31b of the present embodiment can realize the same function as the additional microcomputer 4 of the first embodiment.

なお、本実施形態では、フリーズ検出部31bが、ステップS120を実行することで第1判定部として機能し、ステップS140を実行することで第2判定部として機能し、ステップS150を実行することで異常対応部として機能する。また、本実施形態では、メインマイコン31がフリーズ検出装置に対応する。または、フリーズ検出部31bがフリーズ検出装置に対応する。 In the present embodiment, the freeze detection unit 31b functions as a first determination unit by executing step S120, functions as a second determination unit by executing step S140, and executes step S150. Functions as an abnormality response unit. Further, in the present embodiment, the main microcomputer 31 corresponds to the freeze detection device. Alternatively, the freeze detection unit 31b corresponds to the freeze detection device.

(他の実施形態)
なお、本発明は上記した実施形態に限定されるものではなく、適宜変更が可能である。また、上記各実施形態は、互いに無関係なものではなく、組み合わせが明らかに不可な場合を除き、適宜組み合わせが可能である。また、上記各実施形態において、実施形態を構成する要素は、特に必須であると明示した場合および原理的に明らかに必須であると考えられる場合等を除き、必ずしも必須のものではない。また、上記各実施形態において、実施形態の構成要素の個数、数値、量、範囲等の数値が言及されている場合、特に必須であると明示した場合および原理的に明らかに特定の数に限定される場合等を除き、その特定の数に限定されるものではない。特に、ある量について複数個の値が例示されている場合、特に別記した場合および原理的に明らかに不可能な場合を除き、それら複数個の値の間の値を採用することも可能である。また、上記各実施形態において、構成要素等の形状、位置関係等に言及するときは、特に明示した場合および原理的に特定の形状、位置関係等に限定される場合等を除き、その形状、位置関係等に限定されるものではない。また、本発明は、上記各実施形態に対する以下のような変形例および均等範囲の変形例も許容される。なお、以下の変形例は、それぞれ独立に、上記実施形態に適用および不適用を選択できる。すなわち、以下の変形例のうち任意の組み合わせを、上記実施形態に適用することができる。
(Other embodiments)
The present invention is not limited to the above-described embodiment, and can be changed as appropriate. Further, the above-described embodiments are not unrelated to each other, and can be appropriately combined unless the combination is clearly impossible. Further, in each of the above embodiments, the elements constituting the embodiment are not necessarily essential except when it is clearly stated that they are essential and when it is clearly considered to be essential in principle. Further, in each of the above embodiments, when numerical values such as the number, numerical values, amounts, and ranges of the constituent elements of the embodiment are mentioned, when it is clearly stated that they are particularly essential, and in principle, the number is clearly limited to a specific number. It is not limited to the specific number except when it is done. In particular, when a plurality of values are exemplified for a certain quantity, it is also possible to adopt a value between the plurality of values unless otherwise specified or when it is clearly impossible in principle. .. Further, in each of the above embodiments, when referring to the shape, positional relationship, etc. of a component or the like, the shape, unless otherwise specified or limited in principle to a specific shape, positional relationship, etc. It is not limited to the positional relationship. Further, the present invention also allows the following modifications and equivalent range modifications for each of the above embodiments. In addition, the following modified examples can be independently selected to be applied or not applied to the above-described embodiment. That is, any combination of the following modifications can be applied to the above embodiment.

(変形例1)
上記各実施形態では、フリーズ検知処理における小領域の画像の比較および判定は、表示画像が1フレーム分生成される度に行われている。しかし、必ずしもこのようになっている必要はない。例えば、フリーズ検知処理における小領域の画像の比較および判定は、表示画像が複数フレーム分生成される度に行われてもよい。
(Modification example 1)
In each of the above embodiments, the comparison and determination of the images of the small area in the freeze detection process are performed every time one frame of the display image is generated. However, this does not necessarily have to be the case. For example, the comparison and determination of images in a small area in the freeze detection process may be performed each time a plurality of frames of display images are generated.

(変形例2)
上記各実施形態では、小領域の画像は、消失点に最も近い画素を含む1つの画素列内の一部の画素群に限定されている。しかし、小領域の画像としては、このようなもの以外であってもよい。例えば、小領域の画像は、消失点に最も近い画素を含む1つの画素列内の一部の画素群と、それ以外の画素列内の画像群とによって構成されていてもよい。すなわち、小領域の画像は、複数の画素列に亘る画素群を含んでいてもよい。
(Modification 2)
In each of the above embodiments, the image of the small region is limited to a part of the pixel group in one pixel sequence including the pixel closest to the vanishing point. However, the image of the small area may be other than such an image. For example, an image in a small region may be composed of a part of a pixel group in one pixel array including the pixel closest to the vanishing point, and an image group in the other pixel array. That is, the image of a small area may include a pixel group extending over a plurality of pixel sequences.

(変形例3)
上記実施形態では、小領域の表示画像の比較(ステップS120、S220)および広領域の表示画像の比較(ステップS130、S230)においては、2フレーム分の表示画像を用いて比較が行われている。しかし、3フレーム分以上の表示画像を用いて比較が行われていてもよい。
(Modification example 3)
In the above embodiment, in the comparison of the display images of the small area (steps S120 and S220) and the comparison of the display images of the wide area (steps S130 and S230), the comparison is performed using the display images for two frames. .. However, the comparison may be performed using display images of 3 frames or more.

1 右カメラ
2 左カメラ
4 追加マイコン
5 右ディスプレイ
6 左ディスプレイ
31 メインマイコン
31a 主制御部
32 サブマイコン
1 Right camera 2 Left camera 4 Additional microcomputer 5 Right display 6 Left display 31 Main microcomputer 31a Main control unit 32 Sub microcomputer

Claims (6)

車載カメラ(1、2)によって撮影された車外の映像に基づく複数フレームの表示画像を順番に車載ディスプレイ(5、6)に出力する主制御部(31、31a)と、
前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、
前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)と、
前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、
前記複数フレームの前記表示画像中の前記第1領域は、前記複数フレームの表示画像における消失点に最も近い画素と上下方向の位置が同じ画素を含む、車両用表示システム。
A main control unit (31, 31a) that sequentially outputs display images of a plurality of frames based on an image outside the vehicle taken by the vehicle-mounted camera (1, 2) to the vehicle-mounted display (5, 6).
The first determination unit (S120, S220) for determining whether or not the image in the first region of the display images of the plurality of frames sequentially output from the main control unit has changed.
When the first determination unit determines that the image in the first region has not changed, the image in the second region larger than the first region in the display image of the plurality of frames changes. The second determination unit (S140, S240) for determining whether or not the image is present, and
An abnormality handling unit (S150, S250) that performs a predetermined abnormality handling process based on the determination by the second determination unit that the image in the second region has not changed is provided.
The first region in the display image of the plurality of frames includes a pixel closest to a vanishing point in the display image of the plurality of frames and a pixel having the same vertical position.
前記主制御部は第1のコンピュータであり、
前記主制御部は、前記車載カメラによって撮影された車外の映像に基づく前記複数フレームの表示画像を信号線を介して順番に前記車載ディスプレイに出力し、
前記第1判定部および前記第2判定部は、前記第1のコンピュータと所定の通信線で接続されている第2のコンピュータ(32)に備えられ、
前記通信線の伝送帯域幅は前記信号線の伝送帯域幅よりも狭く、
前記主制御部は、前記複数フレームの表示画像から、前記第1領域内の画像を抽出して、前記第1判定部で用いられるよう、前記通信線を介して前記第2のコンピュータに出力し、
前記主制御部は、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像から前記第2領域内の画像を抽出して、前記第2判定部で用いられるよう、前記通信線を介して前記第2のコンピュータに出力する請求項1に記載の車両用表示システム。
The main control unit is a first computer.
The main control unit sequentially outputs the display images of the plurality of frames based on the image of the outside of the vehicle taken by the vehicle-mounted camera to the vehicle-mounted display via the signal line.
The first determination unit and the second determination unit are provided in a second computer (32) connected to the first computer by a predetermined communication line.
The transmission bandwidth of the communication line is narrower than the transmission bandwidth of the signal line.
The main control unit extracts an image in the first region from the display image of the plurality of frames and outputs the image in the first region to the second computer via the communication line so as to be used in the first determination unit. ,
The main control unit, to select the case where the image is not changed with the first determination unit of the first region is determined, by extracting an image of said second region from the display image of said plurality of frames The vehicle display system according to claim 1, wherein the display system for a vehicle is output to the second computer via the communication line so as to be used in the second determination unit.
車載カメラ(1、2)によって撮影された車外の映像に基づく複数フレームの表示画像を信号線を介して順番に車載ディスプレイ(5、6)に出力する第1のコンピュータである主制御部(31)と、
前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)と、を有し、前記第1のコンピュータと所定の通信線で接続されている第2のコンピュータ(32)と、
前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、
前記主制御部は、前記複数フレームの表示画像から、前記第1領域内の画像を抽出して、前記第1判定部で用いられるよう、前記通信線を介して前記2のコンピュータに出力し、
前記通信線の伝送帯域幅は前記信号線の伝送帯域幅よりも狭く、
前記主制御部は、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像から前記第2領域内の画像を抽出して、前記第2判定部で用いられるよう、前記通信線を介して前記2のコンピュータに出力する、車両用表示システム。
The main control unit (3 ), which is the first computer, sequentially outputs the display images of a plurality of frames based on the images taken by the in-vehicle cameras (1, 2) to the in-vehicle display (5, 6) via the signal lines. 1) and
The first determination unit (S120, S220) for determining whether or not the image in the first region of the display images of the plurality of frames sequentially output from the main control unit has changed, and the inside of the first region. Select the case where the first determination unit determines that the image of is not changed, and determines whether or not the image in the second region larger than the first region is changed in the display image of the plurality of frames. A second computer (32) having a second determination unit (S140, S240) and connected to the first computer by a predetermined communication line.
An abnormality handling unit (S150, S250) that performs a predetermined abnormality handling process based on the determination by the second determination unit that the image in the second region has not changed is provided.
The main control unit extracts an image in the first region from the display image of the plurality of frames and outputs the image to the second computer via the communication line so as to be used in the first determination unit .
The transmission bandwidth of the communication line is narrower than the transmission bandwidth of the signal line.
The main control unit, to select the case where the image is not changed with the first determination unit of the first region is determined, by extracting an image of said second region from the display image of said plurality of frames , A vehicle display system that outputs to the computer of the second via the communication line so as to be used in the second determination unit.
前記主制御部は、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの画像から、前記第2領域内の画像を構成する複数個の部分画像を抽出し、抽出した複数個の部分画像を、1つの部分画像の出力期間と次の部分画像の出力期間との間に時間間隔を置いて、前記第2判定部に出力する請求項1ないし3のいずれか1つに記載の車両用表示システム。 The main control unit selects a case where the first determination unit determines that the image in the first region has not changed, and constitutes a plurality of images in the second region from the images of the plurality of frames. The individual partial images are extracted, and the extracted plurality of partial images are output to the second determination unit with a time interval between the output period of one partial image and the output period of the next partial image. The vehicle display system according to any one of claims 1 to 3. 車載カメラ(1、2)によって撮影された車外の映像に基づく複数フレームの表示画像を信号線を介して順番に車載ディスプレイ(5、6)に出力する第1のコンピュータである主制御部(31)と、
前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、
前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)を有し、前記第1のコンピュータと所定の通信線で接続されている第2のコンピュータ(32)と、
前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、
前記主制御部は、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの画像から、前記第2領域内の画像を構成する複数個の部分画像を抽出し、抽出した複数個の部分画像を、前記第2判定部で用いられるよう、1つの部分画像の出力期間と次の部分画像の出力期間との間に時間間隔を置いて、前記通信線を介して前記2のコンピュータに出力し、
前記通信線の伝送帯域幅は前記信号線の伝送帯域幅よりも狭い、車両用表示システム。
The main control unit is a first computer you output to the vehicle-mounted display (5,6) in sequence via signal lines display images of a plurality of frames based on the image of the outside taken by the onboard camera (1, 2) ( 3 1) and
The first determination unit (S120, S220) for determining whether or not the image in the first region of the display images of the plurality of frames sequentially output from the main control unit has changed.
When the first determination unit determines that the image in the first region has not changed, the image in the second region larger than the first region in the display image of the plurality of frames changes. A second computer (32) having a second determination unit (S140, S240) for determining whether or not the image is present and connected to the first computer by a predetermined communication line.
An abnormality handling unit (S150, S250) that performs a predetermined abnormality handling process based on the determination by the second determination unit that the image in the second region has not changed is provided.
The main control unit selects a case where the first determination unit determines that the image in the first region has not changed, and constitutes a plurality of images in the second region from the images of the plurality of frames. Individual partial images are extracted, and a time interval is set between the output period of one partial image and the output period of the next partial image so that the extracted plurality of partial images can be used in the second determination unit. Te, and outputs it to the second computer via said communication line,
A vehicle display system in which the transmission bandwidth of the communication line is narrower than the transmission bandwidth of the signal line.
車載カメラ(1、2)によって撮影された車外の映像に基づく複数フレームの表示画像を順番に車載ディスプレイ(5、6)に出力する主制御部(31、31a)の異常を検出するフリーズ検出装置であって、
前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、
前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)と、
前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、
前記複数フレームの前記表示画像中の前記第1領域は、前記複数フレームの表示画像における消失点に最も近い画素と上下方向の位置が同じ画素を含む、フリーズ検出装置。
A freeze detection device that detects an abnormality in the main control unit (31, 31a) that sequentially outputs a display image of a plurality of frames based on an image outside the vehicle taken by the vehicle-mounted camera (1, 2) to the vehicle-mounted display (5, 6). And
The first determination unit (S120, S220) for determining whether or not the image in the first region of the display images of the plurality of frames sequentially output from the main control unit has changed.
When the first determination unit determines that the image in the first region has not changed, the image in the second region larger than the first region in the display image of the plurality of frames changes. The second determination unit (S140, S240) for determining whether or not the image is present, and
An abnormality handling unit (S150, S250) that performs a predetermined abnormality handling process based on the determination by the second determination unit that the image in the second region has not changed is provided.
The freeze detection device includes the pixel closest to the vanishing point in the display image of the plurality of frames and the pixel having the same position in the vertical direction in the first region of the display image of the plurality of frames.
JP2016224446A 2016-11-17 2016-11-17 Vehicle display system and freeze detector Active JP6891460B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016224446A JP6891460B2 (en) 2016-11-17 2016-11-17 Vehicle display system and freeze detector

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016224446A JP6891460B2 (en) 2016-11-17 2016-11-17 Vehicle display system and freeze detector

Publications (2)

Publication Number Publication Date
JP2018079839A JP2018079839A (en) 2018-05-24
JP6891460B2 true JP6891460B2 (en) 2021-06-18

Family

ID=62197320

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016224446A Active JP6891460B2 (en) 2016-11-17 2016-11-17 Vehicle display system and freeze detector

Country Status (1)

Country Link
JP (1) JP6891460B2 (en)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6958526B2 (en) * 2018-09-26 2021-11-02 株式会社デンソー Image processing device and image display system
CN111510669A (en) 2019-01-30 2020-08-07 拉碧斯半导体株式会社 Video signal processing apparatus, video freeze detection circuit, and video freeze detection method
JP7247760B2 (en) * 2019-06-03 2023-03-29 株式会社デンソー Sticking determination device and sticking determination method
JP7333135B2 (en) 2019-07-18 2023-08-24 ラピスセミコンダクタ株式会社 signal processing circuit
CN110509873A (en) * 2019-09-27 2019-11-29 京东方科技集团股份有限公司 Reverse image auxiliary device and method, reverse image
JP2022077197A (en) 2020-11-11 2022-05-23 ラピステクノロジー株式会社 Video processing apparatus, video freeze determination method, and display system
CN114727144A (en) * 2021-01-05 2022-07-08 广州汽车集团股份有限公司 Monitoring system and method for display clamping stagnation of display

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09116892A (en) * 1995-10-20 1997-05-02 Fujitsu General Ltd Video monitor equipment
JP3272694B2 (en) * 1999-07-14 2002-04-08 富士重工業株式会社 Outside monitoring device with fail-safe function
JP2002191045A (en) * 2001-10-15 2002-07-05 Toshiba Corp Fault state detection method and fault state detector
JP4071527B2 (en) * 2002-04-17 2008-04-02 株式会社東芝 Diagnostic imaging equipment
JP3945333B2 (en) * 2002-07-29 2007-07-18 住友電気工業株式会社 Imaging display system
JP5207823B2 (en) * 2008-05-14 2013-06-12 アルパイン株式会社 Image judging apparatus and image judging method
JP6299373B2 (en) * 2014-04-18 2018-03-28 富士通株式会社 Imaging direction normality determination method, imaging direction normality determination program, and imaging direction normality determination apparatus
JP6350113B2 (en) * 2014-08-22 2018-07-04 株式会社デンソー Image processing apparatus and fault diagnosis method for image processing apparatus
JP2017117105A (en) * 2015-12-22 2017-06-29 トヨタ自動車株式会社 Visibility determination device

Also Published As

Publication number Publication date
JP2018079839A (en) 2018-05-24

Similar Documents

Publication Publication Date Title
JP6891460B2 (en) Vehicle display system and freeze detector
CN106781666B (en) Control method and system for target parking space
JP7151234B2 (en) Camera system and event recording system
US20190306382A1 (en) Bidirectional synchronizing camera, camera system including the same and method of operating the camera
CN103548340A (en) Vehicle monitoring device and method of monitoring vehicle
US20150217692A1 (en) Image generation apparatus and image generation program product
US20200282921A1 (en) Systems and methods for low light vision through pulsed lighting
US9525829B2 (en) Video display apparatus, video switching apparatus, and video display method
CN113691776B (en) In-vehicle camera system and light supplementing method
US20160050342A1 (en) Image processing apparatus
CN106945605A (en) Vehicle blind zone monitoring system and control method
US20200252552A1 (en) Systems and methods for live video freeze detection
JP6317914B2 (en) In-vehicle image processing device
JP2020197815A (en) Warning system and warning method
US20220058412A1 (en) Sticking determination device and sticking determination method
US11758072B2 (en) Driver assistance system, driver assisting method, and non-transitory storage medium
JP6958279B2 (en) Information processing device
CN113170038B (en) Jitter correction control device, method for operating jitter correction control device, storage medium, and image pickup device
CN110870301B (en) Image display method and device and image processing equipment
US20220176872A1 (en) Method and system for deducing a reduced image refresh frequency in high definition headlights
JP7231092B2 (en) event recording system
JP2020136811A (en) Solid state image pickup device and imaging apparatus
JP6680254B2 (en) Vehicle display control device
US11936700B1 (en) Vehicle video streaming system and method
JP2021114745A (en) Recording control device, recording control method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191224

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210126

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210427

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210510

R151 Written notification of patent or utility model registration

Ref document number: 6891460

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151