JP6891460B2 - Vehicle display system and freeze detector - Google Patents
Vehicle display system and freeze detector Download PDFInfo
- Publication number
- JP6891460B2 JP6891460B2 JP2016224446A JP2016224446A JP6891460B2 JP 6891460 B2 JP6891460 B2 JP 6891460B2 JP 2016224446 A JP2016224446 A JP 2016224446A JP 2016224446 A JP2016224446 A JP 2016224446A JP 6891460 B2 JP6891460 B2 JP 6891460B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- display
- region
- determination unit
- frames
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
本発明は、車両用表示システムおよびフリーズ検出装置に関するものである。 The present invention relates to a vehicle display system and a freeze detection device.
従来、車載カメラによって撮影された車外の映像に基づく複数フレームの表示画像を順番に車載ディスプレイに出力する車両用表示システムが知られている。 Conventionally, there is known a vehicle display system that sequentially outputs a display image of a plurality of frames based on an image outside the vehicle taken by an in-vehicle camera to an in-vehicle display.
特許文献1には、このような車載表示システムのフリーズを検出する技術が記載されている。フリーズとは、車載カメラの撮影範囲の光景が変化しているにも関わらず、車載ディスプレイに出力される撮影画像に変化が全く無い事象をいう。特許文献1に記載の技術では、複数フレームの画像間で変化が無い場合に、フリーズが発生したと判定している。
発明者の検討によれば、複数フレームの画像間で変化があるか否かを判定する処理は、非常に負荷が高い。 According to the inventor's examination, the process of determining whether or not there is a change between images of a plurality of frames is extremely burdensome.
本発明は上記点に鑑み、車両用表示システムにおいて、フリーズを検出する処理の処理負荷を軽減することを目的とする。 In view of the above points, it is an object of the present invention to reduce the processing load of the process of detecting a freeze in a vehicle display system.
上記目的を達成するための請求項1に記載の発明は、車載カメラ(1、2)によって撮影された車外の映像に基づく複数フレームの表示画像を順番に車載ディスプレイ(5、6)に出力する主制御部(31、31a)と、前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)と、前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、前記複数フレームの前記表示画像中の前記第1領域は、前記複数フレームの表示画像における消失点に最も近い画素と上下方向の位置が同じ画素を含む、車両用表示システムである。
また、請求項3に記載の発明は、車載カメラ(1、2)によって撮影された車外の映像に基づく複数フレームの表示画像を信号線を介して順番に車載ディスプレイ(5、6)に出力する主制御部(31)と、前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)と、を有し、前記第1のコンピュータと所定の通信線で接続されている第2のコンピュータ(32)と、前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、前記主制御部は、前記複数フレームの表示画像から、前記第1領域内の画像を抽出して、前記第1判定部で用いられるよう前記通信線を介して前記2のコンピュータに出力し、前記通信線の伝送帯域幅は前記信号線の伝送帯域幅よりも狭く、前記主制御部は、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像から前記第2領域内の画像を抽出して前記通信線を介して前記第2判定部に出力する、車両用表示システムである。
また、請求項5に記載の発明は、車載カメラ(1、2)によって撮影された車外の映像に基づく複数フレームの表示画像を信号線を介して順番に車載ディスプレイ(5、6)に出力する第1のコンピュータである主制御部(31)と、前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)を有し、前記第1のコンピュータと所定の通信線で接続されている第2のコンピュータ(32)と、前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、前記主制御部は、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの画像から、前記第2領域内の画像を構成する複数個の部分画像を抽出し、抽出した複数個の部分画像を、前記第2判定部で用いられるよう、1つの部分画像の出力期間と次の部分画像の出力期間との間に時間間隔を置いて、所定の通信線を介して前記2のコンピュータに出力し、前記通信線の伝送帯域幅は前記信号線の伝送帯域幅よりも狭い、車両用表示システムである。
The invention according to
Further, the invention according to claim 3 outputs a plurality of frames of display images based on an image outside the vehicle taken by the vehicle-mounted camera (1, 2) to the vehicle-mounted display (5, 6) in order via a signal line. The first determination unit (S120, S120,) which determines whether or not the images in the first region of the main control unit (31 ) and the display images of the plurality of frames output in order from the main control unit have changed. S220) and the case where the first determination unit determines that the image in the first region has not changed are selected, and the image in the second region larger than the first region in the display image of the plurality of frames is selected. A second computer (32) having a second determination unit (S140, S240) for determining whether or not the image has changed, and being connected to the first computer by a predetermined communication line, and the above. The main control unit includes an abnormality response unit (S150, S250) that performs a predetermined abnormality response process based on the determination by the second determination unit that the image in the second region has not changed. An image in the first region is extracted from the display image of the plurality of frames and output to the second computer via the communication line so as to be used in the first determination unit, and the transmission band of the communication line is output. The width is narrower than the transmission bandwidth of the signal line, and the main control unit selects a case where the first determination unit determines that the image in the first region has not changed, and displays the plurality of frames. This is a vehicle display system that extracts an image in the second region from an image and outputs it to the second determination unit via the communication line.
Further, the invention according to claim 5 outputs a plurality of frames of display images based on an image outside the vehicle taken by the vehicle-mounted camera (1, 2) to the vehicle-mounted display (5, 6) in order via a signal line. It is determined whether or not the images in the first region of the main control unit (31 ) , which is the first computer, and the display images of the plurality of frames output in order from the main control unit are changed. A case where the first determination unit (S120, S220) and the first determination unit determines that the image in the first region has not changed is selected, and the display image of the plurality of frames is more than the first region. A second computer (S140, S240) having a second determination unit (S140, S240) for determining whether or not the image in the large second region has changed , and connected to the first computer by a predetermined communication line ( 32) and an abnormality response unit (S150, S250) that performs a predetermined abnormality response process based on the determination by the second determination unit that the image in the second region has not changed. The main control unit selects a case where the first determination unit determines that the image in the first region has not changed, and constitutes a plurality of images in the second region from the images of the plurality of frames. Individual partial images are extracted, and a time interval is set between the output period of one partial image and the output period of the next partial image so that the extracted plurality of partial images can be used in the second determination unit. This is a vehicle display system that outputs an image to the
また、請求項6に記載の発明は、車載カメラ(1、2)によって撮影された車外の映像に基づく複数フレームの表示画像を順番に車載ディスプレイ(5、6)に出力する主制御部(31、31a)の異常を検出するフリーズ検出装置であって、前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)と、前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、前記複数フレームの前記表示画像中の前記第1領域は、前記複数フレームの表示画像における消失点に最も近い画素と上下方向の位置が同じ画素を含む、フリーズ検出装置である。 The invention according to claim 6 is a main control unit (31) that sequentially outputs a display image of a plurality of frames based on an image outside the vehicle taken by the vehicle-mounted camera (1, 2) to the vehicle-mounted display (5, 6). 31a), which is a freeze detection device for detecting an abnormality, and determines whether or not an image in a first region of the display images of the plurality of frames sequentially output from the main control unit has changed. One determination unit (S120, S220) and the case where the first determination unit determines that the image in the first region has not changed are selected, and the display image of the plurality of frames is larger than the first region. The second determination unit (S140, S240) for determining whether or not the image in the second region has changed, and the second determination unit for determining that the image in the second region has not changed. Based on this, the first region in the display image of the plurality of frames is provided with an abnormality response unit (S150, S250) that performs a predetermined abnormality response process, and is closest to the disappearance point in the display image of the plurality of frames. It is a freeze detection device that includes a pixel having the same position in the vertical direction as the image.
このように、異常対応処理のトリガとなる第2判定部は、第2領域よりも狭い第1領域
内の画像が変化していないと判定された場合を選んで、判定を行う。したがって、第2判定部が判定を行う頻度が低減される。したがってその分、異常対応処理のための判定処理の負荷が低減される。ひいては、フリーズを検出する処理の処理負荷が低減される。
In this way, the second determination unit that triggers the abnormality handling process selects and determines the case where it is determined that the image in the first region narrower than the second region has not changed. Therefore, the frequency with which the second determination unit makes a determination is reduced. Therefore, the load of the determination process for the abnormality response process is reduced accordingly. As a result, the processing load of the process of detecting the freeze is reduced.
なお、上記および特許請求の範囲における括弧内の符号は、特許請求の範囲に記載された用語と後述の実施形態に記載されて当該用語の例となる具体物等との対応関係を示すものである。 The reference numerals in parentheses in the above and claims indicate the correspondence between the terms described in the claims and the concrete objects described in the embodiments described later and which are examples of the terms. is there.
(第1実施形態)
以下、第1実施形態について説明する。図1に示すように、本実施形態に係る車両用表示システムは、右カメラ1、左カメラ2、電子ミラー用ECU3、追加マイコン4、右ディスプレイ5、左ディスプレイ6を有している。この車両用表示システムは、車両のサイドミラーの代わりに車両側方および車両後方の光景を運転者に見せるための電子ミラーシステムである。
(First Embodiment)
Hereinafter, the first embodiment will be described. As shown in FIG. 1, the vehicle display system according to the present embodiment includes a
右カメラ1および左カメラ2は、それぞれ、車外の撮影範囲内の光景を表す映像信号を出力する車載カメラである。具体的には、右カメラ1は、車両の右前側のドアに取り付けられ、車両の右側方および右後方の映像を表す映像信号を出力する。また、左カメラ2は、車両の左前側のドアに取り付けられ、車両の左側方および左後方の映像を表す映像信号を出力する。
The
電子ミラー用ECU3は、車両に搭載され、メインマイコン31およびサブマイコン32を有している。
The electronic mirror ECU 3 is mounted on a vehicle and has a
メインマイコン31には、右カメラ1および左カメラ2の各々から映像信号が入力される。メインマイコン31は、CPU、RAM、ROM等を有する。CPUがROMに記録されたプログラムを実行し、その実行の際に、RAMを作業領域として使用する。CPUがこのプログラムを実行することで、メインマイコン31が主制御処理を実行する。
Video signals are input to the
メインマイコン31は、主制御処理において、右カメラ1から入力された映像信号に基づいて、複数フレームの右側表示画像を1フレームずつ繰り返し生成して順番に追加マイコン4に出力する。例えば、電子ミラー用ECU3は、右カメラ1から入力された映像信号に対して所定の画像処理を施すことで、1秒あたり60フレーム分の右側表示画像を生成して出力する。
In the main control process, the
また、メインマイコン31は、主制御処理において、左カメラ2から入力された映像信号に基づいて、複数フレームの左側表示画像を1フレームずつ繰り返し生成して順番に出力する。例えば、電子ミラー用ECU3は、左カメラ2から入力された映像信号に対して所定の画像処理を施すことで、1秒あたり60フレーム分の左側表示画像を生成して出力する。
Further, in the main control process, the
メインマイコン31が実行する画像処理としては、例えば、歪み補正処理、トリミング処理、視点変換処理、輝度調整処理、物体検出処理がある。メインマイコン31は、物体検出処理においては、周知の画像認識技術を用いて他車両、人等の障害物を検出し、検出した障害物を強調した右側表示画像および左側表示画像を生成する。本実施形態では、メインマイコン31が主制御部に対応する。
The image processing executed by the
サブマイコン32は、CPU、RAM、ROM等を有する。CPUがROMに記録されたプログラムを実行し、その実行の際に、RAMを作業領域として使用する。CPUがこのプログラムを実行することで、CAN7を介した通信、メインマイコン31の故障診断、電子ミラー用ECU3の電源管理等の処理をサブマイコン32が実行する。これらの処理は、メインマイコン31の主制御処理に比べると、処理負荷が低い。ここで、処理負荷とは、単位時間当たりに必要な演算数をいう。このように、メインマイコン31の主制御処理の処理負荷が高いので、メインマイコン31は、サブマイコン32に比べて、フリーズする可能性が高い。
The sub-microcomputer 32 has a CPU, RAM, ROM, and the like. The CPU executes the program recorded in the ROM, and when the program is executed, the RAM is used as a work area. When the CPU executes this program, the sub-microcomputer 32 executes processing such as communication via
サブマイコン32は、メインマイコン31とシリアル通信線で接続されている。このシリアル通信線は、電子ミラー用ECU3内に実装される。右カメラ1および左カメラ2からメインマイコン31に映像信号を送る信号線よりも、メインマイコン31から追加マイコン4へ右側表示画像、左側表示画像を送る信号線よりも、伝送帯域が狭く、通信速度が低い。
The sub-microcomputer 32 is connected to the
追加マイコン4は、メインマイコン31のフリーズを検知するための装置である。追加マイコン4には、メインマイコン31から出力された右側表示画像および左側表示画像が1フレームずつ繰り返し入力される。
The
追加マイコン4は、CPU、RAM、ROM等を有する。CPUがROMに記録されたプログラムを実行し、その実行の際に、RAMを作業領域として使用する。CPUがこのプログラムを実行することで、追加マイコン4が画像転送処理およびフリーズ検知処理を実行する。
The
画像転送処理において追加マイコン4は、メインマイコン31から入力された右側表示画像を右ディスプレイ5に逐次出力すると共に、メインマイコン31から入力された左側表示画像を左ディスプレイ6に逐次出力する。これにより、右ディスプレイ5は複数フレームの右側表示画像を時系列順に1フレームずつ繰り返し表示し、左ディスプレイ6は複数フレームの左側表示画像を1フレームずつ時系列順に繰り返し表示する。
In the image transfer process, the
フリーズ検知処理において追加マイコン4は、メインマイコン31のフリーズを検知する。フリーズとは、右カメラ1の撮影範囲の光景が変化しているにも関わらず、右ディスプレイ5に表示される撮影画像に変化が全く無い事象、または、左カメラ2の撮影範囲の光景が変化しているにも関わらず、左ディスプレイ6に表示される撮影画像に変化が全く無い事象をいう。フリーズ検知処理の詳細については後述する。
In the freeze detection process, the
右ディスプレイ5は、車室内において運転席よりも前側かつ右側に配置される車載ディスプレイである。左ディスプレイ6は、車室内において運転席よりも前側かつ左側に配置される車載ディスプレイである。右ディスプレイ5および左ディスプレイ6が表示する右側表示画像および左側表示画像は、運転席に座った状態の運転者から視認可能となっている。
The
CAN7は、車両内の各種通信機器同士が通信するための車内LANである。CAN7には、車両のバッテリーの状態を示す情報、ドアの開閉の情報、ドアロックの有無の情報、ウインカーの作動状態の情報、シフト位置の情報、ヘッドライトの点灯状態の情報、各種システムの状態情報(例えば、エラー情報、診断情報)等が、車内の電子ミラー用ECU3以外の装置から送信される。
The
また、CAN7には、ミラー調整スイッチからミラー調整情報が送信される。ミラー調整情報は、切り出し位置の情報および調光情報を含む。切り出し位置の情報は、ミラー調整スイッチに対して乗員が手動で行った設定の情報である。切り出し位置とは、右カメラ1および左カメラ2が撮影した映像の内どの部分を右ディスプレイ5および左ディスプレイ6での表示用に使用するかを決める情報である。
Further, the mirror adjustment information is transmitted to the
メインマイコン31は、上述のトリミング処理で、サブマイコン32を介してこの切り出し位置の情報を取得し、取得した情報に従って、映像信号のうち切り出し位置以外の部分を捨てて、残りの部分のみを用いて右側表示画像および左側表示画像を生成する。
The
調光情報は、ミラー調整スイッチに対して乗員が手動で行った明るさの設定に関する情報である。また、メインマイコン31は、上述の輝度調整処理で、サブマイコン32を介して調光情報を取得し、取得した調光情報に従って、右側表示画像および左側表示画像の輝度レベルを調整する。
The dimming information is information related to the brightness setting manually performed by the occupant with respect to the mirror adjustment switch. Further, the
以下、上記のような構成の車両用表示システムの作動について、図2、図3を用いて説明する。車両用表示システムは、車両の主電源(例えばイグニッション)がオンのときに作動し、オフのときに停止してもよい。 Hereinafter, the operation of the vehicle display system having the above configuration will be described with reference to FIGS. 2 and 3. The vehicle display system may be activated when the vehicle's main power source (eg, ignition) is on and stopped when it is off.
図2は、追加マイコン4が実行するフリーズ検知処理のフローチャートである。図3は、車両用表示システムの作動を示すシーケンス図である。図3では、簡単のため、右カメラ1および左カメラ2のうち一方のカメラのみの作動を表しているが、他方のカメラの作動も同様である。また図3では、簡単のため、右ディスプレイ5および左ディスプレイ6のうち、上記一方のカメラに対応する一方のディスプレイのみの作動を表しているが、他方のディスプレイの作動も同様である。なお、図3の事例においては、車両は走行していてもよいし停止していてもよい。
FIG. 2 is a flowchart of the freeze detection process executed by the
追加マイコン4は、車両用表示システムの作動時を選んで上述の画像転送処理を実行する。また、追加マイコン4は、車両用表示システムの作動時を選んでフリーズ検知処理を実行してもよい。あるいは、追加マイコン4は、車両の走行時にフリーズ検知処理を実行して停止時にフリーズ検知処理を実行しないようになっていてもよい。
The
追加マイコン4は、フリーズ検知処理において、まずステップS110で、右カメラ1または左カメラ2から新しい映像信号が入力されるまで待つ。以下、右カメラ1および左カメラ2を、単にカメラという。
In the freeze detection process, the
図3に示すように、メインマイコン31は、主制御処理において、カメラから新たな映像信号が入力されると、ステップT101で、当該映像信号に基づいて上述の通り左側表示画像または右側表示画像を生成する。以下、左側表示画像および右側表示画像を、それぞれ、単に表示画像という。そしてメインマイコン31は、生成した表示画像を追加マイコン4に出力する。
As shown in FIG. 3, when a new video signal is input from the camera in the main control process, the
そして追加マイコン4は、画像転送処理において、入力された当該表示画像を、右ディスプレイ5および左ディスプレイ6のうち上記カメラに対応する方(以下、単にディスプレイという)に、出力する。これにより、当該ディスプレイは、ステップT401で、当該表示画像を表示する。
Then, the
また、追加マイコン4は、フリーズ検知処理のステップS110で、上述の当該表示画像から所定の小領域における画素を抽出する。この小領域は、第1領域に対応する。ここで、小領域について、図4を用いて説明する。図4に示された画像は、メインマイコン31から出力された表示用画像である。
Further, the
表示用画像の各々は、複数個の画素列を有する。これら複数個の画素列は、上下方向(すなわち縦方向)に並んでいる。複数個の画素列の各々は、左右方向(すなわち横方向)に一列に並んだ複数個の画素を含む。例えば、表示用画像は、マトリクス状に画素が配置された画像である。 Each of the display images has a plurality of pixel sequences. These plurality of pixel sequences are arranged in the vertical direction (that is, the vertical direction). Each of the plurality of pixel rows includes a plurality of pixels arranged in a row in the left-right direction (that is, in the horizontal direction). For example, the display image is an image in which pixels are arranged in a matrix.
表示用画像のデータは、RAM中で表示用画像の格納エリアのアドレスにおいて1つずつ順番に並んだ複数の画素列データを含んでいる。複数の画素列データは、上述の複数個の画素列と1対1に対応している。1つの画素列データは、対応する画素列を表すデータである。ある画素列データに対応する画素列と、格納エリアのアドレスにおいてその画素列データと隣り合う画素列データに対応する画素列とは、表示画像中で上下方向に隣り合う。 The display image data includes a plurality of pixel string data arranged one by one at the address of the storage area of the display image in the RAM. The plurality of pixel string data has a one-to-one correspondence with the above-mentioned plurality of pixel strings. One pixel string data is data representing a corresponding pixel string. The pixel string corresponding to a certain pixel string data and the pixel string corresponding to the pixel string data adjacent to the pixel string data at the address of the storage area are adjacent to each other in the vertical direction in the display image.
これら複数の画素列データの各々は、1つずつ順番に並んだ複数の画素データを含んでいる。複数の画素データは、対応する画素列に含まれる画素と1対1に対応している。1つの画素データは、対応する画素を表すデータである。ある画素データに対応する画素と、その画素データと格納エリア中で隣り合う画素データに対応する画素とは、表示画像中で左右方向に隣り合う。 Each of the plurality of pixel string data includes a plurality of pixel data arranged one by one in order. The plurality of pixel data has a one-to-one correspondence with the pixels included in the corresponding pixel sequence. One pixel data is data representing the corresponding pixel. The pixel corresponding to a certain pixel data and the pixel corresponding to the pixel data and the pixel data adjacent to each other in the storage area are adjacent to each other in the left-right direction in the display image.
図4中の横に細長い四角枠で囲まれた領域Xが、小領域である。この小領域は、上述の複数の画素列のうち所定の1つの画素列中の、連続した一部の画素のみを含む。すなわち、この小領域に含まれるすべての画素は、当該1つの画素列に1まとまりの連続領域として含まれる。したがって、このような小領域の画像データは、格納エリアから読み出し易い。 The area X surrounded by a horizontally elongated square frame in FIG. 4 is a small area. This small area includes only a part of consecutive pixels in a predetermined one pixel sequence among the plurality of pixel sequences described above. That is, all the pixels included in this small area are included as one continuous area in the one pixel sequence. Therefore, the image data in such a small area can be easily read from the storage area.
そして、当該1つの画素列は、表示画像中の消失点に最も近い画素を含む。入力される映像信号が示す画像の消失点の位置は、カメラの特性等によってあらかじめ決まる。そして、メインマイコン31には、右カメラ1および左カメラ2から入力される映像信号が示す画像の消失点の位置情報が、あらかじめ記録されている。そしてメインマイコン31は、この位置情報に基づいて、表示画像中の消失点の位置を特定し、特定した消失点の位置に基づいて、小領域を決定する。
Then, the one pixel sequence includes the pixel closest to the vanishing point in the display image. The position of the vanishing point of the image indicated by the input video signal is determined in advance by the characteristics of the camera and the like. Then, the position information of the vanishing point of the image indicated by the video signals input from the
より具体的には、右側表示画像の小領域は、図4に示すように、消失点に最も近い上記1つの画素列のうち、自車両が撮影されている最も右側の画素よりも右側のすべての画素のみを含む。左側表示画像の小領域は、消失点に最も近い上記1つの画素列のうち、自車両が撮影されている最も左側の画素よりも左側のすべての画素のみを含む。映像信号が示す画像中の自車両が撮影されている画素の情報は、あらかじめわかっており、メインマイコン31に記録されている。メインマイコン31は、当該画素の情報に基づいて、表示画像中の自車両が撮影されている画素を特定する。
More specifically, as shown in FIG. 4, the small area of the right-side display image is all of the one pixel sequence closest to the vanishing point on the right side of the right-most pixel in which the own vehicle is photographed. Contains only the pixels of. The small area of the left-side display image includes only all the pixels on the left side of the left-most pixel in which the own vehicle is photographed in the one pixel sequence closest to the vanishing point. The information on the pixels in which the own vehicle is photographed in the image indicated by the video signal is known in advance and is recorded in the
このように、複数フレームの表示画像中の小領域は、複数フレームの表示画像における消失点に最も近い画素と上下方向の位置が同じ画素を含む。表示画像中の消失点を通る左右方向の線は、概ね空と地面の境目の水平線に相当する。水平線の近傍は、空や地面に比べれば、車両の走行に応じて画素値の変動が大きい領域である。したがって、消失点に最も近い画素と上下方向の位置が同じ画素を小領域が含むことで、小領域内の画像が変化していないという判定を追加マイコン4が無駄に(すなわち、フリーズが発生していないのに)行う可能性が低減される。これにより、フリーズを検出する処理の処理負荷がより低減される。
As described above, the small area in the display image of the plurality of frames includes the pixel closest to the vanishing point in the display image of the plurality of frames and the pixel having the same position in the vertical direction. The horizontal line passing through the vanishing point in the displayed image roughly corresponds to the horizontal line at the boundary between the sky and the ground. The vicinity of the horizon is a region in which the pixel value fluctuates more with the running of the vehicle than in the sky or the ground. Therefore, since the small area includes the pixel closest to the vanishing point and the pixel whose position in the vertical direction is the same, the addition is made to determine that the image in the small area has not changed. The
更に追加マイコン4は、ステップS110で、今回のステップS110で抽出した小領域中の画像(すなわち画素群)と、今回よりも1回または2回以上前のステップS110で抽出した小領域中の画像とを比較する。なお、ここで比較されるのは、右ディスプレイ5、左ディスプレイ6のうち同じディスプレイに送られる表示画像の同じ小領域である。今回よりも1回または2回以上前のステップS110で抽出した小領域中の画像は、最後に取得した表示画像よりも1つまたは2つ以上前のフレームの表示画像中の画素群である。
Further, the
この比較は、比較対象の画像間で小領域中の全画素を1ビットずつ比較する方法を採用してもよい。あるいは、比較対象の画像間で小領域中のハッシュ値(例えばSHA、MD5、CRC)を比較する方法を採用してもよい。 For this comparison, a method of comparing all the pixels in the small region bit by bit between the images to be compared may be adopted. Alternatively, a method of comparing hash values (for example, SHA, MD5, CRC) in a small region between images to be compared may be adopted.
続いてステップS120では、直前のステップS110の比較結果に基づいて、比較対象の画像に違いがあるか否かを判定する。少しでも違いがあれば違いがあると判定される。違いが有ると判定した場合はステップS110に戻り、違いが無いと判定した場合はステップS130に進む。 Subsequently, in step S120, it is determined whether or not there is a difference in the images to be compared based on the comparison result of the immediately preceding step S110. If there is any difference, it is judged that there is a difference. If it is determined that there is a difference, the process returns to step S110, and if it is determined that there is no difference, the process proceeds to step S130.
図3の事例では、ステップT301において、追加マイコン4は、このステップS110、S120の処理により、小領域の画像に違いが有ると判定し、ステップS110に戻る。このように、車両用表示システムが正常に動作しておりメインマイコン31がフリーズしていない場合は、追加マイコン4は、小領域の画像に違いが有ると判定する。
In the case of FIG. 3, in step T301, the
図3の事例では、その後も、メインマイコン31が、カメラから映像信号を取得してステップT103で表示画像を生成し、生成した表示画像を追加マイコン4に出力する。そして追加マイコン4は、この表示画像をディスプレイに表示させる(ステップT403参照)と共に、ステップT303で、小領域の画像に違いが有ると判定する。
In the example of FIG. 3, the
その後、図3の事例では、車両用表示システムが正常に動作してメインマイコン31にフリーズが発生していないが、偶々小領域の画像に変化が無い状態が発生する。この場合は、小領域以外の画素には変化がある。
After that, in the case of FIG. 3, the vehicle display system operates normally and the
その場合、メインマイコン31は、カメラから映像信号を取得してステップT105で表示画像を生成し、生成した表示画像を追加マイコン4に出力する。そして追加マイコン4は、この表示画像をディスプレイに表示させる(ステップT405参照)。しかし、追加マイコン4は、ステップT305で小領域の画像に違いが無いと判定する。具体的には、追加マイコン4は、ステップS120で、「違い無し」と判定し、ステップS130に進む。
In that case, the
続いて追加マイコン4は、ステップS130で、最後に生成した表示画像から所定の広領域における画素を抽出する。この広領域は、第2領域に対応し、上述の小領域を含むと共に、小領域よりも大きい。例えば、第2領域は、表示画像の全画素を含む矩形領域であってもよい。例えば、広領域は、小領域の4倍以上の数の画素を含む矩形領域であってもよい。
Subsequently, in step S130, the
更に追加マイコン4は、ステップS130で、今回のステップS130で抽出した広領域中の画像と、今回よりも1回または2回以上前のステップS110で抽出した広領域中の画像とを比較する。なお、ここで比較されるのは、右ディスプレイ5、左ディスプレイ6のうち同じディスプレイに送られる表示画像の同じ広領域である。今回よりも1回または2回以上前のステップS110で抽出した広領域中の画像は、最後に取得した表示画像よりも1つまたは2つ以上前のフレームの表示画像中の画素群である。
Further, the
この比較は、比較対象の画像間で広領域中の全画素を1ビットずつ比較する方法を採用してもよい。あるいは、比較対象の画像間で広領域中のハッシュ値を比較する方法を採用してもよい。 For this comparison, a method of comparing all the pixels in a wide area bit by bit between the images to be compared may be adopted. Alternatively, a method of comparing hash values in a wide area between images to be compared may be adopted.
続いて追加マイコン4は、ステップS140では、直前のステップS130の比較結果に基づいて、比較対象の画像に違いがあるか否かを判定する。少しでも違いがあれば違いがあると判定される。違いが有ると判定した場合はステップS110に戻り、違いが無いと判定した場合はステップS150に進む。図3の事例では、上述の通り、広領域の画素に違いがあるので、ステップT306のように、広領域の画素に違いがあると判定し、ステップS130からステップS110に戻る。
Subsequently, in step S140, the
図3の事例では、その後も、メインマイコン31が、カメラから映像信号を取得してステップT107で表示画像を生成し、生成した表示画像を追加マイコン4に出力する。そして追加マイコン4は、この表示画像をディスプレイに表示させる(ステップT407参照)と共に、ステップT307で、小領域の画像に違いが有ると判定する。
In the example of FIG. 3, the
その後、図3の事例では、メインマイコン31にフリーズが発生する。この場合、実際には車両の側方および後方の光景に変化があるにも関わらず、メインマイコン31から出力される右側表示画像と左側表示画像のいずれか一方に、変化がなくなる。
After that, in the case of FIG. 3, the
これは、メインマイコン31の主制御処理のうち、右側表示画像を生成する処理部分と左側表示画像を生成する処理部分のうちいずれか一方に異常(たとえば無限ループ)が発生することが、メインマイコン31のフリーズの一態様だからである。このようになると、RAM中の表示用画像の格納エリアにおいて当該いずれか一方に対応する表示画像が変化しなくなる。主制御処理では、RAM中の表示用画像の格納エリアに記憶されたデータが追加マイコン4を介して右ディスプレイ5、左ディスプレイ6に出力されるので、当該データが変化しなくなると、メインマイコン31から出力される当該表示画像が変化しなくなる。
This is because, in the main control process of the
その場合、メインマイコン31は、カメラから映像信号を取得してステップT109で表示画像を生成し、生成した表示画像を追加マイコン4に出力する。そして追加マイコン4は、この表示画像をディスプレイに表示させる(ステップT409参照)。
In that case, the
しかし、追加マイコン4は、ステップT309で小領域の画像に違いが無いと判定する。具体的には、追加マイコン4は、ステップS120で、「違い無し」と判定し、ステップS130に進む。
However, the
更に、追加マイコン4は、ステップT311で広領域の画像に違いが無いと判定する。具体的には、追加マイコン4は、ステップS140で、「違い無し」と判定し、ステップS150に進む。
Further, the
追加マイコン4は、ステップS150では、フリーズ対応処理を行う。具体的には、ステップT313に示すように、サブマイコン32に対して、フリーズを検知したことを示す信号を、出力する。
In step S150, the
この信号を受けたサブマイコン32は、ステップT201で、メインマイコン31をリセットする。これにより、メインマイコン31はリセットされて再起動する。この結果、メインマイコン31では、主制御処理が一旦終了してリセットが実行され、リセット後に主制御処理が再開される。これにより、メインマイコン31のフリーズが解消される場合がある。
Upon receiving this signal, the sub-microcomputer 32 resets the
なお、メインマイコン31がリセットされた場合、主制御処理が一旦終了してから再開されるまでは、右ディスプレイ5、左ディスプレイ6には撮影画像が一時的に表示されなくなる。
When the
なお、サブマイコン32は、フリーズを検知したことを示す信号を受信した場合、運転者に音声または画像でリセットの可否を問い合わせてもよい。この場合、運転者によるリセット許可の操作があった場合にリセットを行い、運転者によるリセット拒否の操作があった場合にリセットを行わない。このようにすることで、運転者がメインマイコン31のリセット時期を状況に応じて適切に選択することができる。
When the sub-microcomputer 32 receives the signal indicating that the freeze has been detected, the sub-microcomputer 32 may inquire the driver whether or not the reset is possible by voice or image. In this case, the reset is performed when the driver operates the reset permission, and the reset is not performed when the driver refuses the reset. By doing so, the driver can appropriately select the reset time of the
リセットにより、右側表示画像を生成する処理部分と左側表示画像を生成する処理部分のうち、異常の有る処理部分の異常が解消され、異常の無い処理部分も正常になることが望ましい。しかし、必ずしもそのようになるとは限らず、リセットにより異常の無かった処理部分にも異常が発生してしまう可能性がゼロではない。したがって、運転者がメインマイコン31のリセット時期を状況に応じて適切に選択することができるという効果は、車両の安全性の向上に寄与する。
By resetting, it is desirable that the abnormality of the processing portion having an abnormality among the processing portion for generating the right side display image and the processing portion for generating the left side display image is eliminated, and the processing portion without the abnormality becomes normal. However, this is not always the case, and the possibility that an abnormality will occur in the processing part where there was no abnormality due to the reset is not zero. Therefore, the effect that the driver can appropriately select the reset timing of the
なお、問い合わせを行う場合も行わない場合も、サブマイコン32は、音声または画像で、運転者に、フリーズ発生の通知を行ってもよい。 Whether or not the inquiry is made, the sub-microcomputer 32 may notify the driver of the occurrence of the freeze by voice or image.
続いてサブマイコン32は、ステップT203で、メインマイコン31にフリーズが発生したことを示すフリーズ通知を、CAN7上の他の車載機器に送信する。これにより、これら車載機器は、車両用表示システムの異常に対応した処理を行うことができる。
Subsequently, in step T203, the sub-microcomputer 32 transmits a freeze notification indicating that the
以上説明した通り、メインマイコン31は、カメラによって撮影された車外の映像に基づく複数フレームの表示画像を順番にディスプレイに出力する。また、追加マイコン4は、メインマイコン31から順番に出力された複数フレームの表示画像における、小領域内の画像が変化しているか否かを判定する。また、追加マイコン4は、小領域内の画像が変化していないと判定した場合を選んで、複数フレームの表示画像において広領域内の画像が変化しているか否かを判定する。そして追加マイコン4は、第2領域内の画像が変化していないと判定したことに基づいて、所定の異常対応処理を行う。
As described above, the
このように、追加マイコン4は、異常対応処理の直接のトリガとなる判定(すなわちステップS140の判定)を、広領域よりも狭い小領域内の画像が変化していないと判定された場合を選んで、行う。したがって、異常対応処理の直接のトリガとなる判定が行われる頻度が低減される。したがってその分、異常対応処理のための判定処理の負荷が低減される。ひいては、フリーズを検出する処理の処理負荷が低減される。
In this way, the
なお、本実施形態では、追加マイコン4が、ステップS120を実行することで第1判定部として機能し、ステップS140を実行することで第2判定部として機能し、ステップS150を実行することで異常対応部として機能する。また、本実施形態では、追加マイコン4がフリーズ検出装置に対応する。
In the present embodiment, the
(第2実施形態)
次に第2実施形態について説明する。第1実施形態の車両用表示システムでは、追加マイコン4がフリーズ検知処理を行っていたのに対し、本実施形態の車両用表示システムでは、サブマイコン32がフリーズ検知処理を行う。
(Second Embodiment)
Next, the second embodiment will be described. In the vehicle display system of the first embodiment, the
本実施形態の車両用表示システムは、図5に示すように、第1実施形態の車両用表示システムに対して、追加マイコン4が廃されている。本実施形態のメインマイコン31から出力された右側表示画像および左側表示画像は、それぞれ、右ディスプレイ5および左ディスプレイ6に直接出力される。車両用表示システムのその他のハードウェア構成は、第1実施形態と同じである。
In the vehicle display system of the present embodiment, as shown in FIG. 5, the
ここで、メインマイコン31とサブマイコン32の間の通信線について説明する。メインマイコン31とサブマイコン32の間の通信線は、シリアル通信線である。このシリアル通信線の伝送帯域幅は、メインマイコン31から右ディスプレイ5へ右側表示画像を出力する信号線の伝送帯域幅よりも、メインマイコン31から左ディスプレイ6へ左側表示画像を出力する信号線の伝送帯域幅よりも、遙かに狭い。したがって、このシリアル通信線を介して単位時間に送られるデータ量は、メインマイコン31からディスプレイへ送られる表示画像のデータ量よりも遙かに小さく、例えば1/50以下である。
Here, the communication line between the
本実施形態のメインマイコン31は、第1実施形態と同様の主制御処理を行うと共に、主制御処理と同時並行的に、フリーズ検知用画像送信処理を実行する。フリーズ検知用画像送信処理において、メインマイコン31は、RAM中の表示用画像の格納エリアから、右側表示用画像の小領域の画像および左側表示用画像の小領域の画像を繰り返し定期的に抽出する。抽出は、メインマイコン31が新たな表示用画像を生成してRAM中の表示用画像の格納エリアに記録する度に、行われる。そしてメインマイコン31は、抽出した画像を、上記シリアル通信線を介して、サブマイコン32に逐次出力する。
The
また、フリーズ検知用画像送信処理において、メインマイコン31は、サブマイコン32から広領域画像を要求されたことに基づいて、広領域の画像をサブマイコン32に出力する。
Further, in the freeze detection image transmission process, the
サブマイコン32は、第1実施形態と同様、メインマイコン31の故障診断、電子ミラー用ECU3の電源管理等の処理等を実行する。それに加え、サブマイコン32のCPUが所定のプログラムを実行することで、サブマイコン32がフリーズ検知処理も行う。
Similar to the first embodiment, the sub-microcomputer 32 executes processing such as failure diagnosis of the
図6は、このフリーズ検知処理のフローチャートである。図7、図8は、本実施形態における車両用表示システムの作動を示すシーケンス図である。図7、図8では、簡単のため、右カメラ1および左カメラ2のうち一方のカメラのみの作動を表しているが、他方のカメラの作動も同様である。また図7では、簡単のため、右ディスプレイ5および左ディスプレイ6のうち、上記一方のカメラに対応する一方のディスプレイのみの作動を表しているが、他方のディスプレイの作動も同様である。なお、図7、図8の事例においては、車両は走行していてもよいし停止していてもよい。
FIG. 6 is a flowchart of this freeze detection process. 7 and 8 are sequence diagrams showing the operation of the vehicle display system according to the present embodiment. In FIGS. 7 and 8, for the sake of simplicity, the operation of only one of the
図7の事例では、車両用表示システムが正常に動作してメインマイコン31にフリーズが発生していないが、偶々小領域の画像に変化が無い状態が発生する。図8の事例では、メインマイコン31にフリーズが発生する。
In the case of FIG. 7, the vehicle display system operates normally and the
サブマイコン32は、フリーズ検知処理において、まずステップS210で、右カメラ1または左カメラ2から小領域の画像が入力されるまで待つ。以下、右カメラ1および左カメラ2を、いずれも単にカメラという。
In the freeze detection process, the sub-microcomputer 32 first waits in step S210 until an image of a small area is input from the
まず、図7の事例について説明する。図7に示すように、メインマイコン31は、主制御処理において、カメラから新たな映像信号が入力されると、ステップT111で、当該映像信号に基づいて上述の通り左側表示画像または右側表示画像を生成する。以下、左側表示画像および右側表示画像を、いずれも単に表示画像という。そして、生成した表示画像を、RAM中の表示用画像の格納エリアに新たに上書き記録する。
First, the case of FIG. 7 will be described. As shown in FIG. 7, when a new video signal is input from the camera in the main control process, the
そしてメインマイコン31は、当該格納エリアに記録された表示画像を右ディスプレイ5および左ディスプレイ6のうち対応する方(以下、単にディスプレイという)に出力する。これにより、当該ディスプレイは、ステップT411で、当該表示画像を表示する。
Then, the
また、メインマイコン31は、フリーズ検知用画像送信処理において、上記格納エリアに新たな表示画像が記録されると、ステップT112で、当該表示画像の小領域の画像を、シリアル通信線を介して、サブマイコン32に出力する。
Further, when a new display image is recorded in the storage area in the freeze detection image transmission process, the
また、サブマイコン32は、メインマイコン31から小領域の画像を取得すると、ステップS210で、今回取得した画像と、今回よりも1回または2回以上前のステップS110で抽出した小領域中の画像とを比較する。なお、ここで比較されるのは、右ディスプレイ5、左ディスプレイ6のうち同じディスプレイに送られる表示画像である。今回よりも1回または2回以上前に取得した小領域中の画像は、最後に取得した表示画像よりも1つまたは2つ以上前のフレームの表示画像中の画素群である。
Further, when the sub-microcomputer 32 acquires an image of a small area from the
続いてステップS220では、直前のステップS210の比較結果に基づいて、比較対象の画像に違いがあるか否かを判定する。少しでも違いがあれば違いがあると判定される。違いが有ると判定した場合はステップS210に戻り、違いが無いと判定した場合はステップS225に進む。 Subsequently, in step S220, it is determined whether or not there is a difference in the images to be compared based on the comparison result of the immediately preceding step S210. If there is any difference, it is judged that there is a difference. If it is determined that there is a difference, the process returns to step S210, and if it is determined that there is no difference, the process proceeds to step S225.
図7の事例では、ステップT212において、サブマイコン32は、このステップS210、S220の処理により、小領域の画像に違いが有ると判定し、ステップS210に戻る。このように、車両用表示システムが正常に動作しておりメインマイコン31がフリーズしていない場合は、サブマイコン32は、小領域の画像に違いが有ると判定する。
In the case of FIG. 7, in step T212, the sub-microcomputer 32 determines that there is a difference in the image of the small area by the processing of steps S210 and S220, and returns to step S210. In this way, when the vehicle display system is operating normally and the
その後、図7の事例では、車両用表示システムが正常に動作してメインマイコン31にフリーズが発生していないが、偶々小領域の画像に変化が無い状態が発生する。この場合は、小領域以外の画素には変化がある。
After that, in the case of FIG. 7, the vehicle display system operates normally and the
その場合、メインマイコン31は、カメラから映像信号を取得してステップT113で表示画像を生成し、生成した表示画像をディスプレイに表示させる(ステップT413参照)。
In that case, the
更にメインマイコン31は、ステップT114で、小領域の画像をサブマイコン32に出力する。そして、サブマイコン32は、ステップT214で小領域の画像に違いが無いと判定する。具体的には、サブマイコン32は、ステップS220で、「違い無し」と判定し、ステップS225に進む。
Further, the
続いてサブマイコン32は、ステップS225で、広領域画像を要求する信号を、上記シリアル通信線を介して、メインマイコン31に、出力する。この作動は、図7におけるステップT215の作動に該当する。
Subsequently, in step S225, the sub-microcomputer 32 outputs a signal requesting a wide area image to the
メインマイコン31は、フリーズ検知用画像送信処理において、広領域の画像を要求するこの信号を受信したことに基づいて、ステップT115で、広領域の画像を、上記シリアル通信線を介して、2個分送信し始める。
In the freeze detection image transmission process, the
ここで、メインマイコン31からサブマイコン32への広領域の画像を送信する手順について、図9を用いて説明する。上述の通り、シリアル通信線の伝送帯域幅は狭いので、広領域の画像のような大量のデータをすべて送信するには、非常に時間がかかる。
Here, a procedure for transmitting a wide-area image from the
例えば、メインマイコン31から右ディスプレイ5、左ディスプレイ6の各々へは、1秒間に60フレーム分の表示画像が送信されるのに対して、メインマイコン31からサブマイコン32へは、1フレーム分の広領域の表示画像を送るのに0.5秒以上かかる。
For example, 60 frames of display images are transmitted from the
このように伝送帯域幅の狭いシリアル通信線を介して、広領域の表示画像を送信する場合には、送信バッファ溢れの可能性、および、帯域の長時間連続占有が発生する。 When a wide-area display image is transmitted via a serial communication line having a narrow transmission bandwidth in this way, there is a possibility that the transmission buffer may overflow and the bandwidth may be continuously occupied for a long time.
シリアル通信線の伝送帯域の狭さを補うために、メインマイコン31からシリアル通信線向けに出力されたデータを一時的に保持するバッファメモリがメインマイコン31に設けられている場合に、送信バッファ溢れが発生し得る。メインマイコン31から出力されるデータの量が多過ぎると、メインマイコン31から出力されたデータ量と既にシリアル通信線に出力されたデータ量との差が、バッファメモリの容量を超えてしまった場合に、バッファ溢れが発生し、送信データの欠落が発生する。
When the
帯域の長時間連続占有は、シリアル通信線が、広領域の画像を送信するためだけに長時間連続して占有されることをいう。帯域の長時間連続占有が発生すると、メインマイコン31とサブマイコン32のシリアル通信線を介した他の通信(例えば、他の診断情報の送受信、電源制御のための信号の送受信)が長時間できなくなってしまう。
Long-term continuous occupancy of a band means that the serial communication line is continuously occupied for a long time only for transmitting a wide area image. When the band is continuously occupied for a long time, other communication (for example, transmission / reception of other diagnostic information, transmission / reception of a signal for power supply control) via the serial communication line of the
そこで、メインマイコン31は、図9に示すように、RAM中の表示用画像の格納エリアの広領域Z内の画像を複数個の部分画像Yに分割する。これら複数個の部分画像が、広領域Z内の画像を構成する。図9の例では、広領域Z内の画像が8×8=64個の部分画像に分割される。
Therefore, as shown in FIG. 9, the
そしてメインマイコン31は、これら複数個の部分画像を、1個ずつ、時間間隔を置いて、上記格納エリアから抽出し、シリアル通信線を介してサブマイコン32に出力する。
Then, the
つまり、メインマイコン31は、小領域内の画像が変化していないと判定された場合を選んで、複数フレームの画像から、広領域内の画像を構成する複数個の部分画像を抽出する。そして、抽出した複数個の部分画像を、1つの部分画像の出力期間と次の部分画像の出力期間との間に時間間隔を置いて、サブマイコン32に出力する。
That is, the
このように、抽出した複数個の部分画像を、1つの部分画像の出力期間と次の部分画像の出力期間との間に時間間隔を置いて、サブマイコン32に出力することで、当該時間間隔において上述の他の通信を行うことができる。したがって、帯域の長時間連続占有が軽減される。また、送信バッファ溢れの可能性が低減される。 By outputting the extracted plurality of partial images to the sub-microcomputer 32 with a time interval between the output period of one partial image and the output period of the next partial image, the time interval is set. In, the other communication described above can be performed. Therefore, long-term continuous occupancy of the band is reduced. Also, the possibility of overflowing the transmission buffer is reduced.
なお、上述の通り、シリアル通信線を介して広領域の画像を送信するのには、長い時間がかかる。したがって、部分画像を1個ずつ抽出して送信している最中に、格納エリア中の表示用画像が更新されてしまう場合がある。したがって、広領域を構成する全部の部分画像がメインマイコン31からサブマイコン32に送信されたとき、それら部分画像は、同じ1つのフレームに属するとは限らず、多くの場合、互いに異なる複数フレームに属する。
As described above, it takes a long time to transmit a wide area image via the serial communication line. Therefore, the display image in the storage area may be updated while the partial images are extracted one by one and transmitted. Therefore, when all the partial images constituting the wide area are transmitted from the
しかし、そのようになっていたとしても、メインマイコン31のフリーズを検知することに支障はない。例えば、主制御処理中の右側表示画像を生成する処理部分にフリーズが発生すれば、当該格納エリアの右側表示画像は、長時間変化しないからである。左側表示画像を生成する処理部分にフリーズが発生した場合も同様である。
However, even if this is the case, there is no problem in detecting the freeze of the
また、広領域の撮影画像が複数の部分画像として細切れに送信されることにより、上述の通り、送信中に格納エリア中の表示画像が変化する可能性があるが、そのせいで2フレーム分の広領域画像が変化する場合はフリーズは発生していない。したがって、この場合もフリーズがない場合の対応で良い。 Further, as described above, the display image in the storage area may change during transmission because the captured image in a wide area is transmitted in small pieces as a plurality of partial images, but this causes two frames. If the wide area image changes, no freeze has occurred. Therefore, even in this case, it is sufficient to deal with the case where there is no freeze.
具体的には、メインマイコン31は、フリーズ検知用画像送信処理において、まずステップT115で、2個の広領域の画像のうち、1個目の広領域の画像の、最初の部分画像を、シリアル通信線を介して、サブマイコン32に送信する。
Specifically, in the freeze detection image transmission process, the
次に、メインマイコン31は、フリーズ検知用画像送信処理において、前回の部分画像の出力期間の完了から所定時間間隔後に、ステップT118で、1個目の広領域の画像のうち2個目の部分画像を、上記シリアル通信線を介して、サブマイコン32に送信する。
Next, in the freeze detection image transmission process, the
その後、メインマイコン31は、フリーズ検知用画像送信処理において、上述の通り、前回の部分画像の出力期間完了から所定時間間隔後に、1個目の広領域の画像のうち次の部分画像を、上記シリアル通信線を介してサブマイコン32に送信するという処理を、繰り返す。これにより、1個目の広領域の画像のすべての部分画像がサブマイコン32に送信される。
After that, in the freeze detection image transmission process, the
その後、メインマイコン31は、フリーズ検知用画像送信処理において、1個目の広領域の最後の部分画像の出力期間完了から所定時間間隔後に、2個目の広領域の画像のうち最初の部分画像を、上記シリアル通信線を介してサブマイコン32に送信する。
After that, in the freeze detection image transmission process, the
更にその後、メインマイコン31は、フリーズ検知用画像送信処理において、前回の部分画像の出力期間完了から所定時間間隔後に、2個目の広領域の画像のうち次の部分画像を、上記シリアル通信線を介してサブマイコン32に送信するという処理を、繰り返す。
After that, in the freeze detection image transmission process, the
この繰り返しの最後に、メインマイコン31は、フリーズ検知用画像送信処理において、前回の部分画像の出力期間完了から所定時間間隔後に、ステップT120で、2個目の広領域の画像のうち最後の部分画像を、上記シリアル通信線を介してサブマイコン32に送信する。
At the end of this repetition, in the freeze detection image transmission process, the
このように、複数の部分画像が、1つの部分画像の出力期間と次の部分画像の出力期間との間に所定時間間隔をおいて、間欠的に送信されている間、その送信の合間の時間において、シリアル通信線を介して上述の他の通信が行われる。 In this way, while a plurality of partial images are intermittently transmitted with a predetermined time interval between the output period of one partial image and the output period of the next partial image, the interval between the transmissions is performed. In time, the other communications described above take place over the serial communication line.
また、複数の部分画像が所定時間間隔をおいて間欠的に送信されている間も、メインマイコン31は、主制御処理において、カメラから映像信号を取得する度に、表示画像を生成してカメラに表示させる(ステップT116、T119、T416、T419参照)。
Further, even while a plurality of partial images are intermittently transmitted at predetermined time intervals, the
サブマイコン32は、2個分の広領域の画像について、すべての部分画像を受信すると、ステップS225からステップS230に進み、受信した2個の広領域の画像を互いに比較する。 When the sub-microcomputer 32 receives all the partial images of the two wide-area images, the process proceeds from step S225 to step S230, and the two received wide-area images are compared with each other.
続いてサブマイコン32は、ステップS240で、直前のステップS230の比較結果に基づいて、比較対象の画像に違いがあるか否かを判定する。少しでも違いがあれば違いがあると判定される。違いが有ると判定した場合はステップS210に戻り、違いが無いと判定した場合はステップS250に進む。図7の事例では、上述の通り、偶々小領域の画像に変化が無かっただけで、広領域の画素に違いがあるので、ステップT220のように、広領域の画素に違いがあると判定し、ステップS240からステップS210に戻る。 Subsequently, in step S240, the sub-microcomputer 32 determines whether or not there is a difference in the images to be compared based on the comparison result of the immediately preceding step S230. If there is any difference, it is judged that there is a difference. If it is determined that there is a difference, the process returns to step S210, and if it is determined that there is no difference, the process proceeds to step S250. In the case of FIG. 7, as described above, there is a difference in the pixels in the wide area just because the image in the small area does not change by chance. Therefore, it is determined that there is a difference in the pixels in the wide area as in step T220. , Return to step S210 from step S240.
図7の事例では、その後も、メインマイコン31が、カメラから映像信号を取得してステップT121で表示画像を生成し、生成した表示画像をディスプレイに表示させる(ステップT421参照)。それと共にメインマイコン31は、ステップT122で、小範囲の画像をサブマイコン32に出力する。そしてサブマイコン32は、ステップS220で、小領域の画素に違いが無いと判定する(ステップT222参照)。
In the case of FIG. 7, the
次に、図8の事例について説明する。図7と図8の作動中、同じ内容の作動については、同じ符号を付して、説明を省略する。図8の作動において、メインマイコン31のステップT111からT120までの作動、サブマイコン32のステップT212からT215までの作動、および、ディスプレイの作動は、図7と同じである。
Next, the case of FIG. 8 will be described. During the operation of FIGS. 7 and 8, the same reference numerals are given to the operations having the same contents, and the description thereof will be omitted. In the operation of FIG. 8, the operation of the
ただし、ステップT113の直前に発生する事象は、正常な状態で偶々小領域に変化がなかった事象ではなく、メインマイコン31にフリーズが発生した事象である。
However, the event that occurs immediately before step T113 is not an event in which the small region does not change by chance in a normal state, but an event in which the
その場合、サブマイコン32は、2個分の広領域の画像について、すべての部分画像を受信すると、ステップS225からステップS230に進み、受信した2個の広領域の画像を互いに比較する。 In that case, when the sub-microcomputer 32 receives all the partial images of the two wide-area images, the process proceeds from step S225 to step S230, and the two received wide-area images are compared with each other.
続いてサブマイコン32は、ステップS240で、直前のステップS230の比較結果に基づいて、比較対象の画像に違いがあるか否かを判定する。図8の事例では、上述の通り、フリーズが発生しているので、上記格納エリアの表示画像(すなわち、右側表示画像または左側表示画像)が更新されない。したがって、サブマイコン32は、ステップS240で、ステップT224のように、広領域の画素に違いが無いと判定し、ステップS240からステップS250に進む。 Subsequently, in step S240, the sub-microcomputer 32 determines whether or not there is a difference in the images to be compared based on the comparison result of the immediately preceding step S230. In the case of FIG. 8, as described above, since the freeze has occurred, the display image of the storage area (that is, the right side display image or the left side display image) is not updated. Therefore, in step S240, the sub-microcomputer 32 determines that there is no difference in the pixels in the wide area as in step T224, and proceeds from step S240 to step S250.
サブマイコン32は、ステップS250では、フリーズ対応処理を行う。具体的には、ステップT226に示すように、メインマイコン31をリセットする。これにより、メインマイコン31はリセットされて再起動する。この結果、メインマイコン31では、主制御処理が一旦終了してリセットが実行され、リセット後に主制御処理が再開される。これにより、メインマイコン31のフリーズが解消される場合がある。
In step S250, the sub-microcomputer 32 performs freeze-corresponding processing. Specifically, as shown in step T226, the
なお、サブマイコン32は、ステップS250では、運転者に音声または画像でリセットの可否を問い合わせてもよい。この場合、運転者によるリセット許可の操作があった場合にリセットを行い、運転者によるリセット拒否の操作があった場合にリセットを行わない。このようにすることで、運転者がメインマイコン31のリセット時期を状況に応じて適切に選択することができる。
In step S250, the sub-microcomputer 32 may ask the driver whether or not the reset is possible by voice or image. In this case, the reset is performed when the driver operates the reset permission, and the reset is not performed when the driver refuses the reset. By doing so, the driver can appropriately select the reset time of the
続いてサブマイコン32は、ステップT228で、メインマイコン31にフリーズが発生したことを示すフリーズ通知を、CAN7上の他の車載機器に送信する。これにより、これら車載機器は、車両用表示システムの異常に対応した処理を行うことができる。
Subsequently, in step T228, the sub-microcomputer 32 transmits a freeze notification indicating that the
このようになっていることで、本実施形態のサブマイコン32は、第1実施形態の追加マイコン4と同等の機能を実現することができる。
By doing so, the
また、メインマイコン31は、複数フレームの表示画像から、小領域内の画像を抽出して所定のシリアル通信線を介してサブマイコン32に出力する。そして、メインマイコン31は、小領域内の画像が変化していないとサブマイコン32が判定した場合を選んで、複数フレームの表示画像から広領域内の画像を抽出してシリアル通信線を介してサブマイコン32に出力する。このようにすることで、広領域内の画像の送信頻度を減らすことができるので、シリアル通信線の帯域を節約することができる。
Further, the
なお、本実施形態では、サブマイコン32が、ステップS220を実行することで第1判定部として機能し、ステップS240を実行することで第2判定部として機能し、ステップS250を実行することで異常対応部として機能する。また、本実施形態では、メインマイコン31が主制御部に対応し、サブマイコン32がフリーズ検出装置に対応する。
In the present embodiment, the sub-microcomputer 32 functions as a first determination unit by executing step S220, functions as a second determination unit by executing step S240, and is abnormal by executing step S250. Functions as a corresponding part. Further, in the present embodiment, the
(第3実施形態)
次に第3実施形態について説明する。第1実施形態の車両用表示システムでは、追加マイコン4がフリーズ検知処理を行っていたのに対し、本実施形態の車両用表示システムでは、メインマイコン31がフリーズ検知処理を行う。
(Third Embodiment)
Next, the third embodiment will be described. In the vehicle display system of the first embodiment, the
メインマイコン31のうち、フリーズ検知処理がフリーズしていなくても、主制御処理がフリーズすることがある。そのような場合には、メインマイコン31がフリーズ検知処理を実行していても、フリーズ検知が可能となる。
Of the
本実施形態のハードウェア構成は、第2実施形態と同じである。本実施形態のメインマイコン31は、図10に示すように、主制御部31aとフリーズ検出部31bを有する。主制御部31aが主制御処理を実行し、フリーズ検出部31bがフリーズ検知処理を実行する。主制御処理の処理内容は、第1実施形態と同じである。フリーズ検知処理の処理内容も、第1実施形態と同じである。
The hardware configuration of this embodiment is the same as that of the second embodiment. As shown in FIG. 10, the
ただし、フリーズ検知処理における小領域の画像と広領域の画像の取得方法が、第1実施形態と異なる。具体的には、本実施形態では、フリーズ検出部31bは、図2のステップS110とS130で、メインマイコン31のRAM中の表示用画像の格納エリアから、小領域の画像と広領域の画像を取得する。
However, the method of acquiring the image of a small area and the image of a wide area in the freeze detection process is different from that of the first embodiment. Specifically, in the present embodiment, the
また、フリーズ検知処理中のフリーズ対応処理(図2のステップS150)においては、フリーズ検出部31bは、フリーズ検知をサブマイコン32に通知するだけでなく、メインマイコン31をリセットする。
Further, in the freeze handling process (step S150 in FIG. 2) during the freeze detection process, the
図11に、本実施形態における車両用表示システムの作動を示す。この図11と図3で同じ符号が付された処理は、同じ処理内容を示す。この図に示すように、本実施形態では、第1実施形態において追加マイコン4が行っていたことをフリーズ検出部31bが行うことで、第1実施形態と同等の機能が実現する。
FIG. 11 shows the operation of the vehicle display system according to the present embodiment. The processes with the same reference numerals in FIGS. 11 and 3 indicate the same processing contents. As shown in this figure, in the present embodiment, the
このようになっていることで、本実施形態のフリーズ検出部31bは、第1実施形態の追加マイコン4と同等の機能を実現することができる。
By doing so, the
なお、本実施形態では、フリーズ検出部31bが、ステップS120を実行することで第1判定部として機能し、ステップS140を実行することで第2判定部として機能し、ステップS150を実行することで異常対応部として機能する。また、本実施形態では、メインマイコン31がフリーズ検出装置に対応する。または、フリーズ検出部31bがフリーズ検出装置に対応する。
In the present embodiment, the
(他の実施形態)
なお、本発明は上記した実施形態に限定されるものではなく、適宜変更が可能である。また、上記各実施形態は、互いに無関係なものではなく、組み合わせが明らかに不可な場合を除き、適宜組み合わせが可能である。また、上記各実施形態において、実施形態を構成する要素は、特に必須であると明示した場合および原理的に明らかに必須であると考えられる場合等を除き、必ずしも必須のものではない。また、上記各実施形態において、実施形態の構成要素の個数、数値、量、範囲等の数値が言及されている場合、特に必須であると明示した場合および原理的に明らかに特定の数に限定される場合等を除き、その特定の数に限定されるものではない。特に、ある量について複数個の値が例示されている場合、特に別記した場合および原理的に明らかに不可能な場合を除き、それら複数個の値の間の値を採用することも可能である。また、上記各実施形態において、構成要素等の形状、位置関係等に言及するときは、特に明示した場合および原理的に特定の形状、位置関係等に限定される場合等を除き、その形状、位置関係等に限定されるものではない。また、本発明は、上記各実施形態に対する以下のような変形例および均等範囲の変形例も許容される。なお、以下の変形例は、それぞれ独立に、上記実施形態に適用および不適用を選択できる。すなわち、以下の変形例のうち任意の組み合わせを、上記実施形態に適用することができる。
(Other embodiments)
The present invention is not limited to the above-described embodiment, and can be changed as appropriate. Further, the above-described embodiments are not unrelated to each other, and can be appropriately combined unless the combination is clearly impossible. Further, in each of the above embodiments, the elements constituting the embodiment are not necessarily essential except when it is clearly stated that they are essential and when it is clearly considered to be essential in principle. Further, in each of the above embodiments, when numerical values such as the number, numerical values, amounts, and ranges of the constituent elements of the embodiment are mentioned, when it is clearly stated that they are particularly essential, and in principle, the number is clearly limited to a specific number. It is not limited to the specific number except when it is done. In particular, when a plurality of values are exemplified for a certain quantity, it is also possible to adopt a value between the plurality of values unless otherwise specified or when it is clearly impossible in principle. .. Further, in each of the above embodiments, when referring to the shape, positional relationship, etc. of a component or the like, the shape, unless otherwise specified or limited in principle to a specific shape, positional relationship, etc. It is not limited to the positional relationship. Further, the present invention also allows the following modifications and equivalent range modifications for each of the above embodiments. In addition, the following modified examples can be independently selected to be applied or not applied to the above-described embodiment. That is, any combination of the following modifications can be applied to the above embodiment.
(変形例1)
上記各実施形態では、フリーズ検知処理における小領域の画像の比較および判定は、表示画像が1フレーム分生成される度に行われている。しかし、必ずしもこのようになっている必要はない。例えば、フリーズ検知処理における小領域の画像の比較および判定は、表示画像が複数フレーム分生成される度に行われてもよい。
(Modification example 1)
In each of the above embodiments, the comparison and determination of the images of the small area in the freeze detection process are performed every time one frame of the display image is generated. However, this does not necessarily have to be the case. For example, the comparison and determination of images in a small area in the freeze detection process may be performed each time a plurality of frames of display images are generated.
(変形例2)
上記各実施形態では、小領域の画像は、消失点に最も近い画素を含む1つの画素列内の一部の画素群に限定されている。しかし、小領域の画像としては、このようなもの以外であってもよい。例えば、小領域の画像は、消失点に最も近い画素を含む1つの画素列内の一部の画素群と、それ以外の画素列内の画像群とによって構成されていてもよい。すなわち、小領域の画像は、複数の画素列に亘る画素群を含んでいてもよい。
(Modification 2)
In each of the above embodiments, the image of the small region is limited to a part of the pixel group in one pixel sequence including the pixel closest to the vanishing point. However, the image of the small area may be other than such an image. For example, an image in a small region may be composed of a part of a pixel group in one pixel array including the pixel closest to the vanishing point, and an image group in the other pixel array. That is, the image of a small area may include a pixel group extending over a plurality of pixel sequences.
(変形例3)
上記実施形態では、小領域の表示画像の比較(ステップS120、S220)および広領域の表示画像の比較(ステップS130、S230)においては、2フレーム分の表示画像を用いて比較が行われている。しかし、3フレーム分以上の表示画像を用いて比較が行われていてもよい。
(Modification example 3)
In the above embodiment, in the comparison of the display images of the small area (steps S120 and S220) and the comparison of the display images of the wide area (steps S130 and S230), the comparison is performed using the display images for two frames. .. However, the comparison may be performed using display images of 3 frames or more.
1 右カメラ
2 左カメラ
4 追加マイコン
5 右ディスプレイ
6 左ディスプレイ
31 メインマイコン
31a 主制御部
32 サブマイコン
1
Claims (6)
前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、
前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)と、
前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、
前記複数フレームの前記表示画像中の前記第1領域は、前記複数フレームの表示画像における消失点に最も近い画素と上下方向の位置が同じ画素を含む、車両用表示システム。 A main control unit (31, 31a) that sequentially outputs display images of a plurality of frames based on an image outside the vehicle taken by the vehicle-mounted camera (1, 2) to the vehicle-mounted display (5, 6).
The first determination unit (S120, S220) for determining whether or not the image in the first region of the display images of the plurality of frames sequentially output from the main control unit has changed.
When the first determination unit determines that the image in the first region has not changed, the image in the second region larger than the first region in the display image of the plurality of frames changes. The second determination unit (S140, S240) for determining whether or not the image is present, and
An abnormality handling unit (S150, S250) that performs a predetermined abnormality handling process based on the determination by the second determination unit that the image in the second region has not changed is provided.
The first region in the display image of the plurality of frames includes a pixel closest to a vanishing point in the display image of the plurality of frames and a pixel having the same vertical position.
前記主制御部は、前記車載カメラによって撮影された車外の映像に基づく前記複数フレームの表示画像を信号線を介して順番に前記車載ディスプレイに出力し、
前記第1判定部および前記第2判定部は、前記第1のコンピュータと所定の通信線で接続されている第2のコンピュータ(32)に備えられ、
前記通信線の伝送帯域幅は前記信号線の伝送帯域幅よりも狭く、
前記主制御部は、前記複数フレームの表示画像から、前記第1領域内の画像を抽出して、前記第1判定部で用いられるよう、前記通信線を介して前記第2のコンピュータに出力し、
前記主制御部は、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像から前記第2領域内の画像を抽出して、前記第2判定部で用いられるよう、前記通信線を介して前記第2のコンピュータに出力する請求項1に記載の車両用表示システム。 The main control unit is a first computer.
The main control unit sequentially outputs the display images of the plurality of frames based on the image of the outside of the vehicle taken by the vehicle-mounted camera to the vehicle-mounted display via the signal line.
The first determination unit and the second determination unit are provided in a second computer (32) connected to the first computer by a predetermined communication line.
The transmission bandwidth of the communication line is narrower than the transmission bandwidth of the signal line.
The main control unit extracts an image in the first region from the display image of the plurality of frames and outputs the image in the first region to the second computer via the communication line so as to be used in the first determination unit. ,
The main control unit, to select the case where the image is not changed with the first determination unit of the first region is determined, by extracting an image of said second region from the display image of said plurality of frames The vehicle display system according to claim 1, wherein the display system for a vehicle is output to the second computer via the communication line so as to be used in the second determination unit.
前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)と、を有し、前記第1のコンピュータと所定の通信線で接続されている第2のコンピュータ(32)と、
前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、
前記主制御部は、前記複数フレームの表示画像から、前記第1領域内の画像を抽出して、前記第1判定部で用いられるよう、前記通信線を介して前記2のコンピュータに出力し、
前記通信線の伝送帯域幅は前記信号線の伝送帯域幅よりも狭く、
前記主制御部は、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像から前記第2領域内の画像を抽出して、前記第2判定部で用いられるよう、前記通信線を介して前記2のコンピュータに出力する、車両用表示システム。 The main control unit (3 ), which is the first computer, sequentially outputs the display images of a plurality of frames based on the images taken by the in-vehicle cameras (1, 2) to the in-vehicle display (5, 6) via the signal lines. 1) and
The first determination unit (S120, S220) for determining whether or not the image in the first region of the display images of the plurality of frames sequentially output from the main control unit has changed, and the inside of the first region. Select the case where the first determination unit determines that the image of is not changed, and determines whether or not the image in the second region larger than the first region is changed in the display image of the plurality of frames. A second computer (32) having a second determination unit (S140, S240) and connected to the first computer by a predetermined communication line.
An abnormality handling unit (S150, S250) that performs a predetermined abnormality handling process based on the determination by the second determination unit that the image in the second region has not changed is provided.
The main control unit extracts an image in the first region from the display image of the plurality of frames and outputs the image to the second computer via the communication line so as to be used in the first determination unit .
The transmission bandwidth of the communication line is narrower than the transmission bandwidth of the signal line.
The main control unit, to select the case where the image is not changed with the first determination unit of the first region is determined, by extracting an image of said second region from the display image of said plurality of frames , A vehicle display system that outputs to the computer of the second via the communication line so as to be used in the second determination unit.
前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、
前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)を有し、前記第1のコンピュータと所定の通信線で接続されている第2のコンピュータ(32)と、
前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、
前記主制御部は、前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの画像から、前記第2領域内の画像を構成する複数個の部分画像を抽出し、抽出した複数個の部分画像を、前記第2判定部で用いられるよう、1つの部分画像の出力期間と次の部分画像の出力期間との間に時間間隔を置いて、前記通信線を介して前記2のコンピュータに出力し、
前記通信線の伝送帯域幅は前記信号線の伝送帯域幅よりも狭い、車両用表示システム。 The main control unit is a first computer you output to the vehicle-mounted display (5,6) in sequence via signal lines display images of a plurality of frames based on the image of the outside taken by the onboard camera (1, 2) ( 3 1) and
The first determination unit (S120, S220) for determining whether or not the image in the first region of the display images of the plurality of frames sequentially output from the main control unit has changed.
When the first determination unit determines that the image in the first region has not changed, the image in the second region larger than the first region in the display image of the plurality of frames changes. A second computer (32) having a second determination unit (S140, S240) for determining whether or not the image is present and connected to the first computer by a predetermined communication line.
An abnormality handling unit (S150, S250) that performs a predetermined abnormality handling process based on the determination by the second determination unit that the image in the second region has not changed is provided.
The main control unit selects a case where the first determination unit determines that the image in the first region has not changed, and constitutes a plurality of images in the second region from the images of the plurality of frames. Individual partial images are extracted, and a time interval is set between the output period of one partial image and the output period of the next partial image so that the extracted plurality of partial images can be used in the second determination unit. Te, and outputs it to the second computer via said communication line,
A vehicle display system in which the transmission bandwidth of the communication line is narrower than the transmission bandwidth of the signal line.
前記主制御部から順番に出力された前記複数フレームの表示画像における、第1領域内の画像が変化しているか否かを判定する第1判定部(S120、S220)と、
前記第1領域内の画像が変化していないと前記第1判定部が判定した場合を選んで、前記複数フレームの表示画像において前記第1領域よりも大きい第2領域内の画像が変化しているか否かを判定する第2判定部(S140、S240)と、
前記第2領域内の画像が変化していないと前記第2判定部が判定したことに基づいて、所定の異常対応処理を行う異常対応部(S150、S250)と、を備え、
前記複数フレームの前記表示画像中の前記第1領域は、前記複数フレームの表示画像における消失点に最も近い画素と上下方向の位置が同じ画素を含む、フリーズ検出装置。 A freeze detection device that detects an abnormality in the main control unit (31, 31a) that sequentially outputs a display image of a plurality of frames based on an image outside the vehicle taken by the vehicle-mounted camera (1, 2) to the vehicle-mounted display (5, 6). And
The first determination unit (S120, S220) for determining whether or not the image in the first region of the display images of the plurality of frames sequentially output from the main control unit has changed.
When the first determination unit determines that the image in the first region has not changed, the image in the second region larger than the first region in the display image of the plurality of frames changes. The second determination unit (S140, S240) for determining whether or not the image is present, and
An abnormality handling unit (S150, S250) that performs a predetermined abnormality handling process based on the determination by the second determination unit that the image in the second region has not changed is provided.
The freeze detection device includes the pixel closest to the vanishing point in the display image of the plurality of frames and the pixel having the same position in the vertical direction in the first region of the display image of the plurality of frames.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016224446A JP6891460B2 (en) | 2016-11-17 | 2016-11-17 | Vehicle display system and freeze detector |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016224446A JP6891460B2 (en) | 2016-11-17 | 2016-11-17 | Vehicle display system and freeze detector |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018079839A JP2018079839A (en) | 2018-05-24 |
JP6891460B2 true JP6891460B2 (en) | 2021-06-18 |
Family
ID=62197320
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016224446A Active JP6891460B2 (en) | 2016-11-17 | 2016-11-17 | Vehicle display system and freeze detector |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6891460B2 (en) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6958526B2 (en) * | 2018-09-26 | 2021-11-02 | 株式会社デンソー | Image processing device and image display system |
CN111510669A (en) | 2019-01-30 | 2020-08-07 | 拉碧斯半导体株式会社 | Video signal processing apparatus, video freeze detection circuit, and video freeze detection method |
JP7247760B2 (en) * | 2019-06-03 | 2023-03-29 | 株式会社デンソー | Sticking determination device and sticking determination method |
JP7333135B2 (en) | 2019-07-18 | 2023-08-24 | ラピスセミコンダクタ株式会社 | signal processing circuit |
CN110509873A (en) * | 2019-09-27 | 2019-11-29 | 京东方科技集团股份有限公司 | Reverse image auxiliary device and method, reverse image |
JP2022077197A (en) | 2020-11-11 | 2022-05-23 | ラピステクノロジー株式会社 | Video processing apparatus, video freeze determination method, and display system |
CN114727144A (en) * | 2021-01-05 | 2022-07-08 | 广州汽车集团股份有限公司 | Monitoring system and method for display clamping stagnation of display |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09116892A (en) * | 1995-10-20 | 1997-05-02 | Fujitsu General Ltd | Video monitor equipment |
JP3272694B2 (en) * | 1999-07-14 | 2002-04-08 | 富士重工業株式会社 | Outside monitoring device with fail-safe function |
JP2002191045A (en) * | 2001-10-15 | 2002-07-05 | Toshiba Corp | Fault state detection method and fault state detector |
JP4071527B2 (en) * | 2002-04-17 | 2008-04-02 | 株式会社東芝 | Diagnostic imaging equipment |
JP3945333B2 (en) * | 2002-07-29 | 2007-07-18 | 住友電気工業株式会社 | Imaging display system |
JP5207823B2 (en) * | 2008-05-14 | 2013-06-12 | アルパイン株式会社 | Image judging apparatus and image judging method |
JP6299373B2 (en) * | 2014-04-18 | 2018-03-28 | 富士通株式会社 | Imaging direction normality determination method, imaging direction normality determination program, and imaging direction normality determination apparatus |
JP6350113B2 (en) * | 2014-08-22 | 2018-07-04 | 株式会社デンソー | Image processing apparatus and fault diagnosis method for image processing apparatus |
JP2017117105A (en) * | 2015-12-22 | 2017-06-29 | トヨタ自動車株式会社 | Visibility determination device |
-
2016
- 2016-11-17 JP JP2016224446A patent/JP6891460B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018079839A (en) | 2018-05-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6891460B2 (en) | Vehicle display system and freeze detector | |
CN106781666B (en) | Control method and system for target parking space | |
JP7151234B2 (en) | Camera system and event recording system | |
US20190306382A1 (en) | Bidirectional synchronizing camera, camera system including the same and method of operating the camera | |
CN103548340A (en) | Vehicle monitoring device and method of monitoring vehicle | |
US20150217692A1 (en) | Image generation apparatus and image generation program product | |
US20200282921A1 (en) | Systems and methods for low light vision through pulsed lighting | |
US9525829B2 (en) | Video display apparatus, video switching apparatus, and video display method | |
CN113691776B (en) | In-vehicle camera system and light supplementing method | |
US20160050342A1 (en) | Image processing apparatus | |
CN106945605A (en) | Vehicle blind zone monitoring system and control method | |
US20200252552A1 (en) | Systems and methods for live video freeze detection | |
JP6317914B2 (en) | In-vehicle image processing device | |
JP2020197815A (en) | Warning system and warning method | |
US20220058412A1 (en) | Sticking determination device and sticking determination method | |
US11758072B2 (en) | Driver assistance system, driver assisting method, and non-transitory storage medium | |
JP6958279B2 (en) | Information processing device | |
CN113170038B (en) | Jitter correction control device, method for operating jitter correction control device, storage medium, and image pickup device | |
CN110870301B (en) | Image display method and device and image processing equipment | |
US20220176872A1 (en) | Method and system for deducing a reduced image refresh frequency in high definition headlights | |
JP7231092B2 (en) | event recording system | |
JP2020136811A (en) | Solid state image pickup device and imaging apparatus | |
JP6680254B2 (en) | Vehicle display control device | |
US11936700B1 (en) | Vehicle video streaming system and method | |
JP2021114745A (en) | Recording control device, recording control method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190121 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191121 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191224 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200212 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200825 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210126 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210219 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210427 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210510 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6891460 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |