JP6664548B2 - Abnormality detection device and abnormality detection method - Google Patents
Abnormality detection device and abnormality detection method Download PDFInfo
- Publication number
- JP6664548B2 JP6664548B2 JP2019523289A JP2019523289A JP6664548B2 JP 6664548 B2 JP6664548 B2 JP 6664548B2 JP 2019523289 A JP2019523289 A JP 2019523289A JP 2019523289 A JP2019523289 A JP 2019523289A JP 6664548 B2 JP6664548 B2 JP 6664548B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- image
- display
- unit
- abnormality
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R16/00—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
- B60R16/02—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/20—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/04—Diagnosis, testing or measuring for television systems or their details for receivers
Description
本発明は、表示システム用の異常検出装置及び異常検出方法に関する。 The present invention relates to an abnormality detection device and an abnormality detection method for a display system.
従来、車載用の表示システムにおいて、いわゆる「フリーズ」の発生を検出する技術が開発されている。例えば、特許文献1の画像判断装置は、表示システム内の同一の部位において時間的に連続した複数枚の画像を取得して、これらの画像同士を比較することによりフリーズの発生を検出している。
2. Description of the Related Art Conventionally, a technology for detecting the occurrence of a so-called “freeze” in a display system for a vehicle has been developed. For example, the image determination device of
表示システムにおける異常はフリーズに限定されるものではなく、いわゆる「誤動作」が発生することもある。例えば、表示システムに含まれる画像処理用の回路の故障により、表示システムに入力される信号が示す情報と表示システムにて表示される画像が示す情報との間にずれが生ずることがある。特許文献1の画像判断装置は、表示システム内の同一部位における画像同士を比較するものに過ぎず、このような誤動作の発生を検出することができない問題があった。すなわち、検出可能な異常の種類が少ないという問題があった。
Abnormalities in the display system are not limited to freezes, and so-called "malfunctions" may occur. For example, a failure in an image processing circuit included in the display system may cause a difference between information indicated by a signal input to the display system and information indicated by an image displayed by the display system. The image determination device of
本発明は、上記のような課題を解決するためになされたものであり、表示システムにおける複数種類の異常を検出可能な異常検出装置及び異常検出方法を提供することを目的とする。 SUMMARY An advantage of some aspects of the invention is to provide an abnormality detection device and an abnormality detection method capable of detecting a plurality of types of abnormalities in a display system.
本発明の異常検出装置は、表示制御装置により画像を生成するために用いられる情報であって、当該画像に表示される値又は状態に関する情報を含む画像生成用情報を取得する情報取得部と、表示装置における表示画像を取得する画像取得部と、表示画像のうち、画像生成用情報に基づいて描画された領域に対して、当該領域が示す値又は状態に関する情報を検出するための画像認識処理を実行することにより、表示画像が示す情報を検出する情報検出部と、画像生成用情報と情報検出部にて検出された情報とを比較することにより、表示制御装置及び表示装置における異常の発生を検出する異常検出部とを備えるものである。 Abnormality detecting device of the present invention is information used to generate the by Ri image to the display control unit, information acquisition unit that acquires image generation information including the information about the value or state is displayed on the image An image acquisition unit for acquiring a display image on the display device; and an image for detecting information relating to a value or a state indicated by the region in a region of the display image drawn based on the image generation information. By performing the recognition process, the information detection unit that detects the information indicated by the display image is compared with the information for image generation and the information detected by the information detection unit. And an abnormality detection unit that detects the occurrence of the error.
本発明によれば、上記のように構成したので、表示システムにおける複数種類の異常を検出することができる。 According to the present invention, since it is configured as described above, a plurality of types of abnormalities in the display system can be detected.
以下、この発明をより詳細に説明するために、この発明を実施するための形態について、添付の図面に従って説明する。 Hereinafter, in order to explain this invention in greater detail, the preferred embodiments of the present invention will be described with reference to the accompanying drawings.
実施の形態1.
図1は、実施の形態1に係る表示制御装置、表示装置及び異常検出装置の要部を示すブロック図である。図1を参照して、実施の形態1の表示制御装置100、表示装置200及び異常検出装置300について、自動車用計器盤に対応する表示システム(いわゆる「デジタルインストルメントパネル」又は「統合インストルメントパネル」)に適用した例を中心に説明する。
FIG. 1 is a block diagram illustrating main parts of a display control device, a display device, and an abnormality detection device according to
図1に示す如く、車両1は電子制御ユニット(以下「ECU」という。)2を有している。ECU2は、車両1に設けられた図示しないセンサ類を用いて、車両1の状態に関する各種情報(以下「車両情報」という。)を取得するものである。
As shown in FIG. 1, the
ECU2と表示制御装置100間は、CAN(Controller Area Network)規格に基づく車載ネットワークにより通信自在である。ECU2と表示装置200間も、この車載ネットワークにより通信自在である。ECU2は、車両情報のうち、表示制御装置100による画像の生成に用いられる情報(以下「画像生成用情報」という。)を表示制御装置100及び表示装置200にそれぞれ送信するものである。
Communication between the
画像生成用情報は、例えば、車速を示す情報、エンジンの回転数を示す情報、及び燃料の残量が基準量(例えば10リットル)未満であるか否かを示す情報(すなわち燃料警告灯の点灯の要否を示す情報)などを含むものである。これらの情報のうち、車速を示す情報は、自動車用計器盤における速度計(以下「スピードメーター」という。)に対応する画像の生成に用いられる。エンジンの回転数を示す情報は、自動車用計器盤における回転速度計(以下「タコメーター」という。)に対応する画像の生成に用いられる。その他の情報は、自動車用計器盤における各種警告灯に対応する画像の生成に用いられる。 The image generation information includes, for example, information indicating a vehicle speed, information indicating an engine speed, and information indicating whether or not a remaining amount of fuel is less than a reference amount (for example, 10 liters) (that is, lighting of a fuel warning lamp). (Information indicating the necessity of this). Among these pieces of information, information indicating the vehicle speed is used to generate an image corresponding to a speedometer (hereinafter, referred to as a “speedometer”) on an instrument panel for a vehicle. Information indicating the number of revolutions of the engine is used to generate an image corresponding to a tachometer (hereinafter, referred to as a “tachometer”) on an instrument panel for an automobile. The other information is used to generate images corresponding to various warning lights on the dashboard of the vehicle.
表示制御装置100は、分配部3、メーター描画部4、警告灯描画部5及び合成部6を有している。メーター描画部4、警告灯描画部5及び合成部6により画像生成部7が構成されている。また、表示制御装置100は圧縮部8を有している。
The
分配部3は、ECU2により送信された画像生成用情報を受信するものである。分配部3は、画像生成用情報のうち、車速を示す情報及びエンジンの回転数を示す情報をメーター描画部4に出力するとともに、その他の情報を警告灯描画部5に出力するものである。
The
メーター描画部4は、分配部3から入力された情報を用いて、スピードメーターに対応する画像及びタコメーターに対応する画像を生成するものである。すなわち、スピードメーターに対応する画像は車速を示すものであり、タコメーターに対応する画像はエンジンの回転数を示すものである。
The meter drawing unit 4 generates an image corresponding to the speedometer and an image corresponding to the tachometer using the information input from the
警告灯描画部5は、分配部3から入力された情報を用いて、各種警告灯に対応する画像を生成するものである。例えば、燃料の残量が基準量未満である場合、すなわち燃料警告灯の点灯が必要である場合、警告灯描画部5は燃料警告灯が点灯した状態に対応する画像を生成する。他方、燃料の残量が基準量以上である場合、すなわち燃料警告灯の点灯が不要である場合、警告灯描画部5は燃料警告灯が消灯した状態に対応する画像を生成する。
The warning
合成部6は、メーター描画部4により生成された画像と警告灯描画部5により生成された画像とを合成することにより、自動車用計器盤に対応する画像を生成するものである。
The combining
圧縮部8は、合成部6により生成された画像を示す画像データを取得して、当該画像データを圧縮するものである。圧縮部8は、圧縮後の画像データを表示装置200に送信するものである。
The
表示装置200は、伸張部9、拡縮部10、表示部11、画像取得部12、情報検出部13、情報取得部14及び異常検出部15を有している。画像取得部12、情報検出部13、情報取得部14及び異常検出部15により異常検出装置300が構成されている。
The
伸張部9は、表示制御装置100により送信された画像データを受信して、当該画像データを伸張するものである。伸張部9は、伸張後の画像データを拡縮部10に出力するものである。
The
拡縮部10は、伸張部9から入力された画像データが示す画像、すなわち自動車用計器盤に対応する画像を拡大又は縮小(以下、総称して「拡縮」という。)することにより、当該画像のサイズを表示部11における表示に適したサイズに調整するものである。拡縮部10は、拡縮後の画像を示す画像データを表示部11及び画像取得部12にそれぞれ出力するものである。
The enlargement /
表示部11は、拡縮部10から入力された画像データが示す画像を表示するものである。以下、表示部11に表示される画像、すなわち表示部11に入力される画像データが示す画像を「表示画像」という。
The
画像取得部12は、拡縮部10により出力された画像データの入力を受け付けるものである。すなわち、画像取得部12は表示画像を取得するものである。
The
情報検出部13は、画像取得部12により取得された表示画像の各領域に対する画像認識処理を実行するものである。これにより、情報検出部13は当該各領域が示す情報を検出するものである。
The
具体的には、例えば、情報検出部13は、表示画像のうちのスピードメーターに対応する領域に対する画像認識処理により、車速を示す情報を検出する。また、情報検出部13は、表示画像のうちのタコメーターに対応する領域に対する画像認識処理により、エンジンの回転数を示す情報を検出する。また、情報検出部13は、表示画像のうちの燃料警告灯に対応する領域に対する画像認識処理により、燃料警告灯が点灯しているか否かを示す情報、すなわち燃料の残量が基準量未満であるか否かを示す情報を取得する。情報検出部13による画像認識処理の具体例については、図4〜図9を参照して後述する。
Specifically, for example, the
情報取得部14は、ECU2により送信された画像生成用情報を受信するものである。すなわち、情報取得部14は画像生成用情報を取得するものである。
The
異常検出部15は、情報検出部13により検出された情報(以下「検出情報」という。)と情報取得部14により取得された画像生成用情報とを比較することにより、表示制御装置100及び表示装置200における異常の発生を検出するものである。
The
すなわち、検出情報の内容と画像生成用情報の内容とが一致している場合、異常検出部15は、表示制御装置100及び表示装置200がいずれも正常であると判定する。他方、検出情報の内容と画像生成用情報の内容とが不一致である場合、異常検出部15は、分配部3、メーター描画部4、警告灯描画部5、合成部6、圧縮部8、伸張部9又は拡縮部10のうちの少なくとも一部に異常が発生していると判定する。
That is, when the content of the detection information matches the content of the image generation information, the
これにより、表示画像のフリーズを異常として検出することができるのはもちろん、表示制御装置100に入力される情報(画像生成用情報)と表示画像が示す情報(検出情報)との間にずれが生じていることも異常として検出することができる。すなわち、表示制御装置100及び表示装置200を含む表示システムにおいて、フリーズ及び誤動作を含む複数種類の異常を検出することができる。
Thereby, not only can a freeze of the display image be detected as abnormal, but also a difference between information (image generation information) input to the
次に、図2を参照して、表示制御装置100、表示装置200及び異常検出装置300のハードウェア構成の一例について説明する。
Next, an example of a hardware configuration of the
図1に示す分配部3の機能は、マイクロコントローラ(以下「マイコン」という。)21により実現される。図1に示す画像生成部7の機能は、システムオンチップ(以下「SoC」という。)22及びメモリ23により実現される。すなわち、メモリ23は画像生成部7におけるフレームメモリの機能を果たすものである。図1に示す圧縮部8の機能は、集積回路(以下「IC」という。)24により実現される。
The function of the
また、図1に示す伸張部9の機能は、IC25により実現される。図1に示す拡縮部10の機能は、IC26により実現される。図1に示す表示部11の機能は、液晶モジュール27により実現される。図1に示す画像取得部12、情報検出部13、情報取得部14及び異常検出部15の機能は、IC28により実現される。
The function of the
IC28は、検出情報の内容と画像生成用情報の内容とが一致している場合、表示制御装置100及び表示装置200がいずれも正常であると判定する。他方、検出情報の内容と画像生成用情報の内容とが不一致である場合、IC28は、マイコン21、SoC22、IC24、IC25又はIC26のうちの少なくとも一部に異常が発生していると判定する。
When the content of the detection information matches the content of the image generation information, the
なお、表示部11の機能は、液晶モジュール27に代えて有機EL(Electro Luminescence)モジュールにより実現されるものであっても良い。すなわち、表示装置200は液晶ディスプレイを用いたものであっても良く、又は有機ELディスプレイを用いたものであっても良い。
Note that the function of the
次に、図3のフローチャートを参照して、異常検出装置300の動作について説明する。
Next, the operation of the
ECU2は、センサ類から車両情報を取得し、車両情報のうちの画像生成用情報を表示制御装置100及び表示装置200に送信する処理を実行中である。表示制御装置100は、ECU2から受信した画像生成用情報を用いて自動車用計器盤に対応する画像を生成し、当該画像を示す画像データを圧縮し、圧縮後の画像データを表示装置200に送信する処理を実行中である。表示装置200は、表示制御装置100から受信した画像データを伸張し、伸張後の画像データが示す画像を拡縮し、拡縮後の画像を表示する処理を実行中である。これらの処理のバックグラウンドにて、異常検出装置300が以下のステップST1〜ST4の処理を繰り返し実行する。
The
まず、ステップST1にて、画像取得部12は、拡縮部10により出力された画像データの入力を受け付ける。すなわち、画像取得部12は表示画像を取得する。
First, in step ST1, the
次いで、ステップST2にて、情報検出部13は、ステップST1で取得された表示画像の各領域に対する画像認識処理を実行する。これにより、情報検出部13は当該各領域が示す情報を検出する。ステップST2における画像認識処理の具体例については、図4〜図9を参照して後述する。
Next, in step ST2, the
次いで、ステップST3にて、情報取得部14は、ECU2により送信された画像生成用情報を受信する。すなわち、情報取得部14は画像生成用情報を取得する。
Next, in step ST3, the
次いで、ステップST4にて、異常検出部15は、ステップST2における検出情報とステップST3で取得された画像生成用情報とを比較することにより、表示制御装置100及び表示装置200における異常の発生を検出する。
Next, in step ST4, the
すなわち、検出情報の内容と画像生成用情報の内容とが一致している場合、異常検出部15は、表示制御装置100及び表示装置200がいずれも正常であると判定する。他方、検出情報の内容と画像生成用情報の内容とが不一致である場合、異常検出部15は、分配部3、メーター描画部4、警告灯描画部5、合成部6、圧縮部8、伸張部9又は拡縮部10のうちの少なくとも一部に異常が発生していると判定する。
That is, when the content of the detection information matches the content of the image generation information, the
次に、図4〜図9を参照して、情報検出部13による画像認識処理の具体例について説明する。
Next, a specific example of the image recognition process performed by the
自動車用計器盤におけるメーター又は警告灯に対応する画像は、いずれも車両情報を示すものである。通常、車両情報を示す画像は、他の種類の情報を示す画像(例えば映画又はテレビジョン放送などのエンターテインメント系の動画像)に比して、各パーツの配置位置及び描画パターンなどが限定されている。そこで、情報検出部13は、以下のように簡略化された画像認識処理を実行することにより、IC28の演算量を低減する。この結果、SoC22に比して画像処理能力の低いIC28を用いて異常検出装置300を実現することができる。
The images corresponding to the meters or the warning lights on the instrument panel for automobiles all indicate vehicle information. Usually, the position of each part and the drawing pattern of the image indicating the vehicle information are limited as compared with the image indicating another type of information (for example, an entertainment-type moving image such as a movie or a television broadcast). I have. Therefore, the
まず、表示画像のうちのスピードメーターに対応する領域に対する画像認識処理、すなわち当該スピードメーターが示す車速を検出する画像認識処理の具体例について三つ説明する。 First, three specific examples of image recognition processing for a region corresponding to a speedometer in a display image, that is, image recognition processing for detecting a vehicle speed indicated by the speedometer will be described.
第1の具体例において、情報検出部13には、例えば10キロメートル毎時(km/h)ごとの各速度を示すスピードメーターの画像を白と黒の2階調に変換(いわゆる「2値化」)してなる参照画像が予め記憶されている。情報検出部13は、表示画像のうちのスピードメーターに対応する領域を2値化する。情報検出部13は、当該2値化された画像と各参照画像とのパターンマッチングにより、当該2値化された画像に最も近い参照画像を選択する。情報検出部13は、当該選択された参照画像が示す速度を当該スピードメーターが示す車速として検出する。
In the first specific example, the
図4は参照画像RI10〜RI1180の一例を示しており(RI120〜RI1170は図示を省略している)、図5は情報検出部13により2値化された画像I160の一例を示している。この場合、情報検出部13は、2値化された画像I160と参照画像RI10〜RI1180の各々とのパターンマッチングにより、画像I160に最も近い参照画像RI160を選択する。情報検出部13は、選択された参照画像RI160が示す速度(60km/h)をスピードメーターが示す車速として検出する。FIG. 4 shows an example of the reference images RI1 0 to RI1 180 (RI1 20 to RI1 170 are not shown), and FIG. 5 shows an example of the image I1 60 binarized by the
第2の具体例において、情報検出部13には、例えば10km/hごとの各速度を示すスピードメーターの画像から当該スピードメーターの針に対応する部分を抽出してなる参照画像が予め記憶されている。情報検出部13は、いわゆる「エッジ検出」などの処理により、表示画像のうちのスピードメーターに対応する領域から当該スピードメーターの針に対応する部分を抽出する。情報検出部13は、当該抽出された画像と各参照画像とのパターンマッチングにより、当該抽出された画像に最も近い参照画像を選択する。情報検出部13は、当該選択された参照画像が示す速度を当該スピードメーターが示す車速として検出する。
In the second specific example, the
図6は参照画像RI20〜RI2180の一例を示しており(RI220〜RI2170は図示を省略している)、図7は情報検出部13により抽出された画像I260の一例を示している。図中、破線部は便宜上示したものであり、実際の各画像には含まれない部位である。この場合、情報検出部13は、抽出された画像I260と参照画像RI20〜RI2180の各々とのパターンマッチングにより、画像I260に最も近い参照画像RI260を選択する。情報検出部13は、選択された参照画像RI260が示す速度(60km/h)をスピードメーターが示す車速として検出する。FIG. 6 shows an example of the reference images RI2 0 to RI2 180 (RI2 20 to RI2 170 are not shown), and FIG. 7 shows an example of the image I2 60 extracted by the
第3の具体例において、情報検出部13には、例えば10km/hごとの各速度と、スピードメーターが当該各速度を示すときの当該スピードメーターの針の角度とを対応させたテーブル(以下「角度−速度テーブル」という。)が予め記憶されている。
In the third specific example, the
情報検出部13は、エッジ検出などの処理により、表示画像のうちのスピードメーターに対応する領域から当該スピードメーターの針に対応する部分を抽出する。情報検出部13は、角度−速度テーブルに含まれる速度のうち、当該検出された針の角度に最も近い角度に対応する速度を取得する。情報検出部13は、当該取得した速度を当該スピードメーターが示す車速として検出する。
The
なお、情報検出部13が上記第1〜第3の具体例による画像認識処理を実行する場合、異常検出部15における車速を示す情報の一致不一致判定は、完全に一致しているか否かを判定するものではなく略一致しているか否かを判定するものとするのが好適である。具体的には、例えば、異常検出部15は、画像生成用情報が示す車速と検出情報が示す車速との差分値が6km/h未満である場合、両情報の示す車速が一致していると判定する。他方、画像生成用情報が示す車速と検出情報が示す車速との差分値が6km/h以上である場合、異常検出部15は、両情報の示す車速が不一致であると判定する。
When the
また、表示画像のうちのタコメーターに対応する領域に対する画像認識処理、すなわち当該タコメーターが示すエンジンの回転数を検出する画像認識処理の具体例は、上記第1〜第3の具体例と同様であるため図示及び説明を省略する。 Further, specific examples of the image recognition processing for the region corresponding to the tachometer in the display image, that is, the image recognition processing for detecting the number of revolutions of the engine indicated by the tachometer are the same as the first to third specific examples. Therefore, illustration and description are omitted.
次に、表示画像のうちの燃料警告灯に対応する領域に対する画像認識処理、すなわち当該燃料警告灯が点灯しているか否かを検出する画像認識処理の具体例について説明する。 Next, a specific example of the image recognition processing for an area corresponding to the fuel warning light in the display image, that is, the image recognition processing for detecting whether the fuel warning light is on or not will be described.
情報検出部13は、表示画像のうちの燃料警告灯に対応する領域における各画素の輝度値を加算することにより、累積輝度値Lを算出する。情報検出部13には、累積輝度値Lに対する比較対象となる閾値Lthが予め設定されている。情報検出部13は、累積輝度値Lと閾値Lthとを比較する。
The
情報検出部13は、累積輝度値Lが閾値Lth以上の値である場合、燃料警告灯が点灯状態であると判定する(すなわち、表示画像によれば燃料の残量が基準量未満であることを検出する。)。他方、累積輝度値Lが閾値Lth未満の値である場合、情報検出部13は、燃料警告灯が消灯状態であると判定する(すなわち、表示画像によれば燃料の残量が基準量以上であることを検出する。)。
When the accumulated luminance value L is equal to or greater than the threshold value Lth, the
ここで、燃料警告灯が点灯した状態に対応する画像は予め設定された画像であるため(図8A参照)、当該画像の累積輝度値Lは一定値となる(図9に示すL1)。他方、燃料警告灯が消灯した状態に対応する画像は黒一色であるため(図8B参照)、当該画像の累積輝度値も一定値となる(図9に示すL2)。そこで、情報検出部13には、L1よりも小さくかつL2よりも大きい閾値Lthを予め設定しておく。
Here, since the image corresponding to the state in which the fuel warning light is on is a preset image (see FIG. 8A), the accumulated luminance value L of the image is a constant value (L1 shown in FIG. 9). On the other hand, since the image corresponding to the state in which the fuel warning light is turned off is black (see FIG. 8B), the accumulated luminance value of the image also becomes a constant value (L2 shown in FIG. 9). Therefore, a threshold value Lth smaller than L1 and larger than L2 is set in the
なお、表示領域のうちの燃料警告灯と異なる他の警告灯に対応する領域に対する画像認識処理、すなわち当該他の警告灯が点灯しているか否かを検出する画像認識処理の具体例は、上記具体例と同様であるため図示及び説明を省略する。ただし、警告灯の種類ごとに点灯状態に対応する画像の累積輝度値L1が異なるため、警告灯の種類ごとに閾値Lthを設定するのが好適である。 Note that a specific example of the image recognition processing for an area corresponding to another warning light different from the fuel warning light in the display area, that is, the image recognition processing for detecting whether the other warning light is turned on is described above. Since this is the same as the specific example, illustration and description are omitted. However, since the cumulative luminance value L1 of the image corresponding to the lighting state differs for each type of warning light, it is preferable to set the threshold Lth for each type of warning light.
なお、画像生成用情報は車両情報に限定されるものではなく、画像認識処理により検出可能な情報であれば如何なる情報であっても良い。表示制御装置100により生成される画像は、画像生成用情報を示すものであれば良く、自動車用計器盤に対応する画像に限定されるものではない。
Note that the image generation information is not limited to vehicle information, and may be any information as long as the information can be detected by image recognition processing. The image generated by the
ただし、画像生成用情報が車両情報と異なる他の種類の情報を含むものである場合、表示画像が複雑になり、上記のように簡略化された画像認識処理を用いることができない可能性がある。この場合、情報検出部13は、簡略化されていない通常の画像認識処理(例えば2値化されていない全体画像と参照画像とのパターンマッチングなど)を実行することにより、表示画像が示す情報を検出するものであっても良い。または、この場合、情報検出部13は、機械学習の結果に基づく画像認識処理を実行することにより、表示画像が示す情報を高精度に検出するものであっても良い。
However, if the image generation information includes information of another type different from the vehicle information, the display image becomes complicated, and the simplified image recognition processing as described above may not be able to be used. In this case, the
また、表示制御装置100及び表示装置200の各々は、ECU2と異なる他のデバイスから画像生成用情報を受信するものであっても良い。具体的には、例えば、表示制御装置100及び表示装置200の各々は、車両1に持ち込まれたスマートフォンなどの携帯情報端末から画像生成用情報を受信するものであって良い。または、例えば、表示制御装置100及び表示装置200の各々は、車両1に搭載されたGPS(Global Positioning System)受信機などの車載器から画像生成用情報を受信するものであっても良い。
Further, each of the
また、表示制御装置100及び表示装置200の用途は自動車用計器盤に対応する表示システムに限定されるものではない。具体的には、例えば、表示装置200が車両1のダッシュボードに取り付けられており、表示制御装置100がカーナビゲーション用の各種画像を生成するもの、又はディスプレイオーディオ用の各種画像を生成するものであっても良い。または、例えば、表示装置200が車両1の後部座席に設けられており、表示制御装置100がRSE(Rear Seat Entertainment)用の各種画像を生成するものであっても良い。
Further, the application of the
また、表示制御装置100及び表示装置200は車載用に限定されるものではない。異常検出装置300は、携帯用、家庭用又は産業用など、如何なる用途の表示制御装置100及び表示装置200における異常検出にも用いることができる。
Further, the
また、表示制御装置100は表示装置200と一体に構成されたものであっても良い。この場合のブロック図を図10及び図11に示す。この場合、図10に示す如く圧縮部8及び伸張部9は不要であり、図11に示す如くIC24及びIC25は不要である。図10に示す異常検出部15は、検出情報の内容と画像生成用情報の内容とが不一致である場合、分配部3、メーター描画部4、警告灯描画部5、合成部6又は拡縮部10のうちの少なくとも一部に異常が発生していると判定する。図11に示すIC28は、検出情報の内容と画像生成用情報の内容とが不一致である場合、マイコン21、SoC22又はIC26のうちの少なくとも一部に異常が発生していると判定する。
Further, the
また、異常検出装置300のハードウェアはIC28に限定されるものではない。図12を参照して、異常検出装置300のハードウェア構成の他の例について説明する。
The hardware of the
図12Aに示す如く、異常検出装置300はコンピュータにより構成されており、プロセッサ31及びメモリ32を有している。メモリ32には、当該コンピュータを図1に示す画像取得部12、情報検出部13、情報取得部14及び異常検出部15として機能させるためのプログラムが記憶されている。メモリ32に記憶されたプログラムをプロセッサ31が読み出して実行することにより、画像取得部12、情報検出部13、情報取得部14及び異常検出部15の機能が実現される。
As shown in FIG. 12A, the
プロセッサ31は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、マイクロプロセッサ、マイクロコントローラ又はDSP(Digital Signal Processor)などにより構成されている。メモリ32は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)若しくはEEPROM(Electrically Erasable Programmable Read−Only Memory)などの半導体メモリ、磁気ディスク、光ディスク又は光磁気ディスクにより構成されている。
The processor 31 includes, for example, a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), a microprocessor, a microcontroller, a DSP (Digital Signal Processor), or the like. The
または、図12Bに示す如く、画像取得部12、情報検出部13、情報取得部14及び異常検出部15の機能が専用の処理回路33により実現されるものであっても良い。処理回路33は、例えば、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、FPGA(Field−Programmable Gate Array)、SoC(System−on−a−Chip)若しくはシステムLSI(Large−Scale Integration)又はこれらを組み合わせたものである。
Alternatively, as shown in FIG. 12B, the functions of the
なお、画像取得部12、情報検出部13、情報取得部14及び異常検出部15の各部の機能それぞれを処理回路33で実現しても良いし、各部の機能をまとめて処理回路33で実現しても良い。また、画像取得部12、情報検出部13、情報取得部14及び異常検出部15のうちの一部の機能を図12Aに示すプロセッサ31及びメモリ32により実現し、残余の機能を図12Bに示す処理回路33により実現しても良い。
The functions of the
以上のように、実施の形態1の異常検出装置300は、表示制御装置100による画像の生成に用いられる画像生成用情報を取得する情報取得部14と、表示装置200における表示画像を取得する画像取得部12と、表示画像に対する画像認識処理を実行することにより、表示画像が示す情報を検出する情報検出部13と、画像生成用情報と情報検出部13にて検出された情報とを比較することにより、表示制御装置100及び表示装置200における異常の発生を検出する異常検出部15とを備える。これにより、表示画像のフリーズを異常として検出することができるのはもちろん、表示制御装置100に入力される情報(画像生成用情報)と表示画像が示す情報(検出情報)との間にずれが生じていることも異常として検出することができる。すなわち、表示制御装置100及び表示装置200を含む表示システムにおいて、フリーズ及び誤動作を含む複数種類の異常を検出することができる。
As described above, the
また、情報検出部13は、表示画像が車両情報を示す画像である場合、表示画像が車両情報と異なる他の種類の情報を示す画像である場合に比して簡略化された画像認識処理を実行する。これにより、図2に示すIC28、図12Aに示すプロセッサ31又は図12Bに示す処理回路33の演算量を低減することができる。この結果、SoC22に比して画像処理能力の低いIC28、プロセッサ31又は処理回路33を用いて異常検出装置300を実現することができる。
Further, the
また、情報検出部13は、車両情報を示す表示画像のうちのメーターに対応する領域を2値化して、当該2値化された画像と参照画像とのパターンマッチングによりメーターが示す数値を検出する。これにより、簡略化された画像認識処理(第1の具体例)にて、スピードメーターが示す車速又はタコメーターが示す回転数などの数値を検出することができる。
In addition, the
または、情報検出部13は、車両情報を示す表示画像のうちのメーターに対応する領域からメーターの針に対応する部分を抽出して、当該抽出された画像と参照画像とのパターンマッチングによりメーターが示す数値を検出する。これにより、簡略化された画像認識処理(第2の具体例)にて、スピードメーターが示す車速又はタコメーターが示す回転数などの数値を検出することができる。
Alternatively, the
または、情報検出部13は、車両情報を示す表示画像のうちのメーターに対応する領域からメーターの針に対応する部分を抽出して、当該針の角度に基づきメーターが示す数値を検出する。これにより、簡略化された画像認識処理(第3の具体例)にて、スピードメーターが示す車速又はタコメーターが示す回転数などの数値を検出することができる。
Alternatively, the
また、情報検出部13は、車両情報を示す表示画像のうちの警告灯に対応する領域における累積輝度値Lを算出して、当該累積輝度値Lを閾値Lthと比較することにより警告灯が点灯しているか否かを検出する。これにより、簡略化された画像認識処理にて、燃料警告灯などの各種警告灯が点灯しているか否かを検出することができる。
In addition, the
また、情報取得部14は、電子制御ユニット(ECU)2、携帯情報端末又は車載器から画像生成用情報を取得する。これにより、異常検出装置300を車載用の表示制御装置100及び表示装置200に適用したとき、表示制御装置100及び表示装置200の用途などに応じて種々の画像生成用情報を取得することができる。
In addition, the
また、実施の形態1の異常検出方法は、情報取得部14が、表示制御装置100による画像の生成に用いられる画像生成用情報を取得するステップ(ステップST3)と、画像取得部12が、表示装置200における表示画像を取得するステップ(ステップST1)と、情報検出部13が、表示画像に対する画像認識処理を実行することにより、表示画像が示す情報を検出するステップ(ステップST2)と、異常検出部15が、画像生成用情報と情報検出部13にて検出された情報とを比較することにより、表示制御装置100及び表示装置200における異常の発生を検出するステップ(ステップST4)とを備える。これにより、表示制御装置100及び表示装置200を含む表示システムにおいて、フリーズ及び誤動作を含む複数種類の異常を検出することができる。
In addition, in the abnormality detection method according to the first embodiment, the
実施の形態2.
図13は、実施の形態2に係る表示制御装置、表示装置及び異常検出装置の要部を示すブロック図である。図13を参照して、実施の形態2の表示制御装置100a、表示装置200a及び異常検出装置300aについて、自動車用計器盤に対応する表示システムに適用した例を中心に説明する。
FIG. 13 is a block diagram illustrating main parts of a display control device, a display device, and an abnormality detection device according to
なお、図13において、図1に示すブロックと同様のブロックには同一符号を付して説明を省略する。また、表示制御装置100a、表示装置200a及び異常検出装置300aのハードウェア構成は、実施の形態1にて図2を参照して説明したものと同様であるため、図示及び説明を省略する。
In FIG. 13, the same reference numerals are given to the same blocks as the blocks shown in FIG. 1, and the description will be omitted. The hardware configurations of the
図13に示す如く、異常検出装置300aは通知制御部16を有している。通知制御部16は、異常検出部15により異常の発生が検出されたとき、当該異常が発生したことを示す画像(以下「異常通知画像」という。)を表示装置200aと異なる他の表示装置400に表示させる制御、又は当該異常が発生したことを示す音声(以下「異常通知音声」という。)を音声出力装置500に出力させる制御のうちの少なくとも一方を実行するものである。
As shown in FIG. 13, the
表示装置400は、例えば、液晶ディスプレイ又は有機ELディスプレイなどのディスプレイにより構成されている。表示装置400は、例えば、車両1のダッシュボードに取り付けられており、カーナビゲーション用の各種画像又はディスプレイオーディオ用の各種画像を表示するものである。または、例えば、表示装置400は、車両1に持ち込まれたスマートフォン又はPND(Portable Navigation Device)などの携帯情報端末のディスプレイにより構成されている。
The
音声出力装置500は、例えば、車両1に搭載された1個以上のスピーカにより構成されている。
The
また、異常検出装置300aは復帰制御部17を有している。復帰制御部17は、異常検出部15により異常の発生が検出されたとき、表示制御装置100aにリセット処理の実行を指示するものである。表示制御装置100aは、異常検出装置300aからの指示に応じて自身をリセットする機能を有している。
Further, the
次に、図14のフローチャートを参照して、異常検出装置300aの動作について説明する。なお、図14に示すステップST1〜ST7のうちのステップST1〜ST4の処理内容は、実施の形態1にて図3を参照して説明したものと同様であるため説明を省略する。
Next, the operation of the
ステップST4で異常が検出されなかった場合(ステップST5“NO”)、異常検出装置300aの処理はステップST1に戻る。他方、ステップST4で異常が検出された場合(ステップST5“YES”)、情報検出部13は、その旨を通知制御部16及び復帰制御部17にそれぞれ通知する。これにより、異常検出装置300aの処理はステップST6,ST7に進む。
When no abnormality is detected in step ST4 (“NO” in step ST5), the process of the
ステップST6にて、通知制御部16は、異常通知画像を表示装置400に表示させる制御、又は異常通知音声を音声出力装置500に出力させる制御のうちの少なくとも一方を実行する。これにより、表示制御装置100a又は表示装置200aに異常が発生したことをユーザに知らせることができる。
In step ST <b> 6, the
ステップST7にて、復帰制御部17は、表示制御装置100aにリセット処理の実行を指示する。表示制御装置100aにて一時的な異常(例えばソフトウェア的な異常)が発生している場合、リセットにより表示制御装置100aを正常な状態に復帰させることができる。
In step ST7, the
なお、異常検出装置300aは、通知制御部16又は復帰制御部17のうちのいずれか一方のみを有するものであっても良い。すなわち、異常検出装置300aは、ステップST6の処理又はステップST7の処理のうちのいずれか一方のみを実行するものであっても良い。
Note that the
また、異常検出装置300aが通知制御部16及び復帰制御部17の両方を有する場合、異常通知画像は、異常が発生したことに加えて、表示制御装置100aがリセットされることを示すものであっても良い。同様に、異常通知音声は、異常が発生したことに加えて、表示制御装置100aがリセットされることを示すものであっても良い。
When the
また、通知制御部16は、表示装置400に代えて又は加えて、表示装置200の表示部11に異常通知画像を表示させるものであっても良い。
Further, the
そのほか、実施の形態2の表示制御装置100a、表示装置200a及び異常検出装置300aは、実施の形態1にて説明したものと同様の種々の変形例を適用することができる。例えば、異常検出装置300aのハードウェア構成は、実施の形態1にて図12を参照して説明したものと同様であっても良い。
In addition, various modifications similar to those described in the first embodiment can be applied to the
以上のように、実施の形態2の異常検出装置300aは、異常検出部15により異常の発生が検出されたとき、異常が発生したことを示す画像を表示装置200aと異なる他の表示装置400に表示させる制御、又は異常が発生したことを示す音声を音声出力装置500に出力させる制御のうちの少なくとも一方を実行する通知制御部16を備える。これにより、表示制御装置100a又は表示装置200aに異常が発生したことをユーザに知らせることができる。
As described above, when the
また、異常検出装置300aは、異常検出部15により異常の発生が検出されたとき、表示制御装置100aにリセット処理の実行を指示する復帰制御部17を備える。表示制御装置100aにて一時的な異常(例えばソフトウェア的な異常)が発生している場合、リセットにより表示制御装置100aを正常な状態に復帰させることができる。
Further, the
なお、本願発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。 In addition, within the scope of the present invention, any combination of the embodiments, a modification of an arbitrary component of each embodiment, or an omission of any component in each embodiment is possible within the scope of the invention. .
本発明の異常検出装置及び異常検出方法は、例えば、自動車用計器盤に対応する表示システムに応用することができる。 The abnormality detection device and abnormality detection method of the present invention can be applied to, for example, a display system corresponding to an instrument panel for an automobile.
1 車両、2 電子制御ユニット(ECU)、3 分配部、4 メーター描画部、5 警告灯描画部、6 合成部、7 画像生成部、8 圧縮部、9 伸張部、10 拡縮部、11 表示部、12 画像取得部、13 情報検出部、14 情報取得部、15 異常検出部、16 通知制御部、17 復帰制御部、21 マイクロコントローラ(マイコン)、22 システムオンチップ(SoC)、23 メモリ、24 集積回路(IC)、25 集積回路(IC)、26 集積回路(IC)、27 液晶モジュール、28 集積回路(IC)、31 プロセッサ、32 メモリ、33 処理回路、100,100a 表示制御装置、200,200a 表示装置、300,300a 異常検出装置、400 表示装置、500 音声出力装置。
Claims (10)
表示装置における表示画像を取得する画像取得部と、
前記表示画像のうち、前記画像生成用情報に基づいて描画された領域に対して、当該領域が示す値又は状態に関する情報を検出するための画像認識処理を実行することにより、前記表示画像が示す情報を検出する情報検出部と、
前記画像生成用情報と前記情報検出部にて検出された情報とを比較することにより、前記表示制御装置及び前記表示装置における異常の発生を検出する異常検出部と、
を備える異常検出装置。 Is information used to generate the by Ri image to the display control unit, an information acquisition section that acquires image generation information including the information about the value or status is displayed in the image,
An image acquisition unit that acquires a display image on the display device,
By performing an image recognition process for detecting information related to a value or a state indicated by the region on an area drawn based on the image generation information, the display image indicates An information detection unit for detecting information;
By comparing the image generation information and the information detected by the information detection unit, an abnormality detection unit that detects the occurrence of an abnormality in the display control device and the display device,
An abnormality detection device comprising:
画像取得部が、表示装置における表示画像を取得するステップと、
情報検出部が、前記表示画像のうち、前記画像生成用情報に基づいて描画された領域に対して、当該領域が示す値又は状態に関する情報を検出するための画像認識処理を実行することにより、前記表示画像が示す情報を検出するステップと、
異常検出部が、前記画像生成用情報と前記情報検出部にて検出された情報とを比較することにより、前記表示制御装置及び前記表示装置における異常の発生を検出するステップと、
を備える異常検出方法。 And step information acquiring unit is information used to generate the by Ri image to the display control unit, which acquires image generation information including the information about the value or status is displayed in the image,
An image acquiring unit for acquiring a display image on the display device;
The information detection unit, of the display image , for an area drawn based on the image generation information, by performing an image recognition process for detecting information related to the value or state indicated by the area , Detecting information indicated by the display image;
An abnormality detection unit that detects the occurrence of an abnormality in the display control device and the display device by comparing the image generation information with the information detected by the information detection unit;
An abnormality detection method comprising:
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2017/021306 WO2018225210A1 (en) | 2017-06-08 | 2017-06-08 | Abnormality detection device and abnormality detection method |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018225210A1 JPWO2018225210A1 (en) | 2019-11-07 |
JP6664548B2 true JP6664548B2 (en) | 2020-03-13 |
Family
ID=64565874
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019523289A Active JP6664548B2 (en) | 2017-06-08 | 2017-06-08 | Abnormality detection device and abnormality detection method |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6664548B2 (en) |
WO (1) | WO2018225210A1 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023067689A1 (en) * | 2021-10-19 | 2023-04-27 | 日産自動車株式会社 | Failure detection device and failure detection method |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3887803B2 (en) * | 2005-03-01 | 2007-02-28 | 讀賣テレビ放送株式会社 | Data broadcasting monitoring system |
JP2008234160A (en) * | 2007-03-19 | 2008-10-02 | Meiyu Techno Co Ltd | Meter reader for meter inspection, handy terminal, and meter inspection system |
JP2011188134A (en) * | 2010-03-05 | 2011-09-22 | Panasonic Corp | Monitoring system, control method thereof, and monitoring device |
JP5670117B2 (en) * | 2010-08-04 | 2015-02-18 | ルネサスエレクトロニクス株式会社 | Display control device |
JP6571424B2 (en) * | 2015-07-06 | 2019-09-04 | 株式会社トランストロン | Fault diagnosis device |
-
2017
- 2017-06-08 WO PCT/JP2017/021306 patent/WO2018225210A1/en active Application Filing
- 2017-06-08 JP JP2019523289A patent/JP6664548B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
WO2018225210A1 (en) | 2018-12-13 |
JPWO2018225210A1 (en) | 2019-11-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10176594B2 (en) | Progressive in-vehicle camera calibrator, image generator, in-vehicle camera calibration method, and image generation method | |
US10521321B2 (en) | Diverse redundancy approach for safety critical applications | |
US10134139B2 (en) | Data content integrity in display subsystem for safety critical use cases | |
US10848272B2 (en) | Error detection in automobile tell-tales | |
CN111480195B (en) | Data content integrity check value based on image blocks in GPU subsystem | |
JP2010116086A (en) | On-vehicle display, display method, and display program | |
US11186294B2 (en) | In-vehicle timing controller and vehicle using the same | |
CN111279411B (en) | Memory address flipping for determining data content integrity in GPU subsystems | |
US20190179588A1 (en) | Mobile terminal display options for vehicle telltales | |
JP6664548B2 (en) | Abnormality detection device and abnormality detection method | |
JP2019108071A (en) | Display device for vehicle | |
US9485500B2 (en) | Visualizing specified safety-critical information in a vehicle | |
US10163345B2 (en) | Method and device for providing an event message indicative of an imminent event for a vehicle | |
JP5733429B2 (en) | Information processing apparatus and information processing method | |
JP2007038782A (en) | Diagnostic device for vehicle | |
JP5212920B2 (en) | Vehicle display device | |
JP2012073395A (en) | Video display device | |
CN115148169A (en) | Image processing device and display device | |
US20170305344A1 (en) | Lighting failure determination apparatus and lighting failure determination method | |
US20210064905A1 (en) | Content integrity of animations | |
US20230196789A1 (en) | Object recognition control device | |
WO2022044396A1 (en) | Object recognition control device and object recognition method | |
JP7229646B2 (en) | image display device | |
JP2018088119A (en) | Control device, control method, and program | |
WO2022196256A1 (en) | Display device for vehicle |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190507 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20190507 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20190815 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190820 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191015 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200121 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200218 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6664548 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |