JP7399729B2 - 設備診断システム - Google Patents

設備診断システム Download PDF

Info

Publication number
JP7399729B2
JP7399729B2 JP2020015402A JP2020015402A JP7399729B2 JP 7399729 B2 JP7399729 B2 JP 7399729B2 JP 2020015402 A JP2020015402 A JP 2020015402A JP 2020015402 A JP2020015402 A JP 2020015402A JP 7399729 B2 JP7399729 B2 JP 7399729B2
Authority
JP
Japan
Prior art keywords
image
unit
video
equipment
railway
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020015402A
Other languages
English (en)
Other versions
JP2021124751A (ja
Inventor
直人 瀬戸
広幸 小林
雄介 高橋
世支明 山崎
勝大 堀江
拓也 二神
陽平 服部
博章 伊藤
紀康 加藤
和俊 堀口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Infrastructure Systems and Solutions Corp
Original Assignee
Toshiba Corp
Toshiba Infrastructure Systems and Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Infrastructure Systems and Solutions Corp filed Critical Toshiba Corp
Priority to JP2020015402A priority Critical patent/JP7399729B2/ja
Priority to CN202080095039.XA priority patent/CN115023384A/zh
Priority to PCT/JP2020/047002 priority patent/WO2021153068A1/ja
Priority to EP20916387.2A priority patent/EP4098475A4/en
Publication of JP2021124751A publication Critical patent/JP2021124751A/ja
Application granted granted Critical
Publication of JP7399729B2 publication Critical patent/JP7399729B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B61RAILWAYS
    • B61LGUIDING RAILWAY TRAFFIC; ENSURING THE SAFETY OF RAILWAY TRAFFIC
    • B61L23/00Control, warning or like safety means along the route or between vehicles or trains
    • B61L23/04Control, warning or like safety means along the route or between vehicles or trains for monitoring the mechanical state of the route
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B61RAILWAYS
    • B61LGUIDING RAILWAY TRAFFIC; ENSURING THE SAFETY OF RAILWAY TRAFFIC
    • B61L23/00Control, warning or like safety means along the route or between vehicles or trains
    • B61L23/04Control, warning or like safety means along the route or between vehicles or trains for monitoring the mechanical state of the route
    • B61L23/041Obstacle detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/62Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B61RAILWAYS
    • B61LGUIDING RAILWAY TRAFFIC; ENSURING THE SAFETY OF RAILWAY TRAFFIC
    • B61L2205/00Communication or navigation systems for railway traffic
    • B61L2205/04Satellite based navigation systems, e.g. global positioning system [GPS]
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B61RAILWAYS
    • B61LGUIDING RAILWAY TRAFFIC; ENSURING THE SAFETY OF RAILWAY TRAFFIC
    • B61L25/00Recording or indicating positions or identities of vehicles or trains or setting of track apparatus
    • B61L25/02Indicating or recording positions or identities of vehicles or trains
    • B61L25/025Absolute localisation, e.g. providing geodetic coordinates
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mechanical Engineering (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Artificial Intelligence (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Quality & Reliability (AREA)
  • Electric Propulsion And Braking For Vehicles (AREA)
  • Train Traffic Observation, Control, And Security (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明による実施形態は、設備診断システムに関する。
鉄道管理者は、地上に設置してある鉄道設備に異常がある場合、その異常を速やかに知る必要がある。そのために、例えば、鉄道車両において前方に向けて設置されたカメラによって鉄道設備を含む動画を撮影して記憶し、監視員がその動画を見ることで鉄道設備の異常を調べる手法がある。
しかし、上述の手法では、監視員が動画を見て鉄道設備の異常を調べるため、手間がかかるという問題がある。
特開2005-217937号公報 特開平3-250103号公報
鉄道設備の異常をより効率的に検知することができる設備診断システムを提供することを目的とする。
本実施形態による設備診断システムは、撮像部と、位置計測部と、符号化部と、第1動画復号化部と、画像選択部と、第2動画復号化部と、画像比較部と、を備える。撮像部は、鉄道車両に設けられ、鉄道車両の走行経路に沿って設けられる鉄道設備を撮像する。位置計測部は、走行中の鉄道車両の車両位置を計測する。符号化部は、撮像部が撮像した動画と車両位置とを関連付けるとともに、動画を符号化する。第1動画復号化部は、符号化された動画のうち、診断対象の鉄道設備の第1動画を復号化する。画像選択部は、第1動画に関連付けられた第1車両位置に基づいて、車両位置と関連付けて動画記憶部に予め記憶される符号化された動画から、診断対象の鉄道設備の選択画像を選択する。第2動画復号化部は、選択画像に対応する、診断対象の鉄道設備の第2動画を復号化する。画像比較部は、復号化された第1動画に含まれる第1画像と、復号化された第2動画に含まれる第2画像と、の間の動きベクトルを算出し、動きベクトルに基づいて、鉄道設備の異常を診断する。
第1実施形態による設備診断システムの構成を示すブロック図。 第1実施形態による符号化装置の構成を示すブロック図。 第1実施形態による符号化装置の動作を示すフロー図。 第1実施形態による地上診断装置の構成を示すブロック図。 動きベクトルの算出の一例を示す図。 異常判定の方法の一例を示す図。 第1実施形態による監視動画読出し部、基準動画読出し部および復号画像判定部の動作を示すフロー図。 第1実施形態による画像比較部および結果記憶制御部の動作を示すフロー図。 第2実施形態による監視動画読出し部、基準動画読出し部および復号画像判定部の動作を示すフロー図。 第3実施形態による符号化装置の構成を示すブロック図。
以下、図面を参照して本発明に係る実施形態を説明する。本実施形態は、本発明を限定するものではない。図面は模式的または概念的なものであり、各部分の比率などは、必ずしも現実のものと同一とは限らない。明細書と図面において、既出の図面に関して前述したものと同様の要素には同一の符号を付して詳細な説明は適宜省略する。
(第1実施形態)
図1は、第1実施形態による設備診断システム100の構成を示すブロック図である。設備診断システム100は、鉄道設備の状態を診断する。鉄道設備は、例えば、鉄道標識等である。尚、設備診断システム100は、鉄道に限られず、例えば、バスや路面電車等の他の車両システムにおける設備を診断してもよい。
設備診断システム100は、鉄道車両RVに搭載された車上診断装置100aと、地上診断装置100bと、を備える。
鉄道車両RVは、線路R上を走行する。また、鉄道車両RVは、無線通信等により、地上診断装置100bとの間でデータの送受信をすることができる。
車上診断装置100aは、カメラ10と、符号化装置20と、位置計測装置30と、記憶装置40と、通信制御部50と、を備える。
撮像部としてのカメラ10は、鉄道車両RVに設けられる。カメラ10は、例えば、鉄道車両RVの進行方向(前方)に向けて設置される。また、カメラ10は、鉄道車両RVの走行経路(線路R)に沿って設けられる鉄道設備を撮像する。カメラ10は、例えば、鉄道車両RVが線路R上を走行する際に、地上に設置される鉄道設備を含む動画を撮影する。尚、カメラの種別は限定されない。また、カメラ10は、高解像度で撮影できることが好ましい。また、カメラ10は、撮影した動画を符号化装置20に送信する。
位置計測部としての位置計測装置30は、走行中の鉄道車両RVの車両位置(位置情報)を計測する。位置計測装置30は、例えば、鉄道車両RVの位置情報を計測し、計測した位置情報を符号化装置20に送信する。位置計測装置30は、例えば、GNSS(Global Navigation Satellite System)装置である。GNSS装置は、アンテナによって複数の人工衛星から電波を受信して、鉄道車両RVの位置情報を計測する。尚、鉄道車両RVがトンネルに入っているとき等の場合、GNSS装置は人工衛星から電波を受信できない。そこで、位置計測装置30は、鉄道車両RVの車軸に設けられる速度発電機(タコジェネレータ)の出力に基づいて鉄道車両RVの車両位置(位置情報)を計測する装置を併用してもよい。これにより、トンネル内走行中の位置情報を補間することができる。
また、位置計測装置30は、加速度センサやジャイロセンサを用いて鉄道車両RVの進行方向の加速度を検出し、加速度を二階積分して位置を算出することで鉄道車両RVの車両位置(位置情報)を計測する装置を有し併用してもよく、または、該装置に代用されてもよい。
符号化装置20は、例えば、カメラ10が撮影した鉄道車両RVの前方映像(監視動画)を画像フレーム単位で符号化することで符号化画像フレームを生成し、更にこの符号化画像フレームに対して位置計測装置30で計測した位置情報を付加することで監視動画データを生成する。また、符号化装置20は、後で説明するように、時間情報および天候情報の少なくとも1つをさらに情報として監視動画データに付加してもよい。符号化装置20は、例えば、位置計測装置30から時間情報を取得すればよい。符号化装置20は、例えば、コンピュータ装置である。尚、符号化装置20の詳細については、図2を参照して、後で説明する。
記憶装置40は、符号化装置20により符号化された監視動画を含む監視動画データを記憶する。
地上診断装置100bは、鉄道設備の正常または異常等の状態を診断する。地上診断装置100bは、例えば、予め保存される基準動画データと、カメラ10が撮像した監視動画と、を同時に再生しながら比較することで、地上設備を診断する。地上診断装置100bの詳細については、図4を参照して、後で説明する。
次に、符号化装置20の詳細について説明する。
図2は、第1実施形態による符号化装置20の構成を示すブロック図である。
符号化装置20は、位置情報取得部202と、監視動画取得部203と、符号化部201と、動画記憶制御部205と、記憶部204と、を備える。
尚、符号化部201、位置情報取得部202、監視動画取得部203、そして動画記憶制御部205のうちの一部または全部は、鉄道車両RVが有するCPU(Central Processing Unit)等のプロセッサが記憶部204に記憶されるソフトウェアを実行することによって実現される。また、符号化部201、位置情報取得部202、監視動画取得部203、そして動画記憶制御部205のうちの一部または全部は、LSI(Large Scale Integration)、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)等の回路基板であるハードウェアによって実現されてもよい。
位置情報取得部202は、位置計測装置30から、走行している鉄道車両RVの位置情報を取得する。
監視動画取得部203は、鉄道車両RVの走行時にカメラ10によって撮影された動画を、監視動画として取得する。
符号化部201はカメラ10が撮像した監視動画と、位置情報とを関連付ける。また、符号化部201は、監視動画を符号化する。符号化部201は、例えば、フレーム間予測や量子化等により、動画を圧縮する。動画圧縮形式は、例えば、H.264やH.265等である。
動画記憶制御部205は、監視動画データを記憶装置40に記憶させる。また、通信制御部50は、記憶装置40に記憶されている監視動画データを読み出し、無線通信部501を介して車両外に設置された地上診断装置100bに送信する。なお、通信制御部50は、記憶装置40から監視動画データを読み出すのではなく、符号化部201から、直接、監視動画データを受け取るようにしてもよい。
記憶部204は、車上診断装置100aが有するプロセッサが実行するプログラム等の各種情報を記憶する。記憶部204は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ等により実現される。
図3は、第1実施形態による符号化装置20の動作を示すフロー図である。
まず、ステップS110において、監視動画取得部203および位置情報取得部202は、それぞれ、カメラ10から監視動画を取得し、位置計測装置30から位置情報を取得する。次に、ステップS120において、符号化部201は、監視動画を画像フレーム毎に符号化することで符号化画像フレームを生成する。次に、ステップS130において、符号化部201は、各符号化画像フレームに位置情報を対応付けて監視動画データを生成する。そして、符号化部201は、この生成した監視動画データを予め用意したデータフォーマットに格納する。その後、監視動画データは、動画記憶制御部205によって記憶装置40に記憶される。なお、記憶装置40に保存した監視動画データはメモリカードや外付けHDD(Hard Disk Drive)等の外部記録媒体に保存され、地上診断装置100bへデータをコピーすることもできる。
次に、ステップS140において、通信制御部50は、監視動画データを記憶装置40から読出し、無線通信部501から携帯電話網などの無線通信網を介して地上診断装置100bへ送信する。ステップS140の後、再びステップS110が実行される。
次に、地上診断装置100bの詳細について説明する。
図4は、第1実施形態による地上診断装置100bの構成を示すブロック図である。
地上診断装置100bは、データ記憶部601と、基準動画読出し部602と、監視動画読出し部603と、復号画像判定部604と、監視動画復号化部605と、基準動画復号化部606と、画像比較部607と、結果記憶制御部608と、診断結果記憶部608aと、記憶部609と、を備える。
尚、データ記憶部601、基準動画読出し部602、監視動画読出し部603、復号画像判定部604、監視動画復号化部605、基準動画復号化部606、画像比較部607、そして結果記憶制御部608のうちの一部または全部は、地上診断装置100bが有するCPU等のプロセッサが記憶部609に記憶されるソフトウェアを実行することによって実現される。また、データ記憶部601、基準動画読出し部602、監視動画読出し部603、復号画像判定部604、監視動画復号化部605、基準動画復号化部606、画像比較部607、そして結果記憶制御部608のうちの一部または全部は、LSI、ASIC、FPGA等の回路基板であるハードウェアによって実現されてもよい。
データ記憶部601は、車上診断装置100aから受信した監視動画データ、および、予め、鉄道車両RVにおいて前方に向けて設置されたカメラ10によって撮影された地上に設置してある鉄道設備を含み、走行区間や走行時間が異なる複数の基準動画データを記憶する。
監視動画読出し部603は、データ記憶部601から監視動画データを読み出す。より詳細には、監視動画読出し部603は、平常運転時に撮影した、ある走行区間、ある走行時間の監視動画データを読み出す。監視動画読出し部603は、読み出した監視動画データから符号化画像フレームに付加されている位置情報を抽出し、この位置情報を含む走行区間の基準動画データをデータ記憶部601から読み出して基準動画読出し部602に送信する。また、監視動画読出し部603は、監視動画データから抽出した位置情報を復号画像判定部604に送信する。復号画像判定部604は監視動画読出し部603から受信した位置情報を基に、基準動画データの再生箇所を決定し、監視動画符号化データと基準動画データの復号地点の位置が等しくなるように調整する。
第1動画復号化部としての監視動画復号化部605は、監視動画読出し部603から受信した監視動画符号化データを復号化する。すなわち、監視動画復号化部605は、符号化された監視動画のうち、診断対象の鉄道設備の監視動画を複合化する。また、監視動画復号化部605は、復号化した複数の監視画像(画像フレーム)を取得する。また、監視動画復号化部605は、監視画像(画像フレーム)を画像比較部607に送信する。
基準動画読出し部602は、データ記憶部601から基準動画を読み出す。
画像選択部としての復号画像判定部604は、監視動画から求めた符号化画像フレームに関連付けられる位置情報(第1位置情報)に基づいて、基準動画データのどの位置から復号化すべきか判定する。これにより、画像比較部607による監視動画符号化データを復号化した複数のフレームと基準動画データを復号化した複数のフレーム同士の比較位置が決定される。例えば、復号画像判定部604が或る駅を再生の開始位置とすれば、ある駅を基準に監視動画符号化データと基準動画データとはそれぞれ復号化される。画像比較部607は、復号化された画像フレーム同士を比較することで、鉄道設備の変化を検出する。すなわち、復号画像判定部604は、第1位置情報に基づいて、動画記憶部(データ記憶部601)に予め記憶される符号化された基準動画から、診断対象の鉄道設備の選択画像を選択する。選択画像は、画像比較部607による比較の基準になる画像である。
第2動画復号化部としての基準動画復号化部606は、選択画像に対応する、診断対象の鉄道設備の第2動画(基準動画)を復号化する。基準動画復号化部606は、例えば、基準動画データを復号化する。また、基準動画復号化部606は、復号化した複数の基準画像(画像フレーム)を取得する。また、基準動画復号化部606は、基準画像を画像比較部607に送信する。
画像比較部607は、復号化された監視動画に含まれる第1画像フレーム(監視画像)と、復号化された基準動画に含まれる第2画像フレーム(基準画像)と、の間の動きベクトルを算出する。動きベクトルは、基準となるフレームからの動き(変位量)を示す。また、画像比較部607は、動きベクトルに基づいて、鉄道設備の異常を診断する。これにより、鉄道設備の異常をより効率的に検知することができる。
また、より詳細には、画像比較部607は、監視画像に関連付けられる車両位置と、基準画像に関連付けられる車両位置と、を対応させるように動きベクトルを算出する。画像比較部607は、例えば、第1画像フレーム(監視動画)および第2画像フレーム(基準動画)を並べるように再生し、画像フレーム同士を比較しながら動きベクトルを算出する。尚、監視動画と基準動画とで、鉄道車両RVの走行速度が必ずしも同じとは限らないことから、画像フレームを適切に比較することができない場合がある。そこで、画像比較部607は、それぞれの車両位置が互いに近い位置になるように、再生速度を調整する。これにより、画像フレーム同士をより適切に比較することがきる。尚、画像比較部607による鉄道設備の診断の詳細については、図5および図6を参照して、後で説明する。
結果記憶制御部608は、異常であると判定された鉄道設備に対応する車両位置を診断結果記憶部608aに記憶する。これにより、ユーザは、位置情報を基に、異常と判定された鉄道設備の動画を見ることができる。この結果、ユーザは、鉄道設備の異常を容易に認識し、現場に直行することができる。尚、結果記憶制御部608は、画像比較部607の診断結果を診断結果記憶部608aに記憶するようにしてもよい。診断結果は、例えば、異常または正常等の情報を含む。また、図4に示す例では、診断結果記憶部608aは、地上診断装置100b内に設けられるが、地上診断装置100bの外部に設けられていてもよい。
記憶部609は、地上診断装置100bが有するプロセッサが実行するプログラム等の各種情報を記憶する。記憶部609は、例えば、RAM、ROM、フラッシュメモリ等により実現される。
次に、動きベクトルによる異常判定の詳細について説明する。
図5は、動きベクトルの算出の一例を示す図である。RF1およびRF2は、鉄道設備を示す。より詳細には、RF1およびRF2は、標識である。RGは、監視領域を示す。監視領域RGは、予め設定される、画像内で固定された領域である。また、監視領域RGは、画像内において鉄道設備が表示される位置に、予め設定される。Bは、ブロックを示す。ブロックBは、監視領域RGを分割する。また、格子状に配列されたブロックBは、例えば、8×8画素単位や、16×16画素単位等の矩形ブロック(マクロブロック)である。
図5の上段には、比較対象である第1画像フレームと第2画像フレームとの組を示す。図5に示す例では、複数の組のうちの或る組が示されている。図5の下段右側は、第1画像フレームと第2画像フレームとを重ね合わせた図を示す。尚、動きベクトルMVも示されている。図5の下段左側は、下段右側の図から動きベクトルMVを抜き出した図を示す。
画像比較部607は、例えば、フレーム間予測に用いられるブロックマッチング法により動きベクトルを算出する。画像比較部607は、分割されたブロックB毎に、第1画像フレームと第2画像フレームとの間で類似するブロックを探索する。画像比較部607は、例えば、輝度の誤差が最小となるブロックを探索する。画像比較部607は、類似するそれぞれのブロックB間の変位を動きベクトルとして算出する。
図5に示す例では、第2画像フレーム内の標識RF1は、正常である。しかし、第1画像フレーム内の標識RF1は、曲がっている。従って、有限の動きベクトルMVが算出される。一方、第1画像フレーム内の標識RF2は、第2画像フレームからほとんど変化がなく、正常のままである。従って、動きベクトルMVは、ほとんどゼロである。
画像比較部607は、第1画像フレームおよび第2画像フレーム内の監視領域RGを分割する複数のブロックB毎に動きベクトルを算出する。監視領域RGは、画像フレーム内に鉄道設備が表示されてから鉄道車両RVが鉄道設備を通り過ぎるまでの間に、画像フレーム内において鉄道設備が表示される領域である。監視領域RGは、予め設定される領域である。ブロックBは、監視領域RG内において、複数の画素ごとに設定される領域である。また、画像比較部607は、監視領域RGの向きのずれ等を補正してもよい。
図5において、画像比較部607は、格子状に表示された領域を監視領域RGと定義し、監視領域RG内の全ブロックB(マクロブロック)の動きベクトルを算出する。例えば、監視領域RGに変化がある場合、動きベクトルが発生するが、変化がない場合、動きベクトルは発生しない(または、動きベクトルの絶対値は微小な値となる)。画像フレーム内には、実際に監視したい対象物以外にも背景画像が存在する。しかし、背景画像は、第1画像フレームと第2画像フレームとにほぼ等しく含まれる情報である。従って、画像比較部607は、例えば、それらの差分値を閾値に設定し、閾値との比較により監視領域RG内に変化が発生したか否かを判定する。
図6は、異常判定の方法の一例を示す図である。図6に示すグラフは、図5における差分変化量を時系列で示す。差分変化量は、ブロックB毎の動きベクトルの絶対値の総和である。グラフの縦軸は、差分変化量を示す。グラフの横軸は、時刻を示す。尚、グラフの横軸は、車両位置や、比較される画像フレームの組の数等であってもよい。L1は、第1画像フレームと第2画像フレームとの間の差分変化量の一例を示す。L2は、差分変化量の所定値(閾値)を示す。尚、L1は時系列データであり、L2は、時間に依存しない一定値である。
図6に示すt1では、画像フレーム内に標識RF1、RF2がまだ入っていないため、差分変化量L1は低い。t2では、第1画像フレーム内の標識RF1が第2画像フレーム内の標識RF1に対して曲がっているため、差分変化量L1は上昇する。t3では、鉄道車両RVが標識RF1、RF2に近づく。この場合、監視領域RG中で標識RF1、RF2が拡大される。従って、動きベクトルおよび差分変化量がさらに上昇する。t4では、鉄道車両RVが標識RF1、RF2を通り過ぎる。監視領域RG中から標識RF1、RF2が出るため、差分変化量L1が減少する。画像比較部607は、この差分変化量L1と所定値L2との比較により、標識RF1、RF2の異常を診断する。
画像比較部607は、動きベクトルの絶対値が所定期間継続して所定値L2以上である場合、診断対象の鉄道設備が異常であると判定する。所定期間の設定により、ノイズや、線路R付近で動く物体の影響を除外して、異常判定を行うことができる。所定期間は、例えば、1秒である。尚、所定期間は、走行速度や動画のフレームレート等によって変更されてもよい。例えば、所定期間が短すぎる場合、ノイズによって異常と判定されてしまう場合がある。一方、所定期間が長すぎる場合、異常と判定する前に鉄道車両RVが鉄道設備を通り過ぎてしまう場合がある。また、所定値L2は、背景部分の動きベクトルの絶対値である背景差分量に基づいて設定される。所定値L2は、例えば、或る値に背景差分量を加算した値である。画像比較部607は、監視領域RG内の鉄道設備以外の背景部分で発生する差分量を算出する。これにより、背景部分の変化と区別して鉄道設備の変化を認識することができる。また、鉄道設備をより適切に診断することができる。尚、所定期間は、比較する画像フレーム同士の組の数でもあってもよい。また、所定期間および所定値L2は、予め設定される。
より詳細には、画像比較部607は、複数のブロックB毎の絶対値の和が所定期間継続して所定値L2以上である場合、診断対象の鉄道設備が異常であると判定する。
また、より詳細には、画像比較部607は、鉄道車両RVが鉄道設備に近づくにつれて大きくなる絶対値が所定期間継続して所定値L2以上である場合、診断対象の鉄道設備が異常であると判定する。
図7は、第1実施形態による監視動画読出し部603、基準動画読出し部602および復号画像判定部604の動作を示すフロー図である。
まず、ステップS210において、監視動画読出し部603は、監視動画データを読み出す。次に、ステップS220において、監視動画読出し部603は、監視動画データを構成する符号化画像フレーム(第1符号化画像フレーム)個々の位置情報を復号画像判定部604に送信する。次に、ステップS230において、監視動画読出し部603は、基準動画データを読み出す。次に、ステップS240において、復号画像判定部604は、第1符号化画像フレームに対応する位置情報に最も近い位置(一致する位置)に対応する符号化画像フレーム(第2符号化画像フレーム)を基準動画データから選択する。選択した符号化画像フレームは、選択画像に対応する。選択した第2符号化画像フレームを復号化して得た第2画像フレームが、復号化して得られる第1画像フレームと比較される画像となる。
図8は、第1実施形態による画像比較部607および結果記憶制御部608の動作を示すフロー図である。
まず、ステップS310において、画像比較部607は、第1符号化画像フレームを復号化した任意の第1画像フレームと、復号画像判定部604で選択した第2符号化画像フレームを復号化して得た第2画像フレームを用いて、予め設定した監視領域RG内の全ブロックB(マクロブロック)に対する動きベクトル量を算出する。次に、ステップS320において、画像比較部607は、算出した動きベクトルの監視領域RG全体の絶対値を算出し、差分変化量と定義する。
次に、ステップS330において、画像比較部607は、所定期間、監視領域RG内の差分変化量が閾値(所定値L2)を超えた否かを判定する。差分変化量が所定期間継続して設定した閾値(所定値L2)を超える場合(S330のYES)、画像比較部607は監視領域RG内に存在する鉄道設備に異常が発生したと判定する。その後、ステップS340が実行される。一方、差分変化量が所定期間継続して設定された閾値(所定値L2)を超えない場合(S330のNO)、ステップS310が再び実行される。ステップS340において、結果記憶制御部608は、異常が発生したと判定した第1画像フレームの位置情報を診断結果記憶部608aに保存する。尚、ステップS330において、画像比較部607は、比較される画像フレームの組の数が所定回数連続して、差分変化量が所定値L2以上であるか否かを判定してもよい。
以上のように、第1実施形態によれば、復号画像判定部604は、第1符号化画像データに対応付けられた位置情報に基づいて、データ記憶部601に予め記憶される符号化された基準動画データから、第2符号化画像フレームを選択する。また、画像比較部607は、復号化された第1画像フレームに含まれる監視領域RGと、復号化された第2画像フレームに含まれる監視領域RGと、の間の動きベクトルを算出し、動きベクトルに基づいて、鉄道設備の異常を診断する。これにより、鉄道設備の異常をより効率的に検知することができる。
また、符号化部201は、カメラ10が撮像した監視動画と位置情報とを関連付けるとともに、監視動画を構成する画像フレーム毎に符号化する。
尚、地上診断装置100bは、鉄道車両RV外に限られず、車上診断装置100a内に設けられてもよい。この場合、車上診断装置100aは、リアルタイムに鉄道設備の診断を行うことが可能となる。
また、画像比較部607の診断結果、および、異常であると判定された鉄道設備の位置情報の少なくとも1つを表示するように表示部を制御する表示制御部をさらに備えていてもよい。これにより、ユーザは、保守作業等を実行するよう現場に人員を送ることができる。
また、位置情報だけでなく、時間情報や環境情報も、第1符号化画像フレームや第2符号化画像フレームに関連付けられてもよい。時間情報は、例えば、1日のうちの時刻を示す情報である。時間情報は、第1画像フレームと第2画像フレームを比較する際の補助情報として用いられる。例えば 、監視動画が日中の動画で、基準動画が夜の動画であれば、撮影対象物が同一でも輝度の違いが大きいが、時間情報を用いることで監視動画と時間帯の近い基準動画を選択することができるため、両動画の撮影時間帯の違いを把握し除外することで、対応することができる。また、環境情報は、例えば、撮影時の天候(晴れ、曇り、雨、雪等)等の情報を含む。図2に示すように、例えば、位置計測装置30は時間情報を計測する。一方、環境情報は、無線通信部501を介して外部から入手すればよい。位置情報取得部202は時間情報や環境情報を取得する。また、符号化部201は、例えば、位置情報、時間情報および環境情報を第1符号化フレームに関連付ける。また、基準動画データには、時間、天候といった環境条件の異なる複数の動画データが含まれている。
また、画像比較部607は、監視動画と基準動画が同じ時間帯で撮影された動画である場合、動画同士の輝度変化を、動きベクトルと組み合わせて鉄道設備の異常を診断してもよい。具体的には、鉄道設備の存在する領域の輝度差を算出する。第1画像フレームと第2画像フレームが同一時刻に撮影された画像フレームの場合、天候等の違いがあっても輝度差が十分に小さい。従って、輝度差が大きい場合、監視動画において鉄道設備の一部または全部が無くなった場合や、鉄道設備に異物が付着した場合、鉄道設備に樹木が接近した場合等を検知でき、さらに動きベクトル量の変化量を用いれば、より適切に異常を検知することができる。
(第2実施形態)
図9は、第2実施形態による監視動画読出し部603、基準動画読出し部602、復号画像判定部604および画像比較部607の動作を示すフロー図である。第2実施形態は、画像比較の際に、パターンマッチングによって類似度のより高い画像同士の比較が行われる点で、第1実施形態と異なる。
復号画像判定部604は、監視動画符号化データから得られる鉄道車両RVの車両位置(位置情報)を基に、基準動画の復号化位置を決定する。画像比較部607は、例えば、位置情報の前後の位置において、5枚の第2復号化画像フレームを抽出する。すなわち、画像比較部607は、第1車両位置から所定範囲内の位置に関連付けられる複数の抽出画像を第2複合化画像フレームから抽出する。また、画像比較部607は、監視動画データ中の或る第1復号化画像フレームと複数の第2復号化画像フレーム(抽出画像)とを用いて類似度を算出する。また、画像比較部607は、或る第1復号化画像フレームと類似度が最も高い抽出画像を選択する。すなわち、画像比較部607は、画像同士のパターンマッチングにより、或る第1復号化画像フレームと似ている抽出画像を選択する。また、画像比較部607は、或る第1復号化画像フレームと選択した抽出画像との間の動きベクトルを算出する。尚、画像比較部607は、監視領域RG内に限られず、画像全体で類似度を算出する。従って、例えば、画像内の特徴的な建物等により、パターンマッチングを行うことができる。また、より詳細には、類似度は、正規化相互相関(NCC(Normalized Cross Correlation))である。正規化相互相関は、-1.0から1.0の値で示され、1.0が最も類似していることを示す。類似度が高い第1復号化画像フレームと第2復号化画像フレームに対して、動きベクトルによる設備診断をすることでより判定精度を高めることができる。
第2実施形態による設備診断システム100のその他の構成は、第1実施形態による設備診断システム100の対応する構成と同様であるため、その詳細な説明を省略する。
図9に示すフロー図において、ステップS210~S230は、図7と同様である。
ステップS230の後、ステップS241において、復号画像判定部604は、監視動画符号化データの撮影開始位置に最も近い、基準動画の復号化位置を決定する。次に、監視動画復号化部605は、監視動画の復号化を行い、第1復号化画像フレームを生成する。同じタイミングで、基準動画復号化部606は、基準動画の復号化を行い、第2復号化画像フレームを生成する。第1復号化画像フレーム、第2復号化画像フレームは画像比較部607に送信される。ステップS251において、画像比較部607は或る第1復号化画像フレームに対して複数の第2復号化画像フレームを選択し、選択した画像との類似度を判定し、最も類似する画像を選択する。
第1実施形態において説明したように、画像比較部607は、再生速度を調整しながら動きベクトルを算出する。しかし、再生速度調整が行われても、画像フレームが合わない場合がある。これは、例えば、第1実施形態において説明した基準動画と監視動画との間の計測される車両位置の違いや、カメラ10と位置計測装置30との間のサンプリングレートの違いのためである。サンプリングレートの違いに関して、例えば、カメラ10は1秒間に30枚の画像フレームを取得し、位置計測装置30は1秒間に15データを取得する。この場合、2枚の画像フレームに同じ位置情報が関連付けられてしまう。従って、実際とは異なる位置情報が画像フレームに関連付けられてしまう。監視動画および基準動画の両方の鉄道車両RVの走行速度が高いほど、計測される車両位置の間隔が大きくなるため、上記のサンプリングレートの違いや計測される車両位置の違いの影響がさらに大きくなってしまう。
第2実施形態では、複数の画像から類似度が最大の画像を選択することにより、監視動画と基準動画とのマッチングの精度を向上させることができる。この結果、鉄道設備の異常診断の精度を向上させることができる。また、画像比較部607は、正規化相互相関を算出する際に、動画をベクトルとして計算する。これにより、類似判定において環境の輝度による誤差(影響)を受けづらくすることができる。
第2実施形態による設備診断システム100は、第1実施形態と同様の効果を得ることができる。
(第3実施形態)
図10は、第3実施形態による符号化装置20の構成を示すブロック図である。第3実施形態は、鉄道設備の位置を把握するためにキロ程情報が用いられる点で、第1実施形態と異なる。
符号化装置20は、キロ程情報記憶部206をさらに備える。
キロ程情報記憶部206は、予め各鉄道設備のキロ程情報を記憶する。キロ程情報は、鉄道管理者が所有する情報であり、走行経路(線路R)上の或る位置を基準として鉄道設備の位置を示す。或る位置は、例えば、駅等である。この場合、キロ程情報は、或る駅からの或る鉄道設備の距離を示す。
符号化部201は、動画と、車両位置およびキロ程情報と、を関連付ける。
復号画像判定部604は、第1車両位置および監視動画に関連付けられる第1キロ程情報に基づいて、車両位置およびキロ程情報と関連付けてデータ記憶部601に予め記憶される符号化された動画から、選択画像を選択する。
第3実施形態による設備診断システム100のその他の構成は、第1実施形態による設備診断システム100の対応する構成と同様であるため、その詳細な説明を省略する。
位置情報に加えてキロ程情報を用いることにより、鉄道設備の位置把握の精度を向上させることができる。これにより、基準動画から選択画像をより適切に選択することができる。また、画像比較部607による動画再生における再生位置の頭出しをより容易にすることができる。
また、結果記憶制御部608は、異常であると判定された鉄道設備に対応するキロ程情報を記憶するように診断結果記憶部608aを制御してもよい。これにより、異常のある鉄道設備の確認をより容易に行うことができる。
また、空転によって車両位置とキロ程とがずれることを用いて、空転検知を行うこともできる。
第3実施形態による設備診断システム100は、第1実施形態と同様の効果を得ることができる。また、第3実施形態による設備診断システム100に第2実施形態を組み合わせてもよい。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
100 設備診断システム、100a 車上診断装置、100b 地上診断装置、RV 鉄道車両、R 線路、10 カメラ、20 符号化装置、30 位置計測装置、40 記憶装置、50 通信制御部、201 符号化部、601 データ記憶部、604 復号画像判定部、605 監視動画復号化部、606 基準動画復号化部、607 画像比較部、608 結果記憶制御部、B ブロック、RG 監視領域

Claims (9)

  1. 鉄道車両に設けられ、前記鉄道車両の走行経路に沿って設けられる鉄道設備を撮像する撮像部と、
    走行中の前記鉄道車両の車両位置を計測する位置計測部と、
    前記撮像部が撮像した動画と前記車両位置とを関連付けるとともに、前記動画を符号化する符号化部と、
    符号化された前記動画のうち、診断対象の前記鉄道設備の第1動画を復号化する第1動画復号化部と、
    前記第1動画に関連付けられる第1車両位置に基づいて、前記車両位置と関連付けて動画記憶部に予め記憶される符号化された前記動画から、診断対象の前記鉄道設備の選択画像を選択する画像選択部と、
    前記選択画像に対応する、診断対象の前記鉄道設備の第2動画を復号化する第2動画復号化部と、
    復号化された前記第1動画に含まれる第1画像と、復号化された前記第2動画に含まれる第2画像と、の間の動きベクトルを算出し、前記動きベクトルに基づいて、前記鉄道設備の異常を診断する画像比較部と、を備え
    前記画像比較部は、前記動きベクトルの絶対値が所定期間継続して所定値以上である場合、診断対象の前記鉄道設備が異常であると判定する、設備診断システム。
  2. 前記画像比較部は、前記第1画像に関連付けられる前記車両位置と、前記第2画像に関連付けられる前記車両位置と、を対応させるように前記動きベクトルを算出する、請求項1に記載の設備診断システム。
  3. 前記画像比較部は、
    前記第1画像および前記第2画像内の所定領域を分割する複数のブロック毎に前記動きベクトルを算出し、
    複数の前記ブロック毎の前記絶対値の和が前記所定期間継続して前記所定値以上である場合、診断対象の前記鉄道設備が異常であると判定する、請求項1または請求項2に記載の設備診断システム。
  4. 前記画像比較部は、前記鉄道車両が前記鉄道設備に近づくにつれて大きくなる前記絶対値が前記所定期間継続して前記所定値以上である場合、診断対象の前記鉄道設備が異常であると判定する、請求項1から請求項3のいずれか一項に記載の設備診断システム。
  5. 異常であると判定された前記鉄道設備に対応する前記車両位置を記憶するように診断結果記憶部を制御する結果記憶制御部をさらに備える、請求項から請求項のいずれか一項に記載の設備診断システム。
  6. 前記画像選択部は、前記第1車両位置に最も近い位置に関連付けられる前記選択画像を選択する、請求項1から請求項のいずれか一項に記載の設備診断システム。
  7. 前記画像比較部は、
    前記第1車両位置から所定範囲内の位置に関連付けられる複数の抽出画像を前記第2画像から抽出し、
    前記第1画像と、複数の前記抽出画像と、の類似度を算出し、
    前記第1画像と、前記類似度が最も高い前記抽出画像と、の間の前記動きベクトルを算出する、請求項1から請求項のいずれか一項に記載の設備診断システム。
  8. 前記類似度は、正規化相互相関である、請求項に記載の設備診断システム。
  9. 前記符号化部は、前記動画と、前記車両位置、および、前記走行経路上の或る位置を基準として前記鉄道設備の位置を示すキロ程情報と、を関連付け、
    前記画像選択部は、前記第1車両位置および前記第1動画に関連付けられる第1キロ程情報に基づいて、前記車両位置および前記キロ程情報と関連付けて前記動画記憶部に予め記憶される符号化された前記動画から、前記選択画像を選択する、請求項1から請求項のいずれか一項に記載の設備診断システム。
JP2020015402A 2020-01-31 2020-01-31 設備診断システム Active JP7399729B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020015402A JP7399729B2 (ja) 2020-01-31 2020-01-31 設備診断システム
CN202080095039.XA CN115023384A (zh) 2020-01-31 2020-12-16 设施诊断系统
PCT/JP2020/047002 WO2021153068A1 (ja) 2020-01-31 2020-12-16 設備診断システム
EP20916387.2A EP4098475A4 (en) 2020-01-31 2020-12-16 INSTALLATION DIAGNOSIS SYSTEM

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020015402A JP7399729B2 (ja) 2020-01-31 2020-01-31 設備診断システム

Publications (2)

Publication Number Publication Date
JP2021124751A JP2021124751A (ja) 2021-08-30
JP7399729B2 true JP7399729B2 (ja) 2023-12-18

Family

ID=77078979

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020015402A Active JP7399729B2 (ja) 2020-01-31 2020-01-31 設備診断システム

Country Status (4)

Country Link
EP (1) EP4098475A4 (ja)
JP (1) JP7399729B2 (ja)
CN (1) CN115023384A (ja)
WO (1) WO2021153068A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007124088A (ja) 2005-10-26 2007-05-17 Olympus Corp 画像撮影装置
JP2010063260A (ja) 2008-09-03 2010-03-18 Hitachi Ltd 列車走行制御装置及び方法
JP2014092875A (ja) 2012-11-01 2014-05-19 Toshiba Corp 画像同期装置及びシステム
JP2019191961A (ja) 2018-04-25 2019-10-31 株式会社東芝 走行状況提示装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2691788B2 (ja) 1990-02-28 1997-12-17 株式会社 コア 鉄道線路の異常検出装置
JP2002300573A (ja) * 2001-03-30 2002-10-11 Toshiba Corp 車載型映像監視装置の映像診断システム
JP4272552B2 (ja) 2004-01-30 2009-06-03 日本放送協会 映像異常検出装置、その方法及びそのプログラム、並びに、映像再現装置、その方法及びそのプログラム
CN101266132B (zh) * 2008-04-30 2011-08-10 西安工业大学 基于mpfg运动矢量的行车障碍检测方法
JP6374238B2 (ja) * 2014-07-01 2018-08-15 クラリオン株式会社 車載装置
JP6805996B2 (ja) * 2017-07-28 2020-12-23 トヨタ自動車株式会社 情報処理装置、情報処理方法及び情報処理システム
US20190039633A1 (en) * 2017-08-02 2019-02-07 Panton, Inc. Railroad track anomaly detection
JP7325020B2 (ja) * 2018-02-22 2023-08-14 パナソニックIpマネジメント株式会社 検査装置及び検査方法
JP7077148B2 (ja) * 2018-06-04 2022-05-30 本田技研工業株式会社 制御装置及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007124088A (ja) 2005-10-26 2007-05-17 Olympus Corp 画像撮影装置
JP2010063260A (ja) 2008-09-03 2010-03-18 Hitachi Ltd 列車走行制御装置及び方法
JP2014092875A (ja) 2012-11-01 2014-05-19 Toshiba Corp 画像同期装置及びシステム
JP2019191961A (ja) 2018-04-25 2019-10-31 株式会社東芝 走行状況提示装置

Also Published As

Publication number Publication date
WO2021153068A1 (ja) 2021-08-05
EP4098475A4 (en) 2024-03-06
CN115023384A (zh) 2022-09-06
JP2021124751A (ja) 2021-08-30
EP4098475A1 (en) 2022-12-07

Similar Documents

Publication Publication Date Title
US8229623B2 (en) Car-mounted image recording apparatus and image recording method
KR101339354B1 (ko) 영상을 이용한 철도차량의 위치검지 시스템 및 위치검지방법
JP5776545B2 (ja) 路面調査プログラム及び路面調査装置
JP5663352B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
US20090037039A1 (en) Method for locomotive navigation and track identification using video
AU2022204351B2 (en) Systems and methods for locating objects
EP3415400A1 (en) System and method for determining the position of a guided vehicle
WO2020194539A1 (ja) 構造物の変位計測装置
CN111224710A (zh) 基于卫星空间分布检验的虚拟应答器捕获方法及捕获系统
JP2018128265A (ja) サーバ装置、判別プログラム及び判別システム
JP2019121979A (ja) 画像合成システムおよび画像合成方法
KR20220066759A (ko) 선수 추적 방법, 선수 추적 장치 및 선수 추적 시스템
JP7399729B2 (ja) 設備診断システム
JP2019047401A (ja) 画像処理装置
CN112550377A (zh) 基于视频识别和imu设备的轨道交通应急定位方法和系统
JP7210157B2 (ja) 定位置停止制御装置
CN113891048B (zh) 一种轨道机车超视距影像图传系统
WO2020031898A1 (ja) 監視装置
US20230331269A1 (en) Train jolt determination system
KR101369498B1 (ko) 영상을 이용한 철도 시설물 유지보수 검측 시스템
JP7467722B2 (ja) 地物管理システム
KR102544972B1 (ko) 선수 추적 방법, 선수 추적 장치 및 선수 추적 시스템
JP2021197014A (ja) 混雑度算出装置および方法
JP2024063952A (ja) 支援情報作成装置、支援情報作成システム、支援情報作成方法、および支援情報作成プログラム
JP2019080214A (ja) 画像圧縮方法、画像圧縮装置、及び画像圧縮プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230901

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231025

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231206

R150 Certificate of patent or registration of utility model

Ref document number: 7399729

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150