JP6788291B1 - 点検支援システム - Google Patents
点検支援システム Download PDFInfo
- Publication number
- JP6788291B1 JP6788291B1 JP2019103834A JP2019103834A JP6788291B1 JP 6788291 B1 JP6788291 B1 JP 6788291B1 JP 2019103834 A JP2019103834 A JP 2019103834A JP 2019103834 A JP2019103834 A JP 2019103834A JP 6788291 B1 JP6788291 B1 JP 6788291B1
- Authority
- JP
- Japan
- Prior art keywords
- target
- inspection
- inspection image
- image
- self
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000007689 inspection Methods 0.000 title claims abstract description 235
- 230000010365 information processing Effects 0.000 claims abstract description 78
- 239000000284 extract Substances 0.000 claims abstract description 12
- 238000012545 processing Methods 0.000 claims description 55
- 238000000034 method Methods 0.000 claims description 41
- 230000008569 process Effects 0.000 claims description 29
- 238000003384 imaging method Methods 0.000 claims description 28
- 238000010801 machine learning Methods 0.000 claims description 7
- 239000003086 colorant Substances 0.000 claims description 2
- 230000006978 adaptation Effects 0.000 claims 1
- 238000010586 diagram Methods 0.000 abstract description 12
- 230000005540 biological transmission Effects 0.000 description 11
- 230000006866 deterioration Effects 0.000 description 7
- 230000007613 environmental effect Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000032683 aging Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- JEIPFZHSYJVQDO-UHFFFAOYSA-N iron(III) oxide Inorganic materials O=[Fe]O[Fe]=O JEIPFZHSYJVQDO-UHFFFAOYSA-N 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 239000004570 mortar (masonry) Substances 0.000 description 1
- 239000003973 paint Substances 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0094—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots involving pointing a payload, e.g. camera, weapon, sensor, towards a fixed or moving target
-
- E—FIXED CONSTRUCTIONS
- E01—CONSTRUCTION OF ROADS, RAILWAYS, OR BRIDGES
- E01D—CONSTRUCTION OF BRIDGES, ELEVATED ROADWAYS OR VIADUCTS; ASSEMBLY OF BRIDGES
- E01D22/00—Methods or apparatus for repairing or strengthening existing bridges ; Methods or apparatus for dismantling bridges
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
- G01M5/00—Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings
- G01M5/0033—Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings by determining damage, crack or wear
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
- G01M5/00—Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings
- G01M5/0091—Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings by using electromagnetic excitation or detection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/60—Intended control result
- G05D1/644—Optimisation of travel parameters, e.g. of energy consumption, journey time or distance
- G05D1/6445—Optimisation of travel parameters, e.g. of energy consumption, journey time or distance for optimising payload operation, e.g. camera or spray coverage
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/53—Querying
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
- G01N2021/8887—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Aviation & Aerospace Engineering (AREA)
- Remote Sensing (AREA)
- Automation & Control Theory (AREA)
- Radar, Positioning & Navigation (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Quality & Reliability (AREA)
- Medical Informatics (AREA)
- Electromagnetism (AREA)
- Structural Engineering (AREA)
- Civil Engineering (AREA)
- Architecture (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Processing (AREA)
Abstract
Description
経年劣化による事故を避けるためには、対象となる建造物を定期的に点検・メンテナンスすることが必要不可欠である。その一方で、厳しいビジネス環境や少子高齢化等の社会環境を要因として、その膨大な点検を担う作業員が年々減少傾向にある。
特許文献1に係る発明は、構造物の点検に関する種々の点検データを取得するために自律的に走行する点検ロボット、及び当該点検ロボットを用いて点検データを収集する点検支援システム等に関するものである。
この発明により、作業員が移動困難な場所についても点検ロボットが自律的に点検データを収集することができるため、構造物に係る点検の効率化を図ることができる。
これによって点検効率を下げる又は点検ミスを誘発させる要因になる可能性があり、特許文献1に係る発明は未だ改善の余地を残していた。
従って、事前に撮影された撮影対象と、事後に撮影された撮影対象と、が異なるアングルから撮影された場合であっても、撮影対象が同じものであるか否かを、点検者が判断する必要がないので、点検に係る作業効率や作業精度を向上させることができる。
先ず、点検支援システム10のシステム構成について説明する。
図1は、本発明の実施形態における点検支援システム10の構成図である。
点検支援システム10は、自走装置100を用いて画像データを取得し、自走装置100が取得した画像データに対して情報処理装置200が所定の処理を実行し、所定の処理を実行した画像データをデータベース300に格納させるものである。
以下の説明において、自走装置100が取得する画像データを、便宜上「点検画像」と呼称する。
ジャイロセンサ102は、撮影手段101が向いている方向、すなわち撮影可能な方向を検知する。
距離センサ103は、撮影手段101から撮影対象までの距離を測定する。
なお、図1において、撮影手段101は、ジャイロセンサ102及び距離センサ103と別の構成として図示したが、これらは一体の装置として実現されてもよい。
ところで、移動体を自律走行させる技術として、一般的にSLAM(Simultaneous Localization and Mapping)が知られている。
ここでSLAMとは、画像やセンサの検知情報等から周囲の環境に対する自己(自律走行ロボット)の相対的な位置を推定することによって障害物等を回避しながら自律走行を実現する技術であり、さらに周囲環境の地図データ(三次元の点群データ)を自律走行と並行して作成することができる。
本実施形態では、自走装置100の走行制御(走行制御手段104)は、SLAMの技術を適用することを前提とするが、それ以外の技術を適用して実現されてもよい。
例えば、送受信手段201は、自走装置100から送信される点検画像を受信可能であり、自走装置100に対して走行コマンドを送信可能である。
例えば、画像処理手段202は、点検画像に撮影されている一又は複数の撮影対象を抽出する画像処理や、抽出した撮影対象が構造物に生じた劣化部分であるか否かを判別する画像処理などを実行することができる。
ここで特定情報とは、例えば、撮影対象ごとに任意に定める識別情報の他に、客観的に撮影対象を特定できるユニークな情報(例えば、撮影対象が存在する位置や範囲を示す情報)も含まれる。
なお、以下の説明において、自走装置100に送信する走行コマンドの生成のために検索手段204によって検索される点検画像を、便宜的に「第一の点検画像」と呼称し、当該走行コマンドに基づいて走行した自走装置100が取得する点検画像を「第二の点検画像」と呼称して、互いに区別する場合がある。
ここで「第一の点検画像に含まれる撮影対象を撮影可能な目標位置」とは、例えば、第一の点検画像を撮影した時点において自走装置100が存在した位置(厳密には、存在したものと推定される位置)であるが、必ずしも当該位置と上記の目標位置が一致しなくてもよい。
そして、点検支援システム10は、本発明の画像処理手段202、特定情報処理手段203、検索手段204と、及びコマンド生成手段205を備えるものと言える。
次に、自走装置100による点検画像の収集について説明する。
図2(a)は、点検対象の構造物Aの平面図であり、図2(b)は、構造物Aを点検する自走装置100の移動経路Cを示す図である。
なお、図2(b)に示す移動経路Cは一具体例であり、本発明の実施において、移動経路Cとは異なる移動経路で自走装置100が構造物Aの点検画像を収集することが許容される。
構造物Aを点検する際、自走装置100は壁に沿って移動しながら、その壁を網羅的に撮影し、構造物Aの壁の全てについて点検画像を収集する。
より詳細には、自走装置100は、或る位置P1から撮影可能な領域R1の壁を撮影した後に、次の位置P2に移動し、位置P2から撮影可能な領域R2の壁を撮影する。このとき、自走装置100は、領域R1と領域R2の端部が連続する又は重複するように自走装置100が移動する位置P2と、撮影手段101の撮影方向と、を定める。位置P2から次に位置P3に移動して位置P3から領域R3の壁を撮影する場合にも、位置P3から次の位置P4に移動して位置P4から領域R4の壁を撮影する場合にも、同様の処理を繰り返していくことによって、自走装置100は、構造物Aの壁について漏れなく点検画像を撮影することができる。
情報処理装置200は、自走装置100が取得した点検画像と、当該点検画像に対応付けられている上記の情報群に基づく演算処理によって、構造物Aの壁を三次元の点群データとしてマッピングする。当該演算処理については、既知のSLAMに係る技術のいずれを適用してもよく、その手法は特に制限されない。
図3に示すように、情報処理装置200は、上記のように三次元点群データを導出することによって、構造物Aの構造を立体的に解析することができる。
なお、情報処理装置200は、不図示の表示手段に対して、図3に示すような立体的な表現で、構造物Aの構造を表示させてもよい。
ステップS102において受け付ける走行コマンドには、次に移動するべき目標位置を示す情報、またはその目標位置が演算可能な情報が含まれており、自走装置100は、当該走行コマンドに基づいて次の目標位置を認識することができる。
ステップS104の自走制御は、自走装置100が次の目標位置に到達するまで(ステップS106がNOである間)継続して行われ、自走装置100が次の目標位置に到達すると(ステップS106がYESになると)、ステップS108の処理に進む。
ステップS110において、自走装置100は、ステップS108において決定した撮影方向で撮影手段101に撮影させる。
ステップS114の送信が正常であれば(ステップS116がYESの場合)、ステップS118の処理に進み、ステップS114の送信が異常(ステップS116がNOの場合)、ステップS114の送信をリトライする。
ここで、ステップS114の正常/異常は、例えば、情報処理装置200からACKコマンドの応答があること等によって判別してもよい。
一方で、ステップS118の時点で、自走装置100の自己推定位置が最終の目標位置ではない場合(ステップS118がNOの場合)、ステップS102に進んで、自走装置100は、新たな目標位置を定めるための走行コマンドを情報処理装置200に要求する。
次に、情報処理装置200による点検画像の格納について説明する。
図5は、情報処理装置200が点検画像をデータベース300に格納する処理手順を示すフローチャートである。
ステップS204において撮影対象が抽出されない場合(ステップS206がNOである場合)、ステップS212に進む。
一方、ステップS204において撮影対象が抽出された場合(ステップS206がYESである場合)、ステップS208に進む。
図6(b)は、或る点検において位置P4から撮影された点検画像T1を示す図である。
点検画像T1の撮影範囲は、ステップS202の処理によって、図6(a)に図示する撮影範囲R41として特定されたものとする。そして、情報処理装置200(画像処理手段202)は、点検画像T1の中から、ステップS204の処理によって撮影対象OB1(消火栓)と、撮影対象OB2(構造物Aの柱)と、撮影対象OB3(クラック)と、を抽出したものとする。
この場合、ステップS208の処理では、情報処理装置200(画像処理手段202)は、撮影対象OB1と撮影対象OB2とは劣化部分ではないものと判別し、撮影対象OB3は劣化部分であるものと判別する。
また、ステップS210の処理では、情報処理装置200(特定情報処理手段203)は、撮影対象OB1〜OB3のそれぞれに、別々の識別情報(ID番号)と、各々の位置情報と、を付与したものとする。なお、ここで付与される撮影対象の位置情報は、一点(単独の点データ)として特定されてもよいし、範囲(複数の点データ)として特定されてもよい。
このとき、情報処理装置200は、自走装置100に対して、点検画像T1に撮影されている撮影対象OB1〜OB3が撮影可能な目標位置として位置P4を指定するための走行コマンドを自走装置100に送信する。
なお、情報処理装置200が自走装置100に当該走行コマンドを送信するタイミングは、位置P3まで自走して撮影を終了した自走装置100の要求に応じて次の目標位置を指定するタイミングであってもよいし、初期状態(点検の最初の時点)において自走装置100の要求に応じて次の目標位置を指定するタイミングであってもよい。
図6(a)と図7(a)とを比較すれば分かるとおり、撮影範囲R41と撮影範囲R42とは僅かに異なる範囲になりがちである。何故ならば、自走装置100の自走制御の精度誤差は数センチ単位で生じるものであり、自走装置100の目標位置として指定した位置が同じであっても、実際の撮影位置が異なりうるからである。また、当該目標位置への自走装置100の進入角度のいかんによって、撮影対象OB1〜OB3を収めるための撮影手段101の撮影方向も変化しうるからである。
従って、情報処理装置200(特定情報処理手段203)は、撮影対象OB4には撮影対象OB1に付与した特定情報を、撮影対象OB5には撮影対象OB2に付与した特定情報を、付与する。
このとき、画像処理手段202は、第二の点検画像に含まれる撮影対象の中から第一の点検画像に含まれる撮影対象(撮影対象OB1及び撮影対象OB2)に適合する適合対象(撮影対象OB4及び撮影対象OB5)を抽出するものと言える。そして、特定情報処理手段203は、適合対象と適合した第一の点検画像に含まれる撮影対象の特定情報を、当該適合対象に対応付けるものと言える。
従って、事前に撮影された撮影対象と、事後に撮影された撮影対象と、が異なるアングルから撮影された場合であっても、撮影対象が同じものであるか否かを、点検者が判断する必要がないので、点検に係る作業効率や作業精度を向上させることができる。
従って、情報処理装置200(特定情報処理手段203)は、撮影対象OB6には撮影対象OB3に付与した特定情報を付与する。
このとき、画像処理手段202は、第二の劣化部分(撮影対象OB6)と第一の劣化部分(撮影対象OB3)とを比較することによって、第一の劣化部分が進行して第二の劣化部分になったものであるか否かを推定する推定処理を実行し、推定処理が肯定される場合には、第一の劣化部分に対する適合対象として第二の劣化部分を抽出するものと言える。
このとき、情報処理装置200(特定情報処理手段203)は、撮影対象OB7には撮影対象OB1〜OB3に付与した特定情報とは異なる特定情報を付与する。但し、撮影対象OB7に特定情報として位置情報を付与する場合、周囲の撮影対象(特に、不動の対象物と見做しうる劣化部分ではない撮影対象(撮影対象OB4や撮影対象OB5))の位置情報に基づいて、情報処理装置200(特定情報処理手段203)は撮影対象OB7に付与する位置情報を定めることが好ましい。なぜならば、同一の点検画像T2に撮影されている撮影対象の位置情報は、高い精度で整合がとれていることが、点検を適正に行う観点から好ましいからである。
更に好ましくは、情報処理装置200(特定情報処理手段203)は、点検画像T2の撮影時における自走装置100の目標位置(自己推定位置の位置情報)と、点検画像T2の撮影時における撮影手段101の撮影方向(ベクトル情報)と、を鑑みて、撮影対象OB7に付与する位置情報を定めると良い。位置情報の演算精度を上げる為である。
更に好ましくは、特定情報処理手段203は、第二の点検画像(点検画像T2)に含まれる撮影対象のうち非適合対象(撮影対象OB7)に対応付ける位置情報を、第二の点検画像に含まれる適合対象に対応付ける位置情報に加えて、第二の点検画像を撮影した時における目標位置と、第二の点検画像を撮影した時における撮影手段101の撮影方向と、を用いて定めると良い。
以上に説明した本発明の実施形態は、本発明の目的と達成する範囲において、種々の変形が可能である。
以下、未だ説明していない本発明の変形例について、言及する。
また、自走装置100が有する構成要素の一部を、情報処理装置200が備えるように変更してもよいし、情報処理装置200が有する構成要素の一部を、自走装置100が備えるように変更してもよい。
また、図示した手順は一具体例であり、支障ない範囲で処理の順序を置換する、直列で処理されるものを並行処理に置換するなどの変更を加えてもよい。
言い換えれば、検索手段204は、データベース300に格納されている点検画像に含まれる撮影対象が劣化部分であるものを、第一の点検画像として検索可能であり、自走装置100は、第一の点検画像に基づく走行コマンド(第一の走行コマンド)に基づいて目標位置まで自走して、第一の点検画像に含まれる撮影対象を撮影して第二の点検画像を取得できることが好ましい。
特に、事後に撮影された点検画像の劣化部分が、事前に撮影された点検画像の劣化部分が進行したものであるか否かの推定処理については、機械学習による処理が好適である。
他にも、点検画像から抽出した撮影対象が構造物に生じた劣化部分であるか否かを判別する処理についても、機械学習による処理が好適である。
(1)受信した走行コマンドに基づいて自走可能に構成され且つ構造物の点検に用いる点検画像を撮影する撮影手段が搭載されている自走装置を用いて前記点検画像を取得し、取得した前記点検画像をデータベースに格納させる点検支援システムであって、前記データベースに格納させる前記点検画像に対して、当該点検画像に撮影されている一又は複数の撮影対象を抽出する画像処理手段と、抽出された撮影対象のそれぞれを識別可能に特定する特定情報を、撮影対象に対応付ける特定情報処理手段と、前記データベースに格納されている前記点検画像の中から第一の点検画像を検索する検索手段と、前記検索手段によって検索された前記第一の点検画像に含まれる撮影対象を撮影可能な目標位置へ前記自走装置を自走させるための第一の走行コマンドを生成するコマンド生成手段と、を備え、前記自走装置は、受信した前記第一の走行コマンドに基づいて前記目標位置まで自走して、前記第一の点検画像に含まれる撮影対象を撮影して第二の点検画像を取得し、前記画像処理手段は、前記第二の点検画像に含まれる撮影対象の中から前記第一の点検画像に含まれる撮影対象に適合する適合対象を抽出し、前記特定情報処理手段は、前記適合対象と適合した前記第一の点検画像に含まれる撮影対象の前記特定情報を、当該適合対象に対応付ける、ことを特徴とする点検支援システム。
(2)前記画像処理手段は、抽出した撮影対象が前記構造物に生じた劣化部分であるか否かを判別可能であり、前記画像処理手段は、前記第二の点検画像に含まれる撮影対象の中から抽出された第二の劣化部分と、前記第一の点検画像に含まれる撮影対象の中から抽出された第一の劣化部分と、を比較して互いに適合する場合、前記第二の点検画像に含まれる撮影対象の中から前記適合対象として前記第二の劣化部分を抽出し、前記前記特定情報処理手段は、抽出された前記第二の劣化部分に対して、前記第一の劣化部分の前記特定情報を対応付ける、(1)に記載の点検支援システム。
(3)前記画像処理手段は、前記第二の劣化部分と前記第一の劣化部分とを比較することによって、前記第一の劣化部分が進行して前記第二の劣化部分になったものであるか否かを推定する推定処理を実行し、前記推定処理が肯定される場合には、前記第一の劣化部分に対する前記適合対象として前記第二の劣化部分を抽出する、(2)に記載の点検支援システム。
(4)前記画像処理手段による前記推定処理が、前記データベースに格納されている前記点検画像を教師データとして用いた機械学習に基づいて実行される、(3)に記載の点検支援システム。
(5)前記特定情報処理手段は、前記点検画像から抽出された撮影対象に、前記構造物における当該撮影対象の位置情報を前記特定情報として対応付け、前記第二の点検画像に含まれる撮影対象のうち前記適合対象に該当しない非適合対象に対応付ける位置情報を、前記第二の点検画像に含まれる前記適合対象に対応付ける位置情報を用いて定める、(1)から(4)のいずれか一つに記載の点検支援システム。
(6)前記特定情報処理手段は、前記第二の点検画像に含まれる撮影対象のうち前記非適合対象に対応付ける位置情報を、前記第二の点検画像に含まれる前記適合対象に対応付ける位置情報に加えて、前記第二の点検画像を撮影した時における前記目標位置と、前記第二の点検画像を撮影した時における前記撮影手段の撮影方向と、を用いて定める、(5)に記載の点検支援システム。
(7)前記画像処理手段は、抽出した撮影対象が前記構造物に生じた劣化部分であるか否かを判別可能であり、前記検索手段は、前記データベースに格納されている前記点検画像に含まれる撮影対象が劣化部分であるものを、前記第一の点検画像として検索可能である、(1)から(6)のいずれか一つに記載の点検支援システム。
(8)前記画像処理手段による劣化部分の判別が、前記データベースに格納されている前記点検画像を教師データとして用いた機械学習に基づいて実行される、(7)に記載の点検支援システム。
100 自走装置
101 撮影手段
102 ジャイロセンサ
103 距離センサ
104 走行制御手段
105 送受信手段
200 情報処理装置
201 送受信手段
202 画像処理手段
203 特定情報処理手段
204 検索手段
205 コマンド生成手段
300 データベース
Claims (5)
- 受信した走行コマンドに基づいて自走可能に構成され且つ構造物の点検に用いる点検画像を撮影する撮影手段が搭載されている自走装置を用いて前記点検画像を取得し、取得した前記点検画像をデータベースに格納させる点検支援システムであって、
前記データベースに格納させる前記点検画像に対して、当該点検画像に撮影されている一又は複数の撮影対象を抽出し、抽出した撮影対象が前記構造物に生じた劣化部分であるか否かを判別可能である画像処理手段と、
抽出された撮影対象のそれぞれを識別可能に特定する特定情報として、前記構造物における撮影対象ごとの位置情報を、それぞれの撮影対象に対応付ける特定情報処理手段と、
前記データベースに格納されている前記点検画像の中から第一の点検画像を検索する検索手段と、
前記検索手段によって検索された前記第一の点検画像に含まれる撮影対象を撮影可能な目標位置へ前記自走装置を自走させるための第一の走行コマンドを生成するコマンド生成手段と、
を備え、
前記自走装置は、受信した前記第一の走行コマンドに基づいて前記目標位置まで自走して、前記第一の点検画像に含まれる撮影対象を撮影して第二の点検画像を取得し、
前記画像処理手段は、前記第二の点検画像に含まれる撮影対象の中から前記第一の点検画像に含まれる撮影対象に適合する適合対象を抽出し、
前記特定情報処理手段は、前記適合対象と適合した前記第一の点検画像に含まれる撮影対象の前記特定情報を、当該適合対象に対応付け、
前記第二の点検画像から抽出された撮影対象の中に第二の劣化部分が含まれる場合、前記第一の点検画像から抽出された撮影対象に含まれる第一の劣化部分と前記第二の劣化部分を、それぞれの形状、色彩及び位置について比較することによって、前記第一の劣化部分が進行して前記第二の劣化部分になったものであるか否かを推定する推定処理が前記画像処理手段によって実行され、
前記推定処理が肯定される場合には、前記画像処理手段が、前記第一の劣化部分に対する前記適合対象として前記第二の劣化部分を抽出し、前記特定情報処理手段が、抽出された前記第二の劣化部分の前記特定情報として、前記第一の劣化部分の前記特定情報として与えられていた位置情報を付与し、
前記推定処理が否定される場合には、前記画像処理手段が、前記第一の点検画像に対して非適合対象であるとして前記第二の劣化部分を抽出し、前記特定情報処理手段が、抽出された前記第二の劣化部分の前記特定情報として、劣化部分と判別されていない他の撮影対象の前記特定情報として与えられていた位置情報に基づいて定めた位置情報を付与する、
ことを特徴とする点検支援システム。 - 前記画像処理手段による前記推定処理が、前記データベースに格納されている前記点検画像を教師データとして用いた機械学習に基づいて実行される、
請求項1に記載の点検支援システム。 - 前記特定情報処理手段は、前記第二の点検画像に含まれる撮影対象のうち前記非適合対象に対応付ける位置情報を、前記第二の点検画像に含まれる前記適合対象に対応付ける位置情報に加えて、前記第二の点検画像を撮影した時における前記目標位置と、前記第二の点検画像を撮影した時における前記撮影手段の撮影方向と、を用いて定める、
請求項1または2に記載の点検支援システム。 - 前記画像処理手段は、抽出した撮影対象が前記構造物に生じた劣化部分であるか否かを判別可能であり、
前記検索手段は、前記データベースに格納されている前記点検画像に含まれる撮影対象が劣化部分であるものを、前記第一の点検画像として検索可能である、
請求項1から3のいずれか一項に記載の点検支援システム。 - 前記画像処理手段による劣化部分の判別が、前記データベースに格納されている前記点検画像を教師データとして用いた機械学習に基づいて実行される、
請求項4に記載の点検支援システム。
Priority Applications (8)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019103834A JP6788291B1 (ja) | 2019-06-03 | 2019-06-03 | 点検支援システム |
CN202080041197.7A CN113994290A (zh) | 2019-06-03 | 2020-02-28 | 检查辅助系统 |
PCT/JP2020/008486 WO2020246085A1 (ja) | 2019-06-03 | 2020-02-28 | 点検支援システム |
AU2020287769A AU2020287769B2 (en) | 2019-06-03 | 2020-02-28 | Inspection support system |
CA3142464A CA3142464C (en) | 2019-06-03 | 2020-02-28 | Inspection support system |
EP20819473.8A EP3979031B1 (en) | 2019-06-03 | 2020-02-28 | Inspection assistance system |
US17/615,609 US11869177B2 (en) | 2019-06-03 | 2020-02-28 | Inspection support system |
TW109108766A TWI839487B (zh) | 2019-06-03 | 2020-03-17 | 檢查支援系統 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019103834A JP6788291B1 (ja) | 2019-06-03 | 2019-06-03 | 点検支援システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6788291B1 true JP6788291B1 (ja) | 2020-11-25 |
JP2020197454A JP2020197454A (ja) | 2020-12-10 |
Family
ID=73452874
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019103834A Active JP6788291B1 (ja) | 2019-06-03 | 2019-06-03 | 点検支援システム |
Country Status (7)
Country | Link |
---|---|
US (1) | US11869177B2 (ja) |
EP (1) | EP3979031B1 (ja) |
JP (1) | JP6788291B1 (ja) |
CN (1) | CN113994290A (ja) |
AU (1) | AU2020287769B2 (ja) |
CA (1) | CA3142464C (ja) |
WO (1) | WO2020246085A1 (ja) |
Family Cites Families (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE4338850A1 (de) * | 1993-11-13 | 1995-05-18 | Dornier Gmbh | Einrichtung zum Überwachen der Zeitfestigkeit von Strukturen |
TWI390096B (zh) * | 2009-08-24 | 2013-03-21 | Nat Applied Res Laboratories | Safety Monitoring System and Method of Bridge Structure |
JP5626011B2 (ja) * | 2011-02-25 | 2014-11-19 | 富士通株式会社 | プログラム及び画像処理装置 |
EP2779939B1 (en) | 2011-11-15 | 2018-02-14 | Trispera Dental Inc. | Method and system for acquiring data from an individual for preparing a 3d model |
JP5862344B2 (ja) * | 2012-02-10 | 2016-02-16 | 富士通株式会社 | 画像処理装置、事前情報更新方法及びプログラム |
US8718353B2 (en) * | 2012-03-08 | 2014-05-06 | Kla-Tencor Corporation | Reticle defect inspection with systematic defect filter |
US8983172B2 (en) * | 2012-12-28 | 2015-03-17 | Modern Technology Solutions, Inc. | Visual inspection apparatus, secure one-way data transfer device and methods therefor |
JP6043662B2 (ja) * | 2013-03-18 | 2016-12-14 | 株式会社ニューフレアテクノロジー | 検査方法および検査装置 |
WO2015004739A1 (ja) * | 2013-07-10 | 2015-01-15 | 株式会社日立製作所 | 監視システム、自動巡回ロボット、および監視方法 |
DE102013108485B4 (de) * | 2013-08-06 | 2015-06-25 | Khs Gmbh | Vorrichtung und Verfahren zum Fehlertracking bei Bandmaterialien |
JP6423686B2 (ja) * | 2013-10-29 | 2018-11-14 | 株式会社イクシス | 劣化診断支援システムおよび劣化診断支援方法 |
SG2013090378A (en) | 2013-11-29 | 2015-06-29 | K One Ind Pte Ltd | Flexible vision inspector |
US10746900B2 (en) * | 2014-11-25 | 2020-08-18 | Cylo Technologies Incorporated | System and method for pipeline management |
KR101796258B1 (ko) * | 2015-04-21 | 2017-11-13 | 순천대학교 산학협력단 | 소형 무인비행체를 이용한 비전 기반의 구조물 안정성 검사 방법 |
JP6572618B2 (ja) * | 2015-05-08 | 2019-09-11 | 富士通株式会社 | 情報処理装置、情報処理プログラム、情報処理方法、端末装置、設定方法、設定プログラム |
FR3037429B1 (fr) * | 2015-06-15 | 2018-09-07 | Donecle | Systeme et procede d'inspection automatique de surface |
JP2017009379A (ja) * | 2015-06-19 | 2017-01-12 | 株式会社ニューフレアテクノロジー | 検査装置および検査方法 |
JP6569114B2 (ja) * | 2015-10-19 | 2019-09-04 | エナジー・ソリューションズ株式会社 | 検査システム、及び検査方法 |
JP6609463B2 (ja) * | 2015-11-19 | 2019-11-20 | シャープ株式会社 | 自走式電子機器 |
JP6846897B2 (ja) * | 2016-03-24 | 2021-03-24 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | 位置指示方法、位置指示装置、自走式装置及びプログラム |
CN107229274B (zh) | 2016-03-24 | 2022-06-28 | 松下电器(美国)知识产权公司 | 位置指示方法、终端装置、自行式装置以及程序 |
JP6365799B2 (ja) * | 2016-06-17 | 2018-08-01 | 三菱電機株式会社 | 変状進展判定装置及び変状進展判定方法 |
JP2017045480A (ja) * | 2016-11-25 | 2017-03-02 | シャープ株式会社 | 物体検索システム及び物体検索装置 |
CN206321575U (zh) * | 2016-11-28 | 2017-07-11 | 武汉理工大学 | 一种无人机检查高楼外墙裂纹的装置 |
TWI688761B (zh) * | 2017-01-18 | 2020-03-21 | 荷蘭商Asml荷蘭公司 | 缺陷顯示方法 |
JP7030431B2 (ja) * | 2017-06-26 | 2022-03-07 | 株式会社東芝 | 点検支援システム及び点検支援制御プログラム |
CN109254077B (zh) * | 2017-07-14 | 2021-04-06 | 财团法人工业技术研究院 | 结构件的劣化侦测方法 |
CN109387518B (zh) * | 2017-08-02 | 2022-06-17 | 上海微电子装备(集团)股份有限公司 | 自动光学检测方法 |
JP6918672B2 (ja) * | 2017-10-11 | 2021-08-11 | 株式会社日立システムズ | 劣化診断システム |
US20190114725A1 (en) * | 2017-10-13 | 2019-04-18 | Honeywell International Inc. | Utility network monitoring with a device and an unmanned aircraft |
US10692203B2 (en) * | 2018-02-19 | 2020-06-23 | International Business Machines Corporation | Measuring defectivity by equipping model-less scatterometry with cognitive machine learning |
EP3844473A4 (en) * | 2018-08-30 | 2022-06-08 | Camso Inc. | SYSTEMS AND METHODS FOR MONITORING VEHICLES HAVING TIRES |
CN109671119A (zh) * | 2018-11-07 | 2019-04-23 | 中国科学院光电研究院 | 一种基于slam的室内定位方法及装置 |
WO2021145933A1 (en) * | 2020-01-17 | 2021-07-22 | Landmark Graphics Corporation | Continuous assessment of well elements using fiber optics |
-
2019
- 2019-06-03 JP JP2019103834A patent/JP6788291B1/ja active Active
-
2020
- 2020-02-28 US US17/615,609 patent/US11869177B2/en active Active
- 2020-02-28 CN CN202080041197.7A patent/CN113994290A/zh active Pending
- 2020-02-28 EP EP20819473.8A patent/EP3979031B1/en active Active
- 2020-02-28 CA CA3142464A patent/CA3142464C/en active Active
- 2020-02-28 AU AU2020287769A patent/AU2020287769B2/en active Active
- 2020-02-28 WO PCT/JP2020/008486 patent/WO2020246085A1/ja unknown
Also Published As
Publication number | Publication date |
---|---|
CA3142464A1 (en) | 2020-12-10 |
TW202045914A (zh) | 2020-12-16 |
US20220318978A1 (en) | 2022-10-06 |
CA3142464C (en) | 2024-02-20 |
EP3979031A1 (en) | 2022-04-06 |
EP3979031B1 (en) | 2024-05-29 |
AU2020287769A1 (en) | 2021-12-23 |
US11869177B2 (en) | 2024-01-09 |
CN113994290A (zh) | 2022-01-28 |
EP3979031A4 (en) | 2022-06-29 |
WO2020246085A1 (ja) | 2020-12-10 |
JP2020197454A (ja) | 2020-12-10 |
AU2020287769B2 (en) | 2023-04-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Yang et al. | Deep concrete inspection using unmanned aerial vehicle towards cssc database | |
Menendez et al. | Tunnel structural inspection and assessment using an autonomous robotic system | |
CN108051450B (zh) | 一种基于无人机的桥梁健康检测系统及方法 | |
Protopapadakis et al. | Autonomous robotic inspection in tunnels | |
US20160133008A1 (en) | Crack data collection method and crack data collection program | |
Yang et al. | A robotic system towards concrete structure spalling and crack database | |
Kalaitzakis et al. | Dynamic structural health monitoring using a DIC-enabled drone | |
JP2016090547A (ja) | ひび割れ情報収集装置及びひび割れ情報を収集するためのサーバ装置 | |
JP2017129508A (ja) | 自己位置推定システム、自己位置推定方法、モバイル端末、サーバおよび自己位置推定プログラム | |
Watanabe et al. | Robot-assisted acoustic inspection of infrastructures-cooperative hammer sounding inspection | |
Jiang et al. | Bridge coating inspection based on two-stage automatic method and collision-tolerant unmanned aerial system | |
Liu et al. | An approach for auto bridge inspection based on climbing robot | |
Montero et al. | Intelligent robotic system for autonomous crack detection and caracterization in concrete tunnels | |
JP6788291B1 (ja) | 点検支援システム | |
CN111898474B (zh) | 基于光学传感感知的目标表面特征变化识别系统与方法 | |
Hu et al. | Augmented reality based visualization for concrete bridge deck deterioration characterized by ground penetrating radar | |
KR102588141B1 (ko) | 드론 영상정보를 이용한 딥러닝 기반 구조물 손상 점검 방법 | |
TWI839487B (zh) | 檢查支援系統 | |
Bartczak et al. | Case Study for Uas-Assisted Bridge Inspections | |
KR102586815B1 (ko) | 구조물 균열 측정 시스템, 방법, 및 상기 방법을 실행시키기 위한 컴퓨터 판독 가능한 프로그램을 기록한 기록 매체 | |
JP7314466B2 (ja) | 無人航空機、画像撮像システム、及びプログラム | |
Subedi et al. | Spatial change tracking of structural elements of a girder bridge under construction using 3D point cloud | |
Inoue et al. | Shape Control of Variable Guide Frame for Tunnel Wall Inspection to Avoid Obstacles by Laser Range Finder | |
CN117806339A (zh) | 基于大型设施特定观测点的无人机巡检规划方法及终端 | |
Pan et al. | A novel ropeway-based system for bridge apparent scanning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201001 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201001 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20201001 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201020 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201023 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6788291 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20201014 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |