JP2021015041A - ボルト検査装置、ボルト検査システム、ボルト検査方法及びプログラム - Google Patents

ボルト検査装置、ボルト検査システム、ボルト検査方法及びプログラム Download PDF

Info

Publication number
JP2021015041A
JP2021015041A JP2019129811A JP2019129811A JP2021015041A JP 2021015041 A JP2021015041 A JP 2021015041A JP 2019129811 A JP2019129811 A JP 2019129811A JP 2019129811 A JP2019129811 A JP 2019129811A JP 2021015041 A JP2021015041 A JP 2021015041A
Authority
JP
Japan
Prior art keywords
bolt
image
inspection
images
bolts
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019129811A
Other languages
English (en)
Other versions
JP7331509B2 (ja
Inventor
直行 冨田
Naoyuki Tomita
直行 冨田
拓巳 柿市
Takumi Kakiichi
拓巳 柿市
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JFE Engineering Corp
Original Assignee
JFE Engineering Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JFE Engineering Corp filed Critical JFE Engineering Corp
Priority to JP2019129811A priority Critical patent/JP7331509B2/ja
Publication of JP2021015041A publication Critical patent/JP2021015041A/ja
Application granted granted Critical
Publication of JP7331509B2 publication Critical patent/JP7331509B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)
  • Image Analysis (AREA)
  • Force Measurement Appropriate To Specific Purposes (AREA)

Abstract

【課題】ボルトの締付け状態の検査業務の効率化を図ることができるボルト検出装置を提供する。【解決手段】ボルト検査装置1は、取り込まれたボルトの動画像から複数の静止画像を抽出し、各静止画像から個々のボルトのボルト画像を検出するボルト検出部4と、検出されたボルト画像に位置情報を付与するボルトタグ付け部5と、同一のボルトを撮影した複数のボルト画像に基づいてボルトの締付け状態の判定を行うボルト検査部7と、を備える。【選択図】図2

Description

本発明は、ボルトの締付け状態を検査するためのボルト検査装置、ボルト検査システム、ボルト検査方法及びプログラムに関する。
構造物、設備、機械等には、部材を接合するためにボルトが用いられる。例えば橋梁等の構造物には、構造用鋼材を接合するために高力ボルトが用いられる。高力ボルトの締め付けは、一次締め、マーキング、本締めの順序で行われる。図13(a)に示すように、一次締めは、所定のトルク値でナット61を回転させて行う。一次締めが終わったボルトには、マーキング62が付けられる。マーキング62は、ボルト63、ナット61、座金64及び母材65にかけて付けられる。図13(b)に示すように、本締めは、所定のボルト張力が得られるように、専用のレンチを用いてボルト63のピンテール63a(図13(a)参照)が破断するまで締め付けることにより行われる。図13(b)には、ピンテール63aが破断された後のボルト63を示す。正常に一次締めが行われると、本締めでは、ボルト63、座金64が回転することなくナット61のみが回転する。
締付け完了後には、ボルトの締付け状態が検査される。正常に一次締め、本締めが行われると、図13(b)に示すように、ボルト63、座金64、母材65のマーキング62aの角度が一致し、ナット61のマーキング62bの角度のみがずれる。このため、一次締めの際に付けたマーキング62a,62bのずれ、ピンテール63aの破断の有無等により、ボルトの締付け状態を検査することができる。
ところで、従来からボルトの締付け状態の検査は、目視により行われていた。しかし、構造物には多数のボルトが使用されているので、ボルトを1つずつ検査するのは手間と時間がかかる。この問題を解決するために、特許文献1には、ボルトをカメラにより撮影し、カメラで撮影した画像に基づいてボルトの締付け状態を自動的に判定するボルト検査装置が開示されている。この検査装置は、撮影した画像に基づいてボルト、ナット、座金及び母材に付けたマーキングのマーキング角度を検出するマーキング角度算出部と、検出したマーキング角度に基づいて、締付け状態を判定する判定部と、を備える。
特開2018−9932号公報
しかし、従来のボルト検査装置においては、カメラでボルトを撮影する際の撮影角度によっては、マーキングを検出できないという課題がある。例えば、ボルトを真正面(ボルトの中心線の方向)から撮影した場合、座金のマーキングがナットの裏に隠れてしまい、座金のマーキングを検出できない。マーキングを検出できないと、ボルトの締付け状態を検査したくても検査することができない。このため、ボルトの締付け状態の検査業務の効率化を図れない。
本発明は、このような事情に鑑みてなされたもので、ボルトの締付け状態の検査業務の効率化を図ることを目的とする。
上記課題を解決するために、本発明の一態様は、ボルトの締付け状態を検査するためのボルト検査装置であって、取り込まれたボルトの動画像から複数の静止画像を抽出し、各静止画像から個々のボルトのボルト画像を検出するボルト検出部と、検出された前記ボルト画像に位置情報を付与するボルトタグ付け部と、同一のボルトを撮影した複数の前記ボルト画像に基づいてボルトの締付け状態の判定を行うボルト検査部と、を備えるボルト検査装置である。
本発明の他の態様は、ボルトの締付け状態を検査するボルト検査方法であって、取り込まれたボルトの動画像から複数の静止画像を抽出し、各静止画像から個々のボルトのボルト画像を検出するボルト検出ステップと、検出された前記ボルト画像に位置情報を付与するボルトタグ付けステップと、同一のボルトを撮影した複数の前記ボルト画像に基づいてボルトの締付け状態の判定を行うボルト検査ステップと、を備えるボルト検査方法である。
本発明によれば、ボルトの締付け状態の検査業務の効率化を図ることができる。
本発明の一実施形態のボルト検査システムの全体構成図である。 本実施形態のボルト検査装置の機能ブロック図である。 本実施形態のボルト検査装置の処理のフローチャートである。 ボルト検出部の処理のフローチャートである。 ボルト検出部の第1学習モデルの概念図である ボルトタグ付け部の処理のフローチャートである。 検査員による動画の撮影方法を示す模式図である。 ボルト画像に付与された位置情報の概念図である。 ボルト検査部の処理のフローチャートである。 ボルト検査の判定基準を示す図である。 第2学習モデルの一例である座金裏返し判定学習モデルの概念図である。 端末の表示装置に表示される画像の一例を示す図である。 図13(a)は一次締めの状態のボルトの斜視図であり、図13(b)は本締めの状態のボルトの斜視図である。
以下、添付図面を参照して、本発明の実施形態のボルト検査装置及び方法、並びにボルト検査システムを詳細に説明する。ただし、本発明のボルト検査装置、ボルト検査システムは種々の形態で具体化することができ、明細書に記載される実施形態に限定されるものではない。本実施形態は、明細書の開示を十分にすることによって、当業者が発明を十分に理解できるようにする意図をもって提供されるものである。
(ボルト検査システムの構成)
図1を参照して、本発明の一実施形態のボルト検査システム40のハードウェア構成を説明する。本実施形態のボルト検査システム40は、端末22と、ボルト検査装置1と、を備える。端末22は、タブレット、スマートフォン等のカメラ43付きの携帯情報端末である。ボルト検査装置1は、管理センターのクラウド環境上に設けられるコンピュータである。端末22とボルト検査装置1との間は、端末・ボルト検査装置間通信機能で接続される。通信機能は、インターネットや内部ネットワークによって構成される。
ボルト検査作業の全体の流れは、以下のとおりである。検査員は、端末22のカメラ43を用いてボルトの動画像と静止画像を撮影する。撮影した動画像と静止画像は、端末・ボルト検査装置間通信機能を介してボルト検査装置1に送信される。ボルト検査装置1は、取り込まれた動画像と静止画像に基づいてボルトの締付け状態の判定を行い、判定結果を出力する。ボルト検査装置1が出力する判定結果は、端末・ボルト検査装置間通信機能を介して端末22に送信される。端末22の表示装置には、ボルト検査装置1が出力する判定結果が表示される。
(端末の構成)
端末22のハードウェア構成を説明する。図1に示すように、端末22は、CPU42、撮影装置としてのカメラ43、記憶装置44、通信インターフェース41、ユーザインターフェース45を有する。CPU42は、記憶装置44に格納されたプログラムを実行する。記憶装置44は、ROMとRAMを含む。ROMは、不変のプログラム(BIOS)等を格納する。RAMは、CPU42が実行するプログラム及びプログラムの実行時に使用されるデータを一次的に格納する。カメラ43は、ボルトの動画像と静止画像を撮影する。通信インターフェース41は、所定のプロトコルにしたがってボルト検査装置1との通信を制御する。カメラ43が撮影した画像は、通信インターフェース41を介してボルト検査装置1に送信される。ユーザインターフェース45は、ユーザに入出力機能を提供する。入力機能は、ユーザからの入力を受けるタッチパネル等の入力インターフェースである。出力機能は、プログラムの実行結果をオペレータが視認可能な形式で出力する表示装置22a等の出力インターフェースである。
(ボルト検査装置の構成)
ボルト検査装置1のハードウェア構成を説明する。ボルト検査装置1は、CPU52、GPU53、記憶装置3、補助記憶装置55、通信インターフェース51を有する。CPU52は、記憶装置3に格納されたプログラムを実行し、取り込まれたボルトの動画像と静止画像に基づいてボルトの締付け状態の検査の処理を行う。GPU53は、検査の処理のための画像処理を行う。記憶装置3は、ROMとRAMを含む。ROMは、不変のプログラム(BIOS)等を格納する。RAMは、CPU52が実行するプログラム及びプログラムの実行時に使用されるデータを一次的に格納する。
ボルト検査装置1は、補助記憶装置55を有する。補助記憶装置55は、磁気記録装置(HDD)、半導体記憶装置(SSD)等の大容量の記憶装置から構成される。補助記憶装置55は、端末22から受信した画像データや各種の学習モデルを記録するデータベースを格納する。通信インターフェース51は、所定のプロトコルにしたがって端末22との通信を制御する。ボルトの締付け状態の判定結果は、端末22に送信される。
ボルト検査装置1は、入力インターフェースと出力インターフェースを有してもよい。入力インターフェースには、キーボードやマウスが接続され、ユーザからの入力を受け付ける。出力インターフェースには、表示装置やプリンタが接続され、プログラムの実行結果をオペレータが視認可能な形式で出力する。CPU52が実行するプログラムは、リムーバブルメディア(CD−ROM、フラッシュメモリ等)又はネットワークを介してボルト検査装置1に提供される。
(ボルト検査装置の機能)
ボルト検査装置1の機能を説明する。図2は、ボルト検査装置1の機能ブロック図を示す。図2の機能ブロック図の各部は、制御部2(図1のCPU、GPU等のプロセッサ52,53)が記憶装置3に記録されているプログラムを読みだして実行することにより実現される。
本実施形態のボルト検査装置1は、橋梁の構造用鋼材を接合する高力ボルト(以下、単にボルトという)の締付け状態を検査する。上記のように、ボルトは、端末22のカメラ43によって撮影される。撮影されたボルトの動画像と静止画像は、ボルト検査装置1に取り込まれる。動画像は、時系列的に出力される30枚/秒、50枚/秒等の静止画像から構成される。動画像は、カメラ43の位置を移動させながらボルトを撮影した動画像であり、ボルトを異なる角度から撮影した複数の静止画像を含む。
ボルトには、橋梁のウェブ部に取り付けられるボルトと橋梁のフランジ部に取り付けられるボルトがある。一般的にウェブ部のボルトの数はフランジ部のボルトの数よりも多い。本実施形態では、端末22のカメラ43によってウェブ部のボルトを動画像で撮影し、フランジ部のボルトを静止画像で撮影する。なお、ウェブ部のボルトとフランジ部のボルトを動画像で撮影してもよい。
端末22のカメラ43によってボルトを撮影する替わりに、ドローン等の無人飛行機に搭載された撮影装置によりボルトを撮影してもよい。また、昇降・水平移動可能なロボットに搭載された撮影装置によりボルトを撮影してもよい。これらの撮影装置によって撮影された動画像と静止画像は、端末22と同様にボルト検査装置1に送信される。
図2に示すように、ボルト検査装置1は、ボルト検出部4と、ボルトタグ付け部5と、ボルト検査部7と、を備える。ウェブ部を撮影したボルトの動画像は、ボルト検出部4に取り込まれる。
図3は、ボルト検査装置1の処理のフローチャートである。図3に示すように、ボルト検出部4は、入力動画像から複数の静止画像16(図5参照)を抽出し、各静止画像16から個々のボルトのボルト画像27(図8参照)を検出する(S1)。
検出されたボルト画像27は、ボルトタグ付け部5に取り込まれる。ボルトタグ付け部5では、検出されたボルト画像27に位置情報を付与する(S2)。具体的には、ボルトタグ付け部5は、検出されたボルト画像27に採番を行い、個々のボルト画像27に行番号と列番号を付与する(図8参照)。
位置情報が付与されたボルト画像27は、ボルト検査部7に取り込まれる。ボルト検査部7では、同一のボルトを撮影した複数のボルト画像27に基づいてボルトの締付け状態の判定を行う(S3)。
一枚のボルト画像27は、一つの撮影角度から撮影した画像である。一枚のボルト画像27からボルトの締付け状態を判定しようとしても、マーキングが隠れていて、マーキングを検出できない場合がある。そこで、本実施形態においては、撮影角度が異なる複数(例えば10枚、20枚等)のボルト画像27に基づいてボルトの締付け状態を判定するので、ボルトの締付け状態を判定できる可能性を飛躍的に高めることができる。このため、多数のボルトの締付け状態をほぼ漏れなく判定できるようになる。また、ボルトの形状はどのボルトも似ていて、ボルト画像27からどのボルトを撮影したのかを認識することは困難である。しかしながら、ボルトタグ付け部5によってボルト画像27に位置情報を付与することで、複数のボルト画像27が同一のボルトを撮影したものであることを保証することができる。
再び図2に戻り、ボルト検査部7は、前処理部8と、判定部9と、代表画像選択部10と、を備える。前処理部8は、ボルト画像27に対して特徴量を浮き彫りにさせるための前処理を行う。例えば前処理部8は、ボルト画像27を2値化する。なお、判定部9の判定内容によっては、前処理部8を省略してもよい。
判定部9は、前処理部8によって前処理されたボルト画像27に基づいて、ボルトの締付け状態の各検査項目を判定する。例えば、判定部9は、座金の裏表の異常の有無を判定する座金裏返し判定部9aと、ナットの裏表の異常の有無を判定するナット裏返し判定部9bと、座金の供廻りの有無を判定する座金の供廻り判定部9cと、マーキングの付け忘れの有無を判定するマーキング忘れ判定部9dと、ナットの締め忘れの有無を判定する締め忘れ判定部9eと、ピンテールの切り忘れの有無を判定するピンテール切断不良判定部9fと、正常に締付けが行われたことを判定する正常締付け判定部9g部と、を備える。判定部9a〜9gは、後述する第2学習モデル31(図11参照)によって構成される。
代表画像選択部10は、第2学習モデル31の判定結果の確信度が最も高い代表ボルト画像を選択する。代表ボルト画像は、記憶装置3に記録される。
判定部9の判定結果は、表示制御部11に取り込まれる。表示制御部11の判定結果出力部11aは、ボルトの配列に合わせてボルトを模した画像を表示させると共に、ボルトの締付け判定の結果を表示させる。表示制御部11の帳票出力部11bは、表示装置に帳票(図示せず)を表示させる。表示装置は、例えばボルトを撮影した端末22の表示装置22a(図12参照)、現場事務所のパソコンの表示装置等である。
また、フランジ部を撮影したボルトの静止画像は、ボルト検出部12に取り込まれる。ボルト検出部12は、ボルト検出部4と同様に、取り込まれたボルトの静止画像から個々のボルトのボルト画像を検出する。ボルト検出部12によって検出されたボルト画像は、ボルトタグ付け部13に取り込まれる。ボルトタグ付け部13は、ボルトタグ付け部5と同様に、検出されたボルト画像に位置情報を付与する。タグ付けされたボルト画像は、ボルト検査部7に取り込まれる。ボルト検査部7は、動画像から検出したボルト画像27と同様に、静止画像から検出したボルト画像(図示せず)に基づいて、ボルトの締付け状態を判定する。
以下に、ボルト検出部4、ボルトタグ付け部5、ボルト検査部7の詳細を順番に説明する。
(ボルト検出部)
図4は、ボルト検出部4の処理のフローチャートである。ボルト検出部4には、ボルトを撮影した動画像が取り込まれる(S11)。ボルト検出部4は、取り込まれた動画像から所定の時間間隔毎に複数の静止画像16(図5参照)を抽出する(S12)。次に、ボルト検出部4は、個々のボルトのボルト画像27を検出するための機械学習を行った学習済みの第1学習モデル18(図5参照)に1枚目の静止画像16を取り込む(S13)。1枚目の静止画像16を第1学習モデル18に取り込むことにより、個々のボルトのボルト画像27が検出される(S14)。次に、S15に移行する。S15において、2枚目以降の静止画像16を第1学習モデル18に取り込むか否かを判断する。ここで、第1学習モデル18に取り込む2枚目以降の静止画像16があればS13に復帰し、第1学習モデル18に取り込む静止画像16が存在するまでS13〜S15を繰り返す。そして、全ての静止画像16を第1学習モデル18に取り込むと、エンドとなる。
図5は、ボルト検出部4の第1学習モデル18の概念図である。図5を参照して、第1学習モデル18の機械学習を説明する。ユーザは、複数個のボルトが撮影された学習用静止画像14を作成する。また、ユーザは、学習用静止画像14に対し、個々のボルトに分解するための情報、例えば個々のボルトに四角形のタグ15aを付け加えて、教師静止画像15を作成する。第1学習モデル18は、学習用静止画像14とタグ15aが付け加えられた教師静止画像15との相関関係を学習する。第1学習モデル18としては、ニューラルネットワーク、ディープニューラルネットワーク等を用いることができる。学習済みの第1学習モデル18は、補助記憶装置55(図2参照)に記録される。
学習済みの第1学習モデル18に各静止画像16を取り込めば、個々のボルトにタグ15aが付与された静止画像16が得られる。タグ15aで囲まれた画像を切り出せば、個々のボルトのボルト画像27が得られる。
(ボルトタグ付け部)
図6は、ボルトタグ付け部5(図2参照)の処理のフローチャートである。ボルトタグ付け部5には、ボルト検出部4が動画像から抽出した静止画像16が取りこまれる。まず、ボルトタグ付け部5は、静止画像16からマーカ画像を検出する(S21)。次に、ボルトタグ付け部5は、マーカ21a(図7参照)を識別するための機械学習が行われたマーカ識別用学習モデルにマーカ画像を取り込むことにより、マーカ21aの番号を認識する(S22)。次に、ボルトタグ付け部5は、認識したマーカ21aの番号、検出したマーカ21aの座標、及び検出したボルトの座標に基づいて、ボルト画像27に位置情報を付与する(S23)。
ここで、マーカ(番号)について説明する。図7(a)に示すように、橋梁には、予め1〜n(図7(a)ではn=27)のマーカ21a(番号)が付与されたマグネット21が貼り付けられている。ここで、マーカ21a(番号)とボルトの行数とは一致する。端末22(図7(b))には、予め接合部リストとボルトの個数が記録されている。検査員は、橋梁の設計図面23(図7(c))を参照しながら端末22に表示される接合部リストから検査対象の接合部(例えば、J19ウェブ部等)を選択する。検査員は、接合部リストから検査対象を選択した後、接合部のボルトを動画像で撮影する。
符号24(図7(d))は端末22の表示装置に映っているボルトの画像である。検査員は、端末22のタッチパネルを操作して撮影範囲を特定し、撮影位置をジグザグ状に移動させながらマーカ21aと接合部25の全体を網羅的に撮影する。具体的には、検査員は、図7(a)の左から右に撮影位置を移動させながら上段のマーカ21aと接合部25を撮影し、その後、撮影位置を下方に移動させ、その後、右から左に撮影位置を移動させながら上段よりも下側のマーカ21aと接合部25を撮影し、その後、撮影位置を下方に移動させ、その後、左から右に撮影位置を移動させる。以降はこれを繰り返す。撮影した動画像は、上記のようにボルト検出部4に取り込まれる。
図8は、ボルト画像27に付与された位置情報の概念図を示す。図8に示すように、例えば右上のボルト画像27には、接合部(J19ウェブ部)、行列番号(1行5列)のタグ付けがなされる。同様に、例えば右下のボルト画像27には、接合部(J19web)、行列番号(4行5番)のタグ付けが行われる。なお、マーカ識別用学習モデルは、図5に示す第1学習モデル18と同様に、マーカ21aの画像とユーザが教示した番号との相関関係を学習することで構築される。学習済みのマーカ識別用学習モデルは、補助記憶装置55(図2参照)に記録される。
(ボルト検査部)
図9は、ボルト検査部7(図2参照)の処理のフローチャートである。ボルト検査部7は、ボルト画像27の特徴量が浮き彫りになるように前処理する(S31)。次に、ボルト検査部7は、ボルトの締付け状態を判定するための機械学習を行った学習済みの第2学習モデル31(図11参照)にボルト画像27を取り込む(S32)。第2学習モデル31は、検査項目毎に作成される。すなわち、図10に示すように、本実施形態では、ボルト検査の判定基準として、例えば、マーキング忘れ、ナット締め忘れ、座金供廻り、ピンテール切断不良、ナット裏返し、座金裏返し、正常、診断不能の8つが存在する。マーキング忘れは、一次締め後にマーキングを付け忘れている状態である。ナット締め忘れは、一次締め後の本締めにおいてナットを締め忘れている状態である。座金供廻りは、本締めにおいて座金がナットと一緒に回った状態である。ピンテール切断不良は、本締めにおいてピンテールが切断されなかった状態である。ナット裏返しは、ナットが裏返しになっている状態である。座金裏返しは、座金が裏返しになっている状態である。正常は、ボルト、座金、母材のマーキングが一直線上にあり、ナットのマーキングのみが回転した状態である。診断不能は、ナット、ボルト、座金、母材の少なくとも一つのマーキングを検出できなかった状態である。
再び図9に戻り、ボルト画像を前処理した後、検査項目毎に作成された第2学習モデル31にボルト画像27が取り込まれる(S32)と、ボルトの締付け状態の判定が行われる(S33)。判定が行われた後、代表ボルト画像の選択が行われる(S34)。
図11は、第2学習モデル31の一例である座金裏返し判定学習モデルの概念図である。ユーザは疑似的に座金が裏返しになった状態(図11の符号32を参照)をつくり出し、座金が裏返しになった状態の多数の学習用ボルト画像33を作成する。そして、多数の学習用ボルト画像33に座金裏返しのラベルを付与する。そして、座金裏返し判定学習モデルに学習用ボルト画像33と座金裏返しとの相関関係を学習させれば、座金裏返し判定学習モデル31を構築することができる。構築後の座金裏返し判定学習モデルにボルト画像27を取り込めば、座金裏返しの有無を判定することができる。その他の検査項目の第2学習モデル31も座金裏返し判定学習モデルと同様に構築される。学習済みの第2学習モデル31は、補助記憶装置55(図2参照)に記録される。
ボルトの締付け状態の判定結果は、端末22の表示装置22aに表示される。図12は、端末22の表示装置22aに表示される画像の一例を示す。表示装置22aには、ボルトの配列に合わせてボルトを模した格子状の画像が表示される。ボルト検査装置1が検出したボルトの数は、図面情報から端末22に取り込まれたボルトの数と整合がとられる。異常があるボルト(図12中斜線で示す3行4列のボルト)の画像には、例えば着色が付けられる。端末22のタッチパネルを用いて異常があるボルトのボタンを押せば、どのような異常があるのかが表示されると共に、代表ボルト画像が表示される。表示装置22aには、判定結果を反映させた帳票も表示される。
なお、本発明のボルト検査装置は上記実施形態に具現化されるのに限られることはなく、本発明の要旨を変更しない範囲で他の実施形態に具現化可能である。
例えば、上記実施形態では、橋梁のボルトを検査しているが、橋梁以外の構造物のボルトを検査してもよい。
上記実施形態では、検査項目に合わせて7つの第2機械学習モデルを作成しているが、検査項目に合わせて少なくとも1つの第2機械学習モデルを作成すればよい。
1…ボルト検査装置
4…ボルト検出部
5…ボルトタグ付け部
7…ボルト検査部
11…表示制御部
16…静止画像
18…第1学習モデル
22a…表示装置
27…ボルト画像
31…第2学習モデル

Claims (8)

  1. ボルトの締付け状態を検査するためのボルト検査装置であって、
    取り込まれたボルトの動画像から複数の静止画像を抽出し、各静止画像から個々のボルトのボルト画像を検出するボルト検出部と、
    検出された前記ボルト画像に位置情報を付与するボルトタグ付け部と、
    同一のボルトを撮影した複数の前記ボルト画像に基づいてボルトの締付け状態の判定を行うボルト検査部と、を備えるボルト検査装置。
  2. 前記ボルト検出部は、静止画像から個々のボルトのボルト画像を検出するための機械学習を行った学習済みの第1学習モデルに静止画像を取り込むことで、個々のボルトのボルト画像を検出することを特徴とする請求項1に記載のボルト検査装置。
  3. 前記ボルト検査部は、ボルト画像からボルトの締付け状態を判定するための機械学習を行った学習済みの第2学習モデルにボルト画像を取り込むことで、ボルトの締付け判定を行うことを特徴とする請求項1又は2に記載のボルト検査装置。
  4. 前記ボルト検査装置は、表示装置にボルトの配列に合わせてボルトを模した画像を表示させ、ボルトの締付け判定の結果を表示させる表示制御部を備えることを特徴とする請求項1ないし3のいずれか一項に記載のボルト検査装置。
  5. 前記動画像は、無人飛行機に搭載された撮影装置により撮影されることを特徴とする請求項1ないし4のいずれか一項に記載のボルト検査装置。
  6. ボルトの締付け状態を検査するボルト検査方法であって、
    取り込まれたボルトの動画像から複数の静止画像を抽出し、各静止画像から個々のボルトのボルト画像を検出するボルト検出ステップと、
    検出された前記ボルト画像に位置情報を付与するボルトタグ付けステップと、
    同一のボルトを撮影した複数の前記ボルト画像に基づいてボルトの締付け状態の判定を行うボルト検査ステップと、を備えるボルト検査方法。
  7. ボルトの締付け状態を検査するためのコンピュータに請求項6に記載のボルト検査方法を実行させるためのプログラム。
  8. ボルトの動画像を撮影するための端末と、
    請求項1ないし5のいずれか一項に記載のボルト検査装置と、を備えるボルト検査システム。
JP2019129811A 2019-07-12 2019-07-12 ボルト検査装置、ボルト検査システム、ボルト検査方法及びプログラム Active JP7331509B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019129811A JP7331509B2 (ja) 2019-07-12 2019-07-12 ボルト検査装置、ボルト検査システム、ボルト検査方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019129811A JP7331509B2 (ja) 2019-07-12 2019-07-12 ボルト検査装置、ボルト検査システム、ボルト検査方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2021015041A true JP2021015041A (ja) 2021-02-12
JP7331509B2 JP7331509B2 (ja) 2023-08-23

Family

ID=74530815

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019129811A Active JP7331509B2 (ja) 2019-07-12 2019-07-12 ボルト検査装置、ボルト検査システム、ボルト検査方法及びプログラム

Country Status (1)

Country Link
JP (1) JP7331509B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021113755A (ja) * 2020-01-20 2021-08-05 Jfeエンジニアリング株式会社 ボルト検査装置、ボルト検査システム、ボルト検査方法及びプログラム
CN113790884A (zh) * 2021-09-28 2021-12-14 华能乌拉特中旗新能源发电有限公司 一种法兰连接螺栓状态用监测系统
CN113984315A (zh) * 2021-11-30 2022-01-28 东风商用车有限公司 一种振动模拟试验中螺栓的检测方法及系统
WO2023089659A1 (ja) * 2021-11-16 2023-05-25 太平洋工業株式会社 緩み検知装置、及び緩み検知プログラム
JP7457784B1 (ja) 2022-12-23 2024-03-28 楽天グループ株式会社 情報処理装置、方法及びプログラム

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08278116A (ja) * 1995-04-07 1996-10-22 Central Japan Railway Co ボルト緩み検査方法及びボルト緩み検査装置
JP2010230527A (ja) * 2009-03-27 2010-10-14 Kawasaki Heavy Ind Ltd 鉄道レール締結緩み検査装置及び方法
JP2013134190A (ja) * 2011-12-27 2013-07-08 Kddi Corp 検査補助装置及び方法
JP2014159981A (ja) * 2013-02-19 2014-09-04 Kddi Corp 検査補助装置
CN106226050A (zh) * 2016-07-15 2016-12-14 北京航空航天大学 一种tfds故障自动识别方法
JP2017227610A (ja) * 2016-06-24 2017-12-28 株式会社キーエンス 三次元測定装置
JP2018009932A (ja) * 2016-07-15 2018-01-18 清水建設株式会社 高力ボルト締付け状態の検知システムおよび方法
JP2018087592A (ja) * 2016-11-28 2018-06-07 株式会社内村 緩み検出具、緩み検出装置、緩み検出システム
JP2018194475A (ja) * 2017-05-18 2018-12-06 清水建設株式会社 ボルト位置の検出方法およびシステム
CN109658397A (zh) * 2018-12-12 2019-04-19 广州地铁集团有限公司 一种轨道巡检方法及系统
WO2019111976A1 (ja) * 2017-12-08 2019-06-13 日本電気通信システム株式会社 対象物検出装置、予測モデル作成装置、対象物検出方法及びプログラム

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08278116A (ja) * 1995-04-07 1996-10-22 Central Japan Railway Co ボルト緩み検査方法及びボルト緩み検査装置
JP2010230527A (ja) * 2009-03-27 2010-10-14 Kawasaki Heavy Ind Ltd 鉄道レール締結緩み検査装置及び方法
JP2013134190A (ja) * 2011-12-27 2013-07-08 Kddi Corp 検査補助装置及び方法
JP2014159981A (ja) * 2013-02-19 2014-09-04 Kddi Corp 検査補助装置
JP2017227610A (ja) * 2016-06-24 2017-12-28 株式会社キーエンス 三次元測定装置
CN106226050A (zh) * 2016-07-15 2016-12-14 北京航空航天大学 一种tfds故障自动识别方法
JP2018009932A (ja) * 2016-07-15 2018-01-18 清水建設株式会社 高力ボルト締付け状態の検知システムおよび方法
JP2018087592A (ja) * 2016-11-28 2018-06-07 株式会社内村 緩み検出具、緩み検出装置、緩み検出システム
JP2018194475A (ja) * 2017-05-18 2018-12-06 清水建設株式会社 ボルト位置の検出方法およびシステム
WO2019111976A1 (ja) * 2017-12-08 2019-06-13 日本電気通信システム株式会社 対象物検出装置、予測モデル作成装置、対象物検出方法及びプログラム
CN109658397A (zh) * 2018-12-12 2019-04-19 广州地铁集团有限公司 一种轨道巡检方法及系统

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
"構造用トルシア形高力ボルト使用の手引き", 2016-フルサト総合カタログ, JPN7020001616, 1 June 2016 (2016-06-01), JP, pages 290 - 293, ISSN: 0004817613 *
THANH-CANH HUYNH, JAE-HYUNG PARK, HYUNG-JO JUNG, JEONG-TAE KIM: "Quasi-autonomous bolt-loosening detection method using vision-based deep learning and image processi", AUTOMATION IN CONSTRUCTION, vol. 105, JPN6022049195, 22 May 2019 (2019-05-22), NL, pages 102844, ISSN: 0005021496 *
XIANGXIONG KONG AND JIAN LI: "Image Registration-Based Bolt Loosening Detection of Steel Joints", SENSORS, vol. Vol.18, No.4, 1000, JPN6023028412, 28 March 2018 (2018-03-28), CH, pages 1 - 20, ISSN: 0005103610 *
XUEFENG ZHAO, YANG ZHANG, NIANNIAN WANG: "Bolt loosening angle detection technology using deep learning", STRUCTURAL CONTROL HEALTH MONITORING, vol. 26, JPN6022049197, 20 November 2018 (2018-11-20), US, pages 2292, ISSN: 0004925444 *
YANG ZHANG, XIAOWEI SUN, KENNETH J LOH, WENSHENG SU, ZHIGANG XUE, AND XUEFENG ZHAO: "Autonomous bolt loosening detection using deep learning", STRUCTURAL HEALTH MONITORING, vol. Volume 19, Issue 1, JPN6023011864, 19 March 2019 (2019-03-19), US, pages 105 - 122, ISSN: 0005021497 *
ルールベースの外観検査装置(VOL.8), JPN6023028413, 12 November 2018 (2018-11-12), JP, ISSN: 0005103611 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021113755A (ja) * 2020-01-20 2021-08-05 Jfeエンジニアリング株式会社 ボルト検査装置、ボルト検査システム、ボルト検査方法及びプログラム
JP7200955B2 (ja) 2020-01-20 2023-01-10 Jfeエンジニアリング株式会社 ボルト検査装置、ボルト検査システム、ボルト検査方法及びプログラム
CN113790884A (zh) * 2021-09-28 2021-12-14 华能乌拉特中旗新能源发电有限公司 一种法兰连接螺栓状态用监测系统
WO2023089659A1 (ja) * 2021-11-16 2023-05-25 太平洋工業株式会社 緩み検知装置、及び緩み検知プログラム
CN113984315A (zh) * 2021-11-30 2022-01-28 东风商用车有限公司 一种振动模拟试验中螺栓的检测方法及系统
JP7457784B1 (ja) 2022-12-23 2024-03-28 楽天グループ株式会社 情報処理装置、方法及びプログラム

Also Published As

Publication number Publication date
JP7331509B2 (ja) 2023-08-23

Similar Documents

Publication Publication Date Title
JP7331509B2 (ja) ボルト検査装置、ボルト検査システム、ボルト検査方法及びプログラム
US10949676B2 (en) Aerial monitoring system and method for identifying and locating object features
Kwon et al. A defect management system for reinforced concrete work utilizing BIM, image-matching and augmented reality
JP7200955B2 (ja) ボルト検査装置、ボルト検査システム、ボルト検査方法及びプログラム
FI3452959T3 (fi) Mallin rakentaminen neuroverkossa objektin havaitsemista varten
EP3049793B1 (en) Structural hot spot and critical location monitoring
US20200234425A1 (en) Inspection support system, learning device, and determination device
US20180286030A1 (en) System and method for testing an electronic device
JP7217660B2 (ja) ボルトの締結状態検知装置及び方法、並びにプログラム
JP4855464B2 (ja) 不良原因設備特定システム
US11663815B2 (en) System and method for inspection of heat recovery steam generator
CN116257930A (zh) 用于交通工具的远程视觉检测的三维检测孪生体
CN111311545A (zh) 集装箱检测方法、装置及计算机可读存储介质
Hartl et al. Automated visual inspection of friction stir welds: a deep learning approach
US11959862B2 (en) Damage figure creation supporting apparatus, damage figure creation supporting method, damage figure creation supporting program, and damage figure creation supporting system
Harishyam et al. Visual inspection of mechanical components using visual imaging and machine learning
Pratibha et al. Deep Learning-Based YOLO Network Model for Detecting Surface Cracks During Structural Health Monitoring
JP2010015448A (ja) 地物形状変化検出プログラム、及び、地物形状変化検出システム
Mysiuk et al. Detection of Surface Defects Inside Concrete Pipelines Using Trained Model on JetRacer Kit
JP2020042673A (ja) 検証装置
CN113486958A (zh) 一种锯链缺陷检测方法、存储介质及系统
Shao et al. Damage Detection of the RC Building in TLS Point Clouds Using 3D Deep Neural Network PointNet++
WO2022259910A1 (ja) 情報処理装置、情報処理方法およびプログラム
JPWO2020158630A1 (ja) 検出装置、学習器、コンピュータプログラム、検出方法及び学習器の生成方法
JP2011154463A (ja) 不具合解析装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210909

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220901

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230328

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230428

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230711

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230724

R150 Certificate of patent or registration of utility model

Ref document number: 7331509

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150