JP7476814B2 - 検査装置 - Google Patents

検査装置 Download PDF

Info

Publication number
JP7476814B2
JP7476814B2 JP2021011597A JP2021011597A JP7476814B2 JP 7476814 B2 JP7476814 B2 JP 7476814B2 JP 2021011597 A JP2021011597 A JP 2021011597A JP 2021011597 A JP2021011597 A JP 2021011597A JP 7476814 B2 JP7476814 B2 JP 7476814B2
Authority
JP
Japan
Prior art keywords
inspection
endoscope camera
unit
imaging unit
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021011597A
Other languages
English (en)
Other versions
JP2022115133A (ja
Inventor
亮介 佐藤
貴丈 中田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2021011597A priority Critical patent/JP7476814B2/ja
Priority to CN202111392987.2A priority patent/CN114813782A/zh
Publication of JP2022115133A publication Critical patent/JP2022115133A/ja
Application granted granted Critical
Publication of JP7476814B2 publication Critical patent/JP7476814B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/954Inspecting the inner surface of hollow bodies, e.g. bores

Description

本開示は、物品の内部を検査するために用いられる検査装置に関する。
撮像素子を備える内視鏡を被検査対象物の内部に挿入し、撮像素子によって取得された画像データを用いて、被検査対象物の内部の異常を検出する内視鏡装置が知られている(例えば、特許文献1)。
特開2005-55756号公報
従来の技術では、被検査対象物の内部における画像データの取得や内視鏡を移動させるための操作は、人がリモコンを操作することによって行われるため効率的ではなかった。そのため、被検査対象物の内部を効率的に検査することができる技術が求められている。
本開示は、以下の形態として実現することが可能である。
本開示の第1の形態によれば、物品の内部を検査するために用いられる検査装置が提供される。この検査装置は、画像を取得する撮像部を備える内視カメラと、前記内視カメラを移動させる内視カメラ移動部と、前記内視カメラ移動部を制御して、前記内視カメラを、前記物品の内部構造を表すデータを用いて予め設定される前記物品の内部の検査経路データに沿って移動させ、前記撮像部を制御して、前記物品の内部画像を取得する制御装置と、前記内視カメラとは異なるカメラによって前記物品の種類又は製造番号を認識し、認識した前記物品の種類又は製造番号に対応する3次元モデルデータを前記物品の内部構造を表すデータとして用いて、前記検査経路データを生成する経路生成部と、を備え、前記制御装置は、前記内部画像を用いて前記物品の内部の異常を検出する異常検出部を備え、前記制御装置は、前記異なるカメラを用いた画像認識により、前記内視カメラを検査の開始位置に配置し、前記制御装置は、前記撮像部によって予め定められた期間ごとに取得される複数の内部画像に含まれる同一の物体の位置の変化から前記撮像部の移動距離を演算し、前記開始位置からの累積の移動距離を算出することによって、前記検査経路データにおける前記撮像部の位置を取得する位置取得部、を備え、前記制御装置は、前記位置取得部によって取得される前記撮像部の位置と、前記異常を検出した位置とを関連付けて記憶する
(1)本開示の一形態によれば、物品の内部を検査するために用いられる検査装置が提供される。この検査装置は、画像を取得する撮像部を備える内視カメラと、前記内視カメラを移動させる内視カメラ移動部と、前記内視カメラ移動部を制御して、前記内視カメラを、前記物品の内部構造を表すデータを用いて予め設定される前記物品の内部の検査経路データに沿って移動させ、前記撮像部を制御して、前記物品の内部画像を取得する制御装置と、を備える。
この形態の検査装置によれば、人がリモコンを操作することなく、物品の内部の検査経路上の画像データを取得することができる。したがって、検査対象の内部を効率的に検査することができる。
(2)上記形態の検査装置において、前記制御装置は、前記内部画像を用いて前記物品の内部の異常を検出する異常検出部を備えてよい。
この形態の検査装置によれば、人がリモコンを操作することなく、物品の内部の検査経路上の異常を検出することができる。したがって、検査対象の内部をより効率的に検査することができる。
(3)上記形態の検査装置において、前記制御装置は、前記撮像部によって予め定められた期間ごとに取得される複数の画像と、前記複数の画像に含まれる被写体画像とを用いて、前記検査経路データにおける前記撮像部の位置を取得する位置取得部、を備えてよい。
この形態の検査装置によれば、検査用に取得する画像を撮像部の位置の取得に用いることができるので、位置検出のための装置を別に設けることなく、撮像部の位置を検出することができる。
(4)上記形態の検査装置において、前記制御装置は、前記位置取得部によって取得される前記撮像部の位置と、前記異常を検出した位置とを関連付けて記憶してよい。
この形態の検査装置によれば、作業者は検査結果から物品の内部における異常の位置を容易に認識することができる。
(5)上記形態の検査装置において、さらに、前記物品の3次元モデルデータを用いて、前記検査経路データを生成する経路生成部、を備えてよい。
この形態の検査装置によれば、検査対象の3次元モデルデータをそのまま検査装置の検査に用いることができる。
(6)上記形態の検査装置において、前記内視カメラ移動部は、前記内視カメラの少なくとも一部を把持することができる複数のローラであって、前記ローラの回転方向を切り換えることによって、前記内視カメラを前進または後進させる複数のローラを含んでよい。
この形態の検査装置によれば、ローラで本体を把持することによって、内視カメラを安定して移動させることができる。
(7)上記形態の検査装置において、前記物品は、車両に搭載される部品であってよい。
この形態の検査装置によれば、車両部品の製造工程に用いる検査装置を提供することができる。
本開示は、検査装置以外の種々の形態で実現することも可能である。例えば、物品の検査方法や検査装置の制御方法、その制御方法を実現するコンピュータプログラム、そのコンピュータプログラムを記録した一時的でない記録媒体等の形態で実現することができる。
本開示の第1実施形態としての検査装置を示す説明図。 アームエンド近傍を拡大して示す説明図。 制御装置の機能を示すブロック図。 検査装置の制御装置が実行する検査制御を示すフロー図。 検査対象としてのワークの3次元モデルを模式的に示す説明図。 異常検出部が異常検出を実行する状態を示す説明図。 位置取得部が画像データの特徴点を取得する状態を示す説明図。 位置取得部が撮像部の移動距離を取得する状態を示す説明図。 検査装置による検査結果データを示す説明図。
A.第1実施形態:
図1および図2を用いて、検査装置100の構成について説明する。図1は、本開示の第1実施形態としての検査装置100を示す説明図である。検査装置100は、検査対象としての物品の内部を検査するために用いられる。本開示では、物品には、例えば、一般的な装置や構造物などの工業製品が含まれ、動物や人体は含まれない。物品の内部には、物品の内側に存在する空間やその空間を規定する物品の壁面などの部材などが含まれる。物品には、例えば、ダイカストマシン等によって製造される鋳造品が含まれる。本実施形態では、検査対象は、シリンダヘッド、シリンダブロックなど、車両に搭載される種々の鋳造部品である。図1には、3次元空間の直交座標系を規定する3つの軸X,Y,Zが描かれている。X軸とY軸は水平方向の軸であり、Z軸は鉛直方向の軸である。
検査装置100は、内視カメラ装置50と、内視カメラ移動部80と、制御装置30とを備えている。内視カメラ装置50は、内視カメラ52と、内視カメラ制御部54と、を備えている。内視カメラ52は、内視鏡とも呼ばれる。内視カメラ52は、内視カメラ制御部54によって制御される。制御装置30は、例えばパーソナルコンピュータである。制御装置30は、内視カメラ装置50と、内視カメラ移動部80とを制御する。本実施形態では、内視カメラ移動部80には、ロボット40と、ローラ装置70と、後述する内視カメラ52の方向切換部524とが含まれる。検査装置100は、制御装置30がロボット40と、ローラ装置70と、方向切換部524とを制御することによって、内視カメラ52の移動や向きの切り換えなどの動作を制御することができる。
図1には、検査対象であるワークWKを載置するための架台60が示されている。ワークWKは、内部空間SPを有している。架台60には、ワークWKを保持するホルダ62が固定されている。架台60には、後述するロボットカメラ424で撮像可能なキャリブレーション用のマーク64が設置されている。
ロボット40は、ワークWKに対する内視カメラ52の相対的な位置を調節する。ロボット40は、基台44と、アーム42と、を備えている。ロボット40は、ロボット制御部20によって制御される。アーム42は、曲げ関節やねじり間接を含む複数の関節で順次接続されている。ロボット40は、1個以上の関節を有する任意の機構のアーム42を有してよい。
アーム42の先端部であるアームエンド422には、ローラ装置70と、ロボットカメラ424とが装着されている。本実施形態では、ローラ装置70は、内視カメラ52を一方向に沿って移動させる。具体的には、ローラ装置70は、ローラ装置70からワークWKに向かう方向(以下、「前進」とも呼ぶ)への内視カメラ52の送り出しと、ワークWKからローラ装置70に向かう方向(以下、「後進」とも呼ぶ)への内視カメラ52の巻き取りとを行う。
ロボットカメラ424で撮影された画像は、制御装置30に出力され、ワークWKの位置や形状を認識するために使用することができる。本実施形態では、ロボットカメラ424は、アーム42の原点位置を認識させるためのキャリブレーションと、ワークWKに対する検査の開始位置の認識とに用いられる。ロボット40は、予め設定された動作により、架台60に設けられるマーク64近傍にロボットカメラ424を配置する。ロボット40は、ロボットカメラ424によってマーク64を認識することにより、架台60に対する相対位置を認識するとともに、アーム42を原点位置へと配置する。ロボット40は、後述するように、ロボットカメラ424がワークWKに設けられる部材の形状や専用のマークを認識することによって、内視カメラ52を検査の開始位置へと配置する。
図2は、アームエンド422近傍を拡大して示す説明図である。図2には、アームエンド422に備えられるローラ装置70と、ローラ装置70に把持される内視カメラ52の先端近傍が示されている。図2に示すように、内視カメラ52は、撮像部522と、方向切換部524と、ケーブル526とを備えている。ケーブル526は、断面幅が5mmから10mm程度の長尺な中空管である。ケーブル526は、例えば、ポリウレタンやフッ素樹脂を用いた柔軟な部材であることが好ましい。ケーブル526の先端には、撮像部522が設けられている。ケーブル526の他端は、内視カメラ制御部54に接続されている。
撮像部522は、例えば、CCDなどの固体撮像素子であり、検査対象の画像を取得するために用いられる。撮像部522には、固体撮像素子のほかに対物レンズが備えられ、固体撮像素子はその焦点面に配置されている。撮像部522は、ケーブル526内に挿通される信号線を介して内視カメラ制御部54に接続されている。ケーブル526の先端には、撮像部522のほか、物体内の明るさを調節するためのライトガイド、検査対象内の異物を回収する鉗子、ケーブル526先端から流体を送り出すためのノズルなどが備えられていてもよい。撮像部522は、光ケーブルを介して内視カメラ制御部54に接続されてもよい。撮像部522は、例えば、ケーブル526の先端以外に備えられてよく、この場合には、撮像部522は、例えば、ケーブル526の先端に配置されるレンズから取り入れた光を、光ファイバを介して検出することによって、検査対象の画像を取得する。
方向切換部524は、ケーブル526の先端近傍に設けられている。方向切換部524は、制御装置30の制御のもとで内視カメラ制御部54によって操作される。具体的には、方向切換部524は、ケーブル526内に挿通された図示しないワイヤ等が内視カメラ制御部54によって操作されることで動作する。方向切換部524は、図2に方向M2として示すように、内視カメラ52の先端の向きを、ケーブル526の軸方向と交差する任意の一方向に沿って、所定の範囲内で切り換えることができる。その結果、撮像部522による画角を所望の方向に切り換えることができる。方向切換部524は、一方向には限らず、互いに交差する2方向に沿って内視カメラ52の方向を切り換えてもよい。
内視カメラ制御部54は、信号線を介して制御装置30と接続されている。撮像部522から取得した画像データは、制御装置30に出力される。内視カメラ制御部54は、制御装置30から入力される操作信号により、撮像部522から取得した画像信号の処理、方向切換部524による内視カメラ52の方向の切り換え、ライトガイドの光源の動作などを制御する。
図2には、ローラ装置70の構成が模式的に示されている。本実施形態では、ローラ装置70は、第一ローラ71と、第二ローラ72との互いに対向する一対のローラを備えている。第一ローラ71と、第二ローラ72とは、互いに近接しており、その間にケーブル526の一部を把持している。ローラ装置70は、ケーブル526には限らず方向切換部524や撮像部522を把持してもよい。ローラ装置70は、第一ローラ71と、第二ローラ72との2つのローラに限らず、3以上のローラを備えてもよい。ローラ装置70は、制御装置30による制御のもとで内視カメラ52を把持した状態の第一ローラ71と、第二ローラ72との回転方向を切り換えることによって、図2に示す方向M1に沿って内視カメラ52を前進または後進させる。
図3は、制御装置30の機能を示すブロック図である。制御装置30は、マイクロプロセッサ32と、メモリ34と、インターフェイス回路36とを備えている。インターフェイス回路36には、ロボット制御部20と、内視カメラ制御部54と、液晶ディスプレイなどの表示部38とが接続されている。
メモリ34には、経路生成部341と、位置取得部342と、異常検出部343との動作プログラムと、CADプログラム344と、CAMプログラム345と、ロボット動作プログラムRPと、内視カメラ動作プログラムCPと、過去の検査結果を示す検査結果データHDとが格納されている。マイクロプロセッサ32が、メモリ34に格納されたコンピュータプログラムを実行することによって、検査装置100の各部の機能が実現される。ただし、これら各部の機能の一部又は全部はハードウェア回路で実現されてもよい。
CADプログラム344は、検査対象の設計データを生成するためのCAD(computer aided design)ソフトウェアである。CAMプログラム345は、内視カメラ移動部80の動作プログラムを生成するCAM(computer aided manufacturing)ソフトウェアである。CAMプログラム345は、CADプログラム344を用いて生成された検査経路データを用いて、内視カメラ52を検査経路に沿って移動させるためのロボット動作プログラムRP、ローラ装置70の動作プログラム、ならびに内視カメラ動作プログラムCPを生成する。ロボット動作プログラムRPは、ロボット40を動作させる複数の命令で構成されている。内視カメラ動作プログラムCPは、内視カメラ52を動作させる複数の命令で構成されている。
経路生成部341は、CADプログラム344を用いて生成された検査対象の3次元モデルデータを用いて、内視カメラ52の検査経路データを生成する。位置取得部342は、撮像部522が取得する画像データを用いて、検査経路における撮像部522の位置情報を取得する。異常検出部343は、撮像部522が取得する画像データに基づいて画像処理を行い、検査対象の内部の異常を検出する。撮像部522が取得する画像データを用いて、人が異常の有無を直接確認する場合には、異常検出部343は省略されてよい。
図4は、本実施形態の検査装置100の制御装置30が実行する検査制御を示すフロー図である。図4に示すフローは、例えば、使用者によって、検査装置100のスタートスイッチが押し下げられることによって開始する。
ステップS10では、経路生成部341は、検査対象であるワークWK内の検査経路を設定する。例えば、使用者がCADソフトウェアを操作し、ワークWKの3次元モデルデータを指定し、3次元モデルデータ上の検査すべき内部空間を指定する。経路生成部341は、内視カメラ52のサイズや方向切換部524による内視カメラ52の可動範囲を含む内視カメラ52に関する3次元モデルデータの設定情報を、メモリ34から読み出す。
経路生成部341は、3次元モデルデータとしてのワークWKの内部空間内に、内視カメラ52が移動可能な経路を抽出し、検査経路として生成する。表示部38には、使用者による検査経路や検査位置が容易となるように、ワークWKの3次元モデルデータに検査経路を表示してもよく、検査経路とともに撮像部522によって撮像可能なエリアが表示されてもよい。経路生成部341は、検査制御の開始とともに、例えば、ロボットカメラ424によってワークWKの種類や製造番号を認識し、認識したワークWKに対応する3次元モデルデータ等の情報をメモリ34から読み出すことにより、検査の開始とともに検査対象の検査経路を自動的に生成してもよい。検査経路を生成した経路生成部341は、CAMプログラム345を用いて、内視カメラ52を検査経路に沿って移動させるために必要なロボット動作プログラムRPならびに内視カメラ動作プログラムCPを生成する。本フローの開始前に予め検査経路が設定される場合には、ステップS10は省略されてよい。
ステップS20では、制御装置30は、ロボット40を制御して、内視カメラ52をワークWKの検査経路における検査開始位置へ移動させる。ステップS30では、制御装置30は、内視カメラ装置50を制御して、撮像部522による撮像を開始する。ステップS40では、制御装置30は、ローラ装置70を駆動して、内視カメラ52を検査経路に沿って移動させる。内視カメラ52の移動には、ローラ装置70の第一ローラ71、第二ローラ72の正転方向の回転による内視カメラ52の前進と、第一ローラ71、第二ローラ72の逆転方向の回転による内視カメラ52の後進とが含まれる。
ステップS50では、位置取得部342は、検査経路における撮像部522の位置を取得する。位置取得部342は、後述するように、撮像部522によって予め定められた期間ごとに取得される複数の画像と、この複数の画像に含まれる被写体画像とを用いて撮像部522の移動距離を算出する。位置取得部342は、算出した移動距離を積算することによって、検査経路における撮像部522の位置を取得する。
ステップS60では、異常検出部343は、撮像部522により取得された画像データを用いてワークWK内の異常を検出する。本実施形態では、異常検出部343は、異常の検出にディープラーニングを利用している。異常検出部343は、異常の検出位置を、位置取得部342により取得された撮像部522の位置情報に関連付けてメモリ34の検査結果データHDとして記憶させる。ステップS70では、制御装置30は、すべての検査経路での検査が完了したか否かを確認する。すべての検査経路での検査が完了していない場合(S70:NO)、制御装置30は、ステップS80に移行する。
ステップS80では、制御装置30は、検査経路を確認し、内視カメラ52を検査経路上の次の位置に移動させるために、内視カメラ52の方向の切換が必要か否かを確認する。内視カメラ52の方向の切換が必要ない場合には(S80:NO)、制御装置30は、ステップS40に戻り検査を継続する。内視カメラ52の方向の切換が必要である場合(S80:YES)、制御装置30は、ステップS82に移行する。ステップS82では、制御装置30は、方向切換部524を制御し、検査経路上の次の移動位置に対応する向きに内視カメラ52の方向を切り換える。制御装置30は、方向切換部524による内視カメラ52の方向の切換に代えて、またはそれとともに、ロボット40のアーム42を制御して内視カメラ52の方向を切り換えてもよい。制御装置30は、ワークWKを内視カメラ52に対して回転または移動させることによって、ワークWKに対する内視カメラ52の方向を切り換えてもよい。ステップS70において、すべての検査経路での検査が完了した場合には(S70:YES)、本フローを終了する。制御装置30は、検査の完了とともに、表示部38に検査結果を表示してもよい。
図5から図9までを用いて、検査装置100による検査制御の詳細について説明する。図5は、検査対象としてのワークWK1の3次元モデルを模式的に示す説明図である。ワークWK1は、検査対象の一例としてのシリンダブロックである。ワークWK1は、開口OP1と、開口OP1と連通する内部空間SP1と、開口OP2と、開口OP2と連通する内部空間SP2とを備えている。開口OP1および開口OP2は互いに略同一形状であり、内部空間SP1および内部空間SP2は互いに略同一形状である。
図5には、経路生成部341によって生成された検査経路IRが示されている。使用者が制御装置30を操作して3次元モデルデータのワークWK1の内部空間SP1と内部空間SP2とを指定すると、経路生成部341は、内部空間SP1および内部空間SP2の内部に内視カメラ52が移動可能な検査経路データとして、検査経路IRを生成する。図5に示すように、検査経路IRは、検査開始位置PSから、検査位置P1、検査位置P2の順序で検査する略円筒形状の内部空間SP1の検査経路と、検査位置P3から、検査位置P4、検査終了位置PEの順序で検査する略円筒形状の内部空間SP2の検査経路である。検査開始位置PSから検査位置P1までの検査経路の方向に対して、検査位置P1から検査位置P2までの検査経路の方向は所定の角度で屈曲している。同様に、検査位置P3から検査位置P4までの検査経路の方向に対して、検査位置P4から検査終了位置PEまでの検査経路の方向は所定の角度で屈曲している。
検査制御が実行されると、制御装置30は、ロボット40を制御して、内視カメラ52を検査開始位置PS近傍に移動させる。本実施形態では、制御装置30は、アームエンド422に設けられたロボットカメラ424を用いた画像認識により、開口OP1を検出する。制御装置30は、さらに、ロボット40のアーム42を制御して、ローラ装置70による内視カメラ52の移動方向が、検査経路IRの進行方向と一致するように、内視カメラ52の向きを調節してもよい。制御装置30は、例えば、開口OP1の画像データを用いて開口OP1の中心を検出して、検出した開口OP1の中心に内視カメラ52を移動させるなど、ワークWK1の画像データを用いて内視カメラ52の検査開始位置PSへの配置の微調整を実行してもよい。
制御装置30は、内視カメラ52を検査開始位置PSに配置すると、内視カメラ装置50を制御して、撮像部522による撮像を開始する。本実施形態では、制御装置30は、撮像部522により所定のフレームレートによる動画の撮影を開始する。動画のフレームレートは、内視カメラ52の移動距離や内視カメラ52の移動速度に基づいて任意に設定されてよい。撮像部522による撮像は、動画に限らず、例えば、静止画であってよく、静止画は検査位置ごとに取得されてもよい。
制御装置30は、撮像部522による動画の撮影を開始すると、ローラ装置70を制御して、内視カメラ52を検査開始位置PSから検査位置P1まで前進させる。内視カメラ52が移動している間、異常検出部343は、撮像部522から取得される画像データを用いて異物の検出を実行し、位置取得部342は、撮像部522から取得される画像データを用いて検査経路IRにおける撮像部522の位置を取得する。
制御装置30は、内視カメラ52を検査位置P1まで移動させると、方向切換部524を制御して、次に移動すべき検査位置P2に向かう方向に内視カメラ52の方向を切り換える。制御装置30は、ローラ装置70を制御して、内視カメラ52を検査位置P1から検査位置P2まで前進させる。制御装置30は、検査位置P2までの検査を終えると、ローラ装置70を制御し、内視カメラ52を後進させて内部空間SP1から取り出し、ロボット40を制御して、内視カメラ52を検査位置P3に移動させる。制御装置30は、内部空間SP1での検査と同様に、検査位置P3から検査位置P4を経由して、検査終了位置PEまでの内部空間SP2の検査を行う。
図6は、異常検出部343が異常検出を実行する状態を示す説明図である。図6には、撮像部522がワークWK1の内部空間SP1,SP2で撮像した動画のうち、1フレーム分の画像データの例が示されている。図6に示すように、異常検出部343は、異常FM1を検出している。異常検出部343によって検出される異常には、例えば、検査対象への異物の付着、検査対象の欠損、壁面上の凹凸、ならびに鋳巣とも呼ばれる鋳造品に形成される空洞などが含まれる。本実施形態では、異常検出部343は、過去に取得した異常を示す画像のデータベースを用いたディープラーニング(深層学習とも呼ばれる)による画像認識を利用し、撮像部522によって取得された画像データを解析することによって異常を検出する。この形態の検査装置100によれば、異常の検出精度を向上させることができる。
図7および図8を用いて、位置取得部342による撮像部522の位置の取得方法について説明する。図7は、位置取得部342が画像データの特徴点を取得する状態を示す説明図である。図8は、位置取得部342が撮像部522の移動距離を取得する状態を模式的に示す説明図である。図7には、撮像部522がワークWK1の内部空間SP1,SP2で撮像した動画のうち、1フレーム分の画像データの例が示されている。図8には、撮像部522が図7に示す画像データを取得した後に所定の距離だけ検査経路IR上を移動した状態で撮像部522が撮像した1フレーム分の画像データの例が示されている。
図7および図8には、内部空間SP1内の物体OB1が示されている。物体OB1は、位置取得部342が画像データから検出した被写体画像の一例である。物体OB1としては、内部空間SP1,SP2の壁面上の凹凸、内部空間SP1,SP2に存在する異物、内部空間SP1,SP2に備えられる構造体などの種々の物体を用いることができる。
図7および図8には、位置取得部342によって抽出された複数の特徴点FPが示されている。位置取得部342は、画像データの輝度などの情報から、例えば、角や線の交わり、エッジなどの他と区別できるような固有の点の座標を検出し、特徴点FPを抽出する。位置取得部342は、検出した特徴点FPの固有性をベクトルやバイナリコードで表現した特徴量として算出し、対応付ける画像データ同士の特徴量を比較してマッチングを行う。位置取得部342は、図7に示す画像データと、図8に示す画像データとで、特徴点FPを用いたマッチングを行うことにより、図7に示す物体OB1と、図8に示す物体OB1とが同一の物体であることを認識する。特徴点のマッチングには、例えば、SIFT(scale-invariant feature transformation)のほか、SURF、AKAZEなどの手法が用いられてよい。位置取得部342は、さらに、特徴点FPまでの距離、すなわち物体OB1までの距離を、例えば、三角視野測量やSLAM(Simultaneous Localization and Mapping)などを用いて求めることができる。
図8には、技術の理解を容易にするために、検査経路IRを移動する前の物体OB1の位置、すなわち図7での物体OB1の位置を、物体OB2として概念的に示している。図8に距離DTとして示すように、位置取得部342は、同一の物体としての物体OB1の位置の変化から物体OB2と物体OB1との距離DTを演算し、距離DTを撮像部522の移動距離として取得する。位置取得部342は、撮像部522が取得する動画の所定のフレームごとに移動距離を取得する。位置取得部342は、取得した移動距離を積算し、検査開始位置PSからの累積の移動距離を算出することによって、検査経路IRにおける撮像部522の現在位置を取得する。
異常検出部343は、異常の検出位置を、位置取得部342により取得された撮像部522の位置情報に関連付けてメモリ34の検査結果データHDとして記憶させる。位置取得部342は、画像データを用いた移動距離の取得のほか、例えば、ローラ装置70の第一ローラ71および第二ローラ72のエンコーダから取得した内視カメラ52の送り量を撮像部522の移動距離としてもよい。
図9は、検査装置100による検査結果データHDを示す説明図である。図9には、検査結果データHDが表示部38に表示された状態が示されている。図9では、ワークWK1の三次元モデルの図示は省略されている。図9に示すように、異常検出部343および位置取得部342によって検出された異常の位置情報DF01~DF05が検査経路IR上にマッピングされている。作業者は、例えば、表示部38から、検査経路IR上の異常の位置情報DF01~DF05を視認して、ワークWK1から異常の除去を行うことができる。
以上、説明したように、本実施形態の検査装置100によれば、ロボット40と、ローラ装置70と、方向切換部524とを含む内視カメラ移動部80を制御して、内視カメラ52をワークWK1の内部空間SP1,SP2の検査経路IRに沿って移動させ、撮像部522を制御して、物品の内部画像を取得する。したがって、本実施形態の検査装置100は、人がリモコンを操作することなく、ワークWK1の内部空間SP1,SP2の検査経路IR上の画像データを取得することができる。したがって、検査対象の内部を効率的に検査することができる。
本実施形態の検査装置100によれば、制御装置30は、内部画像を用いてワークWK1の内部の異常を検出する異常検出部を備えている。人がリモコンを操作することなく、ワークWK1の内部空間SP1,SP2の検査経路IR上の異常を検出することができる。したがって、検査対象の内部をより効率的に検査することができる。また、人為的な異常の検出ミスなどを低減または防止することができる。
本実施形態の検査装置100によれば、位置取得部342は、撮像部522によって取得される複数の画像データに含まれる物体OB1を用いた特徴点のマッチングにより、撮像部522の移動距離を算出し、検査経路IRにおける撮像部522の位置を取得する。異常検出に用いられる画像データを位置検出に用いることができるので、例えば、LiDARなどの測距装置やGNSS(Global Navigation Satellite System)などの位置検出のための装置を別に設けることなく、撮像部522の位置を検出することができる。例えば、ローラ装置70による内視カメラ52の送り量と、実際の内視カメラ52の移動量との誤差が発生した場合であっても、撮像部522の適正な位置を検出することができる。
本実施形態の検査装置100によれば、異常検出部343は、位置取得部342が取得する撮像部522の位置に、異常検出部343が取得する異常FM1を検出した位置を関連付けて検査結果データHDとして記憶する。したがって、作業者は検査経路IR上の異常FM1の位置を容易に認識することができる。
本実施形態の検査装置100によれば、経路生成部341は、物品の3次元モデルデータを用いて、検査経路IRを生成する。したがって、3次元CADソフトウェアで設計したワークWK1の3次元モデルデータをそのまま検査装置100の検査に用いることができる。本実施形態の検査装置100によれば、検査装置100による検査を実行中に異なる内部構造を有する検査対象に切り換えられた場合であっても、検査を停止することなく異なる内部構造に対応する検査経路を生成し、検査を停止することなく継続することができる。
本実施形態の検査装置100によれば、ローラ装置70は、内視カメラ52を把持するための一対のローラ71,72を備えている。ローラ装置70は、ローラの回転方向を切り換えることによって、内視カメラ52を前進または後進させる。ローラで内視カメラ52を把持することによって、内視カメラ52を安定して移動させることができる。例えば、エンコーダなどのローラの回転量を用いることにより、検査経路IR上の内視カメラ52の移動量を検出し、撮像部522の位置検出の精度を向上することができる。
本実施形態の検査装置100によれば、物品は、シリンダヘッド、シリンダブロックなど、車両に搭載される部品である。したがって、検査装置100を車両部品の製造工程に用いることができる。
B.他の実施形態:
(B1)上記実施形態では、検査装置100の検査対象となる物品が、シリンダヘッド、シリンダブロックなど、車両に搭載される鋳造部品である例を示した。これに対して、検査対象となる物品は、車両に搭載される鋳造部品以外の物品であってよく、例えば、航空機、船舶、ならびに電車などの移動体に搭載される部品であってよく、建築物や建材などの種々の構造物であってもよい。検査対象となる物品は、例えば、原子炉であってもよい。この形態の検査装置100によれば、内視カメラ52による原子炉の内部の検査を自動で行うことができるので、人が放射線に曝されることを抑制することができる。
(B2)上記実施形態では、検査装置100は、ロボット40および内視カメラ装置50の双方を制御する1つの制御装置30を備える例を示した。これに対して、検査装置100は、例えば、ロボット40を制御する制御装置と、内視カメラ装置50を制御する制御装置との2つの制御装置を備えてよく、3以上の複数の制御装置を備えていてもよい。
(B3)上記実施形態では、内視カメラ移動部80には、ロボット40と、ローラ装置70と、方向切換部524とが含まれる。これに対して、内視カメラ移動部80には、例えば、内視カメラ52を移動させる方向が直線状のみである場合には、ロボット40および方向切換部524は省略されてもよい。内視カメラ移動部80は、検査経路に対応する内視カメラ52の移動方向を実現するために必要な、ロボット40と、ローラ装置70と、方向切換部524との少なくともいずれかを備える形態であってよい。
本開示は、上述の実施形態に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態の技術的特徴は、上述の課題の一部又は全部を解決するために、あるいは、上述の効果の一部又は全部を達成するために、適宜、差し替えや、組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
20…ロボット制御部、30…制御装置、32…マイクロプロセッサ、34…メモリ、36…インターフェイス回路、38…表示部、40…ロボット、42…アーム、44…基台、50…内視カメラ装置、52…内視カメラ、54…内視カメラ制御部、60…架台、62…ホルダ、64…マーク、70…ローラ装置、71…第一ローラ、72…第二ローラ、80…内視カメラ移動部、100…検査装置、341…経路生成部、342…位置取得部、343…異常検出部、344…CADプログラム、345…CAMプログラム、422…アームエンド、424…ロボットカメラ、522…撮像部、524…方向切換部、526…ケーブル、CP…内視カメラ動作プログラム、FM1…異常、FP…特徴点、HD…検査結果データ、IR…検査経路、OB1,OB2…物体、OP1,OP2…開口、RP…ロボット動作プログラム、SP,SP1,SP2…内部空間、WK,WK1…ワーク

Claims (3)

  1. 物品の内部を検査するために用いられる検査装置であって、
    画像を取得する撮像部を備える内視カメラと、
    前記内視カメラを移動させる内視カメラ移動部と、
    前記内視カメラ移動部を制御して、前記内視カメラを、前記物品の内部構造を表すデータを用いて予め設定される前記物品の内部の検査経路データに沿って移動させ、前記撮像部を制御して、前記物品の内部画像を取得する制御装置と、
    前記内視カメラとは異なるカメラによって前記物品の種類又は製造番号を認識し、認識した前記物品の種類又は製造番号に対応する3次元モデルデータを前記物品の内部構造を表すデータとして用いて、前記検査経路データを生成する経路生成部と、を備え
    前記制御装置は、前記内部画像を用いて前記物品の内部の異常を検出する異常検出部を備え、
    前記制御装置は、前記異なるカメラを用いた画像認識により、前記内視カメラを検査の開始位置に配置し、
    前記制御装置は、前記撮像部によって予め定められた期間ごとに取得される複数の内部画像に含まれる同一の物体の位置の変化から前記撮像部の移動距離を演算し、前記開始位置からの累積の移動距離を算出することによって、前記検査経路データにおける前記撮像部の位置を取得する位置取得部、を備え、
    前記制御装置は、前記位置取得部によって取得される前記撮像部の位置と、前記異常を検出した位置とを関連付けて記憶する、
    検査装置。
  2. 前記内視カメラ移動部は、前記内視カメラの少なくとも一部を把持することができる複数のローラであって、前記ローラの回転方向を切り換えることによって、前記内視カメラを前進または後進させる複数のローラを含む、請求項1に記載の検査装置。
  3. 前記物品は、車両に搭載される部品である、請求項1又は請求項2に記載の検査装置。
JP2021011597A 2021-01-28 2021-01-28 検査装置 Active JP7476814B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021011597A JP7476814B2 (ja) 2021-01-28 2021-01-28 検査装置
CN202111392987.2A CN114813782A (zh) 2021-01-28 2021-11-23 检查装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021011597A JP7476814B2 (ja) 2021-01-28 2021-01-28 検査装置

Publications (2)

Publication Number Publication Date
JP2022115133A JP2022115133A (ja) 2022-08-09
JP7476814B2 true JP7476814B2 (ja) 2024-05-01

Family

ID=82526580

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021011597A Active JP7476814B2 (ja) 2021-01-28 2021-01-28 検査装置

Country Status (2)

Country Link
JP (1) JP7476814B2 (ja)
CN (1) CN114813782A (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010246933A (ja) 2003-03-07 2010-11-04 Intuitive Surgical Inc 挿入深さを決定するシステム
JP2015513071A (ja) 2012-01-31 2015-04-30 シーメンス エナジー インコーポレイテッド 多軸検査スコープを用いて産業用ガスタービンおよび他の発電機械を自動光学検査するシステムおよび方法
JP2015526642A (ja) 2012-08-23 2015-09-10 シーメンス エナジー インコーポレイテッド 回転ギアモード中のオフライン産業用ガスタービンおよび他の発電機械の光学検査システムおよび方法
WO2020090959A1 (ja) 2018-10-31 2020-05-07 三菱重工業株式会社 検査用チューブの駆動制御装置、検査装置、検査方法、検査装置のプログラム、及び案内治具

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010246933A (ja) 2003-03-07 2010-11-04 Intuitive Surgical Inc 挿入深さを決定するシステム
JP2015513071A (ja) 2012-01-31 2015-04-30 シーメンス エナジー インコーポレイテッド 多軸検査スコープを用いて産業用ガスタービンおよび他の発電機械を自動光学検査するシステムおよび方法
JP2015513631A (ja) 2012-01-31 2015-05-14 シーメンス エナジー インコーポレイテッド 関節式多軸検査スコープを有する、産業用ガスタービン及び他の発電機械の自動光学検査のためのシステム及び方法
JP2015526642A (ja) 2012-08-23 2015-09-10 シーメンス エナジー インコーポレイテッド 回転ギアモード中のオフライン産業用ガスタービンおよび他の発電機械の光学検査システムおよび方法
WO2020090959A1 (ja) 2018-10-31 2020-05-07 三菱重工業株式会社 検査用チューブの駆動制御装置、検査装置、検査方法、検査装置のプログラム、及び案内治具

Also Published As

Publication number Publication date
CN114813782A (zh) 2022-07-29
JP2022115133A (ja) 2022-08-09

Similar Documents

Publication Publication Date Title
JP4021413B2 (ja) 計測装置
US9437005B2 (en) Information processing apparatus and information processing method
JP5911934B2 (ja) 輪郭線計測装置およびロボットシステム
US9279661B2 (en) Information processing apparatus and information processing method
US20170160077A1 (en) Method of inspecting an object with a vision probe
EP3421930B1 (en) Three-dimensional shape data and texture information generation system, photographing control program, and three-dimensional shape data and texture information generation method
JP6869159B2 (ja) ロボットシステム
JP2009214265A (ja) ロボット教示装置
JPWO2018043525A1 (ja) ロボットシステム、ロボットシステム制御装置、およびロボットシステム制御方法
TWI493153B (zh) 非接觸式物件空間資訊量測裝置與方法及取像路徑的計算方法
CN109477714B (zh) 非接触式测头和操作方法
EP3322959B1 (en) Method for measuring an artefact
JP5093058B2 (ja) ロボットの座標の結合方法
JP2019049467A (ja) 距離計測システムおよび距離計測方法
JP6973233B2 (ja) 画像処理システム、画像処理装置および画像処理プログラム
JP2010060556A (ja) 曲面部材計測システム及び方法
JP2008168372A (ja) ロボット装置及び形状認識方法
KR101972432B1 (ko) 레이저비전 센서 및 그 보정방법
JP2004239791A (ja) ズームによる位置計測方法
JP7476814B2 (ja) 検査装置
KR20240056516A (ko) 카메라 교정을 위한 카메라 모델을 생성하는 방법 및 시스템
JP6892462B2 (ja) 機械制御装置
JP2602292B2 (ja) 溶接システムおよび溶接方法
JP4565445B2 (ja) 顔情報計測システム
US11371828B2 (en) Coordinate measuring machine and method for measuring coordinates of a workpiece

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240123

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240311

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240401