JP6516884B2 - 結線検査作業支援システム - Google Patents

結線検査作業支援システム Download PDF

Info

Publication number
JP6516884B2
JP6516884B2 JP2017565494A JP2017565494A JP6516884B2 JP 6516884 B2 JP6516884 B2 JP 6516884B2 JP 2017565494 A JP2017565494 A JP 2017565494A JP 2017565494 A JP2017565494 A JP 2017565494A JP 6516884 B2 JP6516884 B2 JP 6516884B2
Authority
JP
Japan
Prior art keywords
work
camera terminal
image data
support system
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017565494A
Other languages
English (en)
Other versions
JPWO2017135107A1 (ja
Inventor
祐一 池田
祐一 池田
忠道 白石
忠道 白石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2017135107A1 publication Critical patent/JPWO2017135107A1/ja
Application granted granted Critical
Publication of JP6516884B2 publication Critical patent/JP6516884B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing

Description

この発明は、電気機器筺体や計装制御盤等の組立時におけるケーブル結線箇所の検査作業を支援する結線検査作業支援システムに関するものである。
一般にケーブルの結線箇所が多い機器筐体や制御盤などを製作する場合には、作業者が設計図面や作業指示書を参照しながら結線作業を実施した後に、検査者の目視による結線箇所の検査が行われる。
このとき作業者が結線作業に慣れていない場合には、結線を忘れたり(未接続)、誤ったケーブルを結線してしまう(誤結線)といった結線作業ミスが起きやすい。この場合、検査者が異常を発見した後に結線作業のやり直しが必要となり、製作完了までにかかる期間が延びてしまうことがある。
そこで作業者が結線作業をした後に、作業者自身で結線箇所を検査して、不備があればすぐにやり直しできるように、結線箇所を検査する機能を持つ結線検査作業支援システムを導入することが考えられる。
結線箇所を検査するための技術として、視線追跡装置と撮影装置を用いて作業者が目視している位置を撮影し、画像処理を行い、文字を判別してから予め記憶しているデータと比較することにより結線箇所を検査する技術があった(特許文献1参照)。
また、駆動部を有する撮影カメラを用いて図板上に配置されたワイヤーハーネスの外観を撮影し、撮像画像に基づき良否判定をする技術があった(特許文献2参照)。
特開2015−60339 特許第3533492号
機器筺体や制御盤内部では、ケーブルコネクタの嵌合、スクリューレス端子台でのケーブル結線、あるいは電力ケーブル端子接続などの結線作業が行われる。その場合コスト面や異物混入防止等の理由またはスペース等の制約から、結線するケーブルに対して識別属性である文字、記号ラベルが付かない場合がある。
そして上記特許文献1においては、結線箇所を検査する際に文字識別ラベルのない場合には、適用範囲が限定される。
更には上記特許文献2においては、撮像時には画像のぶれが起きないように撮像カメラと識別ラベル面との距離を一定に保つ必要がある。
また、機器筐体や制御盤内部のケーブルおよびケーブル接続器は、取り付け高さや角度の異なる様々な空間における位置並びに姿勢で配置されている状況がある。このような電源端子や制御基板上のコネクタなどの結線状態を検査する必要があるので、撮像条件範囲が制限される上記特許文献2を適用することは困難である。
この発明は上記のような課題を解決するためになされたものであり、電気機器や制御盤など盤内ケーブル実装後のケーブル結線状態の点検検査作業において、文字識別ラベルのないケーブルならびにコネクタにも適用できる結線検査作業支援システムを提供することを目的とする。
この発明に係る結線検査作業支援システムは、
査箇所を撮影することができるカメラ端末と、
画像処理に用いるための正規の結線状態を撮影した目標画像データ、上記検査箇所の形状に対応したマスク範囲を含むマスク範囲データ、及び判定閾値を保持する記憶部と、
標画像データに対してマスク範囲データを論理演算することにより目標特徴量を求めるとともに、マスク範囲データの回転角度を変えてカメラ端末から取得した画像データとマスク範囲データの論理演算をすることにより回転角度毎に特徴量を計算し、目標特徴量との差が最も小さい回転角度における特徴量と目標特徴量との差を評価値として、この評価値と判定閾値とを比較することにより結線作業の判定を行う画像処理部と、
画像処理部からの判定結果を通知する判定結果通知部を備えたものである。
以上のような結線検査作業支援システムによれば、文字を表示していない結線箇所に対しても適用でき、様々な位置および方向に存在する結線箇所を高速かつ正確に検査できる。
実施の形態1による結線検査作業支援システムの実施状況を示す概念図である。 実施の形態1による結線検査作業支援システムにおけるカメラ端末の構成を示す斜視図である。 実施の形態1による結線検査作業支援システムにおける作業者とのやり取りを示すシステム構成を示すブロック図である。 ディスプレイに表示される作業指示画面の一例を示す図である。 作業項目リスト部分の一例を示す図である。 実施の形態1による結線検査作業支援システムの動作を示すフローチャートである。 右側レーザーポインタおよび左側レーザーポインタからのレーザーの交点箇所を示す斜視図である。 画像処理部の処理内容を示すブロック構成図である。 設定画面の一例を示す図である。 作業項目リスト部分の一例を示す図である。 目標設定ダイアログの一例を示す図である。 実施の形態2による結線検査作業支援システムの実施状況を示す概念図である。 実施の形態2による結線検査作業支援システムにおけるカメラ端末の構成を示す斜視図である。
実施の形態1.
図1は実施の形態1による結線検査作業支援システムの実施状況を示す概念図である。結線検査作業支援システム本体10には、ケーブル11を介してカメラ端末12が接続されている。そして作業者47がカメラ端末12を携帯して作業を行う。図1においては、結線検査作業支援システムにおいて、ディスプレイ一体型のコンピュータを使用した場合を示しているが、ディスプレイとコンピュータが分かれて、両者がディスプレイ用ケーブル、あるいはWiFi(Wireless Fidelity)などの無線通信手段で接続されるようにしてもよい。さらにディスプレイはヘッドマウントディスプレイにより作業者が装着するものであってもよい。ケーブル11はUSBケーブルなど電力供給と信号伝送を行うものである。ケーブル11の代わりに信号伝送の目的でWiFiなどの無線通信手段で接続して、カメラ端末12にはバッテリを内蔵して電力供給を行うようにしてもよい。
図2はカメラ端末12の構成を示す斜視図であり、図2(A)はカメラ端末12の前面部を示す斜視図、図2(B)はカメラ端末12の背面部を示す斜視図である。カメラ端末12は内部にカメラおよび制御基板が設置されており、図2(A)に示すように、前面パネル20には撮影するためのカメラ開口部22、照準を合わせるための右側レーザーポインタ23および左側レーザーポインタ24、暗所で撮影できるようにするための右側照明25および左側照明26を備えている。又図2(B)に示すように、背面パネル30には判定結果通知部46の役割を有する緑色LED31、黄色LED32、赤色LED33およびカメラ端末12と結線検査作業支援システム本体10を接続するためのケーブル11が嵌合されるケーブル接続用ソケット34を備える。
図3は本実施形態による結線検査作業支援システムにおける作業者47とのやり取りを示すシステム構成を示すブロック図である。結線検査作業支援システムは作業指示部41、距離確認部42、カメラ端末12、画像処理部44、記憶部45、設定部49、判定結果通知部46から構成される。そしてカメラ端末12は対象物(結線箇所)48を撮影する。図4は作業指示部41が結線検査作業支援システム本体10のディスプレイに表示する作業指示画面50の一例を示すものである。作業項目リスト51には作業項目の一覧と各作業項目の完了あるいは未完了状態を示すチェックボックスが表示される。図5は図4における作業指示画面50における作業項目リスト部分の一例を示す図である。作業箇所表示52には現在作業指示をしている箇所の情報を表示する。作業箇所表示の一例として例えば電気機器筐体A、基板B、コネクタC等が表示される。
外観表示53には作業箇所の外観が示される。即ち電気機器筐体の中でどの部分の作業をするかなどを作業者が認識できるような画像を表示する。作業要領表示54には、作業者が作業内容を理解できるように作業要領を表示する。目標画像表示55には、作業者がカメラ端末12の位置や方向を変えて取るべき目標画像を表示する。撮影結果表示56には、カメラ端末12が撮影した画像データを表示する。作業指示表示57には作業者に作業内容を伝えるメッセージを表示する。図4においては、例えば「コネクタCにコネクタJを差し込む。」等の表示がなされる。判定結果表示58は判定結果通知部46の一つであり、作業者に判定結果をOKまたはNGの文字表示で伝えると共に、画像処理部44で演算した評価値と、記憶部45から取得した判定閾値を表示する。判定結果表示58の一例として例えば以下のようなものがある。
NG 評価値:169 判定閾値:50以下
さらに図4の選択ボタン59、設定ボタン60、目視OKボタン61、目視NGボタン62は、作業者が結線検査作業支援システム本体10のディスプレイのタッチパネルを押したり、結線検査作業支援システム本体10におけるマウスでカーソルを動かし該当ボタンを押下したりすることができるボタンである。選択ボタン59を押下したときには、記憶部45から作業対象名に関するデータを取得して、作業対象の一覧を表示する。作業対象の一覧から項目を選択すると、選択した作業対象における最初の作業箇所の作業指示内容が作業指示画面50に表示される。
次に設定ボタン60を押下したときには、後で図9に基づいて述べる設定画面70を表示して、作業箇所表示72、外観表示73、作業要領表示74、作業指示表示77に表示される項目を設定し、更には記憶部45に登録されている図8において示されるような、目標画像データD、マスク範囲データE、判定閾値及びこれらのデータ一式を識別するための作業対象名(例えばコネクタCの接続)をそれぞれ設定し、記憶部45に登録できるようにする。
目視OKボタン61を押下したときには、作業者の判断で判定結果をOKに設定して、次の作業箇所に移行する。目視NGボタン62を押下したときには、作業者の判断で判定結果をNGに設定して作業を終える。これらのボタンは、設定した目標画像データD、マスク範囲データE、判定閾値が適切でなかった場合など、画像処理部44による判定結果がOKとならない場合に、作業者の判断で次の作業をしたり、あるいは作業を終えられるようにするために用意されたものである。
図6は本実施形態による結線検査作業支援システムの動作を示すフローチャートであり、作業者側の操作およびシステム側の処理に分けて動作を経時的に示すものである。作業が開始されると(ステップS0)、作業者47はまず作業指示部41が結線検査作業支援システム本体10のディスプレイに表示している作業指示画面50における選択ボタン59を押下する(ステップS1)。結線検査作業支援システム本体10の作業指示部41が作業対象の一覧を表示する(ステップS10)ので、作業者47は一覧から作業対象を選択する(ステップS2)。その後作業指示部41が選択した作業対象の最初の作業項目を表示して(ステップS11)、図5に示されるような作業項目リスト51の各作業項目を未完了の表示状態(チェックマーク無し)にするので、作業者47は作業指示画面50の表示内容を確認する(ステップS3)。
作業者は図1に示すように電気機器筐体15におけるケーブル結線箇所16のような場所で結線作業をする(ステップS4)。結線作業をした後に、カメラ端末12を手に持ち、ケーブル結線箇所16にカメラ端末12を近づけて(ステップS5)、例えばケーブル結線箇所16がカメラ撮像範囲13に入るようにカメラ端末12を向ける。カメラ端末12の右側レーザーポインタ23および左側レーザーポインタ24はカメラ撮像範囲13内で交差するようにレーザーを射出しており、作業者は右側レーザーポインタ23および左側レーザーポインタ24からのレーザーの交点が作業指示画面50に表示される目標画像表示55上のレーザーポインタ交点37の箇所に一致するようにカメラ端末12の位置や方向を調整する。図7は右側レーザーポインタ23および左側レーザーポインタ24からのレーザーの交点箇所を示す斜視図である。本実施形態においては、右側レーザーポインタ23および左側レーザーポインタ24そのものが距離確認部42に相当している。
そして距離確認部42により、作業者47は対象物48とカメラ端末12との間の適切な距離およびカメラ端末12の所定の位置を設定できるようになっている。作業指示部41は、対象物48の写真(目標画像表示55)と共に右側レーザーポインタ23および左側レーザーポインタ24の交点37を合わせる位置を示す。作業者47は作業指示部41により示された位置に、右側レーザーポインタ23および左側レーザーポインタ24の交点が合うように、対象物48とカメラ端末12の間の距離を合わせることができるため、距離を合わせる作業をより効率的にすることができる。更にカメラ端末12の視野内の所定の位置に交点を合わせるので、後で説明するように、画像処理部44において、拡大縮小に加えて、平行移動を考慮することが不要になり、回転移動のみ考慮すればよく、良否判定をより高速かつ正確にすることができる。尚レーザーポインタは3つ以上の複数個を設置するようにしても良い。
このようにして作業者47がケーブル結線箇所16にカメラ端末12を近づける(ステップS5)一方、結線検査作業支援システム本体10においては、画像処理部44により画像処理をして判定結果を表示する(ステップS12)。
判定結果は判定結果通知部46によって、作業指示画面50の判定結果表示58、およびカメラ端末12の緑色LED31、黄色LED32、赤色LED33に表示する。画像処理をして判定結果を表示する(ステップS12)とき、検査中であることを示すため、判定結果表示58の判定結果に「検査中」を表示して、緑色LED31を消灯、黄色LED32を点灯、赤色LED33を消灯する。画像処理部44が出力する判定結果がOK(良)である場合は、判定結果表示58の判定結果に「OK」を表示して評価値と判定閾値の表示を更新して、緑色LED31を点灯、黄色LED32を消灯、赤色LED33を消灯する。同様に画像処理部44が出力する判定結果がNG(不良)である場合は、判定結果表示58に「検査中」を表示して、評価値と判定閾値の表示を更新して、緑色LED31を消灯、黄色LED32を点灯、赤色LED33を消灯する。
作業者は緑色LED31の点灯状態、または作業指示画面50の判定結果表示58から、判定結果が「OK」になることを確認して(ステップS6)、次の作業項目があるか否かを確認するためカメラ端末12のグリップ21に設けられたスイッチ27を押下する。このとき次の作業項目があれば(YES)、結線検査作業支援システム本体10の作業指示部41は、作業項目リスト51の該当作業項目を完了の表示状態(チェックマーク有り)にして、次の作業項目の作業指示を表示する(ステップS13)。つぎの作業項目がなければ(NO)、作業項目リスト51の全項目は完了状態(全てのチェックボックスにチェックが入った状態)になったことを示しており、作業者は作業を完了する(ステップS7)。ここで、スイッチ27を押下する代わりに、一定時間経過したことを確認して、次の作業項目に進めるようにしてもよい。その場合はスイッチ27は不要となる。
作業者47は、ケーブル結線箇所の見直しや、カメラ端末12の位置および方向の調整をしても、判定結果が「OK」になることを確認できない場合は、目視NGボタン62を押下する。このとき判定結果表示58の判定結果に「NG」を表示して、緑色LED31を消灯、黄色LED32を消灯、赤色LED33を点灯し、作業者47は作業を中断する。この後に再度検査を行うには、作業指示画面50の選択ボタン59を押下する(ステップ1)ことから始める。
図8は画像処理部44の処理内容を示すブロック構成図である。図6において、画像処理をして判定結果を表示する(ステップS12)ときに図8に示された処理内容を実施する。尚図8においては、図4に示されたコネクタCを接続する作業とは別の作業を示しており、具体的には赤配線65、青配線66、白配線67の配線作業について説明するものである。まず記憶部45から目標画像データDと、マスク範囲データEと、判定閾値を取得する。ここで目標画像データDとは画像処理に用いるための正規の結線状態を撮影した画像である。又マスク範囲データEは検査箇所の形状に対応したマスク範囲68A、68B、68Cを含むものである。次に目標画像データDのマスク処理を実施して(ステップS21)、目標画像データDのマスク範囲の各エリア平均色Yを求める。即ち目標画像データDのそれぞれの赤配線65A、青配線66A、白配線67Aにおいて、マスク範囲データEに示されたマスク範囲68A、68B、68Cのエリアについて色を取り出し、それぞれの各エリアにおける平均色を求める。図8の場合は赤、青、白のそれぞれについての各エリアの平均色を求める。ここでエリアとは目標画像データD上のマスク範囲(例えば68A、68B、68C)に相当する箇所を指す。又各エリア平均色とは、目標画像データD上のマスク範囲における平均色を指す。平均色の求め方については後で述べる。
このような平均色を求める処理は同じ目標画像データDおよびマスク範囲データEのものを繰り返す場合には、1回目のみ実施して、2回目以降を省略することもできる。目標画像データDは8bitRGBカラー画像であり、マスク範囲データEは1bit画像データである。目標画像データDおよびマスク範囲データEの解像度はカメラ端末12が撮影する画像の解像度と同一である。
更に画像処理をして判定結果を表示する(ステップS12)とき、カメラ端末12から画像データFを取得する(ステップS20)。この画像データFは図4の撮影結果56に相当するものであり、実際にカメラ端末12で撮影された赤配線65、青配線66、白配線67が表示されている。画像データFと、マスク範囲データEに対しては、マスク回転角度リストXに基づいてマスク範囲の回転処理(ステップS22)を行ったものについてマスク処理(ステップS23)し、撮影して取得した画像データFに対する各マスク範囲における各エリア平均色を上記と同様にして求める。画像データFについては、上記目標画像データDと異なり、マスク範囲データEを所定の角度毎に回転させたものについてそれぞれマスク処理を行う。即ち右側レーザーポインタ23および左側レーザーポインタ24の交点37で位置合わせをしたとき、回転方向のずれが残るので、ある程度ずれていてもチェックできるようにするために、マスク範囲データEを所定の角度毎に回転させてマスク処理を行い、それぞれの角度毎の各エリアの平均色を目標画像データDの場合と同様に求めるのである。
各エリア平均色には1つ以上の8bitRGB値が含まれる。図8においては、赤、青、白の3組についての8bitRGB値が存在することとなる。マスク範囲データEの回転処理(ステップS22)においては、マスク回転角度リストXに含まれる各角度に対して実施し、各角度に対しての各エリアの平均色を求める。目標画像データDに対する各エリア平均色Yと、各角度に対して撮影して取得した画像データFに対する各エリアの平均色Zのそれぞれの8bitRGB値について差の絶対値を演算して、それらのなかの最大値を求める(ステップS24)。即ち図8の場合では、各角度における赤、青、白の3つのうちの差が最大となる値を求める。そしてその最大値をマスク回転角度リストXの各要素(各回転角度)について比べた場合に最小となる値を求めて(ステップS25)、これを評価値Tとする。評価値Tが判定閾値R以下になっていればOK(良)、そうでなければNG(不良)として判定を行い(ステップS26)、判定結果Pを得て、判定結果通知部46に設定する。
上記のような特徴を有する結線検査作業支援システムによれば、画像データFのマスク範囲における色情報に基づいて良否判定を行うので、文字を表示していない結線箇所に対しても適用できる。また作業者47がカメラ端末12を対象物48に向けて距離と撮影箇所の位置を決めて撮影するとともに、作業者47が調整することが難しい画像データFの回転方向のずれに対して画像処理部44が適切に対応でき、様々な位置および方向に存在する結線箇所を高速かつ正確に検査できる。
マスク回転角度リストXには、例えば±30度の範囲において3度間隔で並べた値などを用いる。この場合3度間隔毎に上記各要素が並ぶことになる。このように正常に良否判定ができる程度に角度の間隔を広げることで処理速度を向上させることができる。 ここで、マスク処理は入力された画像データFおよびマスク範囲データEについて、画像データFにマスク範囲データEを論理演算(例えば積演算又は積和演算等)して、マスク範囲68A、68B、68Cにおける画像データFのみを抽出する。さらにマスク範囲データE内で範囲を区別するためにラベリング処理を行い、各範囲について番号づけをして(マスク範囲68A、68B、68Cに対してそれぞれ番号を付ける)、抽出した各範囲の画像データFを識別できるようにする。これにより各範囲の画像データFの平均色を特徴量として出力することができる。
ここでは、マスク範囲データEは1Bit画像データであり、ラベリング処理をすることで各マスク範囲68A、68B、68Cについて番号づけをしている。これに対して複数のマスク範囲データを用いることにして、各マスク範囲データと番号を対応させてラベリング処理を省略してもよい。即ち図8の場合では、マスク範囲68A、68B、68Cについてそれぞれ別のマスク範囲データとして登録し、これら3つのデータについてそれぞれラベリングするものである。また平均色を求める処理は、各範囲の画素内で中央値となる色を求めるようにしてもよく、更に予め設定した色範囲の画素が予め設定した割合以上に含まれるか否かを判定することにより行う等、異なる処理内容に置き換えてもよい。
また、目標画像データDおよび画像データFの画像形式は8bitRGBカラー画像以外に例えばCMYK画像などの異なる画像データ形式でもよい。マスク範囲データEの画像形式は1bit画像以外の画像データ形式や、画像データ上の座標を示すデータでもよい。
以上のように本実施形態によれば、画像処理部44は、カメラ端末12から取得した画像データFおよびマスク範囲データEにおいて、所定の位置を回転中心として、マスク範囲データEの回転角度を変えて、画像データFとマスク範囲データEの論理演算をすることにより得られるマスク範囲の色情報からなる特徴量を、回転角度ごとに計算する。そして目標画像データDに対してマスク範囲データEを論理演算することで得られた目標特徴量と最も一致する(最も差が小さい)回転角度における特徴量を抽出し、この特徴量と目標特徴量との差を求めてこれを評価値Tとして、評価値Tを判定閾値と比較して良否判定を行う。
以上の動作を図3を参照しながら総括する。先ず作業指示部41が作業者47に対して作業指示内容を通知する(矢印131)。次に作業者47は対象物48とカメラ端末12の間の距離を調整する(矢印132)。本実施形態においては右側レーザーポインタ23および左側レーザーポインタ24が距離確認部42であり、これらを用いることによって距離を調整する。次に作業者47はカメラ端末12を対象物48に向ける(矢印133)。そしてカメラ端末12が対象物48を撮影する(矢印134)。次に画像処理部44がカメラ端末12から画像データを取得するとともに(矢印135)、記憶部45から参照データを取得する(矢印136)。次に画像処理部44が判定結果通知部46に対して判定結果を設定する(矢印137)。そして判定結果通知部46は作業者47に対して判定結果を通知する(矢印138)。
次に図4において設定ボタン60を押下したとき、結線検査作業支援システム本体10の設定部49はディスプレイに図9に示すような設定画面70を表示する。設定画面70は作業項目リスト71に作業項目の一覧を表示させ、追加ボタン83を押下したとき、作業項目リスト71に項目を追加する。又削除ボタン84を押下したとき、作業項目リスト71内で選択中の項目を削除することができる。図10は作業項目リスト71の一例を示す図である。
作業項目リスト71の作業項目を選択したときには、図10に示すように、該当作業項目名にアンダーラインを表示する。図10においては、コネクタCの欄にアンダーラインが引かれている。これにより選択中の項目を明示して、作業箇所表示72、外観表示73、作業要領表示74、目標画像75、作業指示表示77、判定結果表示78に設定済みの内容を更新する。ここで作業箇所表示72及び作業指示表示77においては図4における作業箇所表示52及び作業指示表示57と同様な表示がなされる。又判定結果表示78の一例として例えば以下のようなものがある。
設定中 評価値: 判定閾値:50以下
このときに、作業箇所表示72または作業指示表示77を押下すると、結線検査作業支援システム本体10に接続したキーボードから入力して各欄のテキストを編集でき、エンターキーを入力したときに設定を更新することができる。また外観表示73、作業要領表示74をクリックすると、ファイル選択ダイアログを開き、表示する画像を変更することができる。 テストボタン80を押下すると、現在選択中の作業項目の設定内容のみについて、作業者47がカメラ端末12により目標画像75について撮影することにより、図6の作業を開始して動作テストをすることができる。決定ボタン81を押下すると設定内容を記憶部45に保存する。キャンセルボタン82を押下すると設定内容を破棄して図4の作業指示画面50に戻る。
次にマスク範囲の設定並びにレーザーポインタの交点目標位置の設定等の目標設定について説明する。図9の設定画面70における目標設定ボタン79を押下すると、図11の目標設定ダイアログ105が表示される。この目標設定ダイアログ105では、マスク範囲設定表示90に目標画像75を表示させ、更に目標画像75の上にマスク設定箇所103に示すようなマスク範囲の描画内容を重ねて表示する。図11に示された例ではコネクタにマスク範囲(マスク設定箇所103)を設定することが示されている。そして撮影ボタン100を押下したとき、マスク範囲の描画内容を全てクリアして、カメラ端末12から取得した画像を目標画像75として設定し、表示内容を更新する。
マスク描画ボタン91〜93を押下したのちに、タッチパネルやマウスカーソルでマスク範囲設定表示90上を押下したままなぞると、マスク範囲を描画することができる。これによりマスク範囲データEが作成できることになる。マスク消去ボタン94を押下した後に同様にすると、マスク範囲を消去することができる。マスク描画ボタン91〜93およびマスク消去ボタン94に表示されているマークの大きさが、マスク範囲を描画並びに消去をするときの線の太さとなる。即ちボタン91、92、93において丸の大きさが順番に大きくなっており、この順番で線の太さが大きくなるものである。更に判定閾値表示97を押下すると、判定閾値の数値を8Bit値である0〜255の間で設定することができる。尚判定閾値の大きさは各作業者47が各現場で主観により決定するものである。
マスク範囲の設定は設定作業者の判断で行うため、設定内容が適切でない場合があり、右側レーザーポインタ23および左側レーザーポインタ24の交点を合わせても正しく判定できないことがある。そのため目標画像75、マスク範囲、判定閾値を設定した後に、更新ボタン98を押下して良範囲図表示95を更新する。そして図11に示されるような良範囲104のように目標画像75のどのあたりを狙って右側レーザーポインタ23および左側レーザーポインタ24の交点を合わせるとOK(良)と判定されるかを示す。良範囲図表示95は入力画像として目標画像75そのものを用いる。即ち目標画像75は正規の結線状態を撮影したものであるから判定結果は必ずOKでなければならないこととなる。そして目標画像75を上下左右方向に平行移動させ、画像処理部44によりシミュレーション処理を行い、画像処理部44により実際に判定させてOK(良)である平行移動処理の範囲を目標画像75に重ねて描画し、良範囲104を得る。また画像処理部44により判定させて良範囲104の外接矩形を求めて良範囲値表示96にそのサイズを表示することもできる。即ち作業者は良範囲104内に右側レーザーポインタ23および左側レーザーポインタ24の交点を合わせるようにカメラ端末12を操作すれば良い。
設定作業者は、設定部49により、カメラ端末12により撮影した正しい結線状態の目標画像データD、マスク範囲データE及び判定閾値を記憶部45に設定して、判定閾値とともに記憶部45に登録する。そして設定部49は、目標画像データDを平行移動および拡大縮小して生成した複数の画像データに対して、画像処理部44により実際に判定させる。その判定結果に基づいて良となる範囲、又は否となる範囲を図示した良否範囲図を示し、又は良範囲値表示96に良否範囲評価値を表示する。以上により設定作業者は、良否範囲図または良範囲値表示96を確認して、設定した目標画像データD、マスク範囲データE並びに判定閾値が誤判定の可能性が低い妥当なものであるかどうかを判断することができるので、不適切な設定内容によって誤判定をすることを予防できる。
設定作業者はこれらの良範囲図表示95および良範囲値表示96を確認することで、カメラ端末12を向ける位置の許容できる範囲や、誤判定の可能性を認識することができる。例えば、良範囲104が小さすぎるとカメラ端末12の位置の許容できる範囲が小さくなり、作業者がカメラ端末12を向けてもなかなかOK(良)判定とならず作業時間がかかってしまうことになる。また良範囲104が大きすぎたり、2箇所以上ある場合は誤判定をする可能性が高くなる。クリアボタン99を押下したときは、良範囲図表示95および良範囲値表示96をクリアする。決定ボタン101を押下したときには、マスク範囲を設定して、設定画面70に戻る。キャンセルボタン102を押下したときには、マスク範囲の編集内容を破棄して、設定画面70に戻る。
実施の形態2.
図12は実施の形態2による結線検査作業支援システムの実施状況を示す概念図である。上記実施の形態1では、図1のように結線検査作業支援システム本体10とカメラ端末12がケーブル11などで接続されるのに対して、本実施形態においては、図12に示すように結線検査作業支援システム本体とカメラ端末が一体になった結線検査作業支援システム本体200を設けたものである。図12ではカメラ端末にバッテリを内蔵している場合を示しているが、電源ケーブルを接続するようにしてもよい。
図13(A)はカメラ端末の前面部を示す斜視図、図13(B)はカメラ端末の背面部を示す斜視図である。結線検査作業支援システム本体200は図13に示すようにカメラ端末の背面パネル30にタッチパネルディスプレイ201を備え、作業指示画面50及び設定画面70、あるいはその一部をこのディスプレイに表示する。例えばディスプレイの表示領域が狭い場合には、目標画像表示55と判定結果表示58のみを表示するなどしてもよい。
尚本発明は、その発明の範囲内において、各実施の形態を自由に組み合わせたり、各実施の形態を適宜、変形、省略することが可能である。

Claims (4)

  1. 査箇所を撮影することができるカメラ端末と、
    画像処理に用いるための正規の結線状態を撮影した目標画像データ、上記検査箇所の形状に対応したマスク範囲を含むマスク範囲データ、及び判定閾値を保持する記憶部と、
    記目標画像データに対して上記マスク範囲データを論理演算することにより目標特徴量を求めるとともに、上記マスク範囲データの回転角度を変えて上記カメラ端末から取得した画像データと上記マスク範囲データの論理演算をすることにより上記回転角度毎に特徴量を計算し、上記目標特徴量との差が最も小さい上記回転角度における上記特徴量と上記目標特徴量との差を評価値として、この評価値と上記判定閾値とを比較することにより結線作業の判定を行う画像処理部と、
    上記画像処理部からの判定結果を通知する判定結果通知部を備えた結線検査作業支援システム。
  2. 上記検査箇所と上記カメラ端末との間の適切な距離および上記カメラ端末の位置を設定するための距離確認部を設けた請求項1記載の結線検査作業支援システム。
  3. 複数のレーザーポインタから射出されたレーザーの交点を上記検査箇所の所定の位置に合わせることにより上記カメラ端末を位置決めする請求項2記載の結線検査作業支援システム。
  4. 上記目標画像データを平行移動および拡大縮小して生成した複数の画像データに対して上記画像処理部によりシミュレーション判定させ、この判定結果に基づいて上記レーザーの交点の範囲を求める請求項3記載の結線検査作業支援システム。
JP2017565494A 2016-02-01 2017-01-24 結線検査作業支援システム Active JP6516884B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016016948 2016-02-01
JP2016016948 2016-02-01
PCT/JP2017/002373 WO2017135107A1 (ja) 2016-02-01 2017-01-24 結線検査作業支援システム

Publications (2)

Publication Number Publication Date
JPWO2017135107A1 JPWO2017135107A1 (ja) 2018-06-28
JP6516884B2 true JP6516884B2 (ja) 2019-05-22

Family

ID=59499760

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017565494A Active JP6516884B2 (ja) 2016-02-01 2017-01-24 結線検査作業支援システム

Country Status (3)

Country Link
JP (1) JP6516884B2 (ja)
CN (1) CN108701346B (ja)
WO (1) WO2017135107A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109342449A (zh) * 2018-10-24 2019-02-15 格力电器(武汉)有限公司 检测设备及检测方法
KR102191704B1 (ko) * 2019-06-05 2020-12-17 (주)미래테크원 머신비전기반 하네스 불량 검사방법
WO2024043019A1 (ja) * 2022-08-24 2024-02-29 テルモ株式会社 接続状態判定方法及び接続状態判定システム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3533492B2 (ja) * 1999-07-13 2004-05-31 住友電装株式会社 ワイヤハーネス外観検査装置
US6370769B1 (en) * 1999-10-27 2002-04-16 Avaya Technology Corp. Automated assembly of connector to cable having twisted wire pairs
JP4707605B2 (ja) * 2006-05-16 2011-06-22 三菱電機株式会社 画像検査方法およびその方法を用いた画像検査装置
JP4941422B2 (ja) * 2008-07-14 2012-05-30 パナソニック株式会社 部品実装システム
JP5382533B2 (ja) * 2009-02-19 2014-01-08 株式会社ひたちなかテクノセンター ケーブル結線チェックシステムと識別タグ製作方法
CN101718551B (zh) * 2009-12-17 2011-04-27 北京理工大学 柔性线缆的运动测量方法及测量装置
CN102507592B (zh) * 2011-11-01 2014-05-28 河海大学常州校区 表面缺陷仿蝇视觉在线检测装置及检测方法
CN103163150B (zh) * 2013-03-18 2015-07-15 长飞光纤光缆股份有限公司 一种线缆表面缺陷在线检测装置及方法
JP2015061339A (ja) * 2013-09-17 2015-03-30 株式会社日立製作所 結線作業支援システム
JP2015171184A (ja) * 2014-03-05 2015-09-28 茂 森 ケーブル結線確認装置及び方法

Also Published As

Publication number Publication date
JPWO2017135107A1 (ja) 2018-06-28
WO2017135107A1 (ja) 2017-08-10
CN108701346B (zh) 2021-11-30
CN108701346A (zh) 2018-10-23

Similar Documents

Publication Publication Date Title
EP2618135B1 (en) Method for registering inspection standard for soldering inspection and board inspection apparatus thereby
JP6516884B2 (ja) 結線検査作業支援システム
CN109963451B (zh) 一种印制电路板元器件的定位方法
KR20100124653A (ko) 육안 검사장치와 육안 검사방법
JP7214432B2 (ja) 画像処理方法、画像処理プログラム、記録媒体、画像処理装置、生産システム、物品の製造方法
JP6016760B2 (ja) 作業確認システム
JP2017010353A (ja) 作業支援装置、作業支援方法及び作業支援プログラム
JP7215218B2 (ja) 分光検査方法、画像処理装置、及びロボットシステム
CN111753791A (zh) 一种检测方法及检测设备
JP2008241424A (ja) 画像処理装置及びこれを用いた画像処理方法
US9582874B2 (en) Method of detection of faults on circuit boards
JP5815434B2 (ja) マニュアル作成支援装置及びマニュアル作成支援方法
US20200218756A1 (en) System and Method for Generating Digital Information and Altering Digital Models of Components With Same
US20180096215A1 (en) Operator guided inspection system and method of use
JP2008218737A (ja) 画像処理装置
JPH10197221A (ja) 測定顕微鏡
KR101447570B1 (ko) 기판 검사방법 및 이를 이용한 기판 검사장치
JP4507785B2 (ja) 基板検査装置並びにそのパラメータ設定方法およびパラメータ設定装置
JP5855961B2 (ja) 画像処理装置及び画像処理方法
JPH09259289A (ja) エッジ姿勢認識式の測定方法および装置
JP7057732B2 (ja) 三次元測定装置
WO2018158818A1 (ja) 点検支援装置、点検支援方法および記録媒体
WO2022249885A1 (ja) 識別装置、及び、識別方法
US20220375095A1 (en) Apparatus and manual providing apparatus
JP2009098859A (ja) 製品の検査システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180122

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190416

R150 Certificate of patent or registration of utility model

Ref document number: 6516884

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250