JPWO2017135107A1 - Connection inspection work support system - Google Patents

Connection inspection work support system Download PDF

Info

Publication number
JPWO2017135107A1
JPWO2017135107A1 JP2017565494A JP2017565494A JPWO2017135107A1 JP WO2017135107 A1 JPWO2017135107 A1 JP WO2017135107A1 JP 2017565494 A JP2017565494 A JP 2017565494A JP 2017565494 A JP2017565494 A JP 2017565494A JP WO2017135107 A1 JPWO2017135107 A1 JP WO2017135107A1
Authority
JP
Japan
Prior art keywords
work
image data
camera terminal
mask
mask range
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017565494A
Other languages
Japanese (ja)
Other versions
JP6516884B2 (en
Inventor
祐一 池田
祐一 池田
忠道 白石
忠道 白石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2017135107A1 publication Critical patent/JPWO2017135107A1/en
Application granted granted Critical
Publication of JP6516884B2 publication Critical patent/JP6516884B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

画像処理に用いるための正規の結線状態を撮影した目標画像データ(D)と、検査箇所の形状に対応したマスク範囲を含むマスク範囲データ(E)を用意し、目標画像データ(D)に対してマスク範囲データ(E)を論理演算することにより得られた目標特徴量と、マスク範囲データ(E)の回転角度を変えてカメラ端末(12)から取得した画像データ(F)とマスク範囲データ(E)の論理演算をすることにより得られた特徴量を計算し、目標特徴量との差が最も小さい回転角度における特徴量と目標特徴量との差を評価値として、判定閾値とを比較することにより結線作業の判定を行う。  Target image data (D) obtained by photographing a normal connection state for use in image processing and mask range data (E) including a mask range corresponding to the shape of the inspection location are prepared, and the target image data (D) Image data (F) and mask range data acquired from the camera terminal (12) by changing the target feature amount obtained by logically calculating the mask range data (E) and the rotation angle of the mask range data (E). The feature value obtained by performing the logical operation of (E) is calculated, and the difference between the feature value and the target feature value at the rotation angle at which the difference from the target feature value is the smallest is used as an evaluation value, and the determination threshold value is compared. By doing so, the connection work is judged.

Description

この発明は、電気機器筺体や計装制御盤等の組立時におけるケーブル結線箇所の検査作業を支援する結線検査作業支援システムに関するものである。   The present invention relates to a connection inspection work support system that supports inspection work of cable connection points during assembly of an electrical equipment housing, an instrumentation control panel, and the like.

一般にケーブルの結線箇所が多い機器筐体や制御盤などを製作する場合には、作業者が設計図面や作業指示書を参照しながら結線作業を実施した後に、検査者の目視による結線箇所の検査が行われる。
このとき作業者が結線作業に慣れていない場合には、結線を忘れたり(未接続)、誤ったケーブルを結線してしまう(誤結線)といった結線作業ミスが起きやすい。この場合、検査者が異常を発見した後に結線作業のやり直しが必要となり、製作完了までにかかる期間が延びてしまうことがある。
In general, when manufacturing equipment casings or control panels with many cable connection points, the operator performs the connection work while referring to the design drawings and work instructions, and then the inspection point is visually inspected by the inspector. Is done.
At this time, if the worker is not familiar with the connection work, a connection work mistake such as forgetting the connection (not connected) or connecting the wrong cable (incorrect connection) is likely to occur. In this case, it is necessary to redo the connection work after the inspector finds an abnormality, and the time required to complete the production may be extended.

そこで作業者が結線作業をした後に、作業者自身で結線箇所を検査して、不備があればすぐにやり直しできるように、結線箇所を検査する機能を持つ結線検査作業支援システムを導入することが考えられる。
結線箇所を検査するための技術として、視線追跡装置と撮影装置を用いて作業者が目視している位置を撮影し、画像処理を行い、文字を判別してから予め記憶しているデータと比較することにより結線箇所を検査する技術があった(特許文献1参照)。
また、駆動部を有する撮影カメラを用いて図板上に配置されたワイヤーハーネスの外観を撮影し、撮像画像に基づき良否判定をする技術があった(特許文献2参照)。
Therefore, it is possible to introduce a connection inspection work support system with a function of inspecting the connection location so that the operator can inspect the connection location by himself / herself after the connection work, and immediately start again if there is a defect. Conceivable.
As a technique for inspecting the connection location, the position that the operator is viewing is imaged using a line-of-sight tracking device and an imaging device, image processing is performed, characters are identified, and compared with data stored in advance There has been a technique for inspecting a connection part by doing (see Patent Document 1).
In addition, there has been a technique for photographing the appearance of a wire harness arranged on a drawing board using a photographing camera having a drive unit and determining pass / fail based on a captured image (see Patent Document 2).

特開2015−60339JP2015-60339 特許第3533492号Japanese Patent No. 3533492

機器筺体や制御盤内部では、ケーブルコネクタの嵌合、スクリューレス端子台でのケーブル結線、あるいは電力ケーブル端子接続などの結線作業が行われる。その場合コスト面や異物混入防止等の理由またはスペース等の制約から、結線するケーブルに対して識別属性である文字、記号ラベルが付かない場合がある。
そして上記特許文献1においては、結線箇所を検査する際に文字識別ラベルのない場合には、適用範囲が限定される。
In the equipment housing and control panel, connection work such as cable connector fitting, cable connection with a screwless terminal block, or power cable terminal connection is performed. In that case, there are cases where the character or symbol label that is the identification attribute is not attached to the cable to be connected due to reasons such as cost, prevention of foreign matter contamination, or space limitations.
And in the said patent document 1, when there is no character identification label when test | inspecting a connection location, an application range is limited.

更には上記特許文献2においては、撮像時には画像のぶれが起きないように撮像カメラと識別ラベル面との距離を一定に保つ必要がある。
また、機器筐体や制御盤内部のケーブルおよびケーブル接続器は、取り付け高さや角度の異なる様々な空間における位置並びに姿勢で配置されている状況がある。このような電源端子や制御基板上のコネクタなどの結線状態を検査する必要があるので、撮像条件範囲が制限される上記特許文献2を適用することは困難である。
Furthermore, in Patent Document 2, it is necessary to keep the distance between the imaging camera and the identification label surface constant so that image blurring does not occur during imaging.
In addition, there are situations where the cables and cable connectors inside the device casing and the control panel are arranged in positions and postures in various spaces with different mounting heights and angles. Since it is necessary to inspect the connection state of such a power supply terminal and a connector on the control board, it is difficult to apply the above-described Patent Document 2 in which the imaging condition range is limited.

この発明は上記のような課題を解決するためになされたものであり、電気機器や制御盤など盤内ケーブル実装後のケーブル結線状態の点検検査作業において、文字識別ラベルのないケーブルならびにコネクタにも適用できる結線検査作業支援システムを提供することを目的とする。   The present invention has been made to solve the above-described problems, and in the inspection and inspection work of the cable connection state after mounting the cable in the panel such as an electric device or a control panel, the cable and the connector having no character identification label are also used. The object is to provide an applicable connection inspection work support system.

この発明に係る結線検査作業支援システムは、
作業者に作業指示内容を通知する作業指示部と、
検査箇所を撮影することができるカメラ端末と、
画像処理に用いるための正規の結線状態を撮影した目標画像データ、上記検査箇所の形状に対応したマスク範囲を含むマスク範囲データ、及び判定閾値を保持する記憶部と、
検査箇所とカメラ端末との間の適切な距離およびカメラ端末の位置を設定するための距離確認部と、
目標画像データに対してマスク範囲データを論理演算することにより目標特徴量を求めるとともに、マスク範囲データの回転角度を変えてカメラ端末から取得した画像データとマスク範囲データの論理演算をすることにより回転角度毎に特徴量を計算し、目標特徴量との差が最も小さい回転角度における特徴量と目標特徴量との差を評価値として、この評価値と判定閾値とを比較することにより結線作業の判定を行う画像処理部と、
画像処理部からの判定結果を作業者に通知する判定結果通知部を備えたものである。
The wire connection inspection work support system according to the present invention,
A work instruction section for notifying workers of work instruction contents;
A camera terminal capable of photographing the inspection location;
A target image data obtained by photographing a normal connection state for use in image processing, mask range data including a mask range corresponding to the shape of the inspection location, and a storage unit that holds a determination threshold;
A distance confirmation unit for setting an appropriate distance between the inspection point and the camera terminal and the position of the camera terminal;
The target feature value is obtained by performing a logical operation on the mask image data for the target image data, and rotated by performing a logical operation on the image data acquired from the camera terminal and the mask image data by changing the rotation angle of the mask image data. The feature value is calculated for each angle, and the difference between the feature value and the target feature value at the rotation angle with the smallest difference from the target feature value is used as the evaluation value. An image processing unit for performing the determination;
A determination result notification unit that notifies the operator of the determination result from the image processing unit is provided.

以上のような結線検査作業支援システムによれば、文字を表示していない結線箇所に対しても適用でき、様々な位置および方向に存在する結線箇所を高速かつ正確に検査できる。   According to the connection inspection work support system as described above, the present invention can be applied to a connection portion where characters are not displayed, and connection portions existing in various positions and directions can be inspected quickly and accurately.

実施の形態1による結線検査作業支援システムの実施状況を示す概念図である。It is a conceptual diagram which shows the implementation condition of the connection inspection work assistance system by Embodiment 1. FIG. 実施の形態1による結線検査作業支援システムにおけるカメラ端末の構成を示す斜視図である。It is a perspective view which shows the structure of the camera terminal in the connection inspection work assistance system by Embodiment 1. FIG. 実施の形態1による結線検査作業支援システムにおける作業者とのやり取りを示すシステム構成を示すブロック図である。It is a block diagram which shows the system configuration | structure which shows exchanges with the operator in the connection inspection work assistance system by Embodiment 1. FIG. ディスプレイに表示される作業指示画面の一例を示す図である。It is a figure which shows an example of the work instruction | indication screen displayed on a display. 作業項目リスト部分の一例を示す図である。It is a figure which shows an example of a work item list part. 実施の形態1による結線検査作業支援システムの動作を示すフローチャートである。3 is a flowchart showing the operation of the connection inspection work support system according to the first embodiment. 右側レーザーポインタおよび左側レーザーポインタからのレーザーの交点箇所を示す斜視図である。It is a perspective view which shows the crossing location of the laser from a right side laser pointer and a left side laser pointer. 画像処理部の処理内容を示すブロック構成図である。It is a block block diagram which shows the processing content of an image process part. 設定画面の一例を示す図である。It is a figure which shows an example of a setting screen. 作業項目リスト部分の一例を示す図である。It is a figure which shows an example of a work item list part. 目標設定ダイアログの一例を示す図である。It is a figure which shows an example of a target setting dialog. 実施の形態2による結線検査作業支援システムの実施状況を示す概念図である。It is a conceptual diagram which shows the implementation condition of the connection inspection work assistance system by Embodiment 2. 実施の形態2による結線検査作業支援システムにおけるカメラ端末の構成を示す斜視図である。It is a perspective view which shows the structure of the camera terminal in the connection inspection work assistance system by Embodiment 2. FIG.

実施の形態1.
図1は実施の形態1による結線検査作業支援システムの実施状況を示す概念図である。結線検査作業支援システム本体10には、ケーブル11を介してカメラ端末12が接続されている。そして作業者47がカメラ端末12を携帯して作業を行う。図1においては、結線検査作業支援システムにおいて、ディスプレイ一体型のコンピュータを使用した場合を示しているが、ディスプレイとコンピュータが分かれて、両者がディスプレイ用ケーブル、あるいはWiFi(Wireless Fidelity)などの無線通信手段で接続されるようにしてもよい。さらにディスプレイはヘッドマウントディスプレイにより作業者が装着するものであってもよい。ケーブル11はUSBケーブルなど電力供給と信号伝送を行うものである。ケーブル11の代わりに信号伝送の目的でWiFiなどの無線通信手段で接続して、カメラ端末12にはバッテリを内蔵して電力供給を行うようにしてもよい。
Embodiment 1 FIG.
FIG. 1 is a conceptual diagram showing an implementation status of the connection inspection work support system according to the first embodiment. A camera terminal 12 is connected to the connection inspection work support system body 10 via a cable 11. Then, the worker 47 carries the camera terminal 12 and performs work. FIG. 1 shows a case where a display-integrated computer is used in the connection inspection work support system. However, the display and the computer are separated, and both are wireless communication such as a display cable or WiFi (Wireless Fidelity). You may make it connect by a means. Further, the display may be worn by the operator using a head mounted display. The cable 11 performs power supply and signal transmission such as a USB cable. Instead of the cable 11, it may be connected by wireless communication means such as WiFi for the purpose of signal transmission, and the camera terminal 12 may be supplied with power by incorporating a battery.

図2はカメラ端末12の構成を示す斜視図であり、図2(A)はカメラ端末12の前面部を示す斜視図、図2(B)はカメラ端末12の背面部を示す斜視図である。カメラ端末12は内部にカメラおよび制御基板が設置されており、図2(A)に示すように、前面パネル20には撮影するためのカメラ開口部22、照準を合わせるための右側レーザーポインタ23および左側レーザーポインタ24、暗所で撮影できるようにするための右側照明25および左側照明26を備えている。又図2(B)に示すように、背面パネル30には判定結果通知部46の役割を有する緑色LED31、黄色LED32、赤色LED33およびカメラ端末12と結線検査作業支援システム本体10を接続するためのケーブル11が嵌合されるケーブル接続用ソケット34を備える。   2 is a perspective view showing a configuration of the camera terminal 12, FIG. 2A is a perspective view showing a front portion of the camera terminal 12, and FIG. 2B is a perspective view showing a rear portion of the camera terminal 12. . The camera terminal 12 has a camera and a control board installed therein. As shown in FIG. 2A, the front panel 20 has a camera opening 22 for photographing, a right laser pointer 23 for aiming, and A left laser pointer 24, a right illumination 25 and a left illumination 26 are provided to enable photographing in a dark place. Also, as shown in FIG. 2B, the rear panel 30 is connected to the connection inspection work support system main body 10 and the green LED 31, yellow LED 32, red LED 33, and camera terminal 12 that serve as the determination result notification unit 46. A cable connection socket 34 into which the cable 11 is fitted is provided.

図3は本実施形態による結線検査作業支援システムにおける作業者47とのやり取りを示すシステム構成を示すブロック図である。結線検査作業支援システムは作業指示部41、距離確認部42、カメラ端末12、画像処理部44、記憶部45、設定部49、判定結果通知部46から構成される。そしてカメラ端末12は対象物(結線箇所)48を撮影する。図4は作業指示部41が結線検査作業支援システム本体10のディスプレイに表示する作業指示画面50の一例を示すものである。作業項目リスト51には作業項目の一覧と各作業項目の完了あるいは未完了状態を示すチェックボックスが表示される。図5は図4における作業指示画面50における作業項目リスト部分の一例を示す図である。作業箇所表示52には現在作業指示をしている箇所の情報を表示する。作業箇所表示の一例として例えば電気機器筐体A、基板B、コネクタC等が表示される。   FIG. 3 is a block diagram showing a system configuration showing exchanges with the worker 47 in the connection inspection work support system according to the present embodiment. The connection inspection work support system includes a work instruction unit 41, a distance confirmation unit 42, a camera terminal 12, an image processing unit 44, a storage unit 45, a setting unit 49, and a determination result notification unit 46. Then, the camera terminal 12 images the object (connection point) 48. FIG. 4 shows an example of a work instruction screen 50 displayed on the display of the connection inspection work support system main body 10 by the work instruction unit 41. The work item list 51 displays a list of work items and a check box indicating the completion or incomplete state of each work item. FIG. 5 is a diagram showing an example of a work item list portion on the work instruction screen 50 in FIG. The work location display 52 displays information on the location where the current work instruction is given. As an example of the work location display, for example, the electrical equipment casing A, the board B, the connector C, and the like are displayed.

外観表示53には作業箇所の外観が示される。即ち電気機器筐体の中でどの部分の作業をするかなどを作業者が認識できるような画像を表示する。作業要領表示54には、作業者が作業内容を理解できるように作業要領を表示する。目標画像表示55には、作業者がカメラ端末12の位置や方向を変えて取るべき目標画像を表示する。撮影結果表示56には、カメラ端末12が撮影した画像データを表示する。作業指示表示57には作業者に作業内容を伝えるメッセージを表示する。図4においては、例えば「コネクタCにコネクタJを差し込む。」等の表示がなされる。判定結果表示58は判定結果通知部46の一つであり、作業者に判定結果をOKまたはNGの文字表示で伝えると共に、画像処理部44で演算した評価値と、記憶部45から取得した判定閾値を表示する。判定結果表示58の一例として例えば以下のようなものがある。
NG 評価値:169 判定閾値:50以下
The appearance display 53 shows the appearance of the work location. That is, an image is displayed so that the worker can recognize which part of the electrical equipment casing is to be operated. The work procedure display 54 displays a work procedure so that the worker can understand the work contents. The target image display 55 displays a target image that the operator should take by changing the position and direction of the camera terminal 12. In the photographing result display 56, image data photographed by the camera terminal 12 is displayed. The work instruction display 57 displays a message that informs the worker of work contents. In FIG. 4, for example, “Connector J is inserted into connector C” is displayed. The determination result display 58 is one of the determination result notification units 46. The determination result is notified to the worker by OK or NG character display, the evaluation value calculated by the image processing unit 44, and the determination acquired from the storage unit 45. Displays the threshold. An example of the determination result display 58 is as follows.
NG evaluation value: 169 Judgment threshold value: 50 or less

さらに図4の選択ボタン59、設定ボタン60、目視OKボタン61、目視NGボタン62は、作業者が結線検査作業支援システム本体10のディスプレイのタッチパネルを押したり、結線検査作業支援システム本体10におけるマウスでカーソルを動かし該当ボタンを押下したりすることができるボタンである。選択ボタン59を押下したときには、記憶部45から作業対象名に関するデータを取得して、作業対象の一覧を表示する。作業対象の一覧から項目を選択すると、選択した作業対象における最初の作業箇所の作業指示内容が作業指示画面50に表示される。   Further, the selection button 59, the setting button 60, the visual OK button 61, and the visual NG button 62 in FIG. 4 are used by the operator to press the touch panel on the display of the connection inspection work support system main body 10 or the mouse in the connection inspection work support system main body 10. The button can be used to move the cursor and press the corresponding button. When the selection button 59 is pressed, data related to the work target name is acquired from the storage unit 45 and a list of work targets is displayed. When an item is selected from the list of work objects, the work instruction content of the first work location in the selected work object is displayed on the work instruction screen 50.

次に設定ボタン60を押下したときには、後で図9に基づいて述べる設定画面70を表示して、作業箇所表示72、外観表示73、作業要領表示74、作業指示表示77に表示される項目を設定し、更には記憶部45に登録されている図8において示されるような、目標画像データD、マスク範囲データE、判定閾値及びこれらのデータ一式を識別するための作業対象名(例えばコネクタCの接続)をそれぞれ設定し、記憶部45に登録できるようにする。   Next, when the setting button 60 is pressed, a setting screen 70 to be described later with reference to FIG. 9 is displayed, and items displayed on the work location display 72, the appearance display 73, the work procedure display 74, and the work instruction display 77 are displayed. Further, as shown in FIG. 8 registered in the storage unit 45, the target image data D, the mask range data E, the determination threshold value, and the work object name (for example, the connector C) for identifying these data sets. Are set so that they can be registered in the storage unit 45.

目視OKボタン61を押下したときには、作業者の判断で判定結果をOKに設定して、次の作業箇所に移行する。目視NGボタン62を押下したときには、作業者の判断で判定結果をNGに設定して作業を終える。これらのボタンは、設定した目標画像データD、マスク範囲データE、判定閾値が適切でなかった場合など、画像処理部44による判定結果がOKとならない場合に、作業者の判断で次の作業をしたり、あるいは作業を終えられるようにするために用意されたものである。   When the visual OK button 61 is pressed, the determination result is set to OK by the operator's judgment, and the process proceeds to the next work location. When the visual NG button 62 is pressed, the determination result is set to NG at the operator's discretion and the work is finished. These buttons are used when the determination result by the image processing unit 44 is not OK, such as when the set target image data D, mask range data E, or determination threshold value is not appropriate. Or prepared to be able to finish the work.

図6は本実施形態による結線検査作業支援システムの動作を示すフローチャートであり、作業者側の操作およびシステム側の処理に分けて動作を経時的に示すものである。作業が開始されると(ステップS0)、作業者47はまず作業指示部41が結線検査作業支援システム本体10のディスプレイに表示している作業指示画面50における選択ボタン59を押下する(ステップS1)。結線検査作業支援システム本体10の作業指示部41が作業対象の一覧を表示する(ステップS10)ので、作業者47は一覧から作業対象を選択する(ステップS2)。その後作業指示部41が選択した作業対象の最初の作業項目を表示して(ステップS11)、図5に示されるような作業項目リスト51の各作業項目を未完了の表示状態(チェックマーク無し)にするので、作業者47は作業指示画面50の表示内容を確認する(ステップS3)。   FIG. 6 is a flowchart showing the operation of the connection inspection work support system according to the present embodiment, and shows the operation over time divided into the operation on the operator side and the processing on the system side. When the work is started (step S0), the worker 47 first presses the selection button 59 on the work instruction screen 50 displayed on the display of the connection inspection work support system main body 10 by the work instruction unit 41 (step S1). . Since the work instruction unit 41 of the connection inspection work support system main body 10 displays a list of work objects (step S10), the worker 47 selects a work object from the list (step S2). Thereafter, the first work item of the work target selected by the work instruction unit 41 is displayed (step S11), and each work item in the work item list 51 as shown in FIG. 5 is displayed in an incomplete display state (no check mark). Therefore, the worker 47 confirms the display content of the work instruction screen 50 (step S3).

作業者は図1に示すように電気機器筐体15におけるケーブル結線箇所16のような場所で結線作業をする(ステップS4)。結線作業をした後に、カメラ端末12を手に持ち、ケーブル結線箇所16にカメラ端末12を近づけて(ステップS5)、例えばケーブル結線箇所16がカメラ撮像範囲13に入るようにカメラ端末12を向ける。カメラ端末12の右側レーザーポインタ23および左側レーザーポインタ24はカメラ撮像範囲13内で交差するようにレーザーを射出しており、作業者は右側レーザーポインタ23および左側レーザーポインタ24からのレーザーの交点が作業指示画面50に表示される目標画像表示55上のレーザーポインタ交点37の箇所に一致するようにカメラ端末12の位置や方向を調整する。図7は右側レーザーポインタ23および左側レーザーポインタ24からのレーザーの交点箇所を示す斜視図である。本実施形態においては、右側レーザーポインタ23および左側レーザーポインタ24そのものが距離確認部42に相当している。   As shown in FIG. 1, the worker performs the connection work at a place such as the cable connection place 16 in the electrical equipment housing 15 (step S4). After the connection work, the camera terminal 12 is held in the hand, the camera terminal 12 is brought close to the cable connection place 16 (step S5), and the camera terminal 12 is directed so that the cable connection place 16 enters the camera imaging range 13, for example. The right laser pointer 23 and the left laser pointer 24 of the camera terminal 12 emit laser beams so as to intersect within the camera imaging range 13, and the operator works at the intersection of the lasers from the right laser pointer 23 and the left laser pointer 24. The position and direction of the camera terminal 12 are adjusted so as to coincide with the position of the laser pointer intersection 37 on the target image display 55 displayed on the instruction screen 50. FIG. 7 is a perspective view showing the intersection of laser beams from the right laser pointer 23 and the left laser pointer 24. In the present embodiment, the right laser pointer 23 and the left laser pointer 24 themselves correspond to the distance confirmation unit 42.

そして距離確認部42により、作業者47は対象物48とカメラ端末12との間の適切な距離およびカメラ端末12の所定の位置を設定できるようになっている。作業指示部41は、対象物48の写真(目標画像表示55)と共に右側レーザーポインタ23および左側レーザーポインタ24の交点37を合わせる位置を示す。作業者47は作業指示部41により示された位置に、右側レーザーポインタ23および左側レーザーポインタ24の交点が合うように、対象物48とカメラ端末12の間の距離を合わせることができるため、距離を合わせる作業をより効率的にすることができる。更にカメラ端末12の視野内の所定の位置に交点を合わせるので、後で説明するように、画像処理部44において、拡大縮小に加えて、平行移動を考慮することが不要になり、回転移動のみ考慮すればよく、良否判定をより高速かつ正確にすることができる。尚レーザーポインタは3つ以上の複数個を設置するようにしても良い。
このようにして作業者47がケーブル結線箇所16にカメラ端末12を近づける(ステップS5)一方、結線検査作業支援システム本体10においては、画像処理部44により画像処理をして判定結果を表示する(ステップS12)。
The distance confirmation unit 42 allows the worker 47 to set an appropriate distance between the object 48 and the camera terminal 12 and a predetermined position of the camera terminal 12. The work instruction unit 41 indicates a position where the intersection point 37 of the right laser pointer 23 and the left laser pointer 24 is aligned together with a photograph of the object 48 (target image display 55). Since the worker 47 can adjust the distance between the object 48 and the camera terminal 12 so that the intersection of the right laser pointer 23 and the left laser pointer 24 matches the position indicated by the work instruction unit 41, the distance It is possible to make the work of combining them more efficient. Further, since the intersection point is set at a predetermined position in the field of view of the camera terminal 12, as will be described later, in the image processing unit 44, it becomes unnecessary to consider parallel movement in addition to enlargement / reduction, and only rotational movement. What is necessary is just to consider, and the quality determination can be made faster and more accurate. Three or more laser pointers may be installed.
In this way, the operator 47 brings the camera terminal 12 closer to the cable connection place 16 (step S5), while in the connection inspection work support system main body 10, the image processing unit 44 performs image processing and displays the determination result ( Step S12).

判定結果は判定結果通知部46によって、作業指示画面50の判定結果表示58、およびカメラ端末12の緑色LED31、黄色LED32、赤色LED33に表示する。画像処理をして判定結果を表示する(ステップS12)とき、検査中であることを示すため、判定結果表示58の判定結果に「検査中」を表示して、緑色LED31を消灯、黄色LED32を点灯、赤色LED33を消灯する。画像処理部44が出力する判定結果がOK(良)である場合は、判定結果表示58の判定結果に「OK」を表示して評価値と判定閾値の表示を更新して、緑色LED31を点灯、黄色LED32を消灯、赤色LED33を消灯する。同様に画像処理部44が出力する判定結果がNG(不良)である場合は、判定結果表示58に「検査中」を表示して、評価値と判定閾値の表示を更新して、緑色LED31を消灯、黄色LED32を点灯、赤色LED33を消灯する。   The determination result is displayed on the determination result display 58 of the work instruction screen 50 and the green LED 31, yellow LED 32, and red LED 33 of the camera terminal 12 by the determination result notification unit 46. When the image processing is performed and the determination result is displayed (step S12), “inspection in progress” is displayed in the determination result of the determination result display 58, the green LED 31 is turned off, and the yellow LED 32 is turned off. Turns on and turns off the red LED 33. If the determination result output by the image processing unit 44 is OK (good), “OK” is displayed in the determination result on the determination result display 58, the evaluation value and the determination threshold are updated, and the green LED 31 is turned on. The yellow LED 32 is turned off and the red LED 33 is turned off. Similarly, if the determination result output by the image processing unit 44 is NG (defective), “inspection” is displayed on the determination result display 58, the display of the evaluation value and the determination threshold is updated, and the green LED 31 is changed. The LED is turned off, the yellow LED 32 is turned on, and the red LED 33 is turned off.

作業者は緑色LED31の点灯状態、または作業指示画面50の判定結果表示58から、判定結果が「OK」になることを確認して(ステップS6)、次の作業項目があるか否かを確認するためカメラ端末12のグリップ21に設けられたスイッチ27を押下する。このとき次の作業項目があれば(YES)、結線検査作業支援システム本体10の作業指示部41は、作業項目リスト51の該当作業項目を完了の表示状態(チェックマーク有り)にして、次の作業項目の作業指示を表示する(ステップS13)。つぎの作業項目がなければ(NO)、作業項目リスト51の全項目は完了状態(全てのチェックボックスにチェックが入った状態)になったことを示しており、作業者は作業を完了する(ステップS7)。ここで、スイッチ27を押下する代わりに、一定時間経過したことを確認して、次の作業項目に進めるようにしてもよい。その場合はスイッチ27は不要となる。   The operator confirms that the determination result is “OK” from the lighting state of the green LED 31 or the determination result display 58 on the work instruction screen 50 (step S6), and checks whether there is a next work item. For this purpose, the switch 27 provided on the grip 21 of the camera terminal 12 is pressed. At this time, if there is a next work item (YES), the work instruction unit 41 of the connection inspection work support system main body 10 sets the corresponding work item in the work item list 51 to a display state of completion (with a check mark), and then A work instruction for the work item is displayed (step S13). If there is no next work item (NO), it indicates that all items in the work item list 51 are in a completed state (a state in which all check boxes are checked), and the worker completes the work ( Step S7). Here, instead of pressing the switch 27, it may be confirmed that a certain period of time has passed and the operation may proceed to the next work item. In that case, the switch 27 is unnecessary.

作業者47は、ケーブル結線箇所の見直しや、カメラ端末12の位置および方向の調整をしても、判定結果が「OK」になることを確認できない場合は、目視NGボタン62を押下する。このとき判定結果表示58の判定結果に「NG」を表示して、緑色LED31を消灯、黄色LED32を消灯、赤色LED33を点灯し、作業者47は作業を中断する。この後に再度検査を行うには、作業指示画面50の選択ボタン59を押下する(ステップ1)ことから始める。   If the operator 47 cannot confirm that the determination result is “OK” even after reviewing the cable connection location or adjusting the position and direction of the camera terminal 12, the operator 47 presses the visual NG button 62. At this time, “NG” is displayed as the determination result on the determination result display 58, the green LED 31 is turned off, the yellow LED 32 is turned off, and the red LED 33 is turned on. The worker 47 interrupts the work. In order to perform the inspection again after this, it starts by pressing the selection button 59 on the work instruction screen 50 (step 1).

図8は画像処理部44の処理内容を示すブロック構成図である。図6において、画像処理をして判定結果を表示する(ステップS12)ときに図8に示された処理内容を実施する。尚図8においては、図4に示されたコネクタCを接続する作業とは別の作業を示しており、具体的には赤配線65、青配線66、白配線67の配線作業について説明するものである。まず記憶部45から目標画像データDと、マスク範囲データEと、判定閾値を取得する。ここで目標画像データDとは画像処理に用いるための正規の結線状態を撮影した画像である。又マスク範囲データEは検査箇所の形状に対応したマスク範囲68A、68B、68Cを含むものである。次に目標画像データDのマスク処理を実施して(ステップS21)、目標画像データDのマスク範囲の各エリア平均色Yを求める。即ち目標画像データDのそれぞれの赤配線65A、青配線66A、白配線67Aにおいて、マスク範囲データEに示されたマスク範囲68A、68B、68Cのエリアについて色を取り出し、それぞれの各エリアにおける平均色を求める。図8の場合は赤、青、白のそれぞれについての各エリアの平均色を求める。ここでエリアとは目標画像データD上のマスク範囲(例えば68A、68B、68C)に相当する箇所を指す。又各エリア平均色とは、目標画像データD上のマスク範囲における平均色を指す。平均色の求め方については後で述べる。   FIG. 8 is a block diagram showing the processing contents of the image processing unit 44. In FIG. 6, when the image processing is performed and the determination result is displayed (step S12), the processing content shown in FIG. 8 is performed. FIG. 8 shows an operation different from the operation of connecting the connector C shown in FIG. 4, and specifically, the operation of wiring the red wiring 65, the blue wiring 66, and the white wiring 67 will be described. It is. First, target image data D, mask range data E, and a determination threshold are acquired from the storage unit 45. Here, the target image data D is an image obtained by photographing a normal connection state for use in image processing. The mask range data E includes mask ranges 68A, 68B and 68C corresponding to the shape of the inspection location. Next, mask processing of the target image data D is performed (step S21), and each area average color Y in the mask range of the target image data D is obtained. That is, in each of the red wiring 65A, the blue wiring 66A, and the white wiring 67A of the target image data D, colors are extracted for the areas of the mask ranges 68A, 68B, and 68C indicated by the mask range data E, and the average color in each area is obtained. Ask for. In the case of FIG. 8, the average color of each area for each of red, blue, and white is obtained. Here, the area refers to a portion corresponding to a mask range (for example, 68A, 68B, 68C) on the target image data D. Each area average color refers to an average color in the mask range on the target image data D. The method for obtaining the average color will be described later.

このような平均色を求める処理は同じ目標画像データDおよびマスク範囲データEのものを繰り返す場合には、1回目のみ実施して、2回目以降を省略することもできる。目標画像データDは8bitRGBカラー画像であり、マスク範囲データEは1bit画像データである。目標画像データDおよびマスク範囲データEの解像度はカメラ端末12が撮影する画像の解像度と同一である。   When the process for obtaining the average color is repeated for the same target image data D and mask range data E, the process can be performed only once and the second and subsequent processes can be omitted. The target image data D is an 8-bit RGB color image, and the mask range data E is 1-bit image data. The resolution of the target image data D and the mask range data E is the same as the resolution of the image captured by the camera terminal 12.

更に画像処理をして判定結果を表示する(ステップS12)とき、カメラ端末12から画像データFを取得する(ステップS20)。この画像データFは図4の撮影結果56に相当するものであり、実際にカメラ端末12で撮影された赤配線65、青配線66、白配線67が表示されている。画像データFと、マスク範囲データEに対しては、マスク回転角度リストXに基づいてマスク範囲の回転処理(ステップS22)を行ったものについてマスク処理(ステップS23)し、撮影して取得した画像データFに対する各マスク範囲における各エリア平均色を上記と同様にして求める。画像データFについては、上記目標画像データDと異なり、マスク範囲データEを所定の角度毎に回転させたものについてそれぞれマスク処理を行う。即ち右側レーザーポインタ23および左側レーザーポインタ24の交点37で位置合わせをしたとき、回転方向のずれが残るので、ある程度ずれていてもチェックできるようにするために、マスク範囲データEを所定の角度毎に回転させてマスク処理を行い、それぞれの角度毎の各エリアの平均色を目標画像データDの場合と同様に求めるのである。   Further, when image processing is performed and the determination result is displayed (step S12), the image data F is acquired from the camera terminal 12 (step S20). This image data F corresponds to the photographing result 56 of FIG. 4 and displays a red wiring 65, a blue wiring 66, and a white wiring 67 actually photographed by the camera terminal 12. For the image data F and the mask range data E, an image obtained by performing mask processing (step S23) on the image subjected to the mask range rotation processing (step S22) on the basis of the mask rotation angle list X, and capturing and acquiring the image. Each area average color in each mask range for data F is obtained in the same manner as described above. For the image data F, unlike the target image data D, the mask process is performed on the image obtained by rotating the mask range data E for each predetermined angle. That is, when alignment is performed at the intersection point 37 of the right laser pointer 23 and the left laser pointer 24, a deviation in the rotation direction remains. Therefore, in order to check even if there is some deviation, the mask range data E is set at a predetermined angle. Then, the mask processing is performed and the average color of each area for each angle is obtained in the same manner as in the case of the target image data D.

各エリア平均色には1つ以上の8bitRGB値が含まれる。図8においては、赤、青、白の3組についての8bitRGB値が存在することとなる。マスク範囲データEの回転処理(ステップS22)においては、マスク回転角度リストXに含まれる各角度に対して実施し、各角度に対しての各エリアの平均色を求める。目標画像データDに対する各エリア平均色Yと、各角度に対して撮影して取得した画像データFに対する各エリアの平均色Zのそれぞれの8bitRGB値について差の絶対値を演算して、それらのなかの最大値を求める(ステップS24)。即ち図8の場合では、各角度における赤、青、白の3つのうちの差が最大となる値を求める。そしてその最大値をマスク回転角度リストXの各要素(各回転角度)について比べた場合に最小となる値を求めて(ステップS25)、これを評価値Tとする。評価値Tが判定閾値R以下になっていればOK(良)、そうでなければNG(不良)として判定を行い(ステップS26)、判定結果Pを得て、判定結果通知部46に設定する。   Each area average color includes one or more 8-bit RGB values. In FIG. 8, there are 8-bit RGB values for three sets of red, blue, and white. In the rotation process (step S22) of the mask range data E, the process is performed for each angle included in the mask rotation angle list X, and the average color of each area for each angle is obtained. The absolute value of the difference is calculated for each 8-bit RGB value of each area average color Y with respect to the target image data D and each area average color Z with respect to the image data F captured and acquired for each angle, and among them, Is determined (step S24). In other words, in the case of FIG. 8, a value that maximizes the difference among the three of red, blue, and white at each angle is obtained. Then, when the maximum value is compared for each element (each rotation angle) of the mask rotation angle list X, a minimum value is obtained (step S25), and this is set as an evaluation value T. If the evaluation value T is equal to or less than the determination threshold R, the determination is OK (good), otherwise NG (bad) is determined (step S26), the determination result P is obtained, and set in the determination result notification unit 46. .

上記のような特徴を有する結線検査作業支援システムによれば、画像データFのマスク範囲における色情報に基づいて良否判定を行うので、文字を表示していない結線箇所に対しても適用できる。また作業者47がカメラ端末12を対象物48に向けて距離と撮影箇所の位置を決めて撮影するとともに、作業者47が調整することが難しい画像データFの回転方向のずれに対して画像処理部44が適切に対応でき、様々な位置および方向に存在する結線箇所を高速かつ正確に検査できる。   According to the connection inspection work support system having the above-described features, the pass / fail determination is performed based on the color information in the mask range of the image data F. Therefore, the connection inspection work support system can also be applied to connection portions where no characters are displayed. In addition, the operator 47 points the camera terminal 12 toward the object 48 to determine the distance and the position of the shooting location, and performs image processing against a shift in the rotation direction of the image data F that is difficult for the operator 47 to adjust. The part 44 can cope with it appropriately, and the connection location which exists in various positions and directions can be test | inspected rapidly and accurately.

マスク回転角度リストXには、例えば±30度の範囲において3度間隔で並べた値などを用いる。この場合3度間隔毎に上記各要素が並ぶことになる。このように正常に良否判定ができる程度に角度の間隔を広げることで処理速度を向上させることができる。 ここで、マスク処理は入力された画像データFおよびマスク範囲データEについて、画像データFにマスク範囲データEを論理演算(例えば積演算又は積和演算等)して、マスク範囲68A、68B、68Cにおける画像データFのみを抽出する。さらにマスク範囲データE内で範囲を区別するためにラベリング処理を行い、各範囲について番号づけをして(マスク範囲68A、68B、68Cに対してそれぞれ番号を付ける)、抽出した各範囲の画像データFを識別できるようにする。これにより各範囲の画像データFの平均色を特徴量として出力することができる。   For the mask rotation angle list X, for example, values arranged at intervals of 3 degrees in a range of ± 30 degrees are used. In this case, the above elements are arranged at intervals of 3 degrees. In this way, the processing speed can be improved by widening the angle interval to such an extent that normality can be determined normally. Here, the mask processing is performed on the input image data F and mask range data E by performing a logical operation (for example, a product operation or a product-sum operation) on the image data F and mask ranges 68A, 68B, 68C. Only the image data F is extracted. Further, a labeling process is performed to distinguish the ranges in the mask range data E, the respective ranges are numbered (numbers are assigned to the mask ranges 68A, 68B, 68C, respectively), and the extracted image data of each range F can be identified. As a result, the average color of the image data F in each range can be output as a feature amount.

ここでは、マスク範囲データEは1Bit画像データであり、ラベリング処理をすることで各マスク範囲68A、68B、68Cについて番号づけをしている。これに対して複数のマスク範囲データを用いることにして、各マスク範囲データと番号を対応させてラベリング処理を省略してもよい。即ち図8の場合では、マスク範囲68A、68B、68Cについてそれぞれ別のマスク範囲データとして登録し、これら3つのデータについてそれぞれラベリングするものである。また平均色を求める処理は、各範囲の画素内で中央値となる色を求めるようにしてもよく、更に予め設定した色範囲の画素が予め設定した割合以上に含まれるか否かを判定することにより行う等、異なる処理内容に置き換えてもよい。
また、目標画像データDおよび画像データFの画像形式は8bitRGBカラー画像以外に例えばCMYK画像などの異なる画像データ形式でもよい。マスク範囲データEの画像形式は1bit画像以外の画像データ形式や、画像データ上の座標を示すデータでもよい。
Here, the mask range data E is 1-bit image data, and the mask ranges 68A, 68B, and 68C are numbered by performing a labeling process. On the other hand, by using a plurality of mask range data, the labeling process may be omitted by associating each mask range data with a number. That is, in the case of FIG. 8, the mask ranges 68A, 68B, and 68C are registered as different mask range data, and these three data are labeled respectively. In addition, the process for obtaining the average color may obtain a median color among the pixels in each range, and further determine whether or not the pixels in the preset color range are included in a predetermined ratio or more. May be replaced with different processing contents.
Further, the image formats of the target image data D and the image data F may be different image data formats such as CMYK images other than the 8-bit RGB color image. The image format of the mask range data E may be an image data format other than a 1-bit image or data indicating coordinates on the image data.

以上のように本実施形態によれば、画像処理部44は、カメラ端末12から取得した画像データFおよびマスク範囲データEにおいて、所定の位置を回転中心として、マスク範囲データEの回転角度を変えて、画像データFとマスク範囲データEの論理演算をすることにより得られるマスク範囲の色情報からなる特徴量を、回転角度ごとに計算する。そして目標画像データDに対してマスク範囲データEを論理演算することで得られた目標特徴量と最も一致する(最も差が小さい)回転角度における特徴量を抽出し、この特徴量と目標特徴量との差を求めてこれを評価値Tとして、評価値Tを判定閾値と比較して良否判定を行う。   As described above, according to the present embodiment, the image processing unit 44 changes the rotation angle of the mask range data E around the predetermined position in the image data F and the mask range data E acquired from the camera terminal 12. Thus, a feature amount composed of color information of the mask range obtained by performing a logical operation on the image data F and the mask range data E is calculated for each rotation angle. Then, a feature amount at a rotation angle that most closely matches (smallest difference) with the target feature amount obtained by logically calculating the mask range data E with respect to the target image data D is extracted, and this feature amount and the target feature amount are extracted. Is determined as an evaluation value T, and the evaluation value T is compared with a determination threshold value to perform pass / fail determination.

以上の動作を図3を参照しながら総括する。先ず作業指示部41が作業者47に対して作業指示内容を通知する(矢印131)。次に作業者47は対象物48とカメラ端末12の間の距離を調整する(矢印132)。本実施形態においては右側レーザーポインタ23および左側レーザーポインタ24が距離確認部42であり、これらを用いることによって距離を調整する。次に作業者47はカメラ端末12を対象物48に向ける(矢印133)。そしてカメラ端末12が対象物48を撮影する(矢印134)。次に画像処理部44がカメラ端末12から画像データを取得するとともに(矢印135)、記憶部45から参照データを取得する(矢印136)。次に画像処理部44が判定結果通知部46に対して判定結果を設定する(矢印137)。そして判定結果通知部46は作業者47に対して判定結果を通知する(矢印138)。   The above operation will be summarized with reference to FIG. First, the work instruction unit 41 notifies the worker 47 of the work instruction content (arrow 131). Next, the operator 47 adjusts the distance between the object 48 and the camera terminal 12 (arrow 132). In the present embodiment, the right laser pointer 23 and the left laser pointer 24 are the distance confirmation unit 42, and the distance is adjusted by using these. Next, the worker 47 points the camera terminal 12 toward the object 48 (arrow 133). Then, the camera terminal 12 images the object 48 (arrow 134). Next, the image processing unit 44 acquires image data from the camera terminal 12 (arrow 135) and also acquires reference data from the storage unit 45 (arrow 136). Next, the image processing unit 44 sets a determination result for the determination result notification unit 46 (arrow 137). Then, the determination result notifying unit 46 notifies the operator 47 of the determination result (arrow 138).

次に図4において設定ボタン60を押下したとき、結線検査作業支援システム本体10の設定部49はディスプレイに図9に示すような設定画面70を表示する。設定画面70は作業項目リスト71に作業項目の一覧を表示させ、追加ボタン83を押下したとき、作業項目リスト71に項目を追加する。又削除ボタン84を押下したとき、作業項目リスト71内で選択中の項目を削除することができる。図10は作業項目リスト71の一例を示す図である。   Next, when the setting button 60 is pressed in FIG. 4, the setting unit 49 of the connection inspection work support system main body 10 displays a setting screen 70 as shown in FIG. 9 on the display. The setting screen 70 displays a list of work items in the work item list 71, and adds an item to the work item list 71 when the add button 83 is pressed. When the delete button 84 is pressed, the item currently selected in the work item list 71 can be deleted. FIG. 10 is a diagram showing an example of the work item list 71.

作業項目リスト71の作業項目を選択したときには、図10に示すように、該当作業項目名にアンダーラインを表示する。図10においては、コネクタCの欄にアンダーラインが引かれている。これにより選択中の項目を明示して、作業箇所表示72、外観表示73、作業要領表示74、目標画像75、作業指示表示77、判定結果表示78に設定済みの内容を更新する。ここで作業箇所表示72及び作業指示表示77においては図4における作業箇所表示52及び作業指示表示57と同様な表示がなされる。又判定結果表示78の一例として例えば以下のようなものがある。
設定中 評価値: 判定閾値:50以下
このときに、作業箇所表示72または作業指示表示77を押下すると、結線検査作業支援システム本体10に接続したキーボードから入力して各欄のテキストを編集でき、エンターキーを入力したときに設定を更新することができる。また外観表示73、作業要領表示74をクリックすると、ファイル選択ダイアログを開き、表示する画像を変更することができる。 テストボタン80を押下すると、現在選択中の作業項目の設定内容のみについて、作業者47がカメラ端末12により目標画像75について撮影することにより、図6の作業を開始して動作テストをすることができる。決定ボタン81を押下すると設定内容を記憶部45に保存する。キャンセルボタン82を押下すると設定内容を破棄して図4の作業指示画面50に戻る。
When a work item in the work item list 71 is selected, an underline is displayed in the corresponding work item name as shown in FIG. In FIG. 10, an underline is drawn in the column of the connector C. As a result, the currently selected item is clearly indicated, and the set contents are updated in the work location display 72, appearance display 73, work procedure display 74, target image 75, work instruction display 77, and determination result display 78. Here, in the work location display 72 and the work instruction display 77, the same display as the work location display 52 and the work instruction display 57 in FIG. 4 is performed. Examples of the determination result display 78 include the following.
Under evaluation Evaluation value: Judgment threshold value: 50 or less At this time, when the work location display 72 or the work instruction display 77 is pressed, the text in each column can be edited by inputting from the keyboard connected to the connection inspection work support system body 10. The setting can be updated when the enter key is entered. When the appearance display 73 and the work procedure display 74 are clicked, a file selection dialog is opened, and an image to be displayed can be changed. When the test button 80 is pressed, only the setting contents of the currently selected work item can be taken by the worker 47 by photographing the target image 75 with the camera terminal 12 to start the work of FIG. it can. When the enter button 81 is pressed, the setting contents are stored in the storage unit 45. When the cancel button 82 is pressed, the setting contents are discarded and the process returns to the work instruction screen 50 in FIG.

次にマスク範囲の設定並びにレーザーポインタの交点目標位置の設定等の目標設定について説明する。図9の設定画面70における目標設定ボタン79を押下すると、図10の目標設定ダイアログ105が表示される。この目標設定ダイアログ105では、マスク範囲設定表示90に目標画像75を表示させ、更に目標画像75の上にマスク設定箇所103に示すようなマスク範囲の描画内容を重ねて表示する。図11に示された例ではコネクタにマスク範囲(マスク設定箇所103)を設定することが示されている。そして撮影ボタン100を押下したとき、マスク範囲の描画内容を全てクリアして、カメラ端末12から取得した画像を目標画像75として設定し、表示内容を更新する。   Next, target setting such as setting of a mask range and setting of an intersection target position of a laser pointer will be described. When the target setting button 79 on the setting screen 70 in FIG. 9 is pressed, a target setting dialog 105 in FIG. 10 is displayed. In the target setting dialog 105, the target image 75 is displayed on the mask range setting display 90, and the mask range drawing contents as shown in the mask setting location 103 are displayed on the target image 75 in an overlapping manner. In the example shown in FIG. 11, the mask range (mask setting location 103) is set in the connector. When the photographing button 100 is pressed, all the drawing contents in the mask range are cleared, the image acquired from the camera terminal 12 is set as the target image 75, and the display contents are updated.

マスク描画ボタン91〜93を押下したのちに、タッチパネルやマウスカーソルでマスク範囲設定表示90上を押下したままなぞると、マスク範囲を描画することができる。これによりマスク範囲データEが作成できることになる。マスク消去ボタン94を押下した後に同様にすると、マスク範囲を消去することができる。マスク描画ボタン91〜93およびマスク消去ボタン94に表示されているマークの大きさが、マスク範囲を描画並びに消去をするときの線の太さとなる。即ちボタン91、92、93において丸の大きさが順番に大きくなっており、この順番で線の太さが大きくなるものである。更に判定閾値表示97を押下すると、判定閾値の数値を8Bit値である0〜255の間で設定することができる。尚判定閾値の大きさは各作業者47が各現場で主観により決定するものである。   After the mask drawing buttons 91 to 93 are pressed, the mask range can be drawn by tracing down the mask range setting display 90 with a touch panel or a mouse cursor. Thereby, the mask range data E can be created. If the same operation is performed after the mask erase button 94 is pressed, the mask range can be erased. The size of the mark displayed on the mask drawing buttons 91 to 93 and the mask erasing button 94 is the thickness of the line when drawing and erasing the mask range. That is, in the buttons 91, 92, and 93, the sizes of the circles increase in order, and the thickness of the line increases in this order. When the determination threshold value display 97 is further pressed, the numerical value of the determination threshold value can be set between 0-255 which is an 8-bit value. The size of the determination threshold is determined by each worker 47 subjectively at each site.

マスク範囲の設定は設定作業者の判断で行うため、設定内容が適切でない場合があり、右側レーザーポインタ23および左側レーザーポインタ24の交点を合わせても正しく判定できないことがある。そのため目標画像75、マスク範囲、判定閾値を設定した後に、更新ボタン98を押下して良範囲図表示95を更新する。そして図11に示されるような良範囲104のように目標画像75のどのあたりを狙って右側レーザーポインタ23および左側レーザーポインタ24の交点を合わせるとOK(良)と判定されるかを示す。良範囲図表示95は入力画像として目標画像75そのものを用いる。即ち目標画像75は正規の結線状態を撮影したものであるから判定結果は必ずOKでなければならないこととなる。そして目標画像75を上下左右方向に平行移動させ、画像処理部44によりシミュレーション処理を行い、画像処理部44により実際に判定させてOK(良)である平行移動処理の範囲を目標画像75に重ねて描画し、良範囲104を得る。また画像処理部44により判定させて良範囲104の外接矩形を求めて良範囲値表示96にそのサイズを表示することもできる。即ち作業者は良範囲104内に右側レーザーポインタ23および左側レーザーポインタ24の交点を合わせるようにカメラ端末12を操作すれば良い。   Since the setting of the mask range is performed by the determination of the setting operator, the setting contents may not be appropriate, and even if the intersections of the right laser pointer 23 and the left laser pointer 24 are matched, it may not be determined correctly. Therefore, after setting the target image 75, the mask range, and the determination threshold, the update button 98 is pressed to update the good range diagram display 95. Then, as in a good range 104 as shown in FIG. 11, it is shown which part of the target image 75 is aimed to be determined as OK (good) when the intersections of the right laser pointer 23 and the left laser pointer 24 are matched. The good range diagram display 95 uses the target image 75 itself as an input image. That is, since the target image 75 is an image of a normal connection state, the determination result must be OK. Then, the target image 75 is translated in the vertical and horizontal directions, the simulation processing is performed by the image processing unit 44, and the range of the parallel movement processing which is actually judged by the image processing unit 44 and is OK (good) is superimposed on the target image 75. To obtain a good range 104. Further, the circumscribing rectangle of the good range 104 can be determined by the image processing unit 44 and the size can be displayed on the good range value display 96. That is, the operator may operate the camera terminal 12 so that the intersection of the right laser pointer 23 and the left laser pointer 24 is aligned within the good range 104.

設定作業者は、設定部49により、カメラ端末12により撮影した正しい結線状態の目標画像データD、マスク範囲データE及び判定閾値を記憶部45に設定して、判定閾値とともに記憶部45に登録する。そして設定部49は、目標画像データDを平行移動および拡大縮小して生成した複数の画像データに対して、画像処理部44により実際に判定させる。その判定結果に基づいて良となる範囲、又は否となる範囲を図示した良否範囲図を示し、又は良範囲値表示96に良否範囲評価値を表示する。以上により設定作業者は、良否範囲図または良範囲値表示96を確認して、設定した目標画像データD、マスク範囲データE並びに判定閾値が誤判定の可能性が低い妥当なものであるかどうかを判断することができるので、不適切な設定内容によって誤判定をすることを予防できる。   The setting operator uses the setting unit 49 to set the target image data D, the mask range data E, and the determination threshold value of the correct connection state captured by the camera terminal 12 in the storage unit 45 and register them in the storage unit 45 together with the determination threshold value. . Then, the setting unit 49 causes the image processing unit 44 to actually determine a plurality of pieces of image data generated by parallel movement and enlargement / reduction of the target image data D. A pass / fail range diagram illustrating a pass or fail range based on the determination result is shown, or a pass / fail evaluation value is displayed on the pass range value display 96. As described above, the setting operator confirms the pass / fail range diagram or the pass range value display 96, and whether or not the set target image data D, mask range data E, and determination threshold are appropriate with a low possibility of erroneous determination. Therefore, it is possible to prevent erroneous determination due to inappropriate setting contents.

設定作業者はこれらの良範囲図表示95および良範囲値表示96を確認することで、カメラ端末12を向ける位置の許容できる範囲や、誤判定の可能性を認識することができる。例えば、良範囲104が小さすぎるとカメラ端末12の位置の許容できる範囲が小さくなり、作業者がカメラ端末12を向けてもなかなかOK(良)判定とならず作業時間がかかってしまうことになる。また良範囲104が大きすぎたり、2箇所以上ある場合は誤判定をする可能性が高くなる。クリアボタン99を押下したときは、良範囲図表示95および良範囲値表示96をクリアする。決定ボタン101を押下したときには、マスク範囲を設定して、設定画面70に戻る。キャンセルボタン102を押下したときには、マスク範囲の編集内容を破棄して、設定画面70に戻る。   By confirming the good range diagram display 95 and the good range value display 96, the setting operator can recognize the allowable range of the position where the camera terminal 12 is directed and the possibility of erroneous determination. For example, if the good range 104 is too small, the allowable range of the position of the camera terminal 12 becomes small, and even if the operator points the camera terminal 12, it is not easy to make an OK (good) determination, and work time is required. . If the good range 104 is too large or there are two or more locations, the possibility of erroneous determination is increased. When the clear button 99 is pressed, the good range diagram display 95 and the good range value display 96 are cleared. When the enter button 101 is pressed, the mask range is set and the setting screen 70 is returned. When the cancel button 102 is pressed, the edited contents of the mask range are discarded and the setting screen 70 is displayed again.

実施の形態2.
図12は実施の形態2による結線検査作業支援システムの実施状況を示す概念図である。上記実施の形態1では、図1のように結線検査作業支援システム本体10とカメラ端末12がケーブル11などで接続されるのに対して、本実施形態においては、図12に示すように結線検査作業支援システム本体とカメラ端末が一体になった結線検査作業支援システム本体200を設けたものである。図12ではカメラ端末にバッテリを内蔵している場合を示しているが、電源ケーブルを接続するようにしてもよい。
Embodiment 2. FIG.
FIG. 12 is a conceptual diagram showing an implementation status of the connection inspection work support system according to the second embodiment. In the first embodiment, the connection inspection work support system main body 10 and the camera terminal 12 are connected by the cable 11 or the like as shown in FIG. 1, whereas in this embodiment, the connection inspection is performed as shown in FIG. A connection inspection work support system main body 200 in which a work support system main body and a camera terminal are integrated is provided. Although FIG. 12 shows a case where a battery is built in the camera terminal, a power cable may be connected.

図13(A)はカメラ端末の前面部を示す斜視図、図13(B)はカメラ端末の背面部を示す斜視図である。結線検査作業支援システム本体200は図13に示すようにカメラ端末の背面パネル30にタッチパネルディスプレイ201を備え、作業指示画面50及び設定画面70、あるいはその一部をこのディスプレイに表示する。例えばディスプレイの表示領域が狭い場合には、目標画像表示55と判定結果表示58のみを表示するなどしてもよい。
尚本発明は、その発明の範囲内において、各実施の形態を自由に組み合わせたり、各実施の形態を適宜、変形、省略することが可能である。
FIG. 13A is a perspective view showing the front part of the camera terminal, and FIG. 13B is a perspective view showing the back part of the camera terminal. As shown in FIG. 13, the connection inspection work support system main body 200 includes a touch panel display 201 on the back panel 30 of the camera terminal, and displays the work instruction screen 50 and the setting screen 70 or a part thereof on the display. For example, when the display area of the display is narrow, only the target image display 55 and the determination result display 58 may be displayed.
It should be noted that the present invention can be freely combined with each other within the scope of the invention, and each embodiment can be appropriately modified or omitted.

この発明に係る結線検査作業支援システムは、
査箇所を撮影することができるカメラ端末と、
画像処理に用いるための正規の結線状態を撮影した目標画像データ、上記検査箇所の形状に対応したマスク範囲を含むマスク範囲データ、及び判定閾値を保持する記憶部と、
標画像データに対してマスク範囲データを論理演算することにより目標特徴量を求めるとともに、マスク範囲データの回転角度を変えてカメラ端末から取得した画像データとマスク範囲データの論理演算をすることにより回転角度毎に特徴量を計算し、目標特徴量との差が最も小さい回転角度における特徴量と目標特徴量との差を評価値として、この評価値と判定閾値とを比較することにより結線作業の判定を行う画像処理部と、
画像処理部からの判定結果を通知する判定結果通知部を備えたものである。
The wire connection inspection work support system according to the present invention ,
And the camera terminal that is capable of taking a biopsy査箇office,
A target image data obtained by photographing a normal connection state for use in image processing, mask range data including a mask range corresponding to the shape of the inspection location, and a storage unit that holds a determination threshold ;
With obtaining the target feature amount by performing a logical operation of the mask range data to the targets image data, by the logical operation of the image data and the mask range data obtained from the camera terminal by changing the rotation angle of the mask range data By calculating the feature value for each rotation angle and using the difference between the feature value and the target feature value at the rotation angle with the smallest difference from the target feature value as the evaluation value, the connection work is performed by comparing this evaluation value with the judgment threshold value. An image processing unit for determining
Those having a judgment result notification section to notify the judgment result from the image processing unit.

次にマスク範囲の設定並びにレーザーポインタの交点目標位置の設定等の目標設定について説明する。図9の設定画面70における目標設定ボタン79を押下すると、図11の目標設定ダイアログ105が表示される。この目標設定ダイアログ105では、マスク範囲設定表示90に目標画像75を表示させ、更に目標画像75の上にマスク設定箇所103に示すようなマスク範囲の描画内容を重ねて表示する。図11に示された例ではコネクタにマスク範囲(マスク設定箇所103)を設定することが示されている。そして撮影ボタン100を押下したとき、マスク範囲の描画内容を全てクリアして、カメラ端末12から取得した画像を目標画像75として設定し、表示内容を更新する。 Next, target setting such as setting of a mask range and setting of an intersection target position of a laser pointer will be described. When the target setting button 79 on the setting screen 70 in FIG. 9 is pressed, the target setting dialog 105 in FIG. 11 is displayed. In the target setting dialog 105, the target image 75 is displayed on the mask range setting display 90, and the mask range drawing contents as shown in the mask setting location 103 are displayed on the target image 75 in an overlapping manner. In the example shown in FIG. 11, the mask range (mask setting location 103) is set in the connector. When the photographing button 100 is pressed, all the drawing contents in the mask range are cleared, the image acquired from the camera terminal 12 is set as the target image 75, and the display contents are updated.

Claims (3)

作業者に作業指示内容を通知する作業指示部と、
検査箇所を撮影することができるカメラ端末と、
画像処理に用いるための正規の結線状態を撮影した目標画像データ、上記検査箇所の形状に対応したマスク範囲を含むマスク範囲データ、及び判定閾値を保持する記憶部と、
上記検査箇所と上記カメラ端末との間の適切な距離および上記カメラ端末の位置を設定するための距離確認部と、
上記目標画像データに対して上記マスク範囲データを論理演算することにより目標特徴量を求めるとともに、上記マスク範囲データの回転角度を変えて上記カメラ端末から取得した画像データと上記マスク範囲データの論理演算をすることにより上記回転角度毎に特徴量を計算し、上記目標特徴量との差が最も小さい上記回転角度における上記特徴量と上記目標特徴量との差を評価値として、この評価値と上記判定閾値とを比較することにより結線作業の判定を行う画像処理部と、
上記画像処理部からの判定結果を上記作業者に通知する判定結果通知部を備えた結線検査作業支援システム。
A work instruction section for notifying workers of work instruction contents;
A camera terminal capable of photographing the inspection location;
A target image data obtained by photographing a normal connection state for use in image processing, mask range data including a mask range corresponding to the shape of the inspection location, and a storage unit that holds a determination threshold;
A distance confirmation unit for setting an appropriate distance between the inspection location and the camera terminal and the position of the camera terminal;
A logical operation of the mask range data and the image data acquired from the camera terminal by changing the rotation angle of the mask range data while obtaining a target feature amount by performing a logical operation of the mask range data on the target image data By calculating the feature amount for each rotation angle, the difference between the feature amount and the target feature amount at the rotation angle with the smallest difference from the target feature amount is used as an evaluation value. An image processing unit that determines the connection work by comparing the determination threshold;
A connection inspection work support system comprising a determination result notifying unit for notifying the operator of a determination result from the image processing unit.
複数のレーザーポインタから射出されたレーザーの交点を上記検査箇所の所定の位置に合わせることにより上記カメラ端末を位置決めする請求項1記載の結線検査作業支援システム。 The connection inspection work support system according to claim 1, wherein the camera terminal is positioned by matching an intersection of laser beams emitted from a plurality of laser pointers with a predetermined position of the inspection location. 上記目標画像データを平行移動および拡大縮小して生成した複数の画像データに対して上記画像処理部によりシミュレーション判定させ、この判定結果に基づいて上記レーザーの交点の範囲を求める請求項2記載の結線検査作業支援システム。 The connection according to claim 2, wherein the image processing unit performs simulation determination on a plurality of image data generated by parallel translation and enlargement / reduction of the target image data, and obtains the range of the intersection of the lasers based on the determination result. Inspection work support system.
JP2017565494A 2016-02-01 2017-01-24 Connection inspection work support system Active JP6516884B2 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016016948 2016-02-01
JP2016016948 2016-02-01
PCT/JP2017/002373 WO2017135107A1 (en) 2016-02-01 2017-01-24 Wire connection work assist system

Publications (2)

Publication Number Publication Date
JPWO2017135107A1 true JPWO2017135107A1 (en) 2018-06-28
JP6516884B2 JP6516884B2 (en) 2019-05-22

Family

ID=59499760

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017565494A Active JP6516884B2 (en) 2016-02-01 2017-01-24 Connection inspection work support system

Country Status (3)

Country Link
JP (1) JP6516884B2 (en)
CN (1) CN108701346B (en)
WO (1) WO2017135107A1 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109342449A (en) * 2018-10-24 2019-02-15 格力电器(武汉)有限公司 Detection device and detection method
KR102191704B1 (en) * 2019-06-05 2020-12-17 (주)미래테크원 cable harness inspection method based on machine vision
WO2024043019A1 (en) * 2022-08-24 2024-02-29 テルモ株式会社 Connection state determination method and connection state determination system

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3533492B2 (en) * 1999-07-13 2004-05-31 住友電装株式会社 Wire harness visual inspection device
JP2011130652A (en) * 2009-02-19 2011-06-30 Hitachinaka Techno Center:Kk Cable connection check system, identification tag manufacturing method, and related device
JP2015061339A (en) * 2013-09-17 2015-03-30 株式会社日立製作所 Wire connection work support system
JP2015171184A (en) * 2014-03-05 2015-09-28 茂 森 Cable connection confirmation device and method

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6370769B1 (en) * 1999-10-27 2002-04-16 Avaya Technology Corp. Automated assembly of connector to cable having twisted wire pairs
JP4707605B2 (en) * 2006-05-16 2011-06-22 三菱電機株式会社 Image inspection method and image inspection apparatus using the method
JP4941422B2 (en) * 2008-07-14 2012-05-30 パナソニック株式会社 Component mounting system
CN101718551B (en) * 2009-12-17 2011-04-27 北京理工大学 Flexible cable movement measuring method and measuring device
CN102507592B (en) * 2011-11-01 2014-05-28 河海大学常州校区 Fly-simulation visual online detection device and method for surface defects
CN103163150B (en) * 2013-03-18 2015-07-15 长飞光纤光缆股份有限公司 Online cable surface defect detection device and online cable surface defect detection method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3533492B2 (en) * 1999-07-13 2004-05-31 住友電装株式会社 Wire harness visual inspection device
JP2011130652A (en) * 2009-02-19 2011-06-30 Hitachinaka Techno Center:Kk Cable connection check system, identification tag manufacturing method, and related device
JP2015061339A (en) * 2013-09-17 2015-03-30 株式会社日立製作所 Wire connection work support system
JP2015171184A (en) * 2014-03-05 2015-09-28 茂 森 Cable connection confirmation device and method

Also Published As

Publication number Publication date
JP6516884B2 (en) 2019-05-22
CN108701346A (en) 2018-10-23
CN108701346B (en) 2021-11-30
WO2017135107A1 (en) 2017-08-10

Similar Documents

Publication Publication Date Title
EP2618135B1 (en) Method for registering inspection standard for soldering inspection and board inspection apparatus thereby
JP2018530800A (en) Method for assembling electric switch and assembly assist device for simplifying assembly of such switch
JP2008235504A (en) Assembly inspection device
WO2017135107A1 (en) Wire connection work assist system
KR20100124653A (en) Apparatus and method for visual inspection
JP7214432B2 (en) Image processing method, image processing program, recording medium, image processing apparatus, production system, article manufacturing method
JP6016760B2 (en) Work confirmation system
JP3906780B2 (en) Data registration method for component code conversion table, board inspection data creation device, registration processing program, and storage medium thereof
CN108010011B (en) Device for assisting in identifying target area on target object and equipment comprising device
JP2009289046A (en) Operation support device and method using three-dimensional data
JP2012048510A (en) Operation inspection system
JP6445935B2 (en) Work support device, work support method, and work support program
TWI659207B (en) Projection-type auxiliary system assisting printed circuit board to quickly locate target and capable of zooming in at fixed points
CN111753791A (en) Detection method and detection equipment
JP2015171184A (en) Cable connection confirmation device and method
JP2008241424A (en) Image processing apparatus and method using the same
KR101241036B1 (en) Apparatus for inspecting pcb
CN109804730B (en) Substrate inspection apparatus and substrate distortion compensation method using the same
JP2016099633A (en) Maintenance inspection system using a portable terminal
JP5191928B2 (en) Onboard data creation support device and component mounting device
JP2008218737A (en) Image processing device
JP2015219141A (en) Printed substrate inspection device and inspection method of the same
CN110544248B (en) Slot detection method and system
JP4507785B2 (en) Substrate inspection device, parameter setting method and parameter setting device
US20240153069A1 (en) Method and arrangement for testing the quality of an object

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180122

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190416

R150 Certificate of patent or registration of utility model

Ref document number: 6516884

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250