JP2017062757A - Controller system, and support device thereof - Google Patents

Controller system, and support device thereof Download PDF

Info

Publication number
JP2017062757A
JP2017062757A JP2016024151A JP2016024151A JP2017062757A JP 2017062757 A JP2017062757 A JP 2017062757A JP 2016024151 A JP2016024151 A JP 2016024151A JP 2016024151 A JP2016024151 A JP 2016024151A JP 2017062757 A JP2017062757 A JP 2017062757A
Authority
JP
Japan
Prior art keywords
marker
image
worker
controller
program
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016024151A
Other languages
Japanese (ja)
Other versions
JP6686496B2 (en
Inventor
吉平 宮野
Kichihei Miyano
吉平 宮野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuji Electric Co Ltd
Original Assignee
Fuji Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Electric Co Ltd filed Critical Fuji Electric Co Ltd
Publication of JP2017062757A publication Critical patent/JP2017062757A/en
Application granted granted Critical
Publication of JP6686496B2 publication Critical patent/JP6686496B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Programmable Controllers (AREA)
  • Processing Or Creating Images (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a controller system and a support device thereof capable of identifying when, from which and by whom the controller program has been updated.SOLUTION: When a support device 20 which includes a camera, a support software 21 and an AR application 22 executes a download onto any PLC 10, the AR application 22 recognizes an AR marker disposed at the position and an AR marker carried by a worker in an image picked up by the camera and creates an extended virtual image in which a piece of predetermined information corresponding to the respect recognized AR markers are combined with the pick-up images. The support software 21 also downloads the extended virtual image and stores together therewith.SELECTED DRAWING: Figure 1

Description

本発明は、コントローラのプログラムをユーザに編集させる支援装置から、コントローラのプログラムを更新するシステムに関する。   The present invention relates to a system for updating a controller program from a support device that allows a user to edit the controller program.

コントローラへのプログラムダウンロードでは、支援装置内のプロジェクトが接続先のコントローラに対応したものであるかどうかを、照合機能によって確認を行い、ダウンロードを行うようにしている。   When downloading a program to the controller, the collation function is used to check whether the project in the support device corresponds to the connection destination controller, and the program is downloaded.

その方法として、対象となるコントローラの機種だけでなく周辺モジュール等を含めたシステム構成定義によって、支援装置内のプロジェクトが接続先のコントローラと一致しているかどうかの判断を行っており、稼働中におけるオンライン更新では、さらに、特許文献1で提案されているように、識別子によって更新プログラムの継続性を保障するようになっている。   As a method, it is determined whether the project in the support device matches the connected controller based on the system configuration definition including not only the target controller model but also peripheral modules. In online update, as proposed in Patent Document 1, the continuity of the update program is guaranteed by an identifier.

このような仕組みにより、接続先のコントローラには、そのコントローラに合致した支援装置内のプロジェクトから、プログラムがダウンロードされるようになっている。   With such a mechanism, the program is downloaded to the connected controller from the project in the support device that matches the controller.

特開2013-168031号公報JP 2013-168031 A

従来の技術では、接続先のコントローラには、そのコントローラに合致した支援装置内のプロジェクトからプログラムがダウンロードされるようになっており、その仕組みについては上述した通りである。   In the conventional technique, a program is downloaded to a connection destination controller from a project in a support device that matches the controller, and the mechanism is as described above.

しかし、図12に示すように、コントローラ(PLC100;以下、コントローラ100と記す)は、接続された支援装置110内のプロジェクトの正当性が保障されさえすれば、そのプロジェクトからのプログラムを受け入れるため、そのコントローラ100に対応するプロジェクトさえあれば、何時でもコントローラ100のプログラムを入れ替えることができるようになっている。   However, as shown in FIG. 12, the controller (PLC 100; hereinafter referred to as the controller 100) accepts a program from the project as long as the validity of the project in the connected support device 110 is guaranteed. As long as there is a project corresponding to the controller 100, the program of the controller 100 can be replaced at any time.

また、支援装置110内のプロジェクトにも、コントローラ100内にも、プログラムダウンロード操作に関する記録が残らず、それらについては、別途、ユーザによる運用によって管理されている。このような従来の技術では、人為的なミスなどにより、本来の運用とは異なるタイミングでプログラム更新が行われた場合、ユーザで管理しているプログラムと異なるプログラムがコントローラ100にダウンロードされることになる。   Moreover, neither the project in the support apparatus 110 nor the controller 100 has a record regarding the program download operation, and these are separately managed by operations by the user. In such a conventional technique, when a program update is performed at a timing different from the original operation due to a human error or the like, a program different from the program managed by the user is downloaded to the controller 100. Become.

このような状況において、コントローラ100のプログラムに問題が見つかった場合、コントローラ100内にプログラム更新に関する情報が存在しないため、そのプログラムが何時、誰の手によって更新されたのか、原因を特定することが容易ではないため、再発防止といった対策が取りにくいといった問題が発生する。   In such a situation, when a problem is found in the program of the controller 100, there is no information regarding the program update in the controller 100, so that it is possible to identify the cause of when and by whom the program was updated. Since it is not easy, there is a problem that it is difficult to take measures such as preventing recurrence.

そこで、コントローラ100にダウンロードされているプログラムが、不特定の場所、人から実行されることなく、何時、何処から、誰によって実行されたかどうかを特定できる仕組みが要望されている。   Therefore, there is a demand for a mechanism that can identify when, from where, and by whom a program downloaded to the controller 100 is executed by an unspecified place or person.

本発明の課題は、任意の支援装置から任意のコントローラへプログラムをダウンロードする際に、ARマーカーを利用して生成した更新証拠画像を保存することで、後に更新証拠画像を参照すれば、何時、何処から、誰によってプログラム更新が実行されたのかを特定できるようにするコントローラシステム等を提供することである。   An object of the present invention is to save an update evidence image generated using an AR marker when a program is downloaded from an arbitrary support device to an arbitrary controller. It is to provide a controller system or the like that makes it possible to identify from where and where a program update has been executed.

本発明のコントローラシステムは、1以上のコントローラが設置され、任意のコントローラのプログラム更新の際に支援装置から該コントローラにプログラムがダウンロードされるコントローラシステムであって、任意の場所に設置される第1のARマーカーと、作業者に所持させる第2のARマーカーとが設けられる。   The controller system of the present invention is a controller system in which one or more controllers are installed, and a program is downloaded from the support device to the controller when updating the program of any controller, and the first is installed in an arbitrary place. AR markers and a second AR marker to be carried by the operator are provided.

そして、前記支援装置は、下記の各手段を有する。
・撮影手段;
・前記プログラムのダウンロードの際、AR手段を起動する支援手段;
・該AR手段。
The support apparatus includes the following units.
・ Photographing means;
-Support means for activating AR means when downloading the program;
-The AR means.

そして、AR手段は、前記撮影手段による撮影画像中に前記第1のARマーカーと前記第2のARマーカーの両方が検出された場合、該検出された第1のARマーカー、第2のARマーカーそれぞれに対応する所定の情報を該撮影画像に合成して成る合成画像を生成する。   Then, when both the first AR marker and the second AR marker are detected in the image captured by the imaging unit, the AR unit detects the detected first AR marker and second AR marker. A composite image formed by combining predetermined information corresponding to each of the captured images is generated.

前記支援手段は、該合成画像が生成されない場合には前記プログラムのダウンロードを実行せず、該合成画像が生成された場合あるいは該合成画像が生成され更に所定の条件が満たされた場合には、前記プログラムのダウンロードを実行すると共に該合成画像も一緒にダウンロードする。   The support means does not download the program when the composite image is not generated, and when the composite image is generated or when the composite image is generated and a predetermined condition is satisfied, The program is downloaded and the composite image is downloaded together.

本発明のコントローラシステム等によれば、任意の支援装置から任意のコントローラへプログラムをダウンロードする際に、ARマーカーを利用して生成した更新証拠画像を保存することで、後に更新証拠画像を参照すれば、何時、何処から、誰によってプログラム更新が実行されたのかを特定できるようになる。   According to the controller system or the like of the present invention, when a program is downloaded from an arbitrary support device to an arbitrary controller, the updated evidence image generated using the AR marker is saved, so that the updated evidence image can be referred to later. For example, it is possible to specify when, from where, and by whom the program update was executed.

本例の第1の実施例のコントローラシステムの構成図である。It is a block diagram of the controller system of the 1st Example of this example. 第1の実施例の支援ソフトの処理フローチャート図である。It is a process flowchart figure of the support software of a 1st Example. ARアプリの処理フローチャート図である。It is a process flowchart figure of AR application. 第1の実施例のコントローラシステムの機能構成図である。It is a functional block diagram of the controller system of a 1st Example. 第2の実施例の課題について説明する為の図である。It is a figure for demonstrating the subject of a 2nd Example. 第2の実施例のコントローラシステムの構成図である。It is a block diagram of the controller system of a 2nd Example. 第2の実施例の支援ソフトの処理フローチャート図である。It is a process flowchart figure of the support software of a 2nd Example. 顔認証アプリの処理フローチャート図であるIt is a processing flowchart figure of a face authentication application. 図8のステップS66の処理の詳細フローチャート図である。It is a detailed flowchart figure of the process of step S66 of FIG. 変形例を示す図である。It is a figure which shows a modification. 第2の実施例のコントローラシステムの機能構成図である。It is a functional block diagram of the controller system of a 2nd Example. 従来のコントローラシステムについて説明する為の図である。It is a figure for demonstrating the conventional controller system.

以下、図面を参照して本発明の実施の形態について説明する。
図1は、本例の第1の実施例のコントローラシステムの構成図である。
まず、本手法は、既存のARマーカー、ARアプリの仕組み(AR技術)を利用するものであり、これらについては既存技術であるので特に詳細には説明しないが、以下、簡単に説明する。
Embodiments of the present invention will be described below with reference to the drawings.
FIG. 1 is a configuration diagram of a controller system according to a first embodiment of the present example.
First, this method uses an existing AR marker and an AR application mechanism (AR technology). These are existing technologies, and will not be described in detail, but will be briefly described below.

ARマーカーは、画像認識型AR(Augmented Reality:拡張現実)システムにおいて、付加情報を表示する位置を指定するための標識となる、決まったパターンの画像のことである。どのようなパターンをARマーカーとするかは、システムの種類によって様々であるが、よく用いられるのは単純ではっきりした白黒の図形やQRコードなどである。本説明の具体例では、丸(○)、三角(△)、四角(□)、星型(☆)等の単純な図形を、ARマーカーとして用いるものとする。   The AR marker is an image of a predetermined pattern that serves as a mark for designating a position for displaying additional information in an image recognition type AR (Augmented Reality) system. What pattern is used as the AR marker varies depending on the type of the system, but simple and clear black and white figures and QR codes are often used. In a specific example of this description, simple figures such as a circle (◯), a triangle (Δ), a square (□), and a star (☆) are used as the AR marker.

ARマーカーを印刷する等して現実世界に設置すると、ARシステムがその画像の写った部分に重ねて、指定された情報を表示するようになる。この様なARシステムの処理を実現するアプリケーションプログラムが、上記ARアプリである。   When the AR marker is installed in the real world by printing or the like, the AR system displays the specified information on the portion where the image is captured. An application program that realizes such an AR system process is the AR application.

カメラ等を備える情報処理端末に上記ARアプリを搭載しておき、ARアプリは、カメラ等による撮影画像中にARマーカーが写っている場合には、このARマーカーに対応する所定の情報を画像上に重ねて(合成して)表示する。勿論、その為に、予め各ARマーカーの画像や、それに対応する所定の情報等が、情報処理端末に記憶されている。   When the AR application is mounted on an information processing terminal equipped with a camera or the like, and the AR application includes an AR marker in an image captured by the camera or the like, predetermined information corresponding to the AR marker is displayed on the image. Overlay (composite) and display. Of course, for this purpose, an image of each AR marker, predetermined information corresponding thereto, and the like are stored in advance in the information processing terminal.

そして、上記所定の情報等が合成された撮影画像(拡張現実画像と呼ぶものとする)を、保存・記憶する。但し、本例のARアプリは、所定の条件が満たされない限り、拡張現実画像の保存・記憶を許可しない。あるいは、所定の条件が満たされない限り、拡張現実画像の生成自体を許可しないようにしてもよい。所定の条件については後述する。本例のARアプリ22は、既存の一般的なARアプリの機能に、この様な所定の条件と許可に係る機能が加わったものと見做しても良い。   Then, the captured image (referred to as an augmented reality image) synthesized with the predetermined information is stored and stored. However, the AR application of this example does not permit the storage / storage of the augmented reality image unless a predetermined condition is satisfied. Alternatively, the generation of the augmented reality image itself may not be permitted unless a predetermined condition is satisfied. The predetermined condition will be described later. The AR application 22 of this example may be regarded as a function of an existing general AR application plus such a function related to predetermined conditions and permission.

以上、既存の一般的なARマーカーやARアプリの機能について簡単に説明すると共に、本例のARアプリ22についても簡単に説明した。
以下、図1のシステム構成について説明する。
The functions of the existing general AR marker and AR application are briefly described above, and the AR application 22 of this example is also described briefly.
Hereinafter, the system configuration of FIG. 1 will be described.

本例のコントローラシステムでは、複数の支援装置20、複数のコントローラ(本例ではPLC(プログラマブルコントローラ)10)が存在し得る。そして、誰が、何時、どの支援装置20を用いて、どのPLC10のプログラムを更新するのかは、各ユーザの自由である。この為、上述したように従来では、任意のコントローラの動作に何等かの不具合が生じた場合に、誰が、何時、更新したプログラムの不具合であるのかを、特定出来なかった。本手法では、この問題を解消できる。   In the controller system of this example, there may be a plurality of support devices 20 and a plurality of controllers (PLC (programmable controller) 10 in this example). It is up to each user to decide which PLC 10 is to be updated using which support device 20 at what time. For this reason, as described above, in the past, when any trouble occurred in the operation of an arbitrary controller, it was not possible to specify who was the trouble of the updated program and when. This method can solve this problem.

尚、本例のコントローラシステムは、上記プログラマブルコントローラ(PLC)のシステムの例に限らず、例えばDCS(分散制御ステム;distributed control system)等であってもよい。   The controller system of this example is not limited to the example of the programmable controller (PLC) system, and may be a DCS (distributed control system), for example.

また、尚、支援装置20は、例えばパソコン、サーバ装置等の汎用の一般的なコンピュータ装置により実現できる。よって、特に図示しないが、支援装置20は、例えば不図示のCPU、ハードディスク、メモリ等の記憶装置、通信機能部、液晶ディスプレイ等の表示部、キーボード、マウス等の操作部などを備えている。   The support device 20 can be realized by a general-purpose general computer device such as a personal computer or a server device. Therefore, although not particularly illustrated, the support device 20 includes, for example, a not-illustrated CPU, a storage device such as a hard disk and a memory, a communication function unit, a display unit such as a liquid crystal display, and an operation unit such as a keyboard and a mouse.

上記不図示の記憶装置には、予め所定のアプリケーションプログラムが記憶されており、上記CPUがこのアプリケーションプログラムを実行することで、支援装置20の各種処理機能(後述する図2、図3の処理や図4に示す各種処理機能部)が実現される。上記アプリケーションプログラムの一例が、後述するARアプリ22、支援ソフト(支援ソフトウェア)21等であるが、これらの例に限らない。   A predetermined application program is stored in advance in the storage device (not shown), and when the CPU executes the application program, various processing functions of the support device 20 (the processing shown in FIGS. Various processing function units shown in FIG. 4 are realized. An example of the application program is an AR application 22 and support software (support software) 21 described later, but is not limited to these examples.

また、コントローラ(PLC(プログラマブルコントローラ)10)も、不図示のCPU/MPU等の演算プロセッサや、メモリ等を備えており、メモリには予め所定のアプリケーションプログラムが記憶されている。上記演算プロセッサが、このアプリケーションプログラムを実行することで、PLC10の所定の処理(制御処理など)が実行されるが、これについてはよく知られた既存技術であるので特に説明しない。   The controller (PLC (programmable controller) 10) also includes an arithmetic processor such as a CPU / MPU (not shown), a memory, and the like, and a predetermined application program is stored in the memory in advance. When the arithmetic processor executes this application program, predetermined processing (control processing or the like) of the PLC 10 is executed. This is not particularly described because it is a well-known existing technology.

まず、各コントローラ(PLC10)が設置されている場所に、それぞれ、相互に異なる図形のARマーカーを設置する。換言すれば、同じ図形のARマーカーが複数存在することはないようにしている。尚、本例では、上記単純な図形を印刷したものが、ARマーカーとして設置される。また、図では、各コントローラ(PLC10)は、図示のPLC10a。PLC10b等である。   First, AR markers having different figures are installed at locations where the controllers (PLCs 10) are installed. In other words, a plurality of AR markers having the same graphic are not present. In the present example, a print of the simple graphic is set as an AR marker. In the figure, each controller (PLC 10) is a PLC 10a shown. PLC 10b or the like.

尚、ARマーカーの設置場所は、各コントローラが設置されている場所に限らず、例えば、支援装置20のコントローラへの接続を許可するネットワーク上の特定の箇所(セキュリティルーム等)に、設置されるものであってもよい。   The AR marker is not limited to the place where each controller is installed, but is installed at a specific location (security room or the like) on the network that permits connection of the support apparatus 20 to the controller. It may be a thing.

また、各ユーザ(プログラム更新を行う作業員等)に、それぞれ、作業者証としてのARマーカーを、予め配布しておく。勿論、これも、同じ図形のARマーカーが複数存在することはないようにしている。   In addition, an AR marker as a worker ID is distributed in advance to each user (a worker who updates the program). Of course, this also prevents a plurality of AR markers having the same figure from being present.

支援装置20には、コントローラのプログラムをユーザが作成するのを支援する機能等を提供するソフトウェア(支援ソフト21)と、上記ARマーカーに対応したARアプリ22とを搭載しておく。   The support device 20 is loaded with software (support software 21) that provides a function for supporting a user to create a controller program and an AR application 22 corresponding to the AR marker.

支援ソフト21は、基本的には従来の支援ソフトウェアの機能を備えるが、更に、以下に説明する機能も備える。尚、従来の支援ソフトウェアの機能は、上記コントローラのプログラムをユーザが作成するのを支援する機能や、作成されたプログラムをコンパイルしてコントローラにダウンロードする機能等である。   The support software 21 basically has the functions of conventional support software, but also has the functions described below. The functions of the conventional support software include a function for assisting the user in creating the controller program, a function for compiling the created program, and downloading the program to the controller.

そして、支援ソフト21は、上記従来の機能に加えて、更に、PLCのプログラムのダウンロードが指示された場合、ダウンロードを実行する前に、ARアプリ22を起動する機能と、その後に、後述する更新証明ファイルの有無をチェックして、更新証明ファイルが無ければダウンロードを許可しない機能とを備える。尚、言うまでも無くダウンロード先は任意のコントローラ(PLC10)である。   In addition to the above-described conventional function, the support software 21 further has a function of starting the AR application 22 before executing the download when a PLC program download is instructed, and an update described later. It has a function of checking the existence of a certification file and not permitting download if there is no update certification file. Needless to say, the download destination is an arbitrary controller (PLC 10).

また、本例の支援装置20は、上記“カメラ等を備える情報処理端末”に相当する。これより、ARアプリ22は、支援ソフト21によって起動されると、まず、カメラを動作させて撮像画像を取得して、この映像上のARマーカーを認識する。映像上にARマーカーが無い場合には、何も行なわず、その結果として、上述する更新証明ファイルが無い状態であるので、支援ソフト21はプログラムをダウンロードできない。   Further, the support device 20 of this example corresponds to the “information processing terminal including a camera”. Thus, when the AR application 22 is activated by the support software 21, first, the camera is operated to acquire a captured image and recognize an AR marker on the video. If there is no AR marker on the video, nothing is done. As a result, there is no update certification file as described above, so the support software 21 cannot download the program.

映像上にARマーカーが映っていれば、ARアプリ22は、上記既存機能によって、ARマーカーを認識して当該ARマーカーに対応した情報(付属情報)を取得して当該付属情報を映像上に重ねて(合成して)表示する(拡張現実画像を生成・表示する)。   If an AR marker is displayed on the video, the AR application 22 recognizes the AR marker by using the existing function, acquires information corresponding to the AR marker (attached information), and superimposes the attached information on the video. (Composite) and display (generate and display augmented reality image).

ここで、予め、各ARマーカー(その図形)が、支援装置20に記憶されている。これは、一例としては例えば、設備と作業員の2種類に分類されて記憶されている。例えば、設備に係るARマーカー(その図形)は全て設備フォルダ内に格納されている。同様に、作業員に係るARマーカー(その図形)は全て作業員フォルダ内に格納されている。そして、ARアプリ22は、上記既存機能によって認識したARマーカー(図形)と同じARマーカー(図形)が、上記2つのフォルダのどちらに格納されているかを判別する。そして、例えば設備フォルダ内に格納されている場合には、設備に係るARマーカーを検出したものと判定する。   Here, each AR marker (its figure) is stored in the support device 20 in advance. As an example, this is classified and stored into two types of equipment and workers, for example. For example, all AR markers (the figure) relating to the equipment are stored in the equipment folder. Similarly, all the AR markers (the figure) relating to the worker are stored in the worker folder. Then, the AR application 22 determines in which of the two folders the same AR marker (graphic) as the AR marker (graphic) recognized by the existing function is stored. For example, when it is stored in the equipment folder, it is determined that the AR marker related to the equipment has been detected.

ARアプリ22は、基本的には、映像上に2つのARマーカーが映っている場合に、更新証明ファイルが生成されるようにする。これは一例としては例えば、映像上に2つのARマーカーが映っていて、且つ、何れか一方が設備に係るARマーカーであり、他方が作業員に係るARマーカーである場合に、更新証明ファイルが生成されるようにする。   The AR application 22 basically generates an update certification file when two AR markers are shown on the video. As an example, for example, when two AR markers are shown on the image, and one of them is an AR marker related to equipment, and the other is an AR marker related to a worker, the update certification file is To be generated.

その為に一例としては、上記のように設備と作業員の両方のARマーカーを認識した場合、撮影機能を有効にする。勿論、それまでは、撮影機能は無効であるので、上記のように拡張現実画像が液晶ディスプレイ上に表示されていても、この拡張現実画像が保存されているわけではないし、たとえユーザがシャッターを操作しても、何も行われない。   Therefore, as an example, when the AR markers of both the facility and the worker are recognized as described above, the imaging function is enabled. Of course, until then, since the shooting function is disabled, even if the augmented reality image is displayed on the liquid crystal display as described above, the augmented reality image is not saved, and even if the user presses the shutter. Nothing happens when you operate it.

尚、上記のように撮影機能が有効になったとき、その旨を音声や表示等によってユーザに知らせるようにしてもよい。
撮影機能が有効な状態でユーザがシャッターを操作すると、この撮影操作によって上記拡張情報と実映像を合成した撮影データ(拡張現実画像)を、特定の記憶領域に保存する。これより、支援ソフト21は、例えば、この拡張現実画像を更新証明ファイルとして支援ソフト21のプロジェクト(所定のフォルダ等)に取り込む。尚、この例に限らず、例えば、上記撮影操作が行われると、拡張現実画像を生成して(つまり、それまでは拡張現実画像は生成されていない)、これを特定の記憶領域に保存するようにしてもよい。
Note that when the shooting function is enabled as described above, the user may be notified by voice or display.
When the user operates the shutter while the shooting function is valid, shooting data (augmented reality image) obtained by synthesizing the extended information and the actual video by the shooting operation is stored in a specific storage area. Accordingly, the support software 21 takes in the augmented reality image as an update certification file into a project (a predetermined folder or the like) of the support software 21, for example. For example, when the above photographing operation is performed, an augmented reality image is generated (that is, no augmented reality image has been generated so far) and is stored in a specific storage area. You may do it.

支援ソフト21は、上記ARアプリ22を起動後は、随時、上記特定の記憶領域をチェックして、上記拡張現実画像(更新証明ファイル)の有無をチェックする。拡張現実画像が存在する場合には、これを上記のように更新証明ファイルとして保存すると共に、上記プログラムのダウンロードが許可されたものとして、このプログラムのダウンロードを実行する。その際、上記拡張現実画像(更新証明ファイル)も一緒にダウンロードする。   After the AR application 22 is activated, the support software 21 checks the specific storage area at any time to check for the presence of the augmented reality image (update certification file). If an augmented reality image exists, it is saved as an update certification file as described above, and the download of the program is executed assuming that the download of the program is permitted. At that time, the augmented reality image (update certification file) is also downloaded.

図1には、拡張現実画像の生成の様子も示してある。
図示の例では、PLC10aに対応するARマーカーとして図示のようにPLC10aの近傍に丸図形(○)のARマーカーが設置されている。同様に、PLC10bに対応するARマーカーとして図示のようにPLC10bの近傍に正方形図形(□)のARマーカーが設置されている。あるいは、上述した特定の箇所(セキュリティルーム等)には、図示の三角形図形(△)のARマーカーが設置されている。
FIG. 1 also shows how an augmented reality image is generated.
In the illustrated example, as an AR marker corresponding to the PLC 10a, an AR marker of a circular figure (◯) is installed in the vicinity of the PLC 10a as illustrated. Similarly, an AR marker having a square figure (□) is provided in the vicinity of the PLC 10b as shown in the figure as an AR marker corresponding to the PLC 10b. Alternatively, an AR marker having a triangular figure (Δ) shown in the figure is installed at the specific location (security room or the like) described above.

また、ここでは、ある作業員の作業者証のARマーカーは、図示の長方形の図形となっている。図1では、この作業員が、任意の支援装置20cを用いて、PLC10aのプログラム更新作業を行う際の拡張現実画像の生成の様子を示している。   Further, here, the AR marker of the worker's identification of a certain worker is a rectangular figure shown in the figure. FIG. 1 shows how an augmented reality image is generated when this worker performs a program update operation of the PLC 10a using an arbitrary support device 20c.

作業員は、支援装置20cを持ってPLC10aの設置場所まで行き、そこで通信線によって支援装置20cをPLC10aに接続したうえで、プログラムダウンロードの指示を出す。   The worker takes the support apparatus 20c to the installation location of the PLC 10a, connects the support apparatus 20c to the PLC 10a through a communication line, and then issues a program download instruction.

支援装置20cの支援ソフト21は、この指示に応じて、ARアプリ22を起動して拡張現実画像の生成待ち状態となる。
ARアプリ22は、まず撮像機能が起動し、これによって支援装置20cのディスプレイ上には、カメラによる撮像画像(カメラ越しのイメージ)が表示された状態となる。表示される撮影ボタン(不図示)をユーザが操作することにより、このイメージに基づく合成画像(拡張現実画像)を生成してファイルに保存するようになっている。但し、初期状態では撮影ボタンは無効となっている。
In response to this instruction, the support software 21 of the support device 20c activates the AR application 22 and enters a state of waiting for augmented reality image generation.
In the AR application 22, first, an imaging function is activated, and thereby, a captured image (image through the camera) is displayed on the display of the support device 20c. When a user operates a displayed shooting button (not shown), a composite image (augmented reality image) based on this image is generated and stored in a file. However, the shooting button is disabled in the initial state.

作業員は、上記撮像画像の表示を見ながら支援装置20cのカメラの向きを変えるなどして、上記PLC10aに対応するARマーカー“丸図形(○)”が写る状態にする。これより、ARアプリ22は、このマーカーを認識して、認識したマーカーに対応する情報を取得して、撮影画像のマーカーの位置に重ねて表示する。本例では設備に係わるマーカーに対応する情報(設備情報)は、例えば設備名、場所等であり、ARマーカー“丸図形(○)”に対応する情報は、設備名「PLC1」および場所「建屋A、第1室」であり、これらが図示の通り“丸図形(○)”の表示位置に重なるように表示される。更に、本例では時計機能から現在日時を取得して、これも“丸図形(○)”の表示位置に重なるように表示する。   The worker changes the direction of the camera of the support apparatus 20c while watching the display of the captured image so that the AR marker “circular figure (◯)” corresponding to the PLC 10a appears. Thus, the AR application 22 recognizes this marker, acquires information corresponding to the recognized marker, and displays the information superimposed on the marker position of the captured image. In this example, the information (equipment information) corresponding to the marker related to the equipment is, for example, the equipment name, the location, etc. The information corresponding to the AR marker “circle (○)” is the equipment name “PLC1” and the place “building” “A, first room”, and these are displayed so as to overlap the display position of the “round figure (◯)” as shown. Furthermore, in this example, the current date and time is acquired from the clock function, and this is also displayed so as to overlap the display position of the “round figure (◯)”.

作業員は、更に、自己の作業者証をカメラの撮影範囲内に持っていき、この作業者証の上記ARマーカー“長方形”も写る状態にする。これより、ARアプリ22は、このマーカー“長方形”も認識して、認識したマーカーに対応する情報を取得して、撮影画像のマーカーの位置に重ねて表示する。本例では作業者に係わるマーカーに対応する情報(作業者情報)は、例えば所属や氏名、連絡先等であり、“長方形”に対応するこれらの情報が、図示の通り“長方形”の表示位置に重なるように表示される。   The worker further brings his / her worker ID within the photographing range of the camera so that the AR marker “rectangle” of the worker ID is also reflected. Thus, the AR application 22 also recognizes this marker “rectangle”, acquires information corresponding to the recognized marker, and displays the information superimposed on the marker position of the captured image. In this example, the information (worker information) corresponding to the marker related to the worker is, for example, affiliation, name, contact information, etc. These pieces of information corresponding to “rectangle” are displayed as “rectangle” as shown in the figure. It is displayed so as to overlap.

尚、上記設備情報や作業者情報等の拡張情報は、ARアプリ画面上に表示されるものということもできる。
そして、この状態ではARアプリ22は、上述した2種類のARマーカーの両方を認識した状態となるので、撮影機能(撮影ボタン)を有効にする。これより、作業員が撮影ボタンの操作することにより、カメラの撮影範囲にある実際のイメージとARアプリ画面上に表示された各ARマーカーに対応した拡張情報を合成した写真を作成する。つまり、上記拡張現実画像を生成する。そして、生成した拡張現実画像を、予め任意に決められている特定の場所(記憶領域)に保存する。
The extended information such as the facility information and the worker information can also be displayed on the AR application screen.
In this state, the AR application 22 recognizes both of the above-described two types of AR markers, and thus enables the shooting function (shooting button). Thus, when the operator operates the shooting button, a photograph is created by combining the actual image in the shooting range of the camera and the extended information corresponding to each AR marker displayed on the AR application screen. That is, the augmented reality image is generated. Then, the generated augmented reality image is stored in a specific place (storage area) arbitrarily determined in advance.

以上で、ARアプリ22の処理は終了する。
支援ソフト21は、上記特定の記憶領域に拡張現実画像があることを認識すると、ダウンロード許可されたものと判定して、プログラムをPLC10aにダウンロードする。更に、この拡張現実画像を更新証明ファイルとしてプロジェクト内に取り込むと共に、この更新証明ファイルも一緒にPLC10aにダウンロードする。
Above, the process of AR application 22 is complete | finished.
When the support software 21 recognizes that there is an augmented reality image in the specific storage area, the support software 21 determines that the download is permitted and downloads the program to the PLC 10a. Further, the augmented reality image is taken into the project as an update certification file, and the update certification file is also downloaded to the PLC 10a.

PLC10aは、ダウンロードされたプログラムと更新証明ファイルを、保存・記憶する。PLC10aは、このプログラムを実行して、何らかの制御を行うことになる。後に、このプログラムに何らかの不具合をあった場合、更新証明ファイルを参照すれば、誰が何時、このプログラムの更新を行ったのか、分かることになる。   The PLC 10a stores and stores the downloaded program and the update certificate file. The PLC 10a executes this program and performs some control. Later, if there is any problem with this program, refer to the update certificate file to find out when and who updated this program.

図2は、支援ソフト21の処理フローチャート図である。
図3は、ARアプリ22の処理フローチャート図である。
支援ソフト21は、上記の通り、任意のPLC10のプログラム(バージョンアップ版等)をプログラマ等が作成するのを支援する、既存の機能を有する。そして、プログラマ等が、作成したプログラムのダウンロードを指示すると、図2の処理を実行する。つまり、図2は、支援ソフト21によるダウンロード処理に係わる処理フローである。
FIG. 2 is a process flowchart of the support software 21.
FIG. 3 is a processing flowchart of the AR application 22.
As described above, the support software 21 has an existing function for supporting a programmer or the like to create an arbitrary PLC 10 program (version-up version or the like). Then, when a programmer or the like instructs to download the created program, the processing of FIG. 2 is executed. That is, FIG. 2 is a processing flow related to the download processing by the support software 21.

支援ソフト21は、まず、ARアプリ22を起動し(ステップS11)、その後、ARアプリ22が終了するまで待機する(ステップS12)。ARアプリ22が終了したら(ステップS12,YES)、ステップS13以降の処理を実行する。   The support software 21 first activates the AR application 22 (step S11), and then waits until the AR application 22 ends (step S12). When the AR application 22 is finished (step S12, YES), the processes after step S13 are executed.

ARアプリ22は、起動されたら、図3の処理を実行する。図3の処理については後述するが、この処理の結果、上記特定の記憶領域に拡張現実画像が格納された状態となっている場合がある。   When activated, the AR application 22 executes the process of FIG. Although the process of FIG. 3 will be described later, as a result of this process, an augmented reality image may be stored in the specific storage area.

これより、支援ソフト21は、ARアプリ22が終了したら(ステップS12,YES)、上記特定の記憶領域を参照して拡張現実画像の有無をチェックし(ステップS13)、拡張現実画像が無い場合には(ステップS13,NO)、ダウンロード不許可と判定し、ダウンロード実行することなく、異常終了とする。正当な作業者証を持たない者が、プログラムをダウンロードしようとしても、ステップS13がNOとなるので、ダウンロードは許可されない。これより、例えば不正なプログラムがダウンロードされる事態を防止できる。   As a result, when the AR application 22 ends (YES in step S12), the support software 21 checks the presence or absence of an augmented reality image with reference to the specific storage area (step S13), and if there is no augmented reality image. (Step S13, NO), it is determined that the download is not permitted, and the download is not executed and the process ends abnormally. Even if a person who does not have a valid worker ID tries to download the program, step S13 is NO, and the download is not permitted. As a result, for example, it is possible to prevent a malicious program from being downloaded.

一方、上記特定の記憶領域に拡張現実画像が有る場合には(ステップS13,YES)、ダウンロード許可されたものと見做して、この拡張現実画像をプロジェクト内に更新証明ファイルとして取り込んだ後(ステップS14)、コントローラ(PLC10)へのプログラムダウンロードを開始する。これは、本例では、コントローラのプログラムと共に、上記更新証明ファイルも一緒にダウンロードする(ステップS15,S16)。   On the other hand, if there is an augmented reality image in the specific storage area (step S13, YES), it is assumed that the download is permitted, and the augmented reality image is imported as an update certification file into the project ( Step S14), program download to the controller (PLC10) is started. In this example, the update certificate file is downloaded together with the controller program (steps S15 and S16).

以下、図3の処理について説明する。
ARアプリ22は、上記ステップS11によって起動されると、まず、カメラを起動して、その撮像画像をARアプリの画面内に表示する(ステップS21)。尚、ARアプリの画面は、当該ARアプリ22によって生成される画面であるが、単に当該支援装置20のディスプレイ上に撮像画像が表示されるものと考えて構わない。尚、ARアプリ22によって生成される画面上には不図示の撮影ボタンも表示され、ARアプリ22はこの撮影ボタンの操作の有無を認識できる。
Hereinafter, the process of FIG. 3 will be described.
When activated in step S11, the AR application 22 first activates the camera and displays the captured image on the screen of the AR application (step S21). The AR application screen is a screen generated by the AR application 22, but it may be considered that a captured image is simply displayed on the display of the support device 20. A shooting button (not shown) is also displayed on the screen generated by the AR application 22, and the AR application 22 can recognize whether or not the shooting button has been operated.

その後、任意のときに撮影ボタンが押されたならば(ステップS22,YES)、ステップS31,S32の処理を実行して、ARアプリ22の処理を終了する。但し、撮影機能が無効の状態で作業員が撮影ボタンを押下操作しても、ステップS22の判定はYESとはならない。撮影機能が有効な状態で撮影ボタンが押された場合に限り、ステップS22がYESとなってステップS31,S32の処理が実行される。   Thereafter, if the shooting button is pressed at any time (step S22, YES), the processes of steps S31 and S32 are executed, and the process of the AR application 22 is terminated. However, even if the operator depresses the shooting button while the shooting function is disabled, the determination in step S22 is not YES. Only when the shooting button is pressed in a state where the shooting function is valid, step S22 becomes YES and the processing of steps S31 and S32 is executed.

ARアプリ22では、カメラの撮影範囲内の映像に、事前に登録してあるARマーカーが存在するか否かをチェックする照合処理を、常に実行している。これは、上記の通り、設備フォルダと作業員フォルダの2種類に分類されて登録されている。但し、これは一例であり、この例に限らない。   The AR application 22 always executes a verification process for checking whether or not an AR marker registered in advance exists in the video within the shooting range of the camera. As described above, these are classified and registered into two types of equipment folders and worker folders. However, this is an example, and the present invention is not limited to this example.

基本的には各フォルダ内に複数のARマーカー(登録ARマーカーと呼ぶものとする)が格納されている。
そして、ARアプリ22は、カメラの撮影映像を解析した結果、任意のARマーカー(図形)が検出された場合、このARマーカー(図形)を設備フォルダ内の各登録ARマーカーと照合して、一致するものを見つける(ステップS23)。もし、一致するものが無い場合には(ステップS24,NO)、撮影機能を無効にして(ステップS28)、ステップS23に戻る。尚、撮影機能は初期状態では無効になっている。
Basically, a plurality of AR markers (referred to as registered AR markers) are stored in each folder.
When the AR application 22 detects an arbitrary AR marker (figure) as a result of analyzing the video captured by the camera, the AR application 22 compares the AR marker (figure) with each registered AR marker in the equipment folder, and matches. Find what to do (step S23). If there is no match (step S24, NO), the imaging function is disabled (step S28), and the process returns to step S23. The shooting function is disabled in the initial state.

検出したARマーカーが、設備フォルダ内の任意の登録ARマーカーと一致した場合には(ステップS24,YES)、このARマーカーに対応する上記設備情報(本例では設備名、場所等)を取得し、更に時計機能から現在日時を取得して、これら取得情報をARアプリの画面上に表示する(ステップS25)。これは、例えば、上記ARマーカーの検出位置に表示する。   If the detected AR marker matches any registered AR marker in the equipment folder (step S24, YES), the equipment information (equipment name, location, etc. in this example) corresponding to this AR marker is acquired. Further, the current date and time is acquired from the clock function, and the acquired information is displayed on the screen of the AR application (step S25). This is displayed, for example, at the detection position of the AR marker.

尚、予め、全てのARマーカーについて、それぞれに対応する情報が登録されている。設備フォルダ内の各登録ARマーカーについては、それぞれ、対応する上記設備情報が登録されている。同様に、作業員フォルダ内の各登録ARマーカーについては、それぞれ、対応する上記作業者情報が登録されている。   In addition, information corresponding to each AR marker is registered in advance. For each registered AR marker in the equipment folder, the corresponding equipment information is registered. Similarly, the corresponding worker information is registered for each registered AR marker in the worker folder.

ここで、図1で説明した作業手順の場合には、正常な状態であれば、カメラの撮影範囲内の映像には、まず上記設備に係わるARマーカーが映し出され、その後に更に作業者証のARマーカーが映し出されることになる。これより、ARアプリ22がカメラの撮影映像を解析すると、まず、設備に係わるARマーカーが検出され、その後、更に作業者証のARマーカーが検出されることになる。図3の処理例は、この様な作業手順に応じた処理であり、従ってこの例に限るものではない。   Here, in the case of the work procedure described with reference to FIG. 1, if the camera is in a normal state, the AR marker related to the equipment is first displayed in the image within the shooting range of the camera, and then the worker ID is further displayed. The AR marker will be displayed. As a result, when the AR application 22 analyzes the video captured by the camera, the AR marker related to the facility is first detected, and then the AR marker of the worker ID is further detected. The processing example of FIG. 3 is processing according to such a work procedure, and is not limited to this example.

図3の処理例の場合には、ARアプリ22は、最初に検出されたARマーカーについて上記ステップS23等の処理を行い、後に検出されたARマーカーについてはステップS26などの処理を実行する。   In the case of the processing example of FIG. 3, the AR application 22 performs the process of step S23 and the like for the AR marker detected first, and executes the process of step S26 and the like for the AR marker detected later.

すなわち、後に検出されたARマーカー(図形)を作業員フォルダ内の各登録ARマーカーと照合して、一致するものを見つける(ステップS26)。もし、一致するものが無い場合には(ステップS27,NO)、撮影機能を無効にして(ステップS28)、ステップS23に戻る。   That is, the AR marker (graphic) detected later is compared with each registered AR marker in the worker folder to find a matching one (step S26). If there is no match (step S27, NO), the imaging function is disabled (step S28), and the process returns to step S23.

検出したARマーカーが、作業員フォルダ内の任意の登録ARマーカーと一致した場合には(ステップS27,YES)、このARマーカーに対応する上記作業者情報(本例では所属や氏名、連絡先等)を取得し、この取得情報をARアプリの画面上に表示する(ステップS29)。そして、撮影機能を有効にして(ステップS30)、ステップS22に戻る。尚、ステップS30の処理の際に、撮影機能が有効になった旨を、音や表示などによって作業員に通知するようにしてもよい。   When the detected AR marker matches any registered AR marker in the worker folder (step S27, YES), the worker information corresponding to this AR marker (in this example, affiliation, name, contact information, etc.) ) And this acquired information is displayed on the screen of the AR application (step S29). Then, the photographing function is enabled (step S30), and the process returns to step S22. In the process of step S30, the operator may be notified by sound or display that the photographing function has been enabled.

これより、作業員が撮影ボタンを操作すると、今度は撮影機能が有効になっていることから、ステップS22の判定はYESとなり、ステップS31、S32の処理を実行することになる。   Thus, when the worker operates the shooting button, the shooting function is now enabled, so the determination in step S22 is YES, and the processing in steps S31 and S32 is executed.

すなわち、カメラの撮影範囲にある実際の撮影データと、上記検出された各ARマーカーに対応した拡張情報(設備情報、作業者情報)とを合成して成る上記拡張現実画像を生成して(ステップS31)、これを特定の記憶領域に保存して(ステップS32)、本処理を終了する。この場合には上記ステップS13の判定がYESとなることになる。   That is, the augmented reality image formed by synthesizing the actual photographing data within the photographing range of the camera and the augmented information (equipment information, worker information) corresponding to each detected AR marker is generated (step S31), this is saved in a specific storage area (step S32), and this process is terminated. In this case, the determination in step S13 is YES.

尚、特に図示していないが、起動時から所定時間経過してもステップS22の判定がYESとならない場合には、拡張現実画像を生成することなく、本処理を終了する。この場合には上記ステップS13の判定がNOとなることになる。   Although not particularly illustrated, if the determination in step S22 does not become YES even after a predetermined time has elapsed from the time of activation, the present process is terminated without generating an augmented reality image. In this case, the determination in step S13 is NO.

尚、上述した例に限らず、例えば支援装置20に更にGPS機能を内蔵することで、ARアプリにおけるARマーカーの認識の際、GPS情報と併せて照合を行うことで、より確実にARマーカー設置場所での操作を保障することができる。   It should be noted that the present invention is not limited to the above-described example. For example, by incorporating a GPS function in the support device 20, when the AR marker is recognized in the AR application, collation is performed together with the GPS information, so that the AR marker can be installed more reliably. Can ensure operation on site.

以上説明したように、本手法は、コントローラのプログラムを作成する支援装置をコントローラに接続することで、コントローラのプログラム更新を行うシステムに係わる。尚、支援装置をコントローラに接続する方法は、図1で説明した方法に限るものではなく、例えばLAN等のネットワークを介してセキュリティルーム等から接続する方法であっても構わない。上記のように、支援装置をコントローラに接続する場所は、コントローラの設置場所に限らず、セキュリティルーム等であっても構わない。   As described above, the present technique relates to a system for updating a controller program by connecting a support device for creating a controller program to the controller. The method of connecting the support device to the controller is not limited to the method described with reference to FIG. 1, and may be a method of connecting from a security room or the like via a network such as a LAN. As described above, the place where the support device is connected to the controller is not limited to the place where the controller is installed, and may be a security room or the like.

そして、上記システムにおいて、まず、上記“支援装置をコントローラに接続する場所”毎に対応する特定のARマーカーを設置しておく。これは例えば、各コントローラの設置場所に(各コントローラの近傍等に)、相互に異なる図形のARマーカーを設置しておく。この例に限らず、例えばコントローラへの支援装置の接続を許可するネットワーク上の特定の箇所(セキュリティルーム等)にも、ARマーカーを設置してもよい。上記“支援装置をコントローラに接続する場所”は、“コントローラへの正規の接続場所”などと言うこともできる。   In the system, first, a specific AR marker corresponding to each “location where the support device is connected to the controller” is installed. For example, AR markers having different figures are installed at the installation locations of the controllers (in the vicinity of the controllers, etc.). The AR marker may be installed not only in this example but also in a specific location (security room or the like) on the network that permits connection of the support device to the controller, for example. The “location where the support device is connected to the controller” can also be said to be “a regular connection location to the controller”.

本手法では、上記ARシステムを利用した処理を行うことで、“コントローラへの正規の接続場所”以外の場所からコントローラへプログラムをダウンロードしようとしても、ダウンロード許可されないことになる。従って、本手法によって、コントローラに格納・実行されるプログラムが、“コントローラへの正規の接続場所”からダウンロードされたものであることが保証されるという効果も得られることになる。   In this method, by performing processing using the AR system, even if an attempt is made to download a program to the controller from a place other than the “regular connection place to the controller”, the download is not permitted. Therefore, according to this method, it is possible to obtain an effect that it is guaranteed that the program stored and executed in the controller is downloaded from the “regular connection place to the controller”.

更に、担当者(作業者)毎に対応する特定のARマーカーを配布しておき、所持させるようにする。これも、各ARマーカーの図形は、ユニークである(相互に異なる)ものとする。   Furthermore, a specific AR marker corresponding to each person in charge (worker) is distributed and possessed. Again, the graphic of each AR marker is unique (different from each other).

更に、上記ARマーカーに対応したARアプリを予め支援装置に搭載しておく。また、上記設置してある各ARマーカーの図形の画像を、予め支援装置に記憶しておく。
尚、上記各所に設置されているARマーカーや担当者が所持するARマーカーは、上記図形を印刷したものである(現実世界のものである)。
Furthermore, an AR application corresponding to the AR marker is previously installed in the support device. Further, the graphic image of each AR marker installed above is stored in advance in the support device.
In addition, the AR marker installed in each of the above-mentioned places and the AR marker possessed by the person in charge are those obtained by printing the above figures (in the real world).

そして、任意のコントローラのプログラム更新の際、支援装置においてコントローラのプログラムの作成支援、コンパイル、ダウンロード等の既存機能を提供する支援ソフトウェアが、更に、上記ARアプリを起動して、それによって拡張現実画像が生成されない限りはダウンロードを実行しないようにする機能を備える。   Then, when updating the program of an arbitrary controller, support software that provides existing functions such as support for creation, compilation, and download of a controller program in the support device further activates the AR application, thereby augmenting the reality image A function is provided so that downloading is not executed unless is generated.

ARアプリは、支援装置に内蔵されたカメラの映像を通して、上記ARマーカーを認識することで、対応した拡張情報を実映像に合成したデータ(拡張現実画像)を作成し、これを更新証拠画像(更新証明ファイル)として保存する。   The AR application recognizes the AR marker through the video of the camera built in the support device, thereby creating data (augmented reality image) in which the corresponding extended information is synthesized with the actual video, and this is used as an update evidence image ( Update certificate file).

支援装置では、コントローラのプログラム作成支援機能等を提供するソフトウェア(支援ソフト)によるプログラムダウンロード実行時に、上記ARマーカーに対応したARアプリを起動する。“上記ARマーカーに対応したARアプリ”とは、例えば、上記○、△、□等の単純な図形のARマーカーに対応したARアプリであるが、勿論、この例に限らない。   In the support device, an AR application corresponding to the AR marker is activated when a program is downloaded by software (support software) that provides a program creation support function or the like of the controller. The “AR application corresponding to the AR marker” is, for example, an AR application corresponding to an AR marker having a simple figure such as the above-mentioned ○, Δ, □, but is not limited to this example.

作業員が、支援装置のカメラをARマーカーに向けることで、ARアプリが、このARマーカーを認識し、それに対応した拡張情報を得て、この拡張情報と実映像を合成した合成画像を生成する。合成画像が生成されない場合には、コントローラへのプログラムダウンロードは許可されない。合成画像が生成された場合、支援ソフトは、コントローラへプログラムをダウンロードし、合成画像(更新証明ファイル)も一緒にダウンロードする。また、合成画像は、支援装置内のプロジェクトに保存する。   When the worker points the camera of the support device toward the AR marker, the AR application recognizes the AR marker, obtains extended information corresponding to the AR marker, and generates a composite image obtained by combining the extended information and the actual video. . If a composite image is not generated, program download to the controller is not permitted. When the composite image is generated, the support software downloads the program to the controller and also downloads the composite image (update certification file). The composite image is stored in a project in the support apparatus.

上記合成画像に含まれる上記拡張情報には、ダウンロード作業を行った作業員に関する情報や、ダウンロード実行日時、ダウンロード対象の設備(コントローラ)やダウンロード実行場所等を示す情報が含まれる。後に何らかの問題が生じたときに、この合成画像を参照すれば、誰が、何時、何処でダウンロードを行ったのか分かることになる。更に、合成画像に含まれる実映像を参照することで、ダウンロード作業を行った場所等を実映像で確認できる。   The extended information included in the composite image includes information related to the worker who performed the download operation, information indicating the download execution date and time, the download target equipment (controller), the download execution location, and the like. When a problem occurs later, by referring to this composite image, it is possible to know who, when and where the download was performed. Furthermore, by referring to the actual video included in the synthesized image, the location where the download operation was performed can be confirmed with the actual video.

図4は、第1の実施例のコントローラシステムの機能構成図である。
本例のコントローラシステム30は、複数のコントローラ31が設置され、任意のコントローラ31のプログラム更新の際に、任意の支援装置32から該コントローラ31にプログラムがダウンロードされるコントローラシステムである。
FIG. 4 is a functional configuration diagram of the controller system of the first embodiment.
The controller system 30 of this example is a controller system in which a plurality of controllers 31 are installed, and a program is downloaded from an arbitrary support device 32 to the controller 31 when the program of the arbitrary controller 31 is updated.

また、任意の各場所に設置される複数の第1のARマーカー33と、各作業者に所持させる複数の第2のARマーカー34とが設けられている。
そして、支援装置32は、下記の各処理機能部を有する。尚、上記支援装置20が支援装置32の一例であり、上記PLC10がコントローラ31の一例である。
In addition, a plurality of first AR markers 33 installed at each arbitrary location and a plurality of second AR markers 34 to be carried by each worker are provided.
The support device 32 includes the following processing function units. The support device 20 is an example of the support device 32, and the PLC 10 is an example of the controller 31.

支援装置32は、撮影部41、支援部42、AR部43等を有する。
撮影部41は、例えば上記支援装置20のカメラ機能である。
支援部42は、例えば一例が上記支援ソフト21であり、任意のコントローラ31に対するプログラムのダウンロードの際に、AR部43を起動する。
The support device 32 includes a photographing unit 41, a support unit 42, an AR unit 43, and the like.
The imaging unit 41 is a camera function of the support device 20, for example.
For example, the support unit 42 is the support software 21 described above, and activates the AR unit 43 when a program is downloaded to an arbitrary controller 31.

AR部43は、例えば一例が上記ARアプリ22である。
AR部43は、撮影部41による撮影画像を解析して、該撮影画像中に上記第1のARマーカー33と第2のARマーカー34の両方が検出された場合、該検出された第1のARマーカー33、第2のARマーカー34それぞれに対応する所定の情報を、該撮影画像に合成して成る合成画像を生成する。この合成画像の一例が上記拡張現実画像である。
An example of the AR unit 43 is the AR application 22 described above.
The AR unit 43 analyzes the image captured by the image capturing unit 41, and when both the first AR marker 33 and the second AR marker 34 are detected in the captured image, the detected first A composite image is generated by combining predetermined information corresponding to each of the AR marker 33 and the second AR marker 34 with the captured image. An example of the composite image is the augmented reality image.

支援部42は、該合成画像が生成されない場合にはプログラムのダウンロードを実行しない。該合成画像が生成された場合には、プログラムのダウンロードを実行すると共に該合成画像も一緒にダウンロードする。   The support unit 42 does not download the program when the composite image is not generated. When the composite image is generated, the program is downloaded and the composite image is downloaded together.

また、AR部43は、更に、時計機能等から現在日時を取得して、該現在日時情報も上記所定の情報に含めて上記撮影画像に合成するようにしてもよい。
また、支援装置32は、例えば、各第1のARマーカーそれぞれに対応する各設備情報を予め記憶する設備情報記憶部44、各第2のARマーカーそれぞれに対応する各作業者情報を予め記憶する作業者情報記憶部45を、更に有するものであってもよい。
The AR unit 43 may further acquire the current date and time from a clock function or the like, and include the current date and time information in the predetermined information and synthesize it with the captured image.
In addition, the support device 32 stores in advance each facility information storage unit 44 that stores each facility information corresponding to each first AR marker in advance, and each worker information corresponding to each second AR marker in advance. A worker information storage unit 45 may be further provided.

この場合、AR部43は、上記検出された第1のARマーカーに対応する設備情報を、設備情報記憶部44から取得すると共に、上記検出された第2のARマーカーに対応する作業者情報を、作業者情報記憶部45から取得する。そして、これら取得した情報を上記所定の情報として上記撮影画像に合成することで、上記合成画像を生成する。   In this case, the AR unit 43 acquires the facility information corresponding to the detected first AR marker from the facility information storage unit 44, and the worker information corresponding to the detected second AR marker. , Acquired from the worker information storage unit 45. Then, the acquired information is combined with the captured image as the predetermined information to generate the combined image.

上設備情報は、例えば、上記検出した第1のARマーカーの設置場所または該設置場所に設置されるコントローラを示す情報である。上記作業者情報は、例えば、上記検出した第2のARマーカーを所持する作業者を示す情報である。   The upper equipment information is, for example, information indicating the installation location of the detected first AR marker or the controller installed at the installation location. The worker information is information indicating a worker who possesses the detected second AR marker, for example.

AR部43は、予め記憶されている各ARマーカー(図形)の画像と照合することで、撮影画像中に第1のARマーカー33、第2のARマーカー34があるか否かを判別する。   The AR unit 43 determines whether or not the first AR marker 33 and the second AR marker 34 are present in the captured image by collating with images of the respective AR markers (graphics) stored in advance.

また、例えば、上記各第1のARマーカーは、それぞれ、任意の各コントローラの設置場所に設けられる。
本発明によれば、コントローラのプログラムのダウンロードの際、ARマーカーによって、プログラムダウンロードを実行する場所や設備(コントローラ)および担当者を認識でき、且つ、コントローラ内および支援装置内に当該認識した担当者や設備に関する情報(更にダウンロード実行日時など)が、更新証明ファイルとして保存されるため、不特定の場所、人からプログラムダウンロード実行されることがなくなり、プログラムに問題が見つかった場合における原因を追跡しやすくなるという効果を有する。
For example, each said 1st AR marker is each provided in the installation place of each arbitrary controller.
According to the present invention, at the time of downloading a controller program, the AR marker can recognize the place, facility (controller), and person in charge for executing the program download, and the person in charge who has recognized the controller in the support device. And information about the equipment (and the download execution date, etc.) are saved as an update certificate file, so that the program download is not executed from an unspecified place or person, and the cause when a problem is found in the program is tracked. It has the effect of becoming easier.

また、上記更新証明ファイルには、ARマーカーに対応する拡張情報だけでなく、実際のプログラムダウンロードを実行した場所を写真として収めることができるため、後日、他の担当者がそのプロジェクトを編集してプログラムダウンロードを実行する際に、対応するコントローラが設置されている箇所を特定しやすくなるといった効果が期待できる。   In addition, the update certificate file can contain not only the extended information corresponding to the AR marker but also the actual program download location as a photo, so that other staff members can edit the project at a later date. When executing the program download, it is possible to expect an effect that it is easy to specify the location where the corresponding controller is installed.

以上、本発明の第1の実施例について説明した。
以下、本発明の第2の実施例について説明する。
上述した第1の実施例のシステムによれば、接続先のコントローラ(PLC10)には、そのコントローラに合致した支援装置20内のプロジェクトからプログラムがダウンロードされるようになるだけでなく、ARマーカーの認識によって、不特定の場所/人によってダウンロートの実行が行われることを防止することができるとともに、そのダウンロードを実行した場所、作業者を特定する情報が、更新証拠画像として保存されるものであり、その仕組みについては上述した通りである。
The first embodiment of the present invention has been described above.
The second embodiment of the present invention will be described below.
According to the system of the first embodiment described above, not only the program is downloaded from the project in the support device 20 that matches the controller to the connected controller (PLC 10), but also the AR marker. The recognition can prevent the download from being executed by an unspecified location / person, and the information specifying the download location and the worker is saved as an update evidence image. Yes, the mechanism is as described above.

しかし、上述した第1の実施例では、ARマーカーの認識によって、そのARマーカーに対応した付加情報(ダウンロード実行の場所や作業者等)が更新証拠画像に保存される仕組みであり、ARマーカーを認識させた実際の場所や作業者を表しているわけではない。更新証拠画像には撮影画像も含まれてもよいが、作業者の顔が映っているとは限らず、顔が映ることを避けることもできる。そのため、(本来のARマーカーでなくとも)ARマーカーとして認識させることができれば、ダウンロードを実行することができ、この場合、ダウンロード実行の場所や作業者と、更新証拠画像に保存された上記付加情報とが、異なるケースもあり得ることになる。   However, the first embodiment described above is a mechanism in which additional information (location of download execution, worker, etc.) corresponding to the AR marker is stored in the update evidence image by recognition of the AR marker. It does not represent the actual location or worker that was recognized. The updated evidence image may include a photographed image, but it does not always reflect the operator's face, and it is possible to avoid the face being reflected. Therefore, if it can be recognized as an AR marker (even if it is not an original AR marker), the download can be executed. In this case, the download execution location and operator, and the additional information stored in the update evidence image However, there may be different cases.

この様な問題への対応として、ダウンロード実行の場所を特定する為の上記“設備に係るARマーカー”については、例えば、GPSによる位置情報と組み合わせることで、認識したARマーカーが正しい位置に存在するものであるか否かを判断することができる。これは、例えば図5に示すように、支援装置20にGPS機能を搭載すると共に上記判断を行うプログラムを搭載することで実現でき、これは図5に示す支援装置50についても同様である。   As a countermeasure to such a problem, the above-mentioned “AR marker related to equipment” for specifying the download execution location is combined with the positional information by GPS, for example, so that the recognized AR marker exists at the correct position. It can be judged whether it is a thing. For example, as shown in FIG. 5, this can be realized by installing a GPS function in the support device 20 and a program for making the above determination, and this also applies to the support device 50 shown in FIG. 5.

しかしながら、上記“作業員に係るARマーカー”(作業者証のARマーカー)については、貸与によって、作業者証の本人でない人から実行される可能性や、あるいは、紛失やARマーカーの偽造によって、不特定の人からダウンロード実行される可能性がある。   However, with regard to the above “AR marker for workers” (AR marker of worker ID), it is possible to be executed by a person who is not the principal of the worker ID by lending, or due to loss or forgery of AR marker, There is a possibility of being downloaded from unspecified people.

つまり、例えば図5に示すように、任意の作業員に係るARマーカー(作業者証のARマーカー;ここでは長方形の図形とする)を、当該作業者証の正当な所有者である作業員本人が所持している場合には、当然、ダウンロード許可される。しかし、この作業員本人がこの“長方形のARマーカー”を別の作業員に貸与して、別の作業員が作業を行った場合でも、ダウンロード許可されてしまう。更に、拡張現実画像は、上記作業者本人の所属や氏名等を用いて作成されてしまう。   That is, for example, as shown in FIG. 5, an AR marker (an AR marker of the worker ID; here, a rectangular figure) related to an arbitrary worker is the worker who is the rightful owner of the worker ID. Of course, download permission is granted. However, even if this worker lends this "rectangular AR marker" to another worker and another worker performs the work, the download is permitted. Furthermore, the augmented reality image is created using the affiliation and name of the operator.

尚、図1には示していないが第1の実施例においても図5に示すように支援装置20がGPS機能を備えていてもよい。
同様に、第3者がARマーカーを偽造した場合や紛失したARマーカーを取得した場合でも、ダウンロード許可されてしまう可能性があり、また、拡張現実画像は、上記作業者本人の所属や氏名等を用いて作成されてしまう可能性がある。
Although not shown in FIG. 1, also in the first embodiment, the support device 20 may have a GPS function as shown in FIG.
Similarly, even if a third party forges an AR marker or acquires a lost AR marker, there is a possibility that the download is permitted, and the augmented reality image is the affiliation and name of the worker. May be created using.

このような状況においては、後でコントローラに保存されている更新証拠画像(拡張現実画像)を参照したところで、その更新証拠画像内の作業者情報が、実際にはプログラム更新を行っていない作業者本人のデータとなっている。更に、作業者本人が知る由もない状況でプログラム更新が行われている可能性もあり、証拠データとして意味を成していないという問題がある。   In such a situation, when the updated evidence image (augmented reality image) stored in the controller is referred to later, the worker information in the updated evidence image is not actually updated by the worker. It is the person's data. Furthermore, there is a possibility that the program is updated in a situation that the worker himself does not know, and there is a problem that it does not make sense as evidence data.

上述したように、第1の実施例は、コントローラにダウンロードされているプログラムが、不特定の場所/人から実行されることなく、何時、何処から、誰によって実行されたかどうかを(基本的には)特定することができる仕組みを提供している。第2の実施例では、これに加えて更に、作業者証のARマーカーの不正利用を防止する仕組みを提供するものである。   As described above, the first embodiment shows whether the program downloaded to the controller is executed by an unspecified location / person, when, from where, by whom (basically Provides a mechanism that can be specified). In addition to this, the second embodiment also provides a mechanism for preventing unauthorized use of the AR marker on the worker ID.

第2の実施例では、作業者証のARマーカーに対応した情報として、ARアプリ用の付加情報とは別に、作業者証の所有者本人の画像(写真データ)を支援装置内に保持しておく。支援装置では、プログラムダウンロード実行時における、ARアプリによるARマーカーの照合後、照合した“作業者証のARマーカー”に対応した上記写真データを取得し、支援装置内のカメラによる映像内に上記取得した写真データ内の人物の顔を認識できるかどうか判定する処理(顔認証アプリによる認証)を行うことで、作業者証のARマーカーの不正利用を防止する。さらに、ARマーカーの照合後、顔認証アプリによる認証中、支援装置内のカメラによる映像を録画し、認証に失敗(または、キャンセル)した場合には、この録画データを不正アクセスデータとして、支援装置内のプロジェクトに保存するとともにコントローラへダウンロードする。   In the second embodiment, as information corresponding to the AR marker of the worker ID, an image (photo data) of the owner ID of the worker ID is held in the support device separately from the additional information for the AR application. deep. In the support device, after the AR marker is collated by the AR application at the time of program download execution, the photo data corresponding to the collated “AR marker of the worker ID” is obtained, and the above-mentioned acquisition is performed in the video by the camera in the support device. By performing a process for determining whether or not a person's face in the photograph data can be recognized (authentication by the face authentication application), unauthorized use of the AR marker on the worker ID is prevented. Further, after collating the AR marker, during the authentication by the face authentication application, when the video in the camera in the support device is recorded and the authentication fails (or cancels), the recorded data is used as unauthorized access data, and the support device Save to the project and download to the controller.

以下、第2の実施例について、詳しく説明する。
図6は、第2の実施例のコントローラシステムの構成図である。
図6においても、各コントローラ(PLC10)が設置されている場所に、それぞれ、相互に異なる図形のARマーカー(設備に係るARマーカー)が設置される点は、図1と同様である。尚、第1の実施例1と同様、“設備に係るARマーカー”はセキュリティルーム等に設置されるものであってもよい。
Hereinafter, the second embodiment will be described in detail.
FIG. 6 is a configuration diagram of the controller system of the second embodiment.
6 is the same as FIG. 1 in that AR markers having different figures (AR markers related to equipment) are installed at locations where each controller (PLC 10) is installed. As in the first embodiment, the “AR marker related to equipment” may be installed in a security room or the like.

また、第2の実施例においても第1の実施例と同様、各ユーザ(プログラム更新を行う作業員等)に、それぞれ、“作業者証としてのARマーカー”(作業員に係るARマーカー)を、予め配布しておく。勿論、これも、同じ図形のARマーカーが複数存在することはないようにしている。   Also in the second embodiment, as in the first embodiment, each user (worker who performs program update, etc.) is given an “AR marker as a worker ID” (AR marker related to the worker). Distribute in advance. Of course, this also prevents a plurality of AR markers having the same figure from being present.

図6に示す第2の実施例に係わる支援装置50には、コントローラのプログラムをユーザが作成するのを支援する機能等を提供するソフトウェア(支援ソフト51)と、上記ARマーカーに対応したARアプリ22とを搭載しておく。このARアプリ22自体は第1の実施例と同じであってよく、よって同一符号を付してあり、その説明は簡略化する。支援ソフト51は、上記第1の実施例の支援ソフト21とほぼ同様の機能も備えるが、異なる機能も備えるものであり、詳しくは後述する。   The support device 50 according to the second embodiment shown in FIG. 6 includes software (support software 51) that provides a function for supporting a user to create a controller program, and an AR application corresponding to the AR marker. 22 is mounted. The AR application 22 itself may be the same as that of the first embodiment, and therefore the same reference numerals are given, and the description thereof is simplified. The support software 51 has substantially the same function as the support software 21 of the first embodiment, but also has different functions, which will be described in detail later.

尚、支援装置50も、例えばパソコン、サーバ装置等の汎用の一般的なコンピュータ装置により実現できる。よって、特に図示しないが、支援装置50は、例えば不図示のCPU、ハードディスク、メモリ等の記憶装置、通信機能部、液晶ディスプレイ等の表示部、キーボード、マウス等の操作部などを備えている。   The support device 50 can also be realized by a general-purpose general computer device such as a personal computer or a server device. Therefore, although not particularly illustrated, the support device 50 includes, for example, a not-shown storage device such as a CPU, a hard disk, and a memory, a communication function unit, a display unit such as a liquid crystal display, and an operation unit such as a keyboard and a mouse.

上記不図示の記憶装置には、予め所定のアプリケーションプログラムが記憶されており、上記CPUがこのアプリケーションプログラムを実行することで、支援装置50の各種処理機能(後述する図7、図8、図9の処理や上記図3の処理、後述する図11に示す各種処理機能部)が実現される。上記アプリケーションプログラムの一例が、ARアプリ22や後述する顔認証アプリ52、支援ソフト(支援ソフトウェア)51等であるが、これらの例に限らない。   A predetermined application program is stored in advance in the storage device (not shown), and when the CPU executes the application program, various processing functions of the support device 50 (FIGS. 7, 8, and 9 described later). And the above-described processing of FIG. 3 and various processing function units shown in FIG. An example of the application program is the AR application 22, the face authentication application 52 described later, support software (support software) 51, and the like, but is not limited to these examples.

そして、支援装置50には、更に、顔認証アプリ52と作業者照合用DB(データベース)53も備える。
顔認証アプリ52は、ARアプリ22の処理(上記第1の実施例と同様)が実行された後に支援ソフト51によって起動されて、ARアプリ22の処理結果や作業者照合用DB(データベース)53等を用いて、概略的には例えば下記の処理を実行する。
The support device 50 further includes a face authentication application 52 and a worker verification DB (database) 53.
The face authentication application 52 is activated by the support software 51 after the processing of the AR application 22 (similar to the first embodiment) is executed, and the processing result of the AR application 22 and the operator verification DB (database) 53 In general, for example, the following processing is executed.

すなわち、顔認証アプリ52は、まず、ARアプリ22によって認識された“作業者証のARマーカー”に対応した顔写真データを、作業者照合用DB53を検索して取得する(“該当する顔写真データ”を取得する)。ここで、作業者照合用DB53には、予め、各“作業者証のARマーカー”に対応付けて、その所有者(作業者本人)の顔写真データが登録されている。尚、顔写真データは、顔画像が含まれていればよく、従って顔だけに限らず、例えば体全体が写っていても構わない。また、顔写真データを単に写真データ等と記す場合もあるものとする。   That is, first, the face authentication application 52 searches the worker verification DB 53 for face photo data corresponding to the “AR marker on worker ID” recognized by the AR app 22 (“corresponding face photo” Data ”). Here, face photograph data of the owner (the worker himself / herself) is registered in advance in the worker verification DB 53 in association with each “AR marker of the worker card”. Note that the face photo data only needs to include a face image. Therefore, the face photo data is not limited to the face, and may include, for example, the entire body. Further, the face photo data may be simply referred to as photo data or the like.

続いて、顔認証アプリ52は、支援装置50のカメラによって撮影された撮像画像を取得して、この映像上の人物の顔を抽出して、これと上記“該当する顔写真データ”から抽出した顔とを照合して、一致するか否かを確認する(顔認識を行う)。一致した場合には照合成功となる。照合が完了するまで、カメラの映像を録画しておき、照合に失敗(または、キャンセル)した場合には、この録画データを特定の場所に保存する。尚、顔認識自体は、既存技術(既存の顔認識システムなど)を用いればよく、ここでは特に説明しない。尚、上記「抽出する“顔”」とは、例えば、既存技術で用いられている何らかの“特徴”を抽出したものであってもよい。よく知られているように、この様な“特徴”とは、例えば、顔のパーツの相対位置や大きさ、目や鼻やほお骨やあごの形等であるが、勿論、この例に限らない。また、作業者照合用DB53には、上記顔写真データの代わりに当該顔写真データから予め抽出されている上記“顔”(特徴)が、登録されていてもよい。   Subsequently, the face authentication application 52 acquires a captured image taken by the camera of the support device 50, extracts a person's face on the video, and extracts it from the “corresponding face photo data”. The face is checked to see if it matches (face recognition is performed). If they match, the verification is successful. The video of the camera is recorded until the collation is completed, and when the collation fails (or is canceled), the recorded data is stored in a specific location. The face recognition itself may be performed using an existing technology (existing face recognition system or the like), and is not particularly described here. The “extracting“ face ”” may be, for example, an extraction of some “feature” used in the existing technology. As is well known, such “features” include, for example, the relative position and size of the facial parts, the shape of the eyes, nose, cheekbones, and jaws, but of course not limited to this example. . In addition, the “face” (feature) previously extracted from the face photograph data may be registered in the operator verification DB 53 instead of the face photograph data.

支援ソフト51は、上記の通り、プログラムダウンロード実行時におけるARアプリ22によるARマーカー認識後に、顔認証アプリ52を起動し、顔認証アプリ52による上記照合が成功した場合には、上記第1の実施例と同様に、上記更新証明ファイルをプログラムと共にコントローラ(PLC10)へダウンロードする。   As described above, the support software 51 activates the face authentication application 52 after the AR marker is recognized by the AR application 22 at the time of program download execution, and when the verification by the face authentication application 52 is successful, the first implementation is performed. Similar to the example, the update certificate file is downloaded to the controller (PLC 10) together with the program.

一方、照合に失敗(または、キャンセル)した場合には、プログラムのダウンロードは許可せず、上記特定の場所に保存されている上記録画データを、不正アクセスデータとして、支援ソフト51のプロジェクトに取り込み、この不正アクセスデータをコントローラへダウンロードする。   On the other hand, if the verification fails (or is canceled), downloading of the program is not permitted, and the recorded data stored in the specific location is taken into the project of the support software 51 as unauthorized access data, This unauthorized access data is downloaded to the controller.

上記支援装置50の処理機能について、以下、更に詳細に説明する。
支援装置50では、プログラムダウンロードの際、支援ソフト51がARアプリ22を起動し、このARアプリ22によって、例えば上述した図3の処理が実行されることで、認識したARマーカーに対応する各種情報(ダウンロード対象となる設備情報や作業者情報等)が特定され取得される。本例では、“作業者証のARマーカー”に関しては例えば図示のARマーカー「長方形」に対応した作業者情報が取得され、“設備に係るARマーカー”に関しては例えばARマーカー「○」に対応した設備情報(例えば、設備名「PLC1」、場所「建屋A、第1室」など)が取得される。そして、取得した情報を用いて上記拡張現実画像を生成する。
The processing function of the support device 50 will be described in more detail below.
In the support device 50, when the program is downloaded, the support software 51 activates the AR application 22, and the AR application 22 executes, for example, the processing of FIG. 3 described above, thereby various information corresponding to the recognized AR marker. (Equipment information or worker information to be downloaded) is identified and acquired. In this example, for “AR marker on worker ID”, for example, worker information corresponding to the AR marker “rectangle” shown in the figure is acquired, and for “AR marker related to equipment”, for example, AR marker “○” is supported. Equipment information (for example, equipment name “PLC1”, location “building A, first room”, etc.) is acquired. Then, the augmented reality image is generated using the acquired information.

上記ARアプリ22の処理が正常終了した場合には(拡張現実画像が生成された場合)、支援ソフト51は、今度は、顔認証アプリ52を起動する。顔認証アプリ52は、ARアプリ22によって認識された“作業者証のARマーカー”の種別を取得する。これは、予めARマーカーの種別に対応した番号を決めておき(例えば、番号‘2’=種別「長方形」などとする)、ARアプリ22との間でこの番号をファイル経由でやりとりする等により取得可能となる。尚、この例の場合、例えばARアプリ22は、認識した“作業者証のARマーカー”の種別に対応した番号を、所定のファイル等に格納する処理も行い、顔認証アプリ52は起動後にこのファイルを取得する処理を行うが、この例に限らない。   When the process of the AR application 22 is normally completed (when an augmented reality image is generated), the support software 51 activates the face authentication application 52 this time. The face authentication application 52 acquires the type of “AR marker on worker ID” recognized by the AR application 22. This is because a number corresponding to the AR marker type is determined in advance (for example, number “2” = type “rectangular” or the like), and this number is exchanged with the AR application 22 via a file. It can be acquired. In this example, for example, the AR application 22 also performs processing for storing the number corresponding to the recognized type of “AR marker of worker ID” in a predetermined file or the like. Although processing for acquiring a file is performed, the present invention is not limited to this example.

顔認証アプリ52は、作業者照合用DB53から上記取得した種別に対応した写真データを取得する。
この写真データは、上記ARアプリ22によって認識された“作業者証のARマーカー”に対応した作業者本人の顔写真データ等であり、予め設定しておくものである。尚、図6では、図示の笑顔マークが、「長方形」の作業者証の所有者本人の顔写真データを表すものとする。尚、顔写真データは、顔の画像が含まれているものであれば何でもよく、顔だけでのデータに限らず例えば上半身の画像などであっても構わない。
The face authentication application 52 acquires photo data corresponding to the acquired type from the worker verification DB 53.
This photograph data is the face photograph data of the worker himself / herself corresponding to the “AR marker on worker ID” recognized by the AR application 22, and is set in advance. In FIG. 6, it is assumed that the illustrated smile mark represents the face photograph data of the owner of the “rectangular” worker ID. The face photo data may be anything as long as it includes a face image, and is not limited to data of only the face, and may be, for example, an image of the upper body.

顔認証アプリ52は、続いて、支援装置50が備える別のカメラを起動して(あるいは、カメラを切替えるなどして)、作業者がカメラの撮影範囲に入るようにし、照合が完了するまで、カメラの撮影範囲の映像を録画する。   Subsequently, the face authentication application 52 activates another camera included in the support device 50 (or switches the camera, etc.) so that the operator enters the shooting range of the camera, and until collation is completed, Record video from the camera's shooting range.

その後、ユーザによる照合ボタンの操作により、カメラの撮影範囲の映像から上記取得した写真データ内の人物の顔を認識できるかどうか判定を行い、認識できた場合には、作業者が上記認識したARマーカーに対応した作業者本人であると判断して正常終了(認証成功)とし、認識に失敗した場合には、それまで録画していたデータを特定の記憶領域に保存して異常終了(認証失敗)とする。   Thereafter, it is determined whether or not the face of the person in the acquired photograph data can be recognized from the video in the shooting range of the camera by the operation of the collation button by the user. If it is determined that the worker is the person corresponding to the marker, the process ends normally (successful authentication). If the recognition fails, the recorded data is saved in a specific storage area and the process ends abnormally (authentication failure). ).

上記顔認識アプリ52の処理が終了すると、支援ソフト51は、顔認証アプリ52が認証に成功していれば、上記第1の支援ソフト21と同様にして、プログラムと共に更新証明ファイル(拡張現実画像)をコントローラにダウンロードする。   When the processing of the face recognition application 52 ends, the support software 51, if the face authentication application 52 has succeeded in authentication, performs an update certificate file (augmented reality image) together with the program in the same manner as the first support software 21. ) To the controller.

しかし、認証に失敗していれば、顔認証アプリ52によって作成された録画データ(上記特定の記憶領域に保存されている)を、プロジェクト内に不正アクセスデータとして取り込んだ後、この不正アクセスデータのみをコントローラにダウンロードする。勿論、この場合には、プログラムをコントローラにダウンロードすることは許可されないことになる。   However, if the authentication has failed, the recorded data (stored in the specific storage area) created by the face authentication application 52 is taken into the project as unauthorized access data, and then this unauthorized access data only. Is downloaded to the controller. Of course, in this case, downloading the program to the controller is not permitted.

尚、上記録画データは、キャンセル操作の場合にはデータが保存されないことを考慮すると、アプリ起動時に開始し、照合後に停止するようにする形で実装するのが望ましいが、データサイズ等に制約がある場合には、照合時に作業者を撮影し、その撮影データで代替することも可能である。   In consideration of the fact that the recorded data is not saved in the case of a cancel operation, it is desirable to mount the recorded data so that it starts when the app starts and stops after collation. In some cases, it is possible to take an image of the worker at the time of collation and substitute the imaged data.

また、顔認証アプリ52における上記顔判定処理については、顔認識ライブラリや市販ソフトを利用することで実装可能であり、その判定アルゴリズムについては本発明の範囲ではない。   The face determination process in the face authentication application 52 can be implemented by using a face recognition library or commercially available software, and the determination algorithm is not within the scope of the present invention.

図7は、支援ソフト51の処理フローチャート図である。
これは、図2と同様、ダウンロード時の処理を示すものである。
また、図7におけるステップS41,S42,S43,S44の処理は、図2におけるステップS11,S12,S13,S14の処理を同じであってよく、ここでは特に説明しないが、簡単に説明するならば、支援ソフト51では、プログラムダウンロードを実行する際、コントローラへプログラムをダウンロードする前に、ARアプリ22を起動した後(ステップS41)、終了するまで待機する(ステップS42)。
FIG. 7 is a process flowchart of the support software 51.
This shows the processing at the time of download, as in FIG.
7 may be the same as the processes in steps S11, S12, S13, and S14 in FIG. 2, and will not be particularly described here. However, if they are described briefly, the processes in steps S41, S42, S43, and S44 in FIG. When the program download is executed, the support software 51 starts the AR application 22 (step S41) and waits until the program ends before downloading the program to the controller (step S42).

ARアプリ22が終了すると(ステップS42,YES)、ARアプリ22によってARマーカーに対応した拡張情報を含んだ撮影データ(上記拡張現実画像)が、特定の場所に保存されているか否かを確認し(ステップS43)、保存されていなければ(ステップS43,NO)キャンセルされたものと見なして異常終了(プログラムダウンロード失敗)とし、保存されていれば(ステップS43,YES)上記撮影データ(上記拡張現実画像)をプロジェクト内に更新証明ファイルとして取り込む(ステップS44)。   When the AR application 22 ends (YES in step S42), the AR application 22 confirms whether shooting data (extended reality image) including extended information corresponding to the AR marker is stored in a specific location. (Step S43) If not saved (Step S43, NO), it is regarded as canceled and the program ends abnormally (program download failure), and if saved (Step S43, YES), the shooting data (the augmented reality) Image) is taken into the project as an update certification file (step S44).

図2ではステップS14の処理に続いてステップS15,S16の処理を行ったが、図7ではステップS44の処理に続いて図示のステップS45〜S51の処理を実行する。
以下、ステップS45〜S51の処理について説明する。
In FIG. 2, the processes of steps S15 and S16 are performed following the process of step S14. However, in FIG. 7, the processes of steps S45 to S51 shown in the figure are performed following the process of step S44.
Hereinafter, the processing of steps S45 to S51 will be described.

図7の処理では、上記ステップS44の処理を実行したら、続いて、顔認証アプリ52を起動し(ステップS45)、顔認証アプリ52の処理が終了するまで待機する(ステップS46)。顔認証アプリ52の処理は、図8、図9に示し、後に説明するものとする。   In the process of FIG. 7, after the process of step S44 is executed, the face authentication application 52 is subsequently activated (step S45), and the process waits until the process of the face authentication application 52 ends (step S46). The processing of the face authentication application 52 is shown in FIGS. 8 and 9 and will be described later.

顔認証アプリ52の処理が終了すると(ステップS46,YES)、顔認証アプリ52によって認証に成功したか否かを確認し(ステップS47)、成功していれば(ステップS47,YES)、図2のステップS15,S16と同様の処理であるステップS48,S49の処理を実行する。すなわち、プログラムダウンロードを開始し、コントローラのプログラムと共に上記更新証明ファイルもコントローラにダウンロードする(ステップS48,S49)。   When the process of the face authentication application 52 is completed (step S46, YES), it is confirmed whether or not the authentication is successful by the face authentication application 52 (step S47). If the authentication is successful (step S47, YES), FIG. Steps S48 and S49, which are the same as steps S15 and S16, are executed. That is, the program download is started, and the update certification file is downloaded to the controller together with the controller program (steps S48 and S49).

しかし、認証に失敗していれば(ステップS47,NO)、特定の場所に保存されている録画データをプロジェクト内に不正アクセスデータとして取り込んだ後(ステップS50)、この不正アクセスデータのみをコントローラにダウンロードする(ステップS51)。この場合も、異常終了(プログラムダウンロード失敗)となり、当然、プログラムのダウンロードは許可されない。   However, if the authentication has failed (step S47, NO), after recording data stored in a specific location is taken into the project as unauthorized access data (step S50), only this unauthorized access data is stored in the controller. Download (step S51). In this case as well, the program ends abnormally (program download failure), and naturally program download is not permitted.

尚、上記“特定の場所に保存されている録画データ”に関しては、図8、図9の顔認証アプリ52の処理の説明の際に説明する。
尚、上記ステップS41で起動したARアプリ22の処理は、第1の実施例と同様であってよく、例えば上記図3の処理を実行するものであり、従ってここでは特に図示・説明は行わないが、以下、簡単に説明する。
The above “recorded data stored in a specific location” will be described when the processing of the face authentication application 52 in FIGS. 8 and 9 is described.
Note that the processing of the AR application 22 activated in step S41 may be the same as that of the first embodiment. For example, the processing of FIG. 3 is executed, and therefore no particular illustration or description is given here. However, this will be briefly described below.

ARアプリ22では、カメラの撮影範囲内の映像に、ARアプリ22に登録してあるARマーカーが存在するかどうかの照合を常に行い、該当するARマーカーを認識した場合、そのマーカーに対応する情報を認識したマーカーの位置に合わせてARアプリの画面内に表示する。更新場所に関するARマーカーと担当者に関するARマーカーの両方を認識した場合に、ARアプリ内の撮影機能を有効にし、撮影ボタンを操作された場合、カメラの撮影範囲にある実際のイメージとARアプリ画面内に表示されたARマーカーに対応した拡張情報を合成した撮影データ(拡張現実画像)を作成し、これを特定の場所に保存する。   The AR application 22 always checks whether or not the AR marker registered in the AR application 22 is present in the video within the shooting range of the camera, and when the AR marker is recognized, information corresponding to the marker is detected. Is displayed on the screen of the AR application in accordance with the position of the marker that has been recognized. When both the AR marker related to the update location and the AR marker related to the person in charge are recognized, if the shooting function in the AR application is enabled and the shooting button is operated, the actual image in the shooting range of the camera and the AR application screen are displayed. Shooting data (augmented reality image) obtained by synthesizing the extended information corresponding to the AR marker displayed inside is created and stored in a specific location.

図8は、顔認証アプリ52の処理フローチャート図である。図9は、図8のステップS66の処理の詳細フローチャート図である。
以下、図8、図9を参照して、顔認証アプリ52の処理の一例について説明する。
FIG. 8 is a processing flowchart of the face authentication application 52. FIG. 9 is a detailed flowchart of the process in step S66 of FIG.
Hereinafter, an example of processing of the face authentication application 52 will be described with reference to FIGS. 8 and 9.

顔認証アプリ52は、上記のように起動されると、まず、カメラを起動して(あるいはカメラを切替えるなどして、作業者がカメラの撮影範囲に入るようにしつつ)、アプリ内の画面にカメラの撮像映像を表示する(ステップS61)。   When the face authentication application 52 is activated as described above, it first activates the camera (or switches the camera or the like so that the operator enters the shooting range of the camera) and displays the screen in the application. A captured image of the camera is displayed (step S61).

続いて、(予めARマーカーの種別に対応した番号を決めておき、この番号をファイル経由でやりとりする等により)ARアプリ22で認識したARマーカーの種別を取得する(ステップS62)。更に、作業者照合用DB53から、ステップS62で取得したARマーカーの種別に対応した写真データを取得する(ステップS63)。   Subsequently, the AR marker type recognized by the AR application 22 is acquired (by determining a number corresponding to the AR marker type in advance and exchanging this number via a file) (step S62). Furthermore, photograph data corresponding to the type of AR marker acquired in step S62 is acquired from the operator verification DB 53 (step S63).

そして、カメラの撮影範囲の映像の録画を開始する(ステップS64)。
その後、ユーザによって照合ボタンが操作された場合(ステップS65,YES)、まず、カメラの撮影範囲にある映像から上記取得した写真データの人物の顔を認識できるか否かを判定する(ステップS66)。このステップS66の処理の具体例を、図9に示す。尚、図9の処理(特に顔検出や顔データ照合処理)は、既存の一般的な顔認証アプリケーションの処理と見做して構わない。
Then, the recording of the video in the shooting range of the camera is started (step S64).
Thereafter, when the collation button is operated by the user (step S65, YES), first, it is determined whether or not the face of the person in the acquired photo data can be recognized from the video in the shooting range of the camera (step S66). . A specific example of the process in step S66 is shown in FIG. Note that the processing of FIG. 9 (particularly face detection and face data matching processing) may be regarded as processing of an existing general face authentication application.

図9に示す例では、まず、ステップS63で取得した写真データから顔検出を行い顔データを抽出する(既存技術)(ステップS81)。続いて、カメラの撮影範囲にある映像から顔検出を行って顔データを抽出する(ステップS82)。これは、現場に複数の人間が居る状況もあり得ると想定して、映像中の全ての顔の顔データを抽出する。   In the example shown in FIG. 9, first, face detection is performed from the photograph data acquired in step S63 to extract face data (existing technique) (step S81). Subsequently, face data is extracted from the image within the shooting range of the camera to extract face data (step S82). This assumes that there may be a situation where there are a plurality of people in the field, and extracts face data of all faces in the video.

そして、ステップS82で抽出した顔データを、ステップS81で抽出した顔データと照合して(ステップS84)、一致するものがあった場合には(ステップS85,YES)、顔認証成功として処理終了する。一方、ステップS82で抽出した顔データのなかに、ステップS81で抽出した顔データと一致するものが1つも無かった場合には(ステップS83,YES)、顔認証失敗として処理終了する。   Then, the face data extracted in step S82 is collated with the face data extracted in step S81 (step S84). If there is a match (step S85, YES), the process ends as successful face authentication. . On the other hand, if none of the face data extracted in step S82 matches the face data extracted in step S81 (step S83, YES), the process ends as face authentication failure.

尚、図9の処理は例えば図8の処理から呼び出されるサブルーチンであり、処理終了の際に判定結果(顔認証成功or顔認証失敗)を呼び出し元の処理に返す(レスポンスを返す)。   Note that the processing in FIG. 9 is a subroutine called from the processing in FIG. 8, for example, and returns a determination result (success in face authentication or face authentication failure) to the caller process (returns a response) when the process ends.

図8の処理では、ステップS66の処理(図9の処理)が完了して上記レスポンスを受けると、上記カメラの撮影範囲の映像の録画を停止して(ステップS67)、上記判定結果が上記顔認証成功であるならば(ステップS68,YES)、作業者が認識したARマーカーに対応した作業者本人であると判断して、録画データを削除して(ステップS69)正常終了する。上記判定結果が上記顔認証失敗であるならば(ステップS68,NO)、録画データを特定の場所に保存し(ステップS70)、異常終了する。   In the process of FIG. 8, when the process of step S66 (the process of FIG. 9) is completed and the response is received, the video recording of the shooting range of the camera is stopped (step S67), and the determination result is the face. If the authentication is successful (step S68, YES), it is determined that the worker is the worker corresponding to the AR marker recognized by the worker, the recorded data is deleted (step S69), and the process ends normally. If the determination result is the face authentication failure (step S68, NO), the recorded data is stored in a specific location (step S70), and the process ends abnormally.

異常終了した場合には、上記ステップS47の判定がNOとなり、上記ステップS50、S51の処理が実行されることになる。これによって、例えば他人の“作業者証のARマーカー”を不正使用して不正アクセスを図ろうとした人間の画像などが、証拠として保存されることになる。尚、この例に限らず、ステップS70の処理として、例えば上記録画データから顔検出を行って、この顔データを上記特定の場所に保存するようにしてもよい。尚、正常終了した場合には、上記ステップS47の判定はYESとなる。   If the process ends abnormally, the determination in step S47 is NO, and the processes in steps S50 and S51 are executed. As a result, for example, an image of a person who attempted to gain unauthorized access by illegally using another person's “AR marker on worker ID” is stored as evidence. Note that the present invention is not limited to this example. For example, as the processing in step S70, face detection may be performed from the recorded data, and the face data may be stored in the specific location. In the case of normal termination, the determination in step S47 is YES.

図11は、第2の実施例のコントローラシステムの機能構成図である。
図11に示す各構成に関して、図4に示す第1の実施例の構成と同一の構成には同一符号を付してあり、その説明は省略または簡略化する。
FIG. 11 is a functional configuration diagram of the controller system of the second embodiment.
11, the same reference numerals are given to the same components as those of the first embodiment shown in FIG. 4, and the description thereof is omitted or simplified.

本例のコントローラシステム60は、図4に示すコントローラシステム30と同様、複数のコントローラ31が設置され、任意のコントローラ31のプログラム更新の際に、任意の支援装置61から該コントローラ31にプログラムがダウンロードされるコントローラシステムである。この支援装置61の機能が、図4の支援装置32とは多少異なる。   As in the controller system 30 shown in FIG. 4, the controller system 60 of this example is provided with a plurality of controllers 31, and a program is downloaded from an arbitrary support device 61 to the controller 31 when the program of the arbitrary controller 31 is updated. Controller system. The function of the support device 61 is slightly different from that of the support device 32 of FIG.

また、図4と同様、任意の各場所に設置される複数の第1のARマーカー33と、各作業者に所持させる複数の第2のARマーカー34とが設けられている。
そして、支援装置61は、下記の各処理機能部を有する。尚、上記支援装置50が支援装置61の一例であり、上記PLC10がコントローラ31の一例である。
Similarly to FIG. 4, a plurality of first AR markers 33 installed at arbitrary locations and a plurality of second AR markers 34 to be carried by each worker are provided.
The support device 61 includes the following processing function units. The support device 50 is an example of the support device 61, and the PLC 10 is an example of the controller 31.

支援装置61は、支援装置32と同様の機能である撮影部41、AR部43、設備情報記憶部44、作業者情報記憶部45を有する。よって、これらについては特に説明しない。また、支援部42の代わりに支援部71を有する。この支援部71の機能は、支援部42の機能と多少異なるものであり、ここでは主に異なる点について説明する。   The support device 61 includes a photographing unit 41, an AR unit 43, an equipment information storage unit 44, and an operator information storage unit 45 that have the same functions as the support device 32. Therefore, these are not specifically described. Further, a support unit 71 is provided instead of the support unit 42. The function of the support unit 71 is slightly different from the function of the support unit 42, and here, different points will be mainly described.

支援装置61は、更に、作業者画像記憶部72、顔認証部73を有する。作業者画像記憶部72の一例が上記作業者照合用DB53であり、顔認証部73の一例が上記顔認証アプリ52であるが、この例に限らない。   The support device 61 further includes an operator image storage unit 72 and a face authentication unit 73. An example of the worker image storage unit 72 is the worker verification DB 53, and an example of the face authentication unit 73 is the face authentication application 52. However, the present invention is not limited to this example.

支援部71は、例えば一例が上記支援ソフト51であり、支援部42と同様に、任意のコントローラ31に対するプログラムのダウンロードの際に、AR部43を起動し、AR部43による上記合成画像が生成されない場合にはプログラムのダウンロードを実行しない。一方、該合成画像が生成された場合には、支援部42とは異なり、更に、所定の条件が満たされるか否かを判定し、所定の条件が満たされた場合にはプログラムのダウンロードを実行すると共に該合成画像も一緒にダウンロードする。   For example, the support unit 71 is, for example, the support software 51. Like the support unit 42, the AR unit 43 is activated when the program is downloaded to an arbitrary controller 31, and the AR unit 43 generates the composite image. If not, do not download the program. On the other hand, when the composite image is generated, unlike the support unit 42, it is further determined whether or not a predetermined condition is satisfied, and if the predetermined condition is satisfied, the program is downloaded. At the same time, the composite image is downloaded together.

上記所定の条件が満たされる場合とは、例えば、作業者を撮影する為の新たな撮像画像から抽出される顔データが、上記検出された第2のARマーカーに対応する正当な顔データと合致する場合などである。   The case where the predetermined condition is satisfied is, for example, that face data extracted from a new captured image for photographing an operator matches valid face data corresponding to the detected second AR marker. This is the case.

ここで、上記作業者画像記憶部72は、予め、各第2のARマーカー34に対応付けて、その正当な所有者である作業者本人の画像データ(顔写真、あるいは特徴など)が記憶されたDB(データベース)等である。支援部71は、上記合成画像が生成された場合には更に上記顔認証部73を起動する。起動された顔認証部73は、AR部43が検出した第2のARマーカー34に対応する作業者本人の画像データ(顔写真など)を作業者画像記憶部72から取得して、該取得した画像データから顔データを抽出して正当顔データとし、また、上記新たな撮影画像から顔データを抽出し、該抽出した顔データが上記正当顔データと合致する場合には照合成功とする。   Here, the worker image storage unit 72 stores in advance image data (a face photograph, a feature, or the like) of the worker who is the proper owner in association with each second AR marker 34. DB (database) or the like. The support unit 71 further activates the face authentication unit 73 when the composite image is generated. The activated face authentication unit 73 acquires the image data (face photo, etc.) of the worker himself corresponding to the second AR marker 34 detected by the AR unit 43 from the worker image storage unit 72, and acquires the acquired image data. Face data is extracted from the image data to obtain valid face data, and face data is extracted from the new photographed image. If the extracted face data matches the valid face data, the collation is successful.

尚、上記作業者の撮影画像とは、現在、ダウンロードを試みている作業者のことであり、この作業者が上記作業者本人である保証はない。理由は既に述べた通りである。
支援部71は、顔認証部73によって照合成功した場合には、上記所定の条件が満たされたものと判定する。
The photographed image of the worker is a worker who is currently trying to download, and there is no guarantee that this worker is the worker himself. The reason is as described above.
When the face authentication unit 73 succeeds in collation, the support unit 71 determines that the predetermined condition is satisfied.

支援部71は、顔認証部73によって照合失敗した場合には、上記新たな撮影画像または該撮影画像から抽出した顔データを、不正アクセスデータとして記録する。これは、例えばダウンロード対象のコントローラ31に転送して記録させるが、この例に限らず、支援装置61に記録してもよい。   When the collation fails by the face authentication unit 73, the support unit 71 records the new captured image or the face data extracted from the captured image as unauthorized access data. For example, this is transferred to and recorded in the controller 31 to be downloaded, but is not limited to this example, and may be recorded in the support device 61.

以上説明したように、第2の実施例によれば、上記第1の実施例による効果に加えて、下記の効果が得られる。
すなわち、プログラムダウンロードの際、ARアプリと顔認証アプリが連携し、ARアプリで照合したARマーカーに対応した写真データを用いて、顔認証アプリにより顔認証を行うことで、ARマーカーの不正利用を防止することができるという効果を有する。
As described above, according to the second embodiment, the following effects can be obtained in addition to the effects of the first embodiment.
In other words, when the program is downloaded, the AR application and the face authentication application cooperate with each other, and the face authentication is performed by the face authentication application using the photo data corresponding to the AR marker collated by the AR application. It has the effect that it can be prevented.

また、顔認証アプリによる顔認証失敗(または、キャンセル)時には、認証時における録画データが不正アクセスデータとしてコントローラに保存されるため、後で不正アクセスデータを参照すれば、何時、何処から、誰によって不正アクセスが試みられたのかを特定できるようになるだけでなく、不正利用そのものの抑止という効果が期待できる。   In addition, when face authentication fails (or is canceled) by the face authentication application, the recorded data at the time of authentication is saved in the controller as unauthorized access data, so if you refer to unauthorized access data later, when, from where, by whom In addition to being able to identify whether unauthorized access has been attempted, it can be expected to have the effect of suppressing unauthorized use itself.

尚、図10には変形例を示す。
例えば、上記作業者照合用DB53は、図6のように支援装置50が記憶する例に限らず、例えば図10に示すように、コントローラ(PLC10)に記憶させる形態であっても構わない。この例の場合、作業者照合用DB53は管理サーバが保持しており、ネットワーク経由で予め管理サーバ等から配信する形で各コントローラ(PLC10)に格納されるようにしてもよいが、この例に限らない。この例の場合、顔認証アプリ52による照合に必要な写真データは、コントローラ側にあるため、支援装置50は、コントローラに対してARマーカーの種別を送信し、その応答データとして上記照合に必要な写真データを取得するようにする。
FIG. 10 shows a modification.
For example, the worker verification DB 53 is not limited to the example stored in the support device 50 as shown in FIG. 6, and may be stored in the controller (PLC 10) as shown in FIG. 10, for example. In this example, the worker verification DB 53 is held by the management server and may be stored in each controller (PLC 10) in a form distributed in advance from the management server or the like via the network. Not exclusively. In the case of this example, since the photo data necessary for collation by the face authentication application 52 is on the controller side, the support device 50 transmits the AR marker type to the controller, and the response data is necessary for the collation. Get photo data.

また、1つのARマーカーに対して複数の人間が登録されていてもよい。つまり任意の“作業者証のARマーカー”の正当や所有者が、複数人いても構わない。図10に示す一例では、ARマーカー「長方形」に対して、2人の人間の写真データが登録されている例を示している。このように、ARマーカーに対応する写真データは複数であっても良く、その場合、顔認証アプリ52では、どちらか一方で顔認証に成功すれば良いことになる。   A plurality of people may be registered for one AR marker. That is, there may be a plurality of legitimate persons or owners of an arbitrary “worker ID AR marker”. The example shown in FIG. 10 shows an example in which photographic data of two people are registered for the AR marker “rectangle”. As described above, there may be a plurality of pieces of photo data corresponding to the AR marker. In this case, the face authentication application 52 only needs to succeed in the face authentication.

尚、支援装置50に付属するカメラは、ARアプリ用がリアカメラ、顔認証アプリ用がフロントカメラというように別々にするか、もしくは撮影範囲が調整できるものが望ましく、このような場合、顔認証アプリをARアプリの機能の一部として実装することで、ARマーカーを認識した後、対象カメラを自動で切替えることで(あるいは、撮影範囲を調整して)、よりスムーズに操作を行うことが可能となる。   The camera attached to the support device 50 is preferably a camera that can be adjusted separately, such as a rear camera for the AR application and a front camera for the face authentication application. By implementing the app as part of the AR app function, it is possible to perform smoother operations by automatically switching the target camera (or adjusting the shooting range) after recognizing the AR marker. It becomes.

10(10a、10b) PLC
20(20a、20b、20c) 支援装置
21 支援ソフト
22 ARアプリ
30 コントローラシステム
31 コントローラ
32 支援装置
33 第1のARマーカー
34 第2のARマーカー
41 撮影部
42 支援部
43 AR部
44 設備情報部
45 作業者情報記憶部
10 (10a, 10b) PLC
20 (20a, 20b, 20c) Support device 21 Support software 22 AR application 30 Controller system 31 Controller 32 Support device 33 First AR marker 34 Second AR marker 41 Imaging unit 42 Support unit 43 AR unit 44 Equipment information unit 45 Worker information storage unit

Claims (14)

1以上のコントローラが設置され、任意のコントローラのプログラム更新の際に支援装置から該コントローラにプログラムがダウンロードされるコントローラシステムであって、
任意の場所に設置される第1のARマーカーと、
作業者に所持させる第2のARマーカーとが設けられ、
前記支援装置は、
撮影手段と、
支援手段と、
AR手段とを有し、
前記支援手段は、前記プログラムのダウンロードの際、前記AR手段を起動し、
起動された前記AR手段は、前記撮影手段による撮影画像中に前記第1のARマーカーと前記第2のARマーカーの両方が検出された場合、該検出された第1のARマーカー、第2のARマーカーそれぞれに対応する所定の情報を該撮影画像に合成して成る合成画像を生成し、
前記支援手段は、該合成画像が生成されない場合には前記プログラムのダウンロードを実行せず、該合成画像が生成された場合あるいは該合成画像が生成され更に所定の条件が満たされた場合には、前記プログラムのダウンロードを実行すると共に該合成画像も一緒にダウンロードすることを特徴とするコントローラシステム。
A controller system in which one or more controllers are installed, and a program is downloaded from the support device to the controller when the program of any controller is updated,
A first AR marker installed at an arbitrary location;
A second AR marker to be carried by the operator is provided,
The support device includes:
Photographing means;
Support means,
AR means,
The support means activates the AR means when downloading the program,
The activated AR means, when both the first AR marker and the second AR marker are detected in the photographed image by the photographing means, the detected first AR marker, the second AR marker, Generating a composite image formed by combining predetermined information corresponding to each AR marker with the captured image;
The support means does not download the program when the composite image is not generated, and when the composite image is generated or when the composite image is generated and a predetermined condition is satisfied, A controller system that downloads the program and downloads the combined image together.
前記所定の条件が満たされる場合は、作業者を撮影する為の新たな撮像画像から抽出される顔データが、前記検出された第2のARマーカーに対応する正当な顔データと合致する場合であることを特徴とする請求項1記載のコントローラシステム。   When the predetermined condition is satisfied, the face data extracted from the new captured image for photographing the worker matches the legitimate face data corresponding to the detected second AR marker. The controller system according to claim 1, wherein there is a controller system. 予め、前記各第2のARマーカーに対応付けて、その正当な所有者である作業者本人の画像データが記憶された作業者画像記憶手段と、
顔認証手段と、
を更に有し、
前記支援手段は、前記合成画像が生成された場合には更に前記顔認証手段を起動し、
起動された前記顔認証手段は、前記AR手段が検出した前記第2のARマーカーに対応する前記作業者本人の画像データを前記作業者画像記憶手段から取得して、該取得した画像データから顔データを抽出して正当顔データとし、また、前記新たな撮影画像から顔データを抽出し、該抽出した顔データが前記正当顔データと合致する場合には照合成功とし、
前記支援手段は、該顔認証手段によって照合成功した場合には、前記所定の条件が満たされたものとすることを特徴とする請求項2記載のコントローラシステム。
Worker image storage means in which image data of the worker who is the proper owner is stored in advance in association with each second AR marker;
Face authentication means;
Further comprising
The support means further activates the face authentication means when the composite image is generated,
The activated face authentication means acquires the operator's own image data corresponding to the second AR marker detected by the AR means from the worker image storage means, and uses the acquired image data to obtain a face The data is extracted as valid face data, and the face data is extracted from the new photographed image. When the extracted face data matches the valid face data, the verification is successful.
3. The controller system according to claim 2, wherein when the collation is successful by the face authentication unit, the support unit satisfies the predetermined condition. 4.
前記支援手段は、前記顔認証手段によって照合失敗した場合には、前記新たな撮影画像または該撮影画像から抽出した顔データを、不正アクセスデータとして記録することを特徴とする請求項2記載のコントローラシステム。   3. The controller according to claim 2, wherein, when the verification by the face authentication unit fails, the support unit records the new captured image or the face data extracted from the captured image as unauthorized access data. 4. system. 前記第1のARマーカーに対応する設備情報を予め記憶する設備情報記憶手段と、
前記第2のARマーカーに対応する作業者情報を予め記憶する作業者情報記憶手段とを更に有し、
前記AR手段は、前記検出された第1のARマーカーに対応する前記設備情報と、前記検出された第2のARマーカーに対応する前記作業者情報とを、前記所定の情報として前記撮影画像に合成することを特徴とする請求項1〜4の何れかに記載のコントローラシステム。
Facility information storage means for previously storing facility information corresponding to the first AR marker;
Worker information storage means for storing worker information corresponding to the second AR marker in advance;
The AR means includes the facility information corresponding to the detected first AR marker and the worker information corresponding to the detected second AR marker in the captured image as the predetermined information. The controller system according to claim 1, wherein the controller system is synthesized.
前記AR手段は、更に、現在日時を取得して、該現在日時情報も前記所定の情報に含めて前記撮影画像に合成することを特徴とする請求項5記載のコントローラシステム。   6. The controller system according to claim 5, wherein the AR means further acquires the current date and time and includes the current date and time information in the predetermined information and synthesizes it with the captured image. 前記設備情報は、前記検出した第1のARマーカーの設置場所または該設置場所に設置される前記コントローラを示す情報であり、
前記作業者情報は、前記検出した第2のARマーカーを所持する作業者を示す情報であることを特徴とする請求項5記載のコントローラシステム。
The facility information is information indicating an installation location of the detected first AR marker or the controller installed at the installation location,
6. The controller system according to claim 5, wherein the worker information is information indicating a worker who possesses the detected second AR marker.
前記コントローラは複数台設けられ、前記第1のARマーカーは、前記各コントローラの各設置場所にそれぞれ設けられる複数の第1のARマーカーであることを特徴とする請求項1〜4の何れかに記載のコントローラシステム。   5. The controller according to claim 1, wherein a plurality of the controllers are provided, and the first AR marker is a plurality of first AR markers provided at each installation location of each controller. The controller system described. 前記第2のARマーカーは、複数の前記作業者にそれぞれ所持させる複数の第2のARマーカーであることを特徴とする請求項1〜4の何れかに記載のコントローラシステム。   5. The controller system according to claim 1, wherein the second AR marker is a plurality of second AR markers that the plurality of workers respectively carry. 1以上のコントローラが設置され、任意のコントローラにプログラムの更新を実行可能に構成された支援装置であって、
撮影手段と、
支援手段と、
AR手段とを有し、
前記支援手段は、前記プログラムのダウンロードの際、前記AR手段を起動し、
起動された前記AR手段は、前記撮影手段による撮影画像の中に第1のARマーカーと第2のARマーカーの両方が検出された場合、該検出された第1のARマーカー、第2のARマーカーそれぞれに対応する所定の情報を、該撮影画像に合成して成る合成画像を生成し、
前記支援手段は、該合成画像が生成されない場合には前記プログラムのダウンロードを実行せず、該合成画像が生成された場合あるいは該合成画像が生成され更に所定の条件が満たされた場合には、前記プログラムのダウンロードを実行すると共に該合成画像も一緒にダウンロードすることを特徴とする支援装置。
One or more controllers are installed, and the support device is configured to be able to update a program in an arbitrary controller,
Photographing means;
Support means,
AR means,
The support means activates the AR means when downloading the program,
When the activated AR means detects both the first AR marker and the second AR marker in the image taken by the photographing means, the detected first AR marker and second AR marker are detected. Generating a composite image formed by combining predetermined information corresponding to each marker with the captured image;
The support means does not download the program when the composite image is not generated, and when the composite image is generated or when the composite image is generated and a predetermined condition is satisfied, An assisting device that downloads the program and downloads the composite image together.
前記所定の条件が満たされる場合は、作業者を撮影する為の新たな撮像画像から抽出される顔データが、前記検出された第2のARマーカーに対応する正当な顔データと合致する場合であることを特徴とする請求項10記載の支援装置。   When the predetermined condition is satisfied, the face data extracted from the new captured image for photographing the worker matches the legitimate face data corresponding to the detected second AR marker. The support apparatus according to claim 10, wherein the support apparatus is provided. 前記各第2のARマーカーに対応付けて、その正当な所有者である作業者本人の画像データが記憶された作業者画像記憶手段と、
顔認証手段と、
を更に有し、
前記支援手段は、前記合成画像が生成された場合には更に前記顔認証手段を起動し、
起動された前記顔認証手段は、前記AR手段が検出した前記第2のARマーカーに対応する前記作業者本人の画像データを前記作業者画像記憶手段から取得して、該取得した画像データから顔データを抽出して正当顔データとし、また、前記新たな撮影画像から顔データを抽出し、該抽出した顔データが前記正当顔データと合致する場合には照合成功とし、
前記支援手段は、該顔認証手段によって照合成功した場合には、前記所定の条件が満たされたものとすることを特徴とする請求項11記載の支援装置。
Worker image storage means in which image data of the worker who is the rightful owner is stored in association with each second AR marker;
Face authentication means;
Further comprising
The support means further activates the face authentication means when the composite image is generated,
The activated face authentication means acquires the operator's own image data corresponding to the second AR marker detected by the AR means from the worker image storage means, and uses the acquired image data to obtain a face The data is extracted as valid face data, and the face data is extracted from the new photographed image. When the extracted face data matches the valid face data, the verification is successful.
12. The support apparatus according to claim 11, wherein the support unit satisfies the predetermined condition when the collation is successful by the face authentication unit.
前記支援手段は、該顔認証手段によって照合失敗した場合には、前記新たな撮影画像または該撮影画像から抽出した顔データを、不正アクセスデータとして記録することを特徴とする請求項11記載の支援装置。   12. The support according to claim 11, wherein, when the collation fails by the face authentication unit, the new captured image or the face data extracted from the captured image is recorded as unauthorized access data. apparatus. 前記検出される第1のARマーカーは、任意の各場所に設置される複数の第1のARマーカーのうちの1つであり、
前記検出される第2のARマーカーは、複数の作業者それぞれに所持させる複数の第2のARマーカーのうちの1つであることを特徴とする請求項10〜13の何れかに記載の支援装置。
The first AR marker to be detected is one of a plurality of first AR markers installed at each arbitrary location;
14. The support according to claim 10, wherein the detected second AR marker is one of a plurality of second AR markers to be carried by each of a plurality of workers. apparatus.
JP2016024151A 2015-09-25 2016-02-10 Controller system, supporting device Active JP6686496B2 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015188948 2015-09-25
JP2015188948 2015-09-25

Publications (2)

Publication Number Publication Date
JP2017062757A true JP2017062757A (en) 2017-03-30
JP6686496B2 JP6686496B2 (en) 2020-04-22

Family

ID=58428937

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016024151A Active JP6686496B2 (en) 2015-09-25 2016-02-10 Controller system, supporting device

Country Status (1)

Country Link
JP (1) JP6686496B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020243969A1 (en) * 2019-06-06 2020-12-10 深圳市汇顶科技股份有限公司 Facial recognition apparatus and method, and electronic device
CN113094662A (en) * 2021-04-13 2021-07-09 深圳市合信自动化技术有限公司 Safe downloading method for preventing client from making programming card by remotely downloading program
WO2023273068A1 (en) * 2021-06-30 2023-01-05 上海商汤智能科技有限公司 Sensor module, facial recognition module, facial recognition apparatus and system

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013168031A (en) * 2012-02-15 2013-08-29 Fuji Electric Co Ltd Programmable controller system, support device thereof, and program
JP2013175098A (en) * 2012-02-27 2013-09-05 Mitsubishi Heavy Ind Ltd Control program management system, and change method of control program
JP2013206365A (en) * 2012-03-29 2013-10-07 Casio Comput Co Ltd Image processor, image processing method and program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013168031A (en) * 2012-02-15 2013-08-29 Fuji Electric Co Ltd Programmable controller system, support device thereof, and program
JP2013175098A (en) * 2012-02-27 2013-09-05 Mitsubishi Heavy Ind Ltd Control program management system, and change method of control program
JP2013206365A (en) * 2012-03-29 2013-10-07 Casio Comput Co Ltd Image processor, image processing method and program

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020243969A1 (en) * 2019-06-06 2020-12-10 深圳市汇顶科技股份有限公司 Facial recognition apparatus and method, and electronic device
CN113094662A (en) * 2021-04-13 2021-07-09 深圳市合信自动化技术有限公司 Safe downloading method for preventing client from making programming card by remotely downloading program
WO2023273068A1 (en) * 2021-06-30 2023-01-05 上海商汤智能科技有限公司 Sensor module, facial recognition module, facial recognition apparatus and system

Also Published As

Publication number Publication date
JP6686496B2 (en) 2020-04-22

Similar Documents

Publication Publication Date Title
CN104199688B (en) A kind of mobile terminal and the method and apparatus of pilot brush machine thereof
JP6729401B2 (en) Information processing apparatus, information processing method, program, and information processing system
JP5747116B1 (en) Security system
JP6823267B2 (en) Information processing equipment, information processing systems, control methods, and programs
CN107622227B (en) 3D face recognition method, terminal device and readable storage medium
JP2007122400A (en) Authentication device, program, and recording medium
US11348370B2 (en) Iris authentication device, iris authentication method, and recording medium
JP6686496B2 (en) Controller system, supporting device
JP7484985B2 (en) Authentication system, authentication method, and program
CN104346554A (en) Programmable display apparatus, control method, and program
CN104346122A (en) Programmable display apparatus, control method, and program
EP3249570B1 (en) Method and device for providing prompt indicating loss of terminal
JP4640416B2 (en) Face authentication apparatus, system, method and program
JP7363786B2 (en) Information processing device, information processing method, and information processing program
WO2021199234A1 (en) Authentication control device, authentication system, authentication control method and recording medium
JP4943127B2 (en) Personal authentication device and personal authentication system
JP6691309B2 (en) Information processing apparatus, control method thereof, and program
JP2022176383A (en) Face authentication system, face authentication management device, face authentication management method, and face authentication management program
US20190318416A1 (en) System and Method for Providing Photography
JP7108884B2 (en) Face authentication server device, registration processing method and registration processing program
KR102539533B1 (en) Method and apparatus for preventing other people from photographing identification
KR20170073200A (en) An automated teller machine and a method for operating it
KR20170047804A (en) A terminal for providing banking services, a method for operating the terminal, a server for providing banking services and a method for operatin the server
JP2020091876A (en) Information processing device, information processing method, program, and information processing server
JP2016206465A (en) Photography amusement device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191226

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20191226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200303

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200316

R150 Certificate of patent or registration of utility model

Ref document number: 6686496

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250