JP6123653B2 - Information processing apparatus, information processing method, and program - Google Patents

Information processing apparatus, information processing method, and program Download PDF

Info

Publication number
JP6123653B2
JP6123653B2 JP2013245579A JP2013245579A JP6123653B2 JP 6123653 B2 JP6123653 B2 JP 6123653B2 JP 2013245579 A JP2013245579 A JP 2013245579A JP 2013245579 A JP2013245579 A JP 2013245579A JP 6123653 B2 JP6123653 B2 JP 6123653B2
Authority
JP
Japan
Prior art keywords
face image
authentication
detection
unit
threshold
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013245579A
Other languages
Japanese (ja)
Other versions
JP2015103198A (en
JP2015103198A5 (en
Inventor
大樹 深谷
大樹 深谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Marketing Japan Inc
Canon IT Solutions Inc
Original Assignee
Canon Marketing Japan Inc
Canon IT Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Marketing Japan Inc, Canon IT Solutions Inc filed Critical Canon Marketing Japan Inc
Priority to JP2013245579A priority Critical patent/JP6123653B2/en
Publication of JP2015103198A publication Critical patent/JP2015103198A/en
Publication of JP2015103198A5 publication Critical patent/JP2015103198A5/ja
Application granted granted Critical
Publication of JP6123653B2 publication Critical patent/JP6123653B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Collating Specific Patterns (AREA)

Description

本発明は、テレワーク管理システムに関する。   The present invention relates to a telework management system.

近年、ブロードバンドや情報セキュリティ技術の発達の他、災害時における事業継続性や節電対策への注目などを背景に、各企業でテレワークに対する関心が強まっている。テレワークを導入する上では、管理者から様子が見えにくいため、家族をはじめとする第三者による情報処理端末へのアクセスにより機密情報が漏えいするリスクや、労働管理がしにくい問題がある。   In recent years, in addition to the development of broadband and information security technology, companies have become more interested in telework against the backdrop of business continuity and attention to power saving measures during disasters. When introducing teleworking, it is difficult for managers to see the situation, so there are risks that confidential information may be leaked due to access to information processing terminals by third parties including family members, and labor management is difficult.

機密情報の漏えい予防手段としては、顔認識技術を用いて個人認証を行い、本人でない場合は情報処理端末をロックするといった先行技術が検討されている。顔認識技術は人などの顔を検出し、その属性情報を読み取る技術である。顔認識技術を用いた個人認証(顔認証)は、顔画像から算出した特徴量を学習した識別器によって他の顔画像から算出した特徴量との類似性を算出し、その顔の人物を識別する技術である。学習の際、同一人物を同じ識別子に関連付けて学習させる。   As a means for preventing leakage of confidential information, prior art is being studied in which personal authentication is performed using face recognition technology, and the information processing terminal is locked if the person is not the person. The face recognition technique is a technique for detecting a face such as a person and reading attribute information thereof. Personal authentication using face recognition technology (face authentication) is to identify the person of the face by calculating the similarity with the feature quantity calculated from the other face image by the classifier that learned the feature quantity calculated from the face image. Technology. During learning, the same person is associated with the same identifier and learned.

特開2009−211381号公報JP 2009-211381 A

前述の特許文献1のような顔認識を用いたテレワーク管理システムでは、予防機能に重点を置いており、何時から何時まで情報処理端末の前に在席していた、または離席していたといった、労務状況を管理者が知る仕組みが存在しない。また、顔認識の精度が高いことが前提となっており、利用できる顔認識技術の精度が低い条件下については言及されていない。そのような条件下においては、本人であるにも関わらず情報処理端末を頻繁に利用できなくなる、または本人以外でも利用できてしまうことになりかねない。   In the telework management system using face recognition as in the above-mentioned Patent Document 1, the prevention function is emphasized, and from what time to what time it was present in front of the information processing terminal or away from the information processing terminal. There is no mechanism for managers to know the labor situation. Also, it is assumed that the accuracy of face recognition is high, and no mention is made of conditions under which the accuracy of available face recognition technology is low. Under such conditions, the information processing terminal may not be frequently used even though the user is the person, or the person other than the person may be able to use the information processing terminal.

顔認識技術は、照明条件や化粧、顔の向きやメガネの有無などによって、顔を検出できなかったり、うまく個人を認証できなかったりする。テレワークにおいては、特にこれらの条件の変動が頻繁に発生する可能性がある。   Face recognition technology may not be able to detect a face or may not be able to authenticate an individual well depending on lighting conditions, makeup, face orientation, and the presence or absence of glasses. Especially in telework, fluctuations in these conditions can occur frequently.

認証精度を高める最も単純な方法は、学習する顔画像(の特徴量)と認証対象の顔画像(の特徴量)との差異をなるべく取り除くことであり、テレワークを行うその日に同じ場所で撮影した顔画像を学習することは有用である。ただし、その顔画像がテレワーカ本人のものであることをテレワーカの労務管理者が保証する必要があるため、管理者の負担は大きくなる。   The simplest way to improve the authentication accuracy is to remove as much as possible the difference between the face image to be learned (feature amount) and the face image to be authenticated (feature amount), and taken at the same place on the day of telework It is useful to learn face images. However, since the labor manager of the teleworker needs to guarantee that the face image belongs to the teleworker himself, the burden on the manager increases.

そこで、本発明は、管理者への負担を抑えつつ、テレワーカの労務状況やセキュリティインシデントの証跡を記録することが可能な仕組みを提供することを目的とする。   Therefore, an object of the present invention is to provide a mechanism capable of recording the work situation of a teleworker and a trail of a security incident while suppressing a burden on an administrator.

本発明の情報処理装置は、撮像装置によって撮影されたユーザの顔画像を取得する取得手段と、前記取得手段により取得したユーザの顔画像から算出される特徴量と、あらかじめ登録された顔画像の特徴量との類似度を算出する類似度算出手段と、前記撮像装置によって撮影された画像に基づきイベントを検出するイベント検出手段と、前記検出手段により検出されたイベントを管理者に通知する通知手段と、を備え、前記イベント検出手段は、前記類似度算出手段により算出された類似度が第1の閾値を満たす場合、および、第1の閾値と第2の閾値とを満たさない場合、前記あらかじめ登録された顔画像の特徴量と、前記撮像装置によって撮影された画像とに基づきイベントを検出し、前記類似度算出手段により算出された類似度が、第1の閾値を満たさず、第2の閾値を満たす場合、前記取得手段により取得した顔画像の特徴量と、前記撮像装置によって撮影された画像とに基づきイベントを検出することを特徴とする。   An information processing apparatus according to the present invention includes an acquisition unit that acquires a user's face image captured by an imaging device, a feature amount calculated from the user's face image acquired by the acquisition unit, and a face image registered in advance. Similarity calculation means for calculating the similarity with the feature quantity, event detection means for detecting an event based on an image taken by the imaging device, and notification means for notifying the administrator of the event detected by the detection means And when the similarity calculated by the similarity calculation unit satisfies a first threshold and when the event detection unit does not satisfy the first threshold and the second threshold, An event is detected based on the feature amount of the registered face image and the image photographed by the imaging device, and the similarity calculated by the similarity calculating means Not satisfy the threshold, if it meets the second threshold value, and wherein the feature quantity of the acquired face image by the acquisition means, to detect the event based on the image captured by the imaging device.

また、本発明の情報処理方法は、情報処理装置の取得手段が、撮像装置によって撮影されたユーザの顔画像を取得する取得工程と、前記情報処理装置の類似度算出手段が、前記取得工程により取得したユーザの顔画像から算出される特徴量と、あらかじめ登録された顔画像の特徴量との類似度を算出する類似度算出工程と、前記情報処理装置のイベント検出手段が、前記撮像装置によって撮影された画像に基づきイベントを検出するイベント検出工程と、前記情報処理装置の通知手段が、前記検出工程により検出されたイベントを管理者に通知する通知工程と、を備え、前記イベント検出工程は、前記類似度算出工程により算出された類似度が第1の閾値を満たす場合、および、第1の閾値と第2の閾値とを満たさない場合、前記あらかじめ登録された顔画像の特徴量と、前記撮像装置によって撮影された画像とに基づきイベントを検出し、前記類似度算出工程により算出された類似度が、第1の閾値を満たさず、第2の閾値を満たす場合、前記取得工程により取得した顔画像の特徴量と、前記撮像装置によって撮影された画像とに基づきイベントを検出することを特徴とする。   In the information processing method of the present invention, the acquisition unit of the information processing device acquires the user's face image captured by the imaging device, and the similarity calculation unit of the information processing device uses the acquisition step. A similarity calculation step for calculating a similarity between a feature amount calculated from the acquired face image of the user and a feature amount of a face image registered in advance, and an event detection unit of the information processing device are provided by the imaging device. An event detection step of detecting an event based on a photographed image, and a notification step of notifying an administrator of an event detected by the detection step, wherein the notification means of the information processing apparatus includes the event detection step. When the similarity calculated by the similarity calculation step satisfies the first threshold, and when the similarity does not satisfy the first threshold and the second threshold, An event is detected based on the feature value of the recorded face image and the image photographed by the imaging device, and the similarity calculated by the similarity calculation step does not satisfy the first threshold, and the second When the threshold value is satisfied, an event is detected based on the feature amount of the face image acquired by the acquisition step and the image captured by the imaging device.

また、本発明のプログラムは、情報処理装置において実行可能なプログラムであって、前記情報処理装置を、撮像装置によって撮影されたユーザの顔画像を取得する取得手段と、前記取得手段により取得したユーザの顔画像から算出される特徴量と、あらかじめ登録された顔画像の特徴量との類似度を算出する類似度算出手段と、前記撮像装置によって撮影された画像に基づきイベントを検出するイベント検出手段と、前記検出手段により検出されたイベントを管理者に通知する通知手段と、して機能させ、前記イベント検出手段を、前記類似度算出手段により算出された類似度が第1の閾値を満たす場合、および、第1の閾値と第2の閾値とを満たさない場合、前記あらかじめ登録された顔画像の特徴量と、前記撮像装置によって撮影された画像とに基づきイベントを検出し、前記類似度算出手段により算出された類似度が、第1の閾値を満たさず、第2の閾値を満たす場合、前記取得手段により取得した顔画像の特徴量と、前記撮像装置によって撮影された画像とに基づきイベントを検出する手段として機能させることを特徴とする。   The program of the present invention is a program that can be executed in an information processing apparatus, and the information processing apparatus acquires an acquisition unit that acquires a face image of a user photographed by an imaging apparatus, and a user acquired by the acquisition unit. Similarity calculation means for calculating the similarity between the feature amount calculated from the face image and the feature amount of the face image registered in advance, and event detection means for detecting an event based on the image taken by the imaging device And a notification means for notifying an administrator of an event detected by the detection means, and the event detection means is operated when the similarity calculated by the similarity calculation means satisfies a first threshold value. When the first threshold value and the second threshold value are not satisfied, the feature amount of the face image registered in advance and the image pickup device are photographed. When the event is detected based on the image and the similarity calculated by the similarity calculation unit does not satisfy the first threshold but satisfies the second threshold, the feature amount of the face image acquired by the acquisition unit , And functioning as means for detecting an event based on an image photographed by the imaging device.

本発明によれば、管理者への負担を抑えつつ、テレワーカの労務状況やセキュリティインシデントの証跡を記録することが可能な仕組みを提供することが可能となる。   According to the present invention, it is possible to provide a mechanism capable of recording a labor situation of a teleworker and a trail of a security incident while suppressing a burden on an administrator.

本発明のテレワーク管理システムの構成の一例を示すシステム構成図である。It is a system configuration figure showing an example of the composition of the telework management system of the present invention. 図1に示した証跡送信端末100および証跡監査端末110,証跡管理サーバ120に適用可能な情報処理装置のハードウェア構成を示すブロック図である。FIG. 2 is a block diagram illustrating a hardware configuration of an information processing apparatus applicable to the trail transmission terminal 100, the trail audit terminal 110, and the trail management server 120 illustrated in FIG. 図1に示した証跡送信端末100および証跡監査端末110,証跡管理サーバ120に必要な機能構成を示すブロック図である。FIG. 2 is a block diagram illustrating a functional configuration necessary for a trail transmission terminal 100, a trail audit terminal 110, and a trail management server 120 illustrated in FIG. 本発明におけるテレワーク管理システムにおける証跡送信装置の全体処理の一例を示すフローチャートである。It is a flowchart which shows an example of the whole process of the trail transmitter in the telework management system in this invention. 本発明におけるテレワーク管理システムにおける証跡送信装置の個人認証処理の一例を示すフローチャートである。It is a flowchart which shows an example of the personal authentication process of the trail transmission apparatus in the telework management system in this invention. 本発明におけるテレワーク管理システムにおける一時特徴量データの登録と承認の処理の一例を示すフローチャートである。It is a flowchart which shows an example of the process of registration and approval of temporary feature-value data in the telework management system in this invention. 本発明におけるテレワーク管理システムにおけるイベントの検出とその証跡の送信の処理の一例を示すフローチャートである。It is a flowchart which shows an example of the process of the detection of the event in the telework management system in this invention, and the transmission of the trail. 本発明におけるテレワーク管理システムにおける管理者情報が登録されたデータテーブルの一例を表すデータ構造図である。It is a data structure figure showing an example of a data table with which manager information in a telework management system in the present invention was registered. 本発明におけるテレワーク管理システムにおけるテレワーカ情報が登録されたデータテーブルの一例を表すデータ構造図である。It is a data structure figure showing an example of the data table in which the teleworker information in the telework management system in this invention was registered. 本発明におけるテレワーク管理システムにおける識別子情報が登録されたデータテーブルの一例を表すデータ構造図である。It is a data structure figure showing an example of the data table in which identifier information in the telework management system in the present invention was registered. 本発明におけるテレワーク管理システムにおける特徴量データが登録されたデータテーブルの一例を表すデータ構造図である。It is a data structure figure showing an example of the data table in which the feature-value data in the telework management system in the present invention was registered. 本発明におけるテレワーク管理システムにおけるフレーム情報が登録されたデータテーブルの一例を表すデータ構造図である。It is a data structure figure showing an example of the data table in which the frame information in the telework management system in the present invention was registered. 本発明におけるテレワーク管理システムにおける顔検出結果が登録されたデータテーブルの一例を表すデータ構造図である。It is a data structure figure showing an example of the data table in which the face detection result in the telework management system in the present invention was registered. 本発明におけるテレワーク管理システムにおける顔識別結果が登録されたデータテーブルの一例を表すデータ構造図である。It is a data structure figure showing an example of the data table in which the face identification result in the telework management system in the present invention was registered. 本発明におけるテレワーク管理システムにおける証跡情報が登録されたデータテーブルの一例を表すデータ構造図である。It is a data structure figure showing an example of the data table in which the trail information in the telework management system in the present invention was registered. 本発明におけるテレワーク管理システムにおけるユーザが操作する画面の一例を示す画面イメージである。It is a screen image which shows an example of the screen which the user operates in the telework management system in this invention. 本発明におけるテレワーク管理システムにおけるユーザが操作する画面の一例を示す画面イメージである。It is a screen image which shows an example of the screen which the user operates in the telework management system in this invention. 本発明におけるテレワーク管理システムにおける認証レベルを求めるための第1の閾値、第2の閾値が登録されたデータテーブルの一例を示す図である。It is a figure which shows an example of the data table in which the 1st threshold value for calculating | requiring the authentication level in the telework management system in this invention and the 2nd threshold value were registered.

まず、本発明の概要について説明する。   First, an outline of the present invention will be described.

本発明のテレワーク管理システムは、顔認識技術を用いてテレワーカのイベント(”着席”や”離席”の労務イベントや、第三者による”なりすまし”や”覗き込み”のセキュリティインシデント)を検出・記録し、管理者が閲覧できるようにするシステムである。   The telework management system of the present invention uses face recognition technology to detect teleworker events (working events such as “seating” and “seating”, and “spoofing” and “peeps” security incidents by third parties). It is a system that records and makes it available to administrators.

テレワーカが勤務を開始する際、テレワーカの顔写真を撮影し、当該顔写真と、最初にテレワーカ本人であることが保証されている顔画像の特徴量とを用いて個人認証を行い、テレワーカ本人である可能性の度合い(認証レベル)を算出する(以降、顔画像とその特徴量をまとめて特徴量データ、個人認証に使用する特徴量データを認証特徴量データとする)。   When a teleworker starts work, the teleworker's face photo is taken, and personal authentication is performed using the face photo and the feature value of the face image that is initially guaranteed to be the teleworker's identity. The degree of possibility (authentication level) is calculated (hereinafter, the face image and its feature amount are collectively referred to as feature amount data, and the feature amount data used for personal authentication is referred to as authentication feature amount data).

たとえば、テレワーカ本人である可能性が極めて高い場合”高”、テレワーカ本人である可能性が高いが、第三者である可能性もある場合”中”、第三者である可能性が極めて高い場合”低”とする。なお、認証レベルについては、顔写真から算出される特徴量と、認証特徴量データとの類似度を算出し、予め定められた閾値と類似度とを用いることで、認証レベルを算出する。   For example, if you are very likely to be a teleworker, it is “high”. If you are likely to be a teleworker, you may be a third party. If it is "Low". As for the authentication level, the similarity between the feature quantity calculated from the face photograph and the authentication feature quantity data is calculated, and the authentication level is calculated by using a predetermined threshold and similarity.

認証レベルが”高”の場合、認証特徴量データと映像に写る人物の特徴量データとの差異が少ないので、認証特徴量データを使用してイベントの検出を行う。   When the authentication level is “high”, since there is little difference between the authentication feature value data and the feature value data of the person shown in the video, the event is detected using the authentication feature value data.

認証レベルが”中”の場合、認証特徴量データと映像に写る人物の特徴量データに多少の差異がみられるため、現在の映像に写る顔から新たに特徴量データ(以降、一時特徴量データとする)を取得し、それを使ってイベントの検出を行う。これにより、管理者が保証した特徴量データ(認証特徴量データ)から多少の差異が見受けられたとしても正常にイベントを検出できるようになる。   When the authentication level is “medium”, there is a slight difference between the authentication feature value data and the feature value data of the person appearing in the video. Therefore, new feature value data (hereinafter referred to as temporary feature value data) from the face shown in the current video. ) And use it to detect events. As a result, even if a slight difference is found in the feature amount data (authentication feature amount data) guaranteed by the administrator, the event can be normally detected.

ただし、一時特徴量データが第三者のものである可能性もあるので、その特徴量データを記録し、管理者に確認させる。管理者がその一時特徴量データを第三者のものであると判断した場合、速やかに一時特徴量データでのイベント検出を取りやめ、認証特徴量データを使用してイベントの検出を行うようにする。また、一時特徴量データが今後のテレワーカの認証にふさわしいと判断した場合、管理者はその一時特徴量データを認証特徴量データとして登録する。   However, there is a possibility that the temporary feature amount data is that of a third party, so that feature amount data is recorded and checked by the administrator. If the administrator determines that the temporary feature data belongs to a third party, promptly cancels the event detection in the temporary feature data and uses the authentication feature data to detect the event. . If it is determined that the temporary feature data is suitable for future teleworker authentication, the administrator registers the temporary feature data as authentication feature data.

認証レベルが”低”の場合、第三者である可能性が高いので、認証特徴量データを使用してイベントの検出を行う。この場合は”なりすまし”が頻発すると考えられる。ただし、例えば普段は化粧をしている人が化粧をしていなかったり、普段メガネをかけていない人がメガネをかけていたりする可能性もあるため、現在の映像から新たに一時特徴量データを取得して記録し、管理者に確認させる。管理者がその一時特徴量データをテレワーカのものと判断した場合、一時特徴量データを使用してイベントの検出を行うようにする。   When the authentication level is “low”, there is a high possibility that the third party is a third party, and therefore the event is detected using the authentication feature amount data. In this case, “spoofing” is considered to occur frequently. However, for example, there is a possibility that a person who normally wears makeup will not wear makeup, or a person who does not usually wear glasses will wear glasses. Get it, record it, and let the administrator check it. When the administrator determines that the temporary feature data is that of the teleworker, the event is detected using the temporary feature data.

以上が本発明におけるテレワーク管理システムの概要である。   The above is the outline of the telework management system in the present invention.

以下、図面を参照して、本発明の実施形態を詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.

図1は、本発明のテレワーク管理システムの構成の一例を示すシステム構成図である。   FIG. 1 is a system configuration diagram showing an example of the configuration of the telework management system of the present invention.

図1は、1又は複数の証跡送信端末100、1又は複数の証跡監査端末110、1又は複数の証跡管理サーバ120が、ローカルエリアネットワーク(LAN)130とルータ140、およびインターネット150を介して接続される構成となっている。   FIG. 1 shows one or more trail transmission terminals 100, one or more trail audit terminals 110, and one or more trail management servers 120 connected via a local area network (LAN) 130, a router 140, and the Internet 150. It becomes the composition which is done.

証跡送信端末100は、使用するテレワーカの労務イベントおよびセキュリティインシデントを検出し、その証跡を証跡管理サーバ120に送信する。また、イベント検出に使用するテレワーカの特徴量データ(顔画像とそこから取得した特徴量)を証跡管理サーバ120に送信する。   The trail transmission terminal 100 detects a labor event and a security incident of a teleworker to be used, and transmits the trail to the trail management server 120. Also, teleworker feature amount data (face image and feature amount acquired therefrom) used for event detection is transmitted to the trail management server 120.

証跡監査端末110は、証跡管理サーバ120に記録された特徴量データの承認操作と、証跡管理サーバ120に記録された証跡の監査操作を行う。   The trail audit terminal 110 performs an operation for approving the feature data recorded in the trail management server 120 and an audit operation for the trail recorded in the trail management server 120.

証跡管理サーバ120は、証跡送信端末100から受信した証跡を記録し、その証跡に対する証跡監査端末110の監査操作を処理する。また、証跡送信端末100から受信した特徴量データを記録し、その特徴量データに対する証跡監査端末110の承認操作を処理する。   The trail management server 120 records the trail received from the trail transmission terminal 100 and processes the audit operation of the trail audit terminal 110 for the trail. Further, the feature amount data received from the trail transmission terminal 100 is recorded, and the approval operation of the trail audit terminal 110 for the feature amount data is processed.

以下、図2を用いて、図1に示した証跡送信端末100、証跡監査端末110、証跡管理サーバ120に適用可能な情報処理装置のハードウェア構成について説明する。   Hereinafter, the hardware configuration of the information processing apparatus applicable to the trail transmission terminal 100, the trail inspection terminal 110, and the trail management server 120 illustrated in FIG. 1 will be described with reference to FIG.

図2は、図1に示した証跡送信端末100、証跡監査端末110、証跡管理サーバ120に適用可能な情報処理装置のハードウェア構成を示すブロック図である。   FIG. 2 is a block diagram showing a hardware configuration of an information processing apparatus applicable to the trail transmission terminal 100, the trail audit terminal 110, and the trail management server 120 shown in FIG.

図2において、201はCPUで、システムバス204に接続される各デバイスやコントローラを統括的に制御する。また、ROM203あるいは外部メモリ212には、CPU201の制御プログラムであるBIOS(Basic Input / Output System)やオペレーティングシステムプログラム(以下、OS)や、各サーバ或いは各PCの実行する機能を実現するために必要な後述する各種プログラム等が記憶されている。   In FIG. 2, reference numeral 201 denotes a CPU that comprehensively controls each device and controller connected to the system bus 204. Further, the ROM 203 or the external memory 212 is necessary to realize a BIOS (Basic Input / Output System) or an operating system program (hereinafter referred to as an OS), which is a control program of the CPU 201, or a function executed by each server or each PC. Various programs to be described later are stored.

203はRAMで、CPU201の主メモリ、ワークエリア等として機能する。CPU201は、処理の実行に際して必要なプログラム等をROM203あるいは外部メモリ212からRAM202にロードして、該ロードしたプログラムを実行することで各種動作を実現するものである。   A RAM 203 functions as a main memory, work area, and the like for the CPU 201. The CPU 201 implements various operations by loading a program or the like necessary for execution of processing from the ROM 203 or the external memory 212 to the RAM 202 and executing the loaded program.

また、205は入力コントローラで、キーボード(KB)209やカメラデバイス210(撮像装置)、不図示のマウス等のポインティングデバイス等からの入力を制御する。206はビデオコントローラで、CRTディスプレイ(CRT)211等の表示器への表示を制御する。なお、図2では、CRT211と記載しているが、表示器はCRTだけでなく、液晶ディスプレイ等の他の表示器であってもよい。これらは必要に応じて管理者が使用するものである。   An input controller 205 controls input from a keyboard (KB) 209, a camera device 210 (imaging device), a pointing device such as a mouse (not shown), and the like. A video controller 206 controls display on a display device such as a CRT display (CRT) 211. In FIG. 2, although described as CRT 211, the display device may be not only a CRT but also other display devices such as a liquid crystal display. These are used by the administrator as needed.

207はメモリコントローラで、ブートプログラム,各種のアプリケーション,フォントデータ,ユーザファイル,編集ファイル,各種データ等を記憶する外部記憶装置(ハードディスク(HD))や、フレキシブルディスク(FD)、或いはPCMCIAカードスロットにアダプタを介して接続されるコンパクトフラッシュ(登録商標)メモリ等の外部メモリ212へのアクセスを制御する。   A memory controller 207 is provided in an external storage device (hard disk (HD)), flexible disk (FD), or PCMCIA card slot for storing a boot program, various applications, font data, user files, editing files, various data, and the like. Controls access to an external memory 212 such as a compact flash (registered trademark) memory connected via an adapter.

208は通信I/Fコントローラで、ネットワーク(例えば、図1に示したLAN130)を介して外部機器と接続・通信するものであり、ネットワークでの通信制御処理を実行する。例えば、TCP/IPを用いた通信等が可能である。   A communication I / F controller 208 is connected to and communicates with an external device via a network (for example, the LAN 130 shown in FIG. 1), and executes communication control processing on the network. For example, communication using TCP / IP is possible.

なお、CPU201は、例えばRAM202内の表示情報用領域へアウトラインフォントの展開(ラスタライズ)処理を実行することにより、CRT211上での表示を可能としている。また、CPU201は、CRT211上の不図示のマウスカーソル等でのユーザ指示を可能とする。   Note that the CPU 201 enables display on the CRT 211 by executing, for example, outline font rasterization processing on a display information area in the RAM 202. Further, the CPU 201 enables a user instruction with a mouse cursor (not shown) on the CRT 211.

本発明を実現するための後述する各種プログラムは、外部メモリ212に記録されており、必要に応じてRAM202にロードされることによりCPU201によって実行されるものである。さらに、上記プログラムの実行時に用いられる定義ファイル及び各種情報テーブル等も、外部メモリ212に格納されており、これらについての詳細な説明も後述する。   Various programs to be described later for realizing the present invention are recorded in the external memory 212, and are executed by the CPU 201 by being loaded into the RAM 202 as necessary. Furthermore, definition files and various information tables used when executing the program are also stored in the external memory 212, and a detailed description thereof will be described later.

次に、図3を用いて、本発明の証跡送信端末100、証跡監査端末110および証跡管理サーバ120の機能ブロック図について説明する。   Next, a functional block diagram of the trail transmission terminal 100, the trail inspection terminal 110, and the trail management server 120 according to the present invention will be described with reference to FIG.

尚、各機能ブロックが処理する詳細な制御については、後述するフローチャートにて説明する。   In addition, the detailed control which each functional block processes is demonstrated with the flowchart mentioned later.

まず、証跡送信端末100の機能構成について説明する。   First, the functional configuration of the trail transmission terminal 100 will be described.

映像入力部101は、カメラデバイス210より映像を取得し、個人認証部102にその映像を送信する。個人認証部102の処理が完了したら、イベント検出部106にその映像を送信する。   The video input unit 101 acquires a video from the camera device 210 and transmits the video to the personal authentication unit 102. When the process of the personal authentication unit 102 is completed, the video is transmitted to the event detection unit 106.

個人認証部102は、映像入力部101から送られてきた映像のフレーム(静止画)と特徴量データ記憶部104から取得した特徴量データの特徴量を顔認識部103に与え、顔認識部103から得られた顔識別結果から映像に写っているのがテレワーカ本人である可能性(認証レベル)を”高”、”中”、”低”として算出する。認証レベルが”高”の場合、イベントの検出に使用する特徴量として認証に使用した特徴量を指定する。”中”、”低”の場合、フレームから顔画像とその一時特徴量を取得し、特徴量データ記憶部104に記憶する。   The personal authentication unit 102 provides the face recognition unit 103 with the video frame (still image) sent from the video input unit 101 and the feature quantity of the feature quantity data acquired from the feature quantity data storage unit 104, and the face recognition unit 103. The possibility (authentication level) that the teleworker himself is in the video is calculated as “high”, “medium”, and “low” from the face identification result obtained from the above. When the authentication level is “high”, the feature quantity used for authentication is designated as the feature quantity used for event detection. In the case of “medium” or “low”, the face image and its temporary feature amount are acquired from the frame and stored in the feature amount data storage unit 104.

顔認識部103は、個人認証部102またはイベント検出部106から送られてきたフレームに対して顔検出を行う。さらに検出された顔に対して、指定された特徴量との類似度を算出する。   The face recognition unit 103 performs face detection on a frame sent from the personal authentication unit 102 or the event detection unit 106. Further, the degree of similarity between the detected face and the specified feature amount is calculated.

特徴量データ記憶部104は、顔画像とその特徴量からなる特徴量データを記憶する。 The feature amount data storage unit 104 stores feature amount data including a face image and its feature amount.

特徴量データ送信部105は、個人認証部102から送られてきた特徴量データを、通信I/Fコントローラ208を介して証跡管理サーバ120の特徴量データ受信部121に送信する。   The feature amount data transmission unit 105 transmits the feature amount data transmitted from the personal authentication unit 102 to the feature amount data reception unit 121 of the trail management server 120 via the communication I / F controller 208.

イベント検出部106は、映像入力部101から取得した映像のフレームと個人認証部で指定された特徴量データを顔認識部103に与え、顔認識部103から得られた顔識別結果をもとに、着席、離席、なりすまし、覗き込み等のイベントを検出する。検出したイベントの証跡は、証跡制御部107に送信する。   The event detection unit 106 gives the frame of the video acquired from the video input unit 101 and the feature amount data specified by the personal authentication unit to the face recognition unit 103, and based on the face identification result obtained from the face recognition unit 103. Detects events such as sitting, leaving, impersonation, and peeping. The trail of the detected event is transmitted to the trail control unit 107.

証跡制御部107は、イベント検出部106から得られた証跡を証跡記憶部108に記憶する。特定の送信条件が満たされた場合(たとえば、離席イベントが発生してから3分経過等)、証跡記憶部108に記録された証跡を証跡送信部109に送信する。さらに、送信の済んだ、または送信の必要がなくなった(たとえば、離席イベントが発生してから3分以内に着席イベントが発生した等)証跡を証跡記憶部108から消去する。   The trail control unit 107 stores the trail obtained from the event detection unit 106 in the trail storage unit 108. When a specific transmission condition is satisfied (for example, 3 minutes have elapsed since the occurrence of the absence event), the trail recorded in the trail storage unit 108 is transmitted to the trail transmission unit 109. Further, the trail that has been transmitted or no longer needs to be transmitted (for example, a seating event has occurred within 3 minutes after the occurrence of a leaving event) is deleted from the trail storage unit 108.

証跡記憶部108は、イベントの証跡を記憶する。   The trail storage unit 108 stores a trail of events.

証跡送信部109は、証跡制御部107から得られた証跡を、通信I/Fコントローラ208を介して証跡管理サーバ120の証跡受信部125に送信する。   The trail transmission unit 109 transmits the trail obtained from the trail control unit 107 to the trail reception unit 125 of the trail management server 120 via the communication I / F controller 208.

特徴量データ更新部10Aは、証跡管理サーバ120の特徴量データ管理操作処理部124の結果を受けて、特徴量データ記憶部104の特徴量データを更新する。   The feature amount data update unit 10A updates the feature amount data in the feature amount data storage unit 104 in response to the result of the feature amount data management operation processing unit 124 of the trail management server 120.

次に、証跡監査端末110の機能構成について説明する。   Next, the functional configuration of the trail audit terminal 110 will be described.

特徴量データ管理操作部111は、証跡管理サーバ120の特徴量データ管理操作処理部124を介して、特徴量データの閲覧と、その承認状況(承認待ち、承認、否認、差戻し)および識別子との関連(識別ID)の更新を行う。   The feature amount data management operation unit 111 browses the feature amount data via the feature amount data management operation processing unit 124 of the trail management server 120, and the approval status (waiting for approval, approval, denial, return) and an identifier. The association (identification ID) is updated.

証跡監査操作部112は、証跡管理サーバ120の証跡監査操作処理部127を介して、イベントの証跡と、イベントから導かれる労務状況の統計情報を閲覧する。   The trail audit operation unit 112 browses the event trail and the statistical information on the labor situation derived from the event via the trail audit operation processing unit 127 of the trail management server 120.

更新通知受信部113は、証跡管理サーバ120の更新通知送信部からの更新通知を受信する。   The update notification reception unit 113 receives an update notification from the update notification transmission unit of the trail management server 120.

最後に、証跡管理サーバ120の機能構成について説明する。 Finally, the functional configuration of the trail management server 120 will be described.

特徴量データ受信部121は、証跡送信端末100の特徴量データ送信部105から送られてくる特徴量データを受信し、特徴量データ記憶部122に記憶する。また、更新通知送信部123に、新しい特徴量データの登録があったことを通知するよう要求する。   The feature amount data receiving unit 121 receives the feature amount data transmitted from the feature amount data transmitting unit 105 of the trail transmission terminal 100 and stores it in the feature amount data storage unit 122. Further, it requests the update notification transmission unit 123 to notify that new feature amount data has been registered.

特徴量データ記憶部122は、特徴量データ受信部121で受信した特徴量データを記憶する。また、特徴量データの識別IDに紐づいた識別子の情報を記憶する。   The feature amount data storage unit 122 stores the feature amount data received by the feature amount data reception unit 121. Further, information on an identifier associated with the identification ID of the feature amount data is stored.

更新通知送信部123は、特徴量データおよび証跡を受信した際に、証跡監査端末110の更新通知受信部113に更新通知を送信する。   The update notification transmission unit 123 transmits an update notification to the update notification reception unit 113 of the trail audit terminal 110 when the feature amount data and the trail are received.

特徴量データ管理操作受信部124は、証跡監査端末110の特徴量データ管理操作部111の命令を受けて、特徴量データ記憶部122の特徴量データを画面に表示したり、特徴量データへの操作を処理したりする。   The feature amount data management operation receiving unit 124 receives the command of the feature amount data management operation unit 111 of the trail audit terminal 110, displays the feature amount data of the feature amount data storage unit 122 on the screen, and outputs the feature amount data to the feature amount data. Process operations.

証跡受信部125は、証跡送信端末100の証跡送信部109から送信された証跡を受信し、証跡記憶部126に記憶する。また、証跡のイベントが”なりすまし”や”覗き込み”であった場合、更新通知送信部123に、セキュリティインシデントの証跡の登録があったことを通知するよう要求する。   The trail receiving unit 125 receives the trail transmitted from the trail transmitting unit 109 of the trail transmitting terminal 100 and stores it in the trail storage unit 126. If the trail event is “spoofing” or “peeps”, the update notification transmission unit 123 is requested to notify that the trail of the security incident has been registered.

証跡記憶部126は、”着席”、”離席”等の労務イベントや”なりすまし”、”覗き込み”等のセキュリティインシデントの証跡を記憶する。   The trail storage unit 126 stores a trail of security events such as labor events such as “seating” and “seating” and “spoofing” and “peeps”.

証跡監査操作処理部127は、証跡監査端末110の証跡監査操作部112の命令を受けて、証跡記憶部126の証跡や、証跡から算出した労務の統計情報を画面に表示したり、証跡に対する操作を処理したりする。   In response to an instruction from the trail audit operation unit 112 of the trail audit terminal 110, the trail audit operation processing unit 127 displays the trail of the trail storage unit 126 and the statistical information of labor calculated from the trail on the screen, and operates the trail. Or processing.

アカウント記憶部128は、テレワーカおよび管理者のアカウント情報を記憶する。   The account storage unit 128 stores account information of teleworkers and managers.

なお、テレワーカおよび管理者がシステムを利用する際に必要なアカウント認証を行う機能および、それらのアカウント情報を登録する機能についても備えているが、本発明の趣旨から外れるため詳細な説明は省略する。   The teleworker and the administrator also have a function for performing account authentication necessary for using the system and a function for registering the account information, but a detailed description is omitted because it is out of the gist of the present invention. .

以下、本実施形態におけるテレワーク管理システムの全体の流れを、個人認証による認証レベルごとに説明する。   Hereinafter, the entire flow of the telework management system in the present embodiment will be described for each authentication level by personal authentication.

まず、認証レベルが”高”の場合について説明する。   First, a case where the authentication level is “high” will be described.

証跡送信端末100は、カメラデバイス210から取得した映像に対して認証特徴量データを使って個人認証を行い、認証レベルを算出する。認証レベルが”高”の場合、認証特徴量データを使ってイベントの検出を開始する。イベントが検出されたら、その証跡を証跡管理サーバ120に送信する。   The trail transmission terminal 100 performs personal authentication on the video acquired from the camera device 210 using authentication feature amount data, and calculates an authentication level. When the authentication level is “high”, the detection of the event is started using the authentication feature amount data. When an event is detected, the trail is transmitted to the trail management server 120.

証跡管理サーバ120は、証跡送信端末100から受け取った証跡を記憶し、セキュリティインシデントの証跡である場合は、証跡監査端末110にセキュリティインシデントの証跡の登録に関する更新通知を送信する。   The trail management server 120 stores the trail received from the trail transmission terminal 100, and if it is a trail of a security incident, transmits an update notification related to the registration of the trail of the security incident to the trail audit terminal 110.

証跡監査端末110は、証跡管理サーバ120からの更新通知を受けて証跡を表示し、必要に応じてその証跡に対する操作を受け付ける。また、労務イベントの統計情報を表示する。   The trail audit terminal 110 receives the update notification from the trail management server 120, displays the trail, and accepts an operation on the trail as necessary. In addition, statistical information on labor events is displayed.

次に、認証レベルが”中”の場合について説明する。   Next, a case where the authentication level is “medium” will be described.

証跡送信端末100は、カメラ映像に対して認証特徴量データを使って個人認証を行い、認証レベルを算出する。認証レベルが”中”の場合、現在の映像から一時特徴量データを算出し、証跡管理サーバ120に送信し、その一時特徴量データでイベントの検出を開始する。   The trail transmission terminal 100 performs personal authentication on the camera video using the authentication feature data and calculates an authentication level. When the authentication level is “medium”, temporary feature data is calculated from the current video, transmitted to the trail management server 120, and detection of an event is started with the temporary feature data.

証跡管理サーバ120は、証跡送信端末100から受け取った一時特徴量データを記憶し、証跡監査端末110に特徴量データ登録に関する更新通知を送信する。   The trail management server 120 stores the temporary feature amount data received from the trail transmission terminal 100 and transmits an update notification related to feature amount data registration to the trail audit terminal 110.

証跡監査端末110は、証跡管理サーバ120からの更新通知を受けて、一時特徴量データの承認操作を行う。特に問題がない場合は承認状況を”承認”にし、さらに今後認証に使用する特徴量データとする場合、関連する識別子を設定する。特徴量データが第三者のものである場合は承認状況を”否認”にする。特徴量データがテレワーカ本人のものであるが、認証にふさわしいものとみなせない場合、承認状況を”差戻し”にする。   The trail audit terminal 110 receives an update notification from the trail management server 120 and performs an operation for approving temporary feature data. If there is no particular problem, the approval status is set to “approval”, and if the feature amount data to be used for authentication in the future is set, a related identifier is set. If the feature data is from a third party, the approval status is set to “denied”. If the feature data is from the teleworker himself but cannot be regarded as suitable for authentication, the approval status is set to “send back”.

証跡管理サーバ120は、証跡監査端末110から受け取った特徴量データ操作を処理する。   The trail management server 120 processes the feature data operation received from the trail audit terminal 110.

証跡操作端末100は、証跡管理サーバ120の特徴量データの変更を受けて、端末に記憶された特徴量データを更新する。   The trail operation terminal 100 updates the feature amount data stored in the terminal in response to the change of the feature amount data of the trail management server 120.

証跡送信端末100は、イベント検出に使用している一時特徴量データの承認状況が”否認”になっている場合、イベント検出に使用する特徴量データを認証特徴量データに置き換える。必要であれば、情報処理端末にロックをかける。また、イベント検出に使用している一時特徴量データの承認状況が”差戻し”になっている場合、再度個人認証を行い、イベント検出に使用する特徴量データを更新する。   When the approval status of the temporary feature data used for event detection is “denied”, the trail transmission terminal 100 replaces the feature data used for event detection with authentication feature data. If necessary, lock the information processing terminal. If the approval status of the temporary feature data used for event detection is “send back”, personal authentication is performed again, and the feature data used for event detection is updated.

次に、認証レベルが”低”の場合について説明する。   Next, a case where the authentication level is “low” will be described.

証跡送信端末100は、カメラ映像に対して登録済の認証特徴量データを使って個人認証を行い、認証レベルを算出する。認証レベルが”低”の場合、認証特徴量データを使ってイベントの検出を開始する。また、現在の映像から一時特徴量データを算出し、証跡管理サーバ120に送信する。   The trail transmission terminal 100 performs personal authentication on the camera video using the registered authentication feature amount data, and calculates an authentication level. When the authentication level is “low”, event detection is started using the authentication feature data. Also, temporary feature data is calculated from the current video and transmitted to the trail management server 120.

証跡管理サーバ120は、証跡送信端末100から受け取った一時特徴量データを記憶し、証跡監査端末110に特徴量データ登録に関する更新通知を送信する。   The trail management server 120 stores the temporary feature amount data received from the trail transmission terminal 100 and transmits an update notification related to feature amount data registration to the trail audit terminal 110.

証跡監査端末110は、証跡管理サーバ120からの更新通知を受けて、一時特徴量データの承認操作を行う。特に問題がない場合は承認状況を”承認”にし、さらに今後認証に使用する特徴量データとする場合、関連する識別子を設定する。特徴量データが第三者のものである場合は承認状況を”否認”にする。特徴量データがテレワーカ本人のものであるが、認証にふさわしいものとみなせない場合は承認状況を”差戻し”にする。   The trail audit terminal 110 receives an update notification from the trail management server 120 and performs an operation for approving temporary feature data. If there is no particular problem, the approval status is set to “approval”, and if the feature amount data to be used for authentication in the future is set, a related identifier is set. If the feature data is from a third party, the approval status is set to “denied”. If the feature data is from the teleworker himself but cannot be regarded as suitable for authentication, the approval status is set to “send back”.

証跡管理サーバ120は、証跡監査端末110から受け取った特徴量データ操作を処理する。   The trail management server 120 processes the feature data operation received from the trail audit terminal 110.

証跡操作端末100は、証跡管理サーバ120の特徴量データの変更を受けて、端末に記憶された特徴量データを更新する。   The trail operation terminal 100 updates the feature amount data stored in the terminal in response to the change of the feature amount data of the trail management server 120.

証跡送信端末100は、送信した一時特徴量データの承認状況が”承認”になっている場合、イベント検出に使用する特徴量データを一時特徴量データに置き換える。また、送信した一時特徴量データの承認状況が”否認”になっている場合、必要であれば情報処理端末にロックをかける。また、イベント検出に使用している一時特徴量データの承認状況が”差戻し”になっている場合、再度個人認証を行い、イベント検出に使用する特徴量データを更新する。   When the approval status of the transmitted temporary feature data is “approved”, the trail transmission terminal 100 replaces the feature data used for event detection with the temporary feature data. If the approval status of the transmitted temporary feature data is “denied”, the information processing terminal is locked if necessary. If the approval status of the temporary feature data used for event detection is “send back”, personal authentication is performed again, and the feature data used for event detection is updated.

以下、図4を参照して、本実施形態のテレワーク管理システムにおける、テレワーカが利用する証跡送信端末100上で動作する常駐アプリケーションでの処理について説明する。   Hereinafter, with reference to FIG. 4, processing in the resident application operating on the trail transmission terminal 100 used by the teleworker in the telework management system of the present embodiment will be described.

図4のフローチャートで示す処理は、証跡送信端末100のCPU201が所定の制御プログラムを読み出して実行する処理である。   The process shown in the flowchart of FIG. 4 is a process in which the CPU 201 of the trail transmission terminal 100 reads and executes a predetermined control program.

ステップS401では、ユーザが証跡送信端末100にログインすることにより、証跡送信端末100が常駐アプリケーションを起動し、バックグラウンドで証跡管理サーバ120にテレワーカのアカウントIDとパスワードによってログインする。証跡管理サーバ120は、アカウント記憶部128に記憶されたテレワーカの情報(図9)と比較し、一致すればログインを許可する。アカウントIDとパスワードは、常駐アプリケーションの初回起動時にユーザが設定し、以降は設定された値を使用するものとする。   In step S401, when the user logs in to the trail transmission terminal 100, the trail transmission terminal 100 starts a resident application and logs in to the trail management server 120 with the account ID and password of the teleworker in the background. The trail management server 120 compares the teleworker information stored in the account storage unit 128 (FIG. 9), and permits a login if they match. The account ID and password are set by the user when the resident application is started for the first time, and the set values are used thereafter.

ステップS402では、証跡送信端末100を使用しているユーザが証跡管理サーバ120に登録されたテレワーカである可能性を算出し、その結果次第でステップS403のイベント検出で使用する特徴量データを決定する。詳細については図5で説明する。   In step S402, the possibility that the user using the trail transmission terminal 100 is a teleworker registered in the trail management server 120 is calculated, and the feature amount data used in the event detection in step S403 is determined depending on the result. . Details will be described with reference to FIG.

ステップS403では、イベント(”着席”、”離席”といった労務イベントや、”なりすまし”、”覗き込み”といったセキュリティインシデント)を検出し、その証跡を証跡管理サーバ120に送信する。詳細については図6で説明する。   In step S 403, an event (a labor event such as “seating” or “seating” or a security incident such as “spoofing” or “peeps”) is detected, and the trail is transmitted to the trail management server 120. Details will be described with reference to FIG.

ステップS404では、ユーザが証跡送信端末100からログアウトすることにより、証跡送信端末100がバックグラウンドで証跡管理サーバ120からログアウトする。   In step S404, when the user logs out from the trail transmission terminal 100, the trail transmission terminal 100 logs out from the trail management server 120 in the background.

以下、図5を参照して、図4の402の個人認証処理の詳細について説明する。図5のフローチャートで示す処理は、証跡送信端末100のCPU201により、ROM203から取得したプログラムをRAM202に記憶することで実行される。   The details of the personal authentication process 402 in FIG. 4 will be described below with reference to FIG. The process shown in the flowchart of FIG. 5 is executed by storing the program acquired from the ROM 203 in the RAM 202 by the CPU 201 of the trail transmission terminal 100.

ステップS501では、ステップS502−S515で発生する処理以外のユーザ操作をロックする。また、顔の認証を行うことをユーザに通知し、通常業務を行う姿勢でCRT211の中央を見てもらえるよう促す。すなわち、業務を行う際の通常の姿勢を取ってもらうように促す。   In step S501, user operations other than the processing generated in steps S502 to S515 are locked. In addition, the user is notified that face authentication is to be performed, and the user is encouraged to see the center of the CRT 211 in a posture to perform normal work. In other words, the user is encouraged to take a normal attitude when performing business.

ステップS502−S507では、RAM202にN件のフレームに対する顔識別結果(図14)が記憶されるまで、カメラデバイスに写るフレームに対して顔識別を繰り返す。このように複数のフレームに対して顔識別処理を行うのは、1つのフレームに対する1度の顔識別結果だけでは、たまたま良いまたは悪い結果が得られてしまう可能性があることから、適切な判断をするために行うものである。ただし、必ずしも複数にする必要はなく、1つのフレームに対して1度の顔識別処理を行うようにしても良い。   In steps S502 to S507, face identification is repeated for the frames shown in the camera device until the face identification results (FIG. 14) for N frames are stored in the RAM 202. In this way, the face identification process is performed on a plurality of frames, because it may happen that a good or bad result may be obtained with only one face identification result for one frame. This is what we do. However, it is not always necessary to use a plurality of faces, and one face identification process may be performed for one frame.

なおN件の具体的な数値については、予め定められているものとし、例えば5件や10件といった値である。   It should be noted that specific numerical values for N cases are determined in advance, for example, 5 or 10 cases.

ステップS503では、カメラデバイス210からフレームの入力を受け付け、その情報(図12)をRAM202に記憶する。   In step S503, an input of a frame is received from the camera device 210, and the information (FIG. 12) is stored in the RAM 202.

ステップS504では、ステップS503で取得したフレームに対して顔検出を行う。得られた顔検出結果(図13)を、RAM202に記憶する。   In step S504, face detection is performed on the frame acquired in step S503. The obtained face detection result (FIG. 13) is stored in the RAM 202.

ステップS505では、ステップS504で検出された顔が1つであるかを判断する。   In step S505, it is determined whether the number of faces detected in step S504 is one.

検出された顔が1つである場合(ステップS505:YES)は、処理をステップS506に移行し、それ以外の場合はステップS502に遷移する。   If the number of detected faces is one (step S505: YES), the process proceeds to step S506. Otherwise, the process proceeds to step S502.

ステップS506では、ステップS504で得られた顔検出結果をもとにフレームから顔画像を取得する。そして、その顔画像について、認証特徴量データ(の特徴量)を学習させた識別器を使って顔識別を行う。   In step S506, a face image is acquired from the frame based on the face detection result obtained in step S504. Then, face identification is performed on the face image by using a discriminator that has learned (feature quantity) of authentication feature quantity data.

得られた顔識別結果(図14)はRAM202に記憶する。同じ識別子に関連付けられる認証特徴量データが複数ある場合は、それらを同じ識別対象として識別器に学習させる。   The obtained face identification result (FIG. 14) is stored in the RAM 202. When there are a plurality of pieces of authentication feature amount data associated with the same identifier, the classifier learns them as the same identification target.

複数の識別子が存在する場合、それらを別の識別対象として学習させる。ここでいう識別対象とは、対象がテレワーカ本人であることは同じなのだが、メガネや化粧の有無、業務を実行する環境の違い(による照明環境やカメラと顔の位置関係など)など、テレワーカの業務環境をカテゴライズしたものとなる。初回はここで使用する認証特徴量データが存在しないと考えられるが、その場合はステップS508において認証レベル“中”と算出されることになる類似度を設定した顔識別結果を生成し、RAM202に記憶する。   When there are a plurality of identifiers, they are learned as different identification targets. The identification target here is the same as the target of the teleworker, but the teleworker's identity, such as the presence or absence of glasses and makeup, and the difference in the environment in which work is performed (such as the lighting environment and the positional relationship between the camera and face) The business environment is categorized. It is considered that there is no authentication feature amount data used here for the first time. In this case, a face identification result in which a similarity level that is calculated as an authentication level “medium” is set in step S508 is generated in the RAM 202. Remember.

そして、撮影回数がN件に達したかを判断し、N件に達している場合は、ステップS508へ処理を進める。N件に達していない場合は、再度ステップS503からS506の処理を繰り返す(ステップS507)。   Then, it is determined whether the number of shootings has reached N, and if it has reached N, the process proceeds to step S508. If N has not been reached, the processing from step S503 to S506 is repeated again (step S507).

ステップS508では、RAM202に記憶された顔識別結果から、その代表となる顔識別結果を選出し、そこから一時特徴量データ(図11)を生成し、RAM202に記憶する。   In step S508, a representative face identification result is selected from the face identification results stored in the RAM 202, and temporary feature data (FIG. 11) is generated therefrom and stored in the RAM 202.

代表となる顔識別結果の選出の一例としては、N件の顔識別結果の類似度の平均値に最も近い類似度をもつ顔識別結果を選出する方法がある。   As an example of selecting a representative face identification result, there is a method of selecting a face identification result having a similarity closest to the average value of the similarities of N face identification results.

生成した一時特徴量データと、認証用特徴量データとの類似度が閾値A(第1の閾値)を超えていたら、テレワーカ本人であると認証されたものとし、生成した一時特徴量データの認証レベルを”高”にする。類似度が閾値A未満で閾値B(第2の閾値)を超えていたら、認証レベルを“中”に、閾値Bを下回っていたら認証レベルを“低”にする。   If the degree of similarity between the generated temporary feature data and the authentication feature data exceeds the threshold A (first threshold), it is assumed that the user is authenticated as the teleworker himself, and the generated temporary feature data is authenticated. Set the level to “High”. If the similarity is less than the threshold A and exceeds the threshold B (second threshold), the authentication level is set to “medium”, and if it is below the threshold B, the authentication level is set to “low”.

ここで、閾値Aは認証特徴量データによる認証において、類似度がその値以上であればほぼ同一人物であることが保証される類似度の値であり、閾値Bは、類似度がその値以上であれば本人である可能性が高いと考えられる類似度の値である。この閾値は、使用する顔認識技術等によって異なる。   Here, the threshold A is a similarity value that is guaranteed to be almost the same person if the similarity is equal to or higher than the value in the authentication based on the authentication feature amount data, and the threshold B is a similarity equal to or higher than the value. If so, it is a value of similarity that is considered to be highly likely to be the person. This threshold value varies depending on the face recognition technology used.

識別器に複数の識別子が登録されていた場合、別々に類似度の平均値を算出し、最もその値が大きい識別子の顔識別結果から選出するものとする。一時特徴量データの生成後、RAM202に記憶されたフレーム、顔検出結果、顔識別結果をすべて消去する。   When a plurality of identifiers are registered in the discriminator, the average value of the similarity is calculated separately and selected from the face identification result of the identifier having the largest value. After generating the temporary feature data, all the frames, face detection results, and face identification results stored in the RAM 202 are deleted.

ステップS509では、ステップS508で算出した一時特徴量データの認証レベルを判定する。   In step S509, the authentication level of the temporary feature amount data calculated in step S508 is determined.

判定の結果、一時特徴量データの認証レベルが“高”であれば処理をステップS510に移行する。   As a result of the determination, if the authentication level of the temporary feature data is “high”, the process proceeds to step S510.

それ以外(認証レベルが中、低)であれば処理をステップS511に遷移する。   Otherwise (if the authentication level is medium or low), the process proceeds to step S511.

ステップS510では、イベントの検出を行う際に使用する特徴量データとして、ステップS506で使用した認証特徴量データをRAM202に記憶する。   In step S510, the authentication feature amount data used in step S506 is stored in the RAM 202 as feature amount data used when detecting an event.

複数の識別子が存在する場合、ステップS508で算出した、類似度の平均値が最も大きい識別子の認証特徴量データをイベントの検出を行う際に使用する特徴量データとして設定する。なお、イベント検出において複数の識別子の登録を許可するのであれば、すべての認証特徴量データをイベント検出に使用するよう設定してもかまわない。   When there are a plurality of identifiers, the authentication feature amount data of the identifier having the highest average similarity calculated in step S508 is set as the feature amount data used when detecting an event. If registration of a plurality of identifiers is permitted in event detection, all authentication feature amount data may be set to be used for event detection.

複数の識別子が存在する場合とは、認証用特徴量データが複数登録されている場合をいう。たとえばメガネをかけている顔の認証用特徴量データと、メガネをかけていない顔の認証特徴量データの2通りが登録されている場合である。   The case where there are a plurality of identifiers means a case where a plurality of pieces of authentication feature data are registered. For example, this is a case where two types of authentication feature value data of a face wearing glasses and authentication feature value data of a face not wearing glasses are registered.

そして、処理をステップS516に移行する。ステップS516の処理は後述する。   Then, the process proceeds to step S516. The process of step S516 will be described later.

ステップS509において認証レベル中または低と判断された場合の処理について説明する。   Processing in the case where it is determined in step S509 that the authentication level is medium or low will be described.

ステップS511では、認証結果と一時特徴量データの顔画像をユーザに確認させるべく、表示する。認証レベルが“中”の場合、一時特徴量データを使ってイベントの検出を行うこと、また、その特徴量データを管理サーバに記録することを確認させる。認証レベルが“低”の場合、認証がうまくいかなかったこと、一時特徴量データを使ってイベントの検出を行えるよう管理者に承認してもらえるよう通知することを確認させる。   In step S511, the authentication result and the face image of the temporary feature amount data are displayed for the user to confirm. When the authentication level is “medium”, it is confirmed that the event detection is performed using the temporary feature data and that the feature data is recorded in the management server. When the authentication level is “low”, it is confirmed that the authentication has failed, and that the administrator is allowed to approve the event detection using the temporary feature data.

具体的には、図16に示す画面を表示することで、ユーザに確認させる。そして、ユーザからの確認結果を受け付ける。   Specifically, the user is confirmed by displaying the screen shown in FIG. And the confirmation result from a user is received.

ステップS512では、ステップS511においてユーザから受け付けた確認結果が“OK”の場合、ステップS513に遷移する。   In step S512, when the confirmation result received from the user in step S511 is “OK”, the process proceeds to step S513.

確認結果がOKの場合とは、認証レベルが中の場合は、一時特徴量データを使ってイベントの検出を行うこと、また、その特徴量データを管理サーバに記録することに対して承認する旨の結果を受け付けた場合である。認証レベルが低の場合は、認証がうまくいかなかったこと、一時特徴量データを使ってイベントの検出を行えるよう管理者に承認してもらえるよう通知することについて承認する旨の結果を受け付けた場合である。   When the confirmation result is OK, if the authentication level is medium, the event detection is performed using the temporary feature data, and the fact that the feature data is recorded in the management server is approved. This is a case where the result of is accepted. If the authentication level is low, if the result of approval is received that the authentication has failed, the administrator can approve the event so that the event can be detected using the temporary feature data It is.

確認結果として再認証をする旨を受け付けた場合は、処理をS502に遷移して再度顔認証を行う。   If re-authentication is accepted as the confirmation result, the process proceeds to S502 and face authentication is performed again.

確認結果としてキャンセルする旨を受け付けた場合、処理をステップS510に遷移する。   When canceling is accepted as a confirmation result, the process proceeds to step S510.

ステップS513では、ステップS508で算出した一時特徴量データを証跡管理サーバ120に登録する。この処理の詳細は図6のフローチャートを用いて説明する。   In step S513, the temporary feature amount data calculated in step S508 is registered in the trail management server 120. Details of this processing will be described with reference to the flowchart of FIG.

ステップS514では、一時特徴量データの認証レベルが“中”の場合ステップS515に遷移し、“低”の場合ステップS510に遷移する。   In step S514, if the authentication level of the temporary feature data is “medium”, the process proceeds to step S515, and if it is “low”, the process proceeds to step S510.

ステップS515では、イベントの検出を行う際に使用する特徴量データとして、ステップS508で算出した一時特徴量データをRAM202に記憶する。なお、イベント検出において複数の識別子の登録を許可するのであれば、一時特徴量データに加えてすべての認証特徴量データを使用するように設定してもかまわない。   In step S515, the temporary feature amount data calculated in step S508 is stored in the RAM 202 as feature amount data used when detecting an event. If registration of a plurality of identifiers is permitted in event detection, it may be set to use all authentication feature data in addition to temporary feature data.

このように、一時特徴量データをイベント検出に用いることで、過去に取得した認証特徴量データをイベント検出に使うよりも認証精度がよくなり、“着席”および“なりすまし”などのイベントを精度よく検出できるようになる。   In this way, using temporary feature data for event detection improves authentication accuracy compared to using authentication feature data acquired in the past for event detection, and events such as “sitting” and “spoofing” are more accurate. Can be detected.

ステップS516では、ステップS501で行ったユーザ操作のロックを解除する。そして本フローチャートの処理を終了する。   In step S516, the user operation performed in step S501 is unlocked. And the process of this flowchart is complete | finished.

個人認証処理においてユーザが操作する画面の一例を図16に示す。   An example of the screen operated by the user in the personal authentication process is shown in FIG.

図16(A)は、ステップS501において証跡送信端末100の表示部に表示される画面の一例である。   FIG. 16A is an example of a screen displayed on the display unit of the trail transmission terminal 100 in step S501.

図16(B)は、ステップS509において認証レベルが高であると判断された場合に、証跡送信端末100の表示部に表示される画面の一例である。   FIG. 16B is an example of a screen displayed on the display unit of the trail transmission terminal 100 when it is determined in step S509 that the authentication level is high.

図16(C)は、ステップS509において認証レベルが低であると判断された場合に、証跡送信端末100の表示部に表示される画面の一例である。図16(C)にあるように、OKボタン、キャンセルボタン、再認証ボタンが含まれ、ユーザにより押下されたボタンに応じて、ステップS512の処理(判定)が行われる。   FIG. 16C is an example of a screen displayed on the display unit of the trail transmission terminal 100 when it is determined in step S509 that the authentication level is low. As shown in FIG. 16C, an OK button, a cancel button, and a re-authentication button are included, and the process (determination) in step S512 is performed according to the button pressed by the user.

図16(D)は、ステップS509において認証レベルが中であると判断された場合に、証跡送信端末100の表示部に表示される画面の一例である。図16(D)も図16(C)と同様にOKボタン、キャンセルボタン、再認証ボタンが含まれ、ユーザにより押下されたボタンに応じて、ステップS512の処理(判定)が行われる。   FIG. 16D is an example of a screen displayed on the display unit of the trail transmission terminal 100 when it is determined in step S509 that the authentication level is medium. FIG. 16D includes an OK button, a cancel button, and a re-authentication button as in FIG. 16C, and the process (determination) in step S512 is performed according to the button pressed by the user.

次に図6を参照して、図5のステップS512の一時特徴量データの登録およびその承認処理の詳細について説明する。   Next, with reference to FIG. 6, the details of the registration of the temporary feature data and the approval process in step S512 of FIG. 5 will be described.

図6のフローチャートで示す処理のうち証跡送信端末100の処理は、証跡送信端末100のCPU201により、ROM203から取得したプログラムをRAM202に記憶することで実行される。また証跡監査端末110の処理は、証跡監査端末110のCPU201により、ROM203から取得したプログラムをRAM202に記憶することで実行される。また証跡管理サーバ120の処理は、証跡管理サーバ120のCPU201により、ROM203から取得したプログラムをRAM202に記憶することで実行される。   Among the processes shown in the flowchart of FIG. 6, the process of the trail transmission terminal 100 is executed by the CPU 201 of the trail transmission terminal 100 storing the program acquired from the ROM 203 in the RAM 202. The process of the trail audit terminal 110 is executed by the CPU 201 of the trail audit terminal 110 storing the program acquired from the ROM 203 in the RAM 202. The processing of the trail management server 120 is executed by the CPU 201 of the trail management server 120 storing the program acquired from the ROM 203 in the RAM 202.

ステップS601では、証跡送信端末100が、ステップS508で算出した一時特徴量データを証跡管理サーバ120に送信する。同時に、特徴量データ記憶部104にその一時特徴量データを記憶する。   In step S601, the trail transmission terminal 100 transmits the temporary feature amount data calculated in step S508 to the trail management server 120. At the same time, the temporary feature data is stored in the feature data storage unit 104.

ステップS602では、証跡管理サーバ120が、証跡送信端末100が送信した一時特徴量データを受信し、特徴量データ記憶部122に記憶する。そして、証跡送信端末100と証跡管理サーバ120は非同期に動作し、証跡送信端末100は、個人認証処理(図5)のステップS514の処理に遷移し、証跡管理サーバ120はステップS603の処理に遷移する。証跡送信端末100の処理(S514以降)については、上述の通りである。   In step S <b> 602, the trail management server 120 receives the temporary feature amount data transmitted by the trail transmission terminal 100 and stores it in the feature amount data storage unit 122. The trail transmission terminal 100 and the trail management server 120 operate asynchronously, the trail transmission terminal 100 transitions to the process of step S514 of the personal authentication process (FIG. 5), and the trail management server 120 transitions to the process of step S603. To do. The processing (after S514) of the trail transmission terminal 100 is as described above.

ステップS603では、証跡管理サーバ120が、一時特徴量データ100のテレワーカIDに対応するテレワーカの管理者の情報(図8)をアカウント記憶部128から取得する。そして、その管理者の証跡監査端末110に、新しく登録された一時特徴量データの承認依頼通知を送信する。代表的な送信手段としては、電子メールがあげられるが、いずれの方法であってもよい。送信後、証跡管理サーバ120は新たな命令があるまで待機する。   In step S <b> 603, the trail management server 120 acquires the information (FIG. 8) of the teleworker administrator corresponding to the teleworker ID of the temporary feature data 100 from the account storage unit 128. Then, an approval request notification of the newly registered temporary feature data is transmitted to the administrator's trail audit terminal 110. A typical transmission means is e-mail, but any method may be used. After transmission, the trail management server 120 waits until a new command is issued.

ステップS604では、証跡監査端末110が、証跡管理サーバ120から送信された承認依頼通知を受信する。   In step S <b> 604, the trail audit terminal 110 receives the approval request notification transmitted from the trail management server 120.

ステップS605では、証跡監査端末110は、表示部に図17に示す画面を表示し、証跡管理サーバ120上の一時特徴量データ(図11)の顔画像を管理者に確認させ、管理者による承認操作を受け付ける。   In step S605, the trail audit terminal 110 displays the screen shown in FIG. 17 on the display unit, allows the administrator to check the facial image of the temporary feature data (FIG. 11) on the trail management server 120, and approval by the administrator. Accept the operation.

管理者が、表示部に表示された顔画像の持ち主がテレワーカ本人であると判断し、一時特徴量データによるイベント検出を認める場合(すなわち、管理者から承認する旨の指示を受け付けた場合)、承認状況を“承認”に変更する。   When the administrator determines that the owner of the face image displayed on the display unit is the teleworker himself and accepts event detection based on temporary feature data (that is, when an instruction to approve is received from the administrator) Change the approval status to “Approved”.

管理者が、顔画像の持ち主がテレワーカ本人であるが、イベント検出に使用することは認められないと判断した場合(すなわち、承認をキャンセルする旨の指示を受け付けた場合)、承認状況を“差戻し”に変更する。   If the administrator determines that the owner of the face image is the teleworker himself, but is not allowed to use it for event detection (ie, accepts an instruction to cancel the approval), the approval status is set to “send back” Change to "".

管理者が、顔画像の持ち主がテレワーカ以外の第三者であると判断した場合(すなわち、管理者から否認する旨の指示を受け付けた場合)、承認状況を“否認”に変更する。   When the administrator determines that the owner of the face image is a third party other than the teleworker (that is, when an instruction to deny is received from the administrator), the approval status is changed to “deny”.

管理者が、顔画像の持ち主がテレワーカ本人であると判断し、今後個人認証で使用する認証特徴量データとして当該顔画像を登録する場合、承認状況を“承認”に変更し、識別子(図10)の指定を受け付ける。識別子を指定する際、既存の識別子だけでなく、新しい識別子を指定することもできる。既存の識別子を指定する際、その識別子が設定された他の特徴量データの識別子をクリアして、編集中の特徴量データのみをその識別子の認証特徴量データとすることもできる。特徴量データの更新においてユーザが操作する画面の一例を図17に示す。   When the administrator determines that the owner of the face image is the teleworker himself and registers the face image as authentication feature value data to be used for personal authentication in the future, the approval status is changed to “approved” and the identifier (FIG. 10 ) Is accepted. When specifying an identifier, not only an existing identifier but also a new identifier can be specified. When designating an existing identifier, it is possible to clear the identifier of other feature value data in which the identifier is set, and use only the feature value data being edited as the authentication feature value data of the identifier. FIG. 17 shows an example of a screen operated by the user in updating the feature amount data.

ここで図17に示す画面について説明する。   Here, the screen shown in FIG. 17 will be described.

図17(A)は、ステップS604において証跡監査端末110の表示部に表示される画面である。管理者により承認状況が「登録」となっているデータが選択されると、図17(B)に示す画面が表示される。   FIG. 17A is a screen displayed on the display unit of the trail audit terminal 110 in step S604. When the administrator selects data whose approval status is “registered”, the screen shown in FIG. 17B is displayed.

図17(B)の画面では、管理者から(A)の画面で選択された特徴量データを承認するか(イベント検出に用いる特徴量データとして承認するか)の指示を受け付ける。   In the screen of FIG. 17B, an instruction is received from the administrator regarding whether to approve the feature amount data selected on the screen of (A) (whether to approve the feature amount data used for event detection).

承認する旨の指示を受け付けると、図17(C)に示す画面を表示する。図17(C)に示す画面においては、認証用の特徴量データとして使うことを承認するかの指示を受け付ける。   When an instruction to approve is received, a screen shown in FIG. 17C is displayed. In the screen shown in FIG. 17C, an instruction as to whether to approve use as feature data for authentication is accepted.

認証用の特徴量データとして使うことを承認する旨の指示がなされると、図17(D)に示す画面を表示し、識別子の選択を受け付ける。   When an instruction to approve use as feature data for authentication is given, the screen shown in FIG. 17D is displayed, and selection of an identifier is accepted.

識別子の選択を受け付け、OKボタンが押下されると、図17(E)に示す画面を表示する。   When the selection of the identifier is accepted and the OK button is pressed, the screen shown in FIG. 17E is displayed.

図17(E)に示す画面は、識別子に対応付ける特徴量データの設定をする画面である。   The screen shown in FIG. 17E is a screen for setting feature quantity data associated with an identifier.

以上が図17に示す画面の説明である。 The above is the description of the screen shown in FIG.

ステップS606では、証跡管理サーバ120が、ステップS605において受け付けた管理者による承認操作に従い、特徴量データを更新する。   In step S606, the trail management server 120 updates the feature data in accordance with the approval operation by the administrator received in step S605.

ステップS607では、証跡送信端末100が、証跡管理サーバ120によるステップS606での一時特徴量データの更新に応じて、特徴量データ記憶部104に記憶された、対応する一時特徴量データを更新する。すなわち、証跡管理サーバ120に記憶されたデータと証跡送信端末100に記憶されたデータとを同期する処理である。   In step S607, the trail transmission terminal 100 updates the corresponding temporary feature amount data stored in the feature amount data storage unit 104 in accordance with the update of the temporary feature amount data in step S606 by the trail management server 120. That is, it is a process of synchronizing the data stored in the trail management server 120 and the data stored in the trail transmission terminal 100.

なお、ステップS606で更新された一時特徴量データが特徴量データ記憶部104になかった場合、その情報を証跡管理サーバ120から取得する。また、ステップS606で更新されたものが認証特徴量データであった場合も、その特徴量データの更新を行う。   If the temporary feature amount data updated in step S606 is not in the feature amount data storage unit 104, the information is acquired from the trail management server 120. Also, if the data updated in step S606 is the authentication feature data, the feature data is updated.

ステップS608では、一時特徴量データの承認状況を判断する。   In step S608, the approval status of the temporary feature data is determined.

承認状況が「差し戻し」である場合は、処理をステップS609に移行する。   If the approval status is “return”, the process proceeds to step S609.

承認状況が「否認」である場合は、処理をステップS610に移行する。   If the approval status is “denied”, the process proceeds to step S610.

承認状況が「承認」である場合は、処理をステップS611に移行する。   If the approval status is “approved”, the process proceeds to step S611.

ステップS609では、証跡送信端末100が、一時特徴量データが差戻されたことを受け、再度ステップS402と同様の個人認証処理を行いイベント検出に使用する特徴量データの決定を行う。   In step S609, in response to the temporary feature amount data being sent back, the trail transmission terminal 100 performs the same personal authentication processing as in step S402 again to determine the feature amount data used for event detection.

ステップS610では、証跡送信端末100が、一時特徴量データが否認されたことを受け、情報端末の画面ロック等の処理を行う。すなわち、管理者により一時特徴量データにおける顔画像がテレワーカ本人の顔画像ではないと判断されたことになるため、画面ロックなどを行うことで、テレワーカ本人以外による証跡送信端末の操作などを防ぎセキュリティ対策を行う。   In step S610, the trail transmission terminal 100 performs processing such as screen locking of the information terminal in response to the rejection of the temporary feature data. In other words, since the administrator determines that the face image in the temporary feature data is not the face image of the teleworker himself, the screen lock or the like prevents the operation of the trail transmission terminal by anyone other than the teleworker himself. Take measures.

なお、ここで実行される画面ロック等の処理は、画面ロックでなくとも、エラー音を鳴らすなどの警告を通知したり、カメラ映像を動画として保存したりするなどのセキュリティ対策を行うことを想定している。画面ロックの解除の詳細な内容説明については本発明の趣旨から外れるため省略する。   Note that the screen lock processing executed here is not a screen lock, but it is assumed that security measures such as notification of warnings such as sounding an error sound or saving the camera video as a video are taken. doing. A detailed description of the unlocking of the screen will be omitted because it is out of the spirit of the present invention.

ステップS611では、変更された一時特徴量データの認証レベルが“低”の場合(ステップS611:TRUE)はステップS612に遷移してイベント検出に使用する特徴量データを、当該一時特徴量データで更新を行う。すなわち、ステップS510の処理で設定された内容を更新する。   In step S611, if the authentication level of the changed temporary feature data is “low” (step S611: TRUE), the process proceeds to step S612, and the feature data used for event detection is updated with the temporary feature data. I do. That is, the contents set in the process of step S510 are updated.

認証レベルが“中”の場合(ステップS611:FALSE)は、既に承認された一時特徴量データでイベントの検出を行っている(ステップS515)ので処理を終了する。   If the authentication level is “medium” (step S611: FALSE), the event is detected using the already-approved temporary feature data (step S515), and the process ends.

ステップS612では、証跡送信端末100が、イベント検出に使用する特徴量データを、ステップS510で設定した認証特徴量データから当日に取得した一時特徴量データに更新する。なお、イベント検出において複数の識別子の登録を許可するのであれば、使用中の認証特徴量データに加えて一時特徴量データを使用するように設定してもかまわない。   In step S612, the trail transmission terminal 100 updates the feature data used for event detection to the temporary feature data acquired on the current day from the authentication feature data set in step S510. If registration of a plurality of identifiers is permitted in event detection, the temporary feature data may be set to be used in addition to the authentication feature data being used.

これにより、認証特徴量データを使用していた状態に比べてなりすましが起こりにくい状態になる。   As a result, it becomes difficult for spoofing to occur compared to the case where the authentication feature amount data is used.

以下、図7を参照して、図4のステップS403のイベント検出の詳細について説明する。この処理は、証跡送信端末100のCPU201により、ROM203から取得したプログラムをRAM202に記憶することで実行される。ステップS701−ステップS709のイベント検出処理と、ステップS710−ステップS713の証跡送信処理は非同期で動作する。この処理は、すべてバックエンドで実行され、ユーザ操作を介さない。   The details of event detection in step S403 in FIG. 4 will be described below with reference to FIG. This process is executed by the CPU 201 of the trail transmission terminal 100 storing the program acquired from the ROM 203 in the RAM 202. The event detection process in steps S701 to S709 and the trail transmission process in steps S710 to S713 operate asynchronously. This processing is all executed in the back end and does not involve user operation.

まず、ステップS701−ステップS709のイベント検出処理について説明する。   First, the event detection process in steps S701 to S709 will be described.

ステップS701では、アプリケーションの終了命令があるか確認し、なければ(ステップS701:NO)ステップS702に遷移する。アプリケーションの終了命令がある場合(ステップS701:YES)は、本フローチャートの処理を終了し、処理をステップS404に移行する。   In step S701, it is confirmed whether there is an application end command (step S701: NO), the process proceeds to step S702. If there is an application termination command (step S701: YES), the process of this flowchart is terminated, and the process proceeds to step S404.

ステップS702では、カメラデバイス210からフレーム(画像)の入力を受け付け、その情報(図12)をRAM202に記憶する。   In step S <b> 702, an input of a frame (image) is received from the camera device 210 and the information (FIG. 12) is stored in the RAM 202.

ステップS707でイベントを検出する際には所定の件数(M件)のフレームの顔検出および顔識別結果を利用するため、RAM202にフレームがM件記憶されていたら、最も古いフレームと、それに関連づいた顔検出結果および顔識別結果をRAM202から消去する。   When an event is detected in step S707, face detection and face identification results of a predetermined number (M) of frames are used. If M frames are stored in the RAM 202, the oldest frame and the associated frame are associated with it. The face detection result and the face identification result are deleted from the RAM 202.

ステップS703では、ステップS702で取得したフレームに対して顔検出を行う。得られた顔検出結果(図13)は、RAM202に記憶する。   In step S703, face detection is performed on the frame acquired in step S702. The obtained face detection result (FIG. 13) is stored in the RAM 202.

ステップS704−ステップS706では、ステップS703で検出された顔に対して顔識別を行う。完了したらステップS707に遷移する。   In step S704 to step S706, face identification is performed on the face detected in step S703. When completed, the process proceeds to step S707.

ステップS705では、ステップS703で得られた顔検出結果をもとにフレームから一つの顔画像を取得し、その顔画像に対して個人認証処理(図4)で算出したイベント検出に使う特徴量データ(の特徴量)を学習させた識別器を使って顔識別を行う。得られた顔識別結果(図14)はRAM202に記憶する。同じ識別子に関連付けられる特徴量データが複数ある場合は、それらを同じ識別対象として識別器に学習させる。複数の識別子が存在する場合、それらを別の識別対象として学習させる。ここでいう識別対象とは、対象がテレワーカ本人であることは同じなのだが、メガネや化粧の有無、業務を実行する環境の違い(による照明環境やカメラと顔の位置関係など)など、テレワーカの業務環境をカテゴライズしたものとなる。   In step S705, one face image is acquired from the frame based on the face detection result obtained in step S703, and feature amount data used for event detection calculated by personal authentication processing (FIG. 4) for the face image. Face recognition is performed using a discriminator that has learned (a feature amount). The obtained face identification result (FIG. 14) is stored in the RAM 202. When there are a plurality of feature quantity data associated with the same identifier, the classifier learns them as the same identification target. When there are a plurality of identifiers, they are learned as different identification targets. The identification target here is the same as the target of the teleworker, but the teleworker's identity, such as the presence or absence of glasses and makeup, and the difference in the environment in which work is performed (such as the lighting environment and the positional relationship between the camera and face) The business environment is categorized.

ステップS707では、RAM202に記憶された複数のフレームの顔検出結果および顔識別結果から、現在のイベント(着席、離席、なりすまし、覗き込み)を算出し、証跡をRAM202に記憶する。   In step S <b> 707, the current event (seating, leaving, spoofing, looking into) is calculated from the face detection results and face identification results of a plurality of frames stored in the RAM 202, and the trail is stored in the RAM 202.

単純な例としては、複数のフレームについて、各フレームの顔検出結果の数を調べ、検出された顔の数が0件のフレームが最も多い場合は“離席”(顔が映っていない時間が長いといえるため、離席していると判断)、顔の数が2件のフレームが最も多い場合“覗き込み”(顔を2つ以上検知しているため、覗き込みされていると判断)とする。   As a simple example, for a plurality of frames, the number of face detection results for each frame is checked. If the number of detected faces is the largest, “seating away” (time when no face is reflected) Because it is long, it is determined that the person is away), and when there are two frames with the most frames, “Peep” is detected (Since two or more faces are detected, it is determined that the person is looking in) And

また、顔検出数が1件のフレームが最も多い場合、顔識別結果の類似度が一定値以上のフレーム数と一定値未満のフレーム数を調べ、前者が多い場合“着席”(テレワーカ本人だけが映っている)、後者が多い場合“なりすまし”(テレワーカ以外の人物だけが映っている)とする。   If the number of face detections is the highest for one frame, the number of frames whose face identification result similarity is greater than or equal to a certain value and the number of frames that are less than a certain value are examined. If there are many latter, “spoofing” (only people other than teleworkers are shown).

この算出方法は顔検出および顔識別の結果の精度および傾向によりどのように設定してもよい。また、イベントの発生傾向を学習させた識別器によって判定させてもよい。   This calculation method may be set in any manner depending on the accuracy and tendency of the results of face detection and face identification. Moreover, you may make it determine with the discriminator which learned the generation tendency of the event.

ステップS708では、ステップS707で算出した証跡のイベントと、直前に検出された証跡のイベントが同じ値(すなわち、状況に変化がない場合)であればステップS701に遷移し、異なる場合(すなわち、状況に変化があった、何らかのイベントが発生した場合)は、ステップS709に遷移する。   In step S708, if the event of the trail calculated in step S707 and the event of the trail detected immediately before are the same value (that is, when there is no change in the situation), the process proceeds to step S701. If any event occurs in which there has been a change in the process), the process proceeds to step S709.

ステップS709では、証跡を証跡記憶部108に記憶し、ステップS701に遷移する。   In step S709, the trail is stored in the trail storage unit 108, and the process proceeds to step S701.

続いて、ステップS710−ステップS713の証跡送信処理について説明する。   Next, the trail transmission process in steps S710 to S713 will be described.

ステップS710では、アプリケーションの終了命令があるか確認し、なければ(ステップS710:NO)ステップS711に遷移する。アプリケーションの終了命令がある場合(ステップS710:YES)は、本フローチャートの処理を終了し、処理をステップS404に移行する。   In step S710, it is confirmed whether or not there is an application end command (step S710: NO), the process proceeds to step S711. If there is an application termination command (step S710: YES), the process of this flowchart is terminated, and the process proceeds to step S404.

ステップS711では、証跡記憶部108に記憶された最新の証跡を確認し、証跡の送信条件が満たされているか判定する。   In step S711, the latest trail stored in the trail storage unit 108 is confirmed, and it is determined whether the trail transmission condition is satisfied.

送信条件の一例としては、最新の証跡が最後に送信した証跡のイベントと異なり、証跡の検出日時から一定時間経過していたらその証跡の送信が必要であるとし、RAM202に記憶する。一定時間経過していなければ、送信不要と判定する。   As an example of the transmission condition, unlike the event of the last trail sent by the latest trail, the trail is required to be sent if a predetermined time has elapsed since the trail detection date and time, and is stored in the RAM 202. If the predetermined time has not elapsed, it is determined that transmission is unnecessary.

この経過時間は、顔認識の精度によって、イベント毎に設定する。たとえば、なりすましを誤検出しやすく、覗き込みを高精度に検出できるのであれば、なりすましを30秒間検出した場合になりすましイベントの証跡を送信し、覗き込みを5秒間検出した場合に覗き込みイベントの証跡を送信する、といったように、イベントによってその証跡を送信するまでの時間を異ならせて設定する。   This elapsed time is set for each event depending on the accuracy of face recognition. For example, if it is easy to falsely detect spoofing and the peep can be detected with high accuracy, a spoof event trail is sent when spoofing is detected for 30 seconds, and a peeping event is detected when peeping is detected for 5 seconds. The time until the trail is sent is set differently depending on the event, such as sending a trail.

なお、最後に送信した証跡はRAM202に記憶されており、初期値は“離席”となっている。これにより、本人が着席しているが“なりすまし”や“離席”が頻繁に誤検出されてしまう場合にも、そのあとすぐに“着席”を検出できればそれまでに起きたイベントはノイズとして管理サーバに送信、記憶されることがなくなる。   Note that the last transmitted trail is stored in the RAM 202, and the initial value is “seated”. As a result, even if the person is seated but “spoofing” or “seating” is frequently erroneously detected, if “seating” can be detected immediately thereafter, the events that have occurred so far are managed as noise. It will not be sent or stored in the server.

ステップS712では、最後に証跡を送信したあとに検出された証跡の履歴から、送るべき証跡があるかどうか判定する。   In step S712, it is determined whether there is a trail to be sent from the history of trails detected after the last trail transmission.

たとえば、“なりすまし”と“離席”が短期間(たとえば1秒ごと)に交互に複数回以上発生している場合、“なりすまし”が発生していると推定できる(1秒間の間に離席と着席とを繰り返すのは不自然であるため、離席の検知は誤検知であると考えられ、なりすましが続いていると判断できる)ので、その初回の“なりすまし”のイベントを送信が必要と判断し、RAM202に記憶する。   For example, if “spoofing” and “seating” occur alternately several times in a short period (for example, every second), it can be estimated that “spoofing” has occurred (seating during 1 second) Since it is unnatural to repeat and sit down, it is considered that the detection of leaving is considered a false detection and it can be determined that impersonation continues), so it is necessary to send the first “spoofing” event Judgment is made and stored in the RAM 202.

また、離席イベントと離席イベントの間に“なりすまし”が発生した場合、第三者がテレワーカの離席中にちょっと覗き込んですぐ去っていったものと推定できるので、証跡を送信が必要であるとし、RAM202に記憶する。   Also, if a “spoofing” occurs between a leaving event and a leaving event, it can be estimated that a third party looked a while away from the teleworker, so it was necessary to send a trail. And stored in the RAM 202.

ステップS712のように証跡の履歴から送信の要否を判断することで、ステップS711で見逃された送信が必要な証跡を掘り起すことができる。   By determining whether or not transmission is necessary from the history of the trail as in step S712, it is possible to dig up a trail that is missed in step S711 and that needs to be transmitted.

ステップS713では、ステップS711およびステップS712で送信が必要と判断した証跡を管理サーバ120に送信する。この際、検出日時の新しい証跡を最後に送信した証跡としてRAM202に記憶する。 In step S713, the trail determined to be necessary in steps S711 and S712 is transmitted to the management server 120. At this time, the new trail of the detection date is stored in the RAM 202 as the last sent trail.

以上のように、図7のフローチャートで示す処理は、アプリケーションが終了するまで継続して実行される処理である。   As described above, the process shown in the flowchart of FIG. 7 is a process that is continuously executed until the application ends.

図8−15は、本実施形態のテレワーク管理システムにおけるデータテーブルの一例を示すデータ構成図である。   FIGS. 8-15 is a data block diagram which shows an example of the data table in the telework management system of this embodiment.

図8は、管理者情報が登録されたデータテーブルの一例を示す図であり、管理者の情報(ID、名前、メールアドレス等)が格納されている。   FIG. 8 is a diagram showing an example of a data table in which administrator information is registered, and stores administrator information (ID, name, mail address, etc.).

図9は、テレワーカ情報が登録されたデータテーブルの一例を示す図であり、テレワーカID、テレワーカの名前、テレワーカのメールアドレス、当該テレワーカに対応する管理者のIDなどの情報が格納されている。ここに登録された管理者に対して、一時特徴量データの承認依頼などが通知される(S513)。   FIG. 9 is a diagram illustrating an example of a data table in which teleworker information is registered, and stores information such as a teleworker ID, a name of the teleworker, a mail address of the teleworker, and an ID of an administrator corresponding to the teleworker. The administrator registered here is notified of a request for approval of temporary feature data (S513).

図10は、識別子情報が登録されたデータテーブルの一例を示す図であり、テレワーカIDと識別IDと名前などの情報が格納されている。図10の例では、テレワーカIDが「1」のテレワーカには、2種類の認証用特徴量データが登録されていることを示している。   FIG. 10 is a diagram illustrating an example of a data table in which identifier information is registered, in which information such as a teleworker ID, an identification ID, and a name is stored. In the example of FIG. 10, two types of authentication feature data are registered in the teleworker with the teleworker ID “1”.

図11は、特徴量データが登録されたデータテーブルの一例を示す図である。図11の例では、テレワーカID「1」のテレワーカの特徴量データが4つ登録されている。特徴量データID「1」とID「2」とID「3」の特徴量データについては、管理者による承認がなされている。また、ID「1」とID「2」の特徴量データについては、識別IDが登録されているため、認証用特徴量データとして個人認証に用いられているものである。   FIG. 11 is a diagram illustrating an example of a data table in which feature amount data is registered. In the example of FIG. 11, four pieces of feature data of the teleworker ID “1” are registered. The feature amount data with the feature amount data ID “1”, ID “2”, and ID “3” has been approved by the administrator. Further, the feature amount data of ID “1” and ID “2” are used for personal authentication as authentication feature amount data because the identification ID is registered.

図12は、フレーム情報が登録されたデータテーブルの一例を示す図である。本テーブルは、ステップS503やS702の処理において登録されるデータである。フレームID、画像、大きさ、取得日時などのデータから構成される。   FIG. 12 is a diagram illustrating an example of a data table in which frame information is registered. This table is data registered in the processes of steps S503 and S702. It consists of data such as frame ID, image, size, acquisition date and time.

図13は、顔検出結果が登録されたデータテーブルの一例を示す図である。図12に登録された各フレームから検出された顔の情報が登録される。   FIG. 13 is a diagram illustrating an example of a data table in which face detection results are registered. Information on the face detected from each frame registered in FIG. 12 is registered.

図14は、顔識別結果が登録されたデータテーブルの一例を示す図である。   FIG. 14 is a diagram illustrating an example of a data table in which face identification results are registered.

図15は、証跡情報が登録されたデータテーブルの一例を示す図である。ステップS709において登録されるデータである。検出日時、証跡画像、イベント内容などにより構成されている。   FIG. 15 is a diagram illustrating an example of a data table in which trail information is registered. Data registered in step S709. It consists of detection date and time, trail image, event content, and the like.

図18は、認証レベルを求めるための第1の閾値、第2の閾値が登録されたデータテーブルの一例を示す図である。   FIG. 18 is a diagram illustrating an example of a data table in which a first threshold value and a second threshold value for obtaining an authentication level are registered.

図16、図17は、本実施形態のテレワーク管理システムにおけるユーザが操作する画面の一例を示す画面イメージである。 16 and 17 are screen images showing examples of screens operated by the user in the telework management system of the present embodiment.

以上のように、本発明においては、テレワークを開始する際に撮影された顔画像とあらかじめ管理者により承認された認証用の顔画像との類似度が高い場合(類似度が第1の閾値よりも高い場合)、すなわち本実施形態における認証レベルが高の場合は、当該認証用の顔画像を用いてイベントを検出する。これにより、管理者はテレワーカがテレワークを開始する度に、本人であるかの判断をする必要がなくなり、管理者の負担を低減させることが可能となる。また、テレワーカにとっても、管理者に対して承認依頼を出す必要がなく、負担が低減される。   As described above, in the present invention, when the similarity between the face image taken at the time of starting telework and the authentication face image approved in advance by the administrator is high (the similarity is lower than the first threshold value). If the authentication level in the present embodiment is high, an event is detected using the authentication face image. As a result, it is not necessary for the administrator to determine whether or not the teleworker starts teleworking every time the teleworker starts teleworking, and the burden on the administrator can be reduced. Moreover, it is not necessary for the teleworker to issue an approval request to the administrator, and the burden is reduced.

テレワークを開始する際に撮影された顔画像とあらかじめ管理者により承認された認証用の顔画像との類似度が中程度(類似度が第1の閾値よりも低く、第2の閾値よりも高い場合)、すなわち本実施形態における認証レベルが中の場合は、当該テレワーク開始時に撮影された顔画像を用いてイベント検出を行う。また、テレワーク開始時に撮影された顔画像を管理者に確認させ、当該顔画像を引き続きイベント検出に用いるかの指示を受け付ける。また、今後の認証用の顔画像として、当該テレワーク開始時に撮影した顔画像を用いるかの選択を受け付け、今後の認証用に当該顔画像を用いる旨の指示があった場合は、当該顔画像を認証用の顔画像として登録する。   The degree of similarity between the face image taken at the start of telework and the face image for authentication approved in advance by the administrator is medium (the degree of similarity is lower than the first threshold and higher than the second threshold). Case), that is, when the authentication level in the present embodiment is medium, event detection is performed using the face image taken at the start of the telework. Also, the administrator confirms the face image taken at the start of telework, and receives an instruction as to whether or not the face image is to be used for event detection. In addition, as a face image for future authentication, selection of whether to use the face image taken at the start of the telework is accepted, and when there is an instruction to use the face image for future authentication, the face image is Register as a face image for authentication.

このように、類似度が中程度の場合にはテレワーカ本人である可能性は一定程度あるため、テレワーク開始時に撮影された顔画像によりイベント検出を行うことで、なりすましの誤検出を低減させることが可能となる。また、当該テレワーク開始時に撮影された顔画像を管理者に確認させ、引き続きイベント検出に用いても良いかの選択を受け付けることで、仮にテレワーカ本人でなかった場合におけるセキュリティインシデントの影響を小さく抑えることが可能となる。   In this way, when the degree of similarity is medium, there is a certain possibility that the person is the teleworker himself, so by detecting the event from the face image taken at the start of teleworking, false detection of impersonation can be reduced. It becomes possible. In addition, by letting the administrator check the face image taken at the start of the telework, and accepting the selection of whether or not it can be used for event detection, the impact of security incidents when the person is not the teleworker himself is minimized. Is possible.

また、管理者がテレワーカ本人であり認証用に用いてよいと判断した場合は、当該テレワーク開始時に撮影された顔画像を認証用の顔画像にすることで、年月の経過による顔の変化に対応した認証用顔画像を登録することが可能となる。   If the administrator determines that the person is a teleworker and can be used for authentication, the face image taken at the start of the telework is changed to a face image for authentication. Corresponding authentication face images can be registered.

テレワークを開始する際に撮影された顔画像とあらかじめ管理者により承認された認証用の顔画像との類似度が低い(類似度が第2の閾値よりも低い場合)、すなわち本実施形態における認証レベルが低の場合は、認証用の顔画像を用いてイベント検出を行う。またテレワーク開始時に撮影された顔画像を管理者に確認させ、イベント検出に用いる顔画像として承認を得られた場合は、当該テレワーク開始時に撮影された顔画像をイベント検出に用いる。また、今後の認証用に当該顔画像を用いる旨の指示があった場合は、当該顔画像を認証用の顔画像として登録する。   The degree of similarity between the face image taken when starting the telework and the face image for authentication approved in advance by the administrator is low (when the degree of similarity is lower than the second threshold value), that is, authentication in the present embodiment. When the level is low, event detection is performed using a face image for authentication. If the administrator confirms the face image taken at the start of telework and the approval is obtained as the face image used for event detection, the face image taken at the start of telework is used for event detection. If there is an instruction to use the face image for future authentication, the face image is registered as an authentication face image.

このように、類似度が低い場合にはテレワーカ本人である可能性は低いため、まずは認証用の顔画像でイベントを検知することで、セキュリティインシデント等の影響を小さく抑えることが可能となる。また、管理者による承認があった場合には当該テレワーク開始時に撮影された顔画像によりイベント検出を行うことで、誤検出による利便性低下を抑えることが可能となる。   Thus, since the possibility of being a teleworker is low when the degree of similarity is low, it is possible to suppress the influence of a security incident or the like by first detecting an event from an authentication face image. In addition, when there is approval from the administrator, it is possible to suppress a decrease in convenience due to erroneous detection by performing event detection based on the face image taken at the start of the telework.

また、管理者がテレワーカ本人であり認証用に用いて良いと判断した場合は、当該テレワーク開始時に撮影された顔画像を認証用の顔画像にすることで、年月の経過による顔の変化に対応した認証用顔画像を登録することが可能となる。   If the administrator determines that the person is a teleworker and can be used for authentication, the face image taken at the start of the telework is changed to a face image for authentication, so that the face changes over time. Corresponding authentication face images can be registered.

なお、上述した各種データの構成及びその内容はこれに限定されるものではなく、用途や目的に応じて、様々な構成や内容で構成されることは言うまでもない。   It should be noted that the configuration and contents of the various data described above are not limited to this, and it goes without saying that the various data and configurations are configured according to the application and purpose.

また、本発明におけるプログラムは、図4〜図7の処理をコンピュータに実行させるプログラムである。なお、本発明におけるプログラムは、図4〜図7の各処理ごとのプログラムであってもよい。   Moreover, the program in this invention is a program which makes a computer perform the process of FIGS. The program according to the present invention may be a program for each process in FIGS.

以上のように、前述した実施形態の機能を実現するプログラムを記録した記録媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムを読み出し、実行することによっても本発明の目的が達成されることは言うまでもない。   As described above, a recording medium that records a program that implements the functions of the above-described embodiments is supplied to a system or apparatus, and a computer (or CPU or MPU) of the system or apparatus stores the program stored in the recording medium. It goes without saying that the object of the present invention can also be achieved by reading and executing.

この場合、記録媒体から読み出されたプログラム自体が本発明の新規な機能を実現することになり、そのプログラムを記録した記録媒体は本発明を構成することになる。   In this case, the program itself read from the recording medium realizes the novel function of the present invention, and the recording medium recording the program constitutes the present invention.

プログラムを供給するための記録媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、DVD−ROM、磁気テープ、不揮発性のメモリカード、ROM、EEPROM、シリコンディスク等を用いることが出来る。   As a recording medium for supplying the program, for example, a flexible disk, hard disk, optical disk, magneto-optical disk, CD-ROM, CD-R, DVD-ROM, magnetic tape, nonvolatile memory card, ROM, EEPROM, silicon A disk or the like can be used.

また、コンピュータが読み出したプログラムを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。   Further, by executing the program read by the computer, not only the functions of the above-described embodiments are realized, but also an OS (operating system) operating on the computer based on an instruction of the program is actually It goes without saying that a case where the function of the above-described embodiment is realized by performing part or all of the processing and the processing is included.

さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。   Furthermore, after the program read from the recording medium is written to the memory provided in the function expansion board inserted into the computer or the function expansion unit connected to the computer, the function expansion board is based on the instructions of the program code. It goes without saying that the case where the CPU or the like provided in the function expansion unit performs part or all of the actual processing and the functions of the above-described embodiments are realized by the processing.

また、本発明は、複数の機器から構成されるシステムに適用しても、ひとつの機器から成る装置に適用しても良い。また、本発明は、システムあるいは装置にプログラムを供給することによって達成される場合にも適応できることは言うまでもない。この場合、本発明を達成するためのプログラムを格納した記録媒体を該システムあるいは装置に読み出すことによって、そのシステムあるいは装置が、本発明の効果を享受することが可能となる。   The present invention may be applied to a system constituted by a plurality of devices or an apparatus constituted by a single device. Needless to say, the present invention can be applied to a case where the present invention is achieved by supplying a program to a system or apparatus. In this case, by reading a recording medium storing a program for achieving the present invention into the system or apparatus, the system or apparatus can enjoy the effects of the present invention.

さらに、本発明を達成するためのプログラムをネットワーク上のサーバ、データベース等から通信プログラムによりダウンロードして読み出すことによって、そのシステムあるいは装置が、本発明の効果を享受することが可能となる。なお、上述した各実施形態およびその変形例を組み合わせた構成も全て本発明に含まれるものである。   Furthermore, by downloading and reading a program for achieving the present invention from a server, database, etc. on a network using a communication program, the system or apparatus can enjoy the effects of the present invention. In addition, all the structures which combined each embodiment mentioned above and its modification are also included in this invention.

100 証跡送信端末
110 証跡監査端末
120 証跡管理サーバ
100 Trail Sending Terminal 110 Trail Auditing Terminal 120 Trail Management Server

Claims (8)

撮像装置によって撮影された顔画像を取得する取得手段と、
前記取得手段により認証処理のために取得した顔画像と、あらかじめ登録された顔画像とを比較することで、認証処理を実行する認証手段と、
前記認証手段による認証処理において、前記取得手段により前記認証処理のために取得した顔画像と前記あらかじめ登録された顔画像との類似度を判定し、判定された類似度に基づき、前記あらかじめ登録された顔画像を用いて労務イベントまたはセキュリティインシデントを検出するか、前記取得手段により前記認証処理のために取得した顔画像を用いて労務イベントまたはセキュリティインシデントを検出するかを決定する決定手段と、
を備え、
前記取得手段は、さらに、前記認証手段による認証処理の実行後に前記撮像装置によって撮影された顔画像を繰り返し取得することを特徴とし、
前記決定手段により決定された顔画像と、前記前記取得手段により前記認証手段による認証処理の実行後に取得した顔画像とを用いて、労務イベントまたはセキュリティインシデントを検出する検出手段と、
前記判定された類似度が、第1の閾値および第2の閾値を満たさない場合であって、管理者から前記取得手段により前記認証処理のために取得した顔画像を前記検出手段による労務イベントまたはセキュリティインシデントの検出に用いる旨の指示を受け付けた場合には、前記検出手段による検出に用いている顔画像を、前記あらかじめ登録された顔画像から前記取得手段により前記認証処理のために取得した顔画像に切り替え、前記判定された類似度が、第1の閾値を満たさず第2の閾値を満たす場合であって、管理者から前記取得手段により認証処理のために取得した顔画像を前記検出手段による労務イベントまたはセキュリティインシデントの検出に用いない旨の指示を受け付けた場合には、前記検出手段による検出に用いている顔画像を、前記取得手段により認証処理のために取得した顔画像から前記あらかじめ登録された顔画像に切り替える切替手段と、
を備えることを特徴とする情報処理装置。
Obtaining means for obtaining a face image photographed by the imaging device;
Authentication means for executing authentication processing by comparing a face image acquired for authentication processing by the acquisition means with a face image registered in advance;
In the authentication process by the authentication unit, the similarity between the face image acquired for the authentication process by the acquisition unit and the pre-registered face image is determined, and the pre-registered based on the determined similarity A determination means for determining whether to detect a labor event or a security incident using the face image, or to detect a labor event or a security incident using the face image acquired for the authentication process by the acquisition means ;
With
The acquisition unit is further characterized by repeatedly acquiring a face image taken by the imaging device after execution of an authentication process by the authentication unit,
Detecting means for detecting a labor event or a security incident using the face image determined by the determining means and the face image acquired by the acquiring means after execution of authentication processing by the authenticating means;
When the determined similarity does not satisfy the first threshold value and the second threshold value, the face image acquired from the administrator by the acquisition unit for the authentication process is a labor event by the detection unit or When an instruction to be used for detection of a security incident is received, the face image used for detection by the detection unit is acquired from the previously registered face image by the acquisition unit for the authentication process. When the image is switched to an image and the determined similarity does not satisfy the first threshold but satisfies the second threshold, a face image acquired for authentication processing from the administrator by the acquisition unit is detected by the detection unit If an instruction not to be used for detection of labor events or security incidents is received, the face used for detection by the detection means And a switching means for switching from the acquired face image for authentication processing on the pre-registered face image by the acquisition unit,
An information processing apparatus comprising:
前記決定手段は、前記判定された類似度が第1の閾値を満たす場合、および、第1の閾値と第2の閾値とを満たさない場合には、前記あらかじめ登録された顔画像を用いて労務イベントまたはセキュリティインシデントを検出すると決定し、判定された類似度が、第1の閾値を満たさず第2の閾値を満たす場合には、前記取得手段により前記認証処理のために取得した顔画像を用いて労務イベントまたはセキュリティインシデントを検出すると決定することを特徴とする請求項1に記載の情報処理装置。  The determination means uses the face image registered in advance when the determined similarity satisfies the first threshold and does not satisfy the first threshold and the second threshold. When it is determined that an event or a security incident is detected and the determined similarity does not satisfy the first threshold but satisfies the second threshold, the face image acquired for the authentication process by the acquisition unit is used. The information processing apparatus according to claim 1, wherein the information processing apparatus determines that a labor event or a security incident is detected. 前記情報処理装置は、さらに、前記判定された類似度が、第1の閾値を満たさず第2の閾値を満たす場合であって、管理者から前記取得手段により前記認証処理のために取得した顔画像について否認する旨の指示を受け付けた場合、当該情報処理装置を操作できない状態にするロック手段を備えることを特徴とする請求項1または2に記載の情報処理装置。  The information processing apparatus further includes a face acquired by the acquiring unit for the authentication process when the determined similarity does not satisfy the first threshold but satisfies the second threshold. The information processing apparatus according to claim 1, further comprising: a lock unit configured to make the information processing apparatus inoperable when an instruction to reject the image is received. 撮像装置によって撮影された顔画像を取得する取得手段と、
前記取得手段により認証処理のために取得した顔画像と、あらかじめ登録された顔画像とを比較することで、認証処理を実行する認証手段と、
前記認証手段による認証処理において、前記取得手段により前記認証処理のために取得した顔画像と前記あらかじめ登録された顔画像との類似度を判定し、判定された類似度に基づき、前記あらかじめ登録された顔画像を用いて労務イベントまたはセキュリティインシデントを検出するか、前記取得手段により前記認証処理のために取得した顔画像を用いて労務イベントまたはセキュリティインシデントを検出するかを決定する決定手段と、
を備え、
前記取得手段は、さらに、前記認証手段による認証処理の実行後に前記撮像装置によって撮影された顔画像を繰り返し取得することを特徴とし、
前記決定手段により決定された顔画像と、前記前記取得手段により前記認証手段による認証処理の実行後に取得した顔画像とを用いて、労務イベントまたはセキュリティインシデントを検出する検出手段と、
前記判定された類似度が、第1の閾値および第2の閾値を満たさない場合、および、第1の閾値を満たさず第2の閾値を満たす場合に、管理者から前記取得手段により前記認証処理のために取得した顔画像を前記検出手段による労務イベントまたはセキュリティインシデントの検出に用いるか否かの選択を受け付ける受付手段と、
前記判定された類似度が第1の閾値および第2の閾値を満たさない場合であって、前記受付手段により、管理者から前記取得手段により前記認証処理のために取得した顔画像を前記検出手段による労務イベントまたはセキュリティインシデントの検出に用いる旨の指示を受け付けた場合には、前記検出手段による検出に用いている顔画像を、前記あらかじめ登録された顔画像から前記取得手段により前記認証処理のために取得した顔画像に切り替え、前記判定された類似度が、第1の閾値を満たさず第2の閾値を満たす場合であって、管理者から前記取得手段により認証処理のために取得した顔画像を前記検出手段による労務イベントまたはセキュリティインシデントの検出に用いない旨の指示を受け付けた場合には、前記検出手段による検出に用いている顔画像を、前記取得手段により認証処理のために取得した顔画像から前記あらかじめ登録された顔画像に切り替える切替手段と、
を備えることを特徴とする情報処理システム。
Obtaining means for obtaining a face image photographed by the imaging device;
Authentication means for executing authentication processing by comparing a face image acquired for authentication processing by the acquisition means with a face image registered in advance;
In the authentication process by the authentication unit, the similarity between the face image acquired for the authentication process by the acquisition unit and the pre-registered face image is determined, and the pre-registered based on the determined similarity A determination means for determining whether to detect a labor event or a security incident using the face image, or to detect a labor event or a security incident using the face image acquired for the authentication process by the acquisition means ;
With
The acquisition unit is further characterized by repeatedly acquiring a face image taken by the imaging device after execution of an authentication process by the authentication unit,
Detecting means for detecting a labor event or a security incident using the face image determined by the determining means and the face image acquired by the acquiring means after execution of authentication processing by the authenticating means;
When the determined similarity does not satisfy the first threshold and the second threshold, and when the similarity does not satisfy the first threshold and satisfies the second threshold, the authentication unit performs the authentication process from the administrator. Accepting means for accepting selection of whether or not to use the face image acquired for the purpose of detection of a labor event or security incident by the detecting means;
In the case where the determined similarity does not satisfy the first threshold value and the second threshold value, the detection unit detects a face image acquired from the administrator by the acquisition unit for the authentication process. When an instruction to use for detection of a labor event or security incident is received, the face image used for detection by the detection unit is used for the authentication process by the acquisition unit from the face image registered in advance. The face image acquired for the authentication process from the administrator by the acquisition means when the determined similarity does not satisfy the first threshold but satisfies the second threshold Is received by the detection means to detect that it is not used for the detection of labor events or security incidents. And switching means for switching to a face image is used, the pre-registered face image from the acquired face image for authentication processing by the acquisition unit,
An information processing system comprising:
前記決定手段は、前記判定された類似度が第1の閾値を満たす場合、および、第1の閾値と第2の閾値とを満たさない場合には、前記あらかじめ登録された顔画像を用いて労務イベントまたはセキュリティインシデントを検出すると決定し、判定された類似度が、第1の閾値を満たさず第2の閾値を満たす場合には、前記取得手段により前記認証処理のために取得した顔画像を用いて労務イベントまたはセキュリティインシデントを検出すると決定することを特徴とする請求項4に記載の情報処理システム。  The determination means uses the face image registered in advance when the determined similarity satisfies the first threshold and does not satisfy the first threshold and the second threshold. When it is determined that an event or a security incident is detected and the determined similarity does not satisfy the first threshold but satisfies the second threshold, the face image acquired for the authentication process by the acquisition unit is used. 5. The information processing system according to claim 4, wherein it is determined that a labor event or a security incident is detected. 前記受付手段はさらに、前記判定された類似度が、第1の閾値を満たさず第2の閾値を満たす場合に前記管理者から前記取得手段により前記認証処理のために取得した顔画像について承認するか否かの指示を受け付けることを特徴とし、
前記受付手段により、前記管理者から前記取得手段により前記認証処理のために取得した顔画像について否認する旨の指示を受け付けた場合、当該情報処理システムを操作できない状態にするロック手段を備えることを特徴とする請求項4または5に記載の情報処理システム
The accepting unit further approves the face image acquired for the authentication process by the acquiring unit from the administrator when the determined similarity does not satisfy the first threshold but satisfies the second threshold. It is characterized by accepting instructions on whether or not
A lock unit configured to make the information processing system inoperable when the reception unit receives an instruction from the administrator to reject the face image acquired for the authentication process by the acquisition unit; The information processing system according to claim 4 or 5, characterized in that
情報処理装置における情報処理方法であって、
前記情報処理装置の取得手段が、撮像装置によって撮影された顔画像を取得する取得工程と、
前記情報処理装置の認証手段が、前記取得工程により認証処理のために取得した顔画像と、あらかじめ登録された顔画像とを比較することで、認証処理を実行する認証工程と、
前記情報処理装置の決定手段が、前記認証工程による認証処理において、前記取得工程により前記認証処理のために取得した顔画像と前記あらかじめ登録された顔画像との類似度を判定し、判定された類似度に基づき、前記あらかじめ登録された顔画像を用いて労務イベントまたはセキュリティインシデントを検出するか、前記取得工程により前記認証処理のために取得した顔画像を用いて労務イベントまたはセキュリティインシデントを検出するかを決定する決定工程と、
を備え、
前記取得工程は、さらに、前記認証手段による認証処理の実行後に前記撮像装置によって撮影された顔画像を繰り返し取得することを特徴とし、
前記情報処理装置の検出手段が、前記決定工程により決定された顔画像と、前記前記取得工程により前記認証手段による認証処理の実行後に取得した顔画像とを用いて、労務イベントまたはセキュリティインシデントを検出する検出工程と、
前記情報処理装置の切替手段が、前記判定された類似度が、第1の閾値および第2の閾値を満たさない場合であって、管理者から前記取得工程により前記認証処理のために取得した顔画像を前記検出工程による労務イベントまたはセキュリティインシデントの検出に用いる旨の指示を受け付けた場合には、前記検出工程による検出に用いている顔画像を、前記あらかじめ登録された顔画像から前記取得工程により前記認証処理のために取得した顔画像に切り替え、前記判定された類似度が、第1の閾値を満たさず第2の閾値を満たす場合であって、管理者から前記取得手段により認証処理のために取得した顔画像を前記検出手段による労務イベントまたはセキュリティインシデントの検出に用いない旨の指示を受け付けた場合には、前記検出手段による検出に用いている顔画像を、前記取得手段により認証処理のために取得した顔画像から前記あらかじめ登録された顔画像に切り替える切替工程と、
を備えることを特徴とする情報処理方法。
An information processing method in an information processing apparatus,
An acquisition step in which an acquisition unit of the information processing apparatus acquires a face image captured by an imaging apparatus;
An authentication step in which the authentication unit of the information processing apparatus executes the authentication process by comparing the face image acquired for the authentication process by the acquisition step with a face image registered in advance.
The determination unit of the information processing apparatus determines the similarity between the face image acquired for the authentication process by the acquisition process and the face image registered in advance in the authentication process by the authentication process . Based on the degree of similarity, a labor event or a security incident is detected using the face image registered in advance, or a labor event or a security incident is detected using the face image acquired for the authentication process in the acquisition step. A determination step for determining whether or not
With
The acquisition step further includes repeatedly acquiring a face image taken by the imaging device after execution of an authentication process by the authentication unit,
The detection unit of the information processing apparatus detects a labor event or a security incident using the face image determined in the determination step and the face image acquired after the authentication process is performed by the authentication unit in the acquisition step. a detection step of,
The face acquired by the switching process of the information processing apparatus for the authentication process from the administrator by the acquisition step when the determined similarity does not satisfy the first threshold value and the second threshold value When receiving an instruction to use an image for detection of a labor event or a security incident by the detection step, a face image used for detection by the detection step is obtained from the previously registered face image by the acquisition step. The face image acquired for the authentication process is switched to the case where the determined similarity does not satisfy the first threshold value but satisfies the second threshold value. When an instruction indicating that the detected face image is not used for the detection of a labor event or a security incident by the detection means is received, A switching step of switching the facial images used for detection by stage, to the pre-registered face image from the acquired face image for authentication processing by the acquisition unit,
An information processing method comprising:
情報処理装置において実行可能なプログラムであって、
前記情報処理装置を、
撮像装置によって撮影された顔画像を取得する取得手段と、
前記取得手段により認証処理のために取得した顔画像と、あらかじめ登録された顔画像とを比較することで、認証処理を実行する認証手段と、
前記認証手段による認証処理において、前記取得手段により前記認証処理のために取得した顔画像と前記あらかじめ登録された顔画像との類似度を判定し、判定された類似度に基づき、前記あらかじめ登録された顔画像を用いて労務イベントまたはセキュリティインシデントを検出するか、前記取得手段により前記認証処理のために取得した顔画像を用いて労務イベントまたはセキュリティインシデントを検出するかを決定する決定手段として機能させ、
前記取得手段は、さらに、前記認証手段による認証処理の実行後に前記撮像装置によって撮影された顔画像を繰り返し取得することを特徴とし、
前記決定手段により決定された顔画像と、前記前記取得手段により前記認証手段による認証処理の実行後に取得した顔画像とを用いて、労務イベントまたはセキュリティインシデントを検出する検出手段と、
前記判定された類似度が、第1の閾値および第2の閾値を満たさない場合であって、管理者から前記取得手段により前記認証処理のために取得した顔画像を前記検出手段による労務イベントまたはセキュリティインシデントの検出に用いる旨の指示を受け付けた場合には、前記検出手段による検出に用いている顔画像を、前記あらかじめ登録された顔画像から前記取得手段により前記認証処理のために取得した顔画像に切り替え、前記判定された類似度が、第1の閾値を満たさず第2の閾値を満たす場合であって、管理者から前記取得手段により認証処理のために取得した顔画像を前記検出手段による労務イベントまたはセキュリティインシデントの検出に用いない旨の指示を受け付けた場合には、前記検出手段による検出に用いている顔画像を、前記取得手段により認証処理のために取得した顔画像から前記あらかじめ登録された顔画像に切り替える切替手段として機能させるためのプログラム。
A program executable in the information processing apparatus,
The information processing apparatus;
Obtaining means for obtaining a face image photographed by the imaging device;
Authentication means for executing authentication processing by comparing a face image acquired for authentication processing by the acquisition means with a face image registered in advance;
In the authentication process by the authentication unit, the similarity between the face image acquired for the authentication process by the acquisition unit and the pre-registered face image is determined, and the pre-registered based on the determined similarity A labor event or a security incident is detected using the acquired face image, or a labor event or a security incident is detected using the face image acquired for the authentication process by the acquiring means. ,
The acquisition unit is further characterized by repeatedly acquiring a face image taken by the imaging device after execution of an authentication process by the authentication unit,
Detecting means for detecting a labor event or a security incident using the face image determined by the determining means and the face image acquired by the acquiring means after execution of authentication processing by the authenticating means;
When the determined similarity does not satisfy the first threshold value and the second threshold value, the face image acquired from the administrator by the acquisition unit for the authentication process is a labor event by the detection unit or When an instruction to be used for detection of a security incident is received, the face image used for detection by the detection unit is acquired from the previously registered face image by the acquisition unit for the authentication process. When the image is switched to an image and the determined similarity does not satisfy the first threshold but satisfies the second threshold, a face image acquired for authentication processing from the administrator by the acquisition unit is detected by the detection unit If an instruction not to be used for detection of labor events or security incidents is received, the face used for detection by the detection means A program for functioning as a switching means for switching the pre-registered face image from the acquired face image for authentication processing by the acquisition unit.
JP2013245579A 2013-11-28 2013-11-28 Information processing apparatus, information processing method, and program Active JP6123653B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013245579A JP6123653B2 (en) 2013-11-28 2013-11-28 Information processing apparatus, information processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013245579A JP6123653B2 (en) 2013-11-28 2013-11-28 Information processing apparatus, information processing method, and program

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017075259A Division JP2017152013A (en) 2017-04-05 2017-04-05 Information processing device, information processing method, and program

Publications (3)

Publication Number Publication Date
JP2015103198A JP2015103198A (en) 2015-06-04
JP2015103198A5 JP2015103198A5 (en) 2016-03-31
JP6123653B2 true JP6123653B2 (en) 2017-05-10

Family

ID=53378804

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013245579A Active JP6123653B2 (en) 2013-11-28 2013-11-28 Information processing apparatus, information processing method, and program

Country Status (1)

Country Link
JP (1) JP6123653B2 (en)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6898574B2 (en) * 2015-08-31 2021-07-07 キヤノンマーケティングジャパン株式会社 Information processing equipment, information processing methods, programs
JP6680970B2 (en) * 2015-08-31 2020-04-15 キヤノンマーケティングジャパン株式会社 Information processing device, information processing method, and program
JP6508728B2 (en) * 2016-03-29 2019-05-08 キヤノンマーケティングジャパン株式会社 INFORMATION PROCESSING APPARATUS, INFORMATION PROCESSING METHOD, AND PROGRAM
JP6802473B2 (en) * 2016-03-31 2020-12-16 キヤノンマーケティングジャパン株式会社 Information processing system, information processing system control method, and program
US10586238B2 (en) * 2016-06-22 2020-03-10 Microsoft Technology Licensing, Llc Automation of image validation
JP6777605B2 (en) * 2017-08-29 2020-10-28 日本電信電話株式会社 Judgment device, judgment method and judgment program
WO2019098205A1 (en) * 2017-11-15 2019-05-23 Necソリューションイノベータ株式会社 Authentication device, authentication method, and computer-readable recording medium
JP7197763B2 (en) * 2018-07-31 2022-12-28 キヤノンマーケティングジャパン株式会社 Information processing device, processing method, program
JP7137055B2 (en) * 2018-07-31 2022-09-14 キヤノンマーケティングジャパン株式会社 Information processing device, its control method and program
JP7197764B2 (en) * 2018-07-31 2022-12-28 キヤノンマーケティングジャパン株式会社 Information processing device, its control method and program

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS59185269A (en) * 1983-04-05 1984-10-20 三菱電機株式会社 Entrance and exit control system
GB9201006D0 (en) * 1992-01-17 1992-03-11 Philip Electronic And Associat Classifying faces
JP2003030706A (en) * 2001-07-10 2003-01-31 Sharp Corp Method for managing information, method for managing attendance, attendance managing device, display screen, information management program and attendance management program
JP4086740B2 (en) * 2003-09-09 2008-05-14 日本電気株式会社 Terminal user monitoring system
JP2006163453A (en) * 2004-12-02 2006-06-22 Hitachi Ltd Authentication system using biometrics
JP5035876B2 (en) * 2006-11-17 2012-09-26 Kddi株式会社 Identification device
JP5730095B2 (en) * 2011-03-29 2015-06-03 セコム株式会社 Face image authentication device

Also Published As

Publication number Publication date
JP2015103198A (en) 2015-06-04

Similar Documents

Publication Publication Date Title
JP6123653B2 (en) Information processing apparatus, information processing method, and program
JP6281601B2 (en) Information processing apparatus, information processing system, control method, and program
US20180367532A1 (en) Trusted status transfer between associated devices
JP2019046507A (en) Information processing device, information processing system, control method, and program
CN113490936A (en) Face authentication device and face authentication method
JP6993597B2 (en) Information processing equipment, control methods, and programs
JP6515852B2 (en) Information processing apparatus, personal identification system, control method thereof, personal identification method, program thereof
JP2017152013A (en) Information processing device, information processing method, and program
WO2016206090A1 (en) Two-factor authentication method, device and apparatus
JP6918503B2 (en) System and method
JP6680970B2 (en) Information processing device, information processing method, and program
JP6369324B2 (en) Information processing apparatus, control method, and program
JP6617804B2 (en) Information processing apparatus, information processing system, control method, and program
JP6697170B2 (en) Information processing device, information processing method, and program
JP6982266B2 (en) Information processing equipment, information processing methods, programs
US20210306324A1 (en) Authentication server and method that allow user to log into application or service provided via client devices
JP6631662B2 (en) Information processing apparatus, control method, and program
JP7356060B2 (en) Information processing equipment, its control method and program
JP6788205B2 (en) Information processing device, personal authentication system, its control method, personal authentication method, its program
JP6898574B2 (en) Information processing equipment, information processing methods, programs
WO2023084593A1 (en) Information processing device, information processing system, information processing method, and non-transitory computer-readable medium
JP2012008734A (en) Portable terminal, control method and program
JP6802473B2 (en) Information processing system, information processing system control method, and program
JP2023070527A (en) Authentication system and authentication method
KR20240052387A (en) Feature registration system for facial recognition

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20150410

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160216

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160216

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20161101

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20161101

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170307

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170320

R150 Certificate of patent or registration of utility model

Ref document number: 6123653

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250