JP2017084025A - Automatic login system for information processing device - Google Patents

Automatic login system for information processing device Download PDF

Info

Publication number
JP2017084025A
JP2017084025A JP2015210405A JP2015210405A JP2017084025A JP 2017084025 A JP2017084025 A JP 2017084025A JP 2015210405 A JP2015210405 A JP 2015210405A JP 2015210405 A JP2015210405 A JP 2015210405A JP 2017084025 A JP2017084025 A JP 2017084025A
Authority
JP
Japan
Prior art keywords
user
automatic login
server
information
face recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015210405A
Other languages
Japanese (ja)
Inventor
尾崎 洋史
Yoji Ozaki
洋史 尾崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015210405A priority Critical patent/JP2017084025A/en
Publication of JP2017084025A publication Critical patent/JP2017084025A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Collating Specific Patterns (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an automatic login system that solves a problem of being unable to determine that two people are the same person even though they are the same as a result of checking feature quantity data on a face image registered in advance with feature quantity data obtained from a network due to difference of characters of network cameras, installation positions, and lighting environments, or the like.SOLUTION: An automatic login system is formed by connecting a camera, an information processing device, and a server via a network, and allows a user to automatically log into the information processing device by face recognition. The automatic login system recognizes the face of the user in an image transmitted by the camera, performs manual login if it is determined that automatic login is not available, and additionally registers an image of the face of the user as information on the user for face recognition.SELECTED DRAWING: Figure 3

Description

本発明は、情報処理装置への顔認証による自動ログインシステムに関するものである。特に、ネットワークカメラを使って情報処理装置の1つである画像形成装置に接近したユーザを特定してその画像形成装置への自動ログインを実現するものに関する。   The present invention relates to an automatic login system based on face authentication to an information processing apparatus. In particular, the present invention relates to an apparatus that uses a network camera to identify a user who has approached an image forming apparatus that is one of information processing apparatuses and realizes automatic login to the image forming apparatus.

近年、プリンター、コピー、スキャナーなどの機能を併せ持つ画像形成装置において、ユーザ毎に所定の操作画面を表示したり、ユーザ毎に機能の使用制限を行ったりする技術が知られている。このような画像形成装置では、さまざまなユーザ認証処理が行われる。ユーザ認証処理として、
(1)画像形成装置の操作パネルなどのローカルUIでユーザID、パスワードを入力するパスワード認証方式、
(2)ユーザが画像形成装置に設置されたカード読み取り装置にカードをかざすことでログインするカード認証方式
等が一般的である。
パスワード認証方式はIDやパスワードの入力等ユーザにとって煩わしい操作を行う必要があり、カード認証方式では、カードの貸与によりなりすましたユーザがログインできてしまうという課題がある。
In recent years, in an image forming apparatus having functions such as a printer, a copy, and a scanner, a technique for displaying a predetermined operation screen for each user or restricting the use of the function for each user is known. In such an image forming apparatus, various user authentication processes are performed. As user authentication processing,
(1) A password authentication method in which a user ID and password are input through a local UI such as an operation panel of the image forming apparatus,
(2) A card authentication method in which a user logs in by holding a card over a card reading device installed in the image forming apparatus is generally used.
The password authentication method requires a troublesome operation for the user such as input of an ID or password, and the card authentication method has a problem that a user impersonated by lending a card can log in.

これらの課題を解決するための技術として、ネットワークカメラを使って事前に登録したユーザの顔画像情報とネットワークカメラ等で読み取ったユーザの顔画像情報を照合し、一致した場合にログインを許可する顔認証方式が知られている。   As a technique for solving these problems, the face image information of a user registered in advance using a network camera is collated with the face image information of the user read by the network camera or the like, and a face that is permitted to log in when they match. Authentication methods are known.

特開2007-304823号公報JP 2007-304823 A

この顔認証を実施するためには、予めユーザ情報と顔画像の特徴量データを結び付けて登録しておく必要がある。しかしながら、ネットワークカメラの特性や設置位置や照明環境等の違いにより、同一人物であっても事前登録されている顔画像の特徴量データとネットワークから取得した特徴量データを照合した結果、同一人物と判定できない場合があった。   In order to perform this face authentication, it is necessary to register user information and facial image feature amount data in advance. However, due to differences in network camera characteristics, installation position, lighting environment, etc., even if the person is the same person, the feature value data of the face image that has been registered in advance and the feature value data obtained from the network are collated. There was a case that could not be judged.

この課題を解決するためには、ネットワークカメラからユーザ毎に顔画像の特徴量データを取得して事前登録しておく必要があり、さらにネットワークカメラや画像形成装置の設置位置変更により登録し直す必要があった。
オフィスなどでは複数のネットワークカメラと複数の画像形成装置が設置されていることが多く、この場合にはネットワークカメラ数分だけ、上記事前登録作業が必要となり、登録作業を行う作業の負担がさらに大きなものとなる。
In order to solve this problem, it is necessary to acquire facial image feature amount data from the network camera for each user and register it in advance, and to re-register it by changing the installation position of the network camera or image forming apparatus. was there.
In offices and the like, a plurality of network cameras and a plurality of image forming apparatuses are often installed. In this case, the above-mentioned pre-registration work is required for the number of network cameras, and the burden of the registration work is further increased. It will be a thing.

特許文献1では、特定の操作を行った時に顔画像データを取得して撮りだめしてなりすましや不正アクセスの検証を行う方法について開示されている。このような方法により顔画像データを自動的に登録してしまうと、逆にそのままなりすましや不正アクセスが可能となるだけでなく、登録顔画像データの増大により照合の負荷が増大してしまうという問題がある。   Japanese Patent Application Laid-Open No. 2004-151858 discloses a method of acquiring face image data when a specific operation is performed, taking it out, and performing impersonation or illegal access verification. If face image data is automatically registered by such a method, on the contrary, not only spoofing and unauthorized access become possible, but also the load of matching increases due to the increase of registered face image data. There is.

本発明は、顔認識によってユーザが自動的に情報処理装置にログインできる自動ログインシステムであって、前記自動ログインシステムは、カメラと、情報処理装置と、サーバとがネットワークで接続されて構成され、前記カメラは、撮影した画像を前記サーバに送信する送信手段を有し、前記情報処理装置は、ユーザが入力したユーザ識別情報を前記サーバに送信し、前記サーバからの応答に従って手動ログイン処理を行う手動ログイン手段と、前記サーバからの指示により自動ログインを行う自動ログイン手段を有し、前記サーバは、前記カメラと情報処理装置の対応情報を管理する第1の管理手段と、顔認識のためのユーザの情報を管理する第2の管理手段と、顔認識を実行する顔認識手段とからなる自動ログイン判定手段と、前記情報処理装置からのユーザ識別情報を取得する取得手段と、ユーザ識別情報を管理する第3の管理手段とからなる手動ログインの判定手段とを有し、前記自動ログイン判定手段は、前記カメラから受信した前記画像と、前記第2の管理手段が管理する前記ユーザの情報に基づき前記顔認識手段が顔認識を実行することにより自動ログインができるか判定し、自動ログインができないと判定した場合は、前記情報処理装置から取得したユーザ識別情報からユーザを特定し、前記画像内の情報処理装置に手動ログインしたユーザの画像を、顔認識のためのユーザの情報として第2の管理手段が追加登録することを特徴とする。   The present invention is an automatic login system in which a user can automatically log in to an information processing device by face recognition, and the automatic login system is configured by connecting a camera, an information processing device, and a server via a network, The camera includes a transmission unit that transmits a captured image to the server, and the information processing apparatus transmits user identification information input by a user to the server and performs a manual login process according to a response from the server. Manual login means, and automatic login means for performing automatic login in response to an instruction from the server, wherein the server includes first management means for managing correspondence information between the camera and the information processing apparatus, and for face recognition. An automatic login determination means comprising a second management means for managing user information and a face recognition means for executing face recognition; And a manual login determination unit including an acquisition unit that acquires user identification information from the processing device and a third management unit that manages the user identification information. The automatic login determination unit is received from the camera. When the face recognition unit performs face recognition based on the image and the user information managed by the second management unit to determine whether automatic login is possible, and when it is determined that automatic login is not possible, The second management means additionally registers the image of the user who has manually logged into the information processing apparatus in the image as user information for face recognition by identifying the user from the user identification information acquired from the information processing apparatus. It is characterized by.

本発明のネットワークカメラを用いた画像形成装置への顔認証ログインシステムによれば、ネットワークカメラ毎の顔画像情報を事前登録すること無く、さまざまな環境に設置されたネットワークカメラを使って顔認証を実現することを可能とする。   According to the face authentication login system for an image forming apparatus using a network camera of the present invention, face authentication is performed using network cameras installed in various environments without pre-registering face image information for each network camera. It can be realized.

本発明を実施するためのシステム構成およびネットワーク構成System configuration and network configuration for implementing the present invention 画像形成装置の情報処理機能のハードウェア構成図Hardware configuration diagram of information processing function of image forming apparatus 本発明のシステムのソフトウェア構成及びネットワーク相互接続図Software configuration and network interconnection diagram of the system of the present invention 顔認識サーバにより特定されたユーザの自動ログインのシーケンス図Sequence diagram of user's automatic login specified by face recognition server 画像形成装置への手動ログインのフローを説明するフローチャートFlowchart for explaining the manual login flow to the image forming apparatus 手動ログインの実施時の顔画像データの登録処理を説明するフローチャートFlowchart for explaining registration processing of face image data at the time of manual login 他の実施例における照合スコア算出処理を含む登録処理を説明するフローチャートThe flowchart explaining the registration process including the collation score calculation process in another Example 別の実施例における登録問い合わせ処理を含む登録処理を説明するフローチャートFlowchart for explaining registration processing including registration inquiry processing in another embodiment

以下、本発明の情報処理装置を実施するための一形態としての画像形成装置について図面を用いて説明する。
図1は、本発明を実施するためのシステム構成およびネットワーク構成の一例を示している。
101は、インターネットもしくはイントラネットなどのネットワークである。102はルータやスイッチなど、ネットワーク同士を接続するネットワーク機器である。103はネットワーク間の通信許可の制御を行うファイアウォールである。105はLAN(Local Area Network)である。LAN105は、コンピューター等の機器を接続する末端のネットワークであるが、有線通信のネットワークに限らず、無線LANや携帯電話通信ネットワークなどの無線通信網の場合もある。
111は画像形成装置である。画像形成装置111には、単機能プリンターであるSFP、コピー、スキャナー、プリンターの複数機能を備える複合機であるMFPなどの種別が存在する。113はクライアントコンピューターである。クライアントコンピューター113としては、パーソナルコンピューター、タブレットコンピューター、スマートフォンなどの種別が存在する。
Hereinafter, an image forming apparatus as an embodiment for implementing an information processing apparatus of the present invention will be described with reference to the drawings.
FIG. 1 shows an example of a system configuration and a network configuration for implementing the present invention.
Reference numeral 101 denotes a network such as the Internet or an intranet. Reference numeral 102 denotes a network device that connects networks such as a router and a switch. A firewall 103 controls communication permission between networks. Reference numeral 105 denotes a LAN (Local Area Network). The LAN 105 is a terminal network that connects devices such as computers, but is not limited to a wired communication network, and may be a wireless communication network such as a wireless LAN or a mobile phone communication network.
Reference numeral 111 denotes an image forming apparatus. The image forming apparatus 111 includes types such as an SFP that is a single-function printer, an MFP that is a multifunction machine having a plurality of functions of a copy, a scanner, and a printer. Reference numeral 113 denotes a client computer. As the client computer 113, there are types such as a personal computer, a tablet computer, and a smartphone.

120は認証サーバであり、ユーザのIDとパスワードを保持しており、画像形成装置111へのログイン管理を行う。121はデバイス管理サーバであり、画像形成装置111のIPアドレス、デバイスシリアルIDなどのデバイス情報の管理を行う。130は顔認識サーバであり、ユーザの顔画像情報や自動ログイン設定などを保持しており、ネットワークカメラ131から送られてきた画像からユーザを特定する機能を有している。ネットワークカメラ131には、レンズや動作機構の違いにより、箱型固定・パンチルト・広角などの種別が存在する。本実施例ではネットワークカメラ131は、単独でネットワーク101に接続していているが、画像形成装置111の一部として組み込まれていても構わない。   An authentication server 120 holds a user ID and password and manages login to the image forming apparatus 111. A device management server 121 manages device information such as the IP address and device serial ID of the image forming apparatus 111. Reference numeral 130 denotes a face recognition server, which holds user face image information, automatic login settings, and the like, and has a function of identifying a user from an image sent from the network camera 131. There are various types of network cameras 131 such as box-type fixing, pan-tilt, and wide-angle depending on the lens and operating mechanism. In this embodiment, the network camera 131 is connected to the network 101 alone, but may be incorporated as a part of the image forming apparatus 111.

図2は、画像形成装置111、クライアントコンピューター113、認証サーバ120、デバイス管理サーバ121、ネットワークカメラ131、顔認識サーバ130の情報処理機能のモジュール構成図を示している。
201はユーザインターフェースであり、ディスプレイ、キーボード、マウス、タッチパネルなどによる、情報の入出力を行う。これらのハードウェアを備えないコンピューターは、リモートデスクトップやリモートシェルなどにより、他のコンピューターから接続し、操作することも可能である。なお、ネットワークカメラ131は、必ずしもユーザインターフェース201を備えていなくても良い。
202はネットワークインターフェースであり、LANなどのネットワークに接続して、他のコンピューターやネットワーク機器との通信を行う。204は組込済みプログラムおよびデータが記録されているROMである。205は一時メモリ領域のRAMである。206はHDDに代表されるような二次記憶装置である。203はCPUであり、ROM204、RAM205、二次記憶装置206などから読み込んだプログラムを実行する。各部は入出力インターフェース207を介して接続されている。
FIG. 2 shows a module configuration diagram of information processing functions of the image forming apparatus 111, the client computer 113, the authentication server 120, the device management server 121, the network camera 131, and the face recognition server 130.
A user interface 201 inputs and outputs information using a display, a keyboard, a mouse, a touch panel, and the like. Computers without these hardware can be connected and operated from other computers by remote desktop or remote shell. Note that the network camera 131 does not necessarily include the user interface 201.
A network interface 202 is connected to a network such as a LAN, and communicates with other computers and network devices. Reference numeral 204 denotes a ROM in which embedded programs and data are recorded. Reference numeral 205 denotes a RAM of a temporary memory area. Reference numeral 206 denotes a secondary storage device represented by an HDD. A CPU 203 executes a program read from the ROM 204, the RAM 205, the secondary storage device 206, and the like. Each unit is connected via an input / output interface 207.

図3は、本システムのソフトウェア構成およびネットワークを介した相互接続状況を示している。
<デバイス管理サーバ121>
まず、デバイス管理サーバ121について説明する。
331は、デバイス管理サーバ121に備えられたデータベースで、デバイス管理サーバ121の各機能に必要なデータを保持する。そのデバイス管理テーブルT400を表1に示す。

Figure 2017084025
FIG. 3 shows the software configuration of this system and the state of interconnection via the network.
<Device management server 121>
First, the device management server 121 will be described.
A database 331 is provided in the device management server 121 and holds data necessary for each function of the device management server 121. The device management table T400 is shown in Table 1.
Figure 2017084025

表1のC401は、画像形成装置111のデバイスシリアルIDを格納するカラムである。C402は、画像形成装置111のIPアドレスを格納するカラムである。C403はメーカー名を格納するカラムである。C404は、機種名を格納するカラムである。C405は、MFP・SFPなどのデバイスタイプを格納するカラムである。C406は、画像形成装置111がカラー印刷・モノクロ印刷能力を表すカラー種別を格納するカラムである。C407は、画像形成装置の設置場所情報を格納するカラムである。   C401 in Table 1 is a column for storing the device serial ID of the image forming apparatus 111. C402 is a column for storing the IP address of the image forming apparatus 111. C403 is a column for storing the manufacturer name. C404 is a column for storing the model name. C405 is a column for storing device types such as MFP / SFP. C406 is a column for storing a color type representing the color printing / monochrome printing capability of the image forming apparatus 111. C407 is a column for storing installation location information of the image forming apparatus.

デバイスシリアルIDは、画像形成装置の個体を識別する一意のIDである。画像形成装置を製造する際に、個体ごとにデバイスシリアルIDを付与して、不揮発性の記憶領域に記録しておき、後に画像形成装置自体がデバイスシリアルIDを読み出し可能としておく。デバイスシリアルIDが分かれば、デバイス管理テーブルT400を参照することにより画像形成装置の機種名など必要な情報を特定することができる。画像形成装置111は、デバイス管理サーバ121の管理対象として登録されるときに、C401〜C407の自機の情報を送信し、デバイス管理サーバ121は、デバイス管理テーブルT400にレコードを追加する。   The device serial ID is a unique ID for identifying an individual image forming apparatus. When manufacturing an image forming apparatus, a device serial ID is assigned to each individual and recorded in a non-volatile storage area so that the image forming apparatus itself can read the device serial ID later. If the device serial ID is known, necessary information such as the model name of the image forming apparatus can be specified by referring to the device management table T400. When the image forming apparatus 111 is registered as a management target of the device management server 121, the image forming apparatus 111 transmits information on its own devices C401 to C407, and the device management server 121 adds a record to the device management table T400.

332は、Webアプリケーションであり、Webユーザインターフェース(以下「WebUI」)333およびアプリケーションプログラミングインタフェース(以下「API」)334を提供する。Webアプリケーション332は、ネットワーク101を経由して、他の機器からのリクエストを処理し、必要に応じてデータベース331のデータにアクセスして、各種機能を実行し、応答を返す。   A web application 332 provides a web user interface (hereinafter “WebUI”) 333 and an application programming interface (hereinafter “API”) 334. The Web application 332 processes requests from other devices via the network 101, accesses data in the database 331 as necessary, executes various functions, and returns a response.

<顔認識サーバ130>
次に、顔認識サーバ130について説明する。
341は、顔認識サーバ130に備えられたデータベースで、顔認識サーバ130の各機能に必要なデータを保持する。複数台のネットワークカメラ131を管理するためのデータベース341内のネットワークカメラ管理テーブルT410を表2に示す。

Figure 2017084025
<Face recognition server 130>
Next, the face recognition server 130 will be described.
A database 341 is provided in the face recognition server 130 and holds data necessary for each function of the face recognition server 130. Table 2 shows a network camera management table T410 in the database 341 for managing a plurality of network cameras 131.
Figure 2017084025

表2のC411は、ネットワークカメラ131のIPアドレスを格納するためのカラムである。C412は、メーカー名を格納するカラムである。C413は、機種名を格納するカラムである。C414は、パンチルト・広角・箱型固定などのカメラタイプを格納するカラムである。C415は、ネットワークカメラ131の個体ごとに設定されたカメラ名を格納するカラムである。C416は、ネットワークカメラ131の個体ごとの設置場所情報を格納するカラムである。   C411 in Table 2 is a column for storing the IP address of the network camera 131. C412 is a column for storing the manufacturer name. C413 is a column for storing the model name. C414 is a column for storing camera types such as pan / tilt, wide angle, and box-type fixing. C 415 is a column for storing the camera name set for each individual network camera 131. C416 is a column that stores installation location information for each individual network camera 131.

さらに、ネットワークカメラ131の画像内の画像形成装置111を管理するためのデータベース341内の画像内デバイス管理テーブルT420を表3に示す。

Figure 2017084025
Further, Table 3 shows an in-image device management table T420 in the database 341 for managing the image forming apparatus 111 in the image of the network camera 131.
Figure 2017084025

表3のC421は、ネットワークカメラ131のカメラ名を格納するためのカラムである。C422は、画像形成装置111のデバイスシリアルIDを格納するためのカラムである。C423は画像内のX座標を格納するためのカラムである。C424は画像内のY座標を格納するためのカラムである。本実施例では画像内の画像形成装置111とその画像形成装置111を監視するネットワークカメラ131との対応情報や座標情報は後述するWebUI343によって管理者が手動登録したものを一元管理している。しかし、画像形成装置111の物体認識により自動的に座標を判別して登録しても構わない。   C421 in Table 3 is a column for storing the camera name of the network camera 131. C422 is a column for storing the device serial ID of the image forming apparatus 111. C423 is a column for storing the X coordinate in the image. C424 is a column for storing the Y coordinate in the image. In this embodiment, correspondence information and coordinate information between the image forming apparatus 111 in the image and the network camera 131 that monitors the image forming apparatus 111 are centrally managed by the administrator manually registered by the Web UI 343 described later. However, the coordinates may be automatically identified and registered by object recognition of the image forming apparatus 111.

さらに顔認識サーバ130のユーザ情報を管理するためのデータベース341内のユーザ顔画像特徴量管理テーブルT430を表4に示す。

Figure 2017084025
Further, a user face image feature amount management table T430 in the database 341 for managing user information of the face recognition server 130 is shown in Table 4.
Figure 2017084025

表4のユーザID431はユーザを識別するためのIDである。自動ログイン設定432は、ONであれば自動ログインが設定されており、OFFであれば自動ログインが設定されていない。事前登録顔画像データ435はユーザID431と結び付けて事前に登録された顔画像データであり、追加登録顔画像データ1438は本発明により自動的に追加登録された顔画像データである。この顔画像データは、人によって顔画像を確認する時に使用するため、人により確認する必要が無い場合にはこれらの顔画像データは不要となる。事前登録特徴量データ433は事前登録顔画像データ435を特徴量化したバイナリーデータである。追加登録特徴量データ1436は追加登録顔画像データ1438を特徴量化したバイナリーデータである。   A user ID 431 in Table 4 is an ID for identifying a user. If the automatic login setting 432 is ON, automatic login is set, and if it is OFF, automatic login is not set. The pre-registered face image data 435 is face image data registered in advance in association with the user ID 431, and the additionally registered face image data 1438 is face image data automatically added and registered according to the present invention. Since the face image data is used when the face image is confirmed by a person, the face image data is not necessary when it is not necessary for the person to confirm the face image data. The pre-registered feature data 433 is binary data obtained by converting the pre-registered face image data 435 into features. The additionally registered feature amount data 1436 is binary data obtained by converting the additionally registered face image data 1438 into a feature amount.

本実施例では、既にユーザの顔画像データが撮影されてユーザIDと結び付けて事前登録顔画像データ435と事前登録顔画像データ435を特徴量化した事前登録特徴量データ433が登録されているものとする。事前登録顔画像特徴量データの認識率434と追加登録特徴点データ1の認識率437は、今までの顔画像による認識率であり、12/16であればこのユーザが16回ログインした時に12回この登録特徴量データと一致したことを示している。この認識率を算出するためには、このユーザに紐付いて登録されている顔画像特徴量データの一部が一致してユーザを認識できた場合には、登録されているすべての顔画像特徴量データの照合結果を反映する必要がある。 In the present embodiment, the face image data of the user has already been photographed, and the pre-registered feature amount data 433 obtained by combining the pre-registered face image data 435 and the pre-registered face image data 435 with the user ID is registered. To do. The recognition rate 434 of the pre-registered face image feature data and the recognition rate 437 of the additionally registered feature point data 1 are the recognition rates by the face image so far. This indicates that the registered feature value data matches. In order to calculate this recognition rate, if a part of the face image feature data registered in association with this user can be recognized and the user can be recognized, all registered face image feature data It is necessary to reflect the result of data matching.

また、ユーザが認識できずに手動ログインされた場合には、このユーザに紐付いて登録されているすべての顔画像特徴量データの照合結果としてNGとして反映する必要がある。この認識率は、登録数上限管理による削除対象とする顔画像特徴量データを選出するために使用するものである。データ1取得ネットワークカメラ名439は、追加登録顔画像データを取得したネットワークカメラ名である。 Further, when the user is not able to recognize and manually logs in, it is necessary to reflect it as NG as a collation result of all face image feature data registered in association with the user. This recognition rate is used to select face image feature amount data to be deleted by the registration number upper limit management. The data 1 acquisition network camera name 439 is the name of the network camera that acquired the additionally registered face image data.

342は、Webアプリケーションであり、WebUI343およびAPI344を提供する。Webアプリケーション342は、ネットワーク101を経由して、他の機器からのリクエストを処理し、必要に応じてデータベース341のデータにアクセスして、各種機能を実行し、応答を返す。   A web application 342 provides a web UI 343 and an API 344. The Web application 342 processes requests from other devices via the network 101, accesses data in the database 341 as necessary, executes various functions, and returns a response.

<認証サーバ120>
次に、認証サーバ120について説明する。
図3の351は、認証サーバ120に備えられたデータベースで、認証サーバ120の各機能に必要なデータを保持する。認証サーバのユーザを管理するためのユーザ管理テーブルT440を表5に示す。

Figure 2017084025
<Authentication server 120>
Next, the authentication server 120 will be described.
3 is a database provided in the authentication server 120 and holds data necessary for each function of the authentication server 120. Table 5 shows a user management table T440 for managing users of the authentication server.
Figure 2017084025

表5のC441は、ユーザID(ユーザ識別情報)を格納するためのカラムである。C442は、ユーザがログインするためのパスワードを格納するためのカラムである。C443は、ユーザのメールアドレスである。
図3の352は、Webアプリケーションであり、WebUI353およびAPI354を提供する。Webアプリケーション352は、ネットワーク101を経由して、他の機器からのリクエストを処理し、必要に応じてデータベース351のデータにアクセスして、各種機能を実行し、応答を返す。
C441 in Table 5 is a column for storing a user ID (user identification information). C442 is a column for storing a password for the user to log in. C443 is the user's email address.
A web application 352 in FIG. 3 provides a web UI 353 and an API 354. The Web application 352 processes requests from other devices via the network 101, accesses data in the database 351 as necessary, executes various functions, and returns a response.

<ネットワークカメラ131>
次に、ネットワークカメラ131について説明する。
図3の321は、ネットワークカメラ131の撮像部であり、カメラのレンズや撮像素子などを制御して、画像を取得する。322は、映像処理部であり、撮像部321で取得した原画像に処理を施し、映像データなどに加工する。また、画像認識などの追加処理を行なって、画像あるいは映像から、追加の情報を得る。323は、データ送信部であり、映像データをネットワーク上の他の機器に送信する。324は、WebUIであり、ネットワークカメラのビューワー画面や、管理画面を提供する。ビューワー画面では、カメラで捉えた映像を確認しながら、カメラの向きやズーム、フォーカスなどの操作をすることができる。
<Network camera 131>
Next, the network camera 131 will be described.
Reference numeral 321 in FIG. 3 denotes an image capturing unit of the network camera 131, which acquires an image by controlling a camera lens, an image sensor, and the like. Reference numeral 322 denotes a video processing unit, which processes the original image acquired by the imaging unit 321 and processes it into video data or the like. Also, additional information such as image recognition is performed to obtain additional information from the image or video. A data transmission unit 323 transmits the video data to other devices on the network. A Web UI 324 provides a viewer screen and a management screen for the network camera. On the viewer screen, you can perform operations such as camera orientation, zoom, and focus while checking the video captured by the camera.

管理画面では、カメラの撮像位置のプリセット登録、映像処理部322で施す処理の指定や、データ送信部323が送信する映像データの宛先登録などができる。さらに、撮像部321で取得した画像中の画像形成装置の識別情報の登録も可能となっており、設定された情報は顔認識サーバ130に送信される。325は、APIであり、他の機器からのリクエストによって、カメラの操作や、設定データ登録などを実施する。326は、設定データ管理部であり、撮像部321、映像処理部322、データ送信部323のための設定データを保持する。 On the management screen, preset registration of the imaging position of the camera, designation of processing to be performed by the video processing unit 322, registration of the destination of video data transmitted by the data transmission unit 323, and the like can be performed. Further, the identification information of the image forming apparatus in the image acquired by the imaging unit 321 can be registered, and the set information is transmitted to the face recognition server 130. Reference numeral 325 denotes an API that performs camera operation, setting data registration, and the like in response to a request from another device. A setting data management unit 326 holds setting data for the imaging unit 321, the video processing unit 322, and the data transmission unit 323.

<画像形成装置111>
次に、画像形成装置111について説明する。
図3の311は、画像形成装置111で実行されるアプリケーションである。アプリケーション311は、その機能や目的に応じて、複数のアプリケーションを画像形成装置111内にインストール・実行することができる。例えば、コピー、スキャン、プリントなどを実行するアプリケーションなどが挙げられる。
313は手動ログイン処理部であり、ローカルUI315に表示されたログイン画面でユーザにより入力されたID、パスワードを認証サーバ120に通知してログイン認証を行う。または、画像形成装置111に接続されたカード読み取り装置により読み取ったユーザのIDカード情報を認証サーバ120に通知してログイン認証を行う。認証サーバ120からログイン可の応答があった場合にはログインを許可する。
<Image forming apparatus 111>
Next, the image forming apparatus 111 will be described.
311 in FIG. 3 is an application executed by the image forming apparatus 111. The application 311 can install and execute a plurality of applications in the image forming apparatus 111 according to its function and purpose. For example, an application for executing copying, scanning, printing, and the like can be given.
A manual login processing unit 313 notifies the authentication server 120 of the ID and password input by the user on the login screen displayed on the local UI 315 to perform login authentication. Alternatively, login authentication is performed by notifying the authentication server 120 of the user's ID card information read by the card reading device connected to the image forming apparatus 111. If there is a response indicating that login is possible from the authentication server 120, login is permitted.

<自動ログイン処理フロー>
次に、図4のシーケンス図を用いて画像形成装置111、認証サーバ120、顔認識サーバ130、ネットワークカメラ131の連携による、画像形成装置111への自動ログイン処理フローについて説明する。
ステップS401で、ネットワークカメラ131は断続的に撮像し、その画像を顔認識サーバ130に送信する。顔認識サーバ130は受信した画像を解析する。
ステップS402で、顔認識サーバ130が画像内に画像形成装置111に接近する顔画像を検出する。次に、ステップS403で登録されているすべてのユーザのユーザ顔画像特徴量管理テーブルT430に登録されているユーザの特徴量と、画像内で検出した顔画像の特徴量を比較し、一定閾値以上の特徴量の一致が見られるユーザを特定する。さらにステップS404で、ユーザ顔画像特徴量管理テーブルT430を参照して自動ログイン設定432がONかどうかを確認する。ONの場合には引き続きステップS405へ、OFFの場合は処理を終了する。
<Automatic login processing flow>
Next, an automatic login process flow to the image forming apparatus 111 in cooperation with the image forming apparatus 111, the authentication server 120, the face recognition server 130, and the network camera 131 will be described with reference to the sequence diagram of FIG.
In step S401, the network camera 131 intermittently captures images and transmits the images to the face recognition server 130. The face recognition server 130 analyzes the received image.
In step S402, the face recognition server 130 detects a face image approaching the image forming apparatus 111 in the image. Next, the user's feature amount registered in the user face image feature amount management table T430 of all users registered in step S403 is compared with the feature amount of the face image detected in the image, and a certain threshold value or more is compared. The user who matches the feature amount is identified. Further, in step S404, it is confirmed whether or not the automatic login setting 432 is ON with reference to the user face image feature amount management table T430. If it is ON, the process continues to step S405, and if it is OFF, the process ends.

ステップS405で、さらに顔認識サーバ130はユーザが接近した画像形成装置111を画像内デバイス管理テーブルT420を参照して特定する。次に、ステップS406で、顔認識サーバ130は認証サーバ120に特定されたユーザIDと画像形成装置111のIPアドレス、またはデバイスシリアルIDと共に自動ログイン指示を送信する。ステップS407でユーザIDと画像形成装置111のIPアドレス、またはデバイスシリアルIDを受信した認証サーバ120は、画像形成装置111にユーザIDを通知して自動ログインを指示する。ステップS408で、ログインIDを受け取った画像形成装置111は自動ログインを実施し、ユーザの利用を可能とする。   In step S405, the face recognition server 130 further identifies the image forming apparatus 111 that the user has approached with reference to the in-image device management table T420. In step S406, the face recognition server 130 transmits an automatic login instruction together with the user ID specified by the authentication server 120 and the IP address or device serial ID of the image forming apparatus 111. Upon receiving the user ID and the IP address of the image forming apparatus 111 or the device serial ID in step S407, the authentication server 120 notifies the image forming apparatus 111 of the user ID and instructs automatic login. In step S408, the image forming apparatus 111 that has received the login ID performs automatic login to enable use by the user.

<手動ログイン処理>
次に図5のフローチャートを用いて、画像形成装置111の手動ログイン処理について詳細に説明する。手動ログインは、ローカルUI315のログイン画面でIDとパスワードを入力するか、画像形成装置111に接続されたカード読み取り装置でIDカードからIDとパスワードを読み取ることにより行われる。
手動ログイン処理部313がユーザIDとパスワードを取得し(S501)、認証サーバ120にIDとパスワードを送信して認証要求を行う(S502)。認証サーバ120からの応答を待ち(S503)、応答が返ってきたら、認証OKかNGかを判定する(S504)。認証サーバ120では、取得したユーザIDとパスワードがユーザ管理テーブルT440のデータと照合され、該当するユーザがいなければ手動ログイン処理部313に認証エラーが応答される。認証エラーが応答された場合にはローカルUI315に認証エラーを表示(S505)して終了する。該当するユーザがいれば、手動ログイン処理部313に認証OKが応答される。認証OKが応答された時には、そのユーザのログイン状態に移行してユーザの利用を可能とする(S506)。認証サーバ120が画像形成装置111の手動ログイン処理部313に認証OKの応答をした際には、顔認識サーバ130にユーザID、画像形成装置111のデバイスシリアルIDと共に手動ログイン実施を通知する。
<Manual login process>
Next, the manual login process of the image forming apparatus 111 will be described in detail with reference to the flowchart of FIG. The manual login is performed by inputting the ID and password on the login screen of the local UI 315, or by reading the ID and password from the ID card with a card reader connected to the image forming apparatus 111.
The manual login processing unit 313 acquires the user ID and password (S501), transmits the ID and password to the authentication server 120, and makes an authentication request (S502). Waiting for a response from the authentication server 120 (S503), if a response is returned, it is determined whether the authentication is OK or NG (S504). In the authentication server 120, the acquired user ID and password are collated with data in the user management table T440, and if there is no corresponding user, an authentication error is returned to the manual login processing unit 313. If an authentication error is returned, the authentication error is displayed on the local UI 315 (S505), and the process ends. If there is a corresponding user, authentication OK is returned to the manual login processing unit 313. When authentication OK is responded, the user transitions to the login state and can be used (S506). When the authentication server 120 sends an authentication OK response to the manual login processing unit 313 of the image forming apparatus 111, the face recognition server 130 is notified of the manual login execution together with the user ID and the device serial ID of the image forming apparatus 111.

<手動ログイン実施時の顔認識サーバへの顔画像データの登録処理1>
次に、図6のフローチャートを用いて、認証サーバ120より手動ログイン実施の通知を受けた時の顔認識サーバ130への顔画像データの登録処理を詳細に説明する。
認証サーバ120より手動ログイン実施の通知を受ける(S601)と、手動ログイン実施の通知と共に送られてきたユーザIDを使って表4のユーザ顔画像特徴量管理テーブルT430を参照して自動ログイン設定を確認する(S602)。自動ログイン設定がOFFだった場合には処理を終了する。ONであった場合(S603)には、手動ログイン実施の通知と共に送られてきたデバイスシリアルIDから画像内デバイス管理テーブルT420を参照して手動ログインされた画像形成装置111を監視しているネットワークカメラ131を特定する(S604)。特定されたネットワークカメラ131からの画像を取得(S605)し、顔画像が抽出出来るかどうかを顔認識アプリケーション345で確認する(S606)。抽出が出来ていれば(S607)、取得した追加登録顔画像データ及び追加登録顔画像データを特徴量化した追加登録特徴量データをユーザ顔画像特徴量管理テーブルT430に登録する(S608)。顔画像が抽出出来ていなければ終了とする。
上記した制御により、次回の自動ログイン判定時に今回追加された追加登録特徴量データも照合対象となるため認識率を高めることが可能となる。
<Registration process 1 of face image data to the face recognition server at the time of manual login>
Next, the registration processing of face image data to the face recognition server 130 when receiving a notification of manual login execution from the authentication server 120 will be described in detail using the flowchart of FIG.
When a notification of manual login execution is received from the authentication server 120 (S601), automatic login setting is performed with reference to the user face image feature amount management table T430 in Table 4 using the user ID sent together with the notification of manual login execution. Confirm (S602). If the automatic login setting is OFF, the process ends. If ON (S603), the network camera monitoring the image forming apparatus 111 that has been manually logged in with reference to the in-image device management table T420 from the device serial ID that was sent together with the notification of manual login execution 131 is identified (S604). An image from the specified network camera 131 is acquired (S605), and it is confirmed by the face recognition application 345 whether a face image can be extracted (S606). If the extraction has been completed (S607), the additionally registered feature image data obtained by converting the acquired additionally registered face image data and the additionally registered face image data into features are registered in the user face image feature management table T430 (S608). If the face image has not been extracted, the process ends.
The above-described control makes it possible to increase the recognition rate because the additional registered feature amount data added this time at the next automatic login determination is also subject to collation.

実施例1では、手動ログイン時に画像から、顔画像が抽出できた場合には、追加登録顔画像データをユーザ顔画像特徴量管理テーブルT430に登録することにより、次回以降の自動ログイン判定時に認識率を高めることが可能となった。
しかし、別のユーザがこのユーザのIDカードを借りて画像形成装置111を使うケースも考えられる。このような場合では、このユーザとして手動ログインした結果、自動ログイン失敗と判断されて別のユーザの顔画像データと顔画像特徴量データがこのユーザと紐付いて登録されてしまう。そして、次回以降IDカードを借りなくてもこのユーザとしてログインしてしまうという課題がある。
上述した課題に対処するため実施例2は、取得した顔画像データと事前登録顔画像データとを照合して、その照合スコアに基づき、追加顔画像データを登録することにより、別ユーザの顔画像データが紐付くことを防ぐものである。
実施例2の追加顔画像登録処理について図7のフローチャートを用いて以下、詳細に説明する。
In the first embodiment, when a face image can be extracted from an image at the time of manual login, the additional registration face image data is registered in the user face image feature amount management table T430, so that the recognition rate is determined at the next automatic login determination. It became possible to raise.
However, another user may borrow the user's ID card to use the image forming apparatus 111. In such a case, as a result of manual login as this user, it is determined that automatic login has failed, and face image data and face image feature value data of another user are registered in association with this user. Then, there is a problem of logging in as this user without borrowing an ID card from the next time.
In order to cope with the above-described problem, the second embodiment collates the acquired face image data with the pre-registered face image data, and registers the additional face image data based on the collation score, thereby obtaining another user's face image. This prevents data from being linked.
The additional face image registration process of the second embodiment will be described in detail below using the flowchart of FIG.

<手動ログイン実施時の顔認識サーバ130への顔画像データの登録処理2:別ユーザの誤登録の回避>
認証サーバ120より手動ログイン実施の通知を受ける(S701)と、手動ログイン実施の通知と共に送られてきたユーザIDを使ってユーザ顔画像特徴量管理テーブルT430を参照して自動ログイン設定432を確認する(S702)。自動ログイン設定432がOFFだった場合には処理を終了する。ONであった場合(S703)には、手動ログイン実施の通知と共に送られてきたデバイスシリアルIDから画像内デバイス管理テーブルT420を参照して手動ログインされた画像形成装置111を監視しているネットワークカメラを特定する(S704)。特定されたネットワークカメラからの画像を取得(S705)し、顔画像が抽出出来るかどうかを顔認識アプリケーション345で確認する(S706)。
<Registration process of face image data to face recognition server 130 at the time of manual login 2: avoiding erroneous registration of another user>
When a manual login execution notification is received from the authentication server 120 (S701), the automatic login setting 432 is confirmed with reference to the user face image feature amount management table T430 using the user ID sent together with the manual login execution notification. (S702). If the automatic login setting 432 is OFF, the process ends. If ON (S703), the network camera monitoring the image forming apparatus 111 manually logged in with reference to the in-image device management table T420 from the device serial ID sent together with the manual login execution notification Is identified (S704). An image from the identified network camera is acquired (S705), and it is confirmed by the face recognition application 345 whether a face image can be extracted (S706).

抽出出来ていれば(S707)、事前登録されている顔画像の特徴量データと今回取得した顔画像の特徴量データを顔認識アプリケーションにより照合し、照合スコアを算出する(S708)。また、抽出ができていなければ終了する。照合スコアが予め定めた閾値以上かどうかを判断(S709)し、予め定めた閾値以上であれば取得した追加顔画像データ及び追加顔画像データを特徴量化した追加特徴量データをユーザ顔画像特徴量管理テーブルT430に登録する(S710)。予め定めた閾値以上でなかった場合には、処理を終了する。
上述した制御(S708,S709)を追加することにより、別人の顔画像情報を登録してしまう可能性を低減することが可能となる。
If it has been extracted (S707), the facial image feature quantity data registered in advance and the facial image feature quantity data acquired this time are collated by the face recognition application, and a collation score is calculated (S708). If extraction has not been completed, the process ends. It is determined whether or not the matching score is equal to or greater than a predetermined threshold (S709). Register in the management table T430 (S710). If it is not equal to or greater than the predetermined threshold, the process is terminated.
By adding the control (S708, S709) described above, it is possible to reduce the possibility of registering another person's face image information.

実施例2では、照合スコアが予め定めた閾値以上でなければ、追加顔画像データとして登録することができなかった。しかし、閾値の設定によっては、例えばメガネを着用した時にも別ユーザとして判断されて登録されない場合があり、この場合にはメガネを着用している状態では常に自動ログインできない状態となってしまう。一方、閾値を下げると別ユーザを登録してしまう可能性が高まってしまう。この課題を解決するために、実施例3では、手動ログイン実施時に追加顔画像データを登録するにあたって、ユーザ宛に登録確認の問い合わせを行う処理を追加する。   In Example 2, it was not possible to register as additional face image data unless the matching score was equal to or greater than a predetermined threshold. However, depending on the setting of the threshold value, for example, when wearing glasses, it may be determined that the user is not registered, and in this case, automatic login is not always possible when wearing glasses. On the other hand, lowering the threshold increases the possibility of registering another user. In order to solve this problem, the third embodiment adds a process of inquiring registration confirmation to the user when registering additional face image data at the time of manual login.

<手動ログイン実施時の顔認識サーバへの顔画像データの登録処理3:ユーザに登録確認の問い合わせ>
以下、図8のフローチャートを用いて、手動ログイン実施時の顔認識サーバ130への顔画像データの登録時にユーザに問い合わせる制御について、詳細に説明する。
認証サーバ120より手動ログイン実施の通知を受ける(S801)と、手動ログイン実施の通知と共に送られてきたユーザIDを使ってユーザ顔画像特徴量管理テーブルT430を参照して自動ログイン設定432を確認する(S802)。自動ログイン設定432がOFFだった場合には処理を終了する。ONであった場合には(S803)、手動ログイン実施の通知と共に送られてきたデバイスシリアルIDから画像内デバイス管理テーブルT420を参照して手動ログインされた画像形成装置111を監視しているネットワークカメラを特定する(S804)。特定されたネットワークカメラからの画像を取得(S805)し、顔画像が抽出出来るかどうかを顔認識アプリケーション345で確認する(S806)。抽出出来ていれば(S807)、事前登録されている顔画像特徴量データと今回取得した顔画像特徴量データを顔認識アプリケーションにより照合し、照合スコアを算出する(S808)。また、抽出できなければ処理を終了する。
<Registration processing of face image data to face recognition server at the time of manual login 3: Inquiry of user for registration confirmation>
Hereinafter, the control for inquiring the user when registering the face image data in the face recognition server 130 at the time of manual login will be described in detail with reference to the flowchart of FIG.
When a notification of manual login execution is received from the authentication server 120 (S801), the automatic login setting 432 is confirmed by referring to the user face image feature amount management table T430 using the user ID sent together with the notification of manual login execution. (S802). If the automatic login setting 432 is OFF, the process ends. If it is ON (S803), the network camera monitoring the image forming apparatus 111 that has been manually logged in with reference to the in-image device management table T420 from the device serial ID sent together with the notification of execution of manual login Is identified (S804). An image from the specified network camera is acquired (S805), and it is confirmed by the face recognition application 345 whether a face image can be extracted (S806). If it has been extracted (S807), the face image feature value data registered in advance and the face image feature value data acquired this time are collated by the face recognition application, and a collation score is calculated (S808). If the extraction is not possible, the process is terminated.

照合スコアが予め定めた閾値以上かどうかを判断(S809)し、照合スコアが予め定めた閾値以上であった場合には、認証サーバ120からユーザと紐付けて登録されているメールアドレスを取得する(S810)。前記閾値以上でなかった場合は、処理を終了する。取得したメールアドレスを使ってメール送受信制御部346により登録予定の顔画像データと登録する場合の方法が通知される(S811)。本実施例ではメールに返信することにより登録許可としている。そのため、メールの返信があった場合(S812)には取得した追加顔画像データ及び追加顔画像データを特徴量化した追加顔画像特徴量データをユーザ顔画像特徴量管理テーブルT430に登録する(S813)。予め定めた時間内に返信が無い場合(S814)には登録を行わずに終了とする。本実施例では、メールが返信されることにより登録許可と判断したが、その他の手続き方法を指示して手続き実施時に登録許可と判断しても構わない。
上記実施例3によれば、ユーザがめがねを着用などの状態でも、照合スコアの閾値を下げることにより、追加顔画像データを登録可能とすることができ、一方、本人に登録確認を行うことにより、誤って別ユーザの画像を登録することを防止することができる。
It is determined whether or not the collation score is equal to or greater than a predetermined threshold (S809), and if the collation score is equal to or greater than the predetermined threshold, the registered mail address associated with the user is acquired from the authentication server 120. (S810). If it is not greater than or equal to the threshold value, the process ends. The mail transmission / reception control unit 346 uses the acquired mail address to notify the face image data to be registered and a method for registration (S811). In this embodiment, registration is permitted by replying to an e-mail. Therefore, when an e-mail reply is received (S812), the acquired additional face image data and the additional face image feature data obtained by converting the additional face image data into features are registered in the user face image feature management table T430 (S813). . If no reply is received within a predetermined time (S814), the registration is not performed and the process is terminated. In this embodiment, it is determined that registration is permitted by replying an e-mail. However, other procedure methods may be instructed to determine that registration is permitted when the procedure is performed.
According to the third embodiment, it is possible to register additional face image data by lowering the threshold of the collation score even when the user wears glasses, etc. It is possible to prevent erroneous registration of another user's image.

以上述べてきた方法により、自動ログイン失敗時に追加顔画像データおよび追加顔画像特徴量データの登録を確実に行うことができる。これにより、ネットワークカメラの特性、設置位置、照明等の環境に依存されること無く自動ログイン時のユーザ認識率を高めることが可能となる。
上述した方法により、自動ログイン失敗時には顔画像データ及び顔画像特徴量データが追加されていくこととなる。
With the method described above, it is possible to reliably register the additional face image data and the additional face image feature amount data when automatic login fails. This makes it possible to increase the user recognition rate at the time of automatic login without depending on the environment such as the characteristics of the network camera, the installation position, and the lighting.
By the above-described method, face image data and face image feature amount data are added when automatic login fails.

実施例3によれば、ユーザが登録許可をすれば、追加顔画像データ及び追加顔画像特徴量データをいくらでも登録することができた。
しかし、追加量に応じてHDDなどの保持領域を圧迫するだけでなく、照合する顔画像特徴量データが増加することによりシステムへの負荷も増大してしまう。この問題を解決するためには、ユーザ毎に登録できる上限数を設けることが考えられる。しかし、上限数を設けてそれ以上の登録を許可しないようにすると、今度は、髪型変更や、メガネ着用など一時的でない変更が生じて照合できなくなった場合に、登録が実施されずにそれ以降自動ログインが出来なくなってしまう。
According to the third embodiment, if the user permits registration, any number of additional face image data and additional face image feature amount data can be registered.
However, not only does the holding area such as the HDD be compressed according to the added amount, but the load on the system also increases due to the increase in face image feature amount data to be collated. In order to solve this problem, it is conceivable to set an upper limit number that can be registered for each user. However, if an upper limit is set so that no further registration is permitted, this time, if there is a temporary change such as a hairstyle change or wearing glasses, the registration will not be performed and the subsequent registration will not be performed. Automatic login is not possible.

実施例4では、少なくとも最新の顔画像特徴量データは保持されるようにした。このため、顔画像データととともに登録日時をデータとして保持して最新の登録顔画像特徴量データを削除しないようにしたものである。また、本発明は同時に、ネットワークカメラの特性、設置位置、照明等の環境に依存しないようにして、自動ログイン時のユーザ認識率を高めることを目的としている。そのため、顔画像特徴量データの登録を行ったネットワークカメラの識別情報も保持し、同一のネットワークカメラにより複数登録されている顔画像特徴量データを削除対象とする制御を併用することができる。   In the fourth embodiment, at least the latest face image feature data is held. For this reason, the registration date and time are stored as data together with the face image data so that the latest registered face image feature data is not deleted. Another object of the present invention is to increase the user recognition rate at the time of automatic login without depending on the environment such as the characteristics of the network camera, the installation position, and the lighting. Therefore, the identification information of the network camera that has registered the face image feature value data is also held, and the control for deleting a plurality of face image feature value data registered by the same network camera can be used together.

実施例4では、登録日時が古いものから削除することにより、最新のデータが残るようにした。実施例5では、認識率の高いデータを残すようにしたものである。   In the fourth embodiment, the latest data is left by deleting the oldest registered date and time. In the fifth embodiment, data with a high recognition rate is left.

このため、一部の登録顔画像特徴量データで照合できた場合に自動ログインを実施すると共にそのユーザに紐付いている他の登録顔画像特徴量データとの照合も行い認識率として保持する。また、自動ログイン失敗時にはすべての登録顔画像特徴量データに対して照合失敗として認識率を保持し、新たに登録する登録顔画像特徴量データは、認識率を100%(1/1)とする。そして、削除すべき顔画像特徴量データを選択する際に認識率の低いものから削除対象とするようにする。
なお、データの削除については、登録日の新旧、認識率の高低の両者に基づき差除するデータを選別しても良い。また、さらに別の観点により、削除するデータを選別することも可能である。
For this reason, when it is possible to collate with a part of registered face image feature data, automatic login is performed and collation with other registered face image feature data associated with the user is performed and held as a recognition rate. In addition, when automatic login fails, the recognition rate is retained as a matching failure for all registered face image feature data, and the newly registered face image feature data has a recognition rate of 100% (1/1). . Then, when selecting face image feature amount data to be deleted, those having a low recognition rate are selected as deletion targets.
For data deletion, data to be excluded may be selected based on both the new and old registration dates and the recognition rate. Further, it is also possible to select data to be deleted from another viewpoint.

以上述べてきた制御により、自動ログイン失敗時に追加顔画像データおよび追加顔画像特徴量データの登録を確実に行うことができる。また、上限数を適切に管理することにより、システムに負担を与えることなく、ネットワークカメラの特性、設置位置、照明等の環境に依存しない自動ログインシステムの提供が可能となる。   With the control described above, it is possible to reliably register the additional face image data and the additional face image feature amount data when automatic login fails. In addition, by appropriately managing the upper limit number, it is possible to provide an automatic login system that does not depend on the environment such as the characteristics of the network camera, the installation position, and the lighting without imposing a burden on the system.

(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピューターにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
なお、上述した各種データの構成及びその内容はこれに限定されるものではなく、用途や目的に応じて、様々な構成や内容で構成が可能である。
また、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
(Other examples)
The present invention supplies a program that realizes one or more functions of the above-described embodiments to a system or apparatus via a network or a storage medium, and one or more processors in a computer of the system or apparatus read and execute the program This process can be realized. It can also be realized by a circuit (for example, ASIC) that realizes one or more functions.
Note that the configuration and contents of the various data described above are not limited to this, and can be configured with various configurations and contents in accordance with applications and purposes.
Further, the present invention may be applied to a system composed of a plurality of devices, or may be applied to an apparatus composed of one device.

111 画像形成装置
120 認証サーバ
121 デバイス管理サーバ
130 顔認識サーバ
131 ネットワークカメラ
113 クライアントコンピューター
111 Image forming equipment
120 Authentication server
121 Device management server
130 Face recognition server
131 Network camera
113 client computers

Claims (12)

顔認識によってユーザが自動的に情報処理装置にログインできる自動ログインシステムであって、
前記自動ログインシステムは、カメラと、情報処理装置と、サーバとがネットワークで接続されて構成され、
前記カメラは、撮影した画像を前記サーバに送信する送信手段を有し、
前記情報処理装置は、ユーザが入力したユーザ識別情報を前記サーバに送信し、前記サーバからの応答に従って手動ログイン処理を行う手動ログイン手段と、
前記サーバからの指示により自動ログインを行う自動ログイン手段を有し、
前記サーバは、
前記カメラと情報処理装置の対応情報を管理する第1の管理手段と、
顔認識のためのユーザの情報を管理する第2の管理手段と、顔認識を実行する顔認識手段とからなる自動ログイン判定手段と、
前記情報処理装置からのユーザ識別情報を取得する取得手段と、ユーザ識別情報を管理する第3の管理手段とからなる手動ログインの判定手段とを有し、
前記自動ログイン判定手段は、前記カメラから受信した前記画像と、前記第2の管理手段が管理する前記ユーザの情報に基づき前記顔認識手段が顔認識を実行することにより自動ログインができるか判定し、
自動ログインができないと判定した場合は、前記情報処理装置から取得したユーザ識別情報からユーザを特定し、前記情報処理装置に手動ログインしたユーザの画像を、顔認識のためのユーザの情報として第2の管理手段が追加登録することを特徴とする自動ログインシステム。
An automatic login system in which a user can automatically log in to an information processing device by face recognition,
The automatic login system is configured by connecting a camera, an information processing device, and a server via a network,
The camera has transmission means for transmitting a captured image to the server,
The information processing apparatus transmits user identification information input by a user to the server, and performs manual login processing according to a response from the server;
Having an automatic login means for performing automatic login in accordance with an instruction from the server;
The server
First management means for managing correspondence information between the camera and the information processing apparatus;
Automatic login determination means comprising second management means for managing user information for face recognition, and face recognition means for executing face recognition;
A determination unit for manual login comprising acquisition means for acquiring user identification information from the information processing apparatus and third management means for managing user identification information;
The automatic login determination means determines whether or not automatic login is possible by the face recognition means performing face recognition based on the image received from the camera and the user information managed by the second management means. ,
If it is determined that automatic login is not possible, a user is identified from the user identification information acquired from the information processing apparatus, and an image of the user who has manually logged into the information processing apparatus is used as user information for face recognition. An automatic log-in system characterized in that additional management means registers.
前記サーバは、顔認識のためのユーザの情報の追加登録の判断手段を有し、
前記自動ログイン判定手段が、自動ログインができないと判定した場合に、前記顔認識手段が、前記画像と前記ユーザの情報とを照合して算出した照合スコアが、予め定めた閾値以上であった場合のみ、前記追加登録の判断手段は、画像を顔認識のためのユーザの情報として追加登録すると判断することを特徴とする請求項1に記載の自動ログインシステム。
The server includes a determination unit for additional registration of user information for face recognition,
When the automatic login determination means determines that automatic login is not possible, the face recognition means calculates a collation score calculated by collating the image with the user information is greater than or equal to a predetermined threshold 2. The automatic login system according to claim 1, wherein the additional registration determining unit determines to additionally register an image as user information for face recognition.
前記サーバは、メール送受信手段を有し、
前記自動ログイン判定手段が、自動ログインができないと判定した場合に、顔認識手段は、前記画像と既に登録されている前記ユーザの情報とを照合し、前記追加登録の判断手段が、ユーザの情報として追加登録すると判断した場合、前記ユーザにメールで登録方法を通知し、
ユーザが、該登録方法を実施したことに応答して、追加登録のユーザの情報として第2の管理手段が追加登録することを特徴とする請求項2に記載の自動ログインシステム。
The server has mail transmission / reception means,
When the automatic login determination means determines that automatic login is not possible, the face recognition means compares the image with the user information already registered, and the additional registration determination means determines the user information. If you decide to register as a user, notify the user of the registration method by email,
3. The automatic login system according to claim 2, wherein the second management means additionally registers as user information of additional registration in response to the user performing the registration method.
第2の管理手段は、ユーザ毎に登録できる顔画像特徴量データの上限数の管理を行い、ユーザに対して登録する顔画像特徴量データが予め定めた数を超える場合には、同一ネットワークカメラから取得した顔画像特徴量データが複数あるものから削除対象とすることを特徴とする請求項2〜3のいずれか1項に記載の自動ログインシステム。   The second management means manages the upper limit number of face image feature amount data that can be registered for each user. If the face image feature amount data to be registered for the user exceeds a predetermined number, the same network camera The automatic login system according to any one of claims 2 to 3, wherein a plurality of face image feature amount data acquired from a plurality of face image feature data are to be deleted. 第2の管理手段は、ユーザ毎に登録できる顔画像特徴量データの上限数の管理を行い、ユーザに対して登録する顔画像特徴量データが予め定めた数を超える場合には、データの登録の古いものから削除対象とすることを特徴とする請求項2〜4のいずれか1項に記載の自動ログインシステム。   The second management means manages the upper limit number of face image feature amount data that can be registered for each user. If the face image feature amount data to be registered for the user exceeds a predetermined number, the data registration is performed. The automatic login system according to any one of claims 2 to 4, wherein an old one is deleted. 第2の管理手段は、ユーザ毎に登録できる顔画像特徴量データの上限数の管理を行い、ユーザに対して登録する顔画像特徴量データが予め定めた数を超える場合には、新たに追加する顔画像特徴量データの認識率を100%とした上でユーザ顔画像特徴量管理テーブルに登録を行うと共に認識率が最も低い登録顔画像特徴量データを削除対象とすることを特徴とする請求項2〜5のいずれか1項に記載の自動ログインシステム。   The second management means manages the upper limit number of face image feature amount data that can be registered for each user. If the face image feature amount data to be registered for the user exceeds a predetermined number, a new addition is added. The recognition rate of the face image feature value data to be registered is set to 100%, registration is performed in the user face image feature value management table, and registered face image feature value data having the lowest recognition rate is to be deleted. Item 6. The automatic login system according to any one of Items 2 to 5. 前記サーバは、顔認識手段を含む自動ログイン判定手段を有する顔認識サーバと、ユーザ識別情報に基づく手動ログインの判定手段を有する認証サーバと、カメラと情報処理装置の対応情報を管理する管理手段を有するデバイス管理サーバとから構成されていることを特徴とする請求項1〜6のいずれか1項に記載の自動ログインシステム。   The server includes a face recognition server having an automatic login determination means including a face recognition means, an authentication server having a manual login determination means based on user identification information, and a management means for managing correspondence information between the camera and the information processing apparatus. The automatic login system according to claim 1, further comprising a device management server having the device management server. 前記情報処理装置は、画像形成装置であることを特徴とする請求項1〜7のいずれか1項に記載の自動ログインシステム The automatic login system according to claim 1, wherein the information processing apparatus is an image forming apparatus. 請求項1〜8のいずれか1項に記載の自動ログインシステムに用いられるサーバ。   The server used for the automatic login system of any one of Claims 1-8. カメラと、情報処理装置と、サーバとがネットワークで接続されて構成され、顔認識によってユーザが自動的に情報処理装置にログインできる自動ログインシステムの制御方法であって、
前記カメラは、撮影した画像を前記サーバに送信する送信工程を実行し、
前記情報処理装置は、ユーザが入力したユーザ識別情報を前記サーバに送信し、前記サーバからの応答に従って手動ログイン処理を行う手動ログイン工程か、
前記サーバからの指示により自動ログインを行う自動ログイン工程を実行し、
前記サーバは、
前記カメラと情報処理装置の対応情報を管理する第1の管理工程と、
顔認識のためのユーザの情報を管理する第2の管理工程と、顔認識を実行する顔認識工程とからなる自動ログイン判定工程と、
前記情報処理装置からのユーザ識別情報を取得する取得工程と、ユーザ識別情報を管理する第3の管理工程とからなる手動ログインの判定工程を実行し、
前記自動ログイン判定工程は、前記カメラから受信した前記画像と、前記第2の管理工程において管理される前記ユーザの情報に基づき前記顔認識工程において顔認識を実行することにより自動ログインができるか判定し、
自動ログインができないと判定した場合は、前記情報処理装置から取得したユーザ識別情報からユーザを特定し、前記情報処理装置に手動ログインしたユーザの画像を、顔認識のためのユーザの情報として第2の管理工程で追加登録することを特徴とする
自動ログインシステムの制御方法。
A control method of an automatic login system, in which a camera, an information processing device, and a server are connected via a network, and a user can automatically log in to the information processing device by face recognition,
The camera executes a transmission step of transmitting a captured image to the server,
The information processing apparatus transmits a user identification information input by a user to the server, or a manual login process for performing a manual login process according to a response from the server,
Execute an automatic login step of performing automatic login in accordance with an instruction from the server;
The server
A first management step of managing correspondence information between the camera and the information processing apparatus;
An automatic login determination process comprising a second management process for managing user information for face recognition, and a face recognition process for executing face recognition;
Executing a manual login determination step comprising an acquisition step of acquiring user identification information from the information processing device and a third management step of managing user identification information;
The automatic login determination step determines whether automatic login is possible by executing face recognition in the face recognition step based on the image received from the camera and the user information managed in the second management step. And
If it is determined that automatic login is not possible, a user is identified from the user identification information acquired from the information processing apparatus, and an image of the user who has manually logged into the information processing apparatus is used as user information for face recognition. A method for controlling an automatic login system, wherein additional registration is performed in the management step.
請求項10に記載の自動ログインシステムの制御方法をコンピュータにより実行させるためのプログラム。   A program for causing a computer to execute the control method of the automatic login system according to claim 10. カメラと、情報処理装置と、サーバとがネットワークで接続されて構成され、顔認識によってユーザが自動的に情報処理装置にログインできる自動ログインの制御方法であって、
前記カメラが、ユーザの顔を撮影した画像をサーバに送信する第1の送信ステップと、 前記サーバが、管理している顔認識のためのユーザの情報に基づき、前記カメラから送信された前記ユーザの顔を認識することにより自動ログインができるか判断する第1の判断ステップと、
自動ログインができないと判断された場合は、ユーザが前記情報処理装置に手動ログインし、入力されたユーザ識別情報が前記サーバに送信される第2の送信ステップと、
前記サーバは、受信した前記ユーザ識別情報と、管理しているユーザ識別情報から手動ログインができるか判断する第2の判断ステップと、
手動ログインがされた場合に、前記情報処理装置に手動ログインしたユーザの顔の画像を、顔認識のためのユーザの情報として追加登録する登録ステップとからなる
ことを特徴とする自動ログインの制御方法。
A control method for automatic login, in which a camera, an information processing device, and a server are connected via a network, and a user can automatically log in to the information processing device by face recognition,
A first transmission step in which the camera transmits an image of a user's face to a server; and the user transmitted from the camera based on user information for face recognition managed by the server. A first determination step of determining whether automatic login is possible by recognizing the face of
If it is determined that automatic login is not possible, a second transmission step in which the user manually logs in to the information processing apparatus and the input user identification information is transmitted to the server;
A second determination step of determining whether the server can perform manual login from the received user identification information and managed user identification information;
A method for controlling automatic login, comprising: a registration step of additionally registering a user's face image manually logged into the information processing apparatus as user information for face recognition when manual login is performed .
JP2015210405A 2015-10-27 2015-10-27 Automatic login system for information processing device Pending JP2017084025A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015210405A JP2017084025A (en) 2015-10-27 2015-10-27 Automatic login system for information processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015210405A JP2017084025A (en) 2015-10-27 2015-10-27 Automatic login system for information processing device

Publications (1)

Publication Number Publication Date
JP2017084025A true JP2017084025A (en) 2017-05-18

Family

ID=58713089

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015210405A Pending JP2017084025A (en) 2015-10-27 2015-10-27 Automatic login system for information processing device

Country Status (1)

Country Link
JP (1) JP2017084025A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107370770A (en) * 2017-09-13 2017-11-21 上海中信信息发展股份有限公司 Login method, apparatus and system
JP2018124653A (en) * 2017-01-30 2018-08-09 京セラドキュメントソリューションズ株式会社 System and log-in system
JP2021043546A (en) * 2019-09-06 2021-03-18 キヤノン株式会社 Information processing apparatus, control method, and program
JPWO2021214970A1 (en) * 2020-04-24 2021-10-28

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018124653A (en) * 2017-01-30 2018-08-09 京セラドキュメントソリューションズ株式会社 System and log-in system
CN107370770A (en) * 2017-09-13 2017-11-21 上海中信信息发展股份有限公司 Login method, apparatus and system
JP2021043546A (en) * 2019-09-06 2021-03-18 キヤノン株式会社 Information processing apparatus, control method, and program
JP7341001B2 (en) 2019-09-06 2023-09-08 キヤノン株式会社 Information processing device, control method and program.
JPWO2021214970A1 (en) * 2020-04-24 2021-10-28
WO2021214970A1 (en) * 2020-04-24 2021-10-28 日本電気株式会社 Information processing device, system, facial image updating method, and storage medium
JP7364057B2 (en) 2020-04-24 2023-10-18 日本電気株式会社 Information processing device, system, face image update method and program

Similar Documents

Publication Publication Date Title
JP6467869B2 (en) Information processing system and information processing method
JP6531362B2 (en) Device management system and device management method
JP5761256B2 (en) Shared data management system, shared data management device, shared data management method, and computer program
JP6098151B2 (en) Information processing system and information processing method
CN106993106B (en) Information processing system, information processing equipment, server and information processing method
JP6123653B2 (en) Information processing apparatus, information processing method, and program
JP2017084025A (en) Automatic login system for information processing device
JP2019046507A (en) Information processing device, information processing system, control method, and program
JP6772893B2 (en) Authentication management system, management device, authentication device, authentication management method
JP6993597B2 (en) Information processing equipment, control methods, and programs
JP2017062680A (en) Device information registration system, management apparatus, information processing apparatus, control method of management apparatus, control method of information processing apparatus, and program
JP2015147367A (en) Image processing system, image processing device, camera, image processing method, and program
JP2018200705A5 (en) Information processing apparatus, control method, and program
US20170094120A1 (en) Device information registration system, control method for management apparatus, and storage medium
JP2022176383A (en) Face authentication system, face authentication management device, face authentication management method, and face authentication management program
JP5891828B2 (en) Mobile terminal, photographed image disclosure method, program
US10965481B2 (en) Information processing device, information processing system, electronic whiteboard device, control method, and program product which display candidates for connection
JP2015099515A (en) Information providing apparatus, information providing method, terminal device, and information providing program
JP5989289B1 (en) Communication terminal identification information identification processing system
JP2016038682A (en) Information processing apparatus and control method of the same, server device and control method of the same, and computer program
JP7077504B1 (en) Information processing equipment, programs, and control methods for information processing equipment
JP2017062678A (en) Device management system, management apparatus, control method of management apparatus, and program
KR102076289B1 (en) System and method for providing images of visitor in iot enviornment
JP2017187977A (en) Management system
JP2018022243A (en) Apparatus management system, server device, apparatus management method, and program

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20180306