JP2019010777A - Information processing system, image processing device, and user's authentication method - Google Patents

Information processing system, image processing device, and user's authentication method Download PDF

Info

Publication number
JP2019010777A
JP2019010777A JP2017127912A JP2017127912A JP2019010777A JP 2019010777 A JP2019010777 A JP 2019010777A JP 2017127912 A JP2017127912 A JP 2017127912A JP 2017127912 A JP2017127912 A JP 2017127912A JP 2019010777 A JP2019010777 A JP 2019010777A
Authority
JP
Japan
Prior art keywords
user
authentication
unit
information processing
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017127912A
Other languages
Japanese (ja)
Other versions
JP6870501B2 (en
Inventor
裕介 岡部
Yusuke Okabe
裕介 岡部
木村 学
Manabu Kimura
学 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2017127912A priority Critical patent/JP6870501B2/en
Publication of JP2019010777A publication Critical patent/JP2019010777A/en
Application granted granted Critical
Publication of JP6870501B2 publication Critical patent/JP6870501B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Accessory Devices And Overall Control Thereof (AREA)
  • Control Or Security For Electrophotography (AREA)
  • Facsimiles In General (AREA)

Abstract

To reduce an authentication waiting time required for biometric authentication in an information processing system which recovers from a power-saving state in accordance with user's approach after shifting to the power-saving state to perform biometric authentication of the user.SOLUTION: An information processing system is an information processing system including a detection device, an imaging device and an information processing device. The information processing device includes: an extraction part for extracting feature information of a living body of a user from an image of the user picked up by an imaging device; a living body authentication part for performing biometric authentication by using preliminarily registered feature information and the feature information of the living body extracted by the extraction part; and a use control part for permitting the use of the information processing device by the user on the basis of a result of the biometric authentication. The information processing system includes: a state control part for shifting the imaging device and the information processing device to a power-saving state; and a start control part for preferentially starting the imaging device and the extraction part when the detection device detects approach of the user in the power-saving state.SELECTED DRAWING: Figure 3

Description

本願は、情報処理システム、画像処理装置、及び利用者の認証方法に関する。   The present application relates to an information processing system, an image processing apparatus, and a user authentication method.

利用者を認証する認証方法として、パスワードの入力等の操作が不要であり、認証情報を記憶したICカードの盗難やパスワードの盗用によるなりすまし等を防止することができる、顔認証等の生体認証が普及している。   As an authentication method for authenticating a user, biometric authentication such as face authentication is possible, which does not require an operation such as input of a password and can prevent the theft of an IC card storing authentication information or the spoofing of a password. It is popular.

また、所定の時間を超えて利用がない場合、省電力状態に移行する画像形成装置において、移動体センサを用いて利用者の接近を検知して省電力状態から復帰することにより、顔認証等に要する待ち時間を低減させる技術が知られている(例えば、特許文献1参照)。   In addition, in an image forming apparatus that shifts to a power saving state when it has not been used for a predetermined time, it detects a user's approach using a mobile sensor and returns from the power saving state, thereby performing face authentication, etc. There is known a technique for reducing the waiting time required for (see, for example, Patent Document 1).

従来の技術では、画像形成装置を省電力状態から復帰させるとき、画像形成装置の起動処理と、顔認証処理とが並行して実行されていた。この場合、画像形成装置の起動処理と、顔認証処理(特に、顔の特徴量の抽出処理)は、いずれも処理の負荷が重いため、顔認証処理に要する認証待ち時間が長くなるという問題がある。   In the conventional technique, when the image forming apparatus is returned from the power saving state, the activation process of the image forming apparatus and the face authentication process are executed in parallel. In this case, since both the image forming apparatus activation process and the face authentication process (particularly, the facial feature amount extraction process) are heavy, the authentication waiting time required for the face authentication process is increased. is there.

なお、このような課題は、画像形成装置の顔認証に限られず、省電力状態に移行した後、利用者の接近に応じて省電力状態から復帰して、利用者の生体認証を行う様々な情報処理システムに共通に存在する。   Note that such a problem is not limited to the face authentication of the image forming apparatus, but after the transition to the power saving state, the user returns from the power saving state according to the approach of the user and performs various types of biometric authentication of the user. Common to information processing systems.

本発明の実施の形態は、上記問題点に鑑みてなされたものであって、省電力状態に移行した後、利用者の接近に応じて省電力状態から復帰し、利用者の生体認証を行う情報処理システムにおいて、生体認証に要する認証待ち時間を低減させる。   The embodiment of the present invention has been made in view of the above-described problems. After shifting to the power saving state, the embodiment returns from the power saving state according to the approach of the user and performs biometric authentication of the user. In the information processing system, the authentication waiting time required for biometric authentication is reduced.

上記課題を解決するため、本発明の一実施形態に係る情報処理システムは、利用者の接近を検知する検知装置と、前記利用者の画像を撮像する撮像装置と、前記撮像装置に接続された情報処理装置と、を含む情報処理システムであって、前記情報処理装置は、前記撮像装置で撮像された前記利用者の画像から前記利用者の生体の特徴情報を抽出する抽出部と、予め登録された生体の特徴情報と、前記抽出部が抽出した前記利用者の生体の特徴情報とを用いて、前記利用者の生体認証を行う生体認証部と、前記生体認証の結果に基づいて、前記利用者による前記情報処理装置の利用を許可する利用制御部と、を有し、前記情報処理システムは、所定の移行条件に従って、前記撮像装置、及び前記情報処理装置を、所定の処理を実行可能な通常状態から、前記通常状態より消費電力が少ない省電力状態に移行させる状態制御部と、前記省電力状態において、前記検知装置が前記利用者の接近を検知したとき、前記撮像装置、及び前記抽出部を優先的に起動させる起動制御部と、を有する。   In order to solve the above problems, an information processing system according to an embodiment of the present invention is connected to a detection device that detects the approach of a user, an imaging device that captures an image of the user, and the imaging device. An information processing system including an information processing device, wherein the information processing device is previously registered with an extraction unit that extracts feature information of the user's biological body from an image of the user captured by the imaging device Based on the biometric feature information and the biometric feature information of the user extracted by the extraction unit, the biometric authentication unit that performs biometric authentication of the user, based on the result of the biometric authentication, A usage control unit that allows the user to use the information processing device, and the information processing system can execute predetermined processing on the imaging device and the information processing device in accordance with predetermined transition conditions. Normal state A state control unit that shifts to a power saving state that consumes less power than the normal state, and when the detection device detects the approach of the user in the power saving state, the imaging device and the extraction unit are An activation control unit that activates preferentially.

本発明の実施の形態によれば、省電力状態に移行した後、利用者の接近に応じて省電力状態から復帰し、利用者の生体認証を行う情報処理システムにおいて、生体認証に要する認証待ち時間を低減させることができる。   According to an embodiment of the present invention, after transitioning to a power saving state, in an information processing system that recovers from a power saving state in response to the approach of a user and performs biometric authentication of the user, waiting for authentication required for biometric authentication. Time can be reduced.

一実施形態に係る情報処理システムの構成例を示す図である。It is a figure showing an example of composition of an information processing system concerning one embodiment. 一実施形態に係る画像形成装置のハードウェア構成の例を示す図である。2 is a diagram illustrating an example of a hardware configuration of an image forming apparatus according to an embodiment. FIG. 一実施形態に係る画像形成装置の機能構成の例を示す図である。1 is a diagram illustrating an example of a functional configuration of an image forming apparatus according to an embodiment. 一実施形態に係る画像形成装置が管理する情報の例を示す図である。FIG. 6 is a diagram illustrating an example of information managed by an image forming apparatus according to an embodiment. 第1の実施形態に係る操作部の起動処理の例を示すフローチャートである。It is a flowchart which shows the example of the starting process of the operation part which concerns on 1st Embodiment. 第1の実施形態に係る各デバイスの検知範囲のイメージを示す図である。It is a figure which shows the image of the detection range of each device which concerns on 1st Embodiment. 第1の実施形態に係る顔認証処理の例を示すフローチャートである。It is a flowchart which shows the example of the face authentication process which concerns on 1st Embodiment. 第1の実施形態に係る省電力状態への移行処理の例を示すシーケンス図である。It is a sequence diagram which shows the example of the transfer process to the power saving state which concerns on 1st Embodiment. 第1の実施形態に係る省電力状態からの認証処理の一例を示すシーケンス図である。It is a sequence diagram which shows an example of the authentication process from the power saving state which concerns on 1st Embodiment. 第1の実施形態に係る省電力状態からの認証処理の別の一例を示すシーケンス図である。It is a sequence diagram which shows another example of the authentication process from the power saving state which concerns on 1st Embodiment. 第2の実施形態に係る2要素認証処理の例を示すフローチャートである。It is a flowchart which shows the example of the 2 factor authentication process which concerns on 2nd Embodiment. 第2の実施形態に係る省電力状態からの認証処理の例を示すシーケンス図である。It is a sequence diagram which shows the example of the authentication process from the power saving state which concerns on 2nd Embodiment. 第3の実施形態に係る本体の起動処理の例を示すフローチャートである。It is a flowchart which shows the example of the starting process of the main body which concerns on 3rd Embodiment. 第3の実施形態に係る画像形成装置の起動処理の例を示すシーケンス図(1)である。FIG. 10 is a sequence diagram (1) illustrating an example of activation processing of an image forming apparatus according to a third embodiment. 第3の実施形態に係る画像形成装置の起動処理の例を示すシーケンス図(2)である。FIG. 10 is a sequence diagram (2) illustrating an example of a startup process of an image forming apparatus according to a third embodiment. 第3の実施形態に係る表示画面の例を示す図である。It is a figure which shows the example of the display screen which concerns on 3rd Embodiment.

以下に、本発明の実施の形態について、添付の図面を参照して説明する。   Embodiments of the present invention will be described below with reference to the accompanying drawings.

<システムの構成>
図1は、一実施形態に係る情報処理システムの構成例を示す図である。情報処理システム100は、画像形成装置101、画像形成装置101が備える人体検知センサ102、及びカメラ103を含む。
<System configuration>
FIG. 1 is a diagram illustrating a configuration example of an information processing system according to an embodiment. The information processing system 100 includes an image forming apparatus 101, a human body detection sensor 102 included in the image forming apparatus 101, and a camera 103.

好ましくは、情報処理システム100は、画像形成装置101が備えるICカードリーダ106と、利用者105が所持するICカード104等をさらに含む。   Preferably, the information processing system 100 further includes an IC card reader 106 provided in the image forming apparatus 101, an IC card 104 possessed by the user 105, and the like.

画像形成装置(画像処理装置)101は、例えば、プリンタ、スキャナ、コピー、ファクシミリ等の機能を有するMFP(Multifunction Peripheral)、コピー機、プリンタ等の画像処理装置である。   The image forming apparatus (image processing apparatus) 101 is an image processing apparatus such as an MFP (Multifunction Peripheral) having functions such as a printer, a scanner, a copy, and a facsimile, a copier, and a printer.

好ましくは、画像形成装置101は、画像処理を実行する本体(実行装置)110と、本体110に接続され、利用者105の操作を受付する操作部(操作装置)120とを有する。   Preferably, the image forming apparatus 101 includes a main body (execution apparatus) 110 that executes image processing, and an operation unit (operation apparatus) 120 that is connected to the main body 110 and receives an operation of the user 105.

操作部(情報処理装置)120は、一般的なコンピュータの構成を有し、例えば、Android(登録商標)等の省電力型のOS(Operating System)で動作する情報処理装置である。   The operation unit (information processing apparatus) 120 has a general computer configuration, and is an information processing apparatus that operates on a power-saving OS (Operating System) such as Android (registered trademark), for example.

本体110は、例えば、一般的なコンピュータの構成に加えて、画像処理を実行するエンジン部を有し、利用者105による操作部120への操作に応じて、例えば、印刷、スキャン、コピー等の画像処理を実行する。   The main body 110 has, for example, an engine unit that executes image processing in addition to a general computer configuration. For example, printing, scanning, copying, and the like can be performed according to an operation on the operation unit 120 by the user 105. Perform image processing.

人体検知センサ(検知装置)102は、画像形成装置101(又は操作部120)に接近する利用者105を検知する検知装置である。人体検知センサ102は、例えば、焦電センサ等が用いられ、所定の検知範囲内(例えば、2m以内等)にある人体等を検知する。   The human body detection sensor (detection device) 102 is a detection device that detects the user 105 approaching the image forming apparatus 101 (or the operation unit 120). For example, a pyroelectric sensor or the like is used as the human body detection sensor 102 to detect a human body or the like within a predetermined detection range (for example, within 2 m).

なお、画像形成装置101が備える検知装置は、所定の検知範囲内に接近する利用者105を検知することができるものであれば、人体検知センサ102以外の検知装置であっても良い。例えば、画像形成装置101は、人体検知センサ102に代えて、利用者105が所持する無線端末の電波により、利用者105の接近を検知する無線通信デバイス等であっても良い。ここでは、一例として、画像形成装置101が備える検知装置が、人体検知センサ102であるものとして、以下の説明を行う。   The detection device provided in the image forming apparatus 101 may be a detection device other than the human body detection sensor 102 as long as it can detect the user 105 approaching within a predetermined detection range. For example, the image forming apparatus 101 may be a wireless communication device that detects the approach of the user 105 using radio waves of a wireless terminal possessed by the user 105 instead of the human body detection sensor 102. Here, as an example, the following description will be made assuming that the detection device provided in the image forming apparatus 101 is the human body detection sensor 102.

カメラ103は、画像形成装置101を利用する利用者105の顔認証に用いる画像を撮像する撮像装置である。   The camera 103 is an imaging device that captures an image used for face authentication of the user 105 who uses the image forming apparatus 101.

ICカードリーダ106は、利用者105が所持するICカード104から、ICカード認証に用いる認証情報(カードID等)を取得する読取装置である。なお、ICカード認証は、利用者105の所持物から取得した認証情報により、利用者105を認証する所持物認証の一例である。また、ICカード104は、利用者105の所持物認証に用いられる所持物の一例である。   The IC card reader 106 is a reading device that acquires authentication information (such as a card ID) used for IC card authentication from an IC card 104 possessed by the user 105. The IC card authentication is an example of possession authentication for authenticating the user 105 based on authentication information acquired from the possession of the user 105. Further, the IC card 104 is an example of belongings used for authentication of belongings of the user 105.

なお、画像形成装置101は、ICカードとは異なる利用者105の所持物(例えば、情報端末、無線タグ等)により、利用者の105の所持物認証を行うものであっても良い。ここでは、一例として、画像形成装置101が実行する所持物認証が、ICカード認証であるものとして、以下の説明を行う。   Note that the image forming apparatus 101 may authenticate the possession of the user 105 with the possession of the user 105 (for example, an information terminal, a wireless tag, etc.) different from the IC card. Here, as an example, the following description will be given on the assumption that the belonging authentication executed by the image forming apparatus 101 is IC card authentication.

上記の構成において、画像形成装置101は、省電力機能を有しており、例えば、所定の時間を超えて画像形成装置101の利用がない場合、画像形成装置101を、画像処理を実行可能な通常状態から、通常状態よりも消費電力が少ない省電力状態へ移行させる。画像形成装置101は、省電力状態において、カメラ103、ICカードリーダ106、操作部120、及び本体110の一部(エンジン部、ストレージ部等)の機能を停止させることにより、画像形成装置101の消費電力を低減させることができる。   In the above configuration, the image forming apparatus 101 has a power saving function. For example, when the image forming apparatus 101 is not used for a predetermined time, the image forming apparatus 101 can execute image processing. The normal state is shifted to a power saving state that consumes less power than the normal state. The image forming apparatus 101 stops the functions of the camera 103, the IC card reader 106, the operation unit 120, and a part of the main body 110 (engine unit, storage unit, etc.) in the power saving state. Power consumption can be reduced.

一方、画像形成装置101、省電力状態に移行した後においても、人体検知センサ102により、所定の検知範囲内に接近する利用者105の検知を継続し、利用者105の接近が検知されると、画像形成装置101を、段階的に通常状態に復帰させる。   On the other hand, even after the image forming apparatus 101 shifts to the power saving state, the human body detection sensor 102 continues to detect the user 105 approaching within a predetermined detection range, and the approach of the user 105 is detected. Then, the image forming apparatus 101 is returned to the normal state step by step.

例えば、画像形成装置101は、省電力状態において、利用者105の接近が検知されると、利用者105の顔認証に必要な機能を優先的に起動させて、所定の処理を行った後で他の機能を起動させる。   For example, when the image forming apparatus 101 detects the approach of the user 105 in the power saving state, the image forming apparatus 101 preferentially activates a function necessary for the face authentication of the user 105 and performs a predetermined process. Activate other functions.

一例として、画像形成装置101は、省電力状態において、利用者105の接近が検知されると、利用者105の画像を撮像するカメラ103、及び撮像された画像から利用者105の顔の特徴情報を抽出する処理等を優先的に起動させる。また、画像形成装置101は、利用者105の顔の特徴情報を抽出した後、他の処理部を起動させる。   As an example, when the approach of the user 105 is detected in the power saving state, the image forming apparatus 101 captures the image of the user 105, and the facial feature information of the user 105 from the captured image. Priority is given to starting the process of extracting. The image forming apparatus 101 activates another processing unit after extracting the facial feature information of the user 105.

これは、操作部120を起動する処理、及び顔の特徴情報を抽出する処理は、共に処理が重いため、同時に実行すると、CPU(Central Processing Unit)の負荷が高くなり、顔認証に要する待ち時間が長くなってしまうためである。   This is because both the process of starting the operation unit 120 and the process of extracting facial feature information are heavy, and if executed simultaneously, the load on the CPU (Central Processing Unit) increases and the waiting time required for face authentication This is because it becomes longer.

別の一例として、画像形成装置101は、省電力状態において、利用者105の接近が検知されると、利用者105の画像を撮像するカメラ103、及び生体認証を実行するアプリケーションプログラム(以下、アプリと呼ぶ)を優先的に起動させる。また、画像形成装置101は、利用者105の顔認証処理を実行した後、他の処理部を起動させる。   As another example, when the approach of the user 105 is detected in the power saving state, the image forming apparatus 101 and the camera 103 that captures an image of the user 105 and an application program (hereinafter referred to as an application) that performs biometric authentication. Called) with priority. The image forming apparatus 101 activates another processing unit after executing the face authentication process of the user 105.

このように、本実施形態に係る画像形成装置101は、省電力状態において、利用者105の接近が検知された場合、利用者105の顔認証に必要な機能を優先的に起動させて、所定の処理を行った後で他の機能を起動させる。   As described above, when the approach of the user 105 is detected in the power saving state, the image forming apparatus 101 according to the present embodiment preferentially activates a function necessary for the face authentication of the user 105 and performs predetermined processing. After performing the above process, activate other functions.

これにより、本実施形態によれば、省電力状態に移行した後、利用者105の接近に応じて省電力状態から復帰し、利用者105の生体認証を行う情報処理システム100において、生体認証に要する認証待ち時間を低減させることができる。   Thus, according to the present embodiment, after shifting to the power saving state, the information processing system 100 that returns from the power saving state according to the approach of the user 105 and performs biometric authentication of the user 105 performs biometric authentication. The required authentication waiting time can be reduced.

なお、図1に示すシステム構成はあくまで一例である。例えば、情報処理システム100は、PC(Personal Computer)、タブレット端末、スマートフォン、ゲーム機、テレビ会議装置、ATM(Automatic Teller Machine)等、利用者を認証する他の情報処理装置を含むシステムであっても良い。   Note that the system configuration shown in FIG. 1 is merely an example. For example, the information processing system 100 is a system that includes other information processing devices that authenticate users, such as a PC (Personal Computer), a tablet terminal, a smartphone, a game machine, a video conference device, and an ATM (Automatic Teller Machine). Also good.

<ハードウェア構成>
図2は、一実施形態に係る画像形成装置のハードウェア構成の例を示す図である。画像形成装置101は、例えば、コピー機能、スキャナ機能、ファクス機能、プリンタ機能などの各種の画像処理を実行する本体110と、利用者105の操作を受付する操作部120とを備える。本体110と操作部120は、専用の通信路201を介して相互に通信可能に接続されている。通信路201は、例えばUSB(Universal Serial Bus)規格のものを用いることができるが、有線か無線かを問わず任意の規格のものであって良い。
<Hardware configuration>
FIG. 2 is a diagram illustrating an example of a hardware configuration of the image forming apparatus according to the embodiment. The image forming apparatus 101 includes, for example, a main body 110 that executes various types of image processing such as a copy function, a scanner function, a fax function, and a printer function, and an operation unit 120 that receives an operation of a user 105. The main body 110 and the operation unit 120 are connected to each other via a dedicated communication path 201 so that they can communicate with each other. The communication path 201 may be, for example, a USB (Universal Serial Bus) standard, but may be of any standard regardless of wired or wireless.

なお、本体110は、操作部120で受け付けた操作に応じた動作を行うことができる。また、本体110は、ネットワーク202を介して、クライアントPC等の外部装置とも通信可能であり、外部装置から受信した指示に応じた動作を行うこともできる。   The main body 110 can perform an operation according to the operation received by the operation unit 120. Further, the main body 110 can communicate with an external device such as a client PC via the network 202, and can also perform an operation according to an instruction received from the external device.

(本体のハードウェア構成)
まず、本体110のハードウェア構成について説明する。図2に示すように、本体110は、CPU111、ROM(Read Only Memory)112、RAM(Random Access Memory)113、ストレージ部114、通信I/F(Interface)115、接続I/F116、エンジン部117、人体検知センサ102、外部接続I/F118、及びシステムバス119等を有する。
(Hardware configuration of the main unit)
First, the hardware configuration of the main body 110 will be described. As shown in FIG. 2, the main body 110 includes a CPU 111, a ROM (Read Only Memory) 112, a RAM (Random Access Memory) 113, a storage unit 114, a communication I / F (Interface) 115, a connection I / F 116, and an engine unit 117. A human body detection sensor 102, an external connection I / F 118, a system bus 119, and the like.

CPU111は、RAM113をワークエリア(作業領域)としてROM112又はストレージ部114等に格納されたプログラムを実行することで、本体110全体の動作を制御する演算装置である。例えば、CPU111は、エンジン部117を用いて、コピー機能、スキャナ機能、ファクス機能、プリンタ機能などの各種機能を実現する。   The CPU 111 is an arithmetic device that controls the overall operation of the main body 110 by executing a program stored in the ROM 112, the storage unit 114, or the like using the RAM 113 as a work area (work area). For example, the CPU 111 uses the engine unit 117 to realize various functions such as a copy function, a scanner function, a fax function, and a printer function.

ROM112は、例えば、本体110の起動時に実行されるBIOS(Basic Input/Output System)や、各種の設定等を記憶する不揮発性のメモリである。RAM113は、CPU111のワークエリア等として用いられる揮発性のメモリである。ストレージ部114は、例えば、OS、アプリケーションプログラム、各種データ等を記憶する不揮発性の記憶装置であり、例えば、HDD(Hard Disk Drive)や、SSD(Solid State Drive)等で構成される。   The ROM 112 is, for example, a nonvolatile memory that stores a basic input / output system (BIOS) that is executed when the main body 110 is started up, various settings, and the like. The RAM 113 is a volatile memory used as a work area for the CPU 111. The storage unit 114 is a nonvolatile storage device that stores, for example, an OS, application programs, various data, and the like, and includes, for example, an HDD (Hard Disk Drive), an SSD (Solid State Drive), or the like.

通信I/F115は、本体110をネットワーク202に接続し、ネットワーク202に接続された外部装置との通信を行うための、例えば、無線LAN、有線LAN等のネットワークインタフェースである。接続I/F116は、通信路201を介して、本体110と操作部120との間で通信するためのインタフェースである。   The communication I / F 115 is a network interface such as a wireless LAN or a wired LAN for connecting the main body 110 to the network 202 and communicating with an external device connected to the network 202. The connection I / F 116 is an interface for communicating between the main body 110 and the operation unit 120 via the communication path 201.

エンジン部117は、コピー機能、スキャナ機能、ファクス機能、及びプリンタ機能等の機能を実現させるための、汎用的な情報処理及び通信以外の処理を行うハードウェアである。エンジン部117には、例えば、原稿の画像をスキャンして読み取るスキャナ(画像読取部)、用紙等のシート材への印刷を行うプロッタ(画像形成部)、ファクス通信を行うファクス部等が含まれる。さらに、エンジン部117には、印刷済みシート材を仕分けるフィニッシャや、原稿を自動給送するADF(自動原稿給送装置)のような特定のオプションが含まれていても良い。   The engine unit 117 is hardware that performs general-purpose information processing and processing other than communication for realizing functions such as a copy function, a scanner function, a fax function, and a printer function. The engine unit 117 includes, for example, a scanner (image reading unit) that scans and reads an image of a document, a plotter (image forming unit) that performs printing on a sheet material such as paper, and a fax unit that performs fax communication. . Furthermore, the engine unit 117 may include specific options such as a finisher that sorts printed sheet materials and an ADF (automatic document feeder) that automatically feeds documents.

人体検知センサ102は、図1で説明した人体検知センサ102に対応しており、画像形成装置101に接近する利用者105を検知する検知装置である。なお、本体110は、人体検知センサ102とは異なる方法で利用者105の接近を検知する他の検知装置を有しているものであっても良い。   The human body detection sensor 102 corresponds to the human body detection sensor 102 described with reference to FIG. 1 and is a detection device that detects a user 105 approaching the image forming apparatus 101. Note that the main body 110 may include another detection device that detects the approach of the user 105 by a method different from the human body detection sensor 102.

外部接続I/F118は、外部装置を接続するための、例えばUSB等のインタフェースである。ICカードリーダ106や、人体検知センサ102等は、外部接続I/F118を介して、本体110に接続されているものであっても良い。   The external connection I / F 118 is an interface such as a USB for connecting an external device. The IC card reader 106, the human body detection sensor 102, and the like may be connected to the main body 110 via the external connection I / F 118.

システムバス119は、上記各構成要素に接続され、アドレス信号、データ信号、及び各種制御信号等を伝送する。   The system bus 119 is connected to each of the above components, and transmits an address signal, a data signal, various control signals, and the like.

(操作部のハードウェア構成)
次に、操作部120のハードウェア構成について説明する。図2に示すように、操作部120は、CPU121、ROM122、RAM123、フラッシュメモリ124、通信I/F125、操作パネル126、接続I/F127、ICカードリーダ106、カメラ103、外部接続I/F129、及びシステムバス130等を有する。
(Hardware configuration of operation unit)
Next, the hardware configuration of the operation unit 120 will be described. 2, the operation unit 120 includes a CPU 121, a ROM 122, a RAM 123, a flash memory 124, a communication I / F 125, an operation panel 126, a connection I / F 127, an IC card reader 106, a camera 103, an external connection I / F 129, And a system bus 130 and the like.

CPU121は、RAM123をワークエリア(作業領域)としてROM122又はフラッシュメモリ124等に格納されたプログラムを実行することで、操作部120全体の動作を制御する演算装置である。ROM122は、例えば、操作部120の起動時に実行されるBIOSや、各種の設定等を記憶する不揮発性のメモリである。RAM123は、CPU121のワークエリア等として用いられる揮発性のメモリである。フラッシュメモリ124は、例えば、OS、アプリケーションプログラム、各種データ等を記憶する不揮発性の記憶装置である。   The CPU 121 is an arithmetic device that controls the operation of the entire operation unit 120 by executing a program stored in the ROM 122, the flash memory 124, or the like using the RAM 123 as a work area (work area). The ROM 122 is, for example, a non-volatile memory that stores a BIOS executed when the operation unit 120 is activated, various settings, and the like. The RAM 123 is a volatile memory used as a work area for the CPU 121. The flash memory 124 is a non-volatile storage device that stores an OS, application programs, various data, and the like, for example.

通信I/F125は、操作部120をネットワーク202に接続し、ネットワーク202に接続された外部装置との通信を行うための、例えば、無線LAN、有線LAN等のネットワークインタフェースである。   The communication I / F 125 is a network interface such as a wireless LAN or a wired LAN for connecting the operation unit 120 to the network 202 and performing communication with an external device connected to the network 202.

操作パネル126は、ユーザの操作に応じた各種の入力を受け付けると共に、各種の情報を表示する。操作パネル126は、例えば、タッチパネル機能を搭載した液晶表示装置(LCD: Liquid Crystal Display)で構成されるが、これに限られるものではない。操作パネル126は、例えばタッチパネル機能が搭載された有機EL(Electro Luminescence)表示装置で構成されていても良い。さらに、操作パネル126は、これに加えて又はこれに代えて、ハードウェアキー等の操作部や、ランプ等の表示部を設けることもできる。   The operation panel 126 accepts various inputs in accordance with user operations and displays various information. The operation panel 126 is constituted by, for example, a liquid crystal display (LCD) having a touch panel function, but is not limited thereto. The operation panel 126 may be composed of, for example, an organic EL (Electro Luminescence) display device equipped with a touch panel function. Furthermore, the operation panel 126 can be provided with an operation unit such as a hardware key or a display unit such as a lamp in addition to or instead of this.

接続I/F127は、通信路201を介して、操作部120と本体110との間で通信するためのインタフェースである。   The connection I / F 127 is an interface for communicating between the operation unit 120 and the main body 110 via the communication path 201.

ICカードリーダ106は、図1で説明したICカードリーダ106に対応しており、利用者105が所持するICカード104から、ICカード認証に用いられる認証情報(カードID等)を読取する読取装置である。なお、操作部120は、ICカード104とは異なる利用者105の所持物から、所持物認証に用いる認証情報を読取する読取装置を有しているものであっても良い。   The IC card reader 106 corresponds to the IC card reader 106 described with reference to FIG. 1, and reads the authentication information (card ID or the like) used for IC card authentication from the IC card 104 possessed by the user 105. It is. Note that the operation unit 120 may include a reading device that reads authentication information used for belongings authentication from the belongings of the user 105 different from the IC card 104.

カメラ103は、図1で説明したカメラ103に対応しており、利用者105の顔認証に用いる画像を撮像する撮像装置である。なお、操作部120は、顔認証とは異なる利用者105の生体認証に用いる生体情報を取得する取得装置を有しているものであっても良い。   The camera 103 corresponds to the camera 103 described with reference to FIG. 1 and is an imaging device that captures an image used for face authentication of the user 105. Note that the operation unit 120 may include an acquisition device that acquires biometric information used for biometric authentication of the user 105 different from face authentication.

外部接続I/F129は、外部装置を接続するための、例えばUSB等のインタフェースである。ICカードリーダ106やカメラ103は、外部接続I/F129を介して、操作部120に接続されているものであっても良い。   The external connection I / F 129 is an interface such as a USB for connecting an external device. The IC card reader 106 and the camera 103 may be connected to the operation unit 120 via the external connection I / F 129.

システムバス130は、上記各構成要素に接続され、アドレス信号、データ信号、及び各種制御信号等を伝送する。   The system bus 130 is connected to each of the above components, and transmits an address signal, a data signal, various control signals, and the like.

<機能構成>
図3は、一実施形態に係る画像形成装置の機能構成の例を示す図である。
<Functional configuration>
FIG. 3 is a diagram illustrating an example of a functional configuration of the image forming apparatus according to the embodiment.

(本体の機能構成)
画像形成装置101の本体110は、接近検知部321、状態制御部(本体)322、画像形成部323、認証制御部324、通信部325、及び記憶部326等を有する。
(Functional structure of the main unit)
The main body 110 of the image forming apparatus 101 includes an approach detection unit 321, a state control unit (main body) 322, an image forming unit 323, an authentication control unit 324, a communication unit 325, a storage unit 326, and the like.

接近検知部321は、例えば、図2の人体検知センサ102等の検知装置、又は検知装置が備えるマイコン(マイクロコンピュータ)で実行されるプログラム等によって実現される。接近検知部321は、画像形成装置101(又は操作部120)に接近する利用者を検知する。また、接近検知部321は、画像形成装置101が省電力状態に移行した後も、検知処理を継続し、利用者105の接近を検知すると、利用者105の接近が検知されたことを示す接近通知を状態制御部(本体)322に通知する。   The approach detection unit 321 is realized, for example, by a detection device such as the human body detection sensor 102 in FIG. 2 or a program executed by a microcomputer (microcomputer) included in the detection device. The approach detection unit 321 detects a user approaching the image forming apparatus 101 (or the operation unit 120). Further, the approach detection unit 321 continues the detection process even after the image forming apparatus 101 shifts to the power saving state, and when the approach of the user 105 is detected, the approach indicating that the approach of the user 105 is detected. Notification is sent to the state control unit (main body) 322.

状態制御部(本体)322は、例えば、図2のCPU111で実行されるプログラムによって実現される。状態制御部(本体)322は、所定の移行条件に従って、画像形成装置101を、所定の処理を実行可能な通常状態から、通常状態より消費電力が少ない省電力状態に移行させる状態制御部の一例である。   The state control unit (main body) 322 is realized by, for example, a program executed by the CPU 111 in FIG. The state control unit (main body) 322 is an example of a state control unit that shifts the image forming apparatus 101 from a normal state in which a predetermined process can be performed to a power saving state that consumes less power than the normal state in accordance with a predetermined transition condition. It is.

例えば、状態制御部(本体)322は、予め設定された時間を超えて、画像形成装置101の利用がない場合、操作部120、カメラ103、及び本体110のエンジン部117、ストレージ部114等を省電力状態に移行させる。   For example, the state control unit (main body) 322 includes the operation unit 120, the camera 103, the engine unit 117 of the main body 110, the storage unit 114, and the like when the image forming apparatus 101 is not used for a preset time. Shift to power saving mode.

また、状態制御部(本体)322は、省電力状態において、接近検知部321により利用者105の接近が検知されると、操作部120に起動を要求する起動要求を送信すると共に、本体110のエンジン部117、ストレージ部114等を起動させる。   In addition, when the approach detection unit 321 detects the approach of the user 105 in the power saving state, the state control unit (main body) 322 transmits an activation request for requesting activation to the operation unit 120, and The engine unit 117, the storage unit 114, and the like are activated.

画像形成部323は、例えば、図2のCPU111で実行されるプログラムによって実現され、例えば、印刷、コピー、スキャン、ファックス等の画像処理を、図2のエンジン部117を用いて実行する。   The image forming unit 323 is realized by, for example, a program executed by the CPU 111 in FIG. 2, and executes image processing such as printing, copying, scanning, and faxing using the engine unit 117 in FIG.

認証制御部324は、例えば、図2のCPU111で実行されるプログラムによって実現され、操作部120により、画像形成装置101の利用が許可された利用者105による本体110の機能(例えば、印刷、コピー等)の利用を許可する。   The authentication control unit 324 is realized, for example, by a program executed by the CPU 111 in FIG. 2, and functions of the main body 110 by the user 105 permitted to use the image forming apparatus 101 by the operation unit 120 (for example, printing and copying). Etc.) is permitted.

通信部325は、例えば、図2のCPU111で実行されるプログラム、及び接続I/F116等にって実現され、通信路201を介して、操作部120と通信を行う。   The communication unit 325 is realized by, for example, a program executed by the CPU 111 in FIG. 2, the connection I / F 116, and the like, and communicates with the operation unit 120 via the communication path 201.

記憶部326は、例えば、図2のCPU111で実行されるプログラム、及びRAM113、ストレージ部114等によって実現され、予め登録された利用者の情報である利用者情報A327等の情報を記憶する。   The storage unit 326 is realized by, for example, the program executed by the CPU 111 in FIG. 2, the RAM 113, the storage unit 114, and the like, and stores information such as user information A 327 that is user information registered in advance.

(操作部の機能構成)
続いて、操作部120の機能構成について説明する。
(Function configuration of the operation unit)
Next, the functional configuration of the operation unit 120 will be described.

操作部120は、例えば、状態制御部(操作部)301、撮像部302、抽出部303、生体認証部304、利用制御部305、認証情報取得部306、所持物認証部307、利用者情報管理部308、表示入力制御部309、設定管理部310、通信部311、及び記憶部312等を有する。   The operation unit 120 includes, for example, a state control unit (operation unit) 301, an imaging unit 302, an extraction unit 303, a biometric authentication unit 304, a usage control unit 305, an authentication information acquisition unit 306, a belonging authentication unit 307, and user information management. A unit 308, a display input control unit 309, a setting management unit 310, a communication unit 311 and a storage unit 312.

状態制御部(操作部)301は、例えば、図2のCPU121で実行されるプログラムによって実現され、操作部120を省電力状態へ移行させる処理、及び操作部120を省電力状態から通常状態へ復帰させる処理を行う起動制御部の一例である。   The state control unit (operation unit) 301 is realized by, for example, a program executed by the CPU 121 in FIG. 2, a process for shifting the operation unit 120 to the power saving state, and the operation unit 120 from the power saving state to the normal state. It is an example of the starting control part which performs the process to make.

例えば、状態制御部(操作部)301は、本体110から省電力状態への移行を要求する省電力移行要求を受付すると、操作部120の各処理部を停止させて、所定の処理を実行可能な通常状態より消費電力が少ない省電力状態に、操作部120を移行させる。   For example, when the state control unit (operation unit) 301 receives a power saving transition request for requesting a transition to the power saving state from the main body 110, the processing unit of the operation unit 120 can be stopped and a predetermined process can be executed. The operation unit 120 is shifted to a power saving state in which the power consumption is lower than the normal state.

また、状態制御部(操作部)301は、例えば、本体110から、省電力状態から通常状態への復帰を要求する起動要求を受付すると、操作部120の各処理部を段階的に起動させて、操作部120を通常状態に復帰させる。このとき、状態制御部(操作部)301は、操作部120の各処理部のうち、顔認証に関係する処理部を、他の処理部より優先的に起動させる。   In addition, for example, when the state control unit (operation unit) 301 receives an activation request for requesting a return from the power saving state to the normal state from the main body 110, the state control unit (operation unit) 301 activates each processing unit of the operation unit 120 in stages. The operation unit 120 is returned to the normal state. At this time, the state control unit (operation unit) 301 preferentially activates the processing units related to face authentication among the processing units of the operation unit 120 over other processing units.

一例として、状態制御部(操作部)301は、操作部120を省電力状態から通常状態へ復帰させるとき、操作部120に含まれる各処理部のうち、撮像部302(カメラ103)、及び抽出部303を、他の処理部より優先的に起動させる。   As an example, when returning the operation unit 120 from the power saving state to the normal state, the state control unit (operation unit) 301 extracts the imaging unit 302 (camera 103) and the extraction from among the processing units included in the operation unit 120. The unit 303 is activated with priority over other processing units.

また、別の一例として、状態制御部(操作部)301は、操作部120を省電力状態から通常状態へ復帰させるとき、操作部120に含まれる各処理部のうち、撮像部302、抽出部303、及び生体認証部304を、他の処理部より優先的に起動させる。   As another example, when the state control unit (operation unit) 301 returns the operation unit 120 from the power saving state to the normal state, among the processing units included in the operation unit 120, the imaging unit 302, the extraction unit, and the like. 303 and the biometric authentication unit 304 are activated with priority over other processing units.

撮像部302は、例えば、図2のカメラ103、又はカメラ103が備えるマイコンで実行されるプログラム等によって実現され、利用者105の顔認証に用いる、利用者105の画像を撮像する。   The imaging unit 302 is realized by, for example, the camera 103 in FIG. 2 or a program executed by the microcomputer included in the camera 103 and captures an image of the user 105 used for face authentication of the user 105.

例えば、画像形成装置101が備えるカメラ103は、画像形成装置101の操作部120を操作する利用者105が、撮像部302が撮像する画像に収まるように設置されており、撮像部302は、カメラ103を用いて継続的に画像を撮像する。   For example, the camera 103 included in the image forming apparatus 101 is installed so that the user 105 who operates the operation unit 120 of the image forming apparatus 101 can be accommodated in an image captured by the imaging unit 302. An image is continuously captured using 103.

抽出部303は、例えば、図2のCPU121で実行されるプログラム(顔認証処理を実行する顔認証アプリ等)によって実現され、撮像部302が撮像した利用者105の画像から、利用者105の顔認証に用いる顔の特徴情報を抽出する。   The extraction unit 303 is realized by, for example, a program executed by the CPU 121 in FIG. 2 (such as a face authentication application that performs face authentication processing), and the user 105's face is extracted from the image of the user 105 captured by the imaging unit 302. Extract facial feature information used for authentication.

例えば、抽出部303は、撮像部302が撮像した画像から、利用者105の顔の輪郭、目、鼻、等のパーツを、公知のパターンマッチング技術を用いて検出して、利用者105の顔画像を検出すると共に、検出された顔画像から顔の特徴情報を抽出する。ここで、顔の特徴情報は、顔認証において利用者の照合に用いる特徴量(例えば、目、鼻、口等に共通する特徴を表す情報)であり、公知の様々な特徴情報を適用することができる。   For example, the extraction unit 303 detects parts such as a contour of the user's 105 face, eyes, and nose from the image captured by the imaging unit 302 using a known pattern matching technique, and detects the face of the user 105. In addition to detecting an image, facial feature information is extracted from the detected face image. Here, the face feature information is a feature amount (for example, information representing features common to eyes, nose, mouth, etc.) used for user verification in face authentication, and various known feature information is applied. Can do.

本実施形態では、利用する特徴情報の種類を特に限定しないが、例えば、公知のHaar−Like特徴量等を用いて抽出することができる。このとき、抽出部303は、検出された顔画像から、顔の各パーツの特徴量を抽出し、数値化する。この特徴量の抽出時には、例えば、顔画像の左上側のパーツから順次に数値化する等、顔画像の端から順次に数値化するため、特徴情報の抽出時間には時間を要する。   In the present embodiment, the type of feature information to be used is not particularly limited. For example, the feature information can be extracted using a known Haar-Like feature amount or the like. At this time, the extraction unit 303 extracts the feature amount of each part of the face from the detected face image and digitizes it. When extracting the feature amount, for example, the feature information is sequentially digitized from the edge of the face image, such as sequentially digitizing from the upper left part of the face image.

そのため、操作部120を起動させるとき、顔の特徴情報の抽出に用いられる、撮像部302(カメラ103)、及び抽出部303を優先的に起動させ、他の処理の起動処理を抑制させることが望ましい。   Therefore, when the operation unit 120 is activated, the imaging unit 302 (camera 103) and the extraction unit 303, which are used for extracting facial feature information, are activated preferentially, and activation processing of other processes can be suppressed. desirable.

生体認証部304は、例えば、図2のCPU121で実行されるプログラム(生体認証処理を実行する生体認証アプリ等)によって実現され、予め登録された顔の特徴情報と、抽出部303が抽出した顔の特徴情報とを用いて、利用者105の顔認証を行う。   The biometric authentication unit 304 is realized by, for example, a program (such as a biometric authentication application that executes biometric authentication processing) executed by the CPU 121 in FIG. 2, and facial feature information registered in advance and the face extracted by the extraction unit 303 The face authentication of the user 105 is performed using the feature information.

例えば、生体認証部304は、利用者情報に予め登録された顔の特徴情報の各々と、抽出部303が抽出した顔の特徴情報との類似度を算出し、算出された類似度が閾値以上である場合、利用者105の顔認証を許可する。また、生体認証部304は、算出された類似度が閾値未満である場合、利用者105の顔認証を拒否する。   For example, the biometric authentication unit 304 calculates the similarity between each of the facial feature information registered in advance in the user information and the facial feature information extracted by the extraction unit 303, and the calculated similarity is equal to or greater than a threshold value. If it is, the face authentication of the user 105 is permitted. Also, the biometric authentication unit 304 rejects the face authentication of the user 105 when the calculated similarity is less than the threshold.

なお、生体認証部304は、任意の顔認証方式(例えば、特許文献1に開示された技術等)を用いて、利用者105の顔認証を行うものであって良い。また、顔認証は生体認証の一例である。生体認証部304は、撮像部302が撮像した利用者105の画像から、抽出部303が抽出した生体の特徴情報を用いて、利用者105の生体認証を行うものであれば、顔認証以外の生体認証(例えば、虹彩認証、歩容認証等)を行うものであっても良い。   Note that the biometric authentication unit 304 may perform face authentication of the user 105 using an arbitrary face authentication method (for example, the technique disclosed in Patent Document 1). Face authentication is an example of biometric authentication. If the biometric authentication unit 304 performs biometric authentication of the user 105 using the biometric feature information extracted by the extraction unit 303 from the image of the user 105 captured by the imaging unit 302, the biometric authentication unit 304 is not limited to face authentication. Biometric authentication (for example, iris authentication, gait authentication, etc.) may be performed.

認証情報取得部306は、例えば、図2のICカードリーダ106、又はICカードリーダ106が備えるマイコンで実行されるプログラム等によって実現され、利用者105のICカード認証に用いるカードID等の認証情報を、ICカード104から取得する。   The authentication information acquisition unit 306 is realized by, for example, the IC card reader 106 in FIG. 2 or a program executed by the microcomputer included in the IC card reader 106, and authentication information such as a card ID used for the IC card authentication of the user 105 Is obtained from the IC card 104.

例えば、ICカードリーダ106は、NFC(Near Field Communication)等の近距離無線通信により、ICカードリーダ106から所定の距離以内(例えば、5cm以内)に近接したICカード104から、カードIDを受信する。   For example, the IC card reader 106 receives a card ID from the IC card 104 that is close to the IC card reader 106 within a predetermined distance (for example, within 5 cm) by near field communication such as NFC (Near Field Communication). .

所持物認証部307は、例えば、CPU121で実行されるプログラム(所持物認証処理を実行する所持物認証アプリ等)によって実現され、予め登録された認証情報と、認証情報取得部306が取得した認証情報とを用いて、利用者105の所持物認証を行う。   The belongings authenticating unit 307 is realized by, for example, a program executed by the CPU 121 (a belongings authenticating application or the like that executes the belongings authenticating process), and the authentication information registered in advance and the authentication acquired by the authentication information acquiring unit 306. Using the information, the belongings of the user 105 are authenticated.

例えば、所持物認証部307は、利用者105が所持するICカード104から取得したカードIDが、予め登録された利用者情報に含まれる場合、利用者105のカード認証(所持物認証の一例)を許可する。また、所持物認証部307は、利用者105が所持するICカード104から取得したカードIDが、予め登録された利用者情報に含まれない場合、利用者105のカード認証を拒否する。   For example, when the card ID acquired from the IC card 104 possessed by the user 105 is included in the user information registered in advance, the personal belonging authentication unit 307 performs card authentication of the user 105 (an example of possession authentication). Allow. Also, the possessed item authentication unit 307 rejects the card authentication of the user 105 when the card ID acquired from the IC card 104 possessed by the user 105 is not included in the user information registered in advance.

なお、カード認証は所持物認証の一例である。所持物認証部307は、認証情報取得部306が、利用者105が所持する所持物から取得した認証情報を用いて、利用者105の所持物認証を行うものであれば、カード認証以外の所持物認証を行うものであっても良い。   Card authentication is an example of belongings authentication. If the authentication information acquisition unit 306 performs authentication of the possession of the user 105 using the authentication information acquired from the possession possessed by the user 105, the possession authentication unit 307 possesses other than card authentication. It may be one that performs object authentication.

利用制御部305は、例えば、図2のCPU121で実行されるプログラム(システムアプリ等)によって実現され、生体認証部304による顔認証の結果に基づいて、利用者105による画像形成装置101(又は操作部120)の利用を許可する。   The use control unit 305 is realized by, for example, a program (system application or the like) executed by the CPU 121 in FIG. 2, and based on the result of face authentication by the biometric authentication unit 304, the image forming apparatus 101 (or operation by the user 105). Part 120).

一例として、利用制御部305は、生体認証部304による顔認証が許可された利用者105と、所持物認証部307によるカード認証が許可された利用者105とが同じ利用者105である場合、利用者105による画像形成装置101の利用を許可する。   As an example, the usage control unit 305 is configured such that the user 105 permitted to perform face authentication by the biometric authentication unit 304 and the user 105 permitted to perform card authentication by the belongings authentication unit 307 are the same user 105. The user 105 is permitted to use the image forming apparatus 101.

別の一例として、利用制御部305は、生体認証部304による顔認証が許可された利用者105による画像形成装置101の利用を許可するものであっても良い。   As another example, the usage control unit 305 may permit the use of the image forming apparatus 101 by the user 105 permitted to perform face authentication by the biometric authentication unit 304.

利用者情報管理部308は、例えば、図2のCPU121で実行されるプログラム(システムアプリ等)によって実現され、例えば、図4(a)に示すような利用者情報a313を、記憶部312に記憶して、管理する。   The user information management unit 308 is realized by, for example, a program (system application or the like) executed by the CPU 121 in FIG. 2. For example, user information a 313 as illustrated in FIG. 4A is stored in the storage unit 312. And manage.

図4(a)は、利用者情報a313の一例を示している。利用者情報a313には、予め登録された利用者の情報が記憶されており、画像形成装置101は、利用者情報a313、及び本体110の利用者情報A327に登録されている利用者に、画像形成装置101の利用を許可する。   FIG. 4A shows an example of user information a313. The user information a313 stores user information registered in advance, and the image forming apparatus 101 transmits an image to the user information a313 and the user registered in the user information A327 of the main body 110. The use of the forming apparatus 101 is permitted.

なお、操作部120の利用者情報a313は、本体110の利用者情報A327と同じ情報であっても良いし、本体110の利用者情報A327の一部であっても良い。ここでは、説明を容易にするため、操作部120の利用者情報a313には、本体110の利用者情報A327と同じ情報が記憶されているものとして、以下の説明を行う。   The user information a313 of the operation unit 120 may be the same information as the user information A327 of the main body 110, or may be a part of the user information A327 of the main body 110. Here, for ease of explanation, the following explanation will be given assuming that the same information as the user information A327 of the main body 110 is stored in the user information a313 of the operation unit 120.

図4(a)に示す利用者情報a313には、「アドレス帳番号」、「ユーザ名」、「メールアドレス」、「ログインID」、「パスワード」、「カードID」、「顔の特徴情報」等の情報が記憶されている。   The user information a313 shown in FIG. 4A includes “address book number”, “user name”, “mail address”, “login ID”, “password”, “card ID”, and “face feature information”. Etc. are stored.

「アドレス帳番号」は、複数のデータ(データ1、データ2、・・・、データn)を識別するための識別番号である。「ユーザ名」は、例えば、各利用者の名前等の情報である。「メールアドレス」は、各利用者のメールアドレスである。   The “address book number” is an identification number for identifying a plurality of data (data 1, data 2,..., Data n). “User name” is information such as the name of each user, for example. “Mail address” is the mail address of each user.

「ログインID」は、各利用者がログイン情報の入力によって画像形成装置101にログインする場合に用いられる、利用者毎に固有の識別情報である。「ログインパスワード」は、各利用者が、ログイン情報の入力によって画像形成装置101にログインする場合のパスワードである。   The “login ID” is identification information unique to each user and used when each user logs in to the image forming apparatus 101 by inputting login information. The “login password” is a password when each user logs in to the image forming apparatus 101 by inputting login information.

「カードID」は、各利用者が所持するICカード104を識別するための識別情報であり、カード認証で用いられる認証情報の一例である。   “Card ID” is identification information for identifying the IC card 104 possessed by each user, and is an example of authentication information used in card authentication.

「顔の特徴情報」は、顔認証で用いられる、各利用者の顔の特徴情報であり、生体認証で用いられる生体の特徴情報の一例である。   “Face feature information” is face feature information of each user used in face authentication, and is an example of biometric feature information used in biometric authentication.

ここで、図3に戻り、操作部120の機能構成の説明を続ける。   Here, returning to FIG. 3, the description of the functional configuration of the operation unit 120 is continued.

表示入力制御部309は、例えば、図2のCPU121で実行されるプログラムによって実現され、操作パネル126に表示画面を表示させる制御、及び操作パネル126に対する入力操作を受け付ける制御等を実行する。   The display input control unit 309 is realized by, for example, a program executed by the CPU 121 in FIG. 2, and executes control for displaying a display screen on the operation panel 126, control for receiving an input operation on the operation panel 126, and the like.

設定管理部310は、例えば、図2のCPU121で実行されるプログラム(システムアプリ等)によって実現され、例えば、記憶部312に記憶される優先度情報314、認証設定情報315等の設定情報を管理する。なお、優先度情報314、及び認証設定情報315については後述する。   The setting management unit 310 is realized by, for example, a program (system application or the like) executed by the CPU 121 in FIG. 2 and manages setting information such as priority information 314 and authentication setting information 315 stored in the storage unit 312, for example. To do. The priority information 314 and the authentication setting information 315 will be described later.

通信部311は、例えば、図2のCPU121で実行されるプログラム(システムアプリ等)、及び接続I/F127によって実現され、本体110との通信を行う。   The communication unit 311 is realized by, for example, a program (system application or the like) executed by the CPU 121 in FIG. 2 and the connection I / F 127, and performs communication with the main body 110.

記憶部312は、例えば、図2のCPU121で実行されるプログラム(OS等)、及びフラッシュメモリ124、RAM123等によって実現され、前述した利用者情報a313、優先度情報314、及び認証設定情報315等の様々な情報を記憶する。   The storage unit 312 is realized by, for example, a program (OS or the like) executed by the CPU 121 of FIG. 2, the flash memory 124, the RAM 123, and the like, and the above-described user information a313, priority information 314, authentication setting information 315, and the like. Memorize various information.

なお、図3に示す画像形成装置101の機能構成は一例である。例えば、操作部120に含まれる機能構成のうちの少なくとも一部は、本体110に含まれていても良い。また、本体110に含まれる機能構成のうちの少なくとも一部は、操作部120に含まれていても良い。さらに、図3に示す各機能構成のうち、少なくとも一部はハードウェアによって実現されるものであっても良い。   The functional configuration of the image forming apparatus 101 illustrated in FIG. 3 is an example. For example, at least a part of the functional configuration included in the operation unit 120 may be included in the main body 110. Further, at least a part of the functional configuration included in the main body 110 may be included in the operation unit 120. Furthermore, at least a part of each functional configuration shown in FIG. 3 may be realized by hardware.

<処理の流れ>
続いて、本実施形態に係る情報処理システム100における利用者105の認証方法の流れについて説明する。
<Process flow>
Subsequently, a flow of an authentication method for the user 105 in the information processing system 100 according to the present embodiment will be described.

[第1の実施形態]
(操作部の起動処理の流れ)
図5は、第1の実施形態に係る操作部の認証処理の例を示すフローチャートである。この処理は、省電力状態において、接近検知部321(人体検知センサ102)が利用者105の接近を検知したときに、操作部120が実行する起動処理の一例を示している。
[First Embodiment]
(Operation unit startup process flow)
FIG. 5 is a flowchart illustrating an example of the authentication process of the operation unit according to the first embodiment. This process shows an example of a startup process executed by the operation unit 120 when the approach detection unit 321 (human body detection sensor 102) detects the approach of the user 105 in the power saving state.

ステップS501において、画像形成装置101の接近検知部321が、利用者の接近を検知すると、操作部120は、ステップS502以降の処理を実行する。   In step S501, when the approach detection unit 321 of the image forming apparatus 101 detects the approach of the user, the operation unit 120 executes the processing after step S502.

ステップS502において、状態制御部(操作部)301は、画像形成装置101の認証の設定が有効であるか否かを判断する。例えば、状態制御部(操作部)301は、記憶部312に記憶された認証設定情報315を参照して、画像形成装置101の認証の設定が有効であるか否かを判断する。   In step S <b> 502, the state control unit (operation unit) 301 determines whether the authentication setting of the image forming apparatus 101 is valid. For example, the state control unit (operation unit) 301 refers to the authentication setting information 315 stored in the storage unit 312 and determines whether the authentication setting of the image forming apparatus 101 is valid.

図4(c)は、認証設定情報315の一例を示している。図4(c)の例では、認証設定情報315には、項目として「認証設定」、「実行する認証処理」等の情報が含まれている。   FIG. 4C shows an example of the authentication setting information 315. In the example of FIG. 4C, the authentication setting information 315 includes items such as “authentication setting” and “authentication processing to be executed” as items.

「認証設定」は、画像形成装置101で、利用者105の認証を行うか否かを示す情報である。「認証設定」が、「有効」である場合、利用者105の認証を行うことを示しており、「無効」である場合、利用者105の認証を行わないことを示している。   “Authentication setting” is information indicating whether or not the image forming apparatus 101 authenticates the user 105. When the “authentication setting” is “valid”, it indicates that the user 105 is authenticated, and when it is “invalid”, the user 105 is not authenticated.

「実行する認証処理」は、「認証設定」が有効である場合に、画像形成装置101で実行する認証処理を示しており、図4(c)の例では、顔認証とカード認証(ICカード認証)を実行することが示されている。   “Authentication processing to be executed” indicates authentication processing executed by the image forming apparatus 101 when “authentication setting” is valid. In the example of FIG. 4C, face authentication and card authentication (IC card) are shown. Authentication) is performed.

状態制御部(操作部)301は、認証設定情報315の「認証設定」により、画像形成装置101の認証の設定が有効であるか否かを判断することができる。   The state control unit (operation unit) 301 can determine whether the authentication setting of the image forming apparatus 101 is valid based on “authentication setting” of the authentication setting information 315.

画像形成装置101の認証の設定が有効である場合、状態制御部(操作部)301は、処理を図5のステップS503に移行させる。一方、画像形成装置101の認証の設定が有効でない場合、状態制御部(操作部)301は、処理を図5のステップS508に移行させる。   If the authentication setting of the image forming apparatus 101 is valid, the state control unit (operation unit) 301 shifts the processing to step S503 in FIG. On the other hand, when the authentication setting of the image forming apparatus 101 is not valid, the state control unit (operation unit) 301 shifts the processing to step S508 in FIG.

ステップS503に移行すると、状態制御部(操作部)301は、操作部120の各処理部のうち、撮像部302、及び抽出部303を優先的に起動させる。   In step S503, the state control unit (operation unit) 301 preferentially activates the imaging unit 302 and the extraction unit 303 among the processing units of the operation unit 120.

ステップS504において、撮像部302は、カメラ103で利用者105の画像を撮像する。   In step S <b> 504, the imaging unit 302 captures an image of the user 105 with the camera 103.

ステップS505において、抽出部303は、撮像部302によって撮像された画像から、顔の特徴情報を抽出する。   In step S <b> 505, the extraction unit 303 extracts facial feature information from the image captured by the imaging unit 302.

ステップS506において、状態制御部(操作部)301は、ステップS505における顔の特徴情報の抽出に応じて、撮像部302、及び抽出部303以外の各処理部を起動させる。なお、ステップ506の処理は、ステップS505の処理が完了する前に開始されるものであっても良い。   In step S506, the state control unit (operation unit) 301 activates each processing unit other than the imaging unit 302 and the extraction unit 303 in accordance with the extraction of the facial feature information in step S505. Note that the process of step 506 may be started before the process of step S505 is completed.

好ましくは、状態制御部(操作部)301は、抽出部303が、少なくとも1つの顔の特徴情報を抽出した後に、ステップS506の処理を実行する。   Preferably, the state control unit (operation unit) 301 executes the process of step S506 after the extraction unit 303 extracts at least one facial feature information.

ステップS507において、操作部120は、記憶部312に記憶された認証設定情報315に従って、認証処理を実行する。   In step S <b> 507, the operation unit 120 executes an authentication process according to the authentication setting information 315 stored in the storage unit 312.

一方、ステップS502から、ステップS508に移行すると、状態制御部(操作部)301は、撮像部302、及び抽出部303を優先的に起動させる処理を中止して、通常通り、操作部120の各処理部を起動させる。   On the other hand, when the process proceeds from step S502 to step S508, the state control unit (operation unit) 301 cancels the processing for preferentially starting the imaging unit 302 and the extraction unit 303, and each of the operation units 120 is performed as usual. Start the processing unit.

図6は、第1の実施形態に係る各デバイスの検知範囲のイメージを示す図である。図6において、人体検知センサ102の検知範囲601は、一例として、画像形成装置101の前方(図6の下方向)半径2m程度の領域であるものとする。また、カメラ103の撮像範囲602は、一例として、画像形成装置101の前方60cm程度の範囲であるものとする。さらに、ICカードリーダ106の読取範囲603は、一例として、ICカードリーダ106の上方5cm程度の範囲であるものとする。   FIG. 6 is a diagram illustrating an image of a detection range of each device according to the first embodiment. In FIG. 6, a detection range 601 of the human body detection sensor 102 is, for example, a region having a radius of about 2 m in front of the image forming apparatus 101 (downward in FIG. 6). In addition, the imaging range 602 of the camera 103 is, for example, a range of about 60 cm in front of the image forming apparatus 101. Furthermore, the reading range 603 of the IC card reader 106 is assumed to be a range of about 5 cm above the IC card reader 106 as an example.

この場合、画像形成装置101は、人体検知センサ102の検知範囲601に入った利用者105が、カメラ103の撮像範囲602に達するまでに、顔認証処理、又は顔の特徴情報の抽出処理を開始できるように起動していることが望ましい。   In this case, the image forming apparatus 101 starts face authentication processing or face feature information extraction processing until the user 105 entering the detection range 601 of the human body detection sensor 102 reaches the imaging range 602 of the camera 103. It is desirable to be able to start up.

そこで、本実施形態に係る操作部120は、図5に示す起動処理により、認証の設定が有効である場合、顔認証処理、又は顔の特徴情報の抽出処理を実行する撮像部302、及び抽出部303を優先的に起動させる。   Therefore, the operation unit 120 according to the present embodiment includes an imaging unit 302 that executes face authentication processing or facial feature information extraction processing when the authentication setting is valid by the activation processing illustrated in FIG. The unit 303 is activated preferentially.

さらに、操作部120は、抽出部303が少なくとも1つの顔の特徴情報を抽出するまで、他の処理部の起動を保留させることにより、抽出部303による顔の特徴情報の抽出処理を高速化させることができる。   Further, the operation unit 120 speeds up the extraction process of facial feature information by the extraction unit 303 by deferring activation of other processing units until the extraction unit 303 extracts at least one facial feature information. be able to.

(顔認証処理)
図7は、第1の実施形態に係る顔認証処理の例を示すフローチャートである。この処理は、図5のステップS507で実行される認証処理の一例である。第1の実施形態では、認証処理として、生体認証部304が利用者105の顔認証を行うものとする。
(Face recognition processing)
FIG. 7 is a flowchart illustrating an example of face authentication processing according to the first embodiment. This process is an example of the authentication process executed in step S507 in FIG. In the first embodiment, it is assumed that the biometric authentication unit 304 performs face authentication of the user 105 as authentication processing.

ステップS701において、生体認証部304は、予め登録された顔の特徴情報を取得する。例えば、生体認証部304は、図4(a)に示されるような利用者情報a313を、記憶部312から取得する。   In step S701, the biometric authentication unit 304 acquires facial feature information registered in advance. For example, the biometric authentication unit 304 acquires user information a313 as illustrated in FIG.

ステップS702において、生体認証部304は、抽出部303から、抽出された利用者105の顔の特徴情報を取得する。なお、ステップS702の処理は、ステップS701の処理の前に実行されるものであっても良い。   In step S <b> 702, the biometric authentication unit 304 acquires the extracted facial feature information of the user 105 from the extraction unit 303. Note that the process of step S702 may be executed before the process of step S701.

ステップS703〜S709において、生体認証部304は、予め登録された顔の特徴情報の各々と、抽出部303で抽出された顔の特徴情報とを照合して、顔認証処理を実行する。   In steps S <b> 703 to S <b> 709, the biometric authentication unit 304 collates each face feature information registered in advance with the face feature information extracted by the extraction unit 303 and executes face authentication processing.

例えば、ステップS703において、変数iを「1」に設定する。   For example, in step S703, the variable i is set to “1”.

ステップS704において、生体認証部304は、予め登録された顔の特徴情報のうち、i番目の顔の特徴情報と、抽出部303で抽出された顔の特徴情報との類似度を算出する。   In step S <b> 704, the biometric authentication unit 304 calculates the degree of similarity between the i-th facial feature information among the facial feature information registered in advance and the facial feature information extracted by the extraction unit 303.

ステップS705において、生体認証部304は、算出された類似度が閾値以上であるか否かに応じて、処理を分岐させる。   In step S705, the biometric authentication unit 304 branches the process depending on whether the calculated similarity is equal to or greater than a threshold value.

算出された類似度が閾値以上である場合、生体認証部304は、処理をステップS706に移行させて、利用者105の顔認証を許可する。一方、算出された類似度が閾値以上でない場合、生体認証部304は、処理をステップS707に移行させる。   If the calculated similarity is greater than or equal to the threshold, the biometric authentication unit 304 shifts the process to step S706 to permit face authentication of the user 105. On the other hand, if the calculated similarity is not greater than or equal to the threshold, the biometric authentication unit 304 causes the process to proceed to step S707.

ステップS707に移行すると、生体認証部304は、iの値が、予め登録された特徴情報(利用者情報)の数であるiMaxに達したかを判断する。   In step S707, the biometric authentication unit 304 determines whether the value of i has reached iMax, which is the number of feature information (user information) registered in advance.

iの値がiMaxに達した場合、生体認証部304は、処理をステップS708に移行させて、利用者105の顔認証を拒否する。一方、iの値がiMaxに達していない場合、生体認証部304は、処理をステップS709に移行させる。   When the value of i reaches iMax, the biometric authentication unit 304 moves the process to step S708 and rejects the face authentication of the user 105. On the other hand, if the value of i has not reached iMax, the biometric authentication unit 304 causes the process to proceed to step S709.

ステップS709に移行すると、生体認証部304は、iの値に1を加算して、処理をステップS704に戻す。これにより、予め登録された顔の特徴情報の各々に対して、ステップS704〜S708に示す顔認証処理が実行される。   In step S709, the biometric authentication unit 304 adds 1 to the value of i and returns the process to step S704. As a result, the face authentication process shown in steps S704 to S708 is executed for each of the facial feature information registered in advance.

なお、図7に示す顔認証処理は一例である。生体認証部304は、抽出部303が抽出した利用者105の顔の特徴情報を用いて、利用者の顔認証を行うものであれば、任意の顔認証処理を適用することができる。   Note that the face authentication process shown in FIG. 7 is an example. The biometric authentication unit 304 can apply any face authentication process as long as it performs user face authentication using the facial feature information of the user 105 extracted by the extraction unit 303.

(省電力状態への移行処理)
図8は、第1の実施形態に係る省電力状態への移動処理の例を示すシーケンス図である。この処理は、画像形成装置101が、所定の処理を実行可能な通常状態から、通常状態より消費電力が少ない省電力状態へ移行する移行処理の一例を示している。
(Transition process to power saving state)
FIG. 8 is a sequence diagram illustrating an example of the movement process to the power saving state according to the first embodiment. This process is an example of a transition process in which the image forming apparatus 101 shifts from a normal state in which a predetermined process can be performed to a power saving state in which the power consumption is lower than that in the normal state.

ステップS801において、画像形成装置101は、例えば、状態制御部(本体)801が省電力状態への移行条件が成立したことを検知すると、ステップS802以降の省電力状態への移行処理を実行する。なお、省電力状態への移行条件には、例えば、予め設定された時間を超えて、画像形成装置101の利用がない場合、利用者105の操作により省電力状態への移行が指示された場合等が含まれる。   In step S801, for example, when the state control unit (main body) 801 detects that the condition for shifting to the power saving state is satisfied, the image forming apparatus 101 executes processing for shifting to the power saving state after step S802. Note that the transition condition to the power saving state includes, for example, when the image forming apparatus 101 is not used for a preset time and when the user 105 is instructed to shift to the power saving state. Etc. are included.

ステップS802において、状態制御部(本体)801は、操作部120に省電力状態への移行を要求する省電力移行要求を送信する。   In step S <b> 802, the state control unit (main body) 801 transmits a power saving shift request for requesting the operation unit 120 to shift to the power saving state.

ステップS803、S804において、状態制御部(本体)801は、本体110を省電力状態に移行させる。   In steps S803 and S804, the state control unit (main body) 801 shifts the main body 110 to the power saving state.

例えば、ステップS803において、状態制御部(本体)801は、ストレージ部114を省電力状態に移行させる。一例として、状態制御部(本体)801は、ストレージ部114に書込中のデータの書込処理が終了したことを確認した後、ストレージ部114への電源をオフさせる。   For example, in step S803, the state control unit (main body) 801 shifts the storage unit 114 to the power saving state. As an example, the state control unit (main body) 801 turns off the power supply to the storage unit 114 after confirming that the process of writing data being written to the storage unit 114 is completed.

ステップS804において、状態制御部(本体)801は、エンジン部117を省電力状態へ移行させる。一例として、状態制御部(本体)801は、画像形成部323により実行中の画像処理が終了したことを確認した後、エンジン部117への電源をオフさせる。なお、ステップS803、S804の処理は、ステップS802の処理の前に実行されるものであっても良いし、ステップS802の処理と並行して実行されるものであっても良い。   In step S804, the state control unit (main body) 801 shifts the engine unit 117 to the power saving state. As an example, the state control unit (main body) 801 turns off the power to the engine unit 117 after confirming that the image processing being executed by the image forming unit 323 is completed. Note that the processing in steps S803 and S804 may be executed before the processing in step S802, or may be executed in parallel with the processing in step S802.

状態制御部(操作部)301は、本体110からの省電力移行要求を受付すると、ステップS805以降の処理を実行して、操作部120を省電力状態に移行させる。   When the state control unit (operation unit) 301 receives the power saving transition request from the main body 110, the state control unit (operation unit) 301 executes the processing after step S <b> 805 to shift the operation unit 120 to the power saving state.

例えば、ステップS805において、状態制御部(操作部)301は、撮像部302に、省電力状態への移行を指示する省電力移行指示を通知する。   For example, in step S805, the state control unit (operation unit) 301 notifies the imaging unit 302 of a power saving transition instruction for instructing a transition to the power saving state.

ステップS806において、撮像部302は、省電力移行要求を受付すると、例えば、カメラ103の電源をオフして、撮像部302を省電力状態に移行させる。   In step S806, when the imaging unit 302 receives the power saving transition request, for example, the power of the camera 103 is turned off to cause the imaging unit 302 to transition to the power saving state.

ステップS807において、状態制御部(操作部)301は、抽出部303に、省電力状態への移行を指示する省電力移行指示を通知する。   In step S <b> 807, the state control unit (operation unit) 301 notifies the extraction unit 303 of a power saving transition instruction that instructs to shift to the power saving state.

ステップS808において、抽出部303は、省電力移行要求を受付すると、省電力状態に移行する(例えば、動作を停止する)。   In step S808, when the extraction unit 303 receives a power saving transition request, the extraction unit 303 transitions to a power saving state (for example, stops operation).

ステップS809において、状態制御部(操作部)301は、生体認証部304に、省電力状態への移行を指示する省電力移行指示を通知する。   In step S809, the state control unit (operation unit) 301 notifies the biometric authentication unit 304 of a power saving transition instruction that instructs to shift to the power saving state.

ステップS810において、生体認証部304は、省電力移行要求を受付すると、省電力状態に移行する(例えば、動作を停止する)。   In step S810, when the biometric authentication unit 304 receives the power saving transition request, the biometric authentication unit 304 transitions to the power saving state (for example, stops the operation).

ステップS811において、状態制御部(操作部)301は、利用制御部305に、省電力状態への移行を指示する省電力移行指示を通知する。   In step S <b> 811, the state control unit (operation unit) 301 notifies the usage control unit 305 of a power saving transition instruction that instructs to shift to the power saving state.

ステップS812において、利用制御部305は、省電力移行要求を受付すると、省電力状態に移行する(例えば、動作を停止する)。   In step S812, upon receiving a power saving transition request, the usage control unit 305 shifts to a power saving state (for example, stops operation).

ステップS813において、状態制御部(操作部)301は、同様にして、他の各ブロック(処理部)を省電力状態に移行させる。   In step S813, the state control unit (operation unit) 301 similarly shifts each other block (processing unit) to the power saving state.

ステップS814において、画像形成装置101は、省電力状態となる。   In step S814, the image forming apparatus 101 enters a power saving state.

なお、図8に示す省電力状態への移行処理は一例であり、状態制御部(操作部)301が、各処理部を起動させる順序は、図8に示す処理とは異なる順序であっても良い。   The transition process to the power saving state illustrated in FIG. 8 is an example, and the order in which the state control unit (operation unit) 301 starts each processing unit may be different from the process illustrated in FIG. good.

(省電力状態からの認証処理)
図9は、第1の実施形態に係る省電力状態からの認証処理の一例を示すシーケンス図である。この処理は、図8に示す省電力状態への移行処理により、省電力状態にある画像形成装置101が、利用者105を認証する場合の認証処理の一例を示している。なお、図9において、破線の矢印は、利用者105による動作、又は操作を示すものとする。
(Authentication process from power saving state)
FIG. 9 is a sequence diagram illustrating an example of authentication processing from the power saving state according to the first embodiment. This process shows an example of an authentication process when the image forming apparatus 101 in the power saving state authenticates the user 105 by the process of shifting to the power saving state shown in FIG. Note that in FIG. 9, a broken-line arrow indicates an operation or operation by the user 105.

ステップS901において、利用者105が、人体検知センサ102の検知範囲601まで接近するものとする。   In step S901, it is assumed that the user 105 approaches the detection range 601 of the human body detection sensor 102.

ステップS902、S903において、本体110の接近検知部321は、利用者105の接近を検知すると、利用者105の接近を検知したことを示す接近通知を、状態制御部(本体)322に通知する。   In steps S <b> 902 and S <b> 903, when detecting the approach of the user 105, the approach detection unit 321 of the main body 110 notifies the state control unit (main body) 322 of an approach notification indicating that the approach of the user 105 has been detected.

ステップS904において、状態制御部(本体)322は、接近検知部321からの接近通知を受付すると、操作部120に、起動を要求する起動要求を送信する。   In step S <b> 904, when the state control unit (main body) 322 receives an approach notification from the approach detection unit 321, the state control unit (main body) 322 transmits an activation request that requests activation to the operation unit 120.

ステップS905において、状態制御部(本体)322は、例えば、図8のステップS803、S804で省電力状態に移行させたストレージ部114、エンジン部117等を起動させることにより、本体110を通常状態に復帰させる。   In step S905, the state control unit (main body) 322, for example, activates the storage unit 114, the engine unit 117, and the like that have been shifted to the power saving state in steps S803 and S804 in FIG. Return.

ステップS906において、状態制御部(操作部)301は、本体110から起動要求を受付すると、例えば、図4(c)に示すような認証設定情報315を参照して、画像形成装置101の認証の設定が有効であるか否かを判断する。この処理は、図5のステップS502の処理に対応している。ここでは、認証の設定が有効であるものとして、以下の説明を行う。   In step S906, when the state control unit (operation unit) 301 receives the activation request from the main body 110, for example, the authentication setting information 315 as illustrated in FIG. Determine whether the setting is valid. This process corresponds to the process in step S502 of FIG. Here, the following description will be given on the assumption that the authentication setting is valid.

ステップS907、S908において、状態制御部(操作部)301は、一例として、撮像部302、及び抽出部303を、優先的に起動させる。   In steps S907 and S908, the state control unit (operation unit) 301 preferentially activates the imaging unit 302 and the extraction unit 303, for example.

ステップS909において、撮像部302は、省電力状態から復帰し、利用者105の画像を撮像する。   In step S909, the imaging unit 302 recovers from the power saving state and captures an image of the user 105.

ステップS910において、撮像部302は、撮像した利用者105の画像を、抽出部303に通知する。或いは、撮像部302は、撮像した利用者105の画像を、記憶部312の所定のエリアに記憶するものであっても良い。   In step S <b> 910, the imaging unit 302 notifies the extraction unit 303 of the captured image of the user 105. Alternatively, the imaging unit 302 may store the captured image of the user 105 in a predetermined area of the storage unit 312.

ステップS911において、抽出部303は、撮像部302が撮像した利用者105の画像から、顔の特徴情報を抽出する。   In step S911, the extraction unit 303 extracts facial feature information from the image of the user 105 captured by the imaging unit 302.

ステップS912において、抽出部303は、少なくとも1つの顔の特徴情報が抽出されると、顔の特徴情報が抽出されたことを示す抽出通知を、状態制御部(操作部)301に通知する。   In step S912, when at least one face feature information is extracted, the extraction unit 303 notifies the state control unit (operation unit) 301 of an extraction notification indicating that the face feature information has been extracted.

ステップS913において、状態制御部(操作部)301は、抽出部303から抽出通知を受け付けると、生体認証部304を起動させると共に、ステップS914において、他の処理部を起動させる。   In step S913, when receiving the extraction notification from the extraction unit 303, the state control unit (operation unit) 301 activates the biometric authentication unit 304 and activates another processing unit in step S914.

ステップS915において、操作部120は省電力状態から通常状態に復帰し、本体110と接続する。   In step S <b> 915, the operation unit 120 returns from the power saving state to the normal state and is connected to the main body 110.

ステップS916、S917において、生体認証部304は、記憶部312に記憶された利用者情報a313から、予め登録された顔の特徴情報を取得すると共に、抽出部303で抽出された顔の特徴情報を取得する。なお、この処理は、例えば、図7のステップS701、S702の処理に対応している。   In steps S <b> 916 and S <b> 917, the biometric authentication unit 304 acquires facial feature information registered in advance from the user information a <b> 313 stored in the storage unit 312, and uses the facial feature information extracted by the extraction unit 303. get. This process corresponds to, for example, the processes of steps S701 and S702 in FIG.

ステップS918において、生体認証部304は、予め登録された顔の特徴情報と、抽出された顔の特徴情報とを用いて、利用者105の顔認証を行う。なお、この処理は、例えば、図7のステップS703〜S709の処理に対応している。   In step S918, the biometric authentication unit 304 performs face authentication of the user 105 using the facial feature information registered in advance and the extracted facial feature information. This process corresponds to, for example, the processes in steps S703 to S709 in FIG.

ステップS919において、生体認証部304は、利用者105の顔認証が許可されると、認証が許可されたことを示す認証結果を、本体110の認証制御部324に送信する。   In step S919, when the face authentication of the user 105 is permitted, the biometric authentication unit 304 transmits an authentication result indicating that the authentication is permitted to the authentication control unit 324 of the main body 110.

ステップS920において、本体110の認証制御部324は、認証が許可されたことを示す認証結果を受付すると、利用者105による画像形成装置101の利用を許可する。   In step S920, when the authentication control unit 324 of the main body 110 receives an authentication result indicating that authentication is permitted, the authentication control unit 324 permits the user 105 to use the image forming apparatus 101.

上記の処理により、画像形成装置101は、省電力状態に移行した後、利用者105の接近に応じて省電力状態から復帰し、利用者105の生体認証を行う情報処理システム100において、生体認証に要する認証待ち時間を低減させることができるようになる。   With the above processing, after the image forming apparatus 101 shifts to the power saving state, the image forming apparatus 101 returns from the power saving state according to the approach of the user 105 and performs biometric authentication in the information processing system 100 that performs biometric authentication of the user 105 It is possible to reduce the authentication waiting time required for.

なお、図9に示す処理は一例である。状態制御部(操作部)301は、図9のステップ906において、画像形成装置101の認証の設定が有効である場合、撮像部302、及び抽出部303に加えて、生体認証部304を優先的に起動させるものであっても良い。   The process shown in FIG. 9 is an example. When the authentication setting of the image forming apparatus 101 is valid in step 906 of FIG. 9, the state control unit (operation unit) 301 gives priority to the biometric authentication unit 304 in addition to the imaging unit 302 and the extraction unit 303. It may be something that is activated.

図10は、第1の実施形態に係る省電力状態からの認証処理の別の一例を示すシーケンス図である。この処理は、状態制御部(操作部)301が、画像形成装置101の認証の設定が有効であるときに、撮像部302、及び抽出部303に加えて、生体認証部304を優先的に起動させる場合の処理の一例を示している。   FIG. 10 is a sequence diagram illustrating another example of the authentication process from the power saving state according to the first embodiment. In this process, the state control unit (operation unit) 301 preferentially activates the biometric authentication unit 304 in addition to the imaging unit 302 and the extraction unit 303 when the authentication setting of the image forming apparatus 101 is valid. An example of processing in the case of making it appear is shown.

なお、図10のステップS901〜S912、S914〜S916、S918〜S920に示す処理は、図9に示す処理と同様なので、ここでは、図9に示す処理との相違点を中心に説明する。   Note that the processes shown in steps S901 to S912, S914 to S916, and S918 to S920 in FIG. 10 are the same as the processes shown in FIG. 9, and therefore, the differences from the processes shown in FIG. 9 will be mainly described here.

状態制御部(操作部)301は、ステップS906で認証の設定が有効であると判断すると、ステップS1001において、撮像部302、及び抽出部303に加えて、生体認証部304を優先的に起動させる。   When the state control unit (operation unit) 301 determines that the authentication setting is valid in step S906, in addition to the imaging unit 302 and the extraction unit 303, in step S1001, the biometric authentication unit 304 is preferentially activated. .

これにより、抽出部303は、ステップS911で顔の特徴情報が抽出されると、ステップS1002において、生体認証部304の起動を待たずに、抽出された顔の特徴情報を、生体認証部304に通知することができるようになる。   Thus, when the facial feature information is extracted in step S911, the extracting unit 303 sends the extracted facial feature information to the biometric authentication unit 304 without waiting for the biometric authentication unit 304 to start in step S1002. You can be notified.

従って、画像形成装置101は、省電力状態に移行した後、利用者105の接近に応じて省電力状態から復帰し、利用者105の生体認証を行う情報処理システム100において、生体認証に要する認証待ち時間をさらに低減させることができるようになる。   Therefore, after the image forming apparatus 101 shifts to the power saving state, the image forming apparatus 101 returns from the power saving state in response to the approach of the user 105 and performs authentication required for biometric authentication in the information processing system 100 that performs biometric authentication of the user 105. The waiting time can be further reduced.

(起動優先度について)
好適な一例として、状態制御部(操作部)301は、操作部120を起動させるときに、例えば、図4(b)に示すような優先度情報314の起動優先度に基づいて、各処理部を段階的に起動させることができる。
(About boot priority)
As a preferred example, when the operation unit 120 is activated, the state control unit (operation unit) 301, based on the activation priority of the priority information 314 as illustrated in FIG. Can be activated in stages.

図4(b)の例では、優先度情報314には、「アプリID」、「アプリ名」、「起動優先度」等の情報が含まれる。   In the example of FIG. 4B, the priority information 314 includes information such as “application ID”, “application name”, and “activation priority”.

「アプリID」は、操作部120で実行される各アプリ(又はサービス)を識別するための識別情報である。「アプリ名」は、操作部120で実行される各アプリ(又はサービス)の名前である。   The “application ID” is identification information for identifying each application (or service) executed by the operation unit 120. “App name” is the name of each application (or service) executed by the operation unit 120.

「起動優先度」は、操作部120で実行される各アプリ(又はサービス)を起動させる場合の優先度を示す情報であり、起動優先度の値が小さい方が、より優先度が高いものとする。図4(b)の例では、操作部120の抽出部303、及び生体認証部304を実現する顔認証アプリの優先度が最も高く設定されている。   “Activation priority” is information indicating the priority when each application (or service) executed by the operation unit 120 is activated, and the smaller the activation priority value, the higher the priority. To do. In the example of FIG. 4B, the priority of the face authentication application that realizes the extraction unit 303 and the biometric authentication unit 304 of the operation unit 120 is set to be the highest.

状態制御部(操作部)301は、操作部120を起動させるとき、一例として、このような優先度情報314に基づいて、優先度が高い処理から順に、段階的に各処理部を起動させることができる。   For example, when the operation unit 120 is activated, the state control unit (operation unit) 301 activates each processing unit in a step-by-step manner from the highest priority processing based on such priority information 314. Can do.

[第2の実施形態]
第2の実施形態では、画像形成装置101で実行する認証処理が、生体認証部304による顔認証と、所持物認証部307によるICカード認証との2要素認証である場合の例について説明する。
[Second Embodiment]
In the second embodiment, an example will be described in which the authentication processing executed by the image forming apparatus 101 is two-factor authentication of face authentication by the biometric authentication unit 304 and IC card authentication by the belonging authentication unit 307.

2要素認証は、種類の異なる2つの要素による認証を組み合わせて利用者を認証する認証方式である。ここで、種類の異なる要素による認証には、例えば、利用者105が知っている情報による認証(知識認証)、利用者105の所持物による認証(所持物認証)、及び利用者105の生体の特徴による認証(生体認証)等が含まれる。   Two-factor authentication is an authentication method in which a user is authenticated by combining authentication by two different types of elements. Here, for authentication using different types of elements, for example, authentication based on information known by the user 105 (knowledge authentication), authentication based on what the user 105 possesses (possession authentication), and biometrics of the user 105 Authentication by features (biometric authentication) and the like are included.

本実施形態では、生体認証の一例である顔認証と、所持物認証の一例であるICカード認証とを用いて、利用者105の認証を行う場合の処理の例について説明する。   In the present embodiment, an example of processing when the user 105 is authenticated using face authentication, which is an example of biometric authentication, and IC card authentication, which is an example of belongings authentication, will be described.

<処理の流れ>
(2要素認証処理)
図11は、第2の実施形態に係る2要素証処理の例を示すフローチャートである。この処理は、図5のステップS507で実行される認証処理の一例であり、例えば、抽出部303において、新たな顔の特徴情報が抽出されたとき等に実行される。
<Process flow>
(Two-factor authentication processing)
FIG. 11 is a flowchart illustrating an example of a two-factor certificate process according to the second embodiment. This process is an example of the authentication process executed in step S507 in FIG. 5, and is executed, for example, when new facial feature information is extracted by the extraction unit 303.

ステップS1101において、生体認証部304は、例えば、図7に示すような顔認証処理を実行する。   In step S1101, the biometric authentication unit 304 executes face authentication processing as shown in FIG. 7, for example.

ステップS1102において、生体認証部304は、顔認証が許可されたか否かに応じて、処理を分岐させる。   In step S1102, the biometric authentication unit 304 branches the process depending on whether or not face authentication is permitted.

顔認証が許可された場合、生体認証部304は、処理をステップS1103に移行させる。一方、顔認証が許可されなかった場合、生体認証部304は、要素認証処理を終了させる。   If the face authentication is permitted, the biometric authentication unit 304 causes the process to proceed to step S1103. On the other hand, when the face authentication is not permitted, the biometric authentication unit 304 ends the element authentication process.

ステップS1103に移行すると、認証情報取得部306は、利用者105によるICカード104の読取操作を待ち、読取操作が行われると、利用者105のICカード104から認証情報(例えば、カードID)を取得する。   In step S1103, the authentication information acquisition unit 306 waits for the reading operation of the IC card 104 by the user 105. When the reading operation is performed, authentication information (for example, a card ID) is received from the IC card 104 of the user 105. get.

ステップS1104において、所持物認証部307は、認証情報取得部306が取得した認証情報が、例えば、図4に示すような利用者情報a313に登録されているかを判断する。或いは、所持物認証部307は、認証情報取得部306が取得した認証情報が、操作部120の利用者情報a313、又は本体110の利用者情報A327に登録されているかを判断するものであっても良い。   In step S1104, the belongings authenticating unit 307 determines whether the authentication information acquired by the authentication information acquiring unit 306 is registered in user information a313 as shown in FIG. 4, for example. Alternatively, the belonging authentication unit 307 determines whether the authentication information acquired by the authentication information acquisition unit 306 is registered in the user information a313 of the operation unit 120 or the user information A327 of the main body 110. Also good.

認証情報取得部306が取得した認証情報が利用者情報に登録されていない場合、所持物認証部307は、ステップS1105において、利用者105の所持物認証を拒否する。   If the authentication information acquired by the authentication information acquisition unit 306 is not registered in the user information, the belonging authentication unit 307 rejects the possession authentication of the user 105 in step S1105.

一方、認証情報取得部306が取得した認証情報が利用者情報に登録されている場合、所持物認証部307は、ステップS1106おいて、利用者105の所持物認証を許可する。   On the other hand, when the authentication information acquired by the authentication information acquisition unit 306 is registered in the user information, the property authentication unit 307 permits the property authentication of the user 105 in step S1106.

ステップS1107において、利用制御部305は、ステップS1101において、顔認証が許可された利用者と、ステップS1106において、所持物認証が許可された利用者とを比較する。   In step S1107, the usage control unit 305 compares the user who has been permitted face authentication in step S1101 with the user who has been permitted to carry personal belongings in step S1106.

例えば、利用制御部305は、生体認証部304から通知される認証結果に含まれる利用者105の識別情報(例えば、図4のアドレス帳番号等)と、所持物認証部307から通知される認証結果に含まれる利用者105の識別情報とを比較する。   For example, the usage control unit 305 includes the identification information (for example, the address book number in FIG. 4) included in the authentication result notified from the biometric authentication unit 304 and the authentication notified from the belonging authentication unit 307. The identification information of the user 105 included in the result is compared.

ステップS1108において、利用制御部305は、顔認証が許可された利用者105と、所持物認証が許可された利用者とが、同じ利用者であるか否かに応じて、処理を分岐させる。   In step S <b> 1108, the usage control unit 305 branches the process depending on whether or not the user 105 for whom face authentication is permitted and the user for which possession authentication is permitted are the same user.

顔認証が許可された利用者105と、所持物認証が許可された利用者とが、同じ利用者でない場合、利用制御部305は、2要素認証処理を終了させる。一方、顔認証が許可された利用者105と、所持物認証が許可された利用者とが、同じ利用者である場合、利用制御部305は、ステップS1109において、利用者105による画像形成装置101の利用を許可する。   When the user 105 for whom face authentication is permitted and the user for which possession authentication is permitted are not the same user, the use control unit 305 ends the two-factor authentication process. On the other hand, if the user 105 for whom face authentication is permitted and the user for which possession authentication is permitted are the same user, the use control unit 305, in step S1109, the image forming apparatus 101 by the user 105. Allow the use of.

(省電力状態からの認証処理)
図12は、第2の実施形態に係る省電力状態からの認証処理の例を示す図である。なお、図12のステップS901〜S908、S1001の処理は、図10に示す第1の実施形態に係る認証処理と同様なので、ここでは、図10に示す処理との相違点を中心に説明を行う。
(Authentication process from power saving state)
FIG. 12 is a diagram illustrating an example of authentication processing from the power saving state according to the second embodiment. Note that the processing in steps S901 to S908 and S1001 in FIG. 12 is the same as the authentication processing according to the first embodiment shown in FIG. 10, and therefore, here, the description will focus on differences from the processing shown in FIG. .

ステップS1201において、撮像部302、及び抽出部303は、例えば、図10のステップS909〜S911に示すような、顔の特徴情報の抽出処理を実行する。   In step S1201, the imaging unit 302 and the extraction unit 303 perform facial feature information extraction processing, for example, as illustrated in steps S909 to S911 in FIG.

ステップS1202において、抽出部303は、顔の特徴情報が抽出されたことを示す抽出通知を、状態制御部(操作部)301に通知する。   In step S1202, the extraction unit 303 notifies the state control unit (operation unit) 301 of an extraction notification indicating that facial feature information has been extracted.

ステップS1203において、状態制御部(操作部)301は、抽出部303から抽出通知を受け付けると、他の処理部を起動させる。   In step S <b> 1203, upon receiving an extraction notification from the extraction unit 303, the state control unit (operation unit) 301 activates another processing unit.

ステップS1204において、操作部120は省電力状態から通常状態に復帰し、本体110と接続する。   In step S1204, the operation unit 120 returns from the power saving state to the normal state and is connected to the main body 110.

ステップS1205において、生体認証部304は、例えば、図7に示すような顔認証処理を実行する。   In step S1205, the biometric authentication unit 304 performs a face authentication process as shown in FIG. 7, for example.

ステップS1206において、生体認証部304は、利用者105の顔認証が許可されると、利用者105の顔認証が許可されたことを示す認証結果を、利用制御部305に通知する。この認証結果には、利用者105を識別する識別情報(例えば、アドレス帳番号)が含まれる。   In step S1206, when the face authentication of the user 105 is permitted, the biometric authentication unit 304 notifies the use control unit 305 of an authentication result indicating that the face authentication of the user 105 is permitted. This authentication result includes identification information (for example, address book number) for identifying the user 105.

ステップS1207において、利用者105が、ICカードリーダ106に対して、ICカード104の読取操作を行うものとする。   In step S <b> 1207, the user 105 performs a reading operation of the IC card 104 with respect to the IC card reader 106.

ステップS1208において、所持物認証部307は、ICカードの読取操作が行われると、例えば、図11のステップS1103〜S1106に示すような所持物認証処理を実行する。   In step S1208, when an IC card reading operation is performed, the belongings authenticating unit 307 executes an belongings authentication process as shown in steps S1103 to S1106 in FIG.

ステップS1209において、所持物認証部307は、利用者105の所持物認証が許可されると、利用者105の所持物認証が許可されたことを示す認証結果を利用制御部305に通知する。この認証結果には、利用者105を識別する識別情報(例えば、アドレス帳番号)が含まれる。   In step S1209, when the possession authentication of the user 105 is permitted, the belonging authentication unit 307 notifies the use control unit 305 of an authentication result indicating that the possession authentication of the user 105 is permitted. This authentication result includes identification information (for example, address book number) for identifying the user 105.

ステップS1210において、利用制御部305は、例えば、図11のステップS1107〜S1109に示すような利用制御処理を実行する。   In step S1210, the usage control unit 305 executes usage control processing as shown in steps S1107 to S1109 in FIG. 11, for example.

ステップS1211において、利用制御部305は、利用者105による画像形成装置101の利用が許可されると、利用者105による画像形成装置101の利用が許可されたことを示す利用許可情報を、本体110の認証制御部324に送信する。   In step S <b> 1211, when the use of the image forming apparatus 101 by the user 105 is permitted, the usage control unit 305 displays usage permission information indicating that the use of the image forming apparatus 101 by the user 105 is permitted. To the authentication control unit 324.

ステップS1212において、本体の認証制御部324は、操作部120から利用許可情報を受信すると、本体110の利用を許可する。これにより、利用者105は、本体110で実行される、コピー、スキャン、印刷等の画像処理機能を利用することができるようになる。   In step S <b> 1212, the main body authentication control unit 324 permits the use of the main body 110 when receiving the use permission information from the operation unit 120. As a result, the user 105 can use image processing functions such as copying, scanning, and printing executed by the main body 110.

上記の処理により、顔認証(生体認証の一例)とICカード認証(所持物認証の一例)とによる2要素認証を実行する情報処理システム100において、生体認証に要する認証待ち時間を低減させることができるようになる。   With the above processing, in the information processing system 100 that performs two-factor authentication based on face authentication (an example of biometric authentication) and IC card authentication (an example of possession authentication), the authentication waiting time required for biometric authentication can be reduced. become able to.

[第3の実施形態]
第1、2の実施形態では、省電力状態において、接近検知部321が利用者105の接近を検知したとき、顔認証に関する処理を優先的に起動させる起動制御部が、状態制御部(操作部)301である場合の例について説明した。
[Third Embodiment]
In the first and second embodiments, when the access detection unit 321 detects the approach of the user 105 in the power saving state, the activation control unit that preferentially activates the process related to face authentication is performed by the state control unit (operation unit). ) 301 has been described.

第3の実施形態では、省電力状態において、接近検知部321が利用者105の接近を検知したとき、顔認証に関する処理を優先的に起動させる起動制御部が、状態制御部(本体)322である場合の例について説明する。   In the third embodiment, when the approach detection unit 321 detects the approach of the user 105 in the power saving state, the activation control unit that preferentially activates the processing related to face authentication is the state control unit (main body) 322. An example in a certain case will be described.

<処理の流れ>
(本体の起動処理)
図13は、第3の実施形態に係る本体の起動処理の例を示すフローチャートである。この処理は、省電力状態で、接近検知部321により利用者105の接近が検知された場合における本体110側の処理の一例を示している。
<Process flow>
(Main unit startup process)
FIG. 13 is a flowchart illustrating an example of a main body activation process according to the third embodiment. This processing is an example of processing on the main body 110 side when the approach detection unit 321 detects the approach of the user 105 in the power saving state.

ステップS1301において、画像形成装置101の接近検知部321が、省電力状態において、利用者105の接近を検知すると、状態制御部(本体)322は、ステップS1302以降の処理を実行する。   In step S1301, when the approach detection unit 321 of the image forming apparatus 101 detects the approach of the user 105 in the power saving state, the state control unit (main body) 322 executes the processing after step S1302.

ステップS1302において、状態制御部(操作部)301は、例えば、ストレージ部114、エンジン部117等を起動させ、本体110を省電力状態から通常状態に復帰させる。   In step S1302, the state control unit (operation unit) 301 activates the storage unit 114, the engine unit 117, and the like, for example, and returns the main body 110 from the power saving state to the normal state.

ステップS1303において、状態制御部(操作部)301は、操作部120から、例えば、図4(c)に示すような認証設定情報315を取得する。   In step S1303, the state control unit (operation unit) 301 acquires authentication setting information 315 as illustrated in FIG. 4C from the operation unit 120, for example.

ここでは、操作部120の通信部311、及び記憶部312は、操作部120が省電力状態に移行した後においても処理を継続し、本体110からの認証設定情報の取得要求に応じて、記憶部312に記憶された認証設定情報315を提供可能であるものとする。   Here, the communication unit 311 and the storage unit 312 of the operation unit 120 continue the processing even after the operation unit 120 shifts to the power saving state, and store in response to an authentication setting information acquisition request from the main body 110. It is assumed that the authentication setting information 315 stored in the unit 312 can be provided.

ステップS1304において、状態制御部(操作部)301は、画像形成装置101において、顔認証が有効であるか否かを判断する。   In step S <b> 1304, the state control unit (operation unit) 301 determines whether or not face authentication is valid in the image forming apparatus 101.

例えば、状態制御部(操作部)301は、図4(c)に示すような認証設定情報315において、認証設定が「有効」であり、実行する認証処理に「顔認証」が含まれている場合、画像形成装置101において、顔認証が有効であると判断する。また、状態制御部(操作部)301は、認証設定情報315において、認証設定が「無効」である場合、又は実行する認証処理に「顔認証」が含まれていない場合、画像形成装置101において、顔認証が有効でないと判断する。   For example, in the status setting unit (operation unit) 301, the authentication setting is “valid” in the authentication setting information 315 as illustrated in FIG. 4C, and “face authentication” is included in the authentication process to be executed. In this case, the image forming apparatus 101 determines that face authentication is effective. Further, when the authentication setting is “invalid” in the authentication setting information 315 or when “face authentication” is not included in the authentication process to be executed, the state control unit (operation unit) 301 performs the operation in the image forming apparatus 101. Judge that face authentication is not valid.

画像形成装置101において、顔認証が有効である場合、状態制御部(操作部)301は、ステップS1305において、顔認証優先で操作部120の起動を要求する起動要求を、操作部120に送信する。   When face authentication is valid in the image forming apparatus 101, the state control unit (operation unit) 301 transmits an activation request for requesting activation of the operation unit 120 with priority to face authentication to the operation unit 120 in step S 1305. .

一方、画像形成装置101において、顔認証が有効でない場合、状態制御部(操作部)301は、ステップS1306において、通常の操作部120の起動を要求する起動要求を、操作部120に送信する。   On the other hand, when face authentication is not valid in the image forming apparatus 101, the state control unit (operation unit) 301 transmits an activation request for requesting activation of the normal operation unit 120 to the operation unit 120 in step S <b> 1306.

(画像形成装置の起動処理)
図14は、第3の実施形態に係る画像形成装置の起動処理の例を示すシーケンス図(1)である。この処理は、図13に示す本体110の起動処理に対応する画像形成装置101全体の処理の一例を示している。
(Startup processing of image forming apparatus)
FIG. 14 is a sequence diagram (1) illustrating an example of activation processing of the image forming apparatus according to the third embodiment. This process is an example of the entire process of the image forming apparatus 101 corresponding to the activation process of the main body 110 shown in FIG.

ステップS1401において、利用者105が、人体検知センサ102の検知範囲601まで接近するものとする。   In step S1401, it is assumed that the user 105 approaches the detection range 601 of the human body detection sensor 102.

ステップS1402、S1403において、本体110の接近検知部321は、利用者105の接近を検知すると、利用者105の接近を検知したことを示す接近通知を、状態制御部(本体)322に通知する。   In steps S1402 and S1403, when detecting the approach of the user 105, the approach detection unit 321 of the main body 110 notifies the state control unit (main body) 322 of an approach notification indicating that the approach of the user 105 has been detected.

ステップS1404において、状態制御部(本体)322は、例えば、ストレージ部114、エンジン部117等を起動させて、本体110を通常状態に復帰させる。   In step S1404, the state control unit (main body) 322 activates the storage unit 114, the engine unit 117, and the like, for example, and returns the main body 110 to the normal state.

ステップS1405において、状態制御部(本体)322は、操作部120に、認証設定情報315の取得を要求する認証設定情報の取得要求を送信する。   In step S <b> 1405, the state control unit (main body) 322 transmits an authentication setting information acquisition request for requesting acquisition of the authentication setting information 315 to the operation unit 120.

ステップS1406において、状態制御部(本体)322は、操作部120から送信される認証設定情報315を受信する。   In step S 1406, the state control unit (main body) 322 receives the authentication setting information 315 transmitted from the operation unit 120.

ステップS1407において、状態制御部(本体)322は、認証設定情報315により、画像形成装置101において顔認証が有効であるかを確認する。   In step S <b> 1407, the state control unit (main body) 322 confirms whether the face authentication is valid in the image forming apparatus 101 based on the authentication setting information 315.

顔認証が有効である場合、画像形成装置101は、ステップS1411〜S1414に示す顔認証が有効である場合の処理1410を実行する。一方、顔認証が有効でない場合、画像形成装置101は、ステップS1421、S1422に示す顔認証が有効でない場合の処理1420を実行する。   When the face authentication is valid, the image forming apparatus 101 executes processing 1410 when the face authentication is valid shown in steps S <b> 1411 to S <b> 1414. On the other hand, when the face authentication is not valid, the image forming apparatus 101 executes processing 1420 when the face authentication is not valid shown in steps S1421 and S1422.

ステップ1411に移行すると、状態制御部(本体)322は、顔認証優先で操作部120の起動を要求する起動要求(顔認証優先)を、操作部120に送信する。   In step 1411, the state control unit (main body) 322 transmits an activation request (face authentication priority) requesting activation of the operation unit 120 with face authentication priority to the operation unit 120.

ステップS1411において、状態制御部(操作部)301は、本体110から起動要求(顔認証優先)を受信すると、顔認証優先で操作部120を起動させる。例えば、状態制御部(操作部)301は、図10のステップS907、S908、S1001の処理により、撮像部302、抽出部303、生体認証部304等を起動させる。   In step S1411, the state control unit (operation unit) 301 receives the activation request (face authentication priority) from the main body 110, and activates the operation unit 120 with face authentication priority. For example, the state control unit (operation unit) 301 activates the imaging unit 302, the extraction unit 303, the biometric authentication unit 304, and the like by the processing in steps S907, S908, and S1001 in FIG.

ステップS1413において、撮像部302、抽出部303、生体認証部304は、顔認証処理を実行する。例えば、撮像部302は、利用者105の画像を撮像し、抽出部303は、撮像された画像から利用者105の顔の特徴情報を抽出する。また、生体認証部304は、例えば、図7に示すような顔認証処理を実行する。   In step S1413, the imaging unit 302, the extraction unit 303, and the biometric authentication unit 304 execute face authentication processing. For example, the imaging unit 302 captures an image of the user 105, and the extraction unit 303 extracts facial feature information of the user 105 from the captured image. In addition, the biometric authentication unit 304 executes a face authentication process as shown in FIG.

ステップS1414において、状態制御部(操作部)301は、操作部120の各処理部のうち、他の処理部を起動させる。   In step S <b> 1414, the state control unit (operation unit) 301 activates another processing unit among the processing units of the operation unit 120.

一方、ステップS1421に移行すると、状態制御部(本体)322は、通常の起動を要求する起動要求(通常)を、操作部120に送信する。   On the other hand, in step S1421, the state control unit (main body) 322 transmits an activation request (normal) requesting normal activation to the operation unit 120.

ステップS1422に移行すると、状態制御部(操作部)301は、顔認証優先で操作部120を起動させる処理を中止し、操作部120の各処理部を起動させる通常の起動処理を実行する。   In step S <b> 1422, the state control unit (operation unit) 301 cancels the process of starting up the operation unit 120 with face authentication priority, and executes a normal start-up process of starting up each processing unit of the operation unit 120.

このように、省電力状態において、接近検知部321が利用者105の接近を検知したとき、顔認証に関する処理を優先的に起動させる起動制御部は、状態制御部(本体)322であっても良い。   In this way, even in the power saving state, when the approach detection unit 321 detects the approach of the user 105, the activation control unit that preferentially activates processing related to face authentication is the state control unit (main body) 322. good.

(顔認証に失敗したときの処理)
図15は、第3の実施形態に係る画像形成装置の起動処理の例を示すシーケンス図(2)である。この処理は、画像形成装置101が、顔の認証に失敗したときの好適な処理の一例を示している。なお、図15のステップS1501〜S1413の処理は、図14に示す処理と同様なので、ここでは、図14に示す処理との相違点を中心に説明を行う。
(Process when face authentication fails)
FIG. 15 is a sequence diagram (2) illustrating an example of the activation process of the image forming apparatus according to the third embodiment. This process is an example of a suitable process when the image forming apparatus 101 fails in face authentication. Note that the processing in steps S1501 to S1413 in FIG. 15 is the same as the processing shown in FIG. 14, and therefore, here, the description will focus on differences from the processing shown in FIG.

ステップS1501において、顔認証に失敗した場合、操作部120は、ステップS1502以降の処理を実行する。   If the face authentication fails in step S1501, the operation unit 120 executes the processes after step S1502.

なお、顔認証に失敗した場合には、例えば、所定の時間内に、撮像部302が画像を撮像できなかった場合、抽出部303が顔の特徴情報を抽出できなかった場合、生体認証部304により顔認証が拒否された場合等が含まれる。   When face authentication fails, for example, when the imaging unit 302 cannot capture an image within a predetermined time, when the extraction unit 303 cannot extract facial feature information, the biometric authentication unit 304 This includes the case where face authentication is rejected by.

ステップS1502において、状態制御部(操作部)301は、撮像部302、抽出部303、生体認証部304による顔認証処理を中止させる。   In step S1502, the state control unit (operation unit) 301 stops the face authentication processing by the imaging unit 302, the extraction unit 303, and the biometric authentication unit 304.

ステップS1503において、状態制御部(操作部)301は、操作部120の各処理部のうち、他の処理部を起動させる。   In step S <b> 1503, the state control unit (operation unit) 301 activates another processing unit among the processing units of the operation unit 120.

ステップS1504において、表示入力制御部309は、例えば、図16に示すような表示画面1600を操作パネル126に表示させて、利用者105に顔認証が利用できない旨を通知する。   In step S1504, for example, the display input control unit 309 displays a display screen 1600 as shown in FIG. 16 on the operation panel 126 to notify the user 105 that the face authentication cannot be used.

図16に示すように、利用者105に顔認証が利用できない旨を通知する表示画面1600には、顔認証が利用できないこと、及び他のユーザ認証を実行すること等を示すメッセージが含まれる。これにより、画像形成装置101は、利用者105に対して、他のユーザ認証(例えば、パスワード認証)の操作を促すことができるようになる。   As shown in FIG. 16, the display screen 1600 for notifying the user 105 that face authentication cannot be used includes a message indicating that face authentication cannot be used and that other user authentication is performed. As a result, the image forming apparatus 101 can prompt the user 105 to perform another user authentication (for example, password authentication) operation.

100 情報処理システム
101 画像形成装置
102 人体検知センサ(検知装置)
103 カメラ(撮像装置)
110 本体(実行装置)
120 操作部(情報処理装置、操作装置)
301 状態制御部(操作部)(起動制御部の一例)
303 抽出部
304 生体認証部
305 利用制御部
306 認証情報取得部
307 所持物認証部
310 設定管理部
322 状態制御部(本体)(起動制御部の一例)
DESCRIPTION OF SYMBOLS 100 Information processing system 101 Image forming apparatus 102 Human body detection sensor (detection apparatus)
103 camera (imaging device)
110 Main body (execution device)
120 operation unit (information processing device, operation device)
301 State control unit (operation unit) (an example of an activation control unit)
303 Extraction unit 304 Biometric authentication unit 305 Usage control unit 306 Authentication information acquisition unit 307 Inventory authentication unit 310 Setting management unit 322 Status control unit (main body) (an example of an activation control unit)

特開2016−173813号公報JP, 2006-173813, A

Claims (10)

利用者の接近を検知する検知装置と、前記利用者の画像を撮像する撮像装置と、前記撮像装置に接続された情報処理装置と、を含む情報処理システムであって、
前記情報処理装置は、
前記撮像装置で撮像された前記利用者の画像から前記利用者の生体の特徴情報を抽出する抽出部と、
予め登録された生体の特徴情報と、前記抽出部が抽出した前記利用者の生体の特徴情報とを用いて、前記利用者の生体認証を行う生体認証部と、
前記生体認証の結果に基づいて、前記利用者による前記情報処理装置の利用を許可する利用制御部と、
を有し、
前記情報処理システムは、
所定の移行条件に従って、前記撮像装置、及び前記情報処理装置を、所定の処理を実行可能な通常状態から、前記通常状態より消費電力が少ない省電力状態に移行させる状態制御部と、
前記省電力状態において、前記検知装置が前記利用者の接近を検知したとき、前記撮像装置、及び前記抽出部を優先的に起動させる起動制御部と、
を有する、情報処理システム。
An information processing system including a detection device that detects approach of a user, an imaging device that captures an image of the user, and an information processing device connected to the imaging device,
The information processing apparatus includes:
An extraction unit for extracting feature information of the user's living body from the image of the user imaged by the imaging device;
A biometric authentication unit that performs biometric authentication of the user by using biometric feature information registered in advance and the biometric feature information of the user extracted by the extraction unit;
Based on the result of the biometric authentication, a usage control unit that permits the user to use the information processing device;
Have
The information processing system includes:
In accordance with a predetermined transition condition, a state control unit that shifts the imaging device and the information processing apparatus from a normal state in which predetermined processing can be performed to a power saving state in which power consumption is lower than that in the normal state;
In the power saving state, when the detection device detects the approach of the user, an activation control unit that preferentially activates the imaging device and the extraction unit;
An information processing system.
前記起動制御部は、
前記省電力状態において、前記検知装置が前記利用者を検知したとき、前記撮像装置、及び前記抽出部を起動させ、
前記抽出部による前記生体の特徴情報の抽出に応じて、前記情報処理装置の他の処理部を起動させる、請求項1に記載の情報処理システム。
The activation control unit
In the power saving state, when the detection device detects the user, the imaging device and the extraction unit are activated,
The information processing system according to claim 1, wherein another processing unit of the information processing apparatus is activated in response to extraction of the biological feature information by the extraction unit.
前記起動制御部は、
前記省電力状態において、前記検知装置が前記利用者を検知したとき、前記撮像装置、及び前記抽出部に加えて、前記生体認証部を、優先的に起動させる、請求項1に記載の情報処理システム。
The activation control unit
The information processing according to claim 1, wherein, in the power saving state, when the detection device detects the user, the biometric authentication unit is preferentially activated in addition to the imaging device and the extraction unit. system.
前記起動制御部は、
前記生体認証部による前記利用者の前記生体認証の処理に応じて、前記情報処理装置の他の処理部を起動させる、請求項3に記載の情報処理システム。
The activation control unit
The information processing system according to claim 3, wherein another processing unit of the information processing apparatus is activated according to the biometric authentication process of the user by the biometric authentication unit.
前記起動制御部は、前記利用者の前記生体認証が許可されなかった場合、前記生体認証を中止して、前記他の処理部を起動させる、請求項4に記載の情報処理システム。   The information processing system according to claim 4, wherein the activation control unit stops the biometric authentication and activates the other processing unit when the biometric authentication of the user is not permitted. 前記利用者が所持する所持物から、前記利用者の所持物認証に用いる認証情報を取得する認証情報取得部と、
予め登録された認証情報と、前記認証情報取得部が抽出した認証情報とを用いて、前記利用者の前記所持物認証を行う所持物認証部と、
を有し、
前記利用制御部は、前記生体認証が許可された利用者と、前記所持物認証が許可された利用者が同じ利用者である場合、前記利用者による前記情報処理装置の利用を許可する、請求項1乃至5のいずれか一項に記載の情報処理システム。
An authentication information acquisition unit for acquiring authentication information used for the user's possession authentication from the possession possessed by the user;
Using the authentication information registered in advance and the authentication information extracted by the authentication information acquisition unit, the possession authentication unit that performs the possession authentication of the user,
Have
The use control unit permits use of the information processing apparatus by the user when the user who is permitted to perform biometric authentication and the user who is permitted to perform possession authentication are the same user. Item 6. The information processing system according to any one of Items 1 to 5.
前記情報処理システムの認証の設定が有効であるか否かを管理する設定管理部を有し、
前記起動制御部は、
前記省電力状態において、前記検知装置が前記利用者を検知したときに、前記情報処理システムの認証の設定が有効である場合、前記撮像装置、及び前記抽出部を優先的に起動させる、請求項1乃至6のいずれか一項に記載の情報処理システム。
A setting management unit for managing whether the authentication setting of the information processing system is valid;
The activation control unit
The imaging apparatus and the extraction unit are preferentially activated when authentication settings of the information processing system are valid when the detection apparatus detects the user in the power saving state. The information processing system according to any one of 1 to 6.
前記情報処理システムで有効な1つ以上の認証処理の情報を管理する設定管理部を有し、
前記起動制御部は、
前記省電力状態において、前記検知装置が前記利用者を検知したときに、前記1つ以上の認証処理に前記生体認証が含まれる場合、前記撮像装置、前記抽出部、及び前記生体認証部を優先的に起動させる、請求項3乃至5のいずれか一項に記載の情報処理システム。
A setting management unit that manages information of one or more authentication processes valid in the information processing system;
The activation control unit
If the biometric authentication is included in the one or more authentication processes when the detection device detects the user in the power saving state, the imaging device, the extraction unit, and the biometric authentication unit are given priority. The information processing system according to any one of claims 3 to 5, wherein the information processing system is activated automatically.
利用者の接近を検知する検知装置、及び前記利用者の画像を撮像する撮像装置に接続され、前記利用者の操作を受付する操作装置と、前記操作に基づいて画像処理を実行する実行装置とを含む画像処理装置であって、
前記操作装置は、
前記撮像装置で撮像された前記利用者の画像から前記利用者の生体の特徴情報を抽出する抽出部と、
予め登録された生体の特徴情報と、前記抽出部が抽出した前記利用者の生体の特徴情報とを用いて、前記利用者の生体認証を行う生体認証部と、
前記生体認証の結果に基づいて、前記利用者による前記画像処理装置の利用を許可する利用制御部と、
所定の処理を実行可能な通常状態より消費電力が少ない省電力状態において、前記検知装置が前記利用者の接近を検知したとき、前記撮像装置、及び前記抽出部を優先的に起動させる起動制御部と、
を有する、画像処理装置。
A detection device that detects the approach of a user, an operation device that is connected to an imaging device that captures an image of the user and receives an operation of the user, and an execution device that executes image processing based on the operation An image processing apparatus including:
The operating device is:
An extraction unit for extracting feature information of the user's living body from the image of the user imaged by the imaging device;
A biometric authentication unit that performs biometric authentication of the user by using biometric feature information registered in advance and the biometric feature information of the user extracted by the extraction unit;
Based on the result of the biometric authentication, a usage control unit that permits the user to use the image processing device;
An activation control unit that preferentially activates the imaging device and the extraction unit when the detection device detects the approach of the user in a power saving state in which power consumption is less than a normal state in which predetermined processing can be performed When,
An image processing apparatus.
利用者の接近を検知する検知装置と、前記利用者の画像を撮像する撮像装置と、前記撮像装置に接続された情報処理装置と、を含む情報処理システムにおける前記利用者の認証方法であって、
所定の処理を実行可能な通常状態より消費電力が少ない省電力状態において、前記検知装置が前記利用者の接近を検知したとき、前記撮像装置、及び前記撮像装置で撮像された前記利用者の画像から前記利用者の生体の特徴情報を抽出する抽出処理を優先的に起動させるステップと、
予め登録された生体の特徴情報と、前記抽出処理で抽出した前記利用者の生体の特徴情報とを用いて、前記利用者の生体認証を行うステップと、
前記生体認証の結果に基づいて、前記利用者による前記情報処理装置の利用を許可するステップと、
を前記情報処理装置に実行させる、利用者の認証方法。
An authentication method for a user in an information processing system, comprising: a detection device that detects approach of a user; an imaging device that captures an image of the user; and an information processing device connected to the imaging device. ,
When the detection device detects the approach of the user in a power saving state in which the power consumption is lower than a normal state in which a predetermined process can be performed, the imaging device and the image of the user captured by the imaging device Preferentially starting an extraction process for extracting feature information of the user's living body from:
Performing biometric authentication of the user using biometric feature information registered in advance and the biometric feature information of the user extracted in the extraction process;
Permitting the user to use the information processing device based on the result of the biometric authentication;
A user authentication method for causing the information processing apparatus to execute.
JP2017127912A 2017-06-29 2017-06-29 Information processing system, image processing device, and user authentication method Active JP6870501B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017127912A JP6870501B2 (en) 2017-06-29 2017-06-29 Information processing system, image processing device, and user authentication method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017127912A JP6870501B2 (en) 2017-06-29 2017-06-29 Information processing system, image processing device, and user authentication method

Publications (2)

Publication Number Publication Date
JP2019010777A true JP2019010777A (en) 2019-01-24
JP6870501B2 JP6870501B2 (en) 2021-05-12

Family

ID=65227673

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017127912A Active JP6870501B2 (en) 2017-06-29 2017-06-29 Information processing system, image processing device, and user authentication method

Country Status (1)

Country Link
JP (1) JP6870501B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019174855A (en) * 2018-03-26 2019-10-10 Necパーソナルコンピュータ株式会社 Information processing apparatus and information processing method

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010160609A (en) * 2009-01-07 2010-07-22 Canon Inc Information processor, method for controlling the same, storage medium and program
JP2011059194A (en) * 2009-09-07 2011-03-24 Sharp Corp Controller, image forming apparatus, method of controlling image forming apparatus, program, and recording medium
JP2013021405A (en) * 2011-07-07 2013-01-31 Fuji Xerox Co Ltd Power supply control device, image processing device and power supply control program
US20160352926A1 (en) * 2015-05-28 2016-12-01 Kabushiki Kaisha Toshiba Image forming apparatus and notification method for image forming apparatus

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010160609A (en) * 2009-01-07 2010-07-22 Canon Inc Information processor, method for controlling the same, storage medium and program
JP2011059194A (en) * 2009-09-07 2011-03-24 Sharp Corp Controller, image forming apparatus, method of controlling image forming apparatus, program, and recording medium
JP2013021405A (en) * 2011-07-07 2013-01-31 Fuji Xerox Co Ltd Power supply control device, image processing device and power supply control program
US20160352926A1 (en) * 2015-05-28 2016-12-01 Kabushiki Kaisha Toshiba Image forming apparatus and notification method for image forming apparatus

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019174855A (en) * 2018-03-26 2019-10-10 Necパーソナルコンピュータ株式会社 Information processing apparatus and information processing method

Also Published As

Publication number Publication date
JP6870501B2 (en) 2021-05-12

Similar Documents

Publication Publication Date Title
US10642555B2 (en) Image processing system, method, and non-transitory computer readable medium
JP4626677B2 (en) Image forming apparatus, image forming method, and image forming program
JP6289154B2 (en) System having information processing apparatus and network camera, information processing apparatus and login method thereof
JP6780297B2 (en) Information processing device, image forming device, information processing system, program, and authentication method
JP6696239B2 (en) Information processing apparatus, information processing system, authentication method, and program
US9838556B2 (en) Image processing apparatus, method for controlling image processing apparatus, electronic apparatus, and non-transitory recording medium
US20180075032A1 (en) Information processing apparatus, information processing system, and information processing method
JP6561710B2 (en) Information processing apparatus, information processing system, authentication method, and program
JP6907753B2 (en) Information processing system, image processing device, authentication method, and program
JP2018007036A (en) Apparatus, system and method for image processing, and program
JP4992831B2 (en) Image forming apparatus, image forming method, and image forming program
JP6870501B2 (en) Information processing system, image processing device, and user authentication method
US10831880B2 (en) Information processing apparatus, information processing system, information processing method, and computer-readable recording medium for facial recognition registration and verification
JP2017107172A (en) Image forming apparatus, image forming system, authentication method, and program
JP2017151709A (en) Information processing system, information processing apparatus, authentication method, and program
JP2010140499A (en) Biometric authentication device, biometric authentication system and biometric data management method
JP2016218672A (en) Information processing apparatus and information processing method
JP6825503B2 (en) Information processing equipment, information processing systems, information processing methods and programs
JP7027893B2 (en) Image processing equipment, electronic devices, image processing systems, authentication methods, and programs
JP6840995B2 (en) Information processing equipment, information processing systems, programs, and authentication methods
JP2018107617A (en) Information processing system, information processing device, image processing device, control method thereof, and program
JP2017199179A (en) Information processing device, information processing system, authentication method, and program
JP6891641B2 (en) Information processing system, image processing device, and authentication method
JP2017117119A (en) Information processing device, information processing system, authentication method and program
JP2021024093A (en) Image formation apparatus, control method of image formation apparatus and computer program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210316

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210329

R151 Written notification of patent or utility model registration

Ref document number: 6870501

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151