WO2025230002A1 - 個人認証システム、個人認証方法、およびプログラム、並びに個人認証システムを用いたシステム - Google Patents

個人認証システム、個人認証方法、およびプログラム、並びに個人認証システムを用いたシステム

Info

Publication number
WO2025230002A1
WO2025230002A1 PCT/JP2025/016477 JP2025016477W WO2025230002A1 WO 2025230002 A1 WO2025230002 A1 WO 2025230002A1 JP 2025016477 W JP2025016477 W JP 2025016477W WO 2025230002 A1 WO2025230002 A1 WO 2025230002A1
Authority
WO
WIPO (PCT)
Prior art keywords
sensor
image data
personal authentication
user
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
PCT/JP2025/016477
Other languages
English (en)
French (fr)
Inventor
良久 中藤
博規 内田
武 浜崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyushu Institute of Technology NUC
Original Assignee
Kyushu Institute of Technology NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyushu Institute of Technology NUC filed Critical Kyushu Institute of Technology NUC
Publication of WO2025230002A1 publication Critical patent/WO2025230002A1/ja
Pending legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/32User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints

Definitions

  • the present invention relates to a personal authentication system, a personal authentication method, and a program that performs personal authentication based on images of the inside of the ear canal, as well as a system that uses the personal authentication system.
  • Biometrics is a technology that authenticates individuals based on biometric characteristics, such as physical and behavioral characteristics.
  • the main physical characteristics used for biometric authentication include fingerprints, retinas, irises, palm shapes, and faces.
  • the main behavioral characteristics used for biometric authentication include handwriting, voice, and walking style.
  • Patent Document 1 As prior art relating to biometric authentication that focuses particularly on the ear, there is a personal authentication device described in Patent Document 1.
  • the personal authentication device described in Patent Document 1 is a device that acquires multiple different pieces of biometric information from an ear canal, extracts features of the multiple different pieces of biometric information using machine learning, and performs personal authentication.
  • This personal authentication device also includes a feature extraction unit that extracts features based on data acquired from two or more sensors selected from a first sensor that acquires acoustic data from within the user's ear canal, a second sensor that acquires image data from within the user's ear canal, and a third sensor that acquires biochemical data from within the user's ear canal, and a determination unit that builds a personal integration neural network based on the two or more features extracted by the feature extraction unit and determines the user based on the integrated data.
  • the personal authentication device described in Patent Document 1 can easily combine multiple closely related authentication methods, potentially significantly improving authentication performance. Furthermore, even if the usage environment or an individual's physical condition changes, different authentication methods can complement each other, which is expected to improve robustness.
  • the present invention provides a personal authentication system, a personal authentication method, a program, and a system using the personal authentication system, which can guarantee or improve authentication performance or improve convenience.
  • the personal authentication system of the present invention is a personal authentication system that performs personal authentication based on a captured image of the inside of the ear canal, a first sensor inserted into the ear canal of the user's right ear and acquiring image data within the ear canal, and/or a second sensor inserted into the ear canal of the user's left ear and acquiring image data within the ear canal; a personal authentication device capable of communicating with a first sensor and/or a second sensor, the personal authentication device including: a first feature extraction unit that extracts a first feature using image data acquired by the first sensor as learning data and/or a second feature extraction unit that extracts a second feature using image data acquired by the second sensor as learning data; a feature integration unit that generates a registered model capable of identifying a user from integrated features obtained from the first feature and/or the second feature; and an authentication unit that authenticates the user based on the image data acquired by the first sensor and/or the second sensor using the registered model; It is equipped with:
  • the first sensor and/or the second sensor have a video capture function
  • the authentication unit is configured to authenticate the user based on multiple image data in the video captured by the first sensor and the second sensor, from the entrance of the ear canal to near the eardrum.
  • the first sensor and/or the second sensor have a light that illuminates the ear canal
  • the personal authentication device has an image determination unit that determines whether the image data acquired by the first sensor and/or the second sensor is unclear, and that the image determination unit is configured to control the direction of illumination of the light from the first sensor and/or the second sensor if it determines that the image data is unclear.
  • the first sensor and/or the second sensor have a call function
  • the personal authentication device has an image determination unit that determines whether the image data acquired by the first sensor and/or the second sensor is unclear, and if the image determination unit determines that the image data is unclear, it preferably notifies the user via the first sensor and/or the second sensor that they should move the attachment position of the first sensor and/or the second sensor.
  • the personal authentication device preferably has an image determination unit that determines whether the image data acquired by the first sensor and/or the second sensor is unclear, and an image processing unit that removes noise contained in the image data if the image determination unit determines that the image data is unclear.
  • the first sensor and/or the second sensor acquire image data from inside the ear canal at a predetermined timing and/or at a timing instructed by an external device, and the personal authentication device updates the registered model based on the integrated features obtained from the image data.
  • the personal authentication device preferably has an image determination unit that determines whether earwax and/or ear hair is included in the image data acquired by the first sensor and/or the second sensor, and an image processing unit that removes the earwax and/or ear hair included in the image data if the image determination unit determines that the image data contains earwax and/or ear hair.
  • the personal authentication device preferably has an image determination unit that determines whether earwax and/or ear hair is included in image data acquired by the first sensor and/or second sensor, and the first feature extraction unit, second feature extraction unit, and feature integration unit obtain integrated features based on the image data when the image determination unit determines that earwax and/or ear hair is included in the image data, and the authentication unit preferably uses a registration model generated from the integrated features to authenticate the user based on the image data acquired by the first sensor and second sensor that includes earwax and/or ear hair.
  • the personal authentication device preferably has an image determination unit that determines whether or not earwax and/or ear hair is included in image data acquired by the first sensor and/or second sensor, and an image processing unit that processes the image data so that earwax and/or ear hair is included if the image determination unit determines that the image data does not contain earwax and/or ear hair, and the first feature extraction unit, second feature extraction unit, and feature integration unit are configured to obtain integrated features based on the image data processed by the image processing unit and generate a registration model.
  • the first sensor and/or the second sensor have a main body, a camera, and a protruding base that is attached to the main body and connects the main body and the camera, and that the attachment position of the base can be changed depending on the shape of the user's ear canal and/or the position of the eardrum.
  • the personal authentication system of the present invention is a personal authentication system that performs personal authentication based on a captured image of the inside of the ear canal, a first sensor that is inserted into the external auditory canal of the user's right ear and acquires image data inside the external auditory canal; and a second sensor that is inserted into the external auditory canal of the user's left ear and acquires image data inside the external auditory canal.
  • a personal authentication device capable of communicating with a first sensor and a second sensor, the personal authentication device including: a first feature extraction unit that extracts a first feature using image data acquired by the first sensor as learning data; a second feature extraction unit that extracts a second feature using image data acquired by the second sensor as learning data; a feature integration unit that generates a registered model capable of identifying a user from an integrated feature obtained by integrating the first feature and the second feature; and an authentication unit that authenticates the user based on the image data acquired by the first sensor and the second sensor using the registered model; It is equipped with:
  • These personal authentication systems are preferably used in one of the following systems: medical information systems, health checkup systems, admission management systems, automatic withdrawal systems, or delivery management systems.
  • the personal authentication method of the present invention is a personal authentication method for performing personal authentication based on a photographed image of the inside of the ear canal, acquiring image data from within the ear canal using a first sensor inserted into the ear canal of the user's right ear and/or acquiring image data from within the ear canal using a second sensor inserted into the ear canal of the user's left ear; a step of extracting a first feature amount using image data acquired by a first sensor as learning data and/or a step of extracting a second feature amount using image data acquired by a second sensor as learning data by a personal authentication device; generating, by the personal authentication device, an enrollment model capable of identifying the user from an integrated feature obtained from the first feature and/or the second feature; and authenticating the user by the personal authentication device using the enrollment model based on the image data acquired by the first sensor and/or the second sensor.
  • the program of the present invention also includes: a personal authentication device capable of communicating with a first sensor that is inserted into the external ear canal of a user's right ear and acquires image data inside the external ear canal, and/or a second sensor that is inserted into the external ear canal of the user's left ear and acquires image data inside the external ear canal;
  • the program causes the personal authentication device to operate as a personal authentication device having a first feature extraction unit that extracts first features using image data acquired by a first sensor as learning data and/or a second feature extraction unit that extracts second features using image data acquired by a second sensor as learning data, a feature integration unit that generates a registered model that can identify a user from integrated features obtained from the first features and/or the second features, and an authentication unit that authenticates the user based on the image data acquired by the first sensor and/or the second sensor using the registered model.
  • the personal authentication system of the present invention can provide a personal authentication system that can guarantee or improve authentication performance, or increase convenience. Furthermore, the personal authentication method or program of the present invention can achieve the same effects as the personal authentication system of the present invention.
  • FIG. 1 is a schematic overall configuration diagram of a personal authentication system according to an embodiment of the present invention
  • 1 is a schematic functional block diagram of a personal authentication device according to an embodiment of the present invention
  • 1A and 1B are diagrams showing a sensor according to an embodiment of the present invention, in which FIG. 1A is a schematic diagram of the configuration, and FIG. 1B is a schematic diagram of the insertion portion as viewed from the direction of the arrow shown in FIG. 1A.
  • 1 is a diagram showing an image of how a sensor according to an embodiment of the present invention is used
  • FIG. 2 is a flow chart showing a process for registering a personal authentication method according to an embodiment of the present invention.
  • FIG. 1 is a schematic overall configuration diagram of a personal authentication system according to an embodiment of the present invention
  • 1 is a schematic functional block diagram of a personal authentication device according to an embodiment of the present invention
  • 1A and 1B are diagrams showing a sensor according to an embodiment of the present invention, in which FIG. 1A is
  • FIG. 2 is a flow chart showing a process for registering a personal authentication method according to an embodiment of the present invention.
  • FIG. 2 is a flowchart illustrating a process for authenticating a person according to an embodiment of the present invention.
  • FIG. 2 is a flowchart illustrating a process for authenticating a person according to an embodiment of the present invention.
  • a personal authentication system 1 includes a first sensor 20 (20R), a second sensor 20 (20L), and a personal authentication device 10 (see FIG. 1).
  • the sensor 20 is a sensor that acquires image data from inside the ear canal of a user (a person using the personal authentication system 1).
  • the sensor 20 is an earphone type sensor that is inserted into the external ear canal of the ear Y of the user U (see FIGS. 1, 3, and 4).
  • the sensor 20 inserted into the external ear canal of the user's right ear will be referred to as the first sensor 20R
  • the sensor 20 inserted into the external ear canal of the user's left ear will be referred to as the second sensor 20L.
  • Sensor 20 is, for example, an infrared sensor. Sensor 20 acquires image data of the inside of the ear canal, and this image data includes an image of the shape inside the ear canal (an image that shows the shape inside the ear canal), an image of the vascular network inside the ear canal, and an image showing the temperature distribution inside the ear canal. Pulse rate estimation data specific to an individual acquired using analytical techniques such as an RGB camera or thermal camera can also be used. Sensor 20 can also be a CCD camera or CMOS sensor.
  • the sensor 20 of this embodiment includes a main body (controller) 21, a communication unit 22, and an insertion unit 23 (see FIG. 3A).
  • the insertion unit 23 is provided with a camera 24 and a plurality of lights 25 (see FIG. 3B).
  • the sensor 20 has a base 26 attached to the main body, and in this embodiment, the base 26 is a protrusion that connects the main body 21 and the camera 24. The attachment position of the base 26 can be changed depending on the shape of the inside of the ear canal and/or the position of the eardrum of the user U wearing the sensor 20.
  • the main body unit 21 performs various controls such as obtaining image data by the camera 24 and transmitting the captured image data by the communication unit 22 .
  • the communication unit 22 communicates with external devices such as the personal authentication device 10 and the terminal 30 via the network N.
  • the insertion unit 23 is the part that is inserted into the ear canal, and as mentioned above, is equipped with the camera 24 and light 25. Furthermore, when inserted into the ear canal, the insertion unit 23 has the function (for example, LiDAR: Light Detection and Ranging) of acquiring the distance from the camera 24 to the eardrum and a 3D scan image (see Figure 4(B)).
  • the function for example, LiDAR: Light Detection and Ranging
  • the number and positions of the cameras 24 provided in the insertion section 23 can be arbitrarily modified, and the photographing direction of the cameras 24 can also be arbitrarily changed.
  • the photographing location inside the external ear canal can be arbitrarily changed.
  • the cameras 24 also have functions such as zooming in and out.
  • the number and positions of the lights 25 provided in the insertion section 23 can be arbitrarily changed in design, and the direction of illumination of the lights 25 can also be arbitrarily changed.
  • the light 25 can change the amount of light, the color of light (white, orange, red, purple), or the type of light (infrared/ultraviolet), etc., according to a control command from the main body section 21.
  • the light 25 can be formed from multiple pieces, and the pieces can be arranged in a circular pattern, and some pieces can be controlled to be illuminated and others not to be illuminated, in order to optimally illuminate the interior of the external ear canal with the camera 24.
  • all pieces can be first lit, and if the light is too bright and imaging by the camera 24 is impaired, one or several pieces can be turned off to adjust for good imaging. Conversely, one or several pieces can be turned on sequentially to adjust for good imaging.
  • the light 25 is composed of multiple pieces in this embodiment, it may also be configured in a continuous circular pattern.
  • the insertion portion 23 can be made by attaching flexible rubber or the like to the outside of the light 25 to improve fit to the ear, or the individual pieces of the light 25 can be fitted into a flexible material such as rubber.
  • the sensor 20 (camera 24) has a video capture function and captures video from the entrance of the ear canal to the vicinity of the eardrum.
  • the sensor 20 is connected to the personal authentication device 10 and the terminal 30 via a network communication network N, either wired or wirelessly (see Figure 1), and image data (information) including video acquired by the sensor 20 is transmitted to the personal authentication device 10 and the terminal 30 via the network communication network N.
  • a video from the entrance of the ear canal to the vicinity of the eardrum is transmitted to the personal authentication device 10, but a still image captured by the sensor 20 may be transmitted in addition to the video. In this case, it is preferable to transmit only the video, or the video and the still image, depending on the authentication specifications, etc.
  • the sensor 20 itself can extract feature amounts from the video or still image and transmit the feature amounts to the personal authentication device 10.
  • the senor 20 has the functionality of typical earphones, such as a speaker and microphone. This allows voice to be transmitted from an external device to a user wearing the sensor 20, and the user's voice to be transmitted to an external device.
  • the sensor 20 can also be equipped with functions such as a noise canceller.
  • the personal authentication device 10 is a device that performs personal authentication based on image data of the inside of the ear canal acquired by the sensor 20, and has a receiving unit 101, a transmitting unit 102, an image determining unit 103, an image processing unit 104, a first feature extraction unit 105, a second feature extraction unit 106, a feature integration unit 107, a storage unit 108, an authentication unit 109, and a control unit 110 (see FIG. 2).
  • the first feature extraction unit 105 and the second feature extraction unit 106 will each be simply referred to as the "feature extraction unit,” and these will be collectively referred to as the "feature extraction unit.”
  • the receiving unit 101 and transmitting unit 102 communicate with external devices such as the sensor 20 and terminal 30 via the network communication network N.
  • the image determination unit 103 performs various determinations regarding whether the image data of the inside of the ear canal acquired by the sensor 20 is unclear. For example, the image determination unit 103 determines that the image data is unclear in the following cases: (1) The acquired image data is too dark/too bright (insufficient light/excessive light, etc.) (2) The captured image data is inappropriate (e.g., the insertion portion 23 is not inserted sufficiently into the external auditory canal, and only the entrance of the ear canal is captured, or the insertion portion 23 is inserted at an angle). (3) The acquired image data contains noise such as blown-out highlights and crushed blacks (shadows). (4) The acquired image data contains earwax or ear hair.
  • the image processing unit 104 removes noise contained in the image data. Note that the handling of image data that is determined to be unclear due to other factors will be described later.
  • the first feature extraction unit 105 extracts first feature amounts using image data acquired by the first sensor 20R as learning data, while the second feature extraction unit 106 extracts second feature amounts using image data acquired by the second sensor 20L as learning data. Furthermore, the feature integration unit 107 integrates the first feature and the second feature to obtain an integrated feature that can identify the user.
  • the feature integration unit 107 generates a registered model from this integrated feature.
  • the registered model links the integrated feature with the user's personal information (at least one of name, age (date of birth), height, weight, address, telephone number, company name, department name, job title, occupation, etc.), and the generated registered model is stored in the storage unit 108.
  • the storage unit 108 stores various information necessary for the personal authentication system 1, including registered models, user information, image data from inside the ear canal acquired by the sensor 20, first feature amounts, second feature amounts, integrated feature amounts, and setting files.
  • the storage unit 108 may be configured as part of the personal authentication device 10, such as an HDD or SSD, or may be external storage (for example, a cloud-based database).
  • the authentication unit 109 uses (references) the registered model stored in the memory unit 108 to authenticate (identify) the user based on the image data acquired by the first sensor 20R and the second sensor 20L.
  • the personal authentication device 10 authenticates (identifies) a user using a registered model generated from a feature (integrated feature) that integrates a feature (first feature) based on image data (shape feature) inside the ear canal of the user U's right ear and a feature (second feature) based on image data (shape feature) inside the ear canal of the user U's left ear.
  • a registered model can also be generated from only the first feature or only the second feature.
  • the control unit 110 controls the personal authentication device 10 itself, as well as external devices such as the sensor 20 and terminal 30.
  • Terminal The terminal 30 is a personal computer, smartphone, tablet, or the like owned by the user U (see FIG. 1 ).
  • the terminal 30 communicates with external devices such as the personal authentication device 10 and the sensor 20 via the network communication network N.
  • the personal authentication system 1 of this embodiment has been described above, but the personal authentication device 10, sensor 20, and terminal 30 of the personal authentication system 1 can also communicate with each other without going through the network communication network N.
  • the sensor 20 and terminal 30 can communicate with each other via short-range wireless communication (Bluetooth, etc.).
  • the sensors 20 (20R, 20L) acquire the distance from the camera 24 to the eardrum (see Figure 4(B)) (step S110).
  • the sensor 20 (20R, 20L) illuminates the light 25 and captures a video (registration video) of the inside of the ear canal with the camera 24 (step S120).
  • the sensor 20 (20R, 20L) transmits the captured video to the personal authentication device 10 via the communication unit 22 (step S130).
  • the personal authentication device 10 receives the video using the receiving unit 101, and uses multiple image data from the received video as learning data to obtain integrated features that can identify user U1 using the first feature extraction unit 105, second feature extraction unit 106, and feature integration unit 107 (step S210).
  • the personal authentication device 10 generates a registration model from the integrated features using the feature integration unit 107 and stores it in the memory unit 108 (step S220).
  • the personal authentication system 1 can have the sensor 20 reacquire image data from inside the ear canal at a predetermined timing, when an instruction is received from an external device (such as the personal authentication device 10 or the terminal 30), or when the sensor 20 (20R, 20L) is attached to both ears, and the personal authentication device 10 can regenerate (update) the registered model from the reacquired image data.
  • the predetermined timing is a timing managed by the main body 21 of the sensor 20 or the memory unit 108 of the personal authentication device 10, and is an update timing such as once a day (when worn for the first time that day), once a week (beginning of the week), or once a month (beginning of the month).
  • user U1 wears his/her own first sensor 20R on his/her right ear and his/her own second sensor 20L on his/her left ear. Then, as in the registration phase, the sensors 20 (20R, 20L) acquire the distance from the camera 24 to the eardrum, illuminate the light 25, and capture a video of the inside of the ear canal with the camera 24, and send the captured video (authentication video) to the personal authentication device 10 (steps S310 to S330).
  • the sensor 20 also transmits information about the terminal 30 and an authentication request for user U1 to the personal authentication device 10.
  • the sensor 20 acquires information about the terminal 30 via short-range wireless communication, and transmits an authentication request for user U1 to log in to the terminal 30 and the captured video (authentication video) to the personal authentication device 10.
  • the authentication request for user U1 to log in to the terminal 30 may also be transmitted from the terminal 30 to the personal authentication device 10.
  • the personal authentication device 10 receives the video using the receiving unit 101, and based on the multiple image data in the received video, the first feature extraction unit 105, the second feature extraction unit 106, and the feature integration unit 107 obtain integrated features that can identify user U1 (that can determine whether or not the user is user U1) (step S410).
  • the personal authentication device 10 uses the authentication unit 109 to compare the integrated features obtained in step S310 with the registered model stored in the memory unit 108, and authenticates the user (step S420).
  • the personal authentication device 10 notifies the result (authentication result) via the transmission unit 102 (step S430). For example, if the recognition result is OK, the personal authentication device 10 can transmit to the terminal 301 an instruction to log in with the account of user U1. Conversely, if the recognition result is NG, the personal authentication device 10 can send an instruction to display an error message to the terminal 301. Alternatively, the personal authentication device 10 can notify the terminal 301 via the sensor 20 with a beep or a message indicating an error.
  • the integrated feature obtained by the feature integration unit 107 is calculated as feature difference data between the first feature and the second feature.
  • the calculation may be performed using any of the operations of addition, subtraction, multiplication, and division, or a combination of these operations.
  • the shape of the inside of the ear canal varies from user to user, and even for the same user, the shape of the inside of the ear canal of the right ear and the shape of the inside of the ear canal of the left ear are different. Therefore, even if there are multiple users with extremely similar ear canal shapes in one ear, it is extremely unlikely that there are users with extremely similar ear canal shapes in both ears, so users can be authenticated (identified) with high accuracy.
  • the sensor 20 captures video of the inside of the ear canal, and the personal authentication device 10 authenticates the user based on multiple image data from the video (generating first features, second features, integrated features, and a registration model). Because the multiple image data contained in the video each have different shooting locations, angles, magnifications, etc., authentication accuracy is higher than when authenticating a user based on a single still image.
  • the personal authentication system 1 performs authentication when user U1 logs in to terminal 301, but it can also perform authentication when a user accesses an application or database installed on the terminal. Furthermore, a personal authentication system employing an earphone-type sensor 20 as in the present invention can perform authentication without the user being aware of it, reducing the effort required for authentication and enabling constant personal authentication. This allows for easy and immediate login and access authorization, while also achieving a significant improvement in security levels.
  • various methods can be considered for processing by the authentication unit 109, such as a method using a statistical distance measure such as a discriminant function, Euclidean distance, or Mahalanobis distance, or a method using a machine learning model such as a decision tree, SVM, or neural network.
  • a discriminant function or a statistical distance measure is used for the registration model
  • statistical quantities such as a discrimination threshold, mean, and variance correspond to features that can identify a user.
  • a machine learning model such as a decision tree, SVM (Support Vector Machine), or neural network is used for the registration model
  • thresholds, SVM parameters, neural network model parameters, etc. correspond to features that can identify a user.
  • user U1 registers features (registration models) based on his or her left and right ears in the personal authentication device 10. As shown in FIG. 6, when user U1 wears his or her own sensor 20 in both ears, the sensor 20 captures video of the inside of the ear canal using the camera 24 and transmits the captured video (registration video) to the personal authentication device 10 (step S130).
  • the personal authentication device 10 receives the video via the receiving unit 101, and the image determination unit 103 performs various determinations on the image data selected from the video (image data used to extract the first and second features) to determine whether it is unclear (step S201).
  • the personal authentication device 10 controls the irradiation direction of the light 25 of the sensor 20 (step S202). Specifically, the control unit 110 of the personal authentication device 10 transmits an instruction to the sensor 20 to specify (change) the irradiation direction of the light 25, and the main body 21 of the sensor 20 controls the irradiation direction of the light 25 in accordance with the instruction. In this case, the personal authentication device 10 can control the amount of light and color of light of the light 25 of the sensor 20, and can also precisely control which of the multiple lights 25 to change the direction of illumination, amount of light, or color of light.
  • the personal authentication device 10 notifies the user U1 via the sensor 20 that they should move the mounting position of the sensor 20 (step S203).
  • the senor 20 has the functions of a typical earphone, such as a speaker and microphone, so the image determination unit 103 can urge the user U1 to wear the sensor 20 correctly by sending voice instruction data (for example, "Not worn correctly” or "Tilt") that has been previously stored in the memory unit 108 to the user U1.
  • voice instruction data for example, "Not worn correctly” or "Tilt”
  • a third party can view and check the video (registration video) transmitted from the sensor 20 in real time on the personal authentication device 10 side, and can convey such instructions to the user U1.
  • the personal authentication device 10 removes the noise using the image processing unit 104 (step S204).
  • One possible method for the image processing unit 104 to remove the noise is to use an AI model trained on image data containing noise such as blown-out highlights or crushed shadows (shadows) to generate noise-free image data from image data with noise.
  • the personal authentication device 10 uses the image data containing earwax, ear hair, etc. as training data to obtain integrated features using the first feature extraction unit 105, the second feature extraction unit 106, and the feature integration unit 107 (step S205).
  • the personal authentication device 10 determines that earwax, ear hair, etc. is present in the acquired image data, the personal authentication device 10 generates two registered models for user U1: one generated from an image in which earwax, ear hair, etc. is present in the ear canal, and the other generated from an image in which earwax, ear hair, etc. is not present in the ear canal.
  • Each registered model is linked to user U1 and stored in the memory unit 108.
  • the personal authentication device 10 receives the video via the receiving unit 101, and the image determination unit 103 performs various determinations on the image data selected from the video (image data used to extract the first feature and second feature) to determine whether it is unclear (step S401).
  • step S404 If the result of this determination is satisfactory (clear), authentication is performed according to the flow shown in FIG. However, if the acquired image data is determined to be too dark/too bright, the personal authentication device 10 controls the irradiation direction of the light 25 of the sensor 20 in the same manner as in step S202 (step S402). Furthermore, if it is determined that the location where the acquired image data was taken is inappropriate, the personal authentication device 10 notifies the user U1 via the sensor 20 that the position of the sensor 20 should be moved, as in step S203 (step S403). If it is determined that the acquired image data contains noise such as blown-out highlights or crushed blacks (shadows), the personal authentication device 10 removes the noise using the image processing unit 104 (step S404), similar to step S204.
  • the personal authentication device 10 obtains integrated features using the image data containing earwax, ear hair, etc. as training data using the first feature extraction unit 105, the second feature extraction unit 106, and the feature integration unit 107, as in step S205 (step S405).
  • the authentication unit 109 performs authentication using the registered model generated through step S205 (a registered model generated from an image in which earwax, ear hair, etc. are present in the ear canal) (step S406).
  • the image processing unit 104 can remove the earwax, ear hair, etc., just as in the case where it is determined that the acquired image data contains noise such as blown-out highlights or crushed shadows (shadows). This process is similar to the enrollment phase, and if the personal authentication device 10 determines that the acquired image data contains earwax, ear hair, etc., it can also generate an enrollment model from the image data from which the earwax, ear hair, etc. have been removed.
  • the image determination unit 103 which makes various determinations regarding whether the image data in the ear canal acquired by the sensor 20 is unclear, is provided in the personal authentication device 10, but the sensor 20 may also have the image determination unit 103. In this case, if the sensor 20 determines, for example, by the image determination unit 103, that the image data acquired is too dark/too bright, the sensor 20 itself (using the main body unit 21) can control (adjust) the direction of illumination, amount of light, color of light, etc. of the light 25 before transmitting the video to the personal authentication device 10.
  • the sensor 20 may include a first feature extraction unit 105 , a second feature extraction unit 106 , and a feature integration unit 107 .
  • the sensor 20 transmits the feature amount (integrated feature amount) to the personal authentication device 10 instead of the video (image data).
  • the personal authentication system etc. can also authenticate (identify) which user is wearing the sensor 20 (for example, whether it is user U1 or user U2 (see Figure 1)).
  • the personal authentication device 10 obtains an integrated feature based on image data of the inside of the ear canal acquired by the sensor 20, performs pattern matching between the integrated feature and multiple registered models stored in the memory unit 108, and identifies the matching registered model (user).
  • the personal authentication device 10 may delete the video from the storage unit 108 to improve security.
  • One example of application of this invention is the construction industry.
  • the number of workers in the Japanese construction industry has decreased, leading to a demand for improvements in the working environment at construction sites.
  • the use of professional headsets that enable clear voice calls (with noise-canceling functionality) even in noisy environments is expanding. Therefore, the present invention can be applied to systems that can improve the performance of user (speaker) identification by employing such a business headset as the sensor 20.
  • speaker identification can be used to verify license possession at work sites, or to identify individuals to prevent information leaks.
  • the present invention can be applied to medical information systems, health checkup systems, and entrance management systems.
  • medical information systems health checkup systems
  • entrance management systems For example, by performing personal authentication based on the shape of the inside of the ear canal, which is assumed to be unique, it is possible to realize an entrance management system that controls entry to highly secure rooms and facilities where high authentication accuracy is required. In other words, it is possible to realize an entrance management system that does not cause problems such as allowing unauthorized people to enter due to authentication errors.
  • no new equipment for entrance management is required, it is easy to introduce and does not cause problems associated with equipment installation.
  • real-time authentication and authorization can be performed when granting access rights within the system to various personnel with different roles, such as doctors, nurses, and pharmacists, reducing the effort and time required to grant access rights.
  • the present invention can realize a health checkup system that can perform personal authentication based on image data of the inside of the ear canal and, at the same time, determine abnormalities (injuries, growths) in the ear canal and changes in physical condition from the data.
  • the present invention can be configured to recommend how to use the device in the usage environment and rest times, etc., based on environmental data such as the room temperature and humidity of the location where user U is located, and vital data such as changes in user U's body temperature and usage time (time the sensor 20 is worn).
  • the system can also be applied to animals with ear canals, such as livestock and pets, and it is possible to determine whether or not livestock are owned by the user.
  • a hole communicating with the outside may be provided in the insertion section 23 so that external sounds can be picked up even while the sensor 20 is being worn, or a microphone for picking up external sounds may be attached to the sensor 20 itself.
  • the insertion portion 23 is provided with a pressure sensor and sound-emitting member (not shown) that detects sudden changes in pressure (when the insertion portion 23 is removed from the ear, the output of the pressure sensor changes suddenly).
  • the sound-emitting member sounds, thereby notifying the user that the sensor 20 has fallen out of the ear.
  • a GPS chip or the like may be incorporated into the sensor 20 so that if the sensor 20 is dropped, it can be immediately found based on location information from a device or the like owned by the user.
  • the senor 20 breaks down or is lost, it may become impossible to log in to a smartphone or PC based on authentication. In such a case, it may be possible to log in by entering a password separately provided on the smartphone, or to equip the smartphone with a contactless card reader component so that login can be performed using a card key, etc.
  • a voice authentication device or fingerprint authentication device may be provided on the smartphone so that the smartphone can be activated by voice or fingerprint. In this case, security can be further enhanced by combining voice authentication or fingerprint authentication with the ear canal authentication of the present invention.
  • the sensor 20 can capture video of the inside of the ear canal, it is possible to monitor the progress of the user's otitis media and understand the amount of earwax accumulation, further improving convenience.
  • the senor 20 is equipped with charging contacts and a coil for contactless charging (not shown), as well as a measuring means for measuring the degree of dirt on the surface of the camera 24 when the sensor 20 is set in a charger and charged.
  • the degree of dirt on the camera 24 can be measured by, for example, bringing the measuring means into contact with the surface of the camera and measuring the electrical capacitance and electrical resistance of the sensor 20.
  • the degree of dirt according to the measurement status can then be displayed on a display or the like on the charger, and the user can be notified.
  • the present invention is a personal authentication system that can guarantee or improve authentication performance, as well as increase convenience. Its biometric authentication technology can be utilized in a variety of fields, including entrance management systems, health checkup systems, and medical information systems used in medical institutions, making it industrially useful.

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Collating Specific Patterns (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

認証性能の保証や改善、または利便性の向上などを実現し得る個人認証システム等を提供する。 個人認証システムは、利用者の耳の外耳孔に挿入され、外耳道内の複数の画像データを取得するセンサ20を備えている。また、センサ20により取得された複数の画像データを学習データとして特徴量を抽出する特徴量抽出部105,106と、得られた特徴量から、利用者を特定し得る登録モデルを生成する特徴量統合部107と、登録モデルを用いて、センサ20により取得された複数の画像データに基づいて利用者を認証する認証部109と、を有する個人認証装置10を備えている。

Description

個人認証システム、個人認証方法、およびプログラム、並びに個人認証システムを用いたシステム
 本発明は、外耳道内の撮影画像に基づいて個人認証を行う個人認証システム、個人認証方法、およびプログラム、並びに個人認証システムを用いたシステムに関する。
 近年、様々な分野において生体認証(バイオメトリクス)技術が使われている。生体認証とは、人間の身体的特徴や行動的特徴などといった生体的特徴によって個人を認証する技術である。生体認証に用いられる主な身体的特徴として、指紋、網膜、虹彩、掌形、顔などがある。また、生体認証に用いられる主な行動的特徴として、筆跡、音声、歩き方などがある。なお、生体認証が使用される場面においては、金庫を開ける鍵や入退出時に提示するIDカードなどをユーザが持ち歩く必要がない。そのため、鍵やIDカードを紛失したり、盗まれたり、偽造されたりする恐れもない。また、ID(アカウント)やパスワードを記憶する必要もない。よって、生体認証は利便性やセキュリティ性が高く、大変有用な技術として知られている。
 ここで、特に耳に着目した生体認証に関する先行技術として、特許文献1に記載の個人認証装置等がある。
 特許文献1に記載の個人認証装置は、外耳道における異なる複数の生体情報を取得して、当該異なる複数の生体情報の特徴量を、機械学習を用いて抽出し個人認証を行う装置である。また、この個人認証装置は、利用者の外耳道内の音響データを取得する第1のセンサ、利用者の外耳道内の画像データを取得する第2のセンサ、利用者の外耳道内の生化学データを取得する第3のセンサ、のうち、2以上のセンサから取得されるデータに基づいて特徴量を抽出する特徴量抽出部と、特徴量抽出部により抽出された2以上の特徴量に基づいて、個人性統合ニューラルネットワークを構築し、利用者を統合データに基づいて判定する判定部と、を有している。
特開2023-148128号公報
 特許文献1に記載の個人認証装置等は、従来の生体認証方法と比較して、複数の近接する認証方法を組み合わせることが容易にできるため、認証性能を大幅に改善することができ得るものである。また、利用環境や個人の体調などが変化しても、異なる認証方法間で互いに補い合うことができるため、頑健性の向上が期待できるものである。
 しかし、生体認証に関する技術において、周囲環境の影響を受けない安定した認証性能の保証や、認証性能の改善、または利用者等にとっての利便性の向上などが求められている。
 よって、本発明は、認証性能の保証や改善、または利便性の向上などを実現し得る個人認証システム、個人認証方法、およびプログラム、並びに個人認証システムを用いたシステムを提供する。
 本発明の個人認証システムは、外耳道内の撮影画像に基づいて個人認証を行う個人認証システムであって、
 利用者の右耳の外耳孔に挿入され、外耳道内の画像データを取得する第1のセンサおよび/または利用者の左耳の外耳孔に挿入され、外耳道内の画像データを取得する第2のセンサと、
 第1のセンサおよび/または第2のセンサと通信可能な個人認証装置であり、第1のセンサにより取得された画像データを学習データとして第1の特徴量を抽出する第1の特徴量抽出部および/または第2のセンサにより取得された画像データを学習データとして第2の特徴量を抽出する第2の特徴量抽出部と、第1の特徴量および/または第2の特徴量により得られた統合特徴量から、利用者を特定し得る登録モデルを生成する特徴量統合部と、登録モデルを用いて、第1のセンサおよび/または第2のセンサにより取得された画像データに基づいて利用者を認証する認証部と、を有する個人認証装置と、
を備えている。
 ここで、第1のセンサおよび/または第2のセンサは動画撮影機能を有しており、認証部は、第1のセンサおよび第2のセンサにより撮影された外耳道内の入り口から鼓膜付近までの動画における複数の画像データに基づいて、利用者を認証する構成であることが好ましい。
 また、第1のセンサおよび/または第2のセンサは外耳道内を照らすライトを有しており、個人認証装置は、第1のセンサおよび/または第2のセンサにより取得された画像データが不明瞭なものであるか否かを判定する画像判定部を有しており、画像判定部は、画像データが不明瞭なものであると判定した場合、第1のセンサおよび/または第2のセンサのライトの照射方向を制御する構成であることが好ましい。
 若しくは、第1のセンサおよび/または第2のセンサは通話機能を有しており、個人認証装置は、第1のセンサおよび/または第2のセンサにより取得された画像データが不明瞭なものであるか否かを判定する画像判定部を有しており、画像判定部は、画像データが不明瞭なものであると判定した場合、第1のセンサおよび/または第2のセンサを介して、利用者に第1のセンサおよび/または第2のセンサの装着位置を動かす旨を伝える構成であることが好ましい。
 若しくは、個人認証装置は、第1のセンサおよび/または第2のセンサにより取得された画像データが不明瞭なものであるか否かを判定する画像判定部と、画像判定部が、画像データが不明瞭なものであると判定した場合、当該画像データに含まれるノイズを除去する画像処理部と、を有する構成であることが好ましい。
 若しくは、第1のセンサおよび/または第2のセンサは、定められたタイミングおよび/または外部装置から指示を受けたタイミングで外耳道内の画像データを取得し、個人認証装置は、当該画像データに基づいて得られた統合特徴量に基づいて登録モデルを更新する構成であることが好ましい。
 若しくは、個人認証装置は、第1のセンサおよび/または第2のセンサにより取得された画像データに耳垢および/または耳毛が含まれているか否かを判定する画像判定部と、画像判定部が、画像データに耳垢および/または耳毛が含まれていると判定した場合、当該画像データに含まれている耳垢および/または耳毛を除去する画像処理部と、を有する構成であることが好ましい。
 若しくは、個人認証装置は、第1のセンサおよび/または第2のセンサにより取得された画像データに耳垢および/または耳毛が含まれているか否かを判定する画像判定部を有しており、第1の特徴量抽出部、第2の特徴量抽出部、および特徴量統合部は、画像判定部が、画像データに耳垢および/または耳毛が含まれていると判定した場合、当該画像データに基づいて統合特徴量を得て、認証部は、当該統合特徴量から生成された登録モデルを用いて、第1のセンサおよび第2のセンサにより取得された耳垢および/または耳毛が含まれている画像データに基づいて利用者を認証する構成であることが好ましい。
 若しくは、個人認証装置は、第1のセンサおよび/または第2のセンサにより取得された画像データに耳垢および/または耳毛が含まれているか否かを判定する画像判定部と、画像判定部が、画像データに耳垢および/または耳毛が含まれていないと判定した場合、当該画像データに耳垢および/または耳毛が含まれるように当該画像データを加工する画像処理部と、を有し、第1の特徴量抽出部、第2の特徴量抽出部、および特徴量統合部は、画像処理部により加工された画像データに基づいて統合特徴量を得て、登録モデルを生成する構成であることが好ましい。
 なお、第1のセンサおよび/または第2のセンサは、本体部と、カメラと、本体部に取り付けられ本体部とカメラとを連結する突起状の土台と、を有し、土台の取り付け位置は、利用者の外耳道内の形状および/または鼓膜の位置に応じて変更可能ものである構成であることが好ましい。
 さらに、本発明の個人認証システムは、外耳道内の撮影画像に基づいて個人認証を行う個人認証システムであって、
 利用者の右耳の外耳孔に挿入され、外耳道内の画像データを取得する第1のセンサと、利用者の左耳の外耳孔に挿入され、外耳道内の画像データを取得する第2のセンサと、
 第1のセンサおよび第2のセンサと通信可能な個人認証装置であり、第1のセンサにより取得された画像データを学習データとして第1の特徴量を抽出する第1の特徴量抽出部と、第2のセンサにより取得された画像データを学習データとして第2の特徴量を抽出する第2の特徴量抽出部と、第1の特徴量および第2の特徴量を統合することにより得られた統合特徴量から、利用者を特定し得る登録モデルを生成する特徴量統合部と、登録モデルを用いて、第1のセンサおよび第2のセンサにより取得された画像データに基づいて利用者を認証する認証部と、を有する個人認証装置と、
を備えている。
 そして、これらの個人認証システムは、医療情報システム、健康診断システム、入館管理システム、自動引き落としシステム、または配送管理システムのうちいずれか1つに用いられることが好ましい。
 一方、本発明の個人認証方法は、外耳道内の撮影画像に基づいて個人認証を行う個人認証方法であって、
 利用者の右耳の外耳孔に挿入される第1のセンサにより、外耳道内の画像データを取得する工程および/または利用者の左耳の外耳孔に挿入される第2のセンサにより、外耳道内の画像データを取得する工程と、
 個人認証装置により、第1のセンサにより取得された画像データを学習データとして第1の特徴量を抽出する工程および/または第2のセンサにより取得された画像データを学習データとして第2の特徴量を抽出する工程と、
 個人認証装置により、第1の特徴量および/または第2の特徴量により得られた統合特徴量から、利用者を特定し得る登録モデルを生成する工程と、
 個人認証装置により、登録モデルを用いて、第1のセンサおよび/または第2のセンサにより取得された画像データに基づいて利用者を認証する工程と、を含む。
 また、本発明のプログラムは、コンピュータを、
 利用者の右耳の外耳孔に挿入され、外耳道内の画像データを取得する第1のセンサおよび/または利用者の左耳の外耳孔に挿入され、外耳道内の画像データを取得する第2のセンサと通信可能な個人認証装置であり、
 第1のセンサにより取得された画像データを学習データとして第1の特徴量を抽出する第1の特徴量抽出部および/または第2のセンサにより取得された画像データを学習データとして第2の特徴量を抽出する第2の特徴量抽出部と、第1の特徴量および/または第2の特徴量により得られた統合特徴量から、利用者を特定し得る登録モデルを生成する特徴量統合部と、登録モデルを用いて、第1のセンサおよび/または第2のセンサにより取得された画像データに基づいて利用者を認証する認証部と、を有する個人認証装置として動作させるためのプログラムである。
 本発明の個人認証システムによれば、認証性能の保証や改善、または利便性の向上などを実現し得る個人認証システムを提供することができる。また、本発明の個人認証方法またはプログラムによれば、本発明の個人認証システムと同等の作用効果を奏することができる。
本発明の実施の形態に係る個人認証システムの概略全体構成図である。 本発明の実施の形態に係る個人認証装置の概略機能ブロック図である。 本発明の実施の形態に係るセンサを示す図であり、(A)は概略構成図、(B)は(A)に示す矢印方向から見た挿入部の概略構成図である。 本発明の実施の形態に係るセンサの使用イメージを示す図である。 本発明の実施の形態に係る個人認証方法の登録時におけるフロー図である。 本発明の実施の形態に係る個人認証方法の登録時におけるフロー図である。 本発明の実施の形態に係る個人認証方法の認証時におけるフロー図である。 本発明の実施の形態に係る個人認証方法の認証時におけるフロー図である。
 以下に本発明の実施の形態を詳細に説明するが、以下に記載する構成要件の説明は、本発明の実施形態の一例(代表例)であり、本発明はその要旨を変更しない限り、以下の内容に限定されない。
[個人認証システム]
 まず、図1~図4を参照し、本発明の実施の形態に係る個人認証システムについて説明する。
 本発明の実施の形態に係る個人認証システム1は、第1のセンサ20(20R)と、第2のセンサ20(20L)と、個人認証装置10と、を備えている(図1参照)。
[1]センサ
 センサ20は、利用者(個人認証システム1を利用する者)の外耳道内の画像データを取得するセンサである。本実施形態では、センサ20はイヤホン型のものであり、利用者Uの耳Yの外耳孔に挿入される(図1,図3,図4参照)。なお、本説明において便宜上、利用者の右耳の外耳孔に挿入されるセンサ20を第1のセンサ20Rと、利用者の左耳の外耳孔に挿入されるセンサ20を第2のセンサ20Lという。
 センサ20は例えば、赤外線センサである。また、センサ20は外耳道内の画像データを取得するものであるが、当該画像データには外耳道内の形状の画像(外耳道内の形状が分かる画像)、外耳道内の血管網の画像、外耳道内の温度分布を示す画像などが含まれる。なお、RGBカメラやサーマルカメラなどの解析技術を用いて取得した、個人特有の脈拍推定データも用いることができる。また、センサ20として、CCDカメラやCMOSセンサなども用いることができる。
 ここで、本実施形態のセンサ20は、本体部(制御部)21、通信部22、および挿入部23を有している(図3(A)参照)。また、挿入部23には、カメラ24および複数のライト25が設けられている(図3(B)参照)。
 さらに、センサ20は、本体部に取り付けられる土台26を有しており、本実施形態では、土台26は、本体部21とカメラ24とを連結する突起状のものである。この土台26の取り付け位置は、センサ20を装着する利用者Uの外耳道内の形状および/または鼓膜の位置に応じて変更可能である。
 本体部21は、カメラ24による画像データの取得や、通信部22による撮影された画像データの送信などといった各種制御を行う。
 通信部22は、ネットワーク通信網Nを介して、個人認証装置10や端末30などの外部装置との通信を行う。
 挿入部23は、外耳孔に挿入される部分であり、前述したとおりカメラ24やライト25が設けられている。また、挿入部23は、外耳道内に挿入された際、カメラ24から鼓膜までの距離や3次元スキャン画像(図4(B)参照)を取得する機能(例えば、LiDAR:Light Detection And Ranging)を有する。
 挿入部23に設けられるカメラ24の数や位置などは任意に設計変更可能であり、また、カメラ24の撮影方向も任意に変えることができる。例えば、本体部21からの制御指示によりカメラ24の向きを変えることで、外耳孔内の撮影箇所を任意に変えることができる。もちろん、カメラ24はズームイン/ズームアウトといった機能も有している。
 同様に、挿入部23に設けられるライト25の数や位置なども任意に設計変更可能であり、ライト25の照射方向も任意に変えることができる。その他、ライト25は本体部21からの制御指示により光の量や光の色(白、オレンジ、赤、紫)、または光の種類(赤外線/紫外線)などを変えることができる。
 この場合、カメラ24の撮像性能が発揮できる波長でライト25を点燈させることが好ましい。また、本実施形態のように、ライト25を複数の個片で形成し、かつ個片を円環状に分散して配置し、外耳孔内部をカメラ24で最適に照らすようにするために、光らせる個片と光らせない個片とを設けるように制御することもできる。一例として、まず全個片を光らせて、明る過ぎてカメラ24での撮像に不具合が生じた場合、個片を1個~数個消灯していき、良好な撮像ができるように調整する。逆に、個片を1個~数個順次点燈させていき、良好な撮像ができるように調整する。また、本実施形態では、ライト25は複数の個片で構成したが、円環状に連続した構成であってもよい。
 なお、挿入部23は、図示していないが、ライト25の外側に柔軟なゴムなどを装着し、耳への装着性を向上させることもできるし、ライト25の個片を、ゴムなどの柔軟な部材の中にはめ込む構成とすることもできる。
 なお、センサ20(カメラ24)は動画撮影機能を有しており、外耳道内の入り口から鼓膜付近までの動画を撮影する。
 そして、センサ20はネットワーク通信網Nを介して個人認証装置10および端末30と有線または無線で接続されており(図1参照)、センサ20により取得された動画を含む画像データ(情報)は、ネットワーク通信網Nを介して個人認証装置10や端末30へと送信される。
 さらに、本実施の形態では、外耳道内の入り口から鼓膜付近までの動画を個人認証装置10に送信したが、動画に加え、センサ20にて撮影した静止画を送信してもよく、この場合、認証の仕様などによって、動画のみ、あるいは動画に加え静止画などを送信することが好ましい。また、後述するように、センサ20自身が動画や静止画から特徴量を抽出し、個人認証装置10に特徴量を送信することも可能である。
 その他、センサ20は、スピーカーやマイクなど一般的なイヤホンの機能を有している。よって、外部装置等からセンサ20を装着している利用者へ音声を伝えたり、当該利用者の音声を外部装置等へ伝えたりすることができる。また、センサ20に、ノイズキャンセラーなどの機能も設けることができる。
[2]個人認証装置
 個人認証装置10は、センサ20により取得された外耳道内の画像データに基づいて個人認証を行う装置であり、受信部101、送信部102、画像判定部103、画像処理部104、第1の特徴量抽出部105、第2の特徴量抽出部106、特徴量統合部107、記憶部108、認証部109、および制御部110を有する(図2参照)。本説明において、第1の特徴量抽出部105、第2の特徴量抽出部106をそれぞれ単に「特徴量抽出部」といったり、これらをまとめたものを「特徴量抽出部」といったりする。
 受信部101および送信部102は、ネットワーク通信網Nを介してセンサ20や端末30などの外部装置との通信を行う。
 画像判定部103は、センサ20により取得された外耳道内の画像データが不明瞭なものであるか否かに関する各種判定を行う。一例を挙げると、画像判定部103は、以下の場合に画像データが不明瞭であると判定する。
(1)取得された画像データが暗すぎる/明るすぎる(光の量が足りない・光の量が過剰等)
(2)取得された画像データの撮影箇所が不適切である(挿入部23が外耳孔に十分に挿入されておらず外耳道の入り口のみしか写っていない、挿入部23が傾いて挿入されている等)
(3)取得された画像データに白飛び、黒つぶれ(影)などのノイズが含まれている
(4)取得された画像データに耳垢や耳毛などが含まれている
 また、画像処理部104は、画像判定部103が上記(3)に示す要因により画像データが不明瞭なものであると判定した場合、当該画像データに含まれるノイズを除去する。なお、その他の要因により不明瞭なものであると判定された画像データの扱いについては、後述する。
 第1の特徴量抽出部105は、第1のセンサ20Rにより取得された画像データを学習データとして第1の特徴量を抽出する。一方、第2の特徴量抽出部106は、第2のセンサ20Lにより取得された画像データを学習データとして第2の特徴量を抽出する。
 さらに、特徴量統合部107は、第1の特徴量および第2の特徴量を統合することにより、利用者を特定し得る統合特徴量を得る。なお、特徴量統合部107は、この統合特徴量から登録モデルを生成する。登録モデルは、統合特徴量と利用者の個人情報(氏名、年齢(生年月日)、身長、体重、住所、電話番号、会社名、部署名、役職、職種などのうち、少なくとも1つ以上の情報)とを紐づけるものであり、生成された登録モデルは、記憶部108に記憶される。
 記憶部108には、登録モデルや利用者の情報を始め、センサ20により取得された外耳道内の画像データ、第1の特徴量、第2の特徴量、統合特徴量、設定ファイルなど、個人認証システム1に必要な各種情報が記憶される。記憶部108はHDDやSSDなど個人認証装置10の一部として構成されてもよく、外部ストレージ(例えば、クラウド型データベース)としてもよい。
 認証部109は、記憶部108に記憶された登録モデルを用いて(参照して)、第1のセンサ20Rおよび第2のセンサ20Lにより取得された画像データに基づいて利用者を認証(特定)する。
 要するに、本実施形態に係る個人認証装置10は、利用者Uの右耳の外耳道内の画像データ(形状的特徴)に基づく特徴量(第1の特徴量)と、利用者Uの左耳の外耳道内の画像データ(形状的特徴)に基づく特徴量(第2の特徴量)とが統合された特徴量(統合特徴量)から生成された登録モデルを用いて、利用者を認証(特定)する。もちろん、第1の特徴量のみ、または第2の特徴量のみから登録モデルを生成することもできる。
 制御部110は、個人認証装置10自身の制御、およびセンサ20や端末30などの外部装置に対する制御を行う。
[3]端末
 端末30は、利用者Uが所有するパソコンやスマートフォン、タブレットなどである(図1参照)。端末30は、ネットワーク通信網Nを介して、個人認証装置10やセンサ20などの外部装置との通信を行う。
 以上のように本実施形態の個人認証システム1について説明したが、個人認証システム1の個人認証装置10、センサ20、および端末30は、ネットワーク通信網Nを介さずに相互に通信することもできる。例えば、センサ20と端末30は、近距離無線通信(Bluetooth等)により相互に通信可能である。
[個人認証方法]
 次に、さらに図5~図8を参照し、本実施形態の個人認証システム1を用いた本発明の実施の形態に係る個人認証方法について説明する。なお、本実施形態の個人認証方法は、登録(登録フェーズ)と認証(認証フェーズ)に分けて説明する。
[1]登録(正常)
 個人認証システム1を利用する利用者は、最初に、前述したような個人情報と共に、自身の左右の耳に基づく特徴量(登録モデル)を個人認証装置10に登録する(図5参照)。
 例えば、利用者U1(図1参照)が、自身の所有する第1のセンサ20Rを右耳に、同じく自身の所有する第2のセンサ20Lを左耳に装着すると、センサ20(20R,20L)は、カメラ24から鼓膜までの距離(図4(B)参照)を取得する(ステップS110)。
 そして、センサ20(20R,20L)は、ライト25を照射して、カメラ24により外耳道内の動画(登録用動画)を撮影する(ステップS120)。
 その後、センサ20(20R,20L)は、通信部22により、撮影した動画を個人認証装置10へ送信する(ステップS130)。
 一方、個人認証装置10は受信部101によりその動画を受信し、受信した動画における複数の画像データを学習データとして、第1の特徴量抽出部105、第2の特徴量抽出部106、および特徴量統合部107により、利用者U1を特定し得る統合特徴量を得る(ステップS210)。
 最後に、個人認証装置10は特徴量統合部107により、統合特徴量から登録モデルを生成し、記憶部108に記憶する(ステップS220)。
 この登録モデルに関して、個人認証システム1は、予め定められたタイミングや、外部装置(個人認証装置10や端末30など)から指示を受けたタイミング、あるいはセンサ20(20R,20L)が両耳に装着されたタイミングで、センサ20が外耳道内の画像データを取得し直し、個人認証装置10が、当該取得し直された画像データから登録モデルを生成し直す(更新する)ことができる。
 予め定められたタイミングとは、センサ20の本体部21や個人認証装置10の記憶部108が管理しているタイミングで、日に1回(その日初めて装着した際)、週に1回(週の始め)、月に1回(月の始め)などの更新タイミングである。
[2]認証(正常)
 登録を済ませた利用者U1は、必要な場合に、個人認証システム1を利用して認証を行う(図7参照)。本説明において、必要な場合とは、利用者U1が自身の所有する端末301(パソコン)にログインしたい場合とする。なお、当該端末301は、利用者U1以外はログインできない(ログイン権限がない)とする。
 この場合、利用者U1は、自身の所有する第1のセンサ20Rを右耳に、同じく自身の所有する第2のセンサ20Lを左耳に装着する。そうすると、登録フェーズの場合と同様に、センサ20(20R,20L)は、カメラ24から鼓膜までの距離を取得し、ライト25を照射してカメラ24により外耳道内の動画を撮影し、撮影した動画(認証用動画)を個人認証装置10へ送信する(ステップS310~ステップS330)。
 この時、センサ20は、端末30の情報および利用者U1の認証依頼も個人認証装置10へ送信する。例えば、センサ20は近距離無線通信により端末30の情報を取得し、端末30へ利用者U1がログインするための認証依頼、および撮影した動画(認証用動画)を個人認証装置10へ送信する。端末30へ利用者U1がログインするための認証依頼は、端末30から個人認証装置10へ送信してもよい。
 一方、個人認証装置10は受信部101によりその動画を受信し、受信した動画における複数の画像データに基づいて、第1の特徴量抽出部105、第2の特徴量抽出部106、および特徴量統合部107により、利用者U1を特定し得る(利用者U1であるか否かを判定し得る)統合特徴量を得る(ステップS410)。
 そして、個人認証装置10は認証部109により、ステップS310で得られた統合特徴量と、記憶部108に記憶されている登録モデルとを比較し、利用者の認証を行う(ステップS420)。
 最後に、個人認証装置10は、その結果(認証結果)を送信部102により通知する(ステップS430)。例えば、認識結果がOKであれば、個人認証装置10は端末301に対して利用者U1のアカウントでログインを行う旨の指示を送信することができる。
 逆に、認識結果がNGであれば、個人認証装置10は端末301に対してエラーメッセージを表示させる指示を送信することができる。若しくは、個人認証装置10はセンサ20を介してエラーを示すビープ音やメッセージを通知することもできる。
 そのため、利用者U1しかログイン権限を有していない端末301に対して、利用者U2がログインしようと利用者U1が所有するセンサ20を装着した場合、認識結果はNGとなり、端末301にエラーメッセージが表示されたり、センサ20を介してエラーを示すビープ音やメッセージが通知されたりする。
 もちろん、利用者U1が、利用者U2しかログイン権限を有していない端末302に対してログインしようとすると、認証NGとなる。
 ここで、特徴量統合部107により得られる統合特徴量は、第1の特徴量と第2の特徴量の特徴量間相違データとして算出される。この他にも、加減乗除のうちいずれかの演算により算出する構成や、これらの演算を組み合わせて算出する構成にしてもよい。
 外耳道内の形状は、利用者毎に異なるものである。また、同じ利用者であっても、右耳の外耳道内の形状と左耳の外耳道内の形状はそれぞれ異なるものである。
 そのため、片方の耳の外耳道内の形状が極端に似ている利用者が複数人存在していたとしても、両方の耳の外耳道内の形状が極端に似ている利用者が存在している可能性は極めて低いため、高精度で利用者を認証(特定)することができる。
 また、センサ20は外耳道内の動画を撮影し、個人認証装置10は当該動画における複数の画像データに基づいて利用者を認証する(第1の特徴量、第2の特徴量、統合特徴量、および登録モデルを生成する)ものである。動画に含まれる複数の画像データは、それぞれ撮影箇所や写っている角度、倍率などが異なるため、単一の静止画に基づいて利用者を認証する場合よりも、認証精度が高い。
 なお、本説明では、個人認証システム1は、利用者U1が端末301にログインする場合に認証を行ったが、その他、ある利用者が端末にインストールされているアプリケーションやデータベースなどにアクセスする場合などにも認証を行うことができる。
 そして、本発明のようにイヤホン型のセンサ20を採用した個人認証システムは、本人が意識することなく認証できるため認証の手間が少なく、また常に本人認証が行える。よって、簡易かつ即時にログイン許可やアクセス許可などが行えると共に、セキュリティレベルの大幅な向上を実現することができる。
 補足として、認証部109の処理としては様々な方法が考えられるが、例えば判別関数やユークリッド距離やマハラノビス距離などの統計的距離尺度を用いる方法、決定木やSVM、ニューラルネットなどのような機械学習モデルを用いる方法などが考えられる。
 また、登録モデルに判別関数や統計的距離尺度を用いる場合は、判別閾値や平均・分散などの統計量が利用者を特定し得る特徴量に相当する。一方、登録モデルに決定木やSVM(Support Vector Machine)、ニューラルネットなどのような機械学習モデルを用いる場合は、閾値やSVMパラメータ、ニューラルネットモデルパラメータなどが利用者を特定し得る特徴量に相当する。
[3]登録(準正常)
 前述した登録および認証(図5,図7参照)はイレギュラーが発生しない正常系であるが、以下、イレギュラーが発生した場合の登録および認証について説明する(図6,図8参照)。
 まず、利用者U1は、最初に、自身の左右の耳に基づく特徴量(登録モデル)を個人認証装置10に登録するが、図6に示すように、利用者U1が、自身の所有するセンサ20を両耳に装着すると、センサ20は、カメラ24により外耳道内の動画を撮影し、撮影した動画(登録用動画)を個人認証装置10へ送信する(ステップS130)。
 一方、個人認証装置10は受信部101によりその動画を受信し、画像判定部103により、当該動画から選択された画像データ(第1の特徴量および第2の特徴量の抽出に用いる画像データ)に対して、不明瞭なものであるか否かに関する各種判定を行う(ステップS201)。
 この判定結果が問題なければ(明瞭であれば)、図5に示すフローのとおりに登録が行われる。
 しかし、取得された画像データが暗すぎる/明るすぎると判定された場合は、個人認証装置10は、センサ20のライト25の照射方向を制御する(ステップS202)。具体的には、個人認証装置10の制御部110が、センサ20に対してライト25の照射方向を指定する(変える)指示を送信することで、センサ20の本体部21が、当該指示に応じてライト25の照射方向を制御する。
 この場合、個人認証装置10は、センサ20のライト25の光の量や光の色なども制御することができ、また、複数あるライト25のうち、どのライト25の照射方向、光の量、または光の色を変えるのか、についても細かく制御することができる。
 これにより、暗すぎない/明るすぎない、外耳道内の形状がきれいに分かる画像データを安定して取得することができ、当該画像データを学習データとして統合特徴量および登録モデルを生成することができる。よって、当該登録モデルを用いた認証の認証性能が担保される。
 または、取得された画像データの撮影箇所が不適切であると判定された場合は、個人認証装置10は、センサ20を介して利用者U1にセンサ20の装着位置を動かす旨を伝える(ステップS203)。
 前述したように、センサ20は、スピーカーやマイクなど一般的なイヤホンの機能を有しているため、画像判定部103が予め記憶部108に記憶されていた音声指示データ(例えば、「正しく装着されていません」や「傾いています」など)を利用者U1に送信することで、センサ20を正しく装着してもらえるよう利用者U1に促すことができる。
 若しくは、センサ20から送信されてきた動画(登録用動画)を第三者が個人認証装置10側でリアルタイムに閲覧・確認し、第三者からこのような指示を利用者U1へ伝えることもできる。
 これにより、外耳道内の形状がきれいに分かる画像データを安定して取得することができ、当該画像データを学習データとして統合特徴量および登録モデルを生成することができるため、認証の認証性能が担保される。
 若しくは、取得された画像データに白飛びや黒つぶれ(影)などのノイズが含まれていると判定された場合は、個人認証装置10は、画像処理部104により当該ノイズを除去する(ステップS204)。画像処理部104が当該ノイズを除去する手法としては、白飛びや黒つぶれ(影)などのノイズを有する画像データを学習させたAIモデルを用いて、ノイズ有りの画像データからノイズ無しの画像データを生成する手法が考えられる。
 これにより、白飛びや黒つぶれ(影)などのノイズが含まれていない外耳道内の形状がきれいに分かる画像データを学習データとして統合特徴量および登録モデルを生成することができるため、認証の認証性能が担保される。
 さらには、取得された画像データに耳垢や耳毛などが含まれていると判断された場合は、個人認証装置10は、第1の特徴量抽出部105、第2の特徴量抽出部106、および特徴量統合部107により耳垢や耳毛などが含まれた画像データを学習データとして統合特徴量を得る(ステップS205)。
 外耳道内に耳垢や耳毛などが存在していることは、全ての利用者に起こり得ることである。そのため、画像判定部103により取得された画像データに耳垢や耳毛などが含まれていると判断された場合は、個人認証装置10は、利用者U1について、外耳道内に耳垢や耳毛などが存在している画像から生成された登録モデルと、外耳道内に耳垢や耳毛などが存在していない画像から生成された登録モデルの2つを生成する。それぞれの登録モデルは、利用者U1と紐づけられて記憶部108に記憶される。
[4]認証(準正常)
 続けて、イレギュラーが発生した場合の認証について説明するが(図8参照)、利用者U1は、認証のために自身の所有するセンサ20を両耳に装着し、センサ20は、カメラ24により外耳道内の動画を撮影し、撮影した動画(認証用動画)を個人認証装置10へ送信する(ステップS330)。
 一方、個人認証装置10は受信部101によりその動画を受信し、画像判定部103により、当該動画から選択された画像データ(第1の特徴量および第2の特徴量の抽出に用いる画像データ)に対して、不明瞭なものであるか否かに関する各種判定を行う(ステップS401)。
 この判定結果が問題なければ(明瞭であれば)、図6に示すフローのとおりに認証が行われる。
 しかし、取得された画像データが暗すぎる/明るすぎると判定された場合は、個人認証装置10は、ステップS202と同様に、センサ20のライト25の照射方向を制御する(ステップS402)。
 また、取得された画像データの撮影箇所が不適切であると判定された場合は、個人認証装置10は、ステップS203と同様に、センサ20を介して利用者U1にセンサ20の装着位置を動かす旨を伝える(ステップS403)。
 なお、取得された画像データに白飛びや黒つぶれ(影)などのノイズが含まれていると判定された場合は、個人認証装置10は、ステップS204と同様に、画像処理部104により当該ノイズを除去する(ステップS404)。
 これらにより、外耳道内の形状がきれいに分かる画像データに基づいて認証を行うことができるため、画像データの不明瞭さに起因した誤認識を防ぐことができ、安定した認証性能が担保される。
 さらに、取得された画像データに耳垢や耳毛などが含まれていると判断された場合は、個人認証装置10は、ステップS205と同様に、第1の特徴量抽出部105、第2の特徴量抽出部106、および特徴量統合部107により耳垢・耳毛などが含まれた画像データを学習データとして統合特徴量を得る(ステップS405)。
 そして、この場合、認証部109は、ステップS205を経て生成された登録モデル(外耳道内に耳垢や耳毛などが存在している画像から生成された登録モデル)を用いて、認証を行う(ステップS406)。
 これにより、利用者U1の外耳道内に、耳垢や耳毛などが存在していても/存在していなくても、安定した認証性能が担保することができる。
 なお、画像判定部103により取得された画像データに耳垢や耳毛などが含まれていると判断された場合は、白飛びや黒つぶれ(影)などのノイズが含まれていると判定された場合と同様に、画像処理部104により当該耳垢や耳毛などを除去することもできる。この処理は登録フェーズにおいても同様であり、個人認証装置10は、取得された画像データに耳垢や耳毛などが含まれていると判断した場合は、当該耳垢や耳毛などを除去した画像データから登録モデルを生成することもできる。
[変形例]
 以上のように説明した本発明の実施の形態に係る個人認証システム1等は、本発明の実施形態の一例(代表例)であり、本説明においては第1のセンサ20Rと第2のセンサ20Lの両方を利用するものとしたが、どちらか一方のみを利用してもよく、また、本発明の要旨を変更しない限り、以下に示すように任意に設計変更可能である。
 例えば、センサ20により取得された外耳道内の画像データが不明瞭なものであるか否かに関する各種判定を行う画像判定部103は、本実施形態では個人認証装置10が有するものとしたが、センサ20が画像判定部103を有していてもよい。
 この場合、センサ20は、例えば画像判定部103により取得した画像データが暗すぎる/明るすぎると判定した場合は、個人認証装置10へ動画を送信する前に、センサ20自身で(本体部21により)、ライト25の照射方向や光の量、光の色などを制御(調節)することができる。
 同様に、センサ20が、第1の特徴量抽出部105、第2の特徴量抽出部106、および特徴量統合部107を有していてもよい。
 この場合、センサ20は、動画(画像データ)に代わって特徴量(統合特徴量)を個人認証装置10へ送信する。
 なお、登録モデルを用いて、センサ20(20R,20L)により取得された画像データに基づいて利用者を認証(特定)する認証部109についても、本実施形態では個人認証装置10が有するものとしたが、端末30が認証部109を有していてもよい。
 この場合、端末30は、センサ20から外耳道内の動画および認証依頼を受信して、個人認証装置10の記憶部108や外部ストレージに記憶されている登録モデルを参照し、認証を行うことができる。
 また、本実施形態では、センサ20を装着したのが利用者U1であるか否かを認証する例を説明したが、本発明に係る個人認証システム等は、センサ20を装着したのがどの利用者であるのか(例えば、利用者U1であるのか/利用者U2であるのか(図1参照))を認証(特定)することもできる。
 この場合、個人認証装置10は、センサ20により取得された外耳道内の画像データに基づいて統合特徴量を得て、当該統合特徴量と記憶部108に記憶されている複数の登録モデルとによりパターンマッチングを行い、マッチする登録モデル(利用者)を特定する。
 その他、個人認証装置10は、受信した動画から統合特徴量や登録モデルを生成した後、セキュリティ向上のため、記憶部108から当該動画を削除してもよい。
[応用例]
 本発明の応用例として、建設業界が挙げられる。近年、日本の建設業界では労働者数の減少に伴い、建設現場の作業環境の改善が求められている。例えば、騒音下でもクリアな(ノイズキャンセリング機能を有した)音声通話が可能な業務用ヘッドセットの利用が拡大している。
 そこで、本発明はセンサ20としてこのような業務用ヘッドセットを採用し、利用者(話者)識別の性能改善を実現し得るシステム等として応用することができる。さらに、話者識別を用いて、作業現場おける免許所持の確認や、情報漏洩防止のための人物判断を行うシステム等にも応用することができる。
 その他、本発明は医療情報システムや健康診断システム、または入館管理システムへ応用することができる。例えば、同じ形状がないとされる外耳道内の形状に基づいて個人認証を行うことにより、認証精度が必要とされるセキュリティの高い部屋や施設への入館を管理する入館管理システムを実現することができる。つまり、認証誤りにより関係者以外の入館を許可してしまうといったトラブルがない入館管理システムを実現することができる。また、入管管理のための新たな装置を必要としないので導入がしやすく、機器設置に伴うトラブルなども生じない。
 または、文書の閲覧や機器の使用についての権限が決められ医療情報システムにおいて、医師、看護師、薬剤師などの様々な役割の担当者ごとにシステム内のアクセス権限を付与する際に、リアルタイムでの認証許可が行えるため、アクセス権限付与の際の手間と時間を削減することができる。
 さらに、本発明は外耳道内の画像データに基づいて個人認証を行うと同時に、当該データから外耳道内の異常(ケガ、できもの)や体調の変化などを判断し得る健康診断システムを実現することができる。
 また、本発明は、室温計測機能や湿度機能、および利用者Uの体温計測機能なども有するセンサ20を用いることで、利用者Uが居る場所の室温や湿度などの環境データ、および利用者Uの体温変化や使用時間(センサ20の装着時間)などのバイタルデータに基づいて、使用環境下での使い方や休憩時間などをレコメンドするような構成とすることもできる。
 なお、本実施形態では、人間の認証について説明したが、家畜やペットなどの外耳道が存在する生物にも適応でき、家畜等が自分が所有するものなのか否か等を判定することも可能である。
 また、センサ20に関して、センサ20を装着している途中でも、外部の音声が取り込めるように挿入部23に外部まで連通した穴を設けたり、センサ20自体に外部音取り込み用マイクを取り付けてもよい。
 なお、センサ20は個人認証を行う重要なデバイスであるため、挿入部23に図示しない圧力センサおよび発音部材を設け、圧力の急激な変化(挿入部23が耳から外れ、圧力センサの出力が急激に変化)を検知して、センサ20が耳から外れた際、当該発音部材を鳴らすことで、センサ20の耳から脱落したことを利用者に知らせることができる。また、装置が大型化する可能性はあるが、GPSチップなどをセンサ20に組み込んで、センサ20を落とした時に、すぐに利用者が所有する端末等から位置情報に基づいて発見できるようにしてもよい。
 さらに、センサ20が故障したり紛失したりした場合、認証に基づいたスマートフォンやパソコンへのログイン等ができなることがあるが、その際は、スマートフォン等に別途設けられるパスワード入力でログインしたり、スマートフォンに非接触カードリーダー部材を搭載し、カードキーなどで、ログインできるようにしてもよい。さらに、音声や指紋などでスマートフォンを起動できるように、音声認証デバイスや指紋認証デバイスなどをスマートフォンに設けることもできる。この時、音声認証や指紋認証などと、本発明による外耳道認証とを組み合わせることで、さらにセキュリティを高めることができる。
 また、センサ20の装着回数分、測定可能となることで、装着回数に応じて、利用者へ挿入部23のクリーニングを促したり、または、利用者の勤務時間(開始時間、終了時間)なども記録することも可能になり、様々な利便性を発揮することができる。なお、センサ20により外耳道内の動画を取得することができるので、利用者の中耳炎経過観察や耳垢の溜まり具合なども把握することができ、より利便性の向上を図ることができる。
 その他、センサ20には、図示していない充電用の接点や無接点充電用のコイル、センサ20を充電器にセットして充電する際にカメラ24表面の汚れ度合いを測定する測定手段などが設けられており、測定手段とカメラの表面を例えば接触させて、センサ20の電気容量や電気抵抗などを測定することで、カメラ24の汚れ度合いを測定することができる。そして、その測定状況に応じた汚れ度合いを充電器に設けられた表示器などに表示させ、利用者に知らせることもできる。
 本発明は、認証性能の保証や改善、または利便性の向上などを実現し得る個人認証システム等であり、入館管理システムや健康診断システム、および医療機関で利用される医療情報システムなど様々な分野にその生体認証技術を活かすことができるため、産業上有用である。
 1 個人認証システム
 10 個人認証装置
 101 受信部
 102 送信部
 103 画像判定部
 104 画像処理部
 105 第1の特徴量抽出部
 106 第2の特徴量抽出部
 107 特徴量統合部
 108 記憶部
 109 認証部
 110 制御部
 20 センサ
 20R 第1のセンサ
 20L 第2のセンサ
 21 本体部
 22 通信部
 23 挿入部
 24 カメラ
 25 ライト
 26 土台
 30,301,302 端末
 U,U1,U2 利用者
 Y 利用者の耳
 N ネットワーク通信網

Claims (16)

  1.  外耳道内の撮影画像に基づいて個人認証を行う個人認証システムであって、
     利用者の耳の外耳孔に挿入され、外耳道内の複数の画像データを取得するセンサと、
     前記センサと通信可能な個人認証装置であり、
     前記センサにより取得された複数の画像データを学習データとして特徴量を抽出する特徴量抽出部と、
     前記特徴量抽出部により得られた特徴量から、前記利用者を特定し得る登録モデルを生成する特徴量統合部と、
     前記登録モデルを用いて、前記センサにより取得された複数の画像データに基づいて前記利用者を認証する認証部と、を有する個人認証装置と、
    を備えた個人認証システム。
  2.  前記利用者の耳の外耳孔に挿入された前記センサの装着位置を異ならせることで、複数の画像データを取得する請求項1に記載の個人認証システム。
  3.  前記センサは、前記外耳道内における撮影箇所、撮影角度、撮影倍率のうち少なくとも1以上を異ならせることで複数の画像データを取得する請求項1に記載の個人認証システム。
  4.  前記センサは動画撮影機能を有しており、
     前記認証部は、前記センサにより撮影された外耳道内の入り口から鼓膜付近までの動画における複数の画像データに基づいて、前記利用者を認証する請求項1に記載の個人認証システム。
  5.  前記センサは外耳道内を照らすライトを有しており、
     前記個人認証装置は、前記センサにより取得された画像データが不明瞭なものであるか否かを判定する画像判定部を有しており、
     前記画像判定部は、画像データが不明瞭なものであると判定した場合、前記センサの前記ライトの照射方向を制御する請求項1に記載の個人認証システム。
  6.  前記センサは通話機能を有しており、
     前記個人認証装置は、前記センサにより取得された画像データが不明瞭なものであるか否かを判定する画像判定部を有しており、
     前記画像判定部は、画像データが不明瞭なものであると判定した場合、前記センサを介して、前記利用者に前記センサの装着位置を動かす旨を伝える請求項1に記載の個人認証システム。
  7.  前記個人認証装置は、前記センサにより取得された画像データが不明瞭なものであるか否かを判定する画像判定部と、
     前記画像判定部が、画像データが不明瞭なものであると判定した場合、当該画像データに含まれるノイズを除去する画像処理部と、を有する請求項1に記載の個人認証システム。
  8.  前記センサは、定められたタイミングおよび/または外部装置から指示を受けたタイミングで外耳道内の画像データを取得し、
     前記個人認証装置は、当該画像データに基づいて得られた前記統合特徴量に基づいて前記登録モデルを更新する請求項1に記載の個人認証システム。
  9.  前記個人認証装置は、前記センサにより取得された画像データに耳垢および/または耳毛が含まれているか否かを判定する画像判定部と、
     前記画像判定部が、画像データに耳垢および/または耳毛が含まれていると判定した場合、当該画像データに含まれている耳垢および/または耳毛を除去する画像処理部と、を有する請求項1に記載の個人認証システム。
  10.  前記個人認証装置は、前記センサにより取得された画像データに耳垢および/または耳毛が含まれているか否かを判定する画像判定部を有しており、
     前記特徴量抽出部および前記特徴量統合部は、前記画像判定部が、画像データに耳垢および/または耳毛が含まれていると判定した場合、当該画像データに基づいて前記統合特徴量を得て、
     前記認証部は、当該統合特徴量から生成された登録モデルを用いて、前記センサにより取得された耳垢および/または耳毛が含まれている画像データに基づいて前記利用者を認証する請求項1に記載の個人認証システム。
  11.  前記個人認証装置は、前記センサにより取得された画像データに耳垢および/または耳毛が含まれているか否かを判定する画像判定部と、
     前記画像判定部が、画像データに耳垢および/または耳毛が含まれていないと判定した場合、当該画像データに耳垢および/または耳毛が含まれるように当該画像データを加工する画像処理部と、を有し、
     前記特徴量抽出部および前記特徴量統合部は、前記画像処理部により加工された画像データに基づいて前記統合特徴量を得て、前記登録モデルを生成する請求項8に記載の個人認証システム。
  12.  前記センサは、本体部と、カメラと、前記本体部に取り付けられ前記本体部と前記カメラとを連結する突起状の土台と、を有し、
     前記土台の取り付け位置は、前記利用者の外耳道内の形状および/または鼓膜の位置に応じて変更可能ものである請求項1に記載の個人認証システム。
  13.  前記センサは、
     利用者の右耳の外耳孔に挿入され、外耳道内の複数の画像データを取得する第1のセンサと、
     前記利用者の左耳の外耳孔に挿入され、外耳道内の複数の画像データを取得する第2のセンサと、で構成され、
     前記特徴量抽出部は、
     前記第1のセンサにより取得された複数の画像データを学習データとして第1の特徴量を抽出する第1の特徴量抽出部と、
     前記第2のセンサにより取得された複数の画像データを学習データとして第2の特徴量を抽出する第2の特徴量抽出部と、で構成され、
     前記第1の特徴量および前記第2の特徴量を統合することにより得られた統合特徴量から、前記利用者を特定し得る登録モデルを生成する特徴量統合部と、
     前記登録モデルを用いて、前記第1のセンサおよび前記第2のセンサにより取得された複数の画像データに基づいて前記利用者を認証する認証部と、を有する個人認証装置と、
    を備えた請求項1~12のうちいずれか1項に記載の個人認証システム。
  14.  請求項1~12のいずれか1項に記載の個人認証システムを用いた医療情報システム、健康診断システム、入館管理システム、自動引き落としシステム、または配送管理システムのうちいずれか1つのシステム。
  15.  外耳道内の撮影画像に基づいて個人認証を行う個人認証方法であって、
     利用者の耳の外耳孔に挿入されるセンサにより、外耳道内の複数の画像データを取得する工程と、
     個人認証装置により、前記センサにより取得された複数の画像データを学習データとして特徴量を抽出する工程と、
     個人認証装置により得られた特徴量から、前記利用者を特定し得る登録モデルを生成する工程と、
     個人認証装置により、前記登録モデルを用いて、前記センサにより取得された複数の画像データに基づいて前記利用者を認証する工程と、
    を含む個人認証方法。
  16.  コンピュータを、
     利用者の耳の外耳孔に挿入され、外耳道内の複数の画像データを取得するセンサと通信可能な個人認証装置であり、
     前記センサにより取得された複数の画像データを学習データとして特徴量を抽出する特徴量抽出部と、
     前記特徴量抽出部により得られた特徴量から、前記利用者を特定し得る登録モデルを生成する特徴量統合部と、
     前記登録モデルを用いて、前記センサにより取得された複数の画像データに基づいて前記利用者を認証する認証部と、を有する個人認証装置として動作させるためのプログラム。
PCT/JP2025/016477 2024-05-02 2025-05-01 個人認証システム、個人認証方法、およびプログラム、並びに個人認証システムを用いたシステム Pending WO2025230002A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2024-074843 2024-05-02
JP2024074843 2024-05-02

Publications (1)

Publication Number Publication Date
WO2025230002A1 true WO2025230002A1 (ja) 2025-11-06

Family

ID=97561339

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2025/016477 Pending WO2025230002A1 (ja) 2024-05-02 2025-05-01 個人認証システム、個人認証方法、およびプログラム、並びに個人認証システムを用いたシステム

Country Status (1)

Country Link
WO (1) WO2025230002A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008176407A (ja) * 2007-01-16 2008-07-31 Toshiba Corp 生体認証システム、装置及びプログラム
JP2017151943A (ja) * 2016-02-24 2017-08-31 セイコーエプソン株式会社 装着機器、決済システム及び決済方法
WO2023199455A1 (ja) * 2022-04-13 2023-10-19 株式会社アスタリスク 特定システム、入退場管理システム、及びposシステム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008176407A (ja) * 2007-01-16 2008-07-31 Toshiba Corp 生体認証システム、装置及びプログラム
JP2017151943A (ja) * 2016-02-24 2017-08-31 セイコーエプソン株式会社 装着機器、決済システム及び決済方法
WO2023199455A1 (ja) * 2022-04-13 2023-10-19 株式会社アスタリスク 特定システム、入退場管理システム、及びposシステム

Similar Documents

Publication Publication Date Title
US11244315B2 (en) Authentication system for controlling access and use based on heartbeat shape
KR100952540B1 (ko) 통신 장치, 통신 시스템
US8493178B2 (en) Forged face detecting method and apparatus thereof
CN100430959C (zh) 基于生物测量的身份鉴定装置
JP4387643B2 (ja) 個人認識機能付き処理装置
US20140341440A1 (en) Identity caddy: a tool for real-time determination of identity in the mobile environment
JP2002511968A (ja) 人物の本人確認を行なう方法、システムおよび装置
KR101096984B1 (ko) 촬영 장치, 촬영 방법 및 촬영 프로그램을 기록한 컴퓨터 판독가능한 기록 매체
US12256011B2 (en) Methods, systems, and media for secure authentication of users based on a biometric identifier and knowledge-based secondary information
CN1717694A (zh) 用户和授权装置的生物链接
JP2007135149A (ja) 移動携帯端末
JP6267025B2 (ja) 通信端末及び通信端末の認証方法
CN109034029A (zh) 检测活体的人脸识别方法、可读存储介质和电子设备
JP2023521254A (ja) 画像処理デバイス、画像処理方法、およびプログラム
US12135770B2 (en) Method and system for user authentication
US20050249381A1 (en) Image capture device to provide security, video capture, ambient light sensing, and power management
CN119541089A (zh) 基于生物特征识别与环境感知的智能解锁方法
CN107808087A (zh) 一种电子设备的解锁方法及装置
JP4760049B2 (ja) 顔認証装置、その顔認証方法、その顔認証装置を組み込んだ電子機器およびその顔認証プログラムを記録した記録媒体
KR101674053B1 (ko) 출입통제 장치 및 그 방법
WO2025230002A1 (ja) 個人認証システム、個人認証方法、およびプログラム、並びに個人認証システムを用いたシステム
KR100795360B1 (ko) 얼굴인식에 의한 본인 여부의 판단방법
JP6808532B2 (ja) 警備システム、管理装置及び警備方法
JP6904431B2 (ja) 情報処理装置、プログラム及び情報処理方法
CN1179293C (zh) 确定人员真实性的方法、系统和装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 25797944

Country of ref document: EP

Kind code of ref document: A1