WO2007060980A1 - 電子カメラおよび画像処理装置 - Google Patents

電子カメラおよび画像処理装置 Download PDF

Info

Publication number
WO2007060980A1
WO2007060980A1 PCT/JP2006/323295 JP2006323295W WO2007060980A1 WO 2007060980 A1 WO2007060980 A1 WO 2007060980A1 JP 2006323295 W JP2006323295 W JP 2006323295W WO 2007060980 A1 WO2007060980 A1 WO 2007060980A1
Authority
WO
WIPO (PCT)
Prior art keywords
face
image
data
face recognition
image data
Prior art date
Application number
PCT/JP2006/323295
Other languages
English (en)
French (fr)
Inventor
Hirotake Nozaki
Akira Ohmura
Yasuyuki Motoki
Nobuhiro Fujinawa
Original Assignee
Nikon Corporation
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2005341054A external-priority patent/JP2007150604A/ja
Priority claimed from JP2005341051A external-priority patent/JP2007148691A/ja
Priority claimed from JP2005341053A external-priority patent/JP4432886B2/ja
Priority claimed from JP2005341052A external-priority patent/JP4360369B2/ja
Priority claimed from JP2005341050A external-priority patent/JP4315148B2/ja
Application filed by Nikon Corporation filed Critical Nikon Corporation
Priority to CN2006800438630A priority Critical patent/CN101313565B/zh
Priority to US12/085,353 priority patent/US8488847B2/en
Priority to EP06833117A priority patent/EP1962497B1/en
Publication of WO2007060980A1 publication Critical patent/WO2007060980A1/ja

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras

Definitions

  • the present invention relates to an electronic camera and an image processing apparatus having a human face recognition function.
  • a feature point of a person's face is extracted from a captured image obtained by photographing a person's face, and face recognition is performed based on the degree of coincidence between the face recognition data related to the person to be recognized and the above feature point.
  • a technique to be performed is disclosed (see Patent Document 1).
  • Such face recognition technology requires that face recognition data be registered in advance in an electronic camera or the like. In particular, in order to improve the accuracy of face recognition, more face recognition data is required, so it is necessary to generate face recognition data from captured images of multiple frames.
  • face recognition data when registering face recognition data, it is desired to be able to generate face recognition data from a larger amount of captured image data. For example, if face recognition data can be generated from image data taken with another electronic camera or image data taken in the past, user convenience is greatly improved. Furthermore, in face registration work, there is a demand for a means that makes face registration simpler without performing complicated work.
  • the management and editing of the registered face recognition data is likely to be complicated for the user. For example, when you select face recognition data during shooting and let the electronic camera identify a specific registered person, or when you want to delete face recognition data of a specific registered person during editing, Users are required to be able to easily and quickly recognize the correspondence between face recognition data and registered persons.
  • Patent Document 1 JP-A-6-259534 Gazette
  • the present invention is to solve at least one of the problems of the prior art.
  • One of the purposes of the present invention is to provide an electronic camera that can easily perform registered shooting when generating face recognition data.
  • Another object of the present invention is to provide an image processing apparatus that can easily generate face recognition data of a target person by reading image data obtained by photographing a person in advance.
  • Another object of the present invention is to provide an electronic camera that allows a user to easily and quickly recognize the outline of face recognition data and the correspondence between face recognition data and registered persons.
  • One of the objects of the present invention is to provide an electronic camera that performs control that appropriately reflects the user's intention according to the result of face recognition even when a plurality of recognition objects are photographed at one time.
  • one of the objects of the present invention is to provide an electronic camera capable of appropriately adjusting the amount of calculation of face recognition processing according to the situation.
  • An electronic camera includes an image sensor, an image processing unit, a face detection unit, a control unit, a face image generation unit or a face recognition data generation unit, and a recording unit.
  • the image sensor photoelectrically converts a subject image by the imaging optical system to generate an image signal.
  • the image processing unit generates face registration image data based on the image signal from the imaging element, and Through image data is generated based on the above.
  • the face detection unit detects a face area in the shooting screen based on the through image data.
  • the control unit adjusts the shooting parameters of the shooting optical system according to the detection position of the face area.
  • the face image generation unit cuts out an image of the face area and generates face image data.
  • the face recognition data generation unit extracts a feature point of the photographed person's face from the face area portion of the face registration image data, and generates face recognition data based on the feature point.
  • the recording unit records face image data or face recognition data.
  • An electronic camera includes an imaging device, an image processing unit, a control unit, a face detection unit, a face image generation unit or a face recognition data generation unit, and a recording unit.
  • the image sensor photoelectrically converts a subject image by the imaging optical system to generate an image signal.
  • the image processing unit generates face registration image data based on the image signal from the imaging element, and generates through image data based on the image signal.
  • the control unit adjusts the shooting parameters of the shooting optical system with reference to the center portion of the shooting screen.
  • the face detection unit detects a face area located at the center of the shooting screen based on the through image data or the face registration image data.
  • the face image generation unit generates face image data by cutting out an image of the face area.
  • the face recognition data generation unit extracts a feature point of the photographed person's face from the face area portion of the face registration image data, and generates face recognition data based on the feature point.
  • the recording unit records face image data or face recognition data.
  • control unit executes a release operation of the image sensor when detecting a face based on the through image data.
  • the display device further includes a display unit for displaying an image of the through image data.
  • the control unit turns on the power of the display unit in the photographing mode for generating the face registration image data.
  • the display device further includes a display unit that displays an image of the through image data.
  • the image processing unit synthesizes a composition auxiliary display for assisting the positioning of the face in the shooting screen with the central portion of the through image data and outputs it.
  • the image processing unit further synthesizes a sample display of the photographing state of the subject with the through-image data and outputs it.
  • the control unit limits electronic zoom processing on the face registration image data when generating the face registration image data.
  • the photographing optical system further includes a zoom lens.
  • the control unit limits the zoom lens magnification adjustment range when adjusting shooting parameters and when releasing, compared to when shooting normally.
  • control unit sets the zoom position of the zoom lens to the wide-angle end during release.
  • an image blur correction lens that corrects an image blur on a photographing screen and an angular displacement detection unit that detects an angular variation of an optical axis of an electronic camera.
  • a correction lens driving unit that drives the image blur correction lens based on the angle variation at the time of release.
  • An eleventh invention according to any one of the first to tenth inventions, further comprises an imaging sensitivity changing unit for adjusting a gain of the image signal.
  • the control unit increases the gain of the image signal at the time of release compared to the setting at the time of normal shooting.
  • a twelfth invention according to any one of the first to eleventh inventions further comprises a flash light emitting section for performing flash light emission on the object scene.
  • the control unit disables the flash emission of the flash emission unit at the time of release.
  • control unit generates shooting condition data indicating a shooting condition at the time of release, and the shooting condition data is stored as face image data or It is recorded in the recording unit in association with the face recognition data.
  • control unit In a fourteenth aspect based on any one of the first to thirteenth aspects, the control unit generates acquisition time data indicating the acquisition time of the face image data or the face recognition data, and uses the acquisition time data as the face image. Record in the recording unit in association with the data or face recognition data
  • the image processing unit generates index image data based on the face registration image data.
  • the control unit records the index image data in the recording unit in association with the face image data or the face recognition data.
  • the controller Multiple face image data or face recognition data generated from a person are grouped and recorded in a recording unit.
  • control unit has two or more faces in which any one of the direction of the face of the photographed person, the presence or absence of glasses of the photographed person, and the photographing condition of the face registration image data is different. Group image data or face recognition data.
  • control unit is based on the detection state of the face area when a plurality of face registration image data obtained by photographing the same person is generated. ! / Flick to determine the priority of face registration image data.
  • the face image generation unit or the face recognition data generation unit has high priority and generates face image data or face recognition data from the face registration image data.
  • control unit estimates the orientation of the face of the photographed person based on the detection state of the face area, and the orientation of the face is predetermined. If the direction does not match, the release operation of the image sensor is disabled.
  • the control unit estimates the facial expression of the photographed person based on the detection state of the face area, and the image sensor according to the type of the facial expression. Disables the release operation.
  • An electronic camera includes an imaging device, a face detection unit, a face recognition data generation unit, and a control unit.
  • the image sensor generates an image signal by photoelectrically converting a subject image obtained by the photographing optical system.
  • the face detection unit detects a face area in the shooting screen based on the image signal from the image sensor.
  • the face recognition data generation unit extracts feature points of the photographed person's face from the face area portion, and generates face recognition data based on the feature points.
  • the control unit limits the shooting conditions at the time of shooting for generating the face recognition data more than the shooting conditions at the time of normal shooting.
  • An image processing apparatus includes a control unit, a face detection unit, a face image generation unit or a face recognition data generation unit, and a recording unit.
  • the control unit includes at least one of a built-in memory, a connection unit with a recording medium, and an external communication unit, and also takes captured image data generated in advance by the electronic camera via the built-in memory, the recording medium, and the external communication unit.
  • the face detection unit detects a face area in the shooting screen based on the shot image data.
  • the face image generation unit cuts out the face area image and extracts the face image Generate data.
  • the face recognition data generation unit extracts a feature point of the face of the photographed person from the face area portion of the photographed image data, and generates face recognition data based on the feature point.
  • the recording unit records face image data or face recognition data.
  • an image processing unit that combines a display for identifying a face area with a reproduced image of captured image data, a display unit that displays an output image of the image processing unit, Is further provided.
  • the apparatus further includes an input unit for receiving a user input.
  • the face image generation unit or the face recognition data generation unit generates face image data or face recognition data for the face region selected by the input from the input unit when a plurality of face regions are detected from the captured image data.
  • control unit groups a plurality of face image data or face recognition data generated from the same photographed person and records the grouped data in the recording unit.
  • control unit In a twenty-seventh aspect based on any one of the twenty-second to twenty-sixth aspects, the control unit generates index image data by cutting out a face area portion of the photographed image data into a predetermined size, and generating the index image data.
  • the image data is recorded in the recording unit in association with face image data or face recognition data.
  • the photographed image data has an attached data area in which photographing conditions at the time of photographing are recorded.
  • the control unit generates shooting condition data based on the shooting conditions in the attached data area, and records the shooting condition data in the recording unit in association with the face image data or the face recognition data.
  • the photographed image data has an attached data area in which the photographing date and time are recorded.
  • the control unit generates face image data or face recognition data acquisition time data based on the shooting date and time of the attached data area, and associates the acquisition time data with the face image data or face recognition data in the recording unit. Record.
  • An electronic camera includes an imaging device, a face detection unit, a recording unit, a face recognition unit, and a control unit.
  • the image sensor generates an image signal by photoelectrically converting a subject image obtained by the photographing optical system.
  • the face detection unit detects a face area of the shooting screen based on the image signal, and extracts a feature point of the face of the shooting person from the face area.
  • the recording unit records face recognition data generated in advance based on the feature points of the person's face and index image data for indicating a registered person corresponding to the face recognition data in association with each other.
  • the face recognition unit determines whether the photographed person is a registered person based on the feature points extracted by the face detection unit and the face recognition data.
  • the control unit generates an edit screen that presents the display items used for designating the face recognition data in association with the images of the index image data.
  • the recording unit associates the photographing time of the image data used for generating the face recognition data with the face recognition data. It is recorded in a state of being recorded!
  • the recording unit records processing settings applied when photographing the registered human being in association with the face recognition data. It is characterized by being!
  • the thirty-eighth aspect is characterized in that, in the thirty-seventh aspect, the personal authentication means includes face authentication by a face recognition unit.
  • the recording section can record a plurality of index image data relating to the same registered person, and the control section includes the index image data An image of arbitrary photographed image data is selected from the above, and the selected image is associated with a display item and presented on an editing screen.
  • control unit selects an image of the latest photographed image data from the index image data.
  • the control unit selects an image of photographed image data obtained by photographing the face front of the registered person from the index image data.
  • the control unit sequentially switches the images of the index image data at predetermined intervals and presents them on the editing screen.
  • An electronic camera includes an image sensor, a face detection unit, a recording unit, a face recognition unit, and a control unit.
  • the image sensor generates an image signal by photoelectrically converting a subject image obtained by the photographing optical system.
  • the face detection unit detects a face area of the shooting screen based on the image signal, and extracts a feature point of the face of the shooting person from the face area.
  • the recording unit records face recognition data generated in advance based on the feature points of the registered person's face and shooting settings applied when shooting the registered person in association with each other.
  • the face recognition unit determines whether the photographed person is a registered person based on the feature points extracted by the face detection unit and the face recognition data.
  • the control unit sets the priority order of the registered person and also generates captured image data based on the shooting settings when the registered person is photographed. If multiple registered persons are detected, the control unit has the highest priority order among the registered persons. Apply shooting settings for high people.
  • the apparatus further includes an input unit for receiving a user input. Further, the control unit is characterized by designating a registered person based on an input from the input unit and individually setting a priority order.
  • the display device further includes a display unit for displaying an editing screen for designating a registered person.
  • the control unit displays the registered person on the editing screen. The display position or display order of display items is changed according to priority.
  • the forty-sixth invention is characterized in that, in any of the forty-third to forty-fifth inventions, the control unit sets the priority order in the registration order of the registered persons.
  • control unit arranges registered persons by name and sets a priority order.
  • the recording unit can record a plurality of face recognition data relating to the same registered person in a grouped manner, and the control unit is grouped.
  • priority is set according to the number of face recognition data included in the face recognition data group.
  • the recording unit further records photographing number data indicating the number of photographings for each registered person.
  • the control unit is characterized in that, based on the number-of-shooting data, the number of times of shooting is large and the priority order of the registered person is set high.
  • An electronic camera according to a fifty invention comprises an image sensor, a face detection unit, a recording unit, a control unit, and a face recognition unit.
  • the image sensor generates an image signal by photoelectrically converting a subject image obtained by the photographing optical system.
  • the face detection unit detects a face area of the shooting screen based on the image signal, and extracts a feature point of the face of the shooting person from the face area.
  • the recording unit records face recognition data generated in advance based on the facial feature points of the registered person.
  • the control unit selects determination-use face recognition data from the face recognition data group based on the number of face recognition data included in the face recognition data group related to the registered person as the face recognition target.
  • the face recognition unit determines whether the photographed person is a registered person for face recognition based on the feature points extracted by the face detection unit and the face recognition data for determination.
  • control unit sets a threshold value at which an evaluation value corresponding to a product of the number of face recognition data and the number of face regions is defined by the processing capability of the face recognition unit.
  • the determination face recognition data is selected so as to be lower.
  • the control unit when there are a plurality of registered persons to be face-recognized, the control unit weights the determination face recognition data based on the priority set for each registered person. It is characterized by selecting. [0036] In a fifty-third invention according to any one of the fifty-fifth to fifty-second inventions, the control unit has a large number of face recognition data recorded when there are a plurality of registered persons for face recognition! The determination face recognition data is selected with priority on the registered person.
  • control unit prioritizes face recognition data with a new acquisition time when a plurality of face recognition data are recorded for the same registered person. Then, the determination face recognition data is selected.
  • the control unit records a plurality of pieces of face recognition data having different shooting conditions at the time of acquisition for the same registered person.
  • the determination face recognition data is selected by giving priority to face recognition data whose shooting condition at the time of acquisition approximates the current shooting condition.
  • control unit corresponds to the face front when a plurality of face recognition data having different face orientations are recorded for the same registered person.
  • the determination face recognition data is selected with priority on the face recognition data to be processed.
  • the recording unit further records photographing number data indicating the number of photographings for each registered person.
  • the control unit is characterized in that the determination face recognition data is selected on the basis of the number-of-shooting data, giving priority to a registered person with a large number of times of shooting.
  • the image processing apparatus it is possible to easily generate face recognition data of a target person by reading image data obtained by photographing a person in advance.
  • the user can easily and quickly recognize the outline of the face recognition data and the correspondence between the face recognition data and the registered person.
  • the amount of calculation for face recognition processing can be appropriately adjusted according to the situation.
  • FIG. 1 is a block diagram showing a configuration of an electronic camera according to a first embodiment.
  • FIG. 2 is a flowchart showing the operation in the “face registration mode” of the first embodiment.
  • FIG. 6 A view showing an example of a preview image displayed during face detection.
  • FIG. 7 is a flowchart showing the operation of the “face recognition shooting mode” in the first embodiment.
  • FIG. 8 is a flowchart showing the operation in the “face registration mode” of the second embodiment.
  • FIG. 9 is a flowchart showing the operation in the “face registration mode” of the third embodiment.
  • FIG. 10 is a flowchart showing the operation in the “face registration mode” of the fourth embodiment.
  • FIG. 11 is a diagram showing a display example of a preview image in the fourth embodiment
  • FIG. 12 is a flowchart showing the operation in the “face registration mode” of the fifth embodiment.
  • FIG. 13 is a diagram showing an example of a mode selection screen that can specify the face registration mode.
  • FIG. 14 is a diagram showing an example of a display for confirming retry of face detection processing
  • FIG. 15 A diagram showing a selection state of a face area by a selection frame
  • FIG. 18 is a flowchart showing the operation of the “face recognition shooting mode” in the sixth embodiment.
  • FIG. 19 is a flowchart showing the operation of the “face recognition shooting mode” in the seventh embodiment.
  • FIG. 1 is a block diagram showing the configuration of the electronic camera of the first embodiment.
  • the electronic camera includes a photographing optical system 11, a first lens driving unit 12, a swing sensor unit 13, an image blur correction lens 14, a second lens driving unit 15, an image sensor 16, and an analog signal processing unit. 17, AZD conversion unit 18, built-in memory 19, image processing unit 20, card IZF 21, input / output I ZF 22, operation member 23 and liquid crystal monitor 24, flash light emitting unit 25, CPU 26, face climbing A recording memory 27 and a data bus 28.
  • the internal memory 19, the image processing unit 20, the card IZF 21, the input / output IZF 22 and the CPU 26 are connected via a data bus 28.
  • the photographic optical system 11 is composed of a plurality of lens groups including a zoom lens 11a and a focusing lens 1 lb for adjusting a focus position. Each lens constituting the photographing optical system 11 is driven and adjusted by the first lens driving unit 12 in the optical axis direction.
  • the swing sensor unit 13 includes a vertical angular velocity sensor that detects the pitch of the electronic camera and a horizontal angular velocity sensor that detects the roll of the electronic camera.
  • the swing sensor unit 13 outputs camera swing data indicating the swing of the electronic camera to the CPU 26. This camera movement data is used to calculate the amount of movement of the image blur correction lens 14.
  • the image blur correction lens 14 is configured to be swingable in the direction perpendicular to the optical axis.
  • the second lens driving unit 15 includes a vertical swing unit that swings the image blur correction lens 14 in the vertical direction and a horizontal swing unit that swings the image blur correction lens 14 in the horizontal direction.
  • the second lens driving unit 15 swings the image blur correction lens 14 based on the amount of movement of the image blur correction lens 14 calculated by the CPU 26 and executes blur correction.
  • the image sensor 16 photoelectrically converts the light beam that has passed through the photographing optical system 11 to generate an analog image signal of the subject image.
  • the image sensor 16 also exposes the subject at predetermined intervals even when the camera is not released (during shooting standby), and outputs an analog image signal (through image signal) by thinning readout.
  • the through image signal is used for AF calculation, AE calculation and face detection operation described later, and for generating a finder image.
  • the analog signal processing unit 17 includes a CDS circuit that performs correlated double sampling, a gain circuit that amplifies the output of the analog image signal, a clamp circuit that clamps the waveform of the input signal to a constant voltage level, and the like. .
  • the AZD converter 18 converts the analog image signal of the image sensor 16 into a digital image signal.
  • the built-in memory 19 is used to store images from the image processing unit 20. Data is temporarily stored in the pre-process and post-process.
  • the built-in memory 19 can be provided with a recording area in which captured image data described later can be recorded.
  • the image processing unit 20 performs predetermined image processing on the digital image signal.
  • the image processing unit 20 generates captured image data based on the image signal at the time of release. Further, the image processing unit 20 sequentially generates through image data based on the through image signal.
  • the resolution of the through image data is set lower than the resolution of the captured image data.
  • the through image data is used for face recognition processing by the CPU 26 and also used as a display image (preview image) on the liquid crystal monitor 24.
  • the image processing unit 20 also performs compression processing of the captured image data.
  • the image processing unit 20 can also perform an electronic zoom process that cuts out a part of the captured image and converts the resolution.
  • the image processing unit 20 generates video data for various displays (such as a frame display at the time of face recognition) according to instructions from the CPU 26, and superimposes the video data on the through image data to the liquid crystal monitor 24. Output.
  • various displays such as a frame display at the time of face recognition
  • the card IZF 21 is formed with a connector for connecting the recording medium 29.
  • the recording medium 29 is composed of a known semiconductor memory or the like. Then, the card IZF 21 controls the writing Z reading of the photographed image data to the recording medium 29.
  • the operation member 23 includes an input button and a release button.
  • the input button of the operation member 23 accepts, for example, a switching input of a photographing mode (normal photographing mode, playback mode, face registration mode, face recognition photographing mode, etc.) of the electronic camera.
  • the release button of the operation member 23 accepts an AF operation instruction input by half pressing and a release input by full pressing.
  • the liquid crystal monitor 24 is mainly disposed on the back surface portion of the electronic camera.
  • the liquid crystal motor 24 displays a playback image of captured image data, a setting screen for changing various settings of the electronic camera, and the like.
  • the above setting screen includes an editing screen for editing face recognition data described later.
  • the above preview image can be displayed as a moving image on the liquid crystal monitor 24 in the shooting mode. Therefore, the user can frame the subject while confirming the preview image on the liquid crystal monitor 24.
  • an external connection terminal is formed in the input / output IZF22.
  • the input / output IZF22 controls data transmission / reception with a computer connected via an external connection terminal in accordance with a serial communication standard such as USB (Universal Serial Bus) or IEEE1394.
  • USB Universal Serial Bus
  • IEEE1394 IEEE1394.
  • it is possible to connect the communication unit 30 which is an expansion device for performing wireless communication with the outside to the external connection terminal of the input / output IZF22.
  • the flash light emitting unit 25 includes a xenon arc tube, a main capacitor for storing light emission energy, a reflector and a lens member for efficiently irradiating the subject with the flash light, a light emission control circuit for adjusting a light emission timing and a light amount, and the like. It is configured.
  • the CPU 26 controls the operation of each part of the electronic camera according to a sequence program stored in a ROM (not shown). For example, the CPU 26 executes a known contrast AF (autofocus) calculation or a known AE (automatic exposure) calculation based on the through image signal. Further, the CPU 26 calculates the amount of movement of the image blur correction lens 14 based on the above camera swing data.
  • a known contrast AF autofocus
  • AE automatic exposure
  • the CPU 26 functions as a face detection unit 31 and a face recognition unit 32.
  • the face detection unit 31 extracts feature points from the single image data or the photographed image data, and detects the face area of the subject, the size of the face, and the like. For example, the face detection unit 31 extracts a face region by a feature point extraction process described in Japanese Patent Laid-Open No. 2001-16573. Examples of the feature points include eyebrow, eye, nose and lip end points, face contour points, head vertices and chin lower end points.
  • the face recognition unit 32 In the “face registration mode”, the face recognition unit 32 generates face recognition data based on the detected face feature points. For example, the face recognition unit 32 generates the face recognition data of the force registered person, such as the position of the detected feature point of the face, the size of the face part obtained from the feature point, and the relative distance of each feature point.
  • the face recognition unit 32 performs a face recognition process for determining whether or not a person's face in the shooting screen is a face of a registered person in the face recognition data. Specifically, first, the face recognition unit 32 calculates the position of the feature point of the photographed person's face, the size of each face part, the relative distance of each feature point, and the like based on the detected feature points of the face. Next, the face recognition unit 32 compares the above calculation result with the face recognition data, and compares the face of the predetermined registered person with the face of the photographed person. Find similarity. Then, the face recognizing unit 32 determines that the photographed person matches the predetermined registered person when the similarity is above the threshold.
  • the CPU 26 can execute shooting condition or image processing setting change, release instruction to the image sensor 16, etc. based on the result of face recognition processing!
  • face recognition data generated by the face recognition unit 32 of the CPU 26 is recorded.
  • a group folder is generated for each registered person.
  • Each group person's face recognition data is recorded in the group folder.
  • the face recognition data in the face registration memory 27 is grouped for each registered person by the group folder.
  • the group folder it is possible to record a plurality of pieces of face recognition data with different face orientations, presence / absence of glasses, shooting conditions, and the like regarding the same registered person. Then, by designating the registered person, the CPU 26 can collectively read the face recognition data in the group folder from the face registration memory 27.
  • “Process setting for face recognition” includes (1) setting of shooting conditions for shooting, (2) setting of image processing of shot image data, (3) setting of recording destination of shot image data, (4 This includes settings for print settings for shot image data, and (5) settings for sending shot image data.
  • the setting of shooting conditions in (1) above includes exposure correction values when shooting each registered person, depth of field settings (shallow, standard selection), and the like. It is also possible to set the CPU 26 to automatically take a picture when a registered person is detected.
  • the image processing settings in (2) above include settings for whether or not soft focus processing is performed on captured image data, settings for suppressing edge enhancement, and the like.
  • the directory path of the recording folder in the recording medium 29 that is the recording destination of the photographed image data can be designated for each registered person. That is, the CPU 26 refers to the data in the face registration memory 27 and shoots in a different recording folder for each registered person. Image data can be recorded.
  • print designation setting in (4) above for example, it is possible to designate for each registered person whether or not to print photographed image data according to a standard such as DPOF (Digital Print Order Format). Note that in the transmission setting in (5) above, it is necessary to send the captured image data when the registered person is shooting.
  • DPOF Digital Print Order Format
  • the face registration memory 27 is recorded with data of “face registration image”, “registration time of face recognition data”, and “shooting conditions when acquiring face recognition data”. "Face registration image” above
  • the “face recognition data registration time” and “photographing conditions when acquiring face recognition data” are associated with individual face recognition data in the group folder.
  • the above “face registration image” is photographed image data at the time of face recognition data acquisition, and is resized to a predetermined pixel size.
  • the “face registration image” is displayed on the liquid crystal monitor 24 in the above editing screen. That is, the “face registration image” functions as an index image that improves the identifiability and searchability of the registered person or face recognition data.
  • the “face registration image” allows the user to check on the editing screen who has what kind of image (face front, landscape orientation, etc.) force and face recognition data has been generated.
  • “Registration time of face recognition data” is data of photographing date and time of face registration image data that is the basis of the face recognition data. Further, “shooting conditions when acquiring face recognition data” is data of shooting conditions of face registration image data. The above photographing conditions include, for example, focal length data of the photographing optical system 11, white balance and exposure conditions during photographing, presence / absence of flash emission during photographing, and the like. Note that the “face recognition data registration time” and “shooting conditions when acquiring face recognition data” data are also used for determination when the CPU 26 narrows down the face recognition data used in the face recognition processing.
  • the face registration memory 27 also records shooting number data indicating the number of shootings for each registered person. The number of times of shooting in this shooting number data is incremented by the CPU 26 according to the result of face recognition in the face recognition shooting mode. The above number of shots may be entered manually by the user on the editing screen.
  • face registration mode the operation of the electronic camera of the first embodiment is referred to as “face registration mode” and “face recognition shooting mode”. This will be explained separately.
  • FIG. 2 is a flowchart showing the operation of the “face registration mode” of the first embodiment.
  • This “face registration mode” is a kind of shooting mode in which a user shoots a registered person's face and generates face recognition data.
  • Step 101 First, the user sets the photographing mode of the electronic camera to “face registration mode” using the operation member 23.
  • the user performs an operation for calling a mode selection screen.
  • the CPU 26 displays a mode selection screen (see FIG. 3A) on the liquid crystal monitor 24.
  • the user operates the selection frame on the mode selection screen with the operation member 23 and instructs the CPU 26 to start the “face registration mode”.
  • the CPU 26 starts a series of operations in the “face registration mode”.
  • Step 102 The CPU 26 displays a menu of “face registration mode” on the liquid crystal monitor 24 (see FIG. 3B).
  • the user operates the selection frame with the operation member 23 to select and input “new” or “add” to the CPU 26.
  • the user selects and inputs “new”.
  • the user selects and inputs “Add”.
  • Step 103 The CPU 26 determines whether or not “new” is selected in the menu (S 102). If “New” (YES side), go to S104. On the other hand, if “added” (NO side), move to S 105 mm.
  • Step 104 When “New” is selected in S102, the CPU 26 generates a group folder for a newly registered person (registered person to be photographed this time) in the face registration memory 27. The CPU 26 then displays the “Registered Person Details Information Screen” (see FIG. 5) on the LCD monitor 24 and prompts the user to input the “Registered Person Name” and “Process Settings for Face Recognition” information. . The information entered on the “Registered Person Detailed Information Screen” in FIG. 5 is recorded in the face registration memory 27 in a state of being associated with the group folder. Thereafter, the process proceeds to S106.
  • the user omits the input of “registered person name” and “processing setting for face recognition”. You can also In this case, the user can also manually edit the information in Fig. 3 (b) by launching the "Registered Person Detailed Information Screen” in Fig. 5 and later manually input this information into the face registration memory 27. it can.
  • Step 105 On the other hand, when “Add” is selected in S102, the CPU 26 displays a registered person selection screen (see FIG. 4) on the LCD monitor 24, and allows the user to select and input the registered person to be photographed this time.
  • Step 106 The CPU 26 changes the setting at the time of shooting with the electronic camera to a setting suitable for face registration shooting. Specifically, the CPU 26 performs the following settings (1) to (7).
  • the CPU 26 sets the AF method to the face detection mode in the “Face registration mode”. In this case, the CPU 26 focuses on the face area detected by the through image data regardless of the operation of the release button. This makes it possible to focus on the detected face, or the CPU 26 may lock the AF when the user presses the release button halfway!
  • the CPU 26 sets the AE method to the spot AE mode based on the face detection area. In this case, the CPU 26 performs AE calculation in accordance with the face area detected by the through image data. This optimizes the exposure of the detected face.
  • the CPU 26 disables the electronic zoom processing of the image processing unit 20 in the “face registration mode”.
  • the CPU 26 restricts the maximum magnification of the electronic zoom so that it is smaller than normal by means of limiting the magnification of the electronic zoom to about 2 times, for example. This is because when the electronic zoom is performed, the amount of information of the face registration image taken decreases, and the extraction accuracy of facial feature points decreases.
  • the CPU 26 reduces the maximum magnification by narrowing the magnification adjustment range of the zoom lens 11a to the wide-angle side compared to normal shooting. This is because, when a face is detected, the possibility of face detection increases if the zoom lens is set to the wide-angle side to increase the depth of field. In addition, if the zoom lens is set to the wide angle side, the possibility that the captured image will be blurred is reduced. In this case, it is particularly preferable to fix the position of the zoom lens 11a at the wide angle end because the depth of field becomes deeper.
  • the CPU 26 may perform control to gradually increase the depth of field when face detection cannot be performed.
  • the CPU 26 performs optical blur correction by moving the image blur correction lens 14 based on the output of the fluctuation sensor unit 13. This is to avoid failure in capturing the face registration image due to camera shake.
  • the CPU 26 sets the gain setting (imaging sensitivity setting) of the image signal in the analog signal processing unit 17 to be higher than the setting during normal shooting. This is because when the imaging sensitivity is increased, the above-mentioned shooting time is shortened, so that the possibility that the face registration image is shaken is also reduced.
  • the CPU 26 disables the flash emission of the flash emission unit 25 in the “face registration mode”. If flashing is performed during shooting, the face of the photographed person will be shadowed and the accuracy of face detection will be reduced. Note that when shooting forcibly when the scene is dark and sufficient exposure cannot be ensured, or when you intend to acquire face recognition data during flash emission, the CPU 26 uses the flash unit 25. Let's make it emit an exception.
  • Step 107 The CPU 26 drives the image sensor 16 to acquire a through image signal.
  • the image sensor 16 outputs a through image signal by thinning readout at predetermined intervals.
  • the image processing unit 20 generates through image data based on the through image signal.
  • a preview image is displayed as a moving image on the liquid crystal monitor 24 based on the through image data.
  • the face detection unit 31 of the CPU 26 performs a known face detection process on the through image data to detect a face area in the shooting screen.
  • the face detection unit 31 lowers the threshold value that defines the detection accuracy of the face region (face detection accuracy rate) to increase the detection rate of the face candidates more than usual.
  • the face registration image may be shot with a face orientation that is difficult to detect (for example, landscape orientation).
  • the image processing unit 20 A rectangular frame is synthesized and displayed at the position of the face area of the review image (see Fig. 6). As a result, the user can confirm the presence or absence of face detection in the preview image.
  • Step 109 The CPU 26 determines in S 108 whether or not the face of the photographing screen has been detected.
  • Step 110 The CPU 26 estimates the face direction based on the detection state of the facial feature points in the face area! Then, the CPU 26 determines whether or not the estimated face orientation matches the predesignated face orientation (front orientation, landscape orientation, etc.). If the face is in the specified direction (YES side), the process proceeds to S111. On the other hand, if the face orientation is other than the predetermined direction (NO side), the process returns to S107. At this time, the CPU 26 may display a warning display such as “Please change the direction of the subject's face and shoot” on the LCD monitor 24, etc.
  • the detection of the face orientation in S110 is performed by a known means.
  • the CPU 26 may calculate the orientation of the face by detecting the face image power and the face contour and nose coordinates.
  • the CPU 26 may recognize the direction of the face based on an image database in which face images are classified and registered for each face direction.
  • Step 111 The CPU 26 estimates the facial expression based on the detection state of the facial feature points in the facial region. Then, the CPU 26 determines whether or not the estimated facial expression is in a neutral state (a normal state after blinking). If the facial expression is neutral (YES side), go to S112. On the other hand, if the facial expression is not neutral (NO side), the process returns to S107. At this time, the CPU 26 may display a warning display such as “Please shoot with the subject's expression changed” on the LCD monitor 24 etc.
  • the detection of the facial expression in S111 is performed by a known means.
  • learning face images classified into classes such as normal facial expressions, face with closed eyes, face with open mouth, and smile are prepared in advance, and the CPU 26 is canonical.
  • Discrimination After identifying by analysis, discriminate facial expressions with the evaluation values set for each class.
  • standard patterns such as open eyes, closed eyes, open mouths, closed mouths, etc. are prepared in advance, and the CPU 26 may match each pattern with the face area, and the pattern combination force may also estimate the facial expression. .
  • the CPU 26 does not release, and no image is taken until the facial expression of the subject changes. Therefore, it is possible to more reliably acquire a face registration image in which the facial expression is neutral. If face recognition data is generated from an image with a smile or closed eyes, the accuracy of face recognition may be greatly reduced, so face-registered images with a facial expression are the most suitable images for face recognition. Because it is considered to be.
  • CPU 26 can omit the processes of S110 and S111 described above according to user settings.
  • Step 112 The CPU 26 executes AF calculation and AE calculation based on the detected position of the face area.
  • Step 113 The CPU 26 determines whether or not the release button has been fully pressed. When the release button is pressed down fully (YES side), S114 moves to S114. On the other hand, when V is not input to the release button (NO side), the CPU 26 waits for the release button to be fully pressed.
  • Step 114 The CPU 26 drives the image sensor 16 to shoot a subject image. Thereafter, the image processing unit 20 generates photographed image data (face registration image data) based on the image signal at the time of release.
  • Step 115 The face recognition unit 32 of the CPU 26 generates registered person face recognition data from the face registration image data (S114). In addition, the image processing unit 20 trims the face area of the face registration image data and resizes it to a predetermined size by resolution conversion to generate index image data.
  • Step 116 The CPU 26 records the photographing conditions and photographing date / time of the face recognition data, the index image data, and the face registration image data in the face registration memory 27.
  • Each of the above data is recorded in the group folder of the registered person specified in S104 or S105 in a state of being associated with each other.
  • the index image data is “Face registration” Corresponds to “image”.
  • the shooting condition corresponds to “registration time of face recognition data”, and the shooting condition corresponds to “shooting condition when acquiring face recognition data”.
  • face registration mode of the first embodiment
  • settings suitable for face registration are changed as shooting settings, and AF calculation and AE calculation are performed based on the detection position of the face area (S106, S112).
  • face recognition data is generated based on face registration image data obtained by photographing a person's face (S114, S115). Therefore, the user can easily obtain face recognition data based on a properly registered face registration image simply by pointing the electronic camera at the person to be registered and releasing it.
  • FIG. 7 is a flowchart showing the operation of the “face recognition photographing mode” of the first embodiment.
  • This “face recognition shooting mode” is a shooting mode in which, when a designated registered person exists on the shooting screen, the electronic camera performs predetermined control to acquire shot image data.
  • Step 201 First, the user sets the photographing mode of the electronic camera to the “face recognition photographing mode” using the operation member 23.
  • the user performs an operation of calling a mode selection screen.
  • the CPU 26 displays a mode selection screen (see FIG. 3A) on the liquid crystal monitor 24.
  • the user 1 operates the selection frame on the mode selection screen with the operation member 23 and instructs the CPU 26 to start the “face recognition photographing mode”.
  • the CPU 26 starts a series of operations in the “face recognition shooting mode”.
  • Step 202 The CPU 26 displays a registration person selection screen (see FIG. 4) on the liquid crystal monitor 24. Then, the CPU 26 accepts a designation input of a registered person for face recognition (a registered person who performs face recognition at the time of shooting). It should be noted that the registered person to be face-recognized can be designated and input in advance to the user power SCPU 26 before shooting.
  • CPU26 specifies one or more registered persons. Can be accepted.
  • the CPU 26 can accept all designations of registered persons in the face registration memory 27.
  • the group folder is linked in advance with a predetermined category (for example, family, circle, etc.), and the user can input a batch designation of registered persons linked to the CPU 26 by designating and inputting the category on the selection screen. it can.
  • Step 203 The CPU 26 drives the image sensor 16 to acquire a through image signal.
  • the image sensor 16 outputs a through image signal by thinning readout at predetermined intervals.
  • the image processing unit 20 generates through image data based on the through image signal.
  • a preview image is displayed as a moving image on the liquid crystal monitor 24 based on the through image data.
  • Step 205 The CPU 26 determines whether or not the face of the photographing screen is detected in S204.
  • Step 206 The CPU 26 executes AF calculation based on the detected position of the face area. When a plurality of face areas are detected, the CPU 26 prioritizes the face area located at the center of the shooting screen or the face area located closest to the shooting screen, and executes the AF calculation.
  • Step 207 The face recognition unit 32 of the CPU 26 executes face recognition processing on the detected face area (S204). Then, the face recognition unit 32 determines whether or not the recognition target face (S202) is included. If the face to be recognized is included (YES side), go to S208. On the other hand, if the face to be recognized is not included (NO side), the process moves to S210.
  • Step 208 The CPU 26 changes the setting of the photographing condition of the electronic camera, the setting of the image processing, and the like based on the data of “processing setting for face recognition” corresponding to the detected registered person. Thereafter, the process proceeds to S210.
  • Step 209 the CPU 26 selects the AF area by the algorithm during normal shooting and executes the AF calculation in response to the half-pressing operation of the release button by the user.
  • Step 210 The CPU 26 It is determined whether or not the release button is fully pressed. If the release button is fully pressed (YES side), the flow shifts to S211. On the other hand, when V is not input to the release button (NO side), the CPU 26 waits for the release button to be fully pressed.
  • Step 211 The CPU 26 drives the image sensor 16 to shoot a subject image. Thereafter, the image processing unit 20 generates photographed image data based on the image signal at the time of release. If the face to be recognized has been photographed, the image processing unit 20 performs the image processing set in S208 on the photographed image data.
  • Step 212 The CPU 26 records the photographed image data on the recording medium 29. If the face to be recognized has been shot, the CPU 26 can also classify and record the shot image data in a predetermined recording folder based on the directory path specified in the face registration memory 27. . Thus, a series of operations in the “face recognition photographing mode” is completed.
  • the face recognition photographing mode the face of the photographed person is recognized based on the face recognition data (S207).
  • various processing at the time of shooting is performed with settings corresponding to the registered person (S208, S211, S212). Therefore, processing that reflects the user's intention can be automatically performed when the registered person is photographed, and the convenience of the user operating the electronic camera is significantly improved.
  • FIG. 8 is a flowchart showing the operation in the “face registration mode” of the second embodiment. 8 correspond to S301 to S312i in FIG. 8 and S101 to S112 in FIG. 2, respectively, and correspond to S315i in FIG. 8 and S11 6 in FIG.
  • Step 313 The CPU 26 automatically releases after the AF is finished, and drives the image sensor 16 to take a subject image. Thereafter, the image processing unit 20 generates photographed image data (face registration image data) based on the image signal at the time of release.
  • Step 314 The face recognition unit 32 of the CPU 26 registers the registered person from the face registration image data (S313). Generate face recognition data. Further, the image processing unit 20 generates index image data from the face registration image data.
  • the effect of the “face registration mode” of the second embodiment will be described.
  • a human face is automatically photographed to generate face recognition data (S313, S314). Therefore, the user can easily acquire face recognition data based on an appropriate face registration image simply by pointing the electronic camera toward the person to be registered.
  • face recognition data S313, S314. Therefore, the user can easily acquire face recognition data based on an appropriate face registration image simply by pointing the electronic camera toward the person to be registered.
  • focusing and release are automated, it is possible to direct the user's face registration and shooting with the shooting optical system toward the user himself / herself.
  • FIG. 9 is a flowchart showing the operation in the “face registration mode” of the third embodiment. 9 correspond to S401 to S409i in FIG. 9 and S101 to S109 in FIG. 2, respectively, and correspond to S414i in FIG. 9 and S11 6 in FIG.
  • Step 410 The CPU 26 performs AF calculation and AE calculation based on the detected position of the face area.
  • Step 411 The CPU 26 automatically performs a predetermined number of releases in succession to obtain a plurality of photographed image data (face registration image data).
  • the CPU 26 shoots a plurality of face registration image data under the same shooting conditions. This is because, for example, when the subject is stationary, or when camera shake occurs, different images are taken under the same shooting conditions.
  • the CPU 26 may perform bracketing shooting by changing parameters such as exposure conditions and white balance in stages.
  • Step 412 The face detection unit 31 of the CPU 26 performs face detection processing on each of the plurality of face registration image data acquired in S411 to extract feature points. Then, the CPU 26 sets the priority order for each face registration image data in the order in which the detection state of the facial feature points is good (for example, in the descending order of the number of extracted feature points). Note that, as indicated by S110 and S111 in the first embodiment, the CPU 26 may set the priorities in consideration of the face orientation and facial expression of the face registration image data.
  • Step 413 The CPU 26 selects face registration image data with the highest priority among the plurality of face registration image data acquired in S411. And the CPU 26 face recognition unit 32 Face recognition data is generated from the selected face registration image data. Further, the image processing unit 20 generates index image data from the selected face registration image data.
  • face recognition data is generated by selecting an optimum image from a plurality of face registration image data. Therefore, according to the third embodiment, it is easier to improve the accuracy of face recognition during face recognition shooting.
  • FIG. 10 is a flowchart showing the operation in the “face registration mode” of the fourth embodiment. Note that S501 to S505i in FIG. 10 correspond to S101 to S105 in FIG. 2, respectively, and S513 and S514 in FIG. 10 correspond to S115 and S116 in FIG.
  • Step 506 The CPU 26 changes the setting at the time of shooting with the electronic camera to a setting suitable for face registration shooting. Specifically, the CPU 26 performs the same settings as (3) to (7) of S106, and also performs the following settings (a) and (b).
  • the CPU 26 selects the AF area at the center of the shooting screen in the “face registration mode” and performs AF calculation.
  • the CPU 26 performs focus control with so-called center-weighted AF according to the half-press operation of the release button, and executes AF lock control when the focus is achieved. This is because by acquiring a face registration image at the center of the shooting screen, the influence of the aberration of the shooting optical system is reduced, and highly accurate face recognition data is generated.
  • the CPU 26 sets the AE method to the spot AE mode based on the center of the shooting screen in the “face registration mode”. This optimizes the exposure of the face shot at the center of the shooting screen.
  • Step 507 The CPU 26 drives the image sensor 16 to acquire a through image signal.
  • the image sensor 16 outputs a through image signal by thinning readout at predetermined intervals.
  • the image processing unit 20 generates through image data based on the through image signal.
  • a preview image is displayed as a moving image on the liquid crystal monitor 24 based on the through image data.
  • the image processing unit 20 in S507 synthesizes a composition assistance display at the center of the preview image shooting screen (see FIG. 11).
  • the composition assistance display in Fig. 11 shows the position of the face in the shooting screen with a rectangular frame.
  • This composition assistance display allows the user to The face can be easily positioned during framing. Therefore, the user can easily shoot a face registration image in good condition.
  • the composition assistance display only the four corners of the rectangular frame may be combined with the preview image.
  • the display color of the image may be changed inside and outside the face containing range by means such as monochrome display other than the face containing range (both shown) Is omitted).
  • the image processing unit 20 in S507 synthesizes the photographed sample display in the peripheral area other than the center of the preview image (see FIG. 11).
  • the photographic sample display in Fig. 11 displays a photograph or illustration of a person's face facing a predetermined direction. For example, when a face registration image facing the front is photographed, the face image facing the front is displayed on the photographing sample display. With this shooting sample display,
  • the image processing unit 20 may combine a message display such as “Please shoot the front face” with the preview image.
  • Step 508 The CPU 26 determines whether or not the release button is half-pressed. When the release button is pressed halfway (YES side), S509 moves to S509. On the other hand, if there is no input on the release button (NO side), the process returns to S507.
  • Step 509 The CPU 26 executes AF calculation and AE calculation based on the center of the shooting screen in response to the half-press operation of the release button by the user.
  • Step 510 The CPU 26 determines whether or not the release button has been fully pressed. If the release button is fully pressed (YES side), the flow shifts to S511. On the other hand, there is no input to the release button
  • the CPU 26 waits for the release button to be fully pressed.
  • Step 511 The CPU 26 acquires photographed image data (face registration image data) in response to the release button full-press operation by the user.
  • Step 512 The face detection unit 31 of the CPU 26 performs a known face detection process on the center of the shooting screen of the face registration image data (S511) to detect a face area in the shooting screen.
  • the user Face recognition data is generated based on face registration image data manually taken by Zaichi. Therefore, it is possible to create face recognition data according to the user's intention. Further, since the face registration image is acquired at the center of the shooting screen with little influence of the aberration of the shooting optical system, face recognition data can be generated with higher accuracy.
  • the CPU cuts out the face area from the face registration image to generate face image data, and records this face image data in a memory or recording medium. May be. It is also possible to generate face image data and face recognition data by post-processing by a computer.
  • the face image data is generated by cutting out the face area of the face registration image with a size of about 80 ⁇ 80 pixels, for example. It is preferable not to perform a scaling process by resolution conversion on the powerful face image data image.
  • the CPU preferably records the face image data in association with the index image data, the shooting conditions of the face registration image data, and the shooting date and time. Further, for the face image data described above, it is preferable that the CPU records a plurality of face image data generated from the same photographed person in the same folder or the like.
  • the fifth embodiment is a modification of the first embodiment, and photographic image force face recognition data is generated by an electronic camera which is an embodiment of the image processing apparatus of the present invention.
  • the configuration of the electronic camera of the fifth embodiment is the same as that of the first embodiment, and a duplicate description is omitted.
  • FIG. 12 is a flowchart showing the operation of the “face registration mode” according to the fifth embodiment.
  • This “face registration mode” is a type of playback mode, and is a mode for generating face recognition data when shooting image data is played back.
  • Step 1101 First, the user sets the electronic camera to “playback mode” using the operation member 23.
  • the CPU 26 reads the face registration image data (photographed image data used to generate face recognition data) from the recording medium 29 or the built-in memory 19, and plays back the face registration image data. Is displayed on the LCD monitor 24.
  • the CPU 26 can also read face registration image data from an external connection terminal of the input / output IZF 22 or a computer (not shown) connected via the communication unit 30.
  • Step 1102 The user sets the electronic camera mode to the “face registration mode” using the operation member 23.
  • the user performs an operation for calling a mode selection screen.
  • the CPU 26 displays a mode selection screen (see FIG. 13) on the liquid crystal monitor 24.
  • the user operates the selection frame on the mode selection screen with the operation member 23 and instructs the CPU 26 to start the “face registration mode”.
  • the CPU 26 starts a series of operations in the “face registration mode”.
  • Step 1103 The face detection unit 31 of the CPU 26 performs a known face detection process on the face registration image data (S 1101) to detect a face area in the shooting screen.
  • Step 1104 The CPU 26 outputs the position of the face area on the shooting screen to the image processing unit 20. Then, the image processing unit 20 synthesizes and displays a rectangular frame at the position of the face area of the reproduced image (see FIGS. 14 to 16). As a result, the user can check the face detection status on the LCD monitor 24.
  • Step 1105 The CPU 26 displays a display (selection display of “OK” and “Redo”) for confirming the retry of the face detection process with the user on the liquid crystal monitor 24 (see FIG. 14). If there is no frame display on the face of the person to be registered, the user selects and inputs “Redo” with the operation member 23. On the other hand, when there is a frame display on the face of the person to be registered, the user selects and inputs “ ⁇ ” with the operation member 23.
  • the CPU 26 determines whether or not “Redo” (retry of face detection processing) is selected in the above confirmation display. If “Redo” is selected (YES side), the process moves to S1106. On the other hand, if “OK” is selected (NO side), the flow shifts to S1107.
  • Step 1106 The face detection unit 31 of the CPU 26 changes the threshold value that defines the detection accuracy of the face area based on the user input from the operation member 23.
  • the face detection unit 31 performs face registration image A face detection process is performed on the data to redetect the face area in the shooting screen. In this case, the accuracy rate for correctly detecting the face area decreases, but the number of face candidates (face areas displayed in a frame) increases compared to the previous time. Etc.) is more likely to be detected.
  • the face detection unit 31 performs face detection processing on the face registration image data and redetects the face area in the shooting screen. In this case, since the accuracy rate for correctly detecting the face area is increased, the number of face candidates is narrowed down and the selection operation (S 1107) described later becomes easy.
  • Step 1107 The CPU 26 synthesizes and displays a selection frame in any face area (S 1103) of the face registration image (see FIG. 15). While the user operates the selection frame with the operation member 23 to select a person for generating face recognition data, the CPU 26 accepts the user's selection input. In S1107, the user can also select a plurality of face areas from one playback image.
  • Step 1108 The CPU 26 displays on the LCD monitor 24 a display for confirming to the user whether or not the selected person is a new registered person (selection display of “new” and “add”) (see FIG.
  • the user operates the selection frame with the input button to select and input “new” or “additional calo” to the CPU 26.
  • the user selects and inputs “new”.
  • the user selects and inputs “add” when photographing a face of a person who has already been registered.
  • the CPU 26 determines whether or not “new” is selected in the confirmation display. If “New” is selected (YES side), the flow shifts to S1109. On the other hand, if “add” is selected (NO side), the flow shifts to S1110.
  • Step 1109 When “New” is selected in S1108, the CPU 26 generates a group folder of newly registered persons in the face registration memory 27. Then, the CPU 26 displays a “registered person detailed information screen” (see FIG. 5) on the liquid crystal monitor 24 and prompts the user to input information of “registered person name” and “processing setting for face recognition”. The information entered on the “Registered Person Details Information Screen” in Fig. 5 is registered as a face in a state associated with the group folder. Recorded in memory 27. Thereafter, the process proceeds to S1111.
  • Step 1110 If “Add” is selected in S1108, the CPU 26 displays the registered person selection screen (see Figure 4) that has already been registered on the LCD monitor 24 and adds the face recognition data. Let the user select and enter a registered person.
  • Step 1111 The face recognition unit 32 of the CPU 26 generates registered person face recognition data from the face area (S 1107) selected from the face registration image data. Further, the image processing unit 20 trims the face area of the face registration image data and resizes the face area to a predetermined size by resolution conversion to generate index image data.
  • Step 1112 The CPU 26 acquires the shooting conditions and shooting date / time data recorded in the attached data area of the face registration image data. For example, if the face registration image data conforms to the Exif (Exchangeable image file format for digital still cameras) standard and is a 7-image file, the CPU 26 captures the shooting conditions and recording conditions recorded in the image file in the tag format. Read and acquire shooting date / time data. Note that this step is omitted when the data format of the face registration image data does not include the attached data area.
  • Exif Exchangeable image file format for digital still cameras
  • Step 1113 The CPU 26 records the shooting conditions and shooting date / time of the face recognition data, index image data, and face registration image data in the face registration memory 27.
  • Each of the above data is recorded in the group folder of the registered person specified in S 1109 or SI 110 in a state of being associated with each other.
  • the index image data corresponds to the “face registration image”.
  • the shooting date and time corresponds to “face recognition data registration time”, and the shooting condition corresponds to “shooting condition when acquiring face recognition data”.
  • face recognition data is detected from the captured image data read from the recording medium 29 etc. during playback.
  • Data is generated (SI 101, SI 111). That is, captured image data taken in the past and
  • face recognition data is generated based on the face area automatically detected by the face detection process (S 1103, Sl ll Do at this time, the user is detected). Since it is sufficient to specify a target for generating face recognition data from the face area, face recognition data can be generated easily.
  • the CPU instead of generating face recognition data from the face registration image, the CPU generates face image data by cutting out the face area from the face registration image, and records this face image data in the memory or recording medium. It may be. It is also possible to generate face image data and face recognition data by post-processing by a computer.
  • the face image data is generated by cutting out the face area of the face registration image with a size of about 80 ⁇ 80 pixels, for example. It is preferable not to perform a scaling process by resolution conversion on the powerful face image data image.
  • the CPU preferably records the face image data in association with the index image data, the shooting conditions of the face registration image data, and the shooting date and time. Further, for the face image data described above, it is preferable that the CPU records a plurality of face image data generated from the same photographed person in the same folder or the like.
  • the sixth embodiment is a modification of the first embodiment and relates to the operation and display of the edit screen of various data in the face registration memory 27 and the operation in the face recognition photographing mode.
  • the configuration of the electronic camera of the sixth embodiment is the same as that of the first embodiment, the duplicate description is omitted.
  • the edit screen of the electronic camera of the sixth embodiment will be described.
  • the user (operator) starts up the editing screen using the operation member 23.
  • the information of the person registered in the face registration memory 27 is information belonging to privacy for the owner of the electronic camera. Therefore, the CPU 26 of the electronic camera can be set to perform personal authentication for the user (operator) and display the editing screen only for a user who has been previously permitted by the owner.
  • means for personal authentication include authentication by inputting a password and face authentication.
  • a known biometrics authentication device such as fingerprint authentication or iris authentication may be mounted on the electronic camera.
  • face authentication in addition to being able to use the configuration of face recognition processing of the electronic camera as it is, it is particularly preferable for a user who tries unauthorized access because it also has a psychological deterrent effect by photographing the face.
  • FIG. 17 is a flowchart in the case of performing face authentication by the startup operation of the edit screen. It is assumed that face recognition data of a user who is permitted to access the editing screen is recorded in the face registration memory 27 in advance.
  • Step 2101 First, the user performs an operation for starting up the edit screen by using the operation member 23. As a result, the CPU 26 displays a message prompting the user to shoot a face such as “Please shoot a face” on the LCD monitor 24. In addition, the CPU 26 changes various settings of the electronic camera to settings suitable for face authentication shooting. Specifically, CPU26 performs the following settings.
  • the CPU 26 sets the AF method to the face detection mode. In this case, the CPU 26 automatically repeats focusing according to the face area detected by the through image data regardless of the operation of the release button. In addition, the CPU 26 sets the AE method to the spot AE mode with the face detection area as a reference. In this case, the CPU 26 executes AE calculation in accordance with the face area detected by the through image data. In this case, since focusing and release are automated, it is possible to shoot by one person with the photographic optical system facing the operator himself.
  • the CPU 26 further performs the following settings (1) to (5) as necessary.
  • the CPU 26 disables the electronic zoom processing of the image processing unit 20. Because electronic zooming reduces the amount of information in the captured image, the facial feature point extraction accuracy decreases. is there.
  • the CPU 26 fixes the position of the zoom lens 11a at the wide angle end. When detecting a face, setting the zoom lens to the wide-angle side and increasing the depth of field increases the possibility of face detection. Also, if the zoom lens is set to the wide-angle side, the possibility that the captured image will be blurred is reduced.
  • the CPU 26 performs optical blur correction by moving the image blur correction lens 14 based on the output of the swing sensor unit 13. This is to avoid shooting failures due to camera shake.
  • the CPU 26 increases the gain setting (imaging sensitivity setting) of the image signal in the analog signal processing unit 17 higher than the setting at the time of normal shooting.
  • the higher the imaging sensitivity the shorter the shooting time corresponding to shatter time, which reduces the possibility of camera shake.
  • the CPU 26 disables the flash emission of the flash emission unit 25. This is because flashing light during shooting will cause shadows on the face of the photographed person and reduce the accuracy of face detection. If the subject is dark and sufficient exposure cannot be ensured, forcibly shooting in a state, the CPU 26 may cause the flash unit 25 to emit light exceptionally.
  • Step 2102 The CPU 26 drives the image sensor 16 to acquire a through image signal.
  • the image sensor 16 outputs a through image signal by thinning readout at predetermined intervals.
  • the image processing unit 20 generates through image data based on the through image signal.
  • Step 2103 On the other hand, the face detection unit 31 of the CPU 26 performs a known face detection process on the through image data to detect a face area in the shooting screen. Then, the CPU 26 performs AF calculation and AE calculation based on the detected position of the face area.
  • Step 2104 The CPU 26 automatically releases after the AF is completed, and drives the image sensor 16 to shoot a subject image. Thereafter, the image processing unit 20 generates photographed image data based on the image signal at the time of release.
  • Step 2105 The face recognition unit 32 of the CPU 26 extracts facial feature points from the face area of the photographed image data (S2104) based on the result of the face detection in S2103. And face recognition part 3
  • Step 2106 The face recognition unit 32 determines whether or not the detected face is a face of “user permitted to access the edit screen”. "Users authorized to access the edit screen If "" (YES side), go to S2107. On the other hand, if it is not “a user who is permitted to access the edit screen” (NO side), the CPU 26 ends the process without displaying the edit screen on the LCD monitor 24.
  • the face recognition unit 32 sets a threshold for determining the similarity in the face recognition process higher than that during normal photographing. In this case, it is desirable to more surely identify “user permitted to access the edit screen”.
  • Step 2107 The CPU 26 displays an editing screen on the LCD monitor 24.
  • a user who is permitted to access the editing screen can manage and edit face recognition data on the editing screen.
  • the editing screen consists of a “Registered Person Selection Screen (see FIG. 4)” and a “Registered Person Detailed Information Screen (see FIG. 5)” in the GUI (Graphical User Interface) format.
  • the CPU 26 executes any of the following display processing operations on the editing screen based on a predetermined sequence program.
  • "Registered person selection screen” in FIG. 4 is an initial display screen of the editing screen.
  • display items for selecting persons corresponding to registered persons in the face registration memory 27 are displayed.
  • the number of person selection display items matches the number of registered persons (number of group folders) in the face registration memory 27.
  • display items for selecting persons are displayed in a list. It should be noted that only part of the display items for selecting people may be displayed on the “registered person selection screen” and the list can be displayed by switching the screen in scroll format or page format.
  • “Name of registered person” is displayed in each of the above-mentioned display items for selecting a person.
  • the “registered person name” the “registered person name” data associated with the group folder of the registered person in the face registration memory 27 is used.
  • an index image indicating the corresponding registered person is displayed in the person selection display item.
  • the CPU 26 sets the index image of the display item for selecting people by the following method. [0141] First, the CPU 26 sets an illustration image selected by a predetermined illustration image group power user as an indented image. Powerful illustration images can also be used to identify and classify registered people according to the user's intentions.
  • the above-mentioned illustration image is recorded in advance in a ROM (not shown) and is configured in a data format such as GIF format or BMP format.
  • a data format such as GIF format or BMP format.
  • the above-described illustration image includes, for example, graphic symbols such as symbols, letters and stars, and characters such as “family” and “friends”.
  • the CPU 26 sets the “face registration image” of the registered person recorded in each group folder of the face registration memory 27 as an index image.
  • the face registration image is particularly preferable because the relationship between the display item for selecting the person and the registered person is visually clarified.
  • the CPU 26 selects an index image by any of the following methods (1) to (4)!
  • (D CPU 26 sets the face registration image selected by the user from a plurality of face registration images as the index image.
  • the face registration image determined by the user to be the most suitable S index image and Therefore, the display screen can reflect the user's intention.
  • the CPU 26 refers to the “registration time of face recognition data” in the face registration memory 27, and sets the image with the newest shooting date and time among the plurality of face registration images as the index image. In this case, since the latest face registration image related to the registered person automatically becomes an index image, it is possible to display the face considered to be the closest to the current registered person.
  • the CPU 26 selects a face registration image obtained by photographing the front of the face from among the plurality of face registration images and sets it as an index image. In this case, since the face image facing the front automatically becomes an indented image, it is possible to further improve the distinguishability and searchability in the display item for selecting the person.
  • the CPU 26 sets an image with a new photographing date and time as an index image as shown in (2) above.
  • the detection of the face orientation of the face registration image is performed as follows.
  • identification information regarding the orientation of the face may be recorded in advance in the face recognition data, and the CPU 26 may determine the orientation of the face of the face registration image with reference to the identification information.
  • the CPU 26 sequentially switches a plurality of face registration images at predetermined intervals, and performs display setting of the index image in the slide show format.
  • the user can grasp the number of registered face registration images of the registered person (that is, the number of registered face recognition data) on the “registered person selection screen”.
  • the index image it is possible to realize a “registered person selection screen” that is highly visual and highly entertaining.
  • the user can operate the selection frame (or cursor, etc.) indicated by the bold line in FIG. .
  • the display screen of the LCD monitor 24 is switched to a “registered person detailed information screen” corresponding to the specified registered person.
  • the registered person data corresponding to the display items can be deleted all at once.
  • the user can specify and input to the CPU 26 a registered person to be recognized as a face (a registered person who performs face recognition at the time of shooting) by the above-described display item specifying operation.
  • the CPU 26 can accept the designation of one or more registered persons.
  • the CPU 26 can accept all designations of registered persons in the face registration memory 27.
  • the group folder is linked in advance with a predetermined category (for example, family, circle, etc.), and the user designates and inputs the category on the selection screen, thereby inputting the batch designation of the registered persons linked to the CPU 26. You can also.
  • the user can set and input the priority order of registered persons (priority order when “processing setting for face recognition” conflicts) to the CPU 26.
  • This priority order can be changed individually by specifying the display items.
  • the CPU 26 can change the priority order of the registered person under a predetermined condition. For example, the CPU 26 determines (1) registered person registration order, (2) registered person name string, (3) number of face recognition data in the group folder, (4) specified number of face recognition, etc.
  • registered persons can be sorted in ascending or descending order, and priorities can be automatically set according to the order after sorting.
  • the CPU 26 can also set a higher priority for the registered person who has more shots based on the shot count data.
  • the display position or display order of the person selection display items corresponds to the priority order, and the person selection display items are displayed in order of priority. Yes.
  • a display item for face recognition data corresponding to the face recognition data is displayed in the lower area of the "registered person detailed information screen".
  • the total number of face recognition data display items matches the number of face recognition data in the registered person's group folder.
  • display items for face recognition data are displayed in a list form. Note that only a part of the face recognition data display items may be displayed in the lower area of the “Registered Person Detail Information Screen”, and the list can be displayed by switching the screen in scroll format or page format.
  • the face recognition data display item data associated with each face recognition data is displayed.
  • the face recognition data display items include “face registration image” as an index image, “face recognition data registration time”, and “shooting conditions when acquiring face recognition data”, respectively. Is displayed. With this information, the details of each face recognition data can be grasped by the user, and the face recognition data can be easily selected.
  • the “shooting conditions when acquiring face recognition data” can be displayed separately in detail in a pull-down display or a separate screen display that is not displayed directly on the face recognition data display item.
  • the selection frame (a Or the cursor etc.) is operated with the operation member 23 so that the user can specify the display items for face recognition data.
  • the “Registered Person Detailed Information Screen” it is possible to change the display order of the designated display items, delete face recognition data corresponding to the designated display items, and the like.
  • the index image is displayed on the person selection display item on the “registered person selection screen”, the user can easily identify the display item of the predetermined registered person. Further, since the registered face image is displayed in the face recognition data display item on the “registered person detailed information screen”, the user can visually grasp the outline of the face recognition data corresponding to the display item.
  • Step 3102 The CPU 26 displays a registration person selection screen (see FIG. 4) on the LCD monitor 24. Then, the CPU 26 accepts a designation input of a registered person to be face recognized (a registered person performing face recognition at the time of shooting).
  • a registered person to be face recognized a registered person performing face recognition at the time of shooting.
  • a plurality of registered persons are designated by the user. It is also possible for the user to designate and input a registered person for face recognition to the CCU 26 before photographing.
  • Step 3103 The CPU 26 drives the image sensor 16 to acquire a through image signal.
  • the image sensor 16 outputs a through image signal by thinning readout at predetermined intervals.
  • the image processing unit 20 generates through image data based on the through image signal.
  • the preview image is displayed as a moving image on the liquid crystal monitor 24 based on the through image data.
  • Step 3104 On the other hand, the face detection unit 31 of the CPU 26 performs a known face detection process on the through image data to detect a face area in the shooting screen.
  • Step 3105 The CPU 26 determines whether or not the face of the photographing screen is detected in S3104. If a face is detected (YES side), move to S3106. On the other hand, if no face is detected (NO side), the flow shifts to S3111.
  • Step 3106 The CPU 26 performs AF calculation based on the detected face area position. The If a plurality of face areas are detected, the CPU 26 prioritizes the face area located at the center of the shooting screen or the face area located closest to the shooting screen, and executes AF calculation.
  • Step 3107 The face recognition unit 32 of the CPU 26 executes face recognition processing on the detected face area (S3104). Then, the face recognition unit 32 determines whether or not the force includes the face to be recognized (S3102). If the face to be recognized is included (YES side), move to S3108. On the other hand, if the face to be recognized is not included (NO side), the process proceeds to S3111.
  • Step 3108 The CPU 26 determines whether or not a plurality of recognition target faces have been detected. If there are multiple faces to be recognized (YES side), move to S3109. On the other hand, if there is only one face to be recognized (NO side), the process proceeds to S3110.
  • Step 3109 The CPU 26 refers to the priority order of the registered person set on the editing screen, and compares the priority order of the registered person whose face is recognized. Then, the CPU 26 changes the setting of the photographing condition of the electronic camera, the setting of the image processing, and the like based on the data of “processing setting at the time of face recognition” corresponding to the registered person with the highest priority. Then, the process proceeds to S3112. Note that if the registered person's automatic shooting is set in “Face recognition processing settings”, the CPU 26 proceeds to S3113 and automatically shoots the registered person.
  • Step 3110 The CPU 26 changes the settings of the shooting conditions and image processing of the electronic camera based on the data of “processing settings for face recognition” corresponding to the detected registered person. To do. Then, the process proceeds to S3112. If the registered person's automatic shooting is set in “Face recognition processing settings”, the CPU 26 moves to S3113 and automatically shoots the registered person.
  • Step 3111 the CPU 26 selects the AF area by the algorithm at the time of normal shooting and executes the AF calculation according to the half-press operation of the release button by the user.
  • Step 3112 The CPU 26 determines whether or not the release button has been fully pressed. When the release button is pressed all the way (YES side), S3113 moves. On the other hand, when V is not input to the release button (NO side), the CPU 26 waits for the release button to be fully pressed.
  • Step 3113 The CPU 26 drives the image sensor 16 to shoot a subject image. Thereafter, the image processing unit 20 generates photographed image data based on the image signal at the time of release. When the face to be recognized is photographed, the image processing unit 20 performs the image processing set in S3109 and S3110 on the photographed image data.
  • Step 3114 The CPU 26 records the photographed image data on the recording medium 29. If the face to be recognized is shot, the CPU 26 classifies and records the shot image data in a predetermined recording folder based on the directory path specified in the face registration memory 27. Monkey.
  • the CPU 26 increments the number of times of photographing in the number of times of photographing in the face registration memory 27 based on the result of the face recognition in S3109 or S3110. At this time, the CPU 26 may increment the number of photographing only for the registered person selected in accordance with the priority order in which the number of photographing of all recognized registered persons may be incremented. This completes the series of operations in the “face recognition shooting mode”.
  • the face recognition shooting mode the face of the photographed person is recognized based on the face recognition data (S3107).
  • various processing such as processing at the time of shooting is performed with settings corresponding to the registered person (S3109, S3110, S3113, S3114). Therefore, processing that reflects the user's intention can be automatically performed when the registered person is photographed, and the convenience of the user who operates the electronic camera is significantly improved.
  • FIG. 19 is a flowchart showing the operation of the “face recognition photographing mode” in the electronic camera of the seventh embodiment.
  • This seventh embodiment is a modification of the first embodiment, and since the configuration of the electronic camera is the same as that of the first embodiment, a duplicate description is omitted.
  • S4101 to S4104 in FIG. 19 correspond to S201 to S204 in FIG.
  • Step 4105 The CPU 26 determines whether or not the shooting screen power is also detected in S4104. . If a face is detected (YES side), the flow shifts to S4106. On the other hand, if the face is not detected (NO side), shift to S4114.
  • Step 4106 The CPU 26 executes AF calculation based on the detected position of the face area. If a plurality of face areas are detected, the CPU 26 prioritizes the face area located at the center of the shooting screen or the face area located closest to the shooting screen, and executes AF calculation.
  • Step 4107 The CPU 26 counts the number of all face recognition data (face recognition data group) related to the registered person of the face recognition target. Specifically, in the face registration memory 27, the face recognition data recorded in the group folder of the registered person for face recognition is counted.
  • Step 4108 The CPU 26 multiplies the number of face areas detected in the shooting screen (S4104) by the number of face recognition data included in the face recognition data group (S4107), and calculates the maximum face recognition processing this time. An evaluation value indicating the amount of calculation is obtained. The above evaluation value corresponds to the amount of calculation when face recognition processing is performed by applying all the face recognition data included in the face recognition data group to all the face regions detected this time.
  • Step 4109 The CPU 26 obtains a difference value obtained by subtracting a predetermined threshold force evaluation value (S4108).
  • the threshold value is set based on the amount of face recognition processing that can be executed by the face recognition unit 32 within a predetermined time limit. Therefore, the specific value of the threshold depends on the computing ability of the face recognition unit 32.
  • Step 4110 The CPU 26 determines whether or not the difference value (S4109) is negative. If the difference is negative (YES side), go to S4111. On the other hand, if the difference value is greater than or equal to 0 (NO side), S4112 moves. Note that in the case of NO in S4110, the face recognition unit 32 uses all face recognition data in the face recognition data group as determination face recognition data.
  • Step 4111 In this case, the evaluation value (S4108) exceeds the threshold, and if all the face recognition data of the face recognition data group is applied, the face recognition process may not be completed within the time limit. High nature. Therefore, the CPU 26 narrows down the determination face recognition data to be applied to the current face recognition process from the face recognition data group.
  • the CPU 26 calculates the upper limit value of the determination face recognition data based on the difference value (S4109).
  • the CPU 26 uses the following algorithms (1) and (2)
  • the face recognition data for determination is selected from the face recognition data group so as to be less than the upper limit value.
  • the CPU 26 sets the number of face recognition data for determination for each registered person based on the above upper limit value. Basically, the CPU 26 sets the distribution number to be the same for the registered persons to be face-recognized, and the deviation is the same. However, the CPU 26 may weight the number of distributions based on the priority set for each registered person so that the number of determination face recognition data increases in proportion to the priority. In this case, a registered person with higher priority ranks the face recognition process based on more face recognition data, so the higher the priority order, the higher the number of registered persons! Recognition can be performed. For example, the CPU 26 can set a higher priority for a registered person with a higher number of shootings based on the shooting number data in the face registration memory 27.
  • the CPU 26 may compare the number of face recognition data of each group folder, and may set so that the number of distribution is higher for registered persons whose face recognition data number is a predetermined value or more. This is because a registered person with a large number of registered face recognition data is more likely to be a V registered person who has taken a picture with priority for the user.
  • the CPU 26 selects the face recognition data for determination from the face recognition data in the group folder for each registered person for face recognition within the range of the distribution number set in (1) above.
  • the CPU 26 selects all the face recognition data in the group folder as determination face recognition data. In this case, the CPU 26 may redistribute the surplus distribution number to other registered persons.
  • the CPU 26 selects the determination face recognition data according to any of the following criteria (or a combination thereof).
  • the CPU 26 refers to the “Face recognition data registration time” data in the group folder, and selects the face recognition data for determination in order of the new registration time. This is because the face recognition data with the older registration time is considered to be less reliable in this shooting.
  • the CPU 26 refers to the data of “shooting condition when acquiring face recognition data” in the group folder. Then, the CPU 26 takes out the above-described capture from a plurality of face recognition data.
  • the face recognition data for determination is selected with priority given to face recognition data whose shooting conditions at the time of acquisition approximate the current shooting conditions. This is because the power of face recognition data acquired under the current shooting conditions and near-field conditions contributes to improving the accuracy of face recognition.
  • a table for scoring the amount of change of each parameter of the shooting condition is created in advance, and the CPU 26 obtains the score of the shooting condition of the face recognition data based on the current shooting condition. Then, the CPU 26 compares the above scores and selects the determination face recognition data. As a result, when flashing is performed during shooting, the CPU 26 selects the face recognition data for determination with priority on the face recognition data with flash emission. On the other hand, if V is not flashing during shooting, the CPU 26 selects the face recognition data for judgment by giving priority to face recognition data without flash. Similarly, the CPU 26 prioritizes face recognition data with a closer exposure condition and white balance setting, and selects determination face recognition data.
  • the CPU 26 selects the face recognition data for determination with priority given to the face recognition data corresponding to the front of the face in the group folder. This is because the face is usually taken from the front.
  • the detection of the face orientation of the face recognition data is performed as follows. For example, identification information regarding the orientation of the face may be recorded in advance in the face recognition data, and the CPU 26 may determine the orientation of the face with reference to the identification information.
  • the CPU 26 may estimate the feature state of feature points such as eyes, nose, and mouth in the face recognition data and infer the face direction.
  • Step 4112 The face recognition unit 32 of the CPU 26 executes face recognition processing using the determination face recognition data for the detected face area (S4104). Then, the face recognition unit 32 determines whether or not the recognition target face (S4102) is included. If the face to be recognized is included (YES side), go to S4113. On the other hand, if the face to be recognized is not included (NO side), the routine proceeds to S411-5.
  • Step 4113 The CPU 26 changes the settings of the shooting conditions and image processing of the electronic camera based on the data of the “processing settings for face recognition” corresponding to the detected registered person. To do. Then move to S4115
  • the CPU 26 determines the priority order of the registered person using a predetermined algorithm. And CPU26 is in priority order Change various settings of the electronic camera based on the “Face recognition processing settings” corresponding to the registered person with the highest rank. If the registered person's automatic shooting is set in “Face recognition processing settings”, the CPU 26 moves to S4116 and automatically shoots the registered person.
  • Step 4114 On the other hand, in this case, the CPU 26 selects the AF area by the algorithm at the time of normal shooting and executes AF calculation according to the half-press operation of the release button by the user.
  • Step 4115 The CPU 26 determines whether or not the release button has been fully pressed. When the release button is pressed down fully (YES side), S4116 moves. On the other hand, when V is not input to the release button (NO side), the CPU 26 waits for the release button to be fully pressed.
  • Step 4116 The CPU 26 drives the image sensor 16 to shoot a subject image. Thereafter, the image processing unit 20 generates photographed image data based on the image signal at the time of release. Note that when a registered person to be face-recognized is photographed, the image processing unit 20 performs the image processing set in S4113 on the photographed image data.
  • Step 4117 The CPU 26 records the photographed image data on the recording medium 29.
  • the CPU 26 classifies and records the photographed image data in a predetermined recording folder based on the directory path specified in the face registration memory 27. I'll do it for you.
  • the CPU 26 increments the number of times of photographing number data in the face registration memory 27 based on the result of the face recognition in S4112. At this time, the CPU 26 may increment the number of photographing only for the registered person selected according to the priority order in which the number of photographing of all recognized registered persons may be incremented. This completes the series of operations in the “face recognition shooting mode”.
  • the face recognition shooting mode the face of the photographed person is recognized based on the face recognition data (S4112). If a face to be recognized is detected, various processes at the time of shooting are performed with settings corresponding to the registered person (S4113, S4116, S4117). As a result, the processing reflecting the user's intention can be automatically performed when the registered person is photographed, and the convenience of the user who operates the electronic camera is remarkably improved.
  • the face recognition shooting mode described above when there is a high possibility that face recognition processing will not be completed within the time limit, the face recognition data for determination is narrowed down using a predetermined algorithm (S4107 to S4111). Therefore, the calculation time of the face recognition process can be kept within the time limit, and the user can take a picture comfortably.
  • composition auxiliary display and the photographing sample display may be combined and displayed on the preview image as in the fourth embodiment.
  • face detection processing may be performed with through image data before release.
  • the CPU 26 may perform AF calculation by face detection using a half-press of the release button as a trigger.
  • the CPU 26 may generate two or more face recognition data in descending order of priority.
  • the CPU 26 captures the face registration image data on the recording medium 29, etc., batch-processes multiple face registration image data, and generates face recognition data at once. You may make it do.
  • priority may be set for the face registration image data, and face recognition data may be generated in descending order of priority.
  • the “registration time of face recognition data” data in the face registration memory may be sufficient to indicate when the original face registration image data was taken. Therefore, the “registration time of face recognition data” may be terminated by recording year, shooting month, or shooting date, and detailed time recording may be omitted.
  • the face recognition unit 32 narrows down the face recognition data used for the judgment from the grouped face recognition data under a predetermined condition. Also good. For example, the face recognition unit 32 captures images based on “registration time of face recognition data”. Face recognition data that is older than a shadow date by a certain period may be excluded. Similarly, the face recognizing unit 32 may exclude face recognition data generated based on “shooting conditions when acquiring face recognition data” under shooting conditions that are significantly different from the current shooting conditions.
  • the face recognition unit 32 performs face recognition data according to the degree of distortion that also calculates the data power of the focal length of the photographing optical system 11. You can also correct it.
  • the CPU 26 may generate identification information related to the face orientation of the face recognition data and record the identification information in the face registration memory 27.
  • the identification information related to the face orientation may be generated by the CPU 26 based on the result of the process shown in S110 of the first embodiment. Alternatively, the CPU 26 may generate the identification information based on user input during shooting or editing.
  • the electronic camera of the present invention does not necessarily match the configuration of the electronic camera of the embodiment.
  • the internal memory 19 and the face registration memory 27 may be configured by a common memory.
  • the face registration memory 27 may be connected to the CPU 26 via the data bus 28.
  • the optical blur correction mechanism including the swing sensor unit 13, the image blur correction lens 14, and the second lens driving unit 15 may be omitted.
  • the communication unit 30 may be built in the electronic camera.
  • the CPU 26 may record the data in the face registration memory 27 in the recording medium 29 so that the face registration memory 27 can be backed up.
  • the CPU 26 may acquire face recognition data or the like previously generated by another electronic camera from the recording medium 29 so that the data in the face registration memory 27 can be shared between the electronic cameras.
  • the image processing apparatus of the present invention is not limited to the configuration of the electronic camera of the fifth embodiment.
  • the image processing apparatus of the present invention includes a personal computer including means for reading image data from the outside, a recording unit that records face recognition data, and a control unit that executes the program of the “face registration mode”. (The illustration is omitted).
  • the CPU 26 may perform personal authentication by face authentication and personal authentication by password input. In this case, the CPU 26 edits with the successful authentication of either face authentication or password authentication.
  • the screen may be accessible. Further, the CPU 26 may be able to access the editing screen only when both the face authentication and the authentication by the password are successful.
  • the configuration of the editing screen of the sixth embodiment is merely an example.
  • the face recognition data display item may be displayed in a list together with the face registration image on the initial display screen of the editing screen without providing the “registered person selection screen”.
  • an arbitrary captured image of a registered person can be used as an index image displayed on the “registered person selection screen”.
  • the CPU 26 may display an image specially shot for the index image on the “Registered Person Selection Screen”!
  • the CPU 26 may display the registered face image corresponding to the deleted face recognition data on the “Registered Person Selection Screen”.
  • the face recognition unit 32 depends on the degree of distortion in which the data power of the focal length of the shooting optical system 11 is also calculated. The face recognition data may be corrected.
  • determination face recognition data is selected from the face recognition data group based on the number of face recognition data and the number of face regions.
  • the determination face recognition data is selected from the face recognition data group based only on the number of face recognition data related to the selected registered person without considering the number of detected face regions. Even so ⁇ ⁇

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Television Signal Processing For Recording (AREA)
  • Image Analysis (AREA)

Abstract

 電子カメラは、撮像素子と、画像処理部と、顔検出部と、制御部と、顔画像生成部または顔認識データ生成部と、記録部とを備える。撮像素子は、撮影光学系による被写体像を光電変換して画像信号を生成する。画像処理部は、撮像素子からの画像信号に基づいて顔登録画像データを生成するとともに、画像信号に基づいてスルー画像データを生成する。顔検出部は、スルー画像データに基づいて撮影画面内の顔領域を検出する。制御部は、撮影光学系の撮影パラメータを顔領域の検出位置に応じて調整する。顔画像生成部は、顔領域の画像を切り出して顔画像データを生成する。顔認識データ生成部は、顔登録画像データの顔領域の部分から撮影人物の顔の特徴点を抽出し、特徴点に基づいて顔認識データを生成する。記録部は、顔認識データまたは顔画像データを記録する。

Description

明 細 書
電子カメラおよび画像処理装置
技術分野
[0001] 本発明は、人物の顔認識機能を備えた電子カメラおよび画像処理装置に関する。
背景技術
[0002] 従来から、人物の顔を撮影した撮影画像カゝら人物の顔の特徴点を抽出し、認識す る人物に関する顔認識データと上記の特徴点との一致度に基づいて顔認識を行う技 術が開示されている (特許文献 1参照)。かかる顔認識の技術では、予め電子カメラ などに顔認識データを登録する必要がある。特に顔認識の精度を向上させるために はより多くの顔認識データが必要となるので、複数フレームの撮影画像から顔認識デ ータを生成する必要がある。
[0003] ところで、顔認識データを生成するための登録撮影では、顔の特徴点が抽出し易 いように被写体の顔を撮影する必要がある。そのため、上記の登録撮影を簡易に行う ことができる撮影モードを備えた電子カメラが要望されている。
また、顔認識データを登録する場合、より多くの撮影画像データから顔認識データ を生成できるようにすることが要望されている。例えば、他の電子カメラで撮影した画 像データや過去に撮影した画像データから顔認識データを生成できれば、ユーザー の利便性は大幅に向上する。さらに、顔登録作業では、煩雑な作業を行うことなく顔 登録をより簡易に行える手段が要望されて 、る。
[0004] さらに、上記の電子カメラでは複数の顔認識データ力メモリに登録されるため、登録 された顔認識データの管理'編集がユーザーにとって煩雑になる可能性が高い。例 えば、撮影時に顔認識データを選択して特定の登録人物を電子カメラに識別させる 場合や、編集時に特定の登録人物の顔認識データを削除する場合には、顔認識デ ータの概要や顔認識データと登録人物との対応関係をユーザーが簡易かつ迅速に 認識できることが要望される。
[0005] また、顔認識機能を有する電子カメラでは顔認識の結果に応じて撮影条件や画像 処理等をカスタマイズすることが可能であるが、複数の認識対象が一度に撮影された 状況でもユーザーの意図を適切に反映した制御を行なう電子カメラが要望されてい る。
また、撮影画面内で多数の顔が検出された場合や顔認識の判定に使用される顔 認識データの総数が多い場合には、顔認識処理の演算量が非常に大きくなる。上記 の場合には顔認識処理の演算時間が長くなるため、ユーザーの快適な撮影が妨げ られるとともにシャッターチャンスを逃すおそれも高まる点でなお改善の余地があった 特許文献 1:特開平 6 - 259534号公報
発明の開示
発明が解決しょうとする課題
[0006] 本発明は上記従来技術の課題の少なくとも 1つを解決するためのものである。本発 明の目的の 1つは、顔認識データを生成する際の登録撮影を容易に行うことのできる 電子カメラを提供することである。
また、本発明の目的の 1つは、予め人物を撮影した画像データを読み込んで、目的 とする人物の顔認識データを容易に生成できる画像処理装置を提供することである。
[0007] また、本発明の目的の 1つは、顔認識データの概要や顔認識データと登録人物と の対応関係をユーザーが簡易かつ迅速に認識できる電子カメラを提供することであ る。
また、本発明の目的の 1つは、複数の認識対象が一度に撮影された状況でも、顔 認識の結果に応じてユーザーの意図を適切に反映した制御を行なう電子カメラを提 供することである。
[0008] また、本発明の目的の 1つは、顔認識処理の演算量を状況に応じて適切に調整で きる電子カメラを提供することである。
課題を解決するための手段
[0009] 第 1の発明に係る電子カメラは、撮像素子と、画像処理部と、顔検出部と、制御部と 、顔画像生成部または顔認識データ生成部と、記録部とを備える。撮像素子は、撮 影光学系による被写体像を光電変換して画像信号を生成する。画像処理部は、撮 像素子からの画像信号に基づいて顔登録画像データを生成するとともに、画像信号 に基づいてスルー画像データを生成する。顔検出部は、スルー画像データに基づい て撮影画面内の顔領域を検出する。制御部は、撮影光学系の撮影パラメータを顔領 域の検出位置に応じて調整する。顔画像生成部は、顔領域の画像を切り出して顔画 像データを生成する。顔認識データ生成部は、顔登録画像データの顔領域の部分 から撮影人物の顔の特徴点を抽出し、特徴点に基づいて顔認識データを生成する。 記録部は、顔画像データまたは顔認識データを記録する。
[0010] 第 2の発明に係る電子カメラは、撮像素子と、画像処理部と、制御部と、顔検出部と 、顔画像生成部または顔認識データ生成部と、記録部とを備える。撮像素子は、撮 影光学系による被写体像を光電変換して画像信号を生成する。画像処理部は、撮 像素子からの画像信号に基づいて顔登録画像データを生成するとともに、画像信号 に基づいてスルー画像データを生成する。制御部は、撮影光学系の撮影パラメータ を撮影画面の中央部分を基準として調整する。顔検出部は、スルー画像データまた は顔登録画像データに基づいて、撮影画面の中央部分に位置する顔領域を検出す る。顔画像生成部は、顔領域の画像を切り出して顔画像データを生成する。顔認識 データ生成部は、顔登録画像データの顔領域の部分から撮影人物の顔の特徴点を 抽出し、特徴点に基づいて顔認識データを生成する。記録部は、顔画像データまた は顔認識データを記録する。
[0011] 第 3の発明は、第 1または第 2の発明において、制御部は、スルー画像データに基 づく顔検出時に撮像素子のレリーズ動作を実行する。
第 4の発明は、第 1から第 3のいずれかの発明において、スルー画像データの画像 を表示する表示部をさらに備える。制御部は、顔登録画像データを生成する撮影モ ードにおいて表示部の電源をオンにする。
[0012] 第 5の発明は、第 1から第 3のいずれかの発明において、スルー画像データの画像 を表示する表示部をさらに備える。画像処理部は、撮影画面中における顔の位置決 めを補助するための構図補助表示をスルー画像データの中央部分に合成して出力 する。
第 6の発明は、第 5の発明において、画像処理部は、被写体の撮影状態の見本表 示をスルー画像データにさらに合成して出力する。 [0013] 第 7の発明は、第 1から第 6のいずれかの発明において、制御部は、顔登録画像デ ータの生成時に顔登録画像データに対する電子ズーム処理を制限する。
第 8の発明は、第 1から第 7のいずれかの発明において、撮影光学系はズームレン ズをさらに備える。制御部は、撮影パラメータの調整時およびレリーズ時にズームレン ズの倍率調整範囲を通常撮影時よりも制限する。
[0014] 第 9の発明は、第 8の発明において、制御部は、レリーズ時にズームレンズのズーム 位置を広角端に設定する。
第 10の発明は、第 1から第 9のいずれかの発明において、撮影画面上での像ぶれ を補正する像ぶれ補正レンズと、電子カメラの光軸の角度変動を検出する角変位検 出部と、レリーズ時において、角度変動に基づいて像ぶれ補正レンズを駆動させる 補正レンズ駆動部と、をさらに備える。
[0015] 第 11の発明は、第 1から第 10のいずれかの発明において、画像信号のゲインを調 整する撮像感度変更部をさらに備える。制御部は、レリーズ時に画像信号のゲインを 通常撮影時の設定よりも高める。
第 12の発明は、第 1から第 11のいずれかの発明において、被写界に閃光発光を 行う閃光発光部をさらに備える。制御部は、レリーズ時に閃光発光部の閃光発光を 不能化する。
[0016] 第 13の発明は、第 1から第 12のいずれかの発明において、制御部はレリーズ時の 撮影条件を示す撮影条件データを生成するとともに、該撮影条件データを顔画像デ ータまたは顔認識データに対応付けて記録部に記録する。
第 14の発明は、第 1から第 13のいずれかの発明において、制御部は顔画像デー タまたは顔認識データの取得時期を示す取得時期データを生成するとともに、該取 得時期データを顔画像データまたは顔認識データに対応付けて記録部に記録する
[0017] 第 15の発明は、第 1から第 14のいずれかの発明において、画像処理部は顔登録 画像データに基づ ヽてインデックス画像データを生成する。制御部はインデックス画 像データを顔画像データまたは顔認識データに対応付けて記録部に記録する。 第 16の発明は、第 1から第 15のいずれかの発明において、制御部は、同一の撮影 人物から生成した複数の顔画像データまたは顔認識データをグループ化して記録部 に記録する。
[0018] 第 17の発明は、第 16の発明において、制御部は、撮影人物の顔の向き、撮影人 物の眼鏡の有無および顔登録画像データの撮影条件のいずれかが異なる 2以上の 顔画像データまたは顔認識データをグループ化する。
第 18の発明は、第 1から第 17のいずれかの発明において、制御部は、同一の撮影 人物を撮影した顔登録画像データが複数生成されているときに、顔領域の検出状態 に基づ!/ヽて顔登録画像データの優先順位を決定する。顔画像生成部または顔認識 データ生成部は、優先順位が高 、顔登録画像データから顔画像データまたは顔認 識データを生成する。
[0019] 第 19の発明は、第 1から第 18のいずれかの発明において、制御部は、顔領域の検 出状態に基づいて撮影人物の顔の向きを推定し、該顔の向きが所定方向と一致しな いときには、撮像素子のレリーズ動作を不能化する。
第 20の発明は、第 1から第 18のいずれかの発明において、制御部は、顔領域の検 出状態に基づ 、て撮影人物の表情を推定し、該表情の種類に応じて撮像素子のレ リーズ動作を不能化する。
[0020] 第 21の発明に係る電子カメラは、撮像素子と、顔検出部と、顔認識データ生成部と 、制御部とを備える。撮像素子は、撮影光学系による被写体像を光電変換して画像 信号を生成する。顔検出部は、撮像素子からの画像信号に基づいて撮影画面内の 顔領域を検出する。顔認識データ生成部は、顔領域の部分から撮影人物の顔の特 徴点を抽出し、特徴点に基づいて顔認識データを生成する。制御部は、顔認識デー タを生成するための撮影時の撮影条件を、通常撮影時の撮影条件よりも制限する。
[0021] 第 22の発明に係る画像処理装置は、制御部と、顔検出部と、顔画像生成部または 顔認識データ生成部と、記録部と、を備える。制御部は、内蔵メモリ、記録媒体との接 続部および外部通信手段の少なくとも 1つを有するとともに、電子カメラで予め生成さ れた撮影画像データを内蔵メモリ、記録媒体、外部通信手段を介して接続されたコン ピュータのいずれかから取得する。顔検出部は、撮影画像データに基づいて、撮影 画面内の顔領域を検出する。顔画像生成部は、顔領域の画像を切り出して顔画像 データを生成する。顔認識データ生成部は、撮影画像データの顔領域の部分から撮 影人物の顔の特徴点を抽出し、特徴点に基づいて顔認識データを生成する。記録 部は、顔画像データまたは顔認識データを記録する。
[0022] 第 23の発明は、第 22の発明において、撮影画像データの再生画像に顔領域を識 別する表示を合成する画像処理部と、画像処理部の出力画像を表示する表示部と、 をさらに備える。
第 24の発明は、第 23の発明において、ユーザーの入力を受け付ける入力部をさら に備える。顔検出部は、入力部からの入力に基づいて顔領域の検出精度を規定す る閾値を変更する。
[0023] 第 25の発明は、第 23の発明において、ユーザーの入力を受け付ける入力部をさら に備える。顔画像生成部または顔認識データ生成部は、撮影画像データから複数の 顔領域が検出された場合、入力部からの入力で選択された顔領域について顔画像 データまたは顔認識データを生成する。
第 26の発明は、第 22から第 25のいずれかの発明において、制御部は、同一の撮 影人物から生成した複数の顔画像データまたは顔認識データをグループ化して記録 部に記録する。
[0024] 第 27の発明は、第 22から第 26のいずれかの発明において、制御部は、撮影画像 データの顔領域の部分を所定のサイズに切り出してインデックス画像データを生成 するとともに、該インデックス画像データを顔画像データまたは顔認識データに対応 付けて記録部に記録する。
第 28の発明は、第 22から第 27のいずれかの発明において、撮影画像データは撮 影時の撮影条件を記録した付属データ領域を有する。制御部は、付属データ領域の 撮影条件に基づいて撮影条件データを生成するとともに、該撮影条件データを顔画 像データまたは顔認識データに対応付けて記録部に記録する。
[0025] 第 29の発明は、第 22から第 28のいずれかの発明において、撮影画像データは撮 影日時を記録した付属データ領域を有する。制御部は、付属データ領域の撮影日 時に基づいて顔画像データまたは顔認識データの取得時期データを生成するととも に、該取得時期データを顔画像データまたは顔認識データに対応付けて記録部に 記録する。
第 30の発明に係る電子カメラは、撮像素子と、顔検出部と、記録部と、顔認識部と 、制御部と、を備える。撮像素子は、撮影光学系による被写体像を光電変換して画像 信号を生成する。顔検出部は、画像信号に基づいて撮影画面の顔領域を検出し、 該顔領域の部分から撮影人物の顔の特徴点を抽出する。記録部は、人物の顔の特 徴点に基づいて予め生成された顔認識データと該顔認識データに対応する登録人 物を示すためのインデックス画像データとを対応付けして記録する。顔認識部は、顔 検出部の抽出した特徴点および顔認識データに基づいて撮影人物が登録人物であ るカゝ否かを判定する。制御部は、顔認識データの指定に使用される表示項目とイン デッタス画像データの画像とを関連付けて提示する編集画面を生成する。
[0026] 第 31の発明は、第 30の発明において、インデックス画像データは登録人物の撮影 画像データであることを特徴とする。
第 32の発明は、第 31の発明において、インデックス画像データは、顔認識データ の生成に使用された撮影画像データであることを特徴とする。
第 33の発明は、第 30から第 32のいずれかの発明において、記録部には、顔認識 データの生成に使用された画像データの撮影条件が、顔認識データに対応付けさ れた状態で記録されて!ゝることを特徴とする。
[0027] 第 34の発明は、第 30から第 33のいずれかの発明において、記録部には、顔認識 データの生成に使用された画像データの撮影時期が、顔認識データに対応付けさ れた状態で記録されて!ゝることを特徴とする。
第 35の発明は、第 30から第 34のいずれかの発明において、記録部には、登録人 物の撮影時に適用される処理の設定が、顔認識データに対応付けされた状態で記 録されて!/ヽることを特徴とする。
[0028] 第 36の発明は、第 30から第 35のいずれかの発明において、撮影画像の画像デー タを外部に送信する通信部をさらに備え、記録部には、登録人物の撮影時における 画像データの送信の可否と、画像データの送信先のアドレス情報とが、顔認識デー タに対応付けされた状態で記録されていることを特徴とする。
第 37の発明は、第 30から第 36のいずれかの発明において、制御部は、編集画面 の表示出力の可否を管理する個人認証手段を備えることを特徴とする。
[0029] 第 38の発明は、第 37の発明において、個人認証手段が顔認識部による顔認証を 含むことを特徴とする。
第 39の発明は、第 31から第 38のいずれかの発明において、記録部には同一の登 録人物に関する複数のインデックス画像データを記録可能であって、制御部は、イン デッタス画像データのうちから任意の撮影画像データの画像を選択するとともに、該 選択画像を表示項目に関連付けて編集画面で提示することを特徴とする。
[0030] 第 40の発明は、第 39の発明において、制御部は、インデックス画像データのうちで 最新の撮影画像データの画像を選択することを特徴とする。
第 41の発明は、第 39の発明において、制御部は、インデックス画像データのうちで 登録人物の顔正面を撮影した撮影画像データの画像を選択することを特徴とする。 第 42の発明は、第 39の発明において、制御部は、インデックス画像データの画像 を所定間隔ごとに順次切り替えて編集画面で提示することを特徴とする。
[0031] 第 43の発明に係る電子カメラは、撮像素子と、顔検出部と、記録部と、顔認識部と 、制御部と、を備える。撮像素子は、撮影光学系による被写体像を光電変換して画像 信号を生成する。顔検出部は、画像信号に基づいて撮影画面の顔領域を検出し、 該顔領域の部分から撮影人物の顔の特徴点を抽出する。記録部は、登録人物の顔 の特徴点に基づいて予め生成された顔認識データと、登録人物の撮影時に適用さ れる撮影設定とを対応付けて記録する。顔認識部は、顔検出部の抽出した特徴点お よび顔認識データに基づいて、撮影人物が登録人物である力否かを判定する。制御 部は、登録人物の優先順位を設定するとともに、登録人物の撮影時には撮影設定に 基づいて撮影画像データを生成し、登録人物が複数検出された場合には登録人物 のうちで最も優先順位の高い人物に対応する撮影設定を適用する。
[0032] 第 44の発明は、第 43の発明において、ユーザーの入力を受け付ける入力部をさら に備える。また、制御部は、入力部からの入力に基づいて登録人物を指定して優先 順位を個別的に設定することを特徴とする。
第 45の発明は、第 44の発明において、登録人物の指定を行うための編集画面を 表示する表示部をさらに備える。また、制御部は、編集画面上における登録人物の 表示項目の表示位置または表示順を優先順位に応じて変化させることを特徴とする
[0033] 第 46の発明は、第 43から第 45のいずれかの発明において、制御部は、登録人物 の登録順に優先順位を設定することを特徴とする。
第 47の発明は、第 43から第 45のいずれかの発明において、制御部は、登録人物 を名称で整列して優先順位を設定することを特徴とする。
第 48の発明は、第 43から第 45のいずれかの発明において、記録部は、同一の登 録人物に関する複数の顔認識データをグループ化して記録可能であって、制御部 は、グループ化された顔認識データ群について、該顔認識データ群に含まれる顔認 識データの数によって優先順位を設定することを特徴とする。
[0034] 第 49の発明は、第 43の発明において、記録部は、登録人物ごとの撮影回数を示 す撮影回数データをさらに記録する。そして、制御部は、前記撮影回数データに基 づ 、て、撮影回数が多 、登録人物の優先順位を高く設定することを特徴とする。 第 50の発明に係る電子カメラは、撮像素子と、顔検出部と、記録部と、制御部と、 顔認識部とを備える。撮像素子は、撮影光学系による被写体像を光電変換して画像 信号を生成する。顔検出部は、画像信号に基づいて撮影画面の顔領域を検出し、 該顔領域の部分から撮影人物の顔の特徴点を抽出する。記録部は、登録人物の顔 の特徴点に基づいて予め生成された顔認識データを記録する。制御部は、顔認識 対象の登録人物に関する顔認識データ群に含まれる顔認識データの数に基づいて 、顔認識データ群から判定用顔認識データを選択する。顔認識部は、顔検出部の抽 出した特徴点および判定用顔認識データに基づ ヽて、撮影人物が顔認識対象の登 録人物か否かを判定する。
[0035] 第 51の発明は、第 50の発明において、制御部は、顔認識データの数および顔領 域の数の積に対応する評価値が顔認識部の処理能力で規定される閾値を下回るよ うに判定用顔認識データを選択することを特徴とする。
第 52の発明は、第 50または第 51の発明において、制御部は、顔認識対象の登録 人物が複数の場合に、各登録人物に設定された優先順位に基づいて判定用顔認識 データを重み付けして選択することを特徴とする。 [0036] 第 53の発明は、第 50から第 52のいずれかの発明において、制御部は、顔認識対 象の登録人物が複数の場合に、顔認識データの記録数が多!、登録人物を優先して 判定用顔認識データを選択することを特徴とする。
第 54の発明は、第 50から第 53のいずれかの発明において、制御部は、同一の登 録人物に関して複数の顔認識データが記録されている場合に、取得時期が新しい 顔認識データを優先して判定用顔認識データを選択することを特徴とする。
[0037] 第 55の発明は、第 50から第 54のいずれかの発明において、制御部は、同一の登 録人物に関して取得時の撮影条件が異なる複数の顔認識データが記録されている 場合に、取得時の撮影条件が現在の撮影条件に近似する顔認識データを優先して 判定用顔認識データを選択することを特徴とする。
第 56の発明は、第 50から第 55のいずれかの発明において、制御部は、同一の登 録人物に関して顔の向きが異なる複数の顔認識データが記録されている場合に、顔 正面に対応する顔認識データを優先して判定用顔認識データを選択することを特徴 とする。
[0038] 第 57の発明は、第 50から第 56のいずれかの発明において、記録部は、登録人物 ごとの撮影回数を示す撮影回数データをさらに記録する。そして、制御部は、撮影回 数データに基づいて、撮影回数が多い登録人物を優先して判定用顔認識データを 選択することを特徴とする。
ここで、上記発明に関する構成を方法、記録媒体、コンピュータプログラムなどに変 換して表現したものも本発明の具体的態様として有効である。
発明の効果
[0039] 本発明の一の形態の電子カメラでは、顔認識データを生成する際の登録撮影を容 易に行うことが可能となる。
また、本発明の一の形態の画像処理装置では、予め人物を撮影した画像データを 読み込んで、目的とする人物の顔認識データを容易に生成することができる。
また、本発明の一の形態の電子カメラでは、顔認識データの概要や顔認識データ と登録人物との対応関係をユーザーが簡易かつ迅速に認識することができる。
[0040] また、本発明の一の形態の電子カメラでは、複数の認識対象が一度に撮影された 状況でも、顔認識の結果に応じてユーザーの意図を適切に反映した制御を行なうこ とがでさる。
また、本発明の一の形態の電子カメラでは、顔認識処理の演算量を状況に応じて 適切に調整することができる。
図面の簡単な説明
[0041] [図 1]第 1実施形態の電子カメラの構成を示すブロック図
[図 2]第 1実施形態の「顔登録モード」での動作を示す流れ図
[図 3]モード選択画面の一例を示す図
[図 4]登録人物の選択画面の一例を示す図
[図 5]登録人物の詳細情報画面の一例を示す図
[図 6]顔検出時におけるプレビュー画像の表示例を示す図
[図 7]第 1実施形態の「顔認識撮影モード」の動作を示す流れ図
[図 8]第 2実施形態の「顔登録モード」での動作を示す流れ図
[図 9]第 3実施形態の「顔登録モード」での動作を示す流れ図
[図 10]第 4実施形態の「顔登録モード」での動作を示す流れ図
[図 11]第 4実施形態におけるプレビュー画像の表示例を示す図
[図 12]第 5実施形態の「顔登録モード」での動作を示す流れ図
[図 13]顔登録モードを指定可能なモード選択画面の一例を示す図
[図 14]顔検出処理の再試行を確認する表示の一例を示す図
[図 15]選択枠による顔領域の選択状態を示す図
[図 16]「新規」および「追加」の選択表示の一例を示す図
[図 17]第 6実施形態における編集画面の立ち上げ操作で顔認証を行う場合の流れ 図
[図 18]第 6実施形態の「顔認識撮影モード」の動作を示す流れ図
[図 19]第 7実施形態の「顔認識撮影モード」の動作を示す流れ図
発明を実施するための最良の形態
[0042] <第 1実施形態の説明 >
図 1は第 1実施形態の電子カメラの構成を示すブロック図である。 電子カメラは、撮影光学系 11と、第 1レンズ駆動部 12と、揺動センサ部 13と、像ぶ れ補正レンズ 14と、第 2レンズ駆動部 15と、撮像素子 16と、アナログ信号処理部 17 と、 AZD変換部 18と、内蔵メモリ 19と、画像処理部 20と、カード IZF21と、入出力 I ZF22と、操作部材 23および液晶モニタ 24と、閃光発光部 25と、 CPU26と、顔登 録メモリ 27およびデータバス 28とを有している。なお、内蔵メモリ 19、画像処理部 20 、カード IZF21、入出力 IZF22および CPU26は、データバス 28を介して接続され ている。
[0043] 撮影光学系 11は、ズームレンズ 11aと、合焦位置調節用のフォーカシングレンズ 1 lbとを含む複数のレンズ群で構成されて ヽる。撮影光学系 11を構成する各レンズは 、第 1レンズ駆動部 12によって光軸方向に駆動調整される。
揺動センサ部 13は、電子カメラの縦揺れを検出する縦方向角速度センサと、電子 カメラの横揺れを検出する横方向角速度センサとを備えている。揺動センサ部 13は 電子カメラの揺れを示すカメラ揺動データを CPU26に出力する。このカメラ摇動デ ータは、像ぶれ補正レンズ 14の移動量の演算に使用される。
[0044] 像ぶれ補正レンズ 14は光軸直角方向に揺動可能に構成されている。第 2レンズ駆 動部 15は、像ぶれ補正レンズ 14を縦方向に揺動させる縦揺動手段と、像ぶれ補正 レンズ 14を横方向に揺動させる横揺動手段とで構成される。この第 2レンズ駆動部 1 5は、 CPU26が演算した像ぶれ補正レンズ 14の移動量に基づいて、像ぶれ補正レ ンズ 14を揺動させてぶれ補正を実行する。
[0045] 撮像素子 16は、撮影光学系 11を通過した光束を光電変換して被写体像のアナ口 グ画像信号を生成する。この撮像素子 16は、非レリーズ時 (撮影待機時)にも所定間 隔毎に被写体を露光し、間引き読み出しによるアナログ画像信号 (スルー画像信号) を出力する。スルー画像信号は、後述の AF演算、 AE演算および顔検出動作や、フ アインダ用画像の生成などに使用される。
[0046] アナログ信号処理部 17は、相関二重サンプリングを行う CDS回路、アナログ画像 信号の出力を増幅するゲイン回路、入力信号の波形を一定の電圧レベルにクランプ するクランプ回路等で構成されている。 AZD変換部 18は撮像素子 16のアナログ画 像信号をデジタル画像信号に変換する。内蔵メモリ 19は、画像処理部 20での画像 処理の前工程および後工程でデータを一時的に保存する。なお、内蔵メモリ 19には 後述の撮影画像データを記録可能な記録領域を設けることもできる。
[0047] 画像処理部 20はデジタル画像信号に所定の画像処理を施す。この画像処理部 20 はレリーズ時の画像信号に基づいて撮影画像データを生成する。また、画像処理部 20はスルー画像信号に基づ 、てスルー画像データを順次生成する。このスルー画 像データの解像度は、撮影画像データの解像度よりも低く設定される。スルー画像デ ータは、 CPU26による顔認識処理に使用されるとともに、液晶モニタ 24の表示画像 (プレビュー画像)としても使用される。さらに、画像処理部 20は撮影画像データの圧 縮処理なども実行する。さらにまた、画像処理部 20は、撮影画像の一部を切り出して 解像度を変換する電子ズーム処理を行うことも可能である。
[0048] また、画像処理部 20は、 CPU26の指示により各種表示 (顔認識時の枠表示など) のビデオデータを生成し、上記のビデオデータをスルー画像データに重畳させて液 晶モニタ 24に出力する。これによつて、プレビュー画像には上記の各種表示が合成 される。
カード IZF21には、記録媒体 29を接続するためのコネクタが形成されている。記 録媒体 29は公知の半導体メモリなどで構成される。そして、カード IZF21は、記録 媒体 29に対する撮影画像データの書き込み Z読み込みを制御する。
[0049] 入出力 IZF22には、操作部材 23および液晶モニタ 24が接続されている。操作部 材 23は入力釦ゃレリーズ釦などを備えている。操作部材 23の入力釦は、例えば、電 子カメラの撮影モード (通常撮影モード、再生モード、顔登録モード、顔認識撮影モ ード等)の切り換え入力などを受け付ける。また、操作部材 23のレリーズ釦は、半押し による AF動作の指示入力と、全押しによるレリーズ入力とを受け付ける。
[0050] 一方、液晶モニタ 24は主として電子カメラの背面部分に配置される。この液晶モ- タ 24には、撮影画像データの再生画像や電子カメラの各種設定を変更するための 設定画面などが表示される。上記の設定画面には後述の顔認識データを編集する ための編集画面が含まれる。また、撮影モードでの液晶モニタ 24には上記のプレビ ユー画像を動画表示することが可能である。したがって、ユーザーは、液晶モニタ 24 のプレビュー画像を確認しつつ被写体のフレーミングを行うことができる。 [0051] さらに、入出力 IZF22には外部接続端子が形成されている。そして、入出力 IZF2 2は、外部接続端子を介して接続されたコンピュータなどとのデータ送受信を USB ( Universal Serial Bus)や IEEE1394などのシリアル通信規格に準拠して制御する。ま た、入出力 IZF22の外部接続端子には、外部との無線通信を行うための拡張機器 である通信ユニット 30を接続することも可能である。
[0052] 閃光発光部 25は、キセノン発光管、発光のエネルギを蓄えるメインコンデンサ、閃 光を被写体に効率良く照射するための反射傘やレンズ部材、発光タイミングや光量 を調整する発光制御回路など力 構成されている。
CPU26は、不図示の ROMに格納されたシーケンスプログラムに従つて電子カメラ の各部動作を制御する。例えば、 CPU26はスルー画像信号に基づいて公知のコン トラスト方式の AF (オートフォーカス)演算や、公知の AE (自動露出)演算などを実行 する。また、 CPU26は、上記のカメラ揺動データに基づいて像ぶれ補正レンズ 14の 移動量を演算する。
[0053] さらに、 CPU26は顔検出部 31、顔認識部 32として機能する。顔検出部 31は、スル 一画像データまたは撮影画像データから特徴点を抽出して被写体の顔領域、顔の 大きさ等を検出する。例えば、顔検出部 31は、特開 2001— 16573号公報などに記 載された特徴点抽出処理によって顔領域を抽出する。また、上記の特徴点としては、 例えば、眉、目、鼻、唇の各端点、顔の輪郭点、頭頂点や顎の下端点などが挙げら れる。
[0054] 顔認識部 32は、「顔登録モード」では、検出した顔の特徴点に基づいて顔認識デ ータを生成する。例えば、顔認識部 32は、検出した顔の特徴点の位置、特徴点から 求まる顔パーツの大きさ、各特徴点の相対距離など力 登録人物の顔認識データを 生成する。
また、顔認識部 32は、「顔認識撮影モード」では、撮影画面内の人物の顔が顔認 識データの登録人物の顔か否かを判定する顔認識処理を行う。具体的には、まず顔 認識部 32は検出された顔の特徴点に基づいて、撮影人物の顔の特徴点の位置、各 顔パーツの大きさ、各特徴点の相対距離などを演算する。次に顔認識部 32は、上記 の演算結果と顔認識データとを比較して所定の登録人物の顔と撮影人物の顔との相 似度を求める。そして、顔認識部 32は上記の相似度が閾値を上回る場合に撮影人 物が所定の登録人物に合致すると判定する。
[0055] なお、 CPU26は、顔認識処理の結果に基づ!/、て、撮影条件または画像処理の設 定変更や、撮像素子 16へのレリーズ指示などを実行することが可能である。
顔登録メモリ 27には、 CPU26の顔認識部 32が生成した顔認識データが記録され る。この顔登録メモリ 27には登録人物ごとにグループフォルダが生成されている。グ ループフォルダには、各登録人物の顔認識データがそれぞれ記録されている。すな わち、顔登録メモリ 27の顔認識データは、グループフォルダによって登録人物ごとに グループィ匕されている。例えば、グループフォルダには、同一の登録人物に関して顔 の向き、眼鏡の有無および撮影条件などが異なる複数の顔認識データを記録するこ とが可能である。そして、登録人物を指定することで、 CPU26はグループフォルダ内 の顔認識データを顔登録メモリ 27から一括して読み出すことが可能となっている。
[0056] また、顔登録メモリ 27には、「登録人物の名称」および「顔認識時の処理設定」のデ ータが記録されて!ヽる。上記の「登録人物の名称」および「顔認識時の処理設定」は 、各登録人物のグループフォルダにそれぞれ対応付けされて!ヽる。
ここで、「顔認識時の処理設定」には、登録人物が認識された場合に適用される電 子カメラの各種制御の設定が記録されている。例えば、「顔認識時の処理設定」には 、(1)撮影時の撮影条件の設定、(2)撮影画像データの画像処理の設定、(3)撮影 画像データの記録先の設定、(4)撮影画像データの印刷指定の設定、(5)撮影画像 データの送信設定、などが含まれる。
[0057] 上記(1)の撮影条件の設定には、各登録人物を撮影するときの露出補正値や、被 写界深度の設定 (浅め、標準の選択)などが含まれる。また、登録人物の検出の際に CPU26が自動的に撮影を行う設定も可能である。上記(2)の画像処理の設定には 、撮影画像データのソフトフォーカス処理の有無の設定、エッジ強調の抑制の設定な どが含まれる。
上記(3)の記録先の設定では、撮影画像データの記録先となる記録媒体 29内の 記録フォルダのディレクトリパスを各登録人物ごとに指定できる。すなわち、 CPU26 は顔登録メモリ 27のデータを参照し、各登録人物ごとに異なる記録フォルダに撮影 画像データを記録することが可能となる。
[0058] 上記(4)の印刷指定の設定では、例えば、 DPOF (Digital Print Order Format)な どの規格による撮影画像データの印刷指定の有無を各登録人物ごとに指定できる。 なお、上記(5)の送信設定では、登録人物の撮影時における撮影画像データの送 信の要否と
、送信先のアドレス情報 (電子メールアドレス)とを指定できる。
また、顔登録メモリ 27〖こは、「顔登録画像」、「顔認識データの登録時期」および「顔 認識データの取得時の撮影条件」のデータが記録されて 、る。上記の「顔登録画像」
、「顔認識データの登録時期」および「顔認識データの取得時の撮影条件」のデータ は、グループフォルダ内の個々の顔認識データにそれぞれ対応付けされている。
[0059] 上記の「顔登録画像」は顔認識データ取得時の撮影画像データであって、所定の 画素サイズにリサイズされている。そして、「顔登録画像」は上記の編集画面で液晶モ ニタ 24に表示される。すなわち、「顔登録画像」は、登録人物または顔認識データの 識別性、検索性を高めるインデックス画像として機能する。例えば、「顔登録画像」に よって、ユーザーは誰のどのような画像 (顔正面、横向きなど)力も顔認識データが生 成されたかを編集画面で確認することも可能となる。
[0060] 「顔認識データの登録時期」は、その顔認識データの元となる顔登録画像データの 撮影日時のデータである。また、「顔認識データの取得時の撮影条件」は、顔登録画 像データの撮影条件のデータである。上記の撮影条件には、例えば、撮影光学系 1 1の焦点距離のデータや、撮影時のホワイトバランスおよび露出条件や、撮影時のフ ラッシュ発光の有無などが含まれる。なお、「顔認識データの登録時期」および「顔認 識データの取得時の撮影条件」のデータは、 CPU26が顔認識処理で使用する顔認 識データを絞り込む場合の判定にも使用される。
[0061] また、顔登録メモリ 27には、各登録人物ごとの撮影回数を示す撮影回数データも 記録される。この撮影回数データの撮影回数は、 CPU26が顔認識撮影モードでの 顔認識の結果に応じてインクリメントする。なお、上記の撮影回数は、ユーザーが編 集画面などで手動で入力するようにしてもょ 、。
以下、第 1実施形態の電子カメラの動作を「顔登録モード」と「顔認識撮影モード」と に分けて説明する。
[0062] (顔登録モードでの動作)
図 2は第 1実施形態の「顔登録モード」の動作を示す流れ図である。この「顔登録モ ード」は撮影モードの一種であって、ユーザーが登録人物の顔を撮影して顔認識デ ータを生成するためのモードである。
ステップ 101:まず、ユーザーは操作部材 23により電子カメラの撮影モードを「顔登 録モード」に設定する。
[0063] 例えば、電子カメラが「通常撮影モード」や「ポートレート撮影モード」に設定された 状態において、ユーザーはモード選択画面を呼び出す操作を行う。これにより、 CP U26はモード選択画面(図 3 (a)参照)を液晶モニタ 24に表示する。そして、ユーザ 一は操作部材 23でモード選択画面上の選択枠を操作し、 CPU26に「顔登録モード 」の起動を指示する。これにより、 CPU26は「顔登録モード」の一連の動作を開始す る。
[0064] ステップ 102 : CPU26は、液晶モニタ 24に「顔登録モード」のメニューを表示する( 図 3 (b)参照)。このメニューでは、ユーザーは操作部材 23で選択枠を操作して「新 規」または「追加」を CPU26に選択入力する。新たな人物の顔を登録する場合には 、ユーザーは「新規」を選択入力する。一方、既に登録されている人物の顔をさらに 撮影する場合には、ユーザーは「追加」を選択入力する。
[0065] ステップ 103 : CPU26は、メニュー(S 102)で「新規」が選択されたか否かを判定す る。「新規」の場合 (YES側)には S104に移行する。一方、「追加」の場合 (NO側)に は S 105〖こ移行する。
ステップ 104 : S102で「新規」が選択された場合、 CPU26は顔登録メモリ 27に新 規登録人物 (今回撮影する登録人物)のグループフォルダを生成する。そして、 CPU 26は「登録人物の詳細情報画面」(図 5参照)を液晶モニタ 24に表示するとともに、 ユーザーに「登録人物の名称」および「顔認識時の処理設定」の情報の入力を促す。 図 5の「登録人物の詳細情報画面」で入力された情報は、グループフォルダに対応 付けされた状態で顔登録メモリ 27に記録される。その後、 S106に移行する。
[0066] なお、ユーザーは「登録人物の名称」および「顔認識時の処理設定」の入力を省略 することもできる。この場合には、ユーザーは、図 3 (b)の編集の項目力も図 5の「登録 人物の詳細情報画面」を立ち上げて、これらの情報を後で改めて顔登録メモリ 27に 人力することができる。
ステップ 105 :—方、 S102で「追加」が選択された場合、 CPU26は登録人物の選 択画面(図 4参照)を液晶モニタ 24に表示し、今回撮影する登録人物をユーザーに 選択入力させる。
[0067] ステップ 106 : CPU26は、電子カメラの撮影時の設定を顔登録撮影に適した設定 に変更する。具体的には CPU26は以下の(1)〜(7)の設定を行う。
(D CPU26は、「顔登録モード」において AF方式を顔検出モードに設定する。こ の場合には、 CPU26はレリーズ釦の操作に関係なぐスルー画像データによって検 出した顔領域に合わせてピント合わせを自動的に繰り返す。これにより、検出した顔 にピントを合わせることが可能となる。なお、ユーザーがレリーズ釦を半押しした場合 に CPU26が AFロックを行うようにしてもよ!ヽ。
[0068] (2) CPU26は、「顔登録モード」にお 、て AE方式を顔検出領域を基準とするスポ ット AEモードに設定する。この場合には、 CPU26はスルー画像データによって検出 した顔領域に合わせて AE演算を実行する。これにより、検出した顔の露出が最適化 される。
(3) CPU26は、「顔登録モード」において画像処理部 20の電子ズーム処理を不能 化する。または、 CPU26は、電子ズームの倍率を例えば 2倍程度に制限する等の手 段で、電子ズームの最大倍率を通常時よりも小さくなるように制限する。電子ズームを 行った場合には撮影した顔登録画像の情報量が少なくなつて、顔の特徴点の抽出 精度が低下するからである。
[0069] (4) CPU26は、「顔登録モード」においてズームレンズ 11aの倍率調整範囲を通常 撮影時よりも広角側に狭めて最大倍率を小さくする。顔検出時には、ズームレンズを 広角側に設定して被写界深度を深くする方が顔検出できる可能性が増加するからで ある。また、ズームレンズを広角側に設定すれば、撮影画像が手ぶれする可能性も 低下する力らである。なお、この場合において、ズームレンズ 11aの位置を広角端に 固定すると被写界深度がより深くなるので特に好ましい。 [0070] ところで、撮影光学系の絞り(不図示)を絞っても被写界深度は深くなるが、この場 合にはシャツタ秒時に相当する撮影時間が長くなつて顔登録画像が手ぶれする可能 性が増加する。そのため、手ぶれを回避する観点から、 CPU26は絞りをできるだけ 開放側に設定することがより好ましい。なお、 CPU26は、顔検出ができない場合に 被写界深度を徐々に深くする制御を行ってもよい。
[0071] (5) CPU26は、「顔登録モード」において、揺動センサ部 13の出力に基づいて像 ぶれ補正レンズ 14を移動させて光学的なぶれ補正を行う。手ぶれによる顔登録画像 の撮影失敗を回避するためである。
(6) CPU26は、「顔登録モード」において、アナログ信号処理部 17における画像 信号のゲイン設定 (撮像感度の設定)を通常撮影時の設定よりも高くする。撮像感度 が高くなると上記の撮影時間は短くなるので、顔登録画像が手ぶれする可能性も低 下するからである。
[0072] (7) CPU26は、「顔登録モード」において、閃光発光部 25の閃光発光を不能化す る。撮影時に閃光発光を行うと撮影人物の顔に影ができて顔検出の精度が低下する 力もである。なお、被写界が暗く十分な露出が確保できない状態で強制的に撮影す る場合や、閃光発光時の顔認識データを意図的に取得しょうとする場合には、 CPU 26は閃光発光部 25を例外的に発光させるようにしてもょ 、。
[0073] ステップ 107: CPU26は、撮像素子 16を駆動させてスルー画像信号の取得を行う 。撮像素子 16は所定間隔毎に間引き読み出しでスルー画像信号を出力する。画像 処理部 20はスルー画像信号に基づいてスルー画像データを生成する。そして、液 晶モニタ 24にはスルー画像データに基づいてプレビュー画像が動画表示される。 ステップ 108 :—方、 CPU26の顔検出部 31は、スルー画像データに公知の顔検出 処理を施して撮影画面内の顔領域を検出する。
[0074] また、 S108では、顔検出部 31は顔領域の検出精度 (顔の検出正解率)を規定する 閾値を低くして、顔候補の検出率を通常よりも高めにするのがより好ましい。顔検出 がしにくい顔の向き (例えば横向きなど)で顔登録画像を撮影しょうとする場合もある 力 である。
なお、顔検出部 31が撮影画面内で人物の顔を検出した場合、画像処理部 20はプ レビュー画像の顔領域の位置に矩形の枠を合成表示する(図 6参照)。これにより、ュ 一ザ一はプレビュー画像で顔検出の有無を確認することができる。
[0075] ステップ 109 : CPU26は S 108で撮影画面力も顔検出されたか否かを判定する。
顔検出された場合 (YES側)には S110に移行する。一方、顔検出されていない場合 (NOftlJ)には S107に戻る。
ステップ 110: CPU26は、顔領域における顔の特徴点の検出状態に基づ!/、て顔の 向きを推定する。そして、 CPU26は推定した顔の向きが、予め指定された顔の向き( 正面向き、横向きなど)と一致する力否かを判定する。顔の向きが所定方向である場 合 (YES側)には S111に移行する。一方、顔の向きが所定方向以外である場合 (N O側)には S107に戻る。このとき、 CPU26は「被写体の顔の向きを変えて撮影しな おして下さ 、」などの警告表示を液晶モニタ 24等に表示させるようにしてもょ 、。
[0076] ここで、 S110での顔の向きの検出は公知の手段によって行われる。例えば、特開 平 9— 163212号公報のように、 CPU26が顔画像力も顔の輪郭と鼻の座標とを検出 して顔の向きを計算してもよい。あるいは特開 2005— 209137号公報のように、顔方 向毎に顔画像を分類登録した画像データベースに基づ!/、て CPU26が顔の向きを 識另 IJするようにしてもよ ヽ。
[0077] S110での NO側の場合には CPU26はレリーズを行わず、被写体の顔の向きが変 わるまで撮影が行われることはない。したがって、所定の顔の向きの顔登録画像から 顔認識データを生成することが可能となる。
ステップ 111 : CPU26は、顔領域における顔の特徴点の検出状態に基づいて顔の 表情を推定する。そして、 CPU26は推定した顔の表情がニュートラルな状態(目つ ぶりなどをして 、な 、標準状態)である力否かを判定する。顔の表情が-ユートラルで ある場合 (YES側)には S112に移行する。一方、顔の表情が-ユートラルでない場 合 (NO側)には S107に戻る。このとき、 CPU26は「被写体の表情を変えて撮影しな おして下さ 、」などの警告表示を液晶モニタ 24等に表示させるようにしてもょ 、。
[0078] ここで、 S111での顔の表情の検出は公知の手段によって行われる。例えば、特開 2004— 272933号公報のように、普通の表情、 目をつぶった顔、口を開いた顔、 笑顔などのクラスに分類された学習用顔画像を予め用意し、 CPU26が正準判別分 析による識別を行なった上で各クラスごとに設定された評価値で顔の表情を判別して ちょい。
あるいは、開いた目、閉じた目、開いた口、閉じた口などの標準パターンを予め用意 し、 CPU26が各パターンと顔領域とのマッチングをとり、パターンの組合せ力も表情 を推定してもよい。
[0079] S111での NO側の場合には CPU26はレリーズを行わず、被写体の顔の表情が変 わるまで撮影が行われることはない。したがって、顔の表情が-ユートラルな状態の 顔登録画像をより確実に取得できる。笑顔や目をつぶった状態の画像から顔認識デ ータを生成すると顔認識の精度が大きく低下する可能性もあるため、表情が-ユート ラルな顔登録画像は顔認識に最も適した画像であると考えられるからである。
[0080] なお、 CPU26は、上記の S110および S111の処理をユーザーの設定に応じて省 略することも可能である。
ステップ 112: CPU26は、検出した顔領域の位置を基準として AF演算および AE 演算を実行する。
ステップ 113 : CPU26はレリーズ釦が全押しされたか否かを判定する。レリーズ釦 が全押しされた場合 (YES側)〖こは S114〖こ移行する。一方、レリーズ釦に入力がな V、場合 (NO側)には CPU26はレリーズ釦の全押し操作を待機する。
[0081] ステップ 114: CPU26は撮像素子 16を駆動させて被写体像を撮影する。その後、 画像処理部 20はレリーズ時の画像信号に基づ ヽて撮影画像データ (顔登録画像デ ータ)を生成する。
ステップ 115: CPU26の顔認識部 32は、顔登録画像データ(S 114)から登録人物 の顔認識データを生成する。また、画像処理部 20は、顔登録画像データの顔領域を トリミングするとともに、解像度変換で所定のサイズにリサイズしてインデックス画像デ ータを生成する。
[0082] ステップ 116: CPU26は、顔認識データ、インデックス画像データ、顔登録画像デ ータの撮影条件および撮影日時を顔登録メモリ 27に記録する。上記の各データはそ れぞれ対応付けされた状態で、 S 104または S 105で指定された登録人物のグルー プフォルダに記録される。上記の各データのうち、インデックス画像データは「顔登録 画像」に対応する。また、撮影条件は「顔認識データの登録時期」に対応し、撮影条 件は「顔認識データの取得時の撮影条件」に対応する。
[0083] 以上で、「顔登録モード」での一連の動作が終了する。なお、 CPU26は、 S116の 後に S107に戻って登録人物の顔認識データの登録をさらに続行するようにしてもよ い。
以下、第 1実施形態の「顔登録モード」の効果を説明する。上記の顔登録撮影では 、撮影時の設定が顔登録に適した設定が変更されるとともに、顔領域の検出位置を 基準として AF演算および AE演算が行われる(S 106、 S112)。そして、人物の顔を 撮影した顔登録画像データに基づいて顔認識データが生成される(S114、 S115) 。そのため、ユーザーは登録したい人物に電子カメラを向けてレリーズするだけで、 適正に撮影された顔登録画像に基づく顔認識データを容易に取得できる。
[0084] (顔認識撮影モードでの動作)
図 7は第 1実施形態の「顔認識撮影モード」の動作を示す流れ図である。この「顔認 識撮影モード」は、指定した登録人物が撮影画面に存在する場合に、電子カメラが 所定の制御を行って撮影画像データを取得する撮影モードである。
ステップ 201:まず、ユーザーは操作部材 23により電子カメラの撮影モードを「顔認 識撮影モード」に設定する。
[0085] 例えば、電子カメラが「通常撮影モード」や「ポートレート撮影モード」に設定された 状態において、ユーザーはモード選択画面を呼び出す操作を行う。これにより、 CP U26はモード選択画面(図 3 (a)参照)を液晶モニタ 24に表示する。そして、ユーザ 一は操作部材 23でモード選択画面上の選択枠を操作し、 CPU26に「顔認識撮影 モード」の起動を指示する。これにより、 CPU26は「顔認識撮影モード」の一連の動 作を開始する。
[0086] ステップ 202 : CPU26は、登録人物の選択画面(図 4参照)を液晶モニタ 24に表示 する。そして、 CPU26は、顔認識対象の登録人物 (撮影時に顔認識を行う登録人物 )の指定入力を受け付ける。なお、顔認識対象の登録人物を撮影前に予めユーザー 力 SCPU26に指定入力しておくことも可能である。
ここで、「登録人物の選択画面」では、 CPU26は 1または 2以上の登録人物の指定 を受け付けることができる。例えば、 CPU26は顔登録メモリ 27の登録人物の全指定 を受け付けることもできる。また、グループフォルダを所定のカテゴリ(例えば、家族、 サークルなど)で予めリンクするとともに、ユーザーが選択画面でカテゴリを指定入力 することで、 CPU26にリンクされた登録人物の一括指定を入力することもできる。
[0087] ステップ 203: CPU26は、撮像素子 16を駆動させてスルー画像信号の取得を行う 。撮像素子 16は所定間隔毎に間引き読み出しでスルー画像信号を出力する。画像 処理部 20はスルー画像信号に基づいてスルー画像データを生成する。そして、液 晶モニタ 24にはスルー画像データに基づいてプレビュー画像が動画表示される。 ステップ 204 :—方、 CPU26の顔検出部 31は、スルー画像データに公知の顔検出 処理を施して撮影画面内の顔領域を検出する。
[0088] ステップ 205 : CPU26は S204で撮影画面力も顔検出されたか否かを判定する。
顔検出された場合 (YES側)には S206に移行する。一方、顔検出されていない場合 (NO側)には S209に移行する。
ステップ 206: CPU26は、検出した顔領域の位置を基準として AF演算を実行する 。なお、顔領域を複数検出した場合には、 CPU26は、撮影画面の中央に位置する 顔領域または最も至近側に位置する顔領域を優先して AF演算を実行する。
[0089] ステップ 207 : CPU26の顔認識部 32は、検出した顔領域(S204)に対して顔認識 処理を実行する。そして、顔認識部 32は、認識対象の顔(S202)が含まれているか 否かを判定する。認識対象の顔が含まれている場合 (YES側)には S208に移行す る。一方、認識対象の顔が含まれない場合 (NO側)〖こは S210〖こ移行する。
ステップ 208 : CPU26は、検出された登録人物に対応する「顔認識時の処理設定」 のデータに基づ 、て、電子カメラの撮影条件の設定や画像処理の設定などを変更 する。その後、 S210に移行する。
[0090] ここで、認識対象の顔が撮影画面内に複数検出されている場合には、 CPU26は 所定のアルゴリズムで登録人物の優先順位を決定する。そして、 CPU26は、優先順 位が最も高い登録人物に対応する「顔認識時の処理設定」に基づいて電子カメラの 各種設定を変更する。なお、「顔認識時の処理設定」で登録人物の自動撮影が設定 されて ヽる場合には、 CPU26は S211に移行して登録人物を自動的に撮影する。 [0091] ステップ 209 :—方、この場合には、 CPU26はユーザーによるレリーズ釦の半押し 操作に応じて、通常撮影時のアルゴリズムで AFエリアを選択して AF演算を実行する ステップ 210 : CPU26はレリーズ釦が全押しされたか否かを判定する。レリーズ釦 が全押しされた場合 (YES側)には S211に移行する。一方、レリーズ釦に入力がな V、場合 (NO側)には CPU26はレリーズ釦の全押し操作を待機する。
[0092] ステップ 211: CPU26は撮像素子 16を駆動させて被写体像を撮影する。その後、 画像処理部 20はレリーズ時の画像信号に基づ ヽて撮影画像データを生成する。な お、認識対象の顔が撮影されている場合には、画像処理部 20は S208で設定された 画像処理を撮影画像データに施す。
ステップ 212 : CPU26は撮影画像データを記録媒体 29に記録する。なお、認識対 象の顔が撮影されている場合、 CPU26は顔登録メモリ 27で指定されているディレク トリパスに基づ 、て、所定の記録フォルダに撮影画像データを分類して記録すること もできる。以上で、「顔認識撮影モード」での一連の動作が終了する。
[0093] 以下、本実施形態の「顔認識撮影モード」の効果を説明する。上記の顔認識撮影 モードでは、顔認識データに基づいて撮影人物の顔認識が行われる(S207)。そし て、認識対象の顔が検出された場合には、その登録人物に対応する設定で撮影時 の各種処理などが行われる(S208、 S211、 S212)。そのため、登録人物の撮影時 にユーザーの意図を反映させた処理を自動的に行うことができ、電子カメラを操作す るユーザーの利便性が著しく向上する。
[0094] <第 2実施形態の説明 >
図 8は第 2実施形態の「顔登録モード」での動作を示す流れ図である。なお、図 8の S301〜S312iま図 2の S101〜S112にそれぞれ対応し、図 8の S315iま図 2の S11 6に対応するので重複説明を省略する。
ステップ 313 : CPU26は AF終了後に自動的にレリーズを行って、撮像素子 16を 駆動させて被写体像を撮影する。その後、画像処理部 20はレリーズ時の画像信号に 基づ ヽて撮影画像データ (顔登録画像データ)を生成する。
[0095] ステップ 314 : CPU26の顔認識部 32は、顔登録画像データ(S313)から登録人物 の顔認識データを生成する。また、画像処理部 20は、顔登録画像データからインデ ックス画像データを生成する。
以下、第 2実施形態の「顔登録モード」の効果を説明する。第 2実施形態では、顔 検出時には人物の顔を自動的に撮影して顔認識データが生成される(S313、 S314 )。そのため、ユーザーは登録したい人物に電子カメラを向けるだけで、適正な顔登 録画像に基づく顔認識データを容易に取得することが可能となる。特に、第 2実施形 態ではピント合わせおよびレリーズが自動化されるので、撮影光学系をユーザー自 身に向けてユーザーの顔登録撮影を 1人のみで行うことも可能となる。
[0096] <第 3実施形態の説明 >
図 9は第 3実施形態の「顔登録モード」での動作を示す流れ図である。なお、図 9の S401〜S409iま図 2の S101〜S109にそれぞれ対応し、図 9の S414iま図 2の S11 6に対応するので重複説明を省略する。
ステップ 410: CPU26は、検出した顔領域の位置を基準として AF演算および AE 演算を実行する。
[0097] ステップ 411 : CPU26は自動的に所定回数のレリーズを連続して行ない、複数の 撮影画像データ (顔登録画像データ)を取得する。ここで、 S411では CPU26は撮影 条件をすベて同じにして複数の顔登録画像データを撮影する。例えば、被写体が静 止して 、な 、場合や手ぶれが発生する場合には、同じ撮影条件でも異なる画像が撮 影されるためである。なお、 CPU26は露出条件やホワイトバランスなどのパラメータ を段階的に変化させてブラケティング撮影を行ってもよい。
[0098] ステップ 412 : CPU26の顔検出部 31は、 S411で取得した複数の顔登録画像デー タに対してそれぞれ顔検出処理を施して特徴点を抽出する。そして、 CPU26は、顔 の特徴点の検出状態が良好な順 (例えば、抽出された特徴点の数が多い順)に各顔 登録画像データに優先順位を設定する。なお、第 1実施形態の S110や S111で示 したように、 CPU26は顔登録画像データの顔の向きや表情も考慮して上記の優先 順位を設定してもよい。
[0099] ステップ 413 : CPU26は、 S411で取得した複数の顔登録画像データのうちで最も 優先順位の高い顔登録画像データを選択する。そして、 CPU26の顔認識部 32は、 この選択された顔登録画像データから顔認識データを生成する。また、画像処理部 2 0は、選択された顔登録画像データからインデックス画像データを生成する。
以下、第 3実施形態の「顔登録モード」の効果を説明する。第 3実施形態では、複 数の顔登録画像データから最適な画像を選択して顔認識データを生成する。そのた め、第 3実施形態によれば、顔認識撮影時における顔認識の精度をより向上させや すくなる。
[0100] <第 4実施形態の説明 >
図 10は第 4実施形態の「顔登録モード」での動作を示す流れ図である。なお、図 10 の S501〜S505iま図 2の S101〜S105ににそれぞれ対応し、図 10の S513、 S514 は図 2の S115、 S116にそれぞれ対応するので重複説明を省略する。
ステップ 506: CPU26は、電子カメラの撮影時の設定を顔登録撮影に適した設定 に変更する。具体的には、 CPU26は S106の(3)〜(7)と同様の設定を行うとともに 、以下の(a)および (b)の設定を行う。
[0101] (a) CPU26は、「顔登録モード」において撮影画面中央の AFエリアを選択して AF 演算を行う。この場合には、 CPU26はレリーズ釦が半押し操作に応じていわゆる中 央重点 AFでピント合わせを行うとともに、ピントが合った時点で AFロックする制御を 実行する。撮影画面中央で顔登録画像を取得することで、撮影光学系の収差の影 響をより小さくして精度の高い顔認識データを生成するためである。
[0102] (b) CPU26は、「顔登録モード」において AE方式を撮影画面中央を基準とするス ポット AEモードに設定する。これにより、撮影画面中央で撮影される顔の露出が最 適化される。
ステップ 507: CPU26は、撮像素子 16を駆動させてスルー画像信号の取得を行う 。撮像素子 16は所定間隔毎に間引き読み出しでスルー画像信号を出力する。画像 処理部 20はスルー画像信号に基づいてスルー画像データを生成する。そして、液 晶モニタ 24にはスルー画像データに基づいてプレビュー画像が動画表示される。
[0103] ここで、 S507での画像処理部 20は、プレビュー画像の撮影画面の中央に構図補 助表示を合成する(図 11参照)。図 11の構図補助表示は撮影画面内における顔を 収める位置を矩形状の枠で示したものである。この構図補助表示により、ユーザーは フレーミングの際に顔の位置決めを容易に行うことができる。そのため、ユーザーは 状態のよい顔登録画像を簡単に撮影することが可能となる。なお、構図補助表示の 他の例として、矩形状の枠の四隅のみをプレビュー画像に合成してもよい。あるいは 、構図補助表示の他の例として、例えば、顔を収める範囲以外をモノクロ表示するな どの手段で、顔を収める範囲の内外で画像の表示色を変化させるようにしてもよい( いずれも図示を省略する)。
[0104] また、 S507での画像処理部 20は、プレビュー画像の中央以外の周辺領域に撮影 見本表示を合成する(図 11参照)。図 11の撮影見本表示は所定方向を向!、た人物 の顔の写真やイラストを表示したものである。例えば、正面向きの顔登録画像を撮影 する場合、撮影見本表示には正面向きの顔画像が表示されることとなる。この撮影見 本表示により、
今回の撮影に適した顔の状態 (顔の向きなど)をユーザーは視覚的に理解できる。そ のため、ユーザーは状態のよい顔登録画像を簡単に撮影することが可能となる。な お、画像処理部 20は、「正面の顔を撮影して下さい」などのメッセージ表示をプレビュ 一画像に合成してもよい。
[0105] ステップ 508 : CPU26はレリーズ釦が半押しされたか否かを判定する。レリーズ釦 が半押しされた場合 (YES側)〖こは S509〖こ移行する。一方、レリーズ釦に入力がな い場合 (NO側)には S 507に戻る。
ステップ 509 : CPU26は、ユーザーによるレリーズ釦半押し操作に応じて撮影画面 中央を基準とする AF演算および AE演算を実行する。
[0106] ステップ 510 : CPU26はレリーズ釦が全押しされたか否かを判定する。レリーズ釦 が全押しされた場合 (YES側)には S511に移行する。一方、レリーズ釦に入力がな
V、場合 (NO側)には CPU26はレリーズ釦の全押し操作を待機する。
ステップ 511 : CPU26は、ユーザーによるレリーズ釦全押し操作に応じて撮影画像 データ (顔登録画像データ)を取得する。
[0107] ステップ 512 : CPU26の顔検出部 31は、顔登録画像データ(S511)の撮影画面 中央の部分に公知の顔検出処理を施して撮影画面内の顔領域を検出する。
以下、第 4実施形態の「顔登録モード」の効果を説明する。第 4実施形態では、ユー ザ一がマニュアル撮影した顔登録画像データに基づいて顔認識データが生成される 。そのため、ユーザーの意図に即した顔認識データを作成することが可能となる。ま た、撮影光学系の収差の影響が少ない撮影画面中央で顔登録画像を取得するので 、より精度の高 、顔認識データを生成することが可能となる。
[0108] (第 1実施形態から第 4実施形態における顔登録モードの変形例)
上記の実施形態では撮影時に顔登録画像力ゝら顔認識データを生成する例を説明 した。しかし、顔登録画像から顔認識データを生成する代わりに、 CPUが顔登録画 像から顔領域の部分を切り出して顔画像データを生成し、この顔画像データをメモリ や記録媒体に記録するようにしてもよい。そして、コンピュータによる後処理で顔画像 データ力 顔認識データを生成するようにすることもできる。
[0109] ここで、顔画像データは、顔登録画像の顔領域を例えば 80 X 80画素程度のサイズ で切り出して生成される。力かる顔画像データの画像に対しては、解像度変換による 変倍処理を施さないようにするのが好ましい。また、顔登録画像データの場合と同様 に、 CPUは、上記の顔画像データに、インデックス画像データ、顔登録画像データ の撮影条件および撮影日時を対応付けして記録しておくことが好ましい。さらに、上 記の顔画像データについても、 CPUは、同一の撮影人物から生成した複数の顔画 像データを同一のフォルダ等にグループ化して記録するのが好ましい。
[0110] <第 5実施形態の説明 >
第 5実施形態は第 1実施形態の変形例であって、本発明の画像処理装置の一形 態である電子カメラによって撮影画像力 顔認識データを生成する。ここで、第 5実 施形態の電子カメラの構成は、第 1実施形態と共通するので重複説明は省略する。
(顔登録モードでの動作)
図 12は第 5実施形態の「顔登録モード」の動作を示す流れ図である。この「顔登録 モード」は再生モードの一種であって、撮影画像データの再生時において顔認識デ ータを生成するためのモードである。
[0111] ステップ 1101 :まず、ユーザーは操作部材 23により電子カメラを「再生モード」に設 定する。 CPU26は記録媒体 29や内蔵メモリ 19から顔登録画像データ (顔認識デー タの生成に使用する撮影画像データ)を読み出して、顔登録画像データの再生画像 を液晶モニタ 24に再生表示する。なお、 CPU26は、入出力 IZF22の外部接続端 子または通信ユニット 30を介して接続されたコンピュータ (不図示)から顔登録画像 データを読み出すこともできる。
[0112] ステップ 1102 :ユーザーは操作部材 23により電子カメラのモードを「顔登録モード」 に設定する。
例えば、電子カメラが「再生モード」に設定された状態において、ユーザーはモード 選択画面を呼び出す操作を行う。これにより、 CPU26はモード選択画面(図 13参照 )を液晶モニタ 24に表示する。そして、ユーザーは操作部材 23でモード選択画面上 の選択枠を操作し、 CPU26に「顔登録モード」の起動を指示する。これにより、 CPU 26は「顔登録モード」の一連の動作を開始する。
[0113] ステップ 1103 : CPU26の顔検出部 31は、顔登録画像データ(S 1101)に公知の 顔検出処理を施して撮影画面内の顔領域を検出する。
ステップ 1104: CPU26は撮影画面での顔領域の位置を画像処理部 20に出力す る。そして、画像処理部 20は再生画像の顔領域の位置に矩形の枠を合成表示する( 図 14〜図 16参照)。これにより、ユーザーは液晶モニタ 24で顔検出の状態を確認で きる。
[0114] ステップ 1105: CPU26は顔検出処理の再試行をユーザーに確認する表示(「OK 」および「やり直し」の選択表示)を液晶モニタ 24に表示する(図 14参照)。登録しょう とする人物の顔に枠表示がない場合には、ユーザーは操作部材 23で「やり直し」を 選択入力する。一方、登録しょうとする人物の顔に枠表示がある場合には、ユーザー は操作部材 23で「ΟΚ」を選択入力する。
[0115] そして、 CPU26は、上記の確認表示で「やり直し」(顔検出処理の再試行)が選択 されたか否かを判定する。「やり直し」が選択された場合 (YES側)には S1106に移 行する。一方、「OK」が選択された場合 (NO側)には S 1107に移行する。
ステップ 1106: CPU26の顔検出部 31は、操作部材 23からのユーザーの入力に 基づいて、顔領域の検出精度を規定する閾値を変更する。
[0116] 例えば、選択したい人物の顔に枠表示がない場合には、ユーザーは上記の閾値を 前回よりも低い値に変更する。その後、 S1103に戻って、顔検出部 31は顔登録画像 データに顔検出処理を施して撮影画面内の顔領域を再検出する。この場合には、顔 領域を正しく検出する正解率は低下する一方で顔候補 (枠表示される顔領域)の数 は前回より増えるので、顔検出がしにくい状態の顔領域 (例えば横向きの顔など)を 検出できる可能性がより向上する。
[0117] また、顔登録画像に多数の人物が写っており、かつ顔候補が必要以上に検出され ている場合には、ユーザーは上記の閾値を前回よりも高い値に変更する。その後、 S 1103に戻って、顔検出部 31は顔登録画像データに顔検出処理を施して撮影画面 内の顔領域を再検出する。この場合には、顔領域を正しく検出する正解率が高まる ので、顔候補の数が絞り込まれて後述の選択作業 (S 1107)が容易となる。
[0118] ステップ 1107 : CPU26は顔登録画像のいずれかの顔領域(S 1103)に選択枠を 合成表示する(図 15参照)。ユーザーは、操作部材 23で選択枠を操作して顔認識デ ータを作成する人物を選択する一方で、 CPU26はユーザーの選択入力を受け付け る。なお、 S1107では、ユーザーは 1つの再生画像から複数の顔領域を選択するこ とも可能である。
[0119] ステップ 1108 : CPU26は、選択された人物が新規の登録人物か否かをユーザー に確認する表示(「新規」および「追加」の選択表示)を液晶モニタ 24に表示する(図
16参照)。この画面では、ユーザーは入力釦で選択枠を操作して「新規」または「追 カロ」を CPU26に選択入力する。新たな人物の顔を登録する場合には、ユーザーは「 新規」を選択入力する。一方、既に登録されている人物の顔をさらに撮影する場合に は、ユーザーは「追加」を選択入力する。
[0120] そして、 CPU26は、上記の確認表示で「新規」が選択されたか否かを判定する。「 新規」が選択された場合 (YES側)には S1109に移行する。一方、「追加」が選択さ れた場合 (NO側)には S 1110に移行する。
ステップ 1109 : S1108で「新規」が選択された場合、 CPU26は顔登録メモリ 27に 新規登録人物のグループフォルダを生成する。そして、 CPU26は「登録人物の詳細 情報画面」(図 5参照)を液晶モニタ 24に表示するとともに、ユーザーに「登録人物の 名称」および「顔認識時の処理設定」の情報の入力を促す。図 5の「登録人物の詳細 情報画面」で入力された情報は、グループフォルダに対応付けされた状態で顔登録 メモリ 27に記録される。その後、 S1111に移行する。
[0121] なお、ユーザーは「登録人物の名称」および「顔認識時の処理設定」の入力を省略 し、後で改めて図 5の「登録人物の詳細情報画面」を立ち上げて、これらの情報を顔 登録メモリ 27に入力することも可能である。
ステップ 1110 :—方、 S 1108で「追加」が選択された場合、 CPU26は既に登録さ れている登録人物の選択画面(図 4参照)を液晶モニタ 24に表示し、顔認識データ を追加する登録人物をユーザーに選択入力させる。
[0122] ステップ 1111 : CPU26の顔認識部 32は、顔登録画像データのうちで選択された 顔領域 (S 1107)から登録人物の顔認識データを生成する。また、画像処理部 20は 、顔登録画像データの顔領域をトリミングするとともに、解像度変換で所定のサイズに リサイズしてインデックス画像データを生成する。
ステップ 1112: CPU26は、顔登録画像データの付属データ領域に記録されて!ヽ る撮影条件および撮影日時のデータを取得する。例えば、顔登録画像データが Exif (Exchangeable image file format for digital still cameras)規格に準拠し 7こ画像フアイ ルの場合には、 CPU26は画像ファイルにタグ形式で記録されて ヽる撮影条件およ び撮影日時のデータを読み出して取得する。なお、顔登録画像データのデータ形式 が上記の付属データ領域を含まない場合にはこの工程は省略される。
[0123] ステップ 1113: CPU26は、顔認識データ、インデックス画像データ、顔登録画像 データの撮影条件および撮影日時を顔登録メモリ 27に記録する。上記の各データは それぞれ対応付けされた状態で、 S 1109または SI 110で指定された登録人物のグ ループフォルダに記録される。上記の各データのうち、インデックス画像データは「顔 登録画像」に対応する。また、撮影日時は「顔認識データの登録時期」に対応し、撮 影条件は「顔認識データの取得時の撮影条件」に対応する。
[0124] 以上で、「顔登録モード」での一連の動作が終了する。なお、 S 1107で複数の顔領 域が指定されて 、る場合には、 CPU26は顔領域の数に応じて S 1108力 S 1113ま での処理を繰り返す。
以下、第 5実施形態の「顔登録モード」の効果を説明する。上記の顔登録モードで は、再生時にお!ヽて記録媒体 29などから読み込んだ撮影画像データから顔認識デ ータが生成される(SI 101、 SI 111)。すなわち、過去に撮影した撮影画像データや
、他の電子カメラで撮影された撮影画像データ力ゝら顔認識データを生成できるので、 ユーザーの利便性が大幅に向上する。
[0125] また、上記の顔登録モードでは、顔検出処理で自動的に検出された顔領域に基づ いて顔認識データが生成される(S 1103、 Sl l l D oこのとき、ユーザーは検出され た顔領域のうちから顔認識データを生成する対象を指定すれば足りるので、顔認識 データを容易に生成することができる。
(顔登録モードの動作の変形例)
上記の第 5実施形態では撮影時に顔登録画像力 顔認識データを生成する例を 説明した。しかし、顔登録画像から顔認識データを生成する代わりに、 CPUが顔登 録画像から顔領域の部分を切り出して顔画像データを生成し、この顔画像データをメ モリや記録媒体に記録するようにしてもよい。そして、コンピュータによる後処理で顔 画像データ力 顔認識データを生成するようにすることもできる。
[0126] ここで、顔画像データは、顔登録画像の顔領域を例えば 80 X 80画素程度のサイズ で切り出して生成される。力かる顔画像データの画像に対しては、解像度変換による 変倍処理を施さないようにするのが好ましい。また、顔登録画像データの場合と同様 に、 CPUは、上記の顔画像データに、インデックス画像データ、顔登録画像データ の撮影条件および撮影日時を対応付けして記録しておくことが好ましい。さらに、上 記の顔画像データについても、 CPUは、同一の撮影人物から生成した複数の顔画 像データを同一のフォルダ等にグループ化して記録するのが好ましい。
[0127] <第 6実施形態の説明 >
第 6実施形態は第 1実施形態の変形例であって、顔登録メモリ 27の各種データの 編集画面の操作および表示と、顔認識撮影モードの動作とに関する。ここで、第 6実 施形態の電子カメラの構成は、第 1実施形態と共通するので重複説明は省略する。
(編集画面の立ち上げ操作の説明)
第 6実施形態の電子カメラの編集画面について説明する。顔登録メモリ 27の各種 データを編集または確認する場合、ユーザー (操作者)は操作部材 23によって編集 画面を立ち上げる。 [0128] ここで、顔登録メモリ 27に登録された人物の情報は、電子カメラの所有者にとって プライバシーに属する情報である。そのため、電子カメラの CPU26は、ユーザー (操 作者)に個人認証を実行し、所有者に予め許可されたユーザーの場合のみ編集画 面を表示するように設定できる。ここで、個人認証の手段としては、例えば、パスヮー ドの入力による認証や、顔認証が挙げられる。また、指紋認証や虹彩認証等の公知 のバイオメトリタス認証装置を電子カメラに搭載するようにしてもよい。なお、顔認証の 場合は電子カメラの顔認識処理の構成をそのまま利用できることに加えて、不正なァ クセスを試行するユーザーに対しては顔の撮影による心理的な抑止効果も働くので 特に好ましい。
[0129] 図 17は、編集画面の立ち上げ操作で顔認証を行う場合の流れ図である。なお、顔 登録メモリ 27には、編集画面へのアクセスが許可されたユーザーの顔認識データが 予め記録されているものとする。
ステップ 2101:まず、ユーザーは操作部材 23により編集画面を立ち上げるための 操作を行う。これにより、 CPU26は、液晶モニタ 24に「顔を撮影して下さい」等の顔 撮影を促すメッセージを表示する。また、 CPU26は、電子カメラの各種設定を顔認 証の撮影に適した設定に変更する。具体的には CPU26は以下の設定を行う。
[0130] まず、 CPU26は AF方式を顔検出モードに設定する。この場合には、 CPU26はレ リ一ズ釦の操作に関係なく、スルー画像データによって検出した顔領域に合わせて ピント合わせを自動的に繰り返す。また、 CPU26は、 AE方式を顔検出領域を基準と するスポット AEモードに設定する。この場合には、 CPU26はスルー画像データによ つて検出した顔領域に合わせて AE演算を実行する。この場合には、ピント合わせお よびレリーズが自動化されるので、撮影光学系を操作者自身に向けて 1人で撮影す ることが可能となる。
[0131] なお、 S2101において、 CPU26は必要に応じてさらに以下の(1)〜(5)の設定を 行う。
(D CPU26は、画像処理部 20の電子ズーム処理を不能化する。電子ズームを行 つた場合には撮影した撮影画像の情報量が少なくなつて、顔の特徴点の抽出精度 が低下するからである。 [0132] (2) CPU26は、ズームレンズ 11aの位置を広角端に固定する。顔検出時には、ズ ームレンズを広角側に設定して被写界深度を深くする方が顔検出できる可能性が増 カロするカゝらである。また、ズームレンズを広角側に設定すれば、撮影画像が手ぶれす る可能性も低下するからである。
(3) CPU26は、揺動センサ部 13の出力に基づいて像ぶれ補正レンズ 14を移動さ せて光学的なぶれ補正を行う。手ぶれによる撮影失敗を回避するためである。
[0133] (4) CPU26は、アナログ信号処理部 17における画像信号のゲイン設定 (撮像感度 の設定)を通常撮影時の設定よりも高くする。撮像感度が高くなるとシャツタ秒時に相 当する撮影時間は短くなるので、撮影画像が手ぶれする可能性も低下する力 であ る。
(5) CPU26は、閃光発光部 25の閃光発光を不能化する。撮影時に閃光発光を行 うと撮影人物の顔に影ができて顔検出の精度が低下するからである。なお、被写界 が暗く十分な露出が確保できな 、状態で強制的に撮影する場合には、 CPU26は閃 光発光部 25を例外的に発光させるようにしてもょ 、。
[0134] ステップ 2102 : CPU26は、撮像素子 16を駆動させてスルー画像信号の取得を行 う。撮像素子 16は所定間隔毎に間引き読み出しでスルー画像信号を出力する。画 像処理部 20はスルー画像信号に基づいてスルー画像データを生成する。
ステップ 2103 :—方、 CPU26の顔検出部 31は、スルー画像データに公知の顔検 出処理を施して撮影画面内の顔領域を検出する。そして、 CPU26は、検出した顔領 域の位置を基準として AF演算および AE演算を実行する。
[0135] ステップ 2104 : CPU26は AF終了後に自動的にレリーズを行って、撮像素子 16を 駆動させて被写体像を撮影する。その後、画像処理部 20はレリーズ時の画像信号に 基づ ヽて撮影画像データを生成する。
ステップ 2105 : CPU26の顔認識部 32は、 S2103での顔検出の結果に基づいて、 撮影画像データ(S2104)の顔領域から顔の特徴点を抽出する。そして、顔認識部 3
2は、撮影人物の顔認識処理を実行する。
[0136] ステップ 2106 :顔認識部 32は、検出した顔が「編集画面へのアクセスが許可され たユーザー」の顔か否かを判定する。「編集画面へのアクセスが許可されたユーザー 」の場合 (YES側)には S2107に移行する。一方、「編集画面へのアクセスが許可さ れたユーザー」ではない場合 (NO側)には、 CPU26は液晶モニタ 24に編集画面を 表示することなく処理を終了する。
[0137] なお、 S2106の判定では、顔認識部 32は顔認識処理で相似度を判定する閾値を 通常の撮影時よりも高く設定することが好ましい。この場合は、「編集画面へのァクセ スが許可されたユーザー」をより確実に識別することが望まれるからである。
ステップ 2107 : CPU26は液晶モニタ 24に編集画面を表示させる。これにより、編 集画面へのアクセスが許可されたユーザーは、編集画面で顔認識データの管理'編 集を行うことが可能となる。
[0138] (編集画面の表示および操作の説明)
図 4および図 5は編集画面の表示の一例を示す図である。編集画面は、 GUI(Grap hical User Interface)形式の「登録人物の選択画面(図 4参照)」および「登録人物の 詳細情報画面(図 5参照)」で構成されている。なお、以下に示す編集画面での表示 処理'動作は、いずれも CPU26が所定のシーケンスプログラムに基づいて実行する
[0139] 図 4の「登録人物の選択画面」は編集画面の初期表示画面である。「登録人物の選 択画面」では、顔登録メモリ 27の登録人物に対応する人物選択用表示項目が表示さ れる。この人物選択用表示項目の数は顔登録メモリ 27の登録人物の数 (グループフ オルダの数)に一致する。そして、「登録人物の選択画面」では人物選択用表示項目 が一覧可能に表示される。なお、「登録人物の選択画面」には人物選択用表示項目 の一部のみを表示し、スクロール形式または頁形式の画面切り替えで一覧可能とし てもよい。
[0140] 上記の人物選択用表示項目にはそれぞれ「登録人物の名称」が表示される。この「 登録人物の名称」には、顔登録メモリ 27で登録人物のグループフォルダに対応付け されている「登録人物の名称」のデータが使用される。また、人物選択用表示項目で の識別性、検索性を高めるために、人物選択用表示項目には、対応する登録人物を 示すインデックス画像が表示される。例えば、 CPU26は以下の手法で人物選択用 表示項目のインデックス画像を設定する。 [0141] 第 1に、 CPU26は、所定のイラスト画像群力 ユーザーが選択したイラスト画像をィ ンデッタス画像に設定する。力かるイラスト画像もユーザーの意図によって登録人物 の特定や分類に役立てることができる。上記のイラスト画像は、不図示の ROM等に 予め記録されたものであって、例えば GIF形式、 BMP形式等のデータ形式で構成さ れる。なお、上記のイラスト画像には、例えばノ、ートマークや星などの図記号や「家族 」、「友達」などの文字なども含まれる。
[0142] 第 2に、 CPU26は、顔登録メモリ 27の各グループフォルダに記録されている登録 人物の「顔登録画像」をインデックス画像に設定する。この場合には顔登録画像によ つて、人物選択用表示項目と登録人物との関係性が視覚的に明確になるので特に 好ましい。
また、グループフォルダ内に複数の「顔登録画像」が記録されている場合には、 CP U26は以下の(1)〜(4)の!、ずれかの手法でインデックス画像を選択する。
[0143] (D CPU26は、複数の顔登録画像からユーザーが選択した顔登録画像をインデッ タス画像に設定する。この場合には、ユーザーが最適であると判断した顔登録画像 力 Sインデックス画像となるので、ユーザーの意図を反映させた表示画面にすることが できる。
(2) CPU26は、顔登録メモリ 27の「顔認識データの登録時期」を参照し、複数の顔 登録画像から最も撮影日時が新しい画像をインデックス画像に設定する。この場合 には、登録人物に関する最新の顔登録画像が自動的にインデックス画像となるので 、現在の登録人物に一番近い状態と考えられる顔を表示させることができる。
[0144] (3) CPU26は、複数の顔登録画像のうちで、顔正面を撮影した顔登録画像を選択 してインデックス画像に設定する。この場合には、正面を向いた顔画像が自動的にィ ンデッタス画像となるので、人物選択用表示項目での識別性、検索性をより向上させ ることができる。なお、顔正面を撮影した顔登録画像が複数存在する場合には、 CP U26は上記(2)に示すように撮影日時の新しい画像をインデックス画像に設定する。
[0145] ここで、顔登録画像の顔向きの検出は以下のようにして行われる。例えば、顔認識 データに予め顔の向きに関する識別情報を記録し、 CPU26が上記識別情報を参照 して顔登録画像の顔の向きを判断してもよい。また、顔登録画像に対応する顔認識 データに着目し、 CPU26は顔認識データでの目、鼻、口等の特徴点の抽出状態か ら顔の向きを類推するようにしてもよい。
[0146] (4) CPU26は、複数の顔登録画像を所定間隔ごとに順次切り替えて、スライドショ 一形式でインデックス画像の表示設定を行う。この場合には、ユーザーは「登録人物 の選択画面」で登録人物の顔登録画像の登録数 (すなわち、顔認識データの登録数 )を把握することが可能となる。また、インデックス画像の切り替えにより、視覚的変化 に富んでエンタテイメント性の高 ヽ「登録人物の選択画面」の表示を実現できる。
[0147] 次に、「登録人物の選択画面」での操作を説明する。「登録人物の選択画面」では、 ユーザーは図 4にお ヽて太線で示す選択枠 (あるいはカーソル等)を操作部材 23で 操作し、 CPU26に人物選択用表示項目の指定入力を行うことができる。なお、ユー ザ一が表示項目を指定した上でさらに決定入力を行うと、液晶モニタ 24の表示画面 が指定した登録人物に対応する「登録人物の詳細情報画面」に切り替わるようになつ ている。また、「登録人物の選択画面」では、表示項目に対応する登録人物のデータ の一括削除を行うこともできる。
[0148] また、「登録人物の選択画面」では、上記した表示項目の指定操作によって、ユー ザ一は顔認識対象の登録人物 (撮影時に顔認識を行う登録人物)を CPU26に指定 入力できる。このとき、 CPU26は 1または 2以上の登録人物の指定を受け付けること ができる。例えば、 CPU26は顔登録メモリ 27の登録人物の全指定を受け付けること もできる。また、グループフォルダを所定のカテゴリ(例えば、家族、サークルなど)で 予めリンクするとともに、ユーザーが選択画面でカテゴリを指定入力することで、 CPU 26にリンクされた登録人物の一括指定を入力することもできる。
[0149] さらに、「登録人物の選択画面」では、ユーザーは登録人物の優先順位(「顔認識 時の処理設定」が競合する場合の優先順位)を CPU26に設定入力できる。この優先 順位は、表示項目の指定操作によって個別的に入れ替えることが可能である。また、 CPU26は、所定条件で登録人物の優先順位を変更することも可能である。例えば、 CPU26は、(1)登録人物の登録順、(2)登録人物の名称の文字列、(3)グループフ オルダ内の顔認識データの数、(4)顔認識の指定回数、などを基準として登録人物 を昇順'降順にソートし、ソート後の順番に従って優先順位を自動設定できる。また、 CPU26は、撮影回数データに基づいて撮影回数がより多い登録人物の優先順位を 高く設定することもできる。なお、「登録人物の選択画面」では、人物選択用表示項目 の表示位置または表示順は優先順位と対応しており、優先順位の高い順に人物選 択用表示項目が表示されるようになっている。
[0150] 一方、図 5に示す「登録人物の詳細情報画面」は、上下に二分された画面構成とな つている。「登録人物の詳細情報画面」の上部領域には、指定された登録人物に関 する「登録人物の名称」および「顔認識時の処理設定」のデータが顔登録メモリ 27か ら読み出されてそれぞれ表示される。そして、「登録人物の詳細情報画面」では、「登 録人物の名称」および「顔認識時の処理設定」の任意の項目を指定し、上記の各デ ータの内容をそれぞれ変更できるように設定されている。なお、「登録人物の詳細情 報画面」での変更内容は、顔登録メモリ 27の「登録人物の名称」および「顔認識時の 処理設定」にそれぞれ上書きされて反映されることとなる。
[0151] また、「登録人物の詳細情報画面」の下部領域には、顔認識データに対応する顔 認識データ用表示項目が表示される。顔認識データ用表示項目の総数は登録人物 のグループフォルダ内にある顔認識データの数と一致する。そして、「登録人物の詳 細情報画面」の下部領域には、顔認識データ用表示項目が一覧可能に表示される。 なお、「登録人物の詳細情報画面」の下部領域には顔認識データ用表示項目の一 部のみを表示し、スクロール形式または頁形式の画面切り替えで一覧可能としてもよ い。
[0152] ここで、顔認識データ用表示項目には、個々の顔認識データに対応付けされてい るデータが表示される。具体的には、顔認識データ用表示項目には、インデックス画 像としての「顔登録画像」と、「顔認識データの登録時期」と、「顔認識データの取得 時の撮影条件」とがそれぞれ表示される。これらの情報により、各顔認識データの詳 細をユーザーが把握することができ、顔認識データの取捨選択を容易に行うことが可 能となる。なお、「顔認識データの取得時の撮影条件」については、顔認識データ用 表示項目に直接表示することなぐプルダウン表示や別画面表示などで別途詳細に 表示してちょい。
[0153] そして、「登録人物の詳細情報画面」では、図 5において太線で示される選択枠 (あ るいはカーソル等)を操作部材 23で操作して、顔認識データ用表示項目をユーザー が指定できるようになつている。そして、「登録人物の詳細情報画面」では、指定した 表示項目の表示順の入れ替えや、指定した表示項目に対応する顔認識データの削 除、などを行うことが可能である。
[0154] 以上のように、「登録人物の選択画面」では人物選択用表示項目にインデックス画 像が表示されるので、ユーザーは所定の登録人物の表示項目を容易に識別すること できる。また、「登録人物の詳細情報画面」では顔認識データ用表示項目に顔登録 画像が表示されるので、ユーザーは表示項目に対応する顔認識データの概要を視 覚的に把握することができる。
[0155] (顔認識撮影モードでの動作)
以下、図 18を参照しつつ、第 6実施形態の電子カメラの「顔認識撮影モード」での 動作を説明する。なお、図 18の S3101は図 7の S201に対応するので重複説明を省 略する。
ステップ 3102 : CPU26は、登録人物の選択画面(図 4参照)を液晶モニタ 24に表 示する。そして、 CPU26は、顔認識対象の登録人物 (撮影時に顔認識を行う登録人 物)の指定入力を受け付ける。ここで、 S3102ではユーザーにより複数の登録人物が 指定されるものとする。なお、顔認識対象の登録人物を撮影前に予めユーザーが CP U26に指定入力しておくことも可能である。
[0156] ステップ 3103 : CPU26は、撮像素子 16を駆動させてスルー画像信号の取得を行 う。撮像素子 16は所定間隔毎に間引き読み出しでスルー画像信号を出力する。画 像処理部 20はスルー画像信号に基づ ヽてスルー画像データを生成する。そして、 液晶モニタ 24にはスルー画像データに基づいてプレビュー画像が動画表示される。 ステップ 3104 :—方、 CPU26の顔検出部 31は、スルー画像データに公知の顔検 出処理を施して撮影画面内の顔領域を検出する。
[0157] ステップ 3105 : CPU26は S3104で撮影画面力も顔検出されたか否かを判定する 。顔検出された場合 (YES側)〖こは S3106〖こ移行する。一方、顔検出されていない 場合 (NO側)には S3111に移行する。
ステップ 3106 : CPU26は、検出した顔領域の位置を基準として AF演算を実行す る。なお、顔領域を複数検出した場合には、 CPU26は、撮影画面の中央に位置す る顔領域または最も至近側に位置する顔領域を優先して AF演算を実行する。
[0158] ステップ 3107 : CPU26の顔認識部 32は、検出した顔領域(S3104)に対して顔認 識処理を実行する。そして、顔認識部 32は、認識対象の顔(S3102)が含まれてい る力否かを判定する。認識対象の顔が含まれている場合 (YES側)〖こは S3108〖こ移 行する。一方、認識対象の顔が含まれない場合 (NO側)には S3111に移行する。
[0159] ステップ 3108 : CPU26は認識対象の顔が複数検出されているカゝ否かを判定する 。認識対象の顔が複数の場合 (YES側)〖こは S3109〖こ移行する。一方、認識対象の 顔が 1つのみの場合 (NO側)には S3110に移行する。
ステップ 3109: CPU26は、編集画面で設定された登録人物の優先順位を参照し 、顔認識された登録人物の優先順位をそれぞれ比較する。そして、 CPU26は、最も 優先順位の高 、登録人物に対応する「顔認識時の処理設定」のデータに基づ 、て、 電子カメラの撮影条件の設定や画像処理の設定などを変更する。その後、 S3112に 移行する。なお、「顔認識時の処理設定」で登録人物の自動撮影が設定されている 場合には、 CPU26は S3113に移行して登録人物を自動的に撮影する。
[0160] ステップ 3110 : CPU26は、検出された登録人物に対応する「顔認識時の処理設 定」のデータに基づ 、て、電子カメラの撮影条件の設定や画像処理の設定などを変 更する。その後、 S3112に移行する。なお、「顔認識時の処理設定」で登録人物の 自動撮影が設定されて ヽる場合には、 CPU26は S3113に移行して登録人物を自 動的に撮影する。
[0161] ステップ 3111 :—方、この場合には、 CPU26はユーザーによるレリーズ釦の半押 し操作に応じて、通常撮影時のアルゴリズムで AFエリアを選択して AF演算を実行す る。
ステップ 3112: CPU26はレリーズ釦が全押しされたか否かを判定する。レリーズ釦 が全押しされた場合 (YES側)〖こは S3113〖こ移行する。一方、レリーズ釦に入力がな V、場合 (NO側)には CPU26はレリーズ釦の全押し操作を待機する。
[0162] ステップ 3113 : CPU26は撮像素子 16を駆動させて被写体像を撮影する。その後 、画像処理部 20はレリーズ時の画像信号に基づ 、て撮影画像データを生成する。 なお、認識対象の顔が撮影されている場合には、画像処理部 20は S3109、 S3110 で設定された画像処理を撮影画像データに施す。
ステップ 3114 : CPU26は撮影画像データを記録媒体 29に記録する。また、認識 対象の顔が撮影されている場合、 CPU26は顔登録メモリ 27で指定されているディレ クトリパスに基づ 、て、所定の記録フォルダに撮影画像データを分類して記録するこ とちでさる。
[0163] さらに、 CPU26は、 S3109または S3110での顔認識の結果に基づいて顔登録メ モリ 27の撮影回数データの撮影回数をインクリメントする。このとき、 CPU26は認識 された全ての登録人物の撮影回数をインクリメントしてもよぐ優先順位に応じて選択 された登録人物のみ撮影回数をインクリメントするようにしてもよい。以上で、「顔認識 撮影モード」での一連の動作が終了する。
[0164] 以下、第 6実施形態の「顔認識撮影モード」の効果を説明する。上記の顔認識撮影 モードでは、顔認識データに基づいて撮影人物の顔認識が行われる(S3107)。そ して、認識対象の顔が検出された場合には、その登録人物に対応する設定で撮影 時の各種処理など力 S行われる(S3109、 S3110、 S3113、 S3114)。そのため、登 録人物の撮影時にユーザーの意図を反映させた処理を自動的に行うことができ、電 子カメラを操作するユーザーの利便性が著しく向上する。
[0165] また、上記の顔認識撮影モードでは、複数の認識対象が一度に撮影された場合に は、ユーザーの設定した優先順位が最も高い登録人物の設定が適用される(S3109 )。そのため、集合写真などの撮影においても撮影画像にユーザーの意図を適切に 反映させることが可能となる。特に、上記の優先順位は編集画面でユーザーが自由 に変更できるので、撮影シーン等に応じてきめ細かい制御を行うことも容易となる。
[0166] <第 7実施形態の説明 >
図 19は第 7実施形態の電子カメラにおける「顔認識撮影モード」の動作を示す流れ 図である。この第 7実施形態は第 1実施形態の変形例であって、電子カメラの構成は 第 1実施形態のものと共通するので重複説明を省略する。また、図 19の S4101から S4104は、図 7の S201から S204にそれぞれ対応するので重複説明を省略する。
[0167] ステップ 4105 : CPU26は S4104で撮影画面力も顔検出されたか否かを判定する 。顔検出された場合 (YES側)には S4106に移行する。一方、顔検出されていない 場合 (NO側)〖こは S4114〖こ移行する。
ステップ 4106: CPU26は、検出した顔領域の位置を基準として AF演算を実行す る。なお、顔領域を複数検出した場合には、 CPU26は、撮影画面の中央に位置す る顔領域または最も至近側に位置する顔領域を優先して AF演算を実行する。
[0168] ステップ 4107 : CPU26は、顔認識対象の登録人物に関するすべての顔認識デー タ (顔認識データ群)の数をカウントする。具体的には、顔登録メモリ 27のうちで、顔 認識対象の登録人物のグループフォルダに記録されている顔認識データがカウント の対象となる。
ステップ 4108 : CPU26は、撮影画面内で検出された顔領域の数 (S4104)と、顔 認識データ群に含まれる顔認識データの数 (S4107)とを乗じて、今回の顔認識処 理の最大演算量を示す評価値を求める。上記の評価値は、今回検出された全ての 顔領域に、顔認識データ群に含まれる顔認識データをすベて適用して顔認識処理 を行なう場合の演算量に対応する。
[0169] ステップ 4109 : CPU26は、所定の閾値力 評価値(S4108)を減じた差の値を求 める。上記の閾値は、顔認識部 32が所定の制限時間内に実行できる顔認識処理の 演算量に基づいて設定される。そのため、閾値の具体的な数値は顔認識部 32の演 算能力に応じて左右される。
ステップ 4110 : CPU26は、差の値(S4109)が負であるか否かを判定する。差の 値が負である場合 (YES側)には S4111に移行する。一方、差の値が 0以上である 場合 (NO側)〖こは S4112〖こ移行する。なお、 S4110で NO側の場合には、顔認識 部 32は、顔認識データ群の顔認識データがすべて判定用顔認識データとなる。
[0170] ステップ 4111 :この場合には、評価値 (S4108)が閾値を上回っており、顔認識デ ータ群の顔認識データをすベて適用すると制限時間内に顔認識処理が完了しない 可能性が高い。そのため、 CPU26は、顔認識データ群のうちから今回の顔認識処 理に適用する判定用顔認識データを絞り込む。
具体的には、まず、 CPU26は、上記の差の値(S4109)に基づいて判定用顔認識 データの上限値を演算する。次に、 CPU26は、以下の(1)および(2)のアルゴリズム によって、顔認識データ群のうちから判定用顔認識データを上限値未満となるように 選択する。
[0171] (1)顔認識対象の登録人物が複数人の場合には、 CPU26は、各登録人物ごとの 判定用顔認識データの分配数を上記の上限値に基づいて設定する。基本的には、 CPU26は顔認識対象の登録人物にっ 、て分配数を!、ずれも同じに設定する。 もっとも、 CPU26は各登録人物に設定された優先順位に基づいて分配数の重み 付けを行 、、優先順位の高さに比例して判定用顔認識データの数が多くなるようにし てもよい。この場合には、優先順位の高い登録人物ほど多くの顔認識データに基づ V、て顔認識処理が行われるので、優先順位の高 、登録人物につ!、ては高!、精度で 顔認識を行うことができる。例えば、 CPU26は、顔登録メモリ 27の撮影回数データに 基づいて、撮影回数がより多い登録人物の優先順位を高く設定することもできる。
[0172] また、 CPU26は各グループフォルダの顔認識データの数をそれぞれ比較し、顔認 識データの数が所定値以上の登録人物は分配数が高くなるように設定してもよい。 顔認識データの登録数が多い登録人物ほど、ユーザーにとって優先的に撮影した Vヽ登録人物である可能性が高 、からである。
(2) CPU26は、上記(1)で設定した分配数の範囲内で、顔認識対象の登録人物 ごとにグループフォルダの顔認識データカゝら判定用顔認識データを選択する。ここで 、グループフォルダの顔認識データが分配数以下の場合には、 CPU26はグループ フォルダ内のすべての顔認識データを判定用顔認識データとして選択する。なお、こ の場合において CPU26は余剰分の分配数を他の登録人物に再配分してもよい。
[0173] 一方、グループフォルダの顔認識データが分配数を超える場合には、 CPU26は 以下の 、ずれかの基準 (またはこれらの組み合わせ)で判定用顔認識データを選択 する。
第 1に、 CPU26は、グループフォルダの「顔認識データの登録時期」のデータを参 照し、登録時期が新しい順に判定用顔認識データを選択する。登録時期が古い顔 認識データほど、今回の撮影における信頼性は低くなると考えられるからである。
[0174] 第 2に、 CPU26は、グループフォルダの「顔認識データの取得時の撮影条件」の データを参照する。そして、 CPU26は、複数の顔認識データのうちから、上記した取 得時の撮影条件が現在の撮影条件に近似する顔認識データを優先して判定用顔認 識データを選択する。今回の撮影条件と近!ヽ条件で取得された顔認識データの方 力 より顔認識の精度向上に寄与するからである。
[0175] 例えば、撮影条件の各パラメータの変化量を点数ィ匕するテーブルを予め作成して おき、 CPU26が顔認識データの撮影条件の点数を今回の撮影条件を基準として求 める。そして、 CPU26は上記の点数を比較して判定用顔認識データを選択する。こ れにより、撮影時に閃光発光を行う場合、 CPU26はフラッシュ発光有りの顔認識デ ータを優先して判定用顔認識データを選択する。一方、撮影時に閃光発光を行わな Vヽ場合、 CPU26はフラッシュ発光無しの顔認識データを優先して判定用顔認識デ ータを選択する。同様に、 CPU26は、露出条件やホワイトバランスの設定がより近い 顔認識データを優先して判定用顔認識データを選択する。
[0176] 第 3に、 CPU26は、グループフォルダの顔認識データのうちで顔正面に対応する 顔認識データを優先して判定用顔認識データを選択する。通常は、顔を正面から撮 影することが多いからである。ここで、顔認識データの顔向きの検出は以下のようにし て行われる。例えば、顔認識データに予め顔の向きに関する識別情報を記録し、 CP U26が上記識別情報を参照して顔の向きを判断してもよい。また、 CPU26は顔認識 データでの目、鼻、口等の特徴点の抽出状態力 顔の向きを類推するようにしてもよ い。
[0177] ステップ 4112 : CPU26の顔認識部 32は、検出した顔領域(S4104)に対して判定 用顔認識データによる顔認識処理を実行する。そして、顔認識部 32は、認識対象の 顔(S4102)が含まれるか否かを判定する。認識対象の顔が含まれる場合 (YES側) には S4113〖こ移行する。一方、認識対象の顔が含まれない場合 (NO側)〖こは S411 5に移行する。
[0178] ステップ 4113 : CPU26は、検出された登録人物に対応する「顔認識時の処理設 定」のデータに基づ 、て、電子カメラの撮影条件の設定や画像処理の設定などを変 更する。その後、 S4115に移行する
ここで、認識対象の顔が撮影画面内に複数検出されている場合には、 CPU26は 所定のアルゴリズムで登録人物の優先順位を決定する。そして、 CPU26は、優先順 位が最も高い登録人物に対応する「顔認識時の処理設定」に基づいて電子カメラの 各種設定を変更する。なお、「顔認識時の処理設定」で登録人物の自動撮影が設定 されている場合には、 CPU26は S4116に移行して登録人物を自動的に撮影する。
[0179] ステップ 4114 :一方、この場合には、 CPU26はユーザーによるレリーズ釦の半押 し操作に応じて、通常撮影時のアルゴリズムで AFエリアを選択して AF演算を実行す る。
ステップ 4115 : CPU26はレリーズ釦が全押しされたか否かを判定する。レリーズ釦 が全押しされた場合 (YES側)〖こは S4116〖こ移行する。一方、レリーズ釦に入力がな V、場合 (NO側)には CPU26はレリーズ釦の全押し操作を待機する。
[0180] ステップ 4116: CPU26は撮像素子 16を駆動させて被写体像を撮影する。その後 、画像処理部 20はレリーズ時の画像信号に基づ 、て撮影画像データを生成する。 なお、顔認識対象の登録人物が撮影されている場合には、画像処理部 20は S4113 で設定された画像処理を撮影画像データに施す。
ステップ 4117 : CPU26は撮影画像データを記録媒体 29に記録する。また、顔認 識対象の登録人物が撮影されている場合、 CPU26は顔登録メモリ 27で指定されて V、るディレクトリパスに基づ 、て、所定の記録フォルダに撮影画像データを分類して 記録することちでさる。
[0181] さらに、 CPU26は、 S4112の顔認識の結果に基づいて顔登録メモリ 27の撮影回 数データの撮影回数をインクリメントする。このとき、 CPU26は認識された全ての登 録人物の撮影回数をインクリメントしてもよぐ優先順位に応じて選択された登録人物 のみ撮影回数をインクリメントするようにしてもよい。以上で、「顔認識撮影モード」で の一連の動作が終了する。
[0182] 以下、本実施形態の「顔認識撮影モード」の効果を説明する。上記の顔認識撮影 モードでは、顔認識データに基づいて撮影人物の顔認識が行われる(S4112)。そ して、認識対象の顔が検出された場合には、撮影時の各種処理がその登録人物に 対応する設定で行われる(S4113、 S4116、 S4117)。そのため、登録人物の撮影 時にユーザーの意図を反映させた処理を自動的に行うことができ、電子カメラを操作 するユーザーの利便性が著しく向上する。 [0183] また、上記の顔認識撮影モードでは、制限時間内に顔認識処理が完了しない可能 性が高い場合には、所定のアルゴリズムで判定用顔認識データを絞り込む(S4107 〜S4111)。そのため、顔認識処理の演算時間を制限時間内に収めることができ、 ユーザーが快適に撮影を行うことができる。
(実施形態の補足事項)
(1)第 1実施形態から第 3実施形態までの「顔登録モード」でも、第 4実施形態のよう にプレビュー画像に構図補助表示や撮影見本表示を合成表示するようにしてもよ ヽ 。また、第 4実施形態の「顔登録モード」でも、レリーズ前にスルー画像データで顔検 出処理を行うようにしてもょ 、。
[0184] (2)上記実施形態において、 CPU26はレリーズ釦の半押しをトリガとして顔検出に よる AF演算を行うようにしてもょ 、。
(3)上記実施形態において、「顔登録モード」および「顔検出撮影モード」を、「通常 撮影モード」、「ポートレート撮影モード」、「再生モード」などと同様にモードダイヤル 等で直接指定して立ち上げられるようにしてもょ 、。
[0185] (4)第 3実施形態の「顔登録モード」において、 CPU26は優先順位の高い順に二 以上の顔認識データを生成するようにしてもょ ヽ。
(5)第 4実施形態の「顔登録モード」において、 CPU26は顔登録画像データを記 録媒体 29などに撮りだめし、複数の顔登録画像データをバッチ処理して顔認識デー タを一括生成するようにしてもよい。このとき、第 3実施形態のように、顔登録画像デ ータに優先順位を設定して、優先順位の高い順に顔認識データを生成するようにし てもよい。
[0186] (6)顔登録メモリの「顔認識データの登録時期」のデータは、元となる顔登録画像デ ータが概ねいつ頃撮影されたかを示すものでも足りる。したがって、「顔認識データの 登録時期」については撮影年、撮影月、撮影日のいずれかで記録を打ち切って、詳 細な時刻などの記録を省略するようにしてもょ 、。
(7)「顔認識撮影モード」の顔認識処理 (S207)では、顔認識部 32はグループ化さ れた顔認識データのうちから判定に使用する顔認識データを所定条件で絞り込むよ うにしてもよい。例えば、顔認識部 32は、「顔認識データの登録時期」に基づいて撮 影日時よりも一定期間以上古い顔認識データを除外してもよい。同様に、顔認識部 3 2は「顔認識データの取得時の撮影条件」に基づ!、て今回の撮影条件と大きく異なる 撮影条件で生成された顔認識データを除外してもよ ヽ。
[0187] (8)「顔認識撮影モード」の顔認識処理 (S207)では、顔認識部 32は撮影光学系 1 1の焦点距離のデータ力も演算したディストーションの度合いに応じて、顔認識デー タを補正するようにしてもょ ヽ。
(9)「顔登録モード」において、 CPU26は顔認識データの顔の向きに関する識別 情報を生成し、顔登録メモリ 27に上記識別情報も記録するようにしてもよい。顔の向 きに関する識別情報は、第 1実施形態の S110に示す処理の結果に基づいて CPU2 6が生成してもよい。あるいは、撮影時または編集時におけるユーザーの入力に基づ V、て CPU26が上記識別情報を生成してもよ 、。
[0188] (10)本発明の電子カメラは実施形態の電子カメラの構成と必ずしも一致する必要 はない。例えば、内蔵メモリ 19と顔登録メモリ 27とが共通のメモリで構成されていても よい。顔登録メモリ 27がデータバス 28を介して CPU26に接続されていてもよい。ま た、揺動センサ部 13、像ぶれ補正レンズ 14および第 2レンズ駆動部 15からなる光学 的なぶれ補正機構が省略されていてもよい。さらに、電子カメラ内に通信ユニット 30 が内蔵されていてもよい。
[0189] (11) CPU26は顔登録メモリ 27内のデータを記録媒体 29に記録して、顔登録メモ リ 27のバックアップを可能としてもよい。また、 CPU26は、予め他の電子カメラで生成 された顔認識データ等を記録媒体 29から取得し、電子カメラ間で顔登録メモリ 27の データを共用できるようにしてもょ 、。
(12)本発明の画像処理装置は第 5実施形態の電子カメラの構成に限定されること はない。例えば、本発明の画像処理装置を、画像データを外部から読み込む手段と 、顔認識データを記録する記録部と、上記の「顔登録モード」のプログラムを実行する 制御部と、を備えたパーソナルコンピュータ等で構成してもよ 、(図示を省略する)。
[0190] (13)第 6実施形態での編集画面の立ち上げ操作時において、 CPU26は顔認証 による個人認証とともにパスワード入力による個人認証を行うようにしてもょ ヽ。この場 合には、 CPU26は、顔認証またはパスワードによる認証の一方の認証成功で編集 画面にアクセスできるようにしてもよい。また、 CPU26は、顔認証およびパスワードに よる認証の両方の認証成功の場合のみ編集画面にアクセスできるようにしてもよい。
[0191] (14)第 6実施形態の編集画面の構成はあくまで一例にすぎない。例えば、「登録 人物の選択画面」を設けることなぐ編集画面の初期表示画面で顔認識データ用表 示項目が顔登録画像とともに一覧表示される構成であってもよい。
( 15)第 6実施形態にお 、て、「登録人物の選択画面」で表示されるインデックス画 像には登録人物の任意の撮影画像を用いることもできる。例えば、 CPU26はインデ ックス画像用に特別に撮影した画像を「登録人物の選択画面」で表示してもよ!ヽ。ま た、 CPU26は、既に削除した顔認識データに対応する顔登録画像を「登録人物の 選択画面」で表示できるようにしてもょ 、。
[0192] (16)第 7実施形態での「顔認識撮影モード」の顔認識処理 (S4112)では、顔認識 部 32は撮影光学系 11の焦点距離のデータ力も演算したディストーションの度合いに 応じて、顔認識データを補正するようにしてもよい。
(17)第 7実施形態では、顔認識データの数と顔領域の数とに基づいて顔認識デ ータ群から判定用顔認識データを選択する。しかし、本発明では、検出された顔領 域の数を考慮することなぐ選択された登録人物に関する顔認識データの数のみに 基づ ヽて顔認識データ群から判定用顔認識データを取捨選択するようにしてもょ ヽ
[0193] なお、本発明は、その精神またはその主要な特徴力も逸脱することなく他の様々な 形で実施することができる。そのため、上述した実施形態は、あらゆる点で単なる例 示に過ぎず、限定的に解釈してはならない。本発明は、特許請求の範囲によって示 されるものであって、本発明は明細書本文にはなんら拘束されない。さらに、特許請 求の範囲の均等範囲に属する変形や変更は、全て本発明の範囲内である。

Claims

請求の範囲
[1] 撮影光学系による被写体像を光電変換して画像信号を生成する撮像素子と、 前記撮像素子力 の前記画像信号に基づいて顔登録画像データを生成するととも に、前記画像信号に基づ ヽてスルー画像データを生成する画像処理部と、 前記スルー画像データに基づいて撮影画面内の顔領域を検出する顔検出部と、 前記撮影光学系の撮影パラメータを前記顔領域の検出位置に応じて調整する制 御部と、
前記顔領域の画像を切り出して顔画像データを生成する顔画像生成部または前記 顔登録画像データの顔領域の部分から撮影人物の顔の特徴点を抽出し、前記特徴 点に基づいて顔認識データを生成する顔認識データ生成部と、
前記前記顔画像データまたは顔認識データを記録する記録部と、
を備えることを特徴とする電子カメラ。
[2] 撮影光学系による被写体像を光電変換して画像信号を生成する撮像素子と、 前記撮像素子力 の前記画像信号に基づいて顔登録画像データを生成するととも に、前記画像信号に基づ ヽてスルー画像データを生成する画像処理部と、 前記撮影光学系の撮影パラメータを撮影画面の中央部分を基準として調整する制 御部と、
前記スルー画像データまたは前記顔登録画像データに基づ 、て、撮影画面の中 央部分に位置する顔領域を検出する顔検出部と、
前記顔領域の画像を切り出して顔画像データを生成する顔画像生成部または前記 顔登録画像データの顔領域の部分から撮影人物の顔の特徴点を抽出し、前記特徴 点に基づいて顔認識データを生成する顔認識データ生成部と、
前記顔画像データまたは前記顔認識データを記録する記録部と、
を備えることを特徴とする電子カメラ。
[3] 前記制御部は、前記スルー画像データに基づく顔検出時に前記撮像素子のレリー ズ動作を実行することを特徴とする請求項 1または請求項 2に記載の電子カメラ。
[4] 前記スルー画像データの画像を表示する表示部をさらに備え、
前記制御部は、前記顔登録画像データを生成する撮影モードにお!、て前記表示 部の電源をオンにすることを特徴とする請求項 1から請求項 3のいずれか 1項に記載 の電子カメラ。
[5] 前記スルー画像データの画像を表示する表示部をさらに備え、
前記画像処理部は、撮影画面中における顔の位置決めを補助するための構図補 助表示を前記スルー画像データの中央部分に合成して出力することを特徴とする請 求項 1から請求項 3のいずれか 1項に記載の電子カメラ。
[6] 前記画像処理部は、被写体の撮影状態の見本表示を前記スルー画像データにさ らに合成して出力することを特徴とする請求項 5に記載の電子カメラ。
[7] 前記制御部は、前記顔登録画像データの生成時に前記顔登録画像データに対す る電子ズーム処理を制限することを特徴とする請求項 1から請求項 6のいずれか 1項 に記載の電子カメラ。
[8] 前記撮影光学系はズームレンズをさらに備え、
前記制御部は、前記撮影パラメータの調整時およびレリーズ時に前記ズームレンズ の倍率調整範囲を通常撮影時よりも制限することを特徴とする請求項 1から請求項 7 の!ヽずれか 1項に記載の電子カメラ。
[9] 前記制御部は、レリーズ時に前記ズームレンズのズーム位置を広角端に設定する ことを特徴とする請求項 8に記載の電子カメラ。
[10] 撮影画面上での像ぶれを補正する像ぶれ補正レンズと、
前記電子カメラの光軸の角度変動を検出する角変位検出部と、
レリーズ時にお 、て、前記角度変動に基づ!、て前記像ぶれ補正レンズを駆動させ る補正レンズ駆動部と、
をさらに備えることを特徴とする請求項 1から請求項 9のいずれか 1項に記載の電子 カメラ。
[11] 前記画像信号のゲインを調整する撮像感度変更部をさらに備え、
前記制御部は、レリーズ時に前記画像信号のゲインを通常撮影時の設定よりも高 めることを特徴とする請求項 1から請求項 10のいずれか 1項に記載の電子カメラ。
[12] 被写界に閃光発光を行う閃光発光部をさらに備え、
前記制御部は、レリーズ時に前記閃光発光部の閃光発光を不能化することを特徴 とする請求項 1から請求項 11のいずれか 1項に記載の電子カメラ。
[13] 前記制御部はレリーズ時の撮影条件を示す撮影条件データを生成するとともに、 該撮影条件データを前記顔画像データまたは前記顔認識データに対応付けて前記 記録部に記録することを特徴とする請求項 1から請求項 12のいずれか 1項に記載の 電子カメラ。
[14] 前記制御部は前記顔画像データまたは前記顔認識データの取得時期を示す取得 時期データを生成するとともに、該取得時期データを前記顔画像データまたは前記 顔認識データに対応付けて前記記録部に記録することを特徴とする請求項 1から請 求項 13のいずれ力 1項に記載の電子カメラ。
[15] 前記画像処理部は前記顔登録画像データに基づ!ヽてインデックス画像データを生 成し、
前記制御部は前記インデックス画像データを前記顔画像データまたは前記顔認識 データに対応付けて前記記録部に記録することを特徴とする請求項 1から請求項 14 の!ヽずれか 1項に記載の電子カメラ。
[16] 前記制御部は、同一の撮影人物から生成した複数の前記顔画像データまたは前 記顔認識データをグループ化して前記記録部に記録することを特徴とする請求項 1 力 請求項 15のいずれか 1項に記載の電子カメラ。
[17] 前記制御部は、前記撮影人物の顔の向き、前記撮影人物の眼鏡の有無および前 記顔登録画像データの撮影条件のいずれかが異なる 2以上の前記顔画像データま たは前記顔認識データをグループ化することを特徴とする請求項 16に記載の電子力 メラ。
[18] 前記制御部は、同一の撮影人物を撮影した前記顔登録画像データが複数生成さ れているときに、前記顔領域の検出状態に基づいて前記顔登録画像データの優先 順位を決定し、
前記顔画像生成部または前記顔認識データ生成部は、前記優先順位が高!、前記 顔登録画像データから前記顔画像データまたは前記顔認識データを生成することを 特徴とする請求項 1から請求項 17のいずれか 1項に記載の電子カメラ。
[19] 前記制御部は、前記顔領域の検出状態に基づいて撮影人物の顔の向きを推定し 、該顔の向きが所定方向と一致しないときには、前記撮像素子のレリーズ動作を不能 化することを特徴とする請求項 1から請求項 18のいずれ力 1項に記載の電子カメラ。
[20] 前記制御部は、前記顔領域の検出状態に基づ!、て撮影人物の表情を推定し、該 表情の種類に応じて前記撮像素子のレリーズ動作を不能化することを特徴とする請 求項 1から請求項 18のいずれか 1項に記載の電子カメラ。
[21] 撮影光学系による被写体像を光電変換して画像信号を生成する撮像素子と、 前記撮像素子力 の前記画像信号に基づいて撮影画面内の顔領域を検出する顔 検出部と、
前記顔領域の部分力 撮影人物の顔の特徴点を抽出し、前記特徴点に基づいて 顔認識データを生成する顔認識データ生成部と、
前記顔認識データを生成するための撮影時の撮影条件を、通常撮影時の撮影条 件よりも制限する制御部と、
を備えることを特徴とする電子カメラ。
[22] 内蔵メモリ、記録媒体との接続部および外部通信手段の少なくとも 1つを有するとと もに、電子カメラで予め生成された撮影画像データを前記内蔵メモリ、前記記録媒体 、前記外部通信手段を介して接続されたコンピュータの 、ずれかから取得する制御 部と、
前記撮影画像データに基づいて、撮影画面内の顔領域を検出する顔検出部と、 前記顔領域の画像を切り出して顔画像データを生成する顔画像生成部または前記 撮影画像データの顔領域の部分から撮影人物の顔の特徴点を抽出し、前記特徴点 に基づいて顔認識データを生成する顔認識データ生成部と、
前記顔画像データまたは前記顔認識データを記録する記録部と、
を備えることを特徴とする画像処理装置。
[23] 前記撮影画像データの再生画像に前記顔領域を識別する表示を合成する画像処 理部と、
前記画像処理部の出力画像を表示する表示部と、
をさらに備えることを特徴とする請求項 22に記載の画像処理装置。
[24] ユーザーの入力を受け付ける入力部をさらに備え、 前記顔検出部は、前記入力部からの入力に基づいて前記顔領域の検出精度を規 定する閾値を変更することを特徴とする請求項 23に記載の画像処理装置。
[25] ユーザーの入力を受け付ける入力部をさらに備え、
前記顔画像生成部または前記顔認識データ生成部は、前記撮影画像データから 複数の顔領域が検出された場合、前記入力部からの入力で選択された顔領域につ いて前記顔画像データまたは前記顔認識データを生成することを特徴とする請求項 23に記載の画像処理装置。
[26] 前記制御部は、同一の撮影人物から生成した複数の前記顔画像データまたは前 記顔認識データをグループ化して前記記録部に記録することを特徴とする請求項 22 から請求項 25のいずれか 1項に記載の画像処理装置。
[27] 前記制御部は、前記撮影画像データの顔領域の部分を所定のサイズに切り出して インデックス画像データを生成するとともに、該インデックス画像データを前記顔画像 データまたは前記顔認識データに対応付けて前記記録部に記録することを特徴とす る請求項 22から請求項 26のいずれか 1項に記載の画像処理装置。
[28] 前記撮影画像データは撮影時の撮影条件を記録した付属データ領域を有し、 前記制御部は、前記付属データ領域の撮影条件に基づ!、て撮影条件データを生 成するとともに、該撮影条件データを前記顔画像データまたは前記顔認識データに 対応付けて前記記録部に記録することを特徴とする請求項 22から請求項 27のいず れか 1項に記載の画像処理装置。
[29] 前記撮影画像データは撮影日時を記録した付属データ領域を有し、
前記制御部は、前記付属データ領域の撮影日時に基づいて前記顔画像データま たは前記顔認識データの取得時期データを生成するとともに、該取得時期データを 前記顔画像データまたは前記顔認識データに対応付けて前記記録部に記録するこ とを特徴とする請求項 22から請求項 28のいずれか 1項に記載の画像処理装置。
[30] 撮影光学系による被写体像を光電変換して画像信号を生成する撮像素子と、 前記画像信号に基づ!ヽて撮影画面の顔領域を検出し、該顔領域の部分から撮影 人物の顔の特徴点を抽出する顔検出部と、
人物の顔の特徴点に基づいて予め生成された顔認識データと該顔認識データに 対応する登録人物を示すためのインデックス画像データとを対応付けして記録する 記録部と、
前記顔検出部の抽出した特徴点および前記顔認識データに基づいて前記撮影人 物が前記登録人物であるか否かを判定する顔認識部と、
前記顔認識データの指定に使用される表示項目と前記インデックス画像データの 画像とを関連付けて提示する編集画面を生成する制御部と、
を備えることを特徴とする電子カメラ。
[31] 前記インデックス画像データは前記登録人物の撮影画像データであることを特徴と する請求項 30に記載の電子カメラ。
[32] 前記インデックス画像データは、前記顔認識データの生成に使用された撮影画像 データであることを特徴とする請求項 31に記載の電子カメラ。
[33] 前記記録部には、前記顔認識データの生成に使用された画像データの撮影条件 力 前記顔認識データに対応付けされた状態で記録されて ヽることを特徴とする請 求項 30から請求項 32のいずれ力 1項に記載の電子カメラ。
[34] 前記記録部には、前記顔認識データの生成に使用された画像データの撮影時期 力 前記顔認識データに対応付けされた状態で記録されて ヽることを特徴とする請 求項 30から請求項 33のいずれ力 1項に記載の電子カメラ。
[35] 前記記録部には、前記登録人物の撮影時に適用される処理の設定が、前記顔認 識データに対応付けされた状態で記録されていることを特徴とする請求項 30から請 求項 34の!、ずれ力 1項に記載の電子カメラ。
[36] 撮影画像の画像データを外部に送信する通信部をさらに備え、
前記記録部には、前記登録人物の撮影時における前記画像データの送信の可否 と、前記画像データの送信先のアドレス情報とが、前記顔認識データに対応付けさ れた状態で記録されて 、ることを特徴とする請求項 30から請求項 35の 、ずれか 1項 に記載の電子カメラ。
[37] 前記制御部は、前記編集画面の表示出力の可否を管理する個人認証手段を備え ることを特徴とする請求項 30から請求項 36のいずれ力 1項に記載の電子カメラ。
[38] 前記個人認証手段が前記顔認識部による顔認証を含むことを特徴とする請求項 3 7に記載の電子カメラ。
[39] 前記記録部には同一の登録人物に関する複数の前記インデックス画像データを記 録可能であって、
前記制御部は、前記インデックス画像データのうちから任意の撮影画像データの画 像を選択するとともに、該選択画像を前記表示項目に関連付けて前記編集画面で 提示することを特徴とする請求項 31から請求項 38のいずれ力 1項に記載の電子カメ
[40] 前記制御部は、前記インデックス画像データのうちで最新の撮影画像データの画 像を選択することを特徴とする請求項 39に記載の電子カメラ。
[41] 前記制御部は、前記インデックス画像データのうちで前記登録人物の顔正面を撮 影した撮影画像データの画像を選択することを特徴とする請求項 39に記載の電子力 メラ。
[42] 前記制御部は、前記インデックス画像データの画像を所定間隔ごとに順次切り替え て前記編集画面で提示することを特徴とする請求項 39に記載の電子カメラ。
[43] 撮影光学系による被写体像を光電変換して画像信号を生成する撮像素子と、 前記画像信号に基づ!ヽて撮影画面の顔領域を検出し、該顔領域の部分から撮影 人物の顔の特徴点を抽出する顔検出部と、
登録人物の顔の特徴点に基づいて予め生成された顔認識データと、前記登録人 物の撮影時に適用される撮影設定とを対応付けて記録する記録部と、
前記顔検出部の抽出した特徴点および前記顔認識データに基づ 、て、前記撮影 人物が前記登録人物であるか否かを判定する顔認識部と、
前記登録人物の優先順位を設定するとともに、前記登録人物の撮影時には前記撮 影設定に基づ!ヽて撮影画像データを生成し、前記登録人物が複数検出された場合 には前記登録人物のうちで最も優先順位の高い人物に対応する前記撮影設定を適 用する制御部と、
を備えることを特徴とする電子カメラ。
[44] ユーザーの入力を受け付ける入力部をさらに備え、
前記制御部は、前記入力部からの入力に基づ!/、て前記登録人物を指定して前記 優先順位を個別的に設定することを特徴とする請求項 43に記載の電子カメラ。
[45] 前記登録人物の指定を行うための編集画面を表示する表示部をさらに備え、 前記制御部は、前記編集画面上における前記登録人物の表示項目の表示位置ま たは表示順を前記優先順位に応じて変化させることを特徴とする請求項 44に記載の 電子カメラ。
[46] 前記制御部は、前記登録人物の登録順に前記優先順位を設定することを特徴とす る請求項 43から請求項 45のいずれか 1項に記載の電子カメラ。
[47] 前記制御部は、前記登録人物を名称で整列して前記優先順位を設定することを特 徴とする請求項 43から請求項 45のいずれか 1項に記載の電子カメラ。
[48] 前記記録部は、同一の登録人物に関する複数の前記顔認識データをグループィ匕 して記録可能であって、
前記制御部は、前記グループ化された顔認識データ群について、該顔認識データ 群に含まれる前記顔認識データの数によって前記優先順位を設定することを特徴と する請求項 43から請求項 45のいずれか 1項に記載の電子カメラ。
[49] 前記記録部は、前記登録人物ごとの撮影回数を示す撮影回数データをさらに記録 し、
前記制御部は、前記撮影回数データに基づいて、前記撮影回数が多い登録人物 の前記優先順位を高く設定することを特徴とする請求項 43に記載の電子カメラ。
[50] 撮影光学系による被写体像を光電変換して画像信号を生成する撮像素子と、 前記画像信号に基づ!ヽて撮影画面の顔領域を検出し、該顔領域の部分から撮影 人物の顔の特徴点を抽出する顔検出部と、
登録人物の顔の特徴点に基づいて予め生成された顔認識データを記録する記録 部と、
顔認識対象の登録人物に関する顔認識データ群に含まれる前記顔認識データの 数に基づ 1ヽて、前記顔認識データ群から判定用顔認識データを選択する制御部と、 前記顔検出部の抽出した特徴点および前記判定用顔認識データに基づいて、前 記撮影人物が顔認識対象の登録人物か否かを判定する顔認識部と、
を備えることを特徴とする電子カメラ。
[51] 前記制御部は、前記顔認識データの数および前記顔領域の数の積に対応する評 価値が前記顔認識部の処理能力で規定される閾値を下回るように前記判定用顔認 識データを選択することを特徴とする請求項 50に記載の電子カメラ。
[52] 前記制御部は、顔認識対象の登録人物が複数の場合に、各登録人物に設定され た優先順位に基づいて前記判定用顔認識データを重み付けして選択することを特 徴とする請求項 50または請求項 51に記載の電子カメラ。
[53] 前記制御部は、顔認識対象の登録人物が複数の場合に、前記顔認識データの記 録数が多い登録人物を優先して前記判定用顔認識データを選択することを特徴とす る請求項 50から請求項 52のいずれか 1項に記載の電子カメラ。
[54] 前記制御部は、同一の登録人物に関して複数の前記顔認識データが記録されて Vヽる場合に、取得時期が新 ヽ顔認識データを優先して前記判定用顔認識データ を選択することを特徴とする請求項 50から請求項 53のいずれか 1項に記載の電子力 メラ。
[55] 前記制御部は、同一の登録人物に関して取得時の撮影条件が異なる複数の前記 顔認識データが記録されて!ヽる場合に、前記取得時の撮影条件が現在の撮影条件 に近似する顔認識データを優先して前記判定用顔認識データを選択することを特徴 とする請求項 50から請求項 54のいずれか 1項に記載の電子カメラ。
[56] 前記制御部は、同一の登録人物に関して顔の向きが異なる複数の前記顔認識デ ータが記録されて!ヽる場合に、顔正面に対応する顔認識データを優先して前記判定 用顔認識データを選択することを特徴とする請求項 50から請求項 55のいずれか 1項 に記載の電子カメラ。
[57] 前記記録部は、前記登録人物ごとの撮影回数を示す撮影回数データをさらに記録 し、
前記制御部は、前記撮影回数データに基づいて、前記撮影回数が多い登録人物 を優先して前記判定用顔認識データを選択することを特徴とする請求項 50から請求 項 56の!、ずれ力 1項に記載の電子カメラ。
PCT/JP2006/323295 2005-11-25 2006-11-22 電子カメラおよび画像処理装置 WO2007060980A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN2006800438630A CN101313565B (zh) 2005-11-25 2006-11-22 电子摄像机及图像处理装置
US12/085,353 US8488847B2 (en) 2005-11-25 2006-11-22 Electronic camera and image processing device
EP06833117A EP1962497B1 (en) 2005-11-25 2006-11-22 Electronic camera and image processing device

Applications Claiming Priority (10)

Application Number Priority Date Filing Date Title
JP2005341054A JP2007150604A (ja) 2005-11-25 2005-11-25 電子カメラ
JP2005-341052 2005-11-25
JP2005341051A JP2007148691A (ja) 2005-11-25 2005-11-25 画像処理装置
JP2005-341053 2005-11-25
JP2005341053A JP4432886B2 (ja) 2005-11-25 2005-11-25 電子カメラ
JP2005341052A JP4360369B2 (ja) 2005-11-25 2005-11-25 電子カメラ
JP2005341050A JP4315148B2 (ja) 2005-11-25 2005-11-25 電子カメラ
JP2005-341054 2005-11-25
JP2005-341050 2005-11-25
JP2005-341051 2005-11-25

Publications (1)

Publication Number Publication Date
WO2007060980A1 true WO2007060980A1 (ja) 2007-05-31

Family

ID=38067205

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2006/323295 WO2007060980A1 (ja) 2005-11-25 2006-11-22 電子カメラおよび画像処理装置

Country Status (4)

Country Link
US (1) US8488847B2 (ja)
EP (1) EP1962497B1 (ja)
CN (1) CN102231801B (ja)
WO (1) WO2007060980A1 (ja)

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008262305A (ja) * 2007-04-10 2008-10-30 Canon Inc 撮像装置、撮像装置の制御方法、プログラム、及び記憶媒体
EP2053853A1 (en) * 2007-10-26 2009-04-29 Vestel Elektronik Sanayi ve Ticaret A.S. Detecting the location and identifying a user of an electronic device
JP2009164820A (ja) * 2007-12-28 2009-07-23 Casio Comput Co Ltd 撮像装置及びプログラム
WO2009095168A1 (en) * 2008-01-29 2009-08-06 Fotonation Ireland Limited Detecting facial expressions in digital images
US20090232364A1 (en) * 2008-03-14 2009-09-17 Omron Corporation Priority target determining device, electronic equipment, priority target determining method, program, and recording medium
JP2010500687A (ja) * 2006-08-11 2010-01-07 フォトネーション ビジョン リミテッド デジタル画像取得装置におけるリアルタイムの顔探知
JP2010016878A (ja) * 2009-09-29 2010-01-21 Sony Corp 画像処理装置及び画像処理方法、並びにコンピュータ・プログラム
US20100067749A1 (en) * 2008-09-16 2010-03-18 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and program
EP2210410A1 (en) * 2007-11-13 2010-07-28 Olaworks, Inc. Method and computer-readable recording medium for adjusting pose at the time of taking photos of himself or herself
US7792335B2 (en) 2006-02-24 2010-09-07 Fotonation Vision Limited Method and apparatus for selective disqualification of digital images
US7804983B2 (en) 2006-02-24 2010-09-28 Fotonation Vision Limited Digital image acquisition control and correction method and apparatus
EP2056589A3 (en) * 2007-11-02 2011-09-14 Sony Corporation Imaging apparatus, method for controlling the same, and program
JP2012151910A (ja) * 2012-05-17 2012-08-09 Casio Comput Co Ltd 撮像装置及びプログラム
US8314854B2 (en) * 2007-08-23 2012-11-20 Samsung Electronics Co., Ltd. Apparatus and method for image recognition of facial areas in photographic images from a digital camera
US8488023B2 (en) 2009-05-20 2013-07-16 DigitalOptics Corporation Europe Limited Identifying facial expressions in acquired digital images
US8509561B2 (en) 2007-02-28 2013-08-13 DigitalOptics Corporation Europe Limited Separating directional lighting variability in statistical face modelling based on texture space decomposition
US8542885B2 (en) 2007-06-13 2013-09-24 Sony Corporation Imaging device, imaging method and computer program
US8633999B2 (en) 2009-05-29 2014-01-21 DigitalOptics Corporation Europe Limited Methods and apparatuses for foreground, top-of-the-head separation from background
US8836777B2 (en) 2011-02-25 2014-09-16 DigitalOptics Corporation Europe Limited Automatic detection of vertical gaze using an embedded imaging device
US8971628B2 (en) 2010-07-26 2015-03-03 Fotonation Limited Face detection using division-generated haar-like features for illumination invariance
US9131140B2 (en) 2007-08-10 2015-09-08 Canon Kabushiki Kaisha Image pickup apparatus and image pickup method
CN102891965B (zh) * 2007-08-10 2016-02-03 佳能株式会社 图像处理设备及其控制方法、图像处理方法
CN103475837B (zh) * 2008-05-19 2017-06-23 日立麦克赛尔株式会社 记录再现装置及方法
WO2017183543A1 (ja) * 2016-04-21 2017-10-26 ソニーモバイルコミュニケーションズ株式会社 情報処理装置、情報処理方法、及びプログラム
JP2019192161A (ja) * 2018-04-27 2019-10-31 ファナック株式会社 画像管理装置

Families Citing this family (79)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8306277B2 (en) * 2005-07-27 2012-11-06 Canon Kabushiki Kaisha Image processing apparatus and image processing method, and computer program for causing computer to execute control method of image processing apparatus
JP2007266692A (ja) * 2006-03-27 2007-10-11 Fujifilm Corp 撮像方法および装置
JP5087856B2 (ja) * 2006-04-05 2012-12-05 株式会社ニコン 電子カメラ
KR101310230B1 (ko) * 2007-01-17 2013-09-24 삼성전자주식회사 디지털 촬영장치, 그 제어방법 및 제어방법을 실행시키기위한 프로그램을 저장한 기록매체
EP2139225B1 (en) * 2007-04-23 2015-07-29 Sharp Kabushiki Kaisha Image picking-up device, computer readable recording medium including recorded program for control of the device, and control method
JP4942189B2 (ja) * 2007-05-11 2012-05-30 キヤノン株式会社 画像処理装置、画像処理方法、プログラムおよび記憶媒体
JP4974788B2 (ja) * 2007-06-29 2012-07-11 キヤノン株式会社 画像処理装置、画像処理方法、プログラム、及び記憶媒体
JP2009044602A (ja) * 2007-08-10 2009-02-26 Olympus Imaging Corp 撮像装置、撮像システム及び撮像方法
JP4896838B2 (ja) * 2007-08-31 2012-03-14 カシオ計算機株式会社 撮像装置、画像検出装置及びプログラム
US8106998B2 (en) * 2007-08-31 2012-01-31 Fujifilm Corporation Image pickup apparatus and focusing condition displaying method
JP4957607B2 (ja) * 2008-03-25 2012-06-20 セイコーエプソン株式会社 画像における顔領域の検出
JP5068690B2 (ja) * 2008-04-25 2012-11-07 富士フイルム株式会社 画像記録装置及び方法
KR101457404B1 (ko) * 2008-06-13 2014-11-06 삼성전자주식회사 전자액자 및 그의 이미지 표시방법
JP5274357B2 (ja) * 2008-06-16 2013-08-28 キヤノン株式会社 認証装置、撮像装置、認証方法、および、そのプログラム
US9405995B2 (en) * 2008-07-14 2016-08-02 Lockheed Martin Corporation Method and apparatus for facial identification
JP2010021943A (ja) * 2008-07-14 2010-01-28 Sanyo Electric Co Ltd 撮像装置
US8385971B2 (en) * 2008-08-19 2013-02-26 Digimarc Corporation Methods and systems for content processing
JP5413002B2 (ja) * 2008-09-08 2014-02-12 ソニー株式会社 撮像装置および方法、並びにプログラム
JP5312256B2 (ja) * 2008-09-12 2013-10-09 三洋電機株式会社 撮像装置および撮像システム
JP2010117787A (ja) * 2008-11-11 2010-05-27 Seiko Epson Corp 画像処理装置
JP2010117663A (ja) * 2008-11-14 2010-05-27 Fujinon Corp オートフォーカスシステム
JP4911165B2 (ja) 2008-12-12 2012-04-04 カシオ計算機株式会社 撮像装置、顔検出方法及びプログラム
AU2008264197B2 (en) * 2008-12-24 2012-09-13 Canon Kabushiki Kaisha Image selection method
US8339448B2 (en) * 2009-01-26 2012-12-25 Panasonic Corporation Imaging apparatus
JP4788792B2 (ja) * 2009-03-11 2011-10-05 カシオ計算機株式会社 撮像装置、撮像方法、及び撮像プログラム
US20100302393A1 (en) * 2009-05-26 2010-12-02 Sony Ericsson Mobile Communications Ab Self-portrait assistance in image capturing devices
JP2011061703A (ja) * 2009-09-14 2011-03-24 Canon Inc 撮像装置及び撮像装置の制御方法
JP5431083B2 (ja) * 2009-09-16 2014-03-05 オリンパスイメージング株式会社 撮影装置および撮影装置の制御方法
KR20110056099A (ko) * 2009-11-20 2011-05-26 삼성전자주식회사 디지털 촬영장치, 그 제어방법 및 이를 실행시키기 위한 프로그램을 저장한 기록매체
KR101634247B1 (ko) * 2009-12-04 2016-07-08 삼성전자주식회사 피사체 인식을 알리는 디지털 촬영 장치, 상기 디지털 촬영 장치의 제어 방법
JP2011124819A (ja) * 2009-12-11 2011-06-23 Sanyo Electric Co Ltd 電子カメラ
JP2011130043A (ja) * 2009-12-16 2011-06-30 Sanyo Electric Co Ltd 電子カメラ
KR101630304B1 (ko) * 2010-02-04 2016-06-14 삼성전자주식회사 디지털 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 매체
US8311337B2 (en) 2010-06-15 2012-11-13 Cyberlink Corp. Systems and methods for organizing and accessing feature vectors in digital images
JP5727476B2 (ja) * 2010-06-23 2015-06-03 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 画像評価装置、画像評価方法、プログラム、集積回路
JP2012114896A (ja) * 2010-11-04 2012-06-14 Panasonic Corp 3d撮像装置及び3d再生装置
JP5136669B2 (ja) 2011-03-18 2013-02-06 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
US20140040948A1 (en) 2011-04-11 2014-02-06 Toshio Asai Information distribution device, information reception device, system, program, and method
US8836851B2 (en) 2011-06-01 2014-09-16 Apple Inc. Automatic exposure control based on multiple regions
JP5793353B2 (ja) * 2011-06-20 2015-10-14 株式会社東芝 顔画像検索システム、及び顔画像検索方法
RU2543950C2 (ru) * 2011-12-28 2015-03-10 Кэнон Кабусики Кайся Устройство формирования изображения и способ управления указанным устройством
US10015393B2 (en) * 2012-02-06 2018-07-03 Sony Corporation Imaging control device, image processing device, imaging controlling method, and image processing method
US9888171B2 (en) * 2012-02-13 2018-02-06 Htc Corporation Mobile camera device capable of improving facial patterns of a captured image
JP5865120B2 (ja) * 2012-02-27 2016-02-17 株式会社ザクティ 電子カメラ
US9049382B2 (en) * 2012-04-05 2015-06-02 Canon Kabushiki Kaisha Image processing apparatus and image processing method
US9045313B2 (en) * 2012-04-13 2015-06-02 Mitsubishi Electric Research Laboratories, Inc. Elevator rope sway estimation
WO2014021005A1 (ja) 2012-07-31 2014-02-06 日本電気株式会社 画像処理システム、画像処理方法及びプログラム
FR2997213B1 (fr) * 2012-10-18 2015-11-06 Morpho Procede et terminal de capture biometrique
CN108881986A (zh) 2012-11-30 2018-11-23 麦克赛尔株式会社 影像显示装置,及其设定变更方法,设定变更程序
CN113125016A (zh) * 2012-12-27 2021-07-16 杭州美盛红外光电技术有限公司 红外记录控制装置和红外记录控制方法
CN103900698A (zh) * 2012-12-27 2014-07-02 杭州美盛红外光电技术有限公司 红外识别控制装置和红外识别控制方法
JP6212878B2 (ja) * 2013-02-21 2017-10-18 株式会社リコー 画像処理装置、画像処理システム及びプログラム
JPWO2014156568A1 (ja) * 2013-03-28 2017-02-16 日本電気株式会社 画像記録装置、画像記録方法及びプログラム
US9489564B2 (en) 2013-07-11 2016-11-08 Google Technology Holdings LLC Method and apparatus for prioritizing image quality of a particular subject within an image
JP2015191358A (ja) 2014-03-27 2015-11-02 富士フイルム株式会社 中心人物判定システム、中心人物判定システムに利用される情報端末、中心人物判定方法、ならびに中心人物判定プログラムおよび記録媒体
US9639742B2 (en) 2014-04-28 2017-05-02 Microsoft Technology Licensing, Llc Creation of representative content based on facial analysis
US9773156B2 (en) 2014-04-29 2017-09-26 Microsoft Technology Licensing, Llc Grouping and ranking images based on facial recognition data
US10111099B2 (en) 2014-05-12 2018-10-23 Microsoft Technology Licensing, Llc Distributing content in managed wireless distribution networks
US9874914B2 (en) 2014-05-19 2018-01-23 Microsoft Technology Licensing, Llc Power management contracts for accessory devices
US9460493B2 (en) 2014-06-14 2016-10-04 Microsoft Technology Licensing, Llc Automatic video quality enhancement with temporal smoothing and user override
US9717006B2 (en) 2014-06-23 2017-07-25 Microsoft Technology Licensing, Llc Device quarantine in a wireless network
US9373179B2 (en) 2014-06-23 2016-06-21 Microsoft Technology Licensing, Llc Saliency-preserving distinctive low-footprint photograph aging effect
JP6396171B2 (ja) * 2014-10-27 2018-09-26 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置
JP6573193B2 (ja) * 2015-07-03 2019-09-11 パナソニックIpマネジメント株式会社 判定装置、判定方法、および判定プログラム
JP6493885B2 (ja) * 2016-03-15 2019-04-03 富士フイルム株式会社 画像位置合せ装置、画像位置合せ装置の作動方法および画像位置合せプログラム
KR102456898B1 (ko) * 2016-03-17 2022-10-19 삼성에스디에스 주식회사 데이터 신호의 표준 패턴 생성 방법 및 그 장치
JP6907331B2 (ja) * 2017-03-22 2021-07-21 スノー コーポレーション 顔認識カメラの動的コンテンツを提供する方法およびシステム
WO2018179151A1 (ja) 2017-03-29 2018-10-04 日本電気株式会社 映像解析装置、映像解析方法、および映像解析プログラム
CN107368775A (zh) * 2017-04-21 2017-11-21 阿里巴巴集团控股有限公司 一种虹膜识别过程中的预览方法及装置
WO2018232717A1 (zh) * 2017-06-23 2018-12-27 中国科学院自动化研究所 基于透视失真特性的人脸图像鉴伪方法、存储、处理设备
JP2019110421A (ja) * 2017-12-18 2019-07-04 トヨタ自動車株式会社 動画配信システム
EP3506153A1 (en) * 2017-12-28 2019-07-03 Canon Kabushiki Kaisha Information processing apparatus, system, method, and non-transitory computer-readable storage medium
JP7298124B2 (ja) * 2018-09-25 2023-06-27 富士フイルムビジネスイノベーション株式会社 動画編集装置およびプログラム
US11539872B2 (en) 2018-09-28 2022-12-27 Nec Corporation Imaging control system, imaging control method, control device, control method, and storage medium
CN110225251B (zh) * 2019-05-31 2020-10-16 维沃移动通信(杭州)有限公司 一种视频录制方法及终端
CN112188074B (zh) * 2019-07-01 2022-08-05 北京小米移动软件有限公司 图像处理方法及装置、电子设备、可读存储介质
CN114430842A (zh) * 2020-01-19 2022-05-03 乌迪森斯公司 使用图案化床单进行测量校准
US11574392B2 (en) * 2020-02-27 2023-02-07 Adobe Inc. Automatically merging people and objects from multiple digital images to generate a composite digital image
JP2022053355A (ja) * 2020-09-24 2022-04-05 キヤノン株式会社 撮像装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002333652A (ja) * 2001-05-10 2002-11-22 Oki Electric Ind Co Ltd 撮影装置及び再生装置
JP2004222118A (ja) * 2003-01-17 2004-08-05 Omron Corp 撮影装置
JP2004320287A (ja) * 2003-04-15 2004-11-11 Nikon Gijutsu Kobo:Kk デジタルカメラ
JP2007006033A (ja) * 2005-06-22 2007-01-11 Omron Corp 対象決定装置、撮像装置および監視装置

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2505854B2 (ja) * 1988-03-23 1996-06-12 キヤノン株式会社 視線検出手段を備えるカメラ
US5579078A (en) * 1990-09-29 1996-11-26 Canon Kabushiki Kaisha Camera with visual axis detection equipment
US5835641A (en) * 1992-10-14 1998-11-10 Mitsubishi Denki Kabushiki Kaisha Image pick-up apparatus for detecting and enlarging registered objects
JPH06259534A (ja) 1993-03-03 1994-09-16 Toshiba Corp 人物認証装置
JP3464572B2 (ja) 1995-09-19 2003-11-10 シャープ株式会社 監視・制御装置
JPH09163212A (ja) 1995-12-08 1997-06-20 Sony Corp 撮像装置
JP3469031B2 (ja) 1997-02-18 2003-11-25 株式会社東芝 顔画像登録装置及びその方法
JP3755343B2 (ja) 1999-06-30 2006-03-15 オムロン株式会社 歩行者観測装置、およびその装置を用いた歩行者認識システム、扉開閉制御システムならびに建造物
JP4227257B2 (ja) 1999-08-12 2009-02-18 キヤノン株式会社 カメラ
US6940545B1 (en) * 2000-02-28 2005-09-06 Eastman Kodak Company Face detecting camera and method
DE60119418T2 (de) * 2000-03-22 2007-05-24 Kabushiki Kaisha Toshiba, Kawasaki Gesichtsbildaufnehmendes Erkennungsgerät und Passüberprüfungsgerät
US6680745B2 (en) * 2000-11-10 2004-01-20 Perceptive Network Technologies, Inc. Videoconferencing method with tracking of face and dynamic bandwidth allocation
JP4364464B2 (ja) 2001-09-17 2009-11-18 株式会社リコー デジタルカメラ撮像装置
JP4039847B2 (ja) 2001-11-12 2008-01-30 オリンパス株式会社 画像処理装置およびプログラム
JP2003196655A (ja) 2001-12-25 2003-07-11 Toyota Motor Corp 目画像検出装置
JP2003348438A (ja) 2002-05-29 2003-12-05 Fuji Photo Film Co Ltd 画像撮影方法および装置、画像選択方法および装置並びにプログラム
JP2004086625A (ja) 2002-08-27 2004-03-18 Hitoshi Hongo 顧客情報管理装置
JP3954484B2 (ja) * 2002-12-12 2007-08-08 株式会社東芝 画像処理装置およびプログラム
US20040207743A1 (en) * 2003-04-15 2004-10-21 Nikon Corporation Digital camera system
JP4103683B2 (ja) * 2003-05-29 2008-06-18 カシオ計算機株式会社 撮影画像送信装置およびプログラム
JP2005086516A (ja) 2003-09-09 2005-03-31 Canon Inc 撮像装置、印刷装置、画像処理装置およびプログラム
JP4306399B2 (ja) 2003-10-10 2009-07-29 株式会社ニコン デジタルカメラ
JP2005209137A (ja) 2003-12-26 2005-08-04 Mitsubishi Heavy Ind Ltd 対象物認識方法及び対象物認識装置、並びに顔方向識別装置
JP2005207110A (ja) 2004-01-22 2005-08-04 Omron Corp 車輌利用許可システム、ゲート利用許可システム
JP2005309409A (ja) * 2004-03-25 2005-11-04 Fuji Photo Film Co Ltd 赤目防止装置、プログラムおよびプログラムを記録した記録媒体
JP4154400B2 (ja) * 2004-04-01 2008-09-24 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
JP4352980B2 (ja) 2004-04-23 2009-10-28 オムロン株式会社 拡大表示装置及び拡大画像制御装置
JP4021873B2 (ja) 2004-06-03 2007-12-12 株式会社東芝 顔画像監視システム
CN100358340C (zh) * 2005-01-05 2007-12-26 张健 可选择最佳拍照时机的数码相机
JP2007011200A (ja) 2005-07-04 2007-01-18 Konica Minolta Photo Imaging Inc 撮像装置
JP2007074141A (ja) 2005-09-05 2007-03-22 Canon Inc 撮像装置及びその制御方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002333652A (ja) * 2001-05-10 2002-11-22 Oki Electric Ind Co Ltd 撮影装置及び再生装置
JP2004222118A (ja) * 2003-01-17 2004-08-05 Omron Corp 撮影装置
JP2004320287A (ja) * 2003-04-15 2004-11-11 Nikon Gijutsu Kobo:Kk デジタルカメラ
JP2007006033A (ja) * 2005-06-22 2007-01-11 Omron Corp 対象決定装置、撮像装置および監視装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP1962497A4 *

Cited By (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7792335B2 (en) 2006-02-24 2010-09-07 Fotonation Vision Limited Method and apparatus for selective disqualification of digital images
US8285001B2 (en) 2006-02-24 2012-10-09 DigitalOptics Corporation Europe Limited Method and apparatus for selective disqualification of digital images
US8005268B2 (en) 2006-02-24 2011-08-23 Tessera Technologies Ireland Limited Digital image acquisition control and correction method and apparatus
US7995795B2 (en) 2006-02-24 2011-08-09 Tessera Technologies Ireland Limited Method and apparatus for selective disqualification of digital images
US7804983B2 (en) 2006-02-24 2010-09-28 Fotonation Vision Limited Digital image acquisition control and correction method and apparatus
US8265348B2 (en) 2006-02-24 2012-09-11 DigitalOptics Corporation Europe Limited Digital image acquisition control and correction method and apparatus
JP2010500687A (ja) * 2006-08-11 2010-01-07 フォトネーション ビジョン リミテッド デジタル画像取得装置におけるリアルタイムの顔探知
US8565550B2 (en) 2007-02-28 2013-10-22 DigitalOptics Corporation Europe Limited Separating directional lighting variability in statistical face modelling based on texture space decomposition
US8542913B2 (en) 2007-02-28 2013-09-24 DigitalOptics Corporation Europe Limited Separating directional lighting variability in statistical face modelling based on texture space decomposition
US8582896B2 (en) 2007-02-28 2013-11-12 DigitalOptics Corporation Europe Limited Separating directional lighting variability in statistical face modelling based on texture space decomposition
US8509561B2 (en) 2007-02-28 2013-08-13 DigitalOptics Corporation Europe Limited Separating directional lighting variability in statistical face modelling based on texture space decomposition
JP2008262305A (ja) * 2007-04-10 2008-10-30 Canon Inc 撮像装置、撮像装置の制御方法、プログラム、及び記憶媒体
US8542885B2 (en) 2007-06-13 2013-09-24 Sony Corporation Imaging device, imaging method and computer program
US9131140B2 (en) 2007-08-10 2015-09-08 Canon Kabushiki Kaisha Image pickup apparatus and image pickup method
CN102891965B (zh) * 2007-08-10 2016-02-03 佳能株式会社 图像处理设备及其控制方法、图像处理方法
US8866931B2 (en) 2007-08-23 2014-10-21 Samsung Electronics Co., Ltd. Apparatus and method for image recognition of facial areas in photographic images from a digital camera
US8314854B2 (en) * 2007-08-23 2012-11-20 Samsung Electronics Co., Ltd. Apparatus and method for image recognition of facial areas in photographic images from a digital camera
EP2053853A1 (en) * 2007-10-26 2009-04-29 Vestel Elektronik Sanayi ve Ticaret A.S. Detecting the location and identifying a user of an electronic device
EP2056589A3 (en) * 2007-11-02 2011-09-14 Sony Corporation Imaging apparatus, method for controlling the same, and program
US8384792B2 (en) 2007-11-02 2013-02-26 Sony Corporation Imaging apparatus, method for controlling the same, and program
EP2210410A1 (en) * 2007-11-13 2010-07-28 Olaworks, Inc. Method and computer-readable recording medium for adjusting pose at the time of taking photos of himself or herself
EP2210410A4 (en) * 2007-11-13 2010-12-15 Olaworks Inc METHOD AND COMPUTER READABLE RECORDING MEDIUM FOR POPE SETTING WHEN RECORDING PHOTOS BY SELF-TELEPHONE
JP2009164820A (ja) * 2007-12-28 2009-07-23 Casio Comput Co Ltd 撮像装置及びプログラム
US11689796B2 (en) 2008-01-27 2023-06-27 Adeia Imaging Llc Detecting facial expressions in digital images
US11470241B2 (en) 2008-01-27 2022-10-11 Fotonation Limited Detecting facial expressions in digital images
US9462180B2 (en) 2008-01-27 2016-10-04 Fotonation Limited Detecting facial expressions in digital images
US8750578B2 (en) 2008-01-29 2014-06-10 DigitalOptics Corporation Europe Limited Detecting facial expressions in digital images
WO2009095168A1 (en) * 2008-01-29 2009-08-06 Fotonation Ireland Limited Detecting facial expressions in digital images
US20090232364A1 (en) * 2008-03-14 2009-09-17 Omron Corporation Priority target determining device, electronic equipment, priority target determining method, program, and recording medium
CN103475837B (zh) * 2008-05-19 2017-06-23 日立麦克赛尔株式会社 记录再现装置及方法
US20100067749A1 (en) * 2008-09-16 2010-03-18 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and program
US8699760B2 (en) * 2008-09-16 2014-04-15 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and program
US8488023B2 (en) 2009-05-20 2013-07-16 DigitalOptics Corporation Europe Limited Identifying facial expressions in acquired digital images
US8633999B2 (en) 2009-05-29 2014-01-21 DigitalOptics Corporation Europe Limited Methods and apparatuses for foreground, top-of-the-head separation from background
JP2010016878A (ja) * 2009-09-29 2010-01-21 Sony Corp 画像処理装置及び画像処理方法、並びにコンピュータ・プログラム
US8977056B2 (en) 2010-07-26 2015-03-10 Fotonation Limited Face detection using division-generated Haar-like features for illumination invariance
US8971628B2 (en) 2010-07-26 2015-03-03 Fotonation Limited Face detection using division-generated haar-like features for illumination invariance
US8836777B2 (en) 2011-02-25 2014-09-16 DigitalOptics Corporation Europe Limited Automatic detection of vertical gaze using an embedded imaging device
JP2012151910A (ja) * 2012-05-17 2012-08-09 Casio Comput Co Ltd 撮像装置及びプログラム
WO2017183543A1 (ja) * 2016-04-21 2017-10-26 ソニーモバイルコミュニケーションズ株式会社 情報処理装置、情報処理方法、及びプログラム
US11810399B2 (en) 2016-04-21 2023-11-07 Sony Corporation Information processing device, information processing method, and program
JP2019192161A (ja) * 2018-04-27 2019-10-31 ファナック株式会社 画像管理装置
US11295406B2 (en) 2018-04-27 2022-04-05 Fanuc Corporation Image management device

Also Published As

Publication number Publication date
EP1962497A4 (en) 2010-03-03
EP1962497A1 (en) 2008-08-27
US8488847B2 (en) 2013-07-16
US20090135269A1 (en) 2009-05-28
EP1962497B1 (en) 2013-01-16
CN102231801A (zh) 2011-11-02
CN102231801B (zh) 2013-07-10

Similar Documents

Publication Publication Date Title
WO2007060980A1 (ja) 電子カメラおよび画像処理装置
JP4315148B2 (ja) 電子カメラ
JP5087856B2 (ja) 電子カメラ
JP4432886B2 (ja) 電子カメラ
JP5239126B2 (ja) 電子カメラ
JP5098259B2 (ja) カメラ
JP4577275B2 (ja) 撮像装置、画像記録方法、および、プログラム
US20050248681A1 (en) Digital camera
JP4360369B2 (ja) 電子カメラ
JP2008017169A (ja) 電子カメラ
JP2007148691A (ja) 画像処理装置
JP4853707B2 (ja) 撮像装置及びそのプログラム
JP2007150604A (ja) 電子カメラ
JP4577445B2 (ja) 撮像装置、画像記録方法、および、プログラム
JP2005323015A (ja) デジタルカメラ
KR20090083108A (ko) 특정 영역이 확대된 영상을 촬영된 영상에 부가하는촬영방법 및 이를 적용한 촬영장치
JP2005223658A (ja) デジタルカメラ
JP2008219451A (ja) 撮像装置およびその制御方法
JP5423851B2 (ja) 電子カメラ
JP5093178B2 (ja) 電子カメラ
JP5408288B2 (ja) 電子カメラ
JP5381578B2 (ja) 電子カメラ
JP2011250277A (ja) 撮像装置
JP2012114549A (ja) 画像処理装置、撮像装置および画像処理プログラム

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 200680043863.0

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application
NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2006833117

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 12085353

Country of ref document: US