JP2003150617A - Image processor and program - Google Patents

Image processor and program

Info

Publication number
JP2003150617A
JP2003150617A JP2001346597A JP2001346597A JP2003150617A JP 2003150617 A JP2003150617 A JP 2003150617A JP 2001346597 A JP2001346597 A JP 2001346597A JP 2001346597 A JP2001346597 A JP 2001346597A JP 2003150617 A JP2003150617 A JP 2003150617A
Authority
JP
Japan
Prior art keywords
image
face
input
person
search
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2001346597A
Other languages
Japanese (ja)
Inventor
Akira Inoue
晃 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Optical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Optical Co Ltd filed Critical Olympus Optical Co Ltd
Priority to JP2001346597A priority Critical patent/JP2003150617A/en
Publication of JP2003150617A publication Critical patent/JP2003150617A/en
Pending legal-status Critical Current

Links

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an image processor capable of specifying a person by a simple operation and retrieving an image under high reliability at high speed, and a program. SOLUTION: The image processor is provided with a reference image storage means (22) for storing a reference image to be a reference of image retrieval together with reference image photographing date information, an extraction means for extracting a face image from an input image inputted from an image storage device (6), and a selection and retrieval means (13a) for selecting the reference image having a photographing date close to the date on which the input image is photographed and retrieving the face image with the reference image as the reference.

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】本発明は、電子撮像装置を用
いて撮像されたデジタル画像を蓄積し表示する画像処理
装置およびプログラムに関し、特に撮影された人物の顔
を認識して画像の検索、抽出などを行う画像処理装置お
よびプログラムに関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image processing apparatus and program for accumulating and displaying digital images captured by using an electronic image capturing apparatus, and more particularly to recognizing a face of a photographed person to retrieve and extract the image. An image processing device and a program for performing

【0002】[0002]

【従来の技術】近年デジタルカメラなどの電子撮像装置
が広く一般家庭にも普及してきており、撮影された画像
はパソコンなどの画像処理装置に設けられた記憶装置あ
るいは記憶媒体に記録されて保存されている。
2. Description of the Related Art In recent years, electronic image pickup devices such as digital cameras have become widespread in general households, and photographed images are recorded and stored in a storage device or storage medium provided in an image processing device such as a personal computer. ing.

【0003】そして、このように保存されている画像を
整理し編集して閲覧するための、「デジタルアルバム」
とも呼ばれるソフトウエアが発売されている。このソフ
トウエアは、撮影した画像を多彩なレイアウトで配置で
き、また画像だけでなく音声情報も併せて記録できるな
ど、視覚的に楽しむだけに留まらずより豊富な情報を提
供できるように構成されている。
A "digital album" for organizing, editing, and browsing the images thus stored.
Also called software. This software is able to arrange captured images in various layouts, and can record not only images but also audio information, so that it is not only visually enjoyable, but also provided with more information. There is.

【0004】ところで、この「デジタルアルバム」を活
用して楽しもうとする際には、そのアルバムに貼付する
画像の検索が問題になると考えられる。例えば、電子撮
像装置で撮影した画像が長年にわたって多数保存されて
いる場合などには、欲しい画像を探そうとしてもなかな
か見つけることができない状況になってしまうと考えら
れる。
By the way, when trying to enjoy using this "digital album", it is considered that searching for images to be attached to the album becomes a problem. For example, when a large number of images taken by the electronic image pickup device are stored for many years, it is thought that it will be difficult to find the desired image even when trying to find the desired image.

【0005】この検索の問題を解決するための技術とし
て、撮影画像から所定のインデックスを抽出して登録、
検索し、検索条件に合った写真をデジタルアルバム装置
に表示等するものが提案されている(特開平10−12
4655号公報)。
As a technique for solving this retrieval problem, a predetermined index is extracted from a photographed image and registered,
It has been proposed to search and display a photograph matching a search condition on a digital album device (Japanese Patent Laid-Open No. 10-12).
4655).

【0006】[0006]

【発明が解決しようとする課題】しかしながら、この技
術ではイメージ情報をインデックス化し、複数のインデ
ックスの組み合わせで検索する画像を特定する方式であ
るため、例えば、同一人物を検索しようとした場合、そ
の人物が何年にもわたって成長している画像を対象とす
る場合、また同一人物でも撮影条件によって色調が異な
る場合などでは、それぞれに異なる複数のインデックス
が必要とされるため、適切なインデックスの選択に熟練
が必要とされ、また何種類かのインデックスを用いて繰
り返して検索することが必要とされると考えられる。
However, since this technique is a method of indexing image information and specifying an image to be searched by a combination of a plurality of indexes, for example, when trying to search for the same person, If you are targeting images that have grown over the years, or if the same person has different color tones depending on the shooting conditions, multiple different indexes are required for each, so select the appropriate index. It is thought that the skill is required for it, and it is necessary to search repeatedly using some kinds of indexes.

【0007】一般家庭でデジタルアルバムを編集しよう
とする場合は、その検索の対象は大半が人物であり、検
索機能を人物に限定したとしてもその検索技術の利用価
値は損なわれないと考えられる。
When editing a digital album in a general home, most of the objects to be searched are people, and even if the search function is limited to people, it is considered that the utility value of the search technology is not impaired.

【0008】例えば、1人または複数人の特定の人物
(以下、「特定人物」という)の成長記録を作るために
その特定人物の画像を検索する、集合写真において特定
人物を見つけ出す、あるいは他の人物の名前を照合す
る、等の人物を識別する検索機能があれば前述のアルバ
ム編集作業には充分活用することができると考えられ
る。
For example, searching for an image of one or more specific persons (hereinafter referred to as "specific person") to make a growth record, finding the specific person in a group photo, or other It is considered that if there is a search function for identifying a person, such as collating a person's name, it can be sufficiently used for the above-mentioned album editing work.

【0009】一方、近年の顔認識技術は急速に進歩して
おり、直接写真などと照合して個人を識別する技術も各
種提案されている(例えば、特開2000−19484
9)。したがって、これらの技術を活用することで特定
人物の検索を煩雑な操作を行うことなく実行することが
できると考えられる。
On the other hand, the face recognition technology in recent years is rapidly advancing, and various technologies for identifying an individual by directly collating with a photograph or the like have been proposed (for example, Japanese Patent Laid-Open No. 2000-19484).
9). Therefore, it is considered that by utilizing these techniques, the search for the specific person can be executed without performing a complicated operation.

【0010】ここで、画像同士を比較照合して個人を認
識する検索処理は時間を要する処理であるため、操作性
の観点からその処理の高速化を図ることが必要不可欠と
され、更に、この高速化と共に検索の信頼性を向上させ
ることも求められている。
Here, since the search process for comparing and collating images to recognize an individual is a time-consuming process, it is indispensable to speed up the process from the viewpoint of operability. It is also required to improve search reliability as well as speeding up.

【0011】また本画像処理装置においては、画像を多
彩な形態で表示等できることが必要とされ、特定人物に
関連した情報についても簡便な操作で提供できることが
望まれている。
Further, the image processing apparatus is required to be able to display images in various forms, and it is desired that information relating to a specific person can be provided by a simple operation.

【0012】本発明は、係る事情に鑑みてなされたもの
であって、簡便な操作で人物を特定して画像を高速にか
つ高い信頼性の下で検索することができ、また画像を多
彩な形態で表示することができる画像処理装置およびプ
ログラムを提供することを目的とする。
The present invention has been made in view of the above circumstances, and it is possible to specify a person by a simple operation to retrieve an image at high speed and with high reliability, and to obtain a wide variety of images. An object is to provide an image processing device and a program that can be displayed in a form.

【0013】[0013]

【課題を解決するための手段】上記課題を解消するため
の本発明は、画像検索の基準とする参照画像を参照画像
の撮影日情報と共に記憶する参照画像記憶手段と、画像
蓄積装置から入力された入力画像から顔画像を抽出する
抽出手段と、入力画像の撮影された日付けに近い撮影日
付けをもつ参照画像を選択し、その参照画像を基準とし
て前記顔画像を検索する選択検索手段とを備えた画像処
理装置である。
SUMMARY OF THE INVENTION The present invention for solving the above-mentioned problems is input from a reference image storage means for storing a reference image as a reference for image retrieval together with information on the shooting date of the reference image, and an image storage device. An extracting means for extracting a face image from the input image, and a selecting and searching means for selecting a reference image having a shooting date close to that of the input image and searching the face image with the reference image as a reference. An image processing apparatus including.

【0014】また本発明は、上記記載の発明である画像
処理装置において、選択検索手段により該当する顔画像
が検索されたときにこの顔画像を有する入力画像を表示
する検索表示手段を備えた画像処理装置である。
According to the present invention, in the image processing apparatus according to the invention described above, an image provided with search display means for displaying an input image having the face image when the corresponding face image is searched by the selective search means. It is a processing device.

【0015】また本発明は、画像検索の基準とする参照
画像を参照画像の撮影日、その人物に関する情報を含む
第1の付加情報と共に記憶する参照画像記憶手段と、画
像蓄積装置に画像と共に記録されている人物、撮影年に
関する情報を含む第2の付加情報を検索し、第1及び第
2の付加情報に基づいて前記画像を抽出する情報検索手
段とを備えた画像処理装置である。
Further, according to the present invention, the reference image as a reference for image retrieval is stored together with the image in the image accumulating device, and the reference image storage means for storing together with the first additional information including the photographing date of the reference image and the information about the person. The image processing apparatus is provided with an information retrieval means for retrieving the second additional information including the information regarding the person and the year of photography, and extracting the image based on the first and second additional information.

【0016】また本発明は、上記記載の発明である画像
処理装置において、画像を抽出したときはこの画像を表
示する検索表示手段を備えた画像処理装置である。
The present invention is also the image processing apparatus according to the invention described above, which is provided with a search / display means for displaying the image when the image is extracted.

【0017】また本発明は、画像検索の基準とする参照
画像を参照画像の撮影日情報と共に記憶する参照画像記
憶手段と、画像蓄積装置から入力された入力画像から顔
画像を抽出する抽出手段と、顔画像と同一人物の参照画
像を検索する顔画像検索手段と、顔画像検索手段で該当
した参照画像を抽出したときは該当した参照画像に付加
されている人物の名前、撮影年の内少なくとも1つに関
する内容を入力画像とともに記憶する記憶手段と、記憶
手段によって記憶された入力画像を表示する画像表示手
段と、表示された入力画像に含まれる顔画像が指定され
たときは、その人物の名前を表示する名前表示手段とを
備えた画像処理装置である。
Further, according to the present invention, reference image storing means for storing a reference image as a reference for image retrieval together with information on the shooting date of the reference image, and extracting means for extracting a face image from the input image input from the image storage device. , A face image search means for searching for a reference image of the same person as the face image, and a name of the person added to the reference image when the corresponding reference image is extracted by the face image search means, at least the photographing year When a storage unit that stores the contents regarding one item together with the input image, an image display unit that displays the input image stored by the storage unit, and a face image included in the displayed input image are designated, The image processing apparatus includes a name display unit that displays a name.

【0018】また本発明は、上記記載の発明である画像
処理装置において、表示された入力画像に含まれる顔画
像を指定して所定の操作がされたときはその人物の顔画
像を拡大表示する顔表示手段を備えた画像処理装置であ
る。
According to the present invention, in the above-described image processing apparatus, when a face image included in the displayed input image is designated and a predetermined operation is performed, the face image of the person is enlarged and displayed. It is an image processing apparatus provided with a face display means.

【0019】また本発明は、画像検索の基準とする参照
画像を参照画像の撮影日情報と共に記憶する参照画像記
憶手段と、画像蓄積装置から入力された入力画像から顔
画像を抽出する抽出手段と、顔画像と同一人物の参照画
像を検索する顔画像検索手段と、顔画像検索手段で該当
した参照画像を抽出したときは該当した参照画像に付加
されている人物の名前、撮影年に関する情報の内少なく
とも1つを入力画像とともに記憶する記憶手段と、入力
画像とともにこの画像に含まれる人物の名前を印刷装置
に出力する出力手段とを備えた画像処理装置である。
Further, according to the present invention, a reference image storage means for storing a reference image as a reference for image retrieval together with information on the shooting date of the reference image, and an extracting means for extracting a face image from the input image input from the image storage device. , A face image search unit that searches for a reference image of the same person as the face image, and when the relevant reference image is extracted by the face image search unit, the name of the person added to the relevant reference image and information about the shooting year The image processing apparatus includes a storage unit that stores at least one of the input images together with the input image, and an output unit that outputs the input image and the name of the person included in the image to the printing apparatus.

【0020】また本発明は、コンピュータに、画像検索
の基準とする参照画像を参照画像の撮影日情報と共に記
憶する参照画像記憶手順、画像蓄積装置から入力された
入力画像から顔画像を抽出する抽出手順、入力画像の撮
影された日付けに近い撮影日付けをもつ参照画像を選択
しその参照画像を基準として顔画像を検索する選択検索
手順、を実行させるためのプログラムである。
Further, according to the present invention, a reference image storing procedure for storing a reference image as a reference for image retrieval in a computer together with the shooting date information of the reference image, and extracting for extracting a face image from the input image input from the image storage device. It is a program for executing a procedure and a selective search procedure for selecting a reference image having a shooting date close to the shooting date of the input image and searching for a face image based on the reference image.

【0021】[0021]

【発明の実施の形態】図1は、本発明に係る画像処理装
置の構成を示すブロック図である。
1 is a block diagram showing the structure of an image processing apparatus according to the present invention.

【0022】本画像処理装置は、画像の検索等を行う画
像処理部1と、この画像処理部1の周辺端末である、処
理された画像などを表示する表示装置2、画像処理部1
に対して各種データあるいは操作指示等の入力を行うた
めの操作入力部3、処理画像等を印刷するプリンタ4、
基準となる参照画像の人物像を撮影する撮像装置5及び
検索処理等の対象となる画像を記録した画像記録媒体6
で構成されている。
The image processing apparatus includes an image processing unit 1 for searching for an image, a display device 2 for displaying processed images, which is a peripheral terminal of the image processing unit 1, and an image processing unit 1.
An operation input unit 3 for inputting various data or operation instructions to the printer, a printer 4 for printing a processed image,
An image capturing device 5 for capturing a person image of a reference image serving as a reference, and an image recording medium 6 recording an image to be subjected to a search process or the like.
It is composed of.

【0023】そして、画像処理部1には、これらの周辺
端末と信号の授受を行なう画像処理部1の各処理機能の
インターフェースである入出力制御部10、検索の基準
となる参照画像を登録する登録部11、検索対象となる
画像の検索に関連する付加情報を作成して画像処理部1
の内部に蓄積する画像蓄積処理部12、参照画像の人物
が撮影された画像を検索する検索部13、画像を表示す
ると共にその画像に付加された情報も関連付けて表示す
る表示部14、画像から人物の顔を抽出しまたは個人を
認識する抽出認識部15及び画像と付加情報を集約して
印刷するプリント処理部16が備えられている。
Then, in the image processing unit 1, an input / output control unit 10 which is an interface of each processing function of the image processing unit 1 for exchanging signals with these peripheral terminals, and a reference image which serves as a reference for retrieval are registered. The registration unit 11 creates the additional information related to the search of the image to be searched, and the image processing unit 1
An image accumulation processing unit 12 for accumulating inside, a retrieval unit 13 for retrieving an image in which a person of a reference image is photographed, a display unit 14 for displaying an image and also displaying information associated with the image in association with the image, An extraction / recognition unit 15 for extracting a person's face or recognizing an individual and a print processing unit 16 for collecting and printing an image and additional information are provided.

【0024】更に、登録部11には、画像記録媒体6か
ら入力された画像から人物を抽出して、それに基づいて
その人物の顔の部分を取り出した画像である顔画像を作
成し参照画像として登録する画像指定登録部11a、撮
像装置から入力された撮像に基づいて顔画像を作成し参
照画像として登録する新規登録部11bが設けられ、ま
た検索部13には、画像中に指定された参照画像の人物
が撮影されているかどうかを調べて該当した画像を抽出
する参照画像指定検索部13aが設けられ、そして抽出
認識部15には、画像から人物の顔の部分を識別してそ
の顔画像を抽出する顔抽出部15a、参照画像の顔が指
定された画像中にあるかどうかを照合して認識する個人
認識部15bが設けられている。
Further, the registration unit 11 extracts a person from the image input from the image recording medium 6 and creates a face image, which is an image in which the face portion of the person is extracted, as a reference image. An image designation registration unit 11a to be registered, and a new registration unit 11b that creates a face image based on the image pickup input from the image pickup apparatus and is registered as a reference image are provided, and the search unit 13 is also provided with a reference designated in the image. A reference image designation search unit 13a for checking whether a person in the image is photographed and extracting the corresponding image is provided, and the extraction recognition unit 15 identifies the face portion of the person from the image and identifies the face image. A face extraction unit 15a for extracting the face is provided, and a personal recognition unit 15b for collating and recognizing whether or not the face of the reference image is in the designated image is provided.

【0025】また、画像処理部1にはこれらの各機能の
動作に必要な情報を記憶する記憶部20が備えられ、こ
の記憶部20には検索の対象となる画像を記憶する画像
記憶部21、検索の基準となる参照画像を記憶する参照
画像記憶部22が設けられている。
Further, the image processing section 1 is provided with a storage section 20 for storing information necessary for the operation of each of these functions, and the storage section 20 stores an image storage section 21 for storing an image to be searched. A reference image storage unit 22 that stores a reference image serving as a search reference is provided.

【0026】次に、本画像処理装置を構成する各処理機
能の動作について説明する。操作者が画像処理装置の電
源を投入したとき、また操作入力部3から初期操作を行
ったときは表示部2にはメニュー画面が表示される。
Next, the operation of each processing function of the image processing apparatus will be described. A menu screen is displayed on the display unit 2 when the operator turns on the power of the image processing apparatus or when an initial operation is performed from the operation input unit 3.

【0027】図2は本画像処理装置の処理機能を表すメ
ニュー画面である。
FIG. 2 is a menu screen showing the processing functions of the image processing apparatus.

【0028】この画像処理装置の処理機能は、登録モー
ド、画像蓄積モード、検索モード、画像表示モードの4
つの機能で構成さている。そしてこのメニュー画面で
は、登録モードには画像指定登録ボタン30と新規登録
ボタン31が表示され、画像蓄積モードには画像蓄積処
理ボタン32が表示され、検索モードには参照画像指定
検索ボタン33が表示され、画像表示モードには画像表
示ボタン34が表示されている。
The processing function of this image processing apparatus has four functions: registration mode, image storage mode, search mode, and image display mode.
It consists of one function. Then, in this menu screen, an image designation registration button 30 and a new registration button 31 are displayed in the registration mode, an image storage processing button 32 is displayed in the image storage mode, and a reference image designation search button 33 is displayed in the search mode. The image display button 34 is displayed in the image display mode.

【0029】操作者が参照画像を登録しようとするとき
は、人物の撮影された画像が記録された画像記録媒体6
を画像処理部1に接続してメニュー画面の画像指定登録
ボタン30を操作すると、画像指定登録部11aが起動
して参照画像の登録処理を行う。
When the operator wants to register the reference image, the image recording medium 6 on which the photographed image of the person is recorded.
When is connected to the image processing unit 1 and the image designation registration button 30 on the menu screen is operated, the image designation registration unit 11a is activated to perform reference image registration processing.

【0030】図3は、画像指定登録部11aの概略の動
作手順を示すフロー図である。
FIG. 3 is a flow chart showing a schematic operation procedure of the image designation registration section 11a.

【0031】本画像指定登録機能は、外部の画像記録媒
体6に記録されてある画像から参照画像を作成する機能
で、参照画像として採用できるかどうかを判断する機
能、情報を付加できる機能を併せて有している。尚、こ
の画像記録媒体6に記録されてある画像は、撮像装置5
又は他の撮像装置を用いて撮像された画像である。
The image designation registration function is a function of creating a reference image from an image recorded in the external image recording medium 6, and includes a function of judging whether or not it can be adopted as a reference image and a function of adding information. Have. It should be noted that the image recorded on the image recording medium 6 is the image pickup device 5.
Alternatively, it is an image captured by using another imaging device.

【0032】操作者は表示部2に表示される画像記録媒
体6に記録されてある画像のサムネイル画像から、参照
画像として登録したい人物の撮影されている画像を選択
する(S1)。
The operator selects an image of a person who wants to be registered as a reference image from thumbnail images of images recorded on the image recording medium 6 displayed on the display unit 2 (S1).

【0033】画像指定登録部11aは操作者によって選
択された画像を画像記録媒体6から抽出して表示部2に
表示する(S2)と共に、その画像から特定人物の顔画
像を抽出させるために顔抽出部15aを起動する。顔抽
出部15はその画像に撮影されている人物の顔画像を抽
出して(S3)、その結果を画像指定登録部11aに返
す。
The image designation registration unit 11a extracts the image selected by the operator from the image recording medium 6 and displays it on the display unit 2 (S2), and at the same time, extracts the face image of the specific person from the image. The extraction unit 15a is activated. The face extraction unit 15 extracts the face image of the person photographed in the image (S3), and returns the result to the image designation registration unit 11a.

【0034】図4は、顔抽出部15aによる顔抽出結果
を示す図である。
FIG. 4 is a diagram showing the face extraction result by the face extraction unit 15a.

【0035】元の画像上に、顔抽出部15が抽出した人
物の顔を囲むように枠が表示されている。操作者が参照
画像として登録しようとする人物を操作入力部3から選
択すると(S4)、画像指定登録部11aはその選択さ
れた人物の顔画像が参照画像として適切かどうかを判断
する(S5)。
A frame is displayed on the original image so as to surround the face of the person extracted by the face extraction unit 15. When the operator selects the person to be registered as the reference image from the operation input unit 3 (S4), the image designation registration unit 11a determines whether the face image of the selected person is appropriate as the reference image (S5). .

【0036】例えば、顔の部分が髪または帽子などで覆
われて小さい領域しか写っていない場合、目を閉じてい
る場合、等は不適切な顔画像でありこのような場合は表
示部2に適切でない旨の警告を表示しまた不適切な理由
を表示(S7)する。顔画像が適切と判断されたときは
(S6)、顔のサイズを所定の大きさに調整した情報入
力画面を表示部2に表示する(S8)。
For example, when the face portion is covered with hair or a hat and only a small area is shown, when the eyes are closed, or the like is an inappropriate face image, and in such a case, the display unit 2 A warning to the effect that it is not suitable is displayed and the reason why it is not suitable is displayed (S7). When it is determined that the face image is appropriate (S6), the information input screen in which the size of the face is adjusted to a predetermined size is displayed on the display unit 2 (S8).

【0037】図5は、情報入力画面の構成を示す図であ
る。
FIG. 5 is a diagram showing the structure of the information input screen.

【0038】この情報入力画面には、リサイズされた顔
画像とともに、後に述べる検索時の情報となる名前、生
年月日、撮影年月日、登録年月日などの付加情報の入力
欄が設けられている。尚、撮影年月日は、元の画像に付
随して既に情報が入力されている場合はそのデータを表
示し、登録年月日は当日の日付けを予め設定するように
構成しても良い。
This information input screen is provided with an input field for additional information such as a name, date of birth, date of photography, date of registration, etc., which will be information at the time of retrieval described later, together with the resized face image. ing. It should be noted that the date of photographing may be configured to display the data when the information has already been input in association with the original image, and the date of registration may be preset to the date of the day. .

【0039】操作者が、これらの情報を入力して(S
9)、登録ボタンを操作すれば画像指定登録部11aは
顔画像と付加情報を参照画像記憶部22に登録する(S
10)。そして、まだ処理すべき画像が残っている場合
(S11)は、以上の手順を繰り返す。ここで、登録と
は参照画像を識別するための識別符号と関連付けて記憶
することをいう。
The operator inputs these information (S
9) If the register button is operated, the image designation registration unit 11a registers the face image and the additional information in the reference image storage unit 22 (S).
10). If there are still images to be processed (S11), the above procedure is repeated. Here, registration means storing in association with an identification code for identifying a reference image.

【0040】操作者が撮像装置5を用いて参照画像を登
録しようとするときは、撮像装置5を画像処理部1に接
続してメニュー画面の新規登録ボタン31を操作する
と、新規登録部11bが起動して参照画像の登録処理を
行う。
When the operator wants to register a reference image using the image pickup device 5, he or she connects the image pickup device 5 to the image processing section 1 and operates the new registration button 31 on the menu screen. It is activated and the reference image registration process is performed.

【0041】図6は、新規登録部11bの概略の動作手
順を示すフロー図である。
FIG. 6 is a flow chart showing a schematic operation procedure of the new registration unit 11b.

【0042】本新規登録機能は、撮像装置5から取り込
んだ人物画像から参照画像を作成する機能である。まず
新規登録部11bは、撮像装置5に対して人物の画像を
規定するためのテンプレートを出力する(S15)。
The new registration function is a function of creating a reference image from a person image captured from the image pickup device 5. First, the new registration unit 11b outputs a template for defining an image of a person to the imaging device 5 (S15).

【0043】図7は、撮像装置5の表示部に表示される
人物像を示す図である。
FIG. 7 is a diagram showing a person image displayed on the display unit of the image pickup apparatus 5.

【0044】撮像装置5の撮影者は、このテンプレート
に合わせて人物の大きさ向きなどを設定して撮影するこ
とで容易に適正な顔画像を得ることが可能となる。こう
して撮影された人物画像は新規登録部11bに送り出さ
れ、新規登録部11bは撮像装置5から撮像データを受
取り、表示部2に表示する(S16)と共に、その画像
から特定人物の顔画像を抽出させるために顔抽出部15
aを起動する。顔抽出部15はその画像に撮影されてい
る人物の顔画像を抽出して(S17)、その結果を新規
登録部11bに返す。
The photographer of the image pickup apparatus 5 can easily obtain a proper face image by setting the size and orientation of the person in accordance with the template and photographing. The person image captured in this way is sent to the new registration unit 11b, and the new registration unit 11b receives the image data from the image pickup device 5 and displays it on the display unit 2 (S16), and at the same time, extracts the face image of the specific person from the image. Face extraction unit 15
Start a. The face extraction unit 15 extracts the face image of the person photographed in the image (S17) and returns the result to the new registration unit 11b.

【0045】次に新規登録部11bは、その抽出した顔
画像が参照画像として適切かどうかを判断する(S1
8)。例えば、顔の部分が髪または帽子などで覆われて
小さい場合、目を閉じている場合、等は不適切な顔画像
でありこのような場合は表示部2に適切でない旨の警告
を表示しまた不適切な理由を表示(S20)する。これ
によって撮影者は適正な顔画像を容易に再撮影すること
ができる。顔画像が適切と判断されたときは(S1
9)、顔のサイズを所定の大きさに調整した図5に示す
情報入力画面を表示部2に表示する(S21)。
Next, the new registration unit 11b determines whether the extracted face image is appropriate as a reference image (S1).
8). For example, if the face part is covered with hair or a hat and is small, or if the eyes are closed, etc. is an improper face image, and in such a case, the display unit 2 displays a warning that it is not appropriate. The inappropriate reason is displayed (S20). This allows the photographer to easily re-take an appropriate face image. If it is determined that the face image is appropriate (S1
9), the information input screen shown in FIG. 5 in which the size of the face is adjusted to a predetermined size is displayed on the display unit 2 (S21).

【0046】操作者が、後述する検索時の情報となる名
前、生年月日、撮影年月日、登録年月日などの付加情報
を入力して(S22)、登録ボタンを操作すれば新規登
録部11bは顔画像と付加情報を参照画像記憶部22に
登録する(S23)。そして、まだ処理すべき画像が残
っている場合(S24)は、以上の手順を繰り返す。
If the operator inputs additional information such as a name, date of birth, date of photography, date of registration, etc., which will be information at the time of retrieval, which will be described later (S22), and operates the register button to newly register. The unit 11b registers the face image and the additional information in the reference image storage unit 22 (S23). Then, when there are still images to be processed (S24), the above procedure is repeated.

【0047】参照画像の登録処理をこのように構成すれ
ば、人物の特徴を表す複数のインデックスを抽出しなく
ても簡便に参照画像として登録ができ、また不適切な顔
画像を除去して認識処理の確実性を高めることが可能と
なる。
If the reference image registration process is configured in this way, it can be easily registered as a reference image without extracting a plurality of indices representing the characteristics of a person, and an inappropriate face image can be removed for recognition. It is possible to increase the certainty of processing.

【0048】次に、外部の画像記録装置等から入力され
る画像を本画像処理装置の画像記憶部21に蓄積記憶す
る際の処理について説明する。操作者が、外部端末を画
像処理部1に接続してメニュー画面の画像蓄積処理ボタ
ン32を操作すると、画像蓄積処理部12が起動して画
像蓄積処理を行う。
Next, a process for accumulating and storing an image input from an external image recording device or the like in the image storage unit 21 of the image processing device will be described. When the operator connects the external terminal to the image processing unit 1 and operates the image storage processing button 32 on the menu screen, the image storage processing unit 12 is activated to perform the image storage processing.

【0049】図8、図9は、画像蓄積処理部12の概略
の動作手順を示すフロー図である。
FIG. 8 and FIG. 9 are flow charts showing a schematic operation procedure of the image storage processing unit 12.

【0050】本画像蓄積処理機能は、画像を入力する際
に、その後の検索処理で必要とされる検索情報を予め抽
出して画像と共に蓄積するものである。
This image storage processing function, when inputting an image, extracts beforehand the search information required for the subsequent search processing and stores it together with the image.

【0051】画像蓄積処理部12は、撮像装置5または
画像記録媒体6から画像データを受取り、表示部2に表
示する(S30)と共に、その画像から特定人物の顔画
像を抽出させるために顔抽出部15aを起動する。顔抽
出部15aはその画像に撮影されている人物の顔画像を
抽出して(S32)、その結果を画像蓄積処理部12に
返す。
The image storage processing unit 12 receives the image data from the image pickup device 5 or the image recording medium 6 and displays it on the display unit 2 (S30), and at the same time, extracts the face of a specific person from the image. The section 15a is activated. The face extraction unit 15a extracts the face image of the person photographed in the image (S32), and returns the result to the image accumulation processing unit 12.

【0052】画像蓄積処理部12は、画像データ中にあ
る各顔の位置情報(エリア情報又は中心座標)を確定す
る(S33)。
The image storage processing unit 12 determines the position information (area information or center coordinates) of each face in the image data (S33).

【0053】図10は、画像データ中にある各顔の位置
情報を確定する方法を示す図である。
FIG. 10 is a diagram showing a method for determining the position information of each face in the image data.

【0054】図10の(1)は、顔のエリア情報を示し
ている。この情報は、顔の存在する領域を例えば複数の
座標点からなる多角形で囲まれた領域として表してい
る。一方、図10の(2)は、顔の中心座標を示してい
る。この情報は、顔の存在する画像データ中の位置を例
えば顔の領域の略中心位置を示す1点の座標として代表
している。これらの顔位置情報は表示処理において人物
の顔の位置を特定するための情報として取り扱われる。
FIG. 10A shows face area information. This information represents the area where the face is present, for example, as an area surrounded by a polygon composed of a plurality of coordinate points. On the other hand, (2) in FIG. 10 shows the center coordinates of the face. This information represents the position of the face in the image data as, for example, the coordinates of one point indicating the approximate center position of the face area. The face position information is treated as information for specifying the position of the person's face in the display process.

【0055】続いて、画像蓄積処理部12は個人認識部
15bを起動する。個人認識部15bは、顔抽出部15
aが抽出した顔画像を参照画像の顔画像と照合し、参照
画像の人物として認識できるかどうかを調べる個人認識
処理を実行する(S34)。
Subsequently, the image storage processing section 12 activates the personal recognition section 15b. The personal recognition unit 15b is the face extraction unit 15
An individual recognition process is performed to check whether the face image extracted by a is compared with the face image of the reference image and whether the person can be recognized as the person of the reference image (S34).

【0056】顔画像が参照画像の特定の人物として認識
できた場合(S35)は、画像データ中の認識された人
物に参照画像の識別符号を付して表示部に表示し(S3
6)、参照画像の特定の人物として認識できなかった場
合(S35)は、画像データ中のその認識できなかった
人物に?符号を付して表示部に表示する(S37)。
When the face image can be recognized as a specific person in the reference image (S35), the recognized person in the image data is attached with the identification code of the reference image and displayed on the display unit (S3).
6) If the specific person in the reference image could not be recognized (S35), the person who could not be recognized in the image data? It is displayed with a reference numeral (S37).

【0057】以上の、個人認識処理を画像データに含ま
れる全ての人物について繰り返し照合を行ない、全ての
顔の照合が終わったときに(S38)、認識画面を表示
部2に表示する(S39)。
The individual recognition processing described above is repeated for all the persons included in the image data, and when the matching of all faces is completed (S38), the recognition screen is displayed on the display unit 2 (S39). .

【0058】図11は、認識画面の構成を示す図であ
る。
FIG. 11 is a diagram showing the structure of the recognition screen.

【0059】この認識画面では、画像データの各人物に
前述の識別符号が付されると共に、参照画像がサムネイ
ル形式で画面の下部に表示されている。この識別符号を
介して各人物と参照画像が関連付けられる。そしてこの
ように関連付けて表示することによって、操作者は認識
結果を容易に確認することができる。操作者は、識別符
号に基づいて画像データの人物と参照画像の人物を比較
して、変更または追加等の識別符号の修正が必要か否か
を判断する(S40)。
In this recognition screen, the above-mentioned identification code is attached to each person in the image data, and the reference image is displayed in the thumbnail form at the bottom of the screen. Each person is associated with the reference image via this identification code. By thus displaying the association, the operator can easily confirm the recognition result. The operator compares the person in the image data with the person in the reference image based on the identification code to determine whether or not the identification code needs to be changed or changed (S40).

【0060】変更または追加が必要であるときは、画像
上のメニュー(図示していない)から変更または追加を
選択してその操作を行う(S41)。
When the change or addition is necessary, the change or addition is selected from the menu (not shown) on the image and the operation is performed (S41).

【0061】変更を選択した場合(S42)は、先ず画
像上の人物を、その顔位置(または顔エリア内)にマウ
スなどを操作することによって特定し、次にその人物に
対応させようとする参照画像をマウスなどを用いて特定
する(S43)。この操作によって画像データ上の人物
に付された識別符号が特定された参照画像の識別符号に
変更される。
When the change is selected (S42), first, the person on the image is specified by operating the mouse or the like at the face position (or in the face area), and then the person is to be made to correspond. The reference image is specified using a mouse or the like (S43). By this operation, the identification code given to the person on the image data is changed to the identification code of the specified reference image.

【0062】追加を選択した場合(S42)は、画像上
の人物を、その顔位置(または顔エリア内)にマウスな
どを操作することによって特定し、次にその人物を登録
させようとする空きの参照画像欄(図11では識別符号
「0」の欄)をマウスなどを用いて対応させる(S4
4)。この操作によって、画像データ上の該人物の顔の
部分が参照画像用に切り出されて表示される(S4
5)。そして同時に表示される付加情報入力欄に名前な
どの情報を入力して追加登録操作を行う(S46)。す
ると、追加した参照画像の識別符号が新たな識別符号と
して画像上の人物に付されて表示される。尚、この追加
登録操作は図5に示す情報入力画面を用いて構成しても
良い。
When the addition is selected (S42), the person on the image is specified by operating the mouse or the like at the face position (or in the face area), and then the vacant space for registering the person is obtained. The corresponding reference image column (column of the identification code “0” in FIG. 11) using a mouse or the like (S4
4). By this operation, the face portion of the person on the image data is cut out and displayed for the reference image (S4).
5). Then, information such as a name is input to the additional information input field displayed at the same time to perform an additional registration operation (S46). Then, the identification code of the added reference image is displayed as a new identification code attached to the person on the image. The additional registration operation may be configured using the information input screen shown in FIG.

【0063】この変更追加の操作を必要な数だけ繰り返
して実行し、全ての変更追加処理が終わったときは(S
47)、蓄積操作を行うことにより、画像データと参照
画像から読み出した人物の個人名、顔位置情報等の付加
情報とを画像記憶部21に記憶させる(S48)。そし
て、以上の処理を全ての入力画像について繰り返して
(S49)、画像蓄積処理を終了する。
This change addition operation is repeatedly executed as many times as necessary, and when all the change addition processing is completed (S
47) Then, by performing the accumulation operation, the image data and the additional information such as the personal name of the person and the face position information read from the reference image are stored in the image storage unit 21 (S48). Then, the above processing is repeated for all input images (S49), and the image storage processing is ended.

【0064】図12は、画像記憶部21のデータの構成
を示す図である。
FIG. 12 is a diagram showing a data structure of the image storage unit 21.

【0065】ヘッダ部には、その画像のファイル名と共
に、撮影年月、登録年月、人物の名前、生年月日、顔位
置情報等の付加情報が記憶され、それと対応した本画像
部には画像データが例えばJPEG方式によって圧縮さ
れるなどして記憶されている。
The header portion stores the image file name, additional information such as shooting date, registration date, person's name, date of birth, face position information, etc., and the corresponding main image portion is stored in the header portion. The image data is stored, for example, compressed by the JPEG method.

【0066】尚、本実施例では、外部の画像記録装置等
から入力される画像を対象として蓄積記録する処理につ
いて説明したが、本発明はこの形態に限定されるもので
はなく、一旦前述の処理がされ装置内部の画像記憶部2
1に蓄積されている画像を対象として再度同じ処理を繰
り返して蓄積記録するように構成することもできる。こ
のように構成すれば、新しく追加された参照画像に関す
る付加情報を取り込んで、検索などの処理を行うことが
可能となる。
In the present embodiment, the processing of accumulating and recording the image input from the external image recording device or the like has been described, but the present invention is not limited to this mode, and the above-described processing is once performed. Image storage unit 2 inside the device
It is also possible to configure so that the same processing is repeated again for the image accumulated in No. 1 to be accumulated and recorded. With this configuration, it is possible to take in additional information relating to the newly added reference image and perform processing such as search.

【0067】次に、検索機能について説明する。本機能
は、参照画像の人物が含まれている画像を抽出してサム
ネイルで表示する機能であり、このとき検索する画像は
外部画像記録媒体に記録されている場合と、内部の記録
媒体である画像記録部に記録されている場合の2つの場
合がある。
Next, the search function will be described. This function is a function of extracting an image including a person in the reference image and displaying it as a thumbnail. The image to be searched at this time is recorded in an external image recording medium or in an internal recording medium. There are two cases where the image is recorded in the image recording unit.

【0068】先ず、外部画像記録媒体に記録されている
画像の処理について説明する。外部端末を画像処理部1
に接続してメニュー画面の参照画像指定検索ボタン33
を操作すると、参照画像指定検索部13aが起動して検
索処理を行う。
First, the processing of the image recorded on the external image recording medium will be described. The external terminal is the image processing unit 1
Connect to and search button 33
When is operated, the reference image designation search unit 13a is activated to perform a search process.

【0069】図13、図14は、参照画像指定検索部1
3aの概略の動作手順を示すフロー図である。
13 and 14 show the reference image designation search unit 1
It is a flowchart which shows the outline operation procedure of 3a.

【0070】先ず参照画像指定検索部13aは、図15
に示す参照画像の一覧を表示部2に表示する(S5
1)。操作者は、この画面上で検索したい人物をマウス
などで指定して特定するが、この際複数画像を指定する
ことも可能である(S52)。すると、特定された該当
人物の参照画像のみが表示部2に一覧表示される(S5
3)。
First, the reference image designation retrieval section 13a operates as shown in FIG.
A list of reference images shown in is displayed on the display unit 2 (S5).
1). The operator specifies a person to be searched on this screen by using a mouse or the like, and at this time, it is also possible to specify a plurality of images (S52). Then, only the reference images of the identified persons are displayed as a list on the display unit 2 (S5).
3).

【0071】続いて参照画像指定検索部13aは、一覧
表示されている参照画像の付帯情報から撮影年月を取り
出して、その年月が現在から所定の期間内にあるか否か
を調べる(S54)。所定の期間内にない場合は、その
参照画像は旧い画像であるため、その参照画像のみの表
示色を変更するなどして操作者に注意を促し、新しい参
照画像の再登録を促す警告メッセージを出力する(S5
5)。このように構成することにより、旧い参照画像の
まま更新がされない不具合を防止することができる。ま
た、該当人物の年令によって所定期間を変更してもよ
い。つまり、生年月日より年令を計算し、子供であれば
顔の変化が大きいことから所定期間を短く設定するよう
にするとより適切になる。
Subsequently, the reference image designation search unit 13a extracts the shooting date from the incidental information of the reference images displayed in a list, and checks whether or not the shooting date is within a predetermined period from the present (S54). ). If it is not within the predetermined period, the reference image is an old image, so the operator is cautioned by changing the display color of only the reference image, and a warning message is displayed to re-register the new reference image. Output (S5
5). With this configuration, it is possible to prevent a problem that the old reference image is not updated as it is. Further, the predetermined period may be changed according to the age of the person. In other words, it is more appropriate to calculate the age from the date of birth and set the predetermined period to be short because the change in the face is large for children.

【0072】尚、本実施例では、人物を特定したときに
参照画像の撮影年月のチェックを行っているが、この形
態のみに限定されず参照画像を一覧表示する際には常に
撮影年月のチェックを行うように構成しても良い。
In the present embodiment, the shooting date of the reference image is checked when the person is specified. However, the present invention is not limited to this form, and the shooting date is always displayed when the reference images are displayed in a list. The check may be performed.

【0073】次に参照画像指定検索部13aは、撮像装
置5または画像記録媒体6から画像データを受取り、表
示部2に表示する(S56)と共に、その画像から特定
人物の顔画像を抽出させるために顔抽出部15aを起動
する。顔抽出部15aはその画像に撮影されている人物
の顔画像を抽出して(S57)、その結果を参照画像指
定検索部13aに返す。
Next, the reference image designation search section 13a receives the image data from the image pickup device 5 or the image recording medium 6, displays it on the display section 2 (S56), and extracts the face image of the specific person from the image. Then, the face extraction unit 15a is activated. The face extraction unit 15a extracts the face image of the person photographed in the image (S57), and returns the result to the reference image designation search unit 13a.

【0074】顔画像が抽出できなかった場合(S58)
は、抽出できない旨のメッセージを表示して(S5
9)、次の画像データの処理を開始する。
When the face image cannot be extracted (S58)
Displays a message stating that it cannot be extracted (S5
9) Then, the processing of the next image data is started.

【0075】顔画像が抽出できた場合(S58)は、そ
の顔画像と参照画像を比較照合させるが、参照画像に同
一人物が複数含まれている場合は、その画像データが撮
影された日付けに近い日付けを持つその人物の参照画像
を選択する(S60)。そして、参照画像指定検索部1
3aは個人認識部15bを起動する。個人認識部15b
は、顔抽出部15aが抽出した顔画像を参照画像の顔画
像と照合し、参照画像の人物として認識できるかどうか
を調べる個人認識処理を実行する(S61)。
When the face image can be extracted (S58), the face image and the reference image are compared and collated. However, when the reference image includes a plurality of the same person, the date when the image data was photographed A reference image of the person having a date close to is selected (S60). Then, the reference image designation search unit 1
3a activates the personal recognition unit 15b. Individual recognition unit 15b
Performs a personal recognition process of checking whether or not the face image extracted by the face extraction unit 15a is compared with the face image of the reference image to recognize the person as the reference image (S61).

【0076】参照画像の特定の人物として認識できた場
合(S62)は、画像データ中の認識された人物を、例
えばマークを付するなどして強調して記憶する(S6
3)。参照画像の特定の人物として認識できなかった場
合(S62)は、その画像データ中には参照画像の人物
がいない旨のメッセージを表示部に表示(S64)して
次の画像データの処理を行う。
When the recognized person in the reference image can be recognized (S62), the recognized person in the image data is emphasized and stored by, for example, attaching a mark (S6).
3). When the person cannot be recognized as the specific person in the reference image (S62), a message indicating that there is no person in the reference image in the image data is displayed on the display unit (S64) and the next image data is processed. .

【0077】この処理を全ての入力画像データについて
繰り返し、全ての入力画像データの処理が完了したとき
は(S65)、抽出した画像データをサムネイル形式で
一覧として表示する(S66)。そして、このサムネイ
ルを選択することによってその画像データが通常のサイ
ズで表示される。
This processing is repeated for all input image data, and when the processing for all input image data is completed (S65), the extracted image data is displayed as a list in the thumbnail format (S66). Then, by selecting this thumbnail, the image data is displayed in a normal size.

【0078】このように構成することにより、検索しよ
うとする画像の撮影された日付に近い顔画像を参照画像
として検索することができるため、同一人物の他の参照
画像に基づいた検索が不要となり検索時間を短縮できる
と共に、検索精度を高めることができる。また、検索結
果をサムネイル表示、拡大表示する機能を設けることに
より検索結果を容易に確認することができる。
With this configuration, since it is possible to search for a face image close to the date on which the image to be searched is taken as a reference image, it is not necessary to perform a search based on another reference image of the same person. The search time can be shortened and the search accuracy can be improved. Further, the search result can be easily confirmed by providing a function of displaying the search result in the thumbnail form or in the enlarged form.

【0079】次に、内部記録媒体に記録されている画像
の処理について説明する。操作者がメニュー画面の参照
画像指定検索ボタン33を操作すると、参照画像指定検
索部13aが起動して検索処理を開始する。
Next, the processing of the image recorded on the internal recording medium will be described. When the operator operates the reference image designation search button 33 on the menu screen, the reference image designation search unit 13a is activated to start the search process.

【0080】図16は、参照画像指定検索部13aの概
略の動作手順を示すフロー図である。本内部画像の検索
では、前述の画像蓄積処理によって検索情報が既に抽出
されているため、外部画像の検索と比して高速に検索す
ることができる。
FIG. 16 is a flow chart showing a schematic operation procedure of the reference image designation search section 13a. In the search for the main internal image, since the search information has already been extracted by the above-described image storage processing, the search can be performed faster than the search for the external image.

【0081】参照画像指定検索部13aは、先ず参照画
像の選択処理を行うがこの手順は前述のステップS51
からステップS55と同じであるため、その詳細の説明
は省略する。続いて参照画像指定検索部13aは、指定
された画像記憶部21の各画像毎のヘッダ部の情報を取
り出す(S70)。そして、参照画像の付加情報に記載
されてある名前などが、ヘッダ情報にある名前等と一致
するかどうかを調べる(S71)。一致する場合(S7
2)は、その画像を抽出して記憶し(S73)、一致し
ない場合は、その画像には検索する人物はいないものと
して次の画像データの検索処理に移る。
The reference image designation / retrieval unit 13a first performs a reference image selection process. This procedure is performed by the above-described step S51.
Since this is the same as step S55, detailed description thereof will be omitted. Subsequently, the reference image designation search unit 13a retrieves the information of the header portion for each image of the designated image storage unit 21 (S70). Then, it is checked whether the name or the like described in the additional information of the reference image matches the name or the like in the header information (S71). If they match (S7
In 2), the image is extracted and stored (S73). If they do not match, it is determined that there is no person to search in the image, and the process proceeds to the next image data search process.

【0082】この処理を全ての入力画像データについて
繰り返し、全ての入力画像データの処理が完了したとき
は(S74)、抽出した画像データをサムネイル形式で
一覧として表示する(S75)。そして、このサムネイ
ルを操作者が選択するとその画像データが通常のサイズ
で表示される。
This processing is repeated for all input image data, and when the processing for all input image data is completed (S74), the extracted image data is displayed as a list in thumbnail format (S75). When the operator selects this thumbnail, the image data is displayed in a normal size.

【0083】このように、付加情報を検索するように構
成することで高速に検索を行うことができる。
As described above, the additional information can be searched at high speed.

【0084】次に、内部に蓄積された画像を本画像処理
装置の表示部2に表示し、またプリンタ4に出力する際
の処理について説明する。操作者が、メニュー画面の画
像表示ボタン34を操作すると、画像表示部14が起動
して画像表示処理を行う。
Next, the process of displaying the image stored inside on the display unit 2 of the image processing apparatus and outputting it to the printer 4 will be described. When the operator operates the image display button 34 on the menu screen, the image display unit 14 is activated to perform image display processing.

【0085】図17は、画像表示部14の概略の動作手
順を示すフロー図である。
FIG. 17 is a flow chart showing a schematic operation procedure of the image display unit 14.

【0086】操作者が表示したい画像を指定すると、画
像表示部14は画像記憶部21からヘッダ情報とその画
像データを読み出して表示部2に画像を表示する(S8
0)。操作者が画像データの特定の人物の上にマウス等
を操作してポインタを移動すると、画像表示部14はそ
のポインタの位置を読み取って、ヘッダ情報の顔位置デ
ータである顔座標または顔エリア情報と対応させる(S
81)。
When the operator designates an image to be displayed, the image display unit 14 reads the header information and its image data from the image storage unit 21 and displays the image on the display unit 2 (S8).
0). When the operator operates the mouse or the like on a specific person in the image data to move the pointer, the image display unit 14 reads the position of the pointer, and the face coordinates or face area information which is the face position data of the header information. (S
81).

【0087】そして、ヘッダ情報の顔位置データと対応
が付けられたときは、その人物の名前などの個人情報を
表示し(S82)、更に、操作者がその人物の上にポイ
ンタを合わせてクリックすれば人物の拡大像が表示され
る(S83)。
If the face position data in the header information is associated with the personal information, the personal information such as the name of the person is displayed (S82), and the operator puts the pointer on the person and clicks. Then, an enlarged image of the person is displayed (S83).

【0088】続いて、操作者が表示されている画像を印
刷する指示操作を行ったときは、画像表示部14は画像
記憶部21から読み出したヘッダ情報とその画像データ
をプリント処理部16に渡して印刷動作を開始させる
(S86)。そしてプリント処理部16は画像と共に、
ヘッダ情報にある日付け、個人名などの付加情報をプリ
ントする(S87)。
Subsequently, when the operator performs an instruction operation to print the displayed image, the image display unit 14 passes the header information read from the image storage unit 21 and the image data to the print processing unit 16. Then, the printing operation is started (S86). Then, the print processing unit 16, together with the image,
Additional information such as the date and personal name in the header information is printed (S87).

【0089】このように、本機能では、前述の画像蓄積
処理によって付加情報が既に抽出されているため、人物
の画像上にポインタを置くだけでその人物の名前が表示
でき、また人物上でクリックすればその人物の拡大像を
表示させることができ、プリントアウトすれば画像だけ
でなく写っている人物の名前などの付加情報も併せて印
刷することができる。従って、簡便な取り扱いによって
関連した情報を集約して参照することができる。
As described above, in this function, since the additional information has already been extracted by the above-mentioned image storage processing, the name of the person can be displayed by simply pointing the pointer on the image of the person, and clicking on the person. If so, a magnified image of the person can be displayed, and if printed out, not only the image but also additional information such as the name of the person in the image can be printed. Therefore, related information can be collectively referred to by a simple handling.

【0090】尚、本実施例では簡便な操作で特定人物の
名前の表示等ができるように構成しているが、本発明は
この実施例に限定されるものではなく、同様の操作によ
って例えば関連付けられた音声情報、他の画像情報等を
表示または出力するように構成しても良い。
In this embodiment, the name of a specific person can be displayed by a simple operation, but the present invention is not limited to this embodiment. It may be configured to display or output the obtained audio information and other image information.

【0091】また、本実施例では撮像画像を対象として
デジタルアルバムの機能を目的として説明したが、本発
明はこの実施例に限定されるものではなく、顔を認識し
て特定するための個人認証、写真照合等の技術領域に広
く適用できるものである。
Further, although the present embodiment has been described for the purpose of the function of the digital album for the picked-up image, the present invention is not limited to this embodiment, and the personal authentication for recognizing and specifying the face is specified. It can be widely applied to technical fields such as photo collation.

【0092】[0092]

【発明の効果】以上説明したように、本発明によれば簡
便な操作で人物を特定して画像を高速にかつ高い信頼性
の下で検索することができ、また画像を多彩な形態で表
示することができる。
As described above, according to the present invention, a person can be specified by a simple operation to retrieve an image at high speed and with high reliability, and an image can be displayed in various forms. can do.

【図面の簡単な説明】[Brief description of drawings]

【図1】本発明に係る画像処理装置の構成を示すブロッ
ク図。
FIG. 1 is a block diagram showing the configuration of an image processing apparatus according to the present invention.

【図2】画像処理装置の処理機能を表すメニュー画面。FIG. 2 is a menu screen showing processing functions of the image processing apparatus.

【図3】画像指定登録部の概略の動作手順を示すフロー
図。
FIG. 3 is a flowchart showing a schematic operation procedure of an image designation registration unit.

【図4】顔抽出部による顔抽出結果を示す図。FIG. 4 is a diagram showing a face extraction result by a face extraction unit.

【図5】情報入力画面の構成を示す図FIG. 5 is a diagram showing the structure of an information input screen.

【図6】新規登録部の概略の動作手順を示すフロー図。FIG. 6 is a flowchart showing a schematic operation procedure of a new registration unit.

【図7】撮像装置の表示部に表示される人物像を示す
図。
FIG. 7 is a diagram showing a person image displayed on the display unit of the image pickup apparatus.

【図8】画像蓄積処理部の概略の動作手順を示すフロー
図。
FIG. 8 is a flowchart showing a schematic operation procedure of an image storage processing unit.

【図9】画像蓄積処理部の概略の動作手順を示すフロー
図。
FIG. 9 is a flowchart showing a schematic operation procedure of an image storage processing unit.

【図10】画像データ中にある各顔の位置情報を確定す
る方法を示す図。
FIG. 10 is a diagram showing a method of deciding positional information of each face in image data.

【図11】認識画面の構成を示す図。FIG. 11 is a diagram showing a configuration of a recognition screen.

【図12】画像記憶部のデータの構成を示す図。FIG. 12 is a diagram showing a data configuration of an image storage unit.

【図13】参照画像指定検索部の概略の動作手順を示す
フロー図。
FIG. 13 is a flowchart showing a schematic operation procedure of a reference image designation search unit.

【図14】参照画像指定検索部の概略の動作手順を示す
フロー図。
FIG. 14 is a flowchart showing a schematic operation procedure of a reference image designation search unit.

【図15】参照画像の一覧を示す図。FIG. 15 is a diagram showing a list of reference images.

【図16】参照画像指定検索部の概略の動作手順を示す
フロー図。
FIG. 16 is a flowchart showing a schematic operation procedure of a reference image designation search unit.

【図17】画像表示部の概略の動作手順を示すフロー
図。
FIG. 17 is a flowchart showing a schematic operation procedure of the image display unit.

【符号の説明】[Explanation of symbols]

1…画像処理部 2…表示部 4…プリンタ 5…撮像装置 6…画像記録媒体 11a…画像指定登録部 11b…新規登録部 12…画像蓄積処理部 13a…参照画像指定検索部 14…画像表示部 15a…顔抽出部 15b…個人認識部 16…プリント処理部 21…画像記憶部 22…参照画像記憶部 1 ... Image processing unit 2 ... Display 4 ... Printer 5 ... Imaging device 6 ... Image recording medium 11a ... Image designation registration unit 11b ... New registration section 12 ... Image storage processing unit 13a ... Reference image designation search unit 14 ... Image display section 15a ... Face extraction unit 15b ... Individual recognition unit 16 ... Print processing unit 21 ... Image storage unit 22 ... Reference image storage unit

───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 5/76 H04N 5/76 B 5/765 5/91 L Fターム(参考) 5B050 BA12 CA07 EA06 EA12 EA18 FA02 FA12 GA08 5B075 ND06 NK02 NK06 NK24 PP22 PP28 PR06 QM08 QP05 5C052 AA12 AB04 AC08 DD02 DD04 EE02 EE03 5C053 FA06 FA08 FA23 HA29 JA30 LA01 LA03 LA11 5L096 BA18 EA03 FA06 HA07 KA09─────────────────────────────────────────────────── ─── Continuation of front page (51) Int.Cl. 7 Identification code FI theme code (reference) H04N 5/76 H04N 5/76 B 5/765 5/91 LF term (reference) 5B050 BA12 CA07 EA06 EA12 EA18 FA02 FA12 GA08 5B075 ND06 NK02 NK06 NK24 PP22 PP28 PR06 QM08 QP05 5C052 AA12 AB04 AC08 DD02 DD04 EE02 EE03 5C053 FA06 FA08 FA23 HA29 JA30 LA01 LA03 LA11 5L096 BA18 EA03 FA06 HA07 KA09

Claims (8)

【特許請求の範囲】[Claims] 【請求項1】 画像検索手段を有する画像処理装置にお
いて、 画像検索の基準とする参照画像を参照画像の撮影日情報
と共に記憶する参照画像記憶手段と、 画像蓄積装置から入力された入力画像から顔画像を抽出
する抽出手段と、 前記入力画像の撮影された日付けに近い撮影日付けをも
つ参照画像を選択し、その参照画像を基準として前記顔
画像を検索する選択検索手段とを備えたことを特徴とす
る画像処理装置。
1. An image processing apparatus having an image search means, a reference image storage means for storing a reference image as a reference for image search together with information on the shooting date of the reference image, and a face from the input image input from the image storage device. An extraction unit that extracts an image; and a selection search unit that selects a reference image having a shooting date close to the shooting date of the input image and searches the face image with the reference image as a reference. An image processing device characterized by:
【請求項2】 前記選択検索手段により該当する顔画像
が検索されたときに、この顔画像を有する前記入力画像
を表示する検索表示手段を備えたことを特徴とする請求
項1に記載の画像処理装置。
2. The image according to claim 1, further comprising search display means for displaying the input image having the face image when the face image is searched by the selective search means. Processing equipment.
【請求項3】 画像検索手段を有する画像処理装置にお
いて、 画像検索の基準とする参照画像を参照画像の撮影日、そ
の人物に関する情報を含む第1の付加情報と共に記憶す
る参照画像記憶手段と、 画像蓄積装置に画像と共に記録されている人物、撮影年
に関する情報を含む第2の付加情報を検索し、前記第1
及び第2の付加情報に基づいて前記画像を抽出する情報
検索手段とを備えたことを特徴とする画像処理装置。
3. An image processing apparatus having an image search means, a reference image storage means for storing a reference image as a reference for image search, together with a first additional information including a date of photographing the reference image and information about the person. The second additional information including information about the person and the shooting year recorded in the image storage device together with the image is searched for, and the first additional information
And an information search means for extracting the image based on the second additional information.
【請求項4】 前記画像を抽出したときはこの画像を表
示する検索表示手段を備えたことを特徴とする請求項3
に記載の画像処理装置。
4. A retrieval display means for displaying the image when the image is extracted is provided.
The image processing device according to item 1.
【請求項5】 画像検索手段を有する画像処理装置にお
いて、 画像検索の基準とする参照画像を参照画像の撮影日情報
と共に記憶する参照画像記憶手段と、 画像蓄積装置から入力された入力画像から顔画像を抽出
する抽出手段と、 前記顔画像と同一人物の前記参照画像を検索する顔画像
検索手段と、 前記顔画像検索手段で該当した参照画像を抽出したとき
は該当した参照画像に付加されている人物の名前、撮影
年の内少なくとも1つに関する内容を前記入力画像とと
もに記憶する記憶手段と、 前記記憶手段によって記憶された入力画像を表示する画
像表示手段と、 前記表示された入力画像に含まれる顔画像が指定された
ときは、その人物の名前を表示する名前表示手段とを備
えたことを特徴とする画像処理装置。
5. An image processing apparatus having an image search means, a reference image storage means for storing a reference image as a reference for image search together with information on the shooting date of the reference image, and a face from the input image input from the image storage device. Extracting means for extracting an image; face image searching means for searching for the reference image of the same person as the face image; and when the corresponding reference image is extracted by the face image searching means, it is added to the corresponding reference image. A name of a person who is present and a storage unit that stores at least one of the shooting years together with the input image; an image display unit that displays the input image stored by the storage unit; and a storage unit included in the displayed input image. When a face image to be displayed is designated, the image processing apparatus is provided with name display means for displaying the name of the person.
【請求項6】 前記表示された入力画像に含まれる顔画
像を指定して所定の操作がされたときは、その人物の顔
画像を拡大表示する顔表示手段を備えたことを特徴とす
る請求項5に記載の画像処理装置。
6. When the face image included in the displayed input image is designated and a predetermined operation is performed, the face image of the person is enlarged and displayed as face display means. Item 5. The image processing device according to item 5.
【請求項7】 画像検索手段を有する画像処理装置にお
いて、 画像検索の基準とする参照画像を参照画像の撮影日情報
と共に記憶する参照画像記憶手段と、 画像蓄積装置から入力された入力画像から顔画像を抽出
する抽出手段と、 前記顔画像と同一人物の前記参照画像を検索する顔画像
検索手段と、 前記顔画像検索手段で該当した参照画像を抽出したとき
は該当した参照画像に付加されている人物の名前、撮影
年に関する情報の内少なくとも1つを前記入力画像とと
もに記憶する記憶手段と、 前記入力画像とともにこの画像に含まれる人物の名前を
印刷装置に出力する出力手段とを備えたことを特徴とす
る画像処理装置。
7. An image processing apparatus having an image search means, a reference image storage means for storing a reference image as a reference for image search together with shooting date information of the reference image, and a face from the input image input from the image storage device. Extracting means for extracting an image; face image searching means for searching for the reference image of the same person as the face image; and when the corresponding reference image is extracted by the face image searching means, it is added to the corresponding reference image. A storage unit that stores at least one of the name of the person and the information about the shooting year together with the input image; and an output unit that outputs the name of the person included in the image together with the input image to the printing apparatus. An image processing device characterized by:
【請求項8】 画像検索手段を有する画像処理装置の画
像処理プログラムにおいて、 コンピュータに、 画像検索の基準とする参照画像を参照画像の撮影日情報
と共に記憶する参照画像記憶手順、 画像蓄積装置から入力された入力画像から顔画像を抽出
する抽出手順、 前記入力画像の撮影された日付けに近い撮影日付けをも
つ参照画像を選択し、その参照画像を基準として前記顔
画像を検索する選択検索手順、を実行させるためのプロ
グラム。
8. An image processing program of an image processing apparatus having an image search means, a reference image storing procedure for storing a reference image as a reference of image search together with information on a shooting date of the reference image into the computer, and input from the image storage apparatus. An extraction procedure for extracting a face image from the input image that has been input, a selection search procedure for selecting a reference image having a shooting date close to the shooting date of the input image, and searching for the face image based on the reference image A program to execute ,.
JP2001346597A 2001-11-12 2001-11-12 Image processor and program Pending JP2003150617A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001346597A JP2003150617A (en) 2001-11-12 2001-11-12 Image processor and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001346597A JP2003150617A (en) 2001-11-12 2001-11-12 Image processor and program

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2007223989A Division JP4603569B2 (en) 2007-08-30 2007-08-30 Image processing apparatus and program

Publications (1)

Publication Number Publication Date
JP2003150617A true JP2003150617A (en) 2003-05-23

Family

ID=19159747

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001346597A Pending JP2003150617A (en) 2001-11-12 2001-11-12 Image processor and program

Country Status (1)

Country Link
JP (1) JP2003150617A (en)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005102175A (en) * 2003-08-25 2005-04-14 Fuji Photo Film Co Ltd Digital camera
WO2007001026A1 (en) * 2005-06-28 2007-01-04 Matsushita Electric Industrial Co., Ltd. Image processing device, and image processing method
JP2008099301A (en) * 2007-10-19 2008-04-24 Fujifilm Corp Image processing apparatus, image processing method, and program
KR20100111092A (en) * 2009-04-06 2010-10-14 삼성전자주식회사 Digital photographing apparatus, method for controlling the same, and recording medium storing program to implement the method
JP2010237942A (en) * 2009-03-31 2010-10-21 Nec Personal Products Co Ltd Taste information processing system, portable information terminal, taste information processing program, and taste information processing method
JP2010246820A (en) * 2009-04-20 2010-11-04 Oizumi Corp Game medium identification device
WO2011105191A1 (en) * 2010-02-26 2011-09-01 ブラザー工業株式会社 Information processing device, information processing system, information processing method, and information processing program
JP4832518B2 (en) * 2005-11-02 2011-12-07 オリンパス株式会社 Image processing apparatus, image processing method thereof, and image processing program
US8194935B2 (en) 2005-09-16 2012-06-05 Canon Kabushiki Kaisha Image processing apparatus and method
JP2014515842A (en) * 2011-02-18 2014-07-03 グーグル・インク Face recognition
JP2015062141A (en) * 2009-08-07 2015-04-02 グーグル インコーポレイテッド User interface for presenting search results for multiple regions of visual query
JP2017037436A (en) * 2015-08-07 2017-02-16 富士通株式会社 Composition preparation support program, input support program, composition preparation support method, input support method and information processor
JP2018106579A (en) * 2016-12-28 2018-07-05 株式会社コロプラ Information providing method, program, and information providing apparatus
JP2019023876A (en) * 2018-09-04 2019-02-14 ユニファ株式会社 Image management system and image management method
US10534808B2 (en) 2009-08-07 2020-01-14 Google Llc Architecture for responding to visual query

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005102175A (en) * 2003-08-25 2005-04-14 Fuji Photo Film Co Ltd Digital camera
WO2007001026A1 (en) * 2005-06-28 2007-01-04 Matsushita Electric Industrial Co., Ltd. Image processing device, and image processing method
US8194935B2 (en) 2005-09-16 2012-06-05 Canon Kabushiki Kaisha Image processing apparatus and method
JP4832518B2 (en) * 2005-11-02 2011-12-07 オリンパス株式会社 Image processing apparatus, image processing method thereof, and image processing program
JP2008099301A (en) * 2007-10-19 2008-04-24 Fujifilm Corp Image processing apparatus, image processing method, and program
JP4494450B2 (en) * 2007-10-19 2010-06-30 富士フイルム株式会社 Image processing apparatus, image processing method, and program
JP2010237942A (en) * 2009-03-31 2010-10-21 Nec Personal Products Co Ltd Taste information processing system, portable information terminal, taste information processing program, and taste information processing method
KR20100111092A (en) * 2009-04-06 2010-10-14 삼성전자주식회사 Digital photographing apparatus, method for controlling the same, and recording medium storing program to implement the method
KR101594293B1 (en) 2009-04-06 2016-02-16 삼성전자주식회사 Digital photographing apparatus method for controlling the same and recording medium storing program to implement the method
JP2010246820A (en) * 2009-04-20 2010-11-04 Oizumi Corp Game medium identification device
JP2015062141A (en) * 2009-08-07 2015-04-02 グーグル インコーポレイテッド User interface for presenting search results for multiple regions of visual query
US10534808B2 (en) 2009-08-07 2020-01-14 Google Llc Architecture for responding to visual query
JP2011180780A (en) * 2010-02-26 2011-09-15 Brother Industries Ltd Information processing device, information processing system, information processing method, and information processing program
WO2011105191A1 (en) * 2010-02-26 2011-09-01 ブラザー工業株式会社 Information processing device, information processing system, information processing method, and information processing program
JP2014515842A (en) * 2011-02-18 2014-07-03 グーグル・インク Face recognition
KR101551417B1 (en) * 2011-02-18 2015-09-08 구글 인코포레이티드 Facial recognition
JP2017037436A (en) * 2015-08-07 2017-02-16 富士通株式会社 Composition preparation support program, input support program, composition preparation support method, input support method and information processor
JP2018106579A (en) * 2016-12-28 2018-07-05 株式会社コロプラ Information providing method, program, and information providing apparatus
JP2019023876A (en) * 2018-09-04 2019-02-14 ユニファ株式会社 Image management system and image management method

Similar Documents

Publication Publication Date Title
JP3984029B2 (en) Image processing apparatus and program
JP4039847B2 (en) Image processing apparatus and program
US8345118B2 (en) Image capturing apparatus, image capturing method, album creating apparatus, album creating method, album creating system and computer readable medium
KR100996066B1 (en) Face-image registration device, face-image registration method, face-image registration program, and recording medium
JP4569471B2 (en) Electronic image storage method, electronic image storage device, and electronic image storage system
US8743410B2 (en) Method, apparatus, and program for laying out images
TW201921270A (en) Method and system for interfacing with a user to facilitate an image search for a person-of-interest
US20080189270A1 (en) Image retrieval apparatus, image retrieval method, image pickup apparatus, and program
JP2003150617A (en) Image processor and program
EP1898339A1 (en) Retrieval system and retrieval method
JP2007129434A (en) Information processor and method, and program
JP2000276484A (en) Device and method for image retrieval and image display device
JP2010057073A (en) Album creating apparatus and album creating program
EP3073394A1 (en) Image processing device, image processing method, program, and recording medium
US20050157952A1 (en) Image retrieval apparatus and method, and image display apparatus and method thereof
US20020078038A1 (en) Data search apparatus and method
JP4603569B2 (en) Image processing apparatus and program
JP2004280254A (en) Contents categorizing method and device
US20070031066A1 (en) Device and method for image searching, and recording medium in which image searching program is recorded
JP2002185908A (en) Computer-readable recording medium recording image extract program, image extract device and image extract method
JP2009217828A (en) Image retrieval device
JP5366676B2 (en) IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
JP5237724B2 (en) Image search system
JP2003330941A (en) Similar image sorting apparatus
JP2006101156A (en) Information processing device and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041105

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070417

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070601

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070703