JP5552946B2 - Face image sample collection device, face image sample collection method, program - Google Patents

Face image sample collection device, face image sample collection method, program Download PDF

Info

Publication number
JP5552946B2
JP5552946B2 JP2010172854A JP2010172854A JP5552946B2 JP 5552946 B2 JP5552946 B2 JP 5552946B2 JP 2010172854 A JP2010172854 A JP 2010172854A JP 2010172854 A JP2010172854 A JP 2010172854A JP 5552946 B2 JP5552946 B2 JP 5552946B2
Authority
JP
Japan
Prior art keywords
person
area
image
video
image sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010172854A
Other languages
Japanese (ja)
Other versions
JP2012033054A (en
Inventor
勇児 糟谷
慶二 大村
禎史 荒木
Original Assignee
株式会社リコー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社リコー filed Critical 株式会社リコー
Priority to JP2010172854A priority Critical patent/JP5552946B2/en
Publication of JP2012033054A publication Critical patent/JP2012033054A/en
Application granted granted Critical
Publication of JP5552946B2 publication Critical patent/JP5552946B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、映像に含まれる人物の顔領域から個人識別するための顔画像サンプルを採取する顔画像サンプル採取装置等に関し、特に、顔画像サンプルにIDを付与して顔画像サンプルを採取する顔画像サンプル等に関する。   The present invention relates to a face image sample collection device that collects a face image sample for personal identification from a face area of a person included in a video, and more particularly to a face that collects a face image sample by assigning an ID to the face image sample. It relates to image samples.
映像中の顔画像から人物を識別するためには、同一人物に同一の人物IDを付与し、人物IDと顔画像又はその特徴量を紐付けて採取することが必要となる。   In order to identify a person from a face image in a video, it is necessary to assign the same person ID to the same person and to collect the person ID and the face image or their feature amounts.
このため、映像から顔の位置を検出し、顔画像サンプルを切り出し、事前または事後に入力した人物のIDと顔画像サンプルを紐付けて保存する顔個人識別用画像採取方法が既に知られている(例えば、特許文献1参照。)。   For this reason, a face personal identification image collecting method is already known in which a face position is detected from a video, a face image sample is cut out, and a person ID input in advance or after and a face image sample are linked and stored. (For example, refer to Patent Document 1).
特許文献1には、映像から、代表条件を満たす顔画像として正面を向いた顔画像サンプルを抽出し、正面の顔画像サンプルを表す人物の他の顔画像サンプルを、あらかじめ定められた登録条件に基づき抽出し、正面の顔画像サンプルと他の顔画像サンプルを関連付けて辞書に登録する顔画像登録方法が開示されている。   In Patent Document 1, a face image sample facing front is extracted from a video as a face image satisfying the representative condition, and other face image samples representing the front face image sample are set to predetermined registration conditions. A face image registration method is disclosed in which a face image sample in front is extracted and associated with another face image sample and registered in a dictionary.
しかしながら、特許文献1に開示された顔画像登録方法は、映像中の人物が正面を向いている代表顔画像でないと人物IDを付与できず、代表顔画像と同一人物の他の顔画像と対応付けることができないため、人物が正面を向くまで人物IDを付与することができないという問題がある。 However, the face image registration method disclosed in Patent Document 1 cannot assign a person ID unless the person in the video is a representative face image facing the front, and associates it with another face image of the same person as the representative face image. Therefore, there is a problem that the person ID cannot be given until the person turns to the front.
また、特許文献1に開示された顔画像登録方法は、複数の人物が同じフレーム内に存在する場合について考慮されていない。このため、採取中の人物以外の人物が同時にフレーム内にいる場合、顔画像サンプルを採取中の人物とそれ以外の人物の区別ができず、採取中の人物の顔画像サンプルと採取中の人物以外の人物の顔画像サンプルに対し、人物IDの対応付けを誤ってしまうという問題がある。また、採取中の人物以外の人物の顔画像サンプルから個人識別することも考慮されていない。   Further, the face image registration method disclosed in Patent Document 1 does not take into consideration the case where a plurality of persons exist in the same frame. For this reason, if a person other than the person being collected is in the frame at the same time, the face image sample cannot be distinguished from the other person, and the face image sample of the person being collected and the person being collected There is a problem that a person ID is incorrectly associated with a face image sample of a person other than. Also, it is not considered to identify individuals from face image samples of persons other than the person being collected.
本発明は、映像中の人物が正面を向いていない状態でも人物と人物IDを対応付けることが可能であり、映像の同じフレームに複数の人物が映っている場合においても人物と人物IDの対応付けを可能にして、各人物の顔画像サンプルを採取することができる顔画像サンプル採取装置を提供することを目的とする。   The present invention can associate a person with a person ID even when the person in the video is not facing the front, and even when a plurality of persons are shown in the same frame of the video, the person is associated with the person ID. It is an object of the present invention to provide a face image sample collection device capable of collecting the face image samples of each person.
本発明は、人物が含まれる映像を取得する映像取得手段と、前記映像から人物領域を検出する人物領域検出手段と、前記映像を表示装置に表示する表示手段と、前記人物領域と人物情報の対応づけを受け付ける対応づけ受け付け手段と、前記人物領域に人物IDを付与する人物ID付与手段と、前記人物領域の人物を追尾する人物追尾手段と、前記映像から人物の顔を検出する顔検出手段と、当該顔を含む領域の顔画像又は顔画像から求められた識別用特徴量を、前記人物IDと 対応づけてデータベースに登録する特徴量登録手段と、を有し、前記人物領域検出手段は、入力装置が受け付けたフレーム中の位置情報の周囲を前記人物領域とし、前記人物領域検出手段は、過去のフレームの前記顔画像の大きさの平均値を算出し、前記位置情報を中心として前記平均値の範囲を前記人物領域とする、ことを特徴とする顔画像サンプル採取装置を提供する。 The present invention includes a video acquisition unit that acquires a video including a person, a human region detection unit that detects a human region from the video, a display unit that displays the video on a display device, and the human region and personal information Correspondence accepting means for accepting correspondence, person ID assigning means for assigning a person ID to the person area, person tracking means for tracking a person in the person area, and face detecting means for detecting the face of the person from the video And a feature amount registration means for registering in the database the identification feature amount obtained from the face image of the region including the face or the face image in association with the person ID , the person region detection means The position around the position information in the frame received by the input device is set as the person area, and the person area detecting means calculates an average value of the size of the face image of the past frame, and the position information The face image sample collection device is characterized in that the range of the average value centering on is the person region .
映像中の人物が正面を向いていない状態でも人物と人物IDを対応付けることが可能であり、映像の同じフレームに複数の人物が映っている場合においても人物と人物IDの対応付けを可能にして、各人物の顔画像サンプルを採取することができる顔画像サンプル採取装置を提供することができる。   It is possible to associate a person with a person ID even when the person in the video is not facing the front, and even when a plurality of persons are shown in the same frame of the video, the person can be associated with the person ID. It is possible to provide a face image sample collection device that can collect a face image sample of each person.
顔画像サンプル採取装置の概略を説明する図の一例である。It is an example of the figure explaining the outline of a face image sample collection device. 顔画像サンプル採取装置のハードウェア構成図の一例である。It is an example of the hardware block diagram of a face image sample collection device. 計算機のハードウェア構成図の一例である。It is an example of the hardware block diagram of a computer. 顔画像サンプル採取装置の機能ブロック図の一例である。It is an example of the functional block diagram of a face image sample collection device. フレーム中の人物領域と人物IDを対応付ける手順の一例を示すフローチャート図である。It is a flowchart figure which shows an example of the procedure which matches the person area | region and person ID in a flame | frame. 人物領域への人物IDの付与を説明する図の一例である。It is an example of the figure explaining assignment | providing of person ID to a person area | region. 人物領域への人物IDの付与の手順を説明するフローチャート図の一例である。It is an example of the flowchart figure explaining the procedure of provision of person ID to a person area. 人物追尾情報の一例と、人物追尾情報と人物IDの対応付けを説明する図の一例である。It is an example of the figure explaining an example of a person tracking information, and matching of person tracking information and person ID. フレーム中の人物領域と人物IDを対応付ける手順の一例を示すフローチャート図である(変形例)。It is a flowchart figure which shows an example of the procedure which matches the person area | region and person ID in a flame | frame (modification). 顔画像を採取する処理の手順を示すフローチャート図の一例である。It is an example of the flowchart figure which shows the procedure of the process which extract | collects a face image. 顔画像サンプルデータベースの一例を示す図である。It is a figure which shows an example of a face image sample database. 顔画像サンプルデータベースに登録された顔画像を表示した表示例を模式的に示す図の一例である。It is an example of the figure which shows typically the example of a display which displayed the face image registered into the face image sample database.
以下、本発明を実施するための形態について図面を参照しながら説明する。   Hereinafter, embodiments for carrying out the present invention will be described with reference to the drawings.
〔概略〕
図1は、本実施形態の顔画像サンプル採取装置100の概略を説明する図の一例である。図1(a)は例えば会議の映像の1フレームを静止画として表示した図である。
(1)顔画像サンプル採取装置100は、フレームに画像処理を施し、人物領域を検出する。会議のような映像では、撮影される人物は固定であり一度検出された人物領域の人物は容易に追尾することができる。この追尾中の人物が顔画像サンプルの採取中の人物となる。顔画像サンプル採取装置100は、顔画像サンプルの採取を人物毎に行う。
(2)顔画像サンプル採取装置100は人物領域を矩形で囲んだり輝度を変化させるなどして明示し、ユーザが人物領域と人物IDを対応づけるためのUIを提供する。図1(b)では、強調枠などで明示された人物領域と参加者リストをユーザがマウスで選択したり、タッチパネルに表示された人物領域と参加者リストをユーザがタッチすることで、人物領域と人物IDが対応づけられている。
(3)顔画像サンプル採取装置100は、人物領域を追尾して人物領域と人物IDの対応付けを継続する(自動で行う)。したがって、(1)の段階で顔個人識別が困難でも人物IDを付与でき、一度、人物領域と人物IDが対応づけられた後は、同一人物に同一の人物IDが付与される。また、同じフレームに複数の人物が撮影されていても、各人物領域に別々の人物IDが付与されるので、同じフレームに複数の人物領域が検出されても各人物を確実に識別できる。
(4)顔画像サンプル採取装置100は、時間と共に変化するフレームのそれぞれから顔認識することで顔画像サンプルを取得して、顔画像サンプルの位置に基づき顔画像サンプルと人物領域とを対応づけてデータベースに登録する。
[Outline]
FIG. 1 is an example of a diagram illustrating an outline of a face image sample collection device 100 of the present embodiment. FIG. 1A shows, for example, one frame of a conference video displayed as a still image.
(1) The face image sample collection device 100 performs image processing on a frame and detects a person area. In a video like a meeting, the person to be photographed is fixed, and the person in the person area once detected can be easily tracked. This tracking person becomes the person who is collecting the face image sample. The face image sample collection device 100 collects face image samples for each person.
(2) The face image sample collection device 100 provides a UI for the user to associate the person area with the person ID by clearly enclosing the person area with a rectangle or changing the luminance. In FIG. 1B, the user selects the person area and the participant list clearly indicated by an emphasis frame or the like with the mouse, or the person touches the person area and the participant list displayed on the touch panel. And a person ID are associated with each other.
(3) The face image sample collection device 100 tracks the person area and continues to associate the person area with the person ID (automatically). Therefore, a person ID can be assigned even if face personal identification is difficult in the stage (1). Once the person area and the person ID are associated with each other, the same person ID is assigned to the same person. Also, even if a plurality of persons are photographed in the same frame, different person IDs are assigned to the person areas, so that each person can be reliably identified even if a plurality of person areas are detected in the same frame.
(4) The face image sample collection device 100 acquires a face image sample by recognizing a face from each of the frames that change with time, and associates the face image sample with the person region based on the position of the face image sample. Register in the database.
ここで、人物IDが付与されたばかりの人物領域の人物の顔画像サンプルは、顔個人識別が可能な顔画像サンプルがまだ十分に登録されていない。これに対し、すでに人物IDが付与された人物の顔画像サンプルは、顔画像サンプルから顔個人識別が可能な場合があるので、顔画像サンプル採取装置100はすでに人物IDが付与された人物の顔画像サンプルから顔個人識別することができる。   Here, as for the face image sample of the person in the person area to which the person ID has just been assigned, the face image sample capable of individual face identification has not been sufficiently registered. On the other hand, since a face image sample of a person who has already been assigned a person ID may be able to identify the face personally from the face image sample, the face image sample collection device 100 has the face of a person who has already been assigned a person ID. Individual faces can be identified from image samples.
顔画像サンプルから個人識別されれば、データベースに登録されたその人物の顔画像サンプルを利用して、正面顔でないような顔画像から顔個人識別することが可能になる。   If a person is identified from a face image sample, the person can be identified from a face image that is not a front face by using the person's face image sample registered in the database.
このように、本実施形態の顔画像サンプル採取装置100は、映像中の人物が正面を向いていない状態でも人物と人物IDを対応付け顔画像サンプルを採取することができるので、より効率的に顔画像サンプルを採取することができる。また、複数の人物が映像に映っていても、正面を向いていない状態から各人物の顔画像サンプルを採取することができる。   As described above, the face image sample collection device 100 according to the present embodiment can collect a face image sample in which a person and a person ID are associated with each other even when the person in the video is not facing the front. A face image sample can be collected. Further, even if a plurality of persons are shown in the video, it is possible to collect face image samples of each person from a state where they are not facing the front.
〔構成〕
図2は、顔画像サンプル採取装置100のハードウェア構成図の一例を示す。顔画像サンプル採取装置100は、表示装置21、計算機22、映像入力装置24、及び、入力装置23を有する。顔画像サンプル採取装置100は、計算機22により制御され、計算機22には表示装置21、映像入力装置24、及び、入力装置23が有線又は無線で通信可能に接続されている。
〔Constitution〕
FIG. 2 shows an example of a hardware configuration diagram of the face image sample collection device 100. The face image sample collection device 100 includes a display device 21, a calculator 22, a video input device 24, and an input device 23. The face image sample collection device 100 is controlled by a computer 22, and a display device 21, a video input device 24, and an input device 23 are connected to the computer 22 so that they can communicate with each other by wire or wirelessly.
表示装置21は、液晶や有機ELなどのディスプレイやプロジェクターなどである。表示装置21には、映像入力装置24が撮影した映像がリアルタイムで、又は、映像入力装置24が再生した映像が表示される。   The display device 21 is a display or projector such as a liquid crystal or an organic EL. The display device 21 displays the video captured by the video input device 24 in real time or the video reproduced by the video input device 24.
計算機22は、PC(Personal Computer)やワークステーション、携帯電話、スマートフォン、PDA(Personal Digital Assistant)などである。   The computer 22 is a PC (Personal Computer), a workstation, a mobile phone, a smartphone, a PDA (Personal Digital Assistant), or the like.
映像入力装置24は、動画撮影が可能なデジタルカメラ、ビデオカメラなど撮影機能を備える装置である。また、いったん撮影された映像を再生するDVDプレーヤなどの映像プレーヤでもよい。   The video input device 24 is a device having a shooting function such as a digital camera or a video camera capable of shooting a moving image. Further, it may be a video player such as a DVD player that reproduces a video once shot.
入力装置23は、マウス、キーボード、リモコン、タッチパネル、音声入力装置など、ユーザと計算機22のインタフェースであり、ユーザが顔画像サンプル採取装置100を操作するために使用される。   The input device 23 is an interface between the user and the computer 22 such as a mouse, a keyboard, a remote control, a touch panel, and a voice input device, and is used by the user to operate the face image sampling device 100.
図3は、計算機22のハードウェア構成図の一例を示す。PC100は、それぞれバスで相互に接続されているCPU11、ROM12、RAM13、外部I/F14、通信装置15、表示制御部17及び記憶装置18を有する。CPU11は、プログラム30を記憶装置18から読み出して、RAM13を作業メモリにして実行する。このプログラム30は、後述するように映像から顔画像サンプルを採取するプログラムである。   FIG. 3 shows an example of a hardware configuration diagram of the computer 22. The PC 100 includes a CPU 11, a ROM 12, a RAM 13, an external I / F 14, a communication device 15, a display control unit 17, and a storage device 18 that are mutually connected by a bus. The CPU 11 reads the program 30 from the storage device 18 and executes it using the RAM 13 as a working memory. This program 30 is a program for collecting a face image sample from a video as will be described later.
RAM13は必要なデータを一時保管する作業メモリ(主記憶メモリ)になり、ROM12にはBIOSや初期設定されたデータ、プログラムが記憶されている。   The RAM 13 is a working memory (main storage memory) for temporarily storing necessary data, and the ROM 12 stores BIOS, initially set data, and programs.
外部I/F14はUSBケーブル等のケーブルや、映像入力装置24や可搬型の記憶媒体20を装着するインタフェースである。映像入力装置24は外部I/F14を介して、記憶装置18やRAM12等に映像データ(フレーム)を記憶させる。なお、記憶媒体20は、SDカードやUSBメモリ等のフラッシュメモリ、CD−ROM等の光記憶媒体等である。   The external I / F 14 is an interface for mounting a cable such as a USB cable, the video input device 24, and the portable storage medium 20. The video input device 24 stores video data (frames) in the storage device 18, the RAM 12, or the like via the external I / F 14. The storage medium 20 is a flash memory such as an SD card or a USB memory, an optical storage medium such as a CD-ROM, or the like.
通信装置15は、LANカードやイーサネット(登録商標)カードと呼ばれ、CPU11からの指示によりMPF200にパケットデータ(本実施形態では主にPDLデータ)を送信する。この通信装置15を介して映像入力装置24が接続されてもよい。   The communication device 15 is called a LAN card or an Ethernet (registered trademark) card, and transmits packet data (mainly PDL data in this embodiment) to the MPF 200 in accordance with an instruction from the CPU 11. The video input device 24 may be connected via the communication device 15.
表示制御部17は、映像をプログラム30が指示する所定の解像度や色数等で表示装置21に表示する。また、表示制御部17は操作用のGUI等を表示装置21に表示する。   The display control unit 17 displays the video on the display device 21 at a predetermined resolution, number of colors, or the like indicated by the program 30. Further, the display control unit 17 displays an operation GUI or the like on the display device 21.
記憶装置18は、HDD(Hard Disk Drive)やフラッシュメモリなどの不揮発メモリを実体とし、上記のプログラム30、及び、後述する顔画像サンプルデータベース38を記憶している。プログラム30は、記憶媒体20に記録された状態又は不図示のサーバからダウンロードされる態様で配布される。   The storage device 18 has a nonvolatile memory such as an HDD (Hard Disk Drive) or a flash memory as an entity, and stores the program 30 and a face image sample database 38 to be described later. The program 30 is distributed in a state recorded in the storage medium 20 or downloaded from a server (not shown).
図4は、顔画像サンプル採取装置100の機能ブロック図の一例を示す。図4の機能は主に計算機22のCPUがハードウェア資源を利用してプログラム30を実行することで実現される。   FIG. 4 shows an example of a functional block diagram of the face image sample collection device 100. 4 is implemented mainly by the CPU of the computer 22 executing the program 30 using hardware resources.
映像取得部31は、映像入力装置24が入力した映像のフレームを取得して各機能に送出する。より具体的には例えばフレームをRAM12に記憶してそのアドレスを各機能に通知する。映像入力装置24は、例えばAVCHD(Advanced Video Codec High Definition)やMPEGなどの規格の映像から毎秒15〜60フレーム程度の速度でフレームを取り出す。映像取得部31は、映像を画像処理が容易なRGB画像や輝度画像等に変換してフレームとして出力する。   The video acquisition unit 31 acquires a frame of the video input by the video input device 24 and sends it to each function. More specifically, for example, the frame is stored in the RAM 12 and its address is notified to each function. The video input device 24 extracts frames from a standard video such as AVCHD (Advanced Video Codec High Definition) or MPEG at a speed of about 15 to 60 frames per second. The video acquisition unit 31 converts the video into an RGB image or luminance image that can be easily processed, and outputs the converted image as a frame.
人物領域検出部32は、フレームから人物領域を検出する。人物領域の検出方法は後述する。人物領域は、画素値や輝度が一定の矩形枠、楕円枠等の強調枠で表示装置21に明示される。人物領域検出部32は、人物領域の位置と形状情報(以下、人物領域には位置と形状情報が付随するものとする)を人物ID付与部33に通知する。   The person area detection unit 32 detects a person area from the frame. A method for detecting a person area will be described later. The person region is clearly indicated on the display device 21 by an emphasis frame such as a rectangular frame or an ellipse frame having a constant pixel value or luminance. The person area detection unit 32 notifies the person ID giving unit 33 of the position and shape information of the person area (hereinafter, the position and shape information is attached to the person area).
人物ID付与判断部40は、入力装置23から人物領域と人物IDの対応づけを受け付ける。そして、人物領域に人物IDの付与が行われたか否かを判別し、行われた場合は、人物IDと人物領域の位置情報を人物ID付与部33に通知する。   The person ID assignment determination unit 40 receives the correspondence between the person area and the person ID from the input device 23. Then, it is determined whether or not a person ID has been assigned to the person area, and if so, the person ID and the position information of the person area are notified to the person ID assigning unit 33.
人物ID付与部33は、人物領域に人物IDを対応づける。人物領域には原則的に一人の人物のみが含まれるので、この対応付けは、人物と人物IDの対応づけと等しい。人物ID付与部33は、人物IDと人物領域を特徴量抽出部39に通知する。なお、人物ID付与部33は、人物領域の位置を、例えば、フレームの左上角を原点とする座標であって、矩形領域の重心などにより表す。また、人物ID付与部33の映像表示部42は、フレームを表示装置21に出力する。このフレームは、映像入力装置24が入力した映像をそのまま使用してもよい。   The person ID assigning unit 33 associates a person ID with the person area. Since only one person is included in the person area in principle, this association is equivalent to the association between the person and the person ID. The person ID assigning unit 33 notifies the feature amount extracting unit 39 of the person ID and the person region. The person ID assigning unit 33 represents the position of the person area by, for example, coordinates with the upper left corner of the frame as the origin and the center of gravity of the rectangular area. The video display unit 42 of the person ID assigning unit 33 outputs the frame to the display device 21. As this frame, the video input by the video input device 24 may be used as it is.
特徴量抽出部39は、人物追尾部34が追尾に用いるための特徴量を抽出する。特徴量の抽出については後述する。本実施形態では追尾に適した特徴量を利用するので特徴量は限定しない。   The feature amount extraction unit 39 extracts a feature amount that the person tracking unit 34 uses for tracking. The feature amount extraction will be described later. In the present embodiment, feature quantities suitable for tracking are used, so the feature quantities are not limited.
人物追尾部34は、人物IDを付与された人物領域の人物を追尾する。追尾とは、同じ人物領域の人物を、フレームが変わっても同じ人物であると検出し、同じ人物領域には同じ人物IDを対応づけることをいう。追尾中の人物の顔画像サンプルが採取中の顔画像となる。   The person tracking unit 34 tracks the person in the person area assigned with the person ID. Tracking means that a person in the same person area is detected as the same person even if the frame changes, and the same person ID is associated with the same person area. The face image sample of the person being tracked is the face image being collected.
人物追尾部34は、現在、処理しているフレームにおける人物領域と人物IDを顔個人識別部36及び顔画像サンプル登録部37に通知する。   The person tracking unit 34 notifies the face personal identification unit 36 and the face image sample registration unit 37 of the person region and the person ID in the currently processed frame.
顔検知部35は、フレームから顔を検出し、顔領域を切り出す。顔領域は、人物領域と関係なく切り出されるが、フレームに人物が存在すれば人物領域と重複する顔領域が存在する。また、顔領域を、人物領域から優先的に切り出すこともできる。顔検知部35は、顔領域の位置と大きさを顔画像サンプル登録部37に通知する。なお、この顔領域は、顔画像サンプルとほぼ同じ意味になる。   The face detection unit 35 detects a face from the frame and cuts out a face area. The face area is cut out regardless of the person area, but if there is a person in the frame, there is a face area overlapping with the person area. In addition, the face area can be preferentially cut out from the person area. The face detection unit 35 notifies the face image sample registration unit 37 of the position and size of the face area. This face area has almost the same meaning as the face image sample.
顔画像サンプル登録部37は、顔領域を顔画像サンプルとして、顔画像サンプルデータベース38に登録する。顔画像サンプル登録部37は、顔領域が人物領域に含まれることを利用して、顔領域を人物IDに対応付ける。よって、顔画像サンプルと人物領域が人物IDに対応づけられる。顔画像サンプルデータベース38は、例えば記憶装置18に生成される。   The face image sample registration unit 37 registers the face area as a face image sample in the face image sample database 38. The face image sample registration unit 37 uses the fact that the face area is included in the person area, and associates the face area with the person ID. Therefore, the face image sample and the person area are associated with the person ID. The face image sample database 38 is generated in the storage device 18, for example.
顔個人識別部36は、顔検知部が検知した顔領域(顔画像サンプル)又は顔画像サンプルデータベース38から顔画像サンプルを読み出し、人物を個人識別する。人物の個人識別については後述する。   The face individual identification unit 36 reads a face image sample from the face region (face image sample) detected by the face detection unit or the face image sample database 38, and identifies a person individually. The personal identification of a person will be described later.
サンプル選別部41は、顔画像サンプルデータベース38に登録された顔画像サンプルを表示装置21に表示する。また、入力装置23からユーザの操作を受け付けて、顔画像サンプルデータベース38から顔画像サンプルを消去する。   The sample selection unit 41 displays the face image samples registered in the face image sample database 38 on the display device 21. Further, in response to a user operation from the input device 23, the face image sample is deleted from the face image sample database 38.
〔動作手順〕
続いて、いくつかのフローチャート図を用いて顔画像サンプル採取装置100の全体的な処理手順について説明する。図5はフレーム中の人物領域と人物IDを対応付ける手順の一例を示すフローチャート図である。図5の手順はフレーム毎に実行される。
[Operation procedure]
Next, the overall processing procedure of the face image sample collection device 100 will be described with reference to several flowcharts. FIG. 5 is a flowchart showing an example of a procedure for associating a person area in a frame with a person ID. The procedure shown in FIG. 5 is executed for each frame.
映像取得部31は、映像からフレームを取得する(S10)。すなわち、映像入力装置24が入力した映像からフレームを一枚の画像データとして取得する。顔画像サンプル採取装置100はフレーム毎に以下の処理を繰り返す。   The video acquisition unit 31 acquires a frame from the video (S10). That is, the frame is acquired as one piece of image data from the video input by the video input device 24. The face image sample collection device 100 repeats the following processing for each frame.
まず、人物領域検出部32がフレームから人物を検出する(S20)。人物が動くことを利用して、以下のような方法のいずれか又は方法を組み合わせて人物領域を検出する。   First, the person area detection unit 32 detects a person from the frame (S20). Using the movement of a person, a person region is detected by any one or combination of the following methods.
(i)人物領域検出部32は、オプティカルフローやフレーム間差分などを用い動いている物体を検知しその領域の例えば外接矩形を人物領域とする。オプティカルフローとは、時間的に連続した画像データのある物体が移動することによって発生する画素の輝度値の変化から、各画素毎の速度ベクトルを求めて動体を検知することである。人物領域検出部32は、フレームの画素毎に速度ベクトルを求め、速度ベクトルが同じ方向の画素の数を計数する等して、画像データにおける速度場の分布状況を求める。そして、その分布状況に基づいてフレームの中の人物(動体)を特定する。   (I) The person area detection unit 32 detects a moving object using an optical flow, an interframe difference, or the like, and sets a circumscribed rectangle in the area as a person area. The optical flow is to detect a moving object by obtaining a velocity vector for each pixel from a change in luminance value of the pixel that occurs when an object having temporally continuous image data moves. The person area detection unit 32 obtains a velocity vector for each pixel of the frame, and obtains a distribution state of the velocity field in the image data by counting the number of pixels having the same velocity vector. Then, the person (moving body) in the frame is specified based on the distribution state.
フレーム間差分を用いて動いている物体が含まれる領域を人物領域として検出してもよい。この場合、人物領域検出部32は、連続するフレームの輝度信号から、対応する画素毎に輝度値の差を算出する。この差を閾値と比較して、閾値以上の差のある画素を黒画素に、それ以外の画素を白画素に2値化する。したがって、黒画素の領域が動きのある 人物(動体)の領域となる。   An area including a moving object may be detected as a person area using the inter-frame difference. In this case, the person area detection unit 32 calculates a difference in luminance value for each corresponding pixel from the luminance signal of successive frames. This difference is compared with a threshold value, and a pixel having a difference equal to or greater than the threshold value is binarized to a black pixel, and the other pixels are binarized to a white pixel. Therefore, the area of black pixels becomes the area of a moving person (moving object).
また、映像入力装置24のカメラの画角が固定の場合、背景画像を予め撮影しておき、背景画像とフレームの画素の差分から人物領域を検出することができる。また、差分値を集積した値を元に人物領域を検出してもよい。人物領域検出部32は、このようにして検出した人物の画素の外接矩形を人物領域とする。   Further, when the angle of view of the camera of the video input device 24 is fixed, a background image can be captured in advance, and a person area can be detected from the difference between the background image and the pixel of the frame. Further, the person area may be detected based on the value obtained by accumulating the difference values. The person area detection unit 32 sets a circumscribed rectangle of the pixel of the person detected in this way as a person area.
(ii)また、顔検知部35の顔検知結果を利用して人物領域を特定することができる。すなわち、顔検知部35がフレームの全体から顔検知を行うのであれば、顔が検知された顔領域が人物領域と重なるとすることができる。この場合、人物領域検出部32は、顔領域の鉛直方向の下側に顔領域を延長し、幅方向に若干広げた領域を人物領域とする。   (Ii) In addition, the person area can be specified by using the face detection result of the face detection unit 35. That is, if the face detection unit 35 detects a face from the entire frame, the face area where the face is detected can overlap the person area. In this case, the person area detecting unit 32 extends the face area below the face area in the vertical direction and sets the area slightly widened in the width direction as the person area.
(iii)また、人物領域検出部32は、ある程度の大きさを持つ肌色の領域を人物領域とすることもできる。この場合、人物領域検出部32は、フレーム毎に色のヒストグラムを計算し、予め定めた肌色の画素値に一致するある程度の広がりを持った(画素が連続した)肌色領域を画素領域を人物領域として検出する。   (iii) In addition, the person area detection unit 32 can set a skin color area having a certain size as a person area. In this case, the person area detection unit 32 calculates a color histogram for each frame, and determines a skin color area having a certain extent (a pixel is continuous) that matches a predetermined skin color pixel value as a pixel area. Detect as.
この手法を(i)の動体の検知と併用し、肌色かつ動いている画素領域を人物領域としてもよい。   This method may be used in combination with the moving object detection in (i), and a skin color and a moving pixel area may be a person area.
(iv)また、人物領域検出部32は、Hog(Histograms of Oriented Gradients)特徴量などにより人物領域を検出する。Hog特徴量は、局所領域における輝度の勾配方向をヒストグラム化した特徴ベクトルである。Hog特徴量を用いてあらかじめ人物の特徴を統計的に学習しておくことで人物領域を検出することができる。   (iv) In addition, the person area detection unit 32 detects a person area based on a Hog (Histograms of Oriented Gradients) feature amount or the like. The Hog feature amount is a feature vector in which the luminance gradient direction in the local region is histogrammed. A person region can be detected by statistically learning the characteristics of a person in advance using the Hog feature amount.
次に、人物ID付与部33は、そのフレームに対し(今)、人物にIDが付与されたか否かを判定する(S30)。
図6は、人物領域への人物IDの付与を説明する図の一例を、図7は、人物領域への人物IDの付与の手順を説明するフローチャート図の一例をそれぞれ示す。
Next, the person ID assigning unit 33 determines whether or not an ID is assigned to the person (now) for the frame (S30).
FIG. 6 shows an example of a diagram for explaining assignment of a person ID to a person area, and FIG. 7 shows an example of a flowchart for explaining a procedure for assigning a person ID to a person area.
映像には複数の人物が映っており、人物領域検出部32が検出した人物領域が楕円にて強調表示されている。表示装置21に表示される映像201ではこの楕円の色を人物毎に変えることや大きさや形状を変えることが可能である。   A plurality of persons are shown in the video, and the person area detected by the person area detecting unit 32 is highlighted with an ellipse. In the image 201 displayed on the display device 21, it is possible to change the color of the ellipse for each person and change the size and shape.
ユーザが入力装置23により所定の操作を入力すると、映像201の右側に、参加者名リスト202が表示される(S30−1)。参加者名リスト202は、予めユーザが入力装置23から入力しておくこともできるし、映像の表示中に追加して入力することもできる。追加の参加者を入力するため、参加者リスト202の下に追加参加者入力欄203が表示されている。ユーザは、入力装置23又は不図示の人物リストを使用して、追加参加者入力欄203に参加者名を入力できる。   When the user inputs a predetermined operation using the input device 23, a participant name list 202 is displayed on the right side of the video 201 (S30-1). The participant name list 202 can be input in advance from the input device 23 by the user, or can be additionally input during video display. In order to input additional participants, an additional participant input field 203 is displayed below the participant list 202. The user can input a participant name in the additional participant input field 203 using the input device 23 or a person list (not shown).
ユーザは入力装置23を用いて参加者名リストを選択する。人物ID付与判断部40はこの選択を受け付ける(S30−2)。人物ID付与判断部40は、この氏名に一意の番号を付与して人物IDとするか、または、人物IDは不図示の人物リストの氏名に対し予め付与されている。   The user uses the input device 23 to select a participant name list. The person ID assignment determination unit 40 accepts this selection (S30-2). The person ID assignment determination unit 40 assigns a unique number to the name to obtain a person ID, or the person ID is assigned in advance to the name of a person list (not shown).
ユーザは人物領域にこの人物IDを付与するため、マウスやタッチパネルを使用して人物領域を選択する。人物ID付与判断部40はユーザが選択したピクセル位置を受け付ける(S30−3)。   In order to give this person ID to the person area, the user selects the person area using a mouse or a touch panel. The person ID assignment determination unit 40 receives the pixel position selected by the user (S30-3).
人物ID付与判断部40は、ユーザが選択した人物領域と人物IDを対応づけ、人物ID付与部33に通知する(S30−4)。これにより、人物ID付与部33は人物領域と人物IDを対応づけることができる。   The person ID assignment determination unit 40 associates the person region selected by the user with the person ID, and notifies the person ID assignment unit 33 (S30-4). As a result, the person ID assigning unit 33 can associate the person area with the person ID.
図5に戻り、人物IDが付与された場合(S30のYes)、人物ID付与部33は人物領域の位置を決定する(S40)。人物の位置は人物領域の外接矩形の中心又は人物領域の重心などとする。   Returning to FIG. 5, when the person ID is given (Yes in S30), the person ID giving unit 33 determines the position of the person area (S40). The position of the person is the center of the circumscribed rectangle of the person area or the center of gravity of the person area.
続いて、特徴量抽出部39は、人物領域の重心などの位置の周囲又は全体から追尾に用いる特徴量を抽出する(S50)。追尾に用いる特徴量は
(i)人物の顔位置のヒストグラム・画素のブロック
(ii)人物の首から胸までのヒストグラム・画素のブロック
などを用いる。
Subsequently, the feature quantity extraction unit 39 extracts a feature quantity used for tracking from around or the entire position such as the center of gravity of the person region (S50). The features used for tracking are
(i) Histogram / pixel block of human face position
(ii) A histogram from the neck to the chest of a person, a block of pixels, etc. are used.
図8は、人物追尾情報の一例と、人物追尾情報と人物IDの対応付けを説明する図の一例である。図では人物追尾情報IDと人物IDに対応づけて、位置と特徴量が登録されている。図8では特徴量をヒストグラムとしているので、人物追尾情報は特徴量と同じ意味になる。RGBの各色を8ビットとするとピクセル値は約16万色になるので、特徴量抽出部39は、計算機22の処理能力等を考慮した色数に減色したbinを生成し、人物領域の画素のピクセル値を各binに振り分ける。これによりヒストグラムが得られる。   FIG. 8 is an example of a figure for explaining an example of the person tracking information and a correspondence between the person tracking information and the person ID. In the figure, the position and feature amount are registered in association with the person tracking information ID and the person ID. In FIG. 8, since the feature amount is a histogram, the person tracking information has the same meaning as the feature amount. If each color of RGB is 8 bits, the pixel value is about 160,000 colors. Therefore, the feature amount extraction unit 39 generates bins that are reduced to the number of colors in consideration of the processing capability of the computer 22, and the like. The pixel value is assigned to each bin. Thereby, a histogram is obtained.
追尾人物情報IDは、特徴量を識別するIDである。したがって、同じ人物IDでも別のフレームから求めた特徴量には別の追尾人物情報IDが付与される。   The tracking person information ID is an ID for identifying a feature amount. Therefore, another tracking person information ID is assigned to the feature amount obtained from another frame even with the same person ID.
また、位置は上記の人物領域の外接矩形の中心又は重心の画素位置(X,Y)である。図には位置の他に人物領域の幅Widthと高さHeightも示されている幅Widthと高さHeightは形状情報から得られる。   The position is the pixel position (X, Y) of the center or the center of gravity of the circumscribed rectangle of the person area. The figure also shows the width Width and height Height of the person area in addition to the position. The width Width and height Height are obtained from the shape information.
人物追尾部34は特徴量を利用して同じ人物を追尾するので、顔画像サンプル採取装置100は、人物領域の一度の検出と、人物領域と人物IDの一度の対応づけて同じ人物には同じ人物IDを付与することができる。   Since the person tracking unit 34 tracks the same person using the feature amount, the face image sample collection device 100 detects the person area once and associates the person area with the person ID once to the same person. A person ID can be assigned.
図5に戻り、人物追尾部34は、図8に示したように特徴量・位置情報・人物IDをセットにしたものをRAM13や記憶装置18に保存する(S60)。   Returning to FIG. 5, the person tracking unit 34 saves the set of the feature amount / position information / person ID in the RAM 13 or the storage device 18 as shown in FIG. 8 (S60).
以上で1つのフレームの処理が終了するので、顔画像サンプル採取装置100は次のフレームに同様の処理を施す。   Since the processing of one frame is completed as described above, the face image sample collection device 100 performs the same processing on the next frame.
〔変形例〕
上記フローチャート図の変形例を説明する。上記のステップS20では人物領域検出部32が画像処理により人物領域を検出していたが、ユーザによる操作を人物領域の特定に利用することもできる。
[Modification]
A modification of the above flowchart will be described. In step S20 described above, the person area detection unit 32 detects the person area by image processing. However, an operation by the user can be used to specify the person area.
図9はフレーム中の人物領域と人物IDを対応付ける手順の一例を示すフローチャート図である。この手順では、人物領域検出部32は、入力装置23からの人物の位置の指示を受け付けることで人物領域を検出する。   FIG. 9 is a flowchart showing an example of a procedure for associating a person area in a frame with a person ID. In this procedure, the person area detection unit 32 detects a person area by receiving an instruction of the position of the person from the input device 23.
人物領域検出部32は、処理対処のフレームに対し(今)、入力装置23からの人物の位置の指示を受け付けたか否かを判定する(S21)。したがって、ユーザが入力装置23で人物を指示しなければ、以降の処理は実行されない。   The person area detection unit 32 determines whether or not an instruction of the position of the person from the input device 23 has been received for the frame to be processed (now) (S21). Therefore, if the user does not specify a person with the input device 23, the subsequent processing is not executed.
人物の位置の指示を受け付けた場合(S21のYes)、人物領域検出部32は、指示された位置の周囲の領域を人物領域とし、人物ID付与部33が人物領域にIDを付与する(S22)。
人物領域検出部32は、
(ア)指示された位置から半径20ピクセルの円の内部を人物領域とする
(イ)一定フレーム前から顔検知を行い検知した顔の大きさの半径の平均値を求め、指示された位置から平均値のピクセルの円の内部を人物領域とする
(ウ)指示した位置から類似の色(肌色)が続く範囲を人物領域とする
等の方法で人物領域を検出する。
When an instruction for the position of a person is received (Yes in S21), the person area detection unit 32 sets the area around the instructed position as a person area, and the person ID assigning unit 33 assigns an ID to the person area (S22). ).
The person area detection unit 32
(A) The inside of a circle with a radius of 20 pixels from the indicated position is used as a person area. (B) Face detection is performed from a certain frame before, and the average radius of the detected face size is obtained, and from the indicated position. The person area is detected by, for example, a method in which the inside of the circle of pixels with the average value is a person area (c) a person area is a range where a similar color (skin color) continues from the indicated position.
人物ID付与部33は、ステップS20で位置の指示を受け付けた位置の位置情報を追尾に用いる位置情報に決定する(S41)。   The person ID assigning unit 33 determines the position information of the position that has received the position instruction in step S20 as the position information used for tracking (S41).
以降の処理は同様であり、特徴量抽出部39は、人物領域から追尾に用いる特徴量を抽出する(S50)。そして、人物追尾部34は、特徴量・人物領域・人物IDをセットにしたものを追尾人物情報としてRAM13や記憶装置18に保存する(S60)。   The subsequent processing is the same, and the feature quantity extraction unit 39 extracts a feature quantity used for tracking from the person area (S50). Then, the person tracking unit 34 saves the set of the feature quantity, the person area, and the person ID as tracking person information in the RAM 13 and the storage device 18 (S60).
〔顔画像サンプルの登録〕
図10は、顔画像サンプルを採取する処理の手順を示すフローチャート図の一例である。顔検知部35は、映像取得部31からフレームを取得する(S110)。顔検知部35は1フレームごとに以下の処理を行う。
[Register face image sample]
FIG. 10 is an example of a flowchart illustrating a processing procedure for collecting a face image sample. The face detection unit 35 acquires a frame from the video acquisition unit 31 (S110). The face detection unit 35 performs the following processing for each frame.
顔検知部35は、そのフレームで人物IDが付与された人物領域が存在するかどうかを判定する(S120)。人物IDが付与されていることは、特徴量が検出されていることを意味する。   The face detection unit 35 determines whether there is a person area to which a person ID is assigned in the frame (S120). The assignment of a person ID means that a feature amount has been detected.
人物IDが付与されている場合、人物追尾部34が人物領域の人物を追尾している。顔検知部35は追尾結果から人物位置を特定する(S130)。
追尾の方法は、以下の方法等が知られている。
When the person ID is given, the person tracking unit 34 tracks the person in the person area. The face detection unit 35 specifies the person position from the tracking result (S130).
The following methods are known as tracking methods.
(i)パーティクルフィルタ
(ii)ブロックマッチング
パーティクルフィルタは、追尾する対象物のダイナミクスモデルと、対象物の存在を推定する尤度関数を用いた、推定フィルタの一種である。
a)まず、所定数(数百〜数千)のパーティクルをフレームの全体に分散させる。尤度の算出後は重み付けに応じて分散させる。
b)各パーティクルの状態ベクトルにダイナミクスモデルを適用し、パーティクルの次の状態を予測する。状態ベクトルはパーティクルの位置、x方向、y方向の速度ベクトルである。速度ベクトルは2つのフレームのパーティクルの重心位置の差から求めることができる。
c)尤度関数を定義し、各パーティクルの尤度を算出する。ここでは、特徴量であるヒストグラムを利用する。人物追尾部34は、予め人物領域の認識のためにいくつかの種類のテンプレート画像を用意し、各テンプレート画像の正規化されたヒストグラムh(a)を求めておく。また、人物追尾部34は、パーティクルの周囲の所定の領域のピクセル値から正規化されたヒストグラムh(id)を生成する。ヒストグラムの一致度が高い矩形領域は人物領域の近くにあるパーティクルから生成されたものであると推定できる。
(i) Particle filter
(ii) Block Matching A particle filter is a kind of estimation filter that uses a dynamics model of an object to be tracked and a likelihood function that estimates the presence of the object.
a) First, a predetermined number (hundreds to thousands) of particles are dispersed throughout the frame. After the likelihood is calculated, it is distributed according to the weight.
b) Applying a dynamics model to the state vector of each particle to predict the next state of the particle. The state vector is a velocity vector in the particle position, x direction, and y direction. The velocity vector can be obtained from the difference between the gravity center positions of the particles in the two frames.
c) Define a likelihood function and calculate the likelihood of each particle. Here, a histogram which is a feature amount is used. The person tracking unit 34 prepares several types of template images in advance for recognizing a person area, and obtains a normalized histogram h (a) of each template image. In addition, the person tracking unit 34 generates a normalized histogram h (id) from pixel values in a predetermined area around the particle. It can be estimated that the rectangular area having a high degree of coincidence of histograms is generated from particles near the person area.
ヒストグラム同士の比較にはBhattacharyya 係数を用いることができ、
ヒストグラムの一致度=Σ√{hi(a)×hi(id)}
と表すことができる。添字の「i」はbinの番号を示すので、この式から各bin毎の高さの積の平方根の合計が求められる。これを各パーティクル毎に求め、重み付け(各パーティクルの尤度で正規化)する。
d)重みが所定値以上のパーティクルが集中した領域が追尾された人物の顔領域である。パーティクル(小さい丸いアイコン)を表示装置21に提示してもよい。
Bhattacharyya coefficients can be used to compare histograms,
Histogram matching degree = Σ√ {h i (a) × h i (id)}
It can be expressed as. Since the subscript “i” indicates the bin number, the sum of the square roots of the height products for each bin is obtained from this equation. This is obtained for each particle and weighted (normalized by the likelihood of each particle).
d) An area where particles having a weight of a predetermined value or more are concentrated is the face area of the person being tracked. Particles (small round icons) may be presented on the display device 21.
以上のa)〜d)をフレーム毎に繰り返した際、同じ人物IDの人物領域にはパーティクルが集まることになり、人物の顔領域を追尾することができる。   When the above a) to d) are repeated for each frame, particles gather in the person area having the same person ID, and the face area of the person can be tracked.
なお、ヒストグラムを特徴量として用いるのでなく、ピクセル値そのものを特徴量とすることもできる。この場合、例えば、予め人物の規範的な肌色を定めておき、肌色と、パーティクルがある画素の画素値とのユークリッド距離が最も近い(すなわち0)の確率が最大になる正規分布を尤度関数とする。したがって、肌色に近い画素になるパーティクルの尤度は高くなり、人物追尾部34はパーティクルの分布から人物を追尾できる。   Note that the pixel value itself can be used as the feature amount instead of using the histogram as the feature amount. In this case, for example, a normal skin color of a person is determined in advance, and a normal distribution in which the probability that the Euclidean distance between the skin color and the pixel value of the pixel with the particle is the closest (ie, 0) is maximized is the likelihood function. And Therefore, the likelihood of particles that become pixels close to skin color increases, and the person tracking unit 34 can track a person from the particle distribution.
また、上記のブロックマッチングを用いることもできる。ブロックマッチングは、フレーム間で人物領域同士を比較して、その中の特定の領域(例えば顔領域)を追尾する。この場合、人物追尾部34は、2つの人物領域の対応する画素の輝度差を求め、輝度差の総和を求める。次に、画素を1つずらし2つの人物領域の対応する画素の輝度差を求め、輝度差の総和を求める。画素を1つずつずらしいくつかの総和を算出する処理が終了すると、最も総和が小さい時の画素の対応関係に基づき、特定の領域を追尾する。例えば、顔域であれば、1つ前のフレームの顔領域に対し、対応関係にて特定される現在のフレームの領域が顔領域であると推定する。このようにして、人物領域内の顔領域を追尾することができる。   Also, the above block matching can be used. In block matching, person areas are compared between frames, and a specific area (for example, a face area) is tracked. In this case, the person tracking unit 34 obtains the luminance difference between the corresponding pixels in the two person regions, and obtains the sum of the luminance differences. Next, the pixel is shifted by one, the luminance difference between the corresponding pixels in the two person regions is obtained, and the sum of the luminance differences is obtained. When the process of shifting the pixels one by one and calculating several sums is completed, a specific area is tracked based on the correspondence of the pixels when the sum is the smallest. For example, in the case of a face area, it is estimated that the area of the current frame specified by the correspondence relation with respect to the face area of the previous frame is the face area. In this way, the face area within the person area can be tracked.
図10に戻り、顔検知部35は、顔が含まれている顔領域を検知する(S140)。ここではフレームの全体から顔を検知する。   Returning to FIG. 10, the face detection unit 35 detects a face area including a face (S <b> 140). Here, the face is detected from the entire frame.
ここで検知された顔領域には3つの種類が生じることになる。I.採取中の顔画像サンプルの顔領域、II.すでに顔画像サンプルが十分に採取された(人物IDが付与された)顔領域、III.顔画像サンプルが採取されていない(人物IDもまだ付与されていない)顔領域、の3つである。図10で着目するのは主にI,IIである。   There are three types of face areas detected here. I. The face area of the face image sample being collected, II. The face area where the face image sample has been sufficiently collected (with the person ID assigned), III. The face image sample has not been collected (the person ID is still assigned) 3) face area. In FIG. 10, attention is mainly focused on I and II.
顔の検知にはAdaboostを用いた方法などを用いる。Adaboostは、予め生成した弱識別器の信頼度を顔と否顔のサンプル画像により学習して、弱識別器を組み合わせて最終的に識別器を構築する判別方法である。例えば、顔と否顔のサンプル画像の誤り率が最小になる弱識別器の信頼度を算出し、最小になる誤り率に基づきサンプル画像の重み付けを算出する。重み付けに基づき学習の継続の可否を判定し、学習が継続できるなら算出した重み付けでサンプル画像の誤り率が最小になる弱識別器の信頼度を算出し、最小になる誤り率からサンプル画像の重み付けを算出する。学習が継続できない場合、学習を終了する。最終的に、信頼度と弱識別器を乗じたものの線形結合が識別器となる。   For detection of a face, a method using Adaboost is used. Adaboost is a discrimination method in which the reliability of weak classifiers generated in advance is learned from sample images of faces and non-faces, and the classifiers are finally constructed by combining weak classifiers. For example, the reliability of the weak classifier that minimizes the error rate of the face image and the non-face sample image is calculated, and the weight of the sample image is calculated based on the minimum error rate. Determines whether or not to continue learning based on weighting, and if learning can continue, calculates the reliability of the weak classifier that minimizes the error rate of the sample image with the calculated weighting, and weights the sample image from the error rate that minimizes Is calculated. If learning cannot be continued, learning is terminated. Finally, a linear combination of the reliability and the weak classifier is the classifier.
この識別器に、フレームから切り取られた、顔が含まれる程度の所定の大きさの矩形領域を入力すれば、顔領域の場合(顔が含まれる場合)は正値が、顔領域でなければ負値が出力される。   If a rectangular area of a predetermined size that is cut out from the frame and includes a face is input to this discriminator, if the face area is a face area (when a face is included), the positive value is not a face area. Negative value is output.
顔検知部35は顔が検知された顔領域毎に以下の処理を行う(S150)。
顔領域から顔が検知された場合、顔検知部35は、検知された顔領域がS30で人物IDが付与された、顔画像サンプルを採取中の人物の人物領域から抽出されたか否かを判定する(S160)。顔検知部35は、追尾により得られている現在の人物領域の人物の位置に、検出した顔領域が含まれているか否かに基づき、検知された顔領域が採取中の人物の顔領域か否かを判定する。
The face detection unit 35 performs the following processing for each face area where a face is detected (S150).
When a face is detected from the face area, the face detection unit 35 determines whether or not the detected face area has been extracted from the person area of the person whose face image sample has been given the person ID in S30. (S160). The face detection unit 35 determines whether the detected face area is the face area of the person being collected based on whether or not the detected face area is included in the position of the person in the current person area obtained by tracking. Determine whether or not.
検知された顔領域が人物IDを付与された人物領域の顔領域の場合(S160のYes)、顔画像サンプル登録部37は、検知された顔領域を顔画像サンプルとして人物IDに対応付けて顔画像サンプルデータベース38に登録する(S170)。   When the detected face area is a face area of a person area to which a person ID is assigned (Yes in S160), the face image sample registration unit 37 uses the detected face area as a face image sample in association with the person ID. It is registered in the image sample database 38 (S170).
図11は、顔画像サンプルデータベース38の一例を示す図である。顔画像サンプルデータベース38には、顔画像サンプルIDに対応づけて人物IDと顔画像サンプルが登録される。顔画像サンプルIDは、顔画像サンプルを識別する一意の識別子である。図示するように、同じ人物領域(同じ人物の)から抽出された顔画像サンプルには同じ人物IDが付与されている。なお、顔画像サンプルそのものでなく、識別用特徴量を登録してもよい。識別用特徴量があれば、顔個人識別部36はいつでも顔個人識別が可能になる。   FIG. 11 is a diagram illustrating an example of the face image sample database 38. In the face image sample database 38, a person ID and a face image sample are registered in association with the face image sample ID. The face image sample ID is a unique identifier for identifying the face image sample. As shown in the drawing, the same person ID is assigned to the face image samples extracted from the same person region (of the same person). Note that the feature amount for identification may be registered instead of the face image sample itself. If there is an identification feature amount, the face individual identification unit 36 can always perform face individual identification.
図10に戻り、検知された顔領域が人物IDを付与された人物IDを付与された人物領域の顔領域でない場合(S160のNo)、すでに顔画像サンプルが人物IDに対応づけて登録されていること場合には、顔個人識別部36は顔領域から顔識別する(S170)。着目している顔領域では識別できない場合には識別しなくてもよく、顔個人識別部36は、正面顔など識別しやすい顔画像サンプルが得られた場合に個人を識別する。   Returning to FIG. 10, when the detected face area is not the face area of the person area given the person ID (No in S160), the face image sample has already been registered in association with the person ID. If so, the face individual identifying unit 36 identifies the face from the face area (S170). If it is not possible to identify the face area of interest, the face individual identification unit 36 identifies an individual when a face image sample that is easy to identify, such as a front face, is obtained.
以上のように、ユーザがUIから人物領域に人物IDを対応づけ、人物領域の人物を追尾し、同じ人物IDに各種の顔画像サンプルを登録しておくことで、正面顔が撮影されなくても、顔画像サンプルを登録することができる。   As described above, when the user associates the person ID with the person area from the UI, tracks the person in the person area, and registers various face image samples with the same person ID, the front face is not photographed. Can also register face image samples.
〔顔識別方法〕
個人識別に使用する識別用特徴量は識別方法によって様々である。本願の特徴部ではないが、顔識別には固有顔方式、制約相互部分空間方式、LFA(Lacal Feature Analysis)方式、平均顔方式等がある。また、これらから派生したり組み合わせたりするなどの各種方法が提案されている。
[Face identification method]
The identification feature quantity used for personal identification varies depending on the identification method. Although not a feature of the present application, face identification includes a unique face method, a constrained mutual subspace method, an LFA (Lacal Feature Analysis) method, an average face method, and the like. Various methods such as derivation or combination from these have been proposed.
固有顔方式は、多数の入力顔画像に対してPCA(主成分分析)により求めた入力顔画像群を表現する固有ベクトル(これが固有顔となる)を識別に利用する。識別用の入力顔画像を固有顔に展開し、各固有顔に対する類似度を評価して個人を識別する。   The eigenface method uses eigenvectors (which become eigenfaces) representing an input face image group obtained by PCA (principal component analysis) for a large number of input face images for identification. The input face image for identification is developed into a unique face, and the similarity to each unique face is evaluated to identify an individual.
制約相互部分空間方式は、静止画像でなく動画像を用いることにより、複数の顔パターンの分布の類似度を識別に利用する。   The constrained mutual subspace method uses the similarity of the distribution of a plurality of face patterns for identification by using a moving image instead of a still image.
LFA方式は、固有顔の考え方をベースに顔の鼻、眉、口、頬等の曲率が変化する部分など、局所的な特徴に対して主成分分析を行う。局所的特徴の組み合わせにより顔全体を識別する。   In the LFA method, principal component analysis is performed on local features such as a portion where the curvature of the face's nose, eyebrows, mouth, cheeks and the like changes based on the concept of the unique face. The entire face is identified by a combination of local features.
平均顔方式は、多くの人間の顔画像の対応点を求め、各対応点の位置と濃度から平均顔を求める。平均顔の特徴点の周囲の特徴量を演算により取り出し、識別対象の顔画像の対応する対応点の特徴量を比較することで個人を識別する。   In the average face method, corresponding points of many human face images are obtained, and an average face is obtained from the position and density of each corresponding point. Individuals are identified by taking out the feature quantities around the average facial feature points by calculation and comparing the feature quantities of corresponding points in the face image to be identified.
この他、ガポールウェーブレット変換、グラフマッチング法、多重照合顔検出法、摂動空間法、適応量的領域混合マッチング法等がある。   In addition, there are a Gapol wavelet transform, a graph matching method, a multiple matching face detection method, a perturbation space method, an adaptive quantitative region mixed matching method, and the like.
〔ユーザによる顔画像サンプルの選別等〕
図12は、顔画像サンプルデータベース38に登録された顔画像サンプルを表示した表示例を模式的に示す図の一例である。
[Selection of face image samples by the user]
FIG. 12 is an example of a diagram schematically showing a display example in which face image samples registered in the face image sample database 38 are displayed.
例えば、映像入力装置24が映像の撮影を終了した後、又は、映像を撮影しながら、ユーザが入力装置23から計算機22を操作すると、顔画像サンプルデータベース38に登録した顔画像サンプルを表示することが可能になる。例えば、ユーザが、所定の人物領域を選択すると、サンプル選別部41は選択された人物領域の人物IDを特定する。そして、顔画像サンプルデータベース38から人物IDに対応づけられた顔画像サンプルを読み出し、選択した人物領域の周りに、又は、人物領域から顔画像サンプルまで線を引き出して表示する。   For example, when the user operates the calculator 22 from the input device 23 after the video input device 24 finishes shooting the video or while shooting the video, the face image sample registered in the face image sample database 38 is displayed. Is possible. For example, when the user selects a predetermined person area, the sample selection unit 41 specifies the person ID of the selected person area. Then, the face image sample associated with the person ID is read from the face image sample database 38, and a line is drawn around the selected person area or from the person area to the face image sample and displayed.
図12のような機能は、ユーザが登録された顔画像サンプルを確認し、追尾などに誤りが生じ別の人物の顔画像サンプルが所定の人物IDに対応づけられた顔画像サンプルを消去する際に有効である。この場合ユーザは入力装置22で別の人物の顔画像サンプルを選択する操作を入力する。サンプル選別部41は、この操作を受け付けて、選択された顔画像サンプルIDを特定し、顔画像サンプルデータベース38に登録された顔画像サンプルを消去する。   The function as shown in FIG. 12 is used when a user confirms a registered face image sample, and an error occurs in tracking or the like, and a face image sample of another person is associated with a predetermined person ID. It is effective for. In this case, the user inputs an operation for selecting a face image sample of another person using the input device 22. The sample selection unit 41 receives this operation, specifies the selected face image sample ID, and deletes the face image sample registered in the face image sample database 38.
また、ユーザは図12のような画面から、入力装置23を使用して人物に注釈を付けることができる。入力された注釈は、人物IDに対応づけて顔画像サンプルデータベース38に登録される。   Also, the user can annotate a person using the input device 23 from the screen as shown in FIG. The input annotation is registered in the face image sample database 38 in association with the person ID.
サンプル選別部41は、各顔画像サンプルを重畳しないように例えば時系列に並べて表示装置21に表示することができる。この場合、ユーザは会議の経過時間と顔画像サンプルの関係を把握しやすくなる。また、人物追尾情報IDと顔画像サンプルIDを紐付けておけば、サンプル選別部41は、顔画像サンプルの位置を特定できる。サンプル選別部41は、顔画像サンプルを採取された時の位置に表示することができる。この位置は、参加者の顔画像サンプルが採取された時の位置であるので、ユーザは参加者の位置と顔画像サンプルの関係を容易に把握できることになる。   The sample selection unit 41 can display the face image samples on the display device 21 in a time series, for example, so as not to overlap each other. In this case, the user can easily grasp the relationship between the elapsed time of the meeting and the face image sample. If the person tracking information ID and the face image sample ID are linked, the sample selection unit 41 can specify the position of the face image sample. The sample selection unit 41 can display the face image sample at the position when it is collected. Since this position is the position when the participant's face image sample is collected, the user can easily grasp the relationship between the participant's position and the face image sample.
また、顔画像サンプルデータベース38には顔画像サンプルが登録されているので、顔画像サンプルから識別用特徴量を求めれば、同じ人物の特徴量距離を算出することができる。サンプル選別部41は、特徴量距離に応じて各顔画像サンプルを離して表示装置21に表示する。こうすることで、ユーザは、別人の顔画像サンプルやほとんど顔が映っていない顔画像サンプルを顔画像サンプルデータベース38から消去することもできる。   Further, since face image samples are registered in the face image sample database 38, the feature amount distance of the same person can be calculated by obtaining the identification feature amount from the face image sample. The sample selection unit 41 separates each face image sample according to the feature amount distance and displays it on the display device 21. By doing so, the user can also erase the face image sample of another person or the face image sample in which almost no face is reflected from the face image sample database 38.
以上説明したように、本実施形態の顔画像サンプル採取装置100は、顔個人識別が困難な顔画像サンプルに人物IDを付与でき、一度、人物領域と人物IDが対応づけられた後は、人物領域の人物を追尾するので、同一人物に同一の人物IDを付与できる。また、同じフレームに複数の人物が撮影されていても、各人物領域に別々の人物IDが付与されるので、同じフレームに複数の人物領域が検出されても各人物を確実に識別できる。人物IDを付与したり顔画像サンプルを採取しながら、個人識別することもできる。   As described above, the face image sample collection device 100 according to the present embodiment can assign a person ID to a face image sample that is difficult to identify personal faces, and once the person area and the person ID are associated with each other, Since the person in the area is tracked, the same person ID can be assigned to the same person. Also, even if a plurality of persons are photographed in the same frame, different person IDs are assigned to the person areas, so that each person can be reliably identified even if a plurality of person areas are detected in the same frame. It is also possible to identify a person while giving a person ID or collecting a face image sample.
21 表示装置
22 計算機
23 入力装置
24 映像入力装置
31 映像取得部
32 人物領域検出部
33 人物ID付与部
34 人物追尾部
35 顔検知部
36 顔個人識別部
37 顔画像サンプル登録部
38 顔画像サンプルデータベース
39 特徴量抽出部
40 人物ID付与判断部
100 顔画像サンプル採取装置
DESCRIPTION OF SYMBOLS 21 Display apparatus 22 Computer 23 Input apparatus 24 Image | video input apparatus 31 Image | video acquisition part 32 Person area detection part 33 Person ID provision part 34 Person tracking part 35 Face detection part 36 Face individual identification part 37 Face image sample registration part 38 Face image sample database 39 Feature Extraction Unit 40 Person ID Assignment Determination Unit 100 Face Image Sample Collection Device
特開2007−249588号公報JP 2007-249588 A

Claims (10)

  1. 人物が含まれる映像を取得する映像取得手段と、
    前記映像から人物領域を検出する人物領域検出手段と、
    前記映像を表示装置に表示する表示手段と、
    前記人物領域と人物情報の対応づけを受け付ける対応づけ受け付け手段と、
    前記人物領域に人物IDを付与する人物ID付与手段と、
    前記人物領域の人物を追尾する人物追尾手段と、
    前記映像から人物の顔を検出する顔検出手段と、
    当該顔を含む領域の顔画像又は顔画像から求められた識別用特徴量を、前記人物IDと対応づけてデータベースに登録する特徴量登録手段と、を有し、
    前記人物領域検出手段は、入力装置が受け付けたフレーム中の位置情報の周囲を前記人物領域とし、
    前記人物領域検出手段は、過去のフレームの前記顔画像の大きさの平均値を算出し、前記位置情報を中心として前記平均値の範囲を前記人物領域とする
    ことを特徴とする顔画像サンプル採取装置。
    Video acquisition means for acquiring video including a person;
    Person area detecting means for detecting a person area from the video;
    Display means for displaying the video on a display device;
    Correspondence receiving means for receiving a correspondence between the person area and the person information;
    Person ID giving means for giving a person ID to the person area;
    Person tracking means for tracking a person in the person area;
    Face detection means for detecting a human face from the video;
    A feature amount registration unit that registers a face image of an area including the face or an identification feature amount obtained from the face image in a database in association with the person ID ;
    The person area detecting means sets the person area around the position information in the frame received by the input device,
    The person area detecting means calculates an average value of the size of the face image of a past frame, and sets the range of the average value around the position information as the person area .
    A face image sample collection device characterized by the above.
  2. 前記顔検出手段が検出した顔画像のうち、前記人物ID付与手段が前記人物IDを付与した前記人物領域に含まれない顔画像を顔個人識別する顔個人識別手段を有する、
    ことを特徴とする請求項1記載の顔画像サンプル採取装置。
    Of the face images detected by the face detection means, the person ID giving means has a face personal identification means for identifying a face image that is not included in the person area to which the person ID is given.
    The face image sample collection device according to claim 1.
  3. 前記人物領域検出手段は、前記映像のフレーム全体から前記人物領域を検出する、ことを特徴とする請求項1又は2記載の顔画像サンプル採取装置。   3. The face image sampling apparatus according to claim 1, wherein the person area detecting unit detects the person area from the entire frame of the video.
  4. 前記対応づけ受け付け手段は、前記表示装置に表示された人物情報リスト内の前記人物情報及び前記人物領域の選択を受け付け、前記人物領域と前記人物情報とを対応付ける、
    ことを特徴とする請求項1〜3いずれか1項記載の顔画像サンプル採取装置。
    The association receiving means receives selection of the person information and the person area in the person information list displayed on the display device, and associates the person area with the person information.
    The face image sample collection device according to any one of claims 1 to 3 .
  5. 同一の前記人物IDに対応づけて前記データベースに登録された一連の顔画像を、所定のフレームの該人物IDに対応する前記人物領域に関連づけて前記表示装置に表示し、
    前記データベースに登録する顔画像の選別を受け付けるサンプル選別手段、
    を有することを特徴とする請求項1〜4いずれか1項記載の顔画像サンプル採取装置。
    A series of face images associated with the same person ID and registered in the database are displayed on the display device in association with the person region corresponding to the person ID of a predetermined frame,
    Sample selection means for receiving selection of face images to be registered in the database;
    5. The face image sample collection device according to claim 1, comprising:
  6. 前記人物領域検出手段は、前記位置情報の画素の画素値との差異が所定値内の画素値を有する前記位置情報の周囲を前記人物領域とする、
    ことを特徴とする請求項1記載の顔画像サンプル採取装置。
    The person area detecting means sets the person area as a periphery of the position information in which a difference from a pixel value of a pixel of the position information has a pixel value within a predetermined value.
    The face image sample collection device according to claim 1 .
  7. 前記人物追尾手段は、前記人物領域の画素値のヒストグラム又は画素値を特徴量にして、所定の画像処理を適用して前記人物領域の人物を追尾する、
    ことを特徴とする請求項1〜6いずれか1項記載の顔画像サンプル採取装置。
    The person tracking means uses a histogram or pixel value of the pixel value of the person area as a feature amount to track a person in the person area by applying predetermined image processing.
    The face image sample collection device according to any one of claims 1 to 6,
  8. 前記サンプル選別手段は、
    前記データベースに登録された一連の顔画像の認識用特徴量に基づき顔画像間の距離情報を算出し、距離情報に応じて顔画像を離間して前記表示装置に表示する、
    ことを特徴とする請求項5記載の顔画像サンプル採取装置。
    The sample selection means includes
    Calculating distance information between face images based on a recognition feature amount of a series of face images registered in the database, and separating the face images according to the distance information and displaying them on the display device;
    The face image sample collection device according to claim 5 .
  9. 映像取得手段が、人物が含まれる映像を取得するステップと、
    人物領域検出手段が、前記映像に対し入力装置が受け付けたフレーム中の位置情報の周囲を人物領域として検出するステップと、
    表示手段が、前記映像を表示装置に表示するステップと、
    対応づけ受け付け手段が、前記人物領域と人物情報の対応づけを受け付けるステップと、
    人物ID付与手段が、前記人物領域に人物IDを付与するステップと、
    人物追尾手段が、前記人物領域の人物を追尾するステップと、
    顔検出手段が、前記映像から人物の顔を検出するステップと、
    特徴量登録手段が、当該顔を含む領域の顔画像又は顔画像から求められた識別用特徴量を、前記人物IDと対応づけてデータベースに登録するステップと、を有し
    前記人物領域検出手段は、過去のフレームの前記顔画像の大きさの平均値を算出し、前記位置情報を中心として前記平均値の範囲を前記人物領域とする
    ことを特徴とする顔画像サンプル採取方法。
    A step in which a video acquisition means acquires a video including a person;
    A step of detecting a person area around the position information in the frame received by the input device for the video;
    Display means for displaying the video on a display device;
    A step of receiving a correspondence between the person area and the person information;
    A step of assigning a person ID to the person area;
    A person tracking means for tracking a person in the person area;
    A step of detecting a face of a person from the video by a face detection means;
    The feature amount registration means, comprises a step of registering the identification characteristic amount obtained from the face image or the face image area including the face, the database in association with the person ID, and,
    The person area detecting means calculates an average value of the size of the face image of a past frame, and sets the range of the average value around the position information as the person area .
    A method for collecting a face image sample.
  10. コンピュータに、
    人物が含まれる映像を取得するステップと、
    前記映像に対し入力装置が受け付けたフレーム中の位置情報の周囲を人物領域として検出する人物領域検出ステップと、
    前記映像を表示装置に表示するステップと、
    前記人物領域と人物情報の対応づけを受け付けるステップと、
    前記人物領域に人物IDを付与するステップと、
    前記人物領域の人物を追尾するステップと、
    前記映像から人物の顔を検出するステップと、
    当該顔を含む領域の顔画像又は顔画像から求められた識別用特徴量を、前記人物IDと対応づけてデータベースに登録するステップと、を実行させ、
    前記人物領域検出ステップでは、過去のフレームの前記顔画像の大きさの平均値を算出し、前記位置情報を中心として前記平均値の範囲を前記人物領域とする、処理を実行させるプログラム。
    On the computer,
    Acquiring a video including a person;
    A person area detecting step for detecting the periphery of position information in a frame received by the input device for the video as a person area ;
    Displaying the video on a display device;
    Receiving a correspondence between the person area and person information;
    Assigning a person ID to the person area;
    Tracking the person in the person area;
    Detecting a human face from the video;
    An identifying feature amount obtained from the face image or the face image area including the face, and registering in the database in association with the person ID, to the execution,
    In the person area detecting step, a program for executing a process of calculating an average value of the size of the face image of a past frame and setting the range of the average value centered on the position information as the person area .
JP2010172854A 2010-07-30 2010-07-30 Face image sample collection device, face image sample collection method, program Expired - Fee Related JP5552946B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010172854A JP5552946B2 (en) 2010-07-30 2010-07-30 Face image sample collection device, face image sample collection method, program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010172854A JP5552946B2 (en) 2010-07-30 2010-07-30 Face image sample collection device, face image sample collection method, program

Publications (2)

Publication Number Publication Date
JP2012033054A JP2012033054A (en) 2012-02-16
JP5552946B2 true JP5552946B2 (en) 2014-07-16

Family

ID=45846370

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010172854A Expired - Fee Related JP5552946B2 (en) 2010-07-30 2010-07-30 Face image sample collection device, face image sample collection method, program

Country Status (1)

Country Link
JP (1) JP5552946B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014021005A1 (en) 2012-07-31 2014-02-06 日本電気株式会社 Image processing system, image processing method, and program
JP6627750B2 (en) * 2014-03-31 2020-01-08 日本電気株式会社 Image processing system, image processing apparatus, image processing method, and recording medium

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0723012A (en) * 1993-06-30 1995-01-24 Takahashi Takeshi Audience rating survey system
JP2000339466A (en) * 1999-05-31 2000-12-08 Omron Corp Data retaining device and face image retaining device
JP2002157592A (en) * 2000-11-16 2002-05-31 Nippon Telegr & Teleph Corp <Ntt> Method and device for registering personal information and recording medium recording its program
JP2005128774A (en) * 2003-10-23 2005-05-19 Seiko Epson Corp Image area extracting device and method
GB2414614A (en) * 2004-05-28 2005-11-30 Sony Uk Ltd Image processing to determine most dissimilar images
JP4939968B2 (en) * 2007-02-15 2012-05-30 株式会社日立製作所 Surveillance image processing method, surveillance system, and surveillance image processing program

Also Published As

Publication number Publication date
JP2012033054A (en) 2012-02-16

Similar Documents

Publication Publication Date Title
US10726312B2 (en) System and method for appearance search
JP6013241B2 (en) Person recognition apparatus and method
JP2016072964A (en) System and method for subject re-identification
EP3224809A1 (en) Fast object tracking framework for sports video recognition
US9025864B2 (en) Image clustering using a personal clothing model
JP2008146539A (en) Face authentication device
Avgerinakis et al. Recognition of activities of daily living for smart home environments
US9600717B1 (en) Real-time single-view action recognition based on key pose analysis for sports videos
Chauhan et al. Study & analysis of different face detection techniques
JP2017033469A (en) Image identification method, image identification device and program
JP5604256B2 (en) Human motion detection device and program thereof
WO2019033570A1 (en) Lip movement analysis method, apparatus and storage medium
JP6532190B2 (en) Image search apparatus, image search method
CN103996046A (en) Personnel recognition method based on multi-visual-feature fusion
WO2019033569A1 (en) Eyeball movement analysis method, device and storage medium
JP2016015045A (en) Image recognition device, image recognition method, and program
CN105335691A (en) Smiling face identification and encouragement system
KR20170006355A (en) Method of motion vector and feature vector based fake face detection and apparatus for the same
JP5552946B2 (en) Face image sample collection device, face image sample collection method, program
WO2018176195A1 (en) Method and device for classifying indoor scene
CN111209818A (en) Video individual identification method, system, equipment and readable storage medium
JP2006293720A (en) Face detection apparatus, face detection method, and face detection program
Gaikwad et al. Face Recognition Using Golden Ratio for Door Access Control System
Zhang et al. Human interaction recognition in the wild: analyzing trajectory clustering from multiple-instance-learning perspective
JP2018013913A (en) Behavior recognition device, behavior recognition method, learning method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130523

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140121

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140430

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140513

R151 Written notification of patent or utility model registration

Ref document number: 5552946

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees