JP2006319610A - Camera - Google Patents

Camera Download PDF

Info

Publication number
JP2006319610A
JP2006319610A JP2005139552A JP2005139552A JP2006319610A JP 2006319610 A JP2006319610 A JP 2006319610A JP 2005139552 A JP2005139552 A JP 2005139552A JP 2005139552 A JP2005139552 A JP 2005139552A JP 2006319610 A JP2006319610 A JP 2006319610A
Authority
JP
Japan
Prior art keywords
image
person
input
line
sight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005139552A
Other languages
Japanese (ja)
Inventor
Sotaro Chikusawa
宗太郎 築澤
Yoshimasa Honda
義雅 本田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2005139552A priority Critical patent/JP2006319610A/en
Publication of JP2006319610A publication Critical patent/JP2006319610A/en
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a camera which enables acquisition of an image where a photographed person looks in the direction of the camera by one photographing. <P>SOLUTION: The camera is provided with an image input means for inputting an image of a person or a plurality of persons including a face image, an image processing means for determining whether or not the person looks in the direction of the camera by detecting the direction of the eye line of the person from the image inputted by the image input means, and a photographing means for storing the input image determined from the result of the image processing means that the person faces a designated direction. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、被撮影者を撮影する撮像装置に関するものである。   The present invention relates to an imaging apparatus that photographs a subject.

従来のカメラにおいては、シャッターレリーズボタン、セルフタイマなどが設けられており、撮影者がこれらのシャッターレリーズボタンを押す、またはセルフタイマによって設定した時刻に達することにより被撮影者の画像が記録媒体に記録される。しかし、撮影者が瞬間を捉えるカメラを用いて、最適なタイミングで撮影することは、相当の訓練を要する。特に、被撮影者が乳児や幼児のように撮影者の意図を理解してカメラの方向を向いてくれないような場合や、集合写真のように、被撮影者全員の視線がカメラに向いているかどうか撮影者が瞬時に把握困難な場合などでは、最適なシャッタータイミングを判断することは、そういった撮影に熟練したものでなければ難しい。   A conventional camera is provided with a shutter release button, a self-timer, and the like. When the photographer presses these shutter release buttons or when a time set by the self-timer is reached, the image of the subject is recorded on the recording medium. To be recorded. However, it takes considerable training for the photographer to shoot at an optimal timing using a camera that captures the moment. In particular, when the subject does not look at the camera by understanding the photographer's intentions, such as an infant or infant, or when the subject's line of sight is facing the camera, such as in a group photo. When it is difficult for the photographer to grasp whether or not it is instantaneous, it is difficult to determine the optimum shutter timing unless the person is skilled in such shooting.

また、撮影タイミングを的確に判断できた場合でも、レリーズタイムラグによって撮影者が望むタイミングの画像とは異なる画像しか得られない可能性もある。   Even when the photographing timing can be accurately determined, there is a possibility that only an image different from the image at the timing desired by the photographer may be obtained due to the release time lag.

このような問題に対して、撮影者が望む画像を取得する手段として、撮影後に簡単に取得した画像を確認でき、最適な画像が得られるまで再度取り直すことができる撮像装置(例えば特許文献1)、シャッタータイミングを非撮影者にフラッシュの点滅状態によって知らせる撮像装置(例えば特許文献2)、一定時間撮影した連続画像の中から複数の被撮影者の顔領域を検出し、検出された顔の状態から各画像における被撮影者の顔状態の評価を行い、各被撮影者の最良の顔を一枚の画像に合成することで各被撮影者がカメラ方向を向いた画像を取得する画像処理手段(例えば特許文献3)などがある。
特開2003−52038号公報 特開2001−275353号公報 特開2000−259833号公報
As a means for acquiring an image desired by a photographer with respect to such a problem, an image pickup apparatus that can easily check an acquired image after shooting and can retake it until an optimum image is obtained (for example, Patent Document 1). An imaging device that informs the non-photographer of the shutter timing by the flashing state of the flash (for example, Patent Document 2), detects a plurality of subjects' face areas from continuous images taken for a certain period of time, and detects the detected face state Image processing means that evaluates the face state of the photographed person in each image and combines the best face of each photographed person into a single image to obtain an image in which each photographed faces the camera direction (For example, Patent Document 3).
JP 2003-52038 A JP 2001-275353 A JP 2000-259833 A

しかしながら、前記従来の撮像装置(例えば特許文献1および特許文献2)では、撮影者の意図を理解してくれない被撮影者が対象の場合、一度の撮影で被撮影者がカメラの方向を向いた画像を撮影するのは困難であるという課題を有している。   However, in the conventional imaging devices (for example, Patent Document 1 and Patent Document 2), when a subject who does not understand the photographer's intention is a target, the subject turns the camera in one shot. It has a problem that it is difficult to take a picture.

また、前記従来の画像処理手段(例えば特許文献3)では、取得した画像が合成であることから不自然さが生じる、連続画像中に最適な顔状態が存在する保証がないため、カメラまたはあらかじめ指定された方向を向いた画像が取得できない可能性があるといった課題を有している。   Further, in the conventional image processing means (for example, Patent Document 3), since there is no guarantee that an optimal face state exists in a continuous image, which is unnatural because the acquired images are synthesized, There is a problem that an image facing a specified direction may not be acquired.

本発明は、前記従来の課題を解決するもので、一人または複数の被撮影者、もしくは複数人中の特定の被撮影者が、カメラまたはあらかじめ指定された方向を向いた画像を取得する撮像装置を提供することを目的とする。   SUMMARY OF THE INVENTION The present invention solves the above-described conventional problems, and is an image pickup apparatus in which one or a plurality of subjects, or specific subjects among a plurality of subjects acquire a camera or an image directed in a predetermined direction. The purpose is to provide.

前記従来の課題を解決するために、本発明の撮像装置は、顔画像を含む一人または複数の人物の画像を入力する画像入力手段と、前記画像入力手段が入力した画像から前記人物の視線方向を検出して前記人物が撮像装置を見ているかどうかを判断する画像処理手段と、前記画像処理手段の結果から前記人物が撮像装置を見ていると判断された入力画像の保存を行う保存手段と、を備える。   In order to solve the above-described conventional problems, an imaging apparatus according to the present invention includes an image input unit that inputs an image of one or more persons including a face image, and the line-of-sight direction of the person from the image input by the image input unit Image processing means for detecting whether or not the person is looking at the imaging device, and storage means for saving the input image determined from the result of the image processing means that the person is looking at the imaging device And comprising.

本構成によって、一人または複数人の被撮影者の視線がカメラまたは特定の方向に向いた画像を、一度の撮影で取得することにより、撮影者および被撮影者の負担を軽減することができる。   With this configuration, it is possible to reduce the burden on the photographer and the photographed person by acquiring an image in which the line of sight of one or more photographed persons is directed to the camera or a specific direction in one shot.

また本発明の撮像装置は、前記画像処理手段の出力から撮像装置を見ていない人物がいることを撮影者に警告する警告手段と、撮影者が撮影の指令を入力する撮影時機入力手段とをさらに備えた撮像装置である。   Further, the imaging apparatus of the present invention includes warning means for warning the photographer that there is a person who is not looking at the imaging apparatus from the output of the image processing means, and shooting time input means for the photographer to input a shooting command. Furthermore, it is an imaging apparatus provided.

本構成によって、撮影者は、カメラを見ていない被撮影者に対して注意を促すことができ、また、前記画像処理手段の判断だけではなく、撮影者の意思によって任意の時機に撮影をすることが可能となる。   With this configuration, the photographer can call attention to the photographed person who is not looking at the camera. In addition to the determination of the image processing means, the photographer can take an image at any time according to the photographer's intention. It becomes possible.

また本発明の撮像装置は、画像を入力する画像入力手段と、前記人物の視線方向を指定する視線方向指定手段と、前記画像入力手段が入力した画像から一人または複数の人物を検出し、前記人物の視線方向を検出して前記視線方向指定手段が指定した方向を見ているかどうか判断する画像処理手段と、前記画像処理手段の結果から前記人物が撮像装置を見ていると判断された入力画像の保存を行う保存手段を備えた撮像装置である。   Further, the imaging apparatus of the present invention detects one or more persons from an image input means for inputting an image, a gaze direction designation means for designating the gaze direction of the person, and an image input by the image input means, An image processing means for detecting whether or not the person's line-of-sight direction is detected and looking at the direction designated by the line-of-sight direction designating means; and an input determined from the result of the image processing means that the person is looking at the imaging device It is an imaging device provided with storage means for storing images.

本構成によって、撮影者は、カメラ方向だけではなく、任意の方向を被撮影者が向いた画像を撮影することができる。   With this configuration, the photographer can photograph an image in which the subject is facing not only the camera direction but also any direction.

また本発明の撮像装置は、前記画像処理手段の出力から前記視線指定手段が指定した方向を見ていない人物がいることを撮影者に警告する警告手段と、撮影者が撮影の指令を入力する撮影時機入力手段をさらに備えた撮像装置である。   In the imaging apparatus of the present invention, warning means for warning the photographer that there is a person who is not looking at the direction designated by the line-of-sight designation means from the output of the image processing means, and the photographer inputs a shooting command The imaging apparatus further includes a photographing time input unit.

本構成によって、撮影者は、指定方向を向いていない被撮影者に注意を促したり、指定方向を向かせるための指示を行うことで、撮影を円滑に進めることができる。また、前記画像処理手段の判断だけではなく、撮影者の意思によって任意の時機に撮影をすることが可能となる。   With this configuration, the photographer can smoothly advance photographing by calling attention to a subject who is not facing the designated direction or by giving an instruction for directing the designated direction. In addition to the determination of the image processing means, it is possible to take a picture at an arbitrary time according to the intention of the photographer.

また本発明の撮像装置は、前記画像処理手段が、入力画像中の一人または複数の人物の視線方向を検出する視線検出手段と、前記視線検出手段の結果から、前記人物が撮像装置または前期視線指定手段が指定した方向を見ているかどうかを判断する適性判断手段を有する撮像装置である。   In the image pickup apparatus of the present invention, the image processing means detects a line-of-sight direction of one or more persons in the input image, and, based on the result of the line-of-sight detection means, the person is the image pickup apparatus or the previous line of sight. The imaging apparatus includes aptitude determination means for determining whether the designation means is looking in the designated direction.

本構成によって、視線検出手段を共通化し、適性判断手段の変更のみで、本発明の撮像装置の画像処理手段を作ることができるため、撮影者に迅速かつ安価に撮像装置を製造、供給することが可能となる。   With this configuration, the line-of-sight detection means can be shared, and the image processing means of the image pickup apparatus of the present invention can be made only by changing the aptitude determination means. Therefore, the image pickup apparatus can be manufactured and supplied to the photographer quickly and inexpensively. Is possible.

また本発明の撮像装置は、前記視線方向指定手段が、入力画像を表示する画像表示手段と、入力画像中の物体や領域、方向を指定することで目的とする視線方向を指定する指定入力手段と、前記指定入力手段の入力と前記入力画像から指定方向を認識する指定認識手段を有する撮像装置である。   In the imaging apparatus of the present invention, the line-of-sight direction designating unit displays an input image, and a designation input unit that designates a target line-of-sight direction by designating an object, a region, and a direction in the input image. And an imaging device having designation recognition means for recognizing a designation direction from the input of the designation input means and the input image.

本構成によって、撮影者は、直感的に視線方向を指定することができ、指定作業が容易になる。   With this configuration, the photographer can intuitively specify the line-of-sight direction, and the designation work is facilitated.

また本発明の撮像装置は、前記警告手段が、前記適性判断手段によって撮像装置または指定方向を見ていないと判断された人物を表すよう画像を加工する画像合成手段と、前記画像合成手段が出力した画像を表示する警告表示手段を有する撮像装置である。   In the image pickup apparatus of the present invention, the warning means outputs an image composition means for processing an image to represent a person who is determined not to look at the image pickup apparatus or the designated direction by the aptitude judgment means, and the image composition means outputs It is an imaging device which has a warning display means which displays the done image.

本構成によって、撮影者は、視覚によって前記被撮影者を確認することができ、容易に前記被撮影者を特定することが可能となる。   With this configuration, the photographer can visually identify the photographed person and can easily identify the photographed person.

以上のように、本発明の撮像装置によれば、撮影した画像の確認を何度もすることなく、自動的に、一人または複数人の被撮影者の視線がカメラまたは特定の方向に向いた画像を撮影することすることができる。   As described above, according to the imaging apparatus of the present invention, the line of sight of one or a plurality of subjects is automatically directed to the camera or a specific direction without repeatedly checking the captured image. Images can be taken.

また、集合写真などを撮影する場合に、視線をカメラに向けていない被撮影者を警告表示手段によって撮影者に知らせることで、撮影者が被撮影者に注意を促すことができ、円滑に撮影を済ませることができる。   In addition, when taking a group photo, the photographer can be alerted to the photographer by the warning display means that the photographer whose line of sight is not pointed at the camera can be taken. Can be completed.

以下本発明の実施の形態について、図面を参照しながら説明する。   Embodiments of the present invention will be described below with reference to the drawings.

(実施の形態1)
図1は、本発明の実施の形態1における撮像装置の構成を示すブロック図である。
(Embodiment 1)
FIG. 1 is a block diagram showing a configuration of an imaging apparatus according to Embodiment 1 of the present invention.

撮像装置は、CCDやCMOSなどのイメージセンサによって画像を入力する画像入力手段101、撮影の可否を決定する画像処理手段102、メモリカードやハードディスクドライブなどの記録装置に画像の保存を行う保存手段103を備える。画像処理手段102はさらに、画像中の人物の視線を検出する視線検出手段104と、視線検出結果から入力画像の最適性を判断する適性判断手段105を備える。   The imaging apparatus includes an image input unit 101 that inputs an image using an image sensor such as a CCD or a CMOS, an image processing unit 102 that determines whether or not shooting is possible, and a storage unit 103 that stores an image in a recording device such as a memory card or a hard disk drive. Is provided. The image processing unit 102 further includes a line-of-sight detection unit 104 that detects the line of sight of a person in the image, and an aptitude determination unit 105 that determines the optimality of the input image from the line-of-sight detection result.

図2に前記撮像装置の動作フローを示す。また、図3に被撮影者が一人の場合の入力画像の例を、図4に被撮影者が複数人の場合の入力画像の例を示す。   FIG. 2 shows an operation flow of the imaging apparatus. FIG. 3 shows an example of an input image when there is one person to be photographed, and FIG. 4 shows an example of an input image when there are a plurality of persons to be photographed.

図1および図2において、撮像装置は、撮影作業を開始すると(STEP201)、画像入力手段101が、一定期間ごとにカメラの撮像面に投影された画像を取得し(STEP202)、画像処理手段102に出力する。   In FIG. 1 and FIG. 2, when the imaging apparatus starts a photographing operation (STEP 201), the image input unit 101 acquires an image projected on the imaging surface of the camera at regular intervals (STEP 202), and the image processing unit 102 Output to.

次に、画像処理手段102の視線検出手段104は、画像入力手段101から出力された画像から、画像中の人物の視線方向を検出し(STEP203)、視線方向検出結果を適正判定手段105へと出力する。   Next, the gaze detection unit 104 of the image processing unit 102 detects the gaze direction of the person in the image from the image output from the image input unit 101 (STEP 203), and the gaze direction detection result is sent to the appropriate determination unit 105. Output.

適正判定手段105は、視線検出手段104から出力された視線方向検出結果を元に、その視線方向がカメラ見ているかどうかを判定し(STEP204)、適性判断結果を保存手段103に出力する。   The appropriateness determining means 105 determines whether or not the line-of-sight direction is looking at the camera based on the line-of-sight direction detection result output from the line-of-sight detection means 104 (STEP 204), and outputs the appropriateness determination result to the storage means 103.

保存手段103は、適性判断手段106から出力された判定結果が、カメラ方向を向いていると判断していれば入力画像を保存し(STEP205)、撮影作業を終了する(STEP206)。また、カメラ方向を向いていないと判断した場合は、入力画像は撮影画像として不適であると判断し、撮像面に投影された画像を取り直す(STEP202)。   The storage unit 103 stores the input image if the determination result output from the aptitude determination unit 106 determines that the camera is facing the camera (STEP 205), and ends the photographing operation (STEP 206). If it is determined that the camera is not facing the camera direction, it is determined that the input image is inappropriate as a captured image, and the image projected on the imaging surface is retaken (STEP 202).

以下、本装置の動作について説明する。まず、一人の人物を撮影する際の動作を説明する。   Hereinafter, the operation of this apparatus will be described. First, the operation when photographing one person will be described.

図3(a)(b)に示すような、一人の人物301が映っている画像を入力画像とする。図3(a)(b)において、人物301および人物302は、被撮影者である。撮影は、次の手順で行う。   As shown in FIGS. 3A and 3B, an image in which one person 301 is shown is set as an input image. In FIGS. 3A and 3B, a person 301 and a person 302 are photographed persons. The shooting is performed according to the following procedure.

1)画像入力
2)顔領域検出
3)瞳検出
4)視線方向検出
5)撮影可否の判定
6)撮影
以下に各処理の詳細について述べる。
1) Image input 2) Face area detection 3) Pupil detection 4) Eye-gaze direction detection 5) Judgment of photographing availability 6) Photographing Details of each process are described below.

撮影作業開始の際、撮像装置は、入力画像図3(a)に対して、顔領域検出処理を行う。顔領域検出は入力画像から特徴抽出を行い、あらかじめ用意した顔領域を表す特徴と比較し、類似度が高いものを検出することで行う。顔領域は、あらかじめ用意した顔領域のテンプレートと輝度の相関が高い領域を画像中から探索したり、画像中からHSV色空間における色相があらかじめ指定した肌色の色相と近い領域を検出する肌色領域検出を行ったり、人の顔を楕円でモデル化し、ハフ変換(Hough Transformation)によって楕円検出を行ったり、統計的パターン識別手法を用いて、あらかじめ学習させた顔の特徴空間との相関の近い領域を検出したりすることで検出してもよい。   At the start of the shooting operation, the imaging apparatus performs face area detection processing on the input image shown in FIG. The face area detection is performed by extracting features from the input image, comparing them with features representing the face areas prepared in advance, and detecting those having a high degree of similarity. For the face area, search for an area that has a high correlation of brightness with the template of the face area prepared in advance, or detect the area in the HSV color space where the hue in the HSV color space is close to the skin color hue specified in advance. , Model human faces as ellipses, detect ellipses by Hough transformation, and use statistical pattern identification techniques to find areas that have a close correlation with the feature space of the face learned in advance. You may detect by detecting.

次に、検出した顔領域の中から瞳を検出する。瞳検出は、瞳が画像上に楕円として投影されることを利用し、顔領域中からハフ変換を用いて楕円を検出することで行う。また、ハフ変換によってエッジに接する円を検出し、その円を繰り返し変形させて楕円にあてはめる楕円成長法や、あらかじめ瞳の画像を入力として学習させて作製した特長空間との相関の高い画像領域を瞳として検出する手法を用いてもよい。また、瞳検出は、顔検出結果を用いず、画像の入力から直接行っても良い。   Next, a pupil is detected from the detected face area. The pupil detection is performed by using the fact that the pupil is projected on the image as an ellipse and detecting the ellipse from the face region using the Hough transform. In addition, an ellipse growth method that detects a circle that touches the edge by Hough transform, and repeatedly applies the circle to an ellipse, or an image area that has a high correlation with the feature space created by learning the pupil image as input in advance. A method of detecting as a pupil may be used. The pupil detection may be performed directly from the input of the image without using the face detection result.

視線方向の検出は、瞳検出で得られた瞳の中心と、目尻、目頭、口などの顔部品との位置関係から計算することで行う。例えば、まず、目尻、目頭、口によって顔方向を検出する。   The detection of the line-of-sight direction is performed by calculating from the positional relationship between the center of the pupil obtained by pupil detection and the facial parts such as the corners of the eyes, the eyes, and the mouth. For example, first, the face direction is detected by the corners of the eyes, the eyes, and the mouth.

次に、目尻、目頭と、瞳の中心の位置関係によって顔正面に対する視線の方向を検出する。最後に、顔方向と顔正面に対する視線の方向を合成することで、視線方向を検出する。また、検出された瞳の輪郭形状を円を3次元空間で回転させたものの投影像とし、その回転角を求めることで視線方向を計測したり、目尻、目頭の位置から3次元的に眼球中心を仮定し、瞳の中心と眼球中心の位置関係から検出してもよい。   Next, the direction of the line of sight with respect to the front of the face is detected based on the positional relationship between the corners of the eyes, the eyes, and the center of the pupil. Finally, the gaze direction is detected by combining the face direction and the gaze direction with respect to the face front. The detected pupil contour shape is a projected image of a circle rotated in a three-dimensional space, and the gaze direction is measured by obtaining the rotation angle, and the eyeball center is three-dimensionally determined from the positions of the corners of the eyes and the eyes. May be detected from the positional relationship between the center of the pupil and the center of the eyeball.

さらに、検出結果を用いて画像の最適性の判定を行う。判定は、カメラ方向と視線方向のなす角度を用いて行い、前記角度があらかじめ定められたしきい値以下の場合を最適な画像と判断し、それ以外の場合を不適な画像とする。図4は、人物401を撮像装置402で撮影する様子を上から表したものであるが、この場合、撮像装置から瞳までを結ぶ直線403と視線方向を表す直線404のなす角405を評価基準とする。すなわち、角405がしきい値以下の場合のみ撮影を行う。ただし、直線403は、鼻や口などの瞳以外の顔部品や、左右の瞳の中心のように、頭や体の一部であっても良い。図3(a)の場合、人物301は、しきい値よりも視線とカメラのなす角が大きいため、不適な画像と判定される。また、しきい値は、撮影作業開始からの時間が一定時間以上たち、しきい値以下になるまで長時間かかりそうな場合は、撮影時間を短縮するために、それまでよりも大きく設定しなおすなどして動的に決定しても良い。   Furthermore, the optimality of the image is determined using the detection result. The determination is performed using an angle formed by the camera direction and the line-of-sight direction, and when the angle is equal to or smaller than a predetermined threshold value, it is determined as an optimal image, and other cases are determined as inappropriate images. FIG. 4 shows a state in which a person 401 is photographed by the imaging apparatus 402 from above. In this case, an angle 405 formed by a straight line 403 connecting the imaging apparatus to the pupil and a straight line 404 representing the line of sight is evaluated. And That is, shooting is performed only when the corner 405 is equal to or smaller than the threshold value. However, the straight line 403 may be a part of the head or body, such as a facial part other than the pupil such as the nose or mouth, or the center of the left and right pupils. In the case of FIG. 3A, the person 301 is determined to be an inappropriate image because the angle formed between the line of sight and the camera is larger than the threshold value. In addition, if the time from the start of shooting work exceeds a certain time and it is likely that it will take a long time before the threshold is reached, set the threshold value higher than before to shorten the shooting time. For example, it may be determined dynamically.

不適な画像と判定された場合は、入力画像を取り直し、前記判定によってカメラ方向を向いていると判断されるまで、前記処理を繰り返す。例えば、図3(b)の人物302のように、カメラ方向を向いていると判断された際は、入力画像をメモリカードやハードディスクドライブなどに保存し、撮影作業を終了する。また、入力画像保存後は、撮影作業開始状態に戻り、連続撮影をしてもよい。   If it is determined that the image is inappropriate, the input image is taken again, and the processing is repeated until it is determined that the camera is facing the camera direction based on the determination. For example, like the person 302 in FIG. 3B, when it is determined that the camera is facing the camera, the input image is saved in a memory card, a hard disk drive, or the like, and the shooting operation is terminated. In addition, after the input image is stored, the shooting operation may be started and continuous shooting may be performed.

次に、複数の人物を撮影する際の動作を説明する。図5(a)(b)に示すような、複数の人物501が映っている画像を入力画像とする。図5(a)(b)において、人物501、図(a)の人物502、人物503、図(b)の人物504は、被撮影者である。   Next, an operation when photographing a plurality of persons will be described. As shown in FIGS. 5A and 5B, an image in which a plurality of persons 501 are shown is set as an input image. 5A and 5B, a person 501, a person 502 and a person 503 in FIG. 5A, and a person 504 in FIG.

撮影作業開始の際、撮像装置は、図3(a)と同様に、顔領域検出処理および瞳検出処理を行い、その後、視線方向検出をし、画像の最適性の判定を行う。判定は、カメラ方向と、人物501、人物502、人物503の視線方向のなす角度を評価基準として行う。人物501、人物502、人物503全員の前記角度があらかじめ定められたしきい値以下の場合を最適な画像と判断し、それ以外の場合を不適な画像とする。例えば、図4(a)において適性判断手段105は、人物501と人物503はカメラ方向を向いていると判断するが、人物502は、カメラ方向を向いてないと判断するため、入力画像は、撮影に不適な画像と判定される。また、判定は、以下の方法で行っても良い。   At the start of the photographing operation, the imaging device performs face area detection processing and pupil detection processing similarly to FIG. 3A, and then performs gaze direction detection to determine the optimality of the image. The determination is performed using the angle formed by the camera direction and the line-of-sight direction of the person 501, person 502, and person 503 as an evaluation criterion. A case where the angles of all of the persons 501, 502, and 503 are equal to or smaller than a predetermined threshold value is determined as an optimal image, and other cases are determined as inappropriate images. For example, in FIG. 4A, the aptitude determination unit 105 determines that the person 501 and the person 503 are facing the camera direction, but the person 502 determines that the person 502 is not facing the camera direction. It is determined that the image is not suitable for shooting. The determination may be performed by the following method.

カメラ方向を向いていると判断された被撮影者の全被撮影者に対する割合が、あらかじめ定められた割合以上の際、最適と判断し、それ以外を不適と判断する。   When the ratio of the subject who is determined to be facing the camera to the total subject is equal to or greater than a predetermined ratio, it is determined to be optimal, and the other is determined to be inappropriate.

特定の被撮影者がカメラ方向を向いた場合のみを最適と判断し、それ以外を不適と判断する。   Only when a specific subject is facing the camera, it is determined to be optimal, and the other is determined to be inappropriate.

被撮影者に重みを設定し、各被撮影者のカメラ方向と視線とのなす角をパラメータとする評価値と重みの積を各被撮影者の評価値とし、その総和があらかじめ定められたしきい値よりも良ければ最適な画像とし、それ以外を不適な画像と判断する。   A weight is set for each person to be photographed, and the product of the evaluation value and weight with the angle between the camera direction of each person to be photographed and the line of sight as a parameter is the evaluation value for each person to be photographed. If it is better than the threshold value, it is determined as an optimal image, and the other images are determined as inappropriate images.

また、しきい値は、撮影作業開始からの時間が一定時間を超えた場合は大きく設定しなおしたり、各被撮影者の視線方向の履歴から、全員の視線がより小さなしきい値以下に短時間で収まると予想される場合は小さく設定しなおすなど、動的に決定しても良い。   In addition, if the time since the start of the shooting operation exceeds a certain time, the threshold value is reset to a larger value, or the gaze direction history of each subject is shortened to a value below the smaller threshold value. If it is predicted that it will fit in time, it may be determined dynamically, for example, by setting a smaller value.

不適な画像と判定された場合は、入力画像を取り直し、図5(b)の人物501、人物504、人物503のように、判定結果が最適となるまで、前記処理を繰り返す。また、一定時間もしくは回数で、判定結果が最適とならなかった場合は、撮影作業を終了してもよい。   If it is determined that the image is inappropriate, the input image is taken again, and the above-described processing is repeated until the determination result is optimal, such as the person 501, person 504, and person 503 in FIG. If the determination result is not optimal within a certain time or number of times, the photographing operation may be terminated.

判定結果が最適となった際は、入力画像を保存し、撮影作業を終了する。また、入力画像保存後は、撮影作業開始状態に戻り、連続撮影を行ってもよい。   When the determination result is optimum, the input image is saved and the photographing operation is terminated. In addition, after the input image is stored, the shooting operation may be started and continuous shooting may be performed.

以上、本実施の形態では、被撮影者がカメラ方向を向いた画像を撮影することが容易になるという効果を有する。   As described above, the present embodiment has an effect that it becomes easy for the person to be photographed to capture an image facing the camera direction.

(実施の形態2)
図6は、本発明の実施の形態2の撮像装置の構成を示すブロック図である。図6において、図1と同じ構成要素については同じ符号を用い、説明を省略する。
(Embodiment 2)
FIG. 6 is a block diagram showing a configuration of the imaging apparatus according to Embodiment 2 of the present invention. In FIG. 6, the same components as those in FIG.

撮像装置は、画像入力手段101、画像処理手段102、保存手段103、警告手段601、撮影時機入力手段604を備える。また警告手段601は、画像合成手段602と、警告表示手段603を備える。   The imaging apparatus includes an image input unit 101, an image processing unit 102, a storage unit 103, a warning unit 601, and a photographing timing input unit 604. The warning unit 601 includes an image composition unit 602 and a warning display unit 603.

図6において、本実施の形態2は、図1に警告手段601および撮影時機入力手段604が追加される点が異なる。   In FIG. 6, the second embodiment is different from FIG. 1 in that a warning unit 601 and a photographing time input unit 604 are added.

図7に前記撮像装置の動作フローを示す。図7において、図2と同じ構成要素については同じ符号を用い、説明を省略する。   FIG. 7 shows an operation flow of the imaging apparatus. In FIG. 7, the same components as those in FIG.

画像合成手段602は、適性判断手段105の出力からカメラ方向を向いていない人物を検出し(STEP701)、前記人物が撮影者にわかるよう、前記人物の領域を示す画像を、画像入力手段101が出力した画像と合成し、警告表示手段603へ出力する(STEP702)。また画像合成手段602は、全員カメラ方向を向いていた場合は、全員向いていることを示すよう画像を加工してもよい。   The image composition unit 602 detects a person who is not facing the camera direction from the output of the suitability determination unit 105 (STEP 701), and the image input unit 101 displays an image indicating the person's area so that the photographer can recognize the person. The image is combined with the output image and output to the warning display means 603 (STEP 702). Further, if all the members are facing the camera direction, the image composition unit 602 may process the image so as to indicate that all the members are facing.

液晶ディスプレイやファインダなどの警告表示手段603は、画像合成手段602が出力した画像を、表示する(STEP703)。   The warning display means 603 such as a liquid crystal display or a finder displays the image output by the image composition means 602 (STEP 703).

以上の処理を、撮影時機入力手段604が撮影の許可を出力するまで、繰り返す(STEP704)。撮影許可が出力された場合は、画像入力手段101から入力された画像を保存し(STEP205)、終了する(STEP206)。また、画像の保存は、視線方向判定(STEP701)において、全員が指定方向を見ていたと判断された場合は自動的に行ってもよい。   The above processing is repeated until the photographing time input means 604 outputs photographing permission (STEP 704). If the photographing permission is output, the image input from the image input means 101 is saved (STEP 205), and the process ends (STEP 206). Further, the image may be stored automatically when it is determined in the line-of-sight direction determination (STEP 701) that all the members are viewing the designated direction.

図8(a)は、カメラを見ていない人物がいる場合の警告手段601の警告表示手段603を示している。前記警告表示手段に表示される画像は、カメラを見ていない人物が撮影者にわかるよう、当該人物の領域を示すものであるが、図8(a)において、入力画像において人物801と人物803はカメラ方向を向いているが、人物802はカメラ方向を向いていない。このとき、画像合成手段502は、人物702の領域を示す括弧状の画像804を入力画像に合成し、警告表示手段603に表示する。また、画像804は、記号、文字、絵であってもよい。   FIG. 8A shows the warning display means 603 of the warning means 601 when there is a person who is not looking at the camera. The image displayed on the warning display means shows the area of the person so that the photographer can see the person who is not looking at the camera. In FIG. 8A, the person 801 and the person 803 in the input image. Is facing the camera, but the person 802 is not facing the camera. At this time, the image synthesizing unit 502 synthesizes the parenthesis-shaped image 804 indicating the area of the person 702 with the input image and displays it on the warning display unit 603. The image 804 may be a symbol, a character, or a picture.

図8(b)は、全員カメラを見ている場合の警告手段601の警告表示手段603を示している。図8(b)において、人物801および人物805、人物803は全員カメラ方向を向いていると判定されている。このとき、画像合成手段は、画像806を入力画像に合成し、警告表示手段603に表示する。また、前記人物が向いている方向や、向いている方向とカメラ方向のなす角度を表示しても良い。また、画像806は、記号、文字、絵であってもよい。   FIG. 8B shows the warning display means 603 of the warning means 601 when everyone is looking at the camera. In FIG. 8B, it is determined that the person 801, the person 805, and the person 803 are all facing the camera direction. At this time, the image composition unit composes the image 806 with the input image and displays it on the warning display unit 603. Further, the direction in which the person is facing or the angle between the facing direction and the camera direction may be displayed. The image 806 may be a symbol, a character, or a picture.

以上、本実施の形態では、カメラを向いていない被撮影者を撮影者が容易に知ることができ、注意を促すなど撮影を円滑に進めることができるという効果を有する。   As described above, the present embodiment has an effect that the photographer can easily know the person to be photographed who is not facing the camera, and the photographing can be smoothly advanced such as calling attention.

(実施の形態3)
図9は、本発明の実施の形態3の撮像装置の構成を示すブロック図である。図9において、図1と同じ構成要素については同じ符号を用い、説明を省略する。
(Embodiment 3)
FIG. 9 is a block diagram showing a configuration of the imaging apparatus according to Embodiment 3 of the present invention. 9, the same components as those in FIG. 1 are denoted by the same reference numerals, and description thereof is omitted.

撮像装置は、画像入力手段101、画像処理手段102、保存手段103、視線方向指定手段901を備える。また視線方向指定手段901は、画像表示手段902と、指定入力手段903、指定認識手段904を備える。   The imaging apparatus includes an image input unit 101, an image processing unit 102, a storage unit 103, and a line-of-sight direction specifying unit 901. The line-of-sight direction designating unit 901 includes an image display unit 902, a designation input unit 903, and a designation recognition unit 904.

図10において、本実施の形態3は、図1に視線方向指定手段1001が追加される点が異なる。   10, the third embodiment is different in that a line-of-sight direction designating unit 1001 is added to FIG.

図10に前記撮像装置の動作フローを示す。図10において、図2と同じ構成要素については同じ符号を用い、説明を省略する。   FIG. 10 shows an operation flow of the imaging apparatus. 10, the same components as those in FIG. 2 are denoted by the same reference numerals and description thereof is omitted.

液晶ディスプレイやファインダなどの画像表示手段902は、入力画像を表示する(STEP1001)。このとき、入力画像中の物体や方向をマウスやタッチパネル、十字キーなどの指定入力手段903によって入力する(STEP1002)。指定認識手段904は、指定入力手段903の出力から視線の向く対象や方向を認識し、人物との位置関係から視線方向を決定する(STEP1003)。画像表示手段902は、指定された物体や方向を表す画像を表示する(STEP1004)。   The image display means 902 such as a liquid crystal display or a finder displays the input image (STEP 1001). At this time, the object and direction in the input image are input by the designation input means 903 such as a mouse, a touch panel, or a cross key (STEP 1002). The designation recognizing unit 904 recognizes the object and direction of the line of sight from the output of the designation input unit 903, and determines the line-of-sight direction from the positional relationship with the person (STEP 1003). The image display unit 902 displays an image representing the designated object and direction (STEP 1004).

図11(a)(b)は、画像中の物体を指定することで視線方向を指定する場合の画像表示手段902を示しており、図11(a)は視線方向指定前の画像表示手段902を、図11(b)は視線方向指定後の画像表示手段902を示している。視線方向指定前の画像中の人物1101は被撮影者であり、物体1102は、撮影時の被撮影者の視線の対象である。図11(a)のように、入力画像が画像表示手段902に表示された際、撮影者は、画像1103をマウスや十字キー、音声、タッチパネルなどの入力デバイスで移動し、物体を指定する。その後、視線方向指定手段は、指定された物体1102と人物1101の位置関係を、それぞれの焦点があったときの焦点距離から求め、それを用いて指定視線方向を決定する。また決定方法は、カメラの移動をさせ、人物1101や物体1102の特徴点を追跡し、特徴点の座標からなる行列を変形させることで特徴点の3次元位置とカメラ運動を復元する因子分解法を用いても良い。   FIGS. 11A and 11B show the image display unit 902 in the case where the line-of-sight direction is designated by designating an object in the image, and FIG. 11A shows the image display unit 902 before the line-of-sight direction is designated. FIG. 11B shows the image display means 902 after the line-of-sight direction is designated. The person 1101 in the image before the line-of-sight direction is specified is the subject, and the object 1102 is the subject of the subject's line of sight at the time of shooting. As shown in FIG. 11A, when an input image is displayed on the image display unit 902, the photographer moves the image 1103 with an input device such as a mouse, a cross key, voice, a touch panel, and designates an object. Thereafter, the line-of-sight direction designating unit obtains the positional relationship between the designated object 1102 and the person 1101 from the focal length when each has a focal point, and determines the designated line-of-sight direction using it. The determination method is a factorization method in which the camera is moved, the feature points of the person 1101 and the object 1102 are tracked, and the matrix composed of the coordinates of the feature points is deformed to restore the three-dimensional positions of the feature points and the camera motion. May be used.

指定視線方向決定後、図11(b)のように、物体1102をしめす画像1104を入力画像に合成し、画像表示手段902に表示する。なお、画像1104は、記号、文字、絵であってもよく、被撮影者が複数人の場合は、各人物ごとに視線方向を指定しても良い。また、過去に視線方向を指定済みの際は、視線方向の指定は行わなくてもよい。   After the designated line-of-sight direction is determined, an image 1104 showing the object 1102 is combined with the input image and displayed on the image display unit 902 as shown in FIG. The image 1104 may be a symbol, a character, or a picture. When there are a plurality of subjects, the line-of-sight direction may be designated for each person. Further, when the line-of-sight direction has been specified in the past, the line-of-sight direction need not be specified.

図12(a)(b)は、画像中の方向を指定することで視線方向を指定する場合の画像表示手段902を示しており、図12(a)は視線方向指定前の画像表示手段902を、図12(b)は視線方向指定後の画像表示手段902を示している。視線方向指定前の画像中の人物1201は被撮影者である。   FIGS. 12A and 12B show the image display means 902 in the case where the line-of-sight direction is designated by designating the direction in the image, and FIG. 12A shows the image display means 902 before the line-of-sight direction is designated. FIG. 12B shows the image display means 902 after the line-of-sight direction is designated. A person 1201 in the image before the line-of-sight direction is specified is a subject.

図12(a)のように、画像が入力された際、指定入力手段903は入力画像中から人物1201の顔を検出し、顔位置に方向の基準となる画像1202および方向を指定する画像1203、方向を示す画像1204を入力画像に合成し、画像表示手段902に表示する。表示後、マウスや十字キー、音声、タッチパネルなどの入力デバイスによって画像1203を移動し、画像1203と人物1201の眼の位置関係から指定視線方向を決定し、画像1204を表示する。これにより、撮影者は、カメラ方向に対する角度を直接指定するより直感的に方向を指定することができる。   As shown in FIG. 12A, when an image is input, the designation input unit 903 detects the face of the person 1201 from the input image, and an image 1202 that serves as a direction reference for the face position and an image 1203 that designates the direction. The image 1204 indicating the direction is combined with the input image and displayed on the image display means 902. After the display, the image 1203 is moved by an input device such as a mouse, a cross key, voice, or a touch panel, the designated gaze direction is determined from the positional relationship between the image 1203 and the eyes of the person 1201, and the image 1204 is displayed. Thereby, the photographer can specify the direction more intuitively than directly specifying the angle with respect to the camera direction.

決定後、図12(b)のように入力画像に画像1205を合成し、画像表示装置902に表示する。画像1205によって示される方向は、決定後は変化しない。なお、画像1202および画像1203、画像1204、画像1205は、記号、文字、絵であってもよく、被撮影者が複数人の場合は、各人物ごとに視線方向を指定しても良い。また、過去に視線方向を指定済みの際は、視線方向の指定は行わなくてもよい。   After the determination, the image 1205 is combined with the input image as shown in FIG. 12B and displayed on the image display device 902. The direction indicated by the image 1205 does not change after determination. Note that the image 1202, the image 1203, the image 1204, and the image 1205 may be symbols, characters, and pictures, and when there are a plurality of subjects, the line-of-sight direction may be designated for each person. Further, when the line-of-sight direction has been specified in the past, the line-of-sight direction need not be specified.

図12(c)は、図12(a)の画像1202を表示する際の表示方法の例を示したものである。撮像装置は、画像中から人物1201を検出した際、その焦点距離や画像上の大きさなどから、人物1201の頭部のおよその位置を推測する。その後、推測した頭部を囲むように、両端が矢印状になっている弧を2本垂直に交わるように仮想的に設置し、これを、撮像装置の撮像面に投影した画像を画像1202とする。なお、画像1203は画像1202の2本の弧を含む球面上を移動し、画像1204は、推測された頭部の眼の位置から画像1203が表す3次元上の位置までを指すよう矢印を表示する。   FIG. 12C shows an example of a display method when displaying the image 1202 of FIG. When the imaging apparatus detects the person 1201 from the image, the imaging apparatus estimates the approximate position of the head of the person 1201 from the focal length, the size on the image, and the like. Thereafter, two arcs with arrows at both ends are vertically installed so as to surround the estimated head, and an image projected on the imaging surface of the imaging device is defined as an image 1202. To do. Note that the image 1203 moves on a spherical surface including two arcs of the image 1202, and the image 1204 displays an arrow to point from the estimated eye position of the head to the three-dimensional position represented by the image 1203. To do.

以上、本実施の形態では、被撮影者が任意の指定された物体や方向を向いている画像を容易に撮影できるという効果を有する。   As described above, the present embodiment has an effect that the photographed person can easily photograph an image directed to any designated object or direction.

(実施の形態4)
図13は、本発明の実施の形態4の撮像装置の構成を示すブロック図である。図13において、図9と同じ構成要素については同じ符号を用い、説明を省略する。
(Embodiment 4)
FIG. 13 is a block diagram showing a configuration of an imaging apparatus according to Embodiment 4 of the present invention. In FIG. 13, the same components as those in FIG.

撮像装置は、画像入力手段101、画像処理手段102、保存手段103、警告手段1301、撮影時機入力手段604、視線方向指定手段901を備える。また、警告手段1301は、画像合成手段1302と警告表示手段1303を備える。   The imaging apparatus includes an image input unit 101, an image processing unit 102, a storage unit 103, a warning unit 1301, a photographing time input unit 604, and a line-of-sight direction designation unit 901. The warning unit 1301 includes an image composition unit 1302 and a warning display unit 1303.

図13において、本実施の形態4は、図9に警告手段1301が追加される点が異なる。   In FIG. 13, the fourth embodiment is different in that a warning unit 1301 is added to FIG.

なお、警告手段1301の警告表示手段1303は視線方向指定手段901の画像表示手段902と同一の装置を用いてもよい。   The warning display unit 1303 of the warning unit 1301 may use the same device as the image display unit 902 of the line-of-sight direction specifying unit 901.

図14に前記撮像装置の動作フローを示す。図13において、図2と同じ構成要素については同じ符号を用い、説明を省略する。   FIG. 14 shows an operation flow of the imaging apparatus. In FIG. 13, the same components as those in FIG.

撮影作業開始後、カメラは視線方向指定手段901に入力画像を入力し、視線方向を指定する。その後、視線検出を行い、視線方向を判定し、それに基づいて指定方向を向いていない人物を検出し、警告表示手段1302に出力する。画像合成手段1302は、指定方向を表す画像1205と、指定方向を向いていない人物を示す画像804を入力画像に合成する。   After starting the photographing operation, the camera inputs an input image to the line-of-sight direction designating unit 901 and designates the line-of-sight direction. Thereafter, line-of-sight detection is performed, the line-of-sight direction is determined, a person not facing the designated direction is detected based on the line-of-sight direction, and the person is output to the warning display means 1302. The image synthesizing unit 1302 synthesizes an image 1205 indicating the designated direction and an image 804 indicating a person who is not facing the designated direction with the input image.

また、前記人物が向いている方向や、向いている方向と指定方向のなす角度を表示しても良い。なお、画像1205は合成せず、画像804のみを合成しても良い。警告表示手段は画像合成手段1302によって合成された画像を表示する。シャッターレリーズボタンやセルフタイマなどの撮影時機入力手段604が保存許可を出す、または全員が指定方向を向いていると視線検出の結果判断された場合は、入力画像を保存し、撮影を終了する。また、入力画像保存後は、撮影作業開始状態に戻り、連続撮影を行ってもよい。   Further, the direction in which the person is facing or the angle between the facing direction and the specified direction may be displayed. Note that the image 1205 may not be combined, and only the image 804 may be combined. The warning display unit displays the image combined by the image combining unit 1302. When the photographing time input means 604 such as a shutter release button or a self-timer gives permission to save, or when it is determined as a result of the line-of-sight detection that all are facing the designated direction, the input image is saved and the photographing is terminated. In addition, after the input image is stored, the shooting operation may be started and continuous shooting may be performed.

以上、本実施の形態では、任意の指定された物体や方向を向いていない被撮影者を撮影者が容易に知ることができ、注意を促すなど撮影を円滑に進めることができるという効果を有する。   As described above, in the present embodiment, there is an effect that the photographer can easily know any designated object or the person who is not facing the direction, and can smoothly proceed with photographing such as calling attention. .

本発明にかかる撮像装置は、被撮影者に対する視線検出機能を有し、被撮影者がカメラまたは特定の方向を見ている画像を容易に取得できる撮像装置等として有用である。また特定の物体をあらかじめ指定することで、その物体を注視している人物のみを撮影できる監視装置等の用途にも応用できる。   The imaging device according to the present invention has a function of detecting a line of sight with respect to a subject, and is useful as an imaging device that can easily acquire an image of a subject looking at a camera or a specific direction. In addition, by designating a specific object in advance, it can be applied to uses such as a monitoring device that can photograph only a person who is gazing at the object.

本発明の実施の形態1における撮像装置の構成を表すブロック図1 is a block diagram illustrating a configuration of an imaging apparatus according to Embodiment 1 of the present invention. 本発明の実施の形態1における撮像装置の処理の流れを表すフロー図The flowchart showing the flow of a process of the imaging device in Embodiment 1 of this invention 本発明の実施の形態1における被撮影者が一人の際の動作例を説明する図The figure explaining the operation example at the time of one person to be imaged in Embodiment 1 of the present invention 本発明の実施の形態1における被撮影者が複数の際の動作例を説明する図The figure explaining the operation example at the time of the to-be-photographed person in Embodiment 1 of this invention in multiple numbers 本発明の実施の形態1における被撮影者が複数の際の動作例を説明する図The figure explaining the operation example at the time of the to-be-photographed person in Embodiment 1 of this invention in multiple numbers 本発明の実施の形態2における撮像装置の構成を表すブロック図The block diagram showing the structure of the imaging device in Embodiment 2 of this invention 本発明の実施の形態2における撮像装置の処理の流れを表すフロー図FIG. 5 is a flowchart showing the flow of processing of the imaging apparatus according to Embodiment 2 of the present invention. 本発明の実施の形態2における動作例を説明する図The figure explaining the operation example in Embodiment 2 of this invention 本発明の実施の形態3における撮像装置の構成を表すブロック図The block diagram showing the structure of the imaging device in Embodiment 3 of this invention 本発明の実施の形態3における撮像装置の処理の流れを表すフロー図Flow chart showing the flow of processing of the imaging apparatus according to Embodiment 3 of the present invention. 本発明の実施の形態3における動作例を説明する図The figure explaining the operation example in Embodiment 3 of this invention. 本発明の実施の形態3における動作例を説明する図The figure explaining the operation example in Embodiment 3 of this invention. 本発明の実施の形態4における撮像装置の構成を表すブロック図FIG. 6 is a block diagram illustrating a configuration of an imaging apparatus according to Embodiment 4 of the present invention. 本発明の実施の形態4における撮像装置の処理の流れを表すフロー図Flow chart showing the flow of processing of the imaging apparatus in Embodiment 4 of the present invention

符号の説明Explanation of symbols

101 画像入力手段
102 画像処理手段
103 保存手段
104 視線検出手段
105 適性判断手段
601 警告手段
602 画像合成手段
603 警告表示手段
604 撮影時機入力手段
901 視線方向指定手段
902 画像表示手段
903 指定入力手段
904 指定認識手段
1301 警告手段
1302 画像合成手段
1303 警告表示手段
DESCRIPTION OF SYMBOLS 101 Image input means 102 Image processing means 103 Storage means 104 Eye gaze detection means 105 Aptitude judgment means 601 Warning means 602 Image composition means 603 Warning display means 604 Shooting time input means 901 Gaze direction designation means 902 Image display means 903 designation input means 904 designation Recognizing means 1301 Warning means 1302 Image composition means 1303 Warning display means

Claims (7)

画像を入力する画像入力手段と、
前記画像入力手段が入力した画像から一人または複数の人物を検出し、前記人物の視線方向を検出して前記人物が撮像装置を見ているかどうかを判断する画像処理手段と、
前記画像処理手段の結果から前記人物が撮像装置を見ていると判断された入力画像の保存を行う保存手段と、
を備えた撮像装置。
An image input means for inputting an image;
Image processing means for detecting one or a plurality of persons from the image input by the image input means, and detecting whether the person is looking at an imaging device by detecting a gaze direction of the person;
Storage means for storing an input image determined from the result of the image processing means that the person is looking at the imaging device;
An imaging apparatus comprising:
前記画像処理手段の出力から撮像装置を見ていない人物がいることを撮影者に警告する警告手段と、
撮影者が撮影の指令を入力する撮影時機入力手段と、
をさらに備えた請求項1記載の撮像装置。
Warning means for warning the photographer that there is a person who is not looking at the imaging device from the output of the image processing means;
A shooting time input means for the photographer to input a shooting command;
The imaging apparatus according to claim 1, further comprising:
画像を入力する画像入力手段と、
前記人物の視線方向を指定する視線方向指定手段と、
前記画像入力手段が入力した画像から一人または複数の人物を検出し、前記人物の視線方向を検出して前記視線方向指定手段が指定した方向を見ているかどうか判断する画像処理手段と、
前記画像処理手段の結果から前記人物が撮像装置を見ていると判断された入力画像の保存を行う保存手段と、
を備えた撮像装置。
An image input means for inputting an image;
Gaze direction designating means for designating the gaze direction of the person;
Image processing means for detecting one or a plurality of persons from the image input by the image input means, detecting the direction of the line of sight of the person and determining whether the line of sight direction designating means is looking;
Storage means for storing an input image determined from the result of the image processing means that the person is looking at the imaging device;
An imaging apparatus comprising:
前記画像処理手段の出力から前記視線指定手段が指定した方向を見ていない人物がいることを撮影者に警告する警告手段と、
撮影者が撮影の指令を入力する撮影時機入力手段と、
をさらに備えた請求項3記載の撮像装置。
Warning means for warning the photographer that there is a person who is not looking at the direction designated by the line-of-sight designation means from the output of the image processing means;
A shooting time input means for the photographer to input a shooting command;
The imaging apparatus according to claim 3, further comprising:
前記画像処理手段は、入力画像中の一人または複数の人物の視線方向を検出する視線検出手段と、
前記視線検出手段の結果から、前記人物が撮像装置または前期視線指定手段が指定した方向を見ているかどうかを判断する適性判断手段を有する、
請求項1乃至 4記載の撮像装置。
The image processing means includes line-of-sight detection means for detecting the line-of-sight direction of one or more persons in the input image;
From the result of the line-of-sight detection means, the person has aptitude determination means for determining whether the person is looking at the direction specified by the imaging device or the first-line gaze designation means,
The imaging device according to claim 1.
前記視線方向指定手段は、入力画像を表示する画像表示手段と、
入力画像中の物体や領域、方向を指定することで目的とする視線方向を指定する指定入力手段と、前記指定入力手段の入力と前記入力画像から指定方向を認識する指定認識手段を有する、
請求項3または4記載の撮像装置。
The line-of-sight direction specifying means includes an image display means for displaying an input image;
A designation input means for designating a target line-of-sight direction by designating an object, a region, and a direction in the input image; and a designation recognition means for recognizing a designation direction from the input of the designation input means and the input image.
The imaging device according to claim 3 or 4.
前記警告手段は、前記適性判断手段によって撮像装置または指定方向を見ていないと判断された人物を表すよう画像を加工する画像合成手段と、
前記画像合成手段が出力した画像を表示する警告表示手段を有する、
請求項5または6記載の撮像装置。
The warning means includes an image composition means for processing an image to represent a person who is determined not to look at the imaging device or the designated direction by the suitability determination means;
Warning display means for displaying an image output by the image composition means;
The imaging device according to claim 5 or 6.
JP2005139552A 2005-05-12 2005-05-12 Camera Pending JP2006319610A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005139552A JP2006319610A (en) 2005-05-12 2005-05-12 Camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005139552A JP2006319610A (en) 2005-05-12 2005-05-12 Camera

Publications (1)

Publication Number Publication Date
JP2006319610A true JP2006319610A (en) 2006-11-24

Family

ID=37539882

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005139552A Pending JP2006319610A (en) 2005-05-12 2005-05-12 Camera

Country Status (1)

Country Link
JP (1) JP2006319610A (en)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008182485A (en) * 2007-01-24 2008-08-07 Fujifilm Corp Photographing device and photographing method
JP2008186075A (en) * 2007-01-26 2008-08-14 Advanced Telecommunication Research Institute International Interactive image display device
JP2009059257A (en) * 2007-09-03 2009-03-19 Sony Corp Information processing apparatus and information processing method, and computer program
JP2009147591A (en) * 2007-12-13 2009-07-02 Casio Comput Co Ltd Imaging apparatus, and program
JP2009237899A (en) * 2008-03-27 2009-10-15 Advanced Telecommunication Research Institute International Image processing apparatus
JP2009239347A (en) * 2008-03-25 2009-10-15 Olympus Corp Image processor and image processing program
JP2010161655A (en) * 2009-01-08 2010-07-22 Sony Ericsson Mobile Communications Ab Imaging apparatus, and imaging method
US7917024B2 (en) 2007-04-19 2011-03-29 Panasonic Corporation Imaging apparatus and imaging method
CN102148931A (en) * 2010-02-09 2011-08-10 三洋电机株式会社 Image sensing device
US8107771B2 (en) 2007-03-19 2012-01-31 Sony Corporation Image processing apparatus and image processing method
US8363910B2 (en) 2007-03-08 2013-01-29 Sony Corporation Image processing device, image processing method, and program
US8456536B2 (en) 2007-03-26 2013-06-04 Sony Corporation Image processing apparatus, image processing method and program with sightline detection
US8482651B2 (en) 2007-02-15 2013-07-09 Sony Corporation Image processing device and image processing method
US8872929B2 (en) 2007-06-25 2014-10-28 Sony Corporation Picture imaging apparatus and imaging control method
JP2015159550A (en) * 2015-03-19 2015-09-03 オリンパス株式会社 Imaging apparatus, imaging method, and program
JP2016032193A (en) * 2014-07-29 2016-03-07 株式会社ニコン Imaging apparatus

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008182485A (en) * 2007-01-24 2008-08-07 Fujifilm Corp Photographing device and photographing method
JP2008186075A (en) * 2007-01-26 2008-08-14 Advanced Telecommunication Research Institute International Interactive image display device
US8482651B2 (en) 2007-02-15 2013-07-09 Sony Corporation Image processing device and image processing method
US8363910B2 (en) 2007-03-08 2013-01-29 Sony Corporation Image processing device, image processing method, and program
US8107771B2 (en) 2007-03-19 2012-01-31 Sony Corporation Image processing apparatus and image processing method
US8456536B2 (en) 2007-03-26 2013-06-04 Sony Corporation Image processing apparatus, image processing method and program with sightline detection
US7917024B2 (en) 2007-04-19 2011-03-29 Panasonic Corporation Imaging apparatus and imaging method
US7991275B2 (en) 2007-04-19 2011-08-02 Panasonic Corporation Imaging apparatus
US8391704B2 (en) 2007-04-19 2013-03-05 Panasonic Corporation Imaging apparatus
US8131142B2 (en) 2007-04-19 2012-03-06 Panasonic Corporation Imaging apparatus
US8872929B2 (en) 2007-06-25 2014-10-28 Sony Corporation Picture imaging apparatus and imaging control method
JP2009059257A (en) * 2007-09-03 2009-03-19 Sony Corp Information processing apparatus and information processing method, and computer program
US8295556B2 (en) 2007-09-03 2012-10-23 Sony Corporation Apparatus and method for determining line-of-sight direction in a face image and controlling camera operations therefrom
JP2009147591A (en) * 2007-12-13 2009-07-02 Casio Comput Co Ltd Imaging apparatus, and program
JP2009239347A (en) * 2008-03-25 2009-10-15 Olympus Corp Image processor and image processing program
JP2009237899A (en) * 2008-03-27 2009-10-15 Advanced Telecommunication Research Institute International Image processing apparatus
JP2010161655A (en) * 2009-01-08 2010-07-22 Sony Ericsson Mobile Communications Ab Imaging apparatus, and imaging method
US20110193986A1 (en) * 2010-02-09 2011-08-11 Sanyo Electric Co., Ltd. Image sensing device
CN102148931A (en) * 2010-02-09 2011-08-10 三洋电机株式会社 Image sensing device
JP2016032193A (en) * 2014-07-29 2016-03-07 株式会社ニコン Imaging apparatus
JP2015159550A (en) * 2015-03-19 2015-09-03 オリンパス株式会社 Imaging apparatus, imaging method, and program

Similar Documents

Publication Publication Date Title
JP2006319610A (en) Camera
JP6809226B2 (en) Biometric device, biometric detection method, and biometric detection program
US8159561B2 (en) Digital camera with feature extraction device
JP4898532B2 (en) Image processing apparatus, photographing system, blink state detection method, blink state detection program, and recording medium on which the program is recorded
JP4196714B2 (en) Digital camera
JP4807167B2 (en) Impersonation detection device
US8577098B2 (en) Apparatus, method and program for designating an object image to be registered
JP4459788B2 (en) Facial feature matching device, facial feature matching method, and program
JP2004320286A (en) Digital camera
JP5001930B2 (en) Motion recognition apparatus and method
JP2004317699A (en) Digital camera
CN109478227A (en) Calculate the iris in equipment or the identification of other physical feelings
JP2007074033A (en) Imaging apparatus and control method thereof, computer program, and storage medium
JP2009086703A (en) Image display device, image display method and image display program
JP2009117975A (en) Image pickup apparatus and method
JP2004320285A (en) Digital camera
JP5880135B2 (en) Detection apparatus, detection method, and program
US10257414B2 (en) Method and system for smart group portrait
JPWO2022074865A5 (en) LIFE DETECTION DEVICE, CONTROL METHOD, AND PROGRAM
JP2009086824A (en) Chin position calculating apparatus, image processing apparatus using it, and chin position calculating method and program
JP2021150760A (en) Imaging apparatus and method for controlling the same
JP5092093B2 (en) Image processing device
CN107925724B (en) Technique for supporting photographing in device having camera and device thereof
CN112971712A (en) Biological information acquisition device, terminal device, acquisition method, and recording medium
JP2008167028A (en) Imaging apparatus