JP2015111836A - 画像処理装置、カメラ、画像処理方法およびプログラム - Google Patents

画像処理装置、カメラ、画像処理方法およびプログラム Download PDF

Info

Publication number
JP2015111836A
JP2015111836A JP2014256917A JP2014256917A JP2015111836A JP 2015111836 A JP2015111836 A JP 2015111836A JP 2014256917 A JP2014256917 A JP 2014256917A JP 2014256917 A JP2014256917 A JP 2014256917A JP 2015111836 A JP2015111836 A JP 2015111836A
Authority
JP
Japan
Prior art keywords
subject
image
recognition
subject image
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014256917A
Other languages
English (en)
Inventor
白川 泰嗣
Yasutsugu Shirakawa
泰嗣 白川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lenovo Innovations Ltd Hong Kong
Original Assignee
Lenovo Innovations Ltd Hong Kong
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lenovo Innovations Ltd Hong Kong filed Critical Lenovo Innovations Ltd Hong Kong
Priority to JP2014256917A priority Critical patent/JP2015111836A/ja
Publication of JP2015111836A publication Critical patent/JP2015111836A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • G06V40/173Classification, e.g. identification face re-identification, e.g. recognising unknown faces across different face tracks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body

Abstract

【課題】特定の被写体を検出する。
【解決手段】本発明にかかる画像処理装置は、画像より被写体画像を検出する被写体検出手段と、被写体画像の認識IDと、被写体画像が検出されているか否かを示す検出フラグと、被写体画像が画像内で最後に検出された位置である第1の位置と、を記憶する被写体認識情報記憶手段と、被写体画像に認識IDを付与する認識ID付与手段と、を備え、認識ID付与手段は、被写体検出手段が被写体画像を検出した位置から所定の距離内に第1の位置が存在する場合、第1の位置に対応する認識IDを被写体画像に付与し、被写体画像が検出されたことを示す値を検出フラグに設定し、検出フラグが被写体画像が検出されたことを示す場合に、枠を被写体画像に重ねて表示手段に表示することを特徴とする。
【選択図】図1

Description

本発明は、被写体を検出する技術に関する。
人物の顔は、デジタルスチルカメラ(以降「カメラ」と称する)やデジタルビデオカメラの主要な被写体である。そのため、撮影時に、人物の顔を検出して、その人物の顔に合わせた自動焦点制御や自動露出制御などを行う技術が望まれていた。
また、実際の撮影においては、撮影しようとする人物の顔に加えて、他の人物の顔も同時に撮影されることがある。このため、複数の顔の中から特定の顔のみを検出・追跡する技術もまた望まれていた。
特許文献1は、被写体の顔などの特定部位の画像の特徴情報を予め登録しておき、これらの情報とモニタの画面画像との比較を行うことで、登録された被写体のみを検出・追跡する技術を開示している。
特許文献2は、携帯電話機が撮影している動画像から人物の顔画像を抽出してサーバに送信し、サーバで予め登録されている顔画像と照合して、照合に一致した顔画像に対応する人物の固有情報を携帯電話機に送信して表示させる技術を開示している。
特開2006−101186号公報 特開2006−293912号公報 特開平5−334411号公報
しかしながら、特許文献1に開示された技術は以下の問題点を持っている。
(1)被写体の特徴情報を記憶する手段が必要であるため、カメラの構造が複雑化する。このため、カメラの製造コストが増加する。
(2)利用者が予め被写体の特徴情報を登録する必要があるため、カメラの操作手順が複雑化する。このため、利用者の負担が増大する。
また、特許文献2に開示された技術は以下の問題点を持っている。
(3)被写体の顔画像を記憶するサーバが必要であるため、サーバの導入・運用コストが発生する。このため、システムの導入・運用コストが増大する。
(4)画像データを送受信する必要があるため、通信コストが発生する。このため、システムの運用コストが増大する。
本発明は、特定の被写体を検出することを目的とする。
本発明にかかる画像処理装置は、
画像より被写体画像を検出する被写体検出手段と、
前記被写体画像の認識IDと、前記被写体画像が検出されているか否かを示す検出フラグと、前記被写体画像が前記画像内で最後に検出された位置である第1の位置と、を記憶する被写体認識情報記憶手段と、
前記被写体画像に認識IDを付与する認識ID付与手段と、を備え、
前記認識ID付与手段は、前記被写体検出手段が前記被写体画像を検出した位置から所定の距離内に前記第1の位置が存在する場合、前記第1の位置に対応する認識IDを前記被写体画像に付与し、被写体画像が検出されたことを示す値を前記検出フラグに設定し、前記検出フラグが被写体画像が検出されたことを示す場合に、枠を被写体画像に重ねて表示手段に表示することを特徴とする。
本発明によれば、特定の被写体を検出することができる。
本発明の第1の実施形態に係るカメラの画像処理部の機能構成を示すブロック構成図である。 第1の実施形態に係るカメラ全体の機能構成を示すブロック構成図である。 図1・2の被写体認識情報テーブルに格納される情報の一例を示す図である。 第1の実施形態における被写体画像認識処理動作を説明するフローチャートである。 第1の実施形態における被写体画像認識処理直後のモニタ画面が表示する映像を示す図(その1)である。 第1の実施形態における被写体画像認識処理直後の被写体認識情報テーブルの内容を示す図(その1)である。 第1の実施形態における被写体画像認識処理直後のモニタ画面が表示する映像を示す図(その2)である。 第1の実施形態における被写体画像認識処理直後の被写体認識情報テーブルの内容を示す図(その2)である。 第1の実施形態における被写体画像認識処理直後のモニタ画面が表示する映像を示す図(その3)である。 第1の実施形態における被写体画像認識処理直後の被写体認識情報テーブルの内容を示す図(その3)である。 第1の実施形態における被写体画像認識処理直後のモニタ画面が表示する映像を示す図(その4)である。 第1の実施形態における被写体画像認識処理直後の被写体認識情報テーブルの内容を示す図(その4)である。 第1の実施形態における被写体画像認識処理直後のモニタ画面が表示する映像を示す図(その5)である。 第1の実施形態における被写体画像認識処理直後の被写体認識情報テーブルの内容を示す図(その5)である。 第2の実施形態に係るカメラ全体の機能構成を示すブロック構成図である。 図10の被写体認識情報テーブルに格納される情報の一例を示す図である。 第2の実施形態における被写体画像認識処理動作を説明するフローチャートである。 第3の実施形態における被写体画像認識処理動作を説明するフローチャートである。 第3の実施形態における被写体画像認識処理直後のモニタ画面が表示する映像を示す図である。 第3の実施形態における被写体画像認識処理直後の被写体認識情報テーブルの内容を示す図である。
次に、本発明の実施形態について図面を参照して説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態に係るカメラにおいて、被写体の画像データ処理を行う画像処理部10の機能構成を示すブロック構成図である。
画像処理部10は、被写体検出部101と、認識ID(Identification)付与部102と、被写体認識情報テーブル103とを含んでいる。被写体認識情報テーブル103は、被写体認識情報記憶部と呼ばれることもある。被写体検出部101は、入力された入力画像データ21から被写体の画像を検出する。被写体認識情報テーブル103は、被写体の認識IDや位置座標を記憶する。認識ID付与部102は、検出された被写体画像の位置座標から所定の距離内にある位置座標を被写体認識情報テーブル103内より検索する。該当する位置座標が被写体認識情報テーブル103に存在する場合は、その位置座標に対応する認識IDを被写体画像に付与する。これらの構成要素は、ハードウェアで構成されていてもよいし、ソフトウェアで構成されていてもよい。出力画像データ22は、認識IDなどの被写体に関する情報を含む。
このように、画像処理部10は、検出された被写体の位置座標と被写体認識情報テーブル103が記憶する位置座標を比較することにより、同一の被写体には常に同一の認識IDを付与する。このことにより、画像処理部10は、被写体の特徴情報を記憶することなく、特定の被写体を検出・追跡することを可能とする。
次に、画像処理部10を含む、本発明の第1の実施形態に係るカメラ全体の構成について図2を参照して説明する。図2は、第1の実施形態に係るカメラ1の主要な機能構成を示すブロック構成図である。
撮像部11は、レンズや合焦機構、CCD(charge coupled device)などからなり、被写体を撮影してデジタルデータである画像データを生成する。モニタ画面12は、液晶ディスプレイなどの表示装置であり、撮影する被写体の画像や、被写体に関する情報、カメラの動作に関する情報を表示する。キー入力部13は、利用者がカメラ1に対する設定や指示を行う入力装置であり、カーソルキーや数字キー、決定キーなどからなる。制御処理部14はシステムクロック発生装置やCPUなどからなり、装置全般の制御処理を行う。画像処理部10は、撮像部11から入力される画像データを処理してモニタ画面12に出力・表示する。なお、画像処理部10の構成要素である被写体検出部101と認識ID付与部102と被写体認識情報テーブル103については既に説明済みのため説明を省略する。
ここで、被写体認識情報テーブル103に格納される情報について図3を参照して説明する。
被写体認識情報テーブル103は、被写体画像認識処理実行時の情報として、認識ID、最後に検出された位置座標、検出されたかどうかを示す検出フラグ、および追跡対象フラグを含む。これらの情報を「被写体認識情報」と称する。位置座標は、顔画像が画像データ内にて占める領域を表す。これは例えば{(Xm,Ym),(Xn,Yn)}のように、矩形状の領域の1つの頂点と、その頂点を通る対角線上に位置するもう1つの頂点の座標で表される。なお、被写体画像認識処理については次に述べる。
本発明の第1の実施形態に係るカメラは、入力画像データから被写体の特定部位の画像を検出し、検出した画像の位置座標をキーとして被写体認識情報テーブルを検索する。そして、検出した画像との距離が所定の距離内でありかつ最も近い位置座標を有する被写体認識情報を、検出した画像を示す被写体認識情報であると判定する。この一連の処理を「被写体画像認識処理」と称する。図4を参照して、以下に第1の実施形態における被写体画像認識処理動作を説明する。なお、被写体画像認識処理は被写体の特定部位の画像に関する処理であるが、第1の実施形態の以降の説明においては、この特定部位は人物の顔であるとする。
図4は、第1の実施形態における被写体画像認識処理を説明するフローチャートである。
前回の被写体画像認識処理から一定時間経過すると、制御処理部14は、画像処理部10に被写体画像認識処理の開始を指示する。これを受けて、最初に、被写体検出部101は、撮像部11から取り込んだ画像データから被写体の人物の顔画像を検出する(ステップS111)。この検出処理は例えば、顔を構成する要素(髪の毛・目・鼻・口など)の形状および色彩が実際の顔と同じ位置関係で存在している領域を、画像データ内で検索することにより行われる。顔画像を検出すると、被写体検出部101は、検出した顔画像の画像データ内での位置座標を出力する。画像データに複数の顔画像が含まれている場合、被写体検出部101は、その全ての顔画像を検出する。
顔画像の検出処理が完了すると、認識ID付与部102が以下の処理を行う。まず、認識ID付与部102は、被写体認識情報テーブル103の全ての被写体認識情報の検出フラグをクリアする。(ステップS112)。次に、認識ID付与部102は、被写体検出部101が検出した顔画像のうちまだ処理していないもの1つを抽出する(ステップS113)。そして、認識ID付与部102は、抽出した顔画像との距離が所定の距離内でありかつ最も近い位置座標を有する被写体認識情報を、被写体認識情報テーブル103より検索する(ステップS114)。この処理は例えば、抽出した顔画像と被写体認識情報の中心座標同士の距離を計算することで行われる。なお、位置座標{(Xm,Ym),(Xn,Yn)}が表す領域の中心座標は{(Xm+Xn)/2,(Ym+Yn)/2}の計算式で求めることができる。検索の結果、認識ID付与部102は、該当する被写体認識情報が存在するかどうかを判定する(ステップS115)。存在する場合は、認識ID付与部102は、該当する被写体認識情報の位置座標を抽出した顔画像の位置座標の値で更新し、検出フラグに"○"を設定する(ステップS116)。該当する被写体認識情報が存在しない場合は、認識ID付与部102は、新たな認識IDを採番する。そして、この認識IDと、抽出した顔画像の位置座標の値と、検出フラグ="○"を新たな被写体認識情報として被写体認識情報テーブル103に追加登録する(ステップS117)。
ここで、画像処理部10は、ステップS111で検出された顔画像全てに対して処理が完了したかどうかを判定する(ステップS118)。完了していない場合は、ステップS113に戻り、まだ処理していない顔画像に対して同様の処理が繰り返される。完了した場合は、被写体画像認識処理は終了する。
このように、画像処理部10は、被写体画像認識処理において、今回検出された位置座標と前回検出された位置座標が近い被写体を同一の被写体と判定する。このような処理を実行することにより、第1の実施形態におけるカメラは、被写体の特徴情報を登録することなく、複数の被写体に対して、そのそれぞれに同一の認識IDを継続的に付与する。このことにより、検出された複数の被写体の中から、特定の被写体を選択して追跡することが可能となる。
ここで、被写体画像認識処理が実行される周期は、撮像部11が画像データを生成する周期(フレームレート)と同じである必要はない。ただし、処理が実行される周期が長いほど、処理の間の被写体の移動距離は大きくなる。このことは、「今回検出された位置座標と前回検出された位置座標が近い被写体を同一の被写体と判定する」という上記の方法において、誤判定の可能性を高くする。従って、被写体画像認識処理が実行される周期は、誤判定が発生しない程度に短いことが好ましい。
次に、図5〜9を参照して、第1の実施形態における被写体画像認識処理動作を、時系列に説明する。
被写体画像認識処理が終了すると、画像処理装置10は、認識IDなどの被写体に関する情報を出力する。これらの情報は、被写体の映像と共にモニタ画面12に表示される。図5は、被写体画像認識処理が終了した直後のカメラ1の状態を表している。図5(a)はモニタ画面12が表示する映像を示す。図5(b)は被写体認識情報テーブル103の内容を示す。これは図6〜9に関しても同様である。
図5(a)のモニタ画面12には3人の人物1201〜1203が表示されている。また、これらの人物の顔画像が検出された位置を示す枠1211〜1213が、対応する顔画像に重畳して表示されている。また、顔画像に付与された認識ID("1"〜"3")を表す符号1221〜1223が、対応する顔画像の近傍に表示されている。なお、以降の説明では、認識ID"1"が付与された顔画像のことを「顔画像"1"」と称する。
枠1213は他の枠と区別が可能であるように、他の枠と異なる太さあるいは異なる色で表示されている。これは、枠1213が示す顔画像"3"が追跡対象として設定されていることを示す。この設定は、顔画像"3"が検出されている状態で、利用者が顔画像"3"を選択する操作を行うことで成される。この操作とは、例えば、キー入力部13の該当する数字キー("3"キー)を押下する、カーソルキーを使用して顔画像"3"にカーソル(図示せず)を合わせる、等である。
図5(b)の被写体認識情報テーブル103は3つの顔画像に関する被写体認識情報を保持している。それぞれのレコードには、"1"〜"3"の認識IDと、顔画像が検出された位置座標{(X11,Y11),(X12,Y12)},{(X21,Y21),(X22,Y22)},{(X31,Y31),(X32,Y32)}が設定されている。全てのレコードの検出フラグには検出されていることを示す"○"が設定されている。また、認識ID"3"のレコードのみ、追跡対象フラグに"○"が設定されている。これは顔画像"3"が追跡対象として設定されていることを示す。
図6は、図5の時点の次に被写体画像認識処理が実行され、終了した直後のカメラ1の状態を表している。
図6(a)を参照すると、今回新たに検出された2人の人物1204,1205が新たに表示されている。これらの顔画像には新たな認識ID"4","5"が付与されており、枠1214,1215と符号1224,1225が表示されている。なお、複数の顔画像が新たに検出された場合、認識IDは、顔画像の大きさの順番や、画面内の位置、例えば左上隅からの距離の順番などに基づいて採番されてもよい。
一方で、人物1202がフレーム外に移動している。このため、顔画像"2"は検出されていない。また、人物1201,1203の顔画像にはそれぞれ前回と同じ認識ID"1","3"が付与されている。これは、被写体画像認識処理において、人物1201,1203の顔画像が、前回検出された位置座標と近い距離にあることにより、対応する被写体認識情報と紐付けられたためである。
図6(b)を参照すると、新たに2レコードの被写体認識情報が追加されている。これらの2レコードには、"4","5"の認識IDと、顔画像が検出された位置座標{(X41,Y41),(X42,Y42)},{(X51,Y51),(X52,Y52)}が設定されている。一方で、今回検出されなかった顔画像に関する認識ID"2"の被写体認識情報レコードは、検出フラグがクリアされている。また、位置座標には、顔画像"2"が最後に検出された時点の値{(X21,Y21),(X22,Y22)}が引き続き設定されている。
図7は、図6の時点の次に被写体画像認識処理が実行され、終了した直後のカメラ1の状態を表している。
図7(a)を参照すると、人物1203が後ろを振り向いている。このため、顔画像"3"は検出されていない。また、人物1204が人物1205の前を覆い隠す位置に移動している。このため、顔画像"5"もまた検出されていない。認識ID"2","3" ,"5"に対応する顔画像が検出されていないため、顔画像"2","3","5"を示す枠と符号は表示されていない。
図7(b)を参照すると、今回検出されなかった顔画像に関する認識ID"2","3","5"の被写体認識情報レコードは、検出フラグがクリアされている。また、位置座標は、顔画像"2","3","5"が最後に検出された時点の値{(X21,Y21),(X22,Y22)},{(X31,Y31),(X32,Y32)},{(X51,Y51),(X52,Y52)}が引き続き設定されている。一方で、認識ID"4"のレコードは、顔画像の移動先の新たな位置座標{(X41´,Y41´),(X42´,Y42´)}が設定されている。なお、{(X41´,Y41´),(X42´,Y42´)}は、前回{(X41,Y41),(X42,Y42)}に位置していた顔画像と同一の被写体であると判定される程度に近い距離にある位置座標である。
この時点においては、追跡対象として設定されていた顔画像"3"が検出されていない。そのため、この時点においては、追跡対象の顔画像はない。ただし、被写体認識情報テーブル103の認識ID"3"のレコードの追跡対象フラグには、引き続き"○"が設定されている。
図8は、図7の時点の次に被写体画像認識処理が実行され、終了した直後のカメラ1の状態を表している。
図8(a)を参照すると、人物1202が再度フレーム内に移動している。また人物1204が再度移動し、覆い隠されていた人物1205が再度現れている。このため、前回検出されなかった人物1202と人物1205の顔画像が検出されている。人物1202,1205の顔画像にはそれぞれ以前検出されていた時と同じ認識ID"2","5"が付与されている。これは、被写体画像認識処理において、人物1202と人物1205の顔画像が、最後に検出された位置座標と近い距離にあることにより、対応する被写体認識情報と紐付けられたためである。一方で、人物1203は依然後ろを向いた状態であるため、顔画像"3"は検出されていない。
図8(b)を参照すると、今回再度検出された顔画像に関する認識ID"2","5"の被写体認識情報レコードは、検出フラグに再度"○"が設定されている。また、認識ID"2","4"のレコードは、顔画像の移動先の新たな位置座標{(X21´,Y21´),(X22´,Y22´)},{(X41´´,Y41´´),(X42´´,Y42´´)}が設定されている。
この時点においても、追跡対象として設定されていた顔画像"3"が検出されていない。そのため、この時点においても、追跡対象の顔画像はない。
図9は、図8の時点の次に被写体画像認識処理が実行され、終了した直後のカメラ1の状態を表している。
図9(a)を参照すると、人物1203が再度前を向いている。このため、前回検出されなかった人物1203の顔画像が検出されている。人物1203の顔画像には以前検出されていた時と同じ認識ID"3"が付与されている。これは、被写体画像認識処理において、人物1203の顔画像が、最後に検出された位置座標と近い距離にあることにより、対応する被写体認識情報と紐付けられたためである。また、顔画像"3"が検出されなくなる前と同様に、追跡対象として設定されていることを示す、他の枠と異なる太さあるいは異なる色で表示された枠1213が表示されている。これは、顔画像"3"が検出されなくなった時点においても、被写体認識情報テーブル103の認識ID"3"のレコードの追跡対象フラグに"○"が設定されていたためである。
図9(b)を参照すると、今回再度検出された顔画像に関する認識ID"3"の被写体認識情報レコードは、検出フラグに再度"○"が設定されている。また、追跡対象フラグには、引き続き"○"が設定されている。
以上説明したように第1の実施形態に係るカメラは、被写体の特徴情報を登録することなく、検出した複数の被写体の顔画像に対して、そのそれぞれに同一の認識IDを継続的に付与することができる。その理由は、認識ID付与部102が、検出された顔画像の位置座標と被写体認識情報テーブル103内の位置座標を比較することによって、検出された顔画像と対応する被写体認識情報を紐付けるためである。
また、第1の実施形態に係るカメラは、被写体の顔画像が一時的に検出されなくなり、その後再び検出された場合でも、検出した複数の被写体の顔画像に対して、そのそれぞれに同一の認識IDを継続的に付与することができる。その理由は、検出されなかった被写体についても、被写体認識情報テーブル103が、被写体が最後に検出された位置座標と被写体の認識IDを保持するからである。
また、第1の実施形態に係るカメラは、追跡対象に設定された被写体の顔画像が一時的に検出されなくなり、その後再び検出された場合でも、自動的に追跡を再開できる。その理由は、検出されなかった被写体についても、被写体認識情報テーブル103が、被写体の追跡対象フラグと被写体の認識IDを保持するからである。
また、第1の実施形態に係るカメラは、データの記憶および比較処理が、特許文献1に開示されたカメラに比べ簡素な構成で実現できる。その理由は、被写体の画像の特徴情報に比べ、位置座標はデータ容量が少なく、また比較処理も簡易であるからである。
(第2の実施形態)
次に、本発明の第2の実施形態を説明する。
本発明の第1の実施形態において、被写体認識情報は、ひとたび登録されるとその後削除されることはなかった。しかし、本発明の第2の実施形態においては、被写体の画像が長時間検出されない場合、対応する被写体認識情報が削除される点が第1の実施形態と異なる。
図10は、第2の実施形態に係るカメラ1の主要な機能構成を示すブロック構成図である。なお、図10のブロック構成図において、図2のブロック構成図の参照符号と同一の符号を付した構成要素は、図2で説明した構成要素と同一内容である。図10のカメラ1は、新たな構成要素として被写体認識情報削除部104を備えている。
図11は、第2の実施形態における被写体認識情報テーブル103に格納される情報を示す図である。被写体認識情報テーブル103は、新たな項目として、検出時刻を備えている。なお、他の項目については図3と同様である。
次に、図12を参照して、第2の実施形態における被写体画像認識処理動作を説明する。
図12は、第2の実施形態における被写体画像認識処理を説明するフローチャートである。なお、図12のフローチャートにおいて、図4のフローチャートの参照符号と同一の符号を付したステップは、図4で説明したステップと同一内容である。従って、これら同一内容のステップについての説明は省略される。図12では、図4のステップS116とS117がそれぞれステップS216とS217に置き換えられ、また、新たにステップS219が追加されている。
ステップS216において、認識ID付与部102は、位置座標と検出フラグの更新に加えて、検出時刻を現時刻の値で更新する。また、ステップS217において、認識ID付与部102は、認識IDと位置座標と検出フラグの設定に加えて、検出時刻に現時刻の値を設定する。なお、認識ID付与部102は、カメラ1の内蔵時計(図示せず)より現時刻の値を取得してもよい。
また、顔画像全てに対して処理が完了したとステップS118で判定された場合、被写体認識情報削除部104は、検出時刻より所定の時間経過している全ての被写体認識情報を抽出し、削除する(ステップS219)。この抽出処理は、例えば、検出時刻の値と現時刻を比較してその差が所定の値より大きいか判定することにより行われる。その後、被写体画像認識処理を終了する。
以上説明したように第2の実施形態に係るカメラは、所定の時間検出されていない被写体認識情報を削除する。これにより、被写体認識情報テーブル103の空き容量が長時間検出されていない被写体認識情報が滞留することにより不足し、顔画像への認識ID付与が行えなくなることが防止される。
(第3の実施形態)
次に、本発明の第3の実施形態を説明する。
本発明の第1の実施形態において、被写体は人物の顔であった。本発明の第3の実施形態においては、被写体が特定の服装を着用した人物の画像である点が第1の実施形態と異なる。
本発明の第3の実施形態に係るカメラの機能構成は、図1,2と同様であるため、説明を省略する。また、被写体認識情報テーブル103に格納される情報も、図3と同様であるため、説明を省略する。
次に、図13を参照して、第3の実施形態における被写体画像認識処理動作を説明する。
図13は、第3の実施形態における被写体画像認識処理を説明するフローチャートである。なお、図13のフローチャートにおいて、図4のフローチャートの参照符号と同一の符号を付したステップは、図4で説明したステップと同一内容である。従って、これら同一内容のステップについての説明は省略される。図13では、図4のステップS111が、ステップS311に置き換えられている。
被写体画像認識処理の開始がされると、最初に、被写体検出部101は、撮像部11から取り込んだ画像データから特定の服装を着用した人物の画像を検出する。例えば、被写体検出部101は、上半身に黄色の半袖シャツを、下半身に緑色の短パンを着用した人物の画像を検出する(ステップS311)。この検出処理は例えば、色彩が黄色で半袖シャツの形状の部分と色彩が緑色で短パンの形状の部分が隣接して存在している領域を、画像データ内で検索することにより行われる。このような服装画像を検出すると、被写体検出部101は、検出した服装画像の画像データ内での位置座標を出力する。画像データに複数のこのような服装画像が含まれている場合、被写体検出部101は、その全ての服装画像を検出する。以降の処理は、被写体が顔画像ではなく服装画像である点を除いて図4と同様であるため、説明を省略する。
次に、図14を参照して、第3の実施形態における被写体画像認識処理が終了した直後のカメラ1の状態を説明する。図14(a)はモニタ画面12の映像を、図14(b)は被写体認識情報テーブル103の内容をそれぞれ示す。また、以降の説明において、被写体検出部101は、上半身に黄色の半袖シャツを、下半身に緑色の短パンを着用した人物の画像を検出するものとする。
図14(a)のモニタ画面12には4人の人物1206〜1209が表示されている。このうち、人物1206,1207は、上半身に黄色の半袖シャツを、下半身に緑色の短パンを着用している。一方で、人物1208,1209は、これとは異なる服装を着用している(例えば青色の半袖シャツと白色の短パン)。
被写体検出部101は、人物1206,1207の服装画像を検出している。モニタ画面12には、これらの服装画像が検出された位置を示す枠1216,1217と、服装画像に付与された認識ID("6","7")を表す符号1226,1227が表示されている。
図14(b)の被写体認識情報テーブル103は、検出された2つの服装画像に関する被写体認識情報を保持している。
以上説明したように第3の実施形態に係るカメラは、第1の実施形態のカメラの機能を、人物の顔画像ではなく、人物の特定の服装画像に適用する。これにより、例えばスポーツ試合の撮影において、特定のチームのユニフォームを着用した人物のみを検出・追跡できる。
また、猫や犬等の特定の動物や、自動車や飛行機等の特定の乗り物や、その他形状や色彩に特定の特徴を持つ被写体に、第1の実施形態のカメラの機能を適用してもよい。
以上のとおり、被写体に認識IDを付与するカメラを例に本発明の実施形態が説明された。しかしながら、本発明に係る画像処理装置は、携帯電話端末やPDA(Personal Digital Assistant)などが備えるカメラ機能にも適用できる。また、本発明に係る画像処理装置は、動画の撮影機能を備えるカメラにも適用できる。また、本発明に係る画像処理装置は、撮像手段を持たない、例えば録画画像を解析する画像解析装置にも適用できる。
以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
1 カメラ
10 画像処理部
101 被写体検出部
102 認識ID付与部
103 被写体認識情報テーブル
104 被写体認識情報削除部
11 撮像部
12 モニタ画面
13 キー入力部
14 制御処理部
21 入力画像データ
22 出力画像データ

Claims (6)

  1. 画像より被写体画像を検出する被写体検出手段と、
    前記被写体画像の認識IDと、前記被写体画像が検出されているか否かを示す検出フラグと、前記被写体画像が前記画像内で最後に検出された位置である第1の位置と、を記憶する被写体認識情報記憶手段と、
    前記被写体画像に認識IDを付与する認識ID付与手段と、を備え、
    前記認識ID付与手段は、前記被写体検出手段が前記被写体画像を検出した位置から所定の距離内に前記第1の位置が存在する場合、前記第1の位置に対応する認識IDを前記被写体画像に付与し、被写体画像が検出されたことを示す値を前記検出フラグに設定し、前記検出フラグが被写体画像が検出されたことを示す場合に、枠を被写体画像に重ねて表示手段に表示することを特徴とする画像処理装置。
  2. 前記認識ID付与手段は、前記被写体検出手段が前記被写体画像を検出した位置から前記所定の距離内に前記第1の位置が存在しない場合、新たな認識IDを前記被写体画像に付与することを特徴とする請求項1記載の画像処理装置。
  3. 前記被写体認識情報記憶手段は、前記被写体画像が最後に検出された時刻である第1の時刻をさらに記憶し、
    前記画像処理装置は、前記第1の時刻から所定の時間が経過すると、前記第1の時刻と、前記第1の時刻に対応する前記認識IDおよび前記第1の位置とを、
    前記被写体認識情報記憶手段から削除する被写体認識情報削除手段をさらに備えたことを特徴とする請求項1または2記載の画像処理装置。
  4. 被写体を撮影する撮像手段と、
    請求項1乃至3のいずれかに記載の画像処理装置と、
    前記撮像手段が撮影する画像と、前記画像処理装置が生成する前記被写体に関する情報とを表示する表示手段と、を備えることを特徴とするカメラ。
  5. 画像処理装置の画像処理方法であって、
    画像より被写体画像を検出する被写体検出工程と、
    前記被写体画像の認識IDと、前記被写体画像が検出されているか否かを示す検出フラグと、前記被写体画像が前記画像内で最後に検出された位置である第1の位置と、を記憶手段に記憶する被写体認識情報記憶工程と、
    前記被写体画像に認識IDを付与する認識ID付与工程と、を有し、
    前記認識ID付与工程は、前記被写体検出工程で前記被写体画像を検出した位置から所定の距離内に前記第1の位置が存在する場合、前記第1の位置に対応する認識IDを前記被写体画像に付与し、被写体画像が検出されたことを示す値を前記検出フラグに設定し、前記検出フラグが被写体画像が検出されたことを示す場合に、枠を被写体画像に重ねて表示手段に表示することを特徴とする画像処理方法。
  6. 画像より被写体画像を検出する被写体検出処理と、
    前記被写体画像の認識IDと、前記被写体画像が検出されているか否かを示す検出フラグと、前記被写体画像が前記画像内で最後に検出された位置である第1の位置と、を記憶手段に記憶する被写体認識情報記憶処理と、
    前記被写体画像に認識IDを付与する認識ID付与処理と、をコンピュータに実行させ、
    前記認識ID付与処理は、前記被写体検出処理で前記被写体画像を検出した位置から所定の距離内に前記第1の位置が存在する場合、前記第1の位置に対応する認識IDを前記被写体画像に付与し、被写体画像が検出されたことを示す値を前記検出フラグに設定し、前記検出フラグが被写体画像が検出されたことを示す場合に、枠を被写体画像に重ねて表示手段に表示することを特徴とするプログラム。
JP2014256917A 2008-04-23 2014-12-19 画像処理装置、カメラ、画像処理方法およびプログラム Pending JP2015111836A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014256917A JP2015111836A (ja) 2008-04-23 2014-12-19 画像処理装置、カメラ、画像処理方法およびプログラム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2008112813 2008-04-23
JP2008112813 2008-04-23
JP2014256917A JP2015111836A (ja) 2008-04-23 2014-12-19 画像処理装置、カメラ、画像処理方法およびプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2010512983A Division JP5674465B2 (ja) 2008-04-23 2009-04-21 画像処理装置、カメラ、画像処理方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2015111836A true JP2015111836A (ja) 2015-06-18

Family

ID=41340030

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2010512983A Expired - Fee Related JP5674465B2 (ja) 2008-04-23 2009-04-21 画像処理装置、カメラ、画像処理方法およびプログラム
JP2014256917A Pending JP2015111836A (ja) 2008-04-23 2014-12-19 画像処理装置、カメラ、画像処理方法およびプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2010512983A Expired - Fee Related JP5674465B2 (ja) 2008-04-23 2009-04-21 画像処理装置、カメラ、画像処理方法およびプログラム

Country Status (5)

Country Link
US (1) US8682031B2 (ja)
EP (1) EP2276234A4 (ja)
JP (2) JP5674465B2 (ja)
CN (1) CN102017606B (ja)
WO (1) WO2009142098A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021165994A (ja) * 2020-04-08 2021-10-14 テックファーム株式会社 情報処理装置、情報処理方法及び認証システム
JP2021528768A (ja) * 2018-07-27 2021-10-21 北京微播視界科技有限公司Beijing Microlive Vision Technology Co., Ltd フェイシャル特殊効果による複数のフェイシャルの追跡方法、装置および電子機器

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9767351B2 (en) 2009-01-15 2017-09-19 AvidaSports, LLC Positional locating system and method
US8330611B1 (en) * 2009-01-15 2012-12-11 AvidaSports, LLC Positional locating system and method
US8988240B2 (en) * 2009-01-15 2015-03-24 AvidaSports, LLC Performance metrics
JP2012039210A (ja) * 2010-08-04 2012-02-23 Nikon Corp 被写体特定用プログラム、およびカメラ
CN103119627B (zh) * 2010-09-20 2017-03-08 高通股份有限公司 用于云辅助式扩增现实的可适应性框架
US9310611B2 (en) * 2012-09-18 2016-04-12 Qualcomm Incorporated Methods and systems for making the use of head-mounted displays less obvious to non-users
JP6364372B2 (ja) * 2015-03-24 2018-07-25 トヨタホーム株式会社 地域監視システム
JP6364371B2 (ja) * 2015-03-24 2018-07-25 トヨタホーム株式会社 入退場管理システム
CN109558773B (zh) * 2017-09-26 2023-04-07 阿里巴巴集团控股有限公司 信息识别方法、装置及电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007042072A (ja) * 2005-07-05 2007-02-15 Omron Corp 追跡装置
JP2007213170A (ja) * 2006-02-07 2007-08-23 Omron Corp 画像処理装置および方法、並びにプログラム
JP2008035415A (ja) * 2006-07-31 2008-02-14 Canon Inc 撮像装置及びその制御方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2921936B2 (ja) * 1990-07-13 1999-07-19 株式会社東芝 画像監視装置
JPH05334411A (ja) 1992-05-29 1993-12-17 Casio Comput Co Ltd モンタージュ作成装置
US7039221B1 (en) * 1999-04-09 2006-05-02 Tumey David M Facial image verification utilizing smart-card with integrated video camera
JP2003274320A (ja) 2002-03-15 2003-09-26 Konica Corp 画像撮像装置、画像情報処理装置及び画像情報処理方法
JP3996015B2 (ja) * 2002-08-09 2007-10-24 本田技研工業株式会社 姿勢認識装置及び自律ロボット
JP4510554B2 (ja) 2004-08-31 2010-07-28 富士重工業株式会社 立体物監視装置
JP2006101186A (ja) * 2004-09-29 2006-04-13 Nikon Corp カメラ
JP4650669B2 (ja) * 2004-11-04 2011-03-16 富士ゼロックス株式会社 動体認識装置
JP4859205B2 (ja) * 2005-02-04 2012-01-25 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP2006293912A (ja) 2005-04-14 2006-10-26 Toshiba Corp 情報表示システム、情報表示方法および携帯端末装置
JP4350725B2 (ja) * 2005-08-05 2009-10-21 キヤノン株式会社 画像処理方法、画像処理装置、及び、画像処理方法をコンピュータに実行させるためのプログラム
JP4457358B2 (ja) * 2006-05-12 2010-04-28 富士フイルム株式会社 顔検出枠の表示方法、文字情報の表示方法及び撮像装置
TW200832370A (en) * 2006-09-29 2008-08-01 Sony Corp Reproducing device and method, information generation device and method, data storage medium, data structure, program storage medium, and program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007042072A (ja) * 2005-07-05 2007-02-15 Omron Corp 追跡装置
JP2007213170A (ja) * 2006-02-07 2007-08-23 Omron Corp 画像処理装置および方法、並びにプログラム
JP2008035415A (ja) * 2006-07-31 2008-02-14 Canon Inc 撮像装置及びその制御方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021528768A (ja) * 2018-07-27 2021-10-21 北京微播視界科技有限公司Beijing Microlive Vision Technology Co., Ltd フェイシャル特殊効果による複数のフェイシャルの追跡方法、装置および電子機器
JP7152528B2 (ja) 2018-07-27 2022-10-12 北京微播視界科技有限公司 フェイシャル特殊効果による複数のフェイシャルの追跡方法、装置および電子機器
US11749020B2 (en) 2018-07-27 2023-09-05 Beijing Microlive Vision Technology Co., Ltd Method and apparatus for multi-face tracking of a face effect, and electronic device
JP2021165994A (ja) * 2020-04-08 2021-10-14 テックファーム株式会社 情報処理装置、情報処理方法及び認証システム
JP7426630B2 (ja) 2020-04-08 2024-02-02 テックファーム株式会社 情報処理装置、情報処理方法及び認証システム

Also Published As

Publication number Publication date
US8682031B2 (en) 2014-03-25
JP5674465B2 (ja) 2015-02-25
EP2276234A1 (en) 2011-01-19
CN102017606B (zh) 2014-04-09
EP2276234A4 (en) 2017-11-22
CN102017606A (zh) 2011-04-13
US20110038549A1 (en) 2011-02-17
JPWO2009142098A1 (ja) 2011-09-29
WO2009142098A1 (ja) 2009-11-26

Similar Documents

Publication Publication Date Title
JP5674465B2 (ja) 画像処理装置、カメラ、画像処理方法およびプログラム
US9196093B2 (en) Information presentation device, digital camera, head mount display, projector, information presentation method and non-transitory computer readable medium
US10331209B2 (en) Gaze direction mapping
WO2007105768A1 (ja) 顔画像登録装置、顔画像登録方法、顔画像登録プログラム、および記録媒体
JP5450089B2 (ja) 対象検出装置および対象検出方法
JP2014525613A (ja) 写真を自動的に共有するためのスマートカメラ
KR101923177B1 (ko) 사용자 기반의 증강 현실 정보를 제공하기 위한 장치 및 방법
CN109902725A (zh) 移动目标的检测方法、装置及电子设备和存储介质
JP2010267030A (ja) 情報処理装置、情報処理方法
JP6575845B2 (ja) 画像処理システム、画像処理方法及びプログラム
JP2019176378A (ja) 制御装置、監視システム、及び監視カメラ制御方法
JP2024045460A (ja) 情報処理システム、情報処理装置、情報処理方法、およびプログラム
JP7020567B2 (ja) 情報処理システム、情報処理装置、情報処理方法、およびプログラム
JP2022058833A (ja) 情報処理システム、情報処理装置、情報処理方法、およびプログラム
JP2016081095A (ja) 被写体追跡装置、その制御方法、撮像装置、表示装置及びプログラム
CN115393962A (zh) 动作识别方法、头戴显示设备和存储介质
JP4972013B2 (ja) 情報提示装置、情報提示方法、情報提示プログラムおよびそのプログラムを記録した記録媒体
JP6350331B2 (ja) 追尾装置、追尾方法及び追尾プログラム
US11269405B2 (en) Gaze direction mapping
JP6112346B2 (ja) 情報収集システム、プログラムおよび情報収集方法
JP6801985B2 (ja) 情報付与方法およびサーバ装置
JP2017175453A (ja) 画像処理装置及び画像処理方法
JP2023115087A (ja) 情報処理装置、情報処理方法、およびプログラム
JP2022175957A (ja) 人物認証装置、人物認証方法、人物認証プログラム、及び人物認証システム
JP2022073249A (ja) 情報処理システム、情報処理システムの制御方法、およびプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151008

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160712

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20170130

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170404