JP4403937B2 - カメラ装置、情報処理装置、被写体識別方法 - Google Patents

カメラ装置、情報処理装置、被写体識別方法 Download PDF

Info

Publication number
JP4403937B2
JP4403937B2 JP2004284481A JP2004284481A JP4403937B2 JP 4403937 B2 JP4403937 B2 JP 4403937B2 JP 2004284481 A JP2004284481 A JP 2004284481A JP 2004284481 A JP2004284481 A JP 2004284481A JP 4403937 B2 JP4403937 B2 JP 4403937B2
Authority
JP
Japan
Prior art keywords
feature
image
unit
information
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004284481A
Other languages
English (en)
Other versions
JP2006101166A (ja
Inventor
恭一 大野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2004284481A priority Critical patent/JP4403937B2/ja
Publication of JP2006101166A publication Critical patent/JP2006101166A/ja
Application granted granted Critical
Publication of JP4403937B2 publication Critical patent/JP4403937B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

本発明は、撮影画像をもとに図鑑データベースに登録された被写体についての情報を検索して出力するカメラ装置、情報処理装置、及び被写体識別方法に関する。
従来、野外で見つけた植物や昆虫などは、図鑑を利用して名称や関連する情報を得る必要があった。これに対して近年では、図鑑を用いるのではなく、デジタルカメラ等を用いて入力された画像を解析して対象物を識別し、対象物の識別結果に基づいて図鑑辞書を検索するシステムが考えられている(例えば特許文献1)。
特許文献1に記載されたシステムでは、デジタルカメラで撮影した動植物などの画像を携帯電話から図鑑サーバに携帯電話網を介して送信することで、図鑑サーバにおいて画像の特徴を表すパラメータを抽出し、この特徴パラメータと標準パターンとの照合を行なうことで、例えばどの草花の画像に該当するか識別することができる。また、パターン辞書に登録したジャンル別、地域別、季節別の標準パターンと照合することで、対象範囲を狭めて識別処理を迅速にできるようにしている。
一方、画像の認識により目的とする情報を検索する場合、現在の画像認識技術では正確な情報が検索できず、情報の絞り込みが適切にできないという問題があり、これに対して被写体の画像から所定の特徴を抽出し、場所に関する情報、時間に関する情報、抽出された特徴の情報とに基づいて、検索対象の情報の表示を行なう装置も考えられている(特許文献2)。
特開2003−44497号公報 特開2003−288363号公報
このように従来では、被写体の画像をもとに情報を検索する技術が考えられているが、何れの場合も対象物を確実に識別可能な特徴部分が撮影されていなければ、特許文献1に記載されているようにジャンル別、地域別、季節別に分類して識別したり、あるいは特許文献2に記載されているように場所に関する情報、時間に関する情報とを考慮したとしても、被写体を正確に識別することができなくなってしまう。また、被写体とする複数の候補が得られた場合には、ユーザが何れかを選択するしかなかった。
本発明の課題は、被写体を撮影して得られた画像をもとに効果的に候補を絞り込んで被写体を識別することが可能なカメラ装置、被写体識別方法を提供することにある。
請求項1記載の発明は、複数の対象物のそれぞれについて複数の部位についての特徴を表す情報を記憶する特徴記憶手段と、前記特徴記憶手段に情報が記憶された複数の対象物についての詳細情報を記憶する詳細情報記憶手段と、被写体を撮影して画像を入力する撮影手段と、前記撮影手段によって入力された画像から被写体の各部位の特徴を抽出する第1抽出手段と、前記第1抽出手段により抽出された各部位の特徴をもとに前記特徴記憶手段に記憶された情報を検索し、前記画像中の被写体に対応する対象物の候補を取得する検索手段と、前記検索手段によって複数の対象物が候補として取得された場合に、候補を絞り込むための部位を特定する部位特定手段と、前記部位特定手段によって特定された部位を指示する指示手段と、前記指示手段による指示に応じて前記撮影手段により画像が入力された場合に、同画像から部位の特徴を抽出する第2抽出手段と、前記第2抽出手段によって抽出された部位の特徴をもとに前記特徴記憶手段に記憶された情報を検索し、前記検索手段によって取得された複数の対象物の候補から特定の対象物を決定する対象物決定手段と、前記対象物決定手段によって決定された対象物についての詳細情報を前記詳細情報記憶手段から取得して提示する提示手段とを具備したことを特徴とする。
請求項2記載の発明は、請求項1記載の発明において、前記特徴記憶手段に情報が記憶された複数の対象物についての詳細情報を記憶する詳細情報記憶手段と、前記対象物決定手段によって決定された対象物についての詳細情報を前記詳細情報記憶手段から取得して提示する提示手段とを具備したことを特徴とする。
請求項3記載の発明は、請求項1記載の発明において、前記対象物決定手段によって1つの対象物の候補に決定できない場合に、前記指示手段は、候補を絞り込むための部位を特定し、前記部位特定手段は、特定された部位を指示することを特徴とする。
請求項4記載の発明は、請求項1記載の発明において、前記検索手段によって複数の対象物が候補として取得された場合に、前記複数の対象物の候補を一覧表示する一覧表示手段と、前記一覧表示手段によって一覧表示された対象物の候補の何れかを選択する指示を入力する入力手段とを具備し、前記提示手段は、前記入力手段により入力された指示に対応する対象物についての詳細情報を提示することを特徴とする。
請求項5記載の発明は、請求項1記載の発明において前記第2抽出手段によって抽出された部位の特徴が、前記第1抽出手段によって抽出された部位の特徴と整合性があるかを判別する整合性判別手段を有し、前記整合性判別手段により整合性がないと判別された場合に、前記対象物決定手段により特定の対象物を決定しないことを特徴とする。
請求項6記載の発明は、請求項1記載の発明において、前記特徴記憶手段では、複数の対象物についての情報が前記対象物の種類毎に分類されており、前記特徴記憶手段において分類されている前記対象物の種類の指定を入力する種類指定入力手段を具備し、前記検索手段は、前記種類指定入力手段により入力された種類に該当する前記特徴記憶手段に記憶された情報を検索して対象物の候補を取得し、前記部位特定手段は、前記検索手段によって複数の対象物が候補として取得された場合に、前記種類指定入力手段により入力された種類に対応する部位を特定することを特徴とする。
請求項7記載の発明は、請求項1記載の発明において、前記撮影手段によって入力された画像から部位と同部位に対する特徴を抽出する部位特徴抽出手段と、前記部位特徴抽出手段によって抽出された部位と特徴とを前記特徴記憶手段に追加する追加手段とを具備し、前記部位特定手段は、前記追加手段により追加された部位を含めて候補を絞り込むための部位を特定することを特徴とする。
請求項8記載の発明は、請求項1記載の発明において、前記特徴記憶手段に記憶された情報には、前記対象物の動きの特徴を表す情報を含み、前記指示手段は、前記検索手段によって複数の対象物が候補として取得された場合に、前記対象物の動きの特徴を指示し、前記第2抽出手段は、前記撮影手段により入力された動画像から被写体の動きの特徴を抽出し、前記対象物決定手段は、前記第2抽出手段により抽出された動きの特徴をもとに、前記特徴記憶手段に記憶された前記対象物の動きの特徴を表す情報を検索することを特徴とする。
請求項9記載の発明は、請求項1記載の発明において、被写体に関連する音を入力する音入力手段を具備し、前記特徴記憶手段に記憶された情報には、前記対象物の音の特徴を表す情報を含み、前記指示手段は、前記検索手段によって複数の対象物が候補として取得された場合に、前記対象物の音の特徴を指示し、前記第2抽出手段は、前記音入力により入力された音から被写体の特徴を抽出し、前記対象物決定手段は、前記第2抽出手段により抽出された音の特徴をもとに、前記特徴記憶手段に記憶された前記対象物の音の特徴を表す情報を検索することを特徴とする。
請求項10記載の発明は、複数の対象物のそれぞれについて複数の部位についての特徴を表す情報を記憶する特徴記憶手段と、前記特徴記憶手段に情報が記憶された複数の対象物についての詳細情報を記憶する詳細情報記憶手段と、通信回線を通じて他の情報機器から画像を受信する画像受信手段と、前記画像受信手段によって受信された画像から被写体の各部位の特徴を抽出する第1抽出手段と、前記第1抽出手段により抽出された各部位の特徴をもとに前記特徴記憶手段に記憶された情報を検索し、前記画像中の被写体に対応する対象物の候補を取得する検索手段と、前記検索手段によって複数の対象物が候補として取得された場合に、候補を絞り込むための部位を特定する部位特定手段と、前記部位特定手段によって特定された部位を前記通信回線を通じて前記情報機器に送信する部位送信手段と、前記部位送信手段による送信に応じて、前記画像受信手段により前記情報機器から画像が入力された場合に、同画像から部位の特徴を抽出する第2抽出手段と、前記第2抽出手段によって抽出された部位の特徴をもとに前記特徴記憶手段に記憶された情報を検索し、前記検索手段によって取得された複数の対象物の候補から特定の対象物を決定する対象物決定手段と、前記対象物決定手段によって決定された対象物についての詳細情報を前記詳細情報記憶手段から取得して前記情報機器に送信する詳細情報送信手段とを具備したことを特徴とする。
請求項12記載の発明は、被写体を撮影して画像を入力する第1撮影ステップと、前記第1撮影ステップによって入力された画像から被写体の各部位の特徴を抽出する第1抽出ステップと、前記第1抽出ステップにより抽出された各部位の特徴をもとに、複数の対象物のそれぞれについて複数の部位についての特徴を表す情報を記憶する特徴記憶手段に記憶された情報を検索し、前記画像中の被写体に対応する対象物の候補を取得する検索ステップと、前記検索ステップによって複数の対象物が候補として取得された場合に、候補を絞り込むための部位を特定する部位特定ステップと、前記部位特定ステップによって特定された部位を指示する指示ステップと、前記指示ステップによる指示に応じて、被写体を撮影して画像を入力する第2撮影ステップと、前記第2撮影ステップにより画像が入力された場合に、同画像から前記指示ステップによって指示した部位の特徴を抽出する第2抽出ステップと、前記第2抽出ステップによって抽出された部位の特徴をもとに、前記検索ステップによって取得された複数の対象物の候補から特定の対象物を決定する対象物決定ステップと、前記対象物決定ステップによって決定された対象物についての詳細情報を、前記特徴記憶手段に情報が記憶された複数の対象物についての詳細情報を記憶する詳細情報記憶手段から取得して提示する提示ステップとを具備したことを特徴とする。
請求項1記載の発明によれば、入力された画像から被写体の各部位の特徴を抽出し、この抽出された各部位の特徴をもとに被写体に対応する対象物の候補を取得し、複数の対象物が候補として取得された場合には、候補を絞り込むための部位を特定して指示するので、はじめに撮影した画像だけでは被写体を特定できない場合でも、被写体のどの部位を撮影した画像を撮影すれば候補を絞り込むことができるかユーザに指示して、画像の再度の撮影を促すことができ、効果的に撮影画像を利用して被写体が何であるかを識別することができる。
請求項2記載の発明によれば、請求項1の発明の効果に加えて、撮影画像を利用して被写体が何であるかが識別された場合に、この被写体についての詳細情報をユーザに提示することができる。
請求項3記載の発明によれば、請求項1の発明の効果に加えて、入力された画像に対して1つの対象物の候補に決定できない場合に、候補を絞り込むための部位を特定して指示することにより、1つの対象物が特定されるまで、繰り返して候補を絞り込むための部位を撮影した画像の入力をユーザに促すことができる。
請求項4記載の発明によれば、請求項1の発明の効果に加えて、複数の対象物が候補として取得された場合に、複数の対象物の候補を一覧表示して、この一覧表示された対象物の候補の何れをユーザが指示して詳細情報を提示させることができるので、画像から抽出される部位の特徴を利用した検索により候補を絞り込むだけでなく、被写体に対する知識がユーザにある場合には候補中から直接的に選択することで、より簡単に素早く被写体を特定することができる。
請求項5記載の発明によれば、請求項1の発明の効果に加えて、後に撮影された画像から抽出された部位の特徴が、先に撮影された画像から抽出された部位の特徴と整合性があるかを判別し、整合性がないと判別された場合、すなわち被写体から抽出される部位の特徴が一致せず矛盾が生じている場合には、入力された画像が別の被写体を撮影することにより入力された画像とみなして、候補の絞り込みを中止させることができる。
請求項6記載の発明によれば、請求項1の発明の効果に加えて、複数の対象物についての情報が対象物の種類毎に分類されており、この分類されている対象物の種類の指定を入力して、この指定された種類に該当する情報を対象として、画像から抽出された部位の特徴について検索することで、対象物の種類毎に決められる部位の特徴をもとに被写体の候補をより確実に求めることができる。
請求項7記載の発明によれば、請求項1の発明の効果に加えて、入力された画像から部位と同部位に対する特徴を抽出し、この抽出された部位と特徴とを追加して記憶させることができるので、追加された部位を含めて候補を絞り込むための部位を特定することで、より確実な候補の絞り込みが可能となる。
請求項8記載の発明によれば、請求項1の発明の効果に加えて、被写体の部位の特徴だけでなく、被写体の動きの特徴をもとに候補の絞り込みが可能となるので、複数の候補が得られた場合に被写体の動きが分かる動画像を撮影させることで、被写体の絞り込みを確実にすることができる。
請求項9記載の発明によれば、請求項1の発明の効果に加えて、被写体の部位の特徴だけでなく、被写体に関連する音の特徴をもとに候補の絞り込みが可能となるので、複数の候補が得られた場合に被写体に関連する音を入力させることで、被写体の絞り込みを確実にすることができる。
請求項10記載の発明によれば、通信回線を通じて他の情報機器から画像から被写体の各部位の特徴を抽出し、この抽出された各部位の特徴をもとに被写体に対応する対象物の候補を取得し、複数の対象物が候補として取得された場合には、候補を絞り込むための部位を特定して通信回線を通じて情報機器に送信するので、はじめに受信した画像だけでは被写体を特定できない場合でも、被写体のどの部位を撮影した画像を撮影すれば候補を絞り込むことができるか他の情報機器を使用するユーザに指示して、画像の再度の撮影を促すことができ、例えば被写体を逃すことなく素早く被写体についての追加撮影を行ない、効果的に撮影画像を利用して被写体が何であるかを識別することができる。
請求項11記載の発明によれば、請求項11の発明の効果に加えて、撮影画像を利用して被写体が何であるかが識別された場合に、この被写体についての詳細情報を情報機器に送信してユーザに提示することができる。
請求項12記載の発明によれば、入力された画像から被写体の各部位の特徴を抽出し、この抽出された各部位の特徴をもとに被写体に対応する対象物の候補を取得し、複数の対象物が候補として取得された場合には、候補を絞り込むための部位を特定して指示するので、はじめに撮影した画像だけでは被写体を特定できない場合でも、被写体のどの部位を撮影した画像を撮影すれば候補を絞り込むことができるかユーザに指示して、画像の再度の撮影を促すことができ、例えば被写体を逃すことなく素早く被写体についての追加撮影を行ない、効果的に撮影画像を利用して被写体が何であるかを識別することができる。
以下、図面を参照して本発明の実施の形態について説明する。
図1は、本発明の実施の形態における図鑑機能付きカメラ装置1の構成を示すブロック図である。図鑑機能付きカメラ装置1は、デジタルカメラとしての機能の他に、撮影画像をもとに図鑑データベース(DB)に蓄積された情報を検索するための図鑑機能が搭載されている。
図1に示す図鑑機能付きカメラ装置1において、基本モードである撮影モードにおいては、所定のビデオレート、1/30[秒]毎にモータ(M)10の駆動により絞り位置や通常撮影に応じたレンズ位置が移動される、撮影レンズ11を構成するレンズ光学系の撮影光軸後方に配置された撮像素子であるCCD(Charge Coupled Device)12が、タイミング発生器(TG)13、垂直ドライバ14によって走査駆動され、一定周期毎に結像した光像に対応する光電変換出力を1画面分出力する。
この光電変換出力は、アナログ値の信号の状態でRGBの各原色成分毎に適宜ゲイン調整された後に、サンプルホールド(S/H)回路15でサンプルホールドされ、A/D変換器16でデジタルデータに変換され、さらにカラープロセス回路17で画素補間処理及びγ補正処理を含むカラープロセス処理が行なわれて、デジタル値の輝度信号Y及び色差信号Cb,Crが生成され、DMA(Direct Memory Access)コントローラ18に出力される。
DMAコントローラ18は、カラープロセス回路17の出力する輝度信号Y及び色差信号Cb,Crを、同じくカラープロセス回路17からの複合同期信号、メモリ書込みイネーブル信号、及びクロック信号を用いて一度DMAコントローラ18内部のバッファに書込み、DRAMインタフェース(I/F)20を介してバッファメモリとして使用されるDRAM21にDMA転送を行なう。
制御部25は、CPUと、該CPUで実行される動作プログラムやデータ等を固定的に記憶したROM、及びワークメモリとして使用されるRAM等により構成され、この図鑑機能付きカメラ装置1全体の制御動作を司る。
制御部25は、輝度及び色差信号のDRAM21へのDMA転送終了後に、この輝度及び色差信号をDRAMインタフェース20を介してDRAM21より読出し、VRAMコントローラ26を介してVRAM27に書込む。
デジタルビデオエンコーダ28は、輝度及び色差信号をVRAMコントローラ26を介してVRAM27より定期的に読出し、これらのデータを元にビデオ信号を発生して表示部29に出力する。
表示部29は、撮影モード時にはモニタ表示部(電子ファインダ)として機能し、デジタルビデオエンコーダ28からのビデオ信号に基づいた表示を行なうことで、その時点でVRAMコントローラ26から取込んでいる画像情報に基づく画像(スルー画像)をリアルタイムに表示することになる。
表示部29にスルー画像がリアルタイムに表示されている表示状態で、静止画像を撮影するタイミングでキー入力部36のシャッタキーが操作されると、トリガ信号を発生する。
制御部25は、このトリガ信号に応じてその時点でCCD12の駆動を停止した後、自動露出処理を実行して適正な露出値を得て、レンズ光学系の絞りとCCD12の露光時間を制御してあらためて撮像を実行させる。
こうして新たに得られた1フレーム分の画像データがDRAM21にDMA転送されて書込まれた後、制御部25がDRAM21に書込まれている1フレーム分の画像データを読出して画像処理部30に書込む。画像処理部30は、画像データに対して、例えば偽色信号抑制、高輝度着色防止、低彩度圧縮などの画像処理を施し、またJPEG(Joint Photographic Experts Group)により画像データを符号化する。
符号化された画像データは、図鑑機能付きカメラ装置1の記録媒体として着脱自在に装着されているメモリカード32、あるいはメモリカード32が装着されていない場合は固定的に内蔵されている内蔵メモリ33に書き込まれる。
そして、1フレーム分のメモリカード32または内蔵メモリ33への画像データの書込み終了に伴なって、制御部25は、CCD12からDRAM21を経由したスルー画像を表示部29においてモニタ表示させる駆動を再開する。
また、制御部25には、データ解析部34、図鑑データベース(DB)35、キー入力部36、音声処理部40、ストロボ駆動部41が接続される。
データ解析部34は、制御部25の制御のもとで、画像処理部30により画像処理が施されてメモリカード32あるいは内蔵メモリ33に記憶された画像データ(動画像データを含む)あるいは音データを解析して、図鑑DB35に記録された情報を検索するための被写体の特徴を検索キーとして抽出する。データ解析部34は、被写体の種類(例えば、植物、昆虫、動物、建築物、人、自動者…など)に応じて決められた特徴を抽出する。例えば、静止画像データに対しては、画像中の被写体の各部位の特徴を検索キーとして抽出する。例えば被写体が植物である場合には、「花弁」「茎」「葉」などの部位について、その特徴(「花弁の枚数」については例えば「5枚」など)を検索キーとして抽出する。また、例えば動画像データについては被写体の動きの特徴などを抽出し、音データについては特徴的な音部分をそれぞれ検索キーとして抽出する。
図鑑DB35は、複数の対象物のそれぞれについて複数の部位についての特徴を表す情報(外観特徴情報)と、この情報が記憶された複数の対象物のそれぞれについての詳細情報(対象物に関する一般的に図鑑に掲載されている各種の情報)を示すデータが記録されている(詳細については図2参照)。図鑑DB35では、複数の対象物についての情報が対象物の種類毎、例えば「植物」「昆虫」「動物」「建築物」「人」「車」…に分類されており、検索対象として入力された画像に撮影されている被写体に応じた種類の情報が検索対象として利用される。さらに、図鑑DB35には、対象物の動きの特徴を表す情報、また対象物の音の特徴を表す情報などを含む。さらに、図鑑DB35は、予め記憶されている情報だけでなく、制御部25の制御により各情報を追加記録することができる。
キー入力部36は、電源キー、シャッタキー、モードスイッチ、メニューキー、及び十字キー等から構成され、それらのキー操作に伴なう信号は直接制御部25へ送出される。
音声処理部40は、PCM音源等の音源回路を備え、音声の録音時にはマイクロホン部(MIC)42より入力された音声信号をデジタル化し、所定のデータファイル形式、例えばMP3(MPEG-1 Audio Layer-3)規格に従ってデータ圧縮して音声データファイルを作成してメモリカード32または内蔵メモリ33へ送出する一方、音声の再生時にはメモリカード32または内蔵メモリ33から送られてきた音声データファイルの圧縮を解いてアナログ化し、スピーカ部(SP)43を駆動して、拡声放音させる。
さらに音声処理部40は、制御部25からの制御に基づいて、各種動作音、例えばシャッタキーの操作に伴う擬似的なシャッタ音、他のキーの操作に伴うビープ音等も発生してスピーカ部43より拡声放音させる。
ストロボ駆動部41は、静止画像撮影時に図示しないストロボ用の大容量コンデンサを充電した上で、制御部25からの制御に基づいてストロボ発光部45を閃光駆動する。
静止画像ではなく動画像の撮影時においては、例えばシャッタキーが操作され続けている間、JPEG回路36でデータ圧縮された静止画データファイルのメモリカード32または内蔵メモリ33への記録を時間的に連続して実行し、該シャッタキーの操作が終わるか、または所定の制限時間、例えば30秒が経過した時点でそれら一連の静止画データファイルを一括してモーションJPEGのデータファイル(AVIファイル)として設定し直す。
この時、音声付きの動画像の撮影が指定されている場合には、前述した如くマイクロホン部42からの入力により得た音声データファイルも関連付けて記録させる。
また、基本モードである再生モード時には、制御部25がメモリカード32または内蔵メモリ33に記録されている画像データを選択的に読出し、JPEG回路36で撮影モード時にデータ圧縮した手順と全く逆の手順で圧縮されている画像データを伸長し、伸長した画像データをDRAMインタフェース20を介してDRAM21に保持させた上で、このDRAM21の保持内容をVRAMコントローラ26を介してVRAM27に記憶させ、このVRAM27より定期的に画像データを読出してビデオ信号を発生し、表示部29で再生出力させる。
選択した画像データが静止画像ではなく動画像であった場合、動画像ファイルを構成する個々の静止画データの再生を時間的に連続して実行し、すべての静止画データの再生を終了した時点で、次に再生の指示がなされるまで先頭に位置する静止画データのみを用いて再生表示する。
図2は、図鑑DB35に登録されている情報の一例を示す図である。
本実施形態における図鑑DB35には、対象物の種類毎、例えば植物、昆虫、動物、建築物、人…などについて、それぞれに含まれる複数の対象物についての詳細情報と外観特徴情報を示すデータとが対応づけて記憶されている。例えば、対象物の種類「植物」には、複数の植物「植物1」「植物2」「植物3」…(名称のデータを示す)のそれぞれと対応づけて各情報が記憶されている。詳細情報は、一般に図鑑に掲載されている情報であり、検索結果とする対象物に対応するデータが読み出されて出力される。外観特徴情報は、対象物に対して決められた複数の部位「花弁」「茎」「葉」などについて、その特徴(「花弁の枚数」については例えば「5枚」など)を示すデータが記録されている。
図2では省略しているが、外観特徴情報は、対象物の種類毎に決められているものとする。また、外観特徴情報の他に、対象物に対する動きの特徴の情報、及び音に関する特徴の情報を示すデータが記録されているものとする。
図3は、図鑑機能付きカメラ装置1における図鑑検索機能を実行するための機能構成を示すブロック図である。
図3に示すように、本実施形態では、画像撮影部50、第1特徴抽出部51、特徴検索部52、検索候補記憶部53、識別部位特定部54、特定部位指示部55、第2特徴抽出部56、対象物決定部57、対象物提示部58、特徴追加部59、一覧表示部60、及び入力部61の機能が設けられる。
画像撮影部50は、ユーザ操作に応じて、図鑑DB35に記録されている詳細情報を閲覧しようとする被写体を撮影した画像を入力する。第1特徴抽出部51は、画像撮影部50によって入力された画像から、被写体の種類毎、例えば植物、動物などに応じて決められた被写体の各部位の特徴を抽出する。
特徴検索部52は、第1特徴抽出部51により抽出された各部位の特徴をもとに、図鑑DB35の外観特徴情報記憶部35bに記憶された部位についての特徴を表す情報を検索することで、画像中の被写体に対応する対象物の候補を取得して検索候補記憶部53に記憶させる。
識別部位特定部54は、特徴検索部52によって複数の対象物が候補として取得され、検索候補記憶部53に記憶されている場合に、候補を絞り込むための部位、例えば入力された画像からは特徴が判別することができなかった部位を特定する。
特定部位指示部55は、識別部位特定部54によって特定された部位を通知するための表示を行なうなどしてユーザに対して指示する。第2特徴抽出部56は、特定部位指示部55による指示に応じて画像撮影部50により画像が入力された場合に、すなわち特徴が判別されていなかった部位が撮影されている画像から部位の特徴を抽出する。
対象物決定部57は、第2特徴抽出部56によって抽出された部位の特徴をもとに図鑑DB35の外観特徴情報記憶部35bに記憶された情報を検索し、特徴検索部52によって取得された複数の対象物の候補から特定の対象物を決定する。
なお、第2特徴抽出部56によって抽出された部位の特徴が、第1特徴抽出部51によって抽出された部位の特徴と整合性があるか、例えば同一の部位について第1特徴抽出部51によって抽出された特徴と第2特徴抽出部56によって抽出された特徴と一致しないものがあるかを判別する(整合性判別手段)。そして、整合性がないと判別された場合に、画像撮影部50により入力された画像に対して、新たな被写体を撮影した画像であるとして第2特徴抽出部51により抽出された特徴をもとに、特徴検索部52により図鑑DB35の検索を実行する。
対象物提示部58は、対象物決定部57によって決定された対象物についての詳細情報を図鑑DB35の詳細情報記憶部35aから取得して提示する。
また、特徴追加部59は、入力された画像から第1特徴抽出部51により抽出された部位と同部位に対する特徴とを図鑑DB35の外観特徴情報記憶部35bに追加することができる。また、一覧表示部60は、特徴検索部52によって複数の対象物が候補として取得された場合に、検索候補記憶部53に記憶された複数の対象物の候補を一覧表示し、入力部61は、一覧表示部60により一覧表示された対象物の候補の何れかを選択する指示をユーザ操作に応じて入力し、該当する対象物に対応する詳細情報を対象物提示部58によって表示させることができる。

次に、本実施形態における図鑑機能付きカメラ装置1の動作について、図4に示すフローチャート、図5乃至図8に示す具体例を参照しながら説明する。
図鑑機能付きカメラ装置1(画像撮影部50)は、撮影モードにおいて、ユーザによりシャッタキー(キー入力部36)が操作されることにより、光学系を通じて入力される画像の撮影を実行する(ステップA1)。入力された画像に対しては、画像処理部30により画像処理が施されてメモリカード32あるいは内蔵メモリ33に記憶すると共に(ステップA2)、表示部29において撮影画像を表示する(ステップA3)。
ここで、ユーザは、図鑑機能を利用して画像中の被写体についての詳細情報を取得したい場合には、キー入力部36の所定のキーに対する操作により図鑑検索処理の実行を指定する。
制御部25は、キー入力部36を通じて図鑑検索処理の実行が指示されると(ステップA4、Yes)、図鑑検索処理を開始する。まず、制御部25は、撮影対象とした対象物(被写体)の種類の指定をユーザによって入力させる。例えば、図鑑DB35に記録されている対象物の種類「植物」「昆虫」「動物」…などを一覧表示して、その中から選択させる。
制御部25は、対象物の種類の指定が入力されると(ステップA5)、図鑑DB35において検索対象とする対象物を指定された種類に限定し(ステップA6)、データ解析部34に対して、この限定された対象物の種類を通知してデータ解析(特徴抽出)の実行を指示する(ステップA6)。
データ解析部34(第1特徴抽出部51)は、入力された画像から、解析図鑑DB35に記憶されている限定された対象物の外観特徴情報に該当する部位を所定の画像処理によって判別し、この部位についての特徴を抽出して、図鑑DB35に記憶された情報を検索するための検索キーとする(ステップA7)。
ここでは、例えば図5に示すような「植物」を被写体とする画像が入力されたものとする。図5に示す入力画像には、花弁と葉の部分が撮影されている。データ解析部34(第1特徴抽出部51)では、対象物「植物」の外観特徴情報に応じて、複数の部位についての特徴、すなわち「花弁の枚数」「花弁の色」「花弁の形状」「茎の色」「茎の形状」「葉の色」「葉の形状」の特徴が抽出される。
ただし、図5に示す入力画像では、対象物の全体ではなく、一部のみが撮影された画像であるため、外観特徴情報に対応する全ての部位の特徴について抽出することができない。
図6の調査対象の項目には、図5に示す入力画像から抽出された部位の特徴を示している。入力画像では、花弁と葉の一部が撮影されていたため、「花弁の枚数」が「5」、「花弁の色」が「紫」、「花弁の形状」が「五角形」、「葉の色」が「緑」として、それぞれ部位の特徴(検索キー)が抽出されている。また、「茎の色」「茎の形状」「葉の形状」については、入力画像から抽出することができず状態不明となっている。
次に、制御部25(特徴検索部52)は、入力画像から抽出された複数の部位の特徴(検索キー)を用いて、図鑑DB35の対象物「植物」について登録されている外観特徴情報記憶部35bを検索する。すなわち、入力画像から抽出された部位の特徴と図鑑DB35とを照らし合わせて、入力画像の被写体に対応する対象物(個々の植物)を求める(ステップA8)。
この時点で入力画像から得た検索キーが的確であり、唯一の候補が取得された場合には(ステップA9、Yes)、その候補の対象物が被写体に対応するものとして検索を完了する。制御部25は、外観特徴情報をもとに検索された対象物に対応する詳細情報を図鑑DB35の詳細情報記憶部35aから取得し(ステップA10)、入力画像と共に表示部29において表示させる。また、制御部25は、詳細情報を入力画像のデータに詳細情報を示すタグ情報などを添付することで関連づけ、メモリカード32あるいは内蔵メモリ33に記憶する(ステップA11)。
一方、図5に示す入力画像のように、対象物の一部のみが撮影されているために、入力画像から抽出された部位の特徴(検索キー)だけで図鑑DB35を検索しても対象物を特定できない場合がある。
図5に示す入力画像については、「花弁の枚数」「花弁の色」「花弁の形状」「葉の色」についての検索キーが抽出されている。この検索キーを用いて図鑑DB35に登録されている、例えば図6に示す植物「A」〜植物「E」の対象物の外観特徴情報を検索したものとする。
この場合、「茎の色」「茎の形状」「葉の形状」については検索キーとして成立していないので比較対照とはならない。従って、検索キーとしている「花弁の枚数」「花弁の色」「花弁の形状」「葉の色」の特徴が一致する植物「A」「C」が候補として取得され記憶される(検索候補記憶部53)。
こうして、図鑑DB35に対する検索によって複数の候補が得られた場合には(ステップA9、No)、制御部25(一覧表示部60)は、取得された複数の候補(対象物)の名称データを図鑑DB35から取得し、表示部29において表示させる(ステップA12)。
こうして、入力画像だけでは被写体を特定できない場合、候補として検索された対象物の名称を表示部29に表示し、さらに絞り込みを行なうがどうかの選択をユーザに要求する。
ここで、ユーザが絞り込みを要求せず、キー入力部36に対する所定の操作によって、一覧表示された候補の何れかを選択する指示が入力された場合(入力部61)(ステップA13、No)、制御部25は、この選択された候補の対象物に確定し(ステップA14)、同対象物に対応する詳細情報を図鑑DB35の詳細情報記憶部35aから取得し(ステップA10)、入力画像と共に表示部29において表示させる。また、制御部25は、詳細情報を入力画像のデータに詳細情報を示すタグ情報などを添付することで関連づけ、メモリカード32あるいは内蔵メモリ33に記憶する(ステップA11)。
一方、ユーザによるキー入力部36に対する操作によって、さらに絞り込みを要求された場合には(ステップA13、Yes)、制御部25(識別部位特定部54)は、現在、取得されている複数の候補から、候補を絞り込むための部位、すなわち図鑑DB35を検索するために必要な検索キーを特定する(ステップA15)。例えば、候補を絞り込むための部位としては、前回の入力画像に対する特徴抽出において状態不明となっていた部位がある。また、全ての状態不明となっていた部位とするだけでなく、複数の候補から何れかを特定することができる部位があれば、この部位のみを対象としても良い。
図6では、「茎の色」「茎の形状」「葉の形状」が検索キーとして成立していないが、既に候補が植物「A」「C」に絞られており、この2つを識別可能な検索キー(部位の特徴)が「葉の形状」であると特定することができる。
従って、制御部25(特定部位指示部55)は、候補の絞り込みに必要に検索キー(部位の特徴)が「葉の形状」であることを表示部29において表示し、ユーザに対して部位「葉」が認証できる画像を撮影するように促す(ステップA16)。
ユーザが部位の指示を受けて、再度、撮影操作を行なうと、図鑑機能付きカメラ装置1(画像撮影部50)は、前述と同様にして画像を入力し、通常通り画像処理を施して記憶すると共に表示部29において表示させる(ステップA17,A18)。
ここで、データ解析部34(第2特徴抽出部56)は、前回、入力された画像と同様にして、解析図鑑DB35に記憶されている限定された対象物の外観特徴情報に該当する部位を所定の画像処理によって判別し、この部位についての特徴を抽出して、図鑑DB35に記憶された情報を検索するための検索キーとする。
制御部25(整合性判別手段)は、前回の入力画像から抽出された検索キー(部位の特徴)と、今回の入力画像から抽出された検索キーとに整合性があるかを判別する(ステップA19)。すなわち、同一の部位について異なる特徴を示すといった矛盾が生じていないかを判別する。例えば、図5に示す入力画像からは「花弁の形状」として「五角形」が抽出されているが、今回の入力画像から抽出された「花弁の形状」が「円形」であった場合には、整合性がないものとして判別する。
この結果、前回の入力画像の検索キーと整合性がないと判別された場合、新たな被写体を撮影した画像が入力されたものとして、ステップA3の処理に戻る。すなわち、制御部25は、入力画像を表示部29において表示し、ここで図鑑検索処理の実行が指示された場合には、前述と同様にして、検索キーを抽出して図鑑DB35に対する情報の検索を実行する。
一方、前回の入力画像から取得された検索キーと矛盾のないことが確認された場合(ステップA19、No)、制御部25(対象物決定部57)は、前回の入力画像から取得された検索キーに今回の入力画像から抽出された検索キーを追加し(ステップA20)、この追加された検索キーを含め、再度、図鑑DB35との照合を実行する(ステップA8)。
例えば、図7に示すように、ユーザに対して指示した「葉の形状」が認証できる画像が入力されたものとする。この場合、入力画像が解析され、「葉の形状」の他、「葉の色」と一部写っている花の状態から「花弁の色」の特徴が検索キーとして抽出される。
「葉の色」と「花弁の色」の特徴は、図6に示す前回の入力画像の解析結果から得られていた部位の特徴と一致しているため(「紫」「五角形」)、前回の検索キーと矛盾がないことが確認される。
この結果、制御部25(対象物決定部57)は、追加された「葉の形状」の特徴「ハート型」によって、候補として記憶されていた植物「A」「C」のうち、植物「A」が被写体に対応する対象物であると決定することができる(ステップA9、Yes)。
制御部25(対象物提示部58)は、候補中から決定された対象物に対応する詳細情報を図鑑DB35の詳細情報記憶部35aから取得し(ステップA10)、入力画像と共に表示部29において表示させる。また、制御部25は、詳細情報を入力画像のデータに詳細情報を示すタグ情報などを添付することで関連づけ、メモリカード32あるいは内蔵メモリ33に記憶する(ステップA11)。
なお、ユーザに部位を提示した後に、再度、入力された画像によっても対象物を1つに決定できなかった場合には(ステップA9)、前述と同様にして、候補を絞り込むための部位を特定し、ユーザに提示して、再度、画像撮影を促す。
こうして、1つの候補に絞り込むことができるまで、前述した処理を繰り返して実行する。
このようにして、はじめに撮影した画像だけでは被写体を特定できない場合でも、被写体のどの部位を撮影した画像を撮影すれば候補を絞り込むことができるかユーザに指示して、画像の再度の撮影を促すことができる。従って、被写体を撮影して得られた画像をもとに、効果的に候補を絞り込んで被写体を識別し、被写体に関する詳細情報をユーザに提示することができる。また、入力画像に対して被写体を特定できなかった場合には、直ちに、候補の絞り込みに必要な部位を提示するので、例えば移動する被写体であっても、これを逃すことなく素早く追加撮影を行ない、効果的に撮影画像を利用して被写体が何であるかを識別することができる。
なお、前述した説明では、対象物として植物の例を用いているが、同様にして図鑑DB35に記録された例えば昆虫、動物、建築物、人、車などについても、それぞれの対象物に応じて決められた部位の特徴をもとに、図鑑DB35を検索することで対象物を絞り込み、さらには対象物を決定することができる。例えば、図鑑機能付きカメラ装置1を用いて盗難車の特定をする場合、見つけた車が盗難車であるか否かを確認するために、盗難車の特徴とする部位を含む画像を撮影することで、この画像から抽出された車の部位の特徴について図鑑DB35が検索され、盗難車に該当するか否かを簡単に判別することができる。
また、前述した説明では、図鑑DB35に予め記録されているデータをもとに対象物の識別を実行しているが、図鑑DB35に対して新規のデータを登録できる機能を搭載しても良い。
例えば、制御部25は、撮影により得られた画像について画像処理部30による処理を施し、データ解析部34により、この画像中から被写体の特徴を表す部位と、その特徴に関する情報を抽出し(部位特徴抽出手段)、これらの情報を対象物と対応づけて図鑑DB35に追加記憶させる(追加手段)。
例えば、花が咲いた植物の画像が撮影された場合、特徴を表す部位として前述した外観特徴情報で用いた「花弁」「葉」「茎」の部分を画像中から抽出する。一般に、「花弁」「葉」「茎」は、それぞれ異なる形状、色を有していることから、これらの違いをもとに所定の画像処理を実行することでそれぞれの部位を抽出する。そして、それぞれの部位についての特徴、例えば「葉」の部位については「葉の色」「葉の形状」を識別する。「葉の形状」については、「ハート型」「短冊状」など、予め用意された複数のパターンとの照合を行なうことで、何れに該当するか判別できる。
なお、撮影された画像から部位と特徴についての自動抽出ができない場合には、例えば撮影画像に対してユーザが部位の指定を入力できる機能を設けておくことで、ユーザからの入力を利用して部位を簡単に特定できるようにすることもできる。例えば、「花弁」あるいは「葉」に該当する部分を囲むように範囲指定をユーザに入力させることで、データ解析部34は、この範囲指定された画像内から「花弁」あるいは「葉」に該当する部分を抽出する。そして、部位の色や形状などの特徴についても、ユーザが文字入力によって入力したり、予め用意された選択肢から指定できるようにする。制御部25は、データ解析部34による解析結果をもとに、撮影された画像から被写体の特徴を表す部位と、その特徴に関する情報を決定し、図鑑DB35に新規に追加登録する。
これにより、予め図鑑DB35に登録された情報だけでは候補として抽出できなかった対象物、例えば「花弁」の色が通常の色と異なっていたり、「葉」の形状が撮影方向の違いにより正しく画像中で表れていなかったりしたために、対象物の候補として抽出できなかった対象物についても正しく候補として指示することができる。
さらに、対象物を識別するための部位と特徴をユーザが新たに作成して追加できるようにしても良い。例えば、ある対象物について、図鑑DB35には予め記憶されていないが、ユーザが対象物を識別するために参照している部位がある場合には、この部位とその特徴を追加登録しておく。部位と特徴の図鑑DB35への追加については前述と同様にして行なうことができる。
こうして、新規の部位と特徴を追加登録しておくことで、図鑑DB35に予め用意された情報からでは画像中の被写体が識別できなかったとしても、ユーザが追加登録した部位をユーザに指示して、この部位を含む被写体について再度の撮影実行させることで、被写体の識別を確実にすることができる。
また、前述した実施形態では、撮影された静止画像をもとに図鑑DB35を検索して外観特徴を判別しているが、動画像を撮影して、この動画像をもとにして特徴を検索するようにしても良い。この場合、前述した静止画像に対する外観特徴の他に、対象物の動きの特徴などについての情報を図鑑DB35に記録しておくことで、この情報を検索キーとして図鑑DB35を検索して対象物を判別するようにしても良い。これにより、動きに特徴がある例えば昆虫や動物などについて外観の情報だけでは候補の絞り込みができなかった場合に、被写体に対する動きのある動画像の撮影をユーザに指示することもできる。こうして撮影された動画像から動きの特徴を抽出して図鑑DB35を検索することで、被写体の動きをもとにして対象物を特定することができる。
同様にして、対象物に関連する音をマイクロホン部42を通じて入力して、この音から対象物の音の特徴を抽出し、この音の特徴をもとにして図鑑DB35を検索するようにしても良い。例えば、対象物に関連する音としては、動物の鳴き声、自動車のエンジン音、人の音声などがある。この場合、図鑑DB35には対象物ごとの音の特徴についての情報を記録し、特徴的な音部分を検索キーとして検索できるようにする。この場合においても、対象物の候補の絞り込みのために、被写体に関する音の入力をユーザに指示することができる。
また、前述した説明では、デジタルカメラ単体として構成された図鑑機能付きカメラ装置1を用いて説明しているが、画像撮影機能が搭載された他の電子機器において実現することも可能である。例えば、カメラ機能が搭載された携帯電話機やPDA(personal digital assistant)やパーソナルコンピュータなどの情報機器、その他、撮影画像をもとに各種検査を行なうための検査機器に適用することも可能である。
また、図鑑機能付きカメラ装置1において撮影画像中の被写体を識別するための検索処理を実行するのではなく、通信回線(公衆回線、インターネットなど)を通じて接続される他の情報処理装置、すなわち図鑑データベース検索機能付きサーバ装置において、前述した撮影画像に対する処理を実行するようにしても良い。この場合、画像撮影機能付きの情報機器(画像撮影の機能を有するデジタルカメラ、PDA、パーソナルコンピュータ、携帯電話機など)は、撮影画像のデータをサーバ装置に送信して、画像中に撮影されている被写体についての問い合せ要求を送信することで、サーバ装置において図鑑DBに対する検索処理を実行させる。サーバ装置は、情報機器からの画像だけでは被写体を特定できなかった場合には、通信回線を通じて検索候補と共に、候補を絞り込むために必要な部位についての情報を送信することにより、ユーザに対して再度の画像撮影と画像データの送信を促すことができる。
さらに、上記実施の形態には種々の段階の発明が含まれており、開示される複数の構成要件における適宜の組み合わせにより種々の発明が抽出され得る。例えば、実施の形態に示される全構成要件から幾つかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題の少なくとも1つが解決でき、発明の効果の欄で述べられている効果の少なくとも1つが得られる場合には、この構成要件が削除された構成が発明として抽出され得る。
本発明の実施の形態における図鑑機能付きカメラ装置1の構成を示すブロック図。 本実施形態における図鑑DB35に登録されている情報の一例を示す図。 本実施形態における図鑑機能付きカメラ装置1における図鑑検索機能を実行するための機能構成を示すブロック図。 本実施形態における図鑑機能付きカメラ装置1の動作について説明するためのフローチャート。 本実施形態における入力画像の一例を示す図。 本実施形態における入力画像に対する処理状況を説明するための図。 本実施形態における入力画像の一例を示す図。 本実施形態における入力画像に対する処理状況を説明するための図。
符号の説明
1…図鑑機能付きカメラ装置、11…撮影レンズ、10…モータ(M)、12…CCD、13…タイミング発生器(TG)、14…垂直ドライバ、15…サンプルホールド回路(S/H)、16…A/D変換器、17…カラープロセス回路、18…DMAコントローラ、20…DRAMインタフェース(I/F)、21…DRAM、25…制御部、26…VRAMコントローラ、27…VRAM、28…デジタルビデオエンコーダ、29…表示部、30…画像処理部、32…メモリカード、33…内蔵メモリ、34…データ解析部、35…図鑑データベース(DB)、36…キー入力部、40…音声処理部、41…ストロボ駆動部、42…マイクロホン部(MIC)、43…スピーカ部(SP)、45…ストロボ発光部、50…画像撮影部、51…第1特徴抽出部、52…特徴検索部、53…検索候補記憶部、54…識別部位特定部、55…特定部位指示部、56…第2特徴抽出部、57…対象物決定部、58…対象物提示部、59…特徴追加部、60…一覧表示部、61…入力部。

Claims (12)

  1. 複数の対象物のそれぞれについて複数の部位についての特徴を表す情報を記憶する特徴記憶手段と、
    被写体を撮影して画像を入力する撮影手段と、
    前記撮影手段によって入力された画像から被写体の各部位の特徴を抽出する第1抽出手段と、
    前記第1抽出手段により抽出された各部位の特徴をもとに前記特徴記憶手段に記憶された情報を検索し、前記画像中の被写体に対応する対象物の候補を取得する検索手段と、
    前記検索手段によって複数の対象物が候補として取得された場合に、候補を絞り込むための部位を特定する部位特定手段と、
    前記部位特定手段によって特定された部位を指示する指示手段と、
    前記指示手段による指示に応じて前記撮影手段により画像が入力された場合に、同画像から部位の特徴を抽出する第2抽出手段と、
    前記第2抽出手段によって抽出された部位の特徴をもとに前記特徴記憶手段に記憶された情報を検索し、前記検索手段によって取得された複数の対象物の候補から特定の対象物を決定する対象物決定手段と、
    を具備したことを特徴とするカメラ装置。
  2. 前記特徴記憶手段に情報が記憶された複数の対象物についての詳細情報を記憶する詳細情報記憶手段と、
    前記対象物決定手段によって決定された対象物についての詳細情報を前記詳細情報記憶手段から取得して提示する提示手段と
    を具備したことを特徴とする請求項1記載のカメラ装置。
  3. 前記対象物決定手段によって1つの対象物の候補に決定できない場合に、前記部位特定手段は、候補を絞り込むための部位を特定し、前記指示手段は、特定された部位を指示することを特徴とする請求項1記載のカメラ装置。
  4. 前記検索手段によって複数の対象物が候補として取得された場合に、前記複数の対象物の候補を一覧表示する一覧表示手段と、
    前記一覧表示手段によって一覧表示された対象物の候補の何れかを選択する指示を入力する入力手段と
    を具備し、
    前記提示手段は、前記入力手段により入力された指示に対応する対象物についての詳細情報を提示することを特徴とする請求項1記載のカメラ装置。
  5. 前記第2抽出手段によって抽出された部位の特徴が、前記第1抽出手段によって抽出された部位の特徴と整合性があるかを判別する整合性判別手段を有し、
    前記整合性判別手段により整合性がないと判別された場合に、前記対象物決定手段により特定の対象物を決定しないことを特徴とする請求項1記載のカメラ装置。
  6. 前記特徴記憶手段では、複数の対象物についての情報が前記対象物の種類毎に分類されており、
    前記特徴記憶手段において分類されている前記対象物の種類の指定を入力する種類指定入力手段を具備し、
    前記検索手段は、前記種類指定入力手段により入力された種類に該当する前記特徴記憶手段に記憶された情報を検索して対象物の候補を取得し、
    前記部位特定手段は、前記検索手段によって複数の対象物が候補として取得された場合に、前記種類指定入力手段により入力された種類に対応する部位を特定することを特徴とする請求項1記載のカメラ装置。
  7. 前記撮影手段によって入力された画像から部位と同部位に対する特徴を抽出する部位特徴抽出手段と、
    前記部位特徴抽出手段によって抽出された部位と特徴とを前記特徴記憶手段に追加する追加手段とを具備し、
    前記部位特定手段は、前記追加手段により追加された部位を含めて候補を絞り込むための部位を特定することを特徴とする請求項1記載のカメラ装置。
  8. 前記特徴記憶手段に記憶された情報には、前記対象物の動きの特徴を表す情報を含み、
    前記指示手段は、前記検索手段によって複数の対象物が候補として取得された場合に、前記対象物の動きの特徴を指示し、
    前記第2抽出手段は、前記撮影手段により入力された動画像から被写体の動きの特徴を抽出し、
    前記対象物決定手段は、前記第2抽出手段により抽出された動きの特徴をもとに、前記特徴記憶手段に記憶された前記対象物の動きの特徴を表す情報を検索することを特徴とする請求項1記載のカメラ装置。
  9. 被写体に関連する音を入力する音入力手段を具備し、
    前記特徴記憶手段に記憶された情報には、前記対象物の音の特徴を表す情報を含み、
    前記指示手段は、前記検索手段によって複数の対象物が候補として取得された場合に、前記対象物の音の特徴を指示し、
    前記第2抽出手段は、前記音入力により入力された音から被写体の特徴を抽出し、
    前記対象物決定手段は、前記第2抽出手段により抽出された音の特徴をもとに、前記特徴記憶手段に記憶された前記対象物の音の特徴を表す情報を検索することを特徴とする請求項1記載のカメラ装置。
  10. 複数の対象物のそれぞれについて複数の部位についての特徴を表す情報を記憶する特徴記憶手段と、
    通信回線を通じて他の情報機器から画像を受信する画像受信手段と、
    前記画像受信手段によって受信された画像から被写体の各部位の特徴を抽出する第1抽出手段と、
    前記第1抽出手段により抽出された各部位の特徴をもとに前記特徴記憶手段に記憶された情報を検索し、前記画像中の被写体に対応する対象物の候補を取得する検索手段と、
    前記検索手段によって複数の対象物が候補として取得された場合に、候補を絞り込むための部位を特定する部位特定手段と、
    前記部位特定手段によって特定された部位を前記通信回線を通じて前記情報機器に送信する部位送信手段と、
    前記部位送信手段による送信に応じて、前記画像受信手段により前記情報機器から画像が入力された場合に、同画像から部位の特徴を抽出する第2抽出手段と、
    前記第2抽出手段によって抽出された部位の特徴をもとに前記特徴記憶手段に記憶された情報を検索し、前記検索手段によって取得された複数の対象物の候補から特定の対象物を決定する対象物決定手段と、
    前記対象物決定手段によって決定された対象物を前記情報機器に通知する対象物通知手段と
    を具備したことを特徴とする情報処理装置。
  11. 前記特徴記憶手段に情報が記憶された複数の対象物についての詳細情報を記憶する詳細情報記憶手段と、
    前記対象物決定手段によって決定された対象物についての詳細情報を前記詳細情報記憶手段から取得して前記情報機器に送信する詳細情報送信手段と
    を具備したことを特徴とする請求項10記載の情報処理装置。
  12. 被写体を撮影して画像を入力する第1撮影ステップと、
    前記第1撮影ステップによって入力された画像から被写体の各部位の特徴を抽出する第1抽出ステップと、
    前記第1抽出ステップにより抽出された各部位の特徴をもとに、複数の対象物のそれぞれについて複数の部位についての特徴を表す情報を記憶する特徴記憶手段に記憶された情報を検索し、前記画像中の被写体に対応する対象物の候補を取得する検索ステップと、
    前記検索ステップによって複数の対象物が候補として取得された場合に、候補を絞り込むための部位を特定する部位特定ステップと、
    前記部位特定ステップによって特定された部位を指示する指示ステップと、
    前記指示ステップによる指示に応じて、被写体を撮影して画像を入力する第2撮影ステップと、
    前記第2撮影ステップにより画像が入力された場合に、同画像から前記指示ステップによって指示した部位の特徴を抽出する第2抽出ステップと、
    前記第2抽出ステップによって抽出された部位の特徴をもとに、前記検索ステップによって取得された複数の対象物の候補から特定の対象物を決定する対象物決定ステップと、
    前記対象物決定ステップによって決定された対象物についての詳細情報を、前記特徴記憶手段に情報が記憶された複数の対象物についての詳細情報を記憶する詳細情報記憶手段から取得して提示する提示ステップとを具備したことを特徴とする被写体識別方法。
JP2004284481A 2004-09-29 2004-09-29 カメラ装置、情報処理装置、被写体識別方法 Expired - Fee Related JP4403937B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004284481A JP4403937B2 (ja) 2004-09-29 2004-09-29 カメラ装置、情報処理装置、被写体識別方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004284481A JP4403937B2 (ja) 2004-09-29 2004-09-29 カメラ装置、情報処理装置、被写体識別方法

Publications (2)

Publication Number Publication Date
JP2006101166A JP2006101166A (ja) 2006-04-13
JP4403937B2 true JP4403937B2 (ja) 2010-01-27

Family

ID=36240566

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004284481A Expired - Fee Related JP4403937B2 (ja) 2004-09-29 2004-09-29 カメラ装置、情報処理装置、被写体識別方法

Country Status (1)

Country Link
JP (1) JP4403937B2 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008015599A (ja) * 2006-07-03 2008-01-24 Nikon Corp 電子機器および検索補助プログラム
ATE469407T1 (de) 2006-12-01 2010-06-15 Panasonic Corp Iterative bewegungs-segmentierung
JP5036334B2 (ja) * 2007-02-02 2012-09-26 株式会社リコー 撮像装置、撮像方法およびその方法をコンピュータが実行するためのプログラム
JP2010176423A (ja) * 2009-01-29 2010-08-12 Pioneer Electronic Corp 施設検索装置、施設検索方法、施設検索プログラムおよび記録媒体
JP5353299B2 (ja) * 2009-02-25 2013-11-27 株式会社リコー 画像検索システム、画像検索装置、及び画像検索方法
JP5370267B2 (ja) * 2010-05-27 2013-12-18 株式会社デンソーアイティーラボラトリ 画像処理システム
JP4637275B2 (ja) * 2010-09-09 2011-02-23 パナソニック株式会社 画像処理方法及び画像処理装置
JP2012249155A (ja) * 2011-05-30 2012-12-13 Nikon Corp 電子機器
JP5687995B2 (ja) * 2011-11-02 2015-03-25 株式会社ゼンリンデータコム 被写体検索装置、被写体検索方法、被写体検索情報提供プログラム及び被写体検索プログラム
KR20130081595A (ko) * 2012-01-09 2013-07-17 삼성전자주식회사 디스플레이 장치, 원격 제어 장치 및 그 검색 방법
JP2013172313A (ja) * 2012-02-21 2013-09-02 Nikon Corp 情報処理装置及び情報処理プログラム
JP2015049372A (ja) * 2013-09-02 2015-03-16 有限会社Bruce Interface 外国語学習支援装置及び外国語学習支援プログラム
MX2016005070A (es) 2013-10-21 2016-07-19 Microsoft Technology Licensing Llc Busqueda de video movil.

Also Published As

Publication number Publication date
JP2006101166A (ja) 2006-04-13

Similar Documents

Publication Publication Date Title
JP4403937B2 (ja) カメラ装置、情報処理装置、被写体識別方法
CN103535023A (zh) 包括特定人的视频摘要
CN103620682B (zh) 数字视频摄像机系统和形成视频摘要的方法
US8384794B2 (en) Image sensing device and camera
US8072510B2 (en) Audio-based attention grabber for imaging devices
CN102906816B (zh) 视频概要方法
CN101262561B (zh) 成像设备及其控制方法
JP4775066B2 (ja) 画像加工装置
US10133932B2 (en) Image processing apparatus, communication system, communication method and imaging device
JP4866396B2 (ja) タグ情報付加装置、タグ情報付加方法及びコンピュータプログラム
JP4352332B2 (ja) 画像採点方法及び画像採点システム
JP2010252008A (ja) 撮影装置、表示装置、再生装置、撮影方法、および表示方法
JP5874982B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5320913B2 (ja) 撮像装置およびキーワード作成プログラム
JP4429081B2 (ja) 情報処理装置及び情報処理方法
JP2009239348A (ja) 撮影装置
JP2010161547A (ja) 構図選択装置及びプログラム
JP2017059121A (ja) 画像管理装置、画像管理方法及びプログラム
US20080159584A1 (en) Information processing apparatus and information processing method
JP5023932B2 (ja) 撮像装置、シナリオによる画像撮影方法、およびプログラム
CN106528751A (zh) 一种用于智能机器人的图像数据采集处理方法及机器人
JP6508635B2 (ja) 再生装置、再生方法、再生プログラム
JP7132643B2 (ja) 撮影装置、画像の生産方法、およびプログラム
CN103069790B (zh) 图像捕获设备、图像及声音校正方法
JP2009087004A (ja) 画像検索装置、画像検索方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070822

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091007

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091013

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091026

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121113

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131113

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees