JP2010268127A - 制御装置、撮像装置、撮像システム、画像取得方法、及びプログラム - Google Patents

制御装置、撮像装置、撮像システム、画像取得方法、及びプログラム Download PDF

Info

Publication number
JP2010268127A
JP2010268127A JP2009116633A JP2009116633A JP2010268127A JP 2010268127 A JP2010268127 A JP 2010268127A JP 2009116633 A JP2009116633 A JP 2009116633A JP 2009116633 A JP2009116633 A JP 2009116633A JP 2010268127 A JP2010268127 A JP 2010268127A
Authority
JP
Japan
Prior art keywords
information
imaging device
camera
acquired
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009116633A
Other languages
English (en)
Inventor
Satoshi Arai
敏 荒井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2009116633A priority Critical patent/JP2010268127A/ja
Publication of JP2010268127A publication Critical patent/JP2010268127A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】撮像装置に関する情報を他の撮像装置により取得可能にする制御装置等の提供。
【解決手段】互いに独立に移動可能な第1の撮像装置と第2の撮像装置のうちの第2の撮像装置の制御装置は、撮像部により撮像された撮像画像を取得する画像取得部と、第1の撮像装置からの情報送信要求を受信する受信部と、第2の撮像装置の前記撮像画像に基づいて第1の撮像装置に関する情報である第1撮像装置情報を取得する情報取得部と、第1撮像装置情報を、情報送信要求に対する返信情報として第1の撮像装置に送信する送信部を含む。
【選択図】図9

Description

本発明は、制御装置、撮像装置、撮像システム、画像取得方法、及びプログラム等に関係する。
近年、身体に装着可能なカメラ(以下、適宜、ウェアラブルカメラと呼ぶ)により、使用者が遭遇する日常風景を自動的に撮影して記録するライフログが注目されている。例えば特許文献1には、ウェアラブルカメラにより所定の時間間隔で自動的に撮影を行って、ライフログ画像を記録する技術が開示されている。
しかしながら、ウェアラブルカメラを用いた場合、日常風景を撮影する事はできるが、使用者自身を撮影する事ができないという課題がある。このため、使用者がどのような反応を見せたかといった、後でログ(記録)を振り返る際に重要な情報が欠落してしまうという問題点がある。
使用者の様子を記録するという点では、例えば特許文献2には、2台の車載カメラを用いて運転者の様子を記録する技術が開示されている。
この従来技術では、2台のカメラのうちの1台のカメラで周囲の風景を撮影する。そして、もう一台のカメラで運転者を撮影し、運転者が視線を向けた対象を認識して記録しておく。こうすることで、運転者が注視した対象を後から表示できるようになる。
しかしながら、この従来技術では、車両の運転席という限られた環境であるからこそ、運転者を撮影するためのカメラを固定的に設置できるのであり、日常風景の撮影を目的とするライフログでは、使用者撮影用のカメラを別途用意することは現実的ではない。例えば使用者撮影用のカメラとして、固定的に設置されたカメラを用いると、固定的に設置されたカメラの視野範囲内の場所でしか使用者の反応等を撮影できない。このため、使用者がその場所を離れると、結局、特許文献1の従来技術と同様に、後でログを振り返る際の重要な情報が欠落してしまう。
特開2004−356970号公報 特開2006−172215号公報
本発明の幾つかの態様によれば、撮像装置に関する情報を他の撮像装置により取得可能にする制御装置、撮像装置、撮像システム、画像取得方法、及びプログラム等を提供できる。
本発明の一態様は、互いに独立に移動可能な第1の撮像装置と第2の撮像装置のうちの前記第2の撮像装置の制御装置であって、撮像部により撮像された撮像画像を取得する画像取得部と、前記第1の撮像装置からの情報送信要求を受信する受信部と、前記第2の撮像装置の前記撮像画像に基づいて前記第1の撮像装置に関する情報である第1撮像装置情報を取得する情報取得部と、取得された前記第1撮像装置情報を、前記情報送信要求に対する返信情報として前記第1の撮像装置に送信する送信部とを含む制御装置に関係する。また本発明の一態様は、上記各部としてコンピュータを機能させるプログラム、又は該プログラムを記憶したコンピュータ読み取り可能な情報記憶媒体に関係する。
本発明の一態様によれば、第1の撮像装置からの情報送信要求を受信すると、第2の撮像装置の撮像画像に基づいて第1撮像装置情報が取得される。そして取得された第1撮像装置情報が、情報送信要求に対する返信情報として第1の撮像装置に送信される。これにより、第1の撮像装置に関する情報である第1撮像装置情報を第2の撮像装置により取得して、第1の撮像装置に送信できるようになる。
また本発明の一態様では、前記情報取得部は、前記第1撮像装置情報を取得可能か否かを判断し、前記第1撮像装置情報を取得可能であると判断した場合に、前記第1撮像装置情報を取得してもよい。
このようにすれば、第2の撮像装置により第1撮像装置情報を取得可能である場合にだけ、第1撮像装置情報が取得されて第1の撮像装置に送信されるようになる。従って、無駄な情報が送信される事態等を防止できる。
また本発明の一態様では、前記情報取得部は、前記撮像画像に基づいて前記第2の撮像装置の視野内に前記第1の撮像装置が含まれるか否かを判断することで、前記第1撮像装置情報を取得可能か否かを判断してもよい。
このようにすれば、第2の撮像装置の撮像画像を利用して、第1撮像装置情報を取得可能か否かを判断できるようになる。
また本発明の一態様では、前記受信部は、前記第1の撮像装置の個体識別情報を受信し、前記情報取得部は、前記視野内に含まれる撮像装置が、受信した前記個体識別情報により識別される前記第1の撮像装置であるか否かを検出し、前記第1の撮像装置であることが検出された場合に、前記第1撮像装置情報を取得可能であると判断してもよい。
このようにすれば、受信した第1の撮像装置の個体識別情報を利用して、視野内に含まれる撮像装置が第1の撮像装置か否かを検出することで、第1撮像装置情報を取得可能か否かを判断できるようになる。
また本発明の一態様では、前記第1の撮像装置には、前記第1の撮像装置を識別するための識別情報が設定され、前記情報取得部は、前記視野内に含まれる撮像装置に設定される識別情報が、前記個体識別情報により識別される前記第1の撮像装置の識別情報と一致するか否かを判断し、一致した場合に、前記第1撮像装置情報を取得可能であると判断してもよい。
このようにすれば、視野内に含まれる撮像装置に設定される識別情報と、個体識別情報を比較することで、第1撮像装置情報を取得可能か否かを判断できる。そして、例えば識別情報としてカメラ識別マークを用いた場合には、光学的に視認可能な識別マークを用いて第1の撮像装置を識別できるようになり、第1の撮像装置が視野内に含まれるか否かを、識別マークの検出問題に置き換えて判断できる。
また本発明の一態様では、前記情報取得部は、前記第1の撮像装置と前記第2の撮像装置の位置関係情報を取得し、前記位置関係情報に基づいて、前記第1撮像装置情報を取得可能か否かを判断してもよい。
このようにすれば、例えば第2の撮像装置の撮像画像を用いなくても、第1、第2の撮像装置の位置関係情報により、第1撮像装置情報を取得可能か否かを判断できるようになる。
また本発明の一態様では、前記情報取得部は、前記第1の撮像装置の位置情報と、前記第2の撮像装置の位置情報と、前記第2の撮像装置の向き情報に基づいて、前記第1撮像装置情報を取得可能か否かを判断してもよい。
このようにすれば、第1、第2の撮像装置の位置情報と第2の撮像装置の向き情報に基づいて、例えば第2の撮像装置の視野内に第1の撮像装置が含まれるか否かを判断して、第1撮像装置情報を取得可能か否かを判断できるようになる。
また本発明の一態様では、前記情報取得部は、前記第1撮像装置情報として、前記第1の撮像装置の使用者情報を取得してもよい。
このようにすれば、例えば第1の撮像装置の死角等にある使用者の情報も取得できるようになる。
また本発明の一態様では、前記情報取得部は、使用者の表情情報、視線方向情報の少なくとも1つを、前記使用者情報として取得してもよい。
このようにすれば、使用者の反応や興味の対象が反映されている使用者の表情や視線方向の情報を取得できるようになり、例えば撮像画像に対する使用者の反応や興味の情報を併せて記録等することが可能になる。
また本発明の一態様では、前記情報取得部は、使用者の前記視線方向情報の補正処理のための前記第1の撮像装置の向き情報を取得してもよい。
このようにすれば、使用者の視線方向情報を第1の撮像装置の向き情報により補正することが可能になる。
また本発明の一態様では、前記情報取得部は、前記第2の撮像装置の視野内の人物顔を検出し、検出された1つ以上の人物顔のうち、前記第1の撮像装置に最も近い位置にある人物顔を、前記第1の撮像装置の使用者の人物顔であると判断してもよい。
このようにすれば、第1の撮像装置の使用態様から考えて妥当な位置の人物顔を検出できる。従って、例えば第2の撮像装置の視野内に複数の人物顔が検出された場合にも、第1の撮像装置の使用者を特定できるようになる。
また本発明の他の態様は、互いに独立に移動可能な第1の撮像装置と第2の撮像装置のうちの前記第1の撮像装置の制御装置であって、撮像部により撮像された撮像画像を取得する画像取得部と、情報送信要求を送信する送信部と、前記情報送信要求を受信した前記第2の撮像装置が、前記第2の撮像装置の撮像画像に基づいて前記第1の撮像装置に関する情報である第1撮像装置情報を取得し、取得された前記第1撮像装置情報を、前記情報送信要求に対する返信情報として送信した場合に、前記第1撮像装置情報を受信する受信部とを含む制御装置に関係する。また本発明の他の態様は、上記各部としてコンピュータを機能させるプログラム、又は該プログラムを記憶したコンピュータ読み取り可能な情報記憶媒体に関係する。
本発明の他の態様によれば、情報送信要求が送信され、この情報送信要求を受信した第2の撮像装置が、撮像画像に基づいて第1撮像装置情報を取得して送信すると、この第1撮像装置情報が受信される。このようにすれば、情報送信要求により第1撮像装置情報を第2の撮像装置に取得させ、取得された第1撮像装置情報を、情報送信要求の返信情報として受信できるようになる。
また本発明の他の態様では、受信した前記第1撮像装置情報を、前記第1の撮像装置の前記撮像画像に関連づけて記憶部に書き込む書き込み部を含んでもよい。
このようにすれば、例えば第1の撮像装置の死角にある情報等を、撮像画像に関連づけて記憶部に記憶できるようになる。
また本発明の他の態様では、前記書き込み部は、前記情報送信要求を送信した後、所定期間内に前記第1撮像装置情報を受信しなかった場合には、前記第1撮像装置情報が関連づけられていない前記撮像画像を前記記憶部に書き込んでもよい。
このようにすれば、所定期間内に第1撮像装置情報を受信できなかった場合に、無駄な処理等が行われてしまう事態を防止できる。
また本発明の他の態様では、前記受信部は、前記第1撮像装置情報として、前記第1の撮像装置の使用者情報を受信し、前記書き込み部は、受信した前記使用者情報を、前記第1の撮像装置の前記撮像画像に関連づけて前記記憶部に書き込んでもよい。
このようにすれば、例えば第1の撮像装置の死角等にある使用者の情報を取得して、撮像画像のみならず、使用者の情報も併せて記憶部に記憶することが可能になる。
また本発明の他の態様では、前記第1の撮像装置の前記撮像画像は、前記第1の撮像装置の使用者のライフログ画像であってもよい。
このようにすれば、ライフログ画像に対して使用者情報を併せて記憶することが可能になる。
また本発明の他の態様では、前記送信部は、前記情報送信要求をブロードキャストで送信してもよい。
このようにすれば、第1の撮像装置の周りの複数の撮像装置に対して情報送信要求をブロードキャストで送信して、第1撮像装置情報を取得することが可能になる。
また本発明の他の態様では、前記送信部は、前記第1の撮像装置の個体識別情報を送信してもよい。
このようにすれば、第2の撮像装置において、個体識別情報により第1の撮像装置を識別して、識別された第1の撮像装置の第1撮像装置情報を取得可能か否かを判断できるようになる。
また本発明の他の態様では、前記第1の撮像装置には、前記第1の撮像装置を識別するための識別情報が設定され、前記送信部は、前記識別情報に対応する前記個体識別情報を送信してもよい。
このようにすれば、第1の撮像装置に設定される識別情報と個体識別情報を第2の撮像装置に比較させて、第1撮像装置情報が取得可能か否かを判断させることが可能になる。
また本発明の他の態様は、上記のいずれかに記載の制御装置を含む撮像装置に関係する。
また本発明の他の態様は、互いに独立に移動可能な第1の撮像装置と第2の撮像装置を含む撮像システムであって、前記第1の撮像装置は、前記第2の撮像装置に対して情報送信要求を送信し、前記第2の撮像装置は、前記第2の撮像装置の撮像画像に基づいて前記第1の撮像装置に関する情報である第1撮像装置情報を取得し、取得された前記第1撮像装置情報を、前記情報送信要求に対する返信情報として前記第1の撮像装置に送信し、前記第1の撮像装置は、前記第1撮像装置情報を、前記情報送信要求に対する返信情報として受信する撮像システムに関係する。
また本発明の他の態様は、互いに独立に移動可能な第1の撮像装置と第2の撮像装置を用いた画像取得方法であって、前記第2の撮像装置の撮像画像を取得し、取得された前記第2の撮像装置の前記撮像画像に基づいて前記第1の撮像装置に関する情報である第1撮像装置情報を取得し、取得された前記第1撮像装置情報を、前記第2の撮像装置から前記第1の撮像装置に送信し、前記第1の撮像装置の撮像画像を取得し、前記第1撮像装置情報を、取得された前記第1の撮像装置の前記撮像画像に関連づけて記憶部に書き込む画像取得方法に関係する。
本実施形態の手法の説明図。 本実施形態の制御装置、カメラ(撮像装置)の第1の構成例。 図3(A)〜図3(C)はカメラCM1からの情報送信要求に対してCM1情報を返信する手法の説明図。 図4(A)〜図4(C)は情報送信要求のブロードキャスト送信手法の説明図。 図5(A)〜図5(C)は個体識別情報を用いてカメラCM1を識別する手法の説明図。 図6(A)、図6(B)はカメラ識別マークの説明図。 図7(A)〜図7(C)は使用者情報の取得手法の説明図。 図8(A)、図8(B)は撮像画像の記録手法の説明図。 本実施形態の詳細な処理を説明するためのフローチャート。 情報取得可否判断処理を説明するためのフローチャート。 CM1情報取得処理を説明するためのフローチャート。 本実施形態の制御装置、カメラ(撮像装置)の第2の構成例。 図13(A)、図13(B)はCM1情報の取得可否をカメラCM1、CM2の位置関係情報を用いて判断する手法の説明図。 本実施形態の第2の構成例での情報取得可否判断処理を説明するためのフローチャート。
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
1.構成例
本実施形態では、単に前方を撮影するだけでなく、使用者情報等のカメラに関する情報も併せて記録できるカメラ(広義には撮像装置)を提供する。
例えば図1において、カメラCM1(広義には第1の撮像装置)とカメラCM2(広義には第2の撮像装置)は、互いに独立に移動可能(携帯可能)なカメラとなっている。即ち、据え置きカメラのように固定的に設置されるカメラではなく、使用者US1、US2が自由に持ち歩くことができるカメラとなっている。
そしてカメラCM1により撮影を行う際に、カメラCM1の使用者US1の様子等を、他の使用者US2が持つカメラCM2により撮影する。そしてカメラCM1の使用者情報等のカメラCM1に関する情報(以下、適宜、CM1情報と呼ぶ)をカメラCM2からCM1に転送する。そしてカメラCM1は、自身で撮影した撮像画像と、カメラCM2から送られてきたカメラCM1の使用者情報等のCM1情報を併せて記録する。この場合に、例えばカメラCM1、CM2はその使用者US1、US2の操作を必要とせずに、自動的に情報送信要求やCM1情報のやり取りを行う。
以上の本実施形態の手法によれば、カメラCM1の死角をカメラCM2で撮影し、カメラCM1では撮影できない位置にある対象の情報であるCM1情報を取得し、カメラCM1の撮像画像と関連づけて記録することが可能になる。
なおCM1情報は、カメラCM2の撮像画像により得られる情報(CM2の視野内の情報)であり、且つ、カメラCM1に関する情報である。具体的にはCM1情報は、例えばカメラCM1の使用者US1の情報や、カメラCM1の向き等のカメラCM1自体の情報である。或いはカメラCM2の撮像画像自体であってもよい。また使用者情報は、例えば使用者US1の表情情報(どのような反応だったか等)や視線方向情報(何を見ていたか等)である。
またカメラCM1は、使用者US1が例えばそのライフログ等の撮影に使用するカメラであり、図1では首にぶら下げるタイプのカメラ(携帯可能なカメラ)を想定している。これ以外にも、例えば使用者US1が使用する眼鏡に取り付けられるタイプのカメラ(ウェアラブルカメラ)等であってもよい。
一方、カメラCM2は、カメラCM1の使用者US1とは別の使用者US2がライフログ等の撮影に使用するカメラであり、製品イメージとしてはカメラCM1と同等の機能を有する。カメラCM2は、カメラCM1からのリクエストに応じて、カメラCM1の使用者US1を撮影し、視線、表情等の使用者情報を取得してカメラCM1に送る役割を担う。
なおカメラCM1、CM2という呼称は、あるタイミングにおいて両者の果たす役割によって区別されるものである。例えばカメラCM1が、カメラCM2からのリクエストに応じて、カメラCM2の使用者US2を撮影し、視線、表情等の使用者情報(CM2情報)を取得してカメラCM2に送ってもよい。
また本実施形態の撮像装置は、デジタルカメラやビデオカメラなどの電子カメラのみならず、例えば携帯電話機、携帯型情報端末、携帯型ゲーム機等に内蔵される撮像装置であってもよいが、説明の便宜上、撮像装置をカメラと呼んで説明を行う。
図2に、図1の本実施形態の手法を実現できる制御装置及びこれを含むカメラ(撮像装置)の第1の構成例を示す。
図2においてカメラCM1(第1の撮像装置)は、撮像部20、制御装置30、操作部60、記憶部70、通信部80、表示部90、情報記憶媒体98を含む。またカメラCM2(第2の撮像装置)は、撮像部120、制御装置130、操作部160、記憶部170、通信部180、表示部190、情報記憶媒体198を含む。なお、これらの一部の構成要素(例えば操作部、表示部、情報記憶媒体)を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。また図2では、説明の便宜上、カメラCM1、CM2の構成が異なるものとして示しているが、カメラCM1、CM2は同一の構成とすることができる。例えばカメラCM1に情報取得部を設けたり、カメラCM2に書き込み部や時間取得部を設けてもよい。
撮像部20、120は、被写体(撮像対象物)を撮像するためのものであり、図示しないレンズ等の光学系、撮像素子、アナログフロントエンド回路(A/D変換回路)、或いはフォーカス調整部等を含むことができる。
制御装置(制御部)30、130は、カメラCM1、CM2の全体制御、各種演算処理、或いは画像処理等を行うものであり、CPU、DSP等の各種プロセッサや専用のASICなどにより実現できる。この制御装置30、130は、例えば情報記憶媒体98、198に記憶されるプログラムに基づいて本実施形態の各種処理を行う。
操作部60、160は、使用者(操作者、ユーザ)がカメラCM1、CM2の各種設定を行ったり、各種情報を入力するためのものであり、各種のボタン、スイッチ、ダイヤルなどにより実現できる。なお表示部90、190がタッチパネルディスプレイにより構成される場合には、表示部90、190も操作部として機能することになる。
記憶部70、170は、制御装置30、130や通信部80、180のワーク領域として機能したり、撮像により得られた画像データを記憶(保存)するためのものであり、RAMやHDD(ハードディスクドライブ)などにより実現できる。
通信部80、180は、無線や有線の通信などにより他のカメラやサーバ等との外部機器との間で情報のやり取りを行うものであり、その機能は、通信用ASIC又は通信用プロセッサなどのハードウェアや、通信用ファームウェアにより実現できる。例えばカメラCM1とCM2は、無線(無線LAN等)や有線のネットワークを介して通信可能になっている。
表示部90、190は、例えば液晶パネルや有機ELパネル等の電気光学パネル、EVF(電子ビューファインダー)などにより実現されるものであり、スルー画像やGUI(Graphical User Interface)画面などの各種画像を表示する。
情報記憶媒体98、198(コンピュータにより読み取り可能な媒体)は、プログラムやデータなどを格納するものであり、その機能は、メモリーカード、HDD(ハードディスクドライブ)、光ディスク(CD、DVD)、或いはROM等のメモリなどにより実現できる。制御装置30、130は、情報記憶媒体98、198に格納されるプログラム(データ)に基づいて本実施形態の種々の処理を行う。即ち情報記憶媒体98、198には、本実施形態の各部としてコンピュータ(操作部、処理部、記憶部、出力部を備える装置)を機能させるためのプログラム(各部の処理をコンピュータに実行させるためのプログラム)が記憶される。
カメラCM1の制御装置30は、画像取得部32、受信部34、送信部35、書き込み部36、時間取得部38を含む。
画像取得部32は撮像画像を取得する。例えば撮像部20により撮像(撮影)された撮像画像を取得する。ここで撮像画像は、静止画像であってもよいし、動画像であってもよい。この撮像画像としては、例えばカメラCM1の使用者のライフログ画像を想定できる。ライフログ画像は、例えば使用者の明示的な撮影指示が無くても、所定の時間間隔で自動的に撮影されて記録される画像である。
受信部34、送信部35は、各々、情報の受信処理、送信処理を行う。例えば通信部80を介して、カメラCM2等の他の機器との間で情報を受信したり送信するための処理を行う。即ち、通信される情報を用意したり、その情報を通信する指示を通信部80に対して行う。
書き込み部36は、撮像画像(画像データ)等の種々の情報を記憶部70に書き込む処理(保存処理)を行う。時間取得部38は時間の取得処理を行う。例えば現在の時刻(時・日・月・年等)を取得する。
カメラCM2の制御装置130は、画像取得部132、受信部134、送信部135、情報取得部140を含む。画像取得部132は撮像部120により撮像された撮像画像を取得する。受信部134、送信部135は、各々、情報の受信処理、送信処理を行うものであり、例えば通信部180を介して、カメラCM1等の他の機器との間で情報を受信したり送信するための処理を行う。情報取得部140は、カメラCM1に関する情報等の各種の情報の取得処理を行う。この情報取得部140は、カメラ識別マーク検出部141、顔検出部142、表情認識部143、視線方向認識部144、カメラ向き認識部145、視線方向補正部146を含む。
そして本実施形態では、カメラCM1の送信部35は、情報送信要求を送信する。例えば他のカメラに対して、使用者情報等の情報を送信することを要求する送信を行う。具体的には送信部35は、例えば不特定多数に対してブロードキャストで、情報送信要求を送信する。
なお、カメラCM1の送信部35は、カメラCM1の個体識別情報(ID)の送信処理も行う。例えば後述するように、カメラCM1に、カメラCM1を識別するための識別マーク(広義には識別情報)が設定されていたとする。この場合に送信部35は、この識別マークに対応する個体識別情報を送信する。例えば識別マークが表すカメラIDと同じカメラIDを、個体識別情報として送信する。この個体識別情報(カメラID)は、例えば情報送信要求のフィールドの中に含ませることができる。
カメラCM2の受信部134は、カメラCM1からの情報送信要求を受信する。例えば通信部80、180及び無線等のネットワークを介して送信された情報送信要求を受信する。そしてカメラCM2の情報取得部140は、カメラCM2(撮像部120)の撮像画像に基づいてカメラCM1に関する情報であるCM1情報(第1撮像装置情報)を取得する。このCM1情報はカメラCM2の撮像画像自体であってもよい。
そしてカメラCM2の送信部135は、カメラCM1からの情報送信要求に対する返信情報として、取得されたCM1情報をカメラCM1に送信する。
カメラCM1の受信部34は、このように情報送信要求を受信したカメラCM2がCM1情報を取得して送信すると、そのCM1情報を受信する。
そしてカメラCM1の書き込み部36(保存処理部)は、受信したCM1情報(第1撮像装置情報)を、カメラCM1の撮像画像に関連づけて記憶部70に書き込む。
この場合に書き込み部36は、情報送信要求を送信した後、所定期間内にCM1情報を受信しなかった場合には、CM1情報が関連づけられていない撮像画像を記憶部70に書き込む。例えばカメラCM1の撮像画像だけを記憶部70に書き込む。また受信部34が、CM1情報として、カメラCM1の使用者の情報を受信した場合には、受信した使用者情報を、カメラCM1の撮像画像に関連づけて記憶部70に書き込む。例えばカメラCM1の使用者のライフログ画像(所定時間毎に自動的に撮像されて記録される画像)に使用者情報を関連づけて書き込む。
なお、カメラCM2の情報取得部140は、CM1情報を取得可能か否かを判断し、CM1情報を取得可能であると判断した場合に、CM1情報を取得する。そして送信部135は取得されたCM1情報を、情報送信要求の返信情報としてカメラCM1に送信する。
この場合に情報取得部140は、カメラCM2の撮像画像に基づいてカメラCM2の視野内(画角の範囲内)にカメラCM1(一部又は全部)が含まれるか否かを判断することで、CM1情報を取得可能か否かを判断する。例えばカメラCM2の撮像画像にカメラCM1(CM1の使用者)が写っている場合に、CM1情報を取得可能であると判断する。
例えばカメラCM2の受信部134は、カメラCM1の個体識別情報を受信する。具体的にはカメラCM1からの情報送信要求が含む個体識別情報を受信する。そして情報取得部140は、カメラCM2の視野内に含まれるカメラ(撮像装置)が、受信した個体識別情報により識別されるカメラCM1であるか否かを検出する。そしてカメラCM1であることが検出された場合に、CM1情報を取得可能であると判断する。
具体的には情報取得部140は、視野内に含まれるカメラ(撮像装置)に設定される識別情報が、個体識別情報により識別されるカメラCM1の識別情報と一致するか否かを検出する。そして、一致した場合に、CM1情報を取得可能であると判断する。この識別情報としては、バーコード等の識別マーク(識別図形)を使用でき、この識別マークの検出処理はカメラ識別マーク検出部141が行う。
また情報取得部140は、CM1情報として、カメラCM1の使用者の情報を取得する。例えば使用者の表情情報(反応情報)、視線方向情報(使用者が見ている方向)の少なくとも1つを、使用者情報として取得する。また情報取得部140は、カメラCM1の向き情報を取得してもよい。このカメラCM1の向き情報は、例えば使用者の視線方向情報の補正処理等に用いられる。なおカメラCM1の使用者の顔検出処理、表情の認識処理、視線方向の認識処理は、各々、表情認識部143、視線方向認識部144により行われる。またカメラCM1の向きの認識処理はカメラ向き認識部145により行われ、カメラCM1の向きに基づく使用者の視線方向の補正処理は、視線方向補正部146により行われる。
また情報取得部140は、カメラCM2の視野内の人物顔を検出する。そして検出された1つ以上の人物顔のうち、カメラCM1に最も近い位置にある人物顔を、カメラCM1の使用者の人物顔であると判断して、使用者情報を取得する。例えばカメラCM1の上方(略上方を含む)にある人物顔を、カメラCM1の使用者の顔と判断する。そしてその使用者の表情認識処理や視線方向認識処理を行う。なお、使用者の顔の検出処理は顔検出部142により行われる。
2.本実施形態の手法
2.1 CM1情報の取得
次に本実施形態の手法について図3(A)〜図8(B)を用いて具体的に説明する。
図3(A)に示すように、例えばライフログ画像を撮影している使用者US1のカメラCM1は、使用者情報等のCM1情報を取得するために情報送信要求を送信する。すると使用者US1の近くにいる使用者US2のカメラCM2が、この情報送信要求を受信する。
次に図3(B)に示すように、カメラCM2は、自身の撮像画像により、カメラCM1に関する情報であるCM1情報を取得可能か否かを判断する。具体的には、カメラCM2の視野内にカメラCM1やその使用者US1が入っているか否かを判断する。
そしてカメラCM2は、CM1情報を取得可能であると判断すると、図3(C)に示すように、使用者US1の表情、視線方向等のCM1情報を取得して、カメラCM1に送信する。これによりカメラCM1は、カメラCM1の撮像画像に対してCM1情報を関連づけて記録できるようになる。例えばカメラCM1が使用者US1のライフログ画像を撮影していた場合には、そのライフログ画像に対して、撮影時の使用者US1の表情、視線方向等を関連づけて記録できるようになる。
なお、カメラCM2が情報送信要求を送信し、この情報送信要求を受信したカメラCM1が、カメラCM2に関する情報であるCM2情報を取得して、カメラCM2に送信してもよい。この場合にはカメラCM2が、その撮像画像に対してCM2情報を関連づけて記録することになる。
本実施形態では、カメラCM1、CM2は、使用者US1、US2が所持する携帯型のカメラ(ウェアラブルカメラ)になっている。このため、配置位置が固定される据え置き型のカメラとは異なり、カメラCM1、CM2は、使用者US1、US2が移動することで独立に移動し、カメラCM1とCM2の位置関係は随時変化する。
このため、カメラCM2の方から一方的にCM1情報をカメラCM1に送信してしまうと、カメラCM1に対して、利用できない無駄なCM1情報が送信されてしまう。例えば使用者US1が視野内に入っておらず、使用者US1の表情等を特定できないようなCM1情報が送信されてしまう。このため、カメラCM1の処理負荷が増加したり、記憶領域が無駄に使用されるなどして、カメラCM1のリソースが無駄に消費されてしまう。
この点、本実施形態では、カメラCM1からの情報送信要求に対して、図3(B)に示すようにカメラCM2がCM1情報を取得可能か否かを判断する。そして、CM1情報を取得可能であると判断した場合には、CM1情報がカメラCM2からカメラCM1に送信される。これにより、例えば使用者US1等が視野内に入っており、使用者US1の表情等を特定できるCM1情報だけがカメラCM2からカメラCM1に送信されるようになる。従って、カメラCM1やCM2のリソースが無駄に消費される事態を防止しながら、カメラCM1はCM1情報を取得できる。この結果、例えばカメラCM1は、カメラCM1の死角にある情報も取得できるようになり、ライフログ画像等に対して使用者情報等を関連づけて記録できるようになる。
2.2 ブロードキャスト
さて、図4(A)に示すようにカメラCM1は、情報送信要求を、宛先を指定しないブロードキャストで送信することが望ましい。これにより図4(A)に示すように、カメラCM1の周囲の複数のカメラCM2、CM3に対して情報送信要求が送信されるようになる。なお、カメラ間の通信に無線LAN等が使用される場合には、その無線LANの通信範囲内のカメラに対してブロードキャストで情報送信要求が送信される。
図4(B)に示すように、カメラCM2、CM3の各々は、この情報送信要求を受信すると、CM1情報を取得可能か否かを判断する。即ち、その視野内にカメラCM1が入っているか否かを判断する。
そして図4(B)では、カメラCM2の視野内にはカメラCM1は入っているが、カメラCM3の視野内にはカメラCM1は入っていない。従って、カメラCM2はCM1情報を取得可能であると判断する一方で、カメラCM3はCM1情報を取得できないと判断する。そして図4(C)に示すように、カメラCM2はCM1情報をカメラCM1に送信する一方で、カメラCM3はCM1情報をカメラCM1に送信しない。
このようにすれば、カメラCM1は、適正なCM1情報を取得できるカメラCM2からのCM1情報だけを受信でき、適正なCM1情報を取得できないカメラCM3からのCM1情報については受信しなくても済むようになる。これにより、カメラCM1の処理負荷が無駄に増加したり、カメラCM1の記憶領域が無駄に使用されてしまう事態を防止できる。
2.3 カメラ識別処理
さて、カメラCM2が情報送信要求を受信した場合に、その情報送信要求の送信元のカメラが、カメラCM2の視野内に写っているカメラと一致しているか否かを判断する必要がある。
例えば図5(A)では、カメラCM1のみならず、カメラCM3も情報送信要求を送信している。そしてカメラCM2の無線LAN等の通信範囲内にカメラCM1、CM3が存在すると、カメラCM2は、カメラCM1、CM3の両方の情報送信要求を受信することになる。そして図5(B)のように、カメラCM2が画像を撮像した場合に、受信した情報送信要求が、カメラCM2の視野内に写っているカメラCM1が送信した情報送信要求なのか否かを判断する必要がある。
そこで本実施形態では、カメラCM2はカメラCM1の個体識別情報を受信する。そして視野内に含まれるカメラが、受信した個体識別情報により識別されるカメラCM1であることが検出された場合に、カメラCM1に関する情報を取得可能であると判断する。
具体的には図6(A)に示すように、カメラCM1にはカメラを識別するための識別マーク(広義には識別情報)が設定されている。この識別マーク(識別図形)は例えば2次元のバーコードである。但し識別マークの態様は図6(A)に限定されず、カメラCM1を識別するための種々のマークを採用できる。またカメラCM2やCM3に対しても、対応する識別マークを設定してもよい。
また図6(B)に示すように、情報送信要求にはカメラの個体識別情報が含まれる。具体的には、情報送信要求には、例えば情報送信要求であることを指定するためのコマンドコードのフィールドや、カメラの個体識別情報であるカメラIDのフィールドが設けられる。そしてカメラCM1は、送信する情報送信要求のカメラIDのフィールドに対して、自身のカメラIDを設定する。同様にカメラCM3も、送信する情報送信要求のカメラIDのフィールドに対して、自身のカメラIDを設定する。
カメラCM2は、カメラCM1、CM3から情報送信要求を受信すると、それぞれの情報送信要求に含まれるカメラIDを抽出する。また、カメラCM2の撮像画像に写っている識別マークの検出処理を行う。そして図5(B)では、カメラCM2の撮像画像に基づいて、カメラ識別マークが検出され、検出されたカメラ識別マークのIDは、カメラCM1からの情報送信要求に含まれるカメラIDと一致することが検出されている。従って、この場合にはカメラCM1のCM1情報は取得可能であると判断される。
一方、撮像画像に写る識別マークのIDは、カメラCM3の情報送信要求に含まれるカメラIDとは一致しない。従って、カメラCM3に関する情報であるCM3情報については取得できないと判断される。
そして図5(C)では、カメラCM2は、カメラCM1に関する情報であるCM1情報を取得し、取得されたCM1情報をカメラCM1に送信する。一方、カメラCM3のCM3情報については取得せず、カメラCM3に送信しない。
このようにすることで、カメラCM2の視野内にあるカメラCM1に対してだけCM1情報を送信できるようになり、無駄な情報が送信されてリソースが無駄に消費されてしまう事態を防止できる。
またカメラCM3に対してCM3情報を送信しても、カメラCM3はカメラCM2の視野内に入っていないため、このCM3情報はカメラCM3にとっては無駄な情報になる。この点、本実施形態では、このようなCM3情報が無駄に送信されてしまう事態が防止されるため、カメラCM3の処理負荷や記憶領域などのリソースが無駄に消費されてしまう事態も防止できる。
なおカメラCM1の識別手法は図6(A)に示すような識別マークを用いる手法に限定されない。例えば、カメラCM1に赤外線等の発光デバイスを設け、この発光デバイスの発光パターンにより得られる識別情報を用いて、カメラCM1の識別処理を行ってもよい。或いはカメラCM1にRFIDを設け、このRFIDにより識別してもよい。或いは、後述するようにGPS等の位置情報取得デバイスを設け、取得された位置情報に基づいて、視野内に写っているカメラがカメラCM1であるか否かを識別するようにしてもよい。
2.4 使用者情報
本実施形態では、CM1情報として、使用者の表情、視線方向等の使用者情報をカメラCM2からカメラCM1に送信する。
例えば図7(A)はカメラCM2の撮像画像の例である。この撮像画像には、カメラCM1やその使用者US1の画像が写っている。この場合に本実施形態では、カメラCM2の撮像画像に基づいて、使用者US1の表情や視線方向VD1を認識する。例えば図7(A)では、使用者US1が笑っている表情であることが認識されている。また使用者US1の視線方向VD1が、使用者US1から見て右方向(右下方向)であることが認識されている。そして、カメラCM2は、これらの使用者の表情や視線方向の情報を、使用者情報として取得して、カメラCM1に送信する。
図7(B)は、カメラCM1の撮像画像の例である。この撮像画像は、例えば使用者US1のライフログ画像である。そして図7(A)で認識された使用者US1の視線方向VD1の情報に基づいて、使用者US1が被写体OBAに注目していることがわかる。また、使用者US1の表情情報に基づいて、使用者US1が、この被写体OBAを見ていた時に笑っていたことが把握される。
なお、使用者の表情情報は、例えば使用者の表情を「笑っている」、「怒っている」、「喜んでいる」、「悲しんでいる」等に分類し、使用者の表情が、いずれの分類の表情に近いのかを判断することで認識できる。
また図7(A)に示すように、カメラCM2の撮像画像に複数の人物が写っている場合がある。この場合に本実施形態では、カメラCM2の視野内の人物顔を検出し、検出された1つ以上の人物顔のうち、カメラCM1に最も近い位置にある人物顔を、カメラCM1の使用者の人物顔であると判断する。例えば図7(A)では、使用者US1の顔FA1が検出され、この顔FA1が、他の人物の顔よりもカメラCM1(例えば識別マーク)に近いと判断されている。この場合には、取得された使用者情報は、顔FA1の使用者US1の情報であると見なす。
また図7(A)で検出された視線方向VD1から、図7(B)の注目被写体OBAを特定するためには、図7(C)に示すように、カメラCM1の向きCD1に対する視線方向VD1の相対的な角度αが重要になる。即ち使用者US1の視線方向VD1だけを検出したとしても、カメラCM1の向きCD1との相対的な角度αが求まらなければ、図7(B)の注目被写体OBAの位置を特定することが難しくなる。
このためカメラCM2は、使用者US1の視線方向VD1の補正処理のために、カメラCM1の向きCD1の情報も取得する。このようなカメラCM1の向きCD1も取得すれば、向きCD1に対する視線方向VD1の相対的な角度αを求めることができ、図7(B)の使用者US1の注目被写体OBAを容易に特定できるようになる。なお、カメラCM1の向きCD1に基づく視線方向VD1の補正処理は、カメラCM1側で行ってもよいし、カメラCM2側で行ってもよい。
2.5 撮像画像の記録
本実施形態では、カメラCM1は、使用者情報等のCM1情報を、カメラCM1の撮像画像に関連づけて記憶部70に書き込んで保存する。
具体的には図8(A)に示すように、例えば所定時間間隔毎に撮影された撮像画像IM1、IM2の各々のヘッダHD1、HD2に対して、使用者の表情や視線方向等の使用者情報を書き込んで、記憶部70に保存する。具体的には、EXIF形式の画像ファイルにおいて、EXIFで規定されるヘッダに対して使用者情報を書き込む。そして、ライフログ画像等の再生の際には、このヘッダに書き込まれた使用者情報を用いて再生画像を生成する。
例えば図8(B)は、カメラCM1で撮影された画像の再生画像の例である。この画像には、被写体OBA、OBB、OBC、OBD等が写っている。そしてヘッダに含まれる使用者の表情情報に基づいて、図8(B)の画像の撮影の際には、使用者の表情が笑い顔であったと判断される。従って、図8(B)のA1に示すように、例えば笑い顔を表すアイコンマークが、この撮像画像に表示(重畳表示)される。
またヘッダに含まれる使用者の視線方向情報に基づいて、図8(B)の画像の撮影の際には、使用者が左下方向を注視していたと判断される。従って、図8(B)に示すように、OBA、OBB、OBC、OBDのうち、使用者が注視していた被写体はOBAであると判断され、被写体OBAに対して例えば強調表示等の画像エフェクトが施される。
図8(B)のような再生画像を表示すれば、使用者US1は、ライフログ画像の再生画像を鑑賞する際に、自分がどの被写体に注目していたのかや、どのような表情で被写体を見ていたのかを、A1のアイコンマークや、被写体OBAの画像エフェクトを見ることで把握できる。従って、カメラCM1の死角にある使用者US1の情報も反映させたライフログ画像の再生が可能になる。なお、再生画像への使用者情報の反映は、使用者の表情や視線方向を表現するアバターなどを用いて実現してもよい。
3.詳細な処理例
次に本実施形態の詳細な処理例について図9〜図11のフローチャートを用いて説明する。
図9はカメラCM1、CM2の全体的な処理を示すフローチャートである。まずカメラCM1の使用者は、操作部60(入力部)により、カメラCM1のライフログ撮影の開始を指示する(ステップS1)。なおカメラCM1の電源オンが、ライフログの撮影開始指示を兼ねていてもよい。或いは、他の撮影モードからライフログ撮影モードに切り替えることで撮影開始指示を実現してもよい。この場合の入力手法としては、ボタン、スライドスイッチ、ロータリースイッチ、タッチパネル、加速度センサ等を用いることができる。
次にカメラCM1の使用者は、操作部60により、ライフログ撮影の時間間隔である撮影タイミングを設定する(ステップS2)。設定された時間間隔は記憶部70に記憶される。例えば使用者は、「1分おき」、「5分おき」などの時間間隔を設定する。この場合の入力手法としては、ボタン、タッチパネル等を用いることができる。なお、使用者が設定を行わず、カメラCM1に予め記憶された所定の時間間隔を、そのまま用いるようにしてもよい。
カメラCM1の時間取得部38は、現在時刻を取得する。そして、取得された現在時刻に対して、ステップS2で設定された時間間隔を加算することで、次回の撮影時刻を算出する。算出された次回の撮影時刻は記憶部70に記憶される。時間取得部38は、内蔵時計や、その他の電波やネットワークを介して時刻情報を取得する。
カメラCM1(実際には制御装置。以下も同様)は、記憶部70に記録された次回の撮影時刻に達するまで、待機する(ステップS3)。そして撮影時刻に達したならば、カメラCM1の待機状態が解除され、以下に説明する撮影シーケンスに移行する。
まず、図4(A)で説明したようにカメラCM1は、通信部80及びネットワークを介して、情報送信要求を他のカメラにブロードキャストで送信する(ステップS4)。この情報送信要求は、使用者情報等のカメラCM1に関する情報を送るように、他のカメラに対してリクエストするものである。情報送信要求を構成するデータには、図6(B)で説明したように、要求送信元であるカメラCM1の個体識別情報(カメラID)を含めておく。
カメラCM2は、通信部180及びネットワークを介して、カメラCM1が送信した情報送信要求を受信する(ステップS5)。そして、その内容(データ)を解析することで、それがCM1情報(使用者情報)の送信要求であることを認識する。具体的には図6(B)のコマンドコードをデコードすることで認識する。更に、情報送信要求のデータに含まれるカメラCM1の個体識別情報を取得する。取得されたカメラCM1の個体識別情報は、記憶部170に一時的に保存される。
次に、CM1情報の取得可否の判断処理を行う(ステップS6)。そして、カメラCM1がカメラCM2の視野内にあり、CM1情報の取得が可能であると判断された場合には、CM1情報の取得処理を行う(ステップS7、S8)。そして取得されたCM1情報を、通信部180及びネットワークを介してカメラCM1に送信する(ステップS9)。なお、カメラCM1が視野外等であり、CM1情報を取得できなかった場合には、例えば処理を終了して、CM1情報の送信を行わないようにする。
カメラCM1は、通信部80及びネットワークを介して、カメラCM2が送信したCM1情報を受信する(ステップS10)。なお、情報送信要求を送信した後、所定時間が経過してもカメラCM2からの応答が無い場合には、CM1情報は取得できなかったと判断する。
カメラCM1は、外界の状態を撮像画像として取得する(ステップS11)。そしてカメラCM1は、図8(A)で説明したように、取得した撮像画像とCM1情報を関連づけて、記憶部70に保存する(ステップS12)。なお、CM1情報を取得できなった場合には、撮像画像のみを保存する。
次に、使用者による撮影終了の指示があったか否かを判断し(ステップS13)、撮影終了指示があった場合には、ライフログ撮影を終了する。一方、撮影終了指示がなかった場合には、撮影タイミングの更新処理を行う(ステップS14)。具体的には、カメラCM1は、時間取得部38により現在時刻を取得する。そして記憶部70に記憶された時間間隔を取得して、両者を加算し、次回の撮影時刻を算出する。算出された次回の撮影時刻は記憶部70に記憶される。そしてステップS3(撮影タイミングまで待機)に戻る。なお、カメラCM2は、使用者の表情と視線方向に加え、使用者の画像自体(情報取得可否判断処理時に撮影した画像)をカメラCM1に送信してもよい。
図10に、図9のステップS6の情報取得可否判断処理(カメラ位置関係認識処理)のフローチャートを示す。
まずカメラCM2は、外界の状態を撮像画像として取得する(ステップS21)。即ちカメラCM2の視野内の情報を取得する。ここでは、カメラCM2が画像として取得可能な空間範囲を、カメラCM2の視野と呼ぶ。カメラCM1の視野も同様である。
次にカメラCM2は、取得した画像内をサーチし、図6(A)で説明したカメラ識別マークの検出処理を行う(ステップS22)。そして検出されなかった場合には、カメラCM1は視野外であると判断する(ステップS26)。一方、検出された場合には、そのカメラ識別マークのデコード処理を行い、図9のステップS5の情報送信要求に含まれるカメラCM1の個体識別情報と合致するか否かを判断し、合致した場合にはカメラCM1は視野内であると判断する(ステップS23、S24、S25)。一方、合致しなかった場合、或いはカメラ識別マークをデコードできなかった場合には、カメラCM1は視野外であると判断する(ステップS26)。
図11はCM1情報の取得処理のフローチャートである。まず図7(A)で説明したように、カメラCM1のカメラ識別マークが検出された位置の上方(略上方を含む)にある顔を検出する(ステップS31)。例えば、首からぶら下げるタイプのカメラである場合には、使用者の顔はカメラの上方にある。またカメラを胸ポケットに入れるようなタイプであっても、使用者の顔は概略上方に来る。そして、もし複数の顔が検出された場合は、カメラに最も近い位置の顔を使用者の顔であると見なす。
なお顔検出の手法としては、「Paul Viola,Michael Jones "Rapid Object Detection using a Boosted Cascade of Simple Features" CVPR2001」などの手法がある。
顔が検出されなかった場合には、CM1情報である使用者情報は取得できなかったと判断し、検出された場合には、検出された顔の方向(向き)を認識する(ステップS32、S33)。また検出された顔の表情を認識する(ステップS34)。更に検出された顔の視線方向を認識する(ステップS35)。
例えば顔の向きの認識(頭部姿勢推定)については、「木下航一,小西嘉典,川出雅人ら(オムロン)"3Dモデル高速フィッティングによる顔特徴点検出・頭部姿勢推定"MIRU2008」がある。また表情認識については、「熊野史朗,大塚和弘,大和淳司,前田英作,佐藤洋一(東大,NTT)"パーティクルフィルタと勾配法の組み合わせによる頭部姿勢変動に頑健な表情認識手法"MIRU2008」がある。また視線方向の認識については、「山添大丈,内海章,米澤朋子,安部伸治(ATR)"3次元眼球モデルを利用した単眼カメラによる遠隔視線推定"MIRU2008」がある。
次に、例えばカメラCM1の識別マークの図形形状から、カメラCM1の向きを認識する(ステップS36)。例えば矩形状の図形を撮像し、画像中での図形の状態に基いてカメラと図形の位置関係を求める手法が、特開2006−351024に開示されている。なおカメラCM1の向きとは、光学系の光軸の向きを指す。
次に、図7(C)で説明したように視線方向の補正処理を行う(ステップS37)。例えば、使用者の視線方向をカメラCM1の向きを基準とした方向に変換し、視線方向の補正値とする。以上のように取得された使用者の表情及び補正後の視線方向の情報を本実施形態での使用者情報とする。
以上の本実施形態の手法によれば、カメラCM2の視野内にカメラCM1が含まれる場合にのみ、カメラCM1に関する情報であるCM1情報(使用者情報)がカメラCM2からCM1に送信される。従って、カメラCM2からCM1に向けて、不必要な情報が送られる事態を防止できる。これによりバッテリーやネットワーク帯域が無駄に消費されてしまう事態が防止される。
4.第2の構成例
図12に本実施形態の制御装置、カメラ(撮像装置)の第2の構成例を示す。図12の第2の構成例では、カメラCM1の制御装置30が位置関係情報取得部47を更に含む。またカメラCM2の情報取得部140が位置関係情報取得部147を更に含む。これ以外の構成要素については図2とほぼ同様であるため、詳細な説明は省略する。
カメラCM1の位置関係情報取得部47は、カメラCM1の位置関係情報(位置関係を特定するための情報)を取得する。具体的には、例えばカメラCM1に設けられるGPSからの情報等を用いてカメラCM1の位置情報を取得する。そして取得された位置情報は、例えば図6(B)の情報送信要求の対応するフィールドに設定されて、カメラCM2に送信される。
カメラCM2の位置関係情報取得部147は、カメラCM2の位置関係情報を取得する。例えばGPSからの情報等を用いてカメラCM2の位置情報を取得する。また例えばジャイロセンサからの情報等を用いてカメラCM2の向き情報も取得する。
そして情報取得部140は、カメラCM1、CM2の位置関係情報に基づいて、CM1情報を取得可能か否かを判断する。具体的には、カメラCM1の位置情報と、カメラCM2の位置情報と、カメラCM2の向き情報に基づいて、CM1情報を取得可能か否かを判断する。
例えば第1の構成例では、CM1情報を取得可能か否かを、カメラCM1に設けられるカメラ識別マークMKを検出することで判断していた。しかしながら、図13(A)に示すように、例えば使用者US1の手や洋服等に隠れて、カメラ識別マークMKを検出できない場合がある。このような場合に、第1の構成例では、カメラCM2の撮像画像によりCM1情報を取得できるはずなのに、CM1情報を取得できないと判断されてしまう。
そこで第2の構成例では、カメラCM1、CM2の位置関係情報を判断して、CM1情報を取得できるか否かを判断する。例えば図13(B)では、カメラCM1の位置P1と、カメラCM2の位置P2と、カメラCM2の向きCD2が取得される。これらの位置P1、P2、向きCD2を用いれば、カメラCM2の視野内にカメラCM1があるか否かを判断できる。そして、視野内にカメラCM1があると判断された場合には、CM1情報を取得可能であると判断し、第1の構成例で説明したCM1情報の取得処理を行う。このようにすることで、図13(A)のような状況の場合にも、CM1情報の取得が可能になる。
次に第2の構成例の動作について説明する。まず、カメラCM1は、第1の構成例と同様にして、情報送信要求を送信する。この際、情報送信要求を構成するデータには、カメラCM1の個体識別情報の他に、カメラCM1の位置・向き情報も含める。この位置・向き情報は位置関係情報取得部47により取得される。
カメラCM2は、第1の構成例と同様にして、情報送信要求を受信する。更に、情報送信要求のデータに含まれる、要求送信元(カメラCM1)の個体識別情報、位置・向き情報を取得する。取得したカメラCM1の個体識別情報、位置・向き情報は、記憶部170に一時的に記憶される。
次にカメラCM2はCM1情報の取得可否の判断処理を行う。第2の構成例での情報取得可否判断処理(カメラ位置関係認識処理)のフローチャートを図14に示す。
まず、カメラCM2は、第1の構成例と同様にして、カメラ識別マークを検出しようと試みる(ステップS41、S42)。そしてカメラ識別マークが検出され、且つ、それがカメラCM1の個体識別情報を表していた場合、カメラCM1は視野内にあると判断する(ステップS43、S44、S45)。
一方、ステップS43、S44でカメラCM1が視野内にあると判断されなかった場合には、位置・向き情報を用いた判断処理に移行する。具体的には、まず、記憶部170からカメラCM1の位置・向き情報を取得する(ステップS46)。次に、位置関係情報取得部147により、カメラCM2の位置・向き情報を取得する(ステップS47)。
次に、カメラCM1とカメラCM2の位置から両者の距離を算出し、所定値と比較する(ステップS48)。そして、距離が所定値以下ではない場合には、カメラCM1は視野外にあると判断する(ステップS52)。一方、距離が所定値以下の場合には、カメラCM2の視野角と位置・向き情報から、カメラCM2の視野範囲を算出する(ステップS49)。例えば位置・向き情報から、カメラの撮像面の位置と光軸の向きが分かるので、これを視野角分だけ広げた範囲が視野範囲になる。視野角は、予め光学系の設計値から算出するか、或いは実測しておき、記憶部170に記録されているものとする。
次に、カメラCM1の位置・向き情報とカメラCM2の視野範囲を比較し、カメラCM1がカメラCM2の視野範囲内にあるか否かを判断する(ステップS50)。そして視野範囲内にある場合には、カメラCM1は視野内にあると判断する(ステップS51)。一方、視野範囲外の場合には、カメラCM1は視野外にあると判断する(ステップS52)。
以上の第2の構成例によれば、カメラCM1の個体識別情報を表す識別マークがカメラCM2から直視できない場合に、GPS等の位置情報を用いてカメラの位置関係を把握する。このようにすれば、カメラCM1が遮蔽物に隠れている場合や、個体識別情報を表す識別マークがカメラCM2から明瞭に撮影できないでも、カメラCM1の使用者情報を取得することが可能になる。
なお、上記のように本実施形態について詳細に説明したが、本発明の新規事項および効果から実体的に逸脱しない多くの変形が可能であることは当業者には容易に理解できるであろう。従って、このような変形例はすべて本発明の範囲に含まれるものとする。例えば、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語(撮像装置、識別情報等)と共に記載された用語(カメラ、識別マーク等)は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。また制御装置、撮像装置の構成、動作も本実施形態で説明したものに限定されず、種々の変形実施が可能である。
US1、US2 使用者、CM1、CM2 カメラ(撮像装置)、VD1 視線方向、
20 撮像部、30 制御装置、32 画像取得部、34 受信部、35 送信部、
36 書き込み部、38 時間取得部、47 位置関係情報取得部、60 操作部、
70 記憶部、80 通信部、90 表示部、98 情報記憶媒体、
120 撮像部、130 制御装置、132 画像取得部、134 受信部、
135 送信部、140 情報取得部、141 カメラ識別マーク検出部、
142 顔検出部、143 表情認識部、144 視線方向認識部、
145 カメラ向き認識部、146 視線方向補正部、147 位置関係情報取得部、
160 操作部、170 記憶部、180 通信部、190 表示部、
198 情報記憶媒体

Claims (24)

  1. 互いに独立に移動可能な第1の撮像装置と第2の撮像装置のうちの前記第2の撮像装置の制御装置であって、
    撮像部により撮像された撮像画像を取得する画像取得部と、
    前記第1の撮像装置からの情報送信要求を受信する受信部と、
    前記第2の撮像装置の前記撮像画像に基づいて前記第1の撮像装置に関する情報である第1撮像装置情報を取得する情報取得部と、
    取得された前記第1撮像装置情報を、前記情報送信要求に対する返信情報として前記第1の撮像装置に送信する送信部と、
    を含むことを特徴とする制御装置。
  2. 請求項1において、
    前記情報取得部は、
    前記第1撮像装置情報を取得可能か否かを判断し、前記第1撮像装置情報を取得可能であると判断した場合に、前記第1撮像装置情報を取得することを特徴とする制御装置。
  3. 請求項2において、
    前記情報取得部は、
    前記撮像画像に基づいて前記第2の撮像装置の視野内に前記第1の撮像装置が含まれるか否かを判断することで、前記第1撮像装置情報を取得可能か否かを判断することを特徴とする制御装置。
  4. 請求項3において、
    前記受信部は、
    前記第1の撮像装置の個体識別情報を受信し、
    前記情報取得部は、
    前記視野内に含まれる撮像装置が、受信した前記個体識別情報により識別される前記第1の撮像装置であるか否かを検出し、前記第1の撮像装置であることが検出された場合に、前記第1撮像装置情報を取得可能であると判断することを特徴とする制御装置。
  5. 請求項4において、
    前記第1の撮像装置には、前記第1の撮像装置を識別するための識別情報が設定され、
    前記情報取得部は、
    前記視野内に含まれる撮像装置に設定される識別情報が、前記個体識別情報により識別される前記第1の撮像装置の識別情報と一致するか否かを判断し、一致した場合に、前記第1撮像装置情報を取得可能であると判断することを特徴とする制御装置。
  6. 請求項2乃至5のいずれかにおいて、
    前記情報取得部は、
    前記第1の撮像装置と前記第2の撮像装置の位置関係情報を取得し、前記位置関係情報に基づいて、前記第1撮像装置情報を取得可能か否かを判断することを特徴とする制御装置。
  7. 請求項6において、
    前記情報取得部は、
    前記第1の撮像装置の位置情報と、前記第2の撮像装置の位置情報と、前記第2の撮像装置の向き情報に基づいて、前記第1撮像装置情報を取得可能か否かを判断することを特徴とする制御装置。
  8. 請求項1乃至7のいずれかにおいて、
    前記情報取得部は、
    前記第1撮像装置情報として、前記第1の撮像装置の使用者情報を取得することを特徴とする制御装置。
  9. 請求項8において、
    前記情報取得部は、
    使用者の表情情報、視線方向情報の少なくとも1つを、前記使用者情報として取得することを特徴とする制御装置。
  10. 請求項9において、
    前記情報取得部は、
    使用者の前記視線方向情報の補正処理のための前記第1の撮像装置の向き情報を取得することを特徴とする制御装置。
  11. 請求項8乃至10のいずれかにおいて、
    前記情報取得部は、
    前記第2の撮像装置の視野内の人物顔を検出し、検出された1つ以上の人物顔のうち、前記第1の撮像装置に最も近い位置にある人物顔を、前記第1の撮像装置の使用者の人物顔であると判断することを特徴とする制御装置。
  12. 互いに独立に移動可能な第1の撮像装置と第2の撮像装置のうちの前記第1の撮像装置の制御装置であって、
    撮像部により撮像された撮像画像を取得する画像取得部と、
    情報送信要求を送信する送信部と、
    前記情報送信要求を受信した前記第2の撮像装置が、前記第2の撮像装置の撮像画像に基づいて前記第1の撮像装置に関する情報である第1撮像装置情報を取得し、取得された前記第1撮像装置情報を、前記情報送信要求に対する返信情報として送信した場合に、前記第1撮像装置情報を受信する受信部と、
    を含むことを特徴とする制御装置。
  13. 請求項12において、
    受信した前記第1撮像装置情報を、前記第1の撮像装置の前記撮像画像に関連づけて記憶部に書き込む書き込み部を含むことを特徴とする制御装置。
  14. 請求項13において、
    前記書き込み部は、
    前記情報送信要求を送信した後、所定期間内に前記第1撮像装置情報を受信しなかった場合には、前記第1撮像装置情報が関連づけられていない前記撮像画像を前記記憶部に書き込むことを特徴とする制御装置。
  15. 請求項13又は14において、
    前記受信部は、
    前記第1撮像装置情報として、前記第1の撮像装置の使用者情報を受信し、
    前記書き込み部は、
    受信した前記使用者情報を、前記第1の撮像装置の前記撮像画像に関連づけて前記記憶部に書き込むことを特徴とする制御装置。
  16. 請求項12乃至15のいずれかにおいて、
    前記第1の撮像装置の前記撮像画像は、前記第1の撮像装置の使用者のライフログ画像であることを特徴とする制御装置。
  17. 請求項12乃至16のいずれかにおいて、
    前記送信部は、
    前記情報送信要求をブロードキャストで送信することを特徴とする制御装置。
  18. 請求項12乃至17のいずれかにおいて、
    前記送信部は、
    前記第1の撮像装置の個体識別情報を送信することを特徴とする制御装置。
  19. 請求項18において、
    前記第1の撮像装置には、前記第1の撮像装置を識別するための識別情報が設定され、
    前記送信部は、
    前記識別情報に対応する前記個体識別情報を送信することを特徴とする制御装置。
  20. 請求項1乃至19のいずれかに記載の制御装置を含むことを特徴とする撮像装置。
  21. 互いに独立に移動可能な第1の撮像装置と第2の撮像装置を含む撮像システムであって、
    前記第1の撮像装置は、
    前記第2の撮像装置に対して情報送信要求を送信し、
    前記第2の撮像装置は、
    前記第2の撮像装置の撮像画像に基づいて前記第1の撮像装置に関する情報である第1撮像装置情報を取得し、取得された前記第1撮像装置情報を、前記情報送信要求に対する返信情報として前記第1の撮像装置に送信し、
    前記第1の撮像装置は、
    前記第1撮像装置情報を、前記情報送信要求に対する返信情報として受信することを特徴とする撮像システム。
  22. 互いに独立に移動可能な第1の撮像装置と第2の撮像装置を用いた画像取得方法であって、
    前記第2の撮像装置の撮像画像を取得し、
    取得された前記第2の撮像装置の前記撮像画像に基づいて前記第1の撮像装置に関する情報である第1撮像装置情報を取得し、
    取得された前記第1撮像装置情報を、前記第2の撮像装置から前記第1の撮像装置に送信し、
    前記第1の撮像装置の撮像画像を取得し、
    前記第1撮像装置情報を、取得された前記第1の撮像装置の前記撮像画像に関連づけて記憶部に書き込むことを特徴とする画像取得方法。
  23. 互いに独立に移動可能な第1の撮像装置と第2の撮像装置のうちの前記第2の撮像装置を制御するためのプログラムであって、
    撮像部により撮像された撮像画像を取得する画像取得部と、
    前記第1の撮像装置からの情報送信要求を受信する受信部と、
    前記第2の撮像装置の前記撮像画像に基づいて前記第1の撮像装置に関する情報である第1撮像装置情報を取得する情報取得部と、
    取得された前記第1撮像装置情報を、前記情報送信要求に対する返信情報として前記第1の撮像装置に送信する送信部として、
    コンピュータを機能させることを特徴とするプログラム。
  24. 互いに独立に移動可能な第1の撮像装置と第2の撮像装置のうちの前記第1の撮像装置を制御するためのプログラムであって、
    撮像部により撮像された撮像画像を取得する画像取得部と、
    情報送信要求を送信する送信部と、
    前記情報送信要求を受信した前記第2の撮像装置が、前記第2の撮像装置の撮像画像に基づいて前記第1の撮像装置に関する情報である第1撮像装置情報を取得し、取得された前記第1撮像装置情報を、前記情報送信要求に対する返信情報として送信した場合に、前記第1撮像装置情報を受信する受信部として、
    コンピュータを機能させることを特徴とするプログラム。
JP2009116633A 2009-05-13 2009-05-13 制御装置、撮像装置、撮像システム、画像取得方法、及びプログラム Pending JP2010268127A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009116633A JP2010268127A (ja) 2009-05-13 2009-05-13 制御装置、撮像装置、撮像システム、画像取得方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009116633A JP2010268127A (ja) 2009-05-13 2009-05-13 制御装置、撮像装置、撮像システム、画像取得方法、及びプログラム

Publications (1)

Publication Number Publication Date
JP2010268127A true JP2010268127A (ja) 2010-11-25

Family

ID=43364769

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009116633A Pending JP2010268127A (ja) 2009-05-13 2009-05-13 制御装置、撮像装置、撮像システム、画像取得方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP2010268127A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015027052A (ja) * 2013-07-29 2015-02-05 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム
JP2017092761A (ja) * 2015-11-12 2017-05-25 シャープ株式会社 撮像システム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008118679A (ja) * 2007-11-30 2008-05-22 Fujifilm Corp 撮像装置、端末装置および撮像システム
JP2009027333A (ja) * 2007-07-18 2009-02-05 Sony Corp 撮像システム、撮像指示装置、撮像装置、撮像方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009027333A (ja) * 2007-07-18 2009-02-05 Sony Corp 撮像システム、撮像指示装置、撮像装置、撮像方法
JP2008118679A (ja) * 2007-11-30 2008-05-22 Fujifilm Corp 撮像装置、端末装置および撮像システム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015027052A (ja) * 2013-07-29 2015-02-05 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム
US9357119B2 (en) 2013-07-29 2016-05-31 Casio Computer Co., Ltd. Imaging apparatus capable of wireless communication
JP2017092761A (ja) * 2015-11-12 2017-05-25 シャープ株式会社 撮像システム

Similar Documents

Publication Publication Date Title
JP5967473B2 (ja) 撮像装置及び撮像システム
JP4983784B2 (ja) 撮像システム、画像提示方法、制御装置、プログラム
US8199221B2 (en) Image recording apparatus, image recording method, image processing apparatus, image processing method, and program
CN106575027B (zh) 摄像装置及其被摄体跟踪方法
US8350931B2 (en) Arrangement and method relating to an image recording device
US9094597B2 (en) Imaging apparatus and imaging system
JP7043255B2 (ja) 電子機器及びその制御方法
US9426379B2 (en) Photographing unit, cooperative photographing method, and recording medium having recorded program
US20140123015A1 (en) Information processing system, information processing apparatus, and storage medium
JP5991514B2 (ja) 撮像装置及び撮像システム
CN104954644B (zh) 摄影设备、摄像观察设备、图像比较显示方法和系统
CN109981944A (zh) 电子装置及其控制方法
US8502883B2 (en) Photographing apparatus and photographing control method
JP2010268128A (ja) 制御装置、撮像装置、撮像システム、画像取得方法、及びプログラム
JP7094815B2 (ja) 表示制御装置、表示制御装置の制御方法、プログラム、記憶媒体
KR20200028298A (ko) 표시 제어장치, 촬상 장치, 제어 방법 및 컴퓨터 판독 가능한 매체
JP2010268127A (ja) 制御装置、撮像装置、撮像システム、画像取得方法、及びプログラム
JP2021069045A (ja) 表示制御装置、表示制御方法、プログラムおよび記憶媒体
JP6704301B2 (ja) 撮像装置、及び撮像表示システム
JP6871458B2 (ja) 撮像表示方法
JP2015019215A (ja) 撮像装置及び撮像方法
US20230269483A1 (en) Electronic device and electronic device control method
JP2021158559A (ja) 電子機器、その制御方法およびプログラム
JP4841447B2 (ja) 画像同定装置
CN112184722A (zh) 图像处理方法、终端及计算机存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120329

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130416

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130903