JP4912410B2 - 自動キャプチャモード - Google Patents

自動キャプチャモード Download PDF

Info

Publication number
JP4912410B2
JP4912410B2 JP2008544354A JP2008544354A JP4912410B2 JP 4912410 B2 JP4912410 B2 JP 4912410B2 JP 2008544354 A JP2008544354 A JP 2008544354A JP 2008544354 A JP2008544354 A JP 2008544354A JP 4912410 B2 JP4912410 B2 JP 4912410B2
Authority
JP
Japan
Prior art keywords
capture
image
mode
input
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008544354A
Other languages
English (en)
Other versions
JP2009518951A (ja
Inventor
ウッド ケニス
ホッジス スティーブン
ウィリアムズ リンジー
スリニバサン ジェームズ
ローター カールステン
クリミニシ アントニオ
チロヤン ジョン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2009518951A publication Critical patent/JP2009518951A/ja
Application granted granted Critical
Publication of JP4912410B2 publication Critical patent/JP4912410B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00323Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a measuring, monitoring or signaling apparatus, e.g. for transmitting measured information to a central location
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • H04N1/2104Intermediate information storage for one or a few pictures
    • H04N1/2112Intermediate information storage for one or a few pictures using still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/21Intermediate information storage
    • H04N2201/212Selecting different recording or reproducing modes, e.g. high or low resolution, field or frame

Description

本発明は、多数のイメージを自動的にキャプチャすることができるイメージキャプチャ装置に関する。
SenseCamは、Microsoft Researchが開発した装着型カメラであり、その1つの応用例は、装置の着用者が体験した最近のイベントをユーザが巻き戻せるようにすることで、メモリリコール(memory recall)を支援することである。これは記憶障害者に対して、または個人が衝撃的な出来事(イベント)を経験した場合(例えば、負傷につながる高齢者の転倒)に対して特に有益である。
装置は、非常に多数のイメージをキャプチャすることができ、イメージのキャプチャに加えて、装置は動作、光レベルおよび温度のようなセンサデータも毎秒記録する。このセンサデータを使用して、例えば光レベルに変化があるとき、または突然の動作があるときにイメージのキャプチャをトリガする。光レベルの変化は、ユーザがある部屋から別の部屋へ移動したこと、または内部から外部に移動したことを示すことができ、従ってキャプチャしたイメージは着用者の位置(および環境)の変化を示すことになる。例えばPIR(passive infrared:受動型赤外線)センサを使用してカメラに極めて接近している人の存在を検出することができ、これによりイメージのキャプチャをトリガすることができる。結果として、そのキャプチャイメージを使用して、ある個人が出会った人々を思い出すことができる。
この装置は広角または魚眼レンズを有し、その結果、ユーザはその装置を特定の方向に向ける心配の必要はない。イメージの安定化のために加速度計が使用される。
P.Viola and M.Jones,「Robust Real−Time Object Detection」,International Conference on Computer Vision(ICCV)2001
本発明の目的とするところは、多数のキャプチャモードのうちの任意の1つで動作するイメージキャプチャ装置を提供することにある。
以下で、本発明の基本的な理解を提供するため本開示の簡潔な要約を提示する。本要約は本開示の広汎的な概要ではなく、本発明の主要/重要な要素を識別せず、または本発明の範囲を区別しない。その唯一の目的は、本明細書で開示した幾つかの概念を、後述するより詳細な説明に対する前置きとして簡潔な形態で提示することである。
本例は、複数のキャプチャモードのうちの任意のものにおいて動作するイメージキャプチャ装置を提供する。本装置は、イメージセンサと、複数のキャプチャトリガ集合を記憶するよう配置されたメモリであって、それぞれのキャプチャトリガ集合が複数のキャプチャモードの1つに関連付けられたメモリと、選択したキャプチャモードで装置が動作するように、上記の複数のキャプチャモードのうちの1つを選択するよう配置されたプロセッサであって、上記の関連付けられたキャプチャトリガ集合内のキャプチャトリガを満たす場合にイメージを自動的にキャプチャするプロセッサを備える。
これにより、異なるキャプチャトリガを定義した場合にイメージがキャプチャされる(例えば、写真が撮影される)ように、装置の動作を異なる状況および異なるユーザに対して変更できると都合が良い。これによりユーザは、特定の位置/イベント/アクティビティに対してキャプチャトリガを調整することができ、それぞれに対する単一の装置の異なるユーザは装置の動作をカスタマイズすることができる。
プロセッサは、受信した入力に応じてキャプチャモードの1つを選択するよう配置されるとことが望ましい。
また、メモリはモード変更パラメータ集合を記憶するよう配置され、プロセッサは、受信した入力に応じて、および上記のモード変更パラメータ集合に従って、キャプチャモードを再選択するように配置されることが望ましい。
受信した入力は、少なくとも、時刻、ユーザ入力、カレンダプログラムからのトリガ、無線受信機により受信した信号、センサから受信した入力、装置状態情報およびモードシーケンスファイルのうちの少なくとも1つを備えることができる。
受信した入力がカレンダプログラムからのトリガを備える場合、モードをカレンダプログラム内のイベントについての情報に基づいて選択できると都合が良い。
受信した入力は時刻であり、モード変更パラメータ集合はモードシーケンスおよび関連付けられたモード変更回数を備えることが望ましい。
装置はユーザ入力手段をさらに備えることができ、受信した入力をそのユーザ入力手段から受信する。
装置はセンサをさらに備えることができ、少なくとも1つのキャプチャトリガ集合は、そのセンサの入力を参照して定義されたキャプチャトリガを備える。
少なくとも1つのキャプチャトリガ集合はユーザ定義であることが望ましい。
第2の例は、イメージをキャプチャする方法を提供する。この方法は、少なくとも2つのキャプチャモードの集合からキャプチャモードを選択すること、選択したキャプチャモードに関連付けられたキャプチャトリガの集合にアクセスすること、受信した入力がアクセスしたキャプチャトリガ集合内のキャプチャトリガを満たす場合に、イメージのキャプチャをトリガすること、およびモード変更パラメータを満たす場合に少なくとも2つのキャプチャモードの集合から別のキャプチャモードを選択することから成る複数のステップを備える。
キャプチャモードを選択することは、入力を受信すること、および受信した入力に従って少なくとも2つのキャプチャモードの集合からキャプチャモードを選択することを備えることが望ましい。
入力を受信することは、ユーザ、センサ、無線受信機およびクロックのうちの1つから入力を受信することを備えることが望ましい。
イメージのキャプチャをトリガすることは、入力をユーザ、センサ、無線受信機およびクロックのうちの1つから受信すること、および受信した入力が、アクセスしたキャプチャトリガ集合内のキャプチャトリガを満たす場合に、イメージのキャプチャをトリガすることを備えることが望ましい。
キャプチャトリガ集合(set of capture triggers)は、センサの入力を参照して定義されたキャプチャトリガを備えることが望ましい。
キャプチャトリガ集合はユーザ定義であることが望ましい。
モード変更パラメータはユーザ入力集合(set of user inputs)を定義することが望ましい。
別のキャプチャモードを選択することは、ユーザ入力を検出すること、検出したユーザ入力がモード変更パラメータにおいて定義されることを識別すること、および別のキャプチャモードを、検出したユーザ入力およびモード変更パラメータに基づいて少なくとも2つのキャプチャモードの集合から選択することを備えることが望ましい。
別の例では、別のキャプチャモードを選択することは、無線受信機を介して受信信号を検出すること、および別のキャプチャモードを、受信信号およびモード変更パラメータに基づいて少なくとも2つのキャプチャモードの集合から選択することを備えることが望ましい。
第3の例では、プログラムをコンピュータで実行する場合に、上述の方法のいずれかを実施するように適応させたコンピュータプログラムコード手段を備えるコンピュータプログラムを提供する。
上述のコンピュータプログラムは、コンピュータ可読媒体上に具現化することができる。
別の例では、キャプチャモード名を示すように配置した第1の要素と、複数のキャプチャトリガ値を示すよう配置した複数の要素とを備えるユーザインタフェースを提供する。
上記の方法は、記憶媒体上のマシン可読な形態でソフトウェアにより実施することができる。このソフトウェアは、上記の方法のステップを任意の適切な順序、または同時に実行できるように、並列プロセッサまたは逐次プロセッサ上で実行するのに適している。
これはソフトウェアが貴重で、個々に取引可能な商品でありうることを認めている。ソフトウェアは、「ダム(dumb)」または標準的なハードウェア上で実行されるか、またはそれらを制御し、所望の機能を実行するソフトウェアを網羅することを意図している。ソフトウェアはさらに、HDL(hardware description language:ハードウェア記述言語)ソフトウェアのような、シリコンチップの設計に使用されるか、またはユニバーサルプログラマブルチップの構成に使用されて所望の機能を実行するハードウェア構成を「記述」もしくは定義するソフトウェアを網羅することを意図している。
多数の付随する特徴は、添付図面とともに考察した以下の詳細な説明を参照することにより容易に理解でき、より良く理解できるであろう。
また、本発明は、添付図面に照らし合わせて読むと以下の詳細な説明からより良く理解されるであろう。
同じ参照番号は、添付図面における同じ部分を指定するように使用される。
添付図面と関連して以下で提供する詳細な説明は、本例の説明を意図しており、本例を構築または利用可能な唯一の形態を表すようには意図していない。本記述は本例の機能と、本例を構築し、動作させるステップのシーケンスを説明する。しかしながら、同一または等価な機能およびシーケンスを異なる例により実現してもよい。
前述のように、センサデータによりトリガされた場合にイメージを自動的にキャプチャするカメラを使用することで、メモリリコールの支援に使用できる多数のイメージが取得される。しかしながら、幾つかの状況では、さらなる有用な情報を提供せずにメモリを使い果たす多数の類似イメージをキャプチャしてしまうという問題が発生する。上記の問題は、例えば、着用者が会議室にいて、PIRセンサがカメラの前を通る人を検出するときにカメラがトリガする、という場合に生ずる可能性がある。会議の最中では、着用者に対面している人がジェスチヤし、メモを書くか、または動くと、カメラは繰り返しトリガされる可能性がある。これは、カメラが同じ人の多数のイメージをキャプチャすることにつながる恐れがある。カメラは大容量メモリを有することができるが、メモリは無限ではなく、重複するイメージはメモリの大部分を占有する恐れがある。これは、イメージが頻繁にダウンロードされない場合に、より重大となる。
イメージを引き続いてダウンロードするとき、ダウンロード時間は重複するイメージにより不必要に増大する。次いでイメージを参照するとき、例えば紛失したものを見つけようとしても、レビューすべきイメージが沢山あるので重複するイメージは、操作の支援ではなく、むしろ妨害となる。イメージを日記の作成に使用する状況では、イメージをインターネットにアップロードすることができ、重複するイメージはその日記を参照する者を苛立させる恐れがあり、アップロード時間も増大する(これは、低いデータ速度の接続では重大なことである)。結果として、日記のアップロードまたは保存の前に重複するイメージを削除する必要があろう。
図1は自動イメージキャプチャ装置100の概略図である。自動イメージキャプチャ装置100は、広角または魚眼レンズ(図示せず)を有するイメージセンサ102に接続したマイクロプロセッサ101を備えている。バッテリ103により装置に電力を供給し、電気を昇圧回路104により昇圧してマイクロプロセッサ101に電力を供給する必要がある。マイクロプロセッサは、1つまたは複数のセンサ105〜110からのデータが、指定のキャプチャ条件(キャプチャトリガとも称する)が満たされていることを示すと、イメージのキャプチャ(capturing)をトリガする。センサは、デジタル光レベルセンサ105、温度センサ106、加速度計107、マイクロフォン109もしくは他のセンサ108のような装置に統合でき、または、センサは装置の外部にあり(例えば、リモートセンサ110)、センサデータを無線受信機112に接続したアンテナ111により受信することができる。加速度計107からのデータは、(例えば、イメージキャプチャの開始前の安定条件を検出することで)着用者の動きによるイメージの不鮮明さを緩和または修正するためにも使用される。上記装置は、オーディオ記録回路113、リアルタイムクロック114およびメモリ115も備える。メモリ115は1つまたは複数の要素を備え、上記装置に不可欠なメモリと取り外し可能メモリ(例えば、SDカード)との組み合わせを備えることができる。上記装置は、データを上記装置へアップロードまたは上記装置からダウンロードするためのインタフェース116(例えば、USBまたはRS−232のようなシリアルインタフェース)を有することもできる。あるいは、上記のアップロードおよびダウンロードは、無線送受信機112または取り外し可能メモリ要素を介して無線接続上で行うことができる。装置100は1つまたは複数のLED(発光ダイオード)117、もしくは他の視覚的フィードバック要素(例えば、LCDディスプレイ画面)を有することもできる。
図1の自動イメージキャプチャ装置100の一部として示した要素は、例として示してあるに過ぎない。キャプチャ装置の他の例は、図1に示す要素のサブセットを備えることができ、および/または追加の要素を備えることができる。例えば、装置は複数の無線送受信機を有することができ、例えばBluetooth送受信機、赤外線送受信機等の異なる無線技術を使用してこれらの複数の送受信機を動作させることができる。他の例では、装置は送受信機(送信機かつ受信機である装置)ではなく無線受信機を備えるのみであってもよい。装置は、例えばGPS要素といった、その装置内部に統合した多数の様々なセンサを有することもできる。さらに、イメージの安定化のために他のセンサを加速度計107の代わりに使用してもよい。
本明細書で使用する用語「無線」は、物理接続を含まない接続、すなわち「有線」でない接続を意味する。「無線」は、RF通信、赤外線通信および自由空間光通信を含む電磁気スペクトルを介した自由空間通信を網羅する。
自動イメージキャプチャ装置100は多数の様々なキャプチャモードを有する。それぞれのキャプチャモードは、必要な光レベルの変更、必要な安定期間、イメージをキャプチャする間の最小/最大期間、他人または他の自動イメージキャプチャ装置を検出したときにイメージをキャプチャするかどうかなどのような、イメージをキャプチャする(例えば、写真の撮影)ときの状況を定義する。従って、キャプチャモードはイメージのキャプチャをトリガするキャプチャ条件(またはキャプチャトリガ)の集合を定義し、例えばキャプチャモードは光レベルが10%より多く変化する場合、および/または温度が10%より多く変化する場合にイメージをキャプチャすることを定義できる。キャプチャ条件の集合は単一のキャプチャ条件(例えば、イメージを午前10:05にキャプチャする)、またはキャプチャ装置100に統合するか、もしくは(リモートセンサ110の場合に)キャプチャ装置100と通信する様々なセンサに基づいた複数のキャプチャ条件を備えることができる。キャプチャモードにより定義されるパラメータの一部の例を図2の表200に示す。この場合、装置は(例えばリモートセンサ110としての)リモート心拍数モニタに接続されている。キャプチャ条件の定義に加えて、図2に示すように、キャプチャモードは装置に対する他の動作パラメータを定義することができ、これを以下でより詳細に説明する。
3つのキャプチャモードを有する装置についての図3の概略図において示すように、それぞれのキャプチャモードに対するパラメータを装置上のメモリ115に記憶する。メモリ115を使用して、イメージ304、(マイクロフォン109およびオーディオ記録回路113を使用して記録した)オーディオ情報305およびセンサデータ306に加えて、3セットのパラメータ301〜303を記憶する。メモリ115を使用して、装置がキャプチャモード307間で変化すべき時点を記述するパラメータを記憶することもできる。上述のように、メモリ115を単一の要素として示してあるが、これは例に過ぎず、メモリ115は複数の要素を備えることができる。それぞれのメモリ要素を使用して、図3に示す1つまたは複数の種類の情報を記憶することができ、幾つかの例では、メモリ要素の全部または一部を特定の種類の情報に向けることができる。例えば、装置を動作させるために使用する情報(キャプチャモードパラメータ301〜303を含む)を、装置によりキャプチャしたデータ(例えば、イメージ、オーディオおよびセンサデータ)の記憶に使用するメモリとは別個の専用部分に記憶することができる。
この装置は、ユーザ定義ではない1つまたは複数の事前設定キャプチャモード、および/または、1つまたは複数のユーザ定義(もしくはユーザカスタマイズの)キャプチャモードを有することができる。図4は、自動イメージキャプチャ装置100の動作を示す例示的なフロー図400である。動作キャプチャモード(例えば、事前設定キャプチャモードまたはユーザカスタマイズキャプチャモード)を、装置上の利用可能なキャプチャモード集合から選択する(ステップ401)。それぞれの利用可能なキャプチャモードに対して、上述のようにパラメータ集合を装置のメモリ(301〜303)に記憶し、(ステップ401において)一旦キャプチャモードを動作モードに対して選択すると、キャプチャ条件を定義する適切なパラメータ集合にアクセスする(ステップ402)。次いで、装置100は受信した入力を、その受信した入力が、アクセスしたパラメータにより定義されるキャプチャ条件の1つを満たすまで監視し(ステップ403)、イメージのキャプチャをトリガする(ステップ404)。キャプチャイメージをメモリ115に記憶し(ステップ405)、その装置は、キャプチャ条件が再度満たされるまで入力の監視を続ける(ステップ403)。モード変更パラメータが満たされる場合、新しい動作モードを選択し(ステップ406)、次いで新しいキャプチャ条件集合にアクセスする(ステップ402)。次に、新しいキャプチャ条件集合を使用して、イメージをキャプチャすべきかどうか(ステップ404)を決定する。
事前設定キャプチャモードでは、装置の特定の使用または特定の状況に対してパラメータを定義できる。例えば、装置を着用者の日記の自動生成に使用する場合と比較して、装置を記憶傷害がある個人に対する記憶支援として使用する場合は、適切であるパラメータは様々であろう。特定の汎用的な状況に対して定義可能な様々な事前設定モードの例を後述する。
内部および外部などの様々な環境に対して様々なモードを提供することができる。
これは、建物内部で受ける光レベルの範囲は非常に狭い可能性があるので、有利であろう。従って、光レベルに対するトリガポイントは、汎用モードまたは外部モードで動作するときよりも「内部モード」で動作するときの方が小さくなる可能性がある。
様々なイベントタイプ、例えば「会議モード」に対して様々なモードを提供することができる。これは、PIRセンサデータをこのモードにおいてトリガとして使用しないことで、装置が会議で同じ人または人々の多数のイメージを撮影することを防止する上で有利である。あるいは、PIRセンサの日付によりトリガしたキャプチャイベント間の最小時間を指定することができる。これは、他のセンサデータによりトリガしたイメージのキャプチャを防止しないが、会議中に撮影した同じ人々の重複するイメージの数を削減するであろう。
無線送受信機112経由の特定信号の受信に応じてイメージをキャプチャするように装置が設定される「休日」または「旅行者」モードを定義することができる。上記信号を、特定の興味または美しさがある場所でビーコン(beacon)または送信機により送信することができる。本信号は撮影されているパノラマ上の情報を含むことができ、信号(および従って情報)を装置のメモリ115に記憶できる。この情報を、(例えば、JPEG仕様に記述されるように)イメージファイル内部のメタデータとして記憶することもできる。また、他の情報をイメージファイル内部のメタデータとして記憶することもできる。その情報には、これらには限らないが、位置情報、センサデータおよびオーディオ情報が含まれる。
「時限(timed capture)」モードを使用して、特定の日時にイメージのキャプチャを確実にすることができる。例えば、このキャプチャモードは、イメージが毎時間撮影されるように定義することができる。これは、センサトリガに応じてキャプチャできる任意のイメージへの追加、またはその代替とすることができる。
「ドックモード(docked mode)」を提供することができる。「ドックモード」では、装置がウェブカムとして動作し、外部信号により(例えば、コンピュータから)トリガされてイメージを撮影し、 またはイメージのシーケンス(またはビデオストリーム)をコンピュータにストリームする。センサ入力に基づいてイメージキャプチャをトリガすることを(例えば、極端なキャプチャ条件を設定することにより)制限または防止することができる。外部トリガの例には、MSN(登録商標)MessengerのようなIM(instant messenger)プログラムからのトリガが含まれる。IMプログラムを設定して、新しいIMの会話を開始するときにイメージのキャプチャをトリガすることができ、その時IMプログラムはキャプチャイメージをユーザの画像として使用し、これを会話中の他のパーティに送信することができる。別の例では、標準的な電話またはVoIP(voice over internet protocol)のいずれかを使用して、音声通話を開始したときに外部トリガを提供することができる。通話を開始したときにキャプチャしたイメージを、発呼者ID(身分証明)情報の代わりに、またはそれに加えて送信することができ、その結果、通話の受信者は自身を呼び出している人の現在のイメージを見ることができる。これは、呼び出し側のプライバシーを侵害することなく、呼ばれたパーティに追加の情報(例えば、呼び出し側が着ているもの、呼び出し側が幸せそうかまたは悲しそうか等)を提供する。同様に、IM、電話、またはVoIP経由で呼(call)を受信したときにイメージをトリガすることができ、キャプチャイメージを上述したものと同様な方法で呼び出し側に送信することができる。
イメージをキャプチャする前の(加速度計により検出される)安定条件についての要件を緩和し、イメージのキャプチャに使用する露出設定を、センサが検出した装置100の動きに従って変更する「可変露出」モードを提供することができる。例えば、安定条件の定義は<20°/秒から<50°/秒に変更することができ、または、キャプチャ条件は安定条件の検出についての要件を除去することができる。このモードでキャプチャしたイメージの不鮮明さを最小化するため、イメージキャプチャについての露出時間は、装置があまり動いていないときに長い露出時間を使用し、装置がより動いているときに短い露出時間を使用するように、センサが検出する装置の動きに比例して変化させられる。このようなモードは、安定条件を実現する見込みが少ないがユーザがなおイメージをキャプチャすることを望む場合に、スポーツイベント中に使用される装置に対して有用であろう。この可変露出機能を、例えば動作パラメータとして、他のキャプチャモードに組み込むこともできる。
非常に類似したイメージは、最初にキャプチャしたものであっても廃棄して記憶しないように評価アルゴリズムをセンサ情報と併せて使用できるモードを提供することができる。そのアルゴリズムは時間で隣接するイメージのみを比較することができ、または短期間にキャプチャしたイメージ集合を比較することができる。イメージ比較の例示的な方法を、図8〜図11を参照して後述する。
2つのイメージ間の類似性を、2つのイメージ間の距離の観点で説明することもでき、この距離を計算する1つの技術は、2つのヒストグラム間のSAD(the sum of absolute difference:差分絶対値和)をイメージの各々に対して使用することである。任意の適切なヒストグラム、例えばカラーヒストグラムまたはテクストン(texton)ヒストグラムを使用することができる。カラーヒストグラムは、イメージ内のそれぞれの色の相対量を見る。テクストンヒストグラムは、イメージ内の色およびテクスチャの両方を見る。
2つのイメージ、iおよびjのテクストンヒストグラムのSADを計算するため、テクストンのユニバーサルボキャブラリ(universal vocabulary)が必要である。このテクストンのユニバーサルボキャブラリを、自動イメージキャプチャ装置から離れて決定することができ、一旦決定するとそのボキャブラリを装置100のメモリ115に記憶することができる。テクストンのユニバーサルボキャブラリは多数のトレーニングイメージに基づいて定義され、そのボキャブラリは一般には、アプリケーション依存である。従ってトレーニングイメージは比較される実際のイメージと同様なタイプであることが望ましい。例えば、SenseCamにより撮影したイメージは従来のデジタルカメラで撮影したイメージと極めて異なる特性を有する。結果として、ボキャブラリの使用目的がSenseCamイメージを比較することである場合、SenseCamイメージをトレーニングイメージとして使用することが適切であり、ボキャブラリの使用目的が標準的なデジタルカメライメージを比較することである場合、標準的なデジタルカメライメージをトレーニングイメージとして使用すべきである。他のタイプのイメージを比較すべき場合には、ユニバーサルボキャブラリを定義するために適切な代表イメージの集合を、トレーニングイメージとして使用すべきである。
ユニバーサルボキャブラリを定義するプロセスは、図8および図9を参照して説明することができる。第1のトレーニングイメージ901を選択し(ステップ801)、fを使用フィルタ数としたガボールフィルタ(Gabor filter)バンクのようなフィルタバンクにこのイメージを通す(ステップ802)。このようにフィルタを使用することで、テクスチャ情報を取得できる。一般に、フィルタは情報をそれぞれの画素周り10×10画素の領域からキャプチャする。一般に17個のフィルタバンクを使用し(f=17)、同じフィルタ集合を任意のアプリケーションまたは任意のイメージタイプに対して使用することができる。このステップ(ステップ802)の出力は、フィルタ応答イメージの集合902であり、それぞれのフィルタに対して1つのイメージである(すなわち、f個のフィルタ応答イメージ)。次いで、それぞれのフィルタ応答イメージ内のそれぞれの画素のフィルタ応答をf次元でプロットする(ステップ803)。元のトレーニングイメージ901における位置(x,y)の特定の画素を考えると、f個のフィルタ応答があり、バンク内のそれぞれのフィルタに対して1つである(すなわち、フィルタ応答はf個のフィルタ応答イメージ902の各々における位置(x,y)にある)。これにより、f個の要素(r1,r2,r3,...rf)を有するベクトルが生成され、次にこれらの要素をf次元グラフ903上にプロットすることができる。次に、これらの3つのステップ(801〜803)を様々なトレーニングイメージで多数回繰り返し、全ての点を同一のグラフ904上にプロットする。次に、グラフ上の点のクラスタ904a〜fを、例えばk平均アルゴリズムを使用して識別し(ステップ804)、それぞれのクラスタの中心にある位置905a〜fを定義する(ステップ805)。従って、その結果はベクトル集合であり、それぞれはf個の要素を備え、それぞれはクラスタの中心で位置を定義する。このベクトル集合(図9に示す例では6個のベクトルであるが、一般には50個のベクトルまたは「視覚語(visual word)」が存在する)は、(使用したトレーニングイメージと同種のイメージに対する)テクストンのユニバーサルボキャブラリである。それぞれの視覚語(またはベクトル)は、後述するように結果的にテクストンヒストグラム内のビンになる。少数の語(および従ってビン)は、イメージ間の比較を実施するときにより高速の処理速度が得られ、その一方で、多数の語は2つのイメージ間の類似性のより良好な指標を提供する。
(上述のような)装置から離れて行うことが可能なテクストンのユニバーサルボキャブラリの決定後、図10に示すようにイメージのテクストンヒストグラムを計算することができる。イメージを選択し(ステップ1001)、そのイメージをユニバーサルボキャブラリの決定において使用したのと同じf個のフィルタバンクに通す(ステップ1002)。次に、イメージのそれぞれの画素に対するフィルタ応答を、f個のフィルタの各々に対して決定して、f次元空間内の位置を提供し(ステップ1003)、次いでこの位置をユニバーサルボキャブラリ(例えば、905内に示す6個の視覚語)と比較して、それぞれの画素が最も近接する(ステップ805で定義した)クラスタ中心位置を決定する。それぞれの視覚語に対して1つのビンを有し、その視覚語に最も近いそれぞれの画素に対してビン当り1つのエントリを有するように、本結果をヒストグラム上にプロットする。2個のテクストンヒストグラム1101、1102を図11に示す。2個のイメージのテクストンヒストグラムのSAD(すなわち、それぞれのビンサイズの間の差分絶対値和)を計算することができる。
第1のキャプチャイメージを第2のキャプチャイメージと比較して、その結果のSADが閾値未満である場合に、イメージの1つを削除して記憶できないように、SADの閾値を設定することができる。追加の基準を使用して、2つのイメージのうちのどれを維持するかを決定することができる。その基準には、これらには限らないが、イメージの鋭さとそれぞれのイメージのキャプチャをトリガするキャプチャ条件とが含まれる。
このようなアルゴリズムおよび技術は、事前設定モード内で、または(例えば、そのアルゴリズムを実装するか、または実装しないチェックボックスを通して)ユーザカスタマイズモードにおいて使用することができる。ユーザは、2つの隣接する記憶イメージの最小類似度(例えば、上述のSAD閾値)を示すパラメータを指定することができる。ユーザカスタマイズモードについては、以下でより詳細に説明する。
別の例では、イメージ評価技術を使用して、特に顔(または他のオブジェクト)をキャプチャするためのモードを定義できる。顔検出アルゴリズムの例は、非特許文献1で説明されている。オブジェクト検出アルゴリズムを使用して得た情報を使用して、イメージのキャプチャをトリガすること、および一度キャプチャしたイメージに注釈付けすることができる。
例えば、空港の入国審査ホールまたは法廷にいる間のような幾つかの状況では、写真撮影が許可されない場合がある。ユーザの介入がないと、自動イメージキャプチャ装置は、定義したキャプチャ条件に従って無意識にイメージをキャプチャし続けてしまうであろう。これを解決するため、装置に「キャプチャ防止(Capture prevented)」事前設定モードを提供することができる。送信機もしくはビーコンから送信した特殊無線信号、または装置が検出可能な他の信号(例えば、音、特定のGPS位置情報または他のセンサ入力)の受信に応じて、装置は「キャプチャ防止」事前モードに自動的に切り替えることができる。ユーザは手動で装置を(上述のように)このモードに切り替えることもできる。例えばユーザが指定区域(例えば、病院)に入るかまたは心配りが必要な行事(例えば、葬式)に出席する場合である。このモードでは、指定した期間(例えば、次の10分間)または特殊無線信号を受信できる間のいずれかで、イメージはキャプチャされないことになる。上記モードでは、ユーザが実際にこのモードに切り替えない限り、ユーザは装置を上書きして、別のモードに切り替えてイメージのキャプチャを許可することができない。別の例では、ユーザは装置を上書きできるが、ユーザインタフェースを調整してユーザが誤ってスイッチを別のモードに絶対に切り替えできないようにする。
上の事前設定モードの例は例として提供したに過ぎない。上述の1つまたは複数のモードの機能を組み合わせた他の事前設定モードを提供することもできる。事前設定モードに対する追加または代替として、装置は1つまたは複数のユーザカスタマイズ可能モードを有することもできる。これらのユーザカスタマイズ可能モードは、上述の事前設定モードの態様を含むことができる。
必ずしも着用者ではないユーザは、ユーザカスタマイズモードにより、自身のキャプチャ条件を定義することができる。例えば、家族のような変化に富んだメンバによって、装置が異なる時点で様々な人々により使用(および着用)される場合、それぞれのメンバは彼らがその装置を着用しているときに使用する1つまたは複数のキャプチャモードを定義することができる。ユーザカスタマイズモードは事前設定モードを参照して任意の上述のアイデアを使用でき、複数の事前設定モードの態様を組合せることができる。例えば、ユーザは(上述の)「時限キャプチャ」モードをカスタマイズすることを望むことができ、その結果、彼らは任意のセンサトリガが存在するか存在しないかに関わらず、イメージをキャプチャしたい回数を指定することができる。極端な場合には、時限キャプチャモードを使用して、単一のイメージが特定の時刻にキャプチャされ、他のイメージはキャプチャされないようにすることを確実にすることができる。
1つの例では、ユーザは装置に直接入力することで、キャプチャモードに対するパラメータを指定することもできる。図5は、そのようなパラメータ直接入力を可能とする、自動イメージキャプチャ装置500の正面の概略図を示す。装置500は、LCDパネルのようなディスプレイ501、および3つのボタン502〜504を有する。ユーザは「次へ(Next)」ボタン502を使用して、(ディスプレイ501上で参照する)パラメータをスクロールさせることができ、「+」ボタン504および「−」ボタン503を使用して、必要な任意の値を変更することができる。代替的なユーザ入力配置を、当技術分野で公知なように使用してもよい。
別の例では、ユーザはコンピュータ上のUI(user interface)を介して、キャプチャモードについてのパラメータを指定することができる。ユーザインタフェースのスクリーン600の例を図6に示す。ユーザは、ボックス601内でキャプチャモードの名前を指定でき、キャプチャ条件を定義するために使用したいセンサ入力を、ボタン602を使用して示すことができる。センサ入力(例えば、光レベル変化603)を選択する場合、ユーザはボックス604内で必要な値をタイプすることにより、または上矢印および下矢印605を使用することにより、条件を指定することができる。ユーザは比較パラメータ(</=/>、図6には示さず)を変更することもできる。「次へ」ボタン606および「戻る(Back)」ボタン(図示せず)を使用してスクロールできるUI内には、幾つかのスクリーンが設置可能である。ユーザがキャプチャモードの指定を完了するとき、ユーザは「完了(Finish)」ボタン607を押下する。これによりXMLファイルを生成することができる。そのXMLファイルを、(上述のように)装置にアップロードして、メモリに記憶できる。(図1のインタフェース116のような)インタフェースまたは(例えば、図1の無線送受信機112への)無線接続を介して、パラメータを上記の装置にアップロードできる。別の例では、ユーザは例えばコンピュータ上のテキスト編集プログラムを使用して、XMLファイルを直接編集することで、キャプチャモードについてのパラメータを指定することができる。1つまたは複数のユーザカスタマイズ可能モードを定義した後、これらのモードを(存在すれば)装置上のインタフェースを使用して、またはコンピュータ上のユーザインタフェースを介して編集することができる。
上述のように、自動イメージキャプチャ装置は、メモリ115に幾つかのキャプチャモードの詳細を記憶することができる。その幾つかは事前設定モードでよく、その幾つかはユーザカスタマイズ可能モードでもよい。装置は任意の時点において単一のモードで動作可能であり、装置は、装置が現在動作中のモードのユーザに、視覚的な指標を提供できる。装置がディスプレイ(例えば、図5のディスプレイ501)を有する場合、ディスプレイは使用中のモードの名前を示すことができる。装置が1つまたは複数のLED(例えば、図1のLED117)を有する場合、これらを使用して、その色または状態(オン/オフ/点滅)に従ってキャプチャモードの指標を提供することができる。別の例では、ユーザ入力(例えば、ジェスチャ、ボタンの押下)に応じて動作モードのオーディオ指標をユーザに提供することができる。
キャプチャモード間の切り替えを、外部入力、センサ情報または装置状態に応じて自動的に行うことができる。追加または代替として、ユーザ入力に応じてキャプチャモード間で装置を切り替えることができる。自動イメージキャプチャ装置が(図5に示すように)ボタンまたは(図7に示すように)ダイヤル701を有する場合、これらを使用してキャプチャモード間で手動で切り替えることができる。別の例では、ジェスチャと関連付けたセンサ入力を認識するようにプログラムされている装置で、ジェスチャを使用して装置にモード間で切り替えさせることができる。別の例では、マイクロフォン(図1の項目109)を通して検出したオーディオに対して音声認識を使用することができる。さらなる例では、スイッチを入れた(例えば、正面を下方に向けた)ときの装置の位置を使用して、装置が動作するモードを指定することができる。装置をキャプチャモード間で切り替える時点を定義するパラメータをメモリ307に記憶することができる(図3を参照)。
自動イメージキャプチャ装置100は、Microsoft Outlook(登録商標)または外部データベースのような外部カレンダから得たデータに応じて、キャプチャモード間で自動的に切り替えることができる。カレンダ情報を使用して、特定の時点に最も適切なキャプチャモードを決定することができる。例えば、カレンダ情報は着用者が会議中であるときを識別でき、従って装置を自動的に、計画した会議の開始時刻に「会議(meeting)」キャプチャモードに切り替え、計画した会議の終了時刻にこのモードを消すことができる。カレンダ情報を使用して、会議(またはカメラにおける他のイベント)中にキャプチャした任意のイメージに注釈付けすることもできる。この注釈をセンサ情報とともにイメージファイルの一部として(例えば、上述のようにメタデータとして)(例えば、センサデータ記憶306に)記憶することができる。カレンダから得た位置情報を、代替または追加として使用してイメージを注釈付けすることができる。他の位置情報(例えば、GPS位置情報)が利用可能でない場所(例えば、GPS位置情報は建物内では利用可能でないことがよくある)では、これは特に有用であろう。特に顔検出アルゴリズムを使用してイメージ内の顔の存在を決定する場合、イベントの出席者リストを使用してイベント中にキャプチャしたイメージに注釈付けすることができる。これにより、特定のイメージ内にいる人の識別においてイメージの観察者(またはイメージを検索する人)を支援することができる。
カレンダプログラムとキャプチャ装置100との間のこのインターワーキング(inter−working)のために、インタフェースプログラムを使用できる。インタフェースプログラムはユーザのコンピュータ上で実行でき、インタフェースプログラムによりカレンダプログラム内の特定のキーワードまたはイベントタイプ(例えば、会議、社会イベント、葬式等)を検索し、次いでそれらイベントの前に装置100にアップロードできるファイルを小さなサイズで生成することができる。このファイルは一連のモードを備え、キャプチャ装置100は、そのモード変更を行うべき特定の回数についての情報で、その一連のモードを経て進行する。そのファイルは、(図3に示す部分307において)メモリ115に記憶することができ、マイクロプロセッサ101によりアクセスして、モード変更を自動的に行うべき時点を決定できる。別の例では、インタフェースプログラムの機能は、カレンダプログラムに統合することができる。
別の例では、キャプチャ装置100は装置上で実行されるカレンダプログラムを有し、これによりキャプチャモードの自動変更を、例えばその変更が必要な時点でトリガすることができる。自身の上で実行中のカレンダプログラムを有する現行の携帯装置に関して、カレンダプログラムをスタンドアロン方式で動作でき、またはユーザのコンピュータ上で実行中のカレンダプログラムと、(例えば、インタフェース116または無線送受信機112を介して)同期することができる。
装置が複数の人によって使用される場合、装置の着用者を、着用者に関連付けられたRFID(Radio Frequency Identification:無線周波数識別)タグまたは着用者の携帯電話もしくはPDA(personal digital assistantant:携帯情報端末)からのBluetooth信号のような外部RF入力から決定することができる。自動イメージキャプチャ装置の着用者についてのこの情報に基づいて、装置はその着用者が指定したデフォルトのキャプチャモードに自動的に切り替えることができ、着用者はそのデフォルトのモードをカスタマイズすることができる。
自動イメージキャプチャ装置は、例えばコンピュータへの接続時に、装置の状態に応じてキャプチャモード間で切り替えることができる。例えば、装置がwebcamのように動作する「ドック」モードを有する場合、物理接続を通して(例えば、インタフェース116に接続したUSBリード線により)、または無線で(例えば、無線送受信機112を介したBluetooth接続上で)コンピュータに接続するとき、その装置をこのモードに自動的に切り替えることができる。
装置の状態によりキャプチャモード間で装置を切り替える別の例は、装置のバッテリ(図1の項目103)が低下し始めるときである。低バッテリの状況を検出すると、警告(例えば、視覚的な警告または可聴式の警告)をユーザに提供することができ、装置をバッテリ集約度(battery intensive)がより小さいキャプチャモードに切り替えることができる。これには、センサの幾つかのスイッチを消すこと、および/またはリモートセンサ(図1の項目110)からの信号受信を停止すること、ならびにキャプチャ条件を示す少ないセンサ集合を使用することが含まれる。装置の状態によりキャプチャモード間で装置を切り替えることができるさらなる例は、利用可能なメモリが閾値未満になる(例えば、残りの容量が50イメージ未満になる)ときである。装置を、イメージキャプチャ間の最小時間が(例えば図6に示すように10秒から144秒に)増加するキャプチャモードに切り替えることができる。この場合も、警告をユーザに提供することができる。
上述の説明では、バッテリレベル/メモリが閾値未満に低下するときに、装置を低バッテリ/メモリ集約キャプチャモードに自動的に切り替える。別の例では、ユーザはユーザカスタマイズキャプチャモードの一部として、低バッテリまたは低メモリ警告レベルのいずれかに到達したときに、装置が行うべき変更を指定することができる。ユーザは、低バッテリおよび低メモリ警告が発生する閾値を指定することもできる。
自動イメージキャプチャ装置は、センサ情報に応じてキャプチャモード間で切り替えることができる。例において、動きが検出されず、光および温度値がある期間一定のままであるとき、装置を自動的に「ドック」webcamモードに切り替えることもできる。これは、装置がその時点で固定位置にあることを示唆する。
低メモリ警告が発生する場合、イメージ評価アルゴリズムを後続のキャプチャイメージに使用して、その結果、可能ならばメモリが満杯になる時点を遅らせることができる。アルゴリズムの例は、「シーンの変化」キャプチャモードに関連して上述してある。追加(または代替)として、アルゴリズムを記憶イメージの一部または全部に使用して、非常に類似する隣接イメージを削除することができる。これにより、大量のメモリ空間を解放することができるが、プロセッサ集約的および電力集約的である。また一方、イメージ評価アルゴリズムをカメラのバックグラウンドで実行することにより、プロセッサ負荷を時間で分散して、利用可能なメモリが制限される場合に削除候補のイメージ集合を識別することができる。保持したイメージと実質的に同一であるイメージを最初に削除し、差異がより大きいイメージを続いて削除するように、この候補集合では削除するイメージを特定の順序で識別できる。イメージを、削除に対する類似性により重み付けすることに加えて、古いイメージを、それらが最近キャプチャしたイメージより削除される可能性が高いように重み付けすることもできる。この順序でイメージを削除することにより、装置は、そのメモリが完全に満杯になるポイントに決して到達しないように動作できる。メモリが満杯になるポイントに装置が近づくと、イメージを削除することができ、その結果、新しいイメージを保存することができる。結果的に、着用者は後続の部分を失わずに、装置を着用した時間全体に渡るサンプルレコードを有することになる。その動作はこの場合、最終的にはバッテリ寿命により制限される。別の例では、装置はこの削除プロセスを履歴情報に基づいて修正することもできる。装置が過去にドックされ、データが毎日午前5時から午前6時の間にダウンロードされる場合、装置は、自身が午前5時から午前6時の間に再度ドックされると仮定することができ、利用可能なメモリが低下し始めると、その装置は自身が午前6時に満杯に到達するということに基づいて、メモリを管理することができる。
キャプチャモードをカスタマイズできることに加えて、上述のように、例えば図6に示すユーザインタフェースを使用して、ユーザは装置が自動的にキャプチャモード間で変化する条件をカスタマイズすることもできる。これを、キャプチャモードの指定と類似した方法でカメラ上またはカメラ外(例えば、コンピュータ上)で指定することができる。幾つかの例では、(上述のように)ユーザは「キャプチャ防止」モードが装置により使用される時は指定することができない。上述のように、これらの条件をメモリ115の部分307内部に記憶することができる(図1および3を参照)。
自動イメージキャプチャ装置が図7に示すようにダイヤル701を有する場合、ユーザは装置上の設定の各々(例えば、図7の設定1〜6)の効果をカスタマイズすることもできる。例えば、装置が5つの事前設定キャプチャモードおよび5つのユーザカスタマイズモードを有する場合、ユーザは設定1〜5が5つのユーザカスタマイズモードに対応し、設定6が5つの事前設定キャプチャモードのうち選択した1つに対応すると定義することができる。装置がダイヤルの代わりにボタン集合または他の入力装置を有する場合、ユーザは同様に入力装置をカスタマイズすることができる。
上の説明はMicrosoft Researchが開発したSenseCam装置に限定されず、例えば予め定義したキャプチャ条件を満たすときに、自動的にイメージをキャプチャする能力を有する任意のイメージキャプチャ装置に適用可能である。キャプチャ条件は必ずしもセンサデータに関連するとは限らず、他のパラメータに関連してもよい。
上述の説明は装着型自動イメージキャプチャ装置に関連するが、これは例に過ぎない。装置は代替的に携帯型装置であること、または例えば建物内もしくは車内といった静的な位置で動作する装置でもよい。装置が建物内の固定位置で動作する場合、部屋/建物が占有されているか否かに依存して異なるモードを使用でき、この場合、外部信号(例えば、建物の警報システムが作動もしくは解除または警報システムがトリガされたことを示す信号)を受信すると自動的にモードを変更することができる。装置が自動車内の静的位置で動作する場合、自動車のエンジンが切られているか、停止または移動しているか否かに依存して異なるモードを使用することができる。自動車が救急サービス車である場合、青色灯を点灯するときに別のモードを使用することができる。自動車の例では、モードのスイッチを自動車の制御システムから受信した外部信号に応じて自動的に入れることができる。
上の説明はメモリリコール支援または日記生成ツールのいずれかとして使用する装置に関するが、装置を、セキュリティまたは調査(上述の建物および自動車の応用例を参照)、健康管理、(例えば、トレーニング記録/支援として)フィットネス/スポーツ、旅行およびペットの世話を含む多数の様々な応用例で使用することができる。
当技術分野の技術者は、プログラム命令の記憶に利用する記憶装置をネットワークに分散できることを理解するであろう。例えば、リモートコンピュータはソフトウェアとして記述したプロセスの例を記憶することができる。ローカルまたは端末コンピュータはリモートコンピュータにアクセスして、ソフトウェアの一部または全部をダウンロードしてプログラムを実行することができる。または、ローカルコンピュータは必要に応じてソフトウェアをダウンロードすることができ、またはローカル端末で幾つかのソフトウェア命令を実行して、幾つかをリモートコンピュータ(またはコンピュータネットワーク)で実行することができる。当技術分野の技術者は、当技術分野の技術者に公知の従来技術を利用することでソフトウェア命令の全部または一部をDSP(Digital Signal Processor)、プログラマブルロジックアレイなどのような専用回路により実行できることも理解するであろう。
当技術分野の技術者に明らかなように、本明細書で提供した任意の範囲または装置の値を、求めた効果を失わずに拡張または変更することができる。
本明細書で説明した方法のステップを任意の適切な順序、または必要に応じて同時に実行することができる。
好適な実施形態の上の説明は例として与えたに過ぎず、当技術分野の技術者により様々な修正を加えることができることは理解されるであろう。
発明の主題を構造的特徴および/または方法論的動作に固有な言葉で説明したが、添付の特許請求の範囲で定義する発明の主題は必ずしも上述の特定の特徴または動作に限定されないことは理解されるべきである。むしろ、上述の特定の特徴および動作は、特許請求の範囲に係る発明を実装する形態の例として開示してある。
自動イメージキャプチャ装置の概略図である。 キャプチャモードについてのキャプチャ条件の集合の例を示す図である。 図1の自動イメージキャプチャ装置内のメモリの概略図である。 図1の自動イメージキャプチャの動作を示す例示的なフロー図である。 自動イメージキャプチャ装置の正面の概略図である。 ユーザインタフェース画面の例を示す図である。 自動イメージキャプチャ装置の正面の別の概略図である。 ユニバーサルテクストンボキャブラリを定義するプロセスを示す例示的なフロー図である。 図8に示すユニバーサルテクストンボキャブラリを定義するプロセスにおける段階の概略図である。 イメージのテクストンヒストグラムを決定する方法を示す例示的なフロー図である。 2つのテクストンヒストグラムの例を示す図である。

Claims (19)

  1. イメージをキャプチャをするときの動作モード指定する複数のキャプチャモードのうちの任意の1つで動作するイメージキャプチャ装置であって、
    イメージセンサと、
    複数のキャプチャトリガ集合を記憶するように配置されたメモリであって、それぞれのキャプチャトリガ集合が前記複数のキャプチャモードの1つに関連付けられたメモリと、
    選択したキャプチャモードで前記装置が動作するように、前記複数のキャプチャモードのうちの1つを選択するように配置したプロセッサであって、前記関連付けられたキャプチャトリガ集合内のキャプチャトリガが満たされる場合にイメージを自動的にキャプチャするプロセッサと、
    前記イメージキャプチャ装置の置かれた状況の変化、光、温度、心拍数、赤外線、加速度、または音の変化として検出するように配置されたセンサと
    を備え、
    前記キャプチャトリガ集合のうちの少なくとも1つは、前記センサの入力をキャプチャ条件とするキャプチャトリガを備えることを特徴とするイメージキャプチャ装置。
  2. 前記プロセッサは、受信した入力に応じて前記キャプチャモードのうちの1つを選択するように配置されたことを特徴とする請求項1に記載のイメージキャプチャ装置。
  3. 前記メモリは、モード変更パラメータ集合を記憶するように配置され、前記プロセッサは、受信した入力に応じて、および前記モード変更パラメータ集合に従って、キャプチャモードを再選択するように配置されたことを特徴とする請求項1または2に記載のイメージキャプチャ装置。
  4. 前記受信した入力は、時刻、ユーザ入力、カレンダプログラムからのトリガ、無線受信機が受信した信号、センサから受信した入力、装置状態情報およびモードシーケンスファイルのうちの少なくとも1つを備えることを特徴とする請求項2または3に記載のイメージキャプチャ装置。
  5. 前記受信した入力は時刻であり、前記モード変更パラメータ集合は、一連のモードおよび関連付けられたモード変更時刻とを備えることを特徴とする請求項3に記載のイメージキャプチャ装置。
  6. ユーザ入力手段をさらに備え、前記受信した入力は、前記ユーザ入力手段から受信することを特徴とする請求項2または3に記載のイメージキャプチャ装置。
  7. 前記キャプチャトリガ集合のうちの少なくとも1つは、ユーザ定義であることを特徴とする請求項1乃至請求項6のいずれかに記載のイメージキャプチャ装置。
  8. 前記プロセッサは、キャプチャした第1のイメージを第2のイメージと比較して、前記第1のイメージおよび第2のイメージが類似する場合には、前記2つのイメージのうちの1つを記憶しないように配置されたことを特徴とする請求項1乃至7のいずれかに記載のイメージキャプチャ装置。
  9. イメージをキャプチャをするときの動作モード指定する少なくとも2つのキャプチャモードから成る集合からキャプチャモードを選択するステップと、
    前記選択したキャプチャモードに関連付けられたキャプチャトリガ集合にアクセスするステップと、
    受信した入力が、前記アクセスしたキャプチャトリガ集合内のキャプチャトリガを満たす場合に、イメージのキャプチャをトリガするステップであって、前記キャプチャトリガ集合は、イメージキャプチャ装置の置かれた状況の変化、光、温度、心拍数、赤外線、加速度、またはた音の変化として検出するように配置されたセンサの入力をキャプチャ条件とするキャプチャトリガ集合を含むステップと、
    モード変更パラメータが満たされる場合に、前記の少なくとも2つのキャプチャモードから成る集合から別のキャプチャモードを選択するステップと
    を含むことを特徴とするイメージキャプチャ方法。
  10. 前記キャプチャモードを選択するステップは、
    入力を受信するステップと、
    前記受信した入力に従って、少なくとも2つのキャプチャモードから成る集合からキャプチャモードを選択するステップと
    を含むことを特徴とする請求項9に記載の方法。
  11. 前記入力を受信するステップは、ユーザ、センサ、無線受信機およびクロックのうちの1つから入力を受信するステップを含むことを特徴とする請求項10に記載の方法。
  12. 前記イメージのキャプチャをトリガするステップは、
    ユーザ、センサ、無線受信機およびクロックのうちの1つから入力を受信するステップと、
    前記受信した入力が、前記アクセスしたキャプチャトリガ集合内のキャプチャトリガを満たす場合にイメージのキャプチャをトリガするステップと
    を含むことを特徴とする請求項9乃至請求項11のいずれかに記載の方法。
  13. 前記キャプチャトリガ集合は、ユーザ定義であることを特徴とする請求項9乃至請求項12のいずれかに記載の方法。
  14. 前記モード変更パラメータは、ユーザ入力集合を指定することを特徴とする請求項9乃至請求項13のいずれかに記載の方法。
  15. 前記別のキャプチャモードを選択するステップは、
    ユーザ入力を検出するステップと、
    前記検出したユーザ入力が前記モード変更パラメータにおいて指定されることを識別するステップと、
    前記検出したユーザ入力と前記モード変更パラメータに基づいて、前記少なくとも2つのキャプチャモードから成る集合から別のキャプチャモードを選択するステップと
    を含むことを特徴とする請求項14に記載の方法。
  16. 前記別のキャプチャモードを選択するステップは、
    無線受信機を介して受信した信号を検出するステップと、
    前記受信した信号と前記モード変更パラメータに基づいて、前記少なくとも2つのキャプチャモードから成る集合から別のキャプチャモードを選択するステップと
    を含むことを特徴とする請求項9乃至請求項14のいずれかに記載の方法。
  17. 前記イメージのキャプチャをトリガするステップは、キャプチャした第1のイメージを第2のイメージと比較して、前記第1のイメージおよび前記第2のイメージが類似する場合には、前記2つのイメージのうちの1つを記憶しないようにするステップを含むことを特徴とする請求項9乃至16のいずれかに記載の方法。
  18. コンピュータ上で実行される場合に請求項9乃至請求項17のいずれかに記載の方法前記コンピュータに実施させるコンピュータプログラム。
  19. コンピュータ可読媒体上に記憶された請求項18に記載のコンピュータプログラム。
JP2008544354A 2005-12-05 2006-11-16 自動キャプチャモード Active JP4912410B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP05257469.6A EP1793580B1 (en) 2005-12-05 2005-12-05 Camera for automatic image capture having plural capture modes with different capture triggers
EP05257469.6 2005-12-05
PCT/US2006/044871 WO2007067335A1 (en) 2005-12-05 2006-11-16 Automatic capture modes

Publications (2)

Publication Number Publication Date
JP2009518951A JP2009518951A (ja) 2009-05-07
JP4912410B2 true JP4912410B2 (ja) 2012-04-11

Family

ID=36005813

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008544354A Active JP4912410B2 (ja) 2005-12-05 2006-11-16 自動キャプチャモード

Country Status (6)

Country Link
US (1) US8587670B2 (ja)
EP (1) EP1793580B1 (ja)
JP (1) JP4912410B2 (ja)
KR (1) KR20080093970A (ja)
CN (1) CN101341734A (ja)
WO (1) WO2007067335A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10638046B2 (en) 2014-02-21 2020-04-28 Sony Corporation Wearable device, control apparatus, photographing control method and automatic imaging apparatus

Families Citing this family (79)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007336516A (ja) * 2006-05-17 2007-12-27 Konica Minolta Business Technologies Inc 画像処理プログラム、画像処理装置、および画像処理方法
US8331725B2 (en) * 2007-01-12 2012-12-11 Qualcomm Incorporated Panoramic imaging techniques
JP2008206138A (ja) * 2007-01-26 2008-09-04 Matsushita Electric Ind Co Ltd 撮像装置および画像処理装置
US20090083768A1 (en) * 2007-09-20 2009-03-26 Hatalkar Atul N Context platform framework for aggregation, analysis and use of contextual information
WO2009053863A1 (en) * 2007-10-26 2009-04-30 Sony Ericsson Mobile Communications Ab Automatic timing of a photographic shot
US7720364B2 (en) 2008-01-30 2010-05-18 Microsoft Corporation Triggering data capture based on pointing direction
US8743223B2 (en) 2008-02-21 2014-06-03 Microsoft Corporation Linking captured images using short range communications
US8599132B2 (en) * 2008-06-10 2013-12-03 Mediatek Inc. Methods and systems for controlling electronic devices according to signals from digital camera and sensor modules
JP5434038B2 (ja) * 2008-10-08 2014-03-05 株式会社ニコン 撮像装置
US8346915B2 (en) 2009-05-04 2013-01-01 Qualcomm Incorporated System and method of recording and sharing mobile application activities
JP5431083B2 (ja) * 2009-09-16 2014-03-05 オリンパスイメージング株式会社 撮影装置および撮影装置の制御方法
US9113064B2 (en) * 2009-11-05 2015-08-18 Olympus Corporation Image pickup apparatus and image acquisition method
KR101110725B1 (ko) * 2010-06-16 2012-02-27 엠텍비젼 주식회사 썸네일 이미지를 이용한 후보 이미지 제시 방법 및 이를 수행하는 이미지 신호 처리 장치와 촬상 장치
JP5577900B2 (ja) * 2010-07-05 2014-08-27 ソニー株式会社 撮像制御装置、撮像制御方法、プログラム
US9118832B2 (en) 2010-08-17 2015-08-25 Nokia Technologies Oy Input method
GB201015349D0 (en) * 2010-09-15 2010-10-27 Univ Southampton Memory device
AU2010257454B2 (en) * 2010-12-24 2014-03-06 Canon Kabushiki Kaisha Summary view of video objects sharing common attributes
CA2821565C (en) * 2011-01-07 2017-04-18 Research In Motion Limited System and method for controlling mobile communication devices
KR101794350B1 (ko) * 2011-02-08 2017-12-04 삼성전자주식회사 휴대단말기의 영상 촬영 방법
US8645230B2 (en) * 2011-03-18 2014-02-04 Microsoft Corporation Virtual closet for storing and accessing virtual representations of items
US9049983B1 (en) * 2011-04-08 2015-06-09 Amazon Technologies, Inc. Ear recognition as device input
US9153031B2 (en) 2011-06-22 2015-10-06 Microsoft Technology Licensing, Llc Modifying video regions using mobile device input
US20130038756A1 (en) * 2011-08-08 2013-02-14 Samsung Electronics Co., Ltd. Life-logging and memory sharing
US20130201344A1 (en) * 2011-08-18 2013-08-08 Qualcomm Incorporated Smart camera for taking pictures automatically
US10089327B2 (en) 2011-08-18 2018-10-02 Qualcomm Incorporated Smart camera for sharing pictures automatically
US9596398B2 (en) * 2011-09-02 2017-03-14 Microsoft Technology Licensing, Llc Automatic image capture
JP5863357B2 (ja) * 2011-09-21 2016-02-16 オリンパス株式会社 拡大観察装置、並びに、拡大観察装置の画像表示方法及び検鏡法切換方法
WO2013101853A2 (en) * 2011-12-27 2013-07-04 Eye Stalks Corporation Method and apparatus for visual monitoring
CN103999446B (zh) 2011-12-30 2019-01-01 英特尔公司 电子设备的用户界面
JP2013229856A (ja) * 2012-03-28 2013-11-07 Panasonic Corp 画像処理装置、撮像装置、サーバ装置およびコンピュータプログラム
US8881170B2 (en) * 2012-04-30 2014-11-04 Genesys Telecommunications Laboratories, Inc Method for simulating screen sharing for multiple applications running concurrently on a mobile platform
US20130286232A1 (en) * 2012-04-30 2013-10-31 Motorola Mobility, Inc. Use of close proximity communication to associate an image capture parameter with an image
US9442100B2 (en) 2013-12-18 2016-09-13 Medibotics Llc Caloric intake measuring system using spectroscopic and 3D imaging analysis
US9042596B2 (en) 2012-06-14 2015-05-26 Medibotics Llc Willpower watch (TM)—a wearable food consumption monitor
US9254099B2 (en) 2013-05-23 2016-02-09 Medibotics Llc Smart watch and food-imaging member for monitoring food consumption
US9536449B2 (en) 2013-05-23 2017-01-03 Medibotics Llc Smart watch and food utensil for monitoring food consumption
EP2713229B1 (de) * 2012-09-26 2017-11-08 Siemens Aktiengesellschaft Verfahren zur übertragung von adress-, diagnose- und/oder konfigurationsinformationen, infrastrukturgerät und diagnosegerät
US9794527B1 (en) 2012-09-28 2017-10-17 Google Inc. Content capture
US8957988B2 (en) 2013-01-23 2015-02-17 Orcam Technologies Ltd. Apparatus for processing images to prolong battery life
US9341483B2 (en) 2013-03-11 2016-05-17 Qualcomm Incorporated Methods and apparatus for position estimation
US9282244B2 (en) 2013-03-14 2016-03-08 Microsoft Technology Licensing, Llc Camera non-touch switch
US8979398B2 (en) 2013-04-16 2015-03-17 Microsoft Technology Licensing, Llc Wearable camera
US9232137B2 (en) 2013-04-24 2016-01-05 Microsoft Technology Licensing, Llc Motion blur avoidance
US9066007B2 (en) 2013-04-26 2015-06-23 Skype Camera tap switch
US20140342326A1 (en) * 2013-05-14 2014-11-20 Jeanne-Louise SHIH Memory capturing, storing and recalling system and method
US9529385B2 (en) 2013-05-23 2016-12-27 Medibotics Llc Smart watch and human-to-computer interface for monitoring food consumption
WO2015001400A1 (en) * 2013-07-03 2015-01-08 Eron Elektronik Bilgisayar Ve Yazilim Sanayi Tic. Ltd. Sti. A triggering system
US20150103164A1 (en) * 2013-10-14 2015-04-16 Narrative AB Lifelogging device, lifelogging system and method of controlling a wearable lifelogging device
US9800782B2 (en) * 2013-10-14 2017-10-24 Narrative AB Method of operating a wearable lifelogging device
RU2013150049A (ru) * 2013-11-11 2015-05-20 Нокиа Корпорейшн Способ и устройство для захвата изображений
US10152864B2 (en) 2014-02-28 2018-12-11 Tyco Fire & Security Gmbh Distributed rules engines for robust sensor networks
US10878323B2 (en) 2014-02-28 2020-12-29 Tyco Fire & Security Gmbh Rules engine combined with message routing
US11184580B2 (en) 2014-05-22 2021-11-23 Microsoft Technology Licensing, Llc Automatically curating video to fit display time
US9503644B2 (en) 2014-05-22 2016-11-22 Microsoft Technology Licensing, Llc Using image properties for processing and editing of multiple resolution images
US9451178B2 (en) 2014-05-22 2016-09-20 Microsoft Technology Licensing, Llc Automatic insertion of video into a photo story
US9584980B2 (en) 2014-05-27 2017-02-28 Qualcomm Incorporated Methods and apparatus for position estimation
EP3013032B1 (en) 2014-05-29 2020-05-06 Huawei Technologies Co., Ltd. Image acquisition method and apparatus
US20150365575A1 (en) * 2014-06-13 2015-12-17 Sony Corporation Lifelog camera and method of controlling same according to transitions in activity
US9832373B2 (en) 2014-06-24 2017-11-28 Cyberlink Corp. Systems and methods for automatically capturing digital images based on adaptive image-capturing templates
US9846815B2 (en) * 2015-07-16 2017-12-19 Google Inc. Image production from video
US10074003B2 (en) * 2014-07-11 2018-09-11 Intel Corporation Dynamic control for data capture
EP3751839A1 (en) * 2015-05-01 2020-12-16 GoPro, Inc. Camera mode control
US10154196B2 (en) 2015-05-26 2018-12-11 Microsoft Technology Licensing, Llc Adjusting length of living images
US10306081B2 (en) * 2015-07-09 2019-05-28 Turner Broadcasting System, Inc. Technologies for generating a point-of-view video
CN105138126B (zh) * 2015-08-26 2018-04-13 小米科技有限责任公司 无人机的拍摄控制方法及装置、电子设备
FR3041136A1 (fr) * 2015-09-14 2017-03-17 Parrot Procede de determination d'une duree d'exposition d'une camera embarque sur un drone, et drone associe.
KR102400640B1 (ko) * 2015-09-23 2022-05-20 엘지전자 주식회사 디스플레이 장치 및 이의 동작 방법
WO2017098524A1 (en) * 2015-12-09 2017-06-15 Smartron India Private Limited A system and method for automatically capturing self-images or selfies in a mobile device
US10229324B2 (en) 2015-12-24 2019-03-12 Intel Corporation Video summarization using semantic information
GB2546249A (en) * 2016-01-05 2017-07-19 Oclu Ltd Video recording device
GB2546248A (en) * 2016-01-05 2017-07-19 Oclu Ltd Customisable modes
US10402043B1 (en) 2017-08-10 2019-09-03 Gopro, Inc. Systems and methods for indicating highlights within spherical videos
GB2581621B (en) * 2017-09-28 2022-04-06 Canon Kk Image pickup apparatus and control method therefor
JP6766086B2 (ja) 2017-09-28 2020-10-07 キヤノン株式会社 撮像装置およびその制御方法
CN111316123B (zh) * 2017-11-03 2023-07-25 谷歌有限责任公司 单视图深度预测的光圈监督
US10270967B1 (en) 2017-11-30 2019-04-23 Gopro, Inc. Auto-recording of media data
US10931868B2 (en) * 2019-04-15 2021-02-23 Gopro, Inc. Methods and apparatus for instant capture of content
CN117501701A (zh) * 2021-05-19 2024-02-02 交互数字专利控股公司 用户感知自动内容捕获和增强
US20230400688A1 (en) * 2022-06-14 2023-12-14 Google Llc Wearable device with camera

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000131752A (ja) * 1999-11-19 2000-05-12 Olympus Optical Co Ltd 自動撮影システム
JP2000224452A (ja) * 1999-01-28 2000-08-11 Takeshi Aoki 身分証明書型デジタルスチルカメラ
JP2001086456A (ja) * 1999-09-10 2001-03-30 Hitachi Denshi Ltd 映像監視記録装置および映像監視記録装置におけるタイマ録画機能の設定方法
JP2002094980A (ja) * 2000-09-12 2002-03-29 Nec Corp 映像投影システム
JP2004356970A (ja) * 2003-05-29 2004-12-16 Casio Comput Co Ltd ウエアラブルカメラの撮影方法、撮像装置、及び撮影制御プログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5483320A (en) * 1989-05-25 1996-01-09 Nikon Corporation Exposure control apparatus for camera
GB9418396D0 (en) * 1994-09-13 1994-11-02 Somner Timothy L Camera
EP1004967B1 (en) * 1998-11-25 2004-03-17 Eastman Kodak Company Photocollage generation and modification using image recognition
US6476858B1 (en) * 1999-08-12 2002-11-05 Innovation Institute Video monitoring and security system
US6301440B1 (en) * 2000-04-13 2001-10-09 International Business Machines Corp. System and method for automatically setting image acquisition controls
US20030081127A1 (en) * 2001-10-30 2003-05-01 Kirmuss Charles Bruno Mobile digital video recording with pre-event recording
JP4105957B2 (ja) * 2002-03-12 2008-06-25 カシオ計算機株式会社 撮像装置及び撮像方法
US7319780B2 (en) * 2002-11-25 2008-01-15 Eastman Kodak Company Imaging method and system for health monitoring and personal security
GB2400667B (en) * 2003-04-15 2006-05-31 Hewlett Packard Development Co Attention detection
GB2403366B (en) * 2003-06-27 2007-12-27 Hewlett Packard Development Co Camera mounting and image capture
GB2403365B (en) 2003-06-27 2008-01-30 Hewlett Packard Development Co An autonomous camera having exchangeable behaviours
JP4364002B2 (ja) * 2004-02-06 2009-11-11 オリンパス株式会社 頭部装着型カメラ及び頭部装着型カメラによる撮影方法
JP2005316883A (ja) 2004-04-30 2005-11-10 Funai Electric Co Ltd 遠隔見守りシステム、及び遠隔見守りシステムに用いられる宅内装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000224452A (ja) * 1999-01-28 2000-08-11 Takeshi Aoki 身分証明書型デジタルスチルカメラ
JP2001086456A (ja) * 1999-09-10 2001-03-30 Hitachi Denshi Ltd 映像監視記録装置および映像監視記録装置におけるタイマ録画機能の設定方法
JP2000131752A (ja) * 1999-11-19 2000-05-12 Olympus Optical Co Ltd 自動撮影システム
JP2002094980A (ja) * 2000-09-12 2002-03-29 Nec Corp 映像投影システム
JP2004356970A (ja) * 2003-05-29 2004-12-16 Casio Comput Co Ltd ウエアラブルカメラの撮影方法、撮像装置、及び撮影制御プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10638046B2 (en) 2014-02-21 2020-04-28 Sony Corporation Wearable device, control apparatus, photographing control method and automatic imaging apparatus

Also Published As

Publication number Publication date
JP2009518951A (ja) 2009-05-07
KR20080093970A (ko) 2008-10-22
US8587670B2 (en) 2013-11-19
WO2007067335A1 (en) 2007-06-14
EP1793580A1 (en) 2007-06-06
US20100171846A1 (en) 2010-07-08
EP1793580B1 (en) 2016-07-27
CN101341734A (zh) 2009-01-07

Similar Documents

Publication Publication Date Title
JP4912410B2 (ja) 自動キャプチャモード
KR102610013B1 (ko) 프라이버시 보호를 제공하는 단말 장치 및 그 동작 방법
US7742625B2 (en) Autonomous camera having exchangable behaviours
CN111294488B (zh) 摄像设备及其控制方法和存储介质
US20180025229A1 (en) Method, Apparatus, and Storage Medium for Detecting and Outputting Image
CN105069083B (zh) 关联用户的确定方法及装置
US11303802B2 (en) Image capturing apparatus, control method therefor, and storage medium
CN112425156B (zh) 一种基于连拍选择图像的方法及电子设备
KR102475999B1 (ko) 화상 처리장치 및 그 제어방법
KR20180133897A (ko) 사진 합성 방법, 장치, 프로그램 및 기록매체
CN110557560B (zh) 摄像设备及其控制方法和存储介质
JP2013162277A (ja) デジタルカメラ
JP7403218B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
CN105242775B (zh) 状态调整的方法及装置
JP4018967B2 (ja) 記録映像自動生成システム,記録映像自動生成方法,記録映像自動生成プログラムおよび記録映像自動生成プログラムの記録媒体
CN111512625B (zh) 摄像设备及其控制方法和存储介质
US11032468B2 (en) Image processing apparatus, image processing method, image capturing apparatus, and storage medium
US9407825B2 (en) Imaging apparatus, image processing apparatus, image processing method, and storage medium
US11659268B2 (en) Imaging apparatus capable of automatically capturing image, control method, and recording medium
JP2011040860A (ja) 画像処理装置及び画像処理プログラム
JP2017033382A (ja) 画像情報検索サーバ、画像情報検索方法、及び利用者端末
CN117201713A (zh) 音频处理方法及电子设备
CN117202081A (zh) 音频处理方法及电子设备
JP5473034B2 (ja) 端末装置及びプログラム
JP5218987B2 (ja) 端末装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091014

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100813

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101112

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110412

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110811

RD13 Notification of appointment of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7433

Effective date: 20110812

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20110812

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20110901

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120110

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120117

R150 Certificate of patent or registration of utility model

Ref document number: 4912410

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150127

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250