JP6565991B2 - 電子機器、被写体検出方法およびプログラム。 - Google Patents
電子機器、被写体検出方法およびプログラム。 Download PDFInfo
- Publication number
- JP6565991B2 JP6565991B2 JP2017176679A JP2017176679A JP6565991B2 JP 6565991 B2 JP6565991 B2 JP 6565991B2 JP 2017176679 A JP2017176679 A JP 2017176679A JP 2017176679 A JP2017176679 A JP 2017176679A JP 6565991 B2 JP6565991 B2 JP 6565991B2
- Authority
- JP
- Japan
- Prior art keywords
- subject
- size
- main subject
- image
- main
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Studio Devices (AREA)
- Image Analysis (AREA)
Description
第2の態様によると、被写体検出方法は、複数の画像を取得し、取得した画像から被写体と、前記被写体の大きさに関する被写体情報と、を検出し、前記被写体情報に基づいて、前記複数の画像から特定被写体を検出し、第1画像内で前記特定被写体とされた第1の被写体の前記被写体情報に基づく第1の大きさが、前記第1画像よりも後に取得された第2画像内において、第1閾値よりも小さくなり、かつ、前記第1の被写体と異なる第2の被写体の前記被写体情報に基づく大きさが、前記第1閾値よりも大きい第2閾値よりも大きくなると、特定被写体を前記第2の被写体に変更する。
第3の態様によると、プログラムは、複数の画像を取得する画像取得処理と、前記画像取得処理により取得した画像から被写体と、前記被写体の大きさに関する被写体情報と、を検出する第1検出処理と、前記被写体情報に基づいて、前記複数の画像から特定被写体を検出する第2検出処理と、をコンピュータに実行させるプログラムであって、前記第2検出処理は、第1画像内で前記特定被写体とされた第1の被写体の前記被写体情報に基づく第1の大きさが、前記第1画像よりも後に取得された第2画像内において、第1閾値よりも小さくなり、かつ、前記第1の被写体と異なる第2の被写体の前記被写体情報に基づく大きさが、前記第1閾値よりも大きい第2閾値よりも大きくなると、特定被写体を前記第2の被写体に変更する。
カメラボディ11は、デジタルカメラ10全体を制御する制御部1と、画像処理ユニット2と、CCDやCMOS等で構成される撮像素子5と、撮像素子5により撮影された画像、撮影情報、撮影メニューなどを表示するディスプレイ6と、無線通信部9とを備えている。
デジタルカメラ10は、被写体に対する焦点調整を自動的に行う自動合焦(AF)動作が可能な構成とされている。この自動合焦動作を行うため、撮影レンズ12は、合焦レンズ群15を備えている。合焦方式としては、例えば、コントラスト式AF、位相差検出式AF、或いは両者を併用した合焦方式が採用される。コントラスト式AFは撮像素子5の出力に基づいて実行される。位相差検出式AFは、図示しないAFセンサモジュール、或いは、撮像素子5に埋め込まれた位相差検出AFセンサを用いて実行される。
画像処理ユニット2は、撮像素子5で撮像された画像に対応する画像データに対して所定の画像処理、例えばホワイトバランス処理、ガンマ補正処理、レンズ収差の補正処理、ノイズ低減処理、ダイナミックレンジの拡大処理、画像データのリサイズ処理、RAWデータからJPEG等の圧縮データへの変換処理などを実行する。
撮像素子5は、静止画撮影に加え、所定のフレームレートでの連写撮影及び動画撮影が可能である。撮影された画像のデータは、システムバス3を介して画像処理ユニット2及びディスプレイ6に転送される。
ディスプレイ6は、撮影された静止画または動画をリアルタイムに表示できる他、後述するメモリカードなどの記憶媒体に記憶された静止画または動画を再生表示することもできる。さらにディスプレイ6は、タッチパネルセンサを備えていてもよく、撮影者がディスプレイ6に表示された画面上の一部をタッチするだけで、合焦させたい部分を指定できるようにしてもよい。
操作インターフェース部7は、デジタルカメラ10に備えられたダイヤル、ボタン、タッチパネル等の不図示の操作部材の操作による撮影者の操作情報をシステムバス3を介して制御部1に伝達する。制御部1のCPU1aは、操作インターフェース部7から伝達された操作情報に応じて、各構成要素を制御する。また、操作インターフェース部7は、撮影者により指定されたクロップ領域の位置とサイズをシステムバス3及び内部バス1eを介してCPU1aに伝達する。
メモリカードアクセス部8は、デジタルカメラ10に挿入されたメモリカード13に記憶されている画像データ、プログラム、ファームウェアなどを読み取ったり、撮像素子5により撮影され、画像処理ユニット2により画像処理された画像データをメモリカード13に書き込むための処理を実行する。また、メモリカードアクセス部8は、制御部1の指令により、メモリカード13に記憶されているプログラムやファームウェアを、システムバス3を介して制御部1のRAM1b或いはフラッシュメモリ1dに転送することもできる。CPU1aは、更新されたプログラムやファームウェアにより、所定の処理、例えば後述する主要被写体推定処理を実行する。
無線通信部9は、例えばWiFi(登録商標)機能を備えており、この機能により、デジタルカメラ10は無線でインターネット接続することが可能となる。例えば、無線通信部9は、制御部1の指令により、インターネット上で提供されるプログラムやファームウェア或いは画像データ等をダウンロードする際の通信を実行するようにしてもよい。ダウンロードされたプログラム等は、システムバス3を介して制御部1に転送される。制御部1のCPU1aは、転送されてきたプログラム等をフラッシュメモリ1dに書き込む。CPU1aは、更新されたプログラムやファームウェアにより、所定の処理、例えば後述する主要被写体推定処理を実行する。或いは、CPU1aは、ダウンロードした画像データを、RAM1bに撮像画像として記憶したり、ディスプレイ6に表示させたり、メモリカード13に書き込んだりしてもよい。逆に、CPU1aは、デジタルカメラ10により撮像された撮像画像をインターネットの所定サイトやブログにアップロードすることもできる。
また、無線通信部9は、スマートフォンやタブレット型端末などの携帯通信端末との間の双方向の通信を制御する。例えば制御部1は、無線通信部9を介して、画像処理ユニット2により画像処理された画像データを携帯通信端末に送信したり、携帯通信端末からの画像データを受信して画像処理ユニット2やディスプレイ6に転送することができる。また、無線通信部9は、携帯通信端末から送られてきたコマンドやプログラムを受信して制御部1に転送する。制御部1は、携帯通信端末から送られてきたコマンドやプログラムに基づいてデジタルカメラ10を制御することもできる。
更に、撮影レンズ12は、撮像素子5から被写体までの距離を検出するための距離エンコーダ12eと、撮影レンズ12がズームレンズの場合、撮影レンズ12の焦点距離に対応するズームリングの位置を検出する焦点距離エンコーダ12fとを備えている。検出された被写体までの距離及び焦点距離に関する情報は、内部バス12k及びシステムバス3を介して制御部1に送られる。制御部1は、検出された被写体までの距離及び焦点距離に基づいて所定の処理、例えば後述する主要被写体推定処理を実行する。
手振れ検出センサ12gにより検出された手振れ量を示す信号は、内部バス12k及びシステムバス3を介して制御部1に送られる。制御部1は、検出された手振れ量を打ち消すための防振レンズ群16の駆動量を計算し、当該駆動量をレンズCPU12aに伝達する。レンズCPU12aは、防振駆動部12dを制御することにより、手振れ量を打ち消すように防振レンズ群16を駆動させる。
(第1の実施形態)
図3には、デジタルカメラ10の制御部1が第1の実施形態に係る主要被写体推定装置として機能する場合の機能ブロック図が示されている。
また、制御部1は、検出された被写体から、被写体情報(撮像画像内での被写体の大きさ、位置等)を検出するための被写体情報検出部24と、検出された被写体情報から撮像画像の主要被写体を推定する主要被写体推定部31と、を備えている。
さらに、制御部1は、スコア関数Sを記憶するスコア関数メモリ22と、判定条件メモリ26と、を備えている。スコア関数メモリ22及び判定条件メモリ26は、図2のRAM1b、ROM1c、及び、フラッシュメモリ1dの少なくともいずれかで実現することができる。スコア関数Sは、被写体情報を変数として、当該被写体情報を与える被写体が主要被写体である確率の高さをスコアとして与える関数である。判定条件メモリ26に記憶される判定条件には、少なくとも、主要被写体とされている被写体を主要被写体から解除するため必要となる解除条件J1、及び画像中のある被写体を新たな主要被写体として設定するため必要となる設定条件J2が含まれている。主要被写体推定部31は、スコア関数S、解除条件J1及び設定条件J2に基づいて、当該撮像画像内の主要被写体を推定する。
また、制御部1は、追尾制御部33を備えている。追尾制御部33は、主要被写体推定部31により推定された主要被写体を追尾するため主要被写体情報を含む追尾制御信号を生成する。例えば、制御部1は、追尾制御信号によって、ディスプレイ6上の主要被写体の領域にAF枠を重畳表示させたり、合焦モータ12cを駆動させて、撮影レンズ12に、主要被写体に対しての合焦動作を実行させたりする。或いは、制御部1は、主要被写体の情報に基づいて、主要被写体に露出を合わせるためデジタルカメラのシャッター速度、撮影レンズ12の絞り、ISO感度を制御したりすることができる。追尾制御部33は、上記追尾制御信号を生成しなくともよく、追尾制御部33自体が上記制御を行ってもよい。主要被写体の情報は、この例の使用に限定されるものではなく、例えば主要被写体を含む領域の画像データをクロップする等、他の用途にも用いることができる。
なお、上述の被写体検出部23、被写体情報検出部24、主要被写体推定部31及び追尾制御部33は、制御部1のROM1cやフラッシュメモリ1d等に記録されたプログラムをCPU1aが実行することによって実現することができる。
ここで、スコア関数メモリ22に記憶されているスコア関数Sについて説明する。なお、以下では、スコア関数の値が被写体Oi(添え字iは、各被写体につけた番号であり、i=1,2,...n(nは被写体の個数)である。)に関するものであることを示したいときには、スコアSをS(Oi)と表記する。スコア関数が撮像画像内での被写体Oiの大きさL(Oi)の関数として示したいときには、スコア関数をS(L(Oi))と表記し、大きさLだけでなく被写体Oiの位置P(Oi)の関数としても示したいときには、スコア関数をS(L(Oi),P(Oi))と表記する。なお、被写体Oiを特定する必要のない場合は、単にS(L)或いはS(L,P)と省略表記する。
次に、判定条件メモリ26に記憶されている解除条件J1及び設定条件J2について説明する。解除条件J1は、主要被写体とされている被写体がこの条件J1を満たすとき、当該被写体の主要被写体らしさの確率が減少して主要被写体でないと判定するための必要条件(ただし十分条件ではない)が満たされたことを示す条件である。一方、設定条件J2は、ある被写体がこの条件J2を満たすとき、当該被写体の主要被写体らしさの確率が増大して、新たな主要被写体であると判定するための条件が満たされたことを示す条件である。ここで、設定条件J2は、解除条件J1が成立しない条件(すなわち被写体O1を主要被写体に維持する)よりもきびしい条件として設定される。換言すれば、設定条件J2が成立する被写体情報(被写体の大きさ、位置、又はスコアS)の集合は、解除条件J1が成立しない条件を満たす被写体情報の集合に含まれている。
被写体が主要被写体であるかを推定するため、本実施形態のように1次元的なスコア関数を用いる場合には、解除条件J1及び設定条件J2は、閾値或いは数値範囲で示される。主要被写体である確率が上がるほどスコア値も大きくなる関数Sを用いた場合、設定条件J2が、解除条件J1が成立しない条件よりもきびしい条件であるとは、設定条件J2の閾値が解除条件J1の閾値よりも大きいことを意味している。換言すれば、設定条件J2が成立するスコア値の集合(S>ThB)は、解除条件J1が成立しない条件を満たすスコア値の集合(S>ThA)に含まれている(ThA<ThBより明らか)。
逆に、主要被写体である確率が上がるほどスコア値が小さくなるスコア関数を用いた場合には、設定条件J2が、解除条件J1が成立しない条件よりもきびしい条件であるとは、設定条件J2の閾値が解除条件J1の閾値よりも小さいことを意味している。
以上のように、主要被写体として設定されていなかった第2の被写体を主要被写体として新たに設定するよりも、主要被写体として設定された第1の被写体を主要被写体として継続して維持しようとする傾向がある点で、本発明の主要被写体推定の処理は、ヒステリシス特性を有しているといえる。
次に、主要被写体推定部31は、現時点での主要被写体Om(1回目のループでは、Om=O1)の被写体情報をスコア関数に代入することにより、主要被写体のスコア値S(Om)を求める。主要被写体推定部31は、スコア値S(Om)が解除条件J1を満足しているか否かを判定する(ステップ152)。
スコア値S(Om)が解除条件J1を満足していない場合(ステップ152の否定判定)、主要被写体推定部31は、主要被写体を維持すると判断し(Om=O1)、本ルーチンをリターンして、図6のメインルーチンに処理を戻す。この場合、追尾制御部33は、直前の撮像画像のときと同じ被写体を主要被写体Omとして追尾する。
スコア値S(On)が設定条件J2を満足しているか否かを判定する(ステップ156)。スコア値S(On)が設定条件J2を満足していない場合(ステップ156の否定判定)、主要被写体推定部31は、主要被写体を維持するべきと判断し(Om=O1)、本ルーチンをリターンして、図6のメインルーチンに処理を戻す。この場合、追尾制御部33は、直前の撮像画像のときと同じ被写体を主要被写体Omとして追尾する。
なお、上記では、スコア関数Sが、撮像画像内での被写体Oiの大きさL(Oi)の関数である例を挙げたが、被写体の大きさに関する値をスコア関数Sの変数として用いてもよい。大きさに関する値として、例えば、時間的に連続する所定フレーム数に亘る同一被写体の大きさL1,L2,L3,…の平均値Lave、それらの分散値Lv、Lの変化ΔL(時間的に離れた撮像画像における同一被写体の大きさの変化)などが挙げられる。スコア関数の変数として、これらの値やこれらの値の組み合わせ等を使用することもできる。例えば、スコア関数として、S(Lave)、S(L,Lv)、S(Lave,Lv)、S(L,ΔL)、S(Lave,Lv、ΔL)等を使用することができる。
また、スコア関数S(Oi)の変数として、被写体Oiの大きさL(Oi)だけではなく、撮像画像内での被写体Oiの位置P(Oi)又は位置に関する値を、単独で或いは大きさLと組み合わせて使用することもできる。大きさLと位置Pとを用いた場合、スコア関数はS(L,P)となる。このとき、S(L,P)は、位置P(Oi)が撮像画像内で主要被写体が存在する確率が高い位置であるほど、スコア値が大きくなるように設定されている。しかし、スコア関数Sは大きさLの関数でもあるので、被写体が主要被写体の存在確率の高い位置に位置していたとしても、被写体の大きさLが小さければ、スコア値は大きくならない。逆もまた然りである。
また、位置に関する値としては、例えば、時間的に連続する所定フレーム数に亘る同一被写体の位置P1,P2,P3,…の平均値Pave、それらの分散値Pv、Pの変化ΔP(時間的に離れた撮像画像における同一被写体の位置の変化)、主要被写体が存在する確率が最も高いと考えられる位置P0(撮像画像の中央位置)との距離|P−P0|、位置P0への接近傾向等が挙げられる。接近傾向の例として、所定フレーム数に亘る被写体位置の評価の結果、被写体の位置が、画面内の所定の位置(例えば撮像画像の中央位置)に近づいている場合には、スコア値を大きくし、遠ざかっていればスコア値を小さくする。スコア関数の変数として、これらの値やこれらの値の組み合わせ等を使用することもできる。例えば、スコア関数として、S(L,Pave)、S(L,Pv)、S(Lave,Pv)、S(L,ΔP)、S(Lave,|P−P0|)、S(L,Δ(P-P0))等を使用することができる。
上記考察より、第1の実施形態では、例えば、スコア関数Sを、次式のように一般的に表すことができる。
ここで、変数x1、x2、x3,…は、上記例に挙げた、被写体の大きさ又は大きさに関する値、被写体の位置又は位置に関する値である。w1、w2、w3,...は、各変数x1,x2,x3,…の重み係数であり、これらの重み係数w1,w2.w3,...は、正負の値、0の値を取り得る。例えば大きさLの重み係数は正である。すなわち、被写体の大きさLが大きいほど、主要被写体であるスコア値(確率)が増加することを示している。逆に位置P0(撮像画像の中央位置)との距離|P−P0|の重み係数は負である。すなわち、当該距離が大きいほど主要被写体であるスコア値(確率)が減少することを示している。特に主要被写体推定に使用しない変数については、その重み係数を0とすればよい。
様々な撮影状況やシーンに応じて、主要被写体の変数x1、x2、x3,…を解析し、主要被写体のスコア関数の値がより大きくなるように、適切な重み係数w1,w2.w3,...を予め選択或いは学習等によって決定しておく。このように重み係数を適宜調節することによって、様々な撮影状況において主要被写体を推定することが可能となる。勿論、スコア関数の表現は(1)式に限定されるものではない。
(第2の実施形態)
次に、第2の実施の形態について説明する。図4には、デジタルカメラ10の制御部1が第2の実施形態に係る主要被写体推定装置として機能する場合の機能ブロック図が示されている。
所定範囲設定部25により設定される所定範囲は、主要被写体が存在する確率が高いと予想される撮像画像内の特定領域(一例として後述する図13の撮像画像55a、b内の所定範囲51a、b参照)である。当該所定範囲は、例えば、固定位置(例えば撮像画像の中心位置)を中心として所定の大きさを持つ所定形状の領域として設定される。この例の場合、所定範囲設定部25は、例えば、当該所定範囲を記憶したROM1c(図2)の特定メモリ領域に記憶されている固定位置の位置情報、所定範囲の形状及び大きさの情報に基づいて所定範囲を設定する。また、当該所定範囲の中心位置が先に主要被写体とされた被写体の位置又は撮影者が指定した位置に合致するように、当該所定範囲の中心位置を調整可能としてもよい。さらに、当該所定範囲が、撮影者の操作指令により、その大きさを調整されるようにしてもよい。また、所定範囲は、図13の所定範囲51a、51bのような矩形の他、円や楕円など、主要被写体の存在確率が高い領域を表すことができる他の形状を持つことができる。
第2の実施形態の主要被写体推定部31は、所定範囲及び判定条件に基づいて、撮像画像内に存在する被写体の中から主要被写体を推定する。
一方、L(Om)が閾値ThA以下である場合(ステップ252の肯定判定)、主要被写体推定部31は、Om以外の全ての被写体の大きさL(Oj)のうち最大の大きさLmaxを与える第2の被写体Onを検索する(ステップ254)。
一方、第2の被写体Onの位置P(On)が所定範囲内にある場合(ステップ255の肯定判定)、主要被写体推定部31は、第2の被写体の大きさL(On)がThB以上であるか否かを判定する(ステップ256)。L(On)がThBより小さい場合(ステップ256の否定判定)、主要被写体推定部31は、主要被写体を維持するべきである(Om=O1)と判断し、本ルーチンをリターンして、図9のメインルーチンに処理を戻す。この場合、追尾制御部33は、直前の撮像画像のときと同じ被写体を主要被写体Omとして追尾する。
第2の実施形態によれば、先に主要被写体と指定(又は推定)された第1の被写体の大きさLがThA以下となり、かつ、第1の被写体以外で主要被写体である確率が高いと考えられる第2の被写体が撮像画面内の所定範囲内に存在し、その大きさLがThB以上となった場合に、制御部1は、第2の被写体を主要被写体であると推定する。閾値ThBは、閾値ThAよりも大きいため、先に主要被写体と推定された第1の被写体は、主要被写体との推定を維持しやすく、第2の被写体は第1の被写体と比べて主要被写体であると推定されにくくなる。すなわち、主要被写体推定は、被写体の大きさの評価に関してヒステリシス特性を有している。
これによって、主要被写体を切り替えるべきでない何らかの原因により被写体のスコア値等が急激に変動する状況(例えば、偶々非常に大きい第2の被写体が撮像画像内に入り込んだ時など)であっても、安定して主要被写体を推定し続けることが可能となる。
また、第2の実施形態によれば、撮像画像内での被写体の大きさに基づいて主要被写体を推定するため、撮影者がデジタルカメラ10をパンニング若しくはチルティングしていなくとも、或いは、その操作の途中であったとしても、主要被写体を正確に推定することができる。
(第3の実施形態)
次に、第3の実施の形態について説明する。第2の実施形態が被写体の大きさに基づいて主要被写体を推定したのに対して、第3の実施形態は、被写体の位置に基づいて主要被写体を推定する。第3の実施形態の機能ブロック図は、図4において、所定範囲設定部25が省略され、閾値メモリ30が閾値ThA,ThBの代わりに後述する閾領域(第1の領域RA、第2の領域)の情報を記憶するものである。
一方、位置P(Om)が第1の領域RA内の位置ではない場合(ステップ302の否定判定)、主要被写体推定部31は、Om以外の全ての被写体の位置P(Oj)のうち位置P0に最も近い距離にある第2の被写体Onを検索する(ステップ304)。
一方、第2の被写体Onの位置P(On)が第2の領域RB内の位置である場合(ステップ306の肯定判定)、主要被写体推定部31は、第2の被写体Onを主要被写体とする(ステップ308)。すなわち、主要被写体番号m=nとする。その後、主要被写体推定部31は本ルーチンをリターンして、図9のメインルーチンに処理を戻す。この場合、追尾制御部33は、直前の撮像画像のときとは異なる被写体Onを主要被写体として追尾する。図9のメインルーチンでは、制御部1は、次の撮像画像について同様の処理を繰り返す。
次に図12を用いて第3の実施形態を説明する。
図12(A)は、撮像画像55において、主要被写体が存在する確率の高い第1の領域RA内に第1の被写体81が存在し、第2の被写体82が、第1の領域RAの領域外に存在している状況を示している。このとき、第1の被写体81が主要被写体と認識されている。次に、図12(B)は、第1の被写体81が第1の領域RAの領域外に移動し、第2の被写体82が第1の領域RA内に移動する状況を示している。この場合、第1の被写体が第1の領域RAの領域外に存在し、第2の被写体82が第1の領域RA内に存在しているのにも関わらず、第2の被写体82は主要被写体とはされず、依然として第1の被写体が主要被写体とされている。最後に図12(C)は、第1の被写体81が第1の領域RAの領域外に存在したままで、第2の被写体82が第2の領域RB内に移動する状況を示している。この場合、第2の被写体82が主要被写体として推定される。
第3の実施形態によれば、先に主要被写体と指定(又は推定)された第1の被写体81の位置が第1のRAの領域外の位置となり、かつ、第1の被写体以外で主要被写体である確率が高いと考えられる第2の被写体82の位置が、第1の領域RA内に含まれる第2の領域RB内の位置となった場合に、制御部1は、第2の被写体を主要被写体であると推定する。第2の領域RBは第1の領域RA内に含まれるため、先に主要被写体と推定された第1の被写体は、主要被写体との推定を維持しやすく、第2の被写体は第1の被写体と比べて主要被写体であると推定されにくくなる。すなわち、主要被写体推定は、ヒステリシス特性を有している。
これによって、主要被写体を切り替えるべきでない何らかの原因により被写体のスコア値等が急激に変動する状況(例えば、偶々ある被写体が撮像画像内の主要被写体である確率の高い位置へと入り込んだ時など)であっても、安定して主要被写体を推定し続けることが可能となる。
(第4の実施形態)
次に、第4の実施形態について説明する。撮像画像内の被写体の大きさは、被写体の実際の大きさ、撮影状況、被写体の種類や形状、デジタルカメラから被写体までの撮影距離、撮影レンズの焦点距離に応じて変化する。例えば、人物の顔と、飛行機等の乗り物とでは、実際の大きさや形状の違い等に起因して、撮影画像内で検出された大きさも様々に異なり得る。また同じ人物撮影でも、背景を広く取り入れて人物を撮影する場合と、人物を大きくクローズアップする場合とでは、検出する顔領域の大きさは、後者の方が前者よりも大きくなる。一方、第2の実施形態で用いられる閾値は、メモリに記憶された固定値である。
本発明の第4の実施形態は、撮像画像内の被写体の大きさのばらつきに対応するため、固定値としての閾値を最初に主要被写体とされた被写体の大きさに応じて正規化するものである。第4の実施形態の構成は、図4に示された第2の実施形態の構成と実質的に同様である。また、第4の実施形態の処理の流れは、図9及び図10に示されている第2の実施形態と実質的に同様である。第4の実施形態の以下の説明において、第2の実施形態と同様の構成要素及び処理に関しては、詳細な説明を省略する。
本発明の第4の実施形態は、図4の判定条件設定部27が、図10のステップ252、256で使用される閾値ThA、ThBを、主要被写体の大きさに応じて正規化する。この正規化の方法は、例えば以下の通りとなる。
ThAnormal(正規化された閾値ThA) → ThA・Lq(Om)
ThBnormal(正規化された閾値ThB) → ThB・Lq(Om)
ここで、Lqは、現在の主要被写体が初めて主要被写体と推定されたときの被写体の大きさである。閾値メモリ30に記憶されているThA、ThBは、大きさの次元を持つ値としてではなく、無次元の値として与えられる。上記正規化の結果、ThAnormal及びThBnormalは、被写体の大きさと比較され得る大きさの次元を持つに至る。
第4の実施形態の正規化方法によれば、図10のステップ252で、主要被写体推定部31が、現在の主要被写体の大きさが、その最初の大きさに応じて正規化された閾値ThA以下であると判定すれば、ステップ254に進む。また、図10のステップ256で、主要被写体推定部31が、主要被写体の候補である第2の被写体の大きさが、現在の主要被写体の最初の大きさに応じて正規化された閾値ThB以上であると判定すれば、ステップ258に進む。
第4の実施形態の他の例では、閾値を正規化する代わりに、主要被写体推定部31が、検出された被写体の大きさを次の通り、Lq(Om)で正規化してもよい。
L(Om)normal(正規化された第1の被写体の大きさ)→L(Om)/Lq(Om)
L(On)normal(正規化された第2の被写体の大きさ)→L(On)/Lq(Om)
閾値メモリ30に記憶されているThA、ThBは、大きさの次元を持つ値としてではなく、無次元の値として与えられ、これらと比較されるL(Om)normal及びL(On)normalも無次元量となる。
第4の実施形態のこの正規化方法によれば、図10のステップ252で、主要被写体推定部31が、現在の主要被写体がその最初の大きさからどのくらいの比率で小さくなったかを監視し、当該比率がThA以下であると判定すれば、ステップ254に進む。また、図10のステップ256で、主要被写体推定部31が、主要被写体の候補である第2の被写体が現在の主要被写体の最初の大きさと比べてどのくらいの比率で大きくなったかを監視し、当該比率がThB以上であると判定すれば、ステップ258に進む。
例えば、最初の撮影では、背景を広く撮影範囲に取り入れた状態で複数の人物の中から主要被写体推定を行っていたとする。このとき、人物の大きさは小さいため、主要被写体の大きさに応じて上述のように正規化された閾値は、比較的小さく設定される。本実施形態では、各人物の大きさが小さい状態において、比較的小さい閾値を用いるため、主要被写体推定を的確に行うことができる。次に複数人物の中から少人数に絞ってクローズアップしたい場合、焦点距離を大きくするか或いは人物に近づいたりする。この場合、撮像画像内での人物の大きさは大きくなる。本実施形態では、大きくなった被写体の大きさに応じて閾値も大きく正規化されるため、被写体が大きくなった状況においても、主要被写体推定を的確に行うことができる。
また、焦点距離や撮影距離が異なる場合だけではなく、被写体の種類によっても、被写体の大きさは異なってくる。例えば飛行機等の乗り物を撮影する場合、被写体の輪郭抽出のアルゴリズムにもよるが、人物の顔領域よりも被写体の大きさは大きくなり得る。この場合においても、本実施形態は、その大きさに応じて閾値を正規化するため、被写体の種類に依らず、的確な主要被写体の推定を行うことが可能となる。
なお、上記例では、Lq(Om)で閾値又は被写体の大きさを正規化したが、本発明は、この例に限定されない。例えば、他の時点の被写体の大きさ等を用いることも可能である。
以上の通り第4の実施形態によれば、閾値又は被写体の大きさを、被写体の実際の大きさ、デジタルカメラから被写体までの撮影距離、撮影レンズの焦点距離等に応じて変化するLq(Om)で正規化するため、より正確な主要被写体推定が可能となる。
(第5の実施形態)
次に第5の実施形態について説明する。図5は、デジタルカメラ10の制御部1が第5の実施形態に係る主要被写体推定装置として機能する場合の機能ブロック図である。なお、図5において第2及び第4の実施形態と同様の機能を有する構成要素に関しては、図4と同一の参照番号を付与し、それらの詳細な説明を省略する。第5の実施形態の処理の流れは、図9及び図10に示されている第2の実施形態と実質的に同様であるので、第5の実施形態の以下の説明において、第2の実施形態と同様の処理に関しては、詳細な説明を省略し、異なる部分のみを説明する。
また、画角が広角のときと望遠のときとでは、撮像画像内で被写体が一定の大きさであったとしても、デジタルカメラから被写体までの撮影距離が異なるため、被写体の大きさの変化は、広角のときと望遠のときとで異なってくる。すなわち、デジタルカメラから被写体までの撮影距離が一定距離だけ変化したとき、画角が広角のときの被写体の大きさの変化は、望遠のときと比べて、より大きくなる。このように広角では遠近感が強調され、望遠では遠近感が圧縮される。
広角レンズで撮影した場合、広い画角により撮影距離D1における撮影範囲60が広くなるため、当該撮影範囲60に対する被写体移動距離の比は望遠の場合よりも小さくなる。これに対して望遠レンズで撮影した場合、狭い画角により撮影距離D1における撮影範囲62が狭くなるため、当該撮影範囲62に対する被写体移動距離の比は広角の場合よりも大きくなる。この状況は、撮影レンズの焦点距離が同一であっても撮影領域の一部をクロップすることにより望遠効果をもたせる場合にも当てはまる。
従って、撮像画像内において、主要被写体が存在する確率の高い領域は、広角で撮影したときよりも望遠で撮影したときの方が、より広くなる。この状況に対応するため、所定範囲設定部25は、画角が大きく(小さくなる)なるほど、所定範囲を小さく(大きく)設定する。例えば図13に示すように、広角での撮影時に撮像画像55aに対して所定範囲51aを設定した場合、より望遠での撮影時では、撮像画像55bに対して、所定範囲51aよりも広い所定範囲51bを設定する。これによって、図10のステップ255の判定精度を向上させることができる。なお、第3の実施形態の第1の領域RA及び第2の領域RBに関しても、画角に応じた領域変更を適用することができる。
なお、図13において、被写体50までの撮影距離がD2(<D1)となった場合、撮影範囲61、63は、各々、撮影範囲60、62よりも小さくなる。従って、被写体50までの撮影距離を検出できる場合には、所定範囲設定部25は、撮影距離が小さい(大きい)ほど、所定範囲を大きく(小さく)するようにしてもよい。
図14(A)には、カメラ91が広角レンズで被写体O1及びO2を同一の撮影距離l1から撮影し、カメラ92が望遠レンズで被写体O1及びO2を同一の撮影距離l2から撮影している撮影状況が示されている。ここで、カメラ91及び92のいずれにおいても被写体O1が主要被写体とされているとする。また、説明を簡単にするため、カメラ92の望遠レンズの焦点距離がカメラ91の広角レンズの焦点距離のl2/l1倍であり、被写体O1及びO2の実際の大きさが同一と仮定すると、カメラ91及び92の撮像画像内における被写体O1及びO2の大きさは、等しくなる。
図14(B)には、図14(A)の撮影状況から被写体O2がカメラ91及び92に距離l3だけ接近した状況が示されている。図14(B)の場合、カメラ91における撮像画像内での被写体O2の大きさL1k(O2)及びカメラ92における撮像画像内での被写体O2の大きさL2k(O2)は、図14(A)の状況での被写体O2の大きさをL1(O2)とすると、以下の通りとなる。
カメラ91:L1k(O2)=(l1/(l1−l3))・L1(O2)
カメラ92:L2k(O2)=(l2/(l2−l3))・L1(O2)
l2>l1であるためL1k(O2)>L2k(O2)となる。すなわち、図14(B)の状況では、カメラ91での被写体O2の大きさは、カメラ92での被写体O2の大きさよりも大きくなる。
被写体O1の大きさL1(O2)がThA以下となっており、L2k(O2)>ThB>L1k(O2)となる場合を想定する。この場合、同じ図14(B)の状況で撮影しているにも関わらず、カメラ91では、被写体O2を主要被写体とするのに対し、カメラ92では、被写体O2を主要被写体としないことがおこり得る。第5の実施形態では、広角と望遠とで主要被写体の検出率を同一或いは近づけるため、判定条件設定部27が、撮影時の画角が大きく(焦点距離が小さく)なるほど、閾値比ThB/ThA(或いは差ThB−ThA)を大きくする。また、撮影時の画角が小さく(焦点距離が大きく)なるほど、閾値比ThB/ThA(或いは差ThB−ThA)を小さくする。このように主要被写体検出のヒステリシス特性を、画角によって変更することで、撮影時の画角の相違による主要被写体の推定精度のばらつきを減少させることができる。
以上が本発明の各実施形態であるが、本発明は上記例にのみ限定されるものではなく、本発明の範囲内で任意好適に変更可能である。
制御部1は、デジタルカメラ10により静止画として連続撮影若しくは動画撮影されて画像処理ユニット2から送られてきたデータだけではなく、媒体に記憶され若しくはダウンロードされた複数の撮影画像を使用してもよい。また、制御部1は、後の処理の演算省力化のために、撮影時よりも小さい画像サイズにリサイズされた撮像画像を用いてもよい。撮像画像f1、f2、...fk,...は、古い順(即ち、フレーム番号が大きいほど後の時刻で撮影されたもの)でも、新しい順(即ち、フレーム番号が大きいほど、以前の時刻に遡って撮影されたものである)のいずれの順で並べられていてもよい。後者の場合は、撮像画像は撮影済であり、時間的に過去に遡って主要被写体を推定することになる。
(第1の実施例)
まず、第1の実施例について説明する。第1の実施例は、スコア関数Sの変数として被写体の大きさLとその大きさの安定度を用いて主要被写体推定を行うものである。図15は、第1の実施例が適用される撮影状況を説明する図である。図15の撮影状況は、主要被写体がほぼ同じ大きさとなるように、撮影者が撮影レンズをズーミングしたり、被写体に接近したり、遠ざかったりして追従する場合などに相当している。このため、第1の実施例では、スコア関数の変数として、撮像画像内の被写体の大きさLの他に、大きさの安定度を用い、大きさLが大きいほど、また大きさLの安定度が大きいほどスコア関数Sの値を大きくするようにしている。
大きさの安定度として、大きさLの平均値Lave(所定フレームに亘る被写体の大きさLの平均値)や、所定フレームに亘って演算される大きさLの偏差若しくは分散値Lvを用いることができる。大きさLの偏差若しくは分散値Lvは、その値が大きいほど大きさLのばらつきが大きいため安定度が小さいものとみなされる。従って、Lvの重み係数Wは負となり、Lvが大きいほどスコアSが小さくなる。
(第2の実施例)
次に、第2の実施例について説明する。第2の実施例は、スコア関数Sの変数として被写体の大きさLとその大きさの変化を用いて主要被写体推定を行うものである。図16は、第2の実施例が適用される撮影状況を示す。図16の撮影状況は、例えばレース中などにおいて、先に主要被写体と推定された同図中○で示される第1の被写体が、第2の被写体に追い越されて、大きさが逆転する状況を示している。
ΔLは、被写体の大きさが減少する場合は負値であり、被写体の大きさが増加する場合は正値となる。従って、スコア関数Sは、被写体の大きさが減少する場合はより急激に減少し、被写体の大きさが増加する場合はより急激に増加する。図16の撮影状況では、大きさLのみの関数であるスコア関数S(L)を用いたとしても、いずれは第2の被写体を主要被写体と推定する。しかし第2の実施例では、S(L,ΔL)を用い、主要被写体である兆候(ΔL>0)をスコアに反映させるようにしたので、スコア関数S(L)を用いる場合と比べて、より迅速に主要被写体を推定することが可能となる。
(第3の実施例)
次に、第3の実施例について説明する。第3の実施例は、スコア関数Sの変数として被写体の大きさLと被写体の位置の安定度を用いて主要被写体推定を行うものである。図17は、第3の実施例が適用される撮影状況を示す図である。図17の撮影状況は、主要被写体が撮像画像内でほぼ同じ位置を維持するように、撮影者がデジタルカメラをフレーミングして主要被写体に追従する場合などに相当している。このため、第3の実施例では、スコア関数の変数として、撮像画像内の被写体の大きさLの他に、被写体の位置の安定度を用い、スコア関数Sとして、S(L,Pv)等が設定されている。スコア関数Sの値は、被写体の大きさLが大きいほど、また被写体の位置Lの安定度が大きいほど大きくなるように設定されている。ここで、位置Lの安定度を反映するものとしては、被写体の位置の分散値Pvが用いられ、その重み係数が負に設定されている。
(第4の実施例)
次に、第4の実施例について説明する。
図18には、第4の実施例が示されている。第4の実施例は、スコア関数Sの変数として被写体の大きさLと被写体の所定位置からの距離とを用いて主要被写体推定を行うものである。図18は、第4の実施例が適用される撮影状況を示す図である。図18の撮影状況は、主要被写体を撮像画像内の所定位置P0の近傍に維持させるように、撮影者がデジタルカメラをフレーミングして主要被写体に追従する場合などに相当している。ここで、所定位置P0は、撮像画像の中心位置や、撮影者が指定したAFフレームの位置等、主要被写体が存在する確率が高いと想定される位置である。
第4の実施例では、スコア関数の変数として、撮像画像内の被写体の大きさLの他に、被写体の現在の位置Pと所定位置P0との間の距離|P−P0|を用いるので、スコア関数Sとして、S(L,|P−P0|)等が設定されている。スコア関数Sは、被写体の大きさLが大きいほど、また被写体が所定位置P0に近いほど大きくなるように設定されている。従って、スコア関数Sにおいて|P−P0|の重み係数が負に設定されている。
(第5の実施例)
次に、第5の実施例について説明する。
図19には、第5の実施例が示されている。第5の実施例は、スコア関数Sの変数として被写体の大きさLと被写体の所定位置への接近傾向とを用いて主要被写体推定を行うものである。図19は、第5の実施例が適用される撮影状況を示す図である。図19の撮影状況は、主要被写体を撮像画像内の所定位置P0に近づけるように、撮影者がデジタルカメラをフレーミングして主要被写体に追従する場合などに相当している。ここで、所定位置P0は、撮像画像の中心位置や、撮影者が指定したAFフレームの位置等、主要被写体が存在する確率が高いと想定される位置である。
第5の実施例では、スコア関数の変数として、撮像画像内の被写体の大きさLの他に、被写体の現在の位置Pと所定位置P0との間の距離|P−P0|の時間変化分を示すΔ|P−P0|を用いるので、スコア関数Sとして、S(L,Δ|P−P0|)等が設定されている。スコア関数Sは、被写体の大きさLが大きいほど、また被写体の位置が所定位置P0に近くなるように変化するほど大きくなるように設定されている。
(第6の実施例)
次に、第6の実施例について説明する。第6の実施例は、スコア関数Sの変数として被写体の位置とその位置の安定度を用いて主要被写体推定を行うものである。図20は、第6の実施例が適用される撮影状況を説明する図である。図20の撮影状況は、主要被写体を撮像画像内のほぼ同じ位置(例えばAF枠)に維持するように、撮影者がデジタルカメラをフレーミングして主要被写体に追従する場合などに相当している。このため、第6の実施例では、スコア関数の変数として、撮像画像内の被写体と所定位置P0(例えば、上述のAF枠又は画像中央位置)と、被写体の位置の安定度を用いる。スコア関数Sとして、S(|P−P0|,Pv)等が設定されている。スコア関数Sの値は、被写体が所定位置P0に近いほど、また被写体の位置の安定度が大きいほど大きくなるように設定されている。ここで、位置Lの安定度を反映するものとしては、被写体の位置の分散値Pvが用いられ、その重み係数が負に設定されている。
2 画像処理ユニット
5 撮像素子
6 ディスプレイ
10 デジタルカメラ
12 撮影レンズ
12a レンズCPU
15 合焦レンズ群
21 画像取得部
22 スコア関数メモリ
23 被写体検出部
24 被写体情報検出部
25 所定範囲設定部
26 判定条件メモリ
27 判定条件設定部
28 画角取得部
30 閾値メモリ
31 主要被写体推定部
50 被写体
55a、55b 撮像画像
51a、51b 所定範囲
Claims (5)
- 複数の画像を取得する画像取得部と、
前記画像取得部が取得した画像から被写体と、前記被写体の大きさに関する被写体情報と、を検出する第1検出部と、
前記被写体情報に基づいて、前記複数の画像から特定被写体を検出する第2検出部と、を備え、
前記第2検出部は、第1画像内で前記特定被写体とされた第1の被写体の前記被写体情報に基づく第1の大きさが、前記第1画像よりも後に取得された第2画像内において、第1閾値よりも小さくなり、かつ、前記第1の被写体と異なる第2の被写体の前記被写体情報に基づく大きさが、前記第1閾値よりも大きい第2閾値よりも大きくなると、特定被写体を前記第2の被写体に変更する、電子機器。 - 請求項1に記載の電子機器において、
前記第2検出部は、前記第2の被写体が前記画像内の所定の範囲内に存在し、前記第2の被写体の大きさが前記第2閾値よりも大きくなると、前記特定被写体を前記第2の被写体に変更する電子機器。 - 請求項1または2に記載の電子機器において、
前記第2検出部は、画角に基づいて、前記第1閾値と、前記第2閾値と、を変更する電子機器。 - 複数の画像を取得し、
取得した画像から被写体と、前記被写体の大きさに関する被写体情報と、を検出し、
前記被写体情報に基づいて、前記複数の画像から特定被写体を検出し、
第1画像内で前記特定被写体とされた第1の被写体の前記被写体情報に基づく第1の大きさが、前記第1画像よりも後に取得された第2画像内において、第1閾値よりも小さくなり、かつ、前記第1の被写体と異なる第2の被写体の前記被写体情報に基づく大きさが、前記第1閾値よりも大きい第2閾値よりも大きくなると、特定被写体を前記第2の被写体に変更する、被写体検出方法。 - 複数の画像を取得する画像取得処理と、
前記画像取得処理により取得した画像から被写体と、前記被写体の大きさに関する被写体情報と、を検出する第1検出処理と、
前記被写体情報に基づいて、前記複数の画像から特定被写体を検出する第2検出処理と、をコンピュータに実行させるプログラムであって、
前記第2検出処理は、第1画像内で前記特定被写体とされた第1の被写体の前記被写体情報に基づく第1の大きさが、前記第1画像よりも後に取得された第2画像内において、第1閾値よりも小さくなり、かつ、前記第1の被写体と異なる第2の被写体の前記被写体情報に基づく大きさが、前記第1閾値よりも大きい第2閾値よりも大きくなると、特定被写体を前記第2の被写体に変更する、プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017176679A JP6565991B2 (ja) | 2017-09-14 | 2017-09-14 | 電子機器、被写体検出方法およびプログラム。 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017176679A JP6565991B2 (ja) | 2017-09-14 | 2017-09-14 | 電子機器、被写体検出方法およびプログラム。 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013248592A Division JP6210214B2 (ja) | 2013-11-29 | 2013-11-29 | 主要被写体推定装置及びプログラム並びに情報処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017225192A JP2017225192A (ja) | 2017-12-21 |
JP6565991B2 true JP6565991B2 (ja) | 2019-08-28 |
Family
ID=60687101
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017176679A Active JP6565991B2 (ja) | 2017-09-14 | 2017-09-14 | 電子機器、被写体検出方法およびプログラム。 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6565991B2 (ja) |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5144487B2 (ja) * | 2008-12-15 | 2013-02-13 | キヤノン株式会社 | 主顔選択装置、その制御方法、撮像装置及びプログラム |
JP6210214B2 (ja) * | 2013-11-29 | 2017-10-11 | 株式会社ニコン | 主要被写体推定装置及びプログラム並びに情報処理装置 |
-
2017
- 2017-09-14 JP JP2017176679A patent/JP6565991B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017225192A (ja) | 2017-12-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11012614B2 (en) | Image processing device, image processing method, and program | |
TWI419552B (zh) | 攝影裝置、被攝體追蹤方法及記錄媒體 | |
US10827127B2 (en) | Zoom control device, imaging apparatus, control method of zoom control device, and recording medium | |
EP1998558B1 (en) | Image pickup apparatus equipped with function of detecting image shaking | |
US10270978B2 (en) | Zoom control device with scene composition selection, and imaging apparatus, control method of zoom control device, and recording medium therewith | |
JP4702418B2 (ja) | 撮影装置、画像領域の存否判定方法及びプログラム | |
US8493493B2 (en) | Imaging apparatus, imaging apparatus control method, and computer program | |
US20160191809A1 (en) | Zoom control device, imaging apparatus, control method of zoom control device, and recording medium | |
CN110941076B (zh) | 控制设备、摄像设备、控制方法和存储介质 | |
US10901174B2 (en) | Camera for limiting shifting of focus adjustment optical system | |
JP4807582B2 (ja) | 画像処理装置、撮像装置及びそのプログラム | |
JP2018033013A (ja) | 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体 | |
JP6210214B2 (ja) | 主要被写体推定装置及びプログラム並びに情報処理装置 | |
JP6565991B2 (ja) | 電子機器、被写体検出方法およびプログラム。 | |
JP6087536B2 (ja) | 撮像装置およびその制御方法 | |
JP2015111226A (ja) | 被写体追跡装置及びその制御方法、撮像装置、プログラム、並びに記憶媒体 | |
JP2014216830A (ja) | 画像追尾装置、画像追尾方法及びプログラム | |
CN113014796B (zh) | 图像处理设备、摄像设备、图像处理方法和存储介质 | |
JP6639151B2 (ja) | 撮像制御装置、撮像装置および撮像制御プログラム | |
JP2018180372A (ja) | 撮像装置およびその制御方法 | |
JP2024064185A (ja) | 撮影システム並びに装置、制御方法 | |
JP2021124671A (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP2019201399A (ja) | 制御装置、撮像装置、制御方法、および、プログラム | |
JP2020101730A (ja) | 撮像装置およびその制御方法 | |
JP2011234310A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171013 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180703 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180710 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20180907 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181108 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20181108 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181211 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20190208 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190409 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190702 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190715 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6565991 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |