JP5040669B2 - Imaging device - Google Patents
Imaging device Download PDFInfo
- Publication number
- JP5040669B2 JP5040669B2 JP2008007102A JP2008007102A JP5040669B2 JP 5040669 B2 JP5040669 B2 JP 5040669B2 JP 2008007102 A JP2008007102 A JP 2008007102A JP 2008007102 A JP2008007102 A JP 2008007102A JP 5040669 B2 JP5040669 B2 JP 5040669B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- subject
- tracking
- subject tracking
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Studio Devices (AREA)
Description
本発明は、被写体の追尾機能を有する撮像装置に関する。 The present invention relates to an imaging apparatus having a subject tracking function.
従来から、動きのある主要被写体に追従してフォーカス調整や露光条件の演算などを行うために、被写体追尾機能を備えた撮像装置が種々提案されている。一例として、特許文献1には、入力画像に対してテンプレートマッチング処理を施して被写体追尾を行う撮像装置が開示されている。
ところで、被写体の追尾機能を有するとともに、静止画撮影を行う撮像装置では、全押し操作によって静止画の撮像タイミングを指示するレリーズ釦を半押しすることで、被写体追尾動作が行われる。そのため、半押し操作で被写体追尾動作を行っているときに誤って全押し操作が行われる可能性も高く、誤操作によってユーザーの意図しないタイミングで静止画が撮像され易い点で改善の余地があった。 By the way, in an imaging apparatus that has a subject tracking function and performs still image shooting, the subject tracking operation is performed by half-pressing a release button that indicates the still image capturing timing by a full press operation. For this reason, there is a high possibility that the full-pressing operation will be mistakenly performed when the subject tracking operation is performed by a half-pressing operation, and there is room for improvement in that it is easy to capture a still image at a timing not intended by the user due to the erroneous operation .
また、上述した撮像装置では、静止画の撮像指示の操作と被写体追尾動作の操作とが同じ操作部材に割り当てられている。そのため、追尾中の被写体をロストした状態や撮影モードを切り替えた状態において撮像装置の操作が複雑になり、ユーザーが混乱をきたすおそれもある。 In the above-described imaging device, the operation for instructing the imaging of a still image and the operation for subject tracking are assigned to the same operation member. Therefore, the operation of the imaging apparatus becomes complicated in a state where the subject being tracked is lost or the shooting mode is switched, and the user may be confused.
そこで、本発明は、被写体の追尾機能を有する撮像装置において、被写体追尾時の操作性をより向上させる手段を提供することを目的とする。 Therefore, an object of the present invention is to provide means for further improving the operability during subject tracking in an imaging apparatus having a subject tracking function.
一の形態の撮像装置は、撮像部と、メモリと、被写体追尾部と、画像を表示するモニタと、筐体と、第1操作部材と、第2操作部材とを備える。撮像部は、被写体像を撮像して画像のデータを生成する。メモリは、追尾対象の特徴を示すテンプレートを記憶する。被写体追尾部は、テンプレートを用いて、追尾対象の被写体を画像から継続的に検出する。筐体は、撮像部、メモリ、被写体追尾部およびモニタを収納する。第1操作部材は、筐体の外面に配置されるとともに、撮像部に記録用の静止画像を撮像させる撮像指示を受け付ける。第2操作部材は、第1操作部材とは独立して筐体の外面に配置されるとともに、被写体追尾部に追尾対象の検出を開始させる追尾開始操作を受け付ける。モニタは、筐体の一方の側面側に寄せて配置され、第1部材および第2部材は、モニタの位置よりも筐体の他方の側面側に寄せて配置される。また、被写体追尾部は、追尾開始操作があった後に第2操作部材での追尾開始操作が継続して行われていないときも追尾対象の検出を継続し、第2操作部材による追尾開始操作の後にさらに第2操作部材からの入力を受け付けたときに追尾対象の検出を終了する。 An imaging apparatus according to one aspect includes an imaging unit, a memory, a subject tracking unit, a monitor that displays an image, a housing, a first operation member, and a second operation member. The imaging unit captures a subject image and generates image data. The memory stores a template indicating the characteristics of the tracking target. The subject tracking unit uses the template to continuously detect the tracking target subject from the image. The housing houses an imaging unit, a memory , a subject tracking unit, and a monitor . The first operation member is disposed on the outer surface of the housing and receives an imaging instruction for causing the imaging unit to capture a still image for recording. The second operation member is disposed on the outer surface of the housing independently of the first operation member, and accepts a tracking start operation for causing the subject tracking unit to start detection of the tracking target. The monitor is disposed close to one side surface of the housing, and the first member and the second member are disposed close to the other side surface of the housing from the position of the monitor. Further, the subject tracking unit continues to detect the tracking target even when the tracking start operation by the second operation member is not continuously performed after the tracking start operation is performed, and the tracking start operation by the second operation member is performed. When the input from the second operation member is further received later, the detection of the tracking target is ended.
本発明では、撮像の指示を受け付ける第1操作部材とは別の第2操作部材によって追尾対象の検出を開始させる操作を受け付ける。これにより、被写体の追尾機能を有する撮像装置において被写体追尾時の操作性がより向上する。 In the present invention, an operation for starting detection of a tracking target is received by a second operating member different from the first operating member that receives an imaging instruction. Thereby, the operability at the time of subject tracking is further improved in an imaging apparatus having a subject tracking function.
<電子カメラの構成の説明>
図1は本実施形態の電子カメラの構成を説明するブロック図である。また、図2は、本実施形態の電子カメラの背面側外観図である。ここで、本実施形態の電子カメラは、撮影モードの一つとして、被写体追尾モードを有している。なお、被写体追尾モードでは、時系列に取得される複数の画像から追尾対象の被写体を電子カメラが継続的に検出することができる。なお、上記の被写体追尾モードは、例えば、子供の撮影に適したキッズモードなどの一機能として電子カメラに実装されるものであってもよい。
<Description of the configuration of the electronic camera>
FIG. 1 is a block diagram illustrating the configuration of the electronic camera of this embodiment. FIG. 2 is an external view of the back side of the electronic camera of this embodiment. Here, the electronic camera of the present embodiment has a subject tracking mode as one of the shooting modes. In the subject tracking mode, the electronic camera can continuously detect the subject to be tracked from a plurality of images acquired in time series. Note that the subject tracking mode described above may be implemented in an electronic camera as one function such as a kids mode suitable for photographing children.
電子カメラは、撮像光学系11およびレンズ駆動部12と、絞り13および絞り駆動部14と、撮像素子15と、AFE16と、画像処理部17と、第1メモリ18と、記録I/F(インターフェース)19と、モニタ20と、操作部材21と、振動センサ22と、CPU23と、第2メモリ24と、バス25とを有している。
The electronic camera includes an imaging
ここで、上記の構成部品は、全体形状が薄箱状の筐体26に格納されている。また、画像処理部17、第1メモリ18、記録I/F19、モニタ20、CPU23および第2メモリ24は、バス25を介してそれぞれ接続されている。さらに、レンズ駆動部12、絞り駆動部14、撮像素子15、AFE16、操作部材21および振動センサ22は、それぞれCPU23に接続されている。
Here, the above-described component parts are stored in a
撮像光学系11は、ズームレンズ、フォーカシングレンズ、ブレ補正レンズを含む複数のレンズ群で構成されている。撮像光学系11のうちでズームレンズやフォーカシングレンズのレンズ位置は、レンズ駆動部12によって光軸方向に調整される。また、レンズ駆動部12は、撮像光学系11のブレ補正レンズを光軸に対して直角方向に揺動させる。これにより、被写体像の結像位置がシフトして、撮像素子15の受光面における被写体の像ブレが抑制される。なお、簡単のため、図1では撮像光学系11を1枚のレンズとして図示する。
The imaging
絞り13は、複数の絞り羽根の開閉によって撮像素子15に入射する光量を調節する。この絞り13の開口量は、CPU23の指示に応じて絞り駆動部14が調整する。
The
撮像素子15は、撮像光学系11および絞り13を通過した光束による被写体像を光電変換してアナログの画像信号を生成する。この撮像素子15の出力はAFE16に接続されている。なお、撮像素子15の電荷蓄積時間および信号読みだしは、CPU23によって制御される。
The
ここで、電子カメラの撮影モードにおいて、撮像素子15は後述のレリーズ釦30の全押し操作に応答して記録用の静止画像(本画像)を撮像する。また、撮影モードでの撮像素子15は、撮影待機時にも所定間隔毎に観測用の画像(スルー画像)を連続的に撮像する。ここで、時系列に取得されたスルー画像のデータは、モニタ20での動画像表示やCPU23による各種の演算処理に使用される。なお、各々のスルー画像の解像度は、本画像よりも低く設定されている。
Here, in the shooting mode of the electronic camera, the
AFE16は、撮像素子15の出力に対してアナログ信号処理を施すアナログフロントエンド回路である。このAFE16は、相関二重サンプリングや、画像信号のゲインの調整や、画像信号のA/D変換を行う。そして、AFE16の出力は画像処理部17に接続されている。なお、CPU23は、AFE16において画像信号のゲインを調整することで、ISO感度に相当する撮像感度を調整できる。
The AFE 16 is an analog front end circuit that performs analog signal processing on the output of the
画像処理部17は、デジタルの画像信号に対して各種の画像処理(色補間処理、階調変換処理、輪郭強調処理、ホワイトバランス調整など)を施す。また、画像処理部17は、本画像のデータの圧縮伸長処理も実行する。
The
また、画像処理部17は、画像の解像度変換(画素数変換)を実行する。一例として、撮影モードでの撮影待機時には、画像処理部17は、スルー画像に解像度変換を施してモニタ表示用のビュー画像を生成する。
The
第1メモリ18は、画像処理部17による画像処理の前工程や後工程で画像のデータを一時的に記憶するバッファメモリである。この第1メモリ18は揮発性の記憶媒体であるSDRAMにより構成される。
The
記録I/F19には、不揮発性の記憶媒体27を接続するためのコネクタが形成されている。そして、記録I/F19は、コネクタに接続された記憶媒体27に対してデータの書き込み/読み込みを実行する。上記の記憶媒体27は、ハードディスクや、半導体メモリを内蔵したメモリカードなどで構成される。なお、図1では記憶媒体27の一例としてメモリカードを図示する。
The recording I /
モニタ20は、CPU23の指示に応じて各種画像を表示する。本実施形態の例では、筐体26の背面に配置された液晶表示パネルによってモニタ20が構成される(図2参照)。なお、モニタ20は、筐体26の背面からみて左側(図2の左側)に寄せて配置されている。
The
また、撮影モードでの撮影待機時において、モニタ20には、CPU23の制御により上記のビュー画像が動画表示される。このとき、CPU23は、撮影に必要となる各種情報をモニタ20のビュー画像上にオーバーレイ表示させることもできる。また、CPU23は、各種の設定項目の入力が可能なメニュー画面をモニタ20に表示させることもできる。
Further, during the shooting standby in the shooting mode, the above-described view image is displayed as a moving image on the
操作部材21は、ユーザーの操作を受け付ける複数のスイッチを有している。具体的には、本実施形態の操作部材21には、レリーズ釦30、ズームスイッチ31と、モード選択釦32と、再生釦33と、メニュー釦34と、削除釦35と、多機能操作スイッチ36とが含まれる。
The
ここで、レリーズ釦30は、半押し操作による撮影前のオートフォーカス(AF)動作開始の指示入力と、全押し操作による撮像動作開始の指示入力とをユーザーから受け付ける。
Here, the
ズームスイッチ31は、ズームレンズの移動による光学的なズーム操作や、ビュー画像の解像度変更による電子的なズーム操作をユーザーから受け付ける。
The
モード選択釦32は、電子カメラの動作モードを選択するための操作をユーザーから受け付ける。再生釦33は、本画像の再生表示を行う再生モードへの移行操作をユーザーから受け付ける。メニュー釦34は、メニュー画面を立ち上げるための操作をユーザーから受け付ける。削除釦35は、上記の再生モードにおいて、表示中の再生画像に対応する本画像のデータを消去する操作をユーザーから受け付ける。
The
多機能操作スイッチ36の上面には、決定釦37およびダイヤル38が配置されている。ダイヤル38の全体形状は環状であって、ダイヤル38の内周側には決定釦37が配置されている。そして、ダイヤル38では、例えばメニュー画面等での項目選択の入力をユーザーから受け付ける。また、決定釦37では、メニュー画面等での項目決定の入力をユーザーから受け付ける。さらに、多機能操作スイッチ36の本体部分は、上下左右の4方向の入力を受け付ける十字キーとして機能する。なお、被写体追尾モードでは、被写体追尾の開始および停止に関する操作が上記の決定釦37に割り当てられている。
An
また、図2に示すように、操作部材21の各スイッチは、筐体26の背面からみて右側(図2の右側)に寄せて配置されている。そのため、操作部材21の各スイッチは、ユーザーが簡単に片手操作できるようになっている。また、ズームスイッチ31、モード選択釦32、再生釦33、メニュー釦34、削除釦35および多機能操作スイッチ36はそれぞれ筐体26の背面に配置される一方で、レリーズ釦30は筐体26の上面に配置されている。そのため、ユーザーは、レリーズ釦30と他のスイッチとを容易に識別することができる。
As shown in FIG. 2, each switch of the
振動センサ22は、電子カメラに対する振動の方向および大きさを検知する。本実施形態での振動センサ22は、電子カメラの縦揺れを検出する縦方向角速度センサと、電子カメラの横揺れを検出する横方向角速度センサとを備えている。上記の各々の角速度センサには、例えば回転によるコリオリ力を検出する圧電振動式角速度センサなどが用いられる。
The
CPU23は、電子カメラの動作を統括的に制御するプロセッサである。例えば、CPU23は、振動センサ22の出力に基づいてブレ補正レンズを駆動させて、光学的なブレ補正を実行する。また、CPU23は、第2メモリ24に格納されたプログラムの実行により、パラメータ設定部40、焦点調節部41、テンプレート生成部42、被写体追尾部43として機能する。
The
パラメータ設定部40では、スルー画像のデータを用いて公知の自動露出(AE)演算を実行する。そして、パラメータ設定部40は、絞り13の絞り値、撮像素子15での電荷蓄積時間(シャッタスピード)、AFE16のゲイン(撮像感度)の各パラメータをそれぞれ設定する。なお、CPU23は、上記のパラメータに基づいて電子カメラの各部を制御し、スルー画像や本画像の撮像を実行することとなる。
The
また、パラメータ設定部40は、スルー画像のデータや本画像のデータを用いてホワイトバランス演算を実行する。
Further, the
具体的には、パラメータ設定部40は、画像のデータをR(赤),G(緑),B(青)成分に分解し、各色成分の階調の平均値Rave,Gave,Baveをそれぞれ求める。そして、パラメータ設定部40は、画像のホワイトバランスを調整するためのホワイトバランス調整値(Grd,Gbd)を求める。Rのレベルを補正するためのホワイトバランス調整値Grdは、Gave/Raveから求めることができる。また、Bのレベルを補正するためのホワイトバランス調整値Gbdは、Gave/Baveから求めることができる。なお、画像処理部17は、上記のホワイトバランス調整値(Grd,Gbd)を適用してホワイトバランス調整を実行する。
Specifically, the
焦点調節部41は、スルー画像のデータを用いて、公知のコントラスト検出によるAF制御を実行する。
The
テンプレート生成部42は、入力された画像から追尾対象の物体を識別するためのテンプレートのデータを生成する。本実施形態の電子カメラでは、人間、動物、建築物、乗物などを含むあらゆる物体を追尾対象としてテンプレートを生成することが可能である。
The
一例として、テンプレート生成部42は、撮影画面内に設定されているテンプレート生成範囲のスルー画像を用いてテンプレートのデータを生成する。なお、上記のテンプレートのデータには、YCbCrの各チャンネルのデータ(被写体の輝度情報、色差情報)が含まれる。
As an example, the
被写体追尾部43は、上記のテンプレートを用いて、撮影画面内における追尾対象の被写体の位置を継続的に検出する。これにより、焦点調節部41では、テンプレートに対応する被写体の動きに追従してAF制御を行うことができる。また、CPU23は、テンプレートに対応する被写体の位置を示すマークをモニタ20のビュー画像上に重畳表示させることもできる。
The
第2メモリ24は、フラッシュメモリ等の不揮発性の記憶媒体で構成される。この第2メモリ24には、上記のテンプレートのデータや、被写体追尾処理での各種データ(撮影画面内での追尾対象の位置や、後述の類似度など)がそれぞれ記憶される。なお、第2メモリ24には、CPU23によって実行されるプログラムも記憶される。このプログラムによる被写体追尾モードでの動作例については後述する。
The
<電子カメラの動作説明>
以下、本実施形態の電子カメラにおける被写体追尾モードを説明する。まず、被写体追尾モードの起動方法の一例を説明する。
<Description of electronic camera operation>
Hereinafter, the subject tracking mode in the electronic camera of this embodiment will be described. First, an example of a method for starting the subject tracking mode will be described.
ユーザーによるモード選択釦32の入力があると、CPU23は撮影モードの選択画面(不図示)をモニタ20に表示する。この撮影モードの選択画面ではGUI形式のダイヤルがモニタ20に表示され、ユーザーは「通常撮影モード」、「シーンモード」などの選択入力を行うことができる。そして、撮影モードの選択画面でシーンモードを選択する入力を受け付けると、CPU23はシーンモードに含まれる撮影モード(例えば、夜景撮影モード、風景撮影モード、被写体追尾モードなど)のうちのいずれかを立ち上げる。このとき、シーンモードにおけるデフォルトの撮影モードが「被写体追尾モード」である場合には、CPU23は被写体追尾モードで電子カメラを起動させる。
When the user inputs the
また、シーンモードでの動作時にユーザーがメニュー釦34を押圧すると、CPU23はシーンモードにおけるメニュー画面(不図示)をモニタ20に表示する。このメニュー画面では、シーンモードに含まれる各撮影モードの切り替えをユーザーが実行できる。そして、メニュー画面で「被写体追尾モード」を選択する入力を受け付けると、CPU23は被写体追尾モードで電子カメラを起動させる。
When the user presses the
次に、図3,図4の流れ図を参照しつつ、被写体追尾モードでの動作例を詳述する。なお、被写体追尾モードでの電子カメラの動作は、CPUの実行するプログラムによって制御される。 Next, an example of the operation in the subject tracking mode will be described in detail with reference to the flowcharts of FIGS. The operation of the electronic camera in the subject tracking mode is controlled by a program executed by the CPU.
ステップS101:CPU23は、撮像素子15を駆動させてスルー画像の撮像を開始する。その後、スルー画像は所定間隔ごとに逐次生成されることとなる。また、CPU23は、スルー画像から生成されたビュー画像をモニタ20に動画表示させる。したがって、ユーザーは、モニタ20のビュー画像を参照して、撮影構図を決定するためのフレーミングを行うことができる。
Step S101: The
また、S101でのCPU23は、撮影画面内のテンプレート生成範囲を示すガイドマーク(矩形の枠表示)をビュー画像に重畳させる(図5参照)。上記の枠表示は、CPU23の制御によって撮影画面の中央部に白色で表示される。なお、上記の枠表示の中に追尾対象の被写体を収めた状態でユーザーが決定釦37を押圧すると、CPU23は被写体追尾処理を開始する。
In S101, the
ステップS102:CPU23は、多機能操作スイッチ36の決定釦37が押圧されたか否かを判定する。決定釦37が押圧された場合(YES側)にはS103に移行する。一方、決定釦37が押圧されていない場合(NO側)にはS120に移行する。
Step S102: The
ステップS103:焦点調節部41は、撮影画面の中央部(S101での枠表示の位置)を焦点検出エリアとしてAF制御を実行する。また、パラメータ設定部40は、スルー画像のデータを用いてAE演算およびホワイトバランス演算を実行する。
Step S103: The
ステップS104:CPU23は、S103でのAF制御によって、焦点検出エリアにおけるフォーカスレンズの合焦位置を検出できたか否かを判定する。上記要件を満たす場合(YES側)にはS106に移行する。一方、上記要件を満たさない場合(NO側)にはS105に移行する。
Step S104: The
ステップS105:CPU23は、テンプレート生成範囲(枠表示に対応する範囲)の被写体が非合焦状態であることを示すNG処理を実行する。一例として、CPU23は、モニタ20の枠表示を一時的に赤色に変更するとともに、スピーカー(不図示)から非合焦時の警告音を出力する。
Step S105: The
その後、CPU23は、枠表示を再び白色に変更するとともにS102に戻って上記動作を繰り返す。なお、S105の場合には、テンプレート生成範囲のスルー画像から適正なテンプレートを生成できないため、電子カメラが被写体追尾処理を実行することはない。
Thereafter, the
ステップS106:テンプレート生成部42は、AF後に撮像されたスルー画像を用いて追尾対象のテンプレートを生成する。一例として、テンプレート生成部42は、上記のスルー画像のうちからテンプレート生成範囲の部分画像を切り出す。そして、テンプレート生成部42は、部分画像のY成分を参照して追尾対象の輝度情報(Y)のテンプレートを生成するとともに、部分画像のCbCr成分を参照して追尾対象の色差情報(Cb,Cr)のテンプレートをそれぞれ生成する。なお、上記の各テンプレートのデータは、CPU23によって第2メモリ24に記録される。
Step S106: The
その後、被写体追尾部43は、上記のテンプレートを用いて被写体追尾処理を開始する。なお、本実施形態において、被写体追尾処理は決定釦37の押圧(S102)をトリガとして開始するが、その後に決定釦37の押圧操作が継続されていない状態(被写体追尾処理の開始後にユーザーが決定釦37の押圧を解除した状態)でも、被写体追尾部43は被写体追尾処理を継続する。
Thereafter, the
また、被写体追尾処理が開始されたときには、CPU23は、被写体追尾の実行状態を示す表示(被写体追尾マーク)をモニタ20に出力する。一例として、CPU23は、ガイドマークの枠表示(S101)を白色から黄色に変更する。これにより、ユーザーはテンプレートの生成完了と、被写体追尾が開始されたこととをモニタ20で確認できる(被写体追尾マークの表示画面は図5とほぼ同様であるため図示を省略する)。
When the subject tracking process is started, the
さらに、被写体追尾処理の実行時には、パラメータ設定部40はAE演算およびホワイトバランス演算を停止する。したがって、被写体追尾処理の実行時には、AE演算に基づく各パラメータ(絞り値、シャッタスピード、撮像感度)およびホワイトバランス調整値は、テンプレート生成時の設定値(S103で求めたもの)に固定される。これにより、被写体追尾処理のときには、各々のスルー画像における追尾対象の明るさや色差の状態が各テンプレートとほぼ同様となるので、追尾対象の検出精度をより向上させることができる。
Further, when the subject tracking process is executed, the
ステップS107:CPU23は、スルー画像のうちで被写体追尾の判定を行う判定フレームが撮像されたか否かを判定する。判定フレームが撮像された場合(YES側)にはS108に移行する。一方、判定フレームが撮像されていない場合(NO側)には、CPU23は判定フレームの撮像を待機する。
Step S107: The
ステップS108:被写体追尾部43は、判定フレーム(S107)に含まれる被写体とテンプレート(S106)との類似度を求めるマッチング処理を実行する。
Step S108: The
このS108でのマッチング処理は、判定フレームのうちの部分領域(探索エリア)を対象として行われる。図6は、本実施形態における探索エリアの初期状態の一例を示した図である。被写体追尾部43は、3×3の配列をなすように撮影画面を9つに等分割した領域のうちで、画面中央の部分領域を探索エリアに指定する。
The matching process in S108 is performed on a partial area (search area) in the determination frame. FIG. 6 is a diagram showing an example of the initial state of the search area in the present embodiment. The
また、S108のマッチング処理では、被写体追尾部43は、以下の(イ)から(ハ)の処理を実行する。なお、以下の各処理は、各テンプレートごとにそれぞれ行われるものとする。
In the matching process of S108, the
(イ)被写体追尾部43は、判定フレームのうちの探索エリアに対応する範囲から、テンプレートとのマッチングを行う対象領域を決定する。この対象領域のサイズは、テンプレートの生成範囲と同じサイズに設定される。
(A) The
(ロ)次に、被写体追尾部43は、上記(イ)で設定された対象領域の画像とテンプレートとでそれぞれ対応位置にある注目画素間の階調差を求める。そして、被写体追尾部43は、上記の対象領域での類似度を以下の式(1)によって求める。なお、類似度の値は、被写体追尾部43によって第2メモリ24に記録される。
(B) Next, the
(ハ)被写体追尾部43は、対象領域をシフトさせて上記(ロ)の処理を繰り返す。これにより、被写体追尾部43は、探索エリア内の各位置でテンプレートとの類似度をそれぞれ求めることとなる。
(C) The
ステップS109:被写体追尾部43は、追尾対象をロストしたか否かを判定する。具体的には、被写体追尾部43は、マッチング処理(S108)で求めた類似度がいずれもロスト判定の閾値未満であるか否かを判定する。上記要件を満たす場合(YES側)にはS111に移行する。なお、この場合(S109のYES側)には、CPU23は、追尾対象をロストしたことを示すロスト表示をモニタ20に出力するようにしてもよい。一方、上記要件を満たさない場合(NO側)にはS110に移行する。
Step S109: The
ステップS110:CPU23は、被写体追尾処理の停止操作をユーザーから受け付けたか否かを判定する。具体的には、本実施形態でのCPU23は、S102の後に2回目の決定釦37の押圧があったときに被写体追尾処理の停止操作があったものと判定する。被写体追尾処理の停止操作があった場合(YES側)にはS111に移行する。一方、被写体追尾処理の停止操作がない場合(NO側)にはS112に移行する。
Step S110: The
ステップS111:CPU23は、被写体追尾処理を終了するとともに、ビュー画像の被写体追尾マークを消灯する。その後、CPU23は、テンプレート生成範囲を示すガイドマーク(S101)をビュー画像の中央に再び重畳表示してS102に戻る。
Step S111: The
したがって、例えば、追尾対象の被写体をロストしたときには、電子カメラが被写体追尾処理を行う前の初期状態に戻るため、追尾対象と異なる被写体を誤って追尾するおそれが低減する。 Therefore, for example, when the subject to be tracked is lost, the electronic camera returns to the initial state before subject tracking processing, so that the possibility of accidentally tracking a subject different from the tracking target is reduced.
ステップS112:被写体追尾部43は、判定フレーム内で最も高い類似度を示す対象領域の位置を追尾対象の位置として決定する。
Step S112: The
そして、被写体追尾部43は、追尾対象の位置に合わせて、ビュー画像に重畳する被写体追尾マークの表示位置を更新する。その結果、モニタ20上での枠表示の位置は追尾対象の被写体の動きに追従してシフトすることとなる。これにより、ユーザーは追尾対象の検出結果をモニタ20で確認できる。なお、S112で求めた追尾対象の位置は、被写体追尾部43によって第2メモリ24に記録される。
Then, the
また、被写体追尾部43は、追尾対象の位置に合わせて探索エリアの位置も更新する。図7は、追尾対象の移動に伴う探索エリアのシフトを示す図である。被写体追尾部43は、追尾対象の位置が探索エリアの中央と重なるように、撮影画面に対して探索エリアをシフトさせる。これにより、追尾対象の動きに合わせて探索エリアが移動するため、電子カメラが追尾対象をロストする確率が低減する。
The
ステップS113:焦点調節部41は、追尾対象の被写体の位置(S112)を焦点検出エリアに設定してAF制御を実行する。
Step S113: The
ステップS114:CPU23は、レリーズ釦30が半押しされたか否かを判定する。レリーズ釦30が半押しされた場合(YES側)にはS116に移行する。一方、レリーズ釦30が半押しされていない場合(NO側)にはS115に移行する。
Step S114: The
ステップS115:CPU23は、被写体追尾モードの終了指示をユーザーから受け付けたか否かを判定する。一例として、本実施形態でのCPU23は、他の動作モードへの切替操作があったときや、電子カメラの電源オフ操作があったときに、被写体追尾モードの終了指示があったものと判定する。
Step S115: The
上記要件を満たす場合(YES側)には、CPU23は、被写体追尾モードの一連の処理を終了する。一方、上記要件を満たさない場合(NO側)には、CPU23はS107に戻って上記動作を繰り返す。これにより、被写体追尾部43は、撮影画面内での追尾対象の位置変化を継続的に検出できる。
If the above requirement is satisfied (YES side), the
ステップS116:この場合には、CPU23は、被写体追尾部43による被写体追尾処理を一時停止させる。そして、焦点調節部41は、被写体追尾処理で最後に検出された追尾対象の位置を焦点検出エリアとしてAF制御を実行する。その後、焦点調節部41は、本画像の撮像が行われるか、あるいはレリーズ釦30の半押し操作が解除されるまでAF制御を停止し、フォーカスレンズの焦点位置を固定する。
Step S116: In this case, the
なお、S116でのCPU23はパラメータ設定部40にAE演算を実行させて、本画像の撮像時に適用する絞り値、シャッタスピード、撮像感度をそれぞれ求めてもよい。
Note that the
ステップS117:CPU23は、レリーズ釦30の半押しが解除されたか否かを判定する。レリーズ釦30の半押しが解除された場合(YES側)には、CPU23は、被写体追尾部43に被写体追尾処理を再開させるとともに、S107に戻って上記動作を繰り返す。一方、レリーズ釦30の半押しが継続している場合(NO側)にはS118に移行する。
Step S117: The
ステップS118:CPU23は、レリーズ釦30が全押しされたか否かを判定する。レリーズ釦30が全押しされた場合(YES側)にはS119に移行する。一方、レリーズ釦30が全押しされていない場合(NO側)には、CPU23はS117に戻って上記動作を繰り返す。
Step S118: The
ステップS119:CPU23は、撮像素子15を駆動させて本画像の撮像処理を実行する。本画像のデータは、AFE16および画像処理部17で所定の処理が施された後に、記録I/F19を介して記憶媒体27に記録される。なお、S119での画像処理部17は、パラメータ設定部40が本画像のデータから求めたホワイトバランス調整値を用いてホワイトバランス調整を行う。また、CPU23は、本画像の撮像処理において、複数フレーム分の本画像を連写撮影するようにしてもよい。
Step S119: The
その後、CPU23は、被写体追尾部43に被写体追尾処理を再開させるとともに、S107に戻って上記動作を繰り返す。
Thereafter, the
なお、被写体追尾処理の再開時(S117のYES側,S119の場合)には、被写体追尾部43は、追尾対象を最後に検出した位置を基準として、探索エリア(S108)の位置を決定する。そして、被写体追尾部43は、次回のマッチング処理において、追尾対象を最後に検出した位置を起点として追尾対象を探索する。例えば、被写体追尾部43は、次回のマッチング処理での対象領域として、追尾対象を最後に検出した位置を最初に指定する。
When the subject tracking process is resumed (YES side of S117, in the case of S119), the
ステップS120:CPU23は、レリーズ釦30が半押しされたか否かを判定する。レリーズ釦30が半押しされた場合(YES側)にはS121に移行する。一方、レリーズ釦30が半押しされていない場合(NO側)にはS125に移行する。
Step S120: The
ステップS121:焦点調節部41は、例えば、中央優先または至近優先のアルゴリズムで通常のAF制御を実行する。その後、焦点調節部41は、本画像の撮像が行われるか、あるいはレリーズ釦30の半押し操作が解除されるまでAF制御を停止し、フォーカスレンズの焦点位置を固定する。また、S121でのCPU23はパラメータ設定部40にAE演算を実行させて、本画像の撮像時に適用する絞り値、シャッタスピード、撮像感度をそれぞれ求める。
Step S121: The
ステップS122:CPU23は、レリーズ釦30の半押しが解除されたか否かを判定する。レリーズ釦30の半押しが解除された場合(YES側)には、CPU23はS102に戻って上記動作を繰り返す。一方、レリーズ釦30の半押しが継続している場合(NO側)にはS123に移行する。
Step S122: The
ステップS123:CPU23は、レリーズ釦30が全押しされたか否かを判定する。レリーズ釦30が全押しされた場合(YES側)にはS124に移行する。一方、レリーズ釦30が全押しされていない場合(NO側)には、CPU23はS122に戻って上記動作を繰り返す。
Step S123: The
ステップS124:CPU23は、撮像素子15を駆動させて本画像の撮像処理を実行する。このS124での処理は上記のS119と共通するため、重複説明を省略する。その後、CPU23は、S102に戻って上記動作を繰り返す。
Step S124: The
ステップS125:CPU23は、被写体追尾モードの終了指示をユーザーから受け付けたか否かを判定する。上記要件を満たす場合(YES側)には、CPU23は被写体追尾モードの一連の処理を終了する。一方、上記要件を満たさない場合(NO側)には、CPU23はS102に戻って上記動作を繰り返す。以上で、図3,図4の流れ図の説明を終了する。
Step S125: The
以下、本実施形態での作用効果を述べる。本実施形態の電子カメラでは、多機能操作スイッチ36の決定釦37によって、被写体追尾処理の開始および終了の操作をユーザーから受け付ける。
Hereinafter, the operational effects of this embodiment will be described. In the electronic camera of this embodiment, the start and end operations of the subject tracking process are received from the user by the
このように、本実施形態の電子カメラでは、本画像の撮像指示を行うレリーズ釦30と、被写体追尾処理の操作に用いるスイッチ(決定釦37)とが独立している。そのため、電子カメラのユーザーインターフェースがユーザーにとって直感的に把握しやすくなり、電子カメラの操作性が大きく向上する。特に、本実施形態では、レリーズ釦30と、多機能操作スイッチ36の決定釦37とがそれぞれ筐体26の異なる面に配置されているので、ユーザーが誤操作をする可能性はより低くなる。
As described above, in the electronic camera of the present embodiment, the
また、本実施形態の電子カメラでは、レリーズ釦30を用いて被写体追尾処理の操作を行わないため、被写体追尾時に誤操作でレリーズ釦30が全押しされる可能性は低くなる。そのため、ユーザーの意図しないタイミングで本画像が撮影されるおそれは著しく低減する。
Further, in the electronic camera of the present embodiment, since the subject tracking processing operation is not performed using the
さらに、本実施形態の電子カメラでは、ビュー画像の表示中に使用されていない決定釦37に被写体追尾処理に関する操作を割り当てることで、カメラのサイズをコンパクトに保ちつつ、上記の各効果を享受することが可能となる。
Furthermore, in the electronic camera of this embodiment, by assigning an operation related to the subject tracking process to the
<実施形態の補足事項>
(1)上記実施形態では、被写体追尾処理の開始および終了の操作を多機能操作スイッチ36の決定釦37に割り当てた例を説明した。しかし、本発明では、レリーズ釦30以外の他のスイッチに被写体追尾処理に関する操作を割り当ててもよい。
<Supplementary items of the embodiment>
(1) In the above embodiment, the example in which the start and end operations of the subject tracking process are assigned to the
(2)本発明において、被写体追尾処理に関する操作を行うスイッチは筐体26の背面以外に配置されるものであってもよい。一例として、図8に示すように、被写体追尾処理に関する操作を受け付ける専用のスイッチ(被写体追尾釦39)を、筐体26の上面においてレリーズ釦30と隣接する位置に設けてもよい。この場合には、ユーザーはレリーズ釦30を押圧する指と同じ指で被写体追尾釦39を素早く操作できるので、被写体追尾処理に関する操作を迅速に行うことが可能となる。さらに、他の変形例として、上記の被写体追尾釦39を、例えば筐体26の他の面(筐体26の正面など)に配置してもよい(この場合の図示は省略する)。
(2) In the present invention, the switch for performing an operation related to the subject tracking process may be arranged other than the back surface of the
(3)上記実施形態では、1回目の決定釦37の押圧に応じて電子カメラが被写体追尾処理を開始するとともに、2回目の決定釦37の押圧に応じて電子カメラが被写体追尾処理を終了する例を説明した。しかし、本発明の電子カメラは、上記S102のYES側から決定釦37の押圧が継続している期間は被写体追尾処理を継続し、上記S110で決定釦37の押圧が解除されたときに被写体追尾処理を終了するようにしてもよい。
(3) In the above embodiment, the electronic camera starts the subject tracking process in response to the first press of the
また、上記実施形態のS110において、CPU23は、ズームスイッチ31の操作があった場合には被写体追尾処理を停止させて、ズームレンズの移動などを行うようにしてもよい。
In S110 of the above embodiment, the
(4)上記実施形態では、パラメータ設定部40、焦点調節部41、テンプレート生成部42、被写体追尾部43などの機能をプログラムによってソフトウエア的に実現する例を説明したが、これらの構成をASICを用いてハードウエア的に実現しても勿論かまわない。
(4) In the above embodiment, the example in which the functions of the
(5)上記実施形態では、コンパクト型の電子カメラでの構成例を説明した。しかし、本発明の撮像装置は、レンズ交換可能な一眼レフレックス型の電子カメラにも適用することが勿論可能である。なお、本発明を一眼レフレックス型の電子カメラに適用する場合には、本画像を撮像する撮像素子によってスルー画像を撮像してもよく、また、本画像を撮像する撮像素子とは別にスルー画像を撮像するための撮像素子を設けるようにしてもよい。 (5) In the above embodiment, the configuration example of the compact electronic camera has been described. However, the imaging apparatus of the present invention can of course be applied to a single-lens reflex type electronic camera in which lenses can be exchanged. Note that when the present invention is applied to a single-lens reflex electronic camera, a through image may be captured by an image sensor that captures the main image, and the through image is separate from the image sensor that captures the main image. You may make it provide the image pick-up element for imaging.
また、本発明の撮像装置は、例えば、携帯電話などの電子機器に内蔵されるカメラモジュールに適用することも可能である。 The imaging device of the present invention can also be applied to a camera module built in an electronic device such as a mobile phone.
(6)上記実施形態において、被写体追尾処理での電子カメラの負荷を軽減させるために、被写体追尾処理のときのAF制御(S113)を停止してもよい。 (6) In the above embodiment, the AF control (S113) during the subject tracking process may be stopped in order to reduce the load on the electronic camera during the subject tracking process.
(7)上記実施形態では、簡単のため、最初に生成されたテンプレートのみを用いて被写体追尾処理を行う例を説明した。しかし、本発明のテンプレート生成部は、追尾対象の検出に成功したときに逐次テンプレートを生成して、テンプレートの蓄積または更新を行うようにしてもよい。 (7) In the above embodiment, for simplicity, the example in which the subject tracking process is performed using only the template generated first has been described. However, the template generation unit of the present invention may generate templates sequentially when the tracking target is successfully detected, and accumulate or update the templates.
(8)上記実施形態では、追尾対象の輝度情報および色差情報のテンプレートをそれぞれ生成する例を説明した。しかし、上記実施形態はあくまで一例にすぎず、本発明の撮像装置では、上記の輝度情報、色差情報のテンプレートのいずれかを選択的に生成するものであってもよい。また、被写体追尾部43は、例えば、画像のRGBの階調値、画像の輪郭成分または画像のコントラスト比の情報などを用いて、スルー画像から追尾対象を検出してもよい。
(8) In the above-described embodiment, an example in which templates of luminance information and color difference information to be tracked are generated has been described. However, the above embodiment is merely an example, and the imaging apparatus according to the present invention may selectively generate any one of the templates of the luminance information and the color difference information. In addition, the
(9)上記実施形態および変形例の構成はあくまで一例にすぎない。そのため、本発明の撮像装置を実施するときには、上述の実施形態および変形例に示す構成やその処理の順序についてあらゆる組み合わせをとることができる。 (9) The configuration of the above embodiment and the modification is merely an example. Therefore, when implementing the imaging apparatus of the present invention, all combinations of the configurations and the processing order shown in the above-described embodiments and modifications can be taken.
なお、本発明は、その精神またはその主要な特徴から逸脱することなく他の様々な形で実施することができる。そのため、上述した実施形態はあらゆる点で単なる例示に過ぎず、限定的に解釈してはならない。本発明は、特許請求の範囲によって示されるものであって、本発明は明細書本文にはなんら拘束されない。さらに、特許請求の範囲の均等範囲に属する変形や変更は、全て本発明の範囲内である。 It should be noted that the present invention can be implemented in various other forms without departing from the spirit or main features thereof. Therefore, the above-described embodiment is merely an example in all respects and should not be interpreted in a limited manner. The present invention is defined by the claims, and the present invention is not limited to the text of the specification. Further, all modifications and changes belonging to the equivalent scope of the claims are within the scope of the present invention.
15…撮像素子、17…画像処理部、20…モニタ、21…操作部材、23…CPU、24…第2メモリ、26…筐体、30…レリーズ釦、37…決定釦、39…被写体追尾釦、43…被写体追尾部
DESCRIPTION OF
Claims (5)
追尾対象の特徴を示すテンプレートを記憶するメモリと、
前記テンプレートを用いて、前記追尾対象の被写体を前記画像から継続的に検出する被写体追尾部と、
前記画像を表示するモニタと、
前記撮像部、前記メモリ、前記被写体追尾部および前記モニタを収納する筐体と、
前記筐体の外面に配置されるとともに、前記撮像部に記録用の静止画像を撮像させる撮像指示を受け付ける第1操作部材と、
前記第1操作部材とは独立して前記筐体の外面に配置されるとともに、前記被写体追尾部に前記追尾対象の検出を開始させる追尾開始操作を受け付ける第2操作部材と、
を備え、
前記モニタは、前記筐体の一方の側面側に寄せて配置され、
前記第1部材および前記第2部材は、前記モニタの位置よりも前記筐体の他方の側面側に寄せて配置され、
前記被写体追尾部は、前記追尾開始操作があった後に前記第2操作部材での前記追尾開始操作が継続して行われていないときも前記追尾対象の検出を継続し、前記第2操作部材による前記追尾開始操作の後にさらに前記第2操作部材からの入力を受け付けたときに前記追尾対象の検出を終了することを特徴とする撮像装置。 An imaging unit that captures a subject image and generates image data;
A memory for storing a template indicating the characteristics of the tracking target;
A subject tracking unit for continuously detecting the subject to be tracked from the image using the template;
A monitor for displaying the image;
A housing that houses the imaging unit, the memory , the subject tracking unit, and the monitor ;
A first operation member disposed on an outer surface of the housing and receiving an imaging instruction for causing the imaging unit to capture a still image for recording;
A second operation member that is disposed on the outer surface of the housing independently of the first operation member, and that receives a tracking start operation that causes the subject tracking unit to start detection of the tracking target;
With
The monitor is arranged close to one side of the housing,
The first member and the second member are arranged closer to the other side surface of the housing than the position of the monitor,
The subject tracking unit continues to detect the tracking target even when the tracking start operation with the second operation member is not continuously performed after the tracking start operation is performed. An imaging apparatus, wherein the tracking target detection is terminated when an input from the second operation member is further received after the tracking start operation.
前記筐体は、少なくとも2つの面を有する形状であって、
前記第1操作部材と前記第2操作部材とは、それぞれ前記筐体の異なる面に配置されていることを特徴とする撮像装置。 The imaging device according to claim 1,
The housing has a shape having at least two surfaces,
The imaging apparatus, wherein the first operation member and the second operation member are respectively disposed on different surfaces of the casing.
前記筐体は、少なくとも2つの面を有する形状であって、
前記第1操作部材および前記第2操作部材は、前記筐体の同一の面に隣接して配置されていることを特徴とする撮像装置。 The imaging device according to claim 1,
The housing has a shape having at least two surfaces,
The imaging apparatus, wherein the first operating member and the second operating member are disposed adjacent to the same surface of the casing.
前記モニタは、前記画像に対応する視野画像を表示し、
前記被写体追尾部は、前記追尾対象の検出を開始したときに、前記被写体の追尾が行われていることを示す表示を前記視野画像とともに前記モニタに表示させることを特徴とする撮像装置。 The imaging device according to claim 1,
The monitor displays a field-of-view image corresponding to the image;
The subject tracking unit displays, on the monitor, the display indicating that the subject is being tracked together with the visual field image when the detection of the tracking target is started.
前記モニタは、前記画像に対応する視野画像を表示し、
前記被写体追尾部は、前記追尾対象の検出を終了したときに、前記テンプレートを生成する被写体の位置を示す指標を前記視野画像とともに前記モニタに表示させることを特徴とする撮像装置。 The imaging device according to claim 1,
The monitor displays a field-of-view image corresponding to the image;
The subject tracking unit displays an index indicating a position of a subject for generating the template on the monitor together with the visual field image when the detection of the tracking target is finished.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008007102A JP5040669B2 (en) | 2008-01-16 | 2008-01-16 | Imaging device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008007102A JP5040669B2 (en) | 2008-01-16 | 2008-01-16 | Imaging device |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2009171233A JP2009171233A (en) | 2009-07-30 |
JP2009171233A5 JP2009171233A5 (en) | 2011-08-11 |
JP5040669B2 true JP5040669B2 (en) | 2012-10-03 |
Family
ID=40971924
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008007102A Expired - Fee Related JP5040669B2 (en) | 2008-01-16 | 2008-01-16 | Imaging device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5040669B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115104299A (en) * | 2020-02-21 | 2022-09-23 | 索尼集团公司 | Program, information processing method, and electronic device |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003309761A (en) * | 2002-04-17 | 2003-10-31 | Sony Corp | Imaging device and editing device |
JP2006254129A (en) * | 2005-03-11 | 2006-09-21 | Casio Comput Co Ltd | Histogram display device |
-
2008
- 2008-01-16 JP JP2008007102A patent/JP5040669B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2009171233A (en) | 2009-07-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5115210B2 (en) | Imaging device | |
JP4761146B2 (en) | Imaging apparatus and program thereof | |
JP5054583B2 (en) | Imaging device | |
JP4657960B2 (en) | Imaging method and apparatus | |
US20070269196A1 (en) | System for and method of taking image | |
US8988579B2 (en) | Imaging apparatus | |
JP2007306416A (en) | Method for displaying face detection frame, method for displaying character information, and imaging apparatus | |
JP2013013050A (en) | Imaging apparatus and display method using imaging apparatus | |
JP6495122B2 (en) | Imaging apparatus and image processing method | |
JP4614143B2 (en) | Imaging apparatus and program thereof | |
JP5217451B2 (en) | Imaging device | |
JP5499853B2 (en) | Electronic camera | |
JP2007129310A (en) | Imaging apparatus | |
US10999489B2 (en) | Image processing apparatus, image processing method, and image capture apparatus | |
US10554891B2 (en) | Image stabilization apparatus, image stabilization method, image capturing apparatus, image capturing system and non-transitory storage medium | |
US9274402B2 (en) | Imaging device that executes auto focus control by referring to distance image data regarding a depth of a region | |
JP2007311962A (en) | Electronic camera and image display program | |
JP5062095B2 (en) | Imaging device | |
JP5040669B2 (en) | Imaging device | |
JP5169542B2 (en) | Electronic camera | |
JP5027029B2 (en) | Camera with enlargement display function and camera control method | |
JP2009048123A (en) | Photographing equipment and method of controlling same | |
JP2009086036A (en) | Imaging device and control method for imaging device | |
JP2008187332A (en) | Image tracking device and image pickup device | |
JP6346398B2 (en) | Imaging apparatus and imaging method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110114 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110117 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110624 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120330 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120403 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120522 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120612 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120625 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5040669 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150720 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150720 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |