JP4770751B2 - 動画再生装置、動画再生方法及びプログラム - Google Patents

動画再生装置、動画再生方法及びプログラム Download PDF

Info

Publication number
JP4770751B2
JP4770751B2 JP2007035243A JP2007035243A JP4770751B2 JP 4770751 B2 JP4770751 B2 JP 4770751B2 JP 2007035243 A JP2007035243 A JP 2007035243A JP 2007035243 A JP2007035243 A JP 2007035243A JP 4770751 B2 JP4770751 B2 JP 4770751B2
Authority
JP
Japan
Prior art keywords
correction
display
moving image
distance
display means
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007035243A
Other languages
English (en)
Other versions
JP2008199520A (ja
Inventor
博之 星野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2007035243A priority Critical patent/JP4770751B2/ja
Publication of JP2008199520A publication Critical patent/JP2008199520A/ja
Application granted granted Critical
Publication of JP4770751B2 publication Critical patent/JP4770751B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)

Description

本発明は、画像のぶれを含む動画データの再生時に画像のぶれを補正して出力する機能を備えた動画再生装置、動画再生方法及びプログラムに関する。
従来、デジタルカメラ等の撮像装置において、動画撮影時に生じた画像のぶれを再生時に補正して出力する方法が知られている(例えば、特許文献1参照)。
また、この種の撮像装置では、再生対象となる動画像データを内蔵モニタに出力する他に、外部出力端子などを介してテレビ等の外部モニタに再生出力する機能を備えているものがある。
特開平10−136304号公報
従来、動画再生時に使用するモニタに関係なく、一定のレベルでぶれ補正が行なわれていた。しかしながら、実際には、ユーザがモニタ上で動画像を見たときに感じる画像のぶれは、そのときに使用するモニタの画面サイズなどによって違うため、違和感を覚えることなどがあった。
本発明は前記のような点に鑑みなされたもので、動画再生時の出力形態を考慮して、画像のぶれを適切に補正して出力することのできる動画再生装置、動画再生方法及びプログラムを提供することを目的とする。
本発明の請求項1に係る動画再生装置は、記録済みの動画像データを再生出力する動画再生装置であって、再生時に前記動画像データに含まれる画像のぶれを補正するぶれ補正手段と、前記動画像データを再生出力する表示手段の画面サイズまたはこの表示手段までの距離を検出する検出手段と、前記検出手段により検出された画面サイズまたは距離に応じて、前記ぶれ補正手段における補正レベルを変更する補正制御手段とを具備したことを特徴とする。
また、本発明の請求項2は、更に、装置本体に内蔵された第1の表示手段と、この第1の表示手段とは別に外部出力端子を介して接続され、この第1の表示手段とは画面サイズまたは表示手段までの距離が異なる第2の表示手段とに対する表示制御を行う表示制御手段を備え、前記補正制御手段は、前記表示制御手段によって前記第1の表示手段に前記動画像データを出力する場合と前記第2の表示手段に前記動画像データを出力する場合とで、前記ぶれ補正手段における補正レベルを変更することを特徴とする。
また、本発明の請求項3は、更に、外部出力端子を介して接続される第2の表示手段に対する表示制御を行う表示制御手段を備え、前記補正制御手段は、前記表示制御手段によって前記第2の表示手段に前記動画像データを出力する場合に、前記検出手段により検出された前記第2の表示手段の画面サイズまたは前記第2の表示手段までの距離に応じて、前記ぶれ補正手段における補正レベルを変更することを特徴とする。
また、本発明の請求項4は、更に、前記補正制御手段は、前記第1の表示手段に前記動画像データを出力する場合には補正レベルをゼロにすることを特徴とする。
また、本発明の請求項5は、更に、前記補正制御手段は、前記第1の表示手段に出力する場合の補正レベルよりも前記第2の表示手段に出力する場合の補正レベルを高くすることを特徴とする。
また、本発明の請求項6は、更に、前記検出手段は、前記第2の表示手段の画面サイズを検出するサイズ検出手段を含み、前記補正制御手段は、前記サイズ検出手段によって検出された前記第2の表示手段の画面サイズに基づいて、前記第2の表示手段に対する補正レベルを制御することを特徴とする。
また、本発明の請求項7は、更に、前記補正制御手段は、前記第2の表示手段の画面サイズが大きいほど、補正レベルを高くし、前記第2の表示手段の画面サイズが小さいほど、補正レベルを低くするように制御することを特徴とする。
また、本発明の請求項8は、更に、前記検出手段は、前記第2の表示手段までの距離を検出する距離検出手段を含み、前記補正制御手段は、前記距離検出手段によって検出された前記第2の表示手段までの距離に基づいて、前記第2の表示手段に対する補正レベルを制御することを特徴とする。
また、本発明の請求項9は、更に、前記補正制御手段は、前記第2の表示手段までの距離が長いほど、補正レベルを低くし、前記第2の表示手段までの距離が短いほど、補正レベルを高くするように制御することを特徴とする。
また、本発明の請求項10は、更に、前記検出手段は、前記第2の表示手段の画面サイズを検出するサイズ検出手段と、前記第2の表示手段までの距離を検出する距離検出手段とを含み、前記補正制御手段は、前記サイズ検出手段によって検出された前記第2の表示手段の画面サイズと、前記距離検出手段によって検出された前記第2の表示手段までの距離とに基づいて、前記第2の表示手段に対する補正レベルを制御することを特徴とする。
また、本発明の請求項11は、更に、前記検出手段は、更に前記第2の表示手段の種類を検出する種類検出手段を備え、前記補正制御手段は、更に前記種類検出手段によって検出された前記第2の表示手段の種類にも基づいて、前記第2の表示手段に対する補正レベルを制御することを特徴とする。
また、本発明の請求項12は、更に、前記検出手段は、前記第2の表示手段の画面サイズを検出するサイズ検出手段と、前記第2の表示手段までの距離を検出する距離検出手段と、前記第2の表示手段の種類を検出する種類検出手段とを含み、前記補正制御手段は、前記サイズ検出手段によって検出された前記第2の表示手段の画面サイズと、前記距離検出手段によって検出された前記第2の表示手段までの距離と、前記種類検出手段によって検出された前記第2の表示手段の種類とに基づいて、前記第2の表示手段に対する補正レベルを制御することを特徴とする。
また、本発明の請求項13は、更に、前記第2の表示手段の接続の有無を検出する接続検出手段と、この接続検出手段によって前記第2の表示手段の接続が検出されなかった場合には前記ぶれ補正手段におけるぶれ補正をオフし、前記第2の表示手段の接続が検出された場合には前記ぶれ補正手段におけるぶれ補正をオンする補正制御手段とを具備したことを特徴とする。
また、本発明の請求項14に係る動画再生方法は、記録済みの動画像データを再生出力するための動画再生方法であって、再生時に前記動画像データに含まれる画像のぶれを補正するステップと、前記動画像データを再生出力する表示手段の画面サイズまたはこの表示手段までの距離を検出するステップと、前記検出された画面サイズまたは距離に応じて、前記ぶれ補正における補正レベルを変更するステップとを備えたことを特徴とする動画再生方法。
また、本発明の請求項15は、更に、前記第2の表示部の接続の有無を検出するステップと、前記第2の表示部の接続が検出されなかった場合には前記ぶれ補正をオフし、前記第2の表示部の接続が検出された場合には前記ぶれ補正をオンするステップとを備えたことを特徴とする。
また、本発明の請求項16に係るプログラムは、記録済みの動画像データを再生出力する機能を備えたコンピュータによって実行されるプログラムであって、前記コンピュータに、再生時に前記動画像データに含まれる画像のぶれを補正する機能と、前記動画像データを再生出力する表示手段の画面サイズまたはこの表示手段までの距離を検出する機能と、前記検出された画面サイズまたは距離に応じて、前記ぶれ補正における補正レベルを変更する機能とを実現させることを特徴とする。
また、本発明の請求項17は、更に、前記第2の表示部の接続の有無を検出する機能と、前記第2の表示部の接続が検出されなかった場合には前記ぶれ補正をオフし、前記第2の表示部の接続が検出された場合には前記ぶれ補正をオンする機能とを実現させることを特徴とする。
本発明によれば、動画再生時における表示手段の画面サイズまたはこの表示手段までの距離に応じて画像のぶれを適切に補正して出力することができる。
以下、図面を参照して本発明の実施形態を説明する。
(第1の実施形態)
図1は本発明の第1の実施形態に係る動画再生装置をデジタルカメラに適用した場合のシステム構成を示す図である。
デジタルカメラ11は、静止画/動画の撮影機能などの基本的なカメラ機能の他に、動画像に含まれるぶれ成分を検出、補正しながら再生する機能を備える。このデジタルカメラ11は、AV(Audio Video)ケーブル12を介してTV等の外部モニタ13またはDVD(Digital Video Disc / Digital Versatile Disc)レコーダ等の記録装置14に接続される。外部モニタ13と記録装置14とは接続されており、デジタルカメラ11から記録装置14を介して外部モニタ13に画像データを出力することも可能である。以下では、説明を簡単にするため、デジタルカメラ11と外部モニタ13がAVケーブル12に接続され、デジタルカメラ11から画像データを外部モニタ13に直接出力するものとして説明する。
図2はデジタルカメラとAVケーブルとの接続部の構成を部分的に示した図である。
AVケーブル12の両端にはピンジャック12aが設けられている。また、デジタルカメラ11の側面部には外部出力端子11aが設けられ、その外部出力端子11aの最深部には接続検出用のスイッチ15が埋設されている。ピンジャック12aを外部出力端子11aに嵌め込むと、ピンジャック12aの先端部がスイッチ15の電極を押してスイッチ15がオンする。
図3はデジタルカメラの要部構成を示すブロック図である。なお、図3にあっては、デジタルカメラ11は、TV等の外部モニタ13と接続されている他に、パーソナルコンピュータ(PC)51や記録媒体読取装置52に接続された状態を示している。なお、パーソナルコンピュータ(PC)51と記録媒体読取装置52は、デジタルカメラ11に対する外部記録装置50として用いられる。
デジタルカメラ11は、撮像された動画像を記録するための符号化標準であるMPEG(MovingPictureExpertsGroup)4等の情報圧縮方式により符号化して記録するものである。また、デジタルカメラ11は、例えば、外部記録装置50と所定の通信ケーブル等を介して接続され、外部記録装置50に記録される符号化動画像データに基づいて、所定の動画像を表示することができるようになっている。
図3に示すように、デジタルカメラ11は、被写体の静止画像や動画像を撮像する撮像部21と、撮像部21により撮像された画像を所定の情報圧縮方式により符号化する符号化部22と、符号化部22により符号化された符号化画像データを記録する内蔵記録部23と、符号化動画像データを記録するメモリカード(外部記録媒体)Mや外部記録装置50と接続され、符号化動画像データ等の各種情報の受渡を制御する外部記録制御部24と、内蔵記録部23やメモリカードMなどに記録された符号化画像データを復号する復号部25と、第一表示処理部26と接続され、所定の画像を表示する内蔵表示部27と、第二表示処理部28と接続され、所定の画像データを外部モニタ13に出力する外部出力端子11aと、各部を制御する制御部29等を備えて構成されている。
撮像部21は、AF(automatic focusing)機能を備え、所定操作によって静止画像及び動画像の撮像を切り替えて実行することができる。具体的には、撮像部21は、図示は省略するが、フォーカス機能やズーム機能を有する撮像レンズ群と、この撮像レンズ群を通過した被写体像を二次元の画像データに変換するCCD(charge coupled device)やCMOS(Complementary Metal−oxide Semiconductor)等からなる電子撮像部と、この電子撮像部から出力される画像データに対して所定の画像処理を施す信号処理部と、電子撮像部及び信号処理部等を制御するための撮像制御部等を備えている。そして、信号処理部から画像処理が施された画像データが符号化部22に対して出力される。
符号化部22は、例えば、MPEG4等の動き補償を行う情報圧縮方式により動画像データを符号化するものであり、具体的には、撮像部21から入力された動画像データに対して、当該動画像データを構成する画像フレームF間の時間的な相関関係を利用して符号量を削減するMC(MotionCompensation;動き補償)や、各画像フレームFの空間的な相関関係を利用して符号量を削減するDCT(DiscreteCQsineTransform;離散コサイン変換)等の情報圧縮符号化処理を実行する。また、符号化部22は、例えば、DCTにより算出されるDCT変換係数を視覚特性を考慮した所定のQ値で除算する量子化を行う。
内蔵記録部23は、符号化部22により符号化された静止画像データや動画像データを一時的に記録するものである。なお、これら一時的に記録されたデータを恒久的に保存する場合には、外部記録制御部24を介してメモリカードMや外部記録装置50に転送して保存する。
外部記録制御部24は、例えば、不揮発性のメモリカードMが着脱自在に構成されたメモリカードインターフェイス(1/F)24aと、PC51や記録媒体読取装置52等の外部記録装置50と接続するためのUSBインターフェイス(1/F)24bを備えている。そして、外部記録制御部24は、例えば、メモリカード1/F24aを介してメモリカードMに記録されている動画像データを取得する処理を制御し、また、USBI/F24bを介して外部記録装置50に記録されている動画像データを取得する処理を制御する。ここで、PC51は、例えば、ディスプレイ51aを備えている。また、記録媒体読取装置52は、例えば、磁気的あるいは光学的な記録媒体52aに記憶された各種情報の読み出しを行う。
復号部25は、例えば、操作部の所定操作に基づいて動画像の再生指示が入力された際に、内蔵記録部23に記録された符号化動画像データ又は外部記録制御部24を介して取得される符号化動画像データを復号して、動画像データを構成する複数の画像フレームF、…が再生される順序で並んだビットストリームを作成するものである。
第一表示処理部26は、内蔵表示部27に対する動画像データの表示処理を行う。内蔵表示部27は、例えば、装置本体に内蔵された液晶表示装置等により構成され、復号部25により復号された画像データに基づいて、各種画像の確認のための表示を行うものである。この内蔵表示部27は、表示サイズの小さい動画像を表示するものであり、当該動画像の観賞用ではなく確認用として用いられるものである。
第二表示処理部28は、外部モニタ13に対する動画像データの表示処理を行う。外部出力端子11aは、TV等の外部モニタ13を接続して、鑑賞用として画像を表示させるためのものである。
なお、外部出力端子11aに外部モニタ13を接続すると、動画像データの出力先は自動的に外部モニタ13に切り換えられるものとする。外部モニタ13が接続されていない場合での動画像データの出力先は内蔵表示部27である。
制御部29は、例えばCPUからなり、記憶部30に記憶されたプログラム30aを読み込むことにより、撮影処理などを含む各種処理を実行する。この制御部29には、動画再生時のぶれ補正に関する機能として、動画像データに含まれる画像のぶれを検出するぶれ検出部29aと、ぶれ検出部29aによって検出された画像のぶれを補正するぶれ補正部29bと、動画像データを再生出力する形態に応じて、ぶれ補正部29bにおけるぶれ補正のレベルを変更する補正制御部29cとが備えられている。
さらに、前記制御部29には、動画再生時の出力形態を検出するための機能として、接続検出部32と、サイズ検出部33と、距離検出部34とが備えられている。
接続検出部32は、外部モニタ13の接続の有無を検出するものである。具体的には、図2に示したAVケーブル12のピンジャック12aの装着によってオンするスイッチ15の信号に基づいて外部モニタ13の接続の有無を検出する。サイズ検出部33は、デジタルカメラ11に接続された外部モニタ13の画面サイズを検出する。距離検出部34は、デジタルカメラ11に接続された外部モニタ13までの距離を検出する。なお、この画面サイズと距離に関する具体的な検出方法については、後に図7および図8を用いて詳しく説明する。
また、記憶部30は、例えばROM、RAMなどから構成され、制御部29を制御するためのプログラム30aや、ぶれ補正のレベルを決定するためのテーブル30bなどを含む各種データを記憶している。
操作部31は、電源キー、シャッタキー、撮影キー、再生キー、メニューキーなど、デジタルカメラ11を操作するための各種キーを有する。
次に、図4および図5を参照して動画再生処理について説明する。
図4は動画再生処理の動作を示すフローチャート、図5はその動画再生処理に含まれる補正レベル決定処理の動作を示すフローチャートである。なお、これらのフローチャートで示される処理は、制御部29が記憶部30に記憶されたプログラム30aを読み込むことにより実行される。
図4に示すように、所定の操作により内蔵記録部23、メモリカードM、外部記録装置500の何れかに記録されている動画像データが再生対象として選択されると(ステップA11)、復号部25は、その動画像データを所定の方式で復号化した後、制御部29に与える(ステップA12)。
ここで、制御部29は、当該動画像データに対するぶれ補正のレベルを決定するための処理を行う(ステップA13)。
詳しくは、図5に示すように、制御部29は、まず、接続検出部31を通じて外部モニタ13が接続されているか否かを判断する(ステップB11)。上述したように、接続検出部32では、外部出力端子11aに設けられたスイッチ15の信号によって外部モニタ13の接続の有無を検出する。
外部モニタ13が接続されていた場合(ステップB11のYes)、外部モニタ情報を手動設定するか否かによって処理が分岐される(ステップB12)。所定の操作により、手動設定が指示されると(ステップB12のYes)、制御部29は、図6に示すようなモニタ設定画面41を内蔵モニタ27または外部モニタ13に表示する(ステップB13)。
モニタ設定画面41には、外部モニタ13の画面サイズを入力するためのサイズ入力部42と、外部モニタ13までの距離を入力するための距離入力部43が設けられており、そこにユーザが入力した画面サイズと距離の情報が記憶部30の所定のエリアに設定される(ステップB14)。なお、モニタ設定画面41の構成は図6の例に限られるものでない。
また、このような手動設定によらない場合には(ステップB12のNo)、制御部29は、以下のようにして外部モニタ13の画面サイズと外部モニタ13までの距離を検出する(ステップB15,B16)。
すなわち、まず、デジタルカメラ11に搭載されているAF(automatic focusing)機能に含まれる測距機能を利用して、デジタルカメラ11から外部モニタ13までの距離を所定の方式にて測定する(ステップB15)。続いて、撮像部21を駆動して外部モニタ13を撮影し、そのときの画角と距離に基づいて外部モニタ13の画面サイズを求め(ステップB16)、これらの情報を記憶部30の所定のエリアに設定する(ステップB17)。
図7および図8を用いて詳しく説明すると、例えば35mm版カメラでレンズの焦点距離が28mmの場合、その画角αは約74度になる。このとき、図7に示すように、被写体の距離dが分かれば、距離dに対する画像の斜め幅gsを求めることができる。
ここで、図8に示すように、撮影画像の全体幅ghと全体高gvの比率は撮像素子のサイズによって決定されるので、長さの分かっている斜め幅gsから全体幅ghと全体高gvが求められる。さらに、直線検出によりモニタ画面の輪郭を検出すれば、そのモニタ画面の幅ihと高さivのサイズはgh,gvから求めることができる。
一方、前記ステップB11において、外部モニタ13が接続されていない場合には、制御部29は、内蔵モニタ27の画面サイズを記憶部30の所定のエリアに設定すると共に(ステップB18)、モニタまでの距離として所定値(ここでは20cmとする)を設定する(ステップB19)。
次に、制御部29は、記憶部30に設けられたテーブル30bを参照して、前記設定されたモニタの画面サイズとモニタまでの距離に対応した補正レベルを設定する(ステップB20)。
図9にテーブル30bの一例を示す。
テーブル30bには、モニタの画面サイズとモニタまでの距離によって補正レベルが一意に決まるようになっている。図中の数値(1〜7)はぶれ補正の程度を表しており、数値が高いほど、補正レベルが高いこと(ぶれ補正を強くかけること)を示し、数値が低いほど、補正レベルが低いこと(ぶれ補正を弱くかけること)を示す。
ここで、外部モニタ13の画面サイズが大きいほど、ユーザが感じる画像のぶれは強くなるため、補正レベルを高くするように設定されている。また、外部モニタ13までの距離が長いほど、ユーザが感じる画像のぶれは弱くなるため、補正レベルを低くするように設定されている。なる。なお、内蔵モニタ27の場合には、外部モニタ13に比較して画面サイズが非常に小さいため、補正レベルは最低レベルの「1」としている。
このようにして補正レベルが決定されると、続いて、以下のようなぶれ補正処理が実行される。
すなわち、図4に示すように、まず、制御部29は、補正レベルに応じて切り出し領域のサイズを決定する(ステップA14)。この場合、補正動作による切り出し位置の変位が大きくなりすぎて画像が画面からはみ出してしまうことを防ぐため、補正レベルが高いほど、切り出し領域のサイズを小さくしておく。
続いて、制御部29は、当該動画像データからフレーム単位で画像を順番に取得し、図示せぬバッファメモリに展開していく(ステップA15)。その際、図10(a)に示すように、1枚目のフレーム画像F1の中心位置に切り出し領域CEを設定しておく(ステップA16)。
ここで、図10(b)に示すように、次のフレーム画像F2を取得したときに(ステップA17)、制御部29は、前のフレーム画像F1とのずれを検出する(ステップA18)。このとき検出された画像間のずれが画像のぶれ成分(動き成分)に相当する。
その際、制御部29は、画像間のずれを相殺する方向に切り出し領域CEの位置を移動させるが、そのときの移動量dを補正レベルによって調整する(ステップA19)。
この補正レベルは、検出される画像のぶれ成分に基づく画像のぶれ補正を行う場合の補正の程度や強さを指定するものであるが、この補正レベルの考え方について説明する。
検出される画像のぶれ成分を撮影動作の観点からみた場合、撮影者の意図的なカメラワーク(カメラのパーン動作など)によって生じるぶれ成分と、撮影者が意図しないカメラの揺れによって生じるぶれ成分(手振れなど)とに分けることができる。この検出される画像のぶれ成分を、撮影者が意図するぶれ成分と撮影者が意図しないぶれ成分とに分離するための手法として、検出される画像のぶれ成分をローパスフィルタ(ハイパスフィルタ)に通す方法や、検出される画像のぶれ成分を累積(積分)していき、この累積されたぶれ成分が補正処理に反映されるまでの遅延時間を設定する方法などがある。これらの方法では、前記ローパスフィルタ(ハイパスフィルタ)の定数や、前記遅延時間を適切な値に設定することでより正確な分離を行えるようにしている。
また、検出される画像のぶれ成分を動画鑑賞の観点からみた場合、鑑賞者に違和感(不快感)を与えるぶれ成分と、鑑賞者に違和感(不快感)を与えることのないぶれ成分とに分けることができる。主に、撮影時の手振れによるぶれ成分が鑑賞者に違和感(不快感)を与えるぶれ成分であると考えることもできるが、撮影者の意図的なカメラワークによって生じるぶれ成分であっても、例えば素人の撮影では撮影フレームが動き過ぎることが多く、このようなぶれ成分も鑑賞者に違和感(不快感)を与えるぶれ成分に含める必要がある。このようなぶれ成分まで補正するためには、ぶれ補正レベルをより高く(ぶれ補正の程度をより強く)する必要があるが、あまりぶれ補正が強過ぎると必要な動きまで補正してしまい、かえってぎくしゃくした動画になることもある。
そして、このようなぶれ成分を含む動画像データに対してどの程度の強度の補正を行えば鑑賞者に違和感(不快感)を与えなくなるかは、動画像データを出力する形態によっても変化する。動画像データを出力する形態が常に固定されている環境であれば、予めぶれ補正を行った動画像データを記録保存しておけばよいが、動画像データを出力する形態が変化する環境では再生時に柔軟にぶれ補正の程度を調整する必要がある。
このぶれ補正レベルを調整する方法としては、画像のぶれ成分を検出する処理の中で、前記ローパスフィルタ(ハイパスフィルタ)の定数や、前記遅延時間を変化させる(検出感度を変化させる)ことで行ってもよいし、検出された画像のぶれ成分に対する補正量の割合を変化させることで行ってもよい。以下、本実施形態では後者の例で説明する。
ぶれ補正レベルは、無段階で調整してもよいが、ここでは7段階で制御する例で説明する。
詳しくは、図9の例で、補正レベルが最大レベルの「7」のときに、画像間のずれに合わせて移動量dを設定するものとすると、補正レベルが「7」よりも低くなるに従って、例えば移動量dを10%ずつ少なくする。つまり、画像間のずれをtとすると、以下のように調整することになる。
補正レベル「7」のとき、d=t
補正レベル「6」のとき、d=t×90%
補正レベル「5」のとき、d=t×80%
補正レベル「4」のとき、d=t×70%
補正レベル「3」のとき、d=t×60%
補正レベル「2」のとき、d=t×50%
このようにして得られた移動量dが得られると、制御部29は、その移動量dに従って切り出し領域CEを画像間のずれを相殺する方向に移動させた後、制御部29は、現在のフレーム画像から切り出し領域CE内の画像を切り出し、その切り出し画像を再生画像として内蔵モニタ27または外部モニタ13に出力する(ステップA20)。この場合、外部モニタ13が接続されていれば、外部モニタ13に出力がなされる。以後、すべてのフレーム画像に対して同様の処理が繰り返される(ステップA21)。
以上のように、動画再生時におけるぶれ補正のレベルを再生対象とする動画像データの出力形態に応じて制御することで、そのときに使用するモニタに適した補正レベルを設定することできる。これにより、動画再生時にぶれ補正が強すぎて、不自然さを感じたり、逆に、ぶれ補正が弱く、見づらいといった問題を解消することができる。
特に、内蔵モニタ27と外部モニタ13のように、画面サイズが極端に違うモニタを使用するような場合に、画面サイズの小さい内蔵モニタ27では補正レベルを低く、画面サイズの大きい外部モニタ13では補正レベルを高くすることで、ユーザが内蔵モニタ27で動画を見たときと、外部モニタ13で動画を見たときに感じる違和感を解消することができる。
ここで、内蔵モニタ27の画面サイズは外部モニタ13に比べて非常に小さく、画像のぶれがあまり目立たないことから、内蔵モニタ27を使用して動画再生する場合には、補正レベルをゼロにすることで、ぶれ補正せずに出力することでも良い。
また、外部モニタ13を使用する場合において、その外部モニタ13の画面サイズと外部モニタ13までの距離に応じて補正レベルを制御することで、より最適な補正レベルを設定してぶれ補正を行うことができる。
なお、前記第1の実施形態では、外部モニタ13の画面サイズと外部モニタ13までの距離の2つの条件に基づいて補正レベルを設定する構成としたが、どちらか一方の条件だけで補正レベルを設定することでも良い。
外部モニタ13の画面サイズだけで補正レベルを設定する場合には、画面サイズが大きいほど、補正レベルを高くし、画面サイズが小さいほど、補正レベルを低くする。これにより、外部モニタ13の画面サイズに応じた最適な補正レベルを設定してぶれ補正を行うことができる。また、外部モニタ13までの距離だけで補正レベルを設定する場合には、距離が短いほど、補正レベルを高くし、距離が長いほど、補正レベルを低くする。これにより、外部モニタ13の画面サイズに応じた最適な補正レベルを設定してぶれ補正を行うことができる。
また、図6に示すようなモニタ設定画面41を通じて外部モニタ13の画面サイズと外部モニタ13までの距離をユーザが入力するような構成にしたことで、現在使用中の外部モニタ13に適した補正レベルを正確に設定することができる。つまり、ユーザが画面サイズや距離から必要な補正レベルを判断する必要がないので、より簡単に間違いなく補正レベルを設定できるのである。
また、図7および図8で説明したように、デジタルカメラ11に搭載されたAF機能を利用すれば、特別な検出器を必要とせずに、外部モニタ13の画面サイズと外部モニタ13までの距離を自動設定することができる。
なお、前記第1の実施形態では、外部モニタ13の画面サイズと距離によって補正レベルを制御したが、外部モニタ13の種類によってレベル制御を行う構成であっても良い。すなわち、外部モニタ13がCRT(Cathode-ray tube)である場合とLCD(Liquid Crystal Display)である場合とでは画像のぶれの見え方が違ってくる。通常、LCDの場合には残像が大きいので、ぶれ補正を強くすると、かえって見づらくなる。そこで、外部モニタ13がLCDであった場合にはぶれ補正のレベルを低くし、LCD以外の場合にレベルを高くするような制御とする。
具体的には、図3の構成に外部モニタ13の種類を検出するための種類検出部35を設け、この種類検出部35の検出結果を補正制御部29cに与えるようにする。モニタ種類の検出方法としては、図6のようなモニタ設定画面41を用いてユーザが入力することで良いし、外部モニタ13からUSB(Universal Serial Bus)などの特定のケーブルを介してモニタ種類情報を取得することでも良い。制御部29の補正制御部29cでは、種類検出部35によって検出されたモニタ種類に応じてレベル制御を行う。これにより、使用中の外部モニタ13の種類に応じた最適な補正レベルを設定してぶれ補正を行うことができる。
さらに、前記第1の実施形態と組み合わせて、外部モニタ13の画面サイズ、外部モニタ13までの距離、そして、外部モニタ13の種類といった3つの条件でレベル制御を行えば、より最適な補正レベルを設定することができる。
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。
前記第1の実施形態では、動画再生時に使用するモニタに応じてぶれ補正のレベルを制御したが、第2の実施形態では、動画再生時に使用するモニタに応じてぶれ補正の有無を制御する。具体的には、内蔵モニタ27を使用して動画再生する場合にはぶれ補正機能をオフしておき、外部モニタ13を使用して動画再生する場合にのみぶれ補正機能をオンするように制御する。
以下にその処理動作について説明する。
図11および図12は本発明の第2の実施形態におけるデジタルカメラ11のぶれ補正に関わる動作を示すフローチャートである。なお、これらのフローチャートで示される処理は、制御部29が記憶部30に記憶されたプログラム30aを読み込むことにより実行される。
図11はデジタルカメラ11を起動するときに外部モニタ13の接続の有無に応じてぶれ補正を制御する場合の処理を示している。
デジタルカメラ11の電源がオンされたときに(ステップC11)、制御部29は、接続検出部32を通じてAVケーブル12が外部出力端子11aに接続されているか否かを判断する(ステップC12)。AVケーブル12は外部モニタ13をデジタルカメラ11に接続するためのケーブルである。図2に示したように、このAVケーブル12が外部出力端子11aに接続されると、外部出力端子11aに設けられたスイッチ15がオンする。
スイッチ15がオンの場合、つまり、AVケーブル12が接続されていた場合(ステップC12のYes)、制御部29は、AVケーブル12を介して外部モニタ13が接続されているものと判断して、ぶれ補正の機能をオンする(ステップC13)。一方、スイッチ15がオフの場合、つまり、AVケーブル12が接続されていなかった場合には(ステップC12のNo)、制御部29は、外部モニタ13が接続されていないものと判断し、ぶれ補正の機能をオフする(ステップC14)。
以後、所定の操作により動画再生が指されると、制御部29は、動画再生対象として選択された動画像データを内蔵モニタ27または外部モニタ13に再生出力する(ステップC15)。この場合、外部モニタ13が接続されていれば、出力先は外部モニタ13となり、当該動画像データにぶれ補正を施しながら出力することになる。
図12は別の動作シーケンスであり、既にデジタルカメラ11が起動されている状態からの動作を示している。
今、AVケーブル12を介して外部モニタ13が接続された状態で、デジタルカメラ11が動画再生モードで起動されたものとする(ステップD11,D12)。上述したように、AVケーブル12が接続されている場合に、外部出力端子11aに設けられたスイッチ15がオンする。これにより、AVケーブル12を介して外部モニタ13が接続されているものと判断できる。
ここで、ぶれ補正機能がオフの設定になっていた場合(ステップD13のNo)、制御部29は、図13に示すような警告メッセージを内蔵モニタ27または外部モニタ13に表示して、ユーザにぶれ補正機能の設定を促す(ステップD14)。なお、警告メッセージと共に、ぶれ補正機能の設定画面を表示するようにしても良い。ぶれ補正機能がオン設定になっていれば(ステップD13のYes)、制御部29は、通常通り動画再生処理を実行する(ステップD15)。
このように、外部モニタ13がAVケーブル12を介してデジタルカメラ11に接続された状態で電源をオンすると、自動的に動画再生のぶれ補正機能がオンする。したがって、ユーザが再生出力された動画像をモニタで確認してからぶれ補正機能をオンするような面倒な操作は不要となり、外部モニタ13を使用する場合には、常にぶれ補正された状態で動画像が再生出力されることになる。
ここで、外部モニタ13が接続されている場合のみぶれ補正機能をオンとしたのは、外部モニタ13のような大画面に動画を表示すると、モニタの大きさに比例してユーザが感じる視覚的なぶれ成分も大きくなり、ぶれ補正機能が有効に働くが、画面サイズが小さい内蔵モニタ27では、画像のぶれ成分よりもぶれ補正機能による不自然さの方が目立つことがあるためである。また、外部モニタの接続時にはACアダプタが使用されることが多く、外部モニタの非接続時には内蔵バッテリ動作であることが多いと考えられるので、外部モニタの接続状態によってぶれ補正機能をオン/オフすれば、ぶれ補正処理による内蔵バッテリの無駄な電力消費を低減してバッテリ寿命を延ばすこともできる。
なお、外部モニタ13の接続手段としては、AVケーブル12に限らず、例えばUSB(Universal Serial Bus)やIEEE1394、さらに、無線LAN(Local Area Network)などを用いて接続することでも良い。これらの接続手段は規格によって接続の有無を検出しているので、接続検出のための特別な仕組みは必要ない。
また、デジタルカメラ11などの撮像装置には、記録時に加速度センサなどによって検出したぶれの情報を動画像データに付加しておくものがある。この場合には、動画再生時に図4のステップA18で説明したような前後のフレーム画像の比較によるぶれ検出の処理は不要となる。
また、本発明は撮像装置に限らず、動画再生機能を備えている電子機器であれば、その全てに適用可能である。
また、外部モニタが接続された場合に内蔵モニタには表示を行わないようにしてもよいが、外部モニタが接続された場合でも内蔵モニタにも同時に表示を行うようにしてもよい。また、この場合に、外部モニタに合わせて補正レベルを決定するようにしてもよいし、外部モニタと内蔵モニタとで別々に補正レベルを設定してもよい。
また、内蔵モニタを備えていない装置に適用してもよい。この場合、装置本体に接続された外部モニタの画面サイズや、その外部モニタまでの距離に応じて、当該外部モニタに出力する動画像データの補正レベルを変更することになる。
要するに、本発明は前記各実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、前記各実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
また、上述した実施形態において記載した手法は、コンピュータに実行させることのできるプログラムとして、例えば磁気ディスク(フレキシブルディスク、ハードディスク等)、光ディスク(CD−ROM、DVD−ROM等)、半導体メモリなどの記録媒体に書き込んで各種装置に適用したり、そのプログラム自体をネットワーク等の伝送媒体により伝送して各種装置に適用することも可能である。本装置を実現するコンピュータは、記録媒体に記録されたプログラムあるいは伝送媒体を介して提供されたプログラムを読み込み、このプログラムによって動作が制御されることにより、上述した処理を実行する。
図1は本発明の第1の実施形態に係る動画再生装置をデジタルカメラに適用した場合のシステム構成を示す図である。 図2は同実施形態におけるデジタルカメラとAVケーブルとの接続部の構成を部分的に示した図である。 図3は同実施形態におけるデジタルカメラの要部構成を示すブロック図である。 図4は同実施形態におけるデジタルカメラによる動画再生処理の動作を示すフローチャートである。 図5は前記動画再生処理に含まれる補正レベル決定処理の動作を示すフローチャートである。 図6は同実施形態におけるデジタルカメラのモニタ設定画面の一例を示す図である。 図7は同実施形態におけるデジタルカメラのAF機能を利用した画面サイズと距離検出の方法を説明するための図である。 図8は同実施形態におけるデジタルカメラのAF機能を利用した画面サイズと距離検出の方法を説明するための図である。 図9は同実施形態におけるデジタルカメラに設けられた補正レベル設定用のテーブルの一例を示す図である。 図10は同実施形態におけるデジタルカメラによる動画再生時のぶれ補正の方法を説明するための図である。 図11は本発明の第2の実施形態に係るデジタルカメラのぶれ補正に関わる動作を示すフローチャートである。 図12は同実施形態に係るデジタルカメラのぶれ補正に関わる別の動作を示すフローチャートである。 図13は同実施形態に係るデジタルカメラの警告メッセージの一例を示す図である。
符号の説明
11…デジタルカメラ、11a…外部出力端子、12…AVケーブル、13…外部モニタ、14…記録装置、15…スイッチ、21…撮像部、22…符号化、23…内蔵記録部、24…外部記録制御部、24a…メモリカードインターフェイス、24b…USBインターフェイス、25…復号部、26…第一表示処理部、27…内蔵表示部、28…第二表示処理部、29…制御部、29a…ぶれ検出部、29b…ぶれ補正部、29c…補正制御部、30…記憶部、30a…プログラム、30b…テーブル、31…操作部、32…接続検出部、33…サイズ検出部、34…距離検出部、35…種類検出部、41…モニタ設定画面、42…サイズ入力部、43…距離入力部、50…外部記録装置、51…PC、51a…ディスプレイ、52…記録媒体読取装置、52a…記録媒体。

Claims (17)

  1. 記録済みの動画像データを再生出力する動画再生装置であって、
    再生時に前記動画像データに含まれる画像のぶれを補正するぶれ補正手段と、
    前記動画像データを再生出力する表示手段の画面サイズまたはこの表示手段までの距離を検出する検出手段と、
    前記検出手段により検出された画面サイズまたは距離に応じて、前記ぶれ補正手段における補正レベルを変更する補正制御手段と
    を具備したことを特徴とする動画再生装置。
  2. 装置本体に内蔵された第1の表示手段と、この第1の表示手段とは別に外部出力端子を介して接続され、この第1の表示手段とは画面サイズまたは表示手段までの距離が異なる第2の表示手段とに対する表示制御を行う表示制御手段を備え、
    前記補正制御手段は、前記表示制御手段によって前記第1の表示手段に前記動画像データを出力する場合と前記第2の表示手段に前記動画像データを出力する場合とで、前記ぶれ補正手段における補正レベルを変更することを特徴とする請求項1記載の動画再生装置。
  3. 外部出力端子を介して接続される第2の表示手段に対する表示制御を行う表示制御手段を備え、
    前記補正制御手段は、前記表示制御手段によって前記第2の表示手段に前記動画像データを出力する場合に、前記検出手段により検出された前記第2の表示手段の画面サイズまたは前記第2の表示手段までの距離に応じて、前記ぶれ補正手段における補正レベルを変更することを特徴とする請求項1記載の動画再生装置。
  4. 前記補正制御手段は、前記第1の表示手段に前記動画像データを出力する場合には補正レベルをゼロにすることを特徴とする請求項2記載の動画再生装置。
  5. 前記補正制御手段は、前記第1の表示手段に出力する場合の補正レベルよりも前記第2の表示手段に出力する場合の補正レベルを高くすることを特徴とする請求項2記載の動画再生装置。
  6. 前記検出手段は、前記第2の表示手段の画面サイズを検出するサイズ検出手段を含み
    前記補正制御手段は、前記サイズ検出手段によって検出された前記第2の表示手段の画面サイズに基づいて、前記第2の表示手段に対する補正レベルを制御することを特徴とする請求項2または3記載の動画再生装置。
  7. 前記補正制御手段は、前記第2の表示手段の画面サイズが大きいほど、補正レベルを高くし、前記第2の表示手段の画面サイズが小さいほど、補正レベルを低くするように制御することを特徴とする請求項6記載の動画再生装置。
  8. 前記検出手段は、前記第2の表示手段までの距離を検出する距離検出手段を含み
    前記補正制御手段は、前記距離検出手段によって検出された前記第2の表示手段までの距離に基づいて、前記第2の表示手段に対する補正レベルを制御することを特徴とする請求項2または3記載の動画再生装置。
  9. 前記補正制御手段は、前記第2の表示手段までの距離が長いほど、補正レベルを低くし、前記第2の表示手段までの距離が短いほど、補正レベルを高くするように制御することを特徴とする請求項8記載の動画再生装置。
  10. 前記検出手段は、前記第2の表示手段の画面サイズを検出するサイズ検出手段と、前記第2の表示手段までの距離を検出する距離検出手段とを含み
    前記補正制御手段は、前記サイズ検出手段によって検出された前記第2の表示手段の画面サイズと、前記距離検出手段によって検出された前記第2の表示手段までの距離とに基づいて、前記第2の表示手段に対する補正レベルを制御することを特徴とする請求項2または3記載の動画再生装置。
  11. 前記検出手段は、更に前記第2の表示手段の種類を検出する種類検出手段を備え、
    前記補正制御手段は、更に前記種類検出手段によって検出された前記第2の表示手段の種類にも基づいて、前記第2の表示手段に対する補正レベルを制御することを特徴とする請求項2または3記載の動画再生装置。
  12. 前記検出手段は、前記第2の表示手段の画面サイズを検出するサイズ検出手段と、前記第2の表示手段までの距離を検出する距離検出手段と、
    前記第2の表示手段の種類を検出する種類検出手段とを含み
    前記補正制御手段は、前記サイズ検出手段によって検出された前記第2の表示手段の画面サイズと、前記距離検出手段によって検出された前記第2の表示手段までの距離と、前記種類検出手段によって検出された前記第2の表示手段の種類とに基づいて、前記第2の表示手段に対する補正レベルを制御することを特徴とする請求項2または3記載の動画再生装置。
  13. 前記第2の表示手段の接続の有無を検出する接続検出手段と、
    この接続検出手段によって前記第2の表示手段の接続が検出されなかった場合には前記ぶれ補正手段におけるぶれ補正をオフし、前記第2の表示手段の接続が検出された場合には前記ぶれ補正手段におけるぶれ補正をオンする補正制御手段と
    を具備したことを特徴とする請求項2または3記載の動画再生装置。
  14. 記録済みの動画像データを再生出力するための動画再生方法であって、
    再生時に前記動画像データに含まれる画像のぶれを補正するステップと、
    前記動画像データを再生出力する表示手段の画面サイズまたはこの表示手段までの距離を検出するステップと、
    前記検出された画面サイズまたは距離に応じて、前記ぶれ補正における補正レベルを変更するステップと
    を備えたことを特徴とする動画再生方法。
  15. 前記第2の表示部の接続の有無を検出するステップと、
    前記第2の表示部の接続が検出されなかった場合には前記ぶれ補正をオフし、前記第2の表示部の接続が検出された場合には前記ぶれ補正をオンするステップと
    を備えたことを特徴とする請求項14記載の動画再生方法。
  16. 記録済みの動画像データを再生出力する機能を備えたコンピュータによって実行されるプログラムであって、
    前記コンピュータに、
    再生時に前記動画像データに含まれる画像のぶれを補正する機能と、
    前記動画像データを再生出力する表示手段の画面サイズまたはこの表示手段までの距離を検出する機能と、
    前記検出された画面サイズまたは距離に応じて、前記ぶれ補正における補正レベルを変更する機能と
    を実現させることを特徴とするプログラム。
  17. 前記第2の表示部の接続の有無を検出する機能と、
    前記第2の表示部の接続が検出されなかった場合には前記ぶれ補正をオフし、前記第2の表示部の接続が検出された場合には前記ぶれ補正をオンする機能と
    を実現させることを特徴とする請求項16記載のプログラム。
JP2007035243A 2007-02-15 2007-02-15 動画再生装置、動画再生方法及びプログラム Expired - Fee Related JP4770751B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007035243A JP4770751B2 (ja) 2007-02-15 2007-02-15 動画再生装置、動画再生方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007035243A JP4770751B2 (ja) 2007-02-15 2007-02-15 動画再生装置、動画再生方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2008199520A JP2008199520A (ja) 2008-08-28
JP4770751B2 true JP4770751B2 (ja) 2011-09-14

Family

ID=39758048

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007035243A Expired - Fee Related JP4770751B2 (ja) 2007-02-15 2007-02-15 動画再生装置、動画再生方法及びプログラム

Country Status (1)

Country Link
JP (1) JP4770751B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5159493B2 (ja) * 2008-07-24 2013-03-06 キヤノン株式会社 画像処理装置
JP5195250B2 (ja) * 2008-10-03 2013-05-08 ソニー株式会社 画像表示システム及び画像表示装置
JP5597061B2 (ja) * 2010-08-18 2014-10-01 キヤノン株式会社 映像再生装置、及びその制御方法
TW201230805A (en) * 2011-01-04 2012-07-16 Aptos Technology Inc Video playback apparatus and method
JP6564334B2 (ja) * 2016-02-22 2019-08-21 任天堂株式会社 情報処理装置、情報処理システム、情報処理方法、および情報処理プログラム
JP6564335B2 (ja) * 2016-02-22 2019-08-21 任天堂株式会社 情報処理装置、情報処理システム、情報処理方法、および情報処理プログラム
EP3216502A1 (en) 2016-02-22 2017-09-13 Nintendo Co., Ltd. Information processing apparatus, information processing system, information processing method, and information processing program
JPWO2018150711A1 (ja) * 2017-02-15 2019-11-07 シャープ株式会社 表示制御装置、表示制御装置の制御方法、および制御プログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07143380A (ja) * 1993-11-12 1995-06-02 Canon Inc ビデオ信号記録再生装置
JP4128123B2 (ja) * 2003-09-19 2008-07-30 三洋電機株式会社 手ぶれ補正装置、手ぶれ補正方法および手ぶれ補正プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2006295707A (ja) * 2005-04-13 2006-10-26 Fuji Photo Film Co Ltd 画像再生装置及び像ブレ補正プログラム

Also Published As

Publication number Publication date
JP2008199520A (ja) 2008-08-28

Similar Documents

Publication Publication Date Title
JP4770751B2 (ja) 動画再生装置、動画再生方法及びプログラム
JP4687807B2 (ja) 動画記録装置、及び動画像の傾き補正方法、プログラム
JP5336578B2 (ja) 映像加工装置、映像加工方法、映像加工集積回路、映像再生装置
US9264651B2 (en) Moving image reproducing apparatus capable of adjusting display position of indicator for motion analysis based on displacement information of frames, and moving image reproducing method and recording medium for same
JP5597061B2 (ja) 映像再生装置、及びその制御方法
JP2006287597A (ja) カメラ装置
JP2012151705A (ja) 動画像処理装置、動画像処理方法及びプログラム
JP2004310585A (ja) 画像処理装置、方法、プログラム及び記憶媒体
US20130236161A1 (en) Image processing device and image processing method
JP4605217B2 (ja) 撮影装置及びそのプログラム
JP4371049B2 (ja) 撮像装置、およびガイドフレーム表示制御方法、並びにコンピュータ・プログラム
JPH1169293A (ja) 画像処理システムならびにカメラ一体型ビデオレコーダ
JP6351212B2 (ja) 撮像装置、撮像装置の制御方法及びシステム
JP6278712B2 (ja) 撮像装置およびその制御方法
JP2006211426A (ja) 撮像装置およびその画像生成方法
JPH10178619A (ja) 画像再生装置および電子カメラ
JP2009290318A (ja) 撮像装置およびズーム調整方法
JP2010021710A (ja) 撮像装置、画像処理装置およびプログラム
JP2009272921A (ja) 動画像記録装置、動画像再生装置、動画像記録方法、動画像再生方法および半導体集積回路
JP2007067708A (ja) 撮像装置およびその画像生成方法
US9661217B2 (en) Image capturing apparatus and control method therefor
JP2012151708A (ja) 撮像装置
JP4888829B2 (ja) 動画処理装置、動画撮影装置および動画撮影プログラム
JP6351213B2 (ja) 撮像装置、撮像装置の制御方法及びシステム
JP4408397B2 (ja) 撮影装置および撮影方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100125

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110302

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110308

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110524

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110606

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140701

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4770751

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees