JP4320658B2 - 撮像装置、制御方法、並びにプログラム - Google Patents

撮像装置、制御方法、並びにプログラム Download PDF

Info

Publication number
JP4320658B2
JP4320658B2 JP2005374681A JP2005374681A JP4320658B2 JP 4320658 B2 JP4320658 B2 JP 4320658B2 JP 2005374681 A JP2005374681 A JP 2005374681A JP 2005374681 A JP2005374681 A JP 2005374681A JP 4320658 B2 JP4320658 B2 JP 4320658B2
Authority
JP
Japan
Prior art keywords
image
screen
exposure time
reading
memory
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005374681A
Other languages
English (en)
Other versions
JP2007180717A (ja
Inventor
久保  学
貴 辻村
将嗣 福永
大輔 宮腰
伸穂 池田
京子 福田
豊 米田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005374681A priority Critical patent/JP4320658B2/ja
Priority to US11/608,951 priority patent/US8009337B2/en
Priority to CNB2006101673409A priority patent/CN100456810C/zh
Publication of JP2007180717A publication Critical patent/JP2007180717A/ja
Application granted granted Critical
Publication of JP4320658B2 publication Critical patent/JP4320658B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/443Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by reading pixels from selected 2D regions of the array, e.g. for windowing or digital zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/745Circuitry for generating timing or clock signals

Description

本発明は、撮像装置、制御方法、並びにプログラムに関し、特に、電子ズーム機能によって拡大して出力する画像をメモリから読み出すタイミングを早くすることによって生じる最大拡大率の低下を防止することができるようにした撮像装置、制御方法、並びにプログラムに関する。
従来より、画像を電気信号に変換する撮像装置、例えばビデオカメラなどには、撮影画像を一時的に記憶する画像メモリを設けることにより、手振れ補正および電子ズームなどの効果を施す機能が付加されている。
ここで、手振れ補正とは、ビデオカメラの撮影者の手振れ情報をジャイロセンサ等で取得し、その情報を基に画像の一部分を切り出して、画素値を近隣の画素値で補間処理することにより、切り出した部分を標準の画角の画像に電気的に拡大あるいは縮小するものである。また、電子ズームとは、画像の一部分を切り出して、不足する画素値を近隣の画素値で補間処理することにより、切り出した部分を標準の画角の画像に電気的に拡大するものである。
図1は、従来の画像表示装置における全画面表示時の連続3画面分の画像メモリのアドレス推移と画像の入出力タイミングを示すタイミングチャートの一例を示す図である。
図1では、水平1920画素×垂直540ラインの入力画像を水平1440画素×垂直540ラインの出力画像に解像度変換する様子が示されている。
画像メモリはリングバッファで構成され、その画像メモリに対するデータの書き込みが破線、書き込まれたデータの読み出しが実線で示されている。画像メモリは、例えば、入力画像の横方向の画素数を変換することによって得られた画像が書き込まれるメモリである。画像メモリに書き込まれた画像に対しては、そこから読み出された後に縦方向のライン数の変換が適宜施され、得られた画像が出力画像として出力される。
この画像メモリのアドレスは0から始まり、1ライン書き込む毎に次のラインの書き込みアドレスが1ライン分加算される。アドレスが画像メモリの最後まで到達した場合、図に示されるように次のラインの書き込みアドレスは0に戻り、再び、1ライン書き込む毎に1ライン分加算されるといったことが続けられる。データの書き込み先となるアドレスは1画面分の処理が終了しても保持され、次画面の処理(書き込み)は保持されていたアドレスから継続して行われる。
入力同期信号と出力同期信号は互いに同期して発せられており、画像メモリに画像が書き込まれている間、その書き込まれている画像よりも1V前の画像が画像メモリから読み出される。すなわち、例えば、期間(t11〜t12)で画像メモリに書き込まれた画像1は、1V遅れた期間(t13〜t14)で画像メモリから解像度変換されて読み出されるが、この期間(t13〜t14)においては同時に次画面の画像2の書き込みが行われる。同様に、期間(t15〜t16)において画像3の書き込みが行われると同時に、画像3よりも1画面前の画像2の読み出しが行われる。
図2は、従来の画像表示装置における手振れ補正を想定した動作例として、水平1920画素×垂直540ラインの入力画像を、その画面中央の水平1600画素×垂直450ラインを有効範囲に指定して、水平1440画素×垂直540ラインの出力画像に解像度変換する様子を示す図である。
また、従来の画像表示装置における手振れ補正を想定した他の動作例として、有効範囲が水平1600画素×垂直450ライン(画面上部)、水平960画素×垂直270ライン(画面中央)、水平1600画素×垂直450ライン(画面下部)と順に変化させた場合の画像メモリのアドレス推移と画像の入出力タイミングを図3に示す。
図2および図3の動作例においても、図1の動作例と同様に、入力同期信号と出力同期信号は互いに同期して発せられており、画像メモリに画像が書き込まれている間、その画像よりも1V前の画像が画像メモリから読み出されている。これらの例では、入力画像の書き込み期間が有効範囲画像のライン位置に対応して変化するが、読み出し期間は同一で常に一定の出力タイミングで画像が出力されている。
特許第3406924号公報
従来の画像表示装置において、入力画像を一時的に記憶する画像メモリは、少なくとも1画面(フィールドまたはフレーム)分の記憶容量を必要としていた。従って、例えばハイビジョン(HD)映像の1フィールド分の輝度及び色差信号を各々8ビットで記憶すると、そのままでは記憶容量として約12Mビット必要となり、画像メモリが大型化するだけでなく高価になる。
そこで、画像メモリの入力側に圧縮符号化回路を設けるとともに、画像メモリの出力側に伸長復号化回路を設けて、画像メモリの記憶容量を少なくて済むようにしたり、電子ズーム倍率によって圧縮時の量子化係数を制御する方法が開示されている(特許文献1参照)。
そのような構成によれば、必要となる画像メモリの容量の一部削減にある程度貢献できる反面、圧縮符号化回路や伸長復号化回路等の回路の追加が必要となり、また、圧縮処理を施すことにより少なからず画質の劣化を招き、特に、電子ズーム時には電子ズーム自体の画質劣化と相まって画質は更に劣化してしまう。
本発明はこのような状況に鑑みてなされたものであり、例えば、解像度変換に要する画像メモリの容量の削減を図ることができるようにするものである。また、画像メモリの容量を減らすことによって(出力画像をメモリから読み出すタイミングを早くすることによって)生じる最大拡大率の低下を防止することができるようにするものである。
本発明の一側面の撮像装置は、撮像された画像全体の一部を拡大して表示する電子ズーム機能を有する撮像装置において、画像の読み出しの開始位置を切り替え可能な撮像手段と、メモリからの画像の読み出しのタイミングのときに画像全体の中心を基準とした所定の範囲のデータの少なくとも一部が書き込まれているように、前記撮像手段により読み出され、撮像結果として入力された画像のうちの前記所定の範囲の画像を抽出し、抽出した画像を前記メモリに書き込む書き込み手段と、前記書き込み手段により前記メモリに書き込まれた画像の読み出しを前記読み出しのタイミングのときに開始し、前記メモリから読み出した前記所定の範囲の画像を所定の解像度の画像に変換して出力する読み出し手段と、前記撮像手段が撮像可能な画像全体を撮像結果として読み出す状態から、前記撮像手段が撮像可能な画像全体を垂直方向に分割した所定の数のブロックのうちの最も上のブロックと最も下のブロックを除くブロックからなる画像を撮像結果として読み出す状態になるように、前記撮像手段の読み出しの開始位置を制御する制御手段と、前記撮像手段の読み出しの開始位置の制御が前記制御手段により行われた直後の1画面を基準として、基準の前記1画面の直前の1画面の最大露光時間を、それより1画面だけ前の1画面の最大露光時間と基準の前記1画面の最大露光時間の中間の時間になるように制御し、基準の前記1画面の直後の1画面の最大露光時間を、それより1画面だけ後の1画面の最大露光時間と基準の前記1画面の最大露光時間の中間の時間になるように制御する露光時間制御手段とを備える。
入力された画像に対する入力同期信号と、読み出し手段により出力される画像に対する出力同期信号は互いに非同期であり、前記入力同期信号をVとしたとき、前記出力同期信号は前記入力同期信号に対して(1/3)V遅れて出力されるようにすることができる。
本発明の一側面の制御方法またはプログラムはメモリからの画像の読み出しのタイミングのときに画像全体の中心を基準とした所定の範囲のデータの少なくとも一部が書き込まれているように、読み出され撮像結果として入力された画像のうちの前記所定の範囲の画像を抽出し、抽出した画像を前記メモリに書き込み、前記メモリに書き込まれた画像の読み出しを前記読み出しのタイミングのときに開始し、前記メモリから読み出した前記所定の範囲の画像を所定の解像度の画像に変換して出力し、撮像手段が撮像可能な画像全体を撮像結果として読み出す状態から、前記撮像手段が撮像可能な画像全体を垂直方向に分割した所定の数のブロックのうちの最も上のブロックと最も下のブロックを除くブロックからなる画像を撮像結果として読み出す状態になるように、読み出しの開始位置を制御し、前記撮像手段の読み出しの開始位置の制御を行う直後の1画面を基準として、基準の前記1画面の直前の1画面の最大露光時間を、それより1画面だけ前の1画面の最大露光時間と基準の前記1画面の最大露光時間の中間の時間になるように制御し、基準の前記1画面の直後の1画面の最大露光時間を、それより1画面だけ後の1画面の最大露光時間と基準の前記1画面の最大露光時間の中間の時間になるように制御するするステップを含む。
本発明の一側面においては、撮像手段の読み出しの開始位置の制御が行われる直後の1画面を基準として、基準の前記1画面の直前の1画面の最大露光時間が、それより1画面だけ前の1画面の最大露光時間と基準の前記1画面の最大露光時間の中間の時間になるように制御され、基準の前記1画面の直後の1画面の最大露光時間が、それより1画面だけ後の1画面の最大露光時間と基準の前記1画面の最大露光時間の中間の時間になるように制御される
本発明によれば、最大拡大率の低下を防止することができる。
以下、本発明の実施の形態について図面を参照して説明する。
図4は本発明の実施の形態に係る画像表示装置1の概略構成図である。
本実施の形態では、画像表示装置1としてデジタルビデオカメラへの適用例を示す。画像表示装置1は、レンズ11、撮像素子12、A/D(Analog/Digital)変換器13、信号処理回路14、制御部15、および解像度変換及び電子ズーム回路部(以下「解像度変換部」という)16から構成される。
撮像素子12は、例えばX-Yアドレス型のCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等で構成され、レンズ11を介して取り込まれた被写体からの光を電気信号に変換し、変換して得られたアナログの画像信号をA/D変換器13に出力する。
A/D変換器13は、撮像素子12からのアナログの画像信号をデジタルの画像信号に変換し、得られたデジタルの画像信号を信号処理回路14に出力する。
信号処理回路14は、ガンマ補正やカラーバランス調整等のカメラ信号処理をA/D変換器13から供給された画像信号に対して施し、輝度信号及び色差信号を各々8ビットの画像信号として出力する。
制御部15は、手振れ補正や電子ズームに応じた入力画像の有効範囲を解像度変換部16に対して指定する。また、制御部15は、適宜、読み出しの開始位置を撮像素子12に対して指定する。後述するように、撮像素子12の最上部のブロック(画素のまとまり)からではなく、それより下方にあるブロックを開始位置としたデータの読み出しが電子ズームの拡大率に応じて行われる。
解像度変換部16は、制御部15からの有効範囲情報に応じて必要な画像データのみを抽出し、出力画像の解像度に変換した画像信号(ビデオ信号)を出力する。
図5は、解像度変換部16の詳細な構成例を示すブロック図である。
解像度変換部16は、横解像度変換回路21、画像メモリ22、および縦解像度変換回路23から構成される。
横解像度変換回路21は、画像メモリ22の前段に置かれ、信号処理回路14からの入力画像のうち、横方向(水平方向)に関して制御部15より指定された有効範囲のみを抽出し、補間演算により出力画像の解像度に変換する。処理はライン単位で行われる。処理したラインが有効範囲内であれば、横解像度変換回路21はそのラインのデータを画像メモリ22に書き込む。
縦解像度変換回路23は、画像メモリ22の後段に置かれ、制御部15より指定された有効範囲のラインのデータを画像メモリ22から読み出し、縦方向(垂直方向)に関して補間演算により出力画像の解像度に変換して出力する。
画像メモリ22は、例えばDRAM等の半導体記憶素子で構成され、横解像度変換回路21により出力画像の横解像度と同じ解像度にその横方向の解像度が変換された入力画像の画像データを一時的に記憶する。例えば、画像メモリ22の容量は、
X=出力画像の横方向の解像度
Y=入力画像の縦方向のライン数の1/2+マージン(10%程度)
として、(X*Y)分のデータを記憶可能な容量とされる。
従って、画像メモリ22には、入力画像の1画面分の画像データ全体を書き込むことができない。そこで、画像表示装置1においては、画像メモリ22への一画面分の画像データの書き込みが終了する前に、その一画面分の画像データの読み出しが開始される。すなわち、入力画像は、従来と同様に同期信号に合わせて一定期間V毎に連続して入力されるが、出力画像は、従来と異なり、入力画像に対して(1/2)Vだけ遅れて一定期間V毎に連続して出力される。
ここで、全画面表示時(ブロック1乃至7の全体の画像をそのまま出力する時)の連続2画面分の画像メモリのアドレス推移と画像の入出力タイミングを示すタイミングチャートである図6を参照して、画像表示装置1による動作の例について説明する。
図6の例では、水平1728画素×垂直648ラインの入力画像を水平1440画素×垂直540の出力画像に解像度変換する様子が示されている。入力画像を垂直方向に7つのブロックに分割し、それぞれのブロックをブロック1乃至7として説明する。
画像メモリ22はリングバッファで構成され、画像メモリ22に対するデータの書き込みが破線、画像メモリ22からのデータの読み出しが実線で示されている。
画像メモリ22のアドレスは0から始まり、1ライン書き込む毎に次のラインの書き込みアドレスが1ライン分加算される。アドレスが画像メモリの最後まで到達した場合、図に示されるように次のラインの書き込みアドレスは0に戻り、再び、1ライン書き込む毎に1ライン分加算されるといったことが続けられる。データの書き込み先となるアドレスは、1画面分(ブロック1乃至7)の処理が終了しても保持され、次画面の処理は保持されていたアドレスから継続して行われる。
図6に示されるように、撮像素子12のブロック1のラインから順次読み出されることによって得られた入力画像は、同期信号に合わせて一定期間V毎に連続して入力される。また、出力同期信号は入力同期信号とは非同期とされ、この例では、出力画像は、入力画像に対して(1/2)V遅れて一定期間V毎に連続して出力される。
画面1の入力画像データは横解像度変換回路21により画面最上部のブロック1を構成するラインから順に解像度変換され、解像度変換された画像データが順に画像メモリ22のアドレスにライン毎に書き込まれる。
図6において、時刻t1〜t3の期間にわたって画面1の入力画像データ全体を画像メモリ22に書き込む場合、画像メモリ22の縦方向の容量は入力画像データのライン数の半分程度しかないので、書き込みの対象となる入力画像データの例えば半分から下のラインに位置する画像データは、先に書き込まれたラインの画像データに上書きされることになる。
そこで、画像表示装置1においては、図6に示されるように、画像メモリ22に対する画面1の全ての入力画像データの書き込みが終了する前の、画像入力から(1/2)V経過した時刻t2に縦解像度変換回路23による画面1の入力画像データの縦解像度変換処理が開始されるようになされている。
この(1/2)Vの期間内に画像メモリ22に既に書き込まれている入力画像データの最上部ラインから下の所定ラインにかけて縦解像度変換処理が行われることにより、入力画像データの前半部分が後半部分による上書きによって消失する前に、出力画像の縦解像度と同じものにした画像を出力することが可能となる。
図6において、画面1の入力画像データの読み出しは時刻t2〜t5の期間にわたって縦解像度変換回路23により行われ、その期間内の時刻t4に、画面2の入力画像データの書き込みが横解像度変換回路21により開始される。
同様に、画面2の画像データの入力から(1/2)V経過した時刻t6に画面2の画像データの読み出しが行われ、以降、次の画面である画面3(図示せず)の書き込み及び読み出しが順に行われる。
なお、この全画面表示時における入力画像データの書き込み速度および読み出し速度は共に同じであり、画像データの書き込み処理が読み出し処理を追い越すことはない。
次に、図7を参照して、手振れ補正や電子ズームを行うときの動作例について説明する。
図7においては、水平1728画素×垂直648ラインの入力画像を、その画面中央のブロック4に含まれる画素を有効範囲に指定して、その有効範囲の解像度を水平1440画素×垂直540ラインの出力画像に解像度変換する様子が示されている。
横解像度変換部21は、画面1の入力画像に対して、1ラインあたり1728画素のデータを、制御部15による指定に従って1440画素のデータに解像度変換する。横解像度変換部21は、解像度を変換したラインが制御部15より指定された縦方向の有効範囲に含まれる場合、変換したデータを画像メモリ22上の所定のアドレスに書き込む(時刻t1〜t3)。
なお、書き込みアドレスは0から始まり、1ライン書き込む毎に次のラインの書き込みアドレスが1ライン分加算される。データの書き込み先となるアドレスは1画面分の処理が終了しても保持され、次の画面である画面2のデータの書き込みは保持されていたアドレスから継続して行われる。
縦解像度変換回路23は、画面1の画像データの入力から(1/2)V時間経過後の時刻t2に処理を開始する。この(1/2)V時間が経過する間にブロック4の横解像度変換が終了し、得られたデータが画像メモリ22に書き込まれている。
縦解像度変換回路23は、処理を行うラインのデータの画像メモリ22からの読み出しを時刻t2において開始し、読み出したデータを縦出力解像度540のものに解像度変換して出力する。このとき、画像メモリ22からの読み出しアドレスは、画像メモリ22には有効範囲のラインしか書き込まれていないことを考慮して設定される。
図7において、画面1の入力画像データの読み出しは時刻t2〜t5の期間にわたって縦解像度変換回路23により行われ、その期間内の時刻t4に、画面2の入力画像データの書き込みが横解像度変換回路21により開始される。
同様に、画面2の画像データの入力から(1/2)V経過した時刻t6に画面2の画像データの読み出しが行われ、以降、次の画面である画面3(図示せず)の書き込み及び読み出しが順に行われる。
以上の処理の結果、入力画像のうちの有効範囲の部分が出力画像と同じ解像度の画像に変換され、入力画像に対して(1/2)V遅れて出力画像として出力される。
以上のようなタイミングで画像メモリ22に対するデータの書き込みと画像メモリ22からのデータの読み出しが行われることにより、手振れ補正や電子ズームのために1画面(フィールドまたはフレーム)分の容量を必要としていた従来の画像メモリに比べて、画質の劣化を招いたり、圧縮/伸長回路を追加することなく、メモリ容量を半分程度に削減することが可能となる。すなわち、画像メモリ22の小型化および低廉化を図ることができる。
なお、以上においては、入力画像から(1/2)Vだけ遅延して出力画像が出力される関係上、有効範囲の先頭ラインは入力画面の半分(1/2)より上のラインに限定されることになるが、ビデオカメラの手振れ補正や電子ズームに関しては画面の中央付近を有効画面とする場合がほとんどなので、特に問題となることはない。
また、入力画像に対する出力画像の出力遅延タイミングは上記(1/2)Vに限らず、これよりも早くしたり、遅くすることができる。前者の場合、メモリ容量の更なる削減が図れることになる。メモリ容量の更なる削減が要求されていることから、例えば、出力遅延タイミングを(1/3)Vとし、1画面全体を記録可能な従来の容量と較べて画像メモリ22の容量を1/3程度のものとすることができる。
図8は、出力遅延タイミングを(1/3)Vだけ確保したときの画像メモリ22のアドレス推移とタイミングについて示す図である。
図8においても、水平1728画素×垂直648ラインの入力画像を水平1440画素×垂直540ラインの出力画像に解像度変換する様子が示されている。
図8に示されるように、撮像素子12のブロック1のラインから順次読み出されることによって得られた入力画像は、同期信号に合わせて一定期間V毎に連続して入力される。また、出力同期信号は入力同期信号とは非同期とされ、この例では、出力画像は、入力画像に対して(1/3)V遅れて一定期間V毎に連続して出力される。
すなわち、図8に示されるように、画像メモリ22に対する画面1の全ての入力画像データの書き込みが終了する前の、画像入力から(1/3)V経過した時刻t2に縦解像度変換回路23による画面1の入力画像データの縦解像度変換処理が開始されるようになされている。
この(1/3)V時間の期間内に画像メモリ22に既に書き込まれている入力画像データの最上部ラインから下の所定ラインにかけて縦解像度変換処理が行われることにより、入力画像データの前半の1/3の部分がそれより後の部分による上書きによって消失する前に、出力画像の縦解像度と同じものにした画像を出力することが可能となる。
図8において、画面1の入力画像データの読み出しは時刻t2〜t5の期間にわたって縦解像度変換回路23により行われ、その期間内の時刻t4に、画面2の入力画像データの書き込みが横解像度変換回路21により開始される。
同様に、画面2の画像データの入力から(1/3)V経過した時刻t6に画面2の画像データの読み出しが行われ、以降、次の画面である画面3(図示せず)の書き込み及び読み出しが順に行われる。
図9は、出力遅延タイミングを(1/3)Vだけ確保した場合の画像メモリ22のアドレス推移とタイミングについて示す他の図である。

図9においては、水平1728画素×垂直648ラインの入力画像を、その画面中央のブロック3乃至5に含まれる画素を有効範囲に指定して、その有効範囲の解像度を水平1440画素×垂直540ラインの出力画像に解像度変換する様子が示されている。
横解像度変換部21は、画面1の入力画像に対して、1ラインあたり1728画素のデータを、制御部15による指定に従って1440画素のデータに解像度変換する。横解像度変換部21は、解像度を変換したラインが制御部15より指定された縦方向の有効範囲であるブロック3乃至5の範囲に含まれる場合、変換したデータを画像メモリ22上の所定のアドレスに書き込む(時刻t1〜t4)。
なお、書き込みアドレスは0から始まり、1ライン書き込む毎に次のラインの書き込みアドレスが1ライン分加算される。この例においては、1画面分の処理が終了したとき、次のデータの書き込み先となるアドレスは0となり、次画面(画面2)の処理は0のアドレスを最初のデータの書き込み先として行われる。
縦解像度変換回路23は、画面1の画像データの入力から(1/3)V時間経過後の時刻t2に処理を開始する。この(1/3)V時間が経過する間にブロック3の横解像度変換が途中まで終了し、得られたデータが画像メモリ22に書き込まれている。縦解像度変換回路23は、時刻t6までの間に、読み出したデータを縦出力解像度540のものに解像度変換して出力することをブロック5の最後のラインまで行う。
同様に、画面2の画像データの入力から(1/3)V経過した時刻t7に画面2のブロック3乃至5の画像データの読み出しが行われ、以降、次の画面である画面3(図示せず)の書き込み及び読み出しが順に行われる。
ところで、上述したように、入力画像に対する出力画像の遅れを1/2Vより小さくしたことで、電子ズームの最大拡大率が減少する。これは、遅れを1/2Vとした場合、ブロック4だけの解像度を変換して出力することができるのに対し、遅れを1/3Vとした場合、出力同期信号に従って画像メモリ22からの読み出しが行われる以上、ブロック4だけの解像度を変換することはタイミング的に不可能であり、ブロック3乃至5の解像度を変換して出力することが行われるためである。拡大後の出力画像の解像度と大きさが同じである場合、より狭い範囲の画像を拡大した方が最大の拡大率はより高いものになる。
従って、画像表示装置1においては撮像素子12の読み出し開始位置を変更することが行われ、これにより、遅れを1/3Vとしたときでも、遅れを1/2Vとしたときと同等の電子ズーム拡大率を得ることが可能となる。
図10は、中央部(ブロック4)を出力解像度と同じ解像度の画像に変換して出力する場合の画像メモリ22のアドレス推移とタイミングについて示す図である。
電子ズームなしの状態から、ブロック3乃至5のデータを用いて拡大させる状態までは、図7、図9に示すように撮像素子12の読み出し開始位置はブロック1となるのに対し、拡大に用いるデータのブロックをブロック4だけとして電子ズームの拡大率をそれ以上にする場合は、図10に示すように、撮像素子12の読み出し開始位置をブロック2として切り替える。
これにより、画像(拡大させたいブロック4)の入力タイミングが早まり、出力同期信号に従ってブロック4のみを画像メモリ22から読み出すことができ、ブロック4だけの拡大が可能となる。
なお、図10においては、各ブロックのうちのブロック1と7は読み出されずにその間のブロック2乃至6だけが撮像素子12から読み出されている。
上述したように、撮像素子12は例えばX-Yアドレス型のCMOSであり、X軸方向、Y軸方向の所定のアドレスの画素値だけを読み出すことができるから、このように、拡大させたい範囲に応じた読み出し位置の切り替えが可能となる。
撮像素子12がローリングシャッタ方式の撮像素子(CMOSセンサ等)の場合、以上のようにして撮像素子12の読み出し開始位置を変更すると、その変更時(遷移時)に最大露光時間にも変更が生じる。
図11は、読み出し開始位置を下げる遷移(電子ズームの拡大率を通常(画像メモリ22から読み出されたブロック3乃至5で拡大できる範囲)より拡大させる遷移)で最大露光時間が短くなることについて示す図である。
図11において、遷移時の最大露光時間(3)は、遷移前後の最大露光時間(1)、(2)、(4)、(5)よりも短い。従って、この場合、出力画像に現れる最大露光時間の変化の影響を目立たなくするための方法として、制御部15によって遷移前後の最大露光時間を制御する方法が考えられる。
図12は、遷移時の最大露光時間(3)が短くなることから、遷移前後の最大露光時間(2)と(4)を、通常時の最大露光時間である最大露光時間(1)、(5)と遷移時の最大露光時間(3)の中間の時間に制御した例を示す図である。
このように遷移前後の最大露光時間を制御することにより、読み出し開始位置の遷移時に最大露光時間が急に変化してしまうことを防止し、出力画像に現れる最大露光時間の変化の影響を目立たなくすることができる。
図13は、読み出し開始位置を上げる遷移(電子ズームの拡大率を拡大(撮像素子12の読み出し開始位置をブロック2としてブロック4を拡大する範囲)から通常への遷移)で最大露光時間が長くなることについて示す図である。
図13において、遷移時の最大露光時間(3)は、遷移前後の最大露光時間(1)、(2)、(4)、(5)よりも長い。従って、この場合、出力画像に現れる最大露光時間の変化の影響を目立たなくするための方法として、制御部15によって遷移時の最大露光時間を制御する方法が考えられる。
図14は、遷移時の最大露光時間(3)が大きくなることから、遷移時の最大露光時間(3)を通常時の最大露光時間と同じ時間になるように制御した例を示す図である。
このように最大露光時間を制御することによっても、読み出し開始位置の遷移時に最大露光時間が急に変化してしまうことを防止し、出力画像に現れる最大露光時間の変化の影響を目立たなくすることができる。
図15のフローチャートを参照して、画像表示装置1の撮像処理について説明する。
ステップS1において、横解像度変換回路21は、入力画像データを読み出して横解像度変換を行い、画像データを画像メモリ22に書き込む。
ステップS2において、制御部15は、画像入力から(1/3)Vが経過したか否かを判定し、画像入力から(1/3)Vが経過したと判定するまで処理を繰り返す。そして、画像入力から(1/3)Vが経過したと判定された場合、ステップS3に進み、縦解像度変換回路23は、制御部15による制御の下、画像メモリ22から入力画像データを読み出して縦解像度変換を行う。
この(1/3)Vの期間内に画像メモリ22に既に書き込まれている入力画像データの最上部ラインから下の所定ラインにかけて縦解像度変換処理が行われることにより、入力画像データの前半の1/3の部分がそれより後の部分による上書きによって消失する前に、出力画像の縦解像度と同じものにした画像を出力することが可能となる。
ステップS4において、制御部15はユーザによる撮像操作が終了したか否かを判定し、ユーザによる撮像操作が終了していないと判定した場合、ステップS1に戻り、次画面の撮像処理に移行させる。
そして、ステップS4において、ユーザによる撮像操作が終了したと判定された場合、この撮像処理を終了させる。
以上の処理が行われることによって、入力画像のうちの有効範囲の部分が出力画像と同じ解像度の画像に変換され、入力画像に対して(1/3)V遅れて出力画像として出力される。従って、1画面全体を記録可能な従来の容量と較べて画像メモリ22の容量を1/3程度のものとすることができる。
なお、入力画像データの解像度、出力画像データの解像度、有効範囲の解像度などは、以上の例に限られるものではなく、仕様等に応じて適宜変更することが可能である。
また、画像表示装置1としてビデオカメラを例に挙げて説明したが、これに限らず、例えばデジタルスチルカメラの動画モード等においも本発明は適用可能である。
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
図16は、上述した一連の処理をプログラムにより実行するパーソナルコンピュータの構成の例を示すブロック図である。
CPU(Central Processing Unit)101は、ROM(Read Only Memory)102、または記憶部108に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)103には、CPU101が実行するプログラムやデータなどが適宜記憶される。これらのCPU101、ROM102、およびRAM103は、バス104により相互に接続されている。
CPU101にはまた、バス104を介して入出力インターフェース105が接続されている。入出力インターフェース105には、キーボード、マウス、マイクロホンなどよりなる入力部106、ディスプレイ、スピーカなどよりなる出力部107が接続されている。CPU101は、入力部106から入力される指令に対応して各種の処理を実行する。そして、CPU101は、処理の結果を出力部107に出力する。
入出力インターフェース105に接続されている記憶部108は、例えばハードディスクからなり、CPU101が実行するプログラムや各種のデータを記憶する。通信部109は、インターネットやローカルエリアネットワークなどのネットワークを介して外部の装置と通信する。
入出力インターフェース105に接続されているドライブ110は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア111が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータなどを取得する。取得されたプログラムやデータは、必要に応じて記憶部108に転送され、記憶される。
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを格納するプログラム記録媒体は、図16に示すように、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア111、または、プログラムが一時的もしくは永続的に格納されるROM102や、記憶部108を構成するハードディスクなどにより構成される。プログラム記録媒体へのプログラムの格納は、必要に応じてルータ、モデムなどのインターフェースである通信部109を介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の通信媒体を利用して行われる。
なお、本明細書において、プログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
従来の画像表示装置の一作用を説明する画像メモリのアドレス推移と画像の入出力タイミングを示すタイミングチャートである。 従来の画像表示装置の他の作用を説明する画像メモリのアドレス推移と画像の入出力タイミングを示すタイミングチャートである。 従来の画像表示装置の更に他の作用を説明する画像メモリのアドレス推移と画像の入出力タイミングを示すタイミングチャートである。 本発明の実施の形態による画像表示装置1の概略構成図である。 本発明に係る解像度変換部16の一構成例を示すブロック図である。 本発明の一作用を説明する画像メモリのアドレス推移と画像の入出力タイミングを示すタイミングチャートである。 本発明の他の作用を説明する画像メモリのアドレス推移と画像の入出力タイミングを示すタイミングチャートである。 本発明の更に他の作用を説明する画像メモリのアドレス推移と画像の入出力タイミングを示すタイミングチャートである。 本発明の更に他の作用を説明する画像メモリのアドレス推移と画像の入出力タイミングを示すタイミングチャートである。 本発明の更に他の作用を説明する画像メモリのアドレス推移と画像の入出力タイミングを示すタイミングチャートである。 読み出し開始位置を下げる遷移で最大露光時間が短くなることについて示す図である。 最大露光時間を制御した例を示す図である。 読み出し開始位置を下げる遷移で最大露光時間が長くなることについて示す図である。 最大露光時間を制御した例を示す図である。 撮像処理を説明するフローチャートである。 パーソナルコンピュータの構成例を示すブロック図である。
符号の説明
1 画像表示装置, 11 レンズ, 12 撮像素子, 13 A/D変換器, 15 制御部, 16 信号処理回路, 21 横解像度変換回路, 22 画像メモリ, 23 縦解像度変換回路

Claims (4)

  1. 撮像された画像全体の一部を拡大して表示する電子ズーム機能を有する撮像装置において、
    画像の読み出しの開始位置を切り替え可能な撮像手段と、
    メモリからの画像の読み出しのタイミングのときに画像全体の中心を基準とした所定の範囲のデータの少なくとも一部が書き込まれているように、前記撮像手段により読み出され、撮像結果として入力された画像のうちの前記所定の範囲の画像を抽出し、抽出した画像を前記メモリに書き込む書き込み手段と、
    前記書き込み手段により前記メモリに書き込まれた画像の読み出しを前記読み出しのタイミングのときに開始し、前記メモリから読み出した前記所定の範囲の画像を所定の解像度の画像に変換して出力する読み出し手段と、
    前記撮像手段が撮像可能な画像全体を撮像結果として読み出す状態から、前記撮像手段が撮像可能な画像全体を垂直方向に分割した所定の数のブロックのうちの最も上のブロックと最も下のブロックを除くブロックからなる画像を撮像結果として読み出す状態になるように、前記撮像手段の読み出しの開始位置を制御する制御手段と
    前記撮像手段の読み出しの開始位置の制御が前記制御手段により行われた直後の1画面を基準として、基準の前記1画面の直前の1画面の最大露光時間を、それより1画面だけ前の1画面の最大露光時間と基準の前記1画面の最大露光時間の中間の時間になるように制御し、基準の前記1画面の直後の1画面の最大露光時間を、それより1画面だけ後の1画面の最大露光時間と基準の前記1画面の最大露光時間の中間の時間になるように制御する露光時間制御手段と
    を備える撮像装置。
  2. 入力された画像に対する入力同期信号と、読み出し手段により出力される画像に対する出力同期信号は互いに非同期であり、前記入力同期信号をVとしたとき、前記出力同期信号は前記入力同期信号に対して(1/3)V遅れて出力される
    請求項1に記載の撮像装置。
  3. 画像の読み出しの開始位置を切り替え可能な撮像手段を備え、撮像された画像全体の一部を拡大して表示する電子ズーム機能を有する撮像装置の制御方法において、
    メモリからの画像の読み出しのタイミングのときに画像全体の中心を基準とした所定の範囲のデータの少なくとも一部が書き込まれているように、読み出され撮像結果として入力された画像のうちの前記所定の範囲の画像を抽出し、抽出した画像を前記メモリに書き込み、
    前記メモリに書き込まれた画像の読み出しを前記読み出しのタイミングのときに開始し、前記メモリから読み出した前記所定の範囲の画像を所定の解像度の画像に変換して出力し、
    前記撮像手段が撮像可能な画像全体を撮像結果として読み出す状態から、前記撮像手段が撮像可能な画像全体を垂直方向に分割した所定の数のブロックのうちの最も上のブロックと最も下のブロックを除くブロックからなる画像を撮像結果として読み出す状態になるように、読み出しの開始位置を制御し、
    前記撮像手段の読み出しの開始位置の制御を行う直後の1画面を基準として、基準の前記1画面の直前の1画面の最大露光時間を、それより1画面だけ前の1画面の最大露光時間と基準の前記1画面の最大露光時間の中間の時間になるように制御し、基準の前記1画面の直後の1画面の最大露光時間を、それより1画面だけ後の1画面の最大露光時間と基準の前記1画面の最大露光時間の中間の時間になるように制御する
    ステップを含む制御方法。
  4. 画像の読み出しの開始位置を切り替え可能な撮像手段を備え、撮像された画像全体の一部を拡大して表示する電子ズーム機能を有する撮像装置の処理をコンピュータに実行させるプログラムにおいて、
    メモリからの画像の読み出しのタイミングのときに画像全体の中心を基準とした所定の範囲のデータの少なくとも一部が書き込まれているように、読み出され撮像結果として入力された画像のうちの前記所定の範囲の画像を抽出し、抽出した画像を前記メモリに書き込み、
    前記メモリに書き込まれた画像の読み出しを前記読み出しのタイミングのときに開始し、前記メモリから読み出した前記所定の範囲の画像を所定の解像度の画像に変換して出力し、
    前記撮像手段が撮像可能な画像全体を撮像結果として読み出す状態から、前記撮像手段が撮像可能な画像全体を垂直方向に分割した所定の数のブロックのうちの最も上のブロックと最も下のブロックを除くブロックからなる画像を撮像結果として読み出す状態になるように、読み出しの開始位置を制御し、
    前記撮像手段の読み出しの開始位置の制御を行う直後の1画面を基準として、基準の前記1画面の直前の1画面の最大露光時間を、それより1画面だけ前の1画面の最大露光時間と基準の前記1画面の最大露光時間の中間の時間になるように制御し、基準の前記1画面の直後の1画面の最大露光時間を、それより1画面だけ後の1画面の最大露光時間と基準の前記1画面の最大露光時間の中間の時間になるように制御する
    ステップを含む処理をコンピュータに実行させるプログラム
JP2005374681A 2005-12-27 2005-12-27 撮像装置、制御方法、並びにプログラム Expired - Fee Related JP4320658B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2005374681A JP4320658B2 (ja) 2005-12-27 2005-12-27 撮像装置、制御方法、並びにプログラム
US11/608,951 US8009337B2 (en) 2005-12-27 2006-12-11 Image display apparatus, method, and program
CNB2006101673409A CN100456810C (zh) 2005-12-27 2006-12-27 图像显示装置和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005374681A JP4320658B2 (ja) 2005-12-27 2005-12-27 撮像装置、制御方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JP2007180717A JP2007180717A (ja) 2007-07-12
JP4320658B2 true JP4320658B2 (ja) 2009-08-26

Family

ID=38193324

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005374681A Expired - Fee Related JP4320658B2 (ja) 2005-12-27 2005-12-27 撮像装置、制御方法、並びにプログラム

Country Status (3)

Country Link
US (1) US8009337B2 (ja)
JP (1) JP4320658B2 (ja)
CN (1) CN100456810C (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4727457B2 (ja) * 2006-03-08 2011-07-20 富士フイルム株式会社 撮影装置
JP5142491B2 (ja) * 2006-07-31 2013-02-13 株式会社リコー 画像表示装置、画像表示方法及び画像表示プログラム
JP2009042338A (ja) * 2007-08-07 2009-02-26 Victor Co Of Japan Ltd 画素数変換方法、画素数変換装置及び画素数変換プログラム
JP5153277B2 (ja) * 2007-09-21 2013-02-27 キヤノン株式会社 画像処理装置、画像処理方法、及び、画像処理プログラム
US20100192181A1 (en) * 2009-01-29 2010-07-29 At&T Intellectual Property I, L.P. System and Method to Navigate an Electonic Program Guide (EPG) Display
US20100188579A1 (en) * 2009-01-29 2010-07-29 At&T Intellectual Property I, L.P. System and Method to Control and Present a Picture-In-Picture (PIP) Window Based on Movement Data
US20100188429A1 (en) * 2009-01-29 2010-07-29 At&T Intellectual Property I, L.P. System and Method to Navigate and Present Image Libraries and Images
JP5348035B2 (ja) * 2010-03-19 2013-11-20 セイコーエプソン株式会社 プロジェクター
EP2388772B1 (en) * 2010-05-18 2018-04-18 Seiko Epson Corporation Image-displaying device and display timing control circuit
JP5163702B2 (ja) * 2010-06-16 2013-03-13 セイコーエプソン株式会社 撮影装置およびタイミング制御回路
JP5121978B2 (ja) * 2010-08-30 2013-01-16 キヤノン株式会社 画像処理装置及びその制御方法
JP2012099876A (ja) * 2010-10-29 2012-05-24 Sanyo Electric Co Ltd 画像処理装置、撮像装置、画像処理方法、プログラム
JP5734082B2 (ja) * 2011-05-11 2015-06-10 キヤノン株式会社 撮像装置及びその制御方法、並びにプログラム
JP5835996B2 (ja) * 2011-08-08 2015-12-24 オリンパス株式会社 撮像装置
CN102629140A (zh) * 2012-03-22 2012-08-08 圆展科技股份有限公司 摄影机定位系统及其控制方法
JP6033032B2 (ja) * 2012-10-09 2016-11-30 オリンパス株式会社 撮像表示システム
JP6199070B2 (ja) * 2013-04-26 2017-09-20 シャープ株式会社 メモリ制御装置、および携帯端末
DE102014102689A1 (de) 2014-02-28 2015-09-03 Arnold & Richter Cine Technik Gmbh & Co. Betriebs Kg Laufbildkameraanordnung und Verfahren zum Betreiben einer Laufbildkameraanordnung
JP6489802B2 (ja) * 2014-11-13 2019-03-27 キヤノン株式会社 撮像装置およびその制御方法、プログラム、並びに記憶媒体
JP6544939B2 (ja) * 2015-02-16 2019-07-17 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
US10321014B2 (en) * 2015-09-29 2019-06-11 Kyocera Document Solutions Inc. Image reading apparatus and image forming apparatus, comprising at least a mode reception and a selection of at least a quality first mode or a speed first mode

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5812189A (en) * 1992-06-23 1998-09-22 Canon Kabushiki Kaisha Video camera apparatus
JP3406924B2 (ja) * 1993-08-27 2003-05-19 キヤノン株式会社 画像処理装置及びその方法
US6630950B1 (en) * 1998-03-19 2003-10-07 Canon Kabushiki Kaisha Apparatus for improving image vibration suppression
US7091944B2 (en) * 2002-11-03 2006-08-15 Lsi Logic Corporation Display controller
JP3925415B2 (ja) * 2003-01-22 2007-06-06 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
JP4225241B2 (ja) * 2004-05-13 2009-02-18 ソニー株式会社 画像表示装置
JP4434939B2 (ja) * 2004-12-27 2010-03-17 キヤノン株式会社 撮像装置及びその制御方法

Also Published As

Publication number Publication date
US8009337B2 (en) 2011-08-30
CN1992816A (zh) 2007-07-04
JP2007180717A (ja) 2007-07-12
CN100456810C (zh) 2009-01-28
US20070146810A1 (en) 2007-06-28

Similar Documents

Publication Publication Date Title
JP4320658B2 (ja) 撮像装置、制御方法、並びにプログラム
JP4680166B2 (ja) 撮像装置および撮像方法
EP2293240B1 (en) Image processing device and imaging apparatus
JP4943721B2 (ja) 画像データのカラーノイズ除去方法及びこの方法を用いた撮像装置
KR101128167B1 (ko) 화상 표시 장치
KR20080013674A (ko) 촬상 장치 및 방법
JP4105967B2 (ja) デジタルスチルカメラ
JP2002077698A (ja) 撮像装置、画像処理装置及びその方法、記憶媒体
JP2008124671A (ja) 撮像装置および撮像方法
JP5092536B2 (ja) 画像処理装置及びそのプログラム
JP5959194B2 (ja) 撮像装置
JP5171287B2 (ja) データ処理装置
JP6152009B2 (ja) 撮像装置、撮像方法、プログラム、及び記録媒体
JP2010041497A (ja) 画像処理装置、電子機器及び画像処理方法
JP5011289B2 (ja) 撮像装置
JP2014099714A (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP5820213B2 (ja) 画像処理装置及びその方法、撮像装置
JP4752652B2 (ja) 撮像装置、撮像画像表示方法、及び、プログラム
JP5317894B2 (ja) 撮像装置、および撮像装置の制御方法
JP2010206510A (ja) 撮像装置
JP4407475B2 (ja) カメラ画像処理装置
JP4254548B2 (ja) 動画像記録装置及びプログラム
JP5008380B2 (ja) 画像処理装置及び画像処理方法
JP2023075606A (ja) 画像処理装置および撮像装置
JP2008005352A (ja) 画像処理装置、その制御方法及びプログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090410

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090507

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090520

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120612

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees