JP4480147B2 - 撮像装置およびその制御方法 - Google Patents
撮像装置およびその制御方法 Download PDFInfo
- Publication number
- JP4480147B2 JP4480147B2 JP2004265932A JP2004265932A JP4480147B2 JP 4480147 B2 JP4480147 B2 JP 4480147B2 JP 2004265932 A JP2004265932 A JP 2004265932A JP 2004265932 A JP2004265932 A JP 2004265932A JP 4480147 B2 JP4480147 B2 JP 4480147B2
- Authority
- JP
- Japan
- Prior art keywords
- dust
- correction
- data
- aperture value
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
- H04N23/811—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation by dust removal, e.g. from surfaces of the image sensor or processing of the image signal output by the electronic image sensor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/68—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
- H04N25/683—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects by defect estimation performed on the scene signal, e.g. real time or on the fly detection
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Description
以下、図面を参照して本発明をその好適な実施形態に基づき詳細に説明する。
図1は、本発明の第1の実施形態に係る撮像装置の一例としてのレンズ交換式デジタルカメラの回路構成例を示すブロック図である。同図において、マイクロコンピュータ402は、撮像素子の一例であるCCD418が出力する画像データの処理や、LCDモニター装置417の表示制御をはじめ、カメラ全体の動作を制御する。
レンズ制御回路407は、撮影レンズ200(図3参照)との通信及びAF(オートフォーカス)時の撮影レンズ200の駆動や絞り羽根の駆動の制御を行う。
図において、カメラ本体100の上部には、ファインダー観察用の接眼窓111、AE(自動露出)ロックボタン112、AF(オートフォーカス)の測距点選択ボタン113、撮影操作をするためのレリーズボタン114、電子ダイヤル115及び撮影モード選択ダイアル117及び外部表示装置409が設けられている。電子ダイヤル115は、他の操作ボタンと併用して、カメラに数値を入力したり、撮影モードを切り換えたりするための多機能信号入力装置である。また、外部表示装置409は、液晶表示装置から構成され、シャッタースピード、絞り、撮影モードなどの撮影条件や、他の情報を表示する。
419は画像データを記録する外部記憶装置、217は電池(携帯用電源)である。この外部記憶装置419及び電池217は着脱可能である。
図5は、本実施形態に係るデジタルカメラにおけるゴミ検出処理(ゴミによって画像不良が生じている画素位置の検出処理)を説明するフローチャートである。当該処理はマイクロコンピュータ402が図示しない不揮発性メモリに記憶されたゴミ検出処理プログラムを実行することにより実施される。
撮影が終了するとマイクロコンピュータ402はレンズ制御回路407を制御し、撮影レンズ200の絞りを開放値に設定させる(ステップS25)。
ここで、ステップS22で設定した絞り値1を用いて検出したゴミ位置データをゴミ補正データ1とする。
次に、図4に示すフローチャートを用いて、図5のS24で行われる撮像処理ルーチンの詳細について説明する。当該処理はマイクロコンピュータ402が図示しない不揮発性メモリに記憶された撮像処理プログラムを実行することにより実施される。
次に、本実施形態に係るデジタルカメラにおける、通常撮影時のゴミ補正処理(通常撮影画像のゴミ補正処理)について説明する。当該処理はマイクロコンピュータ402が図示しない不揮発性メモリに記憶されたゴミ処理動作プログラムを実行することにより実施される。
先ず、ゴミ補正処理を行うにあたり、撮影時に用いた絞り値から、ゴミ位置メモリ427に格納された複数のゴミ補正データのうち、使用すべきゴミ補正データを決定する。具体的には、撮影時の絞り値がゴミ補正データ2の検出に用いた絞り値2(ここではF22)と同じか、小絞り(絞り値が大きい)かどうかを判定し(ステップS36)、同じ又は小絞りであればステップS37へ分岐し、絞り値2に対するゴミ位置データ2を用いることを決定する。一方、絞り値2より開放側(小さな絞り値)であれば、ステップS38へ進む。
次に、本発明の第2の実施形態に係る撮像装置の一例としてのデジタルカメラについて説明する。なお、本実施形態に係るデジタルカメラの基本的な構成は、上述した第1の実施形態に係るデジタルカメラと同一でよいため、構成に関する説明は省略し、本実施形態に係るゴミ検出処理及びゴミ補正処理について説明する。
図7は、本実施形態に係るデジタルカメラにおけるゴミ検出処理(ゴミによって画像不良が生じている画素位置の検出処理)を説明するフローチャートである。なお、図7において、第1の実施形態において説明した図5と同様の処理を行うステップには同じステップ番号を付加し、重複する説明は省略する。
次に撮影レンズを絞り込む(ステップS23)。なお、ここでの絞り値はゴミが検出できる十分大きな絞り値(小絞り)に予め定めた値を用いる。
図4で説明した撮像処理ルーチンで撮影を行う(ステップS24)。
絞りを開放値にさせる(ステップS25)。
その後、全ての画素について読み出したかを確認する(ステップS30)。
ステップS23に戻って再度画像の撮影を行いゴミ検出する。(ISO値2で検出したゴミ補正データをゴミ補正データ2とする)
次に、本実施形態に係るデジタルカメラにおける、撮影時のゴミ補正処理について説明する。当該処理はマイクロコンピュータ402が図示しない不揮発性メモリに記憶されたゴミ処理動作プログラムを実行することにより実施される。
なお、第1の実施形態と第2の実施形態を組み合わせることも可能である。この場合、ISO値と絞り値の複数の組合せに対してゴミ検出処理を行い、組合せ毎にゴミ補正データを求める。そして、ゴミ補正処理において用いるゴミ補正データは、撮影時の絞り値とISO値の組合せに最も近い組合せで検出したデータを用いて行えばよい。
また、上述の実施形態では、デジタルカメラに本発明を適用した場合のみを説明したが、デジタルビデオカメラにおける静止画撮像時において同様の処理を行うことも可能であることは言うまでもない。
Claims (5)
- 撮像素子を用いて撮像を行う撮像装置であって、
ユーザの指示により、異なる複数の絞り値で撮像した複数のゴミ検出用撮像画像の各々から、前記撮像素子またはその光学系に存在するゴミに対応する画素位置を検出し、前記異なる複数の絞り値の各々に対応する複数のゴミ補正データとして記憶するゴミ位置検出手段と、
通常の撮像によって得られた通常撮像画像を構成する画素データのうち、前記ゴミに対応する画素位置のデータに対し、前記複数のゴミ補正データの1つを用いて補正処理を行う補正手段と、
前記通常撮像画像を撮像した際に用いられた絞り値と前記ゴミ検出用撮像画像を撮像した際に用いられた絞り値とを比較することで、前記補正処理を実行するか否かを判断するとともに、前記補正処理を実行すると判断した際には、前記複数のゴミ補正データのうち、どのゴミ補正データを用いて補正処理を行うかを判断する判断手段とを有することを特徴とする撮像装置。 - 前記撮像装置はレンズ交換式デジタルカメラであって、
前記ゴミ位置検出手段は、第1の絞り値で撮像したゴミ検出用撮像画像から検出した前記ゴミ補正データを第1のゴミ補正データとして記憶するとともに、前記第1の絞り値より大きい第2の絞り値で撮像したゴミ検出用撮像画像から検出した前記ゴミ補正データを第2のゴミ補正データとして記憶し、
前記判断手段は、前記通常撮像画像を撮像した際に用いられた絞り値が前記第1の絞り値より小さい場合には前記補正処理を実行しないと判断し、前記通常撮像画像を撮像した際に用いられた絞り値が前記第1の絞り値以上で、前記第2の絞り値より小さい場合には前記第1のゴミ補正データを用いて前記補正処理を行うと判断し、前記通常撮像画像を撮像した際に用いられた絞り値が前記第2の絞り値より以上の場合には前記第2のゴミ補正データを用いて前記補正処理を行うと判断することを特徴とする請求項1記載の撮像装置。 - さらに、前記撮像素子の製造時における欠陥画素の位置を表す情報を記憶する記憶手段を有し、
前記補正手段が、前記欠陥画素の位置に対応せず、かつ前記ゴミに対応する画素位置にある画素データに対して前記補正処理を行うことを特徴とする請求項1または2に記載の撮像装置。 - 前記補正処理が、前記ゴミに対応する画素位置のデータを、周囲の正常な画素データを用いて補間する処理であることを特徴とする請求項1ないし3のいずれか1項に記載の撮像装置。
- 撮像素子を用いて撮像を行う撮像装置の制御方法であって、
ユーザの指示により、異なる複数の絞り値で撮像した複数のゴミ検出用撮像画像の各々から、前記撮像素子またはその光学系に存在するゴミに対応する画素位置を検出し、前記異なる複数の絞り値の各々に対応する複数のゴミ補正データとして記憶するゴミ位置検出ステップと、
通常の撮像によって得られた通常撮像画像を構成する画素データのうち、前記ゴミに対応する画素位置のデータに対し、前記複数のゴミ補正データの1つを用いて補正処理を行う補正ステップと、
前記通常撮像画像を撮像した際に用いられた絞り値と前記ゴミ検出用撮像画像を撮像した際に用いられた絞り値とを比較することで、前記補正処理を実行するか否かを判断するとともに、前記補正処理を実行すると判断した際には、前記複数のゴミ補正データのうち、どのゴミ補正データを用いて補正処理を行うかを判断する判断ステップとを有することを特徴とする撮像装置の制御方法。
Priority Applications (8)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2004265932A JP4480147B2 (ja) | 2004-09-13 | 2004-09-13 | 撮像装置およびその制御方法 |
| EP05783587A EP1792479B1 (en) | 2004-09-13 | 2005-09-09 | Image sensing apparatus and control method therefor |
| PCT/JP2005/017081 WO2006030874A1 (en) | 2004-09-13 | 2005-09-09 | Image sensing apparatus and control method therefor |
| KR1020077007846A KR100875940B1 (ko) | 2004-09-13 | 2005-09-09 | 촬상장치 및 그 제어방법 |
| EP11192138.3A EP2445195B1 (en) | 2004-09-13 | 2005-09-09 | Image sensing apparatus and control method therefor |
| CN2009101681907A CN101656841B (zh) | 2004-09-13 | 2005-09-09 | 图像感测设备及其控制方法 |
| CNB2005800306247A CN100550995C (zh) | 2004-09-13 | 2005-09-09 | 图像感测设备及其控制方法 |
| US10/555,023 US7636114B2 (en) | 2004-09-13 | 2005-09-09 | Image sensing apparatus and control method capable of performing dust correction |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2004265932A JP4480147B2 (ja) | 2004-09-13 | 2004-09-13 | 撮像装置およびその制御方法 |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2010028191A Division JP4480188B2 (ja) | 2010-02-10 | 2010-02-10 | 撮像装置およびその制御方法 |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JP2006081122A JP2006081122A (ja) | 2006-03-23 |
| JP2006081122A5 JP2006081122A5 (ja) | 2007-10-25 |
| JP4480147B2 true JP4480147B2 (ja) | 2010-06-16 |
Family
ID=36060123
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2004265932A Expired - Fee Related JP4480147B2 (ja) | 2004-09-13 | 2004-09-13 | 撮像装置およびその制御方法 |
Country Status (6)
| Country | Link |
|---|---|
| US (1) | US7636114B2 (ja) |
| EP (2) | EP1792479B1 (ja) |
| JP (1) | JP4480147B2 (ja) |
| KR (1) | KR100875940B1 (ja) |
| CN (2) | CN100550995C (ja) |
| WO (1) | WO2006030874A1 (ja) |
Families Citing this family (27)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4480147B2 (ja) * | 2004-09-13 | 2010-06-16 | キヤノン株式会社 | 撮像装置およびその制御方法 |
| JP4756950B2 (ja) * | 2005-08-08 | 2011-08-24 | キヤノン株式会社 | 撮像装置及びその制御方法 |
| JP2007215151A (ja) | 2006-01-12 | 2007-08-23 | Canon Inc | 撮像装置及びその制御方法及びプログラム |
| JP4757085B2 (ja) | 2006-04-14 | 2011-08-24 | キヤノン株式会社 | 撮像装置及びその制御方法、画像処理装置、画像処理方法、及びプログラム |
| JP4771540B2 (ja) | 2006-07-26 | 2011-09-14 | キヤノン株式会社 | 画像処理装置及びその制御方法及び画像処理方法及びプログラム |
| JP2008033442A (ja) * | 2006-07-26 | 2008-02-14 | Canon Inc | 画像処理装置及びその制御方法及びプログラム |
| JP4771539B2 (ja) | 2006-07-26 | 2011-09-14 | キヤノン株式会社 | 画像処理装置及びその制御方法及びプログラム |
| JP4695571B2 (ja) * | 2006-09-14 | 2011-06-08 | 三星電子株式会社 | 撮像装置および撮像方法 |
| JP4799462B2 (ja) * | 2007-03-27 | 2011-10-26 | キヤノン株式会社 | 画像処理装置及びその制御方法及びプログラム及び記憶媒体及び撮像装置 |
| JP2008258982A (ja) | 2007-04-05 | 2008-10-23 | Canon Inc | 画像処理装置及びその制御方法及びプログラム |
| EP1983334B1 (de) * | 2007-04-20 | 2009-12-23 | Sick Ag | Verfahren und Vorrichtung zur optischen Erfassung von Verschmutzungen |
| JP4951540B2 (ja) * | 2008-01-23 | 2012-06-13 | ペンタックスリコーイメージング株式会社 | ダスト検出装置およびデジタルカメラ |
| JP5014195B2 (ja) * | 2008-02-25 | 2012-08-29 | キヤノン株式会社 | 撮像装置及びその制御方法及びプログラム |
| JP2009249315A (ja) * | 2008-04-03 | 2009-10-29 | Fujifilm Corp | ミネラル吸収促進剤ならびに鉄欠乏性貧血改善剤または食品組成物 |
| JP5210091B2 (ja) * | 2008-08-29 | 2013-06-12 | キヤノン株式会社 | 画像処理装置及びその制御方法、撮像装置、プログラム |
| US8243166B2 (en) * | 2009-01-20 | 2012-08-14 | Lockheed Martin Corporation | Automatic detection of blocked field-of-view in camera systems |
| JP2011078047A (ja) * | 2009-10-02 | 2011-04-14 | Sanyo Electric Co Ltd | 撮像装置 |
| GB201020530D0 (en) * | 2010-12-03 | 2011-01-19 | Optos Plc | Method of identifying anomalies in images |
| US10823592B2 (en) | 2013-09-26 | 2020-11-03 | Rosemount Inc. | Process device with process variable measurement using image capture device |
| US10638093B2 (en) * | 2013-09-26 | 2020-04-28 | Rosemount Inc. | Wireless industrial process field device with imaging |
| US11076113B2 (en) | 2013-09-26 | 2021-07-27 | Rosemount Inc. | Industrial process diagnostics using infrared thermal sensing |
| EP2899692B1 (en) | 2014-01-28 | 2019-09-04 | Honda Research Institute Europe GmbH | Method, system, imaging device, movable device and program product for detecting static elements in video and image sources |
| US9349068B2 (en) * | 2014-06-05 | 2016-05-24 | Honeywell International Inc. | Detecting camera conditions to initiate camera maintenance |
| US10914635B2 (en) | 2014-09-29 | 2021-02-09 | Rosemount Inc. | Wireless industrial process monitor |
| US9854188B2 (en) * | 2015-12-16 | 2017-12-26 | Google Llc | Calibration of defective image sensor elements |
| CN106973291A (zh) * | 2017-06-01 | 2017-07-21 | 信利光电股份有限公司 | 一种摄像模组、电子设备、污点修复方法及系统 |
| CN108805881A (zh) * | 2018-05-29 | 2018-11-13 | 周群 | 双层旋转桌面式书桌 |
Family Cites Families (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH0951459A (ja) * | 1995-08-03 | 1997-02-18 | Sanyo Electric Co Ltd | ビデオカメラ |
| JPH09200613A (ja) * | 1996-01-19 | 1997-07-31 | Sony Corp | 固体撮像素子の欠陥検出装置 |
| JP3785520B2 (ja) * | 1997-03-19 | 2006-06-14 | コニカミノルタホールディングス株式会社 | 電子カメラ |
| US6233364B1 (en) * | 1998-09-18 | 2001-05-15 | Dainippon Screen Engineering Of America Incorporated | Method and system for detecting and tagging dust and scratches in a digital image |
| TW466872B (en) * | 1998-12-02 | 2001-12-01 | Syscan Technology Shenzhen Co | Improved image sensing module for producing digital images having reduced noise |
| JP3461482B2 (ja) * | 1999-02-24 | 2003-10-27 | オリンパス光学工業株式会社 | デジタルカメラ及びデジタルカメラのゴミ位置検出方法 |
| JP4167401B2 (ja) * | 2001-01-12 | 2008-10-15 | 富士フイルム株式会社 | ディジタル・カメラおよびその動作制御方法 |
| JP3863723B2 (ja) * | 2001-02-09 | 2006-12-27 | ペンタックス株式会社 | レンズ交換式電子スチルカメラ |
| JP2003344953A (ja) | 2002-05-30 | 2003-12-03 | Canon Inc | 画像読取装置 |
| JP2004265932A (ja) | 2003-02-14 | 2004-09-24 | Canon Inc | 放射線撮像装置 |
| JP4480147B2 (ja) * | 2004-09-13 | 2010-06-16 | キヤノン株式会社 | 撮像装置およびその制御方法 |
-
2004
- 2004-09-13 JP JP2004265932A patent/JP4480147B2/ja not_active Expired - Fee Related
-
2005
- 2005-09-09 US US10/555,023 patent/US7636114B2/en not_active Expired - Fee Related
- 2005-09-09 EP EP05783587A patent/EP1792479B1/en not_active Expired - Lifetime
- 2005-09-09 EP EP11192138.3A patent/EP2445195B1/en not_active Expired - Lifetime
- 2005-09-09 CN CNB2005800306247A patent/CN100550995C/zh not_active Expired - Fee Related
- 2005-09-09 WO PCT/JP2005/017081 patent/WO2006030874A1/en not_active Ceased
- 2005-09-09 CN CN2009101681907A patent/CN101656841B/zh not_active Expired - Fee Related
- 2005-09-09 KR KR1020077007846A patent/KR100875940B1/ko not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| EP2445195B1 (en) | 2013-07-10 |
| KR20070088585A (ko) | 2007-08-29 |
| EP1792479A1 (en) | 2007-06-06 |
| CN100550995C (zh) | 2009-10-14 |
| CN101656841B (zh) | 2011-09-21 |
| US20070030378A1 (en) | 2007-02-08 |
| KR100875940B1 (ko) | 2008-12-26 |
| EP2445195A1 (en) | 2012-04-25 |
| JP2006081122A (ja) | 2006-03-23 |
| CN101656841A (zh) | 2010-02-24 |
| EP1792479B1 (en) | 2013-03-27 |
| CN101019419A (zh) | 2007-08-15 |
| EP1792479A4 (en) | 2009-11-25 |
| WO2006030874A1 (en) | 2006-03-23 |
| US7636114B2 (en) | 2009-12-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4480147B2 (ja) | 撮像装置およびその制御方法 | |
| KR100971742B1 (ko) | 화상처리장치 및 그 제어방법 | |
| CN101001318B (zh) | 图像拍摄设备及其控制方法 | |
| US7619666B2 (en) | Image processing apparatus, control method therefor, and program correcting image data based on foreign substance information and inhibiting such correction | |
| US7990419B2 (en) | Image processing apparatus, method, and program storing a correction or modification log | |
| US20080025650A1 (en) | Image processing apparatus, control method therefor, and program | |
| JP4590355B2 (ja) | 画像処理装置及び画像処理方法及びプログラム | |
| JP4532819B2 (ja) | 撮像装置 | |
| JP4766689B2 (ja) | 撮像装置及びその制御方法及びプログラム及び記憶媒体 | |
| JP4960852B2 (ja) | 画像処理装置及びその制御方法及びレンズ交換式一眼レフデジタルカメラ及びプログラム | |
| JP4948248B2 (ja) | 撮像装置およびその制御方法 | |
| JP4480188B2 (ja) | 撮像装置およびその制御方法 | |
| JP2010098698A (ja) | 撮像装置及びその制御方法及びプログラム | |
| JP4827778B2 (ja) | 画像処理装置及び画像処理方法及びプログラム及び記憶媒体 | |
| JP2008294590A (ja) | 撮像装置 | |
| JP2008042348A (ja) | 画像処理装置及び画像処理方法及び撮像装置及びプログラム | |
| JP5094571B2 (ja) | 撮像装置及びその制御方法及びプログラム | |
| JP2006108878A (ja) | 撮像装置 | |
| JP2007166087A (ja) | 撮像装置、撮像方法、プログラムおよび記憶媒体 | |
| JP2008131056A (ja) | 撮像装置および撮像方法 | |
| JP2006319434A (ja) | デジタルカメラ |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070911 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070911 |
|
| RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20070911 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091002 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091127 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091218 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100210 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100312 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100315 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130326 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140326 Year of fee payment: 4 |
|
| LAPS | Cancellation because of no payment of annual fees |