JP4664871B2 - 自動焦点検出装置 - Google Patents

自動焦点検出装置 Download PDF

Info

Publication number
JP4664871B2
JP4664871B2 JP2006189783A JP2006189783A JP4664871B2 JP 4664871 B2 JP4664871 B2 JP 4664871B2 JP 2006189783 A JP2006189783 A JP 2006189783A JP 2006189783 A JP2006189783 A JP 2006189783A JP 4664871 B2 JP4664871 B2 JP 4664871B2
Authority
JP
Japan
Prior art keywords
image
difference
imaging
autofocus device
focus position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006189783A
Other languages
English (en)
Other versions
JP2008020498A (ja
Inventor
堅 石原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2006189783A priority Critical patent/JP4664871B2/ja
Publication of JP2008020498A publication Critical patent/JP2008020498A/ja
Application granted granted Critical
Publication of JP4664871B2 publication Critical patent/JP4664871B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は実質的に透明な被写体に対する自動焦点装置に係り、特に顕微鏡の自動焦点装置に関する。
従来、例えば顕微鏡などの画像観察装置において、CCDなどの撮像素子で撮像された観察像を画像処理してコントラストを判定することによりオートフォーカス動作を行う装置、いわゆるコントラストAF方式のオートフォーカス装置が知られている。
このような装置では、フォーカシングする画像領域において、例えば、隣接する画素の差分自乗和などで定義されるコントラスト値を演算できるようになっており、焦点位置を可変して、それぞれのコントラスト値を評価し、コントラスト値が最大となる位置を合焦位置と判定する。
例えば、特許文献1には、撮像された全画素またはその一部の画素によりコンラスト値を演算するコントラストAF方式の焦点調節装置が記載されている。
特開2002−162558号公報
しかし、無染色細胞のような位相物体の観察においては、合焦点位置での画像はむしろコントラスト値が最小(あるいは極小)になるという現象から、上記のようなオートフォーカス方式を適用できないという問題が起こる。そしてこの問題により、無染色細胞のような被写体に適応できるオートフォーカス方式は今まで存在していなかった。
一方、生細胞を染色せずに観察したいという需要は大きい。その為のひとつの観察手法として蛍光観測が挙げられる。蛍光観測は通常の染色に比べてはるかに細胞へのダメージが少ない。しかし、蛍光物質は励起光を当て続けると、褪色現象を起こしてしまう。そこで、焦点を合わせる段階では励起光を使わずに、実際の観測の段階のみに励起光を使いたいという需要も存在する。
本発明では実質的に透明である無染色細胞等の位相物体に対して活用できるオートフォーカス装置を提供する。
本発明の上記課題は、光透過性と屈折率差を持つ被写体を写す撮像装置の自動焦点装置において、等間隔で隣り合った焦点位置での画像から差分画像を取得する差分画像取得手段と、前記差分画像のコントラスト値を算出するコントラスト算出手段と、算出された前記コントラスト値の最大値を与える焦点位置を合焦点位置として決定する合焦点位置決定手段を備えることを特徴とする自動焦点装置を使うことによって達成される。
前記差分画像取得手段は、画像を撮像する撮像手段と、撮像された前記画像を少なくとも1画面分記憶する記憶手段と、記憶された前記画像と新たに撮像された画像の差を求める差分手段を備えることによって構成することができる。
また、前記差分画像取得手段は、第一の焦点位置での画像を撮像する第一撮像手段と、前記第一の焦点位置から一定間隔ずれた第二の焦点位置での画像を撮像する第二撮像手段と、前記第一撮像手段によって撮像された画像と前記第二撮像手段によって撮像された画像の差をとり差分画像を生成する差分手段を備えることによっても構成することができる。
また、前記差分画像取得手段は、互いに一定の光路差を持たせた第一の光路と第二の光路を共通の撮像手段に導くことによって差分画像を取得することによって構成することができる。
前記撮像手段はCCD(Charge Coupled Devices)であることが望ましく、ラインセンサであることも考えられる。
前記合焦点位置決定手段は、山登り法により前記コントラスト値の最大値をもとめることが考えられる。また、前記差分画像を取得する焦点位置は合焦制御中に計算されるように構成してもよい。
上記自動焦点装置は光学顕微鏡に実装されることが望ましい。また、生細胞観察装置や精密計測装置にも実装できる。
本発明によれば、合焦点位置では極小となるコントラスト値が差分画像のコントラスト値では最大になり、その結果、無染色細胞等の位相物体を被写体とする撮像装置においても正しく機能する自動焦点装置が提供される。
また、その応用として、蛍光染色された被写体を蛍光観測する際にも、焦点を合わせる段階には励起光を照射せずにすむので、褪色現象を可能な限り抑えることができる。
以下では、図面を参照しながら本発明の実施例について説明する。
図1は本発明の全体の構成図である。本発明に係る実施例の一つである顕微鏡は一般的な光学顕微鏡で実施可能であり、同図においては本発明に直接的に係る部位のみが記載されている。つまり本発明の実施に利用される顕微鏡には、同図に示されないレンズ、プリズム、接眼部等の部位を含み得る。
図1に示される顕微鏡の一例では、ステージ3上に置かれた試料(被写体)2は光源1に照らされ、観測光は対物レンズ4を通じて画像取得部5に導かれる。画像取得部5に達した観測光は、CCD等の撮像素子によって電気信号に変換される。
後述するように本発明の実施例では、画像取得部5で異なる焦点での画像の差分画像を取得するが、画像取得部5で通常の画像も取得する構成をしてもよい。その構成においては、取得された画像を試料の観察データの取得あるいは画面表示等にも利用する方法が考えられる。
画像取得部5で得られた差分画像の電気信号は、画像処理部6に受け渡され、コントラスト値が計算される。計算されたコントラスト値は、図示されない画像処理部内のメモリ等に保持され、後述する図8に代表される方法によって最大値が計算される。
制御部7では、画像処理部6で計算されたコントラスト値を基に、焦点位置を制御する。このとき、ステージ3を制御する方法と対物レンズ4を制御する方法が考えられるが、本発明ではどちらの方法を採用しても構わない。
図2は合焦位置前後での無染色細胞の見え方を示す模式図である。同図において(c)は合焦位置での無染色細胞の見え方を示し、(b)は合焦位置の手前での見え方(前ピン像)であり(a)はさらに手前での見え方を示している。同様に、(d)と(e)は合焦位置の後ろでの見え方(後ピン像)である。
同図に示されるように、無染色細胞においては、合焦位置での観察ではむしろコントラスト値が低く、その前後でコントラスト値が最大となる。つまり、焦点位置とコントラスト値のグラフを図示すると図3のようになる。
図2から理解されるもう一つの現象として、前ピン像(b)と後ピン像(d)では明暗の位置が反転していることが挙げられる。つまり、前ピン像(b)と後ピン像(d)の差を取った差分画像では明暗が増幅され、前ピン像(a)と前ピン像(b)の差分画像では明暗が打ち消しあう。この現象をグラフにすると図4のようになる。同図では、等間隔の焦点位置での差分画像のコントラスト値をグラフ化したものである。この図から解るように、単なるコントラスト値では極小であったものが、差分画像のコントラスト値では合焦位置で最大となる。
この現象の理由を簡単に説明すると次のようになる。特開2005−218379号公報に示されているように、細胞表面で回折する光線(あるいは散乱する光線)と直進する光線は合焦位置では位相差がないので干渉が起きない。しかし、焦点位置をずらすことによって光路差が生まれた場合、これらの光線に干渉が起こる。一方、無染色細胞は実質的に透明であるが、内部に屈折率の違いを持っている。このことにより、細胞内を通過した光線は通過した部分に応じて位相分布を持っている。その結果、焦点位置のずれによる位相差が無染色細胞の持つ位相分布に相関した明暗を生み、無染色細胞が可視化される。また、焦点位置をずらすことによって生じる位相差は、合焦位置では位相差が0になることからも解るように、合焦点位置の前後で反転する。このことをコントラストいう視点で説明すると、合焦点位置の前後で無染色細胞のコントラストが反転することを意味する。
本発明ではこの現象を利用することによって、無染色細胞のような、実質的に透明な被写体においても合焦位置を決定できるオートフォーカス機能を実現する。なお上述の現象は、位相差を発生させる被写体ならばすべてに当てはまる。よって、本発明の適応範囲は無染色細胞に制限されるものではない。例えば、半導体基板、金属表面やガラス基板上に形成された微細な凹凸を観察する計測器にも利用できる。
図5は本発明の実施例における、画像取得部5の第一実施形態について説明する図である。入射された観測光はCCD等の撮像素子8によって電気情報に変換される。その画像情報は後段の画像バッファ9に一時記憶される。その後、観察ステージ3あるいは対物レンズ4等を制御することによって、等間隔で隣り合った焦点位置での画像情報を取得する。このように取得された異なる焦点での画像情報を画像差分処理部10に通して差分画像を取得する。この繰り返しをすることによって差分画像を取得する。この構成の利点は、比較的高価なデバイスであるCCD等の設置個数を一つにとどめることができることにある。また、CCDから出力を差分画像処理部に通さずに、そのまま別の観察装置へと抜き出す構成も容易にできる。
図6は本発明の実施例における、画像取得部5の第二実施形態について説明する図である。入射された観測光はビームスプリッタ11によって二つの光路に分離される。それぞれ一定の光路差を持った異なる焦点位置にCCD等の撮像素子8を設け、2つの焦点位置における画像情報を同時に取得する。後段にて、2つの画像情報を差分画像処理部に通して差分画像を取得する。この構成の利点はステージ移動せずに等間隔で隣り合った焦点位置での画像を取得して差分画像を取得できるという点で、合焦時間の短縮が期待できることにある。
図7は本発明の実施例における、画像取得部5の第三実施形態について説明する図である。入射された観測光はビームスプリッタ11によって二つの光路に分離される。その後、分離された二つの光路はレンズやプリズムやミラー等によって光路差を付けられ、同一の撮像素子8に入力される。このとき、二つの光路が撮像素子8の半画面ずつを使うように設定する。そして、後段の差分画像処理部10において、二つの画像から差分画像を生成する。この構成の利点は、比較的高価なデバイスであるCCD等の設置個数を一つにとどめることができながら、一回の焦点位置移動で差分画像取得ができることにある。また、CCD等の個体差を排除して正確な測定にも適うことが期待される。
図8では本発明の実施例における差分画像のコントラスト値の最大値を求める方法を説明する。この方法はいわゆる山登り法と呼ばれる方法を使ったものである。
まず、CCD等のセンサを読み込み、焦点位置の異なる画像を取得する(S1)。次に取得した画像から画素ごとの差分データ(差分画像)を作成する(S2)。その後、差分画像のコントラスト値を計算し(S3)、その結果をメモリへ保管する(S4)。
次の段階として、ステージや対物レンズなどを制御して、焦点位置を移動させる(S5)。そして同様に、画像を取得し、差分データを作成し、コントラスト値を計算する(S6−S8)。その後、メモリに保管されているコントラスト値と比較をし、この値より大きければ(S9がNo)、S4へ戻り保管されているコントラスト値を更新する。
もし、コントラスト値がメモリに保管されているものよりも小さければ(S9がYes)、一段階前の焦点位置がコントラスト値の最大であったことが解る。よって、焦点位置を一段階戻すことによって、合焦点を見つけ出すことができる。
なお、本発明におけるコントラスト値の最大値を決定する方法は、上記の山登り法に限定されるものではない。例えば、上記の山登り法を実行した後に、画像を取得する焦点位置の間隔を狭めてコントラスト値を計測することにより、合焦点位置の精度を高める方法も考えられる。また、計測されたコントラスト値の変化から合焦点位置を予測して、画像を取得する焦点位置の間隔を制御すれば、合焦時間を短縮する方法も考えられる。さらに、等間隔の焦点位置での画像を最初にすべて取得してから、それぞれの差分画像を生成し、これらのコントラスト値の最大を求めてもよい。この方法は確実に最大点を割り出すことができると期待される。
最後にコントラスト値の計算方法に関して補足する。コントラスト値と呼ばれる数値の定義は様々なものがある。簡単な例では、最も明るい部分の輝度と最も暗い部分の輝度の差をもってコントラスト値とするものがある。つまり、コントラスト値Cは次式で与えられる。
ただし、Ijは各画素ごとの輝度を表す。この定義に限らず一般に、コントラストの定義には絶対値や最大値を含む。その結果、図8のフローチャートにおけるS2とS3(あるいはS7とS8)は順序を変えることができない。つまり、「2つの画像の差分画像のコントラスト値」と「2つの画像のコントラスト値の差」は異なる。
以上の構成によって、無染色細胞等の実質的に透明である物体を被写体とする撮像装置においても、自動焦点装置が提供される。
本発明の実施例の全体構成図である。 無染色細胞の前ピン、合焦位置、後ピンでの見え方を示す図である。 焦点位置とコントラスト値の関係を説明するグラフである。 焦点位置と差分画像のコントラスト値の関係を説明するグラフである。 画像取得部の第一実施形態について説明する図である。 画像取得部の第二実施形態について説明する図である。 画像取得部の第三実施形態について説明する図である。 本発明の実施例における山登り法を説明する図である。
符号の説明
1・・・光源
2・・・試料(被写体)
3・・・ステージ
4・・・対物レンズ
5・・・画像取得部
6・・・画像処理部
7・・・制御部
8・・・撮像素子
9・・・画像バッファ
10・・・差分画像処理部
11・・・ビームスプリッタ
12・・・レンズ/プリズム

Claims (12)

  1. 光透過性と屈折率差を持つ被写体を写す撮像装置の自動焦点装置において、
    等間隔で隣り合った焦点位置での画像から差分画像を取得する差分画像取得手段と、
    前記差分画像のコントラスト値を算出するコントラスト算出手段と、
    算出された前記コントラスト値の最大値を与える焦点位置を合焦点位置として決定する合焦点位置決定手段を
    備えることを特徴とする自動焦点装置。
  2. 前記差分画像取得手段は、
    画像を撮像する撮像手段と、
    撮像された前記画像を少なくとも1画面分記憶する記憶手段と、
    記憶された前記画像と新たに撮像された画像の差を求める差分手段を
    備えることを特徴とする、上記請求項1に記載の自動焦点装置。
  3. 前記差分画像取得手段は、
    第一の焦点位置での画像を撮像する第一撮像手段と、
    前記第一の焦点位置から一定間隔ずれた第二の焦点位置での画像を撮像する第二撮像手段と、
    前記第一撮像手段によって撮像された画像と前記第二撮像手段によって撮像された画像の差をとり差分画像を生成する差分手段を
    備えることを特徴とする、上記請求項1に記載の自動焦点装置。
  4. 前記差分画像取得手段は、
    互いに一定の光路差を持たせた第一の光路と第二の光路を共通の撮像手段に導くことによって差分画像を取得する
    ことを特徴とする、上記請求項1に記載の自動焦点装置。
  5. 前記撮像手段はCCD(Charge Coupled Devices)であることを特徴とする、上記請求項2から4の何れかに記載の自動焦点装置。
  6. 前記撮像手段はラインセンサであることを特徴とする、上記請求項2から4の何れかに記載の自動焦点装置。
  7. 前記合焦点位置決定手段は、山登り法により前記コントラスト値の最大値をもとめることを特徴とする、上記請求項1から6の何れかに記載の自動焦点装置。
  8. 前記差分画像を取得する焦点位置は合焦制御中に計算されることを特徴とする、上記請求項1から6の何れかに記載の自動焦点装置。
  9. 上記請求項1から8の何れかに記載の自動焦点装置を備えることを特徴とする光学顕微鏡。
  10. 上記請求項1から8の何れかに記載の自動焦点装置を備えることを特徴とする生細胞観察装置。
  11. 上記請求項1から8の何れかに記載の自動焦点装置を備えることを特徴とする精密計測装置。
  12. 光透過性を持ち、内部に屈折率差を持つ被写体を写す撮像装置の合焦点位置を決定する方法において、
    複数の焦点位置での画像を撮像し、
    前記画像のうち隣り合った焦点位置での二枚の画像から差分画像を生成し、
    生成された前記差分画像のコントラストを算出し、
    算出された前記コントラストが最大となる差分画像を決定することによって、
    合焦点位置を決定する方法。
JP2006189783A 2006-07-10 2006-07-10 自動焦点検出装置 Expired - Fee Related JP4664871B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006189783A JP4664871B2 (ja) 2006-07-10 2006-07-10 自動焦点検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006189783A JP4664871B2 (ja) 2006-07-10 2006-07-10 自動焦点検出装置

Publications (2)

Publication Number Publication Date
JP2008020498A JP2008020498A (ja) 2008-01-31
JP4664871B2 true JP4664871B2 (ja) 2011-04-06

Family

ID=39076506

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006189783A Expired - Fee Related JP4664871B2 (ja) 2006-07-10 2006-07-10 自動焦点検出装置

Country Status (1)

Country Link
JP (1) JP4664871B2 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9860437B2 (en) 2011-12-19 2018-01-02 Hamamatsu Photonics K.K. Image capturing apparatus and focusing method thereof
US10298833B2 (en) 2011-12-19 2019-05-21 Hamamatsu Photonics K.K. Image capturing apparatus and focusing method thereof
WO2014112083A1 (ja) 2013-01-17 2014-07-24 浜松ホトニクス株式会社 画像取得装置及び画像取得装置のフォーカス方法
DK3333608T3 (da) 2013-01-17 2021-04-12 Hamamatsu Photonics Kk Billedopfangningsanordning og fremgangsmåde til fokusering deraf
JP6023012B2 (ja) * 2013-06-26 2016-11-09 浜松ホトニクス株式会社 画像取得装置及び画像取得装置のフォーカス方法
JP6506908B2 (ja) 2014-02-24 2019-04-24 オリンパス株式会社 合焦方法、計測方法、合焦装置、及び計測装置
JP6219214B2 (ja) * 2014-03-31 2017-10-25 富士フイルム株式会社 細胞撮像制御装置および方法並びにプログラム
JP6333145B2 (ja) * 2014-09-30 2018-05-30 株式会社Screenホールディングス 画像処理方法および画像処理装置
WO2016185581A1 (ja) 2015-05-20 2016-11-24 オリンパス株式会社 標本形状測定方法及び標本形状測定装置
JP6276220B2 (ja) * 2015-06-12 2018-02-07 株式会社Screenホールディングス 撮像装置および撮像方法
JP7248833B2 (ja) * 2015-10-19 2023-03-29 モレキュラー デバイシーズ, エルエルシー フォトルミネセンス撮像のための徹照ベースの自動フォーカシングを備えた顕微鏡システム
JPWO2017119118A1 (ja) 2016-01-08 2018-11-01 オリンパス株式会社 標本形状測定方法及び標本形状測定装置
WO2017175303A1 (ja) 2016-04-05 2017-10-12 オリンパス株式会社 標本形状測定方法及び標本形状測定装置
JPWO2018092247A1 (ja) 2016-11-17 2019-10-10 オリンパス株式会社 標本形状測定方法及び標本形状測定装置
JP6968357B2 (ja) * 2017-03-24 2021-11-17 株式会社Screenホールディングス 画像取得方法および画像取得装置
JP6975418B2 (ja) * 2017-03-24 2021-12-01 株式会社Screenホールディングス 領域判定方法
JP2019074693A (ja) 2017-10-18 2019-05-16 オリンパス株式会社 観察装置および焦点調節方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0915506A (ja) * 1995-04-28 1997-01-17 Hitachi Ltd 画像処理方法および装置
JP2000031620A (ja) * 1998-07-16 2000-01-28 Rohm Co Ltd 回路基板への温度ヒューズの実装方法
JP2002318343A (ja) * 2001-04-23 2002-10-31 Mitsubishi Rayon Co Ltd 焦点レベル検出機構および焦点調整方法
JP2003067732A (ja) * 2001-08-23 2003-03-07 Pentax Corp フィルムスキャナ
WO2005114293A1 (ja) * 2004-05-24 2005-12-01 Hamamatsu Photonics K.K. 顕微鏡装置
WO2005114287A1 (ja) * 2004-05-24 2005-12-01 Hamamatsu Photonics K.K. 顕微鏡装置
JP2006003803A (ja) * 2004-06-21 2006-01-05 Olympus Corp 合焦情報取得装置及び合焦情報取得方法
JP2007316133A (ja) * 2006-05-23 2007-12-06 Nikon Corp 観察装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0915506A (ja) * 1995-04-28 1997-01-17 Hitachi Ltd 画像処理方法および装置
JP2000031620A (ja) * 1998-07-16 2000-01-28 Rohm Co Ltd 回路基板への温度ヒューズの実装方法
JP2002318343A (ja) * 2001-04-23 2002-10-31 Mitsubishi Rayon Co Ltd 焦点レベル検出機構および焦点調整方法
JP2003067732A (ja) * 2001-08-23 2003-03-07 Pentax Corp フィルムスキャナ
WO2005114293A1 (ja) * 2004-05-24 2005-12-01 Hamamatsu Photonics K.K. 顕微鏡装置
WO2005114287A1 (ja) * 2004-05-24 2005-12-01 Hamamatsu Photonics K.K. 顕微鏡装置
JP2006003803A (ja) * 2004-06-21 2006-01-05 Olympus Corp 合焦情報取得装置及び合焦情報取得方法
JP2007316133A (ja) * 2006-05-23 2007-12-06 Nikon Corp 観察装置

Also Published As

Publication number Publication date
JP2008020498A (ja) 2008-01-31

Similar Documents

Publication Publication Date Title
JP4664871B2 (ja) 自動焦点検出装置
US8908026B2 (en) Imaging method and microscope device
US8730315B2 (en) Microscope apparatus and microscope observation method
CN109255810B (zh) 图像处理装置及图像处理方法
JP6448996B2 (ja) 顕微鏡システム
EP3035104B1 (en) Microscope system and setting value calculation method
WO2005114287A1 (ja) 顕微鏡装置
CN110057790B (zh) 用于荧光强度归一化的方法
JP2014178474A (ja) デジタル顕微鏡装置、その合焦位置探索方法およびプログラム
JP2010101959A (ja) 顕微鏡装置
KR20100002051A (ko) 촬상 장치 및 촬상 방법
JP6563486B2 (ja) 顕微鏡観察システム、顕微鏡観察方法、及び顕微鏡観察プログラム
JP5019279B2 (ja) 共焦点顕微鏡及び合焦カラー画像の生成方法
JP2009222449A (ja) レンズ系を用いた距離計測装置
JP2018180135A (ja) 撮像装置
JP2014178781A (ja) 画像処理装置、顕微鏡システム及び画像処理方法
JP2010121955A (ja) 高さ情報取得装置、高さ情報取得方法、及びプログラム
JP2009031323A (ja) 顕微鏡の接眼鏡筒および顕微鏡システム
JP2013174709A (ja) 顕微鏡装置およびバーチャル顕微鏡装置
JP2015015704A (ja) 測距装置、撮像装置及び測距装置の制御方法
JP6077872B2 (ja) 焦点検出装置及びその制御方法
Wu et al. Auto-focus pathology microscope using sub-array sampling
JP3403445B2 (ja) 自動合焦装置とこの自動合焦装置を用いた顕微鏡
US20230168481A1 (en) Microscope system and microscope control device
JP2006030304A (ja) 顕微鏡の焦点検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090708

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101228

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110107

R151 Written notification of patent or utility model registration

Ref document number: 4664871

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140114

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees