JP5292846B2 - 観察装置と、観察方法 - Google Patents

観察装置と、観察方法 Download PDF

Info

Publication number
JP5292846B2
JP5292846B2 JP2008039066A JP2008039066A JP5292846B2 JP 5292846 B2 JP5292846 B2 JP 5292846B2 JP 2008039066 A JP2008039066 A JP 2008039066A JP 2008039066 A JP2008039066 A JP 2008039066A JP 5292846 B2 JP5292846 B2 JP 5292846B2
Authority
JP
Japan
Prior art keywords
image
low
magnification
imaging optical
reference value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008039066A
Other languages
English (en)
Other versions
JP2009198709A5 (ja
JP2009198709A (ja
Inventor
宏之 塚本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2008039066A priority Critical patent/JP5292846B2/ja
Publication of JP2009198709A publication Critical patent/JP2009198709A/ja
Publication of JP2009198709A5 publication Critical patent/JP2009198709A5/ja
Application granted granted Critical
Publication of JP5292846B2 publication Critical patent/JP5292846B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Microscoopes, Condenser (AREA)
  • Studio Devices (AREA)

Description

本発明は、細胞などの透明な位相物体を広い視野で観察する観察装置と観察方法に関する。
従来、細胞の培養に際して、培養状況や培養容器中の細胞の分布や量を確認するための観察が行われている。その際、細胞は多くの場合吸収のほとんどない位相物体のため、通常の観察では細胞の有無を観察するのは困難であり、光学顕微鏡による観察に際して暗視野観察または位相差観察により細胞透過による位相変化を明暗変化に変換して観察が行われる(例えば、非特許文献1、2参照)。
小松啓,「光学顕微鏡の基礎と応用(3)」,応用物理,第60巻,第19号,1991年, p1032−p1034 小松啓,「光学顕微鏡の基礎と応用(4)」,応用物理,第60巻,第11号,1991年, p1136−p1138
従来の観察装置では、被観察物全体の細胞の分布や量(細胞占有率と言う)を検出するためには、視野を多数回移動させる必要があり、観察時間が掛かってしまうという問題がある。
本発明は、上記課題に鑑みて行われたものであり、細胞占有率等の画像特徴量を短時間に検出することを可能にする観察装置と観察方法を提供することを目的とする。
上記課題を解決するため、本発明を例示する第1の態様は、
観察物の分解能の異なる少なくとも2つの画像を同時に取得する少なくとも2つの撮像手段と、
前記撮像手段のうちの1つによって相対的に高い分解能で得られた画像の所定領域における画像特徴量に、前記撮像手段のうちの別の1つによって相対的に低い分解能で得られた画像の前記所定領域における画像特徴量が略等しくなるように、前記分解能の低い画像の画像処理のための基準値を算出する制御手段と、
前記基準値に基づき前記分解能の低い画像全体に亘り画像処理する画像処理手段と、
を有することを特徴とする観察装置を提供する。
また、本発明を例示する第2の様態は、
率の異なる少なくとも2つの撮像光学系により、同じ領域を含んで被観察物の高倍率画像と低倍率画像とを同時に撮像し、前記同じ領域の前記高倍率画像と前記低倍率画像との画像特徴量が略等しくなるように前記低倍率画像の基準値を算出し、算出された前記基準値に基づき前記低倍率画像全体を処理し前記低倍率画像の処理結果を表示手段に表示する観察方法を提供する。
本発明によれば、被観察物の同じ領域の高倍率の画像と低倍率の画像とを同時に取得し、高倍率画像から算出される画像特徴量とほぼ等しい画像特徴量となる低倍率画像の基準値を算出し、この基準値を用いて低倍率画像全体を処理することで短時間に画像特徴量をより正確に検出することを可能にする観察装置と観察方法を提供することができる。
以下、本発明の実施の形態にかかる観察装置について図面を参照しつつ説明する。なお、以下の実施の形態は、発明の理解の容易化のためのものに過ぎず、本発明の技術的思想を逸脱しない範囲において当業者により実施可能な付加・置換等を施すことを排除することは意図していない。
(第1実施の形態)
図1は、第1実施の形態にかかる観察装置の概略構成図である。図2は、第1実施の形態にかかる観察装置の光学系部分の作用を説明する概念図である。図3は、第1実施の形態にかかる観察装置の低倍撮像光学系で得られる画像の例であり、(a)は周期光源をずらす前の画像、(b)は周期光源を半周期ずらして得られる画像をそれぞれ示す。図4は、第1実施の形態にかかる観察装置で得られる画像の空間分解能の差異を示す図で、(a)は、高倍撮像光学系で得られる画像を、(b)は低倍撮像光学系で得られる画像を、(c)は参考として位相差顕微鏡で得られる画像をそれぞれ示す。
図1、図2において、観察装置1は、バックライト付きの透過型液晶パネル14と、被観察物(位相物体、例えば細胞など)10を載置するステージ(標本台)13と、被観察物10の全体像を撮像する撮像素子11を有する低倍率撮像光学系12と、被観察物10の拡大像を撮像する撮像素子21を有する高倍率撮像光学系22と、透過型液晶パネル14の明るさや位置を制御するコントローラ15と、撮像素子11及び撮像素子21からの画像の画像処理やコントローラ15の制御等を行うコンピュータ16(以後、PCと記す)と、PC16で画像処理された被観察物10の画像やコントローラ15の制御情報等を表示するモニター17などから構成されている。
ステージ13に載置されている被観察物10は、例えば、無染色の細胞が収められた透明な培養容器25(例えば、径90mmのシャーレなど)である。また、ステージ13は、透過型液晶パネル14で照明された被観察物10の略全域を観察可能にするために、被観察物10を載置する領域が照明光を遮らないように、例えば、ガラス等の透明部材で構成されている。なお、培養容器が細胞領域に比べ大きい場合には、観察する領域を中空とし培養容器の周辺を支持するように構成しても良い。
低倍率撮像光学系12の視野は十分に大きく、被観察物10の略全域から射出した光は、低倍率撮像光学系12によって捉えられ、撮像素子11の撮像面上に結像する。一方、高倍率撮像光学系21は、被観察物10の一部を拡大して撮像素子21で撮像するものである。低倍率撮像光学系12と高倍率撮像光学系22とは、その光軸がほぼ平行に配置され、同時に被観察物10の画像を取得する。
撮像素子11、及び撮像素子21は、それぞれPC16からの指示に応じて撮像面上の画像を取得する。その画像は、PC16へ取り込まれ、PC16に設けられた画像処理部18で画像処理が施されモニタ17上へ表示される。また、PC16は取得した画像から輝度値ヒストグラム、細胞占有率等を算出する。
なお、PC16は、撮像素子11、及び撮像素子21で撮像された被観察物10の画像処理前の画像や画像処理後の画像を不図示のメモリに必要に応じて保存することができる。また、画像処理前後の画像を必要に応じてモニター17へ表示することや、算出されたヒストグラム、細胞占有率等を表示することができる。このように、画像処理部18で処理された画像の処理結果(画像処理後の画像、輝度値ヒストグラム、細胞占有率等)をモニター17へ表示することができる。
また、コントローラ15は、PC16からの指示に応じて、透過型液晶パネル14で明部14bと暗部14dとの周期パターン(周期P)を表示する。透過型液晶パネル14は各種の明部14bと暗部14dの周期パターンを形成可能であるが、ここでは、明部14bと暗部14dとが互いに平行に形成されたストライプパターンを用いた場合を代表として説明する。このとき、透過型液晶パネル14によって、ストライプ状の面光源14が形成される。また、コントローラ15は、PC16からの指示に基づき透過型液晶パネル14を光学系の光軸に対して垂直な面内でシフトすることが可能である。
また、透過型液晶パネル14で形成される面光源14の明部14bと暗部14dのピッチPは、観察対象である例えば細胞などの位相物体のサイズ(10〜15μm)と比較して十分に大きい。
また、面光源14の明部14bの数十ピッチが撮像光学系12の視野内に存在し、面光源14の明部14bの幅と暗部14dの比がほぼ1対1(デューティー比)である。また、低倍撮像光学系12と高倍撮像光学系22は物体面に合焦しており、撮像素子11及び撮像素子21上では面光源14の像はボケている。なお、面光源14には、明部14b、暗部14dの二値のパターンあるいはグレースケールパターンの何れも採用できる。
第1実施の形態にかかる観察装置1により被観察物10を低倍撮像光学系12で撮影を行うと、図3(a)、(b)に示すように、位相物体がある場所において、バックグラウンドのストライプパターンからの検出強度変化が生じる。一定以上の強度変化が生じた部分に位相物体があるとみなし、検出を行うことにより、位相物体の分布を測定することができる。その際に、バックグラウンドパターンの遷移部においては強度変化が弱い、あるいは生じないので、使用することができるのはパターンの明部14bおよび暗部14dのみである。したがって、全体の分布を求めるには、ストライプの位置を移動させて複数回撮影をする必要がある。このように、観察装置1では、面光源14をずらして位相物体10全体の画像を取得する。なお、光源のむらが像に現れる場合にはパターンの暗部14dのみを使用することが好ましい。
次に、画像処理手段8を含むPC16における検査手順について説明する。
低倍率画像と高倍率画像での細胞画像の例を図4に示す。これは、NIH3T3細胞をストライプパターン照明で撮影し、複数の縞位置での図3に示す画像から暗部14dでの像のみを取り出して合成したものである。図4(a)、(b)は物体側のNAを同程度にして撮影したものであり、高倍率画像(a)は14μm/pix、低倍率画像(b)は54μm/pixの分解能となっている。図4(c)は参照用の位相差顕微鏡画像である。
ここで(a)、(b)の各画像はほぼ同じ領域に対応していて、(a)と(b)では元の画像におけるストライプパターンのコントラストがほぼ同等になるように露光量を調整している。(a)と(b)を比べると、(a)のほうが高空間分解能で、コントラストが明確になっているのが分かる。
通常、物体の種類により輝度値に一定の基準値を用意して、それ以上の強度変化が生じた部分に位相物体があるとみなすが、位相物体による強度変化量は、位相物体(例えば、細胞等)の種類や密集度、容器の曇り、容器中の容液の状態など撮影ごとに変化し得る様々な状況にも依存する。このため、位相物体によるコントラストの低い低倍率画像の方が検出誤差が生じやすくなる傾向がある。よって高倍率画像で輝度値の基準値を決め、基準値以上にバックグラウンドから検出量が変化している領域の比率、すなわち占有率(細胞占有率)を算出し、同じ領域内での占有率が同程度になるように低倍率画像での輝度値の基準値を調整し、調整後の基準値で低倍率画像全体を処理することにより、検出誤差を減らせることがわかる。
具体的には、図5に示すステップに従って検出処理を実行する。図5は検出処理ステップを示すフローである。
細胞や容器の種類などの条件に応じて高倍率画像における輝度値の基準値をあらかじめ経験的に設定しておく。試料を撮影する際には、高倍撮像光学系22と低倍撮像光学系12の双方で撮影をするが、その際に両者が同じ領域Xを含むようにする(ステップS1)。
次に、細胞占有率の判定の際には、はじめに高倍撮像光学系22で撮像された画像に上述の基準値を適用する。画像中で、基準値以上の明るさを持つ領域を細胞がある部分とみなし、領域X中での細胞占有率を制御装置であるPC16で算出する(ステップS2)。
続いて、低倍撮像光学系12で撮像された領域Xの画像において輝度値ヒストグラムをPC16で算出し、領域X内での細胞占有率が高倍率画像での算出値とほぼ等しい値になるように低倍率画像での輝度値の基準値を設定する(ステップS3)。
最後に、低倍率画像全体に亘って低倍率画像での基準値を適用することにより、低倍率画像全体の細胞占有率を求める(ステップS4)。
なお、光源や撮影光学系による視野内での感度ムラについては、これらの操作の前に補正しておくことが好ましい。
図4(a)、(b)に示す画像において、バックグラウンドノイズσは同程度である。また図4(c)の位相差顕微鏡画像からの解析では領域中の細胞占有率は8%程度であるが、検出率がこれとほぼ一致するような「正しい」基準値による高倍率画像を図6(a)、低倍率画像を図6(b)に示す。図6(a)に示す領域での検出率は高倍画像で8.4%、図6(b)の低倍画像で8.2%である。ここでは、細胞があると判定された部分を白で表示している。このように「正しい」基準値では低倍画像も高倍画像もほぼ同じ検出率を示している。
これに対し、基準値が「正しい」基準値から2σ程度大きくなった「誤った」基準値による高倍率画像を図6(c)、低倍率画像を図6(d)に示す。図6(c)、(d)の領域内での検出率は高倍画像12.5%に対して低倍画像では28.7%である。このように、高倍率画像では、検出率が「正しい」基準値に対して1.5倍程度大きくなり、低倍画画像では、検出率が「正しい」基準値に対して3.5倍程度大きくなっている。
一方、画像でのバックグラウンドノイズは両者共に同程度、散乱光によるコントラストに相当する検出画像の標準偏差は低倍画像が高倍像の1/2.6程度となっている。よって、低倍画像のみによって基準値を設定しようとしても、基準値の誤差を高倍率画像によるものと同程度にするのは困難である。
ここから、撮影時の環境により基準値が正当な値からずれた場合の信頼性は高倍率画像の方がはるかに高く、基準値を設定するには、高倍画像を使用した方が有利であることがわかる。以上より、高倍画像にて基準値を設定して細胞占有率を算出し、この算出値にほぼ等しくなるように低倍率画像用の基準値を調整することにより細胞占有率の検出精度を上げること可能である。
(第2実施の形態)
次に、本発明の第2実施の形態にかかる観察装置について図7を参照しつつ説明する。
図7は、第2実施の形態にかかる観察装置101の光学部分の作用を説明する概念図である。第1実施の形態と同様の構成には同じ符号を付し説明省略する。
図7において、観察装置101は、低倍撮像光学系12の観察視野中心と、高倍撮像光学系22の観察視野中心がほぼ一致するように構成されている。即ち、両方の光学系の視野中心がほぼ一致するように、被観察物面に対して所定の角度傾斜して配設されている。
このように配置することで、撮像素子11、21或いは撮像光学系11、21の機械的な干渉を避けることが容易となる。
なお、撮像光学系12、22の光軸を傾斜させる場合、光源と位相物体の距離に応じてストライプパターンの相対位置は変化することになる。よって、単一のストライプパターンのみで撮影をする場合は、視野領域が暗部14dとなるようにするために、光軸とストライプパターンの長軸方向が一つの平面内に入るような方向に結像光学系12、22の光軸を傾斜させることが好ましい。また、通常は領域全体についての情報を得るために、周期光源14の位置を移動させつつ撮影を行うことになるので、この相対位置の変化は問題とならない。
また、その他の構成、作用、効果は第1実施の形態と同様であり、詳細な説明は省略する。
以上述べたように、上記実施の形態にかかる観察装置1、101では、被観察物10の同じ領域Xの高倍率画像と低倍率画像とを同時に取得し、高倍率画像から算出される細胞占有率とほぼ等しい細胞占有率となる低倍率画像の基準値を算出し、ここの基準値を用いて低倍画像全体を処理することで短時間に細胞占有率をより正確に検出することを可能にする観察装置と、観察方法を提供することができる。
また、大面積に渡る観察物10の細胞占有率を、簡便な装置を用いて測定画像から正確かつ高速に判断することが可能となる。
なお、上記実施の形態では、基準値は輝度値を用いているがこれに限定されないことは言うまでも無い。また、細胞以外の位相物体の占有率の検出に使用できることも言うまでも無い。
第1実施の形態にかかる観察装置の概略構成図である。 第1実施の形態にかかる観察装置の光学系部分の作用を説明する概念図である。 第1実施の形態にかかる観察装置の低倍撮像光学系で得られる画像の例であり、(a)は周期光源をずらす前の画像、(b)は周期光源を半周期ずらして得られる画像をそれぞれ示す。 第1実施の形態にかかる観察装置で得られる画像の空間分解能の差異を示す図で、(a)は、高倍撮像光学系で得られる画像を、(b)は低倍撮像光学系で得られる画像を、(c)は参考として位相差顕微鏡で得られる画像をそれぞれ示す。 検出処理ステップを示すフローである。 検出率の相違を示す図で、(a)は、「正しい」基準値による高倍率画像を、(b)は「正しい」基準値による低倍率画像を、(c)「誤った」基準値による高倍率画像を、(d)は「誤った」基準値による低倍率画像を示す。 第2実施の形態にかかる観察装置101の光学部分の作用を説明する概念図である。
符号の説明
1、101 観察装置
10 被観察物(位相物体)
11、21 撮像素子
12 低倍撮像光学系
13 ステージ
14 透過型液晶パネル
15 コントローラ
16 コンピュータ(PC)
17 モニタ
18 画像処理部
22 高倍撮像光学系

Claims (8)

  1. 観察物の分解能の異なる少なくとも2つの画像を同時に取得する少なくとも2つの撮像手段と、
    前記撮像手段のうちの1つによって相対的に高い分解能で得られた画像の所定領域における画像特徴量に、前記撮像手段のうちの別の1つによって相対的に低い分解能で得られた画像の前記所定領域における画像特徴量が略等しくなるように、前記分解能の低い画像の画像処理のための基準値を算出する制御手段と、
    前記基準値に基づき前記分解能の低い画像全体に亘り画像処理する画像処理手段と、
    を有することを特徴とする観察装置。
  2. 前記撮像手段は、前記被観察物の像を撮像する倍率の異なる少なくとも2つの撮像光学系を含み、
    前記制御手段は、前記分解能の高い前記撮像光学系の高倍率画像で求められる所定領域における画像特徴量が、前記分解能の低い前記撮像光学系の低倍率画像で求められる前記所定領域における画像特徴量と略等しくなるように、前記低倍率画像の画像処理のための基準値を算出することを特徴とする請求項1に記載の観察装置。
  3. 前記高倍率画像を撮像する前記撮像光学系の視野は、前記低倍率画像を撮像する前記撮像光学系の視野に含まれることを特徴とする請求項2に記載の観察装置。
  4. 前記高い分解能の撮像光学系の視野中心と前記低い分解能の撮像光学系の視野中心とが一致することを特徴とする請求項1から3のいずれか1項に記載の観察装置。
  5. 前記画像特徴量は、前記被観察物である細胞の前記撮像された画像に占める細胞占有率、あるいは前記撮像された画像の輝度ヒストグラムからなることを特徴とする請求項1から4のいずれか1項に記載の観察装置。
  6. 前記基準値は、前記被観察物である細胞の前記撮像された画像に占める細胞占有率が所定値となるときの前記画像の輝度値からなることを特徴とする請求項1から5のいずれか1項に記載の観察装置。
  7. 前記被観察物を照明し、明部と暗部とが周期的に配置された面光源と、
    前記画像処理手段で処理された前記分解能の低い画像の処理結果を表示する表示手段と、
    を備えたことを特徴とする請求項1から6のいずれか1項に記載の観察装置。
  8. 率の異なる少なくとも2つの撮像光学系により、同じ領域を含んで被観察物の高倍率画像と低倍率画像とを同時に撮像し、前記同じ領域の前記高倍率画像と前記低倍率画像との画像特徴量が略等しくなるように前記低倍率画像の基準値を算出し、算出された前記基準値に基づき前記低倍率画像全体を処理し前記低倍率画像の処理結果を表示手段に表示する観察方法。
JP2008039066A 2008-02-20 2008-02-20 観察装置と、観察方法 Active JP5292846B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008039066A JP5292846B2 (ja) 2008-02-20 2008-02-20 観察装置と、観察方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008039066A JP5292846B2 (ja) 2008-02-20 2008-02-20 観察装置と、観察方法

Publications (3)

Publication Number Publication Date
JP2009198709A JP2009198709A (ja) 2009-09-03
JP2009198709A5 JP2009198709A5 (ja) 2011-09-08
JP5292846B2 true JP5292846B2 (ja) 2013-09-18

Family

ID=41142275

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008039066A Active JP5292846B2 (ja) 2008-02-20 2008-02-20 観察装置と、観察方法

Country Status (1)

Country Link
JP (1) JP5292846B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102712890B (zh) * 2010-01-20 2016-03-30 株式会社尼康 细胞观察装置和细胞培养方法
CN103210338A (zh) 2010-08-30 2013-07-17 三洋电机株式会社 观察装置、观察程序及观察系统
JP5274731B1 (ja) 2011-12-22 2013-08-28 三洋電機株式会社 観察システム、プログラム及び観察システムの制御方法
JP5867194B2 (ja) * 2012-03-13 2016-02-24 株式会社島津製作所 顕微鏡
JP6742724B2 (ja) * 2015-12-28 2020-08-19 シスメックス株式会社 細胞領域決定方法、細胞撮像システム、細胞画像の処理装置及びコンピュータプログラム
JP7030953B2 (ja) * 2018-02-20 2022-03-07 富士フイルム株式会社 判定装置、細胞剥離回収装置及び判定方法
JPWO2019172395A1 (ja) * 2018-03-09 2020-06-18 大日本印刷株式会社 細胞観察装置、細胞培養装置、細胞培養容器、細胞観察方法、および細胞シートの製造方法
JP7109130B2 (ja) * 2018-04-04 2022-07-29 株式会社エビデント 顕微鏡

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1195125A (ja) * 1997-09-22 1999-04-09 Olympus Optical Co Ltd 顕微鏡デジタル画像撮影システム及びその撮影方法
JP4462959B2 (ja) * 2004-02-25 2010-05-12 富士通株式会社 顕微鏡画像撮影システム及び方法
JP5059637B2 (ja) * 2008-01-18 2012-10-24 オリンパス株式会社 顕微鏡用撮像装置

Also Published As

Publication number Publication date
JP2009198709A (ja) 2009-09-03

Similar Documents

Publication Publication Date Title
JP5292846B2 (ja) 観察装置と、観察方法
JP6594294B2 (ja) 顕微鏡画像の画像品質評価
US10073258B2 (en) Microscope system
US20080175466A1 (en) Inspection apparatus and inspection method
JP5223069B2 (ja) 標本の分析方法およびそれを利用した針状領域の分析装置
JP2015102442A (ja) 検査装置、及び検査方法
TW201132962A (en) Inspection device and method
CN105278090B (zh) 用于粘附于微量滴定板的流体填充井的底部上的样品的显微镜成像的方法
JP2008014768A (ja) 欠陥検査装置及び欠陥検査方法
JP2007327836A (ja) 外観検査装置及び方法
KR101146081B1 (ko) 마이크로-검사 입력을 이용한 매크로 결함 검출 방법 및시스템
JP2010164487A (ja) 欠陥検査装置及び欠陥検査方法
JP4597946B2 (ja) 端部傾斜角測定方法、起伏を有する被検査物の検査方法および検査装置
JP2012220558A (ja) 顕微鏡装置
JP2009097959A (ja) 欠陥検出装置及び欠陥検出方法
JP2017138246A (ja) 検査装置、検査方法、及びイメージセンサ
JP2009079915A (ja) 微小寸法測定方法および測定装置
JP2009265026A (ja) 検査装置
JP4021084B2 (ja) 電子顕微鏡及び検査方法
JP2002350361A (ja) 周期性パターンのムラ検査方法及び装置
TW201514479A (zh) 缺陷觀察裝置及其方法
JP4496149B2 (ja) 寸法測定装置
JP2006003168A (ja) 表面形状の測定方法およびその装置
JP2006074065A (ja) 試料の検査装置
JP4952354B2 (ja) 観察装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110308

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110722

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130527

R150 Certificate of patent or registration of utility model

Ref document number: 5292846

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250