JP4344862B2 - Method and apparatus for automatic detection of observation object - Google Patents
Method and apparatus for automatic detection of observation object Download PDFInfo
- Publication number
- JP4344862B2 JP4344862B2 JP2005200524A JP2005200524A JP4344862B2 JP 4344862 B2 JP4344862 B2 JP 4344862B2 JP 2005200524 A JP2005200524 A JP 2005200524A JP 2005200524 A JP2005200524 A JP 2005200524A JP 4344862 B2 JP4344862 B2 JP 4344862B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- aggregate
- observation target
- small particles
- observation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 35
- 238000001514 detection method Methods 0.000 title claims description 11
- 239000002245 particle Substances 0.000 claims description 25
- 210000000349 chromosome Anatomy 0.000 claims description 23
- 230000031864 metaphase Effects 0.000 claims description 20
- 210000004027 cell Anatomy 0.000 claims description 16
- 238000005520 cutting process Methods 0.000 claims description 6
- 230000008602 contraction Effects 0.000 claims description 3
- 238000009499 grossing Methods 0.000 claims 2
- 239000011521 glass Substances 0.000 description 8
- 208000031404 Chromosome Aberrations Diseases 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 5
- 230000002159 abnormal effect Effects 0.000 description 3
- 230000000877 morphologic effect Effects 0.000 description 3
- 206010067477 Cytogenetic abnormality Diseases 0.000 description 2
- 210000003855 cell nucleus Anatomy 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000003628 erosive effect Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 241000251468 Actinopterygii Species 0.000 description 1
- 206010008805 Chromosomal abnormalities Diseases 0.000 description 1
- 210000002230 centromere Anatomy 0.000 description 1
- 231100000005 chromosome aberration Toxicity 0.000 description 1
- 238000004163 cytometry Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000007447 staining method Methods 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Investigating Or Analysing Biological Materials (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
- Microscoopes, Condenser (AREA)
Description
本発明は、観察対象の自動検出方法及び装置に係り、特に、染色体分析を行なう際に分裂中期細胞(メタフェーズ)を検出するメタフェーズファインダとして用いるのに好適な、観察対象の自動検出方法及び装置に関する。 The present invention relates to an observation object automatic detection method and apparatus, and in particular, an observation object automatic detection method suitable for use as a metaphase finder for detecting metaphase cells (metaphase) when performing chromosome analysis, and Relates to the device.
生体が放射線に被曝した時に見られる染色体異常の発生頻度を観察することにより、被爆線量を推定することができる。特に、異常な染色体が出現する現象は、放射線被曝時に特異的に見られるものであり、又、光学顕微鏡を用いて通常の染色法で容易に観察することができるため、被曝線量推定のための有用な指標となっている。しかし、被曝線量が低い時には発生頻度も少なく、従って、多量の試料を観察する必要があるため、人力による観察が困難であり、自動化が期待されていた。 By observing the occurrence frequency of chromosomal abnormalities observed when a living body is exposed to radiation, the exposure dose can be estimated. In particular, the phenomenon of abnormal chromosomes appearing specifically at the time of radiation exposure, and can be easily observed with an ordinary staining method using an optical microscope. It is a useful indicator. However, when the exposure dose is low, the frequency of occurrence is low, and therefore, it is necessary to observe a large amount of specimens. Therefore, observation by human power is difficult, and automation has been expected.
顕微鏡下の試料から染色体が観察できる分裂中期細胞を自動的に選別して表示するメタフェーズファインダの機能を持つ装置は、外国企業によって市販されているが、その画像処理機能は公開されていないため不明で、少なくとも数理形態学的演算(モフォロジー演算とも称する)の構造要素を用いたものではなく、又、その処理結果は不正確なものであった。 A device with the metaphase finder function that automatically selects and displays metaphase cells that can observe chromosomes from a sample under a microscope is sold by foreign companies, but its image processing function is not disclosed. It is unknown, and at least the structural elements of mathematical morphological operations (also called morphological operations) are not used, and the processing results are inaccurate.
そこで発明者等は、非特許文献1に記載したように、メタフェーズファインダの画像処理にモフォロジー演算の構造要素を用いる装置を試作した。 Thus, as described in Non-Patent Document 1, the inventors made a prototype of an apparatus that uses a structural element of a morphological operation for metaphase finder image processing.
しかしながら、非特許文献1で構造要素を用いて画像処理をするのは、原画像を二値化した後の処理のみであり、入力画像を二値化する際の画像処理には構造要素が使われていなかったため、閾値と同程度に薄く染まった細胞核を染色体と分離することができず、誤った結果をしばしばもたらしていた。 However, in Non-Patent Document 1, image processing using structural elements is only performed after binarization of the original image, and structural elements are used for image processing when binarizing the input image. Because it was not known, cell nuclei that were stained as light as the threshold could not be separated from the chromosomes, often resulting in false results.
本発明は、前記従来の問題点を解消するべくなされたもので、多数の染色体を含む分裂中期細胞のような、観察対象の集合体の自動収集を、より高精度に行なえるようにすることを課題とする。 The present invention has been made to solve the above-mentioned conventional problems, and enables automatic collection of an aggregate to be observed, such as metaphase cells containing many chromosomes, with higher accuracy. Is an issue.
本発明は、画像から観察対象の集合体を選別して表示するための観察対象の自動検出方法において、二値化前に、観察対象と同程度の大きさの構造要素を用いて、画像全体に接続処理を施すことにより、観察対象と同程度の大きさの小粒子を除去する手順と、前記接続処理を施した結果に収縮処理を加えた画像を原画像から減算することにより、前記接続処理で消失した小粒子を抽出する手順と、これを二値化する手順と、二値化後の画像に対して、一つの集合体内に散らばる観察対象の間隙を埋めることができる程度の大きさの構造要素を用いて、前記抽出された小粒子を接続処理により結合する手順と、得られた画像に切断処理を施して、内部を埋めた集合体の輪郭形状を平滑化することにより、前記小粒子が観察対象程度の密度で集まっている集合体を抽出する手順と、該集合体を特徴量に基づいて選別する手順とを含むことにより、前記課題を解決したものである。 The present invention relates to an automatic detection method of an observation object for selecting and displaying a collection of observation objects from an image, and using a structural element having the same size as the observation object before binarization. The connection process is performed by removing small particles having the same size as the observation target, and the connection process is performed by subtracting the image obtained by performing the contraction process on the result of the connection process from the original image. A procedure for extracting small particles that have disappeared during processing, a procedure for binarizing this, and a size that can fill the gaps in the observation target scattered in one aggregate in the binarized image Using the structural element, the procedure for combining the extracted small particles by a connection process, and cutting the obtained image to smooth the outline shape of the assembly filled inside, Small particles gather at the density of the observation target A step of extracting the aggregates are, by including a step of selecting based on the feature amount The aggregate is obtained by solving the above problems.
又、前記観察対象が染色体、前記集合体が分裂中期細胞であることを特徴とする観察対象の自動検出方法を提供するものである。 Further, the present invention provides an automatic detection method for an observation object, wherein the observation object is a chromosome and the aggregate is a metaphase cell.
本発明は、又、画像から観察対象の集合体を選別して表示するための観察対象の自動検出装置において、二値化前に、観察対象と同程度の大きさの構造要素を用いて、画像全体に接続処理を施すことにより、観察対象と同程度の大きさの小粒子を除去する手段と、前記接続処理を施した結果に収縮処理を加えた画像を原画像から減算することにより、前記接続処理で消失した小粒子を抽出する手段と、これを二値化する手段と、二値化後の画像に対して、一つの集合体内に散らばる観察対象の間隙を埋めることができる程度の大きさの構造要素を用いて、前記抽出された小粒子を接続処理により結合する手段と、得られた画像に切断処理を施して、内部を埋めた集合体の輪郭形状を平滑化することにより、前記小粒子が観察対象程度の密度で集まっている集合体を抽出する手段と、該集合体を特徴量に基づいて選別する手段とを備えることにより、前記課題を解決したものである。 The present invention is also an observation target automatic detection device for selecting and displaying a collection of observation targets from an image, and before using binarization, a structural element having the same size as the observation target is used. By performing connection processing on the entire image, means for removing small particles of the same size as the observation target, and subtracting an image obtained by performing shrinkage processing on the result of the connection processing from the original image, A means for extracting small particles lost by the connection processing, a means for binarizing the particles, and a binarized image can be filled with a gap between observation objects scattered in one aggregate. By using a structural element of a size, a means for combining the extracted small particles by a connection process, and a cutting process is performed on the obtained image to smooth the outline shape of the aggregate filled in the interior , the small particles at a density of about observation target Means for extracting an aggregate that waiting, by providing a means for selecting on the basis of the feature quantity The aggregate is obtained by solving the above problems.
又、前記観察対象が染色体、前記集合体が分裂中期細胞であることを特徴とする観察対象の自動検出装置を提供するものである。 The present invention also provides an automatic detection apparatus for an observation object, wherein the observation object is a chromosome and the aggregate is a metaphase cell.
本発明によれば、観察対象の集合体の自動収集を、より高精度に行なうことが可能となる。特に、二値化する前段階の処理により、小粒子のみを残すと共に、画像内の光源の不均一や、集合体の分布の偏りや、集合体の色や濃度のムラ等の影響を取り除くことができる。又、非特許文献1に記載した方法ではできなかった、閾値と同程度に薄く染まった細胞核を染色体と分離することができるようになる。 According to the present invention, it is possible to perform automatic collection of observation target aggregates with higher accuracy. In particular, the processing prior to binarization leaves only small particles and removes the effects of non-uniformity of light sources in the image, uneven distribution of aggregates, uneven color and density of aggregates, etc. Can do. In addition, cell nuclei stained as thin as the threshold, which could not be obtained by the method described in Non-Patent Document 1, can be separated from chromosomes.
以下図面を参照して、染色体異常解析装置のメタフェーズファインダに適用した本発明の実施形態を詳細に説明する。 Hereinafter, an embodiment of the present invention applied to a metaphase finder of a chromosome abnormality analysis apparatus will be described in detail with reference to the drawings.
本発明を実施するための染色体異常解析装置は、図1に示す如く、スライドグラス16の架台(図示省略)を搭載するための、例えばステッピングモータ(図示省略)により駆動されるXYステージ12及び自動焦点装置14を持つ小型顕微鏡10と、例えば通常のビデオカメラやハイビジョンカメラでなる撮像装置20と、例えばワークステーションでなる画像処理用コンピュータ30を備えている。
As shown in FIG. 1, the chromosomal abnormality analysis apparatus for carrying out the present invention includes an
前記XYステージ12は、染色体の大きさと比べて十分な位置分解能及び位置再現性を有する。
The
前記自動焦点装置14は、特に焦点合わせ用の光を照射しないパッシブ方式のものを用いる。なお、焦点合わせ用の例えば赤外光を照射するアクティブ方式のものを用いることもできる。 As the automatic focusing device 14, a passive type that does not emit light for focusing is used. For example, an active type that irradiates infrared light for focusing can also be used.
前記画像処理用コンピュータ30には、次の処理を行なうソフトウェアが内蔵されている。 The image processing computer 30 includes software for performing the following processing.
(1)本発明により、スライドグラス16上の分裂中期細胞を検出し、その位置を記録する。
(1) According to the present invention, metaphase cells on the
(2)分裂中期細胞の拡大図を撮像し、以後の画像処理に適したものを選別する。 (2) Taking an enlarged view of metaphase cells and selecting those suitable for subsequent image processing.
(3)細胞中の個々の染色体を切り離し、染色体上の動原体の位置を検出する。 (3) Separate individual chromosomes in the cell and detect the location of the centromere on the chromosome.
(4)異常染色体の候補を画面に表示し、必要により人間の手で修正する。 (4) Display abnormal chromosome candidates on the screen and, if necessary, correct them with human hands.
(5)結果を集計し、異常染色体の発生率を求める。 (5) Aggregate the results and determine the incidence of abnormal chromosomes.
以下、図2を参照して、本発明に係るメタフェーズファインダの処理を説明する。 Hereinafter, the metaphase finder processing according to the present invention will be described with reference to FIG.
まずステップ100で、図3に示す如く、撮像装置20の視野22だけXYステージ12を動かしてスライドガラス16を移動し、自動焦点装置14で焦点を合わせた後、撮像することにより、図4に示すような撮影画像(原画像とも称する)を得る。
First, in step 100, as shown in FIG. 3, the
次にステップ110で、原画像中の観察対象である染色体程度の大きさの小粒子を抽出する。具体的には、まず画像全体に接続(Closing)処理を施すことにより、図5に示す如く、染色体と同程度の大きさの小粒子を除去する。この時の構造要素には、染色体の画像と同程度の大きさのものを用いる。
Next, in
次いで、図5に示した接続処理結果に、やや収縮(Erosion)処理を加えて、図6に示すような画像を得て、これを原画像から減算することにより、図7に示す如く、図5の処理で消失した小粒子を抽出する。このときの構造要素は、抽出されるべき小粒子以外の物体の周辺部が、減算するときに残らないような大きさにする。 Next, a slight erosion process is added to the connection processing result shown in FIG. 5 to obtain an image as shown in FIG. 6 and subtracted from the original image, as shown in FIG. Extract the small particles that disappeared in step 5. The structural elements at this time are sized so that the peripheral portions of the object other than the small particles to be extracted do not remain when subtracting.
次いでステップ120に進み、適切な閾値で二値化して、図8に示すような二値化画像を得る。 Next, the routine proceeds to step 120 where binarization is performed with an appropriate threshold value to obtain a binarized image as shown in FIG.
次いでステップ130で、小粒子が細胞内の染色体程度の密度で集まっている部分を抽出する。具体的には、抽出された小粒子を、接続処理により結合して、図9に示すような集合体の輪郭画像を得る。このときの構造要素には、一つの分裂中期細胞の内部に散らばる染色体の間隔を埋めることができる程度の大きさのものを用いる。構造要素が小さすぎると、間隙を埋めることができず、逆に構造要素が大きすぎると、隣接した別個の分裂中期細胞を結合してしまうことが多くなるので、適切な大きさの構造要素を用いる必要がある。
Next, at
次に、得られた輪郭画像に切断(Opening)処理を行ない、内部を埋めた分裂中期細胞の輪郭形状を平滑化して、図10に示すような集合体の画像を得る。 Next, a cutting process (Opening) is performed on the obtained contour image to smooth the contour shape of the metaphase cells filled in the interior, thereby obtaining an image of an aggregate as shown in FIG.
次いでステップ140に進み、抽出された集合体を、形状(面積・縦横比・円形度等)についての特徴量に基づいて選別する。 Next, the routine proceeds to step 140, where the extracted aggregates are selected based on the feature values for the shape (area, aspect ratio, circularity, etc.).
その結果得られた測定値から、染色体を含む像であるかを判定し、スライドグラス16上の位置を求めて記録する。
From the measurement value obtained as a result, it is determined whether the image includes a chromosome, and the position on the
次いで、ステップ150で終了点か否かを判定し、終了点でない場合には、ステップ160に進み、図3に示した如く、スライドグラス16を移動して、次の画像を撮像する。
Next, it is determined in
以上のことを繰り返して、スライドグラス16上の試料が載っている部分を走査する。
By repeating the above, the portion on the
走査した結果の記録を再生し、検出した細胞を顕微鏡の視野の中央に持ってくることにより、染色体の検出等、以降の処理を容易に行なうことができる。 By reproducing the scan result record and bringing the detected cells to the center of the field of view of the microscope, subsequent processing such as chromosome detection can be easily performed.
なお、前記実施形態においては、本発明が、染色体が観察できる分裂中期細胞を検出するメタフェーズファインダに適用されていたが、本発明の適用対象は、これに限定されず、例えば望遠鏡により得た画像から銀河群や球状星団を選別する際や、超音波画像から魚群を探知する際や、航空写真から人や船の集団を見つける際にも同様に適用できる。又、観察対象のサイズが違う時には、サイズ毎に本発明に係る処理を行なうことにより、サイズ毎の分布を知ることも可能である。 In the above embodiment, the present invention has been applied to a metaphase finder for detecting metaphase cells in which chromosomes can be observed. However, the application target of the present invention is not limited to this, and for example, obtained by a telescope The same applies to selecting galaxy groups and globular clusters from images, detecting fish schools from ultrasound images, and finding groups of people and ships from aerial photographs. In addition, when the size of the object to be observed is different, it is possible to know the distribution for each size by performing the processing according to the present invention for each size.
10…光学顕微鏡
12…XYステージ
14…自動焦点装置
16…スライドグラス
20…撮像装置
30…画像処理用コンピュータ
DESCRIPTION OF SYMBOLS 10 ...
Claims (4)
二値化前に、観察対象と同程度の大きさの構造要素を用いて、画像全体に接続処理を施すことにより、観察対象と同程度の大きさの小粒子を除去する手順と、
前記接続処理を施した結果に収縮処理を加えた画像を原画像から減算することにより、前記接続処理で消失した小粒子を抽出する手順と、
これを二値化する手順と、
二値化後の画像に対して、一つの集合体内に散らばる観察対象の間隙を埋めることができる程度の大きさの構造要素を用いて、前記抽出された小粒子を接続処理により結合する手順と、
得られた画像に切断処理を施して、内部を埋めた集合体の輪郭形状を平滑化することにより、前記小粒子が観察対象程度の密度で集まっている集合体を抽出する手順と、
該集合体を特徴量に基づいて選別する手順と、
を含むことを特徴とする観察対象の自動検出方法。 In the automatic detection method of the observation target for selecting and displaying the aggregate of the observation target from the image,
Before binarization, a procedure for removing small particles of the same size as the observation target by applying a connection process to the entire image using a structural element of the same size as the observation target;
A procedure for extracting small particles lost in the connection process by subtracting from the original image an image obtained by applying a contraction process to the result of the connection process ;
A procedure to binarize this,
A procedure for combining the extracted small particles by a connection process using a structural element having a size that can fill a gap of an observation target scattered in one aggregate in an image after binarization. ,
A procedure for extracting the aggregate in which the small particles are gathered at a density of about the observation target by performing a cutting process on the obtained image and smoothing the outline shape of the aggregate filling the inside ,
A procedure for selecting the aggregate based on the feature amount;
A method for automatically detecting an observation target, comprising:
二値化前に、観察対象と同程度の大きさの構造要素を用いて、画像全体に接続処理を施すことにより、観察対象と同程度の大きさの小粒子を除去する手段と、
前記接続処理を施した結果に収縮処理を加えた画像を原画像から減算することにより、前記接続処理で消失した小粒子を抽出する手段と、
これを二値化する手段と、
二値化後の画像に対して、一つの集合体内に散らばる観察対象の間隙を埋めることができる程度の大きさの構造要素を用いて、前記抽出された小粒子を接続処理により結合する手段と、
得られた画像に切断処理を施して、内部を埋めた集合体の輪郭形状を平滑化することにより、前記小粒子が観察対象程度の密度で集まっている集合体を抽出する手段と、
該集合体を特徴量に基づいて選別する手段と、
を備えたことを特徴とする観察対象の自動検出装置。 In the automatic detection device for the observation target for selecting and displaying the aggregate of the observation target from the image,
A means for removing small particles having the same size as the observation object by performing a connection process on the entire image using a structural element having the same size as the observation object before binarization;
Means for extracting small particles lost in the connection process by subtracting an image obtained by applying a contraction process to the result of the connection process from the original image ;
Means for binarizing this,
Means for combining the extracted small particles by a connection process using a structural element having a size capable of filling the gaps of the observation object scattered in one aggregate with respect to the binarized image; ,
A means for extracting the aggregate in which the small particles are gathered at a density of the observation target by performing a cutting process on the obtained image and smoothing the outline shape of the aggregate filled in the interior ,
Means for selecting the aggregate based on the feature amount;
A device for automatically detecting an observation target.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005200524A JP4344862B2 (en) | 2005-07-08 | 2005-07-08 | Method and apparatus for automatic detection of observation object |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005200524A JP4344862B2 (en) | 2005-07-08 | 2005-07-08 | Method and apparatus for automatic detection of observation object |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007017345A JP2007017345A (en) | 2007-01-25 |
JP4344862B2 true JP4344862B2 (en) | 2009-10-14 |
Family
ID=37754628
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005200524A Expired - Fee Related JP4344862B2 (en) | 2005-07-08 | 2005-07-08 | Method and apparatus for automatic detection of observation object |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4344862B2 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5580267B2 (en) | 2011-09-08 | 2014-08-27 | 大日本スクリーン製造株式会社 | Detection method |
JP5982532B1 (en) * | 2015-05-18 | 2016-08-31 | シャープ株式会社 | Microparticle detection apparatus and microparticle detection method |
-
2005
- 2005-07-08 JP JP2005200524A patent/JP4344862B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2007017345A (en) | 2007-01-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6810505B2 (en) | Teacher data creation method and equipment and defect inspection method and equipment | |
US6900426B2 (en) | Reverse focusing methods and systems | |
JP4558047B2 (en) | Microscope system, image generation method, and program | |
US6658143B2 (en) | Ray-based image analysis for biological specimens | |
JP5254441B2 (en) | Flow type particle image analysis method and apparatus | |
WO2017150194A1 (en) | Image processing device, image processing method, and program | |
KR20140045331A (en) | Fast auto-focus in microscopic imaging | |
CN111399208B (en) | Focusing shooting implementation method of biological fluorescence sample, microscope and storage medium | |
JP7026694B2 (en) | Image analyzers, methods and programs | |
JP2016514868A (en) | Image quality evaluation of microscopic images | |
US8064679B2 (en) | Targeted edge detection method and apparatus for cytological image processing applications | |
JP6284024B2 (en) | Cell viability determination system, cell viability determination method | |
WO2019171909A1 (en) | Image processing method, image processing device, and program | |
WO2020010634A1 (en) | Cell image processing system and method, automatic smear reading device, and storage medium | |
JP4344862B2 (en) | Method and apparatus for automatic detection of observation object | |
CN113945175A (en) | Rock three-dimensional data acquisition method and device | |
JP2008139143A (en) | Method and apparatus for forming specimen image | |
EP1947441B1 (en) | Apparatus for determining positions of objects contained in a sample | |
JPH10185911A (en) | Device for analyzing cell and method therefor | |
JP2009041953A (en) | Quantitative analyzer, quantitative analyzing method and quantitative analyzing program | |
CN114638931A (en) | Three-dimensional reconstruction method and device for boiling bubbles under bicolor double-light-path observation platform | |
Vojnovic et al. | A High Sensitivity, High Throughput, Automated Single-Cell Gel Electrophoresis (‘Comet’) DNA Damage Assay | |
Netten et al. | Automation of fluorescent dot counting in cell nuclei | |
CN111951261A (en) | Control method, computer device and control system for in-vitro biological sample examination process | |
JP2006226916A (en) | Quantitative analyzer, analytical method, and analytical program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070507 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090413 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090421 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090520 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090616 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090624 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4344862 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120724 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140724 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |