JP4979516B2 - Image reading method and apparatus - Google Patents
Image reading method and apparatus Download PDFInfo
- Publication number
- JP4979516B2 JP4979516B2 JP2007225571A JP2007225571A JP4979516B2 JP 4979516 B2 JP4979516 B2 JP 4979516B2 JP 2007225571 A JP2007225571 A JP 2007225571A JP 2007225571 A JP2007225571 A JP 2007225571A JP 4979516 B2 JP4979516 B2 JP 4979516B2
- Authority
- JP
- Japan
- Prior art keywords
- image data
- image
- fluorescent
- hole
- fluorescence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 20
- 239000000523 sample Substances 0.000 claims description 39
- 230000005540 biological transmission Effects 0.000 claims description 30
- 238000002073 fluorescence micrograph Methods 0.000 claims description 26
- 230000005284 excitation Effects 0.000 claims description 23
- 239000000463 material Substances 0.000 claims description 21
- 238000003384 imaging method Methods 0.000 claims description 9
- 230000001678 irradiating effect Effects 0.000 claims description 8
- 230000007717 exclusion Effects 0.000 claims description 7
- 238000001514 detection method Methods 0.000 description 40
- 239000000126 substance Substances 0.000 description 35
- 108090000623 proteins and genes Proteins 0.000 description 16
- 238000000018 DNA microarray Methods 0.000 description 8
- 230000001174 ascending effect Effects 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 6
- 102000004169 proteins and genes Human genes 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 229920000297 Rayon Polymers 0.000 description 2
- 230000008827 biological function Effects 0.000 description 2
- 239000006185 dispersion Substances 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 238000009396 hybridization Methods 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 102000004196 processed proteins & peptides Human genes 0.000 description 2
- 108090000765 processed proteins & peptides Proteins 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000010521 absorption reaction Methods 0.000 description 1
- 239000012491 analyte Substances 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 229910052736 halogen Inorganic materials 0.000 description 1
- 150000002367 halogens Chemical class 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- QSHDDOUJBYECFT-UHFFFAOYSA-N mercury Chemical compound [Hg] QSHDDOUJBYECFT-UHFFFAOYSA-N 0.000 description 1
- 229910052753 mercury Inorganic materials 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
Images
Landscapes
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
Description
本発明は、画像読み取り方法および装置に関し、詳細には、異なる種類のプローブを収容した貫通孔が所定パターンで配列され、蛍光物質が付与された検体が前記プローブに選択的に結合されているキャピラリー・アレイ・シートから蛍光画像を読取る画像読取り方法および装置に関する。 The present invention relates to an image reading method and apparatus, and more specifically, a capillary in which through holes containing different types of probes are arranged in a predetermined pattern, and a specimen to which a fluorescent material is applied is selectively bonded to the probe. The present invention relates to an image reading method and apparatus for reading a fluorescent image from an array sheet.
配列が明らかにされた遺伝子の機能を調べる方法として、塩基配列情報を利用した解析法が知られている。この解析法では、数十から数万個の異なる種類の遺伝子ペプチド、タンパク質、抗体等の生体関連物質がプローブとして固定されたバイオチップが使用される。 As a method for examining the function of a gene whose sequence has been clarified, an analysis method using base sequence information is known. In this analysis method, a biochip in which tens to tens of thousands of different kinds of gene peptides, proteins, antibodies and other biologically related substances are immobilized as probes is used.
バイオチップでは、配列が明らかにされた遺伝子、あるいはその遺伝子の配列に基づいて作られたタンパク質等の検体を、特異的反応を利用してバイオチップに固定されたプローブに選択的に結合させることによって、検体とプローブとの生体機能発現関係を特定し、配列が明らかにされた遺伝子、あるいはその遺伝子の配列に基づいて作られたタンパク質等の検体の機能を知ることができる。 In a biochip, a gene whose sequence has been clarified or a sample such as a protein made based on the sequence of that gene is selectively bound to a probe immobilized on the biochip using a specific reaction. Thus, the biological function expression relationship between the specimen and the probe can be specified, and the function of the specimen such as a gene whose sequence has been clarified or a protein made based on the sequence of the gene can be known.
上記解析法を、バイオチップとしてキャピラリー・アレイ・シートが使用される場合を例に具体的に説明する。キャピラリー・アレイ・シートは、複数の貫通孔を有し、これら複数の貫通孔に、それぞれに異なった種類の遺伝子ペプチド、タンパク質、抗体等の生体関連物質(プローブ)が、ゲルによって所定位置に固定されているバイオチップである。 The above analysis method will be specifically described by taking as an example the case where a capillary array sheet is used as a biochip. The capillary array sheet has a plurality of through-holes, and biological substances (probes) such as different types of gene peptides, proteins, and antibodies are fixed to the plurality of through-holes at a predetermined position by a gel. It is a biochip.
解析にあたっては、まず、配列が明らかにされた遺伝子、あるいはその遺伝子の配列に基づいて作られたタンパク質等の検体を蛍光物質で標識し、この蛍光物質で標識した検体を、ハイブリダイゼーション等によって、バイオチップにプローブとして固定されている生体関連物質と選択的に結合させる。 In the analysis, firstly, a gene whose sequence has been clarified, or a sample such as a protein made based on the sequence of the gene is labeled with a fluorescent substance, and the sample labeled with this fluorescent substance is subjected to hybridization or the like. It selectively binds to a biological substance immobilized as a probe on the biochip.
次いで、蛍光レーザスキャナや蛍光顕微鏡等の蛍光測定装置を用いて検体を標識している蛍光物質からの蛍光を蛍光画像として検出することにより、蛍光物質で標識された検体が、どのプローブと結合したかが検出され、この結果、配列が明らかにされた遺伝子等の検体とプローブとの生体機能発現関係を特定し、配列が明らかにされた遺伝子等の検体の機能を知ることができる。 Next, by detecting the fluorescence from the fluorescent substance labeling the specimen as a fluorescent image using a fluorescence measuring device such as a fluorescent laser scanner or a fluorescent microscope, the specimen labeled with the fluorescent substance is bound to which probe. As a result, it is possible to identify the biological function expression relationship between the sample such as a gene whose sequence has been clarified and the probe, and to know the function of the sample such as the gene whose sequence has been clarified.
このような蛍光画像を用いた解析には、キャピラリー・アレイ・シートの貫通孔等に異物が存在すると、異物からの蛍光が輝点として検出され、検出すべき蛍光物質からの蛍光の正確な検出が妨げられるという問題あった。 In the analysis using such fluorescent images, if there is a foreign substance in the through-hole of the capillary array sheet, the fluorescence from the foreign substance is detected as a bright spot, and the fluorescence from the fluorescent substance to be detected is accurately detected. There was a problem that was disturbed.
このような問題を解決するために、同一種類のプローブを固定化したスポットを複数用意し、異常に高い発光強度(例えば、最も低い発光強度の1.5倍以上)を除いた発光強度に基づいて読取値を求める処理方法が知られている(特許文献1参照)。
また、異物のみを励起する波長の光を照射することによって異物の位置を特定し、この部分のデータを除外する方法も知られている(特許文献2参照)。
In order to solve such problems, multiple spots with the same type of probe immobilized are prepared and based on emission intensity excluding abnormally high emission intensity (for example, 1.5 times the lowest emission intensity or more) A processing method for obtaining a reading value is known (see Patent Document 1).
There is also known a method of identifying the position of a foreign substance by irradiating light having a wavelength that excites only the foreign substance, and excluding data of this part (see Patent Document 2).
しかし、異常に高い発光強度を除いた発光強度に基づいて読取値を求める方法では、同一種類のプローブを固定したスポットを複数用意する必要があり、コストアップとなってしまう。 However, in the method of obtaining the reading value based on the emission intensity excluding the abnormally high emission intensity, it is necessary to prepare a plurality of spots to which the same type of probe is fixed, which increases the cost.
また、異物のみを励起する波長の光を照射することで異物を特定し、異物のデータを除外する方法では、検体を標識する蛍光物質が異物と同じ波長の光で励起する場合、すなわち異物のみを励起する波長の光が存在しない場合には、異物を特定することができないという問題があった。 In addition, in the method of identifying a foreign substance by irradiating light with a wavelength that excites only the foreign substance and excluding the foreign substance data, when the fluorescent substance that labels the sample is excited with light having the same wavelength as the foreign substance, that is, only the foreign substance When there is no light having a wavelength that excites the light, there is a problem that foreign matter cannot be specified.
本発明は、このような問題を解決するためになされたものであり、煩雑な工程を経ることなく異物に起因する輝点等を排除し、検出すべき蛍光物質からの正確な蛍光画像の検出を可能とする画像読み取り方法および装置を提供することを目的としている。 The present invention has been made to solve such a problem, and eliminates bright spots caused by foreign substances without going through complicated steps, and enables accurate fluorescent image detection from a fluorescent substance to be detected. It is an object of the present invention to provide an image reading method and apparatus that can perform the above-described process.
本発明によれば、
異なる種類のプローブを収容した貫通孔が所定パターンで配列され、蛍光物質が付与された検体が前記プローブに選択的に結合されているキャピラリー・アレイ・シートから蛍光画像を読取る画像読取り方法であって、
前記キャピラリー・アレイ・シートに光を照射して各貫通孔の透過画像を撮像する工程と、
前記キャピラリー・アレイ・シートに、前記蛍光物質を励起可能な波長の励起光を照射して、前記蛍光物質から放出された蛍光による蛍光画像を撮像する工程と、
前記透過画像および蛍光画像に基づいて、前記蛍光画像の画像データを、貫通孔毎の蛍光画像データ群に分割する工程と、
前記貫通孔毎の蛍光画像データ群から貫通孔毎のしきい値を算出する工程と、
前記貫通孔毎に、当該貫通孔のしきい値に基づいて、当該貫通孔の蛍光画像データ群から輝点による蛍光画像データを排除する工程とを、備え、
前記しきい値が、
中央値+(第3四分位数−第1四分位数)×a (但し、1<a≦2)
で表される外れ値と、
中央値×b (1<b≦3)
で表される制限値を含み、
前記排除工程では、前記画像データ群に前記制限値を越える画像データが含まれているときには、前記外れ値より大きな画像データを輝点による画像データと判定して排除するとともに、前記画像データ群に前記制限値を越える画像データが含まれていないときには、前記画像データ群に輝点による画像データが含まれていないと判定する、
ことを特徴とする画像読み取り方法が提供される。
According to the present invention,
An image reading method for reading a fluorescent image from a capillary array sheet in which through holes containing different types of probes are arranged in a predetermined pattern, and a specimen to which a fluorescent material is applied is selectively bonded to the probe. ,
Irradiating the capillary array sheet with light to capture a transmission image of each through hole; and
Irradiating the capillary array sheet with excitation light having a wavelength that can excite the fluorescent material, and capturing a fluorescent image by fluorescence emitted from the fluorescent material;
Dividing the image data of the fluorescence image into fluorescence image data groups for each through hole based on the transmission image and the fluorescence image;
Calculating a threshold value for each through hole from the fluorescent image data group for each through hole;
For each of the through holes, based on the threshold value of the through hole, the step of eliminating the fluorescence image data by the bright spot from the fluorescence image data group of the through hole,
The threshold is
Median + (third quartile-first quartile) × a (where 1 <a ≦ 2)
An outlier represented by
Median value xb (1 <b ≦ 3)
Including the limit value represented by
In the exclusion step, when image data exceeding the limit value is included in the image data group, image data larger than the outlier is determined as image data by a bright spot and is excluded, and the image data group When image data exceeding the limit value is not included, it is determined that the image data group does not include image data based on bright spots.
An image reading method is provided.
このような構成によれば、煩雑な工程を経ることなく異物に起因する輝点等を排除し、検出すべき蛍光物質からの正確な蛍光画像の検出を可能となる。
さらに、このような構成によれば、貫通孔毎の画像データ群内での明度差が小さい(分散値が小さい)場合であっても、より明るい画像データを輝点(ノイズ)と判定して除外してしまうことが抑制される。
According to such a configuration, it is possible to accurately detect a fluorescent image from a fluorescent material to be detected by eliminating a bright spot or the like due to a foreign substance without going through complicated steps.
Furthermore, according to such a configuration, even when the brightness difference in the image data group for each through hole is small (dispersion value is small), brighter image data is determined as a bright spot (noise). Exclusion is suppressed.
本発明の他の態様によれば、
異なる種類のプローブを収容した貫通孔が所定パターンで配列され、蛍光物質が付与された検体が前記プローブに選択的に結合されているキャピラリー・アレイ・シートから蛍光画像を読取る画像読取り装置であって、
前記キャピラリー・アレイ・シートに光を照射する第1の光源と、
前記キャピラリー・アレイ・シートに、前記蛍光物質を励起可能な波長の励起光を照射する第2の光源と、
前記第1の光源からの光による前記キャピラリー・アレイ・シートの透過画像を撮像する第1の撮像手段と、
前記第2の光源からの励起光によって前記蛍光物質から放出された蛍光による蛍光画像を撮像する第2の撮像手段と、
前記透過画像および蛍光画像に基づいて、前記蛍光画像の画像データを、貫通孔毎の蛍光画像データ群に分割するデータ分割手段と、
前記貫通孔毎の蛍光画像データ群から貫通孔毎のしきい値を算出するしきい値算出手段と、
前記貫通孔毎に、当該貫通孔のしきい値に基づいて、当該貫通孔の蛍光画像データ群から輝点による蛍光画像データを排除する輝点データ排除手段とを、備え、
前記しきい値が、
中央値+(第3四分位数−第1四分位数)×a (但し、1<a≦2)
で表される外れ値と、
中央値×b (1<b≦3)
で表される制限値を含み、
前記輝点データ排除手段では、前記画像データ群に前記制限値を越える画像データが含まれているときには、前記外れ値より大きな画像データを輝点による画像データと判定して排除するとともに、前記画像データ群に前記制限値を越える画像データが含まれていないときには、前記画像データ群に輝点による画像データが含まれていないと判定する、
ことを特徴とする画像読み取り装置が提供される。
According to another aspect of the invention,
An image reading apparatus for reading a fluorescent image from a capillary array sheet in which through holes containing different types of probes are arranged in a predetermined pattern, and a specimen to which a fluorescent material is applied is selectively bonded to the probe. ,
A first light source for irradiating the capillary array sheet with light;
A second light source that irradiates the capillary array sheet with excitation light having a wavelength capable of exciting the fluorescent material;
First imaging means for capturing a transmission image of the capillary array sheet with light from the first light source;
Second imaging means for imaging a fluorescence image by fluorescence emitted from the fluorescent material by excitation light from the second light source;
Data dividing means for dividing the image data of the fluorescent image into fluorescent image data groups for each through hole based on the transmission image and the fluorescent image;
Threshold calculation means for calculating a threshold value for each through hole from the fluorescent image data group for each through hole;
Bright spot data excluding means for excluding fluorescent image data due to bright spots from the fluorescent image data group of the through hole based on the threshold value of the through hole for each through hole,
The threshold is
Median + (third quartile-first quartile) × a (where 1 <a ≦ 2)
An outlier represented by
Median value xb (1 <b ≦ 3)
Including the limit value represented by
In the bright spot data exclusion means, when the image data group includes image data exceeding the limit value, the image data larger than the outlier is determined to be bright spot image data and eliminated, and the image data When image data exceeding the limit value is not included in the data group, it is determined that the image data group does not include image data based on bright spots.
An image reading apparatus is provided.
このような構成によれば、煩雑な工程を経ることなく異物に起因する輝点等を排除し、検出すべき蛍光物質からの正確な蛍光画像の検出を可能となる。
さらに、このような構成によれば、貫通孔毎の画像データ群内での明度差が小さい(分散値が小さい)場合であっても、より明るい画像データを輝点(ノイズ)と判定して除外してしまうことが抑制される。
According to such a configuration, it is possible to accurately detect a fluorescent image from a fluorescent material to be detected by eliminating a bright spot or the like due to a foreign substance without going through complicated steps.
Furthermore, according to such a configuration, even when the brightness difference in the image data group for each through hole is small (dispersion value is small), brighter image data is determined as a bright spot (noise). Exclusion is suppressed.
本発明によれば、煩雑な工程を経ることなく異物に起因する輝点等を排除し、検出すべき蛍光物質からの正確な蛍光画像の検出を可能とする画像読み取り方法および装置が提供される。 According to the present invention, there is provided an image reading method and apparatus that eliminates a bright spot or the like caused by a foreign substance without going through complicated steps, and enables accurate detection of a fluorescent image from a fluorescent material to be detected. .
以下、添付図面を参照して本発明の好ましい実施形態の読み取り装置の構成について説明する。
図1は、本発明の好ましい実施形態の画像読み取り装置の構成を模式的に示す図面である。画像読み取り装置1は、顕微鏡と類似の構造を有し、対物レンズ2と、読み取り対象のキャピラリー・アレイ・シートSが載置されるXYステージ4と、XYステージ4に載置されたキャピラリー・アレイ・シートSの表側面に励起光を照射する励起光源6と、XYステージ4に載置されたキャピラリー・アレイ・シートSの裏面側から照射光を照射する透過光源8とを備えている。
画像読み取り装置1は、さらに、励起光源6からの光によってキャピラリー・アレイ・シートSから放出された蛍光による蛍光画像と、透過光源8から照射されキャピラリー・アレイ・シートSを透過した透過画像とを撮像する撮像手段であるCCDカメラ10を備えている。
Hereinafter, a configuration of a reading apparatus according to a preferred embodiment of the present invention will be described with reference to the accompanying drawings.
FIG. 1 is a drawing schematically showing a configuration of an image reading apparatus according to a preferred embodiment of the present invention. The image reading apparatus 1 has a structure similar to that of a microscope, an
The image reading device 1 further includes a fluorescence image by fluorescence emitted from the capillary array sheet S by light from the
励起光源6は、キャピラリー・アレイ・シートSの貫通孔に収容されたプローブとハイブリダーゼイションしている検体に付与されている蛍光物質を励起する波長の励起光を発生させるように構成されている。励起光源6から照射された励起光は、励起光フィルタ12を通過し、ダイクロイックミラー14でキャピラリー・アレイ・シートSに向けて偏向され、キャピラリー・アレイ・シートSの表側面を照射し、キャピラリー・アレイ・シートSの貫通孔に収容されたプローブとハイブリダーゼイションしている検体に付与されている蛍光物質を励起する。
The
キャピラリー・アレイ・シートSの貫通孔のプローブと結合している検体を標識する蛍光物質から放出された蛍光は、ダイクロイックミラー14および吸収用フィルタ16を通過して、CCDカメラ10に入射し、CCDカメラ10によってキャピラリー・アレイ・シートSの蛍光画像が撮像される。
Fluorescence emitted from the fluorescent material that labels the specimen bound to the probe in the through-hole of the capillary array sheet S passes through the
透過光源8は、出射光の光軸と対物レンズ2の光軸とが一致するように、XYステージ4の下方に配置される。透過光源6として、例えば、ハロゲンランプ、LEDアレイ光源等を用いることができる。安定した光量、光源の長寿命化という観点から、LEDアレイを用いることが好ましい。
The transmission light source 8 is disposed below the
画像読み取り装置1は、更に、CCDカメラ10から画像データを処理、記憶等するデータ処理手段18と、画像読み取り装置1の各構成要素の動作を制御する制御装置20とを備えている。データ処理手段は、所定のプログラムがインストールされたコンピュータ等によって構成されている。
The image reading device 1 further includes a data processing means 18 that processes and stores image data from the
キャピラリー・アレイ・シートSは、中央に貫通孔を有する多数のキャピラリが二次元的に配列された構成を有し、各キャピラリの貫通孔のそれぞれに、異なった種類の生体関連物質(プローブ)がゲルによって固定されている構成を備えている。キャピラリー・アレイ・シートSでは、ゲルが充填された貫通孔は光を透過させるが、それ以外の部分は実質的に光を透過させない。本実施態様の画像読み取り装置では、プローブに、蛍光物質で標識された検体がハイブリダイゼーション等によって選択的に結合させられたキャピラリー・アレイ・シートからの画像読み取りが行われる。 The capillary array sheet S has a configuration in which a large number of capillaries having a through hole in the center are two-dimensionally arranged, and different types of biological substances (probes) are placed in the through holes of each capillary. The structure is fixed by a gel. In the capillary array sheet S, the through-hole filled with the gel transmits light, but the other portions do not substantially transmit light. In the image reading apparatus of this embodiment, image reading is performed from a capillary array sheet in which a specimen labeled with a fluorescent substance is selectively bound to a probe by hybridization or the like.
次に、画像読み取り装置1を用いた画像読み取り方法について説明する。
先ず、読み取り対象となるキャピラリー・アレイ・シートSを、XYステージ4に載置して透過光源8から照明光を照射し、キャピラリー・アレイ・シートSを透過した透過光の画像(透過画像)をCCDカメラ10で撮像する。透過画像の各画像データは、A/D変換によって、光量に応じた0〜65535の階調値とされ、データ処理手段18に送られる。
Next, an image reading method using the image reading apparatus 1 will be described.
First, the capillary array sheet S to be read is placed on the
図2は、得られた透過画像の一部を示している。上述したようにキャピラリー・アレイ・シートSでは、貫通孔のみが光を透過させるので、透過画像では、貫通孔に対応する略円形の像22、24、26、28が、貫通孔に対応した位置に現れる。
FIG. 2 shows a part of the obtained transmission image. As described above, since only the through holes transmit light in the capillary array sheet S, in the transmission image, substantially
データ処理手段18では、この透過画像データの貫通孔の画像データが得られた領域が、蛍光画像中で輝点排除が行われる検出領域に設定される。 In the data processing means 18, the region where the image data of the through hole of the transmission image data is obtained is set as a detection region where the bright spot is eliminated in the fluorescent image.
本実施形態では、各貫通孔の画像データを、所定のしきい値に基づいて、それ以外の画像データと分離し、分離された貫通孔の画像データ値が得られた領域を特定し、この領域の重心を中心とした円領域を貫通孔毎の検出領域としている。このようにして設定された各検出領域の位置データは、データ処理手段18内に記憶される。 In the present embodiment, the image data of each through hole is separated from other image data based on a predetermined threshold value, and the region where the image data value of the separated through hole is obtained is specified. A circular area around the center of gravity of the area is set as a detection area for each through hole. The position data of each detection area set in this way is stored in the data processing means 18.
なお、貫通孔の画像データ値が得られた領域を検出領域としても、あるいはオペレータが手動で検出領域を設定してもよい。 Note that the region where the image data value of the through hole is obtained may be set as the detection region, or the detection region may be manually set by the operator.
次に、励起光源6を作動させ、キャピラリー・アレイ・シートSに励起光を照射し、特定の貫通孔のプローブに選択的に結合している検体を標識している蛍光物質を励起し、この蛍光物質から発せられた蛍光の蛍光画像をCCDカメラ10で撮像する。
Next, the
図3は、図2の透過画像に対応する蛍光画像である。プローブに検体が結合している貫通孔は、検体を標識している蛍光物質が励起光源6からの励起光で励起されるので、図3に示されるように貫通孔の形状に対応した明るい像24’となる。
FIG. 3 is a fluorescence image corresponding to the transmission image of FIG. In the through-hole in which the specimen is bound to the probe, the fluorescent substance labeling the specimen is excited by the excitation light from the
これに対し、プローブに検体が結合していない貫通孔に対応する部分には、蛍光物質が存在しないので、図3に示されるように、暗い像22’、26’となる。
さらに、励起光源6からの励起光で励起される異物が貫通孔に存在すると、図3に示されるように、この異物からの蛍光が輝点28”として含まれる像28’となる。
On the other hand, since there is no fluorescent substance in the portion corresponding to the through hole where the specimen is not bound to the probe,
Further, when a foreign substance excited by the excitation light from the
この蛍光画像データも、A/D変換によって、光量に応じた0〜65535の階調値とされ、データ処理手段18に送られる。 This fluorescent image data is also converted to a gradation value of 0 to 65535 according to the amount of light by A / D conversion, and is sent to the data processing means 18.
データ処理手段18では、蛍光画像の画像データから、異物に起因する輝点を排除する処理が行われる。本実施態様では、異物に起因する輝点の排除は、透過画像に基づいて設定された検出領域のみで行われるので、データ処理手段18に記憶されている、検出領域の位置データに基づいて、蛍光画像データに検出領域30、32、34、36を設定し、検出領域30、32、34、36毎に、以下のような、異物に起因する輝点の排除処理が行われる。
The data processing means 18 performs a process for removing bright spots caused by foreign substances from the image data of the fluorescence image. In the present embodiment, since the removal of the bright spot due to the foreign matter is performed only in the detection region set based on the transmission image, based on the position data of the detection region stored in the
まず、式1を用いて、各検出領域内で行われる輝点判定に用いる当該検出領域用のしきい値(外れ値)を、昇順に並べられた当該検出領域内の各画像データの値から算出する。
外れ値=中央値+(第3四分位数−第1四分位数)×a・・・式1
ここで、aは、(1<a≦2)の範囲で適宜設定されるが、より好ましくは、(1.2<a≦1.8)の範囲である。
First, using Equation 1, threshold values (outliers) for the detection area used for the bright spot determination performed in each detection area are calculated from the values of the image data in the detection area arranged in ascending order. calculate.
Outlier = median + (third quartile−first quartile) × a Equation 1
Here, a is appropriately set within the range of (1 <a ≦ 2), and more preferably within the range of (1.2 <a ≦ 1.8).
ここで、第3四分位数とは、例えば100個のデータを昇順に並べた際の75番目のデータのことであり、第1四分位数とは25番目のデータである。 Here, the third quartile is, for example, the 75th data when 100 pieces of data are arranged in ascending order, and the first quartile is the 25th data.
さらに、式2を用いて、各検出領域内で行われる輝点判定に用いる当該検出領域用のしきい値(制限値)を、昇順に並べられた当該検出領域内の各画像データの値から算出する。
制限値=中央値×b(1<b≦3)・・・式2
Furthermore, the threshold value (limit value) for the detection region used for the bright spot determination performed in each detection region is calculated from the value of each image data in the detection region arranged in ascending
Limit value = median value × b (1 <b ≦ 3)
係数bを変更することにより、制限値を変更することができる。得られた蛍光画像データを参照しながら、輝点ノイズを適切に除外できるようにbを設定するのが好ましく、例えば、(1.5<b≦2.5)の範囲である。 The limit value can be changed by changing the coefficient b. It is preferable to set b so that the bright spot noise can be appropriately excluded while referring to the obtained fluorescence image data, for example, in the range of (1.5 <b ≦ 2.5).
次いで、検出領域毎に、当該検出領域内の各画像データの値(階調値)と、外れ値および制限値とを比較して、画像データが異物に起因する輝点を示すものであるか否かを判定する。
本実施態様の判定処理では、検出領域の画像データ(画像データ群)に制限値を越える画像データが含まれているときには、外れ値より大きな画像データを輝点による画像データと判定する一方、検出領域の画像データ(画像データ群)に制限値を越える画像データが含まれていないときには、検出用域の画像データには輝点による画像データが含まれていないと判定する。すなわち、制限値を基準にして輝点による画像データが含まれているか否かを判定し、輝点よる画像データが含まれていると判定された場合には、外れ値を基準にどの画像データが輝点であるかを判定する。
輝点を示す画像データと判定された輝点(ノイズ)画像データは、当該検出領域の他の画像データ(画像データ群)から分離され、排除される。
Next, for each detection area, the value (tone value) of each image data in the detection area is compared with the outlier value and the limit value, and whether the image data indicates a bright spot caused by a foreign object. Determine whether or not.
In the determination processing of this embodiment, when image data exceeding the limit value is included in the image data (image data group) in the detection area, image data larger than the outlier is determined as image data by a bright spot, while detection is performed. When image data exceeding the limit value is not included in the image data (image data group) in the area, it is determined that the image data in the detection area does not include image data based on bright spots. That is, it is determined whether or not image data based on a bright spot is included based on the limit value. If it is determined that image data based on a bright spot is included, which image data is determined based on the outlier. Is a bright spot.
Bright spot (noise) image data determined as image data indicating a bright spot is separated from other image data (image data group) in the detection area and excluded.
なお、外れ値、制限値が飽和値である65535を超えた場合には、正確な輝点判定が不可能となるため、輝点判定は行われない。 When the outlier and the limit value exceed the saturation value of 65535, the bright spot determination is impossible, and hence the bright spot determination is not performed.
図4は、異物38に起因する輝点を含む検出領域40近傍の蛍光画像の一例であり、図5は、図4の蛍光画像の各画像データを階調値の大きさに従って昇順に並べたグラフである。図5では、一点鎖線が外れ値を、二点鎖線が飽和値を、点線が制限値を、斜線部で示された部分が輝点と判定された画像データを示す。 FIG. 4 is an example of a fluorescence image in the vicinity of the detection region 40 including a bright spot caused by the foreign matter 38. FIG. 5 shows the image data of the fluorescence image in FIG. 4 arranged in ascending order according to the magnitude of the gradation value. It is a graph. In FIG. 5, image data in which the alternate long and short dash line indicates an outlier, the alternate long and two short dashes line indicates a saturation value, the dotted line indicates a limit value, and the hatched portion indicates image data.
図5に示されているように、この例では、検出領域の画像データに、点線で示されている制限値を越える階調値を有する画像データが含まれているので、一点鎖線で示される外れ値を越える(階調値がAより大きい)階調値(蛍光強度)を有する画像データが輝点による画像データと判定される。この時、図5に示されている通り、飽和した画像データであっても、正しく輝点による画像データと判定される。 As shown in FIG. 5, in this example, the image data in the detection area includes image data having gradation values exceeding the limit value indicated by the dotted line, and thus is indicated by the alternate long and short dash line. Image data having a gradation value (fluorescence intensity) exceeding an outlier (the gradation value is greater than A) is determined as image data by a bright spot. At this time, as shown in FIG. 5, even saturated image data is correctly determined as image data based on bright spots.
一方、図6は、異物に起因する輝点を含まない検出領域42近傍の蛍光画像の一例であり、図7は、図6の蛍光画像の各画像を階調値の大きさに従って昇順に並べたグラフである。図7では、図5と同様に、一点鎖線が外れ値を、点線が制限値を示す。 On the other hand, FIG. 6 is an example of a fluorescent image in the vicinity of the detection region 42 that does not include a bright spot caused by a foreign substance, and FIG. 7 is an arrangement of the fluorescent images in FIG. 6 in ascending order according to the magnitude of the gradation value. It is a graph. In FIG. 7, similarly to FIG. 5, the alternate long and short dash line indicates an outlier, and the dotted line indicates a limit value.
図6および図7の例では、検出領域の画像データに、点線で示されている制限値を越える階調値(蛍光強度)を有する画像データが含まれていないので、検査領域の画像データに輝点による画像データが含まれておらず、全ての画像データが正常画像データと判定される。 In the example of FIGS. 6 and 7, the image data in the detection area does not include image data having a gradation value (fluorescence intensity) exceeding the limit value indicated by the dotted line. Image data based on bright spots is not included, and all image data is determined as normal image data.
その後、輝点による画像データであると判定された画像データが、当該検出領域の他の画像データ(画像データ群)から排除される処理が行われ、排除処理が終了した検出領域の画像データ群には、更なる処理、例えば、各検出領域内の画像データの階調値を平均して平均読取値を算出し、蛍光物質の濃度が求められる処理が行われる。 Thereafter, the image data determined to be image data based on the bright spot is processed to be excluded from other image data (image data group) of the detection area, and the image data group of the detection area after the exclusion process is completed. For example, a further process, for example, a process for calculating the average reading value by averaging the gradation values of the image data in each detection region and obtaining the concentration of the fluorescent substance is performed.
本発明は、以上の実施形態に限定されることなく、特許請求の範囲に記載された発明の範囲内で種々の変更が可能であり、それらも本発明の範囲内に包含される。 The present invention is not limited to the above embodiments, and various modifications are possible within the scope of the invention described in the claims, and these are also included in the scope of the present invention.
以下、本発明の実施例を説明する。
キャピラリー・アレイ・シートとして、三菱レイヨン株式会社製のGenopal(登録商標)(228スポット)を使用した。キャピラリー・アレイ・シートには、光を透過しない部材(マトリクス部)に228の貫通孔(スポット部)が設けられ、各貫通孔内には充填されたゲルによってプローブが固定されている。
Examples of the present invention will be described below.
As the capillary array sheet, Genopal (registered trademark) (228 spots) manufactured by Mitsubishi Rayon Co., Ltd. was used. In the capillary array sheet, 228 through holes (spot portions) are provided in a member that does not transmit light (matrix portion), and a probe is fixed in each through hole by a filled gel.
キャピラリー・アレイ・シートのプローブに、蛍光物質で標識した検体をハイブリダイゼーションした後、三菱レイヨン株式会社製のDNAチップ検出器を用いて、スポット部分の透過画像と蛍光画像を取得した。DNAチップ検出器の透過画像撮像用の照明はLEDであり、チップ下方から照明した。また、蛍光画像撮像用の励起光源は水銀ランプであり、チップ上方から落射励起を行った。チップ上方にあるCCDカメラで、透過画像と蛍光画像を撮像した。 After a sample labeled with a fluorescent substance was hybridized to the probe of the capillary array sheet, a transmission image and a fluorescence image of the spot portion were obtained using a DNA chip detector manufactured by Mitsubishi Rayon Co., Ltd. The illumination for taking a transmission image of the DNA chip detector was an LED, and was illuminated from below the chip. Moreover, the excitation light source for fluorescent image imaging was a mercury lamp, and epi-illumination excitation was performed from above the chip. Transmission images and fluorescence images were taken with a CCD camera above the chip.
図2は、撮像した透過画像の一部であり、4つのスポットを含む。図3は、撮像した蛍光画像の一部であり、図2と同一範囲の画像である。
図3から明らかなように、異物が存在する貫通孔に対応する蛍光画像には、輝点(ノイズ)28”が現れている。
FIG. 2 is a part of the captured transmission image and includes four spots. FIG. 3 shows a part of the captured fluorescent image, which is an image in the same range as FIG.
As is apparent from FIG. 3, a bright spot (noise) 28 ″ appears in the fluorescent image corresponding to the through hole in which the foreign matter exists.
図2の透過画像を2値化し、2値化した透過画像のスポット部分(白色部分)の重心を中心とした円領域を検出領域と決定した。図3では、各貫通孔の像22’、24’、26’、28’に対応する検出領域は、それぞれ30、32、34、36で示されている。
The transmission image of FIG. 2 was binarized, and a circular area centered on the center of gravity of the spot portion (white portion) of the binarized transmission image was determined as the detection area. In FIG. 3, detection areas corresponding to the
輝点判定においては、各貫通孔の像22’、24’、26’、28’に対応する検出領域30、32、34、36内の画像データを数値化した。
外れ値の係数aを1.5、制限値の係数bを2として、上記式1および式2から検出領域毎の外れ値および制限値をそれぞれ算出し、検出領域毎に画像データの値(階調値)を外れ値および制限値を用いた輝点判定を行って、輝点と判定された画像データを除去し、残りの画像データで検出データを生成した。
In the bright spot determination, the image data in the detection regions 30, 32, 34, and 36 corresponding to the
The outlier value a is 1.5 and the limit value coefficient b is 2, and the outlier value and limit value for each detection area are calculated from the
各貫通孔の像22’、24’、26’は、全ての画像データの階調値が制限値よりも小さい、すなわちすべての画像データの階調値が制限値以下であるため、これらの貫通孔の像22’、24’、26’では全ての画像データを用いて検出データが生成された。
Each of the through-
図8は、図3の貫通孔の像28’の拡大図であり、図9は、貫通孔の像28’の各画像データ毎の輝点判定の結果を示したものである。正常画像データを#、輝点(ノイズ)画像データを○で示している。
FIG. 8 is an enlarged view of the through
貫通孔の像28’では、階調値が制限値を越える画像データが含まれていたので、階調値が外れ値より大きい画像データを輝点よる画像データと判定して排除し、正常画像データのみを用いて検出データが生成された。得られた検出データを用いて検体の分析を行ったところ、輝点ノイズが無いため、信頼性の高い、高精度な分析結果を得ることができた。
The
S:キャピラリー・アレイ・シート
1:画像読み取り装置
4:XYステージ
6:励起光源
8:透過光源
10:CCDカメラ
18:データ処理手段
S: Capillary array sheet 1: Image reading device 4: XY stage 6: Excitation light source 8: Transmission light source 10: CCD camera 18: Data processing means
Claims (2)
前記キャピラリー・アレイ・シートに光を照射して各貫通孔の透過画像を撮像する工程と、
前記キャピラリー・アレイ・シートに、前記蛍光物質を励起可能な波長の励起光を照射して、前記蛍光物質から放出された蛍光による蛍光画像を撮像する工程と、
前記透過画像および蛍光画像に基づいて、前記蛍光画像の画像データを、貫通孔毎の蛍光画像データ群に分割する工程と、
前記貫通孔毎の蛍光画像データ群から貫通孔毎のしきい値を算出する工程と、
前記貫通孔毎に、当該貫通孔のしきい値に基づいて、当該貫通孔の蛍光画像データ群から輝点による蛍光画像データを排除する工程とを、備え、
前記しきい値が、
中央値+(第3四分位数−第1四分位数)×a (但し、1<a≦2)
で表される外れ値と、
中央値×b (1<b≦3)
で表される制限値を含み、
前記排除工程では、前記画像データ群に前記制限値を越える画像データが含まれているときには、前記外れ値より大きな画像データを輝点による画像データと判定して排除するとともに、前記画像データ群に前記制限値を越える画像データが含まれていないときには、前記画像データ群に輝点による画像データが含まれていないと判定する、
ことを特徴とする画像読取り方法。 An image reading method for reading a fluorescent image from a capillary array sheet in which through holes containing different types of probes are arranged in a predetermined pattern, and a specimen to which a fluorescent material is applied is selectively bonded to the probe. ,
Irradiating the capillary array sheet with light to capture a transmission image of each through hole; and
Irradiating the capillary array sheet with excitation light having a wavelength that can excite the fluorescent material, and capturing a fluorescent image by fluorescence emitted from the fluorescent material;
Dividing the image data of the fluorescence image into fluorescence image data groups for each through hole based on the transmission image and the fluorescence image;
Calculating a threshold value for each through hole from the fluorescent image data group for each through hole;
For each of the through holes, based on the threshold value of the through hole, the step of eliminating the fluorescence image data by the bright spot from the fluorescence image data group of the through hole,
The threshold is
Median + (third quartile-first quartile) × a (where 1 <a ≦ 2)
An outlier represented by
Median value xb (1 <b ≦ 3)
Including the limit value represented by
In the exclusion step, when image data exceeding the limit value is included in the image data group, image data larger than the outlier is determined as image data by a bright spot and is excluded, and the image data group When image data exceeding the limit value is not included, it is determined that the image data group does not include image data based on bright spots.
An image reading method characterized by the above.
前記キャピラリー・アレイ・シートに光を照射する第1の光源と、
前記キャピラリー・アレイ・シートに、前記蛍光物質を励起可能な波長の励起光を照射する第2の光源と、
前記第1の光源からの光による前記キャピラリー・アレイ・シートの透過画像を撮像する第1の撮像手段と、
前記第2の光源からの励起光によって前記蛍光物質から放出された蛍光による蛍光画像を撮像する第2の撮像手段と、
前記透過画像および蛍光画像に基づいて、前記蛍光画像の画像データを、貫通孔毎の蛍光画像データ群に分割するデータ分割手段と、
前記貫通孔毎の蛍光画像データ群から貫通孔毎のしきい値を算出するしきい値算出手段と、
前記貫通孔毎に、当該貫通孔のしきい値に基づいて、当該貫通孔の蛍光画像データ群から輝点による蛍光画像データを排除する輝点データ排除手段とを、備え、
前記しきい値が、
中央値+(第3四分位数−第1四分位数)×a (但し、1<a≦2)
で表される外れ値と、
中央値×b (1<b≦3)
で表される制限値を含み、
前記輝点データ排除手段では、前記画像データ群に前記制限値を越える画像データが含まれているときには、前記外れ値より大きな画像データを輝点による画像データと判定して排除するとともに、前記画像データ群に前記制限値を越える画像データが含まれていないときには、前記画像データ群に輝点による画像データが含まれていないと判定する、
ことを特徴とする画像読取り装置。 An image reading apparatus for reading a fluorescent image from a capillary array sheet in which through holes containing different types of probes are arranged in a predetermined pattern, and a specimen to which a fluorescent material is applied is selectively bonded to the probe. ,
A first light source for irradiating the capillary array sheet with light;
A second light source that irradiates the capillary array sheet with excitation light having a wavelength capable of exciting the fluorescent material;
First imaging means for capturing a transmission image of the capillary array sheet with light from the first light source;
Second imaging means for imaging a fluorescence image by fluorescence emitted from the fluorescent material by excitation light from the second light source;
Data dividing means for dividing the image data of the fluorescent image into fluorescent image data groups for each through hole based on the transmission image and the fluorescent image;
Threshold calculation means for calculating a threshold value for each through hole from the fluorescent image data group for each through hole;
Bright spot data excluding means for excluding fluorescent image data due to bright spots from the fluorescent image data group of the through hole based on the threshold value of the through hole for each through hole,
The threshold is
Median + (third quartile-first quartile) × a (where 1 <a ≦ 2)
An outlier represented by
Median value xb (1 <b ≦ 3)
Including the limit value represented by
In the bright spot data exclusion means, when the image data group includes image data exceeding the limit value, the image data larger than the outlier is determined to be bright spot image data and eliminated, and the image data When image data exceeding the limit value is not included in the data group, it is determined that the image data group does not include image data based on bright spots.
An image reading apparatus.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007225571A JP4979516B2 (en) | 2007-08-31 | 2007-08-31 | Image reading method and apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007225571A JP4979516B2 (en) | 2007-08-31 | 2007-08-31 | Image reading method and apparatus |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009058356A JP2009058356A (en) | 2009-03-19 |
JP4979516B2 true JP4979516B2 (en) | 2012-07-18 |
Family
ID=40554228
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007225571A Expired - Fee Related JP4979516B2 (en) | 2007-08-31 | 2007-08-31 | Image reading method and apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4979516B2 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015037724A1 (en) | 2013-09-13 | 2015-03-19 | 三菱レイヨン株式会社 | Image reading method |
KR101516351B1 (en) | 2013-07-23 | 2015-05-04 | 주식회사 신코 | Apparatus for measuring transparency |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5895613B2 (en) | 2012-03-08 | 2016-03-30 | 東レ株式会社 | Determination method, determination apparatus, determination system, and program |
CN104204778A (en) * | 2012-03-12 | 2014-12-10 | 三菱丽阳株式会社 | Fluorescence detection device and fluorescence detection method |
JP2014215113A (en) * | 2013-04-24 | 2014-11-17 | Jfeスチール株式会社 | Emission spectral analysis method |
JP5884187B2 (en) * | 2013-04-24 | 2016-03-15 | Jfeスチール株式会社 | Carbon steel refining method |
JP2017009368A (en) * | 2015-06-19 | 2017-01-12 | 忠信 藩 | Positioning method, and positioning system |
EP3360970B1 (en) * | 2017-02-10 | 2019-10-30 | Roche Diagnostics GmbH | A method for reducing quantification errors caused by an optical artefact in digital polymerase chain reaction |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3576523B2 (en) * | 2000-12-26 | 2004-10-13 | オリンパス株式会社 | Fluorescence luminance measurement method and apparatus |
JP4043925B2 (en) * | 2001-12-05 | 2008-02-06 | 三菱レイヨン株式会社 | Biological material microarray reader and method |
JP2004101376A (en) * | 2002-09-10 | 2004-04-02 | Fuji Photo Film Co Ltd | Biochip reader |
JP2006084281A (en) * | 2004-09-15 | 2006-03-30 | Hitachi Software Eng Co Ltd | Spot image recognizing method and spot image recognizing system |
JP2006337245A (en) * | 2005-06-03 | 2006-12-14 | Matsushita Electric Ind Co Ltd | Fluorescence reading device |
WO2007013551A1 (en) * | 2005-07-29 | 2007-02-01 | Olympus Corporation | Light intensity measuring method and light intensity measuring device |
-
2007
- 2007-08-31 JP JP2007225571A patent/JP4979516B2/en not_active Expired - Fee Related
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101516351B1 (en) | 2013-07-23 | 2015-05-04 | 주식회사 신코 | Apparatus for measuring transparency |
WO2015037724A1 (en) | 2013-09-13 | 2015-03-19 | 三菱レイヨン株式会社 | Image reading method |
JP6075572B2 (en) * | 2013-09-13 | 2017-02-08 | 三菱レイヨン株式会社 | Image reading method |
Also Published As
Publication number | Publication date |
---|---|
JP2009058356A (en) | 2009-03-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4979516B2 (en) | Image reading method and apparatus | |
JP7343551B2 (en) | Device for reading IVD assays | |
JP4409426B2 (en) | Microarray detector and method | |
KR100877656B1 (en) | Biochemical inspection device and biochemical inspection method | |
US20050118640A1 (en) | Microarray detector and methods | |
JP2002257730A (en) | Method and instrument for measuring fluorescent brightness | |
BE1025903B1 (en) | Cross-talk correction with multiplexing analysis of biological sample | |
JP2011053361A (en) | Fluorescent image-acquiring method, fluorescent image-acquiring device, and fluorescent image-acquiring program | |
JP5060292B2 (en) | Serological analysis | |
JP2007003323A (en) | Photographing system | |
EP1925929A1 (en) | Multivariate detection of molecules in bioassay | |
JP3908135B2 (en) | Image processing method for biochemical examination | |
JP2009069152A (en) | Method and apparatus for analyzing dry-chemical test element | |
JP4043925B2 (en) | Biological material microarray reader and method | |
JP3929057B2 (en) | Luminescence intensity analysis method and apparatus | |
JPWO2004063731A1 (en) | Photodetector | |
JP2007097411A (en) | Simultaneous assay method for responding to large number of cells | |
JP2007046933A (en) | Fluorescent image-detecting method, fluorescent image-detecting substrate, fluorescent image detector, program and recording medium | |
JP2009002774A (en) | Device for detecting biological substance | |
JP2004184379A (en) | Method of reading microarray | |
CN116503302A (en) | Sample detection method, device, system, electronic equipment and computer readable medium | |
JP4321716B2 (en) | Fluorescence image correction method, apparatus, and program | |
JP3913978B2 (en) | Image analysis method and apparatus | |
RU200805U1 (en) | Fluorescent Biochip Analyzer | |
JP2005291795A (en) | Fluorescence detection device and image processing system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100713 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110603 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120131 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120402 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120417 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150427 Year of fee payment: 3 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4979516 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150427 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |