JP2009128266A - 画像処理方法 - Google Patents

画像処理方法 Download PDF

Info

Publication number
JP2009128266A
JP2009128266A JP2007305316A JP2007305316A JP2009128266A JP 2009128266 A JP2009128266 A JP 2009128266A JP 2007305316 A JP2007305316 A JP 2007305316A JP 2007305316 A JP2007305316 A JP 2007305316A JP 2009128266 A JP2009128266 A JP 2009128266A
Authority
JP
Japan
Prior art keywords
image
processing method
individual images
image processing
individual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007305316A
Other languages
English (en)
Other versions
JP4085338B1 (ja
Inventor
Yohei Okuda
洋平 奥田
Shojiro Masuoka
舛岡  正二郎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyobo Co Ltd
Original Assignee
Toyobo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyobo Co Ltd filed Critical Toyobo Co Ltd
Priority to JP2007305316A priority Critical patent/JP4085338B1/ja
Application granted granted Critical
Publication of JP4085338B1 publication Critical patent/JP4085338B1/ja
Publication of JP2009128266A publication Critical patent/JP2009128266A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】撮影して得られる多数の画像を、確実にかつ迅速簡便に、観察あるいは解析し得るようにするための画像の処理方法を提供する。
【解決手段】有形成分を含む試料を撮影した個別画像を撮影視野が重複しないように複数枚撮影し、複数の該個別画像それぞれについて該個別画像を構成する画素ごとに複数の光学的特徴量を算出し、算出した複数の該光学的特徴量の平均値(M)を同座標の画素ごとにそれぞれ算出し、該平均値から各画素ごとの閾値を算出し、該個別画像の画素ごとに対応する該閾値と該光学的特徴量を比較し、該閾値内ならば該平均値を採用し、閾値を超える場合はその個別画像の光学的特徴量の値を採用することで該個別画像を重ね合わせ、これを該個別画像すべて合成するまで繰り返すことで合成画像を作成する画像処理方法。
【選択図】図28

Description

本発明は、試料中の有形成分を分析する分析装置及びその利用に関するものであり、特に、多種多様な生体試料中の有形成分について、画像を用いて、観察あるいは解析する場合に、有用な画像の処理方法に関する。
医療分野における生体試料中の有形成分の分析は、多種多様な有形成分の分類が必要なため熟練を要し、専門の臨床検査技師養成に時間がかかること、長時間にわたる顕微鏡観察が必要なこと、個人差、施設間差が大きいことなどが課題とされていた。このような生体試料中の有形成分の分析の例として、例えば尿沈渣成分の分析が挙げられる。尿沈渣成分の分析は、
(i)尿検体を遠心分離し、沈渣成分と上清成分に分離する。
(ii)上清を除去する。
(iii)沈渣成分を一部抜き取りスライドガラスに塗沫し、カバーガラスで封入してプレパラートを作成する。
(iv)光学顕微鏡でプレパラートを分析する。
という複数の作業工程から成り立っている。
通常、これらの工程は用手で実施されている。このため、検査技師にとって、大きな負担となっている。また、分析判断は、検査技師間の個人差が大きく、正確性に問題がある。
近年、これら諸問題を解消するため、生体試料中の有形成分の分析を自動で行う分析装置が開発され、臨床の場で利用されつつある。例えば、特許文献1には、遠心操作をすることなく、被検液中、特に尿中の有形成分に焦点を自動に合わせ、精密性、正確性の高い尿中有形成分の分類が可能とすべく、透光板上もしくはフローセル中の被検液を撮像する手段を有し、かつ上記手段において被検液中の有形成分に焦点を自動に合わせる自動合焦機能を装備した尿中有形成分分類装置が開示されている。
特開2001−255260号公報(平成13(2001)年9月21日公開)
しかし、尿中の有形成分の量が極めて少ないため、遠心操作を行い濃縮させた状態で実施する用手検査と同程度の正確性、精密性を保証するためには、多数の画像を撮影、解析しなければならないため、多くの時間と労力を必要とするという問題があった。
この問題を解消するために、特許文献2には、有形成分を含む非濃縮被検体による被写体画像の部分画像を、検査用撮影範囲が重複しないようにして複数枚撮影し、これら複数の部分画像を、それぞれの部分画像毎に背景色を除いて、背景色が除かれた各部分画像を重ね合わせるとともに、この重ね合わせた合成画像と、除かれた背景色を加えて、目視検査用の合成画像を作成する方法が開示されている。
特開2004−77452号公報(平成15(2004)年3月11日公開)
しかし、この方法では、任意に取り出す背景色を検出するために取り出す部分画像が問題がある場合、すなわち、気泡により生体試料が均一に観察できない部分画像や、生体試料中の有形成分が多量に存在し、背景となる部分が見えない画像を選択してしまった場合、その他の部分画像において有形成分を切り抜くことができず、合成画像が観察には不向きの画像になってしまうことがあった。また、画像からの有形成分の切り抜きは、コンピューターに高負荷な作業となりコンピューターにエラーを生じさせたり、合成画像が完成するまでにかなりの時間がかかる問題があった。
それゆえ、多数の画像を、確実にかつ迅速簡便に、合成する画像処理方法の開発が強く望まれていた。
本発明は、上記の問題点に鑑みてなされたものであり、撮影して得られる多数の画像を、確実にかつ迅速簡便に、観察あるいは解析し得るようにするための画像の処理方法を提供することを目的とする。
本発明者は、上記課題に鑑み、鋭意検討を重ねた結果、有形成分を含む試料を撮影した画像の処理を、下記の(1)〜(7)の各工程をすべて含み、かつ、(1)〜(7)の各工程の順序が変わらないように行うことで、多数の画像を、確実にかつ迅速簡便に、合成する画像処理方法を見出し、本発明を完成させるに至った。
(1)有形成分を含む試料を撮影した個別画像を撮影視野が重複しないように複数枚撮影する。
(2)合成しようとする、撮影した個別画像それぞれについて、画像を構成する画素ごとに、赤(R)、緑(G)、青(B)の光の3原色のそれぞれの強度を算出する。
(3)赤(R)、緑(G)、青(B)それぞれについて、複数の個別画像の同じ座標の画素ごとに平均値(M)を算出する。
(4)(3)で算出した赤(R)、緑(G)、青(B)それぞれの平均値(M)に定数(A)を加算して閾値上限値(M+A)を算出し、定数(A)を減算して閾値下限値(M−A)を算出する。
(5)複数の個別画像について、同じ座標の画素ごとにその個別画像の赤(R)、緑(G)、青(B)強度と(4)で算出した閾値を比較する。
(6)個別画像の画素が閾値内ならば平均値(M)を採用し、閾値を越えるならばその個別画像の赤(R)、緑(G)、青(B)強度の値を採用する。
(7)全画素について(6)の工程を実施して該個別画像を重ね合わせ、これを該個別画像すべて合成するまで繰り返すことで1枚の合成画像を作成する。
すなわち、本発明は、以下のような内容である。
[項1]
有形成分を含む試料を撮影した画像の処理方法であって、下記の(1)〜(7)の各工程をすべて含み、かつ、(1)〜(7)の各工程の順序が変わらないことを特徴とする、画像処理方法。
(1)有形成分を含む試料を撮影した個別画像を撮影視野が重複しないように複数枚撮影する。
(2)合成しようとする、撮影した個別画像それぞれについて、画像を構成する画素ごとに、赤(R)、緑(G)、青(B)の光の3原色のそれぞれの強度を算出する。
(3)赤(R)、緑(G)、青(B)それぞれについて、複数の個別画像の同じ座標の画素ごとに平均値(M)を算出する。
(4)(3)で算出した赤(R)、緑(G)、青(B)それぞれの平均値(M)に定数(A)を加算して閾値上限値(M+A)を算出し、定数(A)を減算して閾値下限値(M−A)を算出する。
(5)複数の個別画像について、同じ座標の画素ごとにその個別画像の赤(R)、緑(G)、青(B)強度と(4)で算出した閾値を比較する。
(6)個別画像の画素が閾値内ならば平均値(M)を採用し、閾値を越えるならばその個別画像の赤(R)、緑(G)、青(B)強度の値を採用する。
(7)全画素について(6)の工程を実施して該個別画像を重ね合わせ、これを該個別画像すべて合成するまで繰り返すことで1枚の合成画像を作成する。
[項2]
該合成画像の合成は、操作者により個別画像の種類および/または個別画像の枚数を任意に設定できる項1記載の画像処理方法。
[項3]
該個別画像は、同面積かつ同数の画素で構成された画像である項2記載の画像処理方法。
[項4]
工程(1)と(2)の間に以下の工程(1a)を含む、項1〜3のいずれかに記載の画像処理方法。
(1a)該個別画像は、複数の分解色で構成されるカラー画像に変換し、該カラー画像の画素を格子状のデジタルカラー画像として形成する。
[項5]
該分解色は、赤(R)、緑(G)、青(B)の光の3原色である項4記載の画像処理方法。
[項6]
該複数の光学的特徴量は、該分解色のそれぞれの強度値である項5記載の画像処理方法。
[項7]
工程(4)において、該閾値を、該平均値(M)に定数(A)を加算したものを閾値上限値(M+A)、減算したものを閾値下限値(M−A)と計算して算出する、項6記載の画像処理方法。

[項8]
複数の個別画像は、5〜500枚とする項1〜7のいずれかに記載の画像処理方法。
[項9]
該有形成分を含む生物試料は、プレート上に展開した有形成分を含む液体である項1〜8のいずれかに記載の画像処理方法。
[項10]
該試料は、尿、血液、髄液、精液、関節液、腹水、心内液、糞便液、汗液、唾液から選ばれる項1〜9のいずれかに記載の画像処理方法。
[項11]
該試料は、有形成分を染色された状態である項1〜10のいずれかに記載の画像処理方法。
[項12]
項1〜11のいずれかに記載の画像処理方法により作成した合成画像。
[項13]
項1〜11のいずれかに記載の処理方法を実行する検査システム。
[項14]
項12に記載の合成画像を表示するデータ管理システム。
本明細書でいう「試料」とは、有形成分を含む可能性があり、ユーザが検査を希望する、あらゆる試料を意図している。例えば、生物から取得される生体試料や非生物学的な試料を含む。生体試料については特に限定されるものではなく、例えば、全血液、脊髄液、前立腺液、尿、腹水、関節液、涙液、唾液、血清、血漿などを挙げることができる。特に、尿、例えば原尿、濃縮尿、尿を遠心分離した後の尿沈渣等であることが好ましい。また、非生物学的な試料としては、非生物学的性質の他の流体試料、例えば水質検査用・環境調査用等の試料等を挙げることができる。
本明細書でいう「有形成分」とは、試料中に含まれる有形の固体成分であればよく、その他の具体的な構成については限定されない。例えば、生体試料中の有形成分としては、生体試料中に分散あるいは懸濁されているものであればよい。例えば、生体試料として尿を用いた場合、正常赤血球、変形赤血球などの赤血球群、Pale細胞、Dark細胞、Glitter細胞などの白血球群、扁平上皮、移行上皮、尿細管上皮、円柱上皮などの上皮群、硝子円柱、顆粒円柱、ろう様円柱、上皮円柱、赤血球円柱、白血球円柱、脂肪円柱、空胞変性円柱、ヘモグロビン円柱、ヘモジデリン円柱、ミオグロビン円柱、ビリルビン円柱、アミロイド円柱、Bence Jones円柱、血小板円柱、細菌円柱、塩類円柱、結晶円柱、幅広円柱などの円柱群、球菌、桿菌、真菌、酵母用真菌などの菌類、トリコモナス原虫、マラリア原虫、ダニなどの寄生虫群、シュウ酸カルシウム結晶、尿酸結晶、尿酸塩、尿酸アンモニウム結晶、リン酸カルシウム結晶、リン酸アンモニウムマグネシウム結晶、ビリルビン結晶、チロシン結晶、ロイシン結晶、シスチン結晶、コレステロール結晶、2,8−ジヒドロキシアデニン(DHA)結晶、炭酸カルシウム結晶、外因性結晶などの結晶群、無晶性尿酸塩、無晶性リン酸塩などの無晶性塩類、卵円形脂肪体、脂肪球、細胞質内封入体、核内封入体、精子、マクロファージなどを挙げることができる。
個別画像の撮影方法を以下に説明する。
まず、透光板上に試料を適量を滴下し、その上にカバーグラスを重ねて置き、プレパラートを作製する。透光板の材質としては限定されず、ガラスやプラスチック製のものが好適に使用できる。プレパラートを作製する際に、有形成分を必要に応じて染色してもよい。
このプレパラートを、例えば、CCD、3CCD、CMOSなどに代表されるカメラ装置で撮影し、デジタルデータの電気信号に変換し、赤(R)、緑(G)、青(B)の3原色で構成された格子状の画像(ビットマップ画像)として、半導体メモリや固定磁気ディスク等の記憶装置に保存する。また、これらのカメラ装置はオートフォーカス機能を有することが好ましい。
1枚に撮影されるプレパラートの面積は特に限定されないが、撮影するカメラの解像度やレンズなどの倍率に依存する。例えば、生物顕微鏡(オリンパス光学社製BX−50)に20倍の対物レンズを装着して、CCDカメラ(ソニー社製XC−003)で撮影する場合には被写体の撮影範囲が0.0432mmとなる(横0.24mm、縦0.18mm)。
詳しくは、プレート面と平行にカメラまたは被写体を移動し、プレパラートを撮影した撮影視野が重複しないように、別部分を上記同様に撮影し、保存する。
撮影視野が重ならないよう被写体を移動する方法は、手動で行ってもよいが例えばステッピングモータ、サーボモータやリニアモータなどを使用して自動的に行うことが好ましい。
以上の操作を繰り返し行うことで、複数の個別画像を撮影して記憶装置に保存する。個別画像を撮影する枚数は、2枚以上で任意に決めればよいが、有形成分の量が極めて少ない際、遠心操作を行い濃縮させた状態で実施する用手検査と同程度の正確性、精密性を保証するため、通常5〜500枚であり、再現性や作業効率の観点で10〜200枚の範囲で選択されるのが好適である。
また、該合成画像の合成は、操作者により個別画像の種類(具体的には、面積やアスペクト比など)についても任意に設定してよい。
該個別画像は、同面積かつである同数の画素で構成された画像であることが好ましい。
各撮影視野においてカメラから得られた画像の電気信号を記憶装置に保存する方法は特に制限なく公知の技術を使用することができるが、赤(R)、緑(G)、青(B)の3原色で構成される小さな光の点の格子状の並び(ビットマップ画像)として記録する方法が一般的である。例示すると、CCDカメラより得られた画像の電気信号をコンピュータに取りつけられたキャプチャーボード回路によって量子化し、個別画像をビットマップ画像としてコンピュータ上の記憶装置に保存する方法が挙げられる。
本発明において、合成画像を作成する処理は典型的には次の工程によって実行される。
有形成分を含む試料を撮影した個別画像を撮影視野が重複しないように複数枚撮影し、合成しようとする撮影した個別画像それぞれについて、画像を構成する画素ごとに、赤(R)、緑(G)、青(B)の光の3原色のそれぞれの強度を算出する。
次に、赤(R)、緑(G)、青(B)それぞれについて、複数の個別画像の同じ座標の画素ごとに平均値(M)を算出する。
次に、算出した赤(R)、緑(G)、青(B)それぞれの平均値(M)に、定数(A)を加算して閾値上限値(M+A)を算出する。
このときの定数は、光源のちらつきやプレパラートの製造誤差から生じるばらつきを考慮し、下限は1以上の値が好ましく、より好ましくは5以上であり、さらに好ましくは 10以上である。上限は100以下の値が好ましく、より好ましくは50以下、さらに好ましくは30以下である。定数30以下であれば、光源のフリッカー現象による明滅の影響を回避することができ好ましい。
同様に、算出した赤(R)、緑(G)、青(B)それぞれの平均値(M)に定数(A)を減算して閾値下限値(M−A)を算出する。
このときの定数は、光源のちらつきやプレパラートの製造誤差から生じるばらつきを考慮し、下限は1以上の値が好ましく、より好ましくはより好ましくは5以上であり、さらに好ましくは10以上である。上限は100以下の値が好ましく、より好ましくは50以下、さらに好ましくは30以下である。定数30以下であれば、光源のフリッカー現象による明滅の影響を回避することができ好ましい。
次に、合成しようとする複数の個別画像それぞれについて、同じ座標の画素ごとにその個別画像の赤(R)、緑(G)、青(B)強度と上記で算出した閾値を比較する。
そして、個別画像の画素のすべての光学的特徴量の強度が閾値内ならば平均値(M)を採用し、少なくとも1つの光学的特徴量の強度が閾値を越えたならば、その個別画像の、閾値を越えた光学的特徴量の強度の値を採用する。
すなわち、赤(R)、緑(G)、青(B)の強度のすべてが、M−A<(個別画像の画素)<M+Aならば平均値(M)の色を採用する。
例えば、赤(R)のみが閾値を越えたならば、赤色の強度を持つ個別画像の画素を採用する。
また、同じ座標で複数の個別画像が閾値を外れる場合は、最も平均値から外れている個別画像の画素を使用することが好ましい。
全画素について上記の工程を実施して1枚の合成画像を作成する。
〔実施の形態1〕
本発明の一実施形態について説明すると以下の通りである。なお、本発明は、以下の実施形態に限定されるものではないことを念のため付言しておく。
(部分画像の撮影)
尿カップに採取された尿を、ピペットにより25マイクロリットル分取し、縦26mm横76mm厚み1.5mmのプレート上に25マイクロリットル滴下した。滴下した尿の上に縦22mm横22mm厚み0.17mmのカバーグラスを載せ、尿を均一に広げ、プレパラートを作製した。
できあがった観察用スライドを生物顕微鏡(オリンパス社製BX−50)の観察ステージに固定し、観察ステージを手動によりフォーカスが合うように位置を調整した。
顕微鏡に装着した対物レンズは、20倍の対物レンズ(オリンパス社製UPlan Fl20x)である。顕微鏡には、カメラアダプタを取り付け、CCDカメラ(ソニー社製XC−003)を取り付けた。
本実施例での機器構成で得られる画像サイズは、横240マイクロメートル、縦180マイクロメートルであった。
観察ステージを前後左右方向に0.5mmずつ移動させて、縦横10×10の撮影点に移動し、それぞれの撮影点において上下方向のレンズ移動を行い、スライド上の尿中有形成分に対し焦点を合わせ、CCDカメラ(ソニー社製XC−003)を用いて撮影を行った。
それぞれの撮影点においてCCDカメラで得られた画像の電気信号を、コンピュータに取り付けられた画像取り込みキャプチャーボード回路にて量子化し、個別画像を赤(R)、緑(G)、青(B)の色の3原色のデータの格子状の集まりとして、コンピュータ上のRAMに保存した。
上記手順を繰返し行うことで、合計50枚の画像をコンピュータ上のRAMに保存した。
こうして得られた個別画像のうち12枚分を図1〜図12に示す。
(合成画像の作成)
合成する撮影した個別画像それぞれについて、画像を構成する画素ごとに、赤(R)、緑(G)、青(B)の光の3原色のそれぞれの強度を算出する工程を実施した。
次に、赤(R)、緑(G)、青(B)それぞれについて、複数の個別画像の同じ座標の画素ごとに平均値(M)を算出した。
算出した赤(R)、緑(G)、青(B)それぞれの平均値(M)に定数(A)を加算して閾値上限値(M+A)を算出した。このときの定数は、20であった。
算出した赤(R)、緑(G)、青(B)それぞれの平均値(M)に定数(A)を減算して閾値下限値(M−A)を算出した。このときの定数は、15であった。
複数の個別画像について、同じ座標の画素ごとにその個別画像の赤(R)、緑(G)、青(B)強度と算出した閾値を比較した。
個別画像の画素が閾値内ならば平均値(M)を採用し、閾値を越えるならばその個別画像の赤(R)、緑(G)、青(B)強度の値を採用した。すなわち、赤(R)、緑(G)、青(B)強度のすべてが、M−A<(個別画像の画素)<M+Aならば平均値(M)の色を、外れるならば、その外れた色強度を持つ個別画像の画素を採用する。同じ座標で複数の個別画像が閾値を外れる場合は、最も平均値から外れている個別画像の画素を使用した。
全画素について上記工程を実施して1枚の合成画像を作成した。
以上の操作を、図1〜図12に示す12枚の個別画像に対して行って得た合成画像を図113に示す。
〔実施の形態2〕
本発明に係る自動焦点調節機能を持った分析装置での合成画像の作製について、例を挙げて詳細に説明する。
以下に説明する自動焦点調節機能を持った自動分析装置を用いて得られた個別画像のうち13枚分を図15〜図27に示す。また〔実施の形態1〕と同様にして、図15〜図27に示す13枚の個別画像に対して行って得た合成画像は図28のようになった。分析はスムーズに進み、1回の操作で完結した。
比較例として、特許文献2の技術では、図29のような画像となった。当該技術では、有形成分と認識した成分を切り出し、予め決めた背景用画像に合成するため、左下のカメラのノイズも切り出してしまい、個別画像と比較し全体的にノイズの乗った鮮明でない画像が得られた。しかし、本特許技術を使用した図28では、背景を平均化し画像全体を重ね合わせていくため、背景との光学的特徴量の差が大きい有形成分のみが撮影した画像のほぼ中央値を取る背景色上に特異的に合成されていくため、個別画像と比較しても同程度の背景色を持つ合成画像が得られた。
また、上記〔実施の形態2〕と同じ自動焦点調節機能を持った自動分析装置を用いて、特許文献2の技術で分析を進めると、エラーが発生して操作が停止し、やり直しを余儀なくされた。
以下、図面を用いて、自動焦点調節機能を持った分析装置について詳細に例示する。

図28は、本発明に係る分析装置の一実施形態の構成を模式的に示す図である。同図に示すように、分析装置100は、対物レンズ1,合焦検出部2,駆動部3,自動合焦部4,制御部5,判定部6,撮像部7,分類部8,記憶部9,出力部10,ステージ11,光源12を備えている。ステージ11上には、プレパラート20が載置されている。なお、図2に示すように、プレパラート20は、スライドガラス21とカバーガラス22とから構成されており、これらの間に試料23が保持されている。
対物レンズ1は、ステージ11上の試料23を観察するための対物レンズであればよく、その具体的な構成は特に限定されず、従来公知のレンズを用いることができる。
合焦検出部2は、対物レンズ1の合焦状態、特に、試料23に対する合焦状態を検出する合焦検出手段として機能するものである。合焦状態を検出する手法については、特に限定されるものではなく、従来公知の合焦状態の検出手法を利用することができる。例えば、合焦検出部2は、自動合焦動作中における輝度レベルの分散値を評価値として決め、この評価値が最小値となるときを検出し、その最小値となったときの対物レンズ1の位置が合焦状態であると判断するように構成できる。なお、合焦状態の検出手法については、後述の自動合焦部4についての説明時でも詳説する。
駆動部3は、対物レンズ1と試料23と相対位置を3次元方向に変動させる駆動手段として機能するものである。換言すれば、ステージ11と対物レンズ1との間の相対位置を3次元方向に変動させる駆動手段として機能するものともいえる。かかる駆動部3としては、従来公知の駆動手段を好適に利用可能であり、例えば、サーボモーター、ステッピングモーターやリニアモーターなど機械的に駆動するものを挙げることができる。
また、本実施の形態では、駆動部3は、ステージ11を移動させることにより、対物レンズ1と試料23との相対位置を変動させる構成であるが、これに限定されるものではない。例えば、対物レンズ1を駆動させる構成であってもよいし、対物レンズ1とステージ11の両方を駆動させてもよい。ただし、構成の容易さ、駆動の安定性等の観点から、ステージ11を駆動させる構成が好ましい。
また、本明細書では、説明の便宜上、図1に示すように、対物レンズ1と試料23とを結ぶ鉛直方向をz軸方向とし、プレパラート20に平行な水平方向をxy軸方向とする。
自動合焦部4は、合焦検出部2の検出結果に基づいて、駆動部3を制御して対物レンズ1を自動的に合焦させる自動合焦手段として機能するものである。自動合焦部4が行う自動合焦動作の方式は、従来公知の自動合焦方式を利用することができ、その具体的な構成については特に限定されるものではない。例えば、アクティブオートフォーカス方式、パッシブオートフォーカス方式の両方を利用できるが、好ましくは、パッシブオートフォーカス方式である。
また、上記パッシブオートフォーカス方式を用いた場合における、具体的な合焦状態の検出方法としては、(i)撮影対象の光強度を電気信号に変換して、電気信号の変化を利用して合焦点を検出する方法、(ii)位相差検出を行い、位相差解析を利用して合焦点を検出する方法、(iii)光源とは別に補助発光装置を内蔵し撮影対象からの反射光を測定することで距離換算し、算出された距離に基づいて合焦点を検出する方法などが挙げられる。これらの中でも、好ましくは、撮影対象の光強度を電気信号に変換して、電気信号の変化を利用して合焦点を検出する方法である。さらにいえば、撮影対象となる画像撮影用の撮像素子の光強度をコントラストとしてとらえ、コントラストの高周波成分の検出で行う方式、いわゆるコントラスト方式であることが好ましい。すなわち、自動合焦部4による自動合焦動作は、コントラスト方式自動合焦点調節機能により行われることが好ましい。
また、上記(ii)位相差解析を利用する方法としては銀塩フィルム、光電子変換素子等の撮像素子を配置する撮像面と等価な面の近傍に、ラインセンサー等の撮影画像検出用センサーを一対または複数対配置して対物レンズを透過した光のうち異なる部位の光束を異なるセンサーに導き、対を成すセンサー上の撮影対象の位置のずれから対物レンズの焦点を検出する位相差検出方式が挙げられる。
さらに、上記(iii)撮影対象からの反射光よりカメラから撮影対象までの距離を算出し、算出された距離に基づいて合焦点を検出する方法としては、赤外線等の補助光を発光する装置を内蔵し、撮影対象から反射された赤外線の入射角度を距離に換算する三角測量に基づいて撮影対象との距離の絶対値を算出する赤外線方式が挙げられる。
つまり、上述した合焦検出部2は、自動合焦部4の自動合焦方式に合わせて、上述した合焦状態の検出方法のうち、適切な手法を選択し構成することができる。
また、本実施の形態では、自動合焦部4は、駆動部3を制御して、ステージ11を駆動することで対物レンズ1と試料23とのz軸方向の相対距離を変動させて自動合焦動作を行う構成である。このステージ11の移動方式には、(i)連続的な移動方式と、(ii) 一定距離ずつ移動する段階的な移動方式があり、どちらの方式を選ぶかについては、特に限定されるものではない。また、どちらの方式を選択しても、その具体的な移動方法については従来公知のものを用いることができ、特に限定されない。例えば、(i)連続的な移動方式としては、ステージ11を極めて微小な所定周期毎に移動させ、各周期で、焦点状態を評価し、最も良好な焦点状態を示す位置を合焦状態と設定する方式を挙げることができる。一方、(ii)段階的な移動方式としては、予め定めた複数の位置にオフセット駆動を行い、その中での焦点状態を評価し、最も良好な焦点状態を示す移動位置を合焦点状態と設定する方式を挙げることができる。
制御部5は、分析装置100の各手段を制御する制御手段として機能するものである。例えば、制御部5は、自動合焦部4及び/又は駆動部2を制御して、スライドガラス21とカバーガラス22との間における、所定の分析開始位置から予め設定された分析終了位置まで、自動合焦動作を行うように制御する制御手段として機能する。ここで、「分析開始位置」と「分析終了位置」とは、スライドガラスとカバーガラスとの間の鉛直方向の高さ位置(z軸上の位置)が異なるが、水平位置(xy軸上の位置)は同一な位置である。また、分析開始位置・分析終了位置の具体的な位置については、ユーザが検査目的や検査対象等に応じて任意に設定可能であり、特に限定されるものではない。
判定部6は、試料23中に有形成分が存在するか否かを判定する判定手段として機能するものである。例えば、上記自動合焦動作において、合焦検出部2によって合焦状態が検出された場合、当該合焦位置に有形成分が存在すると判定する判定手段として機能するものといえる。
撮像部7は、試料23についての画像を取得するための撮像手段として機能するものである。例えば、撮像部7は、判定部6によって有形成分が存在すると判定された場合、合焦位置に存在する当該有形成分の画像を取得するものであることが好ましい。さらに、判定部6によって当該視野領域内には有形成分が存在しないと判定された場合、上記自動合焦動作が完了した分析終了位置において、試料の画像を取得するものであることが好ましい。
撮像部7としては、従来公知の撮像手段を用いることができ、その具体的な構成については特に限定されるものではない。例えば、光に反応する半導体素子を使って映像を電気信号に変換し、デジタルデータとして記憶媒体に記憶することができる撮像手段を用いることが好ましい。かかる撮像手段としては、例えば、デジタルスチルカメラ、デジタルビデオカメラ、CCDデジタルカメラ、及びCMOSデジタルカメラ等を挙げることができる。
分類部8は、撮像部7によって取得された画像に基づき、試料23中の有形成分を分類する分類手段として機能するものである。分類部8は、試料23中に含まれる有形成分を撮像部7により撮影した画像を基に、自動で分類及び/又は計測する有形成分分類手段として機能するものと換言できる。かかる分類部8の具体的な分類動作については、従来公知の分類手法を利用することができ、特に限定されるものではない。
例えば、分類部8は、有形成分の大きさ、形態、色などに基づいて分類する分類プログラムを用いて上記分類動作を実施できる。上記分類プログラムは、コンピューターソフトとして提供されること好ましい。上記分類プログラムは、例えば、撮影した有形成分において、(i)RGB値を明度と色度に分離する色抽出工程、(ii)穴埋め、線分の書き込み、画像の分離からなる2値画像処理工程、(iii)面積、円形度係数、円相当径、周囲長、絶対最大量、フェレ径X/Y比、最大弦長X/Y比、短軸長/長軸長比等の特徴量算出工程を実施し、予め設定しておいた有形成分の設定値と比較することで分類するものであることが好ましい。さらに上記分類プログラムは、最適な分類ができるようにこのプログラムに学習機能を有しているものであることが好ましい。かかる分類プログラムとしては、例えば、上記特許文献1に開示のものを利用することができる。
記憶部9は、撮像部7によって撮影された画像や、上記分類プログラム、分析装置100の分析結果等の各種データを格納するための記憶手段として機能するものである。かかる記憶部9としては、従来公知のメモリ、記憶部材を用いることができ、その具体的な構成については特に限定されるものではない。また、ハードディスクのように内蔵型であってもよいし、外部記憶装置等の外付型であっても構わない。すなわち、記憶部9としては、例えばハードディスク、光磁気ディスク、DVD、CD−ROM、フラッシュメモリー、デジタルビデオディスク等を用いることができる。
出力部10は、自動合焦動作等の機械動作、取得した画像の一覧表示や取得した画像を合成した画像の表示、画像及び計測結果の保存等の各手段・部材についての付帯制御、並びに、分析結果・分類結果等の分析装置100に関する各種の情報を外部へ出力・表示するためのものである。かかる出力部10としては、従来公知のディスプレイを好適に用いることができる。出力部10としてディスプレイを用いる場合には、メニュー選択によって、測定結果や画像データの他、時刻、現在の装置の状況(各検体の測定状況、各検体又は選択した検体の測定終了予定時刻又は必要残時間、廃液タンクの廃液量、純水タンクの残量、各試薬の残量、洗剤の残量)等を表示する機能や、選択指定した情報のみを離れた場所から読み取れるように拡大表示する機能を付加してもよい。なお、必要に応じて、従来公知の印刷手段を備えて、必要な情報をハードコピー(紙等)として出力できる構成(印刷手段)を備えていてもよい。
ステージ11は、プレパラート20を載置するための試料搭載手段として機能するものである。かかるステージ11としては、例えば、従来公知の顕微鏡等に用いられる試料ステージを好適に用いることができ、その具体的な構成については特に限定されない。また、ステージ11は、視野移動を目的としてx,y軸方向へ移動可能であり、また焦点調節を目的としてz軸方向へ移動可能であるという3次元の移動が可能なように構成されているものであればよい。なお、ステージ11の3次元移動は、駆動部3によって駆動される構成であればよい。
光源12は、ステージ11の下方に配置されており、試料23を下方から照射し、分析装置100の分析動作や撮像部7の撮影に十分な光量を示すものであればよく、従来公知の光源を用いることができ、その具体的な構成は特に限定されるものではない。例えば、ハロゲンランプ、キセノンランプ、タングステンランプ、発光ダイオード等を用いることができる。これらの中でも、光源寿命の長い発光ダイオードがより好ましい。
また、スライドガラス21とカバーガラス22としては、従来公知のプレパラートに使用可能なものを用いることができ、その具体的な構成は特に限定されるものではない。例えば、東洋紡績製のU−SCANNER(登録商標)専用スライドを好適に用いることができる。
なお、本実施の形態では図示しないが、分析装置100には、試料23を採取し、プレパラート20に分注する分注部(分注手段)、プレパラートを供給するプレパラート供給部(供給手段)、プレパラート20をステージ11まで搬送する搬送部(搬送手段)を備えている構成であってもよい。より好ましくは、これらの部材に加え、試料を採取した容器を複数架設するためのラックを保持するラック保持部(保持手段)と、当該ラックを装置内で搬送するためのラック搬送部(搬送手段)を備えていてもよい。これら構成を有することにより、試料をセットするだけで試料の採取から結果表示まで自動で実施することが可能となる。上記各部材としては、従来公知の自動分析装置に用いられる部材を用いることができ、その具体的な構成については特に限定されるものではない。例えば、東洋紡績製のU−SCANNER(登録商標)に用いられる各種部材を備えることができる。
次に、分析装置100の具体的な分析動作について説明する。なお、以下、説明の便宜上、本実施の形態では、尿中の有形成分を分析する場合を例に挙げて説明する。勿論、本発明はこれに限定されるものではない。
最初に、試料23のプレパラート20を作成する手順から説明する。まず、不図示の容器(例えば、試験管)を複数架設するラックから尿を、所定の反応槽(不図示)に必要量分注する。このとき、均一な試料を分注するため、尿を攪拌操作後に採取し、分注してもよい。また、予めバーコードなど個体識別手段が貼付してある容器を用いる場合はバーコード読取装置にて分注時に読み取ることができる。
次に、尿中の有形成分を染色するための染色液(例えば、東洋紡績製のU−SCANNER(登録商標)専用染色液)を上記反応槽に分注し、尿中有形成分の染色を実施する。反応槽中にて、よく混和後、反応槽から染色後の尿を一定量採取し、スライドガラス21に分注し、カバーガラス22を載置して、均一に展開させるために数分静置して、試料23が保持されたプレパラート20を作成する。
上述の手順で作成されたプレパラート20をステージ11に載置する。上述したように、ステージ11は、プレパラート20をxyz軸座標方向、すなわち3次元方向に自在に移動・停止できるように構成されている。プレパラート20をステージ11に載置後、光源12からの照射光をプレパラート20に集光させる。ステージ11が駆動し、撮影視野が重複しないように50枚の個別画像が撮影された。
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
最後に、上記分析装置100の各ブロック、特に合焦検出部2,自動合焦部4,制御部5,判定部6,及び分類部8は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
すなわち、分析装置100は、各機能を実現する制御プログラムの命令を実行するCPU(central processing unit)、上記プログラムを格納したROM(read only memory)、上記プログラムを展開するRAM(random access memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアである分析装置100の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、上記分析装置100に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
また、分析装置100を通信ネットワークと接続可能に構成し、上記プログラムコードを、通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
以上のように、本発明によれば、多種多様な試料中の有形成分について、独自の合成処理により、撮影して得られる多数の画像を、確実にかつ迅速簡便に、観察あるいは解析可能である。このため、医療・診断機器等の医療分野をはじめとして、製薬、食品、環境分野等の広範な分野において産業上の利用可能性が存在する。
実施例1における12枚の部分画像の1つを示す。 実施例1における12枚の部分画像の他の1つを示す。 実施例1における12枚の部分画像のさらに他の1つを示す。 実施例1における12枚の部分画像のさらに他の1つを示す。 実施例1における12枚の部分画像のさらに他の1つを示す。 実施例1における12枚の部分画像のさらに他の1つを示す。 実施例1における12枚の部分画像のさらに他の1つを示す。 実施例1における12枚の部分画像のさらに他の1つを示す。 実施例1における12枚の部分画像のさらに他の1つを示す。 実施例1における12枚の部分画像のさらに他の1つを示す。 実施例1における12枚の部分画像のさらに他の1つを示す。 実施例1における12枚の部分画像のさらに他の1つを示す。 図1〜図12に示した12枚の部分画像の合成画像を示す。 実施例2における13枚の部分画像の1つを示す。 実施例2における13枚の部分画像の他の1つを示す。 実施例2における13枚の部分画像のさらに他の1つを示す。 実施例2における13枚の部分画像のさらに他の1つを示す。 実施例2における13枚の部分画像のさらに他の1つを示す。 実施例2における13枚の部分画像のさらに他の1つを示す。 実施例2における13枚の部分画像のさらに他の1つを示す。 実施例2における13枚の部分画像のさらに他の1つを示す。 実施例2における13枚の部分画像のさらに他の1つを示す。 実施例2における13枚の部分画像のさらに他の1つを示す。 実施例2における13枚の部分画像のさらに他の1つを示す。 実施例2における13枚の部分画像のさらに他の1つを示す。 実施例2における13枚の部分画像のさらに他の1つを示す。 図14〜図26に示した13枚の部分画像の合成画像を示す。 本発明の一実施形態に係る分析装置の構成を模式的に示す図である。 図14〜図26に示した13枚の部分画像の特許文献2による合成画像を示す。
符号の説明
1 対物レンズ
2 合焦検出部(合焦検出手段)
3 駆動部(駆動手段)
4 自動合焦部(自動合焦手段)
5 制御部(制御手段)
6 判定部(判定手段)
7 撮像部(撮像手段)
8 分類部(分類手段)
9 記録部
10 出力部
11 ステージ
12 光源
20 プレパラート
21 スライドガラス
22 カバーガラス
23 試料
100 分析装置

Claims (14)

  1. 有形成分を含む試料を撮影した画像の処理方法であって、下記の(1)〜(7)の各工程をすべて含み、かつ、(1)〜(7)の各工程の順序が変わらないことを特徴とする、画像処理方法。
    (1)有形成分を含む試料を撮影した個別画像を撮影視野が重複しないように複数枚撮影する。
    (2)合成しようとする、撮影した個別画像それぞれについて、画像を構成する画素ごとに、赤(R)、緑(G)、青(B)の光の3原色のそれぞれの強度を算出する。
    (3)赤(R)、緑(G)、青(B)それぞれについて、複数の個別画像の同じ座標の画素ごとに平均値(M)を算出する。
    (4)(3)で算出した赤(R)、緑(G)、青(B)それぞれの平均値(M)に定数(A)を加算して閾値上限値(M+A)を算出し、定数(A)を減算して閾値下限値(M−A)を算出する。
    (5)複数の個別画像について、同じ座標の画素ごとにその個別画像の赤(R)、緑(G)、青(B)強度と(4)で算出した閾値を比較する。
    (6)個別画像の画素が閾値内ならば平均値(M)を採用し、閾値を越えるならばその個別画像の赤(R)、緑(G)、青(B)強度の値を採用する。
    (7)全画素について(6)の工程を実施して該個別画像を重ね合わせ、これを該個別画像すべて合成するまで繰り返すことで1枚の合成画像を作成する。
  2. 該合成画像の合成は、操作者により個別画像の種類および/または個別画像の枚数を任意に設定できる請求項1記載の画像処理方法。
  3. 該個別画像は、同面積かつ同数の画素で構成された画像である請求項2記載の画像処理方法。
  4. 工程(1)と(2)の間に以下の工程(1a)を含む、請求項1〜3のいずれかに記載の画像処理方法。
    (1a)該個別画像は、複数の分解色で構成されるカラー画像に変換し、該カラー画像の画素を格子状のデジタルカラー画像として形成する。
  5. 該分解色は、赤(R)、緑(G)、青(B)の光の3原色である請求項4記載の画像処理方法。
  6. 該複数の光学的特徴量は、該分解色のそれぞれの強度値である請求項5記載の画像処理方法。
  7. 工程(4)において、該閾値を、該平均値(M)に定数(A)を加算したものを閾値上限値(M+A)、減算したものを閾値下限値(M−A)と計算して算出する、請求項6記載の画像処理方法。
  8. 複数の個別画像は、5〜500枚とする請求項1〜7のいずれかに記載の画像処理方法。
  9. 該有形成分を含む生物試料は、プレート上に展開した有形成分を含む液体である請求項1〜8のいずれかに記載の画像処理方法。
  10. 該試料は、尿、血液、髄液、精液、関節液、腹水、心内液、糞便液、汗液、唾液から選ばれる請求項1〜9のいずれかに記載の画像処理方法。
  11. 該試料は、有形成分を染色された状態である請求項1〜10のいずれかに記載の画像処理方法。
  12. 請求項1〜11のいずれかに記載の画像処理方法により作成した合成画像。
  13. 請求項1〜11のいずれかに記載の処理方法を実行する検査システム。
  14. 請求項12に記載の合成画像を表示するデータ管理システム。
JP2007305316A 2007-11-27 2007-11-27 画像処理方法 Active JP4085338B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007305316A JP4085338B1 (ja) 2007-11-27 2007-11-27 画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007305316A JP4085338B1 (ja) 2007-11-27 2007-11-27 画像処理方法

Publications (2)

Publication Number Publication Date
JP4085338B1 JP4085338B1 (ja) 2008-05-14
JP2009128266A true JP2009128266A (ja) 2009-06-11

Family

ID=39445753

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007305316A Active JP4085338B1 (ja) 2007-11-27 2007-11-27 画像処理方法

Country Status (1)

Country Link
JP (1) JP4085338B1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015118608A (ja) * 2013-12-19 2015-06-25 東洋紡株式会社 画像処理方法、画像処理装置、臨床検査システム、およびプログラム
WO2016157982A1 (ja) * 2015-03-31 2016-10-06 シスメックス株式会社 尿分析システム、撮像装置、細胞撮像装置、尿分析方法、管理装置および情報処理方法
JP2020071037A (ja) * 2018-10-29 2020-05-07 アークレイ株式会社 情報処理装置、測定システム、及びプログラム
WO2021060358A1 (ja) * 2019-09-26 2021-04-01 東洋紡株式会社 分析装置およびプログラム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109387517B (zh) * 2017-08-10 2023-08-29 爱科来株式会社 分析装置和分析方法

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015118608A (ja) * 2013-12-19 2015-06-25 東洋紡株式会社 画像処理方法、画像処理装置、臨床検査システム、およびプログラム
WO2016157982A1 (ja) * 2015-03-31 2016-10-06 シスメックス株式会社 尿分析システム、撮像装置、細胞撮像装置、尿分析方法、管理装置および情報処理方法
US10585032B2 (en) 2015-03-31 2020-03-10 Sysmex Corporation Urine analysis system, image capturing apparatus, urine analysis method
JP2020071037A (ja) * 2018-10-29 2020-05-07 アークレイ株式会社 情報処理装置、測定システム、及びプログラム
JP7175158B2 (ja) 2018-10-29 2022-11-18 アークレイ株式会社 情報処理装置、測定システム、及びプログラム
WO2021060358A1 (ja) * 2019-09-26 2021-04-01 東洋紡株式会社 分析装置およびプログラム
JPWO2021060358A1 (ja) * 2019-09-26 2021-04-01

Also Published As

Publication number Publication date
JP4085338B1 (ja) 2008-05-14

Similar Documents

Publication Publication Date Title
JP4911172B2 (ja) 分析装置及びその利用
DK3018520T3 (en) DIGITAL MICROSCOPE
JP4085297B2 (ja) 尿中有形成分分類装置
CN102053356B (zh) 用于具有增强景深的成像的系统和方法
CN108139650A (zh) 线扫描成像中的实时聚焦
JP5259207B2 (ja) 細胞画像解析装置及びその方法並びにそのソフトウェア
JP4085338B1 (ja) 画像処理方法
KR20200041983A (ko) 실시간 오토포커스 포커싱 알고리즘
CN101918809A (zh) 识别和处理微粒的方法和设备
JP2024019639A (ja) 顕微鏡システム、プログラム、及び、投影画像生成方法
EP2726931A1 (en) Image quality optimization of biological imaging
JP2009122115A (ja) 細胞画像解析装置
CN111542742B (zh) 载片架确定系统
JP6277702B2 (ja) 画像処理方法、画像処理装置、臨床検査システム、およびプログラム
WO2014196097A1 (ja) 画像処理システム、画像処理装置、プログラム、記憶媒体及び画像処理方法
JP2009128267A (ja) 画像処理方法
JP2005227097A (ja) 細胞画像解析装置
WO2021148465A1 (en) Method for outputting a focused image through a microscope
JP5343762B2 (ja) 制御装置、およびその制御装置を用いた顕微鏡システム
WO2018198253A1 (ja) 画像処理装置、撮像システム、画像処理方法、及び画像処理プログラム
EP4396792A1 (en) System and method for identifying and counting biological species
JP2008111833A (ja) 尿中有形成分分類装置
KR101873318B1 (ko) 세포 이미징 장치 및 그 방법
JP2010054426A (ja) 疾患の観察方法
CN116026806B (zh) 一种荧光显微系统

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080206

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110228

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4085338

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110228

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120229

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130228

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140228

Year of fee payment: 6

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350