JP2005173561A - カラー画像取得方法及び共焦点レーザ顕微鏡 - Google Patents

カラー画像取得方法及び共焦点レーザ顕微鏡 Download PDF

Info

Publication number
JP2005173561A
JP2005173561A JP2004309586A JP2004309586A JP2005173561A JP 2005173561 A JP2005173561 A JP 2005173561A JP 2004309586 A JP2004309586 A JP 2004309586A JP 2004309586 A JP2004309586 A JP 2004309586A JP 2005173561 A JP2005173561 A JP 2005173561A
Authority
JP
Japan
Prior art keywords
image data
confocal
color
sample
height
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004309586A
Other languages
English (en)
Other versions
JP2005173561A5 (ja
JP4885439B2 (ja
Inventor
Wataru Nagata
渉 永田
Akihiro Kitahara
章広 北原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2004309586A priority Critical patent/JP4885439B2/ja
Publication of JP2005173561A publication Critical patent/JP2005173561A/ja
Publication of JP2005173561A5 publication Critical patent/JP2005173561A5/ja
Application granted granted Critical
Publication of JP4885439B2 publication Critical patent/JP4885439B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Microscoopes, Condenser (AREA)
  • Image Input (AREA)
  • Image Processing (AREA)

Abstract

【課題】効率的にカラー共焦点画像を取得すること。
【解決手段】対物レンズ7と試料2との高さ方向の間隔を第1の所定の間隔Δh毎に変化しながら複数の共焦点画像データを取得し、第1の所定の間隔Δhと異なる第2の所定の間隔α×Δh毎に複数のカラー画像データを取得し、共焦点画像データの各画素毎に最高輝度を検出した高さ情報に最も近い高さ情報で取得したカラー画像データを検索し、当該カラー画像データから各画素毎のカラー情報を抽出して高さマップMから生成される3次元画像に貼り付けることによりカラー共焦点画像データを作成する。
【選択図】 図4

Description

本発明は、カラーの共焦点画像データを取得するカラー画像取得方法及びこの方法を用いた共焦点レーザ顕微鏡に関する。
カラー共焦点画像を生成し、表示する共焦点レーザ顕微鏡としては、例えば特許文献1に開示されている。この特許文献1には、試料を載せた試料ステージを1ステップづつ光軸方向(Z方向)に移動し、レーザ光を試料上に走査させて試料からの光をピンホールを通して検出して各高さ情報毎の各共焦点画像を取得し、かつ同ステップづつ光軸方向(Z方向)に移動させたときに白色光を試料上に照射して試料からの光(試料像)を撮像して各カラー画像を取得し、共焦点画像とカラー画像とを組み合わせることによりカラー共焦点画像を生成し、表示することが開示されている。
特開2000−330027号公報
しかしながら、特許文献1では、カラー共焦点画像を生成し、表示するために、試料を載せた試料ステージを1ステップづつ光軸方向に移動する毎に共焦点画像を取得すると共にカラー画像を取得しなければならない。このため、これら共焦点画像及びカラー画像を取得するのに時間を要し、効率的にカラー共焦点画像の生成、表示を行うことができない。
本発明は、対物レンズと試料との高さ方向の間隔を変化させながらレーザ光を対物レンズを通して試料に照射し、試料からの光をピンホールを通して第1の所定間隔毎に検出して複数の共焦点画像データを取得し、照明光を対物レンズを通して試料に照射し、試料からの光を第1の所定間隔と異なる第2の所定間隔毎に撮像して複数のカラー画像データを順次取得し、共焦点画像データの各画素毎に最高輝度を検出した高さ情報に最も近い高さ情報で取得したカラー画像データを検索し、検出したカラー画像データと共焦点画像データとを用いてカラー共焦点画像データを作成するカラー画像取得方法である。
本発明は、対物レンズと試料との高さ方向の間隔を変化させながらレーザ光を対物レンズを通して試料に照射し、試料からの光をピンホールを通して第1の所定間隔毎に検出して複数の共焦点画像データを取得し、照明光を対物レンズを通して試料に照射し、試料からの光を第2の所定間隔毎に撮像して複数のカラー画像データを順次取得し、対物レンズを通して複数の共焦点画像データを取得する共焦点光学系及び対物レンズを通して複数のカラー画像データを取得する光学観察系の軸上色収差情報とに基づいた高さ位置に最も近い高さ位置で取得したカラー画像データを検索し、検索したカラー画像データと共焦点画像データとを用いてカラー共焦点画像データを作成するカラー画像取得方法である。
本発明は、対物レンズと試料との高さ方向の間隔を変化させながらレーザ光を対物レンズを通して試料に照射し、試料からの光をピンホールを通して第1の所定間隔毎に検出して複数の共焦点画像データを取得し、対物レンズと試料との間隔が第1の所定間隔と異なる第2の所定の間隔毎に、照明光を対物レンズを通して試料に照射し、試料からの光を撮像して複数のカラー画像データを取得し、試料に対する高さ方向の全ての複数の共焦点画像データ及び複数のカラー画像データの取得を終了すると、複数の共焦点画像データから各画素別に各最高輝度を検出し、これら最高輝度及び複数の共焦点画像データの各高さ情報に基づいて試料の高さマップを作成し、共焦点画像データの各画素毎に最高輝度を検出した高さ情報に最も近い高さ情報で取得したカラー画像データを検索し、検索されたカラー画像データから各画素毎のカラー情報を抽出して高さマップに貼り付けることによりカラー共焦点画像データを作成するカラー画像取得方法である。
本発明は、対物レンズと試料との高さ方向の間隔を変化させながらレーザ光を対物レンズを通して試料に照射し、試料からの光をピンホールを通して第1の所定間隔毎に検出して複数の共焦点画像データを取得し、対物レンズと試料との間隔が第2の所定の間隔毎に、照明光を対物レンズを通して試料に照射し、試料からの光を撮像して複数のカラー画像データを取得し、試料に対する高さ方向の全ての複数の共焦点画像データ及び複数のカラー画像データの取得を終了すると、複数の共焦点画像データから各画素別に各最高輝度を検出し、これら最高輝度及び複数の共焦点画像データの各高さ情報に基づいて試料の高さマップを作成し、対物レンズを通して複数の共焦点画像データを取得する共焦点光学系及び対物レンズを通して複数のカラー画像データを取得する光学観察系の軸上色収差情報とに基づいた高さ位置に最も近い高さ位置で取得した前記カラー画像データを検索し、検索されたカラー画像データから各画素毎のカラー情報を抽出して高さマップに貼り付けることによりカラー共焦点画像データを作成するカラー画像取得方法である。
本発明は、レーザ光を対物レンズを通して試料に照射し、試料からの光をピンホールを通して検出して共焦点画像データを取得するレーザ共焦点顕微鏡において、照明光を対物レンズを通して試料に照射し、試料からの試料像を観察する光学観察系と、光学観察系により観察された試料像を撮像するカラー撮像装置と、試料と対物レンズとの高さ方向の間隔を変化させる移動機構と、試料と対物レンズとの高さ方向の間隔が第1の所定の間隔になる毎に、共焦点画像データを取得する共焦点画像取得制御部と、試料と対物レンズとの高さ方向の間隔が第1の所定の間隔と異なる第2の所定の間隔になる毎に、カラー撮像装置の撮像により取得されるカラー画像データを取得するカラー画像取得制御部と、共焦点画像データの各画素毎に最高輝度を検出した高さ情報に最も近い高さ情報で取得したカラー画像データを検索し、検出したカラー画像データと共焦点画像データとを用いてカラー共焦点画像データを作成するカラー共焦点画像作成部とを具備したレーザ共焦点顕微鏡である。
本発明は、レーザ光を対物レンズを通して試料に照射し、試料からの光をピンホールを通して検出して共焦点画像データを取得するレーザ共焦点顕微鏡において、照明光を対物レンズを通して試料に照射し、試料からの試料像を観察する光学観察系と、光学顕微鏡系により観察された試料像を撮像するカラー撮像装置と、試料と対物レンズとの高さ方向の間隔を変化させる移動機構と、試料と対物レンズとの高さ方向の間隔が第1の所定の間隔になる毎に、共焦点画像データを取得する共焦点画像取得制御部と、試料と対物レンズとの高さ方向の間隔が第2の所定の間隔になる毎に、カラー撮像装置の撮像により取得されるカラー画像データを取得するカラー画像取得制御部と、対物レンズを通して複数の共焦点画像データを取得する共焦点光学系と、対物レンズを通して複数のカラー画像データを取得する光学観察系との軸上色収差情報を記憶する軸上色収差情報記憶部と、複数の共焦点画像データの各画素毎に最高輝度を検出したときの高さ情報と、軸上色収差情報記憶部に記憶されている軸上色収差情報とに基づいた高さ位置に最も近い高さ位置で取得したカラー画像データを検索し、検索されたカラー画像データと共焦点画像データとを用いてカラー共焦点画像データを作成するカラー共焦点画像作成部とを具備したレーザ共焦点顕微鏡である。
本発明は、レーザ光源から出力されたレーザ光を対物レンズを通して試料に照射し、試料からの光を対物レンズからピンホールを通して共焦点画像データを取得するレーザ共焦点顕微鏡において、白色光の照明光を出力する光源と、光源から出力された照明光を対物レンズを通して試料に照射し、試料からの試料像を観察する光学観察系と、光学観察系により観察された試料像を撮像するカラー撮像装置と、試料と対物レンズとの高さ方向の間隔を変化させる移動機構と、試料と対物レンズとの高さ方向の間隔を変化させながら第1の所定の間隔に到達する毎に共焦点画像データを取得する共焦点画像取得制御部と、試料と対物レンズとの高さ方向の間隔が第1の所定の間隔と異なりかつ対物レンズの焦点深度以内に設定された第2の所定の間隔になる毎にカラー撮像装置から出力される画像信号を取り込んでカラー画像データを取得するカラー画像取得制御部と、共焦点画像取得制御部により取得される共焦点画像データを複数毎保存する第1のメモリと、カラー画像取得制御部により取得されるカラー画像データを複数毎保存する第2のメモリと、第1のメモリに保存された複数の共焦点画像データから各画素別に各最高輝度を検出し、これら最高輝度から成るレーザ輝度情報を作成するレーザ輝度情報作成部と、第1のメモリに保存された複数の前記共焦点画像データから各画素別に検出された各最高輝度を有する各共焦点画像データの各高さ情報から成る高さマップを作成する高さマップ作成部と、所望の共焦点画像データを取得した高さ情報に最も近い高さ情報で取得したカラー画像データを検索し、カラー画像データからカラー情報を抽出して高さマップに貼り付けることによりカラー共焦点画像データを作成するカラー共焦点画像作成部とを具備したレーザ共焦点顕微鏡である。
本発明は、レーザ光源から出力されたレーザ光を対物レンズを通して試料に照射し、試料からの光を対物レンズからピンホールを通して共焦点画像データを取得するレーザ共焦点顕微鏡において、白色光の照明光を出力する光源と、光源から出力された照明光を対物レンズを通して試料に照射し、試料からの試料像を観察する光学観察系と、光学観察系により観察された試料像を撮像するカラー撮像装置と、共焦点画像データを取得する共焦点光学系と、試料と対物レンズとの高さ方向の間隔を変化させる移動機構と、試料と対物レンズとの高さ方向の間隔を変化させながら第1の所定の間隔に到達する毎に共焦点画像データを取得する共焦点画像取得制御部と、試料と対物レンズとの高さ方向の間隔が対物レンズの焦点深度以内に設定された第2の所定の間隔になる毎にカラー撮像装置から出力される画像信号を取り込んでカラー画像データを取得するカラー画像取得制御部と、共焦点画像取得制御部により取得される共焦点画像データを複数毎保存する第1のメモリと、カラー画像取得制御部により取得されるカラー画像データを複数毎保存する第2のメモリと、第1のメモリに保存された複数の共焦点画像データから各画素別に各最高輝度を検出し、これら最高輝度から成るレーザ輝度情報を作成するレーザ輝度情報作成部と、第1のメモリに保存された複数の共焦点画像データから各画素別に検出された各最高輝度を有する各共焦点画像データの各高さ情報から成る高さマップを作成する高さマップ作成部と、対物レンズを通して複数の共焦点画像データを取得する共焦点光学系と対物レンズを通して複数のカラー画像データを取得する光学観察系との軸上色収差情報を記憶する軸上色収差情報記憶部と、軸上色収差情報記憶部に記憶されている軸上色収差情報とに基づいた高さ位置に最も近い高さ位置で取得したカラー画像データを検索し、検索されたカラー画像データから各画素毎のカラー情報を抽出して高さマップに貼り付けることによりカラー共焦点画像データを作成するカラー共焦点画像作成部とを具備したレーザ共焦点顕微鏡である。
本発明は、効率的にカラー共焦点画像を取得できることにより結果的にカラー画像取得に要する時間を従来と比較して短縮できるカラー画像取得方法及び共焦点レーザ顕微鏡を提供できる。
以下、本発明の第1の実施の形態について図面を参照して説明する。
図1は共焦点レーザ顕微鏡の構成図である。ステージ1上には、試料2が載置される。このステージ1は、移動機構3により試料2の高さ方向(Z方向)に移動する。
この共焦点レーザ顕微鏡は、共焦点光学系を有する。レーザ光源4は、レーザ光を出力する。このレーザ光源4は、例えば半導体レーザが用いられる。このレーザ光源4から出力されるレーザ光の光軸上には、2次元スキャナ5が設けられている。この2次元スキャナ5は、試料2に対してXY方向にレーザ光を2次元スキャンする。この2次元スキャナ5により2次元スキャンされるレーザ光の光路上には、第1のビームスプリッタ6が設けられている。この第1のビームスプリッタ6の下方側の反射光軸上には、対物レンズ7が設けられている。2次元スキャナ5の光出射光路上には、共焦点用ピンホール8及び光検出器9が設けられている。光検出器9は、共焦点用ピンホール8を通って入射した光量に応じた信号を出力する。この光検出器9は、例えばフォトダイオード又はフォトマルチプライヤを用いる。
白色光源10は、白色光の照明光を出力する。この白色光源10は、例えば白色ランプが用いられる。この白色光源10から出力される照明光の光路上には、第2のビームスプリッタ11が設けられている。
第1と第2のビームスプリッタ6、11は、対物レンズ7と共に同一光軸p上に配置されている。第1のビームスプリッタ6は、2次元スキャナ5により2次元スキャンされたレーザ光を対物レンズ7側に偏向すると共に、このときの試料2からの光を2次元スキャナ5側に偏向し、かつ白色光源11から出力された照明光を透過すると共にこのときの試料2からの光を透過する。
第2のビームスプリッタ11は、白色光源10から出力された照明光を対物レンズ7側に反射すると共にこのときの試料2からの光(試料像)を透過する。なお、第2のビームスプリッタ11、対物レンズ7により光学観察系が構成される。
第2のビームスプリッタ11の透過光軸p上には、カラーカメラ12が設けられている。このカラーカメラ12は、白色光源10から出力された照明光を試料2に照射したときの試料2からの光(試料像)を撮像し、そのカラー画像信号を出力する。このカラーカメラ12は、例えばR(赤)G(緑)B(青)毎に配置された複数のCCD素子から成る。
画像処理装置13は、光検出器9の出力信号を取り込んで共焦点画像データを取得し、カラーカメラ12から出力されたカラー画像信号を入力してカラー画像データを取得し、このカラー画像データからカラー情報(RGB情報)を抽出し、共焦点画像データに貼り付けることでカラー共焦点画像データを作成する。図2は画像処理装置13のブロック構成図である。
共焦点画像取得制御部14は、例えばステージ1を移動機構3により上端位置から下端位置に向って第1の所定間隔Δh毎に下降させたとき、これら第1の所定間隔Δhに到達する毎に光検出器9の出力信号を取り込んで共焦点画像データを順次取得し、これら共焦点画像データを第1のメモリ15に保存する。
この共焦点画像取得制御部14は、カラー画像取得制御部16によりカラーカメラ12から出力されたカラー画像信号を取り込んでカラー画像データを取得する毎に、レーザ光源4に対してレーザ停止指令を発して試料2に対するレーザ光の照射を停止する。この試料2に対するレーザ光の照射の停止は、レーザ光源4から出力されるレーザ光の光路上にシャッタを配置し、共焦点画像取得制御部14から発せられるレーザ停止指令によりシャッタを閉じて試料2に対するレーザ光の照射を遮光してもよい。
カラー画像取得制御部16は、例えばステージ1を移動機構3により上端位置から下端位置に向って第2の所定間隔Δh×α毎に下降させたとき、カラーカメラ12から出力されるカラー画像信号を取り込んでカラー画像データを順次取得し、これらカラー画像データを第2のメモリ17に保存する。第2の所定間隔Δh×αは、対物レンズ7の焦点深度以内に設定されることが望ましい。
レーザ輝度情報作成部18は、第1のメモリ15に保存された複数の共焦点画像データから各画素別に光学系固有の輝度高さ曲線でフィッティングすることにより各最高輝度を検出し、これら最高輝度から成るレーザ輝度情報を作成する。
高さマップ作成部19は、第1のメモリ15に保存された複数の共焦点画像データから各画素別に光学系固有の輝度高さ曲線でフィッティングすることにより各最高輝度を検出し、これら最高輝度を検出した各共焦点画像データの各高さ情報を判定し、各画素毎に各高さ情報をマッピングしてなる高さマップを作成する。
フィルタ部20は、高さマップ作成部19により作成された高さマップMに対してフィルタを通してノイズを除去する。このフィルタ部20は、例えばピークカットフィルタ又は周波数フィルタなどに高さマップMを通すことでノイズを除去する。
画像視野合わせ部21は、共焦点画像データとカラー画像データとにおける互いに対応する少なくとも3点を設定し、これら3点の各画像データに基づいて共焦点画像データとカラー画像データとを相互に拡大、縮小、回転又はシフトの少なくとも1処理を行って共焦点画像データとカラー画像データとの画像視野合わせを行う。
カラー共焦点画像作成部22は、共焦点画像データの各画素毎に光学系固有の輝度高さ曲線でフィッティングすることにより最高輝度を検出した高さ情報に最も近い高さ情報で取得したカラー画像データを検索し、このカラー画像データから各画素毎のカラー情報を抽出して高さマップMから生成される3次元表示の表面に貼り付けることによりカラー共焦点画像データを作成する。
このカラー共焦点画像作成部22は、高さマップMから試料2の3次元画像を作成する場合、高さマップMに対してカラー共焦点画像データ又はレーザ輝度情報を選択して合成する。
このカラー共焦点画像作成部22は、共焦点画像データに対するカラー画像データのサイズが小さければ、共焦点画像データにおけるカラー画像データのない領域にレーザ輝度情報を合成する。
画像処理装置13は、共焦点画像データやカラー画像データ、カラー共焦点画像データを表示部23に表示する。
次に、上記の如く構成された共焦点レーザ顕微鏡の動作について図3に示すカラー共焦点画像取得フローチャートに従って説明する。
画像処理装置13は、ステップ#1において、移動機構3に対してZ初期位置への移動指令を発する。試料2を載置したステージ1は、移動機構3により上端位置であるZ初期位置まで上昇する。すなわち、対物レンズ7が試料2に対して最も接近した状態にある。
次に、画像処理装置13は、ステップ#2において、レーザ光源4に対してレーザ発振指令を発する。このレーザ光源4は、レーザ光を出力する。このレーザ光は、2次元スキャナ5により2次元スキャンされ、第1のビームスプリッタ6で下方側に偏向され、対物レンズ7を通して試料2をスキャンする。
試料2からの光は、試料2に対するレーザ光の照射とは逆の光路、すなわち対物レンズ7、第1のビームスプリッタ6、2次元スキャナ5、さらに共焦点用ピンホール8を通って光検出器9に入射する。この光検出器9は、共焦点用ピンホール8を通って入射した光量に応じた信号を出力する。
共焦点画像取得制御部14は、ステップ#3において、光検出器9の出力信号を取り込んで共焦点画像データDf1を取得し、この共焦点画像データf1を第1のメモリ15に保存する。なお、共焦点画像取得制御部14は、共焦点画像データf1の保存と共に、当該共焦点画像データf1を取得したZ方向の高さ情報情報も共焦点画像データf1に対応させた第1のメモリ15に保存する。
次に、画像処理装置13は、ステップ#4において、レーザ光源4に対してレーザ停止指令を発する。これによりレーザ光源4は、レーザ光の出力を停止する。
次に、画像処理装置13は、ステップ#5において、カラー画像を取得する高さ情報であるか否かを判断する。図4に示すように共焦点画像データは、第1の所定間隔Δh毎に取得し、カラー画像データは、第1の所定間隔Δhとは異なり、かつ対物レンズ7の焦点深度以内の第2の所定間隔Δh×α毎に取得する。なお、Z初期位置では、カラー画像データを取得する。
従って、画像処理装置13は、ステップ#5からステップ#7に移り、白色光源10に対して点灯指令を発する。なお、このときレーザ光源4は、レーザ光の出力を停止している。白色光源10から出力された照明光は、第2のビームスプリッタ11で下方に偏向され、第1のビームスプリッタ6、対物レンズ7を通って試料2に照射される。この試料2からの光は、試料2に対する照明光の照射とは逆の光路、すなわち対物レンズ7、第1のビームスプリッタ6、第2のビームスプリッタ11を通ってカラーカメラ12に入射する。
このカラーカメラ12は、入射した試料2からの光(試料像)を撮像し、そのカラー画像信号を出力する。カラー画像取得制御部16は、カラーカメラ12から出力されたカラー画像信号を取り込んでカラー画像データDk1を取得し、このカラー画像データDk1を第2のメモリ17に保存する。なお、カラー画像取得制御部16は、カラー画像データDk1の保存と共に、当該カラー画像データDk1を取得したZ方向の高さ情報情報もカラー画像データDk1に対応させた第2のメモリ17に保存する。
次に、画像処理装置13は、ステップ#8において、移動機構3に対して次のZ位置への移動指令を発する。試料2を載置したステージ1は、移動機構3により上端位置から第1の所定間隔Δhだけ下降する。
次に、画像処理装置13は、ステップ#9において、試料2を載置したステージ1が下端位置に到達したか否かを判断し、この判断の結果、ステージ1が未だ下端位置に到達していないと判断すると、再びステップ#2に戻り、レーザ光源4からレーザ光を出力させ、上記同様にステップ#3、#4を実行して対物レンズ7と試料2とが第1の所定間隔Δhだけ離れた2枚目の共焦点画像データDf2を取得し、この共焦点画像データDf2を高さ情報情報と共に第1のメモリ15に保存する。
次に、画像処理装置13は、再びステップ#5において、カラー画像を取得する高さ情報であるか否かを判断する。ここで、第2の所定間隔Δh×αに到達していないと判断すると、画像処理装置13は、ステップ#6に移り、移動機構3に対して次のZ位置への移動指令を発する。試料2を載置したステージ1は、移動機構3によりさらに第1の所定間隔Δhだけ下降する。
次に、画像処理装置13は、上記同様に、ステップ#2に戻ってレーザ光源4からレーザ光を出力させ、ステップ#3、#4を実行して対物レンズ7と試料2とがZ初期位置から第1の所定間隔Δh×2だけ離れた3枚目の共焦点画像データDf3を取得し、この共焦点画像データDf3を高さ情報情報と共に第1のメモリ15に保存する。
このように画像処理装置13は、対物レンズ7と試料2との間隔が第2の所定間隔Δh×αに到達するまで上記同様にステップ#2〜#6を実行し、対物レンズ7と試料2との間隔が第1の所定間隔Δhだけ離れる毎に各共焦点画像データDf1、Df2、…を順次取得し、これら共焦点画像データDf1、Df2、…を各高さ情報情報と共に第1のメモリ15に保存する。
そして、対物レンズ7と試料2との間隔が第2の所定間隔Δh×αに到達すると、画像処理装置13は、再びステップ#5からステップ#7に移り、白色光源10に対して点灯指令を発する。カラー画像取得制御部16は、カラーカメラ12から出力されたカラー画像信号を取り込んで対物レンズ7と試料2との間隔が第2の所定間隔Δh×αに到達したときの2枚目のカラー画像データDk2を取得し、このカラー画像データDk2を第2のメモリ17に高さ情報情報と共に保存する。
これ以降、画像処理装置13は、ステップ#2〜#9を繰り返し実行して、対物レンズ7と試料2との間隔が第1の所定間隔Δhだけ離れる毎に共焦点画像データDf3〜Dfnを順次取得し、かつ対物レンズ7と試料2との間隔が第2の所定間隔Δh×αだけ離れる毎にカラー画像データDk3〜Dkmを順次取得する。これにより、第1のメモリ15には、対物レンズ7と試料2との間隔が第1の所定間隔Δhだけ離れる毎にそれぞれ取得した複数の共焦点画像データDf1〜Dfnが高さ情報情報と共に保存される。第2のメモリ17には、対物レンズ7と試料2との間隔が第2の所定間隔Δh×αだけ離れる毎にそれぞれ取得した複数のカラー画像データDk1〜Dkmが高さ情報情報と共に保存される。そうして、試料2を載置したステージ1が下降して下端位置に到達すると、画像処理装置13は、ステップ#9からステップ#10に移る。
レーザ輝度情報作成部18は、ステップ#10において、第1のメモリ15に保存された複数の共焦点画像データDf1〜Dfnから各画素別に各最高輝度を検出し、これら最高輝度から成るレーザ輝度情報を作成する。
ここで、試料2に対する観察位置をXY座標上において(x,y)〜(x,y)した場合、図5に示すように試料2上の1点の例えば観察位置(x,y)に注目すると、この観察位置(x,y)において対物レンズ7と試料2との間隔をZ方向に第1の所定間隔Δh毎に離したときの各共焦点画像データDf1〜Dfn中の輝度Iの変化は、試料2の表面位置で合焦する高さ情報Zで最高輝度(ピーク)Imax(6,3)となり、その前後の高さ情報Zで対称的に低下する。同様に、観察位置(x,y)の高さ情報Zよりも低い高さ情報Zの観察位置(x,y)においても輝度Iの変化は、試料2の表面位置で合焦する高さ情報Zbで最高輝度(ピーク)Imax(3,3)となり、その前後の高さ情報Zで対称的に低下する。
なお、図5では試料2の各高さ情報Z、Zでそれぞれ最高輝度Imax(6,3)、Imax(3,3)を検出しているが、実際には、図6に示すように試料2と対物レンズ7との間隔が第1の所定間隔Δh毎に離れる例えば各高さ情報Z10、Z11、…、Z15毎に各共焦点画像データDf1〜Dfnを取得するので、試料2上の1点の観察位置での輝度Iは、離散的な各輝度I10、I11、…、I15となり、本来の最高輝度Imaxを含まない。光学系固有のI−Z曲線にフィッティングさせて最高輝度Imax及びそのときの高さ情報Zを求める。これにより、高さ分解能毎に共焦点画像データを取得する場合に比べて短時間で最高輝度Imax及びそのときの高さ情報Zを求めることができる。
従って、レーザ輝度情報作成部18により複数の共焦点画像データDf1〜Dfnから各画素別に各最高輝度を検出し、これら最高輝度を各画素毎にXY方向に配列してレーザ輝度情報を作成する。このレーザ輝度情報Diは、図7に示すように試料2の全ての表面に対して合焦する各画素位置(x,y)〜(x,y)各最高輝度の情報からなる。
次に、高さマップ作成部19は、ステップ#11において、レーザ輝度情報作成部18により作成したレーザ輝度情報Diを受け取り、このレーザ輝度情報Di中の各画素毎に各最高輝度を検出した各共焦点画像データの各高さ情報Z(Z、Z、…)を判定し、これら高さ情報Zをマッピングしてなる図8に示す高さマップMを作成する。例えば、この高さマップMは、例えば画素位置(x,y)であれば、図5に示す観察位置(x,y)において最高輝度(ピーク)Imax(6,3)を検出した共焦点画像データの高さ情報Zをマッピングする。又、例えば画素位置(x,y)であれば、観察位置(x,y)において最高輝度(ピーク)Imax(3,3)を検出した共焦点画像データの高さ情報Zをマッピングする。
次に、フィルタ部20は、ステップ#12において、高さマップ作成部19により作成された高さマップMに対してフィルタを通してスパイクノイズを除去する。このスパイクノイズの除去により最終的に取得するカラー共焦点画像データに局所的なカラーのボケ情報が入らないようにする。すなわち、試料2が光の反射率の低い材料から成るものであれば、各高さ情報Z毎に取得された各共焦点画像データの各輝度情報に含まれるノイズ成分(スパイクノイズ)が大きくなる。フィルタ部20は、当該ノイズ成分を除去する。
次に、カラー共焦点画像作成部22は、ステップ#13において、共焦点画像データの各画素毎に最高輝度を検出した高さ情報に最も近い高さ情報で取得したカラー画像データを検索し、このカラー画像データから各画素毎のカラー情報(RGB情報)を抽出して図8に示す高さマップMに貼り付けることによりカラー共焦点画像データを作成する。
例えば、図5に示す画素位置(x,y)において最高輝度Imax(6,3)を検出した共焦点画像データが図4に示す共焦点画像データDfaであれば、この共焦点画像データDfaの高さ情報Zに最も近い高さ情報Zのカラー画像データDkaを検索する。次に、このカラー画像データDkaから画素位置(x,y)に対応する画素位置のカラー情報(RGB情報)を抽出する。そして、この抽出したカラー情報(RGB情報)を高さマップM中の画素位置(x,y)に対応する画素位置に貼り付けることによりカラー共焦点画像データを作成する。同様に、図5に示す画素位置(x,y)において最高輝度Imax(3,3)を検出した共焦点画像データが図4に示す共焦点画像データDfbであれば、この共焦点画像データDfbの高さ情報Zに最も近い高さ情報Zのカラー画像データDkbを検索する。次に、このカラー画像データDkbから画素位置(x,y)に対応する画素位置のカラー情報(RGB情報)を抽出する。そして、この抽出したカラー情報(RGB情報)を高さマップM中の画素位置(x,y)に対応する各画素位置に貼り付けることによりカラー共焦点画像データを作成する。
次に、カラー共焦点画像作成部22は、ステップ#14において、作成したカラー共焦点画像データを表示部23に表示する。この表示部23に表示される試料2のカラー共焦点画像は、試料2における各高さの各面に合焦した高さ情報Zのカラー情報(RGB情報)から成るので、試料2の3次元形状をカラーで表示したものとなる。
又、カラー共焦点画像作成部22は、高さマップMから試料2の3次元画像を作成する場合、図7に示すレーザ輝度情報Diから各画素位置(x,y)〜(x,y)毎に各最高輝度Imaxを読み取り、これら最高輝度Imaxを高さマップMの各画素位置に貼り付けて画像データを作成し、表示部23に表示してもよい。
図9(a)(b)に示すように共焦点画像データとカラー画像データとの視野の大きさが異なり、例えば共焦点画像データの視野の大きさよりもカラー画像データの視野の大きさが小さい場合がある。この場合、画像視野合わせ部21は、共焦点画像データ中とカラー画像データ中とにおける互いに対応する少なくとも3点を設定する。
なお、画像視野合わせ部21により設定される共焦点画像データ中とカラー画像データ中とにおける互いに対応する少なくとも3点の設定とは、自動又は手動により共焦点画像データ中とカラー画像データ中とで各々共通する主要な3点を設定することであるが、設定する対象によっては3点に限られるものでない。
例えば共焦点画像データ中の3点Q〜Qとカラー画像データ中の3点R〜Rとである。画像視野合わせ部21は、これら3点Q〜QとR〜Rとの各画像データに基づいて例えばカラー画像データを拡大、縮小、回転又はシフトの少なくとも1処理を行ってカラー画像データの画像視野大きさを共焦点画像データの視野大きさに合わせる。この後、カラー共焦点画像作成部22は、ステップ#13において、共焦点画像データの各画素毎に最高輝度を検出した高さ情報に最も近い高さ情報で取得したカラー画像データを検索し、このカラー画像データから各画素毎のカラー情報(RGB情報)を抽出して高さマップMから生成される3次元画像の表面に貼り付けることによりカラー共焦点画像データを作成する。
なお、共焦点画像データの視野の大きさよりもカラー画像データの視野の大きさが大きい場合は、例えば共焦点画像データを拡大、縮小又は回転の少なくとも1処理を行って共焦点画像データの画像視野大きさをカラー画像データの視野大きさに合わせてもよい。
又、図10(a)(b)に示すように共焦点画像データとカラー画像データとの各画像の大きさは同一(同図中の「A」の大きさは同一)であるが、共焦点画像データの視野範囲Saよりもカラー画像データの視野範囲Sbが小さい場合がある。この場合、カラー共焦点画像作成部22は、図10(c)に示すように共焦点画像データにおけるカラー画像データの視野範囲Sb内に対してカラー画像データの各画素から各カラー情報(RGB情報)を抽出して高さマップMから生成される3次元画像の表面に貼り付けてカラー共焦点画像データとする。
これと共にカラー共焦点画像作成部22は、共焦点画像データの視野範囲Saとカラー画像データの視野範囲Sbとの間のカラー情報(RGB情報)の存在しない領域に対して図7に示すレーザ輝度情報Diから該当する各画素位置の各最高輝度を読み出して貼り付ける。
このように上記第1の実施の形態によれば、対物レンズ7と試料2との高さ方向の間隔を第1の所定の間隔Δh毎に変化しながら複数の共焦点画像データを取得し、第1の所定の間隔Δhと異なる第2の所定の間隔α×Δh毎に複数のカラー画像データを取得し、共焦点画像データの各画素毎に最高輝度を検出した高さ情報に最も近い高さ情報で取得したカラー画像データを検索し、当該カラー画像データから各画素毎のカラー情報を抽出して高さマップMから生成される3次元画像の表面に貼り付けることによりカラー共焦点画像データを作成する。なお、第2の所定間隔は、第1の所定間隔よりも広いことが望ましい。これにより、各カラー画像データは、各共焦点画像データと同一枚数取得する必要がなく、全ての共焦点画像データとカラー画像データとの取得に要する時間を短縮できる。これにより、効率的にカラー共焦点画像データを生成できて表示することができる。
複数のカラー画像データを取得する第2の所定の間隔α×Δhは、対物レンズ7の焦点深度に対応した間隔内に設定するので、各カラー画像データは、試料2の表面に対して合焦した画像であり、これらカラー画像データから抽出したカラー情報(RGB情報)を用いてカラー共焦点画像データを生成することにより焦点の合った試料2のカラー共焦点画像データを生成し、表示できる。
共焦点画像データは、元々高解像度を有しているので、試料2の表面に対して合焦したカラー情報(RGB情報)を付加することにより、試料2を本来の形状、色彩に極めて近い状態で、かつ鮮明で高解像度に観察できる。
カラー画像データを取得するときには、試料に対するレーザ光の照射を停止するので、カラー画像データの輝度情報にオフセット分が乗ることがない。
複数の共焦点画像データからレーザ輝度情報Diと高さマップMとを作成するので、これらレーザ輝度情報Diと高さマップMとに基づいて試料2の3次元形状の画像データを生成でき、これを表示することにより試料2の3次元形状を観察することができる。
高さマップMに対してフィルタを通してスパイクノイズを除去するので、例えば試料2が光の反射率の低い材料から成るものであれば、この試料2の各共焦点画像データの各輝度情報に含まれるノイズ成分(スパイクノイズ)が大きくなるが、このノイズ成分を除去して最終的に取得するカラー共焦点画像データに局所的なカラーのボケ情報が入らないようにできる。
例えば共焦点画像データの視野の大きさよりもカラー画像データの視野の大きさが小さい場合には、共焦点画像データに対してカラー画像データを拡大、縮小、回転又はシフトの少なくとも1処理を行うことにより、共焦点画像データとカラー画像データとの各視野の大きさを合わせることができ、カラー画像データから抽出した各画素毎のカラー情報(RGB情報)を高さマップM中の対応する各画素位置に対して位置ずれすることなく正確な位置に合わせて貼り付けることができる。
又、共焦点画像データとカラー画像データとの位置ずれは、回転方向等を調整する方法としては、上述した実施の形態にある方法以外に、各画像の任意のいち、例えば画像の中心に位置に基準となる標識、例えばクロス(十字)等を各々の画像に表示させ、自動又は手動により表示した基準となる標識が合致するようにして位置ずれ、回転方向等の調整を行うようにしてもよい。
又、共焦点画像データの視野範囲Saよりもカラー画像データの視野範囲Sbが小さい場合、共焦点画像データにおけるカラー画像データの視野範囲Sb内に対してはカラー画像データから抽出したカラー情報(RGB情報)を高さマップMから生成される3次元画像の表面に貼り付けてカラー共焦点画像データを作成し、共焦点画像データの視野範囲Saとカラー画像データの視野範囲Sbとの間には、レーザ輝度情報Diから該当する各画素位置の各最高輝度を読み出して貼り付けて、カラー共焦点画像データとレーザ輝度情報Diとを合わせて表示できる。
なお、対物レンズ7と試料2との高さ方向の間隔を変化させる方法として試料2を載置しているステージ1をZ方向に移動する方法を示したが、対物レンズ7をZ方向に移動する方法で行ってもよい。
又、共焦点画像とカラー画像との取得時に、レーザ光源又は白色光源の出力を停止するようにしたが、それぞれの光源の前に例えばシャッタを配置し、シャッタを切り換えることで使用する光を選択するようにしてもよい。
次に、本発明の第2の実施の形態について図面を参照して説明する。なお、図1及び図2と同一部分には同一符号を付してその詳しい説明は省略する。
図11は共焦点レーザ顕微鏡における画像処理装置13のブロック構成図である。この画像処理装置13は、図2に示す構成に加えて軸上色収差情報記憶部30及びカラー共焦点画像作成部31を有する。
軸上色収差情報記憶部30には、共焦点画像データを取得するための共焦点光学系の焦点位置情報Zと光学観察系の焦点位置情報Zとの相対差(軸上色収差情報)ΔZ(=Z−Z)が予め記憶されている。この相対差ΔZは、例えばキーボード又はマウス等を用いて入力してもよいし、又は共焦点光学系の焦点位置情報Zと光学観察系の焦点位置情報Zとをそれぞれ例えばキーボード又はマウス等を用いて入力したり、又、実際にそれぞれ試料面に焦点を合わせてその時のZ位置情報を検出し、画像処理装置13に有するCPUにより演算して相対差ΔZを求めて軸上色収差情報記憶部30に記憶させてもよい。
カラー共焦点画像作成部31は、複数の共焦点画像データの各画素毎に最高輝度を検出したときの高さ情報と軸上色収差情報記憶部30に記憶されている相対差ΔZとに基づいた高さ位置に最も近い高さ位置で取得したカラー画像データを検索し、この検索されたカラー画像データから各画素毎のカラー情報を抽出して高さマップMに貼り付けることによりカラー共焦点画像データを作成する。
次に、上記の如く構成された共焦点レーザ顕微鏡の動作について図12に示すカラー共焦点画像取得フローチャートに従って説明する。
先ず、画像処理装置13は、ステップ#20において、例えばキーボード又はマウス等を用いて入力された共焦点光学系の焦点位置情報Zと光学観察系の焦点位置情報Zとの相対差ΔZ(=Z−Z)を軸上色収差情報記憶部30に記憶する。
次に、画像処理装置13は、ステップ#1において、移動機構3に対してZ初期位置への移動指令を発する。試料2を載置したステージ1は、移動機構3により上端位置であるZ初期位置まで上昇し、対物レンズ7を試料2に対して最も接近した状態にする。
次に、画像処理装置13は、上記第1の実施の形態と同様に、上記ステップ#2〜#9を繰り返し実行することにより、対物レンズ7と試料2との間隔が第1の所定間隔Δhだけ離れる毎に各共焦点画像データDf3〜Dfnを順次取得し、かつ対物レンズ7と試料2との間隔が第2の所定間隔Δh×αだけ離れる毎に各カラー画像データDk3〜Dkmを順次取得する。これにより、第1のメモリ15には、対物レンズ7と試料2との間隔が第1の所定間隔Δhだけ離れる毎にそれぞれ取得した複数の共焦点画像データDf1〜Dfnが高さ情報と共に保存される。第2のメモリ17には、対物レンズ7と試料2との間隔が第2の所定間隔Δh×αだけ離れる毎にそれぞれ取得した複数のカラー画像データDk1〜Dkmが高さ情報と共に保存される。そうして、試料2を載置したステージ1が下降して下端位置に到達すると、画像処理装置13は、ステージ1の下降を終了する。
次に、レーザ輝度情報作成部18は、ステップ#10において、第1のメモリ15に保存された複数の共焦点画像データDf1〜Dfnから各画素別に各最高輝度を検出し、これら最高輝度から成るレーザ輝度情報、例えば上記図7に示すように試料2の全ての表面に対して合焦する各画素位置(x,y)〜(x,y)各最高輝度の情報からなるレーザ輝度情報Diを作成する。
次に、高さマップ作成部19は、ステップ#11において、レーザ輝度情報作成部18により作成したレーザ輝度情報Diを受け取り、このレーザ輝度情報Di中の各画素毎に各最高輝度を検出した各共焦点画像データの各高さ情報Z(Z、Z、…)を判定し、これら高さ情報Zをマッピングしてなる図8に示す高さマップMを作成する。
次に、フィルタ部20は、ステップ#12において、高さマップ作成部19により作成された高さマップMに対して例えばピークカット又は周波数フィルタを通してスパイクノイズを除去する。このスパイクノイズの除去により最終的に取得するカラー共焦点画像データに局所的なカラーのボケ情報が入らないようにする。すなわち、試料2が光の反射率の低い材料から成るものであれば、各高さ情報Z毎に取得された各共焦点画像データの各輝度情報に含まれるノイズ成分(スパイクノイズ)が大きくなる。フィルタ部20は、当該ノイズ成分を除去する。
次に、カラー共焦点画像作成部31は、ステップ#21において、軸上色収差情報記憶部30に記憶されている共焦点光学系の焦点位置情報Zと光学観察系の焦点位置情報Zとの相対差ΔZを読み出す。
次に、カラー共焦点画像作成部31は、図8に示す高さマップMにおける各画素毎の各高さ情報Z(Z、Z、…)を読み出し、これら高さ情報Z(Z、Z、…)に対してそれぞれ相対差ΔZを加算処理し、これら加算された各高さ情報Z+ΔZ(Z+ΔZ、Z+ΔZ、…)に最も近い高さ情報で取得したカラー画像データを検索する。なお、これら高さ情報Z+ΔZ(Z+ΔZ、Z+ΔZ、…)は、一時内部メモリ等に記憶される。
次に、カラー共焦点画像作成部31は、検索したカラー画像データから各画素毎のカラー情報を抽出して高さマップMに貼り付けることによりカラー共焦点画像データを作成する。
具体的に図13に示す試料2における例えば画素位置(x,y)でのI−Z曲線を用いて説明する。なお、同図は説明の度合い上、第1の所定間隔Δh毎の各高さ情報Z20、Z21、Z22、…、Z28毎に各共焦点画像データを取得し、これと共に第2の所定間隔Δh×α毎の各高さ情報Z20、Z22、Z24、…、Z28毎に各カラー画像データを取得するものとする。
カラー共焦点画像作成部31は、フィルタ部20によりノイズ除去された後の高さマップMの各画素毎にマッピングされた最高輝度Imaxを読み出し、この最高輝度Imaxの高さ情報Zmaxに対して相対差ΔZを加算して高さ情報Zmax+ΔZを得る。この高さ情報Zmax+ΔZは、一時内部メモリ等に記憶される。この高さ情報Zmax+ΔZは、共焦点光学系の焦点位置情報Z及び光学観察系の焦点位置情報Zの影響を受けない高さ情報となる。
次に、カラー共焦点画像作成部31は、高さ情報Zmax+ΔZに最も近い高さ情報で取得したカラー画像データ、図13では高さ情報Z22で取得されたカラー画像データを検索する。
次に、カラー共焦点画像作成部31は、当該検索したカラー画像データから各画素毎のカラー情報(RGB情報)を抽出して高さマップMから生成される3次元表示の表面に貼り付けることによりカラー共焦点画像データを作成する。
なお、相対差ΔZの値によっては、検索するカラー画像データの高さ情報Zが異なる。例えば、図13に示すように相対差ΔZがΔZsであれば、カラー共焦点画像作成部31は、高さ情報Zmax+ΔZsに最も近い高さ情報Z24で取得したカラー画像データを検索する。
次に、カラー共焦点画像作成部31は、ステップ#14において、作成したカラー共焦点画像データを表示部23に表示する。この表示部23に表示される試料2のカラー共焦点画像は、試料2における各高さの各面に合焦した高さ情報Zのカラー情報(RGB情報)から成るので、試料2の3次元形状をカラーで表示したものとなる。
カラー共焦点画像作成部31は、高さマップMから試料2の3次元画像を作成する場合、図7に示すレーザ輝度情報Diから各画素位置(x,y)〜(x,y)毎に各最高輝度Imaxを読み出し、これら最高輝度Imaxを高さマップMの各画素位置に貼り付けて画像データを作成し、表示部23に表示してもよい。
このように上記第2の実施の形態によれば、共焦点光学系の焦点位置情報Zと光学観察系の焦点位置情報Zとの相対差ΔZを高さマップMの各高さ情報Zに加算し、この相対差ΔZを加算した高さ情報Z+ΔZに最も近い高さ情報で取得したカラー画像データを検索し、このカラー画像データから各画素毎のカラー情報を抽出して高さマップMから生成される3次元表示の表面に貼り付けることによりカラー共焦点画像データを作成する。
これにより、上記第1の実施の形態の効果と同様の効果を奏することは言うまでもなく、さらにZ方向の共焦点光学系の焦点位置情報Z及び光学観察系の焦点位置情報Zの影響を受けずに共焦点画像データの最高輝度の高さ情報Zに最も近いカラー画像データ、すなわち実際のカラー観察画像に極めて近い本来の形状、色彩を有する鮮明で高解像度のカラー共焦点画像データを作成できる。すなわち、共焦点光学系の焦点位置情報Z及び光学観察系の焦点位置情報Zの影響を除去した分だけ画像のぼけを無くすことができ、試料2に対してより焦点の合ったカラー共焦点画像データを取得できる。
高さマップMを作成した後に、この高さマップMに対してフィルタを通してスパイクノイズを除去するので、例えば試料2が光の反射率の低い材料から成るものであれば、この試料2の各共焦点画像データの各輝度情報に含まれるノイズ成分(スパイクノイズ)を除去した信頼性の高い高さ情報を用いてカラー共焦点画像データを作成でき、かつ当該カラー共焦点画像データに局所的なカラーのボケ情報が入らず、かつ共焦点光学系の焦点位置情報Z及び光学観察系の焦点位置情報Zの影響を除去したものにできる。
次に、上記第2の実施の形態の変形例について説明する。
カラー共焦点画像作成部31は、共焦点光学系の焦点位置情報Zと光学観察系の焦点位置情報Zとの相対差ΔZを高さマップ作成部19により作成された高さマップの各高さ情報Zに加算して各高さ情報Z+ΔZ(Z+ΔZ、Z+ΔZ、…)を求め、これら高さ情報Z+ΔZ(Z+ΔZ、Z+ΔZ、…)からなるカラー画像取得用マップを作成してもよい。
カラー共焦点画像作成部31は、カラー画像取得用マップから各高さ情報Z+ΔZ(Z+ΔZ、Z+ΔZ、…)を読み出し、これら高さ情報Z+ΔZ(Z+ΔZ、Z+ΔZ、…)に最も近い高さ情報で取得したカラー画像データを検索する。
カラー共焦点画像作成部31は、検索したカラー画像データから各画素毎のカラー情報(RGB情報)を抽出して高さマップMから生成される3次元表示の表面に貼り付けることによりカラー共焦点画像データを作成する。
このようにカラー画像取得用マップに予め共焦点光学系の焦点位置情報Zと光学観察系の焦点位置情報Zとの相対差ΔZを高さマップの各高さ情報Zに加算した各高さ情報Z+ΔZ(Z+ΔZ、Z+ΔZ、…)を記憶しておくことで、カラー共焦点画像データを作成する毎に各高さ情報Z+ΔZ(Z+ΔZ、Z+ΔZ、…)を加算処理する必要がない。これにより、カラー共焦点画像データを作成する処理量を少なくでき、かつ処理時間を短縮できる。
次に、本発明の他の特徴とするところを説明する。
第1の本発明は、前記カラー画像データの取得タイミング時には、前記試料に対する前記レーザ光の照射を停止することを特徴とする請求項1記載のカラー画像取得方法。
第2の本発明の前記共焦点画像取得制御部は、前記カラー画像取得制御部により前記カラー画像データの取得する毎に、前記試料に対する前記レーザ光の照射を停止することを特徴とする請求項8又は9記載のレーザ共焦点顕微鏡。
第3の本発明は、前記高さマップ作成部により作成された前記高さマップに対してフィルタを通してノイズを除去するフィルタ部を有することを特徴とする請求項8又は9記載のレーザ共焦点顕微鏡。
本発明に係る共焦点レーザ顕微鏡の第1の実施の形態を示す構成図。 同共焦点レーザ顕微鏡における画像処理装置のブロック構成図。 同共焦点レーザ顕微鏡におけるカラー共焦点画像取得フローチャート。 同共焦点レーザ顕微鏡における共焦点画像とカラー画像とを取得する各高さ情報を示す模式図。 同共焦点レーザ顕微鏡により取得された共焦点画像データ中の輝度変化を示す図。 同共焦点レーザ顕微鏡において最高輝度の検出を示すための輝度変化を示す図。 同共焦点レーザ顕微鏡により取得されたレーザ輝度情報を示す模式図。 同共焦点レーザ顕微鏡により取得された高さマップを示す模式図。 同共焦点レーザ顕微鏡における共焦点画像データとカラー画像データとの各視野大きさが異なる場合の拡大、縮小又は回転を説明するための図。 同共焦点レーザ顕微鏡における共焦点画像データとカラー画像データとの各視野範囲が異なる場合のカラー共焦点画像データの作成を説明するための図。 本発明に係る共焦点レーザ顕微鏡の第1の実施の形態における画像処理装置のブロック構成図。 同共焦点レーザ顕微鏡におけるカラー共焦点画像取得フローチャート。 同共焦点レーザ顕微鏡による高さ情報に対する色収差の補正の作用を説明するための図。 同共焦点レーザ顕微鏡による別のカラー画像データの取得方法による高さ情報に対する色収差の補正の作用を説明するための図。
符号の説明
1:ステージ、2:試料、3:移動機構、4:レーザ光源、5:2次元スキャナ、6:第1のビームスプリッタ、7:対物レンズ、8:共焦点用ピンホール、9:光検出器、10:白色光源、11:第2のビームスプリッタ、12:カラーカメラ、13:画像処理装置、14:共焦点画像取得制御部、15:第1のメモリ、16:カラー画像取得制御部、17:第2のメモリ、18:レーザ輝度情報作成部、19:高さマップ作成部、20:フィルタ部、21:画像視野合わせ部、22:カラー共焦点画像作成部、23:表示部、30:軸上色収差情報記憶部、31:カラー共焦点画像作成部。

Claims (21)

  1. 対物レンズと試料との高さ方向の間隔を変化させながらレーザ光を前記対物レンズを通して前記試料に照射し、前記試料からの光をピンホールを通して第1の所定間隔毎に検出して複数の共焦点画像データを取得し、
    照明光を前記対物レンズを通して前記試料に照射し、前記試料からの光を前記第1の所定間隔と異なる第2の所定間隔毎に撮像して複数のカラー画像データを順次取得し、
    前記共焦点画像データの各画素毎に最高輝度を検出した高さ情報に最も近い高さ情報で取得した前記カラー画像データを検索し、前記検索した前記カラー画像データと前記共焦点画像データとを用いてカラー共焦点画像データを作成する、
    ことを特徴とするカラー画像取得方法。
  2. 対物レンズと試料との高さ方向の間隔を変化させながらレーザ光を前記対物レンズを通して前記試料に照射し、
    前記試料からの光をピンホールを通して第1の所定間隔毎に検出して複数の共焦点画像データを取得し、
    照明光を前記対物レンズを通して前記試料に照射し、前記試料からの光を第2の所定間隔毎に撮像して複数のカラー画像データを順次取得し、
    前記対物レンズを通して前記複数の共焦点画像データを取得する共焦点光学系及び前記対物レンズを通して前記複数のカラー画像データを取得する光学観察系の軸上色収差情報とに基づいた高さ位置に最も近い高さ位置で取得した前記カラー画像データを検索し、
    前記検索した前記カラー画像データと前記共焦点画像データとを用いてカラー共焦点画像データを作成する、
    ことを特徴とするカラー画像取得方法。
  3. 前記カラー画像データを取得する前記第2の所定間隔は、前記対物レンズの焦点深度以内の間隔に設定することを特徴とする請求項1又は2記載のカラー画像取得方法。
  4. 前記共焦点画像データの各画素毎に最高輝度を検出した高さ情報に対するノイズ成分の除去を行い、この後に前記高さ情報に最も近い高さ情報で取得した前記カラー画像データを検索することを特徴とする請求項1又は2記載のカラー画像取得方法。
  5. 対物レンズと試料との高さ方向の間隔を変化させながらレーザ光を前記対物レンズを通して前記試料に照射し、前記試料からの光をピンホールを通して第1の所定間隔毎に検出して複数の共焦点画像データを取得し、
    前記対物レンズと前記試料との間隔が前記第1の所定間隔と異なる第2の所定の間隔毎に、前記試料からの光を撮像して複数のカラー画像データを取得し、
    前記試料に対する高さ方向の全ての前記複数の共焦点画像データ及び前記複数のカラー画像データの取得を終了すると、前記複数の共焦点画像データから各画素別に各最高輝度を検出し、これら最高輝度及び前記複数の共焦点画像データの各高さ情報に基づいて前記試料の高さマップを作成し、
    前記共焦点画像データの前記各画素毎に最高輝度を検出した高さ情報に最も近い高さ情報で取得した前記カラー画像データを検索し、前記検索された前記カラー画像データから各画素毎のカラー情報を抽出して前記高さマップに貼り付けることによりカラー共焦点画像データを作成する、
    ことを特徴とするカラー画像取得方法。
  6. 対物レンズと試料との高さ方向の間隔を変化させながらレーザ光を前記対物レンズを通して前記試料に照射し、前記試料からの光をピンホールを通して第1の所定間隔毎に検出して複数の共焦点画像データを取得し、
    前記対物レンズと前記試料との間隔が第2の所定の間隔毎に、前記試料からの光を撮像して複数のカラー画像データを取得し、
    前記試料に対する高さ方向の全ての前記複数の共焦点画像データ及び前記複数のカラー画像データの取得を終了すると、前記複数の共焦点画像データから各画素別に各最高輝度を検出し、これら最高輝度及び前記複数の共焦点画像データの各高さ情報に基づいて前記試料の高さマップを作成し、
    前記対物レンズを通して前記複数の共焦点画像データを取得する共焦点光学系及び前記対物レンズを通して前記複数のカラー画像データを取得する光学観察系の軸上色収差情報とに基づいた高さ位置に最も近い高さ位置で取得した前記カラー画像データを検索し、
    前記検索された前記カラー画像データから各画素毎のカラー情報を抽出して前記高さマップに貼り付けることによりカラー共焦点画像データを作成する、
    ことを特徴とするカラー画像取得方法。
  7. 前記試料の前記高さマップを作成した後に、前記高さマップに対してノイズ成分の除去を行うことを特徴とする請求項5又は6記載のカラー画像取得方法。
  8. レーザ光を対物レンズを通して試料に照射し、前記試料からの光をピンホールを通して検出して共焦点画像データを取得するレーザ共焦点顕微鏡において、
    照明光を前記対物レンズを通して前記試料に照射し、前記試料からの試料像を観察する光学観察系と、
    前記光学観察系により観察された前記試料像を撮像するカラー撮像装置と、
    前記試料と前記対物レンズとの高さ方向の間隔を変化させる移動機構と、
    前記試料と前記対物レンズとの高さ方向の間隔が第1の所定の間隔になる毎に、前記共焦点画像データを取得する共焦点画像取得制御部と、
    前記試料と前記対物レンズとの高さ方向の間隔が前記第1の所定の間隔と異なる第2の所定の間隔になる毎に、前記カラー撮像装置の撮像により取得されるカラー画像データを取得するカラー画像取得制御部と、
    前記共焦点画像データの各画素毎に最高輝度を検出した高さ情報に最も近い高さ情報で取得した前記カラー画像データを検索し、前記検出した前記カラー画像データと前記共焦点画像データとを用いてカラー共焦点画像データを作成するカラー共焦点画像作成部と、
    を具備したことを特徴とするレーザ共焦点顕微鏡。
  9. レーザ光を対物レンズを通して試料に照射し、前記試料からの光をピンホールを通して検出して共焦点画像データを取得するレーザ共焦点顕微鏡において、
    照明光を前記対物レンズを通して前記試料に照射し、前記試料からの試料像を観察する光学観察系と、
    前記光学顕微鏡系により観察された前記試料像を撮像するカラー撮像装置と、
    前記試料と前記対物レンズとの高さ方向の間隔を変化させる移動機構と、
    前記試料と前記対物レンズとの高さ方向の間隔が第1の所定の間隔になる毎に、前記共焦点画像データを取得する共焦点画像取得制御部と、
    前記試料と前記対物レンズとの高さ方向の間隔が第2の所定の間隔になる毎に、前記カラー撮像装置の撮像により取得されるカラー画像データを取得するカラー画像取得制御部と、
    前記対物レンズを通して前記複数の共焦点画像データを取得する共焦点光学系と、前記対物レンズを通して前記複数のカラー画像データを取得する光学観察系との軸上色収差情報を記憶する軸上色収差情報記憶部と、
    前記軸上色収差情報記憶部に記憶されている前記軸上色収差情報とに基づいた高さ位置に最も近い高さ位置で取得した前記カラー画像データを検索し、前記検索された前記カラー画像データと前記共焦点画像データとを用いてカラー共焦点画像データを作成するカラー共焦点画像作成部と、
    を具備したことを特徴とするレーザ共焦点顕微鏡。
  10. 前記カラー画像取得制御部は、前記対物レンズの焦点深度以内の前記第2の所定間隔毎に前記カラー画像データを取得することを特徴とする請求項8又は9記載のレーザ共焦点顕微鏡。
  11. 前記共焦点画像データの各画素毎に最高輝度を検出した高さ情報に対するノイズ成分の除去を行うフィルタ部を有することを特徴とする請求項8又は9記載のレーザ共焦点顕微鏡。
  12. 複数の前記共焦点画像データから各画素別に各最高輝度を検出し、これら最高輝度から成るレーザ輝度情報を作成するレーザ輝度情報作成部を有することを特徴とする請求項8又は9記載のレーザ共焦点顕微鏡。
  13. 複数の前記共焦点画像データから各画素別に検出された各最高輝度を有する前記各共焦点画像データの各高さ情報から成る高さマップを作成する高さマップ作成部を有することを特徴とする請求項8又は9記載のレーザ共焦点顕微鏡。
  14. 前記共焦点画像データと前記カラー画像データとにおける互いに対応する少なくとも3点を設定し、これら3点の各画像データに基づいて前記共焦点画像データと前記カラー画像データとを相互に拡大、縮小、回転又はシフトの少なくとも1処理を行う画像視野合わせ部を有することを特徴とする請求項8又は9記載のレーザ共焦点顕微鏡。
  15. 複数の前記共焦点画像データから各画素別に各最高輝度を検出し、これら最高輝度から成るレーザ輝度情報を作成するレーザ輝度情報作成部と、
    複数の前記共焦点画像データから各画素別に検出された各最高輝度を有する前記各共焦点画像データの各高さ情報から成る高さマップを作成する高さマップ作成部とを有し、
    前記カラー共焦点画像作成部は、前記高さマップから前記試料の3次元画像を作成する場合、前記高さマップに対して前記カラー共焦点画像データ又は前記レーザ輝度情報を選択して合成することを特徴とする請求項8又は9記載のレーザ共焦点顕微鏡。
  16. 複数の前記共焦点画像データから各画素別に各最高輝度を検出し、これら最高輝度から成るレーザ輝度情報を作成するレーザ輝度情報作成部を有し、
    前記カラー共焦点画像作成部は、前記共焦点画像データに対する前記カラー画像データのサイズが小さければ、前記共焦点画像データにおける前記カラー画像データのない領域に前記レーザ輝度情報を合成することを特徴とする請求項8又は9記載のレーザ共焦点顕微鏡。
  17. レーザ光源から出力されたレーザ光を対物レンズを通して試料に照射し、前記試料からの光を前記対物レンズからピンホールを通して共焦点画像データを取得するレーザ共焦点顕微鏡において、
    白色光の照明光を出力する光源と、
    前記光源から出力された前記照明光を前記対物レンズを通して前記試料に照射し、前記試料からの試料像を観察する光学観察系と、
    前記光学観察系により観察された前記試料像を撮像するカラー撮像装置と、
    前記試料と前記対物レンズとの高さ方向の間隔を変化させる移動機構と、
    前記試料と前記対物レンズとの高さ方向の間隔を変化させながら第1の所定の間隔に到達する毎に前記共焦点画像データを取得する共焦点画像取得制御部と、
    前記試料と前記対物レンズとの高さ方向の間隔が前記第1の所定の間隔と異なりかつ前記対物レンズの焦点深度以内に設定された第2の所定の間隔になる毎に前記カラー撮像装置から出力される画像信号を取り込んでカラー画像データを取得するカラー画像取得制御部と、
    前記共焦点画像取得制御部により取得される前記共焦点画像データを複数毎保存する第1のメモリと、
    前記カラー画像取得制御部により取得される前記カラー画像データを複数毎保存する第2のメモリと、
    前記第1のメモリに保存された前記複数の前記共焦点画像データから各画素別に各最高輝度を検出し、これら最高輝度から成るレーザ輝度情報を作成するレーザ輝度情報作成部と、
    前記第1のメモリに保存された前記複数の前記共焦点画像データから各画素別に検出された各最高輝度を有する前記各共焦点画像データの各高さ情報から成る高さマップを作成する高さマップ作成部と、
    所望の前記共焦点画像データを取得した高さ情報に最も近い高さ情報で取得した前記カラー画像データを検索し、前記検索した前記カラー画像データからカラー情報を抽出して前記高さマップに貼り付けることによりカラー共焦点画像データを作成するカラー共焦点画像作成部と、
    を具備したことを特徴とするレーザ共焦点顕微鏡。
  18. レーザ光源から出力されたレーザ光を対物レンズを通して試料に照射し、前記試料からの光を前記対物レンズからピンホールを通して共焦点画像データを取得するレーザ共焦点顕微鏡において、
    白色光の照明光を出力する光源と、
    前記光源から出力された前記照明光を前記対物レンズを通して前記試料に照射し、前記試料からの試料像を観察する光学観察系と、
    前記光学観察系により観察された前記試料像を撮像するカラー撮像装置と、
    前記共焦点画像データを取得する共焦点光学系と、
    前記試料と前記対物レンズとの高さ方向の間隔を変化させる移動機構と、
    前記試料と前記対物レンズとの高さ方向の間隔を変化させながら第1の所定の間隔に到達する毎に前記共焦点画像データを取得する共焦点画像取得制御部と、
    前記試料と前記対物レンズとの高さ方向の間隔が前記対物レンズの焦点深度以内に設定された第2の所定の間隔になる毎に前記カラー撮像装置から出力される画像信号を取り込んでカラー画像データを取得するカラー画像取得制御部と、
    前記共焦点画像取得制御部により取得される前記共焦点画像データを複数毎保存する第1のメモリと、
    前記カラー画像取得制御部により取得される前記カラー画像データを複数毎保存する第2のメモリと、
    前記第1のメモリに保存された前記複数の前記共焦点画像データから各画素別に各最高輝度を検出し、これら最高輝度から成るレーザ輝度情報を作成するレーザ輝度情報作成部と、
    前記第1のメモリに保存された前記複数の前記共焦点画像データから各画素別に検出された各最高輝度を有する前記各共焦点画像データの各高さ情報から成る高さマップを作成する高さマップ作成部と、
    前記対物レンズを通して前記複数の共焦点画像データを取得する共焦点光学系と前記対物レンズを通して前記複数のカラー画像データを取得する光学観察系との軸上色収差情報を記憶する軸上色収差情報記憶部と、
    前記軸上色収差情報記憶部に記憶されている前記軸上色収差情報とに基づいた高さ位置に最も近い高さ位置で取得した前記カラー画像データを検索し、前記検索された前記カラー画像データから各画素毎のカラー情報を抽出して前記高さマップに貼り付けることによりカラー共焦点画像データを作成するカラー共焦点画像作成部と、
    を具備したことを特徴とするレーザ共焦点顕微鏡。
  19. 前記高さマップ作成部により作成された前記高さマップに対してノイズ成分の除去を行うフィルタ部を有することを特徴とする請求項17又は18記載のレーザ共焦点顕微鏡。
  20. 前記フィルタ部は、ピークカット又は周波数フィルタを有することを特徴とする請求項11又は19項記載のレーザ共焦点顕微鏡。
  21. 前記共焦点光学系の色収差と前記光学観察系の色収差との相対差を予め記憶する色収差用記憶部を有することを特徴とする請求項9又は18記載のレーザ共焦点顕微鏡。
JP2004309586A 2003-11-21 2004-10-25 カラー画像取得方法及び共焦点レーザ顕微鏡 Expired - Fee Related JP4885439B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004309586A JP4885439B2 (ja) 2003-11-21 2004-10-25 カラー画像取得方法及び共焦点レーザ顕微鏡

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2003393007 2003-11-21
JP2003393007 2003-11-21
JP2004309586A JP4885439B2 (ja) 2003-11-21 2004-10-25 カラー画像取得方法及び共焦点レーザ顕微鏡

Publications (3)

Publication Number Publication Date
JP2005173561A true JP2005173561A (ja) 2005-06-30
JP2005173561A5 JP2005173561A5 (ja) 2007-11-01
JP4885439B2 JP4885439B2 (ja) 2012-02-29

Family

ID=34742064

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004309586A Expired - Fee Related JP4885439B2 (ja) 2003-11-21 2004-10-25 カラー画像取得方法及び共焦点レーザ顕微鏡

Country Status (1)

Country Link
JP (1) JP4885439B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007140183A (ja) * 2005-11-18 2007-06-07 Olympus Corp 共焦点走査型顕微鏡装置
JP2008292391A (ja) * 2007-05-28 2008-12-04 Mitsutoyo Corp 共焦点光学装置
WO2009110603A1 (ja) * 2008-03-06 2009-09-11 日産化学工業株式会社 単一蛍光分子検出法による高分子薄膜中の拡散係数の測定方法
CN105556240A (zh) * 2013-08-01 2016-05-04 阿莱恩技术有限公司 用于生成聚焦彩色图像的焦距扫描
KR20180104247A (ko) * 2017-03-10 2018-09-20 (주)제노레이 스캐너
KR20180104246A (ko) * 2017-03-10 2018-09-20 (주)제노레이 스캐너

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0968413A (ja) * 1995-08-31 1997-03-11 Olympus Optical Co Ltd 高さ測定方法及び共焦点走査型光学顕微鏡
JPH09113236A (ja) * 1995-10-16 1997-05-02 Dainippon Screen Mfg Co Ltd 三次元計測方法および表示方法、ならびに三次元計測装置
JP2001082935A (ja) * 1999-09-10 2001-03-30 Keyence Corp 三次元測定装置
JP2003140050A (ja) * 2001-11-02 2003-05-14 Olympus Optical Co Ltd 走査型共焦点顕微鏡
JP2004021004A (ja) * 2002-06-18 2004-01-22 Keyence Corp カラー顕微鏡

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0968413A (ja) * 1995-08-31 1997-03-11 Olympus Optical Co Ltd 高さ測定方法及び共焦点走査型光学顕微鏡
JPH09113236A (ja) * 1995-10-16 1997-05-02 Dainippon Screen Mfg Co Ltd 三次元計測方法および表示方法、ならびに三次元計測装置
JP2001082935A (ja) * 1999-09-10 2001-03-30 Keyence Corp 三次元測定装置
JP2003140050A (ja) * 2001-11-02 2003-05-14 Olympus Optical Co Ltd 走査型共焦点顕微鏡
JP2004021004A (ja) * 2002-06-18 2004-01-22 Keyence Corp カラー顕微鏡

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007140183A (ja) * 2005-11-18 2007-06-07 Olympus Corp 共焦点走査型顕微鏡装置
JP2008292391A (ja) * 2007-05-28 2008-12-04 Mitsutoyo Corp 共焦点光学装置
WO2009110603A1 (ja) * 2008-03-06 2009-09-11 日産化学工業株式会社 単一蛍光分子検出法による高分子薄膜中の拡散係数の測定方法
KR101799708B1 (ko) * 2013-08-01 2017-12-20 얼라인 테크널러지, 인크. 초점 컬러 이미지를 생성하기 위한 초점 스캐닝
AU2014298116B2 (en) * 2013-08-01 2016-10-20 Align Technology, Inc. Focal scanning for generating focused color images
JP2016534334A (ja) * 2013-08-01 2016-11-04 アライン テクノロジー, インコーポレイテッド カラー画像を生成する方法及びシステム
CN105556240A (zh) * 2013-08-01 2016-05-04 阿莱恩技术有限公司 用于生成聚焦彩色图像的焦距扫描
US9956061B2 (en) 2013-08-01 2018-05-01 Align Technology, Inc. Methods and systems for generating color images
US10363118B2 (en) 2013-08-01 2019-07-30 Align Technology, Inc. Methods and systems for generating color images
US10716647B2 (en) 2013-08-01 2020-07-21 Align Technology, Inc. Methods and systems for generating color images
US10874491B2 (en) 2013-08-01 2020-12-29 Align Technology, Inc. Methods and systems for generating color images of intraoral cavities
KR20180104247A (ko) * 2017-03-10 2018-09-20 (주)제노레이 스캐너
KR20180104246A (ko) * 2017-03-10 2018-09-20 (주)제노레이 스캐너
KR102394309B1 (ko) 2017-03-10 2022-05-04 (주)제노레이 스캐너
KR102394308B1 (ko) 2017-03-10 2022-05-04 (주)제노레이 스캐너

Also Published As

Publication number Publication date
JP4885439B2 (ja) 2012-02-29

Similar Documents

Publication Publication Date Title
US7016109B2 (en) Microscopic image capture apparatus and microscopic image capturing method
US9810895B2 (en) Biological observation apparatus
US6337474B1 (en) Scanning microscope
JP5447516B2 (ja) 画像処理装置、画像処理方法、プログラム、および、顕微鏡
JP4700299B2 (ja) 共焦点走査型顕微鏡
JPH10290389A (ja) マルチフォーカス画像作成方法及び画像作成装置
JP2005172805A (ja) 試料情報測定方法および走査型共焦点顕微鏡
JP2006293219A (ja) 走査型共焦点顕微鏡および試料情報測定方法
JP4885439B2 (ja) カラー画像取得方法及び共焦点レーザ顕微鏡
JP4874069B2 (ja) 共焦点顕微鏡
JP2010266461A (ja) 走査型共焦点顕微鏡
JP5019279B2 (ja) 共焦点顕微鏡及び合焦カラー画像の生成方法
US20050139748A1 (en) Confocal laser microscope
JP2004191183A (ja) 分析装置
JP5119111B2 (ja) 顕微鏡装置
KR20080114550A (ko) 자외선 현미경 장치
JP4197898B2 (ja) 顕微鏡、三次元画像生成方法、三次元画像を生成する制御をコンピュータに行わせるプログラム、及びそのプログラムを記録した記録媒体
JP5718012B2 (ja) 走査型レーザ顕微鏡
JP2007286284A (ja) 共焦点走査型顕微鏡システム、及びそれを使用した観察方法
JP2005173561A5 (ja)
JP2010164635A (ja) 共焦点顕微鏡
JPH06308390A (ja) 共焦点顕微鏡
JP2005221368A (ja) 観察装置及びその観察方法
JP4914567B2 (ja) 走査型共焦点顕微鏡
JP7168743B1 (ja) 画像処理装置および画像処理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070913

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070913

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100929

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110301

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110413

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110809

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110916

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111129

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111208

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141216

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4885439

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141216

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees