JP5119111B2 - 顕微鏡装置 - Google Patents

顕微鏡装置 Download PDF

Info

Publication number
JP5119111B2
JP5119111B2 JP2008251466A JP2008251466A JP5119111B2 JP 5119111 B2 JP5119111 B2 JP 5119111B2 JP 2008251466 A JP2008251466 A JP 2008251466A JP 2008251466 A JP2008251466 A JP 2008251466A JP 5119111 B2 JP5119111 B2 JP 5119111B2
Authority
JP
Japan
Prior art keywords
image
images
image file
confocal
representative
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008251466A
Other languages
English (en)
Other versions
JP2010085463A (ja
Inventor
孝彦 掛水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2008251466A priority Critical patent/JP5119111B2/ja
Publication of JP2010085463A publication Critical patent/JP2010085463A/ja
Application granted granted Critical
Publication of JP5119111B2 publication Critical patent/JP5119111B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Microscoopes, Condenser (AREA)

Description

本発明は、顕微鏡の技術に関し、特に、取得方法の異なる様々な画像を同一位置の試料について取得する顕微鏡の技術に関する。
従来から、少なくとも2種類以上の取得方法により、同一位置の試料(本願においては、同一位置の試料を「同位置試料」と称することとする)における画像を取得可能な顕微鏡装置のひとつとして、例えば、共焦点顕微鏡がある。共焦点顕微鏡は、共焦点画像や非共焦点画像を得ることができる。共焦点画像は、試料である被検体を照明したときの被検体からの反射光のうち共焦点絞りを通過したものの強度を光検出器で検出して得られる、被検体の焦点深度の浅い画像である。また、非共焦点画像は、被検体を照明したときの被検体からの反射光のうち共焦点絞りを通過できなかったものの強度を光検出器で検出して得られる、被検体の焦点深度の深い画像である。また、共焦点顕微鏡は、この他にも、CCD(電荷結合素子)ビデオカメラ等を用いることで明視野画像、暗視野画像、微分干渉画像等を得ることができ、更には共焦点画像の画像データを加工して三次元画像や全焦点画像等を取得することもできる。例えば特許文献1には、このような共焦点顕微鏡が開示されている。
また、このような顕微鏡装置の別のひとつとして、例えば蛍光顕微鏡がある。蛍光顕微鏡は、蛍光色素で染めた試料に励起光を照射したときに試料から発せられる蛍光の画像を取得するものである。蛍光顕微鏡も、同位置試料に対し、励起波長を変えた励起光を照射したときに試料から発せられる蛍光を取得することで、異なる蛍光画像を得ることができ、更には、共焦点顕微鏡と同様に、明視野画像や暗視野画像等を取得することができる。
このような顕微鏡装置には、同位置試料について取得した複数の画像を互いに関連付けて、それらの画像を表している画像データを例えば1つの画像データファイル(以下、「画像ファイル」と称することとする)として保存するものがある。また、このような画像の表示手法として、例えば、画像ファイルに画像データが含まれている画像についての、画像データ名のリストやいわゆるサムネイル画像等を表示装置で一覧表示する。そして、この一覧から所望の画像を選択する指示を取得すると、その所望の画像の表示を行うという手法がある。例えば特許文献2には、複数の画像それぞれのサムネイル画像を一覧表示する装置が開示されている。
特開2005−173580号公報 特開2002−202463号公報
前述のように、共焦点顕微鏡は、検鏡法の選択(共焦点観察、非共焦点観察、暗視野観察、明視野観察、微分干渉観察等)、取得画像の補正(ノイズ除去、γ補正等)や加工(三次元画像や二次元全焦点画像の生成等)等により、取得方法が異なる様々な画像を取得できる。そして、同位置試料について取得した画像の画像データが、1つの画像ファイルとして保存される。
ここで、所望の画像を探すには、画像データ名のリストが表示されている場合には、このリストからその画像を探し出す作業となる。しかし、単なる画像データ名のリストの表示では、各画像が如何なる検鏡法で取得したものであるのか、また、どのような補正・加工のされた画像であるのかが作業者には認識できない。ここで、各画像を実際に表示させてその取得方法を確認していては、所望の画像を探し出すまでに多大な作業量を要することとなる。
また、取得画像又はそれを補正若しくは加工した画像を、そのままのサイズで表示する場合、若しくは縮小してサムネイル画像を表示する場合には、多量の画像(若しくはサムネイル画像)を表示装置で表示することになる。そのためには広大な表示領域が画像表示のために必要になる上に、同位置試料についての似たような画像を多量に表示すれば、却って所望の画像を探し難くなる虞がある。
本発明は上述した問題に鑑みてなされたものであり、その解決しようとする課題は、画像の探索を容易に行える顕微鏡装置を提供することである。
本発明の態様のひとつである顕微鏡装置は、同位置試料についての取得方法の異なる複数の種類の画像を取得する画像取得手段と、該画像取得手段により取得された該同位置試料についての複数の画像のひとつから、該同位置試料についての画像を代表する代表画像を得る代表画像取得手段と、該同位置試料についての該代表画像と、該画像取得手段により取得された該同位置試料についての複数の画像とを画像データとして含み、該複数の画像の各々についての該種類を示す画像種類情報を更に含む画像ファイルを複数保存する画像ファイル保存手段と、該画像ファイル保存手段に保存されている各画像ファイルについての該代表画像の一覧表示を行うと共に、該各画像ファイルに含まれている該同位置試料についての複数の画像の各々についての該画像種類情報を、該一覧表示を行う各代表画像に対応付けて表示する画像ファイル一覧表示手段と、を有し、該代表画像取得手段は、該画像取得手段により取得された該同位置試料についての複数の画像のひとつから、該同位置試料についてのサムネイル画像を該代表画像として作成するというものであり、この構成によって前述した課題を解決する。
なお、上述した顕微鏡装置において、該画像ファイル一覧表示手段は、該各画像ファイルに含まれる該複数の画像の各々についての該画像種類情報を示す図形を、該一覧表示を行う該各画像ファイルについての該代表画像に重ねて表示するように構成してもよい。
また、前述した顕微鏡装置において、該画像ファイル一覧表示手段は、該各画像ファイルに含まれる該複数の画像の各々についての該画像種類情報を示す図形を、該一覧表示を行う該各画像ファイルについての該代表画像の周囲に隣接させて表示するように構成してもよい。
また、前述した顕微鏡装置において、該画像ファイル一覧表示手段は、該各画像ファイルに含まれる該複数の画像の各々についての該画像種類情報として、該画像の種類に予め対応付けられている色彩の図形を、各代表画像に対応付けて表示するように構成してもよい。
また、前述した顕微鏡装置において、該画像ファイル一覧表示手段は、該各画像ファイルに含まれる該複数の画像の各々についての該画像種類情報として、該画像の種類に予め対応付けられている文字を、各代表画像に対応付けて表示するように構成してもよい。
また、前述した顕微鏡装置において、該画像ファイル一覧表示手段は、該各画像ファイルに含まれる該複数の画像の各々についての該画像種類情報のうち、該代表画像の一覧表示から選択されている代表画像を含む画像ファイルに含まれている画像の各々についての画像種類情報のみを、該代表画像の一覧表示に並べて表示するように構成してもよい。
また、前述した顕微鏡装置において、該顕微鏡装置は共焦点顕微鏡であり、該画像取得手段は、該同位置試料についての共焦点画像と、非共焦点画像とを少なくとも取得するように構成してもよい。
また、前述した顕微鏡装置において、該顕微鏡装置は共焦点顕微鏡であり、該画像取得手段は、該同位置試料についての共焦点画像と、該同位置試料の像をビデオカメラで撮像して得られるビデオ画像とを少なくとも取得するように構成してもよい。
なお、このとき、該画像取得手段は、該同位置試料についての複数の共焦点画像に基づき、該同位置試料についての三次元画像及びエクステンド画像のうち少なくとも一方を取得可能であるように構成してもよい。
本発明によれば、以上のようにすることにより、画像の探索を容易に行えるようになるという効果を奏する。
以下、本発明の実施の形態を図面に基づいて説明する。
図1は、本発明を実施する共焦点レーザ顕微鏡装置(LSM)の構成を示している。この顕微鏡装置は、顕微鏡本体101、コントローラ102、入力装置103、表示装置104、及び試料台105を備えている。
顕微鏡本体101は、対物レンズ111、レボルバ112、Z移動機構140、ビームスプリッタ113、118、及び128、照明レンズ114、コレクタレンズ115、白色光源116、結像レンズ117、1/4波長板119、瞳投影レンズ120、光スキャナ121、偏光ビームスプリッタ122、集光レンズ123及び127、レーザ光源124、ビデオカメラレンズ125、ビデオ画像取得用CCDカメラ126、ピンホール129、共焦点画像取得用検出器130、非共焦点画像取得用検出器131、並びにZ移動機構140を備える。ここで、光スキャナ121としては、例えば、ガルバノミラーが用いられ、共焦点画像取得用検出器130及び非共焦点画像取得用検出器131としては、例えば、フォトマルチプライヤが用いられる。また、白色光源116としては、例えば、白色照明用ファイバ光源が用いられる。
共焦点画像及び非共焦点画像を取得する場合には、レーザ光源124から発せられるレーザ光(照明光)を、集光レンズ123、偏光ビームスプリッタ122、光スキャナ121、瞳投影レンズ120、1/4波長板119、ビームスプリッタ118、結像レンズ117、ビームスプリッタ113、及び対物レンズ111からなる光路を経由させて、試料台105上に載置されている試料106上に集光させ、スポット光として照射する。ここで、照明光を光スキャナ121により二次元走査させると、試料106上のスポット光は、対物レンズ111の光軸の方向(Z方向)に垂直な平面上の直交する2方向であるXY方向に走査する。このとき、試料106からの反射光は、上記光路における対物レンズ111から偏光ビームスプリッタ122まで逆向きに経由して、偏光ビームスプリッタ122により集光レンズ127の方へ導かれる。そして、集光レンズ127を通過した反射光が、ビームスプリッタ128により2つに分岐して、その一方がピンホール129を経由して共焦点画像取得用検出器130に入射し、もう一方は非共焦点画像取得用検出器131に入射する。
また、カラービデオ画像を取得する場合には、白色光源116から発せられる照明光を、コレクタレンズ115、照明レンズ114、ビームスプリッタ113、及び対物レンズ111からなる光路を経由させて、試料106を照明する。このとき、試料106からの反射光は、対物レンズ111、ビームスプリッタ113、結像レンズ117、ビームスプリッタ118、及びビデオカメラレンズ125を経由して、ビデオ画像取得用CCDカメラ126に入射する。
共焦点画像取得用検出器130及び非共焦点画像取得用検出器131を含む共焦点光学系では、ピンホール129が挿入された共焦点系とピンホール129のない非共焦点系とが、ビームスプリッタ128を通過後の反射光を同時に検出するように配置されている。そして、2チャンネル1組のLSM出力信号として、共焦点画像取得用検出器130及び非共焦点画像取得用検出器131の各々の出力信号がコントローラ102へ送られる。
一方、ビデオ画像取得用CCDカメラ126を含むビデオ光学系では、白色光源116からの照明光で照明されている試料106のビデオ画像が取得される。そして、ビデオ出力信号として、このビデオ画像を表している信号がビデオ画像取得用CCDカメラ126からコントローラ102へ送られる。
以上のように、顕微鏡本体101は、ビデオ出力信号と2種類のLSM出力信号とを同時に出力してコントローラ102へ伝送する。
コントローラ102は、受け取った1組のLSM出力信号から、試料106についての共焦点画像と非共焦点画像とを構築すると共に、受け取ったビデオ出力信号に基づいて試料106のビデオ画像を再生する。このとき取得される各画像は、以下のような特徴を有している。
共焦点画像は、コントラストが高く、焦点深度の浅い単色画像であり、計測及び観察の用途で主に用いられる。但し、共焦点画像では試料106へのピント合わせ及び試料106上における観察位置の特定(位置決め)が難しい。
非共焦点画像は、コントラストが比較的高く、焦点深度が通常の光学顕微鏡と同程度の単色画像であり、観察用途に用いられることに加え、ピント合わせや位置決めの作業にも利用される。
なお、共焦点画像と非共焦点画像とを組み合わせて利用すると、全体像(焦点深度の深い画像)と部分的な像(焦点深度の深い画像)との対比観察が可能となる。
ビデオ画像は、色情報を含んでいる通常の顕微鏡のカラー画像として得ることができる。従って、観察用途に用いられることに加え、ピント合わせや位置決めの作業にも利用することができる。暗視野観察や微分干渉観察等の検鏡法の利用が可能である。
なお、以下の説明では、共焦点画像と非共焦点画像とを総称して「LSM画像」と称することとする。
コントローラ102は、演算部201、制御部202、及び記憶部203を備えて構成されており、例えば、パーソナルコンピュータ等の情報処理装置が用いられる。ここで、演算部201には、MPU(演算処理装置)と、ROM(Read Only Memory)及びRAM(Random Access Memory)を含むメモリとを備えて構成されている。ここで、ROMには、所定の基本制御プログラムが予め記録されており、MPUが、この基本制御プログラムを演算部201の起動時に読み出して実行することにより、演算部201の各構成要素の動作制御が可能になる。また、RAMは、MPUが各種の制御プログラムを実行する際に、必要に応じて作業用記憶領域として使用する。MPUは、この基本制御プログラムの実行完了後に、記憶部203の所定の記憶領域に予め格納されている、図1のLSM全体の制御プログラムを読み出して実行することにより、演算部201として機能する。
演算部201は、ビデオ画像取得用CCDカメラ126、共焦点画像取得用検出器130、非共焦点画像取得用検出器131、光スキャナ121、及びレーザ光源124等の、図1に示したLSMの各構成要素の制御を、制御部202を介して行う。また、演算部201は、顕微鏡本体101により取得したLSM画像及びビデオ画像を記憶部203で保存させるための保存制御処理や、記憶部203で保存中のこれらの画像の表示を行うための表示制御処理などといった、後述する各種の制御処理を行う。
入力装置103は、例えば、キーボード装置、マウス装置等のポインティングデバイス、タッチパネル等である。入力装置103は、表示装置104のモニタ画面141に表示される操作画面との連携によりグラフィカル・ユーザ・インタフェース(GUI)を構成し、図1のLSMのユーザによる指示や情報の入力を、このGUIを利用して取得してコントローラ102に渡す。
図1のLSMを用いてLSM画像とビデオ画像とを同時に観察する場合には、演算部201は、制御部202に指示を与えて、LSM画像を1フレーム撮像したときに、レーザ光源124を消灯(OFF)させた上で、ビデオ画像を1フレーム撮像させるようにする。そして、その後に、レーザ光源124を点灯(ON)させて、LSM画像の次の1フレームの撮像を行わせる。以降同様の制御を繰り返し制御部202に行わせる。なお、レーザ光源124の点灯・消灯は、レーザ光源124への電力の供給ラインの開閉を行えばよく、また、レーザ光源124で発生させたレーザ光をシャッタ等の開閉により通過・遮断させてもよい。また、制御部202に、レーザ光源124で発生させるレーザ光の強度を制御させてもよい。
演算部201は、顕微鏡本体101から送られてくるLSM出力信号からLSM画像を構築して表示装置104のモニタ画面141に表示させる処理を行う。また、演算部201は、顕微鏡本体101から送られてくるビデオ出力信号に基づいてLSM画像を再生して表示装置104のモニタ画面141に表示させる処理も行う。更に、演算部201は、記憶部203で保存されている画像を読み出して表示装置104のモニタ画面141に表示させて出力する処理も行う。
また、演算部201は、LSM出力信号に基づき試料106の三次元画像を構築して表示装置104のモニタ画面141に表示させる処理も行う。このために、演算部201は、制御部202に指示を与えてZ移動機構140を制御させて、レボルバ112を上下に移動させて、試料106と対物レンズ111との相対位置をZ方向に移動させる。そして、このときに、共焦点画像取得用検出器130の出力信号の監視を行い、試料106からの反射光量が一番高い位置のZ座標を、試料106の高さ位置として検出する。この検出を、XYについて試料106の表面全体に亘って行い、得られた高さ位置を三次元座標上に配置することで、試料106の三次元画像が構築される。
また、演算部201は、試料106の表面全体にピントの合ったエクステンド画像(二次元全焦点画像)を構築して表示装置104のモニタ画面141に表示させる処理を行うこともできる。このために、演算部201は、まず、試料106と対物レンズ111との相対位置をZ方向に移動させたときに共焦点画像取得用検出器130で得られた試料106からの反射光量の最大値を、XY座標毎に取得する。そして、その最大値を当該XY座標の画素の輝度値として割り当てて画像を構成することで、全ての画素についてピントの合ったエクステンド画像(二次元全焦点画像)が構築される。
以上のように、図1に示したLSMでは、試料106の共焦点画像、非共焦点画像、及びビデオカラー画像を取得することができ、また、試料106の三次元画像及びエクステンド画像を生成することもできる。また、各画像からノイズを除去した画像や、共焦点画像とビデオ画像とを合成した画像を演算部201により構築することができる。更に、三次元画像を用い、試料106における所望の位置の高さの計測を演算部201により行うことができる。
次に図2について説明する。図2は、表示装置104のモニタ画面141での各種の画像の表示例を示している。この表示例は、以上のようにしてコントローラ102により取得・生成されたLSM画像、ビデオ画像、三次元画像、及びエクステンド画像のうち、所定のいずれか3つを、画像表示ウィンドウ301、302、及び303に表示した例である。
ユーザが入力装置103を操作して、上述した画像のうちの幾つかを選択する指示を行うと、入力装置103は、この指示を演算部201へ送付する。演算部201は、この指示を取得すると、当該指示に係る全ての画像(図2の例のように3つに限定されるものではない)を、モニタ画面141上に並べて表示させる処理を行う。このとき、演算部201は、図2にも示されているように、GUI用の表示である保存ボタン304も併せて表示する。ユーザが入力装置103を操作して、保存ボタン304を押下する指示を行うと、入力装置103は、この指示を演算部201へ送付する。演算部201は、この指示を取得すると、そのときにモニタ画面141上に並べて表示されている画像を表現している画像データを1つの画像ファイルに纏めて記憶部203で記憶させて保存する画像保存処理を行う。
ここで図3について説明する。図3は、この画像保存処理の処理内容をフローチャートで示したものである。
図3において、まず、S101では、試料106のサムネイル画像を、予め指定されている種類の画像(例えばビデオ画像)から生成する処理が行われる。この処理では、試料106のビデオ画像の画像サイズを、予め定められている所定のサイズに縮小して、その縮小後の画像(サムネイル画像)を表している画像データが生成される。
なお、サムネイル画像を生成する元の画像の指定をビデオ画像とする代わりに、LSM画像等の他の画像を指定してもよい。また、このサムネイル画像を生成する元の画像の指定を、ユーザが行うようにしてもよい。この場合には、ユーザが入力装置103を操作して、サムネイル画像を生成する元となる画像の種類を選択する指示を行うと、入力装置103は、この指示を演算部201へ送付する。演算部201は、この指示を取得すると、この指示により選択されている種類の画像からサムネイル画像を生成する処理を行うようにする。
なお、ここで、試料106との関係を表しているような図形の画像を、サムネイル画像の代わりに生成するようにしてもよい。
次に、S102では、生成する試料106の画像ファイルに格納して保存する画像の種類(画像の取得方法の種類)についての情報(格納画像種類情報)を生成して、画像ファイルのヘッダ情報に格納する処理が行われる。
ここで図4について説明する。図4は、演算部201が生成する画像ファイルのデータ構造を示している。
この画像ファイルには、ヘッダ情報と、サムネイル画像を含む保存対象の各画像についての画像データとが格納される。ここで、ヘッダ情報には、この画像ファイルの作成日及び作成時刻、並びにこの画像ファイルの作成指示者を特定する情報(ファイル作成者ID)と共に、この格納画像種類情報が示される。
格納画像種類情報により示される画像の種類としては、例えば、共焦点画像、非共焦点画像、三次元画像、エクステンド画像、及びカラー画像(ビデオ画像)などを定義しておく。この他に、例えば、ノイズの除去処理が施された画像や、LSM画像とビデオ画像との合成画像、所望の箇所の高さの計測用の3次元画像などを定義しておいてもよい。更に、画像処理の種類や、計測の種類などを細分化して定義してもよい。
なお、演算部201は、保存ボタン304の押下指示を取得したときにモニタ画面141に表示されていた各画像を特定する情報を、格納画像種類情報とする。
次に、図3のS103では、図4に示すデータ構造の画像ファイルを生成して記憶部203に記憶させて保存する処理が行われる。ここで、演算部201は、S101の処理で生成したサムネイル画像(若しくは前述した図形)の画像データと、格納画像種類情報で示されている各画像の画像データと、S102の処理で格納画像種類情報を格納したヘッダ情報とを纏めて画像ファイルに格納する。
このS103の処理を完了すると、図3の画像保存処理が終了する。
次に図5について説明する。図5は、演算部201により行われる保存画像ファイル一覧表示処理の第一の例の処理内容をフローチャートで示したものである。この処理は、記憶部203で保存されている画像ファイルを読み出し、各画像ファイルに含まれているサムネイル画像(若しくは前述した図形)を表示装置104のモニタ画面141上に並べて表示させる処理である。
ユーザが入力装置103を操作して、記憶部203で保存されている画像ファイルの一覧表示の指示を行うと、入力装置103は、この指示を演算部201へ送付する。演算部201は、この指示を取得すると、図5の処理を開始する。
図5において、まず、S201では、記憶部203で保存されている全ての画像ファイルを読み出し、各画像ファイルのヘッダ情報から格納画像種類情報を取り出して、各画像ファイルに含まれている各画像の種類を判別する処理が行われる。
次に、S202では、画像ファイルに保存されている各画像の種類を示す情報の表示態様を決定する処理が行われる。この表示態様は、予め決定されていてもよく、また、ユーザが入力装置103を操作して行った表示態様の選択指示を演算部201予め取得しておき、その選択指示に従って表示態様を決定するようにしてもよい。
S203では、S201で読み出した各画像ファイルに含まれているサムネイル画像(若しくは前述した図形)と、各画像ファイルに含まれている画像の種類の情報とを、表示装置104のモニタ画面141上に一覧表示する処理が行われる。ここで、演算部201は、まず、各画像ファイルにおいてヘッダ情報の直後に配置されている、サムネイル画像(若しくは前述した図形)の画像データを読み出し、その画像データで表されている画像を一覧表示する処理を行う。次に、S201の処理で判別した画像ファイル毎の画像の種類を示す情報を、S202の処理で決定した表示態様で、一覧表示されている画像に対応付けて一覧表示する処理を行う。
このS203の処理を完了すると、図5の保存画像ファイル一覧表示処理画像が終了する。
以下、この保存画像ファイル一覧表示処理画像による、サムネイル画像(若しくは前述した図形)と、各画像ファイルに含まれている画像の種類の情報との一覧表示の表示例を幾つか説明する。
図6A及び図6Bは保存画像ファイルの一覧表示の第一の例を示している。ここで、図6Bは、図6Aに示した一覧表示に付した符号「α」の部分を拡大して示した図である。
図6Aから分かるように、この第一の例では、記憶部203に記憶されていた、ファイル名がそれぞれ「001.ols」、「002.ols」…、「009.ols」である計9個の画像ファイルが一覧表示されている。
図6Bに注目すると、サムネイル画像401及び402が表示されている。サムネイル画像401及び402は、画像ファイル「001.ols」及び「002.ols」それぞれに含まれていた画像データに基づいて表示されるものである。つまり、この第一の例では、各画像ファイルに含まれているサムネイル画像を、その画像ファイルに含まれている画像を代表する代表画像として一覧表示している。
また、図6Bから分かるように、サムネイル画像401の下部には、画像種類表示403、404、及び405がサムネイル画像401に重ねられて表示されている。更に、サムネイル画像402の下部には、画像種類表示406及び407がサムネイル画像402に重ねられて表示されている。ここで、画像種類表示403、404、及び405は、この画像ファイルに含まれている画像の種類が、それぞれ、三次元画像(「3」の表示)、エクステンド画像(「2」の表示)、及びカラー画像(「T」の表示)であることを示している図形である。また、画像種類表示406及び407は、この画像ファイルに含まれている画像の種類が、それぞれ、LSM画像における共焦点画像(「C」の表示)及び非共焦点画像(「F」の表示)であることを示している図形である。
つまり、この第一の例では、画像ファイルに含まれている画像の種類の表示態様として、画像ファイルを代表するサムネイル画像401及び402にそれぞれ重ねて表示される画像種類表示403、404、405、406、及び407が画像の種類を表示する。
ここで、ユーザが入力装置103を操作して、この代表画像の一覧表示から所望の画像ファイルを選択する指示を行うと、入力装置103は、この指示を演算部201へ送付する。演算部201は、この指示を受け取ると、当該指示により選択されている画像ファイルに含まれている画像データで表されている、各種の画像を表示装置104のモニタ画面141上に一覧表示する処理を行う。例えば、図6Bのサムネイル画像401の選択指示を受け取った場合には、演算部201は、まず、サムネイル画像401の画像データが含まれていた画像ファイルから、三次元画像、エクステンド画像、及びカラー画像の画像データを取り出す処理を行う。そして、これらの画像データで各々表されている三次元画像、エクステンド画像、及びカラー画像を、例えば図2の表示例における画像表示ウィンドウ301、302、及び303の一覧表示のように、モニタ画面141上に一覧表示する処理を行う。
このような第一の例の表示を行うことで、記憶部203で保存されている画像から所望の種類の画像を探し出す際に、代表画像の一覧表示をユーザが見るだけで、その代表画像の画像ファイルには、どのような種類の画像が含まれているかを認識できる。つまり、各画像ファイルに含まれている画像の全てを表示することなく、所望の種類の画像を探し出すことができるので、画像の探索が容易になる。
なお、図6A及び図6に示した保存画像ファイルの一覧表示例では、画像種類表示403、404、405、406、及び407の図形を、その中に示されている1文字の表示により区別するようにしていた。この代わりに、この図形の色彩を互いに異なるものとして区別するようにしてもよい。もちろん、文字による区別と色彩による区別とを併用してもよい。
更には、画像種類表示403、404、405、406、及び407の図形を、態様が互いに全く異なる別の図形にしてその区別が容易になるようにしてもよい。図7は、そのような図形の例である。
図7において、画像種類表示501は、画像ファイルに含まれている画像の種類が共焦点画像であることを示している図形であり、画像種類表示502は、画像ファイルに含まれている画像の種類がカラー画像(ビデオ画像)であることを示している図形である。
なお、これらの図形は、図1のLSMにおいて、それぞれ、共焦点画像及びビデオ画像の撮像動作の指示の取得のために、表示装置104に表示するGUI用の操作ボタンの図形、アイコン、若しくは名称と同一としておくと便利である。これらの図形と画像の種類との対応関係を、ユーザが容易に学習できるからである。また、この他にも、例えば、ノイズの除去処理が施された画像の種類を表示する図形として、ノイズの除去処理を指示するGUI用の操作ボタン、アイコン、若しくは名称と同一するようにしてもよい。また、例えば、LSM画像とビデオ画像との合成処理により得られた種類を表示する図形として、画像の合成処理を指示するGUI用の操作ボタン、アイコン、若しくは名称と同一するようにしてもよい。更には、例えば、所望の箇所の高さの計測用の3次元画像の種類を表示する図形として、画像の計測処理を指示するGUI用の操作ボタン、アイコン、若しくは名称と同一するようにしてもよい。
次に図8Aについて説明する。図8Aは、保存画像ファイルの一覧表示の第二の例を示しており、図6Bと同様に、一覧表示の一部分を拡大して示したものである。
この図8Aに示した表示例では、画像ファイルに含まれている画像の種類の表示態様として、サムネイル画像601の下部に隣接して、画像種類表示603、604、及び605が表示されている。更に、サムネイル画像602の下部に隣接して、画像種類表示606、607、608、及び609が表示されている。これらの画像種類表示603、604、605、606、607、608、及び609は、互いに異なる色彩の図形である。ここで、画像種類表示603、604、及び605は、この画像ファイルに含まれている画像の種類が、それぞれ、三次元画像、エクステンド画像、及びカラー画像であることを示している。また、画像種類表示606及び607は、この画像ファイルに含まれている画像の種類が、それぞれ、LSM画像における共焦点画像及び非共焦点画像であることを示している。更に、画像種類表示608及び609は、この画像ファイルが、それぞれ画像ノイズ除去等の画像処理が施されている画像、及び、高さ等の計測データを含む画像を含んであることを示している。
画像種類表示603、604、605、606、607、608、及び609における色彩が表現している画像の種類を図8Bに例示する。なお、図8A及び図8Bにおいては、色彩の違いをスクリーントーンの違いにより表現している。
ここで、ユーザが入力装置103を操作して、この代表画像の一覧表示から所望の画像ファイルを選択する指示を行うと、入力装置103は、この指示を演算部201へ送付する。演算部201は、この指示を受け取ると、当該指示により選択されている画像ファイルに含まれている画像データで表されている、各種の画像を表示装置104のモニタ画面141上に一覧表示する処理を行う。例えば、図8Aのサムネイル画像601の選択指示を受け取った場合には、演算部201は、まず、サムネイル画像601の画像データが含まれていた画像ファイルから、三次元画像、エクステンド画像、及びカラー画像の画像データを取り出す処理を行う。そして、これらの画像データで各々表されている三次元画像、エクステンド画像、及びカラー画像を、例えば図2の表示例における画像表示ウィンドウ301、302、及び303の一覧表示のように、モニタ画面141上に一覧表示する処理を行う。
このような第二の例の表示を行うことで、第一の例と同様、各画像ファイルに含まれている画像の全てを表示することなく、所望の種類の画像を探し出すことができるので、画像の探索が容易になる。また、画像ファイルに含まれている画像の種類を示す表示を、代表画像に重ねることなく、代表画像の周囲に隣接して表示するので、代表画像の表示を部分的に妨げることがなく、代表画像の視認性が向上する。更に、画像ファイルに含まれている画像の種類を、画像種類の表示の色彩の違いにより示すので、その色彩を識別するだけで、画像ファイルに含まれている画像の種類が分かるので、所望の画像の探索を素早く行える。また、画像ファイルに含まれている画像の種類を、画像種類の表示の色彩の違いにより示すので、画像種類の表示を小さくしても画像の種類の識別が可能である。従って、画像種類の表示を小さくすることで、一覧表示上で、より多くの代表画像を表示することができる。
なお、図8Bに示した色彩と画像の種類との関係を示す表示を、代表画像の一覧表示に並べて表示するようにしてもよい。
次に図9について説明する。図9は、保存画像ファイルの一覧表示の第三の例を示しており、図6Bと同様に、一覧表示の一部分を拡大して示したものである。
この図9に示した表示例では、モニタ画面141における代表画像の一覧表示の上部に、予め定められている画像の種類と文字との対応付けの説明を、説明表示702、703、及び704により表示している。そして、サムネイル画像701の下部には、このサムネイル画像701を含む画像ファイルに含まれている画像の種類を示すデジタルデータ名705が表示されている。ここで、このデジタルデータ名705である表示「3D_E_C」のうち、文字「3D」、「E」、及び「C」は、この画像ファイルに含まれている画像の種類が、それぞれ、三次元画像、エクステンド画像、及びカラー画像であることを示している。そして、この文字と画像の種類との対応付けが、説明表示702、703、及び704により提示されている。
ここで、ユーザが入力装置103を操作して、この代表画像の一覧表示から所望の画像ファイルを選択する指示を行うと、入力装置103は、この指示を演算部201へ送付する。演算部201は、この指示を受け取ると、当該指示により選択されている画像ファイルに含まれている画像データで表されている、各種の画像を表示装置104のモニタ画面141上に一覧表示する処理を行う。例えば、図9のサムネイル画像701の選択指示を受け取った場合には、演算部201は、まず、サムネイル画像701の画像データが含まれていた画像ファイルから、三次元画像、エクステンド画像、及びカラー画像の画像データを取り出す処理を行う。そして、これらの画像データで各々表されている三次元画像、エクステンド画像、及びカラー画像を、例えば図2の表示例における画像表示ウィンドウ301、302、及び303の一覧表示のように、モニタ画面141上に一覧表示する処理を行う。
このような第三の例の表示を行うことで、画像ファイルに含まれる各画像についての画像種類情報として、その画像の種類に予め対応付けられている文字が、各代表画像に対応付けられて表示される。従って、第一の例と同様、各画像ファイルに含まれている画像の全てを表示することなく、所望の種類の画像を探し出すことができるので、画像の探索が容易になる。また、この表示例では、画像ファイルに含まれている画像の種類の表示態様として、画像ファイルに含まれる画像の種類が文字で表示されるので、その文字を識別するだけで、画像ファイルに含まれている画像の種類が分かるので、所望の画像の探索を素早く行える。
次に図10A及び図10Bについて説明する。図10A及び図10Bは、どちらも、保存画像ファイルの一覧表示の第四の例を示しており、図6Bと同様に、一覧表示の一部分を拡大して示したものである。
図10Aは、ユーザが入力装置103を操作して、モニタ画面141上のカーソル枠804を移動させて、サムネイル画像801を選択する指示を行った状態を表している。このとき、演算部201は、サムネイル画像801を含む画像ファイルに含まれていた画像の種類を、サムネイル画像の一覧表示と並べてその上部に配置される画像種類表示欄803で表示する。なお、図10Aの画像種類表示欄803では、黒塗りの表示により、サムネイル画像801を含む画像ファイルには、三次元画像、エクステンド画像、及び2次元共焦点LSM画像が含まれていることを表している。なお、白抜きの表示は、当該表示に対応付けられている画像が、サムネイル画像801を含む画像ファイルには含まれていないことを表している。
また、図10Bは、ユーザが入力装置103を操作して、モニタ画面141上のカーソル枠804を移動させて、サムネイル画像802を選択する指示を行った状態を、図10Aと同様に表している。このとき、演算部201は、サムネイル画像802を含む画像ファイルに含まれていた画像の種類を、サムネイル画像の一覧表示と並べてその上部に配置される画像種類表示欄803で表示する。図10Bの画像種類表示欄803では、黒塗りの表示により、サムネイル画像802を含む画像ファイルには、二次元非共焦点LSM画像が含まれていることを表している。
ここで図11について説明する。図11は、演算部201により行われる保存画像ファイル一覧表示処理の第二の例の処理内容をフローチャートで示したものである。この処理では、まず、記憶部203で保存されている画像ファイルを読み出し、各画像ファイルに含まれているサムネイル画像(若しくは前述した図形)を表示装置104のモニタ画面141上に並べて表示させる処理を行う。そして、その後に、図10A及び図10Bに例示したように、選択された画像ファイルに含まれる画像の種類を、画像種類表示欄803で表示する処理を行う。
ユーザが入力装置103を操作して、記憶部203で保存されている画像ファイルの一覧表示の指示を行うと、入力装置103は、この指示を演算部201へ送付する。演算部201は、この指示を取得すると、図11の処理を開始する。
図11において、まず、S301では、記憶部203で保存されている全ての画像ファイルを読み出し、各画像ファイルからサムネイル画像の画像データを取得してその画像データで表されている画像をモニタ画面141上に一覧表示する処理が行われる。
ここで、ユーザが入力装置103であるマウス装置を操作して、サムネイル画像を選択する指示を行う。S302では、このときのマウス装置の操作内容を取得し、サムネイル画像の一覧表示からユーザが選択指示したものを判別する処理が行われる。
S303では、S302の処理により判別されたサムネイル画像を含む画像ファイルのヘッダ情報から格納画像種類情報を取り出して、その画像ファイルに含まれている各画像の種類を判別する処理が行われる。
S304では、S303の判別結果に基づき、S302の処理により判別されたサムネイル画像を含む画像ファイルに含まれている画像の種類を、画像種類表示欄803で表示する処理が行われる。ここで、画像種類表示欄803での表示は、当該画像ファイルに含まれている画像の種類に対応する四角印を黒塗りとし、当該画像ファイルに含まれていないものに対応する四角印は白抜きのままとする。
このS304の処理を完了すると、図11の保存画像ファイル一覧表示処理画像が終了する。
その後、ユーザが入力装置103を更に操作して、この代表画像の一覧表示から所望の画像ファイルを選択する指示を行うと、入力装置103は、この指示を演算部201へ送付する。演算部201は、この更なる指示を受け取ると、当該指示により選択されている画像ファイルに含まれている画像データで表されている、各種の画像を表示装置104のモニタ画面141上に一覧表示する処理を行う。例えば、図10Aのサムネイル画像801の更なる選択指示を受け取った場合には、演算部201は、まず、サムネイル画像801を含む画像ファイルから、三次元画像、エクステンド画像、及び二次元共焦点LSM画像の画像データを取り出す処理を行う。そして、これらの画像データで各々表されている三次元画像、エクステンド画像、及び二次元共焦点LSM画像を、例えば図2の表示例における画像表示ウィンドウ301、302、及び303の一覧表示のように、モニタ画面141上に一覧表示する処理を行う。
このような第四の例の表示を行うことで、記憶部203で保存されている画像から所望の種類の画像を探し出す際に、代表画像の一覧表示をユーザが見るだけで、その代表画像の画像ファイルには、どのような種類の画像が含まれているかを認識できる。つまり、前述した第一の例の表示と同様に、各画像ファイルに含まれている画像の全てを表示することなく、所望の種類の画像を探し出すことができるので、画像の探索が容易になる。
なお、画像ファイルに含まれている画像の種類を表示する画像種類表示欄803を、図12に例示するような態様としてもよい。この態様では、画像の種類の幾つかを1つのグループに纏めて提示するものであり、図12の例では、三次元画像と、エクステンド画像と、カラー画像とが、1つのグループとして纏められている。従って、例えば、このグループに対応する1つの四角印のみが黒塗り表示されている場合には、三次元画像、エクステンド画像、及びカラー画像の3種類の画像が画像ファイルに含まれていることを示していることになる。
このように、画像の種類の幾つかをグループに纏めて画像種類表示欄803に示すようにすると、画像種類表示欄803の表示範囲が縮小され、表示効率が向上するので、より多くの代表画像をモニタ画面141上に一覧表示することができるようになる。
以上、本発明の実施形態を説明したが、本発明は、上述した各実施形態に限定されることなく、本発明の要旨を逸脱しない範囲内で種々の改良・変更が可能である。
例えば、以上の説明は、共焦点レーザ顕微鏡装置で本発明を実施する形態についてのものであるが、他の種類の顕微鏡でも本発明を実施することができる。このような顕微鏡としては、例えば、観察体の実体観察、分析及び解析のために、励起波長を切り替えて励起光を試料に照射可能であり、蛍光観察、明視野観察、暗視野観察の切替えも可能である同位置試料の画像を複数の検鏡法で取得できる蛍光顕微鏡がある。
本発明を実施する共焦点レーザ顕微鏡装置の構成を示す図である。 表示装置のモニタ画面での各種の画像の表示例を示す図である。 画像保存処理の処理内容をフローチャートで示した図である。 画像ファイルのデータ構造を示す図である。 保存画像ファイル一覧表示処理の第一の例の処理内容をフローチャートで示した図である。 保存画像ファイルの一覧表示の第一の例を示す図(その1)である。 保存画像ファイルの一覧表示の第一の例を示す図(その2)である。 態様が異なる画像種類表示の図形の例を示す図である。 保存画像ファイルの一覧表示の第二の例を示す図である。 色彩と画像の種類との関係を示す図である。 保存画像ファイルの一覧表示の第三の例を示す図である。 保存画像ファイルの一覧表示の第四の例を示す図(その1)である。 保存画像ファイルの一覧表示の第四の例を示す図(その2)である。 保存画像ファイル一覧表示処理の第二の例の処理内容をフローチャートで示した図である。 画像種類表示欄の例を示す図である。
符号の説明
101 顕微鏡本体
102 コントローラ
103 入力装置
104 表示装置
105 試料台
106 試料
111 対物レンズ
112 レボルバ
113、118、128 ビームスプリッタ
114 照明レンズ
115 コレクタレンズ
116 白色光源
117 結像レンズ
119 1/4波長板
120 瞳投影レンズ
121 光スキャナ
122 偏光ビームスプリッタ
123、127 集光レンズ
124 レーザ光源
125 ビデオカメラレンズ
126 ビデオ画像取得用CCDカメラ
129 ピンホール
130 共焦点画像取得用検出器
131 非共焦点画像取得用検出器
140 Z移動機構
141 モニタ画面
201 演算部
202 制御部
203 記憶部
301、302、303 画像表示ウィンドウ
304 保存ボタン
401、402、601、602、701、801、802 サムネイル画像
403、404、405、406、407、501、502、603、604、
605、606、607、608、609 画像種類表示
702、703、704 説明表示
705 デジタルデータ名
803 画像種類表示欄
804 カーソル枠

Claims (9)

  1. 同位置試料についての取得方法の異なる複数の種類の画像を取得する画像取得手段と、
    該画像取得手段により取得された該同位置試料についての複数の画像のひとつから、該同位置試料についての画像を代表する代表画像を得る代表画像取得手段と、
    該同位置試料についての該代表画像と、該画像取得手段により取得された該同位置試料についての複数の画像とを画像データとして含み、該複数の画像の各々についての該種類を示す画像種類情報を更に含む画像ファイルを複数保存する画像ファイル保存手段と、
    該画像ファイル保存手段に保存されている各画像ファイルについての該代表画像の一覧表示を行うと共に、該各画像ファイルに含まれている該同位置試料についての複数の画像の各々についての該画像種類情報を、該一覧表示を行う各代表画像に対応付けて表示する画像ファイル一覧表示手段と、を有し、
    該代表画像取得手段は、該画像取得手段により取得された該同位置試料についての複数の画像のひとつから、該同位置試料についてのサムネイル画像を該代表画像として作成する
    ことを特徴とする顕微鏡装置。
  2. 該画像ファイル一覧表示手段は、該各画像ファイルに含まれる該複数の画像の各々についての該画像種類情報を示す図形を、該一覧表示を行う該各画像ファイルについての該代表画像に重ねて表示することを特徴とする請求項1に記載の顕微鏡装置。
  3. 該画像ファイル一覧表示手段は、該各画像ファイルに含まれる該複数の画像の各々についての該画像種類情報を示す図形を、該一覧表示を行う該各画像ファイルについての該代表画像の周囲に隣接させて表示することを特徴とする請求項1に記載の顕微鏡装置。
  4. 該画像ファイル一覧表示手段は、該各画像ファイルに含まれる該複数の画像の各々についての該画像種類情報として、該画像の種類に予め対応付けられている色彩の図形を、各代表画像に対応付けて表示することを特徴とする請求項1に記載の顕微鏡装置。
  5. 該画像ファイル一覧表示手段は、該各画像ファイルに含まれる該複数の画像の各々についての該画像種類情報として、該画像の種類に予め対応付けられている文字を、各代表画像に対応付けて表示することを特徴とする請求項1に記載の顕微鏡装置。
  6. 該画像ファイル一覧表示手段は、該各画像ファイルに含まれる該複数の画像の各々についての該画像種類情報のうち、該代表画像の一覧表示から選択されている代表画像を含む画像ファイルに含まれている画像の各々についての画像種類情報のみを、該代表画像の一覧表示に並べて表示することを特徴とする請求項1に記載の顕微鏡装置。
  7. 該顕微鏡装置は共焦点顕微鏡であり、
    該画像取得手段は、該同位置試料についての共焦点画像と、非共焦点画像とを少なくとも取得する、
    ことを特徴とする請求項1から6のうちのいずれか一項に記載の顕微鏡装置。
  8. 該顕微鏡装置は共焦点顕微鏡であり、
    該画像取得手段は、該同位置試料についての共焦点画像と、該同位置試料の像をビデオカメラで撮像して得られるビデオ画像とを少なくとも取得する、
    ことを特徴とする請求項1からのうちのいずれか一項に記載の顕微鏡装置。
  9. 該画像取得手段は、該同位置試料についての複数の共焦点画像に基づき、該同位置試料についての三次元画像及びエクステンド画像のうち少なくとも一方を取得可能であることを特徴とする請求項7または請求項8に記載の顕微鏡装置。
JP2008251466A 2008-09-29 2008-09-29 顕微鏡装置 Active JP5119111B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008251466A JP5119111B2 (ja) 2008-09-29 2008-09-29 顕微鏡装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008251466A JP5119111B2 (ja) 2008-09-29 2008-09-29 顕微鏡装置

Publications (2)

Publication Number Publication Date
JP2010085463A JP2010085463A (ja) 2010-04-15
JP5119111B2 true JP5119111B2 (ja) 2013-01-16

Family

ID=42249514

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008251466A Active JP5119111B2 (ja) 2008-09-29 2008-09-29 顕微鏡装置

Country Status (1)

Country Link
JP (1) JP5119111B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5863357B2 (ja) * 2011-09-21 2016-02-16 オリンパス株式会社 拡大観察装置、並びに、拡大観察装置の画像表示方法及び検鏡法切換方法
JP5787448B2 (ja) * 2012-07-30 2015-09-30 美濃商事株式会社 装飾表示体、装飾表示方法および装飾表示システム
JP6635783B2 (ja) * 2015-12-17 2020-01-29 オリンパス株式会社 顕微鏡装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000339327A (ja) * 1999-05-27 2000-12-08 Ricoh Co Ltd サムネイル画像情報操作システム
JP2005063043A (ja) * 2003-08-08 2005-03-10 Olympus Corp 画像表示装置、画像表示方法および画像表示プログラム
JP2005149397A (ja) * 2003-11-19 2005-06-09 Olympus Corp 顕微鏡画像管理装置及びプログラム

Also Published As

Publication number Publication date
JP2010085463A (ja) 2010-04-15

Similar Documents

Publication Publication Date Title
JP6147080B2 (ja) 顕微鏡システム、貼り合わせ領域の決定方法、及び、プログラム
JP4700299B2 (ja) 共焦点走査型顕微鏡
JP5132052B2 (ja) 走査型レーザ顕微鏡の条件設定装置及び走査型レーザ顕微鏡システム
JP5119111B2 (ja) 顕微鏡装置
JP4578822B2 (ja) 顕微観察装置、顕微観察方法および顕微観察プログラム
JP2010217761A (ja) 画像取得装置、画像取得方法及びプログラム
JP4874069B2 (ja) 共焦点顕微鏡
JPWO2008152802A1 (ja) 共焦点顕微鏡装置
JP2005148584A (ja) 共焦点レーザ顕微鏡
JP4885439B2 (ja) カラー画像取得方法及び共焦点レーザ顕微鏡
JP5319184B2 (ja) 顕微鏡システム及び顕微鏡制御プログラム
JP4968337B2 (ja) 共焦点顕微鏡装置
JP4994587B2 (ja) 画像表示方法、プログラム、及び走査型共焦点顕微鏡
JP2010164635A (ja) 共焦点顕微鏡
JP2005149397A (ja) 顕微鏡画像管理装置及びプログラム
JP4792208B2 (ja) 顕微鏡装置、画像表示方法および画像表示プログラム
JP6177000B2 (ja) レーザ走査型顕微鏡
JP2005156847A (ja) 共焦点顕微鏡システム及びプログラム
US11428920B2 (en) Information processing device, information processing method, information processing program, and microscope for displaying a plurality of surface images
JP4769035B2 (ja) 走査型観察装置
JP5197246B2 (ja) 顕微鏡システム
JP4065129B2 (ja) カラー共焦点顕微鏡、測定範囲選択方法、及びその制御プログラム
JP2023108281A (ja) 観察システム、顕微鏡、観察方法、及びプログラム
JP4903377B2 (ja) 顕微鏡装置
JP2022061391A (ja) 実験支援装置、実験支援システム、実験支援方法、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110803

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120807

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121016

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121022

R151 Written notification of patent or utility model registration

Ref document number: 5119111

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151026

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250