JP5336936B2 - 撮像装置及び顕微鏡システム - Google Patents

撮像装置及び顕微鏡システム Download PDF

Info

Publication number
JP5336936B2
JP5336936B2 JP2009137056A JP2009137056A JP5336936B2 JP 5336936 B2 JP5336936 B2 JP 5336936B2 JP 2009137056 A JP2009137056 A JP 2009137056A JP 2009137056 A JP2009137056 A JP 2009137056A JP 5336936 B2 JP5336936 B2 JP 5336936B2
Authority
JP
Japan
Prior art keywords
imaging
image
parameters
setting
specifiable range
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009137056A
Other languages
English (en)
Other versions
JP2010283724A (ja
Inventor
雅之 中司
洋 藤木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2009137056A priority Critical patent/JP5336936B2/ja
Priority to EP10004594A priority patent/EP2262225B1/en
Priority to US12/771,256 priority patent/US8305434B2/en
Priority to AT10004594T priority patent/ATE515881T1/de
Publication of JP2010283724A publication Critical patent/JP2010283724A/ja
Application granted granted Critical
Publication of JP5336936B2 publication Critical patent/JP5336936B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes

Description

本発明は、撮像技術に関し、特に、標本の高速な経時変化の観察に好適である顕微鏡用の撮像装置の技術に関する。
生理学の分野において、標本の動態や、光学的あるいは電気的な刺激を与えたときの反応などを顕微鏡用の撮像装置を用いて観察し、その画像を記録する際に、標本の高速な経時変化を捉えたいという要求がある。このような要求に応えるために、撮像素子で光電変換によって発生する電荷を、その受光面の全領域の画素に亘って読み出すのではなく、その一部の領域のみの画素について読み出す部分読み出し機能を備えて、高フレームレート化を実現させた撮像装置がある。この部分読み出し機能は、パーシャルスキャン、サブアレイ読み出し、ROI(Region Of Interest:興味領域)読み出しなどとも呼ばれている。
代表的な撮像素子として、CMOS(Complementary Metal Oxide Semiconductor:相補性金属酸化膜半導体)イメージセンサとCCD(Charge Coupled Device:電荷結合素子)イメージセンサとを挙げることができる。このうち、CMOSイメージセンサは、受光面上の各画素で発生した電荷を、XYアドレス方式で直接指定して出力させることができるので、部分読み出しを容易に実現可能である。一方、CCDイメージセンサは、その構造上、受光面上の各画素で発生した電荷を、ランダムアクセスして出力することは不可能であるが、その駆動方法を工夫することで、実質的な部分読み出しを可能としている。
このようなCCDイメージセンサの部分読み出し手法に関して、幾つかの手法が従来から提案されている。
例えば特許文献1には、高速掃き出しを用いて行うCCDイメージセンサの部分読み出しの技術について記載がされている。通常読み出しでは、撮像素子上の水平方向1ライン分の電荷転送が終了したときに、撮像素子を垂直方向に1ライン分シフトするのであるが、高速掃き出しは、このときに複数ライン分のシフトを行い、当該複数ライン分の電荷を混合して掃き出すというものである。この技術では、例えばROIである、部分読み出しを行う領域では通常読み出しを行い、それ以外の領域では高速掃き出しを行うことで、ROIでない領域の読み出し時間を短縮して、フレームレートの向上を実現させる。
また、例えば特許文献2には、フレームレートを向上させる、CCDイメージセンサからの映像信号の読み出しの技術が提案されている。この技術は、ある画像1フレーム分の電荷を出力し終える前に、次のフレームについての電荷の出力を行わせるようにして、通常読み出しよりも少ない水平走査線数となる垂直同期信号の周期で読み出しを行うというものである。
また、例えば特許文献3には、フレームレートを向上させる、CCDイメージセンサからの画素データの出力速度の高速化の技術が開示されている。この技術は、CCDイメージセンサ上の水平方向1ライン分の電荷が全て転送される前に、CCDイメージセンサの垂直方向のシフトを行い、不要領域の電荷を混合してしまうというものである。
特開2004−104561号公報 特開2004−304652号公報 特開2008−35391号公報
例えば、ユーザが標本の動態を詳細に観察し、その画像を記録するために、当該標本の画像を、ユーザ所望のフレームレートで撮像を行う場合を想定する。このときにおいて、当該所望のフレームレートが、全画素読み出し動作(撮像素子の受光面の全領域の画素に亘る読み出し動作)時におけるフレームレートよりも高い場合には、部分読み出し機能を用いて当該所望のフレームレートを実現することは可能である。しかし、部分読み出し領域とフレームレートとの関係は、例えば撮像素子の種類やその駆動方法などといった、装置の構成及び動作に依存する。このため、ユーザは、部分読み出し機能を用いて実際に撮影を行わないと、当該のフレームレートで撮像を行うことが可能であるかどうかを知ることができない。
例えば、画素数が1360[pixel ](水平)×1024[pixel ](垂直)で、1水平ラインの転送周期が64[μsec ]であるCCDイメージセンサを撮像素子として顕微鏡用撮像装置を想定する。この撮像装置から露出時間10[msec ]で32[bit ]のRAW画像(生データ画像)を出力する場合、1フレームの画像の読み出しに必要な時間は約66[msec ]となるので、そのフレームレートは最大15[fps ]となる。
一方、このRAW画像における、例えば1360[pixel ](水平)×300[pixel ](垂直)の部分領域を、高速掃き出しによる部分読み出し(掃き出しライン数を7とする)で出力する場合を考える。詳細は後述するが、この場合、1フレームの画像の読み出しに必要な時間は約26[msec ]となり、そのフレームレートは最大38[fps ]になる。
また、この顕微鏡用撮像装置で撮像した画像データのPCへの転送に、例えばシリアルバス規格のひとつであるUSB(Universal Serial Bus)規格におけるUSB2.0(転送速度:約480Mbps)を用いる場合を想定する。この場合には、転送路の転送速度により、RAW画像のフレームレートが最大10[fps]に制限され、また、前述した部分読み出しを用いた場合には、画像のフレームレートは最大36[fps ]に制限される。
このように、画像撮像時の各種の条件を表している撮像パラメータには、フレームレートと部分読み出し領域のサイズとの関係のように、相互に関係しているものがある。従って、例えば、ある撮像パラメータをユーザの希望に応じて固定すると、そのために他の撮像パラメータの設定可能範囲が制約される場合がある。このように、相互に関係している撮像パラメータ間には、拘束条件が存在する場合がある。
また、前述したように、この拘束条件は、例えば撮像素子の種類、撮像素子からの蓄積電荷の読み出しの方法、画像データ転送路の転送速度などといった、装置構成に依存するため、設定可能な撮像パラメータの組み合わせをユーザが撮像前に予測することは難しい。このため、ユーザは、撮像装置に対して所望の撮像条件、あるいは、それに最も近い撮像条件の設定を見出すまでに、複数の撮像パラメータの調整と撮像の実行(試し撮り)とをユーザが繰り返す必要があり、多大な手間をかけて撮像条件の設定を行っていた。
本発明は上述した問題に鑑みてなされたものであり、その解決しようとする課題は、撮像装置に対し、相互関係のある撮像パラメータを効率良く設定できるようにすることである。
本発明の態様のひとつである撮像装置は、所定の撮像条件の下で撮像素子を制御して、該撮像素子の受光面に結像した標本の顕微鏡での観察像の画像を撮像させる撮像制御手段と、複数の撮像パラメータの入力を取得し、取得した撮像パラメータに基づいて該撮像条件を決定して該撮像制御手段に設定する設定手段と、該撮像パラメータの指定可能範囲を表示する表示手段と、該複数の撮像パラメータのうちのひとつである優先パラメータの入力を該設定手段が取得したときに、該複数の撮像パラメータのうちの該優先パラメータ以外のものの指定可能範囲を該優先パラメータに基づいて変更する指定可能範囲変更手段と、該指定可能範囲変更手段による変更後の指定可能範囲を該表示手段に表示させる表示制御手段と、を有し、該撮像制御手段は、該撮像素子を制御して、該観察像の画像のうちの該受光面の一部の領域についての画像である興味領域画像を撮像させ、該複数の撮像パラメータのうちのひとつは、該興味領域画像に表される像が結像する受光面上の領域を特定するパラメータである、ことを特徴とするものである。
なお、このとき、該複数の撮像パラメータのうちのひとつは、該撮像素子が該興味領域画像を撮像するときのフレームレートを特定するパラメータ、若しくは、該撮像素子が該興味領域画像を撮像するときの露出時間を特定するパラメータであるように構成することができる。
また、本発明の別の態様のひとつである撮像装置は、所定の撮像条件の下で撮像素子を制御して、該撮像素子の受光面に結像した標本の顕微鏡での観察像の画像を撮像させる撮像制御手段と、複数の撮像パラメータの入力を取得し、取得した撮像パラメータに基づいて該撮像条件を決定して該撮像制御手段に設定する設定手段と、該撮像パラメータの指定可能範囲を表示する表示手段と、該複数の撮像パラメータのうちのひとつである優先パラメータの入力を該設定手段が取得したときに、該複数の撮像パラメータのうちの該優先パラメータ以外のものの指定可能範囲を該優先パラメータに基づいて変更する指定可能範囲変更手段と、該指定可能範囲変更手段による変更後の指定可能範囲を該表示手段に表示させる表示制御手段と、該設定手段が取得していた撮像パラメータの入力のうち、該指定可能範囲変更手段による変更後の指定可能範囲外となった指定値を、該範囲内の値に調整する調整手段と、を有することを特徴とするものである
なお、このとき、該調整手段による調整が、該撮像素子が該観察像の画像を撮像するときの露出時間を特定するパラメータに対するものであって、該露出時間を短縮するものであった場合に、該露出時間の短縮化に起因する、該撮像素子による該観察像の画像の撮像時の光量不足を補償する光量不足補償手段を更に有するように構成することができる。
なお、このとき、該光量不足補償手段は、該標本への照明光の光量を増加させることによって、若しくは、該撮像素子が撮像した画像に対し該画像の輝度を高める画像処理を施すことによって、該光量不足を補償するように構成することができる。
また、本発明の更なる別の態様のひとつである撮像装置は、所定の撮像条件の下で撮像素子を制御して、該撮像素子の受光面に結像した標本の顕微鏡での観察像の画像を撮像させる撮像制御手段と、複数の撮像パラメータの入力を取得し、取得した撮像パラメータに基づいて該撮像条件を決定して該撮像制御手段に設定する設定手段と、該撮像パラメータの指定可能範囲を表示する表示手段と、該複数の撮像パラメータのうちのひとつである優先パラメータの入力を該設定手段が取得したときに、該複数の撮像パラメータのうちの該優先パラメータ以外のものの指定可能範囲を該優先パラメータに基づいて変更する指定可能範囲変更手段と、該指定可能範囲変更手段による変更後の指定可能範囲を該表示手段に表示させる表示制御手段と、該撮像素子に入射する光束と該撮像素子との相対位置を複数の所定の位置に所定の順序で移動させる画素ずらし手段と、を有し、該撮像制御手段は、該相対位置が該複数の所定の位置のいずれかにある場合に該光束が該撮像素子の受光面に結像させている該観察像の画像を該撮像素子に撮影させ、該撮像制御手段が該撮像素子に撮像させて得られた複数の画像を合成して、該画像よりも解像度を高くした該観察像の高解像度画像を生成する高解像度画像生成手段を有し、該指定可能範囲変更手段は、該撮像素子が該観察像の画像を撮像するときのフレームレートを特定するパラメータの指定可能範囲を変更する場合には、該優先パラメータに基づくと共に、該画素ずらし手段による該相対位置の移動に要する時間に基づいて、該指定可能範囲を変更する、ことを特徴とするものである
本発明の別の態様のひとつである顕微鏡システムは、標本の顕微鏡像を得る顕微鏡と、該顕微鏡像の画像を撮像する撮像装置と、を有しており、該撮像装置が、所定の撮像条件の下で撮像素子を制御して、該顕微鏡像である、該撮像素子の受光面に結像した観察像の画像を撮像させる撮像制御手段と、複数の撮像パラメータの入力を取得し、取得した撮像パラメータに基づいて該撮像条件を決定して該撮像制御手段に設定する設定手段と、該撮像パラメータの指定可能範囲を表示する表示手段と、該複数の撮像パラメータのうちのひとつである優先パラメータの入力を該設定手段が取得したときに、該複数の撮像パラメータのうちの該優先パラメータ以外のものの指定可能範囲を該優先パラメータに基づいて変更する指定可能範囲変更手段と、該指定可能範囲変更手段による変更後の指定可能範囲を該表示手段に表示させる表示制御手段と、該設定手段が取得していた撮像パラメータの入力のうち、該指定可能範囲変更手段による変更後の指定可能範囲外となった指定値を、該範囲内の値に調整する調整手段と、を有することを特徴とするものである。
本発明によれば、以上のようにすることにより、撮像装置に対し、相互関係のある撮像パラメータを効率良く設定できるという効果を奏する。
本発明を実施する撮像装置を含む顕微鏡システムの構成の第一の例を示す図である。 同期信号生成部が生成する同期信号とTGが生成するCCDイメージセンサの駆動信号との関係を示すタイムチャートである。 撮像パラメータ間の拘束関係を模式的に示した図である。 表示部での表示画面の第一の例を示す図である。 撮像条件設定処理の処理内容を示すフローチャートである。 撮像条件導出・調整処理の第一の例の処理内容を示すフローチャートである。 撮像条件導出・調整処理の第二の例の処理内容を示すフローチャートである。 本発明を実施する撮像装置を含む顕微鏡システムの構成の第二の例を示す図である。 表示部での表示画面の第二の例を示す図である。 本発明を実施する撮像装置を含む顕微鏡システムの構成の第三の例を示す図である。 画素ずらし動作により得られる画像の合成処理を説明する図である。 画素ずらし動作時における各信号の関係を示すタイムチャートである。
本発明の実施の形態を図面に基づいて説明する。但し、これより提示する実施形態は、本発明の技術思想を具体化するための撮像装置を例示するものに過ぎないものであって、本発明の実施形態を以下のもののみに限定するものではない。
なお、各図面において、同一の機能を有する要素には同一符号を付すようにして、その繰り返しの説明を省略する。
本実施形態では、撮像素子としてCCDイメージセンサを使用し、CCDイメージセンサの部分読み出しの手法として、前掲した特許文献1に記載の高速掃き出しを用いる顕微鏡用撮像装置を一例として説明する。但し、CCDイメージセンサの部分読み出しの手法として、高速掃き出し以外の他の手法を用いて本発明を実施することも可能である。また、撮像素子として、例えば、部分読み出しを容易に行えるCMOSイメージセンサを用いて本発明を実施することも可能である。
まず図1について説明する。図1は、本発明を実施する撮像装置を含む顕微鏡システムの構成の第一の例を示している。
図1において、顕微鏡1は、三次元方向に移動可能なステージと対物レンズとが対峙して配置されている。このステージ上には、標本が載置されており、この標本の観察像を、対物レンズを介して接眼レンズで肉眼観察できると共に、この標本の観察像(顕微鏡像)を撮像装置2により撮像することができる。
撮像装置2は、撮像素子3、タイミングジェネレータ(TG)4、前置処理部(アナログフロントエンド:AFE)5、同期信号生成部6、システム制御部7、画像処理部8、及びデータ転送部9を備えており、コンピュータ(PC)と接続されている。このコンピュータは、プログラム11に従い動作する計算機10と、表示部12及び入力部13とを備えている。なお、同期信号生成部6、システム制御部7、画像処理部8、及びデータ転送部9は、いずれもバス(BUS)に接続されており、システム制御部7の管理の下で各種のデータを相互に授受することができる。
CCDイメージセンサである撮像素子3は、その受光面に結像している、不図示である標本の顕微鏡1での観察像の画像を撮像し、得られた画像を表している電気信号をAFE5へ出力する。
TG4は、同期信号生成部6が生成する垂直同期信号VD、水平同期信号HDに同期した所定のタイミングで撮像素子3及びAFE5を駆動するための駆動信号発生器である。具体的には、TG4は、撮像素子3の垂直方向の電荷転送路を駆動する垂直転送クロックVφ、水平方向の電荷転送路を駆動する水平転送クロックHφ、撮像素子3の出力アンプをリセットさせるリセットゲート信号RG等を、撮像素子3の駆動信号として出力する。また、TG4は、撮像素子3の受光面上に並べられている受光素子が発生させて蓄積した電荷を半導体基板に強制排出すると共に、その電荷蓄積を停止させる電子シャッタパルスSUB(以下SUBパルス)を生成する。TG4は、このSUBパルスの出力期間によって撮像素子3での撮像における露出時間(露光時間)の制御を行う。また、TG4は、撮像素子3における蓄積電荷の読み出し方式(全画素読み出しモード、部分読み出しモード、画素加算(ビニング)モードなど)の選択を指示する制御信号をシステム制御部7から受け取ると、指示された方式に応じた駆動信号を出力する。更に、TG4は、AFE5の駆動信号として、相関二重サンプリング用クロックやA/D変換用クロックなどを出力する。
AFE5は、撮像素子3から出力された電気信号を受け取り、アナログ信号である当該電気信号に対し相関二重サンプリングによるノイズ成分除去やレベル調整を施した後、A/D変換(アナログ−デジタル変換)を行う。そして、撮像素子3が撮像した画像を表しているデジタルデータである画像データを画像処理部8に出力する。なお、AFE5はTG4から前述した駆動信号を受け取ると共に、レベル調整における調整値をシステム制御部7から、また、同期信号を同期信号生成部6から、それぞれ受け取る。
同期信号生成部6は、垂直同期信号VD及び水平同期信号HDを生成して、TG4、AFE5、システム制御部7、及び画像処理部8へ出力する。ここで、垂直同期信号VDの周期は、システム制御部7から出力されるVD周期設定値に基づいて設定される。また、垂直同期信号VDの周期は、システム制御部7から指示される、撮像素子3における蓄積電荷の読み出し方式に応じて設定され、例えば部分読み出しモードでは、部分読み出し領域の範囲(位置及びサイズ)に応じて設定される。
システム制御部7は、計算機10からデータ転送部9を介して送られてくる、撮像条件(読み出し方式、垂直同期信号周期、露出時間、部分読み出し領域など)の指示を受け取ると、その指示に係る読み出し方式をTG4及び同期信号生成部6に通知する。また、システム制御部7は、VD周期設定値と、撮像条件の指示に係る露出時間とより、SUBパルスの出力期間を導出してTG4に設定すると共に、レベル調整の調整値をAFE5に設定する。
以上のTG4、AFE5、同期信号生成部6、及びシステム制御部7により、所定の撮像条件の下で撮像素子3を制御して、撮像素子3の受光面に結像した標本の顕微鏡での観察像の画像を撮像させる撮像制御部が構成されている。
画像処理部8はAFE5から出力された画像データで表されている画像に対し、ノイズリダクションや階調補正などといった画像処理を施した上で、データ転送部9へ出力する。
データ転送部9は、プログラム11に従い動作している計算機10より出力される撮像条件を、システム制御部7に転送する。また、画像処理部8にて画像処理が施された画像データを受け取ると、計算機10へ転送する。
計算機10は、演算処理装置であり、プログラム11に従って動作する。計算機10は、プログラム11を実行することにより、ユーザが入力部13に入力した各種の指示の取得、撮像条件のデータ転送部9への転送や、データ転送部9から転送されてきた画像データで表されている画像の表示部12での表示などの各種制御処理を行う。この制御処理には、後述する複数の撮像パラメータの入力を取得し、取得した撮像パラメータに基づいて撮像条件を決定して撮像制御部に設定する設定処理や、後述する指定可能範囲変更処理及び表示制御処理などもある。
プログラム11は不図示の記憶装置に記憶されている。計算機10は、このプログラム11を記憶装置から読み出して実行することにより、各種の制御動作処理が実現可能になる。
表示部12は例えば液晶ディスプレイ装置であり、計算機10が撮像装置2から受け取った画像データで表されている画像の表示や、後述する撮像パラメータの指定可能範囲の表示などを行う。
入力部13は、例えばマウス装置等のポインティングデバイスやキーボード装置であり、ユーザが操作することによって当該操作に対応付けられている、ユーザからの各種の指示の入力を取得して計算機10に転送する。
次に、撮像素子3に画像の撮像を行わせるときの撮像条件の幾つかを決定する基礎となる撮像パラメータである、読み出し領域、フレームレート、垂直同期信号周期、及び露出時間の相互関係について説明する。これらの撮像パラメータは、ユーザが入力部13に対して入力するものであり、計算機10は、プログラム11に従い、入力されたこれらの撮像パラメータに基づいて撮像条件を決定する。撮像条件の決定結果は、計算機10からデータ転送部9を介して撮像装置2の撮像部へと送られる。
ここで図2について説明する。図2は、同期信号生成部6が生成する同期信号と、TG4が生成する撮像素子3であるCCDイメージセンサの駆動信号との関係を示すタイムチャートである。
図2において、(a)は、蓄積電荷の読み出し方式として全画素読み出しモードを選択した場合におけるCCDイメージセンサの駆動信号のタイムチャートである。この(a)のタイムチャートは、上段から順に、垂直同期信号VD、水平同期信号HD、垂直転送クロックVφ、及び電子シャッタパルスSUBをそれぞれ示している。
垂直転送クロックVφは、電圧の高いほうからVH、VM、及びVLの3値を採り得る信号である。ここで、CCDイメージセンサにVHを印加する度に、受光素子で発生して蓄積された電荷が垂直転送路(垂直方向の電荷転送路)に転送される。また、CCDイメージセンサにVMとVLとを交互に印加する度に、その電荷が順次水平転送路(水平方向の電荷転送路)に転送される。
また、SUBパルスを出力しない期間(図中の「EXP」の期間)は、CCDイメージセンサの受光面に並べられている受光素子への入射光の強度に応じて当該受光素子が発生させた電荷を蓄積する期間である。従って、このEXPの期間の長さを変更することによって、CCDイメージセンサでの撮像における露出時間の制御を行うことができる。
図2において、(b)及び(c)は、蓄積電荷の読み出し方式として部分読み出しモードを選択した場合におけるCCDイメージセンサの駆動信号のタイムチャートである。ここで、(b)に示されている期間「A」は高速掃き出し動作時を示しており、期間「B」は通常掃き出し動作時を示している。また、(c)は、この期間A(高速掃き出し動作時)における水平同期信号HDと垂直転送クロックVφとの関係を拡大して示している。CCDイメージセンサでは、この期間Aにおいては、水平転送路上の1ライン分の電荷転送が終了した後に、Nライン分(N>1)の電荷を垂直転送路から水平転送路に転送して混合する動作が行われる。
まず、蓄積電荷の読み出し方式として全画素読み出しモードが選択された場合におけるCCDイメージセンサの動作について説明する。
まず、受光面に並べられている受光素子が発生させて蓄積された電荷は、垂直転送路と水平転送路とにより、順次出力アンプへと送られる。出力アンプでは、送られてきた電荷を、その電荷量に比例した電圧に変換して、逐次的に出力する。一方、垂直同期信号VDの周期VDPは、1フレーム分の画像を構成する全画素の電荷を出力するのに要する時間(読み出し時間)である。従って、全画素読み出しモードが選択されている場合、垂直同期信号VDの周期VDP[sec ]は、水平同期信号HDの周期HDP[sec ]と水平走査ライン数(CCDイメージセンサの垂直方向の画素数)Hとの積、すなわち下記の[1]式により求められる。
VDP=H×HDP………[1]
次に、フレームレートFR[fps ]は、図2に示すような、露出時間EXPが垂直同期信号VDの周期VDPより短い場合には、この周期VDPの逆数であり、下記の[2]式により求められる。
FR=1/VDP………[2]
ところが、露出時間EXPが垂直同期信号VDの周期VDPよりも長い場合には、露出時間が垂直同期信号VDの複数周期に跨ることになる。この場合の、フレームレートFRは、下記の[3]式により求められる。
FR=1/{VDP×ceil(EXP/VDP)}………[3]
なお、上記式[3]において、関数ceil(X)は、X以上の値のうちで最も小さい整数を求める関数である。
まず、蓄積電荷の読み出し方式として部分読み出しモードが選択された場合におけるCCDイメージセンサの動作について説明する。
前述したように、部分読み出しモードの選択時には、CCDイメージセンサは、部分読み出し領域以外のラインについては、Nライン分(N>1)の電荷を垂直転送路から水平転送路に転送して混合する高速掃き出し動作を行う。従って、部分読み出しモードの選択時における垂直同期信号VDの周期VDPは、全画素読み出しモードの選択時のものよりも短くなる。
ここで、垂直同期信号VDの周期VDPと、ROIの高さ(CCDイメージセンサにおける矩形であるROIの垂直方向の画素数)RHとの間には、下記の式[4]の関係を有している。
VDP={RH+ceil(H−RH)/N)}×HDP………[4]
なお、部分読み出しモードの選択時におけるフレームレートFRは、全画素読み出しモードの選択時におけるものと同様に、露出時間EXPと垂直同期信号VDの周期VDPとの大小関係に応じて、上記の式[3]若しくは式[4]により求められる。
以上の式[2]、式[3]、及び式[4]から分かるように、部分読み出しモードの選択時におけるフレームレートFRは、ROIの高さRH及び露出時間EXPに依存している。その一方、このフレームレートFRは、ROIの幅(CCDイメージセンサにおける矩形であるROIの水平方向の画素数)やその位置には依存していない。
このように、上述した撮像パラメータ間には、ある撮像パラメータの値を決定すると、他の撮像パラメータの指定可能範囲の最大値が決まってしまい、その指定可能範囲の上限を制限するという関係がある。この撮像パラメータ間の関係(「拘束関係」と称することとする)を模式的に示した図が図3である。
図3において、例えばフレームレートFRの値を最初に決定した場合を考える。
この場合、フレームレートFRの値が決まると、式[2]に基づき垂直同期信号VDの周期VDPの値が特定される。この値をVDPfrとする。
決定したフレームレートFRの値で画像の撮像を行うには、露出時間EXPを、VDPfr内に抑えなければならいない。つまり、VDPfrが、設定可能な露出時間EXPの最大値となる。
更に、式[4]に基づき、ROI高さRHの値がVDPfrから特定される。この値が、ROI高さRHの最大値となる。
このように、フレームレートFRの値が決まると、露出時間EXP及びROI高さRHの設定可能範囲の上限が制限される。
次に、例えば、ROI高さRHの値を最初に決定した場合を考える。
この場合、式[4]に基づき、垂直同期信号VDの周期VDPの値が特定される。この値をVDProi とする。このとき、露出時間EXPは、VDProi 内に抑えなければならない。つまり、VDProi が、設定可能な露出時間EXPの最大値となる。
更に、式[2]に基づき、フレームレートFRの値がVDProi から特定される。この値が、ROI高さRHの前述した値を実現するために設定可能な最大値となる。
このように、ROI高さRHの値が決まると、露出時間EXP及びフレームレートFRの設定可能範囲の上限が制限される。
次に、例えば、露出時間EXPの値を最初に決定した場合を考える。
この場合、この露出時間EXPの値が、垂直同期信号VDの周期VDPの最小値となる。この値をVDPexp とする。
更に、式[2]に基づき、設定可能なフレームレートFRの最大値がVDPexp から決まり、更に、式[4]に基づき、設定可能なROI高さRHの最大値がVDPexp から決まる。
このように、露出時間EXPの値が決まると、フレームレートFR及びROI高さRHの設定可能範囲の上限が制限される。
以上のように、露出時間EXP、フレームレートFR、及びROIの高さRHの各撮像パラメータは、相互間で拘束関係を有している。
次に、表示部12での撮像パラメータの表示手法について、図4を用いて説明する。図4は、表示部12での表示画面の第一の例を示している。
図4の画面例は、入力部13と協働してグラフィカル・ユーザ・インタフェース(Graphical User Interface:以下、「GUI」と称する)を提供する。
なお、図4の画面例における入力欄、ボタン、トラックバー等の各GUI部品の配置、形状、表示方法、サイズ、配色等は適宜変更可能である。また、例えば、観察像の表示用エリアと撮像パラメータの設定用エリアとを別ウィンドウで表示させる、あるいは、複数の画面を同一ウィンドウ内で表示する等、GUIの構成も適宜変更可能である。
図4の画面例は、撮像された観察像の画像を表示する表示ウィンドウ41と、撮像パラメータの設定に使用する設定ボックス42とより構成されている。
表示ウィンドウ41内に表されている枠52と破線53及び54とは、それぞれ、ROIと、そのROIの設定可能な上限及び下限とを表している。後述するROI撮影では、重畳表示されている観察像のうち、この枠52内の領域についての画像(ROI画像)の撮像が行われる。ここで、枠52の位置及びサイズの指定、すなわちROIの位置及びサイズの指定は、ユーザが入力部13を操作することで変化させることができるが、その指定は、破線53及び54で表示される領域の範囲内でのみ変更可能である。このように、枠52と破線53及び54とは、撮像パラメータのうちのひとつであるROIの設定に利用される。
設定ボックス42内には、撮像モード選択コンボボックス43、設定モード選択コンボボックス44、解像度選択コンボボックス45、ROI座標ラベル50、及びROIサイズラベル51と、各撮像パラメータの設定用の各GUI部品とが備えられている。
撮像モード選択コンボボックス43は、ライブ、静止画、タイムラプス等の撮像モードの選択に使用される。
設定モード選択コンボボックス44は、露出時間、ROI、及びフレームレートの各撮像パラメータのうち、その設定値を優先して指定するものの選択に使用される。設定モード選択コンボボックス44で選択された撮像パラメータ(「優先パラメータ」と称することとする)以外のパラメータは、優先パラメータの設定値に基づき、指定可能範囲に制限が加えられる。
解像度選択コンボボックス45は、観察像の解像度の選択に使用される。なお、解像度選択コンボボックス45での解像度の選択肢は、全画素、ビニング、画素ずらし、部分読み出し等の、撮像素子3における蓄積電荷の読み出し方式に応じて決定される。
撮像パラメータのうちのひとつである、露出時間EXPの設定用には、露出時間設定トラックバー46、露出時間ラベル47、最長露出時間ラベル48、及び最短露出時間ラベル49が設定ボックス42内に備えられている。
露出時間設定トラックバー46は、露出時間の設定値の指定に使用され、露出時間ラベル47には、指定された露出時間の設定値が表示される。また、最長露出時間ラベル48及び最短露出時間ラベル49には、露出時間設定トラックバー46により指定可能な露出時間の設定値の上限値及び下限値が、それぞれ表示される。ユーザによる露出時間の設定値の指定は、最長露出時間ラベル48及び最短露出時間ラベル49として表示される上下限値の範囲内でのみ変更可能である。
ROI座標ラベル50及びROIサイズラベル51には、枠52の表示ウィンドウ41上での位置及びサイズによって特定される、撮像素子3の受光面上におけるROIの位置を示すXY座標値及びサイズが、それぞれ表示される。なお、図4の画面例では、ROI座標ラベル50として、X座標が「116」であり、Y座標が「249」であると表示されており、ROIサイズラベル51として、幅が「419」であり、高さ(RH)が「347」であると表示されている。
撮像パラメータのうちのひとつである、フレームレートFRの設定用には、フレームレート設定トラックバー55、フレームレートラベル56、最高フレームレートラベル57、及び最低フレームレートラベル58が設定ボックス42内に備えられている。
フレームレート設定トラックバー55は、フレームレートの設定値の指定に使用され、フレームレートラベル56には、指定されたフレームレートの設定値が表示される。また、最高フレームレートラベル57及び最低フレームレートラベル58には、フレームレート設定トラックバー55により指定可能なフレームレートの設定値の上限値及び下限値が、それぞれ表示される。ユーザによるフレームレートの設定値の指定は、最高フレームレートラベル57及び最低フレームレートラベル58として表示される上下限値の範囲内でのみ変更可能である。
このように、図4の画面例では、撮像素子3がROI画像を撮影するときにおける、フレームレートFR及び露出時間EXPと、ROI画像に表される像が結像する撮像素子3の受光面のROIを特定するパラメータとの各撮像パラメータが表示される。また、この画面例では、これらの各撮像パラメータの設定値についての指定可能範囲が表示される。
次に、計算機10により行われる撮像条件設定処理について、図5を参照しながら説明する。図5は、この撮像条件設定処理の処理内容を示すフローチャートである。計算機10は、プログラム11を実行することにより、この撮像条件設定処理を行えるようになる。
図5において、まず、Step1では、撮像条件の初期値の設定及び表示の処理が行われる。
この処理では、撮像条件の初期値(撮像モード:「ライブ撮影」、読み出し方式:「全画素読み出し」、垂直同期信号周期:式[1]より算出される「全画素読み出し」による「ライブ撮影」時のVDP)をシステム制御部7に送信する。システム制御部7は、この初期値を受信すると、TG4に対しては撮像モードと読み出し方式とを設定し、同期信号生成部6に対しては垂直同期信号周期VDPを設定して、撮像素子3による、受光面全体に亘る画像の撮像を開始させる。
また、この処理では、撮像された標本の顕微鏡1での観察像の画像と撮像条件の初期値とを表示部12で表示させる表示処理も行われる。この表示処理により、図4の画面例における表示ウィンドウ41には、観察像と、ROIを表している枠52とが表示される。但し、このときの枠52は、表示ウィンドウ41に表示される画像全体を囲むように表示され、ROIが「全視野」に設定されていることを表している。
次に、Step2において、撮像素子3における蓄積電荷の読み出し方式として、ROI内の画像の撮像時に用いられる部分読み出しが選択されたか否かを判定する処理が行われる。なお、図4の画面例をGUIとして使用している場合には、この判定は、解像度選択コンボボックス45において、撮像素子3における蓄積電荷の読み出し方式として部分読み出し方式を用いたときの観察像の解像度が選択されたか否かによって行われる。
このStep2の判定処理において、部分読み出しが選択されたと判定されたとき(判定結果がYesのとき)には、Step3に処理を進める。一方、このStep2の判定処理において、部分読み出しが選択されなかった(読み出し方式の選択が変更されなかった)と判定されたとき(判定結果がNoのとき)には、Step4に処理を進める。
Step3では、撮像素子3を制御して、撮像素子3における蓄積電荷の読み出し方式として、部分読み出しによる蓄積電荷の読み出しを行わせ、ROI内の画像(ROI画像)を撮像させる(ROI撮影)処理が行われる。
この処理では、複数の撮像パラメータの入力を取得し、取得した撮像パラメータに基づいて撮像条件を決定して前述の撮像制御部に設定する設定処理が行われる。すなわち、計算機10は、まず、この処理の実行時点において図4の画面上で指定されているROIの位置及びサイズ、露出時間EXP、並びにフレームレートFRを、ユーザからの撮像パラメータの入力として取得する。次に、このうちの露出時間EXP及びフレームレートFRに基づき、前掲の[2]式若しくは[3]式により垂直同期信号周期VDPを算出する。そして、取得したROIの位置及びサイズ並びに露出時間EXPと、算出した垂直同期信号周期VDPとを、撮像条件としてシステム制御部7に送信する。システム制御部7は、この初期値を受信すると、TG4に対しては撮像モード(ここでは「ライブ撮影」)と上記の撮像条件との設定を行い、同期信号生成部6に対しては上記の垂直同期信号周期VDPの設定を行う。すると、撮像素子3は、標本の顕微鏡1での観察像の画像のうちの受光面の一部の領域(ROI)についての画像である興味領域画像(ROI画像)の撮像を行う。
このStep3のROI撮影処理が完了すると、図5の処理が終了する。
一方、Step4では、ユーザによる入力部13に対する操作によって、表示部12に表示されている各撮像パラメータのうちの優先パラメータの設定値についての指定が変更されたか否かを判定する処理が行われる。なお、図4の画面例をGUIとして使用している場合には、優先パラメータは、前述したように、設定モード選択コンボボックス44を使用して選択されている撮像パラメータである。ここで、優先パラメータの設定値についての指定が変更されたと判定されたとき(判定結果かYesのとき)にはStep5に処理を進める。一方、優先パラメータの設定値についての指定は変更されていないと判定されたとき(判定結果かNoのとき)にはStep2に処理を戻して前述した処理が再度実行される。
次に、Step5では、撮像条件導出・調整処理が行われる。この処理では、まず、Step4の処理で設定値についての指定の変更が検出された優先パラメータと拘束関係を有している撮像パラメータの指定可能範囲を、当該優先パラメータの指定変更結果に基づいて変更する指定可能範囲変更処理が行われる。そして、撮像パラメータのうち、この時点で指示されていた設定値が、この指定可能範囲変更処理による変更後の指定可能範囲外となってしまったものについて、その設定値を当該範囲内に収まるように調整する調整処理が行われる。
なお、この撮像条件導出・調整処理は、優先パラメータの選択内容により、異なる処理が行われる。この処理の詳細については後述する。
次に、Step6では、表示部12で表示中の図4の画面における各撮像パラメータの設定値の指定可能範囲と、各撮像パラメータの設定値とを、Step5での処理結果による変更後のものに更新して表示させる表示制御処理が行われる。この表示制御処理を終えた後には、Step2に処理を戻して前述した処理が再度実行される。
以上までの処理が、撮像条件設定処理である。
次に図6について説明する。図6は、図5のStep5の処理である、撮像条件導出・調整処理の第一の例の処理内容を示すフローチャートである。この第一の例は、ROIを特定するパラメータが、優先パラメータとして設定モード選択コンボボックス44で選択されている場合に実行される処理である。
なお、ROIを特定するパラメータが、優先パラメータとして選択されている場合には、前述した図5のStep1で実行される表示処理において、各トラックバーの両端に表示されるラベルとして、この場合における値が表示される。すなわち、最高フレームレートラベル57には、前掲した式[1]及び式[2]より求まる、「全画素読み出し」による「ライブ撮影」時のフレームレートFRが表示され、最低フレームレートラベル58には、撮像装置2の仕様により定まる値が表示される。また、最長露出時間ラベル48には、設定されているフレームレートFRから式[2]より求まるVDP(すなわち、前述したVDPfr)が表示され、最短露出時間ラベル49には、撮像装置2の仕様により定まる値がそれぞれ表示される。
以下、図5のStep4において、ユーザが入力部13を操作して、ROI枠52の変更、又は、ROI座標ラベル50若しくはROIサイズラベル51の設定値の変更を行って、ROIについての撮像パラメータを変更した場合における、図6の処理を説明する。
まず、Step11では、変更された撮像パラメータが、ROI領域の高さRHであったか否かを判定する処理が行われる。ここで、ROI領域の高さRHが変更されたと判定したとき(判定結果がYesのとき)にはStep12に処理を進め、ROI領域の高さRHは変更されていないと判定したとき(判定結果がNoのとき)にはStep18に処理を進める。
Step18では、ユーザが入力部13を操作してフレームレート設定トラックバー55の指標を移動させて行う、フレームレートの設定値の指定の変更が行われたか否かを判定する処理が行われる。ここで、フレームレートの設定値の指定の変更が行われたと判定したとき(判定結果がYesのとき)にはStep15に処理を進める。一方、フレームレートの設定値の指定の変更が行われていないと判定したとき(判定結果がNoのとき)には、この図6の処理をこのまま終了して図5に処理を戻す。
一方、Step12では、変更後の高さRHから式[4]より求まる垂直同期信号周期VDP(すなわち前述したVDProi )を算出し、更に、このVDProi から[2]式より求まるフレームレートFRの最大値を算出する処理が行われる。この最大値を、最高フレームレートFRmax とする。
次に、Step13では、この時点で図4の画面例におけるフレームレートラベル56に表示されている、指示されているフレームレートFRの設定値と、最高フレームレートFRmax とを大小比較する処理が行われる。ここで、フレームレートFRの設定値が最高フレームレートFRmax を超えているとき(判定結果がYesのとき)にはStep14に処理を進める。一方、フレームレートFRの設定値が最高フレームレートFRmax を超えていないとき(判定結果がNoのとき)には、この図6の処理をこのまま終了して図5に処理を戻す。
次に、Step14では、フレームレートFRの設定値を最高フレームレートFRmax に一致させる調整処理が行われる。この処理により、フレームレートFRの設定値の指定が、変更後の指定可能範囲内に収まるように調整される。
次に、Step15では、この時点におけるフレームレートFRの設定値から式[2]により求まる垂直同期信号周期VDP(すなわち前述したVDPfr)を算出し、この値を、設定可能な露出時間EXPの最大値として設定する処理が行われる。この最大値を、最長露出時間EXPmax とする。
次に、Step16では、この時点で図4の画面例における露出時間ラベル47に表示されている、指示されている露出時間EXPの設定値と、最長露出時間EXPmax とを大小比較する処理が行われる。ここで、露出時間EXPの設定値が最長露出時間EXPmax を超えているとき(判定結果がYesのとき)にはStep17に処理を進める。一方、露出時間EXPの設定値が最長露出時間EXPmax を超えていないとき(判定結果がNoのとき)には、この図6の処理をこのまま終了して図5に処理を戻す。
次に、Step17では、露出時間EXPの設定値を最長露出時間EXPmax に一致させる調整処理が行われる。この処理により、露出時間EXPの設定値の指定が、変更後の指定可能範囲内に収まるように調整される。この調整処理を終えた後には、この図6の処理を終了して図5に処理を戻す。
以上までの処理が、撮像条件導出・調整処理の第一の例である。この処理の後に行われる図5のStep6の表示制御処理では、図6の処理により導出された最高フレームレートFRmax と最長露出時間EXPmax とを、それぞれ最高フレームレートラベル57と最長露出時間ラベル48とに表示する。更に、図6の処理によってフレームレートFR及び露出時間EXPが調整された場合には、フレームレート設定トラックバー55及びフレームレートラベル56と、露出時間設定トラックバー46及び露出時間ラベル47とを、それぞれ調整後の値に更新する。
なお、ユーザが入力部13を操作して露出時間設定トラックバー46の指標を移動させて行う、露出時間の設定値の指定の変更が行われた場合には、図6ではStep11及びStep18の判定処理の結果が共にNoとなって図5のStep6へ処理が移る。この場合には、Step6の表示制御処理では、指定変更後の露出時間の設定値に露出時間ラベル47を更新する。
次に図7について説明する。図7は、図5のStep5の処理である、撮像条件導出・調整処理の第二の例の処理内容を示すフローチャートである。この第二の例は、フレームレートが、優先パラメータとして設定モード選択コンボボックス44で選択されている場合に実行される処理である。
なお、フレームレートが、優先パラメータとして選択されている場合には、前述した図5のStep1で実行される表示処理において、各トラックバーの両端に表示されるラベルとして、この場合における値が表示される。すなわち、最高フレームレートラベル57には、前掲した式[1]及び式[2]より求まる、「部分読み出し」による「ライブ撮影」時のフレームレートFRの最大値が表示され、最低フレームレートラベル58には、撮像装置2の仕様により定まる値が表示される。また、最長露出時間ラベル48には、設定されているフレームレートFRから式[2]より求まるVDP(すなわち、前述したVDPfr)が表示され、最短露出時間ラベル49には、撮像装置2の仕様により定まる値がそれぞれ表示される。
以下、図5のStep4において、ユーザがフレームレート設定トラックバー55の移動若しくはフレームレートラベル56の設定値の変更を行って、フレームレートFRについての撮像パラメータを変更した場合における、図7の処理を説明する。
まず、Step21では、変更された撮像パラメータが、フレームレートFRであったか否かを判定する処理が行われる。ここで、フレームレートFRが変更されたと判定したとき(判定結果がYesのとき)にはStep22に処理を進める。一方、フレームレートFRは変更されていないと判定したとき(判定結果がNoのとき)には、この図7の処理をこのまま終了して図5に処理を戻す。
次に、Step22では、変更後のフレームレートFRから式[2]により求まる垂直同期信号周期VDP(すなわち前述したVDPfr)を算出し、この値を、設定可能な露出時間EXPの最大値として設定する処理が行われる。この最大値を、最長露出時間EXPmax とする。更に、算出された垂直同期信号周期VDPから式[4]により求まる、ROI高さRHを算出し、この値を、ROI高さRHの最大値として設定する処理が行われる。このRHの値を、ROIの高さの最大値RHmax とする。
次に、Step23では、この時点で図4の画面例におけるROIサイズラベル51に表示されている、指示されているROI高さRHの設定値と、ROIの高さの最大値RHmax とを大小比較する処理が行われる。ここで、高さRHの設定値が高さの最大値RHmax を超えているとき(判定結果がYesのとき)にはStep24に処理を進める。一方、高さRHの設定値が高さの最大値RHmax を超えていないとき(判定結果がNoのとき)には、Step25に処理を進める。
次に、Step24では、ROI高さRHの設定値を高さの最大値RHmax に一致させる調整処理が行われる。この処理により、ROI高さRHの設定値の指定が、変更後の指定可能範囲内に収まるように調整される。
次に、Step25では、この時点で図4の画面例における露出時間ラベル47に表示されている、指示されている露出時間EXPの設定値と、最長露出時間EXPmax とを大小比較する処理が行われる。ここで、露出時間EXPの設定値が最長露出時間EXPmax を超えているとき(判定結果がYesのとき)にはStep26に処理を進める。一方、露出時間EXPの設定値が最長露出時間EXPmax を超えていないとき(判定結果がNoのとき)には、この図7の処理をこのまま終了して図5に処理を戻す。
次に、Step26では、露出時間EXPの設定値を最長露出時間EXPmax に一致させる調整処理が行われる。この処理により、露出時間EXPの設定値の指定が、変更後の指定可能範囲内に収まるように調整される。この調整処理を終えた後には、この図7の処理を終了して図5に処理を戻す。
以上までの処理が、撮像条件導出・調整処理の第二の例である。この処理の後に行われる図5のStep6の表示制御処理では、図7の処理により導出されたROI高さの最大値RHmax を、破線53と破線54との間の距離に対応付けて表示する。また、図7の処理により導出された最長露出時間EXPmax については、最長露出時間ラベル48に表示する。更に、図7の処理によってROI高さRHの設定値及び露出時間EXPが調整された場合には、枠52及びROIサイズラベル51と、露出時間設定トラックバー46及び露出時間ラベル47とを、それぞれ調整後の値に更新する。
なお、ユーザが入力部13を操作して露出時間設定トラックバー46の指標を移動させて行う、露出時間の設定値の指定の変更が行われた場合には、図7ではStep21の判定処理の結果がNoとなって図5のStep6へ処理が移る。この場合には、Step6の表示制御処理では、指定変更後の露出時間の設定値に露出時間ラベル47を更新する。また、ユーザが入力部13を操作して枠52のサイズを変化させて行う、ROI高さRHの設定値の指定の変更が行われた場合にも、図7ではStep21の判定処理の結果がNoとなって図5のStep6へ処理が移る。この場合には、Step6の表示制御処理では、指定変更後のROI高さRHの設定値にROIサイズラベル51を更新する。
以上のように、本実施形態に係る図1の撮像装置によれば、相互関係のある撮像パラメータを効率良く設定することができる。
なお、前掲した、撮像パラメータの相互関係式である式[1]〜式[4]は、計算機10が直接計算する代わりに、予め撮像パラメータの数値関係を算出してテーブル化しておき、計算機10が当該テーブルを参照してその値を求めるようにしてもよい。
次に図8について説明する。図8は、本発明を実施する撮像装置を含む顕微鏡システムの構成の第二の例を示している。
図8の構成は、光量制御部15が追加されている点のみにおいて、図1に示した第一の例の構成と相違している。
光量制御部15は、顕微鏡1のステージ上に載置されている標本を照らす照明光の光量の制御を行う。この光量を変化させると、撮像素子3の受光面に結像する、標本の顕微鏡1での観察像の画像の輝度が変化する。
次に図9について説明する。図9は、表示部12での表示画面の第二の例を示している。この第二の例は、図8に示した顕微鏡システムの表示部12に表示されるものであり、入力部13と協働してGUIを提供する。
図9の画面例は、ゲインチェックボックス59及びゲインラベル60が設定ボックス42に追加されて備えられている点のみにおいて、図4に示した第二の例の表示画面と相違している。
ゲインチェックボックス59は、撮像素子3で撮像した画像の輝度を変更する処理の要否の指示の取得に使用される。また、ゲインラベル60には、当該画像の輝度の変更量(増幅度)を示す値が表示される。
次に、図8に示した顕微鏡システムの計算機10により行われる撮像条件設定処理について説明する。
この撮像条件設定処理の処理内容は、図5、図6、及び図7にフローチャートで示したものと基本的には同一ではあるが、図6のStep17及び図7のStep26の処理内容が若干異なるものとなる。
図1の計算機10では、露出時間EXPの設定値が最長露出時間EXPmax を超えている場合に、図6のStep17及び図7のStep26において、露出時間EXPの設定値を最長露出時間EXPmax に一致させる調整処理を行っていた。つまり、この調整処理は露出時間EXPの設定値を短縮するものであるため、この調整のみで撮像を行えば、光量不足となり、得られる画像は暗いものとなってしまう。
これに対し、図1の計算機10では、この場合に、図6のStep17及び図7のStep26において、標本を照らす照明光の光量を増加させる指示を光量制御部15へ与える処理が更に行われる。光量制御部15は、この指示を受け取ると、当該照明光の光量を増加させる制御を行う。より具体的には、光量制御部15は、例えば、蛍光観察において標本に導入した蛍光色素の褪色を抑制するために、照明光路上に挿入されているNDフィルタの挿抜の組み合わせを変更して、当該照明光の光量を増加させる。このようにすることで、露出時間EXPの設定値を最長露出時間EXPmax に短縮したことによる、撮像時の光量不足が補償される。
なお、顕微鏡システムを図8のように構成して光量制御部15に対して上述のような制御を行う代わりに、図1の構成における画像処理部8に、撮像素子3で撮像した画像の輝度を変更する画像処理を行わせて、撮像時の光量不足を補償させることもできる。
すなわち、図1の計算機10で、図6のStep17及び図7のStep26において、撮像素子3で撮像した画像の輝度を高める画像処理を行わせる指示を画像処理部8へ与える処理を更に行わせる。画像処理部8は、この指示を受け取ると、当該指示に係る画像処理を撮像画像に対して施す。なお、このときの画像処理における増幅率Gain(輝度の増加量)は、下記の式[5]により算出する。
Gain=EXP/EXPmax ………[5]
但し、この式[5]における露出時間EXPの値は、最長露出時間EXPmax に一致させる調整を行う前の露出時間EXPの設定値である。
なお、撮像素子3で撮像した画像の輝度を高める画像処理を画像処理部8に行わせる代わりに、図1の計算機10自身が行うようにすることも可能である。
次に図10について説明する。図10は、本発明を実施する撮像装置を含む顕微鏡システムの構成の第三の例を示している。
図10の構成は、画素ずらし部16が追加されている点のみにおいて、図1に示した第一の例の構成と相違している。
画素ずらし部16は、撮像素子3に入射する顕微鏡1からの光束と撮像素子3との相対位置を複数の所定の位置に所定の順序で移動させる。より具体的には、画素ずらし部16は、水平方向若しくは垂直方向の画素ずらし量を指示するシステム制御部7からの制御信号を受け、撮像素子3の物理的な位置を、当該制御信号に応じて水平方向若しくは垂直方向にずらす。画素ずらし部16は、例えばピエゾ素子(Piezoelectric element )等の電圧変位素子を備えて構成されており、この場合には、システム制御部7は、制御信号として、画素ずらし量の大きさに応じた電圧信号を画素ずらし部16に出力する。
なお、この図10の構成において、画像処理部8は、画素ずらし部16による画素ずらしが行われる度に撮像素子3が撮像して得られる、受光面に結像している標本の顕微鏡1での観察像についての、撮像位置の異なる複数の画像を受け取る。そして、この複数の画像を合成して、撮像素子3を固定したままで撮像して得られる画像よりも高解像度の画像を生成する画像合成処理を更に行う。この画像合成処理について、図11及び図12を用いて説明する。
図11において、位置P1、P2、及びP3は、画素ずらし部16が画素ずらし動作を行ったときの撮像素子3の撮像位置の例を表している。ここで、位置P1は、撮像素子3の初期位置を示している。また、位置P2は、初期位置P1から右方向にのみ1/2画素分移動した位置を示しており、位置P3は、初期位置P1から水平方向に1/4画素移動し且つ垂直方向に(√3)/4画素移動した位置を示している。
次に、この各位置P1、P2、及びP3における、撮像素子3であるCCDイメージセンサによる画像の取得動作について、図12のタイムチャートを参照しながら説明する。
図12のタイムチャートは、上段から順に、垂直同期信号VD、電子シャッタパルスSUB、撮像素子3の位置、撮像素子3での電荷蓄積状態、及び撮像素子3の出力をそれぞれ示している。
図12において、まず、期間A1では、設定された露出時間で初期位置P1での露出を行い、撮像素子3の受光素子で発生した電荷を蓄積する。次の期間B1では、期間A1で蓄積された電荷を、画像情報として撮像素子3から出力すると共に、画素ずらし部16(ここでは電圧変移素子とする)に印加する電圧を制御して、撮像素子3の位置を初期位置P1から位置P2へと移動させる。
次に、期間A2では、設定された露出時間で位置P2での露出を行い、撮像素子3の受光素子で発生した電荷を蓄積する。次の期間B2では、期間A2で蓄積された電荷を、画像情報として撮像素子3から出力すると共に、画素ずらし部16に印加する電圧を制御して、撮像素子3の位置を位置P2から位置P3へと移動させる。
次に、期間A3では、設定された露出時間で位置P3での露出を行い、撮像素子3の受光素子で発生した電荷を蓄積する。次の期間B3では、期間A3で蓄積された電荷を、画像情報として撮像素子3から出力すると共に、画素ずらし部16に印加する電圧を制御して、撮像素子3の位置を位置P3から初期位置P1へと移動させる。
以下、上述した露出と、蓄積電荷の出力及び撮像素子3の移動とを繰り返し、各位置P1、P2、及びP3での画像の撮像を撮像素子3に行わせる。このように、撮像制御部は、撮像素子3に入射する顕微鏡1からの光束と撮像素子3との相対位置が複数の所定の位置のいずれかにある場合に、当該光束が撮像素子3の受光面に結像させている標本の観察像の画像を撮像素子3に撮影させる。そして、このようにして撮像素子3に撮像させて得られた複数の画像を合成する画像処理を画像処理部8が行って、当該合成前の画像よりも解像度を高くした、標本の観察像の高解像度画像が生成される。
このように、図11及び図12に示した画素ずらし動作で得られた画像の合成処理では、3箇所の位置で撮像素子3が撮像を行って得られた3枚の画像を合成して1枚の高解像度画像を得る。従って、図12における期間A1から期間B3までの期間の逆数が、高解像度画像のフレームレートとなる。ここで、期間A1、A2、及びA3の長さは、露出時間の設定により決まることは前述した通りである。但し、期間B1、B2、及びB3の長さについては、露出時間と部分読み出し領域(すなわちROI)の高さにより決まるが、この長さを、画素ずらし部16の画素ずらし動作による撮像素子3の位置の移動に要する時間よりも短くすることはできない。
この図10の顕微鏡システムの計算機10により行われる撮像条件設定処理の処理内容は、図5、図6、及び図7にフローチャートで示したものと基本的には同一ではある。但し、最高フレームレートFRmax を求めるときには、上述したように、画素ずらし動作による撮像素子3の位置の移動に要する時間を更に加味する点が異なる。つまり、計算機10は、撮像素子3が観察像の画像を撮像するときのフレームレートを特定するパラメータの指定可能範囲を変更する場合には、前述した優先パラメータに基づくと共に、前述した相対位置の移動に要する時間にも更に基づいて、その変更を行う。
なお、図11は画素ずらしの一例であり、画素ずらしの位置、撮影枚数は図11に限定されるものではない。
このように、図10の顕微鏡システムでは、画素ずらし動作を用いた高解像度画像の撮影を実行する前に、当該画像の取得に要する時間の把握が可能であり、また、部分読み出し領域を変更した場合にも当該画像の取得に要する時間の把握が可能である。従って、この高解像度画像の撮影を繰り返して行うことで標本の高解像度の動画像を得る高解像度タイムラプス観察を行う際のフレームレートを事前に知ることができる。
以上のように、上述したいずれの実施形態に係る顕微鏡システムにおいても、ある撮像パラメータをユーザが変更した場合に、相互関係のある他の撮像パラメータの設定可能範囲の導出と、その撮像パラメータについてのそれまでの設定値の調整とが行われる。そして、導出された設定可能範囲と調整された撮像パラメータの値が表示部12で表示されてユーザに提示される。このようにすることで、ユーザと撮像装置2との間で、撮像パラメータについての対話的な設定が可能になるので、相互関係のある撮像パラメータを効率良く設定することができるようになる。
なお、本発明は、これまでに説明した実施の形態に限定されるものではなく、実施段階では、その要旨を変更しない範囲で種々変形することが可能である。
1 顕微鏡
2 撮像装置
3 撮像素子
4 TG(タイミングジェネレータ)
5 AFE(前置処理部)
6 同期信号生成部
7 システム制御部
8 画像処理部
9 データ転送部
10 計算機
11 プログラム
12 表示部
13 入力部
14 バス
15 光量制御部
16 画素ずらし部
41 表示ウィンドウ
42 設定ボックス
43 撮像モード選択コンボボックス
44 設定モード選択コンボボックス
45 解像度選択コンボボックス
46 露出時間設定トラックバー
47 露出時間ラベル
48 最長露出時間ラベル
49 最短露出時間ラベル
50 ROI座標ラベル
51 ROIサイズラベル
52 枠
53 破線
54 破線
55 フレームレート設定トラックバー
56 フレームレートラベル
57 最高フレームレートラベル
58 最低フレームレートラベル
59 ゲインチェックボックス
60 ゲインラベル

Claims (7)

  1. 所定の撮像条件の下で撮像素子を制御して、該撮像素子の受光面に結像した標本の顕微鏡での観察像の画像を撮像させる撮像制御手段と、
    複数の撮像パラメータの入力を取得し、取得した撮像パラメータに基づいて該撮像条件を決定して該撮像制御手段に設定する設定手段と、
    該撮像パラメータの指定可能範囲を表示する表示手段と、
    該複数の撮像パラメータのうちのひとつである優先パラメータの入力を該設定手段が取得したときに、該複数の撮像パラメータのうちの該優先パラメータ以外のものの指定可能範囲を該優先パラメータに基づいて変更する指定可能範囲変更手段と、
    該指定可能範囲変更手段による変更後の指定可能範囲を該表示手段に表示させる表示制御手段と、
    を有し、
    該撮像制御手段は、該撮像素子を制御して、該観察像の画像のうちの該受光面の一部の領域についての画像である興味領域画像を撮像させ、
    該複数の撮像パラメータのうちのひとつは、該興味領域画像に表される像が結像する受光面上の領域を特定するパラメータである、
    ことを特徴とする撮像装置。
  2. 該複数の撮像パラメータのうちのひとつは、該撮像素子が該興味領域画像を撮像するときのフレームレートを特定するパラメータ、若しくは、該撮像素子が該興味領域画像を撮像するときの露出時間を特定するパラメータであることを特徴とする請求項に記載の撮像装置。
  3. 所定の撮像条件の下で撮像素子を制御して、該撮像素子の受光面に結像した標本の顕微鏡での観察像の画像を撮像させる撮像制御手段と、
    複数の撮像パラメータの入力を取得し、取得した撮像パラメータに基づいて該撮像条件を決定して該撮像制御手段に設定する設定手段と、
    該撮像パラメータの指定可能範囲を表示する表示手段と、
    該複数の撮像パラメータのうちのひとつである優先パラメータの入力を該設定手段が取得したときに、該複数の撮像パラメータのうちの該優先パラメータ以外のものの指定可能範囲を該優先パラメータに基づいて変更する指定可能範囲変更手段と、
    該指定可能範囲変更手段による変更後の指定可能範囲を該表示手段に表示させる表示制御手段と、
    該設定手段が取得していた撮像パラメータの入力のうち、該指定可能範囲変更手段による変更後の指定可能範囲外となった指定値を、該範囲内の値に調整する調整手段と、を有することを特徴とする撮像装置。
  4. 該調整手段による調整が、該撮像素子が該観察像の画像を撮像するときの露出時間を特定するパラメータに対するものであって、該露出時間を短縮するものであった場合に、該露出時間の短縮化に起因する、該撮像素子による該観察像の画像の撮像時の光量不足を補償する光量不足補償手段を更に有することを特徴とする請求項に記載の撮像装置。
  5. 該光量不足補償手段は、該標本への照明光の光量を増加させることによって、若しくは、該撮像素子が撮像した画像に対し該画像の輝度を高める画像処理を施すことによって、該光量不足を補償することを特徴とする請求項に記載の撮像装置。
  6. 所定の撮像条件の下で撮像素子を制御して、該撮像素子の受光面に結像した標本の顕微鏡での観察像の画像を撮像させる撮像制御手段と、
    複数の撮像パラメータの入力を取得し、取得した撮像パラメータに基づいて該撮像条件を決定して該撮像制御手段に設定する設定手段と、
    該撮像パラメータの指定可能範囲を表示する表示手段と、
    該複数の撮像パラメータのうちのひとつである優先パラメータの入力を該設定手段が取得したときに、該複数の撮像パラメータのうちの該優先パラメータ以外のものの指定可能範囲を該優先パラメータに基づいて変更する指定可能範囲変更手段と、
    該指定可能範囲変更手段による変更後の指定可能範囲を該表示手段に表示させる表示制御手段と、
    該撮像素子に入射する光束と該撮像素子との相対位置を複数の所定の位置に所定の順序で移動させる画素ずらし手段と、を有し、
    該撮像制御手段は、該相対位置が該複数の所定の位置のいずれかにある場合に該光束が該撮像素子の受光面に結像させている該観察像の画像を該撮像素子に撮影させ、
    該撮像制御手段が該撮像素子に撮像させて得られた複数の画像を合成して、該画像よりも解像度を高くした該観察像の高解像度画像を生成する高解像度画像生成手段を更に有し、
    該指定可能範囲変更手段は、該撮像素子が該観察像の画像を撮像するときのフレームレートを特定するパラメータの指定可能範囲を変更する場合には、該優先パラメータに基づくと共に、該画素ずらし手段による該相対位置の移動に要する時間にも更に基づいて、該指定可能範囲を変更する、
    ことを特徴とする撮像装置。
  7. 標本の顕微鏡像を得る顕微鏡と、
    該顕微鏡像の画像を撮像する撮像装置と、
    を有しており、
    該撮像装置が、
    所定の撮像条件の下で撮像素子を制御して、該顕微鏡像である、該撮像素子の受光面に結像した観察像の画像を撮像させる撮像制御手段と、
    複数の撮像パラメータの入力を取得し、取得した撮像パラメータに基づいて該撮像条件を決定して該撮像制御手段に設定する設定手段と、
    該撮像パラメータの指定可能範囲を表示する表示手段と、
    該複数の撮像パラメータのうちのひとつである優先パラメータの入力を該設定手段が取得したときに、該複数の撮像パラメータのうちの該優先パラメータ以外のものの指定可能範囲を該優先パラメータに基づいて変更する指定可能範囲変更手段と、
    該指定可能範囲変更手段による変更後の指定可能範囲を該表示手段に表示させる表示制御手段と、
    該設定手段が取得していた撮像パラメータの入力のうち、該指定可能範囲変更手段による変更後の指定可能範囲外となった指定値を、該範囲内の値に調整する調整手段と、
    を有することを特徴とする顕微鏡システム。
JP2009137056A 2009-06-08 2009-06-08 撮像装置及び顕微鏡システム Expired - Fee Related JP5336936B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2009137056A JP5336936B2 (ja) 2009-06-08 2009-06-08 撮像装置及び顕微鏡システム
EP10004594A EP2262225B1 (en) 2009-06-08 2010-04-30 Photographing apparatus and microscope system
US12/771,256 US8305434B2 (en) 2009-06-08 2010-04-30 Photographing apparatus and microscope system
AT10004594T ATE515881T1 (de) 2009-06-08 2010-04-30 Fotografisches gerät und mikroskopsystem

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009137056A JP5336936B2 (ja) 2009-06-08 2009-06-08 撮像装置及び顕微鏡システム

Publications (2)

Publication Number Publication Date
JP2010283724A JP2010283724A (ja) 2010-12-16
JP5336936B2 true JP5336936B2 (ja) 2013-11-06

Family

ID=42313808

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009137056A Expired - Fee Related JP5336936B2 (ja) 2009-06-08 2009-06-08 撮像装置及び顕微鏡システム

Country Status (4)

Country Link
US (1) US8305434B2 (ja)
EP (1) EP2262225B1 (ja)
JP (1) JP5336936B2 (ja)
AT (1) ATE515881T1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7057057B2 (ja) 2016-05-31 2022-04-19 カゴメ株式会社 ニンジン含有飲料の酸味低減方法、ニンジン含有飲料及びその製造方法

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2617664T3 (es) 2009-03-11 2017-06-19 Sakura Finetek U.S.A., Inc. Procedimiento de enfoque automático y dispositivo de enfoque automático
US10139613B2 (en) 2010-08-20 2018-11-27 Sakura Finetek U.S.A., Inc. Digital microscope and method of sensing an image of a tissue sample
JP5821300B2 (ja) * 2011-06-07 2015-11-24 ソニー株式会社 撮像装置及び撮像方法
JP2012256980A (ja) * 2011-06-07 2012-12-27 Olympus Corp 画像処理システムおよび画像処理方法
DE102013103971A1 (de) 2013-04-19 2014-11-06 Sensovation Ag Verfahren zum Erzeugen eines aus mehreren Teilbildern zusammengesetzten Gesamtbilds eines Objekts
JP2015091005A (ja) * 2013-11-05 2015-05-11 オリンパス株式会社 撮像装置
US10007102B2 (en) 2013-12-23 2018-06-26 Sakura Finetek U.S.A., Inc. Microscope with slide clamping assembly
US9313401B2 (en) * 2014-03-04 2016-04-12 Here Global B.V. Frame rate designation region
US10824315B2 (en) * 2015-05-29 2020-11-03 Canon Medical Systems Corporation Medical image processing apparatus, magnetic resonance imaging apparatus and medical image processing method
JP6736289B2 (ja) * 2015-12-25 2020-08-05 オリンパス株式会社 情報端末装置、撮像装置、画像情報処理システム及び画像情報処理方法
US11280803B2 (en) 2016-11-22 2022-03-22 Sakura Finetek U.S.A., Inc. Slide management system
EP3952280A4 (en) * 2019-03-29 2022-05-04 NEC Corporation IMAGE CAPTURE DEVICE, IMAGE CAPTURE METHOD AND IMAGE CAPTURE SYSTEM
WO2023112590A1 (ja) * 2021-12-13 2023-06-22 株式会社ニコン 撮像装置、画像処理方法、プログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11242255A (ja) * 1998-02-25 1999-09-07 Canon Inc カメラの情報入力装置及び方法
US7199823B2 (en) * 2001-06-18 2007-04-03 Olympus Optical Co., Ltd. Method and apparatus for improving live view performance of an image pickup apparatus for a microscope
JP2004104561A (ja) 2002-09-11 2004-04-02 Ikegami Tsushinki Co Ltd Ccdカメラ装置
JP2004304252A (ja) * 2003-03-28 2004-10-28 Minolta Co Ltd 撮像システム
JP2004304652A (ja) 2003-03-31 2004-10-28 Hitachi Kokusai Electric Inc 撮像装置
JP4928081B2 (ja) * 2005-02-03 2012-05-09 オリンパス株式会社 顕微鏡用撮像装置、記録制御方法、および記録制御プログラム
JP2007235387A (ja) * 2006-02-28 2007-09-13 Sanyo Electric Co Ltd 撮像装置、及びそれを用いたカメラ
JP4878913B2 (ja) * 2006-05-24 2012-02-15 オリンパス株式会社 顕微鏡システム、顕微鏡画像の合成方法、及びプログラム
JP4677367B2 (ja) * 2006-06-05 2011-04-27 オリンパス株式会社 照明装置、及び顕微鏡システム
JP2008035391A (ja) 2006-07-31 2008-02-14 Toshiba Teli Corp 撮像装置
JP2008139796A (ja) * 2006-12-05 2008-06-19 Keyence Corp 蛍光顕微鏡、蛍光顕微鏡の操作方法、蛍光顕微鏡操作プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP4758331B2 (ja) * 2006-12-08 2011-08-24 オリンパス株式会社 顕微鏡用撮像装置および顕微鏡用撮像プログラム
JP5289756B2 (ja) * 2007-11-26 2013-09-11 オリンパス株式会社 顕微鏡観察システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7057057B2 (ja) 2016-05-31 2022-04-19 カゴメ株式会社 ニンジン含有飲料の酸味低減方法、ニンジン含有飲料及びその製造方法

Also Published As

Publication number Publication date
EP2262225B1 (en) 2011-07-06
ATE515881T1 (de) 2011-07-15
EP2262225A1 (en) 2010-12-15
US8305434B2 (en) 2012-11-06
JP2010283724A (ja) 2010-12-16
US20100309305A1 (en) 2010-12-09

Similar Documents

Publication Publication Date Title
JP5336936B2 (ja) 撮像装置及び顕微鏡システム
US20140015933A1 (en) Image processing apparatus, imaging system, and image processing system
CN1152557C (zh) 使用ccd成象装置的监视方法及采用该法的数字静象摄象机
US20150153559A1 (en) Image processing apparatus, imaging system, and image processing system
WO2013099141A1 (en) Image processing apparatus and system, method for processing image, and program
JP2007150643A (ja) 固体撮像素子、固体撮像素子の駆動方法および撮像装置
JP5350532B2 (ja) 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム
CN105187738A (zh) 摄像元件、摄像装置
WO2013100029A1 (ja) 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム
JP2013048694A (ja) 内視鏡装置
KR20140107469A (ko) 화상 처리장치, 화상 처리 시스템, 화상 처리방법 및 기억매체
JP2009063658A (ja) 顕微鏡システム
JP2009063655A (ja) 顕微鏡システム
JP2015091005A (ja) 撮像装置
JP5219933B2 (ja) 撮像装置およびその制御方法
JPH1196334A (ja) 画像処理装置
JP5818828B2 (ja) 画像処理装置、撮像システム、画像処理システム
JP5538067B2 (ja) 内視鏡システム
JP2009063657A (ja) 顕微鏡システム
JP2009063656A (ja) 顕微鏡システム
JP2016096551A (ja) 撮像装置
JP4033746B2 (ja) 顕微鏡撮影装置
JP2018207502A (ja) 撮像素子、撮像装置
JP2012039231A (ja) 撮像装置
US9978122B2 (en) Electronic endoscope

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120420

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130523

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130528

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130704

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130723

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130802

R151 Written notification of patent or utility model registration

Ref document number: 5336936

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees