JP2005318192A - 画像処理装置、画像処理方法、及びプログラム - Google Patents

画像処理装置、画像処理方法、及びプログラム Download PDF

Info

Publication number
JP2005318192A
JP2005318192A JP2004132755A JP2004132755A JP2005318192A JP 2005318192 A JP2005318192 A JP 2005318192A JP 2004132755 A JP2004132755 A JP 2004132755A JP 2004132755 A JP2004132755 A JP 2004132755A JP 2005318192 A JP2005318192 A JP 2005318192A
Authority
JP
Japan
Prior art keywords
image
substrate bias
ccd
sensitivity
solid
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004132755A
Other languages
English (en)
Other versions
JP4391878B2 (ja
Inventor
Junzo Sakurai
順三 桜井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2004132755A priority Critical patent/JP4391878B2/ja
Publication of JP2005318192A publication Critical patent/JP2005318192A/ja
Application granted granted Critical
Publication of JP4391878B2 publication Critical patent/JP4391878B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Microscoopes, Condenser (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】 赤外カットフィルタを用いることなく、IR微分干渉法の撮影若しくは近赤外蛍光のみを発する物質の蛍光撮影と、フレアを低減させた可視領域撮影との両者が可能で低価格な撮像装置を提供できるようにする。
【解決手段】 SUB電圧切り換え回路48は、CCD42の形成されている半導体基板に印加する基板バイアス電圧を変化させる。演算回路47は、画像メモリA46a及び画像メモリB46bに各々格納されている、異なる基板バイアス電圧を印加したCCD42によって撮像された複数の画像を、当該基板バイアス電圧に基づいて設定される比率で加算若しくは減算して近赤外領域をカットした分光感度特性の画像を得る。
【選択図】 図3

Description

本発明は撮像技術に関し、特に、顕微鏡用カメラなどに好適な、固体撮像素子を用いた撮像装置における分光感度を可変とする技術に関する。
近年、生物学の研究分野においては、従来の形態観察から細胞間の情報伝達機構を調べることに主眼が移りつつある。これに伴い、生物試料は可能な限り生態内に近い状態を堆持するべく、従来よりも厚く(例えば、200〜300nm以上)作製されることが多くなってきている。ところが、試料として用いられる表面付近の細胞は、生態から切り取られる作業時にダメージを受けているため、生態に近い状態とは言い難い。
従って、生態に近い状態の細胞を観察し計測するためには、細胞の表面より約50nm以上に下層の部分を観察する必要がある。しかし、透明若しくはほぼ透明な試料を可視化するために広く用いられる位相差顕微鏡では、試料の厚さが200〜300μmとなると、ハロと称される位相差顕微鏡特有の現象が生じてしまい、細胞内部の微細構造の観察は困難になる。また、同様の用途で用いられる微分干渉顕微鏡を用いても、試料の厚さに起因する光の散乱の影響を強く受けてしまうため、目視観察では細胞の表面より20〜30μm程度までの内部観察が限界であった。
そこで、最近になって、散乱の影響の少ない近赤外光(本願では近赤外領域を700nm〜1000nmの波長とする)を微分干渉観察に用いると共に、画像処理によるコントラスト増強を組み合わせて厚い生物細胞の内部を観察する手法が開発されている。この手法(以下IR微分干渉法と称することとする)により、厚さ300μmのラット脳スライスにおいて、この試料の表面より約50〜100μm内部にある神経細胞が観察することが可能である。なお、このような近赤外光を観察するためには、近赤外領域に感度のある電子カメラが必要となる。
また、生体組織や細胞上でタンパクや遺伝子等に蛍光標識を施し、タンパク、遺伝子等の肉眼での観察や写真撮影を可能にした蛍光顕微鏡が広く知られている。特に、近年では蛍光を微弱にしか発しない物質を電子カメラで撮影して数値解析をすることが求められており、そのためにはより高感度な電子カメラが必要となってきている。更に、最近では、図16に示す分光特性のような、近赤外領域の蛍光のみを発する、物質を撮影するために、近赤外領域に感度のあるより高感度な電子カメラが求められている。
ところで、電子カメラは、CCD(Charge Coupled device )等の固体撮像素子が被写体像を光電変換することによって撮像画像信号を得る。
図17は、CCD撮像素子の素子構造の一例を示す平面図である。
同図に示すCCD撮像素子では受光素子としてフォトダイオード201がマトリクス状に配置されている。フォトダイオード201間には縦列方向に複数本の垂直転送路202が配置され、また垂直転送路202の端部には横列方向に1本の水平転送路203が配置されている。
フォトタイオード201に蓄積された信号電荷は電荷移送パルスTGに従って垂直転送路202に読み出され、垂直転送路202内を同図における下方向へ転送される。
垂直転送路202を転送された信号電荷は水平転送路203へと転送され、更に、この水平転送路203を同図における左方向へ転送され、その後、電荷検出器204を介して、最終的には読み出しアンプ205により出力される。
垂直転送路202は、通常の転送においては水平転送路203により読み出される1水平期間毎に1回電荷を転送するが、高速排出時には、連続動作させることによって垂直転送路202中の電荷を排出させる。
図18に示す断面図には、CCD撮像素子の素子構造の一例として、縦型オーバーフロードレイン構造のインターライン型CCDの構造が示されている。
同図において、n型半導体基板300は、接合の浅いPウェルの第一領域301と接合の深いPウェルの第二領域302とで形成されている。このうち、第一領域301の接合n型領域が形成された領域部分はフォトダイオード、つまり光電変換領域(電荷蓄積部)303として機能する。
第二領域302には理込みチャネル304からなる垂直シフトレジスタ、すなわち転送電極305が形成され、その主面には絶縁層306を介して転送電極305が配置されている。理込みチャネル304及び光電変換領域303は高いp型不純物層からなるチャネルストップ領域307によって分離されており、光電変換領域303とそれに対応する埋込みチヤネル304との間にはトランスファーゲート(TG)領域308が配置されている。また、光電変換領域303以外の領域は金属層309によって遮光されている。
N型半導体基板300とPウェルである第一領域301及び第二領域302との接合には逆バイアス電圧である基板バイアス電圧VSUB311を印加して、光電変換領域303直下のPウェルの第一領域301を完全に空乏化(空乏層化)することにより、ブルーミングの抑制がされる。なお、ブルーミンクとは、強い光が画素に入射した場合に、その画素が飽和して信号電荷があふれてしまうことにより隣接画素や信号線、垂直転送路等に入り込み、その画像の周囲にあたかも花が咲いたような白い部分が広がってしまう現象である。
このCCD撮像素子の感度を向上させるためには、フォトダイオードの光電変換効率の向上が最も有効な手段である。
フォトダイオードに入射した光はフォトダイオードにより光電変換されて信号電荷が生成される。ここで、短波長の光はフォトダイオード内での減衰が大きいので受光面(半導体基板表面)から比較的浅い部分で光電変換される。一方、長波長の光は減衰が少ないので、フォトダイオードの受光面から比較的深い部分まで到達し、その深い部分においても光電変換される。
図19はフォトダイオードの受光面からの深さ方向におけるポテンシャルの変化をグラフで示したものである。同図中、縦軸がポテンシャルを表し、横軸が半導体基板表面からの深さを表している。
前述のように、光電変換は半導体基板の種々の深さで行われるが、図19(a)に示すように、オーバーフローバリアOFBより浅い部分で生成された信号電荷はフォトダイオードに蓄積され、蓄積されたこの信号電荷が垂直転送路へ移送されて転送されることになる。その一方、オーバーフローバリアOFBより深い部分で生成された信号電荷は、フォトダイオードには蓄積されず、n型半導体基板300へと掃き出されてしまう。
従って、オーバーフローバリアOFBをより深い位置に形成するようにすれば、それだけフォトダイオードにおける深い部分で生成される信号電荷の利用が促進されるので、全体として光電変換効率が向上し、結果としてCCD撮像装置の感度が向上する。
このオーバーフローバリアOFBを深くするためには、前述した基板バイアス電圧VSUBを低下させるという手法がある。基板バイアス電圧VSUBを低下させると、ポテンシャルの曲線は例えば図19(a)に示すものから図19(b)に示すものへと変化し、オーバーフローバリアOFBが半導体基板のより深い位置に形成されるようになるので、CCD撮像装置の感度が向上する。
ところで、例えば特許文献1にも開示されているように、昨今のCCD撮像素子は、光電変換や、信号電荷の蓄積、転送及び検出などを円滑に行うために、CCD撮像素子の内部で半導体基板のバイアス用の電圧(以下、「基板内部電圧」とも称することとする)が供給されている。
図20はこの種の固体撮像装置および基板バイアス発生回路の構成例を示している。
基板バイアス発生回路200は電圧分割用の抵抗R1及びR2を有している。抵抗R1の一端は電源線VCCに接続され、その他端は抵抗R2の一端に接続されている。また、抵抗R2の他端は接地線GNDに接続されている。
抵抗R1及びR2の直列接続点にはトランジスタTR1のベースが接続されており、これらによって内部VSUB電圧発生回路206を構成している。基板内部電圧VSUBはこのトランジスタTR1のエミッタから引き出されており、前述したフォトダイオード201、垂直転送路202、水平転送路203、電荷検出部204などを配置した半導体基板へ供給される。
また、電圧分割用の抵抗R1及びR2の直列接続点には基板バイアス端子CSUBも設けられている。基板バイアス端子CSUBには外付け用の抵抗R3を介してトランジスタTR2のコレクタが接続されている。トランジスタTR2のエミッタは接地線GNDに接続されており、ベースには電流制限用の抵抗R4を介して端子VSUBContが設けられている。
ここで、端子VSUBContの電位をHとしてトランジスタTR2をオンにすると、それまで抵抗R2を流れていた電流の一部が抵抗R3を流れるようになり、その結果として基板バイアス端子CSUBの電位が低下する。すると、基板内部電圧VSUBも低下するので前述したようにオーバーフローバリアOFBが半導体基板のより深い位置に形成されるようになり、CCD撮像素子の感度が向上する。
このようにして感度を向上させる前後のCCD撮像素子の分光感度特性例を図21に示す。同図からも明らかなように、感度向上の効果は近赤外領域において最も顕著に現れる。
ところで、顕微鏡では光の透過率や反射率の高い標本や低い標本など、幅広い透過率や反射率の標本を観察対象とする。そのため、このような高感度のCCD撮像素子を用いた電子カメラでは、微弱なフレアも感度よく映し込んでしまうという問題を抱えており、特に、透過率の高い生物標本や反射率の高い金属標本などの撮像においてフレアが目立ちやすいという問題がある。
ここでフレアについて説明する。CCD撮像素子の受光部の前面(光の入射側)には、ほぼ平行平面形状のガラス板が設けられており、受光部を保護している。電子カメラを顕微鏡に据え付けた際に発生するフレアは、この平行平面ガラスによって発生するものと考えられる。
受光部に入射する光のうちの一部はこの平行平面ガラスで反射する。この反射光は顕微鏡の光学系のレンズやその他の光学素子で反射し、再びCCD撮像素子へと向かう。この反射が複数回繰り返されることにより、いわゆる多重反射が生じるこことなり、その結果、スポット状のフレア(以下、「スポットフレア」と称することとする)が多数生じてしまう。
ここで、平行平面ガラスの表面の反射率が高い場合には、スポットフレアの光量(光強度)も大きくなり、標本像と共にスポットフレアが撮像されてしまうことになる。特に、光軸の近傍においてはレンズ面が平面に近い形状となっているため、光軸の近傍には明るいスポットフレアが発生しやすい。
このようなフレアを低減するために、コーティングを行って平行平面ガラスの表面に反射率を下げる手法は有効である(例えば、特許文献2参照)。このようなコーティングの中でも最もポピュラーなIRコーティングを施したガラスの反射率の分光特性例を図22に示す。
ところで、一般の電子カメラは、人間の視感度特性に適応させるために、図23に示すような分光特性を有する赤外カットフィルタを用い、700nm以上の赤外成分を除去している。ここで、特許文献3に開示されているもののように、赤外カットフィルタの着脱可能な撮像装置であれば、可視領域での撮影の場合にのみ赤外カットフィルタを挿入して近赤外領域でのフレアを低減させることができる。
特開2000−22126号公報 特開2003−209721号公報 特開平6−141247号公報
図22に示した分光感度特性を参照すると分かるように、IRコーティングを行って平行平面ガラスの表面に反射率を下げることでフレアを低減させる手法では、近赤外領域の反射率が依然として高いため、近赤外領域のフレアを抑えきれないという問題を有していた。
一方、前述した赤外カットフィルタの装着によって近赤外領域でのフレアを低減させる手法では、赤外カットフィルタを外すことによって可視領域でのフレアについても低減させることができるものの、赤外カットフィルタ自身がフレア発生の原因となってしまう場合があり、また、赤外カットフィルタの着脱機構の装備により電子カメラが高価なものとなってしまうという問題を有していた。
本発明は上述した問題に鑑みてなされたものであり、その解決しようとする課題は、赤外カットフィルタを用いることなく、IR微分干渉法の撮影若しくは近赤外蛍光のみを発する物質の蛍光撮影と、フレアを低減させた可視領域撮影との両者が可能で低価格な撮像装置を提供できるようにすることである。
本発明の態様のひとつである撮像処理装置は、固体撮像素子の形成されている半導体基板に印加する基板バイアス電圧を変化させる電圧変化手段と、異なる当該基板バイアス電圧を印加した当該固体撮像素子によって撮像された複数の画像を、当該基板バイアス電圧に基づいて設定される比率で加算若しくは減算する画像処理手段と、を有することを特徴とするものであり、この特徴によって前述した課題が解決される。
なお、上述した本発明に係る撮像処理装置において、当該固体撮像素子での撮像における露光時間を制御する露光時間制御手段を更に有し、当該所定の比率は、更に当該露光時間に基づいて設定されるようにしてもよい。
また、前述した本発明に係る撮像処理装置において、当該電圧変化手段は、当該基板バイアス電圧を第一の電圧値または当該第一の電圧値よりも低い第二の電圧値とし、当該基板バイアス電圧が当該第二の電圧値とされているときには、当該固体撮像素子における画素毎の光電変換領域で蓄積された信号電荷についての当該固体撮像素子内における転送路での転送を高速化させるようにしてもよい。
なお、このとき、当該信号電荷の当該転送路での転送の高速化は、当該転送を行わせるために当該固体撮像素子へ印加されるパルス信号の単位時間当たりの数を増加させることによって行うようにしてもよい。
また、前述した本発明に係る撮像処理装置において、当該電圧変化手段は、静止画の撮像指示に応じ、所定の電圧値が保持されていた当該基板バイアス電圧を変化させるようにしてもよい。
また、前述した本発明に係る撮像処理装置において、当該所定の比率は、更に当該固体撮像素子での撮像対象である試料で蛍光を発光させるための励起光の波長に基づいて設定されるようにしてもよい。
また、前述した本発明に係る撮像処理装置において、異なる当該基板バイアス電圧を印加した当該固体撮像素子によって撮像された複数の画像と、当該画像の各々の撮像時における当該固体撮像素子の分光感度特性とに基づいて、当該画像に表されている試料から到来する光のスペクトル分布を算出する算出手段を更に有するようにしてもよい。
本発明の別の態様のひとつである撮像処理方法は、固体撮像素子の形成されている半導体基板に印加する基板バイアス電圧を異なる電圧値として撮像された複数の画像を取得し、当該複数の画像を当該基板バイアス電圧に基づいて設定される比率で加算若しくは減算する画像処理を行う、ことを特徴とするものであり、この特徴によって前述した課題が解決される。
なお、固体撮像素子の形成されている半導体基板に印加する基板バイアス電圧を異なる電圧値として撮像された複数の画像を取得する処理と、当該複数の画像を当該基板バイアス電圧に基づいて設定される比率で加算若しくは減算する画像処理と、をコンピュータに行わせるためのプログラムも本発明に係るものであり、このプログラムをコンピュータで実行させることによって前述した課題が解決される。
本発明は、以上のような特徴を有することにより、赤外カットフィルタを用いることなく、IR微分干渉法の撮影若しくは近赤外蛍光のみを発する物質の蛍光撮影と、フレアを低減させた可視領域撮影との両者が可能で低価格な撮像装置の提供が可能となる効果を奏する。
以下、本発明の実施の形態を図面に基づいて説明する。
図1は本発明を実施する顕微鏡システム毛の構成を示している。
図1において、顕微鏡本体1には、試料ステージ26上の標本3に対向する対物レンズ27が配置されている。また、この対物レンズ27を介した観察光軸上には、三眼鏡筒ユニット5を介して接眼レンズユニット6が配置されており、更に結像レンズユニット100を介して電子カメラ36が配置されている。
次に図2について説明する。同図は図1に示した顕微鏡システムの詳細構成を示している。この顕微鏡システムは、透過明視野観察、暗視野観察、位相差観察、微分干渉観察、蛍光観察などの各種の検鏡法を適宜選択可能な構成を示している。
図2に示す顕微鏡システムには、照明系として、透過照明光学系11及び落射照明光学系12が備えられている。透過照明光学系11には透過照明用光源13が備えられており、この透過照明用光源13から照射される透過照明光の光路上には、この透過照明光を集光するコレクタレンズ14、透過用フィルタユニット15、透過視野絞り16、透過シャッタ161、折り曲げミラー17、透過開口絞り18、コンデンサ光学素子ユニット19、及びトップレンズユニット20が配置されている。また、落射照明光学系12には落射照明用光源21が備えられており、この落射照明用光源21から照射される落射照明光の光路上には、落射用フィルタユニット22、落射シャッタ23、落射視野絞り24、及び落射開口絞り25が配置されている。
透過照明光学系11と落射照明光学系12との各光軸が重なる観察光路S上には、観察対象の試料である標本3を載せる試料ステージ26と、装着されている複数の対物レンズ27のうちのひとつを回転動作で選択して観察光路S上に位置させるためのレボルバ28と、対物レンズ側光学素子ユニット29と、透過明視野観察や蛍光観察などの各種検鏡法に応じて観察光路S上のダイクロイックミラーを切り換えるためのキューブユニット30と、観察光路Sを観察光路S’と観察光路S”とに分岐するビームスプリッタ31とが配置されている。ここで、ビームスプリッタ31は三眼鏡筒ユニット5内に配置されている。
ビームスプリッタ31によって手前に折り曲げられた観察光路S’上には接眼レンズ6aが配置されている。一方、ビームスプリッタ31を透過した観察光路S”上には、中間変倍光学系(ズーム鏡筒)33、オートフォーカス(AF)ユニット371と写真接眼レンズユニット35とからなる結像レンズユニット100、及び電子カメラ36が配置されている。
中間変倍光学系(ズーム鏡筒)33は、電子カメラ36で撮像される像を変倍するための変倍ズームレンズ33aを内蔵している。なお、中間変倍が不要な場合には、この中間変倍光学系(ズーム鏡筒)33を取り外してもよい。
電子カメラ36内には固体撮像素子42が配置されている。対物レンズ27からの光像は、写真接眼ユニット35内の写真接眼レンズ35aによって固体撮像素子42の撮像面に結像する。
オートフォーカス(AF)ユニット371内にはビームスプリッタ34が配置されており、ここで観察光路S”から分岐された光路上には、AF用受光素子34aが配置されている。オートフォーカス(AF)ユニット371は、このAF用受光素子34aからの出力信号に基づいて合焦検出を行うものである。なお、AF機能が不要な場合にはオートフォーカス(AF)ユニット371と共にAF用受光素子34aを取り外してもよい。
透過照明光学系11における透過用フィルタユニット15、透過視野絞り16、透過シャッタ161、透過開口絞り18、及びコンデンサ光学素子ユニット19と、落射照明光学系12における落射用フィルタユニット22、落射シャッタ23、落射視野絞り24、及び落射開口絞り25と、レボルバ28と、対物レンズ側光学素子ユニット29と、キューブユニット30と、ビームスプリッタ31と、中間変倍光学系(ズーム鏡筒)33とは各々モータライズされており、駆動回路部37からの各駆動信号に応じて動作する不図示の各モータによって駆動される。
レボルバ28には、観察光路S上に位置する対物レンズ27の種類を検出する対物レンズ検出部38が配置されており、対物レンズ側光学素子ユニット29には、リタデーション調整動作を検出するリタデーション調整動作検出部39が配置されており、写真接眼レンズユニット35には、写真接眼レンズ35aの種類を検出する写真接眼レンズ検出部40が配置されている。
顕微鏡コントロール部41は顕微鏡全体の動作を制御するものであり、透過照明用光源13、落射照明用光源21、駆動回路部37、対物レンズ検出部38、リタデーション調整動作検出部39、写真接眼レンズ検出部40、及び電子カメラ36と電気的に接続されている。
顕微鏡コントロール部41は、電子カメラ36の撮像条件等を決定するCPU60(図2には不図示)の決定に従い、透過照明用光源13及び落射照明用光源21の調光を行うと共に、駆動回路部37に対して制御指示を行う。更に、顕微鏡コントロール部41は、透過照明用光源13及び落射照明用光源21に対する制御状態及び駆動回路部37に対する制御状態や、対物レンズ検出部38、リタデーション調整動作検出部39、及び写真接眼レンズ検出部40からの検出情報を電子カメラ36へフィードバックする。
次に図3について説明する。同図は、図1に示した顕微鏡システムに用いられる電子カメラ36の構成を示すブロック図である。この電子カメラ36には、顕微鏡コントロール部41を制御するCPU(Central Processing Unit :中央演算装置)60が備えられている。また、電子カメラ36に備えられている固体撮像素子42はカラー画像あるいは白黒画像を撮像するものであり、観察光路S”上に配置されている。
CCD等の固体撮像素子(以下、単に「CCD」と称することとする)42は、図1に示した顕微鏡システムにより拡大される標本3の観察像を撮像して光電変換する。
CDS(Correlated Double Sampling:相関二重サンプリング)回路43は、CCD42の出力信号から画像信号成分を抽出する。
増幅器(AMP)44は、CDS回路43の出力信号レベルを所定の値に調整するためのAGC(Automatic Gain Control:自動利得制御)回路等を含む信号レベル制御手段である。
A/D変換器45は、AMP44から出力されるアナログ信号をデジタルデータへと変換する。
画像メモリA46a及び画像メモリB46bは、いずれもA/D変換器45から出力されるデジタルデータ化された画像信号を記憶する。
メモリコントローラ55は画像メモリA46a及び画像メモリB46bを制御する。
演算回路47は、画像メモリA46a及び画像メモリB46bから各々読み出された画像信号を演算する。
演算コントローラ52は演算回路47の動作を制御する。
セレクタ62は、演算回路47で演算処理が施された画像信号と、画像メモリA46aから読み出された画像信号のうちのいずれか一方を選択する。
画像信号処理回路51は、セレクタ62で選択された画像信号に対してγ補正やエッジ強調等の画像処理を施す。
液晶ディスプレイ(LCD:Liquid Crystal Display)59は、画像信号を表示可能な形態に処理する信号処理回路を含み、画像信号で表現されている画像を表示する表示手段である。
DRAM(Dynamic Random Access memory)56は、画像信号を一時的に記憶するメモリ等からなるカメラ内蔵記憶手段である。
圧縮伸張回路57は、画像信号に対して圧縮処理及び伸張処理を施す。
記録媒体58は例えばメモリカードであり、画像信号を保存する。
操作部61は、撮影時にAF(Auto Focus:自動合焦)動作を開始させると共に、露光動作を開始させるトリガー信号を発生させ得るトリガースイッチ、キューブユニット30の回転動作スイッチ等からなる複数のスイッチである。
タイミングジェネレータ(TG)53は、CCD42の駆動パルス等の同期信号を発生させる。
シグナルジェネレータ(SG)54は、TG53へ同期信号を供給する。
SUBパルス重畳回路49は、CCD42の内部電圧にクランプされたSUBパルスをCCD42へ入力させる回路であり、例えば図20に示した回路である。
CCDSUB電圧切り換え回路48は、基板内部電圧VSUBの切り換えを行う回路であり、例えば図20に示した回路である。
以上の電子カメラ36の各構成要素は、制御手段であるCPU60に電気的に接続されており、図1に示した顕微鏡システム全体はこのCPU60によって統括的に制御されている。ここで、特に、CCD42は、SUB電圧重畳回路49等からの出力によって制御される電子シャッタ機能(手段)を有しており、これにより露光時間の制御を行うことができる。
次に、このような構成を有する顕微鏡システムの動作を説明する。なお、ここでは撮影時に行われる動作のうち、本発明に関わる部分のみを説明する。
前述したように、図1における顕微鏡システムでは、CPU60が全ての制御を統括的に行っている。
蛍光観察法では、落射照明光学系12より発せられた光がキューブユニット30内の蛍光キューブにより分光され、対物レンズ27を通って縮小されて標本3を照射する。標本3はこの照射された光によって微弱な蛍光を生じ、この蛍光が対物レンズ27を通って拡大されキューブユニット30内の蛍光キューブによって前述の分光とは異なる波長で分光され、CCD42を照射する。
CCD42ではTG53による駆動制御の下で露光(電荷蓄積)及び信号の読み出しがされる。読み出された信号からCDS回路43によって画像信号成分が抽出され、AMP44において出力信号が所定のレベルに調整され、A/D変換器45によってデジタル信号に変換される。このデジタル信号に変換された画像信号は、画像メモリA46a及び画像メモリB46bに一時的に記憶される。その後、この画像信号は画像メモリA46a及び画像メモリB46bから読み出されて演算回路47によって演算される。
演算回路47による演算結果として得られた画像信号と、画像メモリA46aから読み出される画像信号とはセレクタ62によって選択することができる。選択された画像信号は、画像信号処理回路51によってγ補正、エッジ強調等の画像処理が施された後、LCD59へ入力され、標本3の蛍光画像の再生表示処理がなされる。
以上が図1、図2、及び図3に構成を示した顕微鏡システムの撮影及び画像表示の動作である。
なお、CCD42の駆動制御は、TG53から出力される各種駆動信号(垂直駆動パルス、水平駆動パルス、基板内部電圧VSUB等)によって行われ、CCD42としては、例えばインターライン型で縦型オーバーフロードレイン(VOFD)構造の撮像素子を用いる。
CCD42の平面図と断面構造については、図17及び図18に示したので省略する。ここで、前述したように、基板内部電圧VSUBは光電変換素子であるフォトダイオード(PD)の最大電荷蓄積レベル(オーバーフローレベル:OFL)を決定するための基板バイアス電圧であるが、このVSUBに大きな値のパルス(VSUBパルス)を重畳すると、各PDの電荷を基板に排出して蓄積電荷をリセットすることができる。
また、図19(b)に示したように、基板内部電圧VSUBの値を通常よりも小さくすることによって通常よりも深い部分にオーバーフローバリアOFBが形成され、CCD42の感度を向上させることができる。
なお、CCD42におけるSUB電圧切り換え回路48及びSUBパルス重畳回路49の構成については、先に説明した図20に示したものと同様とする。
前述した蛍光観察検鏡法においては、微弱な赤外領域の蛍光を撮影するため、高感度なカメラが必要となる。つまり、CCD42の受光感度をより高感度とする方式が必要となる。ここで、上述したように、基板内部電圧VSUBの値を通常よりも小さくすれば、上述したように、CCD42の感度を向上させることができるので、微弱な赤外領域の蛍光の撮影に使用できるようになる。
今、標本3の画像であって、SUB電圧切り換え回路48を制御して基板内部電圧VSUBの値を通常の状態としたときに撮像された画像(ノーマル画像)と、SUB電圧切り換え回路48を制御して基板内部電圧VSUBの値を通常よりも小さい状態としたときに撮像される画像(高感度画像)とを連続して撮影し、撮影された2枚の画像のうち、ノーマル画像についての画像信号を画像メモリA46aに記憶させ、高感度画像のついての画像信号を画像メモリB46bに記憶させる。その後、画像メモリA46a及び画像メモリB46bから各々読み出した信号で表されている画像の輝度値について、演算回路47で以下のような演算を画素単位で行えば、近赤外領域をカットした分光感度特性の画像(「近赤外カット画像」と称することとする)を得ることができる。
(近赤外カット画像)=N×(ノーマル画像)+K×(高感度画像)………(1)
ここで図4について説明する。同図に示す分光感度特性例において、(a)は基板内部電圧VSUBの値を通常の状態(10ボルト)としたときのCCD42の特性、(b)は基板内部電圧VSUBの値を通常よりも小さい状態(5ボルト)としたときのCCD42の特性をそれぞれ示している。また、(c)は、この(a)の状態において撮像された画像(ノーマル画像)と(b)の状態において撮像された画像(高感度画像)とについて、上記の(1)式の演算を演算回路47で行った(但し、N=1.5且つK=−0.5とした)ときに得られた近赤外カット画像についての特性を示しており、近赤外領域の感度が低下していることがこの(c)によって示されている。つまり、このように、異なる基板内部電圧VSUBを印加したCCD42によって撮像された画像を、この基板内部電圧VSUBバイアス電圧に基づいて設定される比率で加減算する演算を演算回路47で行わせることにより、赤外カットフィルタを用いることなく、近赤外領域の感度を低下させることができ、近赤外領域でのフレアを低減させることができる。
次に図5について説明する。同図は、図3に示した電子カメラ36内の動作タイミングの第一の例を示している。
図5に示されている各波形を説明する。
同図において、「VD」はCCD42による撮像画像の1フレーム分に相当する同期信号である。
「VCCD」は、CCD42の垂直転送路202(図17)内での信号電荷の転送のためのパルスである。
「TG」はCCD42における電荷蓄積領域(フォトタイオード201)から垂直転送路202への移送パルスである。
「VSUB」は、電荷蓄積領域(フォトタイオード201)の最大電荷蓄積レベル(オーバーフローレベル:OFL)を決定する基板バイアス電圧(基板内部電圧)であり、前述したように、このVSUBに大きな値のパルス(VSUBパルス)を重畳すると、電荷蓄積領域(フォトタイオード201)の蓄積電荷を半導体基板に強制排出して蓄積電荷をリセットさせることができる。
「VSUBcont」は基板内部電圧VSUBの電圧を変化させる信号であり、「ON」(ハイレベル)とするとVSUBが低下してCCD42が高感度設定となり、「OFF」(ローレベル)とするとVSUBが上昇してCCD42が通常感度設定となる。
「CCD信号出力」は、CCD42の信号出力を表している。
「画像メモリA記録」は、A/D変換器45によってデジタルデータに変換された画像信号が画像メモリA46aに格納されるタイミングを示しており、「画像メモリA読み出し」は、画像信号が画像メモリA46aから読み出されるタイミングを示している。
「画像メモリB記録」は、A/D変換器45によってデジタルデータに変換された画像信号が画像メモリB46bに格納されるタイミングを示しており、「画像メモリB読み出し」は、画像信号が画像メモリB46bから読み出されるタイミングを示している。
「演算結果」は、演算回路47による演算結果である画像信号の出力タイミングを示している。
なお、これらの波形は、後に提示する電子カメラ36内の動作タイミングの他の例においても同様のものである。
図5においては、「VD」と「VSUBcont」とに注目すると分かるように、「VSUBcont」の「ON」状態と「OFF」とを1フレーム周期毎に切り換えている。従って、CCD42からは、ノーマル画像の画像信号と高感度画像の画像信号とが1フレーム周期毎に交互に出力される。図5の「CCD信号出力」において、順番に「ノーマル出力1」、「高感度出力2」、「ノーマル出力3」、「高感度出力4」、「ノーマル出力5」、「高感度出力6」と記されているのはこのことを示している。
ここで、図5の場合においては、メモリコントローラ55は、ノーマル画像の画像信号については画像メモリA46aに格納し、高感度画像の画像信号については画像メモリB46bに格納する。更に、メモリコントローラ55は、格納のタイミングから1フレーム周期分遅らせてから2フレーム周期続けて同一のノーマル画像の画像信号を画像メモリA46aから読み出す一方で、格納のタイミングと同一のフレーム周期から2フレーム周期続けて同一の高感度画像の画像信号を画像メモリB46bから読み出し、読み出したこれらの信号をフレーム周期毎に演算回路47へ転送する。
図5の例で具体的に説明する。
例えばCCD42から出力される「ノーマル出力1」であるノーマル画像の画像信号は、そのフレーム周期のタイミングで「ノーマル記録1」として画像メモリA46aに格納される。
「ノーマル出力1」に続いてCCD42から出力される「高感度出力2」である高感度画像の画像信号は、そのフレーム周期のタイミングで「高感度記録2」として画像メモリB46bに格納される。このときには、画像メモリA46aへの新たな画像信号の格納は行われない。
「高感度出力2」に続いてCCD42から出力される「ノーマル出力3」である高感度画像の画像信号は、そのフレーム周期のタイミングで「ノーマル記録3」として画像メモリA46aに格納される。このときには、画像メモリB46bへの新たな画像信号の格納は行われない。
CCD42から出力される画像信号の画像メモリA46a及び画像メモリB46bへの格納は以下同様であり、画像メモリA46a及び画像メモリB46bは1フレーム周期毎に交互に「高感度記録4」、「ノーマル記録5」、「高感度記録6」、…、と各画像信号が格納されていく。
これに対し、メモリコントローラ55は、画像信号の画像メモリA46a及び画像メモリB46bからの読み出しについては、格納のタイミングより1フレーム周期分遅らせてから2フレーム周期続けて同一のノーマル画像の画像信号を画像メモリA46aから読み出す一方で、格納のタイミングと同一のフレーム周期から2フレーム周期続けて同一の高感度画像の画像信号を画像メモリB46bから読み出す。
図5の例で説明すると、画像メモリA46aからは、「ノーマル記録1」の格納タイミングから1フレーム周期分遅らせた(すなわち、「高感度記録2」の画像メモリB46bへの格納タイミングと同一)のフレーム周期から2フレーム周期続けて、「ノーマル記録1」で格納したノーマル画像の画像信号が読み出される(「ノーマル読み1」)。一方、画像メモリB46bからは、「高感度記録2」の画像メモリB46bへの格納タイミングと同一のフレーム周期から2フレーム周期続けて、「高感度記録2」で格納した高感度画像の画像信号が読み出される(「高感度読み2」)。
従って、演算回路47では、「ノーマル読み1」のタイミングで画像メモリA46aから読み出されたノーマル画像の画像信号(すなわち、「ノーマル出力1」であるノーマル画像の画像信号)と、「高感度読み2」のタイミングで画像メモリB46bから読み出された高感度画像の画像信号(すなわち、「高感度出力2」である高感度画像の画像信号)とを用いた上記(1)式の演算が2フレーム周期繰り返されるので、同一の演算結果である画像の画像信号が「演算出力1−2」として2フレーム周期続けて演算回路47から出力される。
以下、同様に、画像メモリA46aからは、「ノーマル記録3」の格納タイミングから1フレーム周期分遅らせた(すなわち、「高感度記録4」の画像メモリB46bへの格納タイミングと同一)のフレーム周期から2フレーム周期続けて、「ノーマル記録3」で格納したノーマル画像の画像信号が読み出される(「ノーマル読み3」)。一方、画像メモリB46bからは、「高感度記録4」の画像メモリB46bへの格納タイミングと同一のフレーム周期から2フレーム周期続けて、「高感度記録4」で格納した高感度画像の画像信号を読み出す(「高感度読み4」)。この結果、演算回路47では、「ノーマル読み3」のタイミングで画像メモリA46aから読み出されたノーマル画像の画像信号(すなわち、「ノーマル出力3」であるノーマル画像の画像信号)と、「高感度読み4」のタイミングで画像メモリB46bから読み出された高感度画像の画像信号(すなわち、「高感度出力4」である高感度画像の画像信号)とを用いた上記(1)式の演算が2フレーム周期繰り返され、同一の演算結果である画像の画像信号が「演算出力3−4」として2フレーム周期続けて演算回路47から出力される。
以上のように、図5の例においては、CCD42の撮像レートの1/2の画像レートで近赤外カット画像が得られるので、近赤外領域でのフレアを低減させた標本3の画像を動画像として得ることができる。
なお、図5に示した動作タイミングの代わりに、図6に示した動作タイミングで電子カメラ3を動作させても近赤外領域でのフレアを低減させた標本3の画像を動画像として得ることができる。
図6の例についての図5の例との相違点は、メモリコントローラ55による画像信号の画像メモリA46aからの読み出しにおいて、格納のタイミングから1フレーム周期分遅らせることなく、同一のフレーム周期から2フレーム周期続けて同一のノーマル画像の画像信号を画像メモリA46aから読み出す点にある。
図6の例で説明すると、画像メモリA46aからは、「ノーマル記録1」の格納タイミングと同一のフレーム周期から2フレーム周期続けて、「ノーマル記録1」で格納したノーマル画像の画像信号が読み出される(「ノーマル読み1」)。一方、画像メモリB46bからは、「高感度記録2」の画像メモリB46bへの格納タイミングと同一のフレーム周期から2フレーム周期続けて、「高感度記録2」で格納した高感度画像の画像信号が読み出される(「高感度読み2」)。
従って、演算回路47では、まず、「ノーマル読み1」のタイミングで画像メモリA46aから読み出されたノーマル画像の画像信号(すなわち、「ノーマル出力1」であるノーマル画像の画像信号)と、「高感度読み2」のタイミングで画像メモリB46bから読み出された高感度画像の画像信号(すなわち、「高感度出力2」である高感度画像の画像信号)とを用いた上記(1)式の演算の演算結果である画像の画像信号が「演算出力1−2」として演算回路47から出力される。そしてその次のフレーム周期では、「ノーマル読み3」のタイミングで画像メモリA46aから読み出されたノーマル画像の画像信号(すなわち、「ノーマル出力3」であるノーマル画像の画像信号)と、「高感度読み2」のタイミングで画像メモリB46bから読み出された高感度画像の画像信号(すなわち、「高感度出力2」である高感度画像の画像信号)とを用いた上記(1)式の演算の演算結果である画像の画像信号が「演算出力3−2」として演算回路47から出力される。
ここで、「演算出力3−2」である画像と「演算出力1−2」である画像とは、演算回路47が演算対象とした画像のうち、「高感度出力2」である高感度画像の画像信号を共通して使用している。
以下同様の処理により、演算回路47からは、「演算出力3−2」である画像に続き、「ノーマル出力3」であるノーマル画像の画像信号と、高感度出力4である高感度画像の画像信号とを用いた上記(1)式の演算の演算結果である画像の画像信号が「演算出力3−4」として演算回路47から出力される。ここで、「演算出力3−4」である画像と「演算出力3−2」である画像とは、演算回路47が演算対象とした画像のうち、「ノーマル出力3」であるノーマル画像の画像信号を共通して使用している。
以上のように、図6の例においては、演算回路47による演算対象とした画像のうち一方が、その前後のフレーム周期での演算においても演算対象とされているので、前後のフレーム周期における画像の類似性が高まる結果、得られる動画像における像の動きが滑らかになる。
次に、本発明の別の実施の形態について説明する。なお、これより説明する実施の形態を今までに説明したものと区別するため、今までに説明した実施の形態を第一実施形態と称することとし、これより説明する実施形態を第二実施形態と称することとする。
第一実施形態においては、前掲した(1)式における変数N及びKの値を、図4で(a)及び(b)としてそれぞれ示されている通常感度設定時及び高感度設定時におけるCCD42の分光感度特性に基づき、N=1.5、K=−0.5として演算回路47に演算させることにより、近赤外カット画像を得ていた。このとき、変数Nの値として1よりも大きい値を用いるため、ノーマル画像に含まれているノイズ成分も増加し、近赤外カット画像のS/Nが劣化してしまう。
そこで、第二実施形態においては、ノーマル画像の輝度値を画素毎に1.5倍する代わりに、ノーマル画像をCCD42で取得する際の露光時間を1.5倍としてノイズの増加を抑えることにより近赤外カット画像のS/Nを改善する。
また、このように、ノーマル画像及び高感度画像をCCD42で取得する際の露光時間を変更可能とすることにより、(1)式の演算におけるN及びKの値を変更することができるので、(1)式の演算の実行に必要な演算回路47の構成を簡略化することができる。
第二実施形態に係る顕微鏡システムの構成は、図1、図2、及び図3に示した第一実施形態に係る顕微鏡システムの構成と同様であるので、その説明は省略する。
ここで図7について説明する。同図は、図3に示した電子カメラ36内の動作タイミングの第三の例を示している。ここで、図7の例におけるメモリコントローラ55による画像メモリA46a及び画像メモリB46bの制御については図6の例におけるものと同様である。
図7の例についての図5の例との相違点は、基板内部電圧VSUBに重畳されているVSUBパルスの本数を、基板内部電圧VSUBの高低に応じて変化させている点にある。 図7におけるVSUBの波形に注目すると、基板内部電圧VSUBが高い状態、すなわちCCD42が通常感度設定とされているフレーム周期においては、VSUBパルスの本数を減少させてCCD42の露光時間を長くし、基板内部電圧VSUBが低い状態、すなわちCCD42が高感度設定とされているフレーム周期においては、VSUBパルスの本数を増加させてCCD42の露光時間を短くしている。
このようにして、CCD42の1フレーム周期単位の露光時間を制御し、例えば、通常感度設定とされているフレーム周期において第一実施形態の1.5倍とし、且つ高感度設定とされているフレーム周期において第一実施形態の0.5倍とすることにより、(1)式における変数の値をN=1且つK=−1とすることができる。この場合においては、演算回路47は加算器のみで構成することができるようになり、乗算器が不要となるので回路構成を簡略化できる上に、得られる近赤外カット画像のS/Nが改善される。
このように、演算回路47で行わせる、異なる基板内部電圧VSUBを印加したCCD42によって撮像された画像を所定の比率で加減算する演算における当該所定の比率をこの露光時間に応じて設定することができる。
次に第三実施形態について説明する。
前述したように、基板内部電圧VSUBを低下させるとオーバーフローバリアOFBが半導体基板のより深い位置に形成されるようになってフォトダイオードの光電変換効率は向上する。しかしながら、図19(b)を参照すると分かるように、基板内部電圧VSUBを低下させるとポテンシャルが高くなるのでフォトダイオードにおける信号電荷の蓄積容量が増大する。ここで、被写体が明るい場合を想定すると、多量の信号電荷がフォトダイオードに蓄積するため、余剰電荷が半導体基板に掃き捨てきれなくなり、その結果としてブルーミングが発生してしまう。このとき更に余剰電荷が発生すると、掃き捨てきれなくなった余剰電荷がCCD撮像素子の垂直転送路へ入り込み、その結果、大量のスミアが発生してしまう。
ここで、ブルーミングとは、CCD撮像素子に強い光が入射した場合に、画素の飽和により信号電荷が溢れ出して隣接画素や信号線、垂直転送路などに入り込む結果、撮像画像における飽和した画素の周囲にあたかも花が咲いたような形状の白い部分が広がる現象である。
また、スミアは、信号線や垂直転送路等へ光が混入する、あるいは半導体基板内部で発生した電荷が拡散して広がって隣接画素や転送レジスタへ混入することにより発生する。このスミアは光の強さに関わらず一定の割合で発生するため、発生量が少ない場合には特に気になるものではないが、CCD撮像素子に強い光が入射した場合には、撮像画像中に白点が縞状に尾を引いて現れてくる。
第三実施形態においては、このようなブルーミングやスミアの発生量を低減させる。
第三実施形態に係る顕微鏡システムの構成は、図1、図2、及び図3に示した第一実施形態に係る顕微鏡システムの構成と同様であるので、その説明は省略する。
ここで図8について説明する。同図は、図3に示した電子カメラ36内の動作タイミングの第四の例を示している。
この図8の例では、VSUBcontを「ON」(ハイレベル)としてVSUBを低下させているフレーム周期、すなわちCCD42が高感度設定とされているフレーム周期において、VCCDのパルス数を通常(毎回の水平ブランキング期間に1単位=1水平画素相当のパルス)よりも増加(数倍〜数十倍)させている。こうすることにより、CCD42の垂直転送路内での電荷の転送速度が高速化され、CCD42の撮像面に光が当たり続けていることによって生じる余剰電荷が高速に排出される。
更に、図8の例では、VSUBcontを「OFF」(ローレベル)としてVSUBを上昇させているフレーム周期、すなわちCCD42が通常感度設定とされているフレーム周期を2フレーム周期連続させ、その前半のフレーム周期での露光により蓄積された信号電荷を、その後半のフレーム周期、すなわちCCD42が依然として通常感度設定である状態の下でCCD42から出力させるようにして、電荷転送時の電荷の溢れ出しを防止している。なお、この後半のフレーム周期の期間においては、露光による電荷蓄積を行う必要がないので、基板内部電圧VSUBにおけるVSUBパルスを継続させている。
なお、図8の例においては、メモリコントローラ55は、ノーマル画像の画像信号については画像メモリA46aに格納し、高感度画像の画像信号については画像メモリB46bに格納する。更に、メモリコントローラ55は、格納のタイミングと同一のフレーム周期から3フレーム周期続けて同一のノーマル画像の画像信号を画像メモリA46aから読み出すと共に、格納のタイミングと同一のフレーム周期から3フレーム周期続けて同一の高感度画像の画像信号を画像メモリB46bから読み出し、読み出したこれらの信号をフレーム周期毎に演算回路47へ転送する。従って、前掲の(1)式の演算の演算結果である画像の画像信号は、「演算出力1−2」である画像1フレーム周期に続いて「演算出力3−2」である画像が2フレーム周期繰り返し、その後、「演算出力3−4」である画像1フレーム周期に続いて「演算出力3−2」である画像が2フレーム周期繰り返す、…という動画像についてのものとなる。
第三実施形態は以上のようにすることで信号電荷の溢れ出しを抑制する結果、ブルーミングやスミアの発生量が低減する。
次に第四実施形態について説明する。
第四実施形態に係る顕微鏡システムでは、赤外カット画像については静止画像のみを生成し、動画像についてはノーマル画像についてのものを提供する。
第三実施形態に係る顕微鏡システムの構成は、図1、図2、及び図3に示した第一実施形態に係る顕微鏡システムの構成と同様であるので、その説明は省略する。
ここで図9について説明する。同図は、図3に示した電子カメラ36内の動作タイミングの第五の例を示している。
図9は、動画像であるノーマル画像の表示中に、時刻t0において操作部61が静止画像である赤外カット画像の取得指示を取得した場合を示している。
この指示を取得すると、CPU60は時刻t0の次のフレーム周期でVSUBcontを「ON」(ハイレベル)としてVSUBを低下させ、CCD42を高感度設定とする。そして、VSUBパルスの最後の立下がり(時刻t1)からその直後の電荷移送パルスTGの立ち上がり(時刻t2)までの露光時間で高感度画像の露光をCCD42に行わせる。
なお、図9の例においては、この高感度画像の露光の間、第三実施形態と同様に、VCCDのパルス数を通常よりも増加させてCCD42で生じる余剰電荷の排出を高速化し、ブルーミングやスミアの発生量の抑制を行っている。
その後、時刻t2において電荷移送パルスTGがCCD42へ与えられると、そのときまでに蓄積された信号電荷が垂直転送路へ移送されて露光が終了し、次のフレーム周期でCCD42から出力される高感度画像の画像信号がメモリコントローラ55によって画像メモリB46bに格納される(図9に示されている「高感度静記」)。
一方、高感度画像の画像メモリB46bへの格納が行われているこのフレーム周期では、VSUBcontを「OFF」(ローレベル)としてVSUBを上昇させ、CCD42を通常感度設定とする。そして、VSUBパルスの最後の立下がり(時刻t3)からその直後の電荷移送パルスTGの立ち上がり(時刻t4)までの露光時間でノーマル画像の露光をCCD42に行わせる。
その後、時刻t4において電荷移送パルスTGがCCD42へ与えられると、そのときまでに蓄積された信号電荷が垂直転送路へ移送されて露光が終了し、次のフレーム周期でCCD42から出力されるノーマル画像の画像信号がメモリコントローラ55によって画像メモリA46aに格納される(図9に示されている「ノーマル静止記」)。
その後は、メモリコントローラ55が図9で「ノーマル静止読」と示されているタイミングでノーマル画像の画像信号が画像メモリA46aから読み出すと共に、図9で「高感度静読」と示されているタイミングで高感度画像の画像信号を画像メモリB46bから読み出し、演算回路47が読み出されたこれらの画像信号に対して前掲した(1)時の演算を行うことにより、赤外カット画像の画像信号が演算結果として得られる。得られた赤外カット画像をLCD59で表示した後には、元の動画像であるノーマル画像の表示が再開される。
第四実施形態は以上のようにして動画像についてはノーマル画像についてのものを提供するようにしたので、滑らかな動きの動画像の提供が可能となり、その一方で、ブルーミングやスミアの発生量を低減させた赤外カット画像を静止画像として提供することができる。
次に第五実施形態について説明する。
図1及び図2に示した顕微鏡システムで蛍光撮影を行う場合には、キューブユニット30が使用される。
ここで図10について説明する。同図は標本3に照射する励起光の波長(同図(a))と、その励起光によって標本3から発せられる蛍光の波長(同図(b))との関係の一例を示している。
図10においては励起光として580nm付近の波長のものを使用している。このときに観測される蛍光の波長は、標本3によって異なるが、おおよそ620nmである。このような場合に単純に撮影を行っても、撮影画像には励起光自体の標本3からの反射光が含まれてしまうため、蛍光のみの撮影画像を得ることはできない。
そこで、このような場合には、図11に例示するような波長光の遮断特性(同図(c))を有するHPF(ハイパスフィルタ)が備えられているキューブユニット30が使用される。
しかし、このようなHPFでは励起光の反射光の抑制が不十分な場合がある。また、標本3の種類に応じて特性の異なるHPFが必要となるため、その都度キューブユニット30を用意しなければならなかった。
そこで、第五実施形態においては、図1、図2、及び図3に示した第一実施形態に係る顕微鏡システムの構成をそのまま利用して、上述したようなHPFを用いることなく、励起光の反射光の抑制を行う。
このためには、顕微鏡システムの分光感度特性を図4(c)の特性から変化させて図12(c)に示すような特性とする、すなわち、演算回路47での演算結果として得られる画像(以下、「HPF画像」と称することとする)において、励起光がピークとなる波長(図12の例においては580nm)での感度が「0」となるような特性とすればよい。
なお、この場合、演算回路47での演算式
(HPF画像)=N×(ノーマル画像)+K×(高感度画像)………(2)
において、
∫{(励起光)×(HPF画像)}=0………(3)
すなわち、この分光感度特性で励起光を撮影した画像の各画素の輝度値の積分値が「0」となるように(2)式の変数N及びKの値を用いる必要がある。
図12(c)の特性例は、(3)式が成立する値として、N=−8.8且つK=8を用いたときのものを示している。また、この条件に合致する変数N及びKの値を用いたときにおける、顕微鏡システムの分光感度特性を図13に示す。
図13には、変数N及びKの値として、(N,K)=(−5,5)、(−7,6.7)、(−8.8,8)、(−11.5,10)、(−14.8,12.3)、(−21,16.8)とした各場合における顕微鏡システムの分光感度特性を示している。このように、変数N及びKの値の組を励起光の波長に応じて適宜選択することにより、HPFを切り換えて用いることなく様々な波長の励起光を抑制することができ、蛍光撮影を低廉に行うことができる。
次に第六実施形態について説明する。
第六実施形態においては、CCD42の感度を変化させて撮像した標本3の蛍光画像から、その蛍光のスペクトル分布を算出するというものである。この算出法について図14を用いて説明する。
今、基板内部電圧VSUBを変化させ、CCD42の分光感度特性を図14(a)として示すN(λ)に設定して標本3の蛍光を行ったときに得られた画像についての画像信号をaとし、また、CCD42の分光感度特性を図14(b)として示すH(λ)に設定して標本3の蛍光を行ったときに得られた画像についての画像信号をbとし、更に、CCD42の分光感度特性を図14(c)として示すM(λ)に設定して標本3の蛍光を行ったときに得られた画像についての画像信号をcとする。
また、図14において(d)と示されている標本3の蛍光のスペクトル分布をX、Y、Zで表すものとする。ここで、Xは、この蛍光についての波長670nmから730nmまでのスペクトル成分の積分値、Yは、この蛍光についての波長730nmから790nmまでのスペクトル成分の積分値、そして、Zは、この蛍光についての波長790nmから850nmまでのスペクトル成分の積分値を各々示している。
このとき下記の式が成立する。
Figure 2005318192
この行列式を変形すると、下記の式となる。
Figure 2005318192
つまり、例えば記録媒体58に記録させておいたa、b、cをCPU60に読み出させて上記の行列式を計算させることによってX、Y、Zが算出される。このX、Y、Zから、最小二乗法等の近似式により、標本3の蛍光スペクトル分布を得ることができる。
更に、前記ではa、b、cの3種類のVSUB電圧とその分光感度とより標本3の蛍光スペクトル分布を得たが、n種類(n>3)のVSUB電圧とその分光感度とより標本の蛍光のスペクトル分布を求めれば、n種類の分解能(前記ではa、b、cの3種類の分解能)を得ることができるようになり、より正確なスペクトル分布となる。
ところで、以上までに説明した各実施形態においては、処理の高速性を重視し、専用のハードウェアを用いて図3の各部を構成するようにしていたが、例えば図3におけるA/D変換器45から出力される画像信号を画像メモリA46a若しくは画像メモリB46bに格納する代わりに記録媒体に一旦記録するようにし、記録された画像信号に対し、標準的なコンピュータ、すなわち、制御プログラムの実行によってコンピュータ全体の動作制御を司るCPU(中央処理装置)と、このCPUが必要に応じてワークメモリとして使用するメインメモリと、各種データの授受を管理するインタフェースユニットと、各種のプログラムや画像データなどを記憶して保存しておく例えばハードディスク装置などの補助記憶装置と、画像データで表現されている画像や各種の情報を表示する表示部とを有しているコンピュータを用いて、前述した各実施形態に係る画像処理を施すようにすることもできる。
このような画像処理をコンピュータに行わせるためには、例えば図15にフローチャートで示したような処理をコンピュータの有しているCPUに行わせるための制御プログラムをコンピュータ読み取り可能な記録媒体に記録させておき、そのプログラムをその記録媒体からコンピュータに読み込ませてCPUで実行させるようにすればよい。
図15に示す処理を説明する。この処理は第一実施形態に係る画像処理を行うものであり、画像処理の実行指示をコンピュータのCPUが取得すると開始される。
まず、S101において、前掲した(1)における変数N及びKの値を所定の値、例えば第一実施形態においてはN=1.5且つK=−0.5に設定する処理が行われる。
続くS102では、予め取得されていたノーマル画像及び高感度画像の画像信号を読み込む処理が行われ、S103において、前掲した(1)式の演算を実行して近赤外カット画像の画像信号を取得する処理が行われる。
その後、S104では、前ステップの処理によって生成された画像信号で表されている近赤外カット画像を表示部に表示する処理が行われ、図15の処理が終了する。
なお、前述した他の実施形態に係る画像処理をコンピュータに行わせる場合にも、同様にすればよい。
なお、記録させた制御プログラムをコンピュータで読み取ることの可能な記録媒体としては、例えば、コンピュータに内蔵若しくは外付けの付属装置として備えられるROMやハードディスク装置などの記憶装置、フレキシブルディスク、MO(光磁気ディスク)、CD−ROM、DVD−ROMなどといった、コンピュータに設けられている媒体駆動装置によって読み取り可能な携帯可能記録媒体等が利用できる。
また、このような記録媒体はネットワーク回線を介してコンピュータと接続される、プログラムサーバとして機能するコンピュータが備えている記憶装置であってもよい。この場合には、制御プログラムを表現するデータ信号で搬送波を変調して得られる伝送信号を、プログラムサーバから伝送媒体であるネットワーク回線を通じてコンピュータへ伝送するようにし、コンピュータでは受信した伝送信号を復調して制御プログラムを再生することでこの制御プログラムをコンピュータ内のCPUで実行できるようになる。
その他、本発明は、上述した実施形態に限定されることなく、本発明の要旨を逸脱しない範囲内で種々の改良・変更が可能である。
本発明を実施する顕微鏡システムの構成を示す図である。 図1に示した顕微鏡システムの詳細構成を示す図である。 電子カメラの構成を示す図である。 図1に示す顕微鏡システムでの分光感度特性の第一の例を示す図である。 電子カメラ内の各部の動作タイミングの第一の例を示す図である。 電子カメラ内の各部の動作タイミングの第二の例を示す図である。 電子カメラ内の各部の動作タイミングの第三の例を示す図である。 電子カメラ内の各部の動作タイミングの第四の例を示す図である。 電子カメラ内の各部の動作タイミングの第五の例を示す図である。 励起光と蛍光との波長の関係の例を示す図である。 励起光抑制するHPFの特性例を示す図である。 図1に示す顕微鏡システムでの分光感度特性の第二の例を示す図である。 図1に示す顕微鏡システムでの分光感度特性の変更例を示す図である。 蛍光のスペクトル分布の算出法を説明する図である。 コンピュータに行わせる画像処理の処理内容を示すフローチャートである。 近赤外領域の蛍光を発する物質の分光特性例を示す図である。 CCD撮像素子の素子構造の一例を示す平面図である。 CCDの断面図である。 フォトダイオードの深さ方向のポテンシャルの変化を示す図である。 基板バイアス発生回路の構成例を示す図である。 感度を変化させた前後でのCCD撮像素子の分光感度特性例を示す図である。 コーティングガラスの反射率の分光特性例を示す図である。 赤外カットフィルタによる分光感度特性の変化を示す図である。
符号の説明
S、S’、S” 観察光路
1 顕微鏡本体
3 標本
5 三眼鏡筒ユニット
6 接眼レンズユニット
6a 接眼レンズ
10 結像レンズユニット
11 透過照明光学系
12 落射照明光学系
13 透過照明用光源
14 コレクタレンズ
15 透過用フィルタユニット
16 透過視野絞り
161 透過シャッタ
17 折り曲げミラー
18 透過開口絞り
19 コンデンサ光学素子ユニット
20 トップレンズユニット
21 落射照明用光源
22 落射用フィルタユニット
23 落射シャッタ
24 落射視野絞り
25 落射開口絞り
26 試料ステージ
27 対物レンズ
28 レボルバ
29 対物レンズ側光学素子ユニット
30 キューブユニット
31 ビームスプリッタ
32 ダイクロイックミラー
33 中間変倍光学系(ズーム鏡筒)
33a 変倍ズームレンズ
34 ビームスプリッタ
34a AF用受光素子
35 写真接眼レンズユニット
35a 写真接眼レンズ
36 電子カメラ
37 駆動回路部
371 オートフォーカス(AF)ユニット
38 対物レンズ検出部
39 リタデーション調整動作検出部
40 写真接眼レンズ検出部
41 顕微鏡コントロール部
42 固体撮像素子(CCD)
43 CDS回路
44 増幅器
45 A/D変換器
46a 画像メモリA
46b 画像メモリB
47 演算回路
48 CCDSUB電圧切り換え回路
49 SUBパルス重畳回路
51 画像信号処理回路
52 演算コントローラ
53 タイミングジェネレータ(TG)
54 シグナルジェネレータ(SG)
55 メモリコントローラ
56 DRAM
57 圧縮伸張回路
58 記録媒体
59 液晶ディスプレイ(LCD)
60 CPU
61 操作部
62 セレクタ
100 結像レンズユニット
100a 結像レンズ
200 基板バイアス発生回路
201 フォトダイオード
202 垂直転送路
203 水平転送路
204 信号検出器
205 アンプ
206 内部VSUB発生回路
300 n型半導体基板
301 第一領域
302 第二領域
303 光電変換領域(電荷蓄積部)
304 理込みチャネル
305 転送電極
306 絶縁層
307 チャネルストップ領域
308 トランスファーゲート(TG)領域
309 金属層
311 基板バイアス電圧VSUB

Claims (9)

  1. 固体撮像素子の形成されている半導体基板に印加する基板バイアス電圧を変化させる電圧変化手段と、
    異なる前記基板バイアス電圧を印加した前記固体撮像素子によって撮像された複数の画像を、当該基板バイアス電圧に基づいて設定される比率で加算若しくは減算する画像処理手段と、
    を有することを特徴とする撮像処理装置。
  2. 前記固体撮像素子での撮像における露光時間を制御する露光時間制御手段を更に有し、
    前記所定の比率は、更に前記露光時間に基づいて設定される、
    ことを特徴とする請求項1に記載の撮像処理装置。
  3. 前記電圧変化手段は、前記基板バイアス電圧を第一の電圧値または当該第一の電圧値よりも低い第二の電圧値とし、
    前記基板バイアス電圧が前記第二の電圧値とされているときには、前記固体撮像素子における画素毎の光電変換領域で蓄積された信号電荷についての当該固体撮像素子内における転送路での転送を高速化させる、
    ことを特徴とする請求項1に記載の撮像処理装置。
  4. 前記信号電荷の前記転送路での転送の高速化は、当該転送を行わせるために前記固体撮像素子へ印加されるパルス信号の単位時間当たりの数を増加させることによって行うことを特徴とする請求項3に記載の撮像処理装置。
  5. 前記電圧変化手段は、静止画の撮像指示に応じ、所定の電圧値が保持されていた前記基板バイアス電圧を変化させることを特徴とする請求項1に記載の撮像処理装置。
  6. 前記所定の比率は、更に前記固体撮像素子での撮像対象である試料で蛍光を発光させるための励起光の波長に基づいて設定されることを特徴とする請求項1に記載の撮像処理装置。
  7. 異なる前記基板バイアス電圧を印加した前記固体撮像素子によって撮像された複数の画像と、当該画像の各々の撮像時における当該固体撮像素子の分光感度特性とに基づいて、当該画像に表されている試料から到来する光のスペクトル分布を算出する算出手段を更に有することを特徴とする請求項1に記載の撮像処理装置。
  8. 固体撮像素子の形成されている半導体基板に印加する基板バイアス電圧を異なる電圧値として撮像された複数の画像を取得し、
    前記複数の画像を前記基板バイアス電圧に基づいて設定される比率で加算若しくは減算する画像処理を行う、
    ことを特徴とする撮像処理方法。
  9. 固体撮像素子の形成されている半導体基板に印加する基板バイアス電圧を異なる電圧値として撮像された複数の画像を取得する処理と、
    前記複数の画像を前記基板バイアス電圧に基づいて設定される比率で加算若しくは減算する画像処理と、
    をコンピュータに行わせるためのプログラム。
JP2004132755A 2004-04-28 2004-04-28 画像処理装置、画像処理方法、及びプログラム Expired - Fee Related JP4391878B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004132755A JP4391878B2 (ja) 2004-04-28 2004-04-28 画像処理装置、画像処理方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004132755A JP4391878B2 (ja) 2004-04-28 2004-04-28 画像処理装置、画像処理方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2005318192A true JP2005318192A (ja) 2005-11-10
JP4391878B2 JP4391878B2 (ja) 2009-12-24

Family

ID=35445180

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004132755A Expired - Fee Related JP4391878B2 (ja) 2004-04-28 2004-04-28 画像処理装置、画像処理方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP4391878B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7817200B2 (en) 2006-02-15 2010-10-19 Sony Corporation Solid-state image-capturing device, driving method thereof, camera, electric charge transfer device, driving method and driving device for driving load, and electronic equipment
CN104660896A (zh) * 2015-02-06 2015-05-27 福建福特科光电股份有限公司 免IR-Cut切换器的日夜两用型镜头的摄像方法及装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7817200B2 (en) 2006-02-15 2010-10-19 Sony Corporation Solid-state image-capturing device, driving method thereof, camera, electric charge transfer device, driving method and driving device for driving load, and electronic equipment
US7944489B2 (en) 2006-02-15 2011-05-17 Sony Corporation Solid-state image-capturing device, driving method thereof, camera electric charge transfer device, driving method and driving device for driving load, and electronic equipment
US8031252B2 (en) 2006-02-15 2011-10-04 Sony Corporation Solid-state image capturing device, driving method thereof, camera, electric charge transfer device, driving method and driving device for driving load, and electronic equipment
KR101361170B1 (ko) * 2006-02-15 2014-02-07 소니 주식회사 고체촬상장치, 그 구동방법, 카메라, 전하전송장치, 부하를구동하기 위한 구동방법 및 구동장치와 전자기기
CN104660896A (zh) * 2015-02-06 2015-05-27 福建福特科光电股份有限公司 免IR-Cut切换器的日夜两用型镜头的摄像方法及装置

Also Published As

Publication number Publication date
JP4391878B2 (ja) 2009-12-24

Similar Documents

Publication Publication Date Title
Jonkman et al. Any way you slice it—a comparison of confocal microscopy techniques
JP6239862B2 (ja) 焦点調節装置、焦点調節方法およびプログラム、並びに撮像装置
JP5147645B2 (ja) 撮像装置
TWI462055B (zh) 具有合成全色影像之彩色濾光器陣列影像
JP4664871B2 (ja) 自動焦点検出装置
JP4155280B2 (ja) 撮像装置
US20040066563A1 (en) Electronic imaging device focusing
JP6654688B2 (ja) 顕微鏡観察システム、顕微鏡観察方法、及び顕微鏡観察プログラム
JPH1051796A (ja) 固体撮像装置
JP4786207B2 (ja) 顕微鏡システム
JP7019337B2 (ja) 像ブレ補正装置、レンズ装置およびそれらの制御方法
JP6207293B2 (ja) 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体
JP4391878B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2015210285A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP4481073B2 (ja) 画像補正装置、画像補正方法、及びプログラム
JP2016197826A (ja) 撮像装置および撮像制御プログラム
Baker et al. Lensfree time-gated photoluminescent imaging
JP4192284B2 (ja) デジタルスチルカメラ
JP4503875B2 (ja) 撮像装置
JP4532135B2 (ja) 撮像装置
JP4812247B2 (ja) 撮像装置
JP2010014950A (ja) 撮像装置
JP5423140B2 (ja) 測光装置及び撮像装置
JP5074467B2 (ja) 顕微鏡システム、顕微鏡システムの駆動方法、及びその駆動プログラム
JP2015225310A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070425

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090903

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090915

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091008

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121016

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4391878

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121016

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131016

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees