JP4391876B2 - 画像補正装置、画像補正方法、及びプログラム - Google Patents

画像補正装置、画像補正方法、及びプログラム Download PDF

Info

Publication number
JP4391876B2
JP4391876B2 JP2004126222A JP2004126222A JP4391876B2 JP 4391876 B2 JP4391876 B2 JP 4391876B2 JP 2004126222 A JP2004126222 A JP 2004126222A JP 2004126222 A JP2004126222 A JP 2004126222A JP 4391876 B2 JP4391876 B2 JP 4391876B2
Authority
JP
Japan
Prior art keywords
pixel
sensitivity
defect
image
image sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004126222A
Other languages
English (en)
Other versions
JP2005311732A (ja
Inventor
紳一郎 合▲崎▼
順三 桜井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2004126222A priority Critical patent/JP4391876B2/ja
Publication of JP2005311732A publication Critical patent/JP2005311732A/ja
Application granted granted Critical
Publication of JP4391876B2 publication Critical patent/JP4391876B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

本発明は画像処理技術に関し、特に、顕微鏡用カメラなどに好適な高感度固体撮像装置によって撮像された画像の処理技術に関する。
生体組織や細胞上でタンパクや遺伝子等に蛍光標識を施し、タンパク、遺伝子等の肉眼での観察や写真撮影を可能にした蛍光顕微鏡が広く知られている。特に、近年では蛍光を微弱にしか発しない物質を電子カメラで撮影して数値解析をすることが求められており、そのためにはより高感度な電子カメラが必要となってきている。
電子カメラは、CCD(Charge Coupled device )等の固体撮像素子が被写体像を光電変換することによって撮像画像信号を得る。
図26は、CCD撮像素子の素子構造の一例を示す平面図である。
同図に示すCCD撮像素子では受光素子としてフォトダイオード201がマトリクス状に配置されている。フォトダイオード201間には縦列方向に複数本の垂直転送路202が配置され、また垂直転送路202の端部には横列方向に1本の水平転送路203が配置されている。
フォトタイオード201に蓄積された信号電荷は電荷移送パルスTGに従って垂直転送路202に読み出され、垂直転送路202内を同図における下方向へ転送される。
垂直転送路202を転送された信号電荷は水平転送路203へと転送され、更に、この水平転送路203を同図における左方向へ転送され、その後、電荷検出器204を介して、最終的には読み出しアンプ205により出力される。
垂直転送路202は、通常の転送においは水平転送路203により読み出される1水平期間毎に1回電荷を転送するが、高速排出時には、連続動作させることによって垂直転送路202中の電荷を排出させる。
図27に示す断面図には、CCD撮像素子の素子構造の一例として、縦型オーバーフロードレイン構造のインターライン型CCDの構造が示されている。
同図において、n型半導体基板300は、接合の浅いPウェルの第一領域301と接合の深いPウェルの第二領域302とで形成されている。このうち、第一領域301の接合n型領域が形成された領域部分はフォトダイオード、つまり光電変換領域(電荷蓄積部)303として機能する。
第二領域302には理込みチャネル304からなる垂直シフトレジスタ、すなわち転送電極305が形成され、その主面には絶縁層306を介して転送電極305が配置されている。理込みチャネル304及び光電変換領域303は高いp型不純物層からなるチャネルストップ領域307によって分離されており、光電変換領域303とそれに対応する埋込みチヤネル304との間にはトランスファーゲート(TG)領域308が配置されている。また、光電変換領域303以外の領域は金属層309によって遮光されている。
N型半導体基板300とPウェルである第一領域301及び第二領域302との接合には逆バイアス電圧である基板バイアス電圧VSUB311を印加して、光電変換領域303直下のPウェルの第一領域301を完全に空乏化(空乏層化)することにより、ブルーミングの抑制がされる。なお、ブルーミンクとは、強い光が画素に入射した場合に、その画素が飽和して信号電荷があふれてしまうことにより隣接画素や信号線、垂直転送路等に入り込み、その画像の周囲にあたかも花が咲いたような白い部分が広がってしまう現象である。
このCCD撮像素子の感度を向上させるためには、フォトダイオードの光電変換効率の向上が最も有効な手段である。
フォトダイオードに入射した光はフォトダイオードにより光電変換されて信号電荷が生成される。ここで、短波長の光はフォトダイオード内での減衰が大きいので受光面(半導体基板表面)から比較的浅い部分で光電変換される。一方、長波長の光は減衰が少ないので、フォトダイオードの受光面から比較的深い部分まで到達し、その深い部分においても光電変換される。
図28はフォトダイオードの受光面からの深さ方向におけるポテンシャルの変化をグラフで示したものである。同図中、縦軸がポテンシャルを表し、横軸が半導体基板表面からの深さを表している。
前述のように、光電変換は半導体基板の種々の深さで行われるが、図28(a)に示すように、オーバーフローバリアOFBより浅い部分で生成された信号電荷はフォトダイオードに蓄積され、蓄積されたこの信号電荷が垂直転送路へ移送されて転送されることになる。その一方、オーバーフローバリアOFBより深い部分で生成された信号電荷は、フォトダイオードには蓄積されず、n型半導体基板300へと掃き出されてしまう。
従って、オーバーフローバリアOFBをより深い位置に形成するようにすれば、それだけフォトダイオードにおける深い部分で生成される信号電荷の利用が促進されるので、全体として光電変換効率が向上し、結果としてCCD撮像装置の感度が向上する。
このオーバーフローバリアOFBを深くするためには、前述した基板バイアス電圧VSUBを低下させるという手法がある。基板バイアス電圧VSUBを低下させると、ポテンシャルの曲線は例えば図28(a)に示すものから図28(b)に示すものへと変化し、オーバーフローバリアOFBが半導体基板のより深い位置に形成されるようになるので、CCD撮像装置の感度が向上する。
ところで、例えば特許文献1にも開示されているように、昨今のCCD撮像素子は、光電変換や、信号電荷の蓄積、転送及び検出などを円滑に行うために、CCD撮像素子の内部で半導体基板のバイアス用の電圧(以下、「基板内部電圧」とも称することとする)が供給されている。
図29はこの種の固体撮像装置および基板バイアス発生回路の構成例を示している。
基板バイアス発生回路200は電圧分割用の抵抗R1及びR2を有している。抵抗R1の一端は電源線VCCに接続され、その他端は抵抗R2の一端に接続されている。また、抵抗R2の他端は接地線GNDに接続されている。
抵抗R1及びR2の直列接続点にはトランジスタTR1のベースが接続されており、これらによって内部VSUB電圧発生回路206を構成している。基板内部電圧VSUBはこのトランジスタTR1のエミッタから引き出されており、前述したフォトダイオード、垂直転送路、水平転送路203、電荷検出部204などを配置した半導体基板へ供給される。
また、電圧分割用の抵抗R1及びR2の直列接続点には基板バイアス端子CSUBも設けられている。基板バイアス端子CSUBには外付け用の抵抗R3を介してトランジスタTR2のコレクタが接続されている。トランジスタTR2のエミッタは接地線GNDに接続されており、ベースには電流制限用の抵抗R4を介して端子VSUBContが設けられている。
ここで、端子VSUBContの電位をHとしてトランジスタTR2をオンにすると、それまで抵抗R2を流れていた電流の一部が抵抗R3を流れるようになり、その結果として基板バイアス端子CSUBの電位が低下する。すると、基板内部電圧VSUBも低下するので前述したようにオーバーフローバリアOFBが半導体基板のより深い位置に形成されるようになり、CCD撮像素子の感度が向上する。
また、従来の電子カメラでは、CCDの製造過程中における種々の要因により発生する白点キズ等の欠陥の位置情報をカメラ内に配殺されるROM等記憶部に記憶させておき、その位置情報を必要に応じて随時参照することによってその欠陥の位置を確認できるようにしている。そして、このような白点キズ等の欠陥に起因する固定パターンノイズ(以下、「白点ノイズ」又は「画素欠陥」などとも称することとする)に対し、図30に示すように、画像欠陥を生じさせる画素(以下、欠陥画素という)の信号Bに隣接した垂直方向の正常画素の信号C1、C3、あるいは水平方向の正常画素の信号C2、C4などで置き換えて画素欠陥を補正する画像補間処理が施されるのが一般的である。
この画素欠陥には、暗電流(半導体基板のバイアス用の電圧の印加によって流れる電流)に起因する露光時間(露出時間)や、温度に依存性のある白点ノイズが多く含まれることが知られている。図31(a)に例示するように、白点ノイズの出力信号は露光時間が長くなるほど増大する傾向にある。また、図31(b)に例示するように、白点ノイズの出力信号はCCDの温度が高くなるほど増大する傾向にある。
この他、北極圏や南極圏を空路でカメラを搬送した場合に、宇宙線の影響により新たに画素欠陥の発生する場合のあることが知られており、例えば特許文献2には、このような後発的に発生する画素欠陥を補正するために、新たに生じた撮像素子の画素欠陥を点検してこれを補正する技術が開示されている。
特開2000−22126号公報 特開2002−125154号公報
前述したように、基板内部電圧VSUBを低下させるとオーバーフローバリアOFBが半導体基板のより深い位置に形成されるようになってフォトダイオードの光電変換効率は向上する。しかしながら、図28(b)を参照すると分かるように、基板内部電圧VSUBを低下させるとポテンシャルが高くなるのでフォトダイオードにおける信号電荷の蓄積容量が増大する。ここで、被写体が明るい場合を想定すると、多量の信号電荷がフォトダイオードに蓄積するため、余剰電荷が半導体基板に掃き捨てきれなくなってしまい、その結果として前述したブルーミングが発生し易くなってしまう。
蛍光顕微鏡での撮影は微弱光を対象とするので、多くの場合でこのようなブルーミング現象が問題となることはない。しかし、暗電流に起因する露光時間や温度に依存性のある白点ノイズがある場合には白点ノイズの増大によりブルーミング現象が発生してしまい、従来の4点の隣接画素に基づいた補間の手法では補正できないことがある。
ここで、図31(b)から明らかなように、CCDの温度が低くなるほど白点ノイズの出力信号は低減する傾向にある。白点ノイズが低減すればブルーミング現象を防止することが可能である。
CCDの温度を低くするためにはCCD撮像素子を冷却することが有効な手段である。しかし、ベルチェ素子などの冷却素子を冷却のためにカメラに追加することはコストの上昇を招いてしまう。
また、白点ノイズがブルーミング現象を完全に引き起こさなくするためには、露光時間を長くして使用することを考慮すると、−30℃程度にまで強力に冷却する必要があるのだが、このような冷却においては結露防止の密閉構造等が必要となるため、カメラが更に高価なものとなってしまう。
本発明は上述した問題に鑑みてなされたものであり、その解決しようとする課題は、高感度の撮影であっても、撮像素子を強力に冷却することなしに、撮像素子の画素欠陥の影響の抑制された適切な画像を得ることである。
本発明の態様のひとつである画像補正装置は、撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報を記憶する第一の記憶手段と、当該撮像素子を当該第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報を記憶する第二の記憶手段と、当該撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて当該通常欠陥情報若しくは当該高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す補正手段と、を有することを特徴とするものであり、この特徴によって前述した課題が解決される。
なお、上述した本発明に係る画像補正装置において、当該撮像素子によって撮像された遮光画像に基づいて当該撮像素子についての画素欠陥に関する情報を取得する欠陥情報取得手段を更に有するようにしてもよい。
なお、このとき、当該通常欠陥情報は、当該第一の受光感度に設定した当該撮像素子によって撮像された遮光画像に基づいて当該欠陥情報取得手段により取得された情報であり、当該高感度欠陥情報は、当該通常欠陥情報に基づいた予測によって得られた情報であるとしてもよい。
また、このとき、当該高感度欠陥情報は、当該通常欠陥情報で画素欠陥の存在が示されている画素の周囲に位置している画素において、画素欠陥が生じるか否かを画素毎に予測して得られた情報を有するようにしてもよい。
なお、当該高感度欠陥情報は、当該通常欠陥情報のうちの画素欠陥の程度を画素毎に示す情報に基づいた予測によって得られた情報であるとしてもよい。
なお、このとき、当該通常欠陥情報における画素欠陥の程度を示す情報は、当該画素欠陥の程度に応じて段階的にランク分けがされており、当該高感度欠陥情報は、画素欠陥の程度を示す当該ランクに基づいた予測によって得られた情報であるとしてもよい。
また、前述した本発明に係る画像補正装置において、当該通常欠陥情報と当該高感度欠陥情報との両者間における同一の画素についての画素欠陥に関する情報の重複を解消する重複解消手段を更に有するようにしてもよい。
また、当該欠陥情報取得手段によって新たに取得された情報に基づいて、当該第一の記憶手段若しくは当該第二の記憶手段に記憶されている情報を更新する欠陥情報更新手段を更に有するようにしてもよい。
なお、このとき、当該撮像素子を所定の温度に保持する恒温手段を更に有するようにしてもよい。
また、前述した本発明に係る画像補正装置において、当該補正手段は、当該撮像素子による画像の撮像時における撮像条件に基づき、当該補正の対象とする画素欠陥の程度を決定するようにしてもよい。
なお、このとき、当該撮像条件は当該撮像時における露出時間であるとしてもよい。
また、前述した本発明に係る画像補正装置において、当該補正手段は、当該補正の対象である画素の周囲に位置している画素であって画素欠陥を有していないものを当該通常欠陥情報若しくは当該高感度欠陥情報に基づいて特定し、特定された画素についての輝度情報に基づいて当該補正の対象である画素に対する補正を施すようにしてもよい。
なお、このとき、当該通常欠陥情報及び当該高感度欠陥情報は、当該補正の対象である画素と当該補正の基礎とする当該輝度情報を得る画素との位置関係を特定する位置関係情報を有し、当該補正手段は、当該位置関係情報によって特定される画素についての輝度情報に基づいて当該補正の対象である画素に対する補正を施すようにしてもよい。
また、このとき、当該撮像素子は、ベイヤ配列を利用したカラー画像の撮像を行い、当該位置関係情報は、当該位置関係を、予め複数定義されている位置関係パターンからの選択によって特定し、当該位置関係パターンは、当該カラー画像における緑色成分を取得する画素についてのものと、赤色成分若しくは青色成分を取得する画素についてのものとで異なるものが定義されているものであってもよい。
また、当該通常欠陥情報は、当該第一の受光感度に設定した当該撮像素子によって撮像された遮光画像に基づいて当該欠陥情報取得手段により取得された情報であり、当該高感度欠陥情報は、当該第二の受光感度に設定した当該撮像素子によって撮像された遮光画像に基づいて当該欠陥情報取得手段により取得された情報であるとしてもよい。
本発明の別の態様のひとつである画像補正装置は、撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報を記憶する記憶手段と、当該撮像素子を当該第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報を、当該通常欠陥情報に基づいた予測によって生成する高感度欠陥情報予測手段と、当該撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて当該通常欠陥情報若しくは当該高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す補正手段と、を有することを特徴とするものであり、この特徴によって前述した課題が解決される。
なお、上述した本発明に係る画像補正装置において、当該第一の受光感度に設定した当該撮像素子によって撮像された遮光画像に基づいて当該通常欠陥情報を取得する通常欠陥情報取得手段を更に有するようにしてもよい。
また、前述した本発明に係る画像補正装置において、当該高感度欠陥情報予測手段は、当該通常欠陥情報で画素欠陥の存在が示されている画素の周囲に位置している画素において、画素欠陥が生じるか否かを画素毎に予測して当該高感度欠陥情報を生成するようにしてもよい。
また、前述した本発明に係る画像補正装置において、当該高感度欠陥情報予測手段は、当該通常欠陥情報のうちの画素欠陥の程度を画素毎に示す情報に基づいた予測によって当該高感度欠陥情報を生成するようにしてもよい。
なお、このとき、当該通常欠陥情報における画素毎の画素欠陥の程度を示す情報は、当該画素欠陥の程度に応じて段階的にランク分けがされており、当該高感度欠陥情報予測手段は、画素欠陥の程度を示す当該ランクに基づいた予測によって当該高感度欠陥情報を生成するようにしてもよい。
また、前述した本発明に係る画像補正装置において、当該補正手段は、当該撮像素子による画像の撮像時における撮像条件に基づき、当該補正の対象とする画素欠陥の程度を決定するようにしてもよい。
なお、このとき、当該撮像条件は当該撮像時における露出時間であるとしてもよい。
本発明の更なる別の態様のひとつである画素欠陥の補正方法は、撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報と、当該撮像素子を当該第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報とを記憶部に記憶させておき、当該撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて当該通常欠陥情報若しくは当該高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す、ことを特徴とするものであり、この特徴によって前述した課題が解決される。
本発明の更なる別の態様のひとつである画素欠陥の補正方法は、撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報を記憶部に記憶させておき、当該撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて、当該撮像素子を当該第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報を、当該通常欠陥情報に基づいた予測によって生成すると共に、当該通常欠陥情報若しくは当該高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す、ことを特徴とするものであり、この特徴によって前述した課題が解決される。
また、撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報と、当該撮像素子を当該第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報とを記憶部に記憶させる処理と、当該撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて当該通常欠陥情報若しくは当該高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す処理と、をコンピュータに行わせるためのプログラムも本発明に係るものであり、このプログラムをコンピュータで実行させることによって前述した課題が解決される。
また、撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報を記憶部に記憶させる処理と、当該撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて、当該撮像素子を当該第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報を、当該通常欠陥情報に基づいた予測によって生成すると共に、当該通常欠陥情報若しくは当該高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す処理と、をコンピュータに行わせるためのプログラムも本発明に係るものであり、このプログラムをコンピュータで実行させることによって前述した課題が解決される。
本発明は、以上のような特徴を有することにより、高感度の撮影であっても、撮像素子を強力に冷却することなしに、適切な画像を得ることができるようになるという効果を奏する。
以下、本発明の実施の形態を図面に基づいて説明する。
図1は、本発明を実施する顕微鏡システムの構成を示している。この顕微鏡システムは主に蛍光観察を行うための構成を示している。
図1に示す顕微鏡システムには、照明系として落射照明光学系12が備えられている。落射照明光学系12には、落射照明用光源21が備えられている。落射照明光学系12と観察光路Sとの交わる位置にはダイクロイックミラー32が配置されている。
観察光路S上には、観察の対象となる標本を載せる試料ステージ26、複数装着されている対物レンズ27のうちの一つを回転動作で選択して観察光路S上に位置させるためのレボルバ28、観察光路S上のダイクロイックミラー32を切り換えるためのキューブユニット30、及び、観察光路Sを観察光路S’と観察光路S”とに分岐するビームスプリッタ31が配置されている。なお、ビームスプリッタ31は、三眼鏡筒ユニット5内に配置されている。
ビームスプリッタ31で手前に折り曲げられた観察光路S’上には、接眼レンズ6aを有する接眼レンズユニット6が配置されている。一方、ビームスプリッタ31を透過した観察光路S”上には、結像レンズユニット100及び電子カメラ36が顕微鏡本体1に据え付けられて配置されている。電子カメラ36内には撮像素子42が配置されており、対物レンズ27からの光像は、結像レンズユニット100内の結像レンズ100aによって撮像素子42の撮像面に結像する。
レボルバ28、キューブユニット30、及びビームスプリッタ31はそれぞれ電動化されており、顕微鏡駆動回路37からの各駆動信号に従い、不図示の各モータによって駆動される。
顕微鏡コントロール部41はこの顕微鏡システム全体の動作を制御するものであり、落射照明用光源21、顕微鏡駆動回路37、及び電子カメラ36が接続されている。顕微鏡コントロール部41は、電子カメラ36での撮像条件等を決定するCPU60(後述)に従い、落射照明用光源21の調光を行うと共に、顕微鏡駆動回路37に対して制御指示を行う。更に、顕微鏡コントロール部41は、落射照明用光源21に対する制御状態、顕微鏡駆動回路37に対する制御状態を電子カメラ36ヘフィードバックする。
図2は、図1に示した顕微鏡システムに用いられる電子カメラ36の構成を示すブロック図である。この電子カメラ36には、顕微鏡コントロール部41を制御するCPU(Central Processing Unit :中央演算装置)60が備えられている。また、電子カメラ36に備えられている撮像素子42はカラー画像あるいは白黒画像を撮像するものであり、観察光路S”上に配置されている。
CCD等の固体撮像素子(以下、単に「CCD」と称することとする)42は、図1に示した顕微鏡システムにより拡大される標本3の観察像を撮像して光電変換する。
CDS(Correlated Double Sampling:相関二重サンプリング)回路43は、CCD42の出力信号から画像信号成分を抽出する。
増幅器(AMP)44は、CDS回路43の出力信号レベルを所定の値に調整するためのAGC(Automatic Gain Control:自動利得制御)回路等を含む信号レベル制御手段である。
A/D変換器45は、AMP44から出力されるアナログ信号をデジタル信号へと変換する。なお、本実施形態においては、CCD42で撮像された画像における各画素の輝度値を4096階調(12bit)で表現するものとする。
画像メモリ46はA/D変換器45から出力されるデジタル信号を記憶する。
メモリコントローラ55は画像メモリ46を制御する。
遮光もれ検出回路52は、画像メモリ46から読み出された画像信号に基づいてCCD42の遮光状態を確認する。
欠陥検出回路62はCCD42に存在する欠陥画素の検出を行う。
欠陥メモリ63は、EEPROM(Electrically Erasable and Programmable Read only Memory)等からなり、CCD42に存在する欠陥画素のアドレスなどの欠陥情報が予め記憶される。
欠陥補正回路64はCCD42に存在する欠陥画素を他の画像信号に基づいて補正する。
画像信号処理回路51は、欠陥補正回路64により欠陥補正された画像信号に対してγ補正やエッジ強調等の画像処理を施す。
液晶ディスプレイ(LCD:Liquid Crystal Display)59は、画像信号を表示可能な形態に処理する信号処理回路を含み、画像信号で表現されている画像を表示する表示手段である。
DRAM(Dynamic Random Access memory)56は、画像信号を一時的に記憶するメモリ等からなるカメラ内蔵記憶手段である。
圧縮伸張回路57は、画像信号に対して圧縮処理及び伸張処理を施す。
記録媒体58は例えばメモリカードであり、画像信号を保存する。
操作部61は、撮影時にAF(Auto Focus:自動合焦)動作を開始させると共に、露光動作を開始させるトリガー信号を発生させ得るトリガースイッチ、キューブユニット30の回転動作スイッチ等からなる複数のスイッチである。
温度センサ47は、CCD42の温度状態を検出する温度検出手段である。
冷却素子50はCCD42を冷却するものであり、例えばペルチェ素子である。
タイミングジェネレータ(TG)53は、CCD42の駆動パルス等の同期信号を発生させる。
シグナルジェネレータ(SG)54は、TG53へ同期信号を供給する。
SUBパルス重畳回路49は、CCD42の内部電圧にクランプされたSUBパルスをCCD42へ入力させる回路であり、例えば図29に示した回路である。
CCDSUB電圧切り換え回路48は、基板内部電圧VSUBの切り替えを行う回路であり、例えば図29に示した回路である。
以上の電子カメラ36の各構成要素は、制御手段であるCPU60に電気的に接続されており、図1に示した顕微鏡システム全体はこのCPU60によって統括的に制御されている。ここで、特に、CCD42は、SUB電圧重畳回路49等からの出力によって制御される電子シャッタ機能(手段)を有しており、これにより露光時間の制御を行うことができる。
次に、このような構成を有する顕微鏡システムの動作を説明する。なお、ここでは撮影時に行われる動作のうち、本発明に関わる部分のみを説明する。
前述したように、図1における顕微鏡システムでは、CPU60が全ての制御を統括的に行っている。
蛍光観察法では、落射照明光学系12より発せられた光がキューブユニット30内の蛍光キューブにより分光され、対物レンズ27を通って縮小されて標本3を照射する。標本3はこの照射された光によって微弱な蛍光を生じ、この蛍光が対物レンズ27を通って拡大されキューブユニット30内の蛍光キューブによって前述の分光とは異なる波長で分光され、CCD42を照射する。
CCD42ではTG53による駆動制御の下で露光(電荷蓄積)及び信号の読み出しがされる。読み出された信号からCDS回路43によって画像信号成分が抽出され、AMP44において出力信号が所定のレベルに調整され、A/D変換器45によってデジタル信号に変換される。このデジタル信号に変換された画像信号は、画像メモリ46に一時的に記憶される。
画像メモリ46に記憶された画像信号は欠陥補正回路64に入力され、CCD42に存在する欠陥画素のアドレスが記憶されている欠陥メモリ63の記憶内容に基づいて欠陥画素に相当する部分が補正される。
欠陥補正回路64で欠陥画素が補正された画像信号は、画像信号処理回路51によってγ補正、エッジ強調等の画像処理が施された後、LCD59へ入力され、標本3の蛍光画像の再生表示処理がなされる。
以上が図1及び図2に構成を示した顕微鏡システムの撮影及び画像表示の動作である。
なお、CCD42の駆動制御は、TG53から出力される各種駆動信号(垂直駆動パルス、水平駆動パルス、基板内部電圧VSUB等)によって行われ、CCD42としては、例えばインターライン型で縦型オーバーフロードレイン(VOFD)構造の撮像素子を用いる。
CCD42の平面図と断面構造については、図26及び図27に示したので省略する。ここで、前述したように、基板内部電圧VSUBは光電変換素子であるフォトダイオード(PD)の最大電荷蓄積レベル(オーバーフローレベル:OFL)を決定するための基板バイアス電圧であるが、このVSUBに大きな値のパルス(VSUBパルス)を重畳すると、各PDの電荷を基板に排出して蓄積電荷をリセットすることができる。
図28(b)に示したように、基板内部電圧VSUBの値を通常よりも小さくすることによって通常よりも深い部分にオーバーフローバリアOFBが形成され、CCD42の感度が向上する。そこで、以降の説明においては、基板内部電圧VSUBの値が通常の場合をノーマルモードと称し、基板内部電圧VSUBの値を小さくした場合を高感度モードと称することとする。電子カメラ36では、CCD42の感度を通常の感度(以下、「通常感度」と称することとする)とするノーマルモードと、感度を向上させた高感度モードとの設定が可能である。
CCD42におけるSUB電圧切り換え回路48及びSUBパルス重畳回路49の構成については、先に説明した図29に示したものと同様とする。
次に、初期状態、すなわち工場出荷前において行われる、CCD42の欠陥情報の欠陥メモリ63への記憶について、図3に示すフローチャートを用いて説明する。なお、この処理は、欠陥検出回路52と、所定の制御プログラムを実行させているCPU60とによる協働動作によって実現される。
まず、S101において、図1に示す顕微鏡システムに対し、欠陥情報を検出する際の撮影条件の設定がCPU60によって行われる。具体的には、この設定は、冷却素子50によるCCD42の冷却をオフとし、CCD42の感度設定を前述したノーマルモードとし、露出時間を8秒(以下、「8s」と示す)に設定し、顕微鏡システムのヒームスプリッタ31を移動させて電子カメラ36を遮光状態にする。
なお、ここで、CCD42の冷却をオフとしてCCD42の温度を上昇させるのは、画素欠陥を発生させやすくするためであり、理論上、より長い露出時間に対応した画素欠陥を発生させるためである。
次に、S102において、S101で設定された撮影条件の下で遮光画像を撮影する処理を電子カメラ36に行わせる。
S103では、S102で撮影した遮光画像の各画素の輝度値を図4に示した表の閾値と比較し、画素欠陥の検出、及び検出された画素欠陥の程度をランク分けする。
図4に例示する表においては、輝度値が4096階調における64以上の画素は、遮光画像であるにも拘わらず、ある程度の明るさを示しているため、欠陥画素であると判定される。また、例えば輝度値が4096階調における1000であった画素は、A1、A2、A3、B、C、及びDと示される6段階の欠陥のランクのうち、A3の画素欠陥とランク分けされる。
S104では、S103で検出された欠陥画素について、画像上の位置を示すアドレス及び欠陥のランクを欠陥メモリ63に記憶させる。この記憶情報は通常欠陥情報である。
S105では、欠陥メモリ63に記憶させた欠陥画素のうち、欠陥の程度が特に不良である、欠陥のランクがA1、A2、またはA3であるものについては、高感度モードで電子カメラ36を動作させたときにはその周囲に位置している画素にも画素欠陥が発生すると予測し、中心の欠陥画素について判定された欠陥のランクに応じて選択されるそれらの画素を高感度モード時での画素欠陥(以下、「高感度欠陥」と称することとする)が発生する画素とする。
このS105の処理について、図5を用いて更に説明する。
図5(a)に例示する予測表では、ノーマルモードで検出された欠陥画素の欠陥のランクがA1である場合には、その欠陥画素を取り囲む8つの隣接画素の全てに高感度欠陥が発生すると予測し、更に、この欠陥ランクA1の画素の隣接画素の各々に対してH1、H2、またはH3のランク分けを図5(b)に示すような位置関係で施す。
以下、同様に、ノーマルモードで欠陥ランクがA2と検出された欠陥画素については、図5(a)の表より、その欠陥画素の上下左右の隣接画素に高感度欠陥が発生すると予測し、これらに対してH2、またはH3のランク分けを図5(c)に示すような位置関係で施す。また、欠陥ランクがA3と検出された欠陥画素については、図5(a)の表より、その欠陥画素の上下の隣接画素に高感度欠陥が発生すると予測し、これらに対してH3のランク分けを図5(d)に示すように施す。
S106では、S105で予測された高感度欠陥の発生する画素の画像上の位置を示すアドレス(このアドレスは高感度欠陥情報である)と、S104で欠陥メモリ63に記憶させた欠陥画素についてのアドレスとを比較してアドレスの重複を調べ、重複がある場合、すなわち同一の画素に対して2つの欠陥ランク分けがなされた場合には、ノーマルモードでランク分けされた欠陥ランクを優先して残すようにし、欠陥情報の重複を解消する。
但し、このとき、アドレスの重複した画素のノーマルモードでのランク分けがD、すなわち比較的軽度の画素欠陥と評価されていた画素については、欠陥ランクをCに変更してその画素欠陥の評価を高めるようにする。なお、この評価の変更は行わなくてもよい。
S107において、高感度欠陥が発生すると予測された画素のうち上述したアドレスの重複していなかったものについて、そのアドレスと高感度欠陥における欠陥のランクとを欠陥メモリ63に記憶させる。
S108では、欠陥メモリ63に欠陥情報が記憶された欠陥画素の各々について、欠陥画素の隣接状態を調べ、S109において、その隣接状態を示す隣接情報を各欠陥画素に対応付けて欠陥メモリ63に更に記憶させる。
欠陥メモリ63に記憶される欠陥情報の例を図6に示す。
図6に例示した表は、S103において、アドレス(100,100)に位置する画素がランクBの欠陥画素として検出され、更にアドレス(150,150)に位置する画素がランクA2の欠陥画素として検出された例である。
この場合、S105において、ランクA2の欠陥画素に基づく高感度欠陥(図5(c)参照)が検出される。すなわち、アドレス(150,149)に位置する画素がランクH2の欠陥として、アドレス(149,150)に位置する画素がランクH3の欠陥として、アドレス(151,150)に位置する画素がランクH3の欠陥として、また、アドレス(150,151)に位置する画素がランクH2の欠陥として、それぞれ検出される。
また、このとき、S108において、欠陥画素のうち高感度欠陥でないもの、すなわちノーマルモードでランク分けされた欠陥ランク(A1、A2、A3、B、C、D)が付されている欠陥画素についての隣接情報(ノーマル隣接欠陥情報)と、高感度欠陥によるものを含む全ての欠陥画素についての隣接情報(高感度隣接欠陥情報)とが調べられる。
図6に例示した表では、具体的に示されている6つの画素のうち、アドレス(100,100)に位置するランクBの欠陥画素と、アドレス(150,150)に位置するランクA2の欠陥画素とについて、その欠陥画素を取り囲む8つの隣接画素のうちノーマルモードでランク分けされた欠陥ランクの付されている画素が存在するかどうかがまず調べられる。この例では、どちらの欠陥画素の隣接画素にもこのような欠陥ランクの付されているものが存在しないので、このことを8ビットの2進数で示すノーマル隣接欠陥情報は、どちらも「00000000」となる。
ここで、欠陥情報は、各ビットの桁が欠陥画素を中心とした隣接画素の位置を示しており、上位桁から順に、左上、上、右上、左横、右横、左下、下、右下の位置を示している。また、各桁の値が「1」であるときにはその桁で示される位置に欠陥画素が存在することを示し、各桁の値が「1」であるときにはその桁で示される位置に欠陥画素が存在しないことを示している。
なお、図6において、欠陥ランクがH2またはH3とされている4つの欠陥画素については、隣接画素の欠陥ランクに拘わらずノーマル隣接欠陥情報を「00000000」とする。
続いて、図6に例示した表に示されている画素の全てについて、その欠陥画素を取り囲む8つの隣接画素のうち、高感度欠陥を含む何らかの欠陥ランクの付されている画素が存在するかどうかが調べられる。
例えば、図6におけるアドレス(150,150)に位置するランクA2の欠陥画素については、その上の隣接画素であるアドレス(150,149)に位置する画素が欠陥ランクH2の欠陥画素であり、その左横の隣接画素であるアドレス(149,150)に位置する画素が欠陥ランクH3の欠陥画素であり、その右横の隣接画素であるアドレス(151,150)に位置する画素が欠陥ランクH3の欠陥画素であり、その下の隣接画素であるアドレス(150,151)に位置する画素が欠陥ランクH2の欠陥画素であるから、このことを8ビットの2進数で示す高感度隣接欠陥情報は、「01011010」となる。
以上の処理により、CCD42の欠陥情報が欠陥メモリ63へ工場出荷前に記憶される。その後、図1に示す顕微鏡システムを使用して実際に標本3の画像撮影を行う際には、欠陥補正回路64が、この欠陥情報と図7に示されている表とに基づき、補正対象とする欠陥画素の選択とその補正とを行う。
図7に例示する表は、ランク分けされている欠陥画素のうち、どのランクのものに対してまでを対象として補正を行うのかをCCD42に対する感度設定と撮影条件(本実施形態においては画像撮像時における露出時間)とに基づいて選択するためのものである。
この表によれば、電子カメラ36がノーマルモードに設定されているときは、露出時間が2秒以内の場合には欠陥ランクがA1、A2、若しくはA3とランク分けされている欠陥画素の補正を行う。一方、露出時間が2秒を超えて8秒以内の場合には、露出時間の長時間化による白点ノイズの増加を考慮し、A1〜A3に加えて更にBの欠陥ランクにランク分けされている欠陥画素の補正を行う。以下、同様に、露出時間が8秒を超えて32秒以内の場合には、A1〜A3及びBに加えて更にCの欠陥ランクにランク分けされている欠陥画素の補正を行い、露出時間が32秒を超える場合には、A1〜A3、B、及びCに加えて更にDの欠陥ランクにランク分けされている欠陥画素の補正を行う。
また、この表において、電子カメラ36が高感度モードに設定されているときは、上述したノーマルモードと同様の欠陥画素の補正に加え、露出時間が2秒を超えて8秒以内の場合には、高感度モードでの撮影による白点ノイズの増加を考慮し、更にH1の欠陥ランクにランク分けされている欠陥画素の補正を行い、以下、同様に、露出時間が8秒を超えて32秒以内の場合には、H1に加えて更にH2の欠陥ランクにランク分けされている欠陥画素の補正を行い、露出時間が32秒を超える場合には、H1及びH2に加えて更にH3の欠陥ランクにランク分けされている欠陥画素の補正を行う。
なお、欠陥画素の補正の手法は、以下のようにして行われる。
まず、上述したようにして決定された補正対象の欠陥ランクにランク分けされている欠陥画素についての欠陥情報(図6)を欠陥メモリ63から取得する。ここで、CCD42の感度の設定(電子カメラ36に対してノーマルモード・高感度モードのいずれの設定がされているか)を判定し、ノーマルモードの設定がされているのであれば補正対象の欠陥画素についてのノーマル隣接欠陥情報を参照し、高感度モードの設定がされているのであれば補正対象の欠陥画素についての高感度隣接欠陥情報を参照する。そして、参照中の隣接欠陥情報に基づき、補正対象の欠陥画素を取り囲む周囲8個の隣接画素のうち欠陥画素でない全ての正常な画素(画素欠陥を有していない画素)についての輝度値を標本3の撮影画像データから取得し、その加算平均を算出する。この算出結果を補正対象の欠陥画素についての補正値とする。
なお、この欠陥画素の補正の手法は、例えば補正対象画素と各隣接画素との位置関係に基づいた加重平均を補正結果とする等、他の手法を採用してもよい。
ここで図8について説明する。同図は、欠陥補正処理の処理内容をフローチャートで示したものである。この処理は、欠陥補正回路64と、所定の制御プログラムを実行させているCPU60とによる協働動作によって実現され、標本3の撮影画像データが画像メモリ46から欠陥補正回路64へと送られてくると開始される。
まず、S151では、CCD42の感度の設定内容と撮影時における露出時間の設定内容とを示す情報をCPU60から取得する処理が行われる。
S152では、補正対象とする欠陥ランクの決定に用いられる表(図7に例示した表)が参照され、その表において前ステップの処理によって取得した情報に対応付けられている、補正対象とする欠陥画素の欠陥ランクを決定する処理が行われる。なお、この表は、欠陥補正回路64自身若しくはCPU60に予め用意されている。
S153では、前ステップの処理によって決定された欠陥ランクにランク分けされている欠陥画素についての欠陥情報を欠陥メモリ63から取得する処理が行われる。
S154では、前ステップの処理によって取得された欠陥情報に示されている補正対象の欠陥画素についての隣接欠陥情報であって、CCD42の感度の設定内容に対応するもの(ノーマル隣接欠陥情報若しくは高感度隣接欠陥情報のいずれか)を参照する処理が行われ、続くS155において、参照中の隣接欠陥情報によって判明する補正対象の欠陥画素を取り囲む隣接画素のうち欠陥画素でないものについての輝度値を標本3の撮影画像データから取得し、前述した手法等により、補正対象の欠陥画素の補正値をその輝度値に基づいて算出する処理が行われる。
S156では、S152の処理によって決定された欠陥ランクにランク分けされている全ての補正対象の欠陥画素について補正値を得たか否かを判定する処理が行われ、全ての補正値を得た(判定結果がYes)ならばこの欠陥補正処理を終了する。一方、補正対象の欠陥画素のうち補正値を得ていないものが残されている(判定結果がYes)ならば、S154へと処理を戻して上述した処理が繰り返される。
以上のようにして、欠陥画素の補正が行われる。
次に、後発的に発生する画索欠陥の検出について説明する。
本実施形態に係る電子カメラ36は、工場出荷後の、ユーザの元等で後発的に発生する画素欠陥を新たに検出し、検出された画素欠陥についての欠陥情報を欠陥メモリ63へ追加する機能を搭載している。このような後発画素欠陥の検出時には、生産時の画素欠陥とは異なり、各ユーザの使用環境を幅広く想定する必要がある。CCDの後発画素欠陥は、暗電流に起因する温度依存性のある白キズの欠陥画素となる可能性が一般的に高いため、CCDの使用環境温度が通常想定されるもの(常温)よりもかなり低いときには画素欠陥を検出できないことがあり、この場合には後発画素欠陥が補正されずに標本画像に残ってしまうこととなる。
工場出荷後に後発的に発生した画素欠陥の欠陥メモリ63への追加記憶について、図9に示すフローチャートを用いて説明する。なお、この処理も、欠陥検出回路52と、所定の制御プログラムを実行させているCPU60とによる協働動作によって実現される。
まず、S201において、図1に示す顕微鏡システムに対し、後発画素欠陥の情報を検出する際の撮影条件の設定がCPU60によって行われる。具体的には、この設定は、冷却素子50を動作させてCCD42の温度を25℃で一定に保ち、CCD42の感度設定を前述したノーマルモードとし、露出時間を8秒(以下、「8s」と示す)に設定し、顕微鏡システムのヒームスプリッタ31を移動させて電子カメラ36を遮光状態にする。
なお、ここで、CCD42の温度を25℃で一定に保つ(恒温状態とする)のは、ユーザの使用環境の違いを極力排除して画素欠陥の発生する条件を一定にするためである。
次に、S202で欠陥メモリ63に記憶されている欠陥情報のうち、高感度欠陥についてものを削除する。すなわち、欠陥ランクがH1、H2、またはH3とランク分けされていた画素についての欠陥情報を削除する。
次に、S203において、S201で設定された撮影条件の下で遮光画像を新たに撮影する処理を電子カメラ36に行わせる。
S204では、S203で撮影した遮光画像の各画素の輝度値を先に図4に示した表の閾値と比較し、前述した図3のS103の処理と同様にして画素欠陥の検出及び検出された画素欠陥の程度をランク分けする。
S205では、S204で検出された欠陥画素についての画像上の位置を示すアドレスと、現在欠陥メモリ63に記憶されている初期状態において検出されていた欠陥画素についての画像上の位置を示すアドレスとを比較し、欠陥メモリ63に記憶されていなかった欠陥画素、すなわち後発的に発生した欠陥画素についてのアドレス及び欠陥ランクを欠陥メモリ63に追加して記憶させる。
S206では、欠陥メモリ63に記憶させた欠陥画素のうち、欠陥の程度が特に不良である、欠陥のランクがA1、A2、またはA3であるものに隣接した画素について、図5と同様にして高感度欠陥の発生を予測し、高感度欠陥の発生が予測された画素に対してH1、H2、若しくはH3のランク分けを施す。なお、このとき、図5に示されているものとは異なる基準でランク分けをしてもよい。
S207では、S206で予測された高感度欠陥の発生する画素の画像上の位置を示すアドレスと、欠陥メモリ63に記憶されている欠陥画素についてのアドレスとを比較してアドレスの重複を調べ、重複がある場合、すなわち同一の画素に対して2つの欠陥ランク分けがなされた場合には、既に欠陥メモリ63に記憶されていた欠陥ランクを優先して残すようにし、S208において、高感度欠陥が発生すると予測された画素のうち上述したアドレスの重複していなかったものについて、そのアドレスと高感度欠陥における欠陥のランクとを欠陥メモリ63に追加して記憶させる。
S209では、欠陥メモリ63に欠陥情報が記憶された欠陥画素の各々について、欠陥画素の隣接状態を調べ、S210において、その隣接状態を示す隣接情報として、前述したものと同様のノーマル隣接欠陥情報及び高感度隣接欠陥情報を、図6の表のように各欠陥画素に対応付けて欠陥メモリ63に更に記憶させる。
以上の処理により、欠陥メモリ63内の欠陥情報が、初期状態において検出された画素欠陥についてのものに、検出された後発画素欠陥についてのものを加えたものとなるので、欠陥補正回路64が前述したように機能することにより、後発画素欠陥についても補正がなされるようになる。
以上までに説明した実施の形態によれば、CCD42を通常感度で動作させたときに発生する画素欠陥についての欠陥情報に加えて、CCD42を高感度で動作させたときに発生する高感度欠陥についての画素欠陥についての欠陥情報も欠陥メモリ63に記憶されているので、高感度な撮影をCCD42で行っても、画素欠陥の補正が適切になされるので、CCD42を強力に冷却することなしに、適切な画像を得ることができる。
また、この実施の形態によれば、高感度モードでの画素欠陥の直接的な検出を行うことなく、ノーマルモードでの画素欠陥の検出を行うのみで、両方の動作モード(CCD42の感度設定)に対応した欠陥情報を得るようにしたので、画素欠陥の検出の作業に要する時間が短縮される。その結果、顕微鏡システムの工場出荷前における調整時間が短縮されるので生産コストが削減される。また、後発画索欠陥の検出時間の短縮によるユーザの使い勝手の向上も図られる。
以下、上述した実施の形態の変形例について説明する。
前述の実施の形態では、図6の表のように、欠陥画素の周囲の8つの隣接画素全てについての画素欠陥の状態を隣接欠陥情報として欠陥メモリ63に記憶させていた。この代わりに、画素欠陥の補正を行うときの補正パターンを予め決定しておき、その補正パターンに従って補正を行うために必要な画素を特定する情報のみを欠陥情報として欠陥メモリ63に記憶させるようにしてもよい。
まず、補正パターンを図10に例示する16パターンに予め決めておく。これらの補正パターンは、補正の対象である欠陥画素とこの欠陥画素についての輝度の補正値を算出する際に補正値算出の基礎とする輝度データを得る画素との位置関係を示している。
図10について、(1)のパターンを例に挙げて説明する。(1)の補正パターンは、補正対象の欠陥画素(以下、「対象画素」と称することとする)の上及び下の隣接画素の輝度値を使用して補正値を得ることを示しており、対象画素の位置を示している黒丸の上及び下の欄に各々記されている「1/2」の値は、対象画素の上の隣接画素の輝度値に1/2を乗じた値と、対象画素の下の隣接画素の輝度値に1/2を乗じた値とを加えたものを対象画素の補正値とすることを意味している。
図10に示した他の補正パターンも(1)のパターンと同様のものである。
この変形例では、前述した実施の形態における欠陥検出処理(図3)のS108及び後発欠陥検出処理(図9)のS209の各々において、欠陥画素の隣接状態を以下のように調べる。
今、対象画素の隣接画素を、図11(a)に示すように、P1〜P9と表現することとする。
まず、P2、P4、P6、及びP8の各々に画素欠陥があるかどうかを調べ、図11(b)の対応表においてこれらの隣接画素についての画素欠陥の有無に対応付けられている補正パターンを求め、得られた補正パターンの番号を欠陥情報とする。ここで、P2、P4、P6、及びP8の全てに画素欠陥が存在する場合には、P1、P3、P7、及びP9の各々に欠陥があるかどうかを更に調べ、図11(c)の対応表においてこれらの隣接画素についての画素欠陥の有無に対応付けられている補正パターンを求め、得られた補正パターンの番号を欠陥情報とする。
例を挙げて説明すると、例えば、P2、P6、P8に画素欠陥が存在する場合には、図11(b)の対応表における(P2,P4,P6,P8)=(1,0,1,1)の行が参照され、この行に示されている(4)の補正パターンが欠陥情報として選択されて設定される。図10において、この(4)の補正パターンを参照すると、この場合には、画素欠陥の存在しないP4の輝度値に1を乗じた値、すなわちP4の輝度値そのものを対象画素の補正値とする。
このように、補正パターンの番号を欠陥情報として欠陥メモリ63に記憶させておくようにすることにより、前述の実施形態ではノーマル隣接欠陥情報及び高感度隣接欠陥情報として欠陥画素毎に8bitずつのデータが必要であったものが、16パターンの補正パターンを識別するための4bitずつのデータにまで削減されるので、欠陥メモリ63の記憶容量を少なくすることができる。
なお、この場合、欠陥補正回路64は、欠陥メモリ63から補正パターンの番号を識別情報として受け取り、この識別情報で特定される補正パターンに従って画素欠陥の補正を行う。
ところで、CCD42がベイヤ方式の単板カラーCCDである場合には、画素欠陥の補正のための補正パターンを、対象画素が緑(Gr若しくはGb)成分の取得用のものの場合と赤(R)成分若しくは青(B)成分の取得用のものの場合とで異なるものを予め定義しておき、この両者を切り換えることにより、上述した変形例と同様の手法による画素欠陥の補正を行うことができる。
まず、対象画素が緑(GrまたはGb)成分の取得用のものである場合について説明する。
この場合には、補正パターンを図12に例示する15パターンに予め定義しておく。そして、前述した実施の形態における欠陥検出処理(図3)のS108及び後発欠陥検出処理(図9)のS209の各々において、緑成分取得用の欠陥画素の隣接状態を以下のように調べる。
ベイヤ配列においては、対象画素の隣接する画素であって緑成分の取得用のものは、図13(a)に示されているように配置されている。今、対象画素についての緑成分取得用の隣接画素を、図13(b)に示すように、G1〜G6と表現することとする。
まず、G1、G2、G3、及びG4の各々に画素欠陥があるかどうかを調べ、図13(c)の対応表においてこれらの隣接画素についての画素欠陥の有無に対応付けられている補正パターンを求め、得られた補正パターンの番号を欠陥情報とする。ここで、G1、G2、G3、及びG4の全てに画素欠陥が存在する場合には、G5及びG6の各々に欠陥があるかどうかを更に調べ、図13(d)の対応表においてこれらの隣接画素についての画素欠陥の有無に対応付けられている補正パターンを求め、得られた補正パターンの番号を欠陥情報とする。
一方、対象画素が赤(R)成分若しくは青(B)成分の取得用のものである場合について説明する。
この場合には、補正パターンを図14に例示する12パターンに予め定義しておく。そして、前述した実施の形態における欠陥検出処理(図3)のS108及び後発欠陥検出処理(図9)のS209の各々において、赤成分若しくは青成分取得用の欠陥画素の隣接状態を以下のように調べる。
ベイヤ配列においては、対象画素の隣接する画素であって赤成分若しくは青成分の取得用のものは、図15(a)に示されているように配置されている。
なお、以降の画素欠陥の補正の手法については、対象画素が赤成分取得用である場合と青成分取得用である場合とで同様であるので、ここでは対象画素が赤成分の取得用のものである場合のみを説明する。
今、対象画素の隣接する画素であって赤成分の取得用のものを、図15(b)に示すように、R1〜R4と表現することとする。
ここで、R1、R2、R3、及びR4の各々に画素欠陥があるかどうかを調べ、図15(c)の対応表においてこれらの隣接画素についての画素欠陥の有無に対応付けられている補正パターンを求め、得られた補正パターンの番号を欠陥情報とする。
このようにして補正パターンの番号を欠陥情報として欠陥メモリ63に記憶させておく。欠陥補正回路64は、欠陥メモリ63からこの補正パターンの番号を識別情報として受け取り、この識別情報で特定される補正パターンに従って欠陥補正を行う。
以上のようにすることにより、CCD42がベイヤ方式の単板カラーCCDである場合にも、欠陥メモリ63の記憶容量を少なくしつつ、画素欠陥の補正を行うことができる。
また、前述の実施の形態の更なる変形例として、CCD42の感度設定を前述したノーマルモードとして遮光画像を撮影したときに検出される画素欠陥のランク分けとして、図4に示した表を基準にして行う代わりに、図16に例示する表を基準として欠陥ランクSAを追加してもよい。
なお、この場合には、前述した高感度欠陥の発生予測を図5(a)に示した予測表に基づいて行う代わりに、図17(a)に示す予測表に基づいて行うようにし、欠陥ランクがSAと検出された欠陥画素については、その欠陥画素の周辺のより広い範囲に位置している画素に高感度欠陥が発生すると予測し、これらに対してH1〜H7のランク分けを図17(b)に示すように施すようにする。更に、この場合には、補正対象とする欠陥画素の選択を欠陥補正回路64が行うために、図7に示した表を使用する代わりに、図18に示した表を使用する。このようにすることにより、露出時間が極めて長い場合における高感度欠陥の補正が、前述の実施の形態におけるものよりも更に適切に行われる。
次に、本発明の別の実施の形態について説明する。なお、これより説明する実施の形態を今までに説明したものと区別するため、今までに説明した実施の形態を第一実施形態と称することとし、これより説明する実施形態を第二実施形態と称することとする。
第二実施形態に係る顕微鏡システムの構成は、図1及び図2に示した第一実施形態に係る顕微鏡システムの構成と同様であるので、その説明は省略する。また、この顕微鏡システムによる撮影から画像表示にかけての基本的な動作、及び電子カメラ36の動作モードをノーマルモード若しくは高感度モードとしたときのCCD42の動作も第一実施形態におけるものと同様であるので、これらの説明についても省略する。
第二実施形態においては、CCD42の画素欠陥についての欠陥情報の検出、及びその欠陥情報を用いて行う画素欠陥の補正の手法が異なるので、その部分について説明する。
第二実施形態において、欠陥補正回路64は、図19に示すように、ノーマル欠陥追加回路65、高感度欠陥追加回路66、及び欠陥画素置換回路67を備えて構成される。
次に、初期状態、すなわち工場出荷前において行われる、CCD42の欠陥情報の欠陥メモリ63への記憶について、図20に示すフローチャートを用いて説明する。なお、この処理は、欠陥検出回路52と、所定の制御プログラムを実行させているCPU60とによる協働動作によって実現される。
まず、S301において、第二実施形態に係る顕微鏡システムに対し、欠陥情報を検出する際の撮影条件の設定がCPU60によって行われる。具体的には、この設定は、冷却素子50によるCCD42の冷却をオフとし、CCD42の感度設定を前述したノーマルモードとし、露出時間を8秒(以下、「8s」と示す)に設定し、顕微鏡システムのヒームスプリッタ31を移動させて電子カメラ36を遮光状態にする。
なお、ここで、CCD42の冷却をオフとしてCCD42の温度を上昇させるのは、画素欠陥を発生させやすくするためであり、理論上、より長い露出時間に対応した画素欠陥を発生させるためである。
次に、S302において、S301で設定された撮影条件の下で遮光画像を撮影する処理を電子カメラ36に行わせる。
S303では、S302で撮影した遮光画像の各画素の輝度値を図4に示した表の閾値と比較し、第二実施形態の場合と同様(図3のS103)に、画素欠陥の検出、及び検出された画素欠陥の程度をランク分けする。そして、S304において、S303で検出された欠陥画素について、画像上の位置を示すアドレス及び欠陥のランクを欠陥メモリ63に記憶させる。
第二実施形態においては、初期状態において行うCCD42の欠陥情報の欠陥メモリ63への記憶の処理は以上であり、高感度欠陥の発生が予測される画素の情報や欠陥画素の隣接状態を示す情報は欠陥メモリ63へ記憶されない。
その後、第二実施形態において、図1に示す顕微鏡システムを使用して実際に標本3の画像撮影を行う際には、欠陥補正回路64が、この欠陥情報と図7に示されている表とに基づき、補正対象とする欠陥画素の選択とその補正とを行う。
欠陥補正回路64に入力された画像データは、まずノーマル欠陥追加回路65へ入力される。
ノーマル欠陥追加回路65では、まず、図7に例示する表を参照し、第一実施形態において欠陥補正回路64が行う場合と同様に、ランク分けされている欠陥画素のうち、どのランクのものに対してまで補正を行うのかをCCD42に対する感度設定と撮影時の露出時間とに基づいて選択する。
ここで、電子カメラ36がノーマルモードに設定されている場合には、ノーマル欠陥追加回路65は、図7の表に基づいて補正対象として選択された欠陥ランクである欠陥画素の全ての輝度値を、本来輝度値としては取り得ない値である「−127」へと置き換える。なお、この場合には高感度欠陥追加回路66は特段の機能を行わない。
一方、電子カメラ36が高感度モードに設定されている場合には、ノーマル欠陥追加回路65は、欠陥メモリ63に記憶されている欠陥情報に基づき、選択された欠陥ランクにランク分けされている欠陥画素を抽出し、抽出された欠陥画素の輝度値を各々の欠陥ランクに応じ、図21(a)に示すような、本来輝度値としては取り得ない値である「−126」〜「−121」へと置き換える。
なお、これらの「−127」〜「−121」の値は欠陥画素の欠陥ランクを表すために便宜的に使用する数値であるので、輝度値と混同することのない他のデータを使用してもよい。
更に、電子カメラ36が高感度モードに設定されている場合には、高感度欠陥追加回路66において、欠陥ランクがA1、A2、若しくはA3である欠陥画素、すなわち、輝度値が「−126」、「−125」、若しくは「−124」とされている欠陥画素に対し、図21の(b)、(c)、及び(d)にそれぞれ例示する置換パターンに従い、その欠陥ランクに応じ、その補正対象である欠陥画素及びその隣接画素の輝度値を「−127」と置き換える。このようにして輝度値が置き換えられた隣接画素は、高感度欠陥の発生が予測された画素である。
なお、電子カメラ36が高感度モードに設定されている場合であって欠陥ランクがB、C、若しくはDである欠陥画素、すなわち輝度値が「−123」、「−122」、若しくは「−121」とされている画素の場合には、高感度欠陥追加回路66は、その欠陥画素のみの輝度値を「−127」と置き換える。
次に、欠陥画素置換回路67において、補正対象の欠陥画素の周囲の横5行×横5列の画素について、図21の(e)に例示した順序で、輝度値が「−127」でない、すなわち画素欠陥のない画素を探し出す。ここで、画素欠陥のない画素が見つかったときには、その画素の輝度値を順次加算していく。そして、欠陥画素のない画素を4個見つけ出したときの輝度値の総和を4で除算して得られる、これらの画素の輝度の平均値を、補正対象画素の補正値とする。
以上のようにして、第二実施形態における欠陥補正回路64によって、補正対象とする欠陥画素の選択とその補正とが行われる。
ここで図22について説明する。同図は、第二実施形態における欠陥補正処理の処理内容をフローチャートで示したものである。この処理は、この処理は、欠陥補正回路64と、所定の制御プログラムを実行させているCPU60とによる協働動作によって実現され、標本3の撮影画像データが画像メモリ46から欠陥補正回路64へと送られてくると開始される。
まず、S351では、CCD42の感度の設定内容と撮影時における露出時間の設定内容とを示す情報をCPU60から取得する処理が行われる。
S352では、補正対象とする欠陥ランクの決定に用いられる表(図7に例示した表)が参照され、その表において前ステップの処理によって取得した情報に対応付けられている、補正対象とする欠陥画素の欠陥ランクを決定する処理が行われる。なお、この表は、欠陥補正回路64自身若しくはCPU60に予め用意されている。
S353では、標本3の撮影画像データを構成する画素のうち、補正対象とする欠陥画素、すなわち前ステップの処理によって決定された欠陥ランクにランク分けされている欠陥画素についての欠陥情報を欠陥メモリ63から取得する処理が行われる。
S354では、CCD42の感度の設定(電子カメラ36に対してノーマルモード・高感度モードのいずれの設定がされているか)を判定する処理が行われ、高感度に設定されている(判定結果がYes)ならばS356に、通常感度に設定されている(判定結果がNo)ならばS355に、それぞれ処理を進める。
S355では、補正対象である全ての欠陥画素の輝度値を「−127」に置き換える処理が行われ、その後はS360へと処理を進める。
S356では、欠陥メモリ63から取得した欠陥情報に基づき、補正対象である欠陥画素の輝度値を各々の欠陥ランクに応じ、図21(a)に示すように、「−126」〜「−121」のうちのいずれかの値に置き換える処理が行われる。
S357では、標本3の撮影画像データを構成する画素において、輝度値が「−126」〜「−124」のうちのいずれかの値とされているものが存在するか否かを判定する処理が行われ、そのような画素が存在するとき(判定結果がYesのとき)にのみ、S358において、図21の(b)、(c)、及び(d)にそれぞれ例示する置換パターンに従い、補正対象である欠陥画素の欠陥ランクに応じて選択される、その欠陥画素の隣接画素の輝度値を「−127」と置き換えてその隣接画素を補正対象とする処理が行われる。
S359では、補正対象である全ての欠陥画素の輝度値を「−127」に置き換える処理が行われる。
S360では、変数K及びAの各々に対し、初期値「0」を代入する処理が行われる。
S361では、補正対象である欠陥画素の周囲の画素のうちのひとつを指定した順序、例えば図21の(e)に示した順序に従って参照し、その画素の輝度値を取得する処理が行われる。
S362では、前ステップの処理によって取得された輝度値が「−127」であるか否かを判定する処理が行われ、輝度値が「−127」である(判定結果がYes)ならばS361へと処理を戻し、次の順序の画素の輝度値を取得する処理が繰り返される。一方、取得された輝度値が「−127」でない(判定結果がNo)ならばS363に処理を進める。
S363では、変数Kの値をインクリメントする処理、すなわち、変数Kの現在の値に「1」を加算した結果を改めて変数Kに代入する処理が行われる。
S364では、直前のS361の処理によって取得された輝度値と、変数Aの現在の値との加算結果を改めて変数Aに代入する処理が行われる。
S365では、変数Kの値が「4」に達したか否かを判定する処理が行われ、達していた(判定結果がYes)ならばS366に処理を進める。一方、未だ達していない(判定結果がNo)ならばSS361へと処理を戻し、次の順序の画素の輝度値を取得する処理が繰り返される。
S366では、変数Aの現在の値を「4」で除算した結果の値を、現在の補正対象である欠陥画素の輝度値の補正値とする処理が行われる。
S367では、全ての補正対象の欠陥画素について補正値を得たか否かを判定する処理が行われ、全ての補正値を得た(判定結果がYes)ならばこの欠陥補正処理を終了する。一方、補正対象の欠陥画素のうち補正値を得ていないものが残されている(判定結果がYes)ならば、S360へと処理を戻して、残りの欠陥画素についての補正値を取得する処理が繰り返される。
以上のようにして、欠陥画素の補正が行われる。
以上説明したように、第二実施形態によれば、高感度欠陥の発生が予測される画素の情報や欠陥画素の隣接状態を示す情報を欠陥メモリ63への記憶を行わず、CCD42を通常感度の設定で使用した場合における欠陥情報に基づいて予測し、その予測結果に基づいて欠陥画素の補正を行うので、補正する欠陥の数を増やすことができ、また、欠陥メモリ63自体の記憶容量を減らすことでコストダウンを図ることができる。
次に本発明の第三実施形態について説明する。
第三実施形態に係る顕微鏡システムの構成は、図1及び図2に示した第一実施形態に係る顕微鏡システムの構成と同様であるので、その説明は省略する。また、この顕微鏡システムによる撮影から画像表示にかけての基本的な動作、及び電子カメラ36の動作モードをノーマルモード若しくは高感度モードとしたときのCCD42の動作も第一実施形態におけるものと同様であるので、これらの説明についても省略する。
第三実施形態においては、前述した第一実施形態に対し、欠陥情報の検出部分が異なるので、その部分について図23に示すフローチャートを参照しながら説明する。
図23は、初期状態、すなわち工場出荷前において行われる、CCD42の欠陥情報の欠陥メモリ63への記憶の手順を示している。なお、この処理は、欠陥検出回路52と、所定の制御プログラムを実行させているCPU60とによる協働動作によって実現される。
まず、S401において、図1に示す顕微鏡システムに対し、欠陥情報を検出する際の撮影条件の設定がCPU60によって行われる。具体的には、この設定は、冷却素子50によるCCD42の冷却をオフとし、CCD42の感度設定を前述したノーマルモードとし、露出時間を8秒(以下、「8s」と示す)に設定し、顕微鏡システムのヒームスプリッタ31を移動させて電子カメラ36を遮光状態にする。
なお、ここで、CCD42の冷却をオフとしてCCD42の温度を上昇させるのは、画素欠陥を発生させやすくするためであり、理論上、より長い露出時間に対応した画素欠陥を発生させるためである。
次に、S402において、S401で設定された撮影条件の下で遮光画像を撮影する処理を電子カメラ36に行わせる。
S403では、S402で撮影した遮光画像の各画素の輝度値を図4に示した表の閾値と比較し、画素欠陥の検出、及び検出された画素欠陥の程度をランク分けする。
S404では、S403で検出された欠陥画素について、画像上の位置を示すアドレス及び欠陥のランク、並びにノーマルモードにおける隣接状態を調べ、続くS405において、これらの情報を欠陥情報として欠陥メモリ63に記憶させる。
S406では、CCD42の感度設定を前述した高感度モードに変更した上で遮光画像を撮影する処理を電子カメラ36に行わせる。
S407では、S406で撮影した遮光画像の各画素の輝度値を図24に示した表の閾値と比較し、高感度欠陥である画素欠陥の検出、及び検出された画素欠陥の程度をランク分けする。
S408では、S407で検出された高感度欠陥の発生する画素の画像上の位置を示すアドレスと、S404で欠陥メモリ63に記憶させた欠陥画素についてのアドレスとを比較してアドレスの重複を調べ、重複がある場合、すなわち同一の画素に対して2つの欠陥ランク分けがなされた場合には、ノーマルモードでランク分けされた欠陥ランクを優先して残すようにする。
S409では、高感度欠陥の発生が検出された画素のうち上述したアドレスの重複していなかったものについて、そのアドレスと高感度欠陥における欠陥のランクとを欠陥メモリ63に記憶させる。
S410では、欠陥メモリ63に欠陥情報が記憶された高感度欠陥である欠陥画素の各々について、欠陥画素の隣接状態を調べ、S411において、その隣接状態を示す隣接情報を各欠陥画素に対応付けて欠陥メモリ63に更に記憶させる。
なお、隣接情報は、図6に示したような、第一実施形態におけるものと同様のものでよい。
以上の処理により、CCD42の欠陥情報が欠陥メモリ63へ工場出荷前に記憶される。その後、図1に示す顕微鏡システムを使用して実際に標本3の画像撮影を行う際には、欠陥補正回路64が、補正対象とする欠陥画素の選択とその補正とを行う。この手法は、例えば第一実施形態におけるものと同様のものでよいが、このときの欠陥画素の選択及びその補正は、図7に示されている表に代えて、図25に例示した表に基づいて行うようにする。
以上のように、第三実施形態においては、ノーマルモードでの画素欠陥と同様に高感度欠陥の発生を実際に検出し、その検出結果に基づいて得られた欠陥情報を欠陥メモリ63に記憶させるようにしたことにより、高感度欠陥の補正がより適切に行えるようになる。
なお、図3、図8、図9、図20、図22、及び図23の各々にフローチャートで示した処理をコンピュータの有しているCPUに行わせるための制御プログラムをコンピュータ読み取り可能な記録媒体に記録させておき、そのプログラムをその記録媒体からコンピュータに読み込ませてCPUで実行させるようにすることにより、図1に示した顕微鏡システムの制御をコンピュータに行わせるようにして本発明を実施することもできる。
記録させた制御プログラムをコンピュータで読み取ることの可能な記録媒体としては、例えば、コンピュータに内蔵若しくは外付けの付属装置として備えられるROMやハードディスク装置などの記憶装置、フレキシブルディスク、MO(光磁気ディスク)、CD−ROM、DVD−ROMなどといった、コンピュータに設けられている媒体駆動装置によって読み取り可能な携帯可能記録媒体等が利用できる。
また、このような記録媒体はネットワーク回線を介してコンピュータと接続される、プログラムサーバとして機能するコンピュータが備えている記憶装置であってもよい。この場合には、制御プログラムを表現するデータ信号で搬送波を変調して得られる伝送信号を、プログラムサーバから伝送媒体であるネットワーク回線を通じてコンピュータへ伝送するようにし、コンピュータでは受信した伝送信号を復調して制御プログラムを再生することでこの制御プログラムをコンピュータ内のCPUで実行できるようになる。
その他、本発明は、上述した実施形態に限定されることなく、本発明の要旨を逸脱しない範囲内で種々の改良・変更が可能である。

(付記1)撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報を記憶する第一の記憶手段と、
前記撮像素子を前記第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報を記憶する第二の記憶手段と、
前記撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて前記通常欠陥情報若しくは前記高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す補正手段と、
を有することを特徴とする画像補正装置。
(付記2)前記撮像素子によって撮像された遮光画像に基づいて当該撮像素子についての画素欠陥に関する情報を取得する欠陥情報取得手段を更に有することを特徴とする付記1に記載の画像補正装置。
(付記3)前記通常欠陥情報は、前記第一の受光感度に設定した前記撮像素子によって撮像された遮光画像に基づいて前記欠陥情報取得手段により取得された情報であり、
前記高感度欠陥情報は、前記通常欠陥情報に基づいた予測によって得られた情報である、
ことを特徴とする付記2に記載の画像補正装置。
(付記4)前記高感度欠陥情報は、前記通常欠陥情報で画素欠陥の存在が示されている画素の周囲に位置している画素において、画素欠陥が生じるか否かを画素毎に予測して得られた情報を有することを特徴とする付記3に記載の画像補正装置。
(付記5)前記高感度欠陥情報は、前記通常欠陥情報のうちの画素欠陥の程度を画素毎に示す情報に基づいた予測によって得られた情報であることを特徴とする付記3に記載の画像補正装置。
(付記6)前記通常欠陥情報における画素欠陥の程度を示す情報は、当該画素欠陥の程度に応じて段階的にランク分けがされており、
前記高感度欠陥情報は、画素欠陥の程度を示す前記ランクに基づいた予測によって得られた情報である、
ことを特徴とする付記5に記載の画像補正装置。
(付記7)前記通常欠陥情報と前記高感度欠陥情報との両者間における同一の画素についての画素欠陥に関する情報の重複を解消する重複解消手段を更に有することを特徴とする付記1に記載の画像補正装置。
(付記8)前記欠陥情報取得手段によって新たに取得された情報に基づいて、前記第一の記憶手段若しくは前記第二の記憶手段に記憶されている情報を更新する欠陥情報更新手段を更に有することを特徴とする付記2に記載の画像補正装置。
(付記9)前記撮像素子を所定の温度に保持する恒温手段を更に有することを特徴とする付記8に記載の画像補正装置。
(付記10)前記補正手段は、前記撮像素子による画像の撮像時における撮像条件に基づき、前記補正の対象とする画素欠陥の程度を決定することを特徴とする付記1に記載の画像補正装置。
(付記11)前記撮像条件は前記撮像時における露出時間であることを特徴とする付記10に記載の画像補正装置。
(付記12)前記補正手段は、前記補正の対象である画素の周囲に位置している画素であって画素欠陥を有していないものを前記通常欠陥情報若しくは前記高感度欠陥情報に基づいて特定し、特定された画素についての輝度情報に基づいて当該補正の対象である画素に対する補正を施すことを特徴とする付記1に記載の画像補正装置。
(付記13)前記通常欠陥情報及び前記高感度欠陥情報は、前記補正の対象である画素と当該補正の基礎とする前記輝度情報を得る画素との位置関係を特定する位置関係情報を有し、
前記補正手段は、前記位置関係情報によって特定される画素についての輝度情報に基づいて当該補正の対象である画素に対する補正を施す、
ことを特徴とする付記12に記載の画像補正装置。
(付記14)前記撮像素子は、ベイヤ配列を利用したカラー画像の撮像を行い、
前記位置関係情報は、前記位置関係を、予め複数定義されている位置関係パターンからの選択によって特定し、
前記位置関係パターンは、前記カラー画像における緑色成分を取得する画素についてのものと、赤色成分若しくは青色成分を取得する画素についてのものとで異なるものが定義されている、
ことを特徴とする付記13に記載の画像補正装置。
(付記15)前記通常欠陥情報は、前記第一の受光感度に設定した前記撮像素子によって撮像された遮光画像に基づいて前記欠陥情報取得手段により取得された情報であり、
前記高感度欠陥情報は、前記第二の受光感度に設定した前記撮像素子によって撮像された遮光画像に基づいて前記欠陥情報取得手段により取得された情報である、
ことを特徴とする付記2に記載の画像補正装置。
(付記16)撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報を記憶する記憶手段と、
前記撮像素子を前記第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報を、前記通常欠陥情報に基づいた予測によって生成する高感度欠陥情報予測手段と、
前記撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて前記通常欠陥情報若しくは前記高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す補正手段と、
を有することを特徴とする画像補正装置。
(付記17)前記第一の受光感度に設定した前記撮像素子によって撮像された遮光画像に基づいて前記通常欠陥情報を取得する通常欠陥情報取得手段を更に有することを特徴とする付記16に記載の画像補正装置。
(付記18)前記高感度欠陥情報予測手段は、前記通常欠陥情報で画素欠陥の存在が示されている画素の周囲に位置している画素において、画素欠陥が生じるか否かを画素毎に予測して前記高感度欠陥情報を生成することを特徴とする付記16に記載の画像補正装置。
(付記19)前記高感度欠陥情報予測手段は、前記通常欠陥情報のうちの画素欠陥の程度を画素毎に示す情報に基づいた予測によって前記高感度欠陥情報を生成することを特徴とする付記16に記載の画像補正装置。
(付記20)前記通常欠陥情報における画素毎の画素欠陥の程度を示す情報は、当該画素欠陥の程度に応じて段階的にランク分けがされており、
前記高感度欠陥情報予測手段は、画素欠陥の程度を示す前記ランクに基づいた予測によって前記高感度欠陥情報を生成する、
ことを特徴とする付記19に記載の画像補正装置。
(付記21)前記補正手段は、前記撮像素子による画像の撮像時における撮像条件に基づき、前記補正の対象とする画素欠陥の程度を決定することを特徴とする付記16に記載の画像補正装置。
(付記22)前記撮像条件は前記撮像時における露出時間であることを特徴とする付記21に記載の画像補正装置。
(付記23)撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報と、当該撮像素子を当該第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報とを記憶部に記憶させておき、
前記撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて前記通常欠陥情報若しくは前記高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す、
ことを特徴とする画像補正方法。
(付記24)撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報を記憶部に記憶させておき、
前記撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて、当該撮像素子を前記第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報を、前記通常欠陥情報に基づいた予測によって生成すると共に、当該通常欠陥情報若しくは当該高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す、
ことを特徴とする画像補正方法。
(付記25)撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報と、当該撮像素子を当該第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報とを記憶部に記憶させる処理と、
前記撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて前記通常欠陥情報若しくは前記高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す処理と、
をコンピュータに行わせるためのプログラム。
(付記26)撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報を記憶部に記憶させる処理と、
前記撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて、当該撮像素子を前記第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報を、前記通常欠陥情報に基づいた予測によって生成すると共に、当該通常欠陥情報若しくは当該高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す処理と、
をコンピュータに行わせるためのプログラム。
本発明を実施する顕微鏡システムの構成を示す図である。 図1における電子カメラの構成を示す図である。 欠陥検出処理の処理内容を示すフローチャートである。 通常感度における画素欠陥のランク表の例を示す図である。 高感度欠陥の予測を説明する図である。 欠陥情報の例を示す図である。 補正対象とする欠陥ランクを決定する表の例を示す図である。 欠陥補正処理の処理内容を示すフローチャートである。 後発欠陥検出処理の処理内容を示すフローチャートである。 補正パターンの例を示す図である。 欠陥画素の隣接状態と補正パターンとの対応を説明する図である。 緑成分用の補正パターンの例を示す図である。 緑成分についての欠陥画素の隣接状態と補正パターンとの対応を説明する図である。 赤成分及び青成分用の補正パターンの例を示す図である。 赤成分及び青成分についての欠陥画素の隣接状態と補正パターンとの対応を説明する図である。 通常感度における画素欠陥のランク表の第二の例を示す図である。 図16の表を用いた場合における高感度欠陥の予測を説明する図である。 図16の表を用いた場合における補正対象とする欠陥ランクを決定する表の例を示す図である。 第二実施形態における欠陥補正回路の構成を示す図である。 第二実施形態における欠陥検出処理の処理内容を示すフローチャートである。 第二実施形態における欠陥補正回路の動作を説明する図である。 第二実施形態における欠陥補正処理の処理内容を示すフローチャートである。 第三実施形態における欠陥検出処理の処理内容を示すフローチャートである。 高感度モードにおける画素欠陥のランク表の例を示す図である。 第三実施形態における補正対象とする欠陥ランクを決定する表の例を示す図である。 CCD撮像素子の素子構造の一例を示す平面図である。 CCDの断面図である。 フォトダイオードの深さ方向のポテンシャルの変化を示す図である。 基板バイアス発生回路の構成例を示す図である。 画素欠陥を補正する画像補間処理の例を説明する図である。 白点ノイズの依存性の例を示す図である。
符号の説明
S、S’、S” 観察光路
1 顕微鏡本体
3 標本
5 三眼鏡筒ユニット
6 接眼レンズユニット
6a 接眼レンズ
12 落射照明光学系
21 落射照明用光源
26 試料ステージ
27 対物レンズ
28 レボルバ
30 キューブユニット
31 ビームスプリッタ
32 ダイクロイックミラー
36 電子カメラ
37 顕微鏡駆動回路
41 顕微鏡コントロール部
42 固体撮像素子(CCD)
43 CDS回路
44 増幅器
45 A/D変換器
46 画像メモリ
47 温度センサ
48 CCDSUB電圧切り換え回路
49 SUBパルス重畳回路
50 冷却素子
51 画像信号処理回路
52 遮光もれ検出回路
53 タイミングジェネレータ(TG)
54 シグナルジェネレータ(SG)
55 メモリコントローラ
56 DRAM
57 圧縮伸張回路
58 記録媒体
59 液晶ディスプレイ(LCD)
60 CPU
61 操作部
62 欠陥検出回路
63 欠陥メモリ
64 欠陥補正回路
65 ノーマル欠陥追加回路
66 高感度欠陥追加回路
67 欠陥画素置換回路
100 結像レンズユニット
100a 結像レンズ
200 基板バイアス発生回路
201 フォトダイオード
202 垂直転送路
203 水平転送路
204 信号検出器
205 アンプ
206 内部VSUB発生回路
300 n型半導体基板
301 第一領域
302 第二領域
303 光電変換領域(電荷蓄積部)
304 理込みチャネル
305 転送電極
306 絶縁層
307 チャネルストップ領域
308 トランスファーゲート(TG)領域
309 金属層
311 基板バイアス電圧VSUB

Claims (12)

  1. 撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報を記憶する第一の記憶手段と、
    前記撮像素子を前記第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報を記憶する第二の記憶手段と、
    前記撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて前記通常欠陥情報若しくは前記高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す補正手段と、
    を有することを特徴とする画像補正装置。
  2. 前記撮像素子によって撮像された遮光画像に基づいて当該撮像素子についての画素欠陥に関する情報を取得する欠陥情報取得手段を更に有することを特徴とする請求項1に記載の画像補正装置。
  3. 前記補正手段は、前記撮像素子による画像の撮像時における撮像条件に基づき、前記補正の対象とする画素欠陥の程度を決定することを特徴とする請求項1に記載の画像補正装置。
  4. 前記補正手段は、前記補正の対象である画素の周囲に位置している画素であって画素欠陥を有していないものを前記通常欠陥情報若しくは前記高感度欠陥情報に基づいて特定し、特定された画素についての輝度情報に基づいて当該補正の対象である画素に対する補正を施すことを特徴とする請求項1に記載の画像補正装置。
  5. 撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報を記憶する記憶手段と、
    前記撮像素子を前記第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報を、前記通常欠陥情報に基づいた予測によって生成する高感度欠陥情報予測手段と、
    前記撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて前記通常欠陥情報若しくは前記高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す補正手段と、
    を有することを特徴とする画像補正装置。
  6. 前記第一の受光感度に設定した前記撮像素子によって撮像された遮光画像に基づいて前記通常欠陥情報を取得する通常欠陥情報取得手段を更に有することを特徴とする請求項5に記載の画像補正装置。
  7. 前記高感度欠陥情報予測手段は、前記通常欠陥情報で画素欠陥の存在が示されている画素の周囲に位置している画素において、画素欠陥が生じるか否かを画素毎に予測して前記高感度欠陥情報を生成することを特徴とする請求項5に記載の画像補正装置。
  8. 前記高感度欠陥情報予測手段は、前記通常欠陥情報のうちの画素欠陥の程度を画素毎に示す情報に基づいた予測によって前記高感度欠陥情報を生成することを特徴とする請求項5に記載の画像補正装置。
  9. 撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報と、当該撮像素子を当該第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報とを記憶部に記憶させておき、
    前記撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて前記通常欠陥情報若しくは前記高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す、
    ことを特徴とする画像補正方法。
  10. 撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報を記憶部に記憶させておき、
    前記撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて、当該撮像素子を前記第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報を、前記通常欠陥情報に基づいた予測によって生成すると共に、当該通常欠陥情報若しくは当該高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す、
    ことを特徴とする画像補正方法。
  11. 撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報と、当該撮像素子を当該第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報とを記憶部に記憶させる処理と、
    前記撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて前記通常欠陥情報若しくは前記高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す処理と、
    をコンピュータに行わせるためのプログラム。
  12. 撮像素子を第一の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である通常欠陥情報を記憶部に記憶させる処理と、
    前記撮像素子による画像の撮像時における当該撮像素子に対する受光感度の設定に応じて、当該撮像素子を前記第一の受光感度よりも高感度である第二の受光感度に設定したときの当該撮像素子についての画素欠陥に関する情報である高感度欠陥情報を、前記通常欠陥情報に基づいた予測によって生成すると共に、当該通常欠陥情報若しくは当該高感度欠陥情報を用い、当該撮像素子の画素欠陥の補正を当該画像に対して施す処理と、
    をコンピュータに行わせるためのプログラム。

JP2004126222A 2004-04-22 2004-04-22 画像補正装置、画像補正方法、及びプログラム Expired - Fee Related JP4391876B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004126222A JP4391876B2 (ja) 2004-04-22 2004-04-22 画像補正装置、画像補正方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004126222A JP4391876B2 (ja) 2004-04-22 2004-04-22 画像補正装置、画像補正方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2005311732A JP2005311732A (ja) 2005-11-04
JP4391876B2 true JP4391876B2 (ja) 2009-12-24

Family

ID=35439984

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004126222A Expired - Fee Related JP4391876B2 (ja) 2004-04-22 2004-04-22 画像補正装置、画像補正方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP4391876B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013046827A1 (ja) * 2011-09-29 2013-04-04 富士フイルム株式会社 画像処理装置、方法、プログラム及び記録媒体並びに撮像装置
JP5472358B2 (ja) * 2012-04-06 2014-04-16 富士通セミコンダクター株式会社 フィルタ回路

Also Published As

Publication number Publication date
JP2005311732A (ja) 2005-11-04

Similar Documents

Publication Publication Date Title
JP4668183B2 (ja) 撮像デバイスにおける暗電流及び欠陥画素の影響を減少させる方法及び装置
US10998356B2 (en) Solid-state imaging device and driving method thereof, and electronic apparatus
KR20080103454A (ko) 고체 촬상 장치, 고체 촬상 장치의 신호 처리 장치 및 신호처리 방법과 촬상 장치
JP2011216966A (ja) 固体撮像素子および固体撮像素子の駆動方法、並びに電子機器
JP2013145779A (ja) 固体撮像装置及び電子機器
US8203629B2 (en) Image sensing apparatus and correction method
US9456155B2 (en) Image processing apparatus, method, and program, and image pickup apparatus having image processing apparatus
JP2009049858A (ja) 撮像装置
JPWO2007066628A1 (ja) 外観検査装置
JP2015056710A (ja) 撮像装置、およびその制御方法、プログラム、記憶媒体
JP4667322B2 (ja) 信号処理装置、撮像システム及び信号処理方法
JP4481073B2 (ja) 画像補正装置、画像補正方法、及びプログラム
JP4391876B2 (ja) 画像補正装置、画像補正方法、及びプログラム
JP2006033036A (ja) 撮像装置
JP2005175930A (ja) 撮像装置及びその信号処理方法と撮像システム
JP2004015191A (ja) 固体撮像素子の欠陥補正装置及び方法
JP2016197826A (ja) 撮像装置および撮像制御プログラム
JP2010093759A (ja) 撮像センサ及び撮像装置
JP4532135B2 (ja) 撮像装置
JP4812247B2 (ja) 撮像装置
JP2006197229A (ja) 撮像装置およびカメラ
JP4391878B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2001230976A (ja) 画像撮像装置、画像撮像方法、およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体
CN110050342A (zh) 摄像元件以及焦点调节装置
JP2002034048A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070423

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090903

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090915

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091008

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121016

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4391876

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121016

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131016

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees