JP2019186631A - 撮像装置および撮像方法 - Google Patents
撮像装置および撮像方法 Download PDFInfo
- Publication number
- JP2019186631A JP2019186631A JP2018071934A JP2018071934A JP2019186631A JP 2019186631 A JP2019186631 A JP 2019186631A JP 2018071934 A JP2018071934 A JP 2018071934A JP 2018071934 A JP2018071934 A JP 2018071934A JP 2019186631 A JP2019186631 A JP 2019186631A
- Authority
- JP
- Japan
- Prior art keywords
- focus lens
- image
- focus
- lens position
- shading
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 89
- 238000003705 background correction Methods 0.000 claims abstract description 59
- 230000004907 flux Effects 0.000 claims abstract description 10
- 238000012937 correction Methods 0.000 claims description 30
- 230000003287 optical effect Effects 0.000 claims description 22
- 238000003702 image correction Methods 0.000 claims description 21
- 238000012545 processing Methods 0.000 description 47
- 238000000034 method Methods 0.000 description 22
- 230000008569 process Effects 0.000 description 12
- 238000006243 chemical reaction Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 11
- 230000004048 modification Effects 0.000 description 9
- 238000012986 modification Methods 0.000 description 9
- 230000006835 compression Effects 0.000 description 6
- 238000007906 compression Methods 0.000 description 6
- 238000005286 illumination Methods 0.000 description 4
- 230000003321 amplification Effects 0.000 description 2
- 239000003990 capacitor Substances 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 238000007493 shaping process Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Landscapes
- Studio Devices (AREA)
- Exposure Control For Cameras (AREA)
- Focusing (AREA)
- Automatic Focus Adjustment (AREA)
Abstract
【課題】シェーディング特性を簡易かつ高精度に推定し、画像のシェーディングを補正することをできるようにした撮像装置、撮像方法、およびプログラムを提供する。【解決手段】被写体光束を電気信号に変換し画像データを取得し(S1、S5、S9、S21)、画像データに基づいて、フォーカスレンズが被写体に合焦する第1のフォーカスレンズ位置と、第1のフォーカスレンズ位置とは異なる第2のフォーカスレンズ位置を算出し(S17、S27)、第1のフォーカスレンズ位置へフォーカスレンズの駆動を制御し、取得した画像をベストフォーカス画像とし(S23)、第2のフォーカスレンズ位置へフォーカスレンズの駆動を制御し、取得した画像をデフォーカス画像とし(S31)、デフォーカス画像からシェーディング補正値を生成し、ベストフォーカス画像をシェーディング補正値で補正する(S33)。【選択図】 図5
Description
本発明は、撮像部によって撮影対象物を撮像する際に発生するシェーディングを補正できるようにした撮像装置および撮像方法に関する。
撮像部によって取得した入力画像には、被写体を照明する照明装置の配光によってシェーディング(輝度むら)が、発生することがある。このシェーディングを除去するための画像処理方法が種々提案されている。例えば、特許文献1には、画像を複数エリアに分割し、エリア毎にゲイン量を記憶しておき、このゲイン量で入力画像データを補正することが提案されている。
また、温度等の環境を一定に維持する恒温槽やインキュベータ等の内部に観察装置を長期間配置し、培養容器内の細胞等の試料を撮像部によって観察することが知られている。この装置によれば、インキュベータ内部に長期期間の間、試料を配置し、外部からの操作によって観察することができる。
インキュベータ等の内部に培養容器を配置し、細胞等の試料を観察する場合には、室内が暗いため、照明装置によって照明を行う。このとき、傾斜照明にて細胞の凹凸を見やすくするが、光源の向きや、光源の位置や指向性等の条件によって、画像にシェーディングが発生する。一般に、細胞の凹凸(コントラスト差)を利用することにより、細胞の数や密度を算出できる。しかし、シェーディングが発生してしまうと、細胞の数等の算出の精度が低下してしまう。特許文献1に開示のシェーディングの補正方法では、ゲイン量を記憶しておく必要があり、ここの照明状況に対応させるのが困難である。また、撮影画像をフィルタでぼかす方法があるが、細胞画像の凹凸の影響を除去するには、平滑化度合の高いフィルタ回路が必要となり、処理が複雑になってしまう。
本発明は、このような事情を鑑みてなされたものであり、シェーディング特性を簡易かつ高精度に推定し、画像のシェーディングを補正することをできるようにした撮像装置、撮像方法、およびプログラムを提供することを目的とする。
上記目的を達成するため第1の発明に係る撮像装置は、被写体を結像させるためのフォーカスレンズを含む光学部材を備えた撮像装置において、上記光学部材を通過した被写体光束を電気信号に変換し画像データを取得する撮像部と、上記画像データに基づいて、上記フォーカスレンズが上記被写体に合焦する第1のフォーカスレンズ位置と、上記第1のフォーカスレンズ位置とは異なる第2のフォーカスレンズ位置を算出し、上記第1のフォーカスレンズ位置もしくは上記第2のフォーカスレンズ位置に基づき上記フォーカスレンズの駆動を制御するフォーカスレンズ制御部と、上記画像データからシェーディング特性を推定し、該シェーディング特性からシェーディング補正値を算出する補正値生成部と、上記画像データを、上記算出したシェーディング補正値によって補正する画像補正部と、を具備し、フォーカスレンズ制御部は、上記第1のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第1のフォーカスレンズ位置において上記撮像部で取得した画像をベストフォーカス画像とし、一方、フォーカスレンズ制御部は、上記第2のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第2のフォーカスレンズ位置において上記撮像部で取得した画像をデフォーカス画像とし、上記補正値生成部は、上記デフォーカス画像を用いて上記シェーディング補正値を生成し、上記画像補正部は、上記ベストフォーカス画像を上記シェーディング補正値によって補正する。
第2の発明に係る撮像装置は、上記第1の発明において、上記撮像部は、駆動モードとして、少なくともスチル撮影用のスチル撮像駆動モードと、ライブビュー表示用のLV撮像駆動モードとを有し、上記撮像部が、上記LV撮像駆動モードで駆動されている場合に、上記撮像部が取得した画像の中からデフォーカス画像を決定する。
第3の発明に係る撮像装置は、上記第1または第2の発明において、上記フォーカスレンズの各フォーカスレンズ位置において上記画像データを用いてコントラスト値を算出し、該コントラスト値とフォーカスレンズ位置からコントラストカーブを生成するコントラスト値算出部を有し、上記フォーカスレンズ制御部は、該コントラストカーブに基づいて上記第2のフォーカスレンズ位置を算出する。
第3の発明に係る撮像装置は、上記第1または第2の発明において、上記フォーカスレンズの各フォーカスレンズ位置において上記画像データを用いてコントラスト値を算出し、該コントラスト値とフォーカスレンズ位置からコントラストカーブを生成するコントラスト値算出部を有し、上記フォーカスレンズ制御部は、該コントラストカーブに基づいて上記第2のフォーカスレンズ位置を算出する。
第4の発明に係る撮像装置は、上記第3の発明において、上記フォーカスレンズ制御部は、上記コントラストカーブに対し、上記コントラスト値が所定の閾値以下のフォーカスレンズ位置に基づき、上記第2のフォーカスレンズ位置を算出する。
第5の発明に係る撮像装置は、上記第3の発明において、上記フォーカスレンズ制御部は、第2のフォーカスレンズ位置を算出する際に、算出基準となる基準位置を予め設定しておき、上記基準位置から上記第1のフォーカスレンズ位置までの間を上記フォーカスレンズの駆動を制御しながら、上記撮像部で取得した画像データに基づいて算出された上記コントラストカーブの最小値を検出し、そのフォーカスレンズ位置を上記第2のフォーカスレンズ位置とする。
第5の発明に係る撮像装置は、上記第3の発明において、上記フォーカスレンズ制御部は、第2のフォーカスレンズ位置を算出する際に、算出基準となる基準位置を予め設定しておき、上記基準位置から上記第1のフォーカスレンズ位置までの間を上記フォーカスレンズの駆動を制御しながら、上記撮像部で取得した画像データに基づいて算出された上記コントラストカーブの最小値を検出し、そのフォーカスレンズ位置を上記第2のフォーカスレンズ位置とする。
第6の発明に係る撮像装置は、上記第1の発明において、上記フォーカスレンズ制御部は、上記第2のフォーカスレンズ位置を、上記第1のフォーカスレンズ位置から、予め決められたデフォーカス量だけ離れた位置に決定する。
第7の発明に係る撮像装置は、上記第1の発明において、上記フォーカスレンズ制御部は、スチル撮影の開始後に、ベストフォーカス画像およびデフォーカス画像を取得する。
第7の発明に係る撮像装置は、上記第1の発明において、上記フォーカスレンズ制御部は、スチル撮影の開始後に、ベストフォーカス画像およびデフォーカス画像を取得する。
第8の発明に係る撮像装置は、上記第1ないし第7の発明において、上記補正値生成部は、上記シェーディング特性から、ゲイン値を算出し、該ゲイン値を上記シェーディング補正値とする。
第9の発明に係る撮像装置は、上記第1ないし第7の発明において、上記補正値生成部は、上記デフォーカス画像を構成する画素データの中で、最大値を検出し、該最大値と各画素データの比に基づいてゲイン値を算出し、このゲイン値を上記シェーディング補正値とする。
第9の発明に係る撮像装置は、上記第1ないし第7の発明において、上記補正値生成部は、上記デフォーカス画像を構成する画素データの中で、最大値を検出し、該最大値と各画素データの比に基づいてゲイン値を算出し、このゲイン値を上記シェーディング補正値とする。
第10の発明に係る撮像装置は、被写体を結像させるためのフォーカスレンズを含む光学部材を備えた撮像装置において、上記光学部材を通過した被写体光束を電気信号に変換し、画像データを出力する撮像部と、上記画像データに基づいて、上記フォーカスレンズが上記被写体に合焦する第1のフォーカスレンズ位置と、上記第1のフォーカスレンズ位置とは異なる第2のフォーカスレンズ位置を算出し、上記第1のフォーカスレンズ位置もしくは上記第2のフォーカスレンズ位置に基づき上記フォーカスレンズの駆動を制御するフォーカスレンズ制御部と、上記画像データに基づいてシェーディング特性を推定するシェーディング推定部と、上記シェーディング特性を用いてゲイン値を算出するゲイン生成部と、上記画像データを、上記算出したゲイン値によって補正する画像補正部と、を具備し、フォーカスレンズ制御部は、上記第1のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第1のフォーカスレンズ位置において上記撮像部で取得した画像をベストフォーカス画像とし、一方、フォーカスレンズ制御部は、上記第2のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第2のフォーカスレンズ位置において上記撮像部で取得した画像をデフォーカス画像とし、上記シェーディング推定部は、上記デフォーカス画像に基づいてシェーディング特性を推定し、上記画像補正部は、上記ベストフォーカス画像を上記ゲイン値によって補正する。
第11の発明に係る撮像方法は、被写体を結像させるためのフォーカスレンズを含む光学部材を備えた撮像装置における撮像方法において、上記光学部材を通過した被写体光束を電気信号に変換し画像データを取得し、上記画像データに基づいて、上記フォーカスレンズが上記被写体に合焦する第1のフォーカスレンズ位置と、上記第1のフォーカスレンズ位置とは異なる第2のフォーカスレンズ位置を算出し、上記第1のフォーカスレンズ位置もしくは上記第2のフォーカスレンズ位置に基づき上記フォーカスレンズの駆動を制御し、さらに、上記第1のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第1のフォーカスレンズ位置において取得した画像をベストフォーカス画像とし、一方、上記第2のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第2のフォーカスレンズ位置において取得した画像をデフォーカス画像とし、上記デフォーカス画像から上記シェーディング補正値を生成し、上記ベストフォーカス画像を上記シェーディング補正値で補正する。
第12の発明に係るプログラムは、被写体を結像させるためのフォーカスレンズを含む光学部材を備えた撮像装置内に設けられたコンピュータを実行させるためのプログラムにおいて、上記光学部材を通過した被写体光束を電気信号に変換し画像データを取得し、上記画像データに基づいて、上記フォーカスレンズが上記被写体に合焦する第1のフォーカスレンズ位置と、上記第1のフォーカスレンズ位置とは異なる第2のフォーカスレンズ位置を算出し、上記第1のフォーカスレンズ位置もしくは上記第2のフォーカスレンズ位置に基づき上記フォーカスレンズの駆動を制御し、さらに、上記第1のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第1のフォーカスレンズ位置において取得した画像をベストフォーカス画像とし、一方、上記第2のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第2のフォーカスレンズ位置において取得した画像をデフォーカス画像とし、上記デフォーカス画像から上記シェーディング補正値を生成し、上記ベストフォーカス画像を上記シェーディング補正値で補正することを上記コンピュータに実行させる。
本発明によれば、シェーディング特性を簡易かつ高精度に推定し、画像のシェーディングを補正することをできるようにした撮像装置、撮像方法、およびプログラムを提供することができる。
以下、本発明の好ましい実施形態として細胞観察システムに適用した例について説明する。本実施形態に係る細胞観察システムは、撮像部を備えたカメラを有している。このカメラは、画像を生成するためのフォーカスレンズと、このフォーカスレンズのピント合わせを行うための焦点調節機構を有している。また、このカメラは、撮像部によって取得された画像データのコントラスト値(フォーカス位置情報)を算出し、コントラスト値に基づいてベストフォーカス位置(例えば、図6のベストフォーカス位置Pb等参照)を求め、この位置でベストフォーカス画像を取得する(例えば、図5のS23等参照)。さらに、ベストフォーカス位置とは異なる他の位置(例えば、図6のデフォーカス位置Pd等参照)で、デフォーカス画像を取得する(例えば、図5のS31等参照)。デフォーカス画像を用いて、シェーディング補正を行うための補正値を算出し(例えば、図7のS55等参照)、ベストフォーカス画像と補正値を用いて、シェーディング補正された画像を生成する(例えば、図7のS55等参照)。
図1は、第1実施形態に係る細胞観察システム1の使用状態を示し、図2は、細胞観察システム1の断面図を示す。細胞観察システム1は、パーソナルコンピュータ(PC)5と接続されており、PC5からの操作によって制御される。図1においては、細胞観察システム1とPC5は有線通信によって接続されているが、無線通信によって接続するようにしてもよい。細胞を観察する際には、検体(細胞)4をシャーレ等の容器3に入れ、容器3を細胞観察システムの天板1a上に載置する。
細胞観察システム1の内部には、カメラヘッド10が配置され、カメラヘッド10は二次元方向に移動することができ、位置を変えながら検体4を観察することができる。カメラヘッド10内には、小型のカメラ本体11と光源装置13が配置されている。光源装置13は、容器3に向けて投光することができる。この投光は容器3の蓋3aによって反射され、検体(細胞)4を透過し、カメラ本体11は、透過光を撮影する。
光源装置13は、意図的に斜めから検体4に向けて照射させる構成になっており、細胞の陰影を見え易くしている。しかし、斜めからの照射するため、例えば、図3に示すように、撮影画像に光の配光ムラ(この配光ムラがシェーディング)が発生してしまう。シェーディングが発生すると、細胞観察および分析を行う際に必要となる細胞数の算出(セルカウント)や、細胞密度の算出に影響を与えてしまう。
また、検体4を照射する光源は図示しない位置にも複数配置されている。容器3の形状やカメラヘッド11の位置に応じて、光源が切り替えられることに加え、容器3の蓋の傾きも影響し、撮影画像のシェーディング特性を予め規定することは困難である。そこで、本実施形態においては、デフォーカス画像からシェーディング特性を推定し、撮影画像を補正するようにしている。
図4は、カメラ本体11の主として電気的構成を示すブロック図である。撮影レンズ101は、被写体像を形成するための光学レンズであって、単焦点レンズまたはズームレンズを有している。この撮影レンズ101の光軸の後方には、絞り103が配置されている。絞り103は、口径が可変であり、撮影レンズ101を通過した被写体光束の光量を制限する。
また、撮影レンズ101はドライバ105によって光軸方向に移動することができる。従って、撮影レンズ101のフォーカス位置は、マイクロコンピュータ131からの制御信号に基づいてドライバ105によって制御される。撮影レンズ101がズームレンズの場合には、焦点距離が手動又は電動によって調節できる。このドライバ105は、絞り103の口径の制御も行う。撮影レンズ101は、被写体を結像させるためのフォーカスレンズを含む光学部材としての機能を有する。
また、撮影レンズ101の光軸上には、メカニカルシャッタ106が配置されている。このメカニカルシャッタ106は、被写体光束の通過時間を制御し、公知のレンズシャッタまたはフォーカルプレーンシャッタが採用される。このメカニカルシャッタ106の後方であって、撮影レンズ101によって被写体像が形成される位置には、撮像素子107が配置されている。
撮像素子107には、各画素を構成するフォトダイオードが二次元的にマトリックス状に配置されている。各フォトダイオードは受光量に応じた光電変換電流を発生し、この光電変換電流は各フォトダイオードに接続するキャパシタによって電荷蓄積される。キャパシタに蓄積された電荷は、撮像制御回路によって読み出され、アナログ処理回路109に出力される。撮像素子107は、光学部材を通過した被写体光束を電気信号に変換し画像データを取得する撮像部として機能する。
撮像素子107の蓄積電荷の読出の駆動モードには、スチル撮影用のスチル撮像駆動モードと、ライブビュー表示用のLV撮像駆動モードの2種類、用意されている。LV撮像駆動モードは、画素からの出力を混合して読出し(各画素から読出し後、混合してもよい)、この読出しをフレームレートに応じた時間毎に繰り返す。スチル撮像駆動モードは、静止画撮影の際に、画素からの出力を混合することなく、画素毎の出力を読み出す。撮像部は、駆動モードとして、少なくともスチル撮影用のスチル撮像駆動モードと、ライブビュー表示用のLV撮像駆動モードとを有する(例えば、図5のS1、S21参照)。また、撮像部が、LV撮像駆動モードで駆動されている場合に、撮像部が取得した画像の中からデフォーカス画像を決定する(例えば、第2実施形態に係る図8のS14参照)。
アナログ処理部109は、アナログ処理回路を有する。アナログ処理部109は、撮像素子107から読み出された光電変換信号(アナログ画像信号)に対し、リセットノイズ等を低減した上で波形整形を行い、適切な輝度になるように増幅処理を施す。ISO感度の調整は、このアナログ処理部109においてアナログ画像信号のゲイン(増幅率)を調整することにより制御する。
アナログ処理部109はA/D変換部111に接続されている。A/D変換部111は、A/D変換回路を有し、アナログ画像信号をアナログ―デジタル変換し、デジタル画像信号(以後、画像データという)をバス125に出力する。
バス125は、カメラ本体11の内部で読み出され若しくは生成された各種データをカメラ本体11の内部に転送するための転送路である。バス125には、前述のA/D変換部111の他、露出制御部113、フォーカス処理部115、シェーディング推定部117、ゲイン生成部119、画像補正部121、画像処理部123、マイクロコンピュータ131、フラッシュメモリ135、SDRAM(Synchronous Dynamic Random Access Memory)137、画像圧縮部139、メモリインターフェース(以後、メモリI/Fという)141が接続されている。
露出制御部113は、被写体輝度を測定し、バス125を通じて輝度値をマイクロコンピュータ131に出力する。被写体輝度測定のために専用の測光センサを設けても良いが、本実施形態においては、撮像素子107から出力された画像データを用いて被写体輝度を算出する。露出制御部113は、測定した輝度値に基づいて、シャッタ速度値、絞り値、およびISO感度等の露出制御値を算出し、絞り103、シャッタ106等を制御するようにしてもよい。また、マイクロコンピュータ131が露出制御値を算出し、絞り103、シャッタ106等の制御を行うようにしてもよい。
フォーカス制御部115は、コントラスト値算出回路を有し、撮像素子107から出力された画像データを用いて、コントラスト値を算出する。このコントラスト値は、撮像素子107における各隣接画素の画素データの差分値をそれぞれ算出し、全画素についての差分値を積算した値である。コントラスト値は、本明細書においては、フォーカス位置情報ともいう。撮影レンズ101内のフォーカスレンズを移動させながら、画像データを取得してコントラスト値を算出する。フォーカスレンズのフォーカス位置とコントラスト値との対応をコントラストカーブとして生成する。コントラストカーブに基づいて、被写体の合焦位置を算出することができる。フォーカス制御部115は、フォーカスレンズの各フォーカスレンズ位置において画像データを用いてコントラスト値を算出し、このコントラスト値とフォーカスレンズ位置からコントラストカーブを生成するコントラスト値算出部として機能する。
シェーディング推定部117は、シェーディング推定回路を有し、撮影された画像の空間的な画素値の変化からシェーディング特性を推定する。ゲイン生成部119は、ゲイン生成回路を有し、シェーディング推定部117によって得られたシェーディング特性に基づいて、シェーディングを補正するための補正ゲインを画素ごと或いは領域分割した領域毎に算出する。本実施形態においては、シェーディング特性と、補正ゲインは、図7に示すフローチャートに従って算出する。本実施形態においては、デフォーカス画像における画素データの中の最大値を検出し、この最大値と各画素値の比を算出している(図7のS55参照)。この比は、シェーディング特性を示し、また同時にシェーディング補正を行うための補正値(補正ゲイン値)でもある。なお、シェーディング推定部(シェーディング推定回路)およびゲイン生成部(ゲイン生成回路)は、図4に示すように2つに分けてもよく、また一体化してもよい。さらに、マイクロコンピュータ131によってソフトウエアによって実現するようにしてもよい。
シェーディング推定部117およびゲイン生成部119は、画像データからシェーディング特性を推定し、このシェーディング特性からシェーディング補正値を算出する補正値生成部として機能する(例えば、図5のS33、図7のS41〜S59参照)。補正値生成部は、デフォーカス画像を用いてシェーディング補正値を生成する(例えば、図7のS53、S55参照)。補正値生成部は、シェーディング特性から、ゲイン値を算出し、このゲイン値をシェーディング補正値とする。補正値生成部は、デフォーカス画像を構成する画素データの中で、最大値を検出し(例えば、図7のS45、S47参照)、この最大値と各画素データの比に基づいてゲイン値を算出し(例えば、図7のS55)、このゲイン値をシェーディング補正値とする(例えば、図7のS59参照)。
シェーディング推定部117は、画像データに基づいてシェーディング特性を推定するシェーディング推定部として機能する。シェーディング推定部は、デフォーカス画像に基づいてシェーディング特性を推定する。ゲイン生成部119は、シェーディング特性を用いてゲイン値を算出するゲイン生成部として機能する。
画像補正部121は、A/D変換部111から出力される画像データを入力し、この画像データに、ゲイン生成部119によって生成された補正ゲインを乗算する。この演算によって、画像データに対してシェーディング補正がなされる。画像補正部121は、画像データを、算出したシェーディング補正値によって補正する画像補正部として機能する(例えば、図7のS59参照)。画像補正部は、ベストフォーカス画像をシェーディング補正値によって補正する(例えば、図7のS57、S59参照)。画像補正部121は、算出したゲイン値によって補正する画像補正部として機能する(例えば、図7のS59参照)。画像補正部は、ベストフォーカス画像をゲイン値によって補正する(例えば、図7のS57、S59参照)。
画像処理部123は、画像補正部121によってシェーディング補正が施された画像データに対して、種々の画像処理を施す。また、画像処理部123は、種々の画像処理として、ホワイトバランス処理、同時化処理、色再現処理、階調補正処理、ノイズリダクション処理等を施す。画像処理部123によって処理された画像データは、バス125に出力され、SDRAM137に一時記憶される。
前述の露出制御部113は露出制御回路を有し、フォーカス制御部115はコントラスト値算出回路を有し、シェーディング推定部117はシェーディング推定回路を有し、ゲイン生成部119はゲイン生成回路を有し、画像補正部121は画像補正回路を有し、画像処理部123は、画像処理回路を有している。これらの回路は、ASIC(Application Specific Integrated Circuit)やDSP(Digital Signal Processor)等、種々のハードウエアで構成される。しかし、ハードウエア回路以外にも、回路の一部または全部をマイクロコンピュータ131において、プログラムコードに従って処理するようにしてもよい。
マイクロコンピュータ131は、このカメラ全体の制御部(コントローラ、プロセッサ)としての機能を果たし、後述するフラッシュメモリ135に記憶されているプログラムに従って、カメラ本体11内の各部を制御することにより、カメラ全体の各種シーケンスを制御する。
マイクロコンピュータ131は、画像データに基づいて、フォーカスレンズが被写体に合焦する第1のフォーカスレンズ位置(例えば、図6、図10、および図13のベストフォーカス位置Pb参照)と、第1のフォーカスレンズ位置とは異なる第2のフォーカスレンズ位置(例えば、図6のデフォーカス位置Pd、図10のデフォーカス位置Pd、図13のデフォーカス位置Pd参照)を算出し、第1のフォーカスレンズ位置もしくは第2のフォーカスレンズ位置に基づきフォーカスレンズの駆動を制御するフォーカスレンズ制御部として機能する(例えば、図5のS17、S27参照)。また、フォーカスレンズ制御部は、第1のフォーカスレンズ位置へフォーカスレンズの駆動を制御し、第1のフォーカスレンズ位置において撮像部で取得した画像をベストフォーカス画像とし、一方、フォーカスレンズ制御部は、第2のフォーカスレンズ位置へフォーカスレンズの駆動を制御し、上記第2のフォーカスレンズ位置において上記撮像部で取得した画像をデフォーカス画像とする(例えば、図5のS23、S31参照)。
フォーカスレンズ制御部は、第2のフォーカスレンズ位置を、第1のフォーカスレンズ位置から、予め決められたデフォーカス量だけ離れた位置に決定する(例えば、図5のS27、図6のデフォーカス量De、デフォーカス位置Pd参照)。また、フォーカスレンズ制御部は、スチル撮影の開始後に、ベストフォーカス画像およびデフォーカス画像を取得する(例えば、図5のS19、S23、S31参照)。
フォーカスレンズ制御部は、コントラストカーブに基づいて第2のフォーカスレンズ位置を算出する(例えば、第2実施形態に係る図8のS14、図9のS85参照)。フォーカスレンズ制御部は、コントラストカーブに対し、コントラスト値が所定の閾値以下のフォーカスレンズ位置に基づき、第2のフォーカスレンズ位置を算出する(例えば、第2実施形態に係る図8のS14、図10のデフォーカス位置Pd参照)。また、フォーカスレンズ制御部は、第2のフォーカスレンズ位置を算出する際に、算出基準となる基準位置(例えば、図13の天板位置Pt)を予め設定しておき、基準位置から第1のフォーカスレンズ位置までの間をフォーカスレンズの駆動を制御しながら、撮像部で取得した画像データに基づいて算出されたコントラストカーブの最小値を検出し、そのフォーカスレンズ位置(例えば、図13のデフォーカス位置Pd)を第2のフォーカスレンズ位置とする(例えば、第2実施形態の変形例に係る図12、図13のデフォーカス位置Pd参照)。
マイクロコンピュータ131は、外部インターフェース(IF)133に接続されている。外部IF133は、外部に配置されたPC5と接続されており、外部PC5からの制御命令を受信し、マイクロコンピュータ131に出力する。また、外部IF133は、マイクロコンピュータ131が取得した画像データ等の情報や、その他の情報をPC5に出力する。
フラッシュメモリ135は、電気的に書き換えることのできる不揮発性メモリであり、マイクロコンピュータ131の各種シーケンスを実行するためのプログラムを記憶している。マイクロコンピュータ131は、前述したように、このプログラムに基づいて当該カメラの制御を行う。また、フラッシュメモリ135には、フォーカスレンズをデフォーカス位置に移動させるためのデフォーカス量Deが記憶されている(図5のS25、図6のデフォーカス量De参照)。
SDRAM137は、画像データ等の一時記憶用の電気的に書き換えることのできる揮発性メモリである。大容量のデータを記憶できれば、SDRAM以外のメモリであってもよい。このSDRAM137は、A/D変換部111から出力された画像データや、画像処理部123や画像圧縮部139等において処理された画像データを一時記憶する。
画像圧縮部139は、画像データの記録媒体143への記録時に、SDRAM137から画像データを読み出し、この読み出した画像データをJPEG圧縮方式等の圧縮方式に従って圧縮し、この圧縮した画像データを記録媒体143等に記録する。
メモリI/F141は、記録媒体143に接続されており、画像データ等を、記録媒体143に書き込みおよび読出しの制御を行う。記録媒体143は、カメラ本体11に脱着することができるメモリであるが、これに限らず、ハードディスク等、カメラ本体に内蔵のメモリであってもよい。
次に、図5および図7に示すフローチャートを用いて、本実施形態におけるシェーディング補正について説明する。このフロー(図7、および後述する第2実施形態に係る図8、図9、図11、および図12に示すフローチャートも同様)は、マイクロコンピュータ131が、フラッシュメモリ135に記憶されたプログラムに従ってカメラ内の各部を制御することにより実行する。
図5に示すフローがスタートすると、まず、ライブビュー(LV)撮像を開始する(S1)。ここでは、外部PC5から、カメラ本体11に対して、スタート命令を受信すると、撮像素子107が画像データの取得を開始する。ライブビュー画像は動画であり、シャッタ106を開放状態とし、所定のフレームレートで撮像素子107から画像データが読み出される。ライブビュー画像の画素数は、静止画像よりも画素数が少ない。
LV撮像を開始すると、次に、フォーカス動作がオンか否かを判定する(S3)。外部PC5から、フォーカス動作の指示を受けると、カメラ本体11の撮影レンズ101フォーカス動作を開始する。このステップでは、外部PC5から指示を受信したか否かに基づいて判定する。なお、予めフラッシュメモリ135に、撮影経路、撮影タイミング等のスケジュールを記憶しておく場合には、このスケジュールに従って、フォーカス動作を開始するようにしてもよい。
ステップS3における判定の結果、フォーカス動作をオンしない場合には、ライブビュー画像を取得する(S5)。ここでは、撮像素子107によって画像データを取得し、画像処理部123によって画像データに画像処理を施してから、外部PC5に出力する。外部PC5のモニタに、ライブビュー画像を表示することができる。ライブビュー画像は、撮像素子107のフレームレートに応じた時間間隔で、更新される。
一方、ステップS3における判定の結果、フォーカス動作がオンの場合には、まず、フォーカス動作の初期位置を設定する(S7)。フォーカスレンズは検体(細胞)4にピントを合わせることから、検体4の通常のフォーカス位置付近を初期位置とする。マイクロコンピュータ131はドライバ105によって、フォーカスレンズを初期位置に移動させる。
続いて、ライブビュー画像を取得する(S7)。ここでは、ステップS5と同様に、撮像素子107によって画像データを取得し、画像処理部123によって画像データに画像処理を施してから、外部PC5に出力する。外部PC5のモニタに、ライブビュー画像を表示することができる。
ライブビュー画像を取得すると、次に、フォーカス位置情報を算出する(S13)。ここでは、フォーカス制御部115が、画像データに基づいて、フォーカス位置情報(コントラスト値)を算出する。このフォーカス位置情報は、フォーカスレンズのピント状態を示す。
フォーカス位置情報を算出すると、ベストフォーカスか否かの判定を行う(S13)。ベストフォーカス位置は、フォーカス位置情報(コントラスト値)がピークとなる位置である。ベストフォーカス位置について、図6を用いて説明する。図6の横軸はフォーカスレンズの位置を示し、縦軸はフォーカス位置情報(コントラスト値)を示す。フォーカスレンズの位置を移動させながら、フォーカス位置情報をプロットすると、図6に示すように、位置Pbにおいてピークとなる。このピークとなる位置Pbがベストフォーカス位置である。具体的には、前回の取得画像データから算出したフォーカス位置情報と、今回の取得画像データから算出したフォーカス位置情報を比較し、フォーカス位置情報が増加から減少に転じると、ベストフォーカスと判定する。
ステップ13における判定の結果、ベストフォーカスでない場合には、フォーカスレンズの位置を変更する(S15)。ここでは、マイクロコンピュータ131は、ドライバ105によって、フォーカスレンズの位置を移動させる。フォーカスレンズの位置が変更されると、ステップS9に戻り、ステップS11においてフォーカス位置情報を算出し、ベストフォーカスか否かを判定する。
ステップS13において、ベストフォーカスと判定すると、フォーカスレンズ位置を修正する(S17)。ベストフォーカスと判定された時点では、フォーカス位置情報が増加から減少に転じていることから、ベストフォーカス位置を通り過ぎている。そこで、このステップでは、フォーカスレンズをベストフォーカス位置に移動させる。ベストフォーカス位置の修正は、ベストフォーカス前後の3点でのフォーカス位置情報を用いて、補間演算等、公知の演算式に基づいて行う。
ステップS17においてフォーカスレンズ位置の修正を行うと、またはステップS5においてライブビュー画像を取得すると、次に、スチル撮影がオンか否かを判定する(S19)。ユーザが外部PCのモニタを観察し、静止画の撮影を指示した場合、または外部PC5またはカメラ本体11において、予め撮影位置、撮影タイミング等のスケジュールが記憶され、この撮影位置等のスケジュールの条件を満たした場合、スチル撮影(静止画撮影)を実行する。このステップでは、これらの条件を満たしたか否かについて判定する。この判定の結果、スチル撮影がオンでない場合には、ステップS3に戻り、前述の処理を実行する。
ステップS19における判定の結果、スチル撮影がオンの場合には、スチル撮像駆動を開始する(S21)。ここでは、静止画の画像を取得するために、撮像モードをライブビューモードから静止画モードに変更する。
続いて、ベストフォーカス画像を取得する(S23)。ここでは、フォーカスレンズは、ベストフォーカス位置、すなわち合焦位置にあり、この位置で撮像素子107から画像データを取得する。画像データを取得すると、SARAM137に一時記憶する。
ベストフォーカス画像を取得すると、次に、デフォーカス量の読み込みを行う(S25)。本実施形態においては、シェーディング補正を行うために、デフォーカス画像を用いる(S31、S33、図7のS43、S53参照)。デフォーカス画像を撮像するためのフォーカスレンズの位置は、ベストフォーカス位置から予め決められているデフォーカス量Deだけ離れた位置(至近側の位置)としている(図6参照)。このステップでは、フラッシュメモリ135に記憶されているデフォーカス量Deを読み出す。デフォーカス量Deは、ベストフォーカス位置(合焦位置)に近いと、細胞の構造が残ってしまうためシェーディング補正には相応しくなく、また、合焦位置から相当遠いと、シェーディング自体も大きくボケてしまうため、シェーディング補正には相応しくない。従って、デフォーカス量Deは、これらの点を鑑みてシェーディング補正を行うに相応しい画像が得られる程度の値とることが好ましい。設計の際に、予め想定する細胞の毎に複数パターン設けておき、実際に観察する細胞に応じて(細胞のコントラスト量に応じて)使い分けても良い。
デフォーカス量を読み込むと、次に、デフォーカス位置を算出する(S27)。ここでは、ステップS25において読み出したデフォーカス量Deと、ステップS17において算出したベストフォーカスレンズ位置Pbを用いて、デフォーカス位置Pd(図6参照)を算出する。
デフォーカス位置を算出すると、次に、フォーカスレンズ位置を修正する(S29)。ここでは、マイクロコンピュータ131は、ドライバ105によって、ステップS27において算出したデフォーカス位置Pdに、フォーカスレンズを移動させる。
フォーカスレンズがデフォーカス位置Pdに移動すると、デフォーカス画像を取得する(S31)。ここでは、フォーカスレンズは、デフォーカス位置、すなわち非合焦位置にあり、この位置で撮像素子107から画像データを取得する。画像データを取得すると、SARAM137に一時記憶する。
デフォーカス画像を取得すると、次に、シェーディング補正を行う(S33)。ここでは、シェーディング推定部117、ゲイン生成部119、および画像補正部121が、ステップS23において取得したベストフォーカス画像に対して、ステップS31において取得したデフォーカス画像を用いて、シェーディング補正を行う。シェーディング補正の詳しい動作については、図7を用いて後述する。
シェーディング補正を行うと、次に画像処理を行う(S35)。このステップでは、画像処理部123が、シェーディング補正された画像に対して、種々の画像処理を施す。画像処理を施した画像を、外部PC5に送信および/または記録媒体143に記録すると、このフローを終了する。なお、複数個所で、スチル撮影を行う場合には、ステップS1に戻り、前述の動作を繰り返す。
次に、図7に示すフローチャートを用いて、ステップS33のシェーディング補正の詳しい動作について説明する。シェーディング補正のフローが開始すると、まず、最大値(m)=0に初期化する(S41)。最大値(m)は、撮像素子107の画素データの最大値を検出するために、最大の画素値を記憶するメモリである。
次に、デフォーカス画像の画素値(k)を読み込む(S43)。前述したように、ステップ31(図5参照)において、デフォーカス画像を取得し、SDRAM137に一時記憶している。このステップでは、指定された画素アドレスのデフォーカス画像の画素データを読み込む。
デフォーカス画像の画像値(k)を読み込むと、次に、k>mか否かを判定する(S45)。ここではステップS43で読み込んだ画素値(k)と、最大値(m)を比較する。この比較の結果、k>mであれば、m=kとする(S47)。ステップS43を実行する毎に、ステップS51において、画素位置が更新されることから、新たな画素アドレスにおけるデフォーカス画像の画素値(k)が読み出され、そのときにメモリに記憶されていた最大値(m)と比較する。比較の結果、画素値(k)が最大値(m)より大きければ、最大値(m)が比較対象の画素値(k)に置き換えられる。これを繰り返すことにより、最大値(m)が更新されていく。
ステップS47において、m=kとすると、またはステップS45における判定の結果、k>mでなかった場合には、全画素についてスキャンが完了したか否かを判定する(S49)。ステップS43において、順次、デフォーカス画像の画素値が読み出されている。このステップでは、全ての画素値が読み出され、ステップS45における比較がなされたか否かが判定される。なお、スキャンとは、画像データの画素値を順次読み出すことをいう。
ステップS49における判定の結果、全画素についてスキャンされていない場合には、デフォーカス画像の画素位置を更新する(S51)。デフォーカス画像の画素値は、所定の順番に従って、順次読出しを行う。このステップでは、所定の順番に従って、次の画素位置を指定する。画素位置を更新すると、ステップS43に戻り、前述の処理を実行する。
ステップS49における判定の結果、全画素についてスキャンが完了すると、次に、デフォーカス画像の画素値(k)を読み込む(S53)。ここでは、ステップS43と同様に、指定アドレスのデフォーカス画像の画素データを読み込む。
デフォーカス画像の画素値(k)を読み込むと、次に、ゲインをGain=m/kにより算出する(S55)。ここでは、シェーディング推定部117およびゲイン生成部119が、ステップS45、S47において求めた画素値の最大値(m)を、ステップS53で読み出した画素値(k)で除算することにより、ゲインGainを算出する。デフォーカス画像は、シェーディングの影響を強く受けた画像であり、画素値の中の最大値を、各画素値(k)で除算したゲインGainは、シェーディングの特性曲線と等価といえる。なお、デフォーカス画像をシェーディング特性として取得する場合には、シェーディング推定部117とゲイン生成部119を一体化させ、シェーディングに基づくゲインとして一度にゲイン生成を行う。また、デフォーカス像を取得し、簡易な処理を行った結果をシェーディング特性として利用する場合には、シェーディング推定部117とゲイン生成部119を分けてゲイン生成を行う。
ゲインを生成すると、次に、ベストフォーカス画像の画素値(X)を読み込む(S57)。ここでは、ステップS23(図5参照)において取得し、SDRAM137に一時記憶されたベストフォーカス画像から、指定アドレスの画素値(X)を読み出す。この指定アドレスは、ステップS53において、読み出したデフォーカス画像の画素のアドレスと同じアドレスにする。
ベストフォーカス画像の画素値(X)を読み出すと、次に、X*Gainを算出することにより画素補正を行う(S59)。ここでは、ステップS57において、読み出したベストフォーカス画像の画素値(X)に、ステップS55において算出したゲインGainを乗算する。前述したように、ゲインGainは、シェーディング特性曲線と等価であり、各画素値(X)にゲインGainを乗算することにより、画素毎にシェーディング補正を行うことができる。
画素補正を行うと、次に、全画素スキャンが完了したか否かについて判定する(S61)。このステップでは、全てのデフォーカス画像の画素値(k)と、全てのベストフォーカス画像の画素値(X)が読み出され、画素補正がなされたか否かが判定される。
ステップS61における判定の結果、全画素のスキャンが完了していない場合には、次に、ベストフォーカス画像画素位置を更新し(S63)、デフォーカス画像画素位置を更新する(S65)。ベストフォーカス画像の画素位置と、デフォーカス画像の画素位置を、所定の順番に従って、順次、更新する。読出しを行う。画素位置を更新すると、ステップS53に戻り、前述の処理を実行する。
ステップS61における判定の結果、全画素のスキャンが完了した場合には、シェーディング補正のフローを終了し、元のフローに戻る。
このように、本発明の第1実施形態においては、デフォーカス画像の画素値の中の最大値(m)を検出し(S45、S47参照)、この最大値(m)とデフォーカス画像の画素値(k)を用いてゲインGainを算出する(S55参照)。そして、ベストフォーカス画像の画素値(X)に、ゲインGainを乗算することによって、画素補正を行う(S59)。このため、個々の画素の位置に応じて、シェーディング補正を行うことができる。特に、検体14に光源装置13が斜めに照射した場合や、シャーレ等の容器3の形状によって、シェーディングが変化する場合であっても、個々の状況に応じたシェーディング補正を行うことができる。
次に、図8ないし図11を用いて、本発明の第2実施形態について説明する。第1実施形態においては、スチル撮影を開始後に、デフォーカス画像を取得していた(図5のS31参照)。これに対して、本実施形態においては、スチル撮影前にライブビュー画像を取得中に、デフォーカス画像を決定し、取得している(図8のS14参照)。本実施形態における構成は、図1ないし図4に示した第1実施形態と同様であることから、詳しい説明を省略する。
図8、図9、図11に示すフローチャートを用いて、本実施形態におけるシェーディング補正について説明する。図8に示すフローは、図5に示すフローと比較すると、ステップS14にデフォーカスLV画像決定を追加し、ステップS25〜S31を削除している点等において相違する。この相違点を中心に説明する。
図8に示すフローがスタートすると、まず、LV撮像を開始し(S1)、フォーカス動作がオンであれば(S3Yes)、フォーカス動作初期設定を行い(S7)、LV画像を取得し保持する(S10)。第1実施形態においては、LV画像を単に取得するだけであったが、第2実施形態においては、ステップS14においてデフォーカスLV画像を決定するために、取得したLV画像を、SDRAM137等に一時記憶している。
LV画像を取得し、保持すると、次に、フォーカス位置情報を算出する(S11)。本実施形態においては、算出したフォーカス位置情報は、フォーカス位置に関連付けて、メモリ(例えばSDRAM137、マイクロコンピュータ131内のRAM等)に、コントラストカーブ(table[N])として、一時記憶しておく。Nは、フォーカス位置を表す。続いて、ベストフォーカス位置か否かを判定する(S13)。この判定の結果、ベストフォーカス位置でない場合には、フォーカスレンズの位置を変更し(S17)、ステップS10に戻り、前述の処理を実行する。
ステップS13における判定の結果、ベストフォーカス位置を決定すると、次に、デフォーカスLV画像を決定する(S14)。本実施形態においては、デフォーカス位置Pdを、図10に示すように、フォーカス位置情報(コントラスト値)が所定の閾値THとなる位置としている。このステップでは、ステップS10において保持されたLV画像の中から、フォーカス値情報に基づいて、デフォーカスLV画像を決定する。このデフォーカスLV画像決定の詳しい動作については、図9を用いて後述する。
デフォーカスLV画像を決定すると、次に、フォーカスレンズ位置を修正する(S15)。ステップS15においてフォーカスレンズ位置を修正すると、またはステップS5においてLV画像を取得すると、次に、スチル撮影か否かを判定し(S19)、スチル撮影の場合には、スチル撮像駆動を開始し(S21)、ベストフォーカス画像を取得する(S23)。前述したように、デフォーカス画像はライブビュー画像の中から取得しているので、第1実施形態におけるステップS25〜S31は省略し、シェーディング補正を行う(S34)。このシェーディング補正の詳しい処理については、図11を用いて後述する。シェーディング補正を行うと、次に画像処理を行い(S35)、図8に示すフローを終了する。
次に、図9に示すフローチャートを用いて、ステップS14のデフォーカスLV画像決定の詳しい動作について説明する。
デフォーカスLV画像決定のフローが開始すると、まず、コントラストカーブ(table[N])と、閾値(TH)を読み込む(S71)。コントラストカーブ(table[N])は、ステップS11において、フォーカス位置に関連付けて記憶されている。また、閾値THは、フラッシュメモリ135に固定値として記憶されている。なお、本実施形態においては、デフォーカス量Deは固定値としているが、フォーカス位置情報の値の大きさ等に応じて、可変するようにしてもよい。
次に、変数nを0に初期化する(S73)。変数は、フォーカス位置を更新するための値である。変数nを初期化すると、次に、table[n]<THか否かを判定する(S75)。ここでは、フォーカス位置[n]におけるフォーカス位置情報(コントラスト値)が、閾値THよりも小さいか否かを判定する。この判定の結果、table[n]の方がTHよりも小さければ、そのフォーカス位置を保持する(S77)。変数nは、フォーカス位置に対応しているので、この変数nを保持すればよい。図10より分かるように、閾値THよりも小さいフォーカス位置情報は、多数、存在する場合もあり、ステップS75の条件を満たしたフォーカス位置に当たる変数nを全て記憶することになる。
ステップS77においてフォーカス位置を保持すると、またはステップS75における判定の結果、tabel[n]がTHよりも小さくなかった場合には、次に、変数nに1を加算する(S79)。
続いて、全てのtabel[n]を参照したか否かを判定する(S81)。ここでは、全てのフォーカスレンズ位置に対応するコントラストカーブについて、閾値THと比較が終了したか否かを判定する。この判定の結果、全てのフォーカス位置について閾値THとの比較が終了していない場合には、ステップS75に戻り、前述の処理を実行する。
ステップS81における判定の結果、全てのtabel[n]について参照が終了した場合には、次に、ベストフォーカス位置を取得する(S83)。ベストフォーカス位置は、フォーカス位置情報(コントラスト値)がピークとなる位置であり、ステップS13において算出している。ここでは、ステップS13における算出結果を取得する。
ベストフォーカス位置を取得すると、次にデフォーカス位置を決定する(S85)。ステップS77において、コントラストカーブが、閾値THよりも小さい(すなわち、デフォーカス状態)フォーカス位置が保持されている。このステップでは、保持されているフォーカス位置の中で、図10に示すように、ベストフォーカス位置Pbに最も近いフォーカス位置をデフォーカス位置Pdとして決定する。
デフォーカス位置を決定すると、次に、デフォーカスLV画像を決定する(S87)。ここでは、ステップS85において決定されたデフォーカス位置において取得したLV画像を、デフォーカスLV画像として決定する。ステップS10において、LV画像がSDARAM137に一時記憶されていることから、この一時記憶されたLV画像から、デフォーカス位置に対応するLV画像を読み出せばよい。デフォーカスLV画像を決定すると、デフォーカスLV画像決定のフローを終了して、元のフローに戻る。
次に、図11に示すフローチャートを用いて、ステップS34のシェーディング補正の詳しい動作について説明する。図11に示すフローは、図7に示すフローと比較すると、ステップS43、S49、S53、S61の対象をLV画像とし、ステップS52を追加している点等で相違する。この相違点を中心に説明する。図11においても、図7において同じ処理を行うステップについては、同一のステップ番号を付す。
シェーディング補正のフローが開始すると、まず、最大値(m)=0に初期化する(S41)。続いて、デフォーカスLV画像の画素値(k)を読み込む(S44)。ここでは、ステップS57において決定されたデフォーカス画像の画素値(k)を読み込む。デフォーカス画像は、SDRAM137に一時記憶されている。
デフォーカスLV画像の画素値(k)を読み込むと、次にk>mか否かを判定し(S45)、k>mの場合には、m=kとする(S47)。続いて、デフォーカスLV画像について、全画素のスキャンが完了したか否かを判定する(S50)。この判定の結果、完了していない場合には、デフォーカス画像の画素位置を更新してから(S51)、ステップS44に戻る。
ステップS50における判定の結果、全画素スキャンが完了していた場合には、デフォーカスLV画像を拡大する(S52)。ライブ画像(S10参照)とスチル撮影で取得した画像(S23参照)の画素数は、同じではない。ライブ画像の方が、画素数が少ないために、このステップでは、デフォーカスLV画像の画素数を増加させ、スチル撮影で取得した画像の画素数と同数にする(縦方向の画素数と、横方向の画素数のそれぞれを一致させる)。画素数を増加させる方法として、隣接(近傍を含めてもよい)の画素の画素値を用い、補間法によって、画素間の画素値を算出するようにしてもよい。
デフォーカスLV画像を拡大すると、拡大デフォーカス画像の画素値(k)を読み込む(S53)。ここでは、ステップS52において拡大したデフォーカス画像の画素値(k)を読み込む。画素値(k)を読み込むと、次に、ゲインGainを生成し(S55)、ベストフォーカス画像の画素値(X)を読み込む(S57)。続いて、ステップS57で読み込んだ画素値(X)に、ステップS55で生成したゲインGainを乗算することにより、画素補正を行う(S51)。
画素補正を行うと、次に、全画素スキャンが完了したか否かについて判定する(S61)。この判定の結果、全画素のスキャンが完了していない場合には、ベストフォーカス画像の画素位置を更新し(S63)、デフォーカス画像の画素位置を更新してから(S65)、ステップS53に戻る。一方、全画素のスキャンが完了した場合には、シェーディング補正のフローを終了し、元のフローに戻る。
次に、図12に示すフローチャートを用いて、ステップS14(図8、図9参照)のデフォーカスLV画像決定の変形例を説明する。第2実施形態に係るデフォーカスLV画像決定は、ベストフォーカス位置Pbを検出すると、この位置から予め決められたデフォーカス量Deだけ至近側に離れた位置をデフォーカス位置Pdと決めていた。これに対して、本変形例では、フォーカス位置情報算出時(S11参照)に取得したコントラストカーブ(table[N])を用いて、ベストフォーカス位置と、天板1a(図2参照)のフォーカス位置を求める。そして、この両位置の間において、フォーカス位置情報(コントラスト値)が最小となるフォーカス位置をデフォーカス位置Pdと決定する(図13参照)。
図12に示すフローの処理が開始すると、まず、コントラストカーブ(table[N])を読み込む(S91)。ステップS11において、フォーカス位置情報を算出した際に、フォーカス位置情報をtable[N]としてメモリに記憶している。そこで、このステップでは、記憶されたフォーカス位置情報をtable[N]を読み出す。
続いて、天板でのフォーカス位置(W)を読み込む(S93)。天板1aのフォーカス位置について、図13を用いて説明する。図13は、横軸にフォーカス位置を、また縦軸にフォーカス位置情報をとった場合における、コントラストカーブを示す。フォーカスレンズが検体(細胞)4に合焦するベストフォーカス位置Pbと、天板1aに合焦する天板位置Ptの2か所で、コントラストカーブがピークとなる。2つのピークのうち、至近側のピークが天板位置Ptとなる。ステップS11においてフォーカス位置情報を算出する際に、天板位置Ptは予め調整値としてメモリに記憶されていることから、この値をメモリから読み出して使用する。天板1aは固定されていることから、撮影する細胞の位置によらず一定だからである。この天板位置Ptに対応するフォーカスレンズのフォーカス位置(W)が求まる。なお、天板1aの位置が変動する可能性がある場合には、フォーカス位置情報を算出する際に、天板位置Ptを検知するようにしてもよい。
天板でのフォーカス位置(W)を読み込むと、次にベストフォーカス位置を取得する(S95)。ベストフォーカス位置は、フォーカス位置情報(コントラスト値)がピークとなる位置であり、ステップS13において算出している。ここでは、ステップS13における算出結果を取得する。
ベストフォーカス位置を取得すると、n=W、min=table[W]を設定する(S97)。ここでは、フォーカス位置を表す変数nに、天板のフォーカス位置を表すWを設定する。また、フォーカス位置情報(コントラスト値)の最小値を格納するメモリminに、天板位置におけるフォーカス位置情報table[W]を設定する。
次に、table[n]<minか否かを判定する(S99)。ここでは、ステップS91において読み込んだコントラストカーブtable[N]から、フォーカス位置nに対応するフォーカス位置情報(コントラスト値)を読出し、このフォーカス位置情報と、フォーカス位置情報の最小値minを比較する。
ステップS99における判定の結果、table[n]<minであった場合には、min=table[n]とする(S101)。読出したフォーカス位置情報が、最小値よりも更に小さかったことから、フォーカス位置情報の最小値を更新する。
ステップS101においてフォーカス位置情報の最小値を更新すると、またはステップS99における判定の結果、table[n]<minでなかった場合には、次に、nに1を加算する(S103)。
続いて、n=ベストフォーカス位置か否かを判定する(S105)。フォーカスレンズのフォーカス位置を表すnが、ベストフォーカス位置Ptに対応するフォーカス位置になったか否かを判定する。この判定の結果、nがベストフォーカス位置でなかった場合には、ステップS99に戻り、前述の動作を実行する。
ステップS105における判定の結果、n=ベストフォーカス位置の場合には、デフォーカスLV画像を決定する(S107)。ここでは、フォーカス位置情報の最小値minに記憶されているtable[n]に対応するライブビュー画像が、デフォーカスLV画像として決定される。ステップS10において、LV画像がSDARAM137に一時記憶されていることから、この一時記憶された画像の中から、デフォーカス位置に対応するLV画像を読み出せばよい。デフォーカスLV画像が決定されると、SDRAM137に一時記憶されたライブビュー画像は不要となることから、削除すればよい。デフォーカスLV画像を決定すると、デフォーカスLV画像決定のフローを終了して、元のフローに戻る。
このように、本変形例においては、天板1aのフォーカス位置Ptと、ベストフォーカス位置Pbの間で(S97、S105参照)、フォーカス位置情報(コントラスト値)の最小値minを求めている(S99、S101参照)。このため、最小値を探索する範囲が天板位置Ptからベストフォーカス位置Pbの間に限定されるので、演算時間を短縮することができる。また、デフォーカス画像は、コントラスト値が最小となる画像であることから、シェーディング補正を行うに相応しい画像といえる。なお、天板1aのフォーカス位置Pt以外にも、コントラスト値がピークとなるフォーカス位置があれば、この位置とベストフォーカス位置の間で、コントラスト値の最小となる画像を求めてもよい。
以上説明したように、本発明の各実施形態や変形例に係る撮像装置は、被写体を結像させるためのフォーカスレンズを含む光学部材を備えている。また、この装置においては、光学部材を通過した被写体光束を電気信号に変換し画像データを取得し(例えば、図7のS1、S5、S9、S21等参照)、画像データに基づいて、フォーカスレンズが上記被写体に合焦する第1のフォーカスレンズ位置(例えば、図6のベストフォーカス位置Pb)と、第1のフォーカスレンズ位置とは異なる第2のフォーカスレンズ位置(例えば、図6、図10、図13のデフォーカス位置Pd)を算出し(例えば、図5のS17、S27等参照)、第1のフォーカスレンズ位置もしくは第2のフォーカスレンズ位置に基づきフォーカスレンズの駆動を制御している(例えば、図5のS17、S27等参照)。さらに、第1のフォーカスレンズ位置へフォーカスレンズの駆動を制御し、第1のフォーカスレンズ位置において取得した画像をベストフォーカス画像とし(例えば、図5のS23等参照)、一方、第2のフォーカスレンズ位置へフォーカスレンズの駆動を制御し、第2のフォーカスレンズ位置において取得した画像をデフォーカス画像とし(例えば、図5のS31等参照)、デフォーカス画像からシェーディング補正値を生成し(例えば、図5のS33、図7のS55等参照)、ベストフォーカス画像をシェーディング補正値で補正する(例えば、図5のS33、図7のS57、S59等参照)。このため、シェーディング特性を簡易かつ高精度に推定し、画像のシェーディングを補正することができる。また、撮像画像が細胞等の検体である場合には、シェーディング補正した画像を使用することにより、細胞の数や密度の算出精度を安定させることができる。
なお、本発明の各実施形態や変形例においては、ライブビュー画像とスチル画像(静止画画像)の2種類の画像を取得していたが、いずれか一方の画像を取得する撮像装置であってもよい。この場合であっても、ライブビュー画像またはスチル画像のいずれかにおいて取得したベストフォーカス画像とデフォーカス画像を用いて、シェーディング補正を行うことができる。
また、本発明の各実施形態や変形例においては、露出制御部113、フォーカス制御部115、シェーディング推定部117、ゲイン生成部119、画像補正部121、画像処理部123等を、マイクロコンピュータ131とは別体の構成としたが、各部の全部または一部をソフトウエアで構成し、マイクロコンピュータ131内のCPUによって実行するようにしても勿論かまわない。また、上述の各部の全部または一部を、ヴェリログ(Verilog)によって記述されたプログラム言語に基づいて生成されたゲート回路等のハードウエア構成でもよく、またDSP(Digital Signal Processor)等のソフトを利用したハードウエア構成を利用してもよい。これらは適宜組み合わせてもよいことは勿論である。また、マイクロコンピュータ131の機能の一部をDSP等のプログラムコードで実行される回路で実現するようにしてもよく、ヴェリログによって記述されたプログラム言語に基づいて生成されたゲート回路等のハードウエア構成でもよく、またハードウエア回路によって実現するようにしてもよい。
また、本発明の各実施形態や変形例においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもミラーレスカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話、スマートフォン、携帯情報端末、パーソナルコンピュータ(PC)、タブレット型コンピュータ、ゲーム機器等に内蔵されるカメラ、医療用カメラ、顕微鏡等の科学機器用のカメラ、自動車搭載用カメラ、監視用カメラでも構わない。いずれにしても、シェーディングが発生する撮像装置であれば、本発明を適用することができる。
また、本明細書において説明した技術のうち、主にフローチャートで説明した制御に関しては、プログラムで設定可能であることが多く、記録媒体や記録部に収められる場合もある。この記録媒体、記録部への記録の仕方は、製品出荷時に記録してもよく、配布された記録媒体を利用してもよく、インターネットを介してダウンロードしたものでもよい。
また、本発明の一実施形態においては、フローチャートを用いて、本実施形態における動作を説明したが、処理手順は、順番を変えてもよく、また、いずれかのステップを省略してもよく、ステップを追加してもよく、さらに各ステップ内における具体的な処理内容を変更してもよい。
また、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず」、「次に」等の順番を表現する言葉を用いて説明したとしても、特に説明していない箇所では、この順で実施することが必須であることを意味するものではない。
本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
1・・・細胞観察システム、1a・・・天板、3・・・容器、3a・・・蓋、4・・・検体(細胞)、5・・・パーソナルコンピュータ(PC)、10・・・カメラヘッド、11・・・カメラ本体、13・・・光源装置、101・・・撮影レンズ、103・・・絞り、105・・・ドライバ、106・・・シャッタ、107・・・撮像素子、109・・・アナログ処理回路、111・・・A/D変換部、113・・・露出制御部、115・・・フォーカス制御部、117・・・シェーディング推定部、119・・・ゲイン生成部、121・・・画像補正部、123・・・画像処理部、125・・・バス、131・・・マイクロコンピュータ、133・・・外部I/F、135・・・フラッシュメモリ、137・・・SDRAM、139・・・画像圧縮部、141・・・メモリI/F、143・・・記録媒体
Claims (12)
- 被写体を結像させるためのフォーカスレンズを含む光学部材を備えた撮像装置において、
上記光学部材を通過した被写体光束を電気信号に変換し画像データを取得する撮像部と、
上記画像データに基づいて、上記フォーカスレンズが上記被写体に合焦する第1のフォーカスレンズ位置と、上記第1のフォーカスレンズ位置とは異なる第2のフォーカスレンズ位置を算出し、上記第1のフォーカスレンズ位置もしくは上記第2のフォーカスレンズ位置に基づき上記フォーカスレンズの駆動を制御するフォーカスレンズ制御部と、
上記画像データからシェーディング特性を推定し、該シェーディング特性からシェーディング補正値を算出する補正値生成部と、
上記画像データを、上記算出したシェーディング補正値によって補正する画像補正部と、
を具備し、
フォーカスレンズ制御部は、上記第1のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第1のフォーカスレンズ位置において上記撮像部で取得した画像をベストフォーカス画像とし、一方、フォーカスレンズ制御部は、上記第2のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第2のフォーカスレンズ位置において上記撮像部で取得した画像をデフォーカス画像とし、
上記補正値生成部は、上記デフォーカス画像を用いて上記シェーディング補正値を生成し、
上記画像補正部は、上記ベストフォーカス画像を上記シェーディング補正値によって補正する、
ことを特徴とする撮像装置。 - 上記撮像部は、駆動モードとして、少なくともスチル撮影用のスチル撮像駆動モードと、ライブビュー表示用のLV撮像駆動モードとを有し、
上記撮像部が、上記LV撮像駆動モードで駆動されている場合に、上記撮像部が取得した画像の中からデフォーカス画像を決定する、
ことを特徴とする請求項1に記載の撮像装置。 - 上記フォーカスレンズの各フォーカスレンズ位置において上記画像データを用いてコントラスト値を算出し、該コントラスト値とフォーカスレンズ位置からコントラストカーブを生成するコントラスト値算出部を有し、
上記フォーカスレンズ制御部は、該コントラストカーブに基づいて上記第2のフォーカスレンズ位置を算出することを特徴とする請求項1または2のいずれかに記載の撮像装置。 - 上記フォーカスレンズ制御部は、上記コントラストカーブに対し、上記コントラスト値が所定の閾値以下のフォーカスレンズ位置に基づき、上記第2のフォーカスレンズ位置を算出する、ことを特徴とする請求項3に記載の撮像装置。
- 上記フォーカスレンズ制御部は、第2のフォーカスレンズ位置を算出する際に、算出基準となる基準位置を予め設定しておき、上記基準位置から上記第1のフォーカスレンズ位置までの間を上記フォーカスレンズの駆動を制御しながら、上記撮像部で取得した画像データに基づいて算出された上記コントラストカーブの最小値を検出し、そのフォーカスレンズ位置を上記第2のフォーカスレンズ位置とすることを特徴とする請求項3に記載の撮像装置。
- 上記フォーカスレンズ制御部は、上記第2のフォーカスレンズ位置を、上記第1のフォーカスレンズ位置から、予め決められたデフォーカス量だけ離れた位置に決定することを特徴とする請求項1に記載の撮像装置。
- 上記フォーカスレンズ制御部は、スチル撮影の開始後に、ベストフォーカス画像およびデフォーカス画像を取得することを特徴とする請求項1に記載の撮像装置。
- 上記補正値生成部は、上記シェーディング特性から、ゲイン値を算出し、該ゲイン値を上記シェーディング補正値とすることを特徴とする請求項1ないし7に記載の撮像装置。
- 上記補正値生成部は、上記デフォーカス画像を構成する画素データの中で、最大値を検出し、該最大値と各画素データの比に基づいてゲイン値を算出し、このゲイン値を上記シェーディング補正値とすることを特徴とする請求項1ないし7に記載の撮像装置。
- 被写体を結像させるためのフォーカスレンズを含む光学部材を備えた撮像装置において、
上記光学部材を通過した被写体光束を電気信号に変換し、画像データを出力する撮像部と、
上記画像データに基づいて、上記フォーカスレンズが上記被写体に合焦する第1のフォーカスレンズ位置と、上記第1のフォーカスレンズ位置とは異なる第2のフォーカスレンズ位置を算出し、上記第1のフォーカスレンズ位置もしくは上記第2のフォーカスレンズ位置に基づき上記フォーカスレンズの駆動を制御するフォーカスレンズ制御部と、
上記画像データに基づいてシェーディング特性を推定するシェーディング推定部と、
上記シェーディング特性を用いてゲイン値を算出するゲイン生成部と、
上記画像データを、上記算出したゲイン値によって補正する画像補正部と、
を具備し、
フォーカスレンズ制御部は、上記第1のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第1のフォーカスレンズ位置において上記撮像部で取得した画像をベストフォーカス画像とし、一方、フォーカスレンズ制御部は、上記第2のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第2のフォーカスレンズ位置において上記撮像部で取得した画像をデフォーカス画像とし、
上記シェーディング推定部は、上記デフォーカス画像に基づいてシェーディング特性を推定し、
上記画像補正部は、上記ベストフォーカス画像を上記ゲイン値によって補正する、
ことを特徴とする撮像装置。 - 被写体を結像させるためのフォーカスレンズを含む光学部材を備えた撮像装置における撮像方法において、
上記光学部材を通過した被写体光束を電気信号に変換し画像データを取得し、
上記画像データに基づいて、上記フォーカスレンズが上記被写体に合焦する第1のフォーカスレンズ位置と、上記第1のフォーカスレンズ位置とは異なる第2のフォーカスレンズ位置を算出し、上記第1のフォーカスレンズ位置もしくは上記第2のフォーカスレンズ位置に基づき上記フォーカスレンズの駆動を制御し、
さらに、
上記第1のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第1のフォーカスレンズ位置において取得した画像をベストフォーカス画像とし、一方、上記第2のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第2のフォーカスレンズ位置において取得した画像をデフォーカス画像とし、
上記デフォーカス画像から上記シェーディング補正値を生成し、
上記ベストフォーカス画像を上記シェーディング補正値で補正する、
ことを特徴とする撮像方法。 - 被写体を結像させるためのフォーカスレンズを含む光学部材を備えた撮像装置内に設けられたコンピュータを実行させるためのプログラムにおいて、
上記光学部材を通過した被写体光束を電気信号に変換し画像データを取得し、
上記画像データに基づいて、上記フォーカスレンズが上記被写体に合焦する第1のフォーカスレンズ位置と、上記第1のフォーカスレンズ位置とは異なる第2のフォーカスレンズ位置を算出し、上記第1のフォーカスレンズ位置もしくは上記第2のフォーカスレンズ位置に基づき上記フォーカスレンズの駆動を制御し、
さらに、
上記第1のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第1のフォーカスレンズ位置において取得した画像をベストフォーカス画像とし、一方、上記第2のフォーカスレンズ位置へ上記フォーカスレンズの駆動を制御し、上記第2のフォーカスレンズ位置において取得した画像をデフォーカス画像とし、
上記デフォーカス画像から上記シェーディング補正値を生成し、
上記ベストフォーカス画像を上記シェーディング補正値で補正する、
ことを上記コンピュータに実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018071934A JP2019186631A (ja) | 2018-04-03 | 2018-04-03 | 撮像装置および撮像方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018071934A JP2019186631A (ja) | 2018-04-03 | 2018-04-03 | 撮像装置および撮像方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019186631A true JP2019186631A (ja) | 2019-10-24 |
Family
ID=68341918
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018071934A Pending JP2019186631A (ja) | 2018-04-03 | 2018-04-03 | 撮像装置および撮像方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019186631A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022250305A1 (ko) * | 2021-05-25 | 2022-12-01 | 삼성전자 주식회사 | 촬영 시 흔들림을 보정하는 방법 및 그 전자 장치 |
-
2018
- 2018-04-03 JP JP2018071934A patent/JP2019186631A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022250305A1 (ko) * | 2021-05-25 | 2022-12-01 | 삼성전자 주식회사 | 촬영 시 흔들림을 보정하는 방법 및 그 전자 장치 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100868595B1 (ko) | 촬상 장치, 노출 제어 방법, 및 촬상 장치에 저장된 컴퓨터 판독가능한 매체 | |
US9113086B2 (en) | Multi-step exposed image acquisition method by electronic shutter and photographing apparatus using the same | |
JP4524717B2 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP6222908B2 (ja) | 画像処理装置、方法およびプログラム、並びに画像処理装置を有する撮像装置 | |
KR101643321B1 (ko) | 디지털 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 매체 | |
JP2014123070A (ja) | 撮像装置及びその制御方法 | |
JP5759190B2 (ja) | 撮像装置及びその制御方法 | |
US20080018777A1 (en) | Image pickup apparatus and image pickup control method | |
JP7077100B2 (ja) | 撮像装置およびその制御方法、並びにプログラム | |
JP2015018084A (ja) | 撮像装置、画像処理方法及び画像処理プログラム | |
JP2019186631A (ja) | 撮像装置および撮像方法 | |
JP2018011268A (ja) | 撮像装置、画像合成方法、およびプログラム | |
JP2020077964A (ja) | 撮像装置およびその制御方法 | |
JP2010136301A (ja) | 撮像装置及びその固体撮像素子 | |
JP2009118520A (ja) | 撮像装置及びその露出制御方法並びに記録媒体 | |
JP2016046610A (ja) | 撮像装置 | |
JP2017009815A (ja) | 焦点検出装置、焦点検出方法、およびカメラシステム | |
JP5022802B2 (ja) | 撮像装置及びその制御方法 | |
JP2007295429A (ja) | ディジタル・スチル・カメラおよびその制御方法 | |
JP5803873B2 (ja) | 露出装置、露出方法、およびプログラム | |
JP2013162272A (ja) | 撮像装置 | |
JP2018151415A (ja) | 撮像装置、撮像装置の制御方法、及びプログラム | |
JP2008052022A (ja) | 撮像装置および撮像方法 | |
JP6700728B2 (ja) | 撮像素子および撮像装置 | |
JP2016092708A (ja) | 画像撮像装置、インターバル撮影方法及びプログラム |