JP2004040480A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2004040480A JP2004040480A JP2002194909A JP2002194909A JP2004040480A JP 2004040480 A JP2004040480 A JP 2004040480A JP 2002194909 A JP2002194909 A JP 2002194909A JP 2002194909 A JP2002194909 A JP 2002194909A JP 2004040480 A JP2004040480 A JP 2004040480A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- image
- imaging
- ccd
- circuit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 109
- 238000012545 processing Methods 0.000 claims description 36
- 230000003247 decreasing effect Effects 0.000 claims description 10
- 238000001444 catalytic combustion detection Methods 0.000 abstract description 101
- 230000003287 optical effect Effects 0.000 abstract description 9
- 230000006866 deterioration Effects 0.000 abstract description 5
- 230000006870 function Effects 0.000 description 27
- 235000019557 luminance Nutrition 0.000 description 23
- 239000002131 composite material Substances 0.000 description 20
- 210000003127 knee Anatomy 0.000 description 17
- 229920006395 saturated elastomer Polymers 0.000 description 17
- 238000010586 diagram Methods 0.000 description 15
- 230000000875 corresponding effect Effects 0.000 description 12
- 230000006835 compression Effects 0.000 description 10
- 238000007906 compression Methods 0.000 description 10
- 238000012937 correction Methods 0.000 description 10
- 238000000926 separation method Methods 0.000 description 8
- 238000006243 chemical reaction Methods 0.000 description 7
- 230000015654 memory Effects 0.000 description 5
- 238000003780 insertion Methods 0.000 description 4
- 230000037431 insertion Effects 0.000 description 4
- 238000000034 method Methods 0.000 description 4
- 238000009825 accumulation Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 230000002194 synthesizing effect Effects 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 230000002542 deteriorative effect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 238000010408 sweeping Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/05—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
- A61B1/051—Details of CCD assembly
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Biomedical Technology (AREA)
- Medical Informatics (AREA)
- Optics & Photonics (AREA)
- Pathology (AREA)
- Radiology & Medical Imaging (AREA)
- Biophysics (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Heart & Thoracic Surgery (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
- Endoscopes (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
【課題】ダイナミックレンジが拡大でき、低輝度側でのS/Nの劣化を防止でき、違和感のない滑らかな画像を得られる撮像装置の提供。
【解決手段】TVカメラ内にはハーフミラーを介して2つのCCD26a、26bに共通の光学像が結像され、素子シャッタで異なる時間でそれぞれ撮像された信号はA/D変換され、色分離されたR、G、Bの信号となり、Dレンジ拡大回路45に入力される。このDレンジ拡大回路45は、第1及び第2LUTにより出力される和が1となるよう設定され、特に低輝度側では露光量を大きくしたCCD26aで撮像された信号に対する重み付けの割合を大きくした2つの重み付け係数とそれぞれ乗算した後、加算器で加算してダイナミックレンジを拡大するので、低輝度側でのS/Nの劣化を防止できる信号が生成される。
【選択図】 図2
【解決手段】TVカメラ内にはハーフミラーを介して2つのCCD26a、26bに共通の光学像が結像され、素子シャッタで異なる時間でそれぞれ撮像された信号はA/D変換され、色分離されたR、G、Bの信号となり、Dレンジ拡大回路45に入力される。このDレンジ拡大回路45は、第1及び第2LUTにより出力される和が1となるよう設定され、特に低輝度側では露光量を大きくしたCCD26aで撮像された信号に対する重み付けの割合を大きくした2つの重み付け係数とそれぞれ乗算した後、加算器で加算してダイナミックレンジを拡大するので、低輝度側でのS/Nの劣化を防止できる信号が生成される。
【選択図】 図2
Description
【0001】
【発明の属する技術分野】
本発明は露光時間等が異なる複数の画像を和が1となる2つの係数で重み付け加算することによりダイナミックレンジ拡大の処理を行う2板式の撮像装置に関する。
【0002】
【従来の技術】
一般に、テレビカメラ等の撮像装置では、その有効撮像輝度域は、撮像手段である例えば固体撮像素子の光電変換特性により一義的に定まる。つまり、固体撮像素子の出力レベルの下限はノイズレベルで限定され、上限は飽和レベル限定されて使用可能な動作レンジが定まると共に、固体撮像素子の出力レベル特性の傾きが一定の値を有しているので、結果として固体撮像素子の有効撮像輝度域は一義的に定まる。
【0003】
そこで、従来、例えば特開昭57−39673号公報では、2種類の異なる輝度での撮像信号を合成し、固体撮像素子の撮像信号のダイナミックレンジを拡大する撮像装置が開示されている。
【0004】
【発明が解決しようとする課題】
しかしながら、この先行例の撮像装置におけるダイナミックレンジの拡大においては、単に2種類の撮像信号を加減算しているため、低輝度側ではS/Nが劣化し、また輝度レベルに対して得られた合成撮像信号は直線の結合となっていて折れ線状に変化するので、その結合点部分での固体撮像素子の出力レベルの変化により、例えば得られるカラー画像においては滑らかな色変化とならず、違和感のある画像になるといった問題がある。
【0005】
また、特開平6−141229号公報では、電荷蓄積時間が異なる2枚以上の画像を信号レベルに応じて重みを付けを行い、さらに圧縮手段によって圧縮することにより暗い画像から明るい画像まで飽和しないでノイズの少ない画像を得るようにしている。
【0006】
この先行例は、例えばその公報の図4に示されているように電荷蓄積時間が異なる複数の画像における一方の画像が飽和する境界領域付近でのみ重み付けを変えたものを加算により合成し、さらに周波数帯域などに応じて圧縮手段により圧縮して所望の入出力特性の合成画像にしている。
【0007】
しかし、この先行例では、例えば2枚の画像から合成画像を得る場合、電荷蓄積時間が長い第1の画像が飽和する境界領域付近よりも低い領域側では、第1の画像のみで合成画像が決定されてしまう特性となる。
【0008】
この合成画像に対して後段側で圧縮処理を行うが、すでに加算処理された1枚の合成画像に対して行うので、上記特性を基本に変化させることができない。このため、例えば動きがある画像の場合には、低輝度側と高輝度側との輪郭がずれたり、不自然な色変化部分ができた画像になってしまう。
【0009】
(発明の目的)
本発明は、上述した点に鑑みてなされたもので、その目的はダイナミックレンジの拡大ができ、かつ低輝度側でのS/Nの劣化を防止すると共に、違和感のない滑らかな画像を得ることのできる撮像装置を提供することにある。
【0010】
【課題を解決するための手段】
本発明の撮像装置は、被写体を第1の露光条件で撮像して第1の撮像信号を出力する第1のカラー撮像手段と、
前記第1の露光条件より露光量が少ない露光条件で前記被写体を撮像して第2の撮像信号を出力する第2のカラー撮像手段と、
前記第1のカラー撮像手段から出力される前記第1の撮像信号の信号レベルに応じて単調減少関数の第1の重み付け係数を発生すると共に、該第1の重み付け係数との和が1となる単調増加関数の第2の重み付け係数を発生する係数発生手段と、
前記第1の撮像信号の撮像信号の信号レベルに対応付けられた前記係数発生手段からの前記第1の重み付け係数で前記第1の撮像信号を重み付けをするとともに、前記第2のカラー撮像手段からの前記第2の撮像信号を重み付けをする重み付け処理手段と、
前記重み付け処理手段からの重み付けされた前記第1の撮像信号と重み付けされた前記第2の撮像信号とを加算し、カラー画像信号を生成する画像信号生成手段と、
を具備したことにより、低輝度側では露光量が大きい条件で撮像した第1のカラー撮像手段による第1の撮像信号の重み付けを大きく、逆に高輝度側では露光量が小さい条件で撮像した第2のカラー撮像手段による第2の撮像信号の重み付けを大きくして画像信号を生成して、その画像信号のダイナミックレンジの拡大を行い、かつ低輝度側でのS/Nの劣化を防止すると共に、違和感のない滑らかな自然な画像が得られるようにしている。
【0011】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。
【0012】
(第1の実施の形態)
図1ないし図7は本発明の第1の実施の形態に係り、図1は第1の実施の形態を備えた内視鏡装置の全体構成図、図2は第1の実施の形態のカラー撮像装置の構成を示す構成図、図3は図2のR用Dレンジ拡大回路の構成を示す構成図、図4(A)は図3の第1LUT及び第2LUTのメモリマップを示す図、図4(B)は入力信号により第1LUT及び第2LUTから重み付けされた係数が出力される様子を示す説明図、図5(A)〜図5(I)は図3のR用Dレンジ拡大回路の各信号のタイミングを示すタイミングチャート図、図6は図3のR用Dレンジ拡大回路の作用を説明する説明図、図7は図2のカラー撮像装置の変形例の構成を示す構成図である。
【0013】
図1に示すように、本発明の第1の実施の形態を備えた内視鏡装置1は、光学式内視鏡2に撮像手段を備えたTVカメラ3を装着したTVカメラ外付け内視鏡4と、光学式内視鏡2に照明光を供給する光源装置5と、TVカメラ3と着脱自在で接続され、標準的な映像信号を生成する映像信号処理を行うビデオプロセッサ或いはカメラコントローラユニット(以下、CCUと略記)6と、このCCU6から出力される映像信号を表示するモニタ7とから構成される。
【0014】
光学式内視鏡2は例えば硬質の挿入部8と、この挿入部8の後端に設けられた把持部(操作部)9と、この把持部9の後端に設けられた接眼部10とを有する硬性内視鏡である。
【0015】
挿入部8内にはライトガイド11が挿通され、このライトガイド11は、把持部9のライトガイド口金に接続されるライトガイドケーブル12を介して光源装置5に着脱自在に接続され、光源装置5内のランプ13からの白色の照明光が集光レンズ14を介して供給され、この照明光を伝送してライトガイド11の先端面から出射し、患部などの被写体を照明する。
【0016】
先端部には対物レンズ16が設けられ、この対物レンズ16により結像される光学像は例えばリレーレンズ系17で後方側に伝送され、接眼部10に設けた接眼レンズにより拡大観察することができる。
【0017】
また、TVカメラ3は接眼部10に着脱自在で装着(外付け)されるカメラヘッド21と、該カメラヘッド21からその基端が延出される(信号伝送系としての)カメラケーブル22と、このカメラケーブル22の末端に設けたコネクタ23とから構成され、このコネクタ23はCCU6に着脱自在で接続される。
【0018】
上記カメラヘッド21内には、接眼レンズに対向して結像レンズ24が配置され、その光路上に配置された光分割素子として例えばハーフミラー25を介して2つの共役な結像位置には、カラー撮像を行う固体撮像素子として2つの電荷結合素子(CCDと略記)26a、26bがそれぞれ配置されている。
【0019】
なお、光電変換する各CCD26a、26bの前面にはモザイクフィルタ27a、27bが配置され、被写体像を画素単位で光学的に色分離してCCD26a、26bの撮像面に導く。つまり、モザイクフィルタ27a、27bがそれぞれ設けられたCCD26a、26bはそれぞれ同じ被写体をカラー撮像する2つの(2板式の)カラー撮像手段を形成している。両CCD26a、26bは水平及び垂直方向の画素サイズが同じものが採用されている。
【0020】
なお、ハーフミラー25は例えば透過する透過光と反射する反射光との光量比が等しいものが採用されている。後述するように、本実施の形態では、2つのCCD26a、26bの露光時間を互いに異なるようにして露光条件が異なるようにしている。後述するように例えばCCD26bの撮像時間をCCD26aの場合よりも短くしている(つまり、CCD26bはCCD26aよりも露光量が少ない条件で撮像した信号を出力する)。
【0021】
CCD26a、26bはカメラケーブル22(内の信号ケーブル)を介してCCU6内の映像信号生成処理を行う映像処理回路28と電気的に接続される。CCD26a、26bは映像処理回路28からのドライブ信号でそれぞれ駆動され、光電変換された出力信号は映像処理回路28内の信号処理系で信号処理され、図2で説明するように2つの出力信号は合成されてダイナミックレンジの広い映像信号が生成され、この映像信号はモニタ7に出力され、ダイナミックレンジの広い内視鏡画像を表示する。
【0022】
次に本実施の形態の(内視鏡用)カラー撮像装置31の構成を図2を参照して説明する。
【0023】
図2に示すように、カラー撮像装置31は、上述のように被写体を撮像する殆ど同一の特性を持った2つの単板カラー撮像素子としてのCCD26aとCCD26bと、基準信号を発生する同期信号発生回路(以下、SSGと記す)33と、SSG33からの基準信号を入力しCCD26a及びCCD26bに対する駆動信号等を生成するタイミングジェネレータ34と、タイミングジェネレータ34からの駆動信号によりCCD26a及びCCD26bを駆動するCCDドライバ35a及びCCDドライバ35bを有している。
【0024】
また、CCD26aからの撮像信号を増幅するプリアンプ36aと、タイミングジェネレータ34からのサンプリングパルスに基づき相関二重サンプリング(以下CDSと略記)を行うCDS回路37aと、CDS回路37aの出力をA/D変換するA/D変換器38aとを備え、CCD26aからの出力の画像信号がプリアンプ36aで増幅された後にCDS回路37aによってベースバンド帯域の信号にされ、A/D変換器38aによりデジタル信号に変換されるようになっている。
【0025】
このA/D変換器38aは例えば8ビットのデジタル信号に変換する。CCD26bからの撮像信号も同様な処理が行われ、プリアンプ36b、CDS回路37bを経た後、A/D変換器38bよりデジタル信号に変換される。
【0026】
さらに、カラー撮像装置31は、A/D変換器38aでA/D変換されたデジタル信号をRGBの3つの色信号に分離する色分離回路39aと、色分離回路39aにより色分離されたデジタル信号に対してホワイトバランスの調整を行うホワイトバランス回路40aと、ホワイトバランス回路40aによりホワイトバランスの調整がなされたデジタル信号のゲイン調整を行う自動利得制御回路(以下、AGC回路を記す)41aと、AGC回路41aによりゲイン調整されたデジタル信号に対してknee処理及びγ補正を行うknee&γ回路42aと、knee&γ回路42aによりknee処理及びγ補正されたR、G、Bのデジタル信号を得るようになっている。
【0027】
CCD26bの出力信号もプリアンプ36bに入力されて増幅され、その後CDS回路37bを経てA/D変換器38bでA/D変換されてデジタル信号に変換され、さらにこのデジタル信号も同様の処理がされる。つまり、色分離回路39b、ホワイトバランス回路40b、AGC回路41bを経た後、knee&γ回路42bによりknee処理及びγ補正されたR、G、Bのデジタル信号を得るようになっている。
【0028】
knee&γ回路42a及び42bから出力されるこれら2つのR、G、Bのデジタル信号はダイナミックレンジの拡大処理を行うDレンジ拡大回路45に入力される。このDレンジ拡大回路45はそれぞれ2入力のR用Dレンジ拡大回路45R、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bの3つの回路で構成されている。
【0029】
そして、2つのRのデジタル信号はR用Dレンジ拡大回路45Rに、2つのGのデジタル信号はG用Dレンジ拡大回路45Gに、2つのBのデジタル信号はB用Dレンジ拡大回路45Bにそれぞれ入力される。
【0030】
そして、これらR用Dレンジ拡大回路45R、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bによりそれぞれ2つのR、G、Bのデジタル信号が合成され、その合成によりダイナミックレンジが拡大された1つのカラー映像信号としてのR、G、B信号を得るようになっている。
【0031】
そして、ダイナミックレンジが拡大されたデジタル信号に対してエンハンス処理を行うエンハンス回路46と、エンハンス処理されたデジタル信号をD/A変換するD/A変換器47とを有し、その出力を例えば75Ωドライバ48を介してモニタ7に出力する構成にしている。
【0032】
図3に示すように、R用Dレンジ拡大回路45Rには、CCD26aに基づく信号がknee&γ回路42aによりknee処理及びγ補正された第1の撮像信号Raと、CCD26bに基づく信号がknee&γ回路42aによりknee処理及びγ補正された第2の撮像信号Rbとが入力される。
【0033】
また、このR用Dレンジ拡大回路45Rは、CCD26aに基づく第1の撮像信号(出力信号)Raが第1の乗算器53に入力されると共に、後述する所定の関数による重み付け係数を出力する第1ルックアップテーブル(以下、第1LUTと略記)51及び第2ルックアップテーブル(以下、第2LUTと略記)52に入力され、第1LUT51の出力信号と乗算された信号を出力する。
【0034】
また、CCD26bに基づく第2の撮像信号(出力信号)は第2の乗算器55に入力される。
【0035】
上記のように第1LUT51の出力信号は第1乗算器53に入力されて信号Raと乗算された信号を出力し、その出力信号は加算器56に入力される。
【0036】
また、第2LUT52の出力信号は第2乗算器55に入力されて信号Rbと乗算された信号を出力し、その出力信号は加算器56に入力され、この加算器56により、第1乗算器53の出力信号と第2乗算器55の出力信号とを加算してダイナミックレンジを拡大したR信号を前記エンハンス回路46に出力する。
【0037】
図3において、露光量が多い方の信号Raを第1LUT51と第2LUT52に入力して対応する重み付け係数を出力させるようにしていることにより、露光量が多い方の信号Raが飽和する輝度レベル(明るさ)以上の領域になると重み付け係数が一定になるようにしている。(より具体的には、後述する図6において、明るさがys1以上になると、信号Raは飽和してしまうので、この値を第2LUT52に入力しても同じ値の重み付け係数しか出力されない。これによって出力特性(ys2まで)は、信号Rbの信号変化のみのに依存することになり、緩やかな傾斜を有する略直線的な特性にすることができる)。
【0038】
なお、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bは、R用Dレンジ拡大回路45Rと同じ回路構成であるので、それらの構成の説明は省略する。上述した第1LUT51及び第2LUT52は、例えば図4(A)に示すようなメモリマップである。
【0039】
第1LUT51及び第2LUT52は例えば8ビットのアドレス00〜FFに単調減少の重みを付け関数データf(=cos2)と単調増加の重み付け関数データg(=sin2)とが格納され、これらの重み付け関数データf及びgの和は1となるように設定されている(つまり、f+g=1)。
【0040】
ここで、8ビットのアドレス00〜FFは入力される8ビットのデジタル信号の輝度レベルに対応して設定されている。より具体的には、CCD26a及びCCD26bで撮影された撮像信号の輝度レベルが0の場合はA/D変換器38a及びA/D変換器38bを経てデジタル信号となり、この場合には(00)hのアドレスで第1LUT51及び第2LUT52に入力される。
【0041】
図2に示すように実際にはCCD26a及びCCD26bの出力信号は途中にそれぞれAGC回路41a、41b等があるので、AGC回路41a、41bで撮像信号は増幅されると共に、CCD26a及びCCD26b固有の感度のバラツキを補正する為に、飽和していない領域の信号が所定の露光時間比に応じたレベル比となるように調整される。さらに、γ補正されてモニタ7の表示面のダイナミックレンジに対応したレベルに調整される。
【0042】
つまり、Dレンジ拡大回路45の出力信号が0の場合には、モニタ7に入力される信号レベルも0であり、Dレンジ拡大回路45の出力信号が飽和した値の場合にはモニタ7で表示される画像も飽和値(図6のVuse)となるようにレベル調整される。
【0043】
また、CCD26a及びCCD26bの出力信号に対応する撮像信号が飽和する飽和値(例えば図6のVuse)の場合にはA/D変換器38a、38b等を経て(FF)hのアドレスで第1LUT51及び第2LUT52に入力される。なお、例えば(00)hは16進数の表示の00を示す。
【0044】
第1LUT51及び第2LUT52に入力される信号xを規格化して、0〜1の範囲の信号xとした場合(つまり、デジタル値(00)hは0、デジタル値(FF)hは1とする)には、第1LUT51はcos2(px)を出力し、第2LUT52はsin2(px)を出力する。
【0045】
第1LUT51及び第2LUT52に入力される信号xによりそのアドレスに対応したデータが読み出されて出力される。この様子を図4(B)に示す。
【0046】
ここで、pは補正係数であり、図6に示すように合成された合成信号Mの導関数が区間(0≦x≦ys2)において常に零以上となる条件によって設定される。
【0047】
また、本実施の形態では第1LUT51の関数(具体的にはcos2(px))は入力信号に対してその出力信号は単調減少であり、第2LUT52の関数(具体的にはsin2(px))は入力信号に対してその出力信号は単調減少であり、これらの出力信号を加算器56で加算した合成信号Mは単調増加となるように設定されている。この場合、合成信号Mの導関数は(ゼロより大きい)単調減少となっている。
【0048】
次に、このように構成された本実施の形態によるカラー撮像装置31の作用について説明する。
【0049】
SSG33からの基準信号に基づきタイミングジェネレータ34で生成された駆動信号でCCDドライバ35aを介してCCD26aを駆動する。そして、CCD26aで撮像された被写体の光電変換された信号はプリアンプ36aで増幅された後にCDS回路37aによってベースバンド帯域の信号にされ、A/D変換器38aによりデジタル信号に変換される。
【0050】
ここで、タイミングジェネレータ34はCCD26a、26bの各々に対して任意の素子シャッタ時間(露光時間)に設定でき、タイミングジェネレータ34で生成された駆動信号によりCCDドライバ35aは、画面の平均値の明るさが所定のレベルとなるようなシャッタ時間、例えば第1のシャッタ時間を1/60secとして被写体を撮像して第1の撮像信号を読み出す。
【0051】
CCD26bで撮像された被写体の光電変換信号も同様な処理が行われ、A/D変換器38bによりデジタル信号に変換される。ここで、CCD26bのシャッタ時間を例えばCCD26aのシャッタ時間の1/4(つまり、1/240sec)として高速の素子シャッタで被写体を撮像するようにCCD26bを駆動する。
【0052】
すなわち、CCD26aの被写体像は低速のシャッタ時間で撮像され、CCD26bの被写体像は高速のシャッタ時間で撮像される。なお、CCD26bでは1フィールド期間(1/60sec)における1/240sec以外の期間で撮像した信号は高速に掃き捨てる処理を行い、CCD26aと同じタイミングで第2の撮像信号が読み出される。
【0053】
そして、後述するように、R用Dレンジ拡大回路45R、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bで、2つのCCD26a、26bにより、異なるシャッタ時間で同一の被写体を撮像した信号に対してダイナミックレンジを拡大する。
【0054】
撮像された両信号は、色分離回路39a、39bによりA/D変換されたデジタル信号をR、G、Bの3つの色信号にそれぞれ分離され、ホワイトバランス回路40a、40b、AGC回路41a、41b及びknee&γ回路42a、42bによりホワイトバランス調整、ゲイン調整及びknee処理及びγ補正がなされた後、R用Dレンジ拡大回路45R、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bに入力され、R、G、Bのデジタル信号それぞれのダイナミックレンジの拡大処理が行われ、エンハンス回路46でエンハンス処理され、D/A変換器47によりD/A変換され、75Ωドライバ48を介してモニタ7に出力される。
【0055】
次に、R用Dレンジ拡大回路45R、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bにおけるダイナミックレンジの拡大処理の詳細について、図5のタイミングチャート等を参照し、R用Dレンジ拡大回路45Rを例に説明する。
【0056】
図5(A)の垂直同期信号VDに同期して、各フィールド期間(図5(B)参照)にCCD26aで撮像されて上述のように信号処理され、knee&γ回路42aを経た出力信号Raは、図3に示すR用Dレンジ拡大回路45Rの第1乗算器53に入力される(図5(C)参照)と共に、第1LUT51及びだ亜Ai2LUT52に入力される。
【0057】
また、knee&γ回路42bを経た出力信号Rbは、信号Raのものと同じタイミングでCCD26bより読み出されることにより信号Raと同じ画素のものに相当することになり、この信号Rbは第2乗算器55(図5(D)参照)に入力される。
【0058】
そして、第1LUT51及び第2LUT52は、CCD26aで撮像される信号xに対してcos2(px)(図5(E))及びsin2(px)(図5(F))をそれぞれ出力する。
【0059】
この場合、CCD26aの画像はCCD26bの例えば4倍の露光時間(撮像時間)で撮像を行うので、図6に示すように被写体の明るさyに対して例えばx1=yのような特性の撮像信号となるのに対して、CCD26bの画像はx2=y/4のような特性の撮像信号となる。
【0060】
そして、CCD26aの画像の撮像信号x1は明るさys1で飽和値Vuseとなり、CCD26bの画像の撮像信号x2は明るさys2(=4ys1)で飽和値Vuseとなる。
【0061】
本実施の形態では、CCD26aの画像における任意の明るさyaでの撮像信号x1が例えば図6のx1aの場合には、CCD26bの画像における対応する撮像信号はx2aとなる。そして、図4(B)に示すようにCCD26aの画像に対応する撮像信号xが第1LUT51及び第2LUT52に入力されることにより、重み付け関数f、gとしてのcos2(px)及びsin2(px)が出力zとして出力される。
【0062】
これらcos2(px)及びsin2(px)はそれぞれ第1乗算器53及び第2乗算器55に入力され、第1乗算器53では画素レートでCCD26aの画像のデジタル信号とcos2(px)が乗算され(図5(G))、また、第2乗算器55では画素レートでCCD26bの画像のデジタル信号とsin2(px)が乗算される(図5(H))。そして、加算器56にて第1乗算器53の出力と第2乗算器55の出力が加算される(図5(I))。
【0063】
図5においては、簡単化のためにCCD26aの各画素のA,B各々のn番目のフィールドの出力をAna、Bnaで、また、CCD26bの各画素のA,B各々のn番目のフィールドの出力をAnb、Bnbで代表させて表示しているが、本実施の形態でのダイナミックレンジの拡大処理では、上述したように、画素レートで処理を行っているため、正確には、CCD26aの画像のデジタル信号の画素レートでの各出力値をx、CCD26bの画像のデジタル信号の画素レートでの各出力値をuとすると、加算器29による加算による合成信号MがM=xcos2(px)+usin2(px)のように得られることになる。
【0064】
なお、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bは、R用Dレンジ拡大回路45Rと同様に作用するので、その説明を省略する。
【0065】
従って、本実施の形態によれば、図6に示すように、第1のシャッタ時間(1/60sec)で撮像された第1のCCD26aのデジタル画像信号x1及び第2のシャッタ時間(1/240sec)で撮像された第2のCCD26bのデジタル画像信号x2(=u)に対して、R用Dレンジ拡大回路45Rより出力される上記合成信号Mは、低輝度域では、cos2(px)による重みを付けによって主に第1のシャッタ時間(1/60sec)で撮像された第1のCCD26aのデジタル画像信号となり、高輝度域では逆にsin2(px)による重み付けによって主に第2のシャッタ時間(1/240sec)で撮像された第2のCCD26bのデジタル画像信号となるため、低輝度域のS/Nを劣化させることなくダイナミックレンジを拡大することができる。
【0066】
より詳しく説明すると、図6において、2つの画像を重みを付け加算して得られる合成画像に対応する合成信号Mは、例えば明るさが0より大きい明るさがys1よりはるかに低い領域ではCCD26aの画像の重みを付け係数fが大きく、これに対してCCD26bの画像の重み付け係数gが小さい、つまり、f>g>0であるので、その合成画像は主にCCD26aの画像にCCD26bの画像を対応する画像位置に少し混ぜたような合成画像になる。
【0067】
また、合成画像は、例えば明るさがys1より大きい領域ではCCD26aの画像は飽和するのでその飽和値に対する重み付け係数fの値が小さく、これに対しCCD26bの画像の重み付け係数gの値が大きい、つまりg>f>0であるので、その合成画像はCCD26bの画像にCCD26aの画像の飽和値を少し混ぜて明るさの増加に対して合成画像の明るさもスムーズに増加する特性の画像になる。
【0068】
つまり、本実施の形態の形態では第1の明るさys1で飽和する第1の画像と、第1の明るさys1より高い第2の明るさys2(図6ではys1の4倍)で飽和する第2の画像とを第1の画像に対しては単調減少、第2の画像に対しては単調増加の重み付け係数f、gでそれぞれ重み付けした画像を加算器56で加算して1つの合成画像を得るようにしている。
【0069】
この場合、重み付け係数f、gの和を1に保持して、加算により得られた合成画像の信号レベルがDレンジ拡大回路45を通した際に大きくなってしまい、モニタ7に表示する際のモニタ7上の画像が飽和してしまうレベルより大きくなってしまうのを防止している。つまり、和が1より大きいと、Dレンジ拡大回路45の後段側に圧縮回路が必要になるが、本実施の形態ではその圧縮回路を設けることを不用にしている。
【0070】
また、図6に示した合成画像に対応する値MaはCCD2aの画像における明るさyaでの撮像信号x1aと、CCD2bの画像における対応する撮像信号x2aとをそれぞれ重み付け係数f、gで重み付け係数f、gの逆数1/f、1/gに比例した分割した値としている。
【0071】
また、図6から分かるように合成信号Mは明るさを変数とした関数とすると、その導関数は零以上であり、かつ単調減少である。つまり、明るさが低い領域ではその勾配を大きくし、明るさが大きくなるに従い連続的にその勾配を小さくしてダイナミックレンジを広くしている。
【0072】
このようにして得られる合成画像は撮像信号xに対して係数pを適切に設定することにより、第2のシャッタ時間で撮像した第2のCCD26bによる信号が飽和するまでの広い明るさの範囲で、連続した滑らかに単調増加する関数にでき、違和感のない自然な画像を得ることができる。
【0073】
つまり本実施の形態では、合成画像は2つの画像(一方の画像の飽和値を含む)を全ての部分で重み付けして加算して得るようにしているので、広いダイナミックレンジを有し、かつ被写体の明るさの増加に対して画像の明るさもスムーズに変化する特性を持った自然で良好な特性の画像を得ることができる。
【0074】
また、被写体に動きがある場合にも低輝度側と高輝度側での輪郭のずれを少なくできる。
【0075】
また、本実施の形態では2つの画像を重み付けして加算する場合の重み付け係数f、gの和を1に設定しているので、加算により得られる画像はCCD26bでその画像が飽和するまでの明るさに対応した広いダイナミックレンジを有し、かつDレンジ拡大回路45R等を通す前後で信号レベルが拡大されてしまうことがない。
【0076】
これに対し、特開平6−141229号公報の先行例では2つの画像を一方の画像が飽和する境界付近での重み付け変化させて加算しているので、境界付近から外れた領域では画像合成により信号レベルが数倍に大きくなってしまい、後段側で圧縮する圧縮回路が必要になってしまう。
【0077】
また、この合成画像に対して圧縮回路により、明るさの増加に対して出力レベルが連続的に変化する特性に設定しているが、この場合の圧縮回路の負担が大きくなる。
【0078】
なお、本実施の形態では補正係数pはCCDの特性等に応じて少なくとも上記合成信号Mが明るさの増加に対して単調増加関数となるように選択することが可能である。また、合成信号Mは上記関数、すなわち、xcos2(px)+usin2(px)に限らず、少なくとも、低輝度領域では低速シャッタ時間で撮像した信号を主とし、高輝度領域では高速シャッタ時間で撮像した信号を主とする関数であればよい。
【0079】
なお、図6では簡単化のため、信号x1,x2は明るさyに対して線形に変化する場合で説明したが、線形でない場合にも同様に適用できる。
【0080】
なお、本実施の形態では、色分離回路39によりRGBに色分離してそれぞれのR信号、G信号、B信号に対してR用Dレンジ拡大回路45R、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bによりダイナミックレンジを拡大するとしたが、これに限らず、色分離回路で輝度信号と色差信号に分離し、輝度信号と色差信号の両方あるいは輝度信号のみに対してダイナミックレンジを拡大するように構成しても良い。
【0081】
なお、上述の説明において、例えば図2ではknee&γ補正回路42a、42bの後にDレンジ拡大回路45R,45G,45Bを配置しているので、Dレンジ拡大回路45R,45G,45Bによりknee&γ補正回路42a、42bの機能を兼ねるようにすることもできる。
【0082】
また、本実施の形態では、色分離した後にダイナミックレンジを拡大する構成となっているが、これに限らず、図7に示す変形例のように、R用Dレンジ拡大回路45R、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bの代わりに、A/D変換器38a、38bによるA/D変換した直後にDレンジ拡大回路60を設け、A/D変換した直後のデジタル信号に対してダイナミックレンジを拡大するように構成してもよく、この場合のその他の構成は本実施の形態と同じである。
【0083】
以上説明したように本実施の形態によれば、画像信号合成手段が撮像手段に入射される光量レベルに応じて、第1の撮像信号と第2の撮像信号の割合を変更して、第1の撮像信号に基づく第1の画像信号と第2の撮像信号に基づく第2の画像信号とを合成するので、撮像信号のダイナミックレンジの拡大において、低輝度側でのS/Nの劣化を防止すると共に、違和感のない滑らかに入出力特性が変化する自然な画像を得ることができるという効果がある。
【0084】
また、本実施の形態によれば、2つのCCD26a、26bで同時に同じ被写体を撮像しているので、1つのCCDのみで繰り返して撮像してDレンジを拡大処理をする場合よりも画面の更新レートを短くでき、動きのある被写体の場合にも、ぶれの少ない画質の良い画像が得られる。
【0085】
また、CCD26a、CCD26bの出力に対して、出力が飽和する値をモニタ7で表示した画像の飽和値にまで増幅する増幅器の機能を例えば図7のDレンジ拡大回路60に持たせることができる。つまり、この場合には、重み付け係数f、gの和を値を1より大きい所定の値に設定してもよい。この場合、Dレンジ拡大回路60の飽和値がモニタ7で表示した画像の飽和値になるように所定の値に設定する。
【0086】
(第2の実施の形態)
次に本発明の第2の実施の形態を説明する。本実施の形態を備えた内視鏡装置は図1において、TVカメラ3内のハーフミラー25を透過する光量と反射する光量との比が例えば1:4となるハーフミラーを採用している。つまり、本実施の形態ではCCD26aと26bとは、同じ時間、共通に撮像するようにしている。
【0087】
この場合、例えば1フィールドとして1/60secの同じ時間だけ両者は撮像するが、CCD26aに入射される光量の1/4だけしかCCD26bには入射されないようにして露光条件(撮像条件)が異なるようにしている。
【0088】
また、図8に示す本実施の形態のカラー撮像装置61では、CCD26aと26bとを共通のCCDドライバ35aで駆動するようにしている。また、本実施の形態ではDレンジ拡大回路62としては図9に示すDレンジ拡大回路62が採用されている。このDレンジ拡大回路62は、図3のR用Dレンジ拡大回路45Rにおいて、ラインメモリ54、54′を付加した構成である。
【0089】
つまり、本実施の形態ではCCD26a、26bの光軸に対するマウント位置がずれた場合(但し、垂直方向は±1画素以内)でも画素を一致させることができる。
【0090】
本実施の形態の作用として、2つのCCD26a、26bを共通して駆動するようにしているので、その駆動系と出力信号に対する信号処理系の構成を簡単化できる。ダイナミックレンジを拡大できることに対しては第1の実施の形態とほぼ同様の効果を有する。
【0091】
また、1つのCCDのみで繰り返して撮像してDレンジ拡大処理をする場合よりも画面の更新レートを短くでき、動きのある被写体の場合にも、ぶれの少ない画質の良い画像が得られる。
【0092】
なお、本実施の形態においては、2つのCCD26a、26bとを素子シャッタの機能による明るさ制御を用いた撮像を行うようにしても良い。この場合には、両CCD26a、26bが同時に素子シャッタとして動作し、単一のCCDで撮像する場合とほぼ同様の制御手段(CCD駆動系及び信号処理系)で処理できる効果もある。
【0093】
なお、図9において、第1LUT52をCCD26bの出力信号で読み出すようにすることもできる。但し、第2LUT51への入力変数値が異なることになるので、係数和が1となる条件を満たすように関数を変更する必要がある。
【0094】
[付記]
1.第1、第2のカラー固体撮像素子と、同一の被写体像を前記第1,第2の2つのカラー固体撮像素子に導いて結像させる光学系を有し、
被写体を前記第1,第2のカラー固体撮像素子によって異なる露出条件で撮像し、第1の固体撮像素子で撮像した露光量の多い第1の撮像信号と、第2の固体撮像素子で撮像した露光量の少ない第2の撮像信号を得る撮像装置において、
前記第1の撮像信号に対しては、該第1の撮像信号レベルを基に画素単位で作成される単調減少関数となる第1の重み付けを、前記第2の撮像信号に対しては、前記第1の撮像信号レベルを基に画素単位で作成される単調減少関数となる第2の重み付けを、前記第1及び第2の重み付けの和が1となる条件下で行う第1及び第2の重み付け処理回路と、
前記第1及び第2の重み付け処理回路により前記第1及び第2の撮像信号に対してそれぞれ前記第1及び第2の重み付けがされた第1及び第2の画像信号とを加算する加算回路と、
とからなる画像信号生成手段と;
前記加算回路から出力される画像信号に対し、表示手段に表示可能な映像信号を生成する信号処理手段と;
を備えたことを特徴とする撮像装置。
【0095】
2.付記1の撮像装置であって、前記2つの露光時間の少なくとも一方の露光時間を可変設定する露光時間設定手段を有する。
【0096】
3.クレーム1の撮像装置であって、前記第1の撮像信号レベルをxとして前記第1の重み付けの関数F1(x)は係数をpとしてCOS2(px)であり、前記第2の重み付けの関数F2(x)はSIN2(px)である。
【0097】
4.付記3の撮像装置であって、前記係数pは、合成された出力信号Mの導関数が所定の光量レベルまでの区間(0≦x≦ys2)において常に零以上となる条件を満たす定数である。
【0098】
5.付記1の撮像装置であって、前記画像信号生成手段は前記第1の撮像信号に対する前記第1の重み付けと前記第2の撮像信号に対する前記第2の重み付けとの各データを格納した重み付けデータ格納手段を有する。
【0099】
6.付記1の撮像装置であって、前記画像信号生成手段は光量レベルに対する前記加算回路から出力される画像信号の微分係数が前記第2の撮像信号が飽和するまでの光量レベルの増加に対して連続的となる特性の画像信号を生成する。
【0100】
7.付記1の撮像装置であって、前記画像信号生成手段は、前記第1の撮像信号と前記第1の撮像信号とを合成し単調増加の画像信号を生成する。
【0101】
8.付記1の撮像装置であって、前記第1,第2のカラー固体撮像素子は両撮像面に入射される光量が互いに異なる入射光量に設定する入射光量設定手段を有する。
【0102】
9.付記8の撮像装置であって、前記入射光量設定手段は反射する光量と透過する光量の比が異なるハーフミラーである。
【0103】
10.付記1の撮像装置であって、前記第1,第2のカラー固体撮像素子は共通の固体撮像素子駆動手段で駆動される。
【0104】
11.2つの撮像素子を用いて、同じ被写体を互いに異なる露光量で撮像した場合におけるその2つの画像信号x,u(a≦x≦:xが飽和しない範囲、x≧u)について、
f(t)+g(t)=1,t=h(x)かつd{f(t)+g(t)}/dt≧0を満たす関数f、g、hを用いて、合成関数M=xf(t)+ug(t)に対し、区間(a≦x≦b)で微分可能な合成関数Mにより画素レートで画像を合成することを特徴とする撮像信号のダイナミックレンジの拡大方法。
【0105】
12.前記f(t)、g(t)及びh(t)がf(t)=cos2(t)、g(t)=sin2(t)、t=pxであることを特徴とする付記11に記載の撮像信号のダイナミックレンジの拡大方法。
【0106】
【発明の効果】
以上説明したように本発明によれば、被写体を第1の露光条件で撮像して第1の撮像信号を出力する第1のカラー撮像手段と、
前記第1の露光条件より露光量が少ない露光条件で前記被写体を撮像して第2の撮像信号を出力する第2のカラー撮像手段と、
前記第1のカラー撮像手段から出力される前記第1の撮像信号の信号レベルに応じて単調減少関数の第1の重み付け係数を発生すると共に、該第1の重み付け係数との和が1となる単調増加関数の第2の重み付け係数を発生する係数発生手段と、
前記第1の撮像信号の撮像信号の信号レベルに対応付けられた前記係数発生手段からの前記第1の重み付け係数で前記第1の撮像信号を重み付けをするとともに、前記第2のカラー撮像手段からの前記第2の撮像信号を重み付けをする重み付け処理手段と、
前記重み付け処理手段からの重み付けされた前記第1の撮像信号と重み付けされた前記第2の撮像信号とを加算し、カラー画像信号を生成する画像信号生成手段と、
を具備しているので、低輝度側では露光量が大きい条件で撮像した第1のカラー撮像手段による第1の撮像信号の重み付けを大きく、逆に高輝度側では露光量が小さい条件で撮像した第2のカラー撮像手段による第2の撮像信号の重み付けを大きくして画像信号を生成して、その画像信号のダイナミックレンジの拡大を行い、かつ低輝度側でのS/Nの劣化を防止すると共に、違和感のない滑らかな自然な画像が得られる。また、ぶれの少ない画質の良い画像が得られる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態を備えた内視鏡装置の全体構成図。
【図2】第1の実施の形態のカラー撮像装置の構成を示すブロック図。
【図3】図2のR用Dレンジ拡大回路の構成を示すブロック図。
【図4】図3の第1LUT及び第2LUTのメモリマップと入力信号により第1LUT及び第2LUTから重み付けされた係数が出力される様子を示す図。
【図5】図3のR用Dレンジ拡大回路の各信号のタイミングを示すタイミングチャート図。
【図6】図3のR用Dレンジ拡大回路の作用を説明する説明図。
【図7】図2のカラー撮像装置の変形例の構成を示すブロック図。
【図8】本発明の第2の実施の形態のカラー撮像装置の構成を示すブロック図。
【図9】Dレンジ拡大回路の構成を示すブロック図。
【符号の説明】
1…内視鏡装置
2…光学式内視鏡
3…TVカメラ
5…光源装置
6…CCU
7…モニタ
8…挿入部
16…対物レンズ
25…ハーフミラー
26a、26b…CCD
28…映像処理回路
31…カラー撮像装置
33…SSG
34…タイミングジェネレータ
35a、35b…CCDドライバ
36a、36b…プリアンプ
38a、38b…A/D変換器
39a、39b…色分離回路
40a、40b…ホワイトバランス回路
45…Dレンジ拡大回路
45R…R用Dレンジ拡大回路
45G…G用Dレンジ拡大回路
45B…B用Dレンジ拡大回路
46…エンハンス回路
47…D/A変換器
51…第1LUT
52…第2LUT
53…第1乗算器
54…フィールドメモリ
55…第2乗算器
56…加算器
【発明の属する技術分野】
本発明は露光時間等が異なる複数の画像を和が1となる2つの係数で重み付け加算することによりダイナミックレンジ拡大の処理を行う2板式の撮像装置に関する。
【0002】
【従来の技術】
一般に、テレビカメラ等の撮像装置では、その有効撮像輝度域は、撮像手段である例えば固体撮像素子の光電変換特性により一義的に定まる。つまり、固体撮像素子の出力レベルの下限はノイズレベルで限定され、上限は飽和レベル限定されて使用可能な動作レンジが定まると共に、固体撮像素子の出力レベル特性の傾きが一定の値を有しているので、結果として固体撮像素子の有効撮像輝度域は一義的に定まる。
【0003】
そこで、従来、例えば特開昭57−39673号公報では、2種類の異なる輝度での撮像信号を合成し、固体撮像素子の撮像信号のダイナミックレンジを拡大する撮像装置が開示されている。
【0004】
【発明が解決しようとする課題】
しかしながら、この先行例の撮像装置におけるダイナミックレンジの拡大においては、単に2種類の撮像信号を加減算しているため、低輝度側ではS/Nが劣化し、また輝度レベルに対して得られた合成撮像信号は直線の結合となっていて折れ線状に変化するので、その結合点部分での固体撮像素子の出力レベルの変化により、例えば得られるカラー画像においては滑らかな色変化とならず、違和感のある画像になるといった問題がある。
【0005】
また、特開平6−141229号公報では、電荷蓄積時間が異なる2枚以上の画像を信号レベルに応じて重みを付けを行い、さらに圧縮手段によって圧縮することにより暗い画像から明るい画像まで飽和しないでノイズの少ない画像を得るようにしている。
【0006】
この先行例は、例えばその公報の図4に示されているように電荷蓄積時間が異なる複数の画像における一方の画像が飽和する境界領域付近でのみ重み付けを変えたものを加算により合成し、さらに周波数帯域などに応じて圧縮手段により圧縮して所望の入出力特性の合成画像にしている。
【0007】
しかし、この先行例では、例えば2枚の画像から合成画像を得る場合、電荷蓄積時間が長い第1の画像が飽和する境界領域付近よりも低い領域側では、第1の画像のみで合成画像が決定されてしまう特性となる。
【0008】
この合成画像に対して後段側で圧縮処理を行うが、すでに加算処理された1枚の合成画像に対して行うので、上記特性を基本に変化させることができない。このため、例えば動きがある画像の場合には、低輝度側と高輝度側との輪郭がずれたり、不自然な色変化部分ができた画像になってしまう。
【0009】
(発明の目的)
本発明は、上述した点に鑑みてなされたもので、その目的はダイナミックレンジの拡大ができ、かつ低輝度側でのS/Nの劣化を防止すると共に、違和感のない滑らかな画像を得ることのできる撮像装置を提供することにある。
【0010】
【課題を解決するための手段】
本発明の撮像装置は、被写体を第1の露光条件で撮像して第1の撮像信号を出力する第1のカラー撮像手段と、
前記第1の露光条件より露光量が少ない露光条件で前記被写体を撮像して第2の撮像信号を出力する第2のカラー撮像手段と、
前記第1のカラー撮像手段から出力される前記第1の撮像信号の信号レベルに応じて単調減少関数の第1の重み付け係数を発生すると共に、該第1の重み付け係数との和が1となる単調増加関数の第2の重み付け係数を発生する係数発生手段と、
前記第1の撮像信号の撮像信号の信号レベルに対応付けられた前記係数発生手段からの前記第1の重み付け係数で前記第1の撮像信号を重み付けをするとともに、前記第2のカラー撮像手段からの前記第2の撮像信号を重み付けをする重み付け処理手段と、
前記重み付け処理手段からの重み付けされた前記第1の撮像信号と重み付けされた前記第2の撮像信号とを加算し、カラー画像信号を生成する画像信号生成手段と、
を具備したことにより、低輝度側では露光量が大きい条件で撮像した第1のカラー撮像手段による第1の撮像信号の重み付けを大きく、逆に高輝度側では露光量が小さい条件で撮像した第2のカラー撮像手段による第2の撮像信号の重み付けを大きくして画像信号を生成して、その画像信号のダイナミックレンジの拡大を行い、かつ低輝度側でのS/Nの劣化を防止すると共に、違和感のない滑らかな自然な画像が得られるようにしている。
【0011】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。
【0012】
(第1の実施の形態)
図1ないし図7は本発明の第1の実施の形態に係り、図1は第1の実施の形態を備えた内視鏡装置の全体構成図、図2は第1の実施の形態のカラー撮像装置の構成を示す構成図、図3は図2のR用Dレンジ拡大回路の構成を示す構成図、図4(A)は図3の第1LUT及び第2LUTのメモリマップを示す図、図4(B)は入力信号により第1LUT及び第2LUTから重み付けされた係数が出力される様子を示す説明図、図5(A)〜図5(I)は図3のR用Dレンジ拡大回路の各信号のタイミングを示すタイミングチャート図、図6は図3のR用Dレンジ拡大回路の作用を説明する説明図、図7は図2のカラー撮像装置の変形例の構成を示す構成図である。
【0013】
図1に示すように、本発明の第1の実施の形態を備えた内視鏡装置1は、光学式内視鏡2に撮像手段を備えたTVカメラ3を装着したTVカメラ外付け内視鏡4と、光学式内視鏡2に照明光を供給する光源装置5と、TVカメラ3と着脱自在で接続され、標準的な映像信号を生成する映像信号処理を行うビデオプロセッサ或いはカメラコントローラユニット(以下、CCUと略記)6と、このCCU6から出力される映像信号を表示するモニタ7とから構成される。
【0014】
光学式内視鏡2は例えば硬質の挿入部8と、この挿入部8の後端に設けられた把持部(操作部)9と、この把持部9の後端に設けられた接眼部10とを有する硬性内視鏡である。
【0015】
挿入部8内にはライトガイド11が挿通され、このライトガイド11は、把持部9のライトガイド口金に接続されるライトガイドケーブル12を介して光源装置5に着脱自在に接続され、光源装置5内のランプ13からの白色の照明光が集光レンズ14を介して供給され、この照明光を伝送してライトガイド11の先端面から出射し、患部などの被写体を照明する。
【0016】
先端部には対物レンズ16が設けられ、この対物レンズ16により結像される光学像は例えばリレーレンズ系17で後方側に伝送され、接眼部10に設けた接眼レンズにより拡大観察することができる。
【0017】
また、TVカメラ3は接眼部10に着脱自在で装着(外付け)されるカメラヘッド21と、該カメラヘッド21からその基端が延出される(信号伝送系としての)カメラケーブル22と、このカメラケーブル22の末端に設けたコネクタ23とから構成され、このコネクタ23はCCU6に着脱自在で接続される。
【0018】
上記カメラヘッド21内には、接眼レンズに対向して結像レンズ24が配置され、その光路上に配置された光分割素子として例えばハーフミラー25を介して2つの共役な結像位置には、カラー撮像を行う固体撮像素子として2つの電荷結合素子(CCDと略記)26a、26bがそれぞれ配置されている。
【0019】
なお、光電変換する各CCD26a、26bの前面にはモザイクフィルタ27a、27bが配置され、被写体像を画素単位で光学的に色分離してCCD26a、26bの撮像面に導く。つまり、モザイクフィルタ27a、27bがそれぞれ設けられたCCD26a、26bはそれぞれ同じ被写体をカラー撮像する2つの(2板式の)カラー撮像手段を形成している。両CCD26a、26bは水平及び垂直方向の画素サイズが同じものが採用されている。
【0020】
なお、ハーフミラー25は例えば透過する透過光と反射する反射光との光量比が等しいものが採用されている。後述するように、本実施の形態では、2つのCCD26a、26bの露光時間を互いに異なるようにして露光条件が異なるようにしている。後述するように例えばCCD26bの撮像時間をCCD26aの場合よりも短くしている(つまり、CCD26bはCCD26aよりも露光量が少ない条件で撮像した信号を出力する)。
【0021】
CCD26a、26bはカメラケーブル22(内の信号ケーブル)を介してCCU6内の映像信号生成処理を行う映像処理回路28と電気的に接続される。CCD26a、26bは映像処理回路28からのドライブ信号でそれぞれ駆動され、光電変換された出力信号は映像処理回路28内の信号処理系で信号処理され、図2で説明するように2つの出力信号は合成されてダイナミックレンジの広い映像信号が生成され、この映像信号はモニタ7に出力され、ダイナミックレンジの広い内視鏡画像を表示する。
【0022】
次に本実施の形態の(内視鏡用)カラー撮像装置31の構成を図2を参照して説明する。
【0023】
図2に示すように、カラー撮像装置31は、上述のように被写体を撮像する殆ど同一の特性を持った2つの単板カラー撮像素子としてのCCD26aとCCD26bと、基準信号を発生する同期信号発生回路(以下、SSGと記す)33と、SSG33からの基準信号を入力しCCD26a及びCCD26bに対する駆動信号等を生成するタイミングジェネレータ34と、タイミングジェネレータ34からの駆動信号によりCCD26a及びCCD26bを駆動するCCDドライバ35a及びCCDドライバ35bを有している。
【0024】
また、CCD26aからの撮像信号を増幅するプリアンプ36aと、タイミングジェネレータ34からのサンプリングパルスに基づき相関二重サンプリング(以下CDSと略記)を行うCDS回路37aと、CDS回路37aの出力をA/D変換するA/D変換器38aとを備え、CCD26aからの出力の画像信号がプリアンプ36aで増幅された後にCDS回路37aによってベースバンド帯域の信号にされ、A/D変換器38aによりデジタル信号に変換されるようになっている。
【0025】
このA/D変換器38aは例えば8ビットのデジタル信号に変換する。CCD26bからの撮像信号も同様な処理が行われ、プリアンプ36b、CDS回路37bを経た後、A/D変換器38bよりデジタル信号に変換される。
【0026】
さらに、カラー撮像装置31は、A/D変換器38aでA/D変換されたデジタル信号をRGBの3つの色信号に分離する色分離回路39aと、色分離回路39aにより色分離されたデジタル信号に対してホワイトバランスの調整を行うホワイトバランス回路40aと、ホワイトバランス回路40aによりホワイトバランスの調整がなされたデジタル信号のゲイン調整を行う自動利得制御回路(以下、AGC回路を記す)41aと、AGC回路41aによりゲイン調整されたデジタル信号に対してknee処理及びγ補正を行うknee&γ回路42aと、knee&γ回路42aによりknee処理及びγ補正されたR、G、Bのデジタル信号を得るようになっている。
【0027】
CCD26bの出力信号もプリアンプ36bに入力されて増幅され、その後CDS回路37bを経てA/D変換器38bでA/D変換されてデジタル信号に変換され、さらにこのデジタル信号も同様の処理がされる。つまり、色分離回路39b、ホワイトバランス回路40b、AGC回路41bを経た後、knee&γ回路42bによりknee処理及びγ補正されたR、G、Bのデジタル信号を得るようになっている。
【0028】
knee&γ回路42a及び42bから出力されるこれら2つのR、G、Bのデジタル信号はダイナミックレンジの拡大処理を行うDレンジ拡大回路45に入力される。このDレンジ拡大回路45はそれぞれ2入力のR用Dレンジ拡大回路45R、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bの3つの回路で構成されている。
【0029】
そして、2つのRのデジタル信号はR用Dレンジ拡大回路45Rに、2つのGのデジタル信号はG用Dレンジ拡大回路45Gに、2つのBのデジタル信号はB用Dレンジ拡大回路45Bにそれぞれ入力される。
【0030】
そして、これらR用Dレンジ拡大回路45R、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bによりそれぞれ2つのR、G、Bのデジタル信号が合成され、その合成によりダイナミックレンジが拡大された1つのカラー映像信号としてのR、G、B信号を得るようになっている。
【0031】
そして、ダイナミックレンジが拡大されたデジタル信号に対してエンハンス処理を行うエンハンス回路46と、エンハンス処理されたデジタル信号をD/A変換するD/A変換器47とを有し、その出力を例えば75Ωドライバ48を介してモニタ7に出力する構成にしている。
【0032】
図3に示すように、R用Dレンジ拡大回路45Rには、CCD26aに基づく信号がknee&γ回路42aによりknee処理及びγ補正された第1の撮像信号Raと、CCD26bに基づく信号がknee&γ回路42aによりknee処理及びγ補正された第2の撮像信号Rbとが入力される。
【0033】
また、このR用Dレンジ拡大回路45Rは、CCD26aに基づく第1の撮像信号(出力信号)Raが第1の乗算器53に入力されると共に、後述する所定の関数による重み付け係数を出力する第1ルックアップテーブル(以下、第1LUTと略記)51及び第2ルックアップテーブル(以下、第2LUTと略記)52に入力され、第1LUT51の出力信号と乗算された信号を出力する。
【0034】
また、CCD26bに基づく第2の撮像信号(出力信号)は第2の乗算器55に入力される。
【0035】
上記のように第1LUT51の出力信号は第1乗算器53に入力されて信号Raと乗算された信号を出力し、その出力信号は加算器56に入力される。
【0036】
また、第2LUT52の出力信号は第2乗算器55に入力されて信号Rbと乗算された信号を出力し、その出力信号は加算器56に入力され、この加算器56により、第1乗算器53の出力信号と第2乗算器55の出力信号とを加算してダイナミックレンジを拡大したR信号を前記エンハンス回路46に出力する。
【0037】
図3において、露光量が多い方の信号Raを第1LUT51と第2LUT52に入力して対応する重み付け係数を出力させるようにしていることにより、露光量が多い方の信号Raが飽和する輝度レベル(明るさ)以上の領域になると重み付け係数が一定になるようにしている。(より具体的には、後述する図6において、明るさがys1以上になると、信号Raは飽和してしまうので、この値を第2LUT52に入力しても同じ値の重み付け係数しか出力されない。これによって出力特性(ys2まで)は、信号Rbの信号変化のみのに依存することになり、緩やかな傾斜を有する略直線的な特性にすることができる)。
【0038】
なお、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bは、R用Dレンジ拡大回路45Rと同じ回路構成であるので、それらの構成の説明は省略する。上述した第1LUT51及び第2LUT52は、例えば図4(A)に示すようなメモリマップである。
【0039】
第1LUT51及び第2LUT52は例えば8ビットのアドレス00〜FFに単調減少の重みを付け関数データf(=cos2)と単調増加の重み付け関数データg(=sin2)とが格納され、これらの重み付け関数データf及びgの和は1となるように設定されている(つまり、f+g=1)。
【0040】
ここで、8ビットのアドレス00〜FFは入力される8ビットのデジタル信号の輝度レベルに対応して設定されている。より具体的には、CCD26a及びCCD26bで撮影された撮像信号の輝度レベルが0の場合はA/D変換器38a及びA/D変換器38bを経てデジタル信号となり、この場合には(00)hのアドレスで第1LUT51及び第2LUT52に入力される。
【0041】
図2に示すように実際にはCCD26a及びCCD26bの出力信号は途中にそれぞれAGC回路41a、41b等があるので、AGC回路41a、41bで撮像信号は増幅されると共に、CCD26a及びCCD26b固有の感度のバラツキを補正する為に、飽和していない領域の信号が所定の露光時間比に応じたレベル比となるように調整される。さらに、γ補正されてモニタ7の表示面のダイナミックレンジに対応したレベルに調整される。
【0042】
つまり、Dレンジ拡大回路45の出力信号が0の場合には、モニタ7に入力される信号レベルも0であり、Dレンジ拡大回路45の出力信号が飽和した値の場合にはモニタ7で表示される画像も飽和値(図6のVuse)となるようにレベル調整される。
【0043】
また、CCD26a及びCCD26bの出力信号に対応する撮像信号が飽和する飽和値(例えば図6のVuse)の場合にはA/D変換器38a、38b等を経て(FF)hのアドレスで第1LUT51及び第2LUT52に入力される。なお、例えば(00)hは16進数の表示の00を示す。
【0044】
第1LUT51及び第2LUT52に入力される信号xを規格化して、0〜1の範囲の信号xとした場合(つまり、デジタル値(00)hは0、デジタル値(FF)hは1とする)には、第1LUT51はcos2(px)を出力し、第2LUT52はsin2(px)を出力する。
【0045】
第1LUT51及び第2LUT52に入力される信号xによりそのアドレスに対応したデータが読み出されて出力される。この様子を図4(B)に示す。
【0046】
ここで、pは補正係数であり、図6に示すように合成された合成信号Mの導関数が区間(0≦x≦ys2)において常に零以上となる条件によって設定される。
【0047】
また、本実施の形態では第1LUT51の関数(具体的にはcos2(px))は入力信号に対してその出力信号は単調減少であり、第2LUT52の関数(具体的にはsin2(px))は入力信号に対してその出力信号は単調減少であり、これらの出力信号を加算器56で加算した合成信号Mは単調増加となるように設定されている。この場合、合成信号Mの導関数は(ゼロより大きい)単調減少となっている。
【0048】
次に、このように構成された本実施の形態によるカラー撮像装置31の作用について説明する。
【0049】
SSG33からの基準信号に基づきタイミングジェネレータ34で生成された駆動信号でCCDドライバ35aを介してCCD26aを駆動する。そして、CCD26aで撮像された被写体の光電変換された信号はプリアンプ36aで増幅された後にCDS回路37aによってベースバンド帯域の信号にされ、A/D変換器38aによりデジタル信号に変換される。
【0050】
ここで、タイミングジェネレータ34はCCD26a、26bの各々に対して任意の素子シャッタ時間(露光時間)に設定でき、タイミングジェネレータ34で生成された駆動信号によりCCDドライバ35aは、画面の平均値の明るさが所定のレベルとなるようなシャッタ時間、例えば第1のシャッタ時間を1/60secとして被写体を撮像して第1の撮像信号を読み出す。
【0051】
CCD26bで撮像された被写体の光電変換信号も同様な処理が行われ、A/D変換器38bによりデジタル信号に変換される。ここで、CCD26bのシャッタ時間を例えばCCD26aのシャッタ時間の1/4(つまり、1/240sec)として高速の素子シャッタで被写体を撮像するようにCCD26bを駆動する。
【0052】
すなわち、CCD26aの被写体像は低速のシャッタ時間で撮像され、CCD26bの被写体像は高速のシャッタ時間で撮像される。なお、CCD26bでは1フィールド期間(1/60sec)における1/240sec以外の期間で撮像した信号は高速に掃き捨てる処理を行い、CCD26aと同じタイミングで第2の撮像信号が読み出される。
【0053】
そして、後述するように、R用Dレンジ拡大回路45R、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bで、2つのCCD26a、26bにより、異なるシャッタ時間で同一の被写体を撮像した信号に対してダイナミックレンジを拡大する。
【0054】
撮像された両信号は、色分離回路39a、39bによりA/D変換されたデジタル信号をR、G、Bの3つの色信号にそれぞれ分離され、ホワイトバランス回路40a、40b、AGC回路41a、41b及びknee&γ回路42a、42bによりホワイトバランス調整、ゲイン調整及びknee処理及びγ補正がなされた後、R用Dレンジ拡大回路45R、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bに入力され、R、G、Bのデジタル信号それぞれのダイナミックレンジの拡大処理が行われ、エンハンス回路46でエンハンス処理され、D/A変換器47によりD/A変換され、75Ωドライバ48を介してモニタ7に出力される。
【0055】
次に、R用Dレンジ拡大回路45R、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bにおけるダイナミックレンジの拡大処理の詳細について、図5のタイミングチャート等を参照し、R用Dレンジ拡大回路45Rを例に説明する。
【0056】
図5(A)の垂直同期信号VDに同期して、各フィールド期間(図5(B)参照)にCCD26aで撮像されて上述のように信号処理され、knee&γ回路42aを経た出力信号Raは、図3に示すR用Dレンジ拡大回路45Rの第1乗算器53に入力される(図5(C)参照)と共に、第1LUT51及びだ亜Ai2LUT52に入力される。
【0057】
また、knee&γ回路42bを経た出力信号Rbは、信号Raのものと同じタイミングでCCD26bより読み出されることにより信号Raと同じ画素のものに相当することになり、この信号Rbは第2乗算器55(図5(D)参照)に入力される。
【0058】
そして、第1LUT51及び第2LUT52は、CCD26aで撮像される信号xに対してcos2(px)(図5(E))及びsin2(px)(図5(F))をそれぞれ出力する。
【0059】
この場合、CCD26aの画像はCCD26bの例えば4倍の露光時間(撮像時間)で撮像を行うので、図6に示すように被写体の明るさyに対して例えばx1=yのような特性の撮像信号となるのに対して、CCD26bの画像はx2=y/4のような特性の撮像信号となる。
【0060】
そして、CCD26aの画像の撮像信号x1は明るさys1で飽和値Vuseとなり、CCD26bの画像の撮像信号x2は明るさys2(=4ys1)で飽和値Vuseとなる。
【0061】
本実施の形態では、CCD26aの画像における任意の明るさyaでの撮像信号x1が例えば図6のx1aの場合には、CCD26bの画像における対応する撮像信号はx2aとなる。そして、図4(B)に示すようにCCD26aの画像に対応する撮像信号xが第1LUT51及び第2LUT52に入力されることにより、重み付け関数f、gとしてのcos2(px)及びsin2(px)が出力zとして出力される。
【0062】
これらcos2(px)及びsin2(px)はそれぞれ第1乗算器53及び第2乗算器55に入力され、第1乗算器53では画素レートでCCD26aの画像のデジタル信号とcos2(px)が乗算され(図5(G))、また、第2乗算器55では画素レートでCCD26bの画像のデジタル信号とsin2(px)が乗算される(図5(H))。そして、加算器56にて第1乗算器53の出力と第2乗算器55の出力が加算される(図5(I))。
【0063】
図5においては、簡単化のためにCCD26aの各画素のA,B各々のn番目のフィールドの出力をAna、Bnaで、また、CCD26bの各画素のA,B各々のn番目のフィールドの出力をAnb、Bnbで代表させて表示しているが、本実施の形態でのダイナミックレンジの拡大処理では、上述したように、画素レートで処理を行っているため、正確には、CCD26aの画像のデジタル信号の画素レートでの各出力値をx、CCD26bの画像のデジタル信号の画素レートでの各出力値をuとすると、加算器29による加算による合成信号MがM=xcos2(px)+usin2(px)のように得られることになる。
【0064】
なお、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bは、R用Dレンジ拡大回路45Rと同様に作用するので、その説明を省略する。
【0065】
従って、本実施の形態によれば、図6に示すように、第1のシャッタ時間(1/60sec)で撮像された第1のCCD26aのデジタル画像信号x1及び第2のシャッタ時間(1/240sec)で撮像された第2のCCD26bのデジタル画像信号x2(=u)に対して、R用Dレンジ拡大回路45Rより出力される上記合成信号Mは、低輝度域では、cos2(px)による重みを付けによって主に第1のシャッタ時間(1/60sec)で撮像された第1のCCD26aのデジタル画像信号となり、高輝度域では逆にsin2(px)による重み付けによって主に第2のシャッタ時間(1/240sec)で撮像された第2のCCD26bのデジタル画像信号となるため、低輝度域のS/Nを劣化させることなくダイナミックレンジを拡大することができる。
【0066】
より詳しく説明すると、図6において、2つの画像を重みを付け加算して得られる合成画像に対応する合成信号Mは、例えば明るさが0より大きい明るさがys1よりはるかに低い領域ではCCD26aの画像の重みを付け係数fが大きく、これに対してCCD26bの画像の重み付け係数gが小さい、つまり、f>g>0であるので、その合成画像は主にCCD26aの画像にCCD26bの画像を対応する画像位置に少し混ぜたような合成画像になる。
【0067】
また、合成画像は、例えば明るさがys1より大きい領域ではCCD26aの画像は飽和するのでその飽和値に対する重み付け係数fの値が小さく、これに対しCCD26bの画像の重み付け係数gの値が大きい、つまりg>f>0であるので、その合成画像はCCD26bの画像にCCD26aの画像の飽和値を少し混ぜて明るさの増加に対して合成画像の明るさもスムーズに増加する特性の画像になる。
【0068】
つまり、本実施の形態の形態では第1の明るさys1で飽和する第1の画像と、第1の明るさys1より高い第2の明るさys2(図6ではys1の4倍)で飽和する第2の画像とを第1の画像に対しては単調減少、第2の画像に対しては単調増加の重み付け係数f、gでそれぞれ重み付けした画像を加算器56で加算して1つの合成画像を得るようにしている。
【0069】
この場合、重み付け係数f、gの和を1に保持して、加算により得られた合成画像の信号レベルがDレンジ拡大回路45を通した際に大きくなってしまい、モニタ7に表示する際のモニタ7上の画像が飽和してしまうレベルより大きくなってしまうのを防止している。つまり、和が1より大きいと、Dレンジ拡大回路45の後段側に圧縮回路が必要になるが、本実施の形態ではその圧縮回路を設けることを不用にしている。
【0070】
また、図6に示した合成画像に対応する値MaはCCD2aの画像における明るさyaでの撮像信号x1aと、CCD2bの画像における対応する撮像信号x2aとをそれぞれ重み付け係数f、gで重み付け係数f、gの逆数1/f、1/gに比例した分割した値としている。
【0071】
また、図6から分かるように合成信号Mは明るさを変数とした関数とすると、その導関数は零以上であり、かつ単調減少である。つまり、明るさが低い領域ではその勾配を大きくし、明るさが大きくなるに従い連続的にその勾配を小さくしてダイナミックレンジを広くしている。
【0072】
このようにして得られる合成画像は撮像信号xに対して係数pを適切に設定することにより、第2のシャッタ時間で撮像した第2のCCD26bによる信号が飽和するまでの広い明るさの範囲で、連続した滑らかに単調増加する関数にでき、違和感のない自然な画像を得ることができる。
【0073】
つまり本実施の形態では、合成画像は2つの画像(一方の画像の飽和値を含む)を全ての部分で重み付けして加算して得るようにしているので、広いダイナミックレンジを有し、かつ被写体の明るさの増加に対して画像の明るさもスムーズに変化する特性を持った自然で良好な特性の画像を得ることができる。
【0074】
また、被写体に動きがある場合にも低輝度側と高輝度側での輪郭のずれを少なくできる。
【0075】
また、本実施の形態では2つの画像を重み付けして加算する場合の重み付け係数f、gの和を1に設定しているので、加算により得られる画像はCCD26bでその画像が飽和するまでの明るさに対応した広いダイナミックレンジを有し、かつDレンジ拡大回路45R等を通す前後で信号レベルが拡大されてしまうことがない。
【0076】
これに対し、特開平6−141229号公報の先行例では2つの画像を一方の画像が飽和する境界付近での重み付け変化させて加算しているので、境界付近から外れた領域では画像合成により信号レベルが数倍に大きくなってしまい、後段側で圧縮する圧縮回路が必要になってしまう。
【0077】
また、この合成画像に対して圧縮回路により、明るさの増加に対して出力レベルが連続的に変化する特性に設定しているが、この場合の圧縮回路の負担が大きくなる。
【0078】
なお、本実施の形態では補正係数pはCCDの特性等に応じて少なくとも上記合成信号Mが明るさの増加に対して単調増加関数となるように選択することが可能である。また、合成信号Mは上記関数、すなわち、xcos2(px)+usin2(px)に限らず、少なくとも、低輝度領域では低速シャッタ時間で撮像した信号を主とし、高輝度領域では高速シャッタ時間で撮像した信号を主とする関数であればよい。
【0079】
なお、図6では簡単化のため、信号x1,x2は明るさyに対して線形に変化する場合で説明したが、線形でない場合にも同様に適用できる。
【0080】
なお、本実施の形態では、色分離回路39によりRGBに色分離してそれぞれのR信号、G信号、B信号に対してR用Dレンジ拡大回路45R、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bによりダイナミックレンジを拡大するとしたが、これに限らず、色分離回路で輝度信号と色差信号に分離し、輝度信号と色差信号の両方あるいは輝度信号のみに対してダイナミックレンジを拡大するように構成しても良い。
【0081】
なお、上述の説明において、例えば図2ではknee&γ補正回路42a、42bの後にDレンジ拡大回路45R,45G,45Bを配置しているので、Dレンジ拡大回路45R,45G,45Bによりknee&γ補正回路42a、42bの機能を兼ねるようにすることもできる。
【0082】
また、本実施の形態では、色分離した後にダイナミックレンジを拡大する構成となっているが、これに限らず、図7に示す変形例のように、R用Dレンジ拡大回路45R、G用Dレンジ拡大回路45G及びB用Dレンジ拡大回路45Bの代わりに、A/D変換器38a、38bによるA/D変換した直後にDレンジ拡大回路60を設け、A/D変換した直後のデジタル信号に対してダイナミックレンジを拡大するように構成してもよく、この場合のその他の構成は本実施の形態と同じである。
【0083】
以上説明したように本実施の形態によれば、画像信号合成手段が撮像手段に入射される光量レベルに応じて、第1の撮像信号と第2の撮像信号の割合を変更して、第1の撮像信号に基づく第1の画像信号と第2の撮像信号に基づく第2の画像信号とを合成するので、撮像信号のダイナミックレンジの拡大において、低輝度側でのS/Nの劣化を防止すると共に、違和感のない滑らかに入出力特性が変化する自然な画像を得ることができるという効果がある。
【0084】
また、本実施の形態によれば、2つのCCD26a、26bで同時に同じ被写体を撮像しているので、1つのCCDのみで繰り返して撮像してDレンジを拡大処理をする場合よりも画面の更新レートを短くでき、動きのある被写体の場合にも、ぶれの少ない画質の良い画像が得られる。
【0085】
また、CCD26a、CCD26bの出力に対して、出力が飽和する値をモニタ7で表示した画像の飽和値にまで増幅する増幅器の機能を例えば図7のDレンジ拡大回路60に持たせることができる。つまり、この場合には、重み付け係数f、gの和を値を1より大きい所定の値に設定してもよい。この場合、Dレンジ拡大回路60の飽和値がモニタ7で表示した画像の飽和値になるように所定の値に設定する。
【0086】
(第2の実施の形態)
次に本発明の第2の実施の形態を説明する。本実施の形態を備えた内視鏡装置は図1において、TVカメラ3内のハーフミラー25を透過する光量と反射する光量との比が例えば1:4となるハーフミラーを採用している。つまり、本実施の形態ではCCD26aと26bとは、同じ時間、共通に撮像するようにしている。
【0087】
この場合、例えば1フィールドとして1/60secの同じ時間だけ両者は撮像するが、CCD26aに入射される光量の1/4だけしかCCD26bには入射されないようにして露光条件(撮像条件)が異なるようにしている。
【0088】
また、図8に示す本実施の形態のカラー撮像装置61では、CCD26aと26bとを共通のCCDドライバ35aで駆動するようにしている。また、本実施の形態ではDレンジ拡大回路62としては図9に示すDレンジ拡大回路62が採用されている。このDレンジ拡大回路62は、図3のR用Dレンジ拡大回路45Rにおいて、ラインメモリ54、54′を付加した構成である。
【0089】
つまり、本実施の形態ではCCD26a、26bの光軸に対するマウント位置がずれた場合(但し、垂直方向は±1画素以内)でも画素を一致させることができる。
【0090】
本実施の形態の作用として、2つのCCD26a、26bを共通して駆動するようにしているので、その駆動系と出力信号に対する信号処理系の構成を簡単化できる。ダイナミックレンジを拡大できることに対しては第1の実施の形態とほぼ同様の効果を有する。
【0091】
また、1つのCCDのみで繰り返して撮像してDレンジ拡大処理をする場合よりも画面の更新レートを短くでき、動きのある被写体の場合にも、ぶれの少ない画質の良い画像が得られる。
【0092】
なお、本実施の形態においては、2つのCCD26a、26bとを素子シャッタの機能による明るさ制御を用いた撮像を行うようにしても良い。この場合には、両CCD26a、26bが同時に素子シャッタとして動作し、単一のCCDで撮像する場合とほぼ同様の制御手段(CCD駆動系及び信号処理系)で処理できる効果もある。
【0093】
なお、図9において、第1LUT52をCCD26bの出力信号で読み出すようにすることもできる。但し、第2LUT51への入力変数値が異なることになるので、係数和が1となる条件を満たすように関数を変更する必要がある。
【0094】
[付記]
1.第1、第2のカラー固体撮像素子と、同一の被写体像を前記第1,第2の2つのカラー固体撮像素子に導いて結像させる光学系を有し、
被写体を前記第1,第2のカラー固体撮像素子によって異なる露出条件で撮像し、第1の固体撮像素子で撮像した露光量の多い第1の撮像信号と、第2の固体撮像素子で撮像した露光量の少ない第2の撮像信号を得る撮像装置において、
前記第1の撮像信号に対しては、該第1の撮像信号レベルを基に画素単位で作成される単調減少関数となる第1の重み付けを、前記第2の撮像信号に対しては、前記第1の撮像信号レベルを基に画素単位で作成される単調減少関数となる第2の重み付けを、前記第1及び第2の重み付けの和が1となる条件下で行う第1及び第2の重み付け処理回路と、
前記第1及び第2の重み付け処理回路により前記第1及び第2の撮像信号に対してそれぞれ前記第1及び第2の重み付けがされた第1及び第2の画像信号とを加算する加算回路と、
とからなる画像信号生成手段と;
前記加算回路から出力される画像信号に対し、表示手段に表示可能な映像信号を生成する信号処理手段と;
を備えたことを特徴とする撮像装置。
【0095】
2.付記1の撮像装置であって、前記2つの露光時間の少なくとも一方の露光時間を可変設定する露光時間設定手段を有する。
【0096】
3.クレーム1の撮像装置であって、前記第1の撮像信号レベルをxとして前記第1の重み付けの関数F1(x)は係数をpとしてCOS2(px)であり、前記第2の重み付けの関数F2(x)はSIN2(px)である。
【0097】
4.付記3の撮像装置であって、前記係数pは、合成された出力信号Mの導関数が所定の光量レベルまでの区間(0≦x≦ys2)において常に零以上となる条件を満たす定数である。
【0098】
5.付記1の撮像装置であって、前記画像信号生成手段は前記第1の撮像信号に対する前記第1の重み付けと前記第2の撮像信号に対する前記第2の重み付けとの各データを格納した重み付けデータ格納手段を有する。
【0099】
6.付記1の撮像装置であって、前記画像信号生成手段は光量レベルに対する前記加算回路から出力される画像信号の微分係数が前記第2の撮像信号が飽和するまでの光量レベルの増加に対して連続的となる特性の画像信号を生成する。
【0100】
7.付記1の撮像装置であって、前記画像信号生成手段は、前記第1の撮像信号と前記第1の撮像信号とを合成し単調増加の画像信号を生成する。
【0101】
8.付記1の撮像装置であって、前記第1,第2のカラー固体撮像素子は両撮像面に入射される光量が互いに異なる入射光量に設定する入射光量設定手段を有する。
【0102】
9.付記8の撮像装置であって、前記入射光量設定手段は反射する光量と透過する光量の比が異なるハーフミラーである。
【0103】
10.付記1の撮像装置であって、前記第1,第2のカラー固体撮像素子は共通の固体撮像素子駆動手段で駆動される。
【0104】
11.2つの撮像素子を用いて、同じ被写体を互いに異なる露光量で撮像した場合におけるその2つの画像信号x,u(a≦x≦:xが飽和しない範囲、x≧u)について、
f(t)+g(t)=1,t=h(x)かつd{f(t)+g(t)}/dt≧0を満たす関数f、g、hを用いて、合成関数M=xf(t)+ug(t)に対し、区間(a≦x≦b)で微分可能な合成関数Mにより画素レートで画像を合成することを特徴とする撮像信号のダイナミックレンジの拡大方法。
【0105】
12.前記f(t)、g(t)及びh(t)がf(t)=cos2(t)、g(t)=sin2(t)、t=pxであることを特徴とする付記11に記載の撮像信号のダイナミックレンジの拡大方法。
【0106】
【発明の効果】
以上説明したように本発明によれば、被写体を第1の露光条件で撮像して第1の撮像信号を出力する第1のカラー撮像手段と、
前記第1の露光条件より露光量が少ない露光条件で前記被写体を撮像して第2の撮像信号を出力する第2のカラー撮像手段と、
前記第1のカラー撮像手段から出力される前記第1の撮像信号の信号レベルに応じて単調減少関数の第1の重み付け係数を発生すると共に、該第1の重み付け係数との和が1となる単調増加関数の第2の重み付け係数を発生する係数発生手段と、
前記第1の撮像信号の撮像信号の信号レベルに対応付けられた前記係数発生手段からの前記第1の重み付け係数で前記第1の撮像信号を重み付けをするとともに、前記第2のカラー撮像手段からの前記第2の撮像信号を重み付けをする重み付け処理手段と、
前記重み付け処理手段からの重み付けされた前記第1の撮像信号と重み付けされた前記第2の撮像信号とを加算し、カラー画像信号を生成する画像信号生成手段と、
を具備しているので、低輝度側では露光量が大きい条件で撮像した第1のカラー撮像手段による第1の撮像信号の重み付けを大きく、逆に高輝度側では露光量が小さい条件で撮像した第2のカラー撮像手段による第2の撮像信号の重み付けを大きくして画像信号を生成して、その画像信号のダイナミックレンジの拡大を行い、かつ低輝度側でのS/Nの劣化を防止すると共に、違和感のない滑らかな自然な画像が得られる。また、ぶれの少ない画質の良い画像が得られる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態を備えた内視鏡装置の全体構成図。
【図2】第1の実施の形態のカラー撮像装置の構成を示すブロック図。
【図3】図2のR用Dレンジ拡大回路の構成を示すブロック図。
【図4】図3の第1LUT及び第2LUTのメモリマップと入力信号により第1LUT及び第2LUTから重み付けされた係数が出力される様子を示す図。
【図5】図3のR用Dレンジ拡大回路の各信号のタイミングを示すタイミングチャート図。
【図6】図3のR用Dレンジ拡大回路の作用を説明する説明図。
【図7】図2のカラー撮像装置の変形例の構成を示すブロック図。
【図8】本発明の第2の実施の形態のカラー撮像装置の構成を示すブロック図。
【図9】Dレンジ拡大回路の構成を示すブロック図。
【符号の説明】
1…内視鏡装置
2…光学式内視鏡
3…TVカメラ
5…光源装置
6…CCU
7…モニタ
8…挿入部
16…対物レンズ
25…ハーフミラー
26a、26b…CCD
28…映像処理回路
31…カラー撮像装置
33…SSG
34…タイミングジェネレータ
35a、35b…CCDドライバ
36a、36b…プリアンプ
38a、38b…A/D変換器
39a、39b…色分離回路
40a、40b…ホワイトバランス回路
45…Dレンジ拡大回路
45R…R用Dレンジ拡大回路
45G…G用Dレンジ拡大回路
45B…B用Dレンジ拡大回路
46…エンハンス回路
47…D/A変換器
51…第1LUT
52…第2LUT
53…第1乗算器
54…フィールドメモリ
55…第2乗算器
56…加算器
Claims (1)
- 被写体を第1の露光条件で撮像して第1の撮像信号を出力する第1のカラー撮像手段と、
前記第1の露光条件より露光量が少ない露光条件で前記被写体を撮像して第2の撮像信号を出力する第2のカラー撮像手段と、
前記第1のカラー撮像手段から出力される前記第1の撮像信号の信号レベルに応じて単調減少関数の第1の重み付け係数を発生すると共に、該第1の重み付け係数との和が1となる単調増加関数の第2の重み付け係数を発生する係数発生手段と、
前記第1の撮像信号の撮像信号の信号レベルに対応付けられた前記係数発生手段からの前記第1の重み付け係数で前記第1の撮像信号を重み付けをするとともに、前記第2のカラー撮像手段からの前記第2の撮像信号を重み付けをする重み付け処理手段と、
前記重み付け処理手段からの重み付けされた前記第1の撮像信号と重み付けされた前記第2の撮像信号とを加算し、カラー画像信号を生成する画像信号生成手段と、
を具備したことを特徴とする撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002194909A JP2004040480A (ja) | 2002-07-03 | 2002-07-03 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002194909A JP2004040480A (ja) | 2002-07-03 | 2002-07-03 | 撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004040480A true JP2004040480A (ja) | 2004-02-05 |
Family
ID=31703484
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002194909A Pending JP2004040480A (ja) | 2002-07-03 | 2002-07-03 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004040480A (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100672856B1 (ko) | 2005-04-14 | 2007-01-22 | 한국과학기술연구원 | 넓은 다이내믹 레인지를 갖는 카메라 영상신호 처리장치 |
JP2007283090A (ja) * | 2006-03-24 | 2007-11-01 | Olympus Corp | 画像計測装置および方法 |
JP2011223221A (ja) * | 2010-04-08 | 2011-11-04 | Nippon Hoso Kyokai <Nhk> | 撮影装置および画像統合プログラム |
EP2481340A1 (en) | 2011-02-01 | 2012-08-01 | Fujifilm Corporation | Electronic endoscope system |
CN103260499A (zh) * | 2011-08-15 | 2013-08-21 | 奥林巴斯医疗株式会社 | 摄像装置 |
WO2016035401A1 (ja) * | 2014-09-03 | 2016-03-10 | オリンパス株式会社 | 内視鏡装置 |
WO2017217498A1 (ja) * | 2016-06-16 | 2017-12-21 | 国立大学法人東京農工大学 | 内視鏡用拡張装置 |
-
2002
- 2002-07-03 JP JP2002194909A patent/JP2004040480A/ja active Pending
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100672856B1 (ko) | 2005-04-14 | 2007-01-22 | 한국과학기술연구원 | 넓은 다이내믹 레인지를 갖는 카메라 영상신호 처리장치 |
JP2007283090A (ja) * | 2006-03-24 | 2007-11-01 | Olympus Corp | 画像計測装置および方法 |
US8619125B2 (en) | 2006-03-24 | 2013-12-31 | Olympus Corporation | Image measuring apparatus and method |
JP2011223221A (ja) * | 2010-04-08 | 2011-11-04 | Nippon Hoso Kyokai <Nhk> | 撮影装置および画像統合プログラム |
EP2481340A1 (en) | 2011-02-01 | 2012-08-01 | Fujifilm Corporation | Electronic endoscope system |
US8740778B2 (en) | 2011-02-01 | 2014-06-03 | Fujifilm Corporation | Electronic endoscope system |
CN103260499A (zh) * | 2011-08-15 | 2013-08-21 | 奥林巴斯医疗株式会社 | 摄像装置 |
WO2016035401A1 (ja) * | 2014-09-03 | 2016-03-10 | オリンパス株式会社 | 内視鏡装置 |
US10548461B2 (en) | 2014-09-03 | 2020-02-04 | Olympus Corporation | Endoscope apparatus |
WO2017217498A1 (ja) * | 2016-06-16 | 2017-12-21 | 国立大学法人東京農工大学 | 内視鏡用拡張装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI390971B (zh) | 成像裝置,成像處理方法及成像控制程式 | |
US6204881B1 (en) | Image data processing apparatus which can combine a plurality of images at different exposures into an image with a wider dynamic range | |
JP3382359B2 (ja) | 撮像装置 | |
JP5022105B2 (ja) | カメラの表示制御装置及び方法 | |
US20010055428A1 (en) | Image signal processor with adaptive noise reduction and an image signal processing method therefor | |
KR20090126185A (ko) | 촬상장치 및 촬상방법 | |
JP2003046859A (ja) | 画像撮像装置及び方法 | |
JP2005142680A (ja) | 画像処理装置 | |
JP2000078463A (ja) | 画像取り込み装置 | |
JP2004040480A (ja) | 撮像装置 | |
JP2005073077A (ja) | 固体撮像装置 | |
JP3607816B2 (ja) | 電子内視鏡装置 | |
JP3834354B2 (ja) | 撮像装置 | |
JP2013070334A (ja) | 画像記録装置、その制御方法、および制御プログラム | |
JP2003204932A (ja) | 内視鏡撮像システム | |
JP2003319269A (ja) | 固体撮像装置および撮像方法 | |
JPH11155808A (ja) | 内視鏡撮像装置 | |
JP6152009B2 (ja) | 撮像装置、撮像方法、プログラム、及び記録媒体 | |
JP5423201B2 (ja) | 画像処理装置、画像処理プログラム | |
JPH11155108A (ja) | 映像信号処理装置と処理方法、それを用いたビデオカメラ | |
JP3696005B2 (ja) | 電子内視鏡装置 | |
EP0923236B1 (en) | Endoscopic apparatus | |
JPH11155098A (ja) | 信号処理装置および方法 | |
JP3519002B2 (ja) | 撮像装置 | |
JP6886026B2 (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050512 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070622 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070703 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20071030 |