JP2007251898A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2007251898A
JP2007251898A JP2006076384A JP2006076384A JP2007251898A JP 2007251898 A JP2007251898 A JP 2007251898A JP 2006076384 A JP2006076384 A JP 2006076384A JP 2006076384 A JP2006076384 A JP 2006076384A JP 2007251898 A JP2007251898 A JP 2007251898A
Authority
JP
Japan
Prior art keywords
characteristic
photoelectric conversion
conversion
logarithmic
linear
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006076384A
Other languages
English (en)
Other versions
JP4893042B2 (ja
Inventor
Koichi Kanbe
幸一 掃部
Kenichi Kakumoto
兼一 角本
Tsuyoshi Iwamoto
剛志 岩本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2006076384A priority Critical patent/JP4893042B2/ja
Priority to US11/717,882 priority patent/US8013918B2/en
Publication of JP2007251898A publication Critical patent/JP2007251898A/ja
Application granted granted Critical
Publication of JP4893042B2 publication Critical patent/JP4893042B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/571Control of the dynamic range involving a non-linear response
    • H04N25/573Control of the dynamic range involving a non-linear response the logarithmic type
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/571Control of the dynamic range involving a non-linear response
    • H04N25/575Control of the dynamic range involving a non-linear response with a response composed of multiple slopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Nonlinear Science (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Solid State Image Pick-Up Elements (AREA)

Abstract

【課題】第1の光電変換特性と、第1の光電変換特性とは異なる第2の光電変換特性と、第1と第2の光電変換特性との過渡的な特性を示す第3の光電変換特性とを有する撮像素子を備えた撮像装置において、第1と第2と第3の光電変換特性に階調変換処理を施すことにより、階調特性が同一の特性にされた撮像装置を提供すること。
【解決手段】第1の光電変換特性と、第1の光電変換特性とは異なる第2の光電変換特性と、第1と第2の光電変換特性との過渡的な特性を示す第3の光電変換特性とを有する撮像素子を備えた撮像装置において、第1、第2および第3の光電変換特性を基準光電変換特性に変換する特性変換部を備え、第1と第2と第3の光電変換特性に階調変換処理を施すことにより、画像全体の階調特性が同一の特性にされた撮像装置を提供することができる。
【選択図】図1

Description

本発明は、撮像装置に関し、特に、第1の光電変換特性と、第1の光電変換特性とは異なる第2の光電変換特性と、第1と第2の光電変換特性との過渡的な特性を示す第3の光電変換特性とを有する撮像素子を備えた撮像装置に関する。
近年、先進安全自動車(ASV:Advanced Safety Vehicle)と呼ばれる安全に配慮した自動車が各方面で開発されているが、中でも車載カメラの画像を用いて安全走行に寄与しようという取り組みが行われている(例えば、非特許文献1参照)。
車載カメラにおいては、太陽光の直射からトンネルの中まで非常に輝度範囲が広く輝度変動も激しい被写体を撮影することが求められるため、撮像素子が扱うことのできる被写体の輝度範囲、すなわちダイナミックレンジ(以下、Dレンジと言う)を拡大させることが1つの大きなテーマとなっている。また、自動車の走行速度が早いために通常のフレームレートでは画像が流れてしまうので(例えば時速100kmの場合、通常の30フレーム/秒の撮影では、1フレーム間に約93cm走行する)被写体を確実に捉えるために高フレームレート(例えば通常の10倍程度)での撮影が求められている。
上述したDレンジの拡大に関し、フォトダイオード等の光電変換素子をマトリクス状に配置してなる固体撮像素子に、MOSFET等を備えた対数変換回路を付加し、前記MOSFETのサブスレッショルド特性を利用することで、固体撮像素子の出力特性を入射光量に対して電気信号が対数的に変換されるようにした対数変換型撮像素子(以下、ログセンサと言う)が知られている(例えば、特許文献1参照)。
しかし、特許文献1で提案されたログセンサでは、撮像面照度が高い方から低い方へ、すなわち被写体の輝度が明から暗に変化した場合に残像が大きく、例えば夜間の動画撮影の場合、自動車のヘッドライト等の光が人魂のように尾を引いてしまい、画像の認識が困難であった。
そこで、上述したログセンサにおいて、MOSFETに特定のリセット電圧を与えることで、固体撮像素子本来の出力特性、すなわち入射光量に応じて電気信号が線形的に変換されて出力される線形動作状態と、前述の対数動作状態とを自動的に切り替えることが可能(以下、リニアログ特性と言う)にされた線形対数変換型撮像素子(以下、リニアログセンサと言う)が提案されている(例えば、特許文献2参照)。これによって、上述した残像の問題が解決されることで、Dレンジの拡大と低照度での感度向上が可能となり、高フレームレートでの撮影にも対応できるようになった。
また、ASVでは、安全走行のために、車載カメラで撮影した画像を画像処理して、例えば前方を走行する車両や障害物等を抽出して追尾するようなことが行われる。このような場合に、上述したリニアログセンサで撮影された画像のように画像内に線形特性の部分と対数特性の部分とが混在した画像では、画像処理が煩雑となって処理時間がかかり、そのままでは高速での処理が必要とされる車載カメラの画像処理には適さない。
そこで、リニアログセンサを用いた撮像装置において、線形特性領域および対数特性領域に応じた階調変換処理を施すことによって画像全体の階調特性を同一の特性にする方法が提案されている(例えば、特許文献3参照)。
特開平11−298798号公報 特開2002−77733号公報 特開2005−348005号公報図11 日産自動車株式会社「日産自動車、世界初のレーンキープサポートシステムを新型シーマに搭載」(http://www.nissan-global.com/GCC/Japan/NEWS/20001228_0.html:2006年2月22日検索)
上述した特許文献3においては、同文献の図11に示すように、リニアログセンサでは線形特性領域と対数特性領域との切り替わり点(以下、変曲点と言う)を境に線形特性領域と対数特性領域とが完全に切り替わるとして取り扱われているが、実際には線形特性領域と対数特性領域との境界には両者の間の過渡的な特性を示す領域(以下、T−Log領域と言う)が存在する。通常の動作状態ではT−Log領域は狭いために問題とはならず、変曲点を境に線形特性領域と対数特性領域とが完全に切り替わるとして取り扱っても問題ない。しかしながら、本発明の図22乃至図26の説明で後述するように、例えば車載カメラで求められているような高フレームレートでの撮影時や、例えば変曲点を撮像素子の出力の高いレベルに設定した時のように線形特性領域が広い場合には、T−Log領域が広くなり、線形特性でも対数特性でもないT−Log領域の階調変換処理が必要となってくる。
本発明は、上記事情に鑑みてなされたもので、第1の光電変換特性と、第1の光電変換特性とは異なる第2の光電変換特性と、第1と第2の光電変換特性との過渡的な特性を示す第3の光電変換特性とを有する撮像素子を備えた撮像装置において、第1と第2と第3の光電変換特性に階調変換処理を施すことにより、画像全体の階調特性が同一の特性にされた撮像装置を提供することを目的とする。
本発明の目的は、下記構成により達成することができる。
1.第1の光電変換特性と、前記第1の光電変換特性とは異なる第2の光電変換特性と、前記第1と第2の光電変換特性との過渡的な特性を示す第3の光電変換特性とを有する撮像素子を備えた撮像装置において、
前記第1、第2および第3の光電変換特性を基準光電変換特性に変換する特性変換部を備えたことを特徴とする撮像装置。
2.前記第1の光電変換特性は線形特性で、前記第2の光電変換特性は対数特性であり、前記基準光電変換特性は線形特性であることを特徴とする1に記載の撮像装置。
3.前記第1の光電変換特性は線形特性で、前記第2の光電変換特性は対数特性であり、前記基準光電変換特性は対数特性であることを特徴とする1に記載の撮像装置。
4.前記撮像装置が備える特性変換部は、前記第1および第2の光電変換特性を前記基準光電変換特性に変換する方法とは異なった方法で、前記撮像装置が備える第3の光電変換特性を前記基準光電変換特性に変換することを特徴とする1乃至3の何れか1項に記載の撮像装置。
5.前記撮像装置が備える特性変換部は、前記撮像装置が備える第3の光電変換特性を、切り替わり点を境に前記第1または第2の光電変換特性の何れかと見なして前記基準光電変換特性に変換することを特徴とする1乃至3の何れか1項に記載の撮像装置。
6.前記切り替わり点は、前記第1および第2の光電変換特性の延長線の交点であることを特徴とする5に記載の撮像装置。
7.前記撮像装置が備える特性変換部は、メモリを含むルックアップテーブルから成ることを特徴とする1乃至6の何れか1項に記載の撮像装置。
本発明によれば、第1の光電変換特性と、第1の光電変換特性とは異なる第2の光電変換特性と、第1と第2の光電変換特性との過渡的な特性を示す第3の光電変換特性とを有する撮像素子を備えた撮像装置において、第1、第2および第3の光電変換特性を基準光電変換特性に変換する特性変換部を備え、第1と第2と第3の光電変換特性に階調変換処理を施すことにより、画像全体の階調特性が同一の特性にされた撮像装置を提供することができる。
以下、図面に基づき本発明の実施の形態を説明する。なお、図中、同一あるいは同等の部分には同一の番号を付与し、重複する説明は省略する。
まず、本発明が解決しようとする課題について、図22乃至図26を用いて詳述する。
図22は、撮像素子を構成する各構成要素の配置の一例を示す模式図である。本例では、撮像素子はCMOS(相補型金属酸化膜半導体)型撮像素子としている。
撮像素子162は、撮像面162a上に、水平と垂直に配列された複数の画素162bと、垂直走査回路162c、サンプルホールド回路162d、出力回路162e、水平走査回路162f、出力アンプ162g、タイミングジェネレータ162h等の構成要素を備え、画素162bの各水平行毎の並びと垂直走査回路162cとは行選択線162iで結ばれ、画素162bの各垂直列毎の並びとサンプルホールド回路162dとは垂直信号線162jで結ばれている。
撮像素子162の撮像動作は、制御部151からの撮像制御信号151aに従って、タイミングジェネレータ162hによって制御され、撮像素子162の出力である撮像データ162kは、アナログデジタル(A/D)変換器163に向けて入力される。撮像動作の詳細は、図24で詳述する。
図23は、撮像素子162を構成する、線形特性領域と対数特性領域との2つの光電変換特性を有する画素162bの回路の第1の実施の形態を示す回路図である。
画素162bは、埋め込み型フォトダイオードPD(以下、PD部と言う)と、NチャンネルMOSFET(金属酸化膜半導体電界効果型トランジスタ:以下、トランジスタと言う)Q1〜Q4とから構成されている。トランジスタQ1のドレインとQ2のソースの接続部は、フローティングディフュージョンFD(以下、FD部と言う)で構成されている。リセット信号φRST、転送信号φTX、読出信号φVは、各トランジスタに対する制御信号(電位)を示し、VDDは電源、GNDは接地、RSBはFD部のリセット電位を示している。
PD部は、アノードが接地され、カソードがトランジスタQ1のソースに接続されている。PD部は光電変換部であり、被写体からの入射光量に応じた光電流Ipが発生され、光電流Ipは光電荷QpとしてPD部の寄生容量Cpに蓄積される。
トランジスタQ1は転送ゲートと呼ばれ、ソースがPD部のカソードに、ドレインがトランジスタQ2のソースとトランジスタQ3のゲートの接続部、つまりFD部に、ゲートが転送信号φTXにそれぞれ接続されており、ゲート電位を中間電位VMにすることでPD部の光電流Ipをリニアログ特性で光電変換し、ゲート電位を高電位VHにすることでPD部の寄生容量Cpに蓄積された光電荷QpをFD部に完全転送する。
FD部は、PD部の寄生容量Cpに蓄積された光電荷Qpを完全転送して読み出すための容量性の読み出し部であり、その容量値をCfdとする。
トランジスタQ2はリセットゲートと呼ばれ、ドレインがリセット電位RSBに、ソースがFD部に、ゲートがリセット信号φRSTにそれぞれ接続され、ゲート電位を電源電位VDDにすることでFD部をリセット電位RSBにリセットする。
トランジスタQ3は、ソースフォロワ増幅回路を構成するもので、ドレインが電源電位VDDに、ソースがトランジスタQ4のドレインに、ゲートがFD部にそれぞれ接続され、FD部の電位Vfdに対して電流増幅を行うことで、出力インピーダンスを下げる働きをする。
トランジスタQ4は、出力読出用のトランジスタで、ドレインがトランジスタQ3のソースに、ソースが垂直信号線VSLに、ゲートが読出信号φVにそれぞれ接続され、ゲート電位を電源電位VDDにすることで、FD部の電位VfdをトランジスタQ3を介して低インピーダンス化して、画素出力Voutとして垂直信号線VSLに導出する。
図24は、図23に示した画素162bを、一般的なCMOS型撮像素子の駆動方法であるローリングシャッタ方式で駆動する場合のタイミングチャートである。
まず、時間t1〜t2において、リセット信号φRSTが電源電位VDDにされて、FD部がリセット電位RSBにリセット(初期化)される。同時に転送信号φTXが中間電位VMにされることで、トランジスタQ1はリニアログ変換動作状態となり、PD部で光電変換された光電流Ipがリニアログ特性に変換され、光電荷Qpが時間t1〜t2の間PD部の寄生容量Cpに蓄積される。時間t2でリセット信号φRSTと転送信号φTXがともに接地電位GNDにされて、FD部の初期化が終了される。時間t1〜t2が所謂露出時間である。
時間t3〜t4で読出信号φVが電源電位VDDにされることで、FD部の初期化状態の電位VfdがトランジスタQ3とQ4とを介してリセットノイズ信号Vnとして垂直信号線VSLに出力される。時間t5〜t6で転送信号φTXが高電位VHにされることで、PD部の寄生容量Cpに蓄積された光電荷QpがFD部に完全転送されるとともに、PD部に蓄積された電荷が0(ゼロ)となり、PD部が初期化される。
時間t7〜t8で読出信号φVが電源電位VDDにされることで、FD部に転送された光電荷Qpによる電位VfdがトランジスタQ3とQ4とを介して光電変換信号Vsとして垂直信号線VSLに出力される。垂直信号線VSLに出力されたリセットノイズ信号Vnと光電変換信号Vsとは、図22に示したサンプルホールド回路162dで差分がとられ、画素信号Vpxとなる(Vpx=Vs−Vn)。
画素信号Vpxの水平1行分が、図22に示した水平走査回路162fの図示しない水平走査信号に従って、出力回路162eからアンプ162gを介して、水平1行分の撮像データ162kとしてA/D変換器163に向けて出力される。上述した動作が水平画素行毎にタイミングをずらして繰り返される。
リニアログセンサでは、その光電変換特性は線形特性領域と対数特性領域に分けられるが、線形特性領域と対数特性領域をつなぐ部分では、そのどちらでもない(両方の特性の間の過渡的な特性を示す)領域が発生する。次に、その領域についての説明を行う。
時間t1〜t2では、トランジスタQ1は、PD部のポテンシャルが、トランジスタQ1のゲート電位=転送信号φTX=VMによって設定されるポテンシャル値からトランジスタQ1の閾値Vth分低いポテンシャルに達するまでは、カットオフ状態であり、光電流Ipは全て寄生容量Cpへ蓄積されるため、この領域においては光電変換特性は(1式)の線形特性を示す。
Figure 2007251898
ここに、tは光電流Ipの蓄積時間、Vpiは上述した時間t5〜t6でのPD部の初期化電位(転送信号φTXの高電位VHによって決まる)である。
光電流Ipの蓄積が進み、PD部のポテンシャルが、トランジスタQ1のゲート電位=転送信号φTX=VMによって設定されるポテンシャル値からトランジスタQ1の閾値Vth分低いポテンシャルに達すると、トランジスタQ1がサブスレッショルド状態となり、トランジスタQ1に電流Idが流れ出す。光電流IpとトランジスタQ1の電流Idが釣り合った状態になると、(2式)の対数変換特性となる。
Figure 2007251898
ここに、nはゲート絶縁膜容量と空乏層容量によって決まる値、kはボルツマン定数、Tは絶対温度、qは:素電荷、IDOはトランジスタQ1のサイズにより決まる定数である。
トランジスタQ1の電流Idが流れ始めた時から、光電流IpとトランジスタQ1の電流Idが釣り合った状態になるまでの間が上述したT−Log領域である。T−Log領域では、PD部の電位Vpは、トランジスタQ1の電流Idによる寄生容量Cpの充電と光電流Ipによる寄生容量Cpの放電の差分の電流Ic(Ic=Ip−Id)で決まる。トランジスタQ1の電流Idが流れ始めた時点では、光電流IpはトランジスタQ1の電流Idに比べて十分大きいため、差分の電流Icはほぼ光電流Ipに等しく、PD部の電位Vpはほぼ線形特性を示す。寄生容量Cpの電荷の放電が進むと、トランジスタQ1の電流Idが指数的に増加するので、PD部の電位Vpの線形特性が徐々に鈍り、滑らかに対数特性に移行する。
T−Log領域の光電変換特性は、対数変換特性において、光電流が急激に変わった場合の時間応答に関する式を用いて表すことができ、以下のようになる。
Figure 2007251898
ここに、IiはIdが流れ始めた時の光電流である。
以上の(1式)から(3式)を図25に示す。図25は、光電変換特性の時間変化を示す模式図で、図25(a)は横軸に時間tを、縦軸に電流Iをとり、光電流IpとトランジスタQ1の電流Idと寄生容量Cpの放電電流Icの関係を示してある。図25(b)は横軸に時間tを、縦軸にPD部の電位Vpをとってある。
図25(a)において、実線で示したPD部の光電流Ipに対して、一点鎖線で示したトランジスタQ1の電流Idは、図24の時間t1ではほとんど0(ゼロ)であり、破線で示した寄生容量Cpの放電電流IcはほぼPD部の光電流Ipに等しい。そのため、図25(b)に示すように、PD部の電位Vpは、時間t1での初期値Vpiから直線的に低下し(線形特性)、トランジスタQ1のゲートの中間電位VMからトランジスタQ1の閾値Vth分低い電位に達する時間txまで線形特性が継続される。時間tx以降、図25(a)に示すように、トランジスタQ1の電流Idは指数関数的に増大し、寄生容量Cpの放電電流Icは指数関数的に減少する。
よって、図25(b)に示すように、PD部の電位Vpは、(3式)に従って、線形特性から徐々に傾きが減少して、トランジスタQ1の電流Idが光電流Ipと等しくなる時間tyには傾きが0(ゼロ)になる。時間ty以降、PD部の電位Vpは(2式)で表される対数特性となり、PD部の電位Vpは一定値Vlogを示す。
図26は、フレームレートを変化させた時の光電変換特性を示す模式図で、横軸に撮像素子162bのセンサ面照度Lを対数軸でとり、縦軸に光電変換出力つまりPD部の電位Vpの初期値Vpiからの変化分を、図25とは極性を逆にして示している。
図26において、通常のフレームレートの例(30fps)では、低照度側から光電変換特性が線形特性で立ち上がり、変曲点TPで対数特性に切り替わる。変曲点TP近傍では、図の一点鎖線円内に拡大図を示したように、通常のフレームレートの場合においても線形特性から対数特性に滑らかに切り替わるT−Log領域が存在するが、その範囲は狭いため通常は無視できる程度である。
これに対して、高フレームレートの例(300fps)では、PD部の光電流Ipの蓄積時間が通常のフレームレートの場合の1/10程度と短くなるため、線形特性領域が広くなり、変曲点TPは、通常のフレームレートの場合に比べて、センサ面照度Lの高い方に移動する。従って、変曲点でのPD部の光電流Ipは通常のフレームレートの場合よりも大きくなり、図25の時間tx、つまりトランジスタQ1の電流Idが流れ始める時点での光電流Ipが大きくなるので、T−Log領域の範囲が通常のフレームレートの場合よりも広くなる。
その場合、撮影された画面内のT−Log特性で撮影された部分が多くなり、この領域に線形特性あるいは対数特性に適した階調変換処理を行うと誤った画像処理が行われてしまうため、T−Log特性領域の存在が無視できなくなる。以上が、本発明が解決しようとする課題の詳細である。
さらに、撮像素子162の第2の実施の形態について、図27を用いて説明する。図27は、撮像素子162を構成する画素162bの第2の実施の形態を示す模式図で、図27(a)は画素162bの回路図、図27(b)は画素162bの駆動方法を示すタイミングチャートである。
図27(a)に示した画素162bの回路は、図23に示した画素回路からトランジスタQ1を削除したもので、その他は同じ回路構成である。図27の回路では、図23のトランジスタQ1とQ2の役割をトランジスタQ2が行っている。図27(b)において、まず、時間t1〜t2で、トランジスタQ2のゲート電位VGが電源電位VDDにされることでPD部のリセット(初期化)が行われる。その後、時間t2でトランジスタQ2のゲート電位VGが中間電位VMにされることでPD部の光電流Ipがリニアログ特性に変換される状態となり、時間t2〜時間t3でリニアログ特性での光電荷Qpの蓄積が行われる。
時間t3〜t4で読出信号φVが電源電位VDDにされることで、PD部の電位VpがトランジスタQ3とQ4とを介して光電変換信号Vsとして垂直信号線VSLに出力される。時間t5〜t6で再度トランジスタQ2のゲート電位VGが電源電位VDDにされることでPD部のリセット(初期化)が行われ、時間t7〜t8で再度読出信号φVが電源電位VDDにされることでPD部のリセット電位VpがトランジスタQ3とQ4とを介してノイズ信号Vnとして垂直信号線VSLに出力される。
光電変換信号Vsとノイズ信号Vnとは、例えば図22に示したサンプルホールド回路162dにて差分がとられ、撮像データ162kとしてA/D変換器163に向けて出力され、A/D変換器163でデジタル撮像データ163aに変換される。
本撮像素子162の第2の実施の形態においても、図23に示した撮像素子162の第1の実施の形態と同様、本発明が解決しようとする課題である、図26に示したような変曲点近傍の線形特性と対数特性との過渡的な特性を示す領域(T−Log領域)が存在する。
次に、上述した課題を解決するための方法について説明する。まず、本発明における撮像装置の構成の一例を、図1を用いて説明する。図1は、撮像装置の内部構成を示すブロック図である。
撮像装置1は、レンズ131、レンズ駆動部133、絞り121、絞り駆動部123、制御部151、撮像素子162、アナログデジタル(A/D)変換器163、画像処理部165、記録媒体181、操作部111および表示部113等からなる。撮像素子162は、図22および図23に示したものである。
被写体からの光はレンズ131で集光され、絞り121で適正光量にされて撮像素子162上に結像される。撮像素子162上に結像された被写体からの光は撮像素子で光電変換され、撮像データ162kとしてA/D変換器163に向けて出力され、A/D変換器163でデジタル撮像データ163aに変換される。
デジタル撮像データ163aは画像処理部165に入力され、後述する階調変換処理を含む所定の画像処理が施され、画像データ165aとして制御部151に向けて出力される。画像データ165aは、制御部151により記録媒体181に記録され、必要に応じて表示部113に表示される。一方、制御部151は、レンズ駆動部133を介してレンズ131のピント調節(所謂AF動作)を行い、絞り駆動部123を介して絞り121の制御(所謂AE動作)を行う。
上述した各動作は、撮影者が操作部111を操作することにより操作部111から制御部151に入力される操作信号111aに従って、制御部151により制御される。
次に、本発明の第1の実施の形態について、図2乃至図6を用いて説明する。図2は、デジタル撮像データ163aに階調変換処理を施すための特性変換部200の構成を示す回路ブロック図である。特性変換部200は画像処理部165に含まれる。
図2において、特性変換部200は、記憶部201と、メモリで構成されるルックアップテーブル(以下、LUTと言う)203とで構成される。記憶部201には撮像素子162の駆動条件(露出時間、変曲点レベル)に応じた複数の変換テーブルが格納されており、撮影時の撮像素子162の駆動条件に応じた変換テーブルの値が変換データ201aとしてLUT203に向けて出力される。変換データ201a、すなわち変換テーブルは変換前のデータと変換後のデータの組からなり、LUT203を構成するメモリの、変換前のデータの値が示すアドレスに変換後のデータが格納される。尚、記憶部201からLUT203への変換データ201aの出力は、制御部151によって制御される。
画像処理部165に入力されたデジタル撮像データ163aは、LUT203に入力される。LUT203では、デジタル撮像データ163aの値に相当するメモリのアドレスに格納されている変換データ201aが、画像データ165aとして出力されることにより、階調変換が行われる。
図3は、図2に示した記憶部201に格納される変換テーブルの作成方法を説明するための光電変換特性の模式図で、x軸に撮像素子162のセンサ面照度Lを対数軸でとり、y軸にデジタル撮像データ163aを線形軸でとってある。ここでは、理解を助けるためにx軸には1ルクスから1000ルクスまで、y軸には0(ゼロ)から255(8ビット)までの目盛を記載してあるが、センサ面照度Lの照度範囲およびデジタル撮像データ163aの範囲(ビット数)はこれには限らない。
変換テーブルは、例えば撮像装置1の出荷時の調整において作成され、記憶部201に格納される。調整の工程は以下に示す通りである。
(1)光電変換特性測定工程:上述した撮像素子162の駆動条件(露出時間、変曲点レベル)毎にセンサ面照度Lを変えて光電変換特性を測定し、デジタル撮像データ163aを得る工程である。
具体的な測定方法の一例としては、撮像素子162の駆動条件(露出時間、変曲点レベル)を設定し、撮像装置1を輝度箱と呼ばれる均一輝度面を持つ測定装置の輝度面に向けて撮像素子162上に均一な光を入射させ、輝度箱の輝度値を変えることでセンサ面照度Lを変化させて各照度で撮影を行った後、画像処理部165に入力されるデジタル撮像データ163aに画像処理を施さないで画像データ165aを記録媒体181に記録し、記録された画像データ165aから不図示のパーソナルコンピュータにて各センサ面照度Lにおける画像データ163aの平均値(全画面平均や画面中央部の部分平均等)を算出し、この平均値から以下に示す光電変換特性モデルを算出する。
まず、図3において、得られたデジタル撮像データ163aの低照度側のデータから線形特性のモデル式を算出する。具体的には、(1式)の定数項を記号に置き換えて書き直した線形特性の式
Figure 2007251898
の係数aとbとを求める。ここに、y=Vp、x=Ipである。
同様に、高照度側のデータから(2式)の定数項を記号に置き換えて書き直した対数特性のモデル式
Figure 2007251898
の係数cとdとを求める。
求められたモデル式((4式)と(5式))と測定で得られたデジタル撮像データ163aとを比較し、モデル式から所定値以上外れているデジタル撮像データ163aの範囲をT−Log領域とする。得られた、T−Log領域のデジタル撮像データ163aから、(3式)の定数項を記号に置き換えて書き直したT−Log特性のモデル式
Figure 2007251898
の係数k、m、n、jを算出する。
(2)変換テーブル作成工程:以上のようにして得られた3つの光電変換特性モデル式((4式)、(5式)、(6式))に基づき、変換テーブルを作成する工程である。
まず、3つの光電変換特性が切り替わるポイントのデジタル撮像データ163aの値Th1およびTh2を求める。Th1は線形特性からT−Log特性への切り替わり点で、(4式)と(6式)とが重なるか、もしくは交差する点のデジタル撮像データ163aの値として求められ、Th2はT−Log特性から対数特性への切り替わり点で、(5式)と(6式)とが重なるか、もしくは交差する点のデジタル撮像データ163aの値として求められる。
以上で求められた切り替わり点Th1およびTh2と3つの光電変換特性モデル式((4式)、(5式)、(6式))とから変換テーブルが作成される。ここでは、階調変換処理として、(イ)変換後の光電変換特性を撮像素子162の対数特性に統一して出力する処理、(ロ)変換後の光電変換特性を撮像素子162の線形特性に統一して出力する処理、の2種類を考え、それぞれの変換テーブルを作成する。
まず、(イ)の変換後の光電変換特性を撮像素子162の対数特性に統一して出力する処理について、図4を用いて説明する。図4は、図3にデジタル画像データ163aから対数特性の画像データ165aへの変換テーブルを追加した模式図である。
この場合は、変換テーブルは3つの変換特性からなる。第1の変換特性CC1は線形特性を撮像素子162の対数特性に変換するもので、(4式)を入力とし(5式)を出力とした変換テーブルであり、その変換範囲は入力0(ゼロ)〜Th1の範囲である。第2の変換特性CC2はT−Log特性を撮像素子162の対数特性に変換するもので、(6式)を入力とし(5式)を出力とした変換テーブルであり、その変換範囲は入力Th1〜Th2の範囲である。第3の変換特性CC3は対数特性を撮像素子162の対数特性に変換するもので、(5式)を入力とし(5式)を出力とした変換テーブル(ただし、ここでは同じ(5式)のため、入力がそのままスルーされる)であり、その変換範囲は入力Th2〜デジタル撮像データ163aの最大値の範囲である。
なお、この例では出力する対数特性を撮像素子162の対数特性である(5式)としているが、これに限るものではなく、任意の対数特性であっても良い。その場合は、第3の変換特性CC3においても(5式)から任意の対数特性への変換を行う必要がある。
次に、(ロ)の変換後の光電変換特性を撮像素子162の線形特性に統一して出力する処理について、図5を用いて説明する。図5は、図3にデジタル画像データ163aから線形特性の画像データ165aへの変換テーブルを追加した模式図である。
この場合も、変換テーブルは3つの変換特性からなる。第4の変換特性CC4は線形特性を撮像素子162の線形特性に変換するもので、(4式)を入力とし(4式)を出力とした変換テーブル(ただし、ここでは同じ線形特性のため、入力に係数が乗算されるだけである)であり、その変換範囲は入力0(ゼロ)〜Th1の範囲である。第5の変換特性CC5はT−Log特性を撮像素子162の線形特性に変換するもので、(6式)を入力とし(4式)を出力とした変換テーブルであり、その変換範囲は入力Th1〜Th2の範囲である。第6の変換特性CC6は対数特性を撮像素子162の線形特性に変換するもので、(5式)を入力とし(4式)を出力とした変換テーブルであり、その変換範囲は入力Th2〜デジタル撮像データ163aの最大値の範囲である。
なお、この例では出力する線形特性を撮像素子162の線形特性である(4式)としているが、これに限るものではなく、任意の線形特性であっても良い。
以上に述べた(イ)と(ロ)の変換テーブルが、撮像素子162の駆動条件(露出時間、変曲点レベル)毎に算出され、特性変換部200内の記憶部201に格納される。図6に、撮像素子162の駆動条件(露出時間、変曲点レベル)が変更された場合の光電変換特性の変化を模式的に示した。図6では、横軸に撮像素子162のセンサ面照度Lを対数軸でとり、縦軸にデジタル撮像データ163aを線形軸でとってある。
図6(a)は露出時間を可変とし、レンズ絞り値、変曲点レベルは一定とした場合の光電変換特性の変化を示す図である。図6(a)において、露出時間が短くなると光電変換特性の線形特性領域が広くなり、変曲点は高照度側に移動する。逆に、露出時間が長くなると光電変換特性の線形特性領域が狭くなり、変曲点は低照度側に移動する。変曲点の位置が変わっても対数特性の傾きは一定で、一本の特性である。図示していないが、変曲点近傍にはT−Log特性領域が存在する。
図6(b)は変曲点レベルを可変とし、レンズ絞り値、露出時間は一定とした場合の光電変換特性の変化を示す図である。図6(b)において、図24に示したトランジスタQ1の転送信号φTXの中間電位VMを低く設定することにより変曲点が高く設定されると、線形特性の範囲が広がり、変曲点が低く設定されると線形特性の範囲が狭くなる。変曲点の位置が変わっても対数特性の傾きは一定で、一本の特性である。図示していないが、変曲点近傍にはT−Log特性領域が存在する。
以上に示したように、本発明の第1の実施の形態によれば、線形および対数特性領域のみならず、両特性の間の過渡的な特性であるT−Log特性領域においても、実測されたデジタル撮像データを理論式に当てはめて係数を算出し、理論式から階調変換を行うので、精度の高い階調変換が可能となり、画像の階調再現性が向上し、高画質化に寄与することができる。
次に、本発明の第2の実施の形態について、図7乃至図9を用いて説明する。本第2の実施の形態は、上述した第1の実施の形態の図2に示した記憶部201に格納される変換テーブルの作成方法を第2の方法に変更したもので、その他については第1の実施の形態と同じである。
図7は、図2の記憶部201に格納される変換テーブルの作成方法の第2の方法を説明するための光電変換特性の模式図である。変換テーブルは、第1の実施の形態と同様に、例えば撮像装置1の出荷時の調整において作成され、記憶部201に格納される。
図7において、図3の説明で示した(4式)と(5式)とから、両式の切り替わり点のデジタル撮像データ163aの値Th3を求める。Th3は(4式)と(5式)とが交差する切り替わり点で、T−Log特性の範囲の中に設定される。そして、線形特性に近い、すなわちTh3未満のデジタル撮像データ163aの値のT−Log特性は線形特性として、対数特性に近いすなわちTh3以上のデジタル撮像データ163aの値のT−Log特性は対数特性として処理される。この切り替わり点Th3と(4式)および(5式)を用いて変換テーブルが作成される。ここでも、(イ)変換後の光電変換特性を撮像素子162の対数特性に統一して出力する処理、(ロ)変換後の光電変換特性を撮像素子162の線形特性に統一して出力する処理、の2種類の階調変換処理を考え、それぞれの変換テーブルを作成する。
まず、(イ)の変換後の光電変換特性を撮像素子162の対数特性に統一して出力する処理について、図8を用いて説明する。図8は、図7にデジタル画像データ163aから対数特性の画像データ165aへの変換テーブルを追加した模式図である。
この場合は、変換テーブルは2つの変換特性からなる。第1の変換特性CC11は線形特性を撮像素子162の対数特性に変換するもので、(4式)を入力とし(5式)を出力とした変換テーブルであり、その変換範囲は入力0(ゼロ)〜Th3の範囲である。第2の変換特性CC12は対数特性を撮像素子162の対数特性に変換するもので、(5式)を入力とし(5式)を出力とした変換テーブル(ただし、ここでは同じ対数特性のため、入力がそのままスルーされる)であり、その変換範囲は入力Th3〜デジタル撮像データ163aの最大値の範囲である。
なお、この例では出力する対数特性を撮像素子162の対数特性である(5式)としているが、これに限るものではなく、任意の対数特性であっても良い。その場合は、第2の変換特性CC2においても(5式)から任意の対数特性への変換を行う必要がある。
次に、(ロ)の変換後の光電変換特性を撮像素子162の線形特性に統一して出力する処理について、図9を用いて説明する。図9は、図7にデジタル画像データ163aから線形特性の画像データ165aへの変換テーブルを追加した模式図である。
この場合も、変換テーブルは2つの変換特性からなる。第3の変換特性CC13は線形特性を撮像素子162の線形特性に変換するもので、(4式)を入力とし(4式)を出力とした変換テーブル(ただし、ここでは同じ線形特性のため、入力に係数が乗算されるだけである)であり、その変換範囲は入力0(ゼロ)〜Th3の範囲である。第4の変換特性CC14は対数特性を撮像素子162の線形特性に変換するもので、(5式)を入力とし(4式)を出力とした変換テーブルであり、その変換範囲は入力Th3〜デジタル撮像データ163aの最大値の範囲である。
なお、この例では出力する線形特性を撮像素子162の線形特性である(4式)としているが、これに限るものではなく、任意の線形特性であっても良い。
以上に述べた(イ)と(ロ)の変換テーブルが、撮像素子162の駆動条件(露出時間、変曲点レベル)毎に算出され、特性変換部200内の記憶部201に格納される。
以上に示した本発明の第2の実施の形態によれば、T−Log特性領域を線形あるいは対数特性で近似することで、第1の実施の形態における(6式)のような複雑な式の算出を必要とせず、比較的軽い負荷で演算が可能である。そのため、例えばパーソナルコンピュータを用いる必要がなく、撮像装置に搭載されているマイクロコンピュータのような演算能力の低い処理装置でも演算が可能で、修理時の調整等にも簡単に対応できる。
次に、本発明の第3の実施の形態について、図10乃至図17を用いて説明する。ここでも、(イ)変換後の光電変換特性を撮像素子162の対数特性に統一して出力する処理、(ロ)変換後の光電変換特性を撮像素子162の線形特性に統一して出力する処理、の2種類の階調変換処理を考える。
まず、(イ)の階調変換後の光電変換特性を撮像素子162の対数特性に統一して出力する処理、について、図10乃至図13を用いて説明する。
図10は、(イ)の階調変換後の光電変換特性を撮像素子162の対数特性に統一して出力する処理、を行うための特性変換部200の構成を示す回路ブロック図で、上述した図8の特性変換をハードウェアで実現する一例である。
図10において、特性変換部200は、乗算器211、LUT213、加算器215、比較器217および選択器219で構成され、A/D変換器163からのデジタル撮像データ163aと、制御部151からのしきい値151th、ゲイン151gおよびオフセット151osとが入力され、画像データ165aが出力される。ここに、しきい値151thはデジタル撮像データ163aとLUT213の出力のどちらを画像データ165aとして出力するかを決定するための値で、ゲイン151gおよびオフセット151osは、デジタル撮像データ163aをLUT213に格納されている変換テーブルに合わせるためのパラメータである。詳細は図12、図13、図15および図16で後述する。
入力されたデジタル撮像データ163aは乗算器211に入力され、基準の線形特性に傾きをあわせるために制御部151で設定されたゲイン151gで乗算処理され、線形特性から対数特性への特性変換を行なうLUT213に入力される。LUT213はメモリにて構成されており、入力されたデータの値が示すアドレスに格納されている変換データが出力される。変換データには、基準の線形特性から基準の対数特性に変換される変換テーブルが入力されている。
LUT213から出力された基準の対数特性のデータは、加算器215で制御部151から設定されたオフセット151osと加算処理されて出力される。加算器215から出力されたオフセット付きの基準の対数特性データは選択器219に入力される。また、選択器219には、デジタル撮像データ163aも入力されている。一方、比較器217には、制御部151により設定されたしきい値151thとデジタル撮像データ163aが入力されており、両者の比較結果を選択器219に入力する。
選択器219からは、比較器217の比較結果に基づいて、デジタル撮像データ163aがしきい値151th未満の場合(線形特性領域)は加算器215から出力されたオフセット付きの基準の対数特性データが画像データ165aとして出力され、デジタル撮像データ163aがしきい値151th以上の場合(対数特性領域)はデジタル撮像データ163aが画像データ165aとして出力される。
次に、図10のLUT213に格納されている変換テーブルの作成方法について、図11を用いて説明する。変換テーブルは、第1および第2の実施の形態と同様に、例えば撮像装置1の出荷時の調整において作成され、LUT213に格納される。調整の工程は以下に示す通りである。
(1)光電変換特性測定工程:第1および第2の実施の形態と同じでよい。説明は省略する。
(2)変換テーブル作成工程:図11に図10のLUT213に格納される変換テーブルを示す。図11は、図8と同様に、図7にデジタル画像データ163aから対数特性の画像データ165aへの変換テーブルを追加した模式図である。変換テーブルは、上述した(4式)を入力とし(5式)を出力とした変換特性CC21のみからなる。さらに、本実施の形態では、変換テーブルは撮像素子162の駆動条件(露出時間、変曲点レベル)のうち基準となる駆動条件での線形特性から対数特性への変換テーブルのみを作成し、図10の特性変換部200を用いることで、デジタル撮像データ163aの線形特性の部分を(4式)に変換し、(4式)を(5式)に変換して出力する。
次に、図10に示したしきい値151th、ゲイン151gおよびオフセット151osの3つのパラメータの設定方法について図12および図13を用いて説明する。これら3つのパラメータは、撮像素子162の駆動条件(露出時間、変曲点レベル)によって異なる。
まず、撮像素子162の駆動条件のうち、図6(a)に示した露出時間が変化する場合について、図12を用いて説明する。図12は、露出時間が変化する場合のパラメータの設定方法を説明するための図で、図12(a)は図6(a)に示したと同じ光電変換特性のグラフで、特性D、Eの2本の特性例を示してあり、両特性は線形特性部D1、E1と、対数特性部D2、E2とからなる。その中で、特性Eを基準特性とし、特性Eの線形特性部E1を対数特性に変換した変換特性部をE3とする。
特性D、Eの変曲点の光電変換出力(デジタル画像データ163a)を、それぞれTh200、Th201とし、それぞれのセンサ面照度LをL200とL201とする。特性Dの対数特性部D2のTh201よりも大きい部分は特性Eの対数特性部E2と同一であり、Th200からTh201までの部分は特性Eの変換特性部E3と同一である。
図12(b)および(c)に特性Dの特性変換の手順を示す。まず、図12(b)において、線形特性部D1にゲイン151gを乗算して特性Eの線形部E1に一致させる。ゲイン151g=同一センサ面照度Lでの線形特性E1の値を線形特性D1の値で除した値である。この変換により、線形特性部D1は線形特性部E1のセンサ面照度L=L200以下の部分に一致する。次に変換後の線形特性E1を変換特性E3に変換する。この変換は変換テーブルとしてLUT213に格納されている。
図12(c)において、変換特性E3は特性Dの対数特性D2と同じであるから、変換特性を特性Dの対数特性D2に一致させるためのオフセット151os=0(ゼロ)である。特性DのTh200以上の部分は変換特性E3すなわち基準の対数特性E2と同じであるから、特性Dの線形特性D1を対数特性に変換した変換特性E3と特性Dの対数特性部D2をそのまま出力する切り替わり点を示すしきい値151th=Th200である。以上のようにして、しきい値151th、ゲイン151gおよびオフセット151osの3つのパラメータを設定することで、露出時間が変化する場合の階調特性変換が行われる。
次に、撮像素子162の駆動条件のうち、図6(b)に示した変曲点レベルが変化する場合について、図13を用いて説明する。図13は、変曲点レベルが変化する場合のパラメータの設定方法を説明するための図で、図13(a)は図6(b)に示したと同じ光電変換特性のグラフで、特性K、Mの2本の特性例を示してあり、両特性は線形特性部K1、M1と、対数特性部K2、M2とからなる。その中で、特性Mを基準特性とし、特性Mの線形特性部M1を対数特性に変換した変換特性部をM3とする。
特性KおよびMの変曲点の光電変換出力(デジタル画像データ163a)をそれぞれTh400およびTh401とし、Th400での特性KおよびMのセンサ面照度LをL400、Th401での特性Kのセンサ面照度LをL401とする。特性Kの対数特性部K2は特性Mの対数特性部M2と平行である。
図13(b)および(c)に特性Kの特性変換の手順を示す。まず、図13(b)において、線形特性部K1とM1とは同一特性であるからゲイン151g=1.0である。そこで、線形特性K1(=M1)を変換特性M3に変換する。この変換は変換テーブルとしてLUT213に格納されている。
図13(c)において、変換特性M3は特性Kの対数特性K2と平行であるから、変換特性M3を特性Kの対数特性K2に一致させるためのオフセット151osは、センサ面照度L=L401での対数特性K2と変換特性M3の差分である。変換特性M3にオフセット151osを加算した特性を変換特性K3とする。この変換により対数特性K2と変換特性K3とは同一の特性となり、特性Kの線形特性K1を対数特性に変換した変換特性K3と特性Kの対数特性部K2をそのまま出力する切り替わり点を示すしきい値151th=Th401である。以上のようにして、しきい値151th、ゲイン151gおよびオフセット151osの3つのパラメータを設定することで、変曲点レベルが変化する場合の階調特性変換が行われる。
次に、(ロ)の階調変換後の光電変換特性を撮像素子162の線形特性に統一して出力する処理、について、図14乃至図17を用いて説明する。
図14は、(ロ)の階調変換後の光電変換特性を撮像素子162の線形特性に統一して出力する処理、を行うための特性変換部200の構成を示す回路ブロック図で、上述した図9の特性変換をハードウェアで実現する例である。
図14においても、図10と同様に特性変換部200は、乗算器211、LUT223、加算器215、比較器217および選択器219で構成され、A/D変換器163からのデジタル撮像データ163aと、制御部151からのしきい値151th、ゲイン151gおよびオフセット151osとが入力され、画像データ165aが出力される。
入力されたデジタル撮像データ163aは、基準の対数特性にオフセットをあわせるため、加算器215に入力され、制御部151から設定されたオフセット151osと加算処理されて、対数特性から線形特性への特性変換を行なうLUT223に入力される。LUT223はメモリにて構成されており、入力されたデータの値が示すアドレスに格納されている変換データが出力される。変換データは、基準の対数特性から基準の線形特性に変換される変換テーブルが入力されている。
LUT223から出力された基準の線形特性のデータは、乗算器211で制御部151から設定されたゲイン151gにて乗算処理されて出力される。乗算器211から出力されたゲインの掛けられた基準の線形特性データは選択器219に入力される。また、選択器219には、デジタル撮像データ163aも入力されている。一方、比較器217には、制御部151により設定されたしきい値151thとデジタル撮像データ163aが入力されており、両者の比較結果を選択器219に入力する。
選択器219からは、比較器217の比較結果に基づいて、デジタル撮像データ163aがしきい値151th未満の場合(線形特性領域)はデジタル撮像データ163aが画像データ165aとして出力され、デジタル撮像データ163aがしきい値151th以上の場合(対数特性領域)は乗算器211から出力されたゲインの掛けられた基準の線形特性データが画像データ165aとして出力される。
次に、図14のLUT223に格納されている変換テーブルの作成方法について、図15を用いて説明する。変換テーブルは、第1および第2の実施の形態と同様に、例えば撮像装置1の出荷時の調整において作成され、LUT223に格納される。調整の工程は以下に示す通りである。
(1)光電変換特性測定工程:第1および第2の実施の形態と同じでよい。説明は省略する。
(2)変換テーブル作成工程:図15に図14のLUT223に格納される変換テーブルを示す。図15は、図9と同様に、図7にデジタル画像データ163aから線形特性の画像データ165aへの変換テーブルを追加した模式図である。変換テーブルは、上述した(5式)を入力とし(4式)を出力とした変換特性CC22のみからなる。さらに、本実施の形態では、変換テーブルは撮像素子162の駆動条件(露出時間、変曲点レベル)のうち基準となる駆動条件での線形特性から対数特性への変換テーブルのみを作成し、図14の特性変換部200を用いることで、デジタル撮像データ163aの対数特性の部分を(5式)に変換し、(5式)を(4式)に変換して出力する。
次に、図14に示したオフセット151os、ゲイン151gおよびしきい値151thの3つのパラメータの設定方法について図15および図16を用いて説明する。これら3つのパラメータは、撮像素子162の駆動条件(露出時間、変曲点レベル)によって異なる。
まず、撮像素子162の駆動条件のうち、図6(a)に示した露出時間が変化する場合について、図16を用いて説明する。図16は、露出時間が変化する場合のパラメータの設定方法を説明するための図で、図16(a)は図6(a)に示したと同じ光電変換特性のグラフで、特性D、Eの2本の特性例を示してあり、両特性は線形特性部D1、E1と、対数特性部D2、E2とからなる。その中で、特性Eを基準特性とし、特性Eの対数特性部E2およびその延長線を線形特性に変換した変換特性部をE4とする。
特性D、Eの変曲点の光電変換出力(デジタル画像データ163a)を、それぞれTh200、Th201とし、それぞれのセンサ面照度LをL200とL201とする。
図16(b)および(c)に特性Dの特性変換の手順を示す。まず、図16(b)において、特性Dの対数特性部D2と特性Eの対数特性部E2とは同一特性であるため、オフセット151osは0(ゼロ)である。次に対数特性D2(=E2)を変換特性E4に変換する。この変換は変換テーブルとしてLUT223に格納されている。
図16(c)において、変換特性E4のセンサ面照度L=L200での値と線形特性D1のセンサ面照度L=L200での値とを一致させるようなゲイン151gを変換特性E4に乗算する。ゲイン151gは、線形特性D1のセンサ面照度L=L200での値を変換特性E4のセンサ面照度L=L200での値で除したもの、である。この変換後の線形特性を変換特性D4とする。特性DのTh200以下の部分は線形特性D1であるから、特性Dの対数特性部D2を線形特性に変換した変換特性D4と特性Dの線形特性D1をそのまま出力する切り替わり点を示すしきい値151th=Th200である。以上のようにして、しきい値151th、ゲイン151gおよびオフセット151osの3つのパラメータを設定することで、露出時間が変化する場合の階調特性変換が行われる。
次に、撮像素子162の駆動条件のうち、図6(b)に示した変曲点レベルが変化する場合について、図17を用いて説明する。図17は、変曲点レベルが変化する場合のパラメータの設定方法を説明するための図で、図17(a)は図6(b)に示したと同じ光電変換特性のグラフで、特性K、Mの2本の特性例を示してあり、両特性は線形特性部K1、M1と、対数特性部K2、M2とからなる。その中で、特性Mを基準特性とし、特性Mの対数特性部M2およびその延長線を線形特性に変換した変換特性部をM4とする。
特性KおよびMの変曲点の光電変換出力(デジタル画像データ163a)をそれぞれTh400およびTh401とし、Th400での特性KおよびMのセンサ面照度LをL400、Th401での特性Kのセンサ面照度LをL401とする。特性Kの対数特性部K2は特性Mの対数特性部M2と平行である。
図17(b)および(c)に特性Kの特性変換の手順を示す。まず、図17(b)において、対数特性部K2と対数特性部M2とは平行であるから、対数特性部K2にオフセット151osを加算して縦軸方向に平行移動し、対数特性部M2に一致させる。オフセット151osは、センサ面照度L=L401での対数特性K2と対数特性M2の差分である。次に対数特性M2を変換特性M4に変換する。この変換は変換テーブルとしてLUT223に格納されている。
図17(c)において、線形特性部K1と変換特性部M4とは同一特性であるからゲイン151g=1.0である。特性Kの対数特性K2を線形特性に変換した変換特性M4と特性Kの線形特性部K1をそのまま出力する切り替わり点を示すしきい値151th=Th401である。以上のようにして、しきい値151th、ゲイン151gおよびオフセット151osの3つのパラメータを設定することで、変曲点レベルが変化する場合の階調特性変換が行われる。
以上に示した本発明の第3の実施の形態によれば、特性変換部200がハードウェアで構成されているために、階調変換処理の演算時間が短く、高フレームレートで撮像が行われる場合等、短時間に階調変換処理が行われる必要のある場合に特に有効である。
次に、本発明の第4の実施の形態について、図18乃至図21を用いて説明する。本第4の実施の形態は、第3の実施の形態に特性変換後の出力を任意の対数特性もしくは線形特性とする回路を付加したものである。
図18は、(ハ)階調変換後の光電変換特性を任意の対数特性に統一して出力する処理、を行うための特性変換部200の構成を示す回路ブロック図で、図10のデジタル撮像データ163aが選択器219に入力される前に第2の加算器216が付加されたもので、その他は図10と同じである。ここに、加算器215に入力されるオフセットを第1のオフセット151os1、第2の加算器216に入力されるオフセットを第2のオフセット151os2とする。
これによって、図19に示すように、例えば図12(c)の露出時間が変更された場合の特性変換において、LUT213によって特性変換された変換特性E3に加算器215でオフセット151os1を加算して変換特性E5に変換し、デジタル撮像データ163aに第2の加算器216で加算器215と同じオフセット151os2(=オフセット151os1)を加算して対数特性D2を変換特性D5に変換することで、任意の対数特性への階調変換処理を行うことができる。変曲点レベルが変更される場合についても同じである。詳細は省略する。
図20は、(ニ)階調変換後の光電変換特性を任意の線形特性に統一して出力する処理、を行うための特性変換部200の構成を示す回路ブロック図で、図14のデジタル撮像データ163aが選択器219に入力される前に第2の乗算器212が付加されたもので、その他は図14と同じである。ここに、乗算器211に入力されるゲインを第1のゲイン151g1、第2の乗算器212に入力されるゲインを第2のゲイン151g2とする。
これによって、図21に示すように、例えば図16(c)の露出時間が変更された場合の特性変換において、デジタル撮像データ163aに第2の乗算器212で第2のゲイン151os2を乗算して線形特性D1を変換特性D6に変換し、LUT223によって特性変換された変換特性E4に、センサ面照度L=L200での変換特性E4の出力がセンサ面照度L=L200での変換特性D6の出力に等しくなるような第1のゲイン151g1を乗算器211で乗算して変換特性E6に変換することで、任意の線形特性への階調変換処理を行うことができる。変曲点レベルが変更される場合についても同じである。詳細は省略する。
以上に示した本発明の第4の実施の形態によれば、第3の実施の形態の特徴に加え、任意の対数特性あるいは線形特性への階調変換が行えることで、撮像素子162の特性に限定されずに表示あるいは印刷といった再現系の特性に合った階調変換や、所望の部分の階調性の強調といった処理を自由に行うことができる。
以上に述べたように、本発明によれば、第1の光電変換特性と、第1の光電変換特性とは異なる第2の光電変換特性と、第1と第2の光電変換特性との過渡的な特性を示す第3の光電変換特性とを有する撮像素子を備えた撮像装置において、第1、第2および第3の光電変換特性を基準光電変換特性に変換する特性変換部を備え、第1と第2と第3の光電変換特性に階調変換処理を施すことにより、画像全体の階調特性が同一の特性にされた撮像装置を提供することができる。
尚、本発明に係る撮像装置および撮像装置を構成する各構成の細部構成および細部動作に関しては、本発明の趣旨を逸脱することのない範囲で適宜変更可能である。
本発明における撮像装置の内部構成を示すブロック図である。 デジタル撮像データに階調変換処理を施すための特性変換部の構成を示す回路ブロック図である。 図2に示した記憶部に格納される変換テーブルの作成方法を説明するための光電変換特性の模式図である。 図3にデジタル画像データから対数特性の画像データへの変換テーブルを追加した模式図である。 図3にデジタル画像データから線形特性の画像データへの変換テーブルを追加した模式図である。 撮像素子の駆動条件が変更された場合の光電変換特性の変化を示す模式図である。 図2の記憶部に格納される変換テーブルの作成方法の第2の方法を説明するための光電変換特性の模式図である。 図7にデジタル画像データから対数特性の画像データへの変換テーブルを追加した模式図である。 図7にデジタル画像データから線形特性の画像データへの変換テーブルを追加した模式図である。 階調変換後の光電変換特性を撮像素子の対数特性に統一して出力する処理を行うための特性変換部構成を示す回路ブロック図である。 図7にデジタル画像データから対数特性の画像データへの変換テーブルを追加した模式図である。 露出時間が変化する場合のパラメータの設定方法を説明するための図である。 変曲点レベルが変化する場合のパラメータの設定方法を説明するための図である。 階調変換後の光電変換特性を撮像素子の線形特性に統一して出力する処理を行うための特性変換部の構成を示す回路ブロック図である。 図7にデジタル画像データから線形特性の画像データへの変換テーブルを追加した模式図である。 露出時間が変化する場合のパラメータの設定方法を説明するための図である。 変曲点レベルが変化する場合のパラメータの設定方法を説明するための図である。 階調変換後の光電変換特性を任意の対数特性に統一して出力する処理を行うための特性変換部の構成を示す回路ブロック図である。 露出時間が変化する場合のパラメータの設定方法を説明するための図である。 階調変換後の光電変換特性を任意の線形特性に統一して出力する処理を行うための特性変換部の構成を示す回路ブロック図である。 変曲点レベルが変化する場合のパラメータの設定方法を説明するための図である。 撮像素子を構成する各構成要素の配置の一例を示す模式図である。 撮像素子を構成する画素の回路の第1の実施の形態を示す回路図である。 図23に示した画素をローリングシャッタ方式で駆動する場合のタイミングチャートである。 光電変換特性の時間変化を示す模式図である。 フレームレートを変化させた時の光電変換特性を示す模式図である。 撮像素子を構成する画素の回路の第2の実施の形態を示す模式図である。
符号の説明
1 撮像装置
111 操作部
113 表示部
121 絞り
123 絞り駆動部
131 レンズ
133 レンズ駆動部
151 制御部
162 撮像素子
163 アナログデジタル(A/D)変換器
165 画像処理部
181 記録媒体
200 特性変換部
201 記憶部
203 ルックアップテーブル(LUT)
211 乗算器
212 第2の乗算器
213 ルックアップテーブル(LUT)
215 加算器
216 第2の加算器
217 比較器
219 選択器
223 ルックアップテーブル(LUT)

Claims (7)

  1. 第1の光電変換特性と、前記第1の光電変換特性とは異なる第2の光電変換特性と、前記第1と第2の光電変換特性との過渡的な特性を示す第3の光電変換特性とを有する撮像素子を備えた撮像装置において、
    前記第1、第2および第3の光電変換特性を基準光電変換特性に変換する特性変換部を備えたことを特徴とする撮像装置。
  2. 前記第1の光電変換特性は線形特性で、前記第2の光電変換特性は対数特性であり、前記基準光電変換特性は線形特性であることを特徴とする請求項1に記載の撮像装置。
  3. 前記第1の光電変換特性は線形特性で、前記第2の光電変換特性は対数特性であり、前記基準光電変換特性は対数特性であることを特徴とする請求項1に記載の撮像装置。
  4. 前記撮像装置が備える特性変換部は、前記第1および第2の光電変換特性を前記基準光電変換特性に変換する方法とは異なった方法で、前記撮像装置が備える第3の光電変換特性を前記基準光電変換特性に変換することを特徴とする請求項1乃至3の何れか1項に記載の撮像装置。
  5. 前記撮像装置が備える特性変換部は、前記撮像装置が備える第3の光電変換特性を、切り替わり点を境に前記第1または第2の光電変換特性の何れかと見なして前記基準光電変換特性に変換することを特徴とする請求項1乃至3の何れか1項に記載の撮像装置。
  6. 前記切り替わり点は、前記第1および第2の光電変換特性の延長線の交点であることを特徴とする請求項5に記載の撮像装置。
  7. 前記撮像装置が備える特性変換部は、メモリを含むルックアップテーブルから成ることを特徴とする請求項1乃至6の何れか1項に記載の撮像装置。
JP2006076384A 2006-03-20 2006-03-20 撮像装置 Expired - Fee Related JP4893042B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006076384A JP4893042B2 (ja) 2006-03-20 2006-03-20 撮像装置
US11/717,882 US8013918B2 (en) 2006-03-20 2007-03-14 Image capturing apparatus including an image sensor having three photoelectric conversion characteristics with each corresponding to a range of luminance intensity

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006076384A JP4893042B2 (ja) 2006-03-20 2006-03-20 撮像装置

Publications (2)

Publication Number Publication Date
JP2007251898A true JP2007251898A (ja) 2007-09-27
JP4893042B2 JP4893042B2 (ja) 2012-03-07

Family

ID=38517466

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006076384A Expired - Fee Related JP4893042B2 (ja) 2006-03-20 2006-03-20 撮像装置

Country Status (2)

Country Link
US (1) US8013918B2 (ja)
JP (1) JP4893042B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009272857A (ja) * 2008-05-07 2009-11-19 Omron Corp 画像信号の固定パターンノイズ除去装置及び方法
JP4586941B1 (ja) * 2009-06-15 2010-11-24 コニカミノルタオプト株式会社 撮像装置
JP4586942B1 (ja) * 2009-06-15 2010-11-24 コニカミノルタオプト株式会社 撮像装置
WO2011155135A1 (ja) 2010-06-07 2011-12-15 コニカミノルタオプト株式会社 撮像装置
WO2011155136A1 (ja) 2010-06-07 2011-12-15 コニカミノルタオプト株式会社 撮像装置
US8576307B2 (en) 2008-07-25 2013-11-05 Konica Minolta Opto, Inc. Imaging device having a characteristic converting section
JP2021071955A (ja) * 2019-10-31 2021-05-06 株式会社デンソー 画像処理装置

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5343714B2 (ja) 2009-06-05 2013-11-13 ソニー株式会社 映像処理装置、表示装置および表示システム
JP2013183434A (ja) * 2012-03-05 2013-09-12 Toshiba Corp 固体撮像装置
US20140022431A1 (en) * 2012-07-19 2014-01-23 Nanyang Innovation & Enterprise Office Cmos image sensor
CN111034177B (zh) * 2017-09-14 2022-06-28 新唐科技日本株式会社 固体摄像装置以及具备该固体摄像装置的摄像装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0250584A (ja) * 1988-08-11 1990-02-20 Olympus Optical Co Ltd ダイナミックレンジ拡大システム
JPH04364679A (ja) * 1991-06-12 1992-12-17 Hitachi Ltd 固体撮像装置
JPH10257393A (ja) * 1997-03-14 1998-09-25 Minolta Co Ltd 撮像装置
JPH11298799A (ja) * 1998-04-15 1999-10-29 Honda Motor Co Ltd 光センサ信号処理装置
JP2004521535A (ja) * 2001-01-11 2004-07-15 スモールカメラテクノロジーズ インコーポレーテッド ディジタルイメージャの画素ごとの適応感度制御システム及び方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11298798A (ja) 1998-04-15 1999-10-29 Minolta Co Ltd 固体撮像装置
US6977685B1 (en) * 1999-02-26 2005-12-20 Massachusetts Institute Of Technology Single-chip imager system with programmable dynamic range
JP3493405B2 (ja) 2000-08-31 2004-02-03 ミノルタ株式会社 固体撮像装置
JP3882129B2 (ja) * 2001-04-27 2007-02-14 本田技研工業株式会社 イメージセンサの出力補正装置
JP3924754B2 (ja) * 2001-06-06 2007-06-06 本田技研工業株式会社 イメージセンサ
AU2003236261A1 (en) * 2002-05-02 2003-11-17 Honda Giken Kogyo Kabushiki Kaisha Image sensor output correction device
US7443427B2 (en) * 2002-08-23 2008-10-28 Micron Technology, Inc. Wide dynamic range linear-and-log active pixel
JP4185771B2 (ja) * 2002-12-27 2008-11-26 シャープ株式会社 固体撮像装置
JP2005348005A (ja) 2004-06-02 2005-12-15 Konica Minolta Holdings Inc 撮像装置、撮像システム及び撮像システム動作プログラム
US7525579B2 (en) * 2004-12-27 2009-04-28 Konica Minolta Holdings, Inc. Image sensing apparatus and image processing method for use therein
US7551059B2 (en) * 2005-01-06 2009-06-23 Goodrich Corporation Hybrid infrared detector array and CMOS readout integrated circuit with improved dynamic range
US7616231B2 (en) * 2005-01-06 2009-11-10 Goodrich Corporation CMOS active pixel sensor with improved dynamic range and method of operation for object motion detection
JP4089911B2 (ja) * 2005-02-23 2008-05-28 三菱電機株式会社 画像入力装置
JP2008263547A (ja) * 2007-04-13 2008-10-30 Konica Minolta Holdings Inc 撮像装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0250584A (ja) * 1988-08-11 1990-02-20 Olympus Optical Co Ltd ダイナミックレンジ拡大システム
JPH04364679A (ja) * 1991-06-12 1992-12-17 Hitachi Ltd 固体撮像装置
JPH10257393A (ja) * 1997-03-14 1998-09-25 Minolta Co Ltd 撮像装置
JPH11298799A (ja) * 1998-04-15 1999-10-29 Honda Motor Co Ltd 光センサ信号処理装置
JP2004521535A (ja) * 2001-01-11 2004-07-15 スモールカメラテクノロジーズ インコーポレーテッド ディジタルイメージャの画素ごとの適応感度制御システム及び方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009272857A (ja) * 2008-05-07 2009-11-19 Omron Corp 画像信号の固定パターンノイズ除去装置及び方法
US8576307B2 (en) 2008-07-25 2013-11-05 Konica Minolta Opto, Inc. Imaging device having a characteristic converting section
JP4586941B1 (ja) * 2009-06-15 2010-11-24 コニカミノルタオプト株式会社 撮像装置
JP4586942B1 (ja) * 2009-06-15 2010-11-24 コニカミノルタオプト株式会社 撮像装置
WO2010146748A1 (ja) 2009-06-15 2010-12-23 コニカミノルタオプト株式会社 撮像装置
WO2010146749A1 (ja) 2009-06-15 2010-12-23 コニカミノルタオプト株式会社 撮像装置
JP2011024246A (ja) * 2009-06-15 2011-02-03 Konica Minolta Opto Inc 撮像装置
WO2011155135A1 (ja) 2010-06-07 2011-12-15 コニカミノルタオプト株式会社 撮像装置
WO2011155136A1 (ja) 2010-06-07 2011-12-15 コニカミノルタオプト株式会社 撮像装置
US9294740B2 (en) 2010-06-07 2016-03-22 Konica Minolta Advanced Layers, Inc. Imaging device having a color image generator generating a color image using edge data and a fake color suppressing coefficient
JP2021071955A (ja) * 2019-10-31 2021-05-06 株式会社デンソー 画像処理装置
JP7279613B2 (ja) 2019-10-31 2023-05-23 株式会社デンソー 画像処理装置

Also Published As

Publication number Publication date
US8013918B2 (en) 2011-09-06
US20070216957A1 (en) 2007-09-20
JP4893042B2 (ja) 2012-03-07

Similar Documents

Publication Publication Date Title
JP4893042B2 (ja) 撮像装置
JP6551882B2 (ja) 撮像装置および信号処理回路
US10021321B2 (en) Imaging device and imaging system
US10194103B2 (en) Solid-state imaging device and method of driving solid-state imaging device with clipping level set according to transfer operation frequency
JP4973115B2 (ja) 固体撮像装置、固体撮像装置の駆動方法および撮像装置
WO2016072289A1 (ja) 撮像素子および駆動方法、並びに電子機器
JP4571179B2 (ja) 撮像装置
JP2005175517A (ja) 半導体装置の制御方法および信号処理方法並びに半導体装置および電子機器
JP2009177749A (ja) 固体撮像装置
US20080049128A1 (en) Solid-state device for high-speed photographing and camera provided with the solid-state imaging device as imaging device
US8547452B2 (en) Image processing apparatus, image processing method, and image processing program
JP4770563B2 (ja) 撮像装置
JP4696812B2 (ja) 撮像装置
JP2007097127A (ja) 固体撮像装置
JP2006217548A (ja) 固体撮像装置
JP2010068049A (ja) 撮像装置
JP5115602B2 (ja) 半導体装置およびその制御方法
JP2006217421A (ja) 固体撮像装置
JP2020017910A (ja) ストリーキング補正回路、撮像装置、及び、電子機器
JP5115601B2 (ja) 半導体装置およびその制御方法
JP2008042673A (ja) 光電変換装置及びその駆動方法
JP2020108022A (ja) 撮像装置、撮像システム、移動体及び撮像装置の制御方法
US10623642B2 (en) Image capturing apparatus and control method thereof with change, in exposure period for generating frame, of conversion efficiency
JP2007288643A (ja) 撮像装置
JP7270151B2 (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090127

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110222

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20110317

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110422

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110726

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111024

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20111101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111122

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111205

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150106

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees