JP2008205530A - 撮像装置、撮像システム及び撮像方法 - Google Patents

撮像装置、撮像システム及び撮像方法 Download PDF

Info

Publication number
JP2008205530A
JP2008205530A JP2007035822A JP2007035822A JP2008205530A JP 2008205530 A JP2008205530 A JP 2008205530A JP 2007035822 A JP2007035822 A JP 2007035822A JP 2007035822 A JP2007035822 A JP 2007035822A JP 2008205530 A JP2008205530 A JP 2008205530A
Authority
JP
Japan
Prior art keywords
pixel
data
attribute information
pixel data
exposure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2007035822A
Other languages
English (en)
Inventor
Haruhisa Kurane
治久 倉根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2007035822A priority Critical patent/JP2008205530A/ja
Publication of JP2008205530A publication Critical patent/JP2008205530A/ja
Withdrawn legal-status Critical Current

Links

Images

Abstract

【課題】 画像補正処理及び多段階露光画像の合成処理を行うことが可能な撮像装置の製
造コストを低減することが可能な撮像装置、撮像システム及び撮像方法を提供する。
【解決手段】撮像装置1を、非破壊型撮像部2と、信号処理部3と、BRAM4とを含む
構成とし、非破壊型撮像部2から、リセット直後の画素信号を含む短露光時間及び標準露
光時間の画素信号を読み出し、リセット直後の画素信号の画素データをノイズデータとし
、当該ノイズデータと画素欠陥フラグとを各露光時間の画素データに付加すると共に各画
素の撮像条件である露光コード及び飽和判定フラグを所定露光時間の画素データに付加し
てHDR−RAWデータを生成する。そして、BRAM4に記憶されたHDR−RAWデ
ータにおける、ノイズデータ及び画素欠陥フラグに基づき画素データを補正し、露光コー
ド及び飽和判定フラグに基づき、補正後の画素データを合成して撮像画像データを生成す
る。
【選択図】図1

Description

本発明は、ダイナミックレンジの広い画像を得ることが可能な撮像装置に関する。
固体撮像素子を用いた撮像装置の問題点の1つとして、ダイナミックレンジの狭さが挙
げられる。例えば、コントラストの大きなシーンを撮影すると、高輝度領域での白とび(
画素の飽和)や低輝度領域での黒つぶれが発生する。
上記問題を解決するために、露光量が異なった2枚以上の画像を合成する手法がある。
露光量が異なる画像を取得できる撮像素子として、例えば、1フレーム期間に2種類以上
の露光時間で撮影できるものが提案されている。
また、2フィールドで1フレームを構成する撮像素子において、奇数、偶数フィールド
で露光時間を替えて撮像する方法もある。この2種類以上の露光時間(例えば標準露光時
間T1と短露光時間T2(T1≫T2))の出力画像を、センサ外部もしくは内部で合成
し、広いダイナミックレンジ画像を得る。画像の合成方法としては、標準露光時間で撮影
された画像中の飽和画素を、短露光時間で撮影した非飽和画素に置き換えるなどの方法が
ある。
ところで、このような同一フレーム内で標準露光時間と短露光時間など複数種類の露光
時間による撮像が可能な撮像素子は、一般的に出力が複数チャンネル(CH)ある。例え
ば1水平期間中に標準露光時間(CH1)、短露光時間(CH2)が多重化されて出力され
る。CH1とCH2の出力の位相(時間)差は、遅延素子により、ライン単位(例えば数ラ
イン分)の遅延を行い、両者の位相を合わせる。
このように、両者の信号が1フィールドもしくは数ラインの時間差をもって出力される
場合、早く(先に)出力される信号を、遅く(後に)出力される信号のタイミング(時刻
)に合わせる目的で、図10のごとくフレームメモリなどの遅延素子を用いて同期をとっ
た後、両者の合成を行う必要がある。
例えば、2フィールドを合成して1フレームとする場合に、奇数フィールドを標準露光
時間、偶数フィールドを短露光時間として両者を合成するときは、遅延素子によって、1
フィールド分遅延させる。
前記1フレームの期間に露光時間の異なる撮像が可能な撮像装置として、蓄積電荷を破
壊(リセット)する事無く、複数回、読み出すことが可能な撮像装置がある(容易にワイド
ダイナミックレンジ化が可能)。このような撮像装置として、例えば、特許文献1に記載
の撮像装置がある。
また、非破壊型撮像素子による撮像画像のダイナミックレンジの拡大に関する技術とし
て、例えば、特許文献2に記載の撮像装置がある。この撮像装置は、1フレーム期間中に
2種類の異なる露光時間で読出し動作を行う(信号出力レートの制限から、出力系を2系
統使用した実施例を記述している)。
非破壊型撮像素子は、素子ごとのばらつき等に起因して発生する固定パターンノイズ(
FPN)が多いのが課題である。ただし、このノイズはフレームメモリを用いた手法によ
り除去が可能である。フレームメモリを用いたノイズ除去に関する技術としては、例えば
、特許文献3に記載の固体撮像装置がある。
特公昭63−31376号公報 特開平5−22670号公報 特開平1−39176号公報
しかしながら、上記特許文献3の従来技術においては、ノイズを除去するため、前述の
ようにフレームメモリ等の仕組みが必要であり、上記特許文献1及び2の従来技術におい
ては、多段階露光画像の合成において、遅延の為のフレームメモリが必要となる。このよ
うに、フレームメモリの数が増えるということは、サイズの大型化を招くと共に製造コス
トを増加させる要因となる。
本発明は、上記従来の技術の有する未解決の課題に着目してなされたものであって、画
像補正処理及び多段階露光画像の合成処理を行うことが可能な撮像装置の製造コストを低
減することが可能な撮像装置、撮像システム及び撮像方法を提供することを目的とする。
〔形態1〕 上記目的を達成するために、形態1の撮像装置は、
露光した光を電荷に変換して蓄積する複数の光電変換素子がマトリクス状に配設された
構成の光電変換部と、露光時間を制御する電子シャッタ機能とを備えた撮像装置であって

前記光電変換素子の構成する各画素から、N種類(Nは2以上の自然数)の露光時間で
露光時の画素信号を読み出す画素信号読出手段と、
前記画素信号読出手段で読み出された各画素信号のデータである画素データに対して、
前記各画素の補正情報を含む第1属性情報と、前記各画素の撮像条件を含む第2属性情報
とを付加する属性情報付加手段と、
前記第1属性情報及び前記第2属性情報の付加された画素データを記憶する記憶手段と

前記各画素データに付加された前記第1属性情報に基づき、当該各画素データに対して
補正処理を行うと共に、補正処理後の各画素データに付加された前記第2属性情報と、前
記記憶手段に記憶された各画素データに付加された前記第2属性情報とに基づき、前記各
画素毎に、前記記憶手段に記憶された各画素データを更新又は維持することで撮像画像デ
ータを生成する撮像画像データ生成手段と、を備えることを特徴とする。
このような構成であれば、画素信号読出手段によって、前記光電変換素子の構成する各
画素から、N種類(Nは2以上の自然数)の露光時間で露光時の画素信号を読み出すこと
が可能であり、属性情報付加手段によって、前記画素信号読出手段で読み出された各画素
信号のデータである画素データに対して、前記各画素の補正情報を含む第1属性情報と、
前記各画素の撮像条件を含む第2属性情報とを付加することが可能であり、記憶手段によ
って、前記第1属性情報及び前記第2属性情報の付加された画素データを記憶することが
可能であり、撮像画像データ生成手段によって、前記各画素データに付加された前記第1
属性情報に基づき、当該各画素データに対して補正処理を行うと共に、補正処理後の各画
素データに付加された前記第2属性情報と、前記記憶手段に記憶された各画素データに付
加された前記第2属性情報とに基づき、前記各画素毎に、前記記憶手段に記憶された各画
素データを更新又は維持することで撮像画像データを形成することが可能である。
従って、各画素の補正情報を含む第1属性情報及び各画素の撮像条件を含む第2属性情
報を付加したことにより、第1属性情報に基づく補正処理及び第2属性情報に基づく撮像
画像データ(広ダイミックレンジ画像データ)の生成処理(N種類の露光時間で露光され
た画素データの合成処理)を連続して行うことができるので回路の共通化等が容易となる

更に、撮像画像データの生成に用いる記憶手段(フレームメモリ)を、遅延素子用の記
憶手段(フレームメモリ)としても使用することができる。
以上より、記憶手段を利用して画素データの補正処理及び撮像画像データの生成処理を
行う場合に、撮像装置の製造コストを低減することができるという効果が得られる。
〔形態2〕 更に、形態2の撮像装置は、形態1の撮像装置において、
前記属性情報付加手段は、前記第1属性情報の1つとして、前記各画素に固有のノイズ
の情報であるノイズ情報を付加し、
前記撮像画像データ生成手段は、前記補正処理として、前記ノイズ情報に基づき各画素
データのノイズ成分を除去するノイズ除去処理を行うことを特徴とする。
このような構成であれば、各画素データから、各画素に固有のノイズ成分を除去するこ
とができるので、撮像画像の画質を向上することができるという効果が得られる。
ここで、上記画素に固有のノイズには、光電変換部を構成する各光電変換素子(画素)
の個々の特性のばらつきに起因して発生する固定パターンノイズなどがある。以下、撮像
システムに関する形態、撮像方法に関する形態などにおいて同じである。
〔形態3〕 更に、形態3の撮像装置は、形態2の撮像装置において、
前記画素信号読出手段は、前記光電変換素子の構成する各画素から、前記N種類の露光
時間で露光時の画素信号とは別に、リセット直後の画素信号を読み出し、
前記属性情報付加手段は、前記リセット直後に各画素から読み出される画素信号の画素
データを、前記ノイズ情報として、前記各画素に対応する画素データに付加し、
前記撮像画像データ生成手段は、前記ノイズ除去処理において、各露光時間で露光時の
各画素データの示す値から、前記リセット直後の画素データの示す値を減ずることで前記
ノイズ成分を除去することを特徴とする。
リセット直後の画素信号においては、蓄積電荷を空にした直後であるため、画素固有の
ノイズ成分(固定パターンノイズ)が支配的となっている。
従って、上記のような構成であれば、ノイズ成分が支配的な画素信号の画素データの示
す値を、N種類の露光時間の画素信号の示す値からそれぞれ減じることが可能であるので
、各露光時間に対応する画素データから簡易且つ適切にノイズ成分を除去することができ
るという効果が得られる。
〔形態4〕 更に、形態4の撮像装置は、形態3の撮像装置において、
前記画素信号読出手段は、前記N種類の露光時間の露光が行われる露光期間毎に、前記
リセット直後の画素信号を読み出し、
前記属性情報付加手段は、前記画素信号読出手段によって、リセット直後の画素信号が
読み出される毎に、当該読み出された画素信号の画素データに基づき、前記記憶手段に記
憶された各画素データに付加されたノイズ情報を更新することを特徴とする。
このような構成であれば、例えばフレームレートで実行されるリセット毎に、各画素デ
ータに付加されるノイズ情報を更新することができるので、例えば、周辺環境の変化(例
えば、気温の変化)に応じて変化するノイズ成分を適切に除去することが可能となるので
、より高画質な撮像画像を得ることができるという効果が得られる。
〔形態5〕 更に、形態5の撮像装置は、形態4の撮像装置において、
前記属性情報付加手段は、前記ノイズ情報を更新すると共に、前記記憶手段に記憶され
た画素データをクリアすることを特徴とする。
このような構成であれば、リセットが実行されてノイズ情報が更新される毎に、1つ前
の露光期間で取得した画素データが、記憶手段からクリア(初期値0に変更)されるので
、例えばフレーム単位で蓄積電荷量をデジタル的に管理する仮想デジタル撮像素子として
機能し、ノイズ除去など高度な画像処理が画素単位で行えるという効果が得られる。
〔形態6〕 更に、形態6の撮像装置は、形態1乃至5のいずれか1の撮像装置におい
て、
前記属性情報付加手段は、前記各画素の画素データに基づき各画素が欠陥画素か否かを
判定すると共に、当該判定結果に基づき、前記第1属性情報の1つとして、前記各画素デ
ータに対応する画素が欠陥画素か否かを示す情報である欠陥画素情報を付加し、
前記撮像画像データ生成手段は、前記補正処理として、前記欠陥画素情報に基づき、欠
陥画素に対応する画素データを補正する欠陥画素データ補正処理を行うことを特徴とする

このような構成であれば、例えば、画素に白傷や黒傷を発生させるような欠陥があった
場合でも、これらの画素に対応する画素データを適切に補正することができるので、撮像
画像の画質を向上することができるという効果が得られる。
〔形態7〕 更に、形態7の撮像装置は、形態1乃至6のいずれか1の撮像装置におい
て、
前記画素信号読出手段は、リセット直後から次のリセットまでの1回の露光期間におい
て、前記N種類の露光時間で露光時の画素信号を、非破壊読み出し方式で読み出すことを
特徴とする。
このような構成であれば、上記1回の露光期間において、N種類の露光時間で露光され
た画素の画素信号を非破壊で読み出すことができるので、容易に広ダイナミックレンジの
撮像画像を形成することができるという効果が得られる。
ここで、上記非破壊読み出し方式は、光電変換素子から電荷(画素信号)を読み出すと
きに、当該光電変換素子に蓄積された電荷を空にせず蓄積状態を維持したままで読み出す
ものである。つまり、電荷読み出し時にリセット処理を行わないため、設定された露光時
間に至るまで、電荷の蓄積途中において、何度でも電荷の読み出しを行うことができる。
〔形態8〕 更に、形態8の撮像装置は、形態7の撮像装置において、
前記画素信号読出手段は、前記N種類の露光時間における露光時間の短い順に、画像の
ライン単位で順次露光される各画素の画素信号を、当該露光時間の種類毎に且つ前記ライ
ン単位で順次読み出し、
前記N種類の露光時間にそれぞれ対応し且つ当該各種類毎に前記画素信号読出手段で読
み出される画素信号の画素データを前記ライン単位で記憶し、当該記憶したライン単位の
画素データをそれぞれ独立に出力するN個の出力チャンネルを備え、
前記属性情報付加手段は、前記N個の出力チャンネルから、前記露光時間の短い順に順
次出力される各ラインの画素データに対して前記第1属性情報及び前記第2属性情報を付
加し、
前記撮像画像データ生成手段は、前記属性情報付加手段で前記第1属性情報及び前記第
2属性情報の付加された各ラインの画素データに対して、前記補正処理及び前記撮像画像
データの生成処理を順次行うことを特徴とする。
このような構成であれば、N種類の露光時間で露光時の各画素データを、N個の独立し
た出力チャンネルから並列に出力することが可能となるので、共通の出力チャンネルを使
った場合に生じる遅延を大幅に低減することができ、高速に処理を行うことができるとい
う効果が得られる。
〔形態9〕 更に、形態9の撮像装置は、形態1乃至8のいずれか1の撮像装置におい
て、
前記属性情報付加手段は、前記第2属性情報として、前記各画素データに対して、前記
画素の露光時間を示す情報、及び前記画素の輝度値がダイナミックレンジの上限値である
ことを示す情報の少なくとも一方を付加し、
前記撮像画像データ生成手段は、新規に読み出された画素信号の画素データに付加され
た前記第2属性情報の示す露光時間が、前記記憶手段に記憶されている前記新規に読み出
された画素信号の画素に対応する画素データに付加された前記第2属性情報が示す露光時
間よりも長いか否かを判定する第1判定処理と、新規に読み出された画素信号の画素デー
タに付加された前記第2属性情報の示す輝度値がダイナミックレンジの上限値より大きく
、且つ前記記憶手段に記憶されている前記新規に読み出された画素信号の画素に対応する
画素データに付加された前記第2属性情報の示す輝度値がダイナミックレンジの上限値よ
り小さいか否かを判定する第2判定処理とのうち少なくとも一方を実行し、その判定結果
に基づき、前記記憶手段に記憶された前記画素データを更新又は維持することを特徴とす
る。
このような構成であれば、第2属性情報として、各画素の露光時間を示す情報を付加す
ることが可能であり、各画素データの示す輝度値がダイナミックレンジの上限値であるこ
とを示す情報を付加することが可能であり、各画素データの示す輝度値がダイナミックレ
ンジの上限値であることを示す情報を付加することが可能である。
また、第1判定処理及び第2判定処理の処理結果から、記憶手段に記憶された画素デー
タを、非飽和で、且つ、長い露光時間の画素データに優先的に更新することで、S/Nの
高い画像の撮像画像データを形成することができるという効果が得られる。
〔形態10〕 一方、上記目的を達成するために、形態10の撮像システムは、
露光した光を電荷に変換して蓄積する複数の光電変換素子がマトリクス状に配設された
構成の光電変換部と、露光時間を制御する電子シャッタ機能とを備えた撮像装置であって

前記光電変換素子の構成する各画素から、N種類(Nは2以上の自然数)の露光時間で
露光時の画素信号を読み出す画素信号読出手段と、
前記画素信号読出手段で読み出された各画素信号のデータである画素データに対して、
前記各画素の補正情報を含む第1属性情報と、前記各画素の撮像条件を含む第2属性情報
とを付加する属性情報付加手段と、
前記第1属性情報及び前記第2属性情報の付加された画素データを記憶する記憶手段と

前記各画素データに付加された前記第1属性情報に基づき、当該各画素データに対して
補正処理を行うと共に、補正処理後の各画素データに付加された前記第2属性情報と、前
記記憶手段に記憶された各画素データに付加された前記第2属性情報とに基づき、前記各
画素毎に、前記記憶手段に記憶された各画素データを更新又は維持することで撮像画像デ
ータを生成する撮像画像データ生成手段と、を備えることを特徴とする。
このような構成であれば、上記形態1の撮像装置と同様の作用及び効果が得られる。
ここで、本システムは、単一の装置、端末その他の機器として実現するようにしてもよ
いし(この場合は、形態1と同等となる)、複数の装置、端末その他の機器を通信可能に
接続したネットワークシステムとして実現するようにしてもよい。後者の場合、各構成要
素は、それぞれ通信可能に接続されていれば、複数の機器等のうちいずれに属していても
よい。
〔形態11〕 また、上記目的を達成するために、形態11の撮像方法は、
露光した光を電荷に変換して蓄積する複数の光電変換素子がマトリクス状に配設された
構成の光電変換部と、露光時間を制御する電子シャッタ機能とを備えた撮像装置で用いら
れる撮像方法であって、
前記光電変換素子の構成する各画素から、N種類(Nは2以上の自然数)の露光時間で
露光時の画素信号を読み出す画素信号読出ステップと、
前記画素信号読出ステップで読み出された各画素信号のデータである画素データに対し
て、前記各画素の補正情報を含む第1属性情報と、前記各画素の撮像条件を含む第2属性
情報とを付加する属性情報付加ステップと、
前記第1属性情報及び前記第2属性情報の付加された画素データをデータ書き換え可能
な記憶媒体に記憶する記憶ステップと、
前記各画素データに付加された前記第1属性情報に基づき、当該各画素データに対して
補正処理を行うと共に、補正処理後の各画素データに付加された前記第2属性情報と、前
記記憶媒体に記憶された各画素データに付加された前記第2属性情報とに基づき、前記各
画素毎に、前記記憶媒体に記憶された各画素データを更新又は維持することで撮像画像デ
ータを形成する撮像画像データ形成ステップと、を含むことを特徴とする。
これにより、形態1の撮像装置と同等の作用及び効果が得られる。
以下、図面に基づき、本発明に係る撮像装置、撮像システム及び撮像方法の実施の形態
を説明する。ここで、図1〜図9は、本発明に係る撮像装置、撮像システム及び撮像方法
の実施の形態を示す図である。図1は、本発明に係る撮像装置1の内部構成を示すブロッ
ク図である。
撮像装置1は、図1に示すように、非破壊型撮像部2と、信号処理部3と、BRAM(B
rain Random Access Memory)4とを含んで構成される。
非破壊型撮像部2は、1フレーム期間において、リセット直後の画像と、短露光時間で
露光時の画像と、標準露光時間(標準露光時間>短露光時間)で露光時の画像とを撮像可
能な電子シャッタ機能を有する。そして、被写体からの各露光時間に応じた光を撮像レン
ズ(不図示)でエリアセンサ6に集光し、その集光量に応じた電荷をエリアセンサ6の各
画素に蓄積させる。
また、非破壊型撮像部2は、信号処理部3のタイミング制御部8(後述)から出力され
る駆動信号(水平同期信号及び垂直同期信号)に基づいて、エリアセンサ6の各画素列に
蓄積されている電荷群を電圧群に順次変換し、その変換された電圧群からなる画素信号を
水平転送部7で読み出し、信号処理部3へと順次出力する。画素信号を読み出すときには
、信号読出後に蓄積電荷のリセットを行わない非破壊読み出し方式を用いる。
エリアセンサ6は、CMOSを用いて構成された複数のセンサセル(画素)をマトリク
ス状に配設し、各画素列毎に、各画素列を構成するセンサセルに対して、アドレス線、リ
セット線及び読出し線が共通に接続され、この3本の制御線を介して各種駆動信号が各画
素列を構成するセンサセルに送信される。そして、アドレス線及び読出し線が有効になる
と、信号線を介して蓄積電荷を水平転送部7に転送する構成となっている。このような構
成によって、アドレス線により、リセット動作又は読出し動作を行わせる画素列を有効に
(選択)する。そして、当該選択信号で選択した画素列の各センサセルに対して、リセッ
ト動作を行わせる場合はリセット線を介してリセット動作を指示する信号を入力し、画素
信号の読出しを行わせる場合は、読出し線を介して蓄積電荷の転送を指示する信号を入力
する。
水平転送部7は、エリアセンサ6の各画素から読み出したリセット直後の画素信号デー
タ(アナログ信号データ)と、短露光時間及び標準露光時間で露光時の画素信号データと
を一時記憶するそれぞれ独立した3つのラインメモリ(後述)と、後述する選択回路70
と、後述するADC(Analog Digital Converter)71とを有する。そして、前記3つの
ラインメモリのうち、選択回路70で選択されたラインメモリに記憶されたアナログの画
素信号データを、ADC71においてデジタル化された画像データ(以下、画素データと
称す)に変換する。そして、ADC71において変換後のデジタルの画素データを信号処
理部3の画像処理部9に出力する。
信号処理部3は、タイミング制御部8と、画像処理部9とを含んで構成される。
タイミング制御部8は、駆動信号(水平同期信号、垂直同期信号)を生成し、それをエ
リアセンサ6に出力する。また、タイミング制御部8は、水平同期信号、垂直同期信号に
基づき、エリアセンサ6から出力される画素信号の、撮像領域における画素位置(画素列
(ライン)番号、画素番号)が分かるので、その画素列(ライン)番号(以下、アドレス情
報と称す)を生成し、そのアドレス情報を不図示のALC(Automatic Level Control)及
び画像処理部9に出力する。
ALC(不図示)は、エリアセンサ6の露光制御を行う。即ち、後述の画像処理部9か
ら出力される画素データをライン単位もしくはフレーム単位で評価し、その評価結果に基
づいて、ライン単位もしくはフレーム単位に露光時間を算出し、その露光時間をALC内
部の記憶手段(不図示)に格納する。また、ALCは、タイミング制御部8から出力され
るアドレス情報に基づいて、記憶手段から対応するアドレス(画素列)の露光時間を読み出
し、その露光時間をタイミング制御部8と画像処理部9とに出力する(本実施の形態では
ライン単位の露光制御を想定)。
画像処理部9は、図2に示すように、非破壊型撮像部2から読み出された各画素データ
(画素の輝度値を示すデータ)に、各画素データの補正処理に用いる情報を含む第1属性
データと、各画素データの撮像条件を含む第2属性データとを付加して1組のデータ(以
下、HDR−RAWデータと称す)を生成する。そして、生成したHDR−RAWデータ
を合成することで、出力用の撮像画像データを生成し、当該生成した撮像画像データを、
表示装置などを含んで構成されるホストシステム5に出力する。ここで、図2は、本発明
のHDR−RAWデータを説明するための図である。
なお、第1属性データとしては、図2中のNで示される、各画素の固定パターンノイズ
のデータ(以下、ノイズデータと称す)と、図2中のF3で示される、各画素が欠陥画素
か否かを示すフラグ情報(以下、画素欠陥フラグと称す)などが含まれる。
ここで、ノイズデータ(N)には、各フレーム毎に各画素から読み出したリセット直後
の画素信号から生成されるデータを用いる。
また、画素欠陥フラグは、画素データに対応する画素が欠陥画素である場合は「1」、
そうでない場合は「0」と2種類のコード(1ビット)から構成される。
また、第2属性データとしては、画素データの生成時における露光時間を示す露光コー
ド(図2中のE)、前記画素データの輝度値がダイナミックレンジの最大値であることを
示す飽和フラグ(図2中のF2)などが含まれる。
ここで、露光コードは、本実施の形態においては、「0」、「1」、「2」の3種類の
コードとなる。但し、露光コードは、拡張のために、2ビットが用意されている。また、
本実施の形態において、露光コード「0」は、リセット直後を示し、露光コード「1」は
、最長の露光時間(標準露光時間)よりも短い特定の露光時間(短露光時間)を示し、露
光コード「2」は、最長の露光時間を示す。
また、飽和フラグは、「0」、「1」の2種類(1ビット)のデータである。飽和フラ
グ「0」は、画像データの輝度値がダイナミックレンジの最大値であること(飽和してい
ること)を示し、飽和フラグ「1」は、前記輝度値がダイナミックレンジの最大値より小
さいこと(非飽和であること)を示す。なお、F0、F1はリザーブであり、他の機能を
割り当てることができる。例えば、感度補正パラメータなどがある。
BRAM4は、内部に仮想デジタル電荷蓄積部を有し、1フレーム期間が経過するたび
に、未飽和で高S/Nの画像の各画素の画像データを記録(更新)する。なお、複数の露
光時間の画素値を合成した画素データを記録してもよい。
更に、図3及び図4に基づき、非破壊型撮像部2の露光時間の制御方法、及びエリアセ
ンサ6からの画素信号の読み出し方法について説明する。ここで、図3は、非破壊読み出
し方式における画素の蓄積電荷量の推移を示す図である。また、図4は、非破壊型撮像部
2のエリアセンサ6における各画素のライン毎の露光及び画素信号の読み出し動作の一例
を示す図である。
まず、図3に基づき、非破壊読み出しにおけるエリアセンサ6の各画素の蓄積電荷量の
推移について説明する。図3に示すように、1フレーム(標準露光時間)の露光において
、各画素に蓄積される電荷量は時間の経過と共に増加する。また、非破壊読み出し方式で
各画素から電荷を読み出す場合は、電荷を読み出した後にリセット処理を行わないため、
露光中に電荷の読み出しを何度行っても各画素の蓄積電荷量が維持される。
本実施の形態では、上記したように、リセット直後の画素信号と、短露光時間及び標準
露光時間で露光時の画素信号とを非破壊読み出し方式で読み出す。
なお、図3中のリセットタイミングは、エリアセンサ6の各センサセルに蓄積された電
荷を空にするタイミングであり、このタイミングが標準露光時間を決定する。
次に、図4に基づき、露光時間の制御方法について説明する。露光時間の制御は、図4
に示すように、まず、エリアセンサ6の露光領域に対して、各画素のラインの蓄積電荷の
リセット(蓄積電荷を空にする処理)及びリセット直後の画素信号の非破壊読み出しを行
うリセット&読み出しラインL0と、短露光時間で露光された各画素のラインから画素信
号の非破壊読み出しを行う非破壊読出しラインL1と、標準露光時間で露光された各画素
のラインから画素信号の非破壊読み出しを行う非破壊読出しラインL2とを設定する。
そして、1回の露光期間(標準露光時間)において、露光領域における画素のライン毎
に、リセット直後の画素信号の非破壊読み出し、短露光時間で露光時の画素信号の非破壊
読み出し、及び標準露光時間で露光時の画素信号の非破壊読み出しが順次に、且つそれぞ
れ独立に実行される。
つまり、リセット&読み出しラインL0、非破壊読出しラインL1及びL2は、図4に
示すように、、リセット&読み出しラインL0が、各画素のラインの蓄積電荷を順次リセ
ットすると共に、リセット直後の各画素のラインから画素信号を順次読み出すように設定
される。
また、リセット後において、標準露光時間分の電荷が蓄積される期間中(次のリセット
が行われるまでの期間中)において、短露光時間分の電荷が蓄積された各画素のラインの
画素信号を非破壊で順次読み出すように非破壊読出しラインL1が設定される。
また、リセット後において、標準露光時間分の電荷が蓄積された各画素のラインの画素
信号を非破壊で順次読み出すように非破壊読出しラインL2が設定される。
なお、本実施の形態においては、図4に示すように、露光領域に対する、リセット直後
の画素信号(アナログデータ)は、水平転送部7の有するリセット直後の信号用ラインメ
モリS0(出力チャンネル0(CH0))に読み出され、短露光時間で露光時の画素信号
は、水平転送部7の有する第1非破壊読出ラインメモリS1(出力チャンネル1(CH1
))に読み出され、標準露光時間で露光時の画素信号は、水平転送部7の有する第2非破
壊読出ラインメモリS2(出力チャンネル2(CH2))に読み出される。
また、上記各ラインメモリに読み出された画素信号は、図4に示すように、各ラインメ
モリの出力側に設けられた選択回路70に出力され、更に選択回路70で選択されたライ
ンの画素信号はADC71に出力され、ADC71においてデジタルのデータ(画素デー
タ)に変換されてから信号処理部3へと出力される。
また、上記リセット&読み出しラインL0、図4に示すように、露光領域に対して、各
画素のライン毎に、リセット&読み出しラインL0を順次走査し(図4では上方向)、当
該リセット&読み出しラインL0においては、蓄積電荷のリセットを行うと共にリセット
直後の画素信号の非破壊読み出しを順次行う。そして、リセット&読み出しラインL0が
再び以前走査したラインに到達したときに、丁度標準露光時間が経過するタイミングでリ
セット&読み出しラインL0の走査が行われる。このような手順で、エリアセンサ6の露
光領域に対して、各画素のライン毎に、リセット及びリセット直後の画素信号の非破壊読
み出しを順次行う。
また、非破壊読出しラインL1の読み出しタイミングの制御は、リセット&読み出しラ
インL0によって蓄積電荷がリセットされると、当該リセット後の画素のラインを、リセ
ット&読み出しラインL0に対して、短露光時間の位相差で非破壊読出しラインL1を順
次走査し、当該非破壊読出しラインL1において短露光時間の露光が行われた画素の画素
信号の非破壊読み出しを順次行う。
また、非破壊読出しラインL2の読み出しタイミングの制御は、リセット&読み出しラ
インL0によって蓄積電荷がリセットされると、当該リセット後の各画素のラインを、リ
セット&読み出しラインL0に対して、標準露光時間の位相差で非破壊読出しラインL2
を順次走査し、当該非破壊読出しラインL2において標準露光時間の露光が行われた画素
の画素信号の非破壊読み出しを順次行う。
次に、図5〜図8に基づき、信号処理部3における画像処理部9の詳細な構成を説明す
る。
ここで、図5は、画像処理部9の内部構成を示すブロック図である。また、図6は、プ
リプロセス部10の内部構成を示すブロック図である。また、図7(a)は、第1プロセ
ス部14aの内部構成を示す図であり、(b)は、属性データ更新部50の内部構成を示
すブロック図である。また、図8(a)は、第2プロセス部14b及び第3プロセス部1
4cの内部構成を示すブロック図であり、(b)は、補正部60の内部構成を示すブロッ
ク図である。
画像処理部9は、図5に示すように、プリプロセス部10と、メモリアービタ11と、
画像出力部12とを含んで構成される。
プリプロセス部10は、水平転送部7から出力される画素データに基づき、第1属性デ
ータ及び第2属性データの更新処理及び、撮像画像データの生成処理を行う。
メモリアービタ11は、プリプロセス部10などから読み出し指令が出力されると、そ
の出力された読み出し指令が示すHDR−RAWデータをBRAM4から読み出し、その
HDR−RAWデータを読み出し指令の出力元に出力する。また、メモリアービタ11は
、プリプロセス部10から書き込み指令が出力されると、その出力された書き込み指令が
示すHDR−RAWデータをBRAM10に書き込む。
画像出力部12は、HDR−RAWデータの画素信号を、ホストシステム5に出力する
ための形態に変換する。具体的に、広ダイナミックレンジに拡大された画素信号に対して
色補間などの画像処理を行ってからホストシステム5に出力する。
更に、図6に基づき、プリプロセス部10の内部構成について説明する。
プリプロセス部10は、図6に示すように、MUX(マルチプレクサ)13,15,1
6と、プロセス部14と、リード用ラインメモリ17と、ライト用ラインメモリ18とを
含んだ構成となっている。
MUX13は、非破壊型撮像部2から画素列(ライン)単位で入力された、リセット直
後の画素データ、短露光時間で露光時の画素データ、及び標準露光時間で露光時の画素デ
ータから、特定のラインの画素データを選択し、当該選択した画素データを、対応するプ
ロセス部に入力する。
MUX15は、リード用ラインメモリ17に記憶されたライン単位のHDR−RAWデ
ータを、対応するプロセス部に入力する。
MUX16は、第1プロセス部14a及び第2プロセス部14bにおいて生成されたH
DR−RAWデータを選択し、当該選択したHDR−RAWデータをライト用ラインメモ
リ18に出力する。
リード用ラインメモリ17は、BRAM4から読み出したライン単位のHDR−RAW
データを一時記憶するメモリであり、非破壊型撮像部2から入力される画素列(ライン)
に対応するラインの画素データを一時記憶し、プロセス部14へ出力する(リード用ライ
ンメモリは常に先読みしている)。リード用ラインメモリ17は、第1リードラインメモ
リ及び第2リードラインメモリの2つのラインメモリを有している。そして、この2つの
ラインメモリを切り替えながら、HDR−RAWデータを書き込み(メモリアービタから
)又は読み出し(プロセス部へ)することで、後述する各サブ伝送期間におけるパイプラ
イン処理をを実現し、実時間処理を可能としている。
ライト用ラインメモリ18は、BRAM4に書き込むHDR−RAWデータ(プロセス
部の処理結果)を一時記憶するメモリであり、1ライン分のHDR−RAWデータを記憶
可能な第1ライトラインメモリ及び第2ライトラインメモリの2つのラインメモリを有し
ている。そして、この2つのラインメモリを切り替えながら、HDR−RAWデータを書
き込み(プロセス部から)又は読み出し(メモリアービタへ)することで、後述する各サ
ブ伝送期間におけるパイプライン処理を実現し、実時間処理を可能としている。
プロセス部14は、第1プロセス部14aと、第2プロセス部14bと、第3プロセス
部14cとを含んで構成され、これら第1〜第3プロセス部14a〜14cの処理をパイ
プライン的に実行する。
第1プロセス部14aは、図7(a)に示すように、非破壊型撮像部2から入力される
リセット直後の画素データと、当該画素データと同じ画素位置の、BRAM4に記憶され
たHDR−RAWデータに含まれるノイズデータとに基づき第1属性データを更新する第
1属性データ更新部50と、HDR−RAWデータ中の画素データをクリアする画素デー
タクリア部51と、更新用のHDR−RAWデータを生成するHDR−RAWデータ生成
部52とを含んで構成される。
第1属性データ更新部50は、図7(b)に示すように、異常画素判定部50aと、ノ
イズデータ更新部50bとを含んで構成される。
異常画素判定部50aは、非破壊型撮像部2からリセット直後の画素データ(ノイズデ
ータ)が入力され、且つ、当該入力画素データと同じ画素位置の、BRAM4に記憶され
たHDR−RAWデータに含まれるノイズデータが入力されると、まず、各画素毎に、非
破壊型撮像部2からのノイズデータと、BRAM4からのノイズデータとの差分値を演算
する。次に、前記演算した差分値の絶対値と予め設定された閾値とを比較する。
次に、前記演算した差分値と前記比較結果とから入力画素データの画素が欠陥画素か否
かを判定する。そして、画素に欠陥があると判定されたときは、画素欠陥フラグを「1」
に設定し、画素に欠陥がないと判定されたときは、画素欠陥フラグを「0」に設定する。
次に、この設定した画素欠陥フラグをHDR−RAWデータ生成部52に出力し、BRA
M4に記憶された対応するHDR−RAWデータの画素欠陥フラグを更新する。また、前
記画素欠陥フラグは、ノイズデータ更新部50bにも出力する。
ノイズデータ更新部50bは、非破壊型撮像部2からリセット直後の画素データ(ノイ
ズデータ)が入力され、且つ当該入力画素データに対応するBRAM4に記憶されたHD
R−RAWデータに含まれるノイズデータが入力されると、これら新規のノイズデータと
1つ前のノイズデータとを用いて、公知のリカーシブルフィルタによって、新規のノイズ
データからノイズを除去する。これにより、ノイズデータのばらつきを抑圧して、補正処
理の精度を向上することが可能である。
また、ノイズデータ更新部50bは、異常画素判定部50aから画素に欠陥があること
を示す画素欠陥フラグ「1」が入力されたときは、例外として、ノイズデータの更新処理
を実行しないようにする。
第1属性データ更新部50は、画素欠陥フラグ及びノイズ除去後の画素データ(ノイズ
データ)を第1属性データとしてHDR−RAWデータ生成部52に出力する。
画素データクリア部51は、HDR−RAWデータに含まれる画素データをクリアして
(例えば、全て「0」にする)、クリア後の画素データをHDR−RAWデータ生成部5
2に出力する。また、本実施の形態においては、露光コード及び飽和フラグもクリア(「
0」に)する。
HDR−RAWデータ生成部52は、第1属性データ更新部50から入力された画素欠
陥フラグ及びノイズデータと、画素データクリア部51から入力された画素データ並びに
露光コード及び飽和フラグとから更新用のHDR−RAWデータを生成し、当該生成した
HDR−RAWデータを、MUX16を介してライト用ラインメモリ18に書き込む。ラ
イト用ラインメモリ18に書き込まれたHDR−RAWデータは、メモリアービタ11を
介してBRAM4の同じ画素位置に対応するHDR−RAWデータに上書きされる。
なお、上記第1属性データの更新処理及び画素データのクリア処理は、毎フレームごと
に行われる。従って、HDR−RAWデータは、常に最適なノイズデータから構成される
ことになる。
また、上記第1プロセス部14aの処理は、非破壊型撮像部2からリセット直後の画素
データが出力される期間(サブ伝送期間0)において順次行われる。
一方、第2プロセス部14bは、図8(a)に示すように、補正部60と、画素データ
更新部61と、HDR−RAWデータ生成部62とを含んだ構成となっている。
補正部60は、図8(b)に示すように、黒レベル補正部60aと、ノイズ除去部60
bと、感度・シェーディング補正部60cと、欠陥画素補正部60dとを含んだ構成とな
っている。
黒レベル補正部60aは、減算器から構成されており、非破壊型撮像部2から短露光時
間で露光時の画素データが入力されると、非破壊型撮像部2の遮光領域検出器(不図示)
から入力される遮光された信号成分を積分・平均化し、その黒レベルを前記画素データか
ら減ずる。黒レベル補正された画素データは、ノイズ除去部60bに出力される。
ノイズ除去部60bは、減算器から構成されており、先立って行われた第1プロセス部
14aにおける第1属性データの更新処理で更新されたノイズデータを用いて、非破壊型
撮像部2から入力された短露光時間で露光時の画素データから固定パターンノイズの除去
を行う。
具体的に、ノイズ除去部60bは、BRAM4から、メモリアービタ11を介して、B
RAM4に記憶された最新のノイズデータを含む対応する画素(ライン)のHDR−RAW
データを読み出し、当該HDR−RAWデータを、まずリード用ラインメモリ17に書き
込む。そして、リード用ラインメモリ17に書き込まれたHDR−RAWデータを、MU
X15を介して取得する。更に、非破壊型撮像部2から入力された画素データの輝度値か
ら、前記取得したHDR−RAWデータに含まれる最新のノイズデータの輝度値を減ずる
。これにより、短露光時間で露光時の画素データから、固定パターンノイズが除去される
。固定パターンノイズが除去された画素データは、感度・シェーディング補正部60cに
出力される。
感度・シェーディング補正部60cは、乗算器から構成されており、固定パターンノイ
ズが除去された画素データに対して、画素によってきまる感度補正パラメータに基づき、
感度補正を行う。感度に寄与するパラメータとしては、エリアセンサ6を構成する個々の
画素の感度ばらつき、集光レンズの収差によるシェーディングなどがある。感度補正パラ
メータを第1属性データとして付加することで感度補正を容易に行うことができる。
欠陥画素補正部60dは、第1属性データの画素欠陥フラグに基づき、欠陥画素の画素
データの補正の有無を判断し、補正有りと判断したときに、画素データを補正する。具体
的に、補正有りの場合は、処理対象の画素に対して隣接する画素の画素データを、処理対
象の画素の画素データとする補正を行う。一方、補正無しと判断したときは、補正を行わ
ない。補正後の画素データは、画素データ更新部61に出力される。
画素データ更新部61は、BRAM4から読み出したHDR−RAWデータに含まれる
露光コードの値(「0」又は「1」)に応じて、画素データの更新処理を行う。この更新
処理は、露光コードの値によって内容が異なる。
ここでは、HDR−RAWデータとして露光コードが「0」(リセット直後)のデータ
(画素データがクリアされたデータ)を扱っているので、上記欠陥画素補正部60dで補
正処理後の画素データの輝度値と飽和判定用の閾値とを比較し、閾値以上であれば飽和フ
ラグを「1」(飽和)と設定し、閾値未満であれば飽和フラグを「0」と設定する。更に
、非破壊型撮像部2から入力される画素データは短露光時間で露光された画素データであ
るため、露光コードを「1」に設定する。そして、欠陥画素補正部60dで補正処理後の
画素データと、前記設定した飽和フラグと、前記設定した露光コードとをHDR−RAW
データ生成部62に出力する。
HDR−RAWデータ生成部62は、画素データ更新部61から入力された、飽和フラ
グ、露光コード及び画素データと、BRAM4から読み出したHDR−RAWデータとか
ら更新用のHDR−RAWデータを生成する。
ここで、BRAM4から読み出したHDR−RAWデータは、その画素データが全てク
リアされた状態(例えば、全て「0」)となっており、且つノイズデータ及び画素欠陥フ
ラグ(第1属性データ)は最新のものとなっている。
HDR−RAWデータ生成部62は、更新用のHDR−RAWデータとして、BRAM
4から読み出したHDR−RAWデータにおける、画素データ、飽和フラグ及び露光コー
ドを、画素データ更新部61から入力された画素データ、飽和フラグ及び露光コードに変
更したものを生成する。そして、当該生成したHDR−RAWデータを、MUX16を介
してライト用ラインメモリ18に書き込む。ライト用ラインメモリ18に書き込まれた更
新用のHDR−RAWデータは、メモリアービタ11を介してBRAM4の対応するHD
R−RAWデータに上書きされる。
なお、上記第2プロセス部14bの処理は、非破壊型撮像部2から短露光時間で露光時
の画素データが出力される期間(サブ伝送期間1)において順次行われる。
また、第3プロセス部14cは、上記第2プロセス部14bと内部構成が同じであり、
図8(a)に示すように、補正部60と、画素データ更新部61と、HDR−RAWデー
タ生成部62とを含んだ構成となっている。但し、補正部60における補正処理は、上記
第2プロセス部14bと同様となるが、画素データ更新部61及びHDR−RAWデータ
生成部62における処理は異なる。
以下、第3プロセス部14cにおける、画素データ更新部61及びHDR−RAWデー
タ生成部62の処理について説明する。
画素データ更新部61は、補正部60で補正処理後の標準露光時間で露光時の画素デー
タが入力され、且つ補正処理後の画素データの画素に対応するBRAM4に記憶されたH
DR−RAWデータが入力されると、当該HDR−RAWデータに含まれる露光コードが
「1」であるため、まず、補正処理後の画素データの輝度値と飽和判定用の閾値(ダイナ
ミックレンジの最大値)とを比較する。そして、この比較結果に基づき、閾値を超えてい
れば飽和フラグを「1」(飽和)と設定し、閾値以下であれば飽和フラグを「0」(非飽
和)と設定する。
次に、前記設定された飽和フラグが「1」である場合は、HDR−RAWデータに含ま
れる画素データ及び露光コードをそのまま維持する指令をHDR−RAWデータ生成部6
2に出力する。一方、前記設定された飽和フラグが「0」である場合は、補正処理後の画
素データをHDR−RAWデータ生成部62に出力し、露光コードを「2」とする。
HDR−RAWデータ生成部62は、画素データ更新部61から、補正処理後の画素デ
ータが入力されたときは、BRAM4から読み出したHDR−RAWデータの画素データ
を、前記入力された画素データに更新し、更新後の画素データを含むHDR−RAWデー
タを画像出力部12に出力する。
一方、画素データ更新部61から、画素データを維持する指令が入力されたときは、B
RAM4から読み出したHDR−RAWデータを更新せずに、そのまま画像出力部12に
出力する。
なお、上記第3プロセス部14cの処理は、非破壊型撮像部2から短露光時間で露光時
の画素データが出力される期間(サブ伝送期間2)において順次行われる。
次に、図9に基づき、本実施の形態の撮像装置1の動作を説明する。
ここで、図9は、プリプロセス部10におけるパイプライン処理を示す図である。
図9の如く、1水平期間(1H期間)は、3つのサブ伝送期間に分割され、各々の期間
において、リセット&読み出しラインL0によるリセット直後のライン読み出し、非破壊
読出しラインL1による短露光時間のライン読み出し、非破壊読出しラインL2による標
準露光時間のライン読み出しが行われる。
いま、撮像動作を何フレームか実施し、その結果、ALC動作が収束し、短露光時間と
、標準露光時間が算出されたとする(位相差が決まる)。そして、いま、ある時刻(1H
の期間)において読み出しラインが図4の状態になったとする。図4の状態では、リセッ
ト&読み出しラインL0において、リセット直後に撮像された画像の電荷群が非破壊型撮
像部2のエリアセンサ6で電圧群に変換される。すると、水平転送部7によって、信号処
理部3のタイミング制御部8から出力される駆動信号が示す画素列で変換された電圧群が
読み出され、その読み出された電圧群が水平転送部7で選択回路70を介してADC71
に出力される。また、ADC71によって、その出力された電圧群に基づいてデジタルの
画素データが生成され、その生成された画素データが画素列単位に信号処理部3の画像処
理部9に出力される。
リセット直後の画素データが1画素列分、出力される期間は、図9に示すサブ伝送期間
0に該当し、第1プロセス部14aは、サブ伝送期間0において、各画素毎に、前記入力
された画素列単位のリセット直後の画素データ(ノイズデータ)と、当該画素データと同
じ画素位置の、BRAM4に記憶されたHDR−RAWデータに含まれるノイズデータと
に基づき、第1属性データの更新処理及び更新用HDR−RAWデータの生成処理(以下
、「Pixel-PROCESS-N」と称す)を実行する。
そして、サブ伝送期間0が終了すると、次に、非破壊読出しラインL1において、短露
光時間で撮像された画像の電荷群が非破壊型撮像部2のエリアセンサ6で電圧群に変換さ
れる。すると、リセット直後の場合と同様に、駆動信号の示す画素列の電圧群が読み出さ
れ、読み出された電圧群が水平転送部7で選択回路70を介してADC71に出力され、
ADC71によって、デジタルの画素データが画素列単位に信号処理部3の画像処理部9
に出力される。
サブ伝送期間0に続いて、短露光時間で露光時の画素データが1画素列分、出力される
期間は、図9に示すサブ伝送期間1に該当し、第2プロセス部14bは、サブ伝送期間1
において、各画素毎に、前記入力された画素列単位の短露光時間で露光時の画素データと
、当該画素データと同じ画素位置の、BRAM4に記憶されたHDR−RAWデータとに
基づき、画素データの補正処理及びHDR−RAWデータの更新処理(以下、「Pixel-PR
OCESS-S1」と称す)を実行する。
そして、サブ伝送期間1が終了すると、次に、非破壊読出しラインL2において、標準
露光時間で撮像された画像の電荷群が非破壊型撮像部2のエリアセンサ6で電圧群に変換
される。すると、リセット直後の場合と同様に、駆動信号の示す画素列の電圧群が読み出
され、読み出された電圧群が水平転送部7で選択回路70を介してADC71に出力され
、ADC71によって、デジタルの画素データが画素列単位に信号処理部3の画像処理部
9に出力される。
サブ伝送期間1に続いて、標準露光時間で露光時の画素データが1画素列分、出力され
る期間は、図9に示すサブ伝送期間2に該当し、第3プロセス部14cは、サブ伝送期間
2において、各画素毎に、前記入力された画素列単位の標準露光時間で露光時の画素デー
タと、当該画素データと同じ画素位置の、BRAM4に記憶されたHDR−RAWデータ
とに基づき、画素データの補正処理及びHDR−RAWデータの更新処理(以下、「Pixe
l-PROCESS-S2」と称す)を実行する。
次に、サブ伝送期間0における、第1プロセス部14aの具体的な動作を説明する。
第1プロセス部14aは、ADC71から、リセット直後の画素データ(ノイズデータ
)が1画素分入力されると、リード用ラインメモリ17の第2リードラインメモリから、
前記入力画素データと同じ画素位置のHDR−RAWデータをMUX15を介して取得す
る。ここで、第2リードラインメモリには、1つ前のサブ伝送期間2において、非破壊読
出しラインL0の画素列に対応するHDR−RAWデータが、BRAM4から読み出され
て、予め記憶されている。
そして、第1属性データ更新部50の異常画素判定部50aにおいて、前記入力された
画素データと、前記取得したHDR−RAWデータに含まれるノイズデータとに基づき、
これらに対応する画素が欠陥画素か否かを判定し、欠陥画素であった場合は、画素欠陥フ
ラグを「1」に、そうでなかった場合は、画素欠陥フラグを「0」に設定し、当該設定さ
れた画素欠陥フラグを、HDR−RAWデータ生成部52及びノイズデータ更新部50b
に出力する。
一方、ノイズデータ更新部50bは、異常画素判定部50aから、画素欠陥フラグ「0
」が入力されると、前記入力された画素データと、前記取得したHDR−RAWデータに
含まれるノイズデータとに対して、公知のリカーシブルフィルタを適用して、入力された
画素データからノイズ成分を除去し、更新用のノイズデータを生成する。そして、当該生
成した更新用のノイズデータをHDR−RAWデータ生成部52に出力する。
また、画素データクリア部51は、前記取得したHDR−RAWデータにおける画素デ
ータを全て「0」にクリアし、クリア後の画素データを、HDR−RAWデータ生成部5
2に出力する。また、露光コード及び飽和判定フラグも「0」にクリアし、露光コード「
0」及び飽和判定フラグ「0」をHDR−RAWデータ生成部52に出力する。
HDR−RAWデータ生成部52は、異常画素判定部50aから入力された画素欠陥フ
ラグ「0」と、ノイズデータ更新部50bから入力された更新用ノイズデータと、画素デ
ータクリア部51から入力されたクリア後の画素データ(全て「0」)、飽和フラグ「0
」及び露光コード「0」とから、更新用のHDR−RAWデータを生成する。そして、当
該生成した更新用のHDR−RAWデータを、ライト用ラインメモリ18の第1ライトラ
インメモリに書き込む。
上記更新用のHDR−RAWデータの生成処理を、サブ伝送期間0において入力される
1画素列分の画素データに対して行うと、第1ライトラインメモリに書き込まれた1画素
列分の更新用のHDR−RAWデータを、メモリアービタ11を介して、BRAM4に記
憶された、前記更新用のHDR−RAWデータと同じ画素位置(ライン番号L0)のHD
R−RAWデータに上書きする。このとき、メモリアービタ11は第1ライトラインメモ
リのデータを、後述するサブ伝送期間1の期間においてBRAM4へ書き込む。
また、メモリアービタ11は、サブ伝送期間1における「Pixel-PROCESS-S1」のために
、先行して、サブ伝送期間0中に、ライン番号L1に対応するHDR−RAWデータを、
メモリアービタ11を介してバースト的に読み出し、リード用ラインメモリ17の第1リ
ードラインメモリに書き込む。
次に、サブ伝送期間1における、第2プロセス部14bの具体的な動作を説明する。
第2プロセス部14bは、ADC71から、短露光時間で露光時の画素データが1画素
分入力されると、リード用ラインメモリ17の第1リードラインメモリから、前記入力画
素データと同じ画素位置のHDR−RAWデータをMUX15を介して取得する。ここで
、第1リードラインメモリには、先述したように、サブ伝送期間0において、ライン番号
L1に対応するHDR−RAWデータが、BRAM4から読み出されて、予め記憶されて
いる。
そして、補正部60の黒レベル補正部60aにおいて、入力画素データに対して黒レベ
ル補正を行い、黒レベル補正後の画素データから、前記取得したHDR−RAWデータに
含まれるノイズデータを減ずる。これにより、短露光時間で露光時の画素データから固定
パターンノイズが除去される。更に、感度・シェーディング補正部60cにおいて、感度
補正パラメータに基づき感度補正が行われる。なお更に、欠陥画素補正部60dにおいて
、前記取得したHDR−RAWデータに含まれる画素欠陥フラグが「1」である場合は、
画素に欠陥があるため、その画素データを、隣の画素のHDR−RAWデータの画素デー
タに変更し、変更後の画素データを画素データ更新部61に出力する。一方、画素欠陥フ
ラグが「0」である場合は、画素には欠陥がないので、そのまま感度補正後の画素データ
を画素データ更新部61に出力する。ここでは、画素に欠陥はなく、感度補正後の画素デ
ータをそのままHDR−RAWデータ生成部62に出力したとする。
画素データ更新部61は、前記取得したHDR−RAWデータに含まれる露光コードに
基づき、画素データの更新処理を行う。ここでは、取得した露光コードは「0」であり、
画素データ更新部61は、入力画素データの輝度値と、飽和判定用の輝度値(ダイナミッ
クレンジの最大値)とを比較し、当該比較結果に基づき、飽和判定フラグの値を設定する
。ここでは、飽和判定フラグが「0」(非飽和)に設定されたとする。また、露光コード
を「1」に設定する。これら設定した飽和判定フラグ「0」及び露光コード「1」を、H
DR−RAWデータ生成部62に出力する。
HDR−RAWデータ生成部62は、画素データ更新部61から入力された、補正処理
後の画素データ、飽和判定フラグ「0」及び露光コード「1」と、前記取得したHDR−
RAWデータとから、更新用のHDR−RAWデータを生成する。具体的には、前記取得
したHDR−RAWデータにおける、画素データ、飽和判定フラグ及び露光コードを、前
記画素データ更新部61から取得したものに変更したデータを、更新用のHDR−RAW
データとして生成する。そして、当該生成した更新用のHDR−RAWデータを、ライト
用ラインメモリ18の第2ライトラインメモリに書き込む。
上記更新用のHDR−RAWデータの生成処理を、サブ伝送期間1において入力される
1画素列分の画素データに対して行うと、第2ライトラインメモリに書き込まれた1画素
列分の更新用のHDR−RAWデータを、メモリアービタ11を介して、BRAM4に記
憶された、前記更新用のHDR−RAWデータと同じ画素位置(ライン番号L1)のHD
R−RAWデータに上書きする。このとき、メモリアービタ11は第2ラインメモリのデ
ータを、後述するサブ伝送期間2の期間においてBRAM4へと書き込む。
また、メモリアービタ11は、サブ伝送期間2における「Pixel-PROCESS-S2」のために
、先行して、サブ伝送期間1中に、ライン番号L2に対応するHDR−RAWデータを、
メモリアービタ11を介してバースト的に読み出し、リード用ラインメモリ17の第2リ
ードラインメモリに書き込む。
次に、サブ伝送期間2における、第3プロセス部14cの具体的な動作を説明する。
第3プロセス部14cは、ADC71から、標準露光時間で露光時の画素データが1画
素分入力されると、リード用ラインメモリ17の第2リードラインメモリから、前記入力
画素データと同じ画素位置のHDR−RAWデータをMUX15を介して取得する。ここ
で、第2リードラインメモリには、先述したように、サブ伝送期間1において、ライン番
号L2に対応するHDR−RAWデータが、BRAM4から読み出されて、予め記憶され
ている。
補正部60では、上記サブ伝送期間1における補正処理と同様に、入力画素データ(標
準露光時間で露光時の画素データ)に対して、黒レベル補正、ノイズ除去処理、感度補正
処理、及び欠陥画素の補正処理が順次施され、補正処理後の画素データが、画素データ更
新部61に出力される。
画素データ更新部61では、前記取得したHDR−RAWデータに含まれる露光コード
に基づき、画素データの更新処理を行う。ここでは、露光コードは「1」となるので、画
素データ更新部61は、入力画素データの輝度値と、飽和判定用の輝度値(ダイナミック
レンジの最大値)とを比較し、当該比較結果に基づき、飽和判定フラグの値を設定する。
ここでは、飽和判定フラグが「0」(非飽和)に設定されたとする。次に、この飽和判定
フラグ「0」と、前記取得したHDR−RAWデータに含まれる飽和判定フラグ「0」と
を比較する。この場合は、標準露光時間で露光時の画素データが非飽和であるため、露光
時間のより長い標準露光時間で露光時の画素データを、HDR−RAWデータ生成部62
に出力する。また、露光コードを「2」に更新する。
HDR−RAWデータ生成部62は、画素データ更新部61から、標準露光時間で露光
時の画素データが入力されると、前記取得したHDR−RAWデータに含まれる画素デー
タを、前記入力された画素データに変更した構成のHDR−RAWデータを生成する。そ
して、当該生成したHDR−RAWデータ(広ダイナミックレンジに対応)を、画像出力
部12に出力する。
また、メモリアービタ11は、次の画素列(現在のL0+1ライン目)のサブ伝送期間
0における「Pixel-PROCESS-N」のために、サブ伝送期間2中に、先行して、現在のL0
+1ライン目のHDR−RAWデータを、メモリアービタ11を介してバースト的に読み
出し、リード用ラインメモリ17の第1リードラインメモリに書き込む。
画像出力部12は、HDR−RAWデータ生成部62から入力されたHDR−RAWデ
ータ中の画素データに対して、例えばトーンマッピング処理、またカラーフィルタが搭載
された撮像素子の場合は色補間処理等を行い、ホストシステム5からの駆動信号に基づき
画像処理後のHDR−RAWデータを、ホストシステム5に出力する。
以上、本実施の形態の撮像装置1は、非破壊型撮像部2において、エリアセンサ6から
読み出される各露光時間で露光時の画素データに対して、画素データの補正処理に用いる
第1属性データ(ノイズデータ及び画素欠陥フラグ)を付加すると共に、画素データの合
成処理に用いる第2属性データ(露光コード及び飽和判定フラグ)を付加することが可能
である。また、BRAM4に記憶された、HDR−RAWデータ(第1属性データ及び第
2属性データが付加されたデータ)を用いて、画素データの補正処理及び画素データの合
成処理を行うことが可能である。
これにより、1回のBRAM4へのアクセスで、画素データの補正処理及び画素データ
の合成処理を行うことができるので、メモリへのアクセス回数が減り、処理を高速化する
ことができる。
また、共通のBRAM4を、合成のための遅延素子と、ノイズ除去のための素子として
兼用することが可能である。
これにより、ノイズ除去用に別途遅延素子を設ける必要がなく、その結果、遅延素子の
分だけ製造コストを低くすることができる。
また、本発明の画像データ形式とその構成により、画素単位での補正処理及び合成を簡
単に実現できる。即ち、画像を構成する各画素データに対して第1属性データ(ノイズデ
ータ、画素欠陥フラグ)と、第2属性データ(露光コード、飽和フラグ)とを付加し、そ
の付加された第1属性データを用いて補正処理を行い、第2属性データを用いて合成を行
うようにした。そのため、補正処理及び合成処理を容易に行うことが可能になる。つまり
、本合成手法により、未飽和で、且つ、S/Nの高い高品質の画像を生成することができ
る。なお、合成に必要な大容量フレームメモリ(BRAM4)は安価に入手できることか
ら、属性データを追加することは、大きな欠点とはならない。
以上、上記実施の形態において、図1のエリアセンサ6は、形態1、2、10及び11
のいずれか1の光電変換部に対応し、図1のエリアセンサ6、水平転送部7及びタイミン
グ制御部8による画素信号の読み出し処理は、形態1、3、4、7、8及び10のいずれ
か1の画素信号読出手段、又は形態11の画素信号読出ステップに対応し、図1の画像処
理部9のプリプロセス部10における第1属性データ及び第2属性データの付加及び更新
処理は、形態1、2、3、4、5、6、8、9及び10のいずれか1の属性情報付加手段
、又は形態11の属性情報付加ステップに対応し、図1のBRAM4は、形態1、4、5
、9及び10のいずれか1の記憶手段に対応し、図1の画像処理部9及びBRAM4によ
るHDR−RAWデータの生成処理(画素データの合成処理)は、形態1、2、3、6、
8、9及び10のいずれか1の撮像画像データ生成手段、又は形態11の撮像画像データ
生成ステップに対応する。
なお、本発明の撮像装置は、上記実施の形態の内容に限定されるものではなく、本発明
の趣旨を逸脱しない範囲で適宜変更可能である。
例えば、第2属性データとして、画像データの生成時における露光時間を示す露光コー
ド、前記画像データの輝度値がダイナミックレンジの最大値であることを示す飽和フラグ
を用いる例を示したが、これに限られるものではない。例えば、画像データが生成された
時刻を示す作成時刻コードや、画素固有のデータをさらに追加することも可能である。
また、本発明の撮像装置は、独立した3つの出力チャンネルを介して、非破壊読み出し
方式で読み出した、リセット直後を含む3種類の露光時間の画素データを利用して処理を
行う構成としたが、これに限らず、4つ以上の出力チャンネルを介して、4種類以上の露
光時間の画素データを読み出す構成としても良い。
また、本発明の撮像装置は、非破壊読み出し方式で各画素から電荷を読み出す構成とし
たが、これに限らず、電荷の読み出し後にリセットを伴う破壊読み出し方式を用いて電荷
を読み出す構成としても良い。
また、本発明は撮像装置に適用したが、画素毎に属性データを与え、それに基づいて画
像処理や画像合成を行わせるアイディアは、一般的な画像処理装置にも適応できることは
明らかである。
本発明に係る撮像装置1の内部構成を示すブロック図である。 本発明のHDR−RAWデータを説明するための図である。 非破壊読み出し方式における画素の蓄積電荷量の推移を示す図である。 非破壊型撮像部2のエリアセンサ6における各画素のライン毎の露光及び画素信号の読み出し動作の一例を示す図である。 画像処理部9の内部構成を示すブロック図である。 プリプロセス部10の内部構成を示すブロック図である。 (a)は、第1プロセス部14aの内部構成を示す図であり、(b)は、属性データ更新部50の内部構成を示すブロック図である。 (a)は、第2プロセス部14b及び第3プロセス部14cの内部構成を示すブロック図であり、(b)は、補正部60の内部構成を示すブロック図である。 プリプロセス部10におけるパイプライン処理を示す図である。 従来の撮像装置の構成を示すブロック図である。
符号の説明
1は撮像装置、2は非破壊型撮像部、3は信号処理部、4はBRAM、5はホストシステ
ム、6はエリアセンサ、7は水平転送部、8はタイミング制御部、9は画像処理部、10
はプリプロセス部、11はメモリアービタ、12は画像出力部、13,15,16はMU
X、14はプロセス部、17はリード用ラインメモリ、18はライト用ラインメモリ

Claims (11)

  1. 露光した光を電荷に変換して蓄積する複数の光電変換素子がマトリクス状に配設された
    構成の光電変換部と、露光時間を制御する電子シャッタ機能とを備えた撮像装置であって

    前記光電変換素子の構成する各画素から、N種類(Nは2以上の自然数)の露光時間で
    露光時の画素信号を読み出す画素信号読出手段と、
    前記画素信号読出手段で読み出された各画素信号のデータである画素データに対して、
    前記各画素の補正情報を含む第1属性情報と、前記各画素の撮像条件を含む第2属性情報
    とを付加する属性情報付加手段と、
    前記第1属性情報及び前記第2属性情報の付加された画素データを記憶する記憶手段と

    前記各画素データに付加された前記第1属性情報に基づき、当該各画素データに対して
    補正処理を行うと共に、補正処理後の各画素データに付加された前記第2属性情報と、前
    記記憶手段に記憶された各画素データに付加された前記第2属性情報とに基づき、前記各
    画素毎に、前記記憶手段に記憶された各画素データを更新又は維持することで撮像画像デ
    ータを生成する撮像画像データ生成手段と、を備えることを特徴とする撮像装置。
  2. 前記属性情報付加手段は、前記第1属性情報の1つとして、前記各画素に固有のノイズ
    の情報であるノイズ情報を付加し、
    前記撮像画像データ生成手段は、前記補正処理として、前記ノイズ情報に基づき各画素
    データのノイズ成分を除去するノイズ除去処理を行うことを特徴とする請求項1に記載の
    撮像装置。
  3. 前記画素信号読出手段は、前記光電変換素子の構成する各画素から、前記N種類の露光
    時間で露光時の画素信号とは別に、リセット直後の画素信号を読み出し、
    前記属性情報付加手段は、前記リセット直後に各画素から読み出される画素信号の画素
    データを、前記ノイズ情報として、前記各画素に対応する画素データに付加し、
    前記撮像画像データ生成手段は、前記ノイズ除去処理において、各露光時間で露光時の
    各画素データの示す値から、前記リセット直後の画素データの示す値を減ずることで前記
    ノイズ成分を除去することを特徴とする請求項2に記載の撮像装置。
  4. 前記画素信号読出手段は、前記N種類の露光時間の露光が行われる露光期間毎に、前記
    リセット直後の画素信号を読み出し、
    前記属性情報付加手段は、前記画素信号読出手段によって、リセット直後の画素信号が
    読み出される毎に、当該読み出された画素信号の画素データに基づき、前記記憶手段に記
    憶された各画素データに付加されたノイズ情報を更新することを特徴とする請求項3に記
    載の撮像装置。
  5. 前記属性情報付加手段は、前記ノイズ情報を更新すると共に、前記記憶手段に記憶され
    た画素データをクリアすることを特徴とする請求項4に記載の撮像装置。
  6. 前記属性情報付加手段は、前記各画素の画素データに基づき各画素が欠陥画素か否かを
    判定すると共に、当該判定結果に基づき、前記第1属性情報の1つとして、前記各画素デ
    ータに対応する画素が欠陥画素か否かを示す情報である欠陥画素情報を付加し、
    前記撮像画像データ生成手段は、前記補正処理として、前記欠陥画素情報に基づき、欠
    陥画素に対応する画素データを補正する欠陥画素データ補正処理を行うことを特徴とする
    請求項1乃至請求項5のいずれか1項に記載の撮像装置。
  7. 前記画素信号読出手段は、リセット直後から次のリセットまでの1回の露光期間におい
    て、前記N種類の露光時間で露光時の画素信号を、非破壊読み出し方式で読み出すことを
    特徴とする請求項1乃至請求項6のいずれか1項に記載の撮像装置。
  8. 前記画素信号読出手段は、前記N種類の露光時間における露光時間の短い順に、画像の
    ライン単位で順次露光される各画素の画素信号を、当該露光時間の種類毎に且つ前記ライ
    ン単位で順次読み出し、
    前記N種類の露光時間にそれぞれ対応し且つ当該各種類毎に前記画素信号読出手段で読
    み出される画素信号の画素データを前記ライン単位で記憶し、当該記憶したライン単位の
    画素データをそれぞれ独立に出力するN個の出力チャンネルを備え、
    前記属性情報付加手段は、前記N個の出力チャンネルから、前記露光時間の短い順に順
    次出力される各ラインの画素データに対して前記第1属性情報及び前記第2属性情報を付
    加し、
    前記撮像画像データ生成手段は、前記属性情報付加手段で前記第1属性情報及び前記第
    2属性情報の付加された各ラインの画素データに対して、前記補正処理及び前記撮像画像
    データの生成処理を順次行うことを特徴とする請求項7に記載の撮像装置。
  9. 前記属性情報付加手段は、前記第2属性情報として、前記各画素データに対して、前記
    画素の露光時間を示す情報、及び前記画素の輝度値がダイナミックレンジの上限値である
    ことを示す情報の少なくとも一方を付加し、
    前記撮像画像データ生成手段は、新規に読み出された画素信号の画素データに付加され
    た前記第2属性情報の示す露光時間が、前記記憶手段に記憶されている前記新規に読み出
    された画素信号の画素に対応する画素データに付加された前記第2属性情報が示す露光時
    間よりも長いか否かを判定する第1判定処理と、新規に読み出された画素信号の画素デー
    タに付加された前記第2属性情報の示す輝度値がダイナミックレンジの上限値より大きく
    、且つ前記記憶手段に記憶されている前記新規に読み出された画素信号の画素に対応する
    画素データに付加された前記第2属性情報の示す輝度値がダイナミックレンジの上限値よ
    り小さいか否かを判定する第2判定処理とのうち少なくとも一方を実行し、その判定結果
    に基づき、前記記憶手段に記憶された前記画素データを更新又は維持することを特徴とす
    る請求項1乃至請求項8のいずれか1項に記載の撮像装置。
  10. 露光した光を電荷に変換して蓄積する複数の光電変換素子がマトリクス状に配設された
    構成の光電変換部と、露光時間を制御する電子シャッタ機能とを備えた撮像装置であって

    前記光電変換素子の構成する各画素から、N種類(Nは2以上の自然数)の露光時間で
    露光時の画素信号を読み出す画素信号読出手段と、
    前記画素信号読出手段で読み出された各画素信号のデータである画素データに対して、
    前記各画素の補正情報を含む第1属性情報と、前記各画素の撮像条件を含む第2属性情報
    とを付加する属性情報付加手段と、
    前記第1属性情報及び前記第2属性情報の付加された画素データを記憶する記憶手段と

    前記各画素データに付加された前記第1属性情報に基づき、当該各画素データに対して
    補正処理を行うと共に、補正処理後の各画素データに付加された前記第2属性情報と、前
    記記憶手段に記憶された各画素データに付加された前記第2属性情報とに基づき、前記各
    画素毎に、前記記憶手段に記憶された各画素データを更新又は維持することで撮像画像デ
    ータを生成する撮像画像データ生成手段と、を備えることを特徴とする撮像システム。
  11. 露光した光を電荷に変換して蓄積する複数の光電変換素子がマトリクス状に配設された
    構成の光電変換部と、露光時間を制御する電子シャッタ機能とを備えた撮像装置で用いら
    れる撮像方法であって、
    前記光電変換素子の構成する各画素から、N種類(Nは2以上の自然数)の露光時間で
    露光時の画素信号を読み出す画素信号読出ステップと、
    前記画素信号読出ステップで読み出された各画素信号のデータである画素データに対し
    て、前記各画素の補正情報を含む第1属性情報と、前記各画素の撮像条件を含む第2属性
    情報とを付加する属性情報付加ステップと、
    前記第1属性情報及び前記第2属性情報の付加された画素データをデータ書き換え可能
    な記憶媒体に記憶する記憶ステップと、
    前記各画素データに付加された前記第1属性情報に基づき、当該各画素データに対して
    補正処理を行うと共に、補正処理後の各画素データに付加された前記第2属性情報と、前
    記記憶媒体に記憶された各画素データに付加された前記第2属性情報とに基づき、前記各
    画素毎に、前記記憶媒体に記憶された各画素データを更新又は維持することで撮像画像デ
    ータを形成する撮像画像データ形成ステップと、を含むことを特徴とする撮像方法。
JP2007035822A 2007-02-16 2007-02-16 撮像装置、撮像システム及び撮像方法 Withdrawn JP2008205530A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007035822A JP2008205530A (ja) 2007-02-16 2007-02-16 撮像装置、撮像システム及び撮像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007035822A JP2008205530A (ja) 2007-02-16 2007-02-16 撮像装置、撮像システム及び撮像方法

Publications (1)

Publication Number Publication Date
JP2008205530A true JP2008205530A (ja) 2008-09-04

Family

ID=39782611

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007035822A Withdrawn JP2008205530A (ja) 2007-02-16 2007-02-16 撮像装置、撮像システム及び撮像方法

Country Status (1)

Country Link
JP (1) JP2008205530A (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010124412A (ja) * 2008-11-21 2010-06-03 Olympus Imaging Corp 画像処理装置、画像処理方法、および、画像処理プログラム
JP2011030201A (ja) * 2009-06-30 2011-02-10 Nikon Corp デジタルカメラ
JP2012533961A (ja) * 2009-07-20 2012-12-27 ヴァレリーヴィチ シムニコ,ドミトリー 画質を向上させる方法
JP2013504940A (ja) * 2009-09-10 2013-02-07 コントラスト オプティカル デザイン アンド エンジニアリング,インク. 全ビーム画像スプリッタシステム
JP2014179966A (ja) * 2013-02-18 2014-09-25 Panasonic Corp 欠陥画素の補正装置および補正方法
JP2015119308A (ja) * 2013-12-18 2015-06-25 キヤノン株式会社 画像合成装置、画像合成方法、撮像装置、プログラム及び記憶媒体
US9076233B2 (en) 2012-02-03 2015-07-07 Seiko Epson Corporation Image processing device and electronic apparatus using the same
JP2017195003A (ja) * 2012-05-31 2017-10-26 オリンパス株式会社 撮像装置、画像処理装置、画像ファイルを記録した記録媒体、記録方法およびプログラム
CN110248106A (zh) * 2019-06-13 2019-09-17 Oppo广东移动通信有限公司 图像降噪方法、装置、电子设备以及存储介质
JP2020506642A (ja) * 2017-01-17 2020-02-27 サントル ナショナル ドゥ ラ ルシェルシュ シアンティフィック 画像センサの非破壊読出しによって得られた複数の画像に基づく、シーンの高ダイナミックレンジ画像の適応的生成
JP2020115148A (ja) * 2014-01-30 2020-07-30 ビーディー キエストラ ベスローテン フェンノートシャップ 生体試料を撮像するシステム及び方法
WO2021157261A1 (ja) * 2020-02-05 2021-08-12 パナソニックIpマネジメント株式会社 撮像装置および画像処理方法
WO2023248589A1 (ja) * 2022-06-23 2023-12-28 株式会社ジャパンディスプレイ カメラモジュール

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1093869A (ja) * 1996-09-13 1998-04-10 Rohm Co Ltd 撮像方法およびccdカメラ
JP2001016503A (ja) * 1999-06-28 2001-01-19 Nec Corp 信号処理装置
JP2003046872A (ja) * 2001-08-01 2003-02-14 Matsushita Electric Ind Co Ltd 撮像装置、撮像方法、およびプログラム
JP2006191536A (ja) * 2004-12-07 2006-07-20 Seiko Epson Corp 撮像装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1093869A (ja) * 1996-09-13 1998-04-10 Rohm Co Ltd 撮像方法およびccdカメラ
JP2001016503A (ja) * 1999-06-28 2001-01-19 Nec Corp 信号処理装置
JP2003046872A (ja) * 2001-08-01 2003-02-14 Matsushita Electric Ind Co Ltd 撮像装置、撮像方法、およびプログラム
JP2006191536A (ja) * 2004-12-07 2006-07-20 Seiko Epson Corp 撮像装置

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010124412A (ja) * 2008-11-21 2010-06-03 Olympus Imaging Corp 画像処理装置、画像処理方法、および、画像処理プログラム
JP2011030201A (ja) * 2009-06-30 2011-02-10 Nikon Corp デジタルカメラ
KR101813292B1 (ko) 2009-07-20 2017-12-28 알마렌스, 인코포레이티드 이미지 개선 방법
JP2012533961A (ja) * 2009-07-20 2012-12-27 ヴァレリーヴィチ シムニコ,ドミトリー 画質を向上させる方法
JP2013504940A (ja) * 2009-09-10 2013-02-07 コントラスト オプティカル デザイン アンド エンジニアリング,インク. 全ビーム画像スプリッタシステム
US9076233B2 (en) 2012-02-03 2015-07-07 Seiko Epson Corporation Image processing device and electronic apparatus using the same
CN108259757A (zh) * 2012-05-31 2018-07-06 奥林巴斯株式会社 摄像装置、图像处理装置、以及记录方法
JP2017195003A (ja) * 2012-05-31 2017-10-26 オリンパス株式会社 撮像装置、画像処理装置、画像ファイルを記録した記録媒体、記録方法およびプログラム
JP2014179966A (ja) * 2013-02-18 2014-09-25 Panasonic Corp 欠陥画素の補正装置および補正方法
JP2015119308A (ja) * 2013-12-18 2015-06-25 キヤノン株式会社 画像合成装置、画像合成方法、撮像装置、プログラム及び記憶媒体
JP2020115148A (ja) * 2014-01-30 2020-07-30 ビーディー キエストラ ベスローテン フェンノートシャップ 生体試料を撮像するシステム及び方法
JP7036858B2 (ja) 2014-01-30 2022-03-15 ビーディー キエストラ ベスローテン フェンノートシャップ 生体試料を撮像するシステム及び方法
JP2020506642A (ja) * 2017-01-17 2020-02-27 サントル ナショナル ドゥ ラ ルシェルシュ シアンティフィック 画像センサの非破壊読出しによって得られた複数の画像に基づく、シーンの高ダイナミックレンジ画像の適応的生成
JP7030843B2 (ja) 2017-01-17 2022-03-07 サントル ナショナル ドゥ ラ ルシェルシュ シアンティフィック 画像センサの非破壊読出しによって得られた複数の画像に基づく、シーンの高ダイナミックレンジ画像の適応的生成
CN110248106A (zh) * 2019-06-13 2019-09-17 Oppo广东移动通信有限公司 图像降噪方法、装置、电子设备以及存储介质
CN110248106B (zh) * 2019-06-13 2021-04-23 Oppo广东移动通信有限公司 图像降噪方法、装置、电子设备以及存储介质
WO2021157261A1 (ja) * 2020-02-05 2021-08-12 パナソニックIpマネジメント株式会社 撮像装置および画像処理方法
WO2023248589A1 (ja) * 2022-06-23 2023-12-28 株式会社ジャパンディスプレイ カメラモジュール

Similar Documents

Publication Publication Date Title
JP2008205530A (ja) 撮像装置、撮像システム及び撮像方法
JP4662880B2 (ja) 撮像装置,及び撮像方法
JP4998056B2 (ja) 撮像装置、撮像システム及び撮像方法
JP4888081B2 (ja) 撮像装置、撮像方法、撮像システム及び画像処理装置
JP6016412B2 (ja) 撮像装置および信号処理方法
JP4379408B2 (ja) 信号処理部および撮像装置
JP5523065B2 (ja) 撮像装置及びその制御方法
JP2007194687A (ja) 撮像装置
JP2010219624A (ja) 画像信号処理装置及び画像信号処理方法
JP2008276482A (ja) 画像処理装置、画像処理方法及び画像処理用プログラム。
JP2007174590A (ja) 信号処理装置及び撮像装置
JP2007174266A (ja) 撮像装置
JP5829122B2 (ja) 撮像装置および評価値生成装置
JP5094252B2 (ja) 撮像装置及びその制御方法
JP4606218B2 (ja) 歪補正装置
JP5299159B2 (ja) 撮像装置およびプログラム
US8368782B2 (en) Multiple exposure image pickup apparatus, multiple exposure image pickup method, program, and recording medium
JP2014099714A (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP2009302850A (ja) 固体撮像素子のノイズ除去装置、撮像装置、固体撮像素子のノイズ除去方法
JP5106056B2 (ja) 撮像装置及びそのフリッカ検出方法
JP4847281B2 (ja) 撮像装置及びその制御方法並びに撮像システム
JP6223166B2 (ja) 画像合成装置、画像合成方法、撮像装置、プログラム及び記憶媒体
JP7020463B2 (ja) 撮像装置
JP6302217B2 (ja) 撮像装置及びその制御方法
JP2008295007A (ja) 撮像装置及び制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110617

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110802

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20110921