JP4735994B2 - 撮像装置及び方法、プログラム、並びに記録媒体 - Google Patents

撮像装置及び方法、プログラム、並びに記録媒体 Download PDF

Info

Publication number
JP4735994B2
JP4735994B2 JP2008218010A JP2008218010A JP4735994B2 JP 4735994 B2 JP4735994 B2 JP 4735994B2 JP 2008218010 A JP2008218010 A JP 2008218010A JP 2008218010 A JP2008218010 A JP 2008218010A JP 4735994 B2 JP4735994 B2 JP 4735994B2
Authority
JP
Japan
Prior art keywords
signal
subject
reading
frame
storage means
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008218010A
Other languages
English (en)
Other versions
JP2010056733A (ja
Inventor
博樹 大槻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008218010A priority Critical patent/JP4735994B2/ja
Priority to US12/502,495 priority patent/US8368782B2/en
Priority to CN2009101601974A priority patent/CN101662593B/zh
Publication of JP2010056733A publication Critical patent/JP2010056733A/ja
Application granted granted Critical
Publication of JP4735994B2 publication Critical patent/JP4735994B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は撮像装置及び方法、プログラム、並びに記録媒体に関し、特に、多重露光時の処理に適用して好適な撮像装置及び方法、プログラム、並びに記録媒体に関する。
画像を撮影するカメラにおいて、多重露光という撮影手法がある。多重露光とは、単一フレームに同一被写体、または複数の被写体を2度以上露光する撮影手法であり、複数の画像を重ね合わせて合成画像を生成する技術である。特に、スローシャッターやバルブシャッターを利用した長時間露光時の多重露光撮影では、夜景や花火等の芸術的効果の高い写真が撮影可能となる技術である。
記録媒体としてフィルムを用いるフィルムカメラにおいては、フィルムを巻き上げずに複数回のシャッターを切ることにより多重露光撮影を実現可能であった。近年普及しているデジタルスチルカメラやデジタルビデオカメラ等のデジタル撮像機器においては、フィルムカメラと同様の処理で多重露光を実現することはできない。しかしながら、フィルムカメラからの流れで、デジタル撮像機器においても多重露光機能の実現が要望され、徐々に普及しつつある。
デジタル撮像機器において多重露光機能を実現しようとした場合、合成画像を生成するための複数の画像を保持する必要があり、複数の画像を保持するためのメモリ等の大規模容量の記憶素子が必要となる。そのために撮像機器が、大規模になってしまい、高コストになってしまう。特に、近年の撮像素子の多画素化及び小型化の潮流下においては、より大規模となってしまう可能性があった。
また、メモリ容量の大規模化と共に、メモリ帯域が増大化してしまう。メモリ帯域の増大は、メモリを利用する他の機能との競合を発生させ、撮影速度等の撮像機器のシステム全体の処理性能に大きな影響を与える。
さらに、長時間露光時の多重露光においては、固体撮像素子の所謂暗電流起因の黒信号レベルの増加並びに固定パターンノイズの発生により、撮像素子の感度やダイナミックレンジを低減させ、撮像多重露光画像の画質を劣化させる。この暗電流は、半導体の熱励起による電子−正孔対の発生に起因するものであり、温度や固体撮像素子の電荷の蓄積時間に比例して影響が大きくなる性質を有する。
特許文献1には、複数画像中の主被写体部分を抽出して主要画像信号を生成し、隣接する2つの主要画像信号間の差分画像を記録することにより、合成画像を生成するのに必要なメモリ容量を低減する多重露光撮影方法が提案されている。
特開2001−28726号公報
上記した特許文献1においては、画像抽出手段や第1及び第2の主要画像保持手段等を別途必要とするため、機器全体としての小型化には繋がらず、また画像抽出という処理が付加されるため、処理速度が低下してしまう。また、特許文献1においては、長時間露光時の多重露光においての感度やダイナミックレンジの低下という課題は解決できない。
本発明は、このような状況に鑑みてなされたものであり、デジタルスチルカメラ等のデジタル撮像機器における多重露光において、メモリ容量やメモリ帯域を削減し、また、長時間露光時の感度やダイナミックレンジの欠損を抑制し、かつ処理性能を向上させた多重露光ができるようにするものである。
本発明の一側面の撮像装置は、複数の画像を重ね合わせて合成画像を生成する撮像装置であって、撮像素子からの被写体信号を読み出す読み出し手段と、前記読み出し手段により読み出された前記信号の加算または減算を行うフレーム演算手段と、前記フレーム演算手段による演算結果を少なくとも記憶する記憶手段と、前記フレーム演算手段と前記記憶手段との間の前記記憶手段への書き込み1系統と、前記記憶手段からの読み出し1系統の計2系統を有するデータバスを介しての信号の転送を制御する転送制御手段とを備え、前記読み出し手段は、出力信号レベルが飽和する前の露光途中で撮像素子から被写体信号の読み出しを行った後、シャッターを開放したまま再度被写体信号の読み出しを行い、前記フレーム演算手段は、少なくとも前記2つの被写体信号を加算し、前記転送制御手段は、前記記憶手段への前記加算された被写体信号の転送を制御し、前記読み出し手段は、被写体からの撮像光を遮光したまま前記被写体信号と同一時間露光して取得される黒信号を読み出し、前記フレーム演算手段は、前記記憶手段に記憶された前記加算された被写体信号から前記読み出し手段により読み出された前記黒信号を減算し、前記転送制御手段は、前記記憶手段内の前記加算された被写体信号が記憶された領域と同一の領域への前記減算された信号の転送を制御する
前記フレーム演算手段は、撮像素子からの信号に対し、一定のオフセット信号成分を減じるオフセット減算手段を含むようにすることができる。
前記転送制御手段は、前記フレーム演算手段からのRawデータ形式の信号を圧縮した後、前記記憶手段に転送し、前記記憶手段からの圧縮された信号をRawデータ形式に伸張した後、前記フレーム演算手段に転送するようにすることができる。
本発明の一側面の撮像方法は、複数の画像を重ね合わせて合成画像を生成する撮像装置であり、フレーム演算手段、記憶手段、転送制御手段を備える撮像装置の撮像方法であって、前記フレーム演算手段が、撮像素子から読み出された被写体信号の加算または減算を行い、前記記憶手段が、前記フレーム演算手段による演算結果を記憶し、前記転送制御手段が、前記フレーム演算手段と前記記憶手段との間の前記記憶手段への書き込み1系統と、前記記憶手段からの読み出し1系統の計2系統を有するデータバスを介しての信号の転送を制御するステップを含み、前記撮像素子からの前記被写体信号の読み出しは、出力信号レベルが飽和する前の露光途中で撮像素子から被写体信号の読み出しを行った後、シャッターを開放したまま再度被写体信号の読み出しが行われ、前記フレーム演算手段が、少なくとも前記2つの被写体信号を加算するステップを含み、前記転送制御手段が、前記記憶手段への前記加算された被写体信号の転送を制御するステップを含み、前記撮像素子からの前記被写体信号の読み出しは、被写体からの撮像光を遮光したまま前記被写体信号と同一時間露光して取得される黒信号の読み出しが行われ、前記フレーム演算手段が、前記記憶手段に記憶された前記加算された被写体信号から読み出された前記黒信号を減算するステップを含み、前記転送制御手段が、前記記憶手段内の前記加算された被写体信号が記憶された領域と同一の領域への前記減算された信号の転送を制御するステップを含む
本発明の一側面のプログラムは、複数の画像を重ね合わせて合成画像を生成する撮像装置であり、フレーム演算手段、記憶手段、転送制御手段を備える撮像装置を制御するコンピュータに、前記フレーム演算手段が、撮像素子から読み出された被写体信号の加算または減算を行い、前記記憶手段が、前記フレーム演算手段による演算結果を記憶し、前記転送制御手段が、前記フレーム演算手段と前記記憶手段との間の前記記憶手段への書き込み1系統と、前記記憶手段からの読み出し1系統の計2系統を有するデータバスを介しての信号の転送を制御するステップを含み、前記撮像素子からの前記被写体信号の読み出しは、出力信号レベルが飽和する前の露光途中で撮像素子から被写体信号の読み出しを行った後、シャッターを開放したまま再度被写体信号の読み出しが行われ、前記フレーム演算手段が、少なくとも前記2つの被写体信号を加算するステップを含み、前記転送制御手段が、前記記憶手段への前記加算された被写体信号の転送を制御するステップを含み、前記撮像素子からの前記被写体信号の読み出しは、被写体からの撮像光を遮光したまま前記被写体信号と同一時間露光して取得される黒信号の読み出しが行われ、前記フレーム演算手段が、前記記憶手段に記憶された前記加算された被写体信号から読み出された前記黒信号を減算するステップを含み、前記転送制御手段が、前記記憶手段内の前記加算された被写体信号が記憶された領域と同一の領域への前記減算された信号の転送を制御するステップを含む処理を実行させる。
本発明の一側面の記録媒体は、複数の画像を重ね合わせて合成画像を生成する撮像装置であり、フレーム演算手段、記憶手段、転送制御手段を備える撮像装置を制御するコンピュータに、前記フレーム演算手段が、撮像素子から読み出された被写体信号の加算または減算を行い、前記記憶手段が、前記フレーム演算手段による演算結果を記憶し、前記転送制御手段が、前記フレーム演算手段と前記記憶手段との間の前記記憶手段への書き込み1系統と、前記記憶手段からの読み出し1系統の計2系統を有するデータバスを介しての信号の転送を制御するステップを含み、前記撮像素子からの前記被写体信号の読み出しは、出力信号レベルが飽和する前の露光途中で撮像素子から被写体信号の読み出しを行った後、シャッターを開放したまま再度被写体信号の読み出しが行われ、前記フレーム演算手段が、少なくとも前記2つの被写体信号を加算するステップを含み、前記転送制御手段が、前記記憶手段への前記加算された被写体信号の転送を制御するステップを含み、前記撮像素子からの前記被写体信号の読み出しは、被写体からの撮像光を遮光したまま前記被写体信号と同一時間露光して取得される黒信号の読み出しが行われ、前記フレーム演算手段が、前記記憶手段に記憶された前記加算された被写体信号から読み出された前記黒信号を減算するステップを含み、前記転送制御手段が、前記記憶手段内の前記加算された被写体信号が記憶された領域と同一の領域への前記減算された信号の転送を制御するステップを含む処理を実行するコンピュータが読み取り可能なプログラムが記録されている。
本発明の一側面の撮像装置および方法、プログラム、並びに記録媒体のプログラムにおいては、撮像素子から読み出された被写体信号の加算または減算が行われ、その演算結果が記憶され、演算を行う部分と記憶を行う部分との間の記憶を行う部分への書き込み1系統と、記憶を行う部分からの読み出し1系統の計2系統を有するデータバスを介しての信号の転送が制御される。また撮像素子からの被写体信号の読み出しは、出力信号レベルが飽和する前の露光途中で撮像素子から被写体信号の読み出しを行った後、シャッターを開放したまま再度被写体信号の読み出しが行われる。また、演算は、少なくとも2つの被写体信号が加算され、その加算された被写体信号が記憶される。また、撮像素子からの被写体信号の読み出しは、被写体からの撮像光を遮光したまま被写体信号と同一時間露光して取得される黒信号の読み出しが行われ、記憶された加算された被写体信号から読み出された黒信号を減算され、加算された被写体信号が記憶された領域と同一の領域への減算された信号の転送が制御される
本発明の一側面のプログラムは、撮像素子、前記撮像素子からの信号を記憶する記憶手段、および、前記撮像素子からの信号及び前記記憶手段に記憶されている信号を用いた演算を行う演算手段とを少なくとも含む撮像装置に、前記撮像素子から所定の被写体を撮像したときの信号を前記記憶手段に記憶し、さらに前記信号が取得されたとき、前記演算手段は、前記記憶手段に記憶されている前記信号を読み出し、取得された信号と加算し、前記記憶手段に記憶し、前記加算が所定の回数繰り返された後、前記演算手段は、前記信号を取得したときの露光時間と同じ時間だけ露光したときに取得される黒信号を前記撮像素子から取得し、前記記憶手段に記憶されている前記信号を読み出し、その信号から前記黒信号を減算し、前記記憶手段に記憶し、前記減算を前記所定の回数だけ繰り返すステップを含む処理を実行させるコンピュータが読み取り可能なプログラム。
本発明の一側面の記録媒体は、撮像素子、前記撮像素子からの信号を記憶する記憶手段、および、前記撮像素子からの信号及び前記記憶手段に記憶されている信号を用いた演算を行う演算手段とを少なくとも含む撮像装置に、前記撮像素子から所定の被写体を撮像したときの信号を前記記憶手段に記憶し、さらに前記信号が取得されたとき、前記演算手段は、前記記憶手段に記憶されている前記信号を読み出し、取得された信号と加算し、前記記憶手段に記憶し、前記加算が所定の回数繰り返された後、前記演算手段は、前記信号を取得したときの露光時間と同じ時間だけ露光したときに取得される黒信号を前記撮像素子から取得し、前記記憶手段に記憶されている前記信号を読み出し、その信号から前記黒信号を減算し、前記記憶手段に記憶し、前記減算を前記所定の回数だけ繰り返すステップを含む処理を実行させるコンピュータが読み取り可能なプログラムを記録している。
本発明の一側面の撮像方法、およびプログラムにおいては、撮像素子から所定の被写体を撮像したときの信号が記憶され、さらに信号が取得されたとき、記憶されている信号が読み出され、取得された信号と加算され、記憶手段に戻され、そのような加算が所定の回数繰り返されると、信号を取得したときの露光時間と同じ時間だけ露光したときに取得される黒信号が取得され、記憶されている信号が読み出され、その読み出された信号から黒信号が減算され、記憶手段に戻され、そのような減算が所定の回数だけ繰り返されることで、多重露光時の画像が生成される。
本発明の一側面によれば、デジタルスチルカメラ等のデジタル撮像機器における多重露光において、メモリ容量やメモリ帯域を削減し、また、長時間露光時の感度やダイナミックレンジの欠損を抑制し、かつ処理性能を向上させた多重露光ができるようになる。
以下に、本発明の実施の形態について図面を参照して説明する。
図1は、本発明を適用した多重露光装置の一実施の形態の構成を示す図である。本発明を適用した多重露光装置は、例えば、デジタルスチルカメラやデジタルビデオカメラなどのデジタル撮像機器に適用したり、組み込んだりして用いることが可能である。
図1に示した多重露光装置は、レンズ1、モータ2、モータ駆動部3、アイリス4、駆動回路5、撮像素子6、駆動回路7、フロントエンド(F/E:Front End)処理部8、信号処理部9、システム制御部10、メモリコントローラ11、及びメモリ12を含む構成とされている。また、信号処理部9は、同期信号生成部21、カメラ信号処理部22、制御演算処理部23、及び解像度変換部24を含む構成とされている。
レンズ1は、光源からの入射光及び撮像被写体からの反射光を集光する。モータ2は、モータ駆動部3の制御で駆動され、被写体の焦点距離及び焦点位置にレンズ1を移動する。モータ駆動部3は、システム制御部10からの制御信号に従い動作するものであり、ユーザの変倍動作に応じて焦点距離、すなわちズーム位置を決定し、その決定に応じて、モータ2を制御する。
アイリス4は、駆動回路5により駆動され、被写体照度に応じた絞りの調整や、レンズ1を通過した光の量(光量)、すなわち露出の決定等の処理を行う。撮像素子6は、駆動回路7によりアイリス4を通過した光信号に光電変換処理を施し、電荷信号として後段に出力する。撮像素子6は、例えば、CCD(Charge Coupled Device)や、CMOS(Complementary Metal-Oxide Semiconductor)といった素子で構成される。
フロントエンド処理部8は、アナログの電荷信号にノイズ除去、増幅等の処理を施しデジタル信号に変換する。フロントエンド処理部8は、図示しないが、入力信号をサンプリング(標本化)後に一定値にサンプルホールド(保持)するCDS(Correlated Double Sampling)部、増幅処理を行うオートゲインコントロール(Automatic Gain Control)部、そして、アナログからデジタルへの変換を行うA/D変換部で構成されている。なお、フロントエンド処理部8は、撮像素子6と同一基盤上に形成されても良い(所謂カラムAD方式イメージセンサ等)。
信号処理部9は、フロントエンド処理部8でデジタル信号に変換された撮像被写体信号に対し、レンズ1、アイリス4、撮像素子6等に起因する各種補正処理を施す。また、信号処理部9は、システム制御部10からの制御信号に従い、AWB(Auto White Balance:オートホワイトバランス)、AE(Automatic Exposure:自動露出)、AF(Auto Focus:自動焦点)に代表されるカメラ制御処理を施し、被写体の映像信号(輝度信号及び色差信号)を生成する。
信号処理部9は、水平・垂直方向の同期信号や各種タイミング信号を生成する同期信号生成部21、システム制御部10からの制御信号により制御処理を施し被写体映像信号を生成するカメラ信号処理部22、被写体映像信号に対し制御処理を施すための各種演算処理を行う制御演算処理部23、及び被写体映像信号に対し解像度の変換や歪みの補正処理を行う解像度変換部24から構成される。
信号処理部9において処理された映像信号は、JPEG(Joint Photographic Experts Group)やMPEG(Moving Picture Experts Group)に代表される画像圧縮処理等を施すビデオ系信号処理部(不図示)へと供給される。
メモリコントローラ11は、システム制御部10からの制御信号に従い、信号処理部9からの映像信号とメモリ12間とのデータ転送を制御する。なお、映像信号は、撮像素子6からの入力信号形式(例えば、R(赤)、G(緑)、B(青)からなる原色信号:所謂Rawデータ形式)、及び輝度及び色差信号形式のいずれの信号形式からも構成されるものである。また、メモリ12は、撮像被写体の映像信号の保持等に使用される記憶素子である。
このような構成において、信号処理部9は集積回路(ハードウェア)で実現でき、システム制御部10はCPU(Central Processor Unit)で実現することができる。
図2は、図1に示したカメラ信号処理部22の構成例を示すブロック図である。カメラ信号処理部22は、カメラ信号前処理部41とカメラ信号後処理部42を含む構成とされ、カメラ信号前処理部41は、フレーム演算処理部51を含む構成とされる。
カメラ信号前処理部41は、同期信号生成部21(図1)からの各種同期信号を用いて、フロントエンド処理部8からの撮像被写体信号に、レンズ1、アイリス4、撮像素子6等に起因する欠陥画素や、シェーディング、ノイズ等の各種補正処理を施す。特にカメラ信号前処理部41に含まれるフレーム演算処理部51は、長時間露光の多重露光時に、フレーム加算やフレーム減算のフレーム演算処理を施す処理部である。
カメラ信号後処理部42は、カメラ信号前処理部41による処理が施された被写体の撮像信号から、輝度信号と色差信号からなる映像信号を生成する。カメラ信号処理部22のカメラ信号前処理部41からは、撮像素子からの入力信号形式(Rawデータ形式)の映像信号が出力され、カメラ信号処理部22のカメラ信号後処理部42からは、輝度及び色差信号形式の映像信号が出力され、それらの信号は、メモリコントローラ11(図1)を介して、メモリ12(図1)に供給される。
図3は、図2に示したフレーム演算処理部51の構成例を示すブロック図である。フレーム演算処理部51は、オフセット減算部71、フレーム加算部72、フレーム減算部73、及び出力信号選択部74から構成されている。
オフセット減算部71は、撮像素子6からの入力映像信号に対し、特に長時間露光時に生じる暗電流起因の黒信号レベルの増加による感度やダイナミックレンジの低下を抑制するために、一定のオフセット信号成分を減じる。オフセット減算部71には、メモリ12内に保持された映像信号もメモリコントローラ11を介して入力され、撮像素子6からの入力信号とは別のオフセット成分の減算処理を行う。オフセット減算部71でのダイナミックレンジの低下抑制の原理については後述する。
フレーム加算部72は、オフセット減算部71にてオフセット減算処理の施された撮像素子入力系、及びメモリ入力系の各々の映像信号に対し、多重露光時の画像合成処理を施す。フレーム減算部73は、長時間露光時に生じる暗電流起因の固定パターンノイズの発生に対し、メモリ入力系の撮像被写体信号と、被写体からの撮像光を遮光し、前記被写体撮像時と同一時間露光した状態で得られる撮像素子入力系の黒信号との減算処理を実行する。この処理により、暗電流起因の固定パターンノイズが低減される。
出力信号選択部74は、オフセット減算部71、フレーム加算部72、またはフレーム減算部73からの出力信号から1つの出力信号を選択し、後段の処理部に出力する。
ここで、オフセット減算部71でのダイナミックレンジ低下の抑制について、図4と図5を参照して模式的に説明を行う。まず、図4Aは、通常露光時間(長時間露光ではない状況)での、撮像素子6への入射光量と出力信号レベルを模式的に示したものである。通常露光時は、暗電流起因の黒信号レベル増加の影響はないため、出力信号のダイナミックレンジは十分に広く得られる。
これに対し、図4Bに示すように、長時間露光時は、暗電流起因の黒信号レベルの増加が発生するために、出力信号のダイナミックレンジが狭まってしまう。そこで、長時間露光時にダイナミックレンジが狭くならないように、出力信号レベルが飽和する前に、撮像素子6より一旦露光途中で読み出しが行われる。そして、暗電流起因により増加した黒信号レベルのオフセット成分を減算した上でメモリ12内に保持される。そして引き続き同様に途中読み出しが行われ、オフセット成分を減じた次フレームとのフレーム加算処理が行われる。そのような処理が行われることで、長時間露光時のダイナミックレンジの低下を十分に抑制することが可能となる。
このような処理を模式的に示したものが、図5A乃至図5Cに示した図である。途中読み出し段階での出力信号レベルのダイナミックレンジ(図5A、及び図5B)に対し、オフセット成分を減算しフレーム加算処理を行うことで、出力信号のダイナミックレンジを通常露光時と同様に十分に広く得ることが可能となる(図5C)。
次に、本発明における多重露光時の処理について説明する前に、本発明における多重露光時の処理と、従来の多重露光時の処理との違いを明確にするために、従来の多重露光時の処理について説明を加える。
図6乃至図8を参照し、従来の多重露光時の処理について説明する。図6Aは、従来のカメラ信号処理システム(多重露光装置)の構成の概略を示す図である。図6Aに示すように、従来のカメラ信号処理システムは、撮像素子100、カメラ信号処理部101、メモリコントローラ102、及びメモリ103を含む構成とされる。
撮像素子100、カメラ信号処理部101、メモリコントローラ102、及びメモリ103は、それぞれ、図1に示した本発明を適用した多重露光装置の構成において、撮像素子6、カメラ信号処理部22、メモリコントローラ11、及びメモリ12にそれぞれ相当している。
しかしながら、その構成は異なる。図1に示した本発明を適用した多重露光装置は、カメラ信号処理部22とメモリコントローラ11間のデータ転送の為のバスが2系統であり、メモリコントローラ11とメモリ12間のデータ転送のためのバスも、2系統である。これに対して、図6Aに示した従来の多重露光装置は、カメラ信号処理部101とメモリコントローラ102間のデータ転送の為のバスが3系統であり、メモリコントローラ102とメモリ103間のデータ転送のためのバスも、3系統である。
また、図6Aに示した従来の多重露光装置には、長時間露光時に生じる暗電流起因の黒信号レベルの増加によるオフセット信号成分を減じるオフセット減算部71(図3)と同等の機能を有する処理部は、備えられていない。
従来の多重露光装置が3系統のバスを必要とする理由を、従来の多重露光装置が行う多重露光時の処理を説明して明らかにする。
従来の多重露光装置では、まず図6Bに示すように、撮像素子100より被写体信号(Raw1)が読み出され、メモリコントローラ102を介して、メモリ103への書き込みが行われる。続いて、図6Cに示すように、シャッターを閉じずに開放したまま、再度、被写体信号(Raw2)の読み出しが行われ、メモリコントローラ102を介して、被写体信号(Raw1)を記録した領域とは異なるメモリ103の領域に書き込まれる。この時点で、メモリ103には、Raw1という被写体信号と、Raw2という被写体信号が記憶されている。
このように2つの信号がメモリ103に記憶されると、図7Aに示すように、被写体信号(Raw1)と被写体信号(Raw2)が、メモリコントローラ102を介して、メモリ103から読み出される。そして、カメラ信号処理部101において、フレーム加算処理が施された合成画像信号(Raw1+Raw2)が生成される。その生成された合成画像信号(Raw1+Raw2)は、被写体信号(Raw1)と被写体信号(Raw2)が記録されている領域とは異なるメモリ103の領域に書き込まれる。
このように、メモリ103に記憶されている2つの被写体信号を読み出し、1つの合成画像信号がメモリ103に記憶されるため、多重露光装置は、3系統のバスを必要とする。
前述のように、長時間露光時には、暗電流起因の固定パターンノイズの発生に対し、メモリ入力系の撮像被写体の被写体信号(上記した例の場合、Raw1とRaw2)と、被写体からの撮像光を遮光し、被写体の撮像時と同一時間だけ露光した状態で得られる撮像素子入力系の黒信号との減算処理を実行することで、暗電流起因の固定パターンノイズを低減することが可能である。
この処理として図7Bに示すように、被写体からの撮像光を遮光し、被写体の撮像時(図6B)と同一の時間だけ露光した状態で得られる黒信号(黒1)が、撮像素子100から取得される。そして、その黒信号(黒1)、メモリコントローラ102を介して被写体の合成画像信号(Raw1+Raw2)が記憶されている領域とは異なるメモリ103の領域に書き込まれる。
さらに、図7Cに示すように、被写体からの撮像光を遮光したまま、被写体の撮像時(図6C)と同一時間露光した状態で得られる黒信号(黒2)が撮像素子100から読み出され、合成画像信号(Raw1+Raw2)や黒信号(黒1)が記録されている領域とは異なるメモリ103の領域に書き込まれる。
そして、図8Aに示すように、黒信号(黒1)と黒信号(黒2)が、メモリコントローラ102を介してメモリ103から読み出され、カメラ信号処理部101において、フレーム加算処理が実行され、合成黒信号(黒1+黒2)が生成される。生成された合成黒信号は、合成画像信号(Raw1+Raw2)が記録された領域とは異なるメモリ103の領域に書き込まれる。
そして、図8Bに示すように、合成画像信号(Raw1+Raw2)と合成黒信号(黒1+黒2)が、メモリコントローラ102を介して、メモリ103から読み出され、カメラ信号処理部101において、フレーム減算処理が施される。減算処理が施された信号は、最終的な合成画像((Raw1+Raw2)−(黒1+黒2))とされる。このように生成された合成画像((Raw1+Raw2)−(黒1+黒2))が、メモリ103に書き込まれることにより、最終的に長時間露光時の多重露光画像が生成される。
ここでは、2枚の画像(Raw1とRaw2)を多重化し、1枚の画像を生成する例を示したが、複数枚の画像を多重介して1枚の画像を生成する場合も同様に行われる。すなわち、通常撮影の後に黒画像が撮影され、それらの画像が合成されることで多重化された画像が生成される。
このような処理を実行する従来の多重露光装置における多重露光撮影方法では、まず、非常に多くのメモリ容量を必要とすることが明らかである。上記した従来の多重露光撮影方式では、2回の多重露光に対し、最終的な多重露光画像を得るまでに、最低3フレーム分のメモリ容量が必要である。よって、多重露光回数(合成画像枚数)が増すにつれ、必要となるフレーム数が増大し、フレームメモリが増大することになる。
そして、露光回数に応じて、一旦メモリ103に画像信号を保持するために、処理性能が低下し、処理時間を増大させてしまう。また、フレームの加算や減算といったカメラ信号処理部101における演算時、例えば、図7Aに示したような処理のときに、メモリ103への書き込み1系統及びメモリ103からの読み出し2系統の計3系統のデータバスが使用され、メモリ103とのデータ転送処理が行われるため、メモリ帯域が増大してしまう。
さらに、上述のように、長時間露光時は、暗電流起因の黒信号レベルの増加に伴い、出力信号のダイナミックレンジが狭まる。従来方法においても、メモリ入力系の撮像被写体信号と、被写体からの撮像光を遮光し、被写体撮像時と同一時間露光した状態で得られる撮像素子入力系の黒信号との減算処理を施すことにより、増加黒信号レベルの低減は可能であるが、ダイナミックレンジの拡大には繋がらない。
以下に、本発明における多重露光撮影に係わる処理について説明する。図9Aは、図1に示した多重露光装置から、説明に必要な部分を抽出した図である。上記したように、カメラ信号処理部22とメモリコントローラ11との間でデータの授受が行われるバスは、2系統であり、メモリコントローラ11とメモリ12との間でデータの授受が行われるバスも、2系統である。このように、2系統のバスを備えている本発明を適用した多重露光装置における多重露光時の処理について説明する。
まず、図9Bに示すように、撮像素子6より通常に撮像された被写体の被写体信号(Raw1)が読み出される。この被写体信号(Raw1)は、メモリコントローラ11を介して、メモリ12に供給され、書き込まれる。
特に、長時間露光時は、出力信号レベルが飽和する前に、撮像素子6より一旦露光途中で読み出しが行われ、暗電流起因により増加した黒信号レベルのオフセット成分が、フレーム演算処理部51内のオフセット減算部71(図3)にて減算された上でメモリ12に書き込まれる。
続いて、図9Cに示すように、シャッターを閉じずに開放したまま、再度、通常の被写体の撮像が行われ、その被写体信号(Raw2)が撮像素子6から読み出される。この読み出しと同時に、メモリコントローラ11を介して、先に撮像され、記憶されている被写体信号(Raw1)がメモリ12から読み出され、カメラ信号処理部22に供給される。被写体信号(Raw1)と、被写体信号(Raw2)は、カメラ信号処理部22のフレーム演算処理部51(図3)に供給される。
フレーム演算処理部51において、フレーム加算部72により、フレーム加算処理が施され、合成画像信号(Raw1+Raw2)が生成される。この生成された合成画像信号(Raw1+Raw2)は、メモリコントローラ11を介して、メモリ12に供給され、書き込まれる。
特に、長時間露光時は、出力信号レベルが飽和する前に、撮像素子6より一旦露光途中で読み出しが行われ、暗電流起因により増加した黒信号レベルのオフセット成分がフレーム演算処理部51内のオフセット減算部71にて減算され、メモリ12に書き込まれる。なお、合成画像信号(Raw1+Raw2)は、被写体信号(Raw1)を記録した領域と同一領域に書き込みが行われても良い。
続いて、図10Aに示すように、被写体からの撮像光を遮光し、被写体撮像時(図9B)と同一の時間だけ露光した状態で得られる黒信号(黒1)が、撮像素子6から読み出される。この読み出しと同時に、メモリ12から、メモリコントローラ11を介して、合成画像信号(Raw1+Raw2)が読み出される。読み出された黒信号(黒1)と合成画像信号(Raw1+Raw2)は、共にフレーム演算処理部51に供給される。
フレーム演算処理部51は、フレーム減算部73において、フレーム減算処理を実行し、合成画像信号(Raw1+Raw2−黒1)を生成する。すなわち、フレーム減算部73は、合成画像信号(Raw1+Raw2)から黒信号(黒1)を減算し、その信号を出力信号選択部74に出力する。出力信号選択部74は、フレーム減算部73からの信号を選択し、メモリコントローラ11に出力する。このような処理が行われることで、合成画像信号(Raw1+Raw2)から黒信号(黒1)が減算された合成画像信号(Raw1+Raw2−黒1)が、メモリ12に書き込まれる。
特に、長時間露光時は、出力信号レベルが飽和する前に、撮像素子6より一旦露光途中で読み出しが行われ、暗電流起因により増加した黒信号レベルのオフセット成分がフレーム演算処理部51内のオフセット減算部71で減算された後にメモリ12に書き込まれる。なお、合成画像信号(Raw1+Raw2−黒1)は、メモリ12内の合成画像信号(Raw1+Raw2)を記録した領域と同一領域に書き込まれるようにしても良い。
さらに、図10Bに示すように、被写体からの撮像光を遮光したまま、被写体の撮像時(図9C)と同一の時間だけ露光した状態で得られる黒信号(黒2)が、撮像素子6から読み出される。この読み出しが行われると同時に、メモリ12から、メモリコントローラ11を介して、合成画像信号(Raw1+Raw2−黒1)が読み出される。この読み出された黒信号(黒2)と合成画像信号(Raw1+Raw2−黒1)は、フレーム演算処理部51に供給される。
フレーム演算処理部51は、フレーム減算部73において、フレーム減算処理を実行し、合成画像信号((Raw1+Raw2)−(黒1+黒2))を生成し、その信号を出力信号選択部74に出力する。出力信号選択部74は、フレーム減算部73からの信号を選択し、メモリコントローラ11に出力する。このような処理が行われることで、合成画像信号(Raw1+Raw2―(黒1))から黒信号(黒2)が減算された合成画像信号((Raw1+Raw2)―(黒1+黒2))が、メモリ12に書き込まれる。
このような処理が実行されることで、最終的に長時間露光時の多重露光画像の信号である合成画像信号((Raw1+Raw2)―(黒1+黒2))が、メモリ12に記憶される。
特に、長時間露光時は、出力信号レベルが飽和する前に、撮像素子6より一旦露光途中で読み出しが行われ、暗電流起因により増加した黒信号レベルのオフセット成分が、フレーム演算処理部51内のオフセット減算部71にて減算された後で、メモリ12への書き込みが行われる。なお、合成画像信号((Raw1+Raw2)−(黒1+黒2))は、メモリ12の合成画像信号(Raw1+Raw2−黒1)が記録されていた領域と同一領域に書き込まれるようにしても良い。
以上のように、本発明を適用した多重露光装置、および多重露光装置における処理では、最終的な多重露光画像を得るまでに、最低1フレーム分のメモリ容量があれば良く、メモリ容量の削減が可能である。例えば、図9Cに示した例では、メモリ12に被写体信号(Raw1)と合成信号(Raw1+Raw2)が記憶されているように図示されているが、被写体信号(Raw1)が読み出された後、その被写体信号(Raw1)が記憶されていた領域に合成信号(Raw1+Raw2)を書き込むことが可能であるので、結果として、1フレーム分の容量がメモリ12にあれば処理が行えることになる。
また、多重露光回数(合成画像枚数)が増しても、必要となるフレームメモリが増大することはない。よって、上述した例では、2回の多重露光が行われる例を示したが、2回以上の多重露光が行われても、記憶している信号が読み出され、その読み出された領域に生成された信号が書き込まれるので、1フレーム分のメモリ容量があれば処理できる。
そして、フレーム加算やフレーム減算時に、撮像素子からの読み出しと同時にメモリ12からの読み出しを行った画像に対してフレーム演算処理を施すため、露光回数に応じて、一旦メモリに画像信号を保持する必要がなくなり、処理性能の低下(処理時間の増大)を抑制することが可能である。
また、フレーム演算時、例えば、図9C、図10A、図10Bを参照して説明した演算時に、メモリ12への書き込みは1系統であり、メモリ12からの読み出しは1系統であるので、合計2系統のデータバスのみを使用し、メモリ12とのデータ転送処理を行うことが可能となる。よって、メモリ帯域を削減することが可能となる。
さらに長時間露光時には、出力信号レベルが飽和する前に、撮像素子6より一旦露光途中で読み出しが行われ、暗電流起因により増加した黒信号レベルのオフセット成分がフレーム演算処理部51内のオフセット減算部71にて減算処理が施されるため、出力信号のダイナミックレンジの欠損を抑制することが可能となる。
ここで、さらにメモリ12の容量を削減するための多重露光装置の他の構成について図11を参照して説明する。図11に示した多重露光装置は、カメラ信号処理部22とメモリコントローラ11との間に、Rawデータ圧縮/伸張部151を追加した構成とされている。図1に示した多重露光装置に、Rawデータ圧縮/伸張部151を、カメラ信号処理部22とメモリコントローラ11との間に追加した構成とされる。
このRawデータ圧縮/伸張部151は、撮像素子6からの入力信号形式(例えば、R(赤)、G(緑)、B(青)からなる原色信号)の所謂Rawデータ形式のデータを圧縮する圧縮部と、メモリ12からの圧縮されている信号をRawデータに伸張する伸張部を含む構成とされている。
このRawデータ圧縮/伸張部151は、Rawデータ信号の語長を、固定長または可変長に圧縮及び伸張処理を施すものであり、例えば、1画素当たり12ビットの信号語長を8ビットにデータ圧縮する処理を施す。
なお、固定長及び可変長のRawデータを圧縮または伸張する方法は、特開2007−228515号公報に開示されている方法を適用することができる。
図11に示したような構成とした場合、メモリコントローラ11を介して、メモリ12への書き込みまたは読み出しの処理を行うとき、Rawデータ圧縮/伸張部151において、Rawデータ信号の圧縮または伸張処理が施される。このため、メモリ12内に保持される画像信号は、実際のRawデータ信号量よりも少ない量になる。よって、このRawデータ圧縮/伸張部151を設けることで、メモリ12のメモリ容量を、さらに削減することが可能となる。
なお、Rawデータ圧縮/伸張部151が、メモリ12へのデータを圧縮し、メモリ12からのデータを伸張するといった処理が含まれる以外の処理は、図9、図10を参照して説明した多重露光に係わる処理と同様に行われるため、ここではその説明は省略する。また、図9、図10を参照して説明したように処理が行われるため、Rawデータ圧縮/伸張部151を設けた場合も、上記したようなさまざまな効果を得られることは言うまでもない。
次に、図11に示したフローチャートを参照し、さらに本実施の形態における多重露光時の処理について説明を加える。
ステップS100において、撮像素子6での露光モードが、通常露光モードか、または被写体からの撮像光を遮光する遮光モードであるのかの判定が行われる。ステップS101において、通常露光モードではないと判定された場合、換言すれば、遮光モードであると判定された場合、ステップS101に処理が進められ、シャッターがクローズされ、被写体からの撮像光が遮光され、通常露光時と同一時間の露光が行われる。この処理は、図10A、図10Bを参照した説明において、黒信号(黒1)や黒信号(黒2)を取得するときの処理である。
一方、ステップS100において、通常露光モードであると判断された場合、または、ステップS101における全黒露光の処理が終了された場合、ステップS102に処理が進められる。ステップS102において、撮像素子6での露光モードが、長時間露光であるか否かが判断される。ステップS102において、長時間露光モードであると判断された場合、ステップS103に処理が進められ、出力信号レベルが飽和する前に、撮像素子6より一旦露光途中で読み出しが行われる。そして、ステップS104において、フレーム演算処理部51内のオフセット減算部71は、暗電流起因により増加した黒信号レベルのオフセット成分の減算処理を行う。
一方、ステップS102において、長時間露光モードではないと判定された場合、撮像素子6により通常の読み出し処理が実行される。通常の読み出し処理とは、撮像素子6より一旦露光途中で読み出しが行われないような読み出し処理のことである。
ステップS104における処理、または、ステップS105における処理が終了されると、ステップS106に処理が進められる。ステップS106において、処理フレーム数の判定が行われ、処理されているフレームが第1フレームであるか否かが判定される。ステップS106において、処理されているフレームが第1フレームではないと判定された場合、ステップS107に処理が進められる。ステップS107において、撮像素子6での露光モードの判定が再度行われる。ステップS107において、通常露光モードであると判断された場合、ステップS108に処理が進められる。
ステップS108において、フレーム加算部72は、フレーム加算処理を実行し、合成画像信号を生成する。この処理は、例えば、図9Cを参照して説明した処理である。すなわち、図9Cを参照して説明した例によると、多重する被写体信号(Raw1)と被写体信号(Raw2)を加算する処理である。図12に示したフローチャートにおいては、ステップS100乃至S107の処理で、撮像素子6からの被写体信号が取得され、後述するステップS115までの処理で、メモリ12からの被写体信号が取得され、それらの取得される信号が、ステップS108で加算されることになる。
一方、ステップS107において、通常露光モードではないと判断された場合、換言すれば、遮光露光モードであると判断された場合、ステップS109に処理が進められる。ステップS109において、フレーム減算部73は、フレーム減算処理を施し合成画像信号の生成を行う。この処理は、例えば、図10Aや図10Bを参照して説明した処理である。すなわち、図10Aを参照して説明した例によると、合成画像信号(Raw1+Raw2)から黒信号(黒1)を減算し、合成画像信号(Raw1+Raw2―黒1)を生成する処理である。図12に示したフローチャートにおいては、ステップS100乃至S107の処理で、撮像素子6からの黒信号が取得され、後述するステップS115までの処理で、メモリ12からの合成信号が取得され、それらの取得される信号で、ステップS109での減算処理が実行されることになる。
一方、ステップS106において、処理しているフレームは、第1フレームであると判定された場合、ステップS110に処理が進められる。ステップS110の処理には、ステップS108の処理またはステップS109の処理が終了された場合も来る。ステップS110において、出力信号選択部74は、オフセット減算部71からの出力信号、フレーム加算部72からの出力信号、または、フレーム減算部73からの出力信号のうちの1つの出力信号を選択し、メモリコントローラ11に対して出力する。この出力信号選択部74における出力信号の選択は、ステップS110への処理に、ステップS106から来たときには、オフセット減算部71からの出力信号が選択され、ステップS108から来たときには、フレーム加算部72からの出力信号が選択され、ステップS109から来たときには、オフセット減算部73からの出力信号が選択される。
図11に示したようなRawデータ圧縮/伸張部151を備える構成と多重露光装置を構成した場合、ステップS111において、出力信号選択部74にて選択されたRawデータ信号に対して圧縮処理が施される。ステップS112において、圧縮処理が施された信号がメモリコントローラ11を介して、メモリ12に供給され、書き込まれる。
そして、ステップS113において、多重露光処理の終了判定処理が行われる。ステップS113において、所定の多重露光回数に達していないと判定された場合、再びステップS100に処理が戻され、ステップS100以下の処理が再び繰り返されると同時に、ステップS114以下の処理が実行される。ステップS100以下の処理が繰り返されることにより、撮像素子6からの被写体信号または黒信号が取得されると共に、ステップS114以下の処理が実行されることにより、メモリ12から信号が読み出される。すなわち、ステップS114において、メモリコントローラ11を介して、メモリ12からの読み出し処理が実行され、ステップS115において、Rawデータ圧縮/伸張部151において、メモリ12から読み出されたRawデータ信号の伸張処理が施される。
このようにして、伸張された信号は、フレーム演算処理部51へと入力される。そして、ステップS107において、露光モードの判定処理が行われ、所定のフレーム演算処理が施される。このような処理が、所定の多重露光回数に達するまで繰り返し行われる。
一方、ステップS113にて、所定の多重露光回数に達し、多重露光終了と判定された場合、処理は終了される。
以上のように、本発明によれば、まず、最終的な多重露光画像を得るまでに、最低1フレーム分のメモリ容量があれば良く、メモリ容量の削減が可能である。また、多重露光回数(合成画像枚数)が増しても、必要となるフレームメモリが増大することはない。また、Rawデータ圧縮/伸張処理部151を付加することによって、更なるメモリ容量の削減が可能である。
そして、フレーム加算やフレーム減算時に、撮像素子6からの読み出しと同時にメモリ12からの読み出しを行った画像に対してフレーム演算処理を施すため、露光回数に応じて、一旦メモリ12に画像信号を保持する必要はないため、処理性能の低下(処理時間の増大)を抑制することが可能である。
また、フレーム演算時に、メモリ12への書き込み1系統及びメモリ12からの読み出し1系統の計2系統のデータバスのみを使用しメモリ12とのデータ転送処理を行うため、メモリ帯域を削減可能である。
さらに、長時間露光時は、出力信号レベルが飽和する前に、撮像素子より一旦露光途中で読み出しを行い、暗電流起因により増加した黒信号レベルのオフセット成分をフレーム演算処理部51内のオフセット減算部71にて減算処理を施すため、出力信号のダイナミックレンジの欠損を抑制可能である。
なお、上述した実施の形態においては、2重露光(2フレーム)の場合の多重露光撮影方法の例を示したが、3重露光以上の任意の多重露光回数に対しても同様の効果を奏する。
上述した実施の形態においては、信号処理部9を集積回路(ハードウェア)で構成する例を示し説明したが、上述した構成の全て、あるいはその一部を、コンピュータ等を利用してソフトウエア的に実現するようにしてもよく、この場合においても本実施の形態と同様の効果を奏する。
一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
図13は、上述した一連の処理をプログラムにより実行するパーソナルコンピュータのハードウェアの構成の例を示すブロック図である。
コンピュータにおいて、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203は、バス204により相互に接続されている。
バス204には、さらに、入出力インターフェース205が接続されている。入出力インターフェース205には、キーボード、マウス、マイクロホンなどよりなる入力部206、ディスプレイ、スピーカなどよりなる出力部207、ハードディスクや不揮発性のメモリなどよりなる記憶部208、ネットワークインタフェースなどよりなる通信部209、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリなどのリムーバブルメディア211を駆動するドライブ210が接続されている。
以上のように構成されるコンピュータでは、CPU201が、例えば、記憶部208に記憶されているプログラムを、入出力インターフェース205及びバス204を介して、RAM203にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU201)が実行するプログラムは、例えば、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア211に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
そして、プログラムは、リムーバブルメディア211をドライブ210に装着することにより、入出力インターフェース205を介して、記憶部208にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部209で受信し、記憶部208にインストールすることができる。その他、プログラムは、ROM202や記憶部208に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
本発明を適用した多重露光装置の一実施の形態の構成を示す図である。 カメラ信号処理部の内部構成例を示す図である。 フレーム演算処理部の内部構成例を示す図である。 ダイナミックレンジについて説明するための図である。 ダイナミックレンジについて説明するための図である。 従来の多重露光に関する処理について説明する図である。 従来の多重露光に関する処理について説明する図である。 従来の多重露光に関する処理について説明する図である。 本発明を適用した多重露光に関する処理について説明する図である。 本発明を適用した多重露光に関する処理について説明する図である。 多重露光装置の他の構成を示す図である。 多重露光装置の処理について説明するフローチャートである。 記録媒体について説明する図である。
符号の説明
1 レンズ, 2 モータ, 3 モータ駆動部, 4 アイリス, 5 駆動回路, 6 撮像素子, 7 駆動回路, 8 フロントエンド処理部, 9 信号処理部, 10 システム制御部, 11 メモリコントローラ, 12 メモリ, 21 同期信号生成部, 22 カメラ信号処理部, 23 制御演算処理部, 24 解像度変換部24, 41 カメラ信号前処理部, 42 カメラ信号後処理部, 51 フレーム演算処理部, 71 オフセット減算部, 72 フレーム加算部, 73 フレーム減算部, 74 出力信号選択部

Claims (6)

  1. 複数の画像を重ね合わせて合成画像を生成する撮像装置であって、
    撮像素子からの被写体信号を読み出す読み出し手段と、
    前記読み出し手段により読み出された前記信号の加算または減算を行うフレーム演算手段と、
    前記フレーム演算手段による演算結果を少なくとも記憶する記憶手段と、
    前記フレーム演算手段と前記記憶手段との間の前記記憶手段への書き込み1系統と、前記記憶手段からの読み出し1系統の計2系統を有するデータバスを介しての信号の転送を制御する転送制御手段と
    を備え、
    前記読み出し手段は、出力信号レベルが飽和する前の露光途中で撮像素子から被写体信号の読み出しを行った後、シャッターを開放したまま再度被写体信号の読み出しを行い、
    前記フレーム演算手段は、少なくとも前記2つの被写体信号を加算し、
    前記転送制御手段は、前記記憶手段への前記加算された被写体信号の転送を制御し、
    前記読み出し手段は、被写体からの撮像光を遮光したまま前記被写体信号と同一時間露光して取得される黒信号を読み出し、
    前記フレーム演算手段は、前記記憶手段に記憶された前記加算された被写体信号から前記読み出し手段により読み出された前記黒信号を減算し、
    前記転送制御手段は、前記記憶手段内の前記加算された被写体信号が記憶された領域と同一の領域への前記減算された信号の転送を制御する
    撮像装置。
  2. 前記フレーム演算手段は、撮像素子からの信号に対し、一定のオフセット信号成分を減じるオフセット減算手段を含む
    請求項に記載の撮像装置。
  3. 前記転送制御手段は、
    前記フレーム演算手段からのRawデータ形式の信号を圧縮した後、前記記憶手段に転送し、
    前記記憶手段からの圧縮された信号をRawデータ形式に伸張した後、前記フレーム演算手段に転送する
    請求項に記載の撮像装置。
  4. 複数の画像を重ね合わせて合成画像を生成する撮像装置であり、フレーム演算手段、記憶手段、転送制御手段を備える撮像装置の撮像方法であって、
    前記フレーム演算手段が、撮像素子から読み出された被写体信号の加算または減算を行い、
    前記記憶手段が、前記フレーム演算手段による演算結果を記憶し、
    前記転送制御手段が、前記フレーム演算手段と前記記憶手段との間の前記記憶手段への書き込み1系統と、前記記憶手段からの読み出し1系統の計2系統を有するデータバスを介しての信号の転送を制御する
    ステップを含み、
    前記撮像素子からの前記被写体信号の読み出しは、出力信号レベルが飽和する前の露光途中で撮像素子から被写体信号の読み出しを行った後、シャッターを開放したまま再度被写体信号の読み出しが行われ、
    前記フレーム演算手段が、少なくとも前記2つの被写体信号を加算するステップを含み、
    前記転送制御手段が、前記加算された被写体信号の前記記憶手段への転送を制御するステップを含み、
    前記撮像素子からの前記被写体信号の読み出しは、被写体からの撮像光を遮光したまま前記被写体信号と同一時間露光して取得される黒信号の読み出しが行われ、
    前記フレーム演算手段が、前記記憶手段に記憶された前記加算された被写体信号から読み出された前記黒信号を減算するステップを含み、
    前記転送制御手段が、前記記憶手段内の前記加算された被写体信号が記憶された領域と同一の領域への前記減算された信号の転送を制御するステップを含む
    撮像方法。
  5. 複数の画像を重ね合わせて合成画像を生成する撮像装置であり、フレーム演算手段、記憶手段、転送制御手段を備える撮像装置を制御するコンピュータに、
    前記フレーム演算手段が、撮像素子から読み出された被写体信号の加算または減算を行い、
    前記記憶手段が、前記フレーム演算手段による演算結果を記憶し、
    前記転送制御手段が、前記フレーム演算手段と前記記憶手段との間の前記記憶手段への書き込み1系統と、前記記憶手段からの読み出し1系統の計2系統を有するデータバスを介しての信号の転送を制御する
    ステップを含み、
    前記撮像素子からの前記被写体信号の読み出しは、出力信号レベルが飽和する前の露光途中で撮像素子から被写体信号の読み出しを行った後、シャッターを開放したまま再度被写体信号の読み出しが行われ、
    前記フレーム演算手段が、少なくとも前記2つの被写体信号を加算するステップを含み、
    前記転送制御手段が、前記記憶手段への前記加算された被写体信号の転送を制御するステップを含み、
    前記撮像素子からの前記被写体信号の読み出しは、被写体からの撮像光を遮光したまま前記被写体信号と同一時間露光して取得される黒信号の読み出しが行われ、
    前記フレーム演算手段が、前記記憶手段に記憶された前記加算された被写体信号から読み出された前記黒信号を減算するステップを含み、
    前記転送制御手段が、前記記憶手段内の前記加算された被写体信号が記憶された領域と同一の領域への前記減算された信号の転送を制御するステップを含む
    処理を実行させるためのプログラム。
  6. 複数の画像を重ね合わせて合成画像を生成する撮像装置であり、フレーム演算手段、記憶手段、転送制御手段を備える撮像装置を制御するコンピュータに、
    前記フレーム演算手段が、撮像素子から読み出された被写体信号の加算または減算を行い、
    前記記憶手段が、前記フレーム演算手段による演算結果を記憶し、
    前記転送制御手段が、前記フレーム演算手段と前記記憶手段との間の前記記憶手段への書き込み1系統と、前記記憶手段からの読み出し1系統の計2系統を有するデータバスを介しての信号の転送を制御する
    ステップを含み、
    前記撮像素子からの前記被写体信号の読み出しは、出力信号レベルが飽和する前の露光途中で撮像素子から被写体信号の読み出しを行った後、シャッターを開放したまま再度被写体信号の読み出しが行われ、
    前記フレーム演算手段が、少なくとも前記2つの被写体信号を加算するステップを含み、
    前記転送制御手段が、前記記憶手段への前記加算された被写体信号の転送を制御するステップを含み、
    前記撮像素子からの前記被写体信号の読み出しは、被写体からの撮像光を遮光したまま前記被写体信号と同一時間露光して取得される黒信号の読み出しが行われ、
    前記フレーム演算手段が、前記記憶手段に記憶された前記加算された被写体信号から読み出された前記黒信号を減算するステップを含み、
    前記転送制御手段が、前記記憶手段内の前記加算された被写体信号が記憶された領域と同一の領域への前記減算された信号の転送を制御するステップを含む
    処理を実行するコンピュータが読み取り可能なプログラムが記録されている記録媒体。
JP2008218010A 2008-08-27 2008-08-27 撮像装置及び方法、プログラム、並びに記録媒体 Expired - Fee Related JP4735994B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008218010A JP4735994B2 (ja) 2008-08-27 2008-08-27 撮像装置及び方法、プログラム、並びに記録媒体
US12/502,495 US8368782B2 (en) 2008-08-27 2009-07-14 Multiple exposure image pickup apparatus, multiple exposure image pickup method, program, and recording medium
CN2009101601974A CN101662593B (zh) 2008-08-27 2009-07-30 图像摄取装置和图像摄取方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008218010A JP4735994B2 (ja) 2008-08-27 2008-08-27 撮像装置及び方法、プログラム、並びに記録媒体

Publications (2)

Publication Number Publication Date
JP2010056733A JP2010056733A (ja) 2010-03-11
JP4735994B2 true JP4735994B2 (ja) 2011-07-27

Family

ID=41724814

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008218010A Expired - Fee Related JP4735994B2 (ja) 2008-08-27 2008-08-27 撮像装置及び方法、プログラム、並びに記録媒体

Country Status (3)

Country Link
US (1) US8368782B2 (ja)
JP (1) JP4735994B2 (ja)
CN (1) CN101662593B (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
NO334845B1 (no) * 2011-05-04 2014-06-16 Aker Well Service As Fremgangsmåte og anordning for å rense en brønns øvre parti
JP6021465B2 (ja) * 2011-07-11 2016-11-09 キヤノン株式会社 画像処理装置及び画像処理装置の制御方法
JP6351271B2 (ja) * 2014-01-17 2018-07-04 オリンパス株式会社 画像合成装置、画像合成方法、およびプログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0918793A (ja) * 1995-06-26 1997-01-17 Nikon Corp 撮像装置
JP2002135647A (ja) * 2000-10-19 2002-05-10 Canon Inc 撮像装置、方法、及びコンピュータ読み取り可能な記憶媒体
JP2002218313A (ja) * 2001-01-22 2002-08-02 Fuji Photo Film Co Ltd デジタルカメラ
JP2005191641A (ja) * 2003-12-24 2005-07-14 Mitsubishi Electric Corp 画像入力方法および画像入力装置
JP2006345454A (ja) * 2005-06-10 2006-12-21 Canon Inc 画像符号化装置及び画像復号化装置及びそれらの方法及びプログラム及び記憶媒体
JP2007166024A (ja) * 2005-12-09 2007-06-28 Canon Inc 撮像装置及びその制御方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001028726A (ja) 1999-07-13 2001-01-30 Canon Inc 電子カメラ、撮影方法及び記憶媒体
JP2001189886A (ja) * 1999-12-28 2001-07-10 Canon Inc 撮像装置、情報処理装置、画像処理システム、画像処理方法、及び記憶媒体
JP3664123B2 (ja) * 2001-10-03 2005-06-22 ソニー株式会社 撮像装置および画質補正方法
JP3861808B2 (ja) * 2002-12-25 2006-12-27 ソニー株式会社 撮像装置
JP2009017078A (ja) * 2007-07-03 2009-01-22 Fujifilm Corp ディジタル・スチル・カメラおよびその動作制御方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0918793A (ja) * 1995-06-26 1997-01-17 Nikon Corp 撮像装置
JP2002135647A (ja) * 2000-10-19 2002-05-10 Canon Inc 撮像装置、方法、及びコンピュータ読み取り可能な記憶媒体
JP2002218313A (ja) * 2001-01-22 2002-08-02 Fuji Photo Film Co Ltd デジタルカメラ
JP2005191641A (ja) * 2003-12-24 2005-07-14 Mitsubishi Electric Corp 画像入力方法および画像入力装置
JP2006345454A (ja) * 2005-06-10 2006-12-21 Canon Inc 画像符号化装置及び画像復号化装置及びそれらの方法及びプログラム及び記憶媒体
JP2007166024A (ja) * 2005-12-09 2007-06-28 Canon Inc 撮像装置及びその制御方法

Also Published As

Publication number Publication date
CN101662593B (zh) 2012-05-30
CN101662593A (zh) 2010-03-03
US20100053374A1 (en) 2010-03-04
US8368782B2 (en) 2013-02-05
JP2010056733A (ja) 2010-03-11

Similar Documents

Publication Publication Date Title
US9392237B2 (en) Image processing device and image processing method
JP4773179B2 (ja) 撮像装置
JP4567593B2 (ja) 撮像装置および撮影方法
JP5806007B2 (ja) 撮像装置
JP5347707B2 (ja) 撮像装置および撮像方法
JP4404823B2 (ja) 撮像装置
JP6278713B2 (ja) 撮像装置および撮像方法
JP5123137B2 (ja) 撮像装置および撮像方法
JP2010147816A (ja) 撮像装置及びその制御方法
JP6082274B2 (ja) 撮像装置、及びその制御方法
JP6021465B2 (ja) 画像処理装置及び画像処理装置の制御方法
JP5262247B2 (ja) 撮像装置、撮像方法及びプログラム
JP4027632B2 (ja) 撮像装置
JP2006245999A (ja) 撮像装置、およびプログラム
JP5277863B2 (ja) 撮像装置および撮像方法
JP4735994B2 (ja) 撮像装置及び方法、プログラム、並びに記録媒体
JP5094252B2 (ja) 撮像装置及びその制御方法
JP5947625B2 (ja) 撮像装置、及びその制御方法
JP6075829B2 (ja) 撮像装置、カメラシステム、撮像装置の制御方法、プログラム、記憶媒体
JP2004222158A (ja) 固体撮像装置の制御方法
JP2009302850A (ja) 固体撮像素子のノイズ除去装置、撮像装置、固体撮像素子のノイズ除去方法
JP2010068064A (ja) 撮像装置及び撮像方法
JP2006229473A (ja) 撮像装置及びその制御方法
JP5966072B2 (ja) 撮像装置および撮像方法
JP2010193180A (ja) 画像処理装置及び画像処理プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100520

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100708

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100803

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100914

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110331

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110413

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140513

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees