JP2017158084A - 画像処理装置、画像処理方法、コンピュータプログラム及び電子機器 - Google Patents
画像処理装置、画像処理方法、コンピュータプログラム及び電子機器 Download PDFInfo
- Publication number
- JP2017158084A JP2017158084A JP2016040968A JP2016040968A JP2017158084A JP 2017158084 A JP2017158084 A JP 2017158084A JP 2016040968 A JP2016040968 A JP 2016040968A JP 2016040968 A JP2016040968 A JP 2016040968A JP 2017158084 A JP2017158084 A JP 2017158084A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- image
- pixel signal
- addition
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
【課題】消費電力の低減とシャッタラグ発生の抑制を同時に実現可能な、新規かつ改良された画像処理装置を提供する。【解決手段】撮像素子から出力された画素信号に対して画素加算処理を行う画素加算処理部(前処理部)と、画素加算処理部により画素加算処理が行われた後の加算画素信号を少なくとも記憶する画像記憶部と、画素信号に基づく画像の記録指示の発生を検知する検知部と、検知部が記録指示の発生を検知していない状態では記憶部に記憶された加算画素信号を取得し、検知部が記録指示の発生を検知すると該記録指示に応じて画素信号を取得する信号処理部と、を備える。【選択図】図6
Description
本開示は、画像処理装置、画像処理方法、コンピュータプログラム及び電子機器に関する。
近年はイメージセンサに備えられる画素の数が増加の一途を辿っている。イメージセンサから出力される画素信号に対してイメージセンサの内部でそのまま信号処理を行うと、電力消費量が大きくなる。そこで、例えば特許文献1などで開示されている、複数の画素の信号加算を伴う読み出しモードを備えるイメージセンサを用いることで、イメージセンサ内部での信号処理時の電力消費量を抑えることが可能になる。
しかし、複数の画素の信号加算を伴う読み出しモードで画素信号を読み出している最中に、ユーザからの撮像指示が入力されると、イメージセンサの内部で、信号加算をしない読み出しモードに変更しなければならない。従って、このモードの変更に伴って、ユーザからの撮像指示から静止画像のキャプチャまでにタイムラグ(シャッタラグ)が発生する。
そこで、本開示では、消費電力の低減とシャッタラグ発生の抑制を同時に実現可能な、新規かつ改良された画像処理装置、画像処理方法、コンピュータプログラム及び電子機器を提案する。
本開示によれば、撮像素子から出力された画素信号に対して画素加算処理を行う画素加算処理部と、前記画素加算処理部により前記画素加算処理が行われた後の加算画素信号を少なくとも記憶する記憶部と、前記画素信号に基づく画像の記録指示の発生を検知する検知部と、前記検知部が前記記録指示の発生を検知していない状態では前記記憶部に記憶された前記加算画素信号を取得し、前記検知部が前記記録指示の発生を検知すると該記録指示に応じて前記画素信号を取得する信号処理部と、を備える、画像処理装置が提供される。
また本開示によれば、撮像素子から出力された画素信号に対して画素加算処理を行うことと、前記画素加算処理が行われた後の加算画素信号を少なくとも記憶することと、前記画素信号に基づく画像の記録指示の発生を検知することと、前記記録指示の発生を検知していない状態では記憶された前記加算画素信号を取得し、前記記録指示の発生を検知すると該記録指示に応じて前記画素信号を取得することと、を含む、画像処理方法が提供される。
また本開示によれば、コンピュータに、撮像素子から出力されたる画素信号に対して画素加算処理を行うことと、前記画素加算処理が行われた後の加算画素信号を少なくとも記憶することと、前記画素信号に基づく画像の記録指示の発生を検知することと、前記記録指示の発生を検知していない状態では記憶された前記加算画素信号を取得し、前記記録指示の発生を検知すると該記録指示に応じて前記画素信号を取得することと、を実行させる、コンピュータプログラムが提供される。
また本開示によれば、上記画像処理装置を備える、電子機器が提供される。
以上説明したように本開示によれば、消費電力の低減とシャッタラグ発生の抑制を同時に実現可能な、新規かつ改良された画像処理装置、画像処理方法、コンピュータプログラム及び電子機器を提供することが出来る。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.本開示の実施の形態
1.1.概要
1.2.撮像装置の機能構成例
1.3.センサモジュールの構成例
1.4.動作例
2.まとめ
1.本開示の実施の形態
1.1.概要
1.2.撮像装置の機能構成例
1.3.センサモジュールの構成例
1.4.動作例
2.まとめ
<1.本開示の実施の形態>
[1.1.概要]
本開示の実施の形態について詳細に説明する前に、まず本開示の実施の形態の概要について説明する。
[1.1.概要]
本開示の実施の形態について詳細に説明する前に、まず本開示の実施の形態の概要について説明する。
近年はイメージセンサに備えられる画素の数が増加の一途を辿っている。イメージセンサから出力される画素信号に対してイメージセンサの内部でそのまま信号処理を行うと、電力消費量が大きくなる。
図1は、イメージセンサを備える電子機器において、静止画像の撮像の際に、画素回路から出力される画素信号に対して、イメージセンサの内部でそのまま信号処理を行う様子を示す説明図である。所定の間隔で垂直同期信号(XVS)がイメージセンサに供給されるごとに画素から画素信号が読み出される。
イメージセンサの内部では、前段処理(例えばゲイン調整処理やクランプ処理)や後段処理(自動ホワイトバランス処理、自動露出処理、歪補正処理、欠陥補正処理、ノイズ低減処理、ハイダイナミックレンジ合成処理など)が行われる。これらの処理を画素回路から出力されるままの画像(以下の説明ではフル画とも称する)に対応する画素信号に対して行うと、特に後段処理での電力消費量が大きくなる。
また、イメージセンサの後段にはアプリケーションプロセッサ(AP)が設けられるが、フル画のままの状態でイメージセンサからアプリケーションプロセッサへ伝送されると、イメージセンサとアプリケーションプロセッサとの間のインターフェース帯域も大きなものが必要になる。
しかし、アプリケーションプロセッサは、イメージセンサからフル画を取得しても、表示される画面の解像度よりもセンサーから出力されるフル画の解像度の方が大きい場合が多く、画面(ディスプレイパネル)にはフル画をそのまま表示することは出来ない場合がほとんどである。従ってアプリケーションプロセッサは、イメージセンサが撮像した画像を表示する際にはフル画を縮小した画像(以下の説明ではプレビュー画とも称する)を生成する必要がある。
画面にプレビュー画が表示されている状態で、電子機器のユーザがシャッタトリガを発生させると、アプリケーションプロセッサは、イメージセンサから取得したフル画を保存する処理を実行する。図1に示した例では、あるフレームF2の時点で電子機器のユーザがシャッタトリガを発生させると、次のフレームF3の時点でイメージセンサが撮像したフル画を保存することが示されている。
電子機器において静止画像を撮像する際に、フル画が必要になるのはユーザがシャッタトリガを発生させた時点のみである。しかし画素回路から出力される画素信号に対して、イメージセンサの内部でそのまま信号処理を行うと、図1に示したように、フル画が必要になる場面以外でもイメージセンサやアプリケーションプロセッサでフル画に対する処理が行われるために消費電力が増加したり効率が低下したりする。
そこで、複数の画素の信号加算を伴う読み出しモードを備えるイメージセンサを用いることで、イメージセンサ内部やアプリケーションプロセッサでの信号処理時の電力消費量を抑えることが可能になる。
図2は、複数の画素の信号加算を伴う読み出しモードを備えるイメージセンサを備える電子機器において、静止画像の撮像の際に、画素回路から出力される画素信号に対して信号処理を行う様子を示す説明図である。
図2に示した例では、所定の間隔で垂直同期信号(XVS)がイメージセンサに供給されるごとに画素から画素信号が読み出されるのは図1の例と同様であるが、図1の例と異なるのは、イメージセンサが、フル画に対応する画素信号を読み出すモードと、プレビュー画に対応する画素信号を読み出すモードとを備えている点である。プレビュー画は、フル画に対応する画素信号に対してアナログ画素加算が行われることで生成される。プレビュー画は、水平加算、垂直加算により全体がフル画の1/4程度になっている画像である。
ユーザがシャッタトリガを発生させていない状態では、プレビュー画に対応する画素信号に対する信号処理がイメージセンサ内部やアプリケーションプロセッサで行われる。従って、フル画に対応する画素信号に対する信号処理を行う場合に比べてイメージセンサやアプリケーションプロセッサにおける電力消費量は少なく済む。
ところが、ユーザがシャッタトリガを発生させると、イメージセンサのモードをフル画に対応する画素信号を読み出すモードに切り替える必要が生じる。イメージセンサのモードを切り替えるには所定の切り替え時間が必要になる。そのため、ユーザがシャッタトリガを発生させても、即座にフル画に対応する画素信号を画素回路から読み出すことが出来ず、シャッタトリガを発生させてからフル画を保存するまでにラグが発生する。ここではこのラグのことをシャッタラグと称する。すなわち、図2に示したように、あるフレームF2の時点で電子機器のユーザがシャッタトリガを発生させると、次のフレームF3ではなく、例えば、その次のフレームF4の時点でイメージセンサが撮像したフル画が電子機器に保存されることになる。
また、アプリケーションプロセッサ側でフル画に対応する画素信号に対して何も処理を行わないと、フル画の保存時点(例えばフレームF4の時点)でのプレビュー画が欠落する。従って、アプリケーションプロセッサでフル画からプレビュー画を生成するという余計な処理が必要になる。図3は、フル画の保存時点において、アプリケーションプロセッサがプレビュー画を生成する処理を実行した様子を示す説明図である。
このようにアプリケーションプロセッサでフル画からプレビュー画を生成することでプレビュー画の欠落という問題は解消するが、その一方で、フレームF3以前ではイメージセンサがプレビュー画に対応する画素信号を出力しており、フレームF4ではアプリケーションプロセッサでフル画からプレビュー画を生成しているため、プレビュー画の見え方に差異が出る可能性がある。
そこで本件開示者は、上述した点に鑑みて、消費電力の低減とシャッタラグ発生の抑制を同時に実現可能な技術について鋭意検討を行った。その結果、本件開示者は、以下で説明するように、画素回路から出力される画素信号を一度イメージセンサの内部に蓄えることで、消費電力の低減とシャッタラグ発生の抑制を同時に実現可能な技術を考案するに至った。
以上、本開示の実施の形態の概要について説明した。
[1.2.機能構成例]
続いて、本開示の実施の形態に係る電子機器の機能構成例について説明する。図4は、本開示の実施の形態に係る電子機器10の機能構成例を示す説明図である。以下、図4を用いて本開示の実施の形態に係る電子機器10の機能構成例について説明する。
続いて、本開示の実施の形態に係る電子機器の機能構成例について説明する。図4は、本開示の実施の形態に係る電子機器10の機能構成例を示す説明図である。以下、図4を用いて本開示の実施の形態に係る電子機器10の機能構成例について説明する。
図4に示したように、本開示の実施の形態に係る電子機器10は、撮像部11と、画像処理部12と、表示部13と、制御部14と、記憶部15と、操作部16と、を含んで構成される。
撮像部11は、レンズや、センサモジュール等を含んで構成され、レンズを通じてセンサモジュールの受光面に結像される像に応じて、所定期間電子を蓄積する。撮像部11は、その蓄積された電子に応じた信号に対して所定の信号処理を行う。そして撮像部11は、信号処理を行った後の信号を画像処理部12に出力する。なお、撮像部11に含まれるセンサモジュールの構成については後に詳述する。
撮像部11は、上記所定の信号処理として、例えば、電子式手振れ補正方式による手振れ補正処理、自動ホワイトバランス処理、自動露出処理、歪補正処理、欠陥補正処理、ノイズ低減処理、ハイダイナミックレンジ合成処理などの信号処理を実行しうる。
画像処理部12は、例えばアプリケーションプロセッサ(AP)で構成され、撮像部11から出力される信号を用いて画像処理を実行する。画像処理部12が実行する画像処理には、例えば撮像部11から出力される信号を用いたデモザイク処理、デモザイク処理後の画像の表示部13への表示処理や、記憶部15への記憶処理などがある。
表示部13は、例えば液晶ディスプレイ、有機ELディスプレイなどで構成される表示デバイスである。表示部13は、制御部14によって表示内容が制御される。例えば、表示部13は、撮像部11によって撮像されて、画像処理部12によって画像処理が行われた画像を、制御部14の制御に基づいて表示する。
制御部14は、例えばCPU(Central Processing Unit)等のプロセッサや、ROM、RAMなどで構成され、電子機器10の各部の動作を制御する。
記憶部15は、例えばフラッシュメモリその他の不揮発性メモリなどの記憶媒体で構成される。記憶部15は、撮像部11によって撮像されて、画像処理部12によって画像処理が行われた画像を記憶する。記憶部15が記憶した画像は、電子機器10のユーザの操作に応じて表示部13に表示されうる。
操作部16は、電子機器10の操作のためのデバイスであり、例えばボタンやタッチパネルなどで構成される。操作部16がタッチパネルを含む場合、タッチパネルは表示部13の表示面に設けられる。電子機器10のユーザは、撮像部11が撮像する画像を電子機器10に記録したい場合には、操作部16の所定のボタンを操作することでシャッタトリガを発生させる。撮像部11や画像処理部12は、シャッタトリガの発生を検知すると、そのシャッタトリガの発生に応じて画像を電子機器10に記録するための処理を実行する。
以上、本開示の実施の形態に係る電子機器10の機能構成例について説明した。続いて、本開示の実施の形態に係る電子機器10の、撮像部11に含まれるイメージセンサの構成例について説明する。
[1.3.センサモジュールの構成例]
図5は、撮像部11に含まれるセンサモジュール100の構成例を示す説明図である。本開示の実施の形態に係るセンサモジュール100は、図5に示したように、3つの基盤が積層されて構成されている。本開示の実施の形態に係るセンサモジュール100は、画素基板110と、メモリ基板120と、信号処理基板130と、の順に積層された構成を有する。
図5は、撮像部11に含まれるセンサモジュール100の構成例を示す説明図である。本開示の実施の形態に係るセンサモジュール100は、図5に示したように、3つの基盤が積層されて構成されている。本開示の実施の形態に係るセンサモジュール100は、画素基板110と、メモリ基板120と、信号処理基板130と、の順に積層された構成を有する。
画素基板110は、単位画素がアレイ状に形成された画素領域からなる撮像素子を有する基板である。各単位画素は、被写体からの光を受光し、その入射光を光電変換して電荷を蓄積し、所定のタイミングにおいて、その電荷を画素信号として出力する。画素基板110が出力する画素信号は、メモリ基板120に蓄えられ、また信号処理基板130において信号処理が施される。なお、画素基板110は、アナログ信号をデジタル信号に変換するAD変換器を備える。すなわち画素基板110が出力する画素信号はデジタル信号である。
メモリ基板120は、画素基板110が出力する画素信号を一時的に蓄えるDRAM(Dynamic Random Access Memory)などのメモリを有する基板である。メモリ基板120は、複数フレーム、例えば、信号処理基板130において電子式手振れ補正方式による手振れ補正処理を実行することが出来るだけのフレームの画素信号を一時的に蓄えることができる容量を有する。メモリ基板120に蓄えられた画素信号は、信号処理基板130からの読出し命令に基づいて読み出される。
信号処理基板130は、メモリ基板120に蓄えられた画素信号に対する各種信号処理を実行する。信号処理基板130が実行する信号処理は、メモリ基板120に蓄えられた画素信号に対する画質に関する信号処理であり、例えば、電子式手振れ補正方式による手振れ補正処理、自動ホワイトバランス処理、自動露出処理、歪補正処理、欠陥補正処理、ノイズ低減処理、ハイダイナミックレンジ合成処理などの信号処理を実行しうる。
なお、図5にはセンサモジュール100が画素基板110と、メモリ基板120と、信号処理基板130と、の順に積層された構成の図を示したが、本開示は係る例に限定されない。例えば、センサモジュール100が画素基板110と、信号処理基板130と、メモリ基板120と、の順に積層された構成を有していても良い。
以上、図5を用いてセンサモジュール100の構成例について説明した。続いて、センサモジュール100の機能構成例について説明する。
図6は、本開示の実施の形態に係るセンサモジュール100の機能構成例を示す説明図である。以下、図6を用いて本開示の実施の形態に係るセンサモジュール100の機能構成例について説明する。
画素基板110は、単位画素がアレイ状に形成された画素領域からなる撮像素子111を備える。撮像素子111が出力する画素信号は信号処理基板130に一旦送られた後に、メモリ基板120に送られる。
メモリ基板120は、DRAM(Dynamic Random Access Memory)などで構成される画像記憶部121を有する。画像記憶部121は、撮像素子111が出力する画素信号を一時的に蓄える。画像記憶部121は、複数フレームの画素信号を一時的に蓄えることができる容量を有する。画像記憶部121に蓄えられた画素信号は、信号処理基板130からの読出し命令に基づいて読み出される。
信号処理基板130は、前処理部131と、検知部132と、信号処理部133と、を含んで構成される。
前処理部131は、撮像素子111が出力する画素信号に対する信号処理を施す。前処理部131は、信号処理を施した後の画素信号を画像記憶部121に記憶させる。前処理部131が実行する信号処理には、例えば、ゲイン調整処理やクランプ処理、画素加算処理などが含まれうる。
検知部132は、シャッタトリガの発生を検知する。検知部132は、例えば制御部14からの所定の信号の受信により、シャッタトリガの発生を検知する。検知部132は、シャッタトリガの発生を検知すると、シャッタトリガが発生したことを前処理部131及び信号処理部133に通知する。
信号処理部133は、画像記憶部121に蓄えられている画素信号に対する信号処理を実行する。信号処理部133は、画像記憶部121に蓄えられている画素信号に対する信号処理を実行すると、信号処理後の画素信号を画像処理部12へ出力する信号処理部133が実行する信号処理としては、例えば、自動ホワイトバランス処理、自動露出処理、歪補正処理、欠陥補正処理、ノイズ低減処理、ハイダイナミックレンジ合成処理、電子式手振れ補正方式による手振れ補正処理などが含まれうる。
本実施形態では、前処理部131は、撮像素子111が出力する画素信号に対して所定の画素加算処理をした後のプレビュー画に対応する画素信号と、フル画に対応するオリジナルの画素信号の両方を、常に画像記憶部121に記憶させてもよい。また、前処理部131は、検知部132からの通知によりシャッタトリガが発生したフレームの次フレーム以外のフレームでは、撮像素子111が出力する画素信号に対して所定の画素加算処理をした後のプレビュー画に対応する画素信号のみを画像記憶部121に記憶させてもよい。後者の場合、前処理部131は、検知部132からの通知によりシャッタトリガが発生したフレームの次フレームでは、撮像素子111が出力する画素信号に対して所定の画素加算処理をした後の画素信号と、オリジナルの画素信号の両方を画像記憶部121に記憶させる。
また本実施形態では、信号処理部133は、検知部132からの通知によりシャッタトリガが発生したことを知ると、シャッタトリガが発生したフレームの次フレームにおいて画像記憶部121に記憶されているプレビュー画に対応する画素信号と、フル画に対応するオリジナルの画素信号を画像記憶部121から読み出す。そしてシャッタトリガが発生してない状態では、信号処理部133は、画像記憶部121に記憶されているプレビュー画に対応する画素信号のみを読み出す。
このように、本実施形態に係るセンサモジュール100は、シャッタトリガの発生タイミングと、その他の時間において、処理対象の画素信号を変化させる。本実施形態に係るセンサモジュール100は、シャッタトリガの発生タイミングと、その他の時間において、処理対象の画素信号を変化させることで、消費電力の低減とシャッタラグ発生の抑制を同時に実現することが可能となる。
以上、図6を用いて本開示の実施の形態に係るセンサモジュール100の機能構成例について説明した。続いて、本開示の実施の形態に係るセンサモジュール100の動作例について説明する。
[1.4.動作例]
図7は、本開示の実施の形態に係るセンサモジュール100の動作例を示す流れ図である。図7に示したのは、画素信号を生成してから、画素信号に対して信号処理を実行して画像処理部12に出力するまでの、センサモジュール100の動作例である。以下、図7を用いて本開示の実施の形態に係るセンサモジュール100の動作例について説明する。
図7は、本開示の実施の形態に係るセンサモジュール100の動作例を示す流れ図である。図7に示したのは、画素信号を生成してから、画素信号に対して信号処理を実行して画像処理部12に出力するまでの、センサモジュール100の動作例である。以下、図7を用いて本開示の実施の形態に係るセンサモジュール100の動作例について説明する。
センサモジュール100は、撮像素子111が受光した画素信号に対して、プレビュー画の生成処理を毎フレーム実行する(ステップS101)。プレビュー画の生成処理は、前処理部131での所定の画素加算処理により行われる。センサモジュール100は、生成したプレビュー画を画像記憶部121に一時的に順次蓄えた後に、所定の信号処理を行って、後段の画像処理部12に出力する。
ここで、前処理部131が実行する、画素加算によるプレビュー画生成処理の一例を説明する。図8〜図13は、前処理部131が実行する、画素加算によるプレビュー画生成処理の一例を説明するための説明図である。
図8は、単純に隣の同じ色の画素を同じ比率で加算(アナログ加算)することで、縦横それぞれ4画素のデータを縦横それぞれ2画素のデータに縮小する例を示している。図8では、R0とR1、R2とR3を、それぞれ水平方向に1:1の割合で加算した後、さらに加算後の画素を垂直方向に1:1で加算する画素加算の例が示されている。他のB、Gb、Grの画素についても同様の加算処理が行われる。このように、各色について水平方向及び垂直方向に1:1の割合で画素加算が行われることで、フル画を縮小したプレビュー画が生成される。
図9は、重心を考慮して加算比率を変化させて加算(デジタル加算)することで、縦横それぞれ4画素のデータを縦横それぞれ2画素のデータに縮小する例を示している。図9では、R0とR1、R2とR3を、それぞれ水平方向に1:3の割合で加算した後、さらに加算後の画素を垂直方向に1:3で加算することが示されている。他のB、Gb、Grの画素についても同様の加算処理が行われる。このように、各色について水平方向及び垂直方向に重心を考慮して画素加算が行われることで、フル画を縮小したプレビュー画が生成される。また、このように重心を考慮した加算を行うことで、解像感の向上やジャギーの低減という効果が得られる。
図8、9に示したのは、縦横それぞれ4画素のデータを縦横それぞれ2画素のデータに縮小する際の画素加算処理の例であった。続いて、縦横それぞれ8画素のデータを縦横それぞれ2画素のデータに縮小する際の画素加算処理の例を示す。
図10、11は、縦横それぞれ8画素のデータを縦横それぞれ2画素のデータに縮小する際の画素加算処理の例を示す説明図である。図10は、水平方向の1つの行における8つの画素を加算する画素加算処理の例を示している。例えば4つのRの画素は、重心を加味して、R0、R1、R2、R3をそれぞれ9:3:3:1の比率で加算(デジタル加算)する。また例えば4つのGrの画素は、重心を加味して、Gr0、Gr1、Gr2、Gr3をそれぞれ1:3:3:9の比率で加算する。加算後の画素の間隔は3ピクセル間隔となり、元の8画素を単位としたブロックの端から、加算後の画素までの間隔は1.5ピクセル間隔となる。
図11は、縦横それぞれ8画素のデータを縦横それぞれ2画素のデータに縮小する様子を示す説明図である。上述したように、水平方向の1つの行における8つの画素を、重心を加味した加算比率により加算(デジタル加算)し、水平方向の加算後の画素についても同様に重心を加味した加算比率により加算(デジタル加算)する。このように、各色について水平方向及び垂直方向に重心を考慮して画素加算が行われることで、フル画を縮小したプレビュー画が生成される。また、このように重心を考慮した加算を行うことで、解像感の向上やジャギーの低減という効果が得られる。
縦横それぞれ8画素のデータを縦横それぞれ2画素のデータに縮小する際の画素加算処理の別の例を示す。
図12、13は、縦横それぞれ8画素のデータを縦横それぞれ2画素のデータに縮小する際の画素加算処理の例を示す説明図である。図12は、垂直方向の1つの列における8つの画素を、まずはアナログ加算により垂直方向に1:1で加算し、続いて重心を加味した加算比率により加算(デジタル加算)する例を示している。図12の例では、後段のデジタル加算では、Rの画素を上から7:1で、Gbの画素を上から1:7で加算している。
図13は、縦横それぞれ8画素のデータを縦横それぞれ2画素のデータに縮小する様子を示す説明図である。上述したように、まず水平方向及び垂直方向について1:1で加算(アナログ加算)し、加算後の画素について、重心を加味した加算比率により加算(デジタル加算)する。このように、各色について水平方向及び垂直方向に重心を考慮して画素加算が行われることで、フル画を縮小したプレビュー画が生成される。また、このように重心を考慮した加算を行うことで、解像感の向上やジャギーの低減という効果が得られる。
以上、前処理部131が実行する、画素加算によるプレビュー画生成処理の一例を説明した。もちろん、上述した画素加算処理は、前処理部131が実行する画素加算処理の一例で有り、他にも様々な画素加算処理をとり得ることは言うまでも無い。
撮像素子111が受光した画素信号に対してプレビュー画の生成処理を実行すると、続いてセンサモジュール100は、シャッタトリガの発生の有無を判定する(ステップS102)。シャッタトリガの発生の有無は、例えば検知部132が、シャッタトリガの発生に応じて生じた信号を受信したかどうかにより行う。
ステップS102の判定において、シャッタトリガが有ったと判定すると(ステップS102,Yes)、センサモジュール100は、撮像素子111が出力する画素信号に対して所定の画素加算処理をした後のプレビュー画に対応する画素信号と、画素加算処理をしていないフル画に対応するオリジナルの画素信号の両方を記憶する(ステップS103)。本実施形態では、センサモジュール100は、シャッタトリガが発生したフレームの次のフレームでの、プレビュー画に対応する画素信号とフル画に対応するオリジナルの画素信号の両方を記憶する。
本実施形態では、センサモジュール100は、撮像素子111が出力する画素信号に対して所定の画素加算処理をした後のプレビュー画に対応する画素信号と、フル画に対応するオリジナルの画素信号の両方を、常に画像記憶部121に記憶させてもよい。また、センサモジュール100は、検知部132からの通知によりシャッタトリガが発生したフレームの次フレーム以外のフレームでは、撮像素子111が出力する画素信号に対して所定の画素加算処理をした後のプレビュー画に対応する画素信号のみを画像記憶部121に記憶させてもよい。後者の場合、センサモジュール100は、検知部132からの通知によりシャッタトリガが発生したフレームの次フレームでは、撮像素子111が出力する画素信号に対して所定の画素加算処理をした後の画素信号と、オリジナルの画素信号の両方を画像記憶部121に記憶させる。
プレビュー画に対応する画素信号と、フル画に対応するオリジナルの画素信号の両方を記憶すると、続いてセンサモジュール100は、記憶したプレビュー画に対応する画素信号と、フル画に対応するオリジナルの画素信号の両方を読み出す(ステップS104)。そしてセンサモジュール100は、プレビュー画に対応する画素信号と、フル画に対応するオリジナルの画素信号の両方に対する信号処理を実行する(ステップS105)。ステップS104での画素信号の読み出し及びステップS105での信号処理は、例えば信号処理部133が実行する。
プレビュー画に対応する画素信号と、フル画に対応するオリジナルの画素信号の両方に対する信号処理を実行すると、続いてセンサモジュール100は、信号処理後のそれぞれの画素信号を画像処理部12に出力する(ステップS106)。センサモジュール100は、信号処理後のそれぞれの画素信号を画像処理部12に出力すると、次のフレームの処理に進む。
一方、ステップS102の判定において、シャッタトリガが無かったと判定すると(ステップS102,No)、センサモジュール100は、撮像素子111が出力する画素信号に対して所定の画素加算処理をした後のプレビュー画に対応する画素信号のみを記憶する(ステップS107)。
プレビュー画に対応する画素信号を記憶すると、続いてセンサモジュール100は、記憶したプレビュー画に対応する画素信号を読み出す(ステップS108)。そしてセンサモジュール100は、プレビュー画に対応する画素信号に対する信号処理を実行する(ステップS109)。ステップS108での画素信号の読み出し及びステップS109での信号処理は、例えば信号処理部133が実行する。
プレビュー画に対応する画素信号に対する信号処理を実行すると、続いてセンサモジュール100は、信号処理後の画素信号を画像処理部12に出力する(ステップS110)。センサモジュール100は、信号処理後の画素信号を画像処理部12に出力すると、次のフレームの処理に進む。
このように、本実施形態に係るセンサモジュール100は、シャッタトリガの発生タイミングと、その他の時間において、処理対象の画素信号を変化させる。本実施形態に係るセンサモジュール100は、シャッタトリガの発生タイミングと、その他の時間において、処理対象の画素信号を変化させることで、消費電力の低減とシャッタラグ発生の抑制を同時に実現することが可能となる。また、センサモジュール100の内部に画像記憶部121を設ける場合、画素信号に対する前段処理と、画素信号に対する後段処理とを別々に処理できる。これは、前段処理の後の画素信号を画像記憶部121に一時的に蓄えておくからである。すなわち、本開示の実施の形態に係るセンサモジュール100は、前段処理と後段処理とでフレームレートの変換が可能となる。本実施形態では、撮像素子111から画像記憶部121に画素信号が送られる速度が、画像記憶部121から信号処理部133に画素信号が送られる速度よりも速くなるようにしてもよい。すなわち、センサモジュール100は、画像記憶部121を設けることで、撮像素子111から画像記憶部121に画素信号が送られる速度を、センサモジュール100から画素信号を出力するさいのフレームレートに律速させないようにすることが出来る。
本実施形態に係るセンサモジュール100の効果について説明する。図14は、センサモジュール100を備える電子機器10の内部の処理を説明するための説明図である。本実施形態では、シャッタトリガが発生していない状態では、センサモジュール100がプレビュー画に対応する画素信号を生成し、プレビュー画に対応する画素信号についてのみ信号処理を行って、プレビュー画に対応する画素信号を画像処理部12へ伝送する。
そして、フレームf2においてシャッタトリガが発生すると、センサモジュール100は、次のフレームf3でのプレビュー画に対応する画素信号及びフル画に対応するオリジナルの画素信号を記憶し、それぞれの画素信号に対する信号処理を実行する。
センサモジュール100での信号処理は、シャッタトリガが発生していない状態ではプレビュー画に対応する画素信号に対してのみ行われる。従って、センサモジュール100は、シャッタトリガが発生していない状態での電力消費量を抑えることができる。また、シャッタトリガが発生していない状態では、センサモジュール100と画像処理部12(アプリケーションプロセッサ)との間のインターフェースもプレビュー画に対応する画素信号のみが伝送されている。従って、センサモジュール100と画像処理部12との間のインターフェース帯域にも余裕が生じることになる。
センサモジュール100の内部の信号処理部133が、フル画に対応する画素信号を処理できる速度に限界がある場合であっても、センサモジュール100は、フル画に対応する画素信号を分割して信号処理することができる。
図15は、センサモジュール100を備える電子機器10の内部の処理を説明するための説明図である。
図14で示した場合と同様に、フレームf2においてシャッタトリガが発生すると、センサモジュール100は、次のフレームf3でのプレビュー画に対応する画素信号及びフル画に対応するオリジナルの画素信号を記憶し、それぞれの画素信号に対する信号処理を実行する。
センサモジュール100の内部の信号処理部133が、フル画に対応する画素信号を処理できる速度に限界がある場合には、信号処理部133は、例えば、フル画に対応する画素信号を2つに分割し、半分ずつ信号処理を行っても良い。すなわち、信号処理部133は、上半分はフレームf3の時間で信号処理を行い、下半分はフレームf4の時間で信号処理を行う。信号処理部133は、信号処理後の画素信号を画像記憶部121に一度蓄えておき、全ての信号処理が完了すると、画像記憶部121に蓄えた画素信号を結合して画像処理部12に出力する。
このように、フル画に対応する画素信号を2つに分割し、半分ずつ信号処理を行うことで、センサモジュール100の内部の回路規模の削減が可能になる。またセンサモジュール100の内部の回路規模の削減が可能になることで、消費電力を低減させる効果もある。もちろん、フル画に対応する画素信号を分割した場合であってもシャッタラグの発生は無いので、ユーザがシャッタトリガを発生させてから、画像データのキャプチャまでのレスポンスに変化はほとんど無い。なお、図15では、フル画に対応する画素信号を2つに分割した例が示されているが、本開示は係る例に限定されるものではない。センサモジュール100は、フル画に対応する画素信号を3分割以上に分割して、分割した画素信号のそれぞれに対して信号処理を行っても良い。
センサモジュール100と画像処理部12との間のインターフェース帯域が、フル画に対応する画素信号を伝送できる余裕が無い場合でも、センサモジュール100は、画素信号を分割して画像処理部12に伝送することができる。
図16は、センサモジュール100を備える電子機器10の内部の処理を説明するための説明図である。
図14で示した場合と同様に、フレームf2においてシャッタトリガが発生すると、センサモジュール100は、次のフレームf3でのプレビュー画に対応する画素信号及びフル画に対応するオリジナルの画素信号を記憶し、それぞれの画素信号に対する信号処理を実行する。
センサモジュール100と画像処理部12との間のインターフェース帯域が、フル画に対応する画素信号を伝送できる余裕が無い場合には、センサモジュール100は、画素信号を2つに分割し、分割した画素信号をそれぞれ別のフレームにおいて画像処理部12に伝送する。すなわち、信号処理部133は、上半分はフレームf3の時間で画像処理部12に伝送し、下半分はフレームf4の時間で画像処理部12に伝送する。
このように、フル画に対応する画素信号を分割し、半分ずつ画像処理部12へ伝送することで、センサモジュール100と画像処理部12との間の通信速度に制約がある場合でもセンサモジュール100から画像処理部12へのフル画に対応する画素信号の伝送が可能となる。もちろん、フル画に対応する画素信号を分割した場合であってもシャッタラグの発生は無いので、ユーザがシャッタトリガを発生させてから、画像データのキャプチャまでのレスポンスに変化はほとんど無い。なお、図16では、フル画に対応する画素信号を2つに分割して半分ずつ画像処理部12へ伝送する例が示されているが、本開示は係る例に限定されるものではない。センサモジュール100は、フル画に対応する画素信号を3分割以上に分割して、分割した画素信号のそれぞれを1つずつ画像処理部12へ伝送しても良い。
本実施形態では、センサモジュール100は、フル画に対応する画素信号とプレビュー画に対応する画素信号との両方を保存出来るので、よりシャッタラグが無い撮像や、複数枚の画像の出力も可能になる。
図17は、センサモジュール100を備える電子機器10の内部の処理を説明するための説明図である。
図14で示した場合と同様に、フレームf2においてシャッタトリガが発生すると、センサモジュール100は、次のフレームf3でのプレビュー画に対応する画素信号及びフル画に対応するオリジナルの画素信号を記憶し、それぞれの画素信号に対する信号処理を実行する。
フレームf2においてシャッタトリガが発生すると、センサモジュール100は、次のフレームf3以降でプレビュー画に対応する画素信号及びフル画に対応するオリジナルの画素信号を記憶してもよい。センサモジュール100は、フレームf3以降でプレビュー画に対応する画素信号及びフル画に対応するオリジナルの画素信号を記憶することで、過去に遡って画像を出力することが可能となる。また、センサモジュール100は、フレームf3以降でプレビュー画に対応する画素信号及びフル画に対応するオリジナルの画素信号を記憶することで、複数枚の画像の出力が可能となる。
本実施形態では、センサモジュール100は、フル画に対応する画素信号とプレビュー画に対応する画素信号との両方を記憶出来るので、フル画に対応する画素信号とプレビュー画に対応する画素信号とに別々の信号処理を実行出来る。
図18は、センサモジュール100を備える電子機器10の内部の処理を説明するための説明図である。
図14で示した場合と同様に、フレームf2においてシャッタトリガが発生すると、センサモジュール100は、次のフレームf3でのプレビュー画に対応する画素信号及びフル画に対応するオリジナルの画素信号を記憶し、それぞれの画素信号に対する信号処理を実行する。
センサモジュール100は、プレビュー画に対応する画素信号に対しては記録用では無いので信号処理を弱めにかけて電力の削減を図り、フル画に対応するは画素信号に対しては記録用で綺麗な画像を残すためにしっかりと信号処理をかけるようにしてもよい。このように、センサモジュール100は、フル画に対応する画素信号とプレビュー画に対応する画素信号とに別々の信号処理を実行することで、後段の画像処理部12で画素信号を使用する際の選択の幅を広げることが出来る。
本実施形態に係るセンサモジュール100は、動画像の撮像中に発生したシャッタトリガに応じて、静止画像の保存を可能にする。
図19は、動画像の撮像中にシャッタトリガが発生したことに応じて、センサモジュール100を備える電子機器10が静止画像を保存する様子を示す説明図である。センサモジュール100は、動画像の撮像中に、フル画に対応する画素信号をフレーム毎に画像記憶部121に一時的に記憶させる。そして、動画像の撮像中にシャッタトリガが発生すると、シャッタトリガの発生タイミングにおけるフレームのフル画に対応する画素信号を画像記憶部121から読み出して信号処理を実行する。
このように、本実施形態に係るセンサモジュール100は、動画像の撮像中に発生したシャッタトリガを検出すると、そのシャッタトリガに応じてフル画に対応した画素信号を出力することが出来る。
本実施形態に係るセンサモジュール100は、同一のフレームにおける、プレビュー画に対応する画素信号及びフル画に対応するオリジナルの画素信号を記憶できるので、画像の中に別の画像を表示する、いわゆるピクチャインピクチャ(PinP)機能を実現できる。
図20は、本実施形態に係るセンサモジュール100がPinP機能を実現する様子を示す説明図である。符号f1は、フル画に対応した画素信号に基づいた画像の例を示し、符号p1は、符号f1で示した画像と同一のフレームにおける、プレビュー画に対応する画素信号に基づいた画像の例を示している。
信号処理部133は、例えば、符号f1で示した画像の中から、符号z1で示した範囲を抜き出して所定の拡大処理を行って拡大画像を生成し、その拡大画像に符号p1で示した画像を重畳させる。符号i1は、符号f1で示した画像の一部を抜き出して拡大した画像に、符号p1で示した画像が重畳された画像の例を示している。信号処理部133は、このように2つの画像を重畳させることで、1つのセンサモジュール100が出力する2つの画素信号を用いてPinP機能を実現することが出来る。信号処理部133は、1つのセンサモジュール100が出力する2つの画素信号から、符号i1で示したような画像を生成することが出来る。すなわち、本実施形態に係るセンサモジュール100により、単眼カメラであっても上述したPinP機能を実現できる。
上述の例では同一のサブフレームにおけるフル画(またはフル画を拡大した画像)とプレビュー画とを合成することでPinP機能を実現する例を示したが、本開示は係る例に限定されるものでは無い。例えば、信号処理部133は、異なるフレームのフル画(またはフル画を拡大した画像)とプレビュー画とを合成することでPinP機能を実現してもよい。なお、上述したPinP機能は、信号処理部133ではなく、センサモジュール100から画素信号を取得した画像処理部12が実行してもよい。
<2.まとめ>
以上説明したように本開示の実施の形態によれば、シャッタトリガの発生タイミングと、その他の時間において、処理対象の画素信号を変化させる、センサモジュール100が提供される。本実施形態に係るセンサモジュール100は、シャッタトリガの発生タイミングと、その他の時間において、画素信号の処理対象を変化させることで、消費電力の低減とシャッタラグ発生の抑制を同時に実現することが可能となる。
以上説明したように本開示の実施の形態によれば、シャッタトリガの発生タイミングと、その他の時間において、処理対象の画素信号を変化させる、センサモジュール100が提供される。本実施形態に係るセンサモジュール100は、シャッタトリガの発生タイミングと、その他の時間において、画素信号の処理対象を変化させることで、消費電力の低減とシャッタラグ発生の抑制を同時に実現することが可能となる。
また本開示の実施の形態に係るセンサモジュール100は、画素から送られる画素信号を一時的に記憶することで、センサモジュール100と画像処理部12との間のインターフェース帯域に制限がある場合に、フル画に対応する画素信号を分割して画像処理部12に伝送することが出来る。
また本開示の実施の形態に係るセンサモジュール100は、画素から送られる画素信号を一時的に記憶することで、センサモジュール100の処理能力に制約がある場合に、フル画に対応する画素信号を分割して画像処理を行うことが出来る。
本明細書の各装置が実行する処理における各ステップは、必ずしもシーケンス図またはフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、各装置が実行する処理における各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
また、各装置に内蔵されるCPU、ROMおよびRAMなどのハードウェアを、上述した各装置の構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供されることが可能である。また、機能ブロック図で示したそれぞれの機能ブロックをハードウェアまたはハードウェア回路で構成することで、一連の処理をハードウェアまたはハードウェア回路で実現することもできる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
撮像素子から出力された画素信号に対して画素加算処理を行う画素加算処理部と、
前記画素加算処理部により前記画素加算処理が行われた後の加算画素信号を少なくとも記憶する記憶部と、
前記画素信号に基づく画像の記録指示の発生を検知する検知部と、
前記検知部が前記記録指示の発生を検知していない状態では前記記憶部に記憶された前記加算画素信号を取得し、前記検知部が前記記録指示の発生を検知すると該記録指示に応じて前記画素信号を取得する信号処理部と、
を備える、画像処理装置。
(2)
前記記憶部は、前記加算画素信号に加えて前記画素信号を記憶し、
前記信号処理部は、前記検知部が記録指示の発生を検知すると該記録指示に応じて前記記憶部に記憶された前記画素信号を取得する、前記(1)に記載の画像処理装置。
(3)
前記検知部が記録指示の発生を検知すると、前記信号処理部は、該記録指示に応じて前記記憶部に記憶された前記画素信号と前記加算画素信号とを併せて取得する、前記(1)または(2)に記載の画像処理装置。
(4)
前記信号処理部は、前記加算画素信号に対する信号処理の処理量よりも前記画素信号に対する信号処理の処理量を多くする、前記(1)〜(3)のいずれかに記載の画像処理装置。
(5)
前記信号処理部は、前記画素信号の一部の領域を切り出した後の画素信号と前記加算画素信号とを合成する処理を行う、前記(1)〜(4)のいずれかに記載の画像処理装置。
(6)
前記撮像素子から前記記憶部に前記画素信号が送られる速度は、前記記憶部から前記信号処理部に前記画素信号が送られる速度よりも速い、前記(1)〜(5)のいずれかに記載の画像処理装置。
(7)
前記信号処理部は、前記記憶部に記憶された前記画素信号を時分割して出力する、前記(1)〜(6)のいずれかに記載の画像処理装置。
(8)
前記信号処理部は、前記記憶部に記憶された前記画素信号を分割して処理する、前記(1)〜(6)のいずれかに記載の画像処理装置。
(9)
前記記憶部は、複数の画素信号を記憶可能であり、前記信号処理部は、前記記録指示に対応する画素信号よりも前に撮像された画素信号を出力する、前記(1)〜(8)のいずれかに記載の画像処理装置。
(10)
前記信号処理部は、前記画素信号に基づいた動画像の記録処理中に入力された前記記録指示に応じて前記記憶部に記憶された前記画素信号を取得する、前記(1)〜(9)のいずれかに記載の画像処理装置。
(11)
前記画素加算処理部は、前記画素加算処理として縦横2画素を加算する処理を行う、前記(1)〜(10)のいずれかに記載の画像処理装置。
(12)
前記画素加算処理部は、前記画素加算処理として画素重心を考慮して加算する処理を行う、前記(1)〜(10)のいずれかに記載の画像処理装置。
(13)
第1半導体基板、第2半導体基板、第3半導体基板からなる3枚の半導体基板を積層して構成され、
前記第1半導体基板には、前記撮像素子が少なくとも形成され、
前記第2半導体基板には、前記記憶部が少なくとも形成され、
前記第3半導体基板には、前記画素加算処理部、前記検知部及び前記信号処理部が少なくとも形成されている、前記(1)〜(12)のいずれかに記載の画像処理装置。
(14)
前記第2半導体基板が、前記第1半導体基板と前記第3半導体基板との間に設けられる、前記(13)に記載の画像処理装置。
(15)
前記第3半導体基板が、前記第1半導体基板と前記第2半導体基板との間に設けられる、前記(13)に記載の画像処理装置。
(16)
撮像素子から出力された画素信号に対して画素加算処理を行うことと、
前記画素加算処理が行われた後の加算画素信号を少なくとも記憶することと、
前記画素信号に基づく画像の記録指示の発生を検知することと、
前記記録指示の発生を検知していない状態では記憶された前記加算画素信号を取得し、前記記録指示の発生を検知すると該記録指示に応じて前記画素信号を取得することと、
を含む、画像処理方法。
(17)
コンピュータに、
撮像素子から出力された画素信号に対して画素加算処理を行うことと、
前記画素加算処理が行われた後の加算画素信号を少なくとも記憶することと、
前記画素信号に基づく画像の記録指示の発生を検知することと、
前記記録指示の発生を検知していない状態では記憶された前記加算画素信号を取得し、前記記録指示の発生を検知すると該記録指示に応じて前記画素信号を取得することと、
を実行させる、コンピュータプログラム。
(18)
前記(1)〜(15)のいずれかに記載の画像処理装置を備える、電子機器。
(1)
撮像素子から出力された画素信号に対して画素加算処理を行う画素加算処理部と、
前記画素加算処理部により前記画素加算処理が行われた後の加算画素信号を少なくとも記憶する記憶部と、
前記画素信号に基づく画像の記録指示の発生を検知する検知部と、
前記検知部が前記記録指示の発生を検知していない状態では前記記憶部に記憶された前記加算画素信号を取得し、前記検知部が前記記録指示の発生を検知すると該記録指示に応じて前記画素信号を取得する信号処理部と、
を備える、画像処理装置。
(2)
前記記憶部は、前記加算画素信号に加えて前記画素信号を記憶し、
前記信号処理部は、前記検知部が記録指示の発生を検知すると該記録指示に応じて前記記憶部に記憶された前記画素信号を取得する、前記(1)に記載の画像処理装置。
(3)
前記検知部が記録指示の発生を検知すると、前記信号処理部は、該記録指示に応じて前記記憶部に記憶された前記画素信号と前記加算画素信号とを併せて取得する、前記(1)または(2)に記載の画像処理装置。
(4)
前記信号処理部は、前記加算画素信号に対する信号処理の処理量よりも前記画素信号に対する信号処理の処理量を多くする、前記(1)〜(3)のいずれかに記載の画像処理装置。
(5)
前記信号処理部は、前記画素信号の一部の領域を切り出した後の画素信号と前記加算画素信号とを合成する処理を行う、前記(1)〜(4)のいずれかに記載の画像処理装置。
(6)
前記撮像素子から前記記憶部に前記画素信号が送られる速度は、前記記憶部から前記信号処理部に前記画素信号が送られる速度よりも速い、前記(1)〜(5)のいずれかに記載の画像処理装置。
(7)
前記信号処理部は、前記記憶部に記憶された前記画素信号を時分割して出力する、前記(1)〜(6)のいずれかに記載の画像処理装置。
(8)
前記信号処理部は、前記記憶部に記憶された前記画素信号を分割して処理する、前記(1)〜(6)のいずれかに記載の画像処理装置。
(9)
前記記憶部は、複数の画素信号を記憶可能であり、前記信号処理部は、前記記録指示に対応する画素信号よりも前に撮像された画素信号を出力する、前記(1)〜(8)のいずれかに記載の画像処理装置。
(10)
前記信号処理部は、前記画素信号に基づいた動画像の記録処理中に入力された前記記録指示に応じて前記記憶部に記憶された前記画素信号を取得する、前記(1)〜(9)のいずれかに記載の画像処理装置。
(11)
前記画素加算処理部は、前記画素加算処理として縦横2画素を加算する処理を行う、前記(1)〜(10)のいずれかに記載の画像処理装置。
(12)
前記画素加算処理部は、前記画素加算処理として画素重心を考慮して加算する処理を行う、前記(1)〜(10)のいずれかに記載の画像処理装置。
(13)
第1半導体基板、第2半導体基板、第3半導体基板からなる3枚の半導体基板を積層して構成され、
前記第1半導体基板には、前記撮像素子が少なくとも形成され、
前記第2半導体基板には、前記記憶部が少なくとも形成され、
前記第3半導体基板には、前記画素加算処理部、前記検知部及び前記信号処理部が少なくとも形成されている、前記(1)〜(12)のいずれかに記載の画像処理装置。
(14)
前記第2半導体基板が、前記第1半導体基板と前記第3半導体基板との間に設けられる、前記(13)に記載の画像処理装置。
(15)
前記第3半導体基板が、前記第1半導体基板と前記第2半導体基板との間に設けられる、前記(13)に記載の画像処理装置。
(16)
撮像素子から出力された画素信号に対して画素加算処理を行うことと、
前記画素加算処理が行われた後の加算画素信号を少なくとも記憶することと、
前記画素信号に基づく画像の記録指示の発生を検知することと、
前記記録指示の発生を検知していない状態では記憶された前記加算画素信号を取得し、前記記録指示の発生を検知すると該記録指示に応じて前記画素信号を取得することと、
を含む、画像処理方法。
(17)
コンピュータに、
撮像素子から出力された画素信号に対して画素加算処理を行うことと、
前記画素加算処理が行われた後の加算画素信号を少なくとも記憶することと、
前記画素信号に基づく画像の記録指示の発生を検知することと、
前記記録指示の発生を検知していない状態では記憶された前記加算画素信号を取得し、前記記録指示の発生を検知すると該記録指示に応じて前記画素信号を取得することと、
を実行させる、コンピュータプログラム。
(18)
前記(1)〜(15)のいずれかに記載の画像処理装置を備える、電子機器。
10 電子機器
100 センサモジュール
100 センサモジュール
Claims (18)
- 撮像素子から出力された画素信号に対して画素加算処理を行う画素加算処理部と、
前記画素加算処理部により前記画素加算処理が行われた後の加算画素信号を少なくとも記憶する記憶部と、
前記画素信号に基づく画像の前記記録指示の発生を検知する検知部と、
前記検知部が記録指示の発生を検知していない状態では前記記憶部に記憶された前記加算画素信号を取得し、前記検知部が前記記録指示の発生を検知すると該記録指示に応じて前記画素信号を取得する信号処理部と、
を備える、画像処理装置。 - 前記記憶部は、前記加算画素信号に加えて前記画素信号を記憶し、
前記信号処理部は、前記検知部が記録指示の発生を検知すると該記録指示に応じて前記記憶部に記憶された前記画素信号を取得する、請求項1に記載の画像処理装置。 - 前記検知部が記録指示の発生を検知すると、前記信号処理部は、該記録指示に応じて前記記憶部に記憶された前記画素信号と前記加算画素信号とを併せて取得する、請求項1に記載の画像処理装置。
- 前記信号処理部は、前記加算画素信号に対する信号処理の処理量よりも前記画素信号に対する信号処理の処理量を多くする、請求項1に記載の画像処理装置。
- 前記信号処理部は、前記画素信号の一部の領域を切り出した後の画素信号と前記加算画素信号とを合成する処理を行う、請求項1に記載の画像処理装置。
- 前記撮像素子から前記記憶部に前記画素信号が送られる速度は、前記記憶部から前記信号処理部に前記画素信号が送られる速度よりも速い、請求項1に記載の画像処理装置。
- 前記信号処理部は、前記記憶部に記憶された前記画素信号を時分割して出力する、請求項1に記載の画像処理装置。
- 前記信号処理部は、前記記憶部に記憶された前記画素信号を分割して処理する、請求項1に記載の画像処理装置。
- 前記記憶部は、複数の画素信号を記憶可能であり、前記信号処理部は、前記記録指示に対応する画素信号よりも前に撮像された画素信号を出力する、請求項1に記載の画像処理装置。
- 前記信号処理部は、前記画素信号に基づいた動画像の記録処理中に入力された前記記録指示に応じて前記記憶部に記憶された前記画素信号を取得する、請求項1に記載の画像処理装置。
- 前記画素加算処理部は、前記画素加算処理として縦横2画素を加算する処理を行う、請求項1に記載の画像処理装置。
- 前記画素加算処理部は、前記画素加算処理として画素重心を考慮して加算する処理を行う、請求項1に記載の画像処理装置。
- 第1半導体基板、第2半導体基板、第3半導体基板からなる3枚の半導体基板を積層して構成され、
前記第1半導体基板には、前記撮像素子が少なくとも形成され、
前記第2半導体基板には、前記記憶部が少なくとも形成され、
前記第3半導体基板には、前記画素加算処理部、前記検知部及び前記信号処理部が少なくとも形成されている、請求項1に記載の画像処理装置。 - 前記第2半導体基板が、前記第1半導体基板と前記第3半導体基板との間に設けられる、請求項13に記載の画像処理装置。
- 前記第3半導体基板が、前記第1半導体基板と前記第2半導体基板との間に設けられる、請求項13に記載の画像処理装置。
- 撮像素子から出力された画素信号に対して画素加算処理を行うことと、
前記画素加算処理が行われた後の加算画素信号を少なくとも記憶することと、
前記画素信号に基づく画像の記録指示の発生を検知することと、
前記記録指示の発生を検知していない状態では記憶された前記加算画素信号を取得し、前記記録指示の発生を検知すると該記録指示に応じて前記画素信号を取得することと、
を含む、画像処理方法。 - コンピュータに、
撮像素子から出力された画素信号に対して画素加算処理を行うことと、
前記画素加算処理が行われた後の加算画素信号を少なくとも記憶することと、
前記画素信号に基づく画像の記録指示の発生を検知することと、
前記記録指示の発生を検知していない状態では記憶された前記加算画素信号を取得し、前記記録指示の発生を検知すると該記録指示に応じて前記画素信号を取得することと、
を実行させる、コンピュータプログラム。 - 請求項1に記載の画像処理装置を備える、電子機器。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016040968A JP2017158084A (ja) | 2016-03-03 | 2016-03-03 | 画像処理装置、画像処理方法、コンピュータプログラム及び電子機器 |
PCT/JP2017/000183 WO2017149924A1 (ja) | 2016-03-03 | 2017-01-05 | 画像処理装置、画像処理方法、コンピュータプログラム及び電子機器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016040968A JP2017158084A (ja) | 2016-03-03 | 2016-03-03 | 画像処理装置、画像処理方法、コンピュータプログラム及び電子機器 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017158084A true JP2017158084A (ja) | 2017-09-07 |
Family
ID=59742818
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016040968A Pending JP2017158084A (ja) | 2016-03-03 | 2016-03-03 | 画像処理装置、画像処理方法、コンピュータプログラム及び電子機器 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2017158084A (ja) |
WO (1) | WO2017149924A1 (ja) |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5363157B2 (ja) * | 2009-03-24 | 2013-12-11 | オリンパスイメージング株式会社 | 撮影装置およびライブビュー表示方法 |
TWI418210B (zh) * | 2010-04-23 | 2013-12-01 | Alpha Imaging Technology Corp | 避免快門延遲之影像擷取模組及影像擷取方法 |
JP2012175600A (ja) * | 2011-02-24 | 2012-09-10 | Sony Corp | 撮像装置、および撮像装置制御方法、並びにプログラム |
KR101796481B1 (ko) * | 2011-11-28 | 2017-12-04 | 삼성전자주식회사 | 저전력 셔터랙 제거 방법, 카메라 모듈 및 이를 구비하는 모바일 기기 |
JP2014116908A (ja) * | 2012-12-12 | 2014-06-26 | Xacti Corp | 画像処理装置 |
-
2016
- 2016-03-03 JP JP2016040968A patent/JP2017158084A/ja active Pending
-
2017
- 2017-01-05 WO PCT/JP2017/000183 patent/WO2017149924A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2017149924A1 (ja) | 2017-09-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6380974B2 (ja) | 撮像素子、撮像装置 | |
JP2017188760A (ja) | 画像処理装置、画像処理方法、コンピュータプログラム及び電子機器 | |
KR102025935B1 (ko) | 이미지 생성 장치 및 이미지 생성 방법 | |
AU2015331251B2 (en) | Imaging apparatus and imaging method | |
EP3439282A1 (en) | Image pickup device, image processing device, and electronic apparatus | |
JP2007028339A (ja) | 撮像装置及びその制御方法及びプログラム及び記憶媒体 | |
JP2012182748A (ja) | 撮像装置及びその制御方法、プログラム並びに記憶媒体 | |
JP2017183870A (ja) | 撮像処理装置、撮像処理方法、コンピュータプログラム及び電子機器 | |
JP2020053771A (ja) | 画像処理装置、撮像装置 | |
US8970721B2 (en) | Imaging device, solid-state imaging element, image generation method, and program | |
JP6261397B2 (ja) | 撮像装置及びその制御方法 | |
JP2017184094A (ja) | 撮像制御装置、撮像制御方法、コンピュータプログラム及び電子機器 | |
JP5829122B2 (ja) | 撮像装置および評価値生成装置 | |
JP2007274504A (ja) | デジタルカメラ | |
US11032463B2 (en) | Image capture apparatus and control method thereof | |
JP6674255B2 (ja) | 固体撮像素子及び撮像装置 | |
US20070269133A1 (en) | Image-data noise reduction apparatus and method of controlling same | |
WO2013118364A1 (ja) | 画像処理装置および画像処理方法 | |
WO2017149924A1 (ja) | 画像処理装置、画像処理方法、コンピュータプログラム及び電子機器 | |
JP2014099714A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP2006060496A (ja) | 画像表示装置 | |
JPWO2018021034A1 (ja) | 撮像制御装置および撮像制御方法、並びに撮像素子 | |
JP2010056817A (ja) | 撮像装置 | |
US20140078161A1 (en) | Image processing device for scrolling display of an image | |
US11729506B2 (en) | Imaging element with processor configured to receive vibration information, imaging apparatus, operation method of imaging element, and program |