JP2020057877A - 電子機器および設定プログラム - Google Patents
電子機器および設定プログラム Download PDFInfo
- Publication number
- JP2020057877A JP2020057877A JP2018186169A JP2018186169A JP2020057877A JP 2020057877 A JP2020057877 A JP 2020057877A JP 2018186169 A JP2018186169 A JP 2018186169A JP 2018186169 A JP2018186169 A JP 2018186169A JP 2020057877 A JP2020057877 A JP 2020057877A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- setting
- image
- block
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
【課題】異なる撮像条件となる画像の境界を目立たなくすること。【解決手段】電子機器は、被写体を撮像する複数の撮像領域の各々について異なる撮像条件が設定可能な撮像素子と、動画撮影時に、前記複数の撮像領域のうち第1撮像領域に第1撮像条件を設定する第1設定と、前記複数の撮像領域のうち前記第1撮像領域と異なる第2撮像領域に第2撮像条件を設定する第2設定と、前記複数の撮像領域のうち前記第1撮像領域および前記第2撮像領域に挟まれた第3撮像領域に、前記第1撮像条件と前記第2撮像条件を繰り返して設定する第3設定と、を実行する設定部と、を有する。【選択図】図9
Description
本発明は、電子機器および設定プログラムに関する。
画面の領域ごとに異なる撮像条件を設定可能な撮像素子を搭載した撮像装置が知られている(特許文献1参照)。しかしながら、撮像条件が異なる領域でそれぞれ生成された画像データを処理する場合に撮像条件については考慮されていない。
本願において開示される電子機器は、被写体を撮像する複数の撮像領域の各々について異なる撮像条件が設定可能な撮像素子と、動画撮影時に、前記複数の撮像領域のうち第1撮像領域に第1撮像条件を設定する第1設定と、前記複数の撮像領域のうち前記第1撮像領域と異なる第2撮像領域に第2撮像条件を設定する第2設定と、前記複数の撮像領域のうち前記第1撮像領域および前記第2撮像領域に挟まれた第3撮像領域に、前記第1撮像条件と前記第2撮像条件を繰り返して設定する第3設定と、を実行する設定部と、を有する。
本願において開示される設定プログラムは、被写体を撮像する複数の撮像領域の各々について撮像条件が設定可能な撮像素子の設定制御をプロセッサに実行させる設定プログラムであって、前記プロセッサに、動画撮影時に、前記複数の撮像領域のうち前記第1撮像領域と異なる第1撮像領域に第1撮像条件を設定させ、前記複数の撮像領域のうち第2撮像領域に第2撮像条件を設定させ、前記複数の撮像領域のうち前記第1撮像領域および前記第2撮像領域に挟まれた第3撮像領域に、前記第1撮像条件と前記第2撮像条件を繰り返して設定させる。
<撮像素子の構成例>
本明細書の実施例に示す電子機器に搭載される撮像素子は積層型撮像素子である。この積層型撮像素子は、複数の異なる撮像領域ごとに異なる撮像条件が設定可能である。初めに、複数の異なる撮像領域ごとに異なる撮像条件が設定可能な積層型撮像素子の構造について説明する。なお、この積層型撮像素子は、本願出願人が先に出願した特願2012−139026号に記載されているものである。電子機器は、たとえば、デジタルカメラやデジタルビデオカメラなどの撮像装置である。
本明細書の実施例に示す電子機器に搭載される撮像素子は積層型撮像素子である。この積層型撮像素子は、複数の異なる撮像領域ごとに異なる撮像条件が設定可能である。初めに、複数の異なる撮像領域ごとに異なる撮像条件が設定可能な積層型撮像素子の構造について説明する。なお、この積層型撮像素子は、本願出願人が先に出願した特願2012−139026号に記載されているものである。電子機器は、たとえば、デジタルカメラやデジタルビデオカメラなどの撮像装置である。
図1は、積層型撮像素子100の断面図である。積層型撮像素子(以下、単に、「撮像素子」)100は、入射光に対応した画素信号を出力する裏面照射型撮像チップ(以下、単に、「撮像チップ」)113と、画素信号を処理する信号処理チップ111と、画素信号を記憶するメモリチップ112とを備える。これら撮像チップ113、信号処理チップ111およびメモリチップ112は積層されており、Cuなどの導電性を有するバンプ109により互いに電気的に接続される。
なお、図1に示すように、入射光は主に白抜き矢印で示すZ軸プラス方向へ向かって入射する。本実施形態においては、撮像チップ113において、入射光が入射する側の面を裏面と称する。また、座標軸120に示すように、Z軸に直交する紙面左方向をX軸プラス方向、Z軸およびX軸に直交する紙面手前方向をY軸プラス方向とする。以降のいくつかの図においては、図1の座標軸120を基準として、それぞれの図の向きがわかるように座標軸120を表示する。
撮像チップ113の一例は、裏面照射型のMOS(Metal Oxide Semiconductor)イメージセンサである。PD(フォトダイオード)層106は、配線層108の裏面側に配されている。PD層106は、二次元的に配され、入射光に応じた電荷を蓄積する複数のPD104、および、PD104に対応して設けられたトランジスタ105を有する。
PD層106における入射光の入射側にはパッシベーション膜103を介してカラーフィルタ102が設けられる。カラーフィルタ102は、互いに異なる波長領域を透過する複数の種類を有しており、PD104のそれぞれに対応して特定の配列を有している。カラーフィルタ102の配列については後述する。カラーフィルタ102、PD104およびトランジスタ105の組が、一つの画素を形成する。
カラーフィルタ102における入射光の入射側には、それぞれの画素に対応して、マイクロレンズ101が設けられる。マイクロレンズ101は、対応するPD104へ向けて入射光を集光する。
配線層108は、PD層106からの画素信号を信号処理チップ111に伝送する配線107を有する。配線107は多層であってもよく、また、受動素子および能動素子が設けられてもよい。
配線層108の表面には複数のバンプ109が配される。当該複数のバンプ109が信号処理チップ111の対向する面に設けられた複数のバンプ109と位置合わせされて、撮像チップ113と信号処理チップ111とが加圧などされることにより、位置合わせされたバンプ109同士が接合されて、電気的に接続される。
同様に、信号処理チップ111およびメモリチップ112の互いに対向する面には、複数のバンプ109が配される。これらのバンプ109が互いに位置合わせされて、信号処理チップ111とメモリチップ112とが加圧などされることにより、位置合わせされたバンプ109同士が接合されて、電気的に接続される。
なお、バンプ109間の接合には、固相拡散によるCuバンプ接合に限らず、はんだ溶融によるマイクロバンプ結合を採用してもよい。また、バンプ109は、たとえば、後述する一つのブロックに対して一つ程度設ければよい。したがって、バンプ109の大きさは、PD104のピッチよりも大きくてもよい。また、画素が配列された画素領域以外の周辺領域において、画素領域に対応するバンプ109よりも大きなバンプを併せて設けてもよい。
信号処理チップ111は、表裏面にそれぞれ設けられた回路を互いに接続するTSV(シリコン貫通電極)110を有する。TSV110は、周辺領域に設けられることが好ましい。また、TSV110は、撮像チップ113の周辺領域、メモリチップ112にも設けられてよい。
図2は、撮像チップ113の画素配列を説明する図である。特に、撮像チップ113を裏面側から観察した様子を示す。(a)は、撮像チップ113の裏面である撮像面200を模式的に示す平面図であり、(b)は、撮像面200の一部領域200aを拡大した平面図である。(b)に示すように、撮像面200には、画素201が二次元状に多数配列されている。
画素201は、それぞれ不図示の色フィルタを有している。色フィルタは、赤(R)、緑(G)、青(B)の3種類からなり、(b)における「R」、「G」、および「B」という表記は、画素201が有する色フィルタの種類を表している。(b)に示すように、撮像素子100の撮像面200には、このような各色フィルタを備えた画素201が、いわゆるベイヤー配列に従って配列されている。
赤フィルタを有する画素201は、入射光のうち、赤色の波長帯の光を光電変換して受光信号(光電変換信号)を出力する。同様に、緑フィルタを有する画素201は、入射光のうち、緑色の波長帯の光を光電変換して受光信号を出力する。また、青フィルタを有する画素201は、入射光のうち、青色の波長帯の光を光電変換して受光信号を出力する。
撮像素子100は、隣接する2画素×2画素の計4つの画素201から成るブロック202ごとに、個別に制御可能に構成されている。たとえば、互いに異なる2つのブロック202について、同時に電荷蓄積を開始したときに、一方のブロック202では電荷蓄積開始から1/30秒後に電荷の読み出し、すなわち受光信号の読み出しを行い、他方のブロック202では電荷蓄積開始から1/15秒後に電荷の読み出しを行うことができる。換言すると、撮像素子100は、1回の撮像において、ブロック202ごとに異なる露光時間(電荷蓄積時間であり、いわゆるシャッタースピード)を設定することができる。
撮像素子100は、上述した露光時間以外にも、撮像信号の増幅率(いわゆるISO感度)をブロック202ごとに異ならせることが可能である。撮像素子100は、電荷蓄積を開始するタイミングや受光信号を読み出すタイミングをブロック202ごとに変化させることができる。すなわち、撮像素子100は、動画撮像時のフレームレートをブロック202ごとに変化させることができる。
以上をまとめると、撮像素子100は、ブロック202ごとに、露光時間、増幅率、フレームレートなどの撮像条件を異ならせることが可能に構成されている。たとえば、画素201が有する不図示の光電変換部から撮像信号を読み出すための不図示の読み出し線が、ブロック202ごとに設けられ、ブロック202ごとに独立して撮像信号を読み出し可能に構成すれば、ブロック202ごとに露光時間(シャッタースピード)を異ならせることができる。
また、光電変換された電荷により生成された撮像信号を増幅する不図示の増幅回路をブロック202ごとに独立して設け、増幅回路による増幅率を増幅回路ごとに独立して制御可能に構成すれば、ブロック202ごとに信号の増幅率(ISO感度)を異ならせることができる。
また、ブロック202ごとに異ならせることが可能な撮像条件は、上述した撮像条件のほか、フレームレート、ゲイン、解像度(間引き率)、画素信号を加算する加算行数または加算列数、電荷の蓄積時間または蓄積回数、デジタル化のビット数などである。さらに、制御パラメータは、画素からの画像信号取得後の画像処理におけるパラメータであってもよい。
また、撮像条件は、たとえば、ブロック202ごとに独立して制御可能な区画(1区画が1つのブロック202に対応する)を有する液晶パネルを撮像素子100に設け、オンオフ可能な減光フィルタとして利用すれば、ブロック202ごとに明るさ(絞り値)を制御することが可能になる。
なお、ブロック202を構成する画素201の数は、上述した2×2の4画素でなくてもよい。ブロック202は、少なくとも2個以上の画素201を有していればよいし、逆に、4個より多くの画素201を有していてもよい。
図3は、撮像チップ113の回路図である。図3において、代表的に点線で囲む矩形が、1つの画素201に対応する回路を表す。また、一点鎖線で囲む矩形が1つのブロック202(202−1〜202−4)に対応する。なお、以下に説明する各トランジスタの少なくとも一部は、図1のトランジスタ105に対応する。
上述したように、画素201のリセットトランジスタ303は、ブロック202単位でオン/オフされる。また、画素201の転送トランジスタ302も、ブロック202単位でオン/オフされる。図3に示す例において、左上ブロック202−1に対応する4つのリセットトランジスタ303をオン/オフするためのリセット配線300−1が設けられており、同ブロック202−1に対応する4つの転送トランジスタ302に転送パルスを供給するためのTX配線307−1も設けられる。
同様に、左下ブロック202−3に対応する4つのリセットトランジスタ303をオン/オフするためのリセット配線300−3が、上記リセット配線300−1とは別個に設けられる。また、同ブロック202−3に対応する4つの転送トランジスタ302に転送パルスを供給するためのTX配線307−3が、上記TX配線307−1と別個に設けられる。
右上ブロック202−2や右下ブロック202−4についても同様に、それぞれリセット配線300−2とTX配線307−2、およびリセット配線300−4とTX配線307−4が、それぞれのブロック202に設けられている。
各画素201に対応する16個のPD104は、それぞれ対応する転送トランジスタ302に接続される。各転送トランジスタ302のゲートには、上記ブロック202ごとのTX配線を介して転送パルスが供給される。各転送トランジスタ302のドレインは、対応するリセットトランジスタ303のソースに接続されるとともに、転送トランジスタ302のドレインとリセットトランジスタ303のソース間のいわゆるフローティングディフュージョンFDが、対応する増幅トランジスタ304のゲートに接続される。
各リセットトランジスタ303のドレインは、電源電圧が供給されるVdd配線310に共通に接続される。各リセットトランジスタ303のゲートには、上記ブロック202ごとのリセット配線を介してリセットパルスが供給される。
各増幅トランジスタ304のドレインは、電源電圧が供給されるVdd配線310に共通に接続される。また、各増幅トランジスタ304のソースは、対応する選択トランジスタ305のドレインに接続される。各選択トランジスタ305のゲートには、選択パルスが供給されるデコーダ配線308に接続される。デコーダ配線308は、16個の選択トランジスタ305に対してそれぞれ独立に設けられる。
そして、各々の選択トランジスタ305のソースは、共通の出力配線309に接続される。負荷電流源311は、出力配線309に電流を供給する。すなわち、選択トランジスタ305に対する出力配線309は、ソースフォロアにより形成される。なお、負荷電流源311は、撮像チップ113側に設けてもよいし、信号処理チップ111側に設けてもよい。
ここで、電荷の蓄積開始から蓄積終了後の画素出力までの流れを説明する。上記ブロック202ごとのリセット配線を通じてリセットパルスがリセットトランジスタ303に印加され、同時に上記ブロック202(202−1〜202−4)ごとのTX配線を通じて転送パルスが転送トランジスタ302に印加されると、上記ブロック202ごとに、PD104およびフローティングディフュージョンFDの電位がリセットされる。
各PD104は、転送パルスの印加が解除されると、受光する入射光を電荷に変換して蓄積する。その後、リセットパルスが印加されていない状態で再び転送パルスが印加されると、蓄積された電荷はフローティングディフュージョンFDへ転送され、フローティングディフュージョンFDの電位は、リセット電位から電荷蓄積後の信号電位になる。
そして、デコーダ配線308を通じて選択パルスが選択トランジスタ305に印加されると、フローティングディフュージョンFDの信号電位の変動が、増幅トランジスタ304および選択トランジスタ305を介して出力配線309に伝わる。これにより、リセット電位と信号電位とに対応する画素信号は、単位画素から出力配線309に出力される。
上述したように、ブロック202を形成する4画素に対して、リセット配線とTX配線が共通である。すなわち、リセットパルスと転送パルスはそれぞれ、同ブロック202内の4画素に対して同時に印加される。したがって、あるブロック202を形成するすべての画素201は、同一のタイミングで電荷蓄積を開始し、同一のタイミングで電荷蓄積を終了する。ただし、蓄積された電荷に対応する画素信号は、それぞれの選択トランジスタ305に選択パルスが順次印加されることにより、選択的に出力配線309から出力される。
このように、ブロック202ごとに電荷蓄積開始タイミングを制御することができる。換言すると、異なるブロック202間では、異なったタイミングで撮像することができる。
図4は、撮像素子100の構成例を示すブロック図である。アナログのマルチプレクサ411は、ブロック202を形成する16個のPD104を順番に選択して、それぞれの画素信号を当該ブロック202に対応して設けられた出力配線309へ出力させる。マルチプレクサ411は、PD104と共に、撮像チップ113に形成される。
マルチプレクサ411を介して出力された画素信号は、信号処理チップ111に形成された、相関二重サンプリング(CDS)やアナログ/デジタル(A/D)変換を行う信号処理回路412により、CDSおよびA/D変換が行われる。A/D変換された画素信号は、デマルチプレクサ413に引き渡され、それぞれの画素に対応する画素メモリ414に格納される。デマルチプレクサ413および画素メモリ414は、メモリチップ112に形成される。
演算回路415は、画素メモリ414に格納された画素信号を処理して後段の画像処理部に引き渡す。演算回路415は、信号処理チップ111に設けられてもよいし、メモリチップ112に設けられてもよい。なお、図4では4つのブロック202の分の接続を示すが、実際にはこれらが4つのブロック202ごとに存在して、並列で動作する。
ただし、演算回路415は4つのブロック202ごとに存在しなくてもよく、たとえば、一つの演算回路415がそれぞれの4つのブロック202に対応する画素メモリ414の値を順に参照しながらシーケンシャルに処理してもよい。
上記の通り、ブロック202のそれぞれに対応して出力配線309が設けられている。撮像素子100は撮像チップ113、信号処理チップ111およびメモリチップ112を積層しているので、これら出力配線309にバンプ109を用いたチップ間の電気的接続を用いることにより、各チップを面方向に大きくすることなく配線を引き回すことができる。
<電子機器のブロック構成例>
図5は、電子機器のブロック構成例を示す説明図である。なお、ブロック構成例の詳細は後述(図9)する。電子機器500は、たとえば、レンズ一体型のカメラである。電子機器500は、撮像光学系501と、撮像素子100と、制御部502と、液晶モニタ503と、メモリカード504と、操作部505と、DRAM506と、フラッシュメモリ507と、録音部508とを備える。制御部502は、後述するように手ブレや被写体ブレを検出する検出部を含む。
図5は、電子機器のブロック構成例を示す説明図である。なお、ブロック構成例の詳細は後述(図9)する。電子機器500は、たとえば、レンズ一体型のカメラである。電子機器500は、撮像光学系501と、撮像素子100と、制御部502と、液晶モニタ503と、メモリカード504と、操作部505と、DRAM506と、フラッシュメモリ507と、録音部508とを備える。制御部502は、後述するように手ブレや被写体ブレを検出する検出部を含む。
撮像光学系501は、複数のレンズから構成され、撮像素子100の撮像面200に被写体像を結像させる。なお、図5では、便宜上、撮像光学系501を1枚のレンズとして図示している。
撮像素子100は、たとえば、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)などの撮像素子であり、撮像光学系501により結像された被写体像を撮像して撮像信号を出力する。制御部502は、電子機器500の各部を制御する電子回路であり、プログラムを実行するプロセッサ、画像処理回路のような周辺回路、加速度センサのような各種センサを含む。
不揮発性の記憶媒体であるフラッシュメモリ507には、予め所定の制御プログラムが書き込まれている。制御部502のプロセッサは、フラッシュメモリ507から制御プログラムを読み込んで実行することにより、各部の制御を行う。この制御プログラムは、揮発性の記憶媒体であるDRAM506を作業用領域として使用する。
液晶モニタ503は、液晶パネルを利用した表示装置である。制御部502は、所定周期(たとえば60分の1秒)ごとに撮像素子100に繰り返し被写体像を撮像させる。そして、撮像素子100から出力された撮像信号に種々の画像処理を施していわゆるスルー画を作成し、液晶モニタ503に表示する。液晶モニタ503には、上記のスルー画以外に、たとえば撮像条件を設定する設定画面などが表示される。
制御部502は、撮像素子100から出力された撮像信号に基づき、後述する画像ファイルを作成し、可搬性の記録媒体であるメモリカード504に画像ファイルを記録する。操作部505は、プッシュボタンなどの種々の操作部材を有し、それら操作部材が操作されたことに応じて制御部502に操作信号を出力する。
録音部508は、たとえば、マイクロフォンにより構成され、環境音を音声信号に変換して制御部502に入力する。なお、制御部502は、可搬性の記録媒体であるメモリカード504に動画ファイルを記録するのではなく、電子機器500に内蔵されたSSD(Solid State Drive)やハードディスクのような不図示の記録媒体に記録してもよい。
<画像ファイルの構成例>
図6は、電子機器500の撮像により生成された画像ファイルの構成例を示す説明図である。画像ファイル600は、制御部502内の画像処理回路または画像処理プログラムで生成され、メモリカード504、DRAM506、またはフラッシュメモリ507に格納される。画像ファイル600は、ヘッダ部601およびデータ部602の2つのブロックにより構成される。ヘッダ部601は、画像ファイル600の先頭に位置するブロックである。ヘッダ部601には、ファイル基本情報領域611と、マスク領域612と、撮像情報領域613とが、以上に述べた順序で格納されている。
図6は、電子機器500の撮像により生成された画像ファイルの構成例を示す説明図である。画像ファイル600は、制御部502内の画像処理回路または画像処理プログラムで生成され、メモリカード504、DRAM506、またはフラッシュメモリ507に格納される。画像ファイル600は、ヘッダ部601およびデータ部602の2つのブロックにより構成される。ヘッダ部601は、画像ファイル600の先頭に位置するブロックである。ヘッダ部601には、ファイル基本情報領域611と、マスク領域612と、撮像情報領域613とが、以上に述べた順序で格納されている。
ファイル基本情報領域611には、たとえば、画像ファイル600内の各部(ヘッダ部601、データ部602、マスク領域612、撮像情報領域613など)のサイズやオフセットが記録される。マスク領域612には、後述する撮像条件情報やマスク情報などが記録される。撮像情報領域613には、たとえば電子機器500の機種名や撮像光学系501の情報(たとえば収差などの光学特性に関する情報)など、撮像に関する情報が記録される。データ部602は、ヘッダ部601の後ろに位置するブロックであり、画像情報が記録される。
<撮像面200と被写体像との関係>
図7は、撮像面200と被写体像との関係を示す説明図である。(a)は、撮像素子100の撮像面200(撮像範囲)での被写体像の撮像例を示す。(b)は、(a)の撮像の際に設定されたマスク情報を示す。(c)は、(a)から所定時間経過後における撮像素子100の撮像面200(撮像範囲)での被写体像の撮像例を示す。(d)は、(c)撮像の際に設定されたマスク情報を示す。
図7は、撮像面200と被写体像との関係を示す説明図である。(a)は、撮像素子100の撮像面200(撮像範囲)での被写体像の撮像例を示す。(b)は、(a)の撮像の際に設定されたマスク情報を示す。(c)は、(a)から所定時間経過後における撮像素子100の撮像面200(撮像範囲)での被写体像の撮像例を示す。(d)は、(c)撮像の際に設定されたマスク情報を示す。
(a)において、制御部502は、被写体を撮像する。(a)の撮像は、たとえばライブビュー画像(いわゆるスルー画)の作成のために行われる撮像でもよい。制御部502は、(a)の撮像により得られた被写体像に対して、所定の画像解析処理を実行する。画像解析処理は、たとえば周知の被写体検出技術(特徴量を演算して所定の被写体が存在する範囲を検出する技術)により、主要被写体を検出する。実施例1では、主要被写体以外は背景とする。
検出された主要被写体の像(主要被写体像MI)のみが映っているブロック202が主要被写体ブロック202となる。主要被写体ブロック202の集合が主要被写体領域702となる。また、背景の像のみが映っているブロック202が背景ブロック202となる。背景ブロック202の集合が背景領域701となる。主要被写体像MIと背景の像の両方が映っているブロック202を不定ブロック202と称する。不定ブロック202の集合を共存領域703と称する。
(a)では、具体的には、たとえば、主要被写体領域702は、主要被写体像MIの外形に沿った形状として設定される。制御部502は、主要被写体領域702内の各ブロック202と、背景領域701内の各ブロック202とで、異なる撮像条件を設定する。たとえば、前者の各ブロック202には、後者の各ブロック202に比べて高速なシャッタースピードを設定する。このようにすると、(a)の撮像の次に撮像される(c)の撮像において、主要被写体領域702では像ぶれが発生しにくくなる。
また、制御部502は、背景領域701に存在する太陽などの光源の影響で、主要被写体領域702が逆光状態となっている場合には、前者の各ブロック202に、相対的に高めのISO感度を設定したり、低速なシャッタースピードを設定する。また、制御部502は、後者の各ブロック202に、相対的に低めのISO感度を設定したり、高速なシャッタースピードを設定したりする。このようにすると、(c)の撮像において、逆光状態の主要被写体領域702の黒つぶれや、光量の大きい背景領域701の白飛びを防止することができる。なお、共存領域703を構成するブロック202に対する設定については後述する。
なお、画像解析処理は、上述した背景領域701と主要被写体領域702とを検出する処理とは異なる処理であってもよい。たとえば、撮像面200全体のうち、明るさが一定以上の部分(明るすぎる部分)や明るさが一定未満の部分(暗すぎる部分)を検出する処理であってもよい。画像解析処理をこのような処理とした場合、制御部502は、前者の領域に含まれるブロック202について、露出値(Ev値)が他の領域に含まれるブロック202よりも低くなるように、シャッタースピードやISO感度を設定する。
また、制御部502は、後者の領域に含まれるブロック202については、露出値(Ev値)が他の領域に含まれるブロック202よりも高くなるように、シャッタースピードやISO感度を設定する。このようにすることで、(c)の撮像により得られる画像のダイナミックレンジを、撮像素子100の本来のダイナミックレンジよりも広げることができる。
図7の(b)は、(a)に示した撮像面200に対応するマスク情報704の一例を示す。背景領域701に属するブロック202の位置には「1」が、主要被写体領域702に属するブロック202の位置には「2」が、共存領域703に属するブロック202の位置には「0」がそれぞれ格納されている。
ただし、共存領域703に属するブロック202の位置については、制御部502が、主要被写体領域702に属すべきと判断した場合には「2」、背景領域701に属すべきと判断した場合には「1」に更新してもよい。また、制御部502は、更新前の値「0」と更新後の値「1」または「2」とを保存してもよい。
制御部502は、1フレーム目の画像データに対して、画像解析処理を実行し、背景領域701と主要被写体領域702と共存領域703とを検出する。これにより、(a)の撮像によるフレームは、(b)に示すように、背景領域701と主要被写体領域702と共存領域703とに分割される。制御部502は、背景領域701内の各ブロック202と、主要被写体領域702内の各ブロック202とで、異なる撮像条件を設定して、(c)の撮像を行い、画像データを作成する。このときのマスク情報704の例を、(d)に示す。
(a)の撮像の結果に対応する(b)のマスク情報704と、(c)の撮像の結果に対応する(d)のマスク情報704とでは、異なる時刻に撮像を行っている(時間差がある)ため、たとえば、被写体が移動している場合や、ユーザが電子機器500を動かした場合に、これら2つのマスク情報704が異なる内容になる。換言すると、マスク情報704は、時間経過に伴い変化する動的情報である。従って、あるブロック202において、フレームごとに異なる撮像条件が設定されることになる。
<画像ファイルの具体例>
図8は、画像ファイル600の具体的な構成例に示す説明図である。マスク領域612には、識別情報801と、撮像条件情報802と、マスク情報704が、以上に述べた順序で記録される。
図8は、画像ファイル600の具体的な構成例に示す説明図である。マスク領域612には、識別情報801と、撮像条件情報802と、マスク情報704が、以上に述べた順序で記録される。
識別情報801は、この画像ファイル600がマルチ撮像条件静止画撮像機能によって作成されたものである旨を表す。マルチ撮像条件静止画撮像機能とは、複数の異なる撮像条件(たとえば、長秒の露光時間と短秒の露光時間)が設定された撮像素子100で静止画を撮影する機能である。たとえば、逆光時では、主要被写体を長秒、背景を短秒とする。長秒および短秒は相対的に決まる設定値である。
撮像条件情報802は、ブロック202にどのような用途(目的、役割)が存在するかを表す情報である。たとえば、上述したように、撮像面200(図7(a))を背景領域701と主要被写体領域702と共存領域703とに分割する場合、各々のブロック202は、共存領域703が不定のままであれば、背景領域701に属するか、主要被写体領域702に属するか、共存領域703に属するかのいずれかである。一方、各々のブロック202は、共存領域703が背景領域701と主要被写体領域702とのいずれかに決定されていれば、背景領域701に属するか、または、主要被写体領域702に属するかのいずれかである。
つまり、撮像条件情報802は、この画像ファイル600の作成に際し、ブロック202にたとえば「主要被写体領域を1/60[sec]で静止画撮像する」(長秒)、「背景領域を1/1000[sec]で静止画撮像する」(短秒)という2種類の撮像条件と、これらの撮像条件ごとに割り当てられた一意な番号を表す情報と、を含む。たとえば、「1」という番号が「背景領域を1/1000[sec]で静止画撮像する」撮像条件を示す。「2」という番号が「主要被写体領域を1/60[sec]で静止画撮像する」撮像条件を示す。「0」という番号が「共存領域を静止画撮像する露光時間は不定である」撮像条件を示す。
ここでは、説明の容易化のため、撮像条件ごとに割り当てられた一意な番号として「1」、「2」としたが、3種類以上の露光時間を割り当てる場合もある。したがって、たとえば、露光時間を示す段数分の番号が割り当てられてもよい。
マスク情報704は、各々のブロック202の用途(目的、役割)を表す情報である。図7で説明したように、マスク情報704は、「撮像条件情報802に割り当てられた番号を、ブロック202の位置に合わせて二次元マップの形で表現した情報」である。つまり、二次元状に配列されたブロック202を2つの整数x、yによる二次元座標(x、y)で特定するとき、(x、y)の位置に存在するブロック202の用途は、マスク情報704の(x、y)の位置に存在する撮像番号により表現される。
撮像番号「1」は背景の像が存在するブロック202に割り当てられた番号であり、撮像番号「2」は主要被写体像存在するブロック202に割り当てられた番号であり、撮像番号「0」は、背景の像および主要被写体像が存在するブロック202に割り当てられた番号である。たとえば、マスク情報704の座標(3,5)の位置に「2」という撮像番号が入っていた場合、座標(3,5)に位置するブロック202には、「主要被写体領域を1/60[sec]で静止画撮像する」という撮像条件が与えられたことがわかる。換言すると、座標(3,5)に位置するブロック202は、主要被写体領域702に属することがわかる。
データ部602は、画像情報811と、Tv値マップ812と、Sv値マップ813と、Bv値マップ814と、Av値情報815と、を含む。
画像情報811は、図7の(b)の撮像により撮像素子100から出力された撮像信号を、種々の画像処理を施す前の形で記録した情報であり、いわゆるRAW画像データである。
Tv値マップ812は、ブロック202ごとに設定されたシャッタースピードを表すTv値を、ブロック202の位置に合わせて二次元マップの形で表現した情報である。たとえば座標(x、y)に位置するブロック202に設定されたシャッタースピードは、Tv値マップ812の座標(x、y)に格納されているTv値を調べることで判別可能である。
Sv値マップ813は、ブロック202ごとに設定されたISO感度を表すSv値を、Tv値マップ812と同様に二次元マップの形で表現した情報である。
Bv値マップ814は、図7の(b)の撮像に際してブロック202ごとに測定された被写体輝度、すなわち、各々のブロック202に入射した被写体光の輝度を表すBv値を、Tv値マップ812と同様に二次元マップの形で表現した情報である。
Av値情報815は、図7の(b)の撮像時の絞り値を表す情報である。Av値は、Tv値、Sv値、Bv値とは異なり、ブロック202ごとに存在する値ではない。従って、Tv値、Sv値、Bv値とは違い、Av値は単一の値のみが格納され、複数の値を二次元状にマップした情報とはなっていない。
以上のように、制御部502は、マルチ撮像条件静止画撮像機能による撮像を行うことにより、ブロック202ごとに異なる撮像条件が設定可能な撮像素子100により生成された画像情報811と、ブロック202ごとの撮像条件に関するデータ(撮像条件情報802、マスク情報704、Tv値マップ812、Sv値マップ813、Bv値マップ814など)、Av値情報815とが関連付けられた画像ファイル600を、メモリカード504に記録する。
<電子機器の詳細なブロック構成例>
図9は、電子機器の詳細なブロック構成例を示す説明図である。電子機器500は、撮像素子100と、制御部502と、表示部901と、記録部902と、を有する。表示部901は、具体的には、たとえば、図5に示した液晶モニタ503やEVF(Electronic View Finder)に相当する。記録部902は、具体的には、たとえば、図5に示したメモリカード504、DRAM506、およびフラッシュメモリ507に相当する。
図9は、電子機器の詳細なブロック構成例を示す説明図である。電子機器500は、撮像素子100と、制御部502と、表示部901と、記録部902と、を有する。表示部901は、具体的には、たとえば、図5に示した液晶モニタ503やEVF(Electronic View Finder)に相当する。記録部902は、具体的には、たとえば、図5に示したメモリカード504、DRAM506、およびフラッシュメモリ507に相当する。
撮像素子100は、上述したように、被写体を撮像する複数の撮像領域の各々について異なる撮像条件が設定可能であり、撮像チップ113と信号処理チップ111とを有する。撮像領域とは、撮像面200に存在するブロック202である。信号処理チップ111は、設定回路911を含む。設定回路911は、制御部502からの設定情報にしたがって、ブロック202ごとに撮像条件を設定する。
制御部502は、画像処理部912と、設定部913と、を有する。画像処理部912は、算出部923と、除去部924と、調整部921と、生成部922と、を有する。画像処理部912は、画像処理回路またはプロセッサに実行される画像処理プログラムにより実現される。画像処理部912は、図7で説明したような画像解析処理を実行する。具体的には、たとえば、画像処理部912は、被写体検出、被写体像と背景の像とを判別して背景領域701、主要被写体領域702および共存領域703を特定する領域判別を実行する。
設定部913は、撮像素子100から出力される複数のフレームF1〜Fnの各々について、第1設定と、第2設定と、第3設定と、を実行する。第1設定とは、設定部913が、複数の撮像領域のうち第1撮像領域に第1撮像条件を設定する処理である。第1撮像領域とは、具体的には、たとえば、第1被写体像が存在する撮像領域である。
具体的には、たとえば、設定部913は、撮像面200を構成するブロック群のうち背景の像が存在するブロック202(マスク情報704の値が「1」)について、第1撮像条件として露光時間:短秒(たとえば、1/60秒)を設定する。マスク情報704の値が「1」のブロック202を「背景ブロック202」と称す。
第2設定とは、設定部913が、複数のフレームF1〜Fnの各々について、複数の撮像領域のうち第1撮像領域と異なる第2撮像領域に第2撮像条件を設定する処理である。第2撮像領域とは、具体的には、たとえば、第2被写体像が存在する撮像領域である。
具体的には、たとえば、設定部913は、撮像面200を構成するブロック群のうち主要被写体像MIが存在するブロック202(マスク情報704の値が「2」)について、第2撮像条件として露光時間:長秒(たとえば、1/1000秒)を設定する。マスク情報704の値が「2」のブロック202を「主要被写体ブロック202」と称す。
第3設定とは、設定部913が、複数の撮像領域のうち第1撮像領域および第2撮像領域に挟まれた第3撮像領域に、第1撮像条件と第2撮像条件を繰り返して設定する。第3撮像領域は、第1被写体像および第2被写体像のうち少なくとも一方が存在すればよい。具体的には、たとえば、第1撮像領域に第1被写体像として背景像が存在し、第2撮像領域に第2被写体像として主要被写体像が存在する場合、第3撮像領域は、背景像および主要被写体像の両方が存在する共存領域703となる。共存領域703の撮像条件を時間方向に切り替えて設定することで、第1撮像領域および第2撮像領域と第3撮像領域との間で撮像条件が異なることで生じる画像の境界を目立たなくすることができる。
また、背景領域701のうち共存領域703と接する一部の背景領域701も、第1撮像領域と第2撮像領域とに挟まれた第3撮像領域としてもよい。この場合、第1撮像領域は、背景領域701(ただし、上記一部の背景領域701を除く)、第2撮像領域は、主要被写体領域702および共存領域703、第3撮像領域は、上記一部の背景領域701となる。
同様に、主要被写体領域702のうち共存領域703と接する一部の主要被写体領域702も、第1撮像領域と第2撮像領域とに挟まれた第3撮像領域としてもよい。この場合、第1撮像領域は、背景領域701および共存領域703、第2撮像領域は、主要被写体領域702(ただし、上記一部の主要被写体領域702を除く)、第3撮像領域は、上記一部の主要被写体領域702となる。
この場合の第3撮像領域は、共存領域703と隣接する。このため、第3撮像領域を構成する背景ブロック202または主要被写体ブロック202と、共存領域703を構成する不定ブロック202(マスク情報704の値が「0」のブロック202)との間で、撮像条件が異なることで画像の境界が生じる。設定部913は、第3撮像領域の撮像条件を時間方向に切り替えて設定することで、第1撮像領域および第2撮像領域と第3撮像領域との間で撮像条件が異なることで生じる画像の境界を目立たなくすることができる。
設定部913は、あるフレームについて第3撮像領域に第1撮像条件を設定した場合、後続のフレームについて第3撮像領域に第2撮像条件を設定する。具体的には、たとえば、設定部913は、先行フレーム設定処理と、後続フレーム設定処理と、を含む。先行フレーム設定処理とは、設定部913が、複数のフレームF1〜Fnのうち先行フレームFj(1≦j<n)について複数の撮像領域のうち第1被写体像および第2被写体像が存在する第3撮像領域に、第1撮像条件および第2撮像条件のうち一方の撮像条件に設定する処理である。後続フレーム設定処理とは、先行フレームFiの出力後の後続フレームFk(k>j)について他方の撮像条件に設定する処理である。
具体的には、たとえば、設定部913は、先行フレーム設定処理と、後続フレーム設定処理とを、規則的または不規則に切り替えて実行する。たとえば、設定部913は、先行フレーム設定処理において、先行フレームFjについて撮像面200を構成するブロック群のうち撮像面200を構成するブロック群のうち主要被写体像MIおよび背景の像が存在する不定ブロック202の第3撮像領域を、第1撮像条件および第2撮像条件のうちいずれか一方の撮像条件に設定する。
そして、設定部913は、後続フレーム設定処理において、第3撮像領域を、第1撮像条件および第2撮像条件のうち他方の撮像条件に設定する。したがって、先行フレーム設定処理で第3撮像領域が第1撮像条件に設定されると、後続フレーム設定処理で第3撮像領域が第2撮像条件に設定される。
第3設定において、先行フレーム設定処理と、後続フレーム設定処理とを、規則的に切り替えて実行する設定処理例として、所定フレーム数単位切替設定処理がある。所定フレーム数単位切替設定処理とは、所定フレーム数単位で先行フレーム設定処理と後続フレーム設定処理とを交互に切り替える設定処理である。
所定フレーム数が1フレームであれば、設定部913は、奇数番目のフレームF(2i−1)で先行フレーム設定処理を実行し、偶数番目のフレームF(2i)で後続フレーム設定処理を実行する。所定フレーム数が2フレームであれば、設定部913は、2フレームごとに、先行フレーム設定処理と、後続フレーム設定処理と、を切り替えて実行する。所定フレーム数単位切替設定処理の具体例については後述する。
また、第3設定には、先行フレーム設定処理と、後続フレーム設定処理とを、不規則に切り替えて実行する設定処理例として、前フレーム優先設定処理がある。前フレーム優先設定処理とは、あるフレームFiの不定ブロック202に撮像条件を設定する際、前フレームFi−1以前のフレームを参照する設定処理である。前フレーム優先設定処理の具体例については後述する。
なお、第3設定において、初回のフレームF1についての先行フレーム設定処理を実行する場合、設定部913は、以下のように、不定ブロック202の撮像条件を、背景ブロック202の輝度値と主要被写体ブロック202の輝度値に基づいて、第1撮像条件および第2撮像条件のうち一方の撮像条件に設定してもよい。
具体的には、たとえば、設定部913は、フレームF1について、不定ブロック202の撮像条件については、背景ブロック202の第1撮像条件および主要被写体ブロック202の第2撮像条件のうち、いずれか一方の撮像条件に設定する。たとえば、不定ブロック202に第2撮像条件を設定した場合に、不定ブロック202内の背景部分が白とびする場合、設定部913は、不定ブロック202の撮像条件を、背景ブロック202の第1撮像条件(短秒)に設定する。
また、不定ブロック202に第1撮像条件を設定した場合に、不定ブロック202内の主要被写体部分が黒つぶれする場合、設定部913は、不定ブロック202の撮像条件を、主要被写体ブロック202の第2撮像条件(長秒)に設定する。また、不定ブロック202に第1撮像条件および第2撮像条件のいずれを設定しても、不定ブロック内で、白飛びせず、黒つぶれもしない場合、主要被写体を優先するため、設定部913は、不定ブロック202の撮像条件を、主要被写体ブロック202の第2撮像条件(長秒)に設定する。
ここで、白とびする場合とは、不定ブロック202の輝度値が第1輝度値以上の場合である。第1輝度値とは、不定ブロック202を構成する画素群(光電変換部の集合)が飽和状態になる輝度値である。また、黒つぶれする場合とは、不定ブロック202の輝度値が第1輝度値よりも低い第2輝度値以下の場合である。第2輝度値とは、不定ブロック202を構成する画素群(光電変換部の集合)の輝度が不足する状態である。具体的には、輝度値が0の場合である。なお、第2輝度値は、0でなくてもよく、0よりも大きい値を第2輝度値を設定してもよい。
なお、すべての不定ブロック202の背景像部分が白とびする必要はない。たとえば、不定ブロック202のうち一部の不定ブロック202の背景像部分が白とびする場合に、設定部913は、不定ブロック202の撮像条件を、背景ブロック202の第1撮像条件(短秒)に設定してもよい。同様に、すべての不定ブロック202の主要被写体像MI部分が黒つぶれする必要はない。
たとえば、不定ブロック202のうち一部の不定ブロック202の主要被写体像MI部分が黒つぶれする場合に、設定部913は、不定ブロック202の撮像条件を、主要被写体ブロック202の第2撮像条件(長秒)に設定してもよい。このようにして、初回のフレームF1についての先行フレーム設定処理が実行される。
このあと、設定部913は、フレームFiごとに、設定結果となる設定情報を信号処理チップ111内の設定回路911に送信する。設定情報は、ブロック202を特定する座標値と、ブロック202ごとに設定された撮像条件を示す値と、を含む。撮像条件を示す値とは、たとえば、露光時間を示す番号である。
信号処理チップ111内の設定回路911は、設定情報を受信すると、設定情報にしたがって、ブロック202単位で電荷蓄積開始から終了までの電荷蓄積時間、すなわち、露光時間を設定する。これにより、撮像素子100は、設定情報にしたがって次フレームF(i+1)の画像データを生成することができる。
また、制御部502内の画像処理部912は、調整部921を有する。調整部921は、設定部913からの設定情報にしたがって、不定ブロック202から出力される画像データの信号レベルを増幅または減幅するように調整する(いわゆる、デジタルゲイン調整)。具体的には、たとえば、調整部921は、以下のようにゲイン調整する。
設定部913によって不定ブロック202の撮像条件が第1撮像条件(短秒)に設定された場合、不定ブロック202からの画像データのうち主要被写体に関する画像データが、第2撮像条件(長秒)が設定されている主要被写体ブロック202からの画像データに比べて暗くなる。
これにより、主要被写体領域内で、主要被写体ブロック202と不定ブロック202との境界部分が目立ってしまう。このため、画像処理部912は、領域判別により、不定ブロック202からの画像データのうち主要被写体に関する画像データを特定し、調整部921は、主要被写体に関する画像データの信号レベルが増幅するよう調整する。すなわち、調整部921は、主要被写体に関する画像データを構成する画素群の輝度値を一律に所定量増加させる。
また、設定部913によって不定ブロック202の撮像条件が第2撮像条件(長秒)に設定された場合、不定ブロック202からの画像データのうち背景に関する画像データが、第1撮像条件(短秒)が設定されている背景ブロック202からの画像データに比べて明るくなる。
これにより、背景領域内で、背景ブロック202と不定ブロック202との境界部分が目立ってしまう。このため、画像処理部912は、領域判別により、不定ブロック202からの画像データのうち背景に関する画像データを特定し、調整部921は、背景に関する画像データの信号レベルが減幅するよう調整する。すなわち、調整部921は、背景に関する画像データを構成する画素群の輝度値を一律に所定量減少させる。
算出部923は、第1設定、第2設定、および第3設定で設定された撮像条件で撮像素子100から出力された先行フレームFjの画像信号と、先行フレームFjの出力後の第1設定、第2設定、および第3設定で設定された撮像条件で撮像素子100から出力された後続フレームFkの画像信号と、に基づいて、重みを算出する。重みは、後続フレームFkの画像信号に対する先行フレームFjの画像信号の信頼度を示す。
除去部924は、先行フレームFjの画像信号と、後続フレームFkの画像信号と、算出部923によって算出された重みと、に基づいて、前記後続フレームの画像信号のノイズを低減する。算出部923および除去部924は、いわゆる3DNR(3次元ノイズリダクション)を実現するための機能である。算出部923および除去部924の詳細は、図15で後述する。
また、画像処理部912内の生成部922は、上述した動画ファイル600を生成する。生成部922は、たとえば、録音ボタンの押下により撮像素子100から時系列なフレームF1〜Fnを取得し、動画ファイル600を生成する。動画ファイル600では、フレームFiごとに、背景領域701と背景領域701からの画像データと第1撮像条件(短秒)とが関連付けられる。
また、動画ファイル600では、フレームFiごとに、主要被写体領域702と主要被写体領域702からの画像データと第2撮像条件(長秒)とが関連付けられる。また、動画ファイル600では、フレームFiごとに、共存領域703と共存領域703からの画像データと不定ブロック202の撮像条件とが関連付けられる。
具体的には、たとえば、ブロック202ごとの被写体の種類は、マスク情報704に記録される。また、ブロック202ごとに設定された撮像条件は、上述したTv値マップ812に記録される。また、ブロック202ごとの輝度値は、上述したBv値マップ814に記録される。
画像処理部912は、スルー画を逐次表示する場合または録画開始ボタンが押下された場合には、間引き処理された一連の画像データを表示部に出力して、表示部901にスルー画を逐次表示させる。録画開始ボタンが押下された場合には、生成部922は、生成した動画ファイル600を記録部902に記録する。
<不定ブロック202の撮像条件の設定および調整例>
図10は、撮像条件の第3設定による設定例1を示す説明図である。図10では、一例として、第1撮像領域を背景領域701とし、第2撮像領域を主要被写体領域702とし、撮像領域を共存領域703とする(後述の図12〜図14でも同様)。
図10は、撮像条件の第3設定による設定例1を示す説明図である。図10では、一例として、第1撮像領域を背景領域701とし、第2撮像領域を主要被写体領域702とし、撮像領域を共存領域703とする(後述の図12〜図14でも同様)。
図10において、(A)は先行フレーム設定処理での撮像面200を示し、(B)は後続フレーム設定処理での撮像面200を示す。また、主要被写体像MIを中央の女性とし、背景像BIを主要被写体像MI以外とする。ここでは、逆光で被写体を撮像する例とする。
また、細線の格子は、ブロック202であり、特に、背景像BIのみの背景ブロック202の集合が背景領域701であり、第1撮像条件(短秒)が設定される。主要被写体像MIのみの主要被写体ブロック202の集合が主要被写体領域702であり、第2撮像条件(長秒)が設定される。太線と太点線とで囲まれた主要被写体像MIおよび背景像BIが存在する不定ブロック202の集合が共存領域703であり、設定部913により撮像条件が設定され、調整部921によりゲイン調整される。
(A)は、先行フレーム設定処理において、不定ブロック202を背景像BIと同じ第1撮像条件(短秒)に設定する例である。この場合、共存領域703も短秒となるため、共存領域703内の主要被写体像MI部分の輝度値が主要被写体領域702よりも低くなる。これにより、主要被写体領域702内で、主要被写体ブロック202と不定ブロック202との境界部分が目立ってしまう。そのため、調整部921は、共存領域703内の各不定ブロック202について主要被写体像MI部分の輝度値をゲインアップする。
(B)は、先行フレーム設定処理から後続フレーム設定処理に切り替わった場合に、不定ブロック202を主要被写体像MIと同じ第2撮像条件(長秒)に設定する例である。この場合、共存領域703も長秒となるため、共存領域703内の背景像BI部分の輝度値が背景領域701よりも高くなる。これにより、背景領域701内で、背景ブロック202と不定ブロック202との境界部分が目立ってしまう。そのため、調整部921は、共存領域703内の各不定ブロック202について背景像BI部分の輝度値をゲインダウンする。
たとえば、図10において、動画再生時には時間経過にしたがって、所定のフレーム単位ごとに、(A)と(B)の間で交互に切り替えが実行される。これにより、撮像条件間の境界が切り替わるため、(A)の同一撮像条件となる共存領域703と背景領域701との境界(太点線)と、(B)の同一撮像条件となる共存領域703と主要被写体領域702との境界(太点線)とを目立たなくすることができる。
<所定フレーム数単位切替設定処理>
図11は、所定フレーム数単位切替設定処理例を示す説明図であり、図12は、所定フレーム数単位切替設定処理の適用例を示す説明図である。
図11は、所定フレーム数単位切替設定処理例を示す説明図であり、図12は、所定フレーム数単位切替設定処理の適用例を示す説明図である。
所定フレーム数単位切替設定処理では、共存領域703を構成する不定ブロック202の撮像条件は、たとえば、短秒から始まり、所定のフレーム数単位で、長秒、短秒、長秒、…というように切り替わる。図11および図12では、切替えを行う所定フレーム数を「1」として説明するが、所定フレーム数は2以上でもよい。
たとえば、所定フレーム数が「1」であれば、撮像素子100が奇数番目のフレームF(2i−1)を出力する場合、不定ブロック202の撮像条件は短秒となり、撮像素子100が偶数番目のフレームF(2i)を出力する場合、不定ブロック202の撮像条件は長秒となる。
また、所定フレーム数が「2」であれば、撮像素子100がフレームF1、F2、F5、F6、F9、F10、…を出力する場合、不定ブロック202の撮像条件は短秒となり、撮像素子100がフレームF3、F4、F7、F8、F11、F12、…を出力する場合、不定ブロック202の撮像条件は長秒となる。
図11および図12において、(A)は、奇数番目の先行フレームF(2i−1)の出力元となった撮像面200を構成するブロック202、(B)は、先行フレームF(2i−1)により設定された不定ブロック202の撮像条件が適用された偶数番目の後続フレームF(2i)の出力元となる撮像面200を構成するブロック202、(C)は、撮像条件が再設定された後続フレームF(2i)の出力元となる撮像面200を構成するブロック202を示す(後述の図13および図14でも同様)。
図12において、主要被写体像MIを走行するスケート選手とし、主要被写体像MI以外を背景像BIとする。(A)のブロック202の集合である撮像面200からの出力が先行フレームF(2i−1)となり、(C)のブロック202の集合である撮像面200からの出力が先行フレームF(2i)となる(後述の図14でも同様)。
まず、(A)において、背景ブロック202および不定ブロック202の撮像条件が第1撮像条件(短秒)に設定された場合について説明する。(B)において、(A)で設定された第1撮像条件(短秒)は、後続フレームF(2i)の出力元となる背景ブロック202、主要被写体ブロック202、および不定ブロック202に適用される。
(B)において、背景ブロック202に第1撮像条件(短秒)が適用された場合、(C)において、背景ブロック202では、第1撮像条件(短秒)が維持される。
(B)において、主要被写体ブロック202に第1撮像条件(短秒)が適用された場合、(C)において、当該主要被写体ブロック202では、第1撮像条件(短秒)から第2撮像条件(長秒)に設定変更される。
(B)において、不定ブロック202に第1撮像条件(短秒)が適用された場合、(C)において、当該不定ブロック202では、所定フレーム数単位切替設定処理により、第1撮像条件(短秒)から第2撮像条件(長秒)に設定変更される。
つぎに、(A)において、主要被写体ブロック202および不定ブロック202の撮像条件が第2撮像条件(長秒)に設定された場合について説明する。(B)において、(A)で設定された第2撮像条件(長秒)は、後続フレームF(2i)の出力元となる背景ブロック202、主要被写体ブロック202、および不定ブロック202に適用される。
(B)において、背景ブロック202に第2撮像条件(長秒)が適用された場合、(C)において、当該背景ブロック202では、第2撮像条件(長秒)から第1撮像条件(短秒)に設定変更される。
(B)において、主要被写体ブロック202に第2撮像条件(長秒)が適用された場合、(C)において、当該主要被写体ブロック202では、第2撮像条件(長秒)が維持される。
(B)において、不定ブロック202に第2撮像条件(長秒)が適用された場合、(C)において、当該不定ブロック202は、先行フレームF(2i−1)では(A)に示したように主要被写体ブロック202であるため、所定フレーム数単位切替設定処理が実行されず、第2撮像条件(長秒)が維持される。
<前フレーム優先設定処理>
図13は、前フレーム優先設定処理例を示す説明図であり、図14は、前フレーム優先設定処理の適用例を示す説明図である。まず、(A)において、背景ブロック202および不定ブロック202の撮像条件が第1撮像条件(短秒)に設定された場合について説明する。(B)において、(A)で設定された第1撮像条件(短秒)は、後続フレームF(2i)の出力元となる背景ブロック202、主要被写体ブロック202、および不定ブロック202に適用される。
図13は、前フレーム優先設定処理例を示す説明図であり、図14は、前フレーム優先設定処理の適用例を示す説明図である。まず、(A)において、背景ブロック202および不定ブロック202の撮像条件が第1撮像条件(短秒)に設定された場合について説明する。(B)において、(A)で設定された第1撮像条件(短秒)は、後続フレームF(2i)の出力元となる背景ブロック202、主要被写体ブロック202、および不定ブロック202に適用される。
(B)において、背景ブロック202に第1撮像条件(短秒)が適用された場合、(C)において、背景ブロック202では、第1撮像条件(短秒)が維持される。
(B)において、主要被写体ブロック202に第1撮像条件(短秒)が適用された場合、(C)において、当該主要被写体ブロック202では、第1撮像条件(短秒)から第2撮像条件(長秒)に設定変更される。
(B)において、不定ブロック202に第1撮像条件(短秒)が適用された場合、(C)において、当該不定ブロック202では、前フレーム優先設定処理により、第1撮像条件(短秒)から第2撮像条件(長秒)に設定変更される。
つぎに、(A)において、主要被写体ブロック202および不定ブロック202の撮像条件が第2撮像条件(長秒)に設定された場合について説明する。(B)において、(A)で設定された第2撮像条件(長秒)は、後続フレームF(2i)の出力元となる背景ブロック202、主要被写体ブロック202、および不定ブロック202に適用される。
(B)において、背景ブロック202に第2撮像条件(長秒)が適用された場合、(C)において、当該背景ブロック202では、第2撮像条件(長秒)から第1撮像条件(短秒)に設定変更される。
(B)において、主要被写体ブロック202に第2撮像条件(長秒)が適用された場合、(C)において、当該主要被写体ブロック202では、第2撮像条件(長秒)が維持される。
(B)において、不定ブロック202に第2撮像条件(長秒)が適用された場合、(C)において、当該不定ブロック202は、前フレーム優先設定処理により、第2撮像条件(長秒)から第1撮像条件(短秒)に設定変更される。
このように、第3設定では、不定ブロック202が時間方向に連続するとその撮像条件も変化する。これにより、第1撮像条件のブロック202と第2撮像条件のブロック202との間に発生する境界線が経時的に固定されないため、動作再生時に境界線を目立たなくすることができる。
また、所定フレーム数単位切替設定処理では、不定ブロック202が時間方向に連続するとその撮像条件が規則的に変化する。これにより、前フレーム(時刻t(i−1)のフレームF(i−1))の出力元となる不定ブロック202の撮像条件に依存せず、フレームFiの順序で強制的に不定ブロック202の撮像条件を切り替える。したがって、第1撮像条件のブロック202と第2撮像条件のブロック202との間に発生する境界線が経時的に固定されないため、動作再生時に境界線を簡単に目立たなくすることができる。
また、前フレーム優先設定処理では、不定ブロック202が時間方向に連続するとその撮像条件が不規則に変化する。具体的には、時刻t(i−1)のブロック202(背景ブロック202、主要被写体ブロック202、不定ブロック202を問わない)が第1撮像条件(短秒)であれば、当該ブロック202と同位置の時刻tiの不定ブロック202についての撮像条件は第2撮像条件(長秒)に設定され、第2撮像条件(長秒)であれば、第1撮像条件(短秒)に設定される。
これにより、不定ブロック202の時間方向における追従性能が向上する。したがって、第1撮像条件のブロック202と第2撮像条件のブロック202との間に発生する境界線が経時的に固定されないため、動作再生時に境界線をより効率的に目立たなくすることができる。
<不定ブロック202の撮像条件の設定および調整の他の例>
図15は、不定ブロック202の撮像条件の設定例2を示す説明図である。図15では、一例として、背景領域701のうち共存領域703と接する一部の背景領域701(太線と太点線で囲まれたブロック群1500)を、第1撮像領域と第2撮像領域とに挟まれた第3撮像領域とした場合の第3撮像領域の撮像条件の設定例である。この場合においても、図11および図12に示したように、所定フレーム数単位切替設定処理が実行され、図13および図14に示したように、前フレーム優先設定処理が実行される。
図15は、不定ブロック202の撮像条件の設定例2を示す説明図である。図15では、一例として、背景領域701のうち共存領域703と接する一部の背景領域701(太線と太点線で囲まれたブロック群1500)を、第1撮像領域と第2撮像領域とに挟まれた第3撮像領域とした場合の第3撮像領域の撮像条件の設定例である。この場合においても、図11および図12に示したように、所定フレーム数単位切替設定処理が実行され、図13および図14に示したように、前フレーム優先設定処理が実行される。
ただし、図11および図13で示した凡例において、背景ブロック202は、背景領域701を構成するブロック(ただし、ブロック群1500を除く)となり、主要被写体ブロック202は、主要被写体領域702および共存領域703を構成するブロックとなり、不定ブロック202は、ブロック群1500の各ブロックとなる。
たとえば、図15において、動画再生時には時間経過にしたがって、所定のフレーム単位ごとに、(A)と(B)の間で交互に切り替えが実行される。これにより、撮像条件間の境界が切り替わるため、(A)の同一撮像条件となる背景領域701の境界(太点線)と、(B)の同一撮像条件となる共存領域703と背景領域701との境界(太点線)とを目立たなくすることができる。
<再帰的ノイズ除去処理例>
図16は、算出部923および除去部924による再帰的ノイズ除去処理例を示す説明図である。図16では、電子機器500は、撮像方向を固定しており、被写体像が左から右に移動する動画像データを撮像する場合を例に挙げて説明する。
図16は、算出部923および除去部924による再帰的ノイズ除去処理例を示す説明図である。図16では、電子機器500は、撮像方向を固定しており、被写体像が左から右に移動する動画像データを撮像する場合を例に挙げて説明する。
まず、図16の中央点線の左側について説明する。電子機器500は、現在画像データを取得して読み込み(ステップS1601)、過去画像データを記録部902から読み込む(ステップS1602)。ここで、現在画像データとは、時刻t−1の後続画像データI(t−1)であり、過去画像データとは、時刻(t−1)以前の時刻(t−2)の先行画像データからノイズ除去されたノイズ除去画像データ、すなわちIoldである。Ioldには、被写体画像OB(t−2)が存在するものとする。
電子機器500は、算出部923により、過去画像データIoldと現在画像データI(t−1)とを式(1)に与えて、重みW(t−1)を計算する(ステップS1603)。
関数fx,yは、領域(x,y)の重みwの算出を意味する。xは先行画像データIoldの領域の列方向における位置を示し、yは行方向の位置を示す。また,関数φx,yは領域(x,y)を中心とした近傍領域の部分画像データを取得する関数である。また,||・||はL2ノルムを意味する。また,σは、重みの算出結果を調整するパラメータである。σは上記式(1)の分子の値である画像の差に対する感度を調整するためパラメータであり、σの値を大きくすると画像の差が大きくても重みが大きく算出されることになる。
過去画像データIoldと現在画像データI(t−1)とにおいて、同一領域の画像が類似するほど、重みは大きくなり、類似しなくなるほど、小さくなる。したがって、過去画像データIoldと現在画像データI(t−1)とにおいて、被写体画像OB(t−2),OB(t−1)がいずれも存在しない領域は、ほぼ同じ画像となり、当該領域の重みw(t−1)は、たとえば、最大値の1.0となる。
一方、過去画像データIoldと現在画像データI(t−1)とにおいて、被写体画像OB(t−2),OB(t−1)のいずれか一方が存在する領域は、異なる画像となり、当該領域の重みw(t−1)は低くなる。ここでは、例として、当該領域の重みw(t−1)を0.0とする。なお、被写体画像OB(t−2),OB(t−1)の境界部分の領域については、被写体画像OB(t−2),OB(t−1)のいずれか一方が存在する領域よりも類似している。ここでは、例として、当該領域の重みw(t−1)を0.5とする。
電子機器500は、除去部924により、過去画像データIoldと現在画像データI(t−1)と重みW(t−1)とを式(2)に与えて、現在画像データI(t−1)からノイズを除去し(ステップS1604)、ノイズ除去画像データIout(t−1)を出力する(ステップS1605)。
出力されたノイズ除去画像データIout(t−1)は、表示部901に表示される。ノイズ除去画像データIout(t−1)は、現在画像データI(t−1)と同じ位置に被写体OB(t−1)が存在し、過去画像データIoldの被写体OB(t−2)と同じ位置に残像A(t−2)が存在する。残像A(t−2)は、主に、被写体OB(t−2)の輪郭が際立った画像データとなる。また、電子機器500は、ノイズ除去画像データIout(t−1)を記録部902に出力し、過去画像データIoldを更新する(ステップS1606)。
つぎに、図16の中央点線の右側について説明する。電子機器500は、時刻tの現在画像データI(t)を取得して読み込み(ステップS1601)、過去画像データIoldを記録部902から読み込む(ステップS1602)。ここで、過去画像データIoldは、ステップS1606で得られたノイズ除去画像データIout(t−1)である。
電子機器500は、算出部923により、過去画像データIoldと現在画像データI(t)とを上記式(1)に与えて、重みW(t)を計算する(ステップS1603)。過去画像データIoldと現在画像データI(t)とにおいて、同一領域の画像が類似するほど、重みは大きくなり、類似しなくなるほど、小さくなる。したがって、過去画像データIoldと現在画像データI(t)とにおいて、被写体画像OB(t−1),OB(t)がいずれも存在しない領域は、ほぼ同じ画像となり、当該領域の重みw(t)は、たとえば、最大値の1.0となる。
一方、過去画像データIoldと現在画像データI(t)とにおいて、被写体画像OB(t−1),OB(t)のいずれか一方が存在する領域は、異なる画像となり、当該領域の重みw(t)は低くなる。ここでは、例として、当該領域の重みw(t)を0.0とする。なお、被写体OB(t−1),OB(t)の境界部分の領域については、被写体画像OB(t−1),OB(t)のいずれか一方が存在する領域よりも類似している。ここでは、例として、当該領域の重みw(t)を0.5とする。また、過去画像データIold(ノイズ除去画像データIout(t−1))において、残像A(t−2)が存在する領域の重みを0.75とする。
電子機器500は、除去部924により、過去画像データIoldと現在画像データI(t)と重みW(t−1)とを上記式(2)に与えて、現在画像データI(t)からノイズを除去し(ステップS1604)、ノイズ除去画像データIout(t)を出力する(ステップS1605)。出力されたノイズ除去画像データIout(t)は、表示部901に表示される。ノイズ除去画像データIout(t)は、現在画像データI(t)と同じ位置に被写体画像OB(t)が存在し、過去画像データIoldの被写体画像OB(t−1)と同じ位置に残像A(t−1)が存在し、さらに、被写体画像OB(t−2)と同じ位置に残像A(t−2)が存在する。また、電子機器500は、ノイズ除去画像データIout(t)を記録部902に出力し、過去画像データIoldを更新する(ステップS1606)。
このように、過去画像データIoldと現在画像データI(t−1),I(t)との間で変換のない領域では過去画像データIoldを参照するための重みW(t−1),W(t)が大きくなるため、結果的に使用メモリを削減しつつノイズ除去率を増加させることができる。このように、算出部923および除去部924を用いることにより、時間方向にノイズを除去しながら、撮像条件が異なる画像の境界を目立たなくすることができる。また、調整部921の増幅によって生じたノイズも除去することができる。
<設定処理手順例>
図17は、電子機器500における撮像条件の設定処理手順例を示すフローチャートである。電子機器500は、ユーザの操作入力により初期設定を実行する(ステップS1701)。初期設定(ステップS1701)では、撮像条件、所定フレーム数単位切替および所定フレーム数、前フレーム優先について設定される。つぎに、電子機器500は、撮像素子100からのスルー画の取得または動画撮影を開始する(ステップS1702)。
図17は、電子機器500における撮像条件の設定処理手順例を示すフローチャートである。電子機器500は、ユーザの操作入力により初期設定を実行する(ステップS1701)。初期設定(ステップS1701)では、撮像条件、所定フレーム数単位切替および所定フレーム数、前フレーム優先について設定される。つぎに、電子機器500は、撮像素子100からのスルー画の取得または動画撮影を開始する(ステップS1702)。
電子機器500は、画像処理部912により、取得したスルー画または動画像の画像データであるフレームFiについて画像解析を実行する(ステップS1703)。具体的には、たとえば、画像処理部912は、被写体検出により、主要被写体と背景とを検出し、領域判別により、各ブロック202の領域種別(背景領域701、主要被写体領域702、共存領域703)を判別する。
つぎに、電子機器500は、初期設定(ステップS1701)により、所定フレーム数単位切替または前フレーム優先の設定がされているか否かを判断する(ステップS1704)。所定フレーム数単位切替または前フレーム優先の設定がされていない場合(ステップS1704:No)、主要被写体優先モードとなるため、電子機器500は、設定部913により、主要被写体優先設定処理を実行し(ステップS1705)、ステップS1710に移行する。
主要被写体優先設定処理(ステップS1705)とは、図10の(B)に示したように、設定部913により、不定ブロック202の撮像条件を主要被写体像MIと同じ第2撮像条件(長秒)に設定する処理である。この場合、図10(B)に示したように、共存領域703も長秒となるため、共存領域703内の背景像BI部分の輝度値が背景領域701よりも高くなる。
これにより、背景領域701内で、背景ブロック202と不定ブロック202との境界部分が目立ってしまう。そのため、電子機器500は、調整部921により、ゲイン調整処理(ステップS1710)において、共存領域703内の各不定ブロック202について背景像BI部分の輝度値をゲインダウンする。
ステップS1704において、所定フレーム数単位切替または前フレーム優先の設定がされている場合(ステップS1704:Yes)、電子機器500は、手ブレまたは被写体検出ブレの検出フラグがONであるかOFFであるかを判断する(ステップS1706)。
検出フラグがONの場合(ステップS1706:ON)、手ブレまたは被写体検出ブレが検出中であることを示し、主要被写体優先設定処理(ステップS1705)に移行する。検出フラグがOFFの場合(ステップS1706:OFF)、手ブレまたは被写体検出ブレが検出されていないことを示し、ステップS1707に移行する。
ステップS1707において、電子機器500は、初期設定(ステップS1701)において所定フレーム数単位切替および前フレーム優先のいずれが選択されたかを判断する(ステップS1707)。所定フレーム数単位切替が選択された場合(ステップS1707:所定フレーム数単位切替)、電子機器500は、所定フレーム数単位切替設定処理を実行して(ステップS1708)、ゲイン調整処理(ステップS1710)に移行する。図11および図12に示したように所定フレーム数単位切替設定処理(ステップS1708)の詳細については、図18で後述する。
一方、前フレーム優先が選択された場合(ステップS1707:複雑さ)、電子機器500は、前フレーム優先設定処理を実行して(ステップS1709)、ゲイン調整処理(ステップS1710)に移行する。図13および図14に示したように前フレーム優先設定処理(ステップS1709)の詳細については、図19で後述する。
ステップS1710において、電子機器500は、調整部921によりゲイン調整処理を実行する(ステップS1710)。たとえば、調整部921は、不定ブロック202の撮像条件が背景ブロック202の第1撮像条件(短秒)に設定された場合、不定ブロック202内の主要被写体像MI部分からの画像データをゲインアップする。また、不定ブロック202の撮像条件が主要被写体ブロック202の第2撮像条件(長秒)に設定された場合、不定ブロック202内の背景像BI部分からの画像データをゲインダウンする。
このあと、電子機器500は、手ブレまたは被写体ブレを検出する(ステップS1711)。手ブレまたは被写体ブレが検出された場合(ステップS1711:Yes)、検出部ラグをONに設定して(ステップS1712)、ステップS1714に移行する。一方、手ブレまたは被写体ブレが検出されていない場合(ステップS1711:No)、検出フラグをOFFに設定して、ステップS1714に移行する。
電子機器500は、スルー画取得および動画撮影が終了するか否かを判断し(ステップS1711)、スルー画取得および動画撮影を終了しない場合(ステップS1714:No)、ステップS1703に戻る。したがって、たとえば、動画撮影が終了してもスルー画取得を継続する場合は、ステップS1703に戻る。
一方、スルー画取得および動画撮影を終了する場合(ステップS1714:Yes)、電子機器500は、撮像条件の設定処理を終了する。なお、動作撮影中の場合、動画撮影が終了する場合(ステップS1714:Yes)、生成部922が動画ファイル600を生成して記録部902に記録する。これにより、設定部913によってどのような撮像条件が設定されたか、設定された撮像条件によりどのような画像データとなったかを特定することができる。
<所定フレーム数単位切替設定処理(ステップS1708)>
図18は、図17に示した所定フレーム数単位切替設定処理(ステップS1708)の詳細な処理手順例を示すフローチャートである。電子機器500は、設定部913により、初期設定(ステップS1701)で設定された所定フレーム数と現フレームFiのフレーム番号iとに基づいて現フレームFiに適用される撮像条件を特定する(ステップS1801)。たとえば、所定フレーム数が1で、フレーム番号iがi=1であれば、撮像条件は、短秒となる。また、所定フレーム数が2で、フレーム番号iがi=4であれば、撮像条件は、長秒となる。
図18は、図17に示した所定フレーム数単位切替設定処理(ステップS1708)の詳細な処理手順例を示すフローチャートである。電子機器500は、設定部913により、初期設定(ステップS1701)で設定された所定フレーム数と現フレームFiのフレーム番号iとに基づいて現フレームFiに適用される撮像条件を特定する(ステップS1801)。たとえば、所定フレーム数が1で、フレーム番号iがi=1であれば、撮像条件は、短秒となる。また、所定フレーム数が2で、フレーム番号iがi=4であれば、撮像条件は、長秒となる。
電子機器500は、設定部913により、現フレームFiについて未選択ブロックがあるか否かを判断する(ステップS1802)。未選択ブロックがある場合(ステップS1802:Yes)、電子機器500は、設定部913により、未選択ブロックを1つ選択して(ステップS1803)、現フレームFiに基づいて選択ブロックの被写体を特定する(ステップS1804)。
選択ブロック202の被写体が背景のみである場合(ステップS1804:背景のみ)、選択ブロック202は背景ブロック202となる。したがって、電子機器500は、設定部913により、選択ブロック202の撮像条件を背景像BIの第1撮像条件(短秒)に設定して(ステップS1805)、ステップS1802に戻る。
また、選択ブロック202の被写体が主要被写体のみである場合(ステップS1804:主要のみ)、選択ブロック202は主要被写体ブロック202となる。したがって、電子機器500は、設定部913により、選択ブロック202の撮像条件を主要被写体像MIの第2撮像条件(長秒)に設定して(ステップS1806)、ステップS1802に戻る。
また、選択ブロック202の被写体が背景および主要被写体を含む場合(ステップS1804:混在)、選択ブロック202は不定ブロック202となる。したがって、電子機器500は、設定部913により、選択ブロック202の撮像条件を、ステップS1801で特定された撮像条件に設定して(ステップS1806)、ステップS1802に戻る。
ステップS1802において、未選択ブロックがない場合(ステップS1802:No)、電子機器500は、所定フレーム数単位切替設定処理(ステップS1708)を終了し、ゲイン調整処理(ステップS1710)に移行する。
<前フレーム優先設定処理(ステップS1709)>
図19は、図17に示した前フレーム優先設定処理(ステップS1709)の詳細な処理手順例を示すフローチャートである。電子機器500は、設定部913により、現フレームFiについて未選択ブロックがあるか否かを判断する(ステップS1901)。未選択ブロックがある場合(ステップS1901:Yes)、電子機器500は、設定部913により、未選択ブロックを1つ選択する(ステップS1901)。そして、電子機器500は、設定部913により、選択ブロック202と同位置となる前フレームF(i−1)のブロック202の撮像条件を特定する(ステップS1903)。
図19は、図17に示した前フレーム優先設定処理(ステップS1709)の詳細な処理手順例を示すフローチャートである。電子機器500は、設定部913により、現フレームFiについて未選択ブロックがあるか否かを判断する(ステップS1901)。未選択ブロックがある場合(ステップS1901:Yes)、電子機器500は、設定部913により、未選択ブロックを1つ選択する(ステップS1901)。そして、電子機器500は、設定部913により、選択ブロック202と同位置となる前フレームF(i−1)のブロック202の撮像条件を特定する(ステップS1903)。
選択ブロック202と同位置となる前フレームF(i−1)のブロック202の撮像条件が長秒である場合(ステップS1903:L)、電子機器500は、設定部913により、現フレームFiに基づいて選択ブロック202の被写体を特定する(ステップS1904)。
選択ブロック202の被写体が背景のみである場合(ステップS1904:背景のみ)、選択ブロック202は背景ブロック202となる。したがって、電子機器500は、設定部913により、選択ブロック202の撮像条件を背景像BIの第1撮像条件(短秒)に設定して(ステップS1905)、ステップS1901に戻る。
また、選択ブロック202の被写体が主要被写体のみである場合(ステップS1904:主要のみ)、選択ブロック202は主要被写体ブロック202となる。したがって、電子機器500は、設定部913により、選択ブロック202の撮像条件を主要被写体像MIの第2撮像条件(長秒)に設定して(ステップS1906)、ステップS1901に戻る。
また、選択ブロック202の被写体が背景および主要被写体を含む場合(ステップS1904:混在)、選択ブロック202は不定ブロック202となる。したがって、電子機器500は、設定部913により、選択ブロック202の撮像条件を、選択ブロック202と同位置となる前フレームF(i−1)のブロック202の撮像条件(長秒)とは異なる撮像条件(短秒)に設定し(ステップS1907)、ステップS1901に戻る。
また、ステップS1903において、選択ブロック202と同位置となる前フレームF(i−1)のブロック202の撮像条件が短秒である場合(ステップS1903:S)、電子機器500は、設定部913により、現フレームFiに基づいて選択ブロック202の被写体を特定する(ステップS1908)。
選択ブロック202の被写体が背景のみである場合(ステップS1908:背景のみ)、選択ブロック202は背景ブロック202となる。したがって、電子機器500は、設定部913により、選択ブロック202の撮像条件を背景像BIの第1撮像条件(短秒)に設定して(ステップS1909)、ステップS1901に戻る。
また、選択ブロック202の被写体が主要被写体のみである場合(ステップS1908:主要のみ)、選択ブロック202は主要被写体ブロック202となる。したがって、電子機器500は、設定部913により、選択ブロック202の撮像条件を主要被写体像MIの第2撮像条件(長秒)に設定して(ステップS1910)、ステップS1901に戻る。
また、選択ブロック202の被写体が背景および主要被写体を含む場合(ステップS1908:混在)、選択ブロック202は不定ブロック202となる。したがって、電子機器500は、設定部913により、選択ブロック202の撮像条件を、選択ブロック202と同位置となる前フレームF(i−1)のブロック202の撮像条件(短秒)とは異なる撮像条件(長秒)に設定し(ステップS1907)、ステップS1901に戻る。
ステップS1901において、未選択ブロックがない場合(ステップS1901:No)、電子機器500は、前フレーム優先設定処理(ステップS1709)を終了し、ゲイン調整処理(ステップS1710)に移行する。
このように、本実施例によれば、第1撮像条件の撮像領域と第2撮像条件の撮像領域との境界が時間経過にしたがって切り替わる。したがって、異なる撮像条件の撮像領域間における画像の境界を目立たなくすることができる。
また、第3撮像領域の撮像条件が時間経過にしたがって第1撮像条件または第2撮像条件に切り替わる。したがって、第3撮像領域と第1撮像領域との間の画像の境界および第3撮像領域と第2撮像領域との間の画像の境界を目立たなくすることができる。
また、第3撮像領域の撮像条件が時間経過にしたがって、第1撮像条件から第1撮像条件および第2撮像条件に、第2撮像条件から第1撮像条件および第2撮像条件に、第1撮像条件および第2撮像条件から第1撮像条件に、第1撮像条件および第2撮像条件から第2撮像条件に、切り替わる。したがって、第3撮像領域と第1撮像領域との間の画像の境界および第3撮像領域と第2撮像領域との間の画像の境界を目立たなくすることができる。
また、撮像領域に存在する被写体像の変更に応じて撮像条件が切り替わる。したがって、第3撮像領域と第1撮像領域との間の画像の境界および第3撮像領域と第2撮像領域との間の画像の境界を目立たなくすることができる。
また、設定部913は、時間的に前のフレームでの撮像条件を優先して切り替えることができるため、切替頻度が向上し、第1撮像条件の撮像領域と第2撮像条件の撮像領域との間の画像の境界をより目立たなくすることができる。
また、設定部913は、第3設定において、撮像素子100から出力される所定数の画像データ単位で、第3撮像領域に、第1撮像条件と第2撮像条件を繰り返して設定するため、第3撮像領域の撮像条件を簡易かつ強制的に切り替えることができる。
また、調整部921は、第1撮像領域から第2撮像領域にかけて不定ブロック202の撮像条件を段階的に変化させた場合に、第3撮像領域を適切な明るさに調整することができる。したがって、違和感のない被写体画像を表示することができる。
また、調整部921は、不定ブロック202の撮像条件が第1撮像条件寄りであっても、第3撮像領域内の第2被写体像の存在領域からの画像データを明るくすることができる。
また、調整部921は、不定ブロック202の撮像条件が第2撮像条件寄りであっても、第3撮像領域内の第1被写体像の存在領域からの画像データの明るさを抑制することができる。
また、生成部922により、設定部913によってどのような撮像条件が設定されたか、設定された撮像条件によりどのような画像データとなったかを特定することができる。
また、算出部923と除去部924とにより、時間方向にノイズを除去しながら、撮像条件が異なる画像の境界を目立たなくすることができる。また、調整部921の増幅によって生じたノイズも除去することができる。
なお、本発明は上記の内容に限定されるものではなく、これらを任意に組み合わせたものであっても良い。また、本発明の技術的思想の範囲で考えられるその他の態様も本発明の範囲に含まれる。
100 撮像素子、111 信号処理チップ、112 メモリチップ、113 撮像チップ、200 撮像面、202 ブロック、500 電子機器、501 撮像光学系、502 制御部、600 動画ファイル、901 表示部、902 記録部、911 設定回路、912 画像処理部、913 設定部、921 調整部、922 生成部、923 算出部、924 除去部
Claims (13)
- 被写体を撮像する複数の撮像領域の各々について異なる撮像条件が設定可能な撮像素子と、
動画撮影時に、前記複数の撮像領域のうち第1撮像領域に第1撮像条件を設定する第1設定と、前記複数の撮像領域のうち前記第1撮像領域と異なる第2撮像領域に第2撮像条件を設定する第2設定と、前記複数の撮像領域のうち前記第1撮像領域および前記第2撮像領域に挟まれた第3撮像領域に、前記第1撮像条件と前記第2撮像条件を繰り返して設定する第3設定と、を実行する設定部と、
を有する電子機器。 - 請求項1に記載の電子機器であって、
前記第1撮像領域は第1被写体像が存在する前記撮像領域であり、前記第2撮像領域は第2被写体像が存在する前記撮像領域であり、前記第3撮像領域は、前記第1被写体像および前記第2被写体像が存在する前記撮像領域である、電子機器。 - 請求項1に記載の電子機器であって、
前記第1撮像領域は第1被写体像が存在する前記撮像領域であり、前記第2撮像領域は第2被写体像が存在する前記撮像領域であり、前記第3撮像領域は前記第1被写体像および前記第2被写体像の少なくとも一方が存在する前記撮像領域である、電子機器。 - 請求項1に記載の電子機器であって、
前記設定部は、前記第1撮像領域である前記撮像領域が前記第3撮像領域となった場合、前記第3設定において、当該撮像領域の撮像条件を前記第1撮像条件から前記第2撮像条件へ切り替える、電子機器。 - 請求項1に記載の電子機器であって、
前記設定部は、前記第2撮像領域である前記撮像領域が前記第3撮像領域となった場合、前記第3設定において、当該撮像領域の撮像条件を前記第2撮像条件から前記第1撮像条件へ切り替える、電子機器。 - 請求項1から5のいずれか一項に記載の電子機器であって、
前記設定部は、前記第3設定において、前回以前の前記第3設定による設定結果に基づいて、前記第3撮像領域に、前記第1撮像条件と前記第2撮像条件を繰り返して設定する、電子機器。 - 請求項1から5のいずれか一項に記載の電子機器であって、
前記設定部は、前記第3設定において、前記撮像素子から出力される所定数の画像データ単位で、前記第3撮像領域に、前記第1撮像条件と前記第2撮像条件を繰り返して設定する、電子機器。 - 請求項1に記載の電子機器であって、
前記第3設定で設定された撮像条件に基づいて、前記第3撮像領域内の第1被写体像または第2被写体像が存在する存在領域からの画像データの信号レベルを増減幅するように調整する調整部を有する、電子機器。 - 請求項8に記載の電子機器であって、
前記調整部は、前記第3設定で設定された撮像条件が前記第2撮像条件である場合、前記第3撮像領域内の前記第1被写体像の存在領域からの画像データの信号レベルが増幅するように、前記第1被写体像の存在領域を調整する、電子機器。 - 請求項8に記載の電子機器であって、
前記調整部は、前記第3撮像領域の撮像条件が前記第1撮像条件である場合、前記第3撮像領域内の前記第2被写体像の存在領域からの画像データの信号レベルが増幅するように、前記第2被写体像の存在領域を調整する、電子機器。 - 請求項1から10のいずれか一項に記載の電子機器であって、
前記第1撮像領域と前記第1撮像領域からの画像データと前記第1撮像条件とを関連付け、前記第2撮像領域と前記第2撮像領域からの画像データと前記第2撮像条件とを関連付け、前記第3撮像領域と前記第3撮像領域からの画像データと前記第3撮像領域に設定された撮像条件とを関連付けることにより、動画ファイルを生成し、生成した動画ファイルを記録部に記録する生成部を有する、電子機器。 - 請求項1から11のいずれか一項に記載の電子機器であって、
前記設定部による設定で前記撮像素子から出力された先行する第1画像信号と、前記第1画像信号の出力後における前記設定部による設定で前記撮像素子から出力された後続の第2画像信号と、に基づいて、前記第2画像信号に対する前記第1画像信号の信頼度を示す重みを算出する算出部と、
前記第1画像信号と、前記第2画像信号と、前記算出部によって算出された重みと、に基づいて、前記第2画像信号のノイズを除去する除去部と、
を有する電子機器。 - 被写体を撮像する複数の撮像領域の各々について撮像条件が設定可能な撮像素子の設定制御をプロセッサに実行させる設定プログラムであって、
前記プロセッサに、動画撮影時に、
前記複数の撮像領域のうち第1撮像領域に第1撮像条件を設定させ、
前記複数の撮像領域のうち前記第1撮像領域と異なる第2撮像領域に第2撮像条件を設定させ、
前記複数の撮像領域のうち前記第1撮像領域および前記第2撮像領域に挟まれた第3撮像領域に、前記第1撮像条件と前記第2撮像条件を繰り返して設定させる、
設定プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018186169A JP2020057877A (ja) | 2018-09-28 | 2018-09-28 | 電子機器および設定プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018186169A JP2020057877A (ja) | 2018-09-28 | 2018-09-28 | 電子機器および設定プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020057877A true JP2020057877A (ja) | 2020-04-09 |
Family
ID=70107770
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018186169A Pending JP2020057877A (ja) | 2018-09-28 | 2018-09-28 | 電子機器および設定プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020057877A (ja) |
-
2018
- 2018-09-28 JP JP2018186169A patent/JP2020057877A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6090425B2 (ja) | 撮像素子および電子機器 | |
US20240089402A1 (en) | Electronic apparatus, reproduction device, reproduction method, recording medium, and recording method | |
JP2016192605A (ja) | 電子機器、記録媒体およびプログラム | |
JP6613554B2 (ja) | 画像処理装置およびプログラム | |
US9961271B2 (en) | Electronic device, imaging device, and imaging element | |
JP2014179778A (ja) | 信号処理装置、撮像素子、撮像装置および電子機器 | |
WO2016052434A1 (ja) | 電子機器、再生装置、再生方法、記録媒体および記録方法 | |
US10686987B2 (en) | Electronic apparatus with image capturing unit having first and second imaging regions that capture an image of a subject under differing imaging conditions | |
WO2016052436A1 (ja) | 電子機器、再生装置、再生方法、記録媒体および記録方法 | |
JP2020057877A (ja) | 電子機器および設定プログラム | |
JP7271895B2 (ja) | 電子機器および設定プログラム | |
JP7176583B2 (ja) | 撮像素子および撮像装置 | |
JP2020057879A (ja) | 電子機器および設定プログラム | |
JP2019169988A (ja) | データ構造 | |
JP2021040325A (ja) | 電子機器およびプログラム | |
JPWO2019065916A1 (ja) | 動画圧縮装置、電子機器、および動画圧縮プログラム | |
WO2019065917A1 (ja) | 動画圧縮装置、電子機器、および動画圧縮プログラム |