JP6839768B2 - 撮像制御装置、撮像装置、撮像制御方法、及び撮像制御プログラム - Google Patents

撮像制御装置、撮像装置、撮像制御方法、及び撮像制御プログラム Download PDF

Info

Publication number
JP6839768B2
JP6839768B2 JP2019541923A JP2019541923A JP6839768B2 JP 6839768 B2 JP6839768 B2 JP 6839768B2 JP 2019541923 A JP2019541923 A JP 2019541923A JP 2019541923 A JP2019541923 A JP 2019541923A JP 6839768 B2 JP6839768 B2 JP 6839768B2
Authority
JP
Japan
Prior art keywords
exposure
imaging
auxiliary light
difference
photoelectric conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019541923A
Other languages
English (en)
Other versions
JPWO2019054031A1 (ja
Inventor
小林 誠
誠 小林
長谷川 亮
亮 長谷川
仁史 桜武
仁史 桜武
智紀 増田
智紀 増田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2019054031A1 publication Critical patent/JPWO2019054031A1/ja
Application granted granted Critical
Publication of JP6839768B2 publication Critical patent/JP6839768B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/02Illuminating scene
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/02Illuminating scene
    • G03B15/03Combinations of cameras with lighting apparatus; Flash units
    • G03B15/05Combinations of cameras with electronic flash apparatus; Electronic flash units
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Stroboscope Apparatuses (AREA)

Description

本発明は、撮像制御装置、撮像装置、撮像制御方法、及び撮像制御プログラムに関する。
近年、CCD(Charge Coupled Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の撮像素子の高解像度化に伴い、デジタルスチルカメラ、デジタルビデオカメラ、又はカメラ付きの携帯電話機(例えばスマートフォン)等の撮像機能を有する電子機器の需要が急増している。なお、以上のような撮像機能を有する電子機器を撮像装置と称する。
撮像装置に搭載されるMOS型の撮像素子の駆動方法としては、ローリングシャッタ方式の駆動が知られている。
ローリングシャッタ方式の駆動は、撮像素子の画素行の各光電変換素子をリセットしてこの画素行の露光を開始し、その後、この画素行の各光電変換素子に蓄積された電荷に応じた画素信号を信号線に読み出す駆動を、画素行を変えながら順次行う方式である。
特許文献1には、ローリングシャッタ方式の駆動を行って被写体を撮像する際に、各画素行の露光時間の1/n(nは1以上の整数)の周期にて補助光を複数回発光させる撮像装置が開示されている。
特開2009−139553号公報
ローリングシャッタ方式の駆動では、画素行毎に画素信号の読み出しを行うため、各画素行からの画素信号の読み出し処理が、他の画素行の画素信号の読み出し処理と重複しないようにする必要がある。そのため、隣接する画素行同士における露光開始タイミング(或いは露光終了タイミング)の差は、この読み出し処理に要する時間(以下、読み出し処理時間という)以上の時間とする必要がある。
読み出し処理時間よりも露光時間が長い場合には、露光開始タイミングの差を、露光時間の1/n倍(nは1以上の整数)とすると、任意の画素行からの画素信号の読み出し処理中に、この任意の画素行のn個隣の画素行の露光が開始されることになる。
ここで、画素の露光開始は、光電変換素子に蓄積された電荷をリセットすることにより行われる。ある画素からの画素信号の読み出し処理中に、他の画素のリセット動作が行われると、その画素信号にノイズが混入する等の懸念がある。
そのため、一般的には、ある画素行からの画素信号の読み出し処理中に、他の画素行の露光が開始されないように、露光開始タイミングの差が設定される。
具体的には、読み出し処理時間よりも露光時間が長い場合には、露光開始タイミングの差が、露光時間の1/n倍以外の値に設定される。
図15は、ローリングシャッタ方式の駆動の一例を示すタイミングチャートである。図中の横軸は時刻を示す。図中の縦方向には、駆動対象となる撮像素子の画素行L1〜L5が示されている。
図15には、図中の“T”を単位時間とした場合に、各画素行の露光時間が12Tであり、隣接する画素行同士の露光開始タイミングの差が5Tであり、読み出し処理時間が3Tである例を示している。
図15に示す例によれば、画素行L1〜L5のいずれにおいても、画素信号の読み出し処理中に、他の画素行の露光が開始されないようになっている。
一方、読み出し処理時間よりも露光時間が短い場合には、任意の画素行からの画素信号の読み出し処理中に、他の画素行の露光が開始されないように、露光開始タイミングの差が、露光時間と読み出し処理時間との合計値以上に設定される。
図16は、ローリングシャッタ方式の駆動の別の例を示すタイミングチャートである。図中の横軸は時刻を示す。図中の縦方向には、駆動対象となる撮像素子の画素行L1〜L5が示されている。
図16には、図中の“T”を単位時間とした場合に、各画素行の露光時間が2Tであり、隣接する画素行同士の露光開始タイミングの差が5Tであり、読み出し処理時間が3Tの例を示している。
図16に示す例によれば、画素行L1〜L5のいずれにおいても、画素信号の読み出し処理中に、他の画素行の露光が開始されないようになっている。
以上の条件を満たすように、ローリングシャッタ方式の駆動における画素行同士の露光開始タイミングの差が設定された状態で、特許文献1に記載されているように、露光時間の1/n倍の周期で補助光を複数回発光させる場合を想定する。
図15には、n=2とした場合の補助光の発光タイミングが、白抜き矢印で示されている。また、図16には、n=1とした場合の補助光の発光タイミングが、白抜き矢印及び破線の白抜き矢印で示されている。
なお、白抜き矢印及び破線の白抜き矢印で示されるタイミングは、補助光の発光量がピークとなるタイミングである。
露光時間の1/2倍の周期で補助光を発光させる場合には、図15に示すように、画素行L1〜画素行L5の各露光期間のどれかにおいて、その開始タイミング又は終了タイミングと補助光の発光タイミングとが重なってしまう。このため、補助光の僅かなジッターによって各画素行による補助光の受光量に変化が生じ、撮像画像には輝度ムラが生じる。
また、図16に示す例でも、画素行L2,L4の各露光期間の開始タイミング及び終了タイミングに補助光の発光タイミングが重なるため、補助光の僅かなジッターによって各画素行による補助光の受光量に変化が生じ、撮像画像には輝度ムラが生じる。
更に、図16に示す例では、点線矢印によって示されるように、どの画素行においても露光がなされていないときに補助光が発光される場合があり、補助光が無駄に発光されることになる。
本発明は、上記事情に鑑みてなされたものであり、撮像画像の輝度ムラの発生を防ぎ、且つ補助光の利用効率の低下を防ぐことのできる撮像制御装置、撮像装置、撮像制御方法、及び撮像制御プログラムを提供することを目的とする。
本発明の撮像制御装置は、光電変換素子を含む画素を複数有し、第一の方向に配列された複数の上記画素からなる画素行が上記第一の方向と直交する第二の方向に複数個配列された撮像面を有する撮像素子をローリングシャッタ方式により駆動して被写体を撮像する撮像制御部と、上記撮像が行われる間に、補助光の発光装置から上記補助光を複数回発光させる発光制御部と、を備え、上記ローリングシャッタ方式による上記駆動は、上記画素行の上記光電変換素子の電荷をリセットしてその光電変換素子の露光を開始する処理を上記画素行を変えながら順次行い、上記露光が終了した上記画素行から順次、上記光電変換素子に蓄積された電荷に応じた画素信号を読み出す駆動であり、隣接する2つの上記画素行において上記駆動により開始される上記露光の開始タイミングの差は、nを1以上の整数として、その露光の行われる時間である露光時間の1/n 倍以外の値となっており、上記発光制御部は、上記補助光の発光周期を、mを1以上の整数として、上記差のm倍の時間に制御するものである。
本発明の撮像装置は、上記撮像制御装置と、上記撮像素子と、を備えるものである。
本発明の撮像制御方法は、光電変換素子を含む画素を複数有し、第一の方向に配列された複数の上記画素からなる画素行が上記第一の方向と直交する第二の方向に複数個配列された撮像面を有する撮像素子をローリングシャッタ方式により駆動して被写体を撮像する撮像制御ステップと、上記撮像が行われる間に、補助光の発光装置から上記補助光を複数回発光させる発光制御ステップと、を備え、上記ローリングシャッタ方式による上記駆動は、上記画素行の上記光電変換素子の電荷をリセットしてその光電変換素子の露光を開始する処理を上記画素行を変えながら順次行い、上記露光が終了した上記画素行から順次、上記光電変換素子に蓄積された電荷に応じた画素信号を読み出す駆動であり、隣接する2つの上記画素行において上記駆動により開始される上記露光の開始タイミングの差は、nを1以上の整数として、その露光の行われる時間である露光時間の1/n 倍以外の値となっており、上記発光制御ステップでは、上記補助光の発光周期を、mを1以上の整数として、上記差のm倍の時間に制御するものである。
本発明の撮像制御プログラムは、光電変換素子を含む画素を複数有し、第一の方向に配列された複数の上記画素からなる画素行が上記第一の方向と直交する第二の方向に複数個配列された撮像面を有する撮像素子をローリングシャッタ方式により駆動して被写体を撮像する撮像制御ステップと、上記撮像が行われる間に、補助光の発光装置から上記補助光を複数回発光させる発光制御ステップと、をコンピュータに実行させるための撮像制御プログラムであって、上記ローリングシャッタ方式による上記駆動は、上記画素行の上記光電変換素子の電荷をリセットしてその光電変換素子の露光を開始する処理を上記画素行を変えながら順次行い、上記露光が終了した上記画素行から順次、上記光電変換素子に蓄積された電荷に応じた画素信号を読み出す駆動であり、隣接する2つの上記画素行において上記駆動により開始される上記露光の開始タイミングの差は、nを1以上の整数として、その露光の行われる時間である露光時間の1/n 倍以外の値となっており、上記発光制御ステップでは、上記補助光の発光周期を、mを1以上の整数として、上記差のm倍の時間に制御するものである。
本発明によれば、撮像画像の輝度ムラの発生を防ぎ、且つ補助光の利用効率の低下を防ぐことのできる撮像制御装置、撮像装置、撮像制御方法、及び撮像制御プログラムを提供することができる。
本発明の撮像装置の一実施形態であるデジタルカメラ100の概略構成を示す図である。 図1に示す撮像素子5の概略構成を示す平面模式図である。 図2に示す撮像素子5の画素61の概略構成を示す平面模式図である。 図3に示す画素61のA−A線の断面模式図である。 図1に示すデジタルカメラ100におけるシステム制御部11の機能ブロック図である。 図1に示すデジタルカメラ100の高速シンクロモード時における撮像素子5の駆動例を示すタイミングチャートである。 図1に示すデジタルカメラ100の高速シンクロモード時における撮像素子5の駆動例の第一の変形例を示すタイミングチャートである。 図1に示すデジタルカメラ100の高速シンクロモード時における撮像素子5の駆動例の第二の変形例を示すタイミングチャートである。 図1に示すデジタルカメラ100の高速シンクロモード時における撮像素子5の駆動例の第三の変形例を示すタイミングチャートである。 図1に示すデジタルカメラ100の高速シンクロモード時における撮像素子5の駆動例の第四の変形例を示すタイミングチャートである。 図1に示すデジタルカメラ100の高速シンクロモード時における撮像素子5の駆動例の第五の変形例を示すタイミングチャートである。 図1に示すデジタルカメラ100の高速シンクロモード時における撮像素子5の駆動例を示すタイミングチャートである。 本発明の撮像装置の一実施形態であるスマートフォン200の外観を示すものである。 図13に示すスマートフォン200の構成を示すブロック図である。 ローリングシャッタ方式の駆動の一例を示すタイミングチャートである。 ローリングシャッタ方式の駆動の一例を示すタイミングチャートである。
以下、本発明の実施形態について図面を参照して説明する。
図1は、本発明の撮像装置の一実施形態であるデジタルカメラ100の概略構成を示す図である。
図1に示すデジタルカメラ100は、本体部100Aと、撮像レンズ1、絞り2、レンズ制御部4、レンズ駆動部8、及び絞り駆動部9を有するレンズ装置40と、発光装置30と、を備える。
レンズ装置40と発光装置30は、それぞれ、本体部100Aに着脱可能なものであってもよいし、本体部100Aと一体化されたものであってもよい。
撮像レンズ1は、光軸方向に移動可能なフォーカスレンズ又はズームレンズ等を含む。
レンズ装置40のレンズ制御部4は、本体部100Aのシステム制御部11と有線又は無線によって通信可能に構成される。
レンズ制御部4は、システム制御部11からの指令にしたがい、レンズ駆動部8を介して撮像レンズ1に含まれるフォーカスレンズを制御してフォーカスレンズの主点の位置を変更したり、レンズ駆動部8を介して撮像レンズ1に含まれるズームレンズを制御してズームレンズの位置(焦点距離)を変更したり、絞り駆動部9を介して絞り2の絞り値を制御したりする。
発光装置30は、キセノン光源又はLED(Light Emitting Diode)等の半導体光源等から補助光を発光させるものである。発光装置30は、本体部100Aのシステム制御部11からの指令に基づいて補助光を発光させる。
本体部100Aは、撮像レンズ1及び絞り2を含む撮像光学系を通して被写体を撮像するMOS型の撮像素子5を備える。
撮像素子5は、複数の画素が二次元状に配置された撮像面を有し、撮像光学系によってこの撮像面に結像される被写体像をこの複数の画素によって画素信号に変換して出力する。撮像素子5の各画素から出力される画素信号の集合を以下では撮像画像信号という。
デジタルカメラ100の電気制御系全体を統括制御するシステム制御部11は、撮像素子駆動部10を介して撮像素子5を駆動し、レンズ装置40の撮像光学系を通して撮像した被写体像を撮像画像信号として出力させる。
撮像素子駆動部10は、システム制御部11からの指令に基づいて駆動信号を生成してこの駆動信号を撮像素子5に供給することにより、撮像素子5を駆動する。撮像素子駆動部10は、ハードウェア的な構成は、半導体素子等の回路素子を組み合わせて構成された電気回路である。
システム制御部11には、操作部14を通して利用者からの指示信号が入力される。操作部14には、後述する表示面23と一体化されたタッチパネルと、各種ボタン等が含まれる。
システム制御部11は、デジタルカメラ100全体を統括制御するものであり、ハードウェア的な構造は、撮像制御プログラムを含むプログラムを実行して処理を行う各種のプロセッサである。
各種のプロセッサとしては、プログラムを実行して各種処理を行う汎用的なプロセッサであるCPU(Central Prosessing Unit)、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、又はASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
これら各種のプロセッサの構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路である。
システム制御部11は、各種のプロセッサのうちの1つで構成されてもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせ又はCPUとFPGAの組み合わせ)で構成されてもよい。
更に、このデジタルカメラ100の電気制御系は、RAM(Random Accsess Memory)及びROM(Read only memory)を含むメモリ16と、メモリ16へのデータ記録及びメモリ16からのデータ読み出しの制御を行うメモリ制御部15と、撮像素子5から出力される撮像画像信号に対しデジタル信号処理を行って、例えばJPEG(Joint Photographic Experts Group)形式等の各種フォーマットにしたがった撮像画像データを生成するデジタル信号処理部17と、記録媒体21へのデータ記録及び記録媒体21からのデータ読み出しの制御を行う外部メモリ制御部20と、有機EL(electroluminescence)パネル又は液晶パネル等で構成される表示面23と、表示面23の表示を制御する表示コントローラ22と、を備える。
メモリ16に含まれるROMには、システム制御部11が実行する撮像制御プログラムを含むプログラムが記録されている。
記録媒体21は、デジタルカメラ100に内蔵されるフラッシュメモリ等の半導体メモリ又はデジタルカメラ100に着脱可能な可搬型の半導体メモリ等である。
メモリ制御部15、デジタル信号処理部17、外部メモリ制御部20、及び表示コントローラ22は、制御バス24及びデータバス25によって相互に接続され、システム制御部11からの指令によって制御される。
デジタル信号処理部17は、ハードウェア的な構造は、プログラムを実行して処理を行う上記に例示した各種のプロセッサである。
表示コントローラ22は、プログラムを実行して処理を行う上記に例示した各種のプロセッサと、表示面23に表示すべき画像のデータを保持するための表示メモリとを含む。
図2は、図1に示す撮像素子5の概略構成を示す平面模式図である。
撮像素子5は、第一の方向である行方向Xに配列された複数の画素61からなる画素行62が、行方向Xと直交する第二の方向である列方向Yに複数配列された撮像面60と、撮像面60に配列された画素61を駆動する駆動回路63と、撮像面60に配列された画素行62の各画素61から信号線に読み出される画素信号を処理する信号処理回路64と、を備える。
以下では、図2において撮像面60の列方向Yの一端側(図中の上側)の端部を上端といい、撮像面60の列方向Yの他端側(図中の下側)の端部を下端という。
図3は、図2に示す撮像素子5の画素61の概略構成を示す平面模式図である。
図3に示すように、画素61は、光電変換素子61A、フローティングディフュージョン61D、及び読み出し回路61Eを備える。
光電変換素子61Aは、レンズ装置40の撮像光学系を通った光を受光し受光量に応じた電荷を発生して蓄積する。光電変換素子61Aは、例えば、半導体基板内に形成されたシリコンフォトダイオードによって構成される。
フローティングディフュージョン61Dは、電荷を電圧信号に変換するためのものであり、光電変換素子61Aに蓄積された電荷が転送されてくる。
読み出し回路61Eは、フローティングディフュージョン61Dの電位に応じた電圧信号を画素信号として信号線65に読み出す回路である。読み出し回路61Eは、図2に示す駆動回路63によって駆動される。信号線65は、列方向Yの位置が同じ画素61からなる画素列に対して1つ設けられており、各信号線65に読み出された画素信号は信号処理回路64に入力される。
図4は、図3に示す画素61のA−A線の断面模式図である。
図4に示すように、N型基板70表面にはPウェル層71が形成され、Pウェル層71の表面部には光電変換素子61Aが形成されている。
光電変換素子61Aは、N型不純物層73とこの上に形成されたP型不純物層74とによって構成されている。N型基板70とPウェル層71によって半導体基板が構成される。
Pウェル層71の表面部には、光電変換素子61Aから少し離間して、N型不純物層からなるフローティングディフュージョン61Dが形成されている。
光電変換素子61Aとフローティングディフュージョン61Dとの間のPウェル層71の領域75の上方には、図示省略の酸化膜を介して、読み出し電極72が形成されている。
読み出し電極72の電位を制御して、光電変換素子61Aとフローティングディフュージョン61Dとの間の領域75にチャネルを形成することにより、光電変換素子61Aに蓄積された電荷をフローティングディフュージョン61Dに転送することができる。読み出し電極72の電位は、図2の駆動回路63によって制御される。
図4に示す例では、読み出し回路61Eは、フローティングディフュージョン61Dの電位をリセットするためのリセットトランジスタ77と、フローティングディフュージョン61Dの電位を画素信号に変換して出力する出力トランジスタ78と、出力トランジスタ78から出力される画素信号を信号線65に選択的に読み出すための選択トランジスタ79とによって構成されている。読み出し回路の構成は一例であり、これに限るものではない。
なお、読み出し回路61Eは、列方向Yに並ぶ複数の画素61で共用される場合もある。
光電変換素子61Aは、シリコンフォトダイオードにより構成されているが、半導体基板上方に形成された有機又は無機の光電変換材料の膜と、この膜で発生した電荷を蓄積するための半導体基板内部に形成された不純物領域と、によって構成されていてもよい。この場合には、この不純物領域に蓄積された電荷が、図4のフローティングディフュージョン61Dに転送される。
図2に示す駆動回路63は、各画素61の読み出し電極72及び読み出し回路61Eを画素行62毎に独立に駆動して、画素行62に含まれる各光電変換素子61Aのリセット(光電変換素子61Aに蓄積されている電荷の排出)、この各光電変換素子61Aに蓄積された電荷に応じた画素信号の信号線65への読み出し等を行う。駆動回路63は、撮像素子駆動部10によって制御される。
光電変換素子61Aのリセットは、読み出し電極72下方の領域75にチャネルを形成した状態で、リセットトランジスタ77によってフローティングディフュージョン61Dをリセットすることにより行われる。
なお、光電変換素子61Aに隣接させて電荷排出領域を別途設けておき、駆動回路63が、光電変換素子61Aに蓄積されている電荷をこの電荷排出領域に排出する駆動を行うことにより、光電変換素子61Aのリセットが行われる構成であってもよい。
図2に示す信号処理回路64は、画素行62の各画素61から信号線65に読み出された画素信号に対し、相関二重サンプリング処理を行い、相関二重サンプリング処理後の画素信号をデジタル信号に変換してデータバス25に出力する。信号処理回路64は、撮像素子駆動部10によって制御される。
デジタル信号処理部17は、撮像素子5からデータバス25に出力された画素信号にデモザイク処理及びガンマ補正処理等の信号処理を施して撮像画像データを生成する。
図5は、図1に示すデジタルカメラ100におけるシステム制御部11の機能ブロック図である。
図1に示すデジタルカメラ100は、撮像モードとして高速シンクロモードを搭載している。この高速シンクロモードは、撮像素子5によって被写体を撮像している間に、発光装置30から高速で補助光を複数回発光させて、短い露光時間においても十分な明るさにて撮像を行うことを可能にするモードである。図5に示す機能ブロックは、この高速シンクロモードが設定された場合のシステム制御部11の機能ブロックを示している。
図5に示すように、システム制御部11は、メモリ16のROMに記録された撮像制御プログラムを含むプログラムを実行することにより、撮像制御部11A及び発光制御部11Bを備える撮像制御装置として機能する。
撮像制御部11Aは、撮像素子駆動部10を制御して、撮像素子5をローリングシャッタ方式により駆動して被写体を撮像する。
ローリングシャッタ方式による駆動とは、画素行62の光電変換素子61Aの電荷をリセットしてこの光電変換素子61Aの露光を開始する処理を画素行62を変えながら順次行い、この露光が終了した画素行62から順次、光電変換素子61Aに蓄積された電荷に応じた画素信号を読み出す駆動である。
撮像制御部11Aは、このローリングシャッタ方式による駆動を行う場合に、隣接する2つの画素行62の各々において開始させる露光の開始タイミングの差Δtを、nを1以上の整数として、その露光の行われる時間である露光時間の1/n 倍以外の値に設定する。
発光制御部11Bは、撮像制御部11Aの制御によって行われるローリングシャッタ方式による駆動が行われる間に、発光装置30から所定の発光周期にて補助光を複数回発光させる。
具体的には、発光制御部11Bは、補助光の発光周期を、mを1以上の整数として、上記の差Δtのm倍の時間に制御する。発光制御部11Bは、mの上限値を、各画素行62の露光時間を差Δtで割って得られる商の値に設定する。
図6は、図1に示すデジタルカメラ100の高速シンクロモード時における撮像素子5の駆動例を示すタイミングチャートである。
図6に示す“L1”〜“L11”は、それぞれ、撮像素子5の撮像面60に上端側から下端側に向かって順番に並ぶ画素行62を示している。
図6において、各画素行62(L1〜L11)の横にある“露光”が記されたブロックは、この各画素行の露光が行われる露光期間を示している。
また、各画素行62(L1〜L11)の横にある“読み出し処理”が記されたブロックは、この各画素行の光電変換素子61Aから画素信号の読み出しが行われる期間を示している。
また、図6に示す白抜きの矢印は、発光装置30から補助光が発光されるタイミングを示している。なお、補助光が発光されるタイミングとは、この補助光の発光量がピークとなるタイミングを言う。
図6に示す例では、図中に示す“T”を単位時間として、撮像素子5の各画素行62の露光時間が“17T”となっており、撮像素子5の各画素行62の読み出し処理に要する時間が“3T”となっており、撮像素子5の隣接する2つの画素行62における露光期間の開始タイミングの差Δtが“5T”となっている。また、補助光の発光周期が“5T”に制御されている。
撮像素子5の各画素行62の露光期間は、撮像感度又は露出値等の撮像条件或いはユーザからの設定によって決められる値である。
撮像素子5の各画素行62の読み出し処理に要する時間は、信号処理回路64の処理能力等によって決まる固定値である。
撮像制御部11Aは、隣接する2つの画素行62の露光期間の開始タイミングの差Δtを、各画素行62の露光時間の1/n倍以外の値に制御する。
図6に示す例では、差Δtが“5T”となっており、この差Δtは露光時間(=17T)の1/n倍以外の値となっている。このように差Δtが決められることにより、各画素行62からの画素信号の読み出し処理中に、他の画素行62の露光が開始されることはない。このため、各画素行62から読み出される画素信号に、光電変換素子61Aのリセットに起因するノイズが混入するのを防ぐことができる。
また、図6に示す例は、m=1の例を示しており、補助光の発光周期が、差Δt(=5T)の1倍に制御されている。
図7は、図1に示すデジタルカメラ100の高速シンクロモード時における撮像素子5の駆動例の第一の変形例を示すタイミングチャートである。
図7に示すタイミングチャートは、補助光の発光タイミングのみが図6と異なっている。具体的には、図7に示す例は、m=2の例を示しており、補助光の発光周期(=10T)が、差Δt(=5T)の2倍に制御されている。
図8は、図1に示すデジタルカメラ100の高速シンクロモード時における撮像素子5の駆動例の第二の変形例を示すタイミングチャートである。
図8に示すタイミングチャートは、補助光の発光タイミングのみが図6と異なっている。具体的には、図8に示す例は、m=3の例を示しており、補助光の発光周期(=15T)が、差Δt(=5T)の3倍に制御されている。
図9は、図1に示すデジタルカメラ100の高速シンクロモード時における撮像素子5の駆動例の第三の変形例を示すタイミングチャートである。
図9に示す“L1”〜“L5”は、それぞれ、撮像素子5の撮像面60に上端側から下端側に向かって順番に並ぶ画素行62を示している。
図9において、各画素行62(L1〜L5)の横にある“露光”が記されたブロックは、この各画素行の露光が行われる露光期間を示している。
また、各画素行62(L1〜L5)の横にある“読み出し処理”が記されたブロックは、各画素行の光電変換素子61Aから画素信号の読み出しが行われる期間を示している。
また、図9に示す白抜きの矢印は、発光装置30から補助光が発光されるタイミングを示している。なお、補助光が発光されるタイミングとは、この補助光の発光量がピークとなるタイミングを言う。
図9に示す例では、図中に示す“T”を単位時間として、撮像素子5の各画素行62の露光時間が“2T”となっており、撮像素子5の各画素行62の読み出し処理に要する時間が“3T”となっており、撮像素子5の隣接する2つの画素行62における露光期間の開始タイミングの差Δtが“5T”となっている。また、補助光の発光周期が“5T”に制御されている。
図9に示す例は、m=1の例を示しており、補助光の発光周期(=5T)が、差Δt(=5T)の1倍に制御されている。
図6〜図9に示したように、補助光の発光周期が差Δtのm倍に制御されることにより、どの画素行62においても、その画素行62が露光期間中に受ける補助光の量を均一化することができる。
図6〜9に示す駆動例によれば、各画素行62において、露光期間の開始又は終了のタイミングと、補助光の発光タイミングとが重なるのを防ぐことができる。このため、補助光にジッターが生じた場合でも撮像画像のムラが生じるのを防ぐことができる。
また、図6〜図9のいずれの例においても、発光された補助光がいずれかの画素行62に受光されており、補助光を効率よく利用することができる。
なお、発光制御部11Bは、kを3以上の整数として、補助光の発光周期を差Δtのk倍以上の時間に制御する場合には、この発光周期の間において、(k−2)回を上限として、差Δtを周期とする追加の補助光を発光させてもよい。
図10は、図1に示すデジタルカメラ100の高速シンクロモード時における撮像素子5の駆動例の第四の変形例を示すタイミングチャートである。図10は、図8に示すタイミングチャートにおいて、実線で示す矢印の位置が変更され、且つ点線で示す矢印が追加されたものである。
図10に示す例は、上記のkが“3”の例を示しており、発光制御部11Bは、発光周期(=15T)で補助光を発光させると共に、1回を上限として、この発光周期で発光させる補助光の発光タイミング(図中の実線の白抜き矢印)を起点として、差Δt(=5T)を周期とする追加の補助光(図中の点線の白抜き矢印)を発光させる。
ここではk=3の例を示しているが、kが4以上の場合も同様に追加の補助光を発光させることができる。
図11は、図1に示すデジタルカメラ100の高速シンクロモード時における撮像素子5の駆動例の第五の変形例を示すタイミングチャートである。
図11に示す例では、図中に示す“T”を単位時間として、撮像素子5の各画素行62の露光時間が“21T”となっており、撮像素子5の各画素行62の読み出し処理に要する時間が“3T”となっており、撮像素子5の隣接する2つの画素行62における露光期間の開始タイミングの差Δtが“5T”となっている。また、補助光の発光周期が“20T”に制御されている。
図11に示す例では、上記のkが“4”になる。このため、“20T”毎に発光される補助光の発光タイミングからΔt=5Tを周期とする追加の補助光が(4−2)=2回を上限として発光されている。
図10及び図11に示すように、Δtのm倍の発光周期の間に追加の補助光を発光させることにより、発光周期で発光させる補助光の明るさを、追加の補助光によって補うことができ、撮像画像の明るさを十分に確保することができる。
図1に示すデジタルカメラ100において、発光装置30は、本体部100Aに固定されたものであることが好ましい。発光装置30と本体部100Aとが一体化されている場合には、発光制御部11Bの制御対象となる発光装置30が1つに限定される。このため、発光制御を容易に行うことが可能になる。
また、発光制御部11Bは、発光装置30から発光させる補助光の発光期間(補助光の発光量が閾値を超えてからこの閾値を下回るまでの期間)と、各画素行62の露光期間の開始タイミングとが重なるのを避けた状態にて、補助光を発光させることが好ましい。
図12は、差Δt=“5T”、露光時間=“17T”、読み出し処理に要する時間=“3T”、発光周期=“15T”である場合の撮像素子5の駆動例を示すタイミングチャートである。図12には、補助光の発光波形flと、発光波形flの立ち上がりタイミングから立下りタイミングまでの期間である発光期間FLtとが示されている。
図12に示す例では、各発光期間FLtが、どの画素行62の露光期間の開始タイミングとも重なっていない。このように発光期間が制御されることにより、補助光のジッター耐性をより向上させることができる。
次に、本発明の撮像装置の実施形態としてスマートフォンの構成について説明する。
図13は、本発明の撮像装置の一実施形態であるスマートフォン200の外観を示すものである。
図13に示すスマートフォン200は、平板状の筐体201を有し、筐体201の一方の面に表示面としての表示パネル202と、入力部としての操作パネル203とが一体となった表示入力部204を備えている。
また、この様な筐体201は、スピーカ205と、マイクロホン206と、操作部207と、カメラ部208とを備えている。なお、筐体201の構成はこれに限定されず、例えば、表示面と入力部とが独立した構成を採用したり、折り畳み構造又はスライド機構を有する構成を採用したりすることもできる。
図14は、図13に示すスマートフォン200の構成を示すブロック図である。
図14に示すように、スマートフォンの主たる構成要素として、無線通信部210と、表示入力部204と、通話部211と、操作部207と、カメラ部208と、記録部212と、外部入出力部213と、GPS(Global Positioning System)受信部214と、モーションセンサ部215と、電源部216と、主制御部220とを備える。
また、スマートフォン200の主たる機能として、図示省略の基地局装置BSと図示省略の移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。
無線通信部210は、主制御部220の指示にしたがって、移動通信網NWに収容された基地局装置BSに対し無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータ等の送受信、ウェブデータ又はストリーミングデータ等の受信を行う。
表示入力部204は、主制御部220の制御により、画像(静止画像及び動画像)又は文字情報等を表示して視覚的に利用者に情報を伝達するとともに、表示した情報に対する利用者操作を検出する、いわゆるタッチパネルであって、表示パネル202と、操作パネル203と、を備える。
表示パネル202は、LCD(Liquid Crystal Display)、OELD(Organic Electro−Luminescence Display)等を表示デバイスとして用いたものである。
操作パネル203は、表示パネル202の表示面上に表示される画像を視認可能に載置され、利用者の指又は尖筆によって操作される一又は複数の座標を検出するデバイスである。このデバイスを利用者の指又は尖筆によって操作すると、操作に起因して発生する検出信号を主制御部220に出力する。次いで、主制御部220は、受信した検出信号に基づいて、表示パネル202上の操作位置(座標)を検出する。
図14に示すように、本発明の撮影装置の一実施形態として例示しているスマートフォン200の表示パネル202と操作パネル203とは一体となって表示入力部204を構成しているが、操作パネル203が表示パネル202を完全に覆うような配置となっている。
係る配置を採用した場合、操作パネル203は、表示パネル202外の領域についても、利用者操作を検出する機能を備えてもよい。換言すると、操作パネル203は、表示パネル202に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル202に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
なお、表示領域の大きさと表示パネル202の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル203が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。さらに、外縁部分の幅は、筐体201の大きさ等に応じて適宜設計されるものである。
さらにまた、操作パネル203で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式等が挙げられ、いずれの方式を採用することもできる。
通話部211は、スピーカ205又はマイクロホン206を備え、マイクロホン206を通じて入力された利用者の音声を主制御部220にて処理可能な音声データに変換して主制御部220に出力したり、無線通信部210あるいは外部入出力部213により受信された音声データを復号してスピーカ205から出力させたりするものである。
また、図13に示すように、例えば、スピーカ205を表示入力部204が設けられた面と同じ面に搭載し、マイクロホン206を筐体201の側面に搭載することができる。
操作部207は、キースイッチ等を用いたハードウェアキーであって、利用者からの指示を受け付けるものである。例えば、図13に示すように、操作部207は、スマートフォン200の筐体201の側面に搭載され、指等で押下されるとオンとなり、指を離すとバネ等の復元力によってオフ状態となる押しボタン式のスイッチである。
記録部212は、主制御部220の制御プログラム及び制御データ、アプリケーションソフトウェア、通信相手の名称又は電話番号等を対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータ、ダウンロードしたコンテンツデータを記録し、またストリーミングデータ等を一時的に記録するものである。また、記録部212は、スマートフォン内蔵の内部記録部217と着脱自在な外部メモリスロットを有する外部記録部218により構成される。
なお、記録部212を構成するそれぞれの内部記録部217と外部記録部218は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)等の格納媒体を用いて実現される。
外部入出力部213は、スマートフォン200に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)、IEEE1394等)又はネットワーク(例えば、インターネット、無線LAN、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)等)により直接的又は間接的に接続するためのものである。
スマートフォン200に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)、SIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるパーソナルコンピュータ、イヤホン等がある。
外部入出力部213は、このような外部機器から伝送を受けたデータをスマートフォン200の内部の各構成要素に伝達したり、スマートフォン200の内部のデータが外部機器に伝送されるようにしたりすることができる。
GPS受信部214は、主制御部220の指示にしたがって、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、スマートフォン200の緯度、経度、高度からなる位置を検出する。GPS受信部214は、無線通信部210又は外部入出力部213(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部215は、例えば、3軸の加速度センサ等を備え、主制御部220の指示にしたがって、スマートフォン200の物理的な動きを検出する。スマートフォン200の物理的な動きを検出することにより、スマートフォン200の動く方向又は加速度が検出される。係る検出結果は、主制御部220に出力されるものである。
電源部216は、主制御部220の指示にしたがって、スマートフォン200の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御部220は、マイクロプロセッサを備え、記録部212が記録する制御プログラム及び制御データにしたがって動作し、スマートフォン200の各部を統括して制御するものである。また、主制御部220は、無線通信部210を通じて、音声通信又はデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記録部212が記録するアプリケーションソフトウェアにしたがって主制御部220が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部213を制御して対向機器とデータ通信を行う赤外線通信機能、電子メールの送受信を行う電子メール機能、又はウェブページを閲覧するウェブブラウジング機能等がある。
また、主制御部220は、受信データ又はダウンロードしたストリーミングデータ等の画像データ(静止画像又は動画像のデータ)に基づいて、映像を表示入力部204に表示する等の画像処理機能を備える。
画像処理機能とは、主制御部220が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部204に表示する機能のことをいう。
さらに、主制御部220は、表示パネル202に対する表示制御と、操作部207、操作パネル203を通じた利用者操作を検出する操作検出制御を実行する。
表示制御の実行により、主制御部220は、アプリケーションソフトウェアを起動するためのアイコン又はスクロールバー等のソフトウェアキーを表示したり、あるいは電子メールを作成したりするためのウィンドウを表示する。
なお、スクロールバーとは、表示パネル202の表示領域に収まりきれない大きな画像等について、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、主制御部220は、操作部207を通じた利用者操作を検出したり、操作パネル203を通じて、上記アイコンに対する操作と上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付けたりする。
さらに、操作検出制御の実行により主制御部220は、操作パネル203に対する操作位置が、表示パネル202に重なる重畳部分(表示領域)か、それ以外の表示パネル202に重ならない外縁部分(非表示領域)かを判定し、操作パネル203の感応領域又はソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部220は、操作パネル203に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。
ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指等によって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部208は、図1に示したデジタルカメラ100における外部メモリ制御部20、記録媒体21、表示コントローラ22、表示面23、及び操作部14以外の構成を含む。
カメラ部208によって生成されたRAW形式又はJPEG形式の撮像画像データは、記録媒体21の代わりに、記録部212に記録したり、外部入出力部213又は無線通信部210を通じて出力したりすることができる。
図13に示すスマートフォン200において、カメラ部208は表示入力部204と同じ面に搭載されているが、カメラ部208の搭載位置はこれに限らず、表示入力部204の背面に搭載されてもよい。
また、カメラ部208はスマートフォン200の各種機能に利用することができる。例えば、表示パネル202にカメラ部208で取得した画像を表示したり、操作パネル203の操作入力のひとつとして、カメラ部208の画像を利用したりすることができる。
また、GPS受信部214が位置を検出する際に、カメラ部208からの画像を参照して位置を検出することもできる。さらには、カメラ部208からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン200のカメラ部208の光軸方向を判断したり、現在の使用環境を判断したりすることもできる。勿論、カメラ部208からの画像をアプリケーションソフトウェア内で利用することもできる。
その他、静止画又は動画の画像データにGPS受信部214により取得した位置情報、マイクロホン206により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部215により取得した姿勢情報等を付加して記録部212に記録したり、外部入出力部213又は無線通信部210を通じて出力したりすることもできる。
以上のような構成のスマートフォン200においても、高速シンクロ撮像を行う場合の撮像画像の輝度ムラを防ぐことができる。また、補助光の利用効率を高めることができる。
以上説明してきたように、本明細書には以下の事項が開示されている。
(1) 光電変換素子を含む画素を複数有し、第一の方向に配列された複数の上記画素からなる画素行が上記第一の方向と直交する第二の方向に複数個配列された撮像面を有する撮像素子をローリングシャッタ方式により駆動して被写体を撮像する撮像制御部と、上記撮像が行われる間に、補助光の発光装置から上記補助光を複数回発光させる発光制御部と、を備え、上記ローリングシャッタ方式による上記駆動は、上記画素行の上記光電変換素子の電荷をリセットしてその光電変換素子の露光を開始する処理を上記画素行を変えながら順次行い、上記露光が終了した上記画素行から順次、上記光電変換素子に蓄積された電荷に応じた画素信号を読み出す駆動であり、隣接する2つの上記画素行において上記駆動により開始される上記露光の開始タイミングの差は、nを1以上の整数として、その露光の行われる時間である露光時間の1/n 倍以外の値となっており、上記発光制御部は、上記補助光の発光周期を、mを1以上の整数として、上記差のm倍の時間に制御する撮像制御装置。
(2) (1)記載の撮像制御装置であって、上記発光制御部は、上記露光時間が上記差よりも大きい場合には、上記mの上限値を、上記露光時間を上記差で除して得られる商の値に設定する撮像制御装置。
(3) (1)又は(2)記載の撮像制御装置であって、上記発光制御部は、kを3以上の整数として、上記補助光の発光周期を上記差のk倍以上の時間に制御する場合には、上記発光周期の間において、k−2 回を上限として、上記補助光の発光タイミングを起点とし上記差を周期とする追加の上記補助光を発光させる撮像制御装置。
(4) (1)〜(3)のいずれか1つに記載の撮像制御装置であって、上記発光制御部は、上記補助光の発光期間と、上記画素行の露光が開始されるタイミングとが重なるのを避けた状態にて上記補助光を発光させる撮像制御装置。
(5) (1)〜(4)のいずれか1つに記載の撮像制御装置と、上記撮像素子と、を備える撮像装置。
(6) (5)記載の撮像装置であって、上記発光装置を更に備える撮像装置。
(7) 光電変換素子を含む画素を複数有し、第一の方向に配列された複数の上記画素からなる画素行が上記第一の方向と直交する第二の方向に複数個配列された撮像面を有する撮像素子をローリングシャッタ方式により駆動して被写体を撮像する撮像制御ステップと、上記撮像が行われる間に、補助光の発光装置から上記補助光を複数回発光させる発光制御ステップと、を備え、上記ローリングシャッタ方式による上記駆動は、上記画素行の上記光電変換素子の電荷をリセットしてその光電変換素子の露光を開始する処理を上記画素行を変えながら順次行い、上記露光が終了した上記画素行から順次、上記光電変換素子に蓄積された電荷に応じた画素信号を読み出す駆動であり、隣接する2つの上記画素行において上記駆動により開始される上記露光の開始タイミングの差は、nを1以上の整数として、その露光の行われる時間である露光時間の1/n 倍以外の値となっており、上記発光制御ステップでは、上記補助光の発光周期を、mを1以上の整数として、上記差のm倍の時間に制御する撮像制御方法。
(8) (7)記載の撮像制御方法であって、上記発光制御ステップでは、上記露光時間が上記差よりも大きい場合には、上記mの上限値を、上記露光時間を上記差で除して得られる商の値に設定する撮像制御方法。
(9) (7)又は(8)記載の撮像制御方法であって、上記発光制御ステップでは、kを3以上の整数として、上記補助光の発光周期を上記差のk倍以上の時間に制御する場合には、上記発光周期の間において、k−2 回を上限として、上記補助光の発光タイミングを起点とし上記差を周期とする追加の上記補助光を発光させる撮像制御方法。
(10) (7)〜(9)のいずれか1つに記載の撮像制御方法であって、上記発光制御ステップでは、上記補助光の発光期間と、上記画素行の露光が開始されるタイミングとが重なるのを避けた状態にて上記補助光を発光させる撮像制御方法。
(11) 光電変換素子を含む画素を複数有し、第一の方向に配列された複数の上記画素からなる画素行が上記第一の方向と直交する第二の方向に複数個配列された撮像面を有する撮像素子をローリングシャッタ方式により駆動して被写体を撮像する撮像制御ステップと、上記撮像が行われる間に、補助光の発光装置から上記補助光を複数回発光させる発光制御ステップと、をコンピュータに実行させるための撮像制御プログラムであって、上記ローリングシャッタ方式による上記駆動は、上記画素行の上記光電変換素子の電荷をリセットしてその光電変換素子の露光を開始する処理を上記画素行を変えながら順次行い、上記露光が終了した上記画素行から順次、上記光電変換素子に蓄積された電荷に応じた画素信号を読み出す駆動であり、隣接する2つの上記画素行において上記駆動により開始される上記露光の開始タイミングの差は、nを1以上の整数として、その露光の行われる時間である露光時間の1/n 倍以外の値となっており、上記発光制御ステップでは、上記補助光の発光周期を、mを1以上の整数として、上記差のm倍の時間に制御する撮像制御プログラム。
本発明によれば、撮像画像の輝度ムラの発生を防ぎ、且つ補助光の利用効率の低下を防ぐことのできる撮像制御装置、撮像装置、撮像制御方法、及び撮像制御プログラムを提供することができる。
100 デジタルカメラ
100A 本体部
1 撮像レンズ
2 絞り
4 レンズ制御部
5 撮像素子
60 撮像面
61 画素
61A 光電変換素子
61D フローティングディフュージョン
61E 読み出し回路
62 画素行
63 駆動回路
64 信号処理回路
65 信号線
70 N型基板
71 Pウェル層
72 読み出し電極
73 N型不純物層
74 P型不純物層
75 領域
77 リセットトランジスタ
78 出力トランジスタ
79 選択トランジスタ
8 レンズ駆動部
9 絞り駆動部
10 撮像素子駆動部
11 システム制御部
11A 撮像制御部
11B 発光制御部
14 操作部
15 メモリ制御部
16 メモリ
17 デジタル信号処理部
20 外部メモリ制御部
21 記録媒体
22 表示コントローラ
23 表示面
24 制御バス
25 データバス
30 発光装置
40 レンズ装置
200 スマートフォン
201 筐体
202 表示パネル
203 操作パネル
204 表示入力部
205 スピーカ
206 マイクロホン
207 操作部
208 カメラ部
210 無線通信部
211 通話部
212 記録部
213 外部入出力部
214 GPS受信部
215 モーションセンサ部
216 電源部
217 内部記録部
218 外部記録部
220 主制御部
ST1〜STn GPS衛星

Claims (11)

  1. 光電変換素子を含む画素を複数有し、第一の方向に配列された複数の前記画素からなる画素行が前記第一の方向と直交する第二の方向に複数個配列された撮像面を有する撮像素子をローリングシャッタ方式により駆動することにより被写体を撮像する撮像制御部と、
    前記撮像が行われる間に、補助光の発光装置から前記補助光を複数回発光させる発光制御部と、を備え、
    前記ローリングシャッタ方式による前記駆動は、前記画素行の前記光電変換素子の電荷をリセットすることにより当該光電変換素子の露光を開始する処理を前記画素行を変えながら順次行い、前記露光が終了した前記画素行から順次、前記光電変換素子に蓄積された電荷に応じた画素信号を読み出す駆動であり、
    隣接する2つの前記画素行において前記駆動により開始される前記露光の開始タイミングの差は、nを1以上の整数として、当該露光の行われる時間である露光時間の1/n 倍以外の値となっており、
    前記発光制御部は、前記補助光の発光周期を、mを1以上の整数として、前記差のm倍の時間に制御する撮像制御装置。
  2. 請求項1記載の撮像制御装置であって、
    前記発光制御部は、前記露光時間が前記差よりも大きい場合には、前記mの上限値を、前記露光時間を前記差で除して得られる商の値に設定する撮像制御装置。
  3. 請求項1又は2記載の撮像制御装置であって、
    前記発光制御部は、kを3以上の整数として、前記補助光の発光周期を前記差のk倍以上の時間に制御する場合には、前記発光周期の間において、k−2 回を上限として、前記補助光の発光タイミングを起点とし前記差を周期とする追加の前記補助光を発光させる撮像制御装置。
  4. 請求項1〜3のいずれか1項記載の撮像制御装置であって、
    前記発光制御部は、前記補助光の発光期間と、前記画素行の露光が開始されるタイミングとが重なるのを避けた状態にて前記補助光を発光させる撮像制御装置。
  5. 請求項1〜4のいずれか1項記載の撮像制御装置と、
    前記撮像素子と、を備える撮像装置。
  6. 請求項5記載の撮像装置であって、
    前記発光装置を更に備える撮像装置。
  7. 光電変換素子を含む画素を複数有し、第一の方向に配列された複数の前記画素からなる画素行が前記第一の方向と直交する第二の方向に複数個配列された撮像面を有する撮像素子をローリングシャッタ方式により駆動することにより被写体を撮像する撮像制御ステップと、
    前記撮像が行われる間に、補助光の発光装置から前記補助光を複数回発光させる発光制御ステップと、を備え、
    前記ローリングシャッタ方式による前記駆動は、前記画素行の前記光電変換素子の電荷をリセットすることにより当該光電変換素子の露光を開始する処理を前記画素行を変えながら順次行い、前記露光が終了した前記画素行から順次、前記光電変換素子に蓄積された電荷に応じた画素信号を読み出す駆動であり、
    隣接する2つの前記画素行において前記駆動により開始される前記露光の開始タイミングの差は、nを1以上の整数として、当該露光の行われる時間である露光時間の1/n 倍以外の値となっており、
    前記発光制御ステップでは、前記補助光の発光周期を、mを1以上の整数として、前記差のm倍の時間に制御する撮像制御方法。
  8. 請求項7記載の撮像制御方法であって、
    前記発光制御ステップでは、前記露光時間が前記差よりも大きい場合には、前記mの上限値を、前記露光時間を前記差で除して得られる商の値に設定する撮像制御方法。
  9. 請求項7又は8記載の撮像制御方法であって、
    前記発光制御ステップでは、kを3以上の整数として、前記補助光の発光周期を前記差のk倍以上の時間に制御する場合には、前記発光周期の間において、k−2 回を上限として、前記補助光の発光タイミングを起点とし前記差を周期とする追加の前記補助光を発光させる撮像制御方法。
  10. 請求項7〜9のいずれか1項記載の撮像制御方法であって、
    前記発光制御ステップでは、前記補助光の発光期間と、前記画素行の露光が開始されるタイミングとが重なるのを避けた状態にて前記補助光を発光させる撮像制御方法。
  11. 光電変換素子を含む画素を複数有し、第一の方向に配列された複数の前記画素からなる画素行が前記第一の方向と直交する第二の方向に複数個配列された撮像面を有する撮像素子をローリングシャッタ方式により駆動して被写体を撮像する撮像制御ステップと、
    前記撮像が行われる間に、補助光の発光装置から前記補助光を複数回発光させる発光制御ステップと、をコンピュータに実行させるための撮像制御プログラムであって、
    前記ローリングシャッタ方式による前記駆動は、前記画素行の前記光電変換素子の電荷をリセットすることにより当該光電変換素子の露光を開始する処理を前記画素行を変えながら順次行い、前記露光が終了した前記画素行から順次、前記光電変換素子に蓄積された電荷に応じた画素信号を読み出す駆動であり、
    隣接する2つの前記画素行において前記駆動により開始される前記露光の開始タイミングの差は、nを1以上の整数として、当該露光の行われる時間である露光時間の1/n 倍以外の値となっており、
    前記発光制御ステップでは、前記補助光の発光周期を、mを1以上の整数として、前記差のm倍の時間に制御する撮像制御プログラム。
JP2019541923A 2017-09-15 2018-07-12 撮像制御装置、撮像装置、撮像制御方法、及び撮像制御プログラム Active JP6839768B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017177988 2017-09-15
JP2017177988 2017-09-15
PCT/JP2018/026407 WO2019054031A1 (ja) 2017-09-15 2018-07-12 撮像制御装置、撮像装置、撮像制御方法、及び撮像制御プログラム

Publications (2)

Publication Number Publication Date
JPWO2019054031A1 JPWO2019054031A1 (ja) 2020-10-08
JP6839768B2 true JP6839768B2 (ja) 2021-03-10

Family

ID=65722631

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019541923A Active JP6839768B2 (ja) 2017-09-15 2018-07-12 撮像制御装置、撮像装置、撮像制御方法、及び撮像制御プログラム

Country Status (4)

Country Link
US (1) US10735662B2 (ja)
JP (1) JP6839768B2 (ja)
CN (1) CN111095911B (ja)
WO (1) WO2019054031A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111601053B (zh) * 2020-05-20 2021-07-27 上海炬佑智能科技有限公司 一种图像传感器、全局快门控制方法及计算机存储介质
KR102405494B1 (ko) 2020-08-11 2022-06-08 주식회사 슈프리마아이디 조명 제어를 이용하는 이미지 생성 장치
JP2022085551A (ja) * 2020-11-27 2022-06-08 セイコーエプソン株式会社 画像処理装置
US11956551B2 (en) * 2022-05-31 2024-04-09 Microsoft Technology Licensing, Llc Systems and methods for camera exposure controlled strobing lights

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3197679B2 (ja) * 1993-04-30 2001-08-13 富士写真フイルム株式会社 写真撮影システムおよび方法
JP4823743B2 (ja) * 2006-04-03 2011-11-24 三星電子株式会社 撮像装置,及び撮像方法
JP2007318581A (ja) * 2006-05-29 2007-12-06 Casio Comput Co Ltd 撮像装置、撮影補助光源発光/撮像制御方法、および撮影補助光源発光/撮像制御プログラム
US7667740B2 (en) * 2006-07-28 2010-02-23 Hewlett-Packard Development Company, L.P. Elimination of modulated light effects in rolling shutter CMOS sensor images
JP2008042471A (ja) * 2006-08-04 2008-02-21 Canon Inc 撮像装置及びその処理方法
JP2009139553A (ja) * 2007-12-05 2009-06-25 Samsung Techwin Co Ltd 撮像装置および撮像方法
JP2009204852A (ja) * 2008-02-27 2009-09-10 Ricoh Co Ltd 画像読取装置
US8994877B2 (en) * 2008-07-30 2015-03-31 Semiconductor Components Industries, Llc Method and system for synchronizing a flash to an imager
JP2011015222A (ja) * 2009-07-02 2011-01-20 Fujifilm Corp 撮像装置及び撮像制御方法
US20110255786A1 (en) * 2010-04-20 2011-10-20 Andrew Hunter Method and apparatus for determining flicker in the illumination of a subject
JP5422745B2 (ja) * 2010-09-14 2014-02-19 富士フイルム株式会社 撮像装置及び撮像方法
CN104135908B (zh) * 2012-03-28 2016-07-06 富士胶片株式会社 摄像装置以及具备其的内窥镜装置
JP5860952B2 (ja) * 2012-03-28 2016-02-16 富士フイルム株式会社 撮像装置、及びこれを備える内視鏡装置
JP5639670B2 (ja) 2013-02-01 2014-12-10 浜松ホトニクス株式会社 画像取得装置及び撮像装置
JP5784845B2 (ja) * 2013-07-09 2015-09-24 オリンパス株式会社 撮像システム
CN104604213B (zh) * 2013-09-04 2017-11-14 奥林巴斯株式会社 摄像系统
JP6373577B2 (ja) * 2013-12-25 2018-08-15 ザインエレクトロニクス株式会社 撮像制御装置
CN104702850B (zh) * 2014-03-20 2018-03-30 杭州海康威视数字技术股份有限公司 一种互补金属氧化物半导体摄像机及其补光方法
US10182181B2 (en) * 2014-12-23 2019-01-15 Intel Corporation Synchronization of rolling shutter camera and dynamic flash light

Also Published As

Publication number Publication date
CN111095911B (zh) 2021-04-20
US10735662B2 (en) 2020-08-04
US20200213500A1 (en) 2020-07-02
WO2019054031A1 (ja) 2019-03-21
CN111095911A (zh) 2020-05-01
JPWO2019054031A1 (ja) 2020-10-08

Similar Documents

Publication Publication Date Title
US10623673B2 (en) Imaging device, imaging method, and imaging program
JP6839768B2 (ja) 撮像制御装置、撮像装置、撮像制御方法、及び撮像制御プログラム
JP6569022B2 (ja) 撮像装置、撮像方法、及び撮像プログラム
JP6569025B2 (ja) 撮像装置、撮像方法、及び撮像プログラム
US11095845B2 (en) Imaging control device, imaging apparatus, imaging control method, and imaging control program
US10750105B2 (en) Imaging apparatus, operation method of imaging apparatus, and operation program of imaging apparatus
JP6569023B2 (ja) 撮像装置、撮像方法、及び撮像プログラム
CN110024373B (zh) 摄像装置、摄像方法及存储介质
US10863110B2 (en) Imaging control device, imaging apparatus, imaging control method, and imaging control program
JP7266102B2 (ja) 撮像装置、撮像方法、及び撮像プログラム
US20230388669A1 (en) Imaging control device, imaging apparatus, imaging control method, and imaging control program
WO2022054310A1 (ja) 撮像装置、電力制御方法、及び電力制御プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200225

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210215

R150 Certificate of patent or registration of utility model

Ref document number: 6839768

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250