JP2024023712A - 撮像装置、撮像方法、撮像プログラム、及び記録媒体 - Google Patents

撮像装置、撮像方法、撮像プログラム、及び記録媒体 Download PDF

Info

Publication number
JP2024023712A
JP2024023712A JP2023213516A JP2023213516A JP2024023712A JP 2024023712 A JP2024023712 A JP 2024023712A JP 2023213516 A JP2023213516 A JP 2023213516A JP 2023213516 A JP2023213516 A JP 2023213516A JP 2024023712 A JP2024023712 A JP 2024023712A
Authority
JP
Japan
Prior art keywords
frame rate
imaging
exposure time
imaging device
processor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023213516A
Other languages
English (en)
Inventor
武弘 河口
Takehiro Kawaguchi
太郎 斎藤
Taro Saito
幸徳 西山
Yukinori Nishiyama
智大 島田
Tomohiro Shimada
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JP2024023712A publication Critical patent/JP2024023712A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • G03B7/093Digital circuits for control of exposure time
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/2222Prompting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10144Varying exposure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Computer Graphics (AREA)

Abstract

【課題】良好な画質のスロー動画を容易に取得できる撮像装置、撮像方法、撮像プログラム、及び記録媒体を提供する。【解決手段】本発明の一態様は、光学系と、撮像素子と、プロセッサと、を備える撮像装置により実行される撮像方法であって、プロセッサが行う処理は、撮像素子から出力される画像信号に基づいて被写体の動きを検出する検出工程と、検出した動きに基づいて、撮像素子から出力される動画のフレームレートを連続的に上げるフレームレート制御工程と、フレームレートを上げるのに応じて、動画の1フレーム当たりの露光時間の割合を一定にする露光制御工程と、露光時間の制御に応じて、光学系の減光度合いを変化させる減光制御工程と、を含み、割合は半分以上である。【選択図】 図6

Description

本発明は、動画を撮像する撮像装置、撮像方法、撮像プログラム、及び記録媒体に関する。
動画を撮像するための技術に関し、例えば特許文献1には、撮像のフレームレートの変化に応じてフィルタの透過率を制御する撮像装置が記載されている。
国際公開第2015/151813号
本開示の技術に係る一つの実施形態は、動きのある被写体について、良好な画質のスロー動画を容易に取得できる撮像装置、撮像方法、撮像プログラム、及び記録媒体を提供する。
本発明の第1の態様に係る撮像装置は、光学系と、撮像素子と、プロセッサと、を備える撮像装置であって、プロセッサは、撮像素子から出力される画像信号に基づいて被写体の動きを検出する検出処理と、検出した動きに基づいて、撮像素子から出力される動画のフレームレートを上げるフレームレート制御と、フレームレートを上げるのに応じて、動画の1フレーム当たりの露光時間の割合を一定に保つ露光制御処理と、露光制御処理に応じて、光学系の減光度合いを変化させる減光制御処理と、を行う。
第2の態様に係る撮像装置は第1の態様において、プロセッサは、動きに基づいて、フレームレート及び露光時間を変化させ始める第1タイミングと、フレームレート及び露光時間を目標値にする第2タイミングと、を算出し、第1タイミングから第2タイミングまでフレームレートを上げ、第1タイミングから第2タイミングまで露光時間を短くする。
第3の態様に係る撮像装置は第2の態様において、プロセッサは、フレームレート制御において、検出した動きに基づいて、複数の被写体の距離がしきい値以下となるタイミングを第2タイミングとして算出する。
第4の態様に係る撮像装置は第3の態様において、プロセッサは、複数の被写体の相対速度に応じてフレームレート及び露光時間の変化率を設定する。
第5の態様に係る撮像装置は第2から第4の態様のいずれか1つにおいて、プロセッサは、フレームレート及び露光時間について、目標値を設定する。
第6の態様に係る撮像装置は第2から第5の態様のいずれか1つにおいて、プロセッサは、第2タイミングが経過した後に、フレームレート、露光時間、及び減光度合いを、フレームレート制御、露光制御処理、及び減光制御処理を開始する前の値に戻す。
第7の態様に係る撮像装置は第1から第6の態様のいずれか1つにおいて、プロセッサは、フレームレートが高いほどビットレートを高くして第1タイミング以降の上げたフレームレートの動画である第1動画を撮像する。
第8の態様に係る撮像装置は第7の態様において、プロセッサは、第1動画について、1フレーム当たりの露光時間をフレーム間隔の半分以上に設定する。
第9の態様に係る撮像装置は第7または第8の態様において、プロセッサは、第1動画を、フレームレート制御を開始する前と同じ初期フレームレートで表示装置に表示させる。
第10の態様に係る撮像装置は第9の態様において、プロセッサは、第1動画のフレームを間引いて初期フレームレートを有する第2動画を生成し、第1動画及び第2動画を、初期フレームレートで表示装置に表示させる。
第11の態様に係る撮像装置は第1から第10の態様のいずれか1つにおいて、プロセッサは、フレームレートと、露光時間と、減光素子の減光度合いと、絞りと、感度と、ビットレートと、のうち少なくとも1つを設定するようユーザを促す情報を出力する。
第12の態様に係る撮像装置は第1から第11の態様のいずれか1つにおいて、光学系は絞り度合いが可変の絞り機構を備え、プロセッサは、露光時間を短くするのに合わせて絞り機構の絞り度合いを解放側に変化させる。
本発明の第13の態様に係る撮像方法は、光学系と、撮像素子と、プロセッサと、を備える撮像装置による撮像方法であって、プロセッサが行う処理は、撮像素子から出力される画像信号に基づいて被写体の動きを検出する検出工程と、検出した動きに基づいて、撮像素子から出力される動画のフレームレートを連続的に上げるフレームレート制御工程と、フレームレートを上げるのに応じて、動画の1フレーム当たりの露光時間を連続的に短くする露光制御工程と、露光時間の制御に応じて、光学系の減光度合いを変化させる減光制御工程と、を含む。なお、第13の態様に係る撮像方法に対し、第2から第12と同様の構成をさらに含めてもよい。
本発明の第14の態様に係る撮像プログラムは、第13の態様に係る撮像方法をコンピュータに実行させる。斯かるプログラムのコンピュータ読み取り可能なコードを記録した非一時的記録媒体も、本発明の態様として挙げることができる。
図1は、第1の実施形態に係る撮像装置の概略構成を示す図である。 図2は、画像処理装置の機能構成を示す図である。 図3は、第1の実施形態に係る撮像方法の処理を示すフローチャートである。 図4は、第1の実施形態に係る撮像方法の処理を示すフローチャート(図3の続き)である。 図5は、被写体の動きに基づくイベントタイミングの算出の様子を示す図である。 図6は、フレームレート等の制御の様子を示す図である。 図7は、絞りの制御の様子を示す図である。 図8は、フレームレート等の制御の様子を示す他の図である。 図9は、被写体の相対速度に基づくフレームレートの制御の様子を示す図である。 図10は、動く被写体と静止している被写体によるイベントの発生を示す図である。 図11は、変形例6の処理を示すフローチャートである。 図12は、第1動画と第2動画を同時表示する様子を示す図である。 図13は、第2の実施形態に係るスマートフォンの外観図である。 図14は、スマートフォンの概略構成を示す図である。
本発明に係る撮像装置、撮像方法、撮像プログラム、及び記録媒体の一つの実施形態は以下の通りである。説明においては、必要に応じて添付図面が参照される。
<第1の実施形態>
<撮像装置の全体構成>
図1は第1の実施形態に係るカメラ100(撮像装置、光学系)の概略構成を示す図である。カメラ100は交換レンズ200(光学系)及び撮像装置本体300(撮像装置本体)により構成され、後述するズームレンズ220,フォーカスレンズ240を含む撮影レンズにより、被写体像(光学像)を撮像素子310に結像させる。交換レンズ200と撮像装置本体300とは、図示せぬマウントを介して装着及び取り外しをすることができる。なお、第1の実施形態ではカメラ100が交換レンズ200を備える場合について説明しているが、本発明において、レンズ装置(光学系)がカメラ本体に固定されていてもよい。
<交換レンズの構成>
交換レンズ200は、減光素子210と、ズームレンズ220と、絞り230と、フォーカスレンズ240と、レンズ駆動部250と、を備える。レンズ駆動部250は、画像処理装置340(図2のレンズ駆動制御部360;プロセッサ)からの指令に応じてズームレンズ220、フォーカスレンズ240を進退駆動してズーム(光学ズーム)調整、フォーカス調整を行う。ズーム調整及びフォーカス調整は、画像処理装置340からの指令に応じて行う他に、ユーザが行ったズーム操作、フォーカス操作(図示せぬズームリング、フォーカスリングの回動等)に応じて行ってもよい。また、レンズ駆動部250は、画像処理装置340(レンズ駆動制御部360)からの指令に応じて減光素子210(減光素子、減光フィルタ、光学系)の減光度合いを変化させる。さらに、レンズ駆動部250は、画像処理装置340からの指令に応じて絞り230(絞り機構)を制御し、露出を調整する。一方、ズームレンズ220及びフォーカスレンズ240の位置、絞り230の開放度等の情報が画像処理装置340に入力される。なお、交換レンズ200は光軸Lを有する。
<減光素子及び絞りの構成>
減光素子210は、例えば可変NDフィルタ(ND:Neutral Density)により構成され、減光度合いを変化させることができる。減光度合いは、例えば、回転方向に減光度合いが異なる複数のNDフィルタを重ねて相対的に回転させることにより変更することができる。あるいは、エレクトロクロミック素子を用いて減光素子を構成し、印加する電圧を変えることにより減光度合いを変化させてもよい。また、液晶表示素子を用いて減光素子を構成し、液晶の透過率を変更することにより減光度合いを変化させてもよい。絞り230(絞り機構)は、移動及び/または回転が可能な羽根状部材あるいは板状部材により構成され、絞り度合いを変化させることができる。液晶表示素子を用いて絞り度合いが可変の絞りを構成してもよい。なお、図1では減光素子210及び絞り230が交換レンズ200に設けられる態様について説明しているが、減光素子及び/または絞りが撮像装置本体300側に設けられていてもよい。
<撮像装置本体の構成>
撮像装置本体300は、撮像素子310(撮像素子)、AFE320(AFE:Analog Front End)、A/D変換器330(A/D:Analog to Digital)、及び画像処理装置340(プロセッサ、条件設定部、検出処理部、フレームレート制御部、露光制御処理部、撮影部、減光制御処理部、絞り制御部、表示制御部、情報出力部、レンズ駆動制御部)を備える。また、撮像装置本体300は、操作部370、記録装置380(記録装置)、モニタ390(表示装置)、及びスピーカ395を備える。撮像装置本体300は、撮像素子310に透過させる光を遮光するためのシャッター(不図示)を有していてもよい。なお、シャッターは、メカニカルシャッターでも電子シャッターでもよい。電子シャッターの場合、画像処理装置340によって撮像素子310の電荷蓄積期間を制御することで、露光時間(シャッタースピード)を調節することができる。
撮像素子310は、多数の受光素子がマトリクス状に配列された受光面を備える。そして、減光素子210(減光素子、減光フィルタ、光学系)、ズームレンズ220(光学系)、絞り230(絞り機構、光学系)、及びフォーカスレンズ240(光学系)を透過した被写体光が撮像素子310の受光面上に結像され、各受光素子によって電気信号に変換される。撮像素子310の受光面上にはR(赤),G(緑),またはB(青)のカラーフィルタが設けられており、各色の信号に基づいて被写体のカラー画像を取得することができる。なお、撮像素子310としては、CMOS(Complementary Metal-Oxide Semiconductor)、CCD(Charge-Coupled Device)等の様々な光電変換素子を用いることができる。AFE320は撮像素子310から出力されるアナログ画像信号のノイズ除去、増幅等を行い、A/D変換器330は、取り込んだアナログ画像信号を階調幅があるデジタル画像信号に変換する。
なお、撮像素子310がCMOSである場合、AFE320及びA/D変換器330は、撮像素子310に含まれることが多い。CMOSを用いる例としては、撮像素子310から出力されるアナログ画像信号を撮像素子310に内蔵するA/D変換器330によってデジタル画像信号に変換する。その後、撮像素子310に内蔵するデジタル処理部(図示せず)によって、デジタル相関二重サンプリング、デジタルゲイン処理、補正処理等を行ってデジタル画像信号に変換する。
<画像処理装置の構成>
図2は、画像処理装置340(プロセッサ)の機能構成を示す図である。画像処理装置340は、条件設定部342、検出処理部344、フレームレート制御部346、露光制御処理部348、撮影部350、減光制御処理部352、絞り制御部354、表示制御部356、情報出力部358、及びレンズ駆動制御部360を備える。画像処理装置340は、A/D変換器330から入力されたデジタル画像信号に基づいて、動画の撮像(撮影)及びファイル生成、静止画の撮像(撮影)及び静止画ファイル生成等の処理を行う。画像処理装置340を用いた処理の詳細は後述する。
画像処理装置340の機能は、各種のプロセッサ(processor)を用いて実現できる。各種のプロセッサには、例えばソフトウェア(プログラム)を実行して各種の機能を実現する汎用的なプロセッサであるCPU(Central Processing Unit)が含まれる。また、上述した各種のプロセッサには、画像処理に特化したプロセッサであるGPU(Graphics Processing Unit)が含まれる。また、上述した各種のプロセッサには、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)も含まれる。さらに、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路なども上述した各種のプロセッサに含まれる。
なお、画像処理装置340の各機能は1つのプロセッサで実現されていてもよいし、複数のプロセッサで実現されていてもよい。また、1つのプロセッサが複数の機能に対応していてもよい。さらに、画像処理装置340の各機能は回路によって実現されていてもよく、また各機能の一部を回路で実現し、残りがプロセッサによって実現されていてもよい。
上述したプロセッサあるいは電気回路がソフトウェア(プログラム)を実行する際は、実行するソフトウェアのプロセッサ(コンピュータ)読み取り可能なコードをROM(Read Only Memory)等の非一時的記録媒体に記憶しておく。そして、プロセッサがそのソフトウェアを参照する。非一時的記録媒体に記憶しておくソフトウェアは、本発明に係る撮像方法を実行するための撮像プログラム(撮像装置を動作させるプログラム)を含む。ROMではなく各種光磁気記録装置、半導体メモリ等の非一時的記録媒体にコードを記録してもよい。ソフトウェアを用いた処理の際には例えばRAM(Random Access Memory)が一時的記憶領域として用いられ、また例えば不図示のEEPROM(Electronically Erasable and Programmable Read Only Memory)に記憶されたデータを参照することもできる。
画像処理装置340は、上述の各部の他にROM362(非一時的記録媒体、メモリ)を備える。ROM362には、画像の撮像、記録、表示等に必要なプログラム(本発明に係る撮像方法を実行するためのプログラムを含む)の、コンピュータ(例えば、画像処理装置340を構成する各種のプロセッサ)で読み取り可能なコードが記録される。また、画像処理装置340は、一時的な記憶領域及び作業領域としてのRAM364(メモリ)を備える。
<操作部>
操作部370は図示せぬレリーズボタン、操作用ボタン(例えば十字ボタン、Quickボタン、OKボタン等)、ダイヤル、スイッチ等を有し、ユーザは撮影モード設定、撮影条件の設定、動画撮影指示、静止画撮影指示等、各種の操作を行うことができる。また、画像処理装置340は、これらユーザの指示を受け付けることができる。なお、モニタ390(表示装置)をタッチパネル型のデバイスで構成し、操作部として使用してもよい。
<記録装置>
記録装置380(記録装置)は各種の光磁気記録媒体、半導体メモリ等の非一時的記録媒体及びその制御回路により構成され、動画(第1動画、第2動画、通常動画等)、静止画等を保存する。記録媒体としては、撮像装置本体300に対し着脱できるタイプを用いることができる。撮像した画像(動画、静止画)を、例えば有線及び/または無線通信により外部の(記録装置380以外の)記録媒体や記録装置に送信して保存してもよい。
<モニタ及びスピーカ>
モニタ390(表示装置)は例えばタッチパネル型の液晶表示パネルにより構成され、動画(通常動画、スロー動画)、静止画、ユーザへのメッセージ(例えば、フレームレートと、露光時間と、減光素子の減光度と、絞りと、感度と、ビットレートと、のうち少なくとも1つを設定するようユーザを促す情報)等を表示することができる。モニタ390は撮像装置本体300の背面側、天面側等に配置することができる。このメッセージはスピーカ395から音声出力してもよい。なお、カメラ100は光学式及び/または電子式のビューファインダを備えていてもよい。
<スロー撮影における課題及び本願発明の手法>
一般的に、動画の露光時間として、フレームレートの半分以上の露光時間が適正とされており(例:60fps(frame per second)の動画ならば1/120sec以上の露光時間)、それよりも露光時間が短いと、被写体の動きがぎくしゃくした間欠的なものになる現象(いわゆる「パラパラ感」)が発生し、動画として不適と言われている。適性露出を保ったまま露光時間を延ばすには、感度を下げることや、絞りを絞ることが考えられるが、感度は下げられる限界が存在するし、絞りを絞ると被写界深度が変わるため撮影者の意図とは異なる動画になってしまう可能性がある。このため、映画撮影用などの高価な撮像装置には、内蔵したNDフィルタ等で光量を下げることにより、感度及び絞りの条件を一定に保ったまま露光時間を延ばすことができる機能が備わっている。
また、撮影時に通常フレームレートより高いフレームレート(高フレームレート)で撮影しておき、再生時に通常フレームレートで再生する「スロー撮影」という機能が知られている(例:240fpsで撮影し、60fpsで再生することで4倍スローとなる)。以下、この機能で撮影された動画を「スロー動画」という。
スロー撮影では高フレームレートとなるため、先に記した一般的な撮影方法によると、高速シャッター(短い露光時間)で撮影する必要がある(240fpsならば1/480sec以上の露光時間)。通常フレームレートで適正な露出で撮影している状態からパラパラ感を感じさせないようにスロー撮影に切り替えようとすると、高フレームレートへの切り替えにあわせて露光時間を大きく変える必要がある。しかし、NDフィルタの減光度は一瞬(短時間)で変えることができないため、一瞬(短時間)で変更することができる感度を切り替えて対応することとなるが、感度を切り替えることで「ザラザラ感」(画像における粒状のノイズの有無、程度、パターン等)が変わってしまう可能性がある。スポーツなどの撮影では、取り直しができないためこの点を承知の上で利用されているが、取り直しが可能な映画撮影などではザラザラ感が変わることの方が問題であるため、NDフィルタで光量を調整して感度を揃え、通常フレームレート部と高フレームレート部を別々に撮影することが一般的である。
しかし、このような複数回の撮影は時間や手間を要するし、スポーツなどのように被写体に動きがある場合は対応できない。このように、従来の技術は、動きのある被写体について良好な画質のスロー動画を容易に取得できるものではなかった。
そこで、本願発明者らは、通常フレームレートからスロー撮影への切り替え時の効果的な機能として、徐々にスローになっていく(フレームレートを上げながら動画を撮影し、撮影した動画を一定のレートで表示する)手法を提案する。具体的には、詳細を以下に説明するように、被写体の動きに基づいて動画のフレームレートを徐々に(連続的にあるいは段階的に、以下同じ)上げ、フレームレートの変化に応じて露光時間を短くする。この際、フレームレート変化に伴う露光時間の変化にあわせて、適正露出を維持するために減光素子の減光度(NDフィルタの濃度)を徐々に変化させる。これにより、被写体の動きに応じて、最も効果的なタイミング(例えば、イベント発生のタイミング)で効果が最大になるようにスロー撮影への切り替えを行うことができ、動きのある被写体について良好な画質のスロー動画を容易に取得することができる。
<撮像方法の処理>
図3,4は、第1の実施形態に係る撮像方法の処理を示すフローチャートである。
<撮影条件の設定>
条件設定部342(プロセッサ)は、動画の撮影条件を設定する(ステップS100:設定処理、設定工程)。ステップS100で設定する撮影条件としては、例えば動画のフレームレート、1フレーム当たりの露光時間、絞り、減光度合い等の初期値及び/または目標値、フレームレート、露光時間、減光度合いを変化させ始めてから目標値にするまでの時間(第1期間)を挙げることができる。条件設定部342は、操作部370やモニタ390を介したユーザの操作に応じて撮影条件を設定してもよいし、あらかじめ決められた撮影条件を設定してもよい。
<通常動画の撮影>
撮影指示があった場合(ステップS110でYES)、撮影部350(プロセッサ)は、動画像(通常動画)の撮影及び記録を開始する(ステップS120)。この時点では、フレームレート及び露光時間は初期値のままである。
<動きに基づくイベント発生タイミングの算出>
検出処理部344(プロセッサ)は、例えばフレーム間の差分(動きベクトル)に基づいて、被写体の動きを検出する(ステップS130:検出処理、検出工程)。動きが検出された場合(ステップS130でYES)、検出処理部344は動きに基づいてイベント発生のタイミングを算出する。
図5は被写体の動きに基づくイベントタイミングの算出の様子を示す図である。同図の(a)部分はカメラ100の視野500にボール502とバット504が写っている状態を示しており、同図の(b)部分はボール502とバット504が動いている様子を示す。「イベント」は例えば、複数の被写体が衝突する、カメラ100から見て重なる、距離がしきい値以下(あらかじめ決められた値以下)となる状態等とすることができ、図5の場合、検出処理部344は例えばボール502とバット504が衝突するのを「イベント」としてそのタイミングを算出する。なお、バッターが空振りする(ボール502とバット504が衝突しない)場合もあるので、距離がゼロ(衝突)の場合だけでなく、距離がゼロより大きいしきい値以下となることを「イベント」としてそのタイミングを算出してもよい。
<制御計画の設定>
画像処理装置340(フレームレート制御部346及び露光制御処理部348;プロセッサ)は、被写体の動きから算出したイベントの発生タイミングに基づいて、フレームレート及び露光の制御計画を設定する(ステップS150:フレームレート制御、露光制御処理、フレーム制御工程、露光制御工程)。具体的には、フレームレート制御部346及び露光制御処理部348は、フレームレート及び露光時間を変化させ始める第1タイミングと、フレームレート及び露光時間を目標値にする第2タイミングと、を含む制御計画を設定する(ステップS150:制御計画設定、制御計画設定工程)。フレームレート制御部346は、例えば図5の場合、ボール502とバット504が衝突する瞬間(イベントの発生タイミング)を第2タイミングとし、第2タイミングから第1期間だけ前のタイミングを第1タイミングとして算出することができる。例えば、フレームレート制御部346及び露光制御処理部348は、「3秒後(第2タイミング)にイベントの発生が予測されるから、第2タイミングから2秒(第1期間)だけ前である1秒後(第1タイミング)にフレームレート及び露光時間の制御を開始して、3秒後(第2タイミング)に目標値にする」のような制御計画を設定することができる。なお、イベントの発生が複数回予測される場合は、いずれのイベントを第2タイミングとしてもよい。
フレームレート制御部346は、ボール502とバット504が衝突する瞬間(イベントの発生)から決められた時間経過したタイミングを第2タイミングとして算出してもよい。なお、フレームレート制御部346は、第1タイミングの算出に際しユーザが(ステップS100で)指定した「第1期間」の値を受け付けてもよいし、あらかじめ決められた値を用いてもよい。
<フレームレート及び露光時間の制御>
画像処理装置340(プロセッサ)は、第1タイミングになると(ステップS160でYES)、フレームレート及び露光時間の制御を開始する。図6は、フレームレート等の制御の様子を示す図である。同図の(a)部分はフレームレートの制御の様子を示す図であり、同図の(b)部分は露光時間の制御の様子を示す図である。
フレームレート制御部346(プロセッサ)は、時刻T1(第1タイミング)から時刻T2(第2タイミング)まで、撮像素子310から出力される動画のフレームレートを連続的に上げる(ステップS170:フレームレート制御、フレームレート制御工程)。図6の(a)部分に示す例では、フレームレート制御部346(プロセッサ)は動画のフレームレートを60fps(frame per second;初期フレームレート)から240fps(目標値)まで変化させる。なお、Δt(=T2-T1)が「第1期間」に相当する。
また、露光制御処理部348(プロセッサ)は、フレームレートを上げるのに応じて、時刻T1(第1タイミング)から時刻T2(第2タイミング)まで、動画の1フレーム当たりの露光時間を連続的に短くする(ステップS180:露光制御処理、露光制御工程)。時刻T1では露光時間が1/120sec(初期露光時間、Tv値(time value)は6.91)、時刻T2では露光時間が1/480sec(目標値、Tv値は8.91)である。なお、露光制御処理部348(プロセッサ)は、1フレーム当たりの露光時間をフレーム間隔の半分以上に設定することが好ましい。このような設定により、撮影した動画において被写体の動きがぎくしゃくした間欠的なものになる現象(いわゆる「パラパラ感」)を防止あるいは低減することができる。図6に示す例では露光時間はフレーム間隔の半分であり、フレーム間隔と1フレーム当たりの露光時間との割合(比率)は一定に保たれている。
<減光度の制御>
上述したフレームレート及び露光時間の制御により、再生時に徐々にスローになっていく動画(第1動画、スロー動画)が得られる。しかし、フレームレートに合わせて露光時間を変化させる(図6の(a)部分及び(b)部分に示す制御)だけだと、露光時間が短くなっていくため得られた画像がどんどん暗くなって行ってしまう。あらかじめ1/480secで露出をあわせて撮影しておくことで露出の変化は防げるが、これでは60fps時に「パラパラ感」が発生してしまう。他にも、露光時間の変化に合わせて感度を変化させることが考えられるが、感度が変わることでS/Nが変化して「ザラザラ感」(画像における粒状のノイズの有無、程度、パターン等)が変化してしまう。そこで、図6の(c)部分のように、減光制御処理部352(プロセッサ)及びレンズ駆動制御部360(プロセッサ)は、露光時間の変化に合わせて減光素子210の濃度(減光度)を連続的に変更することができる(ステップS190:減光度制御処理、減光度制御工程)。例えば、時刻T1に16であったND値(減光度合い)を時刻T2には4に下げる。このような減光度の制御により、明るさ及びザラザラ感を一定に保ちつつ徐々にスローになる動画を撮影することができる。なお、フレームレート、露光時間、及び減光度合いは、連続的ではなく段階的に変化させてもよい。
<第1動画の記録及び表示>
撮影部350(プロセッサ)は、上述の制御を行ったフレームレート、露光時間、及び減光度の下で動画(第1動画、スロー動画)を撮影し、記録装置380に記録する。「第1動画」とは、第1タイミング以降にフレームレートを上げ、露光時間を短くし、減光度合いを変化させて撮影した動画である。この際、撮影部350は、動画ファイルのヘッダ等に、「フレームレートが60fpsの動画である」ことを記録しておく。表示制御部356は、撮影した動画を、記録されたフレームレートでモニタ390に再生表示させることができ(ステップS200:第1撮影、第1表示、第1撮影工程、第1表示工程)、これによりスロー動画の効果が得られる。なお、第1動画、第2動画(後述)、及び通常動画は同じ動画ファイルに記録することができる。
また、撮影部350及び表示制御部356は、このようにして取得した動画をリアルタイムにモニタ390に表示させてもよい(ステップS200:第1撮影、第1表示、第1撮影工程、第1表示工程)。動画をリアルタイム表示する場合、撮影部350及び表示制御部356は、通常動画を取得している期間(フレームレート等の制御を行っていない期間)は通常動画をモニタ390に表示させる。また、第1動画を取得している期間(フレームレート等の制御を行っている期間)において、撮影部350及び表示制御部356は、第1動画のフレームを間引いて初期フレームレート(通常動画と同じフレームレート等)を有する第2動画を生成し、第2動画をモニタ390にリアルタイムで表示させてもよい(第2撮影、第2表示、第2撮影工程、第2表示工程)。このようなリアルタイム表示により、ユーザはモニタ390で被写体を捉えることができる。なお、第1動画と第2動画を同時に表示させる態様については、後述する変形例6で説明する。
画像処理装置340(プロセッサ;撮影部350等)は、制御終了タイミング(ステップS210;図6の例では、第2タイミングである時刻T2)まで第1動画の撮影及び記録を継続する。
<初期フレームレート等への復帰>
制御終了タイミング(第2タイミング)が経過した後に(ステップS210でYES)、フレームレート制御部346及び露光制御処理部348は、フレームレート及び露光時間を、フレームレート制御及び露光制御処理を開始する前の値に戻す(ステップS220:フレームレート制御、フレームレート制御工程、露光制御処理、露光制御工程)。また、減光制御処理部352も、減光度を元の値に戻す。なお、元の値に戻すのは、時刻T2経過後すぐにでもよいし、時刻T2から決められた時間が経過した後でもよい。元に戻すタイミングを、ユーザの操作等に基づきステップS100で設定してもよい。また、画像処理装置340(プロセッサ)は、制御の対象となった撮影条件が他にもある場合は、その条件を元に戻す。これにより、撮影される動画は通常動画となる。
画像処理装置340(プロセッサ)は、撮影終了の指示(例えば、図示せぬレリーズボタンの押し下げ等)があるまで(ステップS230でYESになるまで)、上述した処理を繰り返す。
<スロー動画の表示>
表示制御部356(プロセッサ)は、撮影した動画(通常動画、及びスロー動画である第1動画)を、初期フレームレート(フレームレート制御を開始する前と同じフレームレート)でモニタ390及び/または外部の表示装置に表示させることができる。これにより、ユーザは、動きのある被写体について、良好な画質のスロー動画(イベントの発生に向けて徐々にスローになっていく動画)を視聴することができる。
以上説明したように、第1の実施形態に係るカメラ100では、被写体の動きに応じて、衝突等のイベントに向けてフレームレートを徐々にスローに変化させ、合わせて露光時間を変化させることで、そのイベントを効果的に演出することができる。また、露光時間の変化に合わせて減光素子の減光度合い(可変NDフィルタの濃度等)を変えることで、フレームレート変更前のパラパラ感や、フレームレート変更に伴うザラザラ感の変化を犠牲にすること無く、フレームレート及び露光時間を変更することができる。このように、第1の実施形態に係るカメラ100によれば、動きのある被写体について、良好な画質のスロー動画を容易に取得することができる。
<変形例1:絞りを制御する態様>
上述した第1の実施形態では、フレームレート及び露光時間の制御に加えて減光素子210の減光度(可変NDフィルタ濃度)を制御しているが、減光度に代えて、または減光度に加えて絞りを制御してもよい。例えば露光時間を図6の(b)部分に示すように制御する場合、絞り制御部354(プロセッサ)は、時刻T1(第1タイミング)から時刻T2(第2タイミング)まで、露光時間を短くするのに合わせて、図7(絞りの制御の様子を示す図)に示すように絞り230(絞り機構)の絞り度合いを解放側に(図7の例ではF値を16から4に)変化させることができる(絞り制御処理、絞り制御工程)。絞りを制御する場合、動画がスローになる(フレームレートが上がる)のに伴って被写界深度も徐々に浅くなるため、イベントの演出性をより高めることができる。なお、減光度と絞りのいずれについて制御を行うかは、ユーザの操作に応じて決定することができる(例えば、ステップS100で設定する)。
<変形例2:露光時間及び減光度を一定期間固定する態様>
図8は、フレームレート等の制御の様子を示す他の図である。上述のように、通常の動画では「フレームレート分の1」(フレーム間隔)の半分もしくはそれ以上を露光時間とすることが一般的であるが、変形例2では、フレームレートを変更する際、露光時間が「それ以上露光時間を確保できなくなるフレームレート分の1」になるまで値を固定しておき、以降はフレームレートに合わせて「フレームレート分の1」の露光時間を設定する。これに伴い、減光素子の濃度変更タイミング及び変化量も、露光時間の変化に合わせて変える。
具体的には、フレームレートを図8の(a)部分に示すように制御する場合、露光時間が初期露光時間(1/120sec)のままだと、時刻T1A以降は「フレームレート分の1」の露光時間を確保できなくなる。そこで、露光制御処理部348は、同図の(b)部分に示すように、時刻T1A(第1タイミング)以降は露光時間が「フレームレート分の1」となるように制御する(露光時間を短くしていく;露光制御処理、露光制御工程)。
また、減光制御処理部352は、図8の(c)部分に示すように、露光時間の制御に合わせて時刻T1Aから時刻T2まで減光素子210の減光度合いを下げる(減光制御処理、減光制御工程)。同図に示す例では、減光度合いはND値で16から8まで下がっており、図6に示す制御態様と比べてND値の下げ幅を抑えている。これにより、減光素子210(可変NDフィルタ)のばらつきの影響を抑えることができる。
<変形例3:被写体の相対速度に応じた変化率を設定する態様>
被写体の速度がわかっているシーンの撮影ならば事前に撮影者が設定しておくこともできるが、速度が不明なときや、速度がばらつく場合は、ちょうど良い設定を行うことは困難である。また、何度も撮影し直すことができるとも限らない。フレームレートの変化量を事前に設定しておいても、被写体の速度が速すぎると、被写体が画角に入った時にはすでにフレームレートを変更するタイミングを過ぎていることも考えられる。
そこで、変形例3では、被写体の速度に応じてフレームレートの時間あたりの変化量を調整することで、被写体がちょうど衝突する(あるいは、距離がしきい値以下になる)タイミングに合わせてスローになっていく効果を当てはめることができる。
図9は、被写体の相対速度に基づくフレームレートの制御の様子を示す図である。同図に示す態様において、フレームレート制御部346は、フレームレートの時間あたりの変化量を、検出処理部344が検出した被写体の相対速度から決める。具体的には、被写体の相対速度が速いほど、フレームレートの変化率(時間あたりの変化量)を大きくする。例えば、図6に示す制御態様(時刻T1から時刻T2にかけて60fpsから240fpsまで変化;図9中の点線で示す)よりも被写体の相対速度が大きい場合、フレームレート制御部346は、時刻T1から時刻T1B(時刻T2より前)まで図9中の実線に沿ってフレームレートを変化させる。この場合、フレームレートの変化率は図6の態様より大きい。なお、被写体の相対速度によっては、フレームレートの変化率を図6の態様より小さくしてもよい。このように、被写体の相対速度に基づいてフレームレートを制御する場合、露光時間や減光度、絞り等もフレームレートに合わせて制御することが好ましい。
<変形例4:フレームレートに応じてビットレートを設定する態様>
上述したスロー動画の撮影によりフレームレートが上がると、1秒あたりのコマ数が増える。この状況でビットレート設定(Mbps)をそのままにしていると、1コマに使えるデータ量が減ってしまい、せっかくスローで再生させるシーンなのに画質が悪くなってしまう。そこで、変形例4では、フレームレートにあわせて圧縮率を変える。具体的には、撮影部350は、再生時のビットレートが一定になるように、フレームレートが高いほどビットレートを高くして(圧縮率としては低くして)、動画(第1動画)を撮像する。これにより画質低下の問題を解決し、スローシーンの画質を維持して良好な画質のスロー動画を取得することができる。
<変形例5:一部の被写体が静止している場合の制御>
図5,6等では複数の被写体がいずれも動いている場合について説明したが、本発明によれば、一部の被写体が静止している場合にもスロー動画を撮影することができる。図10は、動く被写体と静止している被写体によるイベントの発生を示す図である。図10に示す例では、同図の(a)部分に示すように、アスリート530が、静止したゴール540に向かって走っている。そして、同図の(b)部分に示すように、時間が経過するとアスリート530がゴール540に接近、もしくはゴール540を通過する(複数の被写体の距離がしきい値以下となる)。このゴール通過のタイミングを「イベント」としてフレームレート等の制御を行うことで、上述した態様と同様に、ユーザは動きのある被写体(アスリート530)について、良好な画質のスロー動画を容易に取得することができる。なお、図10の例のように静止した被写体(ゴール540)を含めてスロー動画を撮影する場合は、操作部370やモニタ390等を介したユーザの操作に応じて、その静止した被写体をあらかじめ指定しておくことが好ましい。
<変形例6:第1動画と第2動画を同時に表示する態様>
スロー動画を撮影する際、上述のように動画をリアルタイムにモニタ390(表示装置)に表示することで、ユーザは被写体を捉えることができる。しかし、上述のようにフレームレート等を変化させてスローに変化していく動画(第1動画)を撮影しても、撮影完了後に再生させてみないと効果が検証できない。そこで、変形例6では、通常動画及び第2動画のリアルタイム表示の他に、第1動画(スロー効果が反映されて撮影された動画)を同時に表示する。
図11は変形例6の処理を示すフローチャートである。同図のフローチャートにおいて、図3,4のフローチャートと同様の処理には同じステップ番号を付し、詳細な説明を省略する。
撮影部350(プロセッサ)は、第2動画を取得するタイミングであるか否かを判断する(ステップS202:第2撮影、第2撮影工程)。例えば、第1動画のフレームレートが初期フレームレートの2倍になっていれば2フレームのうち1フレームを間引いて第2動画のフレームとし、第1動画のフレームレートが初期フレームレートの3倍になっていれば3フレームのうち2フレームを間引いて第2動画のフレームとする。第1動画のフレームレートが上がるにつれて、間引きの率も上がって行く。撮影部350は第2動画を記録装置380に記録し、表示制御部356はモニタ390に第2動画を表示させる(ステップS204:第2撮影、第2撮影工程)。
図12は第1動画と第2動画を同時表示する様子を示す図である。同図の(a)部分では、モニタ390の表示領域において、第2動画表示領域510の中に第1動画表示領域520が設けられている。同部分はフレームレートの制御を開始した状態(第1タイミングの状態)であり、第1動画と第2動画の差がない。これに対し図12の(b)部分及び(c)部分はフレームレートが上がって行って第1動画と第2動画の差が広がっていった状態を示す。このような表示により、ユーザは第2動画で被写体を捉えつつ、第1動画(スロー動画)の様子を確認することができる。
なお、図12の例では第2動画表示領域510の中に第1動画表示領域520を設けているが、これとは逆に第1動画表示領域520の中に第2動画表示領域510を設けてもよい。また、表示制御部356は第1動画と第2動画とを別の表示領域に、あるいは別の表示装置に表示させてもよい。
<変形例7:ユーザに対するレコメンド>
情報出力部358(プロセッサ)は、設定された撮影条件及び撮影しようとしているシーンの状況(明るさ、被写体の動き等)に応じて、フレームレートと、露光時間と、減光素子の減光度合いと、絞りと、感度と、ビットレートと、のうち少なくとも1つを設定するようユーザを促す情報をモニタ390、スピーカ395等に出力してもよい。
例えば、撮影シーンが明るく、フレームレートの切り替え前にユーザが設定した露出では減光素子210(可変NDフィルタ)をこれ以上暗くすることができずに露出オーバーになってしまう状況において、情報出力部358は、NDフィルタを外付けすることを促す情報を出力することができる。また、同様の状況で、情報出力部358は、絞り230を絞ることを促す情報や、露光時間を短くすることを促す情報を出力することができる。このような情報に応じた絞りや露光時間の設定により、ユーザは明るいシーンでも適性露出で撮影することができる。
逆に、撮影シーンが暗い場合、情報出力部358は、感度を上げることを促す情報や、絞りを開けることを促す情報、あるいは制御後のフレームレートの最速値(目標値)を低くする(すなわち、再生したときのスロー度合いが弱くなる)ことを促す情報を出力することができる。このような情報に応じた設定により、ユーザは暗いシーンでも適性露出で撮影することができる。
情報出力部358は、このような情報を、撮影条件を設定する際(ステップS100)や撮影指示の際(ステップS110でYES)等のタイミングで出力することができる。
なお、このような情報を出力する際に、情報出力部358は、「情報に応じた操作や設定により、撮影意図と異なる動画が撮影される可能性がある」旨の注意を併せてモニタ390、スピーカ395等に出力してもよい。例えば、絞りの変更により被写界深度が変わることや、露光時間の変更により「パラパラ感」が変わることや、感度の変更により「ザラザラ感」が変わることを示す情報を出力することができる。このような出力により、「適性露出での撮影を優先する」、「被写界深度等を意図通りにすることを優先する」等、ユーザの選択の幅を広げることができる。
<第2の実施形態>
第1の実施形態では、デジタルカメラであるカメラ100について説明したが、撮像装置の構成はこれに限定されない。本発明のその他の撮像装置としては、例えば、内蔵型または外付け型のPC用カメラ(PC:Personal Computer)、あるいは、以下に説明するような、撮影機能を有する携帯端末装置とすることができる。
本発明の撮像装置の一実施形態である携帯端末装置としては、例えば、携帯電話機やスマートフォン、PDA(Personal Digital Assistant)、携帯型ゲーム機、スマートウォッチが挙げられる。以下、スマートフォンを例に挙げ、図面を参照しつつ、詳細に説明する。
図13は第2の実施形態に係るスマートフォン1(撮像装置、撮像装置本体)の外観図である。同図の(a)部分は正面図、(b)部分は背面図である。図13に示すスマートフォン1は平板状の筐体2を有し、筐体2の一方の面に表示部としての表示パネル21(表示装置)と、入力部としての操作パネル22(操作部)とが一体となった表示入力部20を備えている。また、筐体2は、スピーカ31(スピーカ)と、マイクロフォン32、操作部40(操作部)と、カメラ部41,42(撮像装置)、ストロボ43とを備えている。なお、筐体2の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用してもよいし、折り畳み構造やスライド機構を有する構成を採用してもよい。
図14は、スマートフォン1の概略構成を示す図である。図14に示すように、スマートフォン1は、無線通信部11と、表示入力部20と、通話部30と、操作部40と、カメラ部41,42と、ストロボ43と、記憶部50と、外部入出力部60と、GPS受信部70(GPS:Global Positioning System)と、モーションセンサ部80と、電源部90と、を備える。また、スマートフォン1は、主制御部101(プロセッサ)を備える。また、スマートフォン1の主たる機能として、基地局装置と移動通信網とを介した移動無線通信を行う無線通信機能を備える。
無線通信部11は、主制御部101の指示にしたがって、移動通信網に収容された基地局装置に対し無線通信を行う。斯かる無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
表示入力部20は、主制御部101の制御により、画像(静止画像及び/または動画像)や文字情報などを表示して視覚的にユーザに情報を伝達すると共に、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル21と、操作パネル22とを備える。
表示パネル21においては、LCD(Liquid Crystal Display)、OLED(Organic Light-Emitting Diode)などが表示デバイスとして用いられる。操作パネル22は、表示パネル21の表示面上に表示される画像を視認可能に載置され、ユーザの指やペン等の導体によって操作される1または複数の座標を検出するデバイスである。斯かるデバイスをユーザの指やペン等の導体によって操作すると、操作パネル22は、操作に起因して発生する検出信号を主制御部101に出力する。次いで、主制御部101は、受信した検出信号に基づいて、表示パネル21上の操作位置(座標)を検出する。
図13に示すように、本発明の撮像装置の一実施形態として例示しているスマートフォン1の表示パネル21と操作パネル22とは一体となって表示入力部20を構成しているが、操作パネル22が表示パネル21を完全に覆う配置となっている。斯かる配置を採用した場合、操作パネル22は、表示パネル21外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル22は、表示パネル21に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル21に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
通話部30は、スピーカ31やマイクロフォン32を備え、マイクロフォン32を通じて入力されたユーザの音声を主制御部101にて処理可能な音声データに変換して主制御部101に出力すること、無線通信部11あるいは外部入出力部60により受信された音声データを復号してスピーカ31から出力することができる。また、図13に示すように、例えばスピーカ31を表示入力部20が設けられた面と同じ面に搭載し、マイクロフォン32を筐体2の側面に搭載することができる。
操作部40は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるデバイスである。例えば図13に示すように、操作部40は、スマートフォン1の筐体2の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部50(記録装置)は、主制御部101の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶する。また、記憶部50は、スマートフォン内蔵の内部記憶部51と着脱自在な外部メモリ用のスロットを有する外部記憶部52により構成される。なお、記憶部50を構成するそれぞれの内部記憶部51と外部記憶部52は、公知の格納媒体を用いて実現される。
外部入出力部60は、スマートフォン1に連結される全ての外部機器とのインターフェースの役割を果たす。スマートフォン1は、外部入出力部60を介して他の外部機器に通信等により直接的または間接的に接続される。通信等の手段としては、例えば、ユニバーサルシリアルバス(USB:Universal Serial Bus)、IEEE1394、ネットワーク(例えば、インターネット、無線LAN)を挙げることができる。この他、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)などを通信等の手段として挙げることができる。さらに、UWB(Ultra Wide Band)(登録商標)、ジグビー(ZigBee)(登録商標)なども通信等の手段として挙げることができる。
スマートフォン1に連結される外部機器としては、例えば、有線/無線ヘッドセット、有線/無線外部充電器、有線/無線データポートを挙げることができる。また、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module)/UIM(User Identity Module)カードも外部機器として挙げることができる。また、オーディオ及びビデオI/O(Input/Output)端子を介して接続される外部オーディオ及びビデオ機器、無線接続される外部オーディオ及びビデオ機器、有線/無線接続されるスマートフォン、有線/無線接続されるPDA、有線/無線接続されるパーソナルコンピュータ、イヤホンなどの外部機器も連結することができる。外部入出力部60は、このような外部機器から伝送を受けたデータをスマートフォン1の内部の各構成要素に伝達することや、スマートフォン1の内部のデータを外部機器に伝送することができる。
モーションセンサ部80は、例えば、3軸の加速度センサや傾斜センサなどを備え、主制御部101の指示にしたがって、スマートフォン1の物理的な動きを検出する。スマートフォン1の物理的な動きを検出することにより、スマートフォン1の動く方向や加速度、姿勢が検出される。斯かる検出結果は、主制御部101に出力されるものである。電源部90は、主制御部101の指示にしたがって、スマートフォン1の各部に、バッテリ(不図示)に蓄えられる電力を供給する。
主制御部101は、マイクロプロセッサを備え、記憶部50が記憶する制御プログラムや制御データにしたがって動作し、カメラ部41を含むスマートフォン1の各部を統括して制御する。また、主制御部101は、無線通信部11を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
また、主制御部101は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部20に表示する等の画像処理機能を備える。画像処理機能とは、主制御部101が、画像データを復号し、斯かる復号結果に画像処理を施して、画像を表示入力部20に表示する機能のことをいう。
カメラ部41,42は、CMOSやCCDなどの撮像素子を用いて電子撮影するデジタルカメラ(撮像装置)である。また、カメラ部41,42は、主制御部101の制御により、撮像によって得た画像データ(動画、静止画)を例えばMPEGやJPEGなどの圧縮した画像データに変換し、記憶部50に記録することや、外部入出力部60や無線通信部11を通じて出力することができる。また、カメラ部41,42は、主制御部101の制御により、スロー動画(第1動画,第2動画)の撮影を行うこともできる。図13,14に示すスマートフォン1において、カメラ部41,42の一方を用いて撮影することもできるし、カメラ部41,42を同時に使用して撮影することもできる。カメラ部42を用いる場合は、ストロボ43を使用することができる。なお、カメラ部41,42は、第1の実施形態に係るカメラ100と同様に、減光度が可変の減光素子を備える(図13,14において不図示)。減光素子(NDフィルタ等)は外付け型でもよい。絞り度合いが可変の絞り機構をさらに備えていてもよい。
また、カメラ部41,42はスマートフォン1の各種機能に利用することができる。例えば、スマートフォン1は、表示パネル21にカメラ部41,42で取得した画像を表示できる。また、スマートフォン1は、操作パネル22の操作入力のひとつとして、カメラ部41,42の画像を利用することができる。また、スマートフォン1は、GPS受信部70がGPS衛星ST1,ST2,…,STnからの測位情報に基づいて位置を検出する際に、カメラ部41,42からの画像を参照して位置を検出することもできる。さらには、スマートフォン1は、カメラ部41,42からの画像を参照して、3軸の加速度センサを用いずに、あるいは、3軸の加速度センサと併用して、スマートフォン1のカメラ部41の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、スマートフォン1は、カメラ部41,42からの画像をアプリケーションソフトウェア内で利用することもできる。その他、スマートフォン1は、静止画または動画の画像データにGPS受信部70により取得した位置情報、マイクロフォン32により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部80により取得した姿勢情報等を付加して記憶部50に記録することもできる。また、スマートフォン1は、これらの静止画または動画の画像データを外部入出力部60や無線通信部11を通じて出力することもできる。
上述した構成のスマートフォン1においても、第1の実施形態に係るカメラ100と同様に、本発明に係る撮像方法の処理(被写体の動きの検出、第1動画及び第2動画の撮影、フレームレート及び露光時間の制御、減光度や絞り度合いの制御等)を実行することができる。具体的には、第1の実施形態において画像処理装置340(図2に示す各部)が実行する処理(図3,4,11のフローチャートの処理を含む)を、スマートフォン1では主としてカメラ部41,42及び主制御部101が実行できる。その他、第1の実施形態における操作部370、記録装置380、モニタ390、スピーカ395の機能は、スマートフォン1において操作部40、記憶部50及び操作パネル22、表示パネル21及び操作パネル22、スピーカ31によりそれぞれ実現することができる。
これにより、第2の実施形態に係るスマートフォン1においても、第1の実施形態に係るカメラ100と同様の効果(良好な画質のスロー動画を容易に取得することができる)を得ることができる。
以上で本発明の実施形態について説明してきたが、本発明は上述した態様に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能である。
1 スマートフォン
2 筐体
11 無線通信部
20 表示入力部
21 表示パネル
22 操作パネル
30 通話部
31 スピーカ
32 マイクロフォン
40 操作部
41 カメラ部
42 カメラ部
43 ストロボ
50 記憶部
51 内部記憶部
52 外部記憶部
60 外部入出力部
70 GPS受信部
80 モーションセンサ部
90 電源部
100 カメラ
101 主制御部
200 交換レンズ
210 減光素子
220 ズームレンズ
230 絞り
240 フォーカスレンズ
250 レンズ駆動部
300 撮像装置本体
310 撮像素子
320 AFE
330 A/D変換器
340 画像処理装置
342 条件設定部
344 検出処理部
346 フレームレート制御部
348 露光制御処理部
350 撮影部
352 減光制御処理部
354 絞り制御部
356 表示制御部
358 情報出力部
360 レンズ駆動制御部
362 ROM
364 RAM
370 操作部
380 記録装置
390 モニタ
395 スピーカ
500 視野
502 ボール
504 バット
510 第2動画表示領域
520 第1動画表示領域
530 アスリート
540 ゴール
L 光軸
S100~S230 撮像方法の各ステップ
ST1 GPS衛星
ST2 GPS衛星

Claims (11)

  1. 光学系と、撮像素子と、プロセッサと、を備える撮像装置であって、
    前記プロセッサは、
    前記撮像素子から出力される画像信号に基づいて被写体の動きを検出する検出処理と、
    前記検出した動きに基づいて、前記撮像素子から出力される動画のフレームレートを上げるフレームレート制御と、
    前記フレームレートを上げるのに応じて、前記動画の1フレーム当たりの露光時間の割合を一定に保つ露光制御処理と、
    前記露光制御処理に応じて、前記光学系の減光度合いを変化させる減光制御処理と、
    を行い、
    前記割合は半分以上である、
    撮像装置。
  2. 前記プロセッサは、
    前記フレームレート及び前記露光時間を変化させ始める第1タイミングと、前記フレームレート及び前記露光時間を目標値にする第2タイミングと、を算出し、
    前記第1タイミングから前記第2タイミングまでの期間は前記割合を一定に保つ請求項1に記載の撮像装置。
  3. 前記プロセッサは、
    前記フレームレートと、前記露光時間と、減光素子の減光度合いと、絞りと、感度と、ビットレートと、のうち少なくとも1つを設定するようユーザを促す情報を出力する請求項1または2に記載の撮像装置。
  4. 前記プロセッサは、
    前記情報に応じて前記ユーザが行った設定により、前記ユーザの撮影意図と異なる動画が撮影される可能性があることを示す情報を出力する請求項3に記載の撮像装置。
  5. 前記プロセッサは、
    撮影される動画における前記被写体の動きの間欠性が前記設定により変化することを示す情報を出力する請求項4に記載の撮像装置。
  6. 前記プロセッサは、
    前記露光時間を短くするのに応じて、連続的または段階的に、前記減光度合いを下げる請求項1から5のいずれか1項に記載の撮像装置。
  7. 前記プロセッサは、
    前記露光制御処理に応じて前記光学系の絞り度合いを変化させる請求項1から6のいずれか1項に記載の撮像装置。
  8. 前記光学系は絞り度合いが可変の絞り機構を備え、
    前記プロセッサは、前記露光時間を短くするのに合わせて前記絞り機構の前記絞り度合いを解放側に変化させる請求項1から7のいずれか1項に記載の撮像装置。
  9. 光学系と、撮像素子と、プロセッサと、を備える撮像装置により実行される撮像方法であって、
    前記プロセッサが行う処理は、
    前記撮像素子から出力される画像信号に基づいて被写体の動きを検出する検出工程と、
    前記検出した動きに基づいて、前記撮像素子から出力される動画のフレームレートを連続的に上げるフレームレート制御工程と、
    前記フレームレートを上げるのに応じて、前記動画の1フレーム当たりの露光時間を連続的に短くする露光制御工程と、
    前記露光時間の制御に応じて、前記光学系の減光度合いを変化させる減光制御工程と、
    を含み、
    前記割合は半分以上である、
    撮像方法。
  10. 請求項9に記載の撮像方法をコンピュータに実行させる撮像プログラム。
  11. 非一時的かつコンピュータ読取可能な記録媒体であって、請求項10に記載のプログラムが記録された記録媒体。
JP2023213516A 2020-03-25 2023-12-19 撮像装置、撮像方法、撮像プログラム、及び記録媒体 Pending JP2024023712A (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2020053920 2020-03-25
JP2020053920 2020-03-25
JP2022510068A JP7407909B2 (ja) 2020-03-25 2021-03-19 撮像装置、撮像方法、撮像プログラム、及び記録媒体
PCT/JP2021/011307 WO2021193403A1 (ja) 2020-03-25 2021-03-19 撮像装置、撮像方法、及び撮像プログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2022510068A Division JP7407909B2 (ja) 2020-03-25 2021-03-19 撮像装置、撮像方法、撮像プログラム、及び記録媒体

Publications (1)

Publication Number Publication Date
JP2024023712A true JP2024023712A (ja) 2024-02-21

Family

ID=77891757

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2022510068A Active JP7407909B2 (ja) 2020-03-25 2021-03-19 撮像装置、撮像方法、撮像プログラム、及び記録媒体
JP2023213516A Pending JP2024023712A (ja) 2020-03-25 2023-12-19 撮像装置、撮像方法、撮像プログラム、及び記録媒体

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2022510068A Active JP7407909B2 (ja) 2020-03-25 2021-03-19 撮像装置、撮像方法、撮像プログラム、及び記録媒体

Country Status (4)

Country Link
US (2) US11805320B2 (ja)
JP (2) JP7407909B2 (ja)
CN (1) CN115336251B (ja)
WO (1) WO2021193403A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4333449A1 (en) * 2021-09-27 2024-03-06 Samsung Electronics Co., Ltd. Wearable device comprising camera, and control method therefor
CN114280892B (zh) * 2021-10-25 2024-01-16 合肥众群光电科技有限公司 一种用于不同干膜快速曝光的方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8451372B2 (en) 2007-07-26 2013-05-28 Panasonic Corporation Photographing apparatus that adjusts shooting settings during shooting
US8149323B2 (en) * 2008-12-18 2012-04-03 Qualcomm Incorporated System and method to autofocus assisted by autoexposure control
JP5350090B2 (ja) * 2009-06-17 2013-11-27 キヤノン株式会社 撮像装置およびその制御方法
JP5287598B2 (ja) * 2009-08-20 2013-09-11 カシオ計算機株式会社 撮像装置、露出調整方法、および、プログラム
JP5560744B2 (ja) 2010-02-03 2014-07-30 カシオ計算機株式会社 撮像装置、動画撮像方法、及び、プログラム
JP2012137511A (ja) * 2010-12-24 2012-07-19 Kyocera Corp カメラ装置、携帯端末、フレームレート制御プログラムおよびフレームレート制御方法
JP5234119B2 (ja) * 2011-01-20 2013-07-10 カシオ計算機株式会社 撮像装置、撮像処理方法及びプログラム
JP5715436B2 (ja) * 2011-02-21 2015-05-07 キヤノン株式会社 撮像装置、及びその制御方法
CN104641276B (zh) * 2012-09-12 2016-08-24 富士胶片株式会社 摄像装置及信号处理方法
JP6070424B2 (ja) 2013-06-03 2017-02-01 株式会社Jvcケンウッド 撮影装置、撮影方法及び撮影プログラム
JP5522299B2 (ja) * 2013-06-21 2014-06-18 カシオ計算機株式会社 撮像装置、撮像方法、および、プログラム
JP2015198292A (ja) * 2014-03-31 2015-11-09 ソニー株式会社 撮像装置、フリッカの補正方法及びプログラム
JP6558362B2 (ja) 2014-03-31 2019-08-14 ソニー株式会社 制御装置、制御方法及び撮像装置
JP2016076747A (ja) * 2014-10-02 2016-05-12 キヤノン株式会社 撮像装置、カメラシステム、制御方法およびプログラム
KR20170030789A (ko) * 2015-09-10 2017-03-20 엘지전자 주식회사 스마트 디바이스 및 이의 제어방법
EP4026311A1 (en) * 2019-09-06 2022-07-13 Google LLC Low frame rate night vision on video camera

Also Published As

Publication number Publication date
US20220417409A1 (en) 2022-12-29
US11805320B2 (en) 2023-10-31
JP7407909B2 (ja) 2024-01-04
WO2021193403A1 (ja) 2021-09-30
US20240015404A1 (en) 2024-01-11
CN115336251A (zh) 2022-11-11
JPWO2021193403A1 (ja) 2021-09-30
CN115336251B (zh) 2024-05-03

Similar Documents

Publication Publication Date Title
US11696016B2 (en) Imaging apparatus and display control method thereof
US8582012B2 (en) Imaging apparatus and display control method in imaging apparatus
US10542216B2 (en) Apparatus and method for storing moving image portions
US9088721B2 (en) Imaging apparatus and display control method thereof
JP2024023712A (ja) 撮像装置、撮像方法、撮像プログラム、及び記録媒体
CN106031147B (zh) 用于使用角膜反射调整相机设置的方法和系统
JP2009251658A (ja) 携帯型電子装置及びその制御方法
JP4446787B2 (ja) 撮像装置、および表示制御方法
JP7112529B2 (ja) 撮像装置、撮像方法、及びプログラム
JP2006145629A (ja) 撮像装置
WO2019208155A1 (ja) 画像処理装置、方法、及びプログラム並びに撮像装置
JP6998454B2 (ja) 撮像装置、撮像方法、プログラム及び記録媒体
JP7174123B2 (ja) 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム
CN117441341A (zh) 图像处理方法、装置、移动终端及存储介质
WO2020066317A1 (ja) 撮影装置、撮影方法、及びプログラム
JPWO2020161969A1 (ja) 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム
JP2005229292A (ja) 撮像装置及び撮像装置の制御方法
WO2020066316A1 (ja) 撮影装置、撮影方法、及びプログラム
WO2020066332A1 (ja) 撮影装置、撮影方法、及びプログラム
JP2010141650A (ja) カメラおよびカメラの撮影方法
JP2008103810A (ja) 撮影装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231219