JP7394151B2 - 表示方法 - Google Patents

表示方法 Download PDF

Info

Publication number
JP7394151B2
JP7394151B2 JP2021574473A JP2021574473A JP7394151B2 JP 7394151 B2 JP7394151 B2 JP 7394151B2 JP 2021574473 A JP2021574473 A JP 2021574473A JP 2021574473 A JP2021574473 A JP 2021574473A JP 7394151 B2 JP7394151 B2 JP 7394151B2
Authority
JP
Japan
Prior art keywords
setting
area
video
display
recording
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021574473A
Other languages
English (en)
Other versions
JPWO2021152961A1 (ja
Inventor
潤也 北川
智行 河合
康一 田中
祐也 西尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2021152961A1 publication Critical patent/JPWO2021152961A1/ja
Priority to JP2023199704A priority Critical patent/JP2024019216A/ja
Application granted granted Critical
Publication of JP7394151B2 publication Critical patent/JP7394151B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/18Signals indicating condition of a camera member or suitability of light
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B5/00Adjustment of optical system relative to image or object surface other than for focusing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/634Warning indications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/268Signal distribution or switching

Description

本発明の一つの実施形態は、映像の表示方法に関する。
一台の撮影装置によって撮影された映像から、その映像中の複数の被写体のうち、いずれかの被写体の映像を切り出して記憶する技術は、既に開発されている。その一例としては、例えば、特許文献1に記載の技術が挙げられる。
特許文献1に記載の技術では、撮影装置の撮影範囲中に、互いに異なる複数の映像領域を設定し、その中の一つの領域の映像を記録する。また、特許文献1に記載の技術では、記録する映像の領域を複数の領域の中で変更する(切り替える)ことができる。これにより、例えば、撮影装置を固定した状態のままで、撮影映像中の複数の被写体の各々についてズームアップした映像を得ることができる。
特開2016-92467号公報
本発明の一つの実施形態は、上記の事情に鑑みてなされたものであり、撮影映像中の一部を切り出し、且つ、切り出し映像を切り替えられる映像の表示方法として、より有用な方法を提供することを目的とする。
上記の目的を達成するために、本発明の一つの実施形態は、撮影装置によって撮影した映像を表示する表示方法であって、基準映像の撮影領域である基準領域の中に、複数の設定領域、又は設定領域の候補を自動的に設定する設定工程と、記録される記録映像の領域である記録領域を、複数の設定領域の中から選択する選択工程と、選択工程の実施後に、記録領域を複数の設定領域の中から再選択して記録領域を切り替える切り替え工程と、を備える表示方法である。
また、設定工程は、基準領域の中に、候補を自動的に設定する第1設定工程と、ユーザの候補に対する操作に応じて、候補が設定された位置に、設定領域を設定する第2設定工程と、を有してもよい。
また、設定工程では、基準映像において視覚的変化が生じている特徴箇所を検出し、基準領域において、検出された特徴箇所の位置に、設定領域又は候補を自動的に設定してもよい。
また、設定工程では、基準映像の撮影シーンを基準映像に基づいて認識し、基準領域において、認識された撮影シーンと対応する位置に設定領域又は候補を自動的に設定してもよい。
また、設定工程では、基準映像において、撮影装置の撮影条件を決めるための特徴が基準を満たす位置に設定領域を自動的に設定してもよい。
ここで、撮影条件は、基準映像内の合焦位置、露光量、及びホワイトバランスのうちの少なくとも一つであってもよい。
また、設定工程では、予め記憶された設定領域の位置情報に基づいて設定領域又は候補を自動的に設定してもよい。
ここで、位置情報は、過去に実施された設定工程にて設定された設定領域の位置情報、及び、ユーザの操作に基づいて決められた設定領域の位置情報のうちの少なくとも一つを含んでもよい。
また、基準領域のサイズ又は位置が変化した場合に、設定領域の位置及びサイズの少なくとも一方を調整する調整工程をさらに備えてもよい。
また、本発明の一つの実施形態は、撮影装置によって撮影した映像を表示する表示方法であって、基準映像の撮影領域である基準領域の中に、複数の設定領域を設定する設定工程と、記録される記録映像の領域である記録領域を、複数の設定領域の中から選択する選択工程と、選択工程の実施後に、記録領域を複数の設定領域の中から再選択して記録領域を切り替える切り替え工程と、記録映像の動画像を記録する記録工程と、設定領域の映像である設定映像を表示する表示工程と、記録工程の実施中に、設定映像の表示数の変更に関する変更処理を実行する変更工程と、を備える表示方法である。
また、変更処理は、基準映像中の被写体の増加に応じて設定領域を追加して表示数を増やす処理を含んでもよい。
さらに、変更処理は、中止条件を満たす設定領域の設定映像の表示を中止して表示数を減らす処理を含んでもよい。
また、設定映像の表示が中止された設定領域である中止領域は、記録工程が実施される間に記憶されてもよい。この場合、変更処理は、ユーザの再表示指示に基づき、記憶された中止領域の設定映像を再表示する処理を含んでもよい。
また、変更処理は、表示数の変更に関する提案情報を出力する処理を含んでもよい。
また、基準映像中の被写体の数が設定領域の数の上限値を超えた場合、変更工程において、表示数の減少に関する変更処理を実行してもよい。
本発明の一実施形態に係る撮影装置の外観の一例を示す斜視図である。 本発明の一実施形態に係る撮影装置の背面側を示す背面図である。 本発明の一実施形態に係る撮影装置の構成を示すブロック図である。 電子手振れ補正についての説明図である。 基準領域と設定領域との関係を示す図である。 基準映像と記録映像との位置関係を示す図である。 記録映像を示す動画像のうち、切り替え前後の記録映像を示す図である。 撮影領域内に新たな被写体が入り込んだときの基準映像を示す図である。 移動する被写体に移動領域が追従する様子を示す図である。 映像表示フローの流れを示す図である。 設定工程におけるUI画面の遷移を示す図である。 前回使用パターンを選択した場合に設定領域を設定する様子を示す図である。 プリセットパターンの選択画面を示す図である。 設定領域の位置に関するユーザ操作の説明図である。 AF位置特定パターンに基づいて設定される設定領域を示す図である。 基準映像中の特徴箇所を示す図である。 特徴箇所に設定領域が設定された様子を示す図である。 表示工程を実施した際の表示画面の一例を示す図である。 第2表示工程を実施した際の表示画面の一例を示す図である。 第2表示工程を実施した際の表示画面の変形例を示す図である。 待機領域の数が待機映像の最大表示数に達した場合の画面例を示す図である(その1)。 待機領域の数が待機映像の最大表示数に達した場合の表示工程の流れを示す図である。 待機領域の数が待機映像の最大表示数に達した場合の画面例を示す図である(その2)。 待機領域の数が待機映像の最大表示数に達した場合の画面の変形例を示す図である。 記録工程の実施中における処理の流れを示す図である。 変更工程実施前の画面例を示す図である。 変更工程により設定映像の表示数が増えた場合の画面例を示す図である。 移動領域が他の設定領域と重なった場合の画面例を示す図である。 重なった移動領域と他の設定領域とが1つの設定領域に統合された場合の画面例を示す図である。 ある設定領域の設定映像の表示が中止された場合の画面例を示す図である。 基準領域の変更を促す提案情報が表示された画面例を示す図である。
本発明の好適な一実施形態(以下、本実施形態という。)について、添付の図面を参照しながら詳細に説明する。
本実施形態は、図1~図3に示す撮影装置10を用いた映像の表示方法に関する。ただし、以下に説明する実施形態は、本発明の理解を容易にするために挙げた一例に過ぎず、本発明を限定するものではない。すなわち、本発明は、その趣旨を逸脱しない限りにおいて、以下に説明する実施形態から変更又は改良され得る。また、本発明には、その等価物が含まれる。
[撮影装置の基本構成]
撮影装置10は、例えば、映像を撮影するデジタルカメラである。
ここで、「映像」とは、特に断る場合を除き、ライブ映像(ライブビュー画像)、すなわちリアルタイムで撮影される映像を意味する。また、本実施形態における映像は、主として動画像である。すなわち、撮影装置10は、所定のフレームレートで動画像を撮影する。
撮影装置10は、例えばレンズ交換式の機種であり、図1及び図2に示すように撮影装置本体12と撮影レンズ14とを備える。撮影レンズ14は、撮影装置本体12のマウント13に対して交換可能に装着される。ただし、これに限定されず、撮影装置10は、レンズ一体式の機種でもよい。
(撮影レンズ)
撮影レンズ14は、図3に示すように、光学ユニット17、絞り20、ズーム用駆動部21、フォーカス用駆動部22、及び絞り駆動部23を含む。
光学ユニット17は、ズーム用の光学機器18(例えば、ズームレンズ)を含む。光学機器18を光軸L1の方向に動かすことにより、撮影装置10の撮影領域が拡大又は縮小してズームが変わる。つまり、撮影装置10は、光学機器18による光学ズーム機能を備える。
なお、本実施形態の撮影装置10は、光学ズーム機能とともに、映像中の被写体を電子処理にて拡大する電子ズーム(デジタルズーム)機能を備える。
また、光学ユニット17は、フォーカス用の光学機器19(例えば、フォーカスレンズ)を含む。光学機器19を光軸L1の方向に動かすことにより、撮影レンズ14の合焦位置が変化してピントが調整される。
なお、本実施形態の撮影装置10は、オートフォーカス(AF)機能を備える。すなわち、映像撮影中、ユーザが所定の操作(例えば、映像記録開始の指示操作)を行うと、フォーカス用駆動部22が作動して光学機器19を動かす。この結果、映像中の所定部分に合焦するように合焦位置が自動調整される。
また、光学ユニット17は、広角レンズ、超広角レンズ、360度レンズ、又はアナモフィックレンズ等を含んでいる。この結果、撮影装置10は、撮影装置10の横方向(横幅方向)に広い画角で映像を撮影することができる。撮影装置10の画角は、光学ズームの実行等に伴って変化する。また、撮影装置10の最大画角(全画角)は、光学ユニット17及び後述の撮像素子40の設計仕様等に応じて決まる。
ちなみに、撮影装置10に設けられる光学ユニット17は、1つに限定されず、互いに画角が異なる複数の光学ユニット17が備えられてもよい。
絞り20は、可変に構成された開口形状を有し、開口形状は、絞り駆動部23によって調整される。開口形状の調整により、撮影レンズ14への入射光に対する絞り量が変化して露光量が調整される。
(撮影装置本体)
撮影装置本体12は、図1及び図2に示すように、操作ボタン30を含む操作部を備える。また、撮影装置本体12の上面には、操作部の1つであるレリーズボタン26が配置されている。レリーズボタン26が押されると、撮影装置10が撮影する映像、あるいは、その中から切り出された映像(厳密には、後述の記録映像)の記録が開始される。
ここで、撮影装置10の撮影領域、すなわち撮影装置10の画角に入る範囲は、ユーザの記録開始指示が受け付けられた時点で決定される。また、撮影領域は、例えば、電子手振れ補正のオンオフ等に応じて変化する。記録開始指示の受け付け時点で電子手振れ補正がオフであるとき、撮影領域は、一般的に、フルサイズ(全画角)の撮影領域となる。
なお、映像の記録開始指示にかかるユーザの操作は、レリーズボタン26の押下げに限定されず、後述する背面のディスプレイ28において所定位置をタッチする操作でもよい。
以降、撮影装置10がその時点での画角で撮影する映像を「基準映像」と呼ぶこととする。また、基準映像の撮影領域を「基準領域」と呼ぶこととする。
撮影装置本体12の背面には、図2に示すディスプレイ(以下、背面のディスプレイ28とも呼ぶ。)が設けられている。背面のディスプレイ28は、例えば、LCD(Liquid Crystal Display:液晶ディスプレイ)、有機EL(Organic Electroluminescence)ディスプレイ、LED(Light Emitting Diode)ディスプレイ、又は電子ペーパー等で構成されている。
背面のディスプレイ28は、基準映像及び後述する記録映像等を表示する。このように、ディスプレイを有する撮影装置10は、映像の表示機能を備えるため、映像表示装置として利用されることになる。
また、背面のディスプレイ28は、映像以外の情報を表示することができ、例えば撮影に関するアドバイス又は提案情報等を表示する(図18参照)。
なお、本実施形態の撮影装置本体12は、図2及び図3に示すように、サブディスプレイとしての電子ビューファインダ(図3ではEVFと表記)29を備える。背面のディスプレイ28と電子ビューファインダ29には、同一の映像を表示することもできるし、互いに異なる映像を表示することもできる。ちなみに、撮影装置は、電子ビューファインダ29を備えなくてもよい。また、電子ビューファインダ29に映像を表示し、背面のディスプレイ28に映像を表示しなくてもよい。
また、背面のディスプレイ28の内部、又はディスプレイ28の露出面には、ユーザ操作を検知するタッチパネル36が設けられている。例えば、背面のディスプレイ28の所定位置をユーザがタッチすると、タッチパネル36がタッチ位置を検知し、その検知結果を後述の制御部46に出力する。
図3に示すように、撮影装置本体12には、さらにシャッタ38、撮像素子40、アナログ信号処理回路44、制御部46、内部メモリ50、カードスロット52、及びバッファメモリ56が設けられている。
撮像素子40は、イメージセンサであり、撮影レンズ14を通過した光を受光し、その受光像を電気信号(映像信号)に変換して出力する。撮像素子40としては、CCD(Charged Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor Image Sensor)等の固体撮像素子が利用可能である。
制御部46は、撮影装置10の各部を制御し、映像の撮影、表示及び記録等に関する各種の処理を実行する。制御部46は、図3に示すようにコントローラ47及び映像処理部48を含む。
制御部46は、1つ又は複数のプロセッサを有し、プロセッサと制御プログラムとの協働によって制御部46が構成されている。プロセッサは、例えば、CPU(Central Processing Unit)、FPGA(Field Programmable Gate Array)、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、GPU(Graphics Processing Unit)、又はその他のIC(Integrated Circuit)によって構成されてもよい。あるいは、これらを組み合わせてプロセッサが構成されてもよい。
また、プロセッサは、SoC(System on Chip)等に代表されるように、コントローラ47及び映像処理部48を含む制御部46全体の機能を1つのIC(Integrated Circuit)チップで構成してもよい。
以上に挙げた各プロセッサのハードウェア構成は、半導体素子などの回路素子を組み合わせた電気回路(Circuitry)で実現してもよい。
コントローラ47は、ユーザ操作に基づいて、又は所定の制御プログラムに従って撮影装置10の各部を制御する。例えば、コントローラ47は、所定のフレームレートで映像を撮影するように撮像素子40及びアナログ信号処理回路44を制御する。
コントローラ47は、撮影条件が所望の条件となるように各駆動部21~23、撮像素子40、及びアナログ信号処理回路44等を制御する。撮影条件には、フォーカス(ピント)、露光量及びホワイトバランス等が含まれる。すなわち、コントローラ47により、撮影装置10の自動調整機能であるオートフォーカス(AF)機能、オート露出(AE)機能、及びオートホワイトバランス(AWB)機能が実現される。
さらに、コントローラ47は、ユーザの記録開始指示を受け付けると、映像の記録を開始するように映像処理部48を制御する。
映像処理部48は、アナログ信号処理回路44から送られてくるアナログの映像信号をデジタル映像データに変換し、デジタル映像データに対してガンマ補正及びホワイトバランス補正等を行う。処理後のデジタル映像データは、所定の規格に準拠した圧縮形式にて圧縮される。
映像処理部48は、撮影中、所定のフレームレートにて圧縮デジタル画像データを生成し、そのデータから映像(厳密には、フレーム画像)を取得する。このときに取得される映像が、基準領域にて撮影される基準映像に相当する。
また、映像処理部48は、コントローラ47による制御の下、基準映像の中から記録映像を切り出す。記録映像は、基準映像の画角よりも小さい画角の映像であり、基準領域における一部分の領域の映像である。記録映像は、基準映像と同じフレームレートにて生成され、例えば背面のディスプレイ28又は電子ビューファインダ29に表示される。
また、記録映像は、記録媒体に記録される。この結果、記録映像の映像ファイルが作成される。このとき、記録映像の解像度(画素数)及びアスペクト比は、記録映像の記録形式(動画フォーマット)に応じて決まる。
なお、記録形式は、特に限定されず、自由に決めることができる。
さらに、映像処理部48は、電子手振れ補正が有効(オン)である間、図4に示すように、全画角で撮影された補正前映像から、その補正前映像よりサイズが若干小さい抽出映像を抽出する。そして、振動等によって抽出映像がずれると、映像処理部48が電子手振れ補正を実行し、補正前映像における抽出領域の位置をずらす(例えば、図4中、実線の位置から破線の位置にずらす)。
なお、電子手振れ補正オンである間は、抽出映像が基準映像となる。
以降では、特に断る場合を除き、コントローラ47及び映像処理部48の各々の動作及び処理を、制御部46の動作及び処理として説明することとする。
撮影装置本体12に内蔵された内部メモリ50、及び、カードスロット52に対して着脱可能なメモリカード54は、記録媒体であり、例えば記録映像が記録される。
なお、内部メモリ50及びメモリカード54は、撮影装置本体12とは別の機器(外部)に備えられてもよい。その場合、制御部46は、有線又は無線によって外部の記録媒体に対して記録映像を記録してもよい。
バッファメモリ56は、制御部46のワークメモリとして機能する。
[記録映像の記録及び切り替えについて]
撮影装置10は、基準映像から切り出される記録映像を記録媒体に記録する。また、撮影装置10は、基準映像における切り出し領域を変えることで記録映像を切り替える(スイッチする)ことができる。このような機能に関して、図5を参照しながら説明する。
なお、図5では、説明の便宜上、映像中の被写体の図示を省略している。
撮影装置10が撮影を開始すると、基準映像がディスプレイ(例えば、背面のディスプレイ28)に表示される。このとき、通常では全画角の映像が基準映像となり、図5における最外縁によって囲まれる領域が基準領域Asとなる。また、電子手振れ補正オンである間は、全画角の映像から抽出された抽出映像が基準映像となり、図5における破線枠によって囲まれる領域が基準領域Atとなる。
撮影開始前又は撮影開始中にユーザが所定の操作を行うと、制御部46が、基準領域As、Atの中に設定領域Arを設定する。設定領域Arは、基準領域As、At中の一部分であり、例えば設定領域Ar内には基準映像中の被写体が映り込む(図6参照)。
また、設定領域Arの位置及びサイズは、自動的に、あるいはユーザ操作に基づいて調整可能である。ユーザは、画面上で所定操作等を行うことにより、例えば基準映像中の被写体の位置及び大きさに応じて、その被写体が映る設定領域Arの位置及びサイズを変更することができる。
ここで、本実施形態では、設定領域Arのアスペクト比が、記録映像の記録形式(動画フォーマット)に応じた値に決められる。そのため、設定領域Arのサイズを変える際には、設定領域Arのアスペクト比が一定のままサイズを変えることになる。ただし、記録映像の記録形式に依拠せずに設定領域Arのアスペクト比を決めてもよく、その場合には、アスペクト比を変えながら設定領域Arのサイズを変えてもよい。
設定領域Arが設定されると、図5に示すように、その時点でディスプレイに表示される基準映像中に標識fが表示される。
標識fは、基準映像中における設定領域Arの位置を示し、設定領域Arの境界を含んでいる。設定領域Arの境界は、設定領域Arとその周辺とを識別する(見分ける)ために設定される。
境界を含む標識fとしては、例えば、設定領域Arを囲む枠、及び、設定領域Arの代表位置を示すポインタ等の図形オブジェクトが挙げられる。また、設定領域Arとその周辺との間の明るさ、色度、及び濃淡等の差異も標識fに該当する。その他、設定領域Arとその周辺とを見分けられるものであれば、標識fの範疇に含まれ得る。
以下では、有色の矩形枠からなる標識fを例に挙げて説明することとする。
設定領域Arは、図5に示すように基準映像中に複数設定することができる。その場合、それぞれの設定領域Arに対して標識fが表示される。また、各標識fに対して、識別情報(図5中、標識fの右上に表示された番号)が表示される。
識別情報は、制御部46が所定の付与ルールに則って個々の標識fに対して個別に付与される情報である。識別情報が標識fと共に表示されることにより、ユーザは、各標識fを見分けることができる。
なお、識別情報は、特に限定されず、番号、文字又は記号でもよく、あるいは標識f毎に分けられた標識fの表示色でもよい。番号を識別情報とする場合には連番であることが望ましい。
設定領域Arの設定が完了すると、ユーザは、設定された複数の設定領域Arの中から、記録映像の領域である記録領域Apを選定する。制御部46は、ユーザの選定操作に従って、記録領域Apを複数の設定領域Arから選択する。これにより、領域内の映像が記録される設定領域Ar、すなわち記録領域Apが決まる。
記録領域Apが決まると、制御部46は、基準映像中に表示される設定領域Ar毎の標識fのうち、記録領域Apの位置を示す標識fと、それ以外の設定領域Arの位置を示す標識fとを、互いに異なる態様にて表示する。例えば、標識fの表示態様としては、標識fの色、明るさ、濃度(濃淡度合い)、形状、縁線の太さ及び線種、並びに点滅表示の有無等が挙げられる。
図5に示すケースでは、記録領域Apの位置を示す標識fの表示色及び太さが、それ以外の標識fとは異なっている。
記録領域Apの決定後にユーザが記録開始指示を行うと、記録領域Apの映像(以下、記録映像という。)の記録が開始される。その時点で基準領域(すなわち、撮影装置10の向き及び画角)が決まる。
なお、基準領域が決まるとは、記録開始指示の受け付け時点で基準領域が一度決まることを意味している。また、基準領域が決まった後でも、ユーザは自由に基準領域を変更することが可能である。ちなみに、ユーザが基準領域を変更した際は、後述するように、設定領域の位置を被写体の位置に応じて変更させることが好ましい。
以上のように基準映像の一部を記録映像として記録することで、例えば基準映像中、注目する部分のズーム映像を記録することができる。
なお、記録映像は、基準映像の画角よりも小さい画角の映像ではあるが、基準映像が高画質であれば(例えば、画素数が1000万以上であれば)、十分に高画質な映像となる。
基準映像の画素数は、特に限定されないが、その下限は、1000万以上であるのがよく、6000万以上であるのがより好ましい。また、画素数の上限は、10億以下であるのがよく、5億以下であるのがより好ましい。画素数が上記の下限より大きいと、記録映像の視認性が担保される。また、画素数が上記の上限より小さいと、基準映像のデータ量が低減し、制御部46による処理の高速化が図られる。
また、本実施形態では、複数の設定領域Arのうち、記録領域Apとして決められる1つの設定領域Arを選んだ後、映像記録中に記録領域Apを別の設定領域Arに切り替えることができる。この結果、切り替え前の記録領域Apの映像と、切り替え後の記録領域Apの映像をそれぞれ記録することができる。このことを、図6を参照しながら詳しく説明する。
撮影装置10が、あるシーン(場所)にて複数の被写体(人物)を撮影し、図6に示すようにそれぞれの被写体に対して設定領域Arを設定したとする。この場合、ユーザが複数の設定領域Arから選んだ1つの設定領域Arが、記録領域Apになる。図6に示すケースでは、4つの設定領域Arが設定され、識別情報「1」の標識fによって囲まれた設定領域Arが、記録領域Apである。
上記の状況下でユーザが記録開始指示を行うと、その時点で記録領域Apである設定領域Arの映像が記録される。
そして、映像記録中にユーザが記録領域Apを別の設定領域Ar(例えば、識別情報「2」の標識fによって囲まれた設定領域Ar)に変更する指示を行うと、記録領域Apが再選択されて記録映像が切り替わる。
このように本実施形態では、映像記録中に、記録領域Apの再選択によって記録映像を切り替えることができる。これにより、複数存在する被写体のそれぞれに対して個々のカメラを設置する必要なく、各被写体のズーム映像を撮影することができる。
また、記録映像を切り替えた場合には、制御部46が、切り替え前の記録映像と、切り替え後の記録映像とをそれぞれ記録し、これらの映像を結合して1つの動画像とする。これにより、図7に示すように記録映像の切り替えに伴って映像中の被写体が変わる動画像のファイル(映像ファイル)が取得される。
ただし、これに限定されず、切り替え前の記録映像と、切り替え後の記録映像とを結合せずに、それぞれ別ファイルデータとして記録してもよい。また、基準映像及び後述の待機領域も別ファイルデータとして記録してもよい。
本実施形態では、図5及び6に示すように、記録領域Apを含む複数の設定領域Arの各々について、基準映像中の位置を示す標識fが表示される。これにより、ユーザは、撮影中、それぞれの設定領域Arの位置を把握することができる。つまり、本実施形態の表示方法は、設定領域Arの位置を把握し易くするという観点で利便性(使い易さ)を向上させたものである。こうした効果は、複数の設定領域Arの中で記録領域Apを切り替えることが可能な構成において特に有効である。つまり、各設定領域Arに対して標識fが表示されることで、切り替え後の記録映像が、基準映像中のどこの映像であるかを容易に把握することができる。
設定領域Arについて補足すると、設定領域Arの数(設定数)は、例えば基準映像中の被写体の数が変化した場合に、その変化に応じて自動的に、あるいはユーザ操作に基づいて変更することができる。例えば、図8に示すように、基準映像中に新たな被写体が入り込んだ場合には、その被写体の位置に新たな設定領域Arを追加することができる。反対に、基準映像中の被写体が基準映像の外まで移動した場合には、その被写体の映像領域であった設定領域Arを自動的に削除することができる。
また、ある設定領域Ar(例えば、図8中、識別情報「5」の標識fによって囲まれた設定領域Ar)内の被写体が移動した場合には、その設定領域Arを被写体の移動に追従させて変位させることができる。これにより、基準映像において移動している被写体を追尾することができる。ここで、被写体の追尾は、映像解析による公知の被写体検出技術によって実現可能である。
また、移動している被写体を追尾する設定領域Arが記録領域Apである場合には、移動している被写体の映像を記録することができる。
以下、移動中の被写体を追尾する設定領域Arを移動領域Amと呼ぶこととする。なお、移動領域Amは、移動する被写体に追従して動く領域に限定されず、所定方向に一定速度又は不規則な速度で動く領域であってもよい。
[映像表示フロー]
撮影装置10の制御部46が実行する処理フロー(以下、映像表示フロー)について、図10を参照しながら説明する。
ユーザが撮影装置10の電源をオンすると、映像表示フローが開始される。映像表示フローの開始に際して、ユーザは、撮影装置10の初期調整を行う。初期調整では、例えば、記録方式を指定する等して、記録映像の解像度(画素数)及びアスペクト比等を調整する。かかる調整は、例えば撮影装置10の初回起動時に行われ、以降は、その調整内容が保持される。
なお、上記の調整は、撮影装置10の出荷前に装置メーカー側で行われてもよい。また、ユーザは、一度調整した解像度及びアスペクト比等を見直すために、これらの値を撮影装置10の起動後に再調整することが可能である。
映像表示フローでは、先ず、制御部46が撮影工程を開始する(S001)。この撮影工程は、その時点での基準領域で基準映像を撮影する工程である。撮影開始に伴い、リアルタイムの基準映像がライブビュー映像として背面のディスプレイ28等に表示されると好ましい。撮影工程は、ユーザが撮影終了を指示する、又は撮影装置10の電源をオフにするまで続けられる。
その後、制御部46は、設定工程を実施する(S002)。設定工程は、基準映像の撮影領域中に複数の設定領域Arを自動的に設定する工程である。設定工程では、各設定領域Arの初期位置及び初期サイズを設定することになっており、その後にユーザ操作に基づいて、あるいは所定のルールに従って自動的に各設定領域Arの位置及びサイズを変更することは可能である。
設定工程の終了後、制御部46は、選択工程を実施する(S003)。選択工程は、ユーザの選定操作に基づき、設定工程にて設定された複数の設定領域Arの中から記録領域Apを選択する工程である。
選択工程の実施に際して、制御部46は、複数の設定領域Arのそれぞれの映像(以下、「設定映像」という。)をディスプレイに表示するとよい。この場合、ユーザは、複数の設定領域Arのそれぞれについて、設定映像を確認することができる。
その後、ユーザが記録開始指示を行うと(S004)、制御部46が、記録工程を開始する(S005)。記録工程は、選択された記録領域Apの映像である記録映像を記録媒体に記録する工程である。記録映像は、所定の記録形式(動画フォーマット)に従って記録される。
また、前述のように、記録工程の開始の契機となる記録開始指示の受け付け時点で基準領域が決定する。
また、記録工程の実施中、制御部46は、表示工程を実施する(S006)。表示工程は、記録映像を含む複数の設定映像と、その時点での基準映像と、基準映像中の標識fとをディスプレイに表示する工程である。ユーザは、これらの映像を見て、基準映像中における各設定領域Arの位置を確認し、どの設定領域Arが記録領域Apであるかを把握することができる。
また、記録工程の実施中、制御部46は、制御工程を実施する(S007)。制御工程は、記録開始指示の受け付け時点で決定された基準領域の変更に関する制御処理を実行する工程である。本実施形態において、制御処理は、基準領域の変更を抑制するための処理を含み、例えば、光学機器19によるズーム(光学ズーム)に関する制御処理である。
また、記録工程の実施中、ユーザが記録領域Apの再選択を指示すると(S008)、制御部46が切り替え工程を実施する(S009)。切り替え工程は、選択工程の実施後に、ユーザによる再選択指示に従って、記録領域Apを複数の設定領域Arの中から再選択して記録領域Apを切り替える工程である。切り替え工程が実施された場合、その後の記録工程では、切り替え後の記録領域の映像(記録映像)が記録されるようになる。
そして、記録工程からの一連の工程(すなわち、S005~S009)は、ユーザが映像記録終了を指示するまで繰り返し実施される(S010)。他方、映像記録終了の指示があると、その時点で記録工程が終了する。
その後に撮影終了指示があるか、又は撮影装置10の電源がオフになると(S011)、その時点で映像表示フローが終了する。
[設定工程について]
映像表示フロー中の設定工程について説明する。
本実施形態では、設定工程の実行に際して、図11に示す第1のUI(User Interface)画面101が背面のディスプレイ28が表示される。ユーザは、設定領域Arの設定パターンとして「記録パターン」又は「自動設定パターン」のいずれかを選択し、UI画面101上のボタンBt1、Bt2のうち、選択したパターンを示すボタンを押す。
記録パターンが選択された場合の設定工程では、制御部46が、撮影装置10に予め記憶された設定領域Arの位置情報を読み出す。そして、読み出された位置情報が示す位置に設定領域Arが自動的に設定される。このとき、ユーザにとって標識fを見え易くする目的から、基準映像中、標識f内の映像を強調表示すると、より好ましい。例えば、基準映像中、標識f内(すなわち、設定領域Arの境界内)の映像以外の明度を下げたり、グレーアウト表示(図18参照)させたりしてもよい。
本実施形態では、記録パターンが選択されると、図11に示すように第2のUI画面102が背面のディスプレイ28に表示される。ユーザは、予め用意された複数の記録パターンのいずれかを選択し、第2のUI画面102上のボタンBt3、Bt4、Bt5のうち、選択したパターンを示すボタンを押す。記録パターンとしては、例えば、「前回使用パターン」、「プリセットパターン」及び「ユーザ入力パターン」が選択可能である。
他方、自動設定パターンが選択された場合の設定工程では、制御部46が、撮影中の基準映像に基づき、基準映像中の所定位置に設定領域Arを自動的に設定する。
本実施形態では、自動設定パターンが選択されると、図11に示すように第3のUI画面103が表示される。ユーザは、予め用意された複数の自動設定パターンのいずれかを選択し、第3のUI画面103上のボタンBt6、Bt7、Bt8のうち、選択したパターンを示すボタンを押す。自動設定パターンとしては、例えば、「シーン認識パターン」、「被写体検出パターン」及び「AF位置特定パターン」が選択可能である。なお、自動設定パターンの場合、設定工程の開始時点では、各々の設定領域Ar同士が重ならず、互いに重畳しない状態で標識fを表示するのが好ましい。これにより、複数の標識fを識別し易くなり、設定工程における設定領域Arの設定が容易になる。
以下、複数の記録パターン、及び、複数の自動設定パターンのそれぞれについて説明する。
(前回使用パターン)
前回使用パターンが選択された場合、制御部46は、前回(直前)の映像表示フローにおける設定工程で設定された設定領域Arの位置情報を読み出す。この位置情報は、前回の映像表示フローの設定工程で設定された複数の設定領域Arのそれぞれの位置を示しており、例えば撮影装置10の内部メモリ50に記憶される。記憶された位置情報は、撮影装置10の電源オフ後にも保持されると好ましい。
なお、設定領域Arの位置情報とともに、設定領域Arのサイズ情報が併せて記憶されてもよい。その場合、前回使用パターンが選択された際には、位置情報とサイズ情報とが併せて読み出されるとよい。
そして、制御部46は、図12に示すように、読み出された位置情報が示す位置、すなわち前回の映像表示フローでの設定位置と同じ位置に設定領域Arを自動的に設定する。このような前回使用パターンは、前回の映像表示フローと同じ構図で映像を撮影する場合(例えば、同じ場所で同じアングルにて映像を撮影する場合)に有効である。
なお、上記の実施形態では、読み出される位置情報が、前回(直前)の映像表示フローで設定された設定領域Arの位置を示しているが、これに限定されるものではない。例えば、過去に実施された数回分の設定工程にて設定された設定領域Arの位置情報を、それぞれ記憶してもよい。その場合には、記憶された位置情報のうち、ユーザが指定した回の設定工程において設定された設定領域Arの位置に、今回の設定領域Arを設定するとよい。
(プリセットパターン)
プリセットパターンが選択された場合、制御部46は、予め定められた定型の配置パターンで配置される設定領域Arの位置情報を読み出す。定型の配置パターンは、撮影装置10に事前登録されている、又は購入後のプログラム更新時等にて新規に登録される。
定型の配置パターン(プリセットパターン)に係る位置情報が読み出されると、図13に示す第4のUI画面104が背面のディスプレイ28に表示される。第4のUI画面104には、複数種類のパターン(図13中のパターンA~D)が選択可能に表示され、ユーザは、いずれかの種類のプリセットパターンを選択する。制御部46は、ユーザが選択したプリセットパターンに応じた位置に設定領域Arを自動的に設定する。このようなプリセットパターンは、決められた構図で映像を撮影するとき(例えば、特定の場所で映像を撮影するとき)に、その構図と対応するパターンが有る場合に有効である。
なお、プリセットパターンの種類数、及び各プリセットパターンにおける設定領域Arの個数及び配置位置は、特に限定されず任意に決められる。
(ユーザ入力パターン)
ユーザ入力パターンが選択された場合、制御部46は、ユーザの操作に基づいて決められた設定領域Arの位置情報を読み出す。ここでのユーザの操作は、設定領域Arの位置を登録するための入力操作であり、設定工程の前段階(例えば、パターンに関する初期登録の段階)で行われる。上記の入力操作は、例えば、図14に示すパターン登録用の入力画面105を通じて行われる。ユーザは、入力画面105に表示された領域設定用の標識fxの内側領域をタッチアンドドラッグする。これにより、ドラッグ後の標識fxの表示位置が設定領域Arの位置として登録される。
制御部46は、読み出された位置情報が示す位置、すなわちユーザの入力操作に基づいて決められた設定位置に設定領域Arを自動的に設定する。このようなユーザ入力パターンは、前述のプリセットパターンでは対応できないのでユーザの入力に基づいてパターンを準備しておく場合に有効である。
なお、設定領域Arの位置が登録される際に、その設定領域Arのサイズが併せて登録されてもよい。つまり、ユーザの入力操作に基づいて決められた設定領域Arの位置及びサイズを示す情報を記憶してもよい。その場合、複数の設定領域Arのそれぞれが、ユーザ入力パターンとして登録された位置及びサイズにて設定されることになる。
(シーン認識パターン)
シーン認識パターンが選択された場合の設定工程では、制御部46は、基準映像に基づいて基準映像の撮影シーンを認識する。基準映像の撮影シーンは、例えば基準映像として撮影される風景、イベント、被写体の種類、場面(例えば、日中の景色であるか夜景であるか)、及び、状況(例えば、天気など)等である。
なお、基準映像に基づいて撮影シーンを認識する手法としては、公知のシーン認識技術が利用可能である。例えば、所定領域の映像の輝度又は色味が予め設定された範囲内であるか否かを判断する手法等が挙げられる。また、映像の撮影シーンを示す正解ラベルと映像のデータとを学習データセットとして用いた機械学習を実施し、学習の結果として得られるシーン認識モデルによって、基準映像の撮影シーンを認識してもよい。
(被写体検出パターン)
被写体検出パターンが選択された場合の設定工程では、制御部46が、基準映像中の被写体を検出し、検出された被写体の位置に設定領域Arを自動的に設定する。基準映像中の被写体は、基準映像中における風景以外の被写体であって、制御部46が検出可能なものであり、例えば人、動物及び乗物等が含まれる。
被写体を検出する場合には、公知のテンプレートマッチング技術を適用してもよい。例えば、被写体の画像をテンプレート画像として予め記憶し、テンプレート画像と基準映像中の各部分とを照合し、テンプレート画像と類似する映像を被写体として検出してもよい。あるいは、機械学習によって映像中の被写体を認識させるモデルを構築し、そのモデルを利用して基準映像中の被写体を検出してもよい。被写体認識モデルのアルゴリズムとしては、YOLO(You Only Look Once)又はR-CNN(Region with Convolution Neural Network)等の公知のアルゴリズムが利用可能である。
被写体検出パターンにおいて、制御部46は、図6に示すように、検出された被写体それぞれに対して、設定領域Arを1つずつ設定することができる。このとき、それぞれの設定領域Ar内に、対応する被写体の全体が収まるようにしてもよいし、あるいは、対応する被写体のうちの一部分(例えば、顔を含む上半身部分)が収まるようにしてもよい。
以上のような被写体検出パターンによれば、ユーザの手間を要さず、基準映像中の被写体に対して設定領域Arを自動的に設定することができる。本実施形態では、複数の設定領域Arの中から選択される記録領域Apの映像を記録するため、基準映像中の被写体の映像を記録する場合には被写体検出パターンが有効となる。
(AF位置特定パターン)
AF位置特定パターンが選択された場合の設定工程では、制御部46が、基準映像中、撮影装置10のフォーカスを決めるための特徴が基準を満たす位置を特定し、特定された位置に設定領域Arを自動的に設定する。フォーカスを決めるための特徴とは、例えば、基準映像内の合焦位置を決めるための特徴である。具体例を挙げると、オートフォーカスが位相差AF(Auto Focus)方式である場合には、位相差が上記の特徴に該当する。また、オートフォーカスがコントラストAF方式である場合には、複数の画素間のコントラストが上記の特徴に該当する。なお、AF方式は、指向性光を用いたAF方式でもよいし、あるいは、DFD(Depth from defocus)を用いたAF方式でもよい。
また、基準を満たす位置とは、上記の特徴(例えば、位相差又はコントラスト等)が合焦時の特徴となった位置である。分かり易くいうと、制御部46は、基準映像において、基準を満たす位置として、AF機能によってフォーカスが合った位置を特定する。そして、図15に示すように、特定された位置(フォーカスが合った位置であり、図15中、ハッチングが付けられた位置)に対して、設定領域Arが自動的に設定される。このとき、例えば、基準映像においてフォーカスが合っている部分の面積等に応じて設定領域Arのサイズも自動的に設定されるとよい。
AF機能によってフォーカスが合っている部分の映像は、一般的に記録対象となることが多い。この点を踏まえ、フォーカスが合った位置に設定領域Arを設定することで、フォーカスが合っている映像を容易に記録することができるので、ユーザにとって利便性が向上する。
AF位置特定パターンにおいて、制御部46は、フォーカスが合った位置に設定領域Arを設定すると、それに伴って、別の設定領域Arを自動的に設定する。例えば、図15に示すように、フォーカスが合った位置の対称位置(例えば、基準映像の中央から見て点対称の位置)に別の設定領域Arを設定する。これにより、AF位置特定パターンが選択された場合に、基準領域の中で複数の設定領域Arを自動的に設定することができる。ただし、別の設定領域Arが設定される位置は、上記の位置に限定されるものではない。
また、AF位置特定パターンにおいて基準映像全体でフォーカスが合っている場合には、基準領域全体を1つの設定領域Arとして設定してもよい。
また、基準映像中に被写体が検出されず、基準映像内に適切な設定領域Arの設定位置が見つからない場合、基準映像の中央付近に設定領域Arを設定してもよい。
なお、本実施形態では、撮影条件の一例として基準映像内の合焦位置を挙げ、基準映像中、合焦位置を決めるための特徴が基準を満たす位置(すなわち、フォーカスが合った位置)に設定領域Arを設定することとした。ここで、撮影条件は、合焦位置以外でもよく、例えば露光量及びホワイトバランスも挙げられる。なお、ここでいう撮影条件には、シャッタースピード及びISO感度が除外される。
ここで、撮影条件の一つである露光量を例に挙げると、基準映像中、露光量を決めるための特徴(例えば、画素値又は輝度)が基準を満たす位置に設定領域Arを設定することができる。例えば、基準映像中、AE(Automatic Exposure)機能により露光量が適正値に調整された位置に設定領域Arを設定するとよい。あるいは、基準映像中、露光量が相対的に低い位置、及び露光量が相対的に高い位置のそれぞれに設定領域Arを設定してもよい。
また、撮影条件の一つであるホワイトバランスを例に挙げると、基準映像中、ホワイトバランスを決めるための特徴(例えば、色度)が基準を満たす位置に設定領域Arを設定することができる。例えば、基準映像中、AWB(Auto White Balance)機能によりホワイトバランスが適正値に調整された位置に設定領域Arを設定するとよい。具体例を挙げると、照明及び太陽のような複数の光源の各々から光が照射される領域が基準映像中に存在する場合、光源毎の照射領域に対して、それぞれ設定領域Arを設定してもよい。
ユーザは、以上までに説明してきた複数の配置パターンの中から任意のパターンを選択する。これにより、設定工程では、設定領域Arがユーザの意思又は好みを反映して設定される。また、設定工程では、設定領域Arが自動的に設定されるため、ユーザの手間(設定作業)を要さない。つまり、本実施形態の表示方法は、ユーザの手間を省き、且つ、ユーザの意思等を反映して基準領域中に設定領域Arを設定するという観点で利便性(使い易さ)を向上させたものである。なお、配置パターンは、図11に示した配置パターンを複数組み合わせた配置パターンでもよい。例えば、シーン認識パターンとAF位置特定パターンを同時に採用して、設定領域Arを複数設定してもよい。
なお、上述したパターンは、あくまでも一例であり、上述したパターン以外の配置パターンが加えられてもよく、反対に、上述したパターンのうち、一部のパターンが省略されてもよい。
また、本実施形態の設定工程では、選択されたパターンの種類に関わらず、基準映像に後述する特徴箇所が存在する場合には、基準領域中、特徴箇所の位置に設定領域の候補Acが自動的に設定される。そして、設定された候補Acに対してユーザが所定の操作を行うと、設定された候補Acの位置に設定領域Arが設定される。
以下、設定工程における候補Acの設定手順について説明する。
(候補の設定について)
設定工程において、制御部46は、基準映像の各画素の特徴(例えば、画素値)に基づいて、基準映像に特徴箇所が存在するか否かを判定する。特徴箇所とは、基準映像の中で視覚的変化が生じている箇所(被写体として検出されるものを除く)であり、例えば、背景映像の中で動きがある箇所、並びに、色及び明るさ等が変化する箇所である。具体例としては、滝のような流れがある箇所、イルミネーションのような光が点灯又は点滅する箇所、及び、電光掲示板のように表示される文字及び画像等が切り替わる箇所等が挙げられる。
なお、図16に示す基準映像では、例えば、図中の左上部分に現れている電飾が特徴箇所に該当する。
基準映像に特徴箇所が存在する場合、制御部46は、第1設定工程を実施する。第1設定工程は、基準映像中の特徴箇所の位置に、設定領域の候補Acを自動的に設定する工程である。
第1設定工程が実施された場合、その後に実施される表示工程では、図16に示すように、基準映像内における候補Acの位置を示す標識(以下、候補標識Kと呼ぶ。)が表示される。候補標識Kは、設定領域Arの位置を示す標識fとは異なる態様にて表示される。例えば、図16における候補標識Kは、特徴箇所を囲む矩形領域の四角を表す略L字形の図形オブジェクトである。候補標識Kの種類及び形状等については、特に限定されず、例えば、矢印若しくは指の形状をなすポインタでもよく、または円若しくは星形等の記号からなる図形オブジェクトでもよい。あるいは、基準映像中の候補Acとその周辺との間の濃淡差(明るさの差)を候補標識Kとしてもよい。
表示工程の実施中にユーザが候補標識Kをタップする等の操作を行うと、これをトリガーとして第2設定工程が実施される。第2設定工程は、制御部46が、ユーザの候補Acに対する操作(例えば、タップ操作等)に応じて、その操作がなされた候補Acの設定位置に設定領域Arを設定する工程である。第2設定工程の実施により、図17に示すように、特徴箇所の映像の領域に新たな設定領域Arが設定される。
以上のように本実施形態では、基準映像中、被写体としては認識されないが視覚的変化が生じている特徴箇所に対して、設定領域の候補Acを自動的に設定することができる。また、設定された候補Acの位置を示す候補標識Kを基準映像中に表示することで、ユーザは、候補Acを容易に確認することができる。さらに、ユーザが候補Acに対して所定の操作を行うことで、候補Acの位置に設定領域Arが設定される。これにより、基準映像中、ユーザが関心を示す特徴箇所に対して設定領域Arを設定することができる。さらにまた、そのように設定された設定領域Arを記録領域として選択すれば、特徴箇所の映像を記録することが可能となる。
[表示工程について]
映像表示フロー中の表示工程について以下に詳しく説明する。
設定工程にて設定領域Arが設定されると、制御部46が表示工程を開始する。その後、制御部46は、記録工程が終了するまで(厳密には、撮影が終了するまで)、表示工程を続行する。
表示工程は、記録映像と、基準映像と、基準映像内における複数の設定領域Arの各々の位置を示す標識fとをディスプレイに表示する工程である。表示工程において、標識fは、図18に示すように、基準映像中において設定領域Ar毎に表示される。これにより、ユーザは、基準映像における各設定領域Arの位置を的確に把握することができる。
また、表示工程では、図18に示すように、複数の設定領域Arのうち、記録領域Ap以外の設定領域Arの各々の映像(以下、待機映像という。)を表示することができる。
さらに、基準映像中に前述の特徴箇所が存在する場合の表示工程では、特徴箇所の位置を示す候補標識Kが、基準映像中に標識fと共に表示される。
表示工程の一例について説明すると、記録映像、基準映像、及び待機映像を同時に背面のディスプレイ28の画面(以下、表示画面という。)に表示することができる。例えば、図18に示すように、表示画面をメイン画面G1、サブ画面G2及び情報表示画面G3に分割するとする。この場合において、待機映像をサブ画面G2に表示することができる。
メイン画面G1は、表示画面において比較的広い範囲(例えば、表示画面の半分以上)を占め、基準映像を表示する。メイン画面G1のアスペクト比は、基準映像のアスペクト比と同じ値に設定されていると好ましい。
サブ画面G2は、メイン画面G1と比べて小さい画面であり、表示画面の縦方向又は横方向に沿って列状に並んでいる。各サブ画面G2は、記録映像又は一つの待機映像を表示する。各サブ画面G2のアスペクト比は、記録映像及び待機映像の各々のアスペクト比と同じ値に設定されていると好ましい。
情報表示画面G3は、映像以外の文字情報を表示する画面であり、例えば、図18に示すように、映像記録に関するアドバイスを表示する。
なお、表示画面のレイアウト(例えば、メイン画面G1及びサブ画面G2の各々のサイズ及び配置位置等)は、図18に示す形態に限定されず、機器の仕様又はユーザの好み等に応じて自由に設計することができる。
また、メイン画面G1には、基準映像とともに、設定工程にて設定された複数の設定領域Arの各々について標識fが表示される。表示工程においてメイン画面G1に表示される標識fの数(表示数)は、可変であり、表示可能な最大数(表示上限数)の標識fを同時に表示することができる。
また、ユーザにとって標識fを見え易くする目的から、基準映像中、標識f内の映像を強調表示すると、より好ましい。例えば、図18に示すように、基準映像中、標識f内(すなわち、設定領域Arの境界内)の映像以外の明度を下げたりグレーアウト表示させたりしてもよい。
また、表示工程では、記録領域Apの位置を示す標識fと、それ以外の設定領域Ar(以下、待機領域ともいう。)の位置を示す標識fとを互いに異なる態様にて表示する。このとき、記録領域Apの位置を示す標識fは、強調表示されると好ましく、例えば、枠線の色を赤色及び蛍光色等の比較的目立つ色にしたり、枠線をより太くしたり、あるいは点滅表示したりするとよい。また、記録領域Ap内の映像(すなわち、記録映像)自体を強調表示してもよい。
また、基準映像において移動する被写体が存在する場合、その被写体に対して設定される移動領域Amは、被写体に追従して動く。表示工程では、移動領域Amの位置を示す標識fを、図9に示すように、移動領域Am以外の設定領域Arの位置を示す標識fとは異なる態様にて表示する。これにより、移動領域Amとそれ以外の設定領域Arとを容易に区別し、基準映像内で移動領域Amの位置を簡単に見つけることができる。
なお、移動領域Am内の被写体が奥行き方向(つまり、撮影装置10に対して近接及び離間する方向)に移動すると、基準映像における被写体の大きさが変化する。これに伴い、移動領域Amのサイズに対する上記被写体の大きさの比率(以下、被写体比率と呼ぶ。)が変化する。その場合、制御部46は、電子ズーム機能を利用して、被写体比率の変化に応じて移動領域Amのサイズを変更し、被写体比率を一定に保つように調整する。
また、被写体の移動に伴って移動領域Amが基準領域の端(すなわち、画角の外縁)付近まで移動したり、あるいは基準領域からはみ出たりすることがある。その場合には、制御部46が情報表示画面G3に警告メッセージを表示したり又は警告音を出力して、上記の状況をユーザに報知するのが好ましい。
また、電子手振れ補正によって基準映像(すなわち、全画角の映像から抽出された抽出映像)が変わると、基準領域に対する各設定領域Arの相対位置が変化する(図4参照)。その場合、制御部46は、電子手振れ補正による基準映像のずれ量を算出し、算出されたずれ量に基づき、各設定領域Arの位置を調整する。これにより、基準領域に対する各設定領域Arの位置が、電子手振れ補正の実施前後で維持されるようになる。
なお、電子手振れ補正に伴って設定領域Arの位置を調整する機能については、ユーザの操作に応じてオンオフを自由に切り替えられると好ましい。
また、表示工程では、図18に示すように、標識fの識別情報を各々の標識f毎に表示する。各標識fの識別情報は、表示工程の実施中は固定され、表示工程中に標識fの表示数が変わった場合でも、その前後で変化せずに維持される。例えば、図18中、識別番号が「3」である標識fの表示が中止された場合、それ以外の標識fの識別番号(すなわち、「1」、「2」、「4」)は変化しない。このように表示工程の実施中に各標識fの識別番号を固定することで、例えば標識fの表示数が変わっても、どの設定領域Arがどこに存在するのかを容易に把握することができる。
複数のサブ画面G2には、記録映像及び待機映像を含む複数の設定映像が表示される。詳しくは、複数のサブ画面G2のそれぞれに、対応する設定映像が1つずつ表示される。ここで、各サブ画面G2のアスペクト比が、対応する設定映像のアスペクト比と同値であれば、当該設定映像を画面に収まりよく表示することができる。
また、表示される複数の設定映像のうち、記録映像は、強調表示されるのが好ましい。例えば、記録映像が表示されるサブ画面G2と、その他の設定映像が表示されるサブ画面G2との間で、画面枠の色、枠線の太さ若しくは線種、又は点灯の有無等が相違していると好ましい。これにより、ディスプレイにて複数の設定映像を見るユーザは、どの映像が記録映像であるのかを容易に見分けることができる。
また、図18に示すように、移動領域Amの映像を表示するサブ画面G2(図18では、上から二番目のサブ画面)に対しては、移動領域Amの映像である旨の情報(例えば、「移動中」という文字情報等)を表示するとよい。
本実施形態では、表示工程の実施モードが複数用意されており、表示工程における映像の表示方法が、モード毎に変化する。つまり、ユーザによって指定されたモードに従って表示工程が実施される。
例えば、ユーザが第1モードを指定すると、表示工程として、第1表示工程が実施される。第1表示工程では、図18に示すように、基準映像及び設定領域Ar毎の標識fがメイン画面G1に表示され、記録映像及び待機映像がサブ画面G2に表示される。他方、ユーザが第2モードを指定すると、表示工程として、第2表示工程が実施される。第2表示工程では、図19に示すように、記録映像及び待機映像を表示し、且つ基準映像及び設定領域Ar毎の標識fを表示しない。
なお、第1表示工程にて、記録映像、待機映像、基準映像及び設定領域Ar毎の標識fは、必ずしも同一のディスプレイ(例えば、背面のディスプレイ28)に表示されなくてもよい。つまり、図20のように、メイン画面G1に表示される映像と、サブ画面G2に表示される映像と、を互いに異なるディスプレイに表示してもよい。具体例を挙げると、メイン画面G1に表示する映像を背面のディスプレイ28に表示し、サブ画面G2に表示する映像を電子ビューファインダ29又は撮影装置10に接続された外部モニタ(不図示)に表示してもよい。
このように本実施形態では、表示工程が第1表示工程及び第2表示工程を含み、これら2つの表示工程のうち、ユーザにより指定された一方の工程を実施する。これにより、ユーザのニーズに合わせて表示映像を切り替えることができる。例えば、ユーザが基準映像及び標識fを確認しようとする場合には、第1表示工程を実施して基準映像及び標識fを表示するとよい。他方、ユーザが記録映像及び待機映像(つまり、設定映像)のみを確認しようとする場合には、第2表示工程を実施して記録映像及び待機映像のみを表示するとよい。
また、表示工程の実施モード、すなわち、第1表示工程及び第2表示工程のうちのいずれの工程を実施するかは、表示工程の実施中、ユーザによる切り替え操作に応じて自由に切り替えられることが好ましい。例えば、図2に示すタッチパネル36又は操作ボタン30を通じて、ユーザがどちらの表示工程を採用するかを切り替えられると好ましい。
なお、第2表示工程では、記録映像と、その他の設定映像とを同じディスプレイに表示してもよい。例えば、図19に示すように、記録映像を表示画面中のメイン画面G1に表示し、待機映像をサブ画面G2に表示してもよい。
あるいは、第2表示工程において記録映像と、その他の設定映像とを互いに異なるディスプレイに表示してもよい。例えば、図20に示すように、記録映像を背面のディスプレイ28に表示し、その他の設定映像を電子ビューファインダ29又は撮影装置10に接続された外部モニタ(不図示)に表示してもよい。
情報表示画面G3には、例えば後述の提案情報が表示される。
また、情報表示画面G3には、ユーザに対する撮影用のアドバイス、及び警告メッセージ等を表示することができる。例えば、記録工程中に露光量又はISO感度等の調整が必要となった場合には、その旨を表示してもよい。
さらに、情報表示画面G3には、上記以外の情報を表示することができる。例えば、現時点で採用されている撮影モード、解像度及びISO感度等の撮影条件に関する現在値、並びに電子ズーム等の各種機能のオンオフ等を表示してもよい。
(優先度に基づく設定映像の表示について)
表示工程において、サブ画面G2の数は、記録映像の解像度及びアスペクト比のうちの少なくとも一方の項目(以下、単に「少なくとも一方の項目」と呼ぶ)に応じて決められる。つまり、サブ画面G2に表示される設定映像の表示数は、少なくとも一方の項目に応じて決められる。
同様に、各サブ画面G2のサイズについても、少なくとも一方の項目に応じて決められる。つまり、設定映像の表示サイズは、少なくとも一方の項目に応じたサイズとなる。
ここで、少なくとも一方の項目は、記録映像の記録形式(動画フォーマット)に応じて調整される。したがって、表示工程における設定映像の表示数(厳密には、最大表示数)及び表示サイズは、記録映像の記録形式に応じた数及びサイズとなる。
本実施形態では、設定映像の表示数及び表示サイズが少なくとも一方の項目に応じて決められることで、記録映像を含む複数の設定映像の各々を良好に表示することができる。例えば、それぞれの設定映像を、適切な解像度にて、サブ画面G2に収まりよく表示することができる。
なお、本実施形態では、記録映像のアスペクト比が記録映像の記録形式に応じて決まるが、記録映像のアスペクト比を記録形式に依拠せずに任意に設定してもよい。その場合、記録映像のアスペクト比の調整に伴い、サブ画面G2の数及びサイズが調整後のアスペクト比に応じて変えられることになる。
また、本実施形態では、表示工程にて表示される設定映像の表示数及び表示サイズ(すなわち、サブ画面G2の数及びサイズ)の両方が、少なくとも一方の項目に応じて決められることとした。ただし、これに限定されず、設定映像の表示数又は表示サイズのいずれか一方が、少なくとも一方の項目に応じて決められてもよい。
なお、表示工程における設定映像の表示数は、少なくとも一方の項目に応じて決められなくてもよい。例えば、ユーザが表示数を設定又は変更してもよい。
本実施形態において、表示工程における設定映像の表示数は、前述のように、記録映像の解像度及びアスペクト比に応じて決められる。ここで、第1表示工程の場合は、表示される設定映像のうち、1つは、記録映像であり、残りが待機映像である。したがって、待機映像の表示数に関する設定値、すなわち最大表示数は、記録映像の解像度及びアスペクト比に応じて決まり、具体的にはサブ画面G2の数より1少ない数である。
なお、図21に示すケースでは、待機映像の最大表示数が3個である。
一方、基準領域における設定領域Arの数は、基準映像中の被写体等に応じて変化し、それに伴って、記録領域Ap以外の設定領域Ar、すなわち複数の待機領域の数が変化する。
なお、図21に示すケースでは、待機領域の数が6個である。
制御部46は、複数の待機領域の数が待機映像の最大表示数に達した(厳密には、超えた)場合には、図22に示す流れにて表示工程を実施する。図22に示す表示工程の流れについて説明すると、制御部46は、複数の待機領域の数が待機映像の最大表示数に達した場合に決定工程を実施する(S021)。
決定工程では、制御部46が複数の待機領域の各々に対して優先度を決定する。その手順を説明すると、制御部46は、先ず、複数の待機映像のそれぞれについて、待機映像中の被写体を検出する(S101)。次に、制御部46は、検出された待機映像中の被写体に関する情報を取得する(S102)。なお、このとき、制御部46は、待機映像中の被写体に関する情報の代わりに、後述する記録領域としての実績情報を取得してもよい。
被写体に関する情報としては、例えば、撮影期間において被写体が基準映像中に映っている時間又は回数、並びに、基準映像における被写体の大きさ(表示サイズ)が挙げられる。これらの情報は、撮影期間中に制御部46が基準映像を解析して計測又は計数することで取得可能である。
また、被写体が人物である場合には、パターンマッチング等の技術により人物の顔を認識し、顔が認識された人物の重要度を特定し、その特定結果を被写体に関する情報としてもよい。人物の重要度については、例えば、顔が認識された人物の属性(例えば、家族、親戚、知人又は他人)等を判定し、その判定結果から求めることができる。また、検出された被写体が複数ある場合は、被写体のカテゴリ(例えば、人、動物、物又は風景等)によって優先度を決定してもよい。さらに、検出されたタイミングが早い被写体から優先して、優先度を決定してもよい。
なお、被写体に関する情報については、当然ながら、上記以外にも考えられ得る。決定工程において、どのような情報を被写体に関する情報として利用するかについては、ユーザが自由に選べるのが望ましい。
その後、制御部46は、決定工程において、検出された被写体に関する情報に応じて、複数の待機領域の各々の優先度を決定する(S103)。
決定工程の実施後、制御部46は、複数の待機領域のうち、優先度に基づいてN個の待機領域を選定する(S022)。ここで、選定される待機領域の数Nは、待機映像の最大表示数であり、サブ画面G2の数に応じて決まる数(例えば、サブ画面G2の数から1だけ少ない数)である。制御部46は、ステップS022において、優先度が高い方から順にN個の待機領域を選定する。
そして、制御部46は、選定されたN個の待機領域の映像(待機映像)をサブ画面G2に表示する(S023)。ここで、サブ画面G2が図21に示すように表示画面の縦方向に並んでいる場合には、優先度がより高い待機領域の待機映像をより上方のサブ画面G2に表示するのが望ましい。
以上のように本実施形態では、複数の待機領域の数が待機映像の最大表示数に達した(超えた)場合、優先度に応じて選定されたN個の待機映像を表示する。これにより、画面表示における制約に応じつつも、優先度の高い待機映像を適切に表示することができる。
なお、優先度の決め方については、待機映像中の被写体に関する情報に基づいて決める方法に限られない。例えば、記録領域としての実績情報に応じて優先度を決定してもよい。より詳しく説明すると、複数の待機領域の各々について、撮影開始時から現時点までの間に記録領域として選択された回数、記録領域であった時間、又は、直前に記録領域として選択された時点からの経過時間等を特定する。これらの情報は、過去に記録領域として選択された実績に関する情報に相当する。
そして、上記の実績に関する情報に基づいて、複数の待機領域の各々の優先度を決定してもよい。例えば、実績に関する情報が、記録領域として選択された回数又は時間である場合、その回数又は時間が多いほど、高い優先度を付与するとよい。
また、図22に示す表示工程の流れでは、優先度に基づいてN個の待機領域選定し、選定された待機領域の映像のみを表示することとしたが、これに限定されるものではない。例えば、優先度が高い順で上位N個の待機領域と、それより下位の待機領域とをそれぞれ選定してもよい。その場合、上位N個の待機領域の待機映像を先ず表示し、それより下位の待機領域の待機映像を、図23に示すように表示画面のスクロール又は切り替え等によって表示されるようにしてもよい。
また、複数の待機映像の各々を優先度に応じたサイズで表示してもよい。例えば、図24に示すように、優先度が高い待機領域の待機映像は、通常サイズのサブ画面G2に表示し、優先度が低い待機領域の待機映像は、縮小サイズのサブ画面G2xに表示してもよい。このようにすれば、複数の待機映像の各々を表示することができ、且つ、優先度が高い待機領域は、より見やすく表示することができる。
[制御工程について]
映像表示フロー中の制御工程について説明する。制御工程は、基準領域の変更を抑制するための制御処理を実行する工程であり、少なくとも基準領域の決定後に実施される。つまり、制御処理は、ユーザの記録開始指示の受け付け時点後の基準領域の変更を抑制するための処理である。
制御処理において、制御部46は、ズーム用駆動部21をロックしてズーム用の光学機器18の移動を停止する。これにより、記録工程中、光学ズーム機能が制限され、基準領域が固定されて、その時点での画角が維持される。
上記の制御処理を実行すれば、記録工程の実施中、基準領域に対する各設定領域Arの相対位置が変化するのを防ぐことができる。その結果、各設定領域Arが基準領域から外れて記録映像等の各設定映像が適切に撮影されなくなる状況を回避することができる。
なお、基準領域の変更を抑制するために実施される制御処理は、上記の処理に限定されず、例えば、基準領域の変更に関する提案情報を通知するための処理であってもよい。具体例を挙げると、光学ズームを禁止するメッセージを情報表示画面G3に表示してもよく、あるいは音声等で再生してもよい。その他、図18に示すように撮影装置10を動かす動作(例えば、パニング動作)を禁止するメッセージ、又は、三脚等の雲台を用いて撮影装置10を固定することを推奨するメッセージを表示等してもよい。
また、制御工程が、基準領域の決定前(つまり、記録開始指示の受け付け前)の時点に実施されてもよく、例えば設定工程の中に実施されてもよい。この場合には、基準領域中に複数の設定領域Arを設定している間において基準領域が変わってしまうのを抑えることができる。
[変更工程について]
記録工程の実施中、所定の条件が満たされると、制御部46が変更工程を実施する。変更工程は、設定領域Arの映像(すなわち、設定映像)の表示数の変更に関する変更処理を実行する工程である。変更処理の実行により、記録工程の実施中に設定映像の表示数を動的に増やす、又は減らすことができる。
以下、図25に示すフローを参照しながら、記録工程の実施中における処理の流れについて説明する。ちなみに、以降の説明で参照する図26~31では、図示の便宜上、標識f内の映像以外の映像のグレーアウト表示を省略している。
記録工程の実施中、制御部46は、基準映像を監視し、基準映像中の被写体が増加したかどうかを判定する(S031)。基準映像中の被写体が増えた場合、制御部46は変更工程を実施する(S032)。かかる変更工程では、設定映像の表示数を増やす変更処理が実行される。
ステップS032における変更処理では、基準映像中の被写体の増加に応じて設定領域Arを追加し、追加された設定領域Arの設定映像を新たにディスプレイに表示する。この結果、設定映像の表示数が増える。例えば、図26及び27に示すように、基準映像中の被写体が3人から4人に増えた場合、設定映像の表示数(つまり、サブ画面G2に表示される映像の数)が3つから4つに増える。
なお、基準映像中の被写体の増加に伴って設定領域Arを追加した場合、それと連動する形で、メイン画面G1に表示される基準映像中の標識fの数が、追加された設定領域Arの分だけ増える(図27参照)。
また、上記の実施形態では、基準映像中の新たな被写体の位置に設定領域Arを設定することとしたが、これに限定されるものではない。例えば、設定領域Arの代わりに設定領域の候補Acを設定してもよい。その場合、基準映像中に、候補Acの位置を示す標識(詳しくは、前述の候補標識K)を表示する。そして、候補標識Kに対してユーザがタップ等の操作を行うと、これをトリガーとして候補Acの位置に設定領域Arが追加される。この結果、追加された設定領域Arの設定映像が新たに表示され、設定映像の表示数が増える。
また、基準映像中の新たな被写体の位置に設定領域Ar又はその候補Acを設定する代わりに、設定領域Arの追加(つまり、設定映像の表示数の変更)に関する提案情報を出力してもよい。例えば、新たな被写体の位置に設定領域Arを追加して設定映像の表示数を増やすことを提案するメッセージを、情報表示画面G3に表示し、又は音声等で再生してもよい。このように、変更処理として、設定映像の表示数の変更に関する提案情報を出力する処理を実行してもよい。
図25に示すフローにおいて、制御部46は、記録工程の実施中、基準映像を監視し、基準領域中の移動領域Amが他の設定領域Arと重なっているかを判定する(S033)。そして、移動領域Amが図28に示すように他の設定領域Arと重なっている場合、若しくは重なる直前である場合には、制御部46が警告メッセージ又は警告音を出力する(S034)。これは、移動領域Amが他の設定領域Arと重なる状況では、一方の領域内の被写体が他方の領域内の被写体の背後に来て映らない場合があるためである。
警告メッセージ等の出力により、移動領域Amが他の設定領域Arと重なっている又は重なる直前である状況をユーザに知らせることができる。警告を受け取ったユーザは、適切な対策(例えば、設定領域Arの再設定等)を講じることができる。その1つの策としてユーザが画面操作等を通じて変更要求を行うと(S035)、制御部46が変更工程を実施する(S036)。かかる変更工程では、設定映像の表示数を減らす変更処理が実行される。
ステップS036における変更処理では、重なり合った移動領域Am及び他の設定領域Arを1つの設定領域Arに更新し、更新後の設定領域Arの設定映像をディスプレイに表示する。例えば、図28のように別々に表示された移動領域Amの映像と他の設定領域Arの映像とが、図29のように、これら2つの映像のそれぞれの被写体を含む1つの映像に統合される。この結果、設定領域Arの数が1つ減り、設定映像の表示数も1つ減少する。
なお、更新後の設定領域Arのサイズ及び位置は、上記2つの映像の被写体が収まるように設定されると好ましい。また、更新後の設定領域Arを示す標識fの識別情報は、更新前の2つの領域(すなわち、移動領域Am及び他の設定領域Ar)のいずれか一方を示す標識fの識別情報を引き継いでもよい。あるいは、更新後の設定領域Arに対して新規の識別番号が付与されてもよい。
図25に示すフローにおいて、制御部46は、記録工程の実施中、複数の設定領域Arの各々が中止条件を満たすか否かを定期的に判定する(S037)。中止条件とは、設定領域Arの映像(設定映像)の表示を中止すべきか否かを判断する際の基準であり、例えば下記の条件(1)~(3)が挙げられる。
中止条件(1):光学ズーム等によって設定領域Arの少なくとも一部が基準領域からはみ出していること。
中止条件(2):一定時間以上、設定領域Arの設定映像に変化がない、又は設定映像中に被写体が存在しないこと。
中止条件(3):一定時間以上、記録領域として選択されていない設定領域Arであること。
なお、中止条件は、上記の条件(1)~(3)に限られず、上記以外の条件が中止条件に含まれてもよい。
そして、上記の中止条件(1)~(3)のいずれかを満たす設定領域Arが存在する場合、制御部46が変更工程を実施する(S038)。かかる変更工程では、設定映像の表示数を減らす変更処理が実行される。
ステップS038における変更処理では、中止条件を満たす設定領域Arの設定映像の表示を中止する。例えば、図26中、標識fの識別情報が「2」である設定領域Arが中止条件を満たす場合には、図30のように、その設定領域Arの設定映像の表示が中止される(サブ画面G2から消える)。この結果、設定映像の表示数が1つ減少する。
なお、設定映像の表示が中止された設定領域Ar(以下、中止領域という。)に関しては、図30に示すように、メイン画面G1において、中止領域の位置を示す標識fの表示も中止される。
ちなみに、中止条件を満たす設定領域Arの設定映像の表示を直ちに中止するのではなく、設定映像の表示中止(換言すると、設定映像の表示数の変更)に関する提案情報を出力してもよい。例えば、中止条件を満たす設定領域Arの設定映像の表示中止を推奨するメッセージを情報表示画面G3に表示し、又は音声等で再生してもよい。その間、サブ画面G2には、中止条件を満たす設定領域Arの設定映像の代わりに、別の映像(設定映像とは異なる映像)を表示してもよい。
中止映像の設定映像の表示が中止されると、中止領域は、記録工程が実施される間、撮影装置10内の内部メモリ50等に記憶される。中止領域が記憶される期間は、撮影終了まででもよく、あるいは撮影装置10の電源がオフになるまででもよい。
また、中止領域の設定映像の表示が中止されると、図30に示すように、メイン画面G1には、戻しボタンBt9等の操作用アイコンが表示される。ユーザは、例えば戻しボタンBt9をタップ等することにより、中止領域の設定映像について再表示指示を行うことができる。ユーザの再表示指示があると(S039)、制御部46が変更工程を実施する(S040)。かかる変更工程では、ユーザの再表示指示に基づき、記憶されている中止領域の設定映像を再表示する変更処理が実行される。
ステップS040における変更処理により、中止領域の映像が再びサブ画面G2に表示され、設定映像の表示数が、中止領域の設定映像の表示が中止される前の数に戻る。
なお、再表示可能な中止領域の設定映像は、直前の中止領域(直近で設定映像の表示が中止された設定領域)の映像に限られない。例えば、今回の撮影期間中における過去数回分の中止領域の映像を再表示可能としてもよい。その場合、撮影装置10には過去数回分の中止領域が記憶され、ユーザは、どの中止領域の設定映像を再表示するかを指定して映像の再表示を指示する。
図25に示すフローにおいて、制御部46は、記録工程の実施中、基準映像を監視し、基準領域中の被写体の数が設定領域Arの数の上限値を超えているかを判定する(S041)。そして、被写体の数が設定領域Arの数の上限値を超えた場合、制御部46が変更工程を実施する(S042)。かかる変更工程では、設定映像の表示数の減少に関する変更処理が実行される。
ステップS042における変更処理では、被写体の数が設定領域Arの数の上限値を超えた旨、及び、設定映像の表示数を減らすことを推奨するメッセージを情報表示画面G3に表示し、又は音声等で再生する。ユーザは、これを契機として設定領域Arの設定を見直し、例えば、記録領域として選択されない期間が最も長い設定領域Ar等、不要な設定領域Arを削除する。この結果、設定映像の表示数が、ユーザが削除した設定領域Arの数だけ減少する。
以上までに説明してきた一連のステップS031~S042は、記録工程の実施中、繰り返し実施され、記録工程の終了時点で終了する(S043)。
以上のように本実施形態では、基準映像中の変化(例えば、被写体の追加等)及び中止条件の成立等を契機として変更工程を実施し、設定映像の表示数を適宜変更する。これにより、ユーザは、その時の状況に応じた数の設定映像を容易に確認し、且つ、記録領域となる可能性が低い設定領域Ar等の映像の確認を省略することができる。この結果、ユーザにとっての利便性が向上する。
<<その他の実施形態>>
以上までに説明してきた実施形態は、本発明の表示方法を分かり易く説明するために挙げた具体例であり、あくまでも一例に過ぎず、その他の実施形態も考えられ得る。
上述した実施形態では、撮影装置10が表示装置として各種の映像を表示することとしたが、これに限定されるものではない。例えば、撮影装置10、撮影装置10と有線又は無線にて接続されたカメラコントローラ、及び外付け型の外部ディスプレイ等によって表示装置が構成されてもよい。その場合には、カメラコントローラが、制御部46としての機能を担い、撮影装置10に基準映像を撮影させ、外部ディスプレイに各種の映像を表示させる。また、カメラコントローラは、設定領域Arの設定、記録領域の選択及び再選択(切り替え)、並びに記録映像の記録等を行ってもよい。
また、上記の実施形態では、映像表示フロー中の制御工程において、基準領域の変更を抑制するための制御処理を実行することとした。但し、これに限定されず、基準領域の変更に関する制御処理として、基準領域の変更を促すための処理が実行されてもよい。この場合、基準映像における変化(例えば、基準映像中の被写体の移動等)に応じて基準領域を調整することができる。
より詳しく説明すると、例えば、記録工程において電子ズームにより記録映像をズームアップするとする。その際に、ズーム倍率が所定値を超えてしまうと、記録映像の解像度が一定値以下となり所望の画質が得られ難くなる虞がある。その場合には、図31に示すように、電子ズームの代わりに光学ズームを行って基準領域の変更を促す情報を情報表示画面G3に表示してもよい。あるいは、例えば解像度が所定値以上になるように、制御部46がズーム用駆動部を動かして光学ズームを強制的に行って基準領域を自動的に変更してもよい。
光学ズームによって基準領域が変わると、基準領域に対する各設定領域Arの相対位置が変化する。その場合、制御部46が基準領域の変化量を算出し、算出された変化量に基づき、各設定領域Arの位置及びサイズを調整すると好ましい。これにより、基準領域に対する各設定領域Arの相対位置が、ズームの実施前後で維持されるようになる。
また、記録工程の実施中、移動領域Amが被写体の移動に追従して基準領域の端付近に至る、又は移動領域の少なくとも一部が基準領域からはみ出ることがある。その場合には、移動後の移動領域Amが基準領域中に収まるように撮影装置10を動かすこと(すなわち、基準映像の変更)を促す情報を情報表示画面G3に表示してもよい。
ここで、記録工程中にユーザが撮影装置10を動かすことで基準領域を変更した場合、撮影装置10に備えられたジャイロセンサ等の公知の検出センサが撮影装置10の動き(例えば、変位量)を検出するとよい。そして、制御部46が検出された撮影装置10の動きに基づき、各設定領域Arの位置及びサイズを調整すると好ましい。これにより、基準領域に対する各設定領域Arの相対位置が、変更後の基準領域に応じて調整されるようになる。この際、基準領域の変更により基準領域の外に出た設定領域Arは、自動削除されてもよい。
また、上記の実施形態では、記録される映像が動画、すなわち、一定のフレームレートにて連続的に撮影される複数のフレーム画像の集合であることとした。ただし、記録される映像は、動画に限られず、静止画であってもよい。
例えば、制御部46は、基準映像をライブビュー画像としてメイン画面G1に表示し、基準領域の中で複数の設定領域Arを設定する。ユーザが複数の設定領域Arの中から記録領域Apを選択し、制御部46が、記録映像を含む複数の設定映像をサブ画面G2に表示する。そして、ユーザがレリーズボタン26を操作する等して記録指示を行うと、制御部46が、記録映像を静止画像として記録媒体に記録してもよい。
また、上記の実施形態では、基準映像中の被写体を検出すると、検出された被写体の位置に自動的に設定領域Arを設定することとした。ただし、検出された被写体の位置に直ちに設定領域Arを設定するケースに限られず、検出された被写体の位置に、先ず設定領域の候補Acを設定してもよい。その場合、候補Acの位置に候補標識Kを表示し、その候補標識Kに対してユーザが所定の操作を行った場合に、候補Acの位置に設定領域Arを設定するとよい。
また、上記の実施形態では、中止条件を満たす設定領域Arについては、設定映像の表示が中止される一方で、記録工程の実施中には撮影装置10に記憶されることとした。ただし、これに限定されず、中止条件を満たす設定領域Arを削除し、その領域の映像が記憶されなくてもよい。その場合、中止条件を満たす設定領域Arを削除する前の段階で、当該設定領域Arの削除に関する提案情報を情報表示画面G3に表示するのが好ましい。その上で、設定領域Arの削除の要否を選択するための画面(不図示)を別途表示し、削除の要否に関するユーザの意思を確認してから、中止条件を満たす設定領域Arを削除するとよい。
また、上述した実施形態では、撮影装置がデジタルカメラであったが、ビデオカメラ、撮像光学系付きの携帯電話、スマートフォン及びタブレット型端末等の携帯端末であってもよい。また、撮像レンズは、携帯端末の撮像光学系に外付けされるようなレンズユニットであってもよい。
10 撮影装置
12 撮影装置本体
13 マウント
14 撮影レンズ
17 光学ユニット
18,19 光学機器
20 絞り
21 ズーム用駆動部
22 フォーカス用駆動部
23 絞り駆動部
26 レリーズボタン
28 ディスプレイ
29 電子ビューファインダ
30 操作ボタン
36 タッチパネル
38 シャッタ
40 撮像素子
42 画素
44 アナログ信号処理回路
46 制御部
47 コントローラ
48 映像処理部
50 内部メモリ
52 カードスロット
54 メモリカード
56 バッファメモリ
61 カメラコントローラ
62 外部ディスプレイ
101 第1のUI画面
102 第2のUI画面
103 第3のUI画面
104 第4のUI画面
105 入力画面
Ac 候補
Am 移動領域
Ap 記録領域
Ar 設定領域
As,At 撮影領域
Bt1~Bt8 ボタン
Bt9 戻しボタン
f,fx 標識
G1 メイン画面
G2,G2x サブ画面
G3 情報表示画面
K 候補標識
L1 光軸
T テーブルデータ

Claims (14)

  1. 撮影装置によって撮影した映像を表示する表示方法であって、
    基準映像の撮影領域である基準領域の中に、複数の設定領域、又は前記設定領域の候補を自動的に設定する設定工程と、
    記録される記録映像の領域である記録領域を、前記複数の設定領域の中から選択する選択工程と、
    前記選択工程の実施後に、前記記録領域を前記複数の設定領域の中から再選択して前記記録領域を切り替える切り替え工程と、
    を備え
    前記設定工程は、
    前記基準領域の中に、前記候補を自動的に設定する第1設定工程と
    ユーザの前記候補に対する操作に応じて、前記候補が設定された位置に、前記設定領域を設定する第2設定工程と、を有する表示方法。
  2. 前記設定工程では、前記基準映像において視覚的変化が生じている特徴箇所を検出し、前記基準領域において、検出された前記特徴箇所の位置に、前記設定領域又は前記候補を自動的に設定する請求項1に記載の表示方法。
  3. 前記設定工程では、前記基準映像の撮影シーンを前記基準映像に基づいて認識し、前記基準領域において、認識された前記撮影シーンと対応する位置に前記設定領域又は前記候補を自動的に設定する請求項1又は2に記載の表示方法。
  4. 前記設定工程では、前記基準映像において、前記撮影装置の撮影条件を決めるための特徴が基準を満たす位置に前記設定領域を自動的に設定する請求項1乃至のいずれか一項に記載の表示方法。
  5. 前記撮影条件は、前記基準映像内の合焦位置、露光量、及びホワイトバランスのうちの少なくとも一つである、請求項に記載の表示方法。
  6. 前記設定工程では、予め記憶された前記設定領域の位置情報に基づいて前記設定領域又は前記候補を自動的に設定する請求項1乃至のいずれか一項に記載の表示方法。
  7. 前記位置情報は、過去に実施された前記設定工程にて設定された前記設定領域の前記位置情報、及び、ユーザの操作に基づいて決められた前記設定領域の前記位置情報のうちの少なくとも一つを含む請求項に記載の表示方法。
  8. 前記基準領域のサイズ又は位置が変化した場合に、前記設定領域の位置及びサイズの少なくとも一方を調整する調整工程をさらに備える請求項1乃至のいずれか一項に記載の表示方法。
  9. 撮影装置によって撮影した映像を表示する表示方法であって、
    基準映像の撮影領域である基準領域の中に、複数の設定領域を設定する設定工程と、
    記録される記録映像の領域である記録領域を、前記複数の設定領域の中から選択する選択工程と、
    前記選択工程の実施後に、前記記録領域を前記複数の設定領域の中から再選択して前記記録領域を切り替える切り替え工程と、
    前記記録映像の動画像を記録する記録工程と、
    前記設定領域の映像である設定映像を表示する表示工程と、
    前記記録工程の実施中に、前記設定映像の表示数の変更に関する変更処理を実行する変更工程と、
    を備える表示方法。
  10. 前記変更処理は、前記基準映像中の被写体の増加に応じて前記設定領域を追加して前記表示数を増やす処理を含む請求項に記載の表示方法。
  11. 前記変更処理は、中止条件を満たす前記設定領域の前記設定映像の表示を中止して前記表示数を減らす処理を含む請求項又は10に記載の表示方法。
  12. 前記設定映像の表示が中止された前記設定領域である中止領域は、前記記録工程が実施される間に記憶され、
    前記変更処理は、ユーザの再表示指示に基づき、記憶された前記中止領域の前記設定映像を再表示する処理を含む請求項乃至11のいずれか一項に記載の表示方法。
  13. 前記変更処理は、前記表示数の変更に関する提案情報を出力する処理を含む請求項乃至12のいずれか一項に記載の表示方法。
  14. 前記基準映像中の被写体の数が前記設定領域の数の上限値を超えた場合、前記変更工程において、前記表示数の減少に関する前記変更処理を実行する請求項乃至13のいずれか一項に記載の表示方法。
JP2021574473A 2020-01-30 2020-11-16 表示方法 Active JP7394151B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023199704A JP2024019216A (ja) 2020-01-30 2023-11-27 表示方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020013193 2020-01-30
JP2020013193 2020-01-30
PCT/JP2020/042617 WO2021152961A1 (ja) 2020-01-30 2020-11-16 表示方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023199704A Division JP2024019216A (ja) 2020-01-30 2023-11-27 表示方法

Publications (2)

Publication Number Publication Date
JPWO2021152961A1 JPWO2021152961A1 (ja) 2021-08-05
JP7394151B2 true JP7394151B2 (ja) 2023-12-07

Family

ID=77078185

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021574473A Active JP7394151B2 (ja) 2020-01-30 2020-11-16 表示方法
JP2023199704A Pending JP2024019216A (ja) 2020-01-30 2023-11-27 表示方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023199704A Pending JP2024019216A (ja) 2020-01-30 2023-11-27 表示方法

Country Status (4)

Country Link
US (1) US20220360724A1 (ja)
JP (2) JP7394151B2 (ja)
CN (1) CN115023942A (ja)
WO (1) WO2021152961A1 (ja)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003256836A (ja) 2001-07-10 2003-09-12 Hewlett Packard Co <Hp> 知的特徴選択およびパンズーム制御
JP2011217307A (ja) 2010-04-02 2011-10-27 Seiko Epson Corp 監視画像表示制御装置及び監視システム
JP2012103859A (ja) 2010-11-09 2012-05-31 Olympus Corp 画像処理装置、画像処理方法及び画像処理プログラム
JP2014042357A (ja) 2008-09-12 2014-03-06 Sanyo Electric Co Ltd 撮像装置および画像処理装置
JP2014207662A (ja) 2013-03-19 2014-10-30 キヤノン株式会社 映像処理装置、映像処理装置の制御方法およびプログラム
JP2016201756A (ja) 2015-04-14 2016-12-01 ソニー株式会社 画像処理装置、画像処理方法、および画像処理システム
JP2019028536A (ja) 2017-07-26 2019-02-21 キヤノン株式会社 画像処理装置及びその制御方法、表示装置、プログラム
WO2019111659A1 (ja) 2017-12-07 2019-06-13 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法、およびプログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002305683A (ja) * 2001-04-04 2002-10-18 Olympus Optical Co Ltd 撮像装置および撮像プログラムを記録した記録媒体
US6895181B2 (en) * 2002-08-27 2005-05-17 Olympus Corporation Camera and distance measuring method thereof
JP4171501B2 (ja) * 2006-04-25 2008-10-22 本田技研工業株式会社 車両の周辺監視装置
KR101362765B1 (ko) * 2007-11-07 2014-02-13 삼성전자주식회사 촬영 장치 및 그 제어 방법
KR101427660B1 (ko) * 2008-05-19 2014-08-07 삼성전자주식회사 디지털 영상 처리 장치에서 영상의 배경흐림 효과 처리장치 및 방법
KR20100091846A (ko) * 2009-02-11 2010-08-19 삼성전자주식회사 촬상 장치 및 촬상 방법
JP5624809B2 (ja) * 2010-06-24 2014-11-12 株式会社 日立産業制御ソリューションズ 画像信号処理装置
JP5907738B2 (ja) * 2012-01-23 2016-04-26 オリンパス株式会社 撮像装置、表示方法、プログラム
CN103458177B (zh) * 2012-05-23 2018-12-11 杭州阿尔法红外检测技术有限公司 影像记录装置和影像记录方法
JP5859061B2 (ja) * 2013-06-11 2016-02-10 キヤノン株式会社 撮像装置、画像処理装置、および、これらの制御方法
JP6512810B2 (ja) * 2014-12-11 2019-05-15 キヤノン株式会社 撮像装置および制御方法とプログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003256836A (ja) 2001-07-10 2003-09-12 Hewlett Packard Co <Hp> 知的特徴選択およびパンズーム制御
JP2014042357A (ja) 2008-09-12 2014-03-06 Sanyo Electric Co Ltd 撮像装置および画像処理装置
JP2011217307A (ja) 2010-04-02 2011-10-27 Seiko Epson Corp 監視画像表示制御装置及び監視システム
JP2012103859A (ja) 2010-11-09 2012-05-31 Olympus Corp 画像処理装置、画像処理方法及び画像処理プログラム
JP2014207662A (ja) 2013-03-19 2014-10-30 キヤノン株式会社 映像処理装置、映像処理装置の制御方法およびプログラム
JP2016201756A (ja) 2015-04-14 2016-12-01 ソニー株式会社 画像処理装置、画像処理方法、および画像処理システム
JP2019028536A (ja) 2017-07-26 2019-02-21 キヤノン株式会社 画像処理装置及びその制御方法、表示装置、プログラム
WO2019111659A1 (ja) 2017-12-07 2019-06-13 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法、およびプログラム

Also Published As

Publication number Publication date
CN115023942A (zh) 2022-09-06
JPWO2021152961A1 (ja) 2021-08-05
US20220360724A1 (en) 2022-11-10
JP2024019216A (ja) 2024-02-08
WO2021152961A1 (ja) 2021-08-05

Similar Documents

Publication Publication Date Title
JP4671133B2 (ja) 画像処理装置
US8780200B2 (en) Imaging apparatus and image capturing method which combine a first image with a second image having a wider view
US20050134719A1 (en) Display device with automatic area of importance display
US9131138B2 (en) Photographing apparatus
JP2010010729A (ja) 撮像装置及びプログラム
JP2008245055A (ja) 画像表示装置、撮影装置および画像表示方法
JP2007233170A (ja) 焦点検出装置およびカメラ
JP5830564B2 (ja) 撮像装置および撮像装置におけるモード切換え方法
US20200120269A1 (en) Double-selfie system for photographic device having at least two cameras
JP5142825B2 (ja) 画像表示装置及び画像表示方法
WO2023185683A1 (zh) 微距拍摄方法、电子设备和计算机可读存储介质
JP7394151B2 (ja) 表示方法
JP2005223658A (ja) デジタルカメラ
JP2014017665A (ja) 表示制御装置、表示制御装置の制御方法、プログラムおよび記録媒体
JP4534539B2 (ja) カメラ装置およびプログラム
WO2021152960A1 (ja) 表示方法
KR20100093955A (ko) 디지털 영상신호 처리장치에서 이미지확대표시방법
JP6017656B2 (ja) 撮像装置および撮像装置におけるモード切換え方法
JP2008160701A (ja) カメラ及びカメラ用撮影制御プログラム
JP2010056622A (ja) 電子カメラ
JP5889507B2 (ja) カメラ装置、及び撮影タイミング報知方法、撮影タイミング報知プログラム
JP7418083B2 (ja) 表示制御装置およびその制御方法およびそのプログラム
JP2007074402A (ja) 表示装置、表示操作装置、処理装置、撮影装置、および表示方法
JP7345561B2 (ja) 映像作成方法
JP2008085524A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220714

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230905

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231020

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231031

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231127

R150 Certificate of patent or registration of utility model

Ref document number: 7394151

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150