JP2017046175A - 撮像装置及びその制御方法、プログラム、並びに記憶媒体 - Google Patents

撮像装置及びその制御方法、プログラム、並びに記憶媒体 Download PDF

Info

Publication number
JP2017046175A
JP2017046175A JP2015167006A JP2015167006A JP2017046175A JP 2017046175 A JP2017046175 A JP 2017046175A JP 2015167006 A JP2015167006 A JP 2015167006A JP 2015167006 A JP2015167006 A JP 2015167006A JP 2017046175 A JP2017046175 A JP 2017046175A
Authority
JP
Japan
Prior art keywords
display
unit
video
imaging
range
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015167006A
Other languages
English (en)
Other versions
JP2017046175A5 (ja
JP6562773B2 (ja
Inventor
知宏 太田
Tomohiro Ota
知宏 太田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015167006A priority Critical patent/JP6562773B2/ja
Priority to US15/227,983 priority patent/US9860457B2/en
Publication of JP2017046175A publication Critical patent/JP2017046175A/ja
Publication of JP2017046175A5 publication Critical patent/JP2017046175A5/ja
Application granted granted Critical
Publication of JP6562773B2 publication Critical patent/JP6562773B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)

Abstract

【課題】装置を動かして撮影を行う場合に、映像の記録範囲の外側の視認性を改善し、データ転送や消費電力を改善する。【解決手段】撮像装置は、被写体を撮像する撮像手段と、前記撮像手段により撮像された映像を表示する表示手段と、前記映像のうち、前記表示手段による表示範囲内で、かつ当該表示範囲よりも狭い領域を切り出す切り出し手段と、装置の位置又は姿勢が変化していることを検出する検出手段と、前記表示手段による表示範囲内であって前記切り出し手段により切り出されない映像の領域が、前記装置の位置又は姿勢が変化している方向側により広くなるように制御する表示制御手段と、を有する。【選択図】図4

Description

本発明は、表示された映像の一部を切り出して記録する映像記録技術に関する。
従来から、撮像された映像の一部を切り出して(クロップして)記録する技術が知られている。この技術では、撮像された映像全体をEVF(電子ビューファインダ)等によりディスプレイに表示する。すなわち、表示されている映像の一部が記録される範囲となる。これにより、映像の記録範囲の外側にどのような被写体が存在するかも映像から把握できるようになる。
このようにすることで、例えば、写したくない被写体が記録範囲の外側となるようにフレーミングを行っている場合に、写したくない被写体が記録範囲に入りそうか否かを表示されている映像から確認できる。
表示されている映像のうち、記録範囲の外側に写したくない被写体が存在する場合は、それ以上、写したくない被写体が存在する方向にカメラを動かしてはいけないことがわかる。そして、このようなカメラを動かして撮影を行う場合には、カメラを動かしている方向の被写体の様子を早く視認して、カメラの移動を停止すべきタイミングを確実に把握できることが望ましい。
特許文献1では、映像を表示しない残余の領域に撮影設定内容を表示させることで、映像上に撮影設定内容が重畳表示されることによる視認性低下を回避している。また、特許文献2では、映像の記録範囲よりも広い範囲を表示することによって、ズーム操作を容易にしている。
特開2005−124004号公報 特開2011−229172号公報
ところで、表示される映像の大きさは、イメージセンサの読み出し動作やVRAM(ビデオメモリ)のサイズに影響するため、むやみに大きくしない方がデータ転送や消費電力の観点で望ましい。
特許文献1では、映像の記録範囲の外側をEVFで視認できない。特許文献2では、映像の記録範囲の外側がある程度EVFで視認できるが、カメラの移動やパン、ティルトの場合、カメラを動かしている方向とは反対の範囲まで広く表示されるため、データ転送や消費電力の観点で改善の余地がある。
本発明は、上記課題に鑑みてなされ、その目的は、装置を動かして撮影を行う場合に、映像の記録範囲の外側の視認性を改善し、データ転送や消費電力を改善することができる技術を実現することである。
上記目的を達成するために、本発明の撮像装置は、被写体を撮像する撮像手段と、前記撮像手段により撮像された映像を表示する表示手段と、前記映像のうち、前記表示手段による表示範囲内で、かつ当該表示範囲よりも狭い領域を切り出す切り出し手段と、装置の位置又は姿勢が変化していることを検出する検出手段と、前記表示手段による表示範囲内であって前記切り出し手段により切り出されない映像の領域が、前記装置の位置又は姿勢が変化している方向側により広くなるように制御する表示制御手段と、を有する。
本発明によれば、装置を動かして撮影を行う場合に、映像の記録範囲の外側の視認性を改善し、データ転送や消費電力を改善することができる。
本発明に係る実施形態の装置構成を示すブロック図。 表示制御処理1により表示される映像を説明する図。 表示制御処理2により表示される映像を説明する図。 本実施形態による映像の表示制御処理を示すフローチャート。 撮像された映像全体と映像の表示範囲との関係を説明する図。
以下に、本発明の撮像装置を、動画や静止画(以下、映像)を撮影可能なデジタルビデオカメラ(以下、カメラ)に適用した実施の形態について、添付図面を参照して詳細に説明する。
<撮像装置の構成>図1を参照して、本実施形態のカメラ100の構成について概説する。
図1において、撮像部101は、フォーカスレンズやズームレンズ、振れ補正レンズ等を含む光学レンズ、絞り、結像された光学像を電気信号に変換するCCDもしくはCMOS等のイメージセンサ、アナログ信号をデジタル信号に変換するA/D変換器を含む。なお、イメージセンサは、防振制御用に物理的に上下方向、左右方向にシフトする機構を備えていてもよい。
映像処理部102は、撮像部101からのデータ、又は、メモリ制御部109からのデータに対し所定の画素補間、縮小といったリサイズ処理や色変換処理を行い、VRAMデータを生成しメモリ制御部109を介してメモリ110に書き込む。また、映像処理部102では、映像データを用いて所定の演算処理を行い、得られた演算結果に基づいてシステム制御部111が露光制御、測距制御、防振制御を行う。所定の演算処理には、被写体の顔等を検出する顔検出処理も含まれる。これにより、AF(オートフォーカス)処理、AE(自動露出)処理、防振処理が行われる。映像処理部102では更に、撮像した映像データを用いて所定の演算処理を行い、得られた演算結果に基づいてAWB(オートホワイトバランス)処理も行っている。さらに、映像処理部102は、エンコード済み映像データをコーデック103によりデコードし、リサイズ処理や色変換処理を行って新たなVRAMデータを生成する処理を行う。
コーデック103は、映像処理部102で生成されたVRAMデータをMPEG2やH.264等の動画圧縮方式でエンコードする。また、コーデック103は、メモリ制御部109から読み出されたエンコード済み映像データをデコードしたVRAMデータを、メモリ制御部109へ送出する。
映像出力部104は、メモリ110に保持された複数のVRAMデータをメモリ制御部109を介して読み出し、これらを重畳して表示用の映像信号を生成する。映像出力部104は、第1の映像出力端子105に対しては、後述するGPU108により映像の一部が切り出された記録用のVRAMデータを出力する。また、映像出力部104は、第2の映像出力端子106及び表示部107に対しては、映像処理部102による表示用のVRAMデータとGPU108によるOSD(オンスクリーンディスプレイ)のVRAMデータを重畳した映像を出力する。
第1の映像出力端子105は、例えば、HDMI(登録商標)端子やSDI端子やコンポジットビデオ出力端子である。第1の映像出力端子105は、カメラ100を不図示のレコーダ等の外部機器に接続することを主な目的としているため、表示用のVRAMデータにOSDのVRAMデータは重畳されない。
第2の映像出力端子106は、第1の映像出力端子105と同様に、例えば、HDMI(登録商標)端子やSDI端子やコンポジットビデオ出力端子である。第2の映像出力端子106は、カメラ100を外部機器としてのデジタルテレビや外部モニタに接続することを主な目的としており、OSDのVRAMデータが重畳された表示用のVRAMデータが出力される。
表示部107は、映像出力部104から出力される、第2の映像出力端子106と同等の映像信号が出力される。表示部107は、液晶パネルや有機ELパネル等の表示デバイスから構成され、カメラ100と一体化した構成であっても、別体として接続される外部機器であってもよい。また、表示部107は複数であってもよく、表示部107に接眼レンズが組み付けられた、覗き込み型のEVF(電子ビューファインダ)を備えている場合もある。
GPU(グラフィックスプロセッシングユニット)108は、カメラ100の状態や設定を表す文字やアイコン、及び各種の枠やマーカーをメモリ110上のVRAMにレンダリングする。文字やアイコン等の情報は不揮発性メモリ117に圧縮ビットマップ形式やベクター形式で格納されている。システム制御部111は、これらの情報を不揮発性メモリ117から読み出してメモリ110へ書き込み、GPU108が読み出してメモリ上のVRAMにレンダリングする。また、GPU108は、VRAMデータを切り出したり、複数のVRAMデータを合成したり、異なる解像度のVRAMデータへリサイズするミキサー機能も備えている。ミキサー機能には、レンダリングされたVRAMデータの色空間を映像出力部104が求める色空間へ変換する色変換機能も含まれる。
メモリ制御部109は、各ブロックからメモリ110へのアクセス要求を調停する機能を備える。
メモリ110は、映像処理部102、コーデック103、映像出力部104、GPU108がそれぞれが処理するVRAMデータを格納する。また、メモリ110は、コーデック103から出力されたエンコード済み映像データや、記録媒体121から読み出されたエンコード済み映像データを一時的に記憶する機能も有している。メモリ110は、所定時間の動画や音声を格納するのに十分な記録容量を備えている。また、メモリ110はOSD描画用のビットマップメモリ及び映像表示用のビデオメモリを兼ねている。
システム制御部111は、カメラ100全体を統括して制御するCPUやMPUを含む。システム制御部111は、不揮発性メモリ117に格納されたプログラムを読み出して実行することで、後述するフローチャートの各処理を実現する。システム制御部111は複数のCPUコアを備えていても構わない。その場合は、プログラムに記述されたタスクを複数のCPUコアで分担して処理することができる。
姿勢検出部112は、例えば、移動(スライド)、パン、又はティルトなどのカメラ100の位置や姿勢が変化する動き(低周波)や、手振れ等により発生する高周波振動を電気信号に変換してシステム制御部111へ送出する。システム制御部111は、姿勢検出部112による検出値を用いてカメラ100が移動、パン、又はティルトしている方向及び速度を検出する。また、システム制御部111は、姿勢検出部112による検出値を用いてカメラ100の手振れを検出し、手振れ量に応じて振れ補正レンズや撮像部101をシフトさせる防振処理や映像処理部102によって映像を切り出す電子防振処理を行う。姿勢検出部112としては、例えば加速度センサやジャイロ等を用いることができる。なお、姿勢検出部112は必須の構成ではなく、例えば、映像処理部102における映像の変化から被写体の動きベクトルを検出することによって、姿勢検出部112で得られるカメラ100の姿勢変化や振動の情報を推定してもよい。
タッチパネル113は、表示部107に対するタッチ操作を検出可能なタッチセンサである。タッチパネル113と表示部107とは一体的に構成することができる。例えば、タッチパネル113を光の透過率が表示部107の表示を妨げないように、表示部107の表示面の上層に取り付ける。そして、タッチパネル113における入力座標と、表示部107上の表示座標とを対応付ける。これにより、ユーザが表示部107に表示された画面を直接的に操作可能であるかのようなGUIを構成することができる。
電源スイッチ114は、カメラ100の電源のオン、オフを切り替えるための操作信号をシステム制御部111へ送出する。
電源制御部115は、電池検出回路、DC−DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成され、電池の装着の有無、電池の種類、電池残量の検出を行う。また、電源制御部115は、その検出結果及びシステム制御部111の指示に基づいてDC−DCコンバータを制御し、必要な電圧を必要な期間、記録媒体121を含む各部へ供給する。
電源部116は、アルカリ電池やリチウム電池等の一次電池やNiCd電池やNiMH電池、Liイオン電池等の二次電池、ACアダプター等からなる。
不揮発性メモリ117は、電気的に消去・記録可能なメモリであり、例えばEEPROM等が用いられる。不揮発性メモリ117には、システム制御部111の動作用の定数、プログラム等が記録される。ここでいう、プログラムとは、本実施形態にて後述する各種フローチャートを実行するためのプログラムのことである。
システムメモリ118はRAM等であり、システム制御部111の動作用の定数、変数、不揮発性メモリ117から読み出したプログラム等を展開するワークメモリとしても使用される。また、システム制御部111は、映像出力部104、GPU108、メモリ制御部109を制御することにより表示制御も行う。システムメモリ118を、メモリ110と共用してもよく、その場合はメモリ制御部109によってアクセスが調停されるので、高速にアクセス可能な小容量のメモリを別途システム制御部111に直結して搭載されることもある。
システムタイマー119は、各種制御に用いる時間や、内蔵時計の時間を計測する計時部である。
インターフェース(I/F)120は、メモリカードやハードディスク等の記録媒体121とのインターフェースである。インターフェース120は、メモリ110に保持されたエンコード済み映像データを記録媒体121に記録したり、記録媒体121に記録されているエンコード済み映像データや付加情報を読み出してメモリ110に転送する。
記録媒体121は、カメラ100に装着されるメモリカードやハードディスクドライブ等であってもよいし、カメラ100に内蔵されたフラッシュメモリやハードディスクドライブであってもよい。
<表示制御処理1>次に、図2を参照して、表示制御処理1によるカメラ100の表示部107や第2の映像出力端子106に出力される映像を例示している。
図2(A)は、カメラ100の位置又は姿勢(移動、パン、又はティルト)が変化していない静止状態における表示映像を例示している。
表示範囲201は、第2の映像出力端子106から出力される映像全体、もしくは表示部107に表示される映像全体を示している。
枠202は、表示範囲201のうち、記録される映像の範囲(記録範囲)、もしくは第1の映像出力端子105から出力される映像の範囲を示している。枠202の外側は、映像をやや暗く表示されており、表示された映像のうちの記録範囲202と記録範囲202の外側の記録されない範囲がより明確に識別できるようになっている。枠202の外側を暗く表示する以外にも、明るく表示したり、網掛けにしたり、ぼかして表示したりして区別できるようにしてもよい。このように、記録範囲の外側も表示するサラウンドビュー表示を行うことで、撮影の際に、記録範囲の周辺の状況を表示部107で確認することができ、カメラ100のフレーミングの参考とすることができる。
機能ボタン203は、メニュー画面を表示する指示を行うための操作部である。表示部107に表示された機能ボタン203に対するタップ操作をタッチパネル113により検知し、システム制御部111においてメニューボタンとの対応付けを行うことによって、メニュー画面を表示する制御との紐づけを行う。
電池残量204は、電源部116が一次電池や二次電池等の場合の残量表示であり、アイコン及び数値文字列の双方で表示されている。
時間表示205は、記録媒体121に映像データとともに記録されるタイムコードを示している。
顔枠206は、被写体として検出された顔領域の位置を示しており、映像内に顔が複数検出された場合は、複数の顔枠が表示される。
アスペクトマーカー207は、特に記録される映像に対する画面アスペクトの範囲を示している。アスペクトマーカー207は、メニュー画面の設定によって、4:3、16:9、2.35:1等複数の画面アスペクトから選択できる。また、アスペクトマーカーの他に、画面中央部の面積を示すセーフティマーカーや、水平垂直を示す撮影ガイドであるグリッドマーカー等を同時に表示することができる。
第1の被写体208及び第2の被写体209はそれぞれ映像中に存在する被写体である。第1の被写体208は記録範囲202内にある一方、第2の被写体209は記録範囲202の外側であって、第2の映像出力端子106及び表示部107にその一部が表示されている。
図2(A)の静止状態の場合は、記録範囲202は表示範囲201の中心に配置されるよう、システム制御部111は撮像部101及び映像処理部102を制御する。これによって、ユーザは記録範囲202の周囲(上方、下方、左側、右側)の映像を第2の映像出力端子106及び表示部107で確実に視認することができる。
図2(B)は、カメラ100が左方向へパンされている状態における表示映像を例示している。
第3の被写体210は、図2(A)では表示されていなかった新たな被写体である。
図2(B)のように、カメラ100が動いている途中は、記録されない範囲の映像がカメラが動く方向側により多く表示されるように制御される。これにより、図2(A)の静止状態では視認できなかった第3の被写体210が、表示部107や外部モニタにおいて視認可能となり、カメラ100のパンを止めるタイミングをユーザが容易に判断できるようになる。
なお、図2(B)の例では、枠202及び顔枠206及びアスペクトマーカー207は、表示範囲201全体に対する記録範囲202の変化に伴い、表示位置が変更されている。このような表示制御処理によって、これらの表示部はカメラ100の位置や姿勢の変化に影響を受けずに、本来の役割を果たすことができる。
一方で、機能ボタン203の表示位置は変更されないため、例えば、ユーザがカメラ100のパンと同時にボタンを操作しようとしたときも、タッチすべき位置がずれることがなく、通常通りにタッチ操作を行うことができる。同様に、電池残量204及びタイムコード205も表示位置を変更していないため、ユーザは表示位置を探すことなく視認することができる。
図2(C)は、カメラ100が上方向へティルトされている状態における表示映像を例示している。図2(B)とは構図が変更される方向が異なるが、得られる効果は同様である。
上述した表示制御処理によれば、カメラ100の姿勢(移動、パン、又はティルト)を変化させながら撮影を行っている場合に、カメラ100が動いている方向側の記録されない範囲の映像が、EVFで広く視認できるようになる。これにより、所望の被写体や障害物を基準とした移動、パン、又はティルト等のカメラ100の位置や姿勢を変化させながらの撮影が容易に行える。また、このように視認性や操作性を改善しつつ、イメージセンサの読み出し動作やVRAMのサイズを必要最小限にできるため、データ転送や消費電力を改善することができる。また、カメラ100が動いている方向とは反対側の記録されない表示範囲201を最小限にできるため、表示範囲内における記録範囲202の映像を表示部107や外部モニタに可能な限り大きく表示することができる。
<表示制御処理2>次に、図3を参照して、表示制御処理2によるカメラ100の表示部107や第2の映像出力端子106に出力される映像を例示している。
図3(A)は、カメラ100の姿勢(移動、パン、又はティルト)が変化していない静止状態における表示映像を例示している。なお、図3において、図2と同一の構成要素には同一の符号を付して示している。
矩形301は、表示部107又は外部モニタの表示可能領域全体を示している。
図3(B)は、カメラ100が左方向へパンされている状態における表示映像を例示している。
図3(B)に示すように、本処理では、映像の記録範囲202が常に表示可能領域301の中央に配置されるように制御する。移動やティルト等、図3(B)とは構図が変更される方向が異なる場合も同様である。
本実施形態によれば、上記表示制御処理1による視認性や操作性、データ転送や消費電力を改善するという効果に加えて、映像の記録範囲202を常に表示可能領域301の中央に配置することができるため、ユーザの視線が安定すると共に、カメラ100を移動、パン、又はティルトさせる際にユーザが揺り戻しを感じる可能性を低減することができる。
<表示制御処理>次に、図4を参照して、本実施形態のカメラ100による映像の表示制御処理について説明する。
また、本フローチャートの処理は、不揮発性メモリ117に格納されたプログラムをシステムメモリ118に展開してシステム制御部111が実行することにより実現される。 システム制御部111では、不揮発性メモリ117に格納内されたプログラムに含まれるOSの機能によって、図4(A)、(B)、(C)のフローチャートに示す3つのタスクを並列に行う。
まず、図4(A)の撮像処理を実行するタスクを説明する。
S401では、システム制御部111は、撮像部101のイメージセンサの有効画素範囲から得られる映像データのうち、表示範囲及び記録範囲の初期位置を設定する。表示範囲及び記録範囲の初期位置は、すなわち初期目標位置である。
S402では、システム制御部111は、姿勢検出部112による検出結果に基づいて、カメラ100が動いているか否かを判定する。具体的には、ユーザがカメラ100を所定の方向及び速度で移動、パン、又はティルトさせることによってカメラ100に垂直方向もくしは水平方向の加速度が発生したか否かを判定する。判定の結果、カメラ100が動いていることが検出された場合はS403へ進み、検出されない場合はS404に進む。
S403では、システム制御部111は、姿勢検出部112による検出値から得られたカメラ100の移動、パン、又はティルトの方向もしくは速度に基づいて、映像の表示範囲及び記録範囲の目標位置を決定する。具体的には、カメラ100が移動、パン、又はティルトしている場合は、表示範囲内であって記録範囲に含まれない映像の領域が、姿勢検出部112で検出した姿勢が変化している方向側により広くなるように制御を行う。カメラ100が移動、パン、又はティルトしていない場合は、記録範囲を表示範囲の中央となるように制御を行う。例えば、姿勢検出部112が左方向へのパンを検出した場合、映像の記録範囲の目標位置は表示範囲に対して右側に変位される。姿勢検出部112の検出値からカメラ100の位置や姿勢の変化速度が得られる場合は、速度が大きいほど、映像の表示範囲と記録範囲の中央の座標は大きく変位する。目標位置は、カメラ100の移動、パン、ティルトが続いている限り、中央から変位したままとする。すなわち、カメラ100が動き始めて映像の表示範囲と記録範囲の中央の座標とを変位させたのち、カメラ100が止まるまでは変位を保持する(ただし、変位の度合いはカメラの移動、パン、ティルトの速度によって異なる)。これは、姿勢が変化している方向側により広くとった、表示範囲内であって記録範囲に含まれない映像の領域を見て、ユーザがカメラの移動、パン、ティルトを止めるタイミングを判断するためである。カメラ100が移動、パン、又はティルトしていた状態から静止した状態に変化したことに応じて、段階的に記録範囲を表示範囲の中央に近づけていき、表示範囲と記録範囲の中央の座標の変位を解消する。なお、変位の度合いは、カメラの移動、パン、ティルトの速度によって異ならせずに、所定量としても良い。
S404では、システム制御部111は、現在の映像の表示範囲と記録範囲が目標位置と一致しているか否かを判定し、一致している場合はS405へ進み、一致していない場合はS402へ戻る。
S405では、システム制御部111は、映像の表示範囲及び記録範囲の現在位置を決定する。映像の表示範囲及び記録範囲は、S403で決定した目標位置へ、所定の時間をかけて段階的に変位させる。このように制御することで、表示部107及び外部モニタに表示される映像について、図2(A)と図2(B)の間でユーザが違和感を感じないようにスムーズに遷移させることができる。所望の表示範囲及び記録範囲の映像を得るために、この処理に伴って撮像部101の制御を変更する場合があるが、詳細は後述する。
S406では、システム制御部111は、撮像部101で得られる映像データを映像処理部102へ入力する。
S407では、システム制御部111は、映像処理部102により映像の歪曲収差を適切に補正する処理を行う。特に、広角レンズを用いた撮影の場合、映像の周辺部へ向かうほど大きな歪曲収差が発生する。特に、光軸と記録する映像の中心がずれている場合、記録する映像は左右や上下で歪曲の大きさが異なってしまい、より歪みを感じやすくなる。そのため、本処理において、光軸のずれに応じた歪曲収差の補正を行う。歪曲収差の補正方法については、例えば、特許第4781229号公報に記載されているが、本発明はこれに限定されるものではなく、いかなる方法を用いても実現可能である。
S408では、システム制御部111は、映像処理部102によってメモリ110に表示用のVRAMデータと記録用のVRAMデータを生成する。表示用のVRAMデータは、記録用のVRAMデータの映像の領域を内包している。
S409では、システム制御部111は、光軸中心を原点としたときの表示範囲の座標と記録範囲の座標を、それぞれ図4(B)のタスク及び図4(C)のタスクへ送信する。
次に、図4(B)の表示処理を行うタスクを説明する。
S411では、システム制御部111は、メモリ110に、2枚のOSD描画用のVRAMデータと、1枚以上のOSD出力用のVRAMデータを生成する。
S412では、システム制御部111は、S411で生成した2枚のOSD描画用のVRAMデータのうち1枚に機能ボタン203、電池残量204、タイムコード205を描画する。本フローチャートには示していないが、これらの処理はそれぞれタッチパネル113を管理するタスク、電源制御部115を制御するタスク、コーデック103を制御するタスクから状態更新要求を受信したときに、随時描画が行われる。
S413では、システム制御部111は、S409で送信された表示範囲の座標と記録範囲の座標を受信する。
S414では、システム制御部111は、GPU108により、S413で得られた表示範囲の座標に基づいて、枠202及びアスペクトマーカー207及び顔枠206を、メモリ110に生成したもう1枚のOSD描画用のVRAMデータに描画する。枠202の外側は、映像と重畳表示したときに映像が暗く見えるように、半透過の黒色で塗りつぶされる。これによって、映像の表示範囲のうちの記録範囲と記録されない範囲がよりはっきり識別できるようになる。また、アスペクトマーカー207は、映像の記録範囲に合わせて描画される。
S415では、システム制御部111は、GPU108により、S414で描画された2枚のOSD描画用のVRAMデータを合成し、OSD出力用のVRAMデータを生成する。
次に、図4(C)の記録処理及び映像出力処理を行うタスクを説明する。
S421では、システム制御部111は、S408で生成された表示用のVRAMデータと記録用のVRAMデータ、及びS415で合成されたOSD出力用のVRAMデータを取得する。
S422では、システム制御部111は、S421で取得した表示用のVRAMデータと記録用のVRAMデータを、映像出力部104により重畳する。
S423では、システム制御部111は、S422で重畳されたVRAMデータを表示部107又は第2の映像出力端子106へ出力する。
S424では、システム制御部111は、記録用のVRAMデータをコーデック103によりエンコードする。
S425では、システム制御部111は、記録用のVRAMデータを映像出力部104により第1の映像出力端子105へ出力する。
ここで、S405における現在位置を決定する処理について、図5を用いて説明する。
図5は、イメージセンサの有効画素範囲から得られる映像全体と、表示範囲及び記録範囲を示している。
図5(A)〜図5(C)は、第1のパターンとしてイメージセンサの有効画素全体を表示範囲に割り当てる場合を示している。
図5(A)は、図2(A)又は図3(A)の静止状態を示している。
501は、イメージサークルの中心を示す指標であり、現実には存在しないものである。
502は、イメージセンサの有効画素範囲全体を示す矩形(以下、センサ矩形)である。
503は、表示される映像を切り出す画素範囲を示す矩形(以下、表示矩形)である。図5(A)においては、センサ矩形502と表示矩形503は同等である。
504は、映像の記録範囲、もしくは第1の映像出力端子105から出力される映像の範囲を示す矩形(以下、記録矩形)である。
図5(B)は、図2(B)又は図3(B)の表示状態に対応している。
記録矩形504が図5(A)に比べて右側に変位しており、パンの方向である左側に、記録されないが表示される映像の領域が広く確保されている。イメージサークルの中心に対して記録矩形504のずれが大きいので、映像処理部102で歪曲補正を行うことが望ましい。
この第1のパターンでは、記録範囲に対応するイメージセンサの画素範囲をできる限り多く確保しつつ、本発明の効果を得ることができるため、後述する他のパターンに対して記録される映像の感度やボケ量の点で有利である。
図5(C)は、図5(B)と同様に、図2(B)又は図3(B)の表示状態に対応している。
イメージサークルの中心が記録矩形504に合わせてセンサ矩形502に対して右側へ変位している。この場合、カメラ100のパンに対して記録矩形504が等しく変化するため、ユーザが揺り戻しのような違和感を感じにくくなる。また、映像処理部102において通常の歪曲補正のみを行えばよく、記録される映像に歪みが現れにくい。
この構成を実現するためには、撮像部101に含まれる振れ補正レンズによってイメージサークルをシフトさせるか、イメージセンサを物理的にシフトさせて、イメージサークルの中心から変位させる必要がある。
図5(D)及び図5(E)は、イメージセンサの有効画素範囲全体よりもやや狭い範囲を表示範囲に割り当てる第2のパターンを示している。表示範囲の外側は電子防振による映像の切り出しのための余剰画素領域として利用されるため、カメラ100の手振れ量に応じて表示範囲は上下方向、左右方向にシフトする。
図5(D)は、図2(A)又は図3(A)の表示状態に対応している。
表示矩形503はセンサ矩形502よりもやや小さく、記録矩形504はさらに小さい。
図5(E)は、図2(B)又は図3(B)の表示状態に対応している。
表示矩形503が図5(D)と比べて左側に変位していると共に、記録矩形504が図5(D)と比べて右側に変位しており、パンの方向である左側に、記録されないが表示される映像の領域が広く確保される。
この第2のパターンでは、カメラ100の移動、パン、又はティルトを行っていない場合は、電子防振による手振れ補正効果が得られる。また、カメラ100の移動、パン、又はティルトを行っている場合は、電子防振用の画素領域も利用して表示矩形503と記録矩形504の相対位置を変化させている。これにより、センサ矩形502に対する記録矩形504の位置が図5(B)ほど大きくずれないため、ユーザが揺り戻しのような違和感を比較的感じにくいという利点がある。また、映像処理部102により大きな歪曲補正を行う必要がないため、記録される映像に歪みが現れにくい。
図5(F)及び図5(G)は、図5(D)及び図5(E)よりもさらに狭い範囲を表示範囲に割り当てる第3のパターンを示している。表示範囲の外側は電子防振のための余剰画素領域として利用されるため、カメラ100の手振れ量に応じて表示範囲は上下方向、左右方向にシフトする。
図5(F)は、図2(A)又は図3(A)の表示状態に対応している。
表示矩形503は、センサ矩形502よりもかなり小さく、記録矩形504はさらに小さい。
図5(G)は、図2(B)又は図3(B)の表示状態に対応している。
表示矩形503が図5(F)と比べて左側に変位するが、記録矩形504は図5(F)と同じ位置で変わらない。これにより、パンの方向である左側に、記録されないが表示される映像の領域が広く確保される。
この第3のパターンでは、カメラ100の移動、パン、又はティルトを行っているか否かに関わらず電子防振による手振れ補正効果を得ることができる。また、記録矩形504の位置が不動のため、カメラ100のパンに対して記録矩形504が同様に変化する。したがって、ユーザが揺り戻しのような違和感を感じにくくなる。また、映像処理部102において通常の歪曲補正のみを行えばよく、記録される映像に歪みが現れにくい。
なお、システム制御部111の制御は1つのハードウェアが行ってもよいし、複数のハードウェアが処理を分担することで、装置全体の制御を行っても良い。
また、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。さらに、上述した各実施形態は本発明の一実施形態を示すものにすぎず、各実施形態を適宜組み合わせることも可能である。
また、上述した実施形態においては、本発明をデジタルカメラ等の撮像装置に適用した場合を例に説明したが、本発明はこの例に限定されず、撮像された映像の一部を切り出して(クロップして)記録する機能を備える装置であれば適用可能である。すなわち、本発明は、パーソナルコンピュータやその一種であるタブレット、携帯電話やその一種であるスマートフォン、PDA、携帯型の画像ビューワ、音楽プレーヤ、ゲーム機、電子書籍リーダ等に適用可能である。
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100…デジタルカメラ、101…撮像部、107…表示部、111…システム制御部

Claims (16)

  1. 被写体を撮像する撮像手段と、
    前記撮像手段により撮像された映像を表示する表示手段と、
    前記映像のうち、前記表示手段による表示範囲内で、かつ当該表示範囲よりも狭い領域を切り出す切り出し手段と、
    装置の位置又は姿勢が変化していることを検出する検出手段と、
    前記表示手段による表示範囲内であって前記切り出し手段により切り出されない映像の領域が、前記装置の位置又は姿勢が変化している方向側により広くなるように制御を行う表示制御手段と、を有することを特徴とする撮像装置。
  2. 前記切り出し手段によって切り出された映像の領域を記録する記録手段をさらに有することを特徴とする請求項1に記載の撮像装置。
  3. 前記切り出し手段によって切り出された映像の領域を出力する出力手段をさらに有することを特徴とする請求項1又は2に記載の撮像装置。
  4. 前記検出手段は、前記装置の移動、パン、又はティルトの方向及び速度を検出し、
    前記表示制御手段は、前記表示手段により表示されるが切り出されない映像の領域の面積を、前記移動、パン、又はティルトの方向及び速度に基づいて制御することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記表示制御手段は、前記撮像手段により撮像された映像における表示範囲の位置を変更するように制御を行うことを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 前記表示制御手段は、前記撮像手段により撮像された映像のうち、前記切り出し手段により切り出された映像の領域の位置を変更するように制御を行うことを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  7. 前記表示制御手段は、所定の時間をかけて段階的に前記位置を変更するように制御を行うことを特徴とする請求項5又は6に記載の撮像装置。
  8. 前記表示制御手段は、前記表示範囲の位置を変更すると共に、当該表示範囲に表示される操作部の位置は変更しないように制御を行うことを特徴とする請求項5乃至7のいずれか1項に記載の撮像装置。
  9. 前記表示制御手段の制御により発生する、前記切り出し手段により切り出された映像の領域の歪曲収差を補正する補正手段をさらに有することを特徴とする請求項6に記載の撮像装置。
  10. 前記表示制御手段は、前記撮像手段に含まれるイメージセンサの物理的な位置を変更する制御を行うことを特徴とする請求項5乃至9のいずれか1項に記載の撮像装置。
  11. 前記表示制御手段は、前記撮像手段に含まれる光学レンズの一部をシフトさせて前記イメージセンサにより撮像された映像の領域を変更する制御を行うことを特徴とする請求項10に記載の撮像装置。
  12. 前記表示手段は、映像の表示範囲の外側に余剰な表示可能領域が設けられ、
    前記表示制御手段は、前記表示手段における、前記余剰な表示可能領域の前記記録範囲に対する相対位置を変更し、前記装置が動いている方向とは反対側により広くなるように制御を行うことを特徴とする請求項1ないし11のいずれか1項に記載の撮像装置。
  13. 手振れによる装置の振れを補正する防振手段をさらに有し、
    前記防振手段は、前記余剰な表示可能領域を用いて防振制御を行うことを特徴とする請求項11に記載の撮像装置。
  14. 被写体を撮像するステップと、
    前記撮像された映像を表示するステップと、
    前記映像のうち、前記表示するステップによる表示範囲内で、かつ当該表示範囲よりも狭い領域を切り出すステップと、
    装置の位置又は姿勢が変化していることを検出するステップと、
    前記表示するステップによる表示範囲内であって前記切り出されない映像の領域が、前記装置の位置又は姿勢が変化している方向側により広くなるように制御を行うステップと、を有することを特徴とする撮像装置の制御方法。
  15. コンピュータを、請求項1乃至13のいずれか1項に記載された撮像装置の各手段として機能させるためのプログラム。
  16. コンピュータを、請求項1乃至13のいずれか1項に記載された撮像装置の各手段として機能させるためのプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
JP2015167006A 2015-08-26 2015-08-26 撮像装置及びその制御方法、プログラム、並びに記憶媒体 Active JP6562773B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015167006A JP6562773B2 (ja) 2015-08-26 2015-08-26 撮像装置及びその制御方法、プログラム、並びに記憶媒体
US15/227,983 US9860457B2 (en) 2015-08-26 2016-08-04 Image capturing apparatus and control method of the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015167006A JP6562773B2 (ja) 2015-08-26 2015-08-26 撮像装置及びその制御方法、プログラム、並びに記憶媒体

Publications (3)

Publication Number Publication Date
JP2017046175A true JP2017046175A (ja) 2017-03-02
JP2017046175A5 JP2017046175A5 (ja) 2018-08-23
JP6562773B2 JP6562773B2 (ja) 2019-08-21

Family

ID=58104478

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015167006A Active JP6562773B2 (ja) 2015-08-26 2015-08-26 撮像装置及びその制御方法、プログラム、並びに記憶媒体

Country Status (2)

Country Link
US (1) US9860457B2 (ja)
JP (1) JP6562773B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019195163A (ja) * 2018-05-04 2019-11-07 ユビタス インコーポレイテッドUbitus Inc. ビデオランダムアクセスメモリにおけるマルチソースメディアをオーバーレイするシステム及び方法

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10521879B2 (en) * 2016-07-05 2019-12-31 Ubitus, Inc. Overlaying multi-source media in VRAM
US10332296B2 (en) * 2016-07-05 2019-06-25 Ubitus Inc. Overlaying multi-source media in VRAM
JP6990985B2 (ja) * 2017-04-25 2022-01-12 キヤノン株式会社 像振れ補正装置及び方法、撮像装置及び撮像システム
CN108111761B (zh) * 2017-12-27 2020-07-07 努比亚技术有限公司 一种防抖处理方法、终端和计算机可读存储介质
US20190297265A1 (en) * 2018-03-21 2019-09-26 Sawah Innovations Inc. User-feedback video stabilization device and method
KR20200122013A (ko) * 2019-04-17 2020-10-27 엘지이노텍 주식회사 카메라 모듈 및 광학 기기
JP2022115731A (ja) * 2021-01-28 2022-08-09 キヤノン株式会社 制御装置、制御方法、プログラム、記憶媒体
JP7335463B1 (ja) * 2023-01-31 2023-08-29 セーフィー株式会社 携帯用の撮像装置、映像処理システム、映像処理方法、及び映像処理プログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3873963B2 (ja) 2003-10-17 2007-01-31 カシオ計算機株式会社 画像表示装置、画像表示制御方法及び画像表示制御プログラム
US7443404B2 (en) 2003-10-17 2008-10-28 Casio Computer Co., Ltd. Image display apparatus, image display controlling method, and image display program
JP5042850B2 (ja) * 2005-12-01 2012-10-03 パナソニック株式会社 撮像装置、表示制御装置、表示装置および画像表示システム
JP4781229B2 (ja) 2006-11-01 2011-09-28 キヤノン株式会社 歪曲収差補正装置、撮像装置、及び歪曲収差補正装置の制御方法
JP5223950B2 (ja) 2011-06-21 2013-06-26 カシオ計算機株式会社 撮像装置、表示制御プログラム及び表示制御方法
JP6120699B2 (ja) * 2013-06-28 2017-04-26 キヤノン株式会社 電子機器、その制御方法及びプログラム並びに記憶媒体
JP2015035209A (ja) * 2013-07-12 2015-02-19 株式会社半導体エネルギー研究所 情報処理装置、情報処理システム
US10491828B2 (en) * 2015-04-03 2019-11-26 Canon Kabushiki Kaisha Display control apparatus and control method of the same

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019195163A (ja) * 2018-05-04 2019-11-07 ユビタス インコーポレイテッドUbitus Inc. ビデオランダムアクセスメモリにおけるマルチソースメディアをオーバーレイするシステム及び方法
JP7278850B2 (ja) 2018-05-04 2023-05-22 株式会社ユビタス ビデオランダムアクセスメモリにおけるマルチソースメディアをオーバーレイするシステム及び方法

Also Published As

Publication number Publication date
US9860457B2 (en) 2018-01-02
JP6562773B2 (ja) 2019-08-21
US20170064217A1 (en) 2017-03-02

Similar Documents

Publication Publication Date Title
JP6562773B2 (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
US10812725B2 (en) Display control apparatus and control method of the same
US8780200B2 (en) Imaging apparatus and image capturing method which combine a first image with a second image having a wider view
CN108377329B (zh) 摄像装置及其控制方法
JP6388673B2 (ja) 携帯端末及びその撮像方法
US20130265311A1 (en) Apparatus and method for improving quality of enlarged image
US10110821B2 (en) Image processing apparatus, method for controlling the same, and storage medium
US10587811B2 (en) Display control apparatus and control method for the same
EP4287638A1 (en) Image photographing method, and device, storage medium and program product
JP7049163B2 (ja) 電子機器およびその制御方法、プログラム並びに記憶媒体
US9489167B2 (en) Display control apparatus and control method therefor
CN113424515A (zh) 信息处理设备、信息处理方法和程序
JP2017045326A (ja) 表示装置及びその制御方法、プログラム、並びに記憶媒体
US11184545B2 (en) Display control apparatus, imaging apparatus, control method for display apparatus, and non-transitory computer readable medium
JP2011040896A (ja) 撮像装置及びその制御方法
JP5950755B2 (ja) 画像処理装置、制御方法、プログラム及び記憶媒体
JP2017212550A (ja) 画像再生装置及びその制御方法、プログラム、記憶媒体
JP7374952B2 (ja) 表示制御装置
US10412317B2 (en) Display control apparatus and display control method
JP6590560B2 (ja) 撮像制御装置およびその制御方法
US20230018868A1 (en) Image processing device, image processing method, and program
US20240205359A1 (en) Electronic apparatus
US20210243381A1 (en) Display control apparatus capable of performing display control for display apparatus with variable orientation, control method therefor, and storage medium
US10750095B2 (en) Display control apparatus and method for controlling the same
JP5731087B1 (ja) 画像処理装置、表示装置、画像処理方法およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180711

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180711

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190530

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190613

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190624

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190723

R151 Written notification of patent or utility model registration

Ref document number: 6562773

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151