JP2017220800A - Reproduction device, control method thereof, and program - Google Patents
Reproduction device, control method thereof, and program Download PDFInfo
- Publication number
- JP2017220800A JP2017220800A JP2016113842A JP2016113842A JP2017220800A JP 2017220800 A JP2017220800 A JP 2017220800A JP 2016113842 A JP2016113842 A JP 2016113842A JP 2016113842 A JP2016113842 A JP 2016113842A JP 2017220800 A JP2017220800 A JP 2017220800A
- Authority
- JP
- Japan
- Prior art keywords
- frame
- unit
- image
- shake
- detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
Description
本発明は、映像の視認性の低下状態を検出してユーザに通知する技術に関する。 The present invention relates to a technology for detecting a state of reduced visibility of a video and notifying a user.
ビデオカメラ等の撮像記録装置を把持したユーザの手振れ等によって、映像のブレ(いわゆる像ブレ)が記録される場合がある。映像再生時に像ブレを補正するために、映像の拡大表示をすることで実際に表示される映像領域の外側に映像部分を生じさせて、映像の切り出し位置を変更する技術が知られている(特許文献1参照)。また、撮像時にビデオカメラの振れをセンサで検出して振れデータを映像データと共に記録し、映像再生時に振れデータを利用して像ブレを補正する技術がある(特許文献2参照)。また、撮影時に特定の被写体が撮影範囲に収まっているかどうかを検出し、収まっていない場合には撮像装置の移動を促す通知を行う技術がある(特許文献3参照)。 In some cases, image blurring (so-called image blurring) is recorded due to a hand shake of a user holding an imaging recording device such as a video camera. In order to correct image blur at the time of video playback, a technique is known in which a video portion is generated outside a video region that is actually displayed by enlarging the video to change the cutout position of the video ( Patent Document 1). In addition, there is a technique for detecting shake of a video camera with a sensor at the time of imaging, recording shake data together with video data, and correcting the image blur using the shake data at the time of video playback (see Patent Document 2). In addition, there is a technique for detecting whether or not a specific subject is within the photographing range at the time of photographing, and in the case where the subject is not within the photographing range, a technique for notifying the movement of the imaging device is known (see Patent Document 3).
例えば、被写体画像が画面端に位置している時に像ブレ補正の目的で映像の拡大を行うと、被写体画像が画面内に表示されなくなる現象(フレームアウト)が発生する。また、撮影者の誤操作に起因する非常に大きな振れを伴う像ブレを補正する場合、映像の拡大率を大幅に上げることで解像度が極めて粗くなり、見難い映像となってしまう現象が発生する。映像の視認性の低下を招く可能性のある現象に対して、従来の技術では映像の再生後に視認性の低下が発生したことをユーザが気付くこととなる。映像の再生前に視認性が低下していることをユーザが知ることはできなかったため、電子倍率値や画角の設定によっては、着目している被写体の画像が画面枠から外れて表示されない可能性がある。
本発明は、映像の視認性の低下状態を予めユーザへ通知することを目的とする。
For example, if the image is enlarged for the purpose of image blur correction when the subject image is located at the edge of the screen, a phenomenon (frame out) that the subject image is not displayed on the screen occurs. Further, when correcting an image blur accompanied by a very large shake caused by an erroneous operation of the photographer, a phenomenon occurs in which the resolution becomes extremely coarse by greatly increasing the image enlargement ratio, and the image becomes difficult to view. In contrast to a phenomenon that may lead to a decrease in the visibility of the video, the user will notice that a decrease in the visibility has occurred after the playback of the video in the conventional technology. Since the user could not know that the visibility had deteriorated before playing the video, depending on the electronic magnification value and angle of view setting, the image of the subject of interest may not be displayed off the screen frame There is sex.
An object of the present invention is to notify a user in advance of a state in which the visibility of an image is lowered.
本発明の一実施形態に係る装置は、撮像時の振れ量の情報と共に映像データを取得して再生する再生装置であって、前記振れ量の情報から映像の像ブレを補正する補正量を算出する補正量算出手段と、前記補正量を取得して像ブレが補正された映像データを生成する画像処理手段と、前記映像データ、前記振れ量、前記補正量を取得して映像の視認性が低下した状態を検出する検出手段により前記映像の視認性が予め定められた状態よりも低下した状態が検出された場合、前記映像の視認性の低下を再生前に通知する処理を行う通知手段と、を備える。 An apparatus according to an embodiment of the present invention is a playback device that acquires and reproduces video data together with shake amount information at the time of imaging, and calculates a correction amount for correcting image blur of the video from the shake amount information. Correction amount calculating means, image processing means for acquiring the correction amount and generating video data in which image blur is corrected, and obtaining the video data, the shake amount, and the correction amount to obtain video visibility. A notification means for performing a process of notifying reproduction of a decrease in the visibility of the video before reproduction when a state in which the visibility of the video is lower than a predetermined state is detected by a detection means for detecting a lowered state; .
本発明によれば、映像の視認性の低下状態を予めユーザへ通知することができる。 ADVANTAGE OF THE INVENTION According to this invention, a user can be notified beforehand about the fall state of the visibility of a video.
以下に、本発明の各実施形態に共通する事項を説明してから、各実施形態を詳説する。
図1は本発明の実施形態に係る再生装置の構成例を示すブロック図である。本実施形態の再生装置は、映像再生部100を備える。映像再生部100は映像データに含まれるフレームを先読みして像ブレを補正し、補正されたデータを再生して出力する。映像再生部100は再生前にフレームの視認性を確認し、像ブレを補正した結果、特定の被写体がフレームアウトする可能性があると判断した場合、該当するフレームを予めユーザへ通知する処理を行う。以下、各部を詳細に説明する。
In the following, matters common to each embodiment of the present invention are described, and then each embodiment is described in detail.
FIG. 1 is a block diagram showing a configuration example of a playback apparatus according to an embodiment of the present invention. The playback device of this embodiment includes a
記録メディア101には、映像データが記録されている。例えば、映像データに対して、手振れ等の振れ情報および映像のシーン番号がメタデータとして付加されている。なお、振れ情報および映像のシーン番号については、映像データへの付加情報ではなく、映像データとは別に記録された情報でもよい。
Video data is recorded on the
ドライブユニット102は、記録メディア101から、映像データおよびメタデータを取得する。復号化ユニット103は、記録メディア101から取得した映像データを復号化し、復号化されたデジタルビデオ信号を、取得されたメタデータと共にメモリ104へ出力する。メモリ104は、復号化された映像データおよびメタデータを、所定時間分(例えば数秒分)記憶する容量をもった記憶デバイスである。メモリ104に所定時間分の映像データを記憶しておくことにより、表示装置106に出力されている再生画像(再生中の画像)に対して時間的に先となる画像データをメモリ104から取得する、いわゆる先読みが可能となる。
The
制御部110はマイクロコンピュータを備える。図1にはマイクロコンピュータが実行するプログラムによって実現される機能ブロックを示している。画像処理部105は、制御部110の処理により決定された画像の切り出し位置および切り出しサイズに従って映像データを再生する。具体的には、画像処理部105は、映像データが表す映像を構成する複数の単位画像(この例では、フレーム画像)それぞれについて、単位画像の所定の切り出し位置から所定の切り出しサイズの画像を順次切り出す。そして、画像処理部105は、切り出した画像に対して電子ズーム処理を施し、表示装置106へ出力する。映像を構成する単位画像としてはフレーム画像に代えて、フィールド画像でもよい。表示装置106は、画像処理部105から出力された画像および該画像に後続する画像を順次表示することによって、映像表示を行う。
The
次に制御部110の構成を説明する。制御部110は、フレーム先読み部111、振れ量算出部112、第1の振れ補正量算出部113、第2の振れ補正量算出部114、ユーザ入力部115、低視認性フレーム検出部120を備える。
Next, the configuration of the
フレーム先読み部111は、メモリ104に記憶されたデジタル画像データから、複数のフレームのデータを時系列に抽出することで先読みを行う。先読みを行うフレーム数は予め決められており、読み出された複数のフレームに亘るデータは振れ量算出部112および低視認性フレーム検出部120に出力される。
The
振れ量算出部112は、先読みが行われた複数のフレームのうち、現在出力するフレーム(表示対象のフレーム)の前後のフレーム間での比較処理によって、動きベクトルを検出する。検出した動きベクトルに基づいて、フレームのベクトル振れ量が算出される。このベクトル振れ量の情報については、記録時に映像データと共に記録メディア101に記録しておき、再生時に読み出して使用してもよい。この他にも、予めジャイロセンサ情報(角速度センサ値等)を映像データと共に記録メディア101に記録しておき、再生時に読み出して使用してもよい。またフレームのベクトル振れ量については、同方向に対して所定の閾値を下回る低周波成分の振れを一定時間検出した場合、パンニング検出時にて一般的な処理のように、全体の振れ量から低周波成分の振れ量を減算してもよい。この場合、所定の周波数帯域成分の振れ量が算出されて、パンニングやチルティング等の撮影者による意図的な動きの振れ成分を除外することができる。
The shake
第1の振れ補正量算出部113は、振れ量算出部112からベクトル振れ量またはジャイロセンサによる振れ量、あるいはその両方に基づいて、像ブレの補正量を算出する。像ブレ補正処理は、出力フレームの振れを補正するために、画像の切り出し位置および切り出しサイズを算出し、画像処理部105へ通知する処理である。
The first shake correction
低視認性フレーム検出部120は、フレーム内被写体検出部121、被写体補正枠外検出部122、連続被写体補正枠外検出部123、連続被写体振れ量検出部124を備える。低視認性フレーム検出部120は、フレーム先読み部111により先読みが行われた任意のフレームの視認性の低下状態を検出する。低視認性フレームの検出は、第1の実施形態にてフレーム内被写体検出部(以下、単に被写体検出部という)121と被写体補正枠外検出部122と連続被写体補正枠外検出部(以下、連続枠外検出部という)123により行われる。第2の実施形態では、低視認性フレームの検出が連続被写体振れ量検出部124により行われる。第3の実施形態では、被写体検出部121、被写体補正枠外検出部122、連続枠外検出部123、連続被写体振れ量検出部124により行われる。
The low visibility
[第1の実施形態]
本実施形態では、低視認性フレーム検出部120がフレーム先読み部111から画像データを取得し、被写体検出部121は、先読みが行われた任意のフレーム内に、特定の被写体が表示されるかどうかを検出する。被写体補正枠外検出部122は、任意のフレーム画像を補正した場合に特定の被写体が表示されるかどうかを検出する。この補正は、第1の振れ補正量算出部113により算出された振れ補正量に基づいて行われ、算出された切り出し位置と切り出しサイズにより画像を補正する処理である。特定の被写体とは、例えばフレーム画像内で検出される着目被写体である。特定の被写体が被写体検出部121で検出され、かつ被写体補正枠外検出部122では検出されない場合のみ、特定の被写体が「枠外であることを検出された」ものとする。枠とは所定の画面枠であり、図2を用いて具体例を後述する。
[First Embodiment]
In this embodiment, the low-visibility
連続枠外検出部123は、先読みが行われた任意のフレームの内、所定枚数以上のフレームにおいて、被写体検出部121および被写体補正枠外検出部122で「枠外であることを検出された」場合に特定の被写体を、枠外被写体として検出する。連続枠外検出部123は、検出した枠外被写体の情報と、当該枠外被写体がどの程度(例えば何画素)枠外へ出ているのかを示す情報(以下、枠外サイズ情報という)とを、後段の処理部に対して通知する。
The out-of-
制御部110はユーザ通知部116を備える。ユーザ通知部116は、連続枠外検出部123から枠外被写体の情報および枠外サイズ情報を取得し、表示装置106により枠外被写体とその枠外へのはみ出し状態を画面に表示し、ユーザに通知する処理を行う。例えば表示装置106は、枠外被写体が検出された場合の該当フレームを強調する表示を行い、枠外サイズ情報を同時に表示する。
The
制御部110は、第2の振れ補正量算出部114とユーザ入力部115を備える。第2の振れ補正量算出部114は、特定の被写体が枠外被写体として表示されていることが検出された場合、連続枠外検出部123から取得した枠外サイズ情報に基づき、振れ補正量を算出する。振れ補正量の算出は、検出された特定の被写体の画像が枠内に収まるように画像の切り出し位置と切り出しサイズを再計算することにより行われる。また、第2の振れ補正量算出部114は、ユーザ入力部115により指示された切り出し位置と切り出しサイズを取得して処理を行う。この場合、ユーザは画面上で枠外被写体の画像とそれが枠外へ出ている状態を確認して、第2の振れ補正量算出部114に指示することができる。
The
画像処理部105は、以下の振れ補正量を第1または第2の振れ補正量算出部から取得する。
・第2の振れ補正量算出部114が第2の振れ補正量を算出しない場合に、第1の振れ補正量算出部113が算出した第1の振れ補正量。
・第2の振れ補正量算出部114が第2の振れ補正量を算出した場合の、当該第2の振れ補正量。
The
The first shake correction amount calculated by the first shake correction
The second shake correction amount when the second shake correction
画像処理部105は、取得した第1または第2の振れ補正量に基づいて、電子ズーム処理により画角を変更し、像ブレが補正された画像データを生成する。なお、低視認性種別判定部130(枠外判定部131、振れ量判定部132)については、後述の実施形態にて説明する。
The
次に図2を参照して、表示装置106による画面表示の具体例を説明する。表示画面上の画面枠200は、記録された映像のサムネイル表示を行う範囲を示す。この例では、ユーザが映像201をカーソル202により選択し、さらにメニュー203により画面設定メニュー204を選択したことを示している。この時、特定の被写体として被写体205が選択されていることを前提とする。つまり、被写体205はフレーム画像内で着目している被写体である。
Next, a specific example of screen display by the
ユーザが画面設定メニュー204を選択した場合、画面枠210が表示される。画面枠210には複数の画像がフレーム毎に表示される。領域211にはフレーム213、フレーム215に示すように、各フレームの画像が左から右に時系列に表示されている。各フレームについては複数のフレームをまとめて表示してもよい。枠内に表示しきれない画像は、ユーザがスライドバー212を左右に移動させる操作を行うことで表示可能である。
When the user selects the
連続枠外検出部123が枠外被写体を検出した場合、カーソル214により自動的に該当するフレームが指示される。この例では、時系列的に最初に見つかったフレームを優先して指示しているが、同時に他の対象フレーム(次に検出されたフレーム等)を強調表示してもよい。指示されたフレームは領域220に表示される。領域220はフレーム先読み部111により先読みが行われたフレームのままで、振れが補正されていない画角として表示される。
When the out-of-
破線の矩形枠221は、第1の振れ補正量算出部113により計算された振れ補正量に基づいて像ブレを補正する場合の補正枠である。被写体222は枠外被写体であり、その画像が矩形枠221の枠外に表示されている。ユーザ入力部115のスライドバー230は切り出し拡大率の変更に使用し、ユーザ入力部115の十字キー240は切り出し位置の変更に使用する操作部分である。ユーザは、スライドバー230の操作により切り出し拡大率を変更し、十字キー240により切り出し位置を変更することで画角修正を行う。ここで変更された切り出し拡大率と切り出し位置は映像201内の全てのフレームに適用される。画角の変更により枠外被写体の全部または一部が所定の画面枠内に収まるように修正することができる。あるいは枠外被写体の全部または一部が所定の画面枠内に収まるように自動的に画角を修正した画像を表示装置106が表示することで、当該画像をユーザが確認できる。なお、設定された切り出し位置がそれ以降に固定位置となってしまうと、視認性に問題が発生する場合もあり得る。この場合には、ユーザは切出し位置を操作しないことで、切り出し位置については第1の振れ補正量算出部113による振れ補正量に基づき、像ブレが補正される。このことは後述する実施形態においても同様である。また、画角修正については第2の振れ補正量算出部114により計算された振れ補正量に基づき自動的に行い、領域220や矩形枠221、および映像201内の全てのフレームに適用してもよい。
A broken-line
本実施形態の再生装置は、映像の視認性について、特定の被写体がフレームアウトするかどうかや、映像の拡大率が極端に大きくなっていないか等の検出を映像の再生前に行う。これらの検出は像ブレが補正された状態で生成される画像データに基づいて行われる。ユーザは撮影された着目被写体が画面枠内にて常に表示されるように画角の修正が可能となる。本実施形態によれば、映像の視認性が予め定められた状態よりも低下している可能性があると判断された場合の映像内のフレームを予め視聴者へ通知できるので、利便性が向上する。 The playback apparatus according to the present embodiment detects whether or not a specific subject is out of the frame and whether or not the enlargement rate of the video is extremely large before video playback. These detections are performed based on image data generated in a state where image blur is corrected. The user can correct the angle of view so that the photographed subject of interest is always displayed within the screen frame. According to this embodiment, since it is possible to notify the viewer in advance of the frame in the video when it is determined that the visibility of the video may be lower than a predetermined state, convenience is improved. To do.
[第2の実施形態]
以下に本発明の第2の実施形態を説明する。本実施形態と第1の実施形態との相違点は、低視認性フレーム検出部120内の処理である。主に連続被写体振れ量検出部124による検出処理を説明し、第1の実施形態の場合と同様の構成部については既に使用した符号を用いることで、それらの詳細な説明を省略する。
[Second Embodiment]
The second embodiment of the present invention will be described below. The difference between the present embodiment and the first embodiment is the processing in the low visibility
図1の低視認性フレーム検出部120は、フレーム先読み部111によって先読みが行われた任意のフレームの内、所定枚数以上のフレームにおいて、振れ量算出部112により算出された振れ量をそれぞれ取得する。連続被写体振れ量検出部124は、取得された振れ量の最大値と最小値を比較して、最大値と最小値との差分が所定の閾値を上回る場合に振れが大きいことを検出する。低視認性フレーム検出部120は、振れが大きいことが検出された場合、この振れはユーザの誤操作によるものと判断する。この場合、映像として振れを補正する必要がないと判断される。そのため連続被写体振れ量検出部124は、ユーザ通知部116に指示し、像ブレ補正を行わないことを推奨する通知を行う。そして、第2の振れ補正量算出部114に対して連続被写体振れ量検出部124は、振れが大きいことを示す検出結果と補正すべき振れ量を通知する。この場合の補正すべき振れ量はゼロである(つまり、ユーザの誤操作による振れであるため、補正の必要はない)。
The low-visibility
画像処理部105は、第2の振れ補正量算出部114が第2の振れ補正量を算出した場合には、当該第2の振れ補正量を取得して処理を行う。すなわち、第2の振れ補正量算出部114により算出された第2の振れ補正量がゼロであったとしても、振れ補正量が算出されているので、第1の振れ補正量算出部113による第1の振れ補正量ではなく、第2の振れ補正量が取得される。
When the second shake correction
図3を参照して、本実施形態における画面表示の具体例を説明する。画面枠300は選択された映像をフレーム毎に表示したものである。表示領域301は、各フレームを左から右に時系列に表示している様を、振れの大きさを色分け(図3ではハッチング線種の違いとして示す)で区別して表現している。本例では、振れの大きさ別に、色302と色303と色304で色分けをして横棒グラフで表している。色302は振れが小さいこと、色303は振れが中程度であること、色304は振れが大きいことをそれぞれ示している。連続被写体振れ量検出部124が所定の閾値以上の振れ量を検出した場合、カーソル305により該当するフレームが指示される。振れが大きいことを示す検出結果が得られたフレームの、全体に占める割合を画面に表示することにより、ユーザは全体中の振れの割合を容易に把握できる。フレーム306は、カーソル305が示すフレームの箇所を見やすいように部分的にフレーム表示したものである。
A specific example of the screen display in the present embodiment will be described with reference to FIG. The
指示されたフレームの画像は領域310に表示される。領域310には、フレーム先読み部111によって先読みが行われたフレーム画像のままで、振れを補正していない画角として画像が表示される。破線の矩形枠311は、第1の振れ補正量算出部113により計算された振れ補正量に基づいて振れを補正する場合の補正枠である。
The designated frame image is displayed in
ユーザ入力部115のスライドバー320により切り出し拡大率を変更し、ユーザ入力部115の十字キー330により切り出し位置を変更することで、ユーザは画角修正を行える。変更された切り出し拡大率と切り出し位置は映像201内の全てのフレームに適用される。画角修正については第2の振れ補正量算出部114により計算された第2の振れ補正量に基づいて自動的に行い、領域310や矩形枠311、および映像内の全てのフレームに適用してもよい。
The user can correct the angle of view by changing the cut-out magnification with the
本実施形態では、撮像時の振れが非常に大きいことが検出された場合に、像ブレ補正を行わないことを推奨する通知が行われるので、状況に応じて像ブレ補正を適切に実行可能である。 In this embodiment, when it is detected that the shake at the time of imaging is very large, a notification recommending that image blur correction not be performed is performed, so that image blur correction can be appropriately performed according to the situation. is there.
[第3の実施形態]
以下に本発明の第3の実施形態を説明する。本実施形態では、低視認性フレーム検出部120は、第1の実施形態と第2の実施形態で説明した両方の検出を行う。図1の低視認性種別判定部130は低視認性フレーム検出部120から、2種類の検出結果を取得する。第1の検出結果は連続枠外検出部123の検出結果であり、第2の検出結果は連続被写体振れ量検出部124の検出結果である。ユーザ通知処理では、これらの検出結果に応じて、第1の実施形態の処理、または第2の実施形態の処理が実行される。具体的には、以下の(1)から(4)に示す4通りの場合分けとなる。
[Third Embodiment]
The third embodiment of the present invention will be described below. In this embodiment, the low visibility
(1)第1の検出結果は検出有りと判定され、第2の検出結果は検出有りと判定されない場合
低視認性種別判定部130は、連続枠外検出部123の検出のみが発生していると判断する。枠外判定部131は連続枠外検出部123により、特定の被写体が枠外被写体であることが検出された場合に枠外判定を行い、第1の検出結果有りと判定する。この場合、ユーザ通知部116に対しては連続枠外検出部123の検出結果である前述の枠外サイズ情報が出力される。また第2の振れ補正量算出部114に対しても同様に、連続枠外検出部123の検出結果である前述の枠外サイズ情報が通知される。この後の処理については第1の実施形態と同様である。つまり、第2の振れ補正量算出部114により第2の振れ補正量が算出された場合、第1の振れ補正量算出部113による第1の振れ補正量ではなく、第2の振れ補正量が画像処理部105へ通知される。画面表示例は、第1の実施形態の場合と同様に図2で説明したとおりに行われる。
(1) When the first detection result is determined to be detected, and the second detection result is not determined to be detected, the low visibility
(2)第1の検出結果は検出有りと判定されず、第2の検出結果は検出有りと判定される場合
低視認性種別判定部130は、連続被写体振れ量検出部124の検出のみが発生していると判断する。振れ量判定部132は連続被写体振れ量検出部124により振れ量の差分が大きいことが検出された場合に振れ量判定を行い、第2の検出結果有りと判定する。この場合、ユーザ通知部116に対して連続被写体振れ量検出部124の検出結果である振れ量、すなわちゼロが出力される。また第2の振れ補正量算出部114に対しても同様に、連続被写体振れ量検出部124の検出結果である振れ量(0)が通知される。この後の処理については第2の実施形態と同様である。つまり、第2の振れ補正量算出部114による第2の振れ補正量が算出された場合、第1の振れ補正量算出部113による第1の振れ補正量ではなく、第2の振れ補正量が画像処理部105へ通知される。画面表示例は、第2の実施形態の場合と同様に図3で説明したとおりに行われる。
(2) When the first detection result is not determined to be detected and the second detection result is determined to be detected, the low visibility
(3)第1および第2の検出結果ともに検出有りと判定される場合
枠外判定部131は第1の検出結果有りと判定し、振れ量判定部132は第2の検出結果有りと判定する。この場合には、予めユーザにより定められた設定に従って処理が実行される。つまり、(1)の場合の処理、または(2)の場合の処理が選択される。
(3) When it is determined that both the first and second detection results are detected The out-of-
(4)第1および第2の検出結果ともに検出有りと判定されない場合
枠外判定部131は第1の検出結果の検出有りと判定せず、振れ量判定部132は第2の検出結果の検出有りと判定しない。この場合、ユーザへの通知処理は行わない。あるいは、(3)の場合と同様に、予めユーザにより定められた設定に従って処理が実行される。(4)の場合、第1および第2の検出結果が存在しないので、図2におけるカーソル214による指示や、図3におけるカーソル305による指示は行われない。
(4) When neither the first detection result nor the second detection result is determined to be detected The out-of-
図4のフローチャートを参照して、以上の処理を説明する。S400〜S406の各ステップは低視認性種別判定部130が行う処理を示している。連続枠外検出部123による第1の検出結果と、連続被写体振れ量検出部124による第2の検出結果との、二通りの検出結果を用いて説明する。
The above processing will be described with reference to the flowchart of FIG. Each step of S400-S406 has shown the process which the low visibility
S400では、第1および第2の検出結果ともに検出有りであるかどうかの判定処理が行われる。つまり、(3)の場合について判定され、(3)の判定条件を満たす場合、S401へ遷移し、当該判定条件を満たさない場合にはS402へ遷移する。S401では、予めユーザにより定められた設定に従う処理が実行される。すなわち、(1)の場合の処理、または(2)の場合の処理のうち、いずれかの処理が行われる。 In S400, a determination process is performed to determine whether both the first and second detection results are detected. That is, the determination is made for the case (3). If the determination condition (3) is satisfied, the process proceeds to S401. If the determination condition is not satisfied, the process proceeds to S402. In S401, a process according to a setting predetermined by the user is executed. That is, one of the processing in the case of (1) and the processing in the case of (2) is performed.
S402は、第1の検出結果が検出有りであるかどうかの判定処理である。第1の検出結果が検出有りと判定される場合、S403へ遷移し、第1の検出結果が検出有りと判定されない場合にはS404へ遷移する。S403の処理は、(1)の場合の処理に相当し、連続枠外検出部123の検出結果である前述の枠外サイズ情報がユーザ通知部116に対して出力される。また第2の振れ補正量算出部114に対しても同様に、連続枠外検出部123の検出結果である前述の枠外サイズ情報が出力される。
S402 is a determination process of whether or not the first detection result is detected. If it is determined that the first detection result is detected, the process proceeds to S403. If the first detection result is not determined to be detected, the process proceeds to S404. The process of S403 corresponds to the process in the case of (1), and the aforementioned out-of-frame size information, which is the detection result of the continuous out-of-
S404は、第2の検出結果が検出有りであるかどうかの判定処理である。第2の検出結果が検出有りと判定される場合、S405へ遷移し、第2の検出結果が検出有りと判定されない場合にはS406へ遷移する。S405の処理は、(2)の場合の処理に相当し、連続被写体振れ量検出部124の検出結果である振れ量(0)がユーザ通知部116に対して出力される。また第2の振れ補正量算出部114に対しても同様に、連続被写体振れ量検出部124の検出結果である振れ量(0)が出力される。
S404 is a determination process of whether or not the second detection result is detected. When it is determined that the second detection result is detected, the process proceeds to S405, and when the second detection result is not determined to be detected, the process proceeds to S406. The process of S405 corresponds to the process of (2), and the shake amount (0) that is the detection result of the continuous subject shake
S406は、いずれの検出もされなかった場合であり、(4)の場合の処理に相当する。この場合、ユーザへの通知は行わない。あるいは、予めユーザにより定められた設定に従って所定の処理が実行される。 S406 is a case where none of the detections have been made, and corresponds to the process in the case of (4). In this case, the user is not notified. Alternatively, a predetermined process is executed according to a setting determined in advance by the user.
本実施形態によれば、第1および第2の検出結果の判定に基づいて、第1の実施形態の処理と第2の実施形態の処理により、像ブレ補正を適切に実行可能である。 According to this embodiment, based on the determination of the first and second detection results, image blur correction can be appropriately executed by the processing of the first embodiment and the processing of the second embodiment.
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
[Other Embodiments]
The present invention supplies a program that realizes one or more functions of the above-described embodiments to a system or apparatus via a network or a storage medium, and one or more processors in a computer of the system or apparatus read and execute the program This process can be realized. It can also be realized by a circuit (for example, ASIC) that realizes one or more functions.
100 ・・・・映像再生部
104 ・・・・ メモリ
105 ・・・・ 画像処理部
106 ・・・・ 表示装置
110 ・・・・ 制御部
112 ・・・・ 振れ量算出部
113 ・・・・ 第1の振れ補正量算出部
114 ・・・・ 第2の振れ補正量算出部
116 ・・・・ ユーザ通知部
120 ・・・・ 低視認性フレーム検出部
130 ・・・・ 低視認性種別判定部
DESCRIPTION OF
Claims (15)
前記振れ量の情報から映像の像ブレを補正する補正量を算出する補正量算出手段と、
前記補正量を取得して像ブレが補正された映像データを生成する画像処理手段と、
前記映像データ、前記振れ量、前記補正量を取得して映像の視認性が低下した状態を検出する検出手段により前記映像の視認性が予め定められた状態よりも低下した状態が検出された場合、前記映像の視認性の低下を再生前に通知する処理を行う通知手段と、を備えることを特徴とする再生装置。 A playback device that acquires and plays back video data together with information on the amount of shake during imaging,
A correction amount calculating means for calculating a correction amount for correcting image blur of the video from the information on the shake amount;
Image processing means for acquiring the correction amount and generating video data in which image blur is corrected;
When the state in which the visibility of the video is lower than a predetermined state is detected by a detection unit that acquires the video data, the shake amount, and the correction amount and detects a state in which the visibility of the video is reduced And a notifying means for performing a process of notifying the reduction in the visibility of the video before playback.
前記記憶手段から前記映像データを構成する複数の画像のデータを取得する取得手段と、
前記複数の画像のデータから前記振れ量を算出して前記補正量算出手段に出力する振れ量算出手段を備えることを特徴とする請求項1に記載の再生装置。 Storage means for storing information on the shake amount and the video data;
Obtaining means for obtaining data of a plurality of images constituting the video data from the storage means;
The playback apparatus according to claim 1, further comprising: a shake amount calculation unit that calculates the shake amount from data of the plurality of images and outputs the shake amount to the correction amount calculation unit.
前記補正量算出手段は、前記記憶手段から読み出されたフレームの前記映像データに係る像ブレを補正する補正量を算出することを特徴とする請求項2に記載の再生装置。 The acquisition unit pre-reads the video data of a plurality of frames from the storage unit, and outputs to the detection unit and the shake amount calculation unit,
The reproducing apparatus according to claim 2, wherein the correction amount calculating unit calculates a correction amount for correcting an image blur related to the video data of the frame read from the storage unit.
前記フレームの映像データを取得し、当該フレームの映像内に特定の被写体の画像が存在するかどうかを検出する第1の検出と、
前記フレームの映像内に前記特定の被写体の画像が検出され、かつ像ブレが補正されたフレームの映像内に前記特定の被写体の画像が検出されない場合に、前記特定の被写体の画像が画面の枠外に位置することを検出する第2の検出と、
前記複数のフレームにおいて前記第2の検出により前記特定の被写体の画像が画面の枠外に位置することを検出する第3の検出を行うことを特徴とする請求項3に記載の再生装置。 The detection means includes
First detection for acquiring video data of the frame and detecting whether an image of a specific subject exists in the video of the frame;
When the image of the specific subject is detected in the video of the frame and the image of the specific subject is not detected in the video of the frame whose image blur is corrected, the image of the specific subject is out of the frame of the screen. A second detection for detecting being located at
The playback apparatus according to claim 3, wherein a third detection is performed to detect that the image of the specific subject is located outside the frame of the screen by the second detection in the plurality of frames.
前記振れ量の情報を取得して第1の補正量を算出する第1の補正量算出手段と、
前記検出手段の検出結果を取得して第2の補正量を算出する第2の補正量算出手段を備えることを特徴とする請求項3乃至5のいずれか1項に記載の再生装置。 The correction amount calculating means includes
First correction amount calculating means for acquiring information on the shake amount and calculating a first correction amount;
6. The reproducing apparatus according to claim 3, further comprising a second correction amount calculation unit that acquires a detection result of the detection unit and calculates a second correction amount.
前記通知手段は前記第1の検出結果を取得し、前記特定の被写体のフレームアウトを通知する処理を行うことを特徴とする請求項8に記載の再生装置。 The determination unit determines that a first detection result indicating that the image of the specific subject is located outside the frame of the screen is obtained in the out-of-frame determination, and the difference is a threshold value in the shake amount determination. If it is determined that the second detection result indicating greater than is not obtained, the first detection result is output to the notification means;
9. The playback apparatus according to claim 8, wherein the notifying unit performs processing for acquiring the first detection result and notifying the frame out of the specific subject.
前記通知手段は前記第2の検出結果を取得し、前記像ブレの補正を行わないことを推奨する通知処理を行うことを特徴とする請求項8または請求項9に記載の再生装置。 The determination unit determines that a first detection result indicating that the image of the specific subject is located outside the frame of the screen is not obtained in the out-of-frame determination, and the difference is determined in the shake amount determination. When it is determined that a second detection result indicating that is greater than a threshold value has been obtained, the second detection result is output to the notification means,
10. The playback apparatus according to claim 8, wherein the notification unit acquires the second detection result and performs notification processing that recommends that the image blur correction not be performed.
補正量算出手段が前記振れ量の情報から映像の像ブレを補正する補正量を算出する工程と、
前記補正量を取得して像ブレが補正された映像データを画像処理手段が生成する工程と、
前記映像データ、前記振れ量、前記補正量を取得して映像の視認性が低下した状態を検出する検出手段により前記映像の視認性が予め定められた状態よりも低下した状態が検出された場合、前記映像の視認性の低下を再生前に通知手段が通知する処理を行う工程と、を有することを特徴とする再生装置の制御方法。 A control method that is executed by a playback device that acquires and plays back video data together with information on the amount of shake during imaging,
A step of calculating a correction amount for correcting an image blur of the video from the information of the shake amount, and a correction amount calculation unit;
An image processing means for generating video data in which the correction amount is acquired and image blur is corrected;
When the state in which the visibility of the video is lower than a predetermined state is detected by a detection unit that acquires the video data, the shake amount, and the correction amount and detects a state in which the visibility of the video is reduced And a step of performing a process of notifying the noticeability of the video before reproduction by a notifying means.
14. A program that causes a computer to function as each unit included in the playback apparatus according to claim 1.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016113842A JP2017220800A (en) | 2016-06-07 | 2016-06-07 | Reproduction device, control method thereof, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016113842A JP2017220800A (en) | 2016-06-07 | 2016-06-07 | Reproduction device, control method thereof, and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017220800A true JP2017220800A (en) | 2017-12-14 |
Family
ID=60656521
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016113842A Pending JP2017220800A (en) | 2016-06-07 | 2016-06-07 | Reproduction device, control method thereof, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017220800A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022019196A1 (en) * | 2020-07-21 | 2022-01-27 | ソニーグループ株式会社 | Imaging device and imaging method |
-
2016
- 2016-06-07 JP JP2016113842A patent/JP2017220800A/en active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022019196A1 (en) * | 2020-07-21 | 2022-01-27 | ソニーグループ株式会社 | Imaging device and imaging method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5597061B2 (en) | Video playback apparatus and control method thereof | |
US7688352B2 (en) | Shake correction device, filming device, moving image display device, shake correction method and recording medium | |
US9743000B2 (en) | Moving image processing apparatus, imaging apparatus, and moving image processing method | |
EP2043359B1 (en) | System and method for image processing | |
JP2008172310A (en) | Electronic hand blurring correction method, device and program, and imaging apparatus | |
JP2007243335A (en) | Camera shake correction method, camera shake correction apparatus, and imaging apparatus | |
JP5003657B2 (en) | Image stabilization device | |
JP5197801B2 (en) | Movie reproduction system and photographing apparatus | |
JP2009152802A (en) | Video processing apparatus, video processing system, video processing method, and program | |
JP2018061130A (en) | Image processing device, image processing method, and program | |
WO2017104102A1 (en) | Imaging device | |
JP2017220800A (en) | Reproduction device, control method thereof, and program | |
JP4052348B2 (en) | Image processing apparatus and image processing method | |
JP2014171110A (en) | Image reproduction device, control method thereof, and control program | |
US10425614B2 (en) | Moving image reproduction apparatus having function of correcting camera shake during moving image reproduction, method of controlling the same, and storage medium | |
JP2006279413A (en) | Motion vector detector, image display, image photographing apparatus, motion vector detecting method, program, and recording medium | |
JP7389558B2 (en) | Information processing device and its control method and program | |
JP2009115910A (en) | Synchronous converter, synchronous converting method and program | |
JP5371310B2 (en) | Image processing device | |
JP6371656B2 (en) | Image reproduction apparatus, image reproduction method and program, and imaging apparatus | |
JP2008160274A (en) | Motion vector detection method, its apparatus and its program, electronic hand-blur correction method, its apparatus and its program, as well as imaging apparatus | |
JP5759162B2 (en) | Motion vector detection device, motion vector detection method, correction device, and program | |
JP2015139139A (en) | Video processing apparatus and video processing method | |
JP2010011050A (en) | Moving picture processing unit, image recording device integrated with camera, moving picture reproducing device, remote control system, moving picture processing program, storage medium, and moving picture processing system | |
JP2007243333A (en) | Camera shake correction method, camera shake correction apparatus, and imaging apparatus |