JP2017220800A - Reproduction device, control method thereof, and program - Google Patents

Reproduction device, control method thereof, and program Download PDF

Info

Publication number
JP2017220800A
JP2017220800A JP2016113842A JP2016113842A JP2017220800A JP 2017220800 A JP2017220800 A JP 2017220800A JP 2016113842 A JP2016113842 A JP 2016113842A JP 2016113842 A JP2016113842 A JP 2016113842A JP 2017220800 A JP2017220800 A JP 2017220800A
Authority
JP
Japan
Prior art keywords
frame
unit
image
shake
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016113842A
Other languages
Japanese (ja)
Inventor
省豪 上野
Yoshitake Ueno
省豪 上野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016113842A priority Critical patent/JP2017220800A/en
Publication of JP2017220800A publication Critical patent/JP2017220800A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To preliminarily notify a user of a deteriorating state of visibility of a video.SOLUTION: A memory 104 of a reproduction device stores video data with an amount of blur in photography. A frame pre-read part 111 of a control part 110 reads and acquires the data of a frame to be displayed and a subsequent frame from the memory 104. A blur amount calculation part 112 calculates the amount of blur from the pre-read frame, and a blur correction amount calculation part 113 calculates the correction amount of image blur on the basis of the amount of blur. A low visibility frame detection part 120 detects whether or not the visibility of a video deteriorates with respect to each frame by using the image data of the read frame, the amount of blur calculated by the blur amount calculation part 112 and the correction amount calculated by the blur correction amount calculation part 113. When the deteriorating state of the visibility of the video is detected by the low visibility frame detection part 120, a user notification part 116 performs notification processing to a user via a display device 106 before reproduction.SELECTED DRAWING: Figure 1

Description

本発明は、映像の視認性の低下状態を検出してユーザに通知する技術に関する。   The present invention relates to a technology for detecting a state of reduced visibility of a video and notifying a user.

ビデオカメラ等の撮像記録装置を把持したユーザの手振れ等によって、映像のブレ(いわゆる像ブレ)が記録される場合がある。映像再生時に像ブレを補正するために、映像の拡大表示をすることで実際に表示される映像領域の外側に映像部分を生じさせて、映像の切り出し位置を変更する技術が知られている(特許文献1参照)。また、撮像時にビデオカメラの振れをセンサで検出して振れデータを映像データと共に記録し、映像再生時に振れデータを利用して像ブレを補正する技術がある(特許文献2参照)。また、撮影時に特定の被写体が撮影範囲に収まっているかどうかを検出し、収まっていない場合には撮像装置の移動を促す通知を行う技術がある(特許文献3参照)。   In some cases, image blurring (so-called image blurring) is recorded due to a hand shake of a user holding an imaging recording device such as a video camera. In order to correct image blur at the time of video playback, a technique is known in which a video portion is generated outside a video region that is actually displayed by enlarging the video to change the cutout position of the video ( Patent Document 1). In addition, there is a technique for detecting shake of a video camera with a sensor at the time of imaging, recording shake data together with video data, and correcting the image blur using the shake data at the time of video playback (see Patent Document 2). In addition, there is a technique for detecting whether or not a specific subject is within the photographing range at the time of photographing, and in the case where the subject is not within the photographing range, a technique for notifying the movement of the imaging device is known (see Patent Document 3).

特開平7−143380号公報JP-A-7-143380 特開平10−42233号公報Japanese Patent Laid-Open No. 10-42233 特開2007−142866号公報JP 2007-142866 A

例えば、被写体画像が画面端に位置している時に像ブレ補正の目的で映像の拡大を行うと、被写体画像が画面内に表示されなくなる現象(フレームアウト)が発生する。また、撮影者の誤操作に起因する非常に大きな振れを伴う像ブレを補正する場合、映像の拡大率を大幅に上げることで解像度が極めて粗くなり、見難い映像となってしまう現象が発生する。映像の視認性の低下を招く可能性のある現象に対して、従来の技術では映像の再生後に視認性の低下が発生したことをユーザが気付くこととなる。映像の再生前に視認性が低下していることをユーザが知ることはできなかったため、電子倍率値や画角の設定によっては、着目している被写体の画像が画面枠から外れて表示されない可能性がある。
本発明は、映像の視認性の低下状態を予めユーザへ通知することを目的とする。
For example, if the image is enlarged for the purpose of image blur correction when the subject image is located at the edge of the screen, a phenomenon (frame out) that the subject image is not displayed on the screen occurs. Further, when correcting an image blur accompanied by a very large shake caused by an erroneous operation of the photographer, a phenomenon occurs in which the resolution becomes extremely coarse by greatly increasing the image enlargement ratio, and the image becomes difficult to view. In contrast to a phenomenon that may lead to a decrease in the visibility of the video, the user will notice that a decrease in the visibility has occurred after the playback of the video in the conventional technology. Since the user could not know that the visibility had deteriorated before playing the video, depending on the electronic magnification value and angle of view setting, the image of the subject of interest may not be displayed off the screen frame There is sex.
An object of the present invention is to notify a user in advance of a state in which the visibility of an image is lowered.

本発明の一実施形態に係る装置は、撮像時の振れ量の情報と共に映像データを取得して再生する再生装置であって、前記振れ量の情報から映像の像ブレを補正する補正量を算出する補正量算出手段と、前記補正量を取得して像ブレが補正された映像データを生成する画像処理手段と、前記映像データ、前記振れ量、前記補正量を取得して映像の視認性が低下した状態を検出する検出手段により前記映像の視認性が予め定められた状態よりも低下した状態が検出された場合、前記映像の視認性の低下を再生前に通知する処理を行う通知手段と、を備える。   An apparatus according to an embodiment of the present invention is a playback device that acquires and reproduces video data together with shake amount information at the time of imaging, and calculates a correction amount for correcting image blur of the video from the shake amount information. Correction amount calculating means, image processing means for acquiring the correction amount and generating video data in which image blur is corrected, and obtaining the video data, the shake amount, and the correction amount to obtain video visibility. A notification means for performing a process of notifying reproduction of a decrease in the visibility of the video before reproduction when a state in which the visibility of the video is lower than a predetermined state is detected by a detection means for detecting a lowered state; .

本発明によれば、映像の視認性の低下状態を予めユーザへ通知することができる。   ADVANTAGE OF THE INVENTION According to this invention, a user can be notified beforehand about the fall state of the visibility of a video.

本発明の実施形態に係る再生装置の構成例を示すブロック図である。It is a block diagram which shows the structural example of the reproducing | regenerating apparatus which concerns on embodiment of this invention. 第1の実施形態のUI(ユーザ・インターフェース)画面例を示す図である。It is a figure which shows the example of UI (user interface) screen of 1st Embodiment. 第2の実施形態のUI画面例を示す図である。It is a figure which shows the example of UI screen of 2nd Embodiment. 第3の実施形態の検出および通知処理を説明するフローチャートである。It is a flowchart explaining the detection and notification process of 3rd Embodiment.

以下に、本発明の各実施形態に共通する事項を説明してから、各実施形態を詳説する。
図1は本発明の実施形態に係る再生装置の構成例を示すブロック図である。本実施形態の再生装置は、映像再生部100を備える。映像再生部100は映像データに含まれるフレームを先読みして像ブレを補正し、補正されたデータを再生して出力する。映像再生部100は再生前にフレームの視認性を確認し、像ブレを補正した結果、特定の被写体がフレームアウトする可能性があると判断した場合、該当するフレームを予めユーザへ通知する処理を行う。以下、各部を詳細に説明する。
In the following, matters common to each embodiment of the present invention are described, and then each embodiment is described in detail.
FIG. 1 is a block diagram showing a configuration example of a playback apparatus according to an embodiment of the present invention. The playback device of this embodiment includes a video playback unit 100. The video playback unit 100 prefetches frames included in the video data to correct image blur, and plays back and outputs the corrected data. When the video playback unit 100 confirms the visibility of the frame before playback and corrects the image blur, and determines that there is a possibility that a specific subject is out of the frame, the video playback unit 100 performs processing for notifying the user of the corresponding frame in advance. Do. Hereinafter, each part will be described in detail.

記録メディア101には、映像データが記録されている。例えば、映像データに対して、手振れ等の振れ情報および映像のシーン番号がメタデータとして付加されている。なお、振れ情報および映像のシーン番号については、映像データへの付加情報ではなく、映像データとは別に記録された情報でもよい。   Video data is recorded on the recording medium 101. For example, shake information such as camera shake and a video scene number are added to the video data as metadata. The shake information and the video scene number may be information recorded separately from the video data, not the additional information to the video data.

ドライブユニット102は、記録メディア101から、映像データおよびメタデータを取得する。復号化ユニット103は、記録メディア101から取得した映像データを復号化し、復号化されたデジタルビデオ信号を、取得されたメタデータと共にメモリ104へ出力する。メモリ104は、復号化された映像データおよびメタデータを、所定時間分(例えば数秒分)記憶する容量をもった記憶デバイスである。メモリ104に所定時間分の映像データを記憶しておくことにより、表示装置106に出力されている再生画像(再生中の画像)に対して時間的に先となる画像データをメモリ104から取得する、いわゆる先読みが可能となる。   The drive unit 102 acquires video data and metadata from the recording medium 101. The decoding unit 103 decodes the video data acquired from the recording medium 101 and outputs the decoded digital video signal to the memory 104 together with the acquired metadata. The memory 104 is a storage device having a capacity for storing the decoded video data and metadata for a predetermined time (for example, several seconds). By storing video data for a predetermined time in the memory 104, image data that is temporally ahead of the reproduced image (image being reproduced) output to the display device 106 is acquired from the memory 104. So-called prefetching becomes possible.

制御部110はマイクロコンピュータを備える。図1にはマイクロコンピュータが実行するプログラムによって実現される機能ブロックを示している。画像処理部105は、制御部110の処理により決定された画像の切り出し位置および切り出しサイズに従って映像データを再生する。具体的には、画像処理部105は、映像データが表す映像を構成する複数の単位画像(この例では、フレーム画像)それぞれについて、単位画像の所定の切り出し位置から所定の切り出しサイズの画像を順次切り出す。そして、画像処理部105は、切り出した画像に対して電子ズーム処理を施し、表示装置106へ出力する。映像を構成する単位画像としてはフレーム画像に代えて、フィールド画像でもよい。表示装置106は、画像処理部105から出力された画像および該画像に後続する画像を順次表示することによって、映像表示を行う。   The control unit 110 includes a microcomputer. FIG. 1 shows functional blocks realized by a program executed by the microcomputer. The image processing unit 105 reproduces the video data according to the cutout position and cutout size of the image determined by the processing of the control unit 110. Specifically, for each of a plurality of unit images (in this example, frame images) constituting the video represented by the video data, the image processing unit 105 sequentially outputs images of a predetermined cutout size from a predetermined cutout position of the unit image. cut. Then, the image processing unit 105 performs electronic zoom processing on the cut-out image and outputs it to the display device 106. The unit image constituting the video may be a field image instead of the frame image. The display device 106 performs video display by sequentially displaying an image output from the image processing unit 105 and an image subsequent to the image.

次に制御部110の構成を説明する。制御部110は、フレーム先読み部111、振れ量算出部112、第1の振れ補正量算出部113、第2の振れ補正量算出部114、ユーザ入力部115、低視認性フレーム検出部120を備える。   Next, the configuration of the control unit 110 will be described. The control unit 110 includes a frame prefetching unit 111, a shake amount calculation unit 112, a first shake correction amount calculation unit 113, a second shake correction amount calculation unit 114, a user input unit 115, and a low visibility frame detection unit 120. .

フレーム先読み部111は、メモリ104に記憶されたデジタル画像データから、複数のフレームのデータを時系列に抽出することで先読みを行う。先読みを行うフレーム数は予め決められており、読み出された複数のフレームに亘るデータは振れ量算出部112および低視認性フレーム検出部120に出力される。   The frame prefetching unit 111 performs prefetching by extracting data of a plurality of frames in time series from the digital image data stored in the memory 104. The number of frames to be prefetched is determined in advance, and the data over a plurality of read frames is output to the shake amount calculation unit 112 and the low visibility frame detection unit 120.

振れ量算出部112は、先読みが行われた複数のフレームのうち、現在出力するフレーム(表示対象のフレーム)の前後のフレーム間での比較処理によって、動きベクトルを検出する。検出した動きベクトルに基づいて、フレームのベクトル振れ量が算出される。このベクトル振れ量の情報については、記録時に映像データと共に記録メディア101に記録しておき、再生時に読み出して使用してもよい。この他にも、予めジャイロセンサ情報(角速度センサ値等)を映像データと共に記録メディア101に記録しておき、再生時に読み出して使用してもよい。またフレームのベクトル振れ量については、同方向に対して所定の閾値を下回る低周波成分の振れを一定時間検出した場合、パンニング検出時にて一般的な処理のように、全体の振れ量から低周波成分の振れ量を減算してもよい。この場合、所定の周波数帯域成分の振れ量が算出されて、パンニングやチルティング等の撮影者による意図的な動きの振れ成分を除外することができる。   The shake amount calculation unit 112 detects a motion vector by a comparison process between frames before and after the currently output frame (frame to be displayed) among the plurality of pre-read frames. Based on the detected motion vector, the vector shake amount of the frame is calculated. This vector shake amount information may be recorded on the recording medium 101 together with the video data at the time of recording, and read and used at the time of reproduction. In addition to this, gyro sensor information (angular velocity sensor value or the like) may be recorded in advance on the recording medium 101 together with the video data, and read and used during reproduction. As for the vector shake amount of the frame, if a low frequency component shake that falls below a predetermined threshold in the same direction is detected for a certain period of time, the overall shake amount is reduced from the overall shake amount by a general process at the time of panning detection. The component shake amount may be subtracted. In this case, a shake amount of a predetermined frequency band component is calculated, and a shake component of an intentional motion by a photographer such as panning or tilting can be excluded.

第1の振れ補正量算出部113は、振れ量算出部112からベクトル振れ量またはジャイロセンサによる振れ量、あるいはその両方に基づいて、像ブレの補正量を算出する。像ブレ補正処理は、出力フレームの振れを補正するために、画像の切り出し位置および切り出しサイズを算出し、画像処理部105へ通知する処理である。   The first shake correction amount calculation unit 113 calculates the image blur correction amount based on the vector shake amount, the shake amount by the gyro sensor, or both from the shake amount calculation unit 112. The image blur correction process is a process of calculating the cutout position and cutout size of an image and notifying the image processing unit 105 to correct the shake of the output frame.

低視認性フレーム検出部120は、フレーム内被写体検出部121、被写体補正枠外検出部122、連続被写体補正枠外検出部123、連続被写体振れ量検出部124を備える。低視認性フレーム検出部120は、フレーム先読み部111により先読みが行われた任意のフレームの視認性の低下状態を検出する。低視認性フレームの検出は、第1の実施形態にてフレーム内被写体検出部(以下、単に被写体検出部という)121と被写体補正枠外検出部122と連続被写体補正枠外検出部(以下、連続枠外検出部という)123により行われる。第2の実施形態では、低視認性フレームの検出が連続被写体振れ量検出部124により行われる。第3の実施形態では、被写体検出部121、被写体補正枠外検出部122、連続枠外検出部123、連続被写体振れ量検出部124により行われる。   The low visibility frame detection unit 120 includes an in-frame subject detection unit 121, a subject correction frame outside detection unit 122, a continuous subject correction outside frame detection unit 123, and a continuous subject shake amount detection unit 124. The low visibility frame detection unit 120 detects a state of reduced visibility of an arbitrary frame that has been prefetched by the frame prefetching unit 111. In the first embodiment, the low-visibility frame is detected by an in-frame subject detection unit (hereinafter simply referred to as a subject detection unit) 121, a subject correction frame detection unit 122, and a continuous subject correction frame detection unit (hereinafter, continuous frame detection). Part) 123). In the second embodiment, the low-visibility frame is detected by the continuous subject shake amount detection unit 124. In the third embodiment, the detection is performed by the subject detection unit 121, the subject correction out-of-frame detection unit 122, the continuous out-of-frame detection unit 123, and the continuous subject shake amount detection unit 124.

[第1の実施形態]
本実施形態では、低視認性フレーム検出部120がフレーム先読み部111から画像データを取得し、被写体検出部121は、先読みが行われた任意のフレーム内に、特定の被写体が表示されるかどうかを検出する。被写体補正枠外検出部122は、任意のフレーム画像を補正した場合に特定の被写体が表示されるかどうかを検出する。この補正は、第1の振れ補正量算出部113により算出された振れ補正量に基づいて行われ、算出された切り出し位置と切り出しサイズにより画像を補正する処理である。特定の被写体とは、例えばフレーム画像内で検出される着目被写体である。特定の被写体が被写体検出部121で検出され、かつ被写体補正枠外検出部122では検出されない場合のみ、特定の被写体が「枠外であることを検出された」ものとする。枠とは所定の画面枠であり、図2を用いて具体例を後述する。
[First Embodiment]
In this embodiment, the low-visibility frame detection unit 120 acquires image data from the frame prefetching unit 111, and the subject detection unit 121 determines whether a specific subject is displayed in an arbitrary frame that has been prefetched. Is detected. The subject correction out-of-frame detection unit 122 detects whether a specific subject is displayed when an arbitrary frame image is corrected. This correction is performed based on the shake correction amount calculated by the first shake correction amount calculation unit 113, and is a process of correcting the image based on the calculated cutout position and cutout size. The specific subject is a subject of interest detected in a frame image, for example. Only when a specific subject is detected by the subject detection unit 121 and not detected by the subject correction frame detection unit 122, it is assumed that the specific subject is “detected outside the frame”. The frame is a predetermined screen frame, and a specific example will be described later with reference to FIG.

連続枠外検出部123は、先読みが行われた任意のフレームの内、所定枚数以上のフレームにおいて、被写体検出部121および被写体補正枠外検出部122で「枠外であることを検出された」場合に特定の被写体を、枠外被写体として検出する。連続枠外検出部123は、検出した枠外被写体の情報と、当該枠外被写体がどの程度(例えば何画素)枠外へ出ているのかを示す情報(以下、枠外サイズ情報という)とを、後段の処理部に対して通知する。   The out-of-frame detection unit 123 is specified when the subject detection unit 121 and the subject correction out-of-frame detection unit 122 “detected out-of-frame” in a predetermined number or more of arbitrary frames that have been pre-read. Are detected as out-of-frame subjects. The continuous out-of-frame detection unit 123 includes information on the detected out-of-frame subject and information indicating how far (for example, how many pixels) the out-of-frame subject is out of the frame (hereinafter referred to as out-of-frame size information). To notify.

制御部110はユーザ通知部116を備える。ユーザ通知部116は、連続枠外検出部123から枠外被写体の情報および枠外サイズ情報を取得し、表示装置106により枠外被写体とその枠外へのはみ出し状態を画面に表示し、ユーザに通知する処理を行う。例えば表示装置106は、枠外被写体が検出された場合の該当フレームを強調する表示を行い、枠外サイズ情報を同時に表示する。   The control unit 110 includes a user notification unit 116. The user notification unit 116 acquires information on the out-of-frame subject and out-of-frame size information from the continuous out-of-frame detection unit 123, displays the out-of-frame subject and the protruding state outside the frame on the screen by the display device 106, and performs processing for notifying the user. . For example, the display device 106 performs display to emphasize the corresponding frame when an out-of-frame subject is detected, and simultaneously displays out-of-frame size information.

制御部110は、第2の振れ補正量算出部114とユーザ入力部115を備える。第2の振れ補正量算出部114は、特定の被写体が枠外被写体として表示されていることが検出された場合、連続枠外検出部123から取得した枠外サイズ情報に基づき、振れ補正量を算出する。振れ補正量の算出は、検出された特定の被写体の画像が枠内に収まるように画像の切り出し位置と切り出しサイズを再計算することにより行われる。また、第2の振れ補正量算出部114は、ユーザ入力部115により指示された切り出し位置と切り出しサイズを取得して処理を行う。この場合、ユーザは画面上で枠外被写体の画像とそれが枠外へ出ている状態を確認して、第2の振れ補正量算出部114に指示することができる。   The control unit 110 includes a second shake correction amount calculation unit 114 and a user input unit 115. When it is detected that a specific subject is displayed as an out-of-frame subject, the second shake correction amount calculation unit 114 calculates a shake correction amount based on the out-of-frame size information acquired from the continuous out-of-frame detection unit 123. The shake correction amount is calculated by recalculating the cutout position and cutout size of the image so that the detected image of the specific subject is within the frame. In addition, the second shake correction amount calculation unit 114 performs processing by acquiring the cutout position and cutout size instructed by the user input unit 115. In this case, the user can confirm the image of the out-of-frame subject on the screen and the state where it is out of the frame, and can instruct the second shake correction amount calculation unit 114.

画像処理部105は、以下の振れ補正量を第1または第2の振れ補正量算出部から取得する。
・第2の振れ補正量算出部114が第2の振れ補正量を算出しない場合に、第1の振れ補正量算出部113が算出した第1の振れ補正量。
・第2の振れ補正量算出部114が第2の振れ補正量を算出した場合の、当該第2の振れ補正量。
The image processing unit 105 acquires the following shake correction amount from the first or second shake correction amount calculation unit.
The first shake correction amount calculated by the first shake correction amount calculation unit 113 when the second shake correction amount calculation unit 114 does not calculate the second shake correction amount.
The second shake correction amount when the second shake correction amount calculation unit 114 calculates the second shake correction amount.

画像処理部105は、取得した第1または第2の振れ補正量に基づいて、電子ズーム処理により画角を変更し、像ブレが補正された画像データを生成する。なお、低視認性種別判定部130(枠外判定部131、振れ量判定部132)については、後述の実施形態にて説明する。   The image processing unit 105 changes the angle of view by electronic zoom processing based on the acquired first or second shake correction amount, and generates image data in which image blur is corrected. The low visibility type determination unit 130 (outside frame determination unit 131, shake amount determination unit 132) will be described in an embodiment described later.

次に図2を参照して、表示装置106による画面表示の具体例を説明する。表示画面上の画面枠200は、記録された映像のサムネイル表示を行う範囲を示す。この例では、ユーザが映像201をカーソル202により選択し、さらにメニュー203により画面設定メニュー204を選択したことを示している。この時、特定の被写体として被写体205が選択されていることを前提とする。つまり、被写体205はフレーム画像内で着目している被写体である。   Next, a specific example of screen display by the display device 106 will be described with reference to FIG. A screen frame 200 on the display screen indicates a range in which thumbnails of recorded videos are displayed. In this example, it is shown that the user selects the video 201 with the cursor 202 and further selects the screen setting menu 204 with the menu 203. At this time, it is assumed that the subject 205 is selected as the specific subject. That is, the subject 205 is a subject of interest in the frame image.

ユーザが画面設定メニュー204を選択した場合、画面枠210が表示される。画面枠210には複数の画像がフレーム毎に表示される。領域211にはフレーム213、フレーム215に示すように、各フレームの画像が左から右に時系列に表示されている。各フレームについては複数のフレームをまとめて表示してもよい。枠内に表示しきれない画像は、ユーザがスライドバー212を左右に移動させる操作を行うことで表示可能である。   When the user selects the screen setting menu 204, a screen frame 210 is displayed. A plurality of images are displayed on the screen frame 210 for each frame. In the area 211, as shown in a frame 213 and a frame 215, images of each frame are displayed in time series from left to right. For each frame, a plurality of frames may be displayed together. An image that cannot be displayed within the frame can be displayed by the user performing an operation of moving the slide bar 212 left and right.

連続枠外検出部123が枠外被写体を検出した場合、カーソル214により自動的に該当するフレームが指示される。この例では、時系列的に最初に見つかったフレームを優先して指示しているが、同時に他の対象フレーム(次に検出されたフレーム等)を強調表示してもよい。指示されたフレームは領域220に表示される。領域220はフレーム先読み部111により先読みが行われたフレームのままで、振れが補正されていない画角として表示される。   When the out-of-frame detection unit 123 detects an out-of-frame subject, the cursor 214 automatically designates the corresponding frame. In this example, the first frame found in time series is given priority, but another target frame (such as the next detected frame) may be highlighted at the same time. The designated frame is displayed in area 220. The area 220 is displayed as an angle of view in which the shake is not corrected with the frame prefetched by the frame prefetching unit 111 as it is.

破線の矩形枠221は、第1の振れ補正量算出部113により計算された振れ補正量に基づいて像ブレを補正する場合の補正枠である。被写体222は枠外被写体であり、その画像が矩形枠221の枠外に表示されている。ユーザ入力部115のスライドバー230は切り出し拡大率の変更に使用し、ユーザ入力部115の十字キー240は切り出し位置の変更に使用する操作部分である。ユーザは、スライドバー230の操作により切り出し拡大率を変更し、十字キー240により切り出し位置を変更することで画角修正を行う。ここで変更された切り出し拡大率と切り出し位置は映像201内の全てのフレームに適用される。画角の変更により枠外被写体の全部または一部が所定の画面枠内に収まるように修正することができる。あるいは枠外被写体の全部または一部が所定の画面枠内に収まるように自動的に画角を修正した画像を表示装置106が表示することで、当該画像をユーザが確認できる。なお、設定された切り出し位置がそれ以降に固定位置となってしまうと、視認性に問題が発生する場合もあり得る。この場合には、ユーザは切出し位置を操作しないことで、切り出し位置については第1の振れ補正量算出部113による振れ補正量に基づき、像ブレが補正される。このことは後述する実施形態においても同様である。また、画角修正については第2の振れ補正量算出部114により計算された振れ補正量に基づき自動的に行い、領域220や矩形枠221、および映像201内の全てのフレームに適用してもよい。   A broken-line rectangular frame 221 is a correction frame for correcting image blur based on the shake correction amount calculated by the first shake correction amount calculation unit 113. The subject 222 is an out-of-frame subject, and the image is displayed outside the rectangular frame 221. The slide bar 230 of the user input unit 115 is used to change the cutout enlargement ratio, and the cross key 240 of the user input unit 115 is an operation part used to change the cutout position. The user changes the cut-out magnification by operating the slide bar 230 and corrects the angle of view by changing the cut-out position using the cross key 240. The cutout enlargement ratio and the cutout position changed here are applied to all frames in the video 201. By changing the angle of view, all or a part of the out-of-frame subject can be corrected so as to be within a predetermined screen frame. Alternatively, the display device 106 displays an image in which the angle of view is automatically corrected so that all or part of the out-of-frame subject is within a predetermined screen frame, so that the user can confirm the image. Note that if the set cut-out position becomes a fixed position after that, there may be a problem in visibility. In this case, the user does not operate the cutout position, and the image blur is corrected based on the shake correction amount by the first shake correction amount calculation unit 113 for the cutout position. The same applies to the embodiments described later. In addition, the angle of view correction is automatically performed based on the shake correction amount calculated by the second shake correction amount calculation unit 114 and applied to all frames in the region 220, the rectangular frame 221, and the video 201. Good.

本実施形態の再生装置は、映像の視認性について、特定の被写体がフレームアウトするかどうかや、映像の拡大率が極端に大きくなっていないか等の検出を映像の再生前に行う。これらの検出は像ブレが補正された状態で生成される画像データに基づいて行われる。ユーザは撮影された着目被写体が画面枠内にて常に表示されるように画角の修正が可能となる。本実施形態によれば、映像の視認性が予め定められた状態よりも低下している可能性があると判断された場合の映像内のフレームを予め視聴者へ通知できるので、利便性が向上する。   The playback apparatus according to the present embodiment detects whether or not a specific subject is out of the frame and whether or not the enlargement rate of the video is extremely large before video playback. These detections are performed based on image data generated in a state where image blur is corrected. The user can correct the angle of view so that the photographed subject of interest is always displayed within the screen frame. According to this embodiment, since it is possible to notify the viewer in advance of the frame in the video when it is determined that the visibility of the video may be lower than a predetermined state, convenience is improved. To do.

[第2の実施形態]
以下に本発明の第2の実施形態を説明する。本実施形態と第1の実施形態との相違点は、低視認性フレーム検出部120内の処理である。主に連続被写体振れ量検出部124による検出処理を説明し、第1の実施形態の場合と同様の構成部については既に使用した符号を用いることで、それらの詳細な説明を省略する。
[Second Embodiment]
The second embodiment of the present invention will be described below. The difference between the present embodiment and the first embodiment is the processing in the low visibility frame detection unit 120. The detection process by the continuous subject shake amount detection unit 124 will be mainly described, and the same components as those in the first embodiment are denoted by the same reference numerals, and detailed description thereof will be omitted.

図1の低視認性フレーム検出部120は、フレーム先読み部111によって先読みが行われた任意のフレームの内、所定枚数以上のフレームにおいて、振れ量算出部112により算出された振れ量をそれぞれ取得する。連続被写体振れ量検出部124は、取得された振れ量の最大値と最小値を比較して、最大値と最小値との差分が所定の閾値を上回る場合に振れが大きいことを検出する。低視認性フレーム検出部120は、振れが大きいことが検出された場合、この振れはユーザの誤操作によるものと判断する。この場合、映像として振れを補正する必要がないと判断される。そのため連続被写体振れ量検出部124は、ユーザ通知部116に指示し、像ブレ補正を行わないことを推奨する通知を行う。そして、第2の振れ補正量算出部114に対して連続被写体振れ量検出部124は、振れが大きいことを示す検出結果と補正すべき振れ量を通知する。この場合の補正すべき振れ量はゼロである(つまり、ユーザの誤操作による振れであるため、補正の必要はない)。   The low-visibility frame detection unit 120 in FIG. 1 acquires the shake amount calculated by the shake amount calculation unit 112 in a predetermined number or more of the arbitrary frames that have been pre-read by the frame pre-read unit 111. . The continuous subject shake amount detection unit 124 compares the maximum value and the minimum value of the acquired shake amount, and detects that the shake is large when the difference between the maximum value and the minimum value exceeds a predetermined threshold. When it is detected that the shake is large, the low visibility frame detection unit 120 determines that the shake is caused by an erroneous operation by the user. In this case, it is determined that there is no need to correct the shake as an image. For this reason, the continuous subject shake amount detection unit 124 instructs the user notification unit 116 to notify that it is recommended not to perform image blur correction. Then, the continuous subject shake amount detection unit 124 notifies the second shake correction amount calculation unit 114 of the detection result indicating that the shake is large and the shake amount to be corrected. In this case, the shake amount to be corrected is zero (that is, there is no need for correction because the shake is caused by a user's erroneous operation).

画像処理部105は、第2の振れ補正量算出部114が第2の振れ補正量を算出した場合には、当該第2の振れ補正量を取得して処理を行う。すなわち、第2の振れ補正量算出部114により算出された第2の振れ補正量がゼロであったとしても、振れ補正量が算出されているので、第1の振れ補正量算出部113による第1の振れ補正量ではなく、第2の振れ補正量が取得される。   When the second shake correction amount calculation unit 114 calculates the second shake correction amount, the image processing unit 105 acquires the second shake correction amount and performs processing. That is, even if the second shake correction amount calculated by the second shake correction amount calculation unit 114 is zero, the shake correction amount is calculated, so the first shake correction amount calculation unit 113 performs the first correction. The second shake correction amount is acquired instead of the first shake correction amount.

図3を参照して、本実施形態における画面表示の具体例を説明する。画面枠300は選択された映像をフレーム毎に表示したものである。表示領域301は、各フレームを左から右に時系列に表示している様を、振れの大きさを色分け(図3ではハッチング線種の違いとして示す)で区別して表現している。本例では、振れの大きさ別に、色302と色303と色304で色分けをして横棒グラフで表している。色302は振れが小さいこと、色303は振れが中程度であること、色304は振れが大きいことをそれぞれ示している。連続被写体振れ量検出部124が所定の閾値以上の振れ量を検出した場合、カーソル305により該当するフレームが指示される。振れが大きいことを示す検出結果が得られたフレームの、全体に占める割合を画面に表示することにより、ユーザは全体中の振れの割合を容易に把握できる。フレーム306は、カーソル305が示すフレームの箇所を見やすいように部分的にフレーム表示したものである。   A specific example of the screen display in the present embodiment will be described with reference to FIG. The screen frame 300 displays the selected video for each frame. The display area 301 expresses that each frame is displayed in chronological order from left to right by distinguishing the magnitude of shake by color coding (shown as a difference in hatching line types in FIG. 3). In this example, the color 302, the color 303, and the color 304 are color-coded according to the magnitude of the shake and are represented by a horizontal bar graph. The color 302 indicates that the shake is small, the color 303 indicates that the shake is moderate, and the color 304 indicates that the shake is large. When the continuous subject shake amount detection unit 124 detects a shake amount equal to or greater than a predetermined threshold, the cursor 305 indicates the corresponding frame. By displaying on the screen the ratio of the frame in which the detection result indicating that the shake is large is obtained, the user can easily grasp the shake ratio in the entire frame. The frame 306 is a partial frame display so that the portion of the frame indicated by the cursor 305 can be easily seen.

指示されたフレームの画像は領域310に表示される。領域310には、フレーム先読み部111によって先読みが行われたフレーム画像のままで、振れを補正していない画角として画像が表示される。破線の矩形枠311は、第1の振れ補正量算出部113により計算された振れ補正量に基づいて振れを補正する場合の補正枠である。   The designated frame image is displayed in area 310. In the area 310, an image is displayed as an angle of view in which the shake is not corrected with the frame image prefetched by the frame prefetching unit 111 as it is. A broken-line rectangular frame 311 is a correction frame for correcting shake based on the shake correction amount calculated by the first shake correction amount calculation unit 113.

ユーザ入力部115のスライドバー320により切り出し拡大率を変更し、ユーザ入力部115の十字キー330により切り出し位置を変更することで、ユーザは画角修正を行える。変更された切り出し拡大率と切り出し位置は映像201内の全てのフレームに適用される。画角修正については第2の振れ補正量算出部114により計算された第2の振れ補正量に基づいて自動的に行い、領域310や矩形枠311、および映像内の全てのフレームに適用してもよい。   The user can correct the angle of view by changing the cut-out magnification with the slide bar 320 of the user input unit 115 and changing the cut-out position with the cross key 330 of the user input unit 115. The changed cut-out magnification and cut-out position are applied to all frames in the video 201. The angle of view correction is automatically performed based on the second shake correction amount calculated by the second shake correction amount calculation unit 114, and is applied to the area 310, the rectangular frame 311 and all the frames in the video. Also good.

本実施形態では、撮像時の振れが非常に大きいことが検出された場合に、像ブレ補正を行わないことを推奨する通知が行われるので、状況に応じて像ブレ補正を適切に実行可能である。   In this embodiment, when it is detected that the shake at the time of imaging is very large, a notification recommending that image blur correction not be performed is performed, so that image blur correction can be appropriately performed according to the situation. is there.

[第3の実施形態]
以下に本発明の第3の実施形態を説明する。本実施形態では、低視認性フレーム検出部120は、第1の実施形態と第2の実施形態で説明した両方の検出を行う。図1の低視認性種別判定部130は低視認性フレーム検出部120から、2種類の検出結果を取得する。第1の検出結果は連続枠外検出部123の検出結果であり、第2の検出結果は連続被写体振れ量検出部124の検出結果である。ユーザ通知処理では、これらの検出結果に応じて、第1の実施形態の処理、または第2の実施形態の処理が実行される。具体的には、以下の(1)から(4)に示す4通りの場合分けとなる。
[Third Embodiment]
The third embodiment of the present invention will be described below. In this embodiment, the low visibility frame detection unit 120 performs both detections described in the first embodiment and the second embodiment. The low visibility type determination unit 130 in FIG. 1 acquires two types of detection results from the low visibility frame detection unit 120. The first detection result is the detection result of the continuous out-of-frame detection unit 123, and the second detection result is the detection result of the continuous subject shake amount detection unit 124. In the user notification process, the process of the first embodiment or the process of the second embodiment is executed according to these detection results. Specifically, there are four cases shown in the following (1) to (4).

(1)第1の検出結果は検出有りと判定され、第2の検出結果は検出有りと判定されない場合
低視認性種別判定部130は、連続枠外検出部123の検出のみが発生していると判断する。枠外判定部131は連続枠外検出部123により、特定の被写体が枠外被写体であることが検出された場合に枠外判定を行い、第1の検出結果有りと判定する。この場合、ユーザ通知部116に対しては連続枠外検出部123の検出結果である前述の枠外サイズ情報が出力される。また第2の振れ補正量算出部114に対しても同様に、連続枠外検出部123の検出結果である前述の枠外サイズ情報が通知される。この後の処理については第1の実施形態と同様である。つまり、第2の振れ補正量算出部114により第2の振れ補正量が算出された場合、第1の振れ補正量算出部113による第1の振れ補正量ではなく、第2の振れ補正量が画像処理部105へ通知される。画面表示例は、第1の実施形態の場合と同様に図2で説明したとおりに行われる。
(1) When the first detection result is determined to be detected, and the second detection result is not determined to be detected, the low visibility type determination unit 130 has detected that only the detection outside the continuous frame detection unit 123 has occurred. to decide. The out-of-frame determination unit 131 performs out-of-frame determination when the continuous out-of-frame detection unit 123 detects that a specific subject is an out-of-frame subject, and determines that there is a first detection result. In this case, the aforementioned out-of-frame size information, which is the detection result of the continuous out-of-frame detection unit 123, is output to the user notification unit 116. Similarly, the out-of-frame size information, which is the detection result of the continuous out-of-frame detection unit 123, is also notified to the second shake correction amount calculation unit 114. The subsequent processing is the same as in the first embodiment. In other words, when the second shake correction amount is calculated by the second shake correction amount calculation unit 114, the second shake correction amount is not the first shake correction amount by the first shake correction amount calculation unit 113, but the second shake correction amount. The image processing unit 105 is notified. The screen display example is performed as described in FIG. 2 as in the case of the first embodiment.

(2)第1の検出結果は検出有りと判定されず、第2の検出結果は検出有りと判定される場合
低視認性種別判定部130は、連続被写体振れ量検出部124の検出のみが発生していると判断する。振れ量判定部132は連続被写体振れ量検出部124により振れ量の差分が大きいことが検出された場合に振れ量判定を行い、第2の検出結果有りと判定する。この場合、ユーザ通知部116に対して連続被写体振れ量検出部124の検出結果である振れ量、すなわちゼロが出力される。また第2の振れ補正量算出部114に対しても同様に、連続被写体振れ量検出部124の検出結果である振れ量(0)が通知される。この後の処理については第2の実施形態と同様である。つまり、第2の振れ補正量算出部114による第2の振れ補正量が算出された場合、第1の振れ補正量算出部113による第1の振れ補正量ではなく、第2の振れ補正量が画像処理部105へ通知される。画面表示例は、第2の実施形態の場合と同様に図3で説明したとおりに行われる。
(2) When the first detection result is not determined to be detected and the second detection result is determined to be detected, the low visibility type determination unit 130 generates only the detection of the continuous subject shake amount detection unit 124 Judge that you are doing. The shake amount determination unit 132 determines the shake amount when the continuous subject shake amount detection unit 124 detects that the difference in shake amount is large, and determines that the second detection result is present. In this case, a shake amount that is a detection result of the continuous subject shake amount detection unit 124, that is, zero is output to the user notification unit 116. Similarly, the second shake correction amount calculation unit 114 is notified of the shake amount (0) that is the detection result of the continuous subject shake amount detection unit 124. The subsequent processing is the same as in the second embodiment. That is, when the second shake correction amount is calculated by the second shake correction amount calculation unit 114, the second shake correction amount is not the first shake correction amount by the first shake correction amount calculation unit 113, but the second shake correction amount. The image processing unit 105 is notified. The screen display example is performed as described with reference to FIG. 3 as in the case of the second embodiment.

(3)第1および第2の検出結果ともに検出有りと判定される場合
枠外判定部131は第1の検出結果有りと判定し、振れ量判定部132は第2の検出結果有りと判定する。この場合には、予めユーザにより定められた設定に従って処理が実行される。つまり、(1)の場合の処理、または(2)の場合の処理が選択される。
(3) When it is determined that both the first and second detection results are detected The out-of-frame determination unit 131 determines that there is a first detection result, and the shake amount determination unit 132 determines that there is a second detection result. In this case, the process is executed according to a setting determined in advance by the user. That is, the process in the case of (1) or the process in the case of (2) is selected.

(4)第1および第2の検出結果ともに検出有りと判定されない場合
枠外判定部131は第1の検出結果の検出有りと判定せず、振れ量判定部132は第2の検出結果の検出有りと判定しない。この場合、ユーザへの通知処理は行わない。あるいは、(3)の場合と同様に、予めユーザにより定められた設定に従って処理が実行される。(4)の場合、第1および第2の検出結果が存在しないので、図2におけるカーソル214による指示や、図3におけるカーソル305による指示は行われない。
(4) When neither the first detection result nor the second detection result is determined to be detected The out-of-frame determination unit 131 does not determine that the first detection result is detected, and the shake amount determination unit 132 detects the second detection result Not determined. In this case, the notification process to the user is not performed. Or similarly to the case of (3), a process is performed according to the setting previously defined by the user. In the case of (4), since the first and second detection results do not exist, the instruction by the cursor 214 in FIG. 2 or the instruction by the cursor 305 in FIG. 3 is not performed.

図4のフローチャートを参照して、以上の処理を説明する。S400〜S406の各ステップは低視認性種別判定部130が行う処理を示している。連続枠外検出部123による第1の検出結果と、連続被写体振れ量検出部124による第2の検出結果との、二通りの検出結果を用いて説明する。   The above processing will be described with reference to the flowchart of FIG. Each step of S400-S406 has shown the process which the low visibility classification determination part 130 performs. A description will be given using two detection results: a first detection result by the continuous out-of-frame detection unit 123 and a second detection result by the continuous subject shake amount detection unit 124.

S400では、第1および第2の検出結果ともに検出有りであるかどうかの判定処理が行われる。つまり、(3)の場合について判定され、(3)の判定条件を満たす場合、S401へ遷移し、当該判定条件を満たさない場合にはS402へ遷移する。S401では、予めユーザにより定められた設定に従う処理が実行される。すなわち、(1)の場合の処理、または(2)の場合の処理のうち、いずれかの処理が行われる。   In S400, a determination process is performed to determine whether both the first and second detection results are detected. That is, the determination is made for the case (3). If the determination condition (3) is satisfied, the process proceeds to S401. If the determination condition is not satisfied, the process proceeds to S402. In S401, a process according to a setting predetermined by the user is executed. That is, one of the processing in the case of (1) and the processing in the case of (2) is performed.

S402は、第1の検出結果が検出有りであるかどうかの判定処理である。第1の検出結果が検出有りと判定される場合、S403へ遷移し、第1の検出結果が検出有りと判定されない場合にはS404へ遷移する。S403の処理は、(1)の場合の処理に相当し、連続枠外検出部123の検出結果である前述の枠外サイズ情報がユーザ通知部116に対して出力される。また第2の振れ補正量算出部114に対しても同様に、連続枠外検出部123の検出結果である前述の枠外サイズ情報が出力される。   S402 is a determination process of whether or not the first detection result is detected. If it is determined that the first detection result is detected, the process proceeds to S403. If the first detection result is not determined to be detected, the process proceeds to S404. The process of S403 corresponds to the process in the case of (1), and the aforementioned out-of-frame size information, which is the detection result of the continuous out-of-frame detection unit 123, is output to the user notification unit 116. Similarly, the out-of-frame size information, which is the detection result of the continuous out-of-frame detection unit 123, is also output to the second shake correction amount calculation unit 114.

S404は、第2の検出結果が検出有りであるかどうかの判定処理である。第2の検出結果が検出有りと判定される場合、S405へ遷移し、第2の検出結果が検出有りと判定されない場合にはS406へ遷移する。S405の処理は、(2)の場合の処理に相当し、連続被写体振れ量検出部124の検出結果である振れ量(0)がユーザ通知部116に対して出力される。また第2の振れ補正量算出部114に対しても同様に、連続被写体振れ量検出部124の検出結果である振れ量(0)が出力される。   S404 is a determination process of whether or not the second detection result is detected. When it is determined that the second detection result is detected, the process proceeds to S405, and when the second detection result is not determined to be detected, the process proceeds to S406. The process of S405 corresponds to the process of (2), and the shake amount (0) that is the detection result of the continuous subject shake amount detection unit 124 is output to the user notification unit 116. Similarly, the shake amount (0) that is the detection result of the continuous subject shake amount detection unit 124 is output to the second shake correction amount calculation unit 114.

S406は、いずれの検出もされなかった場合であり、(4)の場合の処理に相当する。この場合、ユーザへの通知は行わない。あるいは、予めユーザにより定められた設定に従って所定の処理が実行される。   S406 is a case where none of the detections have been made, and corresponds to the process in the case of (4). In this case, the user is not notified. Alternatively, a predetermined process is executed according to a setting determined in advance by the user.

本実施形態によれば、第1および第2の検出結果の判定に基づいて、第1の実施形態の処理と第2の実施形態の処理により、像ブレ補正を適切に実行可能である。   According to this embodiment, based on the determination of the first and second detection results, image blur correction can be appropriately executed by the processing of the first embodiment and the processing of the second embodiment.

[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
[Other Embodiments]
The present invention supplies a program that realizes one or more functions of the above-described embodiments to a system or apparatus via a network or a storage medium, and one or more processors in a computer of the system or apparatus read and execute the program This process can be realized. It can also be realized by a circuit (for example, ASIC) that realizes one or more functions.

100 ・・・・映像再生部
104 ・・・・ メモリ
105 ・・・・ 画像処理部
106 ・・・・ 表示装置
110 ・・・・ 制御部
112 ・・・・ 振れ量算出部
113 ・・・・ 第1の振れ補正量算出部
114 ・・・・ 第2の振れ補正量算出部
116 ・・・・ ユーザ通知部
120 ・・・・ 低視認性フレーム検出部
130 ・・・・ 低視認性種別判定部


DESCRIPTION OF SYMBOLS 100 ... Video reproduction part 104 ... Memory 105 ... Image processing part 106 ... Display device 110 ... Control part 112 ... Shake amount calculation part 113 ... First shake correction amount calculation unit 114 ... Second shake correction amount calculation unit 116 ... User notification unit 120 ... Low visibility frame detection unit 130 ... Low visibility type determination Part


Claims (15)

撮像時の振れ量の情報と共に映像データを取得して再生する再生装置であって、
前記振れ量の情報から映像の像ブレを補正する補正量を算出する補正量算出手段と、
前記補正量を取得して像ブレが補正された映像データを生成する画像処理手段と、
前記映像データ、前記振れ量、前記補正量を取得して映像の視認性が低下した状態を検出する検出手段により前記映像の視認性が予め定められた状態よりも低下した状態が検出された場合、前記映像の視認性の低下を再生前に通知する処理を行う通知手段と、を備えることを特徴とする再生装置。
A playback device that acquires and plays back video data together with information on the amount of shake during imaging,
A correction amount calculating means for calculating a correction amount for correcting image blur of the video from the information on the shake amount;
Image processing means for acquiring the correction amount and generating video data in which image blur is corrected;
When the state in which the visibility of the video is lower than a predetermined state is detected by a detection unit that acquires the video data, the shake amount, and the correction amount and detects a state in which the visibility of the video is reduced And a notifying means for performing a process of notifying the reduction in the visibility of the video before playback.
前記振れ量の情報および前記映像データを記憶する記憶手段と、
前記記憶手段から前記映像データを構成する複数の画像のデータを取得する取得手段と、
前記複数の画像のデータから前記振れ量を算出して前記補正量算出手段に出力する振れ量算出手段を備えることを特徴とする請求項1に記載の再生装置。
Storage means for storing information on the shake amount and the video data;
Obtaining means for obtaining data of a plurality of images constituting the video data from the storage means;
The playback apparatus according to claim 1, further comprising: a shake amount calculation unit that calculates the shake amount from data of the plurality of images and outputs the shake amount to the correction amount calculation unit.
前記取得手段は、複数のフレームの前記映像データを前記記憶手段から先読みして、前記検出手段および振れ量算出手段に出力し、
前記補正量算出手段は、前記記憶手段から読み出されたフレームの前記映像データに係る像ブレを補正する補正量を算出することを特徴とする請求項2に記載の再生装置。
The acquisition unit pre-reads the video data of a plurality of frames from the storage unit, and outputs to the detection unit and the shake amount calculation unit,
The reproducing apparatus according to claim 2, wherein the correction amount calculating unit calculates a correction amount for correcting an image blur related to the video data of the frame read from the storage unit.
前記検出手段は、
前記フレームの映像データを取得し、当該フレームの映像内に特定の被写体の画像が存在するかどうかを検出する第1の検出と、
前記フレームの映像内に前記特定の被写体の画像が検出され、かつ像ブレが補正されたフレームの映像内に前記特定の被写体の画像が検出されない場合に、前記特定の被写体の画像が画面の枠外に位置することを検出する第2の検出と、
前記複数のフレームにおいて前記第2の検出により前記特定の被写体の画像が画面の枠外に位置することを検出する第3の検出を行うことを特徴とする請求項3に記載の再生装置。
The detection means includes
First detection for acquiring video data of the frame and detecting whether an image of a specific subject exists in the video of the frame;
When the image of the specific subject is detected in the video of the frame and the image of the specific subject is not detected in the video of the frame whose image blur is corrected, the image of the specific subject is out of the frame of the screen. A second detection for detecting being located at
The playback apparatus according to claim 3, wherein a third detection is performed to detect that the image of the specific subject is located outside the frame of the screen by the second detection in the plurality of frames.
前記第3の検出にて前記特定の被写体の画像が画面の枠外に位置することを前記検出手段が検出した場合、前記特定の被写体の画像を含むフレームの映像の視認性が低下した状態であることを前記通知手段が通知する処理を行うことを特徴とする請求項4に記載の再生装置。   When the detection unit detects that the image of the specific subject is located outside the frame of the screen in the third detection, the visibility of the image of the frame including the image of the specific subject is in a state of being deteriorated. 5. The playback apparatus according to claim 4, wherein the notification means performs a process of notifying that. 前記補正量算出手段は、
前記振れ量の情報を取得して第1の補正量を算出する第1の補正量算出手段と、
前記検出手段の検出結果を取得して第2の補正量を算出する第2の補正量算出手段を備えることを特徴とする請求項3乃至5のいずれか1項に記載の再生装置。
The correction amount calculating means includes
First correction amount calculating means for acquiring information on the shake amount and calculating a first correction amount;
6. The reproducing apparatus according to claim 3, further comprising a second correction amount calculation unit that acquires a detection result of the detection unit and calculates a second correction amount.
前記検出手段は、前記記憶手段から読み出された複数のフレームに対してそれぞれ取得された前記振れ量の最大値と最小値との差分を算出し、当該差分が閾値より大きい場合に振れが大きいことを示す検出結果を前記第2の補正量算出手段に出力し、前記画像処理手段は前記第2の補正量を取得した場合、像ブレが補正される前の映像データを出力することを特徴とする請求項6に記載の再生装置。   The detection means calculates a difference between the maximum value and the minimum value of the shake amount acquired for each of the plurality of frames read from the storage means, and the shake is large when the difference is larger than a threshold value. A detection result indicating that the image processing means outputs the video data before the image blur is corrected, when the image processing means obtains the second correction amount. The playback apparatus according to claim 6. 前記第3の検出にて、前記特定の被写体の画像が画面の枠外に位置することを前記検出手段が検出した場合に枠外判定を行い、前記記憶手段から読み出された複数のフレームに対してそれぞれ取得された前記振れ量の最大値と最小値との差分を算出し、当該差分が閾値より大きいことを前記検出手段が検出した場合に振れ量判定を行う判定手段を備えることを特徴とする請求項4に記載の再生装置。   In the third detection, when the detection means detects that the image of the specific subject is located outside the frame of the screen, it performs out-of-frame determination, and for a plurality of frames read from the storage means It comprises a determination unit that calculates a difference between a maximum value and a minimum value of the obtained shake amounts, and performs a shake amount determination when the detection unit detects that the difference is larger than a threshold value. The reproducing apparatus according to claim 4. 前記判定手段は、前記枠外判定にて前記特定の被写体の画像が画面の枠外に位置することを示す第1の検出結果が得られたと判定し、かつ、前記振れ量判定にて前記差分が閾値より大きいことを示す第2の検出結果が得られていないと判定した場合、前記第1の検出結果を前記通知手段に出力し、
前記通知手段は前記第1の検出結果を取得し、前記特定の被写体のフレームアウトを通知する処理を行うことを特徴とする請求項8に記載の再生装置。
The determination unit determines that a first detection result indicating that the image of the specific subject is located outside the frame of the screen is obtained in the out-of-frame determination, and the difference is a threshold value in the shake amount determination. If it is determined that the second detection result indicating greater than is not obtained, the first detection result is output to the notification means;
9. The playback apparatus according to claim 8, wherein the notifying unit performs processing for acquiring the first detection result and notifying the frame out of the specific subject.
前記判定手段は、前記枠外判定にて前記特定の被写体の画像が画面の枠外に位置することを示す第1の検出結果が得られていないと判定し、かつ、前記振れ量判定にて前記差分が閾値より大きいことを示す第2の検出結果が得られたと判定した場合、前記第2の検出結果を前記通知手段に出力し、
前記通知手段は前記第2の検出結果を取得し、前記像ブレの補正を行わないことを推奨する通知処理を行うことを特徴とする請求項8または請求項9に記載の再生装置。
The determination unit determines that a first detection result indicating that the image of the specific subject is located outside the frame of the screen is not obtained in the out-of-frame determination, and the difference is determined in the shake amount determination. When it is determined that a second detection result indicating that is greater than a threshold value has been obtained, the second detection result is output to the notification means,
10. The playback apparatus according to claim 8, wherein the notification unit acquires the second detection result and performs notification processing that recommends that the image blur correction not be performed.
前記判定手段は、前記第1および第2の検出結果が得られたと判定した場合、予め定められた設定にしたがって前記第1または第2の検出結果を前記通知手段に出力し、前記第1および第2の検出結果が得られていないと判定した場合、前記第1および第2の検出結果は前記通知手段に出力されないことを特徴とする請求項9または請求項10に記載の再生装置。   When it is determined that the first and second detection results are obtained, the determination unit outputs the first or second detection result to the notification unit according to a predetermined setting, and the first and second detection results are output. The playback apparatus according to claim 9 or 10, wherein when it is determined that the second detection result is not obtained, the first and second detection results are not output to the notification unit. 前記第3の検出にて前記特定の被写体の画像が画面の枠外に位置することを前記検出手段が検出した場合、前記特定の被写体の画像および画面の枠を表示する表示手段を備えることを特徴とする請求項4に記載の再生装置。   When the detection unit detects that the image of the specific subject is located outside the frame of the screen in the third detection, the display unit includes a display unit that displays the image of the specific subject and the frame of the screen. The playback apparatus according to claim 4. 前記差分が閾値より大きい場合に振れが大きいことを示す検出結果が得られたフレームの、全体に占める割合を画面に表示する表示手段を備えることを特徴とする請求項7に記載の再生装置。   8. The playback apparatus according to claim 7, further comprising display means for displaying, on a screen, a ratio of a frame in which a detection result indicating that shake is large when the difference is greater than a threshold value, to a screen. 撮像時の振れ量の情報と共に映像データを取得して再生する再生装置にて実行される制御方法であって、
補正量算出手段が前記振れ量の情報から映像の像ブレを補正する補正量を算出する工程と、
前記補正量を取得して像ブレが補正された映像データを画像処理手段が生成する工程と、
前記映像データ、前記振れ量、前記補正量を取得して映像の視認性が低下した状態を検出する検出手段により前記映像の視認性が予め定められた状態よりも低下した状態が検出された場合、前記映像の視認性の低下を再生前に通知手段が通知する処理を行う工程と、を有することを特徴とする再生装置の制御方法。
A control method that is executed by a playback device that acquires and plays back video data together with information on the amount of shake during imaging,
A step of calculating a correction amount for correcting an image blur of the video from the information of the shake amount, and a correction amount calculation unit;
An image processing means for generating video data in which the correction amount is acquired and image blur is corrected;
When the state in which the visibility of the video is lower than a predetermined state is detected by a detection unit that acquires the video data, the shake amount, and the correction amount and detects a state in which the visibility of the video is reduced And a step of performing a process of notifying the noticeability of the video before reproduction by a notifying means.
コンピュータを請求項1乃至13のいずれか1項に記載の再生装置が備える各手段として機能させることを特徴とするプログラム。

14. A program that causes a computer to function as each unit included in the playback apparatus according to claim 1.

JP2016113842A 2016-06-07 2016-06-07 Reproduction device, control method thereof, and program Pending JP2017220800A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016113842A JP2017220800A (en) 2016-06-07 2016-06-07 Reproduction device, control method thereof, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016113842A JP2017220800A (en) 2016-06-07 2016-06-07 Reproduction device, control method thereof, and program

Publications (1)

Publication Number Publication Date
JP2017220800A true JP2017220800A (en) 2017-12-14

Family

ID=60656521

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016113842A Pending JP2017220800A (en) 2016-06-07 2016-06-07 Reproduction device, control method thereof, and program

Country Status (1)

Country Link
JP (1) JP2017220800A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022019196A1 (en) * 2020-07-21 2022-01-27 ソニーグループ株式会社 Imaging device and imaging method

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022019196A1 (en) * 2020-07-21 2022-01-27 ソニーグループ株式会社 Imaging device and imaging method

Similar Documents

Publication Publication Date Title
JP5597061B2 (en) Video playback apparatus and control method thereof
US7688352B2 (en) Shake correction device, filming device, moving image display device, shake correction method and recording medium
US9743000B2 (en) Moving image processing apparatus, imaging apparatus, and moving image processing method
EP2043359B1 (en) System and method for image processing
JP2008172310A (en) Electronic hand blurring correction method, device and program, and imaging apparatus
JP2007243335A (en) Camera shake correction method, camera shake correction apparatus, and imaging apparatus
JP5003657B2 (en) Image stabilization device
JP5197801B2 (en) Movie reproduction system and photographing apparatus
JP2009152802A (en) Video processing apparatus, video processing system, video processing method, and program
JP2018061130A (en) Image processing device, image processing method, and program
WO2017104102A1 (en) Imaging device
JP2017220800A (en) Reproduction device, control method thereof, and program
JP4052348B2 (en) Image processing apparatus and image processing method
JP2014171110A (en) Image reproduction device, control method thereof, and control program
US10425614B2 (en) Moving image reproduction apparatus having function of correcting camera shake during moving image reproduction, method of controlling the same, and storage medium
JP2006279413A (en) Motion vector detector, image display, image photographing apparatus, motion vector detecting method, program, and recording medium
JP7389558B2 (en) Information processing device and its control method and program
JP2009115910A (en) Synchronous converter, synchronous converting method and program
JP5371310B2 (en) Image processing device
JP6371656B2 (en) Image reproduction apparatus, image reproduction method and program, and imaging apparatus
JP2008160274A (en) Motion vector detection method, its apparatus and its program, electronic hand-blur correction method, its apparatus and its program, as well as imaging apparatus
JP5759162B2 (en) Motion vector detection device, motion vector detection method, correction device, and program
JP2015139139A (en) Video processing apparatus and video processing method
JP2010011050A (en) Moving picture processing unit, image recording device integrated with camera, moving picture reproducing device, remote control system, moving picture processing program, storage medium, and moving picture processing system
JP2007243333A (en) Camera shake correction method, camera shake correction apparatus, and imaging apparatus