JP2012044418A - Picture reproducing device and control method therefor - Google Patents

Picture reproducing device and control method therefor Download PDF

Info

Publication number
JP2012044418A
JP2012044418A JP2010183385A JP2010183385A JP2012044418A JP 2012044418 A JP2012044418 A JP 2012044418A JP 2010183385 A JP2010183385 A JP 2010183385A JP 2010183385 A JP2010183385 A JP 2010183385A JP 2012044418 A JP2012044418 A JP 2012044418A
Authority
JP
Japan
Prior art keywords
size
shake
video
cutout
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010183385A
Other languages
Japanese (ja)
Other versions
JP5597061B2 (en
Inventor
Tatsuya Yamazaki
龍弥 山崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2010183385A priority Critical patent/JP5597061B2/en
Publication of JP2012044418A publication Critical patent/JP2012044418A/en
Application granted granted Critical
Publication of JP5597061B2 publication Critical patent/JP5597061B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide a technique of enabling correction of great shake and correcting blur of a picture with suppressing reduction of the picture quality when the picture is reproduced.SOLUTION: A picture reproducing device including achieving means for achieving picture data representing a picture picked up by an imaging device, and shake data representing the shake of the imaging device when the picture is picked up, reproducing means for successively cutting out an image having a predetermined cut-out size from a predetermined cut-out position of each of unit images constituting the picture and reproducing the cut-out image, shifting means for shifting the predetermined cut-out position so as to correct blur of the picture during reproduction, determining means for determining a target size of the cut-out size on the basis of the magnitude of the shake of the imaging device under an imaging operation so that the target size is smaller as the shake is more intensive and larger as the shake is weaker, and changing means for changing the predetermined cut-out size during reproduction so that the predetermined cut-out size gradually approaches to the target size.

Description

本発明は、映像再生装置、及びその制御方法に関する。   The present invention relates to a video playback device and a control method thereof.

ビデオカメラ等の撮像記録装置で映像を記録する場合、手ぶれなどによるビデオカメラの振れが原因で記録映像がぶれる場合がある。このようなぶれを映像再生時に補正する技術として、映像のぶれを表す動きベクトルを検出し、動きベクトルに応じて映像の部分領域を選択して拡大表示する技術が知られている(特許文献1参照)。また、映像撮像時にビデオカメラの振れをセンサで検出し、振れデータを映像データと共に記録し、映像再生時に振れデータを利用してぶれを補正する技術も知られている(特許文献2参照)。   When recording an image with an imaging and recording apparatus such as a video camera, the recorded image may be blurred due to the shake of the video camera due to camera shake or the like. As a technique for correcting such blur at the time of video reproduction, there is known a technique for detecting a motion vector representing the blur of the video, and selecting and enlarging and displaying a partial area of the video according to the motion vector (Patent Document 1). reference). There is also known a technique for detecting shake of a video camera with a sensor at the time of image capturing, recording the shake data together with the image data, and correcting the shake using the shake data at the time of reproducing the image (see Patent Document 2).

特開平7−143380号公報JP-A-7-143380 特開平10−42233号公報Japanese Patent Laid-Open No. 10-42233

上述した従来の技術により映像再生時にぶれを補正する場合、大きなぶれを補正しようとすると拡大対象の部分領域が映像の存在する領域やレンズの有効像円の外に出てしまい、表示される映像に欠けが生じる場合がある。このような欠けによる画質の低下を防止するためには映像の拡大率を大きくしなければならないが、映像の拡大率を大きくすると拡大に伴う画質の低下が顕著になる。仮に、ぶれが小さい場合は拡大率を小さくし、ぶれが大きい場合は拡大率を大きくすると、ぶれの大きさが変化した場合に拡大率が変化して画角が急に変化するため、視聴者に違和感を与えてしまうような画質の低下につながる。   When correcting blur during video playback using the conventional technology described above, if you attempt to correct a large blur, the partial area to be enlarged will be outside the area where the video exists and the effective image circle of the lens, and the displayed video Chipping may occur. In order to prevent such a drop in image quality due to chipping, it is necessary to increase the image enlargement ratio. However, if the image enlargement ratio is increased, the image quality deterioration associated with enlargement becomes significant. For example, if the blur is small, the zoom ratio is reduced. If the blur is large, the zoom ratio is increased. If the blur size changes, the zoom ratio changes and the angle of view changes suddenly. This leads to a decrease in image quality that may cause a sense of discomfort.

本発明はこのような状況に鑑みてなされたものであり、大きなぶれの補正を可能にすると共に画質の低下を抑制しつつ、映像再生時に映像のぶれを補正する技術を提供することを目的とする。   The present invention has been made in view of such a situation, and an object of the present invention is to provide a technique for correcting image blur at the time of image playback while enabling large blur correction and suppressing deterioration in image quality. To do.

上記課題を解決するために、第1の本発明は、撮像装置によって撮像された映像を表す映像データと、当該映像の撮像時の当該撮像装置の振れを表す振れデータと、を取得する取得手段と、前記映像データを再生する再生手段であって、前記映像を構成する複数の単位画像それぞれについて前記単位画像の所定の切り出し位置から所定の切り出しサイズの画像を順次切り出す再生手段と、前記再生手段による前記映像データの再生中に、前記映像のぶれを補正するように前記所定の切り出し位置を移動させる移動手段と、前記振れデータから得られる、前記再生手段で再生中の単位画像よりも所定の時間後に再生される単位画像の撮像時の前記撮像装置の振れの大きさに基づいて、当該振れが大きいほど小さく当該振れが小さいほど大きくなるように前記切り出しサイズの目標サイズを決定する決定手段と、前記再生手段による前記映像データの再生中に、前記所定の切り出しサイズが前記目標サイズに徐々に近づくように前記所定の切り出しサイズを変更する変更手段と、を備えることを特徴とする映像再生装置を提供する。   In order to solve the above-described problem, the first aspect of the present invention provides an acquisition unit that acquires video data representing a video imaged by an imaging device and shake data representing a shake of the imaging device at the time of imaging the video. Replaying means for replaying the video data, and replaying means for sequentially cutting out images of a predetermined cutout size from a predetermined cutout position of the unit image for each of a plurality of unit images constituting the video; And moving means for moving the predetermined cutout position so as to correct blurring of the video during reproduction of the video data, and a unit image obtained from the shake data and having a predetermined value than the unit image being reproduced by the reproduction means. Based on the magnitude of the shake of the imaging device at the time of unit image reproduction after time, the larger the shake, the smaller the shake is, and the larger the shake is. And determining the target size of the cutout size, and changing the predetermined cutout size so that the predetermined cutout size gradually approaches the target size during the reproduction of the video data by the playback means And a change means.

なお、その他の本発明の特徴は、添付図面及び以下の発明を実施するための形態における記載によって更に明らかになるものである。   Other features of the present invention will become more apparent from the accompanying drawings and the following description of the preferred embodiments.

以上の構成により、本発明によれば、大きなぶれの補正を可能にすると共に画質の低下を抑制しつつ、映像再生時に映像のぶれを補正することが可能となる。   With the above configuration, according to the present invention, it is possible to correct a blur of a video at the time of video playback while enabling a correction of a large blur and suppressing a deterioration in image quality.

第1の実施形態に係るビデオカメラ100の撮像装置及び記録装置としての構成を示すブロック図1 is a block diagram illustrating a configuration of an imaging device and a recording device of a video camera 100 according to a first embodiment. ビデオカメラ100の映像再生装置としての構成を示すブロック図Block diagram showing the configuration of the video camera 100 as a video playback device 第1の実施形態に係る映像データ再生処理の流れを示すフローチャートThe flowchart which shows the flow of the video data reproduction | regeneration processing which concerns on 1st Embodiment. 図3のS307における目標サイズ決定処理の詳細を示すフローチャートThe flowchart which shows the detail of the target size determination process in S307 of FIG. 図3のS308における切り出しサイズ変更処理の詳細を示すフローチャートThe flowchart which shows the detail of the cut-out size change process in S308 of FIG. 単位画像全体と切り出される画像との関係を示す概念図Conceptual diagram showing the relationship between the entire unit image and the image to be cut out 画像の切り出し及び拡大の概念図Conceptual diagram of image clipping and enlargement 振れの大きさの変化に伴う切り出しサイズの変化を示す概念図Schematic diagram showing the change in the cut-out size accompanying the change in runout size 第2の実施形態に係る映像データ再生処理の流れを示すフローチャートThe flowchart which shows the flow of the video data reproduction | regeneration processing based on 2nd Embodiment. 図9のS909における所定期間設定処理の詳細を示すフローチャートThe flowchart which shows the detail of the predetermined period setting process in S909 of FIG. 所定期間設定変更による切り出し目標位置の違いを表した図A diagram showing the difference in the cut-out target position by changing the setting for a specified period 図9のS909における所定期間設定処理の、図10とは別の処理を示すフローチャートThe flowchart which shows the process different from FIG. 10 of the predetermined period setting process in S909 of FIG.

以下、添付図面を参照して、本発明の実施形態を説明する。なお、本発明の技術的範囲は、特許請求の範囲によって確定されるのであって、以下の個別の実施形態によって限定されるわけではない。また、実施形態の中で説明されている特徴の組み合わせすべてが、本発明に必須とは限らない。   Embodiments of the present invention will be described below with reference to the accompanying drawings. The technical scope of the present invention is determined by the claims, and is not limited by the following individual embodiments. In addition, not all combinations of features described in the embodiments are essential to the present invention.

[第1の実施形態]
本発明の映像再生装置をビデオカメラ(撮像記録再生装置)に適用した実施形態について説明する。図1は、第1の実施形態に係るビデオカメラ100の撮像装置及び記録装置としての構成を示すブロック図である。図2は、ビデオカメラ100の映像再生装置としての構成を示すブロック図である。
[First Embodiment]
An embodiment in which the video playback apparatus of the present invention is applied to a video camera (imaging recording / playback apparatus) will be described. FIG. 1 is a block diagram illustrating a configuration of the video camera 100 according to the first embodiment as an imaging device and a recording device. FIG. 2 is a block diagram showing the configuration of the video camera 100 as a video playback device.

図1において、レンズユニット101は、撮像素子102に被写体像を結像する。撮像素子102は、CCD、CMOSセンサ等を含み、結像された被写体像を光電変換する。アナログ信号処理部103は、撮像素子102で得られた信号に所定の処理を施してアナログ撮像信号を生成する。アナログ信号処理部103は、例えばCDS(Co−related Double Sampling:相関二重サンプリング)回路、AGC(Automatic Gain Control)回路等を含む。カメラ信号処理部104は、A/D変換器を備え、アナログ信号処理部103で生成されたアナログ撮像信号からデジタルビデオ信号を生成する。符号化部105は、生成されたデジタルビデオ信号をMPEG2形式で符号化し、MPEG2のストリームを出力する。   In FIG. 1, the lens unit 101 forms a subject image on the image sensor 102. The image sensor 102 includes a CCD, a CMOS sensor, and the like, and photoelectrically converts the formed subject image. The analog signal processing unit 103 performs a predetermined process on the signal obtained by the image sensor 102 to generate an analog image signal. The analog signal processing unit 103 includes, for example, a CDS (Co-related Double Sampling) circuit, an AGC (Automatic Gain Control) circuit, and the like. The camera signal processing unit 104 includes an A / D converter, and generates a digital video signal from the analog imaging signal generated by the analog signal processing unit 103. The encoding unit 105 encodes the generated digital video signal in the MPEG2 format and outputs an MPEG2 stream.

角速度センサ111は、ビデオカメラに加わる振れの角速度を検出する。振れデータ設定部112は、角速度センサ111の出力に基づいて、ビデオカメラの振れ量を算出する。タイムコード設定部114は、時計113から取得した時刻情報を基に映像記録時のタイムコードを設定する。メタデータ設定部115は、振れデータ、タイムコード、カメラ関連データ(不図示)等をメタデータとして出力する。   The angular velocity sensor 111 detects the angular velocity of shake applied to the video camera. The shake data setting unit 112 calculates the shake amount of the video camera based on the output of the angular velocity sensor 111. The time code setting unit 114 sets a time code at the time of video recording based on the time information acquired from the clock 113. The metadata setting unit 115 outputs shake data, time code, camera related data (not shown), and the like as metadata.

記録制御部121は、符号化部105からのMPEG2のストリーム(映像データ)、及びメタデータ設定部115からのメタデータを、記録メディア122に記録する。図2を参照して後述するように、記録制御部121は、記録メディア122からMPEG2のストリームを再生して出力することもでき、また、任意のメタデータを読み出すことも可能である。   The recording control unit 121 records the MPEG2 stream (video data) from the encoding unit 105 and the metadata from the metadata setting unit 115 on the recording medium 122. As will be described later with reference to FIG. 2, the recording control unit 121 can reproduce and output an MPEG2 stream from the recording medium 122, and can read arbitrary metadata.

以上の処理により、記録メディア122に、振れデータを含むメタデータが付加された映像データが記録される。   Through the above processing, video data to which metadata including shake data is added is recorded on the recording medium 122.

次に、図2を参照して、ビデオカメラ100の映像再生装置としての構成について説明する。記録メディア122には、図1を参照して説明した、振れデータを含むメタデータが付加された映像データが記録されている。但し、メタデータ及び映像データの記録形式はこれに限定されず、ビデオカメラ100が振れデータ及び映像データを取得可能である限り、どのような形式であってもよく、例えばメタデータは映像データと別に記録されていても構わない。   Next, the configuration of the video camera 100 as a video playback device will be described with reference to FIG. The recording medium 122 records video data to which metadata including shake data described with reference to FIG. 1 is added. However, the recording format of the metadata and video data is not limited to this, and any format may be used as long as the video camera 100 can acquire shake data and video data. It may be recorded separately.

記録制御部121は、記録メディア122から、映像データ及びメタデータ(特に、振れデータ)を取得する。復号化部221は、記録制御部121が取得した映像データ(MPEG2のストリーム)を復号化し、復号化されたデジタルビデオ信号をメタデータと共にメモリ222へ出力する。   The recording control unit 121 acquires video data and metadata (particularly shake data) from the recording medium 122. The decoding unit 221 decodes the video data (MPEG2 stream) acquired by the recording control unit 121 and outputs the decoded digital video signal to the memory 222 together with the metadata.

メモリ222は、復号化されたデジタルビデオ信号を数秒分記憶しておく。メモリ222に数秒分のデジタルビデオ信号を記憶しておくことにより、表示装置224に出力されている再生画像(再生中の画像)に対して時間的に先となる情報を得ることが可能となる。   The memory 222 stores the decoded digital video signal for several seconds. By storing a digital video signal for several seconds in the memory 222, it becomes possible to obtain information that is temporally ahead of the reproduced image (image being reproduced) output to the display device 224. .

画像処理部223は、後述するマイクロコンピュータ(マイコン)210の処理により決定された切り出し位置及び切り出しサイズに従って映像データを再生する。具体的には、画像処理部223は、映像データが表す映像を構成する複数の単位画像(フィールド画像又はフレーム画像)それぞれについて、単位画像の所定の切り出し位置から所定の切り出しサイズの画像を順次切り出す。そして、画像処理部223は、切り出した画像に対して電子ズームを施し、表示装置224へ出力する。表示装置224は、出力された画像を順次表示することにより、映像を表示する。   The image processing unit 223 reproduces the video data according to the cutout position and cutout size determined by the processing of a microcomputer 210 described later. Specifically, the image processing unit 223 sequentially cuts out images having a predetermined cutout size from a predetermined cutout position of the unit image for each of a plurality of unit images (field image or frame image) constituting the video represented by the video data. . Then, the image processing unit 223 performs electronic zoom on the clipped image and outputs it to the display device 224. The display device 224 displays video by sequentially displaying the output images.

動きベクトル検出部201は、メモリ222に記憶されたデジタル画像から動きベクトルを検出する。この動きベクトルは、映像のぶれの指標としての役割を果たす。切り出し位置設定部202は、動きベクトル検出部で検出された動きに基づいて、映像のぶれを補正するように単位画像の切り出し位置を決定して(移動させて)画像処理部223に設定する。   The motion vector detection unit 201 detects a motion vector from the digital image stored in the memory 222. This motion vector serves as an index of image blur. The cutout position setting unit 202 determines (moves) the cutout position of the unit image so as to correct the image blur based on the motion detected by the motion vector detection unit, and sets the cutout position in the image processing unit 223.

メタデータ読み出し部203は、メモリ222からメタデータを読み出す(メタデータは、例えば、復号化されたデジタル画像に付加されている)。メタデータ読み出し部203は後述する読み出しアドレス設定部207が設定した読み出しアドレスからメタデータを読み出す。   The metadata reading unit 203 reads metadata from the memory 222 (metadata is added to a decrypted digital image, for example). The metadata reading unit 203 reads metadata from a read address set by a read address setting unit 207 described later.

振れデータ取得部204は、読み出されたメタデータから振れデータを取得する。切り出しサイズ設定部205は、取得した振れデータを基に、単位画像の切り出しサイズを決定して画像処理部223に設定する(詳細は図3乃至図5を参照して後述)。   The shake data acquisition unit 204 acquires shake data from the read metadata. The cutout size setting unit 205 determines the cutout size of the unit image based on the acquired shake data and sets it in the image processing unit 223 (details will be described later with reference to FIGS. 3 to 5).

タイムコード設定部206は、現在の再生画像(再生中の単位画像)のタイムコードをメタデータ読み出し部203から取得し、取得したタイムコードよりも所定の時間後のタイムコードを読み出しアドレス設定部207に通知する。読み出しアドレス設定部207は、通知されたタイムコードに対応するアドレスをメモリ222に設定する。これにより、メタデータ読み出し部203は、現在の再生画像より所定の時間後に再生される画像(単位画像)のメタデータを取得することができる。   The time code setting unit 206 acquires the time code of the current reproduction image (unit image being reproduced) from the metadata reading unit 203, and reads the time code after a predetermined time from the acquired time code, and reads the address code setting unit 207. Notify The read address setting unit 207 sets an address corresponding to the notified time code in the memory 222. Thereby, the metadata reading unit 203 can acquire metadata of an image (unit image) reproduced after a predetermined time from the current reproduced image.

マイコン210は、動きベクトル検出部201、切り出し位置設定部202、メタデータ読み出し部203、振れデータ取得部204、切り出しサイズ設定部205、タイムコード設定部206、及び読み出しアドレス設定部207の機能を実装する。マイコン210はまた、後述する図3乃至図5のフローチャートに示す各種処理の制御を行う。   The microcomputer 210 implements the functions of a motion vector detection unit 201, a cutout position setting unit 202, a metadata reading unit 203, a shake data acquisition unit 204, a cutout size setting unit 205, a time code setting unit 206, and a read address setting unit 207. To do. The microcomputer 210 also controls various processes shown in the flowcharts of FIGS.

図3は、第1の実施形態に係る映像データ再生処理の流れを示すフローチャートである。ビデオカメラ100が映像データの再生を開始すると、本フローチャートの処理が開始する。   FIG. 3 is a flowchart showing a flow of video data reproduction processing according to the first embodiment. When the video camera 100 starts reproducing the video data, the processing of this flowchart starts.

S301で、振れデータ取得部204は、メタデータ読み出し部203を介して、映像データの再生開始点から先の所定期間分の振れデータを取得する。S302で、切り出しサイズ設定部205は、S301で取得された振れデータが表す振れの振幅をチェックする。S303で、切り出しサイズ設定部205は、S302でチェックした振幅が閾値よりも大きいか否かを判定する。振幅が閾値よりも大きい場合、処理はS304に進み、そうでない場合、処理はS305に進む。   In step S <b> 301, the shake data acquisition unit 204 acquires shake data for a predetermined period from the playback start point of the video data via the metadata reading unit 203. In step S302, the cut-out size setting unit 205 checks the amplitude of shake represented by the shake data acquired in step S301. In step S303, the cutout size setting unit 205 determines whether the amplitude checked in step S302 is greater than a threshold value. If the amplitude is greater than the threshold value, the process proceeds to S304; otherwise, the process proceeds to S305.

S304で、切り出しサイズ設定部205は、切り出しサイズ=「小」に設定する。切り出しサイズ設定部205はまた、目標サイズ=「小」(切り出しサイズと同じ)に設定する。切り出しサイズが小さいということは、表示装置224に表示される映像の拡大率が大きいということを意味する。この場合、比較的大きなぶれを補正しても、切り出し対象の領域が映像の存在する領域の外に出る可能性は低い。   In step S304, the cutout size setting unit 205 sets the cutout size = “small”. The cutout size setting unit 205 also sets target size = “small” (the same as the cutout size). The small cutout size means that the enlargement ratio of the video displayed on the display device 224 is large. In this case, even if a relatively large shake is corrected, it is unlikely that the region to be cut out will be outside the region where the video exists.

S305で、切り出しサイズ設定部205は、切り出しサイズ=「大」に設定する。切り出しサイズ設定部205はまた、目標サイズ=「大」(切り出しサイズと同じ)に設定する。切り出しサイズが大きいということは、表示装置224に表示される映像の拡大率が小さいということを意味する。この場合、表示装置224に表示される映像の品質は相対的に高くなるが、切り出し対象の領域が映像の存在する領域の外に出ないようにするためには、比較的小さなぶれしか補正できない。   In step S305, the cutout size setting unit 205 sets the cutout size = “large”. The cutout size setting unit 205 also sets target size = “large” (the same as the cutout size). A large cut-out size means that the enlargement rate of the video displayed on the display device 224 is small. In this case, the quality of the video displayed on the display device 224 is relatively high, but only a relatively small amount of blur can be corrected so that the region to be cut out does not go outside the region where the video exists. .

S303における閾値は、例えば、補正角度換算で0.5度である。これは、手ぶれが少ない人が撮影した映像であれば、通常、0.5度の補正量があれば十分に映像のぶれを補正できるからである。従って、S305での切り出しサイズ=「大」は、0.5度相当のぶれを補正可能な切り出しサイズである。また、S304での切り出しサイズ=「小」は、切り出される画像の画素数が極めて少なくなることを防止するために、2度相当のぶれを補正可能な切り出しサイズとする。   The threshold value in S303 is, for example, 0.5 degrees in terms of correction angle. This is because, for an image taken by a person with little camera shake, the image blur can be sufficiently corrected with a correction amount of 0.5 degrees. Therefore, the cutout size = “large” in S305 is a cutout size that can correct blur equivalent to 0.5 degrees. In addition, the cutout size = “small” in S304 is set to a cutout size that can correct blur equivalent to twice in order to prevent the number of pixels of the cutout image from becoming extremely small.

図6は、単位画像全体と切り出される画像との関係を示す概念図である。図6(a)において、単位画像601のサイズは、撮像素子102のサイズに対応する。切り出し領域602は、切り出しサイズ=「大」の場合の切り出し領域を示す、切り出し領域603は、切り出しサイズ=「小」の場合の切り出し領域を示す。切り出しサイズが大きい状態で大きな手ぶれを補正しようとすると、図6(a)に示すように切り出し領域の一部が単位画像601の外に出る。従って、表示される映像に欠けが生じる。そこで、手ぶれが大きいときは切り出しサイズを小さくすれば、図6(a)に示すように切り出し領域603は単位画像601の内部に収まり、映像に欠けが生じる可能性を低減できる。   FIG. 6 is a conceptual diagram showing the relationship between the entire unit image and the clipped image. In FIG. 6A, the size of the unit image 601 corresponds to the size of the image sensor 102. A cutout area 602 indicates a cutout area when the cutout size = “large”, and a cutout area 603 indicates a cutout area when the cutout size = “small”. If an attempt is made to correct a large camera shake while the cutout size is large, a part of the cutout region appears outside the unit image 601 as shown in FIG. Therefore, the displayed video is chipped. Therefore, when the camera shake is large, if the cut-out size is reduced, the cut-out area 603 can be accommodated in the unit image 601 as shown in FIG.

また、図6(b)に示すように、撮像素子102の一部がレンズユニット101の有効像円611の外に存在する場合、撮像素子102のサイズだけではなく、レンズユニット101の有効像円に起因して映像の欠けが発生する場合もある。単位画像612のサイズは、撮像素子102のサイズに対応する。但し、単位画像612の四隅は、有効像円611の外であるため、欠けている。切り出し領域613は、切り出しサイズ=「大」の場合の切り出し領域を示す、切り出し領域614は、切り出しサイズ=「小」の場合の切り出し領域を示す。切り出し領域613は単位画像612の内部に収まっているが、有効像円611の外部を含むため、実際には映像に欠けが生じる。この場合も、切り出し領域614で示すように切り出しサイズを小さくすれば、映像に欠けが生じる可能性を低減できる。   In addition, as shown in FIG. 6B, when a part of the image sensor 102 exists outside the effective image circle 611 of the lens unit 101, not only the size of the image sensor 102 but also the effective image circle of the lens unit 101. In some cases, the lack of video may occur due to the above. The size of the unit image 612 corresponds to the size of the image sensor 102. However, the four corners of the unit image 612 are missing because they are outside the effective image circle 611. A cutout area 613 indicates a cutout area when the cutout size = “large”, and a cutout area 614 indicates a cutout area when the cutout size = “small”. Although the cutout region 613 is contained within the unit image 612, the cutout region 613 includes the outside of the effective image circle 611, and thus the image is actually missing. In this case as well, if the cutout size is reduced as shown by the cutout area 614, the possibility of missing in the video can be reduced.

図3に戻り、S306で、ビデオカメラ100は、ぶれ補正を伴う映像再生を行う。具体的には、切り出し位置設定部202は、動きベクトル検出部201が検出した動きベクトルに基づき、映像のぶれを補正するように切り出し位置を決定(移動)して画像処理部223に設定する。切り出し位置の決定は、任意の知られている技術を利用して実行可能である。画像処理部223は、単位画像の設定された切り出し位置から、S304又はS305で設定された切り出しサイズの画像を切り出す。そして、画像処理部223は、切り出した画像を表示装置224に出力する。なお、後述する図4のS402においてパンニングが発生していると判定された場合、切り出し位置設定部202は、切り出し位置の変更を停止する。パンニング動作時は一般的に、検出される振れデータ及びベクトル量が大きくなるため、切り出し位置が補正リミットに到達しないよう、大きな手ぶれ補正を効かせない様に制御する。そのため切り出し位置設定を停止しても問題はない。   Returning to FIG. 3, in S306, the video camera 100 performs video reproduction with blur correction. Specifically, the cutout position setting unit 202 determines (moves) the cutout position and sets the cutout position in the image processing unit 223 so as to correct the image blur based on the motion vector detected by the motion vector detection unit 201. The cut-out position can be determined using any known technique. The image processing unit 223 cuts out an image having the cut-out size set in S304 or S305 from the set cut-out position of the unit image. Then, the image processing unit 223 outputs the clipped image to the display device 224. When it is determined that panning has occurred in S402 in FIG. 4 described later, the cutout position setting unit 202 stops changing the cutout position. In general, during the panning operation, the detected shake data and vector amount increase, and therefore control is performed so that large camera shake correction is not applied so that the cutout position does not reach the correction limit. Therefore, there is no problem even if the cutout position setting is stopped.

S307で、切り出しサイズ設定部205は、再生中の単位画像よりも所定の時間後に再生される単位画像の撮像時のビデオカメラ100の振れの大きさに基づいて、目標サイズを決定する(S304又はS305で設定した目標サイズを変更する)。詳細については、図4を参照して後述する。   In step S307, the cut-out size setting unit 205 determines a target size based on the magnitude of the shake of the video camera 100 at the time of capturing a unit image reproduced after a predetermined time from the unit image being reproduced (S304 or The target size set in S305 is changed). Details will be described later with reference to FIG.

S308で、切り出しサイズ設定部205は、画像処理部223に設定した切り出しサイズを、S307で決定した目標サイズに徐々に近づくように変更する。徐々に近づけることを実現するため、切り出しサイズ設定部205は、S308の1回の処理では切り出しサイズを少ししか変更しない。S306、S307、及びS308の処理が繰り返し実行されることにより、切り出しサイズは(S307で目標サイズが変化しなければ)最終的に目標サイズに到達する。詳細については、図5を参照して後述する。   In step S308, the cutout size setting unit 205 changes the cutout size set in the image processing unit 223 so as to gradually approach the target size determined in step S307. In order to realize the approach gradually, the cutout size setting unit 205 changes the cutout size only slightly in one process of S308. By repeatedly executing the processing of S306, S307, and S308, the cutout size finally reaches the target size (if the target size does not change in S307). Details will be described later with reference to FIG.

図7は、画像の切り出し及び拡大の概念図である。切り出しサイズを小さくすると画角が狭くなり、逆に切り出しサイズを大きくすると画角が広くなる。そのため切り出しサイズの変更を急激に行うと視聴者に違和感を与えてしまう可能性がある。本実施形態では、S308で説明したように切り出しサイズを徐々に変更するため、このような違和感を軽減することができる。   FIG. 7 is a conceptual diagram of image clipping and enlargement. If the cutout size is reduced, the angle of view becomes narrower. Conversely, if the cutout size is increased, the angle of view becomes wider. For this reason, if the cutout size is changed suddenly, the viewer may feel uncomfortable. In this embodiment, since the cutout size is gradually changed as described in S308, such a sense of incongruity can be reduced.

図4は、図3のS307における目標サイズ決定処理の詳細を示すフローチャートである。S401で、振れデータ取得部204は、メタデータ読み出し部203を介して、現在の再生地点から先の所定期間分の振れデータを取得する。手ぶれは通常4〜9Hzの周波数を持つため、所定期間とは例えば、低い周波数の2周期分程度、約0.5秒である。S402で、切り出しサイズ設定部205は、S401で取得された振れデータが表す振れの振幅をチェックする。   FIG. 4 is a flowchart showing details of the target size determination process in S307 of FIG. In step S <b> 401, the shake data acquisition unit 204 acquires shake data for a predetermined period from the current reproduction point via the metadata reading unit 203. Since camera shake normally has a frequency of 4 to 9 Hz, the predetermined period is, for example, about two seconds of a low frequency for about 0.5 seconds. In step S402, the cut-out size setting unit 205 checks the amplitude of the shake represented by the shake data acquired in step S401.

S403で、切り出しサイズ設定部205は、振れデータがビデオカメラ100のパンニングを表すか否かを判定する。具体的には、切り出しサイズ設定部205は、取得した期間の振れデータが一方向に増加又は減少している場合に、パンニングが発生していると判定する。パンニングが発生している場合、前述のように大きな手ぶれ補正は行わないため、本フローチャートの処理は終了する(従って、目標サイズは変更されない)。そうでない場合、処理はS404に進む。   In step S <b> 403, the cutout size setting unit 205 determines whether the shake data represents panning of the video camera 100. Specifically, the cut-out size setting unit 205 determines that panning has occurred when the shake data for the acquired period has increased or decreased in one direction. When panning has occurred, since the large camera shake correction is not performed as described above, the processing of this flowchart ends (therefore, the target size is not changed). Otherwise, the process proceeds to S404.

S404で、切り出しサイズ設定部205は、現在設定されている切り出しサイズが目標サイズに等しいか否かを判定する。等しい場合、処理はS405に進み、等しくない場合(即ち、後述する図5の処理により切り出しサイズを変更中の場合)、処理はS413に進む。   In step S404, the cutout size setting unit 205 determines whether the currently set cutout size is equal to the target size. If they are equal, the process proceeds to S405. If they are not equal (that is, the cutout size is being changed by the process of FIG. 5 described later), the process proceeds to S413.

S405で、切り出しサイズ設定部205は、再生中の単位画像よりも所定の時間後に再生される単位画像の撮像時のビデオカメラ100の振れの大きさ(即ち、S401で取得した期間の最後の振幅)を取得する。そして、切り出しサイズ設定部205は、振幅が閾値よりも大きいか否かを判定する。大きい場合、処理はS409に進み、そうでない場合、処理はS406に進む。   In step S405, the cut-out size setting unit 205 determines the magnitude of the shake of the video camera 100 at the time of capturing a unit image that is reproduced after a predetermined time from the unit image being reproduced (that is, the last amplitude of the period acquired in step S401). ) To get. Then, the cutout size setting unit 205 determines whether or not the amplitude is larger than the threshold value. If so, the process proceeds to S409; otherwise, the process proceeds to S406.

S406で、切り出しサイズ設定部205は、現在の目標サイズ=「大」であるか否かを判定する。現在の目標サイズ=「大」であれば、目標サイズの変更は不要であるので、本フローチャートの処理は終了する。そうでなければ、処理はS407に進み、切り出しサイズ設定部205は、目標サイズ=「大」に設定する。このように、振れが比較的小さい場合は、切り出しサイズを最終的に大きくするために、目標サイズ=「大」に設定される。   In step S <b> 406, the cutout size setting unit 205 determines whether the current target size = “large”. If the current target size is “large”, it is not necessary to change the target size, and the processing of this flowchart ends. Otherwise, the process proceeds to S407, and the cut-out size setting unit 205 sets target size = “large”. Thus, when the shake is relatively small, the target size is set to “large” in order to finally increase the cutout size.

一方、S405において振幅が閾値よりも大きいと判定された場合、S409で、切り出しサイズ設定部205は、現在の目標サイズ=「小」であるか否かを判定する。現在の目標サイズ=「小」であれば、目標サイズの変更は不要であるので、本フローチャートの処理は終了する。そうでなければ、処理はS410に進み、切り出しサイズ設定部205は、目標サイズ=「小」に設定する。このように、振れが比較的大きい場合は、切り出しサイズを最終的に小さくして大きいぶれを補正可能にするために、目標サイズ=「小」に設定される。   On the other hand, when it is determined in S405 that the amplitude is larger than the threshold value, in S409, the cut-out size setting unit 205 determines whether or not the current target size is “small”. If the current target size is “small”, it is not necessary to change the target size, and the processing of this flowchart ends. Otherwise, the process proceeds to S410, and the cut-out size setting unit 205 sets target size = “small”. As described above, when the shake is relatively large, the target size is set to “small” in order to finally reduce the cut-out size so that large blur can be corrected.

なお、S405、S406、S407、S409、及びS410などの説明において、閾値は1つだけであり、目標サイズは「大」又は「小」の2種類だけである。しかしながら、再生中の単位画像よりも所定の時間後に再生される単位画像の撮像時のビデオカメラ100の振れが大きいほど目標サイズが小さくなり、振れが小さいほど目標サイズが大きくなれば、閾値の数やそれに対応する目標サイズの種類はいくつであってもよい。   In the description of S405, S406, S407, S409, and S410, there is only one threshold value, and the target size is only two types, “large” and “small”. However, if the shake of the video camera 100 at the time of capturing a unit image to be played back after a predetermined time is larger than the unit image being played back, the target size becomes smaller, and if the target size becomes larger as the shake is smaller, the number of thresholds And any number of types of target sizes corresponding thereto.

S404で「NO」と判定された場合、即ち、切り出しサイズを変更中の場合、S413で、切り出しサイズ設定部205は、現在設定されている切り出しサイズが目標サイズよりも大きいか否かを判定する。切り出しサイズが目標サイズよりも大きい場合は、後述するS503で切り出しサイズを縮小中である場合である。この場合、本フローチャートの処理は終了する。これにより、切り出しサイズの縮小中に目標サイズが変更されることが防止され、切り出しサイズの拡大・縮小が頻繁に切り替わって映像の視認性が低下することが防止される。一方、切り出しサイズが目標サイズよりも大きくない場合は、後述するS504で切り出しサイズを拡大中である場合である。この場合、大きなぶれ補正が不可能になるので、振れの大きさを確認し、大きい場合は切り出しサイズの拡大中であっても縮小に切り替える必要がある。そこで、処理はS414に進む。   If “NO” is determined in S404, that is, if the cutout size is being changed, the cutout size setting unit 205 determines whether or not the currently set cutout size is larger than the target size in S413. . The case where the cutout size is larger than the target size is a case where the cutout size is being reduced in S503 described later. In this case, the processing of this flowchart ends. This prevents the target size from being changed during the reduction of the cutout size, and prevents the video visibility from being lowered due to frequent switching of the cutout size. On the other hand, when the cutout size is not larger than the target size, it is a case where the cutout size is being enlarged in S504 described later. In this case, since large blur correction is impossible, it is necessary to check the size of the shake, and when it is large, it is necessary to switch to reduction even when the cutout size is being enlarged. Therefore, the process proceeds to S414.

S414で、切り出しサイズ設定部205は、S405と同様に振幅が閾値よりも大きいか否かを判定する。大きい場合、処理はS409に進み、S409では必ず「NO」と判定されるため、最終的に処理はS410に進み、目標サイズ=「小」に設定され、比較的大きなぶれの補正が可能になる。そうでない場合、本フローチャートの処理は終了する。   In S414, the cut-out size setting unit 205 determines whether the amplitude is larger than the threshold value as in S405. If it is larger, the process proceeds to S409, and in S409, it is always determined “NO”. Therefore, the process finally proceeds to S410, the target size is set to “small”, and a relatively large blur can be corrected. . Otherwise, the process of this flowchart ends.

図5は、図3のS308における切り出しサイズ変更処理の詳細を示すフローチャートである。S501で、切り出しサイズ設定部205は、現在設定されている切り出しサイズが目標サイズに等しいか否かを判定する。等しい場合、切り出しサイズの変更は不要であるため、本フローチャートの処理は終了する。等しくない場合、処理はS502に進む。   FIG. 5 is a flowchart showing details of the cut-out size changing process in S308 of FIG. In step S501, the cutout size setting unit 205 determines whether the currently set cutout size is equal to the target size. If they are equal, there is no need to change the cut-out size, so the processing of this flowchart ends. If not equal, the process proceeds to S502.

S502で、切り出しサイズ設定部205は、現在設定されている切り出しサイズが目標サイズよりも大きいか否かを判定する。大きい場合、処理はS503に進み、そうでない場合、処理はS504に進む。   In step S502, the cutout size setting unit 205 determines whether the cutout size currently set is larger than the target size. If so, the process proceeds to S503; otherwise, the process proceeds to S504.

S503で、切り出しサイズ設定部205は、切り出しサイズを1ステップ分小さくする。一方、S504では、切り出しサイズ設定部205は、切り出しサイズを1ステップ分大きくする。ここで、「1ステップ」の大きさは、S405における「所定の時間」の経過後に切り出しサイズが目標サイズに到達するように決定される。換言すれば、目標サイズと切り出しサイズとの差を、再生中の単位画像から所定の時間後に再生される単位画像までの間の単位画像の数で割って得られる商が、1ステップである。   In step S503, the cutout size setting unit 205 decreases the cutout size by one step. On the other hand, in S504, the cutout size setting unit 205 increases the cutout size by one step. Here, the size of “1 step” is determined so that the cut-out size reaches the target size after the “predetermined time” in S405. In other words, the quotient obtained by dividing the difference between the target size and the cut-out size by the number of unit images between the unit image being reproduced and the unit image reproduced after a predetermined time is one step.

以上の処理により、切り出しサイズは徐々に(段階的に)変化するため、画角の急激な変化が抑制され、それに伴う画質の低下も抑制される。   With the above processing, the cut-out size changes gradually (stepwise), so that a sudden change in the angle of view is suppressed, and the accompanying deterioration in image quality is also suppressed.

図8は、振れの大きさの変化に伴う切り出しサイズの変化を示す概念図である。横軸が時間、縦軸が振れを表す。図8には、約3分の映像について、振れの変化が示されている。図8に示すように、大きい、又は小さい振れが発生する時刻よりも少し前から切り出しサイズの縮小又は拡大が開始し、切り出しサイズは徐々に変化する。   FIG. 8 is a conceptual diagram showing a change in cutout size accompanying a change in the magnitude of shake. The horizontal axis represents time, and the vertical axis represents runout. FIG. 8 shows a change in shake for an image of about 3 minutes. As illustrated in FIG. 8, the cutout size starts to be reduced or enlarged slightly before the time when the large or small shake occurs, and the cutout size gradually changes.

以上説明したように、本実施形態によれば、ビデオカメラ100は、映像再生時に、映像を構成する複数の単位画像それぞれについて、単位画像の所定の切り出し位置から所定の切り出しサイズの画像を順次切り出す。そして、ビデオカメラ100は、映像のぶれを補正するように単位画像の切り出し位置を移動させる。また、ビデオカメラ100は、ビデオカメラ100の振れが大きい場合は小さく、小さい場合は大きくなるように、切り出しサイズを変更する。切り出しサイズの変更の際に、ビデオカメラ100は、急激にではなく、徐々に(段階的に)変更を行う。これにより、大きなぶれの補正を可能にすると共に画質の低下を抑制しつつ、映像再生時に映像のぶれを補正することが可能となる。   As described above, according to the present embodiment, the video camera 100 sequentially cuts out images of a predetermined cut-out size from a predetermined cut-out position of the unit image for each of a plurality of unit images constituting the video at the time of video playback. . Then, the video camera 100 moves the cutout position of the unit image so as to correct the image blur. In addition, the video camera 100 changes the cutout size so that the video camera 100 is small when the shake of the video camera 100 is large and large when the shake is small. When changing the cutout size, the video camera 100 changes gradually (stepwise) instead of abruptly. As a result, it is possible to correct blurring during video playback while making it possible to correct large blurring and suppressing deterioration in image quality.

<第2の実施形態>
第1の実施形態では手ぶれが大きい場合と小さい場合の画像の切り出しサイズはそれぞれ一定としていた。本実施形態では、表示装置224に表示される映像の拡大率を手ぶれの大きさに応じて変更するようにしている。また、画像の切り出しサイズを変更中の場合と画像の切り出しサイズを変更中でない場合とで、振れ検出期間を変更している。先読みした手ぶれデータに応じて切り出しサイズを変更することで、不必要な映像の拡大を行うことがなくなり、画質をより向上することができると共に、画角変更中はより長い振れ検出期間を設けることで、画角の変化をより自然にすることが可能となる。そして、手ぶれを十分に補正した良好な再生画像を提供することが可能となる。
<Second Embodiment>
In the first embodiment, the cutout size of the image when the camera shake is large and when the camera shake is small is constant. In the present embodiment, the enlargement ratio of the video displayed on the display device 224 is changed according to the size of camera shake. Further, the shake detection period is changed between when the image cutout size is being changed and when the image cutout size is not being changed. By changing the cut-out size according to the pre-read camera shake data, unnecessary image enlargement can be avoided, image quality can be improved, and a longer shake detection period should be provided while changing the angle of view. Thus, the change in the angle of view can be made more natural. In addition, it is possible to provide a good reproduced image in which camera shake is sufficiently corrected.

本発明の第2の実施形態におけるビデオカメラ100の構成は、第1の実施形態と同様であるため、構成の詳細な説明は省略する(図1及び図2参照)。以下、第1の実施形態との相違点について詳細に説明する。図9は、第2の実施形態に係る映像データ再生処理の流れを示すフローチャートである。第1の実施例と同様に、ビデオカメラ100が映像データの再生を開始すると本フローチャートの処理が開始する。   Since the configuration of the video camera 100 according to the second embodiment of the present invention is the same as that of the first embodiment, detailed description of the configuration is omitted (see FIGS. 1 and 2). Hereinafter, differences from the first embodiment will be described in detail. FIG. 9 is a flowchart showing a flow of video data reproduction processing according to the second embodiment. Similar to the first embodiment, when the video camera 100 starts reproducing the video data, the processing of this flowchart starts.

S901で、振れデータ取得部204は、メタデータ読み出し部203を介して、映像データの再生開始点から先の所定期間分の振れデータを取得する。S902で、切り出しサイズ設定部205は、S901で取得された振れデータが表す振れの振幅をチェックする。S903で、切り出しサイズ設定部205は、S902でチェックした振幅に応じた切り出しサイズ(切り出しサイズの初期値)を設定する。切り出しサイズ設定部205は内部に複数の閾値を有し、各閾値と振れの振幅とに基づいて、切り出しサイズの初期値を決定する。ここでの閾値は、切り出し可能な最大サイズから最小サイズ、例えば補正角度換算0.5度から2度の間を0.1度ずつに区切った値となる。切り出しサイズ設定部205はまた、図3のS304及びS305の場合と同様、目標サイズ=「切り出しサイズ」に設定する。   In step S <b> 901, the shake data acquisition unit 204 acquires shake data for a predetermined period from the playback start point of the video data via the metadata reading unit 203. In step S902, the cutout size setting unit 205 checks the amplitude of the shake represented by the shake data acquired in step S901. In step S903, the cutout size setting unit 205 sets a cutout size (initial value of the cutout size) corresponding to the amplitude checked in step S902. The cutout size setting unit 205 has a plurality of threshold values therein, and determines an initial value of the cutout size based on each threshold value and the amplitude of shake. The threshold value here is a value obtained by dividing the maximum size that can be cut out to the minimum size, for example, a correction angle conversion of 0.5 to 2 degrees in increments of 0.1 degrees. The cutout size setting unit 205 also sets target size = “cutout size” as in the case of S304 and S305 in FIG.

次にS904で、ビデオカメラ100は、図3のS306と同様にぶれ補正を伴う映像再生を行う。具体的には、切り出し位置設定部202は、動きベクトル検出部201が検出した動きベクトルに基づき、映像のぶれを補正するように切り出し位置を決定(移動)して画像処理部223に設定する。画像処理部223は、単位画像の設定された切り出し位置から、S903で設定された切り出しサイズの画像を切り出し、切り出した画像を表示装置224に出力する。   In step S <b> 904, the video camera 100 performs video reproduction with blur correction, similar to step S <b> 306 in FIG. 3. Specifically, the cutout position setting unit 202 determines (moves) the cutout position and sets the cutout position in the image processing unit 223 so as to correct the image blur based on the motion vector detected by the motion vector detection unit 201. The image processing unit 223 cuts out the image of the cut-out size set in S903 from the cut-out position where the unit image is set, and outputs the cut-out image to the display device 224.

S905では、振れデータ取得部204は、再度所定期間分の振れデータを取得(メタデータ読み出し部203を介して現在の再生時点から先の所定期間分の振れデータを取得)する。ここでの所定期間は、最初は通常期間、すなわち前述のように0.5秒であるが、後述のS909での設定に応じて変化することになる。   In step S <b> 905, the shake data acquisition unit 204 acquires the shake data for a predetermined period again (acquires shake data for a predetermined period from the current playback time via the metadata reading unit 203). The predetermined period is initially a normal period, that is, 0.5 seconds as described above, but changes according to the setting in S909 described later.

S906で、切り出しサイズ設定部205は、S905で取得された振れデータから振れの振幅をチェックする。S907で、切り出しサイズ設定部205は、ビデオカメラ100がパンニング中かどうかの判定を行い、パンニング中であれば処理はS904に戻る(即ち、第1の実施形態同様、切り出しサイズの変更等は行われない)。パンニング中でなければ、処理はS908に進む。S908で、切り出しサイズ設定部205は、再生中の単位画像よりも所定の時間後に再生される単位画像の撮像時のビデオカメラ100の振れの大きさに基づいて目標サイズを決定する。この目標サイズ決定方法は、S903における切り出しサイズの初期値の設定方法と同様である(即ち、複数の閾値を使用して、現在の振れ振幅に最も適した目標サイズが決定される)。   In step S906, the cutout size setting unit 205 checks the amplitude of the shake from the shake data acquired in step S905. In step S907, the cutout size setting unit 205 determines whether or not the video camera 100 is panning. If panning is in progress, the process returns to step S904 (that is, the cutout size is changed as in the first embodiment). Not) If panning is not in progress, the process proceeds to S908. In step S908, the cut-out size setting unit 205 determines a target size based on the amount of shake of the video camera 100 at the time of capturing a unit image that is reproduced after a predetermined time from the unit image being reproduced. This target size determination method is the same as the setting method of the initial value of the cutout size in S903 (that is, the target size most suitable for the current shake amplitude is determined using a plurality of threshold values).

S909で、振れデータ取得部204は、現在の切り出しサイズの変更状況に応じてタイムコード設定部206により読み出しアドレス設定部207を操作し、振れデータを取得する所定期間を変更する。所定期間の変更方法については、図10を参照して後述する。   In step S909, the shake data acquisition unit 204 operates the read address setting unit 207 using the time code setting unit 206 according to the current cut size change status, and changes the predetermined period for acquiring the shake data. A method for changing the predetermined period will be described later with reference to FIG.

S910での処理は図3のS308の動作、すなわち図5の処理と全く同じであり、S908で目標サイズが変化しなければ、目標サイズに到達するまで切り出しサイズが徐々に変化する。   The processing in S910 is exactly the same as the operation in S308 in FIG. 3, that is, the processing in FIG. 5. If the target size does not change in S908, the cutout size gradually changes until the target size is reached.

図10は振れデータを取得する所定期間設定処理の詳細を示すフローチャートである。S1001で、振れデータ取得部204は、切り出しサイズが目標サイズと等しいかどうかの判定を行う。サイズが等しい場合は、S1002で振れデータ取得部204は、所定期間(データ取得期間)を通常期間に設定する。一方、切り出しサイズと目標サイズが違う場合は、切り出しサイズが変化している状態である。この場合、S1003で振れデータ取得部204は、タイムコード設定部206により、所定期間を長時間に設定する。ここでの「長時間」は、メタデータが存在することが前提であるため、メモリ222の容量により変化するが、切り出しサイズの反転が目立ち難い5秒〜10秒が望ましい。このように所定期間を設定して本フローチャートの処理は終了する。   FIG. 10 is a flowchart showing details of a predetermined period setting process for acquiring shake data. In step S1001, the shake data acquisition unit 204 determines whether the cutout size is equal to the target size. When the sizes are equal, the shake data acquisition unit 204 sets a predetermined period (data acquisition period) as a normal period in S1002. On the other hand, when the cutout size and the target size are different, the cutout size is changing. In this case, the shake data acquisition unit 204 sets the predetermined period to a long time by the time code setting unit 206 in S1003. The “long time” here is premised on the existence of metadata, and therefore varies depending on the capacity of the memory 222, but it is preferably 5 seconds to 10 seconds, where the reversal of the cutout size is not noticeable. In this way, the predetermined period is set and the processing of this flowchart ends.

図11は、S1003により所定期間が「長時間」に設定された場合の所定期間中の振れデータの変化を示している。この図からもわかるように、所定期間が長ければ、振れの状態のうち、この先の期間中に突発的に振れが大きくなったかどうかが確認しやすくなる。そのため、切り出しサイズを急に反転させなければならない状況をより回避しやすくなる。その結果、画角変化の発生確率を減らすことが可能となり、再生画像をより見やすくすることが可能となる。   FIG. 11 shows a change in shake data during a predetermined period when the predetermined period is set to “long time” in S1003. As can be seen from this figure, if the predetermined period is long, it is easy to confirm whether or not the shake has suddenly increased during the following period of the shake state. Therefore, it becomes easier to avoid the situation where the cutout size must be suddenly reversed. As a result, it is possible to reduce the probability of occurrence of a change in the angle of view and make it easier to see the reproduced image.

ところで、図10においては、切り出しサイズ変更中は所定期間を「長時間」とし、切り出しサイズを変更していない場合は所定期間を短くした。しかし、切り出しサイズを小さくする場合においては、画像のケラレが発生することはない。そこで、図10に示した制御例の他にも、図12に示すように、データ取得期間(所定期間)を、切り出しサイズを大きくする場合のみ「長時間」とすることも可能である。これは、切り出しサイズを小さくする場合は大きくする場合に比べて映像に欠けが生じる可能性が小さいためであり、切り出しサイズを大きくする場合に比べて所定期間を短くすることで処理負荷を軽減できる。図12において、図10と同一又は同様の処理が行われるステップには同一の符号を付し、説明を省略する。S1203で、振れデータ取得部204は、切り出しサイズが目標サイズよりも大きいかどうかを判定する。切り出しサイズが目標サイズよりも大きい場合は、現在切り出しサイズを縮小中であるため、処理はS1002に進む。一方、切り出しサイズが目標サイズよりも小さい場合は、S1204で振れデータ取得部204は、所定期間を「長時間」に設定する。このように、データ取得期間(所定期間)を、切り出しサイズを大きくする場合のみ「長時間」に設定しても構わない。   In FIG. 10, the predetermined period is set to “long time” while the cutout size is changed, and the predetermined period is shortened when the cutout size is not changed. However, when the cutout size is reduced, image vignetting does not occur. Therefore, in addition to the control example shown in FIG. 10, as shown in FIG. 12, the data acquisition period (predetermined period) can be set to “long time” only when the cutout size is increased. This is because when the cutout size is reduced, the possibility of chipping in the video is less than when the cutout size is increased, and the processing load can be reduced by shortening the predetermined period compared to when the cutout size is increased. . In FIG. 12, steps in which the same or similar processes as those in FIG. 10 are performed are denoted by the same reference numerals and description thereof is omitted. In step S1203, the shake data acquisition unit 204 determines whether the cutout size is larger than the target size. If the cutout size is larger than the target size, since the cutout size is currently being reduced, the process proceeds to S1002. On the other hand, if the cut-out size is smaller than the target size, the shake data acquisition unit 204 sets the predetermined period to “long time” in S1204. Thus, the data acquisition period (predetermined period) may be set to “long time” only when the cutout size is increased.

以上説明したように、本実施形態によれば、ビデオカメラ100は、映像再生時に、映像を構成する複数の単位画像それぞれについて、単位画像の所定の切り出し位置から所定の切り出しサイズの画像を順次切り出す。そして、ビデオカメラ100は、映像のぶれを補正するように単位画像の切り出し位置を移動させる。また、ビデオカメラ100は、ビデオカメラ100の振れの大きさに応じて切り出しサイズを変更するとともに、切り出しサイズの変更中は、振れの大きさの変化を将来にわたった長時間監視することで、切り出しサイズの変更をよりなめらかに行うことができる。これにより、大きなぶれの補正を可能にすると共に画質の低下を抑制しつつ、映像再生時に映像のぶれを補正することが可能となる。   As described above, according to the present embodiment, the video camera 100 sequentially cuts out images of a predetermined cut-out size from a predetermined cut-out position of the unit image for each of a plurality of unit images constituting the video at the time of video playback. . Then, the video camera 100 moves the cutout position of the unit image so as to correct the image blur. In addition, the video camera 100 changes the cutout size in accordance with the shake size of the video camera 100, and during the change of the cutout size, by monitoring the change in the shake size for a long time in the future, The cutout size can be changed more smoothly. As a result, it is possible to correct blurring during video playback while making it possible to correct large blurring and suppressing deterioration in image quality.

[その他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
[Other Embodiments]
The present invention can also be realized by executing the following processing. That is, software (program) that realizes the functions of the above-described embodiments is supplied to a system or apparatus via a network or various storage media, and a computer (or CPU, MPU, or the like) of the system or apparatus reads the program. It is a process to be executed.

Claims (7)

撮像装置によって撮像された映像を表す映像データと、当該映像の撮像時の当該撮像装置の振れを表す振れデータと、を取得する取得手段と、
前記映像データを再生する再生手段であって、前記映像を構成する複数の単位画像それぞれについて前記単位画像の所定の切り出し位置から所定の切り出しサイズの画像を順次切り出す再生手段と、
前記再生手段による前記映像データの再生中に、前記映像のぶれを補正するように前記所定の切り出し位置を移動させる移動手段と、
前記振れデータから得られる、前記再生手段で再生中の単位画像よりも所定の時間後に再生される単位画像の撮像時の前記撮像装置の振れの大きさに基づいて、当該振れが大きいほど小さく当該振れが小さいほど大きくなるように前記切り出しサイズの目標サイズを決定する決定手段と、
前記再生手段による前記映像データの再生中に、前記所定の切り出しサイズが前記目標サイズに徐々に近づくように前記所定の切り出しサイズを変更する変更手段と、
を備えることを特徴とする映像再生装置。
Acquisition means for acquiring video data representing video captured by the imaging device and shake data representing shake of the imaging device at the time of imaging the video;
Replaying means for replaying the video data, replaying means for sequentially cutting out images of a predetermined cutout size from a predetermined cutout position of the unit image for each of a plurality of unit images constituting the video;
Moving means for moving the predetermined cutout position so as to correct blur of the video during playback of the video data by the playback means;
Based on the magnitude of shake of the imaging device at the time of imaging a unit image that is obtained from the shake data and is reproduced after a predetermined time from the unit image being reproduced by the reproduction means, the larger the shake, the smaller Determining means for determining a target size of the cut-out size so that the smaller the shake is,
Changing means for changing the predetermined cutout size so that the predetermined cutout size gradually approaches the target size during the reproduction of the video data by the reproduction means;
A video playback apparatus comprising:
前記決定手段は、現在の前記切り出しサイズが現在の前記目標サイズよりも大きい間は、次の前記目標サイズの決定を行わない
ことを特徴とする請求項1に記載の映像再生装置。
The video reproducing apparatus according to claim 1, wherein the determination unit does not determine the next target size while the current cut-out size is larger than the current target size.
前記決定手段は、前記再生手段で再生中の単位画像の撮像時から前記所定の時間後までの期間の前記振れデータが前記撮像装置でパンニングが行われたということを示す場合、前記目標サイズの決定を行わない
ことを特徴とする請求項1又は2に記載の映像再生装置。
When the shake data during a period from the time of capturing the unit image being played back by the playback means to the time after the predetermined time indicates that the panning has been performed by the imaging device, the determining means The video playback apparatus according to claim 1, wherein no determination is made.
前記決定手段は、前記変更手段が前記切り出しサイズを変更中である場合は、前記切り出しサイズを変更中でない場合よりも、前記所定の時間を長く設定する
ことを特徴とする請求項1乃至3のいずれか1項に記載の映像再生装置。
4. The determination unit according to claim 1, wherein the determination unit sets the predetermined time longer when the cutout size is being changed than when the cutout size is not being changed. The video playback device according to any one of the preceding claims.
前記決定手段は、前記変更手段が前記切り出しサイズを大きくするように変更中である場合は、前記切り出しサイズを小さくするように変更中である場合及び前記切り出しサイズを変更中でない場合よりも、前記所定の時間を長く設定する
ことを特徴とする請求項1乃至3のいずれか1項に記載の映像再生装置。
When the changing means is changing so as to increase the cutout size, the determining means is more preferable than when changing the cutout size and when not changing the cutout size. The video playback device according to any one of claims 1 to 3, wherein the predetermined time is set longer.
映像再生装置の制御方法であって、
取得手段が、撮像装置によって撮像された映像を表す映像データと、当該映像の撮像時の当該撮像装置の振れを表す振れデータと、を取得する取得工程と、
再生手段が、前記映像データを再生する再生工程であって、前記映像を構成する複数の単位画像それぞれについて前記単位画像の所定の切り出し位置から所定の切り出しサイズの画像を順次切り出す再生工程と、
移動手段が、前記再生工程における前記映像データの再生中に、前記映像のぶれを補正するように前記所定の切り出し位置を移動させる移動工程と、
決定手段が、前記振れデータから得られる、前記再生工程で再生中の単位画像よりも所定の時間後に再生される単位画像の撮像時の前記撮像装置の振れの大きさに基づいて、当該振れが大きいほど小さく当該振れが小さいほど大きくなるように前記切り出しサイズの目標サイズを決定する決定工程と、
変更手段が、前記再生工程における前記映像データの再生中に、前記所定の切り出しサイズが前記目標サイズに徐々に近づくように前記所定の切り出しサイズを変更する変更工程と、
を備えることを特徴とする制御方法。
A method for controlling a video playback device, comprising:
An acquisition step in which the acquisition unit acquires video data representing video captured by the imaging device and shake data representing shake of the imaging device during imaging of the video;
A reproduction step of reproducing the video data, wherein a reproduction step of sequentially cutting out images of a predetermined cut-out size from a predetermined cut-out position of the unit image for each of a plurality of unit images constituting the video;
A moving step of moving the predetermined cutout position so as to correct blur of the video during playback of the video data in the playback step;
Based on the magnitude of the shake of the imaging device at the time of capturing the unit image that is obtained from the shake data and is acquired after a predetermined time from the unit image that is being reproduced in the reproduction step. A determination step of determining a target size of the cut-out size so that the larger the smaller and the smaller the shake is,
A changing step of changing the predetermined cutout size so that the predetermined cutout size gradually approaches the target size during reproduction of the video data in the reproduction step;
A control method comprising:
コンピュータを請求項1に記載の映像再生装置の各手段として機能させるためのプログラム。   The program for functioning a computer as each means of the video reproduction apparatus of Claim 1.
JP2010183385A 2010-08-18 2010-08-18 Video playback apparatus and control method thereof Expired - Fee Related JP5597061B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010183385A JP5597061B2 (en) 2010-08-18 2010-08-18 Video playback apparatus and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010183385A JP5597061B2 (en) 2010-08-18 2010-08-18 Video playback apparatus and control method thereof

Publications (2)

Publication Number Publication Date
JP2012044418A true JP2012044418A (en) 2012-03-01
JP5597061B2 JP5597061B2 (en) 2014-10-01

Family

ID=45900217

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010183385A Expired - Fee Related JP5597061B2 (en) 2010-08-18 2010-08-18 Video playback apparatus and control method thereof

Country Status (1)

Country Link
JP (1) JP5597061B2 (en)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014187482A (en) * 2013-03-22 2014-10-02 Casio Comput Co Ltd Image processing device, image processing method and program
JP2014204342A (en) * 2013-04-05 2014-10-27 株式会社Jvcケンウッド Imaging apparatus and imaging method
JP2014207507A (en) * 2013-04-11 2014-10-30 カシオ計算機株式会社 Image processing device, image processing method, and program
JP2015201709A (en) * 2014-04-07 2015-11-12 富士通株式会社 Imaging apparatus and imaging processing program
JP2016072663A (en) * 2014-09-26 2016-05-09 キヤノン株式会社 Image reproducing device, image reproducing method, program and imaging apparatus
JP2016119724A (en) * 2016-03-25 2016-06-30 カシオ計算機株式会社 Dynamic image photographing device, dynamic image shaking correction method, and program
US9628712B2 (en) 2013-03-22 2017-04-18 Casio Computer Co., Ltd. Image processing device, image processing method, and storage medium
US9712747B2 (en) 2015-05-18 2017-07-18 Axis Ab Method and camera for producing an image stabilized video
US10425614B2 (en) 2017-04-14 2019-09-24 Canon Kabushiki Kaisha Moving image reproduction apparatus having function of correcting camera shake during moving image reproduction, method of controlling the same, and storage medium
US11949986B2 (en) 2020-05-27 2024-04-02 Vivo Mobile Communication Co., Ltd. Anti-shake method, anti-shake apparatus, and electronic device

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07203279A (en) * 1993-12-28 1995-08-04 Hitachi Ltd Image pickup device
JP2007208849A (en) * 2006-02-03 2007-08-16 Casio Comput Co Ltd Moving picture reproducing device and its program
JP2007300581A (en) * 2006-05-08 2007-11-15 Casio Comput Co Ltd Moving image photographing apparatus and moving image photographing program
JP2008199520A (en) * 2007-02-15 2008-08-28 Casio Comput Co Ltd Animation playback apparatus, animation playback method and program
JP2009077093A (en) * 2007-09-20 2009-04-09 Hitachi Ltd Information recording and reproducing device, information recording method, and information reproducing method
WO2009054333A1 (en) * 2007-10-23 2009-04-30 Sony Corporation Video reproduction device and video reproduction method
JP2009152802A (en) * 2007-12-19 2009-07-09 Canon Inc Video processing apparatus, video processing system, video processing method, and program
JP2010124065A (en) * 2008-11-17 2010-06-03 Victor Co Of Japan Ltd Device for correcting image blur

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07203279A (en) * 1993-12-28 1995-08-04 Hitachi Ltd Image pickup device
JP2007208849A (en) * 2006-02-03 2007-08-16 Casio Comput Co Ltd Moving picture reproducing device and its program
JP2007300581A (en) * 2006-05-08 2007-11-15 Casio Comput Co Ltd Moving image photographing apparatus and moving image photographing program
JP2008199520A (en) * 2007-02-15 2008-08-28 Casio Comput Co Ltd Animation playback apparatus, animation playback method and program
JP2009077093A (en) * 2007-09-20 2009-04-09 Hitachi Ltd Information recording and reproducing device, information recording method, and information reproducing method
WO2009054333A1 (en) * 2007-10-23 2009-04-30 Sony Corporation Video reproduction device and video reproduction method
JP2009152802A (en) * 2007-12-19 2009-07-09 Canon Inc Video processing apparatus, video processing system, video processing method, and program
JP2010124065A (en) * 2008-11-17 2010-06-03 Victor Co Of Japan Ltd Device for correcting image blur

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014187482A (en) * 2013-03-22 2014-10-02 Casio Comput Co Ltd Image processing device, image processing method and program
US9628712B2 (en) 2013-03-22 2017-04-18 Casio Computer Co., Ltd. Image processing device, image processing method, and storage medium
JP2014204342A (en) * 2013-04-05 2014-10-27 株式会社Jvcケンウッド Imaging apparatus and imaging method
JP2014207507A (en) * 2013-04-11 2014-10-30 カシオ計算機株式会社 Image processing device, image processing method, and program
JP2015201709A (en) * 2014-04-07 2015-11-12 富士通株式会社 Imaging apparatus and imaging processing program
JP2016072663A (en) * 2014-09-26 2016-05-09 キヤノン株式会社 Image reproducing device, image reproducing method, program and imaging apparatus
US9712747B2 (en) 2015-05-18 2017-07-18 Axis Ab Method and camera for producing an image stabilized video
JP2016119724A (en) * 2016-03-25 2016-06-30 カシオ計算機株式会社 Dynamic image photographing device, dynamic image shaking correction method, and program
US10425614B2 (en) 2017-04-14 2019-09-24 Canon Kabushiki Kaisha Moving image reproduction apparatus having function of correcting camera shake during moving image reproduction, method of controlling the same, and storage medium
US11949986B2 (en) 2020-05-27 2024-04-02 Vivo Mobile Communication Co., Ltd. Anti-shake method, anti-shake apparatus, and electronic device

Also Published As

Publication number Publication date
JP5597061B2 (en) 2014-10-01

Similar Documents

Publication Publication Date Title
JP5597061B2 (en) Video playback apparatus and control method thereof
JP2009038649A (en) Signal processing circuit and imaging apparatus
JPWO2009098877A1 (en) Image processing apparatus and image processing method
JP2007208849A (en) Moving picture reproducing device and its program
JP2010233028A (en) Moving image recording apparatus, moving image tilt correction method, and program
JP2004310585A (en) Image processor, method, program, and storage medium
US8068144B2 (en) Image recording and reproducing apparatus
JP2009152802A (en) Video processing apparatus, video processing system, video processing method, and program
JP2009152672A (en) Recording apparatus, reproducing apparatus, recording method, reproducing method, and program
JP2008205915A (en) Imaging apparatus, imaging method, and program
JP2007067708A (en) Imaging apparatus and method of forming image by it
JP2006287744A (en) Image processing method and device therefor
JP6995490B2 (en) Video playback device and its control method and program
JP2005303492A (en) Imaging apparatus
JP2006352227A (en) Imaging apparatus
JP2018074523A (en) Imaging device, control method thereof, program, and recording medium
JP2012151708A (en) Imaging device
JP5332668B2 (en) Imaging apparatus and subject detection program
JP2017220800A (en) Reproduction device, control method thereof, and program
JP2008160274A (en) Motion vector detection method, its apparatus and its program, electronic hand-blur correction method, its apparatus and its program, as well as imaging apparatus
JP2018011098A (en) Video processing apparatus, imaging apparatus and video processing program
JP2010062905A (en) Imaging device and program
JP2006041861A (en) Imaging device and image generation method therefor
JP2010028734A (en) Image processing unit
JP6708495B2 (en) Video processing device, imaging device, and video processing program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130730

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140407

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140425

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140620

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140714

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140808

R151 Written notification of patent or utility model registration

Ref document number: 5597061

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees