JP2015192227A - Imaging apparatus, control method thereof, and program - Google Patents
Imaging apparatus, control method thereof, and program Download PDFInfo
- Publication number
- JP2015192227A JP2015192227A JP2014066803A JP2014066803A JP2015192227A JP 2015192227 A JP2015192227 A JP 2015192227A JP 2014066803 A JP2014066803 A JP 2014066803A JP 2014066803 A JP2014066803 A JP 2014066803A JP 2015192227 A JP2015192227 A JP 2015192227A
- Authority
- JP
- Japan
- Prior art keywords
- time code
- frame
- frame rate
- image data
- moving image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
Abstract
Description
本発明は、撮像装置およびその制御方法、ならびにプログラムに関し、特に動画像の記録を行う撮像装置およびその制御方法ならびにプログラムに関する。 The present invention relates to an imaging apparatus, a control method therefor, and a program, and more particularly to an imaging apparatus that records a moving image, a control method therefor, and a program.
ビデオカメラ等、動画像を記録可能な撮像装置の性能は、向上の一途をたどり、単位時間当たりに記録可能な情報量が増大している。これにより例えばHD(High Definition)や4K(4096×2160画素)解像度の画像を記録したり、再生フレームレートより高いフレームレートでの記録が実現されている。 The performance of an imaging apparatus capable of recording a moving image such as a video camera is constantly improving, and the amount of information that can be recorded per unit time is increasing. Thereby, for example, an HD (High Definition) or 4K (4096 × 2160 pixel) resolution image is recorded, or recording at a frame rate higher than the reproduction frame rate is realized.
動画像を通常再生(いわゆる1倍速再生)にて視聴する際のフレームレートは、フィルム映画を起源とする24フレーム/秒、テレビ放送規格に基づく29.97フレーム/秒、近年のデジタルテレビ等により対応が進む60フレーム/秒等がある。これに対して、再生時より高いフレームレートで撮像ならびに記録する技術(オーバークランク撮影)が知られている。例えば240フレーム/秒等の高いフレームレートで動画像を記録し、フレームレートを下げてスロー再生を行うことにより、人間の目では視認困難な短時間で発生する現象を視認しやすくする効果がある。 The frame rate for viewing a moving image in normal playback (so-called 1 × speed playback) is 24 frames / second originating from a film movie, 29.97 frames / second based on the TV broadcasting standard, and recent digital televisions, etc. There are 60 frames / second, etc., for which the correspondence proceeds. On the other hand, a technique (overcrank shooting) that captures and records images at a higher frame rate than that during reproduction is known. For example, by recording a moving image at a high frame rate such as 240 frames / second and performing slow playback at a low frame rate, it is possible to easily recognize a phenomenon that occurs in a short time that is difficult for human eyes to see. .
また、高フレームレートの動画像を圧縮する方法として、階層符号化が知られている。階層符号化では、高フレームレートの動画像は例えば、基本階層データ、第1階層データ、第2階層データに階層化されて符号化される。このように階層符号化により符号化された動画像を復号する際に、復号する階層を制御することにより異なるフレームレートの復号動画像を得ることができる。例えば、基本階層データのみを復号すると低フレームレート、基本階層データ、第1階層データおよび第2階層データを復号すると高フレームレートの復号動画像が得られる。 Hierarchical coding is known as a method for compressing a high frame rate moving image. In hierarchical encoding, a moving image having a high frame rate is encoded by being layered into basic hierarchical data, first hierarchical data, and second hierarchical data, for example. When decoding a moving image encoded by hierarchical encoding in this way, it is possible to obtain decoded moving images having different frame rates by controlling the decoding hierarchy. For example, when only the basic layer data is decoded, a decoded moving image with a low frame rate is obtained and when a basic layer data, the first layer data, and the second layer data are decoded, a high frame rate decoded moving image is obtained.
ところで、ビデオカメラ等の撮像装置では、撮影した動画像に対してタイムコードを付加して記録する(特許文献1)。一般的に、このタイムコードはSMPTE(Society of Motion Picture and Television Engineers)で規格化されたものが用いられている。タイムコードは時間、分、秒、フレームで構成されており、30フレームまで歩進されるフレームと、Field identification flagを活用することにより60フレーム/秒のフレームレートを上限としてタイムコードを付加できる。 By the way, in an imaging apparatus such as a video camera, a time code is added to a recorded moving image and recorded (Patent Document 1). Generally, the time code standardized by SMPTE (Society of Motion Picture and Television Engineers) is used. The time code is composed of hours, minutes, seconds, and frames, and a time code can be added up to a frame rate of 60 frames / second by using a frame stepped up to 30 frames and a field identification flag.
上述したように、現在一般的に用いられているSMPTEの規格に準拠したタイムコードでは、フレームに個別のタイムコードを付与可能なフレームレートの上限が60フレーム/秒である。そのため、60フレーム/秒より高いフレームレートで撮影された動画像には、同じタイムコードを有するフレームが複数存在することになる。 As described above, in the time code conforming to the SMPTE standard that is generally used at present, the upper limit of the frame rate at which an individual time code can be assigned to a frame is 60 frames / second. Therefore, there are a plurality of frames having the same time code in a moving image shot at a frame rate higher than 60 frames / second.
本発明は、上述の従来技術の問題点に鑑みてなされたものであり、複数フレームに同じタイムコードが付加されるフレームレートの動画像に、各フレームに重複のないタイムコードを付加可能な撮像装置、制御方法およびプログラムを提供することを目的とする。 The present invention has been made in view of the above-described problems of the prior art, and is capable of adding a time code that does not overlap each frame to a moving image having a frame rate in which the same time code is added to a plurality of frames. An object is to provide an apparatus, a control method, and a program.
この課題を解決するため、例えば本発明の撮像装置は以下の構成を備える。すなわち、動画像の各フレームに対し、固有のタイムコードを生成する生成手段と、各フレームの画像データと、タイムコードとを出力する出力手段と、を有する撮像装置であって、生成手段は、予め定められた形式のタイムコードと、識別情報とから構成される形式を有するタイムコードであって、動画像の各フレームに固有の予め定められた形式のタイムコードが同一となるフレームに対しては、識別情報を異ならせたタイムコードを生成することを特徴とする。 In order to solve this problem, for example, an imaging apparatus of the present invention has the following configuration. That is, for each frame of a moving image, an imaging device having a generation unit that generates a unique time code, an output unit that outputs image data of each frame, and a time code, and the generation unit includes: A time code having a format composed of a time code in a predetermined format and identification information, and a frame having a same time code in a predetermined format unique to each frame of the moving image Is characterized in that it generates a time code with different identification information.
本発明によれば、複数フレームに同じタイムコードが付加されるフレームレートの動画像に、各フレームに重複のないタイムコードを付加することが可能になる。 According to the present invention, it is possible to add a time code that does not overlap each frame to a moving image having a frame rate in which the same time code is added to a plurality of frames.
(実施形態1)
以下、本発明の例示的な実施形態について、図面を参照して詳細に説明する。なお、以下では撮像装置の一例としてのデジタルビデオカメラに本発明を適用した例を説明する。しかし、本発明はデジタルビデオカメラに限らず、動画像を記録または再生が可能な任意の機器にも適用可能である。これらの機器には、例えば携帯電話機、ゲーム機、タブレット端末、パーソナルコンピュータなどが含まれてよい。
(Embodiment 1)
Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the drawings. Hereinafter, an example in which the present invention is applied to a digital video camera as an example of an imaging apparatus will be described. However, the present invention is not limited to a digital video camera and can be applied to any device capable of recording or reproducing a moving image. These devices may include, for example, mobile phones, game machines, tablet terminals, personal computers, and the like.
(1 デジタルビデオカメラの構成)
図1は、本実施形態の撮像装置の一例としてデジタルビデオカメラ100の機能構成例を示すブロック図である。なお、図1に示す機能ブロックの1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよいし、CPUやMPU等のプログラマブルプロセッサがソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。従って、以下の説明において、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現されうる。
(1 Configuration of digital video camera)
FIG. 1 is a block diagram illustrating a functional configuration example of a
図1に示す各機能ブロックは制御部101に接続され、制御部101は、各構成部は互いにデータの受送信を行って、デジタルビデオカメラ100のシステム全体を制御する。制御部101はROM104に記録されたプログラムをRAM105に展開して実行することにより、各構成部を制御するとともに、後述する動画像に対するタイムコードの生成に係る処理を実行する。
Each functional block shown in FIG. 1 is connected to a
ROM104は、不揮発性の記録媒体であり、制御部101が実行するプログラムを記憶している。RAM105は、制御部101のワークメモリとして用いられる揮発性の記録媒体である。また、RAM105は、撮像部102で撮像し、画像処理部103により画像処理された画像データを、表示部106で表示する際に一時格納するためにも用いられる。
The
撮像部102は、撮影レンズ(ズームレンズとフォーカスレンズを含む)と撮像素子とを有し、制御部101による制御に基づいて被写体を撮像し、静止画データあるいは動画像データを出力する。撮像素子は、光電変換素子を有する画素が複数、2次元配置された構成を有し、撮影レンズにより結像された被写体光学像を各画素で光電変換するイメージセンサである。
The
画像処理部103は、撮像部102が出力する画像データに対して、所定の画素補間、補正処理、リサイズ処理や色変換処理等の画像処理を行う。また、画像処理部103は、画像データに対して所定の演算処理を実行して、制御部101へ演算結果を出力する。制御部101は得られた演算結果に基づいて撮像部102に対する各種制御(露光制御、オートホワイトバランス制御など)を行う。また、画像処理部103は、画像処理を施した画像データを画像圧縮部108に出力する。
The
表示部106は、制御部101による制御に基づいて、各種設定状態や、撮像部102で撮像されている画像(ライブビュー画像や記録中の動画像)あるいは記録媒体110から再生された画像データを表示する。後述するように、表示部106は、再生された画像データを表示する際に、タイムコードも表示することができる。表示部106は、例えば、覗き込み形のファインダー内のディスプレイや、バリアングルの液晶モニタなどとして構成される。
The
操作部107は、デジタルビデオカメラ100に電源を供給するための電源スイッチや、撮影開始ボタン、モード切替ボタンなどを含み、フレームレート等の撮像や記録に関する各種設定に対するユーザからの操作を例えばメニュー画面等を通じて受け付ける。なお操作部107にはタッチパネルが含まれてもよく、タッチパネルが操作部107に含まれる場合、制御部107はフリック、ドラッグなど、公知のタッチ操作を検出可能に構成される。タッチパネルは抵抗膜方式や静電容量方式、表面弾性波方式、赤外線方式、電磁誘導方式、画像認識方式、光センサ方式等、様々な方式のうちいずれの方式のものを用いても良い。
The
画像圧縮部108は、制御部101による制御に基づいて、画像処理部103により画像処理された画像データを、所定の方式で圧縮し、制御部101へ出力する。制御部101は圧縮画像データを後述する方法で生成したタイムコードと共に記録媒体接続部109に出力する。また、画像圧縮部108は、圧縮画像データを伸長する機能を備え、制御部101による制御に基づいて、記録媒体110から読み出された圧縮画像データを伸長して制御部101へ出力する。
Based on the control by the
なお、本発明と直接関係しないため説明を省略するが、実際には、画像に加えて音声についても取得、記録を行う。音声データは例えばマイクを用いて取得し、制御部101が所定の方式で圧縮符号化することができる。
Although description is omitted because it is not directly related to the present invention, in practice, sound is acquired and recorded in addition to images. The audio data can be acquired using, for example, a microphone, and the
記録媒体接続部109は、着脱可能な記録媒体110を装着するための接続部である。記録媒体接続部109は、制御部107出力された圧縮画像データとタイムコード(および必要に応じて音声データ)を、制御部107の制御に従って記録媒体110に記録する。また、記録媒体接続部109は制御部107の制御に従って記録媒体110から読み出したデータを制御部107に出力する。着脱可能な記録媒体110は、例えば不揮発性半導体メモリカードであってよい。
The recording
(2 タイムコードの生成処理の概要)
次に、本実施形態において制御部107が実行するタイムコードの生成処理の概要について説明する。現在一般的に用いられているタイムコードの形式の一例としては、例えばSMPTEにおいて規格化されているVITC(Vertical Interval Time Code)の構成を図2(a)に示す。VITCは、時(HH)200、分(MM)201、秒(SS)202、フレーム(FF)203、およびField identification(FI)フラグ(f)204からなる。そして、時は0〜24、分は0〜59、秒は0〜59、フレームは0〜29、FIフラグは0〜1の各値をとることができる。
(2 Overview of time code generation processing)
Next, an outline of a time code generation process executed by the
上述のように、60フレーム/秒を超えるフレームレートを有する動画像に対してこのタイムコードを付加した場合、同一のタイムコードが複数のフレームに割り当てられてしまう。本実施形態ではこのようなタイムコードの重複を防ぐため、タイムコードの構成を拡張する。 As described above, when this time code is added to a moving image having a frame rate exceeding 60 frames / second, the same time code is assigned to a plurality of frames. In this embodiment, in order to prevent such duplication of time codes, the configuration of time codes is expanded.
図2(b)は、本実施形態におけるタイムコードの拡張構成をVITCに適用した例を示す。本実施形態では、時200、分201、秒202、フレーム203、およびFIフラグの末尾に識別情報となるindex300を付加する。indexは、例えば、0〜255までの値をとって循環する数値であり、図2の構成で重複するタイムコードがある場合に0からカウントアップされる。
FIG. 2B shows an example in which the extended configuration of the time code in this embodiment is applied to VITC. In the present embodiment, an
上述の形式で規定される拡張されたタイムコードは、例えば複数のフレームレートで再生可能な動画像に付加することができる。例えば本実施形態では、60フレーム/秒より高いフレームレートを含む、例えばHEVC規格に基づく階層構造を有する動画像に対してタイムコードを付加する。階層符号化された動画像における再生するレイヤーの指定を変更することにより、階層符号化された動画像を再生する際の再生フレームレートを動的に変更することが可能である。このため、タイムコードは、再生あるいは伝送するフレームレートに同期しない形で付加される必要がある。そこで、フレーム203として重複する値が割り当てられる区間のフレームに対しては、制御部101はindexの値を0からカウントアップすることで、各フレームに固有のタイムコードを生成する。
The extended time code defined in the above format can be added to a moving image that can be played back at a plurality of frame rates, for example. For example, in the present embodiment, a time code is added to a moving image having a hierarchical structure based on, for example, the HEVC standard, including a frame rate higher than 60 frames / second. By changing the designation of the layer to be reproduced in the hierarchically encoded moving image, it is possible to dynamically change the reproduction frame rate when reproducing the hierarchically encoded moving image. For this reason, the time code needs to be added in a form that is not synchronized with the frame rate to be reproduced or transmitted. Therefore, the
付加されるタイムコードをより具体的に説明するために、本実施形態におけるタイムコードを付加可能な動画像のデータの構造の一例として、HEVC規格に基づく階層符号化の施された動画像データの構造を説明する。図3(a)において、401乃至417はそれぞれが1フレームの画像データを示し、420乃至424は符号化階層(レイヤー)を示している。420〜424はそれぞれレイヤー0(temporal_id=0)からレイヤー4(temporal_id=4)を示している。temporal_idとは、HEVC規格にて各レイヤーを指定する値の名称である。レイヤー0が最下位レイヤーであり、レイヤー4が最上位レイヤーである。
In order to describe the time code to be added more specifically, as an example of the structure of moving image data to which the time code can be added in the present embodiment, the moving image data subjected to hierarchical encoding based on the HEVC standard is described. The structure will be described. In FIG. 3A, 401 to 417 each indicate image data of one frame, and 420 to 424 indicate an encoding hierarchy (layer). Reference numerals 420 to 424 respectively denote layer 0 (temporal_id = 0) to layer 4 (temporal_id = 4). “temporal_id” is a name of a value that designates each layer in the HEVC standard.
画像データ401および417は、temporal_id=0、即ちレイヤー0 420に属する画像データである。画像データ409は、temporal_id=1、即ちレイヤー1 421に属する画像データである。画像データ405、413は、temporal_id=2、すなわちレイヤー2 422に属する画像データである。画像データ403、407、411、415は、temporal_id=3、すなわちレイヤー3 423に属する画像データである。画像データ402、404、406、408、410、412、414、416は、temporal_id=4、すなわちレイヤー4 424に属する画像データである。そして、各レイヤーに属する画像データは、画像圧縮部108によって、そのレイヤーに対応した圧縮率で圧縮符号化されている。このような階層構造を有する動画像は、最下位レイヤーのみの再生から順次上位レイヤーを再生対象に加えることによって再生レイヤー数を増やすことにより、動的に再生フレームレートを変更することができる。
本実施形態のようにレイヤー0からレイヤー4の5階層の構造を有する動画像データは、5段階の再生フレームレート指定が可能である。例えば、レイヤー0の再生フレームレートを15フレーム/秒とした場合、レイヤー0 420のみを再生対象として指定すると、画像データ401、417のみが再生対象となり、15フレーム/秒のフレームレートで再生される。レイヤー1 421以下を再生対象として指定した場合、画像データ401、417に加えて画像データ409が再生対象となり、再生フレームレートは30フレーム/秒となる。レイヤー2 422以下を再生対象として指定した場合、画像データ405、413が再生対象に追加され、再生フレームレートは60フレーム/秒となる。以下同様に、レイヤー3 423以下を再生対象として指定した場合には、再生フレームレートは120フレーム/秒となる。レイヤー4 424以下、即ち全レイヤー420〜424を再生対象として指定した場合には、画像データ401から画像データ417までの全てが再生対象となり、再生フレームレートは240フレーム/秒となる。
As in this embodiment, the moving image data having a five-layer structure from
次に図3(a)の(各フレームの)画像データ401〜417に付加するタイムコードの例について、図3(b)を参照して説明する。例えばレイヤー4 424以下を再生対象として指定して240フレーム/秒で再生するものとする。レイヤー2 422以下の画像データは60フレーム/秒であるので、制御部101は、再生対象となるフレームの画像データ401、405、409、413、417に対し、各フレームに対応したタイムコードを割り当てる。ここで、図2(b)に示したindex300には0を設定する。例えば、制御部101は、画像データ401には00:00:00:00.0.0、画像データ405には00:00:00:00.1.0、画像データ409には00:00:00:01.0.0のタイムコードを生成する。さらに制御部101は、画像データ413には00:00:00:01.1.0、画像データ417には00:00:00:02.0.0のタイムコードを生成する。
Next, an example of a time code added to the
一方、レイヤー3およびレイヤー4の画像データはそれぞれ120フレーム/秒、240フレーム/秒の再生フレームレートに対応する。このため、レイヤー2以下の画像データに割り当てられたタイムコードにおける時間200、分201、秒202、フレーム203、FI204の値が重複する。例えば画像データ402、画像データ403、画像データ404は、画像データ401と00:00:00:00.0の部分が重複する。この場合、制御部101は、index300の値をカウントアップする。即ち、制御部101は、画像データ402には00:00:00:00.0.1、画像データ403は00.00.00.00.0.2、画像データ404は00:00:00:00.0.3のタイムコードを生成する。さらに、例えば画像データ405などのレイヤー2以下の画像データについてタイムコードが生成される場合、制御部101は、00:00:00:00.1.0のようにindexをリセットするとともにFIフラグの異なるタイムコードを生成する。
On the other hand, the image data of
(3 タイムコードの生成処理)
上述した制御部101のタイムコードの生成処理を図4に示すフローチャートを用いて説明する。本処理は、操作部107により、ユーザからの記録開始の指示があった場合に実行される。
(3 Time code generation process)
The above-described time code generation processing of the
S100において制御部101は、画像圧縮部108から新しいフレームが取得されたかを判断する。制御部101は、新しいフレームが取得されたと判断された場合は処理をS101に進める。一方、まだ取得されていないと判断された場合、制御部101は新しいフレームが取得されるまで処理を待つ。
In step S <b> 100, the
S101において制御部101は、予め設定されているベースフレームレート(以下Fb)を例えばROM104から取得する。ベースフレームレートは、タイムコードのフレーム(FF)のフレーム番号が桁上がりするフレームレートを規定し、一般に24フレーム/秒か30フレーム/秒であるが、これに限定されない。本実施形態において、記録フレームレートは、ベースフレームレートの整数倍であるものとする。
In S101, the
S102において制御部101は、予め設定されている記録フレームレート(以下Fr)を例えばROM104から取得する。FbおよびFrは、固定値でも良いし、ユーザが操作部107を通じて設定できるようにしてもよい。制御部101は、Frを取得すると処理をS103へ進める。
In S102, the
S103において制御部101は、タイムコードにおけるindexの値を制御する必要があるかどうかを判定する。ここでは、記録フレームレートFrがベースフレームレートFbの2倍より大きいかどうか(Fb*2<Fr)によって、判定を行っている。制御部101は、Fb*2<Frであれば処理をS104に進め、Fb*2≧FrであればS109へ処理を進める。
In S103, the
S104において制御部101は、FrをFbで除算してindexのカウント数の最大値Imax=Fr/Fbを求める。なお、本フローチャートではindexは0から始まる値としているため、Imax=(Fr/Fb)−1となる。制御部101は求めたImaxを設定して処理をS105へ進める。S105において制御部101は、indexの数を1増加させる。さらにS106において制御部101は、indexとImaxを比較してindexがImax以上かを判断する。制御部101は、indexの値がImax以上と判断した場合は、処理をS107に進めてindexを0にリセットした後、S108でタイムコードの歩進処理を行う。タイムコードの歩進処理については図5を用いて後述する。一方、indexがImaxより小さいと判断した場合、制御部101は、タイムコードの歩進処理をスキップして処理をS111へ進める。
In S104, the
一方、S103でindexの制御が不要と判断された場合、制御部はS109においてindexを0に設定した後、S110においてS108と同様のタイムコードの歩進処理を行う。 On the other hand, if it is determined in S103 that the index control is unnecessary, the control unit sets the index to 0 in S109, and then performs a time code step process similar to S108 in S110.
S108またはS110でタイムコードの歩進処理を行った後、制御部101はS111において歩進処理で得られたタイムコード(HH:MM:SS:FF)にFIフラグおよびindexを付加し、処理対象のフレームに設定するタイムコードを確定する。制御部101は、処理対象フレームの画像データと、確定したタイムコードとを、記録媒体接続部109を介して記録媒体110に記録する。この記録形式については後述する。
After performing the time code stepping process in S108 or S110, the
S112において制御部101は、処理対象のフレームが最後のフレームであるか否かを、例えば画像データのヘッダ情報に基づいて判断し、処理対象のフレームが最後のフレームと判定されれば本フローチャートの処理を終える。制御部101は、処理対象のフレームが最後のフレームでは無いと判断したときは、処理をS100へ戻す。
In S112, the
次に、図4のS105およびS110で行うタイムコードの歩進処理について、図5のフローチャートを用いてさらに説明する。 Next, the time code stepping process performed in S105 and S110 of FIG. 4 will be further described with reference to the flowchart of FIG.
S200において制御部101は、タイムコードにおけるFIフラグの制御が必要かどうかを、ここでは、書き込みフレームレートFrがベースフレームレートFbの2倍以上かどうかによって判断する。制御部101はFrがFbの2倍以上であるときは、FIフラグの制御が必要と判断して処理をS201へ進め、FrがFbの2倍より小さいとき(Fr=Fbのとき)はFIフラグの制御は不要と判断して処理をS203に進める。
In S200, the
S201において制御部101は、FIフラグ(Feild indentification flag)が0であるかを判断する。制御部101は、現在のFIフラグの値を確認し、0であれば処理をS202に進め、0でなければ処理をS203へ進める。
In step S <b> 201, the
S202において制御部101は、FIフラグを1に変更し、タイムコードの歩進処理を完了する。
In S202, the
S203において制御部101は、FIフラグを0に設定し、処理をS204へ進める。S204において制御部101は、タイムコードを歩進させる。具体的には制御部101は、図2(b)に示したタイムコードのうちフレーム(FF)203の値を1つ増加させ、タイムコードの歩進処理を終了する。なお、増加前にFF203がFbに相当する値であれば、上位の値(SS202)を1つ増加し、FF203を初期値(0)に戻す桁上がり処理を行う。
In S203, the
次に、このように生成したタイムコードとフレーム画像データを記録するために用いるコンテナ構造について説明する。図6は、本実施形態において使用可能なコンテナ構造の一例としての、MXF(Material eXchange Format)のコンテナ構造を示す。ヘッダ領域であるHeader Metadata600はファイルの開始を示し、ファイルに関するメタ情報が記録されている。制御部101は、階層符号化された画像データの記録において、ベースフレームレート(Fb)、再生可能な最大フレームレート、temporal_idに対応した再生フレームレートの情報をヘッダ領域に記録する。Frame601は各フレームのデータを表し、フレームのメタ情報を格納するSystem Metadata603、画像データ604、音声データ605から構成される。制御部101は、フッタ領域であるFooter Metadata602にファイルの終了を示す情報を記録する。タイムコードはフレームのメタ情報を格納するSystem Metadata603に記録され、タイムコードの時、分、秒、フレーム、Field identification flagはSMPTEに準拠したタイムコードの記録領域に記録される。拡張したindexのデータはSMPTEで規定されているUserBit領域を利用して記録されてもよいし、Reservedの別領域に記録されてもよい。
Next, a container structure used for recording the time code and frame image data generated in this way will be described. FIG. 6 shows a container structure of MXF (Material eXchange Format) as an example of a container structure usable in the present embodiment.
(4 再生時のタイムコードの表示処理)
次に、記録された動画像を再生する際にタイムコードを表示する処理を説明する。
(4 Timecode display processing during playback)
Next, a process for displaying a time code when reproducing a recorded moving image will be described.
上述のように階層符号化された動画像は、複数のフレームレートで再生を行うことが可能である。図3(b)に示したように、タイムコードは記録する際の最大のフレームレートに同期して付加されるため、選択された再生フレームレートによっては記録されたタイムコードを用いると不連続な表示となる場合がある。このため、本実施形態では再生時のフレームレートに応じたフレームレートの比を用いて、タイムコードの表示を変換する。例えば、図3に示したような、レイヤー0〜レイヤー4の5階層で符号化され、最大再生フレームレートが240フレーム/秒の動画像データの、レイヤー3以下のフレームを再生する(即ち120フレーム/秒)場合を考える(図7(a))。この場合、レイヤー4のフレームが再生されないため、再生フレームに対応して記録されたタイムコードをそのまま表示するとタイムコードが不連続となる。そこでフレームレートの比に応じてindexの値を記録された値から変更することで、表示用のタイムコードを生成する。図7(a)の例では、最大再生フレームレートの再生フレームレートに対する比率は2であるため、制御部101は各画像データに対応して記録されたタイムコードのindexを2で除算した値を表示させる。例えば、画像データ701に対応して記録されたタイムコードは00:00:00:00.0.2であるが、表示タイムコードは00:00:00:00.0.1として表示される。また、再生フレームレートがベースフレームレートよりも低い場合にも同様にフレームの表示についてフレームレートの比を用いた変換を行ってもよい。
A moving image that is hierarchically encoded as described above can be reproduced at a plurality of frame rates. As shown in FIG. 3B, since the time code is added in synchronization with the maximum frame rate at the time of recording, depending on the selected playback frame rate, the recorded time code may be discontinuous. It may be displayed. For this reason, in the present embodiment, the display of the time code is converted using a frame rate ratio corresponding to the frame rate at the time of reproduction. For example, as shown in FIG. 3, frames of
さらに再生時のタイムコードの表示処理を図8のフローチャートを用いて説明する。本処理は、制御部101が、操作部107からユーザによる動画像ファイルに対する操作指示を受けた時点から開始される。
Further, the display processing of the time code at the time of reproduction will be described using the flowchart of FIG. This process is started when the
S300において制御部101は、ユーザによる操作指示が動画像ファイルの再生を開始させる指示かどうかを判断する。制御部101は、操作部107から通知されたデータを参照して該操作指示が再生を指示するものである場合、対象となるファイルの格納場所等の情報を取得して処理をS301へ進める。一方、制御部101は、該操作指示が再生開始の指示でない場合、処理をS300に戻して再び再生開始の指示を待つ。
In step S300, the
S301において制御部101は、再生対象となるファイルを読み込んで、該ファイルのヘッダに記載されるFbの値を取得する。
In step S <b> 301, the
S302において制御部101は、新しいフレームが読み込まれたかを判断する。制御部101は、新しいフレームが読み込まれた場合はS303へ処理を進め、新しいフレームが読み込まれていない場合、処理をS302に戻してフレームが読み込まれるのを待つ。
In step S302, the
S303において制御部101は、予め設定されている再生フレームレート(以下Fp)を例えばROM104から取得する。Fpは、再生されたファイルのヘッダから現在再生されているレイヤーのtemporal_idより対応する再生フレームレートを取得しても良いし、固定値あるいはユーザが操作部107を介して設定した値でもよい。制御部101は、Fpを取得すると、S304へ処理を進める。
In step S <b> 303, the
S304において制御部101は、表示の処理の対象がフレーム(FF)であるかindexであるかを判定するため、ここではFbがFp以下であるかを判定する。制御部101は、取得したFbとFpを比較して、FbがFp以下である場合には処理をS305に進め、indexに対する表示の処理を行う。一方、FbがFpより大きい場合には処理をS309へ進めてフレームに対する表示の処理を行う。
In step S304, the
S305において制御部101は、再生されたファイルのヘッダである領域600から最大再生フレームレート(Fmax)を取得する。制御部101は、S306において、最大再生フレームレートFmaxと再生フレームレートFpの比を求めるため、FmaxをFpで除算して得られる商Diを求める。さらにS307において制御部101は、フレームレートの比Diに応じてindexの値を記録された値から変更するため、タイムコードのindexをDiで除算してIdivを求める。制御部101は、処理対象のフレームのメタ情報の領域603からタイムコードを読み出し、取得したタイムコードのindexをS305で求めたDiで除算する。さらにS308において制御部101は、算出したIdivを変更したindexとして表示部106に表示させて、処理をS312へ進める。
In step S305, the
一方、S309において制御部101は、フレーム(FF)を変更するためのフレームレートの比を求めるため、FbをFpで除算してDfを求める。制御部101は、Dfを求めると処理をS310へ進める。S310において制御部101は、フレームのメタ情報の領域603から読み込んだタイムコードのフレーム(FF)の値をフレームレートの比Dfで除算し、その商Fdivを求める。そして、S311において制御部101は、フレーム(FF)の値を記録された値からFdivに変更し、Fdivを表示するタイムコードのフレームの値として表示部106に表示させる。その後制御部101は、処理をS312へ進める。
On the other hand, in S309, the
S312において制御部101は、再生対象となるファイルの再生が終了するか否かを、例えばユーザによる停止指示や画像データのヘッダ情報に基づいて判断する。処理対象のフレームが最後のフレームで無いと判定されれば、制御部101は処理をS302に戻し、再生を終了させる場合、本処理を終了する。
In step S312, the
なお、図7(b)には制御部101が表示部106に表示させた再生時のタイムコードの一例を示す。再生画面に表示されたタイムコード800は、表示された画像データと同期して表示される。表示部106には、現在の再生フレームレートと再生最大フレームレートが合わせて表示される。表示されるタイムコード800は再生用に生成されたタイムコードに限らず、記録されたタイムコードをユーザの選択に応じて切り替えて表示したり、両方を同時に表示してもよい。動画像編集などの用途において記録されたタイムコードを特定する場合に、両タイムコードを切り替えたり同時に表示することで、違和感のない自然な表示用タイムコードを参照しつつ、記録用のタイムコードを特定することができる。
FIG. 7B shows an example of a time code at the time of reproduction displayed on the
以上説明したように本実施形態によれば、FIまでを表示可能なタイムコードにindex(識別情報)を付加したタイムコードを生成する。そのため、FIまでを表示可能なタイムコードでは対応できない(同じタイムコードが割り当てられてしまうフレームが存在する)ようなフレームレートの動画像であっても、各フレームに重複のない固有のタイムコードを生成することができる。また、記録フレームレートに応じてindexの最大値を制御することで、FIまでを表示可能なタイムコードで対応できない記録フレームレートの範囲で段階的に選択される場合であっても、各フレームに重複のない固有のタイムコードを生成することができる。さらに、規格化されたタイムコードを識別情報で拡張した形式としているため、識別情報を認識できない装置はFIまでを表示可能なタイムコード部分を従来通り利用できる。 As described above, according to the present embodiment, a time code is generated by adding an index (identification information) to a time code that can display up to FI. Therefore, even with a frame rate moving image that cannot be handled by a time code that can display up to FI (there is a frame to which the same time code is assigned), a unique time code that does not overlap in each frame. Can be generated. In addition, by controlling the maximum value of the index according to the recording frame rate, even if the selection is made step by step within the range of the recording frame rate that cannot be handled by the time code that can display up to FI, A unique time code without duplication can be generated. Furthermore, since the standardized time code is extended with identification information, a device that cannot recognize the identification information can use the time code portion that can display up to FI as usual.
また、識別情報を含むタイムコードが付加された可変フレームレートの動画像を再生する際に、再生フレームレートに応じて識別情報の値を変換して表示することで、再生フレームレートが変更されても連続したタイムコードを表示できる。 Also, when playing back a variable frame rate moving image to which a time code including identification information is added, the playback frame rate is changed by converting and displaying the value of the identification information according to the playback frame rate. Can also display a continuous time code.
(実施形態2)
本発明の実施形態2について説明する。本実施形態のデジタルビデオカメラは、実施形態1に加えて外部機器へ動画像を伝送可能な構成を有し、外部機器へ動画像を伝送する際には外部機器が本実施形態において生成されるタイムコードを利用するための情報(拡張情報)を生成する点が異なる。具体的には、デジタルビデオカメラ9000は、画像伝送部と外部I/Fを新たに有し、生成したタイムコードを出力するための形式に変換して動画像を伝送する。本実施形態の説明では、上記以外の点については実施形態1と共通であるため、重複する説明は省略し、相違点について重点的に説明する。
(Embodiment 2)
A second embodiment of the present invention will be described. The digital video camera of the present embodiment has a configuration capable of transmitting a moving image to an external device in addition to the first embodiment, and when transmitting a moving image to the external device, the external device is generated in the present embodiment. The difference is that information (extended information) for using the time code is generated. Specifically, the
本実施形態における撮像装置の一例としてデジタルビデオカメラ9000の機能構成例を図9に示す。図9において図1と同じ構成要素には同じ参照数字を付して説明を省略する。本実施形態のデジタルビデオカメラ9000は、実施形態1のデジタルビデオカメラ100の構成要素に加えて、画像伝送部9001と外部I/F9002を有する。画像伝送部9001は、制御部101により生成された拡張タイムコードが記録された動画像を伝送に必要な所定の形式に変換する。例えば動画像の伝送規格であるSDI(Serial Digital Interface)を用いる場合、画像伝送部9001は伝送する動画像をSMPTEで規定されている所定のフォーマットに適合させるように変換して、外部I/F9002へ出力する。
An example of the functional configuration of a
外部I/F9002は、外部機器と接続するためのインタフェースである。外部I/F9002は、制御部101による制御に基づいて、画像伝送部9001から取得した動画像を外部機器へ伝送する。
The external I /
次に動画像を外部機器に伝送する際の処理について、図10(a)に示すフローチャートを用いて説明する。 Next, processing when transmitting a moving image to an external device will be described with reference to the flowchart shown in FIG.
S400において制御部101は、実施形態1と同様にして、拡張されたタイムコードを生成し、処理をS401へ進める。なお、S400で行うタイムコード生成処理は図4のフローチャートに示した処理のうちS100からS111に相当する。
In step S400, the
S401において制御部101は、伝送先の外部機器が拡張タイムコードを利用するための拡張情報を生成する。
In step S <b> 401, the
拡張情報およびその構成の一例を図10(b)に示す。ここでは拡張情報は32ビットのデータである。0から7ビットの領域905は、index領域であり、この拡張情報が付加される画像データのタイムコードを拡張するindexの値が格納される。8から15ビットの領域904は、ベースフレームレートFbに対する外部機器の再生フレームレートFpの比率(Fp/Fb)を格納する領域である。また16から23ビットの領域903は、Fbに対する、撮像時に予め設定されている最大フレームレートFmaxの比率(Fmax/Fb)が格納される領域である。24から25ビットの領域902は、Fbが格納される領域である。26ビットの領域901は、領域903および904に格納されている比率がFbを分母とした比率なのか分子とした比率なのかを示すフラグが格納される領域である。27から31ビットの領域はリザーブである。FmaxのFbに対する比率およびFpのFbに対する比率を伝送することで、伝送先の外部機器が実施形態1で説明した拡張タイムコードに対応している場合に、外部機器が動画像データを記録する際のImaxや再生する際のDi等を算出可能となる。上述の拡張情報は一例であり、ビット長やデータの割り当ては異なってもよい。制御部101は、これらの拡張情報を、予め設定されている情報や外部機器から取得した情報に基づいて生成することができる。制御部101は、生成した拡張情報を画像伝送部9001へ出力する。
An example of the extended information and its configuration is shown in FIG. Here, the extended information is 32-bit data. A 0 to 7-
S402において画像伝送部9001は、制御部101の指示により、伝送するフレームの画像データに制御部101から取得したタイムコードと拡張情報とを付加して外部機器へ伝送する。SDIの例では、拡張情報はBinary Group(User Bit)の領域に重畳して送ることができる。
In step S <b> 402, the
S403において制御部101は、伝送した画像データが最後のフレームの画像データであるか否かを判断して、最後のフレームでない場合はS400に処理を戻し、最後のフレームである場合には本処理を終了する。
In step S403, the
以上説明したように本実施形態によれば、複数フレームに同じタイムコードが付加される動画像に対して生成された、各フレームに重複のないタイムコードを利用する外部機器に対して、該タイムコードを利用するための拡張情報を生成して伝送する。このため、外部機器において複数フレームに同じタイムコードが付加される動画像を記録および再生する場合であっても、各フレームに重複のないタイムコードを利用することができる。 As described above, according to the present embodiment, the time is generated for an external device that uses a time code that does not overlap each frame generated for a moving image in which the same time code is added to a plurality of frames. Generate and transmit extended information to use the code. For this reason, even when a moving image in which the same time code is added to a plurality of frames is recorded and reproduced in an external device, a time code having no overlap in each frame can be used.
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
(Other embodiments)
The present invention can also be realized by executing the following processing. That is, software (program) that realizes the functions of the above-described embodiments is supplied to a system or apparatus via a network or various storage media, and a computer (or CPU, MPU, or the like) of the system or apparatus reads the program. It is a process to be executed.
101…制御部、102…撮像部、103…画像処理部、106…表示部、108…画像圧縮部
DESCRIPTION OF
Claims (11)
前記各フレームの画像データと、前記タイムコードとを出力する出力手段と、
を有する撮像装置であって、
前記生成手段は、予め定められた形式のタイムコードと、識別情報とから構成される形式を有するタイムコードであって、前記動画像の各フレームに固有の前記予め定められた形式のタイムコードが同一となるフレームに対しては、前記識別情報を異ならせたタイムコードを生成することを特徴とする撮像装置。 Generating means for generating a unique time code for each frame of the moving image;
Output means for outputting the image data of each frame and the time code;
An imaging device having
The generation means is a time code having a format composed of a time code in a predetermined format and identification information, and the time code in the predetermined format unique to each frame of the moving image is An image pickup apparatus that generates time codes with different identification information for the same frames.
前記生成手段は、前記符号化された各フレームに対し、前記識別情報を異ならせたタイムコードを生成することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。 Encoding means for encoding each frame in a format in which the moving image composed of each frame can be reproduced at a different frame rate;
The imaging device according to claim 1, wherein the generation unit generates a time code in which the identification information is different for each encoded frame.
前記取得したタイムコードを表示のために変換する変換手段と、
前記変換されたタイムコードと前記画像データとを表示する表示手段と、
をさらに有し、
前記変換手段は、前記画像データの再生フレームレートよりも前記動画像の再生可能な最大のフレームレートの方が高い場合、再生する前記画像データの前記タイムコードが有する前記識別情報を前記再生フレームレートに応じて変換することを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。 Obtaining means for obtaining the image data and the time code of each frame output by the output means;
Conversion means for converting the acquired time code for display;
Display means for displaying the converted time code and the image data;
Further comprising
When the maximum frame rate at which the moving image can be reproduced is higher than the reproduction frame rate of the image data, the conversion means uses the identification information included in the time code of the image data to be reproduced as the reproduction frame rate. The imaging apparatus according to claim 1, wherein conversion is performed in accordance with.
前記変換手段は、前記再生フレームレートよりも前記動画像を再生可能な最大のフレームレートの方が高い場合、前記再生するフレームレートに対する前記再生可能な最大のフレームレートの比率を用いて前記識別情報を除算することにより、前記取得したタイムコードを前記識別情報の連続したタイムコードに変換することを特徴とする請求項6に記載の撮像装置。 The generating means uses a circulating numerical value as the identification information,
When the maximum frame rate at which the moving image can be reproduced is higher than the reproduction frame rate, the conversion means uses the ratio of the maximum reproducible frame rate to the frame rate to reproduce the identification information. The imaging apparatus according to claim 6, wherein the acquired time code is converted into a continuous time code of the identification information by dividing.
前記伝送手段は、前記識別情報を有する前記タイムコードを用いて前記外部機器が前記画像データを再生または記録するための拡張情報であって、前記外部機器の再生フレームレートに基づく拡張情報をさらに前記外部機器に伝送することを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。 The image data and the time code further have a transmission means for transmitting to an external device,
The transmission means is extended information for the external device to reproduce or record the image data using the time code having the identification information, and further includes extended information based on a reproduction frame rate of the external device. The imaging apparatus according to claim 1, wherein the imaging apparatus transmits to an external device.
出力手段が、前記各フレームの画像データと、前記タイムコードとを出力する出力工程と、
を有する撮像装置の制御方法であって、
前記生成手段は、前記生成工程において予め定められた形式のタイムコードと、識別情報とから構成される形式を有するタイムコードであって、前記動画像の各フレームに固有の前記予め定められた形式のタイムコードが同一となるフレームに対しては、前記識別情報を異ならせたタイムコードを生成することを特徴とする撮像装置の制御方法。 A generating step for generating a unique time code for each frame of the moving image;
An output unit that outputs the image data of each frame and the time code;
A method for controlling an imaging apparatus having:
The generating means is a time code having a format composed of a time code of a predetermined format in the generating step and identification information, and the predetermined format unique to each frame of the moving image A method of controlling an image pickup apparatus, comprising: generating time codes with different identification information for frames having the same time code.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014066803A JP2015192227A (en) | 2014-03-27 | 2014-03-27 | Imaging apparatus, control method thereof, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014066803A JP2015192227A (en) | 2014-03-27 | 2014-03-27 | Imaging apparatus, control method thereof, and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015192227A true JP2015192227A (en) | 2015-11-02 |
Family
ID=54426436
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014066803A Pending JP2015192227A (en) | 2014-03-27 | 2014-03-27 | Imaging apparatus, control method thereof, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015192227A (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019019842A1 (en) * | 2017-07-27 | 2019-01-31 | 中兴通讯股份有限公司 | Image processing method, corresponding apparatus, and storage medium |
US11089212B2 (en) | 2019-02-27 | 2021-08-10 | Canon Kabushiki Kaisha | Image capture apparatus that records video signal captured at variable frame rate as moving image data, method of controlling same, and storage medium |
-
2014
- 2014-03-27 JP JP2014066803A patent/JP2015192227A/en active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019019842A1 (en) * | 2017-07-27 | 2019-01-31 | 中兴通讯股份有限公司 | Image processing method, corresponding apparatus, and storage medium |
US11089212B2 (en) | 2019-02-27 | 2021-08-10 | Canon Kabushiki Kaisha | Image capture apparatus that records video signal captured at variable frame rate as moving image data, method of controlling same, and storage medium |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6324063B2 (en) | Image reproducing apparatus and control method thereof | |
JP5685732B2 (en) | Video extraction device, program, and recording medium | |
CN107836114B (en) | Data recording apparatus, control method thereof, image pickup apparatus, and computer-readable storage medium | |
KR20080084751A (en) | Information processing apparatus, imaging apparatus, image display control method and computer program | |
US9445085B2 (en) | Imaging apparatus, method for controlling imaging apparatus, and system therefor | |
JP2010074323A (en) | Recording apparatus and method, and recording and playback apparatus and method | |
JP6351212B2 (en) | IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD AND SYSTEM | |
JP2009225361A (en) | Recording device and recording method, and editing device and editing method | |
JP6460783B2 (en) | Image processing apparatus and control method thereof | |
JP2010245856A (en) | Video editing device | |
JP2015192227A (en) | Imaging apparatus, control method thereof, and program | |
JP2019075638A (en) | Image processing device | |
JP6351213B2 (en) | IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD AND SYSTEM | |
JP6594485B2 (en) | IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD AND SYSTEM | |
JP6602425B2 (en) | IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD AND SYSTEM | |
JP6463967B2 (en) | Imaging apparatus and control method thereof | |
JP2011119934A (en) | Image shooting device and image shooting method | |
KR101480407B1 (en) | Digital image processing apparatus, method for controlling the same and medium of recording the method | |
JP7214538B2 (en) | Imaging device and recording control method | |
JP2013232696A (en) | Recording and reproducing device | |
JP2019145918A (en) | Imaging apparatus, display control device and control method for display control device | |
JP2020065219A (en) | Imaging apparatus and method of controlling the same | |
JP2010263611A (en) | Video photographing apparatus | |
JP4300959B2 (en) | Electronic camera and image editing apparatus and method | |
JP6332963B2 (en) | Image processing apparatus and image processing apparatus control method |