JP2015192227A - Imaging apparatus, control method thereof, and program - Google Patents

Imaging apparatus, control method thereof, and program Download PDF

Info

Publication number
JP2015192227A
JP2015192227A JP2014066803A JP2014066803A JP2015192227A JP 2015192227 A JP2015192227 A JP 2015192227A JP 2014066803 A JP2014066803 A JP 2014066803A JP 2014066803 A JP2014066803 A JP 2014066803A JP 2015192227 A JP2015192227 A JP 2015192227A
Authority
JP
Japan
Prior art keywords
time code
frame
frame rate
image data
moving image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014066803A
Other languages
Japanese (ja)
Inventor
啓行 長谷川
Hiroyuki Hasegawa
啓行 長谷川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014066803A priority Critical patent/JP2015192227A/en
Publication of JP2015192227A publication Critical patent/JP2015192227A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an imaging apparatus capable of adding a time code in which there is no overlap in frames, to a moving image of a frame rate to add the same time code to a plurality of frames.SOLUTION: The imaging apparatus generates a time code that is peculiar for each frame of a moving image, and outputs image data of the frames and the time codes. The imaging apparatus generates a time code having a predetermined format and time codes having formats formed from identification information and for frames of the moving image having the same time code of the predetermined format, the imaging apparatus generates time codes with different identification information.

Description

本発明は、撮像装置およびその制御方法、ならびにプログラムに関し、特に動画像の記録を行う撮像装置およびその制御方法ならびにプログラムに関する。   The present invention relates to an imaging apparatus, a control method therefor, and a program, and more particularly to an imaging apparatus that records a moving image, a control method therefor, and a program.

ビデオカメラ等、動画像を記録可能な撮像装置の性能は、向上の一途をたどり、単位時間当たりに記録可能な情報量が増大している。これにより例えばHD(High Definition)や4K(4096×2160画素)解像度の画像を記録したり、再生フレームレートより高いフレームレートでの記録が実現されている。   The performance of an imaging apparatus capable of recording a moving image such as a video camera is constantly improving, and the amount of information that can be recorded per unit time is increasing. Thereby, for example, an HD (High Definition) or 4K (4096 × 2160 pixel) resolution image is recorded, or recording at a frame rate higher than the reproduction frame rate is realized.

動画像を通常再生(いわゆる1倍速再生)にて視聴する際のフレームレートは、フィルム映画を起源とする24フレーム/秒、テレビ放送規格に基づく29.97フレーム/秒、近年のデジタルテレビ等により対応が進む60フレーム/秒等がある。これに対して、再生時より高いフレームレートで撮像ならびに記録する技術(オーバークランク撮影)が知られている。例えば240フレーム/秒等の高いフレームレートで動画像を記録し、フレームレートを下げてスロー再生を行うことにより、人間の目では視認困難な短時間で発生する現象を視認しやすくする効果がある。   The frame rate for viewing a moving image in normal playback (so-called 1 × speed playback) is 24 frames / second originating from a film movie, 29.97 frames / second based on the TV broadcasting standard, and recent digital televisions, etc. There are 60 frames / second, etc., for which the correspondence proceeds. On the other hand, a technique (overcrank shooting) that captures and records images at a higher frame rate than that during reproduction is known. For example, by recording a moving image at a high frame rate such as 240 frames / second and performing slow playback at a low frame rate, it is possible to easily recognize a phenomenon that occurs in a short time that is difficult for human eyes to see. .

また、高フレームレートの動画像を圧縮する方法として、階層符号化が知られている。階層符号化では、高フレームレートの動画像は例えば、基本階層データ、第1階層データ、第2階層データに階層化されて符号化される。このように階層符号化により符号化された動画像を復号する際に、復号する階層を制御することにより異なるフレームレートの復号動画像を得ることができる。例えば、基本階層データのみを復号すると低フレームレート、基本階層データ、第1階層データおよび第2階層データを復号すると高フレームレートの復号動画像が得られる。   Hierarchical coding is known as a method for compressing a high frame rate moving image. In hierarchical encoding, a moving image having a high frame rate is encoded by being layered into basic hierarchical data, first hierarchical data, and second hierarchical data, for example. When decoding a moving image encoded by hierarchical encoding in this way, it is possible to obtain decoded moving images having different frame rates by controlling the decoding hierarchy. For example, when only the basic layer data is decoded, a decoded moving image with a low frame rate is obtained and when a basic layer data, the first layer data, and the second layer data are decoded, a high frame rate decoded moving image is obtained.

ところで、ビデオカメラ等の撮像装置では、撮影した動画像に対してタイムコードを付加して記録する(特許文献1)。一般的に、このタイムコードはSMPTE(Society of Motion Picture and Television Engineers)で規格化されたものが用いられている。タイムコードは時間、分、秒、フレームで構成されており、30フレームまで歩進されるフレームと、Field identification flagを活用することにより60フレーム/秒のフレームレートを上限としてタイムコードを付加できる。   By the way, in an imaging apparatus such as a video camera, a time code is added to a recorded moving image and recorded (Patent Document 1). Generally, the time code standardized by SMPTE (Society of Motion Picture and Television Engineers) is used. The time code is composed of hours, minutes, seconds, and frames, and a time code can be added up to a frame rate of 60 frames / second by using a frame stepped up to 30 frames and a field identification flag.

特開2013−55590号公報JP 2013-55590 A

上述したように、現在一般的に用いられているSMPTEの規格に準拠したタイムコードでは、フレームに個別のタイムコードを付与可能なフレームレートの上限が60フレーム/秒である。そのため、60フレーム/秒より高いフレームレートで撮影された動画像には、同じタイムコードを有するフレームが複数存在することになる。   As described above, in the time code conforming to the SMPTE standard that is generally used at present, the upper limit of the frame rate at which an individual time code can be assigned to a frame is 60 frames / second. Therefore, there are a plurality of frames having the same time code in a moving image shot at a frame rate higher than 60 frames / second.

本発明は、上述の従来技術の問題点に鑑みてなされたものであり、複数フレームに同じタイムコードが付加されるフレームレートの動画像に、各フレームに重複のないタイムコードを付加可能な撮像装置、制御方法およびプログラムを提供することを目的とする。   The present invention has been made in view of the above-described problems of the prior art, and is capable of adding a time code that does not overlap each frame to a moving image having a frame rate in which the same time code is added to a plurality of frames. An object is to provide an apparatus, a control method, and a program.

この課題を解決するため、例えば本発明の撮像装置は以下の構成を備える。すなわち、動画像の各フレームに対し、固有のタイムコードを生成する生成手段と、各フレームの画像データと、タイムコードとを出力する出力手段と、を有する撮像装置であって、生成手段は、予め定められた形式のタイムコードと、識別情報とから構成される形式を有するタイムコードであって、動画像の各フレームに固有の予め定められた形式のタイムコードが同一となるフレームに対しては、識別情報を異ならせたタイムコードを生成することを特徴とする。   In order to solve this problem, for example, an imaging apparatus of the present invention has the following configuration. That is, for each frame of a moving image, an imaging device having a generation unit that generates a unique time code, an output unit that outputs image data of each frame, and a time code, and the generation unit includes: A time code having a format composed of a time code in a predetermined format and identification information, and a frame having a same time code in a predetermined format unique to each frame of the moving image Is characterized in that it generates a time code with different identification information.

本発明によれば、複数フレームに同じタイムコードが付加されるフレームレートの動画像に、各フレームに重複のないタイムコードを付加することが可能になる。   According to the present invention, it is possible to add a time code that does not overlap each frame to a moving image having a frame rate in which the same time code is added to a plurality of frames.

実施形態1に係る撮像装置の一例としてデジタルビデオカメラの構成例を示すブロック図1 is a block diagram illustrating a configuration example of a digital video camera as an example of an imaging apparatus according to Embodiment 1. FIG. 規格化されているタイムコードの構成と本発明に係る拡張したタイムコードの構成を簡易的に示す図The figure which shows simply the structure of the standardized time code and the structure of the extended time code based on this invention 階層符号化を施した動画像の各フレームと各フレームに付加したタイムコードの例を示す図The figure which shows the example of the time code added to each flame | frame of the moving image which performed hierarchical encoding, and each flame | frame 実施形態1に係るタイムコードを生成する一連の処理を示すフローチャート6 is a flowchart showing a series of processes for generating a time code according to the first embodiment. 実施形態1に係るタイムコードを歩進する一連の処理を示すフローチャート6 is a flowchart showing a series of processes for stepping a time code according to the first embodiment. タイムコードと画像データを記録するためのコンテナ構造の例を示す図The figure which shows the example of the container structure for recording a time code and image data 実施形態1に係る再生時にタイムコードを表示する処理の概要を説明する図The figure explaining the outline | summary of the process which displays a time code at the time of reproduction | regeneration which concerns on Embodiment 1 実施形態1に係る再生時にタイムコードを表示する一連の処理を示すフローチャート7 is a flowchart showing a series of processes for displaying a time code during reproduction according to the first embodiment. 実施形態2に係る撮像装置の一例としてのデジタルビデオカメラの構成例を示すブロック図FIG. 3 is a block diagram illustrating a configuration example of a digital video camera as an example of an imaging apparatus according to a second embodiment. 実施形態2に係る伝送用のタイムコードを生成する一連の処理を示すフローチャートと伝送に用いられる拡張情報の例を示す図The flowchart which shows a series of processes which produce | generate the time code for transmission based on Embodiment 2, and the figure which shows the example of the extended information used for transmission

(実施形態1)
以下、本発明の例示的な実施形態について、図面を参照して詳細に説明する。なお、以下では撮像装置の一例としてのデジタルビデオカメラに本発明を適用した例を説明する。しかし、本発明はデジタルビデオカメラに限らず、動画像を記録または再生が可能な任意の機器にも適用可能である。これらの機器には、例えば携帯電話機、ゲーム機、タブレット端末、パーソナルコンピュータなどが含まれてよい。
(Embodiment 1)
Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the drawings. Hereinafter, an example in which the present invention is applied to a digital video camera as an example of an imaging apparatus will be described. However, the present invention is not limited to a digital video camera and can be applied to any device capable of recording or reproducing a moving image. These devices may include, for example, mobile phones, game machines, tablet terminals, personal computers, and the like.

(1 デジタルビデオカメラの構成)
図1は、本実施形態の撮像装置の一例としてデジタルビデオカメラ100の機能構成例を示すブロック図である。なお、図1に示す機能ブロックの1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよいし、CPUやMPU等のプログラマブルプロセッサがソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。従って、以下の説明において、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現されうる。
(1 Configuration of digital video camera)
FIG. 1 is a block diagram illustrating a functional configuration example of a digital video camera 100 as an example of an imaging apparatus according to the present embodiment. One or more of the functional blocks shown in FIG. 1 may be realized by hardware such as an ASIC or a programmable logic array (PLA), or may be realized by a programmable processor such as a CPU or MPU executing software. May be. Further, it may be realized by a combination of software and hardware. Therefore, in the following description, even when different functional blocks are described as the operation subject, the same hardware can be realized as the subject.

図1に示す各機能ブロックは制御部101に接続され、制御部101は、各構成部は互いにデータの受送信を行って、デジタルビデオカメラ100のシステム全体を制御する。制御部101はROM104に記録されたプログラムをRAM105に展開して実行することにより、各構成部を制御するとともに、後述する動画像に対するタイムコードの生成に係る処理を実行する。   Each functional block shown in FIG. 1 is connected to a control unit 101, and the control unit 101 controls the entire system of the digital video camera 100 by transmitting and receiving data to and from each other. The control unit 101 develops and executes the program recorded in the ROM 104 in the RAM 105, thereby controlling each component and executing processing related to generation of a time code for a moving image, which will be described later.

ROM104は、不揮発性の記録媒体であり、制御部101が実行するプログラムを記憶している。RAM105は、制御部101のワークメモリとして用いられる揮発性の記録媒体である。また、RAM105は、撮像部102で撮像し、画像処理部103により画像処理された画像データを、表示部106で表示する際に一時格納するためにも用いられる。   The ROM 104 is a nonvolatile recording medium and stores a program executed by the control unit 101. The RAM 105 is a volatile recording medium used as a work memory for the control unit 101. The RAM 105 is also used for temporarily storing image data captured by the image capturing unit 102 and processed by the image processing unit 103 when the image data is displayed on the display unit 106.

撮像部102は、撮影レンズ(ズームレンズとフォーカスレンズを含む)と撮像素子とを有し、制御部101による制御に基づいて被写体を撮像し、静止画データあるいは動画像データを出力する。撮像素子は、光電変換素子を有する画素が複数、2次元配置された構成を有し、撮影レンズにより結像された被写体光学像を各画素で光電変換するイメージセンサである。   The imaging unit 102 includes a photographic lens (including a zoom lens and a focus lens) and an imaging element, images a subject based on control by the control unit 101, and outputs still image data or moving image data. The imaging element is an image sensor that has a configuration in which a plurality of pixels each having a photoelectric conversion element are two-dimensionally arranged and photoelectrically converts a subject optical image formed by a photographing lens by each pixel.

画像処理部103は、撮像部102が出力する画像データに対して、所定の画素補間、補正処理、リサイズ処理や色変換処理等の画像処理を行う。また、画像処理部103は、画像データに対して所定の演算処理を実行して、制御部101へ演算結果を出力する。制御部101は得られた演算結果に基づいて撮像部102に対する各種制御(露光制御、オートホワイトバランス制御など)を行う。また、画像処理部103は、画像処理を施した画像データを画像圧縮部108に出力する。   The image processing unit 103 performs image processing such as predetermined pixel interpolation, correction processing, resizing processing, and color conversion processing on the image data output from the imaging unit 102. In addition, the image processing unit 103 performs a predetermined calculation process on the image data and outputs a calculation result to the control unit 101. The control unit 101 performs various controls (exposure control, auto white balance control, etc.) on the imaging unit 102 based on the obtained calculation result. Further, the image processing unit 103 outputs the image data subjected to the image processing to the image compression unit 108.

表示部106は、制御部101による制御に基づいて、各種設定状態や、撮像部102で撮像されている画像(ライブビュー画像や記録中の動画像)あるいは記録媒体110から再生された画像データを表示する。後述するように、表示部106は、再生された画像データを表示する際に、タイムコードも表示することができる。表示部106は、例えば、覗き込み形のファインダー内のディスプレイや、バリアングルの液晶モニタなどとして構成される。   The display unit 106 displays various setting states, images captured by the imaging unit 102 (live view images and moving images being recorded), or image data reproduced from the recording medium 110 based on control by the control unit 101. indicate. As will be described later, the display unit 106 can also display a time code when displaying the reproduced image data. The display unit 106 is configured as, for example, a display in a view-type finder, a vari-angle liquid crystal monitor, or the like.

操作部107は、デジタルビデオカメラ100に電源を供給するための電源スイッチや、撮影開始ボタン、モード切替ボタンなどを含み、フレームレート等の撮像や記録に関する各種設定に対するユーザからの操作を例えばメニュー画面等を通じて受け付ける。なお操作部107にはタッチパネルが含まれてもよく、タッチパネルが操作部107に含まれる場合、制御部107はフリック、ドラッグなど、公知のタッチ操作を検出可能に構成される。タッチパネルは抵抗膜方式や静電容量方式、表面弾性波方式、赤外線方式、電磁誘導方式、画像認識方式、光センサ方式等、様々な方式のうちいずれの方式のものを用いても良い。   The operation unit 107 includes a power switch for supplying power to the digital video camera 100, a shooting start button, a mode switching button, and the like. For example, a menu screen is used for various operations related to imaging and recording such as a frame rate. Accept through etc. The operation unit 107 may include a touch panel. When the touch panel is included in the operation unit 107, the control unit 107 is configured to detect a known touch operation such as flicking and dragging. The touch panel may use any one of various methods such as a resistive film method, a capacitance method, a surface acoustic wave method, an infrared method, an electromagnetic induction method, an image recognition method, and an optical sensor method.

画像圧縮部108は、制御部101による制御に基づいて、画像処理部103により画像処理された画像データを、所定の方式で圧縮し、制御部101へ出力する。制御部101は圧縮画像データを後述する方法で生成したタイムコードと共に記録媒体接続部109に出力する。また、画像圧縮部108は、圧縮画像データを伸長する機能を備え、制御部101による制御に基づいて、記録媒体110から読み出された圧縮画像データを伸長して制御部101へ出力する。   Based on the control by the control unit 101, the image compression unit 108 compresses the image data processed by the image processing unit 103 by a predetermined method, and outputs the compressed data to the control unit 101. The control unit 101 outputs the compressed image data to the recording medium connection unit 109 together with a time code generated by a method described later. The image compression unit 108 has a function of expanding compressed image data, and expands the compressed image data read from the recording medium 110 based on control by the control unit 101 and outputs the compressed image data to the control unit 101.

なお、本発明と直接関係しないため説明を省略するが、実際には、画像に加えて音声についても取得、記録を行う。音声データは例えばマイクを用いて取得し、制御部101が所定の方式で圧縮符号化することができる。   Although description is omitted because it is not directly related to the present invention, in practice, sound is acquired and recorded in addition to images. The audio data can be acquired using, for example, a microphone, and the control unit 101 can perform compression encoding using a predetermined method.

記録媒体接続部109は、着脱可能な記録媒体110を装着するための接続部である。記録媒体接続部109は、制御部107出力された圧縮画像データとタイムコード(および必要に応じて音声データ)を、制御部107の制御に従って記録媒体110に記録する。また、記録媒体接続部109は制御部107の制御に従って記録媒体110から読み出したデータを制御部107に出力する。着脱可能な記録媒体110は、例えば不揮発性半導体メモリカードであってよい。   The recording medium connection unit 109 is a connection unit for mounting the removable recording medium 110. The recording medium connection unit 109 records the compressed image data and time code (and audio data as necessary) output from the control unit 107 on the recording medium 110 according to the control of the control unit 107. Further, the recording medium connection unit 109 outputs data read from the recording medium 110 to the control unit 107 according to the control of the control unit 107. The removable recording medium 110 may be, for example, a nonvolatile semiconductor memory card.

(2 タイムコードの生成処理の概要)
次に、本実施形態において制御部107が実行するタイムコードの生成処理の概要について説明する。現在一般的に用いられているタイムコードの形式の一例としては、例えばSMPTEにおいて規格化されているVITC(Vertical Interval Time Code)の構成を図2(a)に示す。VITCは、時(HH)200、分(MM)201、秒(SS)202、フレーム(FF)203、およびField identification(FI)フラグ(f)204からなる。そして、時は0〜24、分は0〜59、秒は0〜59、フレームは0〜29、FIフラグは0〜1の各値をとることができる。
(2 Overview of time code generation processing)
Next, an outline of a time code generation process executed by the control unit 107 in the present embodiment will be described. As an example of a time code format generally used at present, FIG. 2A shows a configuration of a VITC (Vertical Interval Time Code) standardized in, for example, SMPTE. The VITC includes an hour (HH) 200, a minute (MM) 201, a second (SS) 202, a frame (FF) 203, and a field identification (FI) flag (f) 204. The hour can be 0 to 24, the minute can be 0 to 59, the second can be 0 to 59, the frame can be 0 to 29, and the FI flag can be 0 to 1.

上述のように、60フレーム/秒を超えるフレームレートを有する動画像に対してこのタイムコードを付加した場合、同一のタイムコードが複数のフレームに割り当てられてしまう。本実施形態ではこのようなタイムコードの重複を防ぐため、タイムコードの構成を拡張する。   As described above, when this time code is added to a moving image having a frame rate exceeding 60 frames / second, the same time code is assigned to a plurality of frames. In this embodiment, in order to prevent such duplication of time codes, the configuration of time codes is expanded.

図2(b)は、本実施形態におけるタイムコードの拡張構成をVITCに適用した例を示す。本実施形態では、時200、分201、秒202、フレーム203、およびFIフラグの末尾に識別情報となるindex300を付加する。indexは、例えば、0〜255までの値をとって循環する数値であり、図2の構成で重複するタイムコードがある場合に0からカウントアップされる。   FIG. 2B shows an example in which the extended configuration of the time code in this embodiment is applied to VITC. In the present embodiment, an hour 300, a minute 201, a second 202, a frame 203, and an index 300 serving as identification information are added to the end of the FI flag. The index is a numerical value that circulates, for example, taking a value from 0 to 255, and is counted up from 0 when there are overlapping time codes in the configuration of FIG.

上述の形式で規定される拡張されたタイムコードは、例えば複数のフレームレートで再生可能な動画像に付加することができる。例えば本実施形態では、60フレーム/秒より高いフレームレートを含む、例えばHEVC規格に基づく階層構造を有する動画像に対してタイムコードを付加する。階層符号化された動画像における再生するレイヤーの指定を変更することにより、階層符号化された動画像を再生する際の再生フレームレートを動的に変更することが可能である。このため、タイムコードは、再生あるいは伝送するフレームレートに同期しない形で付加される必要がある。そこで、フレーム203として重複する値が割り当てられる区間のフレームに対しては、制御部101はindexの値を0からカウントアップすることで、各フレームに固有のタイムコードを生成する。   The extended time code defined in the above format can be added to a moving image that can be played back at a plurality of frame rates, for example. For example, in the present embodiment, a time code is added to a moving image having a hierarchical structure based on, for example, the HEVC standard, including a frame rate higher than 60 frames / second. By changing the designation of the layer to be reproduced in the hierarchically encoded moving image, it is possible to dynamically change the reproduction frame rate when reproducing the hierarchically encoded moving image. For this reason, the time code needs to be added in a form that is not synchronized with the frame rate to be reproduced or transmitted. Therefore, the control unit 101 generates a time code unique to each frame by counting up the index value from 0 for a frame in a section to which an overlapping value is assigned as the frame 203.

付加されるタイムコードをより具体的に説明するために、本実施形態におけるタイムコードを付加可能な動画像のデータの構造の一例として、HEVC規格に基づく階層符号化の施された動画像データの構造を説明する。図3(a)において、401乃至417はそれぞれが1フレームの画像データを示し、420乃至424は符号化階層(レイヤー)を示している。420〜424はそれぞれレイヤー0(temporal_id=0)からレイヤー4(temporal_id=4)を示している。temporal_idとは、HEVC規格にて各レイヤーを指定する値の名称である。レイヤー0が最下位レイヤーであり、レイヤー4が最上位レイヤーである。   In order to describe the time code to be added more specifically, as an example of the structure of moving image data to which the time code can be added in the present embodiment, the moving image data subjected to hierarchical encoding based on the HEVC standard is described. The structure will be described. In FIG. 3A, 401 to 417 each indicate image data of one frame, and 420 to 424 indicate an encoding hierarchy (layer). Reference numerals 420 to 424 respectively denote layer 0 (temporal_id = 0) to layer 4 (temporal_id = 4). “temporal_id” is a name of a value that designates each layer in the HEVC standard. Layer 0 is the lowest layer and layer 4 is the highest layer.

画像データ401および417は、temporal_id=0、即ちレイヤー0 420に属する画像データである。画像データ409は、temporal_id=1、即ちレイヤー1 421に属する画像データである。画像データ405、413は、temporal_id=2、すなわちレイヤー2 422に属する画像データである。画像データ403、407、411、415は、temporal_id=3、すなわちレイヤー3 423に属する画像データである。画像データ402、404、406、408、410、412、414、416は、temporal_id=4、すなわちレイヤー4 424に属する画像データである。そして、各レイヤーに属する画像データは、画像圧縮部108によって、そのレイヤーに対応した圧縮率で圧縮符号化されている。このような階層構造を有する動画像は、最下位レイヤーのみの再生から順次上位レイヤーを再生対象に加えることによって再生レイヤー数を増やすことにより、動的に再生フレームレートを変更することができる。   Image data 401 and 417 are image data belonging to temporal_id = 0, that is, layer 0 420. The image data 409 is image data belonging to temporal_id = 1, that is, layer 1 421. The image data 405 and 413 are image data belonging to temporal_id = 2, that is, layer 2 422. Image data 403, 407, 411, and 415 are image data belonging to temporal_id = 3, that is, layer 3 423. Image data 402, 404, 406, 408, 410, 412, 414, and 416 are image data belonging to temporal_id = 4, that is, layer 4 424. The image data belonging to each layer is compression-encoded by the image compression unit 108 at a compression rate corresponding to the layer. A moving image having such a hierarchical structure can dynamically change the playback frame rate by increasing the number of playback layers by sequentially adding the upper layer to the playback target from the playback of only the lowest layer.

本実施形態のようにレイヤー0からレイヤー4の5階層の構造を有する動画像データは、5段階の再生フレームレート指定が可能である。例えば、レイヤー0の再生フレームレートを15フレーム/秒とした場合、レイヤー0 420のみを再生対象として指定すると、画像データ401、417のみが再生対象となり、15フレーム/秒のフレームレートで再生される。レイヤー1 421以下を再生対象として指定した場合、画像データ401、417に加えて画像データ409が再生対象となり、再生フレームレートは30フレーム/秒となる。レイヤー2 422以下を再生対象として指定した場合、画像データ405、413が再生対象に追加され、再生フレームレートは60フレーム/秒となる。以下同様に、レイヤー3 423以下を再生対象として指定した場合には、再生フレームレートは120フレーム/秒となる。レイヤー4 424以下、即ち全レイヤー420〜424を再生対象として指定した場合には、画像データ401から画像データ417までの全てが再生対象となり、再生フレームレートは240フレーム/秒となる。   As in this embodiment, the moving image data having a five-layer structure from layer 0 to layer 4 can be designated with five stages of playback frame rates. For example, when the playback frame rate of layer 0 is 15 frames / second, if only layer 0 420 is designated as a playback target, only image data 401 and 417 are played back and played back at a frame rate of 15 frames / second. . When the layer 1 421 or lower is designated as the reproduction target, the image data 409 is the reproduction target in addition to the image data 401 and 417, and the reproduction frame rate is 30 frames / second. When layer 2 422 or lower is designated as a playback target, image data 405 and 413 are added to the playback target, and the playback frame rate is 60 frames / second. Similarly, when layer 3 423 or lower is designated as a playback target, the playback frame rate is 120 frames / second. When layer 4 424 or lower, that is, all layers 420 to 424 are designated as playback targets, all of the image data 401 to image data 417 are playback targets, and the playback frame rate is 240 frames / second.

次に図3(a)の(各フレームの)画像データ401〜417に付加するタイムコードの例について、図3(b)を参照して説明する。例えばレイヤー4 424以下を再生対象として指定して240フレーム/秒で再生するものとする。レイヤー2 422以下の画像データは60フレーム/秒であるので、制御部101は、再生対象となるフレームの画像データ401、405、409、413、417に対し、各フレームに対応したタイムコードを割り当てる。ここで、図2(b)に示したindex300には0を設定する。例えば、制御部101は、画像データ401には00:00:00:00.0.0、画像データ405には00:00:00:00.1.0、画像データ409には00:00:00:01.0.0のタイムコードを生成する。さらに制御部101は、画像データ413には00:00:00:01.1.0、画像データ417には00:00:00:02.0.0のタイムコードを生成する。   Next, an example of a time code added to the image data 401 to 417 (for each frame) in FIG. 3A will be described with reference to FIG. For example, it is assumed that layer 4 424 or lower is designated as a playback target and playback is performed at 240 frames / second. Since the image data of layer 2 422 and below is 60 frames / second, the control unit 101 assigns a time code corresponding to each frame to the image data 401, 405, 409, 413, 417 of the frame to be reproduced. . Here, 0 is set in the index 300 shown in FIG. For example, the control unit 101 sets the image data 401 to 00: 00: 00: 00.0.0, the image data 405 to 00: 00: 00: 00.1.0, and the image data 409 to 00:00: A time code of 00: 01.0.0 is generated. Furthermore, the control unit 101 generates a time code of 00: 00: 00: 01.1.0 for the image data 413 and 00: 00: 00: 02.0.0 for the image data 417.

一方、レイヤー3およびレイヤー4の画像データはそれぞれ120フレーム/秒、240フレーム/秒の再生フレームレートに対応する。このため、レイヤー2以下の画像データに割り当てられたタイムコードにおける時間200、分201、秒202、フレーム203、FI204の値が重複する。例えば画像データ402、画像データ403、画像データ404は、画像データ401と00:00:00:00.0の部分が重複する。この場合、制御部101は、index300の値をカウントアップする。即ち、制御部101は、画像データ402には00:00:00:00.0.1、画像データ403は00.00.00.00.0.2、画像データ404は00:00:00:00.0.3のタイムコードを生成する。さらに、例えば画像データ405などのレイヤー2以下の画像データについてタイムコードが生成される場合、制御部101は、00:00:00:00.1.0のようにindexをリセットするとともにFIフラグの異なるタイムコードを生成する。   On the other hand, the image data of layer 3 and layer 4 correspond to playback frame rates of 120 frames / second and 240 frames / second, respectively. For this reason, the values of time 200, minute 201, second 202, frame 203, and FI 204 in the time code assigned to the image data of layer 2 and below overlap. For example, in the image data 402, the image data 403, and the image data 404, the portion of the image data 401 and 00: 00: 00: 00.0 overlaps. In this case, the control unit 101 counts up the value of the index 300. That is, the control unit 101 sets the image data 402 to 00: 00: 00: 00.0.1, the image data 403 to 00.00.00.00.0.2, and the image data 404 to 00:00:00: A time code of 00.0.3 is generated. Further, for example, when a time code is generated for image data of layer 2 or lower such as the image data 405, the control unit 101 resets the index and sets the FI flag to 00: 00: 00: 00.1.0. Generate different timecodes.

(3 タイムコードの生成処理)
上述した制御部101のタイムコードの生成処理を図4に示すフローチャートを用いて説明する。本処理は、操作部107により、ユーザからの記録開始の指示があった場合に実行される。
(3 Time code generation process)
The above-described time code generation processing of the control unit 101 will be described with reference to the flowchart shown in FIG. This process is executed when the operation unit 107 instructs the user to start recording.

S100において制御部101は、画像圧縮部108から新しいフレームが取得されたかを判断する。制御部101は、新しいフレームが取得されたと判断された場合は処理をS101に進める。一方、まだ取得されていないと判断された場合、制御部101は新しいフレームが取得されるまで処理を待つ。   In step S <b> 100, the control unit 101 determines whether a new frame has been acquired from the image compression unit 108. If it is determined that a new frame has been acquired, the control unit 101 advances the process to step S101. On the other hand, if it is determined that the frame has not yet been acquired, the control unit 101 waits for processing until a new frame is acquired.

S101において制御部101は、予め設定されているベースフレームレート(以下Fb)を例えばROM104から取得する。ベースフレームレートは、タイムコードのフレーム(FF)のフレーム番号が桁上がりするフレームレートを規定し、一般に24フレーム/秒か30フレーム/秒であるが、これに限定されない。本実施形態において、記録フレームレートは、ベースフレームレートの整数倍であるものとする。   In S101, the control unit 101 acquires a preset base frame rate (hereinafter referred to as Fb) from the ROM 104, for example. The base frame rate defines a frame rate at which the frame number of a time code frame (FF) is carried, and is generally 24 frames / second or 30 frames / second, but is not limited thereto. In the present embodiment, the recording frame rate is an integral multiple of the base frame rate.

S102において制御部101は、予め設定されている記録フレームレート(以下Fr)を例えばROM104から取得する。FbおよびFrは、固定値でも良いし、ユーザが操作部107を通じて設定できるようにしてもよい。制御部101は、Frを取得すると処理をS103へ進める。   In S102, the control unit 101 acquires a preset recording frame rate (hereinafter referred to as Fr) from the ROM 104, for example. Fb and Fr may be fixed values or may be set by the user through the operation unit 107. When acquiring the Fr, the control unit 101 advances the process to S103.

S103において制御部101は、タイムコードにおけるindexの値を制御する必要があるかどうかを判定する。ここでは、記録フレームレートFrがベースフレームレートFbの2倍より大きいかどうか(Fb*2<Fr)によって、判定を行っている。制御部101は、Fb*2<Frであれば処理をS104に進め、Fb*2≧FrであればS109へ処理を進める。   In S103, the control unit 101 determines whether it is necessary to control the value of the index in the time code. Here, the determination is made based on whether or not the recording frame rate Fr is greater than twice the base frame rate Fb (Fb * 2 <Fr). If Fb * 2 <Fr, the control unit 101 advances the process to S104, and if Fb * 2 ≧ Fr, advances the process to S109.

S104において制御部101は、FrをFbで除算してindexのカウント数の最大値Imax=Fr/Fbを求める。なお、本フローチャートではindexは0から始まる値としているため、Imax=(Fr/Fb)−1となる。制御部101は求めたImaxを設定して処理をS105へ進める。S105において制御部101は、indexの数を1増加させる。さらにS106において制御部101は、indexとImaxを比較してindexがImax以上かを判断する。制御部101は、indexの値がImax以上と判断した場合は、処理をS107に進めてindexを0にリセットした後、S108でタイムコードの歩進処理を行う。タイムコードの歩進処理については図5を用いて後述する。一方、indexがImaxより小さいと判断した場合、制御部101は、タイムコードの歩進処理をスキップして処理をS111へ進める。   In S104, the control unit 101 divides Fr by Fb to obtain the maximum value Imax = Fr / Fb of the index count. In this flowchart, since index is a value starting from 0, Imax = (Fr / Fb) −1. The control unit 101 sets the obtained Imax and advances the process to S105. In S105, the control unit 101 increases the number of indexes by one. Further, in S106, the control unit 101 compares the index and Imax to determine whether the index is equal to or greater than Imax. When the control unit 101 determines that the value of the index is equal to or greater than Imax, the process proceeds to S107, the index is reset to 0, and then the time code is incremented in S108. The time code stepping process will be described later with reference to FIG. On the other hand, when determining that the index is smaller than Imax, the control unit 101 skips the time code stepping process and advances the process to step S111.

一方、S103でindexの制御が不要と判断された場合、制御部はS109においてindexを0に設定した後、S110においてS108と同様のタイムコードの歩進処理を行う。   On the other hand, if it is determined in S103 that the index control is unnecessary, the control unit sets the index to 0 in S109, and then performs a time code step process similar to S108 in S110.

S108またはS110でタイムコードの歩進処理を行った後、制御部101はS111において歩進処理で得られたタイムコード(HH:MM:SS:FF)にFIフラグおよびindexを付加し、処理対象のフレームに設定するタイムコードを確定する。制御部101は、処理対象フレームの画像データと、確定したタイムコードとを、記録媒体接続部109を介して記録媒体110に記録する。この記録形式については後述する。   After performing the time code stepping process in S108 or S110, the control unit 101 adds the FI flag and index to the time code (HH: MM: SS: FF) obtained by the stepping process in S111, and performs processing. Determine the time code to be set for the frame. The control unit 101 records the image data of the processing target frame and the determined time code on the recording medium 110 via the recording medium connection unit 109. This recording format will be described later.

S112において制御部101は、処理対象のフレームが最後のフレームであるか否かを、例えば画像データのヘッダ情報に基づいて判断し、処理対象のフレームが最後のフレームと判定されれば本フローチャートの処理を終える。制御部101は、処理対象のフレームが最後のフレームでは無いと判断したときは、処理をS100へ戻す。   In S112, the control unit 101 determines whether or not the processing target frame is the last frame based on, for example, the header information of the image data, and if the processing target frame is determined to be the last frame, Finish the process. When the control unit 101 determines that the processing target frame is not the last frame, the control unit 101 returns the process to S100.

次に、図4のS105およびS110で行うタイムコードの歩進処理について、図5のフローチャートを用いてさらに説明する。   Next, the time code stepping process performed in S105 and S110 of FIG. 4 will be further described with reference to the flowchart of FIG.

S200において制御部101は、タイムコードにおけるFIフラグの制御が必要かどうかを、ここでは、書き込みフレームレートFrがベースフレームレートFbの2倍以上かどうかによって判断する。制御部101はFrがFbの2倍以上であるときは、FIフラグの制御が必要と判断して処理をS201へ進め、FrがFbの2倍より小さいとき(Fr=Fbのとき)はFIフラグの制御は不要と判断して処理をS203に進める。   In S200, the control unit 101 determines whether it is necessary to control the FI flag in the time code based on whether the write frame rate Fr is twice or more the base frame rate Fb. When Fr is twice or more than Fb, the control unit 101 determines that control of the FI flag is necessary, and proceeds to S201. When Fr is less than twice Fb (when Fr = Fb), FI It is determined that the flag control is unnecessary, and the process proceeds to S203.

S201において制御部101は、FIフラグ(Feild indentification flag)が0であるかを判断する。制御部101は、現在のFIフラグの値を確認し、0であれば処理をS202に進め、0でなければ処理をS203へ進める。   In step S <b> 201, the control unit 101 determines whether the FI flag (Field indication flag) is 0. The control unit 101 confirms the current FI flag value, and if it is 0, the process proceeds to S202, and if not 0, the process proceeds to S203.

S202において制御部101は、FIフラグを1に変更し、タイムコードの歩進処理を完了する。   In S202, the control unit 101 changes the FI flag to 1, and completes the time code stepping process.

S203において制御部101は、FIフラグを0に設定し、処理をS204へ進める。S204において制御部101は、タイムコードを歩進させる。具体的には制御部101は、図2(b)に示したタイムコードのうちフレーム(FF)203の値を1つ増加させ、タイムコードの歩進処理を終了する。なお、増加前にFF203がFbに相当する値であれば、上位の値(SS202)を1つ増加し、FF203を初期値(0)に戻す桁上がり処理を行う。   In S203, the control unit 101 sets the FI flag to 0 and advances the process to S204. In S204, the control unit 101 advances the time code. Specifically, the control unit 101 increases the value of the frame (FF) 203 by 1 in the time code shown in FIG. 2B, and ends the time code stepping process. If FF 203 is a value corresponding to Fb before the increase, a higher value (SS202) is incremented by one, and carry processing is performed to return FF 203 to the initial value (0).

次に、このように生成したタイムコードとフレーム画像データを記録するために用いるコンテナ構造について説明する。図6は、本実施形態において使用可能なコンテナ構造の一例としての、MXF(Material eXchange Format)のコンテナ構造を示す。ヘッダ領域であるHeader Metadata600はファイルの開始を示し、ファイルに関するメタ情報が記録されている。制御部101は、階層符号化された画像データの記録において、ベースフレームレート(Fb)、再生可能な最大フレームレート、temporal_idに対応した再生フレームレートの情報をヘッダ領域に記録する。Frame601は各フレームのデータを表し、フレームのメタ情報を格納するSystem Metadata603、画像データ604、音声データ605から構成される。制御部101は、フッタ領域であるFooter Metadata602にファイルの終了を示す情報を記録する。タイムコードはフレームのメタ情報を格納するSystem Metadata603に記録され、タイムコードの時、分、秒、フレーム、Field identification flagはSMPTEに準拠したタイムコードの記録領域に記録される。拡張したindexのデータはSMPTEで規定されているUserBit領域を利用して記録されてもよいし、Reservedの別領域に記録されてもよい。   Next, a container structure used for recording the time code and frame image data generated in this way will be described. FIG. 6 shows a container structure of MXF (Material eXchange Format) as an example of a container structure usable in the present embodiment. Header Metadata 600, which is a header area, indicates the start of a file and records meta information about the file. In recording hierarchically encoded image data, the control unit 101 records information on the base frame rate (Fb), the maximum reproducible frame rate, and the reproduction frame rate corresponding to temporal_id in the header area. Frame 601 represents data of each frame, and is composed of System Metadata 603 for storing meta information of the frame, image data 604, and audio data 605. The control unit 101 records information indicating the end of the file in Footer Metadata 602 which is a footer area. The time code is recorded in the System Metadata 603 that stores the meta information of the frame, and the hour, minute, second, frame, and field identification flag are recorded in the time code recording area in accordance with SMPTE. The expanded index data may be recorded using a UserBit area defined by SMPTE, or may be recorded in another area of Reserved.

(4 再生時のタイムコードの表示処理)
次に、記録された動画像を再生する際にタイムコードを表示する処理を説明する。
(4 Timecode display processing during playback)
Next, a process for displaying a time code when reproducing a recorded moving image will be described.

上述のように階層符号化された動画像は、複数のフレームレートで再生を行うことが可能である。図3(b)に示したように、タイムコードは記録する際の最大のフレームレートに同期して付加されるため、選択された再生フレームレートによっては記録されたタイムコードを用いると不連続な表示となる場合がある。このため、本実施形態では再生時のフレームレートに応じたフレームレートの比を用いて、タイムコードの表示を変換する。例えば、図3に示したような、レイヤー0〜レイヤー4の5階層で符号化され、最大再生フレームレートが240フレーム/秒の動画像データの、レイヤー3以下のフレームを再生する(即ち120フレーム/秒)場合を考える(図7(a))。この場合、レイヤー4のフレームが再生されないため、再生フレームに対応して記録されたタイムコードをそのまま表示するとタイムコードが不連続となる。そこでフレームレートの比に応じてindexの値を記録された値から変更することで、表示用のタイムコードを生成する。図7(a)の例では、最大再生フレームレートの再生フレームレートに対する比率は2であるため、制御部101は各画像データに対応して記録されたタイムコードのindexを2で除算した値を表示させる。例えば、画像データ701に対応して記録されたタイムコードは00:00:00:00.0.2であるが、表示タイムコードは00:00:00:00.0.1として表示される。また、再生フレームレートがベースフレームレートよりも低い場合にも同様にフレームの表示についてフレームレートの比を用いた変換を行ってもよい。   A moving image that is hierarchically encoded as described above can be reproduced at a plurality of frame rates. As shown in FIG. 3B, since the time code is added in synchronization with the maximum frame rate at the time of recording, depending on the selected playback frame rate, the recorded time code may be discontinuous. It may be displayed. For this reason, in the present embodiment, the display of the time code is converted using a frame rate ratio corresponding to the frame rate at the time of reproduction. For example, as shown in FIG. 3, frames of layer 3 and below are reproduced (that is, 120 frames) of moving image data encoded in five layers of layers 0 to 4 and having a maximum reproduction frame rate of 240 frames / second. / Sec) is considered (FIG. 7A). In this case, since the frame of the layer 4 is not reproduced, when the time code recorded corresponding to the reproduction frame is displayed as it is, the time code becomes discontinuous. Therefore, the display time code is generated by changing the index value from the recorded value in accordance with the frame rate ratio. In the example of FIG. 7A, since the ratio of the maximum playback frame rate to the playback frame rate is 2, the control unit 101 calculates a value obtained by dividing the time code index recorded corresponding to each image data by 2. Display. For example, the time code recorded corresponding to the image data 701 is 00: 00: 00: 00.0.2, but the display time code is displayed as 00: 00: 00: 00.0.1. Similarly, when the playback frame rate is lower than the base frame rate, conversion using the frame rate ratio may be performed for frame display.

さらに再生時のタイムコードの表示処理を図8のフローチャートを用いて説明する。本処理は、制御部101が、操作部107からユーザによる動画像ファイルに対する操作指示を受けた時点から開始される。   Further, the display processing of the time code at the time of reproduction will be described using the flowchart of FIG. This process is started when the control unit 101 receives an operation instruction for a moving image file from the operation unit 107 by the user.

S300において制御部101は、ユーザによる操作指示が動画像ファイルの再生を開始させる指示かどうかを判断する。制御部101は、操作部107から通知されたデータを参照して該操作指示が再生を指示するものである場合、対象となるファイルの格納場所等の情報を取得して処理をS301へ進める。一方、制御部101は、該操作指示が再生開始の指示でない場合、処理をS300に戻して再び再生開始の指示を待つ。   In step S300, the control unit 101 determines whether the operation instruction from the user is an instruction to start playback of a moving image file. The control unit 101 refers to the data notified from the operation unit 107, and if the operation instruction instructs reproduction, the control unit 101 acquires information such as the storage location of the target file and advances the process to S301. On the other hand, if the operation instruction is not a reproduction start instruction, the control unit 101 returns the process to S300 and waits for the reproduction start instruction again.

S301において制御部101は、再生対象となるファイルを読み込んで、該ファイルのヘッダに記載されるFbの値を取得する。   In step S <b> 301, the control unit 101 reads a file to be played and acquires the value of Fb described in the header of the file.

S302において制御部101は、新しいフレームが読み込まれたかを判断する。制御部101は、新しいフレームが読み込まれた場合はS303へ処理を進め、新しいフレームが読み込まれていない場合、処理をS302に戻してフレームが読み込まれるのを待つ。   In step S302, the control unit 101 determines whether a new frame has been read. If a new frame is read, the control unit 101 advances the process to S303. If the new frame is not read, the control unit 101 returns the process to S302 and waits for the frame to be read.

S303において制御部101は、予め設定されている再生フレームレート(以下Fp)を例えばROM104から取得する。Fpは、再生されたファイルのヘッダから現在再生されているレイヤーのtemporal_idより対応する再生フレームレートを取得しても良いし、固定値あるいはユーザが操作部107を介して設定した値でもよい。制御部101は、Fpを取得すると、S304へ処理を進める。   In step S <b> 303, the control unit 101 acquires a preset playback frame rate (hereinafter, Fp) from the ROM 104, for example. Fp may acquire the corresponding playback frame rate from the temporal_id of the currently played layer from the header of the played file, or may be a fixed value or a value set by the user via the operation unit 107. When the control unit 101 acquires Fp, the control unit 101 advances the processing to S304.

S304において制御部101は、表示の処理の対象がフレーム(FF)であるかindexであるかを判定するため、ここではFbがFp以下であるかを判定する。制御部101は、取得したFbとFpを比較して、FbがFp以下である場合には処理をS305に進め、indexに対する表示の処理を行う。一方、FbがFpより大きい場合には処理をS309へ進めてフレームに対する表示の処理を行う。   In step S304, the control unit 101 determines whether Fb is equal to or less than Fp in order to determine whether the display processing target is a frame (FF) or an index. The control unit 101 compares the acquired Fb and Fp. If Fb is equal to or less than Fp, the control unit 101 advances the process to S305 and performs display processing for the index. On the other hand, if Fb is larger than Fp, the process proceeds to S309 to display the frame.

S305において制御部101は、再生されたファイルのヘッダである領域600から最大再生フレームレート(Fmax)を取得する。制御部101は、S306において、最大再生フレームレートFmaxと再生フレームレートFpの比を求めるため、FmaxをFpで除算して得られる商Diを求める。さらにS307において制御部101は、フレームレートの比Diに応じてindexの値を記録された値から変更するため、タイムコードのindexをDiで除算してIdivを求める。制御部101は、処理対象のフレームのメタ情報の領域603からタイムコードを読み出し、取得したタイムコードのindexをS305で求めたDiで除算する。さらにS308において制御部101は、算出したIdivを変更したindexとして表示部106に表示させて、処理をS312へ進める。   In step S305, the control unit 101 acquires the maximum playback frame rate (Fmax) from the area 600 that is the header of the played file. In step S306, the control unit 101 obtains a quotient Di obtained by dividing Fmax by Fp in order to obtain a ratio between the maximum reproduction frame rate Fmax and the reproduction frame rate Fp. Further, in step S307, the control unit 101 obtains Idiv by dividing the time code index by Di in order to change the index value from the recorded value in accordance with the frame rate ratio Di. The control unit 101 reads the time code from the meta information area 603 of the frame to be processed, and divides the acquired time code index by Di obtained in S305. In step S308, the control unit 101 causes the display unit 106 to display the calculated Idiv as a changed index, and advances the process to step S312.

一方、S309において制御部101は、フレーム(FF)を変更するためのフレームレートの比を求めるため、FbをFpで除算してDfを求める。制御部101は、Dfを求めると処理をS310へ進める。S310において制御部101は、フレームのメタ情報の領域603から読み込んだタイムコードのフレーム(FF)の値をフレームレートの比Dfで除算し、その商Fdivを求める。そして、S311において制御部101は、フレーム(FF)の値を記録された値からFdivに変更し、Fdivを表示するタイムコードのフレームの値として表示部106に表示させる。その後制御部101は、処理をS312へ進める。   On the other hand, in S309, the control unit 101 obtains Df by dividing Fb by Fp in order to obtain a frame rate ratio for changing the frame (FF). When the control unit 101 obtains Df, the process proceeds to S310. In step S <b> 310, the control unit 101 divides the time code frame (FF) value read from the frame meta-information area 603 by the frame rate ratio Df to obtain the quotient Fdiv. In step S <b> 311, the control unit 101 changes the value of the frame (FF) from the recorded value to Fdiv, and displays the value on the display unit 106 as the value of the time code frame for displaying Fdiv. Thereafter, the control unit 101 advances the process to S312.

S312において制御部101は、再生対象となるファイルの再生が終了するか否かを、例えばユーザによる停止指示や画像データのヘッダ情報に基づいて判断する。処理対象のフレームが最後のフレームで無いと判定されれば、制御部101は処理をS302に戻し、再生を終了させる場合、本処理を終了する。   In step S312, the control unit 101 determines whether or not the reproduction of the file to be reproduced is completed based on, for example, a stop instruction from the user or header information of the image data. If it is determined that the frame to be processed is not the last frame, the control unit 101 returns the process to S302, and ends the process when the reproduction is ended.

なお、図7(b)には制御部101が表示部106に表示させた再生時のタイムコードの一例を示す。再生画面に表示されたタイムコード800は、表示された画像データと同期して表示される。表示部106には、現在の再生フレームレートと再生最大フレームレートが合わせて表示される。表示されるタイムコード800は再生用に生成されたタイムコードに限らず、記録されたタイムコードをユーザの選択に応じて切り替えて表示したり、両方を同時に表示してもよい。動画像編集などの用途において記録されたタイムコードを特定する場合に、両タイムコードを切り替えたり同時に表示することで、違和感のない自然な表示用タイムコードを参照しつつ、記録用のタイムコードを特定することができる。   FIG. 7B shows an example of a time code at the time of reproduction displayed on the display unit 106 by the control unit 101. The time code 800 displayed on the playback screen is displayed in synchronization with the displayed image data. The display unit 106 displays the current playback frame rate and the maximum playback frame rate together. The displayed time code 800 is not limited to the time code generated for reproduction, and the recorded time code may be switched according to the user's selection, or both may be displayed simultaneously. When specifying the time code recorded for video editing and other purposes, the time code for recording can be changed by switching both time codes or displaying them at the same time. Can be identified.

以上説明したように本実施形態によれば、FIまでを表示可能なタイムコードにindex(識別情報)を付加したタイムコードを生成する。そのため、FIまでを表示可能なタイムコードでは対応できない(同じタイムコードが割り当てられてしまうフレームが存在する)ようなフレームレートの動画像であっても、各フレームに重複のない固有のタイムコードを生成することができる。また、記録フレームレートに応じてindexの最大値を制御することで、FIまでを表示可能なタイムコードで対応できない記録フレームレートの範囲で段階的に選択される場合であっても、各フレームに重複のない固有のタイムコードを生成することができる。さらに、規格化されたタイムコードを識別情報で拡張した形式としているため、識別情報を認識できない装置はFIまでを表示可能なタイムコード部分を従来通り利用できる。   As described above, according to the present embodiment, a time code is generated by adding an index (identification information) to a time code that can display up to FI. Therefore, even with a frame rate moving image that cannot be handled by a time code that can display up to FI (there is a frame to which the same time code is assigned), a unique time code that does not overlap in each frame. Can be generated. In addition, by controlling the maximum value of the index according to the recording frame rate, even if the selection is made step by step within the range of the recording frame rate that cannot be handled by the time code that can display up to FI, A unique time code without duplication can be generated. Furthermore, since the standardized time code is extended with identification information, a device that cannot recognize the identification information can use the time code portion that can display up to FI as usual.

また、識別情報を含むタイムコードが付加された可変フレームレートの動画像を再生する際に、再生フレームレートに応じて識別情報の値を変換して表示することで、再生フレームレートが変更されても連続したタイムコードを表示できる。   Also, when playing back a variable frame rate moving image to which a time code including identification information is added, the playback frame rate is changed by converting and displaying the value of the identification information according to the playback frame rate. Can also display a continuous time code.

(実施形態2)
本発明の実施形態2について説明する。本実施形態のデジタルビデオカメラは、実施形態1に加えて外部機器へ動画像を伝送可能な構成を有し、外部機器へ動画像を伝送する際には外部機器が本実施形態において生成されるタイムコードを利用するための情報(拡張情報)を生成する点が異なる。具体的には、デジタルビデオカメラ9000は、画像伝送部と外部I/Fを新たに有し、生成したタイムコードを出力するための形式に変換して動画像を伝送する。本実施形態の説明では、上記以外の点については実施形態1と共通であるため、重複する説明は省略し、相違点について重点的に説明する。
(Embodiment 2)
A second embodiment of the present invention will be described. The digital video camera of the present embodiment has a configuration capable of transmitting a moving image to an external device in addition to the first embodiment, and when transmitting a moving image to the external device, the external device is generated in the present embodiment. The difference is that information (extended information) for using the time code is generated. Specifically, the digital video camera 9000 newly has an image transmission unit and an external I / F, converts the generated time code into a format for outputting, and transmits a moving image. In the description of the present embodiment, since the points other than the above are the same as those in the first embodiment, overlapping description will be omitted, and differences will be described mainly.

本実施形態における撮像装置の一例としてデジタルビデオカメラ9000の機能構成例を図9に示す。図9において図1と同じ構成要素には同じ参照数字を付して説明を省略する。本実施形態のデジタルビデオカメラ9000は、実施形態1のデジタルビデオカメラ100の構成要素に加えて、画像伝送部9001と外部I/F9002を有する。画像伝送部9001は、制御部101により生成された拡張タイムコードが記録された動画像を伝送に必要な所定の形式に変換する。例えば動画像の伝送規格であるSDI(Serial Digital Interface)を用いる場合、画像伝送部9001は伝送する動画像をSMPTEで規定されている所定のフォーマットに適合させるように変換して、外部I/F9002へ出力する。   An example of the functional configuration of a digital video camera 9000 is shown in FIG. 9 as an example of the imaging apparatus in the present embodiment. In FIG. 9, the same components as those of FIG. The digital video camera 9000 of the present embodiment includes an image transmission unit 9001 and an external I / F 9002 in addition to the components of the digital video camera 100 of the first embodiment. The image transmission unit 9001 converts the moving image on which the extended time code generated by the control unit 101 is recorded into a predetermined format necessary for transmission. For example, when SDI (Serial Digital Interface) which is a moving image transmission standard is used, the image transmission unit 9001 converts a moving image to be transmitted so as to conform to a predetermined format defined by SMPTE, and external I / F 9002 Output to.

外部I/F9002は、外部機器と接続するためのインタフェースである。外部I/F9002は、制御部101による制御に基づいて、画像伝送部9001から取得した動画像を外部機器へ伝送する。   The external I / F 9002 is an interface for connecting to an external device. The external I / F 9002 transmits the moving image acquired from the image transmission unit 9001 to an external device based on control by the control unit 101.

次に動画像を外部機器に伝送する際の処理について、図10(a)に示すフローチャートを用いて説明する。   Next, processing when transmitting a moving image to an external device will be described with reference to the flowchart shown in FIG.

S400において制御部101は、実施形態1と同様にして、拡張されたタイムコードを生成し、処理をS401へ進める。なお、S400で行うタイムコード生成処理は図4のフローチャートに示した処理のうちS100からS111に相当する。   In step S400, the control unit 101 generates an extended time code in the same manner as in the first embodiment, and advances the processing to step S401. The time code generation process performed in S400 corresponds to S100 to S111 in the processes shown in the flowchart of FIG.

S401において制御部101は、伝送先の外部機器が拡張タイムコードを利用するための拡張情報を生成する。   In step S <b> 401, the control unit 101 generates extended information for the transmission destination external device to use the extended time code.

拡張情報およびその構成の一例を図10(b)に示す。ここでは拡張情報は32ビットのデータである。0から7ビットの領域905は、index領域であり、この拡張情報が付加される画像データのタイムコードを拡張するindexの値が格納される。8から15ビットの領域904は、ベースフレームレートFbに対する外部機器の再生フレームレートFpの比率(Fp/Fb)を格納する領域である。また16から23ビットの領域903は、Fbに対する、撮像時に予め設定されている最大フレームレートFmaxの比率(Fmax/Fb)が格納される領域である。24から25ビットの領域902は、Fbが格納される領域である。26ビットの領域901は、領域903および904に格納されている比率がFbを分母とした比率なのか分子とした比率なのかを示すフラグが格納される領域である。27から31ビットの領域はリザーブである。FmaxのFbに対する比率およびFpのFbに対する比率を伝送することで、伝送先の外部機器が実施形態1で説明した拡張タイムコードに対応している場合に、外部機器が動画像データを記録する際のImaxや再生する際のDi等を算出可能となる。上述の拡張情報は一例であり、ビット長やデータの割り当ては異なってもよい。制御部101は、これらの拡張情報を、予め設定されている情報や外部機器から取得した情報に基づいて生成することができる。制御部101は、生成した拡張情報を画像伝送部9001へ出力する。   An example of the extended information and its configuration is shown in FIG. Here, the extended information is 32-bit data. A 0 to 7-bit area 905 is an index area, and stores an index value that extends the time code of the image data to which the extension information is added. The 8- to 15-bit area 904 is an area for storing the ratio (Fp / Fb) of the playback frame rate Fp of the external device to the base frame rate Fb. An area 903 of 16 to 23 bits is an area for storing a ratio (Fmax / Fb) of the maximum frame rate Fmax set in advance for imaging with respect to Fb. A 24- to 25-bit area 902 is an area in which Fb is stored. A 26-bit area 901 is an area in which a flag indicating whether the ratio stored in the areas 903 and 904 is a ratio with Fb as a denominator or a ratio with a numerator is stored. The 27 to 31 bit region is reserved. By transmitting the ratio of Fmax to Fb and the ratio of Fp to Fb, when the external device corresponding to the extended time code described in the first embodiment records moving image data Imax, Di at the time of reproduction, and the like can be calculated. The above-described extended information is an example, and the bit length and data allocation may be different. The control unit 101 can generate such extended information based on preset information or information acquired from an external device. The control unit 101 outputs the generated extended information to the image transmission unit 9001.

S402において画像伝送部9001は、制御部101の指示により、伝送するフレームの画像データに制御部101から取得したタイムコードと拡張情報とを付加して外部機器へ伝送する。SDIの例では、拡張情報はBinary Group(User Bit)の領域に重畳して送ることができる。   In step S <b> 402, the image transmission unit 9001 adds the time code acquired from the control unit 101 and the extended information to the image data of the frame to be transmitted in accordance with an instruction from the control unit 101, and transmits the image data to the external device. In the SDI example, the extension information can be transmitted by being superimposed on the area of the Binary Group (User Bit).

S403において制御部101は、伝送した画像データが最後のフレームの画像データであるか否かを判断して、最後のフレームでない場合はS400に処理を戻し、最後のフレームである場合には本処理を終了する。   In step S403, the control unit 101 determines whether the transmitted image data is the image data of the last frame. If the transmitted image data is not the last frame, the process returns to step S400. Exit.

以上説明したように本実施形態によれば、複数フレームに同じタイムコードが付加される動画像に対して生成された、各フレームに重複のないタイムコードを利用する外部機器に対して、該タイムコードを利用するための拡張情報を生成して伝送する。このため、外部機器において複数フレームに同じタイムコードが付加される動画像を記録および再生する場合であっても、各フレームに重複のないタイムコードを利用することができる。   As described above, according to the present embodiment, the time is generated for an external device that uses a time code that does not overlap each frame generated for a moving image in which the same time code is added to a plurality of frames. Generate and transmit extended information to use the code. For this reason, even when a moving image in which the same time code is added to a plurality of frames is recorded and reproduced in an external device, a time code having no overlap in each frame can be used.

(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
(Other embodiments)
The present invention can also be realized by executing the following processing. That is, software (program) that realizes the functions of the above-described embodiments is supplied to a system or apparatus via a network or various storage media, and a computer (or CPU, MPU, or the like) of the system or apparatus reads the program. It is a process to be executed.

101…制御部、102…撮像部、103…画像処理部、106…表示部、108…画像圧縮部 DESCRIPTION OF SYMBOLS 101 ... Control part, 102 ... Imaging part, 103 ... Image processing part, 106 ... Display part, 108 ... Image compression part

Claims (11)

動画像の各フレームに対し、固有のタイムコードを生成する生成手段と、
前記各フレームの画像データと、前記タイムコードとを出力する出力手段と、
を有する撮像装置であって、
前記生成手段は、予め定められた形式のタイムコードと、識別情報とから構成される形式を有するタイムコードであって、前記動画像の各フレームに固有の前記予め定められた形式のタイムコードが同一となるフレームに対しては、前記識別情報を異ならせたタイムコードを生成することを特徴とする撮像装置。
Generating means for generating a unique time code for each frame of the moving image;
Output means for outputting the image data of each frame and the time code;
An imaging device having
The generation means is a time code having a format composed of a time code in a predetermined format and identification information, and the time code in the predetermined format unique to each frame of the moving image is An image pickup apparatus that generates time codes with different identification information for the same frames.
前記生成手段は、前記予め定められた形式のタイムコードにおけるフレーム番号の桁上がりを規定する所定のフレームレートに対する前記動画像のフレームレートの比率が予め定められた比率より大きい場合に、前記予め定められた形式のタイムコードが同一となる場合があると判定し、前記識別情報を異ならせたタイムコードを生成することを特徴とする請求項1に記載の撮像装置。   The generating means determines the predetermined value when a ratio of a frame rate of the moving image to a predetermined frame rate that defines a carry of a frame number in the time code of the predetermined format is larger than a predetermined ratio. 2. The imaging apparatus according to claim 1, wherein it is determined that the time codes in the same format may be the same, and a time code having different identification information is generated. 前記生成手段は、前記所定のフレームレートに対する前記動画像のフレームレートの比率に基づいて定まる数の前記識別情報を用いて、前記識別情報を異ならせたタイムコードを生成することを特徴とする請求項2に記載の撮像装置。   The generation means generates a time code in which the identification information is different using a number of the identification information determined based on a ratio of a frame rate of the moving image to the predetermined frame rate. Item 3. The imaging device according to Item 2. 前記各フレームからなる動画像が異なるフレームレートで再生可能な形式で前記各フレームを符号化する符号化手段をさらに有し、
前記生成手段は、前記符号化された各フレームに対し、前記識別情報を異ならせたタイムコードを生成することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
Encoding means for encoding each frame in a format in which the moving image composed of each frame can be reproduced at a different frame rate;
The imaging device according to claim 1, wherein the generation unit generates a time code in which the identification information is different for each encoded frame.
前記符号化手段は、前記動画像をHEVC規格に基づく階層構造の動画像に符号化することを特徴とする請求項4に記載の撮像装置。   5. The imaging apparatus according to claim 4, wherein the encoding unit encodes the moving image into a moving image having a hierarchical structure based on the HEVC standard. 前記出力手段により出力された前記各フレームの画像データと前記タイムコードを取得する取得手段と、
前記取得したタイムコードを表示のために変換する変換手段と、
前記変換されたタイムコードと前記画像データとを表示する表示手段と、
をさらに有し、
前記変換手段は、前記画像データの再生フレームレートよりも前記動画像の再生可能な最大のフレームレートの方が高い場合、再生する前記画像データの前記タイムコードが有する前記識別情報を前記再生フレームレートに応じて変換することを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
Obtaining means for obtaining the image data and the time code of each frame output by the output means;
Conversion means for converting the acquired time code for display;
Display means for displaying the converted time code and the image data;
Further comprising
When the maximum frame rate at which the moving image can be reproduced is higher than the reproduction frame rate of the image data, the conversion means uses the identification information included in the time code of the image data to be reproduced as the reproduction frame rate. The imaging apparatus according to claim 1, wherein conversion is performed in accordance with.
前記生成手段は、循環する数値を前記識別情報として用い、
前記変換手段は、前記再生フレームレートよりも前記動画像を再生可能な最大のフレームレートの方が高い場合、前記再生するフレームレートに対する前記再生可能な最大のフレームレートの比率を用いて前記識別情報を除算することにより、前記取得したタイムコードを前記識別情報の連続したタイムコードに変換することを特徴とする請求項6に記載の撮像装置。
The generating means uses a circulating numerical value as the identification information,
When the maximum frame rate at which the moving image can be reproduced is higher than the reproduction frame rate, the conversion means uses the ratio of the maximum reproducible frame rate to the frame rate to reproduce the identification information. The imaging apparatus according to claim 6, wherein the acquired time code is converted into a continuous time code of the identification information by dividing.
前記表示手段は、前記変換されたタイムコードと前記取得したタイムコードを切り替えてあるいは同時に表示することを特徴とする請求項6または請求項7に記載の撮像装置。   The imaging device according to claim 6 or 7, wherein the display unit switches or simultaneously displays the converted time code and the acquired time code. 前記画像データおよび前記タイムコードを、外部機器に伝送する伝送手段をさらに有し、
前記伝送手段は、前記識別情報を有する前記タイムコードを用いて前記外部機器が前記画像データを再生または記録するための拡張情報であって、前記外部機器の再生フレームレートに基づく拡張情報をさらに前記外部機器に伝送することを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。
The image data and the time code further have a transmission means for transmitting to an external device,
The transmission means is extended information for the external device to reproduce or record the image data using the time code having the identification information, and further includes extended information based on a reproduction frame rate of the external device. The imaging apparatus according to claim 1, wherein the imaging apparatus transmits to an external device.
生成手段が、動画像の各フレームに対し、固有のタイムコードを生成する生成工程と、
出力手段が、前記各フレームの画像データと、前記タイムコードとを出力する出力工程と、
を有する撮像装置の制御方法であって、
前記生成手段は、前記生成工程において予め定められた形式のタイムコードと、識別情報とから構成される形式を有するタイムコードであって、前記動画像の各フレームに固有の前記予め定められた形式のタイムコードが同一となるフレームに対しては、前記識別情報を異ならせたタイムコードを生成することを特徴とする撮像装置の制御方法。
A generating step for generating a unique time code for each frame of the moving image;
An output unit that outputs the image data of each frame and the time code;
A method for controlling an imaging apparatus having:
The generating means is a time code having a format composed of a time code of a predetermined format in the generating step and identification information, and the predetermined format unique to each frame of the moving image A method of controlling an image pickup apparatus, comprising: generating time codes with different identification information for frames having the same time code.
コンピュータを、請求項1乃至9のいずれか1項に記載の撮像装置の各手段として機能させるためのプログラム。   The program for functioning a computer as each means of the imaging device of any one of Claims 1 thru | or 9.
JP2014066803A 2014-03-27 2014-03-27 Imaging apparatus, control method thereof, and program Pending JP2015192227A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014066803A JP2015192227A (en) 2014-03-27 2014-03-27 Imaging apparatus, control method thereof, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014066803A JP2015192227A (en) 2014-03-27 2014-03-27 Imaging apparatus, control method thereof, and program

Publications (1)

Publication Number Publication Date
JP2015192227A true JP2015192227A (en) 2015-11-02

Family

ID=54426436

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014066803A Pending JP2015192227A (en) 2014-03-27 2014-03-27 Imaging apparatus, control method thereof, and program

Country Status (1)

Country Link
JP (1) JP2015192227A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019019842A1 (en) * 2017-07-27 2019-01-31 中兴通讯股份有限公司 Image processing method, corresponding apparatus, and storage medium
US11089212B2 (en) 2019-02-27 2021-08-10 Canon Kabushiki Kaisha Image capture apparatus that records video signal captured at variable frame rate as moving image data, method of controlling same, and storage medium

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019019842A1 (en) * 2017-07-27 2019-01-31 中兴通讯股份有限公司 Image processing method, corresponding apparatus, and storage medium
US11089212B2 (en) 2019-02-27 2021-08-10 Canon Kabushiki Kaisha Image capture apparatus that records video signal captured at variable frame rate as moving image data, method of controlling same, and storage medium

Similar Documents

Publication Publication Date Title
JP6324063B2 (en) Image reproducing apparatus and control method thereof
JP5685732B2 (en) Video extraction device, program, and recording medium
CN107836114B (en) Data recording apparatus, control method thereof, image pickup apparatus, and computer-readable storage medium
KR20080084751A (en) Information processing apparatus, imaging apparatus, image display control method and computer program
US9445085B2 (en) Imaging apparatus, method for controlling imaging apparatus, and system therefor
JP2010074323A (en) Recording apparatus and method, and recording and playback apparatus and method
JP6351212B2 (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD AND SYSTEM
JP2009225361A (en) Recording device and recording method, and editing device and editing method
JP6460783B2 (en) Image processing apparatus and control method thereof
JP2010245856A (en) Video editing device
JP2015192227A (en) Imaging apparatus, control method thereof, and program
JP2019075638A (en) Image processing device
JP6351213B2 (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD AND SYSTEM
JP6594485B2 (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD AND SYSTEM
JP6602425B2 (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD AND SYSTEM
JP6463967B2 (en) Imaging apparatus and control method thereof
JP2011119934A (en) Image shooting device and image shooting method
KR101480407B1 (en) Digital image processing apparatus, method for controlling the same and medium of recording the method
JP7214538B2 (en) Imaging device and recording control method
JP2013232696A (en) Recording and reproducing device
JP2019145918A (en) Imaging apparatus, display control device and control method for display control device
JP2020065219A (en) Imaging apparatus and method of controlling the same
JP2010263611A (en) Video photographing apparatus
JP4300959B2 (en) Electronic camera and image editing apparatus and method
JP6332963B2 (en) Image processing apparatus and image processing apparatus control method