JP2019220859A - Image processing apparatus, image processing method, and program - Google Patents

Image processing apparatus, image processing method, and program Download PDF

Info

Publication number
JP2019220859A
JP2019220859A JP2018117287A JP2018117287A JP2019220859A JP 2019220859 A JP2019220859 A JP 2019220859A JP 2018117287 A JP2018117287 A JP 2018117287A JP 2018117287 A JP2018117287 A JP 2018117287A JP 2019220859 A JP2019220859 A JP 2019220859A
Authority
JP
Japan
Prior art keywords
timing
moving image
image data
recording
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018117287A
Other languages
Japanese (ja)
Inventor
正雄 三本木
Masao Sanhongi
正雄 三本木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2018117287A priority Critical patent/JP2019220859A/en
Publication of JP2019220859A publication Critical patent/JP2019220859A/en
Pending legal-status Critical Current

Links

Abstract

To record a video image to be compared with an existing video image so that a time lag after specifying the frame number for later playback until an image of the frame is displayed can be reduced.SOLUTION: The image processing apparatus includes: an audio processing unit 13 and a speaker 11 for reproducing digital music data; a recording systems (14, 28, 35) for compressing and recording video images by inter-frame prediction; and a processor 14 for acquiring information indicating a preset timing for music to be played, waiting for the timing of the acquired information for the music to be played, and causing recording systems (14, 28, 35) to record an independent frame image coded without using the inter-frame prediction.SELECTED DRAWING: Figure 1

Description

本発明は、画像処理装置、画像処理方法及びプログラムに関する。   The present invention relates to an image processing device, an image processing method, and a program.

撮影された画像と別の画像とを比較することが容易な態様で表示するようにした技術が提案されている。(例えば、特許文献1)   A technique has been proposed in which a captured image and another image are displayed in an easy-to-comparison manner. (For example, Patent Document 1)

特開2016−126042号公報JP 2016-126022 A

上記特許文献に記載された技術には、動画データにおけるデータ圧縮の概念は考慮されていない。
一般的にデータ圧縮された動画データは、フレーム間予測を用いずに符号化された基準フレーム(I(Intra−coded)フレーム)と、前方向予測を用いて符号化された差分フレーム(P(Predicted)フレーム)とを含んでいる。
The technology described in the above patent document does not consider the concept of data compression in moving image data.
Generally, moving image data that has been data-compressed includes a reference frame (I (Intra-coded) frame) encoded without using inter-frame prediction and a differential frame (P ( Predicted frame).

そのため、動画データ中から特定のフレーム番号のフレームを指定して表示させたい場合、指定したフレームがPフレームであった際には、その指定したPフレームと対応する、直前のIフレームをさらにサーチした上で、Iフレームから指定したPフレームまでに介在するフレームを順次デコードして加算する必要がある。   Therefore, when it is desired to specify and display a frame having a specific frame number from the moving image data, and when the specified frame is a P frame, the immediately preceding I frame corresponding to the specified P frame is further searched. Then, it is necessary to sequentially decode and add frames intervening from the I frame to the designated P frame.

そのため、フレーム番号を指定してから、実際に当該フレーム番号のフレームの画像が表示されるまでにタイムラグを生じることが多い。この点は、データ圧縮率が高く、一連のフレーム中でのIフレームの現出率が低い場合に、より顕著になる。   Therefore, a time lag often occurs between the time when the frame number is specified and the time when the image of the frame of the frame number is actually displayed. This point becomes more remarkable when the data compression ratio is high and the appearance ratio of I frames in a series of frames is low.

本発明は上記のような実情に鑑みてなされたもので、その目的とするところは、すでにある動画像との比較を行ないたい動画像を記録する際に、後の再生時にフレーム番号を指定してから当該番号のフレームの画像が表示されるまでのタイムラグを短縮できるように記録することが可能な画像処理装置、画像処理方法及びプログラムを提供することにある。   SUMMARY OF THE INVENTION The present invention has been made in view of the above circumstances, and a purpose thereof is to specify a frame number at the time of subsequent reproduction when recording a moving image to be compared with an existing moving image. Another object of the present invention is to provide an image processing apparatus, an image processing method, and a program capable of recording so as to reduce a time lag from when the image of the frame of the number is displayed until the image is displayed.

本発明の一態様は、動画像データを記録する第1の記録制御手段と、デジタル音楽データに対して予め設定されているタイミングを検出するタイミング検出手段と、を備え、上記第1の記録制御手段は、上記動画像データに、上記タイミング検出手段により検出された上記予め設定されているタイミングを示す情報を付帯して記録する。   One aspect of the present invention includes first recording control means for recording moving image data, and timing detecting means for detecting a preset timing for digital music data, and the first recording control means The means records the moving image data together with information indicating the preset timing detected by the timing detecting means.

本発明の他の一態様は、動画像をフレーム間予測により圧縮符号化して動画像データとして記録する第2の記録制御手段と、上記動画像データと比較する、上記動画像データとは異なる動画像データに対して予め設定されているタイミングを示す情報を取得するタイミング情報取得手段と、を備え、上記第2の記録制御手段は、上記動画像データの記録中、上記タイミング情報取得手段で取得した情報のタイミングが到来すると、当該タイミングにおいては、フレーム間予測を用いずに符号化した独立フレーム画像データを記録する。   According to another aspect of the present invention, there is provided a second recording control unit that compresses and codes a moving image by inter-frame prediction and records the moving image data, and a moving image different from the moving image data to be compared with the moving image data. Timing information acquisition means for acquiring information indicating a preset timing for the image data, wherein the second recording control means acquires the timing information acquisition means during recording of the moving image data. When the timing of the given information comes, at that timing, the independent frame image data encoded without using the inter-frame prediction is recorded.

本発明によれば、すでにある動画像との比較を行ないたい動画像を記録する際に、後の再生時にフレーム番号を指定してから当該番号のフレームの画像が表示されるまでのタイムラグを短縮できるように記録することが可能となる。   According to the present invention, when recording a moving image that is to be compared with an existing moving image, the time lag from the time when a frame number is specified at the time of subsequent reproduction to the time when the image of the frame of the number is displayed is reduced. It is possible to record as much as possible.

本発明の一実施形態に係るスマートフォンの電子回路の機能構成を示すブロック図。FIG. 2 is a block diagram showing a functional configuration of an electronic circuit of the smartphone according to the embodiment of the present invention. 同実施形態に係るダンス解析プログラムによるマスタ映像記録時の処理内容を示すフローチャート。4 is an exemplary flowchart showing processing content at the time of master video recording by the dance analysis program according to the embodiment. 同実施形態に係るダンス解析プログラムによる比較映像記録時の処理内容を示すフローチャート。5 is a flowchart showing processing contents when recording a comparative video by the dance analysis program according to the embodiment.

以下、本発明を、ダンス解析用のアプリケーションプログラムをインストールしたスマートフォンに適用した場合の一実施形態について、図面を参照して詳細に説明する。   Hereinafter, an embodiment in which the present invention is applied to a smartphone in which an application program for dance analysis is installed will be described in detail with reference to the drawings.

図1は、スマートフォン10の電子回路の機能構成を説明するブロック図である。このスマートフォン10において、11は音声を出力するスピーカ、12は音声を入力するマイクロホンであり、共に音声処理部13に接続される。   FIG. 1 is a block diagram illustrating a functional configuration of an electronic circuit of smartphone 10. In the smartphone 10, reference numeral 11 denotes a speaker for outputting sound, and reference numeral 12 denotes a microphone for inputting sound, both of which are connected to the sound processing unit 13.

この音声処理部13は、スマートフォン10により音声の入出力を行なうに当たり、上記マイクロホン12から入力される音声をデジタル化、コードデータ化及び所定のデータ圧縮を施してシステムバスSBへ出力する一方で、デジタル音楽データをシステムバスSBを介して受取り、伸長処理した後にアナログ化した音声信号を生成して上記スピーカ11へ出力し、放音させる。   When performing input and output of sound by the smartphone 10, the sound processing unit 13 digitizes the sound input from the microphone 12, converts the sound into code data, performs predetermined data compression, and outputs the sound to the system bus SB. Digital music data is received via the system bus SB, and after being subjected to decompression processing, an analog audio signal is generated and output to the speaker 11 for sound emission.

プロセッサ14は、このスマートフォン10全体の動作制御を、上記システムバスSBを介して接続されたワークメモリ15及びプログラムメモリ16を使用して実行する。   The processor 14 executes the operation control of the entire smartphone 10 using the work memory 15 and the program memory 16 connected via the system bus SB.

ワークメモリ15は、例えばSDRAMで構成され、プロセッサ14がプログラムを実行する際にプログラムメモリ16から読み出したアプリケーションプログラムを展開して保持する。プログラムメモリ16は、不揮発性メモリで構成され、OS(オペレーティングシステム)と、後述するダンス解析プログラム16Aを含む各種アプリケーションプログラムと、その他各種固定データ等を格納、記憶するもので、それらの記憶内容は必要により適宜プロセッサ14によってワークメモリ15へ読出される。   The work memory 15 is composed of, for example, an SDRAM, and expands and holds the application program read from the program memory 16 when the processor 14 executes the program. The program memory 16 is composed of a non-volatile memory, and stores and stores an OS (operating system), various application programs including a dance analysis program 16A described later, and various other fixed data. The data is read into the work memory 15 by the processor 14 as needed.

なおプロセッサ14は、映像の記録時に、撮影により得られる一連の画像データに対する、フレーム間予測を伴うデータ圧縮を含む動画像ファイル化を行なう一方で、映像の再生時には、記録媒体から読み出されてきた動画像ファイルを上記記録時と逆の手順で順次デコードして伸長して再生表示させる。   The processor 14 converts a series of image data obtained by shooting into a moving image file including data compression accompanied by inter-frame prediction when recording a video, and reads out the video from a recording medium when reproducing the video. The decoded moving image file is sequentially decoded, decompressed, and reproduced and displayed in the reverse order of the recording.

また上記システムバスSBにはさらに、表示部17、タッチ入力部18、撮像部19、GPS受信部20、加速度センサ21、ジャイロセンサ22、地磁気センサ23、操作部24、バイブレータ25、無線通信部26、NFC(Near Field Communication)部27、及び外部デバイスインタフェイス(I/F)28と接続される。   The system bus SB further includes a display unit 17, a touch input unit 18, an imaging unit 19, a GPS reception unit 20, an acceleration sensor 21, a gyro sensor 22, a geomagnetic sensor 23, an operation unit 24, a vibrator 25, and a wireless communication unit 26. , NFC (Near Field Communication) unit 27, and an external device interface (I / F) 28.

表示部17は、バックライト付きの例えば対角6インチ程のサイズのカラー液晶パネルとそれらの駆動回路とで構成される。この表示部17に対して、透明電極膜を用いたタッチ入力部18が一体に構成される。このタッチ入力部18は、マルチタッチ操作を含めてユーザのタッチ操作に応じた時系列の座標信号をデジタル化し、タッチ操作信号として上記プロセッサ14へ送出する。   The display unit 17 is composed of a color liquid crystal panel with a backlight, for example, a diagonal size of about 6 inches, and a driving circuit for them. A touch input unit 18 using a transparent electrode film is integrally formed with the display unit 17. The touch input unit 18 digitizes a time-series coordinate signal corresponding to a user's touch operation including a multi-touch operation, and sends the coordinate signal to the processor 14 as a touch operation signal.

撮像部19は、スマートフォン10の筐体の表裏の少なくとも何れか設けられた撮像部と、撮像部の撮像で得られた画像データを圧縮してファイル化する画像処理部等を有する。   The imaging unit 19 includes an imaging unit provided on at least one of the front and back sides of the housing of the smartphone 10, an image processing unit that compresses image data obtained by imaging by the imaging unit and creates a file.

GPS受信部20は、GPSアンテナ29で受信する、図示しない複数のGPS衛星からの到来電波に基づき、現在位置の3次元座標(緯度、経度、高度)と、現在時刻とを算出し、システムバスSBを介して上記プロセッサ14へ送出する。   The GPS receiver 20 calculates three-dimensional coordinates (latitude, longitude, altitude) of the current position and the current time based on incoming radio waves from a plurality of GPS satellites (not shown) received by the GPS antenna 29, and It is sent to the processor 14 via SB.

加速度センサ21は、互いに直交する3軸方向それぞれの加速度を検出するもので、重力加速度の方向により、このスマートフォン10の姿勢を検出できる。   The acceleration sensor 21 detects accelerations in three axial directions orthogonal to each other, and can detect the attitude of the smartphone 10 based on the direction of the gravitational acceleration.

ジャイロセンサ22は、互いに直交する3軸方向に配置された振動型ジャイロスコープで構成され、上記加速度センサ21、地磁気センサ23の出力と組み合わせて、このスマートフォン10を所持、装着しているユーザの動作を解析して、上記GPSアンテナ29、GPS受信部20からの出力による絶対的な現在位置の認識ができない状態でも、加速度センサ21、地磁気センサ23との協働により自律航法による現在位置の更新動作を実行することができる。   The gyro sensor 22 is constituted by a vibrating gyroscope arranged in three axial directions orthogonal to each other, and combined with the outputs of the acceleration sensor 21 and the geomagnetic sensor 23, an operation of a user who owns and wears the smartphone 10 Is analyzed, and even if the absolute current position cannot be recognized by the output from the GPS antenna 29 and the GPS receiving unit 20, the operation of updating the current position by the autonomous navigation in cooperation with the acceleration sensor 21 and the geomagnetic sensor 23 is performed. Can be performed.

地磁気センサ23は、互いに直交する3軸方向それぞれの地磁気を検出するもので、磁北の方向に基づいてその時点でこのスマートフォン10を向けている方位が検出できる。   The terrestrial magnetism sensor 23 detects terrestrial magnetism in three axial directions orthogonal to each other, and can detect the direction in which the smartphone 10 is pointing at that time based on the direction of magnetic north.

操作部24は、このスマートフォン10の筐体側面等に設けられる、電源キーを含むいくつかの操作キーからなり、それらのキー操作に応じたキー操作信号をシステムバスSBを介してプロセッサ14へ送出する。   The operation unit 24 includes several operation keys including a power key provided on a side surface of the housing of the smartphone 10 and sends a key operation signal corresponding to the key operation to the processor 14 via the system bus SB. I do.

バイブレータ25は、小型のモータとそのモータの回転軸に偏心して取付けられたウェイトとからなり、モータの回転駆動によりスマートフォン10全体に及ぶ振動を発生させる。   The vibrator 25 includes a small motor and a weight eccentrically attached to the rotation axis of the motor, and generates vibrations that cover the entire smartphone 10 by rotating the motor.

無線通信部26は、アンテナ30〜32を用いて、例えば第4世代携帯電話、IEEE802.11a/11b/11g/11nに則った無線LANシステム、及びブルートゥース(登録商標)による近距離無線通信線にそれぞれ対応して外部の機器と無線通信によるデータの送受を行なう。   The wireless communication unit 26 uses the antennas 30 to 32 to connect to, for example, a fourth-generation mobile phone, a wireless LAN system based on IEEE802.11a / 11b / 11g / 11n, and a short-range wireless communication line using Bluetooth (registered trademark). Data is transmitted and received to and from an external device by wireless communication.

NFC部27は、例えばFeliCa(登録商標)規格及びMIFARE(登録商標)規格を用いて、近距離にある外部機器と非接触でデータの送受及び給電動作を行なう。   The NFC unit 27 performs data transmission / reception and power supply operations without contact with an external device at a short distance using, for example, the FeliCa (registered trademark) standard and the MIFARE (registered trademark) standard.

外部デバイスインタフェイス28は、ヘッドホンジャック33、マイクロUSB端子34、及びメモリカードスロット35を介して、例えばヘッドホンやイヤホン、USB機器、及びメモリカードをそれぞれ接続または装着可能とする。   The external device interface 28 can connect or attach, for example, a headphone, an earphone, a USB device, and a memory card via a headphone jack 33, a micro USB terminal 34, and a memory card slot 35, respectively.

メモリカードスロット35に装着するメモリカードには、後述するダンス解析プログラムで使用する動画像データファイルやデジタル音楽データファイル等を記録し、また記録したそれらデータを読み出すことができる。   A moving image data file, a digital music data file, and the like used in a dance analysis program described later are recorded on the memory card inserted into the memory card slot 35, and the recorded data can be read.

次に本実施形態の動作について説明する。
本実施形態では、スマートフォン10にインストールしたダンス解析プログラム16Aを起動し、お手本となる人物によるダンスの映像を記録するマスタ映像記録モードと、記録したマスタ映像と比較するための人物のダンスの比較映像を記録する比較映像記録モードのいずれか一方の記録モードを選択した上で記録を実行するものとする。
Next, the operation of the present embodiment will be described.
In the present embodiment, the dance analysis program 16A installed on the smartphone 10 is activated, and a master video recording mode for recording a dance video by a model person, and a comparison image of a person's dance for comparison with the recorded master video. The recording is executed after selecting one of the comparison video recording modes for recording.

図2は、お手本となる人物によるダンスの映像を記録するマスタ映像記録モードで、プロセッサ14が実行する処理内容を示すフローチャートである。マスタ映像記録モードでは、事前設定として、再生する楽曲の音楽ファイルを選択した上で、映像の記録を開始する。   FIG. 2 is a flowchart showing the contents of processing executed by the processor 14 in a master video recording mode for recording a video of a dance performed by a model person. In the master video recording mode, video recording is started after selecting a music file of a music piece to be reproduced as a preset setting.

開始当初にプロセッサ14は、まず撮像部19による映像の撮影を開始させる(ステップS101)。ここでプロセッサ14は、同時に音声処理部13によりマイクロホン12で集音される音声データをデジタル化させ、撮像部19で得られる動画データに組み入れて、例えばメモリカードスロット35に装着されたメモリカードに順次記録させる。   At the beginning of the process, the processor 14 first causes the image capturing unit 19 to start capturing an image (step S101). Here, the processor 14 simultaneously digitizes the audio data collected by the microphone 12 by the audio processing unit 13 and incorporates the digitized audio data into the moving image data obtained by the imaging unit 19, for example, into a memory card attached to the memory card slot 35. Record sequentially.

同時にプロセッサ14は、例えばメモリカードスロット35に装着されたメモリカードに記録されている、上記選択された音楽ファイルを読み出して音声処理部13、スピーカ11により再生させる動作を開始させる(ステップS102)。   At the same time, the processor 14 starts the operation of reading out the selected music file recorded on, for example, a memory card inserted in the memory card slot 35 and reproducing it by the audio processing unit 13 and the speaker 11 (step S102).

ここで、プロセッサ14は、動画データを記録する際、再生する音楽ファイルの再生開始タイミングを検出し、検出した時点のフレームを基点フレームとして識別可能な状態で記録する。
以後、プロセッサ14は、撮像部19による映像の撮影とマイクロホン12、音声処理部13による音声データの取得、及びそれら動画データのメモリカードへの記録を実行する(ステップS103)。同時にプロセッサ14は、音声処理部13、スピーカ11による音楽ファイルの再生を実行する(ステップS104)。
Here, when recording the moving image data, the processor 14 detects the reproduction start timing of the music file to be reproduced, and records the frame at the time of the detection as a base frame in a identifiable state.
After that, the processor 14 executes shooting of video by the imaging unit 19, acquisition of audio data by the microphone 12 and the audio processing unit 13, and recording of the moving image data on the memory card (step S103). At the same time, the processor 14 executes the reproduction of the music file by the audio processing unit 13 and the speaker 11 (Step S104).

同時にプロセッサ14は、その時点で再生している音楽データに対する強拍及び弱拍からビートを検出する(ステップS105)。プロセッサ14は、その検出結果からビート(強拍)のタイミングであるか否かを判断する(ステップS106)。   At the same time, the processor 14 detects a beat from a strong beat and a weak beat for the music data being reproduced at that time (step S105). The processor 14 determines whether it is a beat (strong beat) timing from the detection result (step S106).

ビートのタイミングであると判断した場合(ステップS106のYes)、プロセッサ14はそのビートタイミングとして、音楽ファイルの再生開始タイミングを基準とした時間値を記憶すると共に(ステップS107)、同タイミングで記録した映像のフレーム番号を記憶する(ステップS108)。   If it is determined that the timing is a beat timing (Yes in step S106), the processor 14 stores a time value based on the reproduction start timing of the music file as the beat timing (step S107), and records at the same timing. The frame number of the video is stored (step S108).

加えてプロセッサ14は、当該フレーム番号の映像を、記録している動画ファイルと関連付けた独立したフレーム画像による映像キャプチャとして、例えばJPEGファイル化し、上記記憶した、ビートタイミングの時間値、及び映像のフレーム番号と関連付けて、メモリカードに保存させる(ステップS109)。   In addition, the processor 14 converts the video of the frame number into a video capture by an independent frame image associated with the recorded moving image file, for example, into a JPEG file, and stores the time value of the beat timing and the frame of the video. It is stored in the memory card in association with the number (step S109).

また上記ステップS106において、ビートのタイミングではないと判断した場合(ステップS106のNo)、プロセッサ14は上記ステップS107〜S109の処理を実行せずに省略する。   When it is determined in step S106 that the timing is not the beat timing (No in step S106), the processor 14 does not execute the processing in steps S107 to S109 and omits the processing.

その後にプロセッサ14は、再生している音楽ファイルが終了するタイミングとなったか否かを判断する(ステップS110)。   Thereafter, the processor 14 determines whether or not it is time to end the music file being played (step S110).

再生している音楽ファイルがまだ終了しないと判断した場合(ステップS110のNo)、プロセッサ14は再び上記ステップS103からの処理に戻る。   If it is determined that the music file being played has not ended (No in step S110), the processor 14 returns to the process from step S103 again.

こうして再生している音楽ファイルが終了するタイミングとなるまで、上記ステップS103〜S110の処理を繰返し実行することで、音楽ファイルの再生に合わせた映像撮影と、各ビートタイミングでの独立したフレーム画像の保存とを継続する。   By repeatedly executing the processes of steps S103 to S110 until the timing of ending the music file being reproduced in this way, video shooting in accordance with the reproduction of the music file and independent frame image generation at each beat timing are performed. Save and continue.

上記ステップS110において、再生している音楽ファイルが終了するタイミングとなったと判断した時点で(ステップS110のYes)、プロセッサ14は、音楽ファイルの再生を終了すると共に(ステップS111)、撮像部19による映像の撮影も終了する(ステップS112)。   When it is determined in step S110 that the timing of ending the music file being played has come (Yes in step S110), the processor 14 ends the playback of the music file (step S111), and the imaging unit 19 The shooting of the video is also terminated (step S112).

さらにプロセッサ14は、その時点でメモリに記録していた、撮影映像の動画ファイルに関連するファイル名を用い、一連の各ビートタイミングでの独立したフレーム画像を取り纏めた別の画像ファイルとして保存設定し(ステップS113)、以上でマスタ映像記録モードでの処理を終了する。   Further, the processor 14 uses the file name associated with the moving image file of the captured video recorded in the memory at that time, and saves and sets as a separate image file in which a series of independent frame images at each beat timing are collected. (Step S113) Then, the processing in the master video recording mode ends.

なお、上記図2のマスタ映像記録モードでは、撮影により得られる動画ファイルと関連付けたファイル名を有する、ビートタイミング毎のJPEGファイル群からなる別の画像ファイルとして記録するものとして説明したが、本実施形態はこれに限らない。   In the master video recording mode shown in FIG. 2, it has been described that the image is recorded as another image file composed of a JPEG file group for each beat timing having a file name associated with a moving image file obtained by shooting. The form is not limited to this.

例えば、撮影する映像を、フレーム間予測によるデータ圧縮を行なう動画ファイル形式、例えばH.264/AVC規格の動画ファイルを記録する時点で、ビートタイミングが検出され場合には、必ずそのタイミングでの映像フレームをフレーム間予測を用いない独立したフレームである、I(Intra−coded)フレームとして記録するような設定とすれば、上記JPEGファイル群による別の画像ファイルの記録は必要ない。   For example, a video to be shot is a moving image file format in which data is compressed by inter-frame prediction, for example, H.264. If a beat timing is detected when a H.264 / AVC standard moving image file is recorded, a video frame at that timing is always regarded as an independent frame without using inter-frame prediction, that is, an I (Intra-coded) frame. If it is set to record, it is not necessary to record another image file by the JPEG file group.

その場合、当該動画ファイル中に、ビートタイミングを検出した際の時間値と、同タイミングで記録した映像のフレーム番号の組となる情報を、ビートタイミングで記録した独立したフレーム画像の数分だけ、付帯して記録させることになる。   In this case, in the moving image file, information that is a set of a time value when the beat timing is detected and a frame number of a video recorded at the same timing is divided by the number of independent frame images recorded at the beat timing. It will be recorded along with it.

また、上記マスタ映像記録モードでの撮影後に、ユーザによる編集処理によって、ビートタイミング等に関係なく、例えばダンスにおける特定のターンの導入タイミング等を指定することで、当該タイミングで独立したフレーム画像を作成して、音楽ファイルの再生開始タイミングを基準とした当該タイミングの時間値、及び当該タイミングの映像のフレーム番号と一緒に、追加記録できるようにしても良い。   In addition, after shooting in the master video recording mode, an independent frame image is created at the timing by designating the timing of introduction of a specific turn in a dance, for example, regardless of the beat timing, etc., by editing processing by the user. Then, additional recording may be performed together with the time value of the timing based on the reproduction start timing of the music file and the frame number of the video at the timing.

図3は、上記マスタ映像と比較するための人物のダンスの比較映像を記録する比較映像記録モードでの処理内容を示すフローチャートである。比較映像記録モードでは、事前設定として、再生するマスタ映像記録モードで記録した動画ファイルを選択し、併せて同動画データで使用した、再生する楽曲の音楽ファイルを選択した上で、映像の記録を開始する。   FIG. 3 is a flowchart showing processing in a comparative video recording mode for recording a comparative video of a person's dance for comparison with the master video. In the comparative video recording mode, as a pre-setting, select the video file recorded in the master video recording mode to be played, and also select the music file of the music to be played, which is used in the video data, and then record the video. Start.

開始当初にプロセッサ14は、まず選択したマスタ映像の動画ファイルと関連するファイル名が付与された、独立したフレーム画像を取り纏めた画像ファイルにより、比較するフレーム番号の情報を読み出してワークメモリ15に保持させる(ステップS201)。   At the beginning of the process, the processor 14 first reads out information on the frame number to be compared and stores the information in the work memory 15 by using an image file in which independent frame images are given together with a file name associated with the selected master video moving image file. (Step S201).

次にプロセッサ14は、比較を行なうための上記独立したフレーム画像があることを確認する(ステップS202)。比較を行なうための上記独立したフレーム画像があると判断した場合(ステップS202のYes)、その画像ファイルをメモリカードスロット35に装着されたメモリカードから読み出してプログラムメモリ16に保持させる(ステップS203)。   Next, the processor 14 confirms that there is the independent frame image for performing the comparison (step S202). When it is determined that there is the independent frame image for comparison (Yes in step S202), the image file is read from the memory card inserted in the memory card slot 35 and stored in the program memory 16 (step S203). .

また上記ステップS202において、比較を行なうための上記独立したフレーム画像がないと判断した場合には(ステップS202のNo)、プロセッサ14は上記ステップS203での処理は省略する。   When it is determined in step S202 that there is no independent frame image for comparison (No in step S202), the processor 14 omits the process in step S203.

その後、あらためて撮像部19による映像の撮影を開始させる(ステップS204)。ここでプロセッサ14は、同時に音声処理部13によりマイクロホン12で集音される音声データをデジタル化させ、撮像部19で得られる動画データに組み入れて、例えばメモリカードスロット35に装着されたメモリカードに順次記録させる。   After that, the image capturing by the image capturing unit 19 is started again (step S204). Here, the processor 14 simultaneously digitizes the audio data collected by the microphone 12 by the audio processing unit 13 and incorporates the digitized audio data into the moving image data obtained by the imaging unit 19, for example, into a memory card attached to the memory card slot 35. Record sequentially.

この比較映像の記録と同期させるように、選択されたマスタ映像となる動画ファイルの再生を開始する(ステップS205)。   The reproduction of the moving image file serving as the selected master video is started so as to synchronize with the recording of the comparison video (step S205).

表示部17においては、例えば画面左側半分が再生しているマスタ映像、同右側半分が記録している比較映像のモニタ画面として2つの映像を並べて表示するようにプロセッサ14が制御する。   In the display unit 17, for example, the processor 14 controls so that two images are displayed side by side as a monitor image of a master image reproduced on the left half of the screen and a comparative image recorded on the right half of the screen.

さらにプロセッサ14は、メモリカードに記録されている、上記選択された音楽ファイルを読み出して音声処理部13、スピーカ11により再生させる動作を開始させる(ステップS206)。   Further, the processor 14 starts an operation of reading out the selected music file recorded on the memory card and reproducing the music file by the audio processing unit 13 and the speaker 11 (step S206).

ここで、プロセッサ14は、動画データを記録する際、再生する音楽ファイルの再生開始タイミングを検出し、検出した時点のフレームを基点フレームとして識別可能な状態で記録する。
以後、プロセッサ14は、撮像部19による映像の撮影とマイクロホン12、音声処理部13による音声データの取得、及びそれら動画データのメモリカードへの記録を実行する(ステップS207)。同時にプロセッサ14は、音声処理部13、スピーカ11による音楽ファイルの再生を実行する(ステップS208)。
Here, when recording the moving image data, the processor 14 detects the reproduction start timing of the music file to be reproduced, and records the frame at the time of the detection as a base frame in a identifiable state.
Thereafter, the processor 14 executes shooting of a video by the imaging unit 19, acquisition of audio data by the microphone 12 and the audio processing unit 13, and recording of the moving image data on the memory card (step S207). At the same time, the processor 14 executes the reproduction of the music file by the audio processing unit 13 and the speaker 11 (Step S208).

同時にプロセッサ14は、その時点で再生している音楽データに対する強拍及び弱拍からビートを検出する(ステップS209)。プロセッサ14は、その検出結果からビート(強拍)のタイミングであるか否かを判断する(ステップS210)。   At the same time, the processor 14 detects a beat from a strong beat and a weak beat with respect to the music data being reproduced at that time (step S209). The processor 14 determines whether it is a beat (strong beat) timing from the detection result (step S210).

ビートのタイミングであると判断した場合(ステップS210のYes)、プロセッサ14はそのビートタイミングとして、音楽ファイルの再生開始タイミングを基準とした時間値を記憶すると共に(ステップS211)、同タイミングで記録した映像のフレーム番号が、マスタ映像側に付帯して記録されていたフレーム番号の1つと一致するか否かを判断する(ステップS212)。   If it is determined that the timing is a beat timing (Yes in step S210), the processor 14 stores a time value based on the reproduction start timing of the music file as the beat timing (step S211) and records the same timing. It is determined whether the frame number of the video matches one of the frame numbers attached and recorded on the master video side (step S212).

マスタ映像側に一致するフレーム番号があると判断した場合(ステップS212のYes)、プロセッサ14はそのフレーム番号を記憶する(ステップS213)。   When it is determined that there is a matching frame number on the master video side (Yes in step S212), the processor 14 stores the frame number (step S213).

また上記ステップS212において、マスタ映像側に一致するフレーム番号がないと判断した場合(ステップS212のNo)、同じ音楽データの再生に基づくビートタイミングの検出でズレを生じているものとして、その時点で記録した映像のフレーム番号と、マスタ映像側のフレーム番号中で相違が一定値以内のフレーム番号があれば、その映像が現ビートタイミングと一致するものであるとして、対応するマスタ映像側のフレーム番号を補正する(ステップS214)。   If it is determined in step S212 that there is no matching frame number on the master video side (No in step S212), it is determined that a shift has occurred in the detection of the beat timing based on the reproduction of the same music data, and at that time If there is a difference between the frame number of the recorded video and the frame number of the master video within a certain value, it is determined that the video matches the current beat timing, and the frame number of the corresponding master video is used. Is corrected (step S214).

その後にプロセッサ14は、当該フレーム番号の映像を、記録している動画ファイルと関連付けた独立したフレーム画像による映像キャプチャとして、例えばJPEGファイル化し、上記記憶した、ビートタイミングの時間値、及び映像のフレーム番号と関連付けて、メモリカードに保存させる(ステップS215)。   After that, the processor 14 converts the video of the frame number into a JPEG file, for example, as a video capture by an independent frame image associated with the recorded moving image file, and stores the time value of the beat timing and the frame of the video. It is stored in the memory card in association with the number (step S215).

さらにプロセッサ14は、マスタ映像に映像キャプチャとして付帯して記録されている、独立したフレーム画像中に、現フレーム番号と一致するものがあるか否かを判断する(ステップS216)。   Further, the processor 14 determines whether or not there is an independent frame image, which is recorded as an image capture to the master image and coincides with the current frame number (step S216).

一致するものがあると判断した場合(ステップS216のYes)、プロセッサ14は、そのフレーム番号に従い、対応する2つの静止画によるキャプチャ映像をプログラムメモリ16において一定時間、例えば2秒間だけ並列して比較するように表示させるよう設定する(ステップS217)。   If it is determined that there is a match (Yes in step S216), the processor 14 compares the captured images of the two corresponding still images in the program memory 16 in parallel for a certain period of time, for example, two seconds, according to the frame number. Is set to be displayed (step S217).

また上記ステップS216において、マスタ映像側の映像キャプチャとしてフレーム番号が一致するものがないと判断した場合(ステップS216のNo)、プロセッサ14は、マスタ映像側の映像キャプチャとしてフレーム番号の相違が一定値以内のフレーム番号があれば、その映像が現ビートタイミングと一致するものであるとして、対応するマスタ映像側の映像キャプチャを検索する(ステップS218)。   If it is determined in step S216 that there is no video capture on the master video side that has the same frame number (No in step S216), the processor 14 determines that the difference between the frame numbers is a fixed value as the video capture on the master video side. If there is a frame number within the range, it is determined that the video coincides with the current beat timing, and a video capture on the corresponding master video side is searched (step S218).

プロセッサ14は、マスタ映像側の映像キャプチャとなるフレーム画像を比較のために読み出した上で(ステップS219)、直前のステップS215で保存した、同映像キャプチャ画像との比較採点処理を実行する(ステップS220)。   The processor 14 reads out a frame image to be a video capture on the master video side for comparison (step S219), and executes a comparative scoring process with the same video capture image stored in the immediately preceding step S215 (step S219). S220).

この比較採点処理に関しては、例えば両画像中からダンスを行なっている人物部分を主要被写体として抽出した上で、それらの動きの類似度、具体的には当該人物の姿勢角度と両手足、及び頭部の角度との類似度から点数化し、得られた点数を、表示部17の右側で表示している、比較映像側の画面に重畳して表示させることで実現できる。   For this comparative scoring process, for example, a person performing a dance is extracted from both images as a main subject, and then the similarity of their movements, specifically, the posture angle and both hands and feet of the person, and the head It can be realized by making a score based on the degree of similarity with the angle of the section and superimposing the obtained score on a screen on the comparison video side displayed on the right side of the display section 17.

その後にプロセッサ14は、再生している音楽ファイルが終了するタイミングとなったか否かを判断する(ステップS221)。   Thereafter, the processor 14 determines whether or not it is time to end the music file being played (step S221).

再生している音楽ファイルがまだ終了しないと判断した場合(ステップS221のNo)、プロセッサ14は再び上記ステップS207からの処理に戻る。   If it is determined that the music file being played has not ended (No in step S221), the processor 14 returns to the process from step S207 again.

こうして再生している音楽ファイルが終了するタイミングとなるまで、上記ステップS207〜S221の処理を繰返し実行することで、比較用映像側での音楽ファイルの再生に合わせた映像撮影と、各ビートタイミングでの独立したフレーム画像の保存とを継続する。   By repeatedly executing the processes of steps S207 to S221 until the music file being played ends, the video shooting corresponding to the music file playback on the comparison video side and the beat timing at each beat timing are repeated. And saving of the independent frame image.

上記ステップS221において、再生している音楽ファイルが終了するタイミングとなったと判断した時点で(ステップS221のYes)、プロセッサ14は、音楽ファイルの再生を終了すると共に(ステップS222)、撮像部19による映像の撮影も終了し(ステップS223)、以上で図3の処理を終了する。   When it is determined in step S221 that the timing of ending the music file being played has come (Yes in step S221), the processor 14 ends the playback of the music file (step S222), and the imaging unit 19 The shooting of the video is also ended (step S223), and the processing in FIG.

以上詳述した如く本実施形態によれば、すでにある動画像との比較を行ないたい動画像を記録する際に、フレーム間予測によるデータ補間を必要としない、独立したフレーム画像として記録を行なうものとしたので、後の再生時にフレーム番号を指定してから当該番号のフレームの画像が表示されるまでのタイムラグを短縮できるように記録することが可能となる。   As described in detail above, according to the present embodiment, when recording a moving image to be compared with an existing moving image, recording is performed as an independent frame image that does not require data interpolation by inter-frame prediction. Therefore, it is possible to perform recording so that the time lag from when the frame number is designated at the time of subsequent reproduction until the image of the frame of the number is displayed can be reduced.

また上記実施形態では、動画像撮影時に独立したフレーム画像として、動画像データ中にIフレーム画像として記録させるか、あるいは動画像データと関連付けた静止画像データとして付帯記録させることで、記録時の演算処理系の負担を大きく増やすことがない。   Further, in the above-described embodiment, the calculation at the time of recording is performed by recording an I frame image in moving image data as an independent frame image at the time of moving image recording or by additionally recording as still image data associated with moving image data. The burden on the processing system is not greatly increased.

なお上記実施形態は、ダンス解析用のアプリケーションプログラムをインストールしたスマートフォンに適用した場合について説明したものであるが、デジタル音源を用いて楽曲の再生を行なうような対象であれば、ダンスに限らず、例えばフィギュアスケートやシンクロナイズドスイミング等の解析を行なう装置も考えられる。   Although the above embodiment has been described with reference to the case where the present invention is applied to a smartphone on which an application program for dance analysis is installed, the present invention is not limited to dance as long as the target is to reproduce music using a digital sound source. For example, a device that performs analysis such as figure skating and synchronized swimming is also conceivable.

また、上記実施形態では、音楽データのビートタイミングを、独立したフレーム画像を取得するタイミングとして設定した場合について説明したが、本発明はこれに限らず、例えば3次元加速度センサ等を含む各種センサ群と無線通信機能とを内蔵したウェアラブルセンサを、撮影対象となる人物に装着して貰い、例えばジャンプした頂点位置を撮影タイミングとするなど、その人物の動きに応じたタイミングで独立したフレーム画像を取得するような構成とすることも考えられる。   Further, in the above embodiment, the case has been described where the beat timing of the music data is set as the timing for acquiring an independent frame image. However, the present invention is not limited to this, and various sensor groups including a three-dimensional acceleration sensor and the like are used. A wearable sensor with built-in wireless communication function is attached to the person to be photographed, and an independent frame image is acquired at a timing according to the movement of the person, for example, using the jumping vertex position as the photographing timing It is also conceivable to adopt such a configuration.

さらに本実施形態の機能を実現する装置としては、実施形態のようなスマートフォンやモバイルタイプのパーソナルコンピュータ等に限らず、例えば動画撮影を行なうムービーカメラを音楽プレーヤと組み合わせて使用するような場合にも適用可能である。   Furthermore, the device that realizes the functions of the present embodiment is not limited to a smartphone or a mobile type personal computer as in the embodiment, and may be used, for example, in a case where a movie camera that performs moving image shooting is used in combination with a music player. Applicable.

その他、本願発明は、上記実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。また、各実施形態は可能な限り適宜組み合わせて実施してもよく、その場合組み合わせた効果が得られる。更に、上記実施形態には種々の段階の発明が含まれており、開示される複数の構成要件における適当な組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題が解決でき、発明の効果の欄で述べられている効果が得られる場合には、この構成要件が削除された構成が発明として抽出され得る。   In addition, the present invention is not limited to the above-described embodiment, and can be variously modified in an implementation stage without departing from the gist thereof. In addition, the embodiments may be implemented in appropriate combinations as much as possible, in which case the combined effects can be obtained. Furthermore, the above embodiments include inventions at various stages, and various inventions can be extracted by appropriate combinations of a plurality of disclosed constituent elements. For example, even if some components are deleted from all the components shown in the embodiment, the problem described in the column of the problem to be solved by the invention can be solved, and the effects described in the column of the effect of the invention can be solved. Is obtained, a configuration from which this configuration requirement is deleted can be extracted as an invention.

以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[請求項1]
動画像データを記録する第1の記録制御手段と、
デジタル音楽データに対して予め設定されているタイミングを検出するタイミング検出手段と、を備え、
上記第1の記録制御手段は、上記動画像データに、上記タイミング検出手段により検出された上記予め設定されているタイミングを示す情報を付帯して記録する、画像処理装置。
[請求項2]
上記第1の記録制御手段は、動画像をフレーム間予測により圧縮符号化して上記動画像データを記録し、上記タイミング検出手段により検出された上記予め設定されているタイミングにおいては、フレーム間予測を用いずに符号化した独立フレーム画像データを記録する、請求項1記載の画像処理装置。
[請求項3]
上記デジタル音楽データを再生する音楽再生手段をさらに備え、
上記タイミング検出手段は、上記音楽再生手段で再生する上記デジタル音楽データに対して予め設定されているタイミングを検出する、請求項1又は2記載の画像処理装置。
[請求項4]
動画像をフレーム間予測により圧縮符号化して動画像データとして記録する第2の記録制御手段と、
上記動画像データと比較する、上記動画像データとは異なる動画像データに対して予め設定されているタイミングを示す情報を取得するタイミング情報取得手段と、を備え、
上記第2の記録制御手段は、上記動画像データの記録中、上記タイミング情報取得手段で取得した情報のタイミングが到来すると、当該タイミングにおいては、フレーム間予測を用いずに符号化した独立フレーム画像データを記録する、画像処理装置。
[請求項5]
デジタル音楽データに対して予め設定されているタイミングを検出するタイミング検出手段と、
第1の動画像データを記録し、当該第1の動画像データの記録中に、当該第1の動画像データに、上記タイミング検出手段により検出された上記予め設定されているタイミングを示す情報を付帯して記録する第1の記録制御手段と、
動画像をフレーム間予測により圧縮符号化して上記第1の動画像データとは異なる第2の動画像データとして記録する第2の記録制御手段と、
上記第1の動画像データに付帯する上記タイミングを示す情報を取得するタイミング情報取得手段と、を備え、
上記第2の記録制御手段は、上記第2の動画像データの記録中、上記タイミング情報取得手段で取得した情報のタイミングが到来すると、当該タイミングにおいては、フレーム間予測を用いずに符号化した独立フレーム画像データを記録する、画像処理装置。
[請求項6]
上記独立フレーム画像データは、動画像中のI(Intra−coded)フレーム画像、または動画像と関連付けた静止画像のいずれかである、請求項2、4、5いずれか記載の画像処理装置。
[請求項7]
デジタル音楽データを再生する音楽再生手段をさらに備え、
上記タイミング情報取得手段は、上記音楽再生手段で再生する音楽に対する、予め設定したタイミングを示す情報を取得する、請求項4記載の画像処理装置。
[請求項8]
上記タイミング情報取得手段は、ユーザが予め設定したタイミングを示す情報を取得する、請求項4記載の画像処理装置。
[請求項9]
画像処理装置での画像処理方法であって、
動画像データを記録する第1の記録制御工程と、
デジタル音楽データに対して予め設定されているタイミングを検出するタイミング検出工程と、を有し、
上記第1の記録制御工程は、上記動画像データに、上記タイミング検出工程により検出された上記予め設定されているタイミングを示す情報を付帯して記録する、画像処理方法。
[請求項10]
画像処理装置での画像処理方法であって、
動画像をフレーム間予測により圧縮符号化して動画像データとして記録する第2の記録制御工程と、
上記動画像データと比較する、上記動画像データとは異なる動画像データに対して予め設定されているタイミングを示す情報を取得するタイミング情報取得工程と、を有し、
上記第2の記録制御工程は、上記動画像データの記録中、上記タイミング情報取得工程で取得した情報のタイミングが到来すると、当該タイミングにおいては、フレーム間予測を用いずに符号化した独立フレーム画像データを記録する、画像処理方法。
[請求項11]
画像処理装置が内蔵したコンピュータが実行するプログラムであって、上記コンピュータを、
動画像データを記録する第1の記録制御手段、
デジタル音楽データに対して予め設定されているタイミングを検出するタイミング検出手段、 として機能させ、
上記第1の記録制御手段は、上記動画像データに、上記タイミング検出手段により検出された上記予め設定されているタイミングを示す情報を付帯して記録する、プログラム。
[請求項12]
画像処理装置が内蔵したコンピュータが実行するプログラムであって、上記コンピュータを、
動画像をフレーム間予測により圧縮符号化して動画像データとして記録する第2の記録制御手段、
上記動画像データと比較する、上記動画像データとは異なる動画像データに対して予め設定されているタイミングを示す情報を取得するタイミング情報取得手段、として機能させ、
上記第2の記録制御手段は、上記動画像データの記録中、上記タイミング情報取得手段で取得した情報のタイミングが到来すると、当該タイミングにおいて、フレーム間予測を用いずに符号化した独立フレーム画像データを記録する、プログラム。
Hereinafter, the invention described in the claims of the present application is additionally described.
[Claim 1]
First recording control means for recording moving image data;
Timing detection means for detecting a preset timing for the digital music data,
An image processing apparatus, wherein the first recording control means records the moving image data together with information indicating the preset timing detected by the timing detection means.
[Claim 2]
The first recording control means compresses and encodes a moving image by inter-frame prediction to record the moving image data, and performs the inter-frame prediction at the preset timing detected by the timing detecting means. The image processing apparatus according to claim 1, wherein independent frame image data encoded without being used is recorded.
[Claim 3]
Further comprising music playback means for playing back the digital music data,
The image processing device according to claim 1, wherein the timing detection unit detects a preset timing for the digital music data reproduced by the music reproduction unit.
[Claim 4]
Second recording control means for compressing and encoding a moving image by inter-frame prediction and recording it as moving image data;
Comparing with the moving image data, comprising a timing information obtaining means for obtaining information indicating a preset timing for moving image data different from the moving image data,
When the timing of the information obtained by the timing information obtaining means arrives during the recording of the moving image data, the second recording control means sets an independent frame image encoded without using inter-frame prediction at the timing. An image processing device that records data.
[Claim 5]
Timing detection means for detecting a preset timing for digital music data,
The first moving image data is recorded, and during the recording of the first moving image data, information indicating the preset timing detected by the timing detecting means is added to the first moving image data. First recording control means for recording incidentally;
Second recording control means for compressing and encoding a moving image by inter-frame prediction and recording the moving image as second moving image data different from the first moving image data;
Timing information acquisition means for acquiring information indicating the timing attached to the first moving image data,
When the timing of the information obtained by the timing information obtaining means arrives during the recording of the second moving image data, the second recording control means performs the encoding without using the inter-frame prediction at the timing. An image processing device that records independent frame image data.
[Claim 6]
The image processing apparatus according to claim 2, wherein the independent frame image data is one of an I (Intra-coded) frame image in a moving image and a still image associated with the moving image.
[Claim 7]
Further comprising a music reproducing means for reproducing digital music data,
The image processing apparatus according to claim 4, wherein the timing information acquisition unit acquires information indicating a preset timing for music played by the music playback unit.
[Claim 8]
The image processing apparatus according to claim 4, wherein the timing information acquisition unit acquires information indicating a timing set in advance by a user.
[Claim 9]
An image processing method in an image processing device,
A first recording control step of recording moving image data;
A timing detection step of detecting a preset timing for the digital music data,
The first recording control step is an image processing method for recording the moving image data together with information indicating the preset timing detected in the timing detection step.
[Claim 10]
An image processing method in an image processing device,
A second recording control step of compressing and encoding a moving image by inter-frame prediction and recording as moving image data;
Compared with the moving image data, comprising a timing information obtaining step of obtaining information indicating a preset timing for moving image data different from the moving image data,
In the second recording control step, during the recording of the moving image data, when the timing of the information acquired in the timing information acquiring step comes, at the timing, an independent frame image encoded without using inter-frame prediction An image processing method that records data.
[Claim 11]
A program to be executed by a computer incorporated in the image processing apparatus, the computer comprising:
First recording control means for recording moving image data,
Function as timing detection means for detecting a preset timing for digital music data,
A program, wherein the first recording control means records the moving image data together with information indicating the preset timing detected by the timing detection means.
[Claim 12]
A program to be executed by a computer incorporated in the image processing apparatus, the computer comprising:
Second recording control means for compressing and encoding a moving image by inter-frame prediction and recording it as moving image data;
Compared with the moving image data, timing information obtaining means for obtaining information indicating a preset timing for moving image data different from the moving image data, function as,
When the timing of the information obtained by the timing information obtaining means arrives during the recording of the moving image data, the second recording control means sets the independent frame image data encoded without using inter-frame prediction at the timing. To record the program.

10…スマートフォン、
11…スピーカ、
12…マイクロホン、
13…音声処理部、
14…プロセッサ、
15…ワークメモリ、
16…プログラムメモリ、
16A…ダンス解析プログラム、
17…表示部、
18…タッチ入力部、
19…撮像部、
20…GPS受信部、
21…加速度センサ、
22…ジャイロセンサ、
23…地磁気センサ、
24…操作部、
25…バイブレータ、
26…無線通信部、
27…NFC部、
28…外部デバイスインタフェイス(I/F)、
29…GPSアンテナ、
30〜32…アンテナ、
33…ヘッドホンジャック、
34…マイクロUSB端子、
35…メモリカードスロット、
SB…システムバス
10… Smartphone,
11 ... speaker,
12 ... microphone,
13 ... Sound processing unit,
14. Processor,
15 Work memory,
16. Program memory,
16A… Dance analysis program,
17 ... display part,
18 Touch input section
19 ... Imaging unit,
20 ... GPS receiver,
21 ... acceleration sensor,
22 ... Gyro sensor,
23 ... geomagnetic sensor,
24 ... operation unit,
25 ... vibrator,
26 ... Wireless communication unit,
27 ... NFC part,
28 external device interface (I / F),
29 ... GPS antenna,
30-32 ... antenna,
33… Headphone jack,
34 ... Micro USB terminal,
35 ... Memory card slot,
SB: System bus

Claims (12)

動画像データを記録する第1の記録制御手段と、
デジタル音楽データに対して予め設定されているタイミングを検出するタイミング検出手段と、を備え、
上記第1の記録制御手段は、上記動画像データに、上記タイミング検出手段により検出された上記予め設定されているタイミングを示す情報を付帯して記録する、画像処理装置。
First recording control means for recording moving image data;
Timing detection means for detecting a preset timing for the digital music data,
An image processing apparatus, wherein the first recording control means records the moving image data together with information indicating the preset timing detected by the timing detection means.
上記第1の記録制御手段は、動画像をフレーム間予測により圧縮符号化して上記動画像データを記録し、上記タイミング検出手段により検出された上記予め設定されているタイミングにおいては、フレーム間予測を用いずに符号化した独立フレーム画像データを記録する、請求項1記載の画像処理装置。   The first recording control means compresses and encodes a moving image by inter-frame prediction to record the moving image data, and performs the inter-frame prediction at the preset timing detected by the timing detecting means. The image processing apparatus according to claim 1, wherein independent frame image data encoded without being used is recorded. 上記デジタル音楽データを再生する音楽再生手段をさらに備え、
上記タイミング検出手段は、上記音楽再生手段で再生する上記デジタル音楽データに対して予め設定されているタイミングを検出する、請求項1又は2記載の画像処理装置。
Further comprising music playback means for playing back the digital music data,
The image processing device according to claim 1, wherein the timing detection unit detects a preset timing for the digital music data reproduced by the music reproduction unit.
動画像をフレーム間予測により圧縮符号化して動画像データとして記録する第2の記録制御手段と、
上記動画像データと比較する、上記動画像データとは異なる動画像データに対して予め設定されているタイミングを示す情報を取得するタイミング情報取得手段と、を備え、
上記第2の記録制御手段は、上記動画像データの記録中、上記タイミング情報取得手段で取得した情報のタイミングが到来すると、当該タイミングにおいては、フレーム間予測を用いずに符号化した独立フレーム画像データを記録する、画像処理装置。
Second recording control means for compressing and encoding a moving image by inter-frame prediction and recording it as moving image data;
Comparing with the moving image data, comprising a timing information obtaining means for obtaining information indicating a preset timing for moving image data different from the moving image data,
When the timing of the information obtained by the timing information obtaining means arrives during the recording of the moving image data, the second recording control means sets an independent frame image encoded without using inter-frame prediction at the timing. An image processing device that records data.
デジタル音楽データに対して予め設定されているタイミングを検出するタイミング検出手段と、
第1の動画像データを記録し、当該第1の動画像データの記録中に、当該第1の動画像データに、上記タイミング検出手段により検出された上記予め設定されているタイミングを示す情報を付帯して記録する第1の記録制御手段と、
動画像をフレーム間予測により圧縮符号化して上記第1の動画像データとは異なる第2の動画像データとして記録する第2の記録制御手段と、
上記第1の動画像データに付帯する上記タイミングを示す情報を取得するタイミング情報取得手段と、を備え、
上記第2の記録制御手段は、上記第2の動画像データの記録中、上記タイミング情報取得手段で取得した情報のタイミングが到来すると、当該タイミングにおいては、フレーム間予測を用いずに符号化した独立フレーム画像データを記録する、画像処理装置。
Timing detection means for detecting a preset timing for digital music data,
The first moving image data is recorded, and during the recording of the first moving image data, information indicating the preset timing detected by the timing detecting means is added to the first moving image data. First recording control means for recording incidentally;
Second recording control means for compressing and encoding a moving image by inter-frame prediction and recording the moving image as second moving image data different from the first moving image data;
Timing information acquisition means for acquiring information indicating the timing attached to the first moving image data,
When the timing of the information obtained by the timing information obtaining means arrives during the recording of the second moving image data, the second recording control means performs the encoding without using the inter-frame prediction at the timing. An image processing device that records independent frame image data.
上記独立フレーム画像データは、動画像中のI(Intra−coded)フレーム画像、または動画像と関連付けた静止画像のいずれかである、請求項2、4、5いずれか記載の画像処理装置。   The image processing apparatus according to claim 2, wherein the independent frame image data is one of an I (Intra-coded) frame image in a moving image and a still image associated with the moving image. デジタル音楽データを再生する音楽再生手段をさらに備え、
上記タイミング情報取得手段は、上記音楽再生手段で再生する音楽に対する、予め設定したタイミングを示す情報を取得する、請求項4記載の画像処理装置。
Further comprising a music reproducing means for reproducing digital music data,
The image processing apparatus according to claim 4, wherein the timing information acquisition unit acquires information indicating a preset timing for music played by the music playback unit.
上記タイミング情報取得手段は、ユーザが予め設定したタイミングを示す情報を取得する、請求項4記載の画像処理装置。   The image processing apparatus according to claim 4, wherein the timing information acquisition unit acquires information indicating a timing set in advance by a user. 画像処理装置での画像処理方法であって、
動画像データを記録する第1の記録制御工程と、
デジタル音楽データに対して予め設定されているタイミングを検出するタイミング検出工程と、を有し、
上記第1の記録制御工程は、上記動画像データに、上記タイミング検出工程により検出された上記予め設定されているタイミングを示す情報を付帯して記録する、画像処理方法。
An image processing method in an image processing device,
A first recording control step of recording moving image data;
A timing detection step of detecting a preset timing for the digital music data,
The first recording control step is an image processing method for recording the moving image data together with information indicating the preset timing detected in the timing detection step.
画像処理装置での画像処理方法であって、
動画像をフレーム間予測により圧縮符号化して動画像データとして記録する第2の記録制御工程と、
上記動画像データと比較する、上記動画像データとは異なる動画像データに対して予め設定されているタイミングを示す情報を取得するタイミング情報取得工程と、を有し、
上記第2の記録制御工程は、上記動画像データの記録中、上記タイミング情報取得工程で取得した情報のタイミングが到来すると、当該タイミングにおいては、フレーム間予測を用いずに符号化した独立フレーム画像データを記録する、画像処理方法。
An image processing method in an image processing device,
A second recording control step of compressing and encoding a moving image by inter-frame prediction and recording as moving image data;
Compared with the moving image data, comprising a timing information obtaining step of obtaining information indicating a preset timing for moving image data different from the moving image data,
In the second recording control step, during the recording of the moving image data, when the timing of the information acquired in the timing information acquiring step comes, at the timing, an independent frame image encoded without using inter-frame prediction An image processing method that records data.
画像処理装置が内蔵したコンピュータが実行するプログラムであって、上記コンピュータを、
動画像データを記録する第1の記録制御手段、
デジタル音楽データに対して予め設定されているタイミングを検出するタイミング検出手段、として機能させ、
上記第1の記録制御手段は、上記動画像データに、上記タイミング検出手段により検出された上記予め設定されているタイミングを示す情報を付帯して記録する、プログラム。
A program to be executed by a computer incorporated in the image processing apparatus, the computer comprising:
First recording control means for recording moving image data,
Function as timing detection means for detecting a preset timing for digital music data,
A program, wherein the first recording control means records the moving image data together with information indicating the preset timing detected by the timing detection means.
画像処理装置が内蔵したコンピュータが実行するプログラムであって、上記コンピュータを、
動画像をフレーム間予測により圧縮符号化して動画像データとして記録する第2の記録制御手段、
上記動画像データと比較する、上記動画像データとは異なる動画像データに対して予め設定されているタイミングを示す情報を取得するタイミング情報取得手段、として機能させ、
上記第2の記録制御手段は、上記動画像データの記録中、上記タイミング情報取得手段で取得した情報のタイミングが到来すると、当該タイミングにおいて、フレーム間予測を用いずに符号化した独立フレーム画像データを記録する、プログラム。
A program to be executed by a computer incorporated in the image processing apparatus, the computer comprising:
Second recording control means for compressing and encoding a moving image by inter-frame prediction and recording it as moving image data;
Compared with the moving image data, timing information acquisition means for acquiring information indicating a preset timing for moving image data different from the moving image data,
When the timing of the information obtained by the timing information obtaining means arrives during the recording of the moving image data, the second recording control means sets the independent frame image data encoded without using inter-frame prediction at the timing. To record the program.
JP2018117287A 2018-06-20 2018-06-20 Image processing apparatus, image processing method, and program Pending JP2019220859A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018117287A JP2019220859A (en) 2018-06-20 2018-06-20 Image processing apparatus, image processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018117287A JP2019220859A (en) 2018-06-20 2018-06-20 Image processing apparatus, image processing method, and program

Publications (1)

Publication Number Publication Date
JP2019220859A true JP2019220859A (en) 2019-12-26

Family

ID=69097119

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018117287A Pending JP2019220859A (en) 2018-06-20 2018-06-20 Image processing apparatus, image processing method, and program

Country Status (1)

Country Link
JP (1) JP2019220859A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021261081A1 (en) * 2020-06-24 2021-12-30 ソニーグループ株式会社 Information processing device, information processing method, and recording medium

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021261081A1 (en) * 2020-06-24 2021-12-30 ソニーグループ株式会社 Information processing device, information processing method, and recording medium

Similar Documents

Publication Publication Date Title
CN107967706B (en) Multimedia data processing method and device and computer readable storage medium
CN110502954B (en) Video analysis method and device
CN111476911B (en) Virtual image realization method, device, storage medium and terminal equipment
CN108510597A (en) Edit methods, device and the non-transitorycomputer readable storage medium of virtual scene
CN111429517A (en) Relocation method, relocation device, storage medium and electronic device
CN112822522B (en) Video playing method, device, equipment and storage medium
KR20120053006A (en) Improved audio/video methods and systems
EP3787291A1 (en) Method and device for video encoding, storage medium, and equipment
KR101598710B1 (en) Mobile terminal and method for controlling the same
CN110769313B (en) Video processing method and device and storage medium
CN108769738B (en) Video processing method, video processing device, computer equipment and storage medium
JP7441926B2 (en) Computer program that performs video coding
CN110996117B (en) Video transcoding method and device, electronic equipment and storage medium
JP7427747B2 (en) Video display device and video display method
EP4047944A1 (en) Video processing method and electronic device
CN109168032B (en) Video data processing method, terminal, server and storage medium
CN110750734A (en) Weather display method and device, computer equipment and computer-readable storage medium
JP2020119334A (en) Program, electronic apparatus, and data recording method
CN113509720A (en) Playback method, device, terminal, server and storage medium for virtual battle
US11343577B2 (en) Electronic device and method of providing content therefor
CN112911337B (en) Method and device for configuring video cover pictures of terminal equipment
JP2019220859A (en) Image processing apparatus, image processing method, and program
CN112419143A (en) Image processing method, special effect parameter setting method, device, equipment and medium
CN110377914B (en) Character recognition method, device and storage medium
CN112995760A (en) Video processing method, device, equipment and computer storage medium