JP6344592B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP6344592B2
JP6344592B2 JP2013026977A JP2013026977A JP6344592B2 JP 6344592 B2 JP6344592 B2 JP 6344592B2 JP 2013026977 A JP2013026977 A JP 2013026977A JP 2013026977 A JP2013026977 A JP 2013026977A JP 6344592 B2 JP6344592 B2 JP 6344592B2
Authority
JP
Japan
Prior art keywords
correction
frame
controller
unit
moving image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013026977A
Other languages
English (en)
Other versions
JP2013214956A (ja
Inventor
真也 竹田
真也 竹田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2013026977A priority Critical patent/JP6344592B2/ja
Publication of JP2013214956A publication Critical patent/JP2013214956A/ja
Application granted granted Critical
Publication of JP6344592B2 publication Critical patent/JP6344592B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/7921Processing of colour television signals in connection with recording for more than one processing mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

本開示は、動画像の編集が可能な画像処理装置に関する。
取得した静止画像データまたは動画像データである素材を編集できる電子機器およびプログラムが知られている。例えば、特許文献1は、GOP単位でフレーム間符号化された動画素材を任意のフレームで編集でき、編集情報を動画素材に対応付けて管理する動画素材編集装置を開示している。
特開2009−260933号公報
動画像編集を簡単に済ませたいユーザにとっては、より短時間で動画像編集が可能であることが望ましい。
本開示は、動画像編集をより効率よく行うことができる画像処理装置を提供する。
本開示における画像処理装置は、複数のフレームを含む動画像データと、前記複数のフレームそれぞれの画像の特性値を示す特性情報とを取得する取得部と、前記複数のフレームうちの1つのフレームである補正対象フレームの指定を受け付ける受付部と、前記特性情報に基づいて、前記補正対象フレームを含む連続した複数フレームから構成されるフレーム群が属する区間を補正区間として特定する特定部と、ユーザによって指定された内容の画像補正を、前記特定部によって特定された前記補正区間に属する前記フレーム群に対して適用する画像処理部と、を備える。
本開示における画像処理装置は、動画像編集をより効率よく行うことができる。
実施の形態におけるデジタルビデオカメラの主要なハードウェア構成を示す図 実施の形態におけるパーソナルコンピュータ(PC)の主要なハードウェア構成を示す図 実施の形態におけるPCの主要な機能構成を示すブロック図 実施の形態におけるデジタルビデオカメラの動作の流れの一例を示すフローチャート 実施の形態のデジタルビデオカメラにおいて動画記録中に作成されるメタデータの模式図 実施の形態における画像編集アプリケーションの編集画面の構成例を示す図 実施の形態のPCにおける補正処理に係る基本的な処理の流れを示すフローチャート 実施の形態のPCにおける補正処理に係る具体的な処理の流れの一例を示すフローチャート 実施の形態のPCにおける符号化処理の流れの一例を示すフローチャート 実施の形態におけるPCが有する、補正区間のエンコード処理に係る機能構成を示すブロック図
以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。
なお、発明者らは、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。
(実施の形態)
<1−1.概要>
図1は、実施の形態におけるデジタルビデオカメラ100の主要なハードウェア構成を示す図である。
図2は、実施の形態におけるパーソナルコンピュータ(PC)400の主要なハードウェア構成を示す図である。
本実施の形態におけるデジタルビデオカメラ100は、動画撮影時に、動画像の実データとともに、撮影条件をメタデータとして記録する。
また、本実施の形態におけるPC400は、入力された動画像データにおいて、同一カット内から、例えば同一撮影条件と見なせる区間を特定する。そして、PC400は、同一の撮影条件と見なせる区間についての補正をまとめて行なう。
以下、図を用いて、本実施の形態にかかるデジタルビデオカメラ100および、PC400の構成と動作について説明する。
<1−2.構成>
<1−2−1.ムービーカメラの構成>
本実施の形態におけるデジタルビデオカメラ100の構成について図1を用いて説明する。
デジタルビデオカメラ100では、1以上のレンズで構成される光学系110により形成された被写体像をCMOSイメージセンサ140が撮像する。
CMOSイメージセンサ140で生成された画像データは、画像処理部160で各種処理が施され、メモリカード200に格納される。
光学系110は、ズームレンズおよびフォーカスレンズなどにより構成される。ズームレンズを光軸に沿って移動させることにより、被写体像の拡大および縮小をすることができる。また、フォーカスレンズを光軸に沿って移動させることにより、被写体像のピントを調整することができる。
レンズ駆動部120は、光学系110に含まれる各種レンズの移動を駆動する。レンズ駆動部120は、例えば、ズームレンズを駆動するズームモータ、および、フォーカスレンズを駆動するフォーカスモータを含む。
絞り300は、ユーザの設定に応じてまたは自動で、開口部の大きさを調整し、これにより、絞り300を透過する光の量を調整する。
シャッタ130は、シャッタ130を介してCMOSイメージセンサ140に到達する光を遮光する。
CMOSイメージセンサ140は、光学系110で形成された被写体像を撮像して、画像データを生成する。CMOSイメージセンサ140は、露光、転送、および電子シャッタなどの各種動作を行う。
A/Dコンバータ150は、CMOSイメージセンサ140で生成されたアナログ画像データをデジタル画像データに変換する。
画像処理部160は、CMOSイメージセンサ140で生成された画像データ(より詳細には、A/Dコンバータ150による変換後のデジタル画像データ、以下同じ。)に対して各種処理を施し、表示モニタ220に表示するための画像データの生成、および、メモリカード200に格納するための画像データの生成等を行う。
画像処理部160は、例えば、CMOSイメージセンサ140で生成された画像データに対して、ガンマ補正、ホワイトバランス補正、および傷補正などの各種処理を行う。
また、画像処理部160は、CMOSイメージセンサ140で生成された画像データを、動画像データとして、H.264規格またはMPEG2規格に準拠した圧縮形式等により圧縮する。
また、画像処理部160は、CMOSイメージセンサ140で得られる感度に関する情報、シャッタ速度に関する情報、および、画像処理部160で施したホワイトバランス補正に用いた値(ホワイトバランス値)などを、記録中の動画像データについての撮影条件(撮影情報)を示すメタデータとして、1フレーム単位で記録する。
なお、画像処理部160は、DSP(Digital Signal Processor)またはマイコンなどで実現可能である。
また、メタデータは、複数のフレームそれぞれの画像の特性値を示す特性情報の一例であり、上記の感度に関する情報、シャッタ速度に関する情報、および、ホワイトバランス値のそれぞれは、画像の特性値の一例である。
コントローラ180は、デジタルビデオカメラ100全体を制御する。コントローラ180は、半導体素子などで実現可能である。また、コントローラ180は、ハードウェアのみで構成してもよいし、ハードウェアとソフトウェアとを組み合わせることにより実現してもよい。コントローラ180は、マイコンなどで実現できる。
バッファ170は、画像処理部160及びコントローラ180のワークメモリとして機能する。バッファ170は、例えば、DRAM、または強誘電体メモリなどで実現できる。
カードスロット190は、メモリカード200を装着可能な装置である。具体的にはカードスロット190は、機械的及び電気的にメモリカード200と接続可能である。
メモリカード200は、フラッシュメモリまたは強誘電体メモリなどを内部に含み、画像処理部160で生成された動画像データ等を格納可能である。
内部メモリ230は、フラッシュメモリまたは強誘電体メモリなどで構成される。内部メモリ230は、デジタルビデオカメラ100全体を制御するための制御プログラム等を記憶している。
操作部210は、ユーザからの操作を受け付けるユーザインターフェースである。操作部210は、例えば、ユーザからの操作を受け付ける動画記録釦、十字キー、および決定釦等を有する。
デジタルビデオカメラ100が撮影モードのとき、コントローラ180は、ユーザによる動画記録釦の押下を受け付けて、動画像データのメモリカード200への記録動作を開始する。そして、動画記録中に、ユーザによる動画記録釦の押下を受け付けると、コントローラ180は、動画像データのメモリカード200への記録動作を停止する。
表示モニタ220は、CMOSイメージセンサ140で生成した画像データが示す画像(スルー画像)および、メモリカード200から読み出した画像データが示す画像を表示可能である。また、表示モニタ220は、デジタルビデオカメラ100の各種設定を行うための各種メニュー画面等も表示可能である。
ジャイロセンサ240は、デジタルビデオカメラ100の単位時間あたりの角度変化、すなわち角速度に基づいて、ヨーイング方向のぶれおよびピッチング方向の動きを検出する。ジャイロセンサ240は、検出した動きの量を示すジャイロ信号をコントローラ180に出力する。
<1−2−2.PCの構成>
PC400は、画像処理装置の一例であり、コントローラ401、システム管理メモリ402、ワークメモリ403、HDD404、USBコネクタ407、表示デバイス408を備える。また、PC400には、マウス405、キーボード406、液晶ディスプレイ409等が接続されている。
コントローラ401は、CPU(Central Processing Unit)等のプロセッサを有し、PC400における各種の情報を実行する処理部である。コントローラ401は、システム管理メモリ402、ワークメモリ403、HDD404、表示デバイス408、およびUSBコネクタ407と電気的に接続されている。
コントローラ401は、表示デバイス408を介して、液晶ディスプレイ409に表示される画面を変更することができる。また、コントローラ401は、USBコネクタ407を介して、マウス405およびキーボード406を用いてのユーザの操作情報を受け付ける。
また、コントローラ401は、PC400の各部に供給される電力等のシステム(図示せず)を全体的に制御している。
システム管理メモリ402は、OS(オペレーションシステム)などが保持されているメモリである。また、システム管理メモリ402には、システム時刻などが格納されている。システム時刻は、コントローラ401がOSのプログラムを実行することにより更新される。
ワークメモリ403は、コントローラ401が各種処理動作を実行するために必要な情報を一時的に格納するメモリである。ワークメモリ403には、コントローラ401により、例えば、編集対象の動画像データの撮影情報、ユーザにより調整された各種のパラメータを示す補正情報、補正を適用する区間(補正区間)を定義する情報などが格納される。
PC400が、動画像データに対する編集処理を実行する際にワークメモリ403に保持される各種の情報について以下に説明する。
ワークメモリ403は、補正対象の動画像データに対応付けられたメタデータから得られる、各フレームの撮影情報を有している。つまり、ワークメモリ403には、補正対象の動画像データが有する特性情報である、フレームごとの撮影情報が格納される。
コントローラ401は、ワークメモリ403に格納された撮影情報を取得すること、および更新することができる。
ワークメモリ403は、ユーザが所望する画像補正のパラメータを、補正情報として有している。画像補正のパラメータとしては、色相、彩度、明度、輝度、コントラスト強度、ノイズ除去フィルタ強度などが例示される。コントローラ401は、ワークメモリ403に格納された補正情報を取得すること、および更新することができる。
ワークメモリ403は、補正区間を定義する情報を補正区間情報として有している。コントローラ401は、ワークメモリ403に格納された補正区間情報を取得すること、および更新することができる。また、コントローラ401は、ワークメモリ403から補正区間情報を取得し、当該補正区間情報に示される値を用いて、表示デバイス408を介して、液晶ディスプレイ409に補正区間の提示をすることができる。
HDD404は、動画像データなどを格納する大容量のディスクドライブである。また、HDD404には、画像編集アプリケーションプログラム500(以下、「画像編集アプリケーション500」という。)の実行ファイルが格納されている。
コントローラ401は、ユーザによる画像編集アプリケーション500の起動指示に従って、HDD404に格納されている実行ファイルをワークメモリ403に展開する。これにより、コントローラ401は、画像編集アプリケーション500の各種処理動作を実行できるようになる。
マウス405は、ユーザが編集操作時に使用するポインティングデバイスである。ユーザは、マウス405を操作することにより、画像編集アプリケーション500の編集画面上において、補正対象となるフレームの選択および変更、補正区間の変更、各種補正のパラメータの調整等を行うことができる。
液晶ディスプレイ409に表示される編集画面の構成例については、図6を用いて後述する。
キーボード406は、ユーザが編集操作時にPC400への文字入力などを行う、キーボードデバイスである。
USBコネクタ407は、マウス405、キーボード406、およびカードスロット410をPC400に接続するためのコネクタである。
カードスロット410は、メモリカード200を装着可能な装置である。具体的にはカードスロット410は、機械的及び電気的にメモリカード200と接続可能である。
また、カードスロット410は、USBコネクタ407を介してコントローラ401と電気的に接続可能である。なお、カードスロット410は、USBコネクタ407等を介した外付けのものに限定されず、PC400に内蔵されていてもよい。
表示デバイス408は、コントローラ401で演算された画面情報を映像化するデバイスであり、画面情報を液晶ディスプレイ409に伝える。
液晶ディスプレイ409は、表示デバイス408で映像化された画面情報を表示する表示装置である。
コントローラ401は、画像編集アプリケーション500をHDD404から読み出し、ワークメモリ403に格納して、画像編集アプリケーション500を起動し実行する。
また、コントローラ401は、ワークメモリ403から撮影情報を取得し、例えば、撮影情報が変化する点を特定することができる。そして、コントローラ401は、例えば、動画像データにおいてユーザが補正対象として選択したフレームの撮影情報と同一とみなせる撮影情報を有する1以上のフレームを特定する。これにより、補正対象として選択されたフレームを含む複数フレームから構成されるフレーム群が属する区間が、補正区間の候補として特定される。
コントローラ401はさらに、特定した補正区間によって、ワークメモリ403に格納されている補正区間情報を更新することができる。
また、コントローラ401は、ユーザの操作によって調整された補正区間により、ワークメモリ403に格納されている補正区間情報を更新することができる。
また、コントローラ401は、ワークメモリ403から補正情報を取得し、補正情報に含まれている値を用いて、補正対象の動画像データを復号処理することで得られるフレームに対して、画像処理(補正)を実施することができる。
コントローラ401は、HDD404に格納されている補正対象の動画像データを読み出して復号処理し、復号された動画像データに対して画像処理を施し、画像処理を施した動画像データを符号化し、出力ファイルとしてHDD404に格納することができる。
また、コントローラ401は、復号処理の過程で、当該動画像データから、動きベクトルおよび画面内予測モード等を抽出することができ、抽出した動きベクトルおよび画面内予測モード等を用いて、符号化処理の一部の過程を高速に実施することができる。
コントローラ401が実行する、復号、補正、符号化の一連の処理の具体的な流れについては、図9および図10を用いて後述する。
次に、実施の形態に係るPC400の機能的な構成を、図3を用いて説明する。
図3は、実施の形態におけるPC400の主要な機能構成を示すブロック図である。
図3に示すように、実施の形態におけるPC400は、主要な機能構成として、取得部420、受付部430、特定部440、および画像処理部450を備える。
なお、以下に説明する、取得部420、受付部430、特定部440、および画像処理部450のそれぞれの処理は、本実施の形態では、コントローラ401が上記の画像編集アプリケーション500等を実行することで実現される。
取得部420は、複数のフレームを含む動画像データと、当該複数のフレームそれぞれの画像の特性値を示す特性情報とを取得する。
本実施の形態では、取得部420(コントローラ401)は、デジタルビデオカメラ100によって生成された、フレームごとの撮影情報を示すメタデータを有する動画像データを、メモリカード200を介して取得する。
受付部430は、複数のフレームうちの1つのフレームである補正対象フレームの指定を受け付ける。
本実施の形態では、受付部430(コントローラ401)は、マウス405またはキーボード406が操作されることでPC400に入力される補正対象フレームの指定を、USBコネクタ407を介して受け付ける。
特定部440は、特性情報に基づいて、補正対象フレームを含む連続した複数フレームから構成されるフレーム群が属する区間を補正区間として特定する。
本実施の形態では、特定部440(コントローラ401)は、補正対象フレームのメタデータに示される特性値(撮影情報に示されるホワイトバランス値等)に基づいて、補正区間を特定する。
画像処理部450は、ユーザによって指定された内容の補正を、特定部440によって特定された補正区間に属するフレーム群に対して適用する。
本実施の形態では、画像処理部450(コントローラ401)は、ユーザによってマウス405またはキーボード406が操作されることで設定される、補正の種類およびパラメータ等に応じて、補正区間に属するフレーム群に対する補正を行う。
なお、この補正の際には、具体的には、画像処理部450(コントローラ401)によって、上述のように復号処理および符号化処理が実行される。
なお、「フレームに補正を適用する」という場合、本実施の形態では、画像処理装置として機能するPC400が、当該フレームに示される画像に対する補正処理を行うことを意味する。
また、フレームに適用される「補正」または「補正処理」としては、当該フレームの画像に対する、色相、彩度、明度、輝度、色温度、色合い、もしくはコントラストの変更、またはノイズの除去などの処理が例示される。簡単に言うと、「補正」または「補正処理」とは、当該フレームの画像を明るくすること、色を変更すること、またはざらつきを抑えることなど、画像全体としての配置構成の実質的な変更を伴わない画像処理のことである。
つまり、フレームに適用される「補正」または「補正処理」とは、当該フレームに示される画質の変更等と言い換えることも可能である。
<1−3.動作>
<1−3−1.デジタルビデオカメラによる記録動作>
続いて、デジタルビデオカメラ100による記録動作について図4を用いて説明する。
図4は、実施の形態におけるデジタルビデオカメラ100の動作の流れの一例を示すフローチャートである。
コントローラ180は、動画記録釦が押されたかどうかを判定する(S301)。動画記録釦が押された場合(S301でYes)、コントローラ180は、動画像データのメモリカード200への記録を開始する(S302)。
コントローラ180は、動画像データの記録を開始するとともに、メタデータのメモリカード200への記録を開始する(S303)。
メタデータは、生成される動画像データのフレームの1枚毎に、該フレームが生成されたときの撮影情報が記述されたデータである。例えば、60fps(Frames Per Second)で記録した動画像データであれば、1秒分の撮影情報として60セットの撮影情報が記述されたメタデータが記録される。
コントローラ180は、動画記録釦が再度押されたかどうかを判定する(S304)。動画記録釦が再度押された場合(S304でYes)、コントローラ180は、動画の記録を終了するとともに、メタデータの記録も終了する(S305、S306)。
動画記録釦が再度押されていない場合(S304でNo)、コントローラ180は、動画像データの記録(S302)とメタデータの記録(S303)とを継続する。
図5は、実施の形態のデジタルビデオカメラ100において動画記録中に作成されるメタデータの模式図である。
図5の(A)は、デジタルビデオカメラ100で生成される動画像データ全体の模式図である。図5の(B)は、図5の(A)に示している動画像データの一部を構成する複数のフレームの模式図である。図5の(C)は、図5の(B)に示す複数フレームのそれぞれに対応した撮影条件を記述したメタデータの模式図である。
メタデータは、動画像データのフレーム1枚につき1セット関連づけられており、例えば、動画像データの各フレームのヘッダー部の中に、該フレームに対応するメタデータが記録される。メタデータの1セットには、ホワイトバランス値、感度に関する値、およびシャッタスピードを表す値などが記録される。
<1−3−2.PCによる補正区間の判定動作>
続いて、PC400による補正区間の特定動作について説明する。まず、画像編集にあたっての準備動作について説明する。
カードスロット410は、上述のように、デジタルビデオカメラ100によりメタデータを含む動画像データが記録されたメモリカード200を装着することができる。カードスロット410に、メモリカード200が装着されると、コントローラ401は、メモリカード200が装着された旨を検出する。
コントローラ401が、メモリカード200を検出すると、ユーザは、マウス405等を用いて、メモリカード200内に記録された動画像データを、PC400のHDD404にコピーすることができる。
これにより、PC400のHDD404に、図4に示すフローチャートに従って記録された動画像データが記録される。すなわち、HDD404には、動画像データの各フレームの実体データとともに、各フレームのヘッダー部に含まれる該フレームに対応するメタデータも記録される。
ユーザにより、画像編集アプリケーション500を実行するための実行ファイルが、マウス405等を用いて選択されると、コントローラ401は、画像編集アプリケーション500を実行し、起動させる。コントローラ401は、画像編集アプリケーション500を起動させると、液晶ディスプレイ409に、画像編集アプリケーションの画面(編集画面)を表示する。
図6は、実施の形態における画像編集アプリケーション500の編集画面501の構成例を示す図である。
編集画面501は、プレビューエリア510、調整バーエリア520、補正区間表示エリア530、および決定釦540などから構成される。
プレビューエリア510は、動画像データの内容を表示する表示パネル511、停止釦512、巻き戻し釦513、再生釦514、一時停止釦515、および早送り釦516を有している。
ユーザは、停止釦512、巻き戻し釦513、再生釦514、一時停止釦515、および早送り釦516をマウス405等により選択することで、動画像データにおいて、補正したいフレームを探すことができる。また、ユーザは、表示パネル511により、補正適用後の動画像を確認することができる。
例えば、ユーザがマウス405を用いて再生釦514を押すと、コントローラ401は、HDD404から補正対象の動画像データを読み出して復号処理を実施する。そして、コントローラ401は、復号結果の動画像データを構成する各フレームを連続的に表示デバイス408を介して液晶ディスプレイ409上の表示パネル511の位置に表示する。これにより、補正対象の動画像データが再生される。
ユーザがマウス405を用いて一時停止釦515を押すと、コントローラ401は、復号結果の動画像データを構成する複数フレームのうち1フレームだけ表示デバイス408を介して液晶ディスプレイ409上の表示パネル511の位置に表示する。つまり、表示パネル511に表示されている当該1フレームが補正対象フレームとして選択される。
このように、ユーザは、停止釦512、巻き戻し釦513、再生釦514、一時停止釦515、および早送り釦516をマウス405等により選択することで、動画像データにおいて、補正したいフレームを探すことができる。
調整バーエリア520は、本実施の形態では、色合い調整バー521、明るさ調整バー522、およびノイズ除去強度バー523を有しており、ユーザが好みに合わせて画像を補正することができる。
コントローラ401は、ワークメモリ403に格納されている補正情報を読み出し、補正情報に示される各パラメータの値を各調整バーの位置情報にプロットする。これにより、液晶ディスプレイ409上の調整バーエリア520に、色合い調整バー521、明るさ調整バー522、およびノイズ除去強度バー523のそれぞれが、当該補正情報に応じた位置に表示される。
例えば、各調整バーの位置は、デフォルトでは±0の位置となっている。つまり、このときワークメモリ403に格納されている補正情報は、色合い、明るさ、ノイズ除去のいずれも調整値が±0となるよう記述されている。
ユーザが、色合い調整バー521、明るさ調整バー522、およびノイズ除去強度バー523のいずれかをマウス405を用いて位置を変更した場合を想定する。この場合、コントローラ401は、表示パネル511に表示している復号結果のフレームに対して、変更後の調整バーの位置に合わせた補正情報に従った画像処理を施し、画像処理を施した結果を表示デバイス408を介して液晶ディスプレイ409上の表示パネル511の位置に表示する。
すなわち、ユーザが、マウス405を用いて各調整バーの位置を変更すると、それに伴って、表示パネル511には調整結果が反映されたフレームのプレビューがリアルタイムに表示される。これにより、ユーザは、所望の調整結果となったか否かを容易に把握することができる。
補正区間表示エリア530には、編集対象としている動画像データの時間軸情報が示される。また、補正区間表示エリア530には、編集対象の動画像データの全区間を示すバーと、当該全区間を示すバーに対応して、記録開始からカウントした時間とが表示されている。
また、補正区間表示エリア530は、ポインタ531、補正区間532などを含んでいる。ポインタ531は、現在、表示パネル511に表示されているフレームの、動画像データの全区間中の位置を示す。つまり、補正対象フレームの動画像データの全体における位置がポインタ531によって示される。
これにより、ユーザは、現在表示されているフレーム(補正対象フレーム)が、動画像データの全区間中のどこに位置するかを容易に把握することができる。
補正区間532は、ユーザが調整バーエリア520を使用して調整した補正内容が、動画像データの全区間のうち、どの範囲に適用されるかを示す。
これにより、ユーザは、自身が選択および調整した内容の補正が動画像データの全区間のうち、どの範囲に適用されるかを容易に確認することできる。また、ユーザは、提示されている補正区間532の左右両端の少なくとも一方をマウス405を用いてドラッグすることで、補正区間の長さを調整することができる。
コントローラ401は、ワークメモリ403に格納されている補正区間情報を読み出し、補正区間表示エリア530の時間的な位置情報にプロットする。コントローラ401はさらに、当該時間的な位置情報を、表示デバイス408を介して液晶ディスプレイ409上の補正区間表示エリア530に補正区間532として提示する。
また、ユーザが、提示されている補正区間532の左右両端の少なくとも一方をマウス405を用いてドラッグすると、コントローラ401は、時間的な位置情報を補正区間情報にプロットし、これを新たな補正区間情報として、ワークメモリ403に格納されている補正区間情報を更新する。
つまり、コントローラ401は、特定した補正区間532に対する変更の指示を受け付けた場合、当該変更の指示に応じて補正区間532を更新する。
ユーザが、決定釦540をマウス405を用いて押すと、コントローラ401は、ワークメモリ403に格納されている補正区間情報と、補正情報とを読み出し、補正結果のファイル出力処理を実施し、HDD404に出力結果(つまり、補正後の動画像データ)を格納する。
次に、図7を用いて、PC400の、補正処理に係る基本的な処理の流れを説明する。
図7は、実施の形態のPC400における補正処理に係る基本的な処理の流れを示すフローチャートである。
具体的には、図7は、実施の形態におけるコントローラ401によって実現される各機能ブロック(取得部420、受付部430、特定部440および画像処理部450、図3参照)の基本的な処理を示している。
取得部420は、複数のフレームを含む動画像データと、当該複数のフレームそれぞれの画像の特性値を示す特性情報メタデータとを取得する(S400)。
受付部430は、当該複数のフレームうちの1つのフレームである補正対象フレームの指定を受け付ける(S410)。
特定部440は、当該特性情報に基づいて、当該補正対象フレームを含む連続した複数フレームから構成されるフレーム群が属する区間を補正区間として特定する(S420)。
画像処理部450は、ユーザによって指定された内容の補正を、特定部440によって特定された補正区間に属する当該フレーム群に対して適用する(S430)。
続いて、図8を用いて、PC400の、補正処理に係る具体的な処理の流れの一例を説明する。
図8は、実施の形態のPC400における補正処理に係る具体的な処理の流れの一例を示すフローチャートである。
コントローラ401は、HDD404から補正対象の動画像データを読み出し、復号処理を実施し、表示パネル511に表示する。これにより、補正対象の動画像が再生される(S601)。
コントローラ401は、一時停止釦515が押されたかどうかを判断する(S602)。一時停止釦515が押下されなければ(S602でNo)、コントローラ401は、補正対象の動画像データの再生を継続する。一時停止釦515押されたと判断した場合(S602でYes)、コントローラ401は、補正区間を特定する(S603)。
コントローラ401は、補正区間の特定において、まず、ワークメモリ403に格納している各フレームのメタデータ(図5の(C)参照))の中から、表示パネル511に表示しているフレーム(補正対象フレーム)に対応するメタデータを読み出す。
続いて、コントローラ401は、補正対象フレームから時間的に前方(図5における左方向)に位置するフレームのメタデータを走査していく。
コントローラ401は、補正対象フレームのメタデータが示すパラメータ(例えば、ホワイトバランス値、感度値、およびシャッタスピード値の少なくとも1つ)と、同一とみなせるパラメータを示すメタデータを有する1以上のフレームを特定する。
コントローラ401は、補正対象フレームのメタデータが示すパラメータとの差分が、例えば所定の閾値以下の値を示すパラメータを示すメタデータを有する1以上のフレームを特定する。
コントローラ401は、補正対象フレームから時間的に前方に位置するフレームのメタデータを走査した結果、補正対象フレームのメタデータが示すパラメータと、同一とみなせなくなったパラメータに対応するフレームを特定する。コントローラ401はさらに、特定したフレームの時間的に1つ後のフレームの開始位置を、補正区間532の左側(補正開始位置)と決定する。
続いて、コントローラ401は、補正対象フレームから時間的に後方(図5におけるの右方向)に位置するフレームのメタデータを走査していく。
コントローラ401は、補正対象フレームのメタデータが示すパラメータと同一とみなせるパラメータを示すメタデータを有する1以上のフレームを特定する。そして、コントローラ401は、補正対象フレームから時間的に後方に位置するフレームのメタデータを走査した結果、補正対象フレームのメタデータが示すパラメータと、同一とみなせなくなったパラメータに対応するフレームを特定する。コントローラ401はさらに、特定したフレームの時間的に1つ前のフレームの終端位置を、補正区間532の右側(補正終端位置)と決定する。
つまり、本実施の形態のコントローラ401は、補正対象フレームの時間的に前および後のうちの少なくとも一方の1以上のフレームであって、当該補正対象フレームの特性値から所定の範囲内の特性値を有する前記1以上のフレームを特定する。これにより、コントローラ401は、当該補正対象フレームおよび当該1以上のフレームを含むフレーム群が属する補正区間532を特定する。
続いて、コントローラ401は、特定した補正区間532の時間範囲を時間軸上にプロットすることで、補正区間532を示す画像を補正区間表示エリア530中に提示する(S604)。
続いて、コントローラ401は、色合い調整バー521、明るさ調整バー522、およびノイズ除去強度バー523のいずれかの調整バーがユーザによって操作されたかを判断する(S605)。
色合い調整バー521、明るさ調整バー522、およびノイズ除去強度バー523のいずれかの調整バーが操作されなければ(S605でNo)、コントローラ401は、一時停止されたフレーム(補正対象フレーム)の表示パネル511における表示を維持する。
一方、色合い調整バー521、明るさ調整バー522、およびノイズ除去強度バー523のいずれかの調整バーが操作された場合(S605でYes)、コントローラ401は、表示パネル511に表示している復号結果の補正対象フレームに対して、各調整バーの位置に合わせた補正情報に従った画像処理(補正)を施す。コントローラ401はさらに、画像処理を施した結果の画像を表示デバイス408を介して液晶ディスプレイ409上の表示パネル511の位置に表示する(S606)。
コントローラ401は、決定釦540が押されたかどうかを判断する(S607)。決定釦540が押下されなければ(S607でNo)、コントローラ401は、補正区間532の変更の指示があったか否かを判断する(S608)。
補正区間532の変更の指示がなされていないと判断した場合(S608でNo)、コントローラ401は、補正区間532に示される補正開始位置と補正終端位置とを変更せずに提示処理(S604)を継続する。
一方、補正区間532の変更の指示がなされたと判断した場合(S608でYes)、コントローラ401は、補正区間532を定義する補正区間情報を変更し(S610)、変更後の補正区間情報に従った補正区間532の提示処理をする(S604)。
S607において、決定釦が押下されたと判断した場合(S607でYes)、コントローラ401は、動画像データのエンコード処理を実施する(S609)。
すなわち、コントローラ401は、補正区間532に属するフレーム群に対して、調整バーエリア520の各調整バーの位置に合わせた補正情報に従った画像処理を施す。そして、コントローラ401は、画像処理を施した結果のデータを符号化して、HDD404に格納する。これにより補正後の動画像データが得られる。
<1−3−3.PCによる補正後のファイル出力動作>
続いて、エンコード処理(S609)の詳細、つまり、PC400における、補正後の動画像データを出力するときの符号化処理の詳細を、図9を用いて説明する。
図9は、実施の形態のPC400における符号化処理の流れの一例を示すフローチャートである。
まず、コントローラ401は、HDD404から補正対象の動画像データを読み出す(S701)。続いて、フレーム位置を示すカウンタiをゼロで初期化する(S702)。
コントローラ401は、動画像データを1フレーム読み出し、読み出したi番目のフレームが補正区間532(補正開始位置から補正終端位置の間の区間)に含まれるかどうかを判断する(S703)。
i番目のフレームが補正区間532に含まれると判断した場合(S703でYes)、コントローラ401は、i番目のフレームを復号処理する(S704)。続いて、コントローラ401は、復号処理したi番目のフレームに対して、調整バーエリア520の各調整バーの位置に合わせた補正情報に従った画像処理を施し、補正されたi番目のフレームである非圧縮フレームを得る(S705)。
さらに、コントローラ401は、得られた非圧縮フレームに対して符号化処理を施して、i番目のフレームに対応する符号化データを得る(S706)。そして、ステップS707の多重化処理に進む。
なお、多重化処理(S707)では、S706で得られた符号化データと、例えばS701の処理の際に動画像データから分離され保持されていた、当該符号化データに対応する音声データとが多重化される。
一方、S703において、i番目のフレームが補正区間532に含まれないと判断した場合(S703でNo)、コントローラ401は、読み出したi番目のフレームに対して、調整バーエリア520の各調整バーの位置に合わせた補正情報に従った画像処理は施さず、i番目の符号化データとして扱う。そして、コントローラ401は、処理をステップS707の多重化処理に移行する。
コントローラ401は、補正がなされていないi番目の符号化データを多重化処理し(S707)、補正結果の動画像データの一部として、HDD404に格納していく(S707)。
続いて、コントローラ401は、i番目のフレームが補正対象の動画像データの最終フレームか否かを判断する(S708)。i番目のフレームが補正対象の動画像データの最終フレームと判断した場合(S708でYes)、コントローラ401は、エンコード処理を終了し、多重化処理(S707)によってHDD404に格納された補正結果の動画像データを、最終的な補正結果の動画像データとして扱う。
i番目のフレームが補正対象の動画像データの最終フレームでないと判断した場合(S708でNo)、コントローラ401は、フレームカウンタiをインクリメントし、S703からS708までの処理を継続する。
ここで、i番目のフレームに対して、復号、補正、および符号化を実施する過程(図9に示すS704からS706)において、短時間で処理を行う方法について、図10を用いて説明する。
図10は、実施の形態における画像処理部450が有する、補正区間のエンコード処理に係る機能構成を示すブロック図である。
図10に示すように、PC400が有する画像処理部450は、復号処理部810と、画像補正部830と、符号化処理部850とを有する。
つまり、復号処理部810、画像補正部830、および符号化処理部850は、本実施の形態ではコントローラ401によって実現される。
S704での復号処理は、図10における、補正前符号化データ800に対し、復号処理部810で復号処理を実施し、補正前非圧縮データ820を得ることに相当する。
また、S706での符号化処理は、図10における、補正後非圧縮データ840に対し、符号化処理部850で符号化処理を実施し、補正後符号化データ860を得ることに相当する。
図10に示すように、復号処理部810は、VLC(Variable Length Coding)復号部811、および非圧縮データ復号部813を有する。そして、復号処理部810は、補正前符号化データ800を入力データとし、補正前非圧縮データ820を出力する。
復号処理部810において、VLC復号部811は、入力された補正前符号化データ800に対してVLC復号処理を施して、復号情報812を出力する。
マクロブロック等の処理単位ごとの復号情報812には、動きベクトルまたは画面内予測モード、およびDCT係数などが含まれている。
コントローラ401は、VLC復号処理により得られた復号情報812を、例えばワークメモリ403に格納する。続いて、非圧縮データ復号部813は、復号情報812をワークメモリ403から読み出し、読み出した復号情報812を用いて、動き補償、画面内予測、および逆DCT変換の各処理を実行し、これによって得られる補正前非圧縮データ820を出力する。
画像補正部830は、補正前非圧縮データ820を入力データとし、補正後非圧縮データ840を出力する。画像補正部830は、処理対象のフレーム(補正前非圧縮データ820)に対して、調整バーエリア520の各調整バーの位置に合わせた補正情報に従った画像処理を施す。
図10に示すように、符号化処理部850は、符号化情報生成部851およびVLC符号化部852を有する。そして、符号化処理部850は、補正後非圧縮データ840を入力データとし、補正後符号化データ860を出力する。
符号化処理部850において、符号化情報生成部851は、入力された補正後非圧縮データ840に対して、マクロブロック等の処理単位ごとに、動き予測処理または画面内予測処理、およびDCT変換処理等を実施し、VLC符号化に必要な情報を生成する。
符号化処理部850は、動き予測処理を行う場合、ワークメモリ403に格納されている復号情報812から、処理対象のデータに対応する動きベクトルを読み出し、この動きベクトルを、補正後の符号化データの動きベクトルとして設定する。
また、符号化処理部850は、画面内予測処理を行う場合、ワークメモリ403に格納されている復号情報812から、処理対象のデータに対応する画面内予測モードを読み出し、この画面内予測モードを補正後の符号化データの画面内予測モードとして設定する。
そして、VLC符号化部852は、符号化情報生成部851により生成された情報に対してVLC符号化処理を施して、これによる得られる補正後符号化データ860を出力する。
以上のように、画像処理部450(コントローラ401)は、補正前の符号化データから得られる動きベクトルと画面内予測モードとを、補正後の符号化データ生成に利用することで、短時間で補正後の符号化データを生成することができる。
ここで、本実施の形態におけるPC400が実行する補正処理は、上述のように、当該フレームの画像を明るくすることなど、画像全体としての構成の変更を伴わない画像処理である。
そのため、補正対象の符号化データの復号処理によって得られる、マクロブロック等の処理単位ごとの動きベクトルまたは画面内予測モード等の情報を、補正後非圧縮データ840の符号化に利用することができる。
つまり、補正前の符号化データにおける動きベクトルまたは画面内予測モードが維持されたまま、DCT係数が変更されたデータとして、補正後の符号化データを得ることができる。
このように、本実施の形態のPC400によれば、補正後の符号化データの生成の高速化が図られる。
<1−4.効果等>
以上のように、本実施の形態におけるPC400は、取得部420と、受付部430と、特定部440と、画像処理部450とを備える。
取得部420は、複数のフレームを含む動画像データと、複数のフレームそれぞれの画像の特性値を示すメタデータとを取得する。
受付部430は、複数のフレームうちの1つのフレームである補正対象フレームの指定を受け付ける。
特定部440は、メタデータに基づいて、補正対象フレームを含む連続した複数フレームから構成されるフレーム群が属する区間を補正区間として特定する。
画像処理部450は、ユーザによって指定された内容の補正を、補正区間に属するフレーム群に対して適用する。
なお、本実施の形態では、PC400は、これら取得部420、受付部430、特定部440、および画像処理部450として機能するコントローラ401を備えている。
すなわち、画像編集装置(PC400)は、コントローラ401を備え、コントローラ401は、(i)複数のフレームを含む動画像データと、複数のフレームそれぞれの画像の特性値を示すメタデータとを取得し、(ii)複数のフレームうちの1つのフレームである補正対象フレームの指定を受け付け、(iii)メタデータに基づいて、補正対象フレームを含む連続した複数フレームから構成されるフレーム群が属する区間を補正区間として特定し、(iv)ユーザによって指定された内容の補正を、特定された補正区間に属するフレーム群に対して適用する。
PC400は、上記構成を有することで、例えば補正対象フレームと同一とみなせる撮影条件(撮影情報)と対応付けられたフレーム群が属する区間を補正区間として自動で特定できる。その結果、PC400は、補正区間に属するフレーム群に対してまとめて補正処理を施すことができ、動画像編集をより短時間で行うことができる。
また、本実施の形態において、特定部440は、補正対象フレームの、時間的に前および後のうちの少なくとも一方の1以上のフレームであって、補正対象フレームの特性値から所定の範囲内の特性値を有する1以上のフレームを特定することで、補正対象フレームおよび当該1以上のフレームを含むフレーム群が属する補正区間を特定する。
この構成により、例えば、補正対象フレームのシャッタスピードを基準値とし、当該基準値から所定の範囲内のシャッタスピードを特性値(撮影情報)として有するフレーム群が特定される。その結果、例えば補正対象フレームとほぼ同様の明るさ(または暗さ)を有するフレーム群、つまり、同一内容の補正の適用に適したフレーム群が属する補正区間が特定される。
また、本実施の形態において、特定部440は、メタデータに示される、複数のフレームそれぞれの画像の特性値である、動画像データの生成の際の撮影条件を示す値を用いて、前記補正区間を特定する。
また、本実施の形態において、画像処理部450は、補正区間に属するフレーム群のそれぞれのフレームに対して、色相、彩度、明度、輝度、コントラスト強度、ノイズ除去フィルタ強度のうちの少なくとも1つを変更する処理である補正を適用する。
この構成により、PC400は、例えばユーザの要求に応じた各種の補正を、PC400が特定した補正区間のフレーム群に適用することができる。
また、本実施の形態において、受付部430はさらに、特定部440によって特定された補正区間の変更の指示を受け付け、特定部440はさらに、変更の指示に応じて補正区間を更新する。また、画像処理部450は、特定部440によって更新された補正区間に属するフレーム群に対して補正を適用する。
この構成により、PC400によって自動的に特定された補正区間を、例えばユーザの判断に応じて変更することができる。
また、本実施の形態において、画像処理部450は、復号処理部810と、画像補正部830と、符号化処理部850とを有する。
復号処理部810は、補正区間に属するフレーム群のデータである符号化データの復号処理によって得られる、フレーム群に対応する非圧縮データを出力するとともに、復号処理によって得られる、動きベクトルまたは画面内予測モードを示す復号情報を出力する。
画像補正部830は、復号処理によって得られた非圧縮データに対して補正を適用する。符号化処理部850は、補正が適用された非圧縮データに対して、復号情報に示される動きベクトルまたは画面内予測モードを用いて符号化処理を行う。
この構成により、PC400は、画像補正を伴う符号化処理に要する演算負担を軽減することができ、動画像編集をより短時間で行うことができる。
(他の実施の形態)
以上のように、本出願において開示する技術の例示として、実施の形態を説明した。しかしながら、本開示における技術は、これに限定されず、適宜、変更、置き換え、付加、省略などを行った実施の形態にも適用可能である。また、上記実施の形態で説明した各構成要素を組み合わせて、新たな実施の形態とすることも可能である。
そこで、以下、他の実施の形態を例示する。
上記の実施の形態では、動画撮影開始時から終了時まで、メタデータに、撮影条件を1フレームごとに記録するとした。しかしながら、例えば、フレームレートが60fpsである場合、60フレームごとに撮影条件の代表値を記録してもよい。
このとき、代表値は、60フレームにおける、撮影条件に示される値(例えばホワイトバランス値)の平均値でもよく、その60フレームの最初のフレームの値でもよく、または、最後のフレームの値でもよい。あるいは、代表値は、その60フレームの中間のフレームの値でもよい。
つまり、PC400が補正区間の特定に用いる特性情報(実施の形態におけるメタデータ)は、各フレームと、各フレームの画像の特性値として扱われる値とが対応付けられていれば、データ形式に限定はない。
また、本実施の形態では、コントローラ401は、補正対象フレームのメタデータが示すホワイトバランス値、感度値、およびシャッタスピード値の少なくとも1つを基準に、補正区間を特定するとした。
つまり、コントローラ401は、2種類以上の特性値を用いて、補正区間を特定してもよい。
例えば、補正対象フレームのメタデータが示すホワイトバランス値から所定の範囲内のホワイトバランス値を有し、かつ、当該メタデータが示すシャッタスピード値から所定の範囲内のシャッタスピード値を有する1以上のフレームを特定することで、補正区間を特定してもよい。
また、補正対象フレームの特性値(基準特性値)から所定の範囲内の特性値を有する1以上のフレームを特定する場合において、「所定の範囲内」であるか否かの判断は、基準特性値と、比較対象の特性値との差分が閾値以下か否かで判断されなくてもよい。
例えば、基準特性値に対する比較対象の特性値の比率が、予め設定された範囲内(例えば、90%〜110%など)である場合に、比較対象の特性値が、基準特性値から所定の範囲内であると判断されてもよい。
また、例えば、基準特性値に対する、比較対象の特性値の変化率(単位時間当たりの変化量)が、予め設定された範囲内である場合に、比較対象の特性値が、基準特性値から所定の範囲内であると判断されてもよい。
また、当該判断における所定の範囲は、固定でなくてもよく、例えば、ユーザによって変更可能であってもよい。例えば、当該所定の範囲を狭めることで、各フレームに対して行われる、同一内容の補正を一括して適用すべきフレーム群に属する否かの判断を、より厳密に行うことができる。
また、基準特性値と一致する特性値に対応づけられた1以上のフレームを特定することで、補正区間が特定されてもよい。
つまり、補正区間は、動画像データに含まれる複数のフレームそれぞれの画像の特性値を示す特性情報(実施の形態ではメタデータ)に基づいて特定されればよい。補正対象フレームの特性値(基準特性値)を用いた、補正区間に含まれるべきフレームの特定のための手法としては様々な手法が採用し得る。
また、本実施の形態では、動画像データの各フレームの画像の特性値として、ホワイトバランス値等の撮影条件を示す値を例示した。しかしながら、各フレームの画像の特性値は、他の種類の値であってもよい。
例えば、フレームの平均画素値が、当該フレームの特性値として扱われてもよい。また、例えば、補正対象の動画像フレームが、既に、何らかの補正が適用された動画像データである場合、当該補正に用いられたパラメータが、当該動画像データにおける補正区間の特定に用いられる特性値として採用されてもよい。
また、補正区間の特定に用いられる特性情報に示される特性値は、数値である必要はなく、画像の特性を示す文字または記号が特性値として扱われてもよい。
つまり、再生した場合に、外観上の明るさ、暗さ、またはざらつき等がほぼ同一とみなせるフレーム群が特定できる値であれば、どのような値が各フレームの特性値として採用されてもよい。
また、本実施の形態では、動画像データに、特性情報の一例であるメタデータが含まれるとした。しかしながら、動画像データと特性情報とは分離されたデータとしてPC400に取得されてもよい。つまり、補正対象の動画像データと、当該動画像データに対応する特性情報とが紐付けられていれば、PC400は、動画像データと特性情報とを別々に取得してもよい。
また、PC400は、メモリカード200を介さずに動画像データおよび特性情報を取得してもよい。PC400は、例えば、デジタルビデオカメラ100から、有線または無線の通信ネットワークを介して、動画像データおよび特性情報を取得してもよい。
また、PC400においてユーザに指定される、補正の内容(補正の種類およびパラメータの値など)は、ユーザの直接的な指定によって決定されなくてもよい。例えば、ユーザが、“自動補正”を指定した場合に、PC400が、画像編集アプリケーション500を実行することで、予め設定された内容の補正、または、PC400が補正区間のフレーム群を解析することで決定した内容の補正が実行されてもよい。
また、図10を参照して説明した、画像処理部450の一連の処理による効果(補正後の符号化データの生成の高速化)は、例えば、動画像データの全体に対して補正を行う場合でも発揮される。
また、当該効果は、例えば、ユーザによって特定された補正区間のフレーム群に対して補正を行う場合でも発揮される。
つまり、PC400における画像処理部450を、動画像データの1以上のフレームに対して補正を適用する画像処理装置として実現することもできる。
すなわち、当該画像処理装置は、複数のフレームを含む動画像データに対して補正を行う画像処理装置であって、復号処理部810と、画像補正部830と、符号化処理部850とを備える。
復号処理部810は、複数のフレームに含まれる、指定された補正区間に属するフレーム群のデータである符号化データの復号処理によって得られる、フレーム群に対応する非圧縮データを出力するとともに、復号処理よって得られる、動きベクトルまたは画面内予測モードを示す復号情報を出力する。
画像補正部830は、復号処理によって得られた前記非圧縮データに対して、ユーザに指定された内容の補正を適用する。
符号化処理部850は、補正が適用された非圧縮データに対して、復号情報に示される動きベクトルまたは画面内予測モードを用いて符号化処理を行う。
なお当該画像処理装置が備える復号処理部810、画像補正部830、および符号化処理部850のそれぞれの機能の一部または全部は、1つまたは複数の集積回路によって実現してもよい。つまり、当該画像処理装置は、専用の回路の組み合わせによって実現してもよい。
当該画像処理装置は、上記構成を有することで、補正前の復号処理によって得られた動きベクトルまたは画面内予測モードを用いて、補正後のデータに対する符号化処理を行うことができる。その結果、補正後の符号化データの生成がより短時間で実行される。
また、実施の形態におけるPC400が備える取得部420、受付部430、特定部440、および、画像処理部450のそれぞれの機能(図3参照)の一部または全部は、1つまたは複数の集積回路によって実現してもよい。つまり、本実施の形態における画像編集装置は、専用の回路の組み合わせによって実現してもよい。
また、本実施の形態では、画像編集装置の一例としてのPC400の構成および処理の流れについて説明した。しかしながら、他の種類の電子機器を画像編集装置として機能させてもよい。
例えば、インターネットに接続されたサーバコンピュータ(以下、「サーバ」という。)を画像処理装置として機能させてもよい。例えば、サーバにおいて情報処理を実行するコントローラが、取得部420、受付部430、特定部440、および、画像処理部450として機能することで、上述の、補正区間の特定、および、補正が適用された動画像データの生成等の処理を、サーバが実行することができる。
この場合、ユーザは、例えば、ローカルのPCからインターネット経由で当該サーバに動画ストリームをアップロードし、リモートで補正対象フレームの指定等の編集作業を行うことができる。また、その編集作業の成果物として、補正が適用された動画像データを当該PCにダウンロードすることができる。
また、携帯端末、ビデオカメラ、および、ビデオレコーダ等の電子機器を、本開示における画像編集装置として機能させてもよい。例えば、図1に示すデジタルビデオカメラ100が、取得部420、受付部430、特定部440、および、画像処理部450を備えてもよい。
すなわち、実施の形態における画像処理装置(PC400)によって実行される処理を含む画像処理方法を、各種の電子機器に実行させることもできる。
また、図9および図10を用いて説明した、復号および符号化処理を伴う画像補正に係る一連の処理を含む画像処理方法を、各種の電子機器に実行させることもできる。
以上のように、本開示における技術の例示として、実施の形態を説明した。そのために、添付図面および詳細な説明を提供した。
したがって、添付図面および詳細な説明に記載された構成要素の中には、課題解決のために必須な構成要素だけでなく、上記技術を例示するために、課題解決のためには必須でない構成要素も含まれ得る。そのため、それらの必須ではない構成要素が添付図面や詳細な説明に記載されていることをもって、直ちに、それらの必須ではない構成要素が必須であるとの認定をするべきではない。
また、上述の実施の形態は、本開示における技術を例示するためのものであるから、特許請求の範囲またはその均等の範囲において種々の変更、置き換え、付加、省略などを行うことができる。
本開示は、動画像編集をより効率よく行うことができる画像処理装置に適用可能である。具体的には、PC、サーバ、携帯端末、ビデオカメラ、およびビデオレコーダ等の電子機器にも、本開示は適用可能である。また、同様の機能を実行可能なプログラムを格納したCDまたはDVD等の記録メディアにも本開示は適用可能である。
100 デジタルビデオカメラ
110 光学系
120 レンズ駆動部
130 シャッタ
140 CMOSイメージセンサ
150 A/Dコンバータ
160 画像処理部
170 バッファ
180 コントローラ
190 カードスロット
200 メモリカード
210 操作部
220 表示モニタ
230 内部メモリ
240 ジャイロセンサ
400 PC
401 コントローラ
402 システム管理メモリ
403 ワークメモリ
404 HDD
405 マウス
406 キーボード
407 USBコネクタ
408 表示デバイス
409 液晶ディスプレイ
410 カードスロット
420 取得部
430 受付部
440 特定部
450 画像処理部
500 画像編集アプリケーションプログラム
810 復号処理部
811 VLC復号部
813 非圧縮データ復号部
830 画像補正部
850 符号化処理部
851 符号化情報生成部
852 VLC符号化部

Claims (4)

  1. 複数のフレームを含む動画像データと、前記複数のフレームそれぞれの画像の前記動画像データの生成の際の撮影条件を示すパラメータである特性値を示す特性情報とを取得する取得部と、
    前記複数のフレームのうちの1つのフレームである補正対象フレームの指定を受け付ける受付部と、
    前記特性情報に基づいて、前記補正対象フレームを含む連続した複数フレームから構成されるフレーム群が属する区間を補正区間として特定する特定部と、
    ユーザによって指定された内容の画像補正を、前記特定部によって特定された前記補正区間に属する前記フレーム群に対して適用する画像処理部と、を備え、
    前記特定部は、ホワイトバランス値、感度値、およびシャッタースピード値の少なくとも1つの前記特性情報に基づいて前記補正区間を特定し、
    前記画像処理部は、
    前記フレーム群のそれぞれのフレームに対して、色相、彩度、明度、輝度、コントラスト強度、ノイズ除去フィルタ強度のうちの少なくとも1つを変更する処理である前記画像補正を適用し、
    前記補正区間に属する前記フレーム群に対して、前記ユーザによって指定された内容の画像補正を適用した場合、当該適用結果が反映されたフレームのプレビューを出力する、
    画像処理装置。
  2. 前記特定部は、前記補正対象フレームの、時間的に前および後のうちの少なくとも一方の1以上のフレームであって、前記補正対象フレームの特性値から所定の範囲内の特性値を有する前記1以上のフレームを特定することで、前記補正対象フレームおよび前記1以上のフレームを含む前記フレーム群が属する前記補正区間を特定する、
    請求項1記載の画像処理装置。
  3. 前記受付部はさらに、前記特定部によって特定された前記補正区間の変更の指示を受け付け、
    前記特定部はさらに、前記変更の指示に応じて前記補正区間を更新し、
    前記画像処理部は、前記特定部によって更新された前記補正区間に属する前記フレーム群に対して、前記画像補正を適用する、
    請求項1または2記載の画像処理装置。
  4. 前記画像処理部は、
    前記補正区間に属する前記フレーム群のデータである符号化データの復号処理によって得られる、前記フレーム群に対応する非圧縮データを出力するとともに、前記復号処理によって得られる、動きベクトルまたは画面内予測モードを示す復号情報を出力する復号処理部と、
    前記復号処理によって得られた前記非圧縮データに対して前記画像補正を適用する画像補正部と、
    前記画像補正が適用された前記非圧縮データに対して、前記復号情報に示される前記動きベクトルまたは前記画面内予測モードを用いて符号化処理を行う符号化処理部とを有する、
    請求項1〜のいずれか1項に記載の画像処理装置。
JP2013026977A 2012-03-09 2013-02-14 画像処理装置 Expired - Fee Related JP6344592B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013026977A JP6344592B2 (ja) 2012-03-09 2013-02-14 画像処理装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012052670 2012-03-09
JP2012052670 2012-03-09
JP2013026977A JP6344592B2 (ja) 2012-03-09 2013-02-14 画像処理装置

Publications (2)

Publication Number Publication Date
JP2013214956A JP2013214956A (ja) 2013-10-17
JP6344592B2 true JP6344592B2 (ja) 2018-06-20

Family

ID=49114206

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013026977A Expired - Fee Related JP6344592B2 (ja) 2012-03-09 2013-02-14 画像処理装置

Country Status (2)

Country Link
US (1) US20130236161A1 (ja)
JP (1) JP6344592B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6176077B2 (ja) * 2013-11-25 2017-08-09 株式会社ニコン 撮像装置
JP6462990B2 (ja) * 2014-03-07 2019-01-30 キヤノン株式会社 画像処理装置およびその方法
US10506221B2 (en) 2016-08-03 2019-12-10 Adobe Inc. Field of view rendering control of digital content
US11461820B2 (en) 2016-08-16 2022-10-04 Adobe Inc. Navigation and rewards involving physical goods and services
US10198846B2 (en) 2016-08-22 2019-02-05 Adobe Inc. Digital Image Animation
US20180061128A1 (en) * 2016-08-23 2018-03-01 Adobe Systems Incorporated Digital Content Rendering Coordination in Augmented Reality
US10068378B2 (en) 2016-09-12 2018-09-04 Adobe Systems Incorporated Digital content interaction and navigation in virtual and augmented reality
US10430559B2 (en) 2016-10-18 2019-10-01 Adobe Inc. Digital rights management in virtual and augmented reality
JP6471778B2 (ja) * 2017-07-13 2019-02-20 株式会社ニコン 撮像装置およびプログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5874988A (en) * 1996-07-08 1999-02-23 Da Vinci Systems, Inc. System and methods for automated color correction
GB9619117D0 (en) * 1996-09-12 1996-10-23 Pandora Int Ltd Digital image processing
DE69900872D1 (de) * 1998-04-03 2002-03-21 Da Vinci Systems Inc Primär- und Sekundärfarbverarbeitung unter Verwendung von Farbe, Sättigung, Luminanz und Flächenisolierung
US6850249B1 (en) * 1998-04-03 2005-02-01 Da Vinci Systems, Inc. Automatic region of interest tracking for a color correction system
US7215813B2 (en) * 2001-12-03 2007-05-08 Apple Computer, Inc. Method and apparatus for color correction
US20040150672A1 (en) * 2003-01-31 2004-08-05 Bozidar Janko Picture analyzer with a window interface
US7312800B1 (en) * 2005-04-25 2007-12-25 Apple Inc. Color correction of digital video images using a programmable graphics processing unit
JP4244972B2 (ja) * 2005-08-02 2009-03-25 ソニー株式会社 情報処理装置,情報処理方法,およびコンピュータプログラム
JP4765732B2 (ja) * 2006-04-06 2011-09-07 オムロン株式会社 動画編集装置
EP1874064A1 (en) * 2006-06-30 2008-01-02 THOMSON Licensing Method and apparatus for colour correction of image sequences
JP4786607B2 (ja) * 2007-07-30 2011-10-05 Kddi株式会社 動画編集装置
JP5023024B2 (ja) * 2007-09-06 2012-09-12 ミツミ電機株式会社 色補正回路及びこれを用いた画像表示装置
JP5176857B2 (ja) * 2008-10-14 2013-04-03 パナソニック株式会社 動画編集装置
JP2010193186A (ja) * 2009-02-18 2010-09-02 Nikon Corp 画像編集装置、撮像装置、および画像編集プログラム
KR101428504B1 (ko) * 2010-02-22 2014-08-11 돌비 레버러토리즈 라이쎈싱 코오포레이션 비트스트림에 임베딩된 메타데이터를 이용하는 렌더링 제어부를 갖는 비디오 디스플레이

Also Published As

Publication number Publication date
US20130236161A1 (en) 2013-09-12
JP2013214956A (ja) 2013-10-17

Similar Documents

Publication Publication Date Title
JP6344592B2 (ja) 画像処理装置
US8264573B2 (en) Imaging apparatus and reproducing apparatus which changes frame rate based on zoom operation
US20130162672A1 (en) Image processing device, image processing method, and program
US9972355B2 (en) Image processing apparatus, method for controlling image processing apparatus, and non-transitory computer readable storage medium
JP5783737B2 (ja) 撮像装置および動画記録装置の制御方法
US20160343403A1 (en) Moving image generating apparatus, moving image generating method and storage medium
JP2010258768A (ja) 画像表示装置及びその制御方法、並びにプログラム及び記憶媒体
JP6049425B2 (ja) 撮像装置、画像処理装置、及び制御方法
JP2016167788A (ja) 動画像記録装置
US8625002B2 (en) Image processing apparatus and control method thereof for use in multiplexing image data and additional information
US20130177287A1 (en) Reproduction apparatus, image capturing apparatus, and program
JP5600405B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5284074B2 (ja) 画像処理装置及び画像処理方法
JP2018074523A (ja) 撮像装置、その制御方法、プログラムならびに記録媒体
JP6559040B2 (ja) パラメータ記録制御装置、表示装置、パラメータ記録制御装置の制御方法、及び、プログラム
JP5153584B2 (ja) 撮像装置及び撮像方法
JP2009246775A (ja) 画像再生装置
JP2005260748A (ja) 電子カメラ、及び電子カメラの制御プログラム
JP2009055618A (ja) 電子カメラ、及び電子カメラの制御プログラム
JP2010021893A (ja) 動画像処理装置および動画像処理方法
JP6463967B2 (ja) 撮像装置及びその制御方法
JP7214538B2 (ja) 撮像装置及び記録制御方法
JP6282136B2 (ja) 撮像装置及びその制御方法
JP2013021654A (ja) 再生装置
JP2009302662A (ja) 表示制御装置、表示制御方法およびプログラム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20141006

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170411

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171109

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180424

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180509

R151 Written notification of patent or utility model registration

Ref document number: 6344592

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees