JP2018166314A - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP2018166314A JP2018166314A JP2017063843A JP2017063843A JP2018166314A JP 2018166314 A JP2018166314 A JP 2018166314A JP 2017063843 A JP2017063843 A JP 2017063843A JP 2017063843 A JP2017063843 A JP 2017063843A JP 2018166314 A JP2018166314 A JP 2018166314A
- Authority
- JP
- Japan
- Prior art keywords
- image
- moving image
- unit
- partial
- similarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims description 46
- 238000003672 processing method Methods 0.000 title claims description 6
- 238000004364 calculation method Methods 0.000 claims abstract description 73
- 238000011156 evaluation Methods 0.000 claims description 9
- 230000002194 synthesizing effect Effects 0.000 claims description 5
- 230000015572 biosynthetic process Effects 0.000 claims description 2
- 238000003786 synthesis reaction Methods 0.000 claims description 2
- 238000003384 imaging method Methods 0.000 abstract description 38
- 238000000605 extraction Methods 0.000 description 52
- 238000006243 chemical reaction Methods 0.000 description 48
- 238000000034 method Methods 0.000 description 43
- 230000008569 process Effects 0.000 description 35
- 230000004048 modification Effects 0.000 description 13
- 238000012986 modification Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 10
- 230000003287 optical effect Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 5
- 230000010365 information processing Effects 0.000 description 3
- 229910052774 Proactinium Inorganic materials 0.000 description 2
- 229910052771 Terbium Inorganic materials 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 230000004931 aggregating effect Effects 0.000 description 2
- 229910052745 lead Inorganic materials 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 229910052715 tantalum Inorganic materials 0.000 description 2
- 229910052713 technetium Inorganic materials 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
- H04N1/603—Colour correction or control controlled by characteristics of the picture signal generator or the picture reproducer
- H04N1/6052—Matching two or more picture signal generators or two or more picture reproducers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
- G06T7/248—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2621—Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
- H04N5/772—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Image Processing (AREA)
- Processing Or Creating Images (AREA)
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
Abstract
【解決手段】撮像装置1は、画像取得部51と、候補画像選択部53(候補画像選択部53a)と、類似度算出部54と、動画生成部56と、を備える。画像取得部51は、動画像を取得する。動画生成部56は、動画像の代表画像と、動画像とは異なる複数の画像とを合成して1つの画像を生成する。類似度算出部54は、動画生成部56により動画像の時間的または空間的に前または後に合成される画像と、動画像との類似度を算出する。候補画像選択部53は、類似度算出部54による算出結果に基づいて、動画像から代表画像を特定する。
【選択図】図3
Description
動画像を取得する取得手段と、
前記動画像の代表画像と、前記動画像とは異なる画像とを合成して1つの画像を生成する合成手段と、
前記合成手段により前記動画像の時間的または空間的に前または後に合成される画像と、前記動画像との類似度を算出する算出手段と、
前記算出手段による算出結果に基づいて、前記動画像から前記代表画像を特定する特定手段と、
を備える。
[ハードウェア構成]
図1は、本発明の第1実施形態に係る撮像装置1のハードウェアの構成を示すブロック図である。
撮像装置1は、本発明の画像処理装置の一実施形態として実現されるものであり、例えば、デジタルカメラとして構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部16の出力信号として出力される。
このような撮像部16の出力信号を、以下、「撮像画像のデータ」と呼ぶ。撮像画像のデータは、CPU11や図示しない画像処理部等に適宜供給される。
本実施形態においては、撮像部16において撮影が行われた場合には、撮影時のセンサ情報を取得して、撮影した画像に対応付けて記憶しておく。
集約画像とは、1または複数の画像(画像の一部または全部を含む。)から、特徴的な画像を集約して1つの画像としたものである。なお、ここで対象とする画像には、静止画及び動画のいずれも含むことができる。本実施形態においては、1つの動画ファイルを区分した部分的な動画(以下、「部分動画」と称する。)を候補画像とし、これら候補画像のうち、特徴的な部分動画を代表画像として選択する。そして、これら代表画像を集約することにより1つの動画(集約画像)を生成する。なお、動画ファイルの動画以外の候補画像と、選択された部分動画(動画ファイルの代表画像)とから集約画像を生成することも可能である。
図2は、本発明の第1の実施形態において生成される集約画像を説明するための模式図である。
図2に示すように、本発明の第1の実施形態では、1つの動画ファイルを、時間区間Ta、Tb、Tc、Td、Te、Tf、Tg、Th・・・毎に区切って部分動画を抽出する。そして、複数の部分動画A部、B部、C部、D部、E部、F部、G部、H部・・・、K部から、類似度及び特徴量から定められるスコアに基づいて、一部の部分動画を選択することにより集約画像を生成する。即ち、本実施形態における集約画像は、類似度がより低いこと及びスコアがより高いことを条件として、1つの動画ファイルから選択された部分動画を集約したハイライト動画である。
そして、後述する代表画像抽出処理によって、スコアPa、Pb、Pc、Pd、Pe、Pf、Pg、Ph・・・から、基準とする部分動画Px(後述する最新の選択された部分動画)に対する部分動画A部、B部、C部、D部、E部、F部、G部、H部・・・の類似度を加味した換算スコアSa、Sb、Sc、Sd、Se、Sf、Sg、Sh・・・が算出される。ここで、換算スコアは、基準とする部分動画Pxとの類似度が高い程、部分動画のスコアを低くする演算によって算出される。
即ち、基準とする部分動画Pxに対しては、換算スコアが最高である部分動画A部を、動画を代表する画像(代表画像)として暫定バッファに格納する。
このような処理を最新の選択された部分動画(代表画像)について順次行うことにより、既に選択されている代表画像との類似度がより低く、スコアがより高い部分動画が代表画像として選択される。
図3は、図1の撮像装置1の機能的構成のうち、代表画像抽出処理を実行するための機能的構成を示す機能ブロック図である。
画像記憶部71には、画像取得部51によって取得された各種動画のデータが記憶される。本実施形態において、動画のデータには、撮影時に取得した撮影パラメータやセンサ情報等の付随情報が対応付けられている。
候補画像保持部72には、代表画像抽出処理の過程で暫定的に選択される代表画像が記憶される。即ち、候補画像保持部72は、代表画像を暫定的に記憶する暫定バッファとなる。
スコア設定部52は、取得した動画ファイルにおいて特定される部分動画毎に特徴量を算出し、特徴量に基づいて、各部分動画のスコアを設定(部分動画を評価)する。本実施形態において、部分動画の特徴量は、部分画像を画像解析して、解析した画像内における特徴点等に基づいて算出される。また、部分動画のスコアは、特徴量から自動的に設定することや、特徴量を参照してユーザが設定すること等が可能である。
換算スコア算出部55は、類似度算出部54によって算出された類似度および各部分動画のスコアに基づいて、最新の選択された部分動画に対して、他の選択されていない部分動画の換算スコアを算出する。換算スコアは、2つの部分動画の類似度を加味したスコアであり、一例として、基準とする部分動画(ここでは最新の選択された部分動画)に対して、他の選択されていない各部分動画の類似度とスコアとを乗算することにより算出される。なお、ここで用いられる類似度は、2つの部分動画の類似度合いが高い程、低い値となるパラメータである。
動画生成部56は、候補画像選択部53によって選択された各部分動画(代表画像)を動画ファイルにおける時系列順に配置して合成することにより、ハイライト動画を生成する。なお、動画生成部56は、ユーザによって、代表画像抽出処理で選択された暫定バッファ内の部分動画から、ハイライト動画を生成する指示が行われている場合に、ハイライト動画を生成して出力する。一方、ユーザによって、代表画像抽出処理によって選択された暫定バッファ内の部分動画から、ハイライト動画を生成する指示が行われていない場合には、暫定バッファ内の代表画像を代表画像抽出処理の結果として出力する。代表画像抽出処理の結果として出力された暫定バッファ内の部分動画は、動画ファイルを代表する代表画像として、動画ファイルの動画及び他の複数の静止画または動画を対象として集約画像(ハイライト動画)を生成する際に、候補画像として用いることができる。
次に、撮像装置1の動作を説明する。
図4は、図3の機能的構成を有する本発明の第1の実施形態としての撮像装置が実行する代表画像抽出処理の流れを説明するフローチャートである。
代表画像抽出処理は、ユーザによる入力部18への代表画像抽出処理開始の操作により開始される。
ステップS401において、候補画像選択部53は、動画ファイルにおける各部分動画の中からスコアが最高の部分動画を選択し、暫定バッファ(図3の候補画像保持部72)に格納する。
ステップS403において、換算スコア算出部55は、類似度算出部54によって算出された類似度および各部分動画のスコアに基づいて、最新の選択された部分動画に対して、他の選択されていない部分動画の換算スコアを算出する。
ステップS405において、候補画像選択部53は、ハイライト動画に設定された再生時間が充足されているか否か(暫定バッファに空きがないか否か)の判定を行う。
ハイライト動画に設定された再生時間が充足されている(暫定バッファに空きがない)場合、ステップS405においてYESと判定されて、処理はステップS402に移行する。
ステップS406において、動画生成部56は、候補画像選択部53によって選択された各部分動画(代表画像)を動画ファイルにおける時系列順に配置して合成することにより、ハイライト動画を生成する。なお、動画生成部56は、ユーザによって、代表画像抽出処理で選択された暫定バッファ内の部分動画から、ハイライト動画を生成する指示が行われている場合に、ハイライト動画を生成して出力する。一方、ユーザによって、代表画像抽出処理によって選択された暫定バッファ内の部分動画から、ハイライト動画を生成する指示が行われていない場合には、暫定バッファ内の代表画像を代表画像抽出処理の結果として出力する。
ステップS406の後、代表画像抽出処理は終了となる。
そのため、似通った部分動画が選択されることを抑制することができ、ユーザにとって趣向性が高いハイライト動画を生成することが可能となる。
次に、本発明の第2実施形態について説明する。
図5は、第2実施形態において生成される集約画像を説明するための模式図である。
図5の第2実施形態においても、1つの動画ファイルを、時間区間Ta、Tb、Tc、Td、Te、Tf、Tg、Th・・・毎に区切り、特徴的な部分画像を選択することにより集約画像を得る点は、図2の第1の実施形態の場合と同様である。
上述のような処理を、動画ファイルを構成する部分動画について、時系列に順に実行する。
候補画像選択部53aは、動画ファイルにおける部分動画の中からいずれか1つの部分動画を初めに選択する。このとき、例えば、先頭の部分動画を選択すること等が可能である。そして、候補画像選択部53aは、動画ファイルにおける先頭側から、各部分動画を選択するか否かを順次判定する。
即ち、候補画像選択部53aは、類似度算出部54aによって算出される、時系列における次の部分動画と既に選択されている各部分動画(暫定バッファ内の各部分動画)との類似度に基づいて、暫定バッファへの部分動画の追加または部分動画の置き換えを行う。
候補画像選択部53aは、このような処理を動画ファイルの時系列における最後の部分動画まで繰り返す。
類似度算出部54aは、既に選択された各部分動画(暫定バッファ内の各部分動画)と、時系列における次の部分動画との類似度を算出する。
次に、撮像装置1の動作を説明する。
図7は、第2実施形態の撮像装置1が実行する代表画像抽出処理の流れを説明するフローチャートである。
代表画像抽出処理は、ユーザによる入力部18への代表画像抽出処理開始の操作により開始される。
ステップS701において、候補画像選択部53aは、動画ファイルにおける部分動画の中からいずれか1つの部分動画(先頭の部分動画等)を選択して暫定バッファに格納する。
ステップS703において、候補画像選択部53aは、暫定バッファ内の各部分動画と時系列における次の部分動画とが類似しているか否かの判定を行う。
暫定バッファ内のいずれかの部分動画と時系列における次の部分動画とが類似している場合、ステップS703においてYESと判定されて、処理はステップS704に移行する。
一方、暫定バッファ内の各部分動画と時系列における次の部分動画とが類似していない場合、ステップS703においてNOと判定されて、処理はステップS706に移行する。
時系列における次の部分動画のスコアが暫定バッファ内における部分動画(類似している部分動画)の最低スコアよりも高い場合、ステップS704においてYESと判定されて、処理はステップS705に移行する。
一方、時系列における次の部分動画のスコアが暫定バッファ内における部分動画(類似している部分動画)の最低スコアよりも高くない場合、ステップS704においてNOと判定されて、処理はステップS710に移行する。
ステップS705において、候補画像選択部53aは、暫定バッファにおいて、類似度が高い部分動画の中で最低スコアの部分動画と時系列における次の部分動画とを置き換える。
ステップS705の後、処理はステップS710に移行する。
暫定バッファに空きがある場合、ステップS706においてYESと判定されて、処理はステップS707に移行する。
暫定バッファに空きがない場合、ステップS706においてNOと判定されて、処理はステップS708に移行する。
ステップS707において、候補画像選択部53aは、時系列における次の部分動画を暫定バッファに追加する。
ステップS707の後、処理はステップS710に移行する。
時系列における次の部分動画のスコアが暫定バッファ内における部分動画の最低スコアよりも高い場合、ステップS708においてYESと判定されて、処理はステップS709に移行する。
一方、時系列における次の部分動画のスコアが暫定バッファ内における部分動画の最低スコアよりも高くない場合、ステップS708においてNOと判定されて、処理はステップS710に移行する。
ステップS710において、候補画像選択部53aは、動画ファイルの最後の部分動画まで処理が終了したか否かの判定を行う。
一方、動画ファイルの最後の部分動画まで処理が終了した場合、ステップS710においてYESと判定されて、処理はステップS711に移行する。
ステップS711の後、代表画像抽出処理は終了となる。
そのため、似通った部分動画が選択されることを抑制することができ、ユーザにとって趣向性が高いハイライト動画を生成することが可能となる。
第1実施形態において、候補画像選択部53は、最新の選択された部分動画を対象として、換算スコア算出部55によって算出される他の部分動画の換算スコアに基づいて、ハイライト動画に設定された再生時間が充足されるまで、換算スコアが最高の部分動画を順次選択するものとした。
これに対し、候補画像選択部53が、既に選択された部分動画全体を対象として、換算スコア算出部55によって算出される他の部分動画の換算スコアに基づいて、換算スコアが最高の部分動画を選択することとしてもよい。
図8は、変形例1における代表画像抽出処理の流れを説明するフローチャートである。
代表画像抽出処理は、ユーザによる入力部18への代表画像抽出処理開始の操作により開始される。
ステップS801において、候補画像選択部53は、動画ファイルにおける各部分動画の中からスコアが最高の部分動画を選択し、暫定バッファに格納する。
ステップS802において、類似度算出部54は、選択されている各部分動画(暫定バッファ内の各部分動画)と、他の選択されていない各部分動画との類似度を算出する。
ステップS804において、換算スコア算出部55は、類似度算出部54によって算出された類似度の平均値および各部分動画のスコアに基づいて、選択されている各部分動画に対して、他の選択されていない部分動画の換算スコアを算出する。
ステップS806において、候補画像選択部53は、ハイライト動画に設定された再生時間が充足されているか否か(暫定バッファに空きがないか否か)の判定を行う。
ハイライト動画に設定された再生時間が充足されていない(暫定バッファに空きがある)場合、ステップS806においてNOと判定されて、処理はステップS802に移行する。
一方、ハイライト動画に設定された再生時間が充足されている(暫定バッファに空きがない)場合、ステップS806においてYESと判定されて、処理はステップS807に移行する。
ステップS807の後、代表画像抽出処理は終了となる。
そのため、似通った部分動画が選択されることを抑制することができ、ユーザにとって趣向性が高いハイライト動画を生成することが可能となる。
上述の実施形態及び変形例において、部分動画が選択される動画ファイルの動画を含め、複数の静止画または動画を対象として、以下のような方法で集約画像(ハイライト動画)を生成することが可能である。
即ち、代表画像抽出処理を実行する際に、暫定バッファの先頭及び末尾の領域に、部分動画が選択される動画ファイルの前及び後に配置される候補画像を固定的に記憶しておく。そして、部分動画が選択される動画ファイルの前及び後に配置される候補画像との類似度を加味して、動画ファイルを代表する代表画像を選択する。
即ち、代表画像抽出処理において、部分動画を選択する際に、暫定バッファの先頭に記憶されている候補画像との類似度がより低く、スコアがより高い部分動画を選択することにより、動画ファイルの前の候補画像と類似する部分動画が動画ファイルの代表画像として選択されることを抑制できる。同様に、代表画像抽出処理において、部分動画を選択する際に、暫定バッファの末尾に記憶されている候補画像との類似度がより低く、スコアがより高い部分動画を選択することにより、動画ファイルの後の候補画像と類似する部分動画が動画ファイルの代表画像として選択されることを抑制できる。
なお、代表画像の先頭及び末尾には、部分動画が選択される動画ファイルの前の所定数の候補画像及び後の所定数の候補画像を記憶しておくこととしてもよい。また、部分動画が選択される動画ファイルの前と後とで、異なる数の候補画像を暫定バッファに記憶しておくこととしてもよい。さらに、部分動画が選択される動画ファイルの前または後の候補画像のみを暫定バッファに記憶しておくこととしてもよい。
このように、代表画像抽出処理を実行することにより、部分動画が選択される動画ファイルの前後の画像と似通った代表画像が選択されることを抑制できる。
本変形例によれば、部分動画が選択される動画ファイルの前及び後に配置される候補画像との類似度を加味して、動画ファイルを代表する代表画像を1つ選択することができるため、候補画像を複数記憶せずに代表画像を選択することができる。
変形例2に示す方法の他、部分動画が選択される動画ファイルの動画を含め、複数の静止画または動画を対象として、以下のような方法で集約画像(ハイライト動画)を生成することが可能である。
即ち、本変形例では、代表画像抽出処理で選択された複数の代表画像のうち、前後に配置される画像との類似度を加味して選択した代表画像を用いて、複数の静止画及び動画を対象としたハイライト動画(集約画像)を生成する。
図9は、前後に配置される画像との類似度を加味して選択した代表画像を用いてハイライト動画を生成するハイライト動画生成処理の流れを説明するフローチャートである。
ハイライト動画生成処理は、ユーザによる入力部18へのハイライト動画生成処理開始の操作により開始される。
ステップS901において、画像取得部51は、ハイライト動画を生成する対象となる画像を取得する。
ステップS902において、候補画像選択部53は、取得された画像の中に動画が含まれているか否かの判定を行う。
取得された画像の中に動画が含まれている場合、ステップS902においてYESと判定されて、処理はステップS903に移行する。
一方、取得された画像の中に動画が含まれていない場合、ステップS902においてNOと判定されて、処理はステップS906に移行する。
ステップS903において、候補画像選択部53は、ハイライト動画生成処理において、動画から複数の代表画像を選択する設定となっているか否かの判定を行う。この設定は、ハイライト動画生成処理の開始に先立ち、ユーザによって予め行っておくことができる。
ステップS904において、代表画像抽出処理が実行される。なお、ここで実行される代表画像抽出処理としては、第1実施形態における代表画像抽出処理、第2実施形態における代表画像抽出処理、及び、変形例1における代表画像抽出処理のいずれを採用することも可能である。ステップS904においては、代表画像抽出処理によって選択された暫定バッファ内の部分動画が処理結果として出力される。
ステップS905において、画像取得部51は、ステップS904において出力された暫定バッファ内の部分動画を、ハイライト動画を生成する対象の画像に含める。なお、これら暫定バッファ内の部分動画(代表画像)は、動画ファイルを代表する1組の候補画像群として対応付けて取り扱われる。
ステップS906において、候補画像選択部53は、画像の数または再生時間を条件として、画像のスコアに基づいて、ハイライト動画に用いる候補画像を選択する。このとき、暫定バッファ内の候補画像群によって代表される動画ファイルがハイライト動画に用いるものとして選択される場合、候補画像選択部53は、動画ファイルの前及び後に配置された画像との類似度を加味し、これらの画像と類似度がより低く、スコアがより高い代表画像をハイライト動画に用いられる部分動画として選択する。
ステップS907において、動画生成部56は、ステップS906において選択された画像を動画として合成することにより、ハイライト動画を生成する。
ステップS907の後、ハイライト動画生成処理は終了となる。
このような処理により、代表画像抽出処理で選択された複数の代表画像のうち、前後に配置される画像との類似度を加味して選択した代表画像を用いて、複数の静止画及び動画を対象としたハイライト動画(集約画像)を生成することができる。
したがって、ユーザにとって趣向性の高いハイライト動画を提供できる。
画像取得部51は、動画像を取得する。
動画生成部56は、動画像の代表画像と、動画像とは異なる複数の画像とを合成して1つの画像を生成する。
類似度算出部54は、動画生成部56により動画像の時間的または空間的に前または後に合成される画像と、動画像との類似度を算出する。
候補画像選択部53は、類似度算出部54による算出結果に基づいて、動画像から代表画像を特定する。
これにより、時間的または空間的に前または後に合成される画像との類似度を加味して動画像から代表画像を特定することができる。
したがって、ユーザにとって趣向性の高い集約画像を提供できる。
候補画像選択部53は、類似度算出部54による算出結果に基づいて複数の候補画像から代表画像を選択する。
これにより、動画像における複数の候補画像から、時間的または空間的に前または後に合成される画像との類似度を加味して代表動画を選択することができる。
スコア設定部52は、画像取得部51により特定される複数の候補画像を評価する。
候補画像選択部53は、スコア設定部52による評価結果と、類似度算出部54による算出結果に応じて複数の候補画像から代表画像を選択する。
これにより、各候補画像の評価結果及び算出された類似度に応じて、代表画像を選択することができる。
これにより、候補画像の所定数前まで、または、所定数後までに表示される画像との類似度を加味して、候補画像を選択することが可能となる。
これにより、候補画像の前及び後に表示される画像との類似度を加味して、候補画像を選択することが可能となる。
候補画像選択部53は、画像の部分または全体である候補画像について、当該候補画像に設定されたスコアと、当該候補画像と他の候補画像との類似度とに基づいて、複数の候補画像の中から候補画像を選択する。
動画生成部56は、候補画像選択部53により選択された候補画像に基づいて、集約画像を生成する。
これにより、類似度を加味したスコアに基づいて部分動画を選択することができる。
したがって、似通った部分動画が選択されることを抑制することができ、ユーザにとって趣向性が高い集約画像を生成することが可能となる。
スコア設定部52は、候補画像それぞれについて、スコアを設定する。
類似度算出部54は、候補画像と他の候補画像との類似度を算出する。
これにより、撮像装置1において、候補画像のスコアを設定し、さらに、候補画像間の類似度を算出して、候補画像を選択することができる。
換算スコア算出部55は、注目する候補画像と他の候補画像との類似度と、注目する候補画像のスコアとに基づいて、類似度を反映したスコアである換算スコアを算出する。
候補画像選択部53は、換算スコア算出部55によって算出された換算スコアに基づいて、候補画像を選択する。
これにより、候補画像間の類似度を反映した換算スコアに基づいて部分動画を選択することができるため、集約画像の趣向性を向上させることができる。
換算スコア算出部55は、候補画像選択部53により既に選択されている候補画像それぞれと他の候補画像との類似度と、注目する候補画像のスコアとに基づいて、候補画像それぞれと他の候補画像との類似度を反映したスコアである換算スコアを算出する。
候補画像選択部53は、換算スコアに基づいて、候補画像を選択する。
これにより、既に選択されている候補画像全体と、注目する候補画像間の類似度を反映した換算スコアに基づいて部分動画を選択することができるため、集約画像の趣向性を向上させることができる。
これにより、既に選択されている候補画像に代えて、スコアがより高い候補画像を逐次選択することができる。
例えば、本発明によって生成される集約画像には、ハイライト動画、スライドショーあるいはコラージュ画像等、時間的または空間的に種々の形態で画像が集約されたものが含まれる。
例えば、本発明は、代表画像抽出機能を有する電子機器一般に適用することができる。具体的には、例えば、本発明は、ノート型のパーソナルコンピュータ、プリンタ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、スマートフォン、ポータブルゲーム機等に適用可能である。
換言すると、図3及び図6の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が撮像装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図3及び図6の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
本実施形態における機能的構成は、演算処理を実行するプロセッサによって実現され、本実施形態に用いることが可能なプロセッサには、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)やFPGA(Field‐Programmable Gate Array)等の処理回路とが組み合わせられたものを含む。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
[付記1]
動画像を取得する取得手段と、
前記動画像の代表画像と、前記動画像とは異なる画像とを合成して1つの画像を生成する合成手段と、
前記合成手段により前記動画像の時間的または空間的に前または後に合成される画像と、前記動画像との類似度を算出する算出手段と、
前記算出手段による算出結果に基づいて、前記動画像から前記代表画像を特定する特定手段と、
を備えることを特徴とする画像処理装置。
[付記2]
前記取得手段により取得された動画像から複数の候補画像を選択する選択手段をさらに備え、
前記特定手段は、前記算出手段による算出結果に基づいて前記複数の候補画像から前記代表画像を選択することを特徴とする付記1に記載の画像処理装置。
[付記3]
前記特定手段により特定される複数の候補画像を評価する評価手段をさらに備え、
前記選択手段は、前記評価手段による評価結果と、前記算出手段による算出結果に応じて前記複数の候補画像から前記代表画像を選択することを特徴とする付記2に記載の画像処理装置。
[付記4]
前記算出手段は、前記動画像の時間的または空間的に前または後に表示される複数の画像と、前記動画像との類似度を算出することを特徴とする付記1から3のいずれか1つに記載の画像処理装置。
[付記5]
前記算出手段は、前記動画像の時間的または空間的に前及び後に表示される画像と、前記動画像との類似度を算出することを特徴とする付記1から4のいずれか1つに記載の画像処理装置。
[付記6]
画像処理装置が実行する画像処理方法であって、
動画像を取得する取得ステップと、
前記動画像の代表画像と、前記動画像とは異なる画像とを合成して1つの画像を生成する合成ステップと、
前記合成ステップにより前記動画像の時間的または空間的に前または後に合成される画像と、前記動画像との類似度を算出する算出ステップと、
前記算出ステップにおける算出結果に基づいて、前記動画像から前記代表画像を特定する特定ステップと、
を含むことを特徴とする画像処理方法。
[付記7]
コンピュータに、
動画像を取得する取得機能と、
前記動画像の代表画像と、前記動画像とは異なる画像とを合成して1つの画像を生成する合成機能と、
前記合成機能により前記動画像の時間的または空間的に前または後に合成される画像と、前記動画像との類似度を算出する算出機能と、
前記算出機能による算出結果に基づいて、前記動画像から前記代表画像を特定する特定機能と、
を実現させることを特徴とするプログラム。
Claims (7)
- 動画像を取得する取得手段と、
前記動画像の代表画像と、前記動画像とは異なる画像とを合成して1つの画像を生成する合成手段と、
前記合成手段により前記動画像の時間的または空間的に前または後に合成される画像と、前記動画像との類似度を算出する算出手段と、
前記算出手段による算出結果に基づいて、前記動画像から前記代表画像を特定する特定手段と、
を備えることを特徴とする画像処理装置。 - 前記取得手段により取得された動画像から複数の候補画像を選択する選択手段をさらに備え、
前記特定手段は、前記算出手段による算出結果に基づいて前記複数の候補画像から前記代表画像を選択することを特徴とする請求項1に記載の画像処理装置。 - 前記特定手段により特定される複数の候補画像を評価する評価手段をさらに備え、
前記選択手段は、前記評価手段による評価結果と、前記算出手段による算出結果に応じて前記複数の候補画像から前記代表画像を選択することを特徴とする請求項2に記載の画像処理装置。 - 前記算出手段は、前記動画像の時間的または空間的に前または後に表示される複数の画像と、前記動画像との類似度を算出することを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
- 前記算出手段は、前記動画像の時間的または空間的に前及び後に表示される画像と、前記動画像との類似度を算出することを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
- 画像処理装置が実行する画像処理方法であって、
動画像を取得する取得ステップと、
前記動画像の代表画像と、前記動画像とは異なる画像とを合成して1つの画像を生成する合成ステップと、
前記合成ステップにより前記動画像の時間的または空間的に前または後に合成される画像と、前記動画像との類似度を算出する算出ステップと、
前記算出ステップにおける算出結果に基づいて、前記動画像から前記代表画像を特定する特定ステップと、
を含むことを特徴とする画像処理方法。 - コンピュータに、
動画像を取得する取得機能と、
前記動画像の代表画像と、前記動画像とは異なる画像とを合成して1つの画像を生成する合成機能と、
前記合成機能により前記動画像の時間的または空間的に前または後に合成される画像と、前記動画像との類似度を算出する算出機能と、
前記算出機能による算出結果に基づいて、前記動画像から前記代表画像を特定する特定機能と、
を実現させることを特徴とするプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017063843A JP2018166314A (ja) | 2017-03-28 | 2017-03-28 | 画像処理装置、画像処理方法及びプログラム |
US15/915,018 US20180288328A1 (en) | 2017-03-28 | 2018-03-07 | Image processing apparatus, image processing method, and storage medium |
CN201810242822.9A CN108665515A (zh) | 2017-03-28 | 2018-03-22 | 图像处理装置、图像处理方法以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017063843A JP2018166314A (ja) | 2017-03-28 | 2017-03-28 | 画像処理装置、画像処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018166314A true JP2018166314A (ja) | 2018-10-25 |
JP2018166314A5 JP2018166314A5 (ja) | 2018-12-27 |
Family
ID=63671025
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017063843A Pending JP2018166314A (ja) | 2017-03-28 | 2017-03-28 | 画像処理装置、画像処理方法及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20180288328A1 (ja) |
JP (1) | JP2018166314A (ja) |
CN (1) | CN108665515A (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005236527A (ja) * | 2004-02-18 | 2005-09-02 | Sharp Corp | 映像再生装置、再生スクリプト生成装置、映像配信装置、映像切出し装置、及び映像蓄積装置 |
JP2012161019A (ja) * | 2011-02-02 | 2012-08-23 | Jvc Kenwood Corp | 映像再生装置、映像再生方法及び映像再生プログラム |
JP2015099958A (ja) * | 2013-11-18 | 2015-05-28 | 日本電信電話株式会社 | ダイジェスト映像生成装置、ダイジェスト映像生成方法及びダイジェスト映像生成プログラム |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4439286B2 (ja) * | 2004-02-18 | 2010-03-24 | 京セラ株式会社 | 無線同期方法およびそれを利用した基地局装置 |
CN1808430A (zh) * | 2004-11-01 | 2006-07-26 | 西安迪戈科技有限责任公司 | 智能、图示和自动化互联网和计算机信息的检索和挖掘方法 |
US9933852B2 (en) * | 2009-10-14 | 2018-04-03 | Oblong Industries, Inc. | Multi-process interactive systems and methods |
JP2014139734A (ja) * | 2013-01-21 | 2014-07-31 | Sony Corp | 情報処理装置および方法、並びにプログラム |
JP6183703B2 (ja) * | 2013-09-17 | 2017-08-23 | 日本電気株式会社 | 物体検出装置、物体検出方法および物体検出システム |
JP5741659B2 (ja) * | 2013-09-17 | 2015-07-01 | カシオ計算機株式会社 | 動画選別装置、動画選別方法及びプログラム |
JP5817858B2 (ja) * | 2014-01-30 | 2015-11-18 | カシオ計算機株式会社 | 画像処理装置、画像処理方法、及びプログラム |
CN105227811A (zh) * | 2014-06-30 | 2016-01-06 | 卡西欧计算机株式会社 | 图像生成装置以及图像生成方法 |
JP2016066343A (ja) * | 2014-06-30 | 2016-04-28 | カシオ計算機株式会社 | 画像生成装置、画像生成方法及びプログラム |
JP6676873B2 (ja) * | 2014-09-22 | 2020-04-08 | カシオ計算機株式会社 | 画像処理装置、画像処理方法及びプログラム |
KR102274320B1 (ko) * | 2014-10-16 | 2021-07-07 | 삼성전자주식회사 | 영상 처리 방법 및 장치 |
US10319412B2 (en) * | 2016-11-16 | 2019-06-11 | Adobe Inc. | Robust tracking of objects in videos |
-
2017
- 2017-03-28 JP JP2017063843A patent/JP2018166314A/ja active Pending
-
2018
- 2018-03-07 US US15/915,018 patent/US20180288328A1/en not_active Abandoned
- 2018-03-22 CN CN201810242822.9A patent/CN108665515A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005236527A (ja) * | 2004-02-18 | 2005-09-02 | Sharp Corp | 映像再生装置、再生スクリプト生成装置、映像配信装置、映像切出し装置、及び映像蓄積装置 |
JP2012161019A (ja) * | 2011-02-02 | 2012-08-23 | Jvc Kenwood Corp | 映像再生装置、映像再生方法及び映像再生プログラム |
JP2015099958A (ja) * | 2013-11-18 | 2015-05-28 | 日本電信電話株式会社 | ダイジェスト映像生成装置、ダイジェスト映像生成方法及びダイジェスト映像生成プログラム |
Also Published As
Publication number | Publication date |
---|---|
CN108665515A (zh) | 2018-10-16 |
US20180288328A1 (en) | 2018-10-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TW201545120A (zh) | 自動產生編譯視訊 | |
JP6319972B2 (ja) | 画像処理装置、撮像装置、画像処理方法、およびプログラム | |
JP5531865B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2016118991A (ja) | 画像生成装置、画像生成方法及びプログラム | |
JP6341184B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6261205B2 (ja) | 画像処理装置 | |
JP2022140458A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2017011504A (ja) | 撮像装置、画像処理方法及びプログラム | |
JP6056551B2 (ja) | 画像処理プログラムおよびデジタルカメラ | |
JP2014187551A (ja) | 画像取得装置、画像取得方法及びプログラム | |
JP5884873B1 (ja) | 画像抽出装置、画像抽出方法及びプログラム | |
JP6614198B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2016208268A (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP2009038478A (ja) | プログラム、画像処理装置、撮像装置および画像処理方法 | |
JP2013165413A (ja) | 画像表示装置 | |
JP6087719B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2018166314A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2017098637A (ja) | 画像特定装置、画像特定方法及びプログラム | |
JP2010193026A (ja) | 画像再生装置、画像再生方法およびプログラム | |
JP6512208B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6720509B2 (ja) | 画像評価装置、画像評価方法及びプログラム | |
JP6372176B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6398377B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP6418136B2 (ja) | 画像処理装置、画像選択方法及びプログラム | |
JP2018195864A (ja) | 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181115 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181115 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190626 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190702 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200108 |