JP6579925B2 - 画像再生装置およびその制御方法ならびにプログラムならびに記録媒体 - Google Patents
画像再生装置およびその制御方法ならびにプログラムならびに記録媒体 Download PDFInfo
- Publication number
- JP6579925B2 JP6579925B2 JP2015225087A JP2015225087A JP6579925B2 JP 6579925 B2 JP6579925 B2 JP 6579925B2 JP 2015225087 A JP2015225087 A JP 2015225087A JP 2015225087 A JP2015225087 A JP 2015225087A JP 6579925 B2 JP6579925 B2 JP 6579925B2
- Authority
- JP
- Japan
- Prior art keywords
- tracking
- subject
- moving image
- main subject
- control unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/91—Television signal processing therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
- G06T7/248—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Description
以下、本発明の例示的な実施形態について、図面を参照して詳細に説明する。なお、以下では画像再生装置の一例として、動画像を読み出して再生可能な任意のパーソナルコンピュータに本発明を適用した例を説明する。しかし、本発明は、パーソナルコンピュータに限らず、動画像を読み出して再生可能な任意の電子機器にも適用可能である。これらの電子機器には、例えば携帯電話機、ゲーム機、タブレット端末、デジタルカメラ、時計型や眼鏡型の情報端末、監視用機器、車載機器及び医療機器などが含まれてよい。
図1は、本実施形態の一例としてのパーソナルコンピュータ10の機能構成例を示すブロック図である。なお、図1に示す機能ブロックの1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよいし、CPUやMPU等のプログラマブルプロセッサがソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。従って、以下の説明において、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現されうる。
次に、図2を参照して、パーソナルコンピュータ10における再生処理に係る一連の動作を説明する。なお、本処理は、制御部100が記録部101に記録されている処理対象の動画データに対してユーザ操作による再生指示を検出した場合に開始される。また、本処理は、制御部100が不揮発性メモリ102に記憶されたプログラムを揮発性メモリ103の作業用領域に展開し、実行することにより実現される。
例えば、動画ファイルから取得される撮影時追尾情報は、図3に示すデータを含む。図3の例では、撮影時追尾情報は、動画ファイルを撮影した際のオートフォーカス制御において算出された、フレーム番号、被写体ID、被写体座標、追尾優先度のデータを含む。
例えば、撮影時追尾情報に基づいて設定される主要被写体情報は、図4に示すデータを含む。主要被写体情報は、再生時における対象フレームの主要被写体情報を管理する情報であり、対象フレーム番号、主要被写体ID、追尾情報識別フラグ、主要被写体座標、及び主要被写体テンプレートのデータを含む。
TemplateX1 = X − W ×0.025 … 式1
TemplateY1 = Y − H ×0.025 … 式2
TemplateX2 = X + W ×0.025 … 式3
TemplateY2 = Y + H ×0.025 … 式4
また、主要被写体情報406は、上述した401〜405を含む情報をフレームごとに含む情報である。
図5は、本実施形態に係る、主要被写体情報の更新処理に係る一連の動作を示すフローチャートを示している。本処理は、制御部100がS203の処理を開始する際に実行される。なお、本処理は、制御部100が揮発性メモリ103に格納された制御プログラムを実行することにより動作する。また、本処理は、S202においてユーザ操作により主要被写体の指定があったと判定された場合に実行され、制御部100は、指定された主要被写体が撮影時被写体であるか否かに応じて主要被写体情報を更新する。
図6は、実施形態に係る再生時追尾処理の一連の動作を示すフローチャートを示している。本処理は、制御部100がS205の処理を開始する際に実行される。なお、本処理は、制御部100が揮発性メモリ103に格納された制御プログラムを実行することにより実行される。本処理は、上述したようにS204において主要被写体が撮影時主被写体である場合に実行される処理である。
SearchX1 = X − W × 0.05 … 式7
SearchY1 = Y − H × 0.05 … 式8
SearchX2 = X + W × 0.05 … 式9
SearchY2 = Y + H × 0.05 … 式10
なお、本実施形態では、例えば探索範囲として動画を構成するフレームの幅、高さのピクセル数の5.0%とする。
TargetX1 = X2 − W ×0.025 … 式11
TargetY1 = Y2 − H ×0.025 … 式12
TargetX2 = X2 + W ×0.025 … 式13
TargetY2 = Y2 + H ×0.025 … 式14
なお、本実施形態では、例えばマッチングの対象領域のサイズをフレームの幅、高さのピクセル数の2.5%とする。
図7は、追尾再生処理に係る一連の動作を示すフローチャートを示している。本処理は、制御部100がS209の処理を開始する際に実行される。なお、本処理は、制御部100が揮発性メモリ103に格納された制御プログラムを実行することにより実行される。
PlayAreaX1 = X − ( W / Z ) / 2 … 式17
PlayAreaY1 = Y − ( H / Z ) / 2 … 式18
PlayAreaX2 = X + ( W / Z ) / 2 … 式19
PlayAreaY2 = Y + ( H / Z ) / 2 … 式20
なお、指定倍率Zは、動画を構成するフレームの1ピクセルが表示部104における出力時の1ピクセルに対応する場合には1に設定される。また、動画を構成するフレームの2ピクセル四方が出力時の1ピクセルに対応する場合には0.5、動画を構成するフレームの1ピクセルが出力時の2ピクセル四方に対応する場合には2とする。倍率の指定方法は、図8を用いて後述する。
図8は、表示部104に表示されるユーザインターフェイス(UI)の一例を模式的に示している。図8に示す例では、動画データの再生時にユーザが主要被写体を指定する方法の一例について説明する。図8に示す例では、追尾再生処理を行うときに、動画を構成するフレームの全体領域と追尾再生対象領域とが表示部104に共に表示される。
次に、図9を参照して、追尾再生処理が行われることにより主要被写体情報が更新された状態で行う、再生処理に係る一連の動作について説明する。
更に、図11を参照して、本実施形態に係る追尾情報補正処理の一連の動作を説明する。図9を参照した例では、2度目以降の追尾再生処理において、追尾情報管理表に記録された追尾情報に応じて追尾再生処理を行う動作について説明した。これに対して、図11を参照した例では、所望の主要被写体を追尾再生できていないフレームからユーザが主要被写体を指定するフレームまでの、再生時追尾処理が行われていない期間の追尾情報を補正する(追尾情報補正処理という)。なお、本処理は、制御部100が揮発性メモリ103に格納された制御プログラムを実行することにより実行される。図9の説明と同様、上述した処理については同一の参照番号を用いて重複する説明は省略する。
追尾情報管理表の各データ(1002、1003、1005)をそれぞれの主要被写体情報の各データ(402〜404)に設定する。なお、制御部100は、追尾情報識別フラグ403が「再生時」に算出されたことを示す場合、主要被写体座標404及び式1〜式4を用いてマッチング用のテンプレートを作成し、主要被写体テンプレート405に設定する。
T = | S × 0.01 | … 式21
本実施形態では、所定のフレーム数Tを例えば動画の総フレーム数の1%とする。
次に実施形態2について説明する。実施形態1では、追尾再生処理を行う際に動画フレームの全体領域と追尾再生対象領域とを共に表示する例を説明した。このような表示方法は、動画フレームの全体領域と追尾再生対象領域とを同時に視認可能であるため、表示部104に含まるパネルが比較的大きい場合は特に有効である。これに対して、本実施形態では、表示部104に含まれる表示パネルが比較的小さい場合の表示方法について説明する。すなわち、本実施形態では、追尾再生処理を行うときに動画フレームの追尾再生対象領域を表示する場合について説明する。また、実施形態1では、再生時追尾情報を撮影時追尾情報とは異なるファイルとして記録する例を説明したが、本実施形態では、撮影時追尾情報の一部を上書きして再利用する場合について説明する。本実施形態のパーソナルコンピュータ10は、表示部104に含まれる表示パネルの大きさが小さいが、実施形態1と同一の構成である。このため、同一の構成又は同一のステップについては同一の符号を付して重複する説明は省略し、相違点について重点的に説明する。
図12を参照しながら、本実施形態の追尾再生処理に係るユーザインターフェイスの一例について説明する。動画読み込みボタン1201は、動画データのファイルの読み込みを開始させるボタンである。ユーザが入力部105に含まれる例えばタッチパネル上で動画読み込みボタン1201をタップすると、制御部100は動画データの読み込み指示があったと判定して、動画データのファイルを開くためのオープンダイアログを表示する。ユーザが当該オープンダイアログにおいて動画データを選択した場合、制御部100は記録部101から選択された動画データを揮発性メモリ103に読み込んで表示部104に表示させる。
次に、図13を参照して、本実施形態の再生処理に係る一連の動作において、撮影時追尾情報を一部上書きする処理について説明する。図9に示した再生処理では、2度目以降の再生処理を考慮して、S909において揮発性メモリ103に記憶されている主要被写体情報を追尾情報管理表に記録するようにした。一方、本実施形態では、揮発性メモリ103に記憶された主要被写体情報を用いて、記録部101の動画ファイルのヘッダに記録されている撮影時追尾情報の一部を上書きする。なお、本処理はS209における追尾再生処理の後に、S909の代わりに本処理が開始される。
本発明は、上述した実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (12)
- 撮影された動画像、および、前記動画像に関連付けられた、前記動画像に含まれる第1の被写体のフレームごとの位置を示す情報を取得する取得手段と、
前記取得手段で取得した動画像のそれぞれのフレームに対して追尾処理を行うことによって、前記動画像のそれぞれのフレームにおける、追尾対象として指定された第2の被写体の動きを追尾する追尾手段と、
前記追尾処理によって検出された前記第2の被写体の位置と、前記取得手段により取得された情報が示す前記第1の被写体の位置との差が所定の範囲内のフレームにおいては、前記取得手段により取得された情報が示す前記第1の被写体の位置を用いて、表示手段に表示する前記動画像の表示領域を制御し、前記差が前記所定の範囲でないフレームにおいては、前記追尾処理によって検出された前記第2の被写体の位置を用いて、前記表示手段に表示する前記動画像の表示領域を制御する制御手段と、を有する
ことを特徴とする画像再生装置。 - 前記制御手段は、前記追尾対象が指定されたフレームにおいて、前記指定された追尾対象の位置と、前記取得手段により取得された情報が示す前記第1の被写体の位置との差が所定の範囲内の場合には、前記追尾手段による追尾処理を行わないように制御する、
ことを特徴とする請求項1に記載の画像再生装置。 - 前記表示手段を更に有し、
前記制御手段は、前記表示領域を前記動画像のフレームの一部となるように制御する、ことを特徴とする請求項1または2に記載の画像再生装置。 - 前記表示手段は、前記動画像のフレームの全体をさらに表示する、
ことを特徴とする請求項3に記載の画像再生装置。 - 前記第1の被写体の位置は、前記動画像を撮影する際に検出されており、
前記取得手段は、前記第1の被写体の位置を前記動画像のヘッダから取得する、
ことを特徴とする請求項1から4のいずれか1項に記載の画像再生装置。 - 前記追尾処理によって検出された前記第2の被写体の位置を記録する記録手段をさらに有する、
ことを特徴とする請求項1から5のいずれか1項に記載の画像再生装置。 - 前記記録手段は、前記追尾処理によって検出された前記第2の被写体の位置を前記動画像のファイルとは異なるファイルに記録する、
ことを特徴とする請求項6に記載の画像再生装置。 - 前記記録手段は、前記追尾処理によって検出された前記第2の被写体の位置を前記動画像のファイルのヘッダに一部上書きして記録する、
ことを特徴とする請求項6に記載の画像再生装置。 - 前記取得手段は、前記記録手段により前記追尾処理によって検出された前記第2の被写体の位置が記録されている場合、記録されている当該追尾対象として指定された被写体の位置を取得する、
ことを特徴とする請求項6から8のいずれか1項に記載の画像再生装置。 - 取得手段が、撮影された動画像、および、前記動画像に関連付けられた、前記動画像に含まれる第1の被写体のフレームごとの位置を示す情報を取得する取得工程と、
追尾手段が、前記取得工程において取得した前記動画像のそれぞれのフレームに対して追尾処理を行うことによって、前記動画像のそれぞれのフレームにおける、追尾対象として指定された第2の被写体の動きを追尾する追尾工程と、
制御手段が、前記追尾処理によって検出された前記第2の被写体の位置と、前記取得工程において取得された情報が示す前記第1の被写体の位置との差が所定の範囲内のフレームにおいては、前記取得工程において取得された情報が示す前記第1の被写体の位置を用いて、表示手段に表示する前記動画像の表示領域を制御し、前記差が前記所定の範囲でないフレームにおいては、前記追尾処理によって検出された前記第2の被写体の位置を用いて、前記表示手段に表示する前記動画像の表示領域を制御する制御工程と、を有する
ことを特徴とする画像再生装置の制御方法。 - コンピュータに請求項10に記載の、画像再生装置の制御方法の各工程を実行させるためのプログラム。
- コンピュータに請求項10に記載の、画像再生装置の制御方法の各工程を実行させるためのプログラムを記録した記録媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015225087A JP6579925B2 (ja) | 2015-11-17 | 2015-11-17 | 画像再生装置およびその制御方法ならびにプログラムならびに記録媒体 |
US15/351,805 US10321089B2 (en) | 2015-11-17 | 2016-11-15 | Image preproduction apparatus, method for controlling the same, and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015225087A JP6579925B2 (ja) | 2015-11-17 | 2015-11-17 | 画像再生装置およびその制御方法ならびにプログラムならびに記録媒体 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2017092913A JP2017092913A (ja) | 2017-05-25 |
JP2017092913A5 JP2017092913A5 (ja) | 2018-12-27 |
JP6579925B2 true JP6579925B2 (ja) | 2019-09-25 |
Family
ID=58691218
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015225087A Active JP6579925B2 (ja) | 2015-11-17 | 2015-11-17 | 画像再生装置およびその制御方法ならびにプログラムならびに記録媒体 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10321089B2 (ja) |
JP (1) | JP6579925B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6579925B2 (ja) * | 2015-11-17 | 2019-09-25 | キヤノン株式会社 | 画像再生装置およびその制御方法ならびにプログラムならびに記録媒体 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3909683B2 (ja) * | 2002-05-23 | 2007-04-25 | ソニー株式会社 | 番組表示制御装置および番組表示制御方法 |
GB2395853A (en) * | 2002-11-29 | 2004-06-02 | Sony Uk Ltd | Association of metadata derived from facial images |
US7400344B2 (en) * | 2002-12-19 | 2008-07-15 | Hitachi Kokusai Electric Inc. | Object tracking method and object tracking apparatus |
JP5067418B2 (ja) * | 2007-03-16 | 2012-11-07 | 株式会社ニコン | 被写体追跡プログラム、被写体追跡装置、およびカメラ |
JP4985155B2 (ja) * | 2007-07-03 | 2012-07-25 | 株式会社ニコン | 焦点調節装置および撮像装置 |
JP5247076B2 (ja) * | 2007-07-09 | 2013-07-24 | 株式会社ニコン | 画像追尾装置、焦点調節装置および撮像装置 |
JP2009053815A (ja) * | 2007-08-24 | 2009-03-12 | Nikon Corp | 被写体追跡プログラム、および被写体追跡装置 |
JP4660569B2 (ja) * | 2008-03-21 | 2011-03-30 | 株式会社東芝 | 物体検出装置及び物体検出方法 |
AU2008264232B2 (en) * | 2008-12-30 | 2012-05-17 | Canon Kabushiki Kaisha | Multi-modal object signature |
JP4640515B2 (ja) * | 2009-03-25 | 2011-03-02 | 日本ビクター株式会社 | サムネイル生成装置、サムネイル生成方法、及びサムネイル生成プログラム |
US10645344B2 (en) * | 2010-09-10 | 2020-05-05 | Avigilion Analytics Corporation | Video system with intelligent visual display |
DE102011011931A1 (de) * | 2011-02-18 | 2012-08-23 | Hella Kgaa Hueck & Co. | Verfahren zum Auswerten einer Mehrzahl zeitlich versetzter Bilder, Vorrichtung zur Auswertung von Bildern, Überwachungssystem |
JP5876991B2 (ja) * | 2011-03-25 | 2016-03-02 | オリンパス株式会社 | 撮影機器、撮影方法及び再生方法 |
JP5830373B2 (ja) * | 2011-12-22 | 2015-12-09 | オリンパス株式会社 | 撮像装置 |
JP5888986B2 (ja) * | 2012-01-06 | 2016-03-22 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
JP2014220724A (ja) | 2013-05-10 | 2014-11-20 | ソニー株式会社 | 表示制御装置、表示制御方法、およびプログラム |
JP6249202B2 (ja) * | 2013-05-10 | 2017-12-20 | ソニー株式会社 | 画像表示装置、画像表示方法、およびプログラム |
JP5810136B2 (ja) * | 2013-07-04 | 2015-11-11 | オリンパス株式会社 | 追尾装置、追尾方法及び追尾プログラム |
JP6579925B2 (ja) * | 2015-11-17 | 2019-09-25 | キヤノン株式会社 | 画像再生装置およびその制御方法ならびにプログラムならびに記録媒体 |
-
2015
- 2015-11-17 JP JP2015225087A patent/JP6579925B2/ja active Active
-
2016
- 2016-11-15 US US15/351,805 patent/US10321089B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017092913A (ja) | 2017-05-25 |
US20170140523A1 (en) | 2017-05-18 |
US10321089B2 (en) | 2019-06-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10033931B2 (en) | Image processing apparatus and image processing method for processing still image data | |
JP6529267B2 (ja) | 情報処理装置及びその制御方法、プログラム、並びに記憶媒体 | |
EP2811731B1 (en) | Electronic device for editing dual image and method thereof | |
KR101349699B1 (ko) | 영상 추출 및 합성 장치, 이의 방법 | |
JP6176991B2 (ja) | 情報処理装置およびその制御方法およびプログラム | |
EP2720226A1 (en) | Photographing apparatus and method for synthesizing images | |
JP2012165277A (ja) | 撮像装置及びその制御方法、プログラム並びに記憶媒体 | |
JP2016224173A (ja) | 制御装置及び制御方法 | |
JP6948787B2 (ja) | 情報処理装置、方法およびプログラム | |
JP6579925B2 (ja) | 画像再生装置およびその制御方法ならびにプログラムならびに記録媒体 | |
JP5733956B2 (ja) | 撮像装置及びその制御方法、動画記録装置並びにその制御方法、プログラム、並びに記憶媒体 | |
JP2017212550A (ja) | 画像再生装置及びその制御方法、プログラム、記憶媒体 | |
JP2018174494A (ja) | 画像処理装置、画像処理方法及びプログラム | |
KR20140127131A (ko) | 영상 출력 방법 및 그 방법을 처리하는 전자장치 | |
JP2018074337A (ja) | 動画処理装置、動画処理方法およびプログラム | |
JP2011130206A (ja) | 撮像装置、及びその制御方法 | |
JP2020129763A (ja) | 動画再生装置、動画再生方法及びプログラム | |
JP2020057845A (ja) | 編集装置、その制御方法、及びプログラム | |
JP2012133459A (ja) | 画像評価装置、及び方法、並びにプログラム、そのプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP2019016952A (ja) | 情報処理装置及びプログラム | |
JP2005252803A (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよびそのプログラムを記録した記録媒体 | |
JP6877105B2 (ja) | 画像処理装置、制御方法、及びプログラム | |
JP6335064B2 (ja) | 撮像装置、撮像装置の制御方法およびコンピュータプログラム | |
JP5517596B2 (ja) | 撮影装置、撮影制御方法、及びコンピュータプログラム | |
JP5570348B2 (ja) | 画像処理装置、画像処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181115 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181115 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190722 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190729 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190827 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6579925 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |