JP4985818B2 - 画像処理装置および画像処理のプログラム - Google Patents
画像処理装置および画像処理のプログラム Download PDFInfo
- Publication number
- JP4985818B2 JP4985818B2 JP2010111591A JP2010111591A JP4985818B2 JP 4985818 B2 JP4985818 B2 JP 4985818B2 JP 2010111591 A JP2010111591 A JP 2010111591A JP 2010111591 A JP2010111591 A JP 2010111591A JP 4985818 B2 JP4985818 B2 JP 4985818B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- vector
- camera
- optical flow
- vector distribution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Analysis (AREA)
Description
さらに、図3に示されているように、動きベクトルを計算する際に、動きベクトルの空間的な滑らかさの度合いを示すパラメータを正則化パラメータとして用いている(特許文献1参照)。この正則化パラメータを用いたオプティカルフロー推定処理は、他の文献(特許文献2)で紹介されている公知の正規化手法に、正規化パラメータを用いる改良を加えたものである。
また、上記特許文献3のように、4つの小領域が同一方向に動いている期間をカメラの縦横の動きとして検出するだけでは、縦、横又は斜めのビデオカメラ移動、すなわち、カメラの平行移動は検出できるが、拡大や縮小のズームのカメラワークや回転のカメラワークは検出することができないという課題があった。このため、撮像された動画に基づいて、サッカーなどのスポーツの試合における選手の動きや試合の攻防を分析することは困難である。あるいは、再生された動画に基づいて、映画におけるカメラワークを分析することによって、撮像技術(映像文法)を研究することは困難である。
本発明は、オプティカルフロー推定処理によって、画像の動きベクトルを視覚的に把握することが可能な画像処理装置および画像処理のプログラムを提供することを目的とする。
また、本発明は、オプティカルフロー推定処理によって、平行移動、ズーム、および回転のような様々なカメラワークを検出して画像の分析を可能にするとともに、分析の対象となる画像を抽出して、その画像の動きを表示できる画像処理装置および画像処理のプログラムを提供することを目的とする。
また、本発明の画像処理装置および画像処理のプログラムによれば、オプティカルフロー推定処理によって、平行移動、ズーム、および回転のような様々なカメラワークを検出して画像の分析を可能にするとともに、分析の対象となる画像を抽出して、その画像の動きを表示できるという効果が得られる。
図1は、第1実施形態における画像処理装置の構成を示すブロック図である。図1において、CPU1は、システムバスを介して、ROM2、RAM3、画像入力インターフェース(I/F)4、スイッチ部5、演算部6、フレームメモリ7、画像出力インターフェース8に接続され、これら各部との間で指令やデータの授受を行って、この装置全体を制御する。
ステップSB1において、画面分割スイッチがオンでない場合には、シーン分割スイッチがオンであるか否かを判別する(ステップSB7)。このスイッチがオンである場合には、divに「1」をセットする(ステップSB8)。
一方、modeの値が「1」である場合には、オプティカルフローの計算によるベクトル分布に従って、ブロックの画像を振動数一定でディスプレイ9に表示する(ステップSC12)。あるブロックについて振動数一定で表示する場合には、そのブロックにおいて指定した任意の点(x0,y0)は、その点(x0,y0)とベクトル分布に応じた点(x0+Vx,y0+Vy)とを結ぶ直線上を、速度ベクトルに比例した移動量で移動する。
ステップSC11又はステップSC12の表示の後は、図2のメインルーチンに戻る。
Vx=−V・sinθxy
Vy=V・cosθxy
次に、起点座標と他のエリアの中心位置とを結ぶ直線と法線方向の成分drおよび接線方向の成分dxを下記の式で求める。
dr=Vy・cosθxy−Vx・sinθxy
=V・cosθxy・cosθxy−V(−sinθxy)・sinθxy=V
dz=Vy・sinθxy+Vx・cosθxy
=V・cosθxy・sinθxy・+V・(−sinθxy)・cosθxy=0
したがって、ベクトルVにおける水平方向のベクトルVxおよび垂直方向のベクトルVyは、下記の式で表される。
Vx=V・cosθxy
Vy=V・sinθxy
次に、起点座標と他のエリアの中心位置とを結ぶ直線と法線方向の成分drおよび接線方向の成分dxを下記の式で求める。
dr=Vy・cosθxy−Vx・
=V・sinθxy・cosθxy−V・cosθxy・sinθxy=0
dz=Vy・sinθxy+Vx・cosθxy
=V・sinθxy・sinθxy・+V・cosθxy・cosθxy=V
|Vn|・|Vu|・cosα=|Vn|・cosα
あるいは、一般に2つのベクトルの内積は、水平方向成分同士の積と垂直方向成分同士の積との和で表されるので、ベクトルVnと水平方向との角度をβとすると、ベクトルの内積は、次の式でも表される。
|Vn|cosβ・|Vu|cosθxy+|Vn|・sinβ・|Vu|sinθxy
=|Vn|cosβ・cosθxy+|Vn|・sinβ・sinθxy
=|Vn|・cos(β−θxy)
なお、θxyはベクトルVuと水平方向の角度であるので、β−θxy=αとなり、
|Vn|・cos(β−θxy)=|Vn|・cosα
フレームメモリ7に処理対象のフレームが残っていない場合には、画像出力インターフェース8を介して、ディスプレイ9にシーン分割した画像を表示する(ステップSD12)。そして、図2のメインルーチンに戻る。
図12は、対象画像の動きを分析するための画像処理の例を示す図である。図12(1)は、ビデオカメラを平行移動させながら、サッカーの試合を撮像した動画であり、3人の選手がそれぞれオプティカルフローで算出されたベクトル分布であるv1、v2、v3の動きベクトルで移動している。カメラワークのベクトル分布を右方向に向かうvcとすると、各選手のベクトル分布v1、v2、v3は、図12(2)に示すように、カメラワークのベクトル分布vcと選手自体のベクトル分布v1’、v2’、v3’に分解できる。したがって、各選手のベクトル分布からカメラワークのベクトル分布を相殺すると、選手自体のベクトル分布v1’、v2’、v3’に基づいて、動画像の中から選手の画像を抽出することができる。
そして、図12(3)に示すように、フレームから抽出した各選手の画像をそれぞれのベクトル分布に従って移動して表示することができる。この結果、試合中の各選手の動きを分析することによって、今後の練習の方針や次の試合における対策を研究することができる。
図13(2)は、その閾値より速い動きベクトルのボールおよび選手の画像を除外した場合の連続したフレームを示している。図13(2)のフレームからはカメラワーク自体の動きを抽出して容易に分析することができる。この場合のカメラワークは左から右に平行する単純なものであるが、回転や拡大・縮小などが復号したカメラワークにおいては、所定の閾値よりも速い動きベクトルの画像を除外することによって、カメラワーク自体の動きを分析に顕著な効果が得られる。例えば、映画撮影の場合には、監督や映画のジャンルなどによって、カメラワークがどのように異なるかの分析、すなわち映画文法の分析が可能となる。
したがって、オプティカルフロー推定処理によって、画像の動きベクトルを視覚的に把握することが可能になる。
例えば、ビデオカメラによって撮像されたフレーム画像のベクトル分布から、ビデオカメラのベクトル分布を相殺したベクトル分布に基づいて、部分画像の表示位置を移動して表示する。この場合において、ビデオカメラのベクトル分布を相殺したベクトル分布に対応する特定の画像(図12における選手の画像)を抽出して、相殺したベクトル分布に基づいてその特定の画像の表示位置を移動して表示する。
したがって、オプティカルフロー推定処理によって、分析の対象となる画像を抽出して、カメラワークの動きに関係なく、その画像自体の動きを表示できる。
あるいは、ビデオカメラのベクトル分布に基づいて、ビデオカメラによって撮像された動きのない背景画像の表示位置を移動して表示する。
したがって、オプティカルフロー推定処理によって、平行移動、ズーム、および回転のような様々なカメラワークを検出して画像の分析を可能にする。
したがって、平行移動、ズーム、および回転のような様々なカメラワークを正確に検出することができる。
この場合において、CPU1は、ビデオカメラのベクトル分布が平行移動と判定された場合の撮像画面のみを表示する。
したがって、スポーツの試合において、ビデオカメラの移動方向によって攻撃側のチームを容易に認識することで、試合全体の流れを明確に把握することができる。
第2実施形態における画像処理装置の構成は、図1に示した第1実施形態のブロック図と同じである。さらに、第2実施形態における画像処理の動作についても、シーン分割処理の一部を除いて、第1実施形態の動作と同じである。したがって、第1実施形態と同じ処理については説明を省略し、第1実施形態の図面を援用するとともに、第1実施形態と異なる内容について説明する。
vx=x+Vx
vy=y+Vy
vx=(x−xc)cosVθ−(y−yc)sinVθ
vy=(x−xc)sinVθ−(y−yc)cosVθ
r1・θ=d1、r2・θ=d2
すなわち、この式から次の式を導くことができる。
d2/d1=r2/r1
したがって、図16の映像における人物p1およびp2の画像の動きベクトルを分析することによって、3人の人物p0、p1、p2の配置関係も分析できる。
図18は、このような映像文法の分析に基づいて、実際の撮影現場を予想した図である。この図に示すように、カメラ11は、人物p0を中心とする円の軌道12に沿って矢印の方向に回転移動している。
なお、各種類のカメラワークを各シーン番号で表示したり、あるいは、各種類のカメラワークを各シーンの開始時間および終了時間で表示するようにしてもよい。
vx=(x−xc)Vz
vy=(y−yc)Vz
したがって、オプティカルフロー推定処理によって、平行移動、ズーム、および回転のような様々なカメラワークの速度を検出して、カメラワークの定量的な分析を可能にする。
また、各実施形態においては、画像の形に基づいて特定の画像を抽出するようにしたが、画像の色情報に基づいて特定の画像を抽出してもよい。
第1実施形態においては、図14に示したビデオカメラの撮像位置を特定するために、背景画像とマッチングを行ってカメラワークの分析を行うようにしたが、直接手作業でカメラワークの分析を行うようにしてもよい。
すなわち、汎用の情報処理装置にプログラムをインストールして画像処理を実行することにより、いわゆる物の発明としての画像処理装置の発明だけでなく、画像処理のプログラムの発明を実現できる。また、このような画像処理のプログラムを記憶したフレキシブルディスク、CD、DVD自体も独立して販売できるので、記憶媒体の発明をも実現できることは言うまでもない。
時系列に連続する動画の画面に対応する複数のフレーム画像の動きベクトルであるオプティカルフローを推定する第1のステップと、フレーム画像を所定数の部分画像に分割する第2のステップと、前記第2のステップによって分割された部分画像の各々に対して前記第1のステップによって推定されたオプティカルフローに基づくベクトル分布を算出する第3のステップと、所定の表示手段の表示画面上において前記第3のステップによって算出されたベクトル分布に応じて画像の表示位置を移動して表示する第4のステップと、を実行する。
2 ROM
3 RAM
4 画像入力インターフェース
5 スイッチ部
6 演算部
7 フレームメモリ
8 画像出力インターフェース
9 ディスプレイ
Claims (2)
- 時系列に連続する動画の画面に対応する複数のフレーム画像の動きベクトルであるオプティカルフローを推定する動き推定手段と、
前記動き推定手段によって推定されたオプティカルフローに基づくベクトル分布を算出するベクトル演算手段と、
一連の動画を前記ベクトル演算手段によって算出されたベクトル分布の分類に応じた区間に分割する分割手段と、
前記分割手段によって分割された区間ごとに一枚の代表画像を各分割区間の画像の間を空けて一覧表示する表示手段と、
一覧表示された前記代表画像をその区間のベクトル分布に応じて、縦軸又は横軸を中心とする画像の回転、画面の拡大又は縮小であるズーム、画像を横又は斜めに移動するパン、画像を上又は下に移動する縦揺れ、カメラの光軸を中心とする回転のいずれかの表示をさせる表示制御手段と、
を備えた画像処理装置。 - 時系列に連続する動画の画面に対応する複数のフレーム画像の動きベクトルであるオプティカルフローを推定する第1のステップと、
前記第1のステップによって推定されたオプティカルフローに基づくベクトル分布を算出する第2のステップと、
一連の動画を前記第2のステップによって算出されたベクトル分布の分類に応じた区間に分割する第3のステップと、
前記第3のステップによって分割された区間ごとに一枚の代表画像を各分割区間の画像の間を空けて一覧表示する第4のステップと、
前記第4のステップによって一覧表示された代表画像をその区間のベクトル分布に応じて、縦軸又は横軸を中心とする画像の回転、画面の拡大又は縮小であるズーム、画像を横又は斜めに移動するパン、画像を上又は下に移動する縦揺れ、カメラの光軸を中心とする回転のいずれかの表示をさせる第5のステップと、
を実行する画像処理のプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010111591A JP4985818B2 (ja) | 2010-05-14 | 2010-05-14 | 画像処理装置および画像処理のプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010111591A JP4985818B2 (ja) | 2010-05-14 | 2010-05-14 | 画像処理装置および画像処理のプログラム |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004215143A Division JP4552553B2 (ja) | 2004-07-23 | 2004-07-23 | 画像処理装置および画像処理のプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010198634A JP2010198634A (ja) | 2010-09-09 |
JP4985818B2 true JP4985818B2 (ja) | 2012-07-25 |
Family
ID=42823230
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010111591A Expired - Fee Related JP4985818B2 (ja) | 2010-05-14 | 2010-05-14 | 画像処理装置および画像処理のプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4985818B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101841122B1 (ko) * | 2011-09-29 | 2018-03-23 | 엘지전자 주식회사 | 블록 기반의 동영상 옵티컬 플로 추정 |
US10018703B2 (en) * | 2012-09-13 | 2018-07-10 | Conduent Business Services, Llc | Method for stop sign law enforcement using motion vectors in video streams |
CN111274914B (zh) * | 2020-01-13 | 2023-04-18 | 目骉资讯有限公司 | 一种基于深度学习的马匹速度计算系统及方法 |
CN111563838B (zh) * | 2020-04-24 | 2023-05-26 | 维沃移动通信有限公司 | 图像处理方法及电子设备 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06276467A (ja) * | 1993-03-23 | 1994-09-30 | Toshiba Corp | 映像インデックス作成方式 |
JPH0738842A (ja) * | 1993-06-29 | 1995-02-07 | Toshiba Corp | 動画編集装置 |
JPH10112863A (ja) * | 1996-10-04 | 1998-04-28 | Nippon Telegr & Teleph Corp <Ntt> | 動き被写体情報抽出方法及び装置 |
JP3648130B2 (ja) * | 2000-05-15 | 2005-05-18 | 日本電信電話株式会社 | 映像一覧方法及び映像一覧処理プログラムを記録したコンピュータ読み取り可能な記録媒体 |
JP2003061112A (ja) * | 2001-08-20 | 2003-02-28 | Univ Waseda | カメラワーク検出装置およびカメラワーク検出方法 |
JP2004172883A (ja) * | 2002-11-19 | 2004-06-17 | Canon Inc | 信号処理方法 |
-
2010
- 2010-05-14 JP JP2010111591A patent/JP4985818B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2010198634A (ja) | 2010-09-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20230092516A1 (en) | Computer-implemented method for automated detection of a moving area of interest in a video stream of field sports with a common object of interest | |
JP6702329B2 (ja) | 映像処理装置、映像処理方法、及び、プログラム | |
US20180077345A1 (en) | Predictive camera control system and method | |
US10389935B2 (en) | Method, system and apparatus for configuring a virtual camera | |
Chen et al. | Mimicking human camera operators | |
US10839594B2 (en) | Method, system and apparatus for capture of image data for free viewpoint video | |
US20150264258A1 (en) | Autonomous camera system for capturing sporting events | |
US10413803B2 (en) | Method, system and apparatus for displaying a video sequence | |
JP4985818B2 (ja) | 画像処理装置および画像処理のプログラム | |
Chen et al. | Autonomous camera systems: A survey | |
Patrona et al. | Computational UAV cinematography for intelligent shooting based on semantic visual analysis | |
Pidaparthy et al. | Keep your eye on the puck: Automatic hockey videography | |
US11468258B2 (en) | Information processing apparatus, information processing method, and storage medium | |
AU2017276279A1 (en) | Spatio-temporal features for video analysis | |
Kim et al. | Content-preserving video stitching method for multi-camera systems | |
WO2018112498A1 (en) | Method and system for rendering an object in a virtual view | |
US20230164424A1 (en) | Control apparatus, control system, and control program | |
JP6983049B2 (ja) | オブジェクト追跡装置及びそのプログラム | |
US20170171499A1 (en) | Method, system and apparatus for spatially arranging a plurality of video frames for display | |
JP4552553B2 (ja) | 画像処理装置および画像処理のプログラム | |
US11557122B2 (en) | Control apparatus, control system, control method, and storage medium | |
JP7442089B2 (ja) | 球技映像解析装置、球技映像解析方法、及び、コンピュータプログラム | |
JP2022026844A (ja) | 画像処理装置、画像処理方法およびプログラム | |
EP4220556A1 (en) | Image processing apparatus, image processing method, program, and storage medium | |
Kurano et al. | Ball trajectory extraction in team sports videos by focusing on ball holder candidates for a play search and 3D virtual display system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100611 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100611 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111025 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111116 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120403 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120416 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 4985818 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150511 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |