JP2016107001A - 抽出プログラム、方法、及び装置 - Google Patents

抽出プログラム、方法、及び装置 Download PDF

Info

Publication number
JP2016107001A
JP2016107001A JP2014250152A JP2014250152A JP2016107001A JP 2016107001 A JP2016107001 A JP 2016107001A JP 2014250152 A JP2014250152 A JP 2014250152A JP 2014250152 A JP2014250152 A JP 2014250152A JP 2016107001 A JP2016107001 A JP 2016107001A
Authority
JP
Japan
Prior art keywords
bat
batting
frame
cut
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014250152A
Other languages
English (en)
Inventor
淳 小口
Atsushi Oguchi
淳 小口
美帆 坂井
Miho Sakai
美帆 坂井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2014250152A priority Critical patent/JP2016107001A/ja
Priority to TW104139700A priority patent/TWI590856B/zh
Priority to US14/954,123 priority patent/US10134445B2/en
Priority to KR1020150172668A priority patent/KR101891382B1/ko
Publication of JP2016107001A publication Critical patent/JP2016107001A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/45Controlling the progress of the video game
    • A63F13/46Computing the game score
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00326Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a data reading, recognizing or recording apparatus, e.g. with a bar-code apparatus
    • H04N1/00328Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a data reading, recognizing or recording apparatus, e.g. with a bar-code apparatus with an apparatus processing optically-read information
    • H04N1/00336Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a data reading, recognizing or recording apparatus, e.g. with a bar-code apparatus with an apparatus processing optically-read information with an apparatus performing pattern recognition, e.g. of a face or a geographic feature

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Television Signal Processing For Recording (AREA)
  • Tourism & Hospitality (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Economics (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Security & Cryptography (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)

Abstract

【課題】野球の試合を撮影した映像から、打席の終わりを精度良く抽出する。【解決手段】第2抽出部24が、打席の始まりを示す箇所と、その打席の始まりから特定される各打席の結果を示す情報とが対応付けられた野球の試合の撮影映像から、打席における最後の投球シーンを含むカットの後、打席の結果に応じた回数カットが切り替わった箇所を、打席の終わりとして抽出する。【選択図】図3

Description

本発明は、抽出プログラム、抽出方法、及び抽出装置に関する。
従来、スポーツ中継の映像から、その映像に含まれる特定のシーンを抽出することが行われている。例えば、ダイジェスト視聴の対象となるスポーツ映像のイベント終了点を抽出する装置が提案されている。この装置では、イベント開始点が決定されたスポーツ映像から、イベント開始点以降のカット点を検出し、検出されたカット点間のカット長の種別をそのカット長の短長に応じて分類する。また、カット長の種別の出現パターンをイベント終了点に対応付けて、出現パターン記憶部に記憶しておく。そして、出現パターン記憶部を参照して、分類された種別の出現パターンに対応するイベント終了点を抽出し、抽出されたイベント終了点を出力する。
特開2007−335984号公報
ここで、野球の試合を撮影した映像を対象とし、イベント終了点として打席の終わりを想定する。この場合、試合状況に応じてカットの切り替わり方は様々な態様があるため、従来技術のように、カット長の種別の出現パターンだけでは、打席の終わりを精度良く抽出することができない。
一つの側面として、野球の試合を撮影した映像から、打席の終わりを抽出する精度の向上を図ることを目的とする。
一つの態様では、打席の始まりを示す箇所と、該打席の始まりから特定される各打席の結果を示す情報とが対応付けられた野球の試合の撮影映像から、打席の終わりを抽出する。打席の終わりとして、前記打席における最後の投球シーンを含むカットの後、前記打席の結果に応じた回数カットが切り替わった箇所を抽出する。
一つの側面として、野球の試合を撮影した映像から、打席の終わりを抽出する精度の向上を図ることができる。
本実施形態に係る映像配信システムの概略構成を示すブロック図である。 野球データ・データベースの一例を示す図である。 本実施形態に係る抽出装置及び配信装置の機能ブロック図である。 投球構図フレーム及び編集の一例を説明するための図である。 カウント表示の一例を示す図である。 得点テロップの一例を示す図である。 フレーム情報テーブルの一例を示す図である。 打席タグデータテーブルの一例を示す図である。 野球データDBのデータと、編集済み映像の各フレームとの対応付けを説明するための図である。 修正画面の一例を示す図である。 カットチェンジ回数テーブルの一例を示す図である。 抽出した打席の終わりの一例を示す図である。 得点シーンにおけるカットの切り替わり、及び得点テロップの一例を示す図である。 メタ情報ファイルの一例を示す図である。 配信画面の一例を示す図である。 抽出装置として機能するコンピュータの一例を示す概略ブロック図である。 配信装置として機能するコンピュータの一例を示す概略ブロック図である。 編集処理の一例を示すフローチャートである。 抽出処理の一例を示すフローチャートである。 打席終わり抽出処理の一例を示すフローチャートである。 配信処理の一例を示すフローチャートである。
以下、図面を参照して本発明に係る実施形態の一例を詳細に説明する。本実施形態では、本発明に係る抽出装置を、映像配信システムに適用した例について説明する。
図1に示すように、本実施形態に係る映像配信システム10は、抽出装置20と、配信装置30と、ユーザ端末40と、外部装置50とを含む。抽出装置20と、配信装置30と、ユーザ端末40と、外部装置50とは、互いにネットワークを介して接続されている。
ユーザ端末40は、映像を表示する表示部及び情報を入力する入力部を備えた装置であり、例えば、パーソナルコンピュータ(PC)、ノート型PC、タブレット端末、スマートフォン等である。なお、図1では、ユーザ端末40を1台のみ表記しているが、ユーザ端末は複数台であってもよい。
外部装置50には、野球の試合に関する各種データが記録された野球データ・データベース(DB)51が記憶されている。図2に野球データDB51の一例を示す。図2の例では、野球データDB51は、打席データテーブル51Aと、試合データテーブル51Bと、打者データテーブル51Cと、投手データテーブル51Dとを含む。
図2の例では、打席データテーブル51Aは、各打席を識別するための識別情報である「打席イベントID」に、「試合ID」、「イニング」、「打順」、「打者ID」、「投手ID」、及び「打席結果」の各項目が対応付けられて記憶されている。打席データテーブル51Aにおいて、各レコード(各行)が1打席のデータに相当する。「打席イベントID」は、試合毎かつチーム毎の各打席に対して、試合開始からの通し番号を付与したものである。
「試合ID」は、その打席を含む試合を識別するための識別情報である。「イニング」は、その打席が何イニング時の打席かを示す情報である。「打順」は、その打席が1番から9番までのいずれの打順における打席かを示す情報である。「打者ID」は、その打席における打者を識別するための識別情報である。「投手ID」は、その打席での対戦チームの投手を識別するための識別情報である。「打席結果」は、その打席の詳細な最終結果を示す情報である。
試合データテーブル51Bには、打席データテーブル51Aの「試合ID」に対応する情報が記憶される。図2の例では、試合データテーブル51Bは、「試合ID」、「日時」、「場所」、「チーム」等の項目を含む。「日時」は、試合が行われた日時、「場所」は試合が行われた球場名等である。「チーム」はその試合で対戦したチーム及び先攻または後攻の区別を示す情報である。
打者データテーブル51Cには、打席データテーブル51Aの「打者ID」に対応する情報が記憶される。図2の例では、打者データテーブル51Cは、「打者ID」、「選手名」、及び「チーム」の項目を含む。「選手名」は、打者IDで識別される打者の氏名の情報である。「チーム」は、打者IDで識別される打者の所属チームの情報である。
投手データテーブル51Dには、打席データテーブル51Aの「投手ID」に対応する情報が記憶される。図2の例では、投手データテーブル51Dは、「投手ID」、「選手名」、「チーム」、及び「左右」の項目を含む。「選手名」は、投手IDで識別される投手の氏名の情報である。「チーム」は、投手IDで識別される投手の所属チームの情報である。「左右」は、投手IDで識別される投手が左投手(左投げ)か右投手(右投げ)かを示す情報である。
なお、野球データDB51に含まれるテーブル及び各テーブルの項目は、図2に示す例に限定されず、他の情報を含んでもよい。また、データ構造も図2の例に限定されず、打席毎のデータが、その打席の順番を識別できる状態で記録されたデータであればよい。
映像配信システム10では、抽出装置20により、野球の試合を撮影した映像に、打席の始まり及び終わりを示すメタ情報と、外部装置50に記憶された野球データDB51のデータを各打席に対応付けたメタ情報とが付加される。そして、配信装置30及びネットワークを介して、メタ情報が付加された映像がユーザ端末40に配信される。図3に示すように、抽出装置20は、第1抽出部21と、計算部22と、対応付け部23と、第2抽出部24と、作成部25とを含む。また、配信装置30は、編集部31と、配信部32とを含む。
まず、配信装置30の各部について詳述する。
編集部31は、野球の試合を撮影した映像(以下、「撮影映像」という)を取得する。撮影映像は、例えば30fpsや60fps等のフレームレートで撮影された映像であり、複数のフレームを含む。各フレームには、撮影映像の撮影開始からの経過時間で表されるフレーム時間が対応付けられている。本実施形態では、フレーム時間は、フレームの識別情報としても用いられる。
編集部31は、図示しない表示装置及び入力装置を用いてオペレータの操作により指示された編集内容を、画像処理により撮影映像に適用する。編集内容としては、例えば図4に示すように、撮影映像の所定の場面に対応する各フレーム100に対して、試合状況を示すカウント表示102を付加することを含む。
カウント表示102は、イニング、ボールカウント、ストライクカウント、アウトカウント、ランナーの状況、及びチーム毎の現在の得点を含むカウント情報を示す表示である。カウント表示102は、例えば図5に示すように、イニングを示すイニング表示104、ボールカウントを示すボールカウント表示105、及びストライクカウントを示すストライクカウント表示106を含む。さらに、カウント表示102は、アウトカウントを示すアウトカウント表示107、ランナーの状況を示すランナー表示108、及びチーム毎の現在の得点を示す得点表示109を含む。なお、カウント表示102のフォーマットは図5の例に限定されず、少なくとも、イニング、アウトカウント、ランナーの状況、及びチーム毎の現在の得点を含むカウント情報を示す表示であればよい。
また、編集部31は、得点があったシーンを示す各フレーム100に、例えば図6に示すように、得点があったことを示す得点テロップ101を付加する。
なお、編集内容はカウント表示102及び得点テロップ101の付加に限定されず、氏名やプロフィールなどの選手情報を示すテロップの付加など、様々な内容を含む。以下では、撮影映像に対して編集部31による編集が行われた映像を「編集済み映像」という。編集部31は、編集済み映像を、抽出装置20へ送信する。
配信部32は、抽出装置20によりメタ情報が付加された映像(以下、「メタ情報付き映像」という。詳細は後述)を取得する。配信部32は、メタ情報付き映像を所定の規格に従った配信用映像に変換して、配信先のユーザ端末40に配信する。
次に、抽出装置20の各部について詳述する。
第1抽出部21は、配信装置30から送信された編集済み映像を取得する。第1抽出部21は、編集済み映像から、打席の始まりを示すフレームを抽出し、打席の始まりを示す打席タグを編集済み映像に付与する。打席の始まりを示すフレームの抽出は、編集済み映像の各フレームの特徴から抽出してもよいし、人手により抽出してもよい。本実施形態では、一例として、各フレームの構図及びカウント表示102に基づいて、打席の始まりを示すフレームを抽出し、そのフレームに打席の始まりを示す打席タグを付与する場合について説明する。
第1抽出部21は、編集済み映像に含まれる複数のフレームの各々から、投手の投球場面に使用されるカメラアングルで撮影された構図のフレームを、投球構図フレームとして検出する。本実施形態では、図4に示すように、投手の背後から打者方向を撮影した構図のフレームを、投球構図フレームとする場合について説明する。
具体的には、第1抽出部21は、フレーム毎に画像特徴を抽出する。画像特徴とは、フレーム内の各画素の輝度や色等の画素情報により表される特徴である。そして、第1抽出部21は、予め用意された投球構図フレームから抽出された基準画像特徴と、編集済み映像の各フレームから抽出した抽出画像特徴との類似度を求める。第1抽出部21は、基準画像特徴との類似度が所定値以上となる抽出画像特徴を有するフレームを、投球構図フレームとして抽出する。画像特徴としては、画像の構図(構成)を表す特徴、例えば色や輝度の配置や分布を表す特徴、ウェーブレット変換により得られる特徴等を用いることができる。
また、第1抽出部21は、各フレームから、カウント表示102を抽出し、カウント表示102が示すカウント情報を検出する。例えば、第1抽出部21は、カウント表示102が表示される領域として予め定められたフレーム内の領域から、カウント表示102を抽出する。または、予め定められたカウント表示102のフォーマットを用いたパターンマッチング等により、フレーム内からカウント表示102を抽出する。そして、第1抽出部21は、抽出したカウント表示102から、パターンマッチングや文字認識処理等により、イニング表示104の領域を特定すると共に、イニング表示104が示すイニングを検出する。同様に、第1抽出部21は、ボールカウント表示105からボールカウントを、ストライクカウント表示106からストライクカウントを検出する。また、第1抽出部21は、アウトカウント表示107からアウトカウントを、ランナー表示108からランナーの状況を、得点表示109から得点を検出する。
第1抽出部21は、投球構図フレームの検出結果、及びフレーム毎に検出したカウント情報を、フレーム情報テーブル26に記録する。フレーム情報テーブル26の一例を図7に示す。図7の例では、フレーム時間で識別されるフレーム毎に、「構図判定」、「ボール」、「ストライク」、「アウト」、「ランナー」、「得点(先攻)」、「得点(後攻)」、及び「イニング」の項目を含む。第1抽出部21は、投球構図フレームとして検出したフレームに対応する「構図判定」の項目に、「TRUE」を記録する。投球構図フレームとして検出されなかったフレームに対応する「構図判定」の項目はブランクとする。また、第1抽出部21は、カウント情報として検出したボールカウント、ストライクカウント、アウトカウント、ランナーの状況、得点、及びイニングの各々を、対応する項目の各々に記録する。
なお、図7では、説明を簡単にするため、フレーム時間を0.1秒刻みとして表現しているが、例えば、撮影映像のフレームレートが30fpsの場合にはフレーム時間は約0.03秒刻みであり、60fpsの場合にはフレーム時間は約0.017秒刻みである。
第1抽出部21は、フレーム情報テーブル26を参照して、連続する複数の投球構図フレームからなるフレーム群を投球構図シーンとして特定する。第1抽出部21は、投球構図シーンの先頭フレームを、投球の始まりを示すフレームとして判定し、投球の始まりを示す投球タグを付与する。さらに、第1抽出部21は、投球の始まりを示すフレームのボールカウントが0、かつストライクカウントが0の場合に、そのフレームを打席の始まりを示すフレームとして判定し、打席の始まりを示す打席タグを付与する。図7の例では、「投球タグ」の項目に「start」が記録されているフレームが、投球の始まりを示す投球タグが付与されたフレームを表す。また、「打席タグ」の項目に「start」が記録されているフレームが、打席の始まりを示す打席タグが付与されたフレームを表す。
例えば、図7の例では、第1抽出部21は、まず、フレーム時間=128.3〜130.0に含まれるフレーム群により表されるシーンを、投球構図シーンとして特定する。そして、第1抽出部21は、投球構図シーンの先頭フレームであるフレーム時間=128.3のフレームを投球の始まりを示すフレームとして判定する。さらに、フレーム時間=128.3のフレームのボールカウント及びストライクカウントはいずれも0であるため、フレーム時間=128.3のフレームを打席の始まりを示すフレームとして判定する。同様に、フレーム時間=130.7以降に含まれるフレーム群により表されるシーンを、投球構図シーンとして特定する。そして、第1抽出部21は、投球構図シーンの先頭フレームであるフレーム時間=130.7のフレームを投球の始まりを示すフレームとして判定する。ただし、フレーム時間=130.7のフレームは、ボールカウントが0、ストライクカウントが1であるため、打席の始まりを示すフレームとしては判定されない。
計算部22は、フレーム情報テーブル26から、打席の順番を計算するために必要な情報を抽出した打席タグデータテーブル27を作成する。図8に、打席タグデータテーブル27の一例を示す。図8の例では、「フレーム時間」、「イニング」、「アウト」、「ランナー」、「得点(先攻)」、「得点(後攻)」、「残塁(累積)」、及び「打席イベントID」の項目を含む。打席タグデータテーブル27において、各レコード(各行)が打席の始まりを示す打席タグで区切られた各打席に関するタグデータ(以下、「打席タグデータ」という)に相当する。
具体的には、計算部22は、第1抽出部21により打席の始まりを示す打席タグが付与されたフレームをフレーム情報テーブル26から抽出する。そして、計算部22は、抽出したフレームのフレーム時間、イニング、アウトカウント、得点(先攻)、及び得点(後攻)の情報を、打席タグデータテーブル27に記録する。また、第1抽出部21は、フレーム情報テーブル26の「ランナー」の項目に記録されたランナーの状況から、ランナーの数を求め、打席タグデータテーブル27の「ランナー」の項目に記録する。例えば、フレーム情報テーブル26の「ランナー」の項目に記録されたランナーの状況が、1塁及び2塁にランナーがいることを示している場合には、打席タグデータテーブル27の「ランナー」の項目に「2」を記録する。
また、計算部22は、各イニングにおける残塁数を累積した値を、「残塁(累積)」の項目に記録する。各イニングにおける残塁数は、「イニング」の項目に同一の値が記録されている打席タグデータのうち、フレーム時間が最も大きい打席タグデータの「ランナー」の項目に記録された人数を、イニングの「表」または「裏」毎に累積したものである。
また、計算部22は、「イニング」、「アウト」、「ランナー」、「得点(先攻)」、「得点(後攻)」、及び「残塁(累積)」の各項目に記録された値に基づいて、各打席がその試合におけるそのチームにとっての何打席目かを示す打席の順番を計算する。例えば、計算部22は、下記の式により打席の順番を計算することができる。
打席の順番={((「イニング」の数字)−1)×3+「残塁(累積)」+1}
+「アウト」+「ランナー」+「得点」
ここで、「得点」は、「イニング」が「表」の場合には、「得点(先攻)」の値を用い、「イニング」が「裏」の場合には、「得点(後攻)」の値を用いる。計算部22は、打席毎に計算した打席の順番を、打席タグデータテーブル27の「打席イベントID」の項目に記録する。
なお、打席の順番の計算方法は上記に限定されず、その打席に至るまでに何人の打者を送り出したかということを計算するものであればよい。例えば、下記の式によっても打席の順番を計算することができる。
打席の順番=(前のイニングにおける最終の打席の順番)+「アウト」
+「ランナー」+(「得点」−前のイニングにおける最終の「得点」)
ここで、(前のイニングにおける最終の打席の順番)は、「イニング」の項目に前のイニングの値が記録されている打席タグデータのうち、フレーム時間が最も大きい打席タグデータの「打席イベントID」の項目に記録された値である。同様に、前のイニングにおける最終の「得点」は、「イニング」の項目に前のイニングの値が記録されている打席タグデータのうち、フレーム時間が最も大きい打席タグデータの「得点」の項目に記録された値である。なお、「前のイニングの値」は、計算対象の打席タグデータの「イニング」に記録された値と、「表」または「裏」の区別が同一で、数字が1小さい値である。
対応付け部23は、外部装置50から野球データDB51を取得して、野球データDB51と、打席タグデータテーブル27とを、両者の打席イベントIDに基づいて対応付ける(統合を行なう)。これにより、図9に示すように、既存の外部データである野球データDB51のデータを、編集済み映像の各フレームに対応するメタ情報として、編集済み映像に付加することができる。
図9の例では、打席毎の打者及び打席結果をメタ情報として付加する例を示しているが、他の項目も同様に、メタ情報として付加することができる。ただし、本実施形態では、後述する第2抽出部24で利用するために、対応付けるデータには、少なくとも打席結果、及びその打席における得点の有無を判定可能な情報を含める。図9の例では、対応付けられている打席結果は詳細な打席結果であり、その打席において得点があった場合には、その得点の情報も含まれている。なお、図9の例における打者の氏名は、野球データDB51の打席データテーブル51Aの「打者ID」に対応する選手名を打者データテーブル51Cから抽出したものである。
なお、対応付け部23は、野球データDB51と、打席タグデータテーブル27とを対応付ける際に、野球データDB51、及び打席タグデータテーブル27それぞれの「イニング」の情報を参照して、イニング毎に対応付けを行なうこととしてもよい。野球データDB51と、打席タグデータテーブル27とをイニング毎に対応付けることで、後述する打席タグの付与エラーが生じた際に、以降のイニングまで対応付けのずれが波及することを抑止することができる。
ここで、本実施形態では、フレームの画像特徴、及びフレームから抽出したカウント表示102が示す情報に基づいて、打席の始まりを抽出し、打席の始まりを示す打席タグを付与している。そのため、打席の始まりを完全に抽出できず、打席の始まりを示す打席タグの付与もれが生じたり、打席の始まりではない箇所を打席の始まりとして抽出してしまい、打席の始まりを示す打席タグの重複が生じたりする場合もある。なお、この問題は、打席の始まりを示す打席タグを人手により付与する場合も同様に生じえる。
そこで、対応付け部23は、打席タグデータテーブル27の「打席イベントID」に数字の飛びや重複が存在する箇所を、抽出装置20に備えられた表示装置を用いてオペレータに提示し、打席タグの修正を促す。例えば、対応付け部23は、抽出装置20に備えられた表示装置に、図10に示すような修正画面110を表示する。図10の例では、修正画面110は、編集済み映像が再生される映像再生領域111と、対応付けデータ表示領域112と、映像の再生、早送り、早戻し、コマ送り、一時停止等の操作を行うための操作ボタン113とを含む。また、修正画面110は、映像再生領域111に表示されているフレームに打席タグを付与するための打席タグ付与ボタン114を含む。
対応付けデータ表示領域112には、野球データDB51から編集済み映像に対応付けた打席毎のメタ情報が表示される。対応付けデータ表示領域112に表示するメタ情報としては、少なくとも打席イベントIDを含み、打席タグの確認を容易にするための他の情報を表示するとよい。対応付けデータ表示領域112に表示された各打席のデータが選択されると、対応付け部23は、打席タグデータテーブル27から対応するフレーム時間を取得する。そして、映像再生領域111において、取得したフレーム時間で示されるフレーム以降の編集済み映像を再生する。
また、対応付けデータ表示領域112にメタ情報を表示する際には、打席イベントIDに飛びまたは重複がある打席のデータを強調表示するなどして、オペレータに打席タグの付与エラーの存在を提示する。図10の例では、チームAについての打席イベントID=2(図10中「ID:2」と表記、他の打席イベントIDについても同様)が重複している。また、チームBについての打席イベントID=3が飛んでいる(2以上増加している)。図10では、打席タグの付与エラーと判断される打席に下線が付与され、強調表示されている。強調表示の態様は図10に示した下線の付与以外にも、例えば、文字の色を変える、文字の大きさを変える、文字の字体を変える、などの様々な変形例が考えらえる。
打席イベントIDが重複している場合、打席タグの付与エラーとして、打席が重複して抽出されていることが考えられる。したがって、打席イベントIDが重複している場合、対応付け部23は、打席が重複して抽出されたことによる打席タグの付与エラーが発生していることをデータ表示領域112に表示させることとしてもよい。また、打席イベントIDが、1つ前の打席イベントIDに対して2以上増加している場合は、打席の抽出漏れが発生していることが考えられる。したがって、打席イベントIDが2以上増加している場合、対応付け部23は、打席タグの付与エラーとして、打席の抽出漏れが発生していることをデータ表示領域112に表示させることとしてもよい。また、対応付け部23は、打席イベントIDが、1つ前の打席イベントIDに対して減少している場合にも打席タグの付与エラーが発生していると判定してもよい。
抽出装置20のオペレータは、例えば、打席イベントIDが重複している場合には、該当の打席のデータを対応付けデータ表示領域112から選択することにより、映像を確認する。そして、オペレータは、打席タグの付与エラーに該当する打席のデータを、対応付けデータ表示領域112から削除する。対応付け部23は、対応付けデータ表示領域112から削除された打席のデータに対応する打席タグデータを打席タグデータテーブル27から削除する。これにより、誤って打席タグが付与されていたフレームから打席タグを外す。
また、抽出装置20のオペレータは、例えば、打席イベントIDが飛んでいる場合には、該当の前後の打席のデータを対応付けデータ表示領域112から選択することにより、映像を確認する。そして、オペレータは、映像再生領域111に打席の始まりを示すフレームを表示させた状態で、打席タグ付与ボタン114を選択する。対応付け部23は、打席タグ付与ボタン114選択時に、映像再生領域111に表示されているフレームのフレーム時間を打席タグデータテーブル27に追加する。そして、打席タグデータテーブル27における前後のフレーム時間に対応付けられた打席イベントIDを参照して、追加したフレーム時間に打席イベントIDを付与する。
対応付け部23は、修正後の打席タグデータテーブル27に基づいて、再度野球データDB51との対応付けを行う。これにより、打席タグが付与された各フレーム、すなわち打席の始まりを示す各フレームのフレーム時間に、野球データDB51の打席毎のデータがメタ情報として対応付けられる。
なお、野球データDB51と、打席タグデータテーブル27との対応付けを行なう際には、下記の態様で対応付けを行なうこととしてもよい。
・打席タグデータテーブル27の打席イベントIDが、1つ前の打席イベントIDから1増加している場合には対応付けを行なう。
・打席タグデータテーブル27の打席イベントIDが、1つ前の打席イベントIDから1増加している値でない場合には、対応付けの処理を中断する。
打席イベントIDが、1つ前の打席イベントIDから1増加している値でない場合とは、上述した、打席イベントIDが重複している、打席イベントIDが2以上増加している、打席イベントIDが減少している、などの場合である。対応付けの処理を中断する場合は、1つ前の打席イベントIDから1増加している値でない打席イベントIDの部分について中断することとしてもよい。また、対応付けの処理において1つ前の打席イベントIDから1増加している値でない打席イベントIDが検出された時点で、対応付けの処理が中断されることとしてもよい。これにより、打席イベントIDが誤って付与されたことに伴い、誤った対応付けの処理が行なわれてしまうことを抑止することができる。
上記のようなメタ情報が映像に付加されることにより、例えば、メタ情報に基づいて、ある選手の打席シーンのみを集めたパーソナルダイジェストを作成することが可能になる。具体的には、ある打者が指定された場合、指定された打者を示す選手名または打者IDがメタ情報として付加されたフレームを抽出する。そして、抽出したフレームから、次の打席タグが付与されたフレームの前のフレームまで、すなわち打席の始まりを示す打席タグで区切られた区間を、指定された打者の1打席の映像として抽出する。
しかし、1打席の映像を、上記のように打席の始まりを示す打席タグで区切られた区間として抽出した場合には、ダイジェストとして視聴するには冗長な映像になる場合がある。例えば、1打席の映像として抽出した区間の終盤では、打席終了後の打者の様子、投手の様子、球場内の様子、グラウンドの様子、次の打者が打席に入るまでの様子などを写したカットが含まれる場合が多く、これらのカットが冗長さの原因となる。なお、「カット」とは、同一のカメラで連続的に撮影された一続きの部分である。
そこで、本実施形態では、打席単位のダイジェストを作成した場合に、冗長さを低減できるように、第2抽出部24により、適切な箇所を打席の終わりとして抽出する。
具体的には、第2抽出部24は、打席タグが付与されたフレーム、すなわち打席の始まりを示すフレームに対応付けられた打席毎のデータを示すメタ情報から、打席結果、及びその打席における得点の有無を取得する。第2抽出部24は、その打席において得点が無かった場合には、その打席における最後の投球を含むカットの後、打席結果に応じた回数カットが切り替わった箇所を、打席の終わりとして抽出する。
より具体的には、第2抽出部24は、打席タグで区切られた区間において、投球タグが付与されたフレームのうち、フレーム時間が最大のフレームを、その打席における最後の投球の始まりを示すフレームとして抽出する。
また、第2抽出部24は、例えば、図11に示すように、打席結果とカットチェンジ回数とを予め対応付けたカットチェンジ回数テーブル28から、メタ情報から取得した打席結果に応じたカットチェンジ回数を取得する。その打席の最後の投球後のカットの切り替わりは、その打席の結果により異なる傾向にある。これを考慮して、カットチェンジ回数テーブル28に定めておくカットチェンジ回数は、1打席分の映像として終わり部分が途切れることなく、かつ冗長さを低減できるような回数を、打席結果に応じて定めておく。
打席結果に応じたカットチェンジ回数の一例について説明する。例えば、打席結果が三振の場合、その打席における最後の投球を含むカットは、打者が三振した後、少しの時間三振した打者を追った後に、次のカットに切り替わる傾向がある。打席結果が三振の場合には、このカットの切り替わり箇所を打席の終了とすれば、打席の途中で途切れることなく、かつ冗長さも低減でき、適切である。このカットの切り替わり箇所は、その打席における最後の投球を含むカットと次のカットとの切り替わり箇所であるため、その打席における最後の投球を含むカット後のカットチェンジ回数は「0」となる。従って、カットチェンジ回数テーブル28には、打席結果「三振」に対応付けて、カットチェンジ回数「0回」を定めておく。
また、打席結果が三振以外のアウト(内野ゴロ、外野フライ等)の場合、その打席の最後の投球に対する打撃の後、打球を追うカットに切り替わる。この打球を追うカットは、打球がフライの場合には、野手がボールを捕球するまで、打球がゴロの場合には、野手がボールを捕球して、いずれかの塁に送球されるまで続き、次のカットに切り替わる傾向がある。打席結果が三振以外のアウトの場合には、この打球を追うカットからの切り替わり箇所を打席の終了とすることが適切である。この打球を追うカットからの切り替わり箇所は、例えば上記のように、その打席における最後の投球を含むカットの後、1回目のカットの切り替わり箇所である場合が多い。そこで、カットチェンジ回数テーブル28に、打席結果「アウト(三振以外)」に対応付けて、カットチェンジ回数「1回」を定めておく。
また、打席結果がヒットの場合、その打席の最後の投球に対する打撃の後、打球を追うカットに切り替わり、その後、ランナーを追うカットに切り替わる。このランナーを追うカットは、ランナーがいずれかの塁上に到達するまで続き、次のカットに切り替わる傾向がある。打席結果がヒットの場合には、このランナーを追うカットからの切り替わり箇所を打席の終了とすることが適切である。このランナーを追うカットからの切り替わり箇所は、例えば上記のように、その打席における最後の投球を含むカットの後、2回目のカットの切り替わり箇所である場合が多い。そこで、カットチェンジ回数テーブル28に、打席結果「ヒット」に対応付けて、カットチェンジ回数「2回」を定めておく。
なお、上記のカットチェンジ回数は一例であり、打席単位のダイジェストを作成した場合などの冗長さをどこまで許容するか、撮影映像のカット割の特徴なども考慮して、打席結果に応じたカットチェンジ回数を定めておけばよい。また、打席結果の分類も上記の例に限定されず、より細かく分類したアウト及びヒットの種類毎に、カットチェンジ回数を定めておいてもよい。例えば、一塁打の場合には「2回」、二塁打の場合には「3回」、三塁打の場合には「4回」のように定めておくこともできる。
また、メタ情報に付与された打席結果と、カットチェンジ回数テーブル28に定められた打席結果とで分類の粒度が異なる場合には、メタ情報に付与された打席結果を、カットチェンジ回数テーブル28に定められた打席結果に変換するルールを定めておく。そして、第2抽出部24は、メタ情報に付与された打席結果を、このルールに従って変換した打席結果に応じたカットチェンジ回数を、カットチェンジ回数テーブル28から取得すればよい。例えば、メタ情報に付与された打席結果が「センター前ヒット」、「セカンドゴロ」等の詳細な打席結果の場合、「センター前ヒット」→「ヒット」、「セカンドゴロ」→「アウト」等のように変換するルールを定めておけばよい。
第2抽出部24は、カットチェンジ回数を取得すると、その打席における最後の投球の始まりを示すフレームから順に、カットが切り替わるフレームを検出する。カットの切り替わりの検出は、例えば、連続するフレーム間で、輝度や色情報などの画素情報の差分が所定の閾値以上となる箇所を検出するなどの従来既知の手法を用いることができる。第2抽出部24は、最初に検出されたカットの切り替わりを、その打席における最後の投球を含むカットと次のカットとの切り替わり箇所とし、この箇所以降でカットが切り替わる箇所を、取得したカットチェンジ回数分検出する。第2抽出部24は、最後に検出した切り替わり箇所の切り替わり前のカットの末尾フレームを、打席の終わりを示すフレームとして抽出する。なお、カットチェンジ回数が0回の場合には、その打席における最後の投球を含むカットの末尾フレームが、打席の終わりを示すフレームとして抽出される。
なお、打席の終わりを示すフレームに対応したカットの切り替わり箇所は、打席における最後の投球の始まりを示すフレームから順に検出していく場合に限定されない。予め全てのカットの切り替わり箇所を検出しておいて、その中から、上述したようなカットチェンジ回数に該当するカットの切り替わり箇所を選択して、打席の終わりを示すフレームを抽出してもよい。
図11に示すカットチェンジ回数テーブル28を用いた場合に抽出される打席の終わりの一例を、図12に示す。次の打席の始まりの前のフレームを、前の打席の終わりとして抽出する場合に比べ、冗長さを低減できることがわかる。
なお、打席タグで区切られた区間内の全てのカットチェンジを検出しておいて、その打席における最後の投球を含むカットと次のカットとの切り替わり箇所を「0番目」とする。そして、検出されたカットチェンジのうち、取得したカットチェンジ回数番目のカットの切り替わりを、打席の終わりとして抽出するようにしてもよい。
また、第2抽出部24は、その打席において得点があった場合には、得点テロップ101が消えた後のカットの切り替わり箇所を、打席の終わりとして抽出する。得点があった場合には、その得点の状況に応じて、カットの切り替わりの状況も異なるため、得点テロップ101を手がかりにして、打席の終わりを決定するものである。得点テロップ101は、例えば、図13に示すように、ホームインするランナーに合わせて表示され、複数回カットが切り替わった後に消える傾向がある。従って、少なくとも得点テロップ101が表示されている間の映像を、その得点をもたらした打席の映像に含めることで、打席の映像が途中で途切れた印象を与えることを回避できる。
そこで、第2抽出部24は、得点があったことを示す情報をメタ情報により取得した場合には、打席タグで区切られた区間内の各フレームから、パターンマッチング等により、得点テロップ101を含むフレームを抽出する。第2抽出部24は、抽出された得点テロップ101を含むフレーム群より後のフレームから、カットが切り替わる箇所を検出する。カットの切り替わり箇所の検出方法は、上記の得点が無かった場合と同様である。そして、第2抽出部24は、得点テロップ101を含むフレーム群より後で、最初に検出した切り替わり箇所の切り替わり前のカットの末尾フレームを、打席の終わりを示すフレームとして抽出する。
なお、得点テロップ101を含むフレーム群より後の最初のカットの切り替わり箇所に限らず、得点テロップ101を含むフレーム群より後で、カットが所定回数切り替わった箇所を、打席の終わりとして抽出してもよい。例えば、得点後のベンチやスタンドの盛り上がりシーンなども打席の映像に含めたい場合には、所定回数を多め(例えば、2回)にするなどしてもよい。また、得点があった場合であっても、打席の映像に得点シーンを含める必要がない場合などは、上記の得点が無かった場合と同様に、打席結果に応じた回数カットが切り替わった箇所を、打席の終わりとして抽出してもよい。
作成部25は、投球の始まりを示すメタ情報、打席の始まりを示すメタ情報、及び打席の終わりを示すメタ情報を作成する。具体的には、作成部25は、第1抽出部21により抽出された投球の始まりを示すフレームのフレーム時間に、投球の始まりを示す記号を対応付けたメタ情報を作成する。同様に、作成部25は、第1抽出部21により抽出された打席の始まりを示すフレームのフレーム時間に、打席の始まりを示す記号を対応付けたメタ情報を作成する。また、同様に、作成部25は、第2抽出部24により抽出された打席の終わりを示すフレームのフレーム時間に、打席の終わりを示す記号を対応付けたメタ情報を作成する。
また、作成部25は、作成した複数のメタ情報、及び野球データDB51から対応付けられたメタ情報を、対応するフレーム時間順に記録したメタ情報ファイルを作成する。メタ情報ファイルは、例えばcsv(comma-separated values)形式のファイルとして作成することができる。図14に、メタ情報ファイルの一例を示す。図14の例では、各行が1つのメタ情報を示し、各メタ情報は、フレーム時間131を含む。また、各メタ情報は、投球の始まりを示す記号132、打席の始まりを示す記号133、及び野球データDB51から対応付けた打席毎の情報(テキストデータ134)の少なくとも一つを含む。
作成部25は、作成したメタ情報ファイルを編集済み映像に付加して、メタ情報付き映像として、配信装置30へ送信する。
メタ情報付き映像が配信装置30により配信用映像に変換されて、ユーザ端末40に配信されると、ユーザ端末40では、例えば図15に示すような配信画面120が表示される。配信画面120は、ユーザが視聴したい打席の映像を検索するための検索領域121と、検索結果を一覧表示する一覧表示領域122と、映像が再生される映像再生領域123とを含む。
検索領域121には、例えば、打者名を指定した検索を行うためのテキストボックスや、打席結果を選択して検索を行うための打席結果毎のチェックボックス等が表示される。なお、検索領域121の表示はこの例に限定されず、配信映像に付加されているメタ情報、主に、野球データDB51から対応付けた打席毎の情報(テキストデータ134)を用いた検索条件を設定可能な表示であればよい。
一覧表示領域122では、検索領域121で設定された検索条件をキーとして、配信映像に付加されているメタ情報を検索することにより抽出されたフレーム時間により識別される打席の始まりを示すフレームが一覧で表示される。一覧には、例えば、抽出されたフレーム時間により識別されるフレームのサムネイル画像、及び抽出されたフレーム時間に対応付けられた打席毎の情報を含めることができる。
映像再生領域123では、一覧表示領域122から選択されたサムネイル画像に対応するフレーム、すなわち打席の始まりを示すフレームから、そのフレームに対応する打席の終わりを示すフレームまでのフレーム群で表される映像が再生される。なお、打席の始まりを示すフレームに対応する打席の終わりを示すフレームは、打席の終わりを示すメタ情報が付与されたフレームであって、選択された打席の始まりを示すフレームの後、最初に現れるフレームである。また、1つの打席の始まりと終わりを示すフレームがペアとなるようなメタ情報を作成しておいて、選択された打席の始まりを示すフレームとペアの打席の終わりを示すフレームを特定してもよい。
抽出装置20は、例えば図16に示すコンピュータ60で実現することができる。コンピュータ60はCPU61、一時記憶領域としてのメモリ62、及び不揮発性の記憶部63を備える。また、コンピュータ60は、表示装置及び入力装置等の入出力装置68が接続される入出力インターフェース(I/F)64を備える。また、コンピュータ60は、記録媒体69に対するデータの読み込み及び書き込みを制御するread/write(R/W)部65、及びインターネット等のネットワークに接続されるネットワークI/F66を備える。CPU61、メモリ62、記憶部63、入出力I/F64、R/W部65、及びネットワークI/F66は、バス67を介して互いに接続される。
記憶部63はHDD(Hard Disk Drive)、SSD(solid state drive)、フラッシュメモリ等によって実現できる。記憶媒体としての記憶部63には、コンピュータ60を抽出装置20として機能させるための抽出プログラム70が記憶される。CPU61は、抽出プログラム70を記憶部63から読み出してメモリ62に展開し、抽出プログラム70が有するプロセスを順次実行する。
抽出プログラム70は、第1抽出プロセス71と、計算プロセス72と、対応付けプロセス73と、第2抽出プロセス74と、作成プロセス75とを有する。CPU61は、第1抽出プロセス71を実行することで、図3に示す第1抽出部21として動作する。また、CPU61は、計算プロセス72を実行することで、図3に示す計算部22として動作する。また、CPU61は、対応付けプロセス73を実行することで、図3に示す対応付け部23として動作する。また、CPU61は、第2抽出プロセス74を実行することで、図3に示す第2抽出部24として動作する。また、CPU61は、作成プロセス75を実行することで、図3に示す作成部25として動作する。これにより、抽出プログラム70を実行したコンピュータ60が、抽出装置20として機能することになる。
また、配信装置30は、例えば図17に示すコンピュータ80で実現することができる。コンピュータ80はCPU81、メモリ82、不揮発性の記憶部83、入出力装置88が接続される入出力I/F84を備える。また、コンピュータ80は、記録媒体89に対するデータの読み込み及び書き込みを制御するR/W部85、及びインターネット等のネットワークに接続されるネットワークI/F86を備える。CPU81、メモリ82、記憶部83、入出力I/F84、R/W部85、及びネットワークI/F86は、バス87を介して互いに接続される。
また、配信装置30を実現するコンピュータ80と抽出装置20を実現するコンピュータ60とは、コンピュータ80のネットワークI/F86、ネットワーク、及びコンピュータ60のネットワークI/F66を介して接続される。
記憶部83はHDD、SSD、フラッシュメモリ等によって実現できる。記憶媒体としての記憶部83には、コンピュータ80を配信装置30として機能させるための配信プログラム90が記憶されている。CPU81は、配信プログラム90を記憶部83から読み出してメモリ82に展開し、配信プログラム90が有するプロセスを順次実行する。
配信プログラム90は、編集プロセス91と、配信プロセス92とを有する。CPU81は、編集プロセス91を実行することで、図3に示す編集部31として動作する。また、CPU81は、配信プロセス92を実行することで、図3に示す配信部32として動作する。これにより、配信プログラム90を実行したコンピュータ80が、配信装置30として機能することになる。
なお、抽出装置20及び配信装置30の各々は、例えば半導体集積回路、より詳しくはASIC(Application Specific Integrated Circuit)等で実現することも可能である。
次に、本実施形態に係る映像配信システム10の作用について説明する。撮影映像が配信装置30に入力されると、配信装置30が、図18に示す編集処理を実行し、編集済み映像を出力する。次に、編集済み映像が抽出装置20に入力されると、抽出装置20が、図19に示す抽出処理を実行して、メタ情報付き映像を出力する。そして、メタ情報付き映像が配信装置30に入力されると、配信装置30が、図21に示す配信処理を実行し、配信用映像を出力する。以下、各処理について詳述する。
まず、図18に示す編集処理のステップS10で、編集部31が、撮影映像を取得する。次に、ステップS12で、編集部31が、入出力装置68を用いてオペレータの操作により指示された編集内容を、画像処理により撮影映像に適用する。次に、ステップS14で、編集部31が、編集済み映像を、抽出装置20へ送信して、編集処理は終了する。
次に、図19に示す抽出処理のステップS20で、第1抽出部21が、配信装置30から送信された編集済み映像を取得する。
次に、ステップS22で、第1抽出部21が、編集済み映像に含まれる複数のフレームの各々から、投手の投球場面に使用されるカメラアングルで撮影された構図のフレームを、投球構図フレームとして検出する。また、第1抽出部21が、各フレームから、カウント表示102を抽出し、カウント表示102が示すカウント情報を検出する。第1抽出部21は、投球構図フレームの検出結果、及びフレーム毎に検出したカウント情報を、フレーム情報テーブル26に記録する。
次に、ステップS24で、第1抽出部21が、フレーム情報テーブル26を参照して、連続する複数の投球構図フレームからなるフレーム群を投球構図シーンとして特定する。そして、投球構図シーンの開始フレームを、投球の始まりを示すフレームとして判定し、投球の始まりを示す投球タグを付与する。さらに、第1抽出部21は、投球の始まりを示すフレームのボールカウントが0、かつストライクカウントが0の場合に、そのフレームを打席の始まりを示すフレームとして判定し、打席の始まりを示す打席タグを付与する。
次に、ステップS26で、計算部22が、フレーム情報テーブル26から、打席の順番を計算するために必要な情報を抽出した、例えば図8に示すような打席タグデータテーブル27を作成する。そして、計算部22は、「イニング」、「アウト」、「ランナー」、「得点(先攻)」、「得点(後攻)」、及び「残塁(累積)」の各項目に記録された値に基づいて、各打席がその試合におけるそのチームにとっての何打席目かを示す打席の順番を計算する。計算部22は、打席毎に計算した打席の順番を、打席タグデータテーブル27の「打席イベントID」の項目に記録する。
次に、ステップS28で、対応付け部23が、外部装置50から野球データDB51を取得して、野球データDB51と、打席タグデータテーブル27とを、両者の打席イベントIDに基づいて対応付ける。
次に、ステップS30で、対応付け部23が、打席タグデータテーブル27の「打席イベントID」に数字の飛びや重複が存在する箇所を提示し、打席タグの修正を促すための、例えば図10に示すような修正画面110を表示する。
修正画面110を提示された抽出装置20のオペレータは、打席イベントIDが重複している場合には、映像を確認して、打席タグの付与エラーに該当する打席のデータを、対応付けデータ表示領域112から削除する。また、オペレータは、打席イベントIDが飛んでいる場合には、映像を確認しながら、打席タグを付与したい箇所で打席タグ付与ボタン114を選択する。
次に、ステップS32で、対応付け部23が、オペレータからの打席タグの修正を受け付けたか否かを判定する。受け付けていない場合には、受け付けるまで本ステップの判定を繰り返す。受け付けた場合には、処理はステップS34へ移行する。
ステップS34では、対応付け部23は、対応付けデータ表示領域112からの打席のデータの削除を受け付けた場合には、削除された打席のデータに対応する打席タグデータを打席タグデータテーブル27から削除する。また、対応付け部23は、打席タグ付与ボタン114の選択を受け付けた場合には、打席タグ付与ボタン114選択時に、映像再生領域111に表示されているフレームのフレーム時間を打席タグデータテーブル27に追加する。そして、対応付け部23は、打席タグデータテーブル27における前後のフレーム時間に対応付けられた打席イベントIDを参照して、追加したフレーム時間に打席イベントIDを付与する。
なお、打席イベントIDに数字の飛びや重複がない場合には、打席タグの付与エラーは存在しないと判定して、上記ステップS30〜S34の処理をスキップする。
次に、ステップS36で、第2抽出部24が、打席タグで区切られた区間毎に、図20に詳細を示す打席終わり抽出処理を実行する。
図20に示す打席終わり抽出処理のステップS361で、第2抽出部24が、打席タグが付与されたフレーム、すなわち打席の始まりを示すフレームに対応付けられた打席毎のデータを示すメタ情報から、打席結果、及びその打席における得点の有無を取得する。
次に、ステップS362で、第2抽出部24が、取得した情報に基づいて、得点の有無を判定する。得点が無かった場合には、処理はステップS363へ移行し、得点があった場合には、処理はステップS365へ移行する。
ステップS363では、第2抽出部24が、例えば、図11に示すように、打席結果とカットチェンジ回数とを予め対応付けたカットチェンジ回数テーブル28から、メタ情報から取得した打席結果に応じたカットチェンジ回数を取得する。
次に、ステップS364で、第2抽出部24が、打席タグで区切られた区間において、投球タグが付与されたフレームのうち、フレーム時間が最大のフレームを、その打席における最後の投球の始まりを示すフレームとして抽出する。そして、第2抽出部24は、その打席における最後の投球の始まりを示すフレームから順に、カットが切り替わるフレームを検出し、最初に検出されたカットの切り替わりを、その打席における最後の投球を含むカットと次のカットとの切り替わり箇所とする。さらに、第2抽出部24は、その打席における最後の投球を含むカットと次のカットとの切り替わり箇所以降でカットが切り替わる箇所を、取得したカットチェンジ回数分検出する。第2抽出部24は、最後に検出した切り替わり箇所の切り替わり前のカットの末尾フレームを、打席の終わりを示すフレームとして抽出する。
一方、ステップS365では、第2抽出部24が、打席タグで区切られた区間内の各フレームから、得点テロップ101を含むフレームを抽出する。
次に、ステップS366で、第2抽出部24が、抽出された得点テロップ101を含むフレーム群より後のフレームから、カットが切り替わる箇所を検出する。そして、第2抽出部24が、得点テロップ101を含むフレーム群より後で、最初に検出した切り替わり箇所の切り替わり前のカットの末尾フレームを、打席の終わりを示すフレームとして抽出する。
編集済み映像に含まれる打席タグで区切られた全ての区間について、上記の打席終わり抽出処理が終了すると、処理は図19に示す抽出処理に戻る。
次に、図19に示す抽出処理のステップS38で、作成部25が、投球の始まりを示すメタ情報、打席の始まりを示すメタ情報、及び打席の終わりを示すメタ情報を作成する。次に、作成部25は、作成した複数のメタ情報、及び野球データDB51から対応付けられたメタ情報を、対応するフレーム時間順に記録したメタ情報ファイルを作成する。そして、作成部25は、作成したメタ情報ファイルを編集済み映像に付加して、メタ情報付き映像として、配信装置30へ送信し、抽出処理は終了する。
次に、図21に示す配信処理のステップS40で、配信部32が、抽出装置20から送信されたメタ情報付き映像を取得する。次に、ステップS42で、配信部32が、メタ情報付き映像を所定の規格に従った配信用映像に変換して、配信先のユーザ端末40に配信し、配信処理は終了する。
以上説明したように、本実施形態に係る抽出装置20によれば、打席の始まりを示す打席タグで区切られた区間における最後の投球を含むカットの後、その区間が表す打席に対応付けられた打席結果に応じた回数カットが切り替わった箇所を検出する。そして、検出した箇所を、その打席の終わりとして抽出する。これにより、1打席分の映像として終わり部分が途切れることなく、かつ冗長さを低減できるような適切な箇所を打席の終わりとして抽出することができる。すなわち、野球の試合を撮影した映像から、打席の終わりを精度良く抽出することができる。
また、得点があったシーンでは、得点があったことを示すテロップが消えた後のカットの切り替わり箇所を、その打席の終わりとして抽出する。これにより、どのような得点シーンであっても、1打席分の映像として得点シーンも含め終わり部分が途切れることなく、かつ冗長さを低減できるような適切な箇所を打席の終わりとして抽出することができる。
また、打席の順番を計算して、外部データである打席のデータを精度良く対応付けるため、打席の終わりを抽出するために用いる打席結果として、精度の高い打席結果を利用することができる。これにより、より精度良く打席の終わりを抽出することができる。
本実施形態により抽出された打席の終わりに基づくメタ情報が付加された映像によれば、打席単位のダイジェスト映像を作成した際に、冗長さを低減することができる。また、外部データを対応付けたメタ情報が付加されているため、詳細な検索条件を設定して、所望の打席の映像を検索して視聴することが可能である。
なお、上記実施形態では、編集済み映像から打席の始まりを示すフレームを抽出し、外部データから打席結果を対応付ける場合について説明したが、予め打席の始まりを示す箇所が特定され、打席結果が付与された映像を、抽出装置20に入力するようにしてもよい。この場合、抽出装置20から第1抽出部21、計算部22、及び対応付け部23を省略することができる。また、打席の始まりの特定方法、及び打席結果の付与方法は、本実施形態で説明した方法に限定されず、例えば、人手により抽出及び付与してもよい。
また、上記実施形態では、投手の背後から打者方向を撮影したフレームを、投球構図フレームとする場合について説明したが、投球構図フレームはこれに限定されない。例えば、球審の頭部に備え付けられたカメラから撮影されたフレーム(球審から投手方向を撮影したフレーム)など、投手の投球場面に使用される特徴的なカメラアングルで撮影されたフレームであればよい。
また、上記実施形態では、外部データから対応付けられた得点の有無を示す情報に基づいて、得点があったか否かを判定する場合について説明したが、これに限定されない。例えば、フレーム情報テーブル26を参照して、次の打席との「得点」の差から、その打席において得点があったか否かを判定してもよい。
また、上記実施形態では、得点の有無を判定した上で、得点テロップを検出して、得点があった場合には、得点テロップを検出する処理を行う場合について説明したが、これに限定されない。例えば、得点の有無を判定することなく、各フレームから得点テロップを検出してもよい。この場合、得点テロップが検出された場合には、上記実施形態と同様に、得点テロップが消えた後、所定回数カットが切り替わった箇所を、打席の終わりとして抽出すればよい。
また、上記実施形態では、配信装置30と抽出装置20とを含む映像配信システム10を例に説明したが、これに限定されない。配信装置30の各機能部と抽出装置20の各機能部とを、1つのコンピュータで実現するようにしてもよい。
また、本発明の抽出装置は、映像配信システムに適用する場合に限定されない。例えば、ネットワークで接続された外部の記憶装置に格納された映像ファイルを取得し、既存の外部の野球データをメタ情報として映像ファイルに対応付けて、記憶装置に格納し直すようにしてもよい。また、本発明の抽出装置は、野球の他、ソフトボール等のスポーツにも適用可能である。
また、上記では、抽出プログラム70が記憶部63に、配信プログラム90が記憶部83に予め記憶(インストール)されている態様を説明したが、CD−ROMやDVD−ROM等の記憶媒体に記録された形態で提供することも可能である。
以上の上記実施形態に関し、更に以下の付記を開示する。
(付記1)
コンピュータに、
打席の始まりを示す箇所と、該打席の始まりから特定される各打席の結果を示す情報とが対応付けられた野球の試合の撮影映像から、前記打席における最後の投球シーンを含むカットの後、前記打席の結果に応じた回数カットが切り替わった箇所を、前記打席の終わりとして抽出する
ことを含む処理を実行させることを特徴とする抽出プログラム。
(付記2)
前記打席の結果が、得点があったことを示すものであった場合には、得点があったことを示す表示が消えた後、所定回数カットが切り替わった箇所を、前記打席の終わりとして抽出する
付記1記載の抽出プログラム。
(付記3)
コンピュータに、
野球の試合の撮影映像に付加された得点があったことを示す表示が消えた後、所定回数カットが切り替わった箇所を、打席の終わりとして抽出する
ことを含む処理を実行させることを特徴とする抽出プログラム。
(付記4)
コンピュータに、
打席の始まりを示す箇所と、該打席の始まりから特定される各打席の結果を示す情報とが対応付けられた野球の試合の撮影映像から、前記打席における最後の投球シーンを含むカットの後、前記打席の結果に応じた回数カットが切り替わった箇所を、前記打席の終わりとして抽出する
ことを含む処理を実行させることを特徴とする抽出方法。
(付記5)
コンピュータに、
野球の試合の撮影映像に付加された得点があったことを示す表示が消えた後、所定回数カットが切り替わった箇所を、打席の終わりとして抽出する
ことを含む処理を実行させることを特徴とする抽出方法。
(付記6)
打席の始まりを示す箇所と、該打席の始まりから特定される各打席の結果を示す情報とが対応付けられた野球の試合の撮影映像から、前記打席における最後の投球シーンを含むカットの後、前記打席の結果に応じた回数カットが切り替わった箇所を、前記打席の終わりとして抽出する
を含むことを特徴とする抽出装置。
(付記7)
野球の試合の撮影映像に付加された得点があったことを示す表示が消えた後、所定回数カットが切り替わった箇所を、打席の終わりとして抽出する抽出部
を含むことを特徴とする抽出装置。
10 映像配信システム
20 抽出装置
21 第1抽出部
22 計算部
23 対応付け部
24 第2抽出部
25 作成部
26 フレーム情報テーブル
27 打席タグデータテーブル
28 カットチェンジ回数テーブル
30 配信装置
31 編集部
32 配信部
40 ユーザ端末
50 外部装置
51 野球データ・データベース
60、80 コンピュータ
61、81 CPU
62、82 メモリ
63、83 記憶部
70 抽出プログラム
90 配信プログラム

Claims (7)

  1. コンピュータに、
    打席の始まりを示す箇所と、該打席の始まりから特定される各打席の結果を示す情報とが対応付けられた野球の試合の撮影映像から、前記打席における最後の投球シーンを含むカットの後、前記打席の結果に応じた回数カットが切り替わった箇所を、前記打席の終わりとして抽出する
    ことを含む処理を実行させることを特徴とする抽出プログラム。
  2. 前記打席の結果が、得点があったことを示すものであった場合には、得点があったことを示す表示が消えた後、所定回数カットが切り替わった箇所を、前記打席の終わりとして抽出する
    請求項1記載の抽出プログラム。
  3. コンピュータに、
    野球の試合の撮影映像に付加された得点があったことを示す表示が消えた後、所定回数カットが切り替わった箇所を、打席の終わりとして抽出する
    ことを含む処理を実行させることを特徴とする抽出プログラム。
  4. コンピュータに、
    打席の始まりを示す箇所と、該打席の始まりから特定される各打席の結果を示す情報とが対応付けられた野球の試合の撮影映像から、前記打席における最後の投球シーンを含むカットの後、前記打席の結果に応じた回数カットが切り替わった箇所を、前記打席の終わりとして抽出する
    ことを含む処理を実行させることを特徴とする抽出方法。
  5. コンピュータに、
    野球の試合の撮影映像に付加された得点があったことを示す表示が消えた後、所定回数カットが切り替わった箇所を、打席の終わりとして抽出する
    ことを含む処理を実行させることを特徴とする抽出方法。
  6. 打席の始まりを示す箇所と、該打席の始まりから特定される各打席の結果を示す情報とが対応付けられた野球の試合の撮影映像から、前記打席における最後の投球シーンを含むカットの後、前記打席の結果に応じた回数カットが切り替わった箇所を、前記打席の終わりとして抽出する抽出部
    を含むことを特徴とする抽出装置。
  7. 野球の試合の撮影映像に付加された得点があったことを示す表示が消えた後、所定回数カットが切り替わった箇所を、打席の終わりとして抽出する抽出部
    を含むことを特徴とする抽出装置。
JP2014250152A 2014-12-10 2014-12-10 抽出プログラム、方法、及び装置 Pending JP2016107001A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2014250152A JP2016107001A (ja) 2014-12-10 2014-12-10 抽出プログラム、方法、及び装置
TW104139700A TWI590856B (zh) 2014-12-10 2015-11-27 擷取方法及裝置
US14/954,123 US10134445B2 (en) 2014-12-10 2015-11-30 Method of extracting a point from footage of a baseball game
KR1020150172668A KR101891382B1 (ko) 2014-12-10 2015-12-04 추출 프로그램, 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014250152A JP2016107001A (ja) 2014-12-10 2014-12-10 抽出プログラム、方法、及び装置

Publications (1)

Publication Number Publication Date
JP2016107001A true JP2016107001A (ja) 2016-06-20

Family

ID=56111784

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014250152A Pending JP2016107001A (ja) 2014-12-10 2014-12-10 抽出プログラム、方法、及び装置

Country Status (4)

Country Link
US (1) US10134445B2 (ja)
JP (1) JP2016107001A (ja)
KR (1) KR101891382B1 (ja)
TW (1) TWI590856B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018102898A (ja) * 2016-07-22 2018-07-05 ジョセフ プローグマンJoseph Ploegman 野球のバッターカウントを表示するためのシステムおよび方法
JP2020000430A (ja) * 2018-06-27 2020-01-09 ライブリッツ株式会社 動作分析装置、動作分析方法及び動作分析プログラム

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10115021B2 (en) * 2015-06-24 2018-10-30 JVC Kenwood Corporation Scorebook creating apparatus, scorebook creating system, scorebook creating method, program, imaging device, and reproducing method
JP6790407B2 (ja) * 2016-03-25 2020-11-25 株式会社Jvcケンウッド 表示装置、表示方法及び表示プログラム
CN108744526A (zh) * 2018-05-23 2018-11-06 广州虎牙信息科技有限公司 一种技能主播用户确定方法、装置、设备及存储介质
TWI715024B (zh) * 2019-05-03 2021-01-01 林淑貞 房仲經紀人工作管理系統及方法
CN110933459B (zh) * 2019-11-18 2022-04-26 咪咕视讯科技有限公司 赛事视频的剪辑方法、装置、服务器以及可读存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000261754A (ja) * 1999-03-05 2000-09-22 Jisedai Joho Hoso System Kenkyusho:Kk ダイジェスト作成装置,ダイジェスト作成方法およびその方法の各工程をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
US20070294716A1 (en) * 2006-06-15 2007-12-20 Samsung Electronics Co., Ltd. Method, medium, and apparatus detecting real time event in sports video
JP2008005204A (ja) * 2006-06-22 2008-01-10 Matsushita Electric Ind Co Ltd 映像区間決定装置、方法、プログラム
JP2008176538A (ja) * 2007-01-18 2008-07-31 Toshiba Corp 映像属性情報出力装置、映像要約装置、プログラムおよび映像属性情報出力方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7143354B2 (en) * 2001-06-04 2006-11-28 Sharp Laboratories Of America, Inc. Summarization of baseball video content
US8214741B2 (en) * 2002-03-19 2012-07-03 Sharp Laboratories Of America, Inc. Synchronization of video and data
JP4401220B2 (ja) 2004-04-01 2010-01-20 富士通株式会社 ハイライトシーン抽出装置およびハイライトシーン配信システム
JP2007335984A (ja) 2006-06-12 2007-12-27 Matsushita Electric Ind Co Ltd イベント終了点抽出装置、イベント終了点抽出方法および抽出プログラム
US7956893B2 (en) * 2006-12-11 2011-06-07 Mavs Lab. Inc. Method of indexing last pitching shots in a video of a baseball game

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000261754A (ja) * 1999-03-05 2000-09-22 Jisedai Joho Hoso System Kenkyusho:Kk ダイジェスト作成装置,ダイジェスト作成方法およびその方法の各工程をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
US20070294716A1 (en) * 2006-06-15 2007-12-20 Samsung Electronics Co., Ltd. Method, medium, and apparatus detecting real time event in sports video
JP2008005204A (ja) * 2006-06-22 2008-01-10 Matsushita Electric Ind Co Ltd 映像区間決定装置、方法、プログラム
JP2008176538A (ja) * 2007-01-18 2008-07-31 Toshiba Corp 映像属性情報出力装置、映像要約装置、プログラムおよび映像属性情報出力方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"「投球シーンの解析とテロップ情報を用いた野球中継ダイジェスト版の自動生成法」", 電子情報通信学会技術研究報告, vol. 第104巻,第465号, JPN6018019549, 19 November 2004 (2004-11-19), pages 27 - 30, ISSN: 0004026434 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018102898A (ja) * 2016-07-22 2018-07-05 ジョセフ プローグマンJoseph Ploegman 野球のバッターカウントを表示するためのシステムおよび方法
JP2020000430A (ja) * 2018-06-27 2020-01-09 ライブリッツ株式会社 動作分析装置、動作分析方法及び動作分析プログラム
JP7164334B2 (ja) 2018-06-27 2022-11-01 ライブリッツ株式会社 動作分析装置、動作分析方法及び動作分析プログラム

Also Published As

Publication number Publication date
US20160172005A1 (en) 2016-06-16
US10134445B2 (en) 2018-11-20
KR20160070688A (ko) 2016-06-20
TW201639615A (zh) 2016-11-16
KR101891382B1 (ko) 2018-08-24
TWI590856B (zh) 2017-07-11

Similar Documents

Publication Publication Date Title
KR101891382B1 (ko) 추출 프로그램, 방법 및 장치
US9767364B2 (en) Footage extraction method, footage playback method, and device
US9681200B2 (en) Data processing method and device
US9530061B2 (en) Extraction method for extracting a pitching scene and device for the same
JP4308798B2 (ja) イベント重要度調整方法とその方法を実施する装置
US20080269924A1 (en) Method of summarizing sports video and apparatus thereof
US10115318B2 (en) Information processing method and device
US10284901B2 (en) Non-transitory computer-readable storage medium, and display control device
KR101860256B1 (ko) 비일시적 컴퓨터 판독 가능한 기억 매체, 재생 제어 방법, 및 재생 제어 장치
US20160066062A1 (en) Determination method and device
JP2008005204A (ja) 映像区間決定装置、方法、プログラム
US9538244B2 (en) Extraction method for extracting a pitching scene and device for the same
JP2005026837A (ja) スポーツ映像インデックス生成装置、その方法、そのプログラム及びスポーツ中継アナウンスデータ生成装置並びにスポーツダイジェスト映像生成装置
US20170274266A1 (en) Non-transitory computer-readable storage medium, display control device, and display control method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170804

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180523

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180529

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180730

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180911

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181011

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20181211

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190311

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190319

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20190510