JP6394184B2 - 判定プログラム、方法、及び装置 - Google Patents

判定プログラム、方法、及び装置 Download PDF

Info

Publication number
JP6394184B2
JP6394184B2 JP2014173149A JP2014173149A JP6394184B2 JP 6394184 B2 JP6394184 B2 JP 6394184B2 JP 2014173149 A JP2014173149 A JP 2014173149A JP 2014173149 A JP2014173149 A JP 2014173149A JP 6394184 B2 JP6394184 B2 JP 6394184B2
Authority
JP
Japan
Prior art keywords
count number
consecutive frames
frames
frame
runner
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014173149A
Other languages
English (en)
Other versions
JP2016048852A (ja
Inventor
淳 小口
淳 小口
美帆 坂井
美帆 坂井
壮吉 藤田
壮吉 藤田
辰真 村松
辰真 村松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2014173149A priority Critical patent/JP6394184B2/ja
Priority to US14/813,515 priority patent/US10200764B2/en
Priority to TW104124755A priority patent/TWI579025B/zh
Priority to KR1020150119681A priority patent/KR101701632B1/ko
Publication of JP2016048852A publication Critical patent/JP2016048852A/ja
Application granted granted Critical
Publication of JP6394184B2 publication Critical patent/JP6394184B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8126Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts
    • H04N21/8133Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts specifically related to the content, e.g. biography of the actors in a movie, detailed information about an article seen in a video program
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • G11B27/30Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on the same track as the main recording
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • G11B27/32Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on separate auxiliary tracks of the same or an auxiliary record carrier
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • H04N21/2353Processing of additional data, e.g. scrambling of additional data or processing content descriptors specifically adapted to content descriptors, e.g. coding, compressing or processing of metadata
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8549Creating video summaries, e.g. movie trailer

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Library & Information Science (AREA)
  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Indexing, Searching, Synchronizing, And The Amount Of Synchronization Travel Of Record Carriers (AREA)
  • Management Or Editing Of Information On Record Carriers (AREA)

Description

本発明は、判定プログラム、判定方法、及び判定装置に関する。
従来、野球の試合を撮影した映像を、ライブ配信したり、ビデオ・オン・デマンド(Video on Demand、VoD)コンテンツとして配信したりするサービスが存在する。VoDコンテンツとして配信する場合、例えば、視聴者が所望のイニングを選択して視聴可能な形式で、視聴者に提供することが行われている。このようなVoDコンテンツを提供するために、人手により映像をイニング毎に切り出している。
なお、野球の試合を撮影した映像からハイライトシーンを抽出する技術が提案されている。
特開2005−295296号公報
しかしながら、例えば上述のように、人手により映像をイニング毎に切り出す場合は、1イニングの映像の切り出しに10分程度かかってしまう。さらに、より詳細なVoDコンテンツとして、例えば、投手による投球1球毎の頭出しが可能なVoDコンテンツを想定すると、1球毎に映像を切り出す必要があり、人手による作業工数は増大する。
一つの側面として、本発明は、野球の試合を撮影した映像から、投球シーンを判定することを目的とする。
一つの態様では、記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から、投球シーンを判定する。この判定は、所定の特徴を有し、かつ、試合状況を示す画像情報から取得したボールカウント数、アウトカウント数、ランナー数のいずれかの変化が検出される、連続する複数のフレームを判定することで行う。
一つの側面として、野球の試合を撮影した映像から、野球の試合を撮影した映像から、投球シーンを判定することができる、という効果を有する。
本実施形態に係る映像配信システムの概略構成を示すブロック図である。 本実施形態に係る判定装置及び配信装置の機能ブロック図である。 投球構図フレーム及び編集の一例を説明するための図である。 カウント表示の一例を示す図である。 投球の始まりを示すフレームの判定を説明するための図である。 投球の始まりを示すフレームの判定を説明するための図である。 投球構図シーンの開始フレームが投球の始まりを示すフレームとして判定されない場合を説明するための図である。 牽制シーンを説明するための図である。 投球結果の判定を説明するための図である。 メタ情報ファイルの一例を示す図である。 判定装置として機能するコンピュータの一例を示す概略ブロック図である。 配信装置として機能するコンピュータの一例を示す概略ブロック図である。 編集処理の一例を示すフローチャートである。 判定処理の一例を示すフローチャートである。 投球判定処理の一例を示すフローチャートである。 配信処理の一例を示すフローチャートである。 ライブ配信時の処理を説明するための図である。 カウント表示にエフェクトがかかっている場合のカウント情報の変化の検出を説明するための図である。
以下、図面を参照して本発明に係る実施形態の一例を詳細に説明する。本実施形態では、本発明に係る判定装置を、映像配信システムに適用した例について説明する。
図1に示すように、本実施形態に係る映像配信システム10は、判定装置20と、配信装置30と、ユーザ端末40とを含む。判定装置20と、配信装置30と、ユーザ端末40とは、互いにネットワークを介して接続されている。
ユーザ端末40は、映像を表示する表示部及び情報を入力する入力部を備えた装置であり、例えば、パーソナルコンピュータ(PC)、ノート型PC、タブレット端末、スマートフォン等である。なお、図1では、ユーザ端末40を1台のみ表記しているが、ユーザ端末は複数台であってもよい。
映像配信システム10では、判定装置20により作成された投球シーンに関するメタ情報が付加された映像を、配信装置30により、ネットワークを介して、ユーザ端末40に配信する。図2に示すように、判定装置20は、検出部21と、判定部22と、作成部23とを含む。また、配信装置30は、編集部31と、配信部32とを含む。
まず、配信装置30の各部について詳述する。
編集部31は、野球の試合を撮影した映像(以下、「撮影映像」という)を取得する。撮影映像は、例えば30fpsや60fps等のフレームレートで撮影された映像であり、複数のフレームを含む。各フレームには、撮影映像の撮影開始からの経過時間で表されるフレーム時間が対応付けられている。本実施形態では、フレーム時間は、フレームの識別情報としても用いられる。
編集部31は、図示しない表示装置及び入力装置を用いてオペレータの操作により指示された編集内容を、画像処理により撮影映像に適用する。編集内容としては、例えば図3に示すように、撮影映像の所定の場面に対応する各フレーム90に対して、試合状況を示すカウント表示92を付加することを含む。
カウント表示92は、ボールカウント、ストライクカウント、アウトカウント、ランナーの状況、及びチーム毎の現在の得点を含むカウント情報を示す表示である。カウント表示92は、例えば図4に示すように、ボールカウントを示すボールカウント表示95、及びストライクカウントを示すストライクカウント表示96を含む。さらに、カウント表示92は、アウトカウントを示すアウトカウント表示97、ランナーの状況を示すランナー表示98、及びチーム毎の現在の得点を示す得点表示99を含む。なお、カウント表示92のフォーマットは図4の例に限定されず、ボールカウント、ストライクカウント、アウトカウント、ランナーの状況、及びチーム毎の現在の得点を含むカウント情報を示す表示であればよい。
なお、編集内容はカウント表示92の付加に限定されず、氏名やプロフィールなどの選手情報を示すテロップの付加など、様々な内容を含む。以下では、撮影映像に対して編集部31による編集が行われた映像を「編集済み映像」という。編集部31は、編集済み映像を、判定装置20へ送信する。
配信部32は、判定装置20により作成されたメタ情報が付加された映像(以下、「メタ情報付き映像」という。詳細は後述)を取得する。配信部32は、メタ情報付き映像を所定の規格に従った配信用映像に変換して、配信先のユーザ端末40に配信する。
次に、判定装置20の各部について詳述する。
検出部21は、配信装置30から送信された編集済み映像を取得する。検出部21は、編集済み映像に含まれる複数のフレームの各々から、投手の投球場面に使用されるカメラアングルで撮影された構図のフレームを、投球構図フレームとして検出する。本実施形態では、図3に示すように、投手の背後から打者方向を撮影した構図のフレームを、投球構図フレームとする場合について説明する。
具体的には、検出部21は、フレーム毎に画像特徴を抽出する。画像特徴とは、フレーム内の各画素の輝度や色等の画素情報により表される特徴である。そして、検出部21は、予め用意された投球構図フレームから抽出された基準画像特徴と、編集済み映像の各フレームから抽出した抽出画像特徴との類似度を求める。検出部21は、基準画像特徴との類似度が所定値以上となる抽出画像特徴を有するフレームを、投球構図フレームとして抽出する。
なお、検出部21は、画像特徴として、画像の構図(構成)を表す特徴、例えば色や輝度の配置や分布を表す特徴、ウェーブレット変換により得られる特徴等を用いることができる。このような画像特徴を抽出する場合は、各フレームの全体から抽出してもよいし、各フレームの一部(例えば、撮影映像に含まれる球場のフェンスや壁面部分)の特徴を抽出してもよい。実際の撮影映像では、同じ投球構図フレームであっても、カメラアングルの若干の相違、選手の立ち位置の相違、背景の看板の変化等、画像の構図に多少の相違が生じている場合がある。フレーム全体から画像特徴を抽出した場合には、このような画像の構図に生じる多少の相違の影響を抑制した画像特徴を抽出することができる。一方、フレームの一部から画像特徴を抽出する場合には、画像の構図に多少の相違が生じている領域、例えば背景の看板を示す領域を除外した領域から画像特徴を抽出する。このように抽出された画像特徴を用いることで、類否判定の精度を向上させることができる。
また、球場毎に異なる背景や選手が着用するユニホームの色の違い、放送局毎に異なるテロップのフォーマット等を考慮して、複数種類の基準画像特徴を用意しておいてもよい。この場合、検出部21は、編集済み映像と共に、球場、チーム、放送局等の情報を取得し、取得した情報に応じた基準画像特徴を選択して用いるようにするとよい。また、カメラアングルの相違について、投手や打者の利き手に応じて、カメラアングルや画像の特徴に相違が発生することが考えられる。そのため、投手や打者の利き手別の基準画像特徴を用意することとしてもよい。例えば、投手が左投げかつ打者が左打ちの場合、投手が左投げかつ打者が右打ちの場合、投手が右投げかつ打者が左打ちの場合、及び投手が右投げかつ打者が右打ちの場合の4パターンを用意しておくことができる。そして、用意した基準画像特徴のいずれかに合致する場合に、投球構図フレームとして抽出することとしてもよい。
また、検出部21は、各フレームから、カウント表示92を抽出し、カウント表示92が示すカウント情報を検出する。例えば、検出部21は、カウント表示92が表示される領域として予め定められたフレーム内の領域から、カウント表示92を抽出する。または、予め定められたカウント表示92のフォーマットを用いたパターンマッチング等により、フレーム内からカウント表示92を抽出する。そして、検出部21は、抽出したカウント表示92から、パターンマッチングや文字認識処理等により、ボールカウント表示95の領域を特定すると共に、ボールカウント表示95が示すボールカウントを検出する。同様に、検出部21は、ストライクカウント表示96からストライクカウントを、アウトカウント表示97からアウトカウントを、ランナー表示98からランナーの状況を、及び得点表示99から得点を検出する。
検出部21は、投球構図フレームの検出結果、及びフレーム毎に検出したカウント情報を、フレーム情報テーブル26に記録する。フレーム情報テーブル26の一例を図5に示す。図5の例では、フレーム時間で識別されるフレーム毎に、「構図判定」、「ボール」、「ストライク」、「アウト」、「ランナー」、及び「得点」の項目を含む。検出部21は、投球構図フレームとして検出したフレームに対応する「構図判定」の項目に、「TRUE」を記録する。投球構図フレームとして検出されなかったフレームに対応する「構図判定」の項目はブランクとする。また、検出部21は、カウント情報として検出したボールカウント、ストライクカウント、アウトカウント、ランナーの状況、及び得点の各々を、対応する「ボール」、「ストライク」、「アウト」、「ランナー」、及び「得点」の項目の各々に記録する。
なお、図5及び後述する図6及び図7では、説明を簡単にするため、フレーム時間を0.1秒刻みとして表現しているが、例えば、撮影映像のフレームレートが30fpsの場合にはフレーム時間は約0.03秒刻みである。また、撮影映像のフレームレートが60fpsの場合にはフレーム時間は約0.017秒刻みである。
判定部22は、検出部21により記録されたフレーム情報テーブル26を参照して、連続する複数の投球構図フレームからなるフレーム群を投球構図シーンとして特定する。また、判定部22は、投球構図シーンに含まれるいずれかのフレーム間で、カウント情報が変化したか否かを判定する。カウント情報が変化した場合には、判定部22は、その投球構図シーンは、投手による投球が1球行われたことを表していると判定して、投球構図シーンの開始フレーム(先頭フレーム)を、投球の始まりを示すフレームとして判定する。
例えば、図5の例では、判定部22は、まず、フレーム時間=128.3〜130.0に含まれるフレーム群により表されるシーンを、投球構図シーンとして特定する。この投球構図シーン内では、フレーム時間=129.4のフレームと、フレーム時間=129.5のフレームとの間で、ストライクカウントが変化している。判定部22は、この変化を検出すると、投球構図シーンの開始フレームであるフレーム時間=128.3のフレームを、投球の始まりを示すフレームとして判定する。
なお、カウント情報の変化については、投球構図シーンとして特定されたフレーム群の各フレームについて判定を行なってもよいし、投球構図シーンとして特定されたフレーム群の一部をサンプルとして選択して判定を行なってもよい。また、投球構図シーン内でカウント情報が変化する場合は、投球構図シーンとして特定されたフレーム群の開始フレームと最終フレーム(最後尾のフレーム)とでカウント情報が変化する。そのため、開始フレームと最終フレーム(最後尾のフレーム)とを比較してカウント情報の変化の判定を行なうこととしてもよい。開始フレームと最終フレーム(最後尾のフレーム)とを比較してカウント情報の変化の判定を行なう場合は、2フレーム分の判定によって、投球構図シーン内で投球がなされたか否かを判定することができる。
上記の判定方法では、カウント表示92が変化する前にカメラアングルが変わった場合、すなわち投球構図シーンではなくなった場合には、投手が1球を投じた場合であっても、投球の始まりを判定できない場合がある。例えば、打者がファールを打った場合は、ツーストライクまではストライクカウント表示96が変化するが、ストライクカウント表示96が変化する前に、打球の行方を追うカメラアングルに切り替わる場合が多い。この場合、ストライクカウントの変化は、投球構図シーン内に表れないため、上記の判定方法では投球の始まりを判定できない。
また、打者による打撃が行われた場合には、その結果がアウトかヒットかによって、アウトカウント、ランナーの状況、及び得点の少なくとも一つが変化する。しかし、このような場合には、アウトカウント表示97、ランナー表示98、及び得点表示99のいずれかが変化する前に、打球や走者の行方を追うカメラアングルに変化する可能性が高い。この場合も、上記の判定方法では投球の始まりを判定できない。
さらに、投手の投球結果がボールまたはストライクであった場合には、ボールカウント表示95またはストライクカウント表示96が変化する。しかし、捕手が捕球直後にいずれかの塁に送球した場合には、ボールカウント表示95またはストライクカウント表示96が変化する前に、捕手による送球先の塁付近を撮影するカメラアングルに変化する可能性が高い。この場合も、上記の判定方法では投球の始まりを判定できない。
そこで、判定部22は、判定対象の投球構図シーン内でカウント情報の変化が検出されなかった場合には、判定対象の投球構図シーンの最終フレームと、次の投球構図シーンの開始フレームとでカウント情報を比較する。判定部22は、両フレーム間でカウント情報が変化していることを検出した場合には、判定対象の投球構図シーンの開始フレームを、投球の始まりを示すフレームとして判定する。なお、カウント表示92がすぐに変化しないことを考慮して、判定対象の投球構図シーンの最終フレームと比較する対象のフレームを、次の投球構図シーンの開始フレームから所定数分のフレームとしてもよい。
例えば、図6に示すようなフレーム情報テーブル26において、フレーム時間=128.3〜130.6に含まれるフレーム群が判定対象の投球構図シーンとして特定されたとする。また、フレーム時間=131.1以降のフレーム群が、判定対象の投球構図シーンの次の投球構図シーンとして特定されたとする。判定対象の投球構図シーン内では、フレーム間でカウント情報の変化が検出されない。そこで、判定部22は、判定対象の投球構図シーンの最終フレームであるフレーム時間=130.6のフレームと、次の投球構図シーンの開始フレームであるフレーム時間=131.1のフレームとでカウント情報を比較する。両フレーム間で、ストライクカウントが変化しているため、判定部22は、判定対象の投球構図シーンの開始フレームであるフレーム時間=128.3のフレームを、投球の始まりを示すフレームとして判定する。
すなわち、図7に示すように、上記いずれの判定方法でもカウント情報の変化が検出されなかった場合には、投球構図シーンの開始フレームは、投球の始まりを示すフレームとして判定されない。これは、投手による投球が行われる前に、カメラアングルに変更があった場合、すなわち投球構図シーンが一旦途切れた場合である。
このような場合に該当する例としては、投手が牽制球を投げた場合などがある。この場合、例えば図8に示すように、投球構図シーン(図8の上段の図)、牽制先の塁付近のシーン、(図8の中段の図)、次の投球構図シーン(図8の下段の図)とシーンが切り替わる。この場合、投手の投球が行われる前に投球構図シーンが途切れることになるが、カウント情報の変化は検出されないため、その投球構図シーンの開始フレームが、投球の始まりを示すフレームとして判定されることはない。
同様に、例えば、投手が投球姿勢をとった後、一旦プレートを外した場合などは、投球構図シーンから投手のアップなどのシーンに切り替わる傾向がある。この場合も牽制の場合と同様に、投手の投球が行われる前に投球構図シーンが途切れることになるが、カウント情報の変化は検出されないため、その投球構図シーンの開始フレームが、投球の始まりを示すフレームとして判定されることはない。
このような牽制シーンや、投手がプレートを外すシーンなどは、投球シーンのみを抽出したい場合には、いわゆるノイズとなるシーンである。本実施形態では、上述のように、カウント情報の変化も用いて投球の始まりを示すフレームを判定する。これにより、投球構図シーンの開始フレームを投球の始まりを示すフレームとして単純に判定する場合には除去することができないノイズとなるシーンを除去して、投球の始まりを判定することができる。
また、判定部22は、投球構図シーンに含まれる全てのフレームで、いずれのカウント情報も検出されていない場合には、その投球構図シーンはリプレイであると判定し、その投球構図シーンの開始フレームを投球の始まりを示すフレームとして判定しない。なお、本実施形態では、リプレイ時には、カウント表示92が表示されないことを利用するため、フレーム情報テーブル26に記録されたカウント情報をに基づいてリプレイか否かを判定することができる。なお、リプレイの判定方法はこの方法に限定されず、カウント情報とは別に、フレームから「Replay」や「VTR」等のリプレイを表す表示や、飾り枠などの特殊な加工を検出して、リプレイか否かを判定してもよい。
さらに、判定部22は、投球構図シーン内、または次の投球構図シーンの開始フレームにおけるカウント情報の変化を検出した場合には、図9に示すように、そのカウント情報の変化に基づいて、投球結果を判定する。例えば、図5の場合では、フレーム時間=129.4のフレームのカウント情報と、フレーム時間=129.5のフレームのカウント情報とでは、ストライクカウントが1増加している。従って、判定部22は、投球の始まりとして判定したフレーム時間=128.3のフレームから始まる投球シーンの投球結果は、「ストライク」であると判定する。
同様に、図6の場合では、フレーム時間=130.6のフレームのカウント情報と、フレーム時間=131.1のフレームのカウント情報とでは、ストライクカウントが1増加している。従って、判定部22は、投球の始まりとして判定したフレーム時間=128.3のフレームから始まる投球シーンの投球結果は、「ストライク」であると判定する。
作成部23は、判定部22による判定結果に基づいて、投球シーンに関するメタ情報を作成する。具体的には、作成部23は、判定部22により判定された投球の始まりを示すフレームのフレーム時間に、投球の始まりを示す情報と、そのフレームから始まる投球シーンについて判定された投球結果の情報とを対応付けたメタ情報を作成する。作成部23は、判定部22により投球の始まりを示すフレームとして判定されたフレームの各々について、メタ情報を作成する。
また、作成部23は、作成した複数のメタ情報を、メタ情報に含まれるフレーム時間順に記録したメタ情報ファイル27を作成する。メタ情報ファイル27は、例えばcsv(Comma-Separated Values)形式のファイルとして作成することができる。図10に、メタ情報ファイル27の一例を示す。図10の例では、各行が1つのメタ情報を示し、「投球」の項目が投球の始まりを示す情報、「投球結果」の項目が投球結果の情報である。
なお、ここでは、フレーム時間を用いたメタ情報を作成する場合について説明したが、フレーム番号等の各フレームを識別するための他の情報を用いて、メタ情報を作成してもよい。
作成部23は、作成したメタ情報ファイル27を編集済み映像に付加して、メタ情報付き映像として配信装置30へ送信する。
判定装置20は、例えば図11に示すコンピュータ50で実現することができる。コンピュータ50はCPU51、一時記憶領域としてのメモリ52、及び不揮発性の記憶部53を備える。また、コンピュータ50は、表示装置及び入力装置等の入出力装置58が接続される入出力インターフェース(I/F)54を備える。また、コンピュータ50は、記録媒体59に対するデータの読み込み及び書き込みを制御するread/write(R/W)部55、及びインターネット等のネットワークに接続されるネットワークI/F56を備える。CPU51、メモリ52、記憶部53、入出力I/F54、R/W部55、及びネットワークI/F56は、バス57を介して互いに接続される。
記憶部53はHDD(Hard Disk Drive)、SSD(solid state drive)、フラッシュメモリ等によって実現できる。記憶媒体としての記憶部53には、コンピュータ50を判定装置20として機能させるための判定プログラム60が記憶される。CPU51は、判定プログラム60を記憶部53から読み出してメモリ52に展開し、判定プログラム60が有するプロセスを順次実行する。
判定プログラム60は、検出プロセス61と、判定プロセス62と、作成プロセス63とを有する。CPU51は、検出プロセス61を実行することで、図2に示す検出部21として動作する。また、CPU51は、判定プロセス62を実行することで、図2に示す判定部22として動作する。また、CPU51は、作成プロセス63を実行することで、図2に示す作成部23として動作する。これにより、判定プログラム60を実行したコンピュータ50が、判定装置20として機能することになる。
また、配信装置30は、例えば図12に示すコンピュータ70で実現することができる。コンピュータ70はCPU71、メモリ72、不揮発性の記憶部73、入出力装置78が接続される入出力I/F74を備える。また、コンピュータ70は、記録媒体79に対するデータの読み込み及び書き込みを制御するR/W部75、及びインターネット等のネットワークに接続されるネットワークI/F76を備える。CPU71、メモリ72、記憶部73、入出力I/F74、R/W部75、及びネットワークI/F76は、バス77を介して互いに接続される。
また、配信装置30を実現するコンピュータ70と判定装置20を実現するコンピュータ50とは、コンピュータ70のネットワークI/F78、ネットワーク、及びコンピュータ50のネットワークI/F58を介して接続される。
記憶部73はHDD、SSD、フラッシュメモリ等によって実現できる。記憶媒体としての記憶部73には、コンピュータ70を配信装置30として機能させるための配信プログラム80が記憶されている。CPU71は、配信プログラム80を記憶部73から読み出してメモリ72に展開し、配信プログラム80が有するプロセスを順次実行する。
配信プログラム80は、編集プロセス81と、配信プロセス82とを有する。CPU71は、編集プロセス81を実行することで、図2に示す編集部31として動作する。また、CPU71は、配信プロセス82を実行することで、図2に示す配信部32として動作する。これにより、配信プログラム80を実行したコンピュータ70が、配信装置30として機能することになる。
なお、判定装置20及び配信装置30の各々は、例えば半導体集積回路、より詳しくはASIC(Application Specific Integrated Circuit)等で実現することも可能である。
次に、本実施形態に係る映像配信システム10の作用について説明する。撮影映像が配信装置30に入力されると、配信装置30が、図13に示す編集処理を実行し、編集済み映像を出力する。次に、編集済み映像が判定装置20に入力されると、判定装置20が、図14に示す判定処理を実行して、メタ情報付き映像を出力する。そして、メタ情報付き映像が配信装置30に入力されると、配信装置30が、図16に示す配信処理を実行し、配信用映像を出力する。以下、各処理について詳述する。
まず、図13に示す編集処理のステップS10で、編集部31が、撮影映像を取得する。次に、ステップS12で、編集部31が、入出力装置78を用いてオペレータの操作により指示された編集内容を、画像処理により撮影映像に適用する。次に、ステップS14で、編集部31が、編集済み映像を、判定装置20へ送信して、編集処理は終了する。
次に、図14に示す判定処理のステップS20で、検出部21が、配信装置30から送信された編集済み映像を取得する。
次に、ステップS22で、検出部21が、編集済み映像に含まれる複数のフレームの各々から、投球構図フレームを検出する。具体的には、検出部21が、編集済み映像に含まれる複数のフレームの各々から抽出画像特徴を抽出する。そして、検出部21は、予め用意された基準画像特徴と抽出画像特徴との類似度を求め、基準画像特徴との類似度が所定値以上となる抽出画像特徴を有するフレームを、投球構図フレームとして抽出する。
次に、ステップS24で、検出部21が、パターンマッチング等を用いて、各フレームからカウント表示92を抽出する。そして、検出部21は、パターンマッチングや文字認識処理等を用いて、抽出したカウント表示92に含まれるボールカウント表示95、ストライクカウント表示96、アウトカウント表示97、ランナー表示98、及び得点表示99の各々を特定する。検出部21は、特定した各表示から、ボールカウント、ストライクカウント、アウトカウント、ランナーの状況、及び得点の各々を検出する。検出部21は、投球構図フレームの検出結果、及びフレーム毎に検出したカウント情報を、フレーム情報テーブル26に記録する。
次に、ステップS26で、図15に詳細を示す投球判定処理が実行される。図15に示す投球判定処理のステップS262で、判定部22が、検出部21により記録されたフレーム情報テーブル26を参照して、連続する複数の投球構図フレームからなるフレーム群を投球構図シーンとして特定する。そして、判定部22が、判定対象として1つの投球構図シーンを選択する。
次に、ステップS264で、判定部22が、選択した判定対象の投球構図シーンに含まれるいずれかのフレーム間で、カウント情報が変化しているか否かを判定する。カウント情報が変化している場合には、処理はステップS266へ移行し、カウント情報が変化していない場合には、処理はステップS280へ移行する。
ステップS266では、判定部22が、判定対象の投球構図シーンは、投手による投球が1球行われたことを表していると判定して、投球構図シーンの開始フレームを、投球の始まりを示すフレームとして判定する。
次に、ステップS268で、判定部22が、判定対象の投球構図シーン内において検出したカウント情報の変化に基づいて、投球の始まりとして判定したフレームから始まる投球シーンの投球結果を判定する。例えば、変化前のカウント情報に対して、変化後のカウント情報では、ストライクカウントが1増加していた場合には、投球結果は、「ストライク」であると判定する。そして、処理はステップS286へ移行する。
一方、ステップS280では、判定部22が、判定対象の投球構図シーンの最終フレームと、次の投球構図シーンの開始フレームとでカウント情報を比較する。次に、ステップS282で、判定部22が、上記ステップS280の比較の結果、両フレーム間でカウント情報が変化しているか否かを判定する。カウント情報が変化している場合には、処理はステップS284へ移行する。カウント情報が変化していない場合には、判定部22が、判定対象の投球構図シーンは牽制や投手がプレートを外すなどしたノイズを表すシーンであると判定する。そして、処理は、上記ステップS266及びS268を経ることなく、ステップS286へ移行する。
ステップS284では、判定部22が、判定対象の投球構図シーンに含まれるいずれかのフレームで、いずれかのカウント情報が検出されているか否かを判定する。カウント情報が検出されている場合には、処理はステップS266へ移行する。カウント情報が検出されていない場合には、判定部22が、判定対象の投球構図シーンはリプレイであると判定し、処理は、上記ステップS266及びS268を経ることなく、ステップS286へ移行する。
ステップS286では、判定部22が、フレーム情報テーブル26内の全ての投球構図シーンについて、上記ステップS264〜S268の処理を終了したか否かを判定する。未処理の投球構図シーンが存在する場合には、処理はステップS262に戻り、未処理の投球構図シーンを選択して、ステップS264〜S268の処理を繰り返す。全ての投球構図シーンについて処理が終了した場合には、処理は図14に示す判定処理に戻る。
次に、図14に示す判定処理のステップS30で、作成部23が、投球シーンに関するメタ情報を作成する。ここで作成されるメタ情報は、例えば、判定部22により判定された投球の始まりを示すフレームのフレーム時間に、投球の始まりを示す情報と、そのフレームから始まる投球シーンについて判定された投球結果の情報とを対応付けた情報である。
次に、ステップS32で、作成部23が、作成した複数のメタ情報を、メタ情報に含まれるフレーム時間順に記録したメタ情報ファイル27を作成する。そして、作成部23は、作成したメタ情報ファイル27を編集済み映像に付加して、メタ情報付き映像として配信装置30へ送信し、判定処理は終了する。
次に、図16に示す配信処理のステップS40で、配信部32が、判定装置20から送信されたメタ情報付き映像を取得する。次に、ステップS42で、配信部32が、メタ情報付き映像を所定の規格に従った配信用映像に変換して、配信先のユーザ端末40に配信し、配信処理は終了する。
以上説明したように、本実施形態に係る判定装置20によれば、野球の試合を撮影した映像から、投手の背後から打者方向を撮影した構図の投球構図フレームを検出し、複数の投球構図フレームが連続する投球構図シーンを特定する。また、各フレームのカウント表示からカウント情報を検出する。そして、判定対象の投球構図シーンに含まれるいずれかのフレーム間でカウント情報が変化したか否か、または、判定対象の投球構図シーンの最終フレームと次の投球構図シーンの開始フレームとでカウント情報が変化したか否かを判定する。カウント情報が変化した場合には、判定対象の投球構図シーンの開始フレームを、投球の始まりを示すフレームとして判定する。これにより、投球構図シーンの開始フレームを投球の始まりを示すフレームとして単純に判定する場合には除去することができないノイズとなるシーンを除去して、投球の始まりを判定することができる。
また、検出したカウント情報の変化に基づいて、投球の始まりを示すフレームから始まる投球シーンの投球結果も判定するため、投球シーンの抽出と共に、投球結果の情報も取得することができる。
また、投球の始まりを示すフレームの情報を含むメタ情報を作成して映像に付加することで、メタ情報に基づいて、メタ情報付き映像における1球単位の頭出しが可能である。例えば、メタ情報付き映像において、投手の投球時の映像やリプレイなどを容易に特定し、視聴することができる。また、メタ情報に投球結果の情報も含めた場合には、投球結果を検索条件とした1球単位の投球シーンの抽出が可能となる。
なお、上記実施形態では、投手の背後から打者方向を撮影したフレームを、投球構図フレームとする場合について説明したが、投球構図フレームはこれに限定されない。例えば、球審の頭部に備え付けられたカメラから撮影されたフレーム(球審から投手方向を撮影したフレーム)など、投手の投球場面に使用される特徴的なカメラアングルで撮影されたフレームであればよい。
また、上記実施形態では、試合終了後に撮影映像全体を判定装置20に入力し、撮影映像全体に対するメタ情報ファイル27を作成する場合を想定して説明したが、これに限定されない。例えば、撮影映像をライブ配信する場合には、メタ情報が1つ作成される毎に、配信装置30を介してユーザ端末40に送信するようにしてもよい。
具体的には、逐次取得される撮影映像の各フレームから投球構図シーン及びフレーム毎のカウント情報が検出される都度、フレーム情報テーブル26を逐次更新する。そして、フレーム情報テーブル26におけるカウント情報の変化を監視し、図17に示すように、カウント情報の変化が検出された段階で、投球の始まりを示すフレームである投球構図シーンの開始フレームを特定し、さらに、投球結果を判定する。そして、例えば「128.3 投球の始まり ストライク」のような1つのメタ情報を作成し、配信装置30へ送信し、配信装置30からユーザ端末40へ送信する。ユーザ端末40では、メタ情報を受信した段階で、そのメタ情報に基づく1球の頭出し等の処理が可能になる。
また、カウント表示92が変化する際に、変化させる箇所の輝度を徐々に明るくしたり、点滅させたり等のエフェクトがかけられる場合がある。このような場合、例えば、図18に示すように、カウント情報の一部が検出されない場合がある(図18中の斜線のマス)。この場合、カウント情報が検出されていないフレームを除いたフレーム間で、カウント情報を比較すればよい。図18の例の場合、フレーム時間=129.1〜129.4のフレームから、ストライクカウント及びアウトカウントが検出されていない。そこで、フレーム時間=129.0のフレームと、フレーム時間=129.5のフレームとの間で、ストライクカウント及びアウトカウントの各々の変化を検出すればよい。
また、上記各実施形態では、配信装置30と判定装置20とを含む映像配信システム10を例に説明したが、これに限定されない。配信装置30の各機能部と判定装置20の各機能部とを、1つのコンピュータで実現するようにしてもよい。
また、本発明の判定装置は、映像配信システムに適用する場合に限定されない。例えば、ネットワークで接続された外部の記憶装置に格納された映像ファイルを取得し、メタ情報ファイル27を作成して、メタ情報ファイル27と共に映像ファイルを記憶装置に格納し直すようにしてもよい。また、本発明の判定装置は、野球の他、ソフトボール等のスポーツにも適用可能である。
また、上記では、判定プログラム60が記憶部53に、配信プログラム80が記憶部73に予め記憶(インストール)されている態様を説明したが、CD−ROMやDVD−ROM等の記憶媒体に記録された形態で提供することも可能である。
以上の上記実施形態に関し、更に以下の付記を開示する。
(付記1)
コンピュータに、
記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から、所定の特徴を有し、かつ、試合状況を示す画像情報から取得したボールカウント数、アウトカウント数、ランナー数のいずれかの変化が検出される、連続する複数のフレームを、投球シーンとして判定する、
ことを実行させることを特徴とする判定プログラム。
(付記2)
前記コンピュータに、
前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれかの変化が検出されると、連続する前記複数のフレームの先頭フレームを、投球の始まりを示すフレームとして抽出する、
ことを実行させることを特徴とする付記1記載の判定プログラム。
(付記3)
前記所定の特徴を有する連続する前記複数のフレームは、撮影映像が特定のアングルで撮像されてから前記特定のアングルと異なるアングルに切り替わるまでの連続する複数のフレームである、
ことを特徴とする付記1または付記2記載の判定プログラム。
(付記4)
前記コンピュータに、
前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれにも変化がない場合であっても、前記ボールカウント数、前記アウトカウント数、前記ランナー数が、前記撮影映像において、連続する前記複数のフレームの次に検出される前記所定の特徴を有するフレームについて取得したボールカウント数、アウトカウント数、ランナー数のいずれかとの差分が検出される場合に、連続する前記複数のフレームを投球シーンとして判定する、
ことを実行させることを特徴とする付記1〜付記3のいずれか1項に記載の判定プログラム。
(付記5)
前記コンピュータに、
連続する前記複数のフレームの、先頭フレームと最後尾のフレームとにおいて、ボールカウント数、アウトカウント数、ランナー数のいずれかの変化が検出されると、連続する前記複数のフレームを投球シーンとして判定する、
ことを実行させることを特徴とする付記1〜付記4のいずれか1項に記載の判定プログラム。
(付記6)
前記コンピュータに、
連続する前記複数のフレームの一部または全部のフレームそれぞれについて、ボールカウント数、アウトカウント数、ランナー数のいずれかの、前記一部または全部のフレームの他のフレームとの変化が検出されると、連続する前記複数のフレームを投球シーンとして判定する、
ことを実行させることを特徴とする付記1〜付記4のいずれか1項に記載の判定プログラム。
(付記7)
コンピュータに、
記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から、所定の特徴を有し、かつ、試合状況を示す画像情報から取得したボールカウント数、アウトカウント数、ランナー数のいずれかの変化が検出される、連続する複数のフレームを、投球シーンとして判定する、
ことを実行させることを特徴とする判定方法。
(付記8)
前記コンピュータに、
前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれかの変化が検出されると、連続する前記複数のフレームの先頭フレームを、投球の始まりを示すフレームとして抽出する、
ことを実行させることを特徴とする付記7記載の判定方法。
(付記9)
前記所定の特徴を有する連続する前記複数のフレームは、撮影映像が特定のアングルで撮像されてから前記特定のアングルと異なるアングルに切り替わるまでの連続する複数のフレームである、
ことを特徴とする付記7または付記8記載の判定方法。
(付記10)
前記コンピュータに、
前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれにも変化がない場合であっても、前記ボールカウント数、前記アウトカウント数、前記ランナー数が、前記撮影映像において、連続する前記複数のフレームの次に検出される前記所定の特徴を有するフレームについて取得したボールカウント数、アウトカウント数、ランナー数のいずれかとの差分が検出される場合に、連続する前記複数のフレームを投球シーンとして判定する、
ことを実行させることを特徴とする付記7〜付記9のいずれか1項に記載の判定方法。
(付記11)
前記コンピュータに、
連続する前記複数のフレームの、先頭フレームと最後尾のフレームとにおいて、ボールカウント数、アウトカウント数、ランナー数のいずれかの変化が検出されると、連続する前記複数のフレームを投球シーンとして判定する、
ことを実行させることを特徴とする付記7〜付記10のいずれか1項に記載の判定方法。
(付記12)
前記コンピュータに、
連続する前記複数のフレームの一部または全部のフレームそれぞれについて、ボールカウント数、アウトカウント数、ランナー数のいずれかの、前記一部または全部のフレームの他のフレームとの変化が検出されると、連続する前記複数のフレームを投球シーンとして判定する、
ことを実行させることを特徴とする付記7〜付記10のいずれか1項に記載の判定方法。
(付記13)
記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から、所定の特徴を有し、かつ、試合状況を示す画像情報から取得したボールカウント数、アウトカウント数、ランナー数のいずれかの変化が検出される、連続する複数のフレームを、投球シーンとして判定する判定部
を含むことを特徴とする判定装置。
(付記14)
前記判定部は、前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれかの変化が検出されると、連続する前記複数のフレームの先頭フレームを、投球の始まりを示すフレームとして抽出する
ことを特徴とする付記13記載の判定装置。
(付記15)
前記所定の特徴を有する連続する前記複数のフレームは、撮影映像が特定のアングルで撮像されてから前記特定のアングルと異なるアングルに切り替わるまでの連続する複数のフレームである、
ことを特徴とする付記13または付記14記載の判定装置。
(付記16)
前記判定部は、前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれにも変化がない場合であっても、前記ボールカウント数、前記アウトカウント数、前記ランナー数が、前記撮影映像において、連続する前記複数のフレームの次に検出される前記所定の特徴を有するフレームについて取得したボールカウント数、アウトカウント数、ランナー数のいずれかとの差分が検出される場合に、連続する前記複数のフレームを投球シーンとして判定する、
ことを特徴とする付記13〜付記15のいずれか1項に記載の判定装置。
(付記17)
前記判定部は、連続する前記複数のフレームの、先頭フレームと最後尾のフレームとにおいて、ボールカウント数、アウトカウント数、ランナー数のいずれかの変化が検出されると、連続する前記複数のフレームを投球シーンとして判定する、
ことを特徴とする付記13〜付記16のいずれか1項に記載の判定装置。
(付記18)
前記判定部は、連続する前記複数のフレームの一部または全部のフレームそれぞれについて、ボールカウント数、アウトカウント数、ランナー数のいずれかの、前記一部または全部のフレームの他のフレームとの変化が検出されると、連続する前記複数のフレームを投球シーンとして判定する、
ことを特徴とする付記13〜付記16のいずれか1項に記載の判定装置。
(付記19)
コンピュータに、
記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から、所定の特徴を有する連続する複数のフレームを抽出し、
抽出した前記連続する複数のフレームにおける、ボールカウント数、アウトカウント数、ランナー数のすべてにおける変化の不検出に応じて、前記連続する複数のフレームに投球シーンは含まれないと判定する、
ことを実行させることを特徴とする判定プログラム。
(付記20)
コンピュータに、
記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から抽出される、所定の特徴を有する、連続する複数のフレームについて、試合状況を示す画像情報から取得したボールカウント数、アウトカウント数、ランナー数のいずれかの変化を、前記連続する複数のフレームにおいて投球がなされたか否かの確からしさの判定に利用する、
ことを実行させることを特徴とする判定プログラム。
(付記21)
コンピュータに、
記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から、所定の特徴を有する連続する複数のフレームを抽出し、
抽出した前記連続する複数のフレームにおける、ボールカウント数、アウトカウント数、ランナー数のすべてにおける変化の不検出に応じて、前記連続する複数のフレームに投球シーンは含まれないと判定する、
ことを実行させることを特徴とする判定方法。
(付記22)
コンピュータに、
記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から抽出される、所定の特徴を有する、連続する複数のフレームについて、試合状況を示す画像情報から取得したボールカウント数、アウトカウント数、ランナー数のいずれかの変化を、前記連続する複数のフレームにおいて投球がなされたか否かの確からしさの判定に利用する、
ことを実行させることを特徴とする判定方法。
(付記23)
記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から、所定の特徴を有する連続する複数のフレームを抽出する抽出部と、
抽出した前記連続する複数のフレームにおける、ボールカウント数、アウトカウント数、ランナー数のすべてにおける変化の不検出に応じて、前記連続する複数のフレームに投球シーンは含まれないと判定する判定部と、
を含むことを特徴とする判定装置。
(付記24)
記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から抽出される、所定の特徴を有する、連続する複数のフレームについて、試合状況を示す画像情報から取得したボールカウント数、アウトカウント数、ランナー数のいずれかの変化を、前記連続する複数のフレームにおいて投球がなされたか否かの確からしさの判定に利用する判定部
を含むことを特徴とする判定方法。
(付記25)
コンピュータに、
複数のフレームを含む野球の試合の撮影映像に含まれる各フレームの画像の特徴に基づいて、投手による投球時に用いられる構図の投球構図シーンに対応するフレーム群を検出し、
前記複数のフレームの各々から、ボールカウント及びストライクカウントを含むカウント情報を検出し、
前記投球構図シーンに含まれるフレーム群内で、前記カウント情報のいずれかが変化した場合に、前記投球構図シーンの先頭フレームを、前記投手による投球1球毎の始まりを示すフレームとして抽出する
ことを含む処理を実行させるための抽出プログラム。
(付記26)
前記カウント情報として、アウトカウント、得点、及びランナーの状況をさらに検出し、
前記投球構図シーンに含まれるフレーム群内で、前記カウント情報のいずれも変化せず、かつ対象の投球構図シーンの最終フレームと、次の投球構図シーンの開始フレームから所定数分までに含まれるいずれかのフレームとにおける前記カウント情報のいずれかが変化した場合に、前記対象の投球構図シーンの先頭フレームを、前記投手による投球1球毎の始まりを示すフレームとして抽出する
付記25記載の抽出プログラム。
(付記27)
前記カウント情報の変化に基づいて、前記投手による投球1球毎の投球結果を判定する付記25または付記26記載の抽出プログラム。
(付記28)
前記投手による投球1球毎の始まりを示すフレームの情報と、前記投球結果を示す情報とを含むメタ情報を作成する付記27記載の抽出プログラム。
(付記29)
前記投球構図シーンを、投手の投球場面に使用されるカメラアングルで撮影されたフレーム群とした付記25〜付記28のいずれか1項記載の抽出プログラム。
10 映像配信システム
20 抽出装置
21 検出部
22 判定部
23 作成部
26 フレーム情報
27 メタ情報ファイル
30 配信装置
31 編集部
32 配信部
40 ユーザ端末
50、70 コンピュータ
51、71 CPU
52、72 メモリ
53、73 記憶部
60 抽出プログラム
80 配信プログラム
92 カウント表示
95 ボールカウント表示
96 ストライクカウント表示
97 アウトカウント表示
98 ランナー表示
99 得点表示

Claims (13)

  1. コンピュータに、
    記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から、所定の特徴を有し、かつ、試合状況を示す画像情報から取得したボールカウント数、アウトカウント数、ランナー数のいずれかの変化が検出される、連続する複数のフレームを、投球シーンとして判定し、
    前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれにも変化がない場合であっても、前記ボールカウント数、前記アウトカウント数、前記ランナー数が、前記撮影映像において、判定対象の前記連続する複数のフレームの次に検出される前記所定の特徴を有する連続する複数のフレームの先頭フレームから所定数分のフレームについて取得したボールカウント数、アウトカウント数、ランナー数のいずれかとの差分が検出される場合に、判定対象の前記連続する複数のフレームを投球シーンとして判定する、
    ことを実行させることを特徴とする判定プログラム。
  2. 前記コンピュータに、
    前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれかの変化が検出されると、連続する前記複数のフレームの先頭フレームを、投球の始まりを示すフレームとして抽出する、
    ことを実行させることを特徴とする請求項1記載の判定プログラム。
  3. 前記所定の特徴を有する連続する前記複数のフレームは、撮影映像が特定のアングルで撮像されてから前記特定のアングルと異なるアングルに切り替わるまでの連続する複数のフレームである、
    ことを特徴とする請求項1または請求項2記載の判定プログラム。
  4. 前記コンピュータに、
    連続する前記複数のフレームの、先頭フレームと最後尾のフレームとにおいて、ボールカウント数、アウトカウント数、ランナー数のいずれかの変化が検出されると、連続する前記複数のフレームを投球シーンとして判定する、
    ことを実行させることを特徴とする請求項1〜請求項3のいずれか1項に記載の判定プログラム。
  5. 前記コンピュータに、
    連続する前記複数のフレームの一部または全部のフレームそれぞれについて、ボールカウント数、アウトカウント数、ランナー数のいずれかの、前記一部または全部のフレームの他のフレームとの変化が検出されると、連続する前記複数のフレームを投球シーンとして判定する、
    ことを実行させることを特徴とする請求項1〜請求項3のいずれか1項に記載の判定プログラム。
  6. コンピュータに、
    記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から、所定の特徴を有し、かつ、試合状況を示す画像情報から取得したボールカウント数、アウトカウント数、ランナー数のいずれかの変化が検出される、連続する複数のフレームを、投球シーンとして判定し、
    前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれにも変化がない場合であっても、前記ボールカウント数、前記アウトカウント数、前記ランナー数が、前記撮影映像において、判定対象の前記連続する複数のフレームの次に検出される前記所定の特徴を有する連続する複数のフレームの先頭フレームから所定数分のフレームについて取得したボールカウント数、アウトカウント数、ランナー数のいずれかとの差分が検出される場合に、判定対象の前記連続する複数のフレームを投球シーンとして判定する、
    ことを実行させることを特徴とする判定方法。
  7. 記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から、所定の特徴を有し、かつ、試合状況を示す画像情報から取得したボールカウント数、アウトカウント数、ランナー数のいずれかの変化が検出される、連続する複数のフレームを、投球シーンとして判定し、
    前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれにも変化がない場合であっても、前記ボールカウント数、前記アウトカウント数、前記ランナー数が、前記撮影映像において、判定対象の前記連続する複数のフレームの次に検出される前記所定の特徴を有する連続する複数のフレームの先頭フレームから所定数分のフレームについて取得したボールカウント数、アウトカウント数、ランナー数のいずれかとの差分が検出される場合に、判定対象の前記連続する複数のフレームを投球シーンとして判定する、
    判定部を含むことを特徴とする判定装置。
  8. コンピュータに、
    記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から、所定の特徴を有する連続する複数のフレームを抽出し、
    抽出した前記連続する複数のフレームにおける、ボールカウント数、アウトカウント数、ランナー数のすべてにおける変化の不検出に応じて、前記連続する複数のフレームに投球シーンは含まれないと判定し、
    前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれにも変化がない場合であっても、前記ボールカウント数、前記アウトカウント数、前記ランナー数が、前記撮影映像において、判定対象の前記連続する複数のフレームの次に検出される前記所定の特徴を有する連続する複数のフレームの先頭フレームから所定数分のフレームについて取得したボールカウント数、アウトカウント数、ランナー数のいずれかとの差分が検出される場合に、判定対象の前記連続する複数のフレームを投球シーンとして判定する、
    ことを実行させることを特徴とする判定プログラム。
  9. コンピュータに、
    記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から抽出される、所定の特徴を有する、連続する複数のフレームについて、試合状況を示す画像情報から取得したボールカウント数、アウトカウント数、ランナー数のいずれかの変化を、前記連続する複数のフレームにおいて投球がなされたか否かの確からしさの判定に利用し、
    前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれにも変化がない場合であっても、前記ボールカウント数、前記アウトカウント数、前記ランナー数が、前記撮影映像において、判定対象の前記連続する複数のフレームの次に検出される前記所定の特徴を有する連続する複数のフレームの先頭フレームから所定数分のフレームについて取得したボールカウント数、アウトカウント数、ランナー数のいずれかとの差分が検出される場合に、判定対象の前記連続する複数のフレームを投球シーンとして判定する、
    ことを実行させることを特徴とする判定プログラム。
  10. コンピュータに、
    記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から、所定の特徴を有する連続する複数のフレームを抽出し、
    抽出した前記連続する複数のフレームにおける、ボールカウント数、アウトカウント数、ランナー数のすべてにおける変化の不検出に応じて、前記連続する複数のフレームに投球シーンは含まれないと判定し、
    前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれにも変化がない場合であっても、前記ボールカウント数、前記アウトカウント数、前記ランナー数が、前記撮影映像において、判定対象の前記連続する複数のフレームの次に検出される前記所定の特徴を有する連続する複数のフレームの先頭フレームから所定数分のフレームについて取得したボールカウント数、アウトカウント数、ランナー数のいずれかとの差分が検出される場合に、判定対象の前記連続する複数のフレームを投球シーンとして判定する、
    ことを実行させることを特徴とする判定方法。
  11. コンピュータに、
    記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から抽出される、所定の特徴を有する、連続する複数のフレームについて、試合状況を示す画像情報から取得したボールカウント数、アウトカウント数、ランナー数のいずれかの変化を、前記連続する複数のフレームにおいて投球がなされたか否かの確からしさの判定に利用し、
    前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれにも変化がない場合であっても、前記ボールカウント数、前記アウトカウント数、前記ランナー数が、前記撮影映像において、判定対象の前記連続する複数のフレームの次に検出される前記所定の特徴を有する連続する複数のフレームの先頭フレームから所定数分のフレームについて取得したボールカウント数、アウトカウント数、ランナー数のいずれかとの差分が検出される場合に、判定対象の前記連続する複数のフレームを投球シーンとして判定する、
    ことを実行させることを特徴とする判定方法。
  12. 記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から、所定の特徴を有する連続する複数のフレームを抽出する抽出部と、
    抽出した前記連続する複数のフレームにおける、ボールカウント数、アウトカウント数、ランナー数のすべてにおける変化の不検出に応じて、前記連続する複数のフレームに投球シーンは含まれないと判定し、
    前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれにも変化がない場合であっても、前記ボールカウント数、前記アウトカウント数、前記ランナー数が、前記撮影映像において、判定対象の前記連続する複数のフレームの次に検出される前記所定の特徴を有する連続する複数のフレームの先頭フレームから所定数分のフレームについて取得したボールカウント数、アウトカウント数、ランナー数のいずれかとの差分が検出される場合に、判定対象の前記連続する複数のフレームを投球シーンとして判定する、
    判定部と、
    を含むことを特徴とする判定装置。
  13. 記憶手段に記憶された複数のフレームを含む野球の試合の撮影映像から抽出される、所定の特徴を有する、連続する複数のフレームについて、試合状況を示す画像情報から取得したボールカウント数、アウトカウント数、ランナー数のいずれかの変化を、前記連続する複数のフレームにおいて投球がなされたか否かの確からしさの判定に利用し、
    前記ボールカウント数、前記アウトカウント数、前記ランナー数のいずれにも変化がない場合であっても、前記ボールカウント数、前記アウトカウント数、前記ランナー数が、前記撮影映像において、判定対象の前記連続する複数のフレームの次に検出される前記所定の特徴を有する連続する複数のフレームの先頭フレームから所定数分のフレームについて取得したボールカウント数、アウトカウント数、ランナー数のいずれかとの差分が検出される場合に、判定対象の前記連続する複数のフレームを投球シーンとして判定する、
    とを特徴とする判定方法。
JP2014173149A 2014-08-27 2014-08-27 判定プログラム、方法、及び装置 Active JP6394184B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2014173149A JP6394184B2 (ja) 2014-08-27 2014-08-27 判定プログラム、方法、及び装置
US14/813,515 US10200764B2 (en) 2014-08-27 2015-07-30 Determination method and device
TW104124755A TWI579025B (zh) 2014-08-27 2015-07-30 判定方法及裝置
KR1020150119681A KR101701632B1 (ko) 2014-08-27 2015-08-25 판정 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014173149A JP6394184B2 (ja) 2014-08-27 2014-08-27 判定プログラム、方法、及び装置

Publications (2)

Publication Number Publication Date
JP2016048852A JP2016048852A (ja) 2016-04-07
JP6394184B2 true JP6394184B2 (ja) 2018-09-26

Family

ID=55404128

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014173149A Active JP6394184B2 (ja) 2014-08-27 2014-08-27 判定プログラム、方法、及び装置

Country Status (4)

Country Link
US (1) US10200764B2 (ja)
JP (1) JP6394184B2 (ja)
KR (1) KR101701632B1 (ja)
TW (1) TWI579025B (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6394184B2 (ja) * 2014-08-27 2018-09-26 富士通株式会社 判定プログラム、方法、及び装置
US11373404B2 (en) * 2018-05-18 2022-06-28 Stats Llc Machine learning for recognizing and interpreting embedded information card content
JP6902497B2 (ja) 2018-05-28 2021-07-14 富士フイルム株式会社 磁気テープ、磁気テープの製造方法、磁気テープの製造装置、及び記録再生システム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040125877A1 (en) * 2000-07-17 2004-07-01 Shin-Fu Chang Method and system for indexing and content-based adaptive streaming of digital video content
JP2002200210A (ja) * 2000-12-28 2002-07-16 Asobous:Kk 野球におけるスコアメイカーシステムと、自動編集システムと、動作分析システムよりなる情報処理の方法
WO2003051031A2 (en) * 2001-12-06 2003-06-19 The Trustees Of Columbia University In The City Of New York Method and apparatus for planarization of a material by growing and removing a sacrificial film
JP2003264771A (ja) * 2002-03-06 2003-09-19 Sony Corp 信号記録再生装置、信号記録再生方法、並びに信号記録再生プログラムを記録している媒体
US8214741B2 (en) * 2002-03-19 2012-07-03 Sharp Laboratories Of America, Inc. Synchronization of video and data
JP2005269015A (ja) * 2004-03-17 2005-09-29 Tama Tlo Kk 複数のアルゴリズムを利用する動画像抽出装置
JP4401220B2 (ja) 2004-04-01 2010-01-20 富士通株式会社 ハイライトシーン抽出装置およびハイライトシーン配信システム
JP2007274400A (ja) 2006-03-31 2007-10-18 Matsushita Electric Ind Co Ltd スポーツ映像のイベント区間補正装置およびイベント区間補正方法
JP2007335984A (ja) 2006-06-12 2007-12-27 Matsushita Electric Ind Co Ltd イベント終了点抽出装置、イベント終了点抽出方法および抽出プログラム
US7956893B2 (en) * 2006-12-11 2011-06-07 Mavs Lab. Inc. Method of indexing last pitching shots in a video of a baseball game
JP5010292B2 (ja) 2007-01-18 2012-08-29 株式会社東芝 映像属性情報出力装置、映像要約装置、プログラムおよび映像属性情報出力方法
US9005016B2 (en) * 2008-10-24 2015-04-14 Lee Amaitis Wagering on event outcomes during the event
JP6307892B2 (ja) * 2014-01-20 2018-04-11 富士通株式会社 抽出プログラム、方法、及び装置、並びに野球映像メタ情報作成装置、方法、及びプログラム
US10674195B2 (en) * 2014-02-11 2020-06-02 Disney Enterprises, Inc. Method and system for detecting commercial breaks
JP6394184B2 (ja) * 2014-08-27 2018-09-26 富士通株式会社 判定プログラム、方法、及び装置

Also Published As

Publication number Publication date
JP2016048852A (ja) 2016-04-07
US10200764B2 (en) 2019-02-05
TW201607592A (zh) 2016-03-01
TWI579025B (zh) 2017-04-21
KR20160025474A (ko) 2016-03-08
US20160066062A1 (en) 2016-03-03
KR101701632B1 (ko) 2017-02-01

Similar Documents

Publication Publication Date Title
JP6307892B2 (ja) 抽出プログラム、方法、及び装置、並びに野球映像メタ情報作成装置、方法、及びプログラム
JP6260292B2 (ja) 情報処理プログラム、方法、及び装置、並びに野球映像メタ情報作成装置、方法、及びプログラム
JP6354229B2 (ja) 抽出プログラム、方法、及び装置
US20080269924A1 (en) Method of summarizing sports video and apparatus thereof
TWI590856B (zh) 擷取方法及裝置
JP6427902B2 (ja) 抽出プログラム、方法、及び装置
JP6394184B2 (ja) 判定プログラム、方法、及び装置
KR20090118634A (ko) 운동경기의 자동분석 시스템 및 그 방법
TWI579026B (zh) 資訊處理方法及裝置
JP2008005204A (ja) 映像区間決定装置、方法、プログラム
JP6303525B2 (ja) 抽出プログラム、方法、及び装置、並びに野球映像メタ情報作成装置、方法、及びプログラム
JP4214990B2 (ja) イベント検出方法及び装置及びプログラム
CN117178285A (zh) 信息处理装置、信息处理方法和程序

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170511

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180320

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180518

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180605

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180710

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180731

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180813

R150 Certificate of patent or registration of utility model

Ref document number: 6394184

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150