JP6922369B2 - 視点選択支援プログラム、視点選択支援方法及び視点選択支援装置 - Google Patents

視点選択支援プログラム、視点選択支援方法及び視点選択支援装置 Download PDF

Info

Publication number
JP6922369B2
JP6922369B2 JP2017080723A JP2017080723A JP6922369B2 JP 6922369 B2 JP6922369 B2 JP 6922369B2 JP 2017080723 A JP2017080723 A JP 2017080723A JP 2017080723 A JP2017080723 A JP 2017080723A JP 6922369 B2 JP6922369 B2 JP 6922369B2
Authority
JP
Japan
Prior art keywords
viewpoint
ball
player
range
selection support
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017080723A
Other languages
English (en)
Other versions
JP2018182566A (ja
Inventor
拓哉 増田
拓哉 増田
和己 久保田
和己 久保田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2017080723A priority Critical patent/JP6922369B2/ja
Priority to EP18166298.2A priority patent/EP3388119B1/en
Priority to US15/949,445 priority patent/US10681337B2/en
Publication of JP2018182566A publication Critical patent/JP2018182566A/ja
Application granted granted Critical
Publication of JP6922369B2 publication Critical patent/JP6922369B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/282Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/213Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • H04N13/117Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30221Sports video; Sports image
    • G06T2207/30224Ball; Puck
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30221Sports video; Sports image
    • G06T2207/30228Playing field

Description

本発明は、視点選択支援プログラム、視点選択支援方法及び視点選択支援装置に関する。
自由視点映像という技術が知られている。例えば、視点が異なる複数のカメラが撮像する多視点の画像から被写体の3次元情報を解析する。このような3次元情報にしたがって自由視点映像を生成することにより、自由な視点、例えば位置や方向などから被写体の映像を観察することが実現できる。
一側面として、自由視点映像は、サッカー、バスケットボールや野球などの各種のスポーツの観戦などで活用される。例えば、サッカー観戦の自由視点映像が生成される場合、フィールド、あるいはピッチと呼ばれる平面を動き回る選手やボールを自由な視点で視聴できるので、ゴールシーンやスーパープレイなどのシーンのエンターテイメント性を高めた視聴スタイルを提供できる。
特開2013−98740号公報 特開2015−187797号公報 特開2016−10145号公報
しかしながら、自由視点映像では、視点の自由度が高いが故にシーンに相応しい視点を選択するのが困難である場合がある。例えば、サッカー観戦の自由視点映像が生成される場合、ボール、ボールを持ってゴールを攻めようとする選手やそれを守ろうとする選手の動向が見所として視聴者等の関心を集める場合があるが、あらゆる視点の中から見所を視野に収める視点を選択するのは困難である。
1つの側面では、本発明は、シーンに相応しい視点を選択するのを支援できる視点選択支援プログラム、視点選択支援方法及び視点選択支援装置を提供することを目的とする。
一態様では、視点選択支援プログラムは、複数台のカメラを用いて空間の3次元の情報を取得し、前記3次元の情報をもとに任意の視点からの映像を生成する自由視点映像の視点選択支援プログラムであって、所定の期間のボールの軌跡を特定し、前記所定の期間において所定の時間以上前記ボールの位置から所定の距離以内にいる一人以上の選手を特定し、前記ボールの軌跡と前記一人以上の選手の軌跡を包含する範囲を映像出力の範囲に設定する、処理をコンピュータに実行させる。
シーンに相応しい視点を選択するのを支援できる。
図1は、実施例1に係る映像提供システムの構成例を示す図である。 図2は、実施例1に係るクライアント端末の機能的構成を示すブロック図である。 図3は、シーン情報の一例を示す図である。 図4は、トラッキング情報の一例を示す図である。 図5は、ボールの軌跡の一例を示す図である。 図6は、選手の特定方法の一例を示す図である。 図7は、選手の軌跡の一例を示す図である。 図8は、ボール及び選手の軌跡の一例を示す図である。 図9は、映像出力の範囲の一例を示す図である。 図10は、球面Rの一例を示す図である。 図11は、プリセットされる視点の一例を示す図である。 図12は、視点移動の受付方法の一例を示す図である。 図13は、実施例1に係る映像再生処理の手順を示すフローチャートである。 図14は、選手の特定の応用例を示す図である。 図15は、視点選択の応用例を示す図である。 図16は、視点選択の応用例を示す図である。 図17は、実施例1及び実施例2に係る視点選択支援プログラムを実行するコンピュータのハードウェア構成例を示す図である。
以下に添付図面を参照して本願に係る視点選択支援プログラム、視点選択支援方法及び視点選択支援装置について説明する。なお、この実施例は開示の技術を限定するものではない。そして、各実施例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
[システム構成]
図1は、実施例1に係る映像提供システムの構成例を示す図である。図1に示す映像提供システム1は、一側面として、視点が異なる複数のカメラ20が撮像する多視点画像を組み合わせることにより生成される自由視点映像を提供する映像提供サービスを行うものである。
図1に示すように、映像提供システム1には、複数のカメラ20と、サーバ装置30と、クライアント端末10A〜10Cとが含まれる。以下では、クライアント端末10A〜10Cのことを「クライアント端末10」と記載する場合がある。
これらクライアント端末10及びサーバ装置30の間は、所定のネットワークNWを介して接続される。このネットワークNWは、有線または無線を問わず、インターネット、LAN(Local Area Network)やVPN(Virtual Private Network)などの任意の種類の通信網により構築することができる。
このように、図1に示す映像提供システム1では、自由視点映像がネットワークNWを介して提供される場合を例示するが、これはあくまで映像提供形態の一例であり、クライアント端末10及びサーバ装置30の間で必ずしも双方向に通信が行われずともかまわない。例えば、ネットワークNWを経由せず、自由視点映像が放送波を介してサーバ装置30からクライアント端末10へ提供されることとしてもかまわない。
カメラ20は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を搭載する撮像装置である。
図1には、一例として、サッカー観戦におけるカメラ20の配置が示されている。例えば、サッカーのフィールドF上の実空間がサッカー観戦の自由視点映像として生成される。この場合、複数のカメラ20は、フィールドFの周囲からフィールドFの内部へ向けて配置される。このとき、複数のカメラ20の撮影範囲が組み合わさることによりフィールドFの全域が複数のカメラ20の撮影範囲に収まる配置で各カメラ20が設置される。さらに、2つ以上のカメラ20の間で共通する画像上の画素からフィールドF上に存在する被写体の3次元構造を解析するために、各カメラ20は、他のカメラ20との間で撮影範囲の一部が重複する状態で配置される。このような配置の下、複数のカメラ20がフレームごとに同期して撮影することにより、異なる視点ごとに同一のタイミングで撮影された複数の画像、すなわち多視点画像がフレーム単位で得られる。なお、フィールドFは、平面の一例に対応する。
サーバ装置30は、上記の映像提供サービスを提供するコンピュータである。
一実施形態として、サーバ装置30は、パッケージソフトウェア又はオンラインソフトウェアとして、上記の映像提供サービスを実現する映像提供プログラムを所望のコンピュータにインストールさせることによって実装できる。例えば、サーバ装置30は、上記の映像提供サービスを提供するWebサーバとして実装することとしてもよいし、アウトソーシングによって上記の映像提供サービスを提供するクラウドとして実装することとしてもかまわない。
例えば、サーバ装置30は、複数のカメラ20が撮像する多視点画像から被写体の3次元情報を解析する。これによって、サッカー観戦の自由視点映像の生成が可能となる。その上で、サーバ装置30は、自由視点映像の生成に用いる情報、例えば3次元情報および多視点画像の時系列データなどをクライアント端末10に提供する。以下では、自由視点映像の生成に用いる情報のことを「映像生成情報」と記載する場合がある。例えば、サーバ装置30は、サッカーの試合開始から試合終了に至る一試合分の映像生成情報をまるごと提供することもできるが、ゴールシーンやスーパープレイなどの一部のシーンに対応する映像生成情報を提供することができる。このように試合やシーンの自由視点映像を提供する他、サーバ装置30は、上記の3次元情報からボール、選手や審判の動きが追跡されたトラッキング情報をさらにクライアント端末10へ提供することができる。
クライアント端末10は、上記の映像提供サービスの提供を受けるコンピュータである。
一実施形態として、上記の映像提供サービスの提供を受ける視聴者により使用される任意のコンピュータがクライアント端末10に対応する。例えば、クライアント端末10は、デスクトップ型やラップトップ型のパーソナルコンピュータを始めとする固定端末の他、スマートフォンを始め、携帯電話機、PHSやPDAなどの移動体通信端末、さらには、タブレット端末などであってかまわない。なお、ここで記載する「PHS」は、「Personal Handyphone System」の略称であり、「PDA」は、「Personal Digital Assistants」の略称である。
ここで、本実施例に係るクライアント端末10には、シーンに相応しい視点を選択するのを支援する視点選択支援機能が搭載されたユーザインタフェース、いわゆるUI(User Interface)が実装される。
すなわち、自由視点映像では、視点の自由度が高いが故にシーンに相応しい視点を選択するのが困難であるという一面がある。例えば、サッカー観戦の自由視点映像が提供される場合、ボール、ボールを持ってゴールを攻めようとする選手やそれを守ろうとする選手の動向が見所として視聴者等の関心を集める場合がある。ところが、あらゆる視点の中から見所を視野に収める視点を選択するのは困難である。
そこで、本実施例に係るクライアント端末10は、シーンに対応するトラッキング情報を参照して特定されるボールの移動軌跡からボールに絡む選手を絞り込み、ボールおよび絞り込んだ選手の移動軌跡を包含する領域を関心領域として設定する。このような関心領域を視点選択の支援情報として提供することにより、自由視点の中からスポーツ観戦で関心を集める見所が視野に収まる視点の選択を支援できる。したがって、本実施例に係るクライアント端末10によれば、シーンに相応しい視点を選択するのを支援できる。
[クライアント端末10の機能的構成]
図2は、実施例1に係るクライアント端末10の機能的構成を示すブロック図である。図2には、データの入出力の関係を表す実線が示されているが、これは、説明の便宜上、最小限の部分について示されているに過ぎない。すなわち、各機能部に関するデータの入出力は、図示の例に限定されず、図示以外のデータの入出力、例えば機能部及び機能部の間、機能部及びデータの間、並びに、機能部及び外部装置の間のデータの入出力が行われることとしてもかまわない。
また、図2には、上記の視点選択支援機能に関連する機能部が抜粋して示されているに過ぎず、既存のコンピュータが有する機能部であれば、図示以外の機能部がクライアント端末10に備わることを妨げない。例えば、携帯端末装置がクライアント端末10として用いられる場合、アンテナやモーションセンサを含む各種のセンサ類、スピーカ、カメラなどのハードウェアに対応する機能部がクライアント端末10に備わってもよい。これら既存のコンピュータが有する汎用の機能部の中には図示が省略されているものもあるが、上記の視点選択支援機能を実現する上で有用である機能部は図示が省略されたとしてもクライアント端末10に備わることは妨げない。
図2に示すように、クライアント端末10は、入力部11aと、表示部11bと、通信I/F部12と、記憶部13と、制御部15とを有する。
入力部11aは、各種の指示入力を受け付ける機能部である。
例えば、デスクトップ型またはラップトップ型のコンピュータがクライアント端末10として利用される場合、キーボードやマウスなどの汎用の周辺機器が入力部11aに対応する他、上下左右の方向に稼働するジョイスティックなども入力部11aの範疇に含まれる。
表示部11bは、各種の情報を表示する機能部である。
例えば、発光により表示を実現する液晶ディスプレイや有機EL(electroluminescence)ディスプレイなどが表示部11bに対応する。このように発光により表示を実現するデバイスの他、投影により表示を実現するプロジェクタなども表示部11bに対応する。
これら入力部11a及び表示部11bは、必ずしも個別の機能部として実装されずともかまわない。例えば、携帯端末装置やタブレット端末がクライアント端末10として利用される場合、あるいはクライアント端末10で動作するオペレーティングシステムなどの基本ソフトウェアがタッチパネルのI/Oに対応する場合、入力および表示の機能が一体化されたタッチパネルなどが入力部11a及び表示部11bに対応する。
通信I/F部12は、他の装置、例えばサーバ装置30との間で通信制御を行うインタフェースである。
一実施形態として、通信I/F部11には、LANカードなどのネットワークインタフェースカードが対応する。例えば、通信I/F部11は、サーバ装置30からサーバ装置30がクライアント端末10に提供するシーンの一覧を受信したり、クライアント端末10が指定するシーンに対応する自由視点映像やそのトラッキング情報を受信したりする。また、通信I/F部11は、クライアント端末10が自由視点映像の提供をリクエストするシーンの指定をサーバ装置30へ送信する。
記憶部13は、制御部15で実行されるOS(Operating System)を始め、上記の視点選択支援機能を実現する視点選択支援プログラムなどの各種プログラムに用いられるデータを記憶する記憶デバイスである。
一実施形態として、記憶部13は、クライアント端末10における補助記憶装置として実装される。例えば、補助記憶装置には、HDD(Hard Disk Drive)、光ディスクやSSD(Solid State Drive)などが対応する。また、スマートフォンやタブレット端末などがクライアント端末10として用いられる場合、EPROM(Erasable Programmable Read Only Memory)などのフラッシュメモリが補助記憶装置に対応する。
記憶部13は、制御部15で実行されるプログラムに用いられるデータの一例として、シーン情報13aと、トラッキング情報13bと、映像生成情報13cとを記憶する。これらシーン情報13a、トラッキング情報13b及び映像生成情報13c以外にも、他の電子データを記憶することもできる。例えば、記憶部13には、上記の映像提供サービスを利用するためのアカウントや自由視点映像の視聴履歴などの情報も記憶することができる。なお、シーン情報13a、トラッキング情報13b及び映像生成情報13cは、各々の情報が制御部15の機能部により記憶部13に保存される場面の説明に合わせて後述することとする。
制御部15は、ネットワーク管理装置10の全体制御を行う処理部である。
一実施形態として、制御部15は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)などのハードウェアプロセッサにより実装することができる。ここでは、プロセッサの一例として、CPUやMPUを例示したが、汎用型および特化型を問わず、任意のプロセッサにより実装することができる。この他、制御部15は、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)などのハードワイヤードロジックによって実現されることとしてもかまわない。
制御部15は、図示しない主記憶装置として実装されるDRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)などのRAMのワークエリア上に、上記の視点選択支援機能を実現する視点選択支援プログラムを展開することにより、下記の処理部を仮想的に実現する。
制御部15は、図2に示すように、取得部15aと、指定受付部15bと、第1の特定部15cと、第2の特定部15dと、設定部15eと、映像生成部15fとを有する。
取得部15aは、サーバ装置30から各種の情報を取得する処理部である。
一側面として、取得部15aは、クライアント端末10のブラウザ上でユーザである視聴者に視聴させるシーンを指定させるために、サッカーの試合観戦におけるシーンが定義されたシーン情報13aをサーバ装置30からダウンロードする。このようにダウンロードされたシーン情報13aが記憶部13に保存される。
例えば、シーン情報13aでは、シーンtag、開始時刻tおよび終了時刻tなどの項目によりシーンが定義される。ここで言う「シーンtag」とは、シーンを識別するタグを指す。また、「開始時刻」とは、シーンtagにより識別されるシーンが始まる時刻を指す。また、「終了時刻」とは、シーンtagにより識別されるシーンが終了する時刻を指す。これら「開始時刻」及び「終了時刻」には、任意の時間表記を用いることができる。例えば、サッカーの試合経過により時間を表記する場合、試合の前半が開始された時点から経過する時間により試合前半の時刻を表記すると共に、試合の後半が開始された時点から経過する時間により試合後半の時刻を表記することができる。この他、試合時間が90分であるとしたとき、試合の前半の開始を0分とし、試合の後半の開始を45分と定めることにより、時間表記を行うこともできる。ここでは、あくまで一例として、経過時間により表記する場合を例示したが、カレンダ時刻により表記することもできる。
図3は、シーン情報13aの一例を示す図である。図3には、説明の便宜上、1つのシーンに対応するレコードが抜粋して示されているが、これはあくまで例示であり、視聴のリクエストの対象とするシーンの母集団は上記の映像提供サービスを提供する事業者が任意に決定できるのは言うまでもない。図3に示すシーン情報13aのレコードの例で言えば、試合開始の15分00秒後から15分04秒後までの期間がAチームゴールのシーンに対応することを意味する。このようなシーン情報13aは、一例として、上記の映像提供サービスの事業者が任意に定義することができる他、視聴者により定義させることもできる。
なお、図3には、シーンtag、開始時刻tおよび終了時刻tなどの項目によりシーンが定義される場合を例示したが、これ以外の項目が含まれることとしてもかまわない。例えば、シーン情報13aにサッカーの試合を識別する試合の識別情報の項目をさらに含めることができる。この場合、一例として、シーン情報13aに含まれるシーンのうち同一の試合のシーンを抜粋することができる。また、シーン情報13aにサッカーの試合が行われる日付の項目がさらに含まれる場合、例えば、シーン情報13aに含まれるシーンのうち同一の日付で行われる試合のシーンを抜粋することができる。この他、シーン情報13aに対戦カードのチームの識別情報の項目がさらに含まれる場合、例えば、シーン情報13aに含まれるシーンのうち特定のチームのシーンを抜粋することができる。
他の側面として、取得部15aは、後述の指定受付部15bによりシーンの指定が受付けられた場合、当該シーンの試合経過に対応するトラッキング情報13bおよび映像生成情報13cをサーバ装置30からダウンロードする。このようにダウンロードされたトラッキング情報13b及び映像生成情報13cが記憶部13に保存される。
これらトラッキング情報13b及び映像生成情報13cのうちトラッキング情報13bは、ボールおよび選手の位置の時系列データである。例えば、トラッキング情報13bには、時刻、ボール座標および選手座標などの項目が含まれる。ここで言う「時刻」とは、一例として、サッカーの試合経過における時刻を指す。また、「ボール座標」とは、フィールドF上に存在する被写体の3次元情報の時系列データからトラッキングされたボールのフィールドF上の座標を指す。また、「選手座標」とは、フィールドF上に存在する被写体の3次元情報の時系列データからトラッキングされた選手のフィールドF上の座標を指す。ここで言う「選手」には、2つのチームに所属する選手の両方が含まれることとしてもよいし、片方のチームに所属する選手だけが含まれることとしてもかまわない。
図4は、トラッキング情報13bの一例を示す図である。図4には、図3に示すシーンtagにより識別されるシーン「Aチームゴール」がAチーム及びBチームの対戦カードの試合の一場面であり、シーン「Aチームゴール」の試合経過に対応するボールおよび選手のトラッキング情報13bが示されている。図4に示すように、トラッキング情報13bには、ボール座標の時系列データが含まれると共に、Aチームに所属する11名の選手座標の時系列データおよびBチームに所属する11名の選手座標の時系列データが含まれる。これらボール座標及び選手座標の時系列データは、シーンの開始時刻「15:00」からシーンの終了時刻「15:04」までの期間のトラッキング結果が一例として1秒間隔で取得される。また、ボール及び選手の座標は、フィールドFの平面におけるX軸およびY軸の2次元の直交座標で表される。以下では、座標の時系列データのことを「軌跡」と記載する場合がある。
また、映像生成情報13cは、後述の指定受付部15bにより指定が受付けられたシーンに対応する自由視点映像の生成に用いる情報である。この映像生成情報13cには、一例として、フィールドF上に存在する被写体の3次元情報および多視点画像の時系列データなどが含まれる。例えば、図3に示すシーン情報13aに含まれるシーンtag「Aチームゴール」が指定されたとしたき、シーンの開始時刻「15:00」からシーンの終了時刻「15:04」までの期間の時系列データが取得される。このように取得された映像生成情報13cから、視聴者が入力部11aを介して選択する視点位置に対応する自由視点映像が生成される。
図2の説明に戻り、指定受付部15bは、シーンの指定を受け付ける処理部である。
一実施形態として、指定受付部15bは、記憶部13に記憶されたシーン情報13aに含まれるシーンの一覧を含むシーン一覧画面を表示部11bに表示させることにより、このシーン一覧画面上でシーンの指定を入力部11aを介して受け付ける。このようなシーンの一覧には、一例として、同一の日付に行われた試合のシーンを含めたり、入力部11a等を介して選択されたチームの試合のシーンを含めたりすることができる。
第1の特定部15cは、所定期間のボールの軌跡を特定する処理部である。
一実施形態として、第1の特定部15cは、指定受付部15bによりシーンの指定が受付けられた場合、取得部15aにより取得されるトラッキング情報13bのうちボール座標の時系列データを当該指定が受け付けられたシーンの期間に対応するボールの軌跡として特定する。図5は、ボールの軌跡の一例を示す図である。図5には、図4に示すトラッキング情報13bのうちボール座標の時系列データがフィールドF上にプロットされている。すなわち、図5には、試合開始の15分00秒後に対応するボール座標Pt、試合開始の15分01秒後におけるボール座標Pt、試合開始の15分02秒後におけるボール座標Pt、試合開始の15分03秒後におけるボール座標Pt、試合開始の15分04秒後におけるボール座標Ptが黒丸のマークでプロットされている。図5に示すように、シーン「Aチームゴール」では、Aチームの右サイドを攻め進めていたボールが中央のBチームゴールの右ポスト寄りに放り込まれた後、ゴールに吸い込まれる軌跡をボールが辿っていることがわかる。
第2の特定部15dは、所定の期間において所定の時間以上ボールの位置から所定の距離以内にいる一人以上の選手を特定する処理部である。
一実施形態として、第2の特定部15dは、第1の特定部15cにより特定されたボールの軌跡からボールが移動する向きまたは速度の変化が大きい変化点を抽出する。例えば、第2の特定部15dは、ボールの軌跡上でトラッキングが行われた時刻が隣接する2つのボール座標の組合せごとに、2つのボール座標間でボールが移動する方向および速度を算出する。このうち、ボールの移動方向は、一例として、XY平面上における任意の方向を基準とし、基準からの角度のずれを計算することにより求めることができる。また、ボールの速度は、2つのボール座標間の距離を2つのボール座標がトラッキングされる時間間隔で除算することにより求めることができる。
その上で、第2の特定部15dは、N(自然数)番目のボール座標の組合せから算出されたボールの移動方向がN−1番目のボール座標の組合せから算出されたボールの移動方向から変化するボールの移動方向の変化量が所定の閾値以上であるか否かを判定する。このとき、第2の特定部15dは、ボールの移動方向の変化量が所定の閾値未満である場合、N番目のボール座標の組合せから算出されたボールの移動速度がN−1番目のボール座標の組合せから算出されたボールの移動速度から変化するボールの移動速度の変化量が所定の閾値以上であるか否かをさらに判定する。
ここで、ボールの移動方向の変化量が閾値以上である場合、あるいはボールの移動速度の変化量が閾値以上である場合、N番目のボール座標の組合せと、N−1番目のボール座標の組合せとの間で重複するボール座標でボールにトラップ、パスやシュートなどの外力が加わったと判断することができる。この場合、N番目のボール座標の組合せと、N−1番目のボール座標の組合せとの間で重複するボール座標を変化点として抽出する。
このようにボールの軌跡から変化点が抽出された後、第2の特定部15dは、変化点ごとに当該変化点から所定の距離以内に存在する選手を特定する。例えば、第2の特定部15dは、トラッキング情報13bに含まれる選手座標のうち変化点がトラッキングされた時刻と同一の時刻にトラッキングされ、かつ変化点の座標から所定の距離、例えば3m以内である座標を持つ選手を特定する。その上で、第2の特定部15dは、トラッキング情報13bに含まれる選手の軌跡のうち変化点ごとに特定された選手の軌跡を特定する。
図6は、選手の特定方法の一例を示す図である。図6には、図5と同様、ボール座標の時系列データがフィールドF上に丸のマークでプロットされており、このうち、変化点のボール座標がハッチングの塗り潰しでプロットされる一方で、変化点でないボール座標が黒の塗り潰しでプロットされている。図6に示すように、試合開始の15分00秒後に対応するボール座標Pt、試合開始の15分01秒後におけるボール座標Pt、試合開始の15分02秒後におけるボール座標Pt、試合開始の15分03秒後におけるボール座標Ptおよび試合開始の15分04秒後におけるボール座標Ptのうち、センタリングが行われたボール座標Pt及びシュートが行われたボール座標Ptが変化点として第2の特定部15dにより抽出される。これらボール座標Pt及びボール座標Ptのうち、ボール座標Ptから所定の距離以内である座標Aを持つ選手Aが第2の特定部15dにより特定されると共に、ボール座標Ptから所定の距離以内である座標Aを持つ選手Aが第2の特定部15dにより特定される。
このように選手が特定された後、図7に示すように、トラッキング情報13bに含まれる選手の軌跡のうち変化点ごとに特定された選手の軌跡が第2の特定部15dにより特定される。図7は、選手の軌跡の一例を示す図である。図7に白色の塗り潰しの四角でブロットされた通り、変化点Ptから所定の距離以内に存在する選手Aの軌跡として、試合開始の15分00秒後に対応する選手Aの座標A、試合開始の15分01秒後における選手Aの座標A、試合開始の15分02秒後における選手Aの座標A、試合開始の15分03秒後における選手Aの座標Aおよび試合開始の15分04秒後における選手Aの座標Aが第2の特定部15dにより特定される。さらに、図7に黒色の塗り潰しの四角でブロットされた通り、変化点Ptから所定の距離以内に存在する選手Aの軌跡として、試合開始の15分00秒後に対応する選手Aの座標A、試合開始の15分01秒後における選手Aの座標A、試合開始の15分02秒後における選手Aの座標A、試合開始の15分03秒後における選手Aの座標Aおよび試合開始の15分04秒後における選手Aの座標Aが第2の特定部15dにより特定される。
設定部15eは、ボールの平面上の軌跡と一人以上の選手の平面上の軌跡を包含する範囲を映像出力の範囲に設定する処理部である。
一側面として、設定部15eは、第1の特定部15cにより特定されたボールのフィールドF上の軌跡および第2の特定部15dにより特定された選手のフィールドF上の軌跡を包含する範囲を映像出力の範囲に設定する。図8は、ボール及び選手の軌跡の一例を示す図である。図8には、図5に示すボールのフィールドF上の軌跡と、図7に示す選手Aおよび選手AのフィールドF上の軌跡とがプロットされている。図8に示すボールのフィールドF上の軌跡、並びに、選手Aおよび選手AのフィールドF上の軌跡を包含する図形は、図9に示す通りとなる。図9は、映像出力の範囲の一例を示す図である。図9に示すフィールドF上の範囲Eが映像出力の範囲として設定部15eにより設定される。この映像出力の範囲には、ボール、ボールを持ってゴールを攻めようとする選手やそれを守ろうとする選手の動向が収まる可能性が高いので、サッカー観戦で見所として関心を集める関心領域となる可能性が高い。
さらに、設定部15eは、上記の映像出力の範囲を包含し、映像出力の範囲の重心を中心とする最小の球面を設定する。ここでは、あくまで一例として、最小の球面を設定する場合を例示するが、最小の球面の半径よりも所定の余幅、例えばα(=5m)の分大きい球面を設定することもできる。例えば、図9に示す映像出力の範囲Eを包含し、映像出力の範囲Eの重心Gを中心とする球面Rが図10に示す通りに設定される。図10は、球面Rの一例を示す図である。図10に示すように、設定部15eは、球面R上で視点の配置をジョイスティックなどの入力部11aを介して受け付けることもできるが、図11に示すように、視点の初期配置をプリセットすることができる。図11は、プリセットされる視点の一例を示す図である。図11には、攻撃中であるAチームの進行方向の経度をゼロとし、フィールドFの平面の緯度をゼロとする球面Rの座標系が示されている。図11に示すように、視点の初期配置Vは、緯度45度および経度45度により定まる球面R上の位置にプリセットすることができる。さらに、視点の方向は、視点の初期配置Vから映像出力の範囲Eの重心Gへ向かう方向にプリセットすることができる。図12は、視点移動の受付方法の一例を示す図である。図11に示す通り、視点の初期配置Vがプリセットされた後、設定部15eは、入力部11aを介して視点の移動(選択)を受け付ける場合、図12に示すように、当該視点を球面R上で移動させる。ここでは、視点の選択について例示したが、視点の方向の変更やズームイン、ズームアウトなどの操作も入力部11aを介して行うことができるのは言うまでもない。
映像生成部15fは、自由視点映像を生成する処理部である。例えば、映像生成部15fは、映像生成情報13cの3次元情報に基づいて3次元モデルを生成した上で入力部11aから選択される視点の位置に基づいて3次元モデルに多視点画像をテクスチャマッピングし、テクスチャマッピングされた3次元モデルをレンダリングすることにより、自由視点画像を生成する。このように生成される自由視点画像が連続して表示部11bに表示されることにより、自由視点映像が再生される。
一実施形態として、映像生成部15fは、視点の初期配置Vがプリセットされた場合、記憶部13に記憶された映像生成情報13cを用いて、視点の初期配置Vおよび視点の方向に対応するシーンの開始時刻の自由視点画像をプレビューとして生成する。そして、映像生成部15fは、入力部11aを介して自由視点映像の再生指示を受け付けると、シーンの開始時刻から時間が経過する度に、新たなフレームの自由視点画像を生成する。このとき、球面R上で視点が移動された場合、映像生成部15fは、移動後の視点に対応する自由視点画像を生成する。また、視点が移動されない場合、映像生成部15fは、選択中の視点に対応する自由視点画像を生成する。このような自由視点映像の再生がシーンが終了するまで繰り返される。
[処理の流れ]
図13は、実施例1に係る映像再生処理の手順を示すフローチャートである。この処理は、一例として、シーンの指定が受付けられた場合に開始される。図13に示すように、指定受付部15bによりシーンの指定が受け付けられると(ステップS101)、取得部11aは、当該シーンの試合経過に対応するトラッキング情報13bおよび映像生成情報13cをサーバ装置30から取得する(ステップS102)。
続いて、第1の特定部15cは、ステップS102で取得されたトラッキング情報13bのうちボール座標の時系列データを当該指定が受け付けられたシーンの期間に対応するボールの軌跡として特定する(ステップS103)。
そして、第2の特定部15dは、ステップS103で特定されたボールの軌跡からボールが移動する向きまたは速度の変化が大きい変化点を抽出する(ステップS104)。その上で、第2の特定部15dは、トラッキング情報13bに含まれる選手座標のうち変化点がトラッキングされた時刻と同一の時刻にトラッキングされ、かつ変化点の座標から所定の距離以内である座標を持つ選手を特定する(ステップS105)。
続いて、第2の特定部15dは、トラッキング情報13bに含まれる選手の軌跡のうちステップS105で特定された選手の軌跡を特定する(ステップS106)。
その後、設定部15eは、ステップS103で特定されたボールのフィールドF上の軌跡およびステップS106で特定された選手のフィールドF上の軌跡を包含する範囲を映像出力の範囲に設定する(ステップS107)。続いて、設定部15eは、ステップS107で設定された映像出力の範囲を包含し、映像出力の範囲の重心を中心とする球面上に視点の初期位置をプリセットする(ステップS108)。
そして、映像生成部15fは、記憶部13に記憶された映像生成情報13cを用いて、視点の初期配置Vおよび視点の方向に対応するシーンの開始時刻の自由視点画像をプレビューとして生成する(ステップS109)。
その後、入力部11aを介して自由視点映像の再生指示を受け付けると(ステップS110)、映像生成部15fは、新たなフレームの自由視点画像を生成するタイミングで入力部11aを介して球面上で視点が変更されたか否かを判定する(ステップS111)。
このとき、球面R上で視点が変更された場合(ステップS111Yes)、映像生成部15fは、変更後の視点に対応する自由視点画像を生成する(ステップS112)。また、視点が変更されていない場合(ステップS111No)、映像生成部15fは、選択中の視点に対応する自由視点画像を生成する(ステップS113)。このようにステップS112またはステップS113で生成された自由視点画像が表示部11bに表示される(ステップS114)。
その後、シーンが終了するまで(ステップS115No)、上記のステップS111〜ステップS114までの処理が繰り返し実行される。そして、シーンが終了すると(ステップS115Yes)、映像生成部15fは、ステップS114で表示された一連の自由視点画像を自由視点映像として保存し(ステップS116)、処理を終了する。
[効果の一側面]
上述してきたように、本実施例に係るクライアント端末10は、シーンに対応するトラッキング情報を参照して特定されるボールの移動軌跡からボールに絡む選手を絞り込み、ボールおよび絞り込んだ選手の移動軌跡を包含する領域を関心領域として設定する。このような関心領域を視点選択の支援情報として提供することにより、自由視点の中からスポーツ観戦で関心を集める見所が視野に収まる視点の選択を支援できる。したがって、本実施例に係るクライアント端末10によれば、シーンに相応しい視点を選択するのを支援できる。
さて、これまで開示の装置に関する実施例について説明したが、本発明は上述した実施例以外にも、種々の異なる形態にて実施されてよいものである。そこで、以下では、本発明に含まれる他の実施例を説明する。
[選手の特定の応用例]
上記の実施例1では、変化点から所定の距離以内の座標を持つ選手を抽出する場合を例示したが、これ以外の選手をさらに抽出することもできる。例えば、ゴールシーンの場合、トラッキング情報を参照して、ゴールラインから所定の距離以内に存在する、あるいはペナルティエリア内に存在するディフェンダやゴールキーパーの選手を抽出し、抽出された選手の軌跡をさらに含めて映像出力の範囲に設定することもできる。
また、設定部15eは、ゴールに入ったときのボールの水平面の移動方向に移動方向が変化したときにボールに触れているフィニッシャの選手を特定し、フィニッシャの選手のボールに触れているよりも前の所定の時間範囲における軌跡と、時間範囲において、フィニッシャの選手と同じチームの選手で、当該同じチームの選手と所定の距離以内に位置し、ゴール前の所定の範囲にいる同じチームの選手と異なるチームの選手の移動方向と同じ方向に移動する選手の軌跡とを含む範囲を映像出力の範囲に設定する。これにより、囮の役割を果たす選手とそれに釣られたディフェンダの軌跡も映像出力の範囲に含めることができる。
例えば、攻撃側のチームの選手のうち、ボールの変化点ごとに当該変化点から時刻を遡ってボールホルダと識別される選手以外でボールホルダと最も近い位置にいる攻撃側の選手を特定する。そして、ゴールに入ったときのボールの水平面の移動方向に移動方向が変化したときにボールに触れているフィニッシャの選手以外の攻撃側の選手と、守備側の選手との軌跡を比較する。例えば、トラッキングされた時刻ごとに、攻撃側の選手の2つの座標間のベクトルと、守備側の選手の2つの座標間のベクトルとの内積から類似度を求める。このとき、類似度が所定値以上であるベクトルの組が存在する場合、攻撃側の選手および守備側の選手の軌跡をさらに含めて映像出力の範囲に設定する。
図14は、選手の特定の応用例を示す図である。図14には、ゴールシーンにおけるボール座標および選手座標が示されている。例えば、図14には、選手座標の一例として、Aチームのゴールゲッターである選手Aの座標の時系列データおよび選手AのおとりとなったAチームの選手Aの座標の時系列データと共に、Bチームのディフェンダである選手Bの座標の時系列データが示されている。図5〜図8の例では、変化点から所定の距離以内に存在する選手の軌跡、すなわちセンタリングを上げる選手Aの座標の時系列データおよびゴールゲッターである選手Aの座標の時系列データが特定される場合を例示したが、このゴールシーンでは、選手Aのおとりとなった選手Aの挙動も見所の1つであると言える。このため、おとりとなった選手Aの座標の時系列データも映像出力の範囲に含めるための処理動作をさらにクライアント端末10に組み込む場合を説明する。
図14に示す例に限らず、ゴールゲッターのおとりとして機能できた選手Aには、選手Aにつられるディフェンダが存在する可能性が高い。このため、選手Aの軌跡の特定を情報処理として実現するために、上述の処理動作が行われる。すなわち、クライアント端末10は、攻撃側のチームの選手のうち、ボールの変化点ごとに当該変化点から時刻を遡ってボールホルダと識別される選手以外でボールホルダと最も近い位置にいる攻撃側の選手を特定する処理を実行する。ここで、選手Aは、ゴールゲッターであるのと同時に、変化点であるボール座標Ptで検出されるボールホルダでもある。このため、シュートが放たれた時刻tから遡ってボールホルダである選手Aの最寄りの攻撃側の選手Aが特定される。その後、クライアント端末10は、このようにして特定した攻撃側の選手のうちゴールゲッターである選手Aを除く攻撃側の選手と、守備側の選手との軌跡を比較する処理をさらに実行する。例えば、トラッキングされた時刻ごとに攻撃側の選手の2つの座標間のベクトルと、守備側の各選手の2つの座標間のベクトルとの内積から類似度を求め、類似度が所定値以上であるベクトルの組が存在する場合、攻撃側の選手および守備側の選手の軌跡をさらに含めて映像出力の範囲が設定される。この結果、図14に示す例では、選手AにつられるBチームの選手Bのベクトルが選手Aのベクトルと類似する結果、選手Aおよび選手Bの組が抽出される。これにより、選手Aの軌跡および選手Bの軌跡を包含する領域Qをさらに含めて映像出力の範囲をさらに設定できる。
[視点の自動選択]
例えば、設定部15eは、ゴールに入ったときのボールの水平面の移動方向の逆方向の延長線上の位置に視点を配置し、視点の方向をボールの移動方向に設定し、ゴールに入ったときのボールの水平面の移動方向になるよりも前の時間帯のボールの移動軌跡に沿って、配置した位置に視点を固定した状態で視点の方向を変更することもできる。
図15及び図16は、視点選択の応用例を示す図である。例えば、球面R上で視点の初期位置をプリセットする場合、設定部15eは、図15に示すように、ゴールに入ったときのボールの軌跡Qを特定する。その上で、設定部15eは、図16に示すように、ゴールに入ったときのボールの軌跡Qの移動方向とは逆方向の延長線上の位置Vに視点を配置する。これにより、視点Vの経度は一意に定まる一方で、経度は自由に定めることができる。このため、図16には、一例として、視点Vの位置およびゴールしたボールの座標を結ぶ直線と、フィールドFの水平面とがなす角度を45度とする場合が示されている。このような視点Vの位置を選択した上で、シーンの開始時刻から終了時刻までのボール座標に視点の方向を追従させることができる。すなわち、シーンの各時刻のボール座標に向けて視点位置Vにある仮想カメラをパンさせることができる。この他、ボールの3次元の座標が得られる場合、ボールの高さに応じてチルトさせることもできる。
[分散および統合]
また、図示した各装置の各構成要素は、必ずしも物理的に図示の如く構成されておらずともよい。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、取得部15a、指定受付部15b、第1の特定部15c、第2の特定部15d、設定部15eまたは映像生成部15fをクライアント端末10の外部装置としてネットワーク経由で接続するようにしてもよい。一例として、サーバ装置30に取得部15a、指定受付部15b、第1の特定部15c、第2の特定部15d、設定部15e及び映像生成部15fを具備させ、クライアント端末10に表示機能だけを持たせることもできる。また、取得部15a、指定受付部15b、第1の特定部15c、第2の特定部15d、設定部15eまたは映像生成部15fを別の装置がそれぞれ有し、ネットワーク接続されて協働することで、上記のクライアント端末10の機能を実現するようにしてもよい。
[視点選択支援プログラム]
また、上記の実施例で説明した各種の処理は、予め用意されたプログラムをパーソナルコンピュータやワークステーションなどのコンピュータで実行することによって実現することができる。そこで、以下では、図17を用いて、上記の実施例と同様の機能を有する視点選択支援プログラムを実行するコンピュータの一例について説明する。
図17は、実施例1及び実施例2に係る視点選択支援プログラムを実行するコンピュータのハードウェア構成例を示す図である。図17に示すように、コンピュータ100は、操作部110aと、スピーカ110bと、カメラ110cと、ディスプレイ120と、通信部130とを有する。さらに、このコンピュータ100は、CPU150と、ROM160と、HDD170と、RAM180とを有する。これら110〜180の各部はバス140を介して接続される。
HDD170には、図17に示すように、上記の実施例1で示した取得部15a、指定受付部15b、第1の特定部15c、第2の特定部15d、設定部15e及び映像生成部15fと同様の機能を発揮する視点選択支援プログラム170aが記憶される。この視点選択支援プログラム170aは、図2に示した取得部15a、指定受付部15b、第1の特定部15c、第2の特定部15d、設定部15e及び映像生成部15fの各構成要素と同様、統合又は分離してもかまわない。すなわち、HDD170には、必ずしも上記の実施例1で示した全てのデータが格納されずともよく、処理に用いるデータがHDD170に格納されればよい。
このような環境の下、CPU150は、HDD170から視点選択支援プログラム170aを読み出した上でRAM180へ展開する。この結果、視点選択支援プログラム170aは、図17に示すように、視点選択支援プロセス180aとして機能する。この視点選択支援プロセス180aは、RAM180が有する記憶領域のうち視点選択支援プロセス180aに割り当てられた領域にHDD170から読み出した各種データを展開し、この展開した各種データを用いて各種の処理を実行する。例えば、視点選択支援プロセス180aが実行する処理の一例として、図13に示す処理などが含まれる。なお、CPU150では、必ずしも上記の実施例1で示した全ての処理部が動作せずともよく、実行対象とする処理に対応する処理部が仮想的に実現されればよい。
なお、上記の視点選択支援プログラム170aは、必ずしも最初からHDD170やROM160に記憶されておらずともかまわない。例えば、コンピュータ100に挿入されるフレキシブルディスク、いわゆるFD、CD−ROM、DVDディスク、光磁気ディスク、ICカードなどの「可搬用の物理媒体」に視点選択支援プログラム170aを記憶させる。そして、コンピュータ100がこれらの可搬用の物理媒体から視点選択支援プログラム170aを取得して実行するようにしてもよい。また、公衆回線、インターネット、LAN、WANなどを介してコンピュータ100に接続される他のコンピュータまたはサーバ装置などに視点選択支援プログラム170aを記憶させておき、コンピュータ100がこれらから視点選択支援プログラム170aを取得して実行するようにしてもよい。
1 映像提供システム
10 クライアント端末
11a 入力部
11b 表示部
12 通信I/F部
13 記憶部
13a シーン情報
13b トラッキング情報
13c 映像生成情報
15 制御部
15a 取得部
15b 指定受付部
15c 第1の特定部
15d 第2の特定部
15e 設定部
15f 映像生成部
20 カメラ
30 サーバ装置

Claims (6)

  1. 複数台のカメラを用いて空間の3次元の情報を取得し、前記3次元の情報をもとに任意の視点からの映像を生成する自由視点映像の視点選択支援プログラムであって、
    所定の期間のボールの軌跡を特定し、
    前記所定の期間において所定の時間以上前記ボールの位置から所定の距離以内にいる一人以上の選手を特定し、
    前記ボールの軌跡と前記一人以上の選手の軌跡を包含する映像出力の範囲を包含し、前記範囲の重心とする球面を前記自由視点映像の視点が配置される範囲に設定する、
    処理をコンピュータに実行させることを特徴とする視点選択支援プログラム。
  2. 前記設定する処理は、前記球面上への視点の配置を受け付ける画面を出力することを特徴とする請求項1に記載の視点選択支援プログラム。
  3. 前記設定する処理は、ゴールに入ったときのボールの水平面の移動方向の逆方向の延長線上の位置に視点を配置し、前記視点の方向をボールの移動方向に設定し、前記ゴールに入ったときのボールの水平面の移動方向になるよりも前の時間帯のボールの移動軌跡に沿って、配置した位置に前記視点を固定した状態で前記視点の方向を変更することを特徴とする請求項1に記載の視点選択支援プログラム。
  4. 前記設定する処理は、ゴールに入ったときのボールの水平面の移動方向に移動方向が変化したときにボールに触れている選手を特定し、前記選手のボールに触れているよりも前の所定の時間範囲における軌跡と、前記時間範囲において、前記選手と同じチームの選手で、前記選手と所定の距離以内に位置し、ゴール前の所定の範囲にいる前記選手と異なるチームの選手の移動方向と同じ方向に移動する選手の軌跡とを含む範囲を映像出力の範囲に設定することを特徴とする請求項1に記載の視点選択支援プログラム。
  5. 複数台のカメラを用いて空間の3次元の情報を取得し、前記3次元の情報をもとに任意の視点からの映像を生成する自由視点映像の視点選択支援方法であって、
    所定の期間のボールの軌跡を特定し、
    前記所定の期間において所定の時間以上前記ボールの位置から所定の距離以内にいる一人以上の選手を特定し、
    前記ボールの軌跡と前記一人以上の選手の軌跡を包含する映像出力の範囲を包含し、前記範囲の重心とする球面を前記自由視点映像の視点が配置される範囲に設定する、
    処理をコンピュータが実行することを特徴とする視点選択支援方法。
  6. 複数台のカメラを用いて空間の3次元の情報を取得し、前記3次元の情報をもとに任意の視点からの映像を生成する自由視点映像の視点選択支援装置であって、
    所定の期間のボールの軌跡を特定する第1の特定部と、
    前記所定の期間において所定の時間以上前記ボールの位置から所定の距離以内にいる一人以上の選手を特定する第2の特定部と、
    前記ボールの軌跡と前記一人以上の選手の軌跡を包含する映像出力の範囲を包含し、前記範囲の重心とする球面を前記自由視点映像の視点が配置される範囲に設定する設定部と、
    を有することを特徴とする視点選択支援装置。
JP2017080723A 2017-04-14 2017-04-14 視点選択支援プログラム、視点選択支援方法及び視点選択支援装置 Active JP6922369B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017080723A JP6922369B2 (ja) 2017-04-14 2017-04-14 視点選択支援プログラム、視点選択支援方法及び視点選択支援装置
EP18166298.2A EP3388119B1 (en) 2017-04-14 2018-04-09 Method, apparatus, and non-transitory computer-readable storage medium for view point selection assistance in free viewpoint video generation
US15/949,445 US10681337B2 (en) 2017-04-14 2018-04-10 Method, apparatus, and non-transitory computer-readable storage medium for view point selection assistance in free viewpoint video generation

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017080723A JP6922369B2 (ja) 2017-04-14 2017-04-14 視点選択支援プログラム、視点選択支援方法及び視点選択支援装置

Publications (2)

Publication Number Publication Date
JP2018182566A JP2018182566A (ja) 2018-11-15
JP6922369B2 true JP6922369B2 (ja) 2021-08-18

Family

ID=61913086

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017080723A Active JP6922369B2 (ja) 2017-04-14 2017-04-14 視点選択支援プログラム、視点選択支援方法及び視点選択支援装置

Country Status (3)

Country Link
US (1) US10681337B2 (ja)
EP (1) EP3388119B1 (ja)
JP (1) JP6922369B2 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016046642A (ja) * 2014-08-21 2016-04-04 キヤノン株式会社 情報処理システム、情報処理方法及びプログラム
JP2019102907A (ja) * 2017-11-30 2019-06-24 キヤノン株式会社 設定装置、設定方法、及びプログラム
JP2019197340A (ja) * 2018-05-09 2019-11-14 キヤノン株式会社 情報処理装置、情報処理方法、及び、プログラム
JP2020086983A (ja) * 2018-11-27 2020-06-04 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP2020095465A (ja) * 2018-12-12 2020-06-18 ソニー株式会社 画像処理装置、画像処理方法、及び、プログラム
JP2022028091A (ja) * 2018-12-19 2022-02-15 ソニーグループ株式会社 画像処理装置、画像処理方法、及び、プログラム
JP2022051978A (ja) * 2019-02-15 2022-04-04 ソニーグループ株式会社 画像処理装置、画像処理方法、及び、プログラム
US11057609B2 (en) * 2019-02-27 2021-07-06 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and computer readable storage medium for determining a moving path of virtual viewpoint
JP7314605B2 (ja) * 2019-04-26 2023-07-26 富士通株式会社 表示制御装置、表示制御方法及び表示制御プログラム
JP7384008B2 (ja) * 2019-11-29 2023-11-21 富士通株式会社 映像生成プログラム、映像生成方法及び映像生成システム
WO2021162305A1 (ko) * 2020-02-15 2021-08-19 김지훈 스포츠 동영상 기반 플랫폼 서비스를 제공하는 서버의 동작 방법
US11652959B2 (en) 2020-05-12 2023-05-16 True Meeting Inc. Generating a 3D visual representation of the 3D object using a neural network selected out of multiple neural networks
US20220053168A1 (en) 2020-05-12 2022-02-17 True Meeting Inc. Method and system for virtual 3d communications having multiple participants per camera
US11870939B2 (en) 2020-05-12 2024-01-09 True Meeting Inc. Audio quality improvement related to a participant of a virtual three dimensional (3D) video conference
US11805157B2 (en) 2020-05-12 2023-10-31 True Meeting Inc. Sharing content during a virtual 3D video conference
US11790535B2 (en) 2020-05-12 2023-10-17 True Meeting Inc. Foreground and background segmentation related to a virtual three-dimensional (3D) video conference
CN111836037A (zh) * 2020-07-13 2020-10-27 紫旸升光电科技(苏州)有限公司 一种微型显示器3d自动调适影像显示系统及方法
WO2022026693A1 (en) * 2020-07-29 2022-02-03 Teqball Holding S.À.R.L. Methods and systems for performing object detection and object/user interaction to assess user performance
US11765332B2 (en) 2021-03-02 2023-09-19 True Meeting Inc. Virtual 3D communications with participant viewpoint adjustment
KR102523493B1 (ko) * 2021-04-09 2023-04-19 주식회사 오썸피아 가상 카메라 머신을 이용한 콘텐츠 제공 시스템 및 방법
JP2022182119A (ja) * 2021-05-27 2022-12-08 キヤノン株式会社 画像処理装置およびその制御方法、プログラム
CN113876311B (zh) * 2021-09-02 2023-09-15 天津大学 一种自适应选择的非接触式多球员心率高效提取装置

Family Cites Families (49)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6411725B1 (en) * 1995-07-27 2002-06-25 Digimarc Corporation Watermark enabled video objects
GB9706839D0 (en) * 1997-04-04 1997-05-21 Orad Hi Tec Systems Ltd Graphical video systems
US6707487B1 (en) * 1998-11-20 2004-03-16 In The Play, Inc. Method for representing real-time motion
WO2008033338A2 (en) * 2006-09-11 2008-03-20 Aman James A System and methods for translating sports tracking data into statistics and performance measurements
US8965898B2 (en) * 1998-11-20 2015-02-24 Intheplay, Inc. Optimizations for live event, real-time, 3D object tracking
US7483049B2 (en) * 1998-11-20 2009-01-27 Aman James A Optimizations for live event, real-time, 3D object tracking
US7084888B2 (en) * 2001-08-09 2006-08-01 Konami Corporation Orientation detection marker, orientation detection device and video game device
US6950123B2 (en) * 2002-03-22 2005-09-27 Intel Corporation Method for simultaneous visual tracking of multiple bodies in a closed structured environment
US6710713B1 (en) * 2002-05-17 2004-03-23 Tom Russo Method and apparatus for evaluating athletes in competition
GB2400513B (en) * 2003-03-14 2005-10-05 British Broadcasting Corp Video processing
US7620466B2 (en) * 2004-02-23 2009-11-17 Wellspring Software Sporting event statistics tracking and computation system and method
US20080192116A1 (en) * 2005-03-29 2008-08-14 Sportvu Ltd. Real-Time Objects Tracking and Motion Capture in Sports Events
US20070135243A1 (en) * 2005-12-12 2007-06-14 Larue Michael B Active sports tracker and method
EP2479991A3 (en) * 2006-12-04 2014-01-08 Lynx System Developers, Inc. Autonomous systems and methods for still and moving picture production
US20080140233A1 (en) * 2006-12-12 2008-06-12 International Business Machines Corporation Determining team effectiveness through sporting events
US20090111582A1 (en) * 2007-10-31 2009-04-30 Motorola, Inc. Method and Apparatus for Tracking Sports Play
US8736669B2 (en) * 2007-12-27 2014-05-27 Sterrix Technologies Ug Method and device for real-time multi-view production
US8279051B2 (en) * 2008-04-14 2012-10-02 Naser Mohammed Khan Realtime coaching system
US20100030350A1 (en) * 2008-07-29 2010-02-04 Pvi Virtual Media Services, Llc System and Method for Analyzing Data From Athletic Events
US8051081B2 (en) * 2008-08-15 2011-11-01 At&T Intellectual Property I, L.P. System and method for generating media bookmarks
JP4591586B2 (ja) * 2008-09-22 2010-12-01 ソニー株式会社 表示制御装置、表示制御方法、およびプログラム
US8231506B2 (en) * 2008-12-05 2012-07-31 Nike, Inc. Athletic performance monitoring systems and methods in a team sports environment
JP5249114B2 (ja) * 2009-04-03 2013-07-31 Kddi株式会社 画像生成装置、方法及びプログラム
US8289185B2 (en) * 2009-05-05 2012-10-16 Advanced Technologies Group, LLC Sports telemetry system for collecting performance metrics and data
GB0907870D0 (en) * 2009-05-07 2009-06-24 Univ Catholique Louvain Systems and methods for the autonomous production of videos from multi-sensored data
US20110071792A1 (en) * 2009-08-26 2011-03-24 Cameron Miner Creating and viewing multimedia content from data of an individual's performance in a physical activity
AU2010286316B2 (en) * 2009-08-31 2016-05-19 Trace Optics Pty Ltd A method and apparatus for relative control of multiple cameras
US8659663B2 (en) * 2010-12-22 2014-02-25 Sportvision, Inc. Video tracking of baseball players to determine the start and end of a half-inning
GB2489675A (en) * 2011-03-29 2012-10-10 Sony Corp Generating and viewing video highlights with field of view (FOV) information
GB2489454A (en) * 2011-03-29 2012-10-03 Sony Corp A method of annotating objects in a displayed image
US20120271440A1 (en) * 2011-04-19 2012-10-25 Performance International Rennul Ab System For Acquiring and Processing Data Pertaining to a Shot of an Object, Such As A Puck or a Ball, On A Goal on a Playing Field
JP2013098740A (ja) 2011-10-31 2013-05-20 Canon Inc 画像処理装置及びその制御方法
US9202526B2 (en) * 2012-05-14 2015-12-01 Sstatzz Oy System and method for viewing videos and statistics of sports events
US9846960B2 (en) * 2012-05-31 2017-12-19 Microsoft Technology Licensing, Llc Automated camera array calibration
US20130321564A1 (en) * 2012-05-31 2013-12-05 Microsoft Corporation Perspective-correct communication window with motion parallax
CN103959802B (zh) * 2012-08-10 2018-01-26 松下电器(美国)知识产权公司 影像提供方法、发送装置以及接收装置
EP2724763A1 (en) * 2012-10-25 2014-04-30 Sstatzz Oy System and method for viewing videos and statistics of sports events
JP2015187797A (ja) 2014-03-27 2015-10-29 シャープ株式会社 画像データ生成装置および画像データ再生装置
EP3133819A1 (en) * 2014-04-14 2017-02-22 Panasonic Intellectual Property Management Co., Ltd. Image delivery method, image reception method, server, terminal apparatus, and image delivery system
JP6607433B2 (ja) 2014-06-23 2019-11-20 パナソニックIpマネジメント株式会社 映像配信方法及びサーバ
WO2017131071A1 (ja) * 2016-01-28 2017-08-03 日本電信電話株式会社 仮想環境構築装置、映像提示装置、モデル学習装置、最適奥行き決定装置、それらの方法、およびプログラム
CN109661812B (zh) * 2016-09-01 2021-04-02 松下知识产权经营株式会社 多视点摄像系统、三维空间重构系统及三维空间识别系统
CN110036644A (zh) * 2016-11-30 2019-07-19 松下电器(美国)知识产权公司 三维模型分发方法以及三维模型分发装置
WO2018123801A1 (ja) * 2016-12-28 2018-07-05 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元モデル配信方法、三次元モデル受信方法、三次元モデル配信装置及び三次元モデル受信装置
JP7203356B2 (ja) * 2017-03-31 2023-01-13 パナソニックIpマネジメント株式会社 撮像システム
JP7122694B2 (ja) * 2017-03-31 2022-08-22 パナソニックIpマネジメント株式会社 撮像システムおよび校正方法
WO2018199052A1 (ja) * 2017-04-25 2018-11-01 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 画像表示方法及び画像表示装置
JP7081142B2 (ja) * 2017-12-26 2022-06-07 富士通株式会社 情報処理装置、情報処理方法、及びプログラム
JP2019191915A (ja) * 2018-04-25 2019-10-31 キヤノン株式会社 映像生成装置、映像生成装置の制御方法及びプログラム

Also Published As

Publication number Publication date
EP3388119A2 (en) 2018-10-17
US20180302610A1 (en) 2018-10-18
US10681337B2 (en) 2020-06-09
EP3388119A3 (en) 2018-11-28
EP3388119B1 (en) 2020-06-24
JP2018182566A (ja) 2018-11-15

Similar Documents

Publication Publication Date Title
JP6922369B2 (ja) 視点選択支援プログラム、視点選択支援方法及び視点選択支援装置
US10810791B2 (en) Methods and systems for distinguishing objects in a natural setting to create an individually-manipulable volumetric model of an object
US10819967B2 (en) Methods and systems for creating a volumetric representation of a real-world event
JP6674247B2 (ja) 情報処理装置、情報処理方法、およびコンピュータプログラム
CN105209137B (zh) 远程游戏环境中玩家移动的客户端侧处理
US8957858B2 (en) Multi-platform motion-based computer interactions
CN106412711B (zh) 弹幕控制方法及装置
US11257282B2 (en) Methods and apparatus to detect collision of a virtual camera with objects in three-dimensional volumetric model
US11305191B2 (en) Systems and methods for controlling camera perspectives, movements, and displays of video game gameplay
CN107665231A (zh) 定位方法和系统
US11521346B2 (en) Image processing apparatus, image processing method, and storage medium
WO2020050103A1 (ja) 仮想視点の制御装置及びその制御方法
US11831853B2 (en) Information processing apparatus, information processing method, and storage medium
US20190381355A1 (en) Sport range simulator
CN117425870A (zh) 虚拟现实中的动态混合现实内容
CN110891168A (zh) 信息处理装置、信息处理方法和存储介质
KR20230053719A (ko) 멀티플레이어 게임에서 장거리 객체의 타겟팅 개선
CN114584681A (zh) 目标对象的运动展示方法、装置、电子设备及存储介质
US11745106B2 (en) Method and system for controlling movement of ball in sports game
US20200014901A1 (en) Information processing apparatus, control method therefor and computer-readable medium
JP6018285B1 (ja) 野球ゲームプログラム及びコンピュータ
US20230191259A1 (en) System and Method for Using Room-Scale Virtual Sets to Design Video Games
JP2017099853A (ja) 野球ゲームプログラム及びコンピュータ
KR20230149683A (ko) 가상 환경 기반의 시뮬레이션 시스템
WO2022190085A1 (en) Systems and methods of providing virtual activities

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201023

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210629

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210712

R150 Certificate of patent or registration of utility model

Ref document number: 6922369

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150