JP2017513385A - 自動的にテレビ番組を制作する方法及びシステム - Google Patents

自動的にテレビ番組を制作する方法及びシステム Download PDF

Info

Publication number
JP2017513385A
JP2017513385A JP2016559211A JP2016559211A JP2017513385A JP 2017513385 A JP2017513385 A JP 2017513385A JP 2016559211 A JP2016559211 A JP 2016559211A JP 2016559211 A JP2016559211 A JP 2016559211A JP 2017513385 A JP2017513385 A JP 2017513385A
Authority
JP
Japan
Prior art keywords
stream
frame
video
scene
television program
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016559211A
Other languages
English (en)
Other versions
JP7123523B2 (ja
Inventor
タミア,ミキィ
オズ,ガル
リッドニク,タル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pixellot Ltd
Original Assignee
Pixellot Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pixellot Ltd filed Critical Pixellot Ltd
Publication of JP2017513385A publication Critical patent/JP2017513385A/ja
Application granted granted Critical
Publication of JP7123523B2 publication Critical patent/JP7123523B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/036Insert-editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/2187Live feed
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/04Synchronising
    • H04N5/06Generation of synchronising signals
    • H04N5/067Arrangements or circuits at the transmitter end
    • H04N5/073Arrangements or circuits at the transmitter end for mutually locking plural sources of synchronising signals, e.g. studios or relay stations
    • H04N5/0733Arrangements or circuits at the transmitter end for mutually locking plural sources of synchronising signals, e.g. studios or relay stations for distributing synchronisation pulses to different TV cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Studio Devices (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

【課題】【解決手段】シーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法が提供される。この方法は、シーンのパノラマビューを取り込むために、いくつかのビデオカメラからシーンのビデオイメージのストリームを受信すること、いくつかのフレームストリームの定義を許可するために、ビデオイメージのストリームを分析すること、相応のフレームストリームの位置データを特定すること、及び、シーンのパノラマビューの各部を映像化するイメージがあるアクティブフレームストリームをレンダリングすることを含む。この方法は、イメージフレームのストリームの放送に送信することも含み、このイメージフレームはパノラマビューの各部をイメージ化するものである。ビデオイメージのストリームを分析するステップは、プレイオブジェクトを特定すること、プレイオブジェクトを追跡すること、及び選手を特定することを含む。この方法は、競技場内のポイントを使用してカメラを校正することも含む。この方法は、アクティブフレームストリームと異なるフレームストリームの間の切替のために、シーンのイベントを特定するようにビデオイメージのストリームを分析することを含むことができ、また、この方法は、指向されるセンサーがアクティブフレームストリームの位置データに従って、関心領域に向けられることを含むことができる。

Description

関連出願の相互参照
本出願は2014年4月3日に出願された「自動的にテレビ番組を制作する方法及びシステム」と題する米国仮特許出願第61/974400号に関連し、それの優先権を主張するものであり、また、その開示の全体は、参照により本明細書に組み込まれるものである。
発明の背景
本明細書に開示した課題は、自動的に屋外テレビ番組を制作する方法及びシステムに関し、特に、本開示はスポーツイベントのテレビ番組制作に関連するものである。
関連技術の説明
テレビが対象とするスポーツは、かつては対象とされなかったようなスポーツイベントに広がりつつある。従来のテレビ番組制作は、フィールドにあるいくつかのカメラに基づき、数人のカメラマン及び一人のディレクターによって行われており、このディレクターは視聴するために常に一つのカメラを選ぶ。しかし、このような大勢のスタッフと複数のカメラによる完全現場制作は経費がかかりすぎるので、高品質の番組を作ることができない。一方、家にいる視聴者はイベントの一部のリプレイを含む包括的なテレビ報道を期待している。制作コストは、制作に関わるいくつか又は全ての手動プロセス に代わる自動プロセスにより、低減することができる。
本発明は、フィールドの中またはその近くに設置されるサーバにより、完全にカメラの自動操作によるものである。いくつかのカメラは競技場のパノラマビュービューを取り込む。サーバは取り込まれたイメージを使用し、仮想カメラを操作し、これにより、例えば、メインカメラ「カメラ1」は、カメラマンの代わりになる。サーバも仮想カメラの間で切り替わる。さらに、サーバは指向されるセンサーを使用し、この指向されるセンサーは、そのフィールドにも設置されるものである。
本発明ではビデオシーンを生成するために、コンピュータ実行型の方法を提供する。この方法は、いくつかのビデオカメラ及びシーンのビデオイメージのストリームから受信することを含み、これはシーンのパノラマビューを取り込むため、ビデオイメージのストリームを分析するため、及び、その分析に従ってフレームストリームの位置データを特定するためのものである。この方法は、位置データに基づき、イメージを含む一つ以上のフレームストリームのアクティブフレームストリームをレンダリングすることも含み、ここで、イメージはシーンのパノラマビューの一部に対応するものである。その結果、この方法により、イメージフレームのレンダリングされたストリームの放送に送信することを可能にし、このイメージフレームはパノラマビューの各部に対応するものである。イメージを分析するステップは、ビデオイメージのストリームで第1物体を特定し、第1物体を追跡し、第1物体に関連する少なくとも一つの第2物体を特定することを含む。
いくつかの実施例では、前記方法は競技場内のポイントを使用してカメラを校正することを含む。ポイントの例は、競技場のコーナー、二つのフィールドラインの交差する箇所、11mのペナルティキックポイント、及びビーコンポイントであり、これらは競技場で設置され、また測定装置及びベンチ関連のポイントによって特定された位置を有するものである。
いくつかの実施例では、パラメータのセットは、位置、デジタルズーミング及び時間に関連するパラメータによりフレームストリームを定義する。位置パラメータは、左側角、右側角、底角、頂角、中心角度座標、中心位置座標、アスペクト比及びフレーム幅を含むものである。ズーミングパラメータは固定ズームパラメータ、タイムスタンプ上のズームパラメータに対する依存度を定義する方程式のパラメータ、及び、ズームパラメータ対タイムスタンプのテーブルである。時間パラメータは、現在の時間フラグ、最初のタイムスタンプ、最終のタイムスタンプ、フレームレート及び解像度パラメータを含む。好ましくは、フレーム幅は例えば、所定幅、フレーム中の選手の所定数、競技場の境界を超えることに関連する禁止フラグ、フレームの主要な静的物体を含むことに関連するデマンドフラグにより決定される。
いくつかの実施例では、この方法は、プレイオブジェクトを失うとプレイオブジェクトを占める領域を推定すること、及びその領域を含ませるようにフレームストリームを変更することを含む。
いくつかの実施例では、前記方法は、ある時間で、ある位置にプレイオブジェクトのアイデンティフィケーションをバリデーションすることを含み、これは、ある時間前にプレイオブジェクトの軌道を考慮して、プレイオブジェクト存在の確率を推測することによるものである。
いくつかの実施例では、前記方法は、プレイオブジェクトの位置、及び多数の選手位置の中心などの変数に従って、フレームセンターを特定することを含む。
いくつかの実施例では、前記方法は、プレイオブジェクトの軌道をスムージングすること、スムージングされたプレイオブジェクトの軌道に従ってセンターフレームを特定することを含み、これにより、フレームセンターの軌道の突然の動きを防止することができる。
いくつかの実施例では、前記方法は、バスケットボール試合のファストブレーク(速攻)を特定すること、ボールのスピードを推定すること、及びボールのスピードに応じて選手団をブロックするためのフレームの位置を選択することを含む。ファストブレーク(速攻)の前側ではファーストボールの場合が選択され、一方、その後側ではスローボールの場合が選択される。
いくつかの実施例では、フレームは選手の所定部分を長方形でブロックすることにより特定される。
また、本発明では、一つの方法を提供しており、この方法は、シーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのためのものである。この方法は、シーンのパノラマビューを取り込むために、いくつかのカメラからシーンのビデオイメージのストリームを受信すること、いくつかの各フレームストリームを定義するいくつかのパラメータのセットを提供すること、及び、所定ルールに従った最初のアクティブフレームストリームを選択することを含む。この方法は、イメージによりアクティブフレームストリームをレンダリングすることをさらに含み、ここで、イメージは選択されたフレームストリームの各パラメータのセットに従ったシーンのパノラマビューの各部分に対応する。このようにして、この方法では、パノラマビューの各部分に対応するイメージフレームのレンダリングされたストリームを放送するために送信することが可能となる。この方法は、アクティブフレームストリームと異なるフレームストリームの間の切替のために、シーンのイベントを特定するためのビデオイメージのストリームを分析すること、及び、アクティブフレームストリームを異なるフレームストリームに代えさせることをさらに含む。
いくつかの実施例では、多くの場合、全てのフレームストリームは、アクティブフレームストリームに干渉せず、レンダリングされたイメージを有しないものである。
イベントの例は、試合開始、試合終了、試合の休憩、タイムアウトの開始、タイムアウトの終了、11メータペナルティキック、休憩終了、オフサイド、コーナーキック、フリーキック、及びスローインである。このイベントは、発生しているイベント又は発生すると予想されるイベントである。
いくつかの実施例では、各複数のフレームストリームは、各ビューに関連する。ビューの例は、広いプレイオブジェクトビュー、狭いプレイオブジェクトビュー、二つの固定されたゲートのビュー、二つの固定されたバスケットのビュー、いくつかの固定された観客のビュー、いくつかのリプレイのビュー、及び移動カメラのビューである。好ましくは、広いプレイオブジェクトビューに関連するフレームストリームの狭いプレイオブジェクトビューに関連するフレームストリームへの切替は、少なくとも一つの所定時期で、プレイオブジェクトのスピードが所定値を下回るスピードに落ちることでトリガーされる。この切替は、静的プレイオブジェクトのイベントによってもトリガーされることができ、この静的プレイオブジェクトは、特定されたゲーム状況を待っているものである。
いくつかの実施例では、この方法は、特定のドラマティックなイベントのリプレイを表示するために、リプレイフレームストリームに切替えることを含む。
さらに、本発明は、コンピュータ化されたサーバのための方法を提供するものであり、このコンピュータ化されたサーバは、指向されるセンサーによってより質が高められたシーンにおけるスポーツ試合のテレビ番組を自主的に制作するものである。この方法は、シーンのパノラマビューを取り込むために、いくつかのビデオカメラからシーンのビデオイメージのストリームを受信すること、及び、所定ルール及びビデオイメージのストリームに対する分析に従って、位置データによるいくつかのフレームストリームを定義することを含む。この方法は、所定手順及びビデオイメージのストリームに対する分析に従って、アクティブフレームを選択すること、及びアクティブフレームストリームの位置データに従って、指向されるセンサーを関心領域に向けさせることをさらに含む。
いくつかの実施例では、この方法は、シーンのパノラマビューの各部に対応するイメージでアクティブフレームストリームをレンダリングすること、イメージフレームのレンダリングされたストリームの放送に送信すること、をさらに含む。
いくつかの実施例では、この方法は、フレームストリームの定義を許可するために、ビデオイメージのストリームを分析することを含む。
いくつかの実施例では、事前に定義した基準に従って、ビデオイメージのストリームを分析すること、シーンで発生した状況を特徴付けること、基準によって特徴的なものとして関心領域で発生した状況を特定すること、及び、指向されるセンサーに関連する操作をトリガーすること、を含む。操作の例は、指向されるセンサーを使用して信号を取り込むこと、及び、取り込まれた信号を放送することである。
いくつかの実施例では、この方法は、位置データに従って、PTZビデオカメラを関心領域に向けさせることを許容するために、シーンに関するパン‐チルト‐ズーム(PTZ)ビデオカメラを校正することを含む。好ましくは、この方法は、シーンにおける二つ以上のポイントに焦点をあてる際に、PTZカメラのパンと傾斜角を校正することを含む。好ましくは、この方法は、それのビデオ信号を取り込むために、PTZビデオカメラを関心領域に向けさせることを含む。
いくつかの実施例では、この方法は、指向性マイクロホンを関心領域に向けること、及び、その生成したオーディオ信号を記録することを含む。好ましくは、この方法は、その生成したオーディオ信号を選択することをさらに含み、これはアクティブフレームストリームに関連するイメージの放送ストリームのオーディオ信号として放送するためである。
本発明と見なされる主題は、明細書の末尾に具体的に指摘し、明確に主張されている。しかし、本発明のシステム構成および運用方法の両者における上述の特徴と利点は、以下の詳細な説明と添付図面とを参照することによって最もよく明らかになる。
は、自動的にテレビ番組を制作するシステムのブロック線図である。 は、自動的にテレビ番組を制作するために、イメージ及びオーディオ信号を取り込むいくつかのセンサーを備えるサッカー競技場を示す図である。 は、自動的にテレビ番組を制作する方法のフローチャートである。 は、自動的にテレビ番組を制作する方法におけるオブジェクトステップのフローチャートである。 は、自動テレビ番組制作におけるフレームストリーム間の自動切替の方法のフローチャートである。 は、指向されるセンサーによる自動テレビ番組制作の質を高める方法のフローチャートである。
次に、本発明を具体的な実施形態例により説明する。本発明は開示された実施形態例に限定されないことを理解すべきである。添付請求項のいずれかで請求された本発明を実施するには、本方法とシステムの特徴のすべてが必要となるわけではないことを理解すべきである。本発明を完全に有効にするために装置の様々な要素と特徴を説明する。本開示全体を通じて、1つの方法が開示または記述される場合は、ある段階を最初に実行してからでなければ他の段階を実行できないことが文脈から明らかでない限り、その方法の各段階がいかなる順番によっても、または同時に実施できることを理解すべきである。
本発明の複数の実施形態を詳細に説明する前に、本発明の出願は、以下の文章や図面で説明する詳細構造および構成要素に限定されないことを理解すべきである。本発明は他の実施形態が可能で、様々な方法で実施または実行できる。また、本明細書で使用する表現と用語は説明を目的とするもので、限定することを目的とするものではないことを理解すべきである。
他の定義がなければ、本明細書で使用するすべての技術および科学用語は当該発明が属する技術分野において通常の知識を有する者が一般に理解しているものと同じ意味を有する。本明細書記載のシステム、方法および例は、単に例示を目的とするものであり、限定することを目的とするものではない。
本発明の説明とクレームにおいて、「備える」、「含む」および「有する」という動詞およびその活用形は、動詞の単数または複数の目的語が必ずしも動詞の単数または複数の主語の部材、構成要素、要素または部品すべてを列挙するものではないことを示すために使用される。
定義
field of view(視野)という用語は、以下FOVといい、region of interest(関心領域)という用語は本開示の全体を通じて用いられ、制作したテレビ番組の視聴者のために、潜在的に関心のあるシーンの所望領域のことをいう。
panoramic view(パノラマビュー)という用語は、広角の視野であり、競技場及び観客の全体のシーンを含む。
frame(フレーム)という用語は、長方形であり、パノラマビューの一部として、放送するための所望の関心領域を定義する。
frame stream(フレームストリーム)という用語は、データレコードであり、ある限定されるまたは無制限の持続時間における、パノラマビューの固定部分や可変部分の位置データと時間テータを定義する。フレームストリームは、放送また活動していない時には、通常はイメージが空である。従って、フレームストリームを保存するコンピュータメモリのサイズは、アクティブフレームの各イメージのストリームと比較して小さいものである。
image stream(イメージストリーム)は一つ以上の現実のカメラまたは仮想カメラによって提供される。
virtual camera(仮想カメラ)はフレームストリームであって、アクチベーションにより、パノラマビューの一部のイメージでレンダリングされるものである。
本発明は、「低コストでテレビ番組を制作する方法及びシステム」と題される国際特許公開第WO2014/191990号に記載した遠隔プロキシビデオの制作に関する発明に相補的であり、その全体の開示を参照することにより本明細書に組み込んでいるものである。
図1aでは低コストの自動テレビ番組制作システム100が説明されており、会場105中の一つのデータサーバ115、スポーツゲームの競技場のパノラマビューを取り込むいくつかのセンサー、及びテレビ番組制作を放送する設備を含む。以下では、例えばメインカメラ「カメラ1」である仮想カメラを操作する自動的な方法が説明され、これにより、カメラマンに代わることができる。次に、仮想カメラ間の切替えの自動的な方法が概説される。最後に、指向されるセンサーを使用して自動テレビ番組制作のより質が高められた方法が説明される。
仮想カメラの自動的な操作(図1a、1b、2a、2b)
自動的にテレビ番組を制作するシステムは、図1aの会場100と図1bのシーン155で示されている。シーン155では、三つの固定カメラ110、111、112は、選択された位置のパノラマビュー131を取り込むために結合され、ここで選択された位置は、例えば、サッカー競技場160などの競技場である。さらに、パン‐チルト‐ズーム(以下、PTZという)カメラ115を競技場内の関心領域(ROI)に向けることができ、ROI180は、例えば、異なる方向からのものである。従って、PTZカメラ115は、競技場で発生したイベントのリアルなクローズアップを提供することができる。また、指向されるマイクロホン117は、競技場内のROIに位置合わせることができ、図1bの例のROI180は、例えば選手176と178の叫び声などが生成するオーディオ信号を取り込む。
カメラ110、111、112は、連動するフレームである。各カメラは、シーン155のゾーンのビデオイメージを取り込んでいる。各カメラはゾーンを完全に対象とするためにレンズが調整される。オプションとして、様々な焦点距離のあるレンズ、及び、横方向及び縦方向の異なるピクセル数とサイズのあるカメラによる会場を最適にカバーする方法が、シミュレーション技術をパッキングすることで利用されることができる。通常、隣接する(付近の)カメラは、オーバーラップするカバーゾーンを有する。
カメラ110、111、112はCMOS(相補型金属酸化膜半導体)またはCCD(半導体電荷結合素子)カメラとすることができる。各カメラは、単独又は、三つなどの複数のイメージャにより構成されることができる。好ましくは、カメラは産業用のグレードである。カメラのデータ出力フォーマットは、GigE、USB3.0、カメラリンク、HD‐SDIまたは、このようなカメラにとって利用可能な全ての他のフォーマットとすることができる。
単独の広角カメラ111は、シーンを取り込む唯一のセンサーであるが、パノラマビューを提供することができる。
図1aに示されるように、センサー110‐112、116及び117は、会場サーバ115のセンサーインタフェイス120と通信しており、出力フォーマッティングモジュール135により、順番に放送施設142またはウェブ放送施設145に送信する。カメラ110‐112からデータサーバ115までのデータ送信は、光ケーブル又は全ての他の有線または無線の通信システムによって行われることができる。好ましい実施形態では、カメラ110‐112はGigE出力、及び光ファイバケーブルのあるネットワークスイッチを有し、この光ファイバケーブルは、データをデータサーバ115に転送するために使用されるものである。カメラデータは、ワールドワイドウェブを使用して転送されることもできる。
会場サーバ115は以下のモジュールを含む。
センサーインターフェース120であって、カメラデータを入手して初期処理をするセンサーインターフェースである。この初期処理は、カメラに対する測光及び幾何学的校正、イメージ変換及び、ハイパスフィルタリングと色補正 などのイメージ強調プロセスにより構成されることができる。好ましくは、測光校正プロセスは、試合中に頻繁に繰り返される。通常、数秒毎に繰り返されるが、原則として、各フレームで行われる、又は、試合全体において全く行われないこともできる。このような初期処理もカメラ110‐112により行われる、又は、アクティブフレームフィリングモジュール130で行われることができる。
イメージレコーダ122であって、センサーインターフェース120によって得られたデータの少なくとも一部を保存するイメージレコーダである。レコーダ122は、ハードディスク、フラッシュメモリモジュール又は、大量高速データ保存のための全ての他の手段により構成される。レコーダ122は、ライブの制作、リプレイ、ポストプロダクション及び他のアプリケーションのためのデータを保存する。
分析モジュール125であって、取り込まれた試合を「解析する」ために、センサーインターフェース120から受信されたイメージを分析し、フレームストリームデータベース140に送ることによってフレームストリームを調整し、アクティブフレームストリームを特定し、また、以下に説明されるような指向されるセンサー116、117が取り込んだ信号に切り替える、分析モジュールである。このモジュール125は、センサー110‐112、116及び117を校正して、センサー校正データベース150に校正データを保存する。
フレームストリームデータベース140であって、パラメータのセットまたはデータレコードを保存するものであり、そのそれぞれが、位置、ズーミング及び時間に関連するパラメータによってフレームストリームを定義するものである。データベース140は、現実のディレクターにより監督され、制御され、メインカメラ、固定カメラ、リプレイマシンなどの間で切替えられるために使用する分割画面またはビデオモニタの配列と仮想的に同等なものである。パラメータのセットは、フレームストリームを十分に定義し、これにより、分析モジュール125がそれぞれのフレームストリームの放送を始めると決定すると、モジュール130はそれにイメージを導入することができる。
アクティブフレームストリームフィリングモジュール130であって、イメージレコーダ122から必要なデータを検索し、必要なデータ上でピクセル操作を実行するモジュールであり、必要なデータは、幾何学的イメージアラインメント、収差補正、口径食補正、アライメント、ステッチングゾーン統合、「最小差」ステッチングライン描画および様々なイメージフィルタ処理などである。モジュール130は、分析モジュール125の決定に応じて、アクティブフレームストリームのフレームを埋めるピクセルのマトリクスを送信する。このプロセスは、各フレームのために実行される。レンダリングされたイメージフレームの特徴は、隣接する生イメージ間に知覚不能またはシームレス境界を有している。その目的のために、ステッチングラインは、フレームの中またはその近くのラインを特定するために、世界座標からカメラ座標へ変換する。さらに、隣接するビデオカメラに属するピクセルは、キャリブレーションパラメータを使用して幾何学的に配列される。また、隣接するビデオカメラに属するステッチゾーンにおいて、ピクセル対は、ステッチングラインからの距離に基づいて統合される。さらに、異なるビデオカメラに属するピクセルの色彩強度は修正され、イメージフレーム全体の色調、彩度、強度、及びガンマ値は調整される。
出力フォーマッティングモジュール135であって、衛星、ケーブル又は全ての他の放送送信方法を使用し、必要な動画規格でイメージフレームのストリームをフォーマットして、テレビ局スタジオ142または直接視聴者に送信するモジュールである。増加した現代の人口を考慮すれば、その他の送信先としては、ユーザがインターネットを通じて、ストリーム化された放送を視聴できるウェブキャストメディア145が考えられる。信号は、個人のウェブクライアントであるホームユーザに直接またはクラウドサーバを通じて送信することもできる。
図2aのフローチャートは、自動ビデオ制作の方法200を示すものである。試合前に、ステップ210では、競技場160内のポイントを使用することにより、サーバ115はビデオカメラ110‐112及びPTZカメラ116を校正する。ポイントの例は、サッカー競技場160のコーナー162、164、二つのフィールドライン172の交差箇所、11mのペナルティキックポイント183及びビーコンポイントであり、これらは競技場で設置され、また測定装置及びベンチ関連のポイントによって決定された位置を有するものである。校正データはセンサー校正データベース150に保存される。
当技術分野で知られているカメラの校正データ及び幾何学的計算は、二つの業務に使用される。一つ目は、カメラから受信されたイメージを、例えばパノラマビューを定義するために互いに関連付けることである。二つ目は、フレームストリームの位置データを、パノラマビューの角度または直角座標に対し関連付けることである。
サーバ115は、従来のスポーツゲームのテレビ番組制作において使用される現実のカメラに対応するものとして、フレームストリームを仮想カメラとして使用する。フレームストリームは、フレームストリームデータベース140にあるそれぞれのパラメータのセットまたはデータレコードに保存される。パラメータのセットは、位置、ズーミング及び時間に関連するパラメータによってフレームストリームを定義する。
典型的な位置パラメータは、左側角、右側角、底角、頂角、中心角度座標、中心位置座標、アスペクト比、フレーム幅及び解像度パラメータである。アスペクト比は16:9の固定値を有することができる。
典型的なズーミングパラメータは固定ズームパラメータ、タイムスタンプ上のズームパラメータに対する依存度を定義する方程式のパラメータ、及び、ズームパラメータ対タイムスタンプのテーブルの値である。また、ズーム値は、カメラ110‐112によって取り込まれたイメージを用いて、パノラマビューのデジタルズーミングのために使用され、このカメラ110‐112は、リアルなズーム能力がない固定カメラとすることができる。
典型的な時間パラメータは、現在の時間フラグ、最初のタイムスタンプ、最終のタイムスタンプ、フレームレートである。ポジティブな現在の時間フラグは、フレームストリームができる限りリアルタイムに従うことを示すものである。
フレーム幅は、ゲートやバスケットカメラなどの固定カメラのために、所定の固定幅とすることができる。他のフレームストリームのために、フレーム幅は一定の条件を満たす。第一の条件の例は、所定数の選手がフレームに存在することである。第二の条件の例は、フレームが競技場の境界を超えていないことである。第三の条件の例は、ゲート170又はバスケットなどの主要な静的物体がフレームの中に含まれるということである。
ステップ215では、センサーインターフェース120は、ビデオカメラ110‐112から競技場160のビデオイメージのストリームを受信し、これにより、それのパノラマビューを取り込む。ステップ220では、分析モジュール125は、いくつかのフレームストリームの定義を許可するために、ビデオイメージのストリームを分析する。その結果、ステップ225では、分析モジュール125は、フレームストリームの位置、ズーミング及び時間パラメータを特定して、フレームストリームデータベース140に保存する。ステップ230では、モジュール130は、シーンのパノラマビューの各部に対応するイメージによりアクティブフレームストリームをレンダリングする。
アクティブフレームストリームは、例えば「カメラ1」の対応物である唯一のフレームストリームとすることができる。このような場合には、結果としての制作は、一人の現実のカメラマンを有する場合と同様であり、このカメラマンは、下位リーグ戦でシーン155を取り込む。他の場合には、メイン仮想カメラ(「カメラ1」)は、通常広いFOVを生成し、このFOVは、典型的に競技場の3分の1を含む。「カメラ2」フレームストリームは、ボール付近のより狭いビューを提供する。他の仮想カメラは、選手団又は個人選手に対する拡大ビューを提供する。従って、いくつかのフレームストリームがあり、実行された分析はほとんどのフレームストリームのためにパラメータセットを特定するが、一つだけは、レンダリングされたイメージを有するアクティブフレームストリームである。アクティブフレームストリームの選択、及びフレームストリーム間の切替は、次の段落でさらに説明される。
アクティブフレームフィリングモジュール130は、カメラ110‐112によって取り込まれたイメージの色と明るさを調整し、アクティブフレームストリームをレンダリングし、異なるカメラで生成されるイメージの間で、世界座標をカメラ座標に変換することに寄与するものである。さらに、モジュール130は、ステッチングラインを含むステッチゾーンにおいて、ピクセルを統合し、異なるカメラ110‐112の出力を幾何学的に配列し、この際、いくつかのカメラによって取り込まれたイメージを校正して配列するために、従来技術で知られている一つの方法を使用する。
ステップ230では、出力フォーマッティングモジュール135は、放送またはウェブキャスティングのために、レンダリングされたイメージフレームストリームをフォーマットして、放送施設142又はウェブキャスティング施設145に対して結果としてのストリームを通信する。
図2bには、競技場160の対象物に関連する操作の方法250が示されている。この方法はボール172などの第1物体を特定するステップ255、物体172を追跡するステップ258、ボール172に関連する選手176と178を特定するステップ260、ボールを失うとそれを占める領域を推定するステップ265を含む。
換言すれば、ボール172及び選手176、178は、動的背景減算処理を使用して、それぞれの選手を代表するBLOB(Binary Large OBject)を作成するために、プレーを通して検知、追跡される。スポーツゲーム中の自動のボール追跡については、例えば、MartyらによるUS公開第2008/0312010号、及びBirnboimらによるUS公開第2011/0267461号で開示される。選手の識別については、例えば、Tamir 及び WilfによるUS公開第2012/0013711号で開示される。イベント検知及びボール追跡は、K.Nishi,2010編集、ArikiとTakiguchiによる第10章の表題「交換検索の方法でイベント検知及び正確なボール追跡によるサッカーのビデオ制作のためのデジタル・カメラ作業」(「マルチメディア」)で議論されている。ボールの軌道又は軌跡は、ボールが一つの方向だけから取り込まれる場合には二次元とし、又、ボールが二つの方向から取り込まれる場合には三次元とすることができる。
ステップ270では、分析モジュール125は、フレームストリームを変更し、これにより、「カメラ1」フレームは、ボールを占める領域を含む。好ましくは、フレームセンターは、ボールの位置を追従するまたは多数の選手位置の中心を追従するなどして特定される。ステップ275では、フレームセンターによる突然の動きを防止するために、分析モジュール125は、ボールの軌道を整える。その結果、ステップ280では、モジュール125はスムーズなボール軌道に従ってセンターフレームを特定する。
好ましくは、ステップ285では、モジュール125は、一定の時間前のボールの軌道を加味したそのボール172の存在確率を推定することで、一定の時間、一定の場所におけるボール172のバリデーションを行う。
ステップ283、285及び290は取り込まれたゲームがバスケットボールであるときに実行されることができる。モジュール125は、まずファストブレーク(速攻)を特定し、次にボール172のスピードを推定し、最後にフレームの位置を選択する。このフレームは、ボールのスピードに応じて、ボール172を扱う選手団をブロックするものである。ファストブレーク(速攻)の前ではファーストボールの場合が選択され、一方、その後側ではスローボールの場合が選択される。
ステップ295では、モジュール125は、選手176と178の所定部分を長方形でブロックすることにより、フレームストリームのパラメータセットを特定する。好ましくは、一定のゲームでは、ほとんどの選手176または彼らの全ては、「カメラ1」のフレームストリームに含まれる。時々、少なくとも三人又は五人の選手178は、一つのフレームストリームに含まれる。
自動ディレクターに関する実施例(図1a、1b及び3)
図3は、スポーツゲームに対する自動テレビ番組制作におけるフレームストリーム間の自動切替のための方法300のフローチャートを簡単に示すものである。前述のように、従来のスポーツゲームのテレビ番組制作において使用される現実のカメラに対応するものとして、フレームストリームを仮想カメラとして使用する。フレームストリームは、フレームストリームデータベース140にあるそれぞれのパラメータのセット又はデータレコードに保存される。パラメータのセットは、前述のように、位置、ズーミング及び時間に関連するパラメータによりフレームストリームを定義する。最初に、ステップ320では、デフォルト又は予備値は、いくつかのフレームストリームのために、フレームストリームデータベース140に保存される。例えば、「カメラ1」フレームストリームの中心は、ゲームが始まる際に、最初にボールの位置に設定されることができる。
フレームストリームは、各ビューに関連する。ビューの例は、広いボールビュー「カメラ1」、狭いボールビュー「カメラ2」、二つの固定されたゲートのビュー、二つの固定されたバスケットのビュー、いくつかの固定された観客のビュー、いくつかのリプレイビュー及び移動カメラのビューである。
ステップ215では、センサーインターフェース120は、ビデオカメラ110‐112から競技場160のビデオイメージのストリームを受信し、これにより、それのパノラマビューを取り込む。
ステップ330では、モジュール125は、所定ルールに従う最初のアクティブフレームを選択する。ルールの例は、最初のフレームストリームが「カメラ1」のフレームストリームである。ステップ230では、モジュール130は、シーン155のパノラマビューの各部を映像化するイメージによってアクティブフレームストリームをレンダリングする。
ステップ350では、分析モジュール125は、ビデオイメージのストリームを分析し、イベントを特定する試みをし、このイベントはアクティブフレームストリームと異なるフレームストリームとの間の切替をトリガーするものである。イベントの特定は、選手とボールの特定、及び、典型的なゲーム状況に関する知識をベースとする。サッカーであれば、例えば、スローインイベントは、選手がタッチラインで立っており、ボールが彼の頭の上にある時の状況として特定される。従って、ステップ360では、モジュール125はアクティブフレームストリームを異なるフレームストリームに切替える。また、モジュール125は、ボール172が現在ゴールエリアにある、或いは、ボール172がゆっくりと移動し、また選手176、178がボール172を囲んでいる場合には、「カメラ1」から「カメラ2」に切り替わるなどのスポーツタイプの撮影ルールも使用する。また、モジュール125は、ボールが静止され、その近くに一人の選手がいる場合に、「カメラ1」または「カメラ2」を拡大イメージに切替えることも決定する。
全てのフレームストリームは、アクティブフレームストリームに干渉せず、レンダリングされたイメージを有しないものである。しかし、フレームストリーム間の遷移は時間を追って生じさせることができ、二つのフレームストリームにおいて、古いものがフェードアウトし、新しいものがこれに代わるといった手法で、同時に表示されることになる。ワイプなどのような他の遷移効果も同様に可能である。モジュール125は、事前に定義した手続きに従って所望の遷移を選択することができる。遷移の短い持続時間において、二つのフレームストリームは同時にイメージでレンダリングすることができる。
モジュール125によって特定されるイベントの例としては、試合開始、試合終了、試合の休憩、タイムアウトの開始、タイムアウトの終了、11メータペナルティキック、休憩終了、オフサイド、コーナーキック、フリーキック、及びスローインである。この特定されたイベントは、発生しているイベント又は発生すると予想されるイベントである。
例えば、少なくとも一つの所定時期では、ボールのスピードが所定値を下回るスピードに落ちると、「カメラ1」のフレームストリームは、「カメラ2」のフレームストリームに切替えられる。典型的な所定の速度値は、5、8、10、12、15km/hである。典型的な所定時期は4、6、7、10秒である。或いは、モジュール125は、コーナーキックのような特定の試合状況の準備の際に、ボール172が完全に静止であることを特定する。
ゴールなどのドラマティックなイベントが特定されると、モジュール125は、特定されたイベントの拡大したスローのリプレイを表示するために、アクティブフレームストリームをリプレイフレームストリームに切替えさせ、その後、アクティブフレームストリームは「カメラ1」のフレームストリームにスイッチバックする。このような状況では、リプレイフレームストリームの最初のタイムスタンプは、ゴールキックの数秒前であり、最終のタイムスタンプは、ゴールの数秒後であり、ここでのフレームレートは、例えば通常レートの1/3である。
アクティブフレームストリームの間の遷移は、任意の時点で行うことができ。通常、アクティブフレームストリームが選択されると、次の選択を行うまで放送され続ける。時に、フレームストリームのリプレイなどの場合では、それは最終のタイムスタンプに終了し、他のフレームストリームは所定のルールに従ってアクティブなものとして選択される。例えば、ルールは、リプレイが終わると「カメラ1」のフレームストリームを再びアクティブにするというようにして特定することができる。
指向されるセンサーによる自動テレビ番組制作(図1a、1bと4)
スポーツ大会プロデューサーは、一つ以上の視点からイベントを取り込む必要がある。たった一つの配列のカメラでは、提案されるシステムはたった一つの視野を有することになる。複数のカメラの配列を使用することは当然可能であるが、それぞれは会場でユニークな位置に位置することになる。例えば、サッカーの試合では、各制作チームは、各ゴールキーパーを対象とするために、三つのカメラヘッドを使用し、一つ目をミッドコートの位置に、他の二つを各二つのゲートの後に配置することを決定することになる。マルチ視野の構成に関するより良い実施例は、一つのカメラヘッド、又は、競技場を対象とする複数の固定カメラからなるカメラの配列、及び、一つのカメラに基づくものであり、この一つのカメラには、自動的に遠隔制御されるズームレンズが遠隔制御されるパン及びティルトユニットにマウントされる。多くの商業パン/ティルト/ズーム(PTZ)カメラは本出願のために使用されることができ、例としては、パナソニックWV‐SC385PTZネットワークカメラが挙げられる。
自動音声取り込みデバイスは、ゲームを対象とすることもできる。その目的を達成するために、指向性マイクロホン117は、遠隔制御されるパン及びティルトユニットにマウントされる。マイクロホン117は、一定のフレームストリームに適したFOV座標に従属させることができ、これは音声の取り込みに有益な状況にある選手又は選手団を対象とするためである。このような状況は、例えば、二人の選手が争っていること、又は、選手の一人が判定を叫んでいることである。指向性マイクロホンの例は、放物線マイクロホン、フラットな指向されるマイクロホン、ランニングウェーブのあるマイクロホン、及び、傾度マイクロホンである。これらのマイクロホンは、当技術分野で知られており、競技場の一部で生成されるオーディオ信号を取り込むために、指向性及び感知性を提供するためのものである。
図4では、シーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法400のフローチャートが説明され、ここで、この方法は、固定ビデオカメラに加えて指向されるセンサーを使用することにより強化される。
サーバ115は、センサーインターフェース120を使用して、パン‐チルト‐ズーム(PTZ)カメラ116及び指向性マイクロホン117を制御する。指向性マイクロホン117は、整列可能な2軸のベースに配置される。試合が開始する前に、ステップ210では、分析モジュール125はフレームストリームの位置データに従って、PTZビデオカメラ116を関心領域に向けることを許容するために、シーンに関するPTZビデオカメラ116を校正する。好ましくは、PTZカメラのパンと傾斜角がシーンにおけるいくつかのポイントにおいてポイントされ、また校正データはセンサー校正データベース150に保存される。保存された校正データは、フレームストリームの位置データに従って、PTZカメラ116を配列するために使用される。
その後、ステップ215では、センサーインターフェース120は、ビデオカメラ110‐112から競技場160のビデオイメージのストリームを受信し、これにより、そのパノラマビューを取り込む。その結果、ステップ225では、分析モジュール125は、フレームストリームの位置、ズーミング及び時間パラメータを特定してフレームストリームデータベース140に保存する。ステップ330では、モジュール125は、所定ルール及びイメージに対する分析に従って最初のアクティブフレームを選択する。ステップ230では、モジュール130は、シーン155のパノラマビューの各部を映像化するイメージによりアクティブフレームストリームをレンダリングする。ステップ235では、イメージのレンダリングされたストリームは放送される。
ステップ430では、モジュール125は、指向されるセンサー116又は117をアクティブフレームストリームの位置データに従って関心領域に向けさせる。また、ステップ350において、モジュール125は、事前に定義した基準に従ってビデオイメージのストリームを分析し、シーンで発生した状況を特徴付ける。これにより、ステップ440では、モジュール125は、適切な基準によって特徴的なものとしてた関心領域で発生した状況を特定し、指向されるセンサーに関連する操作をトリガーする。操作450では、指向されるセンサー116又は117は、一つの信号を取り込み、また操作460では、サーバ115は、取り込まれた信号を放送する。
つまり、モジュール125は、そのビデオ信号を取り込むために、PTZビデオカメラ116を関心領域に向けさせ、また特定の状況に応じて、取り込まれた信号によりアクティブフレームストリームをオンエアする。例えば、特定の状況において、フレームストリームのデジタルズーミング能力の使用によりデジタル的に許容可能なものよりも、より大きいズームを要求する場合には、指向されるPTZカメラ116は、所望の拡大されたリアルのズーミング能力を提供することができる。
モジュール125は、その生成されたオーディオ信号を記録するために、指向性マイクロホン117を関心領域に向けることができる。モジュール125は、アクティブフレームストリームにレンダリングされる視覚イメージの放送のストリームのオーディオ信号として、そのオーディオ信号を放送のために選択することができる。
本発明は、個々の実施例と共に説明したが、多くの変更、改良および変形例が当業者には明らかであることが分かる。従って、特許請求の範囲の精神及び広い範囲内に帰属するこのような変更、改良及び変形例は全て包含されるものである。特に、本発明は、いずれにせよ説明された例に限定されるものではない。

Claims (27)

  1. ビデオシーンを生成するためのコンピュータ実行型の方法であって、
    (a)一つ以上のビデオカメラから、シーンのビデオイメージのストリームを受信することであって、前記一つ以上のビデオカメラはシーンのパノラマビューを取り込むように構成されていること、
    (b)前記ビデオイメージのストリームを分析することであって、
    (I)前記ビデオイメージのストリームの中の第1物体を特定すること、
    (II)前記第1物体を追跡すること、及び、
    (III)前記第1物体に関連する少なくとも一つの第2物体を特定すること、
    の少なくとも一つを含むこと、
    (c)前記分析に従って一つ以上のフレームストリームの少なくとも一つの位置データを特定すること、
    (d)前記位置データに基づき、イメージによって前記一つ以上のフレームストリームのアクティブフレームストリームをレンダリングすることであって、前記イメージは、前記シーンの前記パノラマビューの一部に対応するものであるということ、
    を含み、
    前記パノラマビューの対応する一部をイメージ化したイメージフレームのレンダリングされたストリームの放送ために、送信することを可能とする、
    ことを特徴とするビデオシーンを生成するためのコンピュータ実行型の方法。
  2. 前記方法は、
    前記パノラマビューの前記一部に対応する前記レンダリングされたストリームの放送のために、送信することをさらに含む、
    ことを特徴とする請求項1に記載のビデオシーンを生成するためのコンピュータ実行型の方法。
  3. 前記方法は、
    ビデオシーンにおいて競技場内のポイントを使用して前記一つ以上のカメラを校正することをさらに含み、
    前記ポイントは以下のグループから選択されるものである、
    (i)競技場のコーナー
    (ii)二つのフィールドラインの交差する箇所
    (iii)11mのペナルティキックポイント
    (iv)競技場で設置され、一つ以上の測定装置によって決定される位置を有するビーコンポイント
    (v)ベンチ関連のポイント
    ことを特徴とする請求項1に記載のビデオシーンを生成するためのコンピュータ実行型の方法。
  4. パラメータのセットが、パラメータのグループから選択される三つ以上のパラメータにより、前記一つ以上のフレームストリームのフレームストリームを定義するものであり、
    前記パラメータのグループは、
    左側角、右側角、底角、頂角、中心角度座標、中心位置座標、アスペクト比、フレーム幅、現在の時間フラグ、最初のタイムスタンプ、最終のタイムスタンプ、フレームレート解像度パラメータ、固定ズームパラメータ、タイムスタンプ上のズームパラメータに対する依存度を定義する方程式、及びズームパラメータ対タイムスタンプのテーブル、を含む、
    ことを特徴とする請求項1に記載のビデオシーンを生成するためのコンピュータ実行型の方法。
  5. 前記フレーム幅は、所定幅、フレーム中の選手の所定数、競技場の境界を超えることに関連する禁止フラグ、フレームの主要な静的物体を含むことに関連するデマンドフラグ、を含む、
    パラメータのグループの中の少なくとも一つのパラメータにより決定される、
    ことを特徴とする請求項4に記載のビデオシーンを生成するためのコンピュータ実行型の方法。
  6. 前記方法は、
    (A)前記第1物体を失うと、前記ボールの位置に従って前記プレイオブジェクトを占める領域を推定すること、
    (B)前記第1物体を占める前記領域を含ませるために、前記一つ以上のフレームストリームのフレームストリームを変更すること、
    を含む、
    ことを特徴とする請求項1に記載のビデオシーンを生成するためのコンピュータ実行型の方法。
  7. 前記方法は、
    ある時間前の第1物体の軌道を考慮して、前記第1物体の存在確率を推定することにより、
    ある時間で、ある位置に前記プレイオブジェクトのアイデンティフィケーションをバリデーションすることを含む、
    ことを特徴とする請求項1に記載のビデオシーンを生成するためのコンピュータ実行型の方法。
  8. プレイオブジェクトの位置、及び、多数の選手位置の中心を含む変数のグループから選択された少なくとも一つの変数に従って、フレームセンターを特定することを含む、
    ことを特徴とする請求項1に記載のビデオシーンを生成するためのコンピュータ実行型の方法。
  9. 前記方法は、
    (A)プレイオブジェクトの軌道をスムージングすること、
    (B)前記スムージングされたプレイオブジェクトの軌道に従って、センターフレームを特定することにより、フレームセンターの軌道の突然の動きを防止すること、
    を含む、
    ことを特徴とする請求項1に記載のビデオシーンを生成するためのコンピュータ実行型の方法。
  10. 前記方法は、
    (I)バスケットボールゲームのファストブレーク(速攻)を特定すること、
    (II)プレイオブジェクトのスピードを推定すること、
    (III)前記プレイオブジェクトのスピードに従って、ファストブレーク(速攻)の前側又は後側にある選手団をブロックするフレームの位置を特定すること、
    を含む、
    ことを特徴とする請求項1に記載のビデオシーンを生成するためのコンピュータ実行型の方法。
  11. 前記方法は、
    長方形を使用して選手の所定部分をブロックし、少なくとも一つのフレームストリームのフレームを特定すること、
    を含む、
    ことを特徴とする請求項1に記載のビデオシーンを生成するためのコンピュータ実行型の方法。
  12. ビデオシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法であって、
    前記方法は、
    (a)一つ以上のビデオカメラからシーンのビデオイメージのストリームを受信することであって、前記一つ以上のビデオカメラは、前記シーンのパノラマビューを取り込むように構成されること、
    (b)複数のフレームストリームのそれぞれを定義する複数のパラメータのセットを提供すること、
    (c)所定ルールに従って、前記複数のフレームストリームから最初のアクティブフレームストリームを選択し、それをアクティブフレームストリームとすること、
    (d)選択されたフレームストリームのそれぞれのパラメータのセットに従って、前記ビデオシーンのパノラマビューの各部に対応するイメージがある前記アクティブフレームストリームをレンダリングすることであって、イメージフレームのレンダリングされたストリームの放送に送信することを可能とし、前記イメージフレームは前記パノラマビューの前記各部に対応するものであること、
    (e)前記シーンのイベントを特定するためのビデオイメージの前記ストリームを分析することであって、前記イベントは、前記複数のフレームストリームから選択されたアクティブフレームストリームと異なるフレームストリームの間との切替のために、トリガーとして機能するものであること、
    (f)前記アクティブフレームストリームを異なるフレームストリームに代えること、
    を含む、
    ビデオシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  13. 前記アクティブフレームストリーム以外の全てのフレームストリームは、試合期間中の殆どにおいてレンダリングされたイメージを有しない、
    ことを特徴とする請求項12に記載のビデオシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  14. 前記イベントは、
    試合開始スタートアップ、試合終了、試合の休憩、タイムアウトの開始、タイムアウトの終了、11メータペナルティキック、休憩終了、オフサイド、コーナーキック、フリーキック、及び、スローイン、を含むイベントのグループから選択される、
    ことを特徴とする請求項12に記載のビデオシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  15. 前記イベントは、発生しているイベント、及び、発生すると予想されるイベントから選択される、
    ことを特徴とする請求項12に記載のビデオシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  16. 前記各複数のフレームストリームは、各ビューに関連し、
    少なくとも一つの対応するビューは広いプレイオブジェクトビュー、狭いプレイオブジェクトビュー、二つの固定ゲートのビュー、二つの固定されたバスケットのビュー、いくつかの固定された観客のビュー、いくつかのリプレイビュー、及び、移動カメラのビューからなるビュー、のグループから選択される、
    ことを特徴とする請求項12に記載のビデオシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  17. 前記イベントは、
    狭いプレイオブジェクトビューに関連するフレームストリームにより、広いプレイオブジェクトビューに関連するフレームストリームを切替えることをトリガーするものであり、
    前記イベントは、以下のイベントを含むのグループから選択さる、
    (A)少なくとも一つの所定時期において、プレイオブジェクトのスピードが所定値を下回るスピードに落ちるというイベント、
    (B)特定されたゲーム状況の前の静的プレイオブジェクトのイベント、
    ことを特徴とする請求項12に記載のビデオシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  18. 前記方法は、
    特定のイベントのリプレイを表示するために、リプレイフレームストリームに切替えることを含む、
    ことを特徴とする請求項12に記載のビデオシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  19. シーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法であって、
    前記方法は、
    (a)一つ以上のビデオカメラからシーンのビデオイメージのストリームを受信することであって、前記一つ以上のビデオカメラはシーンのパノラマビューを取り込むように構成されること、
    (b)所定ルール及びビデオイメージの前記ストリームの分析に従って、少なくとも位置データによって一つ以上のフレームストリームを定義すること、
    (c)所定手順及びビデオイメージの前記ストリームに対する分析に従って、前記一つ以上のフレームストリームのうちからアクティブフレームを選択すること、
    (d)指向されるセンサーが前記アクティブフレームストリームの位置データに従って、関心領域に向けられること、
    を含む、
    ことを特徴とするシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  20. 前記方法は、
    (e)前記シーンの前記パノラマビューの各部に対応するイメージを有する前記一つ以上のフレームストリームのアクティブフレームストリームをレンダリングすること、
    (f)イメージフレームをレンダリングしたストリームの放送に送信することであって、前記イメージフレームは前記パノラマビューの前記各部に対応すること、
    をさらに含む、
    ことを特徴とする請求項19に記載のシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  21. 前記方法は、
    (g)一つ以上のフレームストリームの定義を許可するために、前記ビデオイメージのストリームを分析することを含み、
    前記分析は、
    (I)プレイオブジェクトを特定すること、
    (II)前記プレイオブジェクトを追跡すること、
    (III)少なくとも選手の大部分を特定することであって、前記選手には前記プレイオブジェクトに関連する少なくとも一人の選手が含まれること、
    をさらに含む、
    ことを特徴とする請求項19に記載のシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  22. 前記方法は、
    (f)一つ以上の事前に定義した基準に従って、ビデオイメージのストリームを分析し、シーンで発生した状況を特徴付けること、
    (g)前記一つ以上の事前に定義した基準の少なくとも一つの基準によって特徴的なものとして前記関心領域で発生した状況を特定すること、
    (h)前記指向されるセンサーに関連する一つ以上の操作をトリガーすることであって、
    前記一つ以上の操作は、
    前記指向されるセンサーを使用して信号を取り込むこと、
    取り込まれた信号を放送すること、
    を含む操作のグループから選択されるものであるということ、
    を含む、
    ことを特徴とする請求項19に記載のシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  23. 前記方法は、
    前記PTZビデオカメラを前記位置データに従って前記関心領域に向けることを許容するために、前記シーンに関する前記パン‐チルト‐ズーム(PTZ)ビデオカメラを校正することを含む、
    ことを特徴とする請求項19に記載のシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  24. 前記方法は、
    前記シーンにおける二つ以上のポイントに焦点をあてる際に、PTZカメラのパンと傾斜角を校正することを含む、
    ことを特徴とする請求項23に記載のシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  25. 前記方法は、
    前記関心領域のビデオ信号を取り込むために、前記PTZビデオカメラを前記関心領域に向けさせることを含む、
    ことを特徴とする請求項23に記載のシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  26. 前記方法は、指向性マイクロホンを前記関心領域に向けること、及び、その生成したオーディオ信号を記録することを含む、
    ことを特徴とする請求項19に記載のシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。
  27. 前記方法は、
    放送のために、前記生成したオーディオ信号を、前記アクティブフレームストリームに関連するイメージの放送ストリームのオーディオ信号として選択することを含む、
    ことを特徴とする請求項26に記載のシーンにおけるスポーツゲームのテレビ番組を自主的に制作するコンピュータ化されたサーバのための方法。

JP2016559211A 2014-04-03 2015-03-31 自動的にテレビ番組を制作する方法及びシステム Active JP7123523B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201461974460P 2014-04-03 2014-04-03
US61/974,460 2014-04-03
PCT/IL2015/050346 WO2015151095A1 (en) 2014-04-03 2015-03-31 Method and system for automatic television production

Publications (2)

Publication Number Publication Date
JP2017513385A true JP2017513385A (ja) 2017-05-25
JP7123523B2 JP7123523B2 (ja) 2022-08-23

Family

ID=54239494

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016559211A Active JP7123523B2 (ja) 2014-04-03 2015-03-31 自動的にテレビ番組を制作する方法及びシステム

Country Status (7)

Country Link
US (1) US10262692B2 (ja)
EP (1) EP3127321B1 (ja)
JP (1) JP7123523B2 (ja)
CN (2) CN106165393A (ja)
ES (1) ES2845933T3 (ja)
IL (1) IL247879B (ja)
WO (1) WO2015151095A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018152655A (ja) * 2017-03-10 2018-09-27 株式会社Jvcケンウッド 映像処理装置、マルチカメラシステム、映像処理方法、及び映像処理プログラム
WO2022086202A1 (ko) * 2020-10-22 2022-04-28 주식회사 픽셀스코프 스포츠 중계를 위한 영상을 결정하는 장치, 방법 및 명령을 기록한 기록 매체
JP7357413B2 (ja) 2020-03-06 2023-10-06 モバイルセン リアルタイム映像分析を通じたカメラ位置制御及び映像編集を通じた無人スポーツ中継サービス方法及びこのための装置

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10600245B1 (en) 2014-05-28 2020-03-24 Lucasfilm Entertainment Company Ltd. Navigating a virtual environment of a media content item
US9961385B2 (en) 2015-07-27 2018-05-01 Tribune Broadcasting Company, Llc News production system with program schedule modification feature
DE102016224095A1 (de) * 2016-12-05 2018-06-07 Robert Bosch Gmbh Verfahren zum Kalibrieren einer Kamera und Kalibriersystem
US10425643B2 (en) * 2017-02-04 2019-09-24 OrbViu Inc. Method and system for view optimization of a 360 degrees video
JP6965975B2 (ja) * 2017-03-10 2021-11-10 株式会社Jvcケンウッド 映像処理装置、マルチカメラシステム、映像処理方法、及び映像処理プログラム
CN107241611B (zh) * 2017-05-27 2019-09-24 蜜蜂四叶草动漫制作(北京)有限公司 一种直播联动装置及直播联动系统
CN109151295B (zh) * 2017-06-16 2020-04-03 杭州海康威视数字技术股份有限公司 一种目标对象抓拍方法、装置及视频监控设备
US10863212B2 (en) 2017-06-27 2020-12-08 Pixellot Ltd. Method and system for fusing user specific content into a video production
WO2019141813A1 (en) 2018-01-19 2019-07-25 Veo Technologies Aps A computer-implemented method for automated detection of a moving area of interest in a video stream of field sports with a common object of interest
JP7250440B2 (ja) 2018-05-31 2023-04-03 キヤノン株式会社 撮影装置、情報処理装置、情報処理方法、およびプログラム
US10841509B2 (en) 2018-10-22 2020-11-17 At&T Intellectual Property I, L.P. Camera array orchestration
WO2020101362A1 (en) * 2018-11-14 2020-05-22 Samsung Electronics Co., Ltd. Method for recording multimedia file and electronic device thereof
WO2021007446A1 (en) * 2019-07-09 2021-01-14 Hyphametrics, Inc. Cross-media measurement device and method
CN111787338A (zh) * 2020-03-09 2020-10-16 北京理工大学 一种体育赛事直播方案辅助设计方法
CN111787337A (zh) * 2020-03-09 2020-10-16 北京理工大学 一种电视直播方案辅助设计方法
CN111787339A (zh) * 2020-03-09 2020-10-16 北京理工大学 一种直播预演系统
US20220036087A1 (en) 2020-07-29 2022-02-03 Optima Sports Systems S.L. Computing system and a computer-implemented method for sensing events from geospatial data
EP3945464A1 (en) 2020-07-29 2022-02-02 Optima Sports Systems S.L. A computing system and a computer-implemented method for sensing events from geospatial data
CN111711733B (zh) * 2020-08-18 2020-11-13 北京理工大学 一种直播方案仿真设计验证方法
JP2022060900A (ja) 2020-10-05 2022-04-15 キヤノン株式会社 制御装置および学習装置及び制御方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0746582A (ja) * 1993-07-28 1995-02-14 Nippon Telegr & Teleph Corp <Ntt> 映像切り出し方法
JP2004046647A (ja) * 2002-07-12 2004-02-12 Univ Waseda 動画像データに基づく移動物体追跡方法及び装置
EP1480450A2 (en) * 2003-05-20 2004-11-24 British Broadcasting Corporation Automated video production
JP2006040199A (ja) * 2004-07-30 2006-02-09 Nippon Hoso Kyokai <Nhk> 映像オブジェクト抽出装置、映像オブジェクト軌跡合成装置、その方法及びそのプログラム
JP2009272970A (ja) * 2008-05-09 2009-11-19 Nippon Hoso Kyokai <Nhk> スポーツ映像送出装置
JP2009303176A (ja) * 2008-06-17 2009-12-24 Canon Inc 映像配信装置及び映像配信方法
WO2014024475A1 (ja) * 2012-08-10 2014-02-13 パナソニック株式会社 映像提供方法、送信装置および受信装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5729471A (en) * 1995-03-31 1998-03-17 The Regents Of The University Of California Machine dynamic selection of one video camera/image of a scene from multiple video cameras/images of the scene in accordance with a particular perspective on the scene, an object in the scene, or an event in the scene
US10360685B2 (en) * 2007-05-24 2019-07-23 Pillar Vision Corporation Stereoscopic image capture with performance outcome prediction in sporting environments
US6950123B2 (en) * 2002-03-22 2005-09-27 Intel Corporation Method for simultaneous visual tracking of multiple bodies in a closed structured environment
US7796155B1 (en) * 2003-12-19 2010-09-14 Hrl Laboratories, Llc Method and apparatus for real-time group interactive augmented-reality area monitoring, suitable for enhancing the enjoyment of entertainment events
US9094615B2 (en) * 2004-04-16 2015-07-28 Intheplay, Inc. Automatic event videoing, tracking and content generation
US8339456B2 (en) * 2008-05-15 2012-12-25 Sri International Apparatus for intelligent and autonomous video content generation and streaming
WO2010116329A2 (en) 2009-04-08 2010-10-14 Stergen Hi-Tech Ltd. Method and system for creating three-dimensional viewable video from a single video stream
GB0907870D0 (en) * 2009-05-07 2009-06-24 Univ Catholique Louvain Systems and methods for the autonomous production of videos from multi-sensored data
US9058670B2 (en) * 2010-05-03 2015-06-16 Stats Llc Trajectory detection and analysis in sporting events
US10438633B2 (en) 2013-05-26 2019-10-08 Pixellot Ltd. Method and system for low cost television production

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0746582A (ja) * 1993-07-28 1995-02-14 Nippon Telegr & Teleph Corp <Ntt> 映像切り出し方法
JP2004046647A (ja) * 2002-07-12 2004-02-12 Univ Waseda 動画像データに基づく移動物体追跡方法及び装置
EP1480450A2 (en) * 2003-05-20 2004-11-24 British Broadcasting Corporation Automated video production
JP2006040199A (ja) * 2004-07-30 2006-02-09 Nippon Hoso Kyokai <Nhk> 映像オブジェクト抽出装置、映像オブジェクト軌跡合成装置、その方法及びそのプログラム
JP2009272970A (ja) * 2008-05-09 2009-11-19 Nippon Hoso Kyokai <Nhk> スポーツ映像送出装置
JP2009303176A (ja) * 2008-06-17 2009-12-24 Canon Inc 映像配信装置及び映像配信方法
WO2014024475A1 (ja) * 2012-08-10 2014-02-13 パナソニック株式会社 映像提供方法、送信装置および受信装置

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
三須 俊彦(外3名): "「スポーツ戦術実況のための実時間画像解析システムの開発 人物・物体追跡による情報可視化」", 画像ラボ, vol. 2007年1月号(Vol.18, No.1), JPN6018051808, 1 January 2007 (2007-01-01), JP, pages 38 - 43, ISSN: 0003949391 *
三須 俊彦(外3名): "「パーティクルフィルタによる単眼動画像からのサッカーボール3次元軌道推定」", FIT2006 第5回情報科学技術フォーラム 情報科学技術レターズ, vol. 2006, Vol.5, JPN6018051806, 21 August 2006 (2006-08-21), JP, pages 167 - 170, ISSN: 0004471633 *
矢野一樹(外2名): "「探索手法の切り替えを用いたサッカー映像におけるボール追跡システム」", 第10回 画像の認識・理解シンポジウム(MIRU 2007)論文集, JPN6019046577, 31 July 2007 (2007-07-31), JP, pages 3 - 22, ISSN: 0004471634 *
蔵野 隼二(外4名): "「スポーツ映像解析に向けたパス成功確率マップの作成」", 映像情報メディア学会技術報告, vol. 37, no. 36, JPN6018051804, 12 August 2013 (2013-08-12), JP, pages 45 - 48, ISSN: 0004471632 *
鄭 文涛(外4名): "「複数カメラの協調動作による動オブジェクトの抽出」", 電子情報通信学会論文誌, vol. 86, no. 3, JPN6018051802, 1 March 2003 (2003-03-01), JP, pages 397 - 408, ISSN: 0004471631 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018152655A (ja) * 2017-03-10 2018-09-27 株式会社Jvcケンウッド 映像処理装置、マルチカメラシステム、映像処理方法、及び映像処理プログラム
JP7357413B2 (ja) 2020-03-06 2023-10-06 モバイルセン リアルタイム映像分析を通じたカメラ位置制御及び映像編集を通じた無人スポーツ中継サービス方法及びこのための装置
WO2022086202A1 (ko) * 2020-10-22 2022-04-28 주식회사 픽셀스코프 스포츠 중계를 위한 영상을 결정하는 장치, 방법 및 명령을 기록한 기록 매체

Also Published As

Publication number Publication date
EP3127321A4 (en) 2017-04-12
CN113873174A (zh) 2021-12-31
IL247879B (en) 2020-01-30
IL247879A0 (en) 2016-11-30
WO2015151095A1 (en) 2015-10-08
EP3127321B1 (en) 2020-12-23
CN106165393A (zh) 2016-11-23
EP3127321A1 (en) 2017-02-08
ES2845933T3 (es) 2021-07-28
JP7123523B2 (ja) 2022-08-23
US10262692B2 (en) 2019-04-16
US20170178687A1 (en) 2017-06-22

Similar Documents

Publication Publication Date Title
JP7123523B2 (ja) 自動的にテレビ番組を制作する方法及びシステム
JP6432029B2 (ja) 低コストでテレビ番組を制作する方法及びシステム
US11283983B2 (en) System and method for providing virtual pan-tilt-zoom, PTZ, video functionality to a plurality of users over a data network
US10666861B2 (en) Method and system for producing a video production
WO2018094443A1 (en) Multiple video camera system
KR20170107424A (ko) 상호작용식 쌍안경 비디오 디스플레이
JP2014529930A (ja) ネイティブ画像の一部の選択的キャプチャとその表示
KR101291765B1 (ko) 실시간 중계방송을 위한 공 궤적 제공 시스템
US10674057B2 (en) Audio event detection for automatic plenoptic video refocusing
US20240104793A1 (en) Adding augmented reality to a sub-view of a high resolution central video feed
KR101215058B1 (ko) 중계방송을 위한 야구 피칭 영상 제공 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180327

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20181003

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190108

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190326

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190607

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191203

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200428

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200923

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210119

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210119

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210128

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210202

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20210326

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20210406

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20211109

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20220315

C19 Decision taken to dismiss amendment

Free format text: JAPANESE INTERMEDIATE CODE: C19

Effective date: 20220329

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20220329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220606

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20220621

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20220719

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20220719

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220810

R150 Certificate of patent or registration of utility model

Ref document number: 7123523

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150