JP2010507327A - ビデオコンテンツにおける関心領域を生成する方法、装置及びシステム - Google Patents

ビデオコンテンツにおける関心領域を生成する方法、装置及びシステム Download PDF

Info

Publication number
JP2010507327A
JP2010507327A JP2009533288A JP2009533288A JP2010507327A JP 2010507327 A JP2010507327 A JP 2010507327A JP 2009533288 A JP2009533288 A JP 2009533288A JP 2009533288 A JP2009533288 A JP 2009533288A JP 2010507327 A JP2010507327 A JP 2010507327A
Authority
JP
Japan
Prior art keywords
interest
video content
region
scene
receiver
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009533288A
Other languages
English (en)
Other versions
JP5591538B2 (ja
Inventor
リン,シュ
アイザット,アイザット,ヘクマット
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2010507327A publication Critical patent/JP2010507327A/ja
Application granted granted Critical
Publication of JP5591538B2 publication Critical patent/JP5591538B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

ビデオコンテンツにおいて関心領域を生成する方法、装置及びシステムは、前記ビデオコンテンツの少なくとも1つのプログラミングタイプを特定するステップと、前記プログラミングタイプの少なくとも1つのシーンをカテゴリ化するステップと、前記シーンにおける関心位置及び関心オブジェクトの少なくとも1つを特定することによって、前記シーンの少なくとも1つにおける少なくとも1つの関心領域を規定するステップと有する。本発明の一実施例では、関心領域は、特定されたプログラムコンテンツとカテゴリ化されたシーンコンテンツとに対するユーザ嗜好を用いて規定される。

Description

本発明は、一般にビデオ処理に関し、より詳細には、ビデオ再生装置での表示のためビデオコンテンツにおける関心領域(ROI)を生成するシステム及び方法に関する。
近年、ビデオディスプレイを有するモバイル及び携帯装置が普及してきている。しかしながら、それらの小さなサイズによって、大部分の携帯装置は高解像度によりビデオ又はイメージを表示することができない。典型的には、携帯装置が放送標準品位(SD)又は高品位(HD)などからのビデオ信号を受信した後、当該ビデオは携帯装置の画面解像度のサイズ、CIF(Common Intermediate Format)又はQCIF(Quarter CIF)にダウンサンプリングされる必要がある。CIFは、それが意図されるビデオシステムの“フル”解像度の1/4として一般に規定される。
このようなダウンサイジングの結果として、ビデオの最も面白い部分が失われる場合がある。例えば、サッカーやテニスなどのスポーツビデオにおいて、ボールが見えなくなる可能性がある。また、通常のダウンサンプリングは、このようなケース及び装置において良好に機能しない。さらに、イメージのシンプルなクロッピングは、関心領域がしばしば動いているため、さらにカメラがパン又はズームしうるため、実行可能でない。
エンコーダ側において関心領域を生成するためのいくつかの取り組みがなされてきた(Xinding Sun et.al.,“Region of Interest Extraction and Virtual Camera Control Based on Panoramic Video Capturing”,IEEE Trans.Multimedia,Vol.7 No.5 pp.981−990,October 11,2005)。例えば、ROIは、常識に従って又は視覚的注意モデルに基づき生成可能である。このような場合、ROIのメタデータがデコーダに送信される必要がある。デコーダは、この情報を利用してROI内のビデオを再生する。
しかしながら、このアプローチによるといくつかの問題点がある。第1に、すべての受信機が同一のROIを取得するが、各人は、自らが視聴する関心領域と考えているものについて異なる嗜好を有している。第2に、ROIは自動生成されるため、誤りが生じた場合、すべての人が受信機で訂正できない誤った情報を受信することとなる。第3に、ビデオ信号と共にメタデータが送信される必要があり、これにより、ビットレートが増大する。従って、従来技術の制限及び問題点を回避するビデオにおける関心領域を生成するシステム及び方法が望まれる。
本発明の各種実施例による方法、装置及びシステムは、一実施例において、受信機側でユーザの嗜好などに基づき関心領域(ROI)を検出及び生成することによって、従来技術の問題点を解決する。
本発明の一実施例では、ビデオコンテンツにおいて関心領域を生成する方法は、前記ビデオコンテンツの少なくとも1つのプログラミングタイプを特定するステップと、前記プログラミングタイプの少なくとも1つのシーンをカテゴリ化するステップと、前記シーンにおける関心位置及び関心オブジェクトの少なくとも1つを特定することによって、前記シーンの少なくとも1つにおける少なくとも1つの関心領域を規定するステップとを有する。本発明の一実施例では、関心領域は、特定されたプログラムコンテンツと特徴付けされたシーンコンテンツとについてユーザ嗜好情報を用いて規定される。
本発明の他の実施例では、ビデオコンテンツにおいて関心領域を生成する装置は、前記ビデオコンテンツの少なくとも1つのプログラミングタイプを特定するステップと、前記プログラミングタイプの少なくとも1つのシーンをカテゴリ化するステップと、前記シーンにおける関心位置及び関心オブジェクトの少なくとも1つを特定することによって、前記シーンの少なくとも1つにおける少なくとも1つの関心領域を規定するステップとを実行するよう構成される処理モジュールを有する。本発明の一実施例では、本装置は、ビデオコンテンツの特定されたプログラミングタイプとカテゴリ化されたシーンとを格納するメモリと、ビデオコンテンツの特定されたプログラミングタイプとカテゴリ化されたシーンとにおいて関心領域を規定するため、ユーザが嗜好を特定することを可能にするユーザインタフェースとを有する。
本発明の他の実施例では、ビデオコンテンツにおいて関心領域を生成するシステムは、前記ビデオコンテンツを配信するコンテンツソースと、前記ビデオコンテンツを受信し、表示用に前記受信したビデオコンテンツを構成する受信装置と、前記受信装置からの前記ビデオコンテンツを表示する表示装置と、前記ビデオコンテンツの少なくとも1つのプログラミングタイプを特定するステップと、前記プログラミングタイプの少なくとも1つのシーンをカテゴリ化するステップと、前記シーンにおける関心位置及び関心オブジェクトの少なくとも1つを特定することによって、前記シーンの少なくとも1つにおける少なくとも1つの関心領域を規定するステップとを実行するよう構成される処理モジュールとを有する。本発明の一実施例では、処理モジュールは、前記受信機に配置され、前記受信機は、前記ビデオコンテンツの特定されたプログラミングタイプとカテゴリ化されたシーンとを格納するメモリを有する。当該実施例では、前記受信装置はさらに、ユーザが関心領域を規定するための嗜好を特定することを可能にするユーザインタフェースを有する。他の実施例では、前記処理モジュールは、前記コンテンツソースに配置され、前記コンテンツソースは、前記ビデオコンテンツの特定されたプログラミングタイプとカテゴリ化されたシーンとを格納するメモリを有する。当該実施例では、前記コンテンツソースはさらに、ユーザが関心領域を規定するための嗜好を特定することを可能にするユーザインタフェースを有する。
本発明の教示は、添付した図面と共に以下の詳細な説明を検討することによって容易に理解することが可能である。
図1は、本発明の実施例による関心領域を規定及び生成する受信機のハイレベルブロック図を示す。 図2は、本発明の実施例による関心領域を規定及び生成するシステムのハイレベルブロック図である。 図3は、本発明の実施例による図1及び2の受信機に使用するのに適したユーザインタフェースのハイレベルブロック図を示す。 図4は、本発明の実施例による方法のフロー図を示す。 図5は、本発明の実施例によるユーザ入力に基づき関心領域を規定する方法のフロー図を示す。 上記図面は、本発明の概念を説明するためのものであって、必ずしも本発明を説明するための唯一の可能な構成とは限らないことが理解されるべきである。理解を容易にするため、可能な場合には、同一の参照番号は各図に共通する同一の要素を示すのに使用されている。
本発明は、効果的には、ビデオコンテンツにおいて関心領域(ROI)を生成する方法、装置及びシステムを提供する。本発明は放送ビデオ環境及び受信機に関して主として説明されるが、本発明の具体的な実施例は本発明の範囲を限定するものとして扱われるべきでない。本発明の概念はビデオコンテンツにおいて関心領域(ROI)を生成する何れかの環境及び/又は送受信機に効果的に適用可能であることは、当業者により理解され、本発明の教示により通知される。例えば、本発明の概念は、ポータルブな携帯ビデオ再生装置、携帯テレビ、PDA、AV機能を有する携帯電話、ポータブルコンピュータ、送信機、サーバなど、ビデオコンテンツを受信/処理/表示/送信するよう構成される何れかの装置により実現可能である。
図示される各種要素の機能は、専用ハードウェアと共に、適切なソフトウェアに関してソフトウェアを実行可能なハードウェアの利用により提供可能である。プロセッサにより提供されるとき、これらの機能は単一の専用プロセッサ、単一の共有プロセッサ又は一部が共有可能な複数の個別プロセッサにより提供可能である。さらに、“プロセッサ”又は“コントローラ”という用語の明示的な使用は、ソフトウェアを実行可能なハードウェアのみを表すと解釈されるべきでなく、限定されることなく、デジタル信号プロセッサ(DSP)ハードウェア、ソフトウェアを格納するROM(Read−Only Memory)、RAM(Random Access Memory)及び不揮発性ストレージを非明示的に含みうる。さらに、本発明の原理、特徴及び実施例と共に、それらの具体例を記載した以下のすべての記載は、その構造的及び機能的均等を含むことが意図される。さらに、このような均等は、現在知られている均等と共に、将来開発される均等(すなわち、構成に関係なく同一の機能を実行する何れか開発される要素)も含むことが意図される。
従って、例えば、ここに与えられるブロック図は本発明の原理を実現する例示的なシステムコンポーネント及び/又は回路の概念図を表すことは、当業者により理解されるであろう。同様に、何れかのフローチャート、フロー図、状態遷移図、擬似コードなどが、実質的にコンピュータ可読媒体に表現され、明示的には示されないコンピュータ又はプロセッサにより実行されうる各種プロセスを表すことが理解されるであろう。
本発明の各種実施例によると、ビデオコンテンツにおいて関心領域(ROI)を生成する方法、装置及びシステムは、プログラムライブラリ、シーンライブラリ及びオブジェクト/ロケーションライブラリを提供し、これらのライブラリと通信し、ライブラリ及びユーザの嗜好からのデータに基づき、受信したビデオコンテンツにおいてカスタマイズされた関心領域を生成するよう構成される関心モジュールを含む。各種実施例では、ユーザは、視聴用のROIとして選択することを所望するビデオにおける何れかのエリア/オブジェクトなどに関して、自らの嗜好を規定することが可能とされる。サーバがビデオコンテンツを複数の受信機に配信している本発明の実施例では、ローカル受信機に誤りが発生した場合、この誤りは当該受信機のみに影響を及ぼし、容易に訂正可能である。本原理によるシステムは、従来の利用可能なシステムよりロウバストであり、ユーザが従来利用可能であったものより相対的に高い解像度によりビデオコンテンツにおける関心領域又はオブジェクトを制御及び視聴することを可能にする。
例えば、図1は、本発明の実施例による関心領域を規定及び生成する受信機を示す。図1の受信機100は、例示的には、記憶手段101と、ユーザインタフェース109と、デコーダ111とを有する。図1の受信機100は、例示的には、データベース103と、関心領域(ROI)モジュール105とを有する。図1の受信機100のデータベース103は、例示的には、プログラムライブラリ107と、シーンライブラリ102と、オブジェクト/ロケーションライブラリ104とを有する。本発明の一実施例では、プログラムライブラリ107と、シーンライブラリ102と、オブジェクトライブラリ104とは、以下でより詳細に説明されるように、分類された各種プログラムタイプ、シーンタイプ及びオブジェクトタイプのそれぞれを格納するよう構成される。図1の受信機100のROIモジュール105は、プログラムライブラリ107と、シーンライブラリ102と、オブジェクトライブラリ104とに予め格納された情報及び/又は視聴者の入力に従って、受信したビデオコンテンツにおいて関心領域を生成するよう構成可能である。すなわち、視聴者は、結果としての関心領域がディスプレイ上で視聴者に表示されることによって、ユーザインタフェース109を介し受信機100に入力を提供可能である。
例えば、図2は、本発明の実施例による関心領域を規定及び生成するシステムのハイレベルブロック図を示す。図2のシステム200は、例示的には、本発明の受信機100にビデオコンテンツを提供するビデオコンテンツソース(例えば、サーバ)206を有する。上述されるように、受信機は、プログラムライブラリ107と、シーンライブラリ102と、オブジェクトライブラリ104とに予め格納された情報及び/又はユーザインタフェース109を介し入力される視聴者入力に従って、受信したビデオコンテンツにおいて関心領域を生成するよう構成可能である。その後、結果として得られた生成された関心領域は、システム200のディスプレイ207上で視聴者に表示される。図1では、受信機100は、ユーザインタフェース109とデコーダ111とを有するように示されているが、本発明の他の実施例では、ユーザインタフェース109及び/又はデコーダ111は、受信機100と通信する個別のコンポーネントを有することが可能である。さらに、図2のシステム200では、データベース103とROIモジュール105とが、例示的に受信機100の内部に設けられるように示されているが、本発明の他の実施例では、本発明のデータベース及びROIモジュールは、受信機100のデータベース及びROIモジュールの代わりに又は加えて、サーバ206に含まれうる。本発明のこのような実施例では、ビデオコンテンツの関心領域の選択はサーバ206において実行可能であり、受信機はすでに関心領域が割り当てられているビデオコンテンツを受信する。また、受信機のROIモジュールは、サーバにより規定された関心領域ROIを検出し、表示対称のコンテンツにおける関心領域ROIを適用する。さらに、本発明のこのような実施例では、本発明のデータベースとROIモジュールとを含むサーバはさらに、本発明により関心領域を生成するためのユーザ入力を提供するユーザインタフェースを有することが可能である。
図3は、本発明の実施例による図1及び2の受信機100において使用するのに適したユーザインタフェース109のハイレベルブロック図を示す。上述されるように、ユーザインタフェース109は、本発明の実施例に従って受信したビデオコンテンツにおいて関心領域を生成するための視聴者入力を通信するため設けられる。ユーザインタフェース109は、スクリーン又はディスプレイ302を有するコントロールパネル300を有することが可能であり、又はグラフィカルユーザインタフェースとしてソフトウェアにより実現可能である。コントロール310〜326は、ユーザインタフェース109の実現形態に応じて、実際のノブ/スティック310、キーパッド/キーボード324、ボタン318〜322、バーチャルノブ/スティック及び/又はボタン314、マウス326、ジョイスティック330などを含みうる。
図2の本発明の実施例では、サーバ206は、受信機100にビデオコンテンツを通信する。受信機100において、受信したビデオコンテンツが符号化され、復号化される必要があるか判断される。そうである場合、ビデオコンテンツはデコーダ111により復号化される。ビデオコンテンツの復号化後、ビデオコンテンツのプログラミングが特定される。すなわち、本発明の一実施例では、ビデオコンテンツソース(送信機など)206から取得された情報(電子番組ガイド情報など)が、受信したビデオコンテンツにおいてプログラムタイプを特定するのに利用可能である。ビデオコンテンツソース206からのこのような情報は、受信機に、例えば、プログラムライブラリ107などに格納可能である。本発明の他の実施例では、ユーザインタフェース109などからのユーザ入力は、受信したビデオコンテンツのプログラミングを特定するのに利用可能である。すなわち、一実施例では、ユーザは、ディスプレイ207などを用いてビデオコンテンツをプレビューし、名称やタイトルによりディスプレイ207において各プログラムタイプを特定することが可能である。ユーザ入力を介し特定されるビデオコンテンツの各種プログラミングタイプのタイトル又は識別子は、受信機100の記憶手段101、例えば、プログラムライブラリ107などに格納可能である。本発明のさらなる他の実施例では、コンテンツソース206から受信した情報と、ユーザインタフェース109からのユーザ入力との組み合わせが、受信したビデオコンテンツのプログラミングを特定するのに利用可能である。
本発明の各種実施例では、予め格納されている情報及び/又はユーザ入力を用いて正確にはカテゴリ化することができないプログラムタイプが、新たなプログラムタイプとして処理可能であり、プログラムライブラリ107に追加可能である。以下のテーブル1は、一例となるプログラムタイプを示す。
Figure 2010507327
ビデオコンテンツにおいてプログラムタイプを特定した後、プログラムタイプのシーンがカテゴリ化される。これはプログラムタイプの特定と類似し、本発明の一実施例では、ビデオコンテンツソース(送信機など)206から取得した情報(電子番組ガイド情報など)が、特定されたプログラムタイプのシーンをカテゴリ化するのに利用可能である。ビデオコンテンツソース206からのこのような情報は、受信機100、例えば、シーンライブラリ102に格納可能である。本発明の他の実施例では、ユーザインタフェース109などからのユーザ入力は、特定されたプログラムタイプのシーンをカテゴリ化するのに利用可能である。これはプログラムタイプの特定に類似し、ユーザは、ディスプレイ207などを用いてビデオコンテンツをプレビューし、名称やタイトルによってディスプレイ207においてプログラムタイプの異なるシーンカテゴリを特定することができる。ユーザ入力を介し特定される各種シーンカテゴリのタイトル又は識別子は、受信機100の記憶手段101、例えば、シーンライブラリ102などに格納可能である。本発明のさらなる他の実施例では、コンテンツソース206から受信した情報とユーザインタフェース109からのユーザ入力の組み合わせが、ビデオコンテンツの特定されたプログラムタイプのシーンをカテゴリ化するのに利用可能である。
本発明の各種実施例では、予め格納された情報及び/又はユーザ入力を用いて正確にはカテゴリ化できないシーンは、新たなタイプのシーンとして処理可能であり、シーンライブラリ102に追加可能である。テーブル2は、本発明による一例となるシーンカテゴリを例示的に示す。
Figure 2010507327
ビデオコンテンツにおいてシーンカテゴリとプログラムタイプとを特定した後、以前に分類されたフィールド(プログラムタイプやシーンカテゴリなど)における関心位置及び/又はオブジェクトが規定可能である。本発明の一実施例では、ユーザは、オブジェクト及び/又は位置をオブジェクト/位置ライブラリ104に自動的に追加し、以降に追加又は破棄可能な一時的メモリ(図示せず)にそれらを格納するよう本発明のシステムを構成可能である。さらに、本発明の各種実施例では、ビデオコンテンツソース(送信機など)206から取得した情報は、関心オブジェクト又は位置を規定するのに利用可能である。ビデオコンテンツソース206からのこのような情報は、受信機100、例えば、オブジェクト/位置ライブラリ104などに格納可能である。ビデオソースからのこのような情報は、受信機側のユーザにより生成可能である。すなわち、本発明の各種実施例では、ビデオコンテンツソース206は、複数バージョンのソースコンテンツを提供可能であり、各バージョンは各種バージョンに係る可変的な関心エリアを有し、その何れもが受信機側のユーザにより選択可能である。ユーザがソースコンテンツの利用可能なバージョンを選択することに応答して、関連する関心領域が受信機側での処理のため受信機に通信可能である。本発明の他の実施例では、ユーザがソースコンテンツの利用可能なバージョンを選択することに応答して、関連する関心領域に係るビデオのみを有するビデオコンテンツが受信機に通信される。
本発明の他の実施例では、ユーザインタフェース109などからのユーザ入力は、特定されたプログラムタイプとカテゴリ化されたシーンにおいて関心領域を選択するのに利用可能である。これは、プログラムタイプの特定と、シーンのカテゴリ化と同様であり、ユーザは、ディスプレイ207などを用いてビデオコンテンツをプレビューし、オブジェクト及び/又は位置によりディスプレイ207における各関心領域を規定することができる。本発明の各種実施例では、このようなユーザ選択は、ビデオコンテンツソース又は受信機において実行可能である。ユーザ入力を介し規定される各種関心領域のタイトル又は識別子は、受信機100の記憶手段101、例えば、オブジェクト/位置ライブラリ104などに格納可能である。本発明のさらなる他の実施例では、コンテンツソース206から受信した情報と、ユーザインタフェース109からのユーザ入力の組み合わせが、ビデオコンテンツにおける関心領域を規定するのに利用可能である。本発明によると、ユーザは、観察することが所望されるオブジェクト及び/又は位置を手動により選択可能であり、又はすべてのプログラミングにおいて視聴されることが所望される関心領域として特定のオブジェクト、オブジェクトタイプ及び/又は位置を設定可能である。
テーブル3において、サッカーのプログラミングを含む受信したビデオコンテンツに関する一例となるオブジェクトタイプが示される。
Figure 2010507327
上記テーブル3に示されるように、着目されたサッカーのシーンにおいて、サッカーのプレーヤーなどのオブジェクトが関心オブジェクトとして規定可能である。対象となるビデオコンテンツの関心領域を規定した後、ビデオコンテンツの選択された関心領域がディスプレイ207などに表示可能である。
図4は、本発明の実施例による方法のフロー図を示す。本方法400は、本発明の受信機がビデオコンテンツを有するオーディオビジュアル(AV)信号及び/又はビデオプログラムを受信するステップ401から開始される。本方法400は、ステップ403に移行する。
ステップ403において、プログラム/AV信号が符号化され、復号化される必要があるか判断される。信号が符号化され、復号化される必要がある場合、本方法400はステップ405に移行する。信号が復号化される必要がない場合、本方法400はステップ407にスキップする。
ステップ405において、信号が復号化される。本方法はステップ407に移行する。
ステップ407において、関心領域(ROI)が規定される。本方法400はステップ409に移行する。
ステップ409において、規定された関心領域が表示可能である。すなわち、ステップ409において、選択及び規定された関心領域により規定されるようなビデオ信号の対応する領域が、表示又は表示のため送信される。本方法400はその後終了される。
図5は、図4の方法400のステップ407において記載されるような関心領域を規定する方法のフロー図を示す。本方法500は、ビデオコンテンツが本発明のROIモジュールなどにより受信されるステップ501において開始される。本方法500はステップ503に移行する。
ステップ503において、受信したビデオコンテンツのプログラミングが特定される。すなわち、ステップ503において、ビデオコンテンツソース(送信機など)206及び/又はユーザインタフェース106などからのユーザ入力から取得される情報(電子番組ガイド情報など)が、受信したビデオコンテンツのプログラミングタイプを特定するのに利用可能である。プログラミングタイプが特定された後、本方法500はステップ505に移行する。
ステップ505において、シーン分類(カテゴリ化)及びシーン変更検出が決定可能である。すなわち、上述されるように、シーン分類処理に役立つよう利用可能な格納される所定のシーンタイプを有するシーンライブラリを含む予め格納された情報(504)を有するデータベースが提供可能である。本発明の各種実施例では、予め格納された情報(504)及び/又はユーザ入力を用いて正確には分類できないシーンは新たなタイプのシーンとして扱われ、データベースに追加可能である。対象シーンが分類された後、本方法500はステップ507に移行する。
ステップ507において、以前に分類されたフィールド(プログラムタイプやシーンカテゴリなど)における関心オブジェクトが特定可能である。例えば、本発明の一実施例によると、着目されるサッカーシーンにおいて、サッカーのプレーヤーなどのオブジェクトが関心オブジェクトとして特定可能である。関心オブジェクトが特定された後、本方法はステップ509に移行する。
ステップ509において、カスタマイズされた関心領域(ROI)が、ステップ507において規定された指定オブジェクトの周囲に生成される。本方法はステップ511において終了される。
本発明の他の実施例では、ROIがまた、お気に入りのプレーヤーや位置などの予め指定された所望のオブジェクトの“お気に入り”な視聴者の習慣に従って、本発明により自動生成可能である。本発明によると、関心領域が規定された後、所望の関心オブジェクト又は位置が、フレーム間で追跡可能であり、視聴者に表示可能である。ROIのサイズはお気に入りオブジェクト及び/又はそれらの位置の指定された個数に応じて、再生中に可変とされる。
本発明によると、ユーザは、ROIの複数のレベル又はサイズを規定することができる。また、ROIは、複数のROIのレベル又はサイズのうちユーザが所望するレベル又はサイズを指定するようユーザにより詳細化可能である。また、本発明の実施例によると、ROIモジュールはユーザのニーズ又は嗜好に合致するように、特別な又はカスタマイズされたレベル/サイズのROIを生成可能である。本発明の各種実施例では、デフォルトレベル/サイズは、ROIの最も頻繁に使用されるレベル/サイズを有することが可能である。
図4及び5の方法400,500が、好ましくはビデオコンテンツが本発明の実施例により受信機に完全に送信されるアプリケーションについて説明されたが、本発明の他の実施例では、コンテンツソース(送信機/サーバなど)は本発明のROIモジュールを少なくとも有することが可能である。このようなソースROIモジュールは、本発明の受信機にあるROIモジュールに加えて又は代わりとすることが可能である。
例えば、ビデオコンテンツが1つの受信機のみに通信される本発明の実施例では、受信機は、ユーザの嗜好をソース(送信機など)と通信し、送信機は、これに従って関心領域を生成することが可能である。このような実施例では、受信機に送信されるビデオコンテンツのデータ量は低減され、これにより、受信機へのコンテンツの送信に必要とされる帯域幅が低減され、受信機において必要とされる処理量もまた低減される(これは、サーバ/送信機がより大きな処理パワーを有するため、特に効果的である)。
本発明の他の実施例では、各種ROIがソース側(サーバ/送信機側など)で提供され、受信機側のユーザによる選択のため提供可能である。すなわち、送信機(サーバ)は、各種所望の関心領域を生成し、個別のマルチキャストチャネルを介し各ROIを送信することができる。また、ユーザは、所望のROIを有するチャネルを選択/契約することができる。このような実施例は、効果的に処理時間と送信機/サーバから送信されるビット数とを低減する。
本発明のさらなる他の実施例では、本発明のROIは、一般的なユーザの嗜好に従って送信機/サーバにおいて生成可能である。より詳細には、各ROIは各受信機の一般的な選択に従って各受信機に予め決定可能であり、また、決定されたROIが各受信機に送信可能である。本発明による送信機側でのROI処理に関する上述した他の実施例は、処理/送信キャパシティが問題となる状況において特に有用となりうることに留意すべきである。
ビデオコンテンツにおいて関心領域(ROI)を生成する方法、装置及びシステムについて好適な実施例が説明されたが(例示的なものであって、限定的なものでない)、上記教示に基づき改良及び変更が当業者に可能であることに留意すべきである。このため、添付した請求項により画定された本発明の範囲及び趣旨の範囲内の変更が、開示された本発明の実施例において可能であることが理解されるべきである。上記は本発明の各種実施例に関するものであるが、本発明の他の実施例はその基本的範囲から逸脱することなく想到可能である。

Claims (29)

  1. ビデオコンテンツにおいて関心領域を生成する方法であって、
    前記ビデオコンテンツの少なくとも1つのプログラミングタイプを特定するステップと、
    前記プログラミングタイプの少なくとも1つのシーンをカテゴリ化するステップと、
    前記シーンにおける関心位置及び関心オブジェクトの少なくとも1つを特定することによって、前記シーンの少なくとも1つにおける少なくとも1つの関心領域を規定するステップと、
    を有する方法。
  2. 前記少なくとも1つの関心領域は、ユーザ入力を介し規定される、請求項1記載の方法。
  3. 前記少なくとも1つの関心領域は、前記シーンにおける所定の関心位置及び関心オブジェクトの少なくとも1つを適用することにより規定される、請求項1記載の方法。
  4. 前記少なくとも1つの関心領域は、ユーザ入力と、前記シーンにおける所定の関心位置及び関心オブジェクトの少なくとも1つとの組み合わせを介し規定される、請求項1記載の方法。
  5. 前記少なくとも1つの関心領域は、以前のユーザの選択を適用することにより規定される、請求項1記載の方法。
  6. 前記少なくとも1つの関心領域は、リモートソースから受信される情報を適用することにより規定される、請求項1記載の方法。
  7. 前記リモートソースから受信される情報は、前記リモートソースにおいて決定されたユーザ選択、関心位置及び関心オブジェクトの少なくとも1つを有する、請求項6記載の方法。
  8. 前記少なくとも1つの規定された関心領域は、受信機において決定される、請求項1記載の方法。
  9. 前記少なくとも1つの規定された関心領域は、ビデオコンテンツソースにおいて決定され、リモートサーバに通信される、請求項1記載の方法。
  10. 前記少なくとも1つのプログラミングタイプと前記シーンとは、受信した情報を用いて特定及びカテゴリ化される、請求項1記載の方法。
  11. 前記少なくとも1つのプログラミングタイプと前記シーンとを特定及びカテゴリ化するための情報は、前記ビデオコンテンツのリモートソースから受信される、請求項10記載の方法。
  12. ビデオコンテンツにおいて関心領域を生成する装置であって、
    前記ビデオコンテンツの少なくとも1つのプログラミングタイプを特定するステップと、
    前記プログラミングタイプの少なくとも1つのシーンをカテゴリ化するステップと、
    前記シーンにおける関心位置及び関心オブジェクトの少なくとも1つを特定することによって、前記シーンの少なくとも1つにおける少なくとも1つの関心領域を規定するステップと、
    を実行するよう構成される処理モジュールを有する装置。
  13. 受信した符号化されたビデオコンテンツを復号化するデコーダをさらに有する、請求項12記載の装置。
  14. 前記ビデオコンテンツの特定されたプログラミングタイプとカテゴリ化されたシーンとを格納するメモリをさらに有する、請求項12記載の装置。
  15. 前記メモリに格納される特定されたプログラミングタイプは、プログラミングライブラリを構成する、請求項14記載の装置。
  16. 前記メモリに格納されるカテゴリ化されたシーンは、シーンライブラリを構成する、請求項14記載の装置。
  17. 前記特定された関心位置及び関心オブジェクトは、前記メモリに格納され、オブジェクトライブラリを構成する、請求項14記載の装置。
  18. ユーザが関心領域を規定するための嗜好を特定することを可能にするユーザインタフェースをさらに有する、請求項12記載の装置。
  19. 前記ユーザインタフェースは、無線リモコン、マウスやトラックボールなどのポインティングデバイス、音声認識システム、タッチ画面、オンスクリーンメニュー、ボタン及びノブの少なくとも1つを有する、請求項18記載の装置。
  20. 当該装置は、再生装置を有する、請求項12記載の装置。
  21. 当該装置は、受信機を有する、請求項12記載の装置。
  22. 当該装置は、送信機を有する、請求項12記載の装置。
  23. ビデオコンテンツにおいて関心領域を生成するシステムであって、
    前記ビデオコンテンツを配信するコンテンツソースと、
    前記ビデオコンテンツを受信し、表示用に前記受信したビデオコンテンツを構成する受信装置と、
    前記受信装置からの前記ビデオコンテンツを表示する表示装置と、
    前記ビデオコンテンツの少なくとも1つのプログラミングタイプを特定するステップと、前記プログラミングタイプの少なくとも1つのシーンをカテゴリ化するステップと、前記シーンにおける関心位置及び関心オブジェクトの少なくとも1つを特定することによって、前記シーンの少なくとも1つにおける少なくとも1つの関心領域を規定するステップとを実行するよう構成される処理モジュールと、
    を有するシステム。
  24. 前記処理モジュールは、前記受信機に配置され、
    前記受信機は、前記ビデオコンテンツの特定されたプログラミングタイプとカテゴリ化されたシーンとを格納するメモリを有する、請求項23記載のシステム。
  25. 前記受信装置はさらに、ユーザが関心領域を規定するための嗜好を特定することを可能にするユーザインタフェースを有する、請求項24記載のシステム。
  26. 前記処理モジュールは、前記コンテンツソースに配置され、
    前記コンテンツソースは、前記ビデオコンテンツの特定されたプログラミングタイプとカテゴリ化されたシーンとを格納するメモリを有する、請求項23記載のシステム。
  27. 前記コンテンツソースはさらに、ユーザが関心領域を規定するための嗜好を特定することを可能にするユーザインタフェースを有する、請求項26記載のシステム。
  28. 前記受信装置は、ビデオ/オーディオ再生装置を有する、請求項23記載のシステム。
  29. 前記コンテンツソースは、サーバから構成される、請求項23記載のシステム。
JP2009533288A 2006-10-20 2006-10-20 ビデオコンテンツにおける関心領域を生成する方法、装置及びシステム Expired - Fee Related JP5591538B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2006/041223 WO2008048268A1 (en) 2006-10-20 2006-10-20 Method, apparatus and system for generating regions of interest in video content

Publications (2)

Publication Number Publication Date
JP2010507327A true JP2010507327A (ja) 2010-03-04
JP5591538B2 JP5591538B2 (ja) 2014-09-17

Family

ID=38180578

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009533288A Expired - Fee Related JP5591538B2 (ja) 2006-10-20 2006-10-20 ビデオコンテンツにおける関心領域を生成する方法、装置及びシステム

Country Status (7)

Country Link
US (1) US20100034425A1 (ja)
EP (1) EP2074588A1 (ja)
JP (1) JP5591538B2 (ja)
KR (1) KR101334699B1 (ja)
CN (1) CN101529467B (ja)
BR (1) BRPI0622048B1 (ja)
WO (1) WO2008048268A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9020259B2 (en) 2009-07-20 2015-04-28 Thomson Licensing Method for detecting and adapting video processing for far-view scenes in sports video
US9681139B2 (en) 2013-03-07 2017-06-13 Samsung Electronics Co., Ltd. Method and apparatus for ROI coding using variable block size coding information

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8634607B2 (en) * 2003-09-23 2014-01-21 Cambridge Research & Instrumentation, Inc. Spectral imaging of biological samples
JP2009539175A (ja) * 2006-05-31 2009-11-12 トムソン ライセンシング 映像対象の複数追跡
US9239958B2 (en) 2007-11-09 2016-01-19 The Nielsen Company (Us), Llc Methods and apparatus to measure brand exposure in media streams
EP2338278B1 (en) 2008-09-16 2015-02-25 Intel Corporation Method for presenting an interactive video/multimedia application using content-aware metadata
US20110123117A1 (en) * 2009-11-23 2011-05-26 Johnson Brian D Searching and Extracting Digital Images From Digital Video Files
CN102075689A (zh) * 2009-11-24 2011-05-25 新奥特(北京)视频技术有限公司 一种快速制作动画的字幕机
WO2011140786A1 (zh) * 2010-10-29 2011-11-17 华为技术有限公司 一种视频兴趣物体提取与关联的方法及系统
US9838687B1 (en) 2011-12-02 2017-12-05 Amazon Technologies, Inc. Apparatus and method for panoramic video hosting with reduced bandwidth streaming
US9516225B2 (en) 2011-12-02 2016-12-06 Amazon Technologies, Inc. Apparatus and method for panoramic video hosting
US9723223B1 (en) 2011-12-02 2017-08-01 Amazon Technologies, Inc. Apparatus and method for panoramic video hosting with directional audio
CN103903221B (zh) * 2012-12-24 2018-04-27 腾讯科技(深圳)有限公司 一种图片生成方法、装置和系统
US10904700B2 (en) * 2013-09-18 2021-01-26 D2L Corporation Common platform for personalized/branded applications
US20150103184A1 (en) * 2013-10-15 2015-04-16 Nvidia Corporation Method and system for visual tracking of a subject for automatic metering using a mobile device
US9781356B1 (en) 2013-12-16 2017-10-03 Amazon Technologies, Inc. Panoramic video viewer
US9852520B2 (en) * 2014-02-11 2017-12-26 International Business Machines Corporation Implementing reduced video stream bandwidth requirements when remotely rendering complex computer graphics scene
US10104286B1 (en) 2015-08-27 2018-10-16 Amazon Technologies, Inc. Motion de-blurring for panoramic frames
US10609379B1 (en) 2015-09-01 2020-03-31 Amazon Technologies, Inc. Video compression across continuous frame edges
US9843724B1 (en) 2015-09-21 2017-12-12 Amazon Technologies, Inc. Stabilization of panoramic video
US11202117B2 (en) * 2017-07-03 2021-12-14 Telefonaktiebolaget Lm Ericsson (Publ) Methods for personalized 360 video delivery
CN109286824B (zh) * 2018-09-28 2021-01-01 武汉斗鱼网络科技有限公司 一种直播用户侧控制的方法、装置、设备及介质
EP4350683A1 (en) * 2021-10-20 2024-04-10 Samsung Electronics Co., Ltd. Display apparatus and controlling method thereof
KR20230056497A (ko) * 2021-10-20 2023-04-27 삼성전자주식회사 디스플레이 장치 및 그 제어 방법
KR20230075893A (ko) * 2021-11-23 2023-05-31 삼성전자주식회사 디스플레이 장치 및 그 제어 방법

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003283993A (ja) * 2002-03-27 2003-10-03 Sanyo Electric Co Ltd 映像情報記録再生装置及び映像情報記録再生方法
WO2005031609A1 (en) * 2003-09-30 2005-04-07 Koninklijke Philips Electronics, N.V. Method and apparatus for identifying the high level structure of a program
JP2005536937A (ja) * 2002-08-26 2005-12-02 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 一連のビデオ画像中でのコンテンツ特性の検出用のユニット及び方法
JP2006503384A (ja) * 2002-10-15 2006-01-26 リサーチ・アンド・インダストリアル・コーポレイション・グループ ユーザー選好度に基づくマルチメディアコンテンツサービスシステムと方法及びその記録媒体
JP2006033506A (ja) * 2004-07-16 2006-02-02 Sony Corp 遠隔編集システム、主編集装置、遠隔編集装置、編集方法、編集プログラム、及び記憶媒体
JP2006080621A (ja) * 2004-09-07 2006-03-23 Matsushita Electric Ind Co Ltd 映像概要一覧表示装置
JP2006087098A (ja) * 2004-09-17 2006-03-30 Thomson Licensing 受信器で視聴覚的記録を見る方法及びそのような記録を見るための受信器
KR20060060630A (ko) * 2006-03-30 2006-06-05 한국정보통신대학교 산학협력단 멀티미디어 이동형 단말을 위한 운동경기 비디오의 지능적디스플레이 방법

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6584221B1 (en) * 1999-08-30 2003-06-24 Mitsubishi Electric Research Laboratories, Inc. Method for image retrieval with multiple regions of interest
FR2801991B1 (fr) * 1999-12-03 2002-05-03 Canon Kk Procede et dispositif de recherche d'images basee sur le contenu prenant en compte le contenu de regions d'interet
US6782395B2 (en) * 1999-12-03 2004-08-24 Canon Kabushiki Kaisha Method and devices for indexing and seeking digital images taking into account the definition of regions of interest
US6704024B2 (en) * 2000-08-07 2004-03-09 Zframe, Inc. Visual content browsing using rasterized representations
US6993169B2 (en) * 2001-01-11 2006-01-31 Trestle Corporation System and method for finding regions of interest for microscopic digital montage imaging
US6904176B1 (en) * 2001-09-19 2005-06-07 Lightsurf Technologies, Inc. System and method for tiled multiresolution encoding/decoding and communication with lossless selective regions of interest via data reuse
US6965645B2 (en) * 2001-09-25 2005-11-15 Microsoft Corporation Content-based characterization of video frame sequences
EP1403778A1 (en) * 2002-09-27 2004-03-31 Sony International (Europe) GmbH Adaptive multimedia integration language (AMIL) for adaptive multimedia applications and presentations
US7116833B2 (en) * 2002-12-23 2006-10-03 Eastman Kodak Company Method of transmitting selected regions of interest of digital video data at selected resolutions
US20060062478A1 (en) * 2004-08-16 2006-03-23 Grandeye, Ltd., Region-sensitive compression of digital video
US8913830B2 (en) * 2005-01-18 2014-12-16 Siemens Aktiengesellschaft Multilevel image segmentation
US8977063B2 (en) * 2005-03-09 2015-03-10 Qualcomm Incorporated Region-of-interest extraction for video telephony
US8024768B2 (en) * 2005-09-15 2011-09-20 Penthera Partners, Inc. Broadcasting video content to devices having different video presentation capabilities
US7876978B2 (en) * 2005-10-13 2011-01-25 Penthera Technologies, Inc. Regions of interest in video frames

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003283993A (ja) * 2002-03-27 2003-10-03 Sanyo Electric Co Ltd 映像情報記録再生装置及び映像情報記録再生方法
JP2005536937A (ja) * 2002-08-26 2005-12-02 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 一連のビデオ画像中でのコンテンツ特性の検出用のユニット及び方法
JP2006503384A (ja) * 2002-10-15 2006-01-26 リサーチ・アンド・インダストリアル・コーポレイション・グループ ユーザー選好度に基づくマルチメディアコンテンツサービスシステムと方法及びその記録媒体
WO2005031609A1 (en) * 2003-09-30 2005-04-07 Koninklijke Philips Electronics, N.V. Method and apparatus for identifying the high level structure of a program
JP2006033506A (ja) * 2004-07-16 2006-02-02 Sony Corp 遠隔編集システム、主編集装置、遠隔編集装置、編集方法、編集プログラム、及び記憶媒体
JP2006080621A (ja) * 2004-09-07 2006-03-23 Matsushita Electric Ind Co Ltd 映像概要一覧表示装置
JP2006087098A (ja) * 2004-09-17 2006-03-30 Thomson Licensing 受信器で視聴覚的記録を見る方法及びそのような記録を見るための受信器
KR20060060630A (ko) * 2006-03-30 2006-06-05 한국정보통신대학교 산학협력단 멀티미디어 이동형 단말을 위한 운동경기 비디오의 지능적디스플레이 방법

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9020259B2 (en) 2009-07-20 2015-04-28 Thomson Licensing Method for detecting and adapting video processing for far-view scenes in sports video
US9681139B2 (en) 2013-03-07 2017-06-13 Samsung Electronics Co., Ltd. Method and apparatus for ROI coding using variable block size coding information

Also Published As

Publication number Publication date
KR20090086951A (ko) 2009-08-14
EP2074588A1 (en) 2009-07-01
JP5591538B2 (ja) 2014-09-17
CN101529467B (zh) 2013-05-22
WO2008048268A1 (en) 2008-04-24
KR101334699B1 (ko) 2013-12-02
US20100034425A1 (en) 2010-02-11
CN101529467A (zh) 2009-09-09
BRPI0622048A2 (pt) 2014-06-10
BRPI0622048B1 (pt) 2018-09-18

Similar Documents

Publication Publication Date Title
JP5591538B2 (ja) ビデオコンテンツにおける関心領域を生成する方法、装置及びシステム
US9979788B2 (en) Content synchronization apparatus and method
EP3375197B1 (en) Image display apparatus and method of operating the same
JP4955544B2 (ja) ズーム可能ユーザインターフェースのためのクライアント/サーバアーキテクチャおよび方法
US8378923B2 (en) Locating and displaying method upon a specific video region of a computer screen
US8918737B2 (en) Zoom display navigation
US20090259955A1 (en) System and method for providing digital multimedia presentations
US20100088630A1 (en) Content aware adaptive display
US20030122861A1 (en) Method, interface and apparatus for video browsing
US6538676B1 (en) Video token tracking system for overlay of metadata upon video data
JP2004064784A (ja) 複数のユーザへマルチリゾリューションビデオを提供する方法、コンピュータプログラムプロダクト、及び装置
US9141190B2 (en) Information processing apparatus and information processing system
US20100325552A1 (en) Media Asset Navigation Representations
US20200045363A1 (en) Gaze-Responsive Advertisement
CN107786905B (zh) 一种视频分享的方法、装置
CN112073798B (zh) 一种数据传输方法及设备
CN1784647A (zh) 用于组织、选择和启动媒体项的带有可缩放的图形用户界面的控制架构
JP4513667B2 (ja) 映像情報入力・表示方法及び装置及びプログラム及びプログラムを格納した記憶媒体
JP2016012351A (ja) クライアントデバイスにより超高解像度ビデオコンテンツ内をナビゲートするための方法、システムおよびデバイス
EP2605512B1 (en) Method for inputting data on image display device and image display device thereof
US9094731B2 (en) Method for providing multimedia content list, and multimedia apparatus applying the same
US20090328102A1 (en) Representative Scene Images
US20070083893A1 (en) Display apparatus and control method thereof
CN112399235A (zh) 一种智能电视的摄像头拍照效果增强方法及显示设备
CN116684671A (zh) 电视控制方法、电视控制设备及可读存储介质

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120228

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120524

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130212

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130513

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130520

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130812

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131112

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140210

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140218

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140502

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140527

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140610

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140701

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140730

R150 Certificate of patent or registration of utility model

Ref document number: 5591538

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees