JP5906515B2 - ジェスチャーを用いてマルチメディアクリップを取り込むこと - Google Patents

ジェスチャーを用いてマルチメディアクリップを取り込むこと Download PDF

Info

Publication number
JP5906515B2
JP5906515B2 JP2014528821A JP2014528821A JP5906515B2 JP 5906515 B2 JP5906515 B2 JP 5906515B2 JP 2014528821 A JP2014528821 A JP 2014528821A JP 2014528821 A JP2014528821 A JP 2014528821A JP 5906515 B2 JP5906515 B2 JP 5906515B2
Authority
JP
Japan
Prior art keywords
multimedia clip
clip
multimedia
processor
item
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014528821A
Other languages
English (en)
Other versions
JP2014530515A (ja
Inventor
リ、ウェンロン
ディン、ダヨン
トーン、シァオフェン
ドゥ、ヤンチョウ
ワン、ペン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of JP2014530515A publication Critical patent/JP2014530515A/ja
Application granted granted Critical
Publication of JP5906515B2 publication Critical patent/JP5906515B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/482End-user interface for program selection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4126The peripheral being portable, e.g. PDAs or mobile phones
    • H04N21/41265The peripheral being portable, e.g. PDAs or mobile phones having a remote control device for bidirectional communication between the remote control device and client device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/258Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
    • H04N21/25866Management of end-user data
    • H04N21/25891Management of end-user data being end-user preferences
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/418External card to be used in combination with the client device, e.g. for conditional access
    • H04N21/4183External card to be used in combination with the client device, e.g. for conditional access providing its own processing capabilities, e.g. external module for video decoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213Monitoring of end-user related data
    • H04N21/44218Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4722End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting additional data associated with the content
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/478Supplemental services, e.g. displaying phone caller identification, shopping application
    • H04N21/4788Supplemental services, e.g. displaying phone caller identification, shopping application communicating with other users, e.g. chatting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/632Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing using a connection between clients on a wide area network, e.g. setting up a peer-to-peer communication via Internet for retrieving video segments from the hard-disk of other client devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Social Psychology (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Graphics (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)

Description

本発明は包括的には、放送及びストリーミングテレビ、映画並びにインタラクティブゲームを含む、ビデオに関する。
アナログ信号又はデジタル信号の無線周波数送信を用いてテレビ番組を放送することによってテレビ映像を配信することができる。さらに、テレビ番組はケーブルシステム及び衛星放送システムを介して配信することもできる。最終的には、テレビ映像はストリーミングを用いてインターネットを介して配信することができる。本明細書において用いられるときに、「テレビ送信」という用語は、これらのテレビ映像配信形式の全てを含む。本明細書において用いられるときに、「テレビ映像」とは、コマーシャルの有無にかかわらず、番組コンテンツの配信を意味し、従来のテレビ番組、及びビデオゲームの配信の両方を含む。
ユーザーがどの番組を視聴しているかを判断するシステムが既知である。例えば、IntoNowサービスは、視聴されているテレビ番組からの音声信号を携帯電話上に録音し、それらの信号を解析し、その情報を用いて、視聴者がどの番組を視聴しているかを判断する。音声解析が抱える1つの問題は、周囲雑音からの劣化を受けることである。当然、視聴環境における周囲雑音は共通であり、それゆえ、音声に基づくシステムは著しい制約を受ける。
本発明の一実施形態のハイレベルアーキテクチャーを示す図である。 本発明の一実施形態に係る、セットトップボックスのブロック図である。 本発明の一実施形態に係る、マルチメディアグラバーに関する流れ図である。 本発明の一実施形態に係る、モバイルグラバーに関する流れ図である。 本発明の一実施形態に係る、画像検索を実行するクラウド利用システムに関する流れ図である。 一実施形態に係る、テーブルを維持するシーケンスに関する流れ図である。
幾つかの実施形態によれば、1人又は複数の視聴者が能動的に選局し、現在視聴しているテレビ送信から、ビデオフレーム、ビデオクリップ、メタデータ又は音声の時間限定の電子的表現のようなマルチメディアクリップを捕捉することができる。ハンドジェスチャーを認識して、検索するために現在再生されているマルチメディアクリップを選択することができる。一実施形態では、その後、このマルチメディアクリップはモバイルデバイスに送信することができる。その後、モバイルデバイスは検索するためにその情報をサーバーに送信することができる。例えば、最終的に画像検索を用いて、ビデオ内にいる俳優を判断することができる。コンテンツが識別されると、視聴者に種々の他のサービスを提供することができる。これらのサービスは更なるコンテンツを提供することを含むことができ、それら更なるコンテンツは、絞り込んだ更なる広告コンテンツ、ソーシャルネットワーキングサービス、及び視聴番組推奨を含む。
図1を参照すると、テレビ画面又はモニターのようなディスプレイ画面20をプロセッサベースシステム14に結合することができ、そのデバイスは、デジタル映画又はビデオゲームを含むテレビ送信12のような、ビデオソースに更に結合される。このソースは、アナログ信号若しくはデジタル信号の無線周波数放送、ケーブル配信、若しくは衛星放送配信を含む、インターネット若しくは放送電波を介して配信することができるか、又はDVDプレーヤーのような記憶デバイスから得ることができる。プロセッサベースシステム14はビデオプレーヤー(例えば、テレビ受信機)とは別のスタンドアローンデバイスとすることができるか、又はビデオプレーヤー内に統合することができる。例えば、そのシステムは、従来のセットトップボックスの構成要素を含むことができ、実施形態によっては、受信されたテレビ送信をデコードする役割を担うこともできる。
一実施形態では、プロセッサベースシステム14は、受信機(一実施形態ではシステム14の一部とすることができる)によって現在選局されているデコードされたテレビ送信から、ビデオフレーム、ビデオクリップ(すなわち、一連のフレーム)、メタデータ又は音声の電子的表現を捕捉するマルチメディアグラバー16を含む。プロセッサベースシステム14は有線又は無線インターフェース18も含むことができ、そのインターフェースによって、捕捉されたマルチメディアを外部制御デバイス24に送信できるようになる。この送信は、テレビ受信機及びセットトップボックス内で広く利用可能である、ユニバーサルシリアルバス(USB)接続のような有線接続を介して、又は無線周波数信号を用いる送信媒体及び光信号を用いる送信媒体を含む、任意の利用可能な無線送信媒体を介して行うことができる。メタデータは、コンテンツ自体についてのメタデータ(例えば、ランク付け情報、プロット、ディレクター名、封切りされた年)とすることができる。
一実施形態では、ビデオクリップのデコードされていない、又は生の電子的表現が制御デバイス24に転送される場合がある。ビデオクリップは、制御デバイス24においてローカルにデコードすることができるか、又は、例えば、サーバー30においてリモートでデコードすることができる。
システム14及び/又はディスプレイ20には、ハンドジェスチャーのようなユーザージェスチャーコマンドを検出するために視聴者の画像を取り込むビデオカメラ17も結合される。ジェスチャーコマンドは、画像解析を介して、コンピューター入力として認識される任意の動きである。
制御デバイス24は、数例を挙げると、携帯電話、ラップトップコンピューター、タブレットコンピューター、モバイルインターネットデバイス、又はテレビ受信機用のリモートコントロールを含む、モバイルデバイスとすることができる。デバイス24は、デスクトップコンピューター又はエンタテインメントシステムのような、モバイル以外とすることもできる。一実施形態では、デバイス24及びシステム14は、無線ホームネットワークの一部とすることができる。一般的に、デバイス24は、テレビディスプレイ画面とは別に情報を表示できるように、自らの別のディスプレイを有する。デバイス24が自らのディスプレイを含まない実施形態では、ピクチャーインピクチャーディスプレイ等によって、テレビディスプレイ上にディスプレイを重ねて表示することができる。
一実施形態では、制御デバイス24はクラウド28と通信することができる。デバイス24が、例えば、携帯電話である場合、そのデバイスは携帯電話信号26によってクラウドと通信することができ、その信号は最終的にインターネットを介して搬送される。他の場合には、デバイス24は、ネットワーク接続のような有線接続を通してインターネットと通信することができる。更に別の例として、デバイス24は、テレビトランスポート媒体を介して通信することができる。例えば、ケーブルシステムの場合、デバイス24は、ケーブルシステムを通してケーブルヘッドエンド11又はサーバー30に信号を与えることができる。当然、実施形態によっては、これは、利用可能な送信帯域幅のうちの幾らかを消費する場合もある。実施形態によっては、デバイス24はモバイルデバイス以外とすることができ、更にはプロセッサベースシステム14の一部とすることもできる。
図2を参照すると、プロセッサベースシステム14の一実施形態が表されるが、数多くの他のアーキテクチャーも使用することができる。図2に表されるアーキテクチャーは、インテル社から市販されるCE4100プラットフォームに対応する。そのアーキテクチャーは、システムインターコネクト25に結合される中央処理ユニット24を含む。そのシステムインターコネクトはNANDコントローラー26、マルチフォーマットハードウェアデコーダー28、ディスプレイプロセッサ30、グラフィックスプロセッサ32及びビデオディスプレイコントローラー34に結合される。一実施形態では、デコーダー28と、プロセッサ30及び32とは、コントローラー22に結合される場合がある。
システムインターコネクトは、トランスポートプロセッサ36、セキュリティプロセッサ38及びデュアル音声デジタルシグナルプロセッサ(DSP)40に結合される場合がある。デジタルシグナルプロセッサ40は、入力ビデオ送信をデコードする役割を担うことができる。汎用入力/出力(I/O)モジュール42は、例えば、WiFiアダプター18aのような無線アダプターに結合される場合がある。実施形態によっては、これによって、汎用入力/出力(I/O)モジュール42は無線制御デバイス24(図1)に信号を送信できるようになる。また、システムインターコネクト25には音声及びビデオ入力/出力デバイス44も結合される。このデバイス44はデコードビデオ出力を与えることができ、実施形態によっては、ビデオフレーム又はビデオクリップを出力するために用いることができる。
幾つかの実施形態では、プロセッサベースシステム14は、特定の判定基準が満たされると、マルチメディアクリップを出力するようにプログラミングすることができる。1つのそのような判定基準はユーザーハンドジェスチャーの検出である。カメラ17(図1)によってユーザーハンドジェスチャーを録画し、ビデオ解析を用いて解析して、表示を切り替えるコマンド(例えば、平手)、ユーザーが好きなもの(例えば、親指を立てる)又はユーザーが嫌いなもの(例えば、親指を下に向ける)のようなユーザー入力を認識することができる。システム14、制御デバイス24(図1)、サーバー30(図1)、ヘッドエンド11(図1)を含むテレビによって、又はテレビと制御デバイス24(図1)のような任意の組み合わせによってビデオ解析を実施することができる。ユーザーの好きなもの及び嫌いなもののリストをそれらのデバイスのうちの任意のものに記憶することもできる。
次に、図3を参照すると、プロセッサベースシステム14内でシーケンスを実施することができる。ここでもまた、そのシーケンスは、ファームウェア、ハードウェア及び/又はソフトウェアにおいて実現することができる。ソフトウェア又はファームウェアの実施形態では、そのシーケンスは、非一時的コンピューター可読媒体によって実施することができる。例えば、シーケンスを実施する命令は、システム14上の記憶装置70(図1)に記憶することができる。
最初に、判断部72におけるチェックが、グラバー機構が起動されているか否かを判断する。一実施形態では、システム14(又は幾つかの他のデバイス)がユーザーハンドジェスチャーを検出するときに、グラバーデバイス16(図1)を起動して、制御デバイス24(図1)にマルチメディアクリップを送信する。ハンドジェスチャーはビデオカメラ17によって録画することができる。電子ビデオ解析を用いて、マルチメディアクリップが取り込まれ、制御デバイス24に送信されるべきであることを示すハンドジェスチャーを検出することができる。転送されると、転送されたビデオクリップが制御デバイス24のディスプレイ上に現れることができる。その後、ブロック78において、マルチメディアクリップが捕捉され、制御デバイス24に送信される。
図4は、制御デバイス24(図1)の一実施形態に関するシーケンスを示す。このシーケンスはソフトウェア、ハードウェア及び/又はファームウェアにおいて実現することができる。ソフトウェア又はファームウェアに基づく実施形態では、そのシーケンスは、光学、磁気又は半導体記憶デバイスのような1つ又は複数の非一時的コンピューター可読媒体内に記憶されるコンピューター実行可能命令によって実現することができる。例えば、ソフトウェア又はファームウェアシーケンスは制御デバイス24(図1)上の記憶装置50に記憶することができる。
図1には、制御デバイス24がモバイルデバイスである実施形態が表されるが、モバイル以外の実施形態も考えられる。例えば、制御デバイス24はシステム14内に統合される場合がある。
判断部56において検出されるように、制御デバイス24がシステム14からマルチメディアクリップを受信するとき、幾つかの実施形態では、制御デバイス24は、注釈付きのマルチメディアクリップを解析するためにクラウド28に送信することができる(ブロック58)。その際、デバイス24はユーザーインターフェースを表示して、デバイス24上に現在表示されている取り込まれたクリップに注釈を付ける(ブロック57)際にユーザーを支援することができる。
幾つかの実施形態では、ブロック57において示されるように、クリップの解析を絞り込むために、ユーザーは注釈を付けることができる。注釈はクリップについての質問も含むことができ、その質問は、ソーシャルネットワーキングツールを介してクリップとともに注釈として配信される。例えば、制御デバイス24上の転送されるビデオクリップ上にテキストブロックを自動的に表示することができる。その際、ユーザーは、インターネット又はデータベース検索のキーワードとして用いることができるテキストを挿入することができる。また、ユーザーは検索絞り込みを与えるために特定の表現された物体を選択することもできる。例えば、クリップ内に2人の人々が現れる場合には、そのうちの1人が示される場合がある。その後、テキスト入力欄内に、ユーザーは、「この女優は誰か」を入力することができる。その後、その検索は、示された人を識別することに絞り込まれる。
クリップ内の人は、マウスカーソル又はタッチ画面を用いて選択することができる。また、画面を指しているユーザーの指のビデオ解析を用いて、ユーザーの絞り込みを識別することもできる。同様に、視線検出を同じようにして用いることもできる。
当然、他の実施形態では、マルチメディアクリップは、ネットワークを介して、画像検索及び/又は解析用の任意のサーバーに送信することができる。別の例として、マルチメディアクリップは、画像、テキスト又は音声解析のためにヘッドエンド11に送信することもできる。
音声の電子的表現が取り込まれた場合には、取り込まれた音声を、例えば、制御デバイス24、システム14又はクラウド28においてテキストに変換することができる。その後、そのテキストを検索して、テレビ番組を識別することができる。
同様に、メタデータを解析して、番組を識別するテキスト検索において使用する情報を識別することができる。幾つかの実施形態では、音声、メタデータ、ビデオフレーム又はビデオクリップのうちの2つ以上をキーワードインターネット又はデータベース検索のための入力として用いることができる。
転送されたビデオクリップは、ソーシャルネットワーキングツールを用いて、友人に配信することもできる。それらの友人は、ビデオクリップについての入力を与えることもでき、例えば、「この女優は誰か」のような注釈としてクリップに添付された質問に答えることができる。
その後、解析エンジンが、マルチメディア検索を実行して、視認されているテレビ送信を識別することができるか、又は、例として、場面若しくは俳優/女優識別、又は番組識別を含む、そのクリップについての他の情報を入手することができる。この検索は、簡単なインターネット又はデータベース検索とすることができるか、又は更に絞り込んだ検索とすることができる。
例えば、ブロック58における送信は、ビデオ取込みの現在時刻と、制御デバイス24の場所とを含むことができる。特定の時刻および特定の場所においてどの番組が放送又は送信されているかについての情報を用いて検索を絞り込むために、この情報を用いることができる。例えば、ウェブサイト上に、種々の時刻において種々の場所で利用可能なテレビ番組を関連付けるデータベースを設けることができ、このデータベースを画像検索して、取り込まれたフレームと一致する画像を見つけて、番組を識別することができる。
番組の識別は、視覚検索ツール又は画像検索ツールを用いることによって行うことができる。画像フレーム又は画像クリップが、検索データベース内の既存のフレーム又はクリップと照合される。場合によっては、検索において一連の一致を識別することができ、そのような場合に、それらの一致を制御デバイス24に返送することができる。判断部60におけるチェックが、検索結果が制御デバイス24によって受信されたと判断するとき、ブロック62において示されるように、その検索結果をユーザーに対して表示することができる。その後、制御デバイス24は、視認された正しい番組のような、ユーザーが望んだ情報に一致する検索結果のうちの1つのユーザー選択を受信する。その後、判断部64に示されるように、ユーザー選択が受信されると、その際、ブロック66において示されるように、選択された検索結果をクラウドに転送することができる。これにより、テレビ番組識別又は他のクエリを用いて、視聴者又は第三者に、他のサービスを提供できるようになる。
図5を参照すると、表されるシーケンスによって、クラウド28(図1)又は他の検索エンティティの動作が示される。そのシーケンスは、ソフトウェア、ファームウェア及び/又はハードウェアにおいて実現することができる。ソフトウェア又はファームウェアに基づく実施形態では、そのシーケンスは、非一時的コンピューター可読媒体によって実施することができる。例えば、図1に示されるサーバー30に関連付けられる記憶装置80上にコンピューター実行命令を記憶することができる。
クラウドを用いる実施形態が例示されるが、当然、他の実施形態では、同じシーケンスは、任意の適切なネットワークを介して結合される任意のサーバーによって、制御デバイス24自体によって、プロセッサベースシステム14によって、又はヘッドエンド11によって実施される場合がある。
最初に、図5の判断部82におけるチェックが、マルチメディアクリップが受信されたか否かを判断する。受信された場合には、マルチメディアがビデオフレーム又はビデオクリップである場合、ブロック84において示されるように、視覚検索が実行される。音声クリップの場合、音声をテキストに変換して、検索することができる。マルチメディアセグメントがメタデータである場合には、検索可能なコンテンツを得るために、メタデータを構文解析することができる。その後、ブロック86において、検索結果が、例えば、制御デバイス24に返送される。制御デバイス24は、検索結果のうちのいずれが最も関連があるかについてのユーザー入力又はユーザー選択を受信することができる。システムはユーザーからの選択を待ち、判断部88において判断されるように、選択が受信された場合、視聴されているテレビ番組に基づいてタスクを実行することができる(ブロック90)。
例えば、そのタスクは、ソーシャルネットワーキングのためにあらかじめ選択された友人グループに情報を与えることとすることができる。例えば、フェイスブックのユーザーの友人たちに、ユーザーが現時点でどの番組を視聴しているかを示すメッセージを自動的に送信することができる。その際、その友人たちは、フェイスブック上で視聴者と交流し、例えば、制御デバイス24を用いてテレビ番組についてチャットすることができる。
他の例として、そのタスクは、視聴者についてのデモグラフィック情報を解析し、異なる時刻に異なるユーザーによって視聴されている番組についての情報をヘッドエンド又は広告主に与えることとすることができる。更に別の代替形態は、特定の番組を視聴している視聴者に対して絞り込んだコンテンツを与えることを含む。例えば、次に放送される類似の番組についての情報を視聴者に与えることができる。視聴者が現在視聴している内容に絞り込んだ広告情報を視聴者に提供することができる。例えば、進行中のテレビ番組が特定の自動車を強調する場合には、自動車製造業者は、番組内で現在表示されている車両についての更なる情報を視聴者に与えるために更なる広告を提供することができる。この情報は、場合によっては、テレビ画面上にオーバーレイとして表示することができるが、例えば、制御デバイス24に関連付けられる別のディスプレイ上に表示することが有利な場合がある。その放送がインタラクティブゲームである場合には、そのゲームの進行についての情報をユーザーのソーシャルネットワーキンググループに送信することができる。同様に、同じようにして広告を使用することができ、デモグラフィックを収集することができる。
幾つかの実施形態では、複数のユーザーが同じテレビ番組を視聴している場合がある。世帯によっては、複数のテレビが利用可能な場合がある。したがって、数多くの異なるユーザーが本明細書において記述されるサービスを同時に使用したい場合がある。このため、プロセッサベースシステム14は、制御デバイス24の識別子、テレビ識別子及び番組情報を識別するテーブルを保持することができる。これにより、そのような実施形態において、プロセッサベースシステム14が単に種々のテレビに適応し、全てのテレビがプロセッサベースシステム14の下流において信号を受信することによって、ユーザーが部屋を移動しても、本明細書において記述されるサービスを受信し続けることができるようになる。
幾つかの実施形態では、テーブルはプロセッサベースシステム14に記憶することができるか、又はヘッドエンド11にアップロードすることができるか、又は場合によっては、制御デバイス24を通してクラウド28にアップロードすることもできる。
したがって、図6を参照すると、幾つかの実施形態では、シーケンス92を用いて、制御デバイス24(図1)、テレビディスプレイ画面20(図1)及び選択されたチャネルを関連付けるようにテーブルを維持することができる。その際、複数の異なるユーザーが同じテレビを通して、又は例えば、ホームエンターテイメントネットワーク内で同じプロセッサベースシステム14を通して全て接続される少なくとも2台以上のテレビにおいて、そのシステムを使用することができる。そのシーケンスは、ハードウェア、ソフトウェア及び/又はファームウェアとして実現することができる。ソフトウェア及びファームウェアの実施形態では、そのシーケンスは、磁気、半導体又は光学記憶装置のような少なくとも1つの非一時的コンピューター可読媒体に記憶されるコンピューター可読命令を用いて実現することができる。一実施形態では、記憶装置50を用いることができる(図1)。
最初に、ブロック94において示されるように、システム14は、そのシステムにコマンドを与える制御デバイスごとの識別子を受信し、記憶する。その後、ブロック96において示されるように、システム14を通して結合される種々のテレビを識別し、記録することができる。最後に、制御デバイス、チャネル及びテレビ受信機を関連付けるテーブルが設定される(ブロック100)。これにより、同じ制御デバイスに接続される複数のテレビを途切れることなく使用できるようになり、視聴者が部屋を移動しても、本明細書において記述されるサービスを受信し続けることができるようになる。さらに、複数の視聴者が同じテレビを視聴することができ、それぞれが独立して本明細書において記述されるサービスを受信することができる。
本明細書を通して「一実施形態」又は「1つの実施形態」を参照することは、その実施形態に関連して記述される特定の特徴、構造又は特性が本発明に包含される少なくとも1つの実施態様に含まれることを意味する。したがって、「一実施形態」又は「1つの実施形態において」という言い回しが現れても、必ずしも同じ実施形態を参照しているとは限らない。さらに、特定の特徴、構造又は特性は、例示される特定の実施形態以外の他の適切な形態において実施することができ、全てのそのような形態を本明細書の特許請求の範囲に包含することができる。
本発明は限られた数の実施形態に関して記述されてきたが、当業者はそれらの実施形態から数多くの変更形態及び変形形態を理解されよう。添付の特許請求の範囲は、本発明の真の趣旨及び範囲内に入る全てのそのような変更形態及び変形形態を含むことを意図している。
(項目1)
ユーザージェスチャーを検出する段階と、
上記ユーザージェスチャーを検出するのに応答して、マルチメディアクリップを自動的に取り込む段階と、
上記マルチメディアクリップを用いて、上記マルチメディアクリップについての更なる情報を入手する段階と
を備える、方法。
(項目2)
ビデオフレーム、ビデオクリップ、音声又はメタデータを表す電子クリップを取り込む段階を備える、項目1に記載の方法。
(項目3)
上記マルチメディアクリップをモバイルデバイスに自動的に転送する段階を備える、項目1に記載の方法。
(項目4)
上記マルチメディアクリップに関連する検索の結果を上記モバイルデバイスに与える段階を備える、項目3に記載の方法。
(項目5)
上記マルチメディアクリップを、遠隔サーバーに送信して上記検索を実行する段階を備える、項目3に記載の方法。
(項目6)
複数のモバイルデバイスを追跡する段階と、
上記複数のモバイルデバイスのそれぞれから要求を受信する段階と、
各モバイルデバイスに応答を与える段階と
を備える、項目1に記載の方法。
(項目7)
複数のモバイルデバイスと、テレビと、複数のモバイルデバイスからの要求とを関連付けるテーブルを維持する段階を備える、項目6に記載の方法。
(項目8)
ソーシャルネットワーキングツールを用いて上記マルチメディアクリップを自動的に配信する段階を備える、項目1に記載の方法。
(項目9)
デコードされたテレビクリップを自動的に取り込む段階を備える、項目1に記載の方法。
(項目10)
上記テレビクリップをモバイルデバイスに自動的に転送する段階と、
上記テレビクリップを上記モバイルデバイス上に表示する段階と、
ユーザーが上記モバイルデバイス上の上記テレビクリップに注釈を付けられるようにする段階と
を備える、項目9に記載の方法。
(項目11)
少なくとも1つの非一時的コンピューター可読媒体であり、
コンピューターに、
ユーザージェスチャーコマンドを検出させるための命令と、
上記ユーザージェスチャーコマンドの検出に応答して、テレビ番組からデコードされた電子信号を取り込ませるための命令と、
上記電子信号を用いて検索を開始し、上記テレビ番組の識別を促進させるための命令と
を記憶する媒体。
(項目12)
ビデオフレーム、ビデオクリップ、音声又はメタデータの形式の、デコードされた電子信号を取り込ませるための命令を更に記憶する、項目11に記載の媒体。
(項目13)
上記電子信号をモバイルデバイスに転送させるための命令を更に記憶する、項目11に記載の媒体。
(項目14)
検索の結果を上記モバイルデバイスに与えさせるための命令を更に記憶する、項目13に記載の媒体。
(項目15)
上記電子信号を、遠隔サーバーに送信して上記検索を実行させるための命令を更に記憶する、項目13に記載の媒体。
(項目16)
ソーシャルネットワーキングツールを用いて上記識別を配信させるための命令を更に記憶する、項目11に記載の媒体。
(項目17)
上記クリップをモバイルデバイス上に表示させるための命令を更に記憶する、項目11に記載の媒体。
(項目18)
上記ユーザーが上記クリップに注釈を付けられるようにさせるための命令を更に記憶する、項目17に記載の媒体。
(項目19)
上記モバイルデバイス上の上記クリップの表示の上に重なるテキスト入力欄を自動的にオーバーレイさせるための命令を更に記憶する、項目18に記載の媒体。
(項目20)
ユーザーが上記クリップ内に表現されるアイテムを選択できるようにさせるための命令を更に記憶する、項目19に記載の媒体。
(項目21)
デバイス間で表示を変更するジェスチャーコマンドを取り込ませるための命令を更に記憶する、項目11に記載の媒体。
(項目22)
ジェスチャーコマンドを現在表示されているコンテンツに関連付けさせるための命令を更に記憶する、項目11に記載の媒体。
(項目23)
上記ユーザーが現在表示されているコンテンツを好むか否かを示すジェスチャーコマンドを認識させるための命令を更に記憶する、項目22に記載の媒体。
(項目24)
ハンドジェスチャーを検出し、ハンドジェスチャーを検出するのに応答してビデオから電子信号を自動的に取り込み、モバイルデバイス上に表示するために上記電子信号を送信するプロセッサと、
上記プロセッサに結合される記憶装置と
を備える、装置。
(項目25)
上記装置はテレビ受信機である、項目24に記載の装置。
(項目26)
上記装置は、テレビ受信システムに信号を送り、ビデオフレーム、ビデオクリップ、音声又はメタデータの形式の、デコードされた電子信号を取り込む、項目24に記載の装置。
(項目27)
上記装置は、テレビシステムから上記電子信号を受信し、上記電子信号を遠隔デバイスに送信して、データベース内で又はインターネットを介してキーワード検索を実行する、項目24に記載の装置。
(項目28)
上記装置はソーシャルネットワーキングツールを介して上記クリップを自動的に配信する、項目27に記載の装置。
(項目29)
上記装置はセットトップボックスである、項目28に記載の装置。
(項目30)
上記装置は、テレビ及び/又はモバイルデバイスを備える、項目24に記載の装置。

Claims (20)

  1. プロセッサベースシステムが、ユーザージェスチャーを検出するのに応答して、マルチメディアクリップを自動的に取り込む段階と、
    制御デバイスが、前記プロセッサベースシステムが前記マルチメディアクリップを取り込むのに応答して、取り込まれた前記マルチメディアクリップに注釈を付けるためのユーザーインターフェースを自動的に表示する段階と
    前記制御デバイスが、前記マルチメディアクリップに注釈を付ける段階と、
    前記制御デバイスが、前記注釈を用いて前記マルチメディアクリップについての更なる情報を入手する段階と
    を備える、方法。
  2. 前記プロセッサベースシステムが、ビデオフレーム、ビデオクリップ、音声又はメタデータを表す前記マルチメディアクリップを取り込む段階を備える、請求項1に記載の方法。
  3. 前記プロセッサベースシステムが、前記マルチメディアクリップを、前記制御デバイスであるモバイルデバイスに自動的に転送する段階を備える、請求項1または2に記載の方法。
  4. 前記制御デバイスが、前記マルチメディアクリップに関連する検索の結果を受信する段階を備える、請求項1からのいずれか一項に記載の方法。
  5. 前記制御デバイスが、前記注釈が付けられた前記マルチメディアクリップを、遠隔サーバーに送信して前記検索を実行する段階を備える、請求項4に記載の方法。
  6. 前記プロセッサベースシステムが、複数の前記モバイルデバイスのそれぞれの識別子を記憶する段階を備える、請求項に記載の方法。
  7. 前記プロセッサベースシステムが前記複数のモバイルデバイスと、テレビと、前記複数のモバイルデバイスからの要求とを関連付けるテーブルを維持する段階を備える、請求項6に記載の方法。
  8. コンピューターに、
    ユーザージェスチャーコマンドを検出するのに応答して自動的に取り込まれた、マルチメディアクリップを受信する手順と
    前記マルチメディアクリップを受信するのに応答して、取り込まれた前記マルチメディアクリップに注釈を付けるためのユーザーインターフェースを自動的に表示する手順と
    前記マルチメディアクリップに注釈を付ける手順と
    前記注釈を用いて前記マルチメディアクリップについての更なる情報を入手する手順
    を実行させる、コンピュータープログラム。
  9. 前記コンピューターに、ビデオフレーム、ビデオクリップ、音声又はメタデータの形式の、デコードされた前記マルチメディアクリップを取り込む手順をさらに実行させる、請求項8に記載のコンピュータープログラム。
  10. 前記コンピューターに、前記マルチメディアクリップをモバイルデバイスに転送する手順をさらに実行させる、請求項8または9に記載のコンピュータープログラム。
  11. 前記モバイルデバイスに、検索の結果を受信させる手順を実行させる、請求項10に記載のコンピュータープログラム。
  12. 前記モバイルデバイスに、前記マルチメディアクリップを遠隔サーバーに送信して前記検索を実行する手順を実行させる、請求項11に記載のコンピュータープログラム。
  13. 前記コンピューターに、ソーシャルネットワーキングツールを用いて前記注釈が付けられた前記マルチメディアクリップを配信する手順をさらに実行させる、請求項8から12のいずれか1項に記載のコンピュータープログラム。
  14. 前記モバイルデバイスに、前記マルチメディアクリップと前記ユーザーインターフェースとを表示する手順をさらに実行させる、請求項10から12のいずれか1項に記載のコンピュータープログラム。
  15. ユーザージェスチャーを検出するのに応答してマルチメディアクリップを自動的に取り込み、前記マルチメディアクリップを取り込むのに応答して、取り込まれた前記マルチメディアクリップに注釈を付けるためのユーザーインターフェースを自動的に表示し前記マルチメディアクリップに注釈を付け前記注釈を用いて前記マルチメディアクリップについての更なる情報を入手するプロセッサと、
    前記プロセッサに結合される記憶装置と
    を備える、装置。
  16. 前記装置はテレビ受信機である、請求項15に記載の装置。
  17. 前記装置は、テレビ受信システムに信号を送り、ビデオフレーム、ビデオクリップ、音声又はメタデータの形式の、デコードされた前記マルチメディアクリップを取り込む、請求項15または16に記載の装置。
  18. 前記装置は、テレビシステムから前記マルチメディアクリップを受信し、前記マルチメディアクリップを遠隔デバイスに送信して、データベース内で又はインターネットを介してキーワード検索を実行する、請求項15から17のいずれか1項に記載の装置。
  19. 前記装置はソーシャルネットワーキングツールを介してクリップを自動的に配信する、請求項18に記載の装置。
  20. 前記装置はセットトップボックスである、請求項19に記載の装置。
JP2014528821A 2011-09-12 2011-09-12 ジェスチャーを用いてマルチメディアクリップを取り込むこと Expired - Fee Related JP5906515B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2011/001548 WO2013037082A1 (en) 2011-09-12 2011-09-12 Using gestures to capture multimedia clips

Publications (2)

Publication Number Publication Date
JP2014530515A JP2014530515A (ja) 2014-11-17
JP5906515B2 true JP5906515B2 (ja) 2016-04-20

Family

ID=47882506

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014528821A Expired - Fee Related JP5906515B2 (ja) 2011-09-12 2011-09-12 ジェスチャーを用いてマルチメディアクリップを取り込むこと

Country Status (6)

Country Link
US (1) US20130276029A1 (ja)
EP (1) EP2756670A4 (ja)
JP (1) JP5906515B2 (ja)
KR (2) KR20140051450A (ja)
CN (1) CN103828379A (ja)
WO (1) WO2013037082A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10735792B2 (en) 2012-09-19 2020-08-04 Google Llc Using OCR to detect currently playing television programs
US9832413B2 (en) 2012-09-19 2017-11-28 Google Inc. Automated channel detection with one-way control of a channel source
US9866899B2 (en) 2012-09-19 2018-01-09 Google Llc Two way control of a set top box
US9788055B2 (en) 2012-09-19 2017-10-10 Google Inc. Identification and presentation of internet-accessible content associated with currently playing television programs
US10824666B2 (en) * 2013-10-10 2020-11-03 Aura Home, Inc. Automated routing and display of community photographs in digital picture frames
US20200089702A1 (en) 2013-10-10 2020-03-19 Pushd, Inc. Digital picture frames and methods of photo sharing
US10820293B2 (en) * 2013-10-10 2020-10-27 Aura Home, Inc. Digital picture frame with improved display of community photographs
US11669562B2 (en) 2013-10-10 2023-06-06 Aura Home, Inc. Method of clustering photos for digital picture frames with split screen display
CN103686353B (zh) * 2013-12-05 2017-08-25 惠州Tcl移动通信有限公司 一种云端多媒体信息抓捕的方法以及移动终端
DE102014004675A1 (de) 2014-03-31 2015-10-01 Audi Ag Gestenbewertungssystem, Verfahren zur Gestenbewertung und Fahrzeug
KR20160044954A (ko) * 2014-10-16 2016-04-26 삼성전자주식회사 정보 제공 방법 및 이를 구현하는 전자 장치
CN106155459B (zh) * 2015-04-01 2019-06-14 北京智谷睿拓技术服务有限公司 交互方法、交互装置及用户设备
JP7026056B2 (ja) * 2016-06-28 2022-02-25 インテル・コーポレーション ジェスチャ埋め込みビデオ
US11991469B2 (en) 2020-06-30 2024-05-21 Snap Inc. Skeletal tracking for real-time virtual effects

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1996034332A1 (fr) 1995-04-28 1996-10-31 Matsushita Electric Industrial Co., Ltd. Dispositif d'interface
JPH09247564A (ja) * 1996-03-12 1997-09-19 Hitachi Ltd テレビジョン受像機
JP2004213570A (ja) * 2003-01-08 2004-07-29 Sony Corp 情報提供方法
JP2005115607A (ja) * 2003-10-07 2005-04-28 Matsushita Electric Ind Co Ltd 映像検索装置
JP4711928B2 (ja) * 2005-10-27 2011-06-29 日本電信電話株式会社 コミュニケーション支援システムおよびプログラム
JP2008252841A (ja) * 2007-03-30 2008-10-16 Matsushita Electric Ind Co Ltd コンテンツ再生システム、コンテンツ再生装置、サーバおよびトピック情報更新方法
WO2009036435A1 (en) * 2007-09-14 2009-03-19 Auditude.Com, Inc. Restoring program information for clips of broadcast programs shared online
US8977958B2 (en) * 2007-11-20 2015-03-10 Microsoft Technology Licensing, Llc Community-based software application help system
US20090172546A1 (en) * 2007-12-31 2009-07-02 Motorola, Inc. Search-based dynamic voice activation
GB2459705B (en) * 2008-05-01 2010-05-12 Sony Computer Entertainment Inc Media reproducing device, audio visual entertainment system and method
US20090288120A1 (en) * 2008-05-15 2009-11-19 Motorola, Inc. System and Method for Creating Media Bookmarks from Secondary Device
US9246613B2 (en) * 2008-05-20 2016-01-26 Verizon Patent And Licensing Inc. Method and apparatus for providing online social networking for television viewing
US9077857B2 (en) 2008-09-12 2015-07-07 At&T Intellectual Property I, L.P. Graphical electronic programming guide
CN101437124A (zh) * 2008-12-17 2009-05-20 三星电子(中国)研发中心 面向电视控制的动态手势识别信号处理方法
US8799806B2 (en) * 2008-12-31 2014-08-05 Verizon Patent And Licensing Inc. Tabbed content view on a touch-screen device
EP2391970A1 (en) * 2009-01-30 2011-12-07 Thomson Licensing Method for controlling and requesting information from displaying multimedia
US20100302357A1 (en) * 2009-05-26 2010-12-02 Che-Hao Hsu Gesture-based remote control system
US8428368B2 (en) * 2009-07-31 2013-04-23 Echostar Technologies L.L.C. Systems and methods for hand gesture control of an electronic device
US9207765B2 (en) * 2009-12-31 2015-12-08 Microsoft Technology Licensing, Llc Recognizing interactive media input
FI20105105A0 (fi) * 2010-02-04 2010-02-04 Axel Technologies Medialaitteen käyttöliittymä
US9304592B2 (en) * 2010-11-12 2016-04-05 At&T Intellectual Property I, L.P. Electronic device control based on gestures
CN102012919B (zh) * 2010-11-26 2013-08-07 深圳市同洲电子股份有限公司 电视截屏图像关联搜索方法、装置及数字电视终端
US20120311624A1 (en) * 2011-06-03 2012-12-06 Rawllin International Inc. Generating, editing, and sharing movie quotes

Also Published As

Publication number Publication date
EP2756670A1 (en) 2014-07-23
CN103828379A (zh) 2014-05-28
US20130276029A1 (en) 2013-10-17
EP2756670A4 (en) 2015-05-27
JP2014530515A (ja) 2014-11-17
WO2013037082A8 (en) 2014-03-06
WO2013037082A1 (en) 2013-03-21
KR20140051450A (ko) 2014-04-30
KR20160003336A (ko) 2016-01-08

Similar Documents

Publication Publication Date Title
JP5906515B2 (ja) ジェスチャーを用いてマルチメディアクリップを取り込むこと
US11443511B2 (en) Systems and methods for presenting supplemental content in augmented reality
JP6935523B2 (ja) メディアアセットに関するコンテクスト上関係する情報を表示するための方法およびシステム
US9800927B2 (en) Smart media selection based on viewer user presence
US8301618B2 (en) Techniques to consume content and metadata
US20130347029A1 (en) Systems and methods for navigating to content without an advertisement
US20130297650A1 (en) Using Multimedia Search to Identify Products
US20150128158A1 (en) Systems and methods for recommending content
US10149008B1 (en) Systems and methods for assisting a user with identifying and replaying content missed by another user based on an alert alerting the other user to the missed content
US9866913B1 (en) Binary TV
US20180288122A1 (en) Recognition-Based Content Skipping
US9992517B2 (en) Providing enhanced content based on user interactions
KR101615930B1 (ko) 시청자들이 텔레비전에서 무엇을 시청하고 있는지 식별하기 위한 멀티미디어 검색 사용
US20140372424A1 (en) Method and system for searching video scenes
US20150149473A1 (en) Systems and methods for associating tags with media assets based on verbal input
US20130347035A1 (en) Systems and methods for navigating to a favorite content source without an advertisement
JP2014530390A (ja) マルチメディア探索を用いて製品を識別すること
US20160112751A1 (en) Method and system for dynamic discovery of related media assets

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150512

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150707

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160223

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160226

R150 Certificate of patent or registration of utility model

Ref document number: 5906515

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees