JP6668245B2 - 文脈情報に基づいて検索結果を生成するための方法、システム、および媒体 - Google Patents

文脈情報に基づいて検索結果を生成するための方法、システム、および媒体 Download PDF

Info

Publication number
JP6668245B2
JP6668245B2 JP2016543706A JP2016543706A JP6668245B2 JP 6668245 B2 JP6668245 B2 JP 6668245B2 JP 2016543706 A JP2016543706 A JP 2016543706A JP 2016543706 A JP2016543706 A JP 2016543706A JP 6668245 B2 JP6668245 B2 JP 6668245B2
Authority
JP
Japan
Prior art keywords
program
query
keywords
presented
search results
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016543706A
Other languages
English (en)
Other versions
JP2017503273A (ja
JP2017503273A5 (ja
Inventor
トロロープ,イングリッド・マクオーレイ
オズタスケント,アント
ボロビッチ,ヤロスラフ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Google LLC
Original Assignee
Google LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Google LLC filed Critical Google LLC
Publication of JP2017503273A publication Critical patent/JP2017503273A/ja
Publication of JP2017503273A5 publication Critical patent/JP2017503273A5/ja
Application granted granted Critical
Publication of JP6668245B2 publication Critical patent/JP6668245B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/60Information retrieval; Database structures therefor; File system structures therefor of audio data
    • G06F16/63Querying
    • G06F16/632Query formulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/60Information retrieval; Database structures therefor; File system structures therefor of audio data
    • G06F16/63Querying
    • G06F16/632Query formulation
    • G06F16/634Query by example, e.g. query by humming
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7834Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using audio features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7837Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content
    • G06F16/784Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content the detected or recognised objects being people

Description

関連出願との相互参照
本願は、2013年12月31日に出願された米国仮特許出願番号第61/922,218号の利益を主張する2014年2月26日に出願された米国特許出願番号第14/191,034号の利益を主張し、上記出願の全体が引用により本明細書に援用される。
技術分野
文脈情報に基づいて検索結果を生成するための方法、システム、および媒体が提供される。
背景
映画またはテレビ番組などの番組を見ている時、ユーザは、多くの質問の中でも特に、番組に出ている俳優の名前、番組の場所、その俳優がこれまでに他に何に出演したか、番組についての詳細、番組のプロットなどの、番組の内容についての質問があることが多い。これらの質問に対する答えを見つけることは、ユーザが、番組の名前を見つけ出すこと、検索エンジンまたは番組情報のデータベースを用いて番組についての詳細を探し求めること、および検索結果またはデータベースエントリを組合せることなどの、多数のステップを行なうことをしばしば伴い、これは、答えを見つけ出そうとしているユーザの質問に無関係であり得る。これはユーザにとって時間の掛かる手順であり得、ユーザが番組の大部分を見逃す原因となり得るか、さもなければユーザの視聴体験を中断させ得る。
したがって、文脈情報に基づいて検索結果を生成するための新たな方法、システム、および媒体が望まれる。
概要
開示される主題のいくつかの実現例に従って、文脈情報に基づいて検索結果を生成するためのメカニズムが提供される。
開示される主題のいくつかの実現例に従って、検索結果を提示するための方法が提供され、当該方法は、ハードウェアプロセッサを用いて、現在提示されているメディアに関するクエリを受信するステップと、現在提示されている番組を特定するステップと、特定した番組と関連付けられる複数のキーワードを特定するステップと、クエリに文脈的に関連している複数のキーワードの1つ以上を求めるステップと、クエリおよび文脈的に関連している1つ以上のキーワードに基づいて複数の検索結果を得るステップと、複数の検索結果の少なくとも1つをユーザに提示するステップとを含む。
開示される主題のいくつかの実現例に従って、検索結果を提示するためのシステムが提供され、当該システムは、ハードウェアプロセッサを含み、ハードウェアプロセッサは、現在提示されているメディアに関するクエリを受信し、現在提示されている番組を特定し、特定した番組と関連付けられる複数のキーワードを特定し、クエリに文脈的に関連している複数のキーワードの1つ以上を求め、クエリおよび文脈的に関連している1つ以上のキーワードに基づいて複数の検索結果を得て、複数の検索結果の少なくとも1つをユーザに提示するようにプログラムされている。
開示される主題のいくつかの実現例に従って、プロセッサによって実行されるとプロセッサに検索結果を提示するための方法を実行させるコンピュータ実行可能命令を含む非一時的なコンピュータ読取可能媒体が提供され、当該方法は、現在提示されているメディアに関するクエリを受信するステップと、現在提示されている番組を特定するステップと、特定した番組と関連付けられる複数のキーワードを特定するステップと、クエリに文脈的に関連している複数のキーワードの1つ以上を求めるステップと、クエリおよび文脈的に関連している1つ以上のキーワードに基づいて複数の検索結果を得るステップと、複数の検索結果の少なくとも1つをユーザに提示するステップとを含む。
開示される主題のいくつかの実現例に従って、検索結果を提示するためのシステムが提供され、当該システムは、現在提示されているメディアに関するクエリを受信するための手段と、現在提示されている番組を特定するための手段と、特定した番組と関連付けられる複数のキーワードを特定するための手段と、クエリに文脈的に関連している複数のキーワードの1つ以上を求めるための手段と、クエリおよび文脈的に関連している1つ以上のキーワードに基づいて複数の検索結果を得るための手段と、複数の検索結果の少なくとも1つをユーザに提示するための手段とを含む。
いくつかの実現例では、クエリは第1のデバイスから受信され、メディアは第2のデバイスによって提示され、複数の検索結果の少なくとも1つは第1のデバイスによって提示される。
いくつかの実現例では、システムはさらに、第1のデバイスからオーディオデータを受信するための手段と、受信したオーディオデータの第1のオーディオフィンガープリントを、複数の番組に対応するオーディオフィンガープリントと比較するための手段と、比較に基づいて、第1のオーディオフィンガープリントが対応する複数の番組のうちの第1の番組の識別情報(アイデンティティ)を受信するための手段とを含み、現在提示されている番組は、第1の番組の受信された識別情報に基づいて特定される。
いくつかの実現例では、システムはさらに、第1のオーディオフィンガープリントと、第1の番組と関連付けられる複数のオーディオフィンガープリントとの比較に基づいて、現在提示されている第1の番組のある部分を受信するための手段を含み、第1の番組と関連付けられる複数のオーディオフィンガープリントの各々は第1の番組の特定の部分に対応する。
いくつかの実現例では、クエリに文脈的に関連している複数のキーワードの1つ以上を求めるための手段は、複数のキーワードの1つ以上が、現在提示されている第1の番組の部分と関連付けられていると判断するための手段を含む。
いくつかの実現例では、複数のキーワードを特定するための手段は、番組と関連付けられるキーワードを求めて、複数の番組と関連付けられるキーワードのデータベースに問合せるための手段と、データベースの問合せに応答して、キーワードのデータベースから番組と関連付けられるキーワードを受信するための手段とを含む。
いくつかの実現例では、クエリに文脈的に関連している複数のキーワードの1つ以上を求めるための手段は、自然言語処理を用いて、複数のキーワードの1つ以上が、クエリの少なくとも一部に応答する種類のキーワードであると判断するための手段を含む。
いくつかの実現例では、キーワードは、番組に現れる対象物に対応する。
開示される主題のさまざまな目的、特徴、および利点は、以下の図面に関連して考慮されると、開示される主題の以下の詳細な説明を参照してより完全に認識され得る。図中、同様の参照番号は同様の要素を示す。
開示される主題のいくつかの実現例に従う、文脈情報に基づいて検索結果を生成するための処理の例を示す図である。 開示される主題のいくつかの実現例に従う、テレビ番組などのメディアコンテンツを提供しているデバイスと、検索クエリを受信するとクエリおよびテレビ番組に基づいて検索結果を提供するモバイルデバイスとの説明的な例を示す図である。 開示される主題のいくつかの実現例に従う、文脈情報に基づいて検索結果を生成するためのここに記載されるメカニズムの実現に好適な説明的なシステムの概略図である。 開示される主題のいくつかの実現例に従う、サーバ、および使用可能な図3のコンピューティングデバイスのうちの1つの詳細な例を示す図である。 開示される主題のいくつかの実現例に従う、文脈情報に基づいて検索結果を生成するためのフローの例を示す図である。
詳細な説明
開示される主題のいくつかの実現例に従って、文脈情報に基づいて検索結果を生成するためのメカニズムが提供される。
いくつかの実現例では、ここに記載されるメカニズムは、現在提示されているメディアコンテンツに関するクエリを受信することができる。たとえば、メカニズムはスマートフォンからクエリを受信することができ、当該クエリは、スマートフォンの場所で現在提示されているメディアコンテンツに関する。より特定の例では、クエリは「今テレビに出ているあの登場人物を私はどこで見た?」というフレーズを含んでもよい。
いくつかの実現例では、クエリに関連して、ここに記載されるメカニズムは、現在提示されているメディアコンテンツに関するメディアデータを受信することができる。たとえば、メカニズムは、スマートフォンによって録音された音声に基づいてオーディオデータおよび/またはオーディオフィンガープリントを受信することができる。いくつかの実現例では、このメディアデータをここに記載されるメカニズムによって用いて、現在提示されている番組を特定することができる。提示されているものについての情報は、番組の識別情報に基づいて、ここに記載されるメカニズムによって求めることができる。たとえば、オーディオフィンガープリントを用いて、提示されている番組の部分を求めることができ、番組のその部分に基づいて、その部分の間にビデオデータに現れる俳優(または登場人物)の識別情報を求めることができる。この情報(たとえばどの俳優がビデオデータに提示されているのか)は、いくつかの実現例では、クエリに応答して検索結果を得る際に、ここに記載されるメカニズムによって用いられ得る。さらに、いくつかの実現例では、ここに記載されるメカニズムは、クエリに対して検索結果を得る際に、クエリからの文脈情報を用いることができる。
いくつかの実現例では、ここに記載されるメカニズムは、検索結果をユーザに提示することができる。たとえば、ここに記載されるメカニズムは、スマートフォンからの「今テレビに出ているあの登場人物を私はどこで見た?」のクエリと、スマートフォンによって録音されたオーディオデータとを受信することができる。ここに記載されるメカニズムは、当該音声に対応する番組が「番組Z」であり、かつ、当該音声が、人物「俳優A」および「俳優B」がビデオデータに現れる番組の部分に対応すると判断することができる。クエリの文脈に基づいて、ここに記載されるメカニズムは、クエリが、番組の特定された部分の間にビデオデータに現れる人物に関しており、かつ、クエリが、その人物がこれまでに他に何に出演したかに関すると判断することができる。ここに記載されるメカニズムは、クエリがどの人物に差し向けられているかを判断できない場合、「俳優A」および「俳優B」の両者がこれまでに出演したものについての検索結果を得ることができる。メカニズムは次に、検索結果をスマートフォンによって提示することができる。たとえば、検索結果は、俳優の名前(たとえば「俳優A」、「俳優B」等)、俳優の画像、俳優がこれまでに出演したもの(たとえば時系列に、人気順に、等で編成される)、および/またはその他の好適な情報を含んでもよい。
図1を参照して、文脈情報に基づいて検索結果を生成するための処理の例100が、開示される主題のいくつかの実現例に従って示される。図1に示されるように、処理100は、102において、ユーザからのクエリを、当該クエリが現在提示されているメディアに差し向けられているという表示とともに受信することによって開始することができる。クエリは任意の好適な単数または複数の技術を用いて受信されてもよい。たとえば、いくつかの実現例では、処理100は、クエリを構成するのに用いられたコンピューティングデバイスからクエリを受信してもよい。クエリは任意の好適な単数または複数の技術を用いてコンピューティングデバイスによって構成されてもよい。たとえば、クエリは、スマートフォン、タブレットコンピュータ、ウェアラブルコンピュータ、ラップトップコンピュータ等のコンピューティングデバイス上のウェブブラウザを用いてアクセスされる検索エンジンと関連付けられる検索フィールド内に構成されてもよい。別の例として、クエリは、コンピューティングデバイス上にインストールされる検索アプリケーション(たとえば一般機能ウェブブラウザではないアプリケーション)を用いてアクセスされる検索エンジンと関連付けられる検索フィールド内に構成されてもよい。さらに別の例として、クエリは、現在提示されているメディアコンテンツについての情報を見つけて提示するためのアプリケーションと関連付けられる検索フィールド内に構成されてもよい。より特定の例では、クエリは、オーディオデータを受信し、当該オーディオデータを用いて現在提示されているメディアを特定するオーディオフィンガープリンティングアプリケーションの検索フィールド内に構成されてもよい。さらに別の例として、クエリは、クエリを解釈し、検索エンジン等と通信して検索結果を得ることができる、コンピューティングデバイス(いくつかの実現例ではバックグラウンドで実行されていてもよい)上で実行されるオペレーティングシステムまたは他のアプリケーションによって構成されてもよい。
いくつかの実現例では、検索クエリは任意の好適な技術を用いて構成されてもよい。たとえば、クエリを構成するのに用いられるデバイスは、キーボードまたはクエリのテキストを入力するためのその他の好適なデバイスを用いるユーザによって入力されるテキストを受信してもよい。別の例として、クエリを構成するデバイスは、(たとえばクエリを話すユーザによって)音声を受信してもよく、(たとえば音声を処理して語を抽出し、当該語に基づいてクエリを作成することによって)音声に基づいてクエリを構成してもよい。
いくつかの実現例では、処理100は、任意の好適な単数または複数の技術を用いて、クエリが現在提示されているメディアに差し向けられているという表示を受信することができる。たとえば、102で受信されたクエリは、クエリが現在提示されているメディアに差し向けられているという表示を含んでもよい。より特定の例では、クエリは、「今テレビに出ている」、「この番組」、「この映画」、「今画面上の」などのフレーズ、および/または、クエリに対する答えが現在提示されているメディアに関することを示すその他のフレーズを含んでもよい。いくつかの実現例では、クエリは、現在提示されているメディアコンテンツに関するクエリを開始するための特定のフレーズ(または特定のフレーズに類似の変形)を含まなければならない。
別の例として、102で受信されたクエリは、現在提示されているメディアに差し向けられるクエリを構成するようにプログラムされているアプリケーションまたはウェブページから受信されてもよい。そのような例では、処理100は、クエリが発生したアプリケーションおよび/またはウェブページに基づいて、クエリが現在提示されているメディアに関すると判断することができる。
104において、処理100は、現在提示されているメディアに対応する第1のメディアデータを受信することができる。いくつかの実現例では、処理100は、現在提示されている番組のオーディオデータを含むオーディオデータを受信することができる。たとえば、102で受信されたクエリを構成するのに用いられるコンピューティングデバイスは、メディアコンテンツを現在提示しているデバイスによって提示されるメディアコンテンツの音声の一部を録音することができる。この音声は、処理100を実行するデバイスによって受信されてもよい。別の例として、処理100は、提示されているメディアコンテンツから記録されたオーディオデータの一部に基づいて生成されるメディアコンテンツについてのオーディオフィンガープリントを受信することができる。そのような例では、オーディオフィンガープリントは、クエリを構成するのに用いられるデバイス、または、オーディオデータからオーディオフィンガープリントを生成するための処理を実行するサーバなどの別のデバイスによって作成されてもよい。
いくつかの実現例では、処理100は、現在提示されているメディアコンテンツと関連付けられるメタデータを受信することができる。たとえば、処理100は、現在提示されているメディアコンテンツと関連付けられる電子番組ガイドデータを受信することができる。別の例として、処理100は、番組と関連付けられるメタデータ(たとえばコンテンツプロバイダから番組とともに送信されるメタデータ)を受信することができる。
いくつかの実現例では、処理100は、現在提示されているメディアコンテンツの画像データの少なくとも一部を含む画像データを受信することができる。この画像データは、たとえば、102で受信されたクエリを構成するのに用いられるデバイスによってキャプチャされるメディアコンテンツのビデオデータを含んでもよい。たとえば、102で受信されたクエリを構成するのに用いられるコンピューティングデバイスは、メディアコンテンツを提示しているデバイスによって提示されるメディアコンテンツのビデオの一部を記録することができる。このビデオは、処理100を実行するデバイスによって受信されてもよい。別の例として、処理100は、提示されているメディアコンテンツから作成されるビデオデータの一部から作成されるメディアコンテンツについてのビデオフィンガープリントを受信することができる。そのような例では、ビデオフィンガープリントは、クエリを構成するのに用いられるデバイス、または、ビデオデータからビデオフィンガープリントを生成するための処理を実行するサーバなどの別のデバイスによって作成されてもよい。
いくつかの実現例では、処理100は、メディアコンテンツについてのさまざまな情報を含み得る現在提示されているメディアコンテンツについてのデータを受信することができる。たとえば、メディアコンテンツについてのデータは、そこからコンテンツが受信されたサービスプロバイダ、コンテンツが提示されたチャンネル、コンテンツが提示された時間、コンテンツのタイトル、および/または提示されているメディアコンテンツについてのその他の好適なデータを含んでもよい。いくつかの実現例では、メディアコンテンツについてのデータは、任意の好適な技術を用いてデータを生成可能な、102でクエリを構成するのに用いられたコンピューティングデバイスから受信されてもよい。たとえば、クエリを構成するのに用いられたコンピューティングデバイスは、オーディオデータをキャプチャし(および/またはオーディオフィンガープリントを生成し)、オーディオデータに基づいてメディアデータを特定して番組を特定するサービスを用いることによって、番組を特定することができる。そのようなサービスは、特定された番組の番組データを提供することができる。別の例として、クエリを構成するのに用いられたコンピューティングデバイスは、コンテンツプロバイダ(たとえばケーブル、衛星、コンテンツを提供した電話会社、もしくはコンテンツがアンテナを介して放送として受信されたか否か)、番組が提示されるおよび/または提示されたチャンネル(たとえばコンテンツプロバイダのチャンネル)、コンテンツが提示された日付および/または時間(コンテンツプロバイダから現在受信されて提示されているコンテンツについての現在の時間であり得る)等の、現在提示されているメディアコンテンツについての情報を入力するようにユーザに促すことができる。
106において、処理100は、104で受信された第1のメディアデータに基づいて、提示されている番組を特定することができる。メディアデータを特定する任意の好適な単数または複数の技術が用いられてもよい。たとえば、いくつかの実現例では、104で受信されたオーディオデータを用いて、現在提示されているメディアコンテンツについてのオーディオフィンガープリントが生成されてもよい。このオーディオフィンガープリントは、特定のメディアコンテンツに対応することが分かっているオーディオフィンガープリントと比較されてもよく、この比較に基づいて、現在提示されているメディアコンテンツが特定されてもよい。別の例として、104で受信されたオーディオフィンガープリントを用いて、(たとえば音声を受信し、受信した音声に基づいてオーディオフィンガープリントを生成する代わりに)メディアコンテンツが特定されてもよい。さらに別の例として、104で受信された電子番組ガイド情報および/またはメタデータが、特定のメディアコンテンツに対応することが分かっている電子番組ガイド情報および/またはメタデータと比較されてもよく、この比較に基づいて、現在提示されているメディアコンテンツが特定されてもよい。さらに別の例として、104で受信された画像データ、ビデオデータおよび/またはビデオフィンガープリントデータが、特定のメディアコンテンツに対応することが分かっている同様のデータと比較されてもよく、この比較に基づいて、現在提示されているメディアコンテンツが特定されてもよい。より特定の例では、104で受信された画像データは、バーコード、QRコード(登録商標)、および/または情報を視覚的に符号化するためのその他の好適な種類の視覚的コードなどのコードを含んでもよい。別のより特定の例として、104で受信された画像データおよび/またはビデオデータはステガノグラフィ的に符号化されるデータを含んでもよく、処理100はこの符号化データを画像データおよび/またはビデオデータから抽出してもよい。さらなる例として、104で受信された番組についてのデータは、現在提示されているメディアコンテンツを特定するために用いられてもよく、および/または特定のメディアコンテンツに対応することが分かっている番組データと比較されてもよく、この比較に基づいて、現在提示されているメディアコンテンツが特定されてもよい。
いくつかの実現例では、処理100は、公知の番組に対応するメディアデータ(たとえばオーディオフィンガープリント、メタデータ、ビデオフィンガープリント、および/またはその他の好適なメディアデータ)のデータベースにアクセスすることができる。たとえば、106において、現在提示されているメディアを特定するために、処理100は、104で受信されたオーディオフィンガープリントと、公知の番組に対応するデータベース内のオーディオフィンガープリントとを比較するために当該データベースにアクセスすることができる。
いくつかの実現例では、処理100は、現在提示されているメディアに対応する番組の部分を特定することができる。たとえば、メディアデータのデータベースは、現在提示されているメディアに対応する番組の特定の部分を特定することができる。より特定の例では、番組から生成されるオーディオフィンガープリントが、当該オーディオフィンガープリントに対応するオーディオデータを有する番組の部分と関連付けられてもよい。図3に関連して以下に説明するように、オーディオフィンガープリントは、コンテンツソースから受信される番組の音声から生成されてもよい。これらのオーディオフィンガープリントの各々は、オーディオフィンガープリントに対応する音声を有する番組の部分と関連付けられてもよい。これらのオーディオフィンガープリントは、たとえば、番組を特定する情報、およびオーディオフィンガープリントが対応する番組の部分と関連して、オーディオフィンガープリントのデータベースに記憶されてもよい。現在提示されているメディアのオーディオフィンガープリントと公知の番組のオーディオフィンガープリントのデータベースとを比較すると、処理100は、現在提示されているメディアが対応する番組、および現在提示されているメディアが対応する番組の部分を特定することができる。いくつかの実現例では、番組の当該部分は、タイミング情報(たとえばオーディオフィンガープリントに対応する音声を有する番組内の時間)を用いて特定されてもよい。
いくつかの実現例では、現在提示されているメディアコンテンツに対応する番組の部分は、ビデオフィンガープリント、電子番組ガイドデータ、当該番組のメタデータ、当該番組を提示するデバイスからのタイミング情報、現在提示されているメディアコンテンツを特定するためのサービスからのタイミング情報等の、その他の好適な情報(たとえばオーディオフィンガープリント以外)を用いて求められてもよい。
108において、処理100は、106で特定された番組と関連付けられるキーワードを特定することができる。いくつかの実現例では、キーワードは、番組からのエンティティおよび/または番組自体に対応し、これらを表わしてもよい。たとえば、キーワードは、人物、場所、イベント、物体、生物、ロゴ、特性、特徴、プロット、音楽、珍しい語もしくは科学用語、製品、ブランド、および/または番組に関するその他の好適なエンティティを含んでもよい。これらのキーワードは、さまざまな方法で番組と関連付けられてもよい。たとえば、人物またはランドマークの画像が、番組と関連付けられるビデオデータに含まれてもよい。別の例として、人物またはイベントが番組内で論じられてもよい(たとえば、人物の名前またはイベントを特定する語が、番組と関連付けられるオーディオデータおよび/またはサブタイトルデータに含まれてもよい)。さらに別の例として、番組と関連付けられるビデオデータに含まれるテキストを介して、および/または番組と関連付けられるオーディオデータを介して、場所が番組内に特定されてもよい。さらに別の例として、キーワードが、メタデータなどの番組と関連付けられるテキスト、電子番組ガイドデータ、および/または当該番組と関連付けられるその他のテキストに含まれてもよい。上述のものは例に過ぎず、キーワードは多くの異なる方法で番組と関連付けられてもよいと認識されることに留意すべきである。
図3に関連して以下に説明するように、特定のキーワードを特定された番組と関連付ける任意の好適な単数または複数の技術が用いられてもよい。たとえば、いくつかの実現例では、キーワードは、メタデータから抽出される番組のキャストに基づいて、電子番組ガイドデータに基づいて番組と関連付けられてもよく、および/または番組のタイトル(もしくは番組についてのその他の好適な情報)を用いて検索可能な番組を求めてキャスト情報のデータベースを検索することによって見つけられてもよい。別の例として、キーワードは、番組と関連付けられるビデオデータからの1つ以上のスクリーンショットに含まれる人物を特定する顔認識技術に基づいて番組と関連付けられてもよい。さらに別の例として、キーワードは、番組と関連付けられるビデオデータから抽出される1つ以上のスクリーンショットに含まれるランドマークを特定する画像認識技術に基づいて番組と関連付けられてもよい。さらに別の例として、キーワードは、番組と関連付けられるビデオデータから抽出される1つ以上のスクリーンショットに含まれるキーワードを特定する光学文字認識技術に基づいて番組と関連付けられてもよい。
いくつかの実現例では、キーワードは番組の特定の部分と関連付けられてもよい。たとえば、番組に現れる人物の識別情報がキーワードであってもよく、その人物が番組に現れる単数または複数の部分がそのキーワードと関連付けられてもよい。その同一人物が番組のキャストメンバーでもある場合は、その人物についてのキーワードは、番組の特定の部分が当該キーワードと関連付けられることなく、番組全体と関連付けられてもよい。別の例として、メタデータまたは電子番組ガイドデータに現れるキーワードが、これも番組の特定の部分と関連付けられることなく、番組と関連付けられてもよい。さらに別の例として、番組に現れるテキストが、当該テキストがビデオデータ、オーディオデータ、サブタイトルデータ等に現れる番組の部分と関連付けられてもよい。
いくつかの実現例では、番組と関連付けられるキーワードは、さまざまな番組と関連して、たとえばキーワードデータのデータベースに記憶されてもよい。いくつかの実現例では、キーワードが番組の文脈において対応するエンティティの種類がキーワードと関連付けられてもよい。たとえば、キーワードが番組に現れる人物に対応する場合、キーワードは人物キーワード、キャストキーワード等として特定されてもよい。別の例として、キーワードが番組に現れる建物またはランドマークに対応する場合、キーワードは建物キーワード、ランドマークキーワード等として特定されてもよい。いくつかの実現例では、処理100は108においてキーワードデータベースにアクセスし、106で特定された番組と関連付けられるキーワードを特定してもよい。
110において、処理100は、クエリに文脈的に関連している、および/または104で受信された第1のメディアデータに文脈的に関連している、特定されたキーワードの1つ以上を求めることができる。いくつかの実現例では、処理100は、自然言語処理を用いて、特定のキーワードがクエリに文脈的に関連しているか否かを判断することができる。たとえば、クエリが「誰が」というフレーズまたは同様のフレーズを含む場合、処理100は、文脈的に関連しているキーワードは人物に対応するキーワードであると判断することができる。別の例として、クエリが「今テレビに出ているこの人物はこれまでに他に何に出演した?」というフレーズを含む場合、クエリは、現在提示されているメディア中の人物を特定することを要求しているため、処理100は、文脈的に関連しているキーワードは人物に対応するキーワードであると判断することができる。さらに別の例として、クエリが「いつ」というフレーズを含む場合、処理100は、文脈的に関連しているキーワードは時間に対応するキーワードであると判断することができる。関連しているキーワードの種類を求めるための任意の好適な技術が用いられてもよい。たとえば、どのような種類のキーワードがクエリに文脈的に関連しているかを判断する任意の好適な自然言語処理が、ここに記載されるメカニズムによって用いられてもよい。いくつかの実現例では、クエリは、自然言語処理を実行してクエリの文脈を判断するための自然言語処理サーバに提出されてもよい。
いくつかの実現例では、処理100は、104で受信された第1のメディアデータに基づいて、特定のキーワードがクエリに文脈的に関連しているか否かを判断することができる。たとえば、106に関連して上述したように、第1のメディアデータを用いて、現在提示されているメディアが対応する番組の部分を判断することができる。いくつかの実現例では、クエリの文脈に基づいて、処理100はクエリが時間依存クエリであるか否かを判断することができる。たとえば、時間依存クエリは、番組全般ではなく、現在提示されている何かに関していてもよい。より特定の例では、「誰が今テレビに出ている?」は時間依存クエリであってもよいが、「この映画はいつ公開された?」は、現在提示されている番組の部分ではなく番組に全体的に当てはまるため、時間依存でなくてもよい。
いくつかの実現例では、108において番組と関連付けられるキーワードを特定し、110において文脈的に関連しているキーワードを特定する代わりに、処理100は、クエリおよび/または第1のメディアデータの文脈を判断し、キーワードを特定する際に当該文脈を用いることができる。たとえば、処理100は、第1のメディアデータが番組の特定の部分に対応すると判断することができ、次に、当該特定の部分に対応する、または番組に全体的に対応する(たとえば番組のいずれかの特定の部分には対応しない)キーワードのみを特定することができる。別の例として、処理100は、クエリが人物に関すると判断することができ、人物に対応するキーワード(たとえば、ランドマーク、場所等に対応するキーワードではない)のみを特定することができる。
112において、処理100は、クエリの少なくとも一部、および110で特定された文脈的に関連しているキーワードに基づいて、検索結果を得ることができる。いくつかの実現例では、処理100は、検索エンジンにアクセスして、102で受信されたクエリ、および110で特定された文脈的に関連しているキーワードの少なくとも1つ、の両方に文脈的に関連している検索結果を得ることができる。たとえば、クエリが、「テレビに出ているあの人物は誰?」などの、現在提示されているビデオに含まれる人物に関する場合、処理100は、クエリと、110で特定された文脈的に関連しているキーワード(たとえば現在提示されている番組の部分と関連付けられるキャストメンバー)とを用いて検索エンジンにアクセスすることができる。いくつかの実現例では、110で特定された文脈的に関連しているキーワードは、検索に対する制約として検索エンジンに渡されてもよい。たとえば、検索エンジンは、文脈的に関連しているキーワードのみに関する検索結果を求めるように制約されてもよい。
いくつかの実現例では、検索結果は、画像、キーワードについての記述的情報(たとえばキャストメンバーについての経歴情報、ランドマークについての背景情報等)、および/またはキーワードについてのその他の関連情報などの、110で特定された文脈的に関連しているキーワードについての情報を含んでもよい。
114において、処理100は、文脈的に関連しているキーワードからの検索結果および/または文脈的に関連しているキーワードの1つ以上と関連付けられる情報の1つ以上を提示することができる。いくつかの実現例では、任意の好適な数の検索結果がクエリに応答して提示されてもよい。たとえば、110で特定された文脈的に関連しているキーワード毎の検索結果がユーザに提示されてもよい。別の例として、検索結果の各々は、特定の結果がクエリに関連している確率を示す信頼性パラメータ(および/またはその他の好適なパラメータ)と関連付けられてもよい。そのような例では、閾値信頼性を超える信頼性パラメータを有する検索結果のみが提示されてもよく、および/または最も高い信頼性パラメータを有する予め定められた数の検索結果が提示されてもよい。
いくつかの実現例では、処理100は、クエリを構成および送信したデバイスに検索結果を送信することによって結果を提示してもよい。たとえば、クエリがモバイルコンピューティングデバイス上で構成され、ウェブブラウザを用いて送信された場合、処理100は結果をモバイルデバイスに送信してもよく、モバイルデバイスは次にウェブブラウザ(またはその他の好適なアプリケーション)を用いて検索結果をモバイルデバイスのディスプレイ上に提示してもよい。
いくつかの実現例では、114で提示される検索結果は、検索結果が関連付けられるキーワードについてのさらなる情報へのハイパーリンクを含んでもよい。たとえば、俳優についての検索結果は、当該俳優についての経歴情報を含むウェブページへのリンクを含んでもよい。別の例として、俳優についての検索結果は、当該俳優が出演した他の番組についての情報を含むウェブページへのリンクを含んでもよい。
図2は、メディアコンテンツを提示しているデバイス、およびメディアコンテンツに関するクエリを構成するのに用いられるデバイスの例を示す。図2に示されるように、ディスプレイ204を有するメディア再生デバイス202が、ディスプレイ204およびスピーカ(図示せず)を用いて、映画などのメディアコンテンツを提示することができる。
メディア再生デバイス202によって現在提示されているメディアは、とりわけ人物206およびランドマーク208を示すビデオを含んでもよい。108に関連して上述したように、たとえば、人物206およびランドマーク208の識別情報が、番組(たとえば「パリについての映画」)と、番組の特定の部分(たとえば時間0:18:13と関連付けられる部分)とに関連付けられるキーワードであってもよい。メディア再生デバイス202によって現在提示されているメディアは、会話、サウンドトラック、背景雑音等の音声をさらに含んでもよい。
いくつかの実現例では、図2に示されるように、モバイルデバイス210が、検索を実行する際に用いられるクエリを構成するためのユーザインターフェイス212を提示することができる。たとえば、モバイルデバイス210上で実行されるウェブブラウザを用いて、その中にクエリが構成され得る検索フィールド214を有する検索エンジンウェブページにアクセスすることができる。いくつかの実現例では、モバイルデバイス210は、モバイルデバイス210と関連付けられるキーボード(図示せず)への入力に基づいて、および/またはモバイルデバイス210と関連付けられるマイク216を用いて受信されるオーディオデータに基づいて、検索フィールド214内にクエリを構成してもよい。
図2に示されるように、ユーザは、マイク216によってオーディオデータとして録音され得るクエリ218を話すことができる。図2に示される例では、話されるクエリ218は、「今テレビに出ているあの男性は誰?」というフレーズを含んでもよい。モバイルデバイス210は、マイク216によって録音されたオーディオデータを用いて、検索フィールド214内に用いられる検索クエリを構成してもよい。音声認識技術などの任意の好適な単数または複数の技術を用いて、マイク216によって録音されたオーディオデータから検索クエリが構成されてもよい。そのような音声認識技術はモバイルデバイス210によって実行されてもよいし、音声認識技術を実行するためのデバイスによって実行されてもよい。たとえば、モバイルデバイス210は、マイク216によって録音されたオーディオデータ(および/またはオーディオデータから作成された他の好適なデータ)を、音声認識を実行するサーバに送信してもよい。これらの音声認識技術の結果を用いて、検索フィールド214内に用いられるクエリが構成されてもよい。
いくつかの実現例では、検索ユーザインターフェイス要素220(たとえばユーザインターフェイス212内のボタン)を選択すると検索が開始されてもよい。付加的にまたは代替的に、モバイルデバイス210は、キーボード上の「終了」または「入力」キーなどの、その他の好適なユーザインターフェイス要素の選択に応答して検索を開始してもよく、および/またはクエリが構成されたことに応答して(たとえば音声認識技術が完了したことに応答して)検索を開始してもよい。いくつかの実現例では、検索は、その他の好適な条件および/もしくは判定基準が満たされたこと、ならびに/または条件および/もしくは判定基準の任意の好適な組合せが満たされたこと応答して開始されてもよい。
いくつかの実現例では、検索が開始されると、モバイルデバイス210は、ユーザインターフェイス212を用いて構成されたクエリを、クエリに応答して検索を実行可能なおよび/または検索結果を生成可能なリモートデバイス(たとえばサーバ)に送信してもよい。たとえば、サーバは処理100を用いて、モバイルデバイス210によって提示される検索結果を生成してもよい。
図2に示されるように、検索結果222および224は、ユーザインターフェイス212を用いて構成されたクエリに応答して検索結果として提示されてもよい。たとえば、ユーザインターフェイス212を用いて、話されたクエリ218に基づいてクエリを構成してもよい。いくつかの実現例では、モバイルデバイス218は、(たとえばメディア再生デバイス202によって)現在提示されているメディアを特定する際に用いられる音声を(たとえばマイク216を用いて)を録音してもよい。たとえば、モバイルデバイス218(またはクエリが提出された先のリモートサーバ)が、クエリが現在提示されているメディアに差し向けられていると判断したことに応答して、モバイルデバイス218は、提示されている音声の部分を、ディスプレイ204によって提示されているビデオと関連して記録してもよい。次にこの音声を、処理100を実行するデバイスによって用いて、モバイルデバイス210によって共有される場所で現在提示されているメディアを特定してもよい。
いくつかの実現例では、検索結果222および224は、処理100を実行するデバイスからモバイルデバイス210に戻されてもよい。示されるように、検索結果222は、話されたクエリ218が受信される時に提示されている番組の部分の間にディスプレイ204上に現れる俳優(「俳優A」)に対応してもよい。図1に関連して(たとえば108において)上述したように、人物206の識別情報が、現在提示されている番組の部分と関連付けられるキーワードであってもよい。検索結果224は、現在提示されている部分(たとえばモバイルデバイス210によって録音された音声と関連付けられる部分)に密接に関連する番組の部分の間にディスプレイ204上に現れる別の俳優(「俳優B」)に対応してもよい。
いくつかの実現例では、検索結果222および224は、それぞれ俳優Aおよび俳優Bと関連付けられる画像、ならびに経歴情報を含んでもよい。図1に関連して上述したように、検索結果222および224は、選択されるとモバイルデバイス218に検索結果に関する付加的な情報を提示させるハイパーリンクを含んでもよい。たとえば、ユーザが検索結果222を選択すると、図2に示されるように、検索結果222と関連付けられるハイパーリンクが、モバイルデバイス210に、俳優Aについての付加的な情報を含むウェブページ226を要求させてもよい。
図3を参照して、開示される主題のいくつかの実現例に従う、文脈情報に基づいて検索結果を生成するためのメカニズムがその上に示される、システムの一般化された概略図の説明的な例300が示される。図3に示されるように、システム300は1つ以上のコンピューティングデバイス310を含んでもよい。コンピューティングデバイス310は、1つ以上の通信リンク308によって、通信リンク304を介してサーバ302にリンクされ得る通信ネットワーク306に接続されてもよい。いくつかの実現例では、コンピューティングデバイス310およびサーバ302は通信リンク312を介して1つ以上のコンテンツソース314にリンクされてもよい。
システム300は1つ以上のサーバ302を含んでもよい。サーバ302は、プロセッサ、コンピュータ、データ処理装置、および/またはそのような装置の任意の好適な組合せなどの、ここに記載されるメカニズムへのアクセスを提供するための任意の好適なサーバであってもよい。たとえば、ここに記載されるメカニズムは、複数のバックエンドコンポーネントおよび複数のフロントエンドコンポーネントならびに/またはインターフェイスに分散されてもよい。より特定の例では、データ収集およびデータ分配、情報の索引付けおよび検索などのバックエンドコンポーネント、ならびに/またはその他の好適なコンポーネントが、1つ以上のサーバ302上で実行されてもよい。別のより特定の例では、検索クエリを受信する、現在提示されているメディアを特定する際に用いられるメディアデータを集める、検索結果を提示するためのユーザインターフェイスなどのフロントエンドコンポーネント、および/またはその他の好適なコンポーネントが、1つ以上のコンピューティングデバイス310上で実行されてもよい。
いくつかの実現例では、コンピューティングデバイス310およびサーバ302の各々は、コンピュータなどの汎用装置、またはクライアント、サーバ等の特殊用途装置のいずれであってもよい。これらの汎用または特殊用途装置のいずれも、ハードウェアプロセッサ(マイクロプロセッサ、デジタル信号プロセッサ、コントローラ等であり得る)、メモリ、通信インターフェイス、ディスプレイコントローラ、入力デバイス等の任意の好適なコンポーネントを含んでもよい。たとえば、コンピューティングデバイス310は、スマートフォン、タブレットコンピュータ、ウェアラブルコンピュータ、テレビ、スマートテレビ、セットトップボックス、デジタルメディアレシーバ、ゲームコンソール、パーソナルコンピュータ、ラップトップコンピュータ、携帯情報端末(PDA)、ホームエンターテイメントシステム、ステレオレシーバ、スピーカ、プロジェクタ、ゲームコンソール、および/もしくは他の好適な装置、ならびに/またはそれらの任意の好適な組合せとして実現されてもよい。いくつかの実現例では、たとえば、番組は、スマートテレビ、セットトップボックス、デジタルメディアレシーバ等の第1のコンピューティングデバイス310を用いて提示されてもよく、タブレットコンピュータ、スマートフォン、ウェアラブルコンピュータ、PDA、ゲームコンソール等の第2のコンピューティングデバイス310は、クエリを構成し、第1のコンピューティングデバイスによって提示されている番組に関するメディアデータを記録および/もしくは送信し、クエリおよび/もしくは提示されている番組に関するメディアデータに基づいて検索を実行し、(たとえば処理100に基づいて生成された)クエリに文脈的に関連している検索結果を提示し、ならびに/またはその他の好適な機能を実行してもよい。
いくつかの実現例では、コンテンツソース314は、ケーブル(もしくは電話)テレビコンテンツソース、衛星テレビコンテンツソース、オンデマンド番組コンテンツソース、オーバーザトップ番組コンテンツソース、インターネットコンテンツソース、ストリーミング番組コンテンツソース、その他の好適なコンテンツソース、および/またはそれらの任意の好適な組合せなどの、任意の好適なコンテンツソースであってもよい。
いくつかの実現例では、通信ネットワーク306は、インターネット、イントラネット、ワイドエリアネットワーク(WAN)、ローカルエリアネットワーク(LAN)、ワイヤレスネットワーク、デジタル加入者線(DSL)ネットワーク、フレームリレーネットワーク、非同期転送モード(ATM)ネットワーク、仮想プライベートネットワーク(VPN)等を含む、任意の好適なコンピュータネットワークまたはそのようなネットワークの組合せであってもよい。通信リンク304,308および312は、ネットワークリンク、ダイヤルアップリンク、ワイヤレスリンク、ハードワイヤードリンク、その他の好適な通信リンク、および/またはそのようなリンクの任意の好適な組合せなどの、コンピューティングデバイス310、サーバ302および/またはコンテンツソース314の間でデータを通信するのに適した任意の通信リンクであってもよい。コンピューティングデバイス310は、ここに記載されるメカニズムの特徴の使用を可能にし得る、ここに記載される技術の使用を可能にし得る。コンピューティングデバイス310、サーバ302およびコンテンツソース314は任意の好適な場所に配置されてもよい。
いくつかの実現例では、サーバ302は、ここに記載されるメカニズムのさまざまな機能を実行するための、および/または文脈情報に基づいて検索結果を生成するためのここに記載されるメカニズムを容易にするための、相互に接続可能な1つ以上のモジュール320〜332および/またはデータベース340〜344を含んでもよい。
いくつかの実現例では、フロントエンドサーバモジュール320は、たとえば図1および図2に関連して上述したような文脈情報に基づいて検索結果を生成するための処理を実行してもよい。
いくつかの実現例では、キャプチャモジュール322が、たとえば図1に関連して上述したように、ビデオデータ、オーディオデータ、電子番組ガイドデータ、メタデータ等の番組に関するメディアデータを受信してもよい。付加的にまたは代替的に、キャプチャモジュール322は、コンテンツソースから与えられるコンテンツからさまざまなメディアデータを抽出してもよい。そのような抽出されたメディアデータは、たとえば、オーディオフィンガープリント、サブタイトル、ビデオスクリーンショット等を含んでもよい。この情報は、たとえば、キーワードおよび/またはさまざまな他の動作を特定する際にフロントエンドサーバモジュール320によって用いられるデータベース(図示せず)に記憶されてもよい。
いくつかの実現例では、マッチモジュール324が、たとえばキャプチャ322から、番組のオーディオフィンガープリントデータを受信し、受信したオーディオフィンガープリントデータをフィンガープリントデータベース342に記憶してもよい。フィンガープリントデータベース342を用いて、たとえば、上述のように図1の106で番組を特定し、現在提示されている、102で受信されたクエリに関するメディアを特定してもよい。
いくつかの実現例では、アノテーションモジュール326が、オーディオフィンガープリント、ビデオスクリーンショット、サブタイトル等の、キャプチャモジュール322によってキャプチャされたデータおよび/またはキャプチャモジュール322によって抽出された情報に基づいて、番組と関連付けられる1つ以上のキーワードを抽出してもよい。たとえば、アノテーションモジュール326はキーワード抽出モジュール328を含んでもよく、キーワード抽出モジュール328は、顔認識技術、画像認識技術、光学文字認識技術等の認識技術を実行するように構成される認識モジュール330を用いて、キャプチャモジュールから受信されたデータおよび/または情報からキーワードを抽出して、キーワードが関連付けられることになる番組中に言及されるおよび/または現れる人物、物体、ランドマーク、場所、および/またはその他の好適なキーワードを特定してもよい。
いくつかの実現例では、キーワード抽出モジュール328は、図1に関連して上述したキーワードのようなキーワードを抽出してもよい。たとえば、キーワード抽出モジュール328は、人物の識別情報、場所、イベント、物体、生物、ロゴ、特性、特徴、プロット、音楽、珍しい語もしくは科学用語、製品、ブランド、および/またはその他の好適なキーワードを抽出してもよい。付加的にまたは代替的に、キーワード抽出モジュール328は、たとえば、(たとえばキャプチャモジュール322によってキャプチャされた)ビデオスクリーンショットからの顔の画像からの情報を公知の顔情報(たとえば公知の個人の顔情報)のデータベースと比較して、画像内の1人または複数の人物の識別情報を求めることができる認識モジュール330を用いて、キーワードを特定してもよい。同様に、認識モジュール330は、たとえば、建物、像、製品パッケージング、エレクトロニクス、果物および野菜、またはその他の好適な物体などの、物体の画像からの情報を公知の物体情報のデータベースと比較して、画像内の物体の識別情報を求めてもよい。上述のように、キーワード抽出モジュール328および/またはアノテーションモジュール326による番組関連データからのキーワード抽出を容易にする任意の好適な認識技術が認識モジュール330によって用いられてもよい。
いくつかの実現例では、アノテーションモジュール326は、たとえばオーディオデータまたはビデオデータから抽出されたキーワードを、当該キーワードがそのようなデータに現れる番組の部分と関連付けてもよい。たとえば、キーワードおよびさまざまな番組とのそれらのキーワード関連付けがキーワードデータベースに記憶されてもよく、キーワードデータベースはアノテーションモジュール326によって生成される情報で定期的に更新されてもよく、および/または、予め定められた期間中に(たとえばコンテンツソース314によって)提示されなかった番組に対応するキーワード、番組および/またはキーワードと番組との関連付けを除去するように定期的に更新されてもよい。
いくつかの実現例では、112において検索結果を得る際に検索モジュール332が用いられてもよい。たとえば、検索モジュール332は、102で受信されたクエリおよび/または110で特定された文脈的に関連しているキーワードを、クエリに文脈的に関連している検索結果を生成するために検索エンジンによって用いられる入力として使用してもよい。
いくつかの実現例では、電子番組ガイド(electronic program guide:EPG)データベース340が、コンテンツの出版社または放送局などの第三者によって提供され得る電子番組ガイドデータに対応するガイダンスデータを記憶してもよい。さらに、EPGデータベース340は、たとえばコンテンツソース314から与えられる1つ以上の番組についての情報を提供してもよい。
モジュール320〜332およびデータベース340〜344はサーバ302に含まれるとして示されているが、これらのモジュールおよび/またはデータベースは異なるサーバ(および/または他の好適なコンピューティングデバイス)においてさまざまな組合せで提供されてもよいことに留意すべきである。たとえば、検索モジュール332が第1のサーバ上に提供され、モジュール320〜330が第2のサーバ上に提供されてもよい。別の例として、各モジュールは異なるサーバ上に提供されてもよい。これらは例に過ぎず、記載されるモジュールは任意の好適な態様で編成されてもよいことに留意すべきである。
また、モジュール320〜332はここに記載されるメカニズムの一部として含まれてもよく、別個のメカニズムであってもよく、および/またはその他の好適なメカニズムの一部であってもよいことに留意すべきである。たとえば、ある実施形態では、キーワードは任意の好適な技術を用いて番組と関連付けられてもよく、処理100も実行する当事者によって必ずしも関連付けられない。より特定の例では、会社などの当事者が、任意の好適な技術を用いてキーワードをコンテンツソース314からの番組と関連付けてもよく、番組と関連付けられるキーワードを任意の好適な条件で他の人々にアクセス可能にしてもよい。別のより特定の例では、会社が、番組と関連付けられるキーワードのデータベースおよび/またはキーワードが番組のどの部分と関連付けられるかを維持してもよく、当該データベースを無料でアクセス可能に、または何らかの報酬と引換えにアクセス可能にしてもよい。
図4は、開示される主題のいくつかの実現例に従う、図4に示されるサーバ302およびコンピューティングデバイス310のうちの1つを実現するのに用いられ得るハードウェアの例400を示す。図4を参照して、コンピューティングデータベース310は、相互に接続可能なハードウェアプロセッサ412、ディスプレイ414、入力デバイス416、およびメモリ418を含んでもよい。いくつかの実現例では、メモリ418は、ハードウェアプロセッサ412を制御するためのコンピュータプログラムを記憶するための記憶装置(非一時的なコンピュータ読取可能媒体)を含んでもよい。
ハードウェアプロセッサ412は、ディスプレイ414上にコンテンツを提示するためのコンピュータプログラム、および/またはユーザがここに記載されるメカニズムにアクセスし、通信リンク308を介してデータを送受信することを可能にするユーザインターフェイスを用いてもよい。通信リンク308またはその他の通信リンクを介して受信されるデータは、任意の好適なソースから受信されてもよいことにも留意すべきである。いくつかの実現例では、ハードウェアプロセッサ412は、たとえば、送信機、受信機、送信機/受信機、送受信機、またはその他の好適な通信装置を用いて通信リンク308および/またはその他の通信リンクを介してデータを送受信してもよい。入力デバイス416は、コンピュータキーボード、マイク、マウス、トラックボール、キーパッド、リモートコントロール、その他の好適な入力デバイス、および/またはそれらの任意の好適な組合せであってもよい。付加的にまたは代替的に、入力デバイス416は、(たとえば指、スタイラス等を用いて)入力を受信可能なタッチスクリーンディスプレイ414を含んでもよい。
サーバ302は、相互に接続可能なハードウェアプロセッサ422、ディスプレイ424、入力デバイス426、およびメモリ428を含んでもよい。いくつかの実現例では、メモリ428は、通信リンク304を介してまたは他のリンクを介して受信されるデータを記憶するための記憶装置を含んでもよく、プロセッサ422は、たとえばコンピューティングデバイス310の1人以上のユーザによって送信されるコマンドおよび値を受信してもよい。記憶装置はさらに、ハードウェアプロセッサ422を制御するためのサーバプログラムを含んでもよい。
文脈情報に基づいて検索結果を生成するためのここに記載されるメカニズムは、ソフトウェア、ファームウェア、ハードウェア、および/またはそれらの任意の好適な組合せとしてコンピューティングデバイス310および/またはサーバ302において実現されてもよい。
いくつかの実現例では、サーバ302は1つのサーバとして実現されてもよいし、任意の好適な数のサーバとして分散されてもよい。たとえば、複数のサーバ302が、ここに記載されるメカニズムの信頼性、機能、および/またはサーバがコンピューティングデバイス310と通信可能な速度を高めるようにさまざまな場所に実現されてもよい。
図5は、開示される主題のいくつかの実現例に従う、文脈情報に基づいて検索結果を生成するためのフローの例500を示す。図5に示されるように、502において、第1のコンピューティングデバイス310−1はメディアコンテンツを提示することができる。たとえば、第1のコンピューティングデバイス310−1は、ビデオを提示するためのディスプレイおよび音声を提示するためのスピーカを含むテレビであってもよい。フロー500はテレビによって提示されているメディアに関連して説明されるが、これは例に過ぎず、メディアは任意の好適な単数または複数のデバイスによって提示されてもよい。
504において、第2のコンピューティングデバイス310−2はクエリ入力を受信することができる。上述のように、クエリ入力は任意の好適な単数または複数の技術を用いて受信されてもよい。たとえば、クエリは、物理的なキーボードまたは仮想キーボードであり得るたとえばキーボードを用いて入力されるテキストとして受信されてもよい。別の例として、クエリは、マイクを介して受信され、音声認識技術を用いて解釈されるボイスデータとして受信されてもよい。付加的にまたは代替的に、クエリ入力は任意の好適なアプリケーションを用いて受信されてもよい。たとえば、図2に関連して説明したように、クエリは、クエリを構成するためのユーザインターフェイスに関連して受信されてもよい。別の例として、クエリは、パーソナルアシスタントアプリケーションなど(たとえば、文脈に基づいてさまざまなクエリを処理可能であり、クエリに基づいて処理を開始可能なアプリケーション)へのクエリとして第2のコンピューティングデバイス310−2によって受信されてもよい。より特定の例では、そのようなクエリは、ユーザが特定の語またはフレーズを話すことによって開始されてもよい。
506において、第2のコンピューティングデバイスは、504で受信されたクエリ入力に基づいてクエリを構成することができる。たとえば、クエリはフォーマット化されてもよいし、そうでなければ検索結果を得る際に用いられるように準備されてもよい。508において、第2のコンピューティングデバイス310−2は、クエリが現在提示されているメディアに関するか否かを判断することができる。第2のコンピューティングデバイス310−2は、506において、クエリが(たとえばテレビ310−1によって)現在提示されているメディアコンテンツに関するか否かを判断する任意の好適な技術を用いてもよい。たとえば、102に関連して上述したように、ここに記載されるメカニズムは、クエリの文脈、クエリ入力を受信したアプリケーションに基づいて、および/またはその他の好適な判定基準に基づいて、クエリが現在提示されているメディアコンテンツに関すると判断してもよい。いくつかの実現例では、クエリが現在提示されているメディアコンテンツに関するか否かの判断は第2のコンピューティングデバイス310−2によってなされてもよい。たとえば、第2のコンピューティングデバイス310−2は、クエリを構成するのに用いられているアプリケーションに基づいて、クエリが現在提示されているメディアに差し向けられていることをユーザ入力が示すことに基づいて、および/またはその他の好適な基準に基づいて当該判断を下してもよい。付加的にまたは代替的に、サーバ302などの、ここに記載されるメカニズムを実行するデバイスが、クエリが現在提示されているメディアコンテンツに関するか否かの判断を下してもよい。たとえば、第2のコンピューティングデバイス310−2がクエリをサーバ302に送信してもよく、サーバ302は、クエリの文脈に基づいて、クエリを構成するのに用いられるアプリケーションに基づいて、および/またはその他の好適な基準に基づいて、クエリが現在提示されているメディアに関すると判断してもよい。サーバ302は次に、クエリが現在提示されているメディアコンテンツに関することを第2のコンピューティングデバイス310−2に通知してもよい。
クエリが現在提示されているメディアコンテンツに関していない場合(508で「NO」)、フロー500は514に進むことができ、506で構成されたクエリに基づいて検索を要求することができる。そうでなく、クエリが現在提示されているメディアコンテンツに関する場合(508で「YES」)、フロー500は510に進むことができる。
510において、クエリが現在提示されているメディアに関するという判断に応答して、第2のコンピューティングデバイス310−2は、現在提示されているメディアを特定する際に用いられるメディアデータを記録することができる。上述のように、メディアデータは、現在提示されているメディアを特定する際に用いられる任意の好適なメディアデータであってもよい。図5の破線によって示されるように、第1のコンピューティングデバイス310−1によって現在提示されているメディアに対応するメディアデータは第2のコンピューティングデバイス310−2に伝達されてもよい。メディアデータを第2のコンピューティングデバイス310−2に伝達する任意の好適な技術が用いられてもよい。たとえば、第2のコンピューティングデバイス310−2のマイクを用いて、提示されているメディアコンテンツのオーディオデータが録音されてもよい。別の例として、第2のコンピューティングデバイス310−2の画像センサを用いて、提示されているメディアコンテンツの画像データおよび/またはビデオデータが記録されてもよい。さらに別の例として、第2のコンピューティングデバイス310−2は、近距離無線通信(たとえばBLUETOOTH(登録商標)、無線USB等)、IEEE802.11グループの無線通信規格の1つ以上に準拠する無線通信技術、および/またはその他の好適な無線通信技術などの無線通信技術を用いてコンピューティングデバイス310−1からメディアデータを受信してもよい。さらに別の例として、第1のコンピューティングデバイス310−1によって現在提示されているメディアコンテンツを含む単数または複数の信号が第2のコンピューティングデバイス310−2にさらに与えられてもよく、第2のコンピューティングデバイス310−2は当該信号から任意の好適な情報を記録してもよい。より特定の例では、第1のコンピューティングデバイス310−1によって現在提示されているメディアコンテンツを含む単数または複数の信号が第1のコンピューティングデバイス310−1によって有線または無線通信リンク上で第2のコンピューティングデバイス310−2に出力されてもよい。付加的にまたは代替的に、第1のコンピューティングデバイス310−1によって現在提示されているメディアコンテンツを含む単数または複数の信号が、現在提示されているメディアコンテンツのソースから第2のコンピューティングデバイス310−2に入力されてもよい。特に、メディアコンテンツが、セットトップボックスによって出力された信号に基づいてテレビ(たとえば第1のコンピューティングデバイス310−1)によって提示されている場合、その信号は第2のコンピューティングデバイス310−2(たとえばゲームコンソールであり得る)にもルーティングされてもよい。信号は、たとえば第2のコンピューティングデバイス310−2を介して第1のコンピューティングデバイス310−1に入力されることによって、または第1のコンピューティングデバイス310−1のオーディオおよび/もしくはビデオ出力を介して第2のコンピューティングデバイス310−2に渡されることによって、任意の好適な経路を用いて第2のコンピューティングデバイス310−2にルーティングされてもよい。
512において、第2のコンピューティングデバイス310−2は、504で受信されたおよび/または506で構成されたクエリならびに510で記録されたメディアデータに基づいて、検索結果を要求することができる。たとえば、検索結果の要求はサーバ302に提出されてもよい。
516において、サーバ302は、512および/または514で第2のコンピューティングデバイス310−2によって提出されたクエリおよび/またはメディアデータを受信することができる。いくつかの実現例では、516で実行されるアクションは、たとえば、図1に関連して上述した処理100の102および104に対応してもよい。
518において、サーバ302は、現在提示されているメディアコンテンツに関するメディアデータが受信されたか否かを判断することができる。メディアデータが受信されていない場合(518で「NO」)、サーバ302は526に進むことができ、516で受信されたクエリに基づいて検索結果を得ることができる。そうでなく、メディアデータが受信されている場合(518で「YES」)、サーバ302は520に進むことができる。
520において、サーバ302は、(たとえば106に関連して上述したように)516で受信されたメディアデータに対応する番組を特定することができ、(たとえば108に関連して上述したように)メディアデータに対応する番組および/または番組の特定の部分と関連付けられるキーワードを特定することができる。522において、サーバ302は、(たとえば522に関連して上述したように)特定されたキーワードから文脈的に関連しているキーワードを求めて取得することができる。524において、サーバ302は、(たとえば112に関連して上述したように)クエリおよび文脈的に関連しているキーワードに基づいて検索結果を得ることができる。
528において、サーバ302は、524または526で得られた、524で得られた検索結果を第2のコンピューティングデバイス310−2に戻すことができる。いくつかの実現例では、メディアデータは受信されたがクエリは受信されていない場合、サーバ302はメディアデータに対応する番組を特定し、クエリに基づいて検索結果を得ることなく当該結果を戻してもよい。
530において、第2のコンピューティングデバイス310−2は検索結果を受信することができ、検索結果の少なくとも1つを提示することができる。いくつかの実現例では、結果は、(たとえば上記の図2に関連して上述したように)第2のコンピューティングデバイス310−2のディスプレイを用いて提示されてもよい。付加的にまたは代替的に、結果は、現在提示されているメディアコンテンツとともに第1のコンピューティングデバイス310−1のディスプレイを用いて提示されてもよい。
いくつかの実現例では、単一のコンピューティングデバイスが、メディアコンテンツを提示すること、およびクエリを構成して検索結果を提示することの両方を行なっていてもよい。たとえば、パーソナルコンピュータ、スマートテレビ、スマートフォン、タブレットコンピュータ等がメディアコンテンツを提示し、メディアコンテンツに関するクエリを構成し、メディアデータをサーバ302に送信し、メディアデータおよびクエリに基づいて得られた検索結果を提示してもよい。別の例として、コンピューティングデバイスによって実行されている第1のアプリケーションがコンテンツを提示してもよく、コンピューティングデバイスによって実行されている第2のアプリケーションが、第1のアプリケーションによって現在提示されているメディアコンテンツに関するクエリを受信および/または構成してもよい。第2のアプリケーションは、たとえば、コンピューティングデバイスによって現在提示されているオーディオデータおよび/または画像データを用いて、現在提示されているメディアを特定してもよい。そのようなオーディオデータおよび/または画像データは、たとえば、コンピューティングデバイスによって現在生成されているオーディオ出力信号を受信することによって、コンピューティングデバイスと関連付けられるマイクを用いてキャプチャされたオーディオデータを受信することによって、コンピューティングデバイスによって現在提示されている画像データ(たとえばスクリーンショット)を受信することによって、任意の好適な技術もしくは技術の組合せ、および/またはその他の好適な技術もしくは技術の組合せを用いてキャプチャされてもよい。
いくつかの実現例では、ここに記載されるメカニズムは、クライアント側ソフトウェア、サーバ側ソフトウェア、ハードウェア、ファームウェア、および/またはそれらの任意の好適な組合せを含んでもよい。たとえば、ここに記載されるメカニズムは、1つ以上のプロセッサにここに記載されるメカニズムを実行させるコンピュータプログラムを含んでもよい。別の例として、ここに記載されるメカニズムは、ここに記載されるメカニズムにアクセスするおよび/または当該メカニズムを実行するために用いられているコンピューティングデバイス310および/またはサーバ302によって認識可能なプログラム言語で書かれたコンピュータプログラム(たとえば、Java(登録商標)、C、Objective−C、C++、C♯、Javascript(登録商標), Visual Basic(登録商標)、HTML、XML、ColdFusion(登録商標)、その他の好適なアプローチ、および/またはそれらの任意の好適な組合せなどのプログラム言語で書かれたプログラム)を含んでもよい。
いくつかの実現例では、ここに記載されるメカニズムは、(たとえば、ハイパーテキストマークアップ言語(「HTML」)、ダイナミックハイパーテキストマークアップ言語(「DHTML」)、拡張可能なマークアップ言語(「XML」)、JavaServer Pges(「JSP」)、Active Server Pages(「ASP」)、ColdFusion、その他の好適なアプローチ、および/またはそれらの任意の好適な組合せなどの、任意の好適な符号化を介して)1つ以上のウェブページまたはウェブページ部分を含んでもよい。
いくつかの実現例では、ここに記載される機能および/または処理を実行するための命令を記憶するための任意の好適なコンピュータ読取可能媒体が用いられてもよい。たとえば、いくつかの実現例では、コンピュータ読取可能媒体は一時的であってもよいし、非一時的であってもよい。たとえば、非一時的なコンピュータ読取可能媒体は、磁気媒体(ハードディスク、フロッピー(登録商標)ディスク等)、光学媒体(コンパクトディスク、デジタルビデオディスク、ブルーレイディスク等)、半導体媒体(フラッシュメモリ、電気的プログラム可能読出専用メモリ(EPROM)、電気的消去可能プログラム可能読出専用メモリ(EEPROM)等)、送信時に過渡的でない、もしくは表面上の永続性を欠いている任意の好適な媒体、および/または任意の好適な有形媒体などの媒体を含んでもよい。別の例として、一時的なコンピュータ読取可能媒体は、ネットワーク上の、配線、導体、光ファイバ、回路、送信時に過渡的でない、かつ表面上の永続性を欠いている任意の好適な媒体、および/または任意の好適な無形媒体内の信号を含んでもよい。
図1および図5の処理の上述のステップは、図面に示され説明された順序およびシーケンスに限定されない任意の順序もしくはシーケンスで実行または実践されてもよいことを理解すべきである。また、図1および図5の処理の上記のステップのいくつかは、必要に応じて実質的に同時に、または待ち時間および処理時間を減らすために並行して実行または実践されてもよい。
本明細書において、メカニズムという用語は、ハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の好適な組合せを含んでもよいことにも留意すべきである。
したがって、文脈情報に基づいて検索結果を生成するための方法、システム、および媒体が提供される。
発明は上記の例示的な実現例において説明および図示されたが、本開示は一例としてなされているに過ぎないこと、ならびに、以下の請求項によってのみ限定される発明の精神および範囲から逸脱することなく発明の実現例の詳細に多数の変更が加えられてもよいことが理解される。開示される実現例の特徴は、さまざまな方法で組合わされ、再構成されてもよい。

Claims (19)

  1. 検索結果を提示するためにコンピュータによって実行される方法であって、前記方法は、
    前記コンピュータのハードウェアプロセッサを用いて、現在提示されているメディアに関するクエリを受信するステップと、
    現在提示されている番組を特定するステップと、
    特定した前記番組と関連付けられる複数のキーワードを特定するステップと、
    前記クエリに文脈的に関連している前記複数のキーワードから1つ以上のキーワードを求めるステップと、
    前記クエリおよび文脈的に関連している前記1つ以上のキーワードに基づいて複数の検索結果を得るステップと、
    前記複数の検索結果の少なくとも1つをユーザに提示するステップとを備える、方法。
  2. 前記クエリは第1のデバイスから受信され、前記メディアは第2のデバイスによって提示され、前記複数の検索結果の前記少なくとも1つは前記第1のデバイスによって提示される、請求項1に記載の方法。
  3. オーディオデータを受信するステップと、
    受信した前記オーディオデータの第1のオーディオフィンガープリントを、複数の番組に対応するオーディオフィンガープリントと比較するステップと、
    前記比較に基づいて、前記第1のオーディオフィンガープリントが対応する前記複数の番組のうちの第1の番組の識別情報を受信するステップとをさらに備え、
    現在提示されている前記番組は、前記第1の番組の受信された前記識別情報に基づいて特定される、請求項1または2に記載の方法。
  4. 前記第1のオーディオフィンガープリントと、前記第1の番組と関連付けられる複数のオーディオフィンガープリントとの比較に基づいて、現在提示されている前記第1の番組のある部分を受信するステップをさらに備え、前記第1の番組と関連付けられる前記複数のオーディオフィンガープリントの各々は前記第1の番組の特定の部分に対応する、請求項3に記載の方法。
  5. 前記クエリに文脈的に関連している前記複数のキーワードの1つ以上を求めるステップは、前記複数のキーワードの前記1つ以上が、現在提示されている前記第1の番組の前記部分と関連付けられていると判断するステップを備える、請求項4に記載の方法。
  6. 前記複数のキーワードを特定するステップは、
    前記番組と関連付けられるキーワードを求めて、複数の番組と関連付けられるキーワードのデータベースに問合せるステップと、
    前記データベースの問合せに応答して、前記キーワードのデータベースから前記番組と関連付けられるキーワードを受信するステップとを備える、請求項1から5のいずれか1項に記載の方法。
  7. 前記クエリに文脈的に関連している前記複数のキーワードの1つ以上を求めるステップは、自然言語処理を用いて、前記複数のキーワードの前記1つ以上が、前記クエリの少なくとも一部に応答する種類のキーワードであると判断するステップを備える、請求項1から6のいずれか1項に記載の方法。
  8. 前記キーワードは、前記番組に現れる対象物に対応する、請求項1から7のいずれか1項に記載の方法。
  9. 検索結果を提示するためのシステムであって、前記システムは、
    ハードウェアプロセッサを備え、前記ハードウェアプロセッサは、
    現在提示されているメディアに関するクエリを受信し、
    現在提示されている番組を特定し、
    特定した前記番組と関連付けられる複数のキーワードを特定し、
    前記クエリに文脈的に関連している前記複数のキーワードから1つ以上のキーワードを求め、
    前記クエリおよび文脈的に関連している前記1つ以上のキーワードに基づいて複数の検索結果を得て、
    前記複数の検索結果の少なくとも1つをユーザに提示する
    ようにプログラムされている、システム。
  10. 前記クエリは第1のデバイスから受信され、前記メディアは第2のデバイスによって提示され、前記複数の検索結果の前記少なくとも1つは前記第1のデバイスによって提示される、請求項9に記載のシステム。
  11. 前記ハードウェアプロセッサはさらに、
    オーディオデータを受信し、
    受信した前記オーディオデータの第1のオーディオフィンガープリントを、複数の番組に対応するオーディオフィンガープリントと比較し、
    前記比較に基づいて、前記第1のオーディオフィンガープリントが対応する前記複数の番組のうちの第1の番組の識別情報を受信する
    ように構成され、
    現在提示されている前記番組は、前記第1の番組の受信された前記識別情報に基づいて特定される、請求項9または10に記載のシステム。
  12. 前記ハードウェアプロセッサはさらに、前記第1のオーディオフィンガープリントと、前記第1の番組と関連付けられる複数のオーディオフィンガープリントとの比較に基づいて、現在提示されている前記第1の番組のある部分を受信するように構成され、前記第1の番組と関連付けられる前記複数のオーディオフィンガープリントの各々は前記第1の番組の特定の部分に対応する、請求項11に記載のシステム。
  13. 前記ハードウェアプロセッサはさらに、前記複数のキーワードの前記1つ以上が、現在提示されている前記第1の番組の前記部分と関連付けられていると判断するように構成される、請求項12に記載のシステム。
  14. 前記ハードウェアプロセッサはさらに、
    前記番組と関連付けられるキーワードを求めて、複数の番組と関連付けられるキーワードのデータベースに問合せ、
    前記データベースの問合せに応答して、前記キーワードのデータベースから前記番組と関連付けられるキーワードを受信する
    ように構成される、請求項9から13のいずれか1項に記載のシステム。
  15. 前記ハードウェアプロセッサはさらに、自然言語処理を用いて、前記複数のキーワードの前記1つ以上が、前記クエリの少なくとも一部に応答する種類のキーワードであると判断するように構成される、請求項9から14のいずれか1項に記載のシステム。
  16. 前記キーワードは、前記番組に現れる対象物に対応する、請求項9から15のいずれか1項に記載のシステム。
  17. 前記1つ以上のキーワードは、前記クエリが入力されたときに提示されている部分に関連付けられている、請求項1〜請求項8のいずれか1項に記載の方法。
  18. 前記1つ以上のキーワードは、前記クエリが入力されたときに提示されている部分に関連付けられている、請求項9〜請求項16のいずれか1項に記載のシステム。
  19. 請求項1〜8および17のいずれか1項に記載の方法をコンピュータに実行させるためのプログラム。
JP2016543706A 2013-12-31 2014-12-23 文脈情報に基づいて検索結果を生成するための方法、システム、および媒体 Active JP6668245B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201361922218P 2013-12-31 2013-12-31
US61/922,218 2013-12-31
US14/191,034 US10002191B2 (en) 2013-12-31 2014-02-26 Methods, systems, and media for generating search results based on contextual information
US14/191,034 2014-02-26
PCT/US2014/072258 WO2015103053A1 (en) 2013-12-31 2014-12-23 Methods, systems, and media for generating search results based on contextual information

Publications (3)

Publication Number Publication Date
JP2017503273A JP2017503273A (ja) 2017-01-26
JP2017503273A5 JP2017503273A5 (ja) 2017-11-24
JP6668245B2 true JP6668245B2 (ja) 2020-03-18

Family

ID=53482045

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016543706A Active JP6668245B2 (ja) 2013-12-31 2014-12-23 文脈情報に基づいて検索結果を生成するための方法、システム、および媒体

Country Status (8)

Country Link
US (3) US10002191B2 (ja)
EP (1) EP3090362A1 (ja)
JP (1) JP6668245B2 (ja)
KR (1) KR102310980B1 (ja)
CN (1) CN105874454B (ja)
AU (1) AU2014374036B2 (ja)
CA (1) CA2935568C (ja)
WO (1) WO2015103053A1 (ja)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150302819A1 (en) * 2014-04-22 2015-10-22 Lenovo (Singapore) Pte. Ltd. Updating an attribute used for displaying video content based on video content type
US9396354B1 (en) 2014-05-28 2016-07-19 Snapchat, Inc. Apparatus and method for automated privacy protection in distributed images
US9665241B2 (en) * 2014-06-30 2017-05-30 Verizon Patent And Licensing Inc. Media content search systems and methods
WO2016033765A1 (zh) * 2014-09-03 2016-03-10 华为技术有限公司 网页自动化测试方法及装置
US10311916B2 (en) 2014-12-19 2019-06-04 Snap Inc. Gallery of videos set to an audio time line
US9385983B1 (en) 2014-12-19 2016-07-05 Snapchat, Inc. Gallery of messages from individuals with a shared interest
KR102163528B1 (ko) 2015-03-18 2020-10-08 스냅 인코포레이티드 지오-펜스 인가 프로비저닝
US10204104B2 (en) * 2015-04-14 2019-02-12 Google Llc Methods, systems, and media for processing queries relating to presented media content
US9654891B2 (en) * 2015-09-15 2017-05-16 D&M Holdings, Inc. System and method for determining proximity of a controller to a media rendering device
US10354425B2 (en) 2015-12-18 2019-07-16 Snap Inc. Method and system for providing context relevant media augmentation
WO2017119604A1 (ko) * 2016-01-08 2017-07-13 주식회사 아이플래테아 시청률 산출 서버, 시청률 산출 방법, 및 시청률 산출 리모트 장치
EP3438852B1 (en) 2016-07-21 2023-03-15 Samsung Electronics Co., Ltd. Electronic device and control method thereof
WO2018174849A1 (en) * 2017-03-20 2018-09-27 Google Llc Contextually disambiguating queries
US10565256B2 (en) 2017-03-20 2020-02-18 Google Llc Contextually disambiguating queries
US10582277B2 (en) 2017-03-27 2020-03-03 Snap Inc. Generating a stitched data stream
CN108696760A (zh) * 2017-04-07 2018-10-23 京东方科技集团股份有限公司 一种信息获取、提供方法及装置
US10679068B2 (en) 2017-06-13 2020-06-09 Google Llc Media contextual information from buffered media data
CN108322770B (zh) * 2017-11-22 2020-02-18 腾讯科技(深圳)有限公司 视频节目识别方法、相关装置、设备和系统
CN107948876B (zh) * 2017-12-13 2020-10-09 北京小米移动软件有限公司 控制音箱设备的方法、装置及介质
US20190266282A1 (en) * 2018-02-28 2019-08-29 Ent. Services Development Corporation Lp Systems and methods for constrained directed media searches
WO2020037534A1 (zh) * 2018-08-22 2020-02-27 深圳市欢太科技有限公司 一种图像处理方法、装置以及计算机存储介质
CN109933788B (zh) * 2019-02-14 2023-05-23 北京百度网讯科技有限公司 类型确定方法、装置、设备和介质
CN115185445A (zh) * 2019-04-17 2022-10-14 华为技术有限公司 一种添加批注的方法及电子设备
CN110825289A (zh) * 2019-10-31 2020-02-21 北京字节跳动网络技术有限公司 操作用户界面的方法、装置、电子设备及存储介质
KR20240012973A (ko) * 2022-07-21 2024-01-30 삼성전자주식회사 영상 기반 질문에 대한 답변을 제공하는 디스플레이 장치 및 그 제어 방법

Family Cites Families (85)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6240555B1 (en) 1996-03-29 2001-05-29 Microsoft Corporation Interactive entertainment system for presenting supplemental interactive content together with continuous video programs
US6901366B1 (en) * 1999-08-26 2005-05-31 Matsushita Electric Industrial Co., Ltd. System and method for assessing TV-related information over the internet
US8205223B2 (en) 2000-04-12 2012-06-19 Lg Electronics Inc. Method and video device for accessing information
US7624337B2 (en) 2000-07-24 2009-11-24 Vmark, Inc. System and method for indexing, searching, identifying, and editing portions of electronic multimedia files
CN1471669A (zh) 2000-10-24 2004-01-28 汤姆森许可公司 利用嵌入媒体播放器页面传播广告的方法
US20020147984A1 (en) 2000-11-07 2002-10-10 Tomsen Mai-Lan System and method for pre-caching supplemental content related to a television broadcast using unprompted, context-sensitive querying
US20020144293A1 (en) * 2001-03-27 2002-10-03 Koninklijke Philips Electronics N.V. Automatic video retriever genie
US7421376B1 (en) 2001-04-24 2008-09-02 Auditude, Inc. Comparison of data signals using characteristic electronic thumbprints
US7519685B2 (en) 2003-04-04 2009-04-14 Panasonic Corporation Contents linkage information delivery system
JP4064902B2 (ja) * 2003-09-12 2008-03-19 株式会社東芝 メタ情報生成方法、メタ情報生成装置、検索方法および検索装置
CN1735162A (zh) 2004-08-12 2006-02-15 上海乐金广电电子有限公司 电视节目指南信息的osd生成器及其生成方法
US7840980B2 (en) 2004-11-04 2010-11-23 Koninklijke Philips Electronics N.V. Incorporation of lead actor information for TV recommenders
US8185543B1 (en) 2004-11-10 2012-05-22 Google Inc. Video image-based querying for video content
KR20060077988A (ko) 2004-12-30 2006-07-05 삼성전자주식회사 멀티미디어 통신 시스템에서 컨텍스트 추출 및 이를 통한정보 제공 시스템 및 방법
EP1842372B1 (en) 2005-01-14 2019-03-06 S.I.Sv.El. Societa' Italiana Per Lo Sviluppo Dell'elettronica S.P.A. A method and a system for constructing virtual video channel
JP2006270869A (ja) 2005-03-25 2006-10-05 Dainippon Printing Co Ltd 関連情報取得システム、管理装置、関連情報取得方法、関連情報送信プログラム。
JP2009518884A (ja) 2005-11-29 2009-05-07 グーグル・インコーポレーテッド マスメディアのソーシャル及び相互作用的なアプリケーション
CN1804829A (zh) * 2006-01-10 2006-07-19 西安交通大学 一种中文问题的语义分类方法
US8296808B2 (en) 2006-10-23 2012-10-23 Sony Corporation Metadata from image recognition
US8861898B2 (en) 2007-03-16 2014-10-14 Sony Corporation Content image search
WO2009036435A1 (en) 2007-09-14 2009-03-19 Auditude.Com, Inc. Restoring program information for clips of broadcast programs shared online
US8301618B2 (en) 2008-02-26 2012-10-30 Microsoft Corporation Techniques to consume content and metadata
JP5204893B2 (ja) * 2008-03-31 2013-06-05 ドルビー ラボラトリーズ ライセンシング コーポレイション 分散型媒体フィンガープリントリポジトリ
CN101566990A (zh) * 2008-04-25 2009-10-28 李奕 一种嵌入于视频的搜索方法及其系统
US9113214B2 (en) 2008-05-03 2015-08-18 Cinsay, Inc. Method and system for generation and playback of supplemented videos
US8285702B2 (en) 2008-08-07 2012-10-09 International Business Machines Corporation Content analysis simulator for improving site findability in information retrieval systems
US8929657B2 (en) 2008-08-22 2015-01-06 KyongHee Yi System and method for indexing object in image
US8239359B2 (en) 2008-09-23 2012-08-07 Disney Enterprises, Inc. System and method for visual search in a video media player
US20120311623A1 (en) 2008-11-14 2012-12-06 Digimarc Corp. Methods and systems for obtaining still images corresponding to video
US9355554B2 (en) 2008-11-21 2016-05-31 Lenovo (Singapore) Pte. Ltd. System and method for identifying media and providing additional media content
JP5189481B2 (ja) 2008-12-26 2013-04-24 Kddi株式会社 映像関連情報提示装置、映像関連情報提示システムおよび映像関連情報提示装置の制御プログラム
CN101557464B (zh) 2009-04-01 2013-06-05 深圳市融创天下科技股份有限公司 一种在视频节目播放中动态嵌入其他媒体片段的方法
US20130097632A1 (en) 2009-05-27 2013-04-18 Ajay Shah Synchronization to broadcast media
US20100332967A1 (en) 2009-06-25 2010-12-30 Yahoo! Inc. System and method for automatically generating web page augmentation
JP2011035628A (ja) * 2009-07-31 2011-02-17 Toshiba Corp キーワード検索システム、デジタル放送受信機及びキーワード検索方法
US9135277B2 (en) 2009-08-07 2015-09-15 Google Inc. Architecture for responding to a visual query
US8463100B2 (en) 2009-11-05 2013-06-11 Cosmo Research Company Limited System and method for identifying, providing, and presenting content on a mobile device
US8682728B2 (en) 2010-01-22 2014-03-25 Vincent KONKOL Network advertising methods and apparatus
KR101562588B1 (ko) 2010-01-26 2015-10-23 엘지전자 주식회사 정보 제공 장치 및 그 방법
US8560583B2 (en) 2010-04-01 2013-10-15 Sony Computer Entertainment Inc. Media fingerprinting for social networking
US9264785B2 (en) * 2010-04-01 2016-02-16 Sony Computer Entertainment Inc. Media fingerprinting for content determination and retrieval
US9443147B2 (en) 2010-04-26 2016-09-13 Microsoft Technology Licensing, Llc Enriching online videos by content detection, searching, and information aggregation
US20110271208A1 (en) 2010-04-30 2011-11-03 American Teleconferencing Services Ltd. Location-Aware Conferencing With Entertainment Options
US9015139B2 (en) 2010-05-14 2015-04-21 Rovi Guides, Inc. Systems and methods for performing a search based on a media content snapshot image
KR101123370B1 (ko) 2010-05-14 2012-03-23 주식회사 코리아퍼스텍 휴대단말용 객체기반 콘텐츠 제공방법 및 장치
US8694533B2 (en) 2010-05-19 2014-04-08 Google Inc. Presenting mobile content based on programming context
CN101883230A (zh) 2010-05-31 2010-11-10 中山大学 一种数字电视演员检索方法及系统
US8424037B2 (en) 2010-06-29 2013-04-16 Echostar Technologies L.L.C. Apparatus, systems and methods for accessing and synchronizing presentation of media content and supplemental media rich content in response to selection of a presented object
WO2012009785A1 (en) 2010-07-21 2012-01-26 D-Box Technologies Inc. Media recognition and synchronisation to a motion signal
WO2012014130A1 (en) 2010-07-26 2012-02-02 Koninklijke Philips Electronics N.V. Obtaining keywords for searching
US20120047156A1 (en) 2010-08-18 2012-02-23 Nokia Corporation Method and Apparatus for Identifying and Mapping Content
US9317586B2 (en) * 2010-09-28 2016-04-19 International Business Machines Corporation Providing answers to questions using hypothesis pruning
US20120096499A1 (en) 2010-10-19 2012-04-19 Charles Dasher Apparatus and method for facilitating video-on-demand catalog search and content distribution
US9241195B2 (en) 2010-11-05 2016-01-19 Verizon Patent And Licensing Inc. Searching recorded or viewed content
JP5491372B2 (ja) * 2010-12-03 2014-05-14 日本電信電話株式会社 情報検索システム、情報検索方法、情報検索プログラム
KR101910214B1 (ko) 2010-12-22 2018-10-19 톰슨 라이센싱 전자 프로그램 가이드 엔트리와 정보의 연관
US10070201B2 (en) 2010-12-23 2018-09-04 DISH Technologies L.L.C. Recognition of images within a video based on a stored representation
US9424471B2 (en) 2011-03-01 2016-08-23 Sony Corporation Enhanced information for viewer-selected video object
GB201117513D0 (en) * 2011-03-17 2011-11-23 Zeebox Ltd Content provision
US20120240177A1 (en) 2011-03-17 2012-09-20 Anthony Rose Content provision
US20120240144A1 (en) * 2011-03-17 2012-09-20 Anthony Rose Content provision
US20140033239A1 (en) 2011-04-11 2014-01-30 Peng Wang Next generation television with content shifting and interactive selectability
US8621548B2 (en) 2011-05-12 2013-12-31 At&T Intellectual Property I, L.P. Method and apparatus for augmenting media services
US8839303B2 (en) 2011-05-13 2014-09-16 Google Inc. System and method for enhancing user search results by determining a television program currently being displayed in proximity to an electronic device
JP2013016030A (ja) 2011-07-04 2013-01-24 Mitsubishi Electric Corp 番組再生装置および番組再生方法
US20130036442A1 (en) 2011-08-05 2013-02-07 Qualcomm Incorporated System and method for visual selection of elements in video content
KR101995425B1 (ko) 2011-08-21 2019-07-02 엘지전자 주식회사 영상 표시 장치, 단말 장치 및 그 동작 방법
US8805827B2 (en) * 2011-08-23 2014-08-12 Dialogic (Us) Inc. Content identification using fingerprint matching
US9317571B2 (en) 2011-08-26 2016-04-19 Google Inc. Third party content provider integrations
JP2015503131A (ja) 2011-09-12 2015-01-29 インテル・コーポレーション ビデオストリーム及び他のコンテンツのキーワードベースの非線形ナビゲーションの方法及び装置
US20130111514A1 (en) 2011-09-16 2013-05-02 Umami Co. Second screen interactive platform
US9098533B2 (en) 2011-10-03 2015-08-04 Microsoft Technology Licensing, Llc Voice directed context sensitive visual search
KR101952170B1 (ko) 2011-10-24 2019-02-26 엘지전자 주식회사 검색 방법을 채용한 휴대 전자 기기
US9866915B2 (en) 2011-11-28 2018-01-09 Excalibur Ip, Llc Context relevant interactive television
US8949872B2 (en) 2011-12-20 2015-02-03 Yahoo! Inc. Audio fingerprint for content identification
KR20130081595A (ko) 2012-01-09 2013-07-17 삼성전자주식회사 디스플레이 장치, 원격 제어 장치 및 그 검색 방법
CN102868934B (zh) 2012-08-01 2016-06-29 青岛海信传媒网络技术有限公司 基于智能电视的视频对象信息检索方法及装置
US8484017B1 (en) 2012-09-10 2013-07-09 Google Inc. Identifying media content
CN102833617B (zh) 2012-09-20 2016-03-23 北京酷云互动科技有限公司 一种同步显示多媒体节目附属信息的方法、系统及终端
US20140089423A1 (en) 2012-09-27 2014-03-27 United Video Properties, Inc. Systems and methods for identifying objects displayed in a media asset
US20140250116A1 (en) * 2013-03-01 2014-09-04 Yahoo! Inc. Identifying time sensitive ambiguous queries
US20140255003A1 (en) 2013-03-05 2014-09-11 Google Inc. Surfacing information about items mentioned or presented in a film in association with viewing the film
US9384217B2 (en) 2013-03-11 2016-07-05 Arris Enterprises, Inc. Telestration system for command processing
US9524509B2 (en) 2013-03-28 2016-12-20 Yahoo! Inc. Client side browser notification
US20140344670A1 (en) 2013-05-14 2014-11-20 Pandaworks Inc. Dba Contentpanda Method and system for on-demand delivery of predefined in-context web content

Also Published As

Publication number Publication date
CA2935568C (en) 2022-04-26
CN105874454B (zh) 2022-09-13
CN105874454A (zh) 2016-08-17
US20210256055A1 (en) 2021-08-19
JP2017503273A (ja) 2017-01-26
KR20160104635A (ko) 2016-09-05
US10002191B2 (en) 2018-06-19
US11941046B2 (en) 2024-03-26
US10997235B2 (en) 2021-05-04
WO2015103053A1 (en) 2015-07-09
CA2935568A1 (en) 2015-07-09
EP3090362A1 (en) 2016-11-09
AU2014374036B2 (en) 2020-01-23
US20180307752A1 (en) 2018-10-25
KR102310980B1 (ko) 2021-10-08
US20150186511A1 (en) 2015-07-02
AU2014374036A1 (en) 2016-06-16

Similar Documents

Publication Publication Date Title
JP6668245B2 (ja) 文脈情報に基づいて検索結果を生成するための方法、システム、および媒体
US10311101B2 (en) Methods, systems, and media for searching for video content
US11743557B2 (en) Methods, systems, and media for presenting supplemental content relating to media content based on state information that indicates a subsequent visit to the content interface
US10333767B2 (en) Methods, systems, and media for media transmission and management
US10984038B2 (en) Methods, systems, and media for processing queries relating to presented media content
KR102128115B1 (ko) 미디어 콘텐츠에 대응하는 모바일 콘텐츠를 제시하기 위한 방법들, 시스템들 및 미디어
WO2015157711A1 (en) Methods, systems, and media for searching for video content

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171016

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171016

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180905

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181204

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190814

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200226

R150 Certificate of patent or registration of utility model

Ref document number: 6668245

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250