JP5491955B2 - ネットワークシステム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラム - Google Patents

ネットワークシステム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラム Download PDF

Info

Publication number
JP5491955B2
JP5491955B2 JP2010110090A JP2010110090A JP5491955B2 JP 5491955 B2 JP5491955 B2 JP 5491955B2 JP 2010110090 A JP2010110090 A JP 2010110090A JP 2010110090 A JP2010110090 A JP 2010110090A JP 5491955 B2 JP5491955 B2 JP 5491955B2
Authority
JP
Japan
Prior art keywords
description file
scenario
recognition
scenario description
user instruction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010110090A
Other languages
English (en)
Other versions
JP2011238095A (ja
Inventor
昌秀 苗村
秀樹 三ッ峰
真人 藤井
クリピングデル サイモン
正樹 高橋
誠 奥田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2010110090A priority Critical patent/JP5491955B2/ja
Publication of JP2011238095A publication Critical patent/JP2011238095A/ja
Application granted granted Critical
Publication of JP5491955B2 publication Critical patent/JP5491955B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)

Description

本発明は、映像、音声などのコンテンツを提示する装置が接続されたネットワークシステムに係り、特にヒューマンインターフェースの技術に関する。
近年、ユーザのジェスチャー認識や音声認識などの認識処理結果を基に映像、音声などのコンテンツを操作する方法が提案されている(例えば、特許文献1参照)。このように構成したユーザインターフェースは、通常、単一の情報機器とのやりとりを目的に設計されており、認識処理結果を利用することによって、リモコンに依存しない直感的なユーザインターフェースが実現でき、操作も直感的でわかりやすくなる。
また、ホームネットワークに接続された複数の情報機器間でユーザには複雑な操作をさせずに、シームレスに映像を連続視聴できるように構成された技術が提案されている。これは、情報機器の再生の状態まで含めたデータ構造を統一化してホームネットワーク上で共有化することにより実現している(特許文献2参照)。
特開2002−182680号公報 特開2005−293417号公報
しかし、特許文献1に開示された技術では、単一の情報機器とのやりとりを目的に設計されており、今後、家庭環境で増えてくる複数の情報機器との連携的な操作が実現できるように設計されてはいない。
また、特許文献2に開示された技術では、ヒューマンインターフェースを利用してネットワークに接続された情報機器を動作させているが、このような動作は設置されたネットワークシステムにおいて固定的である。すなわち、ネットワーク設置後に情報機器の動作の変更あるいは動作対象の情報機器の変更をユーザが望む場合に対応することは困難であるという問題がある。
本発明は、以上のような問題点に鑑みてなされたものであり、ユーザの動作等により情報機器を連携させ、また、ユーザごとの異なる環境下でも対応が容易となるネットワークシステム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラムを提供することを課題とする。
本発明は、前記課題を解決するために創案されたものであり、まず、請求項1に記載のネットワークシステムは、情報機器が接続されたネットワークを構成するネットワークシステムであって、ネットワークに接続された少なくとも1つ以上の情報機器と、シナリオ記述ファイル管理装置と、ユーザ指示認識装置と、を備え、シナリオ記述ファイル管理装置が、シナリオ記述ファイル記憶手段と、シナリオ供給手段と、を備え、情報機器が、シナリオ記憶手段と、受信手段と、判定手段と、シナリオ実行手段と、を備え、ユーザ指示認識装置が、認識識別コード記憶手段と、探索手段と、送信手段と、を備える構成とした。
かかる構成において、ネットワークシステムは、シナリオ記述ファイル管理装置によって、ネットワークに接続された少なくとも1つ以上の予め定められた情報機器の動作を制御するために予め定められた手順を記述したシナリオ記述ファイルを管理する。
そして、ネットワークシステムは、ユーザ指示認識装置によって、ユーザの指示に基づいて、ユーザの指示に対応する認識識別コードをネットワークに接続されたすべての情報機器に送信する。
また、ネットワークシステムは、シナリオ記述ファイル管理装置において、シナリオ記述ファイル記憶手段によって、シナリオ記述ファイルを記憶する。
そして、シナリオ供給手段によって、シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルを当該情報機器に送信するとともに、情報機器用シナリオ記述ファイルに記述された認識識別コードをユーザ指示認識装置に送信する。これによって、シナリオ記述ファイルに記述された内容が各情報機器、ユーザ指示認識装置及びシナリオ記述ファイル管理装置に分配され、認識識別コードを共有する。
また、ネットワークシステムは、情報機器において、シナリオ記述ファイル管理装置から送信された情報機器用シナリオ記述ファイルをシナリオ記憶手段に記憶する。
また、受信手段によって、ユーザ指示認識装置が送信した認識識別コードを受信する。
そして、判定手段によって、受信手段が受信した認識識別コードが、シナリオ記憶手段に記憶された情報機器用シナリオ記述ファイルに記述された認識識別コードと一致するか否かを判定する。
また、シナリオ実行手段によって、判定手段による判定結果に基づいて、前記シナリオ記憶手段に記憶された情報機器用シナリオ記述ファイルを実行する。
また、ネットワークシステムは、ユーザ指示認識装置において、シナリオ記述ファイル管理装置から送信された認識識別コードとユーザの指示とを対応させて認識識別コード記憶手段に記憶する。
そして、探索手段によって、ユーザの指示に基づいてユーザの指示に対応した認識識別コードを認識識別コード記憶手段から探索する。
そして、送信手段によって、探索手段により探索された認識識別コードを前記予め定められた情報機器に届くように送信する。
また、ネットワークシステムは、シナリオ供給手段が、認識識別コードの他に認識識別メタデータを送信し、ユーザ指示認識装置が、ユーザ指示解析手段をさらに備える。
これによって、ネットワークシステムは、シナリオ供給手段において、情報機器用シナリオ記述ファイルに記述された認識識別コードの他に、情報機器用シナリオ記述ファイルに記述された情報機器用シナリオコードを実行するための変数を記述した認識識別メタデータを、ユーザ指示認識装置に送信する。
また、ネットワークシステムは、ユーザ指示解析手段によって、認識識別メタデータに対応する値を生成し、前記値を認識識別メタデータに代入する。これによって、情報機器の種々の動作が可能になる。
また、請求項に記載のネットワークシステムは、請求項1に記載のネットワークシステムにおいて、シナリオ記述ファイル管理装置が、更新手段を備える構成とした。
かかる構成において、ネットワークシステムは、シナリオ記述ファイル管理装置において、更新手段によって、シナリオ記述ファイル記憶手段に記憶されたシナリオ記述ファイルを追加、変更または削除する。これによって、ネットワーク設置後に情報機器の動作の変更あるいは動作対象の情報機器の変更が可能となる。
また、請求項に記載のシナリオ記述ファイル管理装置制御プログラムは、ネットワークに接続された少なくとも1つ以上の予め定められた情報機器の動作を制御するために予め定められた手順を記述したシナリオ記述ファイルを管理するシナリオ記述ファイル管理装置と、ユーザの指示に対応する認識識別コードをネットワークに接続されたすべての情報機器に送信するユーザ指示認識装置と、をネットワークに接続して備えたネットワークシステムにおいて、シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルを記憶するシナリオ記憶手段を備えた情報機器を制御するために、情報機器のコンピュータを、シナリオ供給手段、として機能させる構成とした。
かかる構成において、シナリオ記述ファイル管理装置制御プログラムは、シナリオ供給手段によって、シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルを当該情報機器に送信するとともに、情報機器用シナリオ記述ファイルに記述された認識識別コードをユーザ指示認識装置に送信する。これによって、ユーザの指示に対応する認識識別コードを共通にして複数の情報機器に所望の動作をさせる。
さらに、シナリオ供給手段は、情報機器用シナリオ記述ファイルに記述された認識識別コードの他に、情報機器用シナリオ記述ファイルに記述された情報機器用シナリオコードを実行するための変数を記述した認識識別メタデータを、ユーザ指示認識装置に送信する。
また、請求項に記載のユーザ指示認識装置制御プログラムは、ネットワークに接続された少なくとも1つ以上の予め定められた情報機器の動作を制御するために予め定められた手順を記述したシナリオ記述ファイルを管理するシナリオ記述ファイル管理装置と、ユーザの指示に対応する認識識別コードをネットワークに接続されたすべての情報機器に送信するユーザ指示認識装置と、をネットワークに接続して備えたネットワークシステムにおいて、シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルを記憶するシナリオ記憶手段を備えた情報機器を制御するために、情報機器のコンピュータを、探索手段、ユーザ指示解析手段、送信手段、として機能させる構成とした。
かかる構成において、ユーザ指示認識装置制御プログラムは、探索手段によって、ユーザの指示に基づいてユーザの指示に対応した認識識別コードを認識識別コード記憶手段から探索する。
また、ユーザ指示認識装置制御プログラムは、ユーザ指示解析手段によって、シナリオ記述ファイル管理装置から送信された、シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルに記述された情報機器用シナリオコードを実行するための変数を記述した認識識別メタデータに対応する値を生成し、値を認識識別メタデータに代入する。
また、ユーザ指示認識装置制御プログラムは、送信手段によって、探索手段により探索された認識識別コード及び値が代入された認識識別メタデータを予め定められた情報機器に届くように送信する。これによって、ユーザの指示に基づいて情報機器を動作させるトリガーとなる。
本発明は、以下に示す優れた効果を奏するものである。
請求項、請求項乃至請求項に記載の発明によれば、既存の操作リモコン以外であっても、ユーザの動作等により情報機器を連携させ、また、ユーザごとの異なる環境下でも対応が容易となる。
請求項1、請求項3乃至請求項4に記載の発明によれば、ネットワークに接続された情報機器に対して、任意に設定されたユーザの動作等に従って、より複雑な処理をさせることができる。
請求項に記載の発明によれば、シナリオ記述ファイルを追加、変更または削除することによって、ネットワーク設置後に情報機器の動作の変更あるいは動作対象の情報機器の変更が可能となる。
本発明に係るネットワークシステムの全体の構成を示す図である。 本発明に係るネットワークシステムの第1実施形態の全体の構成を示す図である。 本発明に係るネットワークシステムの第1実施形態におけるシナリオ記述ファイル管理装置、ユーザ指示認識装置、テレビ(TV)及びパーソナルコンピュータ(PC)の機能の構成を示す図である。 本発明に係る第1実施形態のシナリオ記述ファイルの構成の一例を示す図である。 本発明に係る第1実施形態のシナリオ記述ファイルから情報機器用シナリオ記述ファイルを抽出した例を示す図である。 本発明に係るネットワークシステムの動作の概略を示した図である。 本発明に係るネットワークシステムの第1実施形態の具体的な処理のシーケンスを示すシーケンス図である。 本発明に係るネットワークシステムの第2実施形態の全体の構成を示す図である。 本発明に係るネットワークシステムの第2実施形態における第1のテレビ(TV)及びユーザ指示認識装置の機能の構成を示す図である。 本発明に係るネットワークシステムの第2実施形態における第2のテレビ(TV)及びレコーダの機能の構成を示す図である。 本発明に係る第2実施形態のシナリオ記述ファイルの構成の一例を示す図である。 本発明に係るネットワークシステムの第2実施形態の具体的な処理のシーケンスの前半を示すシーケンス図である。 本発明に係るネットワークシステムの第2実施形態の具体的な処理のシーケンスの後半を示すシーケンス図である。 本発明に係るネットワークシステムの第3実施形態の全体の構成を示す図である。 本発明に係るネットワークシステムの第3実施形態におけるシナリオ記述ファイル管理装置、ユーザ指示認識装置及びテレビ(TV)の機能の構成を示す図である。 本発明に係る第3実施形態のシナリオ記述ファイルの構成の一例を示す図である。 本発明に係るネットワークシステムの第3実施形態の具体的な処理のシーケンスを示すシーケンス図である。
本発明に係るネットワークシステム、情報機器制御プログラム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラムの実施形態について、添付図面を参照して説明する。
[ネットワークシステムの概略]
図1に示すように、ネットワークシステム1は、シナリオ記述ファイル管理装置10、ユーザ指示認識装置20、情報機器300から構成される。
本発明では、ユーザの動作等の指示によって、情報機器300を動作させる。つまり、ユーザが指示を開始すると、ユーザ指示認識装置20がそれを認識し、各情報機器にトリガーである認識識別コードを送信し、各情報機器は、認識識別コードと対応した制御プログラムを実行する。
また、シナリオ記述ファイル管理装置10、ユーザ指示認識装置20及び情報機器300は、ネットワーク接続装置500を介して、電気通信回線600や有線無線による各種放送等700に接続することができる。情報機器300は、ネットワークに接続可能な情報機器である。例えば、情報機器300は、本発明に適用可能なコンピュータ、プリンタ等の情報処理装置、テレビジョン(テレビ)、DVDレコーダ、冷蔵庫、電話機、照明器具等である。
このようなネットワークの形態は、例えば、オフィスにおけるLAN、家庭内におけるいわゆるホームネットワーク等が代表的である。ただし、本発明を適用可能なネットワークの構成はこれらに限られない。
<第1実施形態>
次に、本発明の第1実施形態について説明する。
図2に示すように、ネットワークシステム1Aは、図1の情報機器300として、テレビ(TV)310、パーソナルコンピュータ(PC)320及びプリンタ330がネットワークに接続されている。
第1実施形態では、「ユーザがテレビに映された役者を指し、次にパーソナルコンピュータを指すと、役者名をキーワードにしてその役者の情報をパーソナルコンピュータがインターネットを用いて検索し、その検索結果をテレビに表示する」動作を例にして説明する。ここでは、テレビが後記するソース機器、パーソナルコンピュータが後記するターゲット機器である。
シナリオ記述ファイル管理装置10、ユーザ指示認識装置20、テレビ(TV)310及びパーソナルコンピュータ(PC)320の構成は図3に示す。なお、説明を簡易にするためプリンタ330の構成については省略する。また、同一の構成には同一の符号を付して、重複した説明は省略する。
[シナリオ記述ファイル管理装置10の構成]
図3に示すように、シナリオ記述ファイル管理装置10は、図示を省略した制御部、記憶部及び入出力部等を備えており、このシナリオ記述ファイル管理装置10は、入出力手段11、初期設定手段12、シナリオ記述ファイル記憶手段13、更新手段14、シナリオ供給手段15、ネットワーク管理手段16、送受信手段17を備えている。
ユーザは、後記するシナリオ記述ファイルをアプリケーション開発業者などから入手し、このシナリオ記述ファイルをシナリオ記述ファイル管理装置10に設定し、情報機器に対して所望の動作をさせることになる。
入出力手段11は、ディスプレイ装置等の表示装置、キーボード、マウス等の入力装置で構成され、シナリオ記述ファイル等の情報を入出力するものであり、一般的なものであるため説明を省略する。
初期設定手段12は、ユーザがネットワークの初期情報を予め設定するものである。例えば、初期設定手段12は、ネットワークに接続された情報機器300の機器の設置位置、機器の種類、機器ID、IPアドレス、機器の名称などを設定する。
シナリオ記述ファイル記憶手段13は、後記するシナリオ記述ファイルを記憶するものである。また、シナリオ記述ファイル記憶手段13は、複数のシナリオ記述ファイルを記憶することもできる。さらに、シナリオ記述ファイル記憶手段13は、ユーザごと、例えば、家族の構成員ごとに記憶させてもよい。
更新手段14は、ユーザがシナリオ記述ファイル管理装置10に新しくシナリオ記述ファイルを追加した場合、シナリオ記述ファイル記憶手段13にシナリオ記述ファイルを追加するものである。また、更新手段14は、ユーザがシナリオ記述ファイル管理装置10からシナリオ記述ファイルを削除した場合、シナリオ記述ファイル記憶手段13からシナリオ記述ファイルを削除する。
シナリオ供給手段15は、シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルを抽出し、当該情報機器に送信する。なお、情報機器用シナリオ記述ファイルについては後記する。また、シナリオ供給手段15は、情報機器用シナリオ記述ファイルに記述された認識識別コード及び認識識別メタデータを後記するユーザ指示認識装置20に送信する。
ネットワーク管理手段16は、ネットワークに接続された情報機器等を認知するものである。例えば、ネットワークに接続された情報機器300の機器の設置位置、機器の種類、機器ID、IPアドレス、機器の名称などを共有する。
送受信手段17は、入出力インターフェース装置等からなり、ネットワークに接続された情報機器等との間で信号を送受信するものである。
次に、図4を参照してシナリオ記述ファイルの説明をする。
図4に示すように、シナリオ記述ファイル2Aは、使用機器及び情報機器用シナリオコード30、認識識別メタデータ40、認識識別コード50から構成される。
使用機器及び情報機器用シナリオコード30は、ネットワークに接続された情報機器300を制御するプログラムコードである。本実施形態では、使用機器及び情報機器用シナリオコード30には、テレビ(TV)310、パーソナルコンピュータ(PC)320及びプリンタ330を制御するためのプログラムコードが記述されている。
認識識別メタデータ40は、使用機器及び情報機器用シナリオコード30を実行するために必要な変数の集合体である。本実施形態では、ユーザ40aは、ユーザを特定するための情報である。ソース機器40bは、ユーザが指した機器を特定するための情報である。イベント発火時間40cは、ユーザが指示を開始した時間を特定するための情報である。動作始点40dは、ユーザの動作の始点を特定するための情報である。動作終点40eは、ユーザの動作の終点を特定するための情報である。本実施形態では、ユーザ指示認識装置20は、ユーザの指示に基づいて、ユーザを識別するための値を変数「who」に、ソース機器を特定するための値を変数「eqp1」に、ユーザが指示を開始した時間を変数「Te」に、ユーザが始めに指した方向を変数「Pstart」に、ユーザが次に指した方向を変数「Pend」に代入する。
これらは一例であり、アプリケーション開発者が使用機器及び情報機器用シナリオコード30に応じて種々の変数を含ませることができる。
認識識別コード50は、ユーザの指示を識別するための識別子である。ユーザの指示に対応させるものであり、これにより、ユーザの指示に基づいて情報機器を動作させるトリガーとなる。本実施形態では、認識識別コード50は、「M1」である。
なお、シナリオ記述ファイル2Aには、複数の認識識別コードを含ませることもできる。ユーザの指示には様々な種類があり、ユーザの動作の他に、ユーザの音声、リモートコントローラによる指示、物体認識等がある。図4では、認識識別コード50がユーザの動作に対応する「M1」とユーザの音声に対応する「A1」を示しているが、ここでは、説明を簡易にするため、ユーザの指示がユーザの動作のみである場合について説明していく。
シナリオ記述ファイル2Aは、アプリケーション開発者が情報機器に対して所望の動作をさせるように予め設計する。ユーザは、シナリオ記述ファイル2Aをシナリオ記述ファイル管理装置10に設定し、情報機器に対して所望の動作をさせることになる。
次に、図5を参照して、情報機器用シナリオ記述ファイルの説明をする。
図5に示すように、情報機器用シナリオ記述ファイル3Aは、シナリオ記述ファイル2Aから各情報機器用に抽出したものである。情報機器用シナリオ記述ファイルは、予めシナリオ記述ファイルから各情報機器用に分離できるようになっている。認識識別コードは共通し、情報機器用シナリオコードはそれぞれの情報機器で異なる。この例では、テレビ(TV)用シナリオ記述ファイル3Aa、パーソナルコンピュータ(PC)用シナリオ記述ファイル3Ab、プリンタ用シナリオ記述ファイル3Acがある。認識識別コードは「M1」で共通しており、これにより、各情報機器は、特定のユーザの指示に対して連携して動作することができる。
また、シナリオ供給手段15は、シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルを当該情報機器に送信するとともに、情報機器用シナリオ記述ファイルに記述された認識識別コード及び認識識別メタデータを後記するユーザ指示認識装置20に送信する。
[ユーザ指示認識装置20の構成]
次に、図3に戻り、ユーザ指示認識装置20について説明する。
図3に示すように、ユーザ指示認識装置20は、ユーザの指示に対応する認識識別コードをネットワークに接続された情報機器に送信するものである。
ユーザ指示認識装置20は、ユーザ指示取得手段21、ユーザ指示解析手段22、探索手段23、認識識別コード記憶手段24、認識識別コード更新手段25、ネットワーク管理手段16、送受信手段17を備えて構成されている。
ユーザ指示取得手段21は、ユーザからの動画や音声を取得する一般的なカメラ等、または、リモートコントローラによる信号を受信する装置等から構成される。
ユーザ指示解析手段22は、ユーザ指示取得手段21が取得した動画や音声データを解析し、必要な値を生成するものである。例えば、ユーザ指示解析手段22は、動画認識技術により、輝度、色情報や奥行き情報から抽出するなどして、ユーザの指示である動作等やユーザの指している方向を割り出し特定する。ユーザの指している方向を特定する方法としては、例えば、ユーザが指先に極小の位置検知デバイスを装着し、その方向を検知する方法がある。また、ステレオカメラの原理などで奥行き画像を生成し、画面から一番近い突起形状で肌色成分を検出して指先位置を推定し、画面、顔位置などの関係からその方向を特定する方法などがある。
また、ユーザ指示解析手段22は、ユーザが指示を開始した時間を図示しないタイマを参照して特定する。また、ユーザ指示解析手段22は、予め登録されたユーザ識別のための情報、例えば、身長や輪郭などからユーザが誰であるかを特定する。ユーザを特定する方法としては、RFタグなどの個人認証用センサーを用いる方法や顔認識技術を用いる方法がある。本実施形態では、ユーザが指示を開始した時間「Te」、ユーザが指した方向「Pstart」、ユーザがテレビの次に指した方向「Pend」などの値を生成する。
このため、ユーザは、予めユーザの指示である動作等やユーザ識別のための情報を、後記する認識識別コード記憶手段24に、認識識別コードと対応させ、対応表として記憶させておく。本実施形態では、「テレビを指す」というユーザの動作と認識識別コード「M1」を対応させる。
さらに、ユーザ指示解析手段22は、ネットワーク管理手段16によって共有するネットワークに接続された情報機器の設置位置、機器の種類、機器IDを使用して、ユーザの指している方向線に最も近い位置にある機器IDを取得する。本実施形態では、「Pend」からターゲット機器を特定し、ターゲット機器IDを取得する。
探索手段23は、ユーザ指示解析手段22が特定したユーザの指示に基づいて、認識識別コード記憶手段24に記憶されたユーザの指示と認識識別コードとの対応表を探索するものである。
認識識別コード記憶手段24は、シナリオ記述ファイル管理装置10から送信された認識識別コード及び認識識別メタデータとユーザの指示とを対応させ、対応表として記憶するものである。
認識識別コード更新手段25は、新しくシナリオ記述ファイルがシナリオ記述ファイル管理装置10に追加され、シナリオ記述ファイル管理装置10のシナリオ供給手段15から認識識別コード及び認識識別メタデータが送信されてきた場合に、その認識識別コード及び認識識別メタデータを、認識識別コード記憶手段24に追加するものである。
また、ユーザ指示認識装置20は、ネットワーク管理手段16を介して、シナリオ記述ファイル管理装置10が認知した各情報機器の設置位置、機器の種類、機器IDなどをネットワークを介して共有する。
[テレビ(TV)310の構成]
テレビ(TV)310は、ネットワーク管理手段16、送受信手段17、動画像表示手段311、TV初期設定手段312、シナリオ記憶手段313、シナリオ更新手段314、番組メタデータ記憶手段315、判定手段316、シナリオ実行手段317、から構成される。
動画像表示手段311は、放送等の動画像や情報を表示するものである。
TV初期設定手段312は、テレビに固有の情報を設定するものである。例えば、放送番組に対するユーザの好み等のユーザプロファイルを登録しておくと、指示したユーザが誰であるかによって、処理を変えることができる。
シナリオ記憶手段313は、シナリオ記述ファイル管理装置10のシナリオ供給手段15から送信されたテレビ(TV)用シナリオ記述ファイル3Aaを記憶するものである。
シナリオ更新手段314は、新しくシナリオ記述ファイルがシナリオ記述ファイル管理装置10に追加され、シナリオ記述ファイル管理装置10のシナリオ供給手段15からテレビ(TV)用シナリオ記述ファイルが送信されてきた場合に、そのテレビ(TV)用シナリオ記述ファイルを、シナリオ記憶手段313に追加するものである。
番組メタデータ記憶手段315は、放送番組に付随するオブジェクトに関する情報である番組メタデータを記憶するものである。番組メタデータは、本実施形態では例えば、フレームごとにどの役者が画面上のどの位置に現れるかを特定する情報である。
判定手段316は、ユーザ指示認識装置20が送信した認識識別コードと、シナリオ記憶手段313に記憶されたテレビ(TV)用シナリオ記述ファイル3Aaに記述された認識識別コードとが一致するか否かを判定するものである。本実施形態では、シナリオ記憶手段313に記憶されたテレビ(TV)用シナリオ記述ファイル3Aaに記述された認識識別コードが「M1」であり、ユーザ指示認識装置20が送信してきた認識識別コードが「M1」である場合に、認識識別コードが一致すると判定する。
シナリオ実行手段317は、判定手段316が認識識別コードが一致すると判定した場合に、シナリオ記憶手段313に記憶されたテレビ(TV)用シナリオ記述ファイル3Aaの情報機器用シナリオコードを実行するものである。認識識別コードが一致しないと判定した場合には、シナリオ実行手段317は、当該情報機器用シナリオコードを実行しない。
[パーソナルコンピュータ(PC)320の構成]
パーソナルコンピュータ(PC)320は、情報入出力手段321、PC初期設定手段322、シナリオ記憶手段313、シナリオ更新手段314、インターネット検索手段325、判定手段316、シナリオ実行手段317、ネットワーク管理手段16、送受信手段17から構成される。
情報入出力手段321は、キーボード、マウス、ディスプレイ装置といった一般的な装置から構成され、一般的な情報を入出力するものである。
PC初期設定手段322は、ユーザプロファイルや使用アプリケーションなどを登録するものである。これにより、ユーザが誰であるのかによって処理を変更することや、使用するアプリケーションを指定することなどを、予めシナリオ記述ファイルに記述することができる。
インターネット検索手段325は、インターネットに接続し、外部のサーバ等から情報を検索して取得するものである。
[ネットワークシステムの動作の概略]
次に、本発明に係るネットワークシステム1の動作の流れについて図6を参照(適宜図2〜図5を参照)して説明する。
まず、ユーザが、情報機器の設置位置、情報機器の種類、情報機器のID、情報機器が使用するアプリケーション、ユーザの指示である動作等、ユーザ識別のための情報、ユーザプロファイルなどを設定しておく。また、各情報機器の電源はONとなっている。
図6に示すように、ステップS1において、シナリオ記述ファイル管理装置10は、初期設定を処理する。すなわち、ユーザが設定した各情報機器の設置位置、情報機器の種類、情報機器のID、情報機器が使用するアプリケーションなどをユーザ指示認識装置20と共有する。また、シナリオ記述ファイル管理装置10は、設定されたシナリオ記述ファイル2Aから情報機器用シナリオ記述ファイル3Aを各情報機器300に送信する。さらに、シナリオ記述ファイル管理装置10は、認識識別コード及び認識識別メタデータをユーザ指示認識装置20に送信する。
ステップS2において、各情報機器300は、各情報機器固有の機能を処理しながら、認識識別コードがユーザ指示認識装置20から送信されているか否かを常時判定する。例えば、テレビであれば、テレビ視聴機能を処理しながら、認識識別コードが送信されているか否かを常時判定する。ここでは、この状態をアイドリング状態と呼ぶ。
ステップS3において、各情報機器300は、ユーザ指示認識装置20から認識識別コードを受信すると、情報機器用シナリオ記述ファイル3Aに記述された認識識別コードと一致するか否かを判定する。
ステップS3において一致すると判定された場合(ステップS3:Yes)、各情報機器300は、認識識別コード及び認識識別メタデータを解析し、必要な値を生成する(ステップS4)。一致しないと判定された場合(ステップS3:No)、再びステップS2に戻る。
ステップS5において、各情報機器300は、受信した認識識別コードに対応する処理をする。処理を終了すると、再びステップS2に戻る。
[ネットワークシステム1Aの動作の詳細]
次に、本実施形態に係るネットワークシステム1Aにおける各機器間の動作の流れを詳述する。
図7に示すように、ステップS101において、シナリオ記述ファイル管理装置10の初期設定手段12は、ユーザが設定した各情報機器の設置位置、情報機器の種類、情報機器のIDなどを認知する。
ステップS102において、ユーザ指示認識装置20は、ステップS101においてシナリオ記述ファイル管理装置10が認知した各情報機器の設置位置、情報機器の種類、情報機器のIDなどをネットワーク管理手段16を介して共有する。
ステップS103において、シナリオ記述ファイル管理装置10のシナリオ記述ファイル記憶手段13は、ユーザが設定したシナリオ記述ファイルを認知する。
ステップS104において、シナリオ記述ファイル管理装置10のシナリオ供給手段15は、設定されたシナリオ記述ファイル2Aから、テレビ(TV)用シナリオ記述ファイル3Aaをテレビ(TV)310に、パーソナルコンピュータ(PC)用シナリオ記述ファイル3Abをパーソナルコンピュータ(PC)320に、それぞれ送信する。また、シナリオ供給手段15は、シナリオ記述ファイル2Aに記述された認識識別コード50及び認識識別メタデータ40をユーザ指示認識装置20に送信する。
ステップS105において、ユーザ指示認識装置20は、シナリオ記述ファイル管理装置10から送信された認識識別コード50及び認識識別メタデータ40を受信する。また、テレビ(TV)310は、テレビ(TV)用シナリオ記述ファイル3Aaを受信し、パーソナルコンピュータ(PC)320は、パーソナルコンピュータ(PC)用シナリオ記述ファイル3Abを受信する。
ステップS106において、ユーザ指示認識装置20の認識識別コード記憶手段24は、ユーザが登録したユーザの指示である動作等やユーザ識別のための情報を認識識別コードと対応させて対応表として記憶する。
ステップS107において、ユーザ指示認識装置20のユーザ指示取得手段21は、ユーザの動作等を監視する。テレビ(TV)310の判定手段316は、ユーザ指示認識装置20から認識識別コードが送信されているか否かを常時判定する。パーソナルコンピュータ(PC)320の判定手段316も同様である。
ステップS108において、ユーザ指示認識装置20のユーザ指示取得手段21は、ユーザの動作である「テレビを指す」の動画データを取得する。ユーザ指示解析手段22は、動画認識技術により、動画データを解析し、ユーザの指している方向と情報機器の設置位置から情報機器がテレビであることを割り出し、ユーザの指示が「テレビを指す」であることを特定する。探索手段23は、ユーザ指示解析手段22が特定したユーザの指示に基づいて、認識識別コード記憶手段24に記憶されたユーザの指示と認識識別コードの対応表を探索し、ユーザの指示に対応する認識識別コードが「M1」であることを特定する。ユーザ指示解析手段22は、認識識別コード「M1」に付随する認識識別メタデータ40に必要な値を代入する。ここでは、ユーザを特定する値を「who」に、ユーザが指示を開始した時間を特定する値を「Te」に、ユーザが始めに指した方向を特定する値を「Pstart」に、ユーザが次に指した方向を特定する値を「Pend」に、それぞれ代入する。また、ユーザ指示解析手段22は、ターゲット機器がパーソナルコンピュータ(PC)320であることを特定する。そして、ユーザ指示認識装置20の送受信手段17は、認識識別コード「M1」及びこれに付随する認識識別メタデータ、ターゲット機器IDなどをネットワークに接続されたすべての情報機器に送信する。
ステップS109において、テレビ(TV)310の判定手段316は、受信した認識識別コード「M1」がテレビ(TV)用シナリオ記述ファイル3Aaに記述された認識識別コード「M1」と一致すると判定する。また、パーソナルコンピュータ(PC)320の判定手段316は、受信した認識識別コード「M1」がパーソナルコンピュータ(PC)用シナリオ記述ファイル3Abに記述された認識識別コード「M1」と一致すると判定する。なお、認識識別コードが一致しない場合には、ステップS107に戻る。
ステップS110において、テレビ(TV)310のシナリオ実行手段317は、受信した認識識別コードと認識識別メタデータを解析し、「Te」、「Pstart」、「who」、ユーザプロファイル、及び番組メタデータ記憶手段315が記憶している「フレームごとにどの役者が画面上のどの位置に現れるかを特定する情報」に基づいて、ユーザが指した役者を特定し、キーワード等を生成する。
ステップS111において、テレビ(TV)310の送受信手段17は、生成したキーワード等を、ターゲット機器IDが示すパーソナルコンピュータ(PC)320へ送信する。
ステップS112において、パーソナルコンピュータ(PC)320のインターネット検索手段325は、テレビ(TV)310から受信したキーワード等を基に、インターネットで検索し、検索結果を生成する。
ステップS113において、パーソナルコンピュータ(PC)320の送受信手段17は、検索結果をテレビ(TV)310に送信する。
ステップS114において、テレビ(TV)310の動画像表示手段311は、パーソナルコンピュータ(PC)から受信した検索結果を表示する。
ステップS115において、テレビ(TV)310とパーソナルコンピュータ(PC)は、アイドリング状態に戻る。すなわち、ステップS107に戻る。
以上の動作によって、ネットワークシステム1Aは、ユーザがテレビに映された役者を指し、次にパーソナルコンピュータを指すと、その役者の情報をパーソナルコンピュータがインターネットを用いて検索し、その検索結果をテレビに表示する動作を実現することができる。
なお、本実施形態では、ユーザがテレビ(TV)を指し、次にパーソナルコンピュータ(PC)を指した場合について述べたが、ユーザがテレビ(TV)を指し、次にプリンタを指した場合、テレビ(TV)の静止画像をプリントするというような処理も同様にして可能である。すなわち、ターゲット機器IDがプリンタであり、テレビ(TV)が認識識別コードの「Te」の時点における静止画を記憶し、プリンタへ送信する。プリンタはテレビ(TV)から送信された静止画をプリントする。このような動作を情報機器用シナリオコードへ記述しておく。また、シナリオ記述ファイルに記述すれば、表示する機器などを変更することもできる。
また、情報機器が使用するアプリケーションについて予めシナリオ記述ファイルに記述されていることを前提として説明したが、情報機器またはシナリオ記述ファイル管理装置の初期設定において、認識識別コードと情報機器が使用するアプリケーションとを対応づけた対応表を予め作成しておいてもよい。
また、説明を簡易にするためにユーザの指示がユーザの動作のみである場合について説明したが、ユーザの指示がユーザの動作と音声である場合について簡単に説明する。
認識識別コードについて、ユーザの動作に対応するものが「M1」で、ユーザの音声に対応するものが「A1」であるとする。認識識別コード「A1」に付属する認識識別メタデータには、ユーザの発話内容を特定するための変数が含まれる。同一の情報機器が両者を受信してから情報機器の処理を開始したい場合は、情報機器用シナリオコードに、一方を受信したときは他方を待つように条件設定などをすればよい。両者を受信した後、例えば、ユーザが同一であるか否かなどの条件設定をしてもよい。そして、音声による発話内容によって情報機器の処理を選択する等の制御が可能である。
また、ユーザ指示認識装置は、情報機器が有するアプリケーションのリストをネットワークを介して取得し、さらに、シナリオ記述ファイルにおいて使用するアプリケーションのリストを認識識別メタデータにより取得し、ユーザが指した方向に複数の情報機器が存在する場合に、それらの情報機器のアプリケーションのリストと認識識別メタデータとを
参照して、ターゲット機器を特定することもできる。
また、ステップS106において、ユーザの指示を予め認識識別コード記憶手段24に記憶させたが、例えば、ユーザの指示を音声で認識する場合、シナリオ記述ファイルにユーザの指示としてテキストデータを記述しておき、ユーザ指示認識装置がこれを取得すれば、このテキストデータに対応する音声をユーザの指示であると特定することもできる。この場合は、ユーザの指示を予め認識識別コード記憶手段24に記憶させる必要はない。
<第2実施形態>
次に、本発明の第2実施形態について説明する。
図8に示すように、ネットワークシステム1Bは、情報機器300として、第1のテレビ(TV)340、第2のテレビ(TV)350、及びレコーダ360がネットワークに接続されている。
第2実施形態では、「ユーザがテレビを視聴しているときに、ユーザが指示のトリガとして手首を回す等の予め定められたポーズをとって、次に視聴している第1のテレビ(TV)を指し、次に別室にある第2のテレビ(TV)の方向を指すと、ユーザが指示した時点からの番組放送が、第2のテレビ(TV)に流れる」動作を例にして説明する。ここでは、第1のテレビ(TV)340がソース機器で、第2のテレビ(TV)350がターゲット機器である。
また、ユーザ指示認識装置が第1のテレビ(TV)340及び第2のテレビ(TV)350に内蔵されている。第1のテレビ(TV)340の構成は図9に示す。第2のテレビ(TV)350及びレコーダ360の構成は図10に示す。なお、シナリオ記述ファイル管理装置10の構成については、第1実施形態と同様であるため、説明を省略する。
[第1のテレビ(TV)340の構成]
図9に示すように、第1のテレビ(TV)340に内蔵されているユーザ指示認識装置210は、TV連携手段26を備え、必要に応じてテレビ(TV)と情報をやりとりする機能を有する。また、第1のテレビ(TV)340は、番組データ記憶手段341を備え、番組データを一時的に保存する機能を有する。その他の構成は、第1実施形態の構成と同様であり、同一の構成には同一の符号を付して、重複した説明は省略する。なお、ユーザ指示認識装置210のカメラ等がテレビの外枠上部等に取り付けられている。
[第2のテレビ(TV)350及びレコーダ360の構成]
図10に示すように、レコーダ360は、動画像記憶手段361を備えている。動画像記憶手段361は、一般的なハードディスクドライブ等で構成され、一般的な動画像や情報を記憶する機能を有する。レコーダ360のその他の構成は、他の情報機器の構成と同様であり、同一の構成には同一の符号を付して、重複した説明は省略する。
第2のテレビ(TV)350は、第1のテレビ(TV)340と同様であるため、説明を省略する。
次に、第2実施形態のシナリオ記述ファイルについて説明する。
図11に示すように、シナリオ記述ファイル2Bは、認識識別メタデータ41にユーザ有無41fが追加されている。ユーザ有無41fは、ユーザの有無を判定するための変数を格納するための項目である。変数「bP」の値は、例えば、「bP=1」であれば、ユーザが室内にいることを示し、「bP=0」であれば、ユーザが室内にいないことを示す。
また、使用機器及び情報機器用シナリオコード31は、テレビ(TV)用とレコーダ用があり、テレビ(TV)用には、さらにソース機器用とターゲット機器用が記述されている。ここで、ソース機器とは、本実施形態では、ユーザが始めに指した方向にある情報機器であり、ターゲット機器とは、ユーザが次に指した方向にある情報機器のことである。
本実施形態では、第1のテレビ(TV)340及び第2のテレビ(TV)350は、いずれも、ソース機器にもなり得るし、ターゲット機器にもなり得る。また、第1のテレビ(TV)340及び第2のテレビ(TV)350は、いずれも、ソース機器になった場合には、ソース機器用の情報機器用シナリオコードを実行する。一方、ターゲット機器になった場合には、ターゲット機器用の情報機器用シナリオコードを実行する。
[ネットワークシステム1Bの動作の詳細]
次に、本実施形態に係るネットワークシステム1Bにおける各機器間の動作の流れを詳述する。
図12は、本実施形態におけるネットワークシステム1Bの具体的な処理のシーケンスの前半を示している。なお、シーケンスの後半については、丸付き番号1から6をそれぞれ対応させて図13に示す。
ステップS201乃至ステップS203は、図7のステップS101乃至ステップS103と同様であるため、説明を省略する。
ステップS204において、シナリオ記述ファイル管理装置10のシナリオ供給手段15は、設定されたシナリオ記述ファイル2Bから、テレビ(TV)用シナリオ記述ファイルを第1のテレビ(TV)340及び第2のテレビ(TV)350に、レコーダ用シナリオ記述ファイルをレコーダ360に、それぞれ送信する。なお、テレビ(TV)用シナリオ記述ファイルには、ソース機器用及びターゲット機器用の両方の情報機器用シナリオコードが記述されている。また、シナリオ記述ファイル2Bに記述された認識識別コード51及び認識識別メタデータ41を、第1のテレビ(TV)340に内蔵されたユーザ指示認識装置210及び第2のテレビ(TV)350に内蔵されたユーザ指示認識装置220へ、それぞれ送信する。ここでは、認識識別コード51は、「M2」であり、認識識別メタデータ41は、「who」、「Te」、「bP」などである。
ステップS205において、第1のテレビ(TV)340に内蔵されたユーザ指示認識装置210は、TV連携手段26及び送受信手段17を介して、シナリオ記述ファイル管理装置10から送信された認識識別コード51及び認識識別メタデータ41を受信する。第2のテレビ(TV)350に内蔵されたユーザ指示認識装置220も同様である。また、第1のテレビ(TV)340は、テレビ(TV)用シナリオ記述ファイルを受信する。第2のテレビ(TV)350も同様である。レコーダ360は、レコーダ用シナリオ記述ファイルを受信する。
ステップS206において、第1のテレビ(TV)340に内蔵されたユーザ指示認識装置210及び第2のテレビ(TV)350に内蔵されたユーザ指示認識装置220の認識識別コード記憶手段24は、ユーザが登録したユーザの指示である動作等やユーザ識別のための情報を認識識別コードと対応させて記憶する。本実施形態では例えば、「手首を回す」というユーザの動作と認識識別コード「M2」を対応させる。
ステップS207において、第1のテレビ(TV)340に内蔵されたユーザ指示認識装置210及び第2のテレビ(TV)350に内蔵されたユーザ指示認識装置220のユーザ指示取得手段21は、ユーザの動作等を監視する。第1のテレビ(TV)340の判定手段316は、認識識別コードが送信されているか否かを常時判定する。第2のテレビ(TV)350の判定手段316及びレコーダ360の判定手段316も、同様である。
ステップS208において、第1のテレビ(TV)340に内蔵されたユーザ指示認識装置210のユーザ指示取得手段21は、ユーザの動作である「手首を回す」の動画データを取得する。第1のテレビ(TV)340に内蔵されたユーザ指示解析手段22は、ステップS108と同様にして、ユーザの指示に対応する認識識別コードが「M2」であることを特定する。また、ユーザが指示を開始した時間「Te」、ユーザが指した方向「Pstart」、ユーザが第1のテレビ(TV)340の次に指した方向「Pend」などを生成する。さらに「Pstart」からソース機器を、「Pend」からターゲット機器を、それぞれ特定し、ソース機器ID及びターゲット機器IDを生成する。ここでは、ソース機器は第1のテレビ(TV)340とし、ターゲット機器は第2のテレビ(TV)350として説明する。
そして、第1のテレビ(TV)340に内蔵されたユーザ指示認識装置210のTV連携手段26は、第1のテレビ(TV)340の送受信手段17を介して、認識識別コード「M2」及びこれに付随する認識識別メタデータ「who」、「Te」、「Pstart」、「Pend」、「bP」、ソース機器ID及びターゲット機器IDなどを、第1のテレビ(TV)340、レコーダ360及び第2のテレビ(TV)350に送信する。
ここから先は、図13において説明する。
図13に示すように、ステップS209において、第1のテレビ(TV)340の判定手段316は、受信した認識識別コード「M2」がテレビ(TV)用シナリオ記述ファイルに記述された認識識別コード「M2」と一致すると判定する。同様に、第2のテレビ(TV)350の判定手段316及びレコーダ360の判定手段316は、受信した認識識別コード「M2」がそれぞれの情報機器用シナリオ記述ファイルに記述された認識識別コード「M2」と一致すると判定する。なお、認識識別コードが一致しない場合には、ステップS207に戻る。
ステップS210において、第1のテレビ(TV)340のシナリオ実行手段317は、受信した認識識別コードと認識識別メタデータを解析し、ソース機器IDからソース機器が自己であることを認知する。また、シナリオ実行手段317は、ターゲット機器IDからターゲット機器が第2のテレビ(TV)350であることを認知し、また、ユーザが指示を開始した時間「Te」を取得する。そして、TV用シナリオコードのソース機器用を実行する。レコーダ360のシナリオ実行手段317は、受信した認識識別コードと認識識別メタデータを解析し、ソース機器が第1のテレビ(TV)340であること及びターゲット機器が第2のテレビ(TV)350であることを認知し、ソース機器である第1のテレビ(TV)340からの要求を待つ。第2のテレビ(TV)350のシナリオ実行手段317は、受信した認識識別コードと認識識別メタデータを解析し、ソース機器が第1のテレビ(TV)340であること及びターゲット機器が自己であることを認知し、ユーザの入室を待つ。第2のテレビ(TV)350のシナリオ実行手段317は、TV用シナリオコードのターゲット機器用を実行することになる。また、第2のテレビ(TV)350のシナリオ実行手段317は、第2のテレビ(TV)350におけるユーザ指示認識装置220のTV連携手段26を介して、ユーザを待機中であることを、ユーザ指示解析手段22に伝える。
ステップS211において、第1のテレビ(TV)340の送受信手段17は、ユーザが指示を開始した時間「Te」からの番組データを番組データ記憶手段341から取得し、レコーダ360へ送信する。
ステップS212において、レコーダ360の動画像記憶手段361は、第1のテレビ(TV)340が送信してきた「Te」からの番組データを記憶する。
ステップS213において、第1のテレビ(TV)340に内蔵されたユーザ指示認識装置210のユーザ指示解析手段22は、ユーザが退室すると、ユーザ退室信号を第1のテレビ(TV)340に供給する。ここで、ユーザ退室信号とは、例えば、ユーザ有無41fの「bP」を2値で定義し、「bP=0」としてユーザが退室したことを示す。
ステップS214において、例えば、第1のテレビ(TV)340のシナリオ実行手段317は、ユーザ退室信号を取得すると、番組再生を止める。
ステップS215において、第2のテレビ(TV)350に内蔵されたユーザ指示認識装置220のユーザ指示解析手段22は、ユーザが入室すると、ユーザ入室信号を第2のテレビ(TV)350に供給する。ユーザ入室信号とは、「bP=1」としてユーザが入室したことを示すものである。なお、第2のテレビ(TV)350のシナリオ実行手段317は、時間経過によって処理の実行を制限することや同一人物か否かをチェックしてもよい。
ステップS216において、第2のテレビ(TV)350のシナリオ実行手段317は、ユーザ入室信号を取得すると、再生要求をレコーダ360へ送信する。
ステップS217において、レコーダ360のシナリオ実行手段317は、第2のテレビ(TV)350からの再生要求を受信すると、「Te」からの番組データを第2のテレビ(TV)350へ送信する。
ステップS218において、第2のテレビ(TV)350のシナリオ実行手段317は、レコーダ360から送信された「Te」からの番組データを受信し、再生する。
ステップS219において、第1のテレビ(TV)340、第2のテレビ(TV)350及びレコーダ360は、アイドリング状態に戻る。すなわち、ステップS207(図12参照)に戻る。
以上の動作によって、ネットワークシステム1Bは、ユーザが手首を回し、次に第1のテレビ(TV)を指し、次に第2のテレビ(TV)を指すと、第1のテレビ(TV)に出力されていた番組放送が第2のテレビ(TV)に出力される動作を実現することができる。
なお、本実施形態では、レコーダが独立してネットワークに接続された例を示したが、レコーダがテレビ(TV)等に内蔵されていてもよい。また、ユーザ指示認識装置がそれぞれのテレビ(TV)に内蔵された例を示したが、独立してネットワークに接続されていてもよい。
また、本実施形態では、ユーザの指示がユーザの動作のみである場合について説明したが、ユーザの指示がユーザの音声であっても同様に処理できる。例えば、第1のテレビ(TV)340の前にいるユーザの発話内容が「止めて」であれば、第1のテレビ(TV)340の番組再生を止めて、レコーダ360の動画像記憶手段361に番組データの記憶を開始する。第2のテレビ(TV)350の前で発話内容が「プレイ」であれば、レコーダ360の動画像記憶手段361に記憶した番組データを第2のテレビ(TV)350で再生するというようなこともできる。
また、第1実施形態と同様、ターゲット機器を特定する際に、ユーザが指した方向線に複数の情報機器が存在する場合に、情報機器が動画像記憶手段を持っているか否かを加味して情報機器を特定する機能をユーザ指示認識装置に持たせてもよい。
<第3実施形態>
次に、本発明の第3実施形態について説明する。
図14に示すように、ネットワークシステム1Cは、情報機器300として、テレビ(TV)370、パーソナルコンピュータ(PC)380及びプリンタ390がネットワークに接続されている。
第3実施形態では、「ユーザが紙媒体を指し、次にテレビ(TV)を指すと、紙媒体の内容に関連する番組情報が検索されテレビ(TV)に表示される」動作を例にする。
また、ユーザの近傍に紙媒体400がある。ここで、紙媒体とは、画像や文字が印刷された本、雑誌、新聞等である。シナリオ記述ファイル管理装置10、ユーザ指示認識装置20及びテレビ(TV)370の構成は図15に示す。なお、説明を簡易にするため、パーソナルコンピュータ(PC)380及びプリンタ390の構成については省略する。
図15に示すように、テレビ(TV)370は、番組データ検索手段371を備えている。番組データ検索手段371は、キーワードや画像情報等からハードディスクドライブ等に記憶された放送番組の番組データを検索するものである。
その他の構成は、第1実施形態の構成と同様であり、同一の構成には同一の符号を付して、重複した説明は省略する。
次に、第3実施形態のシナリオ記述ファイルについて説明する。
図16に示すように、シナリオ記述ファイル2Cは、紙媒体42g、テキストデータ42h、画像情報42iが追加されている。また、使用機器及び情報機器用シナリオコード32は、テレビ(TV)用、パーソナルコンピュータ(PC)及びプリンタ用がある。
紙媒体42gは、ユーザが指した紙媒体の内容を特定するための情報である。テキストデータ42hは、ユーザが指した紙媒体の文字情報を特定するための情報である。画像情報42iは、ユーザが指した紙媒体の画像情報を特定するための情報である。
[ネットワークシステム1Cの動作の詳細]
次に、本実施形態に係るネットワークシステム1Cにおける各機器間の動作の流れを詳述する。
なお、説明を簡易にするため、パーソナルコンピュータ(PC)380及びプリンタ390の動作の流れについては、説明を省略する。
図17に示すように、ステップS301乃至ステップS303は、図7のステップS101乃至ステップS103と同様であるため、説明を省略する。
ステップS304において、シナリオ記述ファイル管理装置10のシナリオ供給手段15は、設定されたシナリオ記述ファイル2Cからテレビ(TV)用シナリオ記述ファイルを抽出し、テレビ(TV)370に送信する。また、シナリオ供給手段15は、シナリオ記述ファイル2Cに記述された認識識別コード52及び認識識別メタデータ42を、ユーザ指示認識装置20に送信する。ここでは、認識識別コード52は、「M3」であり、認識識別メタデータ42は、「Pstop」、「Txt」、「Img」などである。
ステップS305において、ユーザ指示認識装置20は、シナリオ記述ファイル管理装置10から送信された認識識別コード52及び認識識別メタデータ42を受信する。また、テレビ(TV)370は、テレビ(TV)用シナリオ記述ファイルを受信する。
ステップS306において、ユーザ指示認識装置20の認識識別コード記憶手段24は、ユーザが登録したユーザの指示である動作等やユーザ識別のための情報を認識識別コードと対応させて記憶する。本実施形態では例えば、「紙媒体を指す」というユーザの動作と認識識別コード「M3」を対応させる。
ステップS307において、ユーザ指示認識装置20のユーザ指示取得手段21は、ユーザの動作等を監視する。テレビ(TV)370の判定手段316は、認識識別コードがユーザ指示認識装置20から送信されているか否かを常時判定する。
ステップS308において、ユーザ指示認識装置20のユーザ指示取得手段21は、ユーザの動作である「紙媒体を指す」の動画データを取得する。
ユーザ指示解析手段22は、ステップS108と同様にして、ユーザの指示に対応する認識識別コードが「M3」であることを特定する。また、ユーザ指示解析手段22は、ユーザが指した紙媒体の内容「Pstop」、紙媒体の文字情報「Txt」、紙媒体の画像情報「Img」、ユーザが紙媒体400の次に指した方向「Pend」などの値を生成する。紙媒体の内容を特定する方法としては、紙媒体に付随したバーコードやQRコードを読み取る方法や、画像認識技術を用いて、紙媒体中の文字情報、人物情報、物体情報などをその紙媒体を撮影した画像から自動的に認識して内容を推定する方法がある。
さらに、ユーザ指示解析手段22は、文字情報「Txt」や画像情報「Img」から検索に使用するキーワードやオブジェクトを抽出する。さらに、ユーザ指示解析手段22は、「Pend」からターゲット機器を特定し、ターゲット機器IDを生成する。本実施形態では、ターゲット機器はテレビ(TV)370である。
そして、ユーザ指示認識装置20の送受信手段17は、認識識別コード「M3」及びこれに付随する認識識別メタデータ「Pstop」、「Txt」、「Img」、「Pend」及びキーワード等並びにターゲット機器IDなどをネットワークに接続されたすべての情報機器に送信する。
ステップS309において、テレビ(TV)370の判定手段316は、受信した認識識別コード「M3」がテレビ(TV)用シナリオ記述ファイルに記述された認識識別コード「M3」と一致すると判定する。なお、認識識別コードが一致しない場合には、ステップS307に戻る。
ステップS310において、テレビ(TV)370のシナリオ実行手段317は、受信した認識識別コードと認識識別メタデータを解析し、ターゲット機器が自己であることを認知し、また、キーワード等を取得する。
ステップS311において、テレビ(TV)370のシナリオ実行手段317は、番組データ検索手段371に、取得したキーワード等を基に、番組データを検索させる。
ステップS312において、テレビ(TV)370の動画像表示手段311は、検索結果を表示する。
ステップS313において、テレビ(TV)370は、アイドリング状態に戻る。すなわち、ステップS307に戻る。
以上の動作によって、ネットワークシステム1Cは、ユーザが紙媒体を指し、次にテレビ(TV)を指すと、紙媒体の内容に関連する番組情報が検索されテレビ(TV)に表示される動作を実現することができる。
なお、本実施形態では、ユーザが紙媒体400を指し、次にテレビ(TV)370を指すと、紙媒体の内容に関連する番組情報が検索されテレビ(TV)370に表示される場合について説明したが、ユーザが紙媒体400を指し、次にパーソナルコンピュータ(PC)380を指すと、パーソナルコンピュータ(PC)380がインターネットで関連情報を検索し、パーソナルコンピュータ(PC)380が検索結果を表示するとしてもよい。あるいは、ユーザが紙媒体400を指し、次にプリンタ390を指すと、紙媒体400の画像情報をプリンタ390がプリントするとしてもよい。
以上、本発明の実施形態に係るネットワークシステム1の構成および動作について説明したが、本発明はこの実施形態に限定されるものではない。第1実施形態から第3実施形態に挙げた実施形態はあくまでも例示であって、シナリオ記述ファイルに予め記述すれば、他にも様々な動作が考えられる。
なお、これらの実施形態は、シナリオ記述ファイル2Aから2Cをシナリオ記述ファイル管理装置10に設定し、2つ以上をアクティブにして共存することも可能である。ユーザ指示認識装置が、S108、S208、S308の直後にユーザの動作等を監視し、一の認識識別コードに対応する処理の実行中に、他の認識識別コードがネットワークに流れたときは、ユーザにその旨を知らせることとしてもよい。
また、第1実施形態から第3実施形態では、認識識別コードに付随して認識識別メタデータを使用しているが、認識識別メタデータは必ずしも必要でない場合がある。例えば、「指をならすと、特定の照明機器がON/OFFする」という動作の場合について説明する。予めシナリオ記述ファイルに特定の照明機器IDを記述しておき、ユーザは、ユーザの指示である「指をならす」という動作と認識識別コードとを対応させる。ユーザの指示があると、ユーザ指示認識装置は、予め定められた特定の照明機器へ当該認識識別コードを送信し、当該照明機器は、ON/OFFの動作をする。この場合は、認識識別メタデータは必ずしも必要でない。
また、ユーザ指示認識装置20の送受信手段17は、認識識別コード及びこれに付随する認識識別メタデータをネットワークに接続されたすべての情報機器に送信するとしたが、当該認識識別コードに関連する情報機器のみに送信してもよい。
また、ユーザ指示認識装置は、撮像装置が1台である場合に限られない。複数台によって認識識別コードを認知してもよい。
また、シナリオ記述ファイルがシナリオ記述ファイル管理装置に設定されたときに、当該シナリオ記述ファイルに記述された動作が実現できるネットワーク環境か否かを判定する機能をシナリオ記述ファイル管理装置に備えても良い。新たに情報機器が追加、削除されたときも同様にシナリオ記述ファイル管理装置が認知して、シナリオ記述ファイルに記述された動作が実現できるネットワーク環境か否かを判定してもよい。
また、ユーザ指示認識装置やシナリオ記述ファイル管理装置が別々の装置として成立する場合に限られず、1つの装置において両装置の機能が成立することとしてもよい。ユーザ指示認識装置又はシナリオ記述ファイル管理装置の機能が、2つ以上の装置によって成立してもよい。
1 ネットワークシステム
2A シナリオ記述ファイル
2B シナリオ記述ファイル
2C シナリオ記述ファイル
3A 情報機器用シナリオ記述ファイル
3Aa テレビ(TV)用シナリオ記述ファイル
3Ab パーソナルコンピュータ(PC)用シナリオ記述ファイル
3Ac プリンタ用シナリオ記述ファイル
10 シナリオ記述ファイル管理装置
13 シナリオ記述ファイル記憶手段
14 更新手段
15 シナリオ供給手段
17 送受信手段
20 ユーザ指示認識装置
22 ユーザ指示解析手段
23 探索手段
24 認識識別コード記憶手段
30 使用機器及び情報機器用シナリオコード
31 使用機器及び情報機器用シナリオコード
32 使用機器及び情報機器用シナリオコード
40 認識識別メタデータ
50 認識識別コード
210 ユーザ指示認識装置
220 ユーザ指示認識装置
300 情報機器
311 動画像表示手段
313 シナリオ記憶手段
316 判定手段
317 シナリオ実行手段
325 インターネット検索手段
361 動画像記憶手段
371 番組データ検索手段
400 紙媒体

Claims (4)

  1. ネットワークに接続された情報機器を備えるネットワークシステムであって、
    前記ネットワークに接続された少なくとも1つ以上の情報機器と、
    前記情報機器の動作を制御するために予め定められた手順を記述したシナリオ記述ファイルを管理するシナリオ記述ファイル管理装置と、
    ユーザの指示に基づいて、前記ユーザの指示に対応する認識識別コードを前記予め定められた情報機器に届くように送信するユーザ指示認識装置と、を備え、
    前記シナリオ記述ファイル管理装置は、前記シナリオ記述ファイルを記憶するシナリオ記述ファイル記憶手段と、前記シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルを当該情報機器に送信するとともに、前記情報機器用シナリオ記述ファイルに記述された認識識別コードを前記ユーザ指示認識装置に送信するシナリオ供給手段と、を備え、
    前記情報機器は、前記シナリオ記述ファイル管理装置から送信された前記情報機器用シナリオ記述ファイルを記憶するシナリオ記憶手段と、前記ユーザ指示認識装置が送信した認識識別コードを受信する受信手段と、前記受信手段が受信した認識識別コードが、前記シナリオ記憶手段に記憶された情報機器用シナリオ記述ファイルに記述された認識識別コードと一致するか否かを判定する判定手段と、前記判定手段が一致すると判定した場合に、前記シナリオ記憶手段に記憶された情報機器用シナリオ記述ファイルを実行するシナリオ実行手段と、を備え、
    前記ユーザ指示認識装置は、前記シナリオ記述ファイル管理装置から送信された認識識別コードとユーザの指示とを対応させて記憶する認識識別コード記憶手段と、ユーザの指示に基づいて前記ユーザの指示に対応した認識識別コードを前記認識識別コード記憶手段から探索する探索手段と、前記探索手段により探索された認識識別コードを前記予め定められた情報機器に届くように送信する送信手段と、を備え
    前記シナリオ記述ファイル管理装置の前記シナリオ供給手段は、前記情報機器用シナリオ記述ファイルに記述された認識識別コードの他に、前記情報機器用シナリオ記述ファイルに記述された情報機器用シナリオコードを実行するための変数を記述した認識識別メタデータを、前記ユーザ指示認識装置に送信し、
    前記ユーザ指示認識装置は、前記認識識別メタデータに対応する値を生成し、前記値を前記認識識別メタデータに代入するユーザ指示解析手段をさらに備え、
    前記ユーザ指示認識装置の前記送信手段は、前記探索手段により探索された認識識別コード及び前記値が代入された認識識別メタデータを前記予め定められた情報機器に届くように送信する
    ことを特徴とするネットワークシステム。
  2. 前記シナリオ記述ファイル管理装置は、前記シナリオ記述ファイル記憶手段に記憶されたシナリオ記述ファイルを追加、変更または削除する更新手段をさらに備えることを特徴とする請求項1に記載のネットワークシステム。
  3. ネットワークに接続された少なくとも1つ以上の予め定められた情報機器の動作を制御するために予め定められた手順を記述したシナリオ記述ファイルを管理するシナリオ記述ファイル管理装置と、ユーザの指示に対応する認識識別コードを前記予め定められた情報機器に届くように送信するユーザ指示認識装置と、を前記ネットワークに接続して備えたネットワークシステムにおいて、前記シナリオ記述ファイルを記憶するシナリオ記述ファイル記憶手段を備えた前記シナリオ記述ファイル管理装置を制御するために、前記シナリオ記述ファイル管理装置のコンピュータを、
    前記シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルを当該情報機器に送信するとともに、前記情報機器用シナリオ記述ファイルに記述された認識識別コードを前記ユーザ指示認識装置に送信するシナリオ供給手段、
    として機能させ
    前記シナリオ供給手段は、前記情報機器用シナリオ記述ファイルに記述された認識識別コードの他に、前記情報機器用シナリオ記述ファイルに記述された情報機器用シナリオコードを実行するための変数を記述した認識識別メタデータを、前記ユーザ指示認識装置に送信する
    ことを特徴とするシナリオ記述ファイル管理装置制御プログラム。
  4. ネットワークに接続された少なくとも1つ以上の予め定められた情報機器の動作を制御するために予め定められた手順を記述したシナリオ記述ファイルを管理するシナリオ記述ファイル管理装置と、ユーザの指示に対応する認識識別コードを前記予め定められた情報機器に届くように送信するユーザ指示認識装置と、を前記ネットワークに接続して備えたネットワークシステムにおいて、前記シナリオ記述ファイル管理装置から送信された認識識別コードとユーザの指示とを対応させて記憶する認識識別コード記憶手段を備えた前記ユーザ指示認識装置を制御するために、前記ユーザ指示認識装置のコンピュータを、
    ユーザの指示に基づいて前記ユーザの指示に対応した認識識別コードを前記認識識別コード記憶手段から探索する探索手段、
    前記シナリオ記述ファイル管理装置から送信された、前記シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルに記述された情報機器用シナリオコードを実行するための変数を記述した認識識別メタデータに対応する値を生成し、前記値を前記認識識別メタデータに代入するユーザ指示解析手段、
    前記探索手段により探索された認識識別コード及び前記値が代入された認識識別メタデータを前記予め定められた情報機器に届くように送信する送信手段、
    として機能させることを特徴とするユーザ指示認識装置制御プログラム。
JP2010110090A 2010-05-12 2010-05-12 ネットワークシステム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラム Expired - Fee Related JP5491955B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010110090A JP5491955B2 (ja) 2010-05-12 2010-05-12 ネットワークシステム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010110090A JP5491955B2 (ja) 2010-05-12 2010-05-12 ネットワークシステム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラム

Publications (2)

Publication Number Publication Date
JP2011238095A JP2011238095A (ja) 2011-11-24
JP5491955B2 true JP5491955B2 (ja) 2014-05-14

Family

ID=45325991

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010110090A Expired - Fee Related JP5491955B2 (ja) 2010-05-12 2010-05-12 ネットワークシステム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラム

Country Status (1)

Country Link
JP (1) JP5491955B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103019555B (zh) 2012-11-19 2016-06-01 中兴通讯股份有限公司 转移播放的数字媒体内容切回方法、装置及系统
CN102984592B (zh) * 2012-12-05 2018-10-19 中兴通讯股份有限公司 一种数字媒体内容播放转移的方法、装置和系统

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002354555A (ja) * 2001-05-23 2002-12-06 Matsushita Electric Ind Co Ltd 機器制御装置及び電子機器
JP4640900B2 (ja) * 2001-07-04 2011-03-02 シャープ株式会社 情報中継装置、情報提示装置、情報提示装置の連携システム、情報中継装置の制御方法、情報提示装置の制御方法、情報提示プログラムならびにそれを記録したコンピュータ読み取り可能な記録媒体
JP2003022224A (ja) * 2001-07-09 2003-01-24 Fujitsu Ltd ネットワークを介して相互接続された複数の機器の連携動作の制御
JP2003125472A (ja) * 2001-10-16 2003-04-25 Nippon Hoso Kyokai <Nhk> 電化製品制御方法および電化製品制御装置ならびに電化製品制御システムプログラム
JP2008066775A (ja) * 2006-09-04 2008-03-21 Funai Electric Co Ltd リモコン装置およびリモコン制御システム

Also Published As

Publication number Publication date
JP2011238095A (ja) 2011-11-24

Similar Documents

Publication Publication Date Title
JP5791605B2 (ja) メタデータのタグ付けシステム、イメージ検索方法、デバイス及びそれに適用されるジェスチャーのタグ付け方法
JP2009093208A (ja) 画像形成システム、情報処理装置、管理装置、画像形成装置、データ処理方法、記憶媒体、プログラム
JP2010086194A (ja) シェア画像閲覧方法および装置
JP7035840B2 (ja) 情報処理装置、情報処理システム及び遠隔共有方法
CN109895092B (zh) 信息处理装置、信息处理方法以及计算机可读介质
JP2002170119A (ja) 画像認識装置、画像認識方法及び記録媒体
JP5491955B2 (ja) ネットワークシステム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラム
JP2008258696A (ja) ユーザインタフェース画面カスタマイズ装置、画面表示制御装置及びプログラム
JP2008217660A (ja) 検索方法、および装置
JP6965704B2 (ja) 情報処理装置、プログラム及び制御方法
JP6257040B2 (ja) カラオケシステム、携帯型情報処理装置及びプログラム
JP5376689B2 (ja) 情報処理装置、装置検索方法、装置検索支援方法および記録媒体
JP2009258914A (ja) 情報処理装置及びプログラム、情報処理システム
JP6641732B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP7077585B2 (ja) 情報処理システム、情報処理装置およびプログラム
JP2007213350A (ja) 情報像処理装置及び情報像処理方法。
JP2009100217A (ja) ネットワーク機器判別管理システム及び判別管理方法
CN110741652A (zh) 具有智能用户界面的显示设备
KR101759563B1 (ko) 콘텐츠 요청 장치 및 방법과 콘텐츠 전송 장치 및 방법
JP6867541B1 (ja) 画像表示装置及びプログラム
JP7009956B2 (ja) 情報処理装置、プログラム及び制御方法
JP7333027B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP2009104609A (ja) ホスト装置、クライアント装置、ホスト装置制御プログラム、ホスト装置制御方法
US20210019100A1 (en) Preset information displaying method and information processing apparatus
JP2007293655A (ja) 文書処理装置、電子文書の出力処理方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130104

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130906

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130917

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140228

R150 Certificate of patent or registration of utility model

Ref document number: 5491955

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees