JP5491955B2 - ネットワークシステム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラム - Google Patents
ネットワークシステム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラム Download PDFInfo
- Publication number
- JP5491955B2 JP5491955B2 JP2010110090A JP2010110090A JP5491955B2 JP 5491955 B2 JP5491955 B2 JP 5491955B2 JP 2010110090 A JP2010110090 A JP 2010110090A JP 2010110090 A JP2010110090 A JP 2010110090A JP 5491955 B2 JP5491955 B2 JP 5491955B2
- Authority
- JP
- Japan
- Prior art keywords
- description file
- scenario
- recognition
- scenario description
- user instruction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- User Interface Of Digital Computer (AREA)
Description
また、特許文献2に開示された技術では、ヒューマンインターフェースを利用してネットワークに接続された情報機器を動作させているが、このような動作は設置されたネットワークシステムにおいて固定的である。すなわち、ネットワーク設置後に情報機器の動作の変更あるいは動作対象の情報機器の変更をユーザが望む場合に対応することは困難であるという問題がある。
そして、ネットワークシステムは、ユーザ指示認識装置によって、ユーザの指示に基づいて、ユーザの指示に対応する認識識別コードをネットワークに接続されたすべての情報機器に送信する。
また、ネットワークシステムは、シナリオ記述ファイル管理装置において、シナリオ記述ファイル記憶手段によって、シナリオ記述ファイルを記憶する。
そして、シナリオ供給手段によって、シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルを当該情報機器に送信するとともに、情報機器用シナリオ記述ファイルに記述された認識識別コードをユーザ指示認識装置に送信する。これによって、シナリオ記述ファイルに記述された内容が各情報機器、ユーザ指示認識装置及びシナリオ記述ファイル管理装置に分配され、認識識別コードを共有する。
また、ネットワークシステムは、情報機器において、シナリオ記述ファイル管理装置から送信された情報機器用シナリオ記述ファイルをシナリオ記憶手段に記憶する。
また、受信手段によって、ユーザ指示認識装置が送信した認識識別コードを受信する。
そして、判定手段によって、受信手段が受信した認識識別コードが、シナリオ記憶手段に記憶された情報機器用シナリオ記述ファイルに記述された認識識別コードと一致するか否かを判定する。
また、シナリオ実行手段によって、判定手段による判定結果に基づいて、前記シナリオ記憶手段に記憶された情報機器用シナリオ記述ファイルを実行する。
また、ネットワークシステムは、ユーザ指示認識装置において、シナリオ記述ファイル管理装置から送信された認識識別コードとユーザの指示とを対応させて認識識別コード記憶手段に記憶する。
そして、探索手段によって、ユーザの指示に基づいてユーザの指示に対応した認識識別コードを認識識別コード記憶手段から探索する。
そして、送信手段によって、探索手段により探索された認識識別コードを前記予め定められた情報機器に届くように送信する。
また、ネットワークシステムは、ユーザ指示解析手段によって、認識識別メタデータに対応する値を生成し、前記値を認識識別メタデータに代入する。これによって、情報機器の種々の動作が可能になる。
さらに、シナリオ供給手段は、情報機器用シナリオ記述ファイルに記述された認識識別コードの他に、情報機器用シナリオ記述ファイルに記述された情報機器用シナリオコードを実行するための変数を記述した認識識別メタデータを、ユーザ指示認識装置に送信する。
また、ユーザ指示認識装置制御プログラムは、ユーザ指示解析手段によって、シナリオ記述ファイル管理装置から送信された、シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルに記述された情報機器用シナリオコードを実行するための変数を記述した認識識別メタデータに対応する値を生成し、値を認識識別メタデータに代入する。
また、ユーザ指示認識装置制御プログラムは、送信手段によって、探索手段により探索された認識識別コード及び値が代入された認識識別メタデータを予め定められた情報機器に届くように送信する。これによって、ユーザの指示に基づいて情報機器を動作させるトリガーとなる。
請求項1、請求項3乃至請求項4に記載の発明によれば、既存の操作リモコン以外であっても、ユーザの動作等により情報機器を連携させ、また、ユーザごとの異なる環境下でも対応が容易となる。
図1に示すように、ネットワークシステム1は、シナリオ記述ファイル管理装置10、ユーザ指示認識装置20、情報機器300から構成される。
本発明では、ユーザの動作等の指示によって、情報機器300を動作させる。つまり、ユーザが指示を開始すると、ユーザ指示認識装置20がそれを認識し、各情報機器にトリガーである認識識別コードを送信し、各情報機器は、認識識別コードと対応した制御プログラムを実行する。
このようなネットワークの形態は、例えば、オフィスにおけるLAN、家庭内におけるいわゆるホームネットワーク等が代表的である。ただし、本発明を適用可能なネットワークの構成はこれらに限られない。
次に、本発明の第1実施形態について説明する。
図2に示すように、ネットワークシステム1Aは、図1の情報機器300として、テレビ(TV)310、パーソナルコンピュータ(PC)320及びプリンタ330がネットワークに接続されている。
第1実施形態では、「ユーザがテレビに映された役者を指し、次にパーソナルコンピュータを指すと、役者名をキーワードにしてその役者の情報をパーソナルコンピュータがインターネットを用いて検索し、その検索結果をテレビに表示する」動作を例にして説明する。ここでは、テレビが後記するソース機器、パーソナルコンピュータが後記するターゲット機器である。
シナリオ記述ファイル管理装置10、ユーザ指示認識装置20、テレビ(TV)310及びパーソナルコンピュータ(PC)320の構成は図3に示す。なお、説明を簡易にするためプリンタ330の構成については省略する。また、同一の構成には同一の符号を付して、重複した説明は省略する。
図3に示すように、シナリオ記述ファイル管理装置10は、図示を省略した制御部、記憶部及び入出力部等を備えており、このシナリオ記述ファイル管理装置10は、入出力手段11、初期設定手段12、シナリオ記述ファイル記憶手段13、更新手段14、シナリオ供給手段15、ネットワーク管理手段16、送受信手段17を備えている。
ユーザは、後記するシナリオ記述ファイルをアプリケーション開発業者などから入手し、このシナリオ記述ファイルをシナリオ記述ファイル管理装置10に設定し、情報機器に対して所望の動作をさせることになる。
更新手段14は、ユーザがシナリオ記述ファイル管理装置10に新しくシナリオ記述ファイルを追加した場合、シナリオ記述ファイル記憶手段13にシナリオ記述ファイルを追加するものである。また、更新手段14は、ユーザがシナリオ記述ファイル管理装置10からシナリオ記述ファイルを削除した場合、シナリオ記述ファイル記憶手段13からシナリオ記述ファイルを削除する。
送受信手段17は、入出力インターフェース装置等からなり、ネットワークに接続された情報機器等との間で信号を送受信するものである。
図4に示すように、シナリオ記述ファイル2Aは、使用機器及び情報機器用シナリオコード30、認識識別メタデータ40、認識識別コード50から構成される。
使用機器及び情報機器用シナリオコード30は、ネットワークに接続された情報機器300を制御するプログラムコードである。本実施形態では、使用機器及び情報機器用シナリオコード30には、テレビ(TV)310、パーソナルコンピュータ(PC)320及びプリンタ330を制御するためのプログラムコードが記述されている。
これらは一例であり、アプリケーション開発者が使用機器及び情報機器用シナリオコード30に応じて種々の変数を含ませることができる。
なお、シナリオ記述ファイル2Aには、複数の認識識別コードを含ませることもできる。ユーザの指示には様々な種類があり、ユーザの動作の他に、ユーザの音声、リモートコントローラによる指示、物体認識等がある。図4では、認識識別コード50がユーザの動作に対応する「M1」とユーザの音声に対応する「A1」を示しているが、ここでは、説明を簡易にするため、ユーザの指示がユーザの動作のみである場合について説明していく。
図5に示すように、情報機器用シナリオ記述ファイル3Aは、シナリオ記述ファイル2Aから各情報機器用に抽出したものである。情報機器用シナリオ記述ファイルは、予めシナリオ記述ファイルから各情報機器用に分離できるようになっている。認識識別コードは共通し、情報機器用シナリオコードはそれぞれの情報機器で異なる。この例では、テレビ(TV)用シナリオ記述ファイル3Aa、パーソナルコンピュータ(PC)用シナリオ記述ファイル3Ab、プリンタ用シナリオ記述ファイル3Acがある。認識識別コードは「M1」で共通しており、これにより、各情報機器は、特定のユーザの指示に対して連携して動作することができる。
また、シナリオ供給手段15は、シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルを当該情報機器に送信するとともに、情報機器用シナリオ記述ファイルに記述された認識識別コード及び認識識別メタデータを後記するユーザ指示認識装置20に送信する。
次に、図3に戻り、ユーザ指示認識装置20について説明する。
図3に示すように、ユーザ指示認識装置20は、ユーザの指示に対応する認識識別コードをネットワークに接続された情報機器に送信するものである。
ユーザ指示認識装置20は、ユーザ指示取得手段21、ユーザ指示解析手段22、探索手段23、認識識別コード記憶手段24、認識識別コード更新手段25、ネットワーク管理手段16、送受信手段17を備えて構成されている。
ユーザ指示解析手段22は、ユーザ指示取得手段21が取得した動画や音声データを解析し、必要な値を生成するものである。例えば、ユーザ指示解析手段22は、動画認識技術により、輝度、色情報や奥行き情報から抽出するなどして、ユーザの指示である動作等やユーザの指している方向を割り出し特定する。ユーザの指している方向を特定する方法としては、例えば、ユーザが指先に極小の位置検知デバイスを装着し、その方向を検知する方法がある。また、ステレオカメラの原理などで奥行き画像を生成し、画面から一番近い突起形状で肌色成分を検出して指先位置を推定し、画面、顔位置などの関係からその方向を特定する方法などがある。
さらに、ユーザ指示解析手段22は、ネットワーク管理手段16によって共有するネットワークに接続された情報機器の設置位置、機器の種類、機器IDを使用して、ユーザの指している方向線に最も近い位置にある機器IDを取得する。本実施形態では、「Pend」からターゲット機器を特定し、ターゲット機器IDを取得する。
認識識別コード記憶手段24は、シナリオ記述ファイル管理装置10から送信された認識識別コード及び認識識別メタデータとユーザの指示とを対応させ、対応表として記憶するものである。
認識識別コード更新手段25は、新しくシナリオ記述ファイルがシナリオ記述ファイル管理装置10に追加され、シナリオ記述ファイル管理装置10のシナリオ供給手段15から認識識別コード及び認識識別メタデータが送信されてきた場合に、その認識識別コード及び認識識別メタデータを、認識識別コード記憶手段24に追加するものである。
また、ユーザ指示認識装置20は、ネットワーク管理手段16を介して、シナリオ記述ファイル管理装置10が認知した各情報機器の設置位置、機器の種類、機器IDなどをネットワークを介して共有する。
テレビ(TV)310は、ネットワーク管理手段16、送受信手段17、動画像表示手段311、TV初期設定手段312、シナリオ記憶手段313、シナリオ更新手段314、番組メタデータ記憶手段315、判定手段316、シナリオ実行手段317、から構成される。
TV初期設定手段312は、テレビに固有の情報を設定するものである。例えば、放送番組に対するユーザの好み等のユーザプロファイルを登録しておくと、指示したユーザが誰であるかによって、処理を変えることができる。
シナリオ記憶手段313は、シナリオ記述ファイル管理装置10のシナリオ供給手段15から送信されたテレビ(TV)用シナリオ記述ファイル3Aaを記憶するものである。
シナリオ更新手段314は、新しくシナリオ記述ファイルがシナリオ記述ファイル管理装置10に追加され、シナリオ記述ファイル管理装置10のシナリオ供給手段15からテレビ(TV)用シナリオ記述ファイルが送信されてきた場合に、そのテレビ(TV)用シナリオ記述ファイルを、シナリオ記憶手段313に追加するものである。
判定手段316は、ユーザ指示認識装置20が送信した認識識別コードと、シナリオ記憶手段313に記憶されたテレビ(TV)用シナリオ記述ファイル3Aaに記述された認識識別コードとが一致するか否かを判定するものである。本実施形態では、シナリオ記憶手段313に記憶されたテレビ(TV)用シナリオ記述ファイル3Aaに記述された認識識別コードが「M1」であり、ユーザ指示認識装置20が送信してきた認識識別コードが「M1」である場合に、認識識別コードが一致すると判定する。
シナリオ実行手段317は、判定手段316が認識識別コードが一致すると判定した場合に、シナリオ記憶手段313に記憶されたテレビ(TV)用シナリオ記述ファイル3Aaの情報機器用シナリオコードを実行するものである。認識識別コードが一致しないと判定した場合には、シナリオ実行手段317は、当該情報機器用シナリオコードを実行しない。
パーソナルコンピュータ(PC)320は、情報入出力手段321、PC初期設定手段322、シナリオ記憶手段313、シナリオ更新手段314、インターネット検索手段325、判定手段316、シナリオ実行手段317、ネットワーク管理手段16、送受信手段17から構成される。
PC初期設定手段322は、ユーザプロファイルや使用アプリケーションなどを登録するものである。これにより、ユーザが誰であるのかによって処理を変更することや、使用するアプリケーションを指定することなどを、予めシナリオ記述ファイルに記述することができる。
インターネット検索手段325は、インターネットに接続し、外部のサーバ等から情報を検索して取得するものである。
次に、本発明に係るネットワークシステム1の動作の流れについて図6を参照(適宜図2〜図5を参照)して説明する。
まず、ユーザが、情報機器の設置位置、情報機器の種類、情報機器のID、情報機器が使用するアプリケーション、ユーザの指示である動作等、ユーザ識別のための情報、ユーザプロファイルなどを設定しておく。また、各情報機器の電源はONとなっている。
ステップS2において、各情報機器300は、各情報機器固有の機能を処理しながら、認識識別コードがユーザ指示認識装置20から送信されているか否かを常時判定する。例えば、テレビであれば、テレビ視聴機能を処理しながら、認識識別コードが送信されているか否かを常時判定する。ここでは、この状態をアイドリング状態と呼ぶ。
ステップS3において、各情報機器300は、ユーザ指示認識装置20から認識識別コードを受信すると、情報機器用シナリオ記述ファイル3Aに記述された認識識別コードと一致するか否かを判定する。
ステップS3において一致すると判定された場合(ステップS3:Yes)、各情報機器300は、認識識別コード及び認識識別メタデータを解析し、必要な値を生成する(ステップS4)。一致しないと判定された場合(ステップS3:No)、再びステップS2に戻る。
ステップS5において、各情報機器300は、受信した認識識別コードに対応する処理をする。処理を終了すると、再びステップS2に戻る。
次に、本実施形態に係るネットワークシステム1Aにおける各機器間の動作の流れを詳述する。
図7に示すように、ステップS101において、シナリオ記述ファイル管理装置10の初期設定手段12は、ユーザが設定した各情報機器の設置位置、情報機器の種類、情報機器のIDなどを認知する。
ステップS102において、ユーザ指示認識装置20は、ステップS101においてシナリオ記述ファイル管理装置10が認知した各情報機器の設置位置、情報機器の種類、情報機器のIDなどをネットワーク管理手段16を介して共有する。
ステップS104において、シナリオ記述ファイル管理装置10のシナリオ供給手段15は、設定されたシナリオ記述ファイル2Aから、テレビ(TV)用シナリオ記述ファイル3Aaをテレビ(TV)310に、パーソナルコンピュータ(PC)用シナリオ記述ファイル3Abをパーソナルコンピュータ(PC)320に、それぞれ送信する。また、シナリオ供給手段15は、シナリオ記述ファイル2Aに記述された認識識別コード50及び認識識別メタデータ40をユーザ指示認識装置20に送信する。
ステップS111において、テレビ(TV)310の送受信手段17は、生成したキーワード等を、ターゲット機器IDが示すパーソナルコンピュータ(PC)320へ送信する。
ステップS114において、テレビ(TV)310の動画像表示手段311は、パーソナルコンピュータ(PC)から受信した検索結果を表示する。
ステップS115において、テレビ(TV)310とパーソナルコンピュータ(PC)は、アイドリング状態に戻る。すなわち、ステップS107に戻る。
認識識別コードについて、ユーザの動作に対応するものが「M1」で、ユーザの音声に対応するものが「A1」であるとする。認識識別コード「A1」に付属する認識識別メタデータには、ユーザの発話内容を特定するための変数が含まれる。同一の情報機器が両者を受信してから情報機器の処理を開始したい場合は、情報機器用シナリオコードに、一方を受信したときは他方を待つように条件設定などをすればよい。両者を受信した後、例えば、ユーザが同一であるか否かなどの条件設定をしてもよい。そして、音声による発話内容によって情報機器の処理を選択する等の制御が可能である。
参照して、ターゲット機器を特定することもできる。
次に、本発明の第2実施形態について説明する。
図8に示すように、ネットワークシステム1Bは、情報機器300として、第1のテレビ(TV)340、第2のテレビ(TV)350、及びレコーダ360がネットワークに接続されている。
第2実施形態では、「ユーザがテレビを視聴しているときに、ユーザが指示のトリガとして手首を回す等の予め定められたポーズをとって、次に視聴している第1のテレビ(TV)を指し、次に別室にある第2のテレビ(TV)の方向を指すと、ユーザが指示した時点からの番組放送が、第2のテレビ(TV)に流れる」動作を例にして説明する。ここでは、第1のテレビ(TV)340がソース機器で、第2のテレビ(TV)350がターゲット機器である。
また、ユーザ指示認識装置が第1のテレビ(TV)340及び第2のテレビ(TV)350に内蔵されている。第1のテレビ(TV)340の構成は図9に示す。第2のテレビ(TV)350及びレコーダ360の構成は図10に示す。なお、シナリオ記述ファイル管理装置10の構成については、第1実施形態と同様であるため、説明を省略する。
図9に示すように、第1のテレビ(TV)340に内蔵されているユーザ指示認識装置210は、TV連携手段26を備え、必要に応じてテレビ(TV)と情報をやりとりする機能を有する。また、第1のテレビ(TV)340は、番組データ記憶手段341を備え、番組データを一時的に保存する機能を有する。その他の構成は、第1実施形態の構成と同様であり、同一の構成には同一の符号を付して、重複した説明は省略する。なお、ユーザ指示認識装置210のカメラ等がテレビの外枠上部等に取り付けられている。
図10に示すように、レコーダ360は、動画像記憶手段361を備えている。動画像記憶手段361は、一般的なハードディスクドライブ等で構成され、一般的な動画像や情報を記憶する機能を有する。レコーダ360のその他の構成は、他の情報機器の構成と同様であり、同一の構成には同一の符号を付して、重複した説明は省略する。
第2のテレビ(TV)350は、第1のテレビ(TV)340と同様であるため、説明を省略する。
図11に示すように、シナリオ記述ファイル2Bは、認識識別メタデータ41にユーザ有無41fが追加されている。ユーザ有無41fは、ユーザの有無を判定するための変数を格納するための項目である。変数「bP」の値は、例えば、「bP=1」であれば、ユーザが室内にいることを示し、「bP=0」であれば、ユーザが室内にいないことを示す。
また、使用機器及び情報機器用シナリオコード31は、テレビ(TV)用とレコーダ用があり、テレビ(TV)用には、さらにソース機器用とターゲット機器用が記述されている。ここで、ソース機器とは、本実施形態では、ユーザが始めに指した方向にある情報機器であり、ターゲット機器とは、ユーザが次に指した方向にある情報機器のことである。
本実施形態では、第1のテレビ(TV)340及び第2のテレビ(TV)350は、いずれも、ソース機器にもなり得るし、ターゲット機器にもなり得る。また、第1のテレビ(TV)340及び第2のテレビ(TV)350は、いずれも、ソース機器になった場合には、ソース機器用の情報機器用シナリオコードを実行する。一方、ターゲット機器になった場合には、ターゲット機器用の情報機器用シナリオコードを実行する。
次に、本実施形態に係るネットワークシステム1Bにおける各機器間の動作の流れを詳述する。
図12は、本実施形態におけるネットワークシステム1Bの具体的な処理のシーケンスの前半を示している。なお、シーケンスの後半については、丸付き番号1から6をそれぞれ対応させて図13に示す。
ステップS204において、シナリオ記述ファイル管理装置10のシナリオ供給手段15は、設定されたシナリオ記述ファイル2Bから、テレビ(TV)用シナリオ記述ファイルを第1のテレビ(TV)340及び第2のテレビ(TV)350に、レコーダ用シナリオ記述ファイルをレコーダ360に、それぞれ送信する。なお、テレビ(TV)用シナリオ記述ファイルには、ソース機器用及びターゲット機器用の両方の情報機器用シナリオコードが記述されている。また、シナリオ記述ファイル2Bに記述された認識識別コード51及び認識識別メタデータ41を、第1のテレビ(TV)340に内蔵されたユーザ指示認識装置210及び第2のテレビ(TV)350に内蔵されたユーザ指示認識装置220へ、それぞれ送信する。ここでは、認識識別コード51は、「M2」であり、認識識別メタデータ41は、「who」、「Te」、「bP」などである。
図13に示すように、ステップS209において、第1のテレビ(TV)340の判定手段316は、受信した認識識別コード「M2」がテレビ(TV)用シナリオ記述ファイルに記述された認識識別コード「M2」と一致すると判定する。同様に、第2のテレビ(TV)350の判定手段316及びレコーダ360の判定手段316は、受信した認識識別コード「M2」がそれぞれの情報機器用シナリオ記述ファイルに記述された認識識別コード「M2」と一致すると判定する。なお、認識識別コードが一致しない場合には、ステップS207に戻る。
ステップS212において、レコーダ360の動画像記憶手段361は、第1のテレビ(TV)340が送信してきた「Te」からの番組データを記憶する。
ステップS213において、第1のテレビ(TV)340に内蔵されたユーザ指示認識装置210のユーザ指示解析手段22は、ユーザが退室すると、ユーザ退室信号を第1のテレビ(TV)340に供給する。ここで、ユーザ退室信号とは、例えば、ユーザ有無41fの「bP」を2値で定義し、「bP=0」としてユーザが退室したことを示す。
ステップS214において、例えば、第1のテレビ(TV)340のシナリオ実行手段317は、ユーザ退室信号を取得すると、番組再生を止める。
ステップS216において、第2のテレビ(TV)350のシナリオ実行手段317は、ユーザ入室信号を取得すると、再生要求をレコーダ360へ送信する。
ステップS217において、レコーダ360のシナリオ実行手段317は、第2のテレビ(TV)350からの再生要求を受信すると、「Te」からの番組データを第2のテレビ(TV)350へ送信する。
ステップS218において、第2のテレビ(TV)350のシナリオ実行手段317は、レコーダ360から送信された「Te」からの番組データを受信し、再生する。
ステップS219において、第1のテレビ(TV)340、第2のテレビ(TV)350及びレコーダ360は、アイドリング状態に戻る。すなわち、ステップS207(図12参照)に戻る。
また、本実施形態では、ユーザの指示がユーザの動作のみである場合について説明したが、ユーザの指示がユーザの音声であっても同様に処理できる。例えば、第1のテレビ(TV)340の前にいるユーザの発話内容が「止めて」であれば、第1のテレビ(TV)340の番組再生を止めて、レコーダ360の動画像記憶手段361に番組データの記憶を開始する。第2のテレビ(TV)350の前で発話内容が「プレイ」であれば、レコーダ360の動画像記憶手段361に記憶した番組データを第2のテレビ(TV)350で再生するというようなこともできる。
また、第1実施形態と同様、ターゲット機器を特定する際に、ユーザが指した方向線に複数の情報機器が存在する場合に、情報機器が動画像記憶手段を持っているか否かを加味して情報機器を特定する機能をユーザ指示認識装置に持たせてもよい。
次に、本発明の第3実施形態について説明する。
図14に示すように、ネットワークシステム1Cは、情報機器300として、テレビ(TV)370、パーソナルコンピュータ(PC)380及びプリンタ390がネットワークに接続されている。
第3実施形態では、「ユーザが紙媒体を指し、次にテレビ(TV)を指すと、紙媒体の内容に関連する番組情報が検索されテレビ(TV)に表示される」動作を例にする。
また、ユーザの近傍に紙媒体400がある。ここで、紙媒体とは、画像や文字が印刷された本、雑誌、新聞等である。シナリオ記述ファイル管理装置10、ユーザ指示認識装置20及びテレビ(TV)370の構成は図15に示す。なお、説明を簡易にするため、パーソナルコンピュータ(PC)380及びプリンタ390の構成については省略する。
その他の構成は、第1実施形態の構成と同様であり、同一の構成には同一の符号を付して、重複した説明は省略する。
図16に示すように、シナリオ記述ファイル2Cは、紙媒体42g、テキストデータ42h、画像情報42iが追加されている。また、使用機器及び情報機器用シナリオコード32は、テレビ(TV)用、パーソナルコンピュータ(PC)及びプリンタ用がある。
紙媒体42gは、ユーザが指した紙媒体の内容を特定するための情報である。テキストデータ42hは、ユーザが指した紙媒体の文字情報を特定するための情報である。画像情報42iは、ユーザが指した紙媒体の画像情報を特定するための情報である。
次に、本実施形態に係るネットワークシステム1Cにおける各機器間の動作の流れを詳述する。
なお、説明を簡易にするため、パーソナルコンピュータ(PC)380及びプリンタ390の動作の流れについては、説明を省略する。
ステップS304において、シナリオ記述ファイル管理装置10のシナリオ供給手段15は、設定されたシナリオ記述ファイル2Cからテレビ(TV)用シナリオ記述ファイルを抽出し、テレビ(TV)370に送信する。また、シナリオ供給手段15は、シナリオ記述ファイル2Cに記述された認識識別コード52及び認識識別メタデータ42を、ユーザ指示認識装置20に送信する。ここでは、認識識別コード52は、「M3」であり、認識識別メタデータ42は、「Pstop」、「Txt」、「Img」などである。
ステップS306において、ユーザ指示認識装置20の認識識別コード記憶手段24は、ユーザが登録したユーザの指示である動作等やユーザ識別のための情報を認識識別コードと対応させて記憶する。本実施形態では例えば、「紙媒体を指す」というユーザの動作と認識識別コード「M3」を対応させる。
ステップS308において、ユーザ指示認識装置20のユーザ指示取得手段21は、ユーザの動作である「紙媒体を指す」の動画データを取得する。
ユーザ指示解析手段22は、ステップS108と同様にして、ユーザの指示に対応する認識識別コードが「M3」であることを特定する。また、ユーザ指示解析手段22は、ユーザが指した紙媒体の内容「Pstop」、紙媒体の文字情報「Txt」、紙媒体の画像情報「Img」、ユーザが紙媒体400の次に指した方向「Pend」などの値を生成する。紙媒体の内容を特定する方法としては、紙媒体に付随したバーコードやQRコードを読み取る方法や、画像認識技術を用いて、紙媒体中の文字情報、人物情報、物体情報などをその紙媒体を撮影した画像から自動的に認識して内容を推定する方法がある。
そして、ユーザ指示認識装置20の送受信手段17は、認識識別コード「M3」及びこれに付随する認識識別メタデータ「Pstop」、「Txt」、「Img」、「Pend」及びキーワード等並びにターゲット機器IDなどをネットワークに接続されたすべての情報機器に送信する。
ステップS310において、テレビ(TV)370のシナリオ実行手段317は、受信した認識識別コードと認識識別メタデータを解析し、ターゲット機器が自己であることを認知し、また、キーワード等を取得する。
ステップS312において、テレビ(TV)370の動画像表示手段311は、検索結果を表示する。
ステップS313において、テレビ(TV)370は、アイドリング状態に戻る。すなわち、ステップS307に戻る。
なお、これらの実施形態は、シナリオ記述ファイル2Aから2Cをシナリオ記述ファイル管理装置10に設定し、2つ以上をアクティブにして共存することも可能である。ユーザ指示認識装置が、S108、S208、S308の直後にユーザの動作等を監視し、一の認識識別コードに対応する処理の実行中に、他の認識識別コードがネットワークに流れたときは、ユーザにその旨を知らせることとしてもよい。
また、ユーザ指示認識装置20の送受信手段17は、認識識別コード及びこれに付随する認識識別メタデータをネットワークに接続されたすべての情報機器に送信するとしたが、当該認識識別コードに関連する情報機器のみに送信してもよい。
また、ユーザ指示認識装置は、撮像装置が1台である場合に限られない。複数台によって認識識別コードを認知してもよい。
2A シナリオ記述ファイル
2B シナリオ記述ファイル
2C シナリオ記述ファイル
3A 情報機器用シナリオ記述ファイル
3Aa テレビ(TV)用シナリオ記述ファイル
3Ab パーソナルコンピュータ(PC)用シナリオ記述ファイル
3Ac プリンタ用シナリオ記述ファイル
10 シナリオ記述ファイル管理装置
13 シナリオ記述ファイル記憶手段
14 更新手段
15 シナリオ供給手段
17 送受信手段
20 ユーザ指示認識装置
22 ユーザ指示解析手段
23 探索手段
24 認識識別コード記憶手段
30 使用機器及び情報機器用シナリオコード
31 使用機器及び情報機器用シナリオコード
32 使用機器及び情報機器用シナリオコード
40 認識識別メタデータ
50 認識識別コード
210 ユーザ指示認識装置
220 ユーザ指示認識装置
300 情報機器
311 動画像表示手段
313 シナリオ記憶手段
316 判定手段
317 シナリオ実行手段
325 インターネット検索手段
361 動画像記憶手段
371 番組データ検索手段
400 紙媒体
Claims (4)
- ネットワークに接続された情報機器を備えるネットワークシステムであって、
前記ネットワークに接続された少なくとも1つ以上の情報機器と、
前記情報機器の動作を制御するために予め定められた手順を記述したシナリオ記述ファイルを管理するシナリオ記述ファイル管理装置と、
ユーザの指示に基づいて、前記ユーザの指示に対応する認識識別コードを前記予め定められた情報機器に届くように送信するユーザ指示認識装置と、を備え、
前記シナリオ記述ファイル管理装置は、前記シナリオ記述ファイルを記憶するシナリオ記述ファイル記憶手段と、前記シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルを当該情報機器に送信するとともに、前記情報機器用シナリオ記述ファイルに記述された認識識別コードを前記ユーザ指示認識装置に送信するシナリオ供給手段と、を備え、
前記情報機器は、前記シナリオ記述ファイル管理装置から送信された前記情報機器用シナリオ記述ファイルを記憶するシナリオ記憶手段と、前記ユーザ指示認識装置が送信した認識識別コードを受信する受信手段と、前記受信手段が受信した認識識別コードが、前記シナリオ記憶手段に記憶された情報機器用シナリオ記述ファイルに記述された認識識別コードと一致するか否かを判定する判定手段と、前記判定手段が一致すると判定した場合に、前記シナリオ記憶手段に記憶された情報機器用シナリオ記述ファイルを実行するシナリオ実行手段と、を備え、
前記ユーザ指示認識装置は、前記シナリオ記述ファイル管理装置から送信された認識識別コードとユーザの指示とを対応させて記憶する認識識別コード記憶手段と、ユーザの指示に基づいて前記ユーザの指示に対応した認識識別コードを前記認識識別コード記憶手段から探索する探索手段と、前記探索手段により探索された認識識別コードを前記予め定められた情報機器に届くように送信する送信手段と、を備え、
前記シナリオ記述ファイル管理装置の前記シナリオ供給手段は、前記情報機器用シナリオ記述ファイルに記述された認識識別コードの他に、前記情報機器用シナリオ記述ファイルに記述された情報機器用シナリオコードを実行するための変数を記述した認識識別メタデータを、前記ユーザ指示認識装置に送信し、
前記ユーザ指示認識装置は、前記認識識別メタデータに対応する値を生成し、前記値を前記認識識別メタデータに代入するユーザ指示解析手段をさらに備え、
前記ユーザ指示認識装置の前記送信手段は、前記探索手段により探索された認識識別コード及び前記値が代入された認識識別メタデータを前記予め定められた情報機器に届くように送信する
ことを特徴とするネットワークシステム。 - 前記シナリオ記述ファイル管理装置は、前記シナリオ記述ファイル記憶手段に記憶されたシナリオ記述ファイルを追加、変更または削除する更新手段をさらに備えることを特徴とする請求項1に記載のネットワークシステム。
- ネットワークに接続された少なくとも1つ以上の予め定められた情報機器の動作を制御するために予め定められた手順を記述したシナリオ記述ファイルを管理するシナリオ記述ファイル管理装置と、ユーザの指示に対応する認識識別コードを前記予め定められた情報機器に届くように送信するユーザ指示認識装置と、を前記ネットワークに接続して備えたネットワークシステムにおいて、前記シナリオ記述ファイルを記憶するシナリオ記述ファイル記憶手段を備えた前記シナリオ記述ファイル管理装置を制御するために、前記シナリオ記述ファイル管理装置のコンピュータを、
前記シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルを当該情報機器に送信するとともに、前記情報機器用シナリオ記述ファイルに記述された認識識別コードを前記ユーザ指示認識装置に送信するシナリオ供給手段、
として機能させ、
前記シナリオ供給手段は、前記情報機器用シナリオ記述ファイルに記述された認識識別コードの他に、前記情報機器用シナリオ記述ファイルに記述された情報機器用シナリオコードを実行するための変数を記述した認識識別メタデータを、前記ユーザ指示認識装置に送信する
ことを特徴とするシナリオ記述ファイル管理装置制御プログラム。 - ネットワークに接続された少なくとも1つ以上の予め定められた情報機器の動作を制御するために予め定められた手順を記述したシナリオ記述ファイルを管理するシナリオ記述ファイル管理装置と、ユーザの指示に対応する認識識別コードを前記予め定められた情報機器に届くように送信するユーザ指示認識装置と、を前記ネットワークに接続して備えたネットワークシステムにおいて、前記シナリオ記述ファイル管理装置から送信された認識識別コードとユーザの指示とを対応させて記憶する認識識別コード記憶手段を備えた前記ユーザ指示認識装置を制御するために、前記ユーザ指示認識装置のコンピュータを、
ユーザの指示に基づいて前記ユーザの指示に対応した認識識別コードを前記認識識別コード記憶手段から探索する探索手段、
前記シナリオ記述ファイル管理装置から送信された、前記シナリオ記述ファイルのうち予め定められた情報機器に係る部分である情報機器用シナリオ記述ファイルに記述された情報機器用シナリオコードを実行するための変数を記述した認識識別メタデータに対応する値を生成し、前記値を前記認識識別メタデータに代入するユーザ指示解析手段、
前記探索手段により探索された認識識別コード及び前記値が代入された認識識別メタデータを前記予め定められた情報機器に届くように送信する送信手段、
として機能させることを特徴とするユーザ指示認識装置制御プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010110090A JP5491955B2 (ja) | 2010-05-12 | 2010-05-12 | ネットワークシステム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010110090A JP5491955B2 (ja) | 2010-05-12 | 2010-05-12 | ネットワークシステム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011238095A JP2011238095A (ja) | 2011-11-24 |
JP5491955B2 true JP5491955B2 (ja) | 2014-05-14 |
Family
ID=45325991
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010110090A Expired - Fee Related JP5491955B2 (ja) | 2010-05-12 | 2010-05-12 | ネットワークシステム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5491955B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103019555B (zh) | 2012-11-19 | 2016-06-01 | 中兴通讯股份有限公司 | 转移播放的数字媒体内容切回方法、装置及系统 |
CN102984592B (zh) * | 2012-12-05 | 2018-10-19 | 中兴通讯股份有限公司 | 一种数字媒体内容播放转移的方法、装置和系统 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002354555A (ja) * | 2001-05-23 | 2002-12-06 | Matsushita Electric Ind Co Ltd | 機器制御装置及び電子機器 |
JP4640900B2 (ja) * | 2001-07-04 | 2011-03-02 | シャープ株式会社 | 情報中継装置、情報提示装置、情報提示装置の連携システム、情報中継装置の制御方法、情報提示装置の制御方法、情報提示プログラムならびにそれを記録したコンピュータ読み取り可能な記録媒体 |
JP2003022224A (ja) * | 2001-07-09 | 2003-01-24 | Fujitsu Ltd | ネットワークを介して相互接続された複数の機器の連携動作の制御 |
JP2003125472A (ja) * | 2001-10-16 | 2003-04-25 | Nippon Hoso Kyokai <Nhk> | 電化製品制御方法および電化製品制御装置ならびに電化製品制御システムプログラム |
JP2008066775A (ja) * | 2006-09-04 | 2008-03-21 | Funai Electric Co Ltd | リモコン装置およびリモコン制御システム |
-
2010
- 2010-05-12 JP JP2010110090A patent/JP5491955B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2011238095A (ja) | 2011-11-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5791605B2 (ja) | メタデータのタグ付けシステム、イメージ検索方法、デバイス及びそれに適用されるジェスチャーのタグ付け方法 | |
JP2009093208A (ja) | 画像形成システム、情報処理装置、管理装置、画像形成装置、データ処理方法、記憶媒体、プログラム | |
JP2010086194A (ja) | シェア画像閲覧方法および装置 | |
JP7035840B2 (ja) | 情報処理装置、情報処理システム及び遠隔共有方法 | |
CN109895092B (zh) | 信息处理装置、信息处理方法以及计算机可读介质 | |
JP2002170119A (ja) | 画像認識装置、画像認識方法及び記録媒体 | |
JP5491955B2 (ja) | ネットワークシステム、シナリオ記述ファイル管理装置制御プログラム及びユーザ指示認識装置制御プログラム | |
JP2008258696A (ja) | ユーザインタフェース画面カスタマイズ装置、画面表示制御装置及びプログラム | |
JP2008217660A (ja) | 検索方法、および装置 | |
JP6965704B2 (ja) | 情報処理装置、プログラム及び制御方法 | |
JP6257040B2 (ja) | カラオケシステム、携帯型情報処理装置及びプログラム | |
JP5376689B2 (ja) | 情報処理装置、装置検索方法、装置検索支援方法および記録媒体 | |
JP2009258914A (ja) | 情報処理装置及びプログラム、情報処理システム | |
JP6641732B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP7077585B2 (ja) | 情報処理システム、情報処理装置およびプログラム | |
JP2007213350A (ja) | 情報像処理装置及び情報像処理方法。 | |
JP2009100217A (ja) | ネットワーク機器判別管理システム及び判別管理方法 | |
CN110741652A (zh) | 具有智能用户界面的显示设备 | |
KR101759563B1 (ko) | 콘텐츠 요청 장치 및 방법과 콘텐츠 전송 장치 및 방법 | |
JP6867541B1 (ja) | 画像表示装置及びプログラム | |
JP7009956B2 (ja) | 情報処理装置、プログラム及び制御方法 | |
JP7333027B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2009104609A (ja) | ホスト装置、クライアント装置、ホスト装置制御プログラム、ホスト装置制御方法 | |
US20210019100A1 (en) | Preset information displaying method and information processing apparatus | |
JP2007293655A (ja) | 文書処理装置、電子文書の出力処理方法、およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130104 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130906 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130917 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131107 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140204 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140228 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5491955 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |