JP6115152B2 - 情報処理システム、情報処理装置、情報処理端末及びプログラム - Google Patents

情報処理システム、情報処理装置、情報処理端末及びプログラム Download PDF

Info

Publication number
JP6115152B2
JP6115152B2 JP2013013833A JP2013013833A JP6115152B2 JP 6115152 B2 JP6115152 B2 JP 6115152B2 JP 2013013833 A JP2013013833 A JP 2013013833A JP 2013013833 A JP2013013833 A JP 2013013833A JP 6115152 B2 JP6115152 B2 JP 6115152B2
Authority
JP
Japan
Prior art keywords
information processing
voice
processing apparatus
tasks
processing terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013013833A
Other languages
English (en)
Other versions
JP2014146940A (ja
Inventor
義明 澁田
義明 澁田
功資 大島
功資 大島
勝彦 穐田
勝彦 穐田
俊和 川口
俊和 川口
英剛 岩井
英剛 岩井
悠史 岡本
悠史 岡本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2013013833A priority Critical patent/JP6115152B2/ja
Publication of JP2014146940A publication Critical patent/JP2014146940A/ja
Application granted granted Critical
Publication of JP6115152B2 publication Critical patent/JP6115152B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、MFPなどの情報処理装置を、タブレット端末やスマートフォンなどの情報処理端末で遠隔操作を可能とする技術の分野に関する。
プリント機能やスキャン機能を備えたMFP(Multi-Function Peripherals)などと呼ばれる情報処理装置は、一般にネットワークに接続された状態で使用され、文書データなどの各種データを送受信することができる。例えば、情報処理装置は、スキャン機能によって読み取った画像データをネットワーク経由でサーバーなどに送信することが可能である。この種の情報処理装置に関する技術として、例えば下記引用文献1,2に記載されたものがある。
下記特許文献1には、NFC通信部及びブルートゥース通信部をそれぞれ備える複合機及び情報処理端末がこれらの通信部を用いて互いに通信可能に構成されたシステムにおいて、複合機及び情報処理端末は、複合機の動作条件を示す設定情報と、前記両装置におけるブルートゥース通信部同士の通信を確立するための通信設定情報とを、前記両装置におけるNFC通信部を用いて授受した後、前記通信設定情報に基づき、前記両装置におけるブルートゥース通信部を用いて前記複合機の処理対象となるデータを授受する技術が開示されている。
下記特許文献2には、画像形成装置と携帯電話との間で通信可能なシステムにおいて、ユーザにより入力された画像形成装置の動作条件をユーザの指示により携帯電話に設定データとして送信し、携帯電話はその設定データを格納するとともに、その格納後、ユーザにより携帯電話に対して前記設定データが呼び出され、該設定データが示す動作条件で画像形成装置を動作させる指示が入力されると、その設定データを画像形成装置に送信する技術が開示されている。
このような通信機能を有する情報処理装置においては、該通信機能を用いることで、該情報処理装置に設けられた操作パネルをユーザが直接操作するだけでなく、ネットワークを介した遠隔操作によって情報処理装置の各機能を利用することも可能となっている。
一方、近年においてはタブレット端末やスマートフォンなどの情報処理端末の普及が著しい。この種の情報処理端末は、通常、音声を電気信号として取り込む音声入力機能(音声入力モード)を備えている。そこで、情報処理端末への音声入力によって情報処理装置を遠隔操作する構成を実現することが考えられる。
すなわち、情報処理装置にも音声入力機能を備え、情報処理端末に対してジョブの実行指示を示す音声が入力されると、その音声データを情報処理端末から情報処理装置に転送し、情報処理装置がその転送された音声データに基づいてジョブを実行するという構成が考えられる。
特開2009−147896号公報 特開2003−348289号公報
しかしながら、このような構成を実現しようとする場合、情報処理端末だけでなく情報処理装置も音声入力機能を起動させて音声を取り込める状態にしておかなければならない。なぜなら、情報処理装置も音声入力機能を起動させておかなければ、情報処理装置が情報処理端末からの音声データを取り込むことができる状態とならないからである。
そのため、このような構成においては、ユーザは、情報処理端末の音声入力機能を起動させるだけでなく、情報処理装置においても音声入力機能を起動させる必要がある。すなわち、ユーザは音声入力モードを起動させる作業・操作を、情報処理装置と情報処理端末との両方において行わなければならず、ユーザに煩わしさを感じさせ得る。
また、情報処理端末を所持しているユーザが、情報処理装置の設置位置から比較的離れているところにいる場合には、ユーザは、情報処理装置の音声入力機能を起動させる作業・操作のみならず、その作業・操作を行うために情報処理装置の設定位置まで移動しなければならないという、手間暇の要する非常に煩わしい作業をユーザに課すこととなる。
なお、前記各特許文献1,2は、いずれも音声入力による遠隔操作を実現する技術を提供するものではなく、上記のような課題を解決できるものではない。
そこで、本発明は、このような課題に鑑みてなされたものであり、情報処理端末への音声の入力によって情報処理装置の遠隔操作を可能とするためにユーザに課す作業を可及的に低減し、利便性の高い情報処理システム、情報処理装置、情報処理端末及びプログラムを提供することを目的とする。
前記目的を達成するため、請求項1に記載の発明は、音声を取り込む音声入力モードをそれぞれ有する情報処理端末及び情報処理装置が互いに通信可能に備えられ、前記情報処理端末と前記情報処理装置との間の通信機能を用いて、前記情報処理装置を前記情報処理端末で遠隔操作可能な情報処理システムであって、前記情報処理端末は、当該情報処理端末を前記音声入力モードに設定させる指示を入力するための入力手段と、前記入力手段により前記入力が行われると、前記音声入力モードの設定指示を示すメッセージを前記情報処理装置に送信するメッセージ送信手段と、前記入力手段により前記入力が行われると、当該情報処理端末を前記音声入力モードに設定する端末側音声入力モード設定手段と、前記情報処理装置との通信接続が確立している状態で当該情報処理端末及び前記情報処理装置が前記音声入力モードに設定されているときに、外部から音声が入力されると、取り込んだ音声を前記情報処理装置に転送可能な転送手段と、を備え、前記情報処理装置は、前記メッセージ送信手段から前記メッセージを受信するメッセージ受信手段と、前記メッセージ受信手段により前記メッセージが受信されると、当該情報処理装置を音声入力モードに設定する装置側音声入力モード設定手段と、前記音声入力モード中に前記転送手段により転送される音声を取得した場合に、当該音声が複数のタスクを含むジョブの実行指示であるか否かの認識処理を行う音声認識手段と、を備え、前記情報処理端末及び前記情報処理装置のうち少なくとも一方は、前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち前記情報処理装置で実行可能なタスク及びその実行順を判断する第1の判断手段と、前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち前記情報処理端末で実行可能なタスク及びその実行順を判断する第2の判断手段と、前記第1及び第2の判断手段の判断結果を用いて、前記複数のタスクの実行順を決定するとともに、前記複数のタスク各々の実行主体を前記情報処理端末及び前記情報処理装置のいずれか一方に決定する決定手段と、を更に備え、前記情報処理端末及び前記情報処理装置は、前記決定手段の決定内容を共有し、該決定内容に基づいて前記各タスクを実行することを特徴とするものである。
請求項2に記載の発明は、請求項1に記載の情報処理システムにおいて、前記情報処理装置は、前記装置側音声入力モード設定手段により当該情報処理装置が音声入力モードに設定されると、その旨の通知を前記情報処理端末に送信し、前記情報処理端末の前記端末側音声入力モード設定手段は、前記情報処理装置から前記通知を受信すると、当該情報処理端末を音声入力モードに設定するものである。
請求項に記載の発明は、請求項1又は2に記載の情報処理システムにおいて、前記音声認識手段は、当該音声認識手段を有する機器で実行可能なタスクに関連するキーワードを予め記憶するキーワード記憶手段と、前記キーワード記憶手段に記憶されているキーワードを用いて、前記音声が示すジョブに含まれるタスクの認識処理を行う認識手段とを備え、前記第1の判断手段は、前記認識手段により認識されたタスクについて前記情報処理装置で実行可能か否かを判断し、前記第2の判断手段は、前記認識手段により認識されたタスクについて前記情報処理端末で実行可能か否かを判断するものである。
請求項に記載の発明は、請求項1乃至3のいずれかに記載の情報処理システムにおいて、前記決定手段は、前記情報処理端末及び前記情報処理装置が共に実行可能であるタスクが存在するとき、そのタスクの実行主体を、当該タスクより1つ前のタスクの実行主体と同一とするものである。
請求項に記載の発明は、請求項1乃至4のいずれか一項に記載の情報処理システムにおいて、前記情報処理端末及び前記情報処理装置は、前記決定手段の決定事項に基づき前記タスクを実行していく過程で、次に実行すべきタスクの実行主体が自機に設定されていないときには、前記次に実行すべきタスクの識別情報と、該タスクの処理対象であるデータとを相手機に送信するものである。
請求項に記載の発明は、情報処理端末と通信可能であり、前記情報処理端末による遠隔操作を受け得る情報処理装置であって、前記情報処理端末から、音声を取り込む音声入力モードの設定指示を示すメッセージを受信するメッセージ受信手段と、前記メッセージ受信手段により前記メッセージが受信されると、当該情報処理装置を音声入力モードに設定する装置側音声入力モード設定手段と、前記音声入力モード中に取得した音声が複数のタスクを含むジョブの実行指示であるか否かの認識処理を行う音声認識手段と、前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち当該情報処理装置で実行可能なタスク及びその実行順を判断する第1の判断手段と、前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち前記情報処理端末で実行可能なタスク及びその実行順を判断する第2の判断手段と、前記第1及び第2の判断手段の判断結果を用いて、前記複数のタスクの実行順を決定するとともに、前記複数のタスク各々の実行主体を当該情報処理装置及び前記情報処理端末のいずれか一方に決定する決定手段と、前記決定手段の決定内容を前記情報処理端末と共有し、前記情報処理端末と連携して前記複数のタスクを順に実行する実行手段と、を備えることを特徴とするものである。
請求項に記載の発明は、音声を取り込む音声入力モードを有する情報処理装置と通信可能であり、前記情報処理装置を遠隔操作可能な情報処理端末であって、当該情報処理端末を、音声を取り込む音声入力モードに設定させる指示を入力するための入力手段と、前記入力手段により前記入力が行われると、前記音声入力モードの設定指示を示すメッセージを前記情報処理装置に送信するメッセージ送信手段と、前記入力手段により前記入力が行われると、当該情報処理端末を前記音声入力モードに設定する端末側音声入力モード設定手段と、前記情報処理装置との通信接続が確立している状態で当該情報処理端末及び前記情報処理装置が前記音声入力モードに設定されているときに、外部から音声が入力されると、取り込んだ音声を前記情報処理装置に転送可能な転送手段と、前記音声入力モード中に取得した音声が複数のタスクを含むジョブの実行指示であるか否かの認識処理を行う音声認識手段と、前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち前記情報処理装置で実行可能なタスク及びその実行順を判断する第1の判断手段と、前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち当該情報処理端末で実行可能なタスク及びその実行順を判断する第2の判断手段と、前記第1及び第2の判断手段の判断結果を用いて、前記複数のタスクの実行順を決定するとともに、前記複数のタスク各々の実行主体を当該情報処理装置及び前記情報処理端末のいずれか一方に決定する決定手段と、前記決定手段の決定内容を前記情報処理装置と共有し、前記情報処理装置と連携して前記複数のタスクを順に実行する実行手段と、を備えるものである。
請求項に記載の発明は、情報処理端末と通信可能であり、前記情報処理端末による遠隔操作を受け得る情報処理装置を動作させるプログラムであって、前記情報処理装置を、前記情報処理端末から、音声を取り込む音声入力モードの設定指示を示すメッセージを受信するメッセージ受信手段と、前記メッセージ受信手段により前記メッセージが受信されると、当該情報処理装置を音声入力モードに設定する装置側音声入力モード設定手段と、前記音声入力モード中に取得した音声が複数のタスクを含むジョブの実行指示であるか否かの認識処理を行う音声認識手段と、前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち当該情報処理装置で実行可能なタスク及びその実行順を判断する第1の判断手段と、前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち前記情報処理端末で実行可能なタスク及びその実行順を判断する第2の判断手段と、前記第1及び第2の判断手段の判断結果を用いて、前記複数のタスクの実行順を決定するとともに、前記複数のタスク各々の実行主体を当該情報処理装置及び前記情報処理端末のいずれか一方に決定する決定手段と、前記決定手段の決定内容を前記情報処理端末と共有し、前記情報処理端末と連携して前記複数のタスクを順に実行する実行手段、として機能させるものである。
請求項に記載の発明は、音声を取り込む音声入力モードを有する情報処理装置と通信可能であり、前記情報処理装置を遠隔操作可能な情報処理端末を動作させるプログラムであって、前記情報処理端末を、当該情報処理端末を、音声を取り込む音声入力モードに設定させる指示を入力するための入力手段と、前記入力手段により前記入力が行われると、前記音声入力モードの設定指示を示すメッセージを前記情報処理装置に送信するメッセージ送信手段と、前記入力手段により前記入力が行われると、当該情報処理端末を前記音声入力モードに設定する端末側音声入力モード設定手段と、前記情報処理装置との通信接続が確立している状態で当該情報処理端末及び前記情報処理装置が前記音声入力モードに設定されているときに、外部から音声が入力されると、取り込んだ音声を前記情報処理装置に転送可能な転送手段と、前記音声入力モード中に取得した音声が複数のタスクを含むジョブの実行指示であるか否かの認識処理を行う音声認識手段と、前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち前記情報処理装置で実行可能なタスク及びその実行順を判断する第1の判断手段と、前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち当該情報処理端末で実行可能なタスク及びその実行順を判断する第2の判断手段と、前記第1及び第2の判断手段の判断結果を用いて、前記複数のタスクの実行順を決定するとともに、前記複数のタスク各々の実行主体を当該情報処理装置及び前記情報処理端末のいずれか一方に決定する決定手段と、前記決定手段の決定内容を前記情報処理装置と共有し、前記情報処理装置と連携して前記複数のタスクを順に実行する実行手段と、として機能させるものである。
本発明によれば、ユーザが情報処理装置に所望のジョブを行わせようとする場合に、音声入力モードの設定指示を情報処理端末に入力するだけで情報処理装置が音声入力モードに設定されることになり、ユーザは、情報処理装置の音声入力モードをオンにする作業が不要となる。また、該ジョブを示す音声を情報処理端末に入力するだけで該ジョブが実行されることとなる。
そのため、情報処理端末を所持しているユーザが情報処理装置の位置から比較的離れている場合、情報処理装置を音声入力モードに設定すべく情報処理装置まで移動する必要性が無くなり、それに因る多大な手間暇を要する作業もユーザに課すことが無くなる。
これらの結果、情報処理端末への音声の入力によって情報処理装置の遠隔操作を可能とするためにユーザに課す作業を可及的に低減することができ、利便性の高い情報処理システムを提供することができる。
本発明に係る情報処理システムの一構成例を示す概念図である。 情報処理装置のハードウェア構成の一例を示す図である。 情報処理端末のハードウェア構成の一例を示す図である。 情報処理装置における機能構成の一例を示すブロック図である。 情報処理端末における機能構成の一例を示すブロック図である。 (a)は、情報処理装置が音声入力モードに設定される前において情報処理装置の表示部に表示される操作画面の一例を示す図、(b)は、情報処理装置が音声入力モードに設定された場合に、情報処理装置の表示部に表示される操作画面の一例を示す図である。 ワークフロー生成部で作成される暫定フローの一例を示す図である。 情報処理端末から受信した暫定フローの一例を示す図である。 正式フローの一例を示す図である。 リスト作成部により作成されるタスク実行リストの一例を示す図である。 所定の操作によって情報処理端末が音声入力モードに設定された場合に表示部に表示される画面の一例である。 情報処理装置の一連の処理を示すフローチャートである。 情報処理装置の一連の処理を示すフローチャートである。 図13のステップS26で表示部に表示される表示画面の一例である。 情報処理端末の一連の処理を示すフローチャートである。 情報処理端末の一連の処理を示すフローチャートである。 図15のステップS103で表示されるエラー画面の一例を示す図である。 図16のステップS128で表示部に表示される表示画面の一例を示す図である。 情報処理装置で生成された正式フロー及びタスク実行リストが図9、図10に示すものである場合に、情報処理装置と情報処理端末との間で行われるタスク実行権の受け渡し等を示す図である。
以下、本発明に関する好ましい実施形態について図面を参照しつつ詳細に説明する。なお、以下に説明する実施形態において互いに共通する部材には同一の符号を付しており、それらについての重複する説明は省略する。
図1は、本実施形態における情報処理システム1の一構成例を示す概念図である。
図1に示す情報処理システム1は、MFP等で構成される情報処理装置2と、ユーザが使用する情報処理端末3とが相互に通信可能な構成である。情報処理装置2と情報処理端末3との間の通信は、アクセスポイント4を介したLAN(Local Area Network)やインターネットを含む広域ネットワーク等のネットワーク通信であってもよいし、赤外線通信規格であるIrDA(Infrared Data Association)、電波や電磁界などを用いた近距離無線通信であってもよい。本実施形態では、前者のネットワーク通信であるものとする。
情報処理装置2は、前記ネットワーク通信を介してデータの通信を行う機能を有する他、スキャン機能、プリント機能、コピー機能及びBOX機能などの複数の機能を備えている。スキャン機能は、情報処理装置2の例えば装置本体5の上部に設けられた画像読取部6を駆動して原稿の読み取り動作を行い、画像データを生成する機能である。プリント機能は、情報処理装置2の例えば装置本体5の中央部に設けられた画像形成部7を駆動して印刷出力を行う機能である。コピー機能は、スキャン機能とプリント機能とが連携して動作し、原稿の複写出力を行う機能である。BOX機能は、情報処理装置2内に設けられた後述の記憶領域(BOX)に各種データを記憶しておく機能であり、例えばスキャン機能により得られた画像データを記憶したり、ネットワーク通信により取得したデータを記憶したりする。これらの機能は、ネットワーク通信によるデータの通信機能と連動することも可能である。
また、情報処理装置2は、外部の音を音データとして取り込む音入力機能、情報処理端末3から送信されてくる音データを取り込む音データ受信機能、これらの音入力機能や音データ受信機能によって取得した音データに、ジョブの実行指示を示す音声のデータ(音声データ)が含まれている否かを解析する音声解析機能等を有する。
情報処理装置2は、装置本体5の例えば正面側に、ユーザが情報処理装置2を操作する際のユーザインターフェースとなる操作パネル8を備えている。情報処理装置2は、例えばこの操作パネル8に対して行われるユーザの指示操作に基づき、上述した複数の各機能のうちの少なくとも1つを動作させ、ユーザによって指定されたジョブを実行する。
また、前記音入力機能を実現するため、操作パネル8には、外部の音を取り込む後述の集音部11(図2参照)が搭載されている。なお、本実施形態では、前記集音部11の搭載場所は操作パネル8に限定されるものではなく、装置本体5に搭載されていてもよい。
一方、情報処理端末3は、図1に示すようなタブレット端末やスマートフォンなどの通信端末や、図略の一般的なパーソナルコンピュータなどで構成される。情報処理端末3は、有線又は無線によりアクセスポイント4を介して広域又はローカルのネットワークに接続され、ネットワークを介して各種の装置との通信を行う。情報処理端末3が情報処理装置2と通信を行うことにより、ユーザが情報処理端末3を用いて情報処理装置2に対する遠隔操作(リモート操作)を行うことができるようになっている。
図2は、情報処理装置2のハードウェア構成の一例を示す図である。情報処理装置2は、上述したように、画像読取部6、画像形成部7及び操作パネル8を備えている。操作パネル8は、表示部9と操作部10とを備えており、操作パネル8を操作するユーザに対して各種情報を表示したり、ユーザからの各種操作入力を受け付けたりすることができるようになっている。
操作パネル8は、さらに前述の集音部11を備えている。集音部11は、外部の音を電気信号(音データ)として取り込むマイクなどからなり、後述する音声入力モードがオンのときに、外部の音を取り込んで電気信号に変換する処理を実行する。
図2に示すように、情報処理装置2は、前記各部6〜11の他、制御部12と、ネットワークインタフェース(ネットワークI/F)13と、記憶部14とを備えている。制御部12は、CPU15とメモリ16とを備えており、CPU15が記憶部14に記憶されている各種プログラムを実行することにより、各部の動作を制御する。メモリ16は、CPU15がプログラムを実行することに伴って発生する一時的なデータなどを記憶するためのものである。ネットワークI/F13は、情報処理装置2をネットワークに接続してネットワーク通信を行うためのものである。
記憶部14は、ハードディスクドライブ(HDD)等で構成される不揮発性の記憶手段であり、この記憶部14には、プログラム17と、ブラウザプログラム18と、ユーザ登録情報19とが記憶されている。
プログラム17は、情報処理装置2における基本プログラムである。このプログラム17は、例えば情報処理装置2に対して電源が投入されることに伴い、制御部12のCPU15によって自動的に読み出されて実行される。ブラウザプログラム18は、Webページなどのコンテンツを閲覧表示するためのプログラムである。ユーザ登録情報19は、情報処理装置2を使用することが許可された各ユーザに関する情報が登録された情報である。
図3は、情報処理端末3のハードウェア構成の一例を示す図である。図3に示す情報処理端末3は、CPU21及びメモリ22を有する制御部20と、ネットワークインタフェース(ネットワークI/F)23と、表示部24と、操作部25と、集音部26と、ハードディスクドライブ(HDD)やソリッドステートドライブ(SSD)等で構成される記憶部27とを備えている。
制御部20は、CPU21が各種プログラムを実行することにより、各部の動作を制御する。メモリ22は、CPU21がプログラムを実行することに伴って発生する一時的なデータなどを記憶するためのものである。ネットワークI/F23は、情報処理端末3をネットワークに接続し、有線又は無線によるデータ通信を行うためのものである。表示部24は、ユーザに対して各種の情報を表示するためのものであり、例えばカラー液晶ディスプレイなどで構成される。
操作部25は、ユーザからの各種指示操作を受け付けるためのものである。情報処理端末3が通信端末である場合、操作部25は、表示部24の表示画面上に配置されるタッチパネルセンサー等によって構成されている。操作部25に対して所定の操作を行うことにより、情報処理端末3は、集音部26を用いて外部の音声を取り込んで電気信号に変換する音声入力モードに設定される。記憶部27は、不揮発性の記憶手段であり、情報処理端末3に予めインストールされるプログラムや各種情報などを記憶する。
集音部26は、外部の音を電気信号として取り込むマイクなどからなり、前記音声入力モードがオンのときに、外部の音を取り込んで電気信号に変換する処理を実行する。
本実施形態の情報処理端末3は、記憶部27に、予めリモート制御プログラム28がインストールされている。そして、ユーザが、リモート制御プログラム28の起動を指示すると、制御部20のCPU21がリモート制御プログラム28を読み出して実行する。これにより、情報処理端末3において情報処理装置2をリモート制御する機能が動作し、情報処理端末3と情報処理装置2との通信が開始される。そして、ユーザは、情報処理端末3への音声入力により情報処理装置2の遠隔操作を行うことができるようになっている。
このリモート制御プログラム28には、図3に示すように、ブラウザプログラム29が含まれている。このブラウザプログラム29は、ユーザが情報処理装置2のリモート操作を行っているときに、必要に応じて自動的に起動される遠隔操作時専用のブラウザプログラム29である。
記憶部27には、ユーザに関するユーザ情報30が記憶されている。このユーザ情報30は、情報処理装置2を利用するための情報であり、情報処理端末3が情報処理装置2のリモート制御を開始する際に情報処理装置2へ送信される情報である。ユーザ情報30が情報処理装置2へ送信されることにより、情報処理装置2は、リモート操作を行うユーザが正規のユーザであるか否かを認証することができる。
次に、情報処理システム1において、情報処理端末3から情報処理装置2をリモート制御する場合の機能について説明する。図4は、情報処理装置2における機能構成の一例を示すブロック図である。
図4に示すように、情報処理装置2の制御部12は、認証処理部31と、操作画面制御部32と、モード設定部33と、音声認識部34と、メッセージ送信部35と、メッセージ受信部36と、転送部37と、判断部38と、リスト処理部39と、タスク実行指示部40として機能する。
認証処理部31は、情報処理端末3からユーザ情報30(図3参照)を取得すると、そのユーザ情報30に一致する情報が記憶部14にユーザ登録情報19として登録されているか否かを判別することにより、情報処理端末3のユーザが正規のユーザであるか否かを認証する処理部である。認証処理部31による認証処理で正規のユーザであることが特定されると、制御部12において操作画面制御部32が機能する。
操作画面制御部32は、情報処理端末3において表示する遠隔操作のための操作画面に関する処理を行う。すなわち、操作画面制御部32は、ユーザが情報処理端末3で遠隔操作を行うための操作画面を生成して表示部9に表示するとともに、その操作画面を情報処理端末3に送信する。
また、その操作画面に対する操作情報を情報処理端末3から受信し、情報処理端末3において表示される操作画面を制御(更新)する。具体的には、操作画面制御部32は、情報処理端末3から操作情報を受信すると、その操作情報を解析することにより、情報処理端末3を操作するユーザによって指定された処理を特定する。
その結果、ユーザによって指定された処理内容が操作画面を更新するものである場合、操作画面制御部32は、操作情報に基づいて操作画面を更新する。そして、操作画面制御部32は、操作画面を更新する都度、その操作画面を情報処理端末3に送信する。したがって、情報処理端末3において表示される操作画面は、ユーザによる操作が反映された状態に更新される。
また、操作画面制御部32において操作情報を解析した結果、ユーザによるジョブの実行指示を受信した場合には、制御部12のタスク実行指示部40が機能する。タスク実行指示部40は、情報処理端末3から受信するジョブ実行指示に基づき、画像読取部6及び画像形成部7のそれぞれを駆動することによってジョブの達成に必要な段階的処理(タスク)の実行を制御する。
モード設定部33は、当該情報処理装置2を音声入力モードに設定させる指示が入力されると、当該情報処理装置2を音声入力モードに設定する。情報処理装置2が音声入力モードに設定される前においては、情報処理装置2の表示部9には、図6(a)に示すように、「音声入力」キーK1を有する操作画面G1が表示されており、ユーザが「音声入力」キーK1に対して操作を行うことで、情報処理装置2を音声入力モードに設定させる指示が入力される。
なお、この「音声入力」キーK1の操作によって情報処理装置2が音声入力モードに設定されると、情報処理装置2の表示部9には、図6(b)に示すように、音声入力モードを解除(オフ)する旨を入力するための「音声入力解除」キーK2を有する操作画面G2が表示される。ユーザが「音声入力解除」キーK2に対して操作を行うと、情報処理装置2の音声入力モード設定を解除させる指示が入力される。
さらに、本実施形態では、モード設定部33は、情報処理端末3で音声入力モードの設定指示が入力されたことに伴い該設定指示を示すメッセージが情報処理端末3から送信されてきた場合にも、当該情報処理装置2を音声入力モードに設定する。
情報処理装置2は、モード設定部51により音声入力モードに設定されると、前記集音部11による集音機能がオンとなり、集音部11は、外部の音を取り込む。
音声認識部34は、集音部11が音を取り込んで電気信号(音データ)を出力すると、その音データに音声のデータ(音声データ)が含まれているか否かを解析し、音声データが含まれている場合には、その音声の内容を認識する。また、情報処理端末3の集音部26が音を電気信号(音データ)として取り込むと、その音データが情報処理端末3から転送されてくるので、音声認識部34は、その情報処理端末3から転送されてきた音データに音声データが含まれているか否かを解析し、音声データが含まれている場合には、その音声の内容を認識する。
さらに、音声認識部34は、情報処理装置2のジョブの達成に必要な全ての段階的処理(タスク)のうち、自機(情報処理装置2)で認識可能なタスクを示す音声が、前記のように認識した音声に含まれているか否かを判断するものであり、キーワード記憶部41と、タスク認識部42とを備える。
タスク(段階的処理)とは、例えば「原稿をスキャンして、Aさんの情報処理端末にメールで送る」というジョブにおいては、「原稿をスキャンする」という処理、「画像データをファイル化し、メモリに保存する」という処理、「Aさんのメールアドレスを自動設定する」という処理、「画像ファイルをメールに添付する」という処理、及び、「メールを送信する」という処理の各処理に該当する。
キーワード記憶部41は、前記タスクに関連するキーワードを予め記憶するものである。前記キーワードとして、例えば「原稿」、「スキャン」、「Aさん」、「メール」及び「送信」が考えられる。
タスク認識部42は、前記キーワード記憶部41に記憶されているキーワードを用いて、前記音声認識部34により認識された音声に含まれるタスクの認識処理を行うものである。
具体的には、タスク認識部42は、音声認識部34により認識された音声に対し、先頭の音声から順に、前記キーワード記憶部41に記憶されているキーワードの存在を認識する処理を行っていき、存在を認識したキーワードを認識順に並べていく。
例えば、「原稿をスキャンして、Aさんの情報処理端末にメールで送る。」というジョブを示す音声が入力された場合を想定する。この場合において、例えば「原稿」、「スキャン」、「Aさん」、「メール」及び「送信」がキーワードとして前記キーワード記憶部41に予め記憶されているとき(パターン1という)には、タスク認識部42は、音声中に、「原稿」、「スキャン」、「Aさん」、「メール」及び「送信」というキーワードが存在することを認識し、これらのキーワードをその順番に並べることになる。
一方、前記キーワード記憶部41に、例えば「メール」というキーワードが記憶されていないとき(パターン2という)には、タスク認識部42は、「メール」というキーワードの存在を認識することはない。
そして、タスク認識部42は、先頭のキーワードから順に着目していき、単一のキーワード、もしくは、複数のキーワードの組み合わせに基づいて、特定のタスクの存在を認識する処理を行う。
例えば前記パターン1の場合、タスク認識部42は、先頭のキーワードである「原稿」から着目していき、「原稿」及び「スキャン」というキーワードの組み合わせに基づき、「原稿をスキャン」というタスクの存在を認識する。また、タスク認識部42は、「Aさん」、「メール」、「送信」というキーワードの組み合わせに基づき、例えば「Aさんのメールアドレスを自動設定」、「画像ファイルをメールに添付」、「メールを送信」というタスクの存在を認識する。
一方、例えば前記パターン2の場合、前述したように、タスク認識部42は、「メール」というタスクの存在を認識することはないことから、「画像ファイルをメールに添付」というタスクを認識することはなく、「原稿をスキャン」、「画像ファイルをメールに添付」、「メールを送信」というタスクの存在を認識することとなる。
タスク認識部42は、このようにして認識したタスクを、認識した順番に並べていく。例えば前記パターン1の場合、タスク認識部42は、「原稿をスキャン」、「Aさんのメールアドレスを自動設定」、「画像ファイルをメールに添付」及び「メールを送信」という各タスクをこの順番に並べる。また、例えば前記パターン2の場合、タスク認識部42は、「原稿をスキャン」、「画像ファイルをメールに添付」、「メールを送信」という各タスクをこの順番に並べる。
次に、タスク認識部42は、このようにして並べた一連のタスクにおける連続した2つのタスクに着目し、その2つのタスク間へのタスクの補間の必要性を判断する。
例えば前記パターン1の場合、スキャンにより得られた画像データの処理、例えば「画像データをファイル化し、メモリに保存する」というタスクが欠落している。
したがって、タスク認識部42は、「原稿をスキャンする」というタスクと、「Aさんのメールアドレスを自動設定」というタスクとの間に、「画像データをファイル化し、メモリに保存する」というタスクを補間する必要性があると判断し、該タスクを補間する。
メッセージ送信部35は、情報処理装置2において、当該装置2を音声入力モードに設定させる指示が入力されると、前記音声入力モードの設定指示を示すメッセージを情報処理端末3に送信するものである。
メッセージ受信部36は、情報処理端末3から前記音声入力モードの設定指示を示すメッセージを受信するものである。情報処理端末3には、後述するように、前記メッセージ送信部35と同様のメッセージ送信部56(図5参照)が備えられており、メッセージ受信部36は、情報処理端末3において当該端末3を音声入力モードに設定させる指示が入力されたことにより情報処理端末3のメッセージ送信部56から前記メッセージが送られてくると、そのメッセージを受信する。
転送部37は、情報処理装置2と情報処理端末3との間の通信接続が確立している状態で集音部11により外部の音が取り込まれると、取り込んだ音のデータ(音データ)を情報処理端末3に転送するものである。
判断部38は、タスク認識部42により認識された各タスクのうち前記情報処理装置2で実行可能なタスクを判断し、それらのタスクの実行順を示すワークフローを生成し、情報処理端末3に送信するものであり、ワークフロー生成部43と、ワークフロー送受信部44とを備える。
ワークフロー生成部43は、タスク認識部42により認識されたタスクに基づく暫定的なワークフロー(以下、暫定フローという)を作成する。
具体的には、ワークフロー生成部43は、まず、タスク認識部42により認識された各タスクについて、自機(情報処理装置2)で実行可能か否かを判断する。そして、ワークフロー生成部43は、タスクとその実行可否についての判断結果とを対応付けたものを暫定フローとして作成する。
図7は、ワークフロー生成部43で作成される暫定フローの一例を示す図である。図7に示すように、暫定フローは、タスク認識部42により認識された各タスクの内容が順番に並べられており、これらの各タスクについて、ワークフロー生成部43による実行可否の判断結果「○」もしくは「×」が対応付けられている。「○」は、ワークフロー生成部43が自機で実行可能なものであると判断した結果を示し、「×」は、ワークフロー生成部43が自機で実行できないものであると判断した結果を示す。
すなわち、この図7に示す暫定フローは、「原稿をスキャン」、「画像データをファイル化し、メモリに保存」、「画像ファイルをメールに添付」及び「メール送信」の各タスクについては、情報処理装置2で実行可能であるとワークフロー生成部43が判断する一方、「Aさんのメールアドレスを自動設定」のタスクについては、情報処理装置2では実行できないとワークフロー生成部43が判断したことを示している。
なお、各タスクには、当該タスクを識別するためのID(Identification;以下、タスクIDという)が対応付けられている。例えば、「原稿をスキャン」というタスクには、タスクID「1」が対応付けられており、「Aさんのメールアドレスを自動設定」というタスクには、タスクID「3」が対応付けられている。
本実施形態では、ワークフロー生成部43が自機についての暫定フローを生成する一方で、情報処理端末3においても同様に情報処理端末3についての暫定フローが生成されるため、ワークフロー生成部43は、この情報処理端末3から送信される暫定フローを取得する。そして、ワークフロー生成部43は、この取得した暫定フローと、自機についての暫定フローとを対比し、各暫定フローにおける各タスクを全て含んだワークフローを正式のワークフロー(以下、正式フローという)として生成する。図8は、情報処理端末3から受信した暫定フローの一例を示し、図9は、正式フローの一例を示す図である。
図8に示す暫定フローは、情報処理端末3において、「Aさんのメールアドレスを自動設定」、「画像ファイルをメールに添付」及び「メール送信」の3つのタスクが認識されるとともに、「Aさんのメールアドレスを自動設定」のタスクと、「メール送信」のタスクとについては、情報処理端末3で実行可能であると判断され、「画像ファイルをメールに添付」のタスクについては、情報処理端末3で実行できないと判断されたことを示している。
そして、例えば、情報処理装置2においては図7に示す暫定フローが生成され、情報処理端末3においては図8に示す暫定フローが生成された場合、「原稿をスキャン」、「画像データをファイル化し、メモリに保存する」、「Aさんのメールアドレスを自動設定」、「画像ファイルをメールに添付」、「メールを送信」というタスクが、各暫定フローにおける全てのタスクとなり、ワークフロー生成部43は、これらのタスクを前記記載順に並べたものを正式フローとして生成する。
ワークフロー送受信部44は、ワークフロー生成部43により生成された暫定フローを情報処理端末3に送信するとともに、情報処理端末3から送信されてくる暫定フローを受信するものである。また、ワークフロー生成部43により生成された正式フローを情報処理端末3に送信するものである。
リスト処理部39は、後述するタスク実行リストに関する処理を行うものであり、決定部45と、リスト作成部46と、リスト送信部47とを備える。
決定部45は、ワークフロー生成部43により生成された暫定フローと、情報処理端末3から受信した暫定フローとに基づき、前記正式フローに含まれる各タスクの実行主体を情報処理端末3及び情報処理装置2のいずれか一方に決定するものである。
決定部45は、ワークフロー生成部43により生成された暫定フローと、情報処理端末3から受信した暫定フローとを参照し、いずれか一方の機器(情報処理装置2若しくは情報処理端末3)にしか実行できないタスクについては、その一方の機器を実行主体とする。例えば図7、図8に示す暫定フローにおける「画像ファイルをメールに添付」というタスクについては、情報処理端末3では実行できず、情報処理装置2においてのみ実行可能であることから、決定部45は、このタスクの実行主体を情報処理装置2と決定する。
一方、決定部45は、両方の機器において実行できるタスクについては、次の条件(1),(2)によって実行主体を決定する。
すなわち、(1)決定部45は、同一の実行主体がタスクをより多く連続して実行できるように、当該タスクの実行主体を、正式フローにおいて当該タスクより1つ前のタスクの実行主体と同一とする。例えば、図7、図8に示す暫定フローにおける「メールを送信」というタスクについては、情報処理装置2も情報処理端末3もどちらも実行可能であるが、そのタスクの1つ前の「画像ファイルをメールに添付」というタスクの実行主体が情報処理装置2に設定されている。
そのため、この「画像ファイルをメールに添付」というタスクに引き続いて「メールを送信」というタスクも情報処理装置2により実行されるように、決定部45は、「メールを送信」というタスクの実行主体を情報処理装置2と決定する。これにより、実行主体の切り替え回数が抑制され、実行主体の切り替えに伴う各種のロスを低減することができる。
(2)(1)以外の場合、決定部45は、実行主体を情報処理装置2と決定する。なお、ここでは、(1)以外の場合の実行主体を情報処理装置2と決定したが、本発明においては、情報処理端末3とすることを排除するものではない。
なお、ワークフロー生成部43により生成された正式フローのタスクの中で、情報処理装置2でも情報処理端末3でも実行できないタスクが存在する場合には、決定部45は、当該ジョブを実行できない旨のエラー報知をユーザに行う。
リスト作成部46は、決定部45による決定事項(前記正式フローに含まれる各タスクの実行主体についての決定事項)を表したタスク実行リストを作成するものである。図10は、リスト作成部46により作成されるタスク実行リストの一例を示す図である。
図10に示すタスク実行リストは、タスクID「1」,「2」,「4」,「5」に対応するタスクの実行主体が情報処理装置2に設定され、これらのタスクを情報処理装置2で実行することを示している。また、該タスク実行リストは、タスクID「3」に対応するタスクの実行主体が情報処理端末3に設定され、このタスクを情報処理端末3で実行することを示している。
リスト送信部47は、リスト作成部46により作成されたタスク実行リストを情報処理端末3に送信するものである。
タスク実行指示部40は、前記リスト作成部46により受信されたタスク実行リストに基づいて、情報処理装置2内の各部に、自機(情報処理装置2)が担当するタスク(自機が実行主体に設定されたタスク)の実行指示を行うものである。
タスク実行指示部40は、正式フローにおける各タスクを情報処理端末3と連携しつつ順に実行するため、現在自機で実行しているタスクの次に実行すべきタスクの実行主体が情報処理端末3に設定されているときには、現在自機で実行しているタスクの実行が完了すると、自機(情報処理装置2)のIDと、情報処理端末3が次に実行すべきタスクのタスクIDと、処理対象のデータ(例えば画像データ)とを含む一群のデータを引き継ぎデータとして情報処理端末3に送信する。
図5は、情報処理端末3における機能構成の一例を示すブロック図である。
図5に示すように、情報処理端末3は、モード設定部51として機能するとともに、制御部12においてリモート制御プログラム28(図3参照)が起動することに伴い、ユーザ認証部52及びリモート制御部53として機能する。
モード設定部51は、当該情報処理端末3を音声入力モードに設定させる指示が入力されると、当該情報処理端末3を音声入力モードに設定する。
情報処理端末3を音声入力モードに設定させる指示の入力方法は、その入力時に、情報処理端末3と情報処理装置2との間で通信が可能に確立されている否か(リモート制御部53が起動しているか否か)に応じて異なる。
すなわち、情報処理端末3と情報処理装置2との間で通信が可能に確立されている(リモート制御部53が起動している)場合、情報処理端末3の表示部24には、情報処理装置2と同様、図6(a)に示すように、「音声入力」キーK1を有する操作画面G1が表示され、ユーザが「音声入力」キーK1に対して操作を行うことで、情報処理端末3を音声入力モードに設定させる指示が入力される。
なお、この「音声入力」キーK1の操作によって情報処理端末3が音声入力モードに設定されると、情報処理端末3の表示部24には、図6(b)に示す操作画面G2が表示される。この操作画面G2において、ユーザにより「音声入力解除」キーK2に対して操作が行われると、情報処理端末3を音声入力モードに解除させる指示が入力される。
一方、情報処理端末3と情報処理装置2との間で通信が可能に確立されていない(リモート制御部53が起動していない)場合には、情報処理端末3に設けられている所定のボタンやキーを操作することで、情報処理端末3を音声入力モードに設定させる指示が入力される。図11は、前記所定のボタンやキーの操作によって情報処理端末3が音声入力モードに設定された場合に表示部24に表示される画面の一例である。図11に示す表示画面G3には、「おはなしください」とのメッセージが表示されており、このメッセージにより、情報処理端末3が音声による入力を受け付ける音声入力モードに設定された旨がユーザに対して示される。
さらに、モード設定部51は、情報処理端末3において当該端末3を音声入力モードに設定させる指示が入力された場合の他、前記音声入力モードの設定指示を示すメッセージが情報処理装置2から送信されてきた場合も、情報処理端末3を音声入力モードに設定する。
このようにしてモード設定部51により音声入力モードに設定されると、前記集音部26による集音機能がオンとなり、集音部26は外部の音を取り込む。
ユーザ認証部52は、制御部20においてリモート制御プログラム28が起動することに伴い、記憶部27からユーザ情報30を読み出して情報処理装置2に認証要求を行う処理部である。すなわち、ユーザ認証部52は、ネットワークI/F23を介してユーザ情報30を情報処理装置2へ送信し、情報処理装置2において行われる認証処理の結果を取得する。そして、情報処理装置2における認証処理で正規のユーザであることが認証されると、リモート制御部53を機能させる。
リモート制御部53は、ネットワークを介して情報処理装置2をリモート制御する処理部である。リモート制御部53は、図5に示すように、操作画面処理部54と、音声認識部55と、メッセージ送信部56と、メッセージ受信部57と、転送部58と、判断部59と、リスト受信部60と、タスク実行指示部61として機能する。
操作画面処理部54は、情報処理装置2の遠隔操作を行うための遠隔操作画面を表示部24に表示するものである。操作画面処理部54は、遠隔操作画面の少なくとも一部を情報処理装置2から取得して表示部24に表示する。また、操作画面処理部54は、遠隔操作画面を表示している状態でユーザによる操作を検出すると、その操作に対応する操作情報を生成し、この生成した操作情報を情報処理装置2へ送信する。
操作画面処理部54は、操作情報を情報処理装置2へ送信することに伴い、情報処理装置2から操作画面を新たに取得すると、その操作画面を表示部24に更新的に表示する。
音声認識部55は、情報処理端末3の音声入力モードがオンとなっている場合に、前記情報処理装置2の音声認識部34と同様の処理を行うものである。すなわち、音声認識部55は、情報処理端末の集音部26が音を取り込んで電気信号(音データ)を出力すると、その音データに音声のデータ(音声データ)が含まれているか否かを解析し、音声データが含まれている場合には、その音声の内容を認識する。
また、音声認識部55は、情報処理装置2の集音部11から音データが転送されてくると、その転送されてきた音データに音声データが含まれているか否かを解析し、音声データが含まれている場合には、その音声の内容を認識する。
さらに、音声認識部55は、情報処理装置2のジョブの達成に必要な全ての段階的処理(タスク)のうち、自機(情報処理端末3)で認識可能なタスクを示す音声が、前記のように認識した音声に含まれているか否かを判断するものであり、キーワード記憶部62と、タスク認識部63とを備える。
キーワード記憶部62は、情報処理装置2のキーワード記憶部41と同様のものであるため、その説明は省略する。
タスク認識部63は、前記キーワード記憶部62に記憶されているキーワードを用いて、前記音声認識部55により認識された音声に含まれるタスクの認識処理を行うものである。なお、タスク認識部63によるタスクの認識処理の具体的な方法については、情報処理装置2のタスク認識部42と同様であるため、その説明は省略する。
メッセージ送信部56は、前記リモート制御プログラム28が起動している状態で当該情報処理端末3を音声入力モードに設定させる指示が入力されると、前記音声入力モードの設定指示を示すメッセージを情報処理装置2に送信するものである。
メッセージ受信部57は、情報処理装置2において当該情報処理装置2を音声入力モードに設定させる指示が入力されたことにより、情報処理装置2のメッセージ送信部35から前記メッセージが送られてきた場合に、そのメッセージを受信するものである。
転送部58は、情報処理装置2と情報処理端末3との間の通信接続が確立している(リモート制御部53が起動している)状態で、集音部26により外部の音が取り込まれると、取り込んだ音のデータ(音データ)を情報処理装置2に転送するものである。
判断部59は、前記タスク認識部63により認識された各タスクのうち前記情報処理端末3で実行可能なタスクを判断し、それらのタスクの実行順を示すワークフローを生成し、情報処理装置2に送信するものであり、ワークフロー生成部64と、ワークフロー送受信部65とを備える。
ワークフロー生成部64は、タスク認識部63により認識されたタスクに基づく暫定的なワークフロー(暫定フロー)を作成する。なお、ワークフロー生成部64による前記暫定フローの具体的な生成方法については、情報処理装置2のワークフロー生成部43と同様であるため、その説明は省略する。ただし、本実施形態では、ワークフロー生成部64は、暫定フローの生成までに止まり、情報処理装置2のワークフロー生成部43のように正式フローの生成を行うことはないものとする。
ワークフロー送受信部65は、ワークフロー生成部64により生成された暫定フローを情報処理装置2に送信したり、情報処理装置2から正式フローが送信されてきた場合にその正式フローを受信したりするものである。
リスト受信部60は、情報処理装置2のリスト送信部47から送信されてくる前記タスク実行リスト(図10参照)を受信するものである。
タスク実行指示部61は、前記リスト受信部60により受信されたタスク実行リストに基づいて、情報処理端末3内の各部に、自機(情報処理端末3)が担当するタスクの実行指示を行うものである。
タスク実行指示部61は、正式フローにおける各タスクを情報処理装置2と連携して順に実行するため、現在自機で実行しているタスクの次に実行すべきタスクの実行主体が情報処理装置2に設定されているときには、現在自機で実行しているタスクの実行が完了すると、自機(情報処理端末3)のIDと、情報処理装置2が次に実行すべきタスクのタスクIDと、処理対象のデータ(例えば画像データ)とを含む一群のデータを引き継ぎデータとして情報処理装置2に送信する。
図12、図13は、情報処理装置2の一連の処理を示すフローチャートである。
図12に示すように、情報処理装置2において、モード設定部33は、音声入力モードの起動命令があると(ステップS1でYES)、音声入力モードを起動(オン)する(ステップS2)。
次に、制御部12は、操作画面の画面データが情報処理端末3に送信されているか否かを判断する(ステップS3)。つまり、制御部12は、情報処理端末3との間で通信が確立されているか否かを判断する。その結果、制御部12は、操作画面の画面データが情報処理端末3に送信されていると判断した場合には(ステップS3でYES)、自機の識別番号を含むレスポンスメッセージを情報処理端末3に送信する(ステップS4)。なお、このメッセージに含める前記識別番号は、単純な整数でもよいし、MACアドレスのような文字列でも良い。
一方、ステップS3において、制御部12は、操作画面の画面データが情報処理端末3に送信されていないと判断した場合には(ステップS3でNO)、自機の識別番号を含むメッセージであって情報処理端末3の音声入力モードを起動する指示を示すメッセージ(音声入力モード起動メッセージ)を情報処理端末3に送信し(ステップS5)、情報処理端末3からの応答を待機する(ステップS6)。
制御部12は、一定時間内に情報処理端末3から応答があったか否かを判断し(ステップS7)、応答が無かったと判断した場合には(ステップS7でNO)、エラーが発生した旨を示すエラー画面を表示部9に表示する(ステップS8)。
一方、制御部12が、ステップS7で一定時間内に情報処理端末3から応答があったと判断した場合(ステップS7でYES)、若しくは、ステップS4の処理後、音声認識部34は、入力音についての解析を行う(ステップS9)。すなわち、音声認識部34は、集音部11が音を取り込んで出力した電気信号(音データ)に音声のデータ(音声データ)が含まれているか否かを解析する。一方、音声認識部34は、情報処理端末3から音データが転送されてきた場合は、その転送されてきた音データに音声データが含まれているか否かを解析する。
音声認識部34は、前記音データに音声データが含まれていることを検出すると(ステップS10でYES)、その音声の内容を認識し、タスク認識部42は、ステップS11で認識した音声と、キーワード記憶部41に記憶されているキーワードとの基づき、前記音声認識部34により認識された音声に含まれるタスクの認識処理を行う(ステップS1)。そして、ワークフロー生成部43は、タスク認識部42により認識されたタスクに基づいて前記暫定フローを生成し、ワークフロー送受信部44は、該暫定フローを情報処理端末3に送信する(ステップS12)。
また、ワークフロー送受信部44は、情報処理端末3において生成された暫定フローを情報処理端末3から受信すると(ステップS13でYES)、ワークフロー生成部43は、この受信した暫定フローと、自機についての暫定フローとを対比し、各暫定フローにおけるタスクを全て含んだワークフローを正式フローとして生成する(ステップS14)。
さらに、決定部45は、ワークフロー生成部43により生成された暫定フローと、情報処理端末3から受信した暫定フローとに基づき、前記正式フローに含まれる各タスクの実行主体を情報処理端末3及び情報処理装置2のいずれか一方に決定し、リスト作成部46は、決定部45による決定事項を表したタスク実行リストを生成する(ステップS15)。
そして、ワークフロー送受信部44は、ワークフロー生成部43により生成された正式フローを情報処理端末3に送信し、また、リスト送信部47は、リスト作成部46により作成されたタスク実行リストを情報処理端末3に送信する(ステップS16)。
その後、制御部12は、一定期間中に情報処理端末3から何らかのレスポンス(返信)が有ったか否かを判断し(ステップS17)、前記レスポンスが無かったと判断した場合には(ステップS17でNO)、エラーが発生した旨のエラー画面を表示部9に表示する(ステップS18)。
また、制御部12は、一定期間中に情報処理端末3から何らかのレスポンス(返信)が有ったと判断した場合であっても(ステップS17でYES)、前記レスポンスの内容が、前記正式フロー及びタスク実行リストで了解した旨の内容ではない場合には(ステップS19でNO)、前記エラー画面を表示部9に表示する(ステップS18)。
一方、ステップS19において、前記レスポンスの内容が、前記正式フロー及びタスク実行リストで了解した旨の内容であった場合(ステップS19でYES)、タスク実行指示部40は、前記リスト作成部46により受信されたタスク実行リストに基づくタスクの実行指示を開始する(ステップS20)。
タスク実行指示部40は、タスク実行リストに基づいて、現在実行しているタスクの次に実行すべきタスクの実行主体を確認し(ステップS21)、前記実行主体が自機(情報処理装置2)である場合には(ステップS22でYES)、次に実行すべきタスクを実行するタイミングがくると、該タスクを実行指示する(ステップS23)。
そして、タスク実行指示部40は、さらにその次に実行すべきタスクが無いか否かを判断し(ステップS24)、ある場合には(ステップS24でNO)、ステップS21の処理に戻る一方、無い場合には(ステップS24でYES)、制御部12は、ジョブが終了した旨のメッセージを情報処理端末3に送信し(ステップS25)、前記メッセージを表示部9に表示する(ステップS26)。図14は、ステップS26で表示部9に表示される表示画面G4の一例である。図14に示すように、表示画面G4には、ジョブの実行が終了した旨を示すメッセージ「ジョブが終了しました」が表示されている。
ステップS22において、現在実行しているタスクの次に実行すべきタスクの実行主体が自機(情報処理装置2)ではなく情報処理端末3である場合には(ステップS22でNO)、タスク実行指示部40は、自機(情報処理装置2)のIDと、情報処理端末3が次に実行すべきタスクのタスクIDと、処理対象のデータ(例えば画像データ)とを含む一群のデータを引き継ぎデータとして情報処理端末3に送信する(ステップS27)。
そして、タスク実行指示部40は、一定時間内に何らかの返信を情報処理端末3から受信したか否かを判断し(ステップS28)、返信を受信していないと判断した場合には(ステップS28でNO)、エラーが発生した旨のメッセージを情報処理端末3に送信し(ステップS29)、該メッセージを表示部9に表示する(ステップS30)。
一方、ステップS28において、タスク実行指示部40は、一定時間内に何らかの返信を情報処理端末3から受信したと判断した場合には(ステップS28でYES)、その返信が引き継ぎデータであるか否かを判断し(ステップS31)、引き継ぎデータであると判断した場合には(ステップS31でYES)、ステップS21の処理に戻る。
一方、ステップS31において、前記返信が引き継ぎデータではない場合には(ステップS31でNO)、タスク実行指示部40は、前記返信が、ジョブが終了した旨のメッセージ(ジョブ終了メッセージ)であるか否かを判断し(ステップS32)、そうであると判断した場合には(ステップS32でYES)、ステップS26の処理に進む。なお、タスク実行指示部40は、前記返信が前記ジョブ終了メッセージでもないと判断した場合には(ステップS32でNO)、ステップS29の処理を実行する。
図15、図16は、情報処理端末3の一連の処理を示すフローチャートである。
情報処理端末3において、制御部20は、ユーザが選択した情報処理装置2のMAC(Media Access Control)アドレスを使用してブロードキャストし(ステップS101)、一定時間内にレスポンスがあったか否かを判断する(ステップS102)。その結果、制御部20は、一定時間内にレスポンスがなかったと判断した場合には(ステップS102でNO)、エラーが発生した旨を示すエラー画面を表示部24に表示する(ステップS103)。
一方、制御部20は、一定時間内にレスポンスがあったと判断した場合には(ステップS102でYES)、該レスポンスが音声入力モードの起動命令であったか否かを判断し(ステップS104)、前記起動命令があったと判断すると(ステップS104でYES)、モード設定部51は、音声入力モードを起動(オン)する(ステップS105)。
次に、制御部20は、操作画面の画面データが情報処理装置2から受信しているか否かを判断する(ステップS106)。つまり、制御部20は、情報処理装置2との間で通信が確立されているか否か(リモート制御部53が起動しているか否か)を判断する。その結果、制御部20は、操作画面の画面データが情報処理装置2から受信していると判断した場合には(ステップS106でYES)、自機の識別番号を含むレスポンスメッセージを情報処理装置2に送信する(ステップS107)。なお、このメッセージに含める前記識別番号は、単純な整数でもよいし、MACアドレスのような文字列でも良い。
一方、制御部20は、操作画面の画面データが情報処理装置2から受信されていないと判断した場合には(ステップS106でNO)、自機の識別番号を含むメッセージであって情報処理装置2の音声入力モードを起動する指示を示すメッセージ(音声入力モード起動メッセージ)を情報処理装置2に送信し(ステップS108)、情報処理端末3からの応答を待機する(ステップS109)。
制御部20は、一定時間内に情報処理装置2から応答があったか否かを判断し(ステップS110)、応答が無かったと判断した場合には(ステップS110でNO)、エラーが発生した旨を示すエラー画面を表示部24に表示する(ステップS103)。図17は、前記エラー画面G5の一例であり、該エラー画面G5には、情報処理装置2から応答が無かった旨を示すメッセージ「応答がありません」が表示されている。
一方、ステップS110で制御部20が一定時間内に情報処理装置2から応答があったと判断した場合(ステップS110でYES)、若しくは、ステップS107の処理後、音声認識部55は、入力音についての解析を行う(ステップS111)。すなわち、音声認識部55は、集音部26が音を取り込んで出力した電気信号(音データ)に音声のデータ(音声データ)が含まれているか否かを解析する。一方、音声認識部55は、情報処理装置2から音データが転送されてきた場合は、その転送されてきた音データに音声データが含まれているか否かを解析する。
音声認識部55は、前記音データに音声データが含まれていることを検出すると(ステップS112)、その音声の内容を認識する処理を行い、タスク認識部63は、ステップS113で認識した音声と、キーワード記憶部62に記憶されているキーワードとの基づき、前記音声認識部55により認識された音声に含まれるタスクの認識処理を行う(ステップS113)。そして、ワークフロー生成部64は、タスク認識部63により認識されたタスクに基づいて前記暫定フローを生成し(ステップS114)、ワークフロー送受信部65は、該暫定フローを情報処理装置2に送信する(ステップS115)。
そして、ワークフロー送受信部65及びリスト受信部60は、一定時間内に、情報処理装置2で生成される正式フローとタスク実行リストとを情報処理装置2から受信したか否かを判断し(ステップS116)、受信しなかったと判断すると(ステップS116でNO)、エラーが発生した旨のメッセージを情報処理装置2に送信し(ステップS131)、前記メッセージを表示部24に表示する(ステップS132)。
一方、ワークフロー送受信部65及びリスト受信部60は、一定時間内に、情報処理装置2で生成される正式フローとタスク実行リストとを情報処理装置2から受信したと判断すると(ステップS116でYES)、タスク実行指示部61は、この受信した正式フローとタスク実行リストに問題がないか否かの確認を行う(ステップS117)。その結果、タスク実行指示部61は、問題があると判断すると(ステップS118でNO)、ステップS131の処理を実行する一方、問題がないと判断すると(ステップS118でYES)、その旨を情報処理装置2に送信する(ステップS119)。
そして、ステップS119の処理後、タスク実行指示部61は、一定時間内に何らかの返信を情報処理装置2から受信したか否かを判断し(ステップS120)、返信を受信していないと判断した場合には(ステップS120でNO)、ステップS131の処理を実行する。
一方、ステップS120において、タスク実行指示部61は、一定時間内に何らかの返信を情報処理装置2から受信したと判断した場合には(ステップS120でYES)、その返信が引き継ぎデータであるか否かを判断し(ステップS121)、引き継ぎデータである場合には(ステップS121でYES)、受信した引き継ぎデータとタスク実行リストとに基づくタスクの実行指示を開始する(ステップS122)。
また、タスク実行指示部61は、タスク実行リストに基づいて、現在実行しているタスクの次に実行すべきタスクの実行主体を確認し(ステップS123)、実行主体が自機(情報処理端末3)である場合には(ステップS124でYES)、前記次に実行すべきタスクを実行するタイミングが来たときに、該タスクの実行指示を行う(ステップS125)。
そして、タスク実行指示部61は、自機で実行すべきさらに次のタスクが無いか否かを判断し(ステップS126)、ある場合には(ステップS126でNO)、ステップS123の処理に戻る一方、無い場合には(ステップS126でYES)、制御部20は、ジョブが終了した旨のメッセージを情報処理装置2に送信し(ステップS127)、前記メッセージを表示部24に表示する(ステップS128)。図18は、ステップS128で表示部24に表示される表示画面G6の一例である。図18に示すように、表示画面G6には、ジョブの実行が終了した旨を示すメッセージ「ジョブが終了しました」が表示されている。
ステップS124において、現在実行しているタスクの次に実行すべきタスクの実行主体が自機(情報処理端末3)ではなく情報処理装置2である場合には(ステップS124でNO)、タスク実行指示部61は、自機(情報処理端末3)のIDと、情報処理装置2が次に実行すべきタスクのタスクIDと、処理対象のデータ(例えば画像データ)とを含む一群のデータを引き継ぎデータとして情報処理装置2に送信する(ステップS129)。
一方、ステップS121において、前記返信が引き継ぎデータではない場合には(ステップS121でNO)、タスク実行指示部61は、前記返信が、ジョブが終了した旨のメッセージ(ジョブ終了メッセージ)であるか否かを判断し(ステップS130)、そうであると判断した場合には(ステップS130でYES)、ステップS128の処理を実行する。なお、前記返信が前記ジョブ終了メッセージでもない場合には(ステップS130でNO)、ステップS131の処理を実行する。
図19は、情報処理装置2で生成された正式フロー及びタスク実行リストが図9、図10に示すものである場合に、情報処理装置2と情報処理端末3との間で行われる、タスクを実行する権利(以下、タスク実行権という)の受け渡しを示す図である。なお、図19における楕円は、前記タスク実行権を示す。
図9及び図10に示すように、タスクID「1」に対応するタスク「原稿をスキャン」及び「画像データをファイル化し、メモリに保存」は、実行主体が情報処理装置2に設定されている。よって、図19に示すように、前記タスク実行権は情報処理装置2が取得しており、情報処理装置2は、このタスクを実行するタイミングになると、該タスクを実行する。
また、次に実行すべきタスクID「2」に対応するタスク「画像データをファイル化し、メモリに保存」も、図9及び図10に示すように、実行主体が情報処理装置2に設定されている。よって、図19に示すように、前記タスク実行権は引き続き情報処理装置2が取得し、情報処理装置2は、このタスクを実行するタイミングになると、該タスクを実行する。
次に実行すべきタスクID「3」に対応する「Aさんのメールアドレスを自動設定」は、図9及び図10に示すように、実行主体が情報処理端末3に設定されている。よって、情報処理装置2は、現在実行しているタスクが終了すると、図19に示すように、自機(情報処理装置2)のIDと、情報処理端末3が次に実行すべきタスクのタスクIDと、処理対象のデータ(例えば画像データ)とを含む引き継ぎデータを情報処理端末3に送信することにより前記タスク実行権を情報処理端末3に渡す。情報処理端末3は、このタスク実行権を受け取り、当該タスクを実行するタイミングになると、該タスクを実行する。
次に実行すべきタスクID「4」に対応する「画像ファイルをメールに添付」は、図9及び図10に示すように、実行主体が情報処理装置2に設定されている。よって、図19に示すように、自機(情報処理端末3)のIDと、情報処理装置2が次に実行すべきタスクのタスクIDと、処理対象のデータ(例えば画像データ)とを含む引き継ぎデータを情報処理端末3から情報処理装置2に送信することにより前記タスク実行権を情報処理装置2に渡す。情報処理装置2は、このタスク実行権を受け取り、当該タスクを実行するタイミングになると、該タスクを実行する。
また、次に実行すべきタスクID「5」に対応するタスク「メールを送信」も、図9及び図10に示すように、実行主体が情報処理装置2に設定されている。よって、図19に示すように、前記タスク実行権は引き続き情報処理装置2が取得し、情報処理装置2は、このタスクを実行するタイミングになると、該タスクを実行する。
そして、ジョブの達成に必要な全てのタスクの実行が全て完了すると、前記タスク実行権を取得している情報処理装置2は、当該ジョブに係る動作を終了するとともに、全てのタスクの実行が完了した旨を情報処理端末3に通知する。情報処理端末3は、その通知を受けて、当該ジョブに係る動作を終了する。
以上のように、本実施形態に係る情報処理システム1においては、情報処理端末3において当該端末3を音声入力モードに設定させる指示を入力が行われると、前記音声入力モードの設定指示を示すメッセージを情報処理装置2に送信するとともに、自機(情報処理端末3)を音声入力モードに設定する一方、情報処理装置2は、情報処理端末3から前記メッセージを受信すると、自機(情報処理装置2)を音声入力モードに設定する。
すなわち、情報処理端末3を音声入力モードに設定する作業や操作を行うだけで、情報処理装置2も音声入力モードに設定される。これにより、情報処理端末3を用いた遠隔操作によって、情報処理装置2の音声入力モードをオンにすることができ、情報処理装置2の音声入力モードをオンにする作業や操作が不要となる。
そのため、情報処理端末3を所持しているユーザが情報処理装置2の位置から比較的離れていたとしても、情報処理装置2の音声入力モードをオンにするためにユーザが情報処理装置2の設置位置まで移動する必要性も無くなり、そのような煩わしい移動の手間暇をユーザに課すことも無くなる。
その結果、情報処理端末3への音声入力によって情報処理装置2の遠隔操作を可能とするためにユーザに課す作業を可及的に低減することができ、利便性の高い情報処理システム1を提供することができる。
また、情報処理装置2との通信接続が確立している状態で前記情報処理端末3及び前記情報処理装置2が前記音声入力モードに設定されているときに、外部から音声が入力されると、取り込んだ音声を情報処理装置2に転送可能な転送部58を情報処理端末3に備えた。これにより、ユーザのジョブの実行を指示する音声が情報処理端末3を介して情報処理装置2に入力される構成を実現することができる。
また、前記情報処理装置2に、前記音声入力モード中に取得した音声が複数のタスクを含むジョブの実行指示であるか否かの認識処理を行う音声認識部34を備え、前記情報処理装置2は、情報処理端末3及び情報処理装置2が前記音声入力モードに設定されている状態で前記情報処理端末3の転送部58により音声が転送されてくると、該音声を前記音声入力モード中に取得した音声として前記音声認識部34による認識処理を行い、その認識結果に基づいてジョブを実行するようにした。
これにより、情報処理端末3への音声入力によってジョブの実行指示が入力される構成を実現することができる。
また、本実施形態では、前記音声認識部34により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち前記情報処理装置2で実行可能なタスク及びその実行順を判断する判断部38と、前記音声認識部55により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち前記情報処理端末3で実行可能なタスク及びその実行順を判断する判断部59と、前記判断部38,59の判断結果を用いて、前記複数のタスクの実行順を決定するとともに、前記複数のタスク各々の実行主体を前記情報処理端末3及び前記情報処理装置2のいずれか一方に決定する決定部45とを備え、前記情報処理端末3及び前記情報処理装置2は、前記決定部45の決定内容を共有し、該決定内容に基づいて前記各タスクを実行するようにした。
これにより、情報処理端末3及び情報処理装置2は、自機が担当すべきタスクを順番に実行していくことができ、互いに連携しながら前記ジョブを達成することができる。
また、本実施形態では、前記情報処理装置2の音声認識部34に、前記タスクに関連するキーワードを予め記憶するキーワード記憶部41と、前記キーワード記憶部41に記憶されているキーワードを用いて、解析した音声が示すジョブを構成するタスクの認識処理を行うタスク認識部42としての機能を備えた。また、情報処理端末3の音声認識部55にも、キーワード記憶部41及びタスク認識部42と同様のキーワード記憶部62とタスク認識部63として機能を備えた。そして、情報処理装置2の判断部38は、タスク認識部42により認識されたタスクについて前記情報処理装置2で実行可能か否かを判断し、また、情報処理端末3の判断部59は、タスク認識部63により認識されたタスクについて前記情報処理端末3で実行可能か否かを判断するようにした。
これにより、前記情報処理装置2及び情報処理端末3の各々において、入力された音声からタスクを認識することができる。よって、情報処理装置2及び情報処理端末3のいずれにジョブを示す音声が入力された場合であっても、その音声からタスクを認識する構成を実現することができる。
前記決定部45は、情報処理端末3及び情報処理装置2が共に実行可能であるタスクが存在するとき、そのタスクの実行主体を、当該タスクより1つ前のタスクの実行主体と同一とするようにしたので、タスクの実行主体の切り替えによる各種のロスを低減することができる。
また、情報処理端末3及び情報処理装置2は、前記決定部45の決定事項に基づき前記タスクを実行していく過程で、次に実行すべきタスクの実行主体が自機に設定されていないときには、前記次に実行すべきタスクのIDと、該タスクの処理対象であるデータとを相手機に送信するようにしたので、実行主体が切り替わる際の引き継ぎを行うことができる。
以上、本発明に関する好ましい実施形態について説明したが、本発明は上述した内容のものに限られるものではなく、種々の変形例が適用可能である。以下、いくつかの変形例について説明する。
(1)前記第1の実施形態では、情報処理端末3において当該端末3を音声入力モードに設定させる指示の入力が行われることのみをトリガとして、情報処理端末3が音声入力モードとなるように構成されているが、本発明は、情報処理端末3が音声入力モードとなるトリガとして、前述した音声入力モードへの設定指示の入力が行われることのみをトリガとする形態に限定されるものではなく、例えば、次のような形態も想定される。
すなわち、情報処理端末3において当該端末3を音声入力モードに設定させる指示の入力が行われても、この時点では、情報処理端末3のモード設定部54は、自機(情報処理端末3)を音声入力モードに設定する処理は行わず、メッセージ送信部56は、前記音声入力モードの設定指示を示すメッセージを情報処理装置2に送信する処理を行う。
情報処理装置2のモード設定部33は、情報処理端末3から前記メッセージを受信すると、自機(情報処理装置2)を音声入力モードに設定するとともに、メッセージ送信部35は、情報処理装置2が音声入力モードとなった旨の通知を情報処理端末3に送信する。情報処理端末3のメッセージ受信部57は、情報処理装置2から前記通知を受信すると、この時点で、モード設定部54は、自機(情報処理端末3)を音声入力モードに設定する。
すなわち、本構成は、情報処理端末3において当該端末3を音声入力モードに設定させる指示の入力が行われることに加え、情報処理装置2が音声入力モードとなった旨の通知を情報処理装置2から受信したことをも含めたトリガによって、情報処理端末3が音声入力モードとなる。
このような構成によっても、前記第1の実施形態と同様の作用効果を奏することができる。
(2)前記第1の実施形態では、情報処理装置2及び情報処理端末3にそれぞれ音声認識部(音声認識部34,55)を備えたが、音声認識部を情報処理装置2にのみ設け、その音声認識部34の処理結果を情報処理端末3に送信する構成としてもよい。
(3)前記第1の実施形態では、判断部38及び決定部45を情報処理装置2に設けるとともに、判断部59を情報処理端末3に設けるようにしたが、判断部38,59及び決定部45を情報処理装置2及び情報処理端末3のいずれに設けてもよい。したがって、本発明は、判断部38,59及び決定部45を全て情報処理装置2に設ける形態や、判断部38,59及び決定部45を全て情報処理端末3に設ける形態、或いは、判断部38を情報処理装置2に設けるとともに、判断部59及び決定部45を情報処理端末3に設ける形態等も含む。
また、前記第1の実施形態では、正式フローやタスク実行リストの生成機能を情報処理装置2に搭載したが、これらの機能を情報処理端末3に搭載してもよい。また、本発明は、前記生成機能を情報処理装置2及び情報処理端末3の両方に設ける形態を排除するものでもない。前記生成機能を情報処理装置2及び情報処理端末3の両方に設ける場合、情報処理装置2及び情報処理端末3でそれぞれ生成された各正式フローや各タスク実行リストを最終的に1つに統一し、その統一された正式フローや各タスク実行リストを情報処理装置2及び情報処理端末3で共有するような構成とすればよい。
1 情報処理システム
2 情報処理装置
3 情報処理端末
9,24 表示部
11,26 集音部
33 モード設定部(装置側音声入力モード設定手段)
51 モード設定部(端末側音声入力モード設定手段)
34,55 音声認識部(音声認識手段)
35 メッセージ送信部(メッセージ送信手段)
36 メッセージ受信部
37 転送部
38 判断部(第1の判断手段)
39 リスト処理部
41,62 キーワード記憶部(キーワード記憶手段)
42,63 タスク認識部(認識手段)
43 ワークフロー生成部
44 ワークフロー送受信部
45 決定部(決定手段)
46 リスト作成部
47 リスト送信部
56 メッセージ送信部
57 メッセージ受信部(メッセージ受信手段)
58 転送部(転送手段)
59 判断部(第2の判断手段)
64 ワークフロー生成部
65 ワークフロー送受信部
K1 操作キー(入力手段)

Claims (9)

  1. 音声を取り込む音声入力モードをそれぞれ有する情報処理端末及び情報処理装置が互いに通信可能に備えられ、前記情報処理端末と前記情報処理装置との間の通信機能を用いて、前記情報処理装置を前記情報処理端末で遠隔操作可能な情報処理システムであって、
    前記情報処理端末は、
    当該情報処理端末を前記音声入力モードに設定させる指示を入力するための入力手段と、
    前記入力手段により前記入力が行われると、前記音声入力モードの設定指示を示すメッセージを前記情報処理装置に送信するメッセージ送信手段と、
    前記入力手段により前記入力が行われると、当該情報処理端末を前記音声入力モードに設定する端末側音声入力モード設定手段と
    前記情報処理装置との通信接続が確立している状態で当該情報処理端末及び前記情報処理装置が前記音声入力モードに設定されているときに、外部から音声が入力されると、取り込んだ音声を前記情報処理装置に転送可能な転送手段と、
    を備え、
    前記情報処理装置は、
    前記メッセージ送信手段から前記メッセージを受信するメッセージ受信手段と、
    前記メッセージ受信手段により前記メッセージが受信されると、当該情報処理装置を音声入力モードに設定する装置側音声入力モード設定手段と
    前記音声入力モード中に前記転送手段により転送される音声を取得した場合に、当該音声が複数のタスクを含むジョブの実行指示であるか否かの認識処理を行う音声認識手段と、
    を備え
    前記情報処理端末及び前記情報処理装置のうち少なくとも一方は、
    前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち前記情報処理装置で実行可能なタスク及びその実行順を判断する第1の判断手段と、
    前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち前記情報処理端末で実行可能なタスク及びその実行順を判断する第2の判断手段と、
    前記第1及び第2の判断手段の判断結果を用いて、前記複数のタスクの実行順を決定するとともに、前記複数のタスク各々の実行主体を前記情報処理端末及び前記情報処理装置のいずれか一方に決定する決定手段と、
    を更に備え、
    前記情報処理端末及び前記情報処理装置は、前記決定手段の決定内容を共有し、該決定内容に基づいて前記各タスクを実行することを特徴とする情報処理システム。
  2. 前記情報処理装置は、前記装置側音声入力モード設定手段により当該情報処理装置が音声入力モードに設定されると、その旨の通知を前記情報処理端末に送信し、
    前記情報処理端末の前記端末側音声入力モード設定手段は、前記情報処理装置から前記通知を受信すると、当該情報処理端末を音声入力モードに設定するものである請求項1に記載の情報処理システム。
  3. 前記音声認識手段は、
    当該音声認識手段を有する機器で実行可能なタスクに関連するキーワードを予め記憶するキーワード記憶手段と、
    前記キーワード記憶手段に記憶されているキーワードを用いて、前記音声が示すジョブに含まれるタスクの認識処理を行う認識手段と
    を備え、
    前記第1の判断手段は、前記認識手段により認識されたタスクについて前記情報処理装置で実行可能か否かを判断し、
    前記第2の判断手段は、前記認識手段により認識されたタスクについて前記情報処理端末で実行可能か否かを判断する請求項1又は2に記載の情報処理システム。
  4. 前記決定手段は、前記情報処理端末及び前記情報処理装置が共に実行可能であるタスクが存在するとき、そのタスクの実行主体を、当該タスクより1つ前のタスクの実行主体と同一とする請求項1乃至3のいずれかに記載の情報処理システム。
  5. 前記情報処理端末及び前記情報処理装置は、前記決定手段の決定事項に基づき前記タスクを実行していく過程で、次に実行すべきタスクの実行主体が自機に設定されていないときには、前記次に実行すべきタスクの識別情報と、該タスクの処理対象であるデータとを相手機に送信する請求項1乃至4のいずれか一項に記載の情報処理システム。
  6. 情報処理端末と通信可能であり、記情報処理端末による遠隔操作を受け得る情報処理装置であって、
    前記情報処理端末から、音声を取り込む音声入力モードの設定指示を示すメッセージを受信するメッセージ受信手段と、
    前記メッセージ受信手段により前記メッセージが受信されると、当該情報処理装置を音声入力モードに設定する装置側音声入力モード設定手段と、
    前記音声入力モード中に取得した音声が複数のタスクを含むジョブの実行指示であるか否かの認識処理を行う音声認識手段と
    前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち当該情報処理装置で実行可能なタスク及びその実行順を判断する第1の判断手段と、
    前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち前記情報処理端末で実行可能なタスク及びその実行順を判断する第2の判断手段と、
    前記第1及び第2の判断手段の判断結果を用いて、前記複数のタスクの実行順を決定するとともに、前記複数のタスク各々の実行主体を当該情報処理装置及び前記情報処理端末のいずれか一方に決定する決定手段と、
    前記決定手段の決定内容を前記情報処理端末と共有し、前記情報処理端末と連携して前記複数のタスクを順に実行する実行手段と、
    を備えることを特徴とする情報処理装置。
  7. 音声を取り込む音声入力モードを有する情報処理装置と通信可能であり、記情報処理装置を遠隔操作可能な情報処理端末であって、
    当該情報処理端末を、音声を取り込む音声入力モードに設定させる指示を入力するための入力手段と、
    前記入力手段により前記入力が行われると、前記音声入力モードの設定指示を示すメッセージを前記情報処理装置に送信するメッセージ送信手段と、
    前記入力手段により前記入力が行われると、当該情報処理端末を前記音声入力モードに設定する端末側音声入力モード設定手段と、
    前記情報処理装置との通信接続が確立している状態で当該情報処理端末及び前記情報処理装置が前記音声入力モードに設定されているときに、外部から音声が入力されると、取り込んだ音声を前記情報処理装置に転送可能な転送手段と
    前記音声入力モード中に取得した音声が複数のタスクを含むジョブの実行指示であるか否かの認識処理を行う音声認識手段と、
    前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち前記情報処理装置で実行可能なタスク及びその実行順を判断する第1の判断手段と、
    前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち当該情報処理端末で実行可能なタスク及びその実行順を判断する第2の判断手段と、
    前記第1及び第2の判断手段の判断結果を用いて、前記複数のタスクの実行順を決定するとともに、前記複数のタスク各々の実行主体を当該情報処理装置及び前記情報処理端末のいずれか一方に決定する決定手段と、
    前記決定手段の決定内容を前記情報処理装置と共有し、前記情報処理装置と連携して前記複数のタスクを順に実行する実行手段と、
    を備える情報処理端末。
  8. 情報処理端末と通信可能であり、前記情報処理端末による遠隔操作を受け得る情報処理装置を動作させるプログラムであって、
    前記情報処理装置を、
    前記情報処理端末から、音声を取り込む音声入力モードの設定指示を示すメッセージを受信するメッセージ受信手段と、
    前記メッセージ受信手段により前記メッセージが受信されると、当該情報処理装置を音声入力モードに設定する装置側音声入力モード設定手段と、
    前記音声入力モード中に取得した音声が複数のタスクを含むジョブの実行指示であるか否かの認識処理を行う音声認識手段と
    前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち当該情報処理装置で実行可能なタスク及びその実行順を判断する第1の判断手段と、
    前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち前記情報処理端末で実行可能なタスク及びその実行順を判断する第2の判断手段と、
    前記第1及び第2の判断手段の判断結果を用いて、前記複数のタスクの実行順を決定するとともに、前記複数のタスク各々の実行主体を当該情報処理装置及び前記情報処理端末のいずれか一方に決定する決定手段と、
    前記決定手段の決定内容を前記情報処理端末と共有し、前記情報処理端末と連携して前記複数のタスクを順に実行する実行手段、
    として機能させることを特徴とするプログラム。
  9. 音声を取り込む音声入力モードを有する情報処理装置と通信可能であり、前記情報処理装置を遠隔操作可能な情報処理端末を動作させるプログラムであって、
    前記情報処理端末を、
    当該情報処理端末を、音声を取り込む音声入力モードに設定させる指示を入力するための入力手段と、
    前記入力手段により前記入力が行われると、前記音声入力モードの設定指示を示すメッセージを前記情報処理装置に送信するメッセージ送信手段と、
    前記入力手段により前記入力が行われると、当該情報処理端末を前記音声入力モードに設定する端末側音声入力モード設定手段と、
    前記情報処理装置との通信接続が確立している状態で当該情報処理端末及び前記情報処理装置が前記音声入力モードに設定されているときに、外部から音声が入力されると、取り込んだ音声を前記情報処理装置に転送可能な転送手段と、
    前記音声入力モード中に取得した音声が複数のタスクを含むジョブの実行指示であるか否かの認識処理を行う音声認識手段と、
    前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち前記情報処理装置で実行可能なタスク及びその実行順を判断する第1の判断手段と、
    前記音声認識手段により解析された音声が、複数のタスクを含むジョブの実行指示であるとき、前記複数のタスクのうち当該情報処理端末で実行可能なタスク及びその実行順を判断する第2の判断手段と、
    前記第1及び第2の判断手段の判断結果を用いて、前記複数のタスクの実行順を決定するとともに、前記複数のタスク各々の実行主体を当該情報処理装置及び前記情報処理端末のいずれか一方に決定する決定手段と、
    前記決定手段の決定内容を前記情報処理装置と共有し、前記情報処理装置と連携して前記複数のタスクを順に実行する実行手段と、
    として機能させるプログラム。
JP2013013833A 2013-01-29 2013-01-29 情報処理システム、情報処理装置、情報処理端末及びプログラム Active JP6115152B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013013833A JP6115152B2 (ja) 2013-01-29 2013-01-29 情報処理システム、情報処理装置、情報処理端末及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013013833A JP6115152B2 (ja) 2013-01-29 2013-01-29 情報処理システム、情報処理装置、情報処理端末及びプログラム

Publications (2)

Publication Number Publication Date
JP2014146940A JP2014146940A (ja) 2014-08-14
JP6115152B2 true JP6115152B2 (ja) 2017-04-19

Family

ID=51426865

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013013833A Active JP6115152B2 (ja) 2013-01-29 2013-01-29 情報処理システム、情報処理装置、情報処理端末及びプログラム

Country Status (1)

Country Link
JP (1) JP6115152B2 (ja)

Families Citing this family (71)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
US8676904B2 (en) 2008-10-02 2014-03-18 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
US10255566B2 (en) 2011-06-03 2019-04-09 Apple Inc. Generating and processing task items that represent tasks to perform
US10417037B2 (en) 2012-05-15 2019-09-17 Apple Inc. Systems and methods for integrating third party services with a digital assistant
BR112015018905B1 (pt) 2013-02-07 2022-02-22 Apple Inc Método de operação de recurso de ativação por voz, mídia de armazenamento legível por computador e dispositivo eletrônico
US10652394B2 (en) 2013-03-14 2020-05-12 Apple Inc. System and method for processing voicemail
US10748529B1 (en) 2013-03-15 2020-08-18 Apple Inc. Voice activated device for use with a voice-based digital assistant
US10176167B2 (en) 2013-06-09 2019-01-08 Apple Inc. System and method for inferring user intent from speech inputs
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
CN106471570B (zh) 2014-05-30 2019-10-01 苹果公司 多命令单一话语输入方法
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US10460227B2 (en) 2015-05-15 2019-10-29 Apple Inc. Virtual assistant in a communication session
US10200824B2 (en) 2015-05-27 2019-02-05 Apple Inc. Systems and methods for proactively identifying and surfacing relevant content on a touch-sensitive device
US20160378747A1 (en) 2015-06-29 2016-12-29 Apple Inc. Virtual assistant for media playback
JP6601043B2 (ja) * 2015-07-30 2019-11-06 井関農機株式会社 自動洗米炊飯機の運転制御システム
US10331312B2 (en) 2015-09-08 2019-06-25 Apple Inc. Intelligent automated assistant in a media environment
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US10740384B2 (en) 2015-09-08 2020-08-11 Apple Inc. Intelligent automated assistant for media search and playback
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10956666B2 (en) 2015-11-09 2021-03-23 Apple Inc. Unconventional virtual assistant interactions
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
JP2017123528A (ja) * 2016-01-05 2017-07-13 パナソニックIpマネジメント株式会社 制御方法、及び、情報処理システム
US10586535B2 (en) 2016-06-10 2020-03-10 Apple Inc. Intelligent digital assistant in a multi-tasking environment
DK179415B1 (en) 2016-06-11 2018-06-14 Apple Inc Intelligent device arbitration and control
DK201670540A1 (en) 2016-06-11 2018-01-08 Apple Inc Application integration with a digital assistant
US11204787B2 (en) 2017-01-09 2021-12-21 Apple Inc. Application integration with a digital assistant
US10726832B2 (en) 2017-05-11 2020-07-28 Apple Inc. Maintaining privacy of personal information
DK180048B1 (en) 2017-05-11 2020-02-04 Apple Inc. MAINTAINING THE DATA PROTECTION OF PERSONAL INFORMATION
DK201770427A1 (en) 2017-05-12 2018-12-20 Apple Inc. LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT
DK179496B1 (en) 2017-05-12 2019-01-15 Apple Inc. USER-SPECIFIC Acoustic Models
DK179745B1 (en) 2017-05-12 2019-05-01 Apple Inc. SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT
CN117130574A (zh) * 2017-05-16 2023-11-28 苹果公司 数字助理服务的远场延伸
US20180336892A1 (en) 2017-05-16 2018-11-22 Apple Inc. Detecting a trigger of a digital assistant
US20180336275A1 (en) 2017-05-16 2018-11-22 Apple Inc. Intelligent automated assistant for media exploration
DK179560B1 (en) 2017-05-16 2019-02-18 Apple Inc. FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES
US10818288B2 (en) 2018-03-26 2020-10-27 Apple Inc. Natural assistant interaction
JP2019186766A (ja) * 2018-04-11 2019-10-24 コニカミノルタ株式会社 画像処理装置、操作支援方法および操作支援プログラム
US10928918B2 (en) 2018-05-07 2021-02-23 Apple Inc. Raise to speak
US11145294B2 (en) 2018-05-07 2021-10-12 Apple Inc. Intelligent automated assistant for delivering content from user experiences
US10892996B2 (en) 2018-06-01 2021-01-12 Apple Inc. Variable latency device coordination
DK179822B1 (da) 2018-06-01 2019-07-12 Apple Inc. Voice interaction at a primary device to access call functionality of a companion device
DK180639B1 (en) 2018-06-01 2021-11-04 Apple Inc DISABILITY OF ATTENTION-ATTENTIVE VIRTUAL ASSISTANT
JP7182945B2 (ja) 2018-08-09 2022-12-05 キヤノン株式会社 画像形成システム、画像形成装置および画像形成装置の制御方法
KR20200027753A (ko) * 2018-09-05 2020-03-13 삼성전자주식회사 전자 장치 및 단축 명령어에 대응하는 태스크 수행 방법
US11462215B2 (en) 2018-09-28 2022-10-04 Apple Inc. Multi-modal inputs for voice commands
US11475898B2 (en) 2018-10-26 2022-10-18 Apple Inc. Low-latency multi-speaker speech recognition
JP7314499B2 (ja) * 2018-11-09 2023-07-26 コニカミノルタ株式会社 情報処理システム、情報処理装置、ジョブ制御方法およびジョブ制御プログラム
JP7139937B2 (ja) * 2018-12-25 2022-09-21 コニカミノルタ株式会社 音声処理システム、ジョブ生成装置、ジョブ生成方法およびジョブ生成プログラム
JP7124729B2 (ja) * 2019-01-29 2022-08-24 コニカミノルタ株式会社 画像形成システム、及び、画像形成装置
US11348573B2 (en) 2019-03-18 2022-05-31 Apple Inc. Multimodality in digital assistant systems
US11475884B2 (en) 2019-05-06 2022-10-18 Apple Inc. Reducing digital assistant latency when a language is incorrectly determined
US11423908B2 (en) 2019-05-06 2022-08-23 Apple Inc. Interpreting spoken requests
US11307752B2 (en) 2019-05-06 2022-04-19 Apple Inc. User configurable task triggers
DK201970509A1 (en) 2019-05-06 2021-01-15 Apple Inc Spoken notifications
US11140099B2 (en) 2019-05-21 2021-10-05 Apple Inc. Providing message response suggestions
US11289073B2 (en) 2019-05-31 2022-03-29 Apple Inc. Device text to speech
DK201970511A1 (en) 2019-05-31 2021-02-15 Apple Inc Voice identification in digital assistant systems
DK180129B1 (en) 2019-05-31 2020-06-02 Apple Inc. USER ACTIVITY SHORTCUT SUGGESTIONS
US11496600B2 (en) 2019-05-31 2022-11-08 Apple Inc. Remote execution of machine-learned models
US11360641B2 (en) 2019-06-01 2022-06-14 Apple Inc. Increasing the relevance of new available information
US11227599B2 (en) 2019-06-01 2022-01-18 Apple Inc. Methods and user interfaces for voice-based control of electronic devices
US11488406B2 (en) 2019-09-25 2022-11-01 Apple Inc. Text detection using global geometry estimators
US11061543B1 (en) 2020-05-11 2021-07-13 Apple Inc. Providing relevant data items based on context
US11038934B1 (en) 2020-05-11 2021-06-15 Apple Inc. Digital assistant hardware abstraction
US11755276B2 (en) 2020-05-12 2023-09-12 Apple Inc. Reducing description length based on confidence
US11490204B2 (en) 2020-07-20 2022-11-01 Apple Inc. Multi-device audio adjustment coordination
US11438683B2 (en) 2020-07-21 2022-09-06 Apple Inc. User identification using headphones

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63171071A (ja) * 1987-01-08 1988-07-14 Matsushita Commun Ind Co Ltd 音声制御装置
JP2000029848A (ja) * 1998-07-10 2000-01-28 Matsushita Electric Ind Co Ltd 協調ネットワークシステム
KR100552468B1 (ko) * 2001-07-19 2006-02-15 삼성전자주식회사 음성인식에 따른 오동작을 방지 및 음성인식율을 향상 할수 있는 전자기기 및 방법
JP3797204B2 (ja) * 2001-11-16 2006-07-12 株式会社デンソー カーナビゲーション装置
JP4466572B2 (ja) * 2006-01-16 2010-05-26 コニカミノルタビジネステクノロジーズ株式会社 画像形成装置、音声コマンド実行プログラムおよび音声コマンド実行方法
JP2011118822A (ja) * 2009-12-07 2011-06-16 Nec Casio Mobile Communications Ltd 電子機器、発話検出装置、音声認識操作システム、音声認識操作方法及びプログラム

Also Published As

Publication number Publication date
JP2014146940A (ja) 2014-08-14

Similar Documents

Publication Publication Date Title
JP6115152B2 (ja) 情報処理システム、情報処理装置、情報処理端末及びプログラム
US11048458B2 (en) Communication apparatus and a control method relating communication with a target apparatus by using wireless communication method
US20200014815A1 (en) Image processing apparatus having connection information transmission, method of controlling the same, and storage medium.
JP5708589B2 (ja) 画像処理連携システム、画像処理連携方法、携帯端末装置、画像処理装置及び連携プログラム
JP6562660B2 (ja) 通信装置及びその制御方法と、プログラム
JP5811876B2 (ja) 画像処理システム、画像処理装置、画像処理装置連携方法、および画像処理装置連携プログラム
JP6171511B2 (ja) 制御装置、画像形成装置、携帯端末装置、制御方法、および制御プログラム
WO2013094500A1 (ja) 画像処理システム、画像受信装置、画像処理装置、及び画像処理方法
JP6163997B2 (ja) 画像処理システム、画像処理装置及び制御プログラム
JP6060776B2 (ja) 画像処理装置、情報端末、プログラム及び連携表示システム
JP6265192B2 (ja) 通信装置、通信システムおよびアプリケーションプログラム
JP2013159107A (ja) 印刷装置、管理装置、管理方法、および管理プログラム
JP2013180480A (ja) 操作パネルおよび情報処理装置
JP6172074B2 (ja) プリントシステム、プリントサーバー、プリント制御方法およびプリント制御プログラム
JP6746426B2 (ja) 情報処理装置、情報処理装置の制御方法及びプログラム
JP2018195263A (ja) 通信端末、通信端末の制御方法及びプログラム
JP6991740B2 (ja) 通信端末、通信端末の制御方法及びプログラム
US10341525B2 (en) Image forming system, communication terminal, and non-transitory computer-readable storage medium
JP7077565B2 (ja) 制御プログラム、情報処理装置、及び、制御方法
JP6693167B2 (ja) 情報端末、画像処理システム、および、プログラム
JP2014096751A (ja) 情報処理装置およびプログラム
JP2017229034A (ja) 情報処理装置、画像処理装置及びプログラム
US20190364114A1 (en) Information processing apparatus, information processing system, and non-transitory computer readable medium
JP7301941B2 (ja) 通信端末、通信端末の制御方法及びプログラム
JP6852413B2 (ja) プログラム及び携帯端末

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150925

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160623

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160726

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160920

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170306

R150 Certificate of patent or registration of utility model

Ref document number: 6115152

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150