JP7211181B2 - 制御装置、画像形成システムおよびプログラム - Google Patents

制御装置、画像形成システムおよびプログラム Download PDF

Info

Publication number
JP7211181B2
JP7211181B2 JP2019048837A JP2019048837A JP7211181B2 JP 7211181 B2 JP7211181 B2 JP 7211181B2 JP 2019048837 A JP2019048837 A JP 2019048837A JP 2019048837 A JP2019048837 A JP 2019048837A JP 7211181 B2 JP7211181 B2 JP 7211181B2
Authority
JP
Japan
Prior art keywords
voice
output
content
processing
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019048837A
Other languages
English (en)
Other versions
JP2020149602A (ja
Inventor
美奈子 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2019048837A priority Critical patent/JP7211181B2/ja
Priority to US16/800,147 priority patent/US11122172B2/en
Priority to CN202010161879.3A priority patent/CN111698378B/zh
Publication of JP2020149602A publication Critical patent/JP2020149602A/ja
Application granted granted Critical
Publication of JP7211181B2 publication Critical patent/JP7211181B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00405Output means
    • H04N1/00408Display of information to the user, e.g. menus
    • H04N1/00411Display of information to the user, e.g. menus the display also being used for user input, e.g. touch screen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00885Power supply means, e.g. arrangements for the control of power supply to the apparatus or components thereof
    • H04N1/00888Control thereof
    • H04N1/00896Control thereof using a low-power mode, e.g. standby
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/26Speech to text systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00352Input means
    • H04N1/00395Arrangements for reducing operator input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00352Input means
    • H04N1/00403Voice input means, e.g. voice commands
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00885Power supply means, e.g. arrangements for the control of power supply to the apparatus or components thereof
    • H04N1/00888Control thereof
    • H04N1/00891Switching on or off, e.g. for saving power when not in use
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Facsimiles In General (AREA)
  • Accessory Devices And Overall Control Thereof (AREA)

Description

本発明は、画像形成装置に音声指示するための制御装置、画像形成システムおよびプログラムに関し、特に、画像形成装置に音声指示する際のユーザーの待ち時間の延長を抑制する技術に関する。
近年、スマートスピーカーおよびIoT機器の普及が進んだことから、スマートスピーカーを用いて音声操作することができる機器が増加しつつあり、画像形成装置に関してもこのような音声操作に対応することによってユーザーの利便性を向上させることが期待されている。具体的には、音声入力をマイクで受け付けて音声データを生成し、当該音声データを音声認識によってテキストデータに変換し、当該テキストデータを自然言語解析することによって、指示内容を特定する。更に、当該指示内容を画像形成装置に対するコマンドに変換して画像形成装置に入力することによって音声指示が実行される。
画像形成装置のジョブには多数の設定項目があり、ジョブの実行直前やユーザー設定時など、ジョブの実行に先立って設定内容をユーザー確認できるのが望ましい。これは手動設定の時のみならず、音声設定を行う場合も同様である。ジョブの設定内容を確認する際には、ユーザーによる設定漏れの可能性を考慮して、ユーザーが設定しなかった項目についても確認を行う場合もある。
このため、画像形成装置が音声出力によって設定内容を確認しようとすると、かなりの時間を要することになる。確認音声を聞き漏らしたために、聞き直そうとすれば尚更である。このような観点からすれば、操作パネルに設定内容を一覧表示することによってユーザー確認させるのが効率的であると言える。
このように、ユーザーから音声で受けた指示を実行する前にその指示内容をユーザーに確認する際に、音声で確認するより、操作パネルに指示内容を表示して確認する方が効率的な場合がある。
しかしながら、画像形成装置が省電力モードになる等して操作パネルがオフしている状態や、他のユーザーが操作パネルを使用している状態では、指示内容(上述の例ではジョブの設定内容の一覧)を表示してユーザー確認させることができない。
省電力モードにより操作パネルがオフになっている場合に対して、例えば、音声コマンドの内容を精査して、画像形成装置をスリープ状態から要求された機能が利用できる程度まで復帰させたり(特許文献1を参照)、要求された機能を有する場合のみ画像形成装置を復帰させたりする技術が提案されている(特許文献2を参照)。このようにすれば、操作パネルを動作可能な状態まで復帰させるので、指示内容を表示してユーザー確認させることができるようになる。
特開2015-041123号公報 特開2007-021808号公報
しかしながら、上記の従来技術においては、操作パネルが動作可能な状態に復帰するまで、指示内容を表示することができないので、ユーザー確認を開始するまで時間がかかり過ぎてしまう、という問題がある。
また、他のユーザーが操作パネルを使用している状態の場合についても、操作パネルが使用できるようになるまで待たなければならない、という問題がある。
本発明は、上述のような問題に鑑みて為されたものであって、音声指示した処理内容を、操作パネルの動作状態に応じて効率的に確認することができる制御装置、画像形成システムおよびプログラムを提供することを目的とする。
上記目的を達成するため、本発明の一形態に係る制御装置は、音声により指示された処理内容に基づいて、画像形成装置に当該処理を実行させる制御装置であって、前記処理を実行する前に前記処理内容を、前記画像形成装置の表示装置に表示させる手段と、前記表示装置の動作状態を取得する動作状態取得手段と、取得した前記表示装置の動作状態に応じて、前記処理内容の確認を促すために出力すべき音声の内容を決定する決定手段と、を備えることを特徴とする。
この場合において、前記動作状態は、前記表示装置の少なくとも一部の電源がOFFであるスリープモードか否かの動作状態を含むのが望ましい。
また、前記スリープモードには、前記処理内容を前記表示装置に表示させることが可能となるまでの時間が第1の所定時間である第1段階のスリープモードと、当該表示が可能となるまでの時間が前記第1の所定時間よりも長い第2の所定時間である第2段階のスリープモードと、があり、前記動作状態取得手段は、前記スリープモードが前記第1段階と前記第2段階とのいずれであるかを取得し、前記決定手段は、前記動作状態取得手段により取得された前記スリープモードが前記第1段階と前記第2段階とのいずれであるかに基づいて出力すべき音声の内容を決定してもよい。
また、前記動作状態取得手段にて取得した動作状態から、前記表示装置による表示が可能になるまでの立ち上がり時間を推定する推定手段を備え、前記決定手段は、前記立ち上がり時間に応じて、前記音声内容を決定してもよい。
また、前記決定手段は、前記立ち上がり時間が、所定の項目を音声出力するのに要する出力時間よりも長い場合には、当該所定の項目すべてを含むように前記音声内容を決定し、前記立ち上がり時間が前記出力時間よりも短い場合には、前記所定の項目のうち少なくとも一部の項目を除いた項目からなるように前記音声内容を決定してもよい。
また、前記立ち上がり時間から、前記決定手段が決定した前記音声内容を音声出力するのに要する出力時間を差し引いた余剰時間に応じて、前記音声内容以外の追加内容を決定する音声追加手段を備えてもよい。
また、前記表示装置は、前記処理内容を音声入力したユーザー以外のユーザーが前記表示装置を使用しているか否かを判定する使用状態判定手段と、前記決定手段が前記音声内容を決定した後、前記使用状態判定手段の判定結果が否定的になるまでは、当該音声内容を音声出力し、前記使用状態判定手段の判定結果が否定的になったら、当該音声出力を停止させる音声出力制御手段と、を備えてもよい。
また、前記決定手段が決定する音声内容は複数の部分に区分されており、前記音声出力制御手段は、前記使用状態判定手段の判定結果が否定的になったときに出力中の部分の音声出力が完了した時点で、前記音声出力を停止させてもよい。
また、前記音声出力制御手段は、前記使用状態判定手段の判定結果が否定的になったときに、前記決定手段が決定した音声内容のうち未出力部分の出力時間が所定時間よりも短い場合には、前記音声出力を停止させないのが望ましい。
また、前記音声出力制御手段が、前記音声出力を停止させない場合に、前記表示装置に前記処理内容を表示するのを禁止する禁止手段を備えてもよい。
また、前記音声出力制御手段が、前記音声出力を停止させない場合に、前記表示装置に前記処理内容を表示させるか否かを、前記音声入力したユーザーに確認する確認手段を備え、前記確認手段による確認結果が肯定的である場合には、前記処理内容を表示させるのが好適である。
また、前記確認結果が否定的である場合には、前記音声入力したユーザーが前記処理の開始を指示するのを待たずに、前記画像形成装置に当該処理を開始させる処理開始手段を備えてもよい。
また、前記停止後、前記表示装置に前記処理内容が表示される場合には、その旨を音声出力する表示通知手段を備えてもよい。
また、本発明の一形態に係る画像形成システムは、画像形成装置と、本発明の一形態に係る制御装置と、を備えることを特徴とする。
また、本発明の一形態に係るプログラムは、音声により指示された処理内容に基づいて、画像形成装置に当該処理を実行させる制御をコンピューターに実行させるプログラムであって、前記処理を実行する前に前記処理内容を、前記画像形成装置の表示装置に表示させるステップと、前記表示装置の動作状態を取得する動作状態取得ステップと、取得した前記表示装置の動作状態に応じて、前記処理内容の確認を促すために出力すべき音声の内容を決定する決定ステップと、をコンピューターに実行させることを特徴とする。
このようにすれば、音声指示した処理内容を、操作パネルの動作状態に応じて効率的に確認することができる。
画像形成システムの主要な構成を示す図である。 画像形成システムの動作を例示するシーケンス図である。 スマートスピーカー111の主要な構成を示すブロック図である。 音声AIサーバー102の主要な構成を示すブロック図である。 MFP制御サーバー101の主要な構成を示すブロック図である。 複合機112の主要な構成を示す外観斜視図である。 複合機112の主要な構成を示すブロック図である。 MFP制御サーバー101の主要な動作を示すフローチャートである。 MFP制御サーバー101が実行する設定内容確認処理を示すフローチャートである。 MFP制御サーバー101が実行する立ち上がり中処理を示すフローチャートである。 MFP制御サーバー101が実行するパネル操作中処理を示すフローチャートである。
以下、本発明に係る制御装置、画像形成システムおよびプログラムの実施の形態について、図面を参照しながら説明する。
[1]画像形成システムの構成
まず、本実施の形態に係る画像形成システムの構成について説明する。
図1に示すように、画像形成システム1は、クラウドシステム100とユーザーシステム110とからなっている。ユーザーシステム110は、スマートスピーカー(SS: Smart Speaker)111と複合機(MFP: Multi-Function Peripheral)112とをLAN(Local Area Network)113に接続したものである。
また、クラウドシステム100は、MFP制御サーバー101と音声AI(Artificial Intelligence)サーバー102との2つのクラウドサーバーをインターネット103に接続したものである。インターネット103にはLAN113もまた接続されている。スマートスピーカー111、音声AIサーバー102およびMFP制御サーバー101は、ユーザーが複合機112に音声指示するための音声インターフェイス装置を構成する。
図2に示すように、複合機112のユーザーが、スマートスピーカー111に対して、例えば、「コピーして」との指示を音声入力すると、スマートスピーカー111は、音声信号から音声データを生成し、LAN113とインターネット103を経由して、当該音声データを音声AIサーバー102へ送信する。
音声AIサーバー102は、音声認識処理によって、音声データからテキストデータを生成し、更に、当該テキストデータを自然言語解析処理によって、複合機112に対する指示内容を抽出する。音声AIサーバー102は、公知のAI技術を用いて、音声認識処理および自然言語解析処理を実行してもよいし、AI技術以外の技術を用いてもよい。音声AIサーバー102は、抽出した指示内容をMFP制御サーバー101へ送信する。
MFP制御サーバー101は、複合機112を制御する制御装置であって、音声AIサーバー102から指示内容を受信すると、当該指示内容に対応するコマンドを生成し、当該音声指示を受け付けたスマートスピーカー111に対応付けられている複合機112へ当該コマンドを送信する。コマンドは、例えば、スキャンジョブやプリントジョブ等のジョブを実行させる指示や、ジョブの設定内容を変更する指示などである。また、MFP制御サーバー101は、複合機112の動作状態を監視しており、複合機112の動作状態に応じた応答テキスト(テキストデータ)を音声AIサーバー102へ送信する。
音声AIサーバー102は、MFP制御サーバー101から応答テキストを受信すると、音声合成処理によって当該応答テキストから音声データを合成し、当該音声データをスマートスピーカー111へストリーミング方式で送信する。スマートスピーカー111は、受信した音声データを順次、音声出力する。
[2]スマートスピーカー111の構成
次に、スマートスピーカー111の構成について説明する。
図3に示すように、スマートスピーカー111は、音声処理部301と通信制御部302とを備えており、音声処理部301にはマイク311とスピーカー
312が接続されている。
音声処理部301は、マイク311を用いて集音したアナログ音声信号をAD(Analogue to Digital)変換し、更に圧縮符号化した音声データを生成したり、通信制御部302から受け付けた音声データからアナログ音声信号を復元して、スピーカー312に音声出力させたりする。通信制御部302は、インターネット103を経由して音声AIサーバー102と音声データ等の送受信を行うための通信処理を実行する。
[3]音声AIサーバー102の構成
次に、音声AIサーバー102の構成について説明する。
図4に示すように、音声AIサーバー102は、CPU(Central Processing Unit)400やROM(Read Only Memory)401、RAM(Random Access Memory)402等を備えており、CPU400はリセット後にROM401からブートプログラムを読み出して起動し、RAM402を作業用記憶領域として、HDD(Hard Disk Drive)403からOS(Operating System)その他のプログラムを読み出して実行する。
NIC(Network Interface Card)404は、インターネット103を経由してスマートスピーカー111やMFP制御サーバー101と相互接続するための通信処理を実行する。
音声処理部405は、スマートスピーカー111から受け付けた音声データの音声認識処理や、スマートスピーカー111へ送信する音声データの音声合成処理を実行する。
言語処理部406は、音声処理部405が生成したテキストデータの自然言語解析処理を実行する。これによって、例えば、ユーザーがスマートスピーカー111に向かって特定のキーワードを発声すると、音声AIサーバー102が当該キーワードを識別して音声指示受付モードに遷移し、その後に続くユーザーの音声指示を認識して、当該指示内容を特定する。
[4]MFP制御サーバー101の構成
次に、MFP制御サーバー101の構成について説明する。
図5に示すように、MFP制御サーバー101は、CPU500やROM501、RAM502等を備えており、CPU500はリセット後にROM501からブートプログラムを読み出して起動し、RAM502を作業用記憶領域として、HDD503からOS等のプログラムを読み出して実行する。NIC504は、インターネット103を経由して音声AIサーバー102や複合機112と相互接続するための通信処理を実行する。
このような構成を備えることによって、応答テキストを生成して、音声AIサーバー102へ送信したり、コマンドを生成して、複合機112へ送信したりすることができる。
[5]複合機112の構成
次に、複合機112の構成について説明する。複合機112はモノクロおよびカラーの画像形成機能、複写機能、ファクシミリ機能などの機能を兼ね備えた画像形成装置である。
図6に示すように、複合機112は、画像読み取り部610、画像形成部620および給紙部630を備えている。画像読み取り部610は、原稿トレイ611にセットされた原稿束から、自動原稿搬送装置(ADF: Automatic Document Feeder)612を用いて、1枚ずつ原稿を送り出して、所謂シートスルー方式で当該原稿を読み取った後、当該原稿を排紙トレイ613へ排出する。このようにして、画像データが生成される。
画像形成部620は、トナー像を形成して記録シートに転写する作像部やトナー像を記録シートに熱定着する定着部を有しており、画像読み取り部610が生成した画像データやLAN113やインターネット103を経由して受信した画像データを用いて画像形成処理を実行する。給紙部630は、記録シートを収容しており、画像形成部620がトナー像を形成するのに並行して記録シートを供給する。トナー像を熱定着された記録シートは、複合機112の胴内空間に設けられた排紙トレイ621へ排出される。
画像形成部620は、操作パネル600を備えており、複合機112のユーザーに対して情報を提示したり、ユーザーから指示入力を受け付けたりする。また、画像形成部620は、不図示の制御部622を備えており、制御部622は複合機112の動作を制御する。
図7に示すように、制御部622は、CPU700やROM701、RAM702等を備えており、CPU700はリセット後にROM701からブートプログラムを読み出して起動し、RAM702を作業用記憶領域として、HDD703からOS等のプログラムを読み出して実行する。NIC704は、インターネット103を経由して音声AIサーバー102や複合機112と相互接続するための通信処理を実行する。
このような構成を備えることによって、制御部622は、画像読み取り部610、画像形成部620および給紙部630の動作を制御する。特に、操作パネル600は、液晶ディスプレイ(Liquid Crystal Display)601、タッチパッド602、ハードキー603およびパネル制御部604を備えており、液晶ディスプレイ601とタッチパッド602とはタッチパネルを構成している。パネル制御部604は、タッチパッド603、ハードキー603の操作の検知、及び液晶ディスプレイ601での表示の制御を行う。
また、ハードキー603は複数のキーからなっており、そのうちにはスタートキーが含まれている。複合機112のユーザーはスタートキーを押下することによってジョブの実行開始を指示することができる。
複合機112は、ジョブの実行を完了した後、次に実行すべきジョブが無い場合にはジョブ実行モードから待機モードに遷移する。更に、待機モードに遷移してから、次に実行すべきジョブを受け付けないまま、所定の時間を経過した場合には、第1段階のスリープモードに遷移する。第1段階のスリープモードでは、例えば、定着装置の温度調整を停止させることによって、消費電力量を低減させるとともに、液晶ディスプレイ601のバックライトを消灯する。
複合機112は、第1段階のスリープモードに遷移してから、次に実行すべきジョブを受け付けないまま、更に所定の時間を経過した場合には、第2段階のスリープモードに遷移する。第2段階のスリープモードは第1段階のスリープモードよりも更に消費電力量を低減させたスリープモードであって、例えば、操作パネル600を制御するためのパネル制御部604もまた省電力状態にする。
このため、複合機112が、第1段階のスリープモードから、操作パネル600を使用することができる状態まで復帰するのにはあまり時間がかからないが(例えば、5秒)、第2段階のスリープモードから、操作パネル600を使用することができる状態まで復帰するのには時間がかかる(例えば、1分)。
複合機112は、第1段階のスリープモードおよび第2段階のスリープモードにある状態で、ジョブの設定内容を表示せよとのコマンドをMFP制御サーバー101から受け付けると、スリープモードから待機モードに復帰するようになっている。このため、複合機112が第1段階のスリープモードおよび第2段階のスリープモードのいずれの状態であっても、MFP制御サーバー101は複合機112に対して、ジョブの設定内容を表示せよとのコマンドを送信して、当該表示を実行させることができる。
ジョブの設定内容を表示せよとのコマンド以外のコマンドについても同様に、複合機112は第1段階のスリープモードおよび第2段階のスリープモードのいずれの状態であっても、MFP制御サーバー101からコマンドを受け付けて、当該コマンドに応じた処理を実行することができる。
[6]画像形成システム1の動作
次に、画像形成システム1の動作について、MFP制御サーバー101の動作を中心として説明する。
(6-1)メインルーチン
図8に示すように、MFP制御サーバー101は、音声AIサーバー102から音声指示のテキストデータを受信すると(S801:YES)、その指示がジョブの設定指示かどうか判別する(S802)。ジョブの設定指示である場合(S802:YES)、MFP制御サーバー101内に当該ジョブ設定を記録する(S811)。具体的には、MFP制御サーバー101には、予め、当該ジョブ(コピージョブやスキャンジョブ等)に関して、当該ジョブの設定項目それぞれにデフォルトの設定値が記憶されており、その記憶された設定値を指示された設定値に変更する。その後、同様に設定指示を受信すると、都度、指示に従って設定項目の設定値を変更する。
ステップS802において、ジョブの設定指示ではないと判断した場合(S802:NO)、ジョブの実行指示かどうか判断する(S803)。ジョブの実行指示であると判断した場合(S803:YES)、当該ジョブの実行に先立って、ジョブの設定内容の確認処理を実行する(S804)。この処理は、ユーザーにジョブの設定内容を提示し、その設定内容でよいかどうかを確認させる処理であり、具体的な処理内容は後述する。
一方、ステップS803において、ジョブの実行指示ではないと判断した場合(S803:NO)、ユーザー指示に応じてジョブ実行以外の処理を実行する(S822)。ジョブ実行以外の処理は、例えば、トナー残量の問い合わせに対して、残量を返答するなどの処理である。
ジョブの設定内容の確認処理(S804)を実行した後、スマートスピーカー111を介して、ユーザーが当該設定内容で問題ない旨の返事をして、その旨のテキストデータを音声AIサーバー102から受信すると(S805:OK)、複合機112に当該ジョブの実行を指示するコマンドを送信する(S806)。スマートスピーカー111を介して、ユーザーが設定内容に問題があると返事をした場合は、その旨のテキストデータが音声AIサーバー102からMFP制御サーバー101に送信されてくる。この場合(S805:NG)、ステップS801へ戻り、再度、ユーザー指示に従ってジョブ設定等の処理が実行される。
(6-2)設定内容確認処理(S804)
図9は、ステップS804の設定内容確認処理の具体的な処理内容を示すフローチャートである。MFP制御サーバー101は、まず、複合機112の操作パネル600の動作状態を参照する(S901)。すなわち、設定内容を液晶ディスプレイ601に表示することができる状態、スリープ状態、および他人が使用している状態(以下、「パネル操作中」という。)のいずれであるかを参照する。スリープ状態については、上述のように、第1段階のスリープモードで液晶ディスプレイ601のバックライトを消灯した状態となり、更に、第2段階のスリープモードで制御部622以外(パネル制御部604を含む)の電源をオフした状態の順に深くなり、操作パネル600が表示可能になるまでの時間が長くなる。
MFP制御サーバー101は操作パネル600の動作状態を常時監視している。例えば、複合機112が、動作状態を変更させるたびにMFP制御サーバー101へ動作状態を通知し、MFP制御サーバー101は、その通知を受信すると、操作パネル600の動作状態を動作状態テーブルに記録する。ステップS901ではその動作状態テーブルを参照する。
操作パネル600の動作状態がスリープ状態である場合には(S902:YES)、立ち上がり中処理を実行し(S911)、立ち上がり中処理が完了したら、メインルーチンに復帰する。
操作パネル600の動作状態がスリープ状態ではなく(S902:NO)、パネル操作中である場合には(S903:YES)、パネル操作中処理を実行する(S912)。パネル操作中処理を完了したら、メインルーチンに復帰する。
操作パネル600の動作状態がパネル操作中でない場合には(S903:NO)、複合機112にジョブ設定内容を送信し(S904)、ジョブ設定内容を表示する旨のコマンドを送信する(S905)。複合機112は、このコマンドに従って、受信したジョブ設定内容を液晶ディスプレイ601に表示する。
本実施例では、音声により設定できる設定項目は、複合機の全機能のうち使用頻度の高い主要な設定項目(以下、「主要設定項目」ともいう。)に限定されており、ステップS904で送信されるジョブ設定内容、液晶ディスプレイ601に表示するジョブ設定内容は、その主要な設定項目すべての設定内容である。なお、デフォルトの設定値から変更された設定項目の設定内容のみ表示するようにしてもよい。
ステップS906では、操作パネル600に表示された設定内容の確認をユーザーに促す応答テキスト#0を音声AIサーバー102へ送信する。この応答テキスト#0は、例えば「操作パネルに表示された設定内容でよろしいでしょうか」等の「はい」か「いいえ」の返事になるような質問形式のテキストである。
(6-3)立ち上がり中処理(S911)
立ち上がり中処理(S911)においては、図10に示すように、まず、複合機112へ、ジョブ設定内容を送信し(S1001)、ジョブ設定内容を表示する旨のコマンドを送信する(S1002)。複合機112は、当該コマンドを受信するとスリープモードからの復帰処理を開始する。
次に、操作パネル600のスリープモードが第1段階のスリープモードであるか、第2段階のスリープモードであるかを判定して、第2段階のスリープモードである場合には(S1003:NO)、操作パネル600のスリープ状態の深さから立ち上がり時間T0を推定する(S1004)。上述のように、スリープ状態には、操作パネル600がジョブの設定内容を表示可能になるまでの時間が異なる第1段階のスリープモードと第2段階のスリープモードとがあるため、MFP制御サーバー101は、例えば、スリープ状態の深さ毎に立ち上がり時間T0を記憶したテーブルを参照することによって、立ち上がり時間T0を推定する。立ち上がり時間T0は複合機の機種によっても異なるため、テーブルには複合機の機種ごとに立ち上がり時間T0を記憶して起き、ステップS1004では、複合機112の機種に対応する立ち上がり時間T0を参照する。
次に、応答テキスト#1を生成する(S1005)。応答テキスト#1は、複合機112の液晶ディスプレイ601に表示するよう指示した主要設定内容を列挙したテキストである。例えば、コピー機能に対する前述の主要設定項目が、部数設定、カラー設定、原稿の片面/両面設定、印刷時の片面/両面設定、ページ集約設定、ステープル設定の場合、それらの設定内容(デフォルト設定またはユーザーにより変更された設定)を参照して、「部数1、フルカラー、片面読み込み、両面印刷、2in1、1点ステープルでコピーしますが、よろしいでしょうか。」のようなテキストを生成する。ここでも、「はい」か「いいえ」の返事になるような質問形式のテキストとする。
応答テキスト#1を生成したら、当該応答テキスト#1を音声出力するのに要する時間T1を推定する(S1006)。例えば、応答テキスト#1に含まれるシラブルの数Nsに適当な係数を乗算することによって音声出力時間T1を推定してもよい。
この応答テキスト#1の音声出力時間T1と、操作パネル600の立ち上がり時間T0とを比較して、立ち上がり時間T0よりも音声出力時間T1が短い場合には(S1007:YES)、応答テキスト#1を音声AIサーバー102へ送信する(S1023)。応答テキスト#1を受信すると、音声AIサーバー102は、音声処理部405にて応答テキスト#1から応答音声データを音声合成して、当該応答音声データをスマートスピーカー111へ送信する。スマートスピーカー111は、応答音声データを音声出力する。
このようにすれば、操作パネル600がスリープ状態から復帰するまでの間、ユーザーに何も情報が提供されないまま、操作パネル600が立ち上がってから、操作パネル600の表示を参照することによって、ユーザー所望の設定になっているかを確認する場合と比較して、操作パネル600がスリープ状態から復帰するまでの間に、ユーザー所望の設定になっているかどうかを音声によって知ることができるので、短時間で効率よく設定内容の確認ができる。そして、ユーザー所望の設定になっていれば、直ちにジョブの実行を開始させることができる。
また、ユーザー所望の設定になっていない場合には、その旨も操作パネル600が立ち上がるのに先立って、予めユーザーが知ることができるので、当該立ち上がり後に速やかに設定内容を訂正して、ジョブを実行させることができる。このような意味において、ユーザーにとって無駄な待ち時間が発生するのを抑制して、複合機112の円滑な利用を促進することができる。
応答テキスト#1の音声出力時間T1と、操作パネル600の立ち上がり時間T0とを比較して、音声出力時間T1が立ち上がり時間T0以上である場合には(S1007:NO)、応答テキスト#2を生成する(S1008)。応答テキスト#2は、応答テキスト#1よりも短いテキストであり、例えば、ユーザーの指示によりデフォルトの設定値から変更された設定内容のみを列挙したテキストである。また、ユーザーの指示によりデフォルトの設定値から変更された設定内容と、それ以外の設定項目の一部を含めてもよい。
応答テキスト#2を生成したら、当該応答テキスト#2を音声出力するのに要する時間T2を推定する(S1009)。この場合も、応答テキスト#2に含まれるシラブルの数Nsに適当な係数を乗算すれば、音声出力時間T2を推定することができる。
この音声出力時間T2と、立ち上がり時間T0とを比較して、音声出力時間T2が立ち上がり時間T0よりも短い場合には(S1010:YES)、立ち上がり時間T0から音声出力時間T2を差し引いた差分時間△Tを算出し(S1011)、当該差分時間△Tに等しい音声出力時間の付加テキストを生成する(S1012)。この場合は、例えば、差分時間△Tを適当な係数で除算することによって算出されるシラブル数Nsに等しい長さの付加テキストを生成すればよい。
付加テキストとしては、例えば、「今日は、夕方から雨のようです。傘はありますか?さて、」のようなテキストを生成してもよい。このようなテキストは予め用意されているものから、適当なシラブル数Nsのテキストを選択してもよい。応答テキスト#2に先立って、付加テキストを音声出力すれば、ユーザーの注意をスマートスピーカー111の出力音声から逸らすことなく、ユーザーの注意をスマートスピーカー111に引き付けた状態を維持したまま、複合機112の立ち上がりの直前に、応答テキスト#2を音声出力することができる。従って、複合機の立ち上がり後に、ユーザーが応答テキスト#2の内容を失念するのを防止することができるので、複合機112の円滑な利用を促進することができる。
生成した付加テキストは応答テキスト#2とともに音声AIサーバー102へ送信する(S1013)。これらのテキストを受信すると、音声AIサーバー102は、音声処理部405にて応答音声データを音声合成して、当該応答音声データをスマートスピーカー111へ送信する。スマートスピーカー111は、応答音声データを音声出力する。
このようにすれば、複合機112が立ち上がるまでの時間を利用して、ユーザーの音声指示が正しく音声認識されたか否かを判断することができるので、正しく音声認識されていないと判断された場合には、操作パネル600の立ち上がり後に、操作パネル600を操作することによって、速やかに設定違いを正すことができる。
応答テキスト#2の音声出力時間T2と、操作パネル600の立ち上がり時間T0とを比較して、音声出力時間T2が立ち上がり時間T0以上である場合には(S1010:NO)、立ち上がり時間T0が短いために、操作パネル600が立ち上がった後に表示される設定内容をユーザーに確認させても問題ない。後述の第1段階のスリープモードの場合(S1003:YES)と同様に、立ち上がり時間T0に合う付加テキストを生成して音声AIサーバー102へ送信し(S1024)、メインルーチンに復帰する。
複合機112のスリープ状態が第1段階のスリープモードである場合には(S1003:YES)、第1段階のスリープモードから立ち上がり時間T0(本実施の形態においては5秒)に等しい音声出力時間の付加テキストをステップS1012と同様にして生成し(S1021)、生成した付加テキストのみを音声AIサーバー102へ送信する(S1022)。音声AIサーバー102は、付加テキストを受信すると、音声処理部405にて応答音声データを音声合成して、当該応答音声データをスマートスピーカー111へ送信し、音声出力させる。
第1段階のスリープモードでは、立ち上がり時間T0が短く、従ってユーザーの待ち時間が短いので、操作パネル600が立ち上がった後に表示される設定内容をユーザーに確認させても問題はないため、ジョブの設定内容の読み上げは行わない。また、付加テキストを読み上げれば、画像形成システム1が正常に動作していることがユーザーに分かり易くなる。なお、付加テキストの長さは0であってもよい。すなわち、必要に応じて音声出力を取り止めてもよい。応答テキスト#1、#2についても同様である。
(6-4)パネル操作中処理(S912)
パネル操作中処理(S912)においては、図11に示すように、まず、応答テキスト#1を生成する(S1101)。応答テキスト#1は、立ち上がり中処理(S911)と同様に、複合機112の液晶ディスプレイ601に表示するよう指示した主要設定内容を列挙したテキストである。応答テキスト#1を生成したら、当該応答テキスト#1を音声AIサーバー102へ送信する(S1102)。応答テキスト#1を受信すると、音声AIサーバー102は、音声処理部405にて応答テキスト#1から応答音声データを音声合成して、当該応答音声データをスマートスピーカー111へ送信する。スマートスピーカー111は、応答音声データを音声出力する。
その後、MFP制御サーバー101は、操作パネル600の動作状態を監視して、他のユーザーによる操作パネル600の操作が終了したら(1103:YES)、音声AIサーバー102に対して、スマートスピーカー111による音声出力を停止するよう指示するとともに(S1104)、他のユーザーによる操作パネル600の操作が終了した旨を通知する終了通知テキストを音声AIサーバー102に送信する(S1005)。また、複合機112にジョブ設定内容を通知し(S1106)、ジョブ設定内容を表示する旨のコマンドを送信する(S1107)。複合機112は、このコマンドに従って、受信したジョブ設定内容を液晶ディスプレイ601に表示する。
なお、他のユーザーによる操作パネル600の操作が終了したか否かは、操作パネル600のスタートキーが押下されたか否か、操作パネル600を用いた入力操作が最後に行われてから所定の時間を経過したか否か、当該他のユーザーが複合機112からログアウトしたか否か等によって判定することができる。
また、終了通知テキストは、例えば、「MFPが空きましたので、設定内容を操作パネルに表示しました。操作パネルに表示した設定内容でよろしいでしょうか。」のようなテキストである。更に、ジョブ実行のために必要な作業があれば、それを促すテキストを付加してもよい。例えば「原稿をセットしてください。」のようなテキストである。
上記の指示および終了通知テキストを受信すると、音声AIサーバー102は、スマートスピーカー111に対して、音声出力を直ちに停止するよう指示するとともに、終了通知テキストから終了通知の音声データを生成して、スマートスピーカー111へ送信し、音声出力させる。また、複合機112は、操作パネル600にジョブの設定内容を表示する。
他のユーザーによる操作パネル600の操作が終了する前に(S1103:NO)、応答テキスト#1の音声出力が完了すると(S1111:YES)、音声AIサーバー102からMFP制御サーバー101へ通知が送信され、MFP制御サーバー101は、パネル操作中処理を終了し、設定内容確認処理に復帰する。この結果、上述のように、メインルーチンに復帰する。
このようにすれば、他のユーザーによるパネル操作が終了するまでの間、ユーザーに何も情報が提供されないまま、当該パネル操作が終了してから、操作パネル600の表示を参照することによって、ユーザー所望の設定になっているかを確認し、操作パネル600のスタートキーを押下する場合と比較して、当該他のユーザーがパネル操作を行っている間に、ユーザー所望の設定になっているかどうかを音声によって知ることができるので、ユーザー所望の設定になっていれば、他のユーザーがパネル操作を終了すると、直ちにスタートキーを押下して、ジョブの実行を開始させることができる。
また、ユーザー所望の設定になっていない場合には、その旨も他のユーザーによるパネル操作が終了するのに先立って、予めユーザーが知ることができるので、当該終了後に速やかに設定内容を訂正して、ジョブを実行させることができる。このような意味において、ユーザーにとって無駄な待ち時間が発生するのを抑制して、複合機112の円滑な利用を促進することができる。
[7]変形例
以上、本発明を実施の形態に基づいて説明してきたが、本発明が上述の実施の形態に限定されないのは勿論であり、以下のような変形例を実施することができる。
(7-1)上記実施の形態においては、他のユーザーによるパネル操作が終了すると(S1103:YES)、応答テキスト#1を停止する場合(S1104)を例にとって説明したが、本発明がこれに限定されないのは言うまでもなく、応答テキスト#1を最後まで音声出力してから、終了通知テキストを送信してもよい(S1105)。
また、応答テキスト#1を最後まで音声出力した場合には、ユーザーが設定内容を把握できていると判断されるので、複合機112の操作パネル600に設定内容を表示しなくてもよい。また、応答テキスト#1を最後まで音声出力した場合であっても、念のため、複合機112の操作パネル600に設定内容を表示してもよい。
(7-2)上記実施の形態においては、他のユーザーによるパネル操作が終了すると(S1103:YES)、複合機112がジョブの設定内容を操作パネル600に表示する場合(S1106、S1107)を例にとって説明したが、本発明がこれに限定されないのは言うまでもなく、これに代えて次のようにしてもよい。すなわち、応答テキスト#1のうち音声出力した部分が、応答テキスト#1全体に対して所定の割合以上である場合や、応答テキスト#1の音声出力していない部分がデフォルト設定のみである場合には、ユーザーがジョブの設定内容を十分確認できたと判断して、複合機112の操作パネル600に設定内容を表示しなくてもよい。
一方、応答テキスト#1のうち音声出力した部分が、応答テキスト#1全体に対して所定の割合未満である場合や、応答テキスト#1の音声出力していない部分にデフォルト設定以外の設定が含まれている場合には、ユーザーはジョブの設定内容を十分確認できてきないと判断して、複合機112の操作パネル600に設定内容を表示してもよい。
(7-3)上記実施の形態においては、他のユーザーによるパネル操作が終了すると(S1103:YES)、複合機112がジョブの設定内容を操作パネル600に表示する場合(S1106、S1107)を例にとって説明したが、本発明がこれに限定されないのは言うまでもなく、これに代えて次のようにしてもよい。すなわち、終了通知テキストを音声出力するのに合わせて、複合機112の操作パネル600に設定内容を表示するか否かをユーザーに問い合わせて、ユーザーの応答に応じて設定内容の表示の有無を切り替えてもよい。
(7-4)上記実施の形態においては、設定内容の確認の結果、ユーザーが問題ない旨の返事をした場合にジョブの実行を開始するよう構成したが、ユーザーが複合機112の操作パネル600に設けられたスタートキーを押下することによってジョブの実行を開始させるようにしてもよい。
(7-5)上記実施の形態においては、他のユーザーによるパネル操作が終了したか否かを判断する場合(S1103)を例にとって説明したが、本発明がこれに限定されないのは言うまでもなく、これに代えて、用紙切れやトナー切れ、扉開といったエラー状態が解消されたか否かを判断してもよく、エラー状態が解消されたら応答テキスト#1の音声出力を停止して、複合機112の操作パネル600に設定内容を表示し、ユーザーによるジョブ実行の指示を待って、ジョブの実行を開始してもよい。
このようにしても、エラー状態が解消してから、複合機112の操作パネル600にて、ジョブの設定内容をユーザーに確認させる場合と比較して、エラー状態が解消される前からジョブの設定内容を音声出力して、ユーザーに聴かせるので、ジョブの実行開始を早めることができる。
(7-6)上記実施の形態においては、スマートスピーカー111を用いて音声入出力を行う場合を例にとって説明したが、本発明がこれに限定されないのは言うまでもなく、スマートスピーカー111に代えて、スマートフォン等、スマートスピーカー111以外の機器を用いて音声入出力を行ってもよい。また、スマートフォン等、スマートスピーカー111以外の機器を用いる場合には、当該機器がスマートスピーカー111および音声AIサーバー102の両方の機能を兼ね備えてもよい。
(7-7)上記実施の形態においては、MFP制御サーバー101並びに音声AIサーバー102がクラウドサーバーである場合を例にとって説明したが、本発明がこれに限定されないのは言うまでもなく、他のサーバー装置であってもよい。例えば、LAN113に接続されているサーバー装置や、複合機112に一体化されているサーバー装置を、MFP制御サーバー101や音声AIサーバー102として使用してもよい。
(7-8)上記実施の形態においては、応答テキスト#1が複合機112の液晶ディスプレイ601に表示するよう指示した主要設定内容を列挙したテキストであり、応答テキスト#2はユーザーが音声指示によりデフォルトの設定値から変更された設定内容のみを列挙したテキストである場合を例にとって説明したが、本発明がこれに限定されないのは言うまでもなく、応答テキスト#1の方が応答テキスト#2よりも音声出力に要する時間が長ければ、応答テキスト#1、#2は上記実施の形態とは異なる内容のテキストであってもよい。
なお、主要設定内容は、例えば、複合機112の操作パネル600において当該ジョブの設定を行うための最上位の設定画面に表示される設定項目のデフォルト設定であってもよい。例えば、複写ジョブの場合には、「濃度」、「下地調整」、「用紙」、「倍率」、「原稿>出力」、「ページ集約」の設定項目である。
なお、応答テキスト#1に含まれる設定内容は、ユーザーが音声指示した設定内容のみであってもよいし、デフォルト設定のみであってもよい。また、デフォルト設定には、最上位の設定画面以外の設定画面に表示される設定項目に関する設定内容を含んでもよいし、逆に最上位の設定画面に表示される設定項目すべてを網羅していなくてもよい。
応答テキスト#2についても、同様に、デフォルト設定のみであってもよいし、ユーザーが音声指示した設定内容とデフォルト設定とが混在していてもよい。
応答テキスト#1、#2の内容の如何に関わらず、応答テキスト#1の音声出力時間が応答テキスト#2の音声出力時間よりも長ければ、本発明の効果を得ることができる。
(7-9)上記実施の形態においては、他のユーザーがパネル操作を行っている場合には、応答テキスト#1を音声出力する場合を例にとって説明したが、本発明がこれに限定されないのは言うまでもなく、応答テキスト#1に加えて付加テキストを音声出力してもよい。例えば、応答テキスト#1を音声出力し終わっても、他のユーザーによるパネル操作が終了しない場合には、「只今、他のユーザー様が画像形成装置を操作中ですので、しばらくお待ちください。この時間をお借りして弊社の新サービスをご紹介いたします。。。」等のように付加テキストを音声出力してもよい。
(7-10)上記実施の形態においては、カラー複合機112に音声指示を行う場合を例にとって説明したが、本発明がこれに限定されないのは言うまでもなく、これに代えてモノクロ複合機に音声指示を行ってもよい。また、プリンター装置や、スキャナーを備えたコピー装置、更にファクシミリ通信機能を備えたファクシミリ装置といった単機能機に本発明を適用しても同様の効果を得ることができる。
(7-11)上記実施の形態においては、MFPサーバー101に、予め、ジョブ(コピージョブやスキャンジョブ等)に対して、ジョブの設定項目それぞれにデフォルトの設定値を記憶しておき、その記憶しておいた設定値を音声指示された設定値に変更するよう構成し、ジョブ実行の指示を受けた後にそれらの設定内容をまとめて複合機112へ送信するようにしたが、MFP制御サーバー101が、音声指示された設定を、その都度、複合機112へ送信し、複合機112内でジョブの設定に反映させるようにしてもよい。
(7-12)上記実施の形態においては、スマートスピーカー111、MFP制御サーバー101、音声AIサーバー102が、複合機112とは別の装置で構成したが、全部または一部を複合機112に内蔵するように構成してもよい。
また、複合機112に音声入出力インターフェイスを設ける場合には、操作パネル600からタッチパッド602やハードキー603といった手入力を受け付ける装置を省いて液晶ディスプレイ601のみにしてもよい。また、この場合において、音声入出力のためのマイク並びにスピーカーを設けてもよい。
(7-13)上記実施の形態においては、複合機112に実行させる処理に関する設定内容を操作パネル600の液晶ディスプレイ601に表示させる場合を例にとって説明したが、本発明がこれに限定されないのは言うまでもなく、操作パネル600とは別に表示装置を設けて設定内容を表示させてもよい。例えば、複合機112に通信ネットワークを介して接続されたPC(Personal Computer)や携帯端末装置を表示装置として、スマートスピーカー111にて受け付けた音声指示に係る設定内容を表示させてもよい。この例では、表示装置の動作状態に合わせて、音声出力すべき内容を決定すれば、同様の効果を得ることができる。
(7-14)上述したように、画像形成システム1並びにMFP制御サーバー101は、マイクロプロセッサーとメモリとを備えたコンピューターシステムである。メモリは、コンピュータープログラムを記憶しており、マイクロプロセッサーは、コンピュータープログラムに従って動作するとしてもよい。
ここで、コンピュータープログラムは、所定の機能を達成するために、コンピューターに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
また、コンピュータープログラムは、コンピューター読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、光ディスク、半導体メモリなどに記録されているとしてもよい。
また、コンピュータープログラムを、有線又は無線の電気通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送してもよい。
(7-15)上記実施の形態及び上記変形例をそれぞれ組み合わせてもよい。
本発明に係る制御装置、画像形成システムおよびプログラムは、画像形成装置に音声指示する際のユーザーの待ち時間の延長を抑制する技術として有用である。
1………画像形成システム
101…MFP制御サーバー
102…音声AIサーバー
103…インターネット
111…スマートスピーカー
112…複合機
113…LAN
600…操作パネル

Claims (15)

  1. 音声により指示された処理内容に基づいて、画像形成装置に当該処理を実行させる制御装置であって、
    前記処理を実行する前に前記処理内容を、前記画像形成装置の表示装置に表示させる手段と、
    前記表示装置の動作状態を取得する動作状態取得手段と、
    取得した前記表示装置の動作状態に応じて、前記処理内容の確認を促すために出力すべき音声の内容を決定する決定手段と、を備える
    ことを特徴とする制御装置。
  2. 前記動作状態は、前記表示装置の少なくとも一部の電源がOFFであるスリープモードか否かの動作状態を含む
    ことを特徴とする請求項1に記載の制御装置。
  3. 前記スリープモードには、前記処理内容を前記表示装置に表示させることが可能となるまでの時間が第1の所定時間である第1段階のスリープモードと、当該表示が可能となるまでの時間が前記第1の所定時間よりも長い第2の所定時間である第2段階のスリープモードと、があり、
    前記動作状態取得手段は、前記スリープモードが前記第1段階と前記第2段階とのいずれであるかを取得し、
    前記決定手段は、前記動作状態取得手段により取得された前記スリープモードが前記第1段階と前記第2段階とのいずれであるかに基づいて出力すべき音声の内容を決定する
    ことを特徴とする請求項2に記載の制御装置。
  4. 前記動作状態取得手段にて取得した動作状態から、前記表示装置による表示が可能になるまでの立ち上がり時間を推定する推定手段を備え、
    前記決定手段は、前記立ち上がり時間に応じて、前記音声内容を決定する
    ことを特徴とする請求項1に記載の制御装置。
  5. 前記決定手段は、
    前記立ち上がり時間が、所定の項目を音声出力するのに要する出力時間よりも長い場合には、当該所定の項目すべてを含むように前記音声内容を決定し、
    前記立ち上がり時間が前記出力時間よりも短い場合には、前記所定の項目のうち少なくとも一部の項目を除いた項目からなるように前記音声内容を決定する
    ことを特徴とする請求項4に記載の制御装置。
  6. 前記立ち上がり時間から、前記決定手段が決定した前記音声内容を音声出力するのに要する出力時間を差し引いた余剰時間に応じて、前記音声内容以外の追加内容を決定する音声追加手段を備える
    ことを特徴とする請求項4または5に記載の制御装置。
  7. 前記処理内容を音声入力したユーザー以外のユーザーが前記表示装置を使用しているか否かを判定する使用状態判定手段と、
    前記決定手段が前記音声内容を決定した後、前記使用状態判定手段の判定結果が否定的になるまでは、当該音声内容を音声出力し、前記使用状態判定手段の判定結果が否定的になったら、当該音声出力を停止させる音声出力制御手段と、を備える
    ことを特徴とする請求項1に記載の制御装置。
  8. 前記決定手段が決定する音声内容は複数の部分に区分されており、
    前記音声出力制御手段は、前記使用状態判定手段の判定結果が否定的になったときに出力中の部分の音声出力が完了した時点で、前記音声出力を停止させる
    ことを特徴とする請求項7に記載の制御装置。
  9. 前記音声出力制御手段は、前記使用状態判定手段の判定結果が否定的になったときに、前記決定手段が決定した音声内容のうち未出力部分の出力時間が所定時間よりも短い場合には、前記音声出力を停止させない
    ことを特徴とする請求項7に記載の制御装置。
  10. 前記音声出力制御手段が、前記音声出力を停止させない場合に、前記表示装置に前記処理内容を表示するのを禁止する禁止手段を備える
    ことを特徴とする請求項7から9のいずれかに記載の制御装置。
  11. 前記音声出力制御手段が、前記音声出力を停止させない場合に、前記表示装置に前記処理内容を表示させるか否かを、前記音声入力したユーザーに確認する確認手段を備え、
    前記確認手段による確認結果が肯定的である場合には、前記処理内容を表示させる
    ことを特徴とする請求項7から9のいずれかに記載の制御装置。
  12. 前記確認結果が否定的である場合には、前記音声入力したユーザーが前記処理の開始を指示するのを待たずに、前記画像形成装置に当該処理を開始させる処理開始手段を備える
    ことを特徴とする請求項11に記載の制御装置。
  13. 前記停止後、前記表示装置に前記処理内容が表示される場合には、その旨を音声出力する表示通知手段を備える
    ことを特徴とする請求項7から12のいずれかに記載の制御装置。
  14. 画像形成装置と、
    請求項1から13の何れかに記載の制御装置と、を備える
    ことを特徴とする画像形成システム。
  15. 音声により指示された処理内容に基づいて、画像形成装置に当該処理を実行させる制御をコンピューターに実行させるプログラムであって、
    前記処理を実行する前に前記処理内容を、前記画像形成装置の表示装置に表示させるステップと、
    前記表示装置の動作状態を取得する動作状態取得ステップと、
    取得した前記表示装置の動作状態に応じて、前記処理内容の確認を促すために出力すべき音声の内容を決定する決定ステップと、をコンピューターに実行させる
    ことを特徴とするプログラム。
JP2019048837A 2019-03-15 2019-03-15 制御装置、画像形成システムおよびプログラム Active JP7211181B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019048837A JP7211181B2 (ja) 2019-03-15 2019-03-15 制御装置、画像形成システムおよびプログラム
US16/800,147 US11122172B2 (en) 2019-03-15 2020-02-25 Control apparatus, image forming system and program
CN202010161879.3A CN111698378B (zh) 2019-03-15 2020-03-10 控制装置、图像形成系统以及记录介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019048837A JP7211181B2 (ja) 2019-03-15 2019-03-15 制御装置、画像形成システムおよびプログラム

Publications (2)

Publication Number Publication Date
JP2020149602A JP2020149602A (ja) 2020-09-17
JP7211181B2 true JP7211181B2 (ja) 2023-01-24

Family

ID=72424351

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019048837A Active JP7211181B2 (ja) 2019-03-15 2019-03-15 制御装置、画像形成システムおよびプログラム

Country Status (3)

Country Link
US (1) US11122172B2 (ja)
JP (1) JP7211181B2 (ja)
CN (1) CN111698378B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11735177B2 (en) * 2019-12-12 2023-08-22 Silicon Laboratories Inc. Keyword spotting using machine learning

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006085351A (ja) 2004-09-15 2006-03-30 Fuji Xerox Co Ltd 画像処理装置およびその制御方法および制御プログラム
JP2006095984A (ja) 2004-09-30 2006-04-13 Canon Inc プリンタ制御装置およびプリンタ制御方法
JP2011066500A (ja) 2009-09-15 2011-03-31 Ricoh Co Ltd 画像形成装置,画像処理装置,画像形成装置における制御方法,プログラム,および記録媒体
JP2011191566A (ja) 2010-03-15 2011-09-29 Ricoh Co Ltd 画像形成装置
JP2013153301A (ja) 2012-01-25 2013-08-08 Konica Minolta Inc 画像形成システム、画像形成装置、端末装置、画像形成装置の制御プログラム、および端末装置の制御プログラム
JP2015118622A (ja) 2013-12-19 2015-06-25 キヤノン株式会社 画像出力装置の安定状態を予測するシステム、システムの制御方法及びプログラム
US20180288248A1 (en) 2017-03-29 2018-10-04 Xyzprinting, Inc. Voice control system for 3d printer and voice control method for using the same

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3222686B2 (ja) * 1994-04-14 2001-10-29 キヤノン株式会社 印刷装置および印刷装置の制御方法
JPH08149239A (ja) * 1994-11-16 1996-06-07 Canon Inc 報知装置および方法
JP3870069B2 (ja) * 2001-11-08 2007-01-17 キヤノン株式会社 画像形成装置
JP4689151B2 (ja) * 2003-04-08 2011-05-25 シャープ株式会社 電子機器の取扱いガイダンス装置
JP2006333365A (ja) * 2005-05-30 2006-12-07 Ricoh Co Ltd 情報処理装置およびプログラム
JP2007021808A (ja) 2005-07-13 2007-02-01 Canon Inc 画像形成装置
JP2008003153A (ja) * 2006-06-20 2008-01-10 Kyocera Mita Corp 画像形成装置の使用状況管理システム及び画像形成装置
CN100583004C (zh) * 2008-02-29 2010-01-20 江苏科技大学 一种计算机atx电源的控制装置及其控制方法
JP5343652B2 (ja) * 2009-03-24 2013-11-13 コニカミノルタ株式会社 操作画面制御装置、画像形成装置、およびコンピュータプログラム
JP2015041123A (ja) 2013-08-20 2015-03-02 株式会社リコー 画像形成装置
WO2015037098A1 (ja) * 2013-09-12 2015-03-19 株式会社 東芝 電子機器、方法及びプログラム
JP2015102667A (ja) * 2013-11-25 2015-06-04 シャープ株式会社 電子機器
KR102390853B1 (ko) * 2015-03-26 2022-04-27 삼성전자주식회사 컨텐츠 제공 방법 및 이를 수행하는 전자 장치
JP6344369B2 (ja) * 2015-11-27 2018-06-20 京セラドキュメントソリューションズ株式会社 画像処理装置、アプリケーションプログラムの実行方法
CN105847627B (zh) * 2016-03-30 2018-11-23 北京小米移动软件有限公司 一种显示图像数据的方法和装置
KR102112564B1 (ko) * 2017-05-19 2020-06-04 엘지전자 주식회사 홈 어플라이언스 및 그 동작 방법
JP7305953B2 (ja) * 2017-12-27 2023-07-11 ブラザー工業株式会社 画像処理装置、モード移行方法およびプログラム
JP7147614B2 (ja) * 2019-02-14 2022-10-05 株式会社リコー 画像形成装置、画像形成方法およびプログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006085351A (ja) 2004-09-15 2006-03-30 Fuji Xerox Co Ltd 画像処理装置およびその制御方法および制御プログラム
JP2006095984A (ja) 2004-09-30 2006-04-13 Canon Inc プリンタ制御装置およびプリンタ制御方法
JP2011066500A (ja) 2009-09-15 2011-03-31 Ricoh Co Ltd 画像形成装置,画像処理装置,画像形成装置における制御方法,プログラム,および記録媒体
JP2011191566A (ja) 2010-03-15 2011-09-29 Ricoh Co Ltd 画像形成装置
JP2013153301A (ja) 2012-01-25 2013-08-08 Konica Minolta Inc 画像形成システム、画像形成装置、端末装置、画像形成装置の制御プログラム、および端末装置の制御プログラム
JP2015118622A (ja) 2013-12-19 2015-06-25 キヤノン株式会社 画像出力装置の安定状態を予測するシステム、システムの制御方法及びプログラム
US20180288248A1 (en) 2017-03-29 2018-10-04 Xyzprinting, Inc. Voice control system for 3d printer and voice control method for using the same

Also Published As

Publication number Publication date
CN111698378A (zh) 2020-09-22
US20200296236A1 (en) 2020-09-17
JP2020149602A (ja) 2020-09-17
CN111698378B (zh) 2022-08-16
US11122172B2 (en) 2021-09-14

Similar Documents

Publication Publication Date Title
US11211069B2 (en) Information processing system, information processing method, and non-transitory recording medium
US11140284B2 (en) Image forming system equipped with interactive agent function, method of controlling same, and storage medium
JP2020087377A (ja) 情報処理システム、情報処理装置、および方法
JP7188036B2 (ja) 情報処理装置、情報処理システム、および方法
JP7224863B2 (ja) 中継サーバおよび制御方法
JP7331355B2 (ja) 画像処理システム、クラウドサーバおよびプログラム
CN109828730B (zh) 移动终端及其控制方法
JP7230482B2 (ja) 画像処理システム、画像形成装置、音声入力禁止判定方法及びプログラム
JP2010117423A (ja) 画像形成装置
JP7211181B2 (ja) 制御装置、画像形成システムおよびプログラム
JP2020177131A (ja) 音声クラウドシステム、方法およびプログラム
JP7284455B2 (ja) 装置
JP2022001997A (ja) 情報処理装置、情報処理システム、制御方法、並びにプログラム
JP2021092982A (ja) 画像処理システム、画像処理装置、画像処理方法
JP6939426B2 (ja) 画像処理装置およびその動作制御方法
US11647129B2 (en) Image forming system equipped with interactive agent function, method of controlling same, and storage medium
JP2005269203A (ja) マルチファンクションペリフェラル装置
JP7361509B2 (ja) 周辺装置管理システム、印刷装置制御システム、制御方法、印刷制御装置及びプログラム
JP2008304548A (ja) 画像形成装置
JP5606094B2 (ja) 表示制御装置、画像形成装置および表示制御方法
JP7375369B2 (ja) 画像形成システム
JP7447458B2 (ja) 制御装置、制御システム及び制御プログラム
JP7388006B2 (ja) 画像処理装置及びプログラム
US20220394141A1 (en) Information processing system that receives audio operations on multifunction peripheral, as well as image processing apparatus and control method therefor
WO2024024642A1 (ja) 画像形成装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211216

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221024

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221226

R150 Certificate of patent or registration of utility model

Ref document number: 7211181

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150