JP2021096493A - Control device, control system and control program - Google Patents

Control device, control system and control program Download PDF

Info

Publication number
JP2021096493A
JP2021096493A JP2019225082A JP2019225082A JP2021096493A JP 2021096493 A JP2021096493 A JP 2021096493A JP 2019225082 A JP2019225082 A JP 2019225082A JP 2019225082 A JP2019225082 A JP 2019225082A JP 2021096493 A JP2021096493 A JP 2021096493A
Authority
JP
Japan
Prior art keywords
setting
control
candidates
voice
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019225082A
Other languages
Japanese (ja)
Other versions
JP7447458B2 (en
Inventor
宏樹 田島
Hiroki Tajima
宏樹 田島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2019225082A priority Critical patent/JP7447458B2/en
Publication of JP2021096493A publication Critical patent/JP2021096493A/en
Application granted granted Critical
Publication of JP7447458B2 publication Critical patent/JP7447458B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Or Security For Electrophotography (AREA)
  • Facsimiles In General (AREA)
  • User Interface Of Digital Computer (AREA)
  • Accessory Devices And Overall Control Thereof (AREA)

Abstract

To enable a user to efficiently select desired setting candidates, even when a plurality of setting candidates are extracted based on a voice emitted by the user.SOLUTION: A control device 8 that controls an image processing device 2 is provided with a setting specifying unit 31 for specifying settings to be reflected in an image processing device 2 based on a voice recognition result of a voice emitted by a user, and a display control unit 35 for, when it is determined that there are a plurality of setting candidates corresponding to the voice recognition result in the setting identification unit 31, presenting the plurality of setting candidates to the user.SELECTED DRAWING: Figure 4

Description

本発明は、ユーザーによって入力される音声に応じて画像処理装置を制御する制御装置、制御システム及び制御プログラムに関する。 The present invention relates to a control device, a control system, and a control program that control an image processing device according to a sound input by a user.

従来、MFP(Multifunction Peripherals)などの画像処理装置において、ユーザーの視覚を利用しないで操作可能とする技術が提案されている(例えば、特許文献1)。この従来の画像処理装置は、音声認識部を備えており、ユーザーによって入力される音声に基づいて各種設定項目に対する設定を行うように構成されている。また、この従来の画像処理装置は、音声認識部による音声認識結果を復唱音声として音声出力部から出力するように構成されている。そのため、ユーザーは、画像処理装置から出力される復唱音声を聞くことにより、自身で発した音声が画像処理装置において正しく認識されたかどうかを把握することができる。 Conventionally, a technique has been proposed in which an image processing device such as an MFP (Multifunction Peripherals) can be operated without using the user's vision (for example, Patent Document 1). This conventional image processing device includes a voice recognition unit, and is configured to set various setting items based on the voice input by the user. Further, this conventional image processing device is configured to output the voice recognition result by the voice recognition unit as a repeat voice from the voice output unit. Therefore, by listening to the repetitive voice output from the image processing device, the user can grasp whether or not the voice emitted by himself / herself is correctly recognized by the image processing device.

特開2006−235040号公報Japanese Unexamined Patent Publication No. 2006-235040

上記従来の画像処理装置は、ユーザーによって発せられた音声に対応する1つの設定項目を特定することができると、復唱音声を出力するようにしている。 The conventional image processing device outputs a repeat voice when one setting item corresponding to the voice emitted by the user can be specified.

しかしながら、この種の画像処理装置には、様々な設定項目が存在し、ユーザーの音声に対応する1つの設定項目を必ず特定できるとは限らず、ユーザーの音声に対応する設定として複数の設定候補が抽出されることもある。例えば、ユーザーが「両面」と発声した場合、コピー機能において読み取り原稿の両面設定と複写出力する際の両面設定とが存在すると共に、スキャン機能においても読み取り原稿の両面設定が存在し、それら複数の両面設定が候補として抽出されることになる。 However, there are various setting items in this type of image processing device, and it is not always possible to specify one setting item corresponding to the user's voice, and a plurality of setting candidates are set as settings corresponding to the user's voice. May be extracted. For example, when the user says "double-sided", the copy function has a double-sided setting for the scanned document and a double-sided setting for copying and outputting, and the scanning function also has a double-sided setting for the scanned document. Double-sided settings will be extracted as candidates.

上述した従来の画像処理装置では、ユーザーの音声に対応する設定として複数の設定候補が抽出された場合に何ら対応策が採られていない。そのため、ユーザーは、自身で発した音声に対応する設定として複数の設定候補が存在する場合に、それら複数の設定候補のうちから所望の設定候補を選択することができないという課題がある。 In the conventional image processing apparatus described above, no countermeasure is taken when a plurality of setting candidates are extracted as settings corresponding to the user's voice. Therefore, there is a problem that the user cannot select a desired setting candidate from the plurality of setting candidates when there are a plurality of setting candidates as settings corresponding to the voice emitted by the user.

また、この種の画像処理装置は、複数のユーザーによって共有される装置であるため、一人のユーザーによる占有時間をなるべく短くすることが望まれる。ところが、従来の画像処理装置は、複数の設定候補のうちからユーザーが所望する設定候補を効率的に選択することができないため、一人のユーザーによる画像処理装置の占有時間が長くなってしまうという問題もある。 Further, since this type of image processing device is a device shared by a plurality of users, it is desired to shorten the occupancy time by one user as much as possible. However, the conventional image processing device cannot efficiently select the setting candidate desired by the user from a plurality of setting candidates, so that there is a problem that the time occupied by one user of the image processing device becomes long. There is also.

本発明は、上述した従来の問題点を解決するためになされたものであり、ユーザーが発した音声に基づいて複数の設定候補が抽出される場合であっても、ユーザーに効率的に所望の設定候補を選択させることを可能にした画像処理装置の制御装置、制御システム及び制御プログラムを提供することを目的とする。 The present invention has been made to solve the above-mentioned conventional problems, and even when a plurality of setting candidates are extracted based on the voice emitted by the user, the user efficiently desires the setting candidates. It is an object of the present invention to provide a control device, a control system, and a control program of an image processing device that enables selection of setting candidates.

上記目的を達成するため、請求項1に係る発明は、画像処理装置を制御する制御装置であって、ユーザーによって発せられた音声の音声認識結果に基づいて前記画像処理装置に反映すべき設定を特定する設定特定手段と、前記設定特定手段において前記音声認識結果に対応する複数の設定候補が存在すると判定された場合に、前記複数の設定候補を提示する制御手段と、を備えることを特徴とする構成である。 In order to achieve the above object, the invention according to claim 1 is a control device for controlling an image processing device, and a setting to be reflected in the image processing device based on a voice recognition result of a voice emitted by a user is set. It is characterized by including a setting specifying means for specifying, and a control means for presenting the plurality of setting candidates when it is determined that the setting specifying means has a plurality of setting candidates corresponding to the voice recognition result. It is a configuration to do.

請求項2に係る発明は、請求項1の制御装置において、前記制御手段は、前記設定特定手段において前記音声認識結果に対応する所定数以上の設定候補が存在すると判定された場合に、前記複数の設定候補を提示することを特徴とする構成である。 According to the second aspect of the present invention, when it is determined in the control device of the first aspect that the control means has a predetermined number or more of setting candidates corresponding to the voice recognition result in the setting specifying means, the plurality of setting means. It is a configuration characterized by presenting setting candidates of.

請求項3に係る発明は、請求項1又は2の制御装置において、前記画像処理装置は、表示手段を有し、前記制御手段は、前記複数の設定候補を前記表示手段に表示させることによって提示することを特徴とする構成である。 According to a third aspect of the present invention, in the control device of the first or second aspect, the image processing device has a display means, and the control means presents the plurality of setting candidates by displaying them on the display means. It is a configuration characterized by doing.

請求項4に係る発明は、請求項1乃至3のいずれかの制御装置において、前記制御手段は、所定の優先順位に従って前記複数の設定候補を提示することを特徴とする構成である。 The invention according to claim 4 is the control device according to any one of claims 1 to 3, wherein the control means presents a plurality of setting candidates according to a predetermined priority.

請求項5に係る発明は、請求項4の制御装置において、前記優先順位は、ユーザーによる設定頻度が高い順に定められることを特徴とする構成である。 The invention according to claim 5 is characterized in that, in the control device of claim 4, the priority is determined in descending order of frequency of setting by the user.

請求項6に係る発明は、請求項4の制御装置において、前記優先順位は、前記設定候補に対応する設定項目が含まれる操作画面の階層に基づいて予め定められることを特徴とする構成である。 The invention according to claim 6 is characterized in that, in the control device of claim 4, the priority order is predetermined based on the hierarchy of the operation screen including the setting items corresponding to the setting candidates. ..

請求項7に係る発明は、請求項3の制御装置において、前記制御手段は、前記複数の設定候補のそれぞれに対応するサムネイル画像を前記表示手段に表示させることを特徴とする構成である。 The invention according to claim 7 is the control device according to claim 3, wherein the control means causes the display means to display thumbnail images corresponding to each of the plurality of setting candidates.

請求項8に係る発明は、請求項7の制御装置において、前記制御手段は、前記複数の設定候補のそれぞれに対応する前記サムネイル画像の画像サイズを所定の優先順位に応じて変化させることを特徴とする構成である。 The invention according to claim 8 is characterized in that, in the control device of claim 7, the control means changes the image size of the thumbnail image corresponding to each of the plurality of setting candidates according to a predetermined priority. It is a configuration to be.

請求項9に係る発明は、請求項3、7又は8の制御装置において、前記制御手段は、前記設定特定手段において前記設定候補の数が所定数未満であると判定された場合、前記複数の設定候補を前記表示手段に表示させないことを特徴とする構成である。 The invention according to claim 9 is the control device according to claim 3, 7 or 8, when the control means determines that the number of setting candidates is less than a predetermined number in the setting specifying means. The configuration is characterized in that the setting candidates are not displayed on the display means.

請求項10に係る発明は、請求項1乃至9のいずれかの制御装置において、前記設定特定手段によって特定された設定に基づく音声案内を行うための案内情報を出力する案内情報出力手段、を更に備えることを特徴とする構成である。 The invention according to claim 10 further comprises a guidance information output means for outputting guidance information for performing voice guidance based on the setting specified by the setting specifying means in the control device according to any one of claims 1 to 9. It is a configuration characterized by being provided.

請求項11に係る発明は、請求項10の制御装置において、前記案内情報出力手段は、前記設定特定手段において前記設定候補の数が所定数未満であると判定された場合、前記所定数未満の設定候補を音声案内するための案内情報を出力することを特徴とする構成である。 According to the invention of claim 11, when the control device of claim 10 determines that the number of setting candidates is less than a predetermined number in the setting specifying means, the guidance information output means is less than the predetermined number. The configuration is characterized in that guidance information for voice guidance of setting candidates is output.

請求項12に係る発明は、請求項10又は11の制御装置において、前記案内情報出力手段は、前記設定特定手段において所定数以上の設定候補が存在すると判定された場合、前記所定数以上の設定候補を音声案内するための案内情報を出力することを特徴とする構成である。 According to a twelfth aspect of the present invention, in the control device of the tenth or eleventh aspect, when it is determined that the guidance information output means has a predetermined number or more of setting candidates in the setting specifying means, the setting of the predetermined number or more is performed. The configuration is characterized in that guidance information for voice guidance of candidates is output.

請求項13に係る発明は、請求項10乃至12のいずれかの制御装置において、前記案内情報出力手段は、前記設定特定手段において所定数以上の設定候補が存在すると判定された場合、ユーザーに前記画像処理装置に設けられている表示手段の確認を促す音声案内のための案内情報を出力することを特徴とする構成である。 According to a thirteenth aspect of the present invention, when it is determined in any of the control devices of the tenth to twelve that the guidance information output means has a predetermined number or more of setting candidates in the setting specifying means, the user is notified. The configuration is characterized in that guidance information for voice guidance prompting confirmation of the display means provided in the image processing device is output.

請求項14に係る発明は、請求項10又は11の制御装置において、前記案内情報出力手段は、前記設定特定手段において所定数以上の設定候補が存在すると判定された場合、案内情報を出力しないことを特徴とする構成である。 According to the invention of claim 14, in the control device of claim 10 or 11, the guidance information output means does not output guidance information when it is determined that a predetermined number or more of setting candidates exist in the setting specifying means. It is a configuration characterized by.

請求項15に係る発明は、請求項1乃至14のいずれかの制御装置において、前記設定特定手段は、前記音声認識結果に対応する複数の設定候補が存在すると判定した場合、現在の設定状態に対して禁則条件を満たす設定候補を前記複数の設定候補から除外することを特徴とする構成である。 According to the invention of claim 15, when the control device according to any one of claims 1 to 14 determines that the setting specifying means has a plurality of setting candidates corresponding to the voice recognition result, the present setting state is set. On the other hand, the configuration is characterized in that the setting candidates satisfying the prohibition condition are excluded from the plurality of setting candidates.

請求項16に係る発明は、請求項1乃至15のいずれかの制御装置において、前記制御装置は、前記画像処理装置と通信可能なサーバーであることを特徴とする構成である。 The invention according to claim 16 is the control device according to any one of claims 1 to 15, wherein the control device is a server capable of communicating with the image processing device.

請求項17に係る発明は、請求項1乃至15のいずれかの制御装置において、前記制御装置は、前記画像処理装置に設けられることを特徴とする構成である。 The invention according to claim 17 is the control device according to any one of claims 1 to 15, wherein the control device is provided in the image processing device.

請求項18に係る発明は、画像処理装置と、前記画像処理装置を音声操作するための音声を入力する音声入力装置と、前記音声入力装置に入力された音声に基づいて前記画像処理装置を制御する制御装置と、を備える制御システムであって、前記制御装置は、前記音声入力装置に入力された音声の音声認識結果に基づいて前記画像処理装置に反映すべき設定を特定する設定特定手段と、前記設定特定手段において前記音声認識結果に対応する複数の設定候補が存在すると判定された場合に、前記複数の設定候補を提示する制御手段と、を備えることを特徴とする構成である。 The invention according to claim 18 controls the image processing device, a voice input device for inputting a voice for voice operation of the image processing device, and the image processing device based on the voice input to the voice input device. A control system including a control device for specifying a setting to be reflected in the image processing device based on a voice recognition result of a voice input to the voice input device. The configuration is characterized in that, when it is determined that a plurality of setting candidates corresponding to the voice recognition result exist in the setting specifying means, the control means for presenting the plurality of setting candidates is provided.

請求項19に係る発明は、プロセッサーによって実行されることにより、画像処理装置を制御する制御プログラムであって、前記プロセッサーに、ユーザーによって発せられた音声の音声認識結果に基づいて前記画像処理装置に反映すべき設定を特定させる設定特定ステップと、前記設定特定ステップにおいて前記音声認識結果に対応する複数の設定候補が存在すると判定された場合に、前記複数の設定候補を提示する制御ステップと、を実行させることを特徴とする構成である。 The invention according to claim 19 is a control program that controls an image processing device by being executed by a processor, and the image processing device is based on a voice recognition result of a voice emitted by a user to the processor. A setting specifying step for specifying a setting to be reflected, and a control step for presenting the plurality of setting candidates when it is determined that there are a plurality of setting candidates corresponding to the voice recognition result in the setting specifying step. It is a configuration characterized by being executed.

請求項20に係る発明は、請求項19の制御プログラムにおいて、前記制御ステップは、前記設定特定ステップにおいて前記音声認識結果に対応する所定数以上の設定候補が存在すると判定された場合に、前記所定数以上の設定候補を提示することを特徴とする構成である。 The invention according to claim 20 is the predetermined invention when it is determined in the control program of claim 19 that the control step has a predetermined number or more of setting candidates corresponding to the voice recognition result in the setting specific step. The configuration is characterized in that a number or more setting candidates are presented.

請求項21に係る発明は、請求項19又は20の制御プログラムにおいて、前記画像処理装置は、表示手段を有し、前記制御ステップは、前記複数の設定候補を前記表示手段に表示させることによって提示することを特徴とする構成である。 According to the invention of claim 21, in the control program of claim 19 or 20, the image processing apparatus has a display means, and the control step is presented by displaying the plurality of setting candidates on the display means. It is a configuration characterized by doing.

請求項22に係る発明は、請求項19乃至21のいずれかの制御プログラムにおいて、前記制御ステップは、所定の優先順位に従って前記複数の設定候補を提示することを特徴とする構成である。 The invention according to claim 22 is the control program according to any one of claims 19 to 21, wherein the control step presents the plurality of setting candidates according to a predetermined priority order.

請求項23に係る発明は、請求項22の制御プログラムにおいて、前記優先順位は、ユーザーによる設定頻度が高い順に定められることを特徴とする構成である。 The invention according to claim 23 is characterized in that, in the control program of claim 22, the priority is determined in descending order of frequency of setting by the user.

請求項24に係る発明は、請求項22の制御プログラムにおいて、前記優先順位は、前記設定候補に対応する設定項目が含まれる操作画面の階層に基づいて予め定められることを特徴とする構成である。 The invention according to claim 24 is characterized in that, in the control program of claim 22, the priority is predetermined based on the hierarchy of the operation screen including the setting items corresponding to the setting candidates. ..

請求項25に係る発明は、請求項21の制御プログラムにおいて、前記制御ステップは、前記複数の設定候補のそれぞれに対応するサムネイル画像を前記表示手段に表示させることを特徴とする構成である。 The invention according to claim 25 is characterized in that, in the control program of claim 21, the control step causes the display means to display thumbnail images corresponding to each of the plurality of setting candidates.

請求項26に係る発明は、請求項25の制御プログラムにおいて、前記制御ステップは、前記複数の設定候補のそれぞれに対応する前記サムネイル画像の画像サイズを所定の優先順位に応じて変化させることを特徴とする構成である。 The invention according to claim 26 is characterized in that, in the control program of claim 25, the control step changes the image size of the thumbnail image corresponding to each of the plurality of setting candidates according to a predetermined priority. It is a configuration to be.

請求項27に係る発明は、請求項21、25又は26の制御プログラムにおいて、前記制御ステップは、前記設定特定ステップにおいて前記設定候補の数が所定数未満であると判定された場合、前記複数の設定候補を前記表示手段に表示させないことを特徴とする構成である。 According to the invention of claim 27, when it is determined in the control program of claim 21, 25 or 26 that the number of setting candidates is less than a predetermined number in the setting specific step, the control step has a plurality of said. The configuration is characterized in that the setting candidates are not displayed on the display means.

請求項28に係る発明は、請求項19乃至27のいずれかの制御プログラムにおいて、前記プロセッサーに、前記設定特定ステップによって特定された設定に基づく音声案内を行うための案内情報を出力する案内情報出力ステップ、を更に実行させることを特徴とする構成である。 The invention according to claim 28 is a guidance information output that outputs guidance information for performing voice guidance based on the setting specified by the setting specific step to the processor in the control program according to any one of claims 19 to 27. The configuration is characterized in that the steps are further executed.

請求項29に係る発明は、請求項28の制御プログラムにおいて、前記案内情報出力ステップは、前記設定特定ステップにおいて前記設定候補の数が所定数未満であると判定された場合、前記所定数未満の設定候補を音声案内するための案内情報を出力することを特徴とする構成である。 According to the invention of claim 29, when it is determined in the control program of claim 28 that the number of setting candidates is less than a predetermined number in the setting specific step, the guidance information output step is less than the predetermined number. The configuration is characterized in that guidance information for voice guidance of setting candidates is output.

請求項30に係る発明は、請求項28又は29の制御プログラムにおいて、前記案内情報出力ステップは、前記設定特定ステップにおいて所定数以上の設定候補が存在すると判定された場合、前記複数の設定候補を音声案内するための案内情報を出力することを特徴とする構成である。 According to the invention of claim 30, when it is determined in the control program of claim 28 or 29 that the guidance information output step has a predetermined number or more of setting candidates in the setting specific step, the plurality of setting candidates are selected. The configuration is characterized by outputting guidance information for voice guidance.

請求項31に係る発明は、請求項28乃至30のいずれかの制御プログラムにおいて、前記案内情報出力ステップは、前記設定特定ステップにおいて所定数以上の設定候補が存在すると判定された場合、ユーザーに前記画像処理装置に設けられている表示手段の確認を促す音声案内のための案内情報を出力することを特徴とする構成である。 According to the invention of claim 31, when it is determined in any of the control programs of claims 28 to 30 that the guidance information output step has a predetermined number or more of setting candidates in the setting specific step, the user is informed of the above. The configuration is characterized in that guidance information for voice guidance prompting confirmation of the display means provided in the image processing device is output.

請求項32に係る発明は、請求項28又は20の制御プログラムにおいて、前記案内情報出力ステップは、前記設定特定ステップにおいて所定数以上の設定候補が存在すると判定された場合、案内情報を出力しないことを特徴とする構成である。 The invention according to claim 32 does not output guidance information when it is determined in the control program of claim 28 or 20 that the guidance information output step has a predetermined number or more of setting candidates in the setting specific step. It is a configuration characterized by.

請求項33に係る発明は、請求項19乃至32のいずれかの制御プログラムにおいて、前記設定特定ステップは、前記音声認識結果に対応する複数の設定候補が存在すると判定した場合、現在の設定状態に対して禁則条件を満たす設定候補を前記複数の設定候補から除外することを特徴とする構成である。 The invention according to claim 33 sets the current setting state when it is determined in the control program according to any one of claims 19 to 32 that the setting specific step has a plurality of setting candidates corresponding to the voice recognition result. On the other hand, the configuration is characterized in that the setting candidates satisfying the prohibition condition are excluded from the plurality of setting candidates.

本発明によれば、音声認識結果に対応する複数の設定候補が存在すると判定された場合にそれら複数の設定候補を提示するため、ユーザーは提示された複数の設定候補のうちから所望する設定候補を効率的に選択することができるようになる。 According to the present invention, when it is determined that there are a plurality of setting candidates corresponding to the voice recognition result, the plurality of setting candidates are presented, so that the user desires the setting candidates from the presented plurality of setting candidates. Will be able to be selected efficiently.

画像処理装置を制御するための制御システムの一例を示す図である。It is a figure which shows an example of the control system for controlling an image processing apparatus. 制御システムの動作の概略を示す図である。It is a figure which shows the outline of the operation of a control system. 画像処理装置のハードウェア構成及び機能構成の一例を示すブロック図である。It is a block diagram which shows an example of the hardware configuration and the functional configuration of an image processing apparatus. 制御装置のハードウェア構成及び機能構成を示す図である。It is a figure which shows the hardware configuration and the functional configuration of a control device. キーワード情報の一例を示す図である。It is a figure which shows an example of a keyword information. 制御装置が音声認識結果に基づいて画像処理装置に反映すべき設定を特定することができた場合の流れを示す図である。It is a figure which shows the flow when the control device can specify the setting to be reflected in the image processing device based on the voice recognition result. 制御装置が音声認識結果に基づいて所定数以上の設定候補を抽出した場合の流れを示す図である。It is a figure which shows the flow when a control device extracts a predetermined number or more setting candidates based on a voice recognition result. 制御装置において行われる処理手順の一例を示すフローチャートである。It is a flowchart which shows an example of the processing procedure performed in a control device. 設定候補抽出処理の詳細な処理手順の一例を示すフローチャートである。It is a flowchart which shows an example of the detailed processing procedure of the setting candidate extraction processing. 設定候補提示処理の詳細な処理手順の一例を示すフローチャートである。It is a flowchart which shows an example of the detailed processing procedure of the setting candidate presentation processing. 画像処理装置において行われる処理手順の一例を示すフローチャートである。It is a flowchart which shows an example of the processing procedure performed in an image processing apparatus. 操作パネルの表示部に表示される選択画面の一例を示す図である。It is a figure which shows an example of the selection screen displayed on the display part of an operation panel. 図12とは異なる選択画面の例を示す図である。It is a figure which shows the example of the selection screen different from FIG.

以下、本発明に関する好ましい実施形態について図面を参照しつつ詳細に説明する。尚、以下に説明する実施形態において互いに共通する要素には同一符号を付しており、それらについての重複する説明は省略する。 Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the drawings. In the embodiments described below, elements that are common to each other are designated by the same reference numerals, and duplicate description thereof will be omitted.

図1は、本実施形態において画像処理装置2を制御するための制御システム1の一例を示す図である。この制御システム1は、ユーザーのローカル環境に設置される画像処理装置2と、ローカル環境に設置されて音声の入出力を行う音声入出力装置3と、LAN(Local Area Network)などのローカルネットワーク4と、インターネット上のクラウド5に設置される音声認識装置7と、クラウド5に設置されて画像処理装置2を制御する制御装置8と、クラウド5上で音声認識装置7と制御装置8とを通信可能に接続するネットワーク9とを備える。 FIG. 1 is a diagram showing an example of a control system 1 for controlling an image processing device 2 in the present embodiment. The control system 1 includes an image processing device 2 installed in the user's local environment, a voice input / output device 3 installed in the local environment for input / output of voice, and a local network 4 such as a LAN (Local Area Network). The voice recognition device 7 installed in the cloud 5 on the Internet, the control device 8 installed in the cloud 5 to control the image processing device 2, and the voice recognition device 7 and the control device 8 communicate with each other on the cloud 5. It is provided with a network 9 that can be connected to the network.

画像処理装置2は、例えばMFP(Multifunction Peripherals)などと呼ばれる装置であって、コピー機能、スキャン機能、プリント機能、FAX機能などの複数の機能を有する装置である。画像処理装置2は、装置本体の上部にスキャナ部17を備え、スキャナ部17の下部にプリンタ部18を備えている。また、画像処理装置2は、内部にFAX部を備えている。画像処理装置2は、それらスキャナ部17、プリンタ部及びFAX部を適宜動作させることにより、ユーザーによって指定されたジョブを実行する。また、画像処理装置2は、装置本体の正面側にユーザーが操作可能な操作パネル11を備えている。この操作パネル11は、ユーザーが手動操作を行うことにより、各種ジョブの設定などを行うことができるユーザーインタフェースである。 The image processing device 2 is, for example, a device called an MFP (Multifunction Peripherals) or the like, and is a device having a plurality of functions such as a copy function, a scan function, a print function, and a fax function. The image processing device 2 includes a scanner unit 17 in the upper part of the apparatus main body, and a printer unit 18 in the lower part of the scanner unit 17. Further, the image processing device 2 is provided with a fax unit inside. The image processing device 2 executes a job specified by the user by appropriately operating the scanner unit 17, the printer unit, and the fax unit. Further, the image processing device 2 is provided with an operation panel 11 that can be operated by the user on the front side of the device main body. The operation panel 11 is a user interface that allows the user to manually perform various job settings and the like.

音声入出力装置3は、例えばスマートスピーカーやAIスピーカーなどと呼ばれる装置であって、ユーザーと対話を行うことができる装置である。この音声入出力装置3は、ユーザーが画像処理装置2を音声で操作できるようにするために、画像処理装置2と同じ環境に設置される。尚、図1では、音声入出力装置3が画像処理装置2と別体として構成される場合を例示しているが、これに限られるものではない。例えば、音声入出力装置3は、画像処理装置2に内蔵されたものであっても構わない。 The voice input / output device 3 is a device called, for example, a smart speaker or an AI speaker, and is a device capable of interacting with a user. The voice input / output device 3 is installed in the same environment as the image processing device 2 so that the user can operate the image processing device 2 by voice. Note that FIG. 1 illustrates a case where the audio input / output device 3 is configured as a separate body from the image processing device 2, but the present invention is not limited to this. For example, the audio input / output device 3 may be built in the image processing device 2.

ローカルネットワーク4は、画像処理装置2と音声入出力装置3とを通信可能に接続する。またローカルネットワーク4は、インターネットにも接続されている。そのため、画像処理装置2及び音声入出力装置3は、クラウド5に設置されている音声認識装置7や制御装置8と通信を行うことが可能である。 The local network 4 connects the image processing device 2 and the audio input / output device 3 in a communicable manner. The local network 4 is also connected to the Internet. Therefore, the image processing device 2 and the voice input / output device 3 can communicate with the voice recognition device 7 and the control device 8 installed in the cloud 5.

音声認識装置7は、音声を解析して音声をテキスト化する装置である。例えば、音声認識装置7には、人工知能(AI)による音声認識機能が搭載されており、入力する音声情報を高速かつ高精度にテキスト化することができる。本実施形態の音声認識装置7は、図1に示すようにクラウド5上にサーバーとして設置される。そのため、音声認識装置7による音声認識機能を、複数のローカル環境から利用することができる。 The voice recognition device 7 is a device that analyzes voice and converts the voice into text. For example, the voice recognition device 7 is equipped with a voice recognition function by artificial intelligence (AI), and can convert input voice information into text at high speed and with high accuracy. The voice recognition device 7 of the present embodiment is installed as a server on the cloud 5 as shown in FIG. Therefore, the voice recognition function by the voice recognition device 7 can be used from a plurality of local environments.

制御装置8は、ローカル環境に設置される画像処理装置2を遠隔制御するための装置である。この制御装置8もクラウド5上にサーバーとして設置されている。そのため、制御装置8は、複数のローカル環境に設置されている複数の画像処理装置2を個別に制御することができる。 The control device 8 is a device for remotely controlling the image processing device 2 installed in the local environment. This control device 8 is also installed as a server on the cloud 5. Therefore, the control device 8 can individually control a plurality of image processing devices 2 installed in a plurality of local environments.

上記のような制御システム1は、ローカル環境においてユーザーが画像処理装置2を操作するためのキーワードを音声で発した場合に、ユーザーの音声に応じて画像処理装置2が動作するように構成される。 The control system 1 as described above is configured to operate the image processing device 2 in response to the user's voice when the user utters a keyword for operating the image processing device 2 in the local environment. ..

図2は、制御システム1における概略動作を示す図である。音声入出力装置3は、画像処理装置2を音声操作するための装置であり、予め画像処理装置2の装置モデル(装置タイプ)やアドレスに関する装置情報を保持している。この音声入出力装置3は、画像処理装置2と同じローカル環境に設置されることにより、画像処理装置2の近傍位置でユーザーが発する音声を入力することができる。そしてユーザーが画像処理装置2を操作するための音声を発すると、音声入出力装置3は、その音声を入力し、音声情報D1を生成する。この音声情報D1は、音声入出力装置3からクラウド5上の音声認識装置7へと送信される。このとき、音声入出力装置3は、画像処理装置2の装置情報を付加した音声情報D1を音声認識装置7へ送信する。 FIG. 2 is a diagram showing a schematic operation in the control system 1. The voice input / output device 3 is a device for voice-manipulating the image processing device 2, and holds device information regarding the device model (device type) and address of the image processing device 2 in advance. By installing the voice input / output device 3 in the same local environment as the image processing device 2, it is possible to input the voice emitted by the user at a position near the image processing device 2. Then, when the user emits a voice for operating the image processing device 2, the voice input / output device 3 inputs the voice and generates voice information D1. This voice information D1 is transmitted from the voice input / output device 3 to the voice recognition device 7 on the cloud 5. At this time, the voice input / output device 3 transmits the voice information D1 to which the device information of the image processing device 2 is added to the voice recognition device 7.

音声認識装置7は、音声入出力装置3から音声情報D1を受信すると、音声情報D1を解析することにより、ユーザーが発した音声をテキストD2に変換する。すなわち、音声認識装置7は、音声認識結果として、ユーザーの音声に対応するテキストD2を生成する。この音声認識装置7は、音声入出力装置3から音声情報D1を受信してテキストD2を生成すると、そのテキストD2をクラウド5内で制御装置8へ送信する。このとき、音声認識装置7は、音声情報D1に付加されていた装置情報を、テキストD2に付加した状態で制御装置8へ送信する。 When the voice recognition device 7 receives the voice information D1 from the voice input / output device 3, the voice recognition device 7 analyzes the voice information D1 to convert the voice uttered by the user into the text D2. That is, the voice recognition device 7 generates the text D2 corresponding to the user's voice as the voice recognition result. When the voice recognition device 7 receives the voice information D1 from the voice input / output device 3 and generates the text D2, the voice recognition device 7 transmits the text D2 to the control device 8 in the cloud 5. At this time, the voice recognition device 7 transmits the device information added to the voice information D1 to the control device 8 in a state of being added to the text D2.

制御装置8は、音声認識装置7の音声認識結果に基づいて画像処理装置2を制御するコマンドD4を生成する。すなわち、制御装置8は、音声認識装置7から受信するテキストD2に基づいてコマンドD4を生成するのである。このとき、制御装置8は、テキストD2に付加されている装置情報に基づき画像処理装置2の装置モデルを特定し、その装置モデルに対応したコマンドD4を生成する。また、制御装置8は、テキストD2に付加されている装置情報に基づき、コマンドD4の送信先となる画像処理装置2のアドレスを特定する。そして制御装置8は、コマンドD4を、画像処理装置2へ送信することにより、画像処理装置2を制御する。 The control device 8 generates a command D4 that controls the image processing device 2 based on the voice recognition result of the voice recognition device 7. That is, the control device 8 generates the command D4 based on the text D2 received from the voice recognition device 7. At this time, the control device 8 identifies the device model of the image processing device 2 based on the device information added to the text D2, and generates a command D4 corresponding to the device model. Further, the control device 8 specifies the address of the image processing device 2 to which the command D4 is transmitted, based on the device information added to the text D2. Then, the control device 8 controls the image processing device 2 by transmitting the command D4 to the image processing device 2.

例えば、ユーザーが画像処理装置2に対するジョブの設定を音声で指示した場合、制御装置8は、音声認識装置7から受信するテキストD2に基づいて画像処理装置2に反映すべき設定を特定し、その設定を画像処理装置2に反映させるためのコマンドD4を生成する。そして制御装置8は、そのコマンドD4を画像処理装置2へ送信することにより、ジョブの設定を反映させる。 For example, when the user gives a voice instruction to set a job for the image processing device 2, the control device 8 specifies a setting to be reflected in the image processing device 2 based on the text D2 received from the voice recognition device 7, and the setting is specified. Generate command D4 to reflect the settings in the image processing device 2. Then, the control device 8 reflects the job setting by transmitting the command D4 to the image processing device 2.

また、ユーザーが画像処理装置2に対してジョブの実行を音声で指示した場合、制御装置8は、音声認識装置7から受信するテキストD2に基づいて画像処理装置2にジョブを実行させるためのコマンドD4を生成する。そして制御装置8は、そのコマンドD4を画像処理装置2へ送信することにより、画像処理装置2にジョブを実行させる。 Further, when the user instructs the image processing device 2 to execute the job by voice, the control device 8 causes the image processing device 2 to execute the job based on the text D2 received from the voice recognition device 7. Generate D4. Then, the control device 8 causes the image processing device 2 to execute the job by transmitting the command D4 to the image processing device 2.

このように制御装置8は、音声認識装置7による音声認識結果に基づいて画像処理装置2に行わせる処理を特定し、その特定した処理に対応するコマンドD4を画像処理装置2へ送信することにより、画像処理装置2を制御する。 In this way, the control device 8 specifies the process to be performed by the image processing device 2 based on the voice recognition result by the voice recognition device 7, and transmits the command D4 corresponding to the specified process to the image processing device 2. , Controls the image processing device 2.

また、制御装置8は、音声認識結果に基づいて特定した処理に基づく音声案内を行うための案内情報D3を生成する。この案内情報D3は、テキストデータとして生成される。そして制御装置8は、テキストデータとして生成した案内情報D3を音声認識装置7へ送信する。音声認識装置7は、制御装置8から音声案内のための案内情報D3を受信すると、案内情報D3をテキストデータから音声情報に変換する。そして音声認識装置7は、音声情報に変換した案内情報D3を、音声情報D1の送信元である音声入出力装置3へ送信する。これにより、音声入出力装置3では、案内情報D3に基づく音声出力が行われる。例えば、ユーザーがジョブの設定操作を音声で行った場合、制御装置8は、その設定の内容をテキストデータで表した案内情報D3を生成して音声認識装置7へ送信する。音声認識装置7は、テキストデータを音声情報に変換することにより、ユーザーによる設定の内容を音声出力するための案内情報D3を生成する。そして音声認識装置7は、音声情報に変換した案内情報D3を音声入出力装置3へ送信する。音声入出力装置3は、音声認識装置7から案内情報D3を受信すると、その案内情報D3に基づく音声出力を行う。したがって、ユーザーは、自身で発した音声がどのように認識されたかを音声入出力装置3からの出力音声で把握することができる。 Further, the control device 8 generates guidance information D3 for performing voice guidance based on the process specified based on the voice recognition result. This guidance information D3 is generated as text data. Then, the control device 8 transmits the guidance information D3 generated as text data to the voice recognition device 7. When the voice recognition device 7 receives the guidance information D3 for voice guidance from the control device 8, the voice recognition device 7 converts the guidance information D3 from text data to voice information. Then, the voice recognition device 7 transmits the guidance information D3 converted into voice information to the voice input / output device 3 which is the transmission source of the voice information D1. As a result, the voice input / output device 3 performs voice output based on the guidance information D3. For example, when the user performs a job setting operation by voice, the control device 8 generates guidance information D3 expressing the content of the setting as text data and transmits it to the voice recognition device 7. The voice recognition device 7 generates guidance information D3 for outputting the contents of the setting by the user by voice by converting the text data into voice information. Then, the voice recognition device 7 transmits the guidance information D3 converted into voice information to the voice input / output device 3. When the voice input / output device 3 receives the guidance information D3 from the voice recognition device 7, the voice input / output device 3 outputs voice based on the guidance information D3. Therefore, the user can grasp how the voice emitted by himself / herself is recognized by the output voice from the voice input / output device 3.

このような制御システム1によれば、ユーザーは、画像処理装置2の操作パネル11を手動で操作しなくても、音声操作を行うことが可能である。そのため、例えばユーザーが荷物を抱えていて両手を使うことができない場合や、画像処理装置2から数メートル程度離れた位置にいる場合であっても、画像処理装置2を音声で操作することができるので、利便性が高い。 According to such a control system 1, the user can perform voice operations without manually operating the operation panel 11 of the image processing device 2. Therefore, for example, the image processing device 2 can be operated by voice even when the user is holding a baggage and cannot use both hands, or even when the user is at a position several meters away from the image processing device 2. Therefore, it is highly convenient.

図3は、画像処理装置2のハードウェア構成及び機能構成の一例を示すブロック図である。画像処理装置2は、そのハードウェア構成として、制御部10と、操作パネル11と、通信インタフェース14と、記憶部15と、スキャナ部17と、プリンタ部18と、FAX部19とを備えている。制御部10は、図示を省略するCPUとメモリとを備えている。制御部10は、そのCPUにおいて所定のプログラムが実行されることにより、各部の動作を制御する。 FIG. 3 is a block diagram showing an example of the hardware configuration and the functional configuration of the image processing device 2. The image processing device 2 includes a control unit 10, an operation panel 11, a communication interface 14, a storage unit 15, a scanner unit 17, a printer unit 18, and a fax unit 19 as its hardware configuration. .. The control unit 10 includes a CPU and a memory (not shown). The control unit 10 controls the operation of each unit by executing a predetermined program in the CPU.

操作パネル11は、表示部12と、操作部13とを備えている。表示部12は、例えばカラー液晶ディスプレイで構成され、ユーザーが操作可能な各種の操作画面を表示する。操作部13は、例えばタッチパネルキーや押しボタンキーなどによって構成され、ユーザーによる手動操作を受け付ける。 The operation panel 11 includes a display unit 12 and an operation unit 13. The display unit 12 is composed of, for example, a color liquid crystal display, and displays various operation screens that can be operated by the user. The operation unit 13 is composed of, for example, touch panel keys, push button keys, and the like, and accepts manual operations by the user.

通信インタフェース14は、画像処理装置2をローカルネットワーク4に接続するためのものである。画像処理装置2は、この通信インタフェース14を介してローカルネットワーク4に接続されている様々な機器と通信を行うことができる。また、画像処理装置2は、この通信インタフェース14を介して、制御装置8から送信されるコマンドD4を受信する。 The communication interface 14 is for connecting the image processing device 2 to the local network 4. The image processing device 2 can communicate with various devices connected to the local network 4 via the communication interface 14. Further, the image processing device 2 receives the command D4 transmitted from the control device 8 via the communication interface 14.

記憶部15は、ハードディスクドライブ(HDD)やソリッドステートドライブ(SSD)などによって構成される不揮発性の記憶デバイスである。この記憶部15には、操作パネル11の表示部12に表示するための画面情報16が記憶される。この画面情報16は、表示部12に表示するための複数の操作画面に関する情報や、各操作画面に含まれる設定項目等に関する情報、複数の操作画面を階層構造として定義した情報などが含まれる。尚、記憶部15には、この他にも制御部10のCPUによって実行されるプログラムや各種データなどが記憶される。 The storage unit 15 is a non-volatile storage device composed of a hard disk drive (HDD), a solid state drive (SSD), or the like. The storage unit 15 stores screen information 16 for display on the display unit 12 of the operation panel 11. The screen information 16 includes information on a plurality of operation screens to be displayed on the display unit 12, information on setting items and the like included in each operation screen, information defining a plurality of operation screens as a hierarchical structure, and the like. In addition to this, the storage unit 15 stores programs and various data executed by the CPU of the control unit 10.

スキャナ部17は、ユーザーによってセットされる原稿を光学的に読み取って画像データを生成する。スキャナ部17は、制御部10によって設定されるジョブ設定(原稿の読み取り設定など)に基づいて原稿の読み取り動作を行う。例えば、ジョブ設定において原稿の両面読み取りが指定されている場合、スキャナ部17は、原稿の表裏両面に対する読み取り動作を行う。 The scanner unit 17 optically reads the document set by the user to generate image data. The scanner unit 17 performs a document scanning operation based on job settings (such as document scanning settings) set by the control unit 10. For example, when double-sided scanning of a document is specified in the job settings, the scanner unit 17 performs a scanning operation on both the front and back surfaces of the document.

プリンタ部18は、入力する画像データに基づいて印刷用紙などのシート材に画像形成を行うことにより印刷出力を行う。プリンタ部18は、制御部10によって設定されるジョブ設定(原稿の読み取り設定など)に基づく印刷出力を行う。例えば、ジョブ設定において両面印刷が指定されている場合、プリンタ部18は、シート材の表裏両面に対して画像形成を行う。 The printer unit 18 performs print output by forming an image on a sheet material such as printing paper based on the input image data. The printer unit 18 performs print output based on job settings (such as document reading settings) set by the control unit 10. For example, when double-sided printing is specified in the job setting, the printer unit 18 forms an image on both the front and back sides of the sheet material.

FAX部は、図示を省略する公衆電話網を介してFAXデータの送受信を行うものである。 The FAX unit transmits and receives FAX data via a public telephone network (not shown).

制御部10は、パネル制御部20とジョブ制御部21とを備えている。操作パネル11に関する制御を行うとき、制御部10は、パネル制御部20を機能させる。また、ジョブの設定又は実行に関する制御を行うとき、制御部10は、ジョブ制御部21を機能させる。 The control unit 10 includes a panel control unit 20 and a job control unit 21. When controlling the operation panel 11, the control unit 10 causes the panel control unit 20 to function. Further, when controlling the setting or execution of the job, the control unit 10 causes the job control unit 21 to function.

パネル制御部20は、操作パネル11の表示部12に表示する操作画面を制御したり、操作部13に対して行われるユーザーの手動操作を受け付けたりする。例えば、パネル制御部20は、記憶部15に記憶されている画面情報16に基づき、表示部12に表示している操作画面をユーザーの操作に基づいて更新したり、遷移させたりする。尚、パネル制御部20は、ユーザーが操作パネル11を手動操作していない状態が所定時間以上継続すると、表示部12に対する給電を停止し、操作パネル11を省電力モードへと移行させる。 The panel control unit 20 controls the operation screen displayed on the display unit 12 of the operation panel 11 and accepts the user's manual operation performed on the operation unit 13. For example, the panel control unit 20 updates or transitions the operation screen displayed on the display unit 12 based on the user's operation based on the screen information 16 stored in the storage unit 15. If the user does not manually operate the operation panel 11 for a predetermined time or longer, the panel control unit 20 stops the power supply to the display unit 12 and shifts the operation panel 11 to the power saving mode.

ジョブ制御部21は、ジョブの設定及び実行を統括的に制御する。ジョブ制御部21は、ジョブ設定部22を備えている。ジョブ設定部22は、ジョブの設定を行う処理部である。すなわち、ジョブ設定部22は、コピー機能などの複数の機能のうちのユーザーが使用しようとする機能を特定し、その特定した機能に対する各種設定項目の設定値をデフォルト値からユーザーによって指定された値に変更し、ジョブの設定を行う。 The job control unit 21 comprehensively controls the setting and execution of the job. The job control unit 21 includes a job setting unit 22. The job setting unit 22 is a processing unit that sets a job. That is, the job setting unit 22 identifies the function to be used by the user among the plurality of functions such as the copy function, and sets the setting values of various setting items for the specified function from the default values to the values specified by the user. Change to and set the job.

例えば、ユーザーが操作パネル11に対する手動操作を行ってジョブの設定を行う場合、操作パネル11の表示部12には、パネル制御部20によって各種の操作画面が表示される。ユーザーはその操作画面に対する操作を順次行っていくことで所望のジョブ設定を行う。このようにユーザーが操作パネル11に対する手動操作を行っているとき、ジョブ設定部22は、パネル制御部20から出力される操作情報に基づいてジョブの設定を行う。 For example, when a user manually operates the operation panel 11 to set a job, the panel control unit 20 displays various operation screens on the display unit 12 of the operation panel 11. The user sets a desired job by sequentially performing operations on the operation screen. When the user is manually operating the operation panel 11 in this way, the job setting unit 22 sets the job based on the operation information output from the panel control unit 20.

また、ユーザーが画像処理装置2を操作するための音声を発した場合、制御部10は、通信インタフェース14を介して制御装置8から送信されるコマンドD4を受信する。制御部10は、そのコマンドD4を解析して制御装置8からの指示を特定する。その指示がジョブの設定を反映させるための設定反映指示である場合、ジョブ設定部22は、その設定反映指示に基づいてジョブの設定を行う。 Further, when the user emits a voice for operating the image processing device 2, the control unit 10 receives the command D4 transmitted from the control device 8 via the communication interface 14. The control unit 10 analyzes the command D4 and identifies an instruction from the control device 8. When the instruction is a setting reflection instruction for reflecting the job setting, the job setting unit 22 sets the job based on the setting reflection instruction.

またジョブ制御部21は、ユーザーによってジョブの実行が指示された場合、スキャナ部17、プリンタ部18及びFAX部19のそれぞれを駆動し、ユーザーによって指定されたジョブを実行する。 When the user instructs the job to execute the job, the job control unit 21 drives each of the scanner unit 17, the printer unit 18, and the fax unit 19 to execute the job specified by the user.

次に図4は、制御装置8のハードウェア構成及び機能構成を示す図である。制御装置8は、図4(a)に示すように、そのハードウェア構成として、制御部40と、記憶部41と、通信インタフェース42とを備えている。 Next, FIG. 4 is a diagram showing a hardware configuration and a functional configuration of the control device 8. As shown in FIG. 4A, the control device 8 includes a control unit 40, a storage unit 41, and a communication interface 42 as its hardware configuration.

制御部40は、CPU43とメモリ44とを備えている。CPU43は、記憶部41に記憶されているプログラム25を読み出して実行する演算処理ユニット(プロセッサー)である。メモリ44は、CPU43がプログラム25を実行することに伴って発生する一時的なデータなどを記憶する。 The control unit 40 includes a CPU 43 and a memory 44. The CPU 43 is an arithmetic processing unit (processor) that reads out and executes a program 25 stored in the storage unit 41. The memory 44 stores temporary data or the like generated when the CPU 43 executes the program 25.

記憶部41は、ハードディスクドライブ(HDD)やソリッドステートドライブ(SSD)などで構成される不揮発性の記憶デバイスである。この記憶部41には、画像処理装置2を制御するためのプログラム25と、キーワード情報26と、優先順位情報27とが予め記憶される。 The storage unit 41 is a non-volatile storage device composed of a hard disk drive (HDD), a solid state drive (SSD), or the like. The storage unit 41 stores in advance the program 25 for controlling the image processing device 2, the keyword information 26, and the priority information 27.

通信インタフェース42は、制御装置8が他の機器と通信を行うためのものである。例えば、制御部40は、この通信インタフェース42を介して音声認識装置7から出力されるテキストD2を受信することができる。また、制御部40は、通信インタフェース42を介して案内情報D3を音声認識装置7へ送信したり、また、コマンドD4をローカル環境に設置されている画像処理装置2へ送信したりすることができる。 The communication interface 42 is for the control device 8 to communicate with other devices. For example, the control unit 40 can receive the text D2 output from the voice recognition device 7 via the communication interface 42. Further, the control unit 40 can transmit the guidance information D3 to the voice recognition device 7 via the communication interface 42, and can transmit the command D4 to the image processing device 2 installed in the local environment. ..

制御部40のCPU43は、記憶部41のプログラム25を読み出して実行することにより、図4(b)に示すように、制御部40を、設定特定部31、案内情報出力部32及び装置制御部33として機能させる。 By reading and executing the program 25 of the storage unit 41, the CPU 43 of the control unit 40 converts the control unit 40 into the setting identification unit 31, the guidance information output unit 32, and the device control unit, as shown in FIG. 4 (b). It functions as 33.

設定特定部31は、音声認識装置7から出力されるテキストD2に基づいて画像処理装置2に反映すべき設定を特定する処理部である。設定特定部31は、設定候補抽出部34を備えている。設定候補抽出部34は、テキストD2に対応する設定候補を抽出する。設定候補抽出部34は、テキストD2を受信することに伴って機能し、記憶部41に記憶されているキーワード情報26に基づいて設定候補を抽出する。 The setting specifying unit 31 is a processing unit that specifies the settings to be reflected in the image processing device 2 based on the text D2 output from the voice recognition device 7. The setting specifying unit 31 includes a setting candidate extraction unit 34. The setting candidate extraction unit 34 extracts the setting candidates corresponding to the text D2. The setting candidate extraction unit 34 functions in response to receiving the text D2, and extracts setting candidates based on the keyword information 26 stored in the storage unit 41.

図5は、キーワード情報26の一例を示す図である。キーワード情報26は、図5に示すように、画像処理装置2に対して設定可能な設定項目及び設定値に対してキーワードが対応付けられた情報であり、画像処理装置2の装置モデルごとに定義される情報である。キーワードは、画像処理装置2に対して各種の設定を行うことが可能なワードであり、例えば、各設定項目の設定値に対応している。ただし、図5に示すように、キーワード情報26には、同じキーワードが異なる設定項目に登録されていることもある。例えば、図5に示すキーワード情報26では、「リョウメン」というキーワードが、コピー機能設定時にスキャナ部17に対して原稿の両面読み取りを指示するキーワードと、コピー機能設定時にプリンタ部18に対して両面印刷を指示するキーワードと、スキャン機能設定時にスキャナ部17に対して原稿の両面読み取りを指示するキーワードと、プリント機能設定時にプリンタ部18に対して両面印刷を指示するキーワードとの4つの設定項目に対して登録されている。 FIG. 5 is a diagram showing an example of keyword information 26. As shown in FIG. 5, the keyword information 26 is information in which keywords are associated with setting items and setting values that can be set for the image processing device 2, and is defined for each device model of the image processing device 2. Information to be processed. The keyword is a word capable of making various settings for the image processing device 2, and corresponds to, for example, the setting value of each setting item. However, as shown in FIG. 5, the same keyword may be registered in different setting items in the keyword information 26. For example, in the keyword information 26 shown in FIG. 5, the keyword "Ryomen" is a keyword that instructs the scanner unit 17 to read both sides of the original when the copy function is set, and double-sided printing is performed on the printer unit 18 when the copy function is set. For four setting items: a keyword that instructs the scanner unit 17 to read both sides of the original when the scan function is set, and a keyword that instructs the printer unit 18 to print both sides when the print function is set. Is registered.

設定候補抽出部34は、ユーザーの音声に基づいて変換されたテキストD2に基づいてキーワード情報26を検索することにより、テキストD2に一致するキーワードがキーワード情報26に登録されているか否かを判断する。そして設定候補抽出部34は、テキストD2に一致するキーワードがキーワード情報26に登録されている場合、テキストD2に一致するキーワードが登録されている設定項目と設定値との組み合わせを設定候補として抽出する。そのため、設定候補抽出部34は、テキストD2に対応する設定候補として、1つの設定候補を抽出することもあれば、また複数の設定候補を抽出することもある。例えば、ユーザーが「リョウメン」という音声を発した場合、設定候補抽出部34は、図5に示すキーワード情報26を参照すると、4つの設定候補を抽出することになる。また、設定候補抽出部34は、テキストD2に対応する設定候補を1つも抽出することができないこともある。 The setting candidate extraction unit 34 searches the keyword information 26 based on the text D2 converted based on the user's voice, and determines whether or not a keyword matching the text D2 is registered in the keyword information 26. .. Then, when the keyword matching the text D2 is registered in the keyword information 26, the setting candidate extraction unit 34 extracts a combination of the setting item and the setting value in which the keyword matching the text D2 is registered as a setting candidate. .. Therefore, the setting candidate extraction unit 34 may extract one setting candidate as a setting candidate corresponding to the text D2, or may extract a plurality of setting candidates. For example, when the user emits the voice "Ryomen", the setting candidate extraction unit 34 extracts four setting candidates by referring to the keyword information 26 shown in FIG. Further, the setting candidate extraction unit 34 may not be able to extract even one setting candidate corresponding to the text D2.

また、設定候補抽出部34は、画像処理装置2に対する現在の設定状態を把握しており、上記のようにして抽出した設定候補が、現在の設定状態に対する禁則条件を満たす場合には、その設定候補を除外する。例えば、画像処理装置2がスキャン機能において原稿を読み取って生成した画像データをコンパクトPDFとして出力する際にモノクロ出力を選択することができない設定となっている場合において、ユーザーが既に「モノクロ出力」を設定している状態で「PDF」という音声を発したと仮定する。この場合、設定候補抽出部34は、設定候補として、例えば、PDF、暗号化PDF、PDFA、サーチャブルPDF、コンパクトPDFといった5つの設定候補を抽出する。しかし、ユーザーが既に「モノクロ出力」を設定しているため、コンパクトPDFが禁則条件を満たす設定候補となり、設定候補抽出部34は、コンパクトPDFを設定候補から除外する。その結果、設定候補抽出部34は、PDF、暗号化PDF、PDFA、及び、サーチャブルPDFの4つの設定候補を抽出することになる。 Further, the setting candidate extraction unit 34 grasps the current setting state for the image processing device 2, and if the setting candidate extracted as described above satisfies the prohibition condition for the current setting state, the setting is set. Exclude candidates. For example, when the image processing device 2 is set so that the monochrome output cannot be selected when the image data generated by scanning the original in the scanning function is output as a compact PDF, the user has already set the "monochrome output". It is assumed that the voice "PDF" is emitted in the set state. In this case, the setting candidate extraction unit 34 extracts five setting candidates such as PDF, encrypted PDF, PDFA, searchable PDF, and compact PDF as setting candidates. However, since the user has already set "monochrome output", the compact PDF becomes a setting candidate satisfying the prohibition condition, and the setting candidate extraction unit 34 excludes the compact PDF from the setting candidates. As a result, the setting candidate extraction unit 34 extracts four setting candidates of PDF, encrypted PDF, PDFA, and searchable PDF.

設定特定部31は、設定候補抽出部34によって設定候補が抽出されなかった場合、案内情報出力部32及び装置制御部33を機能させることなく処理を終了する。ただし、この場合、設定特定部31は、案内情報出力部32を機能させ、案内情報出力部32に「設定項目を特定することができませんでした」という案内情報D3を生成させ、音声認識装置7を介して音声入出力装置3へ出力させるようにしても構わない。 When the setting candidate is not extracted by the setting candidate extraction unit 34, the setting identification unit 31 ends the process without causing the guidance information output unit 32 and the device control unit 33 to function. However, in this case, the setting specifying unit 31 makes the guidance information output unit 32 function, causes the guidance information output unit 32 to generate the guidance information D3 that "the setting item could not be specified", and causes the voice recognition device 7 to generate the guidance information D3. It may be output to the audio input / output device 3 via.

一方、設定候補抽出部34によって1つの設定候補が抽出された場合、設定特定部31は、その1つの設定候補を、画像処理装置2に反映すべき設定として特定することができる。この場合、設定特定部31は、案内情報出力部32及び装置制御部33を機能させ、案内情報出力部32及び装置制御部33のそれぞれに対して画像処理装置2に反映すべき設定を通知する。 On the other hand, when one setting candidate is extracted by the setting candidate extraction unit 34, the setting specifying unit 31 can specify the one setting candidate as a setting to be reflected in the image processing device 2. In this case, the setting specifying unit 31 causes the guidance information output unit 32 and the device control unit 33 to function, and notifies each of the guidance information output unit 32 and the device control unit 33 of the settings to be reflected in the image processing device 2. ..

また、設定候補抽出部34によって複数の設定候補が抽出された場合にも、設定特定部31は、案内情報出力部32及び装置制御部33を機能させる。そして設定特定部31は、設定候補抽出部34によって抽出された複数の設定候補を、案内情報出力部32及び装置制御部33のそれぞれへ通知する。このとき、設定特定部31は、設定候補抽出部34によって抽出された設定候補の数が所定数(例えば、「3」)以上であるか否かを判断する。そして所定数以上の設定候補が抽出されている場合、設定特定部31は、案内情報出力部32及び装置制御部33のそれぞれに対して設定候補が所定数以上であることを通知する。尚、所定数は、「3」に限られるものではなく、2以上の値であれば良い。 Further, even when a plurality of setting candidates are extracted by the setting candidate extraction unit 34, the setting identification unit 31 causes the guidance information output unit 32 and the device control unit 33 to function. Then, the setting specifying unit 31 notifies each of the guidance information output unit 32 and the device control unit 33 of the plurality of setting candidates extracted by the setting candidate extraction unit 34. At this time, the setting specifying unit 31 determines whether or not the number of setting candidates extracted by the setting candidate extraction unit 34 is equal to or greater than a predetermined number (for example, “3”). When a predetermined number or more of setting candidates are extracted, the setting specifying unit 31 notifies each of the guidance information output unit 32 and the device control unit 33 that the number of setting candidates is a predetermined number or more. The predetermined number is not limited to "3", and may be a value of 2 or more.

案内情報出力部32は、ユーザーに対して音声案内を行うための各種の案内情報D3をテキストデータとして生成し、その案内情報D3を音声認識装置7へ送信する処理部である。例えば、案内情報出力部32は、設定特定部31から出力される設定候補を音声案内のためのテキストデータとして表現した案内情報D3を生成する。設定候補抽出部34によって1つの設定候補が抽出された場合、案内情報出力部32は、その1つの設定候補をテキストデータで表した案内情報D3を生成する。また、設定候補抽出部34によって複数の設定候補が抽出されており、それら設定候補の数が所定数未満である場合、案内情報出力部32は、それら複数の設定候補を1つずつ順番に音声出力するために各設定候補のテキストデータを配列した案内情報D3を生成する。 The guidance information output unit 32 is a processing unit that generates various guidance information D3 for providing voice guidance to the user as text data and transmits the guidance information D3 to the voice recognition device 7. For example, the guidance information output unit 32 generates guidance information D3 in which the setting candidates output from the setting identification unit 31 are expressed as text data for voice guidance. When one setting candidate is extracted by the setting candidate extraction unit 34, the guidance information output unit 32 generates guidance information D3 in which the one setting candidate is represented by text data. Further, when a plurality of setting candidates are extracted by the setting candidate extraction unit 34 and the number of the setting candidates is less than a predetermined number, the guidance information output unit 32 voices the plurality of setting candidates one by one in order. Guidance information D3 in which the text data of each setting candidate is arranged for output is generated.

さらに、設定候補抽出部34によって複数の設定候補が抽出されており、それら設定候補の数が所定数以上である場合、案内情報出力部32は、設定モードに応じた処理を行う。設定モードには、案内情報D3を生成しない第1のモードと、複数の設定候補を1つずつ順番に音声出力するための案内情報D3を生成する第2のモードと、ユーザーに操作パネル11の確認を促すための案内情報D3を生成する第3のモードとの3つのモードがある。案内情報出力部32には、それら3つのモードのうちから、ユーザーによって予め選択されたモードが設定されている。例えば、第1のモードが設定されている場合、案内情報出力部32は、案内情報D3を出力しない。また、第2のモードが設定されている場合、案内情報出力部32は、所定数未満の設定候補が抽出された場合と同様に、所定数以上の設定候補を1つずつ順番に音声出力するための案内情報D3を生成して音声認識装置7へ出力する。さらに第3のモードが設定されている場合、案内情報出力部32は、例えば「操作パネルの表示画面を確認してください」といったテキストデータの案内情報D3を生成して音声認識装置7へ出力する。 Further, when a plurality of setting candidates are extracted by the setting candidate extraction unit 34 and the number of the setting candidates is a predetermined number or more, the guidance information output unit 32 performs processing according to the setting mode. The setting mode includes a first mode that does not generate guidance information D3, a second mode that generates guidance information D3 for sequentially outputting a plurality of setting candidates by voice, and a user on the operation panel 11. There are three modes, a third mode for generating guidance information D3 for prompting confirmation. The guidance information output unit 32 is set to a mode selected in advance by the user from these three modes. For example, when the first mode is set, the guidance information output unit 32 does not output the guidance information D3. Further, when the second mode is set, the guidance information output unit 32 sequentially outputs a predetermined number or more of the setting candidates one by one by voice, as in the case where less than a predetermined number of setting candidates are extracted. The guidance information D3 for this purpose is generated and output to the voice recognition device 7. Further, when the third mode is set, the guidance information output unit 32 generates guidance information D3 of text data such as "Please check the display screen of the operation panel" and outputs it to the voice recognition device 7. ..

尚、第2のモードと第3のモードは、案内情報出力部32において同時に設定されていても構わない。第2のモードと第3のモードとが同時に設定されている場合、案内情報出力部32は、例えば「操作パネルの表示画面を確認してください」といったテキストデータの次に複数の設定候補のそれぞれに対応するテキストデータを配列した案内情報D3を生成する。 The second mode and the third mode may be set at the same time in the guidance information output unit 32. When the second mode and the third mode are set at the same time, the guidance information output unit 32 sets each of the plurality of setting candidates next to the text data such as "Please check the display screen of the operation panel". The guidance information D3 in which the text data corresponding to is arranged is generated.

装置制御部33は、画像処理装置2に対して各種のコマンドD4を送信することにより、画像処理装置2を制御する処理部である。この装置制御部33は、表示制御部35と、設定反映部36とを備えている。表示制御部35は、画像処理装置2の操作パネル11に表示される操作画面を制御するものである。設定反映部36は、画像処理装置2に対するユーザーが所望する設定を反映させる処理部である。 The device control unit 33 is a processing unit that controls the image processing device 2 by transmitting various commands D4 to the image processing device 2. The device control unit 33 includes a display control unit 35 and a setting reflection unit 36. The display control unit 35 controls the operation screen displayed on the operation panel 11 of the image processing device 2. The setting reflection unit 36 is a processing unit that reflects the settings desired by the user for the image processing device 2.

装置制御部33は、設定特定部31において画像処理装置2に反映すべき設定が特定された場合、設定反映部36を機能させる。すなわち、設定反映部36は、音声認識結果に基づいて1つの設定候補だけが抽出された場合に機能する。そして設定反映部46は、設定特定部31において特定された設定を画像処理装置2に反映させるためのコマンドD4を生成し、画像処理装置2へ送信する。画像処理装置2は、そのコマンドD4を受信すると、設定反映部36によって指定された設定を反映させる。つまり、画像処理装置2は、ユーザーの音声に対応する設定を自動的に行うのである。そのため、ユーザーは、操作パネル11に対する操作を行わなくても、画像処理装置2に対して所望の設定を行うことができる。 When the setting specifying unit 31 specifies the setting to be reflected in the image processing device 2, the device control unit 33 causes the setting reflecting unit 36 to function. That is, the setting reflection unit 36 functions when only one setting candidate is extracted based on the voice recognition result. Then, the setting reflecting unit 46 generates a command D4 for reflecting the setting specified by the setting specifying unit 31 on the image processing device 2, and transmits the command D4 to the image processing device 2. When the image processing device 2 receives the command D4, the image processing device 2 reflects the setting specified by the setting reflecting unit 36. That is, the image processing device 2 automatically sets the settings corresponding to the user's voice. Therefore, the user can make desired settings for the image processing device 2 without performing an operation on the operation panel 11.

一方、設定候補抽出部34によって複数の設定候補が抽出され、設定特定部31において画像処理装置2に反映すべき設定を特定することができなかった場合、設定反映部36は、コマンドD4を生成しない。 On the other hand, when a plurality of setting candidates are extracted by the setting candidate extraction unit 34 and the setting specifying unit 31 cannot specify the setting to be reflected in the image processing device 2, the setting reflecting unit 36 generates the command D4. do not.

また、装置制御部33は、設定特定部31において所定数以上の設定候補が抽出された場合、表示制御部35を機能させる。表示制御部35は、設定特定部31において音声認識結果に対応する複数の設定候補が存在すると判定された場合に、ユーザーに対してそれら複数の設定候補を提示する制御手段である。表示制御部35は、設定特定部31において所定数以上の設定候補が抽出された場合に、それら所定数以上の設定候補を画像処理装置2の操作パネル11に表示させるためのコマンドD4を生成し、画像処理装置2へ送信する。画像処理装置2は、このコマンドD4を受信すると、音声認識結果に対応して抽出された所定数以上の設定候補を表示した選択画面を生成し、その選択画面を操作パネル11の表示部12に表示する。このとき、画像処理装置2において生成される選択画面には、制御装置8において抽出された所定数以上の設定候補のそれぞれに対応する設定項目が含まれる。そのため、ユーザーは、画像処理装置2の操作パネル11に表示される選択画面を確認することにより、自身が発した音声に対応する複数の設定項目を簡単且つ速やかに把握することができ、それらの複数の設定項目のうちから所望の設定項目を効率的に選択することができる。 Further, the device control unit 33 causes the display control unit 35 to function when a predetermined number or more of setting candidates are extracted by the setting specific unit 31. The display control unit 35 is a control means that presents the plurality of setting candidates to the user when it is determined by the setting specifying unit 31 that there are a plurality of setting candidates corresponding to the voice recognition result. When a predetermined number or more of setting candidates are extracted by the setting specifying unit 31, the display control unit 35 generates a command D4 for displaying the predetermined number or more of the setting candidates on the operation panel 11 of the image processing device 2. , Is transmitted to the image processing device 2. Upon receiving this command D4, the image processing device 2 generates a selection screen displaying a predetermined number or more of setting candidates extracted corresponding to the voice recognition result, and displays the selection screen on the display unit 12 of the operation panel 11. indicate. At this time, the selection screen generated by the image processing device 2 includes setting items corresponding to each of the predetermined number or more of the setting candidates extracted by the control device 8. Therefore, the user can easily and quickly grasp a plurality of setting items corresponding to the voice emitted by the user by checking the selection screen displayed on the operation panel 11 of the image processing device 2. A desired setting item can be efficiently selected from a plurality of setting items.

また、表示制御部35は、所定数以上の設定候補が抽出された場合、それら所定数以上の設定項目を所定の優先順位に従って表示させるためのコマンドD4を生成する。そのため、表示制御部35は、所定数以上の設定候補が抽出された場合、優先順位情報27を参照する。優先順位情報27は、複数の設定項目に対する優先順位が予め定められた情報である。例えば、優先順位は、ユーザーによる設定頻度が高い順に予め定められる。また、優先順位は、各設定候補に対応する設定項目が含まれる操作画面の階層に基づいて予め定められたものであっても構わない。この場合、例えば、トップ画面からの階層が浅い設定候補の優先順位が高くなり、トップ画面からの階層が深い設定項目の優先順位が低くなるように予め定められる。 Further, when a predetermined number or more of setting candidates are extracted, the display control unit 35 generates a command D4 for displaying the predetermined number or more of the setting items in a predetermined priority order. Therefore, the display control unit 35 refers to the priority information 27 when a predetermined number or more of setting candidates are extracted. The priority information 27 is information in which priorities for a plurality of setting items are predetermined. For example, the priority order is predetermined in descending order of frequency of setting by the user. Further, the priority may be predetermined based on the hierarchy of the operation screen including the setting items corresponding to each setting candidate. In this case, for example, it is predetermined that the priority of the setting candidate having a shallow hierarchy from the top screen is high and the priority of the setting item having a deep hierarchy from the top screen is low.

また、表示制御部35は、選択画面として、所定数以上の設定候補のそれぞれに対応するサムネイル画像を配置した画面を画像処理装置2に生成させるようにしても良い。この場合、表示制御部35は、優先順位情報27において規定された優先順位に基づいて選択画面に表示するサムネイル画像の画像サイズを変化させるようにしても良い。例えば、優先順位の高い設定候補に対応するサムネイル画像の画像サイズを、優先順位の低い設定候補に対応するサムネイル画像の画像サイズよりも大きいサイズとすることで、ユーザーにとって優先順位の高い設定候補を選択しやすい画面とすることができる。 Further, the display control unit 35 may cause the image processing device 2 to generate a screen in which thumbnail images corresponding to each of a predetermined number or more of the setting candidates are arranged as the selection screen. In this case, the display control unit 35 may change the image size of the thumbnail image to be displayed on the selection screen based on the priority specified in the priority information 27. For example, by setting the image size of the thumbnail image corresponding to the setting candidate having a high priority to be larger than the image size of the thumbnail image corresponding to the setting candidate having a low priority, the setting candidate having a high priority for the user can be selected. The screen can be easily selected.

尚、案内情報出力部32は、第2のモードが設定されている場合において、所定数以上の設定候補を1つずつ順番に音声出力するための案内情報D3を生成するとき、上記と同様に、優先順位情報27に規定された優先順位に基づき、優先順位の高い設定候補から順に音声出力されるようにテキストデータを配列した案内情報D3を生成するようにしても良い。 When the guidance information output unit 32 generates the guidance information D3 for sequentially outputting the voice of a predetermined number or more of the setting candidates one by one when the second mode is set, the same as above. , The guidance information D3 in which the text data is arranged so that the voice is output in order from the setting candidate having the highest priority may be generated based on the priority specified in the priority information 27.

次に、制御装置8及び画像処理装置2における連携動作の流れについて説明する。まず図6は、制御装置8が音声認識結果に基づいて画像処理装置2に反映すべき設定を特定することができた場合の流れを示す図である。制御装置8は、音声認識装置7から出力されるテキストD2を取得すると、テキストD2に基づいて画像処理装置2に対する設定候補を抽出する処理を行う(プロセスP10)。このとき、テキストD2に基づいて1つの設定候補が抽出することができると、制御装置8は、その1つの設定候補が画像処理装置2に反映すべき設定内容であると特定することができる(プロセスP11)。そして制御装置8は、特定した設定を含む設定反映指示D41を、コマンドD4として画像処理装置2へ送信する。 Next, the flow of the cooperative operation in the control device 8 and the image processing device 2 will be described. First, FIG. 6 is a diagram showing a flow when the control device 8 can specify the setting to be reflected in the image processing device 2 based on the voice recognition result. When the control device 8 acquires the text D2 output from the voice recognition device 7, the control device 8 performs a process of extracting setting candidates for the image processing device 2 based on the text D2 (process P10). At this time, if one setting candidate can be extracted based on the text D2, the control device 8 can specify that the one setting candidate is the setting content to be reflected in the image processing device 2 (). Process P11). Then, the control device 8 transmits the setting reflection instruction D41 including the specified setting to the image processing device 2 as a command D4.

画像処理装置2は、制御装置8から設定反映指示D41を受信すると、その設定反映指示D41に基づき、設定反映処理を行う(プロセスP12)。すなわち、画像処理装置2は、ユーザーが音声で指示した設定を装置内部に反映させるのである。したがって、ユーザーは、操作パネル11に対する手動操作を行うことなく、画像処理装置2に対する各種設定を行うことができる。 When the image processing device 2 receives the setting reflection instruction D41 from the control device 8, the image processing device 2 performs the setting reflection processing based on the setting reflection instruction D41 (process P12). That is, the image processing device 2 reflects the setting instructed by the user by voice inside the device. Therefore, the user can make various settings for the image processing device 2 without manually operating the operation panel 11.

次に図7は、制御装置8が音声認識結果に基づいて所定数以上の設定候補を抽出した場合の流れを示す図である。制御装置8は、音声認識装置7から出力されるテキストD2を取得すると、テキストD2に基づいて画像処理装置2に対する設定候補を抽出する処理を行う(プロセスP10)。このとき、テキストD2に基づいて所定数以上の設定候補を抽出すると、制御装置8は、画像処理装置2に反映すべき設定を特定することができない。そのため、制御装置8は、所定数以上の設定候補のうちからユーザーが所望する設定候補の選択を促すための選択画面表示指示D42を、コマンドD4として画像処理装置2へ送信する。この選択画面表示指示D42には、音声認識結果に基づいて抽出された所定数以上の設定候補を示す情報が含まれる。また、選択画面表示指示D42には、上述したように、所定数以上の設定候補を所定の優先順位に従って表示させるための指示が含まれていても良い。 Next, FIG. 7 is a diagram showing a flow when the control device 8 extracts a predetermined number or more of setting candidates based on the voice recognition result. When the control device 8 acquires the text D2 output from the voice recognition device 7, the control device 8 performs a process of extracting setting candidates for the image processing device 2 based on the text D2 (process P10). At this time, if a predetermined number or more of setting candidates are extracted based on the text D2, the control device 8 cannot specify the settings to be reflected in the image processing device 2. Therefore, the control device 8 transmits the selection screen display instruction D42 for prompting the user to select the desired setting candidate from the predetermined number or more of the setting candidates to the image processing device 2 as a command D4. The selection screen display instruction D42 includes information indicating a predetermined number or more of setting candidates extracted based on the voice recognition result. Further, as described above, the selection screen display instruction D42 may include an instruction for displaying a predetermined number or more of setting candidates according to a predetermined priority order.

画像処理装置2は、制御装置8から選択画面表示指示D42を受信すると、その選択画面表示指示D42に基づき、所定数以上の設定候補を配置した選択画面を生成し、操作パネル11の表示部12に選択画面を表示する(プロセスP13)。これにより、ユーザーは、自身で発した音声に対応する設定候補が所定数以上存在する場合であっても、操作パネル11の表示部12に表示される選択画面を見ることにより、所定数以上の設定候補のうちから所望の設定候補を速やかに選択することができる。そのため、仮に音声入出力装置3が所定数以上の設定候補を順番に音声出力している状態であっても、ユーザーは、音声入出力装置3による音声出力の途中で所望の設定候補を選択することが可能であり、画像処理装置2に対する設定に要する時間を短縮することができる。また、ユーザーは、操作パネル11に表示される選択画面を確認した後、所望の設定候補を手動操作によって選択することができるし、また音声操作によって選択することもできる。 When the image processing device 2 receives the selection screen display instruction D42 from the control device 8, it generates a selection screen in which a predetermined number or more of setting candidates are arranged based on the selection screen display instruction D42, and the display unit 12 of the operation panel 11 The selection screen is displayed in (Process P13). As a result, even if there are a predetermined number or more of setting candidates corresponding to the voice emitted by the user, the user can see the selection screen displayed on the display unit 12 of the operation panel 11 and obtain the predetermined number or more. A desired setting candidate can be quickly selected from the setting candidates. Therefore, even if the voice input / output device 3 outputs a predetermined number or more of setting candidates in order, the user selects a desired setting candidate during the voice output by the voice input / output device 3. This makes it possible to reduce the time required for setting the image processing device 2. Further, the user can manually select a desired setting candidate after confirming the selection screen displayed on the operation panel 11, or can also select by voice operation.

次に、制御装置8において行われる処理手順について詳しく説明する。図8乃至図10は、制御装置8において行われる処理手順の一例を示すフローチャートである。この処理は、制御装置8のCPU43がプログラム25を実行することによって行われる処理であり、CPU43によって繰り返し実行される処理である。 Next, the processing procedure performed in the control device 8 will be described in detail. 8 to 10 are flowcharts showing an example of a processing procedure performed by the control device 8. This process is a process performed by the CPU 43 of the control device 8 executing the program 25, and is a process repeatedly executed by the CPU 43.

制御装置8は、この処理を開始すると、図8に示すように、音声認識装置7による音声認識結果であるテキストD2を受信したか否かを判断する(ステップS10)。音声認識結果を受信していない場合(ステップS10でNO)、制御装置8による処理は終了する。これに対し、音声認識結果を受信した場合(ステップS10でYES)、制御装置8は、テキストD2に付加されている装置情報に基づき、画像処理装置2の装置モデルを特定し(ステップS11)、その装置モデルに対応するキーワード情報26を読み出す(ステップS12)。そして制御装置8は、設定候補抽出処理を実行する(ステップS13)。 When the control device 8 starts this process, as shown in FIG. 8, it determines whether or not the text D2, which is the result of voice recognition by the voice recognition device 7, has been received (step S10). If the voice recognition result has not been received (NO in step S10), the process by the control device 8 ends. On the other hand, when the voice recognition result is received (YES in step S10), the control device 8 identifies the device model of the image processing device 2 based on the device information added to the text D2 (step S11). The keyword information 26 corresponding to the device model is read out (step S12). Then, the control device 8 executes the setting candidate extraction process (step S13).

図9は、設定候補抽出処理(ステップS13)の詳細な処理手順の一例を示すフローチャートである。制御装置8は、設定候補抽出処理を開始すると、ステップS12で読み出したキーワード情報26を参照し、テキストD2に対応する設定候補を全て抽出する(ステップS20)。このとき、1つの設定候補だけが抽出されることもあれば、複数の設定候補が抽出されることもある。また、設定候補が1つも抽出されないこともある。設定候補が1つも抽出されなかった場合、制御装置8による処理はその時点で終了する。 FIG. 9 is a flowchart showing an example of a detailed processing procedure of the setting candidate extraction process (step S13). When the control device 8 starts the setting candidate extraction process, the control device 8 refers to the keyword information 26 read in step S12 and extracts all the setting candidates corresponding to the text D2 (step S20). At this time, only one setting candidate may be extracted, or a plurality of setting candidates may be extracted. In addition, even one setting candidate may not be extracted. If no setting candidate is extracted, the process by the control device 8 ends at that point.

ステップS20において少なくとも1つの設定候補が抽出された場合、制御装置8は、ユーザーによって既に指定された現在の設定状態を確認し(ステップS21)、禁則判定を行う(ステップS22)。すなわち、制御装置8は、ステップS20で抽出した少なくとも1つの設定候補の中に、現在の設定状態に対する禁則条件を満たす設定候補が存在するか否かを判定する。その結果、禁則条件に合致する設定候補が存在する場合(ステップS23でYES)、制御装置8は、禁則条件に合致する設定候補を除外する(ステップS24)。尚、禁則条件に合致する設定候補を除外した結果、設定候補が1つの残らないこととなった場合、制御装置8による処理はその時点で終了する。一方、禁則条件に合致する設定候補が存在しない場合(ステップS23でNO)、制御装置8は、ステップS20で抽出した設定候補を、有効な設定候補として認定する。以上で、設定候補抽出処理が終了する。 When at least one setting candidate is extracted in step S20, the control device 8 confirms the current setting state already specified by the user (step S21), and makes a prohibition determination (step S22). That is, the control device 8 determines whether or not there is a setting candidate satisfying the prohibition condition for the current setting state among at least one setting candidate extracted in step S20. As a result, when there is a setting candidate that matches the prohibition condition (YES in step S23), the control device 8 excludes the setting candidate that matches the prohibition condition (step S24). If, as a result of excluding the setting candidates that match the prohibition conditions, no one setting candidate remains, the processing by the control device 8 ends at that point. On the other hand, when there is no setting candidate that matches the prohibition condition (NO in step S23), the control device 8 recognizes the setting candidate extracted in step S20 as a valid setting candidate. This completes the setting candidate extraction process.

図8のフローチャートに戻り、次に制御装置8は、設定候補抽出処理(ステップS13)において1つの設定候補だけが抽出されたか否かを判断する(ステップS14)。1つの設定候補だけが抽出された場合(ステップS14でYES)、制御装置8は、その1つの設定候補を、画像処理装置2に反映すべき設定として特定することができる。この場合、制御装置8は、画像処理装置2に対して設定反映指示D41を送信する(ステップS15)。つまり、制御装置8は、音声認識結果に基づいて特定した設定を画像処理装置2に反映させるのである。そして制御装置8は、画像処理装置2に反映させた設定をユーザーに音声案内するための案内情報D3をテキストデータとして生成し(ステップS16)、その案内情報D3を音声認識装置7へ送信する(ステップS17)。これにより、音声認識装置7は、テキストデータで表現された案内情報D3を音声情報に変換し、音声情報に変換した案内情報D3を音声入出力装置3へ送信する。そして音声入出力装置3は、音声情報に変換された案内情報D3に基づく音声出力を行うので、画像処理装置2に反映された設定をユーザーに報知することができる。ユーザーは、音声入出力装置3から出力される音声を聞くことにより、自身で発した音声が正しく認識され、所望の設定がなされたか否かを確認することができる。 Returning to the flowchart of FIG. 8, the control device 8 then determines whether or not only one setting candidate has been extracted in the setting candidate extraction process (step S13) (step S14). When only one setting candidate is extracted (YES in step S14), the control device 8 can specify the one setting candidate as a setting to be reflected in the image processing device 2. In this case, the control device 8 transmits the setting reflection instruction D41 to the image processing device 2 (step S15). That is, the control device 8 reflects the setting specified based on the voice recognition result on the image processing device 2. Then, the control device 8 generates guidance information D3 for voice guidance to the user of the setting reflected in the image processing device 2 as text data (step S16), and transmits the guidance information D3 to the voice recognition device 7 (step S16). Step S17). As a result, the voice recognition device 7 converts the guidance information D3 expressed as text data into voice information, and transmits the guidance information D3 converted into voice information to the voice input / output device 3. Then, since the voice input / output device 3 outputs the voice based on the guidance information D3 converted into the voice information, the setting reflected in the image processing device 2 can be notified to the user. By listening to the voice output from the voice input / output device 3, the user can correctly recognize the voice emitted by himself / herself and confirm whether or not the desired setting has been made.

一方、設定候補抽出処理(ステップS13)において複数の設定候補が抽出された場合(ステップS14でNO)、制御装置8は、設定候補提示処理を行う(ステップS18)。図10は、その設定候補提示処理(ステップS18)の詳細な処理手順の一例を示すフローチャートである。制御装置8は、設定候補提示処理を開始すると、まず音声認識結果に基づいて抽出された設定候補の数を確認する(ステップS30)。そして制御装置8は、所定数以上の設定候補が抽出されたか否かを判断する(ステップS31)。 On the other hand, when a plurality of setting candidates are extracted in the setting candidate extraction process (step S13) (NO in step S14), the control device 8 performs the setting candidate presentation process (step S18). FIG. 10 is a flowchart showing an example of a detailed processing procedure of the setting candidate presentation process (step S18). When the control device 8 starts the setting candidate presentation process, it first confirms the number of setting candidates extracted based on the voice recognition result (step S30). Then, the control device 8 determines whether or not a predetermined number or more of setting candidates have been extracted (step S31).

所定数以上の設定候補が抽出された場合(ステップS31でYES)、制御装置8は、優先順位情報27を読み出し(ステップS32)、優先順位情報27に予め定められている優先順位に基づいて所定数以上の設定候補の優先順位を決定する(ステップS33)。そして制御装置8は、決定した優先順位に基づいて所定数以上の設定候補を表示させるための選択画面表示指示D42を生成し、その選択画面表示指示D42を画像処理装置2へ送信する(ステップS34)。また、制御装置8は、設定モードに応じてユーザーに対する音声案内を行うための案内情報D3をテキストデータとして生成し(ステップS35)、その案内情報D3を音声認識装置7へ送信する(ステップS36)。尚、制御装置8における設定モードが第1のモードであれば、ステップS35、S36の処理は行われず、音声入出力装置3による音声出力は行われない。 When a predetermined number or more of setting candidates are extracted (YES in step S31), the control device 8 reads the priority information 27 (step S32) and determines the priority information 27 based on the predetermined priority. The priority order of a number or more setting candidates is determined (step S33). Then, the control device 8 generates a selection screen display instruction D42 for displaying a predetermined number or more of setting candidates based on the determined priority order, and transmits the selection screen display instruction D42 to the image processing device 2 (step S34). ). Further, the control device 8 generates guidance information D3 for performing voice guidance to the user according to the setting mode as text data (step S35), and transmits the guidance information D3 to the voice recognition device 7 (step S36). .. If the setting mode in the control device 8 is the first mode, the processes of steps S35 and S36 are not performed, and the voice output by the voice input / output device 3 is not performed.

一方、所定数以上の設定候補が抽出されていない場合(ステップS31でNO)、制御装置8は、抽出された複数の設定候補を順番に音声出力するための案内情報D3をテキストデータとして生成し(ステップS37)、その案内情報D3を音声認識装置7へ送信する(ステップS38)。つまり、本実施形態における制御装置8は、音声認識結果に基づいて抽出された設定候補の数が所定数未満であれば、複数の設定候補を順番に音声出力したとしても、音声出力が終了するまでにそれ程長い時間を要しないため、画像処理装置2の操作パネル11には選択画面を表示させないようにしている。そのため、ユーザーが画像処理装置2から離れた場所で音声操作を行っている場合には、操作パネル11に対して無駄な表示を行わなくて済み、操作パネル11が省電力モードであれば、その省電力モードを継続することができる。 On the other hand, when a predetermined number or more of setting candidates are not extracted (NO in step S31), the control device 8 generates guidance information D3 as text data for sequentially outputting the extracted plurality of setting candidates by voice. (Step S37), the guidance information D3 is transmitted to the voice recognition device 7 (step S38). That is, if the number of setting candidates extracted based on the voice recognition result is less than a predetermined number, the control device 8 in the present embodiment ends the voice output even if the plurality of setting candidates are sequentially output by voice. Since it does not take so long, the selection screen is not displayed on the operation panel 11 of the image processing device 2. Therefore, when the user is performing voice operation at a place away from the image processing device 2, it is not necessary to perform unnecessary display on the operation panel 11, and if the operation panel 11 is in the power saving mode, the display is not necessary. The power saving mode can be continued.

尚、上記においては、制御装置8が、画像処理装置2に対するコマンドD4として、設定反映指示D41と選択画面表示指示D42を送信する場合を例示したが、これらは単なる一例である。すなわち、制御装置8は、設定反映指示D41及び選択画面表示指示D42以外にも、様々なコマンドD4を生成することができる。例えば、制御装置8は、ユーザーによる指示がジョブの実行指示である場合には、ジョブ実行指示をコマンドD4として生成する。 In the above description, the control device 8 transmits the setting reflection instruction D41 and the selection screen display instruction D42 as the command D4 to the image processing device 2, but these are merely examples. That is, the control device 8 can generate various commands D4 in addition to the setting reflection instruction D41 and the selection screen display instruction D42. For example, when the instruction by the user is a job execution instruction, the control device 8 generates the job execution instruction as the command D4.

次に画像処理装置2における処理手順について説明する。図11は、画像処理装置2において行われる処理手順の一例を示すフローチャートである。尚、図11では、画像処理装置2が制御装置8からコマンドを受信した場合の処理手順のみを示している。画像処理装置2は、この処理を開始すると、制御装置8からコマンドD4を受信したか否かを判断する(ステップS40)。制御装置8からコマンドD4を受信していない場合(ステップS40でNO)、画像処理装置2による処理は終了する。一方、制御装置8からコマンドD4を受信している場合(ステップS40でYES)、画像処理装置2は、受信したコマンドD4が設定反映指示D41であるか否かを判断する(ステップS41)。コマンドD4が設定反映指示D41である場合(ステップS41でYES)、画像処理装置2は、ジョブ設定部22を機能させ、設定反映指示D41に基づく設定を反映させたジョブ設定を行う(ステップS42)。 Next, the processing procedure in the image processing apparatus 2 will be described. FIG. 11 is a flowchart showing an example of a processing procedure performed by the image processing apparatus 2. Note that FIG. 11 shows only the processing procedure when the image processing device 2 receives a command from the control device 8. When the image processing device 2 starts this processing, it determines whether or not the command D4 has been received from the control device 8 (step S40). If the command D4 has not been received from the control device 8 (NO in step S40), the processing by the image processing device 2 ends. On the other hand, when the command D4 is received from the control device 8 (YES in step S40), the image processing device 2 determines whether or not the received command D4 is the setting reflection instruction D41 (step S41). When the command D4 is the setting reflection instruction D41 (YES in step S41), the image processing device 2 makes the job setting unit 22 function and performs the job setting reflecting the setting based on the setting reflection instruction D41 (step S42). ..

また、コマンドD4が設定反映指示D41でなかった場合(ステップS41でNO)、画像処理装置2は、コマンドD4が選択画面表示指示D42であるか否かを判断する(ステップS43)。コマンドD4が選択画面表示指示D42である場合(ステップS43でYES)、画像処理装置2は、パネル制御部20を機能させ、所定数以上の設定候補を表示するための選択画面を生成する(ステップS44)。このとき、パネル制御部20は、選択画面表示指示D42において所定数以上の設定候補のそれぞれに対して優先順位が設定されていれば、その優先順位に基づいて所定数以上の設定候補をレイアウトした選択画面を生成する。そしてパネル制御部20は、選択画面表示指示D42に基づいて生成した選択画面を操作パネル11の表示部12に表示する(ステップS45)。例えば、制御装置8からコマンドD4を受信した時点において操作パネル11が省電力モードである場合、パネル制御部20は、表示部12への給電を開始して選択画面を表示する。この場合、パネル制御部20は、選択画面の表示開始から所定時間が経過するまでの間、表示部12を点滅表示させることでユーザーが操作パネル11を注目できるように注意喚起を行うようにしても良い。尚、このような注意喚起は、例えばスピーカーから所定のビープ音などを発することで実現しても良い。 If the command D4 is not the setting reflection instruction D41 (NO in step S41), the image processing device 2 determines whether or not the command D4 is the selection screen display instruction D42 (step S43). When the command D4 is the selection screen display instruction D42 (YES in step S43), the image processing device 2 operates the panel control unit 20 to generate a selection screen for displaying a predetermined number or more of setting candidates (step). S44). At this time, if the priority is set for each of the predetermined number or more of the setting candidates in the selection screen display instruction D42, the panel control unit 20 lays out the predetermined number or more of the setting candidates based on the priority. Generate a selection screen. Then, the panel control unit 20 displays the selection screen generated based on the selection screen display instruction D42 on the display unit 12 of the operation panel 11 (step S45). For example, if the operation panel 11 is in the power saving mode when the command D4 is received from the control device 8, the panel control unit 20 starts supplying power to the display unit 12 and displays the selection screen. In this case, the panel control unit 20 blinks the display unit 12 from the start of the display of the selection screen until a predetermined time elapses so that the user can pay attention to the operation panel 11. Is also good. It should be noted that such a warning may be realized by, for example, emitting a predetermined beep sound from the speaker.

図12は、操作パネル11の表示部12に表示される選択画面G10の一例を示す図である。制御装置8においてユーザーの音声認識結果に基づく設定候補として所定数以上の設定候補が抽出された場合、画像処理装置2は、操作パネル11の表示部12に対して図12に示すような選択画面G10を表示する。図12では、ユーザーが「リョウメン」という音声を発した場合の選択画面G10の一例を示している。この選択画面G10には、所定数以上の設定候補を表示するための設定候補表示領域R1が含まれており、その設定候補表示領域R1に、所定数以上の設定候補のそれぞれに対応するサムネイル画像61,62,63,64が表示される。これらのサムネイル画像61,62,63,64の画像サイズは、制御装置8において決定された優先順位に基づくサイズとなっている。ここで、優先順位がユーザーによる設定頻度の高いものから順に設定されているとすると、ユーザーは、画像サイズの最も大きいサムネイル画像62が最も設定頻度の高い設定項目であることを把握することができる。つまり、選択画面G10は、ユーザーにとって設定頻度の高い設定項目を選択しやすい画面となっているのである。したがって、ユーザーは、音声入出力装置3から出力される音声案内を全て聞かなくても、設定頻度の高い設定項目を効率的に選択することが可能である。 FIG. 12 is a diagram showing an example of the selection screen G10 displayed on the display unit 12 of the operation panel 11. When a predetermined number or more of setting candidates are extracted as setting candidates based on the user's voice recognition result in the control device 8, the image processing device 2 displays a selection screen as shown in FIG. 12 on the display unit 12 of the operation panel 11. Display G10. FIG. 12 shows an example of the selection screen G10 when the user emits the voice “Ryomen”. The selection screen G10 includes a setting candidate display area R1 for displaying a predetermined number or more of setting candidates, and the setting candidate display area R1 includes thumbnail images corresponding to each of the predetermined number or more of the setting candidates. 61, 62, 63, 64 are displayed. The image sizes of these thumbnail images 61, 62, 63, and 64 are sizes based on the priority order determined by the control device 8. Here, assuming that the priorities are set in order from the one with the highest frequency of setting by the user, the user can grasp that the thumbnail image 62 having the largest image size is the setting item with the highest frequency of setting. .. That is, the selection screen G10 is a screen that makes it easy for the user to select a setting item that is frequently set. Therefore, the user can efficiently select the setting items with high setting frequency without listening to all the voice guidance output from the voice input / output device 3.

図12に示す選択画面G1が表示されているとき、ユーザーは、所望の設定候補を選択する操作として操作パネル11に対する手動操作を行うことができる。例えば、ユーザーは、複数のサムネイル画像61,62,63,64のうちから所望の設定候補に対応するサムネイル画像をタッチし、選択画面G10内の操作ボタンB1を操作することにより、一の設定候補を選択することができる。尚、ユーザーは、手動操作だけでなく、音声を発することによって所望の設定候補を選択することもできる。 When the selection screen G1 shown in FIG. 12 is displayed, the user can manually operate the operation panel 11 as an operation for selecting a desired setting candidate. For example, the user touches the thumbnail image corresponding to the desired setting candidate from the plurality of thumbnail images 61, 62, 63, 64 and operates the operation button B1 in the selection screen G10 to obtain one setting candidate. Can be selected. The user can select a desired setting candidate not only by manual operation but also by emitting voice.

図13は、図12とは異なる選択画面G11の例を示す図である。制御装置8においてユーザーの音声認識結果に基づく設定候補として所定数以上の設定候補が抽出された場合、画像処理装置2は、操作パネル11の表示部12に対して図13に示すような選択画面G11を表示しても良い。図13でも、ユーザーが「リョウメン」という音声を発した場合の選択画面G11の例を示している。この選択画面G11においても、所定数以上の設定候補を表示するための設定候補表示領域R1が含まれており、その設定候補表示領域R1に、所定数以上の設定候補のそれぞれがリスト形式で表示される。所定数以上の設定候補のリストは、例えば優先順位の高いものからリストの上位に表示される。したがって、ユーザーは、音声入出力装置3から出力される音声案内を全て聞かなくても、優先順位の高い設定項目を効率的に選択することが可能である。尚、図13では、複数の設定候補のうちから、ユーザーがコピー機能のプリンタ部18に対する両面印刷をオンに設定することを選択した場合を例示している。 FIG. 13 is a diagram showing an example of a selection screen G11 different from that of FIG. When a predetermined number or more of setting candidates are extracted as setting candidates based on the user's voice recognition result in the control device 8, the image processing device 2 displays a selection screen as shown in FIG. 13 on the display unit 12 of the operation panel 11. G11 may be displayed. FIG. 13 also shows an example of the selection screen G11 when the user emits the voice “Ryomen”. The selection screen G11 also includes a setting candidate display area R1 for displaying a predetermined number or more of setting candidates, and each of the predetermined number or more of setting candidates is displayed in a list format in the setting candidate display area R1. Will be done. A list of a predetermined number or more of setting candidates is displayed at the top of the list, for example, from the one with the highest priority. Therefore, the user can efficiently select the setting item having a high priority without listening to all the voice guidance output from the voice input / output device 3. Note that FIG. 13 illustrates a case where the user selects to turn on double-sided printing for the printer unit 18 of the copy function from among a plurality of setting candidates.

図11のフローチャートに戻り、画像処理装置2は、受信したコマンドD4が選択画面表示指示D42でなかった場合(ステップS43でNO)、ジョブの実行指示であるか否かを判断する(ステップS46)。コマンドD4がジョブの実行指示である場合(ステップS46でYES)、画像処理装置2は、ジョブ制御部21を機能させ、ユーザーによって指定されたジョブの実行を開始する(ステップS47)。 Returning to the flowchart of FIG. 11, when the received command D4 is not the selection screen display instruction D42 (NO in step S43), the image processing device 2 determines whether or not it is a job execution instruction (step S46). .. When the command D4 is a job execution instruction (YES in step S46), the image processing device 2 activates the job control unit 21 and starts executing the job specified by the user (step S47).

一方、受信したコマンドD4がジョブの実行指示でもなかった場合(ステップS46でNO)、画像処理装置2は、受信したコマンドD4に基づき、上述した処理以外のその他の処理を実行する(ステップS48)。以上で、画像処理装置2による処理が終了する。 On the other hand, when the received command D4 is not a job execution instruction (NO in step S46), the image processing device 2 executes other processes other than the above-described processes based on the received command D4 (step S48). .. This completes the processing by the image processing device 2.

以上のように、本実施形態の制御システム1は、クラウド5上に設置されている制御装置8が、ユーザーの発した音声に基づいて画像処理装置2を遠隔制御するように構成されている。そして、本実施形態の制御装置8は、ユーザーの発した音声に対応する設定候補として、所定数以上の設定候補を抽出すると、画像処理装置2の操作パネル11に、それら所定数以上の設定候補を表示させるようにしている。そのため、本実施形態の制御装置8は、所定数以上の設定候補を抽出した場合に、それらの所定数以上の設定候補を順番に音声でユーザーに聞かせなくても、所定数以上の設定候補を視認させることで、ユーザーに効率的に所望の設定候補を選択させることができる。それ故、ユーザーが所望の設定候補を選択するまでの時間を短縮することが可能であり、画像処理装置2が一人のユーザーによって占有されてしまう時間を短くすることができる。 As described above, the control system 1 of the present embodiment is configured such that the control device 8 installed on the cloud 5 remotely controls the image processing device 2 based on the voice emitted by the user. Then, when the control device 8 of the present embodiment extracts a predetermined number or more of the setting candidates as the setting candidates corresponding to the voice emitted by the user, the operation panel 11 of the image processing device 2 displays the predetermined number or more of the setting candidates. Is displayed. Therefore, when the control device 8 of the present embodiment extracts a predetermined number or more of the setting candidates, the control device 8 can select the predetermined number or more of the setting candidates even if the user does not hear the predetermined number or more of the setting candidates in order by voice. By visually recognizing it, the user can efficiently select a desired setting candidate. Therefore, it is possible to shorten the time until the user selects a desired setting candidate, and it is possible to shorten the time when the image processing device 2 is occupied by one user.

以上、本発明に関する好ましい実施形態について説明したが、本発明は、上記実施形態において説明した内容のものに限られるものではなく、種々の変形例が適用可能である。 Although the preferred embodiment of the present invention has been described above, the present invention is not limited to the content described in the above embodiment, and various modifications can be applied.

例えば、上記各実施形態では、音声認識装置7と制御装置8とが別体である場合を例示した。しかし、本発明は、音声認識装置7と制御装置8とが別体であるものに限られるものではない。例えば、制御装置8は、音声認識装置7と一体的に構成されるものであっても構わない。 For example, in each of the above embodiments, the case where the voice recognition device 7 and the control device 8 are separate bodies has been illustrated. However, the present invention is not limited to the voice recognition device 7 and the control device 8 being separate bodies. For example, the control device 8 may be integrally configured with the voice recognition device 7.

また、上記実施形態では、制御装置8がクラウド5上にサーバーとして設置される場合を説明したが、これに限られるものではない。例えば、制御装置8は、ローカル環境に設置されるサーバーであっても構わない。また、制御装置8は、画像処理装置2の内部に設けられるものであっても構わない。画像処理装置2に制御装置8が設けられる場合、その制御装置8は、上述のように音声認識装置7の機能を更に備えたものであっても構わない。 Further, in the above embodiment, the case where the control device 8 is installed as a server on the cloud 5 has been described, but the present invention is not limited to this. For example, the control device 8 may be a server installed in a local environment. Further, the control device 8 may be provided inside the image processing device 2. When the image processing device 2 is provided with the control device 8, the control device 8 may further have the function of the voice recognition device 7 as described above.

また、上記実施形態では、音声入出力装置3と画像処理装置2とが別体である場合を例示した。しかし、本発明は、それに限られるものでもない。すなわち、画像処理装置2は、上述した音声入出力装置3の機能を備えているものであっても構わない。 Further, in the above embodiment, the case where the audio input / output device 3 and the image processing device 2 are separate bodies has been illustrated. However, the present invention is not limited thereto. That is, the image processing device 2 may have the functions of the audio input / output device 3 described above.

また、上記実施形態では、音声入出力装置3は、音声の入出力を行う装置である場合を例示した。しかし、音声入出力装置3は、音声の入力のみを行う装置であっても構わない。この場合、上述した音声入出力装置3は、音声入力装置としてのみ機能する。 Further, in the above embodiment, the case where the voice input / output device 3 is a device that inputs / outputs voice is illustrated. However, the voice input / output device 3 may be a device that only inputs voice. In this case, the voice input / output device 3 described above functions only as a voice input device.

また、上記実施形態では、制御装置8の記憶部41に予めプログラム25がインストールされている場合を例示した。しかし、プログラム25は、例えば通信インタフェース42などを介して制御装置8にインストールされるものであっても構わない。この場合、プログラム25は、インターネットなどを介してダウンロード可能な態様で提供される。また、これに限らず、プログラム25は、CD−ROMやUSBメモリなどのコンピュータ読み取り可能な記録媒体に記録された態様で提供されるものであっても構わない。 Further, in the above embodiment, the case where the program 25 is pre-installed in the storage unit 41 of the control device 8 is illustrated. However, the program 25 may be installed in the control device 8 via, for example, the communication interface 42. In this case, the program 25 is provided in a form that can be downloaded via the Internet or the like. Further, the program 25 is not limited to this, and may be provided in a form recorded on a computer-readable recording medium such as a CD-ROM or a USB memory.

1 制御システム
2 画像処理装置
3 音声入出力装置
7 音声認識装置
8 制御装置
25 プログラム
31 設定特定部(設定特定手段)
32 案内情報出力部(案内情報出力手段)
33 装置制御部
34 設定候補抽出部
35 表示制御部(制御手段)
36 設定反映部
1 Control system 2 Image processing device 3 Voice input / output device 7 Voice recognition device 8 Control device 25 Program 31 Setting identification unit (setting identification means)
32 Guidance information output unit (guidance information output means)
33 Device control unit 34 Setting candidate extraction unit 35 Display control unit (control means)
36 Setting reflection section

Claims (33)

画像処理装置を制御する制御装置であって、
ユーザーによって発せられた音声の音声認識結果に基づいて前記画像処理装置に反映すべき設定を特定する設定特定手段と、
前記設定特定手段において前記音声認識結果に対応する複数の設定候補が存在すると判定された場合に、前記複数の設定候補を提示する制御手段と、
を備えることを特徴とする制御装置。
A control device that controls an image processing device
A setting specifying means for specifying a setting to be reflected in the image processing device based on a voice recognition result of a voice emitted by a user, and a setting specifying means.
When it is determined in the setting specifying means that there are a plurality of setting candidates corresponding to the voice recognition result, the control means for presenting the plurality of setting candidates and the control means.
A control device comprising.
前記制御手段は、前記設定特定手段において前記音声認識結果に対応する所定数以上の設定候補が存在すると判定された場合に、前記複数の設定候補を提示することを特徴とする請求項1に記載の制御装置。 The first aspect of claim 1, wherein the control means presents a plurality of setting candidates when it is determined in the setting specifying means that there are a predetermined number or more of setting candidates corresponding to the voice recognition result. Control device. 前記画像処理装置は、表示手段を有し、
前記制御手段は、前記複数の設定候補を前記表示手段に表示させることによって提示することを特徴とする請求項1又は2に記載の制御装置。
The image processing device has a display means and has a display means.
The control device according to claim 1 or 2, wherein the control means presents the plurality of setting candidates by displaying them on the display means.
前記制御手段は、所定の優先順位に従って前記複数の設定候補を提示することを特徴とする請求項1乃至3のいずれかに記載の制御装置。 The control device according to any one of claims 1 to 3, wherein the control means presents the plurality of setting candidates according to a predetermined priority. 前記優先順位は、ユーザーによる設定頻度が高い順に定められることを特徴とする請求項4に記載の制御装置。 The control device according to claim 4, wherein the priority order is determined in descending order of frequency of setting by the user. 前記優先順位は、前記設定候補に対応する設定項目が含まれる操作画面の階層に基づいて予め定められることを特徴とする請求項4に記載の制御装置。 The control device according to claim 4, wherein the priority order is predetermined based on a hierarchy of operation screens including setting items corresponding to the setting candidates. 前記制御手段は、前記複数の設定候補のそれぞれに対応するサムネイル画像を前記表示手段に表示させることを特徴とする請求項3に記載の制御装置。 The control device according to claim 3, wherein the control means causes the display means to display thumbnail images corresponding to each of the plurality of setting candidates. 前記制御手段は、前記複数の設定候補のそれぞれに対応する前記サムネイル画像の画像サイズを所定の優先順位に応じて変化させることを特徴とする請求項7に記載の制御装置。 The control device according to claim 7, wherein the control means changes the image size of the thumbnail image corresponding to each of the plurality of setting candidates according to a predetermined priority. 前記制御手段は、前記設定特定手段において前記設定候補の数が所定数未満であると判定された場合、前記複数の設定候補を前記表示手段に表示させないことを特徴とする請求項3、7又は8に記載の制御装置。 Claims 3, 7 or the control means do not display the plurality of setting candidates on the display means when the number of the setting candidates is determined by the setting specifying means to be less than a predetermined number. 8. The control device according to 8. 前記設定特定手段によって特定された設定に基づく音声案内を行うための案内情報を出力する案内情報出力手段、
を更に備えることを特徴とする請求項1乃至9のいずれかに記載の制御装置。
Guidance information output means for outputting guidance information for performing voice guidance based on the setting specified by the setting identification means,
The control device according to any one of claims 1 to 9, further comprising.
前記案内情報出力手段は、前記設定特定手段において前記設定候補の数が所定数未満であると判定された場合、前記所定数未満の設定候補を音声案内するための案内情報を出力することを特徴とする請求項10に記載の制御装置。 The guidance information output means is characterized in that when it is determined by the setting specifying means that the number of setting candidates is less than a predetermined number, guidance information for voice guidance of the setting candidates less than the predetermined number is output. The control device according to claim 10. 前記案内情報出力手段は、前記設定特定手段において所定数以上の設定候補が存在すると判定された場合、前記所定数以上の設定候補を音声案内するための案内情報を出力することを特徴とする請求項10又は11に記載の制御装置。 When it is determined that a predetermined number or more of setting candidates exist in the setting specifying means, the guidance information output means outputs guidance information for voice-guidating the predetermined number or more of the setting candidates. Item 10. The control device according to item 10. 前記案内情報出力手段は、前記設定特定手段において所定数以上の設定候補が存在すると判定された場合、ユーザーに前記画像処理装置に設けられている表示手段の確認を促す音声案内のための案内情報を出力することを特徴とする請求項10乃至12のいずれかに記載の制御装置。 The guidance information output means provides guidance information for voice guidance that prompts the user to confirm the display means provided in the image processing device when it is determined that a predetermined number or more of setting candidates exist in the setting specifying means. The control device according to any one of claims 10 to 12, characterized in that 前記案内情報出力手段は、前記設定特定手段において所定数以上の設定候補が存在すると判定された場合、案内情報を出力しないことを特徴とする請求項10又は11に記載の制御装置。 The control device according to claim 10 or 11, wherein the guidance information output means does not output guidance information when it is determined that a predetermined number or more of setting candidates exist in the setting specifying means. 前記設定特定手段は、前記音声認識結果に対応する複数の設定候補が存在すると判定した場合、現在の設定状態に対して禁則条件を満たす設定候補を前記複数の設定候補から除外することを特徴とする請求項1乃至14のいずれかに記載の制御装置。 When it is determined that there are a plurality of setting candidates corresponding to the voice recognition result, the setting specifying means excludes the setting candidates satisfying the prohibition condition with respect to the current setting state from the plurality of setting candidates. The control device according to any one of claims 1 to 14. 前記制御装置は、前記画像処理装置と通信可能なサーバーであることを特徴とする請求項1乃至15のいずれかに記載の制御装置。 The control device according to any one of claims 1 to 15, wherein the control device is a server capable of communicating with the image processing device. 前記制御装置は、前記画像処理装置に設けられることを特徴とする請求項1乃至15のいずれかに記載の制御装置。 The control device according to any one of claims 1 to 15, wherein the control device is provided in the image processing device. 画像処理装置と、
前記画像処理装置を音声操作するための音声を入力する音声入力装置と、
前記音声入力装置に入力された音声に基づいて前記画像処理装置を制御する制御装置と、
を備える制御システムであって、
前記制御装置は、
前記音声入力装置に入力された音声の音声認識結果に基づいて前記画像処理装置に反映すべき設定を特定する設定特定手段と、
前記設定特定手段において前記音声認識結果に対応する複数の設定候補が存在すると判定された場合に、前記複数の設定候補を提示する制御手段と、
を備えることを特徴とする制御システム。
Image processing equipment and
A voice input device for inputting voice for operating the image processing device by voice,
A control device that controls the image processing device based on the voice input to the voice input device, and
It is a control system equipped with
The control device is
Setting specifying means for specifying the setting to be reflected in the image processing device based on the voice recognition result of the voice input to the voice input device, and
When it is determined in the setting specifying means that there are a plurality of setting candidates corresponding to the voice recognition result, the control means for presenting the plurality of setting candidates and the control means.
A control system characterized by being equipped with.
プロセッサーによって実行されることにより、画像処理装置を制御する制御プログラムであって、前記プロセッサーに、
ユーザーによって発せられた音声の音声認識結果に基づいて前記画像処理装置に反映すべき設定を特定させる設定特定ステップと、
前記設定特定ステップにおいて前記音声認識結果に対応する複数の設定候補が存在すると判定された場合に、前記複数の設定候補を提示する制御ステップと、
を実行させることを特徴とする制御プログラム。
A control program that controls an image processing unit by being executed by a processor.
A setting specifying step for specifying a setting to be reflected in the image processing device based on the voice recognition result of the voice emitted by the user, and a setting specifying step.
When it is determined that there are a plurality of setting candidates corresponding to the voice recognition result in the setting specific step, a control step for presenting the plurality of setting candidates and a control step for presenting the plurality of setting candidates.
A control program characterized by executing.
前記制御ステップは、前記設定特定ステップにおいて前記音声認識結果に対応する所定数以上の設定候補が存在すると判定された場合に、前記所定数以上の設定候補を提示することを特徴とする請求項19に記載の制御プログラム。 19. The control step is characterized in that when it is determined in the setting specific step that there are a predetermined number or more of setting candidates corresponding to the voice recognition result, the predetermined number or more of setting candidates are presented. The control program described in. 前記画像処理装置は、表示手段を有し、
前記制御ステップは、前記複数の設定候補を前記表示手段に表示させることによって提示することを特徴とする請求項19又は20に記載の制御プログラム。
The image processing device has a display means and has a display means.
The control program according to claim 19 or 20, wherein the control step is presented by displaying the plurality of setting candidates on the display means.
前記制御ステップは、所定の優先順位に従って前記複数の設定候補を提示することを特徴とする請求項19乃至21のいずれかに記載の制御プログラム。 The control program according to any one of claims 19 to 21, wherein the control step presents the plurality of setting candidates according to a predetermined priority. 前記優先順位は、ユーザーによる設定頻度が高い順に定められることを特徴とする請求項22に記載の制御プログラム。 The control program according to claim 22, wherein the priority order is determined in descending order of frequency of setting by the user. 前記優先順位は、前記設定候補に対応する設定項目が含まれる操作画面の階層に基づいて予め定められることを特徴とする請求項22に記載の制御プログラム。 The control program according to claim 22, wherein the priority order is predetermined based on a hierarchy of operation screens including setting items corresponding to the setting candidates. 前記制御ステップは、前記複数の設定候補のそれぞれに対応するサムネイル画像を前記表示手段に表示させることを特徴とする請求項21に記載の制御プログラム。 The control program according to claim 21, wherein the control step causes the display means to display thumbnail images corresponding to each of the plurality of setting candidates. 前記制御ステップは、前記複数の設定候補のそれぞれに対応する前記サムネイル画像の画像サイズを所定の優先順位に応じて変化させることを特徴とする請求項25に記載の制御プログラム。 The control program according to claim 25, wherein the control step changes the image size of the thumbnail image corresponding to each of the plurality of setting candidates according to a predetermined priority. 前記制御ステップは、前記設定特定ステップにおいて前記設定候補の数が所定数未満であると判定された場合、前記複数の設定候補を前記表示手段に表示させないことを特徴とする請求項21、25又は26に記載の制御プログラム。 21. 25 or the control step is characterized in that when it is determined in the setting specific step that the number of the setting candidates is less than a predetermined number, the plurality of setting candidates are not displayed on the display means. 26. The control program. 前記プロセッサーに、
前記設定特定ステップによって特定された設定に基づく音声案内を行うための案内情報を出力する案内情報出力ステップ、
を更に実行させることを特徴とする請求項19乃至27のいずれかに記載の制御プログラム。
To the processor
Guidance information output step, which outputs guidance information for performing voice guidance based on the setting specified by the setting specific step,
The control program according to any one of claims 19 to 27, wherein the control program is further executed.
前記案内情報出力ステップは、前記設定特定ステップにおいて前記設定候補の数が所定数未満であると判定された場合、前記所定数未満の設定候補を音声案内するための案内情報を出力することを特徴とする請求項28に記載の制御プログラム。 The guidance information output step is characterized in that when it is determined in the setting specific step that the number of setting candidates is less than a predetermined number, guidance information for voice guidance of the setting candidates less than the predetermined number is output. 28. The control program according to claim 28. 前記案内情報出力ステップは、前記設定特定ステップにおいて所定数以上の設定候補が存在すると判定された場合、前記複数の設定候補を音声案内するための案内情報を出力することを特徴とする請求項28又は29に記載の制御プログラム。 28. The guidance information output step is characterized in that, when it is determined that a predetermined number or more of setting candidates exist in the setting specific step, guidance information for voice-guidating the plurality of setting candidates is output. Alternatively, the control program according to 29. 前記案内情報出力ステップは、前記設定特定ステップにおいて所定数以上の設定候補が存在すると判定された場合、ユーザーに前記画像処理装置に設けられている表示手段の確認を促す音声案内のための案内情報を出力することを特徴とする請求項28乃至30のいずれかに記載の制御プログラム。 The guidance information output step is guidance information for voice guidance that prompts the user to confirm the display means provided in the image processing device when it is determined that a predetermined number or more of setting candidates exist in the setting specific step. 28. The control program according to any one of claims 28 to 30, wherein the control program is output. 前記案内情報出力ステップは、前記設定特定ステップにおいて所定数以上の設定候補が存在すると判定された場合、案内情報を出力しないことを特徴とする請求項28又は29に記載の制御プログラム。 The control program according to claim 28 or 29, wherein the guidance information output step does not output guidance information when it is determined that a predetermined number or more of setting candidates exist in the setting specific step. 前記設定特定ステップは、前記音声認識結果に対応する複数の設定候補が存在すると判定した場合、現在の設定状態に対して禁則条件を満たす設定候補を前記複数の設定候補から除外することを特徴とする請求項19乃至32のいずれかに記載の制御プログラム。 The setting specific step is characterized in that, when it is determined that there are a plurality of setting candidates corresponding to the voice recognition result, the setting candidates satisfying the prohibition condition with respect to the current setting state are excluded from the plurality of setting candidates. The control program according to any one of claims 19 to 32.
JP2019225082A 2019-12-13 2019-12-13 Control device, control system and control program Active JP7447458B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019225082A JP7447458B2 (en) 2019-12-13 2019-12-13 Control device, control system and control program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019225082A JP7447458B2 (en) 2019-12-13 2019-12-13 Control device, control system and control program

Publications (2)

Publication Number Publication Date
JP2021096493A true JP2021096493A (en) 2021-06-24
JP7447458B2 JP7447458B2 (en) 2024-03-12

Family

ID=76431381

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019225082A Active JP7447458B2 (en) 2019-12-13 2019-12-13 Control device, control system and control program

Country Status (1)

Country Link
JP (1) JP7447458B2 (en)

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09292895A (en) * 1996-04-25 1997-11-11 Matsushita Electric Ind Co Ltd Human and machine interface device
JP2000250587A (en) * 1999-03-01 2000-09-14 Hitachi Ltd Voice recognition device and voice recognizing and translating device
JP2003051887A (en) * 2001-08-06 2003-02-21 Minolta Co Ltd Control system and control method
JP2007206886A (en) * 2006-01-31 2007-08-16 Canon Inc Information processor and method
JP2009252238A (en) * 2008-04-08 2009-10-29 Lg Electronics Inc Mobile terminal and its menu control method
US20120303267A1 (en) * 2009-07-27 2012-11-29 Robert Bosch Gmbh Method and system for improving speech recognition accuracy by use of geographic information
US20140095159A1 (en) * 2012-09-28 2014-04-03 Samsung Electronics Co., Ltd. Image processing apparatus and control method thereof and image processing system
JP2016009901A (en) * 2014-06-23 2016-01-18 シャープ株式会社 Compound machine and display control method
JP2018049510A (en) * 2016-09-23 2018-03-29 富士ゼロックス株式会社 Information processing device and program
JP2019003631A (en) * 2017-06-09 2019-01-10 ネイバー コーポレーションNAVER Corporation Device, method, computer program, and recording medium for providing information
JP2019198987A (en) * 2018-05-14 2019-11-21 コニカミノルタ株式会社 Operation screen display device, image processing apparatus, and program

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002355486A (en) 2001-06-01 2002-12-10 Toshiba Corp Washing machine
JP4259054B2 (en) 2002-07-10 2009-04-30 株式会社エクォス・リサーチ In-vehicle device
JP2017015361A (en) 2015-07-06 2017-01-19 東芝ホームテクノ株式会社 Heating cooker

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09292895A (en) * 1996-04-25 1997-11-11 Matsushita Electric Ind Co Ltd Human and machine interface device
JP2000250587A (en) * 1999-03-01 2000-09-14 Hitachi Ltd Voice recognition device and voice recognizing and translating device
JP2003051887A (en) * 2001-08-06 2003-02-21 Minolta Co Ltd Control system and control method
JP2007206886A (en) * 2006-01-31 2007-08-16 Canon Inc Information processor and method
JP2009252238A (en) * 2008-04-08 2009-10-29 Lg Electronics Inc Mobile terminal and its menu control method
US20120303267A1 (en) * 2009-07-27 2012-11-29 Robert Bosch Gmbh Method and system for improving speech recognition accuracy by use of geographic information
US20140095159A1 (en) * 2012-09-28 2014-04-03 Samsung Electronics Co., Ltd. Image processing apparatus and control method thereof and image processing system
JP2016009901A (en) * 2014-06-23 2016-01-18 シャープ株式会社 Compound machine and display control method
JP2018049510A (en) * 2016-09-23 2018-03-29 富士ゼロックス株式会社 Information processing device and program
JP2019003631A (en) * 2017-06-09 2019-01-10 ネイバー コーポレーションNAVER Corporation Device, method, computer program, and recording medium for providing information
JP2019198987A (en) * 2018-05-14 2019-11-21 コニカミノルタ株式会社 Operation screen display device, image processing apparatus, and program

Also Published As

Publication number Publication date
JP7447458B2 (en) 2024-03-12

Similar Documents

Publication Publication Date Title
JP4717461B2 (en) Information input device, information input method, and information input program
US11355106B2 (en) Information processing apparatus, method of processing information and storage medium comprising dot per inch resolution for scan or copy
JP4826662B2 (en) Image processing apparatus and voice operation history information sharing method
US11172082B2 (en) Information processing apparatus, information processing system, and information processing method
US11211069B2 (en) Information processing system, information processing method, and non-transitory recording medium
US11140284B2 (en) Image forming system equipped with interactive agent function, method of controlling same, and storage medium
JP7188036B2 (en) Information processing device, information processing system, and method
JP2006330576A (en) Apparatus operation system, speech recognition device, electronic apparatus, information processor, program, and recording medium
EP3696610B1 (en) Image forming apparatus, display control method, and carrier means
JP7293963B2 (en) Information processing device and information processing program
US11625200B2 (en) Information processing device, mobile terminal, and non-transitory computer readable medium for parameter presentation
JP2011222046A (en) Image processor and operation item discrimination table sharing method
EP3716040A1 (en) Image forming apparatus and job execution method
JP2019193158A (en) Image processing apparatus, information processing method, and program
US10606531B2 (en) Image processing device, and operation control method thereof
JP7447458B2 (en) Control device, control system and control program
JP2008299735A (en) Image-forming system, program for the image forming system, and computer-readable storage medium storing program for the image-forming system
US11647129B2 (en) Image forming system equipped with interactive agent function, method of controlling same, and storage medium
JP2020187663A (en) Device
JP7314499B2 (en) Information processing system, information processing device, job control method and job control program
JP6992332B2 (en) Image processing system, image processing device, terminal device and program
US11700338B2 (en) Information processing system that receives audio operations on multifunction peripheral, as well as image processing apparatus and control method therefor
JP7388079B2 (en) Information transmitting device, information transmitting method and program
US20240064244A1 (en) Information processing apparatus, image forming apparatus, information processing method, and storage medium
CN111988483B (en) Image processing apparatus and recording medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230614

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230627

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240212

R150 Certificate of patent or registration of utility model

Ref document number: 7447458

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150