WO2019082725A1 - 周辺機器を設定等するシステム、制御方法、制御プログラム - Google Patents

周辺機器を設定等するシステム、制御方法、制御プログラム

Info

Publication number
WO2019082725A1
WO2019082725A1 PCT/JP2018/038414 JP2018038414W WO2019082725A1 WO 2019082725 A1 WO2019082725 A1 WO 2019082725A1 JP 2018038414 W JP2018038414 W JP 2018038414W WO 2019082725 A1 WO2019082725 A1 WO 2019082725A1
Authority
WO
WIPO (PCT)
Prior art keywords
information
natural language
response
setting
peripheral device
Prior art date
Application number
PCT/JP2018/038414
Other languages
English (en)
French (fr)
Inventor
律人 佐光
Original Assignee
キヤノン株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by キヤノン株式会社 filed Critical キヤノン株式会社
Priority to CN201880068904.4A priority Critical patent/CN111263929B/zh
Publication of WO2019082725A1 publication Critical patent/WO2019082725A1/ja
Priority to US16/849,798 priority patent/US11068213B2/en
Priority to US17/355,609 priority patent/US11467781B2/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1202Dedicated interfaces to print systems specifically adapted to achieve a particular effect
    • G06F3/1203Improving or facilitating administration, e.g. print management
    • G06F3/1204Improving or facilitating administration, e.g. print management resulting in reduced user or operator actions, e.g. presetting, automatic actions, using hardware token storing data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1202Dedicated interfaces to print systems specifically adapted to achieve a particular effect
    • G06F3/1203Improving or facilitating administration, e.g. print management
    • G06F3/1205Improving or facilitating administration, e.g. print management resulting in increased flexibility in print job configuration, e.g. job settings, print requirements, job tickets
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B41PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41JTYPEWRITERS; SELECTIVE PRINTING MECHANISMS, i.e. MECHANISMS PRINTING OTHERWISE THAN FROM A FORME; CORRECTION OF TYPOGRAPHICAL ERRORS
    • B41J29/00Details of, or accessories for, typewriters or selective printing mechanisms not otherwise provided for
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B41PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41JTYPEWRITERS; SELECTIVE PRINTING MECHANISMS, i.e. MECHANISMS PRINTING OTHERWISE THAN FROM A FORME; CORRECTION OF TYPOGRAPHICAL ERRORS
    • B41J29/00Details of, or accessories for, typewriters or selective printing mechanisms not otherwise provided for
    • B41J29/38Drives, motors, controls or automatic cut-off devices for the entire printing mechanism
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1223Dedicated interfaces to print systems specifically adapted to use a particular technique
    • G06F3/1229Printer resources management or printer maintenance, e.g. device status, power levels
    • G06F3/1232Transmitting printer device capabilities, e.g. upon request or periodically
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1223Dedicated interfaces to print systems specifically adapted to use a particular technique
    • G06F3/1236Connection management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1278Dedicated interfaces to print systems specifically adapted to adopt a particular infrastructure
    • G06F3/1285Remote printer device, e.g. being remote from client or server
    • G06F3/1288Remote printer device, e.g. being remote from client or server in client-server-printer device configuration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1278Dedicated interfaces to print systems specifically adapted to adopt a particular infrastructure
    • G06F3/1292Mobile client, e.g. wireless printing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72412User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories using two-way short-range wireless interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M11/00Telephonic communication systems specially adapted for combination with other electrical systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities

Definitions

  • the present invention relates to a printing system and the like that can use an agent function.
  • Japanese Patent Application Laid-Open No. 2014-222513 proposes a dialogue agent that can be instructed and operated in natural language.
  • the user needs to operate both the MFP and the mobile terminal in the function of operating the mobile terminal and the peripheral device in cooperation with each other.
  • Peripherals and mobile terminals often have their own user interface, which can be too much to learn or burdensome for the user. For example, even if the user looks at the manual of the peripheral device, there is a problem that the information is enormous and it is difficult to find out where the necessary information is. In addition, there is also a problem that it is difficult for the user to specify what parameters are necessary for setting the device.
  • a first object of the present invention is to provide a mechanism for realizing cooperation between a mobile terminal and a peripheral device effectively and efficiently.
  • Yet another object of the present invention is to effectively provide, for example, a setting procedure for linking a mobile terminal and a peripheral device to a user using an interactive interface.
  • a response in natural language is sent to the interactive agent program in order to obtain the setting information which could not be specified.
  • Response means for responding a response means for obtaining information based on input of natural language information to the interactive agent program after a response in natural language to which the response means has responded is output in the interactive agent program,
  • the setting information that can not be identified by the identifying unit is identified based on the information acquired by the acquiring unit.
  • identification means, information specified by the specifying means, the system comprising an input means for inputting the information identified by the identification means with respect to the set service the peripheral device is disclosed.
  • the interaction agent and the multifunction device can use the services on the cloud to operate the multifunction device in natural language. This enables the user to easily operate the MFP and the mobile terminal.
  • Diagram showing an example of the operation of a mobile terminal and a multifunction machine when performing wireless direct connection A diagram showing an example of a hardware configuration of a multifunction machine in the present embodiment A diagram showing an example of the software configuration of a multifunction machine in the present embodiment A diagram showing an example of an operation panel of a multifunction machine in the present embodiment A diagram showing an example of a network in the present embodiment A diagram showing an example of a sequence in the present embodiment The figure which shows an example of the action registration content in this embodiment A diagram showing an operation example of a dialog agent in the present embodiment A diagram showing an example of data of a wireless direct function start request of a multifunction machine in the present embodiment A diagram showing an example of data of a wireless direct function start request in the present embodiment A diagram showing an example of data of wireless direct function start response in the present embodiment A diagram showing an example of data of wireless direct function start response of MFP in this embodiment The figure which shows the flowchart for demonstrating the process of the multifunctional device in this embodiment.
  • a diagram showing an example of data of wireless direct function start response in the present embodiment A diagram showing an example of data of wireless direct function start response in the present embodiment
  • a diagram showing an example of data of wireless direct function start response 605 in the present embodiment Flowchart showing an example of processing of MFP management service in the present embodiment
  • the embodiment will be described by taking a multifunction machine as an example, but the present invention is a technology applicable to any information processing apparatus other than the multifunction machine.
  • FIG. 1 is a diagram for explaining the operation of the mobile terminal 150 and the multifunction device 100 when wireless direct connection is performed.
  • the user operates the operation panel 405 of the multifunction machine to input a display instruction of the mobile cooperation screen.
  • the mobile cooperation screen 101 is displayed on the operation panel 405.
  • a LAN connection button for setting the LAN connection and a direct connection button for setting the direct connection are displayed on the mobile cooperation screen 101.
  • the user starts the wireless direct connection function by pressing the start button on the direct connection setting screen.
  • the wireless direct connection is started, the SSID and the network key are displayed on the mobile cooperation screen 102 of the multifunction device.
  • the user operates the mobile terminal 150 to display the setting screen 111.
  • a Wi-Fi button for performing Wi-Fi setting is displayed.
  • the user presses the Wi-Fi setting to display the Wi-Fi setting.
  • the Wi-Fi setting screen 112 nearby access points are searched and SSIDs are displayed in a list.
  • a password input screen 113 is displayed.
  • the user inputs the network key displayed on the mobile cooperation screen 102 as a password.
  • the mobile terminal 150 is wirelessly directly connected to the multifunction device 100.
  • FIG. 2 is a hardware block diagram of the multifunction device 100. As shown in FIG.
  • the multifunction peripheral 100 according to the present embodiment is assumed to be a multifunction peripheral, but may be a multifunction peripheral that does not have a scanner function.
  • the CPU 201 reads out the control program stored in the ROM 203 and executes various processes for controlling the operation of the MFP 100.
  • the ROM 203 stores a control program.
  • the RAM 202 is used as a main memory of the CPU 201 and a temporary storage area such as a work area.
  • the HDD 204 stores various data such as print data and a scan image.
  • one CPU 201 executes each process shown in the flowchart to be described later, but another form may be used. For example, a plurality of CPUs may cooperate to execute each process shown in the flowchart to be described later.
  • a printer unit 103 executes print processing on a sheet based on print data received from an external apparatus, a scanned image generated by a scanner unit 104, and the like via a printer unit I / F 206.
  • a scanner unit 104 reads an original via a scanner unit I / F 207 and generates a scanned image (read image data).
  • the scanned image generated by the scanner unit 104 is printed by the printer unit 103. Also, it is stored in the HDD 204.
  • the operation unit 102 includes a liquid crystal display unit having a touch panel function and a keyboard, and displays various images. The user can input an instruction or information to the MFP 100 via the operation unit 102.
  • the operation unit 102 is connected to the controller unit 101 via the operation unit I / F 208.
  • the wired LAN interface unit 210 performs communication with the external device via the wired LAN device 106 in the wired LAN.
  • the wireless LAN interface unit 209 executes wireless LAN communication with an external device such as the access point 110 via the wireless LAN device 105.
  • Each block in the controller unit 101 is connected by a system bus 205.
  • FIG. 3 is a diagram for explaining the software configuration of the multifunction device 100. As shown in FIG. Each functional unit illustrated in FIG. 3 is realized by the CPU 201 of the multifunction peripheral 100 executing a control program.
  • the operation control unit 300 controls the operation unit 102.
  • the operation menu is displayed on the operation unit 102 to wait for an instruction input from the user, the received instruction content is notified to the other functional units, and the instruction result is displayed on the operation unit 102.
  • the wireless direct control unit 301 performs wireless direct communication control.
  • a wireless LAN control unit 302 controls connection, disconnection, and communication of a wireless LAN.
  • the wired LAN control unit 303 controls connection, disconnection, and communication of the wired LAN.
  • the HTTP communication control unit 304 performs XMPP communication control.
  • the storage control unit 310 stores designated data in the ROM 203 or the HDD 204 or reads out the stored data according to an instruction from another functional unit.
  • data managed by the storage control unit 305 there are an IP address setting of the MFP 100, a proxy setting, and the like.
  • the image processing unit 311 performs processing for rendering a print job into image data for printing.
  • the print processing unit 312 transmits the image data rendered by the image processing unit 311 as an image signal to the printer unit 103 via the printer unit I / F 206 and prints the image data.
  • the TCP / IP communication control unit 313 controls TCP / IP communication.
  • FIG. 4 is a diagram for explaining the operation unit 102 of the MFP 100.
  • Reference numeral 405 denotes a display panel using an LCD or the like.
  • Reference numeral 401 denotes a button to be pressed when copying is performed using the multifunction peripheral 100. By pressing this button, a copy operation screen is displayed on the display panel 405.
  • Reference numeral 402 denotes a button to be pressed when faxing using the multifunction peripheral 100, and pressing the button causes a fax operation screen to be displayed on the display panel 405.
  • Reference numeral 402 denotes a button to be pressed when scanning is performed using the multifunction peripheral 100. By pressing this button, a scan operation screen is displayed on the display panel 405.
  • a button 403 is depressed when performing an operation for causing the multifunction device 100 to cooperate with the mobile terminal.
  • a mobile cooperation screen is displayed on the display panel 405.
  • Reference numeral 408 denotes a ten key which is used to input numbers and the like.
  • An OK key 407 is used when determining the display content of the display panel 405 or the like.
  • Reference numeral 406 denotes a direction key, which is used when selecting a menu displayed on the display panel 405 or the like.
  • Reference numerals 409 and 410 are used when performing black and white copying and color copying, respectively. 411 is used when stopping the process.
  • Reference numeral 412 is used to display a menu screen for setting the MFP 100.
  • Reference numeral 404 is used to display a menu screen for performing various operations to cooperate with the mobile. Select this button to start a wireless direct connection.
  • FIG. 5 is a network diagram for explaining the network configuration of this embodiment.
  • Mobile terminal 501 communicates with natural language processing and lexical analysis service 511 via access point 502. Specifically, the interaction agent on the mobile terminal 501 receives the operation from the user in natural language, and transmits it to the natural language processing and the lexical analysis service 511. Further, the mobile terminal 501 may directly communicate with the multifunction device 100 by wireless direct connection.
  • Natural language processing, lexical analysis service 511 is a service on the cloud. When the natural language processing / lexical analysis service 511 receives an operation from the user in the natural language from the interaction agent on the mobile terminal 501, it performs natural language processing and analyzes the extracted lexical.
  • the MFP management service 510 which is a service on the cloud, communicates with the MFP 100 based on the communication from the natural language processing and the lexical analysis service 511.
  • FIG. 6 is a sequence diagram for explaining the processing sequence of the present embodiment.
  • the dialog agent on the mobile terminal 501 receives an operation from the user in natural language, it transmits the user operation request 601 expressed in natural language to the natural language processing and lexical analysis service 511 (S6001).
  • Natural language processing and lexical analysis service 511 natural language processes the user operation request 601 and analyzes the lexical (S6002).
  • the natural language processing and the lexical analysis service 511 transmit the user operation response 602 expressed in the natural language to the mobile terminal 501 when the information registered in advance is not complete as a result of the analysis (S6002).
  • the mobile terminal 501 and the natural language processing, the lexical analysis service 511 repeat the exchange until necessary information is ready.
  • the natural language processing and the lexical analysis service 511 transmit the wireless direct function start request 603 of the multifunction device to the multifunction device management service 510 when the necessary information is gathered as a result of the exchange (S6003).
  • webhooks are registered in advance as necessary information and processing to be executed when they are collected. Webhook is a mechanism that sends information in the HTTP protocol POST request when a certain event occurs.
  • the lexical analysis service 511 receives the user operation request 601, performs natural language processing, and extracts information necessary for the wireless direct function start request 603.
  • the lexical analysis service 511 repeats the above processing until the information required for the wireless direct function start request 603 is complete.
  • the wireless direct function start requests 603 registered in advance it is identified that an event corresponding to this has occurred.
  • the webhook corresponding to the event is activated, and the wireless direct function start request 603 of the multi-functional peripheral is encapsulated and transmitted in the POST request of the HTTP protocol.
  • the wireless direct function start request 603 of the MFP is realized by the webhook.
  • the multifunction device management service 510 receives the wireless direct function start request 603 of the multifunction device from 511, the multifunction device management service 510 transmits the wireless direct function start request 604 to the multifunction device 100 (S6004). Transmission processing is performed from the MFP management service 510 present on the cloud to the MFP 100 using push communication using a protocol such as XMPP.
  • XMPP a protocol
  • the multifunction peripheral 100 exists in the intranet, but realizes push communication from the service on the cloud by using the push communication using the XMPP. Then, upon receiving the wireless direct function start request 604, the multifunction device 100 starts the wireless direct function of the multifunction device 100.
  • the SSID and the network key are returned to the MFP management service 510 as a wireless direct function start response 605 (S6005).
  • the MFP management service 510 responds to the natural language processing / lexical analysis service 511 by the wireless direct function start response 606 expressing the SSID and the network key in natural language (S6006).
  • the natural language processing / lexical analysis service 511 responds to the dialog agent of the mobile terminal 501 with the wireless direct function start response 607 of the multifunction device expressed in natural language (S6007).
  • FIG. 7 is a diagram for explaining the action registration content of the present embodiment.
  • the action registration is information registered with the natural language processing and the lexical analysis service 511, and defines an entity indicating necessary information and an associated action.
  • the screen information 511 of FIG. 7 is transmitted to the PC (not shown) or the mobile terminal (501).
  • a PC or mobile terminal (501) is displayed.
  • the device is information for specifying the multifunction peripheral to be operated, and Printer1, Printer2, and Printer3 registered in advance can be specified.
  • the network specifies the type of network to be used, and can specify wireless or wired.
  • the method specifies the connection method and can specify infrastructure or direct.
  • the action specifies an action, and designation of connection and disconnection is possible.
  • FIG. 8 is a diagram showing a dialogue agent operation example 8000 of this embodiment.
  • the user downloads a setting application or a setting service from a predetermined server and starts up. Then, long press of a predetermined button is performed.
  • the setting application or service detects that a predetermined button is pressed for a long time, the setting application or service enters an interactive mode.
  • the user conveys a request for connection with Printe 1 by means of a voice of natural language at 801 via the microphone of the mobile terminal 501.
  • 801 is displayed.
  • natural keys may be input by performing key input from the touch panel of the mobile terminal 501.
  • 801 is displayed.
  • Reference numerals 801, 803, and 805 in FIG. 8 denote information input by the user from the mobile terminal 501 by voice or key input.
  • Reference numerals 802, 804, 806, and 807 denote natural language data displayed by the natural language processing and lexical analysis service 511 in response to transmission to the setting application or the setting service.
  • the mobile terminal 501 transmits natural language data (801) input to natural language processing and lexical analysis service 511.
  • Natural language processing and lexical analysis service 511 analyzes the input.
  • Natural language processing and lexical analysis service 511 analyzes the input natural language data. Divide the input natural language into clauses and words. Then, the noun is taken out from each word. Then, the nouns are classified into proper nouns and other nouns. As a result, it is determined whether the "information for performing an action" registered in FIG. 7 is included in the classified entities. As a result of the determination, it is determined that "information for executing an action" is insufficient. If it is determined that there is a shortage, a query for specifying a network expressed in natural language is transmitted to the mobile terminal 501.
  • the interaction agent of the mobile terminal 501 outputs the received inquiry 802.
  • the user communicates in natural language from the dialog agent on the mobile terminal 501 that a wireless request is to be made as a network at 803.
  • the mobile terminal 501 transmits the natural language data input to the natural language processing and lexical analysis service 511.
  • Natural language processing and lexical analysis service 511 analyzes the input.
  • a query for specifying a method expressed in natural language is transmitted to the mobile terminal 501.
  • the interaction agent of the mobile terminal 501 outputs the received inquiry 804.
  • the user communicates in natural language that the dialog agent on the mobile terminal 501 requests direct as method at 805.
  • the mobile terminal 501 transmits the natural language data input to the natural language processing and the lexical analysis service 511 (S6001).
  • the natural language processing and lexical analysis service 511 analyzes the input in the same manner as described above.
  • the wireless direct function start request 603 of the multifunction device is transmitted to the multifunction device management service 510 by web hook (S6003).
  • the MFP management service 510 corresponds to the URL input by the webhook 7001 in FIG.
  • the multifunction device management service 510 responds to the natural language processing / lexical analysis service 511 of the wireless direct function start response 606 of the multifunction device according to the sequence of FIG. 6 (S6006).
  • the natural language processing / lexical analysis service 511 transmits the contents responded by the wireless direct function start response 606 of the multifunction device to the mobile terminal 501 (S6007).
  • the interaction agent of the mobile terminal 501 outputs the received response message 806, 807.
  • the output performed by the dialog agent of the mobile terminal 501 is described as screen display by text, it may be output by voice. Text and voice may be output simultaneously.
  • FIG. 9 shows an example of data of the wireless direct function start request 603 of the MFP in this embodiment.
  • the wireless direct function start request 603 of the multifunction device described with reference to FIG. 6 includes the information defined by the action described with reference to FIG. Specifically, it includes entity information device, network, method, and action. These pieces of information are expressed as data in JavaScript (registered trademark) Object Notation (JSON) format.
  • JSON JavaScript
  • the wireless direct function start request 603 is transmitted to the MFP management service 510 as a webhook, that is, an HTTP POST request.
  • FIG. 10 shows an example of data of the wireless direct function start request 604 in the present embodiment.
  • the wireless direct function start request 604 described with reference to FIG. 6 includes the information defined by the action described with reference to FIG. Specifically, entity information such as network, method, and action are included. These pieces of information are expressed as data in JSON format. The device information is specified at this point and does not need to be included.
  • the wireless direct function start request 604 is transmitted to the multifunction peripheral 100 using the XMPP protocol.
  • FIG. 11 shows an example of data of the wireless direct function start response 605 in the present embodiment.
  • the result of wireless direct function start is stored in result.
  • success indicating success is set.
  • the ssid information of the MFP 100 is stored in the ssid.
  • the ssid information of the MFP 100 is stored in the ssid.
  • the network key information of the MFP 100 is stored in the password.
  • the wireless direct function start response 605 is sent to the MFP management service 510 using the XMPP protocol.
  • FIG. 12 shows an example of data of the wireless direct function start response 606 of the MFP in this embodiment.
  • displayText instructs the interactive agent of the mobile terminal 501 to display a screen by text.
  • speech instructs voice output to the dialogue agent of the mobile terminal 501.
  • the start result of the wireless direct function is answered in natural language.
  • the wireless direct function start response 605 is transmitted to the natural language processing and the lexical analysis service 511 as an HTTP POST request.
  • FIG. 13 is a flow chart showing processing of the multi-function device in this embodiment.
  • the MFP 100 receives the wireless direct function start request 604 from the MFP management service 510 (S6004), the MFP 100 reads the wireless direct setting from the storage unit 310 in S1301. In S1301, it is determined whether the value of wireless direct setting is in operation. If it is in operation, the MFP 100 reads the SSID and PASSWORD information from the storage unit 310 in S1304. If the wireless direct communication control unit 301 of the MFP 100 starts wireless direct in step S1303. Thereafter, the multi-function device 100 performs the process of S1304. Next, the XMPP communication control unit 304 of the MFP 100 responds to the MFP management service 510 with the wireless direct function start result in S1305. S1304 corresponds to S6005.
  • Second Embodiment In the first embodiment, it is also possible to designate the output performed by the interaction agent of the mobile terminal 501 by screen display by text or output by voice. However, when output data includes confidential data such as PASSWORD, there have been cases where it is desirable to avoid audio output. The second embodiment takes this point into consideration.
  • FIG. 14 is a data example of the wireless direct function start response 605 in the second embodiment.
  • the result of wireless direct function start is stored in result.
  • success indicating success is set.
  • the ssid information of the MFP 100 is stored in the ssid.
  • the ssid information of the MFP 100 is stored in the ssid.
  • the password (1401) stores network key information of the multifunction peripheral 100.
  • secure indicating whether or not the information is secure information is also set. In the present embodiment, since password is included, "true" is set in secured (1402).
  • the wireless direct function start response 605 is sent to the MFP management service 510 using the XMPP protocol. After the processes of S6001 to S6004, 605 is issued in S6005.
  • FIG. 15 shows an example of data of the wireless direct function start response 606 of the MFP in the second embodiment.
  • the start result of the wireless direct function is answered in natural language.
  • the SSID and PASSWORD of the multifunction device 100 and the operation content of the mobile terminal 501 are replied in natural language.
  • the MFP management service 510 analyzes the wireless direct function start response 605 of FIG. 14 received in S6005. Then, 1402 Secure tags are found. Therefore, it is determined that the information related to the received 605 is secure. Therefore, displayText is specified so that the output method to the dialog agent of the mobile terminal 501 is only screen output by text instead of speech (FIG. 15).
  • the second embodiment is an embodiment in which the screen output by text and the output by voice are automatically determined depending on whether confidential data is included in the output at 605 performed by the dialog agent of the mobile terminal 501.
  • the third embodiment is an example in which the multifunction peripheral 100 has a setting for controlling the output method by the dialog agent, and issues an instruction to the multifunction peripheral management service 510 accordingly.
  • FIG. 16 is a screen example for setting an interactive agent output method in the MFP 100 according to the third embodiment.
  • voice output and character output can be set as valid and invalid as an output method.
  • the setting screen is displayed on the operation unit 102 of the MFP 100.
  • FIG. 17 is a data example of the wireless direct function start response 605 in the third embodiment.
  • Reference numeral 1701 denotes an example of data when only character output is valid in FIG. Only “displayText” is set to "output" indicating the output method.
  • Reference numeral 1702 denotes an example of data in the case where only voice output is valid in FIG. Only “speech” is set in “output” indicating the output method.
  • Reference numeral 1703 denotes an example of data in the case where both character output and speech output are enabled in FIG. "DisplayText” and “speech” are set in “output” indicating the output method. If the output method is "displayText” then a display is made at the mobile terminal and if "speech” then an audio response is made at the mobile terminal.
  • the MFPs 1701 to 1703 are transmitted from the MFP 100 to the MFP management service 510 in S6005 of FIG. Then, it is further transmitted to 511.
  • a step 511 causes the process 501 to follow the processes 1701 to 1703.
  • FIG. 18 is a flowchart showing processing of the MFP management service 510 in the third embodiment.
  • the MFP management service 510 Upon receiving the wireless direct function start response 605 described with reference to FIG. 17, the MFP management service 510 analyzes the received start response 605 in step S1801. Next, the MFP management service 510 generates a response message in S1802. In the case of the example of FIG. 17, the response message specifically starts “Wireless direct function of Printer 1. Please connect to the following access point from the setting-> WiFi of the mobile terminal.
  • SSID CanonPrinter PASSWORD: 1234567890 "It will be a message.
  • step S 1803 the MFP management service 510 determines whether “speech” is designated in “output” included in the wireless direct function start response 605.
  • the output means is set to "output”. If "speech" is specified, speech is set as the output method of the response message in S1804. This adds speech to the response message.
  • step S1805 the MFP management service 510 determines whether “display Text” is designated in “output” included in the wireless direct function start response 605. If "displayText" is specified, displayText is set as the output method of the response message in S1806. As a result, displayText is added to the response message.
  • the MFP management service 510 transmits the response message generated in step S1807 to the natural language processing / lexical analysis service 511 as the wireless direct function start response 606 of the MFP.
  • FIG. 18 is executed each time the wireless direct function start response 605 is received.
  • reference numerals 802 and 804 denote natural language processing and lexical analysis service 511 in order to perform return processing. That is, this corresponds to the portion of repetition 601 and 602 in FIG. 806 and 807 receive the wireless direct function start response 605, and are displayed as a result of the execution of FIG.
  • the multifunction peripheral 100 having a printing function and a printer are shown as an example of the peripheral device.
  • the peripheral device may be a communication device such as a laser smartphone.
  • the MFP management service 510 is shown as an example of a setting service that can communicate with these communication devices and performs setting processing of the peripheral device.
  • Reference numerals 7002 to 7005 in FIG. 7 are shown as an example of the setting information.
  • Reference numerals 801 to 807 in FIG. 8 are shown as an example of natural language information.
  • predetermined setting information to be set in the multifunction device 100 is specified from the input natural language information.
  • the interactive agent program Respond to Examples of the interactive agent program include natural language processing and lexical analysis service 511.
  • the setting information that can not be identified is identified based on the information acquired based on the previous input.
  • the identified information and the identified information are input to the MFP management service 510.
  • the service 511 repeatedly transmits the natural language response to the mobile terminal 501 until a plurality of predetermined setting information is obtained.
  • the predetermined setting information includes the print destination.
  • the predetermined setting information includes setting information on wireless communication.
  • the wireless access point in the MFP 100 can communicate.
  • Information for communicating with a wireless access point in the MFP 100 may be output to the service 511. These processes may be performed by a CPU or computer in the system.

Abstract

複合機であって、複合機管理サービスからのリクエストを受信する手段と、前記リクエストに従い複合機内の機能を有効化する手段と、前記リクエストの結果を複合機管理サービスに応答する手段と、を持つことを特徴とする。

Description

周辺機器を設定等するシステム、制御方法、制御プログラム
 本発明は、エージェント機能を使用できる印刷システム等に関するものである。
 近年、複合機等の電子デバイスは機能の高度化に伴い、操作が複雑になってきている。この結果、ユーザに複雑なユーザインターフェースの理解を強いることになり、負担がかかるようになってきている。特開2014-222513では、この課題に対応するために、自然言語で指示、操作が可能である対話エージェントを提案している。
 また、近年、スマートフォン等のモバイル端末等の普及が進み、モバイル端末と複合機が連携して動作する様々な機能が提案されている。モバイル端末と複合機が無線でダイレクト接続する機能がある。
 モバイル端末と周辺機器を連携させて動作させるような機能においては、ユーザは複合機とモバイル端末それぞれを操作する必要がある。周辺機器とモバイル端末は多くの場合、独自のユーザインターフェースを有しており、それらは、ユーザにとって学ぶことが多すぎたり負担になったりする可能性がある。例えば、ユーザは周辺機器のマニュアルを見るにしても情報が膨大であり、必要な情報がどこにあるかを探すことが困難であるという問題点があった。また、ユーザは、機器の設定に必要なパラメータが何かを特定することも困難であるという問題点もあった。
 本発明は上述の問題点の少なくとも一つを鑑みてなされたものである。本発明の第一の目的は、モバイル端末と周辺機器の連携を効果的かつ効率的に実現する仕組みを提供することである。本発明のさらに別の目的は、モバイル端末と周辺機器を連携させるための、例えば、設定の手順を、対話型インターフェースを用いてユーザに対して効果的に提供することである。
 周辺機器と通信可能で、前記周辺機器の設定処理をする設定サービスを有するシステムにおいて、入力された自然言語情報の中から前記周辺機器に設定すべき所定の設定情報を特定する特定手段と、前記周辺機器に設定すべき所定の設定情報が前記自然言語情報の中において特定できなかったことに応じて、前記特定できなかった設定情報を得るために、自然言語による応答を対話型エージェントプログラムに対して応答する応答手段と、前記応答手段が応答した自然言語による応答が前記対話型エージェントプログラムにおいて出力された後に、前記対話型エージェントプログラムに対する自然言語情報の入力に基づく情報を取得する取得手段、前記特定手段が特定できなかった設定情報を前記取得手段が取得した情報に基づいて識別する識別手段と、前記特定手段により特定された情報と、前記識別手段により識別された情報とを前記周辺機器の設定サービスに対して入力する入力手段を備えるシステムが開示される。
 対話エージェントと複合機がクラウド上のサービスを利用することにより、自然言語で複合機の操作をすることが可能になる。これにより、ユーザが複合機とモバイル端末それぞれを簡便に操作することが可能になる。
無線ダイレクト接続を行う際のモバイル端末と複合機の操作の一例を示す図 本実施形態における複合機のハードウェア構成の一例を示す図 本実施形態における複合機のソフトウェア構成の一例を示す図 本実施形態における複合機の操作パネルの一例を示す図 本実施形態におけるネットワークの一例を示す図 本実施形態におけるシーケンスの一例を示す図 本実施形態におけるアクション登録内容の一例を示す図 本実施形態における対話エージェント動作例を示す図 本実施形態における複合機の無線ダイレクト機能開始要求のデータ例を示す図 本実施形態における無線ダイレクト機能開始要求のデータ例を示す図 本実施形態における無線ダイレクト機能開始応答のデータ例を示す図 本実施形態における複合機の無線ダイレクト機能開始応答のデータ例を示す図 本実施形態における複合機の処理を説明するためのフローチャートを示す図 本実施形態における無線ダイレクト機能開始応答のデータ例を示す図 本実施形態における無線ダイレクト機能開始応答のデータ例を示す図 本実施形態における対話エージェント出力方法を設定する画面例を示す図 本実施形態における無線ダイレクト機能開始応答605のデータ例を示す図 本実施形態における複合機管理サービスの処理例を示すフローチャート図
 以下、本発明を実施するための最良の形態について図面を用いて説明する。
 ここでは複合機を例に実施形態を説明するが、本発明は複合機以外の任意の情報処理装置に適用可能な技術である。
 なお、以下の実施形態は特許請求の範囲に係る発明を限定するものでなく、また実施形態で説明されている特徴の組み合わせの全てが発明の解決手段に必須のものとは限らない。
 (実施形態1)
 図1は無線ダイレクト接続を行う際のモバイル端末150と複合機100の操作を説明した図である。
 ユーザは、まず複合機の操作パネル405を操作することで、モバイル連携画面の表示指示を入力する。すると、操作パネル405においてモバイル連携画面101が表示される。モバイル連携画面101にはLAN接続設定を行う、LAN接続ボタンと、ダイレクト接続設定を行うダイレクト接続ボタンが表示されている。ユーザはダイレクト接続ボタンを押下しダイレクト接続設定を表示させる。ユーザは、ダイレクト接続設定画面にある開始ボタンを押下することにより無線ダイレクト接続機能を開始する。無線ダイレクト接続が開始されると、複合機のモバイル連携画面102にSSID、ネットワークキーが表示される。
 次に、ユーザはモバイル端末150を操作して、設定画面111を表示させる。設定画面111にはWi-Fi設定を行うWi-Fiボタンが表示されている。ユーザはWi-Fi設定を押下しWi-Fi設定を表示させる。Wi-Fi設定画面112では近くのアクセスポイントを検索しSSIDがリスト表示される。ユーザが、複合機のSSIDを選択するとパスワード入力画面113が表示される。ユーザはモバイル連携画面102に表示されたネットワークキーをパスワードとして入力する。これにより、モバイル端末150は複合機100と無線ダイレクト接続される。
 図2は複合機100のハードウェア構成図である。本実施形態の複合機100は複合機を想定しているが、スキャナ機能を備えない複合機であってもよい。
 CPU201はROM203が記憶している制御プログラムを読み出して、複合機100の動作を制御するための様々な処理を実行する。ROM203は、制御プログラムを記憶している。RAM202は、CPU201の主メモリ、ワークエリア等の一時記憶領域として用いられる。HDD204は、印刷データやスキャン画像等の様々なデータを記憶する。
 なお、複合機100の場合、1つのCPU201が後述するフローチャートに示す各処理を実行するものとするが、他の形態であっても構わない。例えば、複数のCPUが協働して後述するフローチャートに示す各処理を実行するようにすることもできる。
 プリンタ部103はプリンタ部I/F206を介して、外部装置から受信した印刷データやスキャナ部104によって生成されたスキャン画像等に基づいて、シートに印刷処理を実行する。スキャナ部104はスキャナ部I/F207を介して、原稿を読み取ってスキャン画像(読取画像データ)を生成する。スキャナ部104によって生成されたスキャン画像は、プリンタ部103によって印刷される。また、HDD204に記憶される。
 操作部102は、タッチパネル機能を有する液晶表示部やキーボードを備え、各種画像を表示する。ユーザは、操作部102を介して複合機100に対して指示や情報を入力することができる。操作部102は、操作部I/F208を介して、コントローラ部101に接続されている。
 有線LANインターフェース部210は、外部装置との間で有線LANデバイス106を介して有線LANで通信を実行する。
 無線LANインターフェース部209は、無線LANデバイス105を介して、アクセスポイント110等の外部装置との間で無線LAN通信を実行する。
 コントローラ部101内の各ブロックはシステムバス205にて接続されている。
 図3は複合機100のソフトウェア構成を説明するための図である。図3に示す各機能部は、複合機100が有しているCPU201が制御プログラムを実行することにより実現される。
 操作制御部300は操作部102を制御する。操作部102に操作メニューを表示してユーザからの指示入力を待ち受け、受け付けた指示内容を他の機能部に通知し、指示結果を操作部102に表示する。
 無線ダイレクト制御部301は無線ダイレクト通信制御を行う。
 無線LAN制御部302は無線LANの接続、切断、通信を制御する。
 有線LAN制御部303は有線LANの接続、切断、通信を制御する。
 HTTP通信制御部304はXMPP通信制御を行う。
 記憶制御部310は、他の機能部からの指示により、指定されたデータをROM203やHDD204に記憶する、あるいは記憶しているデータを読み出す。記憶制御部305が管理するデータの例として、複合機100のIPアドレス設定、プロキシー設定等がある。
 画像処理部311は、印刷ジョブを印刷用の画像データにレンダリングする処理を行う。
 印刷処理部312は、画像処理部311によってレンダリングされた画像データをプリンタ部I/F206を介してプリンタ部103に画像信号として送信し印刷する処理を行う。
 TCP/IP通信制御部313はTCP/IP通信を制御する。
 図4は複合機100の操作部102を説明するための図である。405はLCD等を利用した表示パネルである。401は複合機100を用いてコピーを行う際に押下するボタンであり、これを押下することにより表示パネル405にコピー操作画面が表示される。402は複合機100を用いてFAXを行う際に押下するボタンであり、これを押下することにより表示パネル405にFAX操作画面が表示される。402は複合機100を用いてスキャンを行う際に押下するボタンであり、これを押下することにより表示パネル405にスキャン操作画面が表示される。403は複合機100をモバイル端末と連携動作させるための操作を行う際に押下するボタンであり、これを押下することにより表示パネル405にモバイル連携画面が表示される。408はテンキーであり数字等を入力するために使用される。407はOKキーであり表示パネル405の表示内容を決定する時などに使用される。406は方向キーであり表示パネル405に表示されたメニューなどを選択する時などに使用される。409・410はそれぞれ白黒コピー、カラーコピーを実行する際に使用される。411は処理を停止する時に使用される。412は複合機100の設定を行うためのメニュー画面を表示する時に使用される。404はモバイルと連携するための各種操作を行うためのメニュー画面を表示する時に使用される。無線ダイレクト接続を開始する時には、このボタンを選択する。
 図5は本実施形態のネットワーク構成を説明するためのネットワーク図である。モバイル端末501はアクセスポイント502を経由して自然言語処理、字句解析サービス511と通信を行う。具体的には、モバイル端末501上の対話エージェントがユーザからの操作を自然言語で受け取り、それを自然言語処理、字句解析サービス511に送信する。また、モバイル端末501は複合機100と無線ダイレクトで直接接続して通信をことにしてもよい。自然言語処理、字句解析サービス511はクラウド上のサービスである。自然言語処理、字句解析サービス511は、モバイル端末501上の対話エージェントからユーザからの操作を自然言語で受け取ると、自然言語処理を行い、抽出された字句を解析する。その結果に応じて、クラウド上のサービスである複合機管理サービス510と通信を行う。クラウド上のサービスである複合機管理サービス510は、自然言語処理、字句解析サービス511からの通信に基づいて、複合機100と通信を行う。
 図6は本実施形態の処理シーケンスを説明するためのシーケンス図である。モバイル端末501上の対話エージェントがユーザからの操作を自然言語で受け取ると、自然言語処理、字句解析サービス511に自然言語で表現されるユーザ操作リクエスト601を送信する(S6001)。自然言語処理、字句解析サービス511はユーザ操作リクエスト601を自然言語処理し、字句解析する(S6002)。自然言語処理、字句解析サービス511は、解析の結果、あらかじめ登録されている情報が揃っていない場合、自然言語で表現されたユーザ操作レスポンス602をモバイル端末501に送信する(S6002)。モバイル端末501と自然言語処理、字句解析サービス511は前記やり取りを、必要な情報が揃うまで繰り返す。自然言語処理、字句解析サービス511は、前記のやり取りの結果、必要な情報が揃うと、複合機管理サービス510に、複合機の無線ダイレクト機能開始要求603を送信する(S6003)。自然言語処理、字句解析サービス511には、あらかじめ、必要な情報と、それが揃ったときに実行する処理としてWebhookが登録されている。Webhookとは、あるイベントが発生したときに、HTTPプロトコルのPOSTリクエストで情報を送信する仕組みである。
 つまり、字句解析サービス511はユーザ操作リクエスト601を受け付け、自然言語処理し、無線ダイレクト機能開始要求603に必要な情報を抽出する。字句解析サービス511は、無線ダイレクト機能開始要求603に必要な情報が揃うまで前記の処理を繰り返す。そして、予め登録されている無線ダイレクト機能開始要求603がすべてそろうと、これに対応するイベントが発生したと識別される。そして、当該イベントに対応するWebhookが起動され、HTTPプロトコルのPOSTリクエストの中に複合機の無線ダイレクト機能開始要求603をカプセル化して送信する。
 このように、複合機の無線ダイレクト機能開始要求603はWebhookにより実現される。複合機管理サービス510は複合機の無線ダイレクト機能開始要求603を511から受信すると、複合機100に対し無線ダイレクト機能開始要求604を送信する(S6004)。クラウド上に存在する複合機管理サービス510から複合機100に対しては、XMPP等のプロトコルを利用したプッシュ通信を利用して送信処理を行う。通常、複合機100はイントラネット内に存在するが、前記XMPPを利用したプッシュ通信を利用することにより、クラウド上のサービスからのプッシュ通信を実現する。そして、複合機100は無線ダイレクト機能開始要求604を受信すると、複合機100の無線ダイレクト機能を開始する。そして、SSIDとネットワークキーを、無線ダイレクト機能開始応答605として複合機管理サービス510に応答する(S6005)。複合機管理サービス510は、SSIDとネットワークキーを自然言語で表現した、無線ダイレクト機能開始応答606を自然言語処理、字句解析サービス511に応答する(S6006)。自然言語処理、字句解析サービス511はモバイル端末501の対話エージェントに、自然言語で表現された、複合機の無線ダイレクト機能開始応答607を応答する(S6007)。
 図7は本実施形態のアクション登録内容を説明するための図である。アクション登録とは、自然言語処理、字句解析サービス511に対して登録する情報であり、必要な情報を示すエンティティとそれに伴うアクションを定義するものである。アクション登録は、PC(図示省略)や、モバイル端末(501)に対して511から図7の画面情報を送信する。そして、PCや、モバイル端末(501)表示させる。そして、図7の画面情報の入力に応じて、PCや、モバイル端末(501)から511に対して送信し、登録可能である。本実施形態では、エンティティとして、device、network、method、actionがある。deviceとは操作する複合機を特定する情報であり、あらかじめ登録されているPrinter1、Printer2、Printer3が指定可能である。networkとは使用するnetwork種別を特定するものであり、無線、有線の特定が可能である。methodとは接続方法を特定するものであり、インフラ、ダイレクトの指定が可能である。actionとは動作を特定するものであり、接続、切断の指定が可能である。
 また、本実施形態では、アクションとしてhttp://print-manage.canon.co.jpに対するWebhookを登録している。
 本アクション登録が行われると、S6001およびS6002の対話により、device、network、method、actionが揃うと、次のようにする。つまり、これらの情報をhttp://print-manage.canon.co.jpにHTTPによって送信するというアクションが実行される。このアクションは、自然言語処理、字句解析サービス511により実行される。つまり、Webhookに記述されているサービスが、device、network、method、actionにおいて入力されたパラメータを引数として呼び出すことができる。そのタイミングは、device、network、method、actionが揃ったタイミングである。
 図8は本実施形態の対話エージェント動作例8000を示す図である。まず、ユーザは、設定アプリまたは、設定サービスを所定のサーバからダウンロードして起動する。そして、所定のボタンの長押しなどを行なう。当該設定アプリやサービスが所定のボタンの長押しなどを検知すると、当該設定アプリやサービスは対話モードに入る。そして、ユーザはモバイル端末501上の対話エージェント画面を表示させた状態で、モバイル端末501のマイクロフォンを介して801にてPrinte1との接続要求を自然言語の音声で伝える。そうすると801が表示される。若しくは、モバイル端末501のタッチパネルからキー入力をすることで、自然言語で入力してもよい。そうすると801が表示される。図8の801,803,805は、ユーザがモバイル端末501から音声またはキー入力で入力した情報である。802,804,806,807は、自然言語処理、字句解析サービス511が、設定アプリまたは、設定サービスに対して送信に応じて表示される自然言語データである。
 モバイル端末501は自然言語処理、字句解析サービス511に入力された自然言語データ(801)を送信する。自然言語処理、字句解析サービス511は、前記入力を解析する。自然言語処理、字句解析サービス511は、入力された自然言語データを解析する。入力された自然言語を文節および単語に区切る。そして、それぞれの単語の中から名詞を取り出す。そして、それらの名詞を固有名詞やその他の名詞に分類分けする。その結果、分類分けされたエンティティの中に、図7で登録した、「アクションを実行するための情報」が揃っているかを判別する。その判別の結果、「アクションを実行するための情報」が不足していると判断する。不足とされると、自然言語で表現されたnetworkを特定するための問い合わせをモバイル端末501に送信する。モバイル端末501の対話エージェントは受信した問い合わせ802を出力する。
 ユーザはモバイル端末501上の対話エージェントから、803にてnetworkとして無線を要求する旨、自然言語で伝える。モバイル端末501は自然言語処理、字句解析サービス511に入力された自然言語データを送信する。自然言語処理、字句解析サービス511は、前記入力を解析する。その結果、図7で登録したアクションを実行するための情報がさらに不足しているので、自然言語で表現されたmethodを特定するための問い合わせをモバイル端末501に送信する。モバイル端末501の対話エージェントは受信した問い合わせ804を出力する。
 ユーザはモバイル端末501上の対話エージェントから、805にてmethodとしてダイレクトを要求する旨、自然言語で伝える。モバイル端末501は自然言語処理、字句解析サービス511に入力された自然言語データを送信する(S6001)。自然言語処理、字句解析サービス511は、前記入力を前述と同様に解析する。その結果、図7で登録したアクションを実行するための情報が揃うと次の処理をする。すなわち、複合機管理サービス510に複合機の無線ダイレクト機能開始要求603をWebhookで送信する(S6003)。複合機管理サービス510は、先ほど図7の7001のWebhookで入力したURLに対応するものである。複合機管理サービス510は図6のシーケンスに従い、複合機の無線ダイレクト機能開始応答606を自然言語処理、字句解析サービス511に応答する(S6006)。
 自然言語処理、字句解析サービス511は、複合機の無線ダイレクト機能開始応答606で応答された内容を、モバイル端末501に送信する(S6007)。モバイル端末501の対話エージェントは受信した応答メッセージ806、807を出力する。
 なお、本実施形態において、モバイル端末501の対話エージェントが行う出力を、テキストによる画面表示として説明しているが、音声による出力であっても良い。テキストと、音声を同時に出力するようにしてもよい。
 図9は本実施形態における複合機の無線ダイレクト機能開始要求603のデータ例である。図6で説明した複合機の無線ダイレクト機能開始要求603には図7で説明したアクションで定義された情報が含まれる。具体的には、エンティティ情報であるdevice、network、method、actionが含まれる。これらの情報はJavaScript(登録商標) Object Notation(JSON)フォーマットのデータとして表現される。本実施形態では、無線ダイレクト機能開始要求603はWebhookつまりHTTPのPOSTリクエストとして複合機管理サービス510に送信される。
 図10は本実施形態における無線ダイレクト機能開始要求604のデータ例である。図6で説明した無線ダイレクト機能開始要求604には図7で説明したアクションで定義された情報が含まれる。具体的には、エンティティ情報であるnetwork、method、actionが含まれる。これらの情報はJSONフォーマットのデータとして表現される。device情報はこの時点で特定されているため、含む必要はない。本実施形態では、無線ダイレクト機能開始要求604はXMPPプロトコルを使用して複合機100に送信される。
 図11は本実施形態における無線ダイレクト機能開始応答605のデータ例である。resultには無線ダイレクト機能開始結果が格納される。本実施形態では成功を示すsuccessがセットされている。ssidには複合機100のssid情報が格納される。ssidには複合機100のssid情報が格納される。passwordには複合機100のネットワークキー情報が格納される。本実施形態では、無線ダイレクト機能開始応答605はXMPPプロトコルを使用して複合機管理サービス510に送信される。
 図12は本実施形態における複合機の無線ダイレクト機能開始応答606のデータ例である。displayTextはモバイル端末501の対話エージェントに対しテキストによる画面表示を指示するものである。speechはモバイル端末501の対話エージェントに対し音声出力を指示するものである。1201では無線ダイレクト機能の開始結果を自然言語で応答する。
 1202では複合機100のSSIDとPASSWORDとモバイル端末501の操作内容を自然言語で応答する。本実施形態では、無線ダイレクト機能開始応答605はHTTPのPOSTリクエストとして自然言語処理、字句解析サービス511に送信される。
 図13は本実施形態における複合機の処理を示すフローチャートである。複合機100は複合機管理サービス510から無線ダイレクト機能開始要求604を受信(S6004)すると、S1301にて、記憶部310から無線ダイレクト設定を読み出す。S1301にて、無線ダイレクト設定の値が動作中であるか否かを判断する。動作中である場合、複合機100はS1304にてSSIDとPASSWORD情報を記憶部310から読み出す。また、動作中でなかった場合、S1303にて複合機100の無線ダイレクト通信制御部301は無線ダイレクトを開始する。その後、複合機100は前記S1304の処理を行う。次に、複合機100のXMPP通信制御部304はS1305にて無線ダイレクト機能開始結果を複合機管理サービス510に応答する。S1304は、S6005に対応する。
 (実施形態2)
 実施形態1では、モバイル端末501の対話エージェントが行う出力を、テキストによる画面表示、または、音声による出力、どちらで指定することも可能であった。しかし、出力データにPASSWORDのような機密データが含まれる場合、音声による出力を避けたいケースがあった。実施形態2はこの点を考慮した実施形態である。
 図14は実施形態2における無線ダイレクト機能開始応答605のデータ例である。resultには無線ダイレクト機能開始結果が格納される。本実施形態では成功を示すsuccessがセットされている。ssidには複合機100のssid情報が格納される。ssidには複合機100のssid情報が格納される。password(1401)には複合機100のネットワークキー情報が格納される。また、さらに、これらの情報がセキュアな情報か否かを示すsecuredという情報もセットされる。本実施形態ではpasswordが含まれるため、secured(1402)には“true”がセットされる。
 本実施形態では、無線ダイレクト機能開始応答605はXMPPプロトコルを使用して複合機管理サービス510に送信される。S6001乃至S6004の処理の後、S6005において605が発行される。
 図15は実施形態2における複合機の無線ダイレクト機能開始応答606のデータ例である。606-1では無線ダイレクト機能の開始結果を自然言語で応答する。606-2では複合機100のSSIDとPASSWORDとモバイル端末501の操作内容を自然言語で応答する。
 ここで、複合機管理サービス510は、S6005で受け取った図14の無線ダイレクト機能開始応答605を解析する。すると、1402のSecureタグが発見される。そこで、受け取った605に関わる情報がセキュアであると判断する。そこで、モバイル端末501の対話エージェントへの出力方法を音声ではなくテキストによる画面出力だけにするためにdisplayTextを指定する(図15)。
 (実施形態3)
 実施形態2では、モバイル端末501の対話エージェントが行う出力を、605に機密データが含まれるか否かにより、テキストによる画面出力、音声による出力を自動的に決定する実施形態であった。実施形態3では、複合機100が、対話エージェントによる出力方法を制御する設定を持ち、それに従って、複合機管理サービス510に指示を出す例である。
 図16は実施形態3における複合機100にて対話エージェント出力方法を設定する画面例である。本設定画面では、出力方法として、音声出力、文字出力それぞれを有効、無効に設定することができる。本設定画面は、複合機100の操作部102に表示される。
 図17は実施形態3における無線ダイレクト機能開始応答605のデータ例である。1701は図16において文字出力のみ有効である場合のデータ例である。出力方法を示す“output”には“displayText”のみセットされている。1702は図16において音声出力のみ有効である場合のデータ例である。出力方法を示す“output”には“speech”のみセットされている。1703は図16において文字出力、音声出力、両方を有効にした場合のデータ例である。出力方法を示す“output”には“displayText”と“speech”がセットされている。出力方法が“displayText”であれば表示がモバイル端末においてなされ、“speech”であれば、音声応答がモバイル端末においてなされる。
 つまり、図16の1601のみがONであれば、1702が、1602のみがONであれば1701が、出力される。また、1601および1602の双方がONであれば、1703が出力される。
 1701乃至1703は、図6のS6005において複合機100から複合機管理サービス510へ送信される。そして、さらに、511へ送信される。511は、501に1701乃至1703に従った処理をさせる。
 図18は実施形態3における複合機管理サービス510の処理を示すフローチャートである。複合機管理サービス510は図17で説明した無線ダイレクト機能開始応答605を受信すると、S1801にて、受信した開始応答605を解析する。次に、複合機管理サービス510はS1802にてレスポンスメッセージを生成する。図17の例の場合、レスポンスメッセージは、具体的には“Printer1の無線ダイレクト機能を開始しました。モバイル端末の、設定->WiFiから以下アクセスポイントに接続してください。SSID:CanonPrinter PASSWORD:1234567890“というメッセージになる。
 次に、複合機管理サービス510はS1803にて無線ダイレクト機能開始応答605に含まれる“output”に“speech”が指定されているか否かを判断する。“output”には出力手段が設定されている。“speech”が指定されている場合、S1804にてレスポンスメッセージの出力方法としてspeechを設定する。これによりレスポンスメッセージにはspeechが付加される。
 次に、複合機管理サービス510はS1805にて無線ダイレクト機能開始応答605に含まれる“output”に“displayText”が指定されているか否かを判断する。“displayText”が指定されている場合、S1806にてレスポンスメッセージの出力方法としてdisplayTextを設定する。これによりレスポンスメッセージにはdisplayTextが付加される。
 次に、複合機管理サービス510はS1807にて生成したレスポンスメッセージを複合機の無線ダイレクト機能開始応答606として自然言語処理、字句解析サービス511に送信する。
 無線ダイレクト機能開始応答605を受信するたびごとに、図18が実行される。図8の説明にも記載しているが、802,804は自然言語処理、字句解析サービス511で折り返して処理する。つまり、図6の、601,602の繰り返しの部分に対応する。806,807は、無線ダイレクト機能開始応答605を受信し、図18が実行された結果、表示される。
 周辺機器の一例として、印刷機能を有する複合機100、プリンタを示した。ただし、周辺機器は、レーザスマートフォンなどの通信機器でもよい。また、これらの通信機器と通信可能で、前記周辺機器の設定処理をする設定サービスの一例として、複合機管理サービス510を示した。設定情報の一例として、図7の7002乃至7005を示した。自然言語情報の一例として、図8の801乃至807を示した。なお、入力された自然言語情報の中から複合機100に設定すべき所定の設定情報、を特定する。
 複合機100に設定すべき所定の設定情報が自然言語情報のメッセージの中において特定できなかったことに応じて、特定できなかった設定情報を得るために、自然言語による応答を前記対話型エージェントプログラムに対して応答する。対話型エージェントプログラムの一例としては、自然言語処理、字句解析サービス511がある。
 応答した自然言語による応答が自然言語処理、字句解析サービス511において出力された後に、サービス511に対する自然言語情報の入力に基づく情報を取得する。
 そして、特定できなかった設定情報を、先ほどの入力に基づき取得した情報に基づいて識別する。これにより、特定された情報と、識別された情報とを複合機管理サービス510に対して入力する。
 サービス511は、所定の複数の設定情報が得られるまで、自然言語による応答をモバイル端末501に対して繰り返し送信する。所定の設定情報とは、印刷宛先を含む。所定の設定情報とは、無線通信に関する設定情報を含む。
 複合機管理サービス510に対して、特定された情報と、識別された情報とが入力されることに応じて、複合機100内の無線アクセスポイントが通信可能となる。複合機100内の無線アクセスポイントと通信するための情報をサービス511に対して出力してもよい。これらの処理は、システム内のCPUすなわちコンピュータにより実行されうる。
 本発明は上記実施の形態に制限されるものではなく、本発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、本発明の範囲を公にするために以下の請求項を添付する。
 本願は、2017年10月26日提出の日本国特許出願特願2017-207440を基礎として優先権を主張するものであり、その記載内容の全てをここに援用する。

Claims (11)

  1.  周辺機器と通信可能で、前記周辺機器の設定処理をする設定サービスを有するシステムにおいて、
     入力された自然言語情報の中から前記周辺機器に設定すべき所定の設定情報を特定する特定手段と、
     前記周辺機器に設定すべき所定の設定情報が前記自然言語情報の中において特定できなかったことに応じて、前記特定できなかった設定情報を得るために、自然言語による応答を対話型エージェントプログラムに対して応答する応答手段と、
     前記応答手段が応答した自然言語による応答が前記対話型エージェントプログラムにおいて出力された後に、前記対話型エージェントプログラムに対する自然言語情報の入力に基づく情報を取得する取得手段、
     前記特定手段が特定できなかった設定情報を前記取得手段が取得した情報に基づいて識別する識別手段と、
     前記特定手段により特定された情報と、前記識別手段により識別された情報とを前記周辺機器の設定サービスに対して入力する入力手段
     を備えるシステム。
  2.  前記応答手段は、所定の複数の設定情報が得られるまで、自然言語による応答を前記対話型エージェントプログラムに対して繰り返し送信する請求項1に記載のシステム。
  3.  前記所定の設定情報とは、印刷宛先を含むことを特徴とする請求項1に記載のシステム。
  4.  前記所定の設定情報とは、無線通信に関する設定情報であることを特徴とする請求項1に記載のシステム。
  5.  前記設定サービスに対して、前記特定手段により特定された情報と、前記識別手段により識別された情報とを入力されることに応じて、前記周辺機器が有する無線アクセスポイントが通信可能となり、前記周辺機器が有する無線アクセスポイントと通信するための情報を前記対話型エージェントプログラムに対して出力する出力手段をさらに備える請求項4に記載のシステム。
  6.  周辺機器と通信可能で、前記周辺機器の設定処理をする設定サービスを有するシステムを制御する方法において、
     入力された自然言語情報の中から前記周辺機器に設定すべき所定の設定情報を特定する特定工程と、
     前記周辺機器に設定すべき所定の設定情報が前記自然言語情報の中において特定できなかったことに応じて、前記特定できなかった設定情報を得るために、自然言語による応答を対話型エージェントプログラムに対して応答する応答工程と、
     前記応答工程が応答した自然言語による応答が前記対話型エージェントプログラムにおいて出力された後に、前記対話型エージェントプログラムに対する自然言語情報の入力に基づく情報を取得する取得工程、
     前記特定工程が特定できなかった設定情報を前記取得工程が取得した情報に基づいて識別する識別工程と、
     前記特定工程により特定された情報と、前記識別工程により識別された情報とを前記周辺機器の設定サービスに対して入力する入力工程
     を備えるシステムの制御方法。
  7.  前記応答工程は、所定の複数の設定情報が得られるまで、自然言語による応答を前記対話型エージェントプログラムに対して繰り返し送信する請求項6に記載のシステムの制御方法。
  8.  前記所定の設定情報とは、印刷宛先を含むことを特徴とする請求項7に記載のシステムの制御方法。
  9.  前記所定の設定情報とは、無線通信に関する設定情報であることを特徴とする請求項7に記載のシステムの制御方法。
  10.  前記設定サービスに対して、前記特定工程により特定された情報と、前記識別工程により識別された情報とを入力されることに応じて、前記周辺機器が有する無線アクセスポイントが通信可能となり、前記周辺機器が有する無線アクセスポイントと通信するための情報を前記対話型エージェントプログラムに対して出力する出力工程をさらに備える請求項9に記載のシステムの制御方法。
  11.  請求項6に記載の方法をコンピュータに実行させる制御プログラム。
PCT/JP2018/038414 2017-10-26 2018-10-16 周辺機器を設定等するシステム、制御方法、制御プログラム WO2019082725A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201880068904.4A CN111263929B (zh) 2017-10-26 2018-10-16 设置外围装置的系统和控制方法
US16/849,798 US11068213B2 (en) 2017-10-26 2020-04-15 System of setting peripheral device and control method
US17/355,609 US11467781B2 (en) 2017-10-26 2021-06-23 System of setting peripheral device and control method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017207440A JP2019079417A (ja) 2017-10-26 2017-10-26 周辺機器を設定等するシステム、制御方法、制御プログラム
JP2017-207440 2017-10-26

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US16/849,798 Continuation US11068213B2 (en) 2017-10-26 2020-04-15 System of setting peripheral device and control method

Publications (1)

Publication Number Publication Date
WO2019082725A1 true WO2019082725A1 (ja) 2019-05-02

Family

ID=66247368

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/038414 WO2019082725A1 (ja) 2017-10-26 2018-10-16 周辺機器を設定等するシステム、制御方法、制御プログラム

Country Status (4)

Country Link
US (2) US11068213B2 (ja)
JP (1) JP2019079417A (ja)
CN (1) CN111263929B (ja)
WO (1) WO2019082725A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001356901A (ja) * 2000-03-22 2001-12-26 Canon Inc 自然言語装置のインターフェース
JP2002023783A (ja) * 2000-07-13 2002-01-25 Fujitsu Ltd 対話処理システム
JP2003233479A (ja) * 2002-02-07 2003-08-22 Canon Inc 印刷システム及びその印刷方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06216831A (ja) * 1993-01-18 1994-08-05 Oki Electric Ind Co Ltd 携帯型文字通信音声合成装置
JP2001216218A (ja) * 2000-02-01 2001-08-10 Canon Inc 印刷制御装置、印刷システム、アダプタ、印刷制御方法及び記憶媒体
JP4228261B2 (ja) * 2000-08-29 2009-02-25 カシオ計算機株式会社 後位装置、携帯通信端末および情報取得方法
JP2002082779A (ja) * 2000-09-06 2002-03-22 Canon Inc 画像形成装置、画像処理システム、及び画像処理方法
JP2003108171A (ja) * 2001-09-27 2003-04-11 Clarion Co Ltd 文書読み上げ装置
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US20090019553A1 (en) * 2007-07-10 2009-01-15 International Business Machines Corporation Tagging private sections in text, audio, and video media
JP5247508B2 (ja) * 2009-02-10 2013-07-24 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、及びプログラム
JP4746690B2 (ja) * 2009-07-02 2011-08-10 シャープ株式会社 ユーザ情報提供システム
JP5414458B2 (ja) * 2009-10-28 2014-02-12 京セラ株式会社 音声合成機能付き文字情報表示装置、およびその音声合成方法
JP5677047B2 (ja) * 2010-11-22 2015-02-25 キヤノン株式会社 印刷システム、情報処理装置、印刷方法、及び、プログラム
JP2013131016A (ja) * 2011-12-21 2013-07-04 Canon Inc 印刷中継装置、印刷システム、印刷中継装置の制御方法、およびコンピュータプログラム
JP6403505B2 (ja) * 2014-09-04 2018-10-10 キヤノン株式会社 情報処理装置及びその制御方法、並びにプログラム
JP6166746B2 (ja) * 2015-04-10 2017-07-19 キヤノン株式会社 通信装置とその制御方法及びプログラム
JP6515705B2 (ja) * 2015-06-30 2019-05-22 株式会社リコー 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP2017027312A (ja) * 2015-07-21 2017-02-02 キヤノン株式会社 情報処理装置、送信方法、および、プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001356901A (ja) * 2000-03-22 2001-12-26 Canon Inc 自然言語装置のインターフェース
JP2002023783A (ja) * 2000-07-13 2002-01-25 Fujitsu Ltd 対話処理システム
JP2003233479A (ja) * 2002-02-07 2003-08-22 Canon Inc 印刷システム及びその印刷方法

Also Published As

Publication number Publication date
CN111263929A (zh) 2020-06-09
US20210318838A1 (en) 2021-10-14
JP2019079417A (ja) 2019-05-23
US11068213B2 (en) 2021-07-20
US11467781B2 (en) 2022-10-11
CN111263929B (zh) 2023-07-07
US20200241809A1 (en) 2020-07-30

Similar Documents

Publication Publication Date Title
US8964217B2 (en) Information processing system and method for acquiring workflow from management apparatus using user terminal address
KR101377468B1 (ko) 화상처리장치, 화상처리장치의 제어 방법 및 컴퓨터 프로그램을 격납한 기록 매체
USRE47876E1 (en) Mobile terminal device, and method and computer readable medium for the same
US8687219B2 (en) System which can utilize a function of an image processing apparatus as a web service
JP7250471B2 (ja) 情報処理システム、画像形成装置、端末、情報処理方法、プログラム
US10462319B2 (en) Image reading apparatus transmitting device identification information and reading information to push notification server, and method for controlling the image reading apparatus
US8982388B2 (en) Information processing apparatus that displays operation screen and control method therefor
CN102811298A (zh) 信息处理设备及其控制方法和服务器设备及其控制方法
JP6822149B2 (ja) 遠隔サポートシステム、画像処理装置及び遠隔サポート用の制御プログラム
KR101758854B1 (ko) 스캐닝장치, 이에 연결된 모바일장치 및 그 스캔작업수행방법
CN102377816A (zh) 图像形成装置及信息处理方法
US20130050733A1 (en) Information processing apparatus that displays web page, method of controlling information processing apparatus, and storage medium
JP2004227136A (ja) 印刷装置
JP2008084312A (ja) リモート画像処理ジョブを第三者が制御するための方法およびシステム
US9325864B2 (en) Image processing apparatus, information processing system, information processing method, and storage medium to communicate with external apparatus
WO2019082725A1 (ja) 周辺機器を設定等するシステム、制御方法、制御プログラム
JP6202137B2 (ja) 画像形成装置、情報処理方法、及びプログラム
JP2004259250A (ja) 多機能サーバ装置
JP2006129356A (ja) 文書処理システム、文書処理装置、デバイス、文書処理システムのui表示処理方法および表示処理プログラム
JP2012174206A (ja) 画像処理装置、サーバ装置、それらの制御方法、及びプログラム
JP7033164B2 (ja) 情報処理装置、及びプログラム
JPH11346288A (ja) 画像処理装置のパラメータ共有方法およびシステム
JP5315939B2 (ja) 画像形成装置、情報処理システム、情報処理方法、及びプログラム
JP2021149771A (ja) 情報処理装置、情報処理システム、情報処理方法、および情報処理プログラム
JP2024014484A (ja) データ処理装置、画像形成装置及びその制御方法、並びにプログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18870069

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18870069

Country of ref document: EP

Kind code of ref document: A1