JP7177591B2 - 無線端末、サーバ、それらの制御方法、プログラム、及びシステム - Google Patents

無線端末、サーバ、それらの制御方法、プログラム、及びシステム Download PDF

Info

Publication number
JP7177591B2
JP7177591B2 JP2017242878A JP2017242878A JP7177591B2 JP 7177591 B2 JP7177591 B2 JP 7177591B2 JP 2017242878 A JP2017242878 A JP 2017242878A JP 2017242878 A JP2017242878 A JP 2017242878A JP 7177591 B2 JP7177591 B2 JP 7177591B2
Authority
JP
Japan
Prior art keywords
intention
image forming
user
server
wireless terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017242878A
Other languages
English (en)
Other versions
JP2019109752A (ja
Inventor
政人 土屋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2017242878A priority Critical patent/JP7177591B2/ja
Application filed by Canon Inc filed Critical Canon Inc
Priority to CN201880082193.6A priority patent/CN111512281B/zh
Priority to PCT/JP2018/042099 priority patent/WO2019123899A1/ja
Priority to RU2020123539A priority patent/RU2750623C1/ru
Priority to KR1020237018451A priority patent/KR20230084324A/ko
Priority to KR1020207019870A priority patent/KR102540222B1/ko
Publication of JP2019109752A publication Critical patent/JP2019109752A/ja
Priority to US16/901,364 priority patent/US11438469B2/en
Application granted granted Critical
Publication of JP7177591B2 publication Critical patent/JP7177591B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1202Dedicated interfaces to print systems specifically adapted to achieve a particular effect
    • G06F3/1203Improving or facilitating administration, e.g. print management
    • G06F3/1204Improving or facilitating administration, e.g. print management resulting in reduced user or operator actions, e.g. presetting, automatic actions, using hardware token storing data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00405Output means
    • H04N1/00408Display of information to the user, e.g. menus
    • H04N1/00411Display of information to the user, e.g. menus the display also being used for user input, e.g. touch screen
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B41PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41JTYPEWRITERS; SELECTIVE PRINTING MECHANISMS, i.e. MECHANISMS PRINTING OTHERWISE THAN FROM A FORME; CORRECTION OF TYPOGRAPHICAL ERRORS
    • B41J29/00Details of, or accessories for, typewriters or selective printing mechanisms not otherwise provided for
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B41PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41JTYPEWRITERS; SELECTIVE PRINTING MECHANISMS, i.e. MECHANISMS PRINTING OTHERWISE THAN FROM A FORME; CORRECTION OF TYPOGRAPHICAL ERRORS
    • B41J29/00Details of, or accessories for, typewriters or selective printing mechanisms not otherwise provided for
    • B41J29/38Drives, motors, controls or automatic cut-off devices for the entire printing mechanism
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1223Dedicated interfaces to print systems specifically adapted to use a particular technique
    • G06F3/1237Print job management
    • G06F3/1253Configuration of print job parameters, e.g. using UI at the client
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1278Dedicated interfaces to print systems specifically adapted to adopt a particular infrastructure
    • G06F3/1292Mobile client, e.g. wireless printing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1296Printer job scheduling or printer resource handling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/18Speech classification or search using natural language modelling
    • G10L15/1815Semantic context, e.g. disambiguation of the recognition hypotheses based on word meaning
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/18Speech classification or search using natural language modelling
    • G10L15/1822Parsing for meaning understanding
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/28Constructional details of speech recognition systems
    • G10L15/30Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00204Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server
    • H04N1/00244Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server with a server, e.g. an internet server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00352Input means
    • H04N1/00403Voice input means, e.g. voice commands
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W76/00Connection management
    • H04W76/10Connection setup
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W88/00Devices specially adapted for wireless communication networks, e.g. terminals, base stations or access point devices
    • H04W88/02Terminal devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W92/00Interfaces specially adapted for wireless communication networks
    • H04W92/04Interfaces between hierarchically different network devices
    • H04W92/08Interfaces between hierarchically different network devices between user and terminal device
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Facsimiles In General (AREA)
  • Accessory Devices And Overall Control Thereof (AREA)
  • User Interface Of Digital Computer (AREA)
  • Mobile Radio Communication Systems (AREA)

Description

本発明は、無線端末、サーバ、それらの制御方法、プログラム、及びシステムに関する。
近年の人工知能系の研究開発分野はまさに黎明期であり、スマートフォン・家電などの小型の電子機器から車・家など大型のものまで人工知能を活用した機能を搭載し始めている。なかでも音声認識・自然言語処理を活用した対話式ユーザインタフェースに関連する技術はすでに実用に耐えうる十分な技術蓄積がある。フロントエンド開発の技術者が自社製品に対話式ユーザインタフェースの機能を搭載するためのプラットフォームが整い、開発に必要な敷居はかなり低くなったといえる。
対話式ユーザインタフェースでは音声又はテキスト入力によって人間とコンピュータが「対話」をする形で電子機器を操作する。以前からあるボイスコマンドは、特定のキーワードに反応するのみであるが、対話式ユーザインタフェースは人間と対話しているような感覚で電子機器を操作できるのが特徴である。音声認識・自然言語処理を活用した対話式ユーザインタフェースにおける課題はユーザが発話又はテキスト入力している内容から如何にしてユーザが現在行おうとしている意図を読み取ることにある。特許文献1には、ユーザ意図を解釈するためにハンズフリーコンテキストという概念を導入する方法が提案されている。
特開2017-16683号公報
一方、MFP(Multifunctional peripheral)等の画像形成装置では、提供する機能の多様化、複雑化に伴い、ユーザに対してより複雑な操作を要求することとなっている。MFPのユーザインタフェースを閲覧しながら条件等を設定することは、要望するサービスにもよるが、ユーザにとって非常に複雑であり、かつ煩わしいものとなる場合がある。また、携帯端末等からMFPへアクセスする場合に、そのユーザインタフェースにおいて、無線ダイレクト等の複雑な設定を行うことは一般ユーザには理解が難しいものである。さらに、MFP等が有する機能自体を十分に把握していないユーザも存在する。そこで、容易にユーザの意図を解釈して、当該ユーザに適切な装置や機能等を提示するユーザインタフェースが要望されている。
本発明は、上述の問題の少なくとも一つに鑑みて成されたものであり、ユーザに複雑な操作を要求することなく、ユーザの意図を対話的に取得し、ユーザの意図に適する装置や機能等を提示する仕組みを提供することを目的とする。
本発明は、例えば、画像形成装置及びサーバと通信可能な無線端末であって、音声でのユーザ入力を受け付けて前記サーバへ送信する送信手段と、前記サーバにおいて前記送信した音声が音声認識によりテキストに変換され、変換されたテキストについて前記サーバの自然言語処理エンジンによって解釈されたユーザの意図と、複数の画像形成装置の能力情報とに基づき決定された1以上の画像形成装置のリストを該サーバから受信する受信手段と、前記受信手段によって受信した前記1以上の画像形成装置のリストを表示する表示手段とを備え、前記サーバには、前記ユーザ入力に従ってユーザの意図を解釈する意図解釈サーバと、1以上の前記画像形成装置を管理する管理サーバとが含まれ、前記意図解釈サーバは、前記ユーザ入力が音声である場合に音声認識を実行する音声認識エンジンと、前記音声認識エンジンによって音声認識されたユーザ入力又はテキストによるユーザ入力を言語処理する前記自然言語処理エンジンと、複数の意図と、意図ごとに1以上のパラメータとを紐づけて保持する意図データベースと、前記自然言語処理エンジンによって言語処理されたユーザ入力と、前記意図データベースが保持する情報とに従って、ユーザの意図を解釈し、解釈できない場合には追加の質問を前記無線端末へ提示する意図解釈手段とを備え、前記管理サーバは、各ユーザと利用可能な1以上の画像形成装置とを紐づけて定義するプリンタ情報テーブルと、各画像形成装置の能力情報を定義するプリンタ能力情報テーブルとを保持するプリンタデータベースと、前記意図解釈サーバで解釈されたユーザの意図に従う1以上の画像形成装置のリストを前記プリンタデータベースを参照して作成して提供する提供手段とを備えることを特徴とする。
また、本発明は、無線端末とサーバと1以上の画像形成装置が通信可能なシステムであって、前記無線端末は、音声でのユーザ入力を受け付けて前記サーバへ送信する第1の送信手段を備え、前記サーバは、前記無線端末から受信した音声に音声認識を実行して、前記音声をテキストに変換する変換手段と、前記変換手段によって変換されたテキストについて、自然言語処理エンジンによるユーザの意図の解釈を実行し、ユーザの意図を決定する実行手段と、前記1以上の画像形成装置の能力情報と、前記実行手段によって決定されたユーザの意図とに基づき、ユーザの意図を満たす1以上の画像形成装置を決定する決定手段と、前記決定手段によって決定された1以上の画像形成装置のリストを、前記無線端末に送信する第2の送信手段と、を備え、前記無線端末は、さらに、前記1以上の画像形成装置のリストを前記サーバから受信する受信手段と、前記受信手段によって受信した前記1以上の画像形成装置のリストを表示する表示手段とを備えることを特徴とする。
また、本発明は、1以上の画像形成装置と無線端末と通信可能なサーバであって、無線端末から受信した音声に音声認識を実行して、前記音声をテキストに変換する変換手段と、前記変換手段によって変換されたテキストについて、自然言語処理エンジンによるユーザの意図の解釈を実行し、ユーザの意図を決定する実行手段と、前記1以上の画像形成装置の能力情報と、前記実行手段によって決定されたユーザの意図とに基づき、ユーザの意図を満たす少なくとも1つの画像形成装置を決定する決定手段と、前記決定手段によって決定された少なくとも1つの画像形成装置のリストを、前記無線端末に送信する送信手段とを備えることを特徴とする。
本発明によれば、ユーザに複雑な操作を要求することなく、ユーザの意図を対話的に取得し、ユーザの意図に適する装置や機能等を提示することができる。
一実施形態に係る情報処理システムの構成を示す図。 一実施形態に係るMFPのハードウェア構成を示す図。 一実施形態に係るMFPのソフトウェア構成を示す図。 一実施形態に係る無線端末のハードウェア構成を示す図。 一実施形態に係る各サーバのハードウェア構成を示す図。 一実施形態に係る意図解釈サーバのフローチャート。 一実施形態に係るMFP管理サーバのフローチャート。 一実施形態に係る携帯端末のユーザインタフェースの遷移図。 一実施形態に係るプリンタを選定する際のシーケンス図。
以下に本発明の一実施形態を示す。以下で説明される個別の実施形態は、本発明の上位概念、中位概念及び下位概念など種々の概念を理解するために役立つであろう。また、本発明の技術的範囲は、特許請求の範囲によって確立されるのであって、以下の個別の実施形態によって限定されるわけではない。
<第1の実施形態>
<システム構成>
以下では、本発明の第1の実施形態について説明する。まず、図1を参照して、本実施形態に係る情報処理システム100の構成について説明する。本実施形態に係るシステムは、MFP(画像形成装置及び通信装置の一例)101、無線端末(情報処理装置)102、意図解釈サーバ103、及びMFP管理サーバ104を含んで構成される。なお、少なくともMFP01及び無線端末102は無線通信機能を有し、例えば、MFP101と無線端末102との間では直接又は間接的に無線接続することができる。一般的に無線接続にはいくつかの実施形態があるが、本発明では特に限定しない。例えば、Wi-Fi(登録商標)、BLE、NFC等の近距離通信からLTE(登録商標),3G、4G等の長距離通信、また近年のCat-M1、nb-IoT等のIoT通信を含んでもよい。
MFP101は、印刷、コピー、スキャン、FAX等の各種サービスを提供するとともに、無線通信機能を有する画像形成装置の一例である。無線端末102は、MFP101と無線接続することができ、ユーザによってMFP101のコントローラとして使用される。意図解釈サーバ103は、無線端末102からユーザ入力を受け付けて、そのユーザの意図を解釈する。MFP管理サーバ104は、意図解釈サーバ103及びMFP101と通信可能に接続され、意図解釈サーバ103によって解釈されたユーザの意図を受信し、その意図を実行するための命令をMFP101へ送信する。なお、MFP管理サーバ104には、複数のMFP等の画像形成装置が通信可能に接続されており、意図解釈サーバ103が解釈したユーザの意図に応じて、上記複数の画像形成装置のうち適切な画像形成装置を意図解釈サーバ103を介してユーザに提示する。
MPF101と無線端末102はオフィスビル内の同じ部屋に存在し、ユーザは無線端末102を操作することでMFP101に対して処理を要求する。一方で、意図解釈サーバ103及びMFP管理サーバ104はそれらのサービスをインターネット上で公開するものであってもよい。なお、本実施形態は、ユーザがMFP101へ処理要求を送信する場合を例に説明するが、特許請求の範囲となる設定対象機器は一般的な情報処理装置であり、MFP101はパーソナルコンピュータや携帯端末などであってもよい。
<MFP101のハードウェア構成>
次に、図2を参照して、本実施形態に係るMFP101のハードウェア構成を説明する。MFP101は、ハードウェア構成として、CPU211、ROM(Read Only Memory)212、RAM(Random Access Memory)213、HDD(Hard Disk Drive)214、操作部215、プリンタ216、スキャナ217、Bluetooth(登録商標)I/F218、Wi-FiI/F219、Ethernet(登録商標)I/F220を備える。各ハードウェア211~220は、内部バス221によって接続され相互にデータ交換を行うことができる。
CPU211は、MFP101全体の動作を統括的に制御する。CPU211は、ROM212やHDD214等に記憶された制御プログラムをRAM213に読み出して読取制御や送信制御などの各種制御を行う。RAM213は、CPU211が各種プログラムを実行するためのワークエリア等として使用する揮発性のメモリである。HDD214は、画像データや各種プログラムを記憶する。
操作部215は、ユーザの指で操作可能なタッチパネルとして動作するディスプレイやハードウェアボタンを備える。プリンタ216は、内部バス221を介して転送された画像データを用紙等の記録媒体に印刷する。スキャナ217は、原稿上の画像を読み取って画像データを生成する。BluetoothI/F218は、Bluetooth規格で無線通信を行うインタフェースであり、BluetoothI/Fを持つ他の機器と相互に通信を行う。本実施形態では無線端末102とBluetooth規格により相互に通信を行う。Wi-FiI/F219とEthernetI/F220は、それぞれ無線・有線によってネットワークに接続するためのNIC(Network Interface Card)である。
<MFP101のソフトウェア構成>
次に、図3を参照して、本実施形態に係るMFP101のソフトウェア構成を説明する。MFP101は、ソフトウェア構成として、ネットワーク制御部301、UI制御部302、OSカーネル303、Bluetooth通信制御部304、Wi-Fi通信制御部305、及びEthernet通信制御部306を備える。
Wi-Fi通信制御部305は、Wi-FiI/F219を制御するためのモジュールである。Bluetooth通信制御部304は、Bluetooth通信I/F218を制御するためのモジュールである。同様にEthernet通信制御部306は、Ethernet通信I/F220を制御する。これらのモジュールはOSカーネル303によって制御される。ネットワーク制御部301は、OSカーネル303を介してBluetoothやWi-Fiの各通信制御部を操作する。ネットワーク制御部301は現在のネットワーク設定を管理し、Ethernet(有線LAN)、無線LAN、無線P2P接続のそれぞれの通信形態が有効かどうかを管理する。ネットワーク制御部301は、UI制御部302と情報伝達を行い、UIの表示を変えたり、逆にUIからの操作要求によってネットワーク制御を行ったりする。
<無線端末のハードウェア構成>
次に、図4を参照して、本実施形態に係る無線端末102のハードウェア構成の一例を説明する。図4に示すように、無線端末102は、ハードウェア構成として、システム制御部400、操作パネル408、スピーカ409、及びマイク410を備える。また、システム制御部400は、CPU401、ROM402、RAM403、HDD404、操作パネルI/F405、音声入出力I/F406、及びネットワークI/F407を備える。各ハードウェア401~407は、内部バス412によって接続され相互にデータ交換を行うことができる。
システム制御部400は、無線端末102を統括的に制御する制御部である。CPU401は、無線端末102全体の動作を統括的に制御する。CPU401は、ROM402やHDD404等に記憶された制御プログラムをRAM403に読み出して音声入力や送信制御などの各種制御を行う。RAM403は、CPU401が各種プログラムを実行するためのワークエリア等として使用する揮発性のメモリである。HDD404は、MFP101へ送信する印刷データや各種プログラムを記憶する。
操作パネルI/F405は、操作パネル408におけるユーザ入力を制御するとともに、操作パネル408への表示出力を制御するインタフェースである。操作パネル408は、例えばタッチパネル式の液晶ディスプレイで構成され、入力部と表示部とを有するユーザインタフェースである。音声入出力I/F406は、スピーカ409及びマイク410に接続され、ユーザからの音声の取得や、ユーザへの音声の出力を制御する。ネットワークI/F407は、各種ネットワークへ接続され、例えば、インターネットを介して意図解釈サーバ103と接続され、無線通信を介してMFP101と接続される。
<各サーバのハードウェア構成>
次に、図5を参照して、本実施形態に係る意図解釈サーバ103やMFP管理サーバ104のハードウェア構成について説明する。意図解釈サーバ103は、CPU501、RAM502、ROM503、HDD504、データベースI/F505、及び広域ネットワークI/F506を備える。各ハードウェア501~506は、内部バス508によって接続され相互にデータ交換を行うことができる。
CPU501は、意図解釈サーバ103を統括的に制御する。CPU501は、ROM503やHDD504等に記憶された制御プログラムをRAM502に読み出して意図解析や送信制御などの各種制御を行う。RAM502は、CPU501が各種プログラムを実行するためのワークエリア等として使用する揮発性のメモリである。HDD504は、後述する登録済み意図テーブルや各種プログラムを記憶する。
データベースI/F505は、データベース(意図データベース)507に接続され、データベース507への情報の入出力を制御する。データベース507は、後述する表1の登録済み意図テーブルを管理する。広域ネットワークI/F506は、広域ネットワークを介した無線端末102及びMFP管理サーバ104との通信を制御する。
MFP管理サーバ104は、CPU511、RAM512、ROM513、HDD514、データベースI/F515、及び広域ネットワークI/F516を備える。各ハードウェア511~516は、内部バス518によって接続され相互にデータ交換を行うことができる。
CPU511は、MFP管理サーバ104を統括的に制御する。CPU511は、ROM513やHDD514等に記憶された制御プログラムをRAM512に読み出して意図解析や送信制御などの各種制御を行う。RAM512は、CPU511が各種プログラムを実行するためのワークエリア等として使用する揮発性のメモリである。HDD514は、後述するプリンタ情報テーブル、プリンタ能力情報テーブルや各種プログラムを記憶する。
データベースI/F515は、データベース(プリンタデータベース)517に接続され、データベース517への情報の入出力を制御する。データベース517は、後述する表2のプリンタ情報テーブル、及び表3のプリンタ能力情報テーブルを管理する。広域ネットワークI/F516は、広域ネットワークを介したMFP101及び意図解釈サーバ103との通信を制御する。
<意図解釈サーバのデータベース構成>
次に、表1を参照して、意図解釈サーバ103が保持する登録済み意図のテーブルについて説明する。このテーブルは、各意図(Intention)にする補足パラメータとして、Requiredパラメータと、そうでない通常のパラメータとの2種類を持つ。Requiredパラメータは入力が必須のパラメータであり、各意図と解釈するにあたって必ず満たさなければならない条件である。それ以外のパラメータは入力必須ではなく、意図の解釈においても満たした方が望ましいという位置づけである。
例えば、意図の例として「プリンタ選定」がある。これはユーザが使用するプリンタを1つに決定する意図であり、Requiredパラメータとして使用するプリンタがカラー印刷をサポートするかどうかのパラメータであるColorが設定されている。また、Requiredでないパラメータとして自動ステープル機能をサポートするかどうかのパラメータであるStapleが設定されている。
よって、意図解釈サーバ103に入力されたテキスト文又は音声入力文が「カラー印刷が可能でステープル機能持っているプリンタを使用する」であれば、この文の意図は「プリンタ選定」と解釈される。さらに、ColorパラメータはEnable(カラー印刷をサポートする)と解釈され、StapleパラメータもEnable(自動ステープル機能をサポートする)と解釈される。用意してあるどの意図にも当てはまらなかったテキスト文入力は「意図不明」と解釈される。なお、表1では、意図として、「プリンタ選定」、「印刷準備」、「印刷」、「意図不明」が定義され、これらに対する各種パラメータが設定されているが、これらは一例であり、本発明を限定する意図はない。他の意図や他のパラメータが登録されてもよく、これらは任意に追加、削除を行うことができる。
Figure 0007177591000001
<MFP管理サーバのデータベース構成>
次に、表2及び表3を参照して、MFP管理サーバ104が保持するプリンタ情報テーブル及びプリンタ能力情報テーブルについて説明する。表2に示すプリンタ情報テーブルには、各ユーザが利用可能なプリンタ情報が定義されている。この情報は特定ユーザに紐づけられた利用可能なプリンタのリストであり、一人のユーザが複数のプリンタを利用可能とすることもでき、一つのプリンタが複数のユーザに利用可能とされることもできる。なお、表2は一例であって本発明を限定する意図はなく、他のユーザや他のプリンタが定義されてもよい。
Figure 0007177591000002
表3に示すプリンタ能力情報テーブルには、各プリンタの能力情報が定義されている。ここでは、Size、Color、Stapleのパラメータは表1で出てきたものと同じものを示す。Sizeは当該プリンタで印刷可能な最大の用紙サイズを表す。Colorは当該プリンタでカラー印刷が可能であるかどうかを示し、Trueであれば当該プリンタでカラー印刷が可能であることを示す。Stapleは自動ステープルを行うオプション機能が当該プリンタで利用可能かを示す。なお、表3は一例であって本発明を限定する意図はなく、他のプリンタや他のパラメータが定義されてもよい。
Figure 0007177591000003
<意図解釈サーバ103の処理>
次に、図6を参照して、本実施形態に係る意図解釈サーバ103がユーザ入力の意図を解釈し、MFP管理サーバ104へ信号を送る処理手順を説明する。以下で説明する処理は、例えば、意図解釈サーバ103のCPU501がROM503やHDD504に格納された制御プログラムをRAM502に読み出して実行することにより実現される。
S601で、意図解釈サーバ103のCPU501は、テキスト入力又は音声入力を無線端末102から受信したかどうかを判定する。テキスト入力又は音声入力を受信した場合、S602に進み、CPU501は、受信した入力の意図を解釈する。具体的には、CPU501は、音声入力についてはまず音声認識エンジンによる音声認識を行って入力音声をテキストに変換する。そして、CPU501は、テキスト入力又は音声入力から変換されたテキストについて自然言語処理エンジンによる意図の解釈を実行する。
次に、S603で、CPU501は、S602での意図判定結果が意図不明であるかどうかを判定する。意図不明であればS607に進み、そうでなければS604に進む。S604で、CPU501は、判定された意図について、表1に示すRequiredパラメータの全てが満たされているかどうかを判定する。Requiredパラメータの全てが満たされていない場合S606に進み、全て満たされている場合はS605に進む。S606で、CPU501は、満たされていないRequiredパラメータに関する追加の質問文を無線端末102のユーザにネットワークを介して提示し、S604の判定に戻る。なお、S604の判定に戻る際には、新たなユーザ入力を受信しS602相当の意図解釈処理を実行し、パラメータの抽出を行う。
Requiredパラメータが全て満たされた場合、S605で、CPU501は、判定された意図とパラメータ群をMFP管理サーバ104に送信し、処理を終了する。一方、S603において意図判定結果が意図不明であった場合は、S607で、CPU501は、意図が不明である旨を無線端末102のユーザにネットワークを介して提示し、処理を終了する。
<MFP管理サーバ104の処理>
次に、図7を参照して、本実施形態に係るMFP104が意図解釈サーバ103から上記S605で送信された意図とそのパラメータを受信した際の処理手順について説明する。以下で説明する処理は、例えば、MFP管理サーバ104のCPU511がROM513やHDD514に格納された制御プログラムをRAM512に読み出して実行することにより実現される。
S701で、MFP管理サーバ104のCPU511は、意図解釈サーバ103から送られてくる信号を受信したか否かを判定する。信号を受信した場合はS702に進み、CPU511は、まず信号に含まれている意図種別を取得し、意図が「MFPの決定(プリンタ選定)」かどうかを判断する。意図が「MFPの決定」であればS703に進み、そうでない場合はS705に進む。
S703で、CPU511は、現在のユーザに紐づけられたMFPで、かつ上記信号に含まれている条件(Required条件)を全て満たすプリンタがあるかどうかを、プリンタ能力情報テーブル(表2)を参照することで判定する。条件を満たすプリンタがあればS709に進み、そうでない場合はS704に進む。S704で、CPU511は、適合するMFPが見つからなかったことを意図解釈サーバ103へネットワークを介して通知し、処理を終了する。一方、条件を満たすプリンタが見つかった場合はS709で、CPU511は、適合するプリンタのリストを作成して意図解釈サーバ103へ返し、処理を終了する。
S702で受信した信号から取得した意図が「MFPの決定」でない場合、S705で、CPU511は、現在のユーザアカウントが使用しようとしているMFPが既に決定済みかどうかを判定する。決定済みでない場合はS710に進み、決定済みの場合はS706に進む。S710で、MFP管理サーバ104は、意図解釈サーバ103に対してMFPを決定させるための意図切り替え要求を送信し、意図を表1における「プリンタ選定」へ切り替え、処理を終了する。
一方、既に使用するMFPが決定している場合は、S706で、CPU511は、今回の意図が決定されたMFPへの通信を必要とするものかどうか判断する。必要であればS707に進み、そうでなければS709に進む。S707で、CPU511は、通信が必要である場合は対象MFPに対して信号の意図に対応する処理要求を送信し、通信確認を行う。続いて、S708で、CPU511は、送信した処理要求に対してMFPからの応答があったか否かを判定する。応答があり、かつ当該応答が成功を示す場合はS709に進み、そうでない場合はS711に進む。S709で、CPU511は、意図解釈サーバ103に対して意図の処理が完了したことを示す信号を送信する。S707でMFP101から失敗を示す応答又は応答そのものがなかった場合、S711で、CPU511は、意図解釈サーバ103に対して意図の処理が失敗したことを示す信号を送信し、処理を終了する。
<無線端末102のユーザインタフェース>
次に、図8を参照して、無線端末102の操作パネル408に表示されるユーザインタフェースとそのフローについて説明する。当該ユーザインタフェースは、無線端末102に格納された所定のアプリケーションを開くと対話形式のアプリケーションの画面が操作パネル408に表示される。上記所定のアプリケーションは、デフォルトで無線端末102にインストールされたものでもよいし、外部装置からダウンロードとしてインストールされたものでもよい。図8に示す画面801~804は当該アプリケーションの画面である。また、以下で説明する無線端末102の処理は、CPU401によって行われる。
画面801は、対話表示領域814にこれまでの対話履歴を表示したものである。対話表示領域814は1対1の対話の流れを上から時系列に並べたものであり、左側にアラインされた文章はMFPサービス側、即ち、意図解釈サーバ103による質問等、右側にアラインされた文章はユーザによる発話又はテキスト入力であることを示している。意図解釈サーバ103による質問等は、上記S606やS607で提示されたものである。画面801においてユーザが画面下方のテキストフィールド811をタップすると、CPU401は、テキスト入力を開始すべく画面802へ遷移させる。
画面802では画面下半分に仮想キーボード822が表示され、ユーザは様々な言語で入力することができる。入力されたテキスト内容はテキストフィールド823に表示される。画面802で対話表示領域821をタップすると、CPU401は、テキストフィールド823の入力状態を維持したまま画面801へ戻す。この状態で画面801の送信ボタン(アイコン)813がタップされると、CPU401は、テキストフィールド811に表示されているテキストをユーザの発話として、意図解釈サーバ103へ送信する。さらに、CPU401は、当該テキストを対話表示領域814に表示させる。
画面801で音声入力ボタン(アイコン)812がタップされると、CPU401は、音声入力を開始するための画面803へ遷移させる。画面803ではリージョン832に示すような、ユーザに音声入力を促す説明が表示され、ユーザからの音声入力が待ち受けられる。ユーザが対話表示領域831にタップするか、音声入力を完了するか、キャンセルボタン833をタップすると、CPU401は、画面801へ戻す。
画面801でファイルセレクタボタン(アイコン)815がタップされると、CPU401は、ファイルの選択を開始する画面804へ遷移させる。画面804では画面の下半分で印刷対象となるファイルを選択することができる。リージョン843に表示された印刷可能なデータ(画像ファイルやPDFなど)がタップされると、CPU401は、テキストフィールド844に送信対象となった印刷可能データ(例えば、アイコン845)を表示させる。当該選択では複数のデータを選択することができ、テキストフィールド844には追加で選択された画像が右側に追加されていく。なお、この状態でテキストフィールド844がタップされると、CPU401は、画面802へ遷移させ、ユーザは表示された印刷可能データのアイコン845をBS(バックスペース)で消すことによって印刷対象から削除することもできる。送信ボタン842がタップされると、CPU401は、選択された印刷可能データを、対話相手となっている情報機器(この場合はMFP側、直接的には意図解釈サーバ103)へ送信する。CPU401は、画面804の表示中に対話表示領域841がタップされるか、ファイル選択が完了して印刷可能データを送信すると、画面801へ戻す。
<対話シナリオ>
次に、図9を参照して、ユーザが無線端末102を介してMFP側と対話し、所定のMFPを利用する流れの一例を説明する。各装置の処理は、各装置のCPUによって統括的に制御される。
S901で、無線端末102は、「印刷する」というユーザからの入力を、意図解釈サーバ103に送信する。意図解釈サーバ103は、音声認識及び言語処理を実行して意図を解釈し、意図が「印刷」であると判断される(S604)。S902で、意図解釈サーバ103は、意図”印刷”をMFP管理サーバ104に送信する。ここで、MFP管理サーバ104は、図7のフローチャートを辿ると、まだ使用するMFPが未決定であるため、S903で意図切替要求(S710)を意図解釈サーバ103へ送信する。
これを受けてS904で、意図解釈サーバ103は、「どういう用途ですか?」という主旨の質問文を無線端末102に提示する。これを受けてS905で、無線端末102は、「社内プレゼン用でカラー印刷」というユーザ入力を受け付け、意図解釈サーバ103へ通知する。S906で、意図解釈サーバ103は、音声認識及び言語処理を実行して意図を解釈して、解釈した意図とパラメータとをMFP管理サーバ104へ送信する(S604)。ここでは、意図「プリンタ選定」、Color(Required Param)にはEnabled、Staple(Optional Param)にはEnableが格納されたデータがMFP管理サーバ104へ送信される。
次に、S907で、MFP管理サーバ104は、Requiredパラメータを全て満たす中で、Optionalパラメータを多く満たすプリンタを優先的にリストアップしたリストを作成して、意図解釈サーバ103へ返す(S708)。S908で、意図解釈サーバ103は、「利用可能なプリンタリスト[1][2][3]」という形式で無線端末102上に利用可能MFPの一覧を提示する。
その後、S909で、無線端末102は、「[2]を使用する」というユーザにより選択された所望の画像形成装置を示すユーザ入力を、意図解釈サーバ103へ通知する。続いて、S910で、意図解釈サーバ103は、音声認識及び言語処理を実行して意図を解釈し、意図が切り替わり、意図「印刷準備」をMFP管理サーバ104へ送信する(S604)。
S911で、MFP管理サーバ104は、図7のフローチャートに従って対象MFPへ向けて無線P2P起動指示を発行する(S706)。対象のMFP(ここでは、MFP101)は、これを受けて無線P2P接続を行うための準備を行い、S912で無線P2P接続するための接続情報(SSID/PassPhrase)をMFP管理サーバ104へ返す。S913で、当該接続情報は、MFP管理サーバ104から意図解釈サーバ103を中継して、無線端末102へと渡される。S914で、無線端末102は、渡された接続情報に従って、MFP101と無線接続を行い、最終的にこの無線接続を使用して印刷ジョブの投入を行う。
以上説明したように、本実施形態に係る無線端末は、音声又はテキストでのユーザ入力を受け付けてサーバへ通知し、当該ユーザ入力に関する質問を前記サーバから取得してユーザへ提示することによって、ユーザとサーバとの間で対話を行わせる。また、本無線端末は、対話に基づいてサーバによって解釈されたユーザの意図に従う1以上の画像形成装置のリストを当該サーバから受信して表示する。さらに、ユーザによってリストから所望の画像形成装置が選択されると、サーバから当該画像形成装置への接続情報を取得して、アクセスし、印刷ジョブ等を投入する。また、本実施形態に係る管理サーバは、各ユーザと利用可能な1以上の画像形成装置とを紐づけて定義するプリンタ情報テーブルと、各画像形成装置の能力情報を定義するプリンタ能力情報テーブルとを保持するプリンタデータベースを備える。さらに、本管理サーバは、意図解釈サーバで解釈されたユーザの意図に従う1以上の画像形成装置のリストをプリンタデータベースを参照して作成して提供する。また、本実施形態に係る意図解釈サーバは、音声又はテキストでのユーザ入力を無線端末から受信し、受信したユーザ入力が音声である場合に音声認識を実行し、音声認識エンジンによって音声認識されたユーザ入力又はテキストによるユーザ入力を言語処理する。また、本意図解釈サーバは、複数の意図と、意図ごとに1以上のパラメータとを紐づけて保持する意図データベースを備える。さらに、本意図解釈サーバは、言語処理エンジンによって言語処理されたユーザ入力と、意図データベースが保持する情報とに従って、ユーザの意図を解釈し、解釈できない場合には追加の質問を無線端末へ提示する。このように本実施形態によれば、ユーザに複雑な操作を要求することなく、ユーザの意図を対話的に取得し、ユーザの意図に適する装置や機能等を提示することができる。
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100:情報処理システム、101:MFP、102:無線端末、103:意図解釈サーバ、104:MFP管理サーバ

Claims (23)

  1. 画像形成装置及びサーバと通信可能な無線端末であって、
    音声でのユーザ入力を受け付けて前記サーバへ送信する送信手段と、
    前記サーバにおいて前記送信した音声が音声認識によりテキストに変換され、変換されたテキストについて前記サーバの自然言語処理エンジンによって解釈されたユーザの意図と、複数の画像形成装置の能力情報とに基づき決定された1以上の画像形成装置のリストを該サーバから受信する受信手段と、
    前記受信手段によって受信した前記1以上の画像形成装置のリストを表示する表示手段と
    を備え
    前記サーバには、前記ユーザ入力に従ってユーザの意図を解釈する意図解釈サーバと、1以上の前記画像形成装置を管理する管理サーバとが含まれ、
    前記意図解釈サーバは、
    前記ユーザ入力が音声である場合に音声認識を実行する音声認識エンジンと、
    前記音声認識エンジンによって音声認識されたユーザ入力又はテキストによるユーザ入力を言語処理する前記自然言語処理エンジンと、
    複数の意図と、意図ごとに1以上のパラメータとを紐づけて保持する意図データベースと、
    前記自然言語処理エンジンによって言語処理されたユーザ入力と、前記意図データベースが保持する情報とに従って、ユーザの意図を解釈し、解釈できない場合には追加の質問を前記無線端末へ提示する意図解釈手段と
    を備え、
    前記管理サーバは、
    各ユーザと利用可能な1以上の画像形成装置とを紐づけて定義するプリンタ情報テーブルと、各画像形成装置の能力情報を定義するプリンタ能力情報テーブルとを保持するプリンタデータベースと、
    前記意図解釈サーバで解釈されたユーザの意図に従う1以上の画像形成装置のリストを前記プリンタデータベースを参照して作成して提供する提供手段と
    を備えることを特徴とする無線端末。
  2. 前記表示手段に表示された前記1以上の画像形成装置のリストを介して、前記ユーザ入力により選択された所望の画像形成装置への接続情報を前記サーバから取得する取得手段と、
    前記取得手段によって取得された前記接続情報を用いて、前記所望の画像形成装置へ無線接続を行ってジョブを投入する接続手段と
    をさらに備えることを特徴とする請求項1に記載の無線端末。
  3. 前記表示手段は、さらに、前記ユーザと前記サーバとの対話を時系列に表示することを特徴とする請求項1又は2に記載の無線端末。
  4. 前記表示手段は、さらに、前記対話を表示している画面において、音声入力を開始するためのアイコンと、テキスト入力を開始するためのフィールドと、前記画像形成装置に送信する画像データの選択を開始するためのアイコンと、前記ユーザ入力を表示し、かつ該ユーザ入力を前記サーバへ通知させるためのアイコンと、の少なくとも1つを表示することを特徴とする請求項3に記載の無線端末。
  5. 前記1以上のパラメータには、対応する意図と解釈するために前記ユーザ入力に含まれることを条件とする第1パラメータと、任意のパラメータである第2パラメータとが含まれることを特徴とする請求項に記載の無線端末。
  6. 前記意図解釈手段は、前記ユーザ入力に前記第1パラメータが含まれていない場合は、前記追加の質問を前記無線端末へ提示することを特徴とする請求項に記載の無線端末。
  7. 前記提供手段は、前記意図解釈サーバで解釈されたユーザの意図が、画像形成装置に対して通信を必要とする場合には、ユーザが所望する画像形成装置との通信確認を行うことを特徴とする請求項に記載の無線端末。
  8. 1以上の画像形成装置と無線端末と通信可能なサーバであって、
    無線端末から受信した音声に音声認識を実行して、前記音声をテキストに変換する変換手段と、
    前記変換手段によって変換されたテキストについて、自然言語処理エンジンによるユーザの意図の解釈を実行し、ユーザの意図を決定する実行手段と
    前記1以上の画像形成装置の能力情報と、前記実行手段によって決定されたユーザの意図とに基づき、ユーザの意図を満たす少なくとも1つの画像形成装置を決定する決定手段と、
    前記決定手段によって決定された少なくとも1つの画像形成装置のリストを、前記無線端末に送信する送信手段と
    を備えることを特徴とするサーバ。
  9. 画像形成装置及びサーバと通信可能な無線端末の制御方法であって、
    送信手段が、音声でのユーザ入力を受け付けて前記サーバへ送信する送信工程段と、
    受信手段が、前記サーバにおいて前記送信した音声が音声認識によりテキストに変換され、変換されたテキストについて前記サーバの自然言語処理エンジンによって解釈されたユーザの意図と、複数の画像形成装置の能力情報とに基づき決定された1以上の画像形成装置のリストを該サーバから受信する受信工程と、
    表示手段が、前記受信工程で受信した前記1以上の画像形成装置のリストを表示する表示工程と
    を含み、
    前記サーバには、前記ユーザ入力に従ってユーザの意図を解釈する意図解釈サーバと、1以上の前記画像形成装置を管理する管理サーバとが含まれ、
    前記意図解釈サーバは、
    音声認識エンジンが、前記ユーザ入力が音声である場合に音声認識を実行する工程と、
    前記自然言語処理エンジンが、前記音声認識エンジンによって音声認識されたユーザ入力又はテキストによるユーザ入力を言語処理する工程と、
    意図解釈手段が、前記自然言語処理エンジンによって言語処理されたユーザ入力と、複数の意図と意図ごとに1以上のパラメータとを紐づけて保持する意図データベースが保持する情報とに従って、ユーザの意図を解釈し、解釈できない場合には追加の質問を前記無線端末へ提示する工程と
    を含み、
    前記管理サーバは、
    提供手段が、前記意図解釈サーバで解釈されたユーザの意図に従う1以上の画像形成装置のリストを、各ユーザと利用可能な1以上の画像形成装置とを紐づけて定義するプリンタ情報テーブルと各画像形成装置の能力情報を定義するプリンタ能力情報テーブルとを保持するプリンタデータベースを参照して作成して提供する工程と
    を含むことを特徴とする無線端末の制御方法。
  10. 1以上の画像形成装置と無線端末と通信可能であって、複数の意図と、意図ごとに1以上のパラメータとを紐づけて保持する意図データベースを備えるサーバの制御方法であって、
    換手段が、前記無線端末から受信した音声に音声認識を実行して、前記音声をテキストに変換する変換工程と、
    自然言語処理エンジンが、前記変換工程で変換されたテキストについて、ユーザの意図を解釈し、ユーザの意図を決定する実行工程と
    決定手段が、前記1以上の画像形成装置の能力情報と、前記実行工程で決定されたユーザの意図とに基づき、ユーザの意図を満たす少なくとも1つの画像形成装置を決定する決定工程と、
    送信手段が、前記決定工程で決定された少なくとも1つの画像形成装置のリストを、前記無線端末に送信する送信工程と
    を含むことを特徴とするサーバの制御方法。
  11. 画像形成装置及びサーバと通信可能な無線端末の制御方法における各工程をコンピュータに実行させるためのプログラムであって、前記制御方法は、
    送信手段が、音声でのユーザ入力を受け付けて前記サーバへ送信する送信工程段と、
    受信手段が、前記サーバにおいて前記送信した音声が音声認識によりテキストに変換され、変換されたテキストについて自然言語処理エンジンによって解釈されたユーザの意図と、複数の画像形成装置の能力情報とに基づき決定された1以上の画像形成装置のリストを該サーバから受信する受信工程と、
    表示手段が、前記受信工程で受信した前記1以上の画像形成装置のリストを表示する表示工程と
    を含み、
    前記サーバには、前記ユーザ入力に従ってユーザの意図を解釈する意図解釈サーバと、1以上の前記画像形成装置を管理する管理サーバとが含まれ、
    前記意図解釈サーバは、
    音声認識エンジンが、前記ユーザ入力が音声である場合に音声認識を実行する工程と、
    前記自然言語処理エンジンが、前記音声認識エンジンによって音声認識されたユーザ入力又はテキストによるユーザ入力を言語処理する工程と、
    意図解釈手段が、前記自然言語処理エンジンによって言語処理されたユーザ入力と、複数の意図と意図ごとに1以上のパラメータとを紐づけて保持する意図データベースが保持する情報とに従って、ユーザの意図を解釈し、解釈できない場合には追加の質問を前記無線端末へ提示する工程と
    を含み、
    前記管理サーバは、
    提供手段が、前記意図解釈サーバで解釈されたユーザの意図に従う1以上の画像形成装置のリストを、各ユーザと利用可能な1以上の画像形成装置とを紐づけて定義するプリンタ情報テーブルと各画像形成装置の能力情報を定義するプリンタ能力情報テーブルとを保持するプリンタデータベースを参照して作成して提供する工程と
    を含むことを特徴とするプログラム。
  12. 1以上の画像形成装置と無線端末と通信可能であって、複数の意図と、意図ごとに1以上のパラメータとを紐づけて保持する意図データベースを備えるサーバの制御方法における各工程をコンピュータに実行させるためのプログラムであって、前記制御方法は、
    換手段が、前記無線端末から受信した音声に音声認識を実行して、前記音声をテキストに変換する変換工程と、
    自然言語処理エンジンが、前記変換工程で変換されたテキストについて、ユーザの意図を解釈し、ユーザの意図を決定する実行工程と
    決定手段が、前記1以上の画像形成装置の能力情報と、前記実行工程で決定されたユーザの意図とに基づき、ユーザの意図を満たす少なくとも1つの画像形成装置を決定する決定工程と、
    送信手段が、前記決定工程で決定された少なくとも1つの画像形成装置のリストを、前記無線端末に送信する送信工程と
    を含むことを特徴とするプログラム。
  13. 無線端末とサーバと1以上の画像形成装置が通信可能なシステムであって、
    前記無線端末は、
    音声でのユーザ入力を受け付けて前記サーバへ送信する第1の送信手段を備え、
    前記サーバは、
    前記無線端末から受信した音声に音声認識を実行して、前記音声をテキストに変換する変換手段と、
    前記変換手段によって変換されたテキストについて、自然言語処理エンジンによるユーザの意図の解釈を実行し、ユーザの意図を決定する実行手段と、
    前記1以上の画像形成装置の能力情報と、前記実行手段によって決定されたユーザの意図とに基づき、ユーザの意図を満たす1以上の画像形成装置を決定する決定手段と、
    前記決定手段によって決定された1以上の画像形成装置のリストを、前記無線端末に送信する第2の送信手段と、を備え、
    前記無線端末は、さらに、
    前記1以上の画像形成装置のリストを前記サーバから受信する受信手段と、
    前記受信手段によって受信した前記1以上の画像形成装置のリストを表示する表示手段と
    を備えることを特徴とするシステム。
  14. 前記ユーザの意図は、画像形成装置の選定であることを特徴とする請求項13に記載のシステム。
  15. 前記1以上の画像形成装置の能力情報は、各画像形成装置で印刷可能な最大の用紙サイズ、各画像形成装置はカラー印刷可能であるかを示す情報、及び各画像形成装置はステープル可能であるかを示す情報の少なくとも1つを含むことを特徴とする請求項13又は14に記載のシステム。
  16. 前記決定手段は、前記変換手段によって変換されたテキストがカラー又はステープルの文字列を含む場合、前記ユーザの意図は、画像形成装置の選定であると決定することを特徴とする請求項13乃至15の何れか1項に記載のシステム。
  17. 前記決定手段は、さらに、各ユーザが利用可能な画像形成装置の情報が定義されているテーブルに基づき、前記1以上の画像形成装置を決定することを特徴とする請求項13乃至16の何れか1項に記載のシステム。
  18. さらに、複数の意図と、意図ごとに1以上のパラメータとを紐づけて保持する意図データベースを備えることを特徴とする請求項13乃至17の何れか1項に記載のシステム。
  19. 無線端末とサーバと1以上の画像形成装置が通信可能なシステムの制御方法であって、
    前記無線端末が、音声でのユーザ入力を受け付けて前記サーバへ送信する第1の送信工程と、
    前記サーバが、前記無線端末から受信した音声に音声認識を実行して、前記音声をテキストに変換する変換工程と、
    前記サーバが、前記変換工程で変換されたテキストについて、自然言語処理エンジンによるユーザの意図の解釈を実行し、ユーザの意図を決定する実行工程と、
    前記サーバが、前記1以上の画像形成装置の能力情報と、前記実行工程で決定されたユーザの意図とに基づき、ユーザの意図を満たす1以上の画像形成装置を決定する決定工程と、
    前記サーバが、前記決定工程で決定された1以上の画像形成装置のリストを、前記無線端末に送信する第2の送信工程と、
    前記無線端末が、前記1以上の画像形成装置のリストを前記サーバから受信する受信工程と、
    前記無線端末が、前記受信工程で受信した前記1以上の画像形成装置のリストを表示する表示工程と
    を含むことを特徴とするシステムの制御方法。
  20. 前記ユーザの意図は、画像形成装置の選定であることを特徴とする請求項8に記載のサーバ。
  21. 前記1以上の画像形成装置の能力情報は、各画像形成装置で印刷可能な最大の用紙サイズ、各画像形成装置はカラー印刷可能であるかを示す情報、及び各画像形成装置はステープル可能であるかを示す情報の少なくとも1つを含むことを特徴とする請求項8又は20に記載のサーバ。
  22. 前記決定手段は、前記変換手段で変換されたテキストがカラー又はステープルの文字列を含む場合、前記ユーザの意図は、画像形成装置の選定であると決定することを特徴とする請求項8又は20に記載のサーバ。
  23. 前記決定手段は、さらに、各ユーザが利用可能な画像形成装置の情報が定義されているテーブルに基づき、前記1以上の画像形成装置を決定することを特徴とする請求項8又は20に記載のサーバ。
JP2017242878A 2017-12-19 2017-12-19 無線端末、サーバ、それらの制御方法、プログラム、及びシステム Active JP7177591B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2017242878A JP7177591B2 (ja) 2017-12-19 2017-12-19 無線端末、サーバ、それらの制御方法、プログラム、及びシステム
PCT/JP2018/042099 WO2019123899A1 (ja) 2017-12-19 2018-11-14 無線端末、管理サーバ、意図解釈サーバ、それらの制御方法、及びプログラム
RU2020123539A RU2750623C1 (ru) 2017-12-19 2018-11-14 Беспроводной терминал, сервер администрирования, сервер интерпретации намерений, способ управления ими и программа
KR1020237018451A KR20230084324A (ko) 2017-12-19 2018-11-14 무선 단말기, 관리 서버, 의도 해석 서버, 및 컴퓨터 판독가능 기록매체
CN201880082193.6A CN111512281B (zh) 2017-12-19 2018-11-14 无线终端、管理服务器、意图解读服务器、及其控制方法
KR1020207019870A KR102540222B1 (ko) 2017-12-19 2018-11-14 무선 단말기, 관리 서버, 및 의도 해석 서버
US16/901,364 US11438469B2 (en) 2017-12-19 2020-06-15 Wireless terminal, management server and intention interpretation server

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017242878A JP7177591B2 (ja) 2017-12-19 2017-12-19 無線端末、サーバ、それらの制御方法、プログラム、及びシステム

Publications (2)

Publication Number Publication Date
JP2019109752A JP2019109752A (ja) 2019-07-04
JP7177591B2 true JP7177591B2 (ja) 2022-11-24

Family

ID=66994061

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017242878A Active JP7177591B2 (ja) 2017-12-19 2017-12-19 無線端末、サーバ、それらの制御方法、プログラム、及びシステム

Country Status (6)

Country Link
US (1) US11438469B2 (ja)
JP (1) JP7177591B2 (ja)
KR (2) KR102540222B1 (ja)
CN (1) CN111512281B (ja)
RU (1) RU2750623C1 (ja)
WO (1) WO2019123899A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7361509B2 (ja) 2019-07-03 2023-10-16 キヤノン株式会社 周辺装置管理システム、印刷装置制御システム、制御方法、印刷制御装置及びプログラム
JP7443844B2 (ja) * 2020-03-13 2024-03-06 株式会社リコー 命令送信装置、命令転送システム、命令送信方法及びプログラム
JP7430126B2 (ja) * 2020-09-01 2024-02-09 シャープ株式会社 情報処理装置、印刷システム、制御方法及びプログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003051887A (ja) 2001-08-06 2003-02-21 Minolta Co Ltd 制御システムおよび制御方法
JP2004151562A (ja) 2002-10-31 2004-05-27 Seiko Epson Corp 音声対話制御方法および音声対話制御装置
JP2014203320A (ja) 2013-04-08 2014-10-27 株式会社リコー 印刷制御プログラム
JP2016212761A (ja) 2015-05-13 2016-12-15 シャープ株式会社 画像形成システムおよびプログラム
JP2017107529A (ja) 2015-12-07 2017-06-15 株式会社リコー 情報処理システム、端末装置及びプログラム
JP6447689B1 (ja) 2017-09-11 2019-01-09 富士ゼロックス株式会社 情報処理装置及びプログラム
JP2019049901A (ja) 2017-09-11 2019-03-28 富士ゼロックス株式会社 情報処理装置及びプログラム

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4367929B2 (ja) 2004-08-27 2009-11-18 キヤノン株式会社 携帯電話及び印刷システムとその制御方法
JP4270134B2 (ja) * 2005-01-31 2009-05-27 ブラザー工業株式会社 サービス提供システム,クライアントデバイス,サーバおよびプログラム
JP4810609B2 (ja) * 2006-06-13 2011-11-09 マイクロソフト コーポレーション サーチエンジンダッシュボード
US8477350B2 (en) * 2010-03-16 2013-07-02 Google Inc. Cloud-based print service
JP2011232857A (ja) * 2010-04-26 2011-11-17 Canon Inc 印刷サービスシステム、印刷処理方法
JP2012248161A (ja) * 2011-05-31 2012-12-13 Oki Electric Ind Co Ltd 対話型検索システム及びプログラム、並びに、対話シナリオ生成システム及びプログラム
AU2012316484A1 (en) 2011-09-30 2014-04-17 Apple Inc. Automatically adapting user interfaces for hands-free interaction
JP5831251B2 (ja) * 2012-01-25 2015-12-09 コニカミノルタ株式会社 画像形成システム、画像形成装置、端末装置、画像形成装置の制御プログラム、および端末装置の制御プログラム
US8593501B1 (en) * 2012-02-16 2013-11-26 Google Inc. Voice-controlled labeling of communication session participants
US9108450B2 (en) * 2012-05-04 2015-08-18 Makerbot Industries, Llc Voice-controlled three-dimensional fabrication system
US9536049B2 (en) * 2012-09-07 2017-01-03 Next It Corporation Conversational virtual healthcare assistant
RU129673U1 (ru) * 2012-12-17 2013-06-27 Федеральное государственное унитарное предприятие "ЦентрИнформ" Система управления удаленными печатающими устройствами
US9171450B2 (en) * 2013-03-08 2015-10-27 Qualcomm Incorporated Emergency handling system using informative alarm sound
CN104608509B (zh) * 2013-11-04 2017-09-29 深圳光启智能光子技术有限公司 打印机、打印系统及方法、服务器
RU2589856C2 (ru) * 2014-09-25 2016-07-10 Общество С Ограниченной Ответственностью "Яндекс" Способ обработки целевого сообщения, способ обработки нового целевого сообщения и сервер (варианты)
US20190251126A1 (en) * 2015-02-12 2019-08-15 CogniCor Technologies, Inc. Multi-agent based virtual assistant
KR20170016683A (ko) 2015-08-04 2017-02-14 (주)풀쟁이 종자를 함유한 한지 제조 장치 및 그 방법
JP2018063537A (ja) * 2016-10-12 2018-04-19 株式会社東芝 ホームネットワーク、電子機器、処理装置および表示方法
US10515632B2 (en) * 2016-11-15 2019-12-24 At&T Intellectual Property I, L.P. Asynchronous virtual assistant
EP3460649B1 (en) * 2016-11-16 2021-03-31 Mangoslab Co., Ltd. Method and apparatus for connecting a printer to a client
US10648859B2 (en) * 2016-11-16 2020-05-12 Mangoslab Co., Ltd. Printer and printer system for printing re-adherable memo paper
KR101725314B1 (ko) * 2016-11-16 2017-04-10 망고슬래브 주식회사 재접착식 메모지를 출력하는 프린터 및 프린터 시스템

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003051887A (ja) 2001-08-06 2003-02-21 Minolta Co Ltd 制御システムおよび制御方法
JP2004151562A (ja) 2002-10-31 2004-05-27 Seiko Epson Corp 音声対話制御方法および音声対話制御装置
JP2014203320A (ja) 2013-04-08 2014-10-27 株式会社リコー 印刷制御プログラム
JP2016212761A (ja) 2015-05-13 2016-12-15 シャープ株式会社 画像形成システムおよびプログラム
JP2017107529A (ja) 2015-12-07 2017-06-15 株式会社リコー 情報処理システム、端末装置及びプログラム
JP6447689B1 (ja) 2017-09-11 2019-01-09 富士ゼロックス株式会社 情報処理装置及びプログラム
JP2019049901A (ja) 2017-09-11 2019-03-28 富士ゼロックス株式会社 情報処理装置及びプログラム

Also Published As

Publication number Publication date
US20200314264A1 (en) 2020-10-01
KR20200096620A (ko) 2020-08-12
KR102540222B1 (ko) 2023-06-07
WO2019123899A1 (ja) 2019-06-27
KR20230084324A (ko) 2023-06-12
RU2750623C1 (ru) 2021-06-30
CN111512281B (zh) 2024-05-14
CN111512281A (zh) 2020-08-07
US11438469B2 (en) 2022-09-06
JP2019109752A (ja) 2019-07-04

Similar Documents

Publication Publication Date Title
US10917369B2 (en) Information processing apparatus, information processing system, and information processing method
JP6929168B2 (ja) 音声制御デバイス、印刷装置、それらの制御方法およびプログラム
US11355106B2 (en) Information processing apparatus, method of processing information and storage medium comprising dot per inch resolution for scan or copy
CN101894003B (zh) 信息处理设备和控制方法
JP5665590B2 (ja) 印刷システム、クライアント、制御方法、およびプログラム
JP7177591B2 (ja) 無線端末、サーバ、それらの制御方法、プログラム、及びシステム
JP5870904B2 (ja) 印刷システム、プリンタドライバプログラム、制御方法
CN109254738A (zh) 打印系统、打印设备和控制方法
JP5610891B2 (ja) 印刷システム及び情報処理方法
US20090091791A1 (en) Methods and systems for third-party administrative control of remote imaging jobs and imaging devices
JP7309348B2 (ja) プログラム及び制御方法
US11626111B2 (en) Information processing system, information processing method, and information processing apparatus
JP2023153147A (ja) 印刷設定アプリケーション、制御方法、及び情報処理装置
WO2005111774A1 (ja) 印刷処理制御方法および近距離無線通信端末装置
KR20110068550A (ko) 화상형성장치 및 그 로컬 유저 인터페이스 제공방법
KR20110026721A (ko) 인쇄제어장치, 화상형성장치 및 인쇄제어방법
KR101569075B1 (ko) Dlna 장치, 화상형성방법 및 화상형성시스템
US20210006673A1 (en) Peripheral device management system, peripheral device management method, and printing apparatus control system
JP2015114727A (ja) 情報処理装置、その制御方法、プログラム及び記憶媒体
JP2020038348A (ja) 音声対話装置及びその制御方法、並びにプログラム
JP7443844B2 (ja) 命令送信装置、命令転送システム、命令送信方法及びプログラム
JP2010129094A (ja) リモート画像処理ジョブおよび画像処理装置を第三者が管理制御するための方法およびシステム
JP6322970B2 (ja) 遠隔操作システム、画像形成装置およびプログラム
JP2017177398A (ja) 画像処理システム、画像処理システムに用いられる画像処理装置、およびその制御方法、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201209

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210910

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220401

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220531

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221014

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221111

R151 Written notification of patent or utility model registration

Ref document number: 7177591

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151