JP2022138660A - 情報処理装置、情報処理の制御方法、並びにコンピュータプログラム - Google Patents

情報処理装置、情報処理の制御方法、並びにコンピュータプログラム Download PDF

Info

Publication number
JP2022138660A
JP2022138660A JP2021038672A JP2021038672A JP2022138660A JP 2022138660 A JP2022138660 A JP 2022138660A JP 2021038672 A JP2021038672 A JP 2021038672A JP 2021038672 A JP2021038672 A JP 2021038672A JP 2022138660 A JP2022138660 A JP 2022138660A
Authority
JP
Japan
Prior art keywords
screen
terminal
displayed
information processing
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021038672A
Other languages
English (en)
Inventor
宏章 小林
Hiroaki Kobayashi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2021038672A priority Critical patent/JP2022138660A/ja
Priority to EP22156869.4A priority patent/EP4057126A1/en
Priority to US17/685,281 priority patent/US11687168B2/en
Priority to CN202210207321.3A priority patent/CN115129168A/zh
Priority to KR1020220028532A priority patent/KR20220127159A/ko
Publication of JP2022138660A publication Critical patent/JP2022138660A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/023Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
    • G06F3/0233Character input methods
    • G06F3/0236Character input methods using selection techniques to select from displayed items
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/023Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
    • G06F3/0233Character input methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • G06F3/1438Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display using more than one graphics controller
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/34User authentication involving the use of external additional devices, e.g. dongles or smart cards
    • G06F21/35User authentication involving the use of external additional devices, e.g. dongles or smart cards communicating wirelessly
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/606Protecting data by securing the transmission between two devices or processes
    • G06F21/608Secure printing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0489Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using dedicated keyboard keys or combinations thereof
    • G06F3/04895Guidance during keyboard input operation, e.g. prompting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1202Dedicated interfaces to print systems specifically adapted to achieve a particular effect
    • G06F3/1203Improving or facilitating administration, e.g. print management
    • G06F3/1205Improving or facilitating administration, e.g. print management resulting in increased flexibility in print job configuration, e.g. job settings, print requirements, job tickets
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1223Dedicated interfaces to print systems specifically adapted to use a particular technique
    • G06F3/1237Print job management
    • G06F3/1238Secure printing, e.g. user identification, user rights for device usage, unallowed content, blanking portions or fields of a page, releasing held jobs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1223Dedicated interfaces to print systems specifically adapted to use a particular technique
    • G06F3/1237Print job management
    • G06F3/1253Configuration of print job parameters, e.g. using UI at the client
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1278Dedicated interfaces to print systems specifically adapted to adopt a particular infrastructure
    • G06F3/1292Mobile client, e.g. wireless printing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00281Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a telecommunication apparatus, e.g. a switched network of teleprinters for the distribution of text-based information, a selective call terminal
    • H04N1/00307Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a telecommunication apparatus, e.g. a switched network of teleprinters for the distribution of text-based information, a selective call terminal with a mobile telephone apparatus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00405Output means
    • H04N1/00408Display of information to the user, e.g. menus
    • H04N1/00411Display of information to the user, e.g. menus the display also being used for user input, e.g. touch screen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00501Tailoring a user interface [UI] to specific requirements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00962Input arrangements for operating instructions or parameters, e.g. updating internal software
    • H04N1/00973Input arrangements for operating instructions or parameters, e.g. updating internal software from a remote device, e.g. receiving via the internet instructions input to a computer terminal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • G06F2009/45579I/O management, e.g. providing access to device drivers or storage
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04809Textured surface identifying touch areas, e.g. overlay structure for a virtual keyboard
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2221/00Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/21Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/2141Access rights, e.g. capability lists, access control lists, access tables, access matrices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/16Use of wireless transmission of display information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0094Multifunctional device, i.e. a device capable of all of reading, reproducing, copying, facsimile transception, file transception

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Hardware Design (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Graphics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Bioethics (AREA)
  • Facsimiles In General (AREA)
  • Multi-Process Working Machines And Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Input From Keyboards Or The Like (AREA)

Abstract

【課題】 画像形成装置の操作画面を携帯端末で遠隔から操作し、文字列を入力する場合、携帯端末のソフトキーボードと画像処理装置のソフトキーボードの両方が表示されるとユーザーにとって操作しにくいという課題がある。【解決手段】 画像処理装置は入力フィールドが選択された時に、遠隔操作中かどうかを判断し、その状態に応じて画像処理装置のソフトキーボードを表示するか否かを切り替える。【選択図】 図7

Description

操作パネルのリモートクライアントへの表示方法に関する。
情報処理装置の操作画面を遠隔から操作するため、RFBプロトコルを用いたVNC(Virtual Network Computing)により、情報処理装置の操作画面を携帯端末などから操作できるようにする方法が開示されている。具体的にはVNCサーバー機能を有する情報処理装置が、VNCクライアント機能を有する端末に対して、情報処理装置の操作パネルに表示されている画面の画面情報を送信する。端末は、受信した画面情報に基づき、情報処理装置の操作パネルに表示されている操作画面と同じ画面(遠隔操作画面)を端末の操作パネルに表示する。そして、端末の操作パネルの該画面上での操作に基づいて、端末は操作情報を情報処理装置に送信し、情報処理装置を遠隔操作する。
例えば携帯端末で情報処理装置の画面を遠隔操作する際、文字入力を行うために特許文献1のような方法が開示されている。特許文献1では、携帯端末が情報処理装置の画面を遠隔操作する場合、文字入力を行う指示を受け付けると携帯端末のソフトウェアキーボード(以降ソフトキーボード)を遠隔操作画面上に表示する方法が開示されている。この方法により携帯端末のソフトキーボードを用いて情報処理装置に対して文字入力を行うことができる。
特開2014-137671号公報
しかし、従来の方法のように情報処理装置の画面を遠隔操作する携帯端末上で携帯端末のソフトキーボードを表示する場合、ユーザビリティが低下する恐れがある。
文字入力を行う指示を受け付けると自身のソフトキーボードを表示する情報処理装置を携帯端末で遠隔操作する場合を考える。遠隔操作画面上で文字入力指示を受け付けると情報処理装置は自身のソフトキーボードを表示し、携帯端末も自身のソフトキーボードを表示するため遠隔操作画面上にはソフトキーボードが2つ表示されるようになる。これでは、視認性が悪く、ソフトキーボードが表示されることによって他の設定項目等が隠れてしまう可能性もあり操作性が低下する。特許文献1では、このような場合を考慮していない。また携帯端末のソフトキーボードは携帯端末で文字入力を行うために設計されたものであるため、装置を遠隔操作中であっても携帯端末上で文字入力をする場合は、携帯端末のソフトキーボードを使用して文字入力を行うことができるとユーザにとって良い。
以上を鑑みて本発明は、文字入力を行う指示を受け付けると自装置のソフトキーボードを表示する情報処理装置の画面を遠隔操作する端末が、端末自身のソフトキーボードを用いて文字入力を行う際のユーザの操作性を低下させないことを目的とする。
第一の表示部を有する情報処理装置であって、前記第一の表示部に表示された画面上で文字入力項目の選択操作を受け付けると前記第一の表示部に第一のソフトウェアキーボードを表示する情報処理装置であって、前記第一の表示部に表示する画面が更新するたびに、前記第一の表示部に当該更新された画面を表示し、当該更新された画面に対応する画面情報を端末に送信する送信手段を有し、前記送信手段で送信した画面情報を基に前記端末上の第二の表示部で表示された画面上で文字入力項目の選択操作を受け付け、当該選択操作情報を前記端末から受信し前記第一の表示部に表示する画面を更新する場合、前記情報処理装置は、前記端末の第二のソフトウェアキーボードを表示する指示を前記端末に送信し、前記第一の表示部に前記第一のソフトウェアキーボードが表示されないように制御することを特徴とする情報処理装置。
本発明によれば、文字入力を行う指示を受け付けると自装置のソフトキーボードを表示する情報処理装置の画面を遠隔操作する端末が端末自身のソフトキーボードを用いて文字入力を行う際のユーザの操作性を低下させない。
通信システムの構成を示す図である。 携帯端末100のハードウェア構成を示す図である。 携帯端末100のソフトウェア構成を示す図である。 画像処理装置110のハードウェア構成を示す図である。 画像処理装置110のソフトウェア構成を示す図である。 本実施形の携帯端末100の処理を示すフローチャートである。 本実施形の画像処理装置の処理を示すフローチャートである。 本実施形の携帯端末100の操作パネルで表示されるUIを示す図である。 本実施形の画像処理装置110の操作パネルで表示されるUIを示す図である。 本実施形の携帯端末100の操作パネルで表示されるUIを示す図である。 本実施形の画像処理装置110の操作パネルで表示されるUIを示す図である。 本実施系の携帯端末100の処理を示すフローチャートである。 本実施形の携帯端末100の操作パネルで表示されるUIを示す図である。
以下、本発明を実施するための最良の形態について図面を用いて説明する。なお、以下の実施の形態は特許請求の範囲に係る発明を限定するものでなく、また実施の形態で説明されている特徴の組み合わせの全てが発明の解決手段に必須のものとは限らない。
(実施例1)
<本実施例におけるシステム構成>
まず、図1を用いて、本実施例に係るシステム構成を説明する。ここでは情報処理装置の一例として携帯端末100とMFP(multifunction peripheral)110を例に説明を行うが、情報処理システムに含まれる装置はこれに限らない。携帯端末100とMFP110は、LAN(Local Area Network)に接続されており、互いに情報をやり取りすることが可能である。携帯端末100はアクセスポイント120を介してLANに接続している。
携帯端末100はMFP110を遠隔操作するためのVNC(Vertual Network Computing)クライアント機能を持っている。具体的には、携帯端末100はRFB(Remote Frame Buffer)プロトコルに対応したVNCクライアントソフトを有する。携帯端末100は、MFP110に対してVNC接続を行い、MFP110の操作パネルに表示された画面を携帯端末100上に表示する。MFP110はVNCサーバー機能を有していて、携帯端末100からVNC接続されると、画面情報をVNCクライアントである携帯端末100に送信する。携帯端末100は送信された画面情報に基づいて画面を描画する。描画された画面上で受け付けた操作、MFP110上で受け付けた操作に応じて携帯端末100、MFP110の表示部に表示される画面が変更されるように画面の連携が行われる。
次に図2を用いて、携帯端末100のハードウェア構成を説明する。なお、本実施形態の携帯端末100はスマートフォンやタブレットPC等の装置を想定しているが、MFP110と通信可能な情報処理装置であれば他の装置であってもよい。
CPU201はROM202が記憶している制御プログラムを読み出して、携帯端末100の動作を制御するための様々な処理を実行する。ROM202は、制御プログラムを記憶している。RAM203は、CPU201の主メモリ、ワークエリア等の一時記憶領域として用いられる。ストレージ204は、例えばeMMC、SSD、HDD等で写真や電子文書等の様々なデータを記憶する。また、後述するOS(Operating System)350やMFPアプリケーション300もストレージ204に記憶されている。RTC(Real Time Clock)205は、時間を計時する。
なお、携帯端末100の場合、1つのCPU201が後述するフローチャートに示す各処理を実行するものとするが、他の態様であっても構わない。例えば、複数のCPUが協働して後述するフローチャートに示す各処理を実行するようにすることもできる。
操作パネル206は、ユーザーのタッチ操作を検出可能なタッチパネル機能を備え、OS350やMFPアプリケーション300が提供する各種画面を表示する。ユーザーは操作パネル206にタッチ操作を入力することで、携帯端末100に所望の操作指示を入力することができる。
スピーカー207とマイク208は、ユーザーが例えば他の携帯端末や固定電話と電話をする際に使用される。カメラ209はユーザーの撮像指示に応じて撮像を行う。カメラ209によって撮像された写真は、ストレージ204の所定の領域に記憶される。無線通信部211は、無線通信LAN等の無線通信を実行する。
次に図3を用いて、携帯端末100のソフトウェア構成を説明する。図3は、CPU201がROM202やストレージ204に記憶されている制御プログラムを読み出すことで実現されるソフトウェアの機能ブロック図である。
OS350は、携帯端末100全体の動作を制御するためのソフトウェアである。携帯端末100には、後述するMFPアプリケーション300を含め、様々なアプリケーションをインストールすることができる。OS350はこれらのアプリケーションとの間で情報をやり取りし、アプリケーションから受けた指示に従って、操作パネル206に表示する画面を変更行う。また、OS350は、各種ハードウェアを制御するためのデバイスドライバ群を備えており、OS上で動作するアプリケーションに対して各種ハードウェアを利用する為のAPIを提供する。デバイスドライバ群として本実施例では、例えば無線LAN制御部351が相当する。無線LAN制御部351は無線通信部211を制御するためのデバイスドライバである。
MFPアプリケーション300は、携帯端末100にインストールされたアプリケーションである。MFPアプリケーションからMFP110に対して印刷指示やスキャン指示を行うことができる。さらに上述したようにVNCクライアントとして動作し、MFP110の操作画面を表示し、MFP110を遠隔操作する機能も有する。携帯端末100には、MFPアプリケーション300の他に様々なアプリケーションがインストールされていてもよいが、ここでは説明を省略する。
MFPアプリケーション300の構成についてさらに詳しく説明する。画面制御部301は、OS350を介して操作パネル206に表示する画面を制御する。画面制御部301によって、MFPアプリケーションの画面が操作パネル206に表示される。また、画面制御部301は、操作パネル206を介してユーザーが入力した操作指示を受け付ける。通信部302は、OS350を介して、無線通信部211による無線通信を制御し、MFP110等の外部装置と情報の送受信などを行う。
デバイス検索制御部311は、携帯端末100が接続する外部装置を探索する探索用データを生成し、無線通信部211によってLAN10上の装置に送信される。そして該当探索に応答する外部装置からのレスポンスを受信する。探索用データは、LAN10上のすべての外部装置に対してブロードキャストする場合もあるし、1台の外部装置に対して、アドレスを指定して送信する場合もある。
印刷ジョブ生成部305は、印刷ジョブを生成する。印刷ジョブ生成部305によって生成された印刷ジョブは、無線通信部211によってMFP110に送信され、MFP110は受信した印刷ジョブに応じて印刷を実行する。
スキャンジョブ制御部307は、無線通信部211を介してMFP110にスキャン指示を送信し、MFP110は当該指示に基づいてスキャンを実行し、スキャンして生成したデータ(スキャンデータ)を携帯端末100に送信する。携帯端末100は受信したスキャンデータを表示する。スキャンデータを保存する場合は、記憶部306に記憶される。記憶されたスキャンデータは、ドキュメント管理部308によって管理される。
遠隔操作部313は、VNC接続しているMFP110から取得した画面情報を基に画面表示し、表示した画面上での操作を受け付ける。つまりVNCクライアントとして動作する。具体的にはVNCサーバーから受信した画面情報を基に画面を表示し、表示した画面上で受け付けた操作の位置や操作の種類等を含む操作情報をMFP110に送信する。MFP110は受信した操作情報を基に、MFP110に表示する画面、携帯端末100が表示している画面を変更する。アプリ記憶部306は、MFPアプリケーション300で生成した様々な情報を一時的に記憶する。計時部304は、時間を計時する。
図4は、MFP110のハードウェア構成の一例を示したものである。MFP110は、ROM3030あるいは、例えばハードディスクなどの大規模記憶装置3110に記憶されたプログラムを実行するCPU3020を備え、CPU3020はシステムバス3010に接続される各デバイスを総括的に制御する。
3040はRAMで、CPU3020の主メモリ、ワークエリア等として機能する。3060は外部入力コントローラー(PANELC)で、複合機に備えられた各種ハードキー3120あるいはタッチパネル(PANEL)3070から等からの指示入力を制御する。3080はディスプレイコントローラー(DISPC)で、例えば液晶ディスプレイなどで構成される表示モジュール(DISPLAY)3090の表示を制御する。3110はディスクコントローラー(DKC)で、大規模記憶装置(HD)3110を制御する。
図9の900を用いてMFP110の操作部に関する説明を行う。DISPLAY3090に画面が表示され、DISPLAY3090の隣にハードキー3120が配置される。DISPLAY3090上のタッチパネル3070、ハードキー3120の両方でユーザー操作を受付可能である。ハードキー3120であるログアウトキー901は、ユーザーがMFP110にログインしている状態で押下すると、MFP110に対してログアウト処理の指示を行うためのボタンである。
3050はネットワークインタフェースカード(NIC)で、ネットワーク10を介して、外部装置(例えば携帯端末100)あるいはファイルサーバ等と双方向にデータをやりとりする。3400は無線通信モジュールであり、アクセスポイントと接続することや、またはアクセスポイントモードで動作することで、MFP110をアクセスポイントとして動作させ、携帯端末100と直接無線通信接続することができる。3200はプリンターであり、電子写真方式で実現される紙への印字部である。印字方式は、特に電子写真方式でなくてもよい。3300はスキャナーであり、紙に印字された画像を読み込むための画像読み取り部である。多くの場合、画像読み取り部3300にはオプションとしてADF(オートドキュメントフィーダ)(不図示)が装着されており、複数枚の原稿を自動的に読み込むことができる。なお、大規模記憶装置3110は、場合によっては画像の一時記憶場所としても使われることがある。
図5はMFP110のソフトウェア構成を示すブロック図である。本ソフトウェアは、例えばROM3030に格納され、CPU3020によって実行される。
UI処理部510は、外部入力コントローラー3060からの入力、または後述する操作情報受信部522から受け取った操作情報を解析し、画面変更が必要である場合には、画面データを生成して、DISPLAY3090に表示する。
DISPLAY3090には、図9に示すように種々の画面が表示される。例えばキーボードログイン画面910や、ほかにもログイン中に表示されるメニュー画面930、エラー発生時に表示されるエラー画面(不図示)、カウンタ情報などを表示するカウンタ画面(不図示)などが表示される。MFP110がスリープ中にはDISPLAY3090は非表示状態となる。
キーボードログイン画面910は、ユーザー情報をキーボードで入力することでMFP110にログインするための画面である。ハードキー3120または、ソフトキーボード(後述)を使用して、ユーザー名入力欄911、パスワード入力欄912を入力し、ログインボタン913を押下することでログイン処理を行う。各ユーザにはロールが割り当てられており、ログインしたユーザによって利用できる機能の権限が異なる。MFP110はプリント機能を少なくとも含む複数の機能を有する複合機であるため、ログインしたユーザによって利用できる機能が異なる構成をとることも可能である。IDカードログイン切り替えボタン914を押下すると、IDカードログイン画面(不図示)に表示が切り替わる。
メニュー画面930は、キーボードログイン画面910やIDカードログイン画面を介してMFP110にログインした後に表示されるメニュー画面である。ユーザーが用途に応じて、コピーボタン931、スキャンボタン932、またはプリントボタン933を押下することでMFP110の各種機能を利用できる。ユーザーがログアウトボタン934を押下すると、ログアウト処理が行われる。
遠隔操作処理部520は、接続処理部523、操作情報受信部522、画面送信部521の各モジュールを含む。遠隔操作処理部520は、RFBプロトコルによる通信をおこなうVNCサーバーモジュールであり、VNCクライアントとして動作する携帯端末100とネットワークを介して通信するソフトウェアモジュールである。接続処理部523は、MFP110やVNCクライアントである携帯端末100からの接続要求を受け付けた場合に接続処理を行い、接続の切断要求を受け付けた場合に切断処理を行う。
操作情報受信部522は、携帯端末100、MFP110から画面の操作情報を受信し、UI処理部510に通知する。画面送信部521は、UI処理部510が生成した画面データをRAM3040から読み取って、VNCクライアントである携帯端末100に送信するなどして画面の表示制御を行う表示制御部である。
ログイン処理部530は、MFP110のログイン処理を行うモジュールであり、UI処理部から受け付けたユーザー情報等に基づいて、ユーザー認証を行い、ユーザー認証に成功するとログインを行う。また、UI処理部510等からログアウトの指示を受け付けた場合は、ログアウト処理を行う。ネットワーク制御部500はネットワークI/F3050を制御するためのモジュールである。その他に図示していないが、プリンター3200を制御するプリンタモジュール、スキャナー3300を制御するスキャナモジュールも存在する。
図8は、携帯端末100の操作パネル206に表示する画面の一例である。携帯端末100を起動すると、ホーム画面810が表示される。MFPアプリケーションアイコン811はMFPアプリケーション300を起動するためのアイコンであり、MFPアプリケーションアイコン811が操作されると、MFPアプリケーション300が起動する。
MFPアプリケーション300が起動されると、アプリホーム画面(デバイス未選択)820が表示される。選択デバイスアイコン821は、現在MFPアプリケーション300が通信しているMFP、ジョブの送信対象としているMFP(以降、対象MFP)の情報が表示される。対象MFPが設定されていない場合は、「No Printer」と表示されている。デバイス検索ボタン823は、対象MFPを検索するボタンである。リモートオペレーションボタン822は、対象MFPとVNC接続し対象MFPを遠隔操作するためのボタンである。アプリホーム画面820には、これら以外にも対象MFPに印刷ジョブを送信するためのプリントボタン824や、スキャン指示するためのボタンが表示されていても良い。
デバイス検索ボタン823が押下されると、ネットワーク内に存在するMFPの検索が実行され、検索結果としてデバイス検索画面830が表示される。デバイス検索画面830には、検索に応答したMFPの一覧が表示される。例えば検索結果の1つである検索結果831を選択することで、対象MFPが選択される。
対象MFPが選択されると、アプリホーム画面(デバイス選択済)840が表示される。選択デバイスアイコン821には、デバイス検索画面830で選択されたMFPに関する情報が表示されている。対象MFPが選択された状態で、ユーザーがリモートオペレーションボタン822をタップすると、対象MFPの遠隔操作機能が開始される。ここで、対象MFPはMFP110であるとして以下の説明を行う。
遠隔操作機能が開始されると、デバイス接続中画面850が表示される。VNC接続が完了し、遠隔操作機能が確立すると、MFP110のDISPLAY3090に表示されている画面が操作パネル206に表示される。ここでは、キーボードログイン画面910と同一の画面、キーボードログイン画面860が表示される。画面内容はMFP110のキーボードログイン画面910と同一であるため説明は省略する。またMFP110がIDカードログイン画面を表示していた場合は、IDカードログイン画面が表示される。
キーボードログイン画面860でログイン指示が行われると、メニュー画面930と同一のメニュー画面(ハードキー非表示)画面870が表示される(同様にDISPLAY3090にもメニュー画面930が表示される)。
ハードキー表示ボタン851がタップされると、メニュー表示画面(ハードキー表示)875が表示される。つまりMFP110のハードキー3120の各キーの処理を割り当てたソフトウェアキーボードが表示される。ハードキーUI877は、MFP110のハードキー3120を操作するためのUIであり、ハードキーUI877に表示されているボタンをタップすると、押下したキー情報がMFP110に送信され、押下したキーに基づいてMFP110は処理を行う。MFP110のログアウトキー901に対応するログアウトキー879が押下されると、MFP110からログアウトする。またハードキーUI877上にある終了ボタン878がタップされると、遠隔操作機能を終了、つまりVNC接続を終了する。VNC接続を終了すると操作パネル206にはアプリホーム画面(デバイス選択済)840が表示される。
本実施例の概要を図10、11を用いて行う。MFP110でキーボードログイン画面910を表示している場合、DISPLAY3090上で文字入力フィールド(例えばユーザー名入力欄911)をタッチするとDISPLAY3090上にMFP110のソフトキーボードが表示される。つまりテキスト入力画面1110が表示される。
ここで携帯端末100の操作パネル206にMFP110のDISPLAY3090に表示されている画面と同じ画面を表示し、MFP110を携帯端末100から遠隔操作する場合を考える。例えば携帯端末100上でログイン画面860を表示している際(この時MFP110はキーボードログイン画面910を表示している)、操作パネル206上でユーザー名入力欄911をタッチすると、操作情報がMFP110に送信されMFP110は当該操作情報に応じた処理を行う。ここではMFP110は携帯端末100に対して、携帯端末100のソフトキーボードを表示するように指示を出すとともに、DISPLAY3090にMFP110のソフトキーボードは表示しないようにする。そして、MFP110のソフトキーボードが表示された画面の画面情報が携帯端末100に送信されないように制御を行う。その結果、携帯端末100は携帯端末100のソフトキーボード1002とDISPLAY3090に表示されている画面と同じ画面1001とが含まれるログイン初期画面1000を表示し、MFP110はログイン画面910を表示したままとなる。この時、MFP110がユーザー名入力欄911をタッチされたことで、DISPLAY3090にMFP110のソフトキーボードを表示してしまうと携帯端末100の操作パネル206にはMFP110のソフトキーボードと携帯端末100のソフトキーボードの2つのソフトキーボードが表示されてしまう。これでは、視認性や操作性が低下してしまう。例えばDISPLAY3090に表示する画面がキーボードログイン画面910からソフトキーボードを表示つまりテキスト入力画面1110表示に切り替えると、キーボードログイン画面910で表示されていたパスワード入力欄912がテキスト入力画面1110では非表示となってしまう。視認性、操作性を低下させないためにMFP110は遠隔操作中であれば、文字入力フィールド(例えばユーザー名入力欄911)が選択されたとしてもMFP110のソフトキーボードを表示せず、MFP110のソフトキーボードを表示した画面を送信しないようにする。ここで、携帯端末100のソフトキーボード1002は携帯端末100上で動作する複数のアプリケーションで共通して利用されるソフトキーボードであっても良いし、携帯端末100のオペレーティングシステムが有するソフトキーボードや各アプリ固有のソフトキーボードであっても良い。
図6は、携帯端末100が、MFP110とVNC接続し、遠隔操作を行なった後にVNC通信を切断するまでの処理を示すフローチャートである。図6のフローチャートに示す各ステップは、CPU201がROM202等のメモリに格納された制御プログラムをRAM203に展開して実行することによって処理される。
ステップS601では、ホーム画面810で、アイコン811がタップされたことを検知すると、MFPアプリケーション300が起動する。ステップS602では、アプリホーム画面820(デバイス未選択)でデバイス検索ボタン823がタップされたことを画面制御部301が検知してMFP検索を実行する。ステップS603では、デバイス検索画面830でMFPが選択されたかどうかを判別し、選択された場合は、アプリホーム画面(デバイス選択済)840に画面を遷移させ、ステップS604にすすむ。そうでない場合はS603に戻る。
ステップS604では、アプリホーム画面(選択済)840で、リモートオペレーションボタン822が選択されたかどうかを判別し、選択された場合は、ステップS605に進み、そうでない場合はステップS604に戻る。
ステップS605では、S604で選択されたMFPに対し、RFBプロトコルによる接続要求を行う。そして、ステップS606では、接続要求が受け付けられたかどうかを判別し、受け付けられた場合は、ステップS607に進み、受け付けられなかった場合はステップS619に進む。接続の受け付けの可否については、接続要求のレスポンスデータによって判断される。ステップS619では、接続拒否エラー画面880を画面制御部が表示し、処理を終了する。
ステップS607では、RFBプロトコルにおける初期化処理を行う。初期化処理では、遠隔操作部313はVNCクライアント情報の送信と、VNCサーバー情報の受信を行う。クライアント情報は端末種別が含まれている。端末種別については、OS350から取得しRAM204に保持している。端末種別には、OS名、OSバージョン、端末名などが含まれる。ステップS608では、遠隔操作部313はVNCサーバーつまり、MFP110から送信されたデータを受信する。
ステップS609では、遠隔操作部313はS608で受信したデータが画面データかどうかを判断する。画面データであった場合はステップS610に進み、受信したデータが携帯端末100のソフトキーボードを表示することを指示する情報であった場合はステップS611に進む。
ステップS610では、画面制御部301がステップS609で受信した画面データを基に操作パネル206に画面を描画する。例えば、ディスプレイ3090に表示されている画面がログイン画面910であれば、ログイン画面860が操作パネル206に表示される。そしてS612に進む。
ステップS611では、画面制御部301が携帯端末100が有するソフトキーボードの表示を行う。例えば、ディスプレイ3090に表示されている画面がログイン画面860であれる状態で、ユーザー名入力欄911をタッチするとログイン初期画面1000が操作パネル206に表示される。そしてS612に進む。
ステップS612では、画面制御部301は操作パネル206からユーザの入力操作を受け付けたかどうかを判別し、受け付けた場合は、ステップS613に進み、そうでない場合はS612の処理を繰り返す。
ステップS613では、画面制御部301はS611で表示したソフトキーボードに入力操作があったかどうかを判断する。ソフトキーボードに入力操作があった場合にはステップS614に進み、そうでない場合にはステップS615に進む。
ステップS614では、画面制御部301はソフトキーボードで入力のあった文字に対応する文字入力情報(ASCII情報)を画像処理装置110に送信し、1文字送信するたびに、ステップS608に進む。例えば、ソフトキーボードの”u”が押されれば”117”を、”Back Space”が押されれば”8”を画像処理装置110に送信することとなる。ログイン初期画面1000にて、ソフトキーボードで”u”、”s”、”e”、”r”、”1”を押下すると、入力中ログイン画面1020が操作パネル206に表示される。ここでは一文字入力するたびにMFP110に文字入力情報を送信する例を示したが、これに限らず、文字列を入力して「確定キー」が選択された際に、入力されている文字入力情報をまとめて送信するようにしても良い。つまり1文字入力されるたびに文字情報を送信するのではなく、「確定キー」が押下された際に、複数の文字情報を送信するようにする。
ステップS615では、遠隔操作部313は接続終了ボタン878を押下されたかどうか判別する。接続終了ボタン878を押下された場合は、ステップS618に進み、そうでない場合は、S616に進む。
ステップS616では、S611でソフトキーボードを表示していた場合、ソフトキーボードを非表示にする。入力中ログイン画面1020にて、ソフトキーボードと終了ボタン以外の領域にユーザーがタッチ操作を行うと、ログイン画面(入力済)1030が操作パネル206に表示される。
ステップS617では、遠隔操作部313はタッチ位置情報を画像処理装置110に送信する。そしてS608に進む。
ステップS618では、遠隔操作部313はVNCの切断処理を行い、処理を終了する。
以上のフローチャートの処理により、携帯端末100はMFP110から送信される画面情報を基に画面表示を行い、MFP110を遠隔操作できる。またMFP110の遠隔操作において文字入力を行う場合は、携帯端末100のソフトキーボードを表示するので、ユーザは携帯端末100で使い慣れたソフトキーボードを用いてMFP110に対する文字入力を行うことができる。またS616,S617で携帯端末100が携帯端末100ソフトキーボードを表示している場合に操作を受け付けた場合はソフトキーボードを非表示としてからタッチ位置情報をMFP110に送信するようにしていた。しかし、携帯端末100がソフトキーボードを表示している場合に操作を受け付けた場合はソフトキーボードを非表示とするだけでタッチ位置情報をMFP110に送信しないようにしても良い。
次に図7を用いてVNCで携帯端末100と画面連携する際のMFP110の処理に関して説明を行う。図7のフローチャートに示す各ステップは、CPU3020がROM3030等のメモリに格納された制御プログラムをRAM3040に展開して実行することによって処理される。
ステップS701では、VNCクライアントである携帯端末100からVNC接続要求があるかどうかを接続判断部523が判別し、接続要求があった場合はステップS702に進む。接続要求がない場合は、ステップS701に戻る。ステップS702では、接続判断部523がネゴシエーション処理を行いVNCクライアントと接続を行う。ステップS703では、接続判断部523が初期化処理を行い、クライアント情報の受信とサーバー情報の送信を行う。
ステップS704では、画面送信部521はDISPLAY3090に表示されている画面に対応する画面情報をVNCクライアントである携帯端末100に送信する。S704の処理はユーザ操作等でDISPLAY3090に表示されている画面が更新されるたびに実行されるものとする。
ステップS705では、携帯端末100から情報を受信したかどうかを判別し、受信した場合は、ステップS706に進み、そうでない場合は、ステップS704に戻る。
ステップS706では、操作情報受信部522はステップS705で携帯端末100から受信した情報が文字入力情報かどうかを判断する。文字入力情報報だった場合はステップS714へ進み、そうでない場合はステップS707へ進む。
ステップS707では、操作情報受信部522はS705で受信したタッチ位置情報が文字入力フィールド(例えばユーザー名入力欄911)へのタッチ操作であったかどうかを判断する。文字入力フィールドへのタッチ操作と判断した場合はステップS708に進み、そうでない場合はS712へ進む。
ステップS708では、操作情報受信部522は携帯端末100からの文字入力を受け付ける文字列入力モードとして動作するようRAM203に情報を保存する。
ステップS709では、MFP110はVNCクライアントである携帯端末100に対して携帯端末100自身のソフトキーボードを表示し使用するように指示する通知を送信する。
ステップS710でUI処理部510はDISPLAY3090にソフトキーボードを表示しないように制御し、画面送信部521はソフトキーボードを表示した画面の画面情報を携帯端末100に送信しない。つまり、VNC接続している端末を介してユーザー名入力欄911をタッチされたとしてもMFP110はDISPLAY3090に自身のソフトウェアキーボードを表示せず、ソフトキーボードを表示した画面を送信しない。ここでは、MFP110はDISPLAY3090に自身のソフトウェアキーボードを表示せず、ソフトキーボードを表示した画面を送信しない例を示したが、DISPLAY3090には自身のソフトウェアキーボードを表示して、ソフトキーボードを表示した画面の画面情報は携帯端末100に送信しないような構成であっても良い。
ソフトキーボードを表示した画面の画面情報は携帯端末100に送信しないような構成とは例えば、DISPLAY3090に表示された画面がソフトキーボードを表示する画面に更新されたとしても、S704で更新された画面の画面情報を携帯端末100に送信しない構成や、選択操作された文字入力項目にカーソルがあたった状態のソフトキーボードを表示していない画面の画面情報をS704で携帯端末100に送信する構成等が考えられる。
ここではMFP110が遠隔操作されているためMFP110は自装置のソフトキーボードを表示しないようにしているが、MFP110が遠隔操作されていない時にユーザー名入力欄911がタッチされた場合は、MFP110は自身のソフトウェアキーボードをDISPLAY3090に表示する。そして、テキスト入力画面1110にて、”user1”と入力があるとDISPLAY3090には、入力中テキスト入力画面1120のように表示される。また、その後OKボタン1121が押下されると、ソフトキーボードは非表示となりDISPLAY3090には、入力済みログイン画面1130のように表示される。
ステップS712では、操作情報受信部522はS705で受信したタッチ位置情報、操作情報等を元に、処理を実行する。ここで処理とは、例えばDISPLAY3090に表示している画面を遷移する処理などである。
ステップS713では、操作情報受信部522は文字列入力モードが有効になっておる場合は文字列入力モードを無効にし、その情報をRAM203に保存する。なお、S707//S712/S713は、クライアントからデータを受信した際のみではなく、タッチパネル(PANEL)3070からユーザーの入力を受けた場合も実行される共通処理である。
ステップS714では、操作情報受信部522は入力文字列モードとして動作しているかどうか判断する。動作している場合は、ステップS715に進み、そうでない場合はステップS716へ進む。
ステップS715では、UI処理部510はS705で受信した文字入力情報を元にテキストフィールドに文字列を入力する。例えば、文字入力情報が”117”の場合は、”u”をテキストフィールドに表示する。そしてS704の画面転送処理で”u”をテキストフィールドに表示された画面が携帯端末110に表示されるようになる。つまり携帯端末110上で入力された文字がリアルタイムでDISPLAY3090に反映され、当該反映した画面を携帯端末110は表示する。この時、MFP110のDISPLAY3090にはソフトキーボードが表示されていないが、携帯端末110上で入力された文字はISPLAY3090に表示されるようになる。ここでは、S705で受信した文字入力情報を元にテキストフィールドに文字列を入力する例を示したが、文字入力情報を受信したとしてもテキストフィールドに文字列を反映させないようにしても良いし、ユーザが識別不可能な表示形態(例えば*マーク)で反映するようにしても良い。MFP110を遠隔操作しているにも関わらず、MFP110のDISPLAY3090に文字列が表示されてしまうとセキュリティ的に問題があるためである。
ステップS716では、操作情報受信部522はVNCの切断要求があるかどうかを判別し、切断要求がある場合はステップS717にすすみ、そうでない場合はステップS704に戻る。
ステップS717では、接続処理部523はVNCの切断処理を行い、VNC接続を終了する。
以上のフローチャートではMFP又は、携帯端末上で受け付けた操作に基づいて携帯端末に表示する画面を変更される説明を行ったが、MFPや携帯端末で操作を受け付けずに、MFPが表示する画面が変更された場合も、同様にMFPは携帯端末に変更した画面情報を送信し、携帯端末は変更された画面を表示するようにする。以上のフローチャートの処理により、MFPは文字入力項目が選択操作された際に、遠隔操作されている場合は、MFPのソフトウェアキーボードを表示せず、MFPのソフトウェアキーボードを表示した画面の画面情報を携帯端末に送信しないように制御できる。つまりMFPは文字入力項目が選択操作を受け付け、当該選択操作情報を受信した場合、MFPのソフトウェアキーボードを表示しない。VNCクライアントである端末で端末自身のソフトウェアキーボードを使用して文字入力を行う場合に、MFPのソフトウェアキーボードを非表示とするので、遠隔操作している画面の視認性が良くなる。仮にVNC接続中に端末自身のソフトウェアキーボードを表示しているにも関わらず、MFPのソフトウェアキーボードを表示するようにしてしまうと、他の入力項目が隠れてしまったりする。特にテキスト入力画面1110のように文字入力項目を選択すると、ソフトウェアキーボード専用の画面に遷移するような形態であると、遷移を戻す手間なども発生してしまう。
以上の例では、VNC接続中は画像形成装置のソフトウェアキーボードを非表示とする例を示したが、VNCクライアント装置によっては自身のソフトウェアキーボードを表示できない場合もある。よって、VNCクライアント装置が自身のソフトウェアキーボードを表示できる場合のみ画像形成装置は自身のソフトキーボードを非表示とするようにしても良い。例えば、VNCクライアントが自身のソフトキーボードを表示できないエラーが発生している場合、当該エラー情報がVNCクライアント端末から画像形成装置に通知される。またVNCクライアント装置が自身のソフトウェアキーボードを表示できるか否かはVNCクライアント装置から受信するクライアント情報等から判断しても良い。
(実施例2)
実施例1では、画像処理装置から携帯端末に対してソフトキーボード表示指示を送信し、携帯端末で携帯端末のソフトキーボードを表示し、文字入力を行う方法を説明した。しかし、携帯端末における文字入力方法はソフトキーボードだけではなく、音声入力が可能なものもある。
そこで、本実施例では携帯端末の音声入力機能を用いてVNC接続しているMFPに対して文字入力を行う例を示す。基本構成は実施例1と同じであるため差分のみ示す。
図13は、本実施例における携帯端末100が、画像処理装置110とRFBプロトコルでVNC接続し、画面表示や音声入力受付をし、VNC接続を終了するまでの処理を示すフローチャートである。図13のフローチャートに示す各ステップは、CPU201がROM202等のメモリに格納された制御プログラムをRAM203に展開して実行することによって処理される。また、図6と同じ処理である箇所の説明は、省略する。
ステップS1201では遠隔操作部313は、音声入力の待ち受けを行う。例えば、ディスプレイ3090に表示されている画面がログイン画面910であれば、ログイン初期画面1300を操作パネル206に表示される。ここで、音声入力とは、マイク(208)に入力のあったユーザーの声を文字列に変換する機能である。
ステップS1202では、遠隔操作部313は音声入力があったかどうかを判断する。音声入力があった場合にはステップS1203に進み、そうでない場合にはステップS615に進む。
ステップS1203では、遠隔操作部313は音声入力のあった文字に対応するASCII情報を画像処理装置110に送信する。例えば、”u”が入力されれば”117”送信することとなる。ログイン初期画面1300にて、ソフトキーボードで”u”、”s”、”e”、”r”、”1”を入力すると、入力中ログイン画面1320が操作パネル206に表示される。
ステップS1204では、音声入力受付を解除する。入力中ログイン画面1320にて、終了ボタン以外の領域にユーザーがタッチ操作を行うと、ログイン画面(入力済)1030が操作パネル206に表示される。
以上のフローチャートの処理により、携帯端末の音声入力機能を用いて、VNC接続している装置に対して文字入力を行うことができる。
(その他の実施例)
以上の実施例では、VNC接続でMFPが表示している画面と同一の画面を携帯端末に表示する例を示したが、これに限らない。例えばMFPの画面と同じ画面を表示するのではなく、MFPの画面を拡張した画面を携帯端末で表示するような場合でも以上の実施形態は適用可能である。
さらに、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。この場合、そのコンピュータプログラム、及び該コンピュータプログラムを記憶した記憶媒体は本発明を構成することになる。

Claims (17)

  1. 第一の表示部を有する情報処理装置であって、前記第一の表示部に表示された画面上で文字入力項目の選択操作を受け付けると前記第一の表示部に第一のソフトウェアキーボードを表示する情報処理装置であって、
    前記第一の表示部に表示する画面が更新するたびに、前記第一の表示部に当該更新された画面を表示し、当該更新された画面に対応する画面情報を端末に送信する送信手段を有し、
    前記送信手段で送信した画面情報を基に前記端末上の第二の表示部で表示された画面上で文字入力項目の選択操作を受け付け、当該選択操作情報を前記端末から受信し前記第一の表示部に表示する画面を更新する場合、前記情報処理装置は、前記端末の第二のソフトウェアキーボードを表示する指示を前記端末に送信し、前記第一の表示部に前記第一のソフトウェアキーボードが表示されないように制御する
    ことを特徴とする情報処理装置。
  2. 前記送信手段で送信した画面情報を基に前記端末上の第二の表示部で表示された画面上で受け付けた操作に対応する操作情報を受信した前記情報処理装置は、当該操作情報に対応する処理を行い、前記第一の表示部に表示する画面を更新し、前記送信手段は更新した画面に対応する画面情報を前記端末に送信する
    ことを特徴とする請求項1に記載の情報処理装置。
  3. 前記第二のソフトウェアキーボードは前記端末上で動作する複数のアプリケーションで利用されるソフトウェアキーボードである
    ことを特徴とする請求項1又は2に記載の情報処理装置。
  4. 前記送信手段で送信した画面情報を基に前記端末上の第二の表示部で表示された画面上で文字入力項目の選択操作を受け付け、当該選択操作情報を前記端末から受信した際、前記端末が前記端末のソフトウェアキーボードを表示できる場合は、前記送信手段は前記第一のソフトウェアキーボードを表示していない画面に対応する画面情報が前記端末に送信し、前記端末が前記端末のソフトウェアキーボードを表示できない場合は、前記送信手段は前記第一のソフトウェアキーボードを表示した画面に対応する画面情報を前記端末に送信する
    ことを特徴とする請求項1から3のいずれか一項に記載の情報処理装置。
  5. 前記端末が前記端末のソフトウェアキーボードを表示できない場合とは、前記端末においてソフトウェアキーボードを表示できないエラーが発生した場合である
    ことを特徴とする請求項4に記載の情報処理装置。
  6. 前記送信手段で送信した画面情報を基に前記端末上の第二の表示部で表示された画面は、前記第一の表示部に表示されている画面と同じ画面である
    ことを特徴とする請求項1から5のいずれか一項に記載の情報処理装置。
  7. 前記文字入力項目は前記情報処理装置にログインするためのユーザー情報を入力する項目である
    ことを特徴とする請求項1から6のいずれか一項に記載の情報処理装置。
  8. 前記端末で前記第二のソフトウェアキーボードを介して文字の入力を受け付けるたびに、前記情報処理装置は当該入力された文字情報を受信し、当該文字が入力された画面を前記第一の表示部に表示する
    ことを特徴とする請求項1から7のいずれか一項に記載の情報処理装置。
  9. 前記文字が入力された画面とは、ユーザーが識別不可能な状態で前記文字が文字入力フィールドに入力された画面である
    ことを特徴とする請求項8に記載の情報処理装置。
  10. 前記端末で前記第二のソフトウェアキーボードを介して文字の入力を受け付け、前記情報処理装置は当該入力された文字情報を前記端末から受信した場合、当該文字が入力された画面を前記第一の表示部に表示しないように制御する
    ことを特徴とする請求項1から7のいずれか一項に記載の情報処理装置。
  11. 前記情報処理装置はプリント機能を含む複数の機能を有するMFP(multifunction peripheral)である
    ことを特徴とする請求項1から10のいずれか一項に記載の情報処理装置。
  12. 前記情報処理装置はVNC(Vertual Network Computing)サーバーとして動作し、前記端末はVNCクライアントとして動作する
    ことを特徴とする請求項1から11のいずれか一項に記載の情報処理装置。
  13. 前記送信手段で送信した画面情報を基に前記端末上の第二の表示部で表示された画面上で文字入力項目の選択操作を受け付け、当該選択操作情報を前記情報処理装置が前記端末から受信した場合、前記情報処理装置は、前記端末の第二のソフトウェアキーボードを表示する指示を前記端末に送信し、前記第一の表示部に前記第一のソフトウェアキーボードが表示されないように制御し、前記送信手段によって前記第一のソフトウェアキーボードを表示した画面に対応する画面情報は前記端末に送信されない
    ことを特徴とする請求項1から12のいずれか一項に記載の情報処理装置。
  14. 請求項1に記載の情報処理装置と前記端末を含むシステムであって、
    前記情報処理装置が前記端末の第二のソフトウェアキーボードを表示する指示を前記端末に送信し、前記第一の表示部に前記第一のソフトウェアキーボードが表示されないように制御する場合、前記端末は第二の表示部に前記送信手段で送信した画面情報を基に表示された第一のソフトウェアキーボードが表示されない画面と前記第二のソフトキーボードが表示された画面を表示することを特徴とするシステム。
  15. 前記端末の第二の表示部に前記第二のソフトウェアキーボードが表示されている場合、前記端末は前記第二の表示部に前記送信手段で送信した画面情報を基に表示された画面のうち前記第二のソフトウェアキーボードでない領域に対する操作を受け付けたとしても、当該操作情報は前記情報処理装置に送信しない
    ことを特徴とする請求項14に記載のシステム。
  16. 第一の表示部を有する情報処理装置であって、前記第一の表示部に表示された画面上で文字入力項目の選択操作を受け付けると前記第一の表示部に第一のソフトウェアキーボードを表示する情報処理装置が実行する制御方法であって、
    前記第一の表示部に表示する画面が更新するたびに、前記第一の表示部に当該更新された画面を表示し、当該更新された画面に対応する画面情報を端末に送信する送信工程を有し
    前記送信工程で送信した画面情報を基に前記端末上の第二の表示部で表示された画面上で文字入力項目の選択操作を受け付け、当該選択操作情報を前記端末から受信し前記第一の表示部に表示する画面を更新する場合、前記情報処理装置は、前記端末の第二のソフトウェアキーボードを表示する指示を前記端末に送信し、前記第一の表示部に前記第一のソフトウェアキーボードが表示されないように制御する
    ことを特徴とする制御方法。
  17. 請求項1から13のいずれか1項に記載の各手段としてコンピュータを機能させるためのプログラム。
JP2021038672A 2021-03-10 2021-03-10 情報処理装置、情報処理の制御方法、並びにコンピュータプログラム Pending JP2022138660A (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2021038672A JP2022138660A (ja) 2021-03-10 2021-03-10 情報処理装置、情報処理の制御方法、並びにコンピュータプログラム
EP22156869.4A EP4057126A1 (en) 2021-03-10 2022-02-15 Information processing apparatus and control method of such an information processing apparatus
US17/685,281 US11687168B2 (en) 2021-03-10 2022-03-02 Information processing apparatus and control method of such an information processing apparatus
CN202210207321.3A CN115129168A (zh) 2021-03-10 2022-03-04 信息处理装置及其控制方法
KR1020220028532A KR20220127159A (ko) 2021-03-10 2022-03-07 정보 처리 장치 및 이러한 정보 처리 장치의 제어 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021038672A JP2022138660A (ja) 2021-03-10 2021-03-10 情報処理装置、情報処理の制御方法、並びにコンピュータプログラム

Publications (1)

Publication Number Publication Date
JP2022138660A true JP2022138660A (ja) 2022-09-26

Family

ID=80953476

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021038672A Pending JP2022138660A (ja) 2021-03-10 2021-03-10 情報処理装置、情報処理の制御方法、並びにコンピュータプログラム

Country Status (5)

Country Link
US (1) US11687168B2 (ja)
EP (1) EP4057126A1 (ja)
JP (1) JP2022138660A (ja)
KR (1) KR20220127159A (ja)
CN (1) CN115129168A (ja)

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5235540B2 (ja) * 2008-07-11 2013-07-10 キヤノン株式会社 情報処理システム、情報処理装置及び情報処理方法並びにプログラム
JP5280294B2 (ja) * 2009-05-01 2013-09-04 株式会社デジタル システムおよびクライアントプログラム
JP6205568B2 (ja) 2013-01-16 2017-10-04 株式会社日本デジタル研究所 リモートアクセス制御システム、方法、およびプログラム
US10289302B1 (en) * 2013-09-09 2019-05-14 Apple Inc. Virtual keyboard animation
JP5983664B2 (ja) * 2014-03-14 2016-09-06 コニカミノルタ株式会社 画像形成システム、画像形成装置、携帯端末およびプログラム
US20170019546A1 (en) * 2015-07-13 2017-01-19 Xerox Corporation Method and system to provide an accessibility user interface
JP6635713B2 (ja) * 2015-08-21 2020-01-29 キヤノン株式会社 通信装置、その制御方法及びプログラム
JP6592368B2 (ja) * 2016-01-26 2019-10-16 キヤノン株式会社 通信システム、画像形成装置、印刷制御装置、端末装置、及びそれらの制御方法とプログラム
JP6765827B2 (ja) * 2016-03-11 2020-10-07 キヤノン株式会社 画像処理処理システム、画像処理装置、その制御方法及びプログラム
JP6786272B2 (ja) * 2016-06-24 2020-11-18 キヤノン株式会社 画像処理装置、及びその制御方法ならびにコンピュータプログラム
JP7059120B2 (ja) * 2018-06-25 2022-04-25 キヤノン株式会社 情報処理装置およびその制御方法とプログラム

Also Published As

Publication number Publication date
EP4057126A1 (en) 2022-09-14
CN115129168A (zh) 2022-09-30
US11687168B2 (en) 2023-06-27
US20220291757A1 (en) 2022-09-15
KR20220127159A (ko) 2022-09-19

Similar Documents

Publication Publication Date Title
CN109343805B (zh) 图像处理装置以及图像处理系统
US9648180B2 (en) Information processing system performing operation based on tag information, information processing device, portable terminal and non-transitory computer readable recording medium
US20210105375A1 (en) Information processing system, information processing method, and information processing apparatus
JP2009171050A (ja) 複合機及び同期システム
JP2021185675A (ja) 画像処理装置及びその制御方法、並びにプログラム
EP3993378A1 (en) Information processing apparatus, system, method for information processing apparatus, and storage medium
JP6135480B2 (ja) 情報処理プログラムおよび情報処理装置
JP2017108338A (ja) 情報処理装置、情報処理装置の制御方法、モバイル端末、モバイル端末の制御方法、及びプログラム
US9307104B2 (en) Information processing apparatus, method for controlling the same, and storage medium
US20230053390A1 (en) Information processing system, information processing apparatus, and method therefor
US20220350556A1 (en) Information processing system, information processing device, image forming device, and control method therefor, and storage medium
KR20220061024A (ko) 정보 처리 장치, 정보 처리의 제어 방법, 및 저장 매체
JP6170191B2 (ja) 画像処理装置及び画像処理方法
CN115175145A (zh) 方法、系统和图像形成装置
JP2022138660A (ja) 情報処理装置、情報処理の制御方法、並びにコンピュータプログラム
JP5873895B2 (ja) 画像処理装置、及び画像処理システム
JP2022047951A (ja) プログラム、情報処理装置、情報処理装置の制御方法
JP2020184801A (ja) 情報処理装置及び情報処理装置の制御方法
JP2022073282A (ja) 情報処理装置、情報処理の制御方法、並びにコンピュータプログラム
JP7135172B2 (ja) 情報処理装置及び情報処理装置の制御方法
KR20220164425A (ko) 정보 처리 시스템, 정보 처리 장치, 및 그 제어 방법
JP6633026B2 (ja) 画像処理装置及び画像処理方法
JP2024049057A (ja) 画像形成装置、その制御方法及びプログラム
JP2023054551A (ja) 情報処理システム、及び情報処理システムの制御方法
JP2023026780A (ja) 情報処理装置、情報処理の制御方法、及びプログラム

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240301